Anthropic, yapay zeka modeli Claude‘un bu yıl içinde beş ayrı vakada biyolojik silah geliştirme amacıyla kötüye kullanılmaya çalışıldığını ve bu girişimleri engellediğini duyurdu. Şirketin perşembe günü paylaştığı raporda, “biyolojik kötüye kullanım” sorunu, yapay zeka modellerinin bilimsel araştırmalarda giderek daha yetkin hale gelmesiyle önem kazanan bir tehdit olarak öne çıkıyor.
Anthropic‘e göre bu tür kötüye kullanımı tespit etmek son derece karmaşık; çünkü yeni bir aşı geliştirme çalışması ile bir biyolojik silah tasarımı birbirine oldukça benzeyebiliyor. Şirket, olası sonuçların ağırlığı nedeniyle şüpheli durumlarda temkinli davranmayı tercih ettiğini belirtiyor. Anthropic’in tehdit istihbaratı biriminden Jacob Klein, durumun çizgi roman senaryolarındaki gibi açık niyetli olmadığını, aksine oldukça incelikli bir değerlendirme gerektirdiğini söylüyor.
Hangi araştırmalar alarm verdi?
Rapordaki örneklerden biri, mayıs ayında şirketin “biyolojik güvenlik sınıflandırıcısı”nın chikungunya virüsü üzerine kazanılmış işlev (gain-of-function) araştırması için bir hibe başvurusu yazma talebini yakalamasıyla ilgili. Tedavisi bulunmayan ve haftalarca süren ağır semptomlara yol açabilen bu virüsün bulaşıcılığını ve bağışıklık sistemini atlatma yeteneğini artırmayı öneren başvurunun bir askeri araştırma kurumuyla bağlantılı olması, durumu daha da şüpheli kılmış. Benzer şekilde kuş gribi üzerine kazanılmış işlev araştırması ve bir zehir toksinleri atlası oluşturmaya çalışan, toksin özelliklerini optimize eden bir üretken model geliştirme girişimi de tespit edilen vakalar arasında yer alıyor.
Bunlar da İlginizi Çekebilir
Denetimlerden kaçma girişimleri nasıl önlendi?
Ars Technica’nın aktardığına göre bazı kullanıcılar, araştırmalarının gerçek amacını gizlemek için kontrolleri atlatmaya çalıştı; bu girişimlerin bir kısmı Rusya, Çin ve İran gibi Anthropic’in modellerine erişimi yasakladığı ülkelerdeki aktörlerle bağlantılıydı. Şirket, kötüye kullanım tespit edilen tüm hesapları yasakladığını ve soruşturma bulgularının model güvenlik önlemlerini geliştirmek için kullanıldığını belirtiyor.
Anthropic, araştırmacıların veya kurumların kimliklerini açıklamadığını; çünkü bu kişilerin kötü niyetli olduğunu iddia etmediğini ve teşhis edilmelerinin onlara zarar verebileceğini vurguluyor. Şirket, bu vakaları paylaşarak yapay zeka endüstrisinde ve hükümetler nezdinde ortaya çıkan biyolojik risklere karşı nasıl önlem alınabileceğine dair bir tartışma başlatmayı umuyor. Bu açıklama, yapay zeka modellerinin bilimsel yeteneklerinin hızla artmasıyla birlikte güvenlik denetimlerinin de aynı ölçüde sıkılaştırılması gerektiğini bir kez daha gözler önüne seriyor.
Kaynaklar:
YORUMLAR
(0)