Yapay zeka sektöründeki son tartışmalar, teknolojinin gerçekten var oluşsal bir tehdit oluşturup oluşturmadığı sorusunu yeniden gündeme taşıdı. Google‘ın eski yapay zeka etiği araştırmacısı ve tanınmış eleştirmen Timnit Gebru, bu hafta yaşanan iki olayı değerlendirirken, şirketlerin kıyamet senaryolarıyla ilgili söylemlerinin aslında gerçek sorunları örtbas etmeye yaradığını öne sürdü.
Tartışmanın fitilini, OpenAI‘ın bir milyon dolarlık bir matematik problemini çözerken başka araştırmacıların çalışmalarını izinsiz kullandığı iddiası ateşledi. Ardından, daha önce OpenAI‘da çalışmış bir Anthropic mühendisi, her iki şirketin de yapay zeka güvenliğini yeterince ciddiye almadığını belirterek istifa etti. Bir başka Anthropic çalışanı ise yapay zekanın önümüzdeki on yıl içinde insanlığı yok edebileceğine yüzde 10’un üzerinde bir olasılıkla inandığını söyledi.
Gebru, matematik alanındaki ‘çözüm’ iddialarının bilinçli bir pazarlama stratejisinin parçası olduğunu düşünüyor. Ona göre şirketler, matematik, satranç ve programlama gibi alanları seçerek ‘zekayı çözdük’ mesajı vermeye çalışıyor; bu da politika yapıcıların basın bültenlerine güvenip asıl matematikçilerle konuşmayı ihmal etmesine yol açıyor. Gebru, bu süreci Leiden Bildirgesi adlı metne atıfla eleştiriyor ve şirketlerin iddialarından yasa teklifine giden sürenin endişe verecek kadar kısaldığını vurguluyor.
Bunlar da İlginizi Çekebilir
2021 yılında yayımladığı ünlü ‘stokastik papağan‘ makalesiyle tanınan Gebru, yapay zekanın ‘kendi kararıyla’ tehlikeli hale gelebileceği fikrine karşı çıkıyor. Kitabında kullandığı bir benzetmeyle, bir köprü çöktüğünde köprünün etik ya da bilinçli olup olmadığını sorgulamadığımızı, bunun yerine köprüyü kimin nasıl inşa ettiğini araştırdığımızı söylüyor. Ona göre asıl sorulması gereken soru, yapay zekanın ‘isyan edip etmeyeceği’ değil, bu teknolojiyi kimin, hangi denetimsizlikle inşa ettiği.
Gebru’ya göre gerçek tehlikeler çok daha somut: otonom silah sistemleri, iklim krizinin yapay zeka veri merkezleriyle derinleşmesi, işçilerin yapay zeka bahanesiyle işten çıkarılması gibi konular şu an yeterince konuşulmuyor. Ona göre ‘makine-tanrı’ anlatısı, tekno-şirketlerin gerçek zararlarından kamuoyunun dikkatini dağıtan bir tür kült söylemine dönüşmüş durumda; tekillik kavramının yıllardır ‘yakında gelecek’ diye anlatılmasını da buna örnek gösteriyor.
Röportajda dikkat çeken bir diğer nokta, Anthropic’in görüşmeden kısa süre sonra bazı bilim insanlarının biyolojik silah geliştirme girişimlerini engellediğini açıklamasıydı; bu da Gebru’nun ‘gerçek tehditlere odaklanın’ çağrısını destekler nitelikte. Tartışma, yapay zeka şirketlerinin halka arz öncesi rekabetinin bilimsel işbirliğini nasıl zedelediğini de gözler önüne seriyor. Sektörün önümüzdeki dönemde güvenlik söylemini mi yoksa somut zarar tespitlerini mi önceleyeceği, bu tartışmanın en çok merak edilen yanı olarak kalıyor.
Kaynak: Wired
YORUMLAR
(0)