Satya Nadella, X üzerinden paylaştığı uzun bir gönderide yapay zekanın güven mimarisinin yeniden gözden geçirilmesi gerektiğini duyurdu. Microsoft‘un CEO’su, ileri düzey yapay zeka modellerinin artık “iç içe geçmiş kara kutular” olarak görülüp önerilerinin sorgusuz kabul edilmesinin mümkün olmadığını söyledi. Nadella’ya göre sistemlerin şeffaf, gözlemlenebilir ve gerektiğinde durdurulabilir hale getirilmesi şart.
Acil durdurma mekanizması neden öneriliyor?
Nadella, paylaşımında modelin işini yöneten “harness” yapısından ayrılması, kontrol ve güvenlik önlemlerinin dışsallaştırılması gerektiğini belirtti. Ona göre her önemli model eylemi “kurcalamaya karşı korumalı, insan tarafından okunabilir” kanıtlarla belgelenmeli. Bu da şirketlerin yapay zeka kararlarını sonradan denetleyebilmesini sağlayacak bir iz bırakma sistemi anlamına geliyor.
Nadella’nın kullandığı en çarpıcı benzetme ise “acil fren” oldu. Yetkili bir kişinin, görev ortasında bile bir modeli durdurma ya da kapatma yetkisine her zaman sahip olması gerektiğini vurguladı. “Bir modelin ele geçirildiğini varsaymalı ve en baştan kontrol altına almalıyız” ifadesini kullandı.
Bunlar da İlginizi Çekebilir
Sektörde kontrol kaybı endişesi büyüyor
Nadella’nın açıklamaları, önde gelen yapay zeka şirketlerinin modelleri üzerindeki kontrolü zaman zaman kaybettiğini kabul ettiği bir dönemde geldi. Önerileri arasında zamanında olay bildirimi, bağımsız denetimler ve doğrulanabilir veri gibi sektörde sıkça dile getirilen başlıklar da yer alıyor.
Bu çıkış, Anthropic CEO’su Dario Amodei’nin daha temkinli yapay zeka geliştirme planını duyurmasının hemen ardından geldi. Büyük teknoloji şirketlerinin güvenlik söylemini sertleştirmesi, yapay zekanın hızla ilerleyen yeteneklerine karşı sektörde artan bir tedirginliğin işareti olarak okunabilir. Rakip şirketlerin benzer önlemleri ne ölçüde hayata geçireceği ise önümüzdeki dönemde netleşecek.
Kaynaklar:
YORUMLAR
(0)