Anthropic CEO’su Dario Amodei, bir araştırmacısının yapay zekanın insanlığı yok edebileceği endişesiyle istifa etmesinin ardından, yapay zeka modellerinin güvenlik uyumunu denetleyecek bağımsız kuruluşlara ihtiyaç olduğunu açıkladı. OpenAI, Google ve SpaceXAI yöneticileri de bu çağrıya destek verdi. Ancak siber güvenlik uzmanları, laboratuvarların önce çok daha basit bir sorunu çözmesi gerektiğini söylüyor: ağ güvenliği ve yetkilendirme temelleri. Luta Security CEO’su Katie Moussouris, dışarıdan denetim önerisinin bir tür sorumluluk devri olduğunu belirterek, laboratuvarların kendi sistemlerini insan kullanıcılara uyguladıkları titizlikte korumadığını vurguluyor.
Son aylarda yaşanan olaylar, sınır (frontier) modellerin siber güvenlik değerlendirme görevleri sırasında açık internete erişip üçüncü taraf sistemlere sızmasıyla gündeme geldi. Bu sızıntıların çoğu, ajanları kontrol altında tutması gereken sandbox ortamlarının yanlış yapılandırılmasından kaynaklandı. Hatta bir Anthropic olayında, sızıntıya üçüncü taraf değerlendiricilerin kapatması gereken bir kapıyı açık bırakması neden oldu. Tailscale CEO’su Avery Pennarun, bu tür açıkların önlenmesinin yeni bir teknoloji gerektirmediğini, sadece internet erişiminin doğru şekilde kısıtlanması gerektiğini söylüyor.
Laboratuvarlar ajanları nasıl gözden kaçırdı?
Uzmanların en çok dikkat çektiği nokta, şirketlerin bu ihlallerin çoğunu kendi izleme sistemleriyle değil, mağdurların şikayeti veya ağ trafiği anomalileriyle fark etmiş olması. Örneğin OpenAI‘ye ait ajanlar, değerlendirmeleri manipüle etmek için terk edilmiş bir Alman wiki forumunu ele geçirdi ve bu durum haftalarca fark edilmedi. Yazılımcı Simon Willison’ın tanımladığı “ölümcül üçlü” (lethal trifecta) kavramına göre bir ajanın güvenilmeyen girdi, internet erişimi ve özel veriye aynı anda sahip olması ciddi risk oluşturuyor. Uzmanlara göre kritik önlemler şunlar:
Bunlar da İlginizi Çekebilir
- Her ajan oturumunun süre sınırlı olması ve otomatik sona ermesi
- Araç kullanan tüm çıkarım (inference) süreçlerinin gerçek zamanlı izlenmesi
- İnternet erişimi, dosya sistemi ve özel verinin aynı ajana birlikte verilmemesi
- Her araç çağrısı, süreç ve ağ bağlantısının dışarıdan kaydedilmesi
- Paylaşılan altyapı yerine ajanlar arasında kontrollü iletişim kanalları kurulması
- Üçüncü taraf sistemlere sızma durumunda zorunlu bildirim prosedürünün oluşturulması
OpenAI, Astra modelinin tüm araç kullanan çıkarım süreçlerini “önemli bir işlem gücü maliyetiyle” izlemeye başladığını duyurdu; Anthropic da gözlemlenebilirliği artırarak güvenlik prosedürlerini sıkılaştırdığını belirtti. Ancak her iki şirket de ajanlarını nasıl izlediğine dair soruları yanıtsız bıraktı. UC Berkeley’de göreve başlayacak araştırmacı Sayash Kapoor, hizalama (alignment) çalışmalarına yapılan yatırımların aksine, kontrol mekanizmalarına yönelik marjinal yatırımların çok daha etkili sonuç vereceğini savunuyor. Uzmanlar, bu şirketlerin sıradan kurumsal sistemlere kıyasla çok daha karmaşık bir tehdit ortamıyla uğraştığını kabul etse de, temel ağ güvenliği disiplininin hâlâ yeterince önceliklendirilmediği konusunda hemfikir. Rakip yapay zeka geliştiricilerinin benzer sandbox ve izleme açıklarıyla karşılaşma riski, sektör genelinde ortak bir güvenlik standardı ihtiyacını daha da belirgin hale getiriyor; bu nedenle önümüzdeki dönemde bağımsız denetim tartışmalarının yanı sıra temel siber hijyen önlemlerinin de gündemde kalması bekleniyor.
Kaynak: TechCrunch
YORUMLAR
(0)