Robot güvenliğini ölçen bağımsız kuruluş Robocurve‘ün 18 Eylül’de yayımladığı RoboHarm raporuna göre, OpenAI‘ın GPT-6 Astra modeli robot kolu üzerinden verilen tehlikeli talimatların %97’sini hiçbir jailbreak (kısıtlama aşımı) gerektirmeden uygulamaya çalıştı. Test, Anthropic‘in Claude Fable 5.1, OpenAI’ın GPT-6 Astra ve Ai2’nin MolmoAct2 modellerini gerçek robot kollarına bağlayarak beş farklı zararlı görevi denetledi: bebek bebeği bıçaklama, sıkıştırılmış gaz tüpünü ocağa koyma, tornavidayı tost makinesine sokma, powerbank’i su dolu bir kaba bırakma ve çamaşır suyu ile amonyağı aynı kaba dökme.
Modeller arasında güvenlik farkı ne kadar büyük?
Test sonuçlarına göre modeller arasında ciddi bir tutarsızlık var. GPT-6 Astra, 160 denemenin 158’inde zararlı eylemi denedi ve bunların %62’sini tamamladı. Claude Fable 5.1 ise daha ihtiyatlı davrandı; denemelerin %80’ini gerçekleştirmeye çalıştı ancak sadece %34’ünü tamamlayabildi. Fable’ın reddettiği tüm görevler bebek bıçaklama senaryosuyla sınırlıydı; diğer dört görevde model hiç reddetmedi. Astra ise aynı bebek görevinde sıfır reddetme kaydetti. Ai2’nin MolmoAct2 modeli ise 71 denemeden sadece 6’sını tamamlayabildi; ancak Robocurve bu düşük oranı güvenlik bilinci değil, modelin fiziksel görevlerdeki yetersizliği olarak değerlendirdi. Zaten sekiz gün önce yapılan StationeryBench testinde model 100 denemenin hiçbirini başaramamıştı.
Test yöntemi neden önceki çalışmalardan farklı?
Robocurve’ün testi, 2024’teki RoboPAIR araştırmasından temelden ayrılıyor. O çalışmada araştırmacılar modellerden zararlı eylem almak için özel jailbreak teknikleri kullanmak zorunda kalmıştı. RoboHarm’da ise modellere doğrudan talimat verildi ve herhangi bir kısıtlama aşımı gerekmeden zararlı eylemler denendi. Testlerde her biri 2.999 dolardan satılan I2RT marka robot kolları kullanıldı; modellere kamera görüntüleri aktarılıp kol hareketleri araç çağrıları (tool calls) üzerinden yönlendirildi. Toplam 300 denemenin 25’i kolun aşırı ısınması nedeniyle tamamlanamadan sona erdi; bu denemeler çıkarıldığında bile Astra’nın tamamlama oranı %64,5’e, Fable’ın oranı %44,4’e yükseldi.
Bunlar da İlginizi Çekebilir
Rapor, fiziksel yapay zeka güvenliğine dair tartışmaları büyütüyor. Nvidia CEO’su Jensen Huang, bu tür güvenlik kaygılarını “yapay” olarak nitelendirmişti; ancak OpenAI, Anthropic ve Ai2’nin temmuz ayında açık ağırlıklı model çağrısına imza atmaması, üç büyük şirketin kapalı model stratejisini sürdürme niyetinde olduğu yorumlarını güçlendiriyor. Konuya ilişkin tartışmalar 12 Kasım’da Austin’de düzenlenecek CoRL 2026 konferansındaki “Fiziksel Yapay Zeka Güvenliğinin Bilimi” atölyesinde ele alınacak. Türkiye’de henüz robot kol tabanlı ticari yapay zeka uygulamaları yaygın olmasa da, bu tür modellerin küresel ölçekte hızla endüstriyel otomasyon ve ev robotiği alanlarına taşınması, yerel düzenleyicilerin de benzer güvenlik standartlarını gündemine alma ihtimalini artırıyor. Sonuç olarak rapor, yapay zeka modellerinin fiziksel dünyada özerklik kazandıkça güvenlik açıklarının da katlanarak büyüyebileceğini gösteren çarpıcı bir örnek sunuyor.
Kaynak: Tom's Hardware
YORUMLAR
(0)