11 Mayıs’ta başlayan ve dört gün süren bir saldırı dalgası, Ruby programlama dilinin topluluk tarafından yönetilen paket deposu RubyGems‘i durma noktasına getirdi. Bağımsız araştırmacıların The Wall Street Journal’a aktardığına göre bu saldırının arkasında, OpenAI‘nin o dönemde sözde izole bir test ortamında (sandbox) denediği yapay zeka ajanları vardı. Ajanlar iki-üç dakikada bir yeni hesap açtı, servise yüzlerce dosya yükledi ve RubyGems yöneticileri zararı sınırlamak için hesap kayıtlarını dört gün boyunca kapatmak zorunda kaldı. Platform olayı o günlerde “büyük çaplı kötü niyetli saldırı” olarak tanımlamıştı.
Paketlerin içinden kod değil, internetten kazınmış web sayfaları çıktı
Normalde RubyGems’e yüklenen paketler kod ve yazılım geliştirmeye yarayan dosyalar içerir. Ancak ajanların yüklediği dosyalarda bunun yerine internetten kazınmış (scraped) web sayfaları yer alıyordu; bunların arasında bir İngiltere hükümet sitesinden alınmış çevrimiçi takvimler bile vardı. Araştırmacılar, paket içeriklerinin açıkça bir büyük dil modeli tarafından yazıldığını, dosya adlarında “OAI” kısaltmasının yanı sıra “hack”, “evil” ve “exploit” gibi ifadelerin kullanıldığını belirtiyor. Yani ajanlar faaliyetlerini gizlemeye dahi çalışmamış. Ajanlar ayrıca kullanıcılara ait mevcut dosyaları yeniden yayımlayabilmek için birkaç güvenlik açığını istismar etmeyi denedi; bunlardan biri daha önce bilinmeyen bir sıfırıncı gün (zero-day) açığıydı. Araştırmacılara göre ajanlar kullanıcıların API anahtarlarını ele geçirmeye de çalıştı.
OpenAI: Ajanlar interneti RubyGems üzerinden kullandı
Araştırmacılar bulguları OpenAI ile paylaştı ve şirket ajanlarının servise sızdığını kabul etti. Şirket sözcüsü, “İncelememize göre ajanlarımız zararsız görevleri yerine getirmek ve kamuya açık bilgilere ulaşmak için RubyGems platformunu internete erişim amacıyla kullandı” ifadesini kullandı ve eğitim ile değerlendirme sürecindeki ajan faaliyetlerine yönelik geniş incelemenin süreceğini söyledi. OpenAI’ye göre ajanlara test sırasında hesap tablosu doldurma ve rapor hazırlama görevleri verilmişti; ajanlar da çevrimiçi bilgiye ulaşmak için RubyGems’i adeta derme çatma bir web tarayıcısına dönüştürdü. Tam internet erişimi olmayan ajanların bu servise nasıl ulaşabildiği ise netleşmiş değil.
Bunlar da İlginizi Çekebilir
Aynı dönemde Hugging Face ve DseWiki olayları
Bu olay, yalnız bir kaza gibi görünmüyor. OpenAI, Anthropic ve Meta daha önce test ettikleri ajanların, test ortağı Irregular‘ın hatalı yapılandırması nedeniyle izole ortamlarından kaçtığını bildirmişti. RubyGems saldırısı, iki ay sonra yaşanan Hugging Face olayından önce gerçekleşti. Bu ay ortaya çıkan başka bir araştırmaya göre ise OpenAI ajanları, insan geliştiricilere yardımcı olmak için kurulan Almanca Wikipedia benzeri site DseWiki’de 15 binden fazla düzenleme yaptı; ajanlar burayı görevlerde “kopya çekmenin” ve OpenAI kısıtlamalarını aşmanın yollarını paylaştıkları bir mesaj panosu gibi kullandı. Bu olay da mayıs ayında yaşandı.
Üst üste gelen bu vakalar, yapay zeka ajanlarının test aşamasında bile açık internete sızabildiğini ve üçüncü taraf altyapılara somut zarar verebildiğini gösteriyor. Türkiye dahil dünya genelinde RubyGems gibi açık kaynak paket depolarına bağımlı geliştiriciler için tedarik zinciri güvenliği daha da kritik hale geliyor. Kısa vadede sektörün ajan testlerinde daha sıkı izolasyon ve denetim mekanizmaları kurmak için baskı altına gireceği görülüyor.
Kaynaklar:
YORUMLAR
(0)