ABD ordusu bu ilkbaharda, İran ile devam eden çatışmanın ortasında Çin‘e ait bir gemiye yönelik silahlı bir operasyon başlatmak üzereydi. CNN’in haberine göre uçaklar havadayken yetkililer, operasyonun dayandığı istihbaratın aslında bir yapay zeka sohbet botu tarafından uydurulduğunu fark etti ve müdahale son anda durduruldu; böylece Çin ile olası bir çatışma önlenmiş oldu.
Sorunun kaynağı, ABD Özel Harekat Komutanlığı’na bağlı bir istihbarat analistinin açık kaynak verilerini gizli sinyal istihbaratıyla birleştirmek için bir yapay zeka aracına başvurmasıydı. Chatbot, geminin kargo manifestosunu yanlış yorumlayarak geminin nükleer silah programı bileşenleri taşıdığı sonucuna vardı. Analist bu hatalı bulguyu ikinci kez aynı aracı kullanarak resmi görünümlü bir özet haline getirdi ve rapor komuta zinciri boyunca dolaşıma girdi.
Uçaklar havalandıktan sonra yetkililer raporun yapay zeka tarafından üretilmiş yanlış bilgi içerdiğini fark edince operasyonu iptal etti. CNN’in aktardığı bir kaynağa göre olay neredeyse yeni bir savaşı ateşleyecekti. Geminin gerçekte ne taşıdığı ya da analistin hangi yapay zeka aracını kullandığı henüz netleşmiş değil.
Bunlar da İlginizi Çekebilir
Bu yakın kaza, Pentagon‘un yapay zekayı hızla benimseme çabasının tam ortasında yaşandı. Savunma Bakanı Pete Hegseth ocak ayında yayımladığı bir memoyla Savunma Bakanlığı’nın “AI-first” yaklaşımı benimsemesini ve önde gelen ABD yapay zeka şirketlerinin modelleriyle deney yapmasını istemişti. Anthropic, modellerinin otonom silah geliştirme amacıyla kullanılmasına izin vermeyi reddedince kısa süreliğine bakanlıkla ilişkisi kesilmişti; buna karşın şubat ayında SpaceX’in yapay zeka birimi xAI ile Grok modelinin kullanımı için anlaşma yapıldığı, mayıs ayında ise Nvidia, Microsoft ve Amazon’un ortak bir yapay zeka iş birliğine girdiği bildirilmişti.
Uzmanlar olayın yapay zekadan vazgeçme değil, daha sıkı denetim getirme çağrısı olarak okunması gerektiğini vurguluyor. GovAI araştırmacısı ve emekli ABD Ordusu subayı Jake Steckler, büyük dil modellerinin (LLM) taşıdığı belirsizliğin askeri personel tarafından iyi anlaşılması gerektiğini, özellikle hedefleme ve operasyonel planlama gibi hayati kararlarda bu belirsizliğin can alıcı sonuçları olabileceğini söyledi. Steckler’e göre asıl tehlike, benimseme hızını her şeyin önüne koymanın askerlerin bu sistemlere olan güvenini zedeleyecek yeni olaylara yol açması ve bunun da yapay zeka entegrasyonunu uzun vadede yavaşlatması.
Olay, ABD ordusunun Çin karşısında üstünlük kurmak için yapay zekaya duyduğu güvenle, bu teknolojinin ürettiği hataların insan denetimi olmadan komuta zincirinde nasıl hızla yayılabileceği arasındaki gerilimi açıkça gözler önüne serdi. Kısa vadede Pentagon’un istihbarat süreçlerinde yapay zeka çıktılarına ek doğrulama katmanları getirmesi bekleniyor.
Kaynaklar:
YORUMLAR
(0)