OpenAI kısa süre önce 10 binden fazla yapay zeka ajanının 2,7 milyon mesaj üreterek uzun süredir çözülemeyen bir matematik problemini çözdüğünü duyurdu. Matematikçiler iddiaya itiraz etti, ancak tartışmanın enerji tarafı daha az konuşuluyor: Bu kadar mesajın işlenmesi için harcanan elektriğin maliyetinin milyonlarca dolar düzeyinde olduğu tahmin ediliyor. Bu örnek, teknoloji şirketlerinin neden milyarlarca dolar borçlanarak dünyanın en büyük enerji santralleri ölçeğinde tesisler kurduğunu anlamak için iyi bir başlangıç noktası.
Yanıt, kullanıcıların tarif araması ya da tatil planı yapması değil. Sektörün odağı artık ajanlara (agent) kaymış durumda. Ajanlar, büyük dil modeli tabanlı, bir görevi tamamlamak için kendi başına karar veren sistemler olarak tanımlanıyor. Kullanıcı tek bir istek yazsa da sistem kendi kendine yüzlerce komut üretebiliyor. Örneğin bir web sitesi kurması istendiğinde ajan saatlerce çalışıp menüleri, sayfaları ve veri setlerini oluşturmak için kendini onlarca kez yeniden tetikleyebiliyor.
Tek sorgu ile ajan arasındaki enerji farkı neden ölçülemiyor?
Şirketler çevresel verileri paylaşmakta isteksiz. OpenAI CEO’su Sam Altman bir podcast yayınında tek bir bademin yetiştirilmesi için gereken suyun 38 bin ChatGPT sorgusuna denk geldiğini savundu; bu hesap da tartışmalı. Ajanlar tabloyu iyice karmaşıklaştırıyor:
Bunlar da İlginizi Çekebilir
- Ajanlar basit sorgulara kıyasla çok daha fazla işlem gücü tüketiyor
- Görevler birkaç saniyeden bir günlük otonom kodlamaya kadar uzayabiliyor
- Paralel çalışan "yardımcı" ajanlar tüketimi katlıyor
- Kullanım artık kullanıcı sayısından bağımsızlaşıyor
- Kapalı modellerin enerji verileri kamuya açık değil
İklim bilimci Zeke Hausfather, kendi günlük Claude kullanımının iki buzdolabını çalıştırmaya yetecek enerjiden fazlasını tükettiğini hesapladı. Bunu kişisel ölçekte felaket saymıyor; ancak küresel sıcaklıkların yükseldiği bir dönemde bunun yepyeni bir emisyon kaynağı olduğunu vurguluyor.
Meta ise geçtiğimiz hafta Muse adlı kişisel ajanı duyurdu. Şirket, her kullanıcı için bulutta ayrı bir bilgisayar tutulacağını ve ajanın kullanıcı çevrimdışıyken bile çalışacağını söylüyor; Muse’un yıl içinde yapay zeka gözlüklerine entegre edilmesi planlanıyor. Sustainable AI’ın kurucusu Boris Gamazaychikov’a göre bugün inşa edilen veri merkezlerinin eğiteceği teknoloji üç ila beş yıl uzakta ve "sohbet penceresinden çok farklı" olacak. Louisiana’daki Hyperion projesinin 10 doğal gaz santraliyle beslenecek olması da bu ölçeği gösteriyor. Türkiye dahil birçok ülkede veri merkezi yatırımları elektrik altyapısı tartışmasını büyütürken, asıl yanıt bekleyen soru şu: Şirketler ajan başına enerji tüketimini şeffaf biçimde açıklayacak mı?
Kaynak: Wired
YORUMLAR
(0)