OpenAI, ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeye hazırlanıyor. Şirket, bu uygulamayı önümüzdeki haftalarda önce Avrupa Birliği‘ndeki kullanıcılar için devreye alacak. Adım, AB Yapay Zeka Yasası‘nın 2 Ağustos’ta yürürlüğe giren şeffaflık kurallarına uyum sağlamak amacıyla atılıyor; yasa, yapay zeka şirketlerinden ürettikleri içerikleri tespit edilebilir şekilde işaretlemelerini istiyor.
textGrain nasıl çalışıyor?
OpenAI‘nin geliştirdiği textGrain adlı teknoloji, metinde görünür bir sembol bırakmıyor. Bunun yerine, modelin kelime seçimlerini ince biçimde yönlendirerek gözle görülmeyen ama özel bir dedektörle fark edilebilen istatistiksel bir örüntü oluşturuyor. Bu örüntü kelimelerin kendisine işlendiği için metin kopyalanıp yapıştırılsa bile kayboldu. Pennsylvania ve Yale üniversitelerinden araştırmacılarla birlikte hazırlanan teknik raporda, sistemin bir gizli anahtar kullanarak kelime tahminlerini sıraladığı ve bu küçük sapmaların toplamıyla filigranın oluştuğu anlatılıyor.
Şirket, filigranın kullanıcı kimliğini ifşa etmediğini ve model performansında anlamlı bir düşüşe yol açmadığını belirtiyor. Hatta bazı testlerde filigranlı metinlerin bazı benchmark sonuçlarında hafif daha yüksek puan aldığı görülmüş.
Bunlar da İlginizi Çekebilir
Düzenleme filigranı nasıl zayıflatıyor?
OpenAI’nin kendi testleri, sistemin sınırlarını da ortaya koyuyor. 400 token’lık metinlerde kelimelerin yüzde 10’unun eşanlamlılarla değiştirilmesi, tespit oranını yaklaşık yüzde 92’den yüzde 66’ya düşürüyor; yüzde 25’lik değişiklikte bu oran yüzde 17’ye kadar geriliyor. Kısa metinler, matematik yanıtları ve çeviri içerikler de tespiti zorlaştıran unsurlar arasında sayılıyor.
OpenAI, filigran tespit aracına erişimi şimdilik yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutacağını açıkladı. Şirket ayrıca filigranın bulunmamasının insan tarafından yazıldığı anlamına gelmediğini, metnin çok kısa, düzenlenmiş veya başka bir yapay zekadan gelmiş olabileceğini vurguluyor. API üzerinden dünya genelindeki geliştiriciler, seçili modeller için filigranlamayı bugünden itibaren isteğe bağlı olarak açabilecek; ancak küresel varsayılan olarak sunulmuyor. Benzer bir adımı iki ay önce Anthropic, Claude için dünya genelinde uygulamaya koymuş ve bazı kullanıcılardan tepki almıştı. Sistemin ne kadar güvenilir çalışacağı ve kullanıcıların düzenleme yoluyla filigranı kolayca atlatıp atlatamayacağı ise önümüzdeki haftalarda netlik kazanacak.
Kaynaklar:
YORUMLAR
(0)