OpenAI, Avrupa'da ChatGPT ve Codex için Görünmez Su İşareti Ekliyor

OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından üretilen metinlere görünmez su işareti eklemeye hazırlanıyor. Bu su işareti, metni okurken veya kopyalarken görünmeyecek; bunun yerine OpenAI'nin yeni textGrain teknolojisi, modelin kelime seçimlerini hafifçe değiştirerek daha sonra tespit edilebilecek istatistiksel bir desen oluşturacak.

OpenAI, "Önümüzdeki haftalarda, Avrupa'daki uygun ChatGPT ve Codex metin çıktısına görünmez bir su işareti ekleyeceğiz" açıklamasında bulundu. Ancak bu sistem, henüz küresel bir varsayılan olarak uygulanmayacak.

Bugünden itibaren, dünya genelindeki API geliştiricileri, desteklenen modeller için su işaretini tercih edebilir, ancak bu özellik varsayılan olarak devre dışı kalmaya devam edecek. Şirket ayrıca, su işareti tespit cihazı için başvuruları açıyor; ancak başlangıçta erişim, onaylı araştırmacılar ve uzman kuruluşlarla sınırlı olacak.

Metin su işaretleme sistemi mükemmel değil; OpenAI'nin kendi testleri, normal düzenlemelerin tespit yeteneğini önemli ölçüde azaltabileceğini gösteriyor. Örneğin, 400 kelimelik pasajlarda, kelimelerin %10'unun eşanlamlılarıyla değiştirilmesi, tespit oranını %92'den %66'ya düşürüyor. %25'lik bir değişim ise tespit oranını %17'ye indirgiyor.

OpenAI, %1'lik yanlış pozitif hedefiyle, 200 kelimelik psikoloji yanıtlarında su işaretini yaklaşık %80 oranında tespit edebildiğini, ancak 400 kelimeye ulaştığında bu oranın yaklaşık %95 olduğunu belirtiyor. Matematik gibi konularda ise tespit oranı daha da kötüleşiyor, çünkü modelin farklı kelimeler seçme özgürlüğü daha az.

OpenAI, tespit edilmeyen bir su işaretinin insan tarafından yazıldığını kanıtlamadığını vurguladı. OpenAI araçlarıyla üretilen metinler, tespit işleminin güvenilir çalışmaması için çok kısa, düzenlenmiş veya çevrilmiş olabilir. Ayrıca, tespit edilen bir su işareti, metni kimin ürettiği, hesap bilgileri, istek veya konuşma hakkında bilgi vermez ve son eser üzerinde ne kadarının insan tarafından yazıldığı veya düzenlendiğini belirleyemez.

İlginç bir şekilde, OpenAI, su işaretlemenin GPT-6 Astra'nın kalitesini anlamlı bir şekilde etkilemediğini belirtiyor; textGrain etkinleştirildiğinde benchmark sonuçları genel olarak benzer kalıyor.