OpenAI, ChatGPT Üzerinden Metinleri Su İşaretiyle İşaretleyecek

OpenAI, ChatGPT ile oluşturulan metinlerin Avrupa Birliği'nde otomatik olarak su işaretiyle işaretleneceğini duyurdu. Şirket, bu özelliği diğer bölgelerde de sunacak, ancak Avrupa dışındaki yerlerde varsayılan olarak kapalı durumda olacak.

Bu adım, AB'nin Ağustos ayında yürürlüğe giren AI Yasası ile uyum sağlama gerekliliğinden kaynaklanıyor. Söz konusu yasa, yapay zeka modelleri tarafından üretilen içeriğin, başka bir araç tarafından tespit edilebilecek şekilde işaretlenmesini zorunlu kılıyor. Ancak, bu işaretlemenin tamamen etkili ve güvenilir bir yönteminin henüz mevcut olmadığı belirtiliyor.

Bazı standartlar, örneğin SynthID ve C2PA projesi, zaten var; fakat bunlar, temel bilgiye sahip olanlar için aşılması kolay yöntemler. OpenAI’nin su işareti uygulamasının da benzer bir şekilde çalışması bekleniyor. Şirket, bu yöntemi 'textGrain' olarak adlandırıyor ve nasıl çalıştığını açıklayan teknik bir makale yayımladı.

Genel olarak, OpenAI'nin su işareti, daha önce gördüğümüz diğer büyük dil modellerinin (LLM) su işareti araçları gibi çalışıyor. Bu sistem, insan okuyucuların fark etmediği kelime seçimlerinde belirli desenler oluşturuyor. Bu desenler, çıktının genel kalitesini anlamlı bir şekilde değiştirmiyor, ancak anahtar bilgisine sahip biri, özel bir dedektör ile bu işaretleri tespit edebiliyor.

OpenAI, dedektörü sınırlı sayıda araştırmacı ve kuruluşa vereceğini, diğerlerinin zamanla eklenmesi için bir onay süreci sunacağını belirtti.