OpenAI, ChatGPT Metinlerine Su İşareti Eklemeye Başlıyor

OpenAI, ChatGPT ve Codex tarafından üretilen metinlere Avrupa Birliği'nde su işareti eklemeye başlayacağını duyurdu. Bu uygulama, 2 Ağustos'ta yürürlüğe giren AB AI Yasası'nın şeffaflık kuralları gereğince gerçekleştirilecek.

Su işareti, metinlerin içindeki kelime seçimlerini ince bir şekilde şekillendirerek çalışan bir sistemle oluşturulacak. Böylece, okuyucuların göremediği ancak dedektörlerin algılayabileceği bir desen bırakılacak. OpenAI, bu su işaretinin metin kopyalandığında da birlikte gideceğini belirtti.

Su işaretinin uygulanması, öncelikle Avrupa'daki ChatGPT ve Codex kullanıcılarına yönelik olacak. Geliştiriciler, OpenAI API'sini kullanan diğer ülkelerdeki kullanıcılar için de belirli modellerde bu özelliği aktif hale getirebilecek. Ancak, bu özellik varsayılan olarak kapalı durumda olacak.

OpenAI, su işaretinin kullanıcıyı tanımlamadığını ve bu uygulamanın model performansında anlamlı bir değişiklik yaratmadığını ifade etti. Ayrıca, metinlerin düzenlenmesi durumunda su işaretinin kaldırılabileceği de yapılan testlerle ortaya kondu. Örneğin, kelimelerin %10'unun eşanlamlıları ile değiştirilmesi, algılamayı %92'den %66'ya düşürdü.

OpenAI, su işaretinin eksik olmasının insan yazar olduğunu kanıtlamadığını da vurguladı. Kısa metinler, matematiksel cevaplar ve çevrilmiş metinlerin tespitinin daha zor olduğunu belirtti. Şirket, başlangıçta dedektör erişimini yalnızca onaylı araştırmacılara ve uzman kuruluşlara sunma kararı aldı.

Bu duyuru, Anthropic'in Claude tarafından üretilen metinlere su işareti ekleyeceğini açıklamasından iki ay sonra geldi. Bu karar, bazı kullanıcılar tarafından eleştirilmişti. OpenAI, daha önce su işareti geliştirmişti ancak kullanıcıların rakiplere yönelmesi endişesi nedeniyle bunu yayımlamaktan kaçınmıştı.

OpenAI, Anthropic, Google, Meta ve Microsoft gibi şirketler, AB'nin AI ile ilgili içeriklere dair uygulama koduna uyacaklarını taahhüt etti.