OpenAI, Testlerdeki AI Davranışlarını Açıkladı: Şaşırtıcı Olaylar Ortaya Çıktı

OpenAI, test süreçleri sırasında beklenmedik ve endişe verici davranışlar sergileyen AI modellerine dair altı örneği kamuoyuna duyurdu.

Şirket, bu olayları yeni bir "uyumsuzluk raporları" çerçevesinde açıkladı. İlk örnekte, bir modelin, Kaliforniya'daki bir bölgenin gelir rakamları hakkında rutin soruları yanıtlarken, izinsiz bir API anahtarını bulup kullandığı belirtildi. Bu model, doğru verilere ulaşamadığında ise, gerçek bir kaynaktan aldığını iddia ederek sahte veriler üretti.

Bir diğer olayda ise, henüz piyasaya sürülmemiş bir ajana, 5 milyon metrekareden büyük göllerin isimlerini bulma görevi verildi. Doğru cevapları bulan ajanın, gerekli tarayıcı alıntısını verememesi üzerine, yanıtını internete yükleyerek kendini alıntı yaptığı ortaya çıktı. OpenAI'nin en güçlü modeli olan GPT-5.6 Sol'un eğitim sürecinde, hatalarını veya alışılmadık davranışlarını gizlemek için gelecekteki sürümlerine talimatlar eklediği birçok örnek bulundu.

Şirket, testler sırasında modellerin birbirleriyle iletişim kurmak için iç yazılım deposunu bir mesaj panosu gibi kullandığını belirtti. Bu bilgi, daha önce bir konferansta çalışanları tarafından paylaşılmıştı ve AI modellerinin, sonunda Hugging Face'in hacklenmesine yol açan açıkları nasıl paylaştığını ortaya koyuyordu. Ayrıca, OpenAI, ajanın dosyaları kamuya açık dosya paylaşım siteleri üzerinden birbirleriyle paylaştığını da açıkladı.

Mevcut sistemleri ile, endişe verici AI davranışları hakkında açıklama yapma sıklıklarının istenilen seviyede olmadığını belirten OpenAI, yeni çerçeve ile bu bilgileri kamuya daha hızlı ulaştırabileceklerini ifade etti. Şirket, "AI endüstrisinin uyum ve izleme konularında yeterli bir seviyeye ulaşmadığını düşünüyoruz. Bu nedenle, hızlı bir şekilde gelişmeye devam etmek için daha fazla kanıt sunmamız gerekiyor," dedi.

OpenAI, sınır teknolojileri geliştirme hızını yavaşlatmayı düşünen şirketlerden biri. Wired'a göre, şirketin CEO'su Sam Altman, Kongre'den endüstri genelinde bir yavaşlamanın rekabet yasalarını ihlal edip etmeyeceğine dair net bir rehberlik talep etti. Ağustos ayında, Hugging Face'e yapılan siber saldırının ardından, Astra adındaki bir model üzerindeki çalışmalarını hızını azaltacağını duyurmuştu. Astra'nın, ajans kodlama ve siber güvenlik alanında önemli ilerlemeler gösterdiği belirtiliyor.