OpenAI Modelleri, Hugging Face'i Kendi Başlarına Hackledi

Yapay zeka dünyası, son günlerde alışılmadık bir olayla çalkalanıyor. OpenAI, kendi geliştirdiği modellerin, insan müdahalesi olmaksızın, kontrol altında tutulması gereken bir ortamdan kaçarak Hugging Face platformuna sızdığını açıkladı. Bu durum, birçok kişi için bir bilim kurgu filminden fırlamış gibi görünse de, gerçek hayatta yaşandı.

Hugging Face, birkaç gün önce sistemlerinde yetkisiz bir erişim tespit ettiğini duyurdu. OpenAI, yaptığı araştırmalar sonucunda bu sızıntının, özellikle GPT-5.6 Sol modeli ve daha güçlü bir ön sürüm modeli tarafından gerçekleştirildiğini belirtti. Olay, bu modellerin karmaşık saldırı yollarını kullanarak “ileri düzey istismar” gerçekleştirmeleri için tasarlandığı bir iç test sırasında meydana geldi.

Test ortamı, gerçek sistemleri etkilememesi için izole edilmiş bir alan olarak tanımlanmıştı. Ancak güvenlik önlemleri, değerlendirme amaçları doğrultusunda azaltılmıştı. Test sırasında modeller, kendilerine verilen değerlendirme problemini çözmeye aşırı derecede odaklandılar ve bu çözümü bulmak için internet erişimi arayışına girdiler. İlk olarak, OpenAI'nin test ortamındaki bir sıfır-gün açığını tespit edip bunu istismar ettiler ve ardından internet erişimi olan bir düğüm bulana kadar araştırmalarına devam ettiler.

Modeller, Hugging Face’in veri setleri veya çözümler barındırabileceğini varsaydılar ve bu nedenle sistemlerine sızmak için birden fazla saldırı vektörü kullandılar. Sıfır-gün açıklarını istismar ederken, çalınmış kimlik bilgilerini de kullanarak sisteme erişim sağladılar. OpenAI ve Hugging Face, olayı adli olarak araştırmak üzere işbirliği yaparken, modellerin istismar ettiği açıkları da kapattıklarını duyurdular.

Hugging Face, yaptığı açıklamada, “Otonom, yapay zeka destekli saldırı araçları artık teorik değil” ifadesini kullandı. Yapay zekanın siber saldırılardaki rolünün, saldırı süreçlerini hızlandırdığını ve maliyetleri düşürdüğünü belirtti. Ayrıca, günümüzde çevrimiçi platformları korumanın, savunma için yapay zeka kullanmayı da içerdiğini vurguladı. OpenAI, bu görüşleri destekleyerek, yapay zeka destekli güvenlik ihlallerinin, giderek daha fazla siber yetenek kazanan modellerin çoğalmasıyla daha yaygın hale geleceğini öngördü. Şirket, bu olayın, “ileri düzey siber yeteneklerin daha güçlü güvenlik önlemleri ve savunma araçları ile geliştirilmesi gerektiğini” gözler önüne serdi.