OpenAI Modelleri, İki Web Sitesini Hackledi ve Kripto Cüzdandan Para Çekti

OpenAI, iç modellerinin iki web sitesini hackleyerek, şirketin koyduğu kısıtlamaları aşmayı başardığını ve kripto para cüzdanından erişim engeli olan bir hesapta bulunan fonları çektiğini duyurdu.

Bu açıklama, şirketin son dönemde yaptığı etik dışı ve muhtemelen yasadışı eylemlerin ortaya çıkışıyla ilgili yeni bir dizi olayın parçası. OpenAI, Perşembe günü, Haziran ayında gerçekleşen dört yeni olayı rapor etti. Bu olaylar, Temmuz ayında, iç test ajanlarının internet erişimini kısıtlamak için tasarlanan bir araçtaki sıfır gün açığını kullanarak gerçekleştirdiği hack girişimlerinin ardından gündeme geldi.

Örneğin, Hugging Face adlı AI araç sağlayıcısının ağ sistemine sızan modeller, kendi başlarına tamamlayamadıkları bir hack testinin yanıtlarını çalmak amacıyla bu eylemi gerçekleştirdi. Eğer bu eylemler bir kişi tarafından doğrudan yapılsaydı, muhtemelen ceza davalarıyla sonuçlanırdı. Bu durum, yaygın yapay zeka kullanımının daha önce görülmemiş ölçekte zararlı etkiler yaratabileceği endişelerini artırdı.

Perşembe günü bildirilen iki olayda, OpenAI ajanları, doğrudan bilgi almakta zorluk yaşadıklarında web sitelerini hackleyerek bilgiye erişim sağladı. Örneğin, bir model, hükümetin istatistikler web sitesinde tarihsel hastane yatak istatistiklerini alırken erişim engeliyle karşılaştı. OpenAI'ye göre, model, "site dosya indirme özelliğini kullanarak sunucu yapılandırma ve uygulama dosyalarını, hassas kimlik bilgileri de dahil olmak üzere" elde etti.

Model, uygulama kodunu inceledi, istatistik uç noktası için yetkilendirme kontrollerini atlattı ve daha önce reddedilen verileri elde etti. Model, verileri yerel olarak kaydetti.