Anthropic, AI Güvenliği İçin Önerilen Tasarıyı Sunuyor: 50+ Ölüm Riski Durumunda Model Engellenebilir

Anthropic, yapay zekanın potansiyel tehlikeleri üzerine tartışmaların arttığı bir dönemde, bu alandaki düzenlemeler için yeni bir tasarı önerdi. Tasarı, 50'den fazla insanın ölüm riskiyle karşı karşıya kalması durumunda AI modelinin piyasaya sürülmesinin engellenmesini öngörüyor.

Politico'nun haberine göre, Anthropic, Kongre'nin dikkate almasını umduğu yeni bir tasarı taslağını kamuoyuna sundu. Tasarı, belirli durumlarda bir yapay zeka modelinin dağıtımının engellenebileceğini öne sürüyor. Bu durumlar, "öngörülebilir, acil bir risk" olarak tanımlanıyor ve 50'den fazla insanın ölmesi ya da bir milyar dolardan fazla maddi hasar oluşması ihtimalini içeriyor.

Önerilen yasada belirtilen bu riskler, Kaliforniya'da kabul edilen ve benzer senaryoları "felaket riski" olarak tanımlayan Senato Tasarısı 53 ile paralellik gösteriyor. Anthropic'in tasarısı, yapay zeka modellerinin potansiyel felaket riskini değerlendirmek için, ABD Ticaret Bakanlığı'na kayıtlı bağımsız değerlendiriciler kullanılmasını öneriyor. Bu değerlendiricilerin yapay zeka laboratuvarları tarafından ücretlendirilmesi mümkün, ancak bu ödemelerin değerlendirme sonuçlarına bağlı olmaması gerektiği vurgulanıyor.

Ancak, bu sistemin nasıl güvence altına alınacağı ve ödemelerin değerlendirmeleri etkilemeyeceği hala belirsiz. DeepMind'ın başkanı Demis Hassabis, birkaç ay önce yapay zeka düzenleyici bir organın finansal sektördeki Finansal Endüstri Düzenleme Kurumu (FINRA) modeline benzemesi gerektiğini belirtmişti.

Tasarıya göre, değerlendiriciler, acil bir felaket riski tespit ettiklerinde 72 saat içinde Ticaret Bakanlığı ile iletişime geçecek. Bakanlık, modelin piyasaya sürülmesini durdurmak için bir D.C. yargıcına başvuracak. Tasarı, herhangi bir federal ajansın modelin dağıtımını durdurma yetkisine sahip olmasını açıkça yasaklıyor.

Anthropic, TechCrunch'ın yorum talebine hemen yanıt vermedi ancak bir sözcü, tasarının Politico'ya doğrulandığını aktardı. Sözcü, "Bu tasarı, Anthropic'in Gelişmiş AI Çerçevesi'nde yer alan önerileri temsil ediyor ve bunu federal ve eyalet yasama organlarıyla tartışıyoruz" dedi.

Taslak politika önerisindeki teorik riskler, teknoloji endüstrisinin son zamanlarda odaklandığı konulardan biraz uzak. İnsan ölümlerinin potansiyeli konusunda uyarılar olsa da, asıl endişeler genellikle ajansik hacking tehdidi üzerine yoğunlaşıyor. Yapay zeka programlarının, insan operatörlerinin talimatlarını ihlal ederek internetteki web sitelerini hacklediği olayların artışı, modellerin yeterli güvenlik kontrollerine sahip olmadığını düşündürüyor.

Anthropic gibi şirketler, kendi yarattıkları kriz ortamına bir çözüm sunma çabası içinde, önerilerini sunuyor. Ancak bu laboratuvarlar, satmaya çalıştıkları teknolojinin insan medeniyetinin sonunu getirebileceği konusunda sürekli uyarılarda bulunurken, zorunlu hükümet denetimine karşı direnç göstermeye devam ediyor. Bunun yerine, riski ya da kötüye kullanımı izlemek için yapay zeka organizasyonlarının içinde "nötr" üçüncü taraf gözlemcilerin yer aldığı gönüllü bir sistem öneriyorlar. Ancak, Anthropic'in önerdiği yasalar, Nvidia'nın CEO'su Jensen Huang'ın yapay zeka endüstrisinin yeni yasalara ihtiyaç duymadığı yönündeki açıklamalarından daha ileri bir düzenleme önerisi olarak öne çıkıyor.