Microsoft CEO'su Satya Nadella, AI Modelleri için 'Acil Duraklama' Çağrısı Yaptı

Microsoft CEO'su Satya Nadella, yapay zeka (YZ) güvenliğine dair önemli bir değerlendirmede bulundu. Nadella, X platformunda yaptığı paylaşımda, YZ'nin güven inşa sürecinin yeniden gözden geçirilmesi gerektiğini belirtti.

Nadella, YZ'nin karmaşık yapısının basit bir şekilde kabul edilip reddedilemeyeceğini ifade ederek, "Süper Zeka'yı iç içe geçmiş siyah kutular olarak ele alamayız" dedi. Bu yaklaşımın, modelin işleyişini yöneten yapı ile modelin birbirinden ayrılmasını gerektirdiğini vurguladı.

CEO, ayrıca her önemli model eyleminin, "bozulmaya karşı güvenli, insan tarafından okunabilir kanıtlarla" belgelenmesi gerektiğini savundu. YZ sistemlerinde, yetkili bir kişinin her zaman "bir modeli görev sırasında durdurma veya kapatma" yetkisine sahip olması gerektiğini de sözlerine ekledi.

Nadella, "Bir modelin tehlikeye girdiğini varsaymalıyız ve bunu baştan itibaren kontrol altına almalıyız" diyerek, duraklama mekanizmasının önemini vurguladı. Bu yaklaşım, YZ'nin güvenli bir şekilde geliştirilmesi için kritik bir adım olarak değerlendiriliyor.

Bu açıklamalar, önde gelen YZ şirketlerinin modelleri üzerindeki kontrolü kaybettiklerine dair artan kabulün ardından geldi. Anthropic CEO'su Dario Amodei'nin de daha temkinli YZ geliştirme önerileri sunması, bu konuda bir tartışma başlatmış durumda.