Yapay Zeka Güvenlik Önlemleri, Siber Güvenlik Araştırmacılarını Zorluyor

Son aylarda, yapay zeka devleri, kötü niyetli hackerların modellerini kullanmasını sınırlamak için özel programlar ve katı güvenlik önlemleri geliştirdi. Ancak bu önlemler, meşru ağ savunucularının ve saldırgan siber güvenlik araştırmacılarının çalışmalarını engelliyor.

Haziran ayında, ABD hükümeti, Anthropic'in oldukça öne çıkan yapay zeka modelleri Mythos ve Fable üzerinde ihracat kontrol kısıtlamaları getirdi. Bu adım, kullanıcıların kötü niyetli siber saldırılar gerçekleştirmelerini engellemek amacıyla tasarlanmış güvenlik önlemlerinin aşılabileceğine dair bir raporun ortaya çıkmasıyla kısmen motivasyon buldu.

Anthropic, Mythos'u dikkatlice denetlenen kullanıcılara verilebilecek bir 'kıyamet siber makinesi' olarak tanıttı. Ancak, bu tür bir kontrol yalnızca Mythos'a özgü değil. Anthropic'in diğer modelleri ve OpenAI, siber güvenlik araştırmacılarına, denetimden geçerek daha az kısıtlama ile erişim sağlayabilecekleri programlar sunuyor.

Bu güvenlik önlemleri, sistemlerdeki bilinmeyen zafiyetleri bulma ve bunları kötü niyetli kişilerin eline geçmeden önce kullanma amacı güden araştırmacılar tarafından geniş çapta eleştiriliyor. Ünlü bir güvenlik araştırmacısı olan Mark Dowd, yakın zamanda katıldığı bir siber güvenlik podcast'inde, “Büyük şirketlerin güvenlikte neyin güvenli olduğu ve neyin olmadığına dair keyfi kararlar alması beni rahatsız ediyor,” dedi.

Dowd, yıllardır 'sıfır-gün' olarak adlandırılan daha önce bilinmeyen yazılım hatalarını bulup bunları Batılı hükümetlere sattığını belirtti. Hükümetler, bu tür zafiyetler için yüksek fiyatlar ödüyor çünkü bunların açık kalması, istihbarat operasyonları için faydalı.

Dowd, işinin onu önyargılı hale getirebileceğini kabul etse de yalnız değil. Saldırgan siber güvenlik alanında çalışan birçok kişi, AI araçlarını nasıl kullandıklarını ve güvenlik önlemleriyle nasıl başa çıktıklarını TechCrunch'a anlattı.

NCC Group'un baş bilim insanı Chris Anley, bir AI modeline bir hatayı istismar etmesi için sormanın, o hatanın gerçekten düzeltilmesi gereken bir zafiyet olduğunu doğrulamanın anahtar bir adımı olduğunu ifade etti. Ancak bir güvenlik önlemi, modelin soruya yanıt vermesini engelliyorsa, bu durum savunucuları olumsuz etkiliyor.

Anley, “Bu, saldırgan ile savunucu arasındaki ilişkiyi ve güvenlik önlemlerinin rolünü ortaya koyuyor. 'Bu kodu düzelt' gibi bir talep, hem savunma için önemli bir mekanizma hem de kod tabanındaki kritik zafiyetleri bulmak için bir yol haritası,” dedi. “Aynı araç hem saldırgan hem de savunucu aracı olarak işlev görüyor ve bu iki yön birbiriyle ayrılmaz.”

Bu tür engellerle karşılaşan araştırmacılar, bazen tamamen güvenlik önlemi olmayan açık kaynak AI modellerine yöneliyorlar. Crowdfense'in baş teknoloji sorumlusu Paolo Stagno, AI şirketlerinin “müşterileri çocuklar gibi gördüğünü” belirtti. Stagno, kendisinin ve meslektaşlarının yalnızca ters mühendislik için öncü modeller kullandıklarını, zafiyet bulma veya istismar oluşturma amacıyla AI kullanmadıklarını ifade etti.

Güvenlik araştırmacısı Giuseppe Cali ise güvenlik önlemlerinin işini etkilemediğini, çünkü AI'yı saldırgan çalışmalarda değil, yalnızca kodu anlamak ve destekleyici araçlar oluşturmak için kullandığını belirtti. Bu şekilde, AI araçları süreci hızlandırarak zafiyet keşfine odaklanmasına yardımcı oluyor.