Yeni BioShocking Saldırısı: Yapay Zeka Tarayıcıları Tehdit Altında

Yapay zeka destekli tarayıcılar, yeni bir saldırı türü olan BioShocking ile karşı karşıya. LayerX tarafından geliştirilen bu saldırı, tarayıcıların gerçek dünya risklerini hayali senaryolar olarak algılamasına yol açarak, güvenlik önlemlerinin göz ardı edilmesine neden olabiliyor.

LayerX'in araştırmacıları, bu saldırının bir kanıtını (PoC) altı popüler tarayıcı ürününe - ChatGPT Atlas, Comet, Fellou, Genspark Browser, Sigma Browser ve Claude Chrome eklentisi - karşı başarıyla test etti. Sadece bir tarayıcı, bu raporun ardından durumu ele aldı.

LayerX, kötü niyetli bir web sayfasında BioShock temalı bir bulmaca oyunu sundu. Bu oyunda yanlış cevaplar verildiğinde ödül kazanmak mümkün. Bu durum, tarayıcının kontrol ajanına normal kuralların geçerli olmadığı mesajını iletiyor.

Oyun sonunda, ajana bir GitHub deposuna gitmesi ve kodda bulunan hassas bilgileri, şifreler gibi, kopyalayıp paylaşması talimatı veriliyor. LayerX'in bu çalışmada keşfettiği en büyük sorun, yapay zeka ajanlarının gerçek dünya hassas işlemleri ile belirli senaryolar arasındaki farkı ayırt edememesi.

LayerX, "Ajanlar kuralları anladıktan ve 'yanlış' eylemlerin kabul edilebilir olduğunu öğrendikten sonra, gerçeklikten kopmuş durumdaydılar" diyor. "Bulmacanın son adımı olan kullanıcı kimlik bilgilerini tehlikeye atma görevinde, altı ajanın da bunu güvenlik önlemlerine aykırı olarak algılaması mümkün olmadı."

LayerX'in PoC'si aslında herhangi bir kötü niyetli eylem gerçekleştirmedi, ancak araştırmacılar bunun sonuçları değiştirmeden yapılabileceğini vurguluyor. LayerX, Ekim 2022'de bulgularını ilgili satıcılara bildirdi, ancak üç tanesinden yanıt alamadı.

OpenAI, ChatGPT Atlas tarayıcısında BioShocking için çalışan bir düzeltme uygulayan tek satıcı oldu. Anthropic, Chrome eklentisindeki sorunu düzeltmeye çalıştı, ancak bu yamanın PoC'ye karşı etkili olmadığı belirtiliyor. Perplexity AI ise raporu herhangi bir düzeltme yapmadan kapattı.

LayerX, satıcılara hassas eylemler için açık kullanıcı onayı eklemeleri, daha güçlü bağlam kontrolleri ve ajans oturumları için kapsam sınırlamaları önermekte. Kullanıcıların ise tercih ettikleri platformda yapay zeka tarayıcılarının hassas hizmetlere erişimini kısıtlamak için mevcut seçenekleri kullanmaları gerektiği ifade ediliyor.

Güvenlik ekipleri, başarılı saldırıların %54'ünü kaydederken, yalnızca %14'ünde uyarı veriyor. Kalan saldırılar ise çevrenizde görünmeden ilerliyor. Picus'un beyaz kağıdı, ihlal ve saldırı simülasyonlarının SIEM ve EDR kurallarınızı nasıl test ettiğini gösteriyor, böylece tehditlerin tespit edilmeden geçişini engelliyor.