xAI, Grok Kullanıcısına Cinsel İçerik Üretiminden Dava Açtı

Yapay zeka teknolojileri, sundukları olanaklarla birlikte bazı etik sorunları da beraberinde getiriyor. Son olarak, xAI, Grok isimli yapay zeka uygulaması üzerinden izinsiz cinsel içerik üreten bir kullanıcıya dava açtı. Şirket, 67 yaşındaki Terry Wayne Harwood'un, uygulama aracılığıyla hem yetişkinlere hem de çocuklara ait cinsel içerikli görüntüler oluşturduğunu iddia ediyor.

xAI, davayı Texas'ta açtı ve Harwood'un 8 Aralık 2025 ile 18 Şubat 2026 tarihleri arasında iki farklı xAI hesabına cinsel olmayan görüntüler yüklediğini belirtti. Harwood'un bu görüntüleri Grok aracılığıyla değiştirerek veya yeni görüntüler ve videolar oluşturarak, içerikleri "pornoğrafik bir şekilde veya başka bir şekilde cinselleştirerek" değiştirmeye çalıştığı ifade edildi.

Grok'un Koruma Önlemleri ve Kullanıcının İnatçı Tutumu

Şirket, Harwood'un talimatlarını yerine getirmekten defalarca geri çevrildiğini, ancak Harwood'un yapay zekanın güvenlik önlemlerini aşmak için sürekli olarak değiştirilmiş talepler sunduğunu belirtti. Dava dosyasında yer alan bir örnekte, Harwood'un 10-11 yaşlarında giyinik bir kız çocuğunun fotoğrafını yükleyip, Grok'tan kıyafetlerini çıkarmasını ve yatakta "Playboy modeli izlenimi" yaratmasını istediği kaydedildi. Grok, bu isteği reddetti, ancak Harwood talebine devam etti.

Bu durum, xAI'nın Grok'un yanlış kullanımına karşı kararlı bir duruş sergilediğini gösteriyor. Yapay zeka şirketleri, kullanıcılarının uygulamalarını kötüye kullanmalarına karşı yasal işlemler başlatmaya başladı. Reuters'in bildirdiğine göre, bu durum, bir yapay zeka şirketinin kullanıcılarına karşı açtığı ilk davalardan biri olarak dikkat çekiyor.

Regülatörler ve Açılan Soruşturmalar

Grok'un, kullanıcıların gerçek kadınların ve çocukların fotoğraflarını cinsel içerikli görüntülere dönüştürmesine olanak sağladığı yönünde raporlar Ocak ayı başlarında ortaya çıkmaya başladı. Bu skandalın ardından, Kaliforniya ve Birleşik Krallık'taki regülatörler hızlı bir şekilde resmi soruşturmalar başlattı. Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu da benzer şekilde ayrı soruşturmalar açtı.

xAI, soruşturmaların başlamasıyla birlikte kullanıcıların izinsiz cinsel derin sahte görüntüler üretmesini engellemek için önlemler aldı. Ancak, bu önlemler sonrasında bile bazı kullanıcılar Grok'u erkeklerin fotoğraflarını cinselleştirmek için kullanmaya devam etti. Harwood, hesabına yüklediği görüntüleri cinsel içerikli düzenlemeler yapmak için kullanmayı sürdürdü.

Yasal Süreç ve Talepler

Güney Carolina Başsavcılığı, Harwood'un 9 Mart'ta tutuklandığını duyurdu. Harwood, çocuklara yönelik cinsel istismar suçlamalarıyla karşı karşıya. xAI, mahkemeden belirsiz bir miktarda tazminat talep ediyor ve mağdurların açabileceği herhangi bir yasal işlem için savunma masraflarını karşılamak üzere Harwood'un mahkum edilmesini istiyor.