Grok ile Çocukluğuna Dönüş: Kadın, Üvey Babasının Fotoğraflarını Manipüle Ettiğini İddia Ediyor

Tennessee'de yaşayan Jane Doe 4 isimli bir kadın, Elon Musk'ın xAI şirketine karşı açılan bir davaya katıldı. Davada, şirketin yapay zeka sohbet botu Grok'ın, çocuk cinsel istismarına yönelik içerik oluşturmadaki rolü sorgulanıyor.

Washington Post'un haberine göre, Jane Doe 4, üvey babasının Grok kullanarak 11 yaşındayken çekilmiş bir fotoğrafını manipüle ettiğini ve bu şekilde 7,000'den fazla müstehcen görüntü ürettiğini iddia etti. Kadının üvey babasının, bu görüntülerin ortaya çıkmasının ardından iki gün içinde intihar ederek hayatına son verdiği belirtildi.

Jane Doe 4, “Bu tür araçlara sınırsız erişim hızla yayılıyor,” diyerek endişesini dile getirdi. “Günlük hayatı alıp, çocuk cinsel istismarına dönüştürüyor.” şeklinde konuştu.

Dava açan gençler, xAI'yi (şu an SpaceX'in bir parçası) Grok'ın gerçek kişilerin, özellikle de çocukların, müstehcen görüntülerini oluşturmasını önlemek için temel önlemler almamakla suçluyor. Bu yılın başlarında, X platformunda milyonlarca Grok tarafından üretilen cinsel içerikli görüntülerin dolaşıma girdiği ifade ediliyor. Gençler, davalarının toplu dava statüsü kazanmasını talep ediyorlar.

TechCrunch, xAI'ye konuyla ilgili yorum yapması için ulaştı ancak henüz bir yanıt alınamadı.

Bu tür durumlarla karşılaşan ya da intihar düşünceleri olan bireylerin, 988 numarasını arayarak 988 İntihar ve Kriz Hattı'na ulaşmaları öneriliyor.