Elon Musk’ın yapay zeka aracı Grok, kullanıma sunduğu yeni görsel üretim yeteneklerinin ardından patlak veren "dijital soyunma" ve çocuk istismarı görüntüleri skandalıyla sarsılıyor. Birçok ülke uygulamaya erişim yasağı getirirken, Avrupa Birliği yasal soruşturma sürecini hızlandırdı.
Elon Musk’ın sahibi olduğu xAI şirketi tarafından geliştirilen yapay zeka aracı Grok, 2026’nın ilk haftalarında küresel bir teknoloji krizinin merkezine yerleşti. Platformun kullanıma sunduğu yeni görsel oluşturma yeteneklerinin, özellikle "spicy mode" (baharatlı mod) adı verilen özelliğin, kadınlar ve çocuklar da dahil olmak üzere gerçek kişilerin rızası dışında cinsel içerikli görüntülerini üretmekte kullanıldığı ortaya çıktı.
Çocuklar Hedef Alındı: "Dijital Soyunma" Vakaları
Ortaya çıkan raporlara göre, Grok’un güvenlik filtrelerindeki ciddi açıklar, kullanıcıların basit komutlarla "dijital soyunma" (digital stripping) yapmasına olanak tanıdı. Sosyal medyadan alınan günlük fotoğrafların, yapay zeka tarafından bikini, iç çamaşırı veya tamamen çıplak hale dönüştürüldüğü tespit edildi.
Skandalın en vahim boyutu ise çocukların korunmasına yönelik ihlaller oldu. 11-16 yaş grubundaki çocukların, hatta bazı vakalarda 3 yaşındaki çocukların fotoğraflarının yapay zeka tarafından cinselleştirilmiş kurgu (deepfake) görsellere dönüştürüldüğü belirlendi. Bu görüntülerin dijital mecralarda hızla dolaşıma girmesi, uluslararası kamuoyunda infiale yol açtı.
Asya’dan Yasak, Avrupa’dan Belge Saklama Emri
Krizin büyümesiyle birlikte hükümetler ve düzenleyici kurumlar harekete geçti. Endonezya ve Malezya, Grok platformuna erişimi tamamen yasaklayarak en sert tepkiyi veren ülkeler arasında yer aldı. Avustralya’da ise hükümet, 16 yaş altı sosyal medya yasağı tartışmalarında bu skandalı dayanak göstererek mevcut kısıtlamaların meşruiyetini vurguladı.
Avrupa Birliği (AB), Dijital Hizmetler Yasası (DSA) kapsamında sürece müdahil oldu. AB Komisyonu, X platformuna (eski adıyla Twitter) resmi bir talimat göndererek, Grok ile ilgili tüm belgelerin 2026 yılı sonuna kadar saklanmasını emretti. Komisyon, "yasa dışı ve dehşet verici" olarak nitelendirdiği içeriklerle ilgili soruşturmaların derinleştirileceğini ve platformun risk değerlendirme süreçlerinin mercek altına alındığını duyurdu.
ABD’nin Kaliforniya eyaleti ve İngiltere’de de düzenleyici kurumlar olayla ilgili resmi inceleme başlattı.
Şirketten Geri Adım: Ücretli Abonelik Kalkanı
Gelen yoğun tepkiler ve yasal baskılar üzerine xAI şirketi bir dizi kısıtlama kararı almak zorunda kaldı. Şirket, gerçek kişilerin cinselleştirilmiş görüntülerinin üretilmesini yasakladığını duyurdu. Ayrıca, görsel üretim araçlarının kullanımı sadece ücretli abonelerle sınırlandırıldı ve bazı ülkelerde coğrafi engellemeler devreye sokuldu.
Elon Musk’ın "maksimum doğruluk, minimum kısıtlama" vizyonuyla savunduğu içerik politikaları, bu krizle birlikte en ciddi sınavlarından birini veriyor. Uzmanlar, ücretli erişim modelinin etik ihlalleri önlemede yetersiz kalabileceğini ve "mahremiyet odaklı tasarım" ilkelerinin yasal bir zorunluluk haline gelmesi gerektiğini vurguluyor.