Avrupa Birliği Komisyonu, Elon Musk’a ait sosyal medya platformu X’in yapay zeka aracı Grok tarafından oluşturulan müstehcen ve yasa dışı görsellerin yayılmasını önlemede yetersiz kaldığı gerekçesiyle Dijital Hizmetler Yasası (DSA) kapsamında resmi inceleme başlattı.
Avrupa Birliği (AB) yürütme organı olan Avrupa Komisyonu, ABD merkezli teknoloji şirketi X’e karşı yeni bir yasal süreç başlattığını duyurdu. Komisyon, platforma entegre edilen üretken yapay zeka aracı Grok'un, müstehcen ve zararlı görsellerin oluşturulmasına izin verdiği ve bu konuda gerekli güvenlik önlemlerinin alınmadığı iddiaları üzerine harekete geçti.
Dijital Hizmetler Yasası Kapsamında İnceleme
Brüksel merkezli yetkililer tarafından yapılan açıklamada, soruşturmanın AB'nin internet üzerindeki içerik denetimini düzenleyen Dijital Hizmetler Yasası (DSA) çerçevesinde yürütüleceği belirtildi. X platformu, AB bölgesindeki kullanıcı sayısı nedeniyle "Çok Büyük Çevrimiçi Platform" (VLOP) statüsünde bulunuyor ve bu statü, şirkete yasa dışı içeriklerin yayılmasını önleme konusunda en üst düzeyde sorumluluklar yüklüyor.
Soruşturmanın odak noktasında, Grok'un görsel oluşturma yeteneklerinin kötüye kullanımı yer alıyor. Özellikle, rıza dışı üretilen cinsel içerikli görsellerin (deepfake) ve şiddet içeren materyallerin, yapay zeka aracı vasıtasıyla kolayca oluşturulabilmesi ve platformda hızla yayılması, Birlik yetkililerini endişelendiren temel hususlar arasında gösteriliyor.
Güvenlik Duvarları ve Risk Analizi Mercek Altında
Komisyon, X şirketinden Grok algoritmasının nasıl çalıştığına, içerik oluşturma süreçlerinde hangi güvenlik duvarlarının (guardrails) aktif olduğuna ve risk azaltma tedbirlerinin yeterliliğine dair detaylı bilgi talep etti. İnceleme kapsamında şu başlıklar öne çıkıyor:
- Yasa Dışı İçerik Üretimi: Yapay zekanın, kullanıcı komutlarıyla yasa dışı veya zararlı görseller üretmesinin engellenip engellenmediği.
- Risk Değerlendirmesi: Şirketin, üretken yapay zeka teknolojisini kullanıma sunmadan önce zorunlu risk analizlerini yapıp yapmadığı.
- İçerik Etiketleme: Yapay zeka ile üretilen görsellerin, gerçek görüntülerden ayırt edilmesini sağlayacak şeffaflık önlemlerinin alınıp alınmadığı.
Olası Yaptırımlar
Dijital Hizmetler Yasası, kurallara uymayan platformlara karşı sert yaptırımlar öngörüyor. Eğer soruşturma sonucunda X'in yükümlülüklerini ihlal ettiği kesinleşirse, şirket küresel yıllık cirosunun yüzde 6’sına varan ağır para cezalarıyla karşı karşıya kalabilir. Ayrıca Komisyon, ihlalin devam etmesi durumunda platformun belirli özelliklerinin AB sınırları içerisinde erişime kapatılmasını talep etme yetkisine de sahip.
Süreç, Komisyon'un toplayacağı deliller ve X tarafından sunulacak savunmalar ışığında ilerleyecek. Teknoloji dünyası, AB'nin yapay zeka denetimi konusundaki bu hamlesinin, diğer üretken yapay zeka geliştiricileri için de emsal teşkil edebileceğini belirtiyor.