İngiliz medya denetçisi Ofcom, X platformuna entegre edilen yapay zeka aracı Grok’un yasa dışı ve rıza dışı cinsel içerikler ürettiği gerekçesiyle resmi soruşturma açtı. Şirket, ihlallerin tespiti halinde küresel gelirinin yüzde 10’una varan ağır para cezalarıyla karşı karşıya kalabilir.
Londra hükümeti, Elon Musk’ın sahibi olduğu sosyal medya platformu X’e (eski adıyla Twitter) karşı, bünyesindeki yapay zeka teknolojisi nedeniyle geniş kapsamlı bir yasal süreç başlattı. İngiltere’nin iletişim ve medya düzenleyici kurumu Ofcom, X’in Premium kullanıcılarına sunduğu yapay zeka sohbet robotu Grok’un, İngiltere Çevrimiçi Güvenlik Yasası’nı (Online Safety Act) ihlal edip etmediğini belirlemek üzere resmi bir inceleme başlattığını duyurdu.
Çocuk İstismarı ve Sahte İçerik Alarmı
Soruşturmanın merkezinde, Grok’un kullanıcı komutlarıyla ürettiği tartışmalı görseller yer alıyor. Ofcom’un incelemesi, yapay zeka aracının özellikle "çocuk cinsel istismarı materyalleri" ve "kişilerin rızası olmadan oluşturulan cinsel içerikli sahte görüntüler" (deepfake) üretme kapasitesine odaklanıyor.
Düzenleyici kurum, Grok’un bu tür yasa dışı içeriklerin yayılmasını önlemede yetersiz kaldığına dair ciddi endişeler taşıyor. Özellikle çocukların güvenliğini tehdit eden bu materyallerin üretilmesi, İngiltere’deki yeni ve sıkı internet yasaları kapsamında "kırmızı çizgi" olarak kabul ediliyor.
Süreç Nasıl İşledi?
Ofcom yetkilileri, soruşturma kararından önce şirket ile doğrudan temasa geçti. Kurum, 5 Ocak tarihinde X yönetimiyle iletişime geçerek, Grok’un ürettiği sakıncalı içerikler hakkında 9 Ocak tarihine kadar detaylı bir savunma ve izahat talep etti.
Şirketten gelen yanıtları veya alınan önlemleri yeterli bulmayan Ofcom, resmi soruşturma sürecini başlatma kararı aldı. Yapılan açıklamada, "X’in, yasa dışı içeriklerin yayılmasını engelleme ve çocukları koruma konusundaki yasal yükümlülüklerini yerine getirip getirmediğini tespit etmek için harekete geçiyoruz" denildi.
Milyar Dolarlık Ceza Riski
Açılan soruşturma, X için yalnızca bir itibar kaybı değil, aynı zamanda devasa bir finansal risk anlamına geliyor. İngiltere’nin Çevrimiçi Güvenlik Yasası, kurallara uymayan teknoloji devlerine karşı caydırıcı yaptırımlar öngörüyor.
Eğer soruşturma sonucunda X’in yasaları ihlal ettiğine hükmedilirse, şirket şu yaptırımlarla karşılaşabilir:
- İhlallerin düzeltilmesi için zorunlu süre tanınması.
- 18 milyon sterlin (yaklaşık 23 milyon dolar) veya şirketin küresel yıllık gelirinin yüzde 10’u oranında (hangisi daha yüksekse) para cezası.
X’in küresel gelirleri göz önüne alındığında, yüzde 10’luk dilim şirkete yüz milyonlarca dolarlık bir fatura çıkarabilir.
"Çocukları Koruyamayan Şirketlere Müsamaha Gösterilmeyecek"
Ofcom sözcüsü, soruşturmanın ciddiyetine vurgu yaparak, platformların İngiliz halkını yasa dışı içeriklerden korumakla yükümlü olduğunu hatırlattı. Sözcü, "Grok’un yasa dışı ve rıza dışı cinsel materyaller üretmesi son derece endişe verici. Görevlerini yerine getirmeyen ve özellikle çocukları koruyamayan şirketlere karşı inceleme başlatmaktan çekinmeyiz" ifadelerini kullandı.
İnceleme süreci boyunca Ofcom, X platformunun risk değerlendirme mekanizmalarını, içerik denetim süreçlerini ve yaş doğrulama sistemlerinin etkinliğini mercek altına alacak. Soruşturmanın ne kadar süreceği henüz netleşmezken, sürecin "yüksek öncelikli" olarak yürütüleceği belirtildi.