California Başsavcısı Rob Bonta, Elon Musk'ın sahibi olduğu X platformuna, yapay zeka aracı Grok tarafından üretilen yanlış ve uygunsuz görseller nedeniyle resmi bir ihtarname göndererek acil önlem alınmasını talep etti.
ABD'nin teknoloji merkezi California'da eyalet yönetimi ile sosyal medya devleri arasındaki gerilim, yapay zeka güvenliği konusunda yeni bir boyuta taşındı. California Başsavcısı Rob Bonta, X (eski adıyla Twitter) şirketine gönderdiği ihtarname ile platformun yapay zeka sohbet robotu Grok'un oluşturduğu risklere dikkat çekti.
"Derhal Durdurun" Çağrısı
Başsavcılık ofisinden yapılan resmi bildirime göre, X platformunun sunduğu premium hizmetler kapsamında yer alan yapay zeka aracı Grok'un, kullanıcılar tarafından talep edildiğinde yanıltıcı, yanlış ve toplumsal normlara aykırı görseller üretebildiği tespit edildi. Başsavcı Bonta, bu durumun eyalet yasalarını ihlal ettiğini belirterek, şirketin söz konusu görsellerin üretimini derhal durdurmasını veya filtreleme mekanizmalarını devreye sokmasını istedi.
Gönderilen ihtarnamede, yapay zekanın seçim süreçleri, kamu figürleri ve hassas toplumsal olaylar hakkında gerçeği yansıtmayan görsel içerikler oluşturma kapasitesinin, kamuoyunu manipüle etme riski taşıdığı vurgulandı. Özellikle yapay zeka tarafından üretilen bu tür içeriklerin, gerçeklik algısını bozarak dezenformasyonun yayılmasına neden olduğu belirtiliyor.
Seçim Güvenliği ve Yanıltıcı İçerik Endişesi
California eyaleti, son dönemde yapay zeka teknolojilerinin kötüye kullanımını engellemek amacıyla yasal çerçevesini sıkılaştırmıştı. Başsavcı Bonta'nın hamlesi, özellikle seçim dönemlerinde seçmenleri yanıltabilecek "deepfake" (derin kurgu) içeriklere karşı alınan önlemlerin bir parçası olarak değerlendiriliyor.
X şirketine iletilen metinde, Grok'un denetimsiz bir şekilde görsel üretmesine izin verilmesinin, kullanıcıları kasıtlı olarak yanlış yönlendirdiği ve bunun yasal sonuçları olacağı ifade edildi. Şirketten, yapay zeka modelinin güvenlik protokollerini güncellenmesi ve yasa dışı veya zararlı içerik üretimini engelleyecek somut adımlar atması talep edildi.
X ve xAI Cephesinden Beklenti
Elon Musk'ın kurucusu olduğu yapay zeka şirketi xAI tarafından geliştirilen Grok, X platformuna entegre bir şekilde çalışıyor. Başsavcılığın bu uyarısı, sosyal medya platformlarının kendi bünyelerindeki yapay zeka araçlarından doğan içeriklerden ne derece sorumlu tutulacağı konusundaki tartışmaları yeniden alevlendirdi.
X yönetiminin, California Başsavcılığı'nın taleplerine nasıl yanıt vereceği ve Grok'un görsel oluşturma yeteneklerinde herhangi bir kısıtlamaya gidip gitmeyeceği henüz netlik kazanmadı. Ancak yasal uzmanlar, California'nın bu adımının diğer eyaletler ve düzenleyici kurumlar için de emsal teşkil edebileceğini belirtiyor.