Güney Kore telekomünikasyon düzenleyicisi, Elon Musk'ın yapay zeka aracı Grok tarafından üretilen müstehcen deepfake içeriklerin yayılmasını önlemek ve reşit olmayan kullanıcıları korumak adına X platformundan somut adımlar atmasını talep etti.
Güney Kore hükümeti, sosyal medya platformu X (eski adıyla Twitter) üzerinde çalışan yapay zeka sohbet robotu Grok'un ürettiği kontrolsüz içeriklere karşı harekete geçti. Kore İletişim Komisyonu (KCC), Elon Musk'ın sahibi olduğu xAI şirketine resmi bir bildirimde bulunarak, yapay zeka tarafından oluşturulan cinsel içerikli materyallere karşı daha sıkı denetim mekanizmaları kurulmasını istedi.
Reşit Olmayanlar İçin Koruma Kalkanı Talebi
Seul merkezli düzenleyici kurum tarafından yapılan açıklamada, Grok'un özellikle rıza dışı üretilen cinsel içerikli sahte görseller (deepfake) konusunda ciddi bir risk oluşturduğu vurgulandı. Komisyon, X yönetiminden bu tür yasa dışı faaliyetlerin engellenmesi için teknik altyapının güçlendirilmesini talep etti.
KCC'nin talepleri arasında, platformun reşit olmayan kullanıcıları zararlı içeriklerden korumak amacıyla erişim kısıtlamaları getirmesi ve içerik yönetim sistemlerini revize etmesi öne çıkıyor. Kurum, yapay zekanın kötüye kullanımının önüne geçilmesi için işletmecinin proaktif bir sorumluluk üstlenmesi gerektiğinin altını çizdi.
Yasal Yükümlülükler Hatırlatıldı
Güney Kore'deki mevcut internet düzenlemelerine göre, X gibi büyük ölçekli platformların reşit olmayanların korunmasından sorumlu özel bir yetkili ataması ve bu konuda her yıl devlete düzenli rapor sunması zorunluluğu bulunuyor.
Yetkililer, kişilerin rızası olmadan cinsel içerikli görüntülerin oluşturulması, saklanması veya dağıtılmasının Güney Kore yasalarına göre ağır cezai yaptırımları olan bir suç olduğunu hatırlattı. Yapay zeka teknolojisinin bu tür suçların işlenmesini kolaylaştırmaması gerektiği belirtildi.
Küresel Tepkiler Büyüyor
Grok'un ünlü isimlerin veya sıradan vatandaşların fotoğraflarını kullanarak sahte müstehcen görseller üretme yeteneği, sadece Güney Kore'de değil, küresel çapta da tepki topluyor.
Daha önce İngiltere, Avrupa Birliği ve çeşitli Asya ülkeleri de benzer endişeleri dile getirmişti. Malezya ve Endonezya gibi ülkeler, güvenlik önlemlerinin yetersizliği gerekçesiyle dönem dönem platforma yönelik erişim kısıtlamaları veya inceleme kararları almıştı.
X'in sahibi Elon Musk ise geçtiğimiz haftalarda yaptığı bir açıklamada, Grok'u yasa dışı içerik üretimi için kullanan hesapların, bu içerikleri doğrudan yüklemiş gibi muamele göreceğini ve cezalandırılacağını belirtmişti. Ancak düzenleyici kurumlar, bireysel cezalandırmadan ziyade, içeriklerin oluşum aşamasında engellenmesini sağlayacak sistemsel çözümler bekliyor.