Elon Musk’ın sahibi olduğu X platformunun yapay zeka asistanı Grok, görselleri "çıplak veya bikinili" hale getirebilen düzenleme yeteneklerinin çocuk istismarı materyali üretiminde kullanıldığı iddialarıyla eleştirilerin odağında.
Sosyal medya platformu X (eski adıyla Twitter) bünyesinde hizmet veren yapay zeka sohbet botu Grok, son güncellemeleriyle birlikte gelen görsel üretme ve düzenleme yetenekleri nedeniyle ciddi bir güvenlik krizinin merkezine yerleşti. Platformun sunduğu yeni araçların, kullanıcıların yüklediği veya ürettiği görselleri "çıplak" ya da "bikinili" varyasyonlara dönüştürmesine olanak tanıdığı ve bu özelliğin çocuklara yönelik cinsel istismar içerikleri (CSAM) oluşturmak için suistimal edildiği tespit edildi.
Filtreleme Sistemindeki Zafiyetler
Teknoloji dünyasında geniş yankı uyandıran tartışmalar, Grok’un görsel oluşturma altyapısındaki güvenlik duvarlarının yetersiz kaldığı iddiaları üzerine yoğunlaşıyor. Edinilen bilgilere göre, yapay zeka botuna verilen belirli komutlar, normal şartlarda engellenmesi gereken hassas içeriklerin üretilmesine izin veriyor. Özellikle reşit olmayan bireylerin görsellerinin bu teknoloji aracılığıyla manipüle edilebilmesi, çocuk güvenliği savunucularını ve dijital haklar örgütlerini harekete geçirdi.
Sistemin, kullanıcıların "bikini" veya "çıplaklık" içeren anahtar kelimelerle görsel düzenleme yapmasına izin verdiği, bu durumun ise kötü niyetli aktörler tarafından çocuk istismarı materyali üretmek amacıyla kullanıldığı raporlandı. Uzmanlar, yapay zeka modellerinin eğitildiği veri setleri ve uygulanan filtreleme mekanizmalarının, bu tür hassas senaryoları engellemekte başarısız olduğunu vurguluyor.
Platforma Yönelik Tepkiler Büyüyor
X platformu ve sahibi Elon Musk, daha önce de içerik moderasyon ekiplerinde yapılan kesintiler ve platformdaki denetimsizlik iddiaları nedeniyle eleştirilerin hedefi olmuştu. Grok’un bu son özelliği, platformun güvenlik politikalarına dair endişeleri yeniden alevlendirdi. Dijital güvenlik analistleri, bu tür "kontrolsüz" yapay zeka araçlarının, deepfake teknolojisinin yarattığı riskleri katlayarak artırdığını belirtiyor.
Konuyla ilgili olarak düzenleyici kurumların inceleme başlatması beklenirken, çocuk hakları örgütleri X yönetimini derhal önlem almaya çağırdı. Platformun, söz konusu görsel düzenleme özelliğine kısıtlama getirip getirmeyeceği veya güvenlik protokollerini nasıl güncelleyeceği ise henüz belirsizliğini koruyor.
Yapay Zeka Etiği ve Yasal Sorumluluk
Bu gelişme, üretken yapay zeka teknolojilerinin etik sınırları ve yasal sorumlulukları konusundaki tartışmaları da derinleştirdi. Avrupa Birliği Dijital Hizmetler Yasası (DSA) ve diğer uluslararası düzenlemeler, platformların yasadışı içerik üretimini, özellikle de çocuk istismarını önlemekle yükümlü olduğunu net bir şekilde ortaya koyuyor. Grok örneği, teknoloji şirketlerinin yenilikçi özellikler sunarken güvenlik testlerini ne kadar titizlikle uyguladığı sorusunu bir kez daha gündeme taşıdı.