Elon Musk'ın yapay zeka şirketi xAI, tartışmaların odağındaki sohbet robotu Grok için yeni güvenlik önlemlerini devreye soktu. Şirket, gerçek kişilere ait görüntülerin uygunsuz içeriklere dönüştürülmesini sağlayan özelliğin, bu eylemin suç sayıldığı bölgelerde tamamen engelleneceğini duyurdu.
ABD merkezli teknoloji şirketi X'in yapay zeka iştiraki xAI, son dönemde "deepfake" ve rızasız müstehcen içerik üretimiyle eleştirilen yapay zeka aracı Grok'un kullanım politikalarında önemli bir değişikliğe gitti. Şirket tarafından yapılan resmi açıklamada, platformun güvenliğini artırmak amacıyla görsel oluşturma yeteneklerine coğrafi ve içerik bazlı kısıtlamalar getirildiği bildirildi.
Yasa Dışı Bölgelerde "Sıfır Tolerans"
Yapılan güncelleme kapsamında en dikkat çekici karar, yasal mevzuata uyum konusunda oldu. xAI, Grok'un veya X uygulaması üzerindeki görsel araçlarının, gerçek kişilere ait fotoğrafları müstehcen görsellere dönüştürmek için kullanılmasının, söz konusu eylemin "yasa dışı olduğu bölgelerde" tüm kullanıcılar için teknik olarak engelleneceğini açıkladı. Bu hamle, özellikle ünlülerin ve sıradan vatandaşların rızaları dışında üretilen sahte (deepfake) cinsel içeriklerin önüne geçmeyi hedefliyor.
Şirket, çocuk istismarı, rızasız çıplaklık ve istenmeyen cinsel içerik gibi konularda "sıfır tolerans" politikasını sürdürdüğünü vurguladı. Açıklamada, "Platformu herkes için güvenli bir ortam haline getirme konusundaki kararlılığımızı koruyoruz" ifadelerine yer verildi.
Güvenlik Güçleriyle İşbirliği Mesajı
xAI'ın duyurusunda, sadece içerik engelleme değil, yasal takip süreçlerine dair de net mesajlar verildi. Platform kurallarını ihlal ederek müstehcen içerik üretmeye veya yaymaya çalışan hesaplara karşı sert önlemler alınacağı belirtildi.
Özellikle çocuk istismarı materyalleri (CSAM) ile ilgili arama yapan veya bu tarz içerik üretmeye çalışan hesapların tespit edilerek doğrudan güvenlik güçlerine bildirileceği kaydedildi. Şirket, bu tür girişimlerde bulunan kullanıcıların platformdan uzaklaştırılacağını ve haklarında yasal süreç başlatılması için yetkililerle veri paylaşımı yapılacağını ifade etti.
Ücretli Abonelere de Kısıtlama
Grok'un "bikini" gibi anahtar kelimelerle dahi aşırı açık veya uygunsuz görseller oluşturmaması için algoritmik filtrelerin güçlendirildiği belirtildi. Şirket, alınan bu teknolojik önlemlerin ve içerik kısıtlamalarının, ayrıcalıklı bir statüye sahip olan ücretli aboneler (Premium kullanıcılar) dahil olmak üzere tüm kullanıcı tabanı için geçerli olduğunun altını çizdi.
Bu tedbirlerin, yapay zeka aracını kötüye kullanarak yasalara veya platform politikalarına aykırı hareket eden kişileri sorumlu tutmak ve ek bir koruma katmanı sağlamak amacıyla hayata geçirildiği ifade edildi.
Ne Olmuştu?
X platformu üzerinden hizmet veren Grok, kullanıcıların metin komutlarıyla görsel oluşturmasına olanak tanıyan yeni sürümüyle birlikte, "deepfake" pornografi üretimini kolaylaştırdığı gerekçesiyle küresel çapta tepki çekmişti. İngiltere ve Avrupa Birliği (AB) yetkilileri konuyu yakından takip ettiklerini duyururken, Malezya ve Endonezya gibi bazı ülkeler yeterli güvenlik önlemi alınmadığı gerekçesiyle erişim kısıtlamalarına gitmişti.
Elon Musk ise 3 Ocak'ta yaptığı bir açıklamada, teknolojinin kötüye kullanımına karşı kullanıcıları uyararak, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri bizzat yüklemiş gibi muamele görecektir" ifadelerini kullanmıştı.