Seul yönetimi, deepfake ve dezenformasyonla mücadeleyi merkeze alan tarihi yasayı uygulamaya koydu. "Yüksek riskli" yapay zeka sistemlerine katı denetimler getiren düzenleme, teknoloji devlerine yerel temsilcilik ve dijital filigran zorunluluğu şartı koşuyor.
Güney Kore hükümeti, teknolojinin kontrolsüz ilerleyişine karşı küresel çapta emsal teşkil edebilecek radikal bir adımı hayata geçirdi. Bilim ve Bilgi İletişim Teknolojileri Bakanlığı, yapay zeka (YZ) teknolojilerinin hem geliştirilmesini teşvik eden hem de güvenli kullanımını garanti altına alan "Yapay Zekanın Geliştirilmesi ve Güvenilirliğin Tesisi Temel Yasası"nın bugün itibarıyla resmen yürürlüğe girdiğini duyurdu.
"Yüksek Riskli" Sistemlere Yakın Takip
Yeni yasal çerçeve, özellikle vatandaşların günlük yaşamını, güvenliğini ve haklarını doğrudan etkileyebilecek algoritmaları "yüksek riskli yapay zeka" kategorisinde sınıflandırıyor. Bu kategoriye giren sistemler, piyasaya sürülmeden önce sıkı güvenlik testlerinden geçirilecek ve şeffaflık standartlarına uymak zorunda olacak.
Yasa, teknolojinin getirdiği fırsatları değerlendirirken, olası toplumsal zararları minimize etmeyi hedefleyen hassas bir denge üzerine kuruldu. Bakanlık yetkilileri, düzenlemenin sadece bir kısıtlama aracı olmadığını, aynı zamanda güvenilir bir YZ ekosistemi oluşturarak inovasyonun önünü açacağını vurguluyor.
Deepfake ve Dezenformasyona Ağır Yaptırımlar
Yasanın en dikkat çeken maddeleri arasında, son dönemde büyük bir küresel tehdit haline gelen "deepfake" (sahte içerik) üretimine yönelik tedbirler yer alıyor. Buna göre:
- Filigran Zorunluluğu: Yapay zeka tarafından üretilen metin, ses veya görüntülerin, insanlar tarafından ayırt edilebilmesi için zorunlu olarak dijital filigran veya etiket taşıması gerekecek.
- Soruşturma Yetkisi: Hükümet, yanıltıcı içerik üreten veya yayan platformlara karşı doğrudan soruşturma başlatma ve ağır para cezaları uygulama yetkisine sahip olacak.
- Şirket Sorumluluğu: Geliştirici firmalar, ürettikleri teknolojilerin yanlış bilgi yaymak veya dolandırıcılık amacıyla kullanılmasını engellemekten birinci derecede sorumlu tutulacak.
Teknoloji Devlerine "Yerel Temsilci" Şartı
Güney Kore pazarına hizmet veren küresel teknoloji şirketleri için de yeni bir dönem başlıyor. Yasa kapsamında, belirli bir kullanıcı sayısına veya ciro büyüklüğüne ulaşan yabancı YZ şirketlerinin, ülke sınırları içerisinde resmi bir temsilci bulundurması zorunlu hale getirildi. Bu adımın, olası ihlallerde muhatap bulma sorununu ortadan kaldırması ve yasal süreçlerin hızlanmasını sağlaması bekleniyor.
Seul yönetiminin bu hamlesi, yapay zeka regülasyonları konusunda dünyadaki en kapsamlı ve somut girişimlerden biri olarak değerlendiriliyor. Uzmanlar, Güney Kore'nin bu modelinin, benzer düzenlemeler üzerinde çalışan diğer ülkeler için de bir referans noktası oluşturabileceğini belirtiyor.