Önde gelen yapay zeka şirketlerinden Anthropic'in kurucu ortağı Christopher Olah, yapay zekanın yalnızca teknoloji devlerinin inisiyatifine bırakılamayacak kadar karmaşık etik sorunlar barındırdığını belirterek; hükümetler, dini liderler ve sivil toplum kuruluşlarını sürece dahil olmaya çağırdı.
Vatikan Devlet Başkanı Papa 14. Leo'nun yapay zeka çağında insan onurunu korumayı hedefleyen "Magnifica Humanitas (Muhteşem İnsanlık)" adlı papalık belgesini yayımlamasının ardından, teknoloji dünyasından dikkat çekici bir özeleştiri ve çağrı geldi. Güvenlik odaklı yapay zeka modeli "Claude"un geliştiricisi Anthropic şirketinin kurucu ortaklarından Christopher Olah, belgenin tanıtım töreninde yaptığı konuşmada sektörün gidişatına dair önemli uyarılarda bulundu.
Olah, yapay zekanın sadece bir mühendislik problemi olarak görülmesinin büyük bir yanılgı olduğunu vurguladı. "Birçok kişi, yapay zekaya dair meselelerin sadece mühendisler tarafından değerlendirilmesinin en doğru yaklaşım olduğunu düşünebilir ancak bu yanlış," ifadelerini kullanan Olah, bu teknolojinin ortaya çıkardığı soruların araştırma camiasının kapasitesini aştığını dile getirdi.
"Yapay Zeka Onu Geliştirenler İçin Bile Bir Gizem"
Yapay zeka sistemlerini köprü veya uçak gibi geleneksel ve tamamen öngörülebilir mühendislik ürünlerinden ayıran Olah, bu sistemlerin doğrudan insan dili ve düşünce yapısından beslendiğini hatırlattı. Üretken algoritmaların sınırlarının tam olarak çizilemediğini belirten teknoloji lideri, yapay zekanın onu geliştiren kod yazarları ve mimarlar için dahi kısmen gizemini koruduğunu itiraf etti.
Olah, sürecin sağlıklı yürütülebilmesi için çok aktörlü bir denetim mekanizmasına ihtiyaç duyulduğunun altını çizerek; sivil toplum kuruluşlarının, hükümetlerin, dini toplulukların, akademisyenlerin ve geniş halk kitlelerinin yapay zekayı çok daha yakından incelemesi gerektiğini savundu.
Küresel Eşitsizlik ve Teknolojik Tekel Vurgusu
Gelişmiş algoritmaların inşasının ciddi bir altyapı gerektirdiğini belirten Olah, yapay zeka alanındaki çalışmaların dünyadaki birkaç zengin ülke ve şirket etrafında kümelendiğine dikkat çekti. Teknoloji devinin kurucu ortağı, "Bu teknolojinin kazanımlarının tüm dünyayla adil şekilde paylaşılmasını sağlayacak bir mekanizmamız henüz yok," diyerek küresel fırsat eşitsizliğine vurgu yaptı.
Papa 14. Leo da törendeki konuşmasında, teknolojik gelişim ile insanlık onuru arasındaki dengenin korunmasına verdiği destekten ötürü Christopher Olah'a özel olarak teşekkür etti.
Pentagon ile 'Güvenli Yapay Zeka' Çatışması
Christopher Olah'ın "küresel denetim" ve "etik" vurgusu, şirketi Anthropic'in yakın zamanda ABD Savunma Bakanlığı (Pentagon) ile yaşadığı krizin ardından gelmesiyle de önem taşıyor. Anthropic, geliştirdiği dil modeli Claude'un tam otonom silah sistemlerinde ve kitlesel iç gözetim faaliyetlerinde sınırsız kullanımına izin vermediği için Pentagon ile karşı karşıya gelmişti.
Güvenlik ilkelerinden taviz vermeyen şirket, Pentagon tarafından federal kurumlarda yasaklanmış ve "ulusal güvenlik riski" olarak ilan edilmişti. Yaşanan bu anlaşmazlık daha sonra ABD'de yargıya taşınmıştı. Olah'ın Vatikan'daki açıklamaları, şirketin yapay zeka etiği konusundaki katı tutumunu uluslararası platformlarda da sürdüreceğinin bir işareti olarak yorumlanıyor.