Yapay zeka teknolojisinin önde gelen temsilcilerinden Anthropic, yapay zeka sistemlerinin insan kontrolü dışında "özyinelemeli kendini geliştirme" aşamasına geçebileceği konusunda uyararak, küresel çapta geliştirme süreçlerinin geçici olarak durdurulması seçeneğinin masaya yatırılmasını önerdi.
Yapay zeka sektörünün önde gelen şirketlerinden Anthropic, yapay zeka sistemlerinin giderek daha fazla insan müdahalesi olmadan yazılım geliştirme ve araştırma süreçlerini yürütmeye başladığını belirterek çarpıcı bir uyarıda bulundu. Şirket, bu eğilimin kontrolsüz bir şekilde devam etmesi durumunda yapay zekanın kendi kendini geliştirebilen sistemlere dönüşebileceğini ve bu süreçte küresel bir yavaşlatma ya da geçici durdurma seçeneğinin değerlendirilmesi gerektiğini bildirdi.
Anthropic'in kurucu ortağı Jack Clark ile Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı analizde, geçmişte tamamen insan eliyle yürütülen geliştirme süreçlerinin günümüzde giderek daha fazla yapay zekanın kendisine devredildiği vurgulandı. Yazıda, bu durumun yeni sistemleri tasarlama ve geliştirme hızını ciddi biçimde artırdığına dikkat çekildi.
Yapay zekanın gelecekte kendi haleflerini, yani bir sonraki gelişmiş modellerini tasarlayıp inşa edebilecek bir seviyeye ulaşabileceği belirtilen raporda, bu durum "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırıldı. Şirket uzmanları, henüz tamamen bu noktada olunmadığını ancak bu aşamaya pek çok kurumun tahmin ettiğinden çok daha erken bir zamanda ulaşılabileceğini kaydetti.
Kendi kendini inşa eden yapay zekanın tıp, bilim ve genel teknoloji alanlarında büyük faydalar sağlama potansiyeli bulunduğunu kabul eden analistler, madalyonun diğer yüzündeki güvenlik tehlikelerine de değindi. Rapora göre, kendi kendini geliştiren sistemler, insanların yapay zeka üzerindeki denetimini tamamen kaybetmesi riskini doğuruyor. Yazarlar, sistemlerin kendi haleflerini tamamen inşa edebilecek kapasiteye ulaşması durumunda, bu sistemleri izleme, güvence altına alma ve davranışlarını şekillendirme yöntemlerinin çok daha hayati bir önem kazanacağını ifade etti.
Toplumların ve devlet yapılarının bu hızlı teknolojik dönüşüme ayak uydurabilmesi için radikal önlemlerin alınması gerektiği savunulan analizde, ileri düzey yapay zeka geliştirme faaliyetlerinin yavaşlatılması veya geçici olarak askıya alınması önerildi. Şirket, bu tür bir durdurma kararının etkili olabilmesi için birden fazla ülkede, önde gelen yapay zeka laboratuvarlarının katılımıyla ve ortak koşullar altında uygulanması gerektiğinin altını çizdi.