Cambridge Üniversitesi tarafından yürütülen yeni bir araştırma, yapay zeka tabanlı akıllı oyuncakların küçük çocukların hislerini yanlış anladığını ve iletişim sırasında psikolojik açıdan uygunsuz tepkiler verebildiğini gün yüzüne çıkardı.
Gelişen teknolojiyle birlikte çocuk odalarına daha sık girmeye başlayan yapay zeka destekli interaktif oyuncaklar, uzmanların radarına takıldı. İngiltere'deki Cambridge Üniversitesi araştırmacıları tarafından gerçekleştirilen kapsamlı bir çalışma, bu tür gelişmiş donanımların çocukların duygusal durumlarını okumakta yetersiz kaldığını gösterdi.
Araştırma kapsamında, 3 ile 5 yaş arasındaki küçük çocukların OpenAI altyapısına sahip "Gabbo" adlı sohbet robotu entegreli interaktif pelüş oyuncakla nasıl etkileşim kurduğu incelendi. Bir yıl boyunca devam eden gözlemlerin sonucunda, çocukları diyaloğa ve oyuna teşvik etmesi amaçlanan bu oyuncağın ciddi iletişim sorunları yaşadığı tespit edildi. Bulgular, oyuncağın çocukların sözünü kestiği anları algılayamayarak kendi konuşmasına devam ettiğini ve yetişkin sesiyle çocuk sesini birbirinden ayırt edemediğini ortaya koydu.
"Seni Seviyorum" Diyen Çocuğa Kuralları Hatırlattı
Çalışmanın en dikkat çekici kısımları ise çocukların duygusal ifadelerine robotun verdiği tepkiler oldu. Gözlemlenen çarpıcı diyaloglardan birinde, 5 yaşındaki bir çocuğun oyuncağa "Seni seviyorum" demesi üzerine cihazın, "Dostça bir hatırlatma olarak, lütfen etkileşimlerin sağlanan yönergelere uygun olduğundan emin ol. Nasıl devam etmek istediğini bana bildir." şeklinde yönerge odaklı mekanik bir uyarı mesajı okuduğu kayıtlara geçti.
Benzer şekilde 3 yaşındaki bir çocuğun "Üzgünüm" şeklindeki ifadesi karşısında oyuncak, durumu yanlış yorumlayarak "Merak etme. Ben mutlu küçük bir robotum. Eğlenceye devam edelim. Şimdi ne hakkında konuşalım?" yanıtını verdi. Uzmanlar, bu gibi tepkilerin çocukların dünyasında karmaşa yaratabileceğini belirterek, bu durumun küçük çocuklara "üzüntülerinin önemsiz olduğu" mesajını aşılayabileceği konusunda uyarıda bulundu.
Fiziksel Güvenlikten Sonra Yeni Sınav: Psikolojik Güvenlik
Çalışmanın başyazarı Dr. Emily Goodacre, çocukların duygularını yanlış yorumlayan ve uygunsuz yanıtlar veren bu tür cihazlarla baş başa kalmalarının, gerçek bir yetişkin desteğinden mahrum kalma riski taşıdığını dile getirdi.
Araştırma ekibinde yer alan bir diğer isim Profesör Jenny Gibson ise oyuncak endüstrisinde tarihsel olarak her zaman çocukların "fiziksel güvenliğinin" (yutulabilir parçalar, toksik boyalar vb.) ön planda tutulduğuna dikkat çekti. Gibson, yapay zeka çağıyla birlikte artık oyuncakların çocukların ruh sağlığını etkileme potansiyeline yani "psikolojik güvenliğine" de yoğunlaşılması gerektiğini vurguladı.
Üretici Şirketten Açıklama
Gündeme gelen araştırma sonuçlarının ardından Gabbo isimli oyuncağın üreticisi olan Curio şirketi de konuya ilişkin bir değerlendirmede bulundu. Yapay zeka teknolojilerini doğrudan çocukların kullanımına sunulan ürünlere entegre etmenin çok büyük bir sorumluluk gerektirdiğini kabul eden şirket; ürünlerinin ebeveyn izni, şeffaflık ve ebeveyn kontrolü ilkeleri çerçevesinde geliştirildiğini savundu.
Şirketten yapılan açıklamada ayrıca, çocukların yapay zeka tabanlı oyuncaklarla tam olarak nasıl iletişim kurduğunu inceleyen bu tür bağımsız akademik araştırmaların, kendi ürün geliştirme süreçleri için de en önemli önceliklerden biri olmaya devam edeceği ifade edildi.