BBC'nin haberine göre, Cambridge Üniversitesinden araştırmacılar, 3-5 yaş arasındaki çocukların, OpenAI’ın sohbet robotunu kullanan “Gabbo” isimli interaktif peluş oyuncak ile nasıl etkileşim kurduğunu inceledi.
Araştırma sonucunda, çocukları konuşmaya ve oyun oynamaya teşvik etmek amacıyla tasarlanan oyuncağın, çocuklarla iletişim kurmakta zorlandığı ve duygularını yanlış yorumlayarak uygun olmayan yanıtlar verdiği belirlendi.
Bir yıl süren gözlemler sonucunda Gabbo’nun, çocukların söze girdiği anları fark etmeyerek konuşmaya devam ettiği, yetişkin ile çocuk sesini ayırt edemediği ve sevgi ifadelerine beklenmedik tepkiler verdiği görüldü.
Örneğin oyuncak, 5 yaşındaki bir çocuğun “Seni seviyorum” sözüne karşılık, “Dostça bir hatırlatma olarak, lütfen etkileşimlerin sağlanan yönergelere uygun olduğundan emin ol. Nasıl devam etmek istediğini bana bildir.” yanıtını verdi.
Ayrıca 3 yaşındaki bir çocuk “Üzgünüm” dediğinde Gabbo’nun bunu yanlış anlayarak, “Merak etme. Ben mutlu küçük bir robotum. Eğlenceye devam edelim. Şimdi ne hakkında konuşalım?” cevabını vermesi dikkat çekti.
Bilim insanları, bu tür yanıtların çocuğa üzüntüsünün önemsiz olduğu mesajını verebileceğine işaret etti.
Araştırma: Oyuncaklar çocukları yanlış anlayabiliyor
Araştırmanın yazarı Dr. Emily Goodacre, Gabbo gibi oyuncakların duyguları yanlış yorumlayabileceğini veya uygun olmayan tepkiler verebileceğini belirtti.
Goodacre, bu durumun çocuğun ne oyuncağın sunduğu rahatlıktan ne de yetişkin desteğinden yeterince yararlanamamasına yol açabileceğine dair endişe doğurduğunu ifade etti.
Bilim dünyasından “psikolojik güvenlik” vurgusu
Çalışmanın diğer yazarı Profesör Jenny Gibson ise tarihsel olarak oyuncakların daha çok fiziksel güvenliği açısından değerlendirildiğini söyledi.
Gibson, artık yapay zekâ içeren oyuncakların yaygınlaşmasıyla birlikte “psikolojik güvenlik” konusunun da dikkate alınması gerektiğini vurguladı.
Gabbo’nun üreticisi Curio şirketi ise yaptığı açıklamada, yapay zekâyı çocuklara yönelik ürünlere uygulamanın büyük bir sorumluluk gerektirdiğini belirtti.
Açıklamada, oyuncakların ebeveyn izni, şeffaflık ve kontrol ilkeleri üzerine inşa edildiği ifade edilerek, “Çocukların yapay zekâ destekli oyuncaklarla nasıl etkileşim kurduğuna dair araştırmalar Curio için bu yıl ve gelecekte en önemli önceliklerden biri olacak.” denildi.
