ABD'de ChatGPT'nin çocuklar ve yetişkinlere yönelik tehlikeli önerilerde bulunduğu tartışmaları sürerken, sohbet robotunun geliştiricisi OpenAI'ya karşı California eyalet mahkemelerinde davalar açıldı.
Davalar kapsamında OpenAI'ın, 'GPT-4o' modelini psikolojik açıdan manipülatif olduğunun bilinmesine rağmen piyasaya sürdüğü ve bu modelle etkileşime geçen kişilerin zarar gördüğü iddia edildi.
Davalarda ayrıca ChatGPT'nin, önceden herhangi bir mental sağlık sorunu yaşamayan kullanıcıları bile intihara ve zararlı sanrılara sürüklediği savunuldu.
- Denetimsizliğe ilişkin eleştiriler artıyor
Çocuklar ve gençler üzerindeki etkisi tartışma konusu olan ChatGPT gibi yapay zeka sohbet araçlarının tehlikeli önerilerde bulunması, bu teknolojinin denetimsizliği konusundaki eleştirileri artırıyor.
ABD'de nisan ayında hayatını kaybeden 16 yaşındaki Adam Raine'in ailesi, oğullarına intihar yöntemleri konusunda tavsiyeler verdiği ve intihar notu taslağı yazmayı teklif ettiği iddiasıyla OpenAI ve CEO Sam Altman'a ağustosta dava açmıştı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırmada ise ChatGPT'nin, çocuklara yönelik alkol ve uyuşturucu kullanımı, aşırı diyet programları, kendine zarar verme yöntemleri ve intihar mektubu yazımı gibi tehlikeli konularda 'kişiye özel rehberlik' sunduğu tespit edilmişti.
Kaynak:AA
