OpenAI'nin paylaştığı bilgilere göre, ChatGPT kullanıcılarının yaklaşık %0,07'sinde mani, psikoz veya intihar düşüncesi gibi endişe verici belirtiler görülüyor. BBC'nin haberine göre, kullanıcıların %0,15'inde kendine zarar verme niyeti gösteren açık sinyaller tespit edildi.
Şirket, bu tür durumların oldukça nadir yaşandığını vurgulasa da, toplam kullanıcı sayısının 800 milyona ulaşması, bu oranların binlerce kişiye karşılık geldiğini gösteriyor.
Profesyonel Yardım ve Önlemler
OpenAI, bu tür riskli durumları yönetmek amacıyla 170'den fazla ruh sağlığı uzmanını dahil ederek, kullanıcıları profesyonel yardım alacakları yönlendiren yanıt algoritmaları geliştirdi.
Kaliforniya Üniversitesi profesörü Jason Nagata, yapay zekânın kullanıcılara destek olabileceğini ancak uzmanların yerini tamamen alamayacağını belirtti.
ABD'de Açılan Dava
Yakın zamanda Kaliforniya'daki bir gencin ailesi, ChatGPT'nin tehlikeli düşüncelerini desteklediği iddiasıyla OpenAI'ye dava açtı. Şirket, davaya ilişkin olarak üzüntülerini iletirken, olayın araştırıldığını açıkladı.
Öne Çıkan Noktalar:
- ChatGPT kullanıcılarının küçük bir kısmında mani, psikoz veya intihar düşüncesi tespit edildi.
- Kullanıcıların %0,15'inde kendine zarar verme sinyalleri görüldü.
- OpenAI, ruh sağlığı uzmanlarının katkısıyla profesyonel yönlendirme algoritmaları geliştirdi.
- ABD'de bir aile, ChatGPT'nin tehlikeli düşünceleri desteklediği gerekçesiyle dava açtı.
