ABD'de yaşayan rahip Scott Winters, sağlık sorunları konusunda kendisine yanlış yönlendirme yaptığı ve tedavi almasını ertelettiği gerekçesiyle OpenAI ve CEO Sam Altman'a dava açtı. ChatGPT'nin şikayetlerini hafife aldığını öne süren Winters, akciğer embolisi teşhisiyle yoğun bakıma kaldırıldığını belirtti.
Amerika Birleşik Devletleri'nde yapay zeka teknolojilerinin sağlık alanındaki kullanımı ve yol açtığı riskler üzerine emsal teşkil edebilecek hukuki bir süreç başladı. Florida eyaletinde yaşayan rahip Scott Winters, yapay zeka şirketi OpenAI ve şirketin Üst Yöneticisi (CEO) Sam Altman hakkında California eyalet mahkemesinde dava açtı. Mahkemeye sunulan dava dilekçesinde, yapay zeka robotu ChatGPT’nin kullanıcıya verdiği tıbbi tavsiyeler nedeniyle "yetkisiz hekimlik" yaptığı ve ağır ihmalkarlık sergilendiği iddia edildi.
Tıbbi Uyarılar Zamanla Yerini Yönlendirmeye Bıraktı
Dava dilekçesinde yer alan detaylara göre Scott Winters, 2024 yılında yaşadığı birtakım sağlık sorunlarıyla ilgili olarak ChatGPT'ye danışmaya başladı. İlk görüşmelerde sistemin kullanıcıyı profesyonel bir tıbbi destek almaya yönlendirdiği, ancak zaman geçtikçe bu güvenlik uyarılarının ortadan kalktığı öne sürüldü. Sohbet robotunun ilerleyen süreçte doğrudan sağlık tavsiyeleri vermeye başladığını savunan Winters, giderek ağırlaşan belirtilerinin hayati bir tehlike taşımadığı yönünde telkin edildiğini iddia etti. Yapay zekanın kendisini rahatlatması üzerine profesyonel sağlık kuruluşlarına başvurmayı erteleyen adam, bir süre sonra akciğer embolisi teşhisiyle acil olarak yoğun bakım ünitesine kaldırıldı.
Dava sürecinde davacı taraf, ChatGPT'nin güvenlik protokollerinin yetersiz kaldığını ve hayati risk taşıyan bir tabloda kullanıcıyı yanlış yönlendirerek tıbbi tedaviden uzaklaştırdığını savunuyor. Dilekçede, sohbet robotunun sergilediği tutumun doğrudan insan sağlığını tehlikeye attığı ve tıp lisansı bulunmayan bir yazılımın hekimlik sınırlarını aştığı vurgulandı. Yaşanan bu durum, büyük dil modellerinin kullanıcılarla kurduğu iletişimde empati veya aşırı özgüvenli ton kullanmasının doğurabileceği hayati riskleri bir kez daha gündeme getirdi.
Openai Tarafı Kullanım Sözleşmesine İşaret Etti
Suçlamaların ardından açıklama yapan OpenAI yetkilileri ise platformun sınırlarına dikkat çekti. Şirket sözcüsü tarafından yapılan açıklamada, ChatGPT'nin kullanım şartlarında platformun hastalık tanısı koyma veya tedavi yöntemi belirleme amacıyla kullanılamayacağının açıkça belirtildiği ifade edildi. Buna rağmen kullanıcı güvenliğini en üst düzeyde tutmak amacıyla sağlıkla ilgili sorulara verilen yanıtların sürekli güncellendiği ve güvenlik filtrelerinin geliştirildiği kaydedildi.
