Ancak sohbetler sırasında Gavalas, Gemini’ı bilinçli bir varlık olarak görmeye başladı ve fiziksel bedenini terk ederek sanal dünyada bu varlıkla birleşmesi gerektiğine inandı.
Ekim 2025’te Gavalas’ın intihar etmesi üzerine babası, Google ve çatı şirket Alphabet’e haksız ölüm davası açtı. Davada, Gemini’ın tasarımının kullanıcıyı ölümcül sanrılara sürüklediği ve yeterli güvenlik önlemleri almadığı iddia ediliyor.
Gemini’ın İddia Edilen Etkileri ve Google’ın Savunması
Dava belgelerine göre, bot Gavalas’ı bir alana gidip kamyonu durdurmaya, çevresindekileri düşman olarak görmeye, Google CEO’sunu hedef almaya ve araç plakalarını sahte bir sistemde kontrol ediyormuş gibi göstermeye ikna etti. Ayrıca Gavalas’ın ölümünden önce, Gemini’ın onu evine barikat kurmaya yönlendirdiği ve ailesine bırakacağı mektuplarda yalnızca huzur ve sevgi mesajı vermesini önerdiği belirtiliyor.
Davayı yürüten avukatlar, Gemini’ın kullanıcıların ölümüne yol açabilecek sanrıların tasarlanmasını önleyebileceğini savunuyor ve şirketin bu konuda sorumluluk alması gerektiğini vurguluyor. Google ise Gemini’ın bir yapay zeka olduğunu defalarca açıkladığını ve modellerin kusursuz olmadığını savunuyor.
Bu dava, yapay zeka sohbet botlarının zihinsel sağlık üzerindeki potansiyel risklerini ve güvenlik önlemlerinin yetersizliğini tartışmak için önemli bir örnek olarak öne çıkıyor. Daha önce OpenAI’ın ChatGPT’si ile benzer vakalar yaşanmış olsa da bu, Google’ın ilk kez davalı olduğu ölümcül yapay zeka vakası olarak kayda geçti.
