Musk'ın çocuğunun annesi St. Clair, Grok'un müstehcen içerik üretmesi nedeniyle xAI'ye dava açtı
CBS News'in haberine göre St. Clair, Grok'un kullanıcıların kendisine ait cinsel içerikli 'deepfake' görseller üretmesine imkân tanıdığını, şikayetlere rağmen yeterli önlemlerin alınmadığını savunarak New York Eyaleti Yüksek Mahkemesinde xAI'ye dava açtı.
İddialar ve dava dilekçesi
Dava dilekçesinde, Grok sisteminin ihmalkar davrandığı, yapay zekânın kurbanları aşağılayan ve cinsel olarak istismar eden içerikler üretmekte kullanıldığı ifade edildi. Metinde, 'xAI'nin ürünü Grok, üretken bir yapay zekâ sohbet robotu olup, kurbanlarını soyup aşağılamak ve cinsel istismar amacıyla kullanılmaktadır.' ifadesine yer verildi.
St. Clair'in avukatı Carrie Goldberg, xAI'nin 'makul ölçüde güvenli bir ürün' sunmadığını belirterek, 'xAI kamunun baş belası.' değerlendirmesinde bulundu. Goldberg, St. Clair'in rızası olmayan, taciz edici ve aşağılayıcı görsellerin oluşturulup X'te yayımlandığını vurguladı.
27 yaşındaki yazar ve siyasi yorumcu Ashley St. Clair, Musk'ın 2024'te doğan bir oğlunun annesi olarak biliniyor.
Grok'a tepkiler ve uluslararası adımlar
Grok'un, ünlülerin ve tanınmamış kişilerin fotoğrafları üzerinden cinsel içerikli sahte görseller üretmesi, İngiltere başta olmak üzere birçok ülkede tepki topladı.
Elon Musk, 3 Ocak'ta yaptığı açıklamada, 'Grok'u yasa dışı içerik üretiminde kullananlar, yasa dışı içerik yüklemiş gibi muamele görecektir.' dedi. Buna rağmen tepkiler sürerken, AB Komisyonu 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinin sürdüğünü açıkladı.
Malezya, 3 Ocak'ta X'in sorumluluğuna dikkat çekti; 11 Ocak'ta ise yeterli güvenlik önlemleri alınmadığı gerekçesiyle Grok'a erişimi geçici olarak kısıtladı. Hindistan, 2 Ocak'ta X'e kapsamlı inceleme talimatı verdi. Endonezya, 10 Ocak'ta uygunsuz görüntüler nedeniyle Grok'u geçici olarak engelledi. Japonya hükümeti de müstehcen içeriklere karşı önlem alınması çağrısında bulundu.
