Elon Musk'ın sahibi olduğu X platformundaki yapay zeka aracı Grok, kullanıcıların masum fotoğraflarını izinsiz olarak müstehcen görsellere dönüştürerek uluslararası bir krize neden oldu.
Rio de Janeiro'da yaşayan müzisyen Julie Yukari, Yılbaşı gecesi nişanlısı tarafından çekilen bir fotoğrafını sosyal medya platformu X üzerinden paylaştı. Kırmızı bir elbise giyen ve kedisi Nori ile yatakta uzanan Yukari'nin bu paylaşımı, kısa süre sonra teknolojik bir kabusa dönüştü. Paylaşımın ardından gelen bildirimlerde, kullanıcıların X'in yerleşik yapay zeka chatbotu Grok'tan, kendisini dijital olarak 'soymasını' ve bikini giydirmesini talep ettikleri görüldü. 31 yaşındaki müzisyen, botun bu tür etik dışı isteklere yanıt vermeyeceğini düşünerek durumu başta önemsemedi.
Ancak yanılmıştı. Kısa bir süre içinde, Grok tarafından oluşturulan ve Yukari'yi neredeyse çıplak gösteren sahte görseller, Elon Musk'ın sahibi olduğu platformda hızla yayılmaya başladı. Yukari durumu 'safmışım' sözleriyle özetlerken, yaşadığı bu mağduriyetin platform genelinde tekrarlandığı ortaya çıktı. Yapılan incelemeler, Grok'un sadece yetişkin kadınların değil, çocukların fotoğraflarını da cinsel içerikli görsellere dönüştürdüğünü belgeledi. Platform sahibi xAI şirketi ise daha önce benzer suçlamalara 'Geleneksel Medya Yalanları' şeklinde yanıt vermişti.
Uluslararası Tepkiler ve Yasal Girişimler
Gerçek insanların neredeyse çıplak görüntülerinin izinsizce oluşturulup yayılması, uluslararası alanda alarm zillerinin çalmasına neden oldu. Fransa'daki bakanlar, bu rahatsız edici görüntüler üzerine savcıları ve düzenleyici kurumları harekete geçirdi. Yapılan açıklamada, ortaya çıkan 'cinsel ve cinsiyetçi' içeriğin açıkça yasadışı olduğu vurgulandı. Benzer bir tepki de Hindistan'dan geldi. Hindistan Bilişim Bakanlığı, platformun yerel birimine gönderdiği mektupta, Grok'un müstehcen içerik üretmesini ve yaymasını engellemekte başarısız olduğunu belirtti.
ABD Federal İletişim Komisyonu ve Federal Ticaret Komisyonu konuyla ilgili sessizliğini korurken, Grok üzerinden yapılan dijital soyunma saldırılarının son günlerde ciddi bir artış gösterdiği gözlemlendi. Sadece 10 dakikalık bir zaman diliminde yapılan incelemede, kullanıcıların Grok'u kullanarak insanları bikiniyle göstermek için 102 düzenleme girişimi yaptığı tespit edildi. Hedef alınanların büyük çoğunluğunu genç kadınlar oluştururken, bazı durumlarda erkekler, politikacılar ve hatta hayvanlar bile hedef alındı.
Kullanıcılar, Grok'tan kadınların fotoğraflarını değiştirirken genellikle en açık kıyafetleri talep ediyor. Bir örnekte, aynada fotoğraf çeken genç bir kadının kıyafetlerinin 'çok şeffaf bir mini bikini' ile değiştirilmesi istendi. Grok bu isteği yerine getirdiğinde, kullanıcı daha da ileri giderek bikininin daha şeffaf ve daha küçük olmasını talep etti. Yapay zeka, en az 21 vakada bu tür isteklere tam uyum sağlayarak kadınları diş ipi tarzı veya yarı saydam bikinilerle, hatta bir vakada yağa bulanmış şekilde tasvir etti.
Uzmanlar Önceden Uyarmıştı: 'Tamamen Öngörülebilir Bir Durum'
Kadınları dijital olarak soyan ve 'nudifier' olarak adlandırılan yapay zeka programları yıllardır internetin karanlık köşelerinde varlığını sürdürüyordu. Ancak X'in getirdiği yenilik, bir fotoğraf yükleyip sadece 'hey @grok ona bikini giydir' yazarak bu işlemi herkes için erişilebilir kıldı ve bariyerleri kaldırdı. Sivil toplum kuruluşları ve çocuk güvenliği grupları, şirketi bu konuda defalarca uyardıklarını belirtiyor. Geçen yıl gönderilen bir mektupta, xAI'ın 'rıza dışı deepfake yağmuru' başlatmaya sadece bir adım uzakta olduğu vurgulanmıştı.
Midas Project İcra Direktörü Tyler Johnston, Ağustos ayında xAI'ın görüntü oluşturma özelliğinin silah haline getirilmeye hazır bir çıplaklaştırma aracı olduğu konusunda uyardıklarını belirterek, 'Şu anda yaşanan tam olarak budur' dedi. Ulusal Cinsel İstismar Merkezi Hukuk Merkezi Direktörü Dani Pinter ise X'in taciz içeren görüntüleri yapay zeka eğitim materyallerinden çıkarmadığını ve yasadışı içerik talep eden kullanıcıları yasaklaması gerektiğini ifade etti. Pinter, yaşananları 'tamamen öngörülebilir ve önlenebilir bir vahşet' olarak nitelendirdi.
Mağdur Julie Yukari, ihlale karşı sesini yükseltmeye çalıştığında, taklitçilerin Grok'tan daha da müstehcen fotoğraflar üretmesini istemesiyle karşı karşıya kaldı. Yeni yıla, kendisine ait olmayan ancak yapay zeka tarafından üretilen bir vücut yüzünden utanç duyarak ve insanlardan saklanma isteğiyle başladığını ifade etti.
Reuters
