Teknoloji devi Meta, yapay zeka tarafından üretilen içeriklerin ayırt edilebilmesi amacıyla geliştirdiği yeni tespit aracını geçtiğimiz günlerde tanıttı. Ancak bağımsız bir analiz, Muse Image adlı yeni görsel oluşturma modeliyle entegre çalışan bu tespit aracının, kendi ürettiği görseller üzerinde yapılan basit düzenlemeler sonrasında büyük oranda başarısız olduğunu gözler önüne serdi. Ortaya çıkan bu güvenlik açığı, özellikle yaklaşan ABD ara seçimleri başta olmak üzere küresel çapta dezenformasyon ve sahte içerik (deepfake) endişelerinin zirvede olduğu bir dönemde teknoloji dünyasında büyük yankı uyandırdı.
Kırpılan görsellerin yüzde 55'i tespit edilemedi
Yeni tespit aracı, Muse Image tarafından oluşturulan her görsele "Content Seal" (İçerik Mührü) adı verilen görünmez bir dijital filigran ekleyerek çalışıyor. Meta'nın resmi açıklamalarına göre, bu filigranın görsel kırpılsa bile varlığını koruması ve yapay zeka içeriğini doğrulaması gerekiyordu. Ancak yapılan detaylı analizlerde, oluşturulan 40 farklı yapay zeka görseli test edildiğinde çarpıcı sonuçlar ortaya çıktı.
Tespit aracı, hiçbir değişikliğe uğramamış orijinal görsellerin tamamını doğru bir şekilde tanımlamayı başardı. Fakat aynı görseller orijinal boyutlarının üçte birine veya yarısına kadar kırpıldığında, aracın bu görsellerin yüzde 55'ini yapay zeka üretimi olarak tanımlayamadığı saptandı. Temel bir fotoğraf düzenleme işlemi olan kırpma işleminin bile sistemi bu denli yanıltması, dijital güvenlik uzmanları tarafından sistemin güvenilirliğinin sorgulanmasına neden oldu.
Meta'dan 'önizleme sürümü' savunması
Ortaya çıkan analiz sonuçlarının ardından açıklama yapan Meta yetkilileri, söz konusu tespit aracının henüz bir önizleme (preview) aşamasında olduğunu vurguladı. Şirket, dijital filigranın yaygın düzenleme işlemlerine karşı dayanıklı olacak şekilde tasarlandığını belirtse de, görselin çok fazla kırpılması durumunda gömülü sinyalin kaybolabileceğini kabul etti.
Sadece Meta değil, sektörün diğer büyük oyuncuları olan Google ve OpenAI gibi şirketler de kendi geliştirdikleri tespit araçlarının, fotoğraf düzenleme ve manipülasyon tekniklerine karşı yüzde yüz kusursuz olmadığını daha önce dile getirmişti. Mart ayında Meta'nın kendi platformlarındaki içerik politikalarına yön veren Gözetim Kurulu (Oversight Board), şirketi yapay zeka tarafından üretilen yanıltıcı içeriklerin çoğalmasına karşı daha güçlü önlemler almaya ve tespit araçlarına daha fazla yatırım yapmaya çağırmıştı.
Uzmanlar filigran teknolojisine temkinli yaklaşıyor
Dijital adli tıp ve yapay zeka görselleri üzerine çalışmalar yürüten bilgisayar bilimleri profesörü Siwei Lyu, filigran tabanlı sistemlerin yapısal sınırlamalarına dikkat çekiyor. Lyu, filigranın bozulmadan kaldığı durumlarda bu sistemlerin oldukça etkili olabileceğini belirtirken; görselin yeniden boyutlandırılması, aşırı sıkıştırılması veya kırpılması gibi gömülü sinyali zayıflatan herhangi bir müdahalenin başarı oranını ciddi şekilde düşürebileceğini ifade ediyor.
Yapay zeka araştırmacıları ise bu tür güvenlik önlemlerinin eksiklerine rağmen tamamen faydasız olmadığı görüşünde birleşiyor. Kaliforniya Üniversitesi'nden yapay zeka araştırmacısı Sarah Barrington gibi uzmanlar, siber güvenlik sistemlerinin hiçbir zaman yüzde yüz kusursuz olmadığını hatırlatıyor. Uzmanlara göre, tespit araçları sahte vakaların sadece belirli bir kısmını yakalayabilse bile, bu durum sıfırdan çok daha büyük bir adım anlamına geliyor. Ancak gelinen noktada, teknoloji devlerinin yapay zeka manipülasyonlarına karşı çok daha kapsamlı, sürdürülebilir ve dayanıklı tespit algoritmaları geliştirmesi gerektiği bir kez daha ortaya çıkmış oldu.
