Dünyanın en büyük video paylaşım platformu YouTube, izinsiz oluşturulan yapay zeka içeriklerini belirleyen yüz tanıma teknolojisinin kapsamını büyütüyor. Yeni alınan kararla birlikte bu sistem; devlet yetkilileri, siyasi adaylar ve gazetecilerden oluşan özel bir pilot grubun kullanımına açılıyor. Pilot programa dahil olan kişiler, izinsiz üretilen sahte içerikleri tespit eden bu araca erişim sağlayacak. Kullanıcılar, platform politikalarını ihlal ettiğini düşündükleri deepfake videoların sistemden tamamen kaldırılmasını talep edebilecek.
Sahte Kimliklere ve Dezenformasyona Karşı Yeni Kalkan
Söz konusu teknoloji, geçtiğimiz yıl gerçekleştirilen ilk testlerin ardından YouTube İş Ortaklığı Programı'ndaki yaklaşık 4 milyon içerik üreticisinin erişimine açılmıştı. Kullanıcıların yüklediği videolardaki telif hakkıyla korunan materyalleri tespit eden mevcut Content ID sistemine benzer şekilde çalışan bu yeni özellik, yapay zeka araçlarıyla oluşturulmuş sahte yüzleri tarıyor. Bu tür gelişmiş araçlar, tanınmış kişilerin sahte karakterlerinden faydalanarak gerçekte yapmadıkları eylemleri yapmış gibi gösteriyor. Bu durum genellikle kitleleri manipüle etmek ve dezenformasyon yaymak amacıyla kullanılıyor.
Kaldırma Talepleri ve İfade Özgürlüğü Dengesi
Platform, başlatılan yeni pilot programla kullanıcıların ifade özgürlüğü ile tanınmış kişilerin sahte kopyalarını üretebilen teknolojinin yarattığı riskler arasında bir denge kurmayı hedefliyor. Yapılan açıklamalara göre, saptanan eşleşmelerin tamamı talep üzerine anında silinmeyecek. Şirket, içeriğin parodi veya siyasi eleştiri olup olmadığını belirlemek adına her başvuruyu mevcut gizlilik politikası yönergeleri kapsamında ayrı ayrı değerlendirecek. Parodi ve eleştiri gibi unsurlar, ifade özgürlüğünün korunan biçimleri olarak kabul edilecek.
Sisteme dahil olmak isteyen uygun test kullanıcılarının, öncelikle bir özçekim ve resmi kimlik belgesi yükleyerek kimliklerini kanıtlamaları gerekiyor. Sürecin ardından kendi profillerini oluşturan kullanıcılar, karşılarına çıkan eşleşmeleri listeleyip dilerlerse kaldırma talebinde bulunabilecek. YouTube, ilerleyen dönemlerde ihlal içeren içeriklerin daha yayına girmeden engellenmesini sağlama hedefi taşıyor. Content ID sistemine benzer şekilde, hak sahiplerine bu videolardan para kazanma seçeneği sunulması da planlanıyor. Başlangıç aşamasında hangi siyasetçiler veya yetkililerin test kullanıcısı olacağı resmi olarak doğrulanmasa da, teknolojinin zaman içinde çok daha geniş kitlelerin kullanımına sunulması amaçlanıyor.
Yapay Zeka İçeriklerinin Etiketlenmesi ve Gelecek Vizyonu
Platformdaki yapay zeka üretimi videolar özel etiketlerle işaretleniyor, ancak bu etiketlerin konumu içeriğin türüne göre değişiklik gösteriyor. Bazı videolarda etiket yalnızca açıklama kısmında yer alırken, daha hassas konulara odaklanan videolarda doğrudan ekranın ön yüzüne yerleştiriliyor. Bu yerleşim stratejisi, izleyicilere içeriğin bağlamı hakkında net bir fikir vermeyi amaçlıyor.
İçerik Kaldırma Oranları Beklenenden Düşük Seviyede
Şirket şu anda içerik üreticileri tarafından yönetilen araç aracılığıyla ne kadar deepfake videosunun kaldırıldığına dair kesin veriler paylaşmıyor. Kaldırılan içerik miktarının şu ana kadar oldukça düşük seviyelerde kaldığı belirtiliyor. Bildirilen taleplerin az olmasının temel nedeni, üretilen sahte içeriklerin büyük bir kısmının zararsız olması veya orijinal içerik üreticisinin işine dolaylı yoldan katkı sağlaması olarak gösteriliyor. Bu durumun, devlet yetkilileri veya gazetecileri hedef alan politize edilmiş içeriklerde çok daha farklı bir tablo çizebileceği öngörülüyor. Zaman içinde geliştirilecek olan sistemin; tanınabilir insan seslerini ve popüler karakterler gibi diğer fikri mülkiyet haklarını da kapsayacak şekilde genişletilmesi planlanıyor.
