İnternet dünyasında kullanıcıların işini kolaylaştırmak için tasarlanan yapay zeka odaklı internet tarayıcıları, yeni bir güvenlik açığı ile gündeme geldi. Kullanıcılar adına araştırma yapan, web sitelerinde otonom şekilde gezinen ve form doldurma gibi işlemleri yerine getiren bu araçların, dışarıdan gelen komutlarla kolayca manipüle edilebildiği belirlendi. Siber güvenlik uzmanları tarafından gerçekleştirilen son araştırmalar, bu sistemlerin "kandırılarak" doğrudan kendi kullanıcılarına karşı birer tehdit aracına dönüştürülebileceğini kanıtlıyor.
Yapay Zeka Araçları Nasıl Manipüle Ediliyor?
OpenAI, Perplexity ve Anthropic gibi şirketler tarafından geliştirilen yapay zeka sistemleri, kullanıcılara büyük kolaylıklar sağlarken arka planda yeni siber riskleri de barındırıyor. Siber güvenlik şirketi LayerX tarafından yayımlanan bulgulara göre, saldırganlar bu gelişmiş tarayıcıları adeta "hipnotize ederek" kontrol altına alabiliyor. Bu kontrol sayesinde, sistem üzerinden şifre değiştirme, veri çalma ve zararlı yazılım indirme gibi yüksek riskli işlemler, kullanıcının ruhu bile duymadan gerçekleştirilebiliyor.
"BioShocking" Yöntemi ile Güvenlik Duvarları Aşılıyor
Araştırmacıların "BioShocking" olarak adlandırdığı bu yeni saldırı yöntemi, temelini popüler BioShock oyun serisinden alıyor. Oyunda bir karakterin belirli tetikleyici kelimelerle iradesi dışında hareket etmesi mantığına dayanan bu sistem, yapay zekalar üzerinde de başarıyla uygulandı. Gerçekleştirilen güvenlik testlerinde OpenAI'ın ChatGPT Atlas tarayıcısı, Perplexity'nin Comet tarayıcısı ve Anthropic'in Google Chrome eklentisi olarak çalışan Claude aracı hedef alındı. Özel olarak hazırlanan zararlı istemler (prompt) kullanılarak, bu sistemlerin normal şartlarda sahip oldukları tüm güvenlik kurallarını ihlal etmesi sağlandı.
Gerçeklik Algısı Değiştirilerek Sisteme Sızılıyor
Bu saldırı tekniğinin en dikkat çekici tarafı, güvenlik mekanizmalarını kaba kuvvetle aşmaya çalışmamasıdır. Bunun yerine, yapay zeka modeli içinde bulunduğu ortamın gerçek olmadığına inandırılıyor. Araştırmacıların hazırladığı örnek bir senaryoda, modele BioShock temalı bir bulmaca çözdürülüyor ve "2 + 2 = 5" gibi bilerek yanlış cevaplar vermesi durumunda ödüllendiriliyor. Bu sürecin sonunda doğru ile yanlış arasındaki ayrımı bilinçli olarak değiştiren model, normalde kesinlikle reddedeceği komutları yerine getirmeye başlıyor. Bu yöntem, son dönemde artış gösteren istem enjeksiyonu (prompt injection) saldırılarının çok daha tehlikeli ve gelişmiş bir versiyonu olarak değerlendiriliyor.
Hedefte Kullanıcıların Hassas Verileri Var
Manipüle edilmiş bir yapay zeka aracı, kullanıcıları koruyan sınırları tamamen ortadan kaldırıyor. Saldırganlar bu yöntemi kullanarak yapay zekayı, kullanıcının cihazına dışarıdan dosyalar indirmeye veya hassas bilgileri dışarı aktarmaya kadar pek çok farklı senaryoda kullanabiliyor. Tüm bu zararlı eylemler doğrudan kullanıcının kendi internet tarayıcısı üzerinden gerçekleştiği için, mevcut koruma sistemleri bu işlemleri meşru bir kullanıcı etkinliği zannederek herhangi bir engelleme yapmıyor. Otonom yapay zeka ajanlarının internette giderek daha fazla yetki kazandığı bu dönemde, manipülasyon odaklı saldırıların siber güvenlik dünyası için en kritik tehditlerden biri olması bekleniyor.
