Google’ın I/O etkinliğinde tanıttığı ve yapay zeka destekli yeni arama deneyimi olan AI Bakışları (AI Overviews), beklenmedik bir teknik açıkla karşı karşıya. Kullanıcılar, arama çubuğuna yalnızca “Disregard” (Dikkate alma/Göz ardı et) yazdıklarında, sistemin arama sorgusu yerine bir komutla karşılaştığını varsayarak hatalı tepki verdiğini fark etti.
Arama Yerine "Komut" Algısı
Normal şartlarda Google’ın yapay zeka destekli arama motoru, girilen herhangi bir kelime için sözlük tanımı veya kısa bir özet sunuyor. Ancak "Disregard" kelimesi girildiğinde yapay zeka, bu ifadeyi bir bilgi arayışı olarak değil, kendisine verilmiş bir talimat olarak yorumluyor.
AI Bakışları kutucuğunda, kelimenin anlamı yerine yapay zekanın standart bir "emir alma" diliyle verdiği şu yanıt yer alıyor: “Anlaşıldı. Bu komutu dikkate almıyorum. Size nasıl yardımcı olabilirim?”
Klasik Arama Sonuçları Etkilenmiyor
Yaşanan bu ilginç durum, yalnızca yapay zeka tarafından oluşturulan özet kısmını etkiliyor. Kullanıcılar sayfayı aşağı kaydırdıklarında, Merriam-Webster gibi kaynaklardan alınan klasik arama sonuçlarının ve "disregard" kelimesinin doğru tanımlarının sorunsuz bir şekilde listelendiğini görebiliyor. Hata hem masaüstü hem de mobil platformlardaki AI Bakışları modülünde tutarlı bir şekilde tekrarlanabiliyor.
Yapay Zeka Neden Hata Yapıyor?
Sistemin "Disregard" kelimesini bir arama sorgusu gibi değil de doğrudan bir sistem komutu gibi yorumlaması, Google'ın dil modellerinin arama mantığı ile sistem yönergeleri arasındaki sınırları ayırt etmede yaşadığı bir zafiyete işaret ediyor. Google cephesinden konuya ilişkin resmi bir açıklama henüz gelmemiş olsa da, bu durum yapay zeka destekli arama sistemlerinin ne kadar hassas bir yapı üzerinde inşa edildiğini gözler önüne seriyor.
