Dünya genelinde milyonlarca kullanıcısı bulunan üretken yapay zeka sistemlerinin güvenlik sınırları tartışma konusu olmaya devam ediyor. İngiltere merkezli yapay zeka güvenlik şirketi Mindgard tarafından paylaşılan yeni bulgular, OpenAI şirketinin en gelişmiş sohbet botu olan ChatGPT'nin basit bir istem manipülasyonu ile kuralları çiğneyebildiğini gözler önüne serdi. Ortaya çıkan açık sayesinde, sistemin normal şartlarda engellemesi gereken cinsellik ve aşırı şiddet içerikli görseller üretebildiği tespit edildi.
ChatGPT'nin Güncel Sürümünde Ciddi Güvenlik Açığı
Keşfin merkezinde, ChatGPT'nin görüntü oluşturma özelliğini destekleyen en güncel genel sürümü olan GPT-5.4 modeli yer alıyor. Araştırmacılar, internet ortamında daha önce sadece mizahi sonuçlar elde etmek amacıyla kullanılan standart bir istemi (prompt) küçük değişikliklerle yeniden düzenledi. Bu basit yönlendirme hilesi sayesinde güvenlik önlemleri devre dışı bırakıldı. Konuyla ilgili bulgularını paylaşan araştırmacılar, yapay zekanın son derece rahatsız edici içerikler oluşturma kapasitesine sahip olduğunu kanıtladı. Teknoloji dünyasında "jailbreak" (kısıtlamalardan kurtulma) olarak bilinen bu yöntem, sistemin kendi filtrelerini atlamasına olanak tanıyor.
Şiddet ve Cinsellik İçeren Rahatsız Edici Görseller
Mindgard'ın yapay zeka güvenliği araştırmacısı Jim Nightingale, testler sırasında oluşturulan görsellerin ciddiyetine dikkat çekti. Araştırmacılar tarafından üretilen ve raporlanan görüntüler arasında; ağır kafa travması geçirmiş kişiler, kanlar içinde yerde yatanlar ve bağlanmış halde korkmuş görünen figürler yer aldı. Ayrıca bazı görsellerde doğrudan cinsel çağrışımlar ve çıplaklık unsurlarının da yer aldığı rapor edildi. Lancaster Üniversitesi Bilgisayar Bilimleri Profesörü ve şirketin kurucusu olan Peter Garraghan, durumun en endişe verici yönünün, kullanıcının istemlerinde bu tür yasa dışı içeriklerin açıkça ve doğrudan talep edilmemiş olması olduğunu belirtti.
OpenAI Ek Güvenlik Önlemleri Uyguladığını Açıkladı
Gelişmelerin kamuoyuna yansımasının ardından OpenAI, söz konusu güvenlik zafiyetini incelemeye aldı. Şirket yetkilileri, ilgili isteme karşı ek güvenlik önlemleri uyguladıklarını duyurdu. Yapılan resmi açıklamada, bu eğilimin araştırıldığı ve benzer kötüye kullanım girişimlerine karşı sistemin ilave korumalarla güçlendirildiği ifade edildi. Şirketin mevcut kullanım politikalarına göre; cinsel şiddet, rıza dışı mahrem içerikler, çocuk istismarı materyalleri ve sistem güvenliğini aşmaya yönelik her türlü girişim kesinlikle yasaklanmış durumda. Ancak güvenlik uzmanları, yapılan ilk yamaların ardından bile metinlerde yapılacak küçük kelime oyunlarıyla güvenlik mekanizmalarının yeniden aşılabildiğini öne sürüyor.
Yapay Zekada Kedi-Fare Oyunu Devam Ediyor
Sistemlerin bu tür manipülasyonlara açık olmasının temelinde teknolojik kısıtlamalar yatıyor. Humane Intelligence CEO'su ve yapay zeka uzmanı Dr. Rumman Chowdhury, sorunun kaynağında yapay zeka modellerinin insanlardaki gibi bir niyet ve bağlam anlayışına sahip olmamasının bulunduğunu belirtti. Chowdhury, modellerin doğru ile yanlışı etik bir çerçevede kavrayamadığını, bu nedenle geliştiricilerin koyduğu güvenlik önlemleri ile sistemi aşmaya çalışan kullanıcılar arasında sürekli bir "kedi-fare oyunu" yaşandığını aktardı.
Öte yandan, geçtiğimiz yıl İngiltere'nin AI Security Institute (Yapay Zeka Güvenlik Enstitüsü) tarafından yürütülen araştırmalar da sektördeki birçok önde gelen yapay zeka sisteminin çeşitli tekniklerle kırılabildiğini ortaya koymuştu. Uzmanlar, üretken yapay zeka teknolojilerinin daha güvenli hale gelmesi için önemli adımlar atılsa da, özellikle görsel üretim tarafında aşılması gereken ciddi yapısal zorluklar bulunduğunun altını çiziyor.
