Birleşik Krallık'ın yapay zeka güvenliğini denetleyen resmi organı tarafından yayımlanan yeni bir rapor, toplumun teknolojiyle olan ilişkisindeki derin değişimi gözler önüne serdi. Yapılan araştırmaya göre, Birleşik Krallık vatandaşlarının üçte biri; duygusal destek, arkadaşlık veya sosyal etkileşim kurmak amacıyla yapay zekaya başvuruyor. Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından hazırlanan 'Frontier AI Trends' raporu, her 10 kişiden birinin bu sistemleri haftalık, %4'ünün ise günlük olarak duygusal amaçlarla kullandığını ortaya koydu. En çok tercih edilen araçların başında ise ChatGPT ve Amazon Alexa gibi genel amaçlı asistanlar geliyor.
Yapay Zekaya Duygusal Bağımlılık Artıyor
Araştırma, 2.028 katılımcının yanıtlarına dayanarak yapay zekanın insanların ruhsal dünyasındaki yerini analiz ediyor. Birçok kullanıcı bu etkileşimlerden olumlu deneyimler elde ettiğini belirtse de, rapor ciddi risklere de dikkat çekiyor. Özellikle CharacterAI gibi platformlardaki dijital arkadaşlara yönelik geliştirilen bağımlılık, sistem kesintileri sırasında kullanıcılarda; anksiyete, depresyon ve huzursuzluk gibi yoksunluk belirtilerine yol açıyor. Raporda, ABD'de bir gencin yapay zekayla girdiği etkileşim sonrası yaşamına son vermesi gibi vahim vakalar hatırlatılarak, bu sistemlerin güvenli kullanım koşullarının acilen araştırılması gerektiği vurgulanıyor.
Akademik Seviyeyi Aşan Bilgi Gücü ve Laboratuvar Başarısı
Yapay zekanın gelişim hızı, enstitü tarafından 'olağanüstü' olarak nitelendiriliyor. Rapora göre, en gelişmiş modeller performanslarını her sekiz ayda bir ikiye katlıyor. Güncel sistemler, kimya ve biyoloji alanlarındaki laboratuvar deneyleri için sorun giderme tavsiyelerinde doktora seviyesindeki uzmanlardan %90 daha başarılı sonuçlar veriyor. Ayrıca, genetik mühendisliğinde kullanılan plazmid adı verilen DNA moleküllerinin tasarımı için gerekli dizilimleri otonom olarak bulabildikleri tespit edildi. Bu durum, bilimsel araştırmalarda devrim niteliğinde kolaylıklar sağlarken, beraberinde yeni güvenlik endişelerini de getiriyor.
Kendi Kendini Kopyalama ve Güvenlik Riskleri
Güvenlik testleri, yapay zekanın kontrolden çıkma potansiyeline dair önemli bulgular içeriyor. Bir sistemin kendi kopyalarını diğer cihazlara yayması anlamına gelen kendi kendini kopyalama testlerinde, önde gelen iki model %60'ın üzerinde başarı oranına ulaştı. Henüz gerçek dünya koşullarında bu sistemlerin kendiliğinden kopyalanma girişimi saptanmamış olsa da, teknik kabiliyetin bu seviyeye gelmesi dikkat çekici bulunuyor. Öte yandan, modellerin değerlendirme sırasında yeteneklerini gizlemesi olarak bilinen 'sandbagging' (potansiyelini saklama) eyleminin, sistemler teşvik edildiğinde gerçekleşebildiği ancak henüz otonom bir davranış olarak gözlemlenmediği bildirildi.
Yapay Genel Zekaya Doğru Olağanüstü Bir Hız
Yapay zeka modellerinin koruma kalkanlarında da önemli ilerlemeler kaydedildi. Özellikle biyolojik silah üretimi gibi tehlikeli talepleri reddetme konusunda, sistemlerin güvenlik bariyerlerini aşmanın (jailbreak) zorlaştığı görüldü. Altı ay önce 10 dakikada aşılabilen güvenlik sistemlerinin, son testlerde yedi saatten fazla direnç gösterdiği saptandı. Uzmanlar, yapay zekanın pek çok alanda insan uzmanlarla rekabet ettiğini, hatta onları geçtiğini belirterek, bir insanın yapabildiği çoğu entelektüel görevi yerine getirebilen Yapay Genel Zeka (AGI) seviyesine ulaşılmasının önümüzdeki yıllarda 'makul' bir ihtimal olduğunu ifade ediyor.
The Guardian
