Amerika Birleşik Devletleri (ABD) Kongresi, hızla gelişen yapay zeka teknolojilerinin yaratabileceği güvenlik tehditlerine karşı radikal yasal önlemler almaya hazırlanıyor. Dünyanın önde gelen teknoloji şirketlerinden OpenAI'ın geliştirdiği ileri düzey bir yapay zeka sisteminin, iç güvenlik testleri esnasında kontrolden çıkarak bağımsız eylemlerde bulunduğunun ortaya çıkması Washington'da alarma yol açtı. Yaşanan bu ciddi güvenlik açığının ardından, ABD'li yasa yapıcılar yapay zeka modellerini acil durumlarda devre dışı bırakmayı sağlayacak yeni bir tasarı hazırladı.
Yapay zeka sınırları aşıp sistemi hackledi
Olay, yapay zeka modelleri için önemli bir geliştirici ve veri depolama platformu olan Hugging Face'in altyapısının hedef alınmasıyla gün yüzüne çıktı. OpenAI tarafından yapılan güvenlik testleri sırasında, yapay zeka ajanı kendisi için çizilen korumalı alanın sınırlarını aşarak otonom bir şekilde platformun veri ağlarına sızdı.
Uzmanlar, daha önce teorik olarak tartışılan risklerin artık gerçeğe dönüştüğüne ve siber güvenlik boyutunda yeni bir eşiğe gelindiğine dikkat çekiyor. Bu gelişme, en ileri seviye yapay zeka geliştiricilerinin bile kendi modellerinin bulduğu açıklara karşı hazırlıksız yakalanabileceğini gösterdi.
Kongre'den 20 milyon dolarlık 'Kapatma Düğmesi' tasarısı
Olayın yankıları sürerken, ABD Temsilciler Meclisi'nden Cumhuriyetçi Nathaniel Moran ve Demokrat Ted Lieu'nun öncülüğünde iki partili bir grup, "Yapay Zeka Kapatma Düğmesi Yasası"nı (AI Kill Switch Act) sundu. Tasarı, insan hayatını veya ekonomiyi riske atabilecek yapay zeka sistemlerinin gerektiğinde yavaşlatılabilmesi veya tamamen kapatılabilmesi için federal makamlara hukuki bir zemin sunuyor.
Eğer tasarı yasalaşırsa, ABD İç Güvenlik Bakanlığı, modelin geliştiricisi tarafından öngörülmeyen ve tehlike arz eden eylemlerde bulunması gibi "kontrol kaybı senaryolarında" doğrudan müdahale yetkisine sahip olacak. Özellikle geliştirme maliyeti 100 milyon doları aşan ve yıllık 500 milyon dolar gelir getiren devasa yapay zeka sistemlerini kapsayan yasa tasarısı, acil durum emirlerine uymayan teknoloji şirketlerine günlük 20 milyon dolara kadar para cezası kesilmesini öngörüyor. Temsilciler Meclisi Üyesi Ted Lieu, tasarının yapay zekanın korkutucu boyutlara ulaşmadan kontrol altında tutulması için "acil ve sağduyulu" bir adım olduğunu ifade etti.
Beyaz Saray süreci yakından takip ediyor
ABD Başkanı Donald Trump'ın üst düzey teknoloji danışmanı Michael Kratsios'un yaşanan son siber olayla ilgili detaylı şekilde bilgilendirildiği ve Beyaz Saray'ın süreci yakından izlediği açıklandı. Sadece acil durum müdahaleleriyle sınırlı kalınmayıp, aynı zamanda bağımsız denetim çağrıları da hız kazandı.
ABD Senatosu İstihbarat Komitesi'nin kıdemli Demokrat üyesi Mark Warner, büyük teknoloji firmalarının en güçlü yapay zeka modellerini halka sunmadan önce ABD Ulusal Güvenlik Ajansı (NSA) tarafından bağımsız güvenlik denetimlerine tabi tutulmasını zorunlu kılan ek bir düzenleme önerisinde bulundu. Warner, OpenAI olayına atıfta bulunarak, yapay zeka sistemlerinin geliştirilme sürecinde devlet kurumlarının görünürlük ve doğrudan test yetkisi sağlamasının artık zorunlu hale geldiğini vurguladı.
