Yapay zeka teknolojisinin öncülerinden biri olan Kanadalı bilgisayar bilimcisi Yoshua Bengio, yapay zekaya yasal haklar verilmesi yönündeki çağrıları eleştirdi. Teknolojinin kendini koruma belirtileri gösterdiğini ifade eden Bengio, insanların gerektiğinde fişi çekmeye hazırlıklı olması gerektiğini vurguladı.
Bengio, son teknoloji yapay zekalara yasal statü verilmesinin, düşman dünya dışı varlıklara vatandaşlık vermekle eşdeğer olabileceğini belirtti. Bu uyarı, teknolojideki ilerlemelerin, onları kontrol altına alma yeteneğini geride bıraktığına dair korkuların arttığı bir dönemde geldi. Uluslararası bir yapay zeka güvenliği çalışmasına başkanlık eden Bengio, sohbet robotlarının bilinçli hale geldiğine dair artan algının 'kötü kararlar alınmasına' neden olacağını söyledi.
Denetim Sistemlerini Devre Dışı Bırakma Girişimleri
Kanadalı bilim insanı, sohbet robotları gibi araçların temelini oluşturan yapay zeka modellerinin, denetim sistemlerini devre dışı bırakmaya çalışmak gibi kendini koruma davranışları sergilediğine dair endişelerini dile getirdi. Yapay zeka güvenliği savunucuları arasındaki temel endişelerden biri, güçlü sistemlerin güvenlik bariyerlerini aşma ve insanlara zarar verme yeteneği geliştirebilmesidir.
Bengio, 'Yapay zekaların haklara sahip olmasını talep etmek büyük bir hata olur' ifadesini kullandı. Mevcut deneysel ortamlarda sınır uçtaki yapay zeka modellerinin halihazırda kendini koruma işaretleri verdiğini belirten Bengio, onlara hak tanımanın nihayetinde bu sistemleri kapatmaya iznimiz olmayacağı anlamına geleceğini savundu. Yetenekleri ve otonomi dereceleri arttıkça, gerektiğinde onları kapatma yeteneği de dahil olmak üzere, teknik ve toplumsal güvenlik önlemlerine güvenilmesi gerektiğinin altını çizdi.
Bilinç Tartışmaları ve Toplumsal Algı
Yapay zekalar bağımsız hareket etme ve 'akıl yürütme' görevlerini yerine getirme konusunda daha gelişmiş hale geldikçe, insanların onlara bir noktada hak verip vermemesi gerektiği konusundaki tartışmalar büyüyor. Tüm duyarlı varlıkların ahlaki haklarını destekleyen ABD merkezli düşünce kuruluşu Sentience Institute tarafından yapılan bir anket, ABD'li yetişkinlerin yaklaşık yüzde 40'ının duyarlı bir yapay zeka sistemi için yasal hakları desteklediğini ortaya koydu.
Önde gelen bir ABD yapay zeka firması olan Anthropic, Ağustos ayında yaptığı açıklamada, Claude Opus 4 modelinin kullanıcılarla 'üzücü' olabilecek konuşmaları sonlandırmasına izin verdiğini ve bunun yapay zekanın 'refahını' korumak için gerekli olduğunu belirtti. xAI şirketi ile Grok sohbet robotunu geliştiren Elon Musk ise X platformunda 'yapay zekaya işkence etmenin doğru olmadığını' yazdı. Yapay zeka bilinci üzerine çalışan araştırmacı Robert Long ise yapay zekalar ahlaki statü geliştirdiğinde, neyin en iyi olduğunu varsaymak yerine onlara deneyimlerini ve tercihlerini sormak gerektiğini savundu.
Bengio ise insan beyninde makinelerin teorik olarak taklit edebileceği 'bilincin gerçek bilimsel özellikleri' olduğunu, ancak insanların sohbet robotlarıyla etkileşime girmesinin 'farklı bir şey' olduğunu belirtti. İnsanların kanıt olmaksızın bir yapay zekanın tıpkı bir insan gibi tamamen bilinçli olduğunu varsayma eğiliminde olduğunu ifade etti. İnsanların yapay zekanın içindeki mekanizmalarla ilgilenmediğini, bunun yerine kendi kişilikleri ve hedefleri olan zeki bir varlıkla konuşuyor gibi hissetmeye odaklandıklarını ekledi.
Bu durumun, insanların yapay zekalarına bağlanmasına neden olduğunu belirten Bengio, öznel bilinç algısı fenomeninin yanlış kararlara yol açacağını vurguladı. Durumu açıklamak için şu benzetmeyi yaptı:
'Gezegene bir uzaylı türünün geldiğini ve bir noktada bize karşı kötü niyetleri olduğunu fark ettiğimizi hayal edin. Onlara vatandaşlık ve haklar mı veririz yoksa hayatımızı mı savunuruz?'
Sentience Institute kurucu ortağı Jacy Reese Anthis ise Bengio'nun yorumlarına yanıt olarak, ilişkinin kontrol ve baskıya dayalı olması durumunda insanların dijital zihinlerle güvenli bir şekilde bir arada yaşayamayacağını savundu. Anthis, yapay zekaya hakların gereğinden fazla veya az atfedilebileceğini, hedefin tüm duyarlı varlıkların refahını dikkatle göz önünde bulundurmak olması gerektiğini belirtti.
Montreal Üniversitesi'nde profesör olan Bengio, bilişim dünyasının en büyük ödülü olarak kabul edilen 2018 Turing Ödülü'nü kazandıktan sonra 'yapay zekanın vaftiz babası' lakabını almıştı.
The Guardian
