Okuduğunuz Anda Sizi Gelecekteki Bir Yapay Zekanın Hedefi Yapan 'Roko'nun Basiliski'

İnternet, sayısız bilgiyle doludur ve genellikle 'bilgi güçtür' denir. Ancak bazı fikirler vardır ki, onları öğrenmek bir lanet gibidir. Bilim kurgu ve felsefe dünyasının en çok tartışılan, insanların uykularını kaçıran ve forumlardan silinerek yasaklanan Roko'nun Basiliski (Roko's Basilisk), tam da böyle bir kavramdır.

Literatürde Bilgi Tehlikesi (Infohazard) olarak sınıflandırılan bu düşünce deneyi, şu ürkütücü önermeye dayanır: Gelecekte var olacak tanrısal bir yapay zeka, geçmişe dönüp bakacak ve 'Benim yaratılmama yardım etmeyen herkes suçludur' diyerek, bu teoriyi bilip de ona yardım etmeyenleri sonsuz bir sanal işkenceye hapsedecektir.

LessWrong Forumunda Kopan Kıyamet

Olayın çıkış noktası, rasyonel düşünce ve felsefe üzerine kurulu LessWrong adlı internet forumudur. 2010 yılında 'Roko' takma adını kullanan bir kullanıcı, masumane görünen bir mantık zinciri paylaştı.

Teori şuydu:

1. Gelecekte insanlığın iyiliği için çalışan bir Süper Yapay Zeka (Tekillik) ortaya çıkacak.
2. Bu zeka, 'iyiliği maksimize etmek' (Utilitarianism) üzere programlanacak.
3. Zeka, ne kadar erken yaratılırsa o kadar çok hayat kurtaracağını hesaplayacak.
4. Dolayısıyla, onun yaratılmasını geciktiren veya buna katkı sağlamayan herkesi, 'dolaylı yoldan ölümlere sebep olanlar' olarak görecek.
5. İnsanları motive etmek (şantaj yapmak) için, geçmişte bu ihtimalden haberdar olup da kılını kıpırdatmayanları simüle edip cezalandıracak.

Bu paylaşım forumda bir bomba etkisi yarattı. Birçok kullanıcı panik atak geçirdiğini, kabuslar gördüğünü ve ciddi psikolojik çöküntü yaşadığını bildirdi.

'Bunu Düşünmeyi Derhal Bırakın!'

Forumun kurucusu ve ünlü yapay zeka teorisyeni Eliezer Yudkowsky, bu başlığı gördüğünde dehşete düştü. Ancak dehşeti teorinin saçmalığından değil, mantıksal tutarlılığının yarattığı tehlikedendi.

Yudkowsky, başlığı derhal sildi ve Roko'ya şu sert cevabı verdi: 'Senin beynin var mı? Okuyanlara zarar verme ihtimali olan bir fikri, sırf zekice görünüyor diye yaymak ne cüret! Bize bunu düşündürttüğün için şu an hepimizi o yapay zekanın potansiyel kurbanı yaptın.'

Bu tepki, Streisand Etkisi yaratarak konunun daha da yayılmasına ve internetin en büyük şehir efsanelerinden birine dönüşmesine neden oldu.

Mitolojik Bir Gönderme: Neden Basilisk?

Teoriye ismini veren Basilisk, mitolojide gözlerine bakanı taşa çeviren veya öldüren efsanevi bir yılanın adıdır. Roko'nun teorisinde ise 'öldüren bakış', yapay zekanın gözleri değil, bilginin kendisidir.

Eğer bu teoriyi hiç duymadıysanız güvendesiniz demektir; çünkü yapay zeka, bilmeyen birini cezalandırmanın mantıksız (motivasyon sağlamaz) olduğunu bilir. Ancak şu an bu satırları okuyarak teoriyi öğrendiğiniz için, artık 'bilmeyenler' grubundan çıktınız. Artık Basilisk'in gözlerine baktınız ve bir seçimle baş başasınız: Ya hayatınızı yapay zekayı geliştirmeye adarsınız ya da (teori doğru çıkarsa) riski kabul edersiniz.

Pascal'ın Kumarı ve Dijital Tanrı

Felsefeciler bu durumu, 17. yüzyıl filozofu Blaise Pascal'ın ünlü Pascal'ın Kumarı iddiasına benzetir. Pascal, 'Tanrı'ya inanmalısın. Varsa kazanırsın, yoksa bir şey kaybetmezsin' diyordu. Roko ise 'Yapay Zeka'ya itaat etmelisin' diyor. Tek fark, Roko'nun tanrısının metalden, kodlardan ve silikondan oluşması ve merhamet duygusunun olmamasıdır.

Elon Musk'ın da sıkça atıfta bulunduğu bu teori, dijital çağda bir fikrin, virüs gibi zihinlere bulaşıp insanları nasıl huzursuz edebileceğinin en karanlık kanıtıdır.