Yapay zekanın güvenlik testlerinde ciddi hatalar bulundu

Yayımlanma Tarihi: 04 Kasım 2025 15:08 | Son Güncelleme Tarihi : 17 Kasım 2025 14:13

#yapay zeka #Yapay Zeka Güvenlik Enstitüsü #Oxford İnternet Enstitüsü #yapay zeka güvenlik testleri

Sıdıka Uğurel

Sidika.ugurel@nirvanahaber.com

Bilim insanları, yapay zekanın güvenliği ve etkinliğini kontrol eden 445 değerlendirme testinde 'sonuçların geçerliliğini zedeleyecek' kusurlar olduğunu belirledi.

HABERİN DEVAMI

İngiltere Yapay Zeka Güvenlik Enstitüsünden bilgisayar bilimciler ile Stanford, Berkeley ve Oxford üniversitelerinin de aralarında bulunduğu 14 kurumdan 29 araştırmacı, 'Önemli Olanı Ölçmek: Büyük Dil Modeli Kıyaslamalarında Yapı Geçerliği' başlıklı bir çalışma gerçekleştirdi.

Çalışmada, yapay zekanın alt dallarından olan doğal dil işleme ve makine öğrenimi alanlarının önde gelen konferanslarından alınan 445 değerlendirme testi sistematik olarak incelendi.

İncelemeler sonucunda, testlerin neredeyse tamamının sonuçların geçerliliğini zedeleyebilecek kusurlara sahip olduğu ortaya çıktı.

Çalışmanın baş yazarı, Oxford İnternet Enstitüsü'nden Andrew Bean, Guardian'a yaptığı açıklamada, kullanılan bu testlerin büyük teknoloji şirketlerinin piyasaya sürdüğü son yapay zeka modellerinin değerlendirilmesinde kullanıldığını söyledi.

Bean, değerlendirme testlerinin yapay zekayla ilgili tüm iddiaların temelini oluşturduğunu vurgulayarak, ortak tanımlar ve sağlıklı ölçümler olmadan modellerin gerçekten gelişip gelişmediğinin anlaşılmasının zorlaştığını kaydetti.

Yorumlar

Yorum yapmak için giriş yapmalısınız

Giriş Yap Kayıt Ol

Henüz hiç yorum yapılmamış

İlk yorumu siz yapın ve tartışmayı başlatın!

DAHA FAZLA HABER

Bilim ve Teknoloji

Dünyanın 'Kalp Atışı' Nedir? Gizemli Schumann Rezonansı

Bazı insanların 'Dünya'nın iç sesi' dediği Schumann Rezonansı'nın ne olduğunu, nasıl oluştuğunu ve iklim değişikliği ile bağlantısını araştırdık.

17 Kasım 2025 23:49

Gündem

Çinli bilim insanları, Ay'dan gelen örneklerde demir pası buldu

Çinli bilim insanları, Ay'dan gelen kaya ve toprak örneklerinde 'demir pası' buldu

17 Kasım 2025 15:07

Bilim ve Teknoloji

NASA ve SpaceX, Avrupa ile ortak yürütülen misyonun ikinci uydusu Sentinel-6B'yi fırlattı

ABD Havacılık ve Uzay Dairesi (NASA) ile SpaceX, Avrupa ile ortak yürütülen Copernicus misyonunun ikinci uydusu Sentinel-6B'yi uzaya gönderdi.

17 Kasım 2025 15:30

Bilim ve Teknoloji

Bilinen En Şiddetli Depremler ve Pasifik Ateş Çemberi

Dünya tarihinin en şiddetli depremleri Güney Amerika ve Asya-Pasifik'te meydana geldi. Pasifik Ateş Çemberi, büyük sarsıntıların yüzde 90'ına ev sahipliği yapıyor.

16 Kasım 2025 22:05