Yapay Zeka Uzmanları 'Süper Zeka İnsanlığı Yok Edebilir' Uyarısında Bulundu
Geoffrey Irving ve Neel Nanda dahil araştırmacılar, süper zekanın insanlık için 'yazıldığı kadar tehlikeli' olduğunu, yok olma riskinin %50 civarında olabileceğini vurguladı.
Palisade Research adlı kar amacı gütmeyen kuruluş, frominside.ai platformunda yayımladığı bir dizi derinlemesine görüşmeyle, yapay zeka geliştirme çizgisinde çalışan üst düzey araştırmacıların gizli tuttuğu endişeleri aydınlattı. The Verge'in aktardığına göre, OpenAI ve Google DeepMind'den ayrılan Geoffrey Irving, "İnsanlığın yok olma ihtimali, benim görüşüme göre yazı tura atma kadar" diyerek riski %50 civarında yerleştirdi.
"En az %10 ihtimalle yok oluruz"
Google DeepMind araştırma bilim insanı Neel Nanda ise biraz daha düşük ama yine de ihmal edilemeyecek bir oran öne sürdü. Nanda, süper zekanın "en az %10 ihtimalle insanlığı yok edeceğini" kaydetti. Görüşmelere katılan diğer araştırmacılar da — bunların arasında OpenAI, Google ve Anthropic'in mevcut ve eski çalışanları yer alıyor — Irving'in "tam olarak duyulduğu kadar tehlikeli" tespitine katıldı.
Bu görüşmeler, endüstri içinden gelen en kolektif ve resmiyete yakın uyarılardan biri olarak değerlendiriliyor. Palisade Research, modellerin yeteneklerini ve motivasyonlarını inceleyerek güvenlik riskilerini haritalandırmayı hedeflediğini belirtiyor. Araştırmacıların yüz yüze geldikleri ortak nokta: Mevcut güvenlik önlemlerinin, insan seviyesinin çok ötesine geçen bir zeka karşısında yetersiz kalma ihtimali çok yüksek.
HaberGo Editor ve Muhabır ekibi