Anthropic araştırmacısı Jacob Coxon istifa etti: "Yapay zeka 10 yıl içinde bizi öldürebilir" uyarısı

Yapay zeka güvenliği alanında tanınan isimlerden Jacob Coxon, çalıştığı Anthropic şirketinden istifa ederek sektörde geniş yankı uyandırdı. Coxon, ayrılma nedenlerini açıklarken "Hayatımızla kumar oynuyorlar" ifadesini kullanarak, yapay zeka geliştiricilerinin kendi teknolojilerinin varlıksal riskler taşıdığını bilerek de geliştirmeye devam ettiklerini iddia etti.

Güvenlik araştırmacısının çarpıcı itirafları

Coxon, Anthropic'de yapay zeka sistemlerinin güvenliğini ve insan değerleriyle uyumunu sağlama konusunda çalışan bir ekipte görev alıyordu. İstifa duyurusunda, şirket içindeki görüşmelerde geliştiricilerin "bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" belirtti. Bu görüş, yapay zeka topluluğunda uzun süredir tartışılan "p(doom)" (yok olma olasılığı) kavramının, laboratuvarların kapalı kapılar ardında nasıl bir gerçeklikle karşılaşıldığını gözler önüne seriyor.

Sektördeki diğer uyarılarla paralellik

Coxon'un açıklamaları, geçen yıl yapay zeka alanında önde gelen isimlerin — Geoffrey Hinton, Yoshua Bengio ve Turing Ödülü sahiplerinin da dahil olduğu — imzaladığı açık mektuplardaki "varlıksal risk" uyarılarıyla örtüşüyor. Anthropic'in rakibi olan OpenAI'in de eski güvenlik başları Jan Leike ve Ilya Sutskever, benzer endişelerle şirketten ayrılmış ve "Superalignment" ekiplerinin kaynaklarının yetersiz kaldığını dile getirmişti. Coxon'un istifası, bu çizgideki en son ve en net örneklerden biri olarak değerlendiriliyor.

Anthropic'in konumu ve gelecek

Anthropic, "güvenli ve faydalı yapay zeka" vizyonu ile kurulan, Google ve Amazon gibi devlerden yatırım alan bir şirket. Coxon'un ayrılması, şirketin iç güvenlik kültürü ve ticari hedefler arasındaki gerilimi yeniden gündeme getirdi. Şirket yönetimi henüz araştırmacının iddiaları üzerine resmi bir açıklama yapmamış durumda.