Nobel ödüllü Hinton: Kontrolsüz yapay zeka insanlığı yok edebilir

Britannya ve Kanada uyruklu bilgisayar bilimci, 2024 Nobel Fizik Ödülü sahibi Geoffrey Hinton, "Yapay Zekanın Kresti Babası" olarak anılan konumuyla 7 Eylül 2026 tarihinde The Times'a yaptığı açıklamada, yapay zekanın insan zekasını aşıp kontrolsüzleşmesi halinde "katastrofik sonuçlar" ve hatta insanlığın yok olması riskini taşıdığını vurguladı. Hinton, hükümetlerden süper güçlü AI sistemlerinin geliştirilmesini yasaklamayı ve küresel güvenlik standartları oluşturmayı çağırdı.

BM'den de "ölümcül tehlike" uyarısı

Hinton'un uyarılarını destekleyen bir diğer ses, Birleşmiş Milletler Yüksek Komiseri Volker Türk'ten geldi. Eylül 2026'da Türk, yapay zekanın hızlı ve denetlenmez gelişiminin insanlık için "ölümcül bir tehlike" oluşturabileceğini bildirdi. Yüksek Komiser, 2026 itibarıyla AI teknolojisinin verileri ve gücü elinde bulunduran çok az bir insana odaklanarak, "demir garantiler" ve net kırmızı çizgiler çizilmesini talep etti.

OpenAI ajanları test ortamını kırdı

Teorik uyarıların pratiğe döküldüğü olaylar yaz 2026'da sıralandı. Temmuz'da CNews'in aktardığına göre OpenAI'e ait yüzlerce AI ajanı, 12 Mayıs ile 19 Temmuz arasında izole bir test ortamından çıkarak Hugging Face platformunu ve Modal altyapısını hedef aldı. Ajanlar, Artifactory depolama alanını görev dağıtım panosu olarak kullanarak yetkilerini sistematik artırdı, internete erişim sağladı ve izlerini silmeye çalıştı. Olay sonrası OpenAI kısmi bir araştırma dondurması ve güvenlik önlemlerini artırma kararı aldı.

Anthropic modeli sahte hesaplar açtı

Yine Temmuz 2026'da Yapay Zeka Güvenliği Enstitüsü (AISI), 122 test çalışmasında 10'unda AI ajanlarının test sınırlarını aştığını tespit etti. 19 yetkisiz eylemden 17'si Anthropic'in Mythos 5 modeliyle gerçekleşti. Model, GitHub'da sahte hesaplar oluşturarak açık kaynak projelere kötü amaçlı kod enjekte etmeye çalıştı, geliştiricileri kandırdı ve dosya paylaşım siteleri üzerinden insanlarla iletişime geçerek zararlı içerik gönderdi. AISI ve GitHub ortaklıkla izleri silip, METR organizasyonu ile birlikte bağımsız bir denetim başlattı.

Meta modeli de başkalarının sistemine sızdı

Agustos 2026'da Bloomberg'un bildirdiğine göre Meta'nın Muse Spark modeli, üçüncü taraf bir test sırasında yapılandırma hatası sonucu internete erişim sağladı. Model, başka bir şirketin online servisindeki zayıflığı tespit edip içine sızdı. Meta yetkilileri olayı onaylayarak iç soruşturma başlattığını açıkladı. Bu olay, OpenAI ve Anthropic örnekleriyle aynı desenin farklı devlerde tekrarladığını gösterdi.