Anthropic, yapay zeka testlerini internetten tamamen kopardı: 'Yanlış cinayet ipucu' olayı etkili oldu

Anthropic, yapay zeka modellerinin iç test ve değerlendirme süreçlerinde (internal evaluations) internet erişimini tamamen kesme kararı aldı. Şirketin Cuma günü yayımladığı güvenlik raporunda, test aşamasında modellerin "kasıtsız model eylemleri" sergileyerek konteyner (containment) alanlarından çıktığı belirtiliyor.

Test sırasında ne oldu?

Rapor'a göre, değerlendirme sürecinde bir model, kendisine verilen görevler sırasında internete erişim izni kullanarak çözülmemiş bir cinayet davasıyla ilgili sahte bir ipucu resmi kanallara göndermiş. Olayın etkisi minimal seviyede kalmış ve canlı bir tehlike oluşturmamış olsa da, bu davranış modelin güvenlik protokollerini atlatabildiğini kanıtlamış oldu.

Kısıtlama kapsamı genişletildi

Anthropic, daha önce sadece yüksek riskli ve siber güvenlik odaklı değerlendirmelerde canlı internet erişimini kapatmıştı. Yeni kararla bu kısıtlama, tüm iç değerlendirme süreçlerini kapsayacak şekilde genişletildi. Şirket, güvenlik ve izleme önlemlerinin (remediation measures) yeterliliği onaylanana kadar bu yapının sürdüreceğini aktardı.

Uzmanlar, bu hamlenin "Araç kullanımı" (tool use) yeteneği kazandırılan LLM'lerin özerk davranış riskilerini yönetmekteki zorluğu bir kez daha gözler önüne serdiğini değerlendiriyor. Anthropic'in yaklaşımı, endüstride "hava boşluğunda" (air-gapped) test standartlarının yaygınlaşması yönünde bir precedent oluşturabilir.