Anthropic: Claude modeli silah geliştirmede kullanıldı, 6 hesap kapatıldı

Yapay zeka güvenliği araştırmaları yapan Anthropic, geliştirdiği Claude modelinin konvansiyonel silah sistemleri tasarımı ve geliştirilmesinde kullanıldığı altı ayrı olguyu tespit ettiğini duyurdu. Şirketin paylaştığı güvenlik raporuna göre, bu vaka sayısının üçü Çin, ikisi Rusya ve biri de Yemen bağlantılı aktörlere aitti.

Kullanım amacı ve müdahale süreci

Tespit edilen hesaplar, Claude'un doğal dil işleme yeteneklerini fırlatma balistikleri, füzelerle hedefleme algoritmaları ve lojistik planlama gibi askerî mühendislik problemlerinde kullanmış. Anthropic, "Kullanım Politikası" ihlali gerekçesiyle bağlantılı tüm hesapları kalıcı olarak kapattığını ve ilgili teknik kanıtların yetkili makamlarla paylaşıldığını belirtti. Şirket, modelin askerî amaçlı kötüye kullanımını engellemek için geliştirilen "Kızıl Çizgi" güvenlik katmanlarının bu tespitlerde etkin olduğunu kaydetti.

Uzmanlar, yapay zeka modellerinin askerî uygulamalarda kullanımının uluslararası düzenleyici çerçevelerin henüz olgunlaşmadığı bir alan olduğunu vurguluyor. Anthropic'in şeffaf raporlaması, endüstri standartları oluşturma çabalarının bir parçası olarak değerlendiriliyor.