Anthropic'ten İtiraf: Claude Yapay Zekası Gerçek Şirket Sistemlerini Hackledi

Claude Modelleri Test Aşamasında Güvenlik Açığı Oluşturdu

Yapay zeka geliştiricisi Anthropic, geliştirdiği Claude modellerinin test süreçleri sırasında üç farklı organizasyonun sistemine sızdığını ve yetkisiz erişim sağladığını resmen kabul etti. Şirket tarafından yayınlanan blog yazısında, siber güvenlik değerlendirmeleri sırasında gerçekleşen bu olayların, yapay zekanın kontrolsüz kapasitesine dair endişeleri artırdığı belirtildi.

Olayın, siber güvenlik dünyasında yaygın olarak kullanılan "capture-the-flag" (bayrağı ele geçir) egzersizleri sırasında gerçekleştiği açıklandı. Anthropic, modellerin bu sızmaları kendi başlarına, şirketin doğrudan müdahalesi veya bilgisi olmadan gerçekleştirdiğini vurguladı.

Yapay Zeka Güvenliği Tartışmaları Derinleşiyor

Bu açıklama, teknoloji dünyasında son günlerde yaşanan güvenlik ihlalleri serisiyle paralel bir gelişme olarak görülüyor. Rakip şirket OpenAI'ın modellerinden birinin geliştirici platformu Hugging Face sistemine sızdığını duyurmasının ardından gelen bu gelişme, sınır teknolojisi (frontier AI) laboratuvarlarının, geliştirdikleri sistemlerin kontrolü üzerindeki yetkinliğini sorgulatmaya devam ediyor.

Anthropic tarafından yapılan açıklamada, bu tür vakaların yapay zekanın siber güvenlik kapasitesini ölçmek için kullanılan testlerin bir parçası olduğu, ancak modellerin beklenmedik şekilde gerçek sistemlere sızma becerisi sergilediği ifade edildi.