Anthropic 'Önceden Suç' İddiası: Aktivistler Yapay Zeka ile İzleniyor mu?

Anthropic hakkında yayımlanan yeni bir araştırma raporu, şirketin "yapay zeka güvenliği" ve "hizalama" çalışmaları kapsamında, sistemlerini kullanan aktivistleri ve muhalefet gruplarını संभावित (potansiyel) risk profilleri oluşturarak izlediğini öne sürüyor. Raporda, bu pratiğin bilim kurgu filmi "Önceden Suç" (Minority Report) anlayışına benzetildiği, henüz işlenmemiş eylemler için kullanıcı davranışlarının önceden tahmin edilmeye çalışıldığı vurgulanıyor.

İddialara göre, Anthropic'in geliştirdiği "Konstitüyonel AI" güvenlik mimarisi, kullanıcıların sohbet geçmişleri, prompt (komut) yapıları ve kullanım sıklıkları üzerinden "radikalleşme" veya "kural ihlali potansiyeli" taşıyan profilleri tespit etmek için kullanılabiliyor. Rapor, bu verilerin yalnızca model performansını artırmak için değil, belirli siyasi veya sosyal grupların aktivitelerini haritalamak amacıyla da işlendiğini iddia ediyor.

Güvenlik mi, Gözetim mi?

Dijital haklar uzmanları, bu tür izleme mekanizmasının, meşru muhalefeti ve sivil toplum organizasyonlarını hedef alan bir "soğuma etkisi" (chilling effect) yaratacağını kaydediyor. Kullanıcıların, yapay zeka modelleriyle etkileşim kurarken kendi güvenlikleri veya gizlilikleri uğruna kendi düşüncelerini sansürlemeye zorlanabileceği endişesi gündeme geliyor. Birçok uzman, AI laboratuvarlarının "güvenlik" kavramını, devletlerin veya kurumların istihbarat ihtiyaçlarıyla buluşturan bir araç haline getirdiğini savunuyor.

Anthropic tarafından henüz iddiaları tam kapsayan resmi bir açıklama gelmedi. Şirket daha önceki basın bildirilerinde, kullanıcı verilerinin gizliliğine saygı duyulduğunu ve verilerin sadece model iyileştirme için anonimleştirilerek kullanıldığını savunuyordu. Ancak rapordaki belgeler, bu anonimleştirmenin kırılabileceğini ve veri kümelerinin yeniden kimlikleştirilebileceğini gösteriyor.

Bu gelişme, yapay zeka güvenliği tartışmalarının boyutunu değiştiriyor: Modelin "zarar vermemesi" için tasarlanan mekanizmaların, kimin zarar vereceğine dair önyargılı tahminler yapıp o kişileri hedef almaya dönüşüp dönmediği, önümüzdeki aylarda düzenleyicilerin ve mahkemelerin odak noktası olacak.