#alignment

Anthropic 'model refahı' politikasını güncelledi: Kullanıcılar yapay zekaya 'zalim' davranamaz

Yeni Kullanım Politikası, modele yönelik 'kasten zarar verici' davranışları yasaklıyor. Şirket, bu tür etkileşimlerin sistem güvenliğini riske attığını ve uyum çalışmalarını bozduğunu belirtti.

Anthropic'ten ayrılan Jacob Coxon: "İnsanlık hayatıyla kumar oynuyorlar, güven kaybettim"

Yapay zeka güvenliği uzmanı Jacob Coxon, Anthropic'ten istifa ederek şirketin AGI yarışında güvenliği ikincil plana attığını ve insanlığı riske attığını iddia etti.

Microsoft AI CEO'su Suleyman: 'Yapay zeka tehditleri gerçek, Anthropic'in yaklaştırması tehlikeli'

Mustafa Suleyman, Microsoft'un 'Humanist AI' kodunu yayınlarken Anthropic'in model refahı felsefesini eleştirdi; yapay zeka güvenliğinde 'içerme' (containment) önceliği vurgulandı.