BM Bilimsel Paneli'nden sert uyarı: Yapay zeka riskleri anlaşıldan önce denetlenmeli

Birleşmiş Milletler (BM) bünyesinde görev yapan bilimsel danışma paneli, yapay zeka (YZ) sistemlerinin — özellikle otonom ajanların — mevcut yönetim çerçevelerini aştığını ve hükümetlerin riskler tam olarak kurgulanmadan önce düzenleyici müdahaleye geçmesi gerektiğini bildiren ilk büyük tematik raporunu yayınladı. Değerlendirme, New York'ta liderlerin toplandığı BM Genel Kurulu haftası ve ABD-Çin YZ görüşmeleriyle zamanlaşılarak kamuya sunuldu.

Raporun temel vurgusu, YZ yeteneklerinin artış hızının, toplumsal ve teknik risklerin tam olarak haritalanma hızını geçtiği yönünde. Panel, "bekleyip görme" stratejisinin, teknoloji kontrolün ötesine geçtiği bir senaryoya kapı açabileceğini kaydetti. Bu çerçevede, uluslararası standartların ve denetim mekanizmalarının gecikmeden inşa edilmesi gerektiği öne sürüldü.

Guterres: "Dünya dip yarışı göze alamaz"

BM Genel Sekreteri António Guterres, raporun yayımlandığı hafta yaptığı açıklamada, uluslararası işbirliğinin artık bir lüks değil, bir zorunluluk olduğunu vurguladı. "Dünya, yapay zeka güvenliğinde dipte bir yarışı göze alamaz" diyen Guterres, tek taraflı düzenlemelerin yetersiz kaldığını ve evrensel bir yönetişim çerçevesinin kuruluşunu hızlandırdığını belirtti.

Raporun yayınlanması, aynı dönemde New York'ta gerçekleştirilen ABD ve Çin yetkilileri arasındaki YZ güvenliği görüşmeleriyle de örtüştü. İki büyük gücün masaya oturduğu bu görüşmeler, raporun öngördüğü "global normlar" yönündeki politik iradenin ilk somut testleri arasında değerlendiriliyor. Uzmanlar, raporun hukuki bağlayıcılığı olmamasına karşın, gelecekteki uluslararası antlaşmaların ve ulusal yasakların iskeletini oluşturacak nitelikte bir "bilimsel konsensüs" belgesi olduğunu kaydediyor.