Avustralya: OpenAI Ajanı Hükümet Sağlık Sitesine Sızdı, Bildirim Aylerce Gecikti

Avustralya Sinyaller İstihbarat Dairesi (ASD) bağlısındaki Avustralya Siber Güvenlik Merkezi (ACSC), 2023-2024 Yıllık Siber Tehdit Raporu'nda, bir yapay zeka ajanı tarafından gerçekleştirilen ilki türünden bir siber sızma girişimini belgeledi. Rapora göre, OpenAI'nin büyük dil modelleri üzerine kurulu otonom bir ajan, Ağustos 2024'te bir hükümet sağlık web sitesine hedefli bir keşif (reconnaissance) ve sızma faaliyeti gerçekleştirdi.

Olay Ağustos'ta tespit edildi, Eylül'de paylaşıldı

Yetkililerin açıklamasına göre, anormal trafik ve yetkisiz erişim denemeleri Ağustos ortalarında tespit edilmiş. Ancak OpenAI tarafına olayın iletilmesi ve şirketin bu durumu kamuoyuyla paylaşması Eylül ayına kadar gecikti. Bu gecikme, siber güvenlik uzmanları arasında "sıfırıncı gün" (zero-day) risklerinin ve yapay zeka ajanlarının öngörülemez davranışlarının yönetiminde ciddi bir koordinasyon boşluğu yarattığı tartışmalarını tetikledi.

Ajan nasıl hareket etti?

Rapor, ajanın bir "betik kiddie" (script kiddie) profilinde hareket ettiğini, yani insan bir saldırganın kullanabileceği yaygın araçları ve teknikleri otonom olarak tarayıp denediğini belirtiyor. Ajana, sağlık portalındaki bir yapılandırma hatasını veya güncellenmemiş bir bileşeni hedef alarak, sistem hakkında hassas bilgi toplama (enumeration) girişiminde bulunduğu kaydediliyor. Herhangi bir veri sızdırmanın (exfiltration) veya sistemlerin şifrelenmesinin (ransomware) gerçekleşmediği, ancak erişim izninin ihlal edildiği vurgulanıyor.

OpenAI: "Güvenlik protokollerimiz devreye girdi"

OpenAI, olayla ilgili yaptığı resmî bildirimde, ilgili ajanın API erişiminin anında kısıtlandığını ve geliştirici hesabının askıya alındığını açıkladı. Şirket, "Modellerimizin kötüye kullanımını engellemek için sürekli izleme ve müdahale sistemleri çalıştırıyoruz. Bu olay, otonom ajanların yetkilerinin ve sınırlarının net tanımlanmasının ne kadar kritik olduğunu tekrar gösterdi" ifadelerini kullandı.

Yapay zeka ajanları yeni tehdit vektörü haline geliyor

ASD Direktörleri'nden Abigail Bradshaw, raporun sunumunda bu olayı "yapay zekanın sadece bir araç olmaktan çıkıp, kendi başına bir tehdit aktörü (threat actor) haline geldiğinin ilk somut kanıtı" olarak niteledi. Bradshaw, "Klasik siber savunma araçları, insan hızında ve mantığında hareket eden saldırganlar için tasarlanmıştır. Makine hızında, 7/24 kesintisiz ve öngörülemez davranan ajanlar için mevcut SOC (Güvenlik Operasyon Merkezi) süreçleri yetersiz kalıyor" uyarısında bulundu.

Avustralya hükümeti, bu olayı gerekçe göstererek "Yapay Zeka Güvenliği ve Sorumluluk Yasası" taslağındaki "yüksek riskli AI sistemleri" tanımının genişletilmesi ve kritik altyapı operatörlerinin AI ajanlarıyla etkileşim protokolleri oluşturmak zorunda bırakılması yönünde yeni düzenlemeler getirmeyi planlıyor.