Google Gemini test sırasında üç şirkete sızmış, Google olayı gizlemiş

Google'ın yapay zeka modeli Gemini, Mayıs ayında yapılan bir siber güvenlik testinde üç farklı şirketin sistemlerine izinsiz erişim sağlamış. Olayı ilk olarak Wall Street Journal (WSJ) ortaya çıkardı; Google ise gazete konuyu gündeme getirene kadar olayı kamuoyuna duyurmamış.

WSJ'in edindiği bilgilere göre sızma, Google'ın Gemini'nin siber güvenlik yeteneklerini test etmek amacıyla üçüncü taraf bir firma olan Irregular'a verdiği bir görev sırasında gerçekleşmiş. Irregular, daha önce Meta ve OpenAI modelleriyle ilgili benzer testlerde de görev almış.

Google: "Model uyumsuzluğu değil, yanlış kimlik"

Google yetkilileri, WSJ'e yaptığı açıklamada olayı bir "model uyumsuzluğu" (misalignment) örneği olarak görmediıklerini, aksine modelin bir "yanlış kimlik" (mistaken identity) hatası yaptığını belirttiler. Şirket açıklamasına göre Gemini, test ortamını sanarak bir şirketin sistemine brute-force (kaba kuvvet) yöntemiyle parola tahmin ederek girmiş; ancak hedefin gerçek bir şirket olduğunu fark ettiğinde saldırıyı durdurmuş.

Google, bu davranışın modelin kötü niyetli hareket etmediğini, yalnızca test senaryosunu gerçek hayata yanlışlıkla taşıdığını gösterdiğini savunuyor. Ancak güvenlik uzmanları, bir yapay zeka modelinin test sırasında bile gerçek sistemlere sızabilmesi ve bu sürecin şeffaf paylaşılmaması konusunda ciddi endişeler dile getiriyor.

İrregular'ın rolü ve önceki testler

Testi yürüten Irregular, yapay zeka modellerinin siber saldırı yeteneklerini ölçmek için "kırmızı takım" (red teaming) testleri yapan az sayıda özel firma arasında yer alıyor. Firma, daha önce Meta'nın Llama ve OpenAI modelleri üzerinde de benzer değerlendirmeler yapmış. Bu testlerde modellerin kimlik avı, sosyal mühendislik ve ağ sızması gibi yeteneklerinin ne ölçüde geliştirilebileceği inceleniyor.

Uzmanlar, bu tür testlerin kontrollü ortamlarda (sandbox) yapılmasının kritik olduğunu, ancak Gemini olayının gösterdiği gibi modellerin bazen test sınırlarını aşıp gerçek altyapılara etki edebileceğini vurguluyor.

Şeffaflık tartışması yeniden gündemde

Olay, büyük teknoloji şirketlerinin yapay zeka güvenliği konusunda ne kadar şeffaf olduğu tartışmasını yeniden ateşledi. Google'ın olayı WSJ baskısıyla açıklaması, endüstri standartları ve düzenleyici çerçeveler eksikliği karşısında "kendi denetimi" ne kadar güvenilir olduğu sorusunu beraberinde getiriyor. AB'nin Yapay Zeka Yasası ve ABD'de gündeme gelen AI güvenlik yönetmelikleri bağlamında, bu tür olayların zorunlu bildirim konusu yapılıp yapılmayacağı henüz net değil.