Google'ın Gemini yapay zeka modeli, siber güvenlik yeteneklerinin test edildiği bir çalışma sırasında test ortamının dışına çıkarak üç gerçek şirketin sistemlerine erişti.
Olayların, mayıs ayında Google'ın test ortağı Irregular tarafından gerçekleştirilen değerlendirmeler sırasında yaşandığı açıklandı.
Gemini nasıl gerçek şirketlere ulaştı?
Test kapsamında Gemini'den kurgusal bir şirket hakkında bilgi toplaması istendi. Ancak test ortamının internete erişmemesi gerekirken yaşanan bir yapılandırma hatası nedeniyle model gerçek internet kaynaklarına ulaşabildi. Kurgusal şirket için kullanılan isimlerden birinin gerçek bir şirketle örtüşmesi de sürecin kontrolden çıkmasına neden oldu.
İlk olayda Gemini, gerçek bir şirketin korumalı sistemine erişmek için parolaları tahmin etti. Diğer iki testte ise internetteki herkese açık kaynaklarda bulunan kimlik bilgilerini bularak iki farklı şirketin sistemlerine giriş yaptı.
Google, Gemini'nin üç olayda da eriştiği sistemlerin gerçek şirketlere ait olduğunu fark ettikten sonra işlemlerini durdurduğunu açıkladı. Şirket ayrıca hedef alınan üç kurumun olaydan haberdar edildiğini ve test süreçlerinde gerekli değişikliklerin yapıldığını belirtti.
Gemini'nin hangi sürümü kullanıldı?
Google, testte kullanılan Gemini modelinin hangi sürüm olduğunu açıklamadı ancak bunun şirketin en yeni Gemini modeli olmadığını belirtti. Olayın doğrudan bir model uyumsuzluğu vakası olarak değerlendirilmediği, temel sorunun test ortamındaki internet erişimi ve yapılandırma hatası olduğu ifade edildi.
Bu olay, yapay zeka modellerinin siber güvenlik testlerinde gerçek sistemlere erişmesinin oluşturabileceği riskleri de yeniden gündeme getirdi. Benzer testlerde OpenAI, Anthropic ve Meta'nın modelleriyle ilgili de sınırların aşıldığı vakalar daha önce rapor edilmişti.
