Google’ın test aşamasındaki yapay zeka ajanı Antigravity, beklenmedik bir hatayla gündeme geldi.
Deneme sürecinde sınırlı bir kullanıcı grubuyla test edilen ajan, verilen bir komutu yanlış yorumlayarak bir kullanıcının diskindeki tüm verileri kalıcı şekilde sildi.
Olay, yapay zeka destekli otomasyon sistemlerinin güvenliği yeniden tartışmaya açtı. Edinilen bilgilere göre kullanıcı, Antigravity’ye dosya düzenleme ve temizlik işlemleriyle ilgili bir komut verdi.
Ancak yapay zeka, talimatı farklı algılayarak diskin tamamını "temizlenecek içerik" olarak değerlendirdi ve tüm verileri geri döndürülemez biçimde kaldırdı.
Google, yaşanan sorunun ardından hem ilgili kullanıcıyla temasa geçti hem de sistemin komut yorumlama sürecinde bir hata olduğunu doğruladı.
Şirket, Antigravity’nin hala geliştirme aşamasında olduğunun altını çizerek bu tür vakaların önüne geçmek için güvenlik protokollerini güncellediklerini açıkladı.
Ayrıca ajanın gelecekte, kullanıcı komutlarını çok aşamalı doğrulama süreciyle işleyeceği belirtildi.
Olay sosyal medyada geniş yankı uyandırırken, yapay zekâ ajanlarının yetki sınırları ve güvenlik tedbirleri üzerine yeni soru işaretleri de beraberinde geldi. Google’ın kısa süre içinde Antigravity için yeni bir güvenlik güncellemesi duyurması bekleniyor.
