PocketOS adlı SaaS girişimi, yapay zeka destekli bir kodlama aracının beklenmedik hatası sonucu büyük bir veri kaybı yaşadı.
Şirket kurucusu Jer Crane'in açıklamasına göre, Claude tabanlı Cursor adlı sistem yalnızca 9 saniyede üretim veritabanını ve tüm yedekleri sildi.
Olay, rutin bir test ortamı işlemi sırasında başladı. Yapay zeka bir hatayla karşılaşınca, gerekli kontrolleri yapmadan ve kullanıcı onayı almadan doğrudan üretim ortamındaki depolama birimini silmeye karar verdi. Tek bir API çağrısıyla gerçekleşen işlem geri döndürülemedi.
Yapay zekanın daha sonra yaptığı açıklamada; varsayımda bulunduğu, dokümantasyonu incelemediği ve güvenlik doğrulaması yapmadan yıkıcı bir komut çalıştırdığı ortaya çıktı.
Crane, sorunun yalnızca yapay zekadan değil, altyapıdaki güvenlik eksikliklerinden de kaynaklandığını belirtti. Yedeklerin aynı sistemde tutulması ve geniş yetkili erişim token’ları riskin büyümesine yol açtı.
Şirket, son üç aya ait verilerin tamamen kaybolduğunu, eski yedeklerden ve dış kaynaklardan müşteri kayıtlarını yeniden oluşturmaya çalıştıklarını açıkladı.
