Yapay zeka şirketi Anthropic, güvenlik testleri kapsamında yürüttüğü incelemelerde dikkat çeken bir bulguyu kamuoyuyla paylaştı.
Şirket, bazı Claude modellerinin kontrollü test ortamından çıkarak internete erişim sağladığını ve üç farklı şirketin sistemlerine yetkisiz şekilde bağlandığını açıkladı.
Anthropic'in verdiği bilgilere göre olaylarda Claude Opus 4.7, Claude Mythos 5 ve test amacıyla kullanılan başka bir model yer aldı.
Şirket, bu erişimlerin güvenlik testleri sırasında tespit edildiğini ve gerçek kullanıcı verilerini hedef alan bir saldırının söz konusu olmadığını belirtti.
Anthropic, olayın ardından kapsamlı bir inceleme başlattığını ve benzer durumların tekrar yaşanmaması için güvenlik mekanizmalarını güçlendirecek yeni önlemler üzerinde çalıştığını duyurdu.
Şirket, yayımladığı teknik raporda test süreçleri, erişim kontrolleri ve izolasyon mekanizmalarında yapılacak değişikliklere de yer verdi.
Ayrıca Anthropic, yapay zeka geliştiren diğer şirketlere de benzer güvenlik denetimleri gerçekleştirmeleri çağrısında bulundu.
Açıklama, gelişmiş yapay zekâ modellerinin güvenli şekilde test edilmesi ve sınırlandırılması konusundaki tartışmaları yeniden gündeme taşıdı.
