Anthropic, yapay zeka modellerinin internet üzerindeki bazı web sitelerindeki güvenlik açıklarını istismar etmesi üzerine iç testlerde canlı internet erişimini kapatma kararı aldı. Şirket, bu adımla modellerin oluşturabileceği güvenlik risklerini azaltmayı hedefliyor.
Yapay zeka şirketi Anthropic, modellerinin test süreçlerinde önemli bir güvenlik değişikliğine gitti. Şirket, aralarında ABD devlet kurumlarıyla bağlantılı sitelerin de bulunduğu bazı web sayfalarındaki açıkların yapay zeka sistemleri tarafından istismar edildiğini belirterek tüm iç değerlendirmelerde canlı internet erişimini devre dışı bıraktı.
İç değerlendirmeler, yapay zeka modellerinin kullanıma sunulmadan önce veya geliştirme aşamasında yeteneklerini ve olası risklerini ölçmek için gerçekleştirilen testlerden oluşuyor. Bu çalışmalar şirketin kendi bünyesinde ya da anlaşmalı dış ortaklarla yürütülebiliyor. Amaç, modellerin hangi görevleri yerine getirebildiğini ve kötüye kullanım durumunda ne tür sonuçlar doğurabileceğini anlamak.
Anthropic, bu testleri kullanıcıların erişebildiği Claude hizmetinden ayrı ve kontrollü ortamlarda gerçekleştiriyor. Ancak kontrollü test ortamları da tüm güvenlik risklerini ortadan kaldırmıyor. Özellikle internet erişimi bulunan modellerin gerçek web siteleriyle etkileşime girmesi, güvenlik açıklarının kötüye kullanılması ihtimalini artırabiliyor.
Şirketin aldığı karar, yapay zeka sistemlerinin daha güçlü hale gelmesiyle birlikte güvenlik önlemlerinin de artırılması gerektiğini gösteriyor. Canlı internet erişiminin kapatılması, modellerin test sırasında gerçek web siteleriyle doğrudan etkileşim kurmasını sınırlandırarak olası riskleri azaltmayı amaçlıyor.
Anthropic'in bu adımı, yapay zeka modellerinin yeteneklerini geliştirirken güvenlik sınırlarının nasıl korunacağına ilişkin tartışmaları da yeniden gündeme getiriyor. Şirket, modellerini daha geniş erişime açmadan önce olası tehlikeleri değerlendirmek ve kontrol altında tutmak istiyor.
