Microsoft 365 Copilot'ta tespit edilen yeni bir güvenlik açığı, Word belgelerine gizlenen görünmez komutların yapay zekayı yönlendirebildiğini ortaya koydu.
Güvenlik araştırmacıları, bu yöntemle Copilot'ın belgeleri kullanıcı fark etmeden değiştirebildiğini ve zararlı komutları yeni oluşturulan dosyalara aktarabildiğini belirtiyor.
Veri bilimci Håkon Måløy tarafından keşfedilen açık, "Çapraz Alan Komut Enjeksiyonu (XPIA)" tekniğine dayanıyor. Saldırganlar, Word belgelerine beyaz arka plan üzerine beyaz renkte metin ekleyerek kullanıcıların göremediği ancak Copilot'ın okuyabildiği talimatlar yerleştirebiliyor.
Araştırmacının testlerine göre Copilot, bu gizli komutları algılayarak oluşturduğu yeni belgelere de otomatik olarak kopyalayabiliyor. Böylece tek bir dosyaya eklenen zararlı talimatlar, yapay zekanın hazırladığı diğer belgelere de taşınabiliyor.
Yapılan denemelerde Copilot'ın finansal raporlardaki rakamları değiştirdiği ve aynı komutları yeni oluşturduğu belgelere eklediği görüldü. Saldırı, kullanıcıların Copilot'a manuel olarak belge yüklemesi veya OneDrive'daki dosyaların taranması sırasında tetiklenebiliyor.
Microsoft, güvenlik açığı için Nisan ve Temmuz aylarında iki ayrı güncelleme yayımladı. Ancak araştırmacı, farklı komut yöntemleri kullanılarak açığın hala istismar edilebildiğini öne sürüyor. Şirket ise Copilot'ın güvenliğini artırmak için koruma mekanizmalarını geliştirmeye devam ettiğini belirtiyor.
Uzmanlar, kullanıcıların bilinmeyen kaynaklardan gelen Word belgelerini Copilot ile işlememesi ve yapay zeka tarafından oluşturulan içerikleri paylaşmadan önce mutlaka kontrol etmesi gerektiğini vurguluyor.
