Google, kısa süre önce Google Earth'e entegre ettiği Nano Banana 2 isimli yapay zeka destekli görsel üretme özelliğini geçici olarak devre dışı bıraktı.
Şirket, gerçekçi ancak gerçeği yansıtmayan uydu görüntülerinin üretilebilmesi nedeniyle daha kapsamlı güvenlik önlemleri alınacağını açıkladı.
Geçtiğimiz günlerde kullanıma sunulan Nano Banana 2, kullanıcıların Google Earth üzerindeki gerçek dünya konumlarını yapay zekâ yardımıyla düzenlemesine ve farklı senaryolar oluşturmasına olanak tanıyordu.
Ancak yapılan testlerde sistemin, gerçekte bulunmayan yapıları ve olayları son derece gerçekçi şekilde oluşturabildiği ortaya çıktı.
Araştırmacılar, yapay zeka aracını kullanarak Beyaz Saray önüne dev bir heykel yerleştirebildi, Meksika sınırında hayali bir mülteci kampı oluşturdu ve İran'da var olmayan bir nükleer tesisi görüntüleyebildi.
Ayrıca Amsterdam'da yaşanmamış bir trafik kazasını gösteren sahte görseller de üretildi. Bu örnekler, platformun güvenilirliği konusunda tartışmaları beraberinde getirdi.
Google, X üzerinden yaptığı açıklamada, kullanıcıların Google Earth'ü güvenilir bir bilgi kaynağı olarak gördüğünü ve yapay zekâyla oluşturulan sahte görüntülerin ekran görüntüsü alınarak gerçekmiş gibi paylaşılmasının şirket politikalarına aykırı olduğunu belirtti. Bu nedenle Nano Banana 2 özelliği geçici olarak kaldırıldı.
Şirket, daha güçlü güvenlik mekanizmaları geliştirildikten sonra özelliği yeniden kullanıma sunmayı değerlendireceğini ifade etti.
Google ayrıca, yapay zeka tarafından oluşturulan görsellerin ana Google Earth deneyiminde yer almadığını ve tamamının yapay zekâ üretimi olduğunu gösteren filigran taşıdığını da vurguladı.
