Meta, Instagram'da genç kullanıcıların güvenliğini artırmayı hedefleyen yeni bir yapay zeka destekli özelliğini duyurdu.
Yeni sistem, platform üzerindeki sohbetleri analiz ederek kendine zarar verme veya intihar riski taşıdığı düşünülen durumları tespit etmeye çalışacak. Riskin doğrulanması halinde ise ebeveynlere bildirim gönderilecek.
Şirketin açıklamasına göre sistem, Meta AI teknolojisinden yararlanarak genç kullanıcıların sohbetlerinde olası tehlike işaretlerini analiz ediyor.
Yapay zeka tarafından şüpheli olarak işaretlenen konuşmalar daha sonra insan moderasyon ekiplerinin incelemesine sunuluyor. İnceleme sonucunda ciddi bir risk olduğu değerlendirilirse, ebeveyn denetimi özelliğini kullanan hesapların ailelerine uyarı gönderiliyor.
Yeni güvenlik özelliği ilk etapta ABD, İngiltere, Kanada ve Avustralya'da ebeveyn denetimi aktif olan Instagram hesaplarında kullanıma açılıyor. Meta, sistemi kademeli olarak genişletmeyi ve yıl sonuna kadar daha fazla ülkede erişime sunmayı planlıyor.
Meta, yalnızca aileleri bilgilendirmekle sınırlı kalmayacak yeni güvenlik çözümleri üzerinde de çalışıyor. Şirket, ilerleyen dönemde yüksek risk taşıdığı değerlendirilen vakalarda ilgili acil yardım birimlerine otomatik bildirim gönderilmesini sağlayacak bir sistem geliştirdiğini açıkladı.
Sosyal medya platformlarında gençlerin ruh sağlığına yönelik tartışmalar sürerken, Meta'nın yeni adımı kullanıcı güvenliğini artırmayı amaçlıyor.
Öte yandan uzmanlar, yapay zeka destekli analiz sistemlerinin mahremiyet, yanlış tespit ve veri güvenliği gibi konularda dikkatli şekilde uygulanması gerektiğine de vurgu yapıyor.
