Yapay zeka ile oluşturulan deepfake içeriklerin hızla yayılması, sosyal medya platformlarını yeni güvenlik çözümleri geliştirmeye yönlendiriyor. Bu kapsamda TikTok, içerik üreticilerini kimlik taklitlerine karşı korumayı amaçlayan yeni bir yüz tanıma sistemini sınırlı kullanıcı grubuyla test etmeye başladı.
Edinilen bilgilere göre "Likeness Detection" adı verilen özellik, yapay zeka kullanılarak oluşturulan ve içerik üreticilerinin yüzünü izinsiz kullanan videoları tespit etmeye yardımcı oluyor. İlk etapta ABD'deki belirli kullanıcılarla test edilen sistem, olası deepfake içeriklerin doğrudan raporlanmasını kolaylaştırmayı hedefliyor.
Yeni güvenlik özelliğini kullanmak isteyen içerik üreticilerinin öncelikle kimlik doğrulama sürecini tamamlaması gerekiyor. Bunun için gerçek zamanlı bir selfie ve resmi kimlik belgesiyle doğrulama yapılıyor.
TikTok, doğrulama sürecinde kullanılan belgelerin platformda saklanmadığını, yalnızca yüz verilerinin izinsiz oluşturulan yapay zeka içeriklerini tespit etmek amacıyla işlendiğini belirtiyor.
Doğrulama tamamlandıktan sonra sistem, platforma yüklenen videoları arka planda analiz ederek içerik üreticisinin yüzünü taklit eden olası deepfake içerikleri belirlemeye çalışıyor.
Güçlü bir eşleşme tespit edildiğinde ilgili içerik üreticisine bildirim gönderiliyor. Kullanıcı, videoyu inceleyerek izinsiz kullanım olduğunu düşünmesi halinde doğrudan TikTok'a şikayette bulunabiliyor.
TikTok'un bu adımı, yapay zeka kaynaklı sahte içeriklerle mücadelede sektör genelinde hız kazanan çalışmaların bir parçası olarak görülüyor.
Kısa süre önce YouTube da benzer bir yüz tanıma sistemiyle içerik üreticilerine deepfake videoları tespit etme ve gizlilik ihlali kapsamında raporlama imkanı sunmuştu.
Yapay zekanın içerik üretimindeki etkisi her geçen gün artarken, TikTok ve YouTube gibi büyük platformlar biyometrik doğrulama ve otomatik tespit teknolojileriyle kullanıcı güvenliğini güçlendirmeyi amaçlıyor.
Uzmanlar ise bu tür sistemlerin, deepfake kaynaklı dolandırıcılık, kimlik taklidi ve yanlış bilgi yayılımını azaltmada önemli rol oynayabileceğini değerlendiriyor.
