Yapay zekâ alanının en büyük oyuncularından OpenAI, ChatGPT için çocuk ve genç kullanıcıları yakından ilgilendiren kapsamlı bir güvenlik güncellemesini devreye aldı.
Yeni sistemle birlikte platform, 18 yaş altındaki kullanıcıları daha isabetli biçimde tespit etmeyi ve bu hesaplar için otomatik koruma önlemleri uygulamayı hedefliyor.
OpenAI’nin duyurduğu yaş tahmini özelliği, yalnızca kullanıcıların beyan ettiği doğum tarihine dayanmıyor.
Yapay zekâ; hesabın açılış tarihi, kullanım saatleri ve yazışma alışkanlıkları gibi davranışsal verileri analiz ederek kullanıcının yaşına dair bir tahmin oluşturuyor. Şirket, bu yaklaşımın sahte yaş beyanlarının önüne geçmede daha etkili olacağını savunuyor.
HASSAS İÇERİKLER OTOMATİK OLARAK FİLTRELENİYOR
Sistem, genç olduğu değerlendirilen hesaplarda hassas içerikleri otomatik olarak filtreliyor. Grafik şiddet, kendine zarar verme tasvirleri, reşit olmayanları riskli davranışlara yönlendiren viral akımlar, cinsel veya şiddet içeren rol yapma senaryoları ile aşırı güzellik standartlarını teşvik eden içerikler bu kapsamda erişime kapatılıyor.
OpenAI, bu filtrelemenin kullanıcının farkında olmadan devreye girdiğini ve manuel ayar gerektirmediğini belirtiyor.
Yanlış sınıflandırma ihtimali için ise bir doğrulama yolu sunulmuş durumda. Yetişkin olduğu hâlde çocuk olarak algılanan kullanıcılar, Persona adlı doğrulama hizmeti üzerinden selfie göndererek yaşlarını kanıtlayabiliyor ve kısıtlamaları kaldırabiliyor.
EBEVEYNLERE YENİ KONTROL ARAÇLARI GELİYOR
Güncelleme, ebeveynlere yönelik yeni kontrol araçlarını da beraberinde getiriyor. Aileler, ChatGPT’nin belirli saatlerde kullanılamamasını sağlayan “sessiz saatler” tanımlayabiliyor veya uygulamanın hafıza özelliklerini tamamen devre dışı bırakabiliyor.
Ayrıca sistem, ciddi bir psikolojik sıkıntı ya da risk sinyali algıladığında ailelere bildirim gönderebiliyor.
OpenAI, yaş konusunda emin olunamayan durumlarda varsayılan olarak güvenli modun aktif olacağını vurguluyor. Şirketin bu adımı, yapay zekâ platformlarının çocuk güvenliği konusundaki sorumluluğunun giderek daha fazla gündeme geldiği bir dönemde önemli bir eşik olarak değerlendiriliyor.
