OpenAI, ChatGPT'yi kullanan gençlerin çevrim içi güvenliğini artırmaya yönelik önemli bir güncellemeyi duyurdu.
Şirket, ebeveyn kontrollerine bağlı hesaplarda şiddet içerikli kullanım politikalarının ihlal edilmesi durumunda ebeveyn veya velilere bildirim göndermeye başlayacak.
Yeni uygulama, daha önce yalnızca kendine zarar verme riskiyle sınırlı olan uyarı sisteminin kapsamını genişleterek çevrim içi şiddet tehditlerini de kapsıyor.
ŞİDDET POLİTİKASI İHLALLERİNDE AİLELER BİLGİLENDİRİLECEK
Yeni sistem kapsamında, şiddet eylemlerini teşvik eden veya başkalarına yönelik ciddi tehdit içeren davranışlar nedeniyle hesabı devre dışı bırakılan genç kullanıcıların ebeveynlerine bilgilendirme mesajı gönderilecek.
OpenAI, bu bildirimlerin yalnızca bir uyarı niteliği taşımadığını, aynı zamanda ebeveynlerin yaşanan durumu daha iyi anlayabilmesi için ek bilgiler de sunduğunu belirtiyor.
Geçtiğimiz yıl kullanıma sunulan ebeveyn kontrolleri; ChatGPT kullanım saatlerini sınırlandırma, hassas içeriklerin görünürlüğünü azaltma ve olası kendine zarar verme belirtilerine ilişkin bildirim alma gibi özellikler içeriyordu.
Son güncellemeyle birlikte bu güvenlik araçlarına, çevrim içi şiddet ve şiddet tehdidiyle ilgili politika ihlallerine yönelik bildirimler de eklendi.
ÇALIŞMA MODU VE MOLA HATIRLATMALARI DA GÜNCELLENDİ
OpenAI, güvenlik önlemlerinin yanı sıra genç kullanıcıların platformu daha bilinçli kullanmasını sağlayacak yeni özellikleri de devreye aldı.
Ebeveyn kontrolleri üzerinden etkinleştirilebilen Çalışma Modu, ChatGPT'nin doğrudan cevap vermek yerine yönlendirici ipuçları sunmasını sağlayarak öğrencilerin öğrenme sürecine aktif katılımını teşvik ediyor. Ayrıca uzun süre platformu kullanan genç hesaplara daha sık mola hatırlatmaları gönderilecek.
Şirket, yeni sistemi çevrim içi şiddetin önlenmesi alanında faaliyet gösteren Moonshot ile iş birliği içinde geliştirdi.
OpenAI'ye göre ebeveyn bildirimlerinin kapsamının genişletilmesi, ailelerin olası risklere daha erken müdahale edebilmesine katkı sağlayacak. Atılan adım, yapay zeka platformlarında genç kullanıcıların güvenliğini artırmaya yönelik önlemlerin giderek daha kapsamlı hale geldiğini gösteriyor.
