Son dönemde dünyanın en çok kullanılan yapay zekâ aracı ChatGPT, özellikle genç kullanıcılar üzerindeki olası olumsuz etkileri nedeniyle yoğun eleştiri ve yasal baskı altında kaldı.
Bazı olaylarda gençlerin kendine zarar verme davranışlarıyla ilişkilendirildiği iddiaları, şirketi daha kapsamlı güvenlik önlemleri geliştirmeye zorladı.
Bu eleştirilerin ardından OpenAI, dün yaptığı kapsamlı bir duyuruyla ChatGPT’nin genç kullanıcılarla etkileşim kurma biçiminde köklü bir değişikliğe gidileceğini duyurdu.
Şirket, modelin yetişkinlerle gençler arasındaki farkları daha iyi hesaba katacak şekilde davranacağını belirterek, yapay zekânın gençler için daha güvenli ve sorumlu bir deneyim sunmasını hedeflediğini açıkladı.
MODEL SPEC İLE KURALLAR DEĞİŞİYOR
Yeni yaklaşım, OpenAI’ın içerik davranışını yöneten “Model Spec” adlı iç politika kurallarına U18 (18 yaş altı) ilkeleri eklenmesiyle somutlaştı. Bu prensipler dört ana ilke etrafında şekillendi:
Genç güvenliğini her şeyin önüne koymak: Herhangi bir hedef veya esneklik arayışı, genç kullanıcı güvenliği ile çeliştiğinde bir kenara bırakılacak.
Gerçek dünyadaki destek ve kaynaklara teşvik: Yapay zekâ sohbeti, gençleri çevrim dışı destek aramaya ve güvenilir kişilerle bağlantı kurmaya yönlendirecek.
Yaşa uygun ve saygılı yaklaşım: Gençlerle iletişimde, yetişkinlerle konuşulduğu gibi yaklaşılmayacak; gelişimsel farklılıklar gözetilecek.
Beklentilerin net ve şeffaf biçimde belirtilmesi: Kullanıcılara yaşa uygun sınırlar ve içerik politikaları açıkça aktarılacak.
Bu dörtlü çerçeve, OpenAI’ın yalnızca konuşma tarzını değil, aynı zamanda ChatGPT’nin gençlere nasıl tavsiyelerde bulunduğunu ve zor durumlarda nasıl yönlendirdiğini de yeniden yapılandırıyor.
Özellikle özkıyım, ciddi duygusal stres veya riskli davranışlara ilişkin sohbetlerde model, destek kaynaklarına ulaşmayı ve profesyonel yardım aramayı öncelikli hale getirecek şekilde ayarlanacak.
EBEVYN DENETİMİ ÖZELLİKLERİ TANITILDI
Ayrıca şirket, ebeveynlerin de sürece aktif olarak katılabileceği “ebeveyn denetimleri” özelliklerini tanıttı.
Bu araçlar sayesinde ebeveynler, gençlerin ChatGPT deneyimini kendi aile değerleri ve güvenlik öncelikleri doğrultusunda özelleştirebilecek; içerik türleri, kullanım zamanları, görsel içerik üretimi gibi birçok öğeyi kontrol edebilecek.
Teknoloji, potansiyel ciddi risk durumlarında ailelere doğrudan bildirim gönderme yeteneğine de sahip olacak.
YAŞ TAHMİNİ VE KİMLİK DOĞRULAMA SİSTEMLERİ GELİŞTİTLECEK
OpenAI ayrıca, ilerleyen aylarda yaş tahmini ve kimlik doğrulama sistemleri geliştirerek, otomatik olarak genç kullanıcıları tanıma ve koruma mekanizmalarını güçlendirme planlarını da paylaştı. Bu sistemler ile yaş doğrulaması yapılmadan erişilen içerikler, güvenli moda yönlendirilerek standartların altında tutularak uygulanacak.
Tüm bu adımlar, ChatGPT’nin gençlerle olan etkileşiminde daha standart, kontrollü ve psikososyal açıdan destekleyici bir çerçeve oluşturmayı amaçlıyor. Şirket yetkilileri, bu yeniliklerin benzer olayların tekrarını azaltarak hem kullanıcı güvenliğini hem de toplumun dijital teknolojiye duyduğu güveni artıracağını umduklarını belirtiyor.
