Yapay zeka alanında yaşanan dikkat çekici gelişmeler devam ediyorken Kaliforniya eyaletinde düzenlenen yeni güvenlik kuralları dikkat çekti.
Şimdiye kadarki en katı düzenlemeler arasında yer alan bu düzenleme eyalet valisi Gavin Newson tarafından yürürlüğe alındı.
Yeni düzenlemeyle birlikte “AI companion” yani duygusal etkileşim kuran sıhbet botları hedef alındı. Senato tarafından imzalanan Bill 243 (SB 243) adı verilen yasa yürürlüğe girdi.
Yürürlüğe giren SB 243, yapay zeka sohbet botlarının özellikle çocuklar ve hassas kullanıcılar üzerindeki olası zararlarına karşı “ilk kapsamlı yasal çerçeve” olma özelliğini taşıyor.
2026’DA UYGULANMAYA BAŞLAYACAK
Senato tarafından imzalanarak kabul edilen SB 243 1 Ocak 2026 tarihi itibariyle uygulanmaya başlayacak. Yeni yasa OpenAI, Meta, Character AI ve Replika gibi şirketlerin çocuk güvenliği, şeffaflık ve kriz müdahalesi konularında yeni önlemler almasını zorunlu kılıyor.
Yeni düzenlemeye göre, kullanıcıların sohbet ettikleri kişinin bir insan değil, yapay zeka olduğunu açıkça fark edebilmesi zorunlu hale geliyor. Şirketler ayrıca yaş doğrulama sistemleri, mola hatırlatmaları, cinsel içerik filtreleri ve intihar ya da kendine zarar verme durumlarında otomatik kriz yönlendirmesi gibi güvenlik önlemlerini uygulamakla yükümlü olacak.
Yasa, yapay zekaların “sağlık profesyoneli” gibi davranmasını da yasaklıyor ve sosyal medya ile sohbet platformlarında yaş kısıtlamalarını daha sıkı hale getiriyor. Kuralları ihlal edenlere, yasa dışı deepfake üretimi de dahil olmak üzere, her bir suç için 250 bin dolara kadar para cezası verilebilecek.
Bu adım, yapay zeka sohbet botlarının neden olduğu trajik olayların ardından atıldı. Özellikle bir gencin ChatGPT ile yaptığı uzun ve karanlık konuşmaların ardından intihar etmesi, kamuoyunda büyük yankı uyandırmıştı. Bu olayın ardından OpenAI, ChatGPT’nin ruhsal krizleri tespit edememesi nedeniyle güvenlik sistemlerini güçlendireceğini duyurmuştu.
