OpenAI, yapay zeka tarafından oluşturulan içeriklerin tespit edilmesini kolaylaştıracak yeni bir dijital filigran sistemi geliştiriyor. Şirket, Avrupa Birliği’nin yeni şeffaflık kurallarına uyum kapsamında ChatGPT ve Codex tarafından oluşturulan belirli içeriklere görünmez filigran eklemeye hazırlanıyor.
OpenAI’ın geliştirdiği textGrain isimli teknoloji, yapay zeka modellerinin kelime seçimlerine istatistiksel sinyaller yerleştiriyor. Kullanıcı tarafından doğrudan fark edilemeyen bu sinyaller, özel bir tespit sistemi aracılığıyla analiz edilerek içeriğin yapay zeka tarafından oluşturulup oluşturulmadığı konusunda bilgi sağlayabiliyor.
Yapay zeka metinleri nasıl tespit edilecek?
textGrain, metnin görünümünü değiştirmek yerine modelin kelime tercihleri üzerinden çalışıyor. Böylece içerikte gözle fark edilebilecek bir işaret bulunmasa da özel bir dedektör yardımıyla filigranın varlığı kontrol edilebiliyor.
OpenAI, sistemin ideal koşullarda güçlü sonuçlar verdiğini belirtirken günlük kullanımda bazı sınırlamalar bulunduğuna da dikkat çekiyor. Özellikle kısa metinler ve matematiksel içerikler daha zor tespit ediliyor. Şirketin paylaştığı verilere göre bu tür durumlarda başarı oranı yaklaşık yüzde 80 seviyesinde kalıyor.
Metnin kullanıcı tarafından yeniden yazılması veya önemli ölçüde düzenlenmesi de filigranın tespit edilmesini zorlaştırabiliyor. Bu nedenle sistemin her yapay zeka içeriğini kesin şekilde belirleyebileceği anlamına gelmiyor.
AB kuralları sistemi zorunlu hale getiriyor
Avrupa Birliği’nin Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sistemleri tarafından oluşturulan içeriklerin makine tarafından okunabilir şekilde işaretlenmesini öngörüyor. OpenAI’ın yeni sistemi de bu düzenlemeye uyum sağlamak amacıyla kullanılacak.
Filigran özelliğinin Avrupa Birliği'ndeki uygun ChatGPT ve Codex çıktılarında varsayılan olarak etkinleştirilmesi planlanıyor. Diğer bölgelerde ise belirli modeller için özelliğin isteğe bağlı olarak kullanılabilmesi bekleniyor.
OpenAI, filigranları tespit eden yazılımı başlangıçta sınırlı şekilde kullanıma açacak. Sisteme ilk etapta yalnızca onaylı araştırmacılar ve uzman kuruluşların erişebilmesi planlanıyor.
Şirket ayrıca tespit sisteminin kullanıcıların kimliğini belirlemediğini, istemleri veya konuşmaları ortaya çıkarmadığını belirtiyor. OpenAI’ın ilerleyen dönemde teknolojiyi açık kaynak haline getirerek araştırmacıların geliştirmesine olanak sağlaması da planlar arasında bulunuyor.
Yeni sistemin kullanıma sunulmasıyla birlikte ChatGPT tarafından oluşturulan metinlerin yapay zeka kaynaklı olup olmadığını anlamak daha kolay hale gelebilir. Ancak kısa, değiştirilmiş veya matematiksel içeriklerdeki tespit sorunları nedeniyle teknolojinin tek başına kesin bir doğrulama yöntemi olarak kullanılması beklenmiyor.
