ChatGPT’nin geliştiricisi OpenAI, yeni nesil yapay zeka modellerinin eğitim sürecinde önemli bir değişikliğe gidiyor.
Şirket, güvenlik sınırlarının aşılması ve bazı internet sitelerine izinsiz erişim riskleriyle ilgili endişelerin ardından, üst seviye modellerini artık aktif internet bağlantısı olmadan eğiteceğini duyurdu.
Yeni yaklaşımla birlikte yapay zeka modelleri, eğitim sırasında canlı internet sitelerine doğrudan erişmek yerine önceden kaydedilmiş web içeriklerinden yararlanacak.
OpenAI, bu amaçla dış sistemler üzerinde istenmeyen etkiler oluşturma riskini sınırlandıran çevrim dışı bir test ortamı kurdu.
Bu değişikliğin, modellerin eğitim sırasında kontrolsüz biçimde internetle etkileşime girmesinden kaynaklanabilecek güvenlik risklerini azaltması hedefleniyor.
GÜVENLİK ÖNLEMLERİ ARTIRILIYOR
OpenAI’ın kararı, gelişmiş yapay zeka sistemlerinin yetenekleri arttıkça güvenlik denetimlerinin de önem kazandığını gösteriyor.
Şirket daha önce yaptığı açıklamada, modellerini yeterince kontrol altına almadan kamuya sunmayacağını belirtmişti. Yeni eğitim yaklaşımının modellerin geliştirilme sürecini nasıl etkileyeceği henüz net değil.
Ancak şirketin attığı adım, daha güçlü yapay zeka sistemlerini kullanıma sunmadan önce güvenlik risklerini azaltmaya yönelik çalışmaların sürdüğünü ortaya koyuyor.
