Yapay zeka sektörünün önde gelen isimlerinden, gelişmiş yapay zeka modellerinin geliştirilme hızının kontrollü şekilde azaltılması yönünde dikkat çeken bir çağrı geldi. Anthropic CEO’su Dario Amodei, yayımladığı kapsamlı yazıda sektörün güvenlik çalışmalarına daha fazla zaman ayırması gerektiğini savundu.
Amodei'ye göre yapay zeka modellerinin geliştirilme hızının bir süreliğine yavaşlatılması, şirketlere güvenlik önlemlerini güçlendirmek için daha fazla zaman kazandırabilir. Aynı zamanda düzenleyici kurumların da giderek daha gelişmiş hale gelen modelleri değerlendirmesi ve gerekli kuralları oluşturması için yeterli süreye sahip olması hedefleniyor.
Anthropic CEO'su, gelişmiş yapay zeka sistemlerinin yalnızca modelleri geliştiren şirketler tarafından değerlendirilmemesi gerektiğini de belirtiyor. Amodei, modellerin üçüncü taraf bağımsız kuruluşlar tarafından test edilmesini ve sonuçların daha güvenilir şekilde ortaya konulmasını istiyor.
Yapay zeka sektörü ortak standartlar oluşturmalı
Amodei’nin önerileri yalnızca şirketlerin kendi güvenlik çalışmalarını kapsamadı. Yönetici, yapay zeka sektörünün devlet kurumlarıyla birlikte hareket ederek ortak güvenlik standartları oluşturması gerektiğini savundu.
Özellikle denetimsiz yapay zeka geliştirme hızının belirli sınırlar içerisinde tutulması gerektiğini belirten Amodei, yeni yasaların hazırlanmasının ve düzenleyici kurumların gerekli altyapıyı oluşturmasının zaman alacağını vurguladı.
Bu süreç tamamlanana kadar teknoloji şirketlerinin kendi aralarında ortak güvenlik standartları belirlemesinin önemli olduğu ifade edildi. Böylece yapay zeka modellerinin yetenekleri hızla gelişirken güvenlik çalışmalarının geride kalmasının önüne geçilmesi amaçlanıyor.
Sam Altman ve Demis Hassabis destek verdi
Dario Amodei’nin çağrısı, yapay zeka sektörünün diğer önemli yöneticilerinden de destek gördü. OpenAI CEO’su Sam Altman, ileri düzey yapay zekadaki gelişmelerin hızının kontrollü şekilde yönetilmesi gerektiği konusunda Amodei ile aynı görüşte olduğunu belirtti.
Altman ayrıca OpenAI içerisinde de bu konunun son dönemde önemli gündem maddelerinden biri olduğunu söyledi. Bağımsız değerlendiricilerin gelişmiş yapay zeka modellerini şirket çalışanlarına benzer düzeyde erişimle test etmesi fikrini destekleyen Altman, OpenAI’nin de benzer bir yaklaşımı benimseyeceğini açıkladı.
Google DeepMind CEO’su Demis Hassabis de Amodei’nin önerilerini olumlu karşıladı. Hassabis, sektör genelinde ortak bir standart kuruluşu oluşturulmasının gelişmiş yapay zekanın güvenli şekilde ilerlemesi açısından önemli olduğunu belirtti.
Yapay zeka şirketlerinin liderlerinden gelen bu açıklamalar, sektörün yalnızca daha güçlü modeller geliştirmeye değil, bu modellerin güvenli şekilde değerlendirilmesine de daha fazla önem vermeye başladığını gösteriyor.
