Yapay zeka uygulamalarının büyük bölümü işlemlerini internet üzerinden uzak sunucularda gerçekleştirirken, yerel yapay zeka modelleri doğrudan bilgisayar, telefon veya tablet üzerinde çalışabiliyor.
Bu teknoloji sayesinde bazı AI özellikleri internet bağlantısı olmadan kullanılabilirken, kişisel verilerin cihaz dışına gönderilmemesi de gizlilik açısından avantaj sağlayabiliyor.
Google, Apple ve Microsoft gibi şirketlerin yeni cihazlarında yerel yapay zeka kullanımını artırmasıyla birlikte “internetsiz yapay zeka nasıl çalışır?” sorusu da daha fazla gündeme geliyor.
Yerel yapay zeka nedir?
Yerel yapay zekâ veya cihaz üzerinde yapay zekâ, AI modelinin çalışması için gereken işlemlerin bulut sunucuları yerine kullanıcının cihazında gerçekleştirilmesi anlamına geliyor.
Klasik yapay zekâ sistemlerinde kullanıcı tarafından gönderilen metin, görüntü veya ses internet üzerinden şirketin sunucularına iletiliyor. Sunucular gerekli hesaplamaları yaptıktan sonra sonuç tekrar cihaza gönderiliyor.
Yerel yapay zekâda ise modelin gerekli dosyaları cihazın depolama alanında bulunuyor. Telefon veya bilgisayar, aldığı veriyi kendi işlemcisi, GPU'su ya da NPU adı verilen yapay zekâ işlem birimiyle işliyor.
Google'ın Android AICore sistemi buna güncel bir örnek oluşturuyor. Sistem, Gemini Nano gibi modelleri Android cihazın donanımı üzerinde çalıştırabiliyor ve bazı AI özelliklerinin internet bağlantısı olmadan kullanılmasına olanak tanıyor.
İnternetsiz AI nasıl çalışıyor?
İnternetsiz yapay zekânın çalışabilmesi için öncelikle AI modelinin cihazda bulunması gerekiyor. Kullanıcı bir komut verdiğinde cihaz, veriyi internet üzerinden başka bir sunucuya göndermek yerine modelin yerel kopyasını kullanarak sonucu oluşturuyor.
Örneğin internetsiz çalışan bir metin özetleme özelliğinde belge cihaz üzerinde analiz ediliyor ve özet yine cihazın işlem gücü kullanılarak hazırlanıyor. Benzer şekilde bazı çeviri, yazma yardımı, görüntü analizi ve akıllı yanıt özellikleri de çevrimdışı çalışabiliyor.
Google, Android AICore kapsamında bazı metin özetleme ve akıllı yanıt işlemlerinin tamamen cihaz donanımı üzerinde gerçekleştirildiğini belirtiyor.
Yerel yapay zekanın avantajları neler?
Yerel AI'ın en önemli avantajlarından biri gizlilik. İşlenen veriler cihazın dışına çıkmadığı için hassas içeriklerin bulut sunucularına gönderilmesi gerekmeyebiliyor.
Bir diğer avantaj ise hız. İnternet bağlantısının kalitesine veya uzak sunucunun yoğunluğuna bağlı bir iletişim süreci olmadığı için desteklenen işlemler daha düşük gecikmeyle gerçekleştirilebiliyor.
İnternet bağlantısının olmadığı durumlarda çalışabilmesi de önemli bir avantaj. Ancak burada dikkat edilmesi gereken nokta, her yapay zekâ özelliğinin tamamen çevrimdışı çalışmadığı. Bazı uygulamalar işlemin bir bölümünü cihazda gerçekleştirirken daha gelişmiş görevler için bulut sunucularını kullanmaya devam ediyor.
Yerel yapay zeka için güçlü donanım gerekiyor
Yapay zekâ modellerini cihaz üzerinde çalıştırmak, geleneksel uygulamalara kıyasla daha fazla işlem gücü ve bellek gerektirebiliyor. Bu nedenle yeni nesil telefon, bilgisayar ve tabletlerde NPU gibi özel AI işlem birimleri giderek daha fazla önem kazanıyor.
Apple da geliştiricilere yönelik Core AI teknolojisiyle modellerin Apple cihazlarında tamamen yerel olarak çalıştırılmasını destekliyor. Şirket, bu sistemin iPhone, iPad, Mac ve Apple Vision Pro gibi cihazlarda kullanılabildiğini belirtiyor.
Google Chrome da bazı üretken yapay zekâ özellikleri için cihaz üzerinde çalışan modeller kullanıyor. Bu modellerin kullanılabilmesi için desteklenen donanımın yanı sıra yeterli depolama alanı ve performans gerekiyor.
Yerel AI ile bulut tabanlı AI arasındaki fark
Yerel yapay zekâda model ve hesaplama işlemleri büyük ölçüde kullanıcının cihazında gerçekleşirken, bulut tabanlı yapay zekâda işlemler uzaktaki veri merkezlerinde yapılıyor.
Yerel AI gizlilik, çevrimdışı kullanım ve düşük gecikme açısından avantaj sağlayabilir. Bulut tabanlı sistemler ise çok daha büyük modeller ve yüksek işlem gücü kullanabildiği için daha karmaşık görevlerde avantajlı olabilir.
Bu nedenle günümüzde birçok yapay zekâ sistemi iki yöntemi birlikte kullanıyor. Basit ve hızlı işlemler cihaz üzerinde gerçekleştirilirken, daha ağır görevler gerektiğinde bulut sunucularından destek alınabiliyor.
Kısacası yerel yapay zekâ, internet olmadan çalışan sihirli bir sistemden ziyade önceden cihaza yüklenmiş AI modellerinin cihazın işlem gücüyle çalıştırılması olarak tanımlanabilir. Telefon ve bilgisayarlardaki donanım geliştikçe bu tür yapay zekâ özelliklerinin daha fazla uygulamada karşımıza çıkması bekleniyor.
