Çevrimdışı özellikli yapay zeka modelleri, WebGPU ve WebNN ile web uygulamalarını daha akıllı hale getirin
Yapay zeka (AI) herkesin dilinde: Yeni bir ürünün, chatbot'un veya geliştirilmiş AI modelinin duyurulmadığı bir hafta geçmiyor. Aynı zamanda, üretken yapay zeka önemli üretkenlik uygulamalarında da yerini alıyor: Adobe Photoshop, bir görüntüdeki nesneleri yalnızca metin ekleyerek değiştirmenize olanak tanıyor ve Microsoft Copilot, kullanıcıyı Office ve Windows'ta destekliyor. Pek çok uygulama geliştiricisinin şu anda uygulamalarına üretken yapay zekayı dahil etmeyi planlaması şaşırtıcı değil.
Duyuru
Christian Liebel (@christianliebel) Karlsruhe'deki Thinktecture'da bir yazılım geliştiricisidir. İş uygulamalarının dijitalleşme ve modernizasyon projeleriyle müşterilerine destek vermektedir. Güçlü yanı, Angular, Progressive Web Apps, Project Fugu ve Web Components gibi modern web teknolojilerine dayalı çok platformlu uygulamalardır. Topluluğa yaptığı katkılardan dolayı Microsoft MVP'si ve Google GDE olarak tanındı.
Tek yapmanız gereken Photoshop'a basit bir metin girişi yapmak ve manzarada bir boz ayı göze çarpıyor.
Web yapay zeka trendine hazırlanıyor
Şu ana kadar bu yol neredeyse tamamen buluta ulaştı. Tüm büyük bulut sağlayıcıları, yapay zeka işlevlerini uygulamalarına entegre etmek için kullanımı kolay arayüzler sağlar.
Ancak bu şekilde olmak zorunda değil: Yapay zeka trendi World Wide Web'e de ulaştı.Neredeyse bu heyecanla eş zamanlı olarak WebGPU arayüzü Chromium 113 (Nisan 2023) ile Windows ve macOS altında kullanıma sunuldu. Bu API, web uygulamalarına, yalnızca grafik uygulamaları için değil aynı zamanda gerekli makine öğrenimi (ML) hesaplamaları için de uygun olan sistemin grafik işleme birimine (GPU) düşük düzeyde erişim sağlar. Bu, ML modellerini tarayıcıda verimli bir şekilde çalıştırmanıza olanak tanır.
İki Machine Learning Derleme sunumu zaten bu arayüzü kullanıyor:
- WebLLM, örneğin verilerinize sohbet robotları uygulamak için tarayıcıya Büyük Dil Modelleri (LLM) sunar. Meta'nın açık kaynaklı LLaMA 2 modeli ile buna dayalı Vicuna modeli arasında seçim yapabilirsiniz.
- WebSD, tıpkı Photoshop'ta olduğu gibi metin girişine dayalı görüntüler oluşturmanıza olanak tanıyan kararlı yayılma modelini tarayıcıya sunar.
WebSD ayrıca web tarayıcınızda boz ayılar oluşturabilir.
Her iki vitrin de açık kaynaktır; WebLLM durumunda geliştiricilerin uygulamalarına entegre edebileceği npm @mlc-ai/web-llm paketi de vardır.
Yüksek veri koruması, yüksek sistem gereksinimleri
Her iki durumda da yapay zeka modellerinin öncelikle son kullanıcının cihazına aktarılması gerekiyor. Ancak bu modellerin boyutları birkaç gigabayt olduğundan hızlı bir İnternet bağlantısına ve yeterli depolama alanına ihtiyacınız var. Modeli çalıştırmak da zordur ve çok fazla RAM ve bilgi işlem gücü gerektirir.
Buna karşılık, ilk indirmenin ardından şablonlar çevrimdışı olarak veya İnternet bağlantısının güvenilmez olması durumunda da kullanılabilir. Veriler kullanıcının cihazından çıkmıyor, bu da bu yaklaşımın kritik veriler için de uygun olduğu anlamına geliyor. Ayrıca şablonlar açık kaynak olduğundan herhangi bir maliyeti yoktur. Ancak OpenAI GPT-4 gibi ticari modeller önemli ölçüde daha güçlüdür. Ancak burada da pek çok şey oluyor ve açık kaynak modelleri sürekli gelişiyor ve küçülüyor.
WebNN performansı daha da artıracak
WebGPU ile henüz yola çıkılmadı: Web Sinir Ağı API'si (WebNN) şu anda World Wide Web Konsorsiyumu (W3C) tarafından belirlenmektedir. Bu arayüz, web uygulamalarına platforma özel ML arayüzlerine ve dolayısıyla hedef platformda mevcut olması durumunda Sinir İşleme Birimi'ne (NPU) ek erişim sağlayarak makine öğrenimi modellerinin web tarayıcısında yürütülmesini daha da hızlandıracaktır.
Tarayıcıdaki yapay zeka daha yeni başlıyor ancak giderek daha alakalı hale geliyor
Gelişmiş yapay zeka modelleri halihazırda doğrudan web tarayıcısında kullanılabiliyor. Progressive Web Apps ortamının diğer arayüzleriyle birlikte tamamen çevrimdışı AI web uygulamaları oluşturmak mümkündür. Hiç şüphe yok ki bu gelişme hala başlangıç aşamasındadır: WebGPU hala WebKit (Safari) ve Gecko'da (Firefox) uygulanmaktadır; Arayüz henüz Android ve Linux'taki Chromium tabanlı tarayıcılarda da mevcut değil. WebNN henüz herhangi bir tarayıcıda kullanılamıyor.
WebLLM npm paketi, mevcut bir Todo uygulamasını sohbet işleviyle genişletir.
Bununla birlikte, web uygulamalarındaki yapay zekanın giderek daha alakalı hale gelmesi muhtemeldir: çok fazla kullanım durumu, klasik kurallara dayalı geliştirmeyle anlamlı bir şekilde kapsanamaz. Her halükarda web bu gelişmeye hazırlıklıdır.
(kendim)
Haberin Sonu