Kaynak: AMD ()
AMD’nin açıklamasına göre Unsloth Desktop, desteklediği ilk sinir işlem birimi (NPU) ailesi olarak AMD XDNA 2’yi ekledi. Entegrasyonla desteklenen AMD Ryzen AI bilgisayarlarda 100’den fazla yapay zekâ ajanı uygulaması ve iş akışı yerel NPU çıkarımına erişebiliyor. Unsloth Desktop’ın API’si, OpenAI uyumlu bir uç nokta üzerinden uyumlu uygulamaları NPU üzerinde çalışan desteklenen modellere bağlıyor.
Sistemde uyumlu bir uygulama model isteğini Unsloth Desktop API’sine gönderiyor; AMD XDNA 2 NPU üzerinde model sunumu ve çıkarımı Lemonade ile FastFlowLM tarafından yürütülüyor, yanıt ise uygulamanın iş akışına geri dönüyor. Uygulamanın diğer işlevleri gerektiğinde bilgisayarın CPU ve GPU kaynaklarını kullanmaya devam ediyor. AMD, iş birliğinin GPU’da çalıştırmaya bir alternatif sunduğunu, sürekli ve düşük güçlü çıkarımı NPU’ya aktararak CPU ile GPU’yu diğer uygulamalara bıraktığını belirtiyor.
Entegrasyon kapsamındaki araçlar arasında Hermes Agent, OpenClaw, Open WebUI, Cline, LangChain ve GitHub Copilot yer alıyor. Unsloth, ince ayarı hızlandıran ve GPU bellek ihtiyacını azaltan açık kaynak araçlarının yanı sıra kod yazmadan eğitim ve çıkarım yapılabilen bir masaüstü uygulaması sunuyor. AMD, entegrasyonun yazılım desteğini genişletme ve optimize etme yönündeki çalışmalarının devamı olduğunu bildirdi.
Bu haber, AMD tarafından yayımlanan asıl kaynaktaki bilgilerden yazıldı. Yayın ilkeleri
