Ryzen NPU’da LLM Çalıştırma

Bu proje, büyük dil modellerini (LLM) AMD Ryzen işlemcilerin NPU’larında (Sinir İşleme Birimleri) GPU’ya ihtiyaç duymadan çalıştırmayı sağlar. Maliyetli grafik kartlarına bağımlılığı azaltarak LLM’lerin daha erişilebilir ve enerji verimli bir şekilde dağıtılmasına olanak tanır. Özellikle yerel cihazlarda veya düşük maliyetli donanımlarda yapay zeka modelleri çalıştırmak isteyen geliştiriciler ve araştırmacılar için tasarlanmıştır. Yapay zeka uygulamalarının donanım gereksinimlerini optimize etmeyi hedefler.