Takip et

MakazhanAlpamys/Soup – Düşük Kaynaklı LLM Eğitimi

Soup, 8 milyar parametreli büyük dil modellerini (LLM) sadece 4 GB’lık bir dizüstü bilgisayar GPU’sunda ince ayar yapmayı mümkün kılan yenilikçi bir araçtır.

Düşük Kaynaklı LLM Eğitimi

Düşük Kaynaklı LLM Eğitimi

Soup, 8 milyar parametreli büyük dil modellerini (LLM) sadece 4 GB’lık bir dizüstü bilgisayar GPU’sunda ince ayar yapmayı mümkün kılan yenilikçi bir araçtır. Katman akışı (layer streaming) teknolojisini kullanarak bellek kısıtlamalarını aşar ve bu sayede daha az güçlü donanımlarda bile büyük modellerin eğitilmesine olanak tanır. Tek bir YAML yapılandırma dosyası ile kolayca yönetilebilen bu proje, LLM geliştirmeyi daha geniş bir kitle için erişilebilir hale getirerek donanım engellerini ortadan kaldırır.

GitHub: https://github.com/MakazhanAlpamys/Soup

Yorumlar
İçeriği beğendiniz mi? Bir tartışma başlatın veya görüşlerinizi paylaşın.
Yorum Yaz

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

E-posta Bülteni
Yazılım Topluluğuna Katılın
En son güncellemeleri, yaratıcı ipuçlarını ve özel kaynakları doğrudan e-posta kutunuza alın. Tasarım ve inovasyonun geleceğini birlikte keşfedelim.