Takip et

Mega4alik/ollm – Tüketici GPU’larında Büyük Model Çıkarımı

Bu proje, geniş bağlamlı büyük dil modellerinin (LLM’ler) çıkarımını tüketici sınıfı GPU’larda mümkün kılar.

Tüketici GPU’larında Büyük Model Çıkarımı

Bu proje, geniş bağlamlı büyük dil modellerinin (LLM’ler) çıkarımını tüketici sınıfı GPU’larda mümkün kılar. Daha uygun fiyatlı grafik kartlarına sahip kullanıcıların gelişmiş yapay zeka modellerini yerel olarak çalıştırmasına olanak tanır. Yüksek performanslı donanıma ihtiyaç duymadan LLM’leri denemek isteyen yapay zeka meraklılarına ve geliştiricilere hitap eder.

GitHub: https://github.com/Mega4alik/ollm

Yorumlar
İçeriği beğendiniz mi? Bir tartışma başlatın veya görüşlerinizi paylaşın.
Yorum Yaz

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Gönder

E-posta Bülteni
Yazılım Topluluğuna Katılın
En son güncellemeleri, yaratıcı ipuçlarını ve özel kaynakları doğrudan e-posta kutunuza alın. Tasarım ve inovasyonun geleceğini birlikte keşfedelim.
Mobil sürümden çık