🚨 Berhentilah menebak model AI mana yang sebenarnya dapat dijalankan komputer Anda. Alat ini memindai perangkat keras Anda dan memberi tahu Anda dengan tepat LLM mana yang akan berfungsi. Satu perintah. Itu disebut llmfit. 497 model. 133 penyedia. Ini memeriksa RAM, CPU, dan GPU Anda, lalu memberi peringkat setiap model berdasarkan apa yang cocok. Tidak perlu lagi mengunduh model 70B hanya untuk melihatnya crash. Inilah yang dilakukannya: → Mendeteksi perangkat keras Anda yang tepat (NVIDIA, AMD, Intel Arc, Apple Silicon) → Memilih kuantisasi terbaik yang sesuai dengan memori Anda → Menilai setiap model berdasarkan kualitas, kecepatan, kesesuaian, dan panjang konteks → Menangani pengaturan multi-GPU dan arsitektur MoE secara otomatis → Terhubung ke Ollama sehingga Anda dapat mengunduh pertandingan terbaik secara instan Inilah bagian terliar: Mixtral 8x7B memiliki total parameter 46,7B. Sebagian besar alat berpikir Anda membutuhkan VRAM 24GB. Tetapi hanya 12,9 miliar parameter yang aktif per token. LLMFIT tahu ini. Ini mencetak persyaratan nyata pada ~6.6GB. Satu fitur itu saja membuka model yang orang pikir tidak bisa mereka jalankan. Brew Instal LLMFIT 6.5K bintang GitHub. Dibangun di Rust. Lisensi MIT. 100% Sumber Terbuka.