DeepSeek-V3.1-4bit kjører med MLX på M3 Ultra 512GB med 21 tok/sek! 🔥 Bruker bare 380 GB! 👀 <tenk> eller </tenke> det er spørsmålet.
7,57K