تم تحقيق التحجيم الخطي باستخدام مثيلات DeepSeek v3.1 متعددة. 4x macs = 4x إنتاجية. 2x M3 Ultra Mac Studios = 1x DeepSeek @ 14 tok / sec 4x M3 Ultra Mac Studios = 2x DeepSeek @ 28 توك / ثانية DeepSeek V3.1 هو نموذج معلمة 671B - لذلك عند التكميم الأصلي 8 بت ، فإنه يتطلب ~ 700 جيجابايت من الذاكرة لتشغيل النموذج. يضع EXO نصف الطبقات على كل جهاز ، ويجمع بين ذاكرتها. يستخدم EXO MLX الموزع مع التوصيل البيني TB5 ، المحسن لسيليكون Apple. إذا كنا بحاجة إلى إنتاجية أعلى ، فإن إضافة جهازين آخرين يتيح لنا خدمة المزيد من المستخدمين في وقت واحد. يتعامل @exolabs مع كل هذا بسلاسة - إضافة المزيد من الأجهزة إلى المجموعة للقياس الخطي حسب حاجتنا. سيكون EXO 1.0 الجديد مفتوح المصدر قريباTM