ChatGPTが存在する前にMLXの開発を始めたのはかなり驚きです。 ChatGPTが出たのはずいぶん昔のことのように感じます。しかもMLXを作り始めたのは本当に短い期間です。この二つを両立させるのは難しいです。

4つの高レベルOpenCodeエージェント+サブエージェントをmlx_lm.server連続バッチ処理とMiniMax M2.5(6ビット)で実行しています。 512GB M3 Ultraに簡単に収まります。生成はかなり速いです。しかし、プリフィルはクラウドサーバーと比べると依然として遅いです。

AIにおける重要な2つのトレンドは以下の通りです。 - 知能のピークが上昇している - ワットあたりの知能(IPW)が上昇中 分子を大きくして分母を小さくすることで、IPWはさらに急速に変化していると思います。 前者についてはよく議論を聞きますが、後者についてはあまり多くありません。そして、両方が同時に起こっているため、2〜5年後のAIがどのような姿になるかを予測するのははるかに難しくなります。