Dalam 2 minggu terakhir, 7 arsitektur model baru ditambahkan ke MLX LM. Dari 7 itu, 6 adalah MoE. Dari 6 MoE tersebut, 3 merupakan model hybrid SSM / perhatian. Arsitektur berubah perlahan lalu tiba-tiba.