За последние 2 недели в MLX LM было добавлено 7 новых архитектур моделей. Из этих 7, 6 являются MoE. Из этих 6 MoE, 3 являются гибридными моделями SSM / внимания. Архитектуры меняются медленно, а затем внезапно.