Nas últimas 2 semanas, 7 novas arquiteturas de modelo foram adicionadas ao MLX LM. Desses 7, 6 são MoEs. Desses 6 MoEs, 3 são modelos híbridos SSM / atenção. As arquiteturas mudam lentamente e depois de repente.