In den letzten 2 Wochen wurden 7 neue Modellarchitekturen zu MLX LM hinzugefügt. Von diesen 7 sind 6 MoEs. Von diesen 6 MoEs sind 3 hybride SSM / Aufmerksamkeitsmodelle. Architekturen ändern sich langsam und dann plötzlich.