Nous avons expédié Gemma 3 27B en mars, et elle reste un choix de premier plan pour les GPU grand public. Elle possède de solides capacités multimodales, un QAT pour débloquer une quantification robuste, et elle a une taille conviviale pour les développeurs. Et nous en avons d'autres en préparation 🧑‍🍳
Kim BENNI
Kim BENNI14 août, 01:55
La clé est que parmi ces 10 meilleurs modèles, Gemma et Mistral Small de Google sont les seuls qui peuvent s'adapter/fonctionner sur du matériel grand public. Un seul RTX 4090 suffit. Tous les autres modèles ont plus de 100 milliards de paramètres et nécessitent un matériel professionnel très coûteux. Cela change beaucoup la perspective au-delà du score brut, à mon avis.
87,01K