Enviamos Gemma 3 27B en marzo, y sigue siendo una de las mejores opciones para GPUs de consumo. Tiene sólidas capacidades multimodales, QAT para desbloquear una cuantización robusta, y es de un tamaño amigable para los desarrolladores. Y tenemos más en camino 🧑‍🍳
Kim BENNI
Kim BENNI14 ago, 01:55
La clave es que entre esos 10 mejores modelos, Gemma y Mistral Small de Google son los únicos que pueden ajustarse/funcionar en hardware de consumo. Una sola RTX 4090 es suficiente. Todos los demás modelos tienen más de 100 mil millones de parámetros y requieren hardware profesional muy caro. Esto cambia mucho la perspectiva más allá de la puntuación bruta, en mi opinión.
87,1K