Wir haben Gemma 3 27B im März versendet, und es bleibt eine der besten Wahl für Verbraucher-GPUs. Es hat solide multimodale Fähigkeiten, QAT zur Freischaltung robuster Quantisierung, und es hat eine entwicklerfreundliche Größe. Und wir haben noch mehr in der Pipeline 🧑‍🍳
Kim BENNI
Kim BENNI14. Aug., 01:55
The key is that among those top 10 models, Google's Gemma and Mistral Small are the only ones who can fit/run on consumer hardware. A single RTX 4090 is enough. All the other models have >100b parameters and requires very expensive professional hardware. This changes the perspective a lot beyond raw score in my opinion.
87,05K