Am livrat Gemma 3 27B în martie și rămâne o alegere de top pentru GPU-urile de consum. Are capabilități multimodale solide, QAT pentru a debloca o cuantificare robustă și are o dimensiune prietenoasă cu dezvoltatorii. Și avem mai multe în cuptor 🧑 🍳
Kim BENNI
Kim BENNI14 aug. 2025
Cheia este că, printre primele 10 modele, Gemma și Mistral Small de la Google sunt singurele care se pot potrivi / rula pe hardware de consum. Un singur RTX 4090 este suficient. Toate celelalte modele au parametri >100b și necesită hardware profesional foarte scump. Acest lucru schimbă perspectiva mult dincolo de scorul brut în opinia mea.
87,11K