我们在三月份发货了Gemma 3 27B,它仍然是消费者GPU的首选之一。 它具有强大的多模态能力,QAT可以解锁强大的量化,并且它的尺寸对开发者友好。 而且我们还有更多的产品在筹备中 🧑‍🍳
Kim BENNI
Kim BENNI8月14日 01:55
关键在于,在这十个顶级模型中,谷歌的Gemma和Mistral Small是唯一可以在消费级硬件上运行的模型。单个RTX 4090就足够了。 所有其他模型的参数都超过100亿,并且需要非常昂贵的专业硬件。 在我看来,这改变了很多超越原始分数的视角。
86.97K