我們在三月份發貨了Gemma 3 27B,它仍然是消費者GPU的首選之一。 它具有強大的多模態能力,QAT可以解鎖強大的量化,而且它的尺寸對開發者友好。 而且我們還有更多的產品在籌備中 🧑‍🍳
Kim BENNI
Kim BENNI8月14日 01:55
關鍵在於,在這十個頂級模型中,谷歌的Gemma和Mistral Small是唯一可以在消費級硬體上運行的模型。單個RTX 4090就足夠了。 所有其他模型的參數都超過100億,並且需要非常昂貴的專業硬體。 在我看來,這改變了很多超越原始分數的視角。
86.97K