Gemma 3 27B は 3 月に出荷されましたが、依然としてコンシューマー向け GPU のトップの選択肢として残っています。 堅牢なマルチモーダル機能、堅牢な量子化を実現するQATを備えており、開発者に優しいサイズです。 そして、オーブン🧑 🍳にはもっとあります
Kim BENNI
Kim BENNI8月14日 01:55
重要なのは、そのトップ 10 モデルの中で、Google の Gemma と Mistral Small だけが消費者向けハードウェアに適合/実行できるということです。RTX 4090 は 1 台で十分です。 他のすべてのモデルには>100bのパラメータがあり、非常に高価なプロ仕様のハードウェアが必要です。 私の意見では、これにより、生のスコアを超えて視点が大きく変わります。
86.96K