W marcu wysłaliśmy Gemma 3 27B, który wciąż pozostaje jednym z najlepszych wyborów dla konsumenckich GPU. Ma solidne możliwości multimodalne, QAT do odblokowania solidnej kwantyzacji i jest przyjazny dla deweloperów pod względem rozmiaru. A mamy więcej w piekarniku 🧑‍🍳
Kim BENNI
Kim BENNI14 sie, 01:55
Kluczowe jest to, że spośród tych 10 najlepszych modeli, Gemma i Mistral Small od Google'a to jedyne, które mogą działać na sprzęcie konsumenckim. Jedna karta RTX 4090 wystarczy. Wszystkie pozostałe modele mają ponad 100 miliardów parametrów i wymagają bardzo drogiego sprzętu profesjonalnego. Moim zdaniem, to zmienia perspektywę znacznie bardziej niż surowy wynik.
87,01K