Điều quan trọng là trong số 10 mô hình hàng đầu đó, Gemma và Mistral Small của Google là hai mô hình duy nhất có thể chạy trên phần cứng tiêu dùng. Một chiếc RTX 4090 là đủ. Tất cả các mô hình khác đều có hơn 100 tỷ tham số và yêu cầu phần cứng chuyên nghiệp rất đắt đỏ. Theo tôi, điều này thay đổi rất nhiều quan điểm ngoài điểm số thô.
88,96K