Chỉ cần trở thành người đầu tiên trên thế giới chạy một LLM cục bộ trên một thẻ doanh nghiệp lol. Tại sao? Để vui vẻ. Chi tiết: - llama2.c của @karpathy với các sửa đổi từ @_davebennett - 24tok/giây trên esp32s3 n16r8 với mô hình 260k tham số - tự thiết kế thẻ, toàn bộ cảm hứng đến từ bảng ouija tức là nói chuyện với ma. nếu tôi đặt llms trên thẻ doanh nghiệp của mình, nó phải có hình dạng bảng ouija lol. - pcb và smt được tài trợ bởi @HQ_NextPCB Sẽ đăng video trên youtube + sơ đồ vào cuối tuần này.