Tocmai deveniți primul din lume care rulează un LLM local pe o carte de vizită lol. De ce? Pentru distracție. Detalii: - llama2.c de @karpathy cu modificări de la @_davebennett - 24Tok/sec pe ESP32S3 N16R8 cu un model de 260K Param - Am proiectat eu cardul, întreaga inspirație vine de la tablele Ouija, adică vorbind cu fantome. Dacă pun LLMS pe cartea mea de vizită, ar trebui să fie factorul de formă Ouija lol. - PCB și SMT sponsorizate de @HQ_NextPCB Lansarea videoclipului pe youtube + scheme în acest weekend