Word gewoon de eerste ter wereld die een LLM lokaal op een visitekaartje draait lol. Waarom? Voor de lol. Details: - llama2.c door @karpathy met aanpassingen van @_davebennett - 24tok/sec op esp32s3 n16r8 met een model van 260k parameters - heb het kaartje zelf ontworpen, de hele inspiratie komt van ouija-borden, d.w.z. praten met geesten. als ik llms op mijn visitekaartje zet, moet het de ouija-vormfactor zijn lol. - pcb en smt gesponsord door @HQ_NextPCB Video op youtube + schema's dit weekend