Boom! LLM op een visitekaartje, bewijs van een garageproject. Het kan alleen maar beter worden vanaf hier. Dit is als turbo sap voor mijn projecten! Dank je @pham_blnh!
Binh Pham
Binh Pham6 sep, 06:10
Word gewoon de eerste ter wereld die een LLM lokaal op een visitekaartje draait lol. Waarom? Voor de lol. Details: - llama2.c door @karpathy met aanpassingen van @_davebennett - 24tok/sec op esp32s3 n16r8 met een model van 260k parameters - heb het kaartje zelf ontworpen, de hele inspiratie komt van ouija-borden, d.w.z. praten met geesten. als ik llms op mijn visitekaartje zet, moet het de ouija-vormfactor zijn lol. - pcb en smt gesponsord door @HQ_NextPCB Video op youtube + schema's dit weekend
12,8K