Devenez le premier au monde à exécuter un LLM localement sur une carte de visite lol. Pourquoi ? Pour le plaisir. Détails : - llama2.c par @karpathy avec des modifications de @_davebennett - 24tok/sec sur esp32s3 n16r8 avec un modèle de 260k paramètres - j'ai conçu la carte moi-même, toute l'inspiration vient des planches Ouija, c'est-à-dire parler avec des fantômes. Si je mets des LLM sur ma carte de visite, cela devrait être sous la forme d'une planche Ouija lol. - pcb et smt sponsorisés par @HQ_NextPCB Publication d'une vidéo sur youtube + schémas ce week-end.