Diventa semplicemente il primo al mondo a far girare un LLM localmente su un biglietto da visita lol. Perché? Per divertimento. Dettagli: - llama2.c di @karpathy con modifiche di @_davebennett - 24tok/sec su esp32s3 n16r8 con un modello da 260k parametri - ho progettato io stesso il biglietto, tutta l'ispirazione viene dalle tavole ouija, cioè parlare con i fantasmi. Se metto LLM sui miei biglietti da visita, dovrebbe avere la forma di una tavola ouija lol. - pcb e smt sponsorizzati da @HQ_NextPCB Pubblicherò un video su youtube + schemi questo fine settimana.