Acabei de me tornar o primeiro do mundo a executar um LLM localmente em um cartão de visita lol. Por que? Por diversão. Detalhes: - llama2.c por @karpathy com modificações de @_davebennett - 24tok/seg em esp32s3 n16r8 com um modelo de parâmetro de 260k - Eu mesmo projetei o cartão, toda a inspiração vem de tabuleiros Ouija, ou seja, conversando com fantasmas. Se eu colocar LLMs no meu cartão de visita, deve ser o formato Ouija lol. - PCB e SMT patrocinados pela @HQ_NextPCB Soltando vídeo no youtube + esquemas neste fim de semana