Boom! LLM num cartão de visita, prova de projeto de garagem. Só pode melhorar a partir daqui. Isto é como sumo turbo para os meus projetos! Obrigado @pham_blnh!
Binh Pham
Binh Pham6/09, 06:10
Acabei de me tornar o primeiro do mundo a executar um LLM localmente em um cartão de visita lol. Por quê? Por diversão. Detalhes: - llama2.c por @karpathy com modificações de @_davebennett - 24tok/sec no esp32s3 n16r8 com um modelo de 260k parâmetros - desenhei o cartão eu mesmo, toda a inspiração vem de tabuleiros ouija, ou seja, conversar com fantasmas. se eu colocar llms no meu cartão de visita, deveria ser na forma de um ouija lol. - pcb e smt patrocinados por @HQ_NextPCB Lançando vídeo no youtube + esquemas neste fim de semana.
12,79K