Bum! LLM em um cartão de visita, prova de projeto de garagem. É só a partir daqui. Isso é como suco turbo para meus projetos! Obrigado @pham_blnh!
Binh Pham
Binh Pham6 de set., 06:10
Acabei de me tornar o primeiro do mundo a executar um LLM localmente em um cartão de visita lol. Por que? Por diversão. Detalhes: - llama2.c por @karpathy com modificações de @_davebennett - 24tok/seg em esp32s3 n16r8 com um modelo de parâmetro de 260k - Eu mesmo projetei o cartão, toda a inspiração vem de tabuleiros Ouija, ou seja, conversando com fantasmas. Se eu colocar LLMs no meu cartão de visita, deve ser o formato Ouija lol. - PCB e SMT patrocinados pela @HQ_NextPCB Soltando vídeo no youtube + esquemas neste fim de semana
12,79K