Po prostu zostałem pierwszym na świecie, który uruchomił LLM lokalnie na wizytówce lol. Dlaczego? Dla zabawy. Szczegóły: - llama2.c autorstwa @karpathy z modyfikacjami od @_davebennett - 24tok/s na esp32s3 n16r8 z modelem 260k param - zaprojektowałem kartę samodzielnie, cała inspiracja pochodzi z planszy ouija, czyli rozmowy z duchami. Jeśli umieszczę llms na mojej wizytówce, powinna mieć formę planszy ouija lol. - pcb i smt sponsorowane przez @HQ_NextPCB W weekend wrzucam film na youtube + schematy.
368,29K