Bara bli världens första att köra en LLM lokalt på ett visitkort lol. Varför? För skojs skull. Detaljer: - llama2.c av @karpathy med ändringar från @_davebennett - 24tok/sek på ESP32S3 N16R8 med en 260K Param-modell - Kortet har designat själv, hela inspirationen kommer från ouija boards, dvs att prata med spöken. Om jag sätter LLM:er på mitt visitkort borde det vara Ouija-formfaktorn lol. - PCB och SMT sponsras av @HQ_NextPCB Släpper video på youtube + scheman i helgen
368,3K