Høykonjunktur! LLM på et visittkort, garasjeprosjektbevis. Det er bare opp herfra. Dette er som turbojuice for prosjektene mine! Takk @pham_blnh!
Binh Pham
Binh Pham6. sep., 06:10
Bare bli verdens første til å drive en LLM lokalt på et visittkort lol. Hvorfor? For moro skyld. Detaljer: - llama2.c av @karpathy med modifikasjoner fra @_davebennett - 24tok/sek på ESP32S3 N16R8 med en 260K Param-modell - designet kortet selv, hele inspirasjonen kommer fra ouija-brett, dvs. Hvis jeg setter LLM-er på visittkortet mitt, burde det være Ouija-formfaktoren lol. - PCB og SMT sponset av @HQ_NextPCB Slipper video på youtube + skjemaer denne helgen
12,78K