Bom! LLM på ett visitkort, garageprojektbevis. Det är bara uppåt härifrån. Det här är som turbojuice för mina projekt! Tack @pham_blnh!
Binh Pham
Binh Pham6 sep. 06:10
Bara bli världens första att köra en LLM lokalt på ett visitkort lol. Varför? För skojs skull. Detaljer: - llama2.c av @karpathy med ändringar från @_davebennett - 24tok/sek på ESP32S3 N16R8 med en 260K Param-modell - Kortet har designat själv, hela inspirationen kommer från ouija boards, dvs att prata med spöken. Om jag sätter LLM:er på mitt visitkort borde det vara Ouija-formfaktorn lol. - PCB och SMT sponsras av @HQ_NextPCB Släpper video på youtube + scheman i helgen
12,8K