剛剛成為世界上第一個在名片上本地運行LLM的人,哈哈。 為什麼?為了好玩。 細節: - 由@karpathy修改的llama2.c,來自@_davebennett的修改 - 在esp32s3 n16r8上以24tok/sec運行,使用260k參數模型 - 我自己設計了這張名片,靈感來自於通靈板,即與鬼魂對話。如果我把LLM放在我的名片上,它應該是通靈板的形式,哈哈。 - PCB和SMT由@HQ_NextPCB贊助 這個週末將在YouTube上發布視頻和原理圖
368.29K