轟! 名片上的LLM,車庫項目的證明。 從這裡開始只會更好。 這就像是我項目的渦輪增壓劑! 謝謝你 @pham_blnh!
Binh Pham
Binh Pham9月6日 06:10
剛剛成為世界上第一個在名片上本地運行LLM的人,哈哈。 為什麼?為了好玩。 細節: - 由@karpathy修改的llama2.c,來自@_davebennett的修改 - 在esp32s3 n16r8上以24tok/sec運行,使用260k參數模型 - 我自己設計了這張名片,靈感來自於通靈板,即與鬼魂對話。如果我把LLM放在我的名片上,它應該是通靈板的形式,哈哈。 - PCB和SMT由@HQ_NextPCB贊助 這個週末將在YouTube上發布視頻和原理圖
12.86K