轰! 名片上的LLM,车库项目的证明。 从这里开始只会更好。 这就像是我项目的涡轮增压剂! 谢谢你 @pham_blnh!
Binh Pham
Binh Pham9月6日 06:10
刚刚成为世界上第一个在名片上本地运行LLM的人,哈哈。 为什么?为了好玩。 细节: - 由@karpathy修改的llama2.c,来自@_davebennett的修改 - 在esp32s3 n16r8上以24tok/sec运行,使用260k参数模型 - 我自己设计了这张名片,灵感来自于通灵板,即与鬼魂对话。如果我把LLM放在我的名片上,它应该是通灵板的形式,哈哈。 - PCB和SMT由@HQ_NextPCB赞助 这个周末将在YouTube上发布视频和原理图
12.78K