Бум! LLM на визитной карточке, доказательство гаражного проекта. С этого момента только вверх. Это как турбо-сок для моих проектов! Спасибо @pham_blnh!
Binh Pham
Binh Pham6 сент., 06:10
Просто станьте первыми в мире, кто запустит LLM локально на визитной карточке, лол. Почему? Для удовольствия. Детали: - llama2.c от @karpathy с модификациями от @_davebennett - 24 токена/сек на esp32s3 n16r8 с моделью на 260k параметров - сам разработал карточку, вся вдохновление пришло от досок Уиджи, т.е. общения с призраками. Если я помещу LLM на свою визитку, она должна быть в формате доски Уиджи, лол. - печатная плата и SMT спонсированы @HQ_NextPCB Выпущу видео на YouTube + схемы в эти выходные.
12,61K