Просто станьте первыми в мире, кто запустит LLM локально на визитной карточке, лол. Почему? Для удовольствия. Детали: - llama2.c от @karpathy с модификациями от @_davebennett - 24 токена/сек на esp32s3 n16r8 с моделью на 260k параметров - сам разработал карточку, вся вдохновление пришло от досок Уиджи, т.е. общения с призраками. Если я помещу LLM на свою визитку, она должна быть в формате доски Уиджи, лол. - печатная плата и SMT спонсированы @HQ_NextPCB Выпущу видео на YouTube + схемы в эти выходные.
351,92K