Boom! LLM auf einer Visitenkarte, Garage-Projekt-Beweis. Es kann nur besser werden von hier. Das ist wie Turbo-Saft für meine Projekte! Danke @pham_blnh!
Binh Pham
Binh Pham6. Sept., 06:10
Werde einfach der Erste der Welt, der ein LLM lokal auf einer Visitenkarte ausführt lol. Warum? Aus Spaß. Details: - llama2.c von @karpathy mit Modifikationen von @_davebennett - 24tok/sec auf esp32s3 n16r8 mit einem 260k Parameter Modell - Ich habe die Karte selbst entworfen, die ganze Inspiration kommt von Ouija-Boards, d.h. mit Geistern sprechen. Wenn ich LLMs auf meiner Visitenkarte habe, sollte es das Ouija-Format sein lol. - PCB und SMT gesponsert von @HQ_NextPCB Dropping Video auf YouTube + Schaltpläne dieses Wochenende
12,79K