Werde einfach der Erste der Welt, der ein LLM lokal auf einer Visitenkarte ausführt lol. Warum? Aus Spaß. Details: - llama2.c von @karpathy mit Modifikationen von @_davebennett - 24tok/sec auf esp32s3 n16r8 mit einem 260k Parameter Modell - Ich habe die Karte selbst entworfen, die ganze Inspiration kommt von Ouija-Boards, d.h. mit Geistern sprechen. Wenn ich LLMs auf meiner Visitenkarte habe, sollte es das Ouija-Format sein lol. - PCB und SMT gesponsert von @HQ_NextPCB Dropping Video auf YouTube + Schaltpläne dieses Wochenende
368,29K