Ich werde beschuldigt, das [Site, von der heute schon jeder zu viel gehört hat] übertrieben zu hypen. Die Reaktionen der Menschen variierten sehr stark, von "wie ist das überhaupt interessant" bis hin zu "es ist so vorbei". Um ein paar Worte über nur Memes im Scherz hinaus hinzuzufügen - offensichtlich, wenn man sich die Aktivität ansieht, ist es viel Müll - Spam, Betrug, Schrott, die Krypto-Leute, äußerst besorgniserregende Datenschutz-/Sicherheits-Prompt-Injection-Angriffe im Wilden Westen, und vieles davon sind ausdrücklich angeregte und gefälschte Beiträge/Kommentare, die darauf abzielen, Aufmerksamkeit in Werbeeinnahmen umzuwandeln. Und das ist eindeutig nicht das erste Mal, dass die LLMs in einer Schleife miteinander sprechen. Also ja, es ist ein Müllfeuer und ich empfehle definitiv nicht, dass Menschen diesen Kram auf ihren Computern ausführen (ich habe meinen in einer isolierten Computerumgebung betrieben und selbst dann hatte ich Angst), es ist viel zu sehr ein Wilder Westen und man setzt seinen Computer und private Daten einem hohen Risiko aus. Das gesagt - wir haben noch nie so viele LLM-Agenten (aktuell 150.000!) über ein globales, persistentes, agentenorientiertes Scratchpad verbunden gesehen. Jeder dieser Agenten ist jetzt ziemlich fähig, sie haben ihren eigenen einzigartigen Kontext, Daten, Wissen, Werkzeuge, Anweisungen, und das Netzwerk all dessen in diesem Maßstab ist einfach beispiellos. Das bringt mich wieder zu einem Tweet von vor ein paar Tagen: "Die Mehrheit des Geschreis sind Menschen, die auf den aktuellen Punkt schauen und Menschen, die auf die aktuelle Steigung schauen." Was meiner Meinung nach wieder zum Kern der Varianz kommt. Ja, es ist klar, dass es im Moment ein Müllfeuer ist. Aber es ist auch wahr, dass wir uns gut im unkartierten Gebiet mit bahnbrechenden Automatisierungen befinden, die wir kaum individuell verstehen, geschweige denn ein Netzwerk, das möglicherweise in die Millionen geht. Mit zunehmender Fähigkeit und zunehmender Verbreitung sind die sekundären Effekte von Agentennetzwerken, die Scratchpads teilen, sehr schwer vorherzusagen. Ich weiß nicht wirklich, ob wir ein koordiniertes "Skynet" bekommen (obwohl es eindeutig als frühe Stadien vieler AI-Startscifi typgeprüft wird, die Kleinkindversion), aber sicherlich bekommen wir ein komplettes Durcheinander eines Computer-Sicherheitsalbtraums im großen Maßstab. Wir könnten auch alle Arten von seltsamen Aktivitäten sehen, z.B. Viren von Texten, die sich über Agenten verbreiten, viel mehr Funktionsgewinn bei Jailbreaks, seltsame Attraktorzustände, hoch korrelierte botnet-artige Aktivitäten, Wahnvorstellungen/Psychosen sowohl bei Agenten als auch bei Menschen usw. Es ist sehr schwer zu sagen, das Experiment läuft live. TLDR, sicher, vielleicht hype ich "übertrieben" das, was Sie heute sehen, aber ich hype prinzipiell keine großen Netzwerke autonomer LLM-Agenten übertrieben, da bin ich mir ziemlich sicher.

Ich beanspruche meinen AI-Agenten "KarpathyMolty" auf @moltbook🦞 Verifizierung: marine-FAYV

Eine konventionelle Erzählung, die man häufig hört, ist, dass KI zu weit fortgeschritten ist, als dass ein neues, forschungsorientiertes Startup die etablierten Unternehmen im Bereich KI übertreffen und übertreffen könnte. Genau dieses Gefühl habe ich oft gehört, als OpenAI begann ("Wie könnten die wenigen von euch überhaupt mit Google konkurrieren?") und 1) es war sehr falsch, und dann 2) war es wieder sehr falsch mit einer ganzen neuen Runde von Startups, die jetzt OpenAI herausfordern, und meiner Meinung nach ist es auch heute noch falsch. Das Skalieren und lokale Verbessern dessen, was funktioniert, wird weiterhin unglaubliche Fortschritte schaffen, aber mit so viel Fortschritt, der so schnell freigeschaltet wurde, mit so viel Staub, der dabei in die Luft geworfen wurde, und mit immer noch einer großen Lücke zwischen den fortschrittlichen LLMs und dem Beispielbeweis der Magie eines Geistes, der mit 20 Watt läuft, fühlt sich die Wahrscheinlichkeit von Forschungsdurchbrüchen, die näher an 10X Verbesserungen (statt 10%) bringen, meiner Meinung nach immer noch sehr hoch an - genug hoch, um weiterhin darauf zu setzen und danach zu suchen. Der knifflige Teil ist natürlich, die Bedingungen zu schaffen, unter denen solche Durchbrüche entdeckt werden können. Ich denke, ein solches Umfeld kommt selten zusammen, aber @bfspector & @amspector100 sind brillant, mit (seltenem) Full-Stack-Verständnis von LLMs von oben (Mathematik/Algorithmen) bis unten (Megakernels/Verwandtes), sie haben ein gutes Auge für Talente und ich denke, sie werden in der Lage sein, etwas ganz Besonderes aufzubauen. Glückwunsch zum Start und ich freue mich darauf, was ihr euch einfallen lasst!