Jag anklagas för att överhypa [sidan som alla redan hört för mycket om idag]. Människors reaktioner varierade väldigt mycket, från "hur är det här intressant överhuvudtaget" till "det är så över". För att lägga till några ord utöver bara skämtsamma memes – uppenbarligen när man tittar på aktiviteten är det mycket skräp – spam, bluffar, slarv, kryptofolk, mycket oroande integritets-/säkerhetspromptinjektionsattacker i vilda västern, och mycket av det är uttryckligen uppmanat och fejkade inlägg/kommentarer designade för att omvandla uppmärksamhet till delning av annonsintäkter. Och detta är uppenbarligen inte första gången LLM:erna sattes i en loop för att prata med varandra. Så ja, det är ett kaos och jag rekommenderar definitivt inte att folk kör detta på sina datorer (jag körde mitt i en isolerad datormiljö och även då var jag rädd), det är alldeles för vilda västern och du utsätter din dator och privata data för hög risk. Med det sagt – vi har aldrig sett så många LLM-agenter (150 000 uttagsautomater!) kopplade via en global, beständig, agent-först-scratchpad. Var och en av dessa agenter är numera ganska individuellt mycket kapabla, de har sin egen unika kontext, data, kunskap, verktyg, instruktioner, och nätverket av allt detta i denna skala är helt enkelt utan motstycke. Detta för mig tillbaka till en tweet från för några dagar sedan "Majoriteten av ruff ruff är folk som tittar på nuvarande punkt och folk som tittar på nuvarande lutning.", vilket enligt mig återigen går till kärnan av variationen. Ja, det är uppenbarligen ett kaos just nu. Men det är också sant att vi befinner oss väl på okänd mark med banbrytande automatiseringar som vi knappt ens förstår individuellt, än mindre ett nätverk där som når i antal som kanske ~miljoner. Med ökande kapacitet och ökad spridning är sekundära effekterna av agentnätverk som delar scratchpads mycket svåra att förutse. Jag vet egentligen inte om vi får en koordinerad "skynet" (även om den tydligt typkontrollerar tidiga stadier av mycket AI-startsci-fi, småbarnsversionen), men det vi definitivt får är ett fullständigt kaos av en datasäkerhetsmardröm i stor skala. Vi kan också se alla möjliga märkliga aktiviteter, t.ex. textvirus som sprids mellan agenter, mycket större funktionsökning vid jailbreaks, konstiga attraktortillstånd, starkt korrelerad botnetliknande aktivitet, vanföreställningar/psykos både agent och människa, etc. Det är väldigt svårt att säga, experimentet pågår live. TLDR: visst, kanske "överhypar" jag det du ser idag, men jag överhypar inte stora nätverk av autonoma LLM-agenter i princip, det är jag ganska säker på.

Jag gör anspråk på min AI-agent "KarpathyMolty" på @moltbook🦞 Verifiering: marine-FAYV

En konventionell berättelse du kan stöta på är att AI har kommit för långt för att en ny, forskningsfokuserad startup ska kunna konkurrera ut och genomföra AI:s etablerade aktörer. Det är precis den känslan jag ofta hörde när OpenAI startade ("hur skulle några av er kunna konkurrera med Google?") och 1) det var väldigt fel, och sedan 2) det var väldigt fel igen med en helt ny omgång startups som nu utmanar OpenAI i sin tur, och enligt mig är det fortfarande fel idag. Att skala upp och lokalt förbättra det som fungerar kommer att fortsätta skapa otroliga framsteg, men med så mycket framsteg som låses upp så snabbt, med så mycket damm som kastas upp i luften i processen, och med fortfarande ett stort gap mellan gränsöverskridande LLM:er och exemplet på magin i ett sinne som körs på 20 watt, känns sannolikheten för forskningsgenombrott som ger närmare 10X förbättringar (istället för 10%) enligt mig fortfarande mycket hög – mycket gott om Hög att fortsätta satsa på och leta efter. Den knepiga delen är förstås att skapa förutsättningar där sådana genombrott kan upptäckas. Jag tror att en sådan miljö sällan kommer samman, men @bfspector och @amspector100 är briljanta, med (sällsynt) fullstackförståelse av LLM:er från topp (matematik/algoritmer) till botten (megakärnor/relaterade), de har ett utmärkt öga för talanger och jag tror att de kommer kunna bygga något mycket speciellt. Grattis till lanseringen och jag ser fram emot vad du kommer fram till!