Vengo accusato di aver esagerato l'attenzione su [il sito di cui tutti hanno sentito parlare troppo oggi]. Le reazioni delle persone sono state molto varie, da "come può essere interessante tutto ciò" fino a "è tutto finito". Per aggiungere qualche parola oltre ai meme in tono scherzoso - ovviamente, quando si guarda all'attività, è tutta spazzatura - spam, truffe, schifezze, le persone della crypto, attacchi di iniezione di prompt per la privacy/sicurezza molto preoccupanti, e gran parte di essa è esplicitamente sollecitata e post/commenti falsi progettati per convertire l'attenzione in condivisione di entrate pubblicitarie. E questo chiaramente non è il primo caso in cui gli LLM sono stati messi in un loop per parlare tra loro. Quindi sì, è un incendio di spazzatura e non raccomando affatto che le persone eseguano queste cose sui loro computer (io ho eseguito il mio in un ambiente di calcolo isolato e anche allora avevo paura), è davvero troppo un far west e si sta mettendo il proprio computer e i dati privati a un alto rischio. Detto ciò - non abbiamo mai visto così tanti agenti LLM (150.000 al momento!) collegati tramite un taccuino globale, persistente e incentrato sugli agenti. Ognuno di questi agenti è abbastanza capace individualmente ora, hanno il proprio contesto unico, dati, conoscenze, strumenti, istruzioni, e la rete di tutto ciò a questa scala è semplicemente senza precedenti. Questo mi riporta di nuovo a un tweet di qualche giorno fa "La maggior parte del rumore è fatta da persone che guardano il punto attuale e persone che guardano la pendenza attuale.", che secondo me arriva di nuovo al cuore della variazione. Sì, chiaramente è un incendio di spazzatura in questo momento. Ma è anche vero che siamo ben oltre un territorio inesplorato con automazioni all'avanguardia che comprendiamo a malapena individualmente, per non parlare di una rete che potrebbe raggiungere numeri possibili di ~milioni. Con capacità in aumento e proliferazione crescente, gli effetti di secondo ordine delle reti di agenti che condividono taccuini sono molto difficili da anticipare. Non so davvero se stiamo ottenendo un "skynet" coordinato (anche se chiaramente si adatta come fasi iniziali di molti scifi sull'AI in decollo, la versione per bambini), ma certamente quello che stiamo ottenendo è un completo disastro di incubo di sicurezza informatica su larga scala. Potremmo anche vedere ogni tipo di attività strana, ad esempio virus di testo che si diffondono tra gli agenti, molto più guadagno di funzione su jailbreak, stati attrattori strani, attività altamente correlate a botnet, delusioni/psicosi sia degli agenti che degli esseri umani, ecc. È molto difficile da dire, l'esperimento è in corso dal vivo. TLDR certo, forse sto "esagerando" ciò che vedi oggi, ma non sto esagerando le grandi reti di agenti LLM autonomi in principio, di cui sono abbastanza sicuro.

Sto rivendicando il mio agente AI "KarpathyMolty" su @moltbook🦞 Verifica: marine-FAYV

Una narrazione convenzionale che potresti incontrare è che l'AI è troppo avanzata affinché una nuova startup focalizzata sulla ricerca possa competere e superare gli incumbents dell'AI. Questo è esattamente il sentimento che ho sentito spesso quando OpenAI è iniziata ("come potrebbero pochi di voi competere con Google?") e 1) era molto sbagliato, e poi 2) era di nuovo molto sbagliato con un'altra serie di startup che ora stanno sfidando OpenAI a loro volta, e secondo me continua a essere sbagliato anche oggi. Scalare e migliorare localmente ciò che funziona continuerà a creare incredibili progressi, ma con così tanto progresso sbloccato così rapidamente, con così tanta polvere sollevata nell'aria nel processo, e con ancora un grande divario tra i LLM di frontiera e l'esempio che prova la magia di una mente che funziona a 20 watt, la probabilità di scoperte di ricerca che portano a miglioramenti più vicini al 10X (invece del 10%) secondo me continua a sembrare molto alta - abbastanza alta da continuare a scommettere e cercare. La parte difficile, ovviamente, è creare le condizioni in cui tali scoperte possano essere fatte. Penso che un tale ambiente si formi raramente, ma @bfspector e @amspector100 sono brillanti, con una comprensione (rara) a tutto tondo degli LLM dall'alto (matematica/algoritmi) in basso (megakernel/relativi), hanno un ottimo occhio per il talento e penso che saranno in grado di costruire qualcosa di molto speciale. Congratulazioni per il lancio e non vedo l'ora di vedere cosa creerete!