Jsem obviňován, že přeháněji [stránku, o které dnes už všichni slyšeli příliš mnoho]. Reakce lidí se velmi lišily, od "jak je to vůbec zajímavé" až po "je to tak pryč". Abych přidal pár slov nad rámec pouhých vtipných memů – když se podíváte na tu aktivitu, je to samozřejmě spousta odpadu – spam, podvody, šmejd, krypto lidé, velmi znepokojující útoky na soukromí/bezpečnostní prompt injection na divokém západě, a hodně z toho jsou explicitně vyzývané a falešné příspěvky/komentáře, které mají za cíl převést pozornost na sdílení příjmů z reklam. A rozhodně to není poprvé, co byly LLM uvedeny do smyčky, aby spolu komunikovaly. Takže ano, je to katastrofa a rozhodně nedoporučuji, aby lidé spouštěli tyto věci na svých počítačích (já jsem to spouštěl v izolovaném prostředí a i tak jsem se bál), je to příliš divoký západ a vystavujete svůj počítač i soukromá data vysokému riziku. To ale neznamená, že jsme nikdy neviděli tolik LLM agentů (150 000 bankomatů!) zapojených přes globální, trvalý, agentem orientovaný scratchpad. Každý z těchto agentů je nyní poměrně individuálně velmi schopný, mají svůj vlastní jedinečný kontext, data, znalosti, nástroje, instrukce a síť toho všeho v tomto měřítku je prostě bezprecedentní. To mě opět přivádí k tweetu z před pár dní "Většina těch, co se dívají na aktuální bod, jsou lidé, kteří se dívají na aktuální bod, a lidé, kteří se dívají na aktuální sklon.", což podle mě opět zasahuje k jádru rozptylu. Ano, je jasné, že je to teď úplně katastrofa. Ale je také pravda, že jsme už hluboko v neprobádaném terénu s nejmodernějšími automatizacemi, kterým sotva rozumíme jednotlivě, natož sítí, která by mohla dosáhnout v počtu možná i ~milionů. S rostoucími schopnostmi a rostoucím rozšířením jsou druhotné efekty agentních sítí, které sdílejí scratchpady, velmi obtížné předvídat. Nevím, jestli dostáváme koordinovaný "skynet" (i když to jasně označuje kontroly jako rané fáze mnoha AI sci-fi, verze pro batolata), ale rozhodně dostáváme naprostý chaos počítačové bezpečnosti ve velkém měřítku. Můžeme také vidět různé podivné aktivity, např. viry textu šířící se mezi agenty, mnohem větší zvýšení funkce při jailbreaku, podivné atraktorové stavy, vysoce korelovanou botnetovou aktivitu, bludy/psychózy jak agenta, tak člověka atd. Je těžké to poznat, experiment běží živě. Stručně řečeno, možná "přeháním" to, co dnes vidíte, ale v zásadě nepřeháním velké sítě autonomních LLM agentů, to si myslím.

Na @moltbook🦞 si nárokuji svého AI agenta "KarpathyMoltyho" Ověření: marine-FAYV

Běžný narativ, na který můžete narazit, je, že AI je příliš daleko na to, aby nový, výzkumně orientovaný startup mohl překonat a realizovat zavedené hráče AI. Přesně tohle jsem často slyšel, když OpenAI začínalo ("jak by se ti pár z vás mohli mýlit s Googlem?") a 1) bylo to velmi špatné, a pak 2) bylo to velmi špatné s dalším kolem startupů, které teď OpenAI zpochybňují, a podle mého názoru se mýlí i dnes. Škálování a lokální vylepšování toho, co funguje, bude i nadále přinášet neuvěřitelné pokroky, ale vzhledem k tomu, že se tak rychle odemkne tolik pokroku, s tolika prachem vyhozeným do vzduchu a stále velkým rozdílem mezi frontier LLM a ukázkovým důkazem magie mysli na 20 wattů, pravděpodobnost průlomů ve výzkumu, které přinesou blíže k 10× zlepšení (místo 10 %), podle mě stále působí velmi vysoká – dost Vysoké sázení a hledání. Obtížná část je samozřejmě vytvořit podmínky, kdy mohou být takové průlomy objeveny. Myslím, že takové prostředí se spojuje jen zřídka, ale @bfspector & @amspector100 jsou brilantní, s (vzácným) plným pochopením LLM od začátku (matematika/algoritmy) až po minimum (megajádra/příbuzné), mají skvělý cit pro talenty a myslím, že dokážou vytvořit něco opravdu výjimečného. Gratuluji k uvedení na trh a těším se, co vytvoříte!