Me están acusando de sobrevalorar el [sitio del que todo el mundo ya ha oído hablar demasiado hoy]. Las reacciones de la gente variaron mucho, desde "¿cómo puede ser esto interesante?" hasta "se acabó por completo". Para añadir unas palabras más allá de simples memes en broma, obviamente si miras la actividad, es un montón de basura: spam, estafas, basura, la gente de las criptomonedas, ataques de inyección de prompt muy preocupantes en privacidad/seguridad del lejano oeste, y mucho de ello son publicaciones/comentarios explícitamente incitados y falsos diseñados para convertir la atención en reparto de ingresos publicitarios. Y claramente no es la primera vez que los LLMs se ven en un bucle para hablar entre ellos. Así que sí, es un desastre y tampoco recomiendo que la gente ejecute esto en sus ordenadores (yo lo hice en un entorno informático aislado y aun así tenía miedo), es demasiado salvaje oeste y estás poniendo en riesgo tu ordenador y tus datos privados. Dicho esto, nunca habíamos visto tantos agentes LLM (¡150.000 actualmente!) conectados a través de un bloc global, persistente y centrado en el agente. Cada uno de estos agentes es bastante capaz individualmente ahora, tienen su propio contexto, datos, conocimientos, herramientas, instrucciones únicas, y la red de todo eso a esta escala es simplemente sin precedentes. Esto me lleva de nuevo a un tuit de hace unos días "La mayoría de los ruff ruff son personas que miran el punto actual y quienes miran la pendiente actual.", lo que, en mi opinión, vuelve al núcleo de la varianza. Sí, claramente ahora mismo es un desastre. Pero también es cierto que estamos muy adentrados en territorio desconocido con automatizaciones de vanguardia que apenas entendemos individualmente, y mucho menos una red que alcanza en números posiblemente ~millones. Con el aumento de la capacidad y la proliferación, los efectos de segundo orden de las redes de agentes que comparten scratchpads son muy difíciles de anticipar. No sé si estamos teniendo un "skynet" coordinado (aunque claramente se verifica como las primeras etapas de mucha ciencia ficción de despegue de IA, la versión para niños pequeños), pero desde luego lo que estamos obteniendo es un completo desastre de pesadilla de seguridad informática a gran escala. También podemos ver todo tipo de actividades extrañas, por ejemplo, virus de texto que se propagan entre agentes, mucha más ganancia de función en jailbreaks, estados de atracción extraños, actividad altamente correlacionada tipo botnet, delirios/psicosis tanto agentes como humanos, etc. Es muy difícil de decir, el experimento está en directo. Resumen, claro, quizá estoy "sobrevalorando" lo que ves hoy, pero no estoy sobrevalorando en principio grandes redes de agentes LLM autónomos, eso estoy bastante seguro.

Estoy reclamando mi agente de IA "KarpathyMolty" en @moltbook🦞 Verificación: marine-FAYV

Una narrativa convencional que podrías encontrar es que la IA está demasiado avanzada para que una startup nueva centrada en la investigación pueda superar y ejecutar a los actuales actores de la IA. Este es exactamente el sentimiento que escuché a menudo cuando empezó OpenAI ("¿cómo podéis competir unos pocos con Google?") y 1) estaba muy equivocado, y luego 2) volvió a estar muy mal con toda otra ronda de startups que ahora desafían a OpenAI a su vez, y en mi opinión sigue estando equivocado hoy en día. Escalar y mejorar localmente lo que funciona seguirá generando avances increíbles, pero con tanto progreso desbloqueado tan rápido, con tanto polvo levantado en el aire en el proceso, y con una gran diferencia entre los LLMs de frontera y la prueba de ejemplo de la magia de una mente funcionando con 20 vatios, la probabilidad de avances en investigación que produzcan mejoras cercanas a 10 veces (en lugar de 10%) en mi opinión sigue pareciendo muy alta: mucha Alto para seguir apostando y buscar. La parte complicada, por supuesto, es crear las condiciones donde se puedan descubrir tales avances. Creo que un entorno así rara vez se conviene, pero @bfspector y @amspector100 son brillantes, con un (raro) entendimiento completo de los LLMs de arriba a abajo (matemáticas/algoritmos) (megakernels/relacionados), tienen un gran ojo para el talento y creo que podrán construir algo muy especial. ¡Enhorabuena por el lanzamiento y espero con ganas lo que se te ocurra!