Tendencias del momento
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
he estado reflexionando sobre un concepto que llamaría "ontología de contexto" - principalmente porque desearía tener un lugar único donde pudiera ver de dónde proviene el contexto y en qué indicaciones se utilizan.
El contexto útil para que un LLM genere una respuesta o tome acción podría incluir cosas como (1) objetivo de alto nivel, (2) tarea/área de enfoque actual, (3) información resumida de tareas pasadas relevantes, (4) aprendizajes de intentos anteriores, etc.
A medida que esperamos más de nuestros agentes (tareas más largas, proyectos más complicados, etc.), la memoria cruda rápidamente se vuelve pesada en tokens y ruidosa, lo que reduce la calidad de la salida del LLM. La mayoría de las aplicaciones de IA complejas tienen algún tipo de contexto resumido (asumiría), y múltiples fuentes de contexto.
La idea aquí es definir una ontología para qué contexto almacenas*, cómo estructurarlo y qué recuperar para cada indicación en tu sistema.
*por almacenar, no necesariamente me refiero a la base de datos de la IA. Para mí, se siente más holístico considerar los datos almacenados en cualquier aplicación como parte de la memoria de la IA (por ejemplo, conexión API/MCP). Tal vez esta ontología debería especificar esto también.
Llevándolo un paso más allá, podrías hacer de esto una ontología dinámica que una IA pueda gestionar y probar, luego introducirla en un entorno de RL para que los agentes mejoren la gestión del contexto por sí mismos (hipotéticamente).
No estoy seguro de si la estrategia de resumir debería ir aquí, pero tiene sentido a un alto nivel. Es más complicado ya que la mayoría de las personas resumen la información al ingerirla, por lo que tendrías que re-resumir las ingestas anteriores cada vez que la cambies (para probar cambios y mejorar por sí mismo) - pero supongo que este problema persiste de todos modos.
No creo que nada de esto sea particularmente nuevo. Solo estoy pensando en voz alta mientras trato de crear algún marco interno para mapear varias estrategias que he visto.
12,33K
Parte superior
Clasificación
Favoritos