ho riflettuto su un concetto che chiamerei "ontologia del contesto" - principalmente perché desidero avere un unico posto dove poter vedere da dove proviene il contesto e in quali prompt viene utilizzato. Un contesto utile per un LLM per generare una risposta o intraprendere un'azione potrebbe includere cose come (1) obiettivo generale, (2) compito/area di focus attuale, (3) informazioni riassunte da compiti passati rilevanti, (4) insegnamenti da tentativi precedenti, ecc. Man mano che ci aspettiamo di più dai nostri agenti (compiti più lunghi, progetti più complicati, ecc.), la memoria grezza diventa rapidamente pesante in termini di token e rumorosa, il che riduce la qualità dell'output dell'LLM. La maggior parte delle applicazioni AI complesse ha qualche tipo di contesto riassunto (presumo), e più fonti di contesto. L'idea qui è definire un'ontologia per ciò che memorizzi*, come strutturarla e cosa recuperare per ogni prompt nel tuo sistema. *per memorizzare, non intendo necessariamente nel database dell'AI. È importante, sembra più olistico considerare i dati memorizzati in qualsiasi app come parte della memoria dell'AI (ad es. connessione API/MCP). Forse questa ontologia dovrebbe specificare anche questo. Portando il concetto un passo oltre, potresti rendere questa un'ontologia dinamica che un'AI può gestire e testare, poi inserirla in un ambiente RL per consentire agli agenti di migliorare autonomamente la gestione del contesto (ipoteticamente). Non sono sicuro se la strategia di riassunto dovrebbe rientrare qui, ma ha senso a un livello alto. È più complicato poiché la maggior parte delle persone riassume le informazioni al momento dell'ingestione, quindi dovresti riassumere nuovamente le ingestioni precedenti ogni volta che le cambi (per testare le modifiche e il miglioramento autonomo) - ma immagino che questo problema persista indipendentemente. Non penso che nulla di ciò sia particolarmente nuovo. Sto solo pensando ad alta voce mentre cerco di creare un framework interno per mappare varie strategie che ho visto.