m-am gândit la un concept pe care l-aș numi "ontologie a contextului" - mai ales pentru că mi-aș dori să am un singur loc unde să pot vedea de unde vine contextul și în ce solicitări sunt folosite. contextul util pentru ca un LLM să genereze un răspuns sau să ia măsuri ar putea include lucruri precum (1) obiectiv de nivel înalt, (2) sarcină curentă/zonă de concentrare, (3) informații rezumate din sarcinile anterioare relevante, (4) învățături din încercările anterioare etc. pe măsură ce așteptăm mai mult de la agenții noștri (sarcini mai lungi, proiecte mai complicate etc.), memoria brută devine rapid grea și zgomotoasă, ceea ce reduce calitatea ieșirii LLM. cele mai complexe aplicații AI au un fel de context rezumat (presupun) și mai multe surse de context. Ideea aici este definirea unei ontologii pentru ce context stocați*, cum să-l structurați și ce să recuperați pentru fiecare solicitare din sistemul dvs. *Prin magazin, nu mă refer neapărat la baza de date a AI. impo, pare mai holistic să consideri datele stocate în orice aplicație ca parte a memoriei AI (de exemplu, conexiune API / MCP). poate că și această ontologie ar trebui să specifice acest lucru. Mergând cu un pas mai departe, ați putea face din aceasta o ontologie dinamică pe care o inteligență artificială o poate gestiona și testa, apoi o puteți pune într-un mediu RL pentru ca agenții să îmbunătățească auto-gestionarea contextului (ipotetic) Nu sunt sigur dacă strategia de rezumare ar trebui să intre aici, dar are sens la un nivel înalt. mai dificil, deoarece majoritatea oamenilor rezumă informațiile la ingestie, așa că ar trebui să rezumă ingestiile anterioare de fiecare dată când le schimbați (pentru testarea modificărilor și auto-îmbunătățire) - dar cred că această problemă persistă oricum. Nu cred că nimic aici este deosebit de nou. Doar gândesc cu voce tare în timp ce încerc să creez un cadru intern pentru a cartografia diverse strategii pe care le-am văzut.
12,32K