Я б задумався над концепцією, яку назвав би "контекстною онтологією" - в основному тому, що хотів би мати єдине місце, де я міг би побачити, звідки береться контекст і в яких підказках він використовується. Корисний контекст для LLM для отримання відповіді або вжиття заходів може включати такі речі, як (1) мета високого рівня, (2) поточне завдання/область фокусу, (3) узагальнена інформація з відповідних минулих завдань, (4) уроки з попередніх спроб тощо. оскільки ми очікуємо більшого від наших агентів (довші завдання, складніші проекти тощо), необроблена пам'ять швидко стає важкою та шумною, що знижує якість виводу LLM. більшість складних додатків зі штучним інтелектом мають якийсь узагальнений контекст (я б припускав) і кілька джерел контексту. Ідея тут полягає у визначенні онтології для того, який контекст ви зберігаєте*, як його структурувати та що отримувати для кожного запиту у вашій системі. *Під магазином я не обов'язково маю на увазі в базі даних AI. Більш цілісно розглядати дані, що зберігаються в будь-якому додатку, як частину пам'яті ШІ (наприклад, з'єднання API/MCP). Можливо, і ця онтологія повинна конкретизувати це. Зробивши ще один крок вперед, ви можете зробити це динамічною онтологією, якою штучний інтелект може керувати та тестувати, а потім помістити її в середовище RL, щоб агенти могли самостійно покращувати управління контекстом (гіпотетично) Не впевнений, чи повинна тут входити стратегія узагальнення, але має сенс на високому рівні. складніше, оскільки більшість людей узагальнюють інформацію після прийому, тому вам доведеться підсумовувати попередні прийоми щоразу, коли ви його змінюєте (для тестування змін і самовдосконалення) - але я думаю, що ця проблема залишається, незважаючи на це. Я не думаю, що тут щось особливо нове. Просто думаючи вголос, я намагаюся створити якусь внутрішню структуру для відображення різних стратегій, які я бачив.