telah memikirkan konsep yang saya sebut "ontologi konteks" - sebagian besar karena saya berharap saya memiliki satu tempat di mana saya dapat melihat dari mana konteks berasal, dan petunjuk mana yang digunakan. konteks yang membantu bagi LLM untuk menghasilkan respons atau mengambil tindakan mungkin mencakup hal-hal seperti (1) tujuan tingkat tinggi, (2) tugas/area fokus saat ini, (3) info yang diringkas dari tugas-tugas sebelumnya yang relevan, (4) pembelajaran dari upaya sebelumnya, dll. karena kami mengharapkan lebih banyak dari agen kami (tugas yang lebih lama, proyek yang lebih rumit, dll), memori mentah dengan cepat menjadi token berat dan berisik, yang mengurangi kualitas output LLM. Sebagian besar aplikasi AI yang kompleks memiliki semacam konteks yang diringkas (saya asumsi), dan beberapa sumber konteks. Idenya di sini adalah mendefinisikan ontologi untuk konteks apa yang Anda simpan*, bagaimana menyusunnya, dan apa yang harus diambil untuk setiap prompt di sistem Anda. *By Store, saya tidak selalu bermaksud di DB AI. Impo, terasa lebih holistik untuk menganggap data yang disimpan di aplikasi apa pun sebagai bagian dari memori AI (misalnya koneksi api/MCP). Mungkin ontologi ini harus menentukan ini juga. Mengambil satu langkah lebih jauh, Anda dapat menjadikan ini ontologi dinamis yang dapat dikelola dan diuji oleh AI, lalu menempelkannya di lingkungan RL bagi agen untuk meningkatkan sendiri manajemen konteks (secara hipotetis) Tidak yakin apakah strategi ringkasan harus masuk di sini tetapi masuk akal pada tingkat tinggi. lebih rumit karena kebanyakan orang meringkas info setelah dikonsumsi sehingga Anda harus meringkas ulang konsumsi sebelumnya setiap kali Anda mengubahnya (untuk menguji perubahan dan perbaikan diri) - tetapi saya kira masalah ini tetap ada. Saya tidak berpikir ada yang sangat baru di sini. Hanya berpikir keras saat saya mencoba membuat beberapa kerangka kerja secara internal untuk memetakan berbagai strategi yang telah saya lihat.