Andrej Karpathy popiera wprowadzenie nowego terminu związanego z "inżynierią kontekstu" w rozwoju oprogramowania AI przy użyciu LLM. I ten termin od dawna wydaje się bardzo potrzebny. Za każdym razem, gdy wyjaśniam ludziom, jak rozwijamy nasz Nethermind AuditAgent, jednym z kluczowych aspektów, oprócz wykorzystania wiedzy z dziedziny (bezpieczeństwo web3) i używania najlepszych dostępnych modeli AI (od OpenAI, Anthropic i Google) oraz narzędzi dla LLM, jest właśnie "inżynieria kontekstu". Czasami pojawia się wyrażenie "kontekst jest królem" i to naprawdę prawda. LLM, niezależnie od tego, czy są ogromne i zaawansowane, czy zoptymalizowane małe LLM, są potężnym narzędziem, ale jak każde narzędzie, jeśli jest w niewłaściwych rękach, uzyskasz znacznie mniej obiecujące wyniki, niż mógłbyś, gdybyś pracował z nimi poprawnie. A zarządzanie kontekstem (lub inżynieria) jest rzeczywiście złożonym i niezbyt dobrze opisanym obszarem, który nieustannie się rozwija, a naprawdę wyłonił się jako rozszerzenie koncepcji inżynierii podpowiedzi, która już ma pewne negatywne konotacje. Ogólnie rzecz biorąc, Andrej wymienił główne aspekty związane z inżynierią kontekstu (na drugim zrzucie ekranu), ale w każdym konkretnym zadaniu ludzie osiągają doskonałe wyniki w dużej mierze dzięki próbom i błędom, za każdym razem monotonnie próbując wybrać odpowiednie elementy kontekstu, które są naprawdę potrzebne na tym etapie rozwiązywania problemu, zbierając benchmarki dla każdego etapu, patrząc na metryki, dzieląc zbiory danych na testowe, walidacyjne i tak dalej. Co myślisz o "inżynierii kontekstu"?