Andrej Karpathy unterstützt die Einführung eines neuen Begriffs im Zusammenhang mit "Kontextengineering" in der KI-Softwareentwicklung unter Verwendung von LLMs. Und dieser Begriff scheint schon lange sehr notwendig zu sein. Jedes Mal, wenn ich den Leuten erkläre, wie wir unseren Nethermind AuditAgent entwickeln, ist einer der Schlüsselaspekte, neben der Nutzung von Fachwissen (Web3-Sicherheit) und der Verwendung der besten verfügbaren KI-Modelle (von OpenAI, Anthropic und Google) sowie Tools für LLM, genau das "Kontextengineering". Es gibt manchmal den Ausdruck "Kontext ist König", und das ist wirklich wahr. LLMs, ob riesige fortschrittliche oder optimierte kleine LLMs, sind ein mächtiges Werkzeug, aber wie jedes Werkzeug, wenn es in den falschen Händen ist, erhält man viel weniger vielversprechende Ergebnisse, als man könnte, wenn man richtig mit ihnen arbeitet. Und das Kontextmanagement (oder -engineering) ist in der Tat ein komplexes und nicht sehr gut beschriebenes Gebiet, das sich ständig weiterentwickelt und wirklich als Erweiterung des Konzepts des Prompt-Engineerings entstanden ist, das bereits einige negative Konnotationen hat. Insgesamt hat Andrej die Hauptaspekte im Zusammenhang mit dem Kontextengineering aufgelistet (auf dem zweiten Screenshot), aber in jeder spezifischen Aufgabe erzielen die Menschen hervorragende Ergebnisse größtenteils durch Versuch und Irrtum, indem sie jedes Mal monoton versuchen, die richtigen Kontextelemente auszuwählen, die in dieser Phase der Problemlösung wirklich benötigt werden, Benchmarks für jede Phase sammeln, Metriken betrachten, Datensätze in Test-, Validierungs- usw. unterteilen und so weiter. Was haltet ihr von "Kontextengineering"?