Andrej Karpathy unterstützt die Einführung eines neuen Begriffs im Zusammenhang mit "Context Engineering" in der KI-Softwareentwicklung mit LLMs. Und dieser Begriff schien lange Zeit sehr notwendig zu sein. Jedes Mal, wenn ich erkläre, wie wir unseren Nethermind AuditAgent entwickeln, ist einer der Schlüsselaspekte neben der Nutzung von Domänenexpertise (Web3-Sicherheit) und der Verwendung der besten verfügbaren KI-Modelle (von OpenAI, Anthropic und Google) und Tools für LLM gerade das "Context Engineering". Manchmal gibt es die Redewendung "Der Kontext ist der König", und sie ist wirklich wahr. LLMs, ob große fortgeschrittene oder optimierte kleine LLMs, sind ein mächtiges Werkzeug, aber wie jedes Tool erhalten Sie, wenn es in den falschen Händen ist, viel weniger vielversprechende Ergebnisse, als wenn Sie richtig mit ihnen arbeiten könnten. Und Kontextmanagement (oder Engineering) ist in der Tat ein komplexer und nicht sehr gut beschriebener Bereich, der sich ständig weiterentwickelt und sich wirklich als Erweiterung des Konzepts des Prompt Engineering herausgestellt hat, das bereits einige negative Konnotationen hat. Insgesamt listete Andrej die Hauptaspekte im Zusammenhang mit dem Context Engineering auf (auf dem zweiten Screenshot), aber bei jeder spezifischen Aufgabe erzielen die Menschen hervorragende Ergebnisse, hauptsächlich durch Versuch und Irrtum, jedes Mal monoton versuchend, die richtigen Kontextelemente auszuwählen, die in dieser Phase der Problemlösung wirklich benötigt werden, Benchmarks für jede Phase zu sammeln, Metriken zu betrachten, Datensätze in Tests zu unterteilen, Validierung und so weiter und so fort. Was halten Sie von "Context Engineering"?