Andrej Karpathy stöder introduktionen av en ny term relaterad till "kontextteknik" inom AI-programvaruutveckling med hjälp av LLM:er. Och den här termen har länge verkat mycket nödvändig. Varje gång jag förklarar för människor hur vi utvecklar vår Nethermind AuditAgent är en av de viktigaste aspekterna, förutom att använda domänexpertis (web3-säkerhet) och med hjälp av de bästa tillgängliga AI-modellerna (från OpenAI, Anthropic och Google), och verktyg för LLM, just "context engineering". Det finns ibland ett uttryck som säger att "sammanhanget är kungen", och det är verkligen sant. LLM:er, oavsett om de är stora avancerade eller optimerade små LLM:er, är ett kraftfullt verktyg, men som alla verktyg, om det är i fel händer, får du mycket mindre lovande resultat än du skulle kunna om du arbetar med dem på rätt sätt. Och context management (eller teknik) är verkligen ett komplext och inte särskilt väl beskrivet område som ständigt utvecklas, och det uppstod verkligen som en förlängning av konceptet med snabb teknik, som redan har vissa negativa konnotationer. Sammantaget listade Andrej de viktigaste aspekterna relaterade till kontextteknik (på den andra skärmdumpen), men i varje specifik uppgift uppnår människor utmärkta resultat till stor del genom försök och misstag, varje gång monotont försöker de välja rätt kontextelement som verkligen behövs i detta skede av problemlösning, samla in riktmärken för varje steg, titta på mätvärden, dela upp datauppsättningar i test, validering och så vidare, och så vidare. Vad tycker du om "context engineering"?