Andrej Karpathy susține introducerea unui nou termen legat de "ingineria contextului" în dezvoltarea de software AI folosind LLM-uri. Și acest termen a părut mult timp foarte necesar. De fiecare dată când explic oamenilor cum dezvoltăm Nethermind AuditAgent, unul dintre aspectele cheie, pe lângă utilizarea expertizei în domeniu (securitate web3) și utilizarea celor mai bune modele AI disponibile (de la OpenAI, Anthropic și Google) și instrumente pentru LLM, este tocmai "ingineria contextului". Există uneori o expresie "contextul este regele" și chiar este adevărat. LLM-urile, fie că sunt avansate uriașe sau LLM-uri mici optimizate, sunt un instrument puternic, dar ca orice instrument, dacă este pe mâini greșite, veți obține rezultate mult mai puțin promițătoare decât ați putea dacă lucrați corect cu ele. Iar managementul contextului (sau ingineria) este într-adevăr un domeniu complex și nu foarte bine descris, care evoluează constant și a apărut într-adevăr ca o extensie a conceptului de inginerie promptă, care are deja unele conotații negative. În general, Andrej a enumerat principalele aspecte legate de ingineria contextului (pe a doua captură de ecran), dar în fiecare sarcină specifică, oamenii obțin rezultate excelente în mare parte prin încercări și erori, de fiecare dată încercând monoton să selecteze elementele de context potrivite care sunt cu adevărat necesare în această etapă de rezolvare a problemelor, colectând repere pentru fiecare etapă, analizând valorile, împărțind seturile de date în teste, validare și așa mai departe și așa mai departe. Ce părere aveți despre "ingineria contextului"?