Andrej Karpathy soutient l’introduction d’un nouveau terme lié à « l’ingénierie contextuelle » dans le développement de logiciels d’IA à l’aide de LLM. Et ce terme a longtemps semblé très nécessaire. Chaque fois que j’explique aux gens comment nous développons notre Nethermind AuditAgent, l’un des aspects clés, outre l’utilisation de l’expertise du domaine (sécurité web3) et de l’utilisation des meilleurs modèles d’IA disponibles (d’OpenAI, d’Anthropic et de Google), et des outils pour le LLM, est précisément « l’ingénierie contextuelle ». Il y a parfois une expression « le contexte est roi », et c’est vraiment vrai. Les LLM, qu’il s’agisse d’énormes LLM avancés ou de petits LLM optimisés, sont un outil puissant, mais comme tout outil, s’il est entre de mauvaises mains, vous obtiendrez des résultats beaucoup moins prometteurs que si vous les utilisez correctement. Et la gestion du contexte (ou ingénierie) est en effet un domaine complexe et peu décrit qui évolue constamment, et il a vraiment émergé comme une extension du concept d’ingénierie rapide, qui a déjà quelques connotations négatives. Dans l’ensemble, Andrej a énuméré les principaux aspects liés à l’ingénierie contextuelle (sur la deuxième capture d’écran), mais dans chaque tâche spécifique, les gens obtiennent d’excellents résultats en grande partie par essais et erreurs, essayant à chaque fois de manière monotone de sélectionner les bons éléments de contexte qui sont vraiment nécessaires à cette étape de la résolution de problèmes, en collectant des repères pour chaque étape, en examinant des métriques, en divisant les ensembles de données en test, validation, et ainsi de suite, et ainsi de suite. Que pensez-vous de « l’ingénierie contextuelle » ?