Андрей Карпатый поддерживает введение нового термина, связанного с «контекстной инженерией», в разработку программного обеспечения AI с использованием LLM. И этот термин долгое время казался очень нужным. Каждый раз, когда я объясняю людям, как мы разрабатываем наш Nethermind AuditAgent, одним из ключевых аспектов, помимо использования предметной экспертизы (web3 security) и использования лучших доступных моделей AI (от OpenAI, Anthropic и Google), а также инструментов для LLM, является именно «контекстная инженерия». Иногда встречается выражение «контекст — это король», и это действительно правда. LLM, будь то огромные продвинутые или оптимизированные маленькие LLM, являются мощным инструментом, но, как и любой инструмент, если он находится не в тех руках, вы получите гораздо менее многообещающие результаты, чем могли бы, если бы работали с ними правильно. И управление контекстом (или инженерия) — это действительно сложная и не очень хорошо описанная область, которая постоянно развивается, и она действительно возникла как расширение концепции оперативного инжиниринга, которая уже имеет некоторые негативные коннотации. В целом, Андрей перечислил основные аспекты, связанные с контекстной инженерией (на втором скриншоте), но в каждой конкретной задаче люди добиваются отличных результатов во многом путем проб и ошибок, каждый раз монотонно пытаясь подобрать правильные элементы контекста, которые действительно нужны на данном этапе решения задач, собирая бенчмарки для каждого этапа, смотря метрики, разделяя датасеты на тестовые, валидация и так далее, и тому подобное. Что вы думаете о «контекстной инженерии»?