Andrej Karpathy apoia a introdução de um novo termo relacionado à "engenharia de contexto" no desenvolvimento de software de IA usando LLMs. E este termo há muito que parece muito necessário. Cada vez que explico às pessoas como desenvolvemos o nosso Nethermind AuditAgent, um dos aspetos chave, para além de utilizar a experiência de domínio (segurança web3) e utilizar os melhores modelos de IA disponíveis (da OpenAI, Anthropic e Google), e ferramentas para LLM, é precisamente a "engenharia de contexto". Às vezes, há uma expressão "o contexto é o rei", e isso realmente é verdade. LLMs, sejam grandes avançados ou pequenos LLMs otimizados, são uma ferramenta poderosa, mas como qualquer ferramenta, se estiver nas mãos erradas, você obterá resultados muito menos promissores do que se trabalhar com eles corretamente. E a gestão de contexto (ou engenharia) é de facto uma área complexa e não muito bem descrita que está em constante evolução, e surgiu realmente como uma extensão do conceito de engenharia imediata, que já tem algumas conotações negativas. No geral, Andrej listou os principais aspetos relacionados à engenharia de contexto (na segunda captura de tela), mas em cada tarefa específica, as pessoas alcançam excelentes resultados em grande parte através de tentativa e erro, cada vez monotonamente tentando selecionar os elementos de contexto certos que são realmente necessários nesta etapa de resolução de problemas, coletando benchmarks para cada estágio, olhando para métricas, dividindo conjuntos de dados em teste, validação, e assim por diante. O que pensa sobre a "engenharia de contexto"?