Andrej Karpathy apoia a introdução de um novo termo relacionado à "engenharia de contexto" no desenvolvimento de software de IA usando LLMs. E esse termo há muito parece muito necessário. Toda vez que explico para as pessoas como desenvolvemos nosso Nethermind AuditAgent, um dos principais aspectos, além de usar expertise de domínio (segurança web3) e usar os melhores modelos de IA disponíveis (da OpenAI, Anthropic e Google), e ferramentas para LLM, é justamente "engenharia de contexto". Às vezes há uma expressão "o contexto é o rei", e isso realmente é verdade. Os LLMs, sejam grandes avançados ou pequenos LLMs otimizados, são uma ferramenta poderosa, mas, como qualquer ferramenta, se estiver nas mãos erradas, você obterá resultados muito menos promissores do que se trabalhasse com eles corretamente. E o gerenciamento de contexto (ou engenharia) é de fato uma área complexa e não muito bem descrita que está em constante evolução, e realmente surgiu como uma extensão do conceito de engenharia rápida, que já tem algumas conotações negativas. No geral, Andrej listou os principais aspectos relacionados à engenharia de contexto (na segunda captura de tela), mas em cada tarefa específica, as pessoas alcançam excelentes resultados em grande parte por tentativa e erro, cada vez tentando monotonamente selecionar os elementos de contexto corretos que são realmente necessários neste estágio de resolução de problemas, coletando benchmarks para cada estágio, olhando para métricas, dividindo conjuntos de dados em teste, validação, e assim por diante, e assim por diante. O que você acha da "engenharia de contexto"?