Parece que a OpenAI está usando o YaRN do Nous e o dimensionamento de corda de kaiokendev para extensão do comprimento do contexto o tempo todo - é claro que nunca houve crédito, mas ... Qualquer um que diga que "o código aberto apenas rouba de sua pesquisa 'real' e anda em seus ombros" está completamente errado Eu chamei quando eles lançaram o contexto estendido de 128k no gpt4 apenas algumas semanas depois que o Nous lançou o fio lol para contexto no fio; Deepseek e Qwen também o usam; Papel: