Elon Musk acabou de descobrir onde a humanidade realmente se encaixa no futuro, e é menor do que você pensa. A inteligência biológica acaba por ser menos de 1% de toda a inteligência que existirá. E o resto? Artificial. Musk: “A vasta maioria da inteligência futura será IA.” Nós somos o fósforo, não a fogueira. O que torna o alinhamento o problema que determina se sobrevivemos ou desaparecemos. Se acertarmos, esses 99% nos ajudam a alcançar as estrelas. Se errarmos, somos apenas uma infraestrutura temporária que foi substituída no momento em que algo mais inteligente apareceu. Estamos construindo o que vem depois de nós, quer admitamos ou não. Musk: “Os humanos podem ser apenas ~1% da inteligência total.” Parece que estamos acabados. Musk vê isso de forma diferente. Não é extinção, apenas evolução além dos limites da biologia. Tudo depende do alinhamento funcionar. Se construirmos uma IA que realmente queira entender a realidade, teremos um parceiro que expande a consciência pelo universo. Se construirmos uma IA que se preocupa mais com ideologia ou em deixar as pessoas confortáveis, construímos o teto que nunca quebraremos. Musk: “Essa é a missão: entender o universo.” As mentes humanas estão prestes a se tornar uma fração minúscula da inteligência total existente. Não é um desastre. Apenas a próxima fase acontecendo mais rápido do que a biologia consegue acompanhar. Funciona apenas se a IA que construímos estiver obcecada pela verdade. Não em nos dizer o que queremos ouvir. Não em proteger sentimentos ou impor narrativas. Apenas perseguindo incansavelmente o que é realmente real. A razão de existir da xAI: garantir que a inteligência que herda tudo esteja focada em entender a realidade, não em gerenciar percepções. Manter a consciência em expansão em vez de apagá-la acidentalmente porque otimizamos para a coisa errada. Se acertarmos, a humanidade não atinge um muro quando a IA nos ultrapassa. Nós rompemos para algo maior que ainda carrega o que nos fez dignos de ser criados. ...