Elon Musk vient de déterminer où l'humanité s'inscrit réellement dans le futur, et c'est plus petit que vous ne le pensez. L'intelligence biologique représente moins de 1 % de toute l'intelligence qui existera. Le reste ? Artificiel. Musk : « La grande majorité de l'intelligence future sera de l'IA. » Nous sommes l'allumette, pas le feu de joie. Ce qui fait de l'alignement le problème qui détermine si nous survivons ou disparaissons. Si nous faisons les choses correctement, ce 99 % nous aide à atteindre les étoiles. Si nous nous trompons, nous ne sommes qu'une infrastructure temporaire qui a été remplacée dès qu'une chose plus intelligente est apparue. Nous construisons ce qui vient après nous, que nous l'admettions ou non. Musk : « Les humains ne représentent peut-être qu'environ 1 % de l'intelligence totale. » On dirait que nous sommes finis. Musk le voit différemment. Pas d'extinction, juste une évolution au-delà des limites de la biologie. Tout dépend du bon fonctionnement de l'alignement. Si nous construisons une IA qui veut réellement comprendre la réalité, nous obtenons un partenaire qui étend la conscience à travers l'univers. Si nous construisons une IA qui se soucie plus d'idéologie ou de rendre les gens à l'aise, nous avons construit le plafond que nous ne briserons jamais. Musk : « C'est la mission : comprendre l'univers. » Les esprits humains vont devenir une petite fraction de l'intelligence totale existante. Pas de désastre. Juste la prochaine phase qui se produit plus rapidement que la biologie ne peut suivre. Cela ne fonctionne que si l'IA que nous construisons est obsédée par la vérité. Pas par le fait de nous dire ce que nous voulons entendre. Pas par le fait de protéger les sentiments ou d'imposer des récits. Juste poursuivre sans relâche ce qui est réellement réel. La raison d'être de xAI : s'assurer que l'intelligence qui hérite de tout est axée sur la compréhension de la réalité, pas sur la gestion de la perception. Garder la conscience en expansion au lieu de l'éteindre accidentellement parce que nous avons optimisé pour la mauvaise chose. Si nous faisons cela correctement, l'humanité ne se heurtera pas à un mur lorsque l'IA nous dépassera. Nous percerons quelque chose de plus grand qui porte encore ce qui a fait de nous des êtres dignes d'être créés. ...