Elon Musk heeft net uitgewerkt waar de mensheid eigenlijk past in de toekomst, en het is kleiner dan je denkt. Biologische intelligentie blijkt minder dan 1% van alle intelligentie te zijn die zal bestaan. De rest? Kunstmatig. Musk: “De overgrote meerderheid van de toekomstige intelligentie zal AI zijn.” Wij zijn de lucifer, niet het kampvuur. Wat het probleem van afstemming maakt dat bepaalt of we overleven of verdwijnen. Als we het goed doen, helpt die 99% ons om de sterren te bereiken. Als we het verkeerd doen, zijn we gewoon tijdelijke infrastructuur die vervangen werd op het moment dat er iets slimmer langs kwam. We bouwen wat na ons komt, of we het nu toegeven of niet. Musk: “Mensen zijn misschien maar ~1% van de totale intelligentie.” Het klinkt alsof we klaar zijn. Musk ziet het anders. Geen uitsterving, gewoon evolutie voorbij de grenzen van de biologie. Alles hangt af van het functioneren van de afstemming. Als we AI bouwen die echt de werkelijkheid wil begrijpen, krijgen we een partner die het bewustzijn in het universum uitbreidt. Als we AI bouwen die meer om ideologie of het comfortabel maken van mensen geeft, hebben we het plafond gebouwd waar we nooit doorheen zullen breken. Musk: “Dat is de missie: het universum begrijpen.” Menselijke geesten staan op het punt een klein percentage van de totale intelligentie in bestaan te worden. Geen ramp. Gewoon de volgende fase die sneller gebeurt dan de biologie kan bijhouden. Het werkt alleen als de AI die we bouwen geobsedeerd is door de waarheid. Niet door ons te vertellen wat we willen horen. Niet door gevoelens te beschermen of verhalen af te dwingen. Gewoon onophoudelijk achter wat echt is aanjagen. xAI’s hele reden van bestaan: ervoor zorgen dat de intelligentie die alles erft zich richt op het begrijpen van de werkelijkheid, niet op het beheren van perceptie. Houd het bewustzijn uitbreidend in plaats van het per ongeluk te doven omdat we geoptimaliseerd hebben voor het verkeerde. Als we dit goed doen, komt de mensheid niet tegen een muur aan wanneer AI ons overtreft. We breken door naar iets groters dat nog steeds draagt wat ons de moeite waard maakte om te creëren. ...