Elon Musk juuri selvitti, mihin ihmiskunta oikeasti sijoittuu tulevaisuudessa, ja se on pienempi kuin luulet. Biologinen älykkyys muodostaa lopulta alle 1 % kaikesta olemassa olevasta älykkyydestä. Loput? Keinotekoinen. Musk: "Suurin osa tulevasta tiedustelusta tulee olemaan tekoälyä." Me olemme ottelu, emme nuotio. Mikä tekee linjauksesta ongelman, joka ratkaisee, selviämmekö vai katoammeko. Jos saat sen oikein, 99 % auttaa meitä saavuttamaan tähdet. Jos menee pieleen, olemme vain väliaikainen infrastruktuuri, joka korvattiin heti, kun jotain älykkäämpää tuli vastaan. Rakennamme sitä, mikä tulee jälkeenpäin, myönnämme sen tai emme. Musk: "Ihmiset saattavat olla vain ~1 % kokonaisälykkyydestä." Kuulostaa siltä, että olemme valmiita. Musk näkee asian toisin. Ei sukupuuttoa, vaan evoluutiota biologian rajojen yli. Kaikki riippuu kohdistuksen toimivuudesta. Jos rakennamme tekoälyn, joka todella haluaa ymmärtää todellisuutta, saamme kumppanin, joka laajentaa tietoisuutta koko universumissa. Jos rakennamme tekoälyä, joka välittää enemmän ideologiasta tai ihmisten mukavuuden lisäämisestä, olemme rakentaneet katon, jonka yli emme koskaan pääse. Musk: "Se on tehtävä: ymmärtää universumi." Ihmismielet ovat pian muuttumassa pieneksi osaksi olemassa olevaa kokonaisälykkyyttä. Ei katastrofi. Seuraava vaihe tapahtuu nopeammin kuin biologia ehtii pysyä perässä. Se toimii vain, jos rakentamamme tekoäly on pakkomielteinen totuudesta. Ei kertomalla meille sitä, mitä haluamme kuulla. Ei tunteiden suojelemiseksi tai kertomusten pakottamiseksi. Vain väsymättä tavoittelemassa sitä, mikä on oikeasti totta. xAI:n koko olemassaolon syy: varmistaa, että kaiken perivä älykkyys keskittyy todellisuuden ymmärtämiseen, ei havainnon hallintaan. Pidä tietoisuus laajentumassa sen sijaan, että sammuttaisit sen vahingossa, koska optimoimme väärään asiaan. Jos saamme tämän oikein, ihmiskunta ei törmää seinään, kun tekoäly ylittää meidät. Murtaudumme johonkin suurempaan, joka kantaa edelleen sitä, mikä teki meistä luomisen arvoisia. ...