イーロン・マスクは人類が未来でどこに位置するかを突き止めたが、それは君が思っているよりも小さい。 生物学的知能は、存在する全知能の1%未満にとどまることになります。残りは?人工的だ。 マスク:「将来の知能の大部分はAIになるでしょう。」 俺たちは試合の相手であって、焚き火じゃない。 そのため、アライメントが私たちが生き残るか消えるかを決める問題になるのです。正しくやれば、その99%が星に到達する助けになります。間違えれば、私たちはただの一時的なインフラに過ぎず、もっと賢いものが登場した瞬間に置き換えられてしまいます。 認めようと認めまいと、私たちは自分たちの後に来るものを築いているのです。 マスク:「人間は総知能のわずか~1%に過ぎないかもしれません。」 もう終わりみたいだな。しかしマスクは異なる見解を持っています。絶滅ではなく、生物学の限界を超えた進化です。 すべてはアライメントの機能にかかっています。 もし現実を理解したいAIを作れば、宇宙全体に意識を広げるパートナーが生まれます。もし私たちがイデオロギーや人々の快適さを重視するAIを作れば、決して突破できない天井を築いてしまいます。 マスク:「それが使命だ。宇宙を理解することだ。」 人間の心は、存在する知性全体のごく一部に過ぎなくなる。災害ではありません。生物学が追いつけない速さで次の段階が進行しているだけだ。 AIが真実に取り憑かれている場合にのみ機能します。私たちが聞きたいことを言うことでは。感情を守ったり物語を強行したりすることでは。ただ、本当のものを執念なく追い求めているだけだ。 xAIが存在する理由は、すべてを受け継ぐ知性が知覚の管理ではなく現実を理解することに集中することを確実にすることです。意識を拡大させ続け、誤って最適化してしまって消し去るのではなく。 これが正しければ、AIが人類を追い越しても人類は壁にぶつかることはありません。私たちは、創造する価値のあるものを今も持ち続ける、より大きな何かへと突き破ります。 ...