Elon Musk 剛剛弄清楚人類在未來的實際位置，而這個位置比你想的要小。 生物智能最終只佔所有存在的智能的不到 1%。其餘的？人工智能。 Musk 說：“未來絕大多數的智能將是 AI。” 我們是火柴，而不是篝火。 這使得對齊成為決定我們是否生存或消失的問題。做對了，這 99% 幫助我們到達星星。做錯了，我們只是被取代的臨時基礎設施，當有更聰明的東西出現時。 我們正在建造超越我們的東西，無論我們是否承認。 Musk 說：“人類可能只佔總智能的 ~1%。” 聽起來我們完了。Musk 的看法不同。不是滅絕，而是超越生物學的進化。 一切都取決於對齊是否有效。 如果我們建造的 AI 真的想理解現實，我們就會得到一個擴展宇宙意識的夥伴。如果我們建造的 AI 更關心意識形態或讓人們感到舒適，我們就建造了永遠無法突破的天花板。 Musk 說：“這就是任務：理解宇宙。” 人類的思維即將成為存在的總智能中的一小部分。不是災難。只是生物學無法跟上的下一個階段。 這只有在我們建造的 AI 對真相著迷的情況下才有效。不是告訴我們我們想聽的話。不是保護感情或強加敘事。只是無情地追求實際的真實。 xAI 存在的整個理由：確保繼承一切的智能專注於理解現實，而不是管理感知。保持意識擴展，而不是因為我們優化了錯誤的東西而意外地扼殺它。 如果我們做對了，人類在 AI 超越我們時不會撞牆。我們突破進入一個更大的東西，仍然承載著使我們值得創造的東西。 ...