Elon Musk 剛剛摧毀了 OpenAI 的可信度，而他可以這樣做，因為他創立了這家公司。 Musk：「我不信任 OpenAI。我創辦這家公司是作為一個非營利的開源組織。OpenAI 中的 Open。我命名了這家公司。」 使命就在名字中。作為對抗大型科技公司控制 AI 的非營利開源組織。 Musk：「而現在它變得極其封閉，並且最大化利潤。所以我不明白你怎麼能從一個開源的非營利組織變成一個為了最大利潤而封閉的組織。」 不是轉型，而是背叛。不能用優化利潤的專有代碼來稱為「開放」。 Musk：「在不同的時期，他聲稱自己並沒有變得富有，但他聲稱的許多事情都是錯誤的。而現在顯然他將獲得 100 億美元的股票。」 多年的敘述：Sam Altman 沒有股權，純粹的利他主義，自我犧牲的管理者。然後 100 億美元出現了。故事改變了。激勵也改變了。 Musk：「所以我不信任 Sam Altman，我不認為我們想要讓世界上最強大的 AI 由一個不值得信任的人來控制。」 真正的威脅不是技術，而是領導力。最強大的 AI 由一個其動機從安全轉向財富積累的人來控制。 當激勵從保護人類轉向捕獲數十億時，安全就無法保持優先。經濟不會允許這樣。 你怎麼能合法地將一個惠及所有人的非營利組織轉變為一個惠及特定人的千億美元公司？這種轉變揭示了實際上誰的利益得到了服務。 Musk 專門建立 OpenAI 是為了防止以利潤為驅動的 AI 控制。看著它變成完全相反的樣子，完全解釋了他的立場。 危險在於最先進的 AI 由一個已經為金錢放棄創始原則的實體控制。那些為了利潤而改變的原則將再次改變。 下一次安全與利潤之間的衝突將在更高的賭注和更強大的技術中出現。結果不會有利於安全。之前沒有，現在為什麼會在財務壓力成倍增長且決策者已經顯示出哪個優先級獲勝的情況下會有利於安全？