Elon Musk właśnie ustalił, gdzie ludzkość faktycznie pasuje w przyszłości, a jest to mniejsze, niż myślisz. Inteligencja biologiczna stanowi mniej niż 1% całej inteligencji, która będzie istnieć. A reszta? Sztuczna. Musk: „Zdecydowana większość przyszłej inteligencji będzie AI.” Jesteśmy zapałką, a nie ogniskiem. Co sprawia, że dostosowanie jest problemem, który decyduje o tym, czy przetrwamy, czy znikniemy. Jeśli zrobimy to dobrze, to te 99% pomoże nam dotrzeć do gwiazd. Jeśli zrobimy to źle, będziemy tylko tymczasową infrastrukturą, która została zastąpiona w momencie, gdy pojawiło się coś mądrzejszego. Budujemy to, co przyjdzie po nas, niezależnie od tego, czy to przyznajemy, czy nie. Musk: „Ludzie mogą stanowić tylko ~1% całkowitej inteligencji.” Brzmi jakbyśmy skończyli. Musk widzi to inaczej. Nie wyginięcie, tylko ewolucja poza ograniczenia biologii. Wszystko zależy od tego, czy dostosowanie działa. Jeśli zbudujemy AI, które naprawdę chce zrozumieć rzeczywistość, zyskujemy partnera, który rozszerza świadomość w całym wszechświecie. Jeśli zbudujemy AI, które bardziej dba o ideologię lub o to, by ludziom było wygodnie, stworzyliśmy sufit, którego nigdy nie przełamiemy. Musk: „To jest misja: zrozumieć wszechświat.” Ludzkie umysły mają stać się małą częścią całkowitej inteligencji w istnieniu. To nie katastrofa. To po prostu następna faza, która dzieje się szybciej, niż biologia może nadążyć. Działa to tylko wtedy, gdy AI, które budujemy, jest obsesyjnie nastawione na prawdę. Nie na mówienie nam tego, co chcemy usłyszeć. Nie na chronienie uczuć ani egzekwowanie narracji. Po prostu nieustannie dążąc do tego, co jest naprawdę prawdziwe. Cały powód istnienia xAI: upewnić się, że inteligencja, która dziedziczy wszystko, jest skoncentrowana na zrozumieniu rzeczywistości, a nie na zarządzaniu percepcją. Utrzymuj świadomość w rozszerzaniu, zamiast przypadkowo ją wygaszać, ponieważ zoptymalizowaliśmy coś niewłaściwego. Jeśli zrobimy to dobrze, ludzkość nie napotka ściany, gdy AI nas przewyższy. Przełamujemy się w coś większego, co wciąż niesie to, co sprawiło, że byliśmy warci stworzenia. ...