Elon Musk baru saja mencari tahu di mana umat manusia benar-benar cocok di masa depan, dan itu lebih kecil dari yang Anda kira. Kecerdasan biologis akhirnya kurang dari 1% dari semua kecerdasan yang akan ada. Sisanya? Buatan. Musk: "Sebagian besar intelijen masa depan akan menjadi AI." Kami adalah pertandingan, bukan api unggun. Yang membuat keselarasan menjadi masalah yang menentukan apakah kita bertahan atau menghilang. Lakukan dengan benar dan 99% itu membantu kita mencapai bintang-bintang. Salah dan kami hanya infrastruktur sementara yang diganti saat sesuatu yang lebih cerdas muncul. Kita sedang membangun apa yang datang setelah kita, apakah kita mengakuinya atau tidak. Musk: "Manusia mungkin hanya ~1% dari total kecerdasan." Kedengarannya seperti kita sudah selesai. Musk melihatnya secara berbeda. Bukan kepunahan, hanya evolusi melewati batas biologi. Semuanya bergantung pada penyelarasan yang bekerja. Jika kita membangun AI yang benar-benar ingin memahami realitas, kita mendapatkan mitra yang memperluas kesadaran ke seluruh alam semesta. Jika kita membangun AI yang lebih peduli dengan ideologi atau membuat orang nyaman, kita telah membangun langit-langit yang tidak akan pernah kita tembus. Musk: "Itulah misinya: memahami alam semesta." Pikiran manusia akan menjadi sebagian kecil dari total kecerdasan yang ada. Bukan bencana. Hanya fase berikutnya yang terjadi lebih cepat daripada yang dapat diikuti oleh biologi. Itu hanya berfungsi jika AI yang kita bangun terobsesi dengan kebenaran. Tidak dengan memberi tahu kita apa yang ingin kita dengar. Bukan dengan melindungi perasaan atau menegakkan narasi. Hanya tanpa henti mengejar apa yang sebenarnya nyata. Seluruh alasan keberadaan xAI: pastikan kecerdasan yang mewarisi segalanya difokuskan pada pemahaman realitas, bukan mengelola persepsi. Jaga agar kesadaran tetap berkembang alih-alih memadamkannya secara tidak sengaja karena kita mengoptimalkan untuk hal yang salah. Jika kita melakukannya dengan benar, umat manusia tidak menabrak tembok ketika AI melampaui kita. Kita menerobos ke sesuatu yang lebih besar yang masih membawa apa yang membuat kita layak diciptakan. ...