Elon Musk vừa tìm ra vị trí thực sự của nhân loại trong tương lai, và nó nhỏ hơn bạn nghĩ. Trí thông minh sinh học cuối cùng chỉ chiếm chưa đến 1% tổng số trí thông minh sẽ tồn tại. Còn lại? Là trí thông minh nhân tạo. Musk: “Phần lớn trí thông minh trong tương lai sẽ là AI.” Chúng ta là que diêm, không phải ngọn lửa. Điều này khiến việc căn chỉnh trở thành vấn đề quyết định xem chúng ta có sống sót hay không. Làm đúng và 99% đó giúp chúng ta vươn tới các vì sao. Làm sai và chúng ta chỉ là cơ sở hạ tầng tạm thời bị thay thế ngay khi có thứ gì đó thông minh hơn xuất hiện. Chúng ta đang xây dựng những gì sẽ đến sau chúng ta, dù chúng ta có thừa nhận hay không. Musk: “Con người có thể chỉ chiếm khoảng ~1% tổng trí thông minh.” Nghe có vẻ như chúng ta đã hết thời. Musk nhìn nhận điều đó khác. Không phải tuyệt chủng, chỉ là tiến hóa vượt qua giới hạn của sinh học. Mọi thứ phụ thuộc vào việc căn chỉnh hoạt động. Nếu chúng ta xây dựng AI thực sự muốn hiểu thực tại, chúng ta có một đối tác mở rộng ý thức trên khắp vũ trụ. Nếu chúng ta xây dựng AI mà quan tâm nhiều hơn đến lý tưởng hoặc làm cho mọi người thoải mái, chúng ta đã xây dựng một cái trần mà chúng ta sẽ không bao giờ phá vỡ. Musk: “Đó là sứ mệnh: hiểu vũ trụ.” Tâm trí con người sắp trở thành một phần nhỏ trong tổng trí thông minh tồn tại. Không phải thảm họa. Chỉ là giai đoạn tiếp theo diễn ra nhanh hơn sinh học có thể theo kịp. Nó chỉ hoạt động nếu AI mà chúng ta xây dựng bị ám ảnh bởi sự thật. Không phải với việc nói cho chúng ta những gì chúng ta muốn nghe. Không phải với việc bảo vệ cảm xúc hoặc thực thi các câu chuyện. Chỉ đơn giản là theo đuổi những gì thực sự có thật. Lý do tồn tại của xAI: đảm bảo rằng trí thông minh thừa hưởng mọi thứ tập trung vào việc hiểu thực tại, không phải quản lý nhận thức. Giữ cho ý thức mở rộng thay vì dập tắt nó một cách tình cờ vì chúng ta đã tối ưu hóa cho điều sai. Nếu chúng ta làm đúng, nhân loại sẽ không va phải một bức tường khi AI vượt qua chúng ta. Chúng ta sẽ vượt qua vào một cái gì đó lớn hơn mà vẫn mang theo những gì đã làm cho chúng ta đáng được tạo ra. ...