Dario Amodei vừa nói điều mà không ai trong ngành công nghệ muốn chấp nhận là sự thật. Câu chuyện mà mọi người bám víu vào về mối quan hệ đối tác vĩnh viễn giữa con người và AI? Đó là hư cấu. Một hư cấu an ủi mà chúng ta tự nói với mình trong khi tương lai thực sự hình thành xung quanh chúng ta. Amodei: “Cửa sổ ‘Centaur’ có thể rất ngắn.” Nhu cầu về lập trình viên đang bùng nổ ngay bây giờ. Mức lương cạnh tranh. Các công ty đang khát khao bất kỳ ai có thể khai thác AI một cách hiệu quả. Mọi chỉ số rõ ràng đều cho thấy các công việc đã thích nghi và tồn tại. Mọi chỉ số đều sai. Đây không phải là sự thích nghi. Đây là hơi thở cuối cùng trước khi chìm. Từ chỉ đạo của con người đến hoàn toàn tự động không phải là một con dốc. Đó là một bờ vực. Sự hợp tác có giá trị cho đến khi đột nhiên nó không còn, và sự chuyển giao đó xảy ra trong vài tuần, không phải hàng thế hệ. Amodei: “Đừng nhầm lẫn sự gia tăng với sự an toàn.” Mối quan hệ đối tác cảm thấy thực vì nó là thực. Ngay bây giờ. Các lập trình viên đang đưa ra những lựa chọn mà AI không thể đưa ra. Bắt lỗi. Cung cấp bối cảnh và phán đoán. Tạo ra giá trị cộng sinh thực sự. Điều đó tạo ra nhu cầu thực sự cho những người xuất sắc trong lĩnh vực này. Nhưng Amodei sẽ không giả vờ điều hiển nhiên với anh: nhu cầu này đã có một ngày hết hạn đã rõ ràng trên chân trời. Khi AI hoàn thành các dự án một cách độc lập, kiến trúc các giải pháp một cách tự động, gỡ lỗi mà không cần giám sát, con người không tiến hóa thành một vai trò mới. Con người trở nên thừa thãi. Không kém quan trọng. Không liên quan. Amodei: “Tự động hóa hoàn toàn.” Không phải hợp tác như một đích đến. Sự tuyệt chủng. Chế độ Centaur tồn tại trong khi AI làm chủ sự độc lập. Kinh tế duy trì sự tham gia của con người cho đến giây phút mà nó không còn, sau đó nó hoàn toàn sụp đổ. Các lập trình viên đang chứng kiến sự bùng nổ này nghĩ rằng họ đang chứng kiến sự chuyển mình chuyên nghiệp. Họ đang trải qua chu kỳ việc làm cuối cùng trước khi nghề nghiệp hoàn toàn chuyển đến silicon. Chúng ta không xây dựng những đối tác nâng cao những gì con người làm. Chúng ta đang xây dựng những sự thay thế loại bỏ lý do tại sao con người cần thiết. Và khoảng cách tách biệt "công cụ hợp tác" với "thay thế hoàn toàn" không thu hẹp dần dần. Nó đang thu hẹp một cách bạo lực, và hầu hết mọi người sẽ không thấy điều đó đến cho đến khi nó đã xảy ra.