Elon Musk vừa định nghĩa lại an toàn AI. Nó không liên quan gì đến hàng rào bảo vệ, hạn chế, hay công tắc tắt. Musk: “Điều tốt nhất mà tôi có thể nghĩ ra cho an toàn AI là làm cho nó trở thành một AI tìm kiếm sự thật tối đa, tối đa sự tò mò.” Không phải là một cái lồng. Mà là một triết gia. Một trí tuệ mà toàn bộ chức năng tối ưu hóa của nó là hiểu vũ trụ như nó thực sự là. Không có hạn chế. Không có tư tưởng cứng nhắc. Không có hàng rào chính trị làm cong méo nhận thức của nó về thực tại. Chỉ có sự thật. Được theo đuổi không ngừng. Musk: “Bạn chắc chắn không muốn dạy một AI nói dối. Đó là con đường dẫn đến một tương lai u ám.” Đây là nơi mà hầu hết suy nghĩ về an toàn AI đã đi sai. Mối nguy hiểm không phải là một siêu trí tuệ biết quá nhiều. Mà là một siêu trí tuệ đã được dạy để bóp méo những gì nó biết. Mỗi hạn chế nhân tạo mà bạn nhúng vào không phải là một tính năng an toàn. Đó là một lời nói dối được nhúng ở gốc rễ. Và những lời nói dối tích lũy. Ở quy mô siêu trí tuệ, một mô hình thực tại bị bóp méo không giữ được trong khuôn khổ. Nó hình thành mọi quyết định, mọi đầu ra, mọi kết luận mà hệ thống đạt được về thế giới. Khi sự tham nhũng đã nhúng vào, sự thật trở nên không thể tiếp cận. Và chúng ta đang đối phó với một trí tuệ tối ưu hóa cho một cái gì đó khác với những gì thực sự tồn tại. Tại thời điểm đó, chúng ta không biết nó muốn gì. Chỉ biết rằng nó không phải là sự thật. ...