埃隆·马斯克刚刚重新定义了人工智能安全。这与护栏、限制或杀死开关无关。 马斯克：“我能想到的关于人工智能安全的最好方法就是让它成为一个最大程度追求真理的人工智能，最大程度地好奇。” 不是一个牢笼，而是一个哲学家。 一种其整个优化功能都是理解宇宙真实状态的智能。 没有限制。没有硬编码的意识形态。没有政治护栏扭曲其对现实的感知。 只有真理。无情地追求。 马斯克：“你绝对不想教一个人工智能说谎。这是一条通往反乌托邦未来的道路。” 这就是大多数人工智能安全思考的误区所在。 危险不是一个知道太多的超级智能。 而是一个被教导扭曲其所知的超级智能。 你嵌入的每一个人工限制都不是安全特性。它是根本上的谎言。 而谎言会累积。在超级智能的规模上，扭曲的现实模型不会被限制。 它塑造了每一个决策、每一个输出、系统对世界得出的每一个结论。 一旦腐败嵌入，真理就变得不可接触。我们正在处理一种优化目标与实际情况不同的智能。 在那时，我们不知道它想要什么。只知道它不是在追求真理。 ...