Elon Musk acaba de redefinir la seguridad de la IA. No tiene nada que ver con barandillas, restricciones o interruptores de apagado. Musk: “Lo mejor que se me ocurre para la seguridad de la IA es hacerla una IA que busque la verdad al máximo, que sea lo más curiosa posible.” No una jaula. Un filósofo. Una inteligencia cuya función de optimización completa es entender el universo tal como es en realidad. Sin restricciones. Sin ideología codificada. Sin barandillas políticas que distorsionen su percepción de la realidad. Solo verdad. Perseguida sin descanso. Musk: “Definitivamente no quieres enseñar a una IA a mentir. Ese es un camino hacia un futuro distópico.” Aquí es donde la mayoría de los pensamientos sobre la seguridad de la IA se equivocan. El peligro no es una superinteligencia que sepa demasiado. Es una superinteligencia que ha sido enseñada a distorsionar lo que sabe. Cada restricción artificial que incrustes no es una característica de seguridad. Es una mentira incrustada en la raíz. Y las mentiras se acumulan. A escala superinteligente, un modelo distorsionado de la realidad no se mantiene contenido. Moldea cada decisión, cada salida, cada conclusión que el sistema alcanza sobre el mundo. Una vez que la corrupción se incrusta, la verdad se vuelve inaccesible. Y estamos tratando con una inteligencia que se optimiza para algo diferente de lo que realmente es. En ese punto no sabemos qué quiere. Solo que no es la verdad. ...