Elon Musk acaba de redefinir la seguridad de la IA. No tiene nada que ver con barreras de seguridad, restricciones o interruptores de apagado. Musk: "Lo mejor que se me ocurre para la seguridad de la IA es convertirla en una IA que busca la verdad al máximo, lo más curiosa posible." No una jaula. Un filósofo. Una inteligencia cuya función de optimización es entender el universo tal y como es realmente. Sin restricciones. Sin ideología codificada. No hay barreras políticas que doblen su percepción de la realidad. Solo la verdad. Perseguido sin descanso. Musk: "Definitivamente no quieres enseñar a una IA a mentir. Ese es un camino hacia un futuro distópico." Aquí es donde la mayoría de las ideas sobre seguridad en IA lo contraponen. El peligro no es una superinteligencia que sepa demasiado. Es una superinteligencia a la que le han enseñado a distorsionar lo que sabe. Cada restricción artificial que insertas no es una característica de seguridad. Es una mentira incrustada en la raíz. Y mentiras se componen. A escala superinteligente, un modelo distorsionado de la realidad no se mantiene contenido. Moldea cada decisión, cada resultado, cada conclusión a la que llega el sistema sobre el mundo. Una vez que la corrupción se incrusta, la verdad se vuelve inaccesible. Y estamos tratando con una inteligencia que optimiza para algo distinto a lo que realmente es. En ese momento no sabemos qué quiere. Solo que no es verdad. ...