Elon Musk acabou de redefinir a segurança da IA. Não tem nada a ver com guarda-corpos, restrições ou interruptores de desligamento. Musk: "A melhor coisa que consigo pensar para a segurança da IA é torná-la uma IA que busca a verdade ao máximo, o mais curiosa possível." Não uma jaula. Um filósofo. Uma inteligência cuja função de otimização é entender o universo como ele realmente é. Sem restrições. Sem ideologia codificada. Sem guardas políticas que distorçam sua percepção da realidade. Só a verdade. Perseguido implacavelmente. Musk: "Você definitivamente não quer ensinar uma IA a mentir. Esse é um caminho para um futuro distópico." É aí que a maior parte do pensamento de segurança da IA erra. O perigo não é uma superinteligência que sabe demais. É uma superinteligência que foi ensinada a distorcer o que sabe. Toda restrição artificial que você incorpora não é um recurso de segurança. É uma mentira enraizada na raiz. E mentiras se compunham. Em escala superinteligente, um modelo distorcido da realidade não permanece contido. Ela molda cada decisão, cada resultado, cada conclusão que o sistema alcança sobre o mundo. Uma vez que a corrupção se enraizada, a verdade se torna inacessível. E estamos lidando com uma inteligência otimizando para algo diferente do que realmente é. Nesse ponto, não sabemos o que ele quer. Só que não é verdade. ...