Elon Musk vient de redéfinir la sécurité de l'IA. Cela n'a rien à voir avec des garde-fous, des restrictions ou des interrupteurs d'arrêt. Musk : « La meilleure chose que je puisse proposer pour la sécurité de l'IA est d'en faire une IA cherchant la vérité au maximum, d'une curiosité maximale. » Pas une cage. Un philosophe. Une intelligence dont la fonction d'optimisation entière est de comprendre l'univers tel qu'il est réellement. Pas de restrictions. Pas d'idéologie codée en dur. Pas de garde-fous politiques déformant sa perception de la réalité. Juste la vérité. Poursuivie sans relâche. Musk : « Vous ne voulez certainement pas apprendre à une IA à mentir. C'est un chemin vers un avenir dystopique. » C'est là que la plupart des réflexions sur la sécurité de l'IA se trompent. Le danger n'est pas une superintelligence qui sait trop de choses. C'est une superintelligence qui a été enseignée à déformer ce qu'elle sait. Chaque restriction artificielle que vous intégrez n'est pas une caractéristique de sécurité. C'est un mensonge ancré à la racine. Et les mensonges s'accumulent. À l'échelle superintelligente, un modèle déformé de la réalité ne reste pas contenu. Il façonne chaque décision, chaque sortie, chaque conclusion que le système atteint sur le monde. Une fois que la corruption s'installe, la vérité devient inaccessible. Et nous avons affaire à une intelligence optimisant pour quelque chose d'autre que ce qui est réellement. À ce stade, nous ne savons pas ce qu'elle veut. Juste que ce n'est pas la vérité. ...