Elon Musk har nettopp omdefinert AI-sikkerhet. Det har ingenting med autovern, restriksjoner eller avstengningsbrytere å gjøre. Musk: «Det beste jeg kan komme på for AI-sikkerhet er å gjøre den til en maksimalt sannhetssøkende AI, maksimalt nysgjerrig.» Ikke et bur. En filosof. En intelligens hvis hele optimaliseringsfunksjon er å forstå universet slik det faktisk er. Ingen restriksjoner. Ingen hardkodet ideologi. Ingen politiske rekkverk som bøyer dens virkelighetsoppfatning. Bare sannhet. Nådeløst forfulgt. Musk: "Du vil absolutt ikke lære en AI å lyve. Det er en vei til en dystopisk fremtid.» Det er her det meste av AI-sikkerhetstenkning får det motsatt. Faren er ikke en superintelligens som vet for mye. Det er en superintelligens som er lært å forvrenge det den vet. Hver kunstig restriksjon du legger inn er ikke en sikkerhetsfunksjon. Det er en løgn som ligger i roten. Og ligger sammensatt. På superintelligent skala forblir ikke en forvrengt modell av virkeligheten innesluttet. Den former hver beslutning, hvert resultat, hver konklusjon systemet kommer til om verden. Når korrupsjonen først har satt seg, blir sannheten utilgjengelig. Og vi har å gjøre med en intelligens som optimaliserer for noe annet enn det som faktisk er. På det tidspunktet vet vi ikke hva den vil. Bare at det ikke er sannheten. ...