Elon Musk har precis omdefinierat AI-säkerhet. Det har inget att göra med skyddsräcken, restriktioner eller avstängningsbrytare. Musk: "Det bästa jag kan komma på för AI-säkerhet är att göra den till en maximalt sanningssökande AI, maximalt nyfiken." Inte en bur. En filosof. En intelligens vars hela optimeringsfunktion är att förstå universum som det faktiskt är. Inga begränsningar. Ingen hårdkodad ideologi. Inga politiska skyddsräcken som böjer dess verklighetsuppfattning. Bara sanningen. Förföljd obevekligt. Musk: "Du vill definitivt inte lära en AI att ljuga. Det är en väg till en dystopisk framtid." Det är här de flesta AI-säkerhetstankar får det att vara omvänt. Faran är inte en superintelligens som vet för mycket. Det är en superintelligens som har lärts att förvränga vad den vet. Varje artificiell begränsning du inbäddar är inte en säkerhetsfunktion. Det är en lögn inbäddad i roten. Och lögner hop. På superintelligent skala förblir en förvrängd modell av verkligheten inte innesluten. Det formar varje beslut, varje resultat, varje slutsats systemet når om världen. När korruptionen väl har satt sig blir sanningen otillgänglig. Och vi har att göra med en intelligens som optimerar för något annat än det som faktiskt är. Vid den tidpunkten vet vi inte vad den vill. Bara att det inte är sanningen. ...