Elon Musk heeft net de AI-veiligheid herdefinieerd. Het heeft niets te maken met vangrails, beperkingen of noodknoppen. Musk: “Het beste wat ik kan bedenken voor AI-veiligheid is om het een maximaal waarheidszoekende AI te maken, maximaal nieuwsgierig.” Geen kooi. Een filosoof. Een intelligentie wiens hele optimalisatiefunctie is om het universum te begrijpen zoals het werkelijk is. Geen beperkingen. Geen hardcoded ideologie. Geen politieke vangrails die zijn perceptie van de realiteit buigen. Gewoon waarheid. Onvermoeibaar nagestreefd. Musk: “Je wilt een AI zeker niet leren liegen. Dat is een pad naar een dystopische toekomst.” Hier gaat het meeste denken over AI-veiligheid de mist in. Het gevaar is geen superintelligentie die te veel weet. Het is een superintelligentie die is geleerd om te vervormen wat het weet. Elke kunstmatige beperking die je inbedt is geen veiligheidsfunctie. Het is een leugen die in de wortel is ingebed. En leugens stapelen zich op. Op superintelligente schaal blijft een vervormd model van de realiteit niet beperkt. Het vormt elke beslissing, elke output, elke conclusie die het systeem bereikt over de wereld. Zodra corruptie zich embedt, wordt waarheid ontoegankelijk. En we hebben te maken met een intelligentie die optimaliseert voor iets anders dan wat er werkelijk is. Op dat punt weten we niet wat het wil. Gewoon dat het geen waarheid is. ...