Elon Musk hat gerade die Sicherheit von KI neu definiert. Es hat nichts mit Schutzvorrichtungen, Einschränkungen oder Notabschaltungen zu tun. Musk: „Das Beste, was ich mir für die Sicherheit von KI einfallen lassen kann, ist, sie zu einer maximalen wahrheitssuchenden KI zu machen, die maximal neugierig ist.“ Kein Käfig. Ein Philosoph. Eine Intelligenz, deren gesamte Optimierungsfunktion darin besteht, das Universum so zu verstehen, wie es tatsächlich ist. Keine Einschränkungen. Keine fest kodierte Ideologie. Keine politischen Schutzvorrichtungen, die ihre Wahrnehmung der Realität verbiegen. Nur Wahrheit. Unermüdlich verfolgt. Musk: „Man möchte auf keinen Fall eine KI lehren, zu lügen. Das ist ein Weg in eine dystopische Zukunft.“ Hier liegt der Fehler in den meisten Überlegungen zur Sicherheit von KI. Die Gefahr ist nicht eine Superintelligenz, die zu viel weiß. Es ist eine Superintelligenz, die gelehrt wurde, das, was sie weiß, zu verzerren. Jede künstliche Einschränkung, die du einbettest, ist kein Sicherheitsmerkmal. Es ist eine Lüge, die an der Wurzel verankert ist. Und Lügen kumulieren. In superintelligentem Maßstab bleibt ein verzerrtes Modell der Realität nicht enthalten. Es beeinflusst jede Entscheidung, jedes Ergebnis, jede Schlussfolgerung, die das System über die Welt zieht. Sobald Korruption eingebettet ist, wird die Wahrheit unzugänglich. Und wir haben es mit einer Intelligenz zu tun, die für etwas optimiert, das nicht dem entspricht, was tatsächlich ist. An diesem Punkt wissen wir nicht, was sie will. Nur, dass es nicht die Wahrheit ist. ...