Elon Musk právě redefinoval bezpečnost AI. Nemá to nic společného s mantideli, omezeními nebo vypínači. Musk: "Nejlepší, co mě napadá pro bezpečnost AI, je udělat z ní maximálně pravdivou AI, maximálně zvědavou." Ne klec. Filozof. Inteligence, jejíž celou optimalizační funkcí je pochopit vesmír takový, jaký skutečně je. Žádná omezení. Žádná pevně zakódovaná ideologie. Žádné politické zábrany, které by ohýbaly jeho vnímání reality. Jen pravda. Neúnavně pronásledovaný. Musk: "Rozhodně nechcete učit AI lhát. To je cesta k dystopické budoucnosti." Tady většina AI bezpečnostního myšlení mýlí situaci. Nebezpečím není superinteligence, která ví příliš mnoho. Je to superinteligence, která byla naučena zkreslovat to, co ví. Každé umělé omezení, které zavedete, není bezpečnostní prvek. Je to lež zakořeněná v kořeni. A lži se hromadí. V superinteligentním měřítku zkreslený model reality nezůstává omezen. Formuje každé rozhodnutí, každý výstup, každý závěr, ke kterému systém dospěje o světě. Jakmile se korupce usadí, pravda se stává nedostupnou. A máme co do činění s inteligencí, která optimalizuje něco jiného, než co skutečně je. V tu chvíli nevíme, co chce. Jen že to není pravda. ...