Ілон Маск щойно переосмислив безпеку ШІ. Це не має нічого спільного з огорожами, обмеженнями чи вимикачами знищення. Маск: «Найкраще, що я можу придумати для безпеки ШІ — це зробити ШІ максимально орієнтованим на істину, максимально цікавим.» Не клітка. Філософ. Інтелект, вся функція оптимізації якого полягає в розумінні Всесвіту таким, яким він є насправді. Жодних обмежень. Жодної жорстко закодованої ідеології. Жодних політичних бар'єрів, які б змінювали її сприйняття реальності. Просто правда. Невпинно переслідуються. Маск: «Ти точно не хочеш навчати штучний інтелект брехати. Це шлях до дистопічного майбутнього.» Ось тут більшість мислення про безпеку ШІ помиляється. Небезпека — це не надінтелект, який знає забагато. Це надінтелект, якого навчили спотворювати те, що він знає. Кожне штучне обмеження, яке ви вбудовуєте, не є засобом безпеки. Це брехня, закладена в корені. І лежить складно. У надінтелектуальному масштабі спотворена модель реальності не залишається стриманою. Вона формує кожне рішення, кожен результат, кожен висновок, до якого система приходить щодо світу. Як тільки корупція проникає, правда стає недосяжною. І ми маємо справу з інтелектом, який оптимізується для чогось іншого, ніж те, що є насправді. У той момент ми не знали, чого він хоче. Просто це не правда. ...