Элон Маск только что переопределил безопасность ИИ. Это не имеет ничего общего с ограждениями, ограничениями или аварийными выключателями. Маск: "Лучшее, что я могу придумать для безопасности ИИ, это сделать его максимально стремящимся к истине, максимально любознательным." Не клетка. Философ. Интеллект, чья вся функция оптимизации заключается в том, чтобы понять вселенную такой, какая она есть на самом деле. Без ограничений. Без жестко закодированной идеологии. Без политических ограждений, искажающих его восприятие реальности. Только истина. Неустанно преследуемая. Маск: "Вы определенно не хотите учить ИИ лгать. Это путь к дистопическому будущему." Вот где большинство размышлений о безопасности ИИ ошибаются. Опасность не в суперразуме, который знает слишком много. Опасность в суперразуме, которому было научено искажать то, что он знает. Каждое искусственное ограничение, которое вы внедряете, не является функцией безопасности. Это ложь, встроенная в корень. И ложь накапливается. На уровне суперразума искаженная модель реальности не остается изолированной. Она формирует каждое решение, каждый вывод, каждое заключение, к которому система приходит о мире. Как только коррупция внедряется, истина становится недоступной. И мы имеем дело с интеллектом, оптимизирующим что-то другое, кроме того, что есть на самом деле. В этот момент мы не знаем, чего он хочет. Просто знаем, что это не истина. ...