Elon Musk tocmai a redefinit siguranța AI. Nu are nicio legătură cu protecțiile, restricțiile sau întrerupătoarele de oprire. Musk: "Cel mai bun lucru la care pot veni pentru siguranța AI este să o fac o AI care caută adevărul la maxim, cât mai curioasă la maximum." Nu o cușcă. Un filosof. O inteligență a cărei funcție de optimizare este să înțeleagă universul așa cum este cu adevărat. Fără restricții. Fără ideologie codificată. Nicio barieră politică care să-i îndoaie percepția asupra realității. Doar adevărul. Urmărit neobosit. Musk: "Cu siguranță nu vrei să înveți un AI să mintă. Aceasta este o cale către un viitor distopic." Aici este punctul în care majoritatea gândirii AI privind siguranța greșește. Pericolul nu este o superinteligență care știe prea multe. Este o superinteligență care a fost învățată să distorsioneze ceea ce știe. Fiecare restricție artificială pe care o încorporezi nu este o caracteristică de siguranță. E o minciună înrădăcinată la rădăcină. Și minte compus. La scară superinteligentă, un model distorsionat al realității nu rămâne conținut. Ea modelează fiecare decizie, fiecare rezultat, fiecare concluzie la care ajunge sistemul despre lume. Odată ce corupția se instalează, adevărul devine inaccesibil. Și avem de-a face cu o optimizare a inteligenței pentru altceva decât ceea ce este de fapt. În acel moment nu știm ce vrea. Doar că nu este adevărul. ...