Nick Bostroms nieuwe paper: >Het ontwikkelen van superintelligentie is niet zoals het spelen van Russische roulette; het is meer zoals het ondergaan van risicovolle chirurgie voor een aandoening die anders dodelijk zal blijken te zijn. > Men zou even goed kunnen volhouden dat als niemand het bouwt, iedereen sterft. In feite zijn de meeste mensen al dood. De rest van ons is op koers om binnen een paar korte decennia te volgen. Voor veel individuen—zoals de ouderen en de ernstig zieken—is het einde veel dichterbij. Een deel van de belofte van superintelligentie is dat het deze toestand fundamenteel zou kunnen veranderen." >Langs één pad (het opgeven van superintelligentie) sterven elke dag 170.000 mensen aan ziekten, veroudering en andere tragedies. >De keuze die voor ons ligt, is daarom niet tussen een risicoloze basislijn en een risicovolle AI-onderneming. Het is tussen verschillende risicovolle trajecten, elk blootstellend aan een andere set van gevaren. >Stel je voor dat de ziekte van Alzheimer wordt genezen door de verloren neuronen in de hersenen van de patiënt opnieuw te laten groeien. Stel je voor dat kanker wordt behandeld met gerichte therapieën die elke tumorcel elimineren maar geen van de vreselijke bijwerkingen van de huidige chemotherapie veroorzaken. Stel je voor dat zieke gewrichten en verstopte aderen worden hersteld naar een onberispelijke jeugdige toestand. Deze scenario's worden realistisch en nabij met superintelligentie die onze wetenschap begeleidt. >We gaan ervan uit dat verjongingsgeneeskunde de sterftecijfers kan verlagen tot een constant niveau vergelijkbaar met dat van gezonde 20-jarigen in ontwikkelde landen, wat overeenkomt met een levensverwachting van ongeveer 1.400 jaar. >Het ontwikkelen van superintelligentie verhoogt onze resterende levensverwachting, mits de kans op door AI veroorzaakte vernietiging onder de 97% ligt.