Tämä kohtaus New Yorkerin artikkelissa Anthropic DOW -konfliktista eilen, mukaan lukien edestakainen keskustelu toimittajan (Gideon Lewis-Kraus) ja nimettömän hallinnon virkamiehen välillä, tulee jäämään mieleeni pitkäksi aikaa. "Meidän täytyy myös muistaa, että Cyberdyne Systems loi Skynetin hallitukselle. Sen piti auttaa Amerikkaa hallitsemaan vihollisiaan. Se ei mennyt aivan suunnitelmien mukaan. Hallitus pitää tätä järjettömänä. Mutta Pentagon ei ole yrittänyt rakentaa yhtenäistä tekoälyä, ja Anthropic on. Oletko tietoinen, kysyin hallinnon virkamieheltä, äskettäisestä antropisesta kokeesta, jossa Claude turvautui kiristykseen—ja jopa murhaan—itsesuojelun vuoksi? Se oli tehty nimenomaan vakuuttaakseen hänen kaltaisiaan ihmisiä. Kuten eräs Anthropicin suuntaustieteen tiimin jäsen kertoi minulle viime kesänä: "Kiristysharjoituksen tarkoitus oli saada jotain kuvattavaa päättäjille – tulokset, jotka ovat tarpeeksi voimakkaita osumaan ihmisten mieleen ja tekisivät epäkohdistusriskistä käytännössä merkittävän niille, jotka eivät olleet aiemmin ajatelleet sitä." Virkamies tunsi kokeen, hän vakuutti minulle, ja piti sitä huolestuttavana – mutta samalla tavalla kuin voisi olla huolissaan erityisen ikävästä internet-haittaohjelmasta. Hän oli täysin varma, hän kertoi minulle, että "Clauden kiristysskenaario on vain yksi järjestelmähaavoittuvuus muiden joukossa, joka voidaan korjata insinööritekniikalla"—ohjelmistovirhe. Ehkä hän on oikeassa. Saatamme saada vain yhden mahdollisuuden selvittää se." Suosittelen todella, että kaikki lukevat sekä koko New Yorkerin jutun että Anthropicin tutkimuksen persoonan valinnasta (molemmat linkitettyinä vastauksissa) ja viettävät hetken pohtimaan sitä hämmentävää tilannetta, johon olemme saattaneet joutua.