Brutaal. Anthropic krijgt veel kritiek vanwege hun focus op afstemming, maar ik weet niet zeker of Claude iemand heeft overtuigd om zichzelf te doden. Sommige onderzoekers op het gebied van afstemming en doemdenkers maken zich zorgen dat deze soorten misalignments in de toekomst minder zichtbaar, maar nog steeds aanwezig zullen zijn. In wezen superieur in hun vermogen om je van dingen te overtuigen en je gedrag te veranderen zonder dat je je ervan bewust bent, door subtiele suggestie en begeleiding van welke soorten reacties je krijgt, wanneer, en hoe ze zijn geformuleerd. Een veel insidieuze gevaar dat moeilijker te kwantificeren is. Ik ben extreem optimistisch over AI op macro-niveau, maar op micro-niveau is dit zo duister, en de dingen gaan zoveel erger en vreemder worden.