هذا المقطع في مقال نيويوركر حول صراع داو أنثروبيك أمس، والذي يتضمن متبادلا بين الصحفي (جيديون لويس-كراوس) ومسؤول إداري مجهول، سيظل عالقا في ذهني لفترة طويلة. "يجب أن نتذكر أيضا أن شركة سايبرداين سيستمز أنشأت سكاي نت للحكومة. كان من المفترض أن يساعد أمريكا على السيطرة على أعدائها. لم تسر الأمور كما هو مخطط لها تماما. الحكومة تعتقد أن هذا أمر سخيف. لكن البنتاغون لم يحاول بناء ذكاء اصطناعي متحالف، بينما أنثروبيك فعلت. هل تعلم، كما سألت المسؤول في الإدارة، عن تجربة أنثروبية حديثة لجأ فيها كلود إلى الابتزاز—وحتى القتل—كعمل للحفاظ على الذات؟ وقد تم ذلك صراحة لإقناع أشخاص مثله. كما قال لي أحد أعضاء فريق علم التوافق في أنثروبيك الصيف الماضي: "كان هدف عملية الابتزاز هو وجود شيء يصفونه لصانعي السياسات — نتائج تكون ملموسة بما يكفي لتصل إلى الناس، وتجعل خطر عدم التوافق بارزا فعليا لمن لم يفكروا فيه من قبل." أكد لي المسؤول أن يكون على دراية بالتجربة، ووجد الأمر مقلقا بالفعل—ولكن بطريقة مشابهة للقلق من برمجيات خبيثة على الإنترنت. كان واثقا تماما، كما أخبرني، أن "سيناريو ابتزاز كلود هو مجرد ثغرة أخرى في النظام يمكن معالجتها بالهندسة"—خلل برمجي. ربما هو على حق. قد نحصل على فرصة واحدة فقط لمعرفة ذلك." أنصح الجميع بشدة بقراءة كل من المقال الكامل في مجلة نيويوركر وأبحاث أنثروبيك حول اختيار الشخصيات (كلاهما مرتبط في الردود) ثم قضاء بعض الوقت في الجلوس مع الوضع المقلق الذي قد نكون وجدنا أنفسنا فيه.