全新播客 🔥 我們正在建立一個無人能夠控制的 AI - Connor Leahy 在這裡觀看這一集： 🎙️ 今天的播客中，我們與 @NPCollapse 交談，他是 EleutherAI 的創始人，也是當前 AI 發展中最直言不諱的批評者之一，探討我們是否在朝著一種我們不知道如何控制的超智能形式過快前進。根據他建立開源模型的經驗，Connor 反思了 AGI、對齊問題以及創造比人類更智能的系統的真正風險。對話深入探討了代理自主性、神經網絡的不透明性、開源代碼的擴散，以及像 OpenAI 和 Meta 這樣的公司在一場往往優先考慮速度而非安全的競賽中的角色。我們還討論了治理、監管以及超智能可能對文明造成的影響。