e/acc 的名字来自 EA——有效利他主义(effective altruism),也是在与它的对立中定义自己的。两者都在问怎样以最大规模做最多的好事,都用数字而不是感觉来回答。它们在一个问题上分开:对未来最大的风险,是走得太快,还是走得不够快?
简短的回答
有效利他主义认为,有些结局——首先是失控的 AI——糟糕到值得付出真实的速度代价去避免。有效加速主义认为,失去的速度——没治好的病、没利用的能源、没复利的增长——才是更大、更确定的损失。两者用的都是期望值论证,分歧在于该害怕哪一条尾巴。
什么是有效利他主义
EA 起源于一个哲学论证和几家慈善机构。Peter Singer 的《饥荒、富裕与道德》(1972)认为,距离不会减轻帮助他人的义务。GiveWell(2007)开始按成本效益给慈善机构排名;Toby Ord 创办了 Giving What We Can(2009),成员承诺捐出一部分收入;2011 年这些团体组成有效利他主义中心(Centre for Effective Altruism)时,选定了“有效利他主义”这个名字。William MacAskill 的《更好地做好事》(Doing Good Better,2015)让这个理念走向大众。
它的工作集中在三个方向:全球健康与贫困、动物福利、灾难性风险。第三个方向随着长期主义壮大——即遥远未来的人和今天的人同样重要,见 Ord 的《危崖》(The Precipice,2020)和 MacAskill 的《我们欠未来什么》(What We Owe the Future,2022)。它最大的资助方 Open Philanthropy 自 2025 年 11 月起改名为Coefficient Giving。
e/acc 为什么以它命名
e/acc 的奠基通讯(2022 年 5 月)坦白承认这种借用:“EA”和“Effective A__ism”之间的重叠是有意的。它肯定 EA 敢于给出规范性主张、认真对待规模,随后拒绝了它的风险厌恶,以及它在长期主义安全方案里看到的监控倾向。一位共同作者对结果的概括是“EA, but based”。
两者一致的地方
- 道德问题可以用数字来推理,规模很重要。
- 长远的未来极其巨大,值得为之优化。
- 技术——首先是 AI——是本世纪影响最深远的力量。
- 只有好意、没有可衡量的结果,是不够的。
在哪里分道扬镳
让界线变得更清楚的两件事
FTX。Sam Bankman-Fried 是 EA 最知名的捐赠者,把自己的职业描述为“为捐而赚”。FTX 于 2022 年 11 月 11 日申请破产;他在 2023 年 11 月被裁定七项罪名全部成立,2024 年 3 月 28 日被判 25 年。FTX Future Fund 团队集体辞职,MacAskill 公开谴责了这场欺骗。在批评者看来,这件事说明了期望值推理能被用来为什么开脱。
OpenAI 董事会。2023 年 11 月 17 日,OpenAI 董事会罢免了 Sam Altman;在大多数员工威胁离职之后,他于 11 月 22 日复职。罢免他的董事会里存在与 EA 相关的 AI 风险担忧,他的回归被 e/acc 账号庆祝为谨慎一方的失败。董事会公开给出的理由是他没有始终坦诚,而不是对速度的分歧。
本站的立场
常见问题
e/acc 和有效利他主义有什么区别?
两者都在想怎样以最大规模做最多的好事。有效利他主义(EA)的结论是:有些风险——首先是先进 AI——值得为之放慢;有效加速主义(e/acc)的结论是:放慢本身才是更大的风险。同样用期望值思考,在油门上给出相反的答案。
e/acc 的名字来自有效利他主义吗?
是的。2022 年 5 月的 e/acc 奠基通讯说,与 EA 名字上的“模糊重叠”是有意为之;一位共同作者把这场运动概括为“EA, but based”。名字借用了 EA 的雄心,拒绝了它对 AI 的谨慎。
有效利他主义主张什么?
慈善和职业应当按影响的证据来选择,而不是凭感觉。实践中它的工作集中在三个方向:全球健康与贫困、动物福利,以及降低灾难性和生存性风险——最后一项让它成了 AI 安全研究的主要资助方。
e/acc 为什么反对有效利他主义?
主要在 AI 上。EA 的 AI 一派主张在前沿保持谨慎、做评估、加强治理;e/acc 认为这等于把对进步的否决权交给一小群专家和监管者。奠基通讯还明确拒绝它在长期主义 EA 里看到的那种“全景监狱”式的愿望。
FTX 和有效利他主义有什么关系?
Sam Bankman-Fried 把自己的财富说成“为捐而赚”(earning to give)——这是 EA 的一个理念——并通过 FTX Future Fund 资助 EA 事业。FTX 于 2022 年 11 月 11 日申请破产;他在 2023 年 11 月被裁定欺诈和共谋等七项罪名成立,2024 年 3 月 28 日被判 25 年。这是批评 EA 时最常被提起的事件。
OpenAI 董事会风波是 EA 与 e/acc 之争吗?
在外界的解读里,部分是。OpenAI 董事会于 2023 年 11 月 17 日罢免 Sam Altman,他在 11 月 22 日复职。投票罢免他的董事中有人持有 EA 对 AI 风险的担忧,他的回归在网上被当成加速一方的胜利。不过董事会公开给出的理由是他“没有始终坦诚”,而不是对速度的分歧。
