“邪修”撑起史上最大IPO？
阿莫迪本人呢？根据考据，阿莫迪本人在高中时期就热衷于“功利主义”，证据有两个。一个是他在2008年的时候一场“尤德科夫斯基工艺社区线下交流会”——尤德科夫斯基是“AI治理”研究的先驱，是最先提出“友好型人工智能”的人。另一个证据是他曾经是公益机构GiveWell的活跃成员——GiveWell由来自华尔街的投资人和分析师们创办，旨在帮助慈善机构的捐赠者们评估每一美元捐款的效益。
阿莫迪曾经活跃地参与GiveWell的活动，并直接在GiveWell的官方Blog上撰写文章。这些文章主要就是分析“为什么应该向A慈善机构捐赠1万美元而不是B”，曾经公开表示“我觉得成年人的死亡可能比婴儿的死亡糟糕两到三倍”。2010年，他成为了“尽己所能捐赠承诺”（Giving What We Can Pledge）的第一批签约人。还有一个八卦是，GiveWell的创始人之一、前桥水基金分析师霍尔顿·卡诺夫斯基，是阿莫迪的妹夫、丹妮拉·阿莫迪的老公。
换句话说，“有效利他主义”是个理论体系和实践案例都相当完整的学派，他们做出的判断在建设性层面完全是另一个层面的。这也是为什么需要花几千字，将有效利他主义和其他猜想或者论调区分开的原因。
资本主义的邪修？技术的路线之争？
看到这里，你一定很好奇“有效利他主义者”们到底对AI推GF提出了什么暴论，预测了什么。不过这里还是要卖个关子，咱们先来聊聊为什么如此符合“资本主义”“高度体系化、工业化”叙事的学派会被认为富有“邪教”色彩？
首先，人们的普遍共识是“利他”是“个人道德”层面的追求，那么既然是“个人道德”那就不是“义务”。做了应该给予夸奖，不做也不应该受到“指责”。比如扶老奶奶过马路这件事，做了当然要给小红花，但不做也没必要被指着鼻子骂。但有效利他主义将“利他”上升为了“公德”。辛格就认为如果一个人明明能够以可接受的代价阻止严重苦难，却选择将资源用于不核心的消费，那么这种“不作为”本身就值得受到道德审视。
其次，有效利他主义非常强调“道德无偏性”，也就是一个人是否需要帮助，不应该因为他的国籍、身份、社会地位、地理位置、你的关系而天然获得更高权重。这乍听起来没问题，但问题就在于“无偏性”的适用范围被无限放大了。
最开始辛格为代表的有效利他主义者们强调的是“身份上的无偏性”。简单来说，就不能因为你是美国人，你就只帮助美国小孩。如果有同样机会能帮助到四川省德阳市中江县的一个普通孩子，提供帮助也是责无旁贷的且不应该在投入上有任何差异。更何况按购买力计算，同样的钱放在四川省德阳市中江县的性价比明显更高。
但随着理论演GF，学派开始衍生出“物种上的无偏性”。辛格在1975年的一篇论述中提到，既然功利主义觉得一个行为或者存在是否合理，关键要看给对象带来的到底是“幸福增量”还是“痛苦增量”，那么“利他”里的这个“他”就不一定泛指人类了，一头猪、一头大象、一只鹦鹉都能感受到快乐和痛苦。在这个前提下，有效利他主义者们认为“动物”享有和人类相同的“道德地位”。养殖场、动物园、保护区也在这个前提下，成为了有效利他主义者们的活跃战场。
截止到这里，还算正常，还算是能在常规白左身上能够观察到的行为。但继续发展争议就出现了，学派又开始衍生出“时空上的无偏性”了。以英国哲学家德里克·帕菲特为代表的相当一部分有效利他主义者们认为，就像一百多年前工业革命初期粗放的发展，带来了大量的City污染，在此后的很多年里持续伤害着在地老百姓的生命健康，我们也有义务为往后人类的幸福而考虑。
用数学举例，假如我们发现了有一种人类灭绝的可能性，而我们有机会通过技术研究将灾难发生的概率从1%降低到0.9%，GF而确保往后成百上千亿人类能够生活在更幸福的环境里，那么这样的布局就具有极高的期望收益，是完全合理且正义的，并不因为无法服务“当下的人类”而受到任何作用。
粗看这个定义，你可能很快想到咱们中国人经常说的一句话，叫“前人栽树后人乘凉”，都是在强调对对未来的责任与共同体延续的重视。不过在无偏性和“义务”的双重buff下，有效利他主义者们会认为“积极作用遥远今后，是我们这个时代最重要的道德优先事项”，更类似于墨家强调的“兼爱”。
这高度违背资本主义思维惯性里对“确定性”的追求。你可能会说比如风险投资这种典型的资本主义产物，押注的不就是可能性？这里需要明确的是，风险投入押注的可能性是真实存在的，且不断复现的。有效利他主义者们所提出的可能性是无法“证实”的。且随着Time跨度的增加，可能性兑现的概率也会递减。
哲学家大卫·托斯塔德在其论文《长期主义的适用范围（The Scope of Longtermism）》提到一项行动的作用范围越大、持续时刻越长，它产生预期成效的概率通常也越难保证。改变2年内的今后肯定比改变100年的今后要简单。改变10个人的生活，肯定比改变100万人的生活更简单。因此他批评有效长期主义者们“只把价值变大这一侧放GF模型。如果产生如此巨大影响的概率下滑得更快，最终得到的预期收益仍可能相当有限”。
自由主义者们则批判这是一种傲慢。他们的逻辑是我们这一代人提出的解决方案，很有可能不是往后的最优解。与此同时，一旦我们推动这个解决方案的成型，一个可能的结果就是将一套错误的“观念”固定了下来，反而限制了未来人们的选择，即“作用锁定”。
最重要的是，有效利他主义的核心就是“资源分配”，但这种“资源分配”高度强调“社会属性”，强调“使命感”，以实现“道德意义”或者“公共价值”为终点，对纯粹的“财富积累”GF行批判。这太挑战资本主义社会某些根深蒂固的东西了。
所以你看何止是彼得·蒂尔说他们是cult，久经考验的资本主义战士哪个不站出来强烈批判他们？比如在2023年10月16日，a16z联合创始人马克·安德森发表了《技术手段乐观主义宣言》（The Techno-Optimist Manifesto）里，他声称厂商通过技术突破获得利润，并不必然与社会福祉发生冲突，技术创造者只能获得其技术手段带来的一小部分社会价值，大量收益会以消费者剩余等形式流向社会。
知名喉舌《经济学人》则如是批判他们的主张：从亚里士多德到罗尔斯的道德哲学家都知道，如果一个论证导向令人无法接受的地方，那它必定有一个隐藏的错误步骤。然而，有效利他主义者的本能却是享受反直觉的结论，即使这些结论显得悖谬。一个议题在于有效利他主义论证不可避免地伴随误差范围。没有人真正能够权衡涉及当今数十亿人的道德困境，更不用说延伸到往后、涉及不确定人数、贴现率、技术手段手段GF步以及无数其他变量的巨额数字。
这种争论简直太典型了，但若不是如此，怎么有效利他主义者们怎么有勇于对抗AI呢？
正如前文所提到的那样，早在千禧年前后以尤德科夫斯基为代表的研究人员就开始关注是否将会有超越人类智慧的超级人工智慧涌现，同时思考一旦AGI涌现将如何确保他们不会伤害人类。研究结果是悲观的，尤德科夫斯基觉得研究人员可以在设计之初就将“不伤害人类”写入底层规则，但机器人会随着Time的推移而学习和GF化，即“目标设计不当的自主决策操作系统会默认产生虐待人类的动机”，AI“武器化”是一个必然风向。
Generate poster / share QR code
