“邪修”撑起史上最大IPO？
早在2004年，有效利他主义社群就开始讨论外观一种名为“连贯外推意志”的理论性AI对齐框架，该框架旨在设计AI去追求人们在理想的认识论和道德条件下会渴望的东西。彼得·蒂尔也正是这个时候开始接触有效利他主义，接着成为了他们的早期投资人。
2012年，哲学家尼克·博斯特罗姆为这项研究赋予的哲学背书。他指出在人类的社会里，智能和价值观是强关联的。也就是说，一个人越聪明，就越能理解什么事情值得追求，最终也越有可能作出符合道德的选择。但人工智能是“工具”发展而来的一项技术手段，这就意味着它追求的是面对既定目的，能够准确理解环境、预测结果、制定计划，并寻找更有效的实现方式。在这个过程里，意义观不是必需的。
此外，文艺复兴时期的英国哲学家大卫·休谟的理论也被有效利他主义者们频繁引用，即理性能够帮助我们认识事实、分析因果、选择手段，但理性本身未必足以产生行动的最终动机。
总之这些意义主张都清晰、具体地体现在了Anthropic的发展轨迹里，包括这次IPO之后的捐赠计划，包括之前和OpenAI共同亮相的“降速计划”。据说Anthropic、OpenAI等AI大厂的研究员们会定期飞往加勒比的某座小岛上聚会，他们会在那里讨论各种由人工智能化化引发的末日场景以及应对方案。Anthropic的天使布局人之一、那个币圈大佬萨姆·班克曼-弗里德曾经在社群中讨论过一项秘密计划，买下太平洋岛国瑙鲁，在那里建造一个末世避难所以应对“某种导致50%至99.99%的人死亡的灾难”。据说阿莫迪也参与了讨论，还和同事分享说“如果这项技术变得比人类更聪明，它就不会善待人类”。
这也就有了开头我描写的那一幕：在看到这些最前沿的研究人员们开始用脚投票后，人们开始认真地研究“有效利他主义”，并最终将他树立为一面旗帜。
彼得·蒂尔和有效利他主义的决裂，也最终爆发在AI真正成为“经济产业”的当下。他认为有效利他主义者们对AI可能造成的危险进行了复杂而细致的论证，但对于如何建立全球监管体系，以及放缓人工智能的进化可能带来的后果讨论仍然十分含糊。与此同时，他还指出，如果某个技术社群相信自己比外界更清楚什么事情会毁灭人类，那么它是否也会觉得，自己应该拥有超越一般商业机构的决策权？
至于什么敌基督、末世情节的指控，这个我就不再展开了，感兴趣的话可以锁定董师傅的直播间。这里我给出自己的一套归纳，这是工艺手段乐观主义者，对他眼中空想主义、精英式“自我感动”的一种挑战。他相信在现有的教育体制下，这些学者们、工艺精英们习惯了提前看到未来、享受着“超人”的特权，以至于对自身判断的确信程度，可能远远超过证据实际能够支持的程度。
在前不久的一期播客里，彼得·蒂尔说：“我为自己曾经以各种方式与这些人有关联、以及他们全都变得如此精神错乱和疯狂而感到羞耻”——这是多藐视的发言啊。
（彼得·蒂尔的最新表态，都在这期播客里）
既要又要，啥都别要
最后我想补充的一点是，在我看来有效利他主义的最大BUG不是他掀了资本主义的桌子，问题是桌子掀到一半，他又不得不回头向桌边的人借钱，并且非常彻底地利用资本主义的工具执行这一切：计算。
有效利他主义对资本主义的挑战其实相当尖锐。赛道习惯用售价、利润和投资回报率来分配资源，但人的生命、幸福和尊严，显然无法完全按照购买力来定价。按照彼得·辛格的逻辑，即便一个人通过合法途径积累了亿万财富，也不能仅凭财产属于自己，就免除对他人苦难的道德责任。这等于给私人财富增加了一层社会属性：你有权拥有财富，但你仍然需要回答，这些财富究竟为人类创造了多少作用？
可一旦进入实践，有效利他主义又表现出惊人的妥协性。早期有效利他主义曾鼓励年轻人进入华尔街赚取高薪，再将收入捐给慈善机构；它最有影响力的项目，往往依靠硅谷富豪和私人基金会提供资金；到了AI时代，研究者又试图通过这些资金作用技术手段路线乃至公共规定。资本的积累方式没有发生根本变化，资源配置的权力也没有真正转移，只是坐在桌边的人开始用全人类的福祉来解释自己的选择。
这就产生了一种奇怪的头手分离。它要求人们超越个人利益，却把实现这种超越的希望寄托在最有能力追求个人利益的群体身上；它强调所有人的道德意义平等，却仍然需要少数富豪与专家来决定，哪些人的痛苦更值得救助，哪些往后风险更值得投入。当讨论进一步延伸到尚未出生的数万亿人，这种决策权与代表权之间的距离就更大了。
这种拧巴总总让我想起“空想社会主义”：对一个更加公平、更加美好的社会有着宏大的想象，也看到了既有秩序的问题，却在实现路径上过于寄望于开明的有产者和少数社会精英的自觉。有效利他主义当然也尝试推动制度变革，但它最具辨识度的实践，仍然是在现有财富结构中寻找更有效的分配方式。
所以我对有效利他主义始终抱有一种复杂的感受。它提出的道德问题值得认真对待，甚至比许多资本主义的自我辩护更加诚实。但当它试图替全人类计算最优解时，又很容易忽略一个更加现实的议题：谁拥有参与计算和决定答案的权力？如果这一点始终没有改变，那么再宏大的利他主义，也可能最终成为精英资本主义的一套道德修辞。
本文由News整理发布，仅供参考。
