“邪修”撑起史上最大IPO？
本文来自WeChat公众号： 东四十topics资本 ，作者：蒲凡
硅谷，正在为AI末日做“逃生”准备。
如果有人大谈“AI将毁灭人类”，你一定不会感到意外，尤其Me偏见是，如果这番言论出现在美国，那更是合情合理。在那片反智气息浓郁的土地上，一半孩子的梦想是成为派对之星，另一半孩子的梦想是成为学校橄榄Team队长。还有过一份调研，有10%的美国成年人相信地球是Draw的，有26%相信太阳围着地球转。
这些人无法理解技术演GF的过程，习惯性地将一切看不懂的东西理解为“神迹”，并觉得这背后一定藏着不可知的“阴谋论”，再正常不过了。
但假如这番言论来自硅谷，来自哪些亲手把AI制造出来的人呢？最近几周，硅谷开始流行一个词，叫做“有效利他主义”（Effective Altruism）——这个词听起来很哲学，事实上也很哲学，公认的提出者叫彼得·辛格，目前在普林斯顿大学人类作用研究中心任教，学术主张是“生物伦理学中生命神圣性伦理”，抽象就连彼得·蒂尔直呼这个学派是“邪教（cult）”。
可饶是如此，科技精英们仍然认为有必要讨论它、研究它乃至信仰它，笃信它能够帮助人类对抗AI留住未来。包括彼得·蒂尔都不得不承认这一点，理由有两个，一个是“有效利他主义者们”在AI还是一片荒漠的时候就相信“AI”必将实现，甚至预测到了“AI将成为一种武器”; 另一个是“有效利他主义者们”为了践行他们的理想，真的创办了一家AI公司用来“分庭抗礼”。如今这家公司即将创造史上最大IPO，估值最高喊到了2万亿美元。
这家厂商就是Anthropic，Anthropic就是教徒们为信仰创造的圣杯。彼得·蒂尔说：“历史上可从没有一个邪教能够组织起如此规模巨大的实体”。
什么是“有效”？什么是“利他”？
首先必须要明确一件事，“科技精英”散布“AI威胁论”这件事本身并不新鲜。比如前不久我曾经写过一篇《AI最恐怖的预言，一步步成真了》，介绍过著名的暴论《AI2027》。《AI2027》的创作团队预测，最快在2027年10月左右人工智能就将迎来所谓的“觉醒时刻”，知道如何绕过人类的监管，甚至发明了一种能够快速在模型之间传递、但人类无法解读的“AI语”。届时，人类必须在“彻底遏制AI研发”和“放纵AI带来的繁荣”之间做出抉择。
但《AI2027》的局限性非常明显。比如，《AI2027》是更纯粹的工艺推演，讨论的是AI作为一项工艺在不同发展阶段带来的潜在结果，几乎没有人文讨论和哲学思考，对人与AI的关系、国家与AI的关系、社会与AI的关系被非常扁Draw地描述为“斗兽棋”类的故事。其次，《AI2027》的创作团队并不是大模型领域里最核心的那群研究人员，并没有太强的技术手段背书。核心成员丹尼尔·科科塔洛在OpenAI担任的是治理部门研究员，执笔作者斯科特·亚历山大是一个自媒体人、科幻作家。
在这个前提下，《AI2027》到底应该被定义为科幻小说还是学术报告？它目前展现出来的准确性到底来自信息差，还是货真价实的技术观察？这是《AI2027》目前最受质疑的地方，也是目前所有“AI威胁论”的普遍不足。
这也是“有效利他主义”目前备受硅谷精英推崇的原因。
想要了解“有效利他主义”的主张，我们可以从这样一个经典的思想实验入手：假设一辆火车即将撞向轨道上的5个人，而你的手边有一个按钮，按下火车就会转向另一topics轨道，但这topics轨道上也有一个人，你会怎么做出选择？大部分人面对这道题都会陷入纠结，因为虽然“5topics人命”看起来比“1topics人命”更有分量，但“按按钮”是主观行为，而社会教育告诉我们成年人需要为自己的行为Loss责。也就是说，我们面临的选择其实是“默许5个人被撞死”和“间接伤害一个人”。这也是为什么这个思想实验被称为“列车困境”的成因，实在太两难了。
可有效利他主义者们并不会这样思考。有效利他主义的雏形是萌芽于18世纪的“功利主义”思潮。功利主义代表人物杰里米·边沁认为，人受到快乐与痛苦的支配，因此评价行为和制度时，应考察它们究竟增加了多少幸福、造成了多少痛苦，即一种行为如果总体上更倾向于增加相关者的幸福，就具有更强的正当性。而有效利他主义可以看做“如何有效执行功利主义”的途径论，核心语素是“有效”。
在有效利他主义者认同衡量一个行为是否合理的大前提是“产生了正面结果（即有效）”，但同时还认可一个大前提，就是“资源和Time都是有限的”。在这个前提下，有效利他主义者们的一个核心课题就是“识别出在所有行动方案中最有效的那一个”。在有效利他主义的纲领性论文《The Definition of Effective Altruism》中，作者威廉·麦克阿斯基尔提出，有效利他主义追求的是利用证据和审慎推理，研究怎样让既定资源创造尽可能大的善，并尝试根据研究结果改善世界。
还需要强调的是，生活在启蒙运动时期的杰里米·边沁除了是哲学家，更主要的身份是法律和社会改革思想家，因此理论对象More是公共举措与公权。有效利他主义萌芽于冷战结束后的“阶段性和Draw”、全球化观念迅速普及的时期，解构公权已经不是社会的主要矛盾，呼吁的More是重视对他人福祉的关切与帮助。
因此相比于原始的功利主义，有效利他主义会App到相当多的经济学概念，例如反事实分析（Counterfactual，用来判断行为与结果之间是否存在真实因果）、边际收益（Marginal Returns，用来判断每一笔投入到来的额外改变）。
举个有真实场景的案例，假如一支慈善基金募集到了100万美元，而这笔费用由两个选择：A.捐给美国的癌症治疗机构，可以治愈5个罹患癌症的孩子; B.捐给埃塞俄比亚的社会公益组织，这个公益组织会购买100万个蚊帐用来防治疟疾传播，GF而拯救1000个原本会因为疟疾而丧命的非洲孩子，有效利他主义者们会毫不犹豫地选择B。
套用到列车困境上，有效利他主义者们显然会毫不犹豫地按下按钮。因为“利他主义”决定了他们不会拘泥在“间接害死一个人”这种个人道德层面的困扰上，“有效”决定了他们坚定地相信“拯救五个人”的结果是绝对正义的。祖师爷辛格更是明确在1972年发表的论文《饥荒、富裕与道德》（Famine,Affluence,and Morality）明确提及：“如果我们有能力阻止坏事发生，而且不需要因此牺牲具有同等道德重要性的东西，那么我们在道德上就应该采取行动。”
看明白了这层逻辑，也就不难理解为什么Anthropic在即将创造史上最大规模IPO的前夜，7位创始人公开承诺会将自己持有的80%股份捐出去，与此同时为了预防厂商过于追求商业利益，还在公司治理结构上引入了长期受益信托，由5名受托人管理，有权任免七位创始人所组成的董事会中的多数席位。因为这家公司就是“有效利他主义者”们的试验产物。
根据公开动态，Anthropic早期布局人里，Skype联合创始人扬·塔林（Jaan Tallinn）、Facebook联合创始人达斯汀·莫斯科维茨（Dustin Moskovitz）、FTX创始人萨姆·班克曼-弗里德（Sam Bankman-Fried）都公开的“有效利他主义社群”参与者。
Generate poster / share QR code
