【视频/观察者网 Kris】
你敢信？钢铁侠大战奥特曼的剧情，居然被搬进了现实。一时间，硅谷和好莱坞，我傻傻分不清楚。
话说硅谷钢铁侠，画饼艺术家马斯克，一纸诉状把OpenAI的总裁奥特曼告上法庭。原因？有人说了，同行之间不共戴天，马斯克是看到ChatGPT和Sora太火了，觉得自己钞能力受到威胁，才心态崩坏破防红温的，毕竟OpenAI在创始阶段，自己是砸了真金白银的，结果现在出成绩，全算人家的，不爽。
但马斯克自己却不这么看，他说奥特曼领导下的OpenAI，已经忘了初心，违背了创业时许下的诺言。是什么呢？让AI造福人类。如今你们卖身微软，迫不及待地发布新产品，不管它会带来什么危险，这可不就是钻进钱眼里了吗，哪里还把人类的整体福祉放在心上？
资料图：特斯拉CEO马斯克（左）和OpenAI首席执行官萨姆·奥尔特曼（图片来源：视觉中国）
听听，这是资本家该说的话吗？当年老马不是说，资本来到世间，从头到脚每个毛孔都滴着血和脏东西吗？怎么到你小马这，就成了人间良心了？这故事说来话长，而且包含了草莽起义、宗教外衣、兄弟背刺、宫廷政变、屠龙少年终成恶龙等诸多元素，堪称科技界的权力游戏。
马斯克用46页起诉书，把OpenAI的首席执行官奥特曼、总裁布洛克曼，以及一系列实体公司全部列为被告，但诉求不是说要他们赔我马斯克多少钱，而是把自己跟OpenAI的恩恩怨怨写出来，要求陪审团看着办。陪审团制度的核心在于，不是法官直接判，而是公民参与，所以马斯克要的是人们关注，社会舆论，把事搞大，越大越好。他是个愿意花440亿美元买推特的人，没有人比他更懂注意力的价值。问题是，一个科技前沿的案子，吸引人们关注，对他有什么好处？
要回答这个问题，先得从马斯克对AI的认识说起。尽管许多人都认为AI是威胁，但不同的人关注的层面不一样，比如基辛格主要是从战略安全的角度，认为政府应该像对待核武器一样，把AI牢牢攥在手里。马斯克就比较科幻了，他特别强调AI对于人类作为一个物种的存亡构成巨大威胁。
为什么这么说呢？因为美国正在从工业时代迈向数字时代，经济的基础从劳动力，变成了知识信息，就好像一个人他四肢越来越萎缩，大脑越来越膨胀，这样发展到一定程度，你突然发现，大脑还需要长在人身上吗？不需要啊，插电也挺好，让电脑发展人工智能。
人工智能分两种。一种就是只在某个领域很强，可以替代人类执行该领域的具体任务，但只能干这件事，强行跨界就显得像个人工智障。另一种则则是通用人工智能AGI，要在所有任务上都展现出超人的能力。前一种相对简单，90年代深蓝就打败了国际象棋冠军卡斯帕罗夫，而后一种就难了，要天文地理无一不晓，琴棋书画样样精通，那机器就得学习。
1997年5月11日，美国IBM公司研制的并行计算机“深蓝”击败了雄踞世界棋王宝座12年之久的卡斯帕罗夫（图片来源：新华网）
一开始大家觉得AGI不太可能出现，因为知识是无穷的，不能指望人工灌输，机器得学会怎么学，才能去学。这就是机器深度学习，算法从数据的低层特征中，提取更抽象的高层特征，迈向全自动数据分析，更像人自然的学习过程。如果这能做到，距离实现AGI就很近了。实现AGI马上对人类文明提出一个难题，既然机器可以学习，可以胜任人的工作，那人的存在还有什么价值？
有趣的是，天天说AI危险的恰恰是科技精英，但他们搞开发是一点没闲着，别人先做出来，人类可能就危险了，但如果我先做出来就没问题，就跟当年研制原子弹的逻辑是一样的。马斯克说千万不能让AI掌握在错误的人手里，否则它就成了谋私利的工具，而不是为全人类谋公益。说得很好，那谁是错误的人呢？除了我马斯克，在座各位都是错的，尤其谷歌错得最离谱。
为啥他对谷歌意见这么大？因为谷歌强。前几年围棋战胜李世石、柯洁的阿尔法狗还记得吧，就是谷歌的深度学习团队DeepMind开发的。发展到后来，已经不需要人类用棋谱去喂了，算法自己跟自己下，强化学习不断迭代，在没有围棋知识的情况下拿捏了围棋。既然围棋都能学好，各种复杂博弈它都能胜任。所以谷歌走在了前面，更重要的是，它还掌握着全世界最大的数据库。搜索视频地图邮件论文书籍，只要是人类数据化的信息，谷歌什么没有？硅谷众多科技公司里，谁最可能在AGI圣杯争夺战中胜出？马斯克认为是谷歌，所以他才反对嘛。
创意图：Google DeepMind（图片来源：IC photo）
反对谷歌的理由可以讲很多，比如谷歌作为大资本，是有原罪的，天然不被信任。因为既然你以营利为目标，那肯定是金钱至上，什么don't be evil不作恶，那只能是是嘴上说说，何况印裔CEO皮柴上来，座右铭已经换了，现在叫do the right thing。Anyway，马斯克、奥特曼、布洛克曼等一群人，为了防止谷歌这样的大资本染指并滥用AGI，就组成了OpenAI，有点类似指环王里面的护戒小队，来确保AGI这枚至尊魔戒不归于索伦。
当初，奥特曼向马斯克建议，成立一个非营利的AI实验室，抢在谷歌前面实现AGI，这样它就没法搞垄断，决定人类命运的技术，就可以掌握在全人类的手里。马斯克一听，兄弟你这想法好，跟我不谋而合！奥特曼手一摊，打钱。马斯克说，化缘没问题，但咱们约法三章，哦不，两章。第一，咱们的性质必须是非营利，不能追求*利润最大化。第二，必须得开源，不整什么商业专利，技术拿出来，让大家免费用。你们要是同意，我现在就打钱。于是2015年12月11日，OpenAI这支护戒小队就上路了。早期投资里面，马斯克的钱占大头。
从2015到2018，是OpenAI的创业阶段。这个阶段，马斯克算是OpenAI的核心，他虽然不搞技术，但真金白银砸钱养团队，出谋划策制定研究方向，并且还帮着招人，包括挖谷歌墙角，被称为天才的苏茨克维，AlphaGo论文作者之一，让他担任OpenAI首席科学家。这个人我待会还会说，他是个比较纯粹的人，没有什么权力欲，比起马斯克、奥特曼那种爱迪生式的人物，他反倒更像特斯拉。
OpenAI早期团队里，还有不少这样的情怀党，大家不是为了赚钱来的，因为谷歌这种豪门给AI研究人员开的薪资，堪比NFL明星四分卫，这是OpenAI远远比不上的，马斯克打钱也比不上。这群理想主义者聚到这里，很大一个原因就是为了让大资本没法为了牟利滥用AGI，这样它才能安全有效地为人类社会发挥好作用，是为有效利他。
有效利他Effective Altruism，是护戒小队当年的价值导向，也是深刻影响硅谷的意识形态，我甚至认为它就是一门宗教。
作为道德哲学运动，它起源于牛津大学哲学系，教主是副教授麦卡斯基尔。麦教主当年悟道时还在读博，琢磨怎么让大佬们做好事，才能使公益最大化。当时他给那种一个顶一万个的高影响力大佬起了个朴实无华的名字，Do gooder行善者，一听就弱爆了，几经魔改演化出了有效利他，这个闪耀着科学功利主义光芒的名号。马斯克算是自封的护法，说麦教主跟我心有灵犀，不点都通。另一位护法是钦定的，搞加密货币的班克曼-弗里德，因为交易所爆雷成了阶下囚，导致有效利他这几年声誉受损。但马斯克还是很高调，甚至进一步发展了教理，就是所谓的长期主义。这个我们待会再说，其实我属于为这点醋包了盘饺子，早就想聊这个话题了，看了很多资料。
回到我们的护戒小队，哪怕最初志同道合，2018年还是发生了变故，马斯克拍屁股走人了。至于原因，马斯克在起诉书中语焉不详，只强调自己还是很支持OpenAI，一直到2020年9月。这时发生了什么事呢？OpenAI卖身给了微软，一家比谷歌更财大气粗的公司。马斯克是否因此断供我不知道，但OpenAI这支为阻止商业巨头染指AGI而成立的反叛军，被另一家商业巨头招安了，略显讽刺。不过继续跟谷歌对着干，倒也算初心不改吧。
马斯克：这种决定（独家授权微软）似乎是与“开放”相悖的。实质上 OpenAI 已经被微软控制了（图片来源：推特截图）
非常有趣的一点是，OpenAI跟上门送钱的微软有个协定，独家授权仅限于非通用人工智能，比如GPT-3，而且还公开了很多技术细节，让其他人也能做出来这种模型，至于AGI，一旦研发成功，咱们的商业合作就得中断，OpenAI内部得重新讨论，再做决定。听起来这份协议如果真的执行下去，微软有点冤大头的意思，从它的立场出发，肯定希望长期绑定OpenAI，对外永远说AGI还没开发出来，实际上偷偷把新技术吃得死死的。
马斯克不是微软，所以他说，现在AGI已经被开发出来了，就是去年3月发布的GPT-4。它的推理能力比人类强，不光在某个特定领域，可以跨许多领域，比如以优异成绩通过律师执业考试，研究生入学考试，甚至资深侍酒师笔试。这一次，OpenAI没有像过去那样开源GPT-4的技术，而且还对一个叫做Q*模型取得的突破三缄其口。马斯克认为，当年的护戒小队今天已经拿到了至尊魔戒，但遮遮掩掩不肯承认，就是因为被资本腐蚀了，背弃了理想，一心只想挣钱。这跟我们当年反对的谷歌有什么区别？
所以他拿出了当年创业时的约定，起诉前同事。其实马斯克去年就开始酝酿这场官司了，去年GPT-4刚发布，他就找到奥特曼说，你忘记我们当初的约定了吗？奥特曼说我这不还没商业化吗，你有什么好眼红的，愿意的话你还可以重新入股，今后大家有钱一起挣，不好吗？
开玩笑，这点钱想收买我马斯克！我缺钱吗？我要的是一份承诺，对我，对人类的未来。于是马斯克起诉OpenAI。
如果听到这，你觉得马斯克是位先天下之忧而忧的圣徒，那你想多了，这只是他的一面之词，而他，是春秋掌管笔法的神。很多细节避而不谈，比如2018年为什么会离开？来，这些东西，就让奥特曼来告诉你。OpenAI官网公开了一系列内部邮件，还向法庭提交了文件，来反锤马斯克，说他的指控语无伦次，令人费解，我们跟他根本没有什么协议，他就是想借机窃取技术。
你马斯克口口声声说搞AI不能以营利为目的，怪我们变质了，忘本了，那当年是谁急吼吼地逼我们商业化？是你啊。别忘了你当初之所以离开，不就是因为商业化没成功，没遂你的愿，兄弟们没有卖身给你，你才退出的嘛？搁那装什么无辜？
原来，2015年这帮人草莽聚义的时候，对开发成本缺乏正确的认识，马斯克一句俺颇有家资，大家就把旗号打出去了，结果发现钱完全不够烧。马斯克说我掏一亿，不过咱们对外要吹十亿，否则十八路诸侯不拿我们当回事，天下英雄也不来投。但实际上，他只拿出来不到5000万，剩下是我们化缘化来的。
后来开发上道了，大家发现这玩意继续搞下去，真的要十亿，甚至可能每年十亿，因为AI的进步需要投入巨量的算力，而不是小作坊闷头搞算法，规模上不去，迟早被大玩家玩死，而OpenAI这个非营利机构，从性质上就注定没法上规模，原因很简单，做大做强需要外部投资，投资人一看你们把非营利写在脸上，摆明不追求*利益最大化，那我入股干嘛呢，我长得很慈善吗？
马斯克一看这么下去不行，就要求OpenAI组建一个营利实体，专门负责搞钱，由他来当头号搞钱官。搞钱我在行，所以我要集权，你们服从就行，同不同意？不同意我就断供。然后他说断真断，大家只能另外化缘，感到了一点资本震撼，但还是没有同意马斯克的提议。于是马斯克换了个提法，不玩空手道了，牵出自家的现金奶牛特斯拉，说你们并到特斯拉下面来吧，我宰消费者来养你们。可特斯拉毕竟是马家的资产，OpenAI寄人篱下，岂不还是得听他的话，所以大家又没谈拢。这次马斯克就拍屁股走人了，说不陪你们玩了，我要去搞特斯拉AI，你们这群喽啰，等不来招安，傍不上大款，趁早散伙吧。
奥特曼还爆料说，马斯克老在开源上做文章，说OpenAI起这个名字就是要open source，让大家技术共享。但其实OpenAI的首席科学家苏茨克维早就跟你说过，开源这条路不可行，太不安全，研究成果可以公开让大家免费用，但模型背后的科学原理不能开源，否则天下大乱，不知几人称帝几人称王，而这是你马斯克在邮件里明确承认的，怎么今天在大众面前装糊涂呢？唉，一个当初我们敬重的人，激励我们奋斗的人，如今看到我们取得一点点成绩，就来背刺，真是可悲啊。
马斯克发推文声称：“OpenAI最初是作为一个开源非盈利机构来抗衡谷歌，我才将其命名为‘Open’AI，但现在他们却变成了一家封闭的、追求最大利润的、被微软有效控制的企业。这完全和我的初衷相悖。”（图片来源：推特截图）
马斯克离开之后，另立门户搞了个xAI，做的聊天机器人叫GrokAI，成了OpenAI的竞争对手，还宣布自己反正会开源，把压力给到奥特曼这边。他想让OpenAI开放前面提到的Q*。Q*是OpenAI取得的重大突破，他们内部邮件里承认它是超越人类的自主系统，但多的没说。外界只能根据各种蛛丝马迹猜测，它结合了搜索寻路的A*和强化学习的Q-learning，可以快速求解，省掉大量被浪费的算力，也就更接近AGI，而这个125万亿参数的模型，可能是一只耗电量超过小城镇的怪兽。
马斯克最头疼的，无疑是这样的技术，可能最终落在微软手里。微软何许人也，市值3万亿美元的头号资本巨兽，是谷歌的1.8倍，特斯拉的5倍，他家现金奶牛就算挤爆了，也就只够洒洒水。所以他当然希望逼OpenAI开放Q*，总之不能落在微软手里。所以他的诉讼看似针对奥特曼，其实是跟微软过不去。
怎么阻击微软呢？前面说了，微软入局时签了份协议，一旦OpenAI董事会认为自己开发出了AGI，那么就要给微软技术断供，直到董事会重新商议决定。如果AI真的像马斯克、奥特曼等人当初说的那样，会对人类存在构成根本性威胁，那么OpenAI的董事会可以说掌握着人类命运的钥匙。
好，那OpenAI的董事会干了什么呢？如果你关注AI，一定记得去年年底的大新闻，OpenAI的宫廷政变。董事会突然宣布解雇CEO奥特曼，结果员工造反了，联名写公开信，要求解散董事会，让奥特曼回归，*新董事会，否则将跟奥特曼一起集体跳槽去微软。诉求如此具体，背后谁在推动，用脚也能想出来。后来的事大家也知道，奥特曼如闪电般归来，给董事会大换血。
开除奥特曼的董事会有六个人，除了创始人奥特曼和布洛克曼，另外几个应该是逼宫的执行者，AI智库研究员海伦·透纳、兰德公司科学家塔莎·麦考利，Quora创始人亚当·德安吉罗，以及整件事核心，OpenAI的灵魂人物、首席科学家苏茨克维。奥特曼回归后，旧董事会被砍到只剩德安吉罗，他应该是个摇摆票。奥特曼引入了另外两人，一个是业内人士布雷特·泰勒，这是应员工要求，另一个就奇怪了，是美国前财长、哈佛前校长、众多企业的董事和顾问拉里·萨默斯。然后今年三八节董事会又引入三位女性，再加奥特曼自己，扩容到七位。
旧董事会和新董事会比较，最明显的区别是，旧董事会有很深的非营利色彩，意识形态方面属于有效利他主义，以其道德原则来指导非营利组织的运作；而新董事会成员高度精英化，几乎全都有很深的政商背景，看他们的关联人物都是一个个熟悉的姓名，什么盖茨夫妇、克林顿夫妇、爱泼斯坦。
其中尤其萨默斯的争议最大，08年金融危机的锅很大一部分得他来背，美国现在这个舆论氛围，顶级公共知识分子最遭人唾弃。有网友毒舌评论，萨默斯是那种坚定不移站在人民对立面的精英，AI落到这种人手上基本完蛋，不过还好他只是第二糟糕的选择，因为最糟糕的人选基辛格已经死了。为什么OpenAI找这帮人呢？我个人的理解是OpenAI想打通节点，获得资源，快速前进，就要摆脱一切拖后腿的因素，甚至忽略某些安全风险。
美国前财政部长萨默斯（图片来源：IC photo）
其实直到现在，OpenAI宫斗的缘由仍然秘而不宣。表面的理由是旧董事会认为奥特曼不坦诚。不坦诚可大可小，到底啥意思？《纽约时报》最近引用匿名消息源，有人认为就是透纳和麦考利，说奥特曼的领导风格有问题，太爱玩弄权术，喜欢PUA，操控欲太强，导致高层集体反感。真的吗？这么多年都共事下来了，咋突然就忍不了了呢？是不是还有其他事不坦诚？
确实，他以个人名义瞒着董事会跟微软合伙搞了个风投基金，叫OpenAI Statup fund，名字虽然这么起，但架构跟OpenAI毫无关系。为什么要跟微软搞暧昧？我倾向于猜测，OpenAI的旧董事会在某种新技术的认定上产生了分歧，涉及到内部表决要不要继续跟微软合作。奥特曼应该是希望继续的一派，另一派可能希望停下来，微软当然支持奥特曼，于是帮他复辟。
这种猜测是有迹可循的，就在政变前夕，OpenAI的研究人员向董事会发出警示，说发现了可能威胁人类的AI，对它的威力苏茨克维有深刻的认识，这恐怕才是他率领董事会解雇奥特曼的真实原因。苏茨克维作为神经网络专家，他和他的老师深度学习之父杰弗里·辛顿近年来都不断强调AI安全风险，可能不受人类控制，导致利益冲突，所以他特别提倡超级对齐，就是确保AI必须遵照人类的价值观和目标来行动。他到底看到了什么技术突破，又认为这项意味着什么，为什么不安全呢？现在没人知道，因为苏茨克维神秘消失了。
外界只能猜，也许这个东西就是Q*。
如果一个技术有50%的可能造福人类，50%的可能为祸世间，要不要把它做出来？如果90%的概率是好事，但10%的概率是你直接咩了，做不做？我们应不应该执行那个计算出来的、效用最大化的选择呢。有效利他主义者会告诉你，如果计算本身足够科学理性就没问题，就等于是从人类整体福祉出发构建道德伦理基础。然而什么才是人类整体呢？换个通俗的问法，什么人才算人，不要笑这个问题幼稚，世间万般冲突的肇始，几乎都是不把某些人当人。具体到这个问题上，我们应该追求谁的效用最大化，是今天地球上生活呼吸的人，还是未来实现星际穿越的文明体里面，那些跟我们在解剖结构上有一定相似性的物种？
电影《银翼*手》反派Roy雨中落泪，这一刻他不再只是个仿生人（图片来源：视频截图）
有效利他主义起源的时候，讲的是运用理性，去辨识最行之有效的方法，改善世界造福人类。马斯克信奉的教理属于有效利他下面的一个分支，叫长期主义，主张积极影响塑造遥远的未来，以它作为当前人类道德优先级最高的任务，也就是说未来人类可能殖民宇宙，实现极大的繁荣，那么我们今天就应该用尽全力奔赴星辰大海，去扩张探索，比如跟着我移民火星，这样做是在保存人类文明的火种。把这个逻辑推到极致，就是醇正的社达牌法西斯，因为社会资源应该全部流向那些火种的携带者的辨认与培养，谁更有机会成功发达，就应该给他们赋能，显然是社会的精英阶层，至于底层，千万不要浪费资源去拯救那些注定要被淘汰的废物。这才是着眼长期的有效之利他。
当然任何逻辑走到极端都是荒谬的，长期主义并没有这么极端，至少在关乎生死存亡的问题上，它是非常厌恶风险的，因为稍有不慎未来就没有人类了嘛。所以马斯克主张以高度谨慎的态度发展AGI，让它符合数字时代新精英阶层的长远利益。但意识形态总是无限可分，长期主义又在硅谷这个技术与资本交媾的温床上，孕育出了新的有效加速主义，其根本假设在于资本和技术都不是中性的，而是良性的，可以自动纠偏的，所以没必要因为风险而束缚手脚，而应该不惜一切代价调动资本，追求技术进步，因为进步就是一切问题的答案，就是人类最大的福祉。是不是有点耳熟，国内我也听过这样的声音。
其实我写这篇文章，不是为了讲述一场权力的游戏，而是为了揭开它背后的宗教思想，我就对这种东西感兴趣，哪怕看《权游》也关注里面的旧神七神红神淹神千面神之间的张力，不是说神仙打架，而是精神信仰对于人的影响。
你去听许多硅谷大牛关于AI的讲话，描绘一种乌托邦式的彼岸，让你脱离愚痴，获得圆满的智慧，脑机合一，成为新造的人，甚至通过上传记忆到云端a.k.a天堂，在某种程度上让人实现不朽。你告诉我，这跟宗教有什么区别？通过算法给人分配确定性的AI，跟神有什么区别？而努力迎接某种终极形态的到来，跟基督教末世论eschatology有什么区别？
为什么会有这种异曲同工？因为技术和宗教在西方文明的基因里就密不可分，前者是后者的实践手段。西方为什么崇尚我们所谓的奇技淫巧？这不是偶然，而是因为在西方经院的宗教道德观里，它们不奇不淫，恰恰才是正道。原因我以前在《魔戒》那期讲过，基督教根本的世界观认为人源于堕落，亚当夏娃失乐园，脱离了神的恩典，从造物主完美的创造，变成了俗不可耐的酒囊饭袋。人要怎么回归原初的状态呢？神学家告诉你，ora et labora，得劳动，造东西，造得越多，就越接近造物者的样子，通过创造来与神重建连接，重新成为“原人”。造东西就要用技术，所以科技原人，启动！跟很多人想象不一样，中世纪的西方最强调技术赋能的，竟然是教会，堪称黑暗时代的硅谷。它不断改良技术的出发点，不同于后来的资本逐利，而是追求道德至善，从而在精神上超越凡俗，获得救赎。
如果一门技术意味着巨大的不确定性，可能带来灾难，为什么还要如此决绝地追求它？因为在带来灾难的同时，它还可能帮助人类实现最崇高的目标——获得救赎。所以错的不是追求，而是技术本身不够好，因此科学与炼金术之间的关系，并非水火不容，而是版本更替，用弗朗西斯培根的话来说，都是为了追求造物者的荣光。新版本技术摆在面前，可以不用吗？在这种世界观里，未来实在太诱惑，因为末世只会淘汰非信徒，而对于信徒来说，末世意味着人间天国即将降临，而那时被提的人，已经是与技术融为一体，具有超凡意识与智慧的新物种，或许这便是长期主义所设定的人类文明的主体。
电影《奥本海默》剧照（图片来源：IC photo）
《三体》里讲了，如果整个人类世界都是偶然的幸运，我们还能指望靠这种幸运走多远？马斯克们认为，如果穷途末路必然到来，我们只能全员押宝在科技上，借助它完成自我演化，朝美丽新世界勇往直前，决不能止步，因为停滞就是自绝于未来。其实马斯克也好，奥特曼也罢，甚至他们的各路朋友和对手们，大家真正的分歧在于，谁是真先知，谁是伪先知，谁有资格引领人类，走向遥远的应许之地？答案不言而喻，就是第一个把AGI做出来，向世界展示神迹的人。
于是一场狂热的军备竞赛在所难免，参赛选手只关心结果，不关心的缘由，谁应许了什么，为什么要往前走，科技进步能通往道德的进步吗，进步是唯一的善吗，是人类唯一的目标吗，这条路除了成神还通往何方？难道人活着这件事本身，做一个酒囊饭袋所带来的joie de vivre，是没有意义的吗？生命这样的旅程，我渴求你的微笑来完整，你能为我打开自由的门，牵起手吧，新造的人。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
