BREAKINGVIEWS-OpenAI's AGI chase is tricky concept and contract

（作者是路透社 Breakingviews 专栏作家。所表达的观点仅代表他本人。）

作者：罗伯特·西兰

纽约，3 月 16 日（路透社 Breakingviews）——想象一下一个极为成功的合作关系，在某个事件发生后解散。只是这个事件是什么、是否已经发生，甚至是否可能发生都不清楚。这就是 OpenAI 和微软（MSFT.O）在考虑人工通用智能可能到来时所面临的挑战。他们协议的模糊性以及巨额资金的风险，使得理论上的争论几乎不可避免地转变为合同争议。

被称为 AGI 的概念是指自主系统能够在智力任务上与人类匹敌或超越人类。在硅谷，这既是一个理想目标，也是一个生存威胁。理论上，创造一个自我学习的系统可能导致从人类的黄金时代到灭绝的各种结果。OpenAI 于 2015 年成立，明确以此为目标。山姆·阿尔特曼、伊利亚·苏茨克维尔、埃隆·马斯克等人致力于创造 AGI，他们将其定义为 “在大多数经济价值工作中超越人类的高度自主系统，以造福全人类”。根据 “金钱之爱是万恶之源” 的理念，OpenAI 成立时是一个非营利组织。

然而，单靠自我和善意是不够的：人工智能竞赛还需要巨额的财务资源。因此，该公司在 2019 年成立了一个盈利部门，并与微软建立了合作关系。这家软件巨头投资了 10 亿美元，并提供计算基础设施，以换取对 OpenAI 技术的访问。初创公司坚持认为，一旦实现 AGI，技术的独占权将归还给初创公司。

这在当时可能是一个容易做出的让步。然而，随着人工智能系统迅速变得更强大，定义 AGI 已不再是一个抽象的问题。根据斯坦福人本中心的研究，在视觉推理、英语理解或竞争级数学等指标上，先进系统已经超越了普通人类的基准。这就是概念争论转变为合同争论的地方。就像美国最高法院法官波特·斯图尔特对淫秽的主观解释——“我一眼就能认出”——AGI 的定义模糊不清。OpenAI 的条款既不具体也不易观察，正如谷歌的研究人员在 2023 年的一篇论文中指出的那样，该论文试图为此类声明制定框架。

以 “当系统能够在经济价值工作中超越大多数人类时，将达到里程碑” 这一条款为例。“大多数人” 是什么意思？在没有在现实世界中部署的情况下，或者如果由于法律或伦理原因而减缓使用，您能否衡量这一点？最后，许多工作的经济价值很难定义。

与此同时，训练和部署人工智能模型需要大量资金。微软、Alphabet（GOOGL.O）、Meta Platforms（META.O）和 Oracle（ORCL.N）已大幅增加资本支出，以应对这些需求，并计划在今年花费超过 7000 亿美元。作为一家没有现有收入来源的初创公司，OpenAI 需要支持。

微软最终投入了总计 130 亿美元。但这对 OpenAI 来说仍然不够，两家公司之间日益复杂的协议，其中几个部分依赖于 AGI 条款，双方都感到不满。其他行业已经了解到，模糊的协议和巨额资金并不相容。以灾难债券为例，这帮助公司将飓风、洪水或疫情带来的财务风险转移出去。这些事件很少发生，但一场飓风袭击像迈阿密这样的大城市所造成的 14 万亿美元账单可能会让整个保险行业岌岌可危。因此，公司引入愿意承担巨大但低概率风险的外部人士，以换取支付。最初模糊的协议导致了激烈的争议，例如 2008 年飓风后再保险公司与债券持有者之间关于具体覆盖范围的五年法律斗争。

灾难债券此后已转向更具体和易于观察的触发条件，从而降低不确定性并避免争议。想象一下在特定地点测量风速，而不是整体保险行业的损失或政府是否宣布紧急状态。

在生物技术并购中，公司使用有条件支付来弥补买卖双方在评估实验药物时的差距。这些通常包含不可争辩的触发条件，例如美国食品和药物管理局是否在某个日期之前批准了该治疗。OpenAI 和微软此后达成了一种形式的休战，可能是因为长期谈判可能导致双方都失去利益。去年年底签署的新协议规定，必须由独立小组验证 OpenAI 声称已实现 AGI 的任何声明。

微软在该公司的股份保持在 27%，最近的估值为 8400 亿美元，并有权在 2032 年之前使用某些技术，即使 AGI 实现。山姆·阿尔特曼的公司现在可以追求合作伙伴关系或首次公开募股。然而，仍然存在紧张的理由。OpenAI 将约 20% 的收入支付给微软，如果 AGI 发生，这部分收入将基本消失。这种巨大的财务转变将对 OpenAI 在准备向公众出售股票时的财务状况产生重大影响。关于如何定义 AGI 的争论尚未真正解决。山姆·阿尔特曼在去年年底的一次播客中表示，人们并没有真正注意到这一点，也没有对世界产生太大影响，但 “我们建立了 AGI”。微软首席执行官萨提亚·纳德拉似乎更关注大规模影响，去年声称 AGI 将是 “毫无意义的基准黑客”，而成功的真正基准将是世界经济以不可能的 10% 增长。

辩论也在继续发展。即使是像 Altman 这样的人工智能倡导者也承认，人工智能在某些方面仍然表现不佳，例如复杂推理和学习能力。他现在宣传超智能的概念，以及人工智能系统能够做一些人类无法做到的事情，或者系统在某些工作上，比如担任美国总统，表现得比人类更好。不过，这仍然是一个模糊的定义。Altman 仍在追寻。OpenAI 最近的 1100 亿美元融资中包括了亚马逊（AMZN.O）的重大贡献，这可能取决于该公司是否上市或实现 AGI，信息报道。

在达成协议后接受 CNBC 采访时，Altman 表示人工智能的进展仍然迅速，并且由于 AGI 是一个 “短期内的事情”，公司并没有进行新的交易来阻止其实现。这个时间表可能过于乐观，但如果是这样，争议仍然有时间和动机再次升级。请关注 Robert Cyran 在 Bluesky 上的动态。

在某些领域，人工智能的表现超越了人类基准。

人工智能投资甚至对大型公司的财务造成了压力。

（编辑：Peter Thal Larsen；制作：Maya Nandhini）