Microsoft AI executives promise: If superintelligence threatens humanity, development will cease

美东时间 11 日周四，曾参与创立 DeepMind 的微软消费人工智能（AI）主管 Mustafa Suleyman 承诺，若超级智能对人类构成威胁，将立即停止相关开发工作。

Suleyman 目前致力于打造 “与人类利益相符” 的超级智能系统。他在周四的媒体采访中说：“我们不会继续开发有可能失控的系统。” 他认为这本应是行业共识，"但我认为这在目前的行业中算是一个新颖的立场。"

这一表态正值微软加速自主 AI 开发之际。去年 10 月的一项协议重塑了微软与 OpenAI 的关系，使微软获得了此前受限的开发权。Suleyman 于 11 月宣布成立 MAI 超级智能团队，明确将构建"仅为服务人类而设计"的实用技术。

Suleyman 的承诺凸显了科技巨头在追逐 AI 突破时面临的伦理考量。虽然 OpenAI、Anthropic 等竞争对手也声称有类似的目标，但 Suleyman 认为微软的立场是独特的。

微软在 AI 战略上的转折源于与 OpenAI 关系的调整。此前，微软因合同条款限制无法开发通用人工智能（AGI）或超级智能。前者指能力与人类相当的系统，后者则超越人类能力。

Suleyman 解释称，微软此前实质上放弃了这些开发权，以换取使用 OpenAI 最新产品的权限，并在多年间为 OpenAI 建设和配备数据中心。"他们现在与软银和 Oracle 等许多公司签订了协议，建造的数据中心数量超过了微软愿意为他们建造的，"Suleyman 表示，"作为回报，我们现在有权开发自己的 AI。"

这一转变对微软意义重大。他说：” 过去 18 个月我们一直是 AGI 开发机构，但现在我们可以研究一些有潜力在所有任务上超越人类表现的技术和方法。这对我们来说确实是一个转变。“

Suleyman 于 11 月在博客文章中宣布成立 MAI 超级智能团队，并亲自领导该项目。该团队将专注于医疗诊断、教育等领域的实际问题，而非"不明确且空灵的超级智能"。

该团队首个目标是开发在医疗诊断等特定领域能力远超人类的 AI。Suleyman 在博客中写道：“我们将在全方位诊断方面实现专家级表现，同时在临床运营环境中具备高度的规划和预测能力。"

这一举措呼应了 Meta 等竞争对手的类似努力，但也引发了业界对技术突破能力的质疑。Suleyman 强调微软"不会不惜一切代价、不设限制地构建超级智能"，回应了投资者对 AI 支出回报路径的日益担忧。

尽管畅谈超级智能愿景，Suleyman 坦承当前技术仍在发展中。类似 ChatGPT 的 AI 系统虽已能以十年前电脑无法实现的方式与人类互动，但距离满足消费者和企业期望仍有差距。

微软 Copilot 消费助手的智能代理功能"并非总是准确"，仍在开发阶段。"我们还在试验，"Suleyman 表示，"但当它真正奏效时，那是你见过的最神奇的事情。"

Suleyman 去年初加入微软，此前微软收购了他创立的 Inflection AI 的知识产权和大部分员工。微软此后还开始使用谷歌和 Anthropic 的模型，持续降低对 OpenAI 的依赖。目前微软持有 OpenAI 重组后的 1350 亿美元股权。