Reducing 'AI Costs' Is the Trend! Meta to Develop 'Model Routing' to Replicate OpenRouter

华尔街见闻
2026.07.22 00:48

据报道,为降低 AI 推理成本,Meta 正复刻 OpenRouter,开发模型路由工具 Switchboard。其核心是通过评估任务难度,将简单请求分流至廉价小模型,避免大模型算力浪费。该工具不仅用于内部降本,未来或对外发布,成为 Meta 开辟新收入来源的尝试。

在 AI 基础设施支出持续膨胀的压力下,Meta 正试图从内部寻找降本之道。

7 月 21 日,据科技媒体 The Information 报道,Meta 内部 AI 孵化器 AAI Labs 正在开发一款名为"Switchboard"的 AI 模型路由工具,其核心逻辑与 OpenRouter 的 Auto Router 产品高度相似——通过对任务难度评分,将简单请求分流至更廉价的小模型,从而降低整体推理成本。

Switchboard 目前仍处于早期阶段,能否最终落地尚不确定。但据 The Information 获得的内部文件显示,Meta 团队已明确提出两条潜在路径:一是在公司内部部署以压缩成本,二是面向大规模运行 AI 编程智能体的外部组织公开发布。

分析指出,这意味着该工具不仅是一项降本举措,也可能成为 Meta 在 AI 工具市场开辟新收入来源的尝试。

另据报道称,这一项目的提出,直接指向该公司当前面临的一个现实痛点:为每一个编程请求支付顶级模型的价格,包括那些本可由小模型轻松处理的简单任务。

直指痛点:推理成本是规模化部署的最大障碍

报道称,Switchboard 项目的立项逻辑,在内部文件中被表述得相当直白:"我们为每一个编程请求支付顶级模型的价格,包括那些简单的请求。"

文件进一步指出,大多数编程智能体任务完全可以由较小的模型处理,只有少数任务才真正需要前沿大模型的能力。然而现状是"所有请求都发往同一个模型,导致简单任务上的过度支出,或在复杂任务上表现不足"。

文件明确将推理成本定性为在公司内部更广泛部署智能体的"首要障碍",并直言:"成本是限制我们大规模运行智能体的关键因素。"

这一表述与 Meta 近期在 AI 支出管控上的一系列动作相互印证。据 The Information 此前报道,Meta 今年 6 月曾通知员工,将在鼓励全公司更广泛采用 AI 工具仅数周后,开始对 AI token 用量设置上限,同时构建内部平台以追踪 AI 支出并执行 token 预算。

值得注意的是,Switchboard 项目隶属于 Meta 旗下的 AAI Labs,这是 Meta Applied AI Engineering 团队下设的内部孵化机构,于今年 3 月正式成立。据 The Information 审阅的内部文件,该机制允许员工提交 AI 产品和服务提案,通过审批后由小团队负责构建,并有机会对外公开发布。

截至今年 7 月,AAI Labs 已累计批准约 200 个项目,涵盖消费者产品、开发者工具和内部基础设施三大方向。Switchboard 正是其中之一。

这一机制折射出 Meta CEO 扎克伯格的更宏观战略构想——借助 AI 让小团队快速构建产品。扎克伯格今年 4 月曾对分析师表示,AI 智能体意味着"小团队可以取得非常快速的进展",并预测这项技术将推动"大量创新"。他还表示,Meta 可能打造多达 50 款新应用。

模型路由赛道:OpenRouter 之外,巨头纷纷入局

Switchboard 所瞄准的模型路由赛道,正在吸引越来越多的关注。

OpenRouter 凭借帮助开发者以更低成本访问多种 AI 模型,已在开发者群体中积累起相当人气。据 The Information 上周报道,OpenRouter 已与一家规模更大的科技公司就潜在收购事宜展开讨论,相关交易可能将其估值推升数十亿美元——该公司今年 4 月的估值为 13 亿美元。

模型路由概念在更广泛范围内引发关注,源于 OpenAI 发布 GPT-5 时内置的路由功能——该功能可在用户提示相对简单时自动切换至更廉价的模型。此后,Databricks 和 Palantir 等公司也相继开发了各自的路由工具,以管理成本、提升效率。

Meta 此番自研 Switchboard,既是对自身成本压力的主动回应,也是在这一快速升温的赛道上布局自有能力的战略选择。

更大野心:AI 投资寻求多元变现

Switchboard 项目的背后,是Meta 将庞大 AI 投入转化为新工具、新业务和新收入来源的整体诉求。

Meta 此前预计,今年在 AI 基础设施及其他设备和设施上的支出可能高达 1450 亿美元,较 2025 年的水平翻逾一倍。与此同时,Meta 正在对工程团队进行重组,以强化 AI 开发能力。

AAI Labs 孵化的项目不止于 Switchboard。据 The Information 获得的另一份内部文件,AAI Labs 还在开发一款面向驾驶者的 AI 导览应用,可通过 Apple CarPlay 和 Android Auto 运行,利用 AI 解说附近地标并允许驾驶者提问。

文件将该产品定位为 Instagram 地图体验的延伸,未来或整合基于位置的 Reels 内容、旅行推荐,乃至 Meta Ray-Ban 智能眼镜。

报道称,这些项目共同勾勒出 Meta 的路径:以员工创意为起点,快速原型化 AI 产品,再择机向外部市场推出——在控制成本的同时,探索广告业务之外的增量收入空间。