AI 要被卡脖子了?训练大模型的数据或在 2026 年耗尽

Wallstreetcn
2023.08.28 06:00
portai
I'm PortAI, I can summarize articles.

一场数据争夺战正在拉开序幕。

就在不久前,分析师们还公开猜测,人工智能(AI)是否会导致面向创意人士的软件开发商 Adobe 衰落。像 Dall-E 2 和 MidTrik 这样的新工具,可以根据提示文本生成相应的图片,它们似乎让 Adobe 的图像编辑功能变得多余。就在今年 4 月,金融新闻网站 Seeking Alpha 还发表了题为《人工智能会是 Adobe 杀手吗?》的文章。

但在现实中,事实距离分析师们的假设尚远。Adobe 利用其数以亿计的库存照片数据库构建了自己的人工智能工具套件,名为 Firefly。该公司高管达纳·拉奥 (Dana Rao) 表示,自 3 月份发布以来,Firefly 已被用于创建超过 10 亿张图像。通过避免像竞争对手那样在互联网上挖掘图像,Adobe 避开了目前困扰着整个行业的、日益加深的版权纠纷。自 Firefly 推出以来,Adobe 股价已经上涨了 36%。

一场数据争夺战正在拉开序幕

Adobe 干翻所谓 “末日杀手” 的胜利表明,在快速发展的人工智能工具市场上争夺主导地位具有更广泛的意义。为最新一波所谓的 “生成式人工智能” 提供动力的超大模型依赖于海量的数据。此前,模型构建者多数时候从互联网抓取数据(通常是未经许可的)。现在,他们正在寻找新的数据来源来维持这种疯狂的训练模式。与此同时,拥有大量新式数据的公司正在权衡如何最好地从中获利。一场数据争夺战正在拉开序幕。

人工智能模型的两个基本要素就是数据集和处理能力,系统在数据集上接受训练,模型通过处理能力检测这些数据集内外部之间的关系。在某种程度上,这两大基本要素可以相互替代:一个模型可以通过吸收更多数据或增加更多处理能力加以改进。然而,在专业人工智能芯片短缺的情况下,后者正变得越来越困难,这导致模型构建者加倍专注于寻找数据。

研究机构 Epoch AI 认为,对数据的需求将会急剧增加,以至于可用于训练的高质量文本可能会在 2026 年耗尽。据悉,谷歌和 Meta 这两家科技巨头的最新人工智能模型已经接受了超过 1 万亿个单词的训练。相比之下,在线百科全书 Wikipedia 上的英语单词总数约为 40 亿个。

重要的不仅仅是数据集的大小。数据越好,利用其进行训练的模型表现也会越好。数据初创公司 Scale AI 的拉塞尔·卡普兰 (Russell Kaplan) 指出,基于文本的模型的理想训练对象是篇幅够长、文笔良好、事实准确的作品。输入这些信息的模型更有可能产生类似的高质量输出。

同样,当被要求一步一步地解释它们的工作时,人工智能聊天机器人会给出更好的答案,这也增加了对教科书等资源的需求。专用的信息集也变得更有价值,因为它们允许对模型进行 “微调”,以适应更小众的应用。微软在 2018 年以 75 亿美元收购了软件代码存储库 GitHub,并利用其开发了一种编写代码的人工智能工具。

数据版权官司激增,AI 公司忙着签授权协议

随着对数据需求的增长,获取数据缺变得越来越棘手,内容创作者现在要求对被人工智能模型吸收的材料给与补偿。在美国,已经有许多针对模型构建者发起的侵犯版权案件。包括喜剧演员莎拉·西尔弗曼 (Sarah Silverman) 在内的一群作家,正在起诉人工智能聊天机器人 ChatGPT 开发商 OpenAI 和 Facebook 母公司 Meta。此外,一群艺术家也同样起诉了 Stability AI 和 Midjourney,这两家公司致力于开发文本转图像的工具。

所有这一切导致的结果是,随着人工智能公司竞相获取数据源,出现了一连串的交易。今年 7 月,OpenAI 与美联社签署了一项协议,以获取该机构的新闻档案。最近,该公司还扩大了与图片库提供商 Shutterstock 的协议,Meta 也与后者达成了协议。

8 月初有报道称,谷歌正在与唱片公司环球音乐 (Universal Music) 进行谈判,希望后者授权艺术家的声音以用于帮助开发歌曲创作人工智能工具。资产管理公司富达 (Fidelity) 表示,许多科技公司曾与该公司接洽,要求获取其财务数据。有传言称,人工智能实验室正在接洽英国公共广播公司(BBC),以获取其图像和电影档案。另一个受关注的目标是 JSTOR,这是一个学术期刊的数字图书馆。

这些信息持有者正在利用他们更大的议价能力。论坛 Reddit 和备受程序员欢迎的问答网站 Stack Overflow 都提高了访问其数据的成本。这两个网站都特别有价值,因为用户会给喜欢的答案 “点赞”,帮助模型知道哪些是最相关的内容。社交媒体网站 X(前身为推特) 已经采取措施,限制机器人抓取该网站信息的能力,现在任何想要访问其数据的人都要付费。X 老板埃隆·马斯克 (Elon Musk) 正计划利用这些数据建立自己的人工智能业务。

因此,模型构建者正在努力提高他们已经拥有的数据的质量。许多人工智能实验室雇佣大量的数据注释者来执行标记图像和评级答案等任务。其中一些工作很复杂,甚至需要招聘拥有生命科学专业的硕士或博士求职者。但其中大部分工作都很普通,而且正在外包给肯尼亚等国的廉价劳动力。

人工智能公司也通过用户与他们工具的互动来收集数据。其中,许多工具都有某种形式的反馈机制,由用户指出哪些输出是有用的。Firefly 的文本转图像生成器允许用户从四个选项中做出选择。谷歌的聊天机器人巴德 (Bard) 同样提供了三个答案。

当 ChatGPT 回复查询时,用户可以给它竖起大拇指点赞。这些信息可以作为输入反馈到底层模型中,形成创业公司 Contextual AI 联合创始人杜威·基拉 (Douwe Kiela) 所说的 “数据飞轮”。他补充说,衡量聊天机器人回答质量的一个更强的信号是,用户是否复制文本并将其粘贴到其他地方。分析这些信息有助于谷歌迅速改进其翻译工具。

开拓新领域,企业客户内部数据成香饽饽

然而,有一个数据来源在很大程度上仍未被开发,即存在于科技公司企业客户内部的信息。许多企业往往在不知不觉中拥有大量有用的数据,从呼叫中心记录到客户支出记录等。这些信息特别有价值,因为它可以帮助微调特定商业目的模型,比如帮助呼叫中心的工作人员回答客户的问题,或者帮助业务分析师找到提振销售的方法。

然而,利用这种丰富的资源并不容易。咨询公司贝恩的分析师罗伊·辛格 (Roy Singh) 指出,从历史上看,大多数公司很少关注那些将被证明对训练人工智能工具最有用的庞大但非结构化的数据集。这些数据通常分布在多个系统中,隐藏在公司服务器中,而不是在云端。

解锁这些信息将有助于企业定制人工智能工具,以更好地满足他们的特定需求。亚马逊和微软这两家科技巨头现在都提供工具,以帮助其他企业更好地管理非结构化数据集,谷歌也是如此。数据库公司 Snowflake 的克里斯蒂安·克莱纳曼(Christian Kleinerman)说,随着客户希望 “打破数据孤岛”,该领域正在蓬勃发展。

初创公司也正在蜂拥至这个新领域。今年 4 月,专注于人工智能的数据库公司 Weaviate 融资 5000 万美元,估值达到 2 亿美元。仅仅一周后,其竞争对手 PineCone 就以 7.5 亿美元的估值筹集了 1 亿美元资金。本月早些时候,另一家数据库初创公司 Neon 也获得了 4600 万美元的融资。显然,对数据的争夺才刚刚开始。

本文来源:腾讯科技,原文标题:《AI 要被卡脖子了?训练大模型的数据或在 2026 年耗尽》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。