Bard 自学外语，还编了五本书？谷歌 CEO 承认:“不完全理解” 它是如何运作的

谷歌 CEO 警告称，如果对人工智能的部署不当，可能造成非常严重的危害。

4 月 16 日周日，谷歌的 CEO Sundar Pichai 在接受媒体采访时表示，推动采用人工智能技术必须受到良好且强有力的监管，以避免潜在有害影响。

此前谷歌表示，人工智能存在的一个问题是其 “突发属性”（emergent properties），即它可以自学没有受过训练的技能。谷歌上个月推出了人工智能聊天机器人 Bard，但谷歌发现，Bard 在得到孟加拉国语的提示后，无需训练就能学习孟加拉国语。

Pichai 承认，他并不 “完全理解” Bard 是如何运作的，“我认为我们也没有完全理解人类的思维是如何运作的”：

这其中有一个方面，我们所有人都称之为 “黑匣子”。你知道，但你并没有完全理解。你不知道它为什么会这样说，也不知道它为什么会出错。

我们有一些想法，随着时间的推移，我们的理解能力会越来越强。但这就是目前的技术水平。

值得注意的是，Bard 还写了一篇关于经济学中通货膨胀的文章，并推荐了五本书，但是这些书实际上并不存在。

当被问及是什么让他无法安然入睡时，Pichai 说：“工作的紧迫性，并需要以有益的方式部署人工智能；如果部署不当，它可能造成非常严重的危害。”

谷歌一直是人工智能领域开发和实施的先驱者之一，但该公司部署这项技术的步伐一直是十分谨慎的。Pichai 表示：“我们还没有找到所有的答案，但技术正在快速发展。这让我晚上睡不着觉吗？绝对的。”

谷歌现在正在迎头赶上，希望向其产品注入生成式人工智能，这可以根据用户提示创建文本、图像、音乐甚至视频。但尽管存在紧迫感，Pichai 仍警告企业不要被卷入到竞争态势中。他认为，社会还没有为人工智能的快速发展做好准备：

他们提出的一个观点是，当这种技术非常非常强大时，你不想推出这种技术，因为它没有给社会适应的时间。

我认为这是一个合理的观点。我认为有负责任的人在试图弄清楚如何使用这项技术，我们也是如此。

华尔街见闻此前提及，3 月 22 日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。图灵奖得主 Yoshua Bengio、马斯克、苹果联合创始人 Steve Wozniak 等上千名科技大佬和 AI 专家已经签署公开信。

Pichai 强调，生成式人工智能的风险之一是 “深度伪造技术视频”（Deepfake videos）。此类视频可将已有图像或视频叠加至目标图像或视频上，伪造面部表情并将其呈现至目标视频。在这些视频中，人们所说的话实际上并非出自其口。Pichai 表示，这些隐患说明了监管的必要性。

他还警告称，人工智能将影响 “每一家公司的每一款产品”。将被人工智能颠覆的工作包括 “知识工作者”，其中有作家、会计师、建筑师。具有讽刺意味的是，甚至还有软件工程师。