AI 崛起引发担忧！英国政府发布人工智能产业白皮书，提出五项发展原则

AI 技术正在以史无前例的速度发展，世界各国政府监管层面也开始对其展开特别关注。

周三，英国政府发布了第一份人工智能白皮书，提出了在 AI 技术疯狂炒作之际对该技术实行全方位监管的方法。

在该份白皮书中，英国科学、创新和技术部（DSIT）概述了监管机构应考虑的 5 个明确原则，以最好地促进人工智能在其监控的行业中的安全和创新使用：

安全性、可靠性和稳健性：人工智能的应用应以安全、安全和稳健的方式运行，并仔细管理风险。

透明度和可解释性：开发和部署人工智能的组织应该能够沟通何时以及如何使用它，并以适当的详细程度解释系统的决策过程，以匹配使用人工智能带来的风险。

公平：人工智能的使用方式应符合英国现行法律，例如《2010 年平等法》或英国 GDPR，不得歧视个人或创造不公平的商业结果。

问责制和治理：需要采取措施确保对人工智能的使用方式进行适当的监督，并对结果进行明确的问责制。

可争议性和补救性：人们需要有明确的途径来质疑人工智能产生的有害结果或决定。

DSIT 表示，这种方法将意味着英国的规则可以随着这种快速发展的技术发展而适应，确保对公众的保护，而不会阻碍企业使用人工智能技术来实现更强劲的经济增长、更好的就业机会和大胆的新发现，从根本上改善人们的生活。

在接下来的 12 个月里，英国监管机构将向人工智能公司发布实用指南，以及其他工具和资源，如风险评估模板，以阐明如何在其行业中实施这些原则。在议会时间允许的情况下，可以引入立法，以确保监管机构始终如一地考虑这些原则。

值得注意的是，英国计划在其人权、健康和安全以及竞争监管机构之间分配管理人工智能的责任，而不是创建一个专门负责该技术的新机构。

此外，英国政府表示，将资助 2 万英镑建立一个新的沙盒，为人工智能企业提供测试环境。企业可以测试如何将监管应用于人工智能产品和服务，以支持创新者将新想法推向市场，而不会受到规则手册障碍的阻碍。

人工智能初创公司 Humanising Autonomy 的首席执行官兼联合创始人 Maya Pindeus 表示，政府的举动标志着监管人工智能的 “第一步”：

确实需要有一点更强有力的叙述。我希望看到这一点。这算是为此埋下了种子。

AI 争论进入白热化

英国监管白皮书推出之际，正值社会对于 AI 技术的争论进入白热化。

周三早些时候，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。

该机构以 “引导变革性技术造福生活，远离极端的大规模风险” 为使命，其在信中提到：

我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发。

人工智能实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。

图灵奖得主 Yoshua Bengio、马斯克、苹果联合创始人 Steve Wozniak、Stability AI 创始人 Emad Mostaque 等上千名科技大佬和 AI 专家已经签署公开信。

值得玩味的是，OpenAI CEO Sam Altman 的名字一度也出现在公开信上，不久之后无端消失。