欧盟刚刚通过了全面规范人工智能的新规定
欧盟刚刚通过了全面规范人工智能的新规定，并强调其重要性
欧洲联盟今天就《AI法案》的细节达成了一致，这是一个关于人们构建和使用人工智能的广泛规定。这是一个里程碑式的法律，立法者希望它能为全球其他地方创造一个蓝图。
在关于如何监管OpenAI等公司的几个月的辩论后，欧盟的三个政府分支——议会、委员会和委员会——在周三下午到周五晚上一共花了超过36个小时制定新的立法。立法者在新年开始欧盟议会选举活动之前达成协议的压力之下。
“欧盟的AI法案是全球首创，”欧洲委员会主席冯德莱恩在X上说道。”[它是]一个独特的法律框架，可信赖的AI发展。以及针对人和企业的安全和基本权益。”
这项法律本身并不是全球首创，中国关于生成式AI的新规在八月生效。但欧盟的AI法案是针对该技术最全面的规定。其中包括禁止使用生物特征系统识别涉及性取向和种族等敏感特征的人，并禁止在互联网上无差别地抓取人脸。立法者还同意执法部门应当可以使用生物特征识别系统在公共场所对某些犯罪进行识别。
新的透明度要求适用于所有通用AI模型，例如OpenAI的GPT-4，它驱动着ChatGPT，并且还包括对“非常强大”模型的更严格规定。“AI法案为大型、强大的AI模型设定了规则，确保它们不对欧盟构成系统性风险，”欧洲议会成员和谈判的两位共同报告人之一Tudorache说道。
- 英国竞争与市场管理局调查微软与OpenAI的合作伙伴关系
- 你可以购买的最好的图形计算器 (Nǐ kěyǐ gòumǎi de zuì hǎo de túxíng j...
- ENBLE回顾了2023年的科技，并展望2024年
不遵守这些规定的公司可能被罚款高达其全球营业额的7%。禁止使用被禁AI的规定将在六个月内生效，透明度要求在12个月内生效，而全套规定将在大约两年内生效。
此外，还包括了为保护版权持有人免受生成式AI侵害以及要求通用目的AI系统在能源使用方面更加透明的措施。
“欧洲已经定位自己为先驱者，理解自己作为全球标准制定者的重要性，”欧洲委员布尔通在周五的新闻发布会上表示。
在为期两年的谈判中，AI技术以及人们对其主要关注点已经发生了巨大变化。当《AI法案》于2021年4月构思时，政策制定者担心不透明的算法会决定谁能得到工作，谁能获得难民身份或获得社会福利。到了2022年，已经有了AI积极伤害人们的例子。在荷兰的一个丑闻中，由算法做出的决定导致家庭被迫与孩子分离，而在远程学习的学生们声称AI系统因他们的肤色而歧视他们。
然后，在2022年11月，OpenAI发布了ChatGPT，这在辩论中引发了巨大转变。AI灵活度和受欢迎程度的飞跃引发了一些AI专家的警觉，他们将AI与核武器进行了夸张的比较。
这次辩论在布鲁塞尔的《AI法案》谈判中体现为一场关于是否应该将OpenAI和谷歌等所谓的基础模型的制造商视为潜在问题的根源并相应地进行监管，或者新的规则是否应该专注于使用这些基础模型来构建新的基于AI的应用，如聊天机器人或图像生成器的公司。
欧洲生成式AI行业的代表对监管基础模型表示谨慎，表示这可能会阻碍该地区的AI初创企业创新。“我们不能对一个没有使用方式的引擎进行监管，”法国AI公司Mistral的首席执行官Arthur Mensch上个月说道。“我们不会对C编程语言进行监管，因为它可以用于开发恶意软件，相反我们会禁止恶意软件。”西班牙数字化和人工智能国务秘书Carme Artigas在新闻发布会上表示，Mistral的基础模型7B将在今天达成的规则下豁免，因为该公司仍处于研发阶段。
在本周的最后两次讨论中，与会者就是否应允许执法部门使用人脸识别或其他类型的生物特征技术对人们进行实时或回溯性的身份识别存在重大分歧。数字权利组织Access Now的高级政策分析师丹尼尔·卢弗尔表示：“这两者都会破坏公共空间的匿名性。”他解释道，实时生物特征识别可以通过实时安全摄像头的视频，确定一个人目前是否正在火车站等地，而“回溯式”生物特征识别则可以通过之前存储的图像或视频，确定同一人还曾经访问过火车站、银行和超市等地点。
卢弗尔表示，他对今天最终版本中为执法部门设定的“漏洞”感到失望。
欧洲监管机构对社交媒体时代的出现反应迟缓成为讨论的重要背景。从Facebook的推出到数字服务法案——旨在保护人权在线的欧盟规定——生效，将近20年时间过去了。在这期间，欧盟被迫应对由美国平台造成的问题，同时无法培养出更多欧洲的挑战者。“或许我们可以通过早期的监管更好地预防[这些问题]，”欧洲议会的两位首席谈判代表之一布兰多·贝尼菲在7月对ENBLE说。人工智能技术发展迅猛，但要判断AI法案是否更成功地遏制住硅谷最新输出的负面影响，还需要很多年的时间。
