参议员希望ChatGPT级别的人工智能需要政府许可证
参议员要求政府许可ChatGPT级别的AI
美国政府应该创建一个新机构来监管人工智能，并限制像OpenAI的GPT-4这样的语言模型的开发只允许持有许可证的公司进行。这是两位参议员、民主党人理查德·布卢门撒尔和共和党人乔希·霍利的建议，他们昨天发布了一项立法框架，作为未来法律的蓝图，并影响国会之前的其他法案。
根据这项提议，开发人脸识别和其他“高风险”应用的人工智能也需要政府许可。为了获得许可，公司必须在部署之前测试人工智能模型的潜在伤害，并在启动后披露出现问题的情况，并允许独立第三方对人工智能模型进行审计。
该框架还提议，公司应该公开披露用于创建人工智能模型的训练数据的详细信息，并且受到人工智能伤害的人有权将创建它的公司告上法庭。
在接下来的几天和几周里，布卢门撒尔和霍利的建议可能会对华盛顿特区的人工智能监管辩论产生影响。下周初，布卢门撒尔和霍利将主持参议院的一个小组委员会听证会，讨论在企业和政府部署会给人们带来伤害或侵犯他们权利的人工智能系统时如何有效地追究其责任。微软总裁布拉德·史密斯和芯片制造商英伟达的首席科学家威廉·达利将作证。
一天后，参议员查克·舒默将主持一系列会议，讨论如何监管人工智能，这是舒默称之为“我们所从事的最困难的事情之一”。对人工智能感兴趣的科技高管，包括马克·扎克伯格、埃隆·马斯克以及谷歌、微软和英伟达的首席执行官，占据了近两打嘉宾名单的一半。其他与会者代表了可能会受到人工智能算法影响的群体，包括作家协会和工会联合会的贸易工会主席，以及致力于防止人工智能践踏人权的研究人员，包括加州大学伯克利分校的德布·拉吉和人道智能公司的首席执行官、推特前伦理人工智能负责人拉曼·乔杜里。
之前在IBM领导人工智能伦理倡议，并且现在是马里兰大学的博士候选人的安娜·伦哈特表示，经过多年的人工智能专家在国会的出现，解释人工智能为何应该受到管制，看到他们采取行动并不等待一系列的洞察论坛或委员会花两年时间与一群专家进行对话而创造这个相同的清单，这真是让人耳目一新。
但是，她对任何新的人工智能监管机构如何拥有广泛的技术和法律知识以监督从自动驾驶汽车到医疗保健再到住房等多个领域使用的技术持怀疑态度。“这就是我对许可制度的想法有些困扰的地方，”伦哈特说。
使用许可证限制谁能开发强大的人工智能系统的想法在行业和国会中都得到了认可。OpenAI首席执行官山姆·奥特曼建议在5月份的参议院听证会上对人工智能开发者进行许可证监管，这种监管解决方案可能有助于该公司保持其领先地位。上个月，参议员林赛·格雷厄姆和伊丽莎白·沃伦提出的一项法案也将要求科技公司获得政府的人工智能许可证，但仅适用于某一规模以上的数字平台。
伦哈特并不是唯一对政府的人工智能开发许可制度持怀疑态度的人工智能或政策专家。五月份，这个想法引起了来自自由主义倾向的政治活动组织美国繁荣联盟的批评，他们担心这会扼杀创新；同时也受到了数字权利非营利组织电子前沿基金会的批评，他们警告称会被有钱或有影响力的公司所掌控。也许作为对此的回应，昨天发布的框架建议AI监管机构的工作人员要遵守强有力的利益冲突规定。
布卢门撒尔和霍利关于未来人工智能监管的新框架还有一些问题没有答案。尚不清楚人工智能的监管是否来自新成立的联邦机构还是现有联邦机构内部的一个小组。参议员们也没有指定确定某一特定用例被定义为高风险并需要许可证开发的标准。
环境非营利组织地球之友的气候虚假信息项目主任迈克尔·库表示，这项新提议看起来是一个良好的第一步，但需要更多细节来正确评估其想法。他的组织是由环境和科技问责组织组成的一个联盟，他们通过给舒默写信以及下周在国会附近开车绕圈的移动广告牌，呼吁立法者阻止能源密集型人工智能项目加剧气候变化。
库赞同立法框架要求记录和公开披露不利影响的呼吁，但他表示立法者不应让行业定义什么被认为是有害的。他还希望国会议员要求企业披露培训和部署人工智能系统所需的能源量，并在权衡人工智能模型影响时考虑加速传播错误信息的风险。
立法框架显示国会考虑对人工智能的监管采取比联邦政府迄今所采取的更严格的方法，联邦政府已推出了一项自愿风险管理框架和非约束性的人工智能权利法案。白宫于7月与谷歌、微软和OpenAI等八家主要人工智能公司达成了一项自愿协议，但也承诺将出台更严格的规定。在有关人工智能公司协议的简报会上，白宫人工智能特别顾问本·布坎南表示，保护社会免受人工智能危害将需要立法。
