英国政府对人工智能安全的狭隘观点：错失AI黄金时代？
新报告指出，英国政府在人工智能安全方面的重点过于有限，冒着在人工智能发展竞赛中落后的风险
英国政府被敦促对LLM（法律和语言协调员）采取更积极的态度，以避免错过AI黄金热潮。
🤖💥 当涉及到AI安全时，英国政府可能过于“狭隘”看待，这种做法可能会使他们在AI黄金热潮中落后。这是英国上议院传播和数字委员会发布的一份报告的关键发现。该报告包括了广泛利益相关者的意见，建议政府应更多关注大型语言模型（LLMs）所带来的即时安全和社会风险，而不是被夸大的末日情景所困扰。我们来详细了解一下这些发现并探究其影响！
AI对社会的影响
🌍🤖 快速发展的AI，特别是像OpenAI的ChatGPT这样的大型语言模型，预计将对社会产生深远影响，类似于互联网的引入。鉴于这一点，英国政府需要采取正确的策略来利用AI带来的机遇。虽然解决风险至关重要，但过于谨慎地担心遥远和不太可能的风险可能使英国错过AI黄金热潮。传播和数字委员会主席Stowell女男爵强调了需要采取平衡和实际的态度。
🔒 AI监管面临着挑战，因为人们对这种技术应该得到多少程度的监管意见不一。Meta公司的首席AI科学家Yann LeCun和其他签署者呼吁在AI开发方面更加开放，并警告不要让大型科技公司垄断监管。封闭和开放生态系统之间的这种紧张关系成为报告推荐的重点，敦促政府将市场竞争作为明确的AI政策目标。
AI治理之战
🏰✨ 全球AI治理之争正变得日益激烈。拜登总统最近签署了一项行政命令，旨在建立AI安全和安全标准，而英国则通过AI安全峰会等倡议努力将自己置于AI治理的前沿。报告强调了竞争动态的重要性，并强调结果将塑造AI/LLM市场和所需的监管监督。竞争激烈！
🖋️🔒 然而，领导LLMs发展的公司也主张进行监管，提出了潜在监管不当的担忧。在竞争和监管之间取得平衡对于避免垄断行为和确保公平市场准入至关重要。报告建议加强治理措施，以减轻意外监管和群体思维的风险，强调透明度和外部批评的必要性。
狭隘关注AI安全
🧠💡 报告认为，AI安全辩论已经被关注灾难性风险和末日情景的狭隘叙述所主导。尽管报告建议对高风险模型进行安全测试，但也指出对灭绝性风险的担忧是夸大的。它敦促政府更多关注LLMs所带来的更即时的风险，比如错误和虚假信息的产生和传播。即将到来的大选进一步强调了有效应对这些挑战的紧迫性。
⚖️📚 版权侵权是另一个紧迫问题。报告承认LLMs需要大量数据集来正常运行，但未经许可或付费使用受版权保护的材料是不合理的。英国政府必须迅速采取行动解决这个问题，并确保LLM的培训尊重版权法。
取得合适的平衡
🔍🔒 报告认识到需要评估潜在的技术工程路径对灾难性风险的影响，并设立机制跟踪和监控AI模型。完全禁止LLMs被认为是不成比例和可能无效的。相反，我们需要共同努力管理和减轻与LLMs部署相关的风险。政府的AI安全研究所在这个过程中发挥着关键作用。
💥😃 总之，英国政府需要重新平衡其对AI安全的战略。在考虑潜在风险的同时，它必须专注于AI可以带来的巨大好处。在AI竞赛中落后可能使英国在技术上依赖海外公司。现在是政府抓住机遇，以谨慎、创新和一丝幽默的方式引领AI领域的时候了。
🔍 问答：你可能想知道的问题
📌 问题：报告中提到的近期安全和社会风险的示例有哪些？
🔎 答：报告强调了对版权侵权、错误信息、虚假内容生成、超真实机器人和深度伪造活动的担忧。这些风险强调了立即采取行动以防止AI的滥用和保护民主的必要性。
📌 问题：政府如何确保AI监管不偏袒少数主导科技公司？
🔎 答：为了避免监管被操纵和促进公平竞争，报告建议采取增强的治理措施。这些措施包括评估新政策对竞争的影响，在政策过程中纳入红队评估和外部批评，以及培训官员提高他们的技术知识。目标是防止狭窄的私营部门专业知识决定政策和标准。
📌 问题：政府是否考虑全面禁止大型语言模型？
🔎 答：报告认为全面禁止大型语言模型是不成比例和无效的。相反，应重点关注管理和减轻与这些模型相关的风险。政府的AI安全研究所在这些模型在实际场景中部署后应起到重要作用的追踪和监测工作。
📌 问题：政府将如何解决对AI模型滥用的担忧？
🔎 答：报告强调了问责和解决滥用的必要性。它建议评估和发布灾难性风险的警示指标，加强治理措施，并开发识别和跟踪AI模型的方法。这种多方面的方法旨在在利用AI的同时减轻潜在风险。
📚 参考资料
- Yes, ChatGPT Got Lazier
- Buy a Costco Executive Gold Star Membership and Get a Free $40 Gift Card
- Best Robot Vacuum Deals in November 2023
- Probabl: New AI Company That Built Popular Library scikit-learn
- Morning After: An AI-Generated George Carlin Comedy Special Written by Humans
