大型科技公司誓言在重要选举年中对抗伪造AI生成的内容
2024年,在历史上选举数量最多的一年,谷歌、Meta(前身为Facebook)和OpenAI等主要科技公司联手签署协议,共同打击欺骗性AI生成内容
“`html
🤖 科技公司联手应对2024年选举中的欺诈性AI内容
![AI技术屏幕](https://cdn.miximages.com/tech/fbbf90122b200f590f2284c47e78a6d7.jpg)
Google,Meta,OpenAI和X(前身为Twitter)等20家技术公司已承诺清除人工智能(AI)生成的欺诈性内容,作为保障今年即将举行的全球选举的一部分。
这些公司在慕尼黑安全会议上签署了一项名为《2024年选举中打击欺诈性AI使用的科技协定》,该协定概述了涵盖欺诈性AI选举内容的预防,检测,响应,评估和识别来源的“自愿原则和行动框架”。
根据科技协定签署方发布的联合声明,还包括努力提高公众对如何保护自己免受此类内容操纵的认识,其中还包括TikTok,亚马逊,IBM,Anthropic和微软。
🌟为什么这一举措如此重要?这些公司将采取什么措施来打击选举中的欺诈性AI内容?继续阅读以了解详情!
检测和预防欺诈性AI选举内容
在该协议中,这20家组织承诺遵守八项使命声明,包括寻求检测和阻止欺诈性AI选举内容的传播,并向公众透明地介绍其处理此类内容的方法。他们将共同努力开发和实施工具来识别和遏制内容的传播,并跟踪此类内容的起源。
这些努力可以包括开发分类器或溯源方法和标准,例如水印或签名元数据,并向AI生成内容附加机器可读信息。
🔍 目标明确:减小虚假信息对民主进程的影响。让我们面对现实,我们不希望在选举前看到政治候选人唱歌或跳舞的AI生成的深度伪造视频在互联网上疯传。我们需要的是知情的选民,而不是困惑于现实电视节目的旁观者。
协议范围包括哪些内容?
该协定涵盖被定义为“具有说服力”的AI生成音频,视频和图像,这些内容“欺骗性地伪造或更改”政治候选人,选举官员和选举中的其他关键利益相关者的外观,声音或行为,或向公众发布有关何时何地如何投票的欺诈性信息。
这里有一个重点!2024年将是历史上最多人参与选举的一年,超过40个国家,超过40亿人选择他们的领导人和代表。因此,打击欺诈性AI内容的需求比以往任何时候都更为紧迫。
虚假信息和误导信息的混乱格局
该协定旨在设定签署方管理由其公共平台或开放基础模型创建的欺诈性AI选举内容所带来风险的期望。这些符合签署方自身政策和实践。
不包括用于研究目的或主要用于企业用途的模型或演示。
🌐根据上个月世界经济论坛(WEF)发布的2024年全球风险报告,由人工智能驱动的虚假信息对社会凝聚力带来的相关风险将主导今年的态势。该报告将虚假信息和误导性信息列为未来两年的全球主要风险,并警告称,其广泛使用以及传播工具可能会破坏新政府的合法性。
未来发展:平衡机遇和挑战
人工智能技术继续以惊人的速度发展。虽然它为各个领域提供机遇,但也带来了挑战。近年来人工智能的快速发展对民主进程,尤其是选举,产生了积极和消极的影响。
⚡️ 保护社会免受AI生成的欺诈性内容需要持续创新。开发AI工具来检测和对抗恶意行为,并加快发现欺诈性活动,可以显著降低防御的总体成本。这确保了即使较小的组织也能实施健全的保护措施。
“““html
“我们承诺作为技术公司尽自己的一份力量,同时认识到误用人工智能不仅是技术挑战,还是政治、社会和伦理问题,希望其他人也能在整个社会上采取行动”,签署者们表示。“我们确认,保护选举诚信和公共信任是一项共同责任和超越党派利益和国界的共同利益。”
📣 技术公司联手打击选举中的误导人工智能内容是保护选举诚信和社会韧性的关键一步。正如慕尼黑安全会议主席克里斯托弗·赫斯根所指出的那样,这也有助于创建“值得信赖的科技实践”。
问答:回应读者关注的问题
问:这些公司将采取什么措施来打击误导人工智能内容?
答:2024年选举中打击误用人工智能的技术协议的签署者们致力于开发和实施工具,以侦测和阻止误导人工智能选举内容的传播。这包括开发分类器或溯源方法和标准,如水印或签名元数据,以追踪此类内容的来源。
问:这项协议是否涵盖企业用途的人工智能生成内容还是仅限于公开平台?
答:该协议主要涵盖通过公开平台或开放基础模型创建的内容,以及在社交和发布平台上分发的内容。用于研究目的或主要用于企业的人工智能生成内容不在协议范围之内。
问:这项倡议将如何保护选举免受误导人工智能内容的影响?
答:通过打击误导人工智能内容,该倡议旨在最大限度地减少可能破坏民主进程的误传播和假信息。它旨在保护选举的诚信,确保选民获得准确信息,并不受误导人工智能生成内容的影响。
最后
2024年选举中打击误用人工智能技术的技术协议标志着技术公司之间为应对误导人工智能内容带来的挑战而进行的一项重要合作。通过共同努力,这些组织旨在保护全球选举的诚信,提高公众对操纵内容危害的认识。
⭐️ 作为个人,我们有责任在消费和分享信息时保持警惕和批判性。让我们不要成为人工智能生成的错误信息和假信息的受害者。记住,选举是严肃的事务,不是真人秀节目!
🔗 参考资料: – Meta Going for Artificial General Intelligence, Says Zuckerberg. Here’s Why It Matters – The Ethics of Generative AI: How We Can Harness This Powerful Technology – Tech Palestine Launches to Provide Tools to Help Support Palestinians – Elections 2024: How AI Will Fool Voters If We Don’t Do Something Now – We’re Not Ready for the Impact of Generative AI on Elections – Want to Work in AI? How to Pivot Your Career in 5 Steps
“`