Meta计划在充满选举的一年中增加对由人工智能生成的图像的标注使用这一消息来自ENBLE
Meta 将其社交媒体平台（包括Facebook、Instagram和Threads）上的AI生成功能图像标签扩展，包括使用竞争对手生成AI技术创建的合成图像
🌟 Meta采取措施在社交媒体上标记人工智能生成的图像 📸
为了应对人工智能引发的虚假信息和错误信息，Meta（之前被称为Facebook）正在扩大其在社交媒体平台上标记人工智能生成图像的活动，包括Facebook、Instagram和Threads。这一扩大活动还包括标记使用其他公司生成式人工智能工具创建的合成图像，只要这些工具包含Meta能够检测到的“行业标准指标”。然而，Meta没有透露其平台上流传的合成内容的确切数量，这让我们对这一举措在全球多场选举中对抗人工智能生成的错误信息所能起到的作用产生了疑问。
✨ 检测人工智能生成的图像
Meta已经能够检测和标记使用其自己的生成式人工智能工具“Imagine with Meta”创建的“逼真图像”，该工具在去年12月推出。然而，它此前并未标记使用其他公司工具创建的合成图像。现在，Meta正在与行业合作伙伴合作，制定用于识别生成式人工智能内容的常用技术标准。通过检测竞争对手的人工智能图像生成工具中嵌入的信号，Meta旨在标记用户在其平台上发布的人工智能生成图像。
扩大的标记将在未来一年逐步推出，重点放在全球重要选举上。在此期间，Meta计划了解人们在此期间如何创建和分享人工智能内容，以便能够制定最佳实践并在不同市场上做出明智决策。
🔍 人工智能生成的视频和音频的挑战
虽然Meta在图像标记方面取得了进展，但是检测人工智能生成的视频和音频仍然具有挑战性。标记和数字水印技术并未得到广泛采用，使得检测工具很难准确识别这些深度伪造作品。此外，编辑和篡改可以轻松删除内容中存在的任何信号。
Meta正在积极开发用于自动检测人工智能生成视频内容的分类器，而无需依赖不可见标记。他们还在探索增强不可见水印的韧性的方法，例如将数字水印机制直接整合到图像生成过程中。为减轻风险，Meta现在要求用户手动披露是否上传了“逼真”的人工智能生成视频或“听起来真实的”音频。不遵守此规定可能会导致账户暂停或封禁。
🎭 非人工智能生成内容的伪造
需要注意的是，数字媒体的操纵不仅限于人工智能生成的内容。通过基本的编辑技能和访问社交媒体账户，可以大规模制造虚假信息并误导人们。Meta在处理涉及操纵视频的政策问题上面临着批评。由Meta成立的独立内容审查机构——监督委员会指责该公司在与由人工智能生成的伪造视频有关的政策方面存在“不一致性”。该委员会强调Meta需要解决非人工智能相关内容操纵风险的问题。
🤖 将生成式人工智能用作内容审查工具
除了标记人工智能生成的内容，Meta还在探索使用生成式人工智能作为其内容审查工作的补充。Meta的总裁尼克·克莱格建议，在“高风险”时刻（如选举时），大型语言模型（LLMs）可以帮助解决问题。对使用Meta的社区标准训练的LLMs进行的初步测试在识别政策违规方面取得了令人鼓舞的结果。还在利用LLMs从审查队列中移除内容，当高度确信该内容不违反Meta的政策时。这种方法旨在减轻人工内容审查人员的负担，并提高内容审查的效率。
🔍 事实核查人工智能生成内容
Meta还允许独立的事实核查合作伙伴对其平台上的人工智能生成内容进行事实核查。这意味着人工智能生成内容不仅可能被标记，还可能被证明为含有虚假信息。然而，将多个标签和提示同时应用于内容可能会使在社交媒体平台上浏览内容的用户感到困惑。
👥 非对称挑战及Meta的回应
认识到人工事实核查员的供应与日益可获得的用于制造虚假信息的人工智能工具之间的不对称性，Meta面临着展示其应对人工智能生成伪造作品的承诺的压力。没有关于Meta平台上合成和真实内容的普遍程度以及其人工智能检测系统的有效性的确切数据，是很难得出明确结论的。然而，随着众多选举即将到来，Meta应对人工智能生成的错误信息的努力正在引起关注。
🔗 参考文献： – Meta推出独立的AI动力图像生成器 – 监管委员会要求Meta修改“不连贯”的规则以对抗伪造视频 – 从AI助手到图像重塑者：Meta的新AI功能
💡 读者问答： Q：扩大AI生成内容的标注是否也适用于视频和音频？答：虽然Meta目前正在标注AI生成的图像，但是检测和标注AI生成的视频和音频仍然具有挑战性。该公司正在积极开发工具来识别此类内容。然而，目前，标注重点主要集中在AI生成的图像上。
问：对于未披露其内容为AI生成的用户是否有任何处罚？答：是的，Meta有一项适用于全球所有用户的现有社区标准政策。未能手动披露“逼真”AI生成的视频或“逼真的声音”音频的用户可能面临处罚，包括账户暂停或封禁。
问：Meta计划如何解决与非AI相关内容操纵的风险？答：虽然Meta最近的努力主要集中在AI生成的内容上，但是监管委员会敦促该公司修订其政策以应对非AI相关内容操纵的风险。Meta尚未概述具体的回应计划。
问：事实核查合作伙伴是否能够驳斥AI生成内容，而不仅仅是标注它？答：是的，事实核查合作伙伴有权驳斥包含虚假信息的AI生成内容。被认为不准确或误导的内容可以被驳斥，同时也会被标注为AI生成的。
🌐 社交媒体上AI生成内容的未来
随着AI的不断发展，它在塑造我们的在线体验方面将发挥越来越重要的作用。Meta标注AI生成内容并探索生成性AI作为内容审核工具的努力凸显了解决由虚假信息带来的挑战的重要性。对强大的检测技术和明确的政策的发展将至关重要。 AI生成内容的普遍存在结合了操纵的风险，提醒了我们需要负责任的在线行为和批判性思维。
📢 分享您的想法！
您对Meta扩大标注AI生成内容的举措有何想法？您认为它能有效打击虚假信息吗？在下方评论中分享您的观点，加入对话！
🙌 喜欢这篇文章吗？别忘了在社交媒体上分享！
免责声明：本文仅供信息参考。本文中所表达的观点仅属于作者个人，不一定反映Meta或其子公司的官方政策或立场。
🔍 参考文献： – Meta推出独立的AI动力图像生成器 – 监管委员会要求Meta修改“不连贯”的规则以对抗伪造视频 – 从AI助手到图像重塑者：Meta的新AI功能
