随着选举临近，中途考虑禁止发布拜登和特朗普的图片

🤖😱 Midjourney考虑禁止AI生成的政治图片

作者：Graeme Hanna

📅 更新时间：2024年2月9日

随着人们对AI对民主进程的影响的担忧日益增加，Midjourney表示可能会完全禁止政治图片。

从唐纳德·特朗普与唐老鸭一起竞选到乔·拜登与碧昂斯一起出现，人们可以用人工智能创造图像和视频，模糊界限。但更糟糕的是政治虚假信息——有意误导的内容——可能以有意义的方式对公众意见产生负面影响。

Midjourney等生成式人工智能程序意识到这个问题，据说他们正接近禁止政治图像的决策。

目前，就像你在Midjourney上看到的标题图片一样，没有限制制作这两位人的图像。

正如Bloomberg报道的那样，Midjourney首席执行官David Holz在Discord会话中表达了他的想法，他说：“我不知道在接下来一年，我对我们的平台上的政治言论有多在意。我知道制作特朗普的图片很有趣，我也制作了很多特朗普的图片。” 😄

“特朗普在美学上非常有趣。然而，在这次选举期间最好还是少涉及政治。我们拭目以待，”Holz补充道。

去年三月，Midjourney创造的歌颂巴黎世家夹克的教皇图片和特朗普被逮捕的图片在网络上疯传。这也是人们对Deepfake的担忧所在。这家总部位于旧金山的公司很快就结束了免费试用。

其他科技公司也在采取行动。OpenAI的首席执行官Sam Altman在上周的一次活动中评论说：“我最担心的是，随着人工智能的新技术能力发展，会出现比2020年更好的Deepfake。” 😱 与此同时，Meta已确认将标记更多使用人工智能创建的帖子，以直接打击政治干预。

对于将有15个州在超级星期二举行选举的情况来说，这是一个敏感的问题，需要认真采取行动。

Midjourney可能禁止政治图片的可能性引发了有关AI在选举期间塑造公众舆论角色的重要问题。尽管这项技术可能会带来娱乐和创造力，但滥用和操纵的潜力也不容忽视。

通过考虑限制，Midjourney承认AI生成内容所带来的伦理责任。然而，这一决定并非没有争议，因为一些人可能会认为它扼制了言论自由和创造力。在平衡这些问题时，需要进行深思熟虑并采取细致入微的方法。

Midjourney的情况并非孤立的，其他科技公司如Meta和OpenAI也采取措施应对Deepfake和政治干预的威胁。这种集体努力凸显了该行业对AI潜在危险的认识以及主动采取措施的需求。

展望未来，AI对民主进程的影响仍然是一个令人关注的话题。随着技术的进步，我们的监管框架和安全保障也必须跟上。在确保公平和透明的选举制度方面，平衡创新和问责的关系至关重要。

Q: 什么是深度伪造技术，为什么它们令人担忧？

A: 深度伪造技术是使用人工智能技术制作的被篡改的图像、视频或音频录音。它们能够逼真地描绘出个人说或做从未真正发生过的事情。令人担忧的是，深度伪造技术可能会传播虚假信息，操纵公众观点，并破坏对视觉和听觉证据的信任。

Q: 如何对人工智能生成的内容进行监管以防止政治干预？

A: 对人工智能生成的内容进行监管面临挑战，因为它的发展迅速且应用广泛。然而，增加透明度，标记人工智能生成的内容，并积极进行内容审核可以帮助应对政治干预。科技公司、政策制定者和用户之间的合作努力对于建立负责任的人工智能使用准则和最佳实践至关重要。

Q: 是否存在法律措施来打击深度伪造技术？

A: 虽然各个国家已经探索了针对深度伪造技术的法律应对措施，但专门针对深度伪造技术的立法仍相对有限。现有的诽谤、隐私和知识产权法律可以帮助解决与深度伪造技术相关的一些问题。然而，制定综合性法律以应对深度伪造技术所带来的独特挑战仍然是一项持续进行中的努力。

📣 你对将人工智能生成的政治图片禁止的潜在措施有什么看法？是否应加强监管以打击深度伪造技术？请在下方发表你的想法并参与讨论！👇✨

关于作者：

格雷姆·汉纳是一位全职自由撰稿人，拥有丰富的在线新闻和内容写作经验。格雷姆擅长撰写引人入胜的科技新闻报道，并为英国几家主流媒体担任足球和新闻作家。作为ENBLE.com的贡献新闻作家，他持续为像你一样的读者带来相关而引人入胜的内容。