Twitch直播平台的内容审查困难
彭博社调查发现的问题，显示Twitch在监管直播平台方面面临挑战，特别是在其视频剪辑功能方面分析1,100个视频发现，其中83个包含涉及儿童色情内容
推特的剪辑功能似乎让儿童虐待得以存活。
📷图片来源
推特，这个广受欢迎的直播平台，在内容审核方面面临着非常大的挑战，特别是其剪辑功能。剪辑功能允许用户保存短视频。彭博社最近的调查报告揭示了这个令人不安的问题，报告中分析了1100个剪辑视频中至少有83个涉及儿童的性化内容。🤯
推特在被alert后删除了这些视频，并声称已经大量投资于执行工具和预防措施。然而，这些情况凸显了Clips功能在一个本身瞬息万变的平台上的永久性特征的问题。🎥
让我们更深入地探讨这个问题，探讨推特面临的影响和挑战。
推特剪辑的阴暗面
彭博社报道中提到的一个事件讲述了一个12岁男孩的不安全故事，他只是想在推特上分享自己吃三明治和吹法国号。不幸的是，响应观众的请求却变得黑暗，结果导致男孩暴露了自己。虽然这个事件可能只持续了一瞬间，但Clip录制功能允许一个观众保留这个令人不安的时刻，据称这个观众关注了许多属于儿童的账号。在被推特报告和删除之前，这段剪辑视频收到了130次观看。😱
剪辑功能在2016年推出，是为了在平台上捕捉那些转瞬即逝的时刻，录制按钮按下之前的25秒和之后的5秒都会被录制下来。虽然这个功能是为了增强用户体验，但无意中为恶意用户提供了保存和在其他地方分发烦扰内容的手段。推特今年计划扩展Clips，目标是在平台上创建类似TikTok的体验，这引发了对未来这类内容的审核的担忧。📲
剥削视频的现实
加拿大儿童保护中心对彭博社报告中提到的83个剥削视频进行了审查。令人震惊的是，他们发现其中有34个视频描绘了年轻用户在摄像头前暴露了自己的生殖器。这些受害者中多数是五岁到十二岁的男孩。此外，49个剪辑中包含了涉及未成年人的性化内容，包括身体暴露或进行网友引导。其中最严重的视频观看了2700多次，其余共获得了7300个观看次数。这些数字真是令人担忧。😢
🎥视频来源
推特对这个问题的回应
“任何地方对青少年造成伤害都是不可接受的，我们非常认真对待这个问题，”推特发言人在回应ENBLE有关这个问题的询问时说道。为了对抗儿童性虐待材料 (CSAM)，推特声称已开发了新模型来检测潜在的网友引导行为，并正在更新现有工具以更好地识别和删除试图创建与青少年安全问题相关的被禁用户的新账号。💪
推特还加强了直播内容的执行，这是问题剪辑的根源。通过禁止包含有害内容的直播和暂停相关的频道，推特旨在阻止有害视频的创建和传播。此外，该公司确保已被删除和禁用的剪辑不会通过公共域或直接链接访问。这些行动显示了推特解决这些挑战的决心。👏
推特面临的审核挑战
彭博社的报告揭示，Clips是推特上受审核最少的部分之一。此外，该公司在2023年4月的内部信任与安全团队中削减了员工，这是充满技术裁员的一年，使其更加依赖外部合作伙伴来对抗CSAM内容。推特独特的直播平台对于审核来说比较棘手，相比YouTube或Instagram等更传统的视频网站。推特的直播性质意味着流式传输的内容总是新鲜的，不容易与已知的有问题的文件进行比较。这使得过滤和识别变得更加复杂。🕵️♂️
推特内容审核的未来
Twitch的内容管理困难并非孤立事件。网络危害不断发展，像Twitch这样的平台必须与之共同进化。在Twitch承认这个现实的同时，他们已经改进了内部安全指南，以识别新形式的在线危害，例如生成式AI增强的儿童性虐待材料（CSAM）。此外，与外部组织的合作扩大将有望为未来的努力中防止类似内容传播做出贡献。 🌐
🤔 Q&A: 答疑解惑
问：Twitch可以采取哪些措施来确保未来更好的内容管理？
Twitch需要继续投资于能够实时识别和标记潜在有害内容的先进技术。他们应优先开发专门用于检测与CSAM相关行为并预防未成年人网络滋扰的机器学习模型。与专门从事儿童保护的外部组织合作也可以在增强内容管理努力方面起到至关重要的作用。
问：用户可以如何在Twitch上防止有害剪辑的传播？
用户可以在使用平台时积极举报任何不当或剥削性内容的情况。Twitch社区要警惕并及时举报此类内容。此外，在特别是未成年人群体中提高有关负责任的互联网使用的意识，可以帮助防止他们成为无意识的受害者。
问：Twitch可以考虑哪些替代方法来创建类似TikTok的内容而不损害安全性？
Twitch可以在剪辑发布之前实施更严格的审查流程。引入批准系统或在剪辑出现在用户的动态中之前进行预先审核，可以大大降低有害内容在平台上传播的风险。强调社区准则的重要性并提供有关适当内容创建的明确说明，也可以有助于营造更安全的环境。
问：Twitch为了改善内容管理，应遵守哪些现有的法规或法律框架？
Twitch应与监管机构和立法者密切合作，确保遵守与儿童保护和在线安全相关的现有法律。他们应积极参与有关在线危害的讨论，并为直播平台开发有效的专门法规做出贡献。
结论
Twitch在管理其平台方面的困难凸显了在大量生成和使用内容的情况下维护安全环境的挑战。虽然Twitch在解决这些问题方面已经采取了步骤，但持续改进和积极措施对于保护用户，特别是未成年人免受有害内容的暴露是必要的。通过利用先进技术，与外部组织合作，并培养负责任的社区，Twitch可以为更安全和愉快的直播体验铺平道路。 🌟
参考资料：
📢 让你的声音被听到！在你最喜欢的社交媒体平台上分享本文章，助力传播内容管理和在线安全的重要性。我们共同可以改变！ 📣
