连OpenAI都放弃了尝试检测ChatGPT的抄袭行为 | ENBLE
OpenAI abandons attempts to detect plagiarism in ChatGPT | ENBLE
OpenAI，创造了广受欢迎的人工智能（AI）聊天机器人ChatGPT，已经关闭了其开发的用于检测由AI而非人类创建的内容的工具。OpenAI称，由于“准确率低”，这个名为AI分类器的工具在推出仅六个月后就被关闭。
自从ChatGPT和竞争对手的服务风靡一时以来，各种担忧AI未经检查使用的后果的声音不断增加。有一件事特别令教育工作者感到困扰，那就是学生可能会利用ChatGPT来撰写他们的论文和作业，然后将其冒充为自己的作品。
OpenAI的AI分类器是为了缓解这些和其他群体的担忧而进行的尝试。其想法是能够确定一段文本是由人类还是AI聊天机器人编写的，为人们提供一个公平评估学生以及对抗虚假信息的工具。
然而，即使从一开始，OpenAI似乎对自己的工具也没有太多的信心。在宣布该工具的博文中，OpenAI宣布“我们的分类器并不完全可靠”，指出它在“挑战集”中仅有26%的准确率能正确识别出由AI编写的文本。
放弃该工具的决定并没有引起太多轰动，OpenAI也没有在其网站上发布专门的帖子。相反，该公司更新了揭示AI分类器的帖子，在其中声明“由于准确率低，AI分类器不再可用。”
- 你的老板如何通过Slack、Zoom和Teams来监视你 | ENBLE
- 苹果的下一代Vision Pro可能会带你进入一个改变情绪的旅程 | ENBLE
- “5K苹果工作室显示器刚刚有一次难得的交易 | ENBLE”
该更新继续：“我们正在努力吸纳反馈，并正在研究更有效的文本来源技术，并承诺开发和部署让用户能够了解音频或视觉内容是否由AI生成的机制。”
需要更好的工具
AI分类器并不是唯一一个用于检测AI创建内容的工具，像GPTZero这样的竞争对手仍然存在并将继续运行，尽管OpenAI做出了决定。
过去试图识别AI写作的尝试已经以惊人的方式失败。例如，2023年5月，一位教授错误地将他们整个班级的学生在使用ChatGPT检测他们的论文剽窃时全部不及格。不用说，ChatGPT和教授都搞砸了。
当连OpenAI自己都承认无法正确察觉由其自己的聊天机器人创建的抄袭时，这是令人担忧的。这正是人们对AI聊天机器人具有破坏潜力的增加焦虑的时候，也呼吁暂停该领域的发展。如果AI像一些人预测的那样具有如此大的影响力，世界将需要比OpenAI失败的AI分类器更强大的工具。
