ChatGPT争议 – 我们的担忧是对还是错？
ChatGPT争议 - 担忧的正当性？
ChatGPT无需介绍。这个令人难以置信的基于AI的聊天机器人旨在使用自然语言处理来回答问题，就像一个知识丰富的人类一样。由于其令人印象深刻的能力，ChatGPT可以被视为AI的游戏改变者，因为它能够解释概念，理解语言细微差别，并以详细的方式提供答案。
作为InstructGPT的姊妹模型，ChatGPT允许用户与聊天机器人进行类似人类的对话。全球互联网用户发现ChatGPT是一个有效的工具，可以回答他们的问题并帮助他们完成任务，如撰写电子邮件、准备论文、文章、博客帖子甚至编码过程。
ChatGPT的巨大成功迫使许多公司发布了自己的AI聊天机器人版本，如Google Bard、Zapier AI Chatbot、Microsoft Bing AI、Chatspot等等。
这项引人注目的、开创性的技术成功地带来了与技术的互动方式的新范式。许多企业已经开始使用ChatGPT来撰写其营销、销售和广告文案。客户服务聊天机器人通过允许企业与他们的客户进行前所未有的互动，彻底改变了客户服务，从而提高了客户满意度和品牌忠诚度。
ChatGPT成功地改变了当前的数字化景观；然而，它也受到了争议的困扰。我们的博客文章将解释ChatGPT的一些局限性，并阐明围绕它的争议 – 这样你就可以了解ChatGPT是否值得用于你的业务。
OpenAI的ChatGPT的前五个问题
ChatGPT易于使用，有能力改变我们的未来；然而，认为它只有优点没有缺点是一个误解。我们有几个原因需要对ChatGPT表示关注。以下是其中一些原因。
#1. 安全、伦理和隐私问题
下面是示例1 – 真的吗，你想让这些信息公之于众吗？
首先，没有办法检查ChatGPT从您创建账户时收集了多少关于您的信息。这不是很可怕吗？尤其令人担忧的是，ChatGPT所需的数据和存储规模要远高于其他技术。
这个基于AI的聊天机器人受到了用户、隐私专家和政府机构的严厉批评，批评其数据保留政策。ChatGPT从三个来源（在三个不同阶段）收集用户详细信息。
- 当用户注册或付费使用高级计划时，他们必须输入账户信息。这是ChatGPT收集信息的第一个来源。
- 用户在聊天机器人中输入的信息是数据收集的另一个来源。
- 最后，ChatGPT会尝试识别从您的设备或浏览器中提取的数据，例如IP地址和位置。
从您与ChatGPT的对话中收集的数据是最令人担忧的因素。除了您的IP地址和位置外，还可以自动从您的设备和浏览器中检索其他个人详细信息，例如浏览器类型、开始使用ChatGPT的日期和时间以及每个会话的长度。
OpenAI使用聊天窗口和其网站上的Cookie跟踪您的浏览活动。显然，这些详细信息是为了分析目的和了解用户如何与ChatGPT互动而收集的。
使用ChatGPT来校对您的个人文件可能是危险的，因为ChatGPT会存储您的对话记录，并记录您在聊天中输入的任何信息，包括个人信息和数据点。
如果您尝试使用ChatGPT来处理包含有关您的公司、客户或员工的机密信息的专业工作，那么可能会更加危险。想象一下，如果您无意间泄露了客户的联系方式会发生什么。这可能会给您带来麻烦 – 如果不是法律上的问题，肯定会得罪您的客户。
最近，一些用户能够在侧边栏中看到不属于他们的对话标题。这是由于ChatGPT存在安全漏洞导致的。由于使用这个聊天机器人的用户数量庞大 – 月活跃用户超过1亿人 – 因安全漏洞而分享用户的聊天记录是一个严重的问题。
#2. 生成不正确的答案
虽然像Alexa或Siri这样的AI助手使用互联网来查找指定问题的答案，但ChatGPT的工作方式不同。它按照逐字逐句构建句子的模式工作，并生成可能是问题最可能的答案的回复。简而言之，它根据猜测给出答案，很可能答案对于问题来说并不完全相关，甚至可能完全错误。
如果你认为这只会发生在复杂的问题上，那你就错了。ChatGPT甚至可能在简单的数学计算上出错，甚至对于简单的逻辑问题也会给出错误的答案。有趣的是，它可以以如此坚定的口吻辩论错误的答案，让人觉得很有道理，很真实。
ChatGPT的支持者一直在辩称它给出错误答案是因为用户没有具体说明，他们的提示要么含糊不清，要么非常简短，问题没有适当的上下文等等。他们甚至建议用户需要进行一来一回的对话才能得到理想的回答。
虽然其中一些论点是有道理的，但你不禁想知道为什么从一个据说懂得这么多的人工智能那里得到正确答案如此棘手和具有挑战性。
我们可以同意，在涉及一些复杂的问题时，用户应该提供详细和具体的提示，避免模糊或含糊不清的提示。但是，对于一些基本的逻辑问题，他们真的需要这样做吗？ChatGPT是否曾经在基本的基础数学问题上挣扎过，也无法理解简单明了的推理？
#3. 偏见问题
让人惊讶的是，一个人工智能工具可以像大多数人类一样具有偏见。但是，不要忘记ChatGPT这样的人工智能工具，或者说任何技术，都是由人类设计的。纯粹从情感上来说，这是ChatGPT最令人担忧的问题之一，因为它可能会生成有争议或令人沮丧的答案，歧视种族、性别、年龄群体和少数群体。
这个问题的根本原因是什么？嗯，这个人工智能工具被设计成使用过去的数据，并将其视为决策问题或任务的重要标准。问题在于，在过去被认为是正确或正常的事物在现在可能完全不可接受或在伦理上是错误的。
许多公司使用ChatGPT来审核他们收到的求职申请。主要问题是，该人工智能工具使用过去的简历语言模式来分析当前候选人的简历，以识别理想的候选人。
这是个问题吗？在过去，女性在职场中的代表性较低，职场存在性别偏见，在面试过程中给予男性候选人更多重视。ChatGPT在筛选当前候选人时将遵循相同的模式，导致招聘计划可能会无意识地偏向男性候选人。包括科技巨头亚马逊在内的许多公司都面临着这个问题。
ChatGPT不仅存在性别偏见，还被批评并指责在对待老年人和残障人士等群体时存在政治偏见。
#4. 对教育领域产生负面影响
ChatGPT可以帮助学生完成任何涉及头脑风暴和总结的任务，帮助他们完成作业，无论是英语作文写作任务还是其他任务。然而，不仅仅是作业；学生们还开始使用人工智能来协助他们进行在线考试。这迫使教育管理机构重新编写课程，并对其课程进行改变，以保持领先于使用不道德方式使用人工智能的学生们。
ChatGPT在某些方面对学生有所帮助；然而，它的缺点超过了它的优点。ChatGPT的一个重要影响之一是它可能会影响学生的创造力。频繁使用人工智能聊天机器人可能导致缺乏创造力和自主思考。
它还可能导致学生缺乏情绪智能，因为人工智能聊天机器人在功能上缺乏共情和人类的直觉。尽管它被设计成具有类似人类行为的行为，但由于它生成的机械和机械化的回答以及我们在本文中提到的缺陷，它与实现这一目标相差甚远。
我们强烈建议学校管理机构和教育工作者确保学生不会对ChatGPT依赖其作业和其他任务。我们还可以说，这对保证他们的创造力不受影响非常重要。但是，在未来，他们是否需要发挥自己的创造力呢？
关于ChatGPT可能取代人类在工作场所的讨论已经在进行中。那么，考虑到ChatGPT可能会减少或完全消除学生在工作中的需求，学生真的需要学习写作，以及为他们未来的职业发展发展和磨练他们的技能吗？
#5. 取代人类在工作场所中的角色
如果一家公司可以从ChatGPT获取相关内容用于其网站，那么就不需要雇佣一名内容撰写人员。同样，ChatGPT可以处理许多其他领域，包括校对、电子邮件营销、社交媒体管理、翻译、客户服务、新闻报道、招聘、技术支持分析等等。
如果一家公司可以使用AI聊天机器人完成所有这些任务，就可以避免为每个角色雇佣多个人。通过避免薪水、津贴、保险等开支，公司可以节省大量资金。我们可以争论说过去的技术进步也导致了大量的失业。然而，最终这是为了更大的利益，因为这样的技术进步在多方面帮助了人类。
记住，变化是唯一不变的，你应该拥抱它。因此，技术进步并不是问题所在。问题在于AI进步的速度，使得各个行业面临各种变化，迅速发生。
我们对ChatGPT的担忧是正确的还是错误的？
ChatGPT远非完美，因为它仍然需要人类的介入-提供输入并审核输出，考虑到其缺陷。无论是学校作业、关于产品或服务的文章，还是其他内容，都需要人类对内容进行审查和编辑，然后才能提交或发表。因此，它与在任何领域取代人类还有很大的差距，因为它需要人类的帮助来优化其输出。
公司可以使用ChatGPT来替代特定的工作角色；然而，如果你担心大规模裁员，那是不太可能发生的，因为AI聊天机器人无法替代需要人类特质如批判性思维、创新、情感、同理心和创造力的工作角色。这凸显了一个重要观点-在当今竞争激烈的世界中，提升技能的重要性。只要你不断努力提升自己的技能，你不仅能够维持下去，还能够蓬勃发展。
特色图片来源：作者提供；Pexels；谢谢！
