生成式人工智能热潮可能引发新的国际军备竞赛
生成式人工智能热潮可能引发新的国际军备竞赛' could be condensed to '生成式人工智能可能引发军备竞赛'.
世界各国政府急于拥抱为ChatGPT注入了某种智能的算法，显然对这项技术预期的巨大经济回报深感着迷。
本周发布的两份新报告显示，国家机构也可能急于将同样的技术应用于误导性武器，这可能在大国之间引发令人担忧的人工智能军备竞赛。
美国政府咨询非营利智库RAND的研究人员指出，有证据显示一位中国军方研究员在公开讨论生成式人工智能如何帮助信息战时具备相关经验。一篇2023年1月的研究文章建议使用大型语言模型，例如Google的BERT的精细调优版本，这是ChatGPT等聊天机器人的更强大、更有能力的语言模型的前身。
“目前没有证据表明这种行为正在进行，”RAND的AI专家、高级行为和社会科学家威廉·马塞利诺（William Marcellino）在报告中说道，“只是有人提出了一种前进的道路。”他和RAND的其他人对生成式人工智能可能使影响力活动的规模和力量增加感到担忧。“设想一个系统，可以创建数百万个自称是台湾人、美国人或德国人的假账户，推动一个国家的叙事，我认为这在性质和数量上都是不同寻常的，”马塞利诺说。
在线信息活动，例如俄罗斯的互联网研究机构对2016年美国选举的破坏，已经存在多年。这些活动大多依赖于人工劳动，即人工操作键盘。但近年来开发的人工智能算法可能会大规模生产旨在欺骗或说服的文本、图像和视频，甚至在社交媒体平台上与人进行逼真的互动。最近的一个项目表明，启动这样的活动可能只需要几百美元。
马塞利诺及其合著者指出，许多国家，包括美国在内，几乎肯定正在探索使用生成式人工智能进行自己的信息活动。生成式人工智能工具的广泛可获取性，包括许多任何人都可以获取和修改的开源语言模型，降低了任何寻求发起信息活动者的门槛。“各种行为者都可以使用生成式人工智能进行社交媒体操纵，包括技术上精通的非国家行为者，”他们写道。
另一份本周发布的报告，来自另一家以技术为重点的智库Special Competitive Studies Project，也警告说，生成式人工智能可能很快成为国家相互竞争的手段。它敦促美国政府大力投资生成式人工智能，因为该技术承诺为先掌握它的国家提供“新的军事能力、经济繁荣和文化影响力”。
与RAND的报告一样，SCSP的分析也得出了一些悲观的结论。它警告说，生成式人工智能的潜力很可能引发一场为了将该技术用于军事或网络攻击而进行的军备竞赛。如果两者都正确，我们将进入一场信息空间军备竞赛，这可能特别难以控制。
如何避免互联网被用于大规模AI机器人进行信息战的噩梦场景？这需要人类进行交流。
SCSP的报告建议美国“应领导全球合作，促进透明度，培养信任，并鼓励合作。”RAND的研究人员建议美国和中国外交官讨论生成式人工智能及其带来的风险。“对于一个完全被污染和不可信的互联网，可能符合我们所有人的利益，”马塞利诺说。我认为这是我们都可以接受的。
