Nvidia的基于人工智能的游戏角色变得有毒 | ENBLE
Nvidia's AI-based game characters become toxic | ENBLE
Nvidia ACE，这个旨在通过生成式人工智能改变游戏的工具正在进化，Nvidia刚刚公布了一个有趣的更新。原来开发者不仅能够利用ACE创造完全互动的角色，包括对话和面部表情，还能够使用Nvidia的新NeMo SteerLM技术来调整这些角色的个性。
Nvidia今年早些时候首次宣布了ACE工具，但详细信息并不多。ACE有点像游戏中的ChatGPT，旨在让游戏开发者更容易地创造具有完善背景故事的角色，为他们与玩家的互动增添更多的深度。
使用这项技术，玩家可以使用语音输入与游戏中的非玩家角色（NPC）进行互动。Riva语音转文本将他们的语音转换为文本输入，并将其输入AI。它被输入到一个大型语言模型（LLM）中，生成一个回复，然后Nvidia使用几个AI工具将回复转换回语音并给角色添加动画。
在玩家互动和NPC回应之间，有一个相当复杂的路径，而Nvidia刚刚通过引入新的NeMo SteerLM增加了一层复杂性。
Nvidia将NeMo SteerLM呈现为几个开关，应该可以更简单地调整角色的行为。到目前为止，我们看到的三个选项是“创造力”、“幽默”和“有害性”。虽然大多数玩家（或至少是在线玩家）现在已经习惯了有害行为，但有趣的是，这实际上是一个带有额外步骤的AI聊天机器人的选项。
在添加NeMo SteerLM之前，AI会准备一个定制回复来回答玩家的问题。然后它会通过Riva进行文本转语音，最后通过Nvidia Omniverse进行面部表情以与语音相匹配。然而，现在，在AI生成回复之前，NeMo SteerLM将介入一些属性，以确定NPC在互动中的帮助程度、幽默程度或怪异程度。
增加这三个特征可能会带来搞笑的结果，但同样，很容易想象AI会完全失控，就像当时Bing Chat告诉我们它想成为人类一样。
为了应对可能的AI疯狂，Nvidia推出了NeMo Guardrails工具，使开发者能够阻止这些疯狂的行为，以及防止玩家尝试实现不想要的结果。现在，玩家和AI之间的路径又多了一个工具。我期待着在游戏中看到这个功能的实现。有些事情告诉我，尽管Nvidia尽了最大努力，但ACE在游戏中的早期阶段可能不会像人们希望的那样和谐。
