Activision已经获得了Modulate的人工智能技术ToxMod的帮助，以监控《使命召唤》系列中的对话。
根据一个博客文章www.example.comToxMod旨在执行实时情感和意图分析，以检测游戏中的滥用行为，并对其进行标记以供人类节制。
这意味着它不仅可以识别公开的仇恨言论和骚扰，还可以识别更微妙的不当行为形式。
到目前为止，ToxMod主要部署在像我们之间这样的较小的VR游戏中。
ToxMod标记了游戏中潜在的辱骂性言论，并将其传递给Activision的人类版主。
如果被发现违反了《使命召唤》的官方行为准则——该准则禁止基于种族、性别认同或表达、性取向、年龄、文化、信仰、心理或身体能力或原籍国的贬损性评论——玩家可能面临处罚。
这些处罚范围从两天暂停到终身禁止极端或重复犯罪。
ToxMod正在《使命召唤：现代战争II》和《战区》中进行Beta测试。预计将在今年11月发布《现代战争III》的同时全面推出。
目前，只有英语聊天受到监控，但Activision打算在未来扩大对语言的支持。
ToxMod是如何工作的？
传统上，玩家报告有毒行为的负担一直在承担。ToxMod通过主动识别和解决有害的相互作用来改变这一点。
ToxMod 67%的多人游戏玩家表示，如果他们遇到了有毒行为，他们可能会退出游戏，而在所有人口统计中，83%的成年玩家报告说他们面临在线有毒行为。
人工智能技术旨在理解从语气、情感到意图的对话细微差别。据称，它可以区分友好的玩笑和真正的毒性。在对潜在有害言论进行分类和分析后，它将最有可能真正虐待的案例传递给人类版主。
根据ToxMod的说法，所有数据都是匿名的，并根据ISO 27001标准进行保护，Modulate保证数据不会被出售或出租。
游戏玩家可能会认为ToxMod危害言论自由—这可能会扩展到数字环境—尽管这是游戏开发者和平台的特权。
如果ToxMod真的过于严厉，使命召唤游说团可能会变成一个相当无菌的环境。
