罗布乐思AI聊天审核效果好，却无法取代真人

各类单机，绅士游戏持续更新：https://www.8xhuo.top/

大型游戏创作平台《罗布乐思》运用机器学习AI进行语音聊天审核已达一年之久。鉴于该游戏拥有大量儿童用户，公司对此审核工作极为重视。在2024年游戏开发者大会（GDC）举办期间，罗布乐思公司高级技术总监Kiran Bhat以及语音安全负责人Hannes Heikinheimo透露，尽管AI审核成效良好，但在某些时候，真正的人类在这项工作上能做得更出色。

Bhat在演讲中提到：“实时监控语音颇具难度，因为要监控语音，不仅需知晓对方所言内容，还得捕捉其说话的语气与强度，以此判断某段话是否真有恶意。”

“上下文同样是判断某段话是否具有冒犯性的要素之一。所以这是个相当棘手的问题。”

他进一步阐释，公司通过将违规内容归入4个主要类别来应对这些难题，并表明85%的违规内容都在这些分类范畴内，且“绝大多数”可由50个关键词捕获。他表示：“若已涵盖这些类别的前50个关键词，那就相当不错了。”

语音安全负责人Heikinheimo宣称AI监管成果斐然：运行一年后，该系统已覆盖31个国家和地区，每段“活跃聊天时间”的违规举报数量减少了一半。使用AI的一个优势在于它们没有情感且不会疲惫，所以在“明显违规的情形下，机器比人类更高效、更稳定”。然而，正所谓道高一尺魔高一丈，要真正理解意图并做出判断，他觉得“人类仍胜过机器”。

Heikinheimo说道：“在那些可能非常接近判定边缘的情况中，人类表现更佳。或者在极为罕见的情形下，我们没有足够的数据供机器学习系统训练。所以在这些情况下，人类依旧表现更优。”