罗布乐思AI语音审核成效显著 但人类审核仍更胜一筹酋长
大型游戏创作平台《罗布乐思》已运用机器学习AI技术开展语音聊天审核工作长达一年之久。鉴于该平台拥有庞大的儿童用户群体,公司始终将审核工作视为重中之重。在近日举行的GDC 2024游戏开发者大会上,《罗布乐思》公司高级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露,尽管AI审核成效显著,但在某些情况下,人工审核仍具有不可替代的优势。
Bhat在演讲中指出:<实时监控语音并非易事,因为这不仅需要识别语音内容,还需捕捉说话者的语气和强度,从而准确判断某段话是否带有恶意。>他进一步解释道,<上下文信息同样是判断话语是否冒犯的关键因素,这使得问题变得更为复杂。>
为应对这些挑战,公司采用了将违规内容划分为4个主要类别的策略,并发现85%的违规内容均属于这些类别,且<绝大多数>可通过50个关键词进行捕捉。Bhat表示:<若能涵盖这些类别的前50个关键词,审核工作便已相当到位。>
语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果:经过一年的运行,该系统已覆盖31个国家和地区,且每段<活跃聊天时间>的违规举报数量减少了一半。他提到,AI的一个显著优势在于其无情感且不会疲惫,因此在处理<非常明显的违规情况>时,机器比人类更为高效和稳定。然而,他也承认,在理解意图和进行判断方面,<人类仍强于机器>。
Heikinheimo解释道:<在处理那些可能接近判定边缘的情况,或在数据稀缺、机器学习系统难以充分训练的罕见情况下,人类审核员的表现仍更为出色。>
本文内容及配图取材于网络,文章观点仅代表作者本人,不代表本站立场。文章及其配图仅供学习分享之用,如有内容图片侵权或者其他问题,请联系本站作侵删。https://qz958.com/zatan/94261.html