2020年12月2日,“2020音视频直播行业绿色内容生态共建峰会”在北京举办,峰会聚焦“音视频行业内容健康安全、保护未成年人”的话题,来自政府主管部门、专家、音视频行业、媒体等各方就这一内容深入开展交流讨论,共话行业发展面临的机遇和挑战。
培育积极健康、向上向善的网络文化,需要政府、企业、社会、网民等主体共同参与。本次峰会,多家企业代表对当下音视频行业中出现的内容“涉黄”风险、舆论倾向风险、未成年人保护风险等作出了有效分析,积极为行业规范发展建言献策,也为绿色内容生态建设提供了价值参考。
比心陪练副总裁吴狄在其中“多元共治,夯实音视频直播行业内容向上向善”的圆桌论坛上表示,音视频直播行业的健康生态,需平台、用户、监管部门以及相关的第三方机构等多方一起努力、共建共治。而为了鼓励用户参与到平台治理中,比心陪练不仅浅化用户举报入口,还开通了在线客服代用户进行违规信息举报的机制,并加强算法能力自动生成举报。“比如涉黄信息,每天大概有400多条违规处理是经过自动举报完成的。”
音视频直播行业内容向上向善需各方多元共治
随着网络通信的普及与成熟,消费者对基于互联网的内容消费和网络社交需求不断增大。截至今年6月,中国的网民数量已达9.4亿,过去五年,这一数字增长了22%。传统的文字和图片形式已经不能满足当下的用户需求,音视频成为网络用户更加偏好的内容传播方式。
广东省委宣传部副部长、南方报业传媒集团党委书记、南方日报社社长崔朝阳在论坛发言中强调音视频行业市场发展前景可观,但网络新经济在蓬勃发展的同时,更应注重安全治理工作。
南都大数据研究院网络内容生态治理研究中心发布的《网络音频社交“软色情”侵害风险研究报告》也显示:多元参与、协同共治,是网络内容生态建设的趋势。这其中,平台企业的主动担当和参与,是重中之重。
作为国内最大的电竞社区、音视频行业快速增长的企业,比心陪练方面也表示积极拥抱监管,履行平台社会责任,提高对全平台内容监管的尺度,加大对违规行为的惩罚力度。据介绍,从最初的一个人、一套系统,到如今实时风控平台、离线风控平台、内容审核平台、资金安全平台、举报处理平台、用户申诉平台组成的“六大平台”,比心陪练在业务快速发展的同时,也在逐年加大风控审核维度的技术、资金和人力成本的投入。
吴狄在谈及平台的安全治理时还进一步表示,比心陪练对违规信息举报体系设立了多方面举措;一是浅化举报入口,方便用户举报,在线客服可代替用户直接发起举报行为;二是利用算法能力系统自动生成举报,如当前针对涉黄用户,每日会自主挖掘相关违规行为,日打击量超过400条;三是举报激励体系:针对用户违规信息举报行为,设置举报激励机制,根据被采纳情况给予相应的奖励,每日单人奖励最高可达1000元。
应对新型挑战,平台自我治理要一马当先
疫情之下,在线文娱等“宅经济”迅速崛起,为推动中国经济内循环提供了新动力。 而音视频直播行业,或将成为下一个消费经济洪峰的诞生地。在快速发展的同时,平台治理方面也面临新型挑战。在论坛现场,专家、企业、第三方机构等共同讨论音视频行业新型挑战的解题良方。
清理违规不良信息,绕不开信息审核的难题。针对内容智能识别中的短板,数美科技创始人、CEO唐会军也发表了自己的观点。他指出:“黑灰产有组织化的运作,不断去揣摩现有企业策略的尺度、特征,然后想办法去绕路,这也对技术提出了较高的挑战。”
比心陪练副总裁吴狄则表示:近些年来音视频直播行业不断面临新型挑战,总结下来主要有两点,第一个是违规内容衍生裂变形式越来越多样化,加上黑灰产的加入,让违规内容的表现形式变得非常隐晦,难以进行捕捉或者拦截;第二个是特殊场景,这可能与各种网络亚文化的兴起有一定的关系,小众的圈子文化会衍生出一套自己的语言体系,甚至是符号代称,大多内容普通人无法理解,机器也很难有效识别,针对此类内容的防控则对人审团队的专业能力提出了更高的要求。“比心在人工审核方面的投入是相当大的,目前审核部门已超过300人,日均处理内容信息6万多条、月均达到2000万条以上,和技术做好协同,守护好平台内容健康安全。”
作为线上电竞陪练行业的领军者,比心陪练认为,平台在内容安全和健康方面担负起首要责任,不断升级风控系统监管级别,丰富现有的内容检测管控技术策略,组建专业化监督团队,应对涌现的新挑战。