内容安全审核|互联网“跟帖评论”新规下媒体如何应对?

  • 2022-12-07
  • John Dowson

  新华社北京12月13日电中央党史和文献研究院翻译的《习关于统筹疫情防控和经济社会发展重要论述选编》英文版,近日由中央编译出版社出版发行本站

内容安全审核|互联网“跟帖评论”新规下媒体如何应对?本站

  现在大多数新闻网站和客户端都在新闻正文后面设有网友评论入口,跟帖评论日益成为广大网民互动交流、表达意见、监督的重要方式,这有效提升了新闻的价值,但同时也出现了

  跟帖评论已成为社会的“传播器”和“放大器”,影响力愈发不可小觑。针对跟帖评论乱象,国家互联网信息办公室发布了新修订的《互联网跟帖评论服务管理规定》,自2022年12月15日起施行。

  那么,拥有网站和客户端的媒体应该扮演什么角色?《规定》对这些媒体提出了哪些要求呢?网晴科技内容审核专家就主体责任、审核痛点、解决方案等进行了详细解读,希望能帮助媒体更好地履行跟帖评论服务管理职责。

  《规定》第二条明确,本规定所称跟帖评论服务,是指互联网站、应用程序以及其他具有属性或社会动员能力的网站平台,以评论、回复、留言、弹幕、点赞等方式,为用户提供发表文字、符号、表情、图片、音视频等信息的服务。

  从这一条规定中,我们可以看到,首先,拥有网站和客户端的媒体即为跟帖评论服务提供者,应当履行管理主体责任。其次,弹幕和点赞也将被视为跟帖评论。再次,除了常规的文字,符号、表情、图片、音视频等评论类型都在审核范围之内。

  此外,《规定》中多项条款明确了作为跟帖评论服务提供者,媒体应当严格落实跟帖评论服务管理主体责任,其中包括:

  从跟帖评论服务管理主体责任可以看出,对媒体的审核范围、审核时效、审核技术和审核队伍都提出了严格的要求,而这些恰恰正是众多媒体普遍存在的跟帖评论审核痛点。具体原因如下:

  一、对于媒体而言,本身所有新闻信息发布就需要严格执行“三审三校”制度,审核工作量大,审核成本高。现在《规定》明确了新闻信息的跟帖评论也要先审后发,跟帖评论属于UGC,内容是海量的,这无疑会使得审核编辑人员的工作量成倍增长。

  二、对新闻信息跟帖评论要求先审后发,评论内容的时效性是能否让网友产生共鸣的关键,面对数量众多的弹幕内容,如何避免因等待审核时长过长而影响用户体验导致用户流失,这是审核编辑人员必须直面的巨大挑战。

  三、跟帖评论的审核不仅仅包括评论本身,还包括用户的个人信息;不仅仅包括文字,还包括符号、表情、图片、音频、视频等类型,这对媒体的整体审核能力和信息安全管理技术水平都提出了更高的要求。

  四、违规违法内容具有覆盖场景多、数据变种多、对抗性强等特点,一个方面是用户头像、昵称等可能存在着违规内容;一个方面是可能会通过高级黑、低级红、变形体、讽刺、夸大等形式,混淆过关。这也是审核过程中最应该警惕的一点。

  比如明褒实贬、暗含讽刺的“软刀子”,别有用心之人将“中必赢”“赢麻了”“下大棋”等词作为对中国各项方针与政策进行冷嘲热讽的话语;又比如含沙射影、指桑骂槐的“放冷箭”,把历史、小说中的人物、故事生搬硬套来借古讽今、影射比附......如果审核编辑人员经验不足,是不能够及时有效地应对这些内容的。

  所以,跟帖评论的审核,既需要速度快,又需要质量高,这对于单纯依托传统人工审核方式的媒体而言,可以说是一个不可能完成的任务。

  跟帖评论发布主体多、覆盖场景多、数量巨大、类型庞杂等挑战导致人工审核难度加大,网晴科技内容审核专家认为,跟帖评论亟需通过“AI+人工”的审核方案,借助技术手段,优化用户管理,创新跟帖评论的自动过滤和筛查辨别系统,辅助人工审核,从底层算法到审核规则再到审核编辑人员经验,整体提升跟帖评论审核的速度、力度和准确度。

  而对于媒体而言,相比自身投入大量的人力、物力和财力去开展核心技术攻关、扩建人工审核团队,直接引入外部技术、委托专业内容安全服务商进行“AI+人工”审核是更便捷、性价比更高的方式。

  例如,网晴科技在跟帖评论审核方面有着多项优势,多家央媒和主流媒体将网晴科技作为内容安全服务商,借助“AI+人工”一站式、系统化的内容安全解决方案,来提升跟帖评论的审核能力。

  “网晴内容安全智能审核平台”审核系统基础功能包含账号管理体系、权限系统、内容安全审核流程配置,可以对注册用户的头像、昵称、简介和实名认证三要素信息等内容进行综合审核,确保认证信息真实可信。

  此外,还能够通过日常对用户账号访问、操作等行为的安全审计和风险分析,为每一个账号进行风险度评分,输出账号的风险等级,用户可以根据风险评分制定差异化管理措施,确定跟帖评论服务的范围及功能。

  网晴科技自主研发的全能力智能审核平台“网晴内容安全大脑”覆盖涉政专项模型、涉政人物检测模型、声纹库识别能力、劣迹艺人检测、二维码/条形码识别、OCR文本识别等数十种算法模型,可以实现音、视、图、文全类型审核,精准鉴别涉政违规、涉黄、暴恐、违禁、不良价值观、广告等内容安全风险,准确率高达99.9%以上。还可以提供直播弹幕快速审核,采用多场景、度内容过滤策略,在避免漏查情况下对弹幕内容快速进行实时审核。

  此外,用户可以自定义敏感词和多轮审核流程(一审、二审、三审、抽审等)。当“网晴内容安全大脑”词库内的敏感词不能满足需求时,用户可以自定义敏感词进行过滤,也支持多审次流程定制,用户可以按照实际情况,设置审核流程的过程,审校全流程可追溯、可查询,将极大提高跟帖评论审发的效率。

  借助“网晴内容安全大脑”,跟帖评论的审核效率和纯人工审核比可以提升数十倍,不但可以使审核编辑人员从海量的审核工作中解放出来,降低劳动强度,同时还可以减少对专职审核编辑人员的数量需求,降低人工成本。

  “网晴内容安全大脑”会将所有的检测结果综合展示在审核平台中,形成多层级、度的立体审核展示。若需要进一步审核,“网晴内容安全大脑”会依据内部调度策略将内容分派给人工,按照不同等级进行多审次流转。

  技术可以提高审核效率,人才则决定了审核水平。尤其像对于“高级黑”这类涉及时政、财经、文史等的深度内容,需要专业人士的深度介入。网晴科技在浙江、河南有人工审核基地,人工审核团队包括新闻、出版相关专业人才,还配有主流媒体资深编辑组成的专家团队,深度介入时政、财经、文史等方面的内容,把关完善审核策略,多年来服务央媒、主流媒体和互联网企业,积累了丰富内容安全审核经验。

  不仅如此,网晴科技有计划地通过采取技术培训、业务学习、岗位技能考核等一系列手段,不断提高人工审核团队的专业素养,以确保持续满足审核工作和业务发展的需求。

  互联网跟帖,不能乱跟。把关跟帖评论,平台不能躺平。如今,新修订的《互联网跟帖评论服务管理规定》进一步细化了对跟帖评论服务提供者的要求。拥有网站、客户端的媒体,作为跟帖评论服务提供者,应该全面从严把关,尽到管理职责,把握正确导向。作为专业的内容安全服务商,网晴科技将继续深入探索“AI+人工”审核,以更加专业的审核团队、先进的审核技术、优越的产品特性和创新的解决方案,和用户一起为评论乱象戴上“紧箍”,驱散网络灰霾,守护清朗网络空间。

本站  “中山大学校长办公室2014年12月10日印发的《中山大学关于印发〈中山大学人文社会科学重要期刊目录原则(试行)〉(2014年修订版)的重要通知》,居然公布了CSSCI期刊黑名单目录

免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186

评论留言

发表评论