今日头条“灵犬”升级:“反低俗”的技术效能

慧聪通信网 2019-02-21 14:30 来源:新媒体

【慧聪通信网】这年头,没掉过标题党坑里的读者不足以谈“网”事。标题党玩的就是套路,博的就是眼球,以至于它已成了“过街老鼠”式的存在。

有人归纳他们的常用语,结果一列一大堆:男默女泪,震惊国人,惊天秘密,看后惊呆,千万别吃,癌症前兆,看后崩溃,差点丧命,进行警告,中国不忍了……有网友因此用标题党式段子讽刺标题党:震惊!原来标题党是这样取标题的,惊呆所有人!

但这些标题党今后也得收敛些了,因为它们很难蒙过“灵犬”的火眼金睛。

就在2月20日,今日头条方面宣布,由其推出的国内首款反低俗小程序“灵犬”全面升级——除了反色情低俗,新版“灵犬”还加入了反暴力谩骂和反标题党能力。这是“灵犬”上线近一年后迎来的先个重大更新版本。至此,“灵犬”的检测服务,已经覆盖了主要的低俗低质内容类型。

今日头条“灵犬”升级:“反低俗”的技术效能

“灵犬”的全面升级,对已成规模的内容创作者而言,无疑是看得见的利好,这意味着他们对内容的优化有了更完备的参照系;对作为信息消费者的海量用户来说,也是熨帖人心的消息,这有助于减少“垃圾信息污染”。在“灵犬”已全面向社会开放的背景下,这也能带动整个内容行业质量层次与健康度的提升。

“反低俗”已成内容平台治理领域的全球性议题

“人是技术的尺度”,技术当为解决民众的痛点而生。本质上,脱胎于今日头条反低俗算法模型的“灵犬”,在识别范围上扩充,瞄准的也是纾解公众的痛点。

“网友苦劣质内容久矣”,这不是什么揶揄。揆诸当下,那些藏污纳垢的低俗低质内容,既拉低了许多内容平台的质地,也让用户们动辄觉得被“欺骗感情”“毒害心智”。

现实中,大量追腥猎奇逐臭的信息,都是想通过迎合原欲的方式引关注、博眼球,通过“尖叫效应”去收割注意力资源。将人们的本能欲求导向正常的疏泄通道,当然没问题。问题是,这些低俗低质内容缺乏基本的价值观介入,缺少公共理性的加载,到头来,端上的也绝非什么补品,而是“掺了地沟油的毒鸡汤”。

如果说,在内容创业兴起初始阶段、内容平台生长初期,平台内容池的丰富,还需依靠低创作门槛、宽松审核机制和强力流量扶持去托起“风口”,这类打着色情、暴力擦边球的内容会趁虚而入,那到了现阶段,这样的“野蛮生长”已很难为继。

随着内容市场已从小森林变成大生态圈,人们的信息消费层次渐次升级,监管层面也已走出新业态管束力度与发展规模不适配的“不对称监管”状态,平台内容供给侧对准的目标从“量的增加”转为“质的提升”,内容行业由粗放增长转向精细化运营,就成了必然。在此背景下,“反低俗”已成了各大内容平台必须正视的课题,也是内容生产商无法回避的命题。

今日头条“灵犬”升级:“反低俗”的技术效能

当下,各大内容平台也都意识到了低俗低质内容的危害:那些劣质内容固然可以凭着哗众取宠获得灰色流量,但它们自身是没价值的,既无法固定高质量的忠实受众群,其弊害还会外溢——惑乱用户心智,并侵蚀平台价值,稀释信息价值浓度。

公众不是信息消“废”者。当内容平台上“劣币”充斥、垃圾信息过载,势必会抬高其有价值的信息获取难度,损害其用户体验,终成为平台自身的痛点,反噬其吸引力。

所以,内容平台遏制低俗低质内容,是在履行平台治理责任,毕竟在“避风港原则”下的平台中立责任向“红旗法则”下的主体责任转换的形势下,平台方“守土有责”且责任分量正在变重;也是对平台自身负责,之于这些平台们,内容是流量的源头活水,涵养出了有质量的内容池,才能真正维系平台的生命力。

也因如此,国内外的大体量内容平台都在“反低俗”上不断加码,“反低俗”也成了内容平台治理领域的全球性议题。

“灵犬”能实现反低俗内容审核流程的前置

拿国外的巨头型社交平台Facebook来说,自2016年8月起,Facebook就宣布打击标题党,凭着AI对虚假新闻造谣网站加以识别,对内容通过disputedflags的方式进行标注;并通过对NewsFeed功能算法的修改,箭头直指标题党。而Google为打击假新闻,“重写搜索排名算法”,对具备误导性、虚假和令人反感的文章进行排名降级。

国内的微信、微博等平台在这方面也有动作。像微信官方就封禁及处理大量发送低俗类内容的帐号,删除无数的相关文章,还引进了专业的第三方辟谣机构,建立了“洗稿”投诉审核体系;微博则在对内容人工识别外,借助“外脑外力”建立了微博监督员机制和谣言粉碎机,并在推荐算法中增加权威媒体的权重,以确保优质内容优先呈现。

作为智能分发的先行者、致力于打造基础设施完备的内容平台,今日头条在打击低俗低质内容方面也不遑多让。无论是与国外高校联合成立的“AI反谣言研究联盟”,是通过信息自动抓取和语义学习等技术、自动谣言识别模型,以打造反谣言全球技术平台,还是建立“网络安全委员会”,数千名审核编辑把关与人脸识别、活体检测技术、动态关键帧技术、图像建模识别技术和OCR识别技术结合,都是锚定“反低俗”的靶向发力。

而“灵犬”的推出,更是内容平台治理的观念迭代与方式进阶。“灵犬”是向用户开放的,用户可在检测框内输入文章标题或链接,“灵犬”就能进行提取、分词和语义识别,根据算法规则,输出对应的分数、评级和结论。这结果包括,文章是否可以获得推荐,是否需引入人工判断等。创作者可根据反低俗模型给出的鉴定结果,来修改文章或标题,以获得更多推荐。

虑及今日头条等平台实行的是OGC、PGC、UGC并行的内容生产模式,“灵犬”对用户的技术赋能与之结合,也能生成反低俗内容审核前置的流程机制。也就是说,“灵犬”对色情、暴力内容和标题党的筛查审核,能提至事前事中,很多低俗低质内容能在发布前就被“判死刑”。

比起当下绝大多数平台“举报-受理”的事后监管处理模式,“灵犬”发动创作者和用户参与、汇聚网民力量,带动反低俗内容审核流程前移,本身就是一种“升级”。

“反低俗”别光靠人工,更要向技术要效能

“反低俗”的内生动力是平台责任感。去年,今日头条CEO陈林在生机大会上表示,内容生态要长远发展,平台必须主动负起内容管理的责任。今日头条将对外开放更多技术模型,和行业一起提高平台生态标准。

“灵犬”的对外开放、优化迭代,正是今日头条承担“信息分发维度社会公共基础设施”责任的体现。

今日头条“灵犬”升级:“反低俗”的技术效能

几乎可以预见,“灵犬”也能帮助更多平台提高内容质量治理的效能,节省审核筛查成本——因为“灵犬”反低俗靠的是技术能力,依托这样的智能技术,那些低俗低质信息会在传播链条前端就被更快地截断。

值得一说的是,互联网信息平台传统的“反低俗”手段,主要依靠人工审核,其准确率虽然高,但对海量信息却很难实现快速审核;而专业审核团队的扩容,也很难完全赶上内容总量指数级增长的速度。

今日头条推出的“灵犬”,通过技术手段,比较高效地实现对虚假及低俗内容传播的有效阻断。同时配备专业的审核团队,做二次把关。

向技术要效能,人工、技术手段有效结合,“人机结合”自然也能织密“反低俗”网络,提高内容质量治理效率,更好地净化内容生态。事实上,也只有Pass掉那些低俗低质信息,信息才能真正创造社会价值。

说到底,这个社会需要有价值的信息供给,而非低俗低质内容“滥竽充数”。而“灵犬”的对外公开与技术升级,也是以广谱赋能,带动整个行业平台治理能力的提升。这对清朗网络空间与清正信息环境的营造,对公众免受“低俗信息荼毒”权利的保障,显然都大有裨益。司马徒(媒体人)

免责声明:凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。