移动app内容巡查介绍
移动app内容巡查基于移动设备自动化控制技术,对移动APP、小程序、公众号等移动应用进行内容采集,通过内容自动比对、智能内容审核及人工内容审核方式,有效规避内容漏审、动态违规内容等业务风险。
线上内容自动抓取
对移动应用内容发布平台线上文字、图片、音频、视频等内容进行定时抓取,实现内容监管
发布前后内容比对
对移动应用线上内容与审核系统中的内容进行自动比对,定时对动态内容进行识别及审核
智能app内容检测的能力
内容更新检测
网站、公众号、微博每日更新文章数量是否存在应更新未更新的情况
内容表述错误检测
发布的内容中是否存错别字、意识形态问题、敏感信息和自定义检测内容
错链暗链检测
发布的内容中是否存在链接无法访问、内容空白、配图无法打开等问题以及被植入不可见的引流第三方链接
通过内容自动比对、智能内容审核以及智能文本纠错方式,定期进行内容巡查,有效规避内容表述不当及违规风险
不断扩招的后顾之虑
综合各路媒体报道来看,字节跳动内容审核员已扩招超2万人,快手、B站、腾讯等各平台也分别有数千人。整体不到十万数量级的内容审核员,在面对数亿人民产生的倍量内容时,互联网秩序的维护者们也显得有些力不从心。
内容审核员就如“互联网保安”,24小时在文本、图片、音频、视频的不间断“巡逻”,拦截那些黄色、低俗、涉政、广告等违规内容,如果拦截不及时,随时就可能上演“全民知晓”的内容安全事故。而长期熬夜、身体紊乱、长期面对黄色、低俗等内容,对审核员的精神,心理,造成非常大的损伤。
国内外已有不少从业者受到类似困扰,轻则“恶心到吃不下饭”,“晚上做噩梦”,严重的心理创伤,甚至可以让人变得麻木和暴躁,越来越具有攻击性,甚至有审核员猝死。
可以说,当前依靠人工审核来控制内容合规安全,已达到较高负荷的状态。
那不断扩大审核团队规模,就可以“后顾无忧”吗?显然这已不再是较优解。眼下还是平台可以增加人力成本,扩招人工、“少赚一点”的阶段,但作为企业,都会在成本和收益之间想达到一个平衡。
如果单纯把内容风险控制当成一件纯技术性的事情,或者说只认为是企业的成本负担,不能创造收益。那企业只需要准备大量训练数据,一些判断模型就可以直接拿来用,甚至还可以拿出去做成生意。但真正经历过内容安全痛苦的企业就会知道,内容风险控制掌握着企业发展的命门。
海量的内容,在人工之外如何做好内容的合规和安全?现已成了所有内容相关企业绕不开的话题,而内容风险控制细分领域头部玩家们,也瞄准了贴近人类思维的AI内容审核机制的算法研究。