短视频审核需要从敏感词监控机制、任务分配机制、视频评分机制、发布者评分机制、员工考核机制以及人工智能识别机制出发,提高视频审核效率,减少人工成本,具体一点,就是:
1、敏感词监控机制
敏感词监控机制不仅对发布的内容有监控对评论也有监控,一旦内容监控到敏感词直接拒绝发送,评论区监控到敏感词达到一定复审要求需要对视频复审,并记录敏感评论的用户到“嫌疑人关押处”。想要让所有敏感词都被监控起来,就得需要有个丰富的敏感词库,可以从大家都知道的敏感词导进去,还可以从封号或低分内容、评论中不断获取,进一步扩大敏感词库,加大敏感词监控。
2、任务分配机制
视频每日都在产出,内容五花八门,需要一个任务分配机制,按量或地区分配视频;而且还要有个定时器,视频积累到某个量或者隔某段时间就自动分配任务给人工审核;如果视频审核人员因离职、生病请假等情况而无法完成视频内容审核,就需要一个任务再分配转入转出的功能来保证当天视频尽量当天审核。
3、视频评分机制
视频评分机制分两种,一种是连续被评为优秀视频发布者发布的视频系统自动通过审核,这个优秀的标准是非常严苛的,比如毫无污点且达到某种数目的点赞、评论和关注才可以评级优;还有一种就是人工评分机制,评分标准暂时分为低俗、色情、正常,低俗色情的直接删除反馈给发布者,同时记录下用户数据、操作者、原因和时间,做到每个审核都迹可寻,同时也可用于统计该App中发什么类型的视频比较多,用于年度总结反思用。
4、发布者评分机制
对于发布的内容可根据其每年、每季度、每月、每周发布视频的评分标签给出得分,色情低俗达到某值说明是惯犯就直接封号处理,首犯不严重或者还没到达某值就统统丢到“嫌疑人关押处”。