Facebook用AI为需人工审核的内容排序

AI的应用现在是愈来愈广了，除了医药医疗、翻译、人脸识别等等的专业用途外，其实AI也可以协助社交平台去审核内容。Facebook作为一家规模庞大的社交平台，每天发布在上面的内容如此多，也在很久前就开始用AI来帮助审核内容了。而现在Facebook就把AI的应用再扩展一步，让AI把需要人工审核的内容排优先次序。

在这之前，Facebook对于内容的人工审核都是按内容被举报的时间来处理的。因此一旦出现那些违规比较严重的内容时，审核人员需要先把手头上那些较早时被举报的内容处理掉之后才可以实时处理那些严重违规的内容，导致它们在平台上得以继续留存造成不良影响。而在利用了AI之后，系统会利用机器学习基于“它们（内容）的类别、严重性以及违规可能性”来对内容进行排序，从而排出审核人员需要优先处理的内容。

Facebook利用AI来协助处理违规内容的成效其实是显而易见的，单在今年第一季度他们就已经处理了960万条涉及违规的内容，对比去年同期的570万条上升了百分之68左右。这些内容中有不少是直接就会被自动封掉或者删除的，而其余的就需要进行人工审核。

人工审核的过程对于审核人员来说是可以导致心理创伤甚至严重心理问题的。在今年较早时间，Facebook就以5200万美元与1万1千名审核人员达成了和解协议，并且承诺会把审核软件升级至默认静音以及把需审核的视频以黑白形式播放。