服务热线:400-0033-166
万商云集 - 企业数字化选用平台

企业首选的

数字选用平台

何为内容审核?“先发后审”和“先审后发”的适用场景

2020-11-24 09:49:05 阅读(746 评论(0)

什么是内容审核?简单来说,审查用户在社交平台上上传、发布或共享的内容(文字、图片、音频、视频)。其主要目的是过滤和筛选低质量和粗俗的内容,从而生产高质量的内容,防止用户体验减少,保持良好的内容基调。在这个过程中,平台将有一个专业的内容标准作为参考。此时,一个大问题是手动筛选效率低,成本高。因此,许多内容平台采用算法进行过滤,通过人工与算法的有效结合来提高效率。过滤后的内容基本上可以保证无害,即使质量不高,也没有风险问题。此时,企业将面临先发后审还是先审后发的选择:“先发后审”:也就是说,用户先发布UGC内容,然后再审核;“先审后发”:也就是说,用户提交UGC内容后,只有在审核通过后才能在线发布。“先发后审”和“先审后发”的适用场景:“先发后审”:适用于对发布内容及时性要求较高的场景,如阅读、听歌曲等场景的用户评论。此时,用户发表的评论更为即兴创作。因此,从用户的角度来看,他们希望他们的评论能立即看到成功和有效。比如网易云音乐评论。“先审后发”:适用于在社区、论坛、新闻平台等场景下发表文章、意见、讨论等。此时,平台需要对内容负责,并建立权威,因此通常需要在审查后发表。例如:抖音,每个人都是产品经理。1、无论审核方法是什么,都应包括以下四个基本模块:机器审核、人工审核、用户投诉审核和结果审核。1.机器审核是根据制定的规则或机器学习算法来审核内容。一般来说,成熟的审核系统可以自动审核和处理95%甚至99%以上的内容。确定有问题的会自动删除,难以判断是否有问题会被标记,进入人工审核程序。2.虽然用户投诉审查和结果审查大多是人工审查,但这里提到的人工审查是指审查机器无法区分的内容,通常占平台内容数量的不超过5%.但对于一些大型内容平台来说,绝对数量已经很多了。在内容爆炸的时代,我们可以看到全国许多平台都有多个审计中心,每个审计中心都有成千上万的员工。3.用户投诉审查是前两者的补偿,以前没有出现过很多违规行为;因此,规则不能在规则可以过滤的范围内或非常隐蔽,难以严格过滤。用户投诉是发现新问题的重要渠道。通过知乎的危机事件,我们应该更加重视对投诉的审查,并及时补充机器的审查。4.结果审查通常采用抽查方法,如审查机器删除的内容,看规则或算法是否过于严格;例如,检查人工删除和通过的内容,看员工的工作是否按要求执行;例如,通过对内容的整体检查,看看是否没有注意到新的问题。2、审核流程的具体流程如下图所示:先通过机器审核,机器审核通过或不通过;如果机器审核不通过,则进行人工审核;如果机器审核通过,则进行人工抽样审核。三、这里审核的四个维度一般都是四个维度的审核,关键词审核,用户发布次数限制,重复内容过滤和白/黑名单用户。1.关键词审核词过滤链接,主要分为三类:1)只要禁止关键词匹配,内容就会自动删除或提交。通常只有少数词会被纳入禁止关键词,如清晰的色情、邪教和广告专属关键词。2)审核关键词这是最常见的关键词类型,只要匹配将自动进入背景审核,文章中的关键词将被突出和列出,帮助审核员快速判断。审核关键词也要尽量是专属关键词,防止太多内容被拦截到后台。3)在很多平台上替换关键词,我们会在文章中看到莫名其妙的号码或字母缩写*,这可能不是文章作者写的,而是系统自动替换的。这个关键词不想出现在平台上,但读者通常可以用其他代替读者来理解。例如,一些政治、宗教和不文明的语言可能会自动替换。当然,管理员在添加关键字时,往往不会直接将关键字添加到后台。否则,用户可以以非常简单的方式避免关键字过滤,比如在关键字中添加一个空间,系统很难匹配。因此,一般来说,后台将支持限定符{x}x是一个忽略的字节数,以限制相邻两个字符之间可以忽略的单词。在Discuz!网站后台有明确的说明,比如“a{1}s{2}s(不含引号)可以过滤“ass也可以过滤“”“也可以过滤”axsxs”和“axsxxs”等等。对于中文字符,如果使用GBK、Big-5.每个中文字符相当于2个字节;如果使用UTF-8版本,每个中文字符相当于3个字节。此外,关键词还可以支持正则表达式来匹配具有一定模式的关键词。比如”/1\d(10)d] |$/”(不包括引号)用于匹配手机号码。正则表达式内容太多,有兴趣可以搜索学习。2.用户发布次数的限制主要限制用户无限发送评论。在这种情况下,同一用户可以在一分钟内发送最多一条评论;每小时最多发送10条评论,每天最多发送30条评论。如果评论次数超过,则弹出“说话太累了,请休息”的提示。其实这个限制上线后,发现广告的人会不断注册新号来避免这个问题,以后可以考虑加。新用户需要注册多长时间才能发表评论,或者绑定手机号码才能发表评论。3.重复内容过滤通常用于广告。去除汉字以外的任何符号,如“抖音”、用“抖音”和“快手”对比“快abb手”;将评论与同一用户的上一条评论进行比较,如果10个以上汉字的重复率达到70%(20%,60%);30%,50%)toast弹出“请不要发布重复内容”;与此同时,评论仅与评论库最近发布的50条评论进行比较,如果20个以上汉字与其中一个重复率达到80%,机审失败(30%,70%);50,60%);在比较重复内容时,必须删除一些无关的符号。因为很多小广告喜欢加空格和逗号。因为很多小广告喜欢加空格和逗号。他们通常会备用几份文案来比较评论库;这也可以避免他们更改号码和文案的问题。4.白名单用户、黑名单用户、黑名单用户需要有一个可编辑的背景,可以随时增加或减少;如果同一用户在一天内失败超过10条评论,则自动列入黑名单。白名单的用户不受发布次数的限制,但内容需要检查广告词、敏感词和屏蔽词。如果一天内发布的评论超过10条,也将自动列入黑名单。用户在黑名单上发表评论时,弹出toast“您暂时无法发表评论”或机审直接失败。最后,IP没有限制,因为公共区域的WiFi似乎是IP。虽然我真的很想处理垃圾评论的问题,但我仍然希望在不影响普通用户的情况下。以上基本上是内容审核需要了解的一点。

内容来源:人人都是产品经理,以上内容来源于网络,不代表本站观点,如有侵权,请联系删除。

推荐阅读

企业/个人需了解,版权登记的费用是多少?

保护版权、尊重他人的智力劳动成果才能创造一个积极的创新环境。如果版权想要得到法律的保护,原创作者想要在自己权益被侵犯时维权就需要经过版权登记领取版权证书才行。进行版权登记就涉及到一个大家都很关心的问题:版权登记的费用是多少? 图片来源于网络…查看详情

视频后缀名都有哪些

视频文件的扩展名有哪些?1、后缀:.AVI AVI是Microsoft公司开发的一种符合RIFF文件规范的数字音频与视频文件格式,原先用于MicrosoftVideoforWindows环境,已被Windows95/98、OS/2等多数操…查看详情

大企业网站建设有什么好处

在互联网营销大行其道的年代,传统的营销模式逐渐开始显露疲态。大企业网站建设正是为了缓解趋势带来的压力,利用线上优势扩大企业的品牌影响力。一起来看看大企业网站建设有什么具体的好处吧!企业信息展示更全面只要企业的域名服务器允许,企业可以尽可能多…查看详情

2022年网站推广多少钱一年?

  网站的开发推广是不同的步骤,不管是开发的阶段还是推广的阶段,都需要投入资金的,下面万商云集小编给大家来详细介绍一下2022年网站推广多少钱一年这方面的内容。  网站开发阶段费用  企业网站建设制作的类型。现在市面上有各种建设各种类型的网…查看详情

版权电子登记方便快捷,不用去办理大厅,在家就能领证书

版权电子登记的出现,说明如今互联网的高速发展已经为我们生活的方方面面带来便利。曾经版权登记需要去办理大厅进行办理、交资料、缴费、领证书,而如今这些事情都可以在家就能完成。 图片来源于网络 ■ 版权电子登记流程:申请人提交登记申请材料--登…查看详情

js将任意元素移动到指定位置

javascript怎么给元素节点增加属性?DOM有一个apisetAttribute(name,value) 数据属性以"data-"开头命名js中+号的用法?JavaScript中能够在某个元素前使用‘+’号,这个操做是将该元素转换成…查看详情

万事早准备!著作权登记办理帮你解决版权相关的著作纠纷

在现实生活中,国家倡导发明人对自己的发明创造进行版权的登记,著作权登记办理好处在于维护作者及其他版权者的合法权利,有利于解决因版权所产生的著作纠纷。那么,版权登记在哪办理?该怎么办理?著作权登记的流程如下:图片来源于网络  1、申请人提交登…查看详情

microsoft账户有什么用

什么是Microsoft账户,使用它什么作用啊?"Microsoft帐户"是以前的"WindowsLiveID"的新名称。自己的Microsoft帐户是自己用于登录Hotmail、SkyDrive、WindowsPhone或XboxLIVE…查看详情

itunes u是什么软件

appstoreiTunesicloud的区别?如果都是指手机上的。 icloud相当于网盘,不过只能用于备份。 appstore是应用商店,下载软件和音乐视频的,不过中国区因为版权问题,没有音乐和视频。 itunes只包含itune…查看详情

2022年八大翻译英语的软件

大家应该都有过英语烦恼吧,看不懂这个单词,这个句子,这篇文章,那么这就体现出翻译英语软件的重要性,今天我就给大家介绍一下2022年八大翻译英语的软件,这些软件我已经为大家测过评了,都是很靠谱的翻译软件。 1.在线翻译英语 …查看详情

实体店如何做线上推广(附上详细推广方法)

  实体店铺真的太难了!房租水电越来越贵店里客人越来越少别慌✨用小程序引流在网上获得更多曝光吸引到客人就不怕房租水电涨价!引流技巧教给你~下面小编就给大家来详细介绍一下实体店如何做线上推广这一块的内容,希望能帮助到大家。;、附近的小程序  …查看详情

excel常用函数公式大全

excel常用函数公式?一、数字处理 1、取绝对值 =ABS(数字) 2、取整 =INT(数字) 3、四舍五入 =ROUND(数字,小数位数) 二、判断公式 1、把公式产生的错误值显示为空 公式:C2 =IFERROR(…查看详情

客户服务系统都有哪些?智能客服系统推荐

说道客服服务有可能我们会先想到京东淘宝等等之类的客服,那么这些客服为什么会回复的那么快并且那么精准呢,其实这也是一款服务系统在做,通过你的浏览或者是你要咨询的事情,而产生的智能客服系列,那么今天我们就来盘点一下客户服务系统都有哪些。1、智齿…查看详情

手机录屏软件有哪些 手机录屏软件排行榜

  很多时候大家都会使用自己手机进行录屏,但是很多人对于手机录屏软件都不是很清楚,下面小编就给大家来详细介绍一下手机录屏软件有哪些 手机录屏软件排行榜这一块的相关内容,希望能帮助到大家。  手机录屏软件排行榜  1、《录屏师》  它的都…查看详情

疫情期间企业如何推广? 万商学院来支招!

近日,万商云集采取多种举措保障业务的正常开展,通过产品在线购买、权益在线保障、售后问题在线解决、产品应用在线学等提升“免见面”一站式在线服务效率,助力企业突破疫情封锁、生意不耽误。国家有难,咱不添乱,在线课程,继续学习!原定2月12日开启的…查看详情

最新文章