网易精品，借助人工智能过滤有害信息

这是杭州一号线地铁的场景图。坐地铁是一个漫长的过程，有时会让人习惯性地清空头部。但是3月20日，当每个人都进入地铁时，很多人都会停下来仔细观察地铁上的每一个内容。一瞬间，“网易红”网易云音乐选择了一些网友评论，并在杭州地铁上展示。这件事引起了朋友圈的转发。也许很多人会认为这是一种营销策划活动，但实际上是网易云音乐多年内容运营的积累和沉淀。在这列火车上真正感动每个人的是那些温暖的文字，并引起了共同的情感，这是内容操作的核心。产品操作和内容操作有很强的关系，我们都渴望用户生成一些高质量的内容，但当用户生成高质量的内容时，首先是能够真正感动用户的内心情感，如果用户愿意与你互动，内容可以使产品的另一端每个用户的心和情感紧密联系在一起。因此，很多人会认为网易的产品做得很好。为什么？因为用户的心是紧密联系在一起的。因为越真诚越感人的东西，越能引起更多人的共鸣。内容操作到底要做什么？该怎么办？网易将内容分为白、灰、黑三层。白:如何让高质量的内容自我涌现？什么是高质量的内容？怎样挖掘？最真诚、最真诚的事情往往最能打动别人。父母在节日期间给你发了一条短信：“天冷了，加衣服，别感冒了，注意身体。最近工作很忙，记得休息。“就是这样，一些简单的内容会打动我们的心。高质量的内容健康、真诚、理性、友好。这里强调理性，你会发现网络云音乐评论可能有一些内容显然是表达正确的歌手的想法，但一些粉丝会认为你不能说我的偶像不好，然后产生一些撕裂内容，如果是这样，其他用户点会有一种温暖的感觉吗？因此，这并不意味着产生热点的东西一定是好的。产生热点的东西必须是理性的，必须是非常健康、真诚、理性和友好的。网易和贴纸起源于2003年，这个产品已经很久了。网易后续帖子非常重视生态建设，会对一些信息进行筛选和过滤。在这个过程中，用户会有很多职称:后续帖子主任、后续帖子副主任、临时工等。用户真的很想展示自己的官位，这就是用户对优质资源的肯定，同时也会有很强的参与感，并得到认可。当然，内容输出也是生态建设的一部分。其实网易有很多新鲜的热词，比如蓝翔等等。如果用户觉得好玩，操作会加入一些玩法，比如用户的成长体系，诗词接龙等等。这样，当许多用户打开网易贴纸时，他们会觉得很有趣，比如二楼的法律。这种文化形成后，用户自然会感到有趣，并阅读贴纸。甚至有一个想法：贴纸总是比新闻更有代表性，更真实。因此用户慢慢觉得跟帖评论是必看点，比看新闻滞留时间还要长。网易云音乐真正温暖的是那些话。对用户来说，是什么样的魔力让他们愿意输入这些文字，把自己的情感放在网易云音乐上？从操作的角度来看，我们都知道网络云音乐有歌曲列表、动态、专栏等，用户会认为网络云音乐的推荐做得很好，如果用户听他们喜欢的歌曲，他们会慢慢愿意做一些互动。因为很多人听歌曲会看歌词，甚至会把一些感人的歌词发送到朋友圈，这种感觉产生了共鸣，会受到别人情绪的影响，会慢慢有自己的互动，他们的情绪也会影响别人，别人的故事会成为另一个传说。此外，网易音乐云还整合和转化了高质量的内容，并将每周流行的高质量评论作为一个集合推送给用户，让用户在网易云音乐中不断获得温暖。听音乐的原因是不同的。有些人心情不好，下班后或锻炼时，所以云音乐需要做的是给你一个非常好的地方。你留下的评论肯定会给其他用户带来温暖。灰:如何将劣质内容纳入规则？当产品达到一定量时，会吸引很多劣质内容，包括评论中的相互撕裂，会充斥整个产品。许多产品在设置板块时都有两部分：“流行”和“最新”。如何确保用户在打开产品时看到的内容不能说质量有多高，但至少质量不低？对于操作来说，要保证用户在打开产品时所看到的内容能带来温暖、强大、直击内心。因此，操作要做的就是让高质量的内容出现，淘汰低质量的内容。有些用户可能不会故意制造麻烦，但他发送的内容不会引起整个产品氛围的用户共鸣。对于这样的内容，我们应该进行指导和筛选，告诉用户我们喜欢什么样的内容，我们不喜欢什么样的内容，让用户和我们一起做好这个产品。网易云音乐有一个评论区规则，在手机上搜索“云村派出所”，在大厅里会清楚地告诉你哪些评论喜欢网易云音乐，哪些不允许，这是让用户知道云音乐需要什么样的评论，希望用户理性地表达情感。同时也要定义内容，哪些是劣质的，哪些是优质的，否则用户就不知道这个平台的基调是什么，标准是什么。因此，操作需要非常清楚自己的产品基调。上图摘取了“云村派出所”的几条规则。对热门评论进行优化，即使是热门评论，但如果不是高质量的内容，虽然不删除，但仍会进行定期筛选。网易云音乐会对重复评论和灌水进行清理，就是细化到这样的程度。每个人都害怕垃圾虫随时占用你的产品。因此，你必须保护你的用户。你不能说垃圾虫不在乎。你可以轻松地享受主题活动。如果一些主题用户在发送后立即删除它，用户将很难在以后发送此类主题。所以我们需要有这样的部落，这样的感情。如果帖子不符合主题，也会做一些相应的处理，也会有一些标准告诉用户哪些信息受欢迎，哪些不受欢迎。黑：如何通过人工智能过滤有害信息？黑色是违反国家法律法规的信息。为什么要细分这些内容？在处理用户数据时，如何处理与用户的关系是操作中需要考虑的问题。上图显示了2016年网易清理的300多亿垃圾信息。如何处理如此庞大的数字？网易在做这件事的时候，参考了很多从宪法到司法解释的法律法规，梳理了这么大量的信息，否则用户会问为什么会带着不好的心情删除我的东西。因此，网易对每一种垃圾分类都有法可依。什么样的有害信息分类系统？国家安全、社会安全、民生安全三个层面。国家安全是一条高压线，每个项目都有专人跟进，因为不同逻辑信息的性能不同。社会安全需要强调。网易的产品也有考拉海购等电商。不同的产品有不同的做法，比如色情中小说的展示和社交，但是社交直播是不一样的。违禁是根据国家法律法规区分一些禁止销售的产品。网易会对这些有害信息进行梳理，针对不同的模块对症下药。为了确保用户第一次看到的不是有害信息，我们将区分这些信息，如QQ组的近音词“QQ勤奋”。我们会做一些鉴别，整理一下这些内容。有人说在这种情况下做关键词就好了。关键词的问题是简单粗暴，会有正常的语境，比如 “口交” →“24口交换机”？因此，如果在这个时候使用非常直接的方式，用户体验是非常糟糕的。因此，我们将对汉字进行深入的研究，包括中文语法和汉字的研究，以抵抗干扰。但最终整套安全是系统化、智能化(注册保护、登录保护、活动反作弊、反垃圾等)。).许多操作将在开始时提倡注册，然后看到许多可疑的垃圾注册数据，具体表现为随机产生的无意义字符串，但当这些账户没有交互行为时，处理的基础是什么？用户在处理后抱怨你的原因是什么？因此，我们需要借助成熟的人机识别技术进行筛选，从科学的角度识别机器人和自然人。另外，在法律基础上，这是一种破坏计算机系统的行为(详见《中华人民共和国刑法》第286条)。有了科学依据和法律依据，我们就有了依据。同样，我们也有登陆保护，一环扣一环。注册保护、登录保护、反作弊都是基于人机识别，反垃圾是从内容维度进行保护的。想象一下，黑灰生产只能使用非法工具以低成本增加利润，其最终目的是商业利益（恶意推广），所以更多的保护是增加黑灰生产的成本。同样，这些有害信息也会在各种业务场景中遇到。我们最害怕的是，如果突然失控，原本想象的感情和温暖人心的东西就不复存在了。当用户看到充满垃圾的产品时，他们怎么能告诉他感受呢？所以我们需要过滤掉一些有害的信息，让用户看到一些高质量、真实的内容。网易内容运营涉及的核心技术很多人说IP可以换，账号可以换，但是最重要的设备呢？很难做到独一无二，但网易做到了，只有在设备独一无二的前提下，才能保证所有策略的准确性。同时，借助人工智能和大数据分析的一些技术手段，我们可以智能地防范各种安全风险。比如图像鉴黄，面临的挑战是快与准。也就是说，整个测试过程在100毫秒内完成，不影响在线用户体验，而是准备识别，大大降低了有害信息的曝光率。要做到这一点并不容易，但我们必须在内容操作中把高质量的内容放在第一位，用户体验放在第一位。垃圾特征库，哪些信息需要操作，哪些信息需要快速过滤，如果你了解人工智能算法，你会知道深入学习需要一个周期，如果有特点，你可以总是处理，甚至添加策略规则可以总是在线，缓解一些在线问题。最理想的情况是机器在用户发布的毫秒级别内自动识别。假设有不好的信息，你是否有能力处理紧急情况，你的操作是否能快速找到信息，然后杀死它。对于网易来说，已经积累了成熟的技术团队和安全经验。我们之所以愿意公开这个评论规则，是因为我们积累了这样的技术实力和经验。让高质量的内容自我涌现，让低质量的内容纳入规则，借助人工智能过滤有害信息。用户会感受到用心做产品，用心操作。