微信
18122438410

小红书涉黄涉“黑医美”,下架背后,UGC平台内容审核难在哪儿?

2019-10-07 17:24| 发布者: 星美传媒| 查看: |

小红书

  第四代审核技术则进入了无监督的机器学习,,对于很多缺乏标签的问题和不断更新进化的新问题,运用无监督机器学习检测信息。

  中国政法大学传播法研究中心副主任朱巍对燃财经表示,小红书上的“种草帖”本质上就是广告,因为它们都可以通过内容引流直接变现,按照2016年《互联网广告管理暂行办法》的规定,媒介方平台经营者、广告信息交换平台经营者以及媒介方平台成员,对其明知或者应知的违法广告,应当采取删除、屏蔽、断开链接等技术措施和管理措施,予以制止。

  图 / 视觉中国

  江洋告诉燃财经(ID:rancaijing),目前审核方面的技术已经经历了四个阶段。

  第一代审核解决方案以名单类(如黑名单)等方案为主,技术上比较简单,建立基于数据的名单,根据一些关键词,并通过大数据AI技术收集数据名单中的有效信号,拦截相关信息。

  除了建立自己的风控体系之外,一些公司也会去找第三方合作。

  在虚假种草和“清洗KOL”事件之后,小红书再次陷入风波。

  一家为各类平台提供审核服务的公司对燃财经表示,目前在人工智能的辅助下已经能够实现关键词黑名单、专家干预、贴标签机器学习和无监督机器学习等方式拦截有害内容,再配合以舆情监控和人工审核,能够帮助企业大大提高效率。

  他举例,比如系统监测到某账号或登陆IP之前有过欺诈行为,通过这些有限的数据让机器去学习,总结出一些规则来拦截。例如有的用户把涉黄的词汇用拼音代替,或加一个隔断符号,机器可以通过一千条类似的文本学习到这个规则,有效拦截掉类似的不良内容,这种方法强依赖于大量打上标签的数据。

  “小红书的模式可以说是社交电商中最成功的一种模式,获得了大量用户的信任。现在问题出来,对小红书来说未必是坏事。小红书应该把篱笆墙扎好,用更高的水平来要求自己。这并非是提高运营成本,而是以用户的信任和保障产品质量为基础,将来会更多地占有市场。”朱巍表示。

  图 / 视觉中国

  强监管下的自我审核

  内容社区不断的自我审核与外部监管并存基本成为常态。强监管之下,对于内容平台的审核能力提出了更高要求,一些企业也探索了新的方式。

  针对此次事件,小红书推出新版的《品牌合作人平台升级说明》,只有经过小红书平台审核成为“品牌合作人”后,KOL才可在小红书上接广告。提高门槛后,近2000名KOL被取消资格。清洗KOL的行为一度引发恐慌。

  第二代审核方式由公司启用专家系统,即把行业专家多年积累的风控和业务知识通过系统的方案固化下来,做出一些拦截欺诈的规则模型,并在风控中做一些自动化的决策。比如可以设置一个账号发广告不能发超过50条,到第51条账号就会被封。

  推荐虚假种草帖需担责

  2018年4月,快手、火山小视频安卓版APP也曾被下架整改,要求全面清查库存节目,对低俗、暴力、血腥、色情、有害节目立即下线。

  朱巍指出,假如一个用户发布了内容,平台没有推荐,点击量不高,小红书不承担责任。但如果是一些小红书进行算法推荐且内容达到很高的浏览量和成交额的内容出了问题,或是用户举报平台不处理、竞价排行内容出问题、卖家留的联系方式是虚假等情况,小红书要承担连带责任。

  除了技术因素之外,平台的主观选择也是一大重要因素,很多社交平台存在涉黄问题,但如果不打擦边球,平台活跃度可能降低。所以,在审核上,一方面黑产组织在不断与规则作斗争,开发新模式,再加上用户数巨大,技术加人工的审核难度依然不小,另一方面,平台在权衡内容和活跃度的时候,也要做出取舍。

  内容审核难在哪儿?

  7月29日,有用户反馈小红书在应用宝及华为、OPPO等手机厂商的应用商店显示无法下载。燃财经登陆某安卓应用商店,小红书APP显示内部优化中,暂不提供下载,而iOS系统目前还能下载。有报道称,iOS系统下的App Store近期也会下架小红书。

  另一方面,小红书加大了对平台的审核力度。小红书方面称,公司有几十人的反作弊团队,500人的审核团队,以及100多套数据模型打击代写、刷量等作弊行为。据小红书发布的2019第二季度社区反作弊报告显示,平台平均每天清理刷量笔记4285篇,每天有920篇人工刷量笔记被清理,平均每5分钟清理18.6个刷量账号。

  小红书上的医美及烟草“种草” 图片来源于网络

  早在2019年4月就有报道称,在小红书APP上输入“烟”进行关键词搜索,页面提示有9.5万条“笔记”,搜索“女士”、“女烟”等也会出现与“电子烟”相关的“测评”和“体验报告”,背后有很多是烟草营销机构。

  就在2019年7月30日,“灵犬3.0”发布,升级了识别类型和模型能力,支持图片识别(反色情低俗、反血腥暴力)和文本识别(反色情低俗、反暴力谩骂、反标题党)。

  最早将“种草”发展成一种商业模式的小红书,正深陷“种草”效应扩大后失控的场面。

  对此,小红书7月30日回应称,已了解到该情况,正在和有关部门积极沟通。对于下架原因,各种报道的推测包括涉黄涉“黑医美”等违规种草、被用户举报、内容或数据违规等,小红书方面未予以证实。

  他举例解释第三代和第四代的差别,比如一群猫和狗混在一起,有监督的机器学习需要一条一条的列出猫的胡须长、走路更轻等,把这些特征各打一个标签,再到群组里去识别匹配,而无监督的机器学习是在没有标签的时候,通过这些动物之间的特性和关系来区分。


本文地址:https://www.diwangzu.com/news/1623.html
版权声明:本文为原创文章,版权归 直播人气网 所有,欢迎分享本文,转载请保留出处!
  • 产品推荐

今日头条图文原创_视频原

时间:2019-08-05 24小时 急速响应

怎么代开今日头条图文原创视频原创? 第一步:网页搜索直播人气网进入本站,或者直接输入域名https://www.diwangzu.com进入本

参与206人
8折优惠中
立即报名 查看详情

酷狗歌手认证女神认证

时间:2019-08-01 24小时 急速响应

酷狗音乐人是面向所有音乐艺人和唱片公司提供的数字音乐服务,致力于广泛推广并迅速扩大公司旗下艺人或独立音乐人的影响力。

参与202人
8折优惠中
立即报名 查看详情

头条号黄V认证-优质领域认

时间:2019-07-30 24小时 急速响应

认证用户区别于普通用户,强化身份识别,提高在头条平台发言可信度;基于身份,展示多元内容,促进个人品牌在头条平台成长;

参与661人
8折优惠中
立即报名 查看详情

头号领域认证-兴趣认证

时间:2019-07-30 24小时 急速响应

头条号所有领域:新闻、社会、娱乐、电影、科技、数码、汽车、体育、财经、军事、国 际、时尚、奇葩、游戏、旅游、育儿、瘦

参与156人
8折优惠中
立即报名 查看详情

酷狗繁星女神认证

时间:2019-07-30 24小时 急速响应

为了让用户可以第一时间识别您的身份,酷狗直播为独家艺人提供加v认证,符合条件的主播可自主提交申请,官方审核资料正确后给

参与286人
8折优惠中
立即报名 查看详情
相关标签
热门资讯更多
淘宝直播刷人气还有效果吗?最近很多直播间的播主和我们反馈说,我每天刷那么多淘宝直播...
最近有同行找我们聊天,说最近刷淘宝直播的人是不是越来越少了,感觉好久都没有人刷淘宝...
淘宝直播在线观看人数怎么刷?很多人做淘宝直播的时候,苦苦于没有人观看,有些商家直播...
最新独家更多

关注我们:直播人气网

微信

官方微信

微信

移动官网

全国服务热线:

18122438410

公司地址: 东莞市虎门镇虎门寨社区大莹服装电商城7楼A729

运营中心:广州市天河区羊城创意产业园

Email:renxi@diwnagzu.com网站地图

Copyright   ©2016-2019  直播人气网|星美传媒MCN旗下网站