36氪深度文:陌陌、Soul、Uki……用户内容风控测评-ITBEAR科技资讯
您的位置:一分时时彩>>媒体评论

36氪深度文:陌陌、Soul、Uki……用户内容风控测评

发布时间:2019-09-27 17:02:42  来源:36氪 吴怼怼   背景:

  早年,Facebook曾联合部分知名高校的学者做过一项研究:以689003名用户的好友动态信息流作为研究样本,通过修改信息分发的算法,人为区分出消极情绪偏向或积极情绪偏向的内容,强方向性地给研究样本中的用户进行曝光。

  研究结果表明,获取更多消极倾诉偏向的用户,在发布动态等行为上也更偏向消极情绪,反之亦然。有的研究者把这种现象称之为“情绪蔓延”,简而言之,在社交媒体上你给人们曝光什么,人们的心智也会随之发生改变。

  由此可见,社交媒体的影响力早已超出普罗大众的普遍认识,这些基于社会化网络的内容生产与交换平台早已在经意或不经意间给我们带来了深远的影响。

  著名的《连线》杂志创始主编凯文·凯利在其成名作《失控》中曾表明一个犀利的观点,他认为人类历史曾经发生四次认知颠覆,其中就包含了来自弗洛伊德的研究理论:我们的意志不是一个独立的个体,它其实是多股意见和不同意识的综合体,实际上我们连自己的意识都不能完全主宰。

  所以也不难理解,为什么全球范围内的社交媒体在内容管控上都在走向强干预。在信息爆炸的今天,如果社交媒体的内容走向过度倾向负面,那么集体意识走向失控的风险就会无比放大。

  不同媒介的机器辅助审核

  随着市场与行业的升级,社交媒体中信息传播的媒介与形式呈现了多样化、创新性的发展趋势。视频、音频媒介的广泛流行给内容审核工作带来了新的挑战,直播、去中心化的UGC内容相对以热门推荐算法主导的资讯流又有更高的即时性要求。

  不过,得益于人工智能及算法技术近年来的迅猛发展,利用机器,互联网行业已经发展出基于不同媒介维度的辅助解决方案。

  文本内容:最基础的处理工作是匹配词库进行分类处理,现有的词库按风险严重程度可以划分为涉政词与敏感词两大分类。尤其可能涉及政治违规的关键词需要严格进行处理,而敏感词中除了明确公众普遍不可接受的词汇外还有大量在不同场景下有不同语义的敏感词,如果完全统一处理就很容易给用户带来体验损害。

  举个例子,“约”一词就需要根据其实际的词汇组合以及语境来进行判断,“明天去看电影,约吗?”就不是需要处罚的语句。在此基础上就衍生出利于上下文内容判定语义的语义分析,以及根据聚类分析判断与垃圾文本的相似性的结果判定。

  图片内容:机器对图片类型的内容审核,其底层是图片识别的技术应用。所有的物品图像都有它的图形特征,图片识别则可以以其基础特征为基础进行判断。以足球为例,其球状圆形球形以及遍布五边形的图案就构成了其基础特征,图片识别通过算法提取图像的特征值,计算特征值的相似度匹配物品图像原型。

  以此为基础逻辑,图片内容的各个场景得以被辨识并应用到内容审核中,比如下图以网易易盾的图片检测的产品介绍为例示意其应用场景。

  (网易易盾的图片识别应用场景)

  音频内容:音频内容审查包括音频与视频两个类型媒介的内容提取。音频识别的技术基础建立在以声学模型建立的发音模版,通过匹配发音模版判断出语种和对应表义,输出可被计算机理解的语言结果。

  在内容审核应用上,一种通用方法是将语音识别为文本信息后复用文本内容的判断模型。在语音识别中,面临音频背景音嘈杂的场景还需要进行降噪,而多音轨发音场景下要实现准确识别也是一大难题。

  视频内容:视频动画的实现终究是基于画面帧的连续播放,故对于视频画面内容的处理,目前通用的解决方案是截取画面帧进行识别,最终复用的是图片识别模型判断涉黄、暴力、血腥等违禁内容。一个仅仅几分钟视频所拥有的图片帧数量极多,其中截帧的频次越高,数量越多,该视频出现违禁内容的风险越小。

  可见,以上几种不同媒介的机器审核目前于业界已经有基础方案。但实际应用可是复杂多样,机器审核无法完全解决诸如多音轨语音、完整图案干扰、文本植入变异敏感词、视频“闪现”违禁内容等场景的问题,其终究起到的是辅助审核的作用。根本逻辑即是通过机器审核剔除明确违规的内容,剩下的内容最终交由人工审核判定分发。

  UGC内容风控设计

  与热门推荐算法导向的“资讯”、“内容”向产品不同,微信、QQ及一众新兴社交软件的UGC动态内容生产高并发,用户体验有更高的时效性需求,如何把握用户体验和内容审查就成为其风控的一大要点。以下选取QQ、陌陌、Soul、Uki四款社交软件,以色情维度的信息为例,测评其在内容风控上的产品设计。

  发布动态

  在动态社区中,“聊骚”这样一个敏感词的判定标准上,4款软件有不同的定义。除了Soul已然将其判定为不可发布与传播的内容外,其他三者均能进行发布分发。而在非文本媒介上,行业标杆QQ与Soul已实现较为完善的内容风控,尤其Soul在发布明显可判定为“色情”的图片、音频、视频内容后,其发布账号会在内容审核后直接被采取封号处罚。

  而Uki与陌陌在动态社区的内容风控上显然有所不足,两者的图片内容发布也会先经过机器审核,在图片识别为违规内容会阻断发布直接删除内容。但实测中在Uki发布一段娇喘音频会先分发到社区,在获得8分钟时间的分发经人工审核后方被通知内容违规进行删除,其审查逻辑是审查即时性的“先发后审”。

  而实测中的陌陌对音频、视频的审查最为宽松,自期违规音频、视频内容发布后的数个小时后,其违规音频、视频内容都未进行删除处理,甚至可通过其小程序进行分享。

  (陌陌通过其K歌功能发布音频内容)

  (陌陌的违规视频动态自发布后数小时内无任何处理)

  经以上实测,目前正进行整改的Soul在内容审查上的判定标准与惩处力度最为严厉,4款社交软件中在动态社区中达到了4种媒介的完善审查机制的仅为QQ与Soul。UGC内容行业要升级审查机制,绕不过真正“先审后发”的实现途径,尤其陌陌与Uki因为审查不严所带来的内容审查风险就极易失控。

  价值观仍然是一根金线

  上文之所以一直强调机器审核的辅助定位和“先审后发”的重要性,究其根本是因为如果在缺乏强有力的人工审核主导作用下,就无法实现内容全面风控,陌陌与Uki的实测案例就应该印证了这一点。

  不同的敏感内容基于表达主旨有不同的表义,以“聊骚”这一敏感词内容为例,所涉及内容在社区网站是否视为违禁,取决于网站运营者基于自身价值观导向所制定网站规准。又例如当用户在社区中发表对美丽向往又不裸露的“性感”内容时,如果单凭机器思维统一以违禁方式进行处理,那么对用户体验而已无异为一场灾难。

  在这种场景下,唯有运营者依据制定出合理且大众公认的性暗示程度标尺进行判定,才能达到用户体验和内容安全的和谐平衡。

  人工强干预除了保障内容全面风控,其另一重要工作就是引导内容社区的价值观走向。在新时代环境下,网站开发者思考如何遵循政策倡导迭代产品尤为关键。以部分网站中推行的青少年模式为例,就是近年来创新地将产品功能设计与内容运营相结合的成功案例。

  经过近年来网信办领导下的一系列整顿后,尤其短视频领域内众多社交媒体内部已建立坚实的内容审核编辑责任制,组织架构上突出“人”在内容风控上的主导地位,如“快手”、“抖音”等社区的内容调性和审核标尺的进步最为直观。

  但仍有部分已建立内容审核编辑责任制却落地不到位,拥有较多资源却又在新媒介内容审核上技术投入不足,以致内容审查机制松懈的网站就需要继续努力,肩负起更多的社会责任。仁以为己任,不亦重乎?

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站一分时时彩 本文来源:36氪

本文评论
友情提示:评论功能暂时关闭,请扫描上方二维码进群交流!
36氪深度文:陌陌、Soul、Uki……用户内容风控测评
早年,Facebook曾联合部分知名高校的学者做过一项研究:以689003名用户的好友动态信息流作为研究样...
日期:09-27
2019云栖大会:友盟+携四大互联网企业探讨如何通破解增长困境
9月25-27日,主题为“数·智”的2019云栖大会在杭州举行。本次云栖大会聚集了来自...
日期:09-27
媒体:维信诺OLED国产柔性屏进入华为供应链体系
9月26日消息 9月24日,小米在北京总部小米科技园正式发布了小米MIX Alpha 5G概念手机,屏占比了180....
日期:09-26
福建石化:数字化至关重要,组织重构与业务重构是两大难点
2019年8月23-25日,以“数字企业 智能服务”为主题的2019全球企业服务大会在海南三亚湾红...
日期:09-24
外媒解读苹果5G七大传闻
随着苹果正式开始销售iPhone 11和iPhone11 Pro,很多人一直在问,在超高速5G网络全球蔓延之际,投资...
日期:09-23
外媒评价华为Mate 30 Pro手机:硬件让人印象深刻
在慕尼黑的发布会上,华为正式推出了Mate 30系列手机,其中Mate 30 Pro不仅有麒麟990处理器,还用上...
日期:09-21
艾瑞《中国基础云服务行业发展洞察》显示:2018年京东云进入中国公有云市场前十
9月18日,权威调研机构艾瑞咨询发布《中国基础云服务行业发展洞察》,该报告对2018年公有云市场竞争...
日期:09-19
分析师:新iPhone将引发升级热潮,销量有望达2亿部
多名华尔街分析师周一表示,苹果公司最新款iPhone的销量可能高达2亿部,由旧设备现有用户的升级热潮...
日期:09-10
拆解趣头条Q2业绩:增长减速、效能提高
摘要: 趣头条的核心指标是Per DAU 营收、成本和利差。总体而言,趣头条依靠对下沉市场的把控,在整...
日期:09-06
艾媒发布输入法行业报告:百度输入法语音输入用户数达2.71亿,规模居行业第一
近日,全球知名的新经济产业第三方数据挖掘和分析机构艾媒咨询(iiMedia Research)发布《2019上半年...
日期:09-04
媒体:金立品牌“复活”系二股东卢光辉拿到品牌授权
9月3日消息 昨日,时隔九个月之后,金立手机官方微信再次发文宣布推出金立新机M11与M11s,并详细阐...
日期:09-03
抖音快手的新战场与老问题
  如果从2017年下半年开始算,短视频大战已经打了整整两年。很有意思的是,两个主导行业的平台——抖音和快手,用户越打越多,抖音超过3亿日活,2亿多日活的快手也在冲击此目标。
日期:09-02
亿欧世界人工智能大会现场发布报告,解读千亿级送餐机器人市场
8月30日,在2019世界人工智能大会“AI进化论·人工智能创新成果Show”分论坛,亿欧...
日期:08-30
下线“不限量”套餐,运营商开启自救之路
2017年年中,混改后的中国联通借助BATJ等互联网大佬把持的线上渠道,以线上+线下融合为入口,开启了...
日期:08-30
ofo将在北京推行有桩模式,单车之局未终结
划重点:
  数十亿债务无新的投资方接盘,主要股东滴滴、阿里、经纬既没有解决问题的意愿也...
日期:08-30
荔枝与广东全省新闻单位深入研讨交流:为未来一代传递更多正能量
8月28日下午,广东省全省新闻单位总编辑(台长)培训班一行90余人,实地走访了羊城晚报报业集团创建的...
日期:08-29
极光:音乐社区或为制胜法宝,网易云音乐近年快速发展,日均新增用户超75万
音乐社区已成趋势,年轻人的心思谁来猜?极光 (Aurora Mobile,NASDAQ:JG)发布《国内在线音乐社区研究...
日期:08-28
中国日报点赞Soul青年:展现了独特而美好的精神世界
“30个Soul用户视频,不同的肆意青春”,8月24日,中国日报在年轻人文化社区Bilibili站内...
日期:08-27
聊聊苹果保密措施   新iPhone曝光还原度高达90%
在之前发布会中,苹果一直表示对自家产品有着极高的保密措施。
日期:08-21
拼多多的野心
“下沉之王”、“游戏化生存”、“流量洼地”、“五环外&rdquo...
日期:08-21
  专栏介绍
半斤 的专栏
半斤发表的文章
积分:
自我介绍 :
 
秒速快3 飞速赛车平台 PK10牛牛 山东11选5 吉林快3 澳洲幸运8 幸运赛车 极速PK拾 德国时时彩 澳洲幸运10开奖结果