我看了部电影，反思了一些安全问题

近年来，因内容安全所带来的处罚事件此起彼伏，闲鱼这款APP经常榜上有名。作为一款二手交易平台，闲鱼始终被色情服务所围困。去年三月，闲鱼被曝充斥色情服务，在闲鱼APP上搜索“陪”，会显示出多个“陪玩”卖家，这些卖家表示可以打视频，拍下链接发“隐私部位”的照片和视频，而且打视频的话，优惠20元，想白嫖勿扰。当用户咨询闲鱼卖家视频有些什么内容时，对方很坦然的表示就是一些色情的表演服务，而且还会露出下体的隐私部位。

目前，闲鱼官方已经对这些问题进行了整改，并欢迎所有用户进行投诉，但近期的另一种新的交易模式竟让笔者脑洞大开。笔者发现，不少卖家开始推销一角硬币，而这种硬币的售价动辄几百上千元，到底是什么硬币竟然能有这么高的溢价？

原来，硬币交易的背后潜藏着同性恋色情交易，一角硬币上面的年份代表了交易对象的出生年份，图片上如果是一角硬币的正面（数字1）代表着卖家是同性恋中的1（同性恋中的男性角色），图片上如果是1角硬币的背面（菊花图案）代表着卖家是同性恋中的0（同性恋中的女性角色），而交易金额就是色情交易的单次价格。

这样新奇的交易方式让笔者格外佩服这些色情服务的提供者（笔者不排斥任何性取向但笔者不是同性恋），也不禁为闲鱼官方捏一把汗，中国汉语博大精深这句话不是浪得虚名，这种交易方式任凭机器如何学习、算法如何精进也很难能够准确理解其背后的含义，而完全通过人工来审核，先不说资源配置方面能不能满足，单看闲鱼平台的日活量，就让很多人工审核望而却步。

除此之外，新浪微博也屡屡因内容安全遭重。2021年1月至11月，国家互联网信息办公室指导北京市互联网信息办公室，对新浪微博实施44次处置处罚，多次予以顶格50万元罚款，共累计罚款1430万元。处罚原因主要是期新浪微博及其账号屡次出现法律、法规禁止发布或者传输的信息，并且情节严重。

作为当下最为火热的社交媒体之一，新浪微博在内容审核方面一直煞费苦心，撤热搜，夹图片，封账号一直是新浪微博的主要处理方式，甚至连“来去之间”（新浪微博CEO王高飞）都被网友戏称为“夹总”。即便如此，新浪微博的审核力度仍未达到用户满意的水平，不少用户表示新浪微博依然有很多提供色情服务的博主或营销号，他们堂而皇之在新浪微博上发布各类擦边图片和视频，并对外高调售卖，对不少青少年来说，这样的微博简直就是“毒草”。

目前，新浪微博并未公开自己的审核机制，但根据其“蔚蓝计划”的介绍，其审核机制为“技术审核过滤、人工主动巡查、用户投诉”三者结合。以技术审核为主，人工审核为辅，这种审核方式是目前很多社交媒体平台的“万用药”，但显然无法及时有效过滤不良信息。

国内的内容安全一塌糊涂，国外也好不到哪去。在被马斯克收购后，Twitter就一直在风雨漂泊。此前，马斯克已经裁掉了Twitter一半以上的员工，其中包括一些办公室内所有的信任与安全团队。在内容审核方面，马斯克正在寻求更便宜的方法来监测。

Twitter 目前使用机器审核和人工审核相结合的方式来检测和审查推文中的不良内容，这与新浪等社交媒体平台的做法一样。然而，跟Facebook和Instagram不同的是，推特并没有雇佣事实核查员。

知情人士表示，今年1月，马斯克告诉欧盟委员会委员布雷顿（Thierry Breton），他将进一步倚重其人工智能流程。布雷顿认为，虽然应该由Twitter自己提出监管内容审核的最佳方式，但他期待该公司雇佣更多员工以遵守《数字服务法案》（Digital Services Act，DSA）。

Twitter在一份发给英国《金融时报》的声明中说：“我们打算完全遵守《数字服务法案》（DSA），并已经与欧盟官员就我们在这方面所做的努力进行了几次富有成效的讨论。”同时，Twitter将继续利用技术和专家人员的组合，主动检测和删除非法内容，而社区说明将使人们能够以一种信息丰富、透明和值得信赖的方式了解更多潜在的错误信息。

DSA 是具有里程碑意义的立法，将迫使大科技集团积极地监督其网站的非法内容。因此，包括推特在内的主要平台最迟在今年9月前必须完全遵守其规定，否则将面临高达6%的全球营业额的罚金。马斯克告诉布雷顿，招聘将需要时间，但工作人员将在今年到位，以遵守 DSA的规定。

为什么社交媒体的内容审核这么难？主要是存在两大痛点。一是用户增长迅速，社交媒体平台用户数量越来越多，其账号注册时昵称、头像、签名等设置均需要审核，还存在批量注册虚假账号等违规操作。二是内容形式变得越来越复杂，从文字，到图片，再到现在的视频和流媒体，互联网上的数据量疯狂增加，更多的用户每天都在产出更多的内容，其中含有大量涉政、色情、辱骂、暴恐、广告导流等违规内容。

实际上，当下的内容审核在互联网行业发展已经趋向成熟，建立内容审核体系无外乎这5个步骤：

每一个内容平台都有自己的调性，很多平台因为对自己的内容定位把控不清晰或者力度不够大，就会面临关停风险。然而，过度的审核势必会牺牲用户体验，哪怕用户销售的是真的一角硬币，也不得不关闭，这样的审核力度完全可以满足法律和合规的标准，让平台免于整改关停风险，但对于这样的平台而言，是无法保留住客户的。如何取舍和平衡，才是每一个企业的关键。

那么，如何才能提高内容审核的精细度和效率？对此，全国人大代表、四川广播电视台记者王兆在去年两会上提出了有关建议，他表示，可以结合互联网平台属地管理的规定，各地成立由省级传统主流媒体组建的审核团队，作为第三方力量，参与互联网内容审核工作。

第一，从宏观政策来看，主流媒体参与第三方内容审核符合政策导向，是发挥其舆论引领作用的有效方式。主流媒体参与内容审核的大背景是媒体融合发展，第三方内容审核是扩大主流媒体影响力的一种有益尝试，它可以加快主流媒体与互联网商业平台之间的融合，让主流媒体发挥政治方向把控、舆论方向引领和价值取向引导作用。

第二，从竞争优势来看，主流媒体具有鲜明的背景优势和独特的政治站位。省级主流媒体长期从事权威新闻和内容的生产与传播，在引领群众认知、形成社会共识上拥有不可替代的权威性，其传播力、引导力、影响力和公信力受到了广泛认可。凭借对政策的深入理解和动态把控，主流媒体在内容审核标准的把握方面具有较强的权威性。

第三，从业务经验来看，主流媒体对于内容的理解和把握更加深入，关键人才储备充足。由于长期从事权威内容的原创，主流媒体积累了一批经验丰富的内容专家，能够较为精准地把握内容创作和监管的尺度标准。另外，主流媒体可以凭借自身背景，组建资深专家团队，与相关管理机构、专业研究机构建立常态沟通机制，以准确乃至前瞻地判断和处置互联网中敏感内容或重要方向。

同时，今年两会中也提到了重视未成年人，提高内容审核的议题。全国政协委员魏世忠提出，时下一方面一些主流媒体的内容让青少年产生“隔膜”，不亲近，不接地气，无法发挥应有的引导和鼓舞作用；另一方面一些自媒体的内容，流量至上，耸人听闻，夸大其词，对青少年的成长产生误导。为此他建议，要进一步强化优质内容供给。主流媒体要进一步强化正确引导社会舆论、积极开展人文关怀、繁荣发展优秀文化等社会责任，主动占领引导、教育青少年的主阵地。同时要加大对自媒体的规范和引导。制定和完善有关自媒体的制度法规，引导自媒体树立正确的舆论观和价值观。利用其灵活、贴近生活的特点，用健康向上的内容来激励青少年、引导青少年。还要注重打造一批网络正能量重点项目。通过网络平台向青少年传递中国精神、中国智慧和中国理念。

某金融科技的信息安全专家蔚晨表示，内容安全是一个很大的话题，因为内容提供方和内容提供的渠道太多了。单以IT手段是无法完全管理好一个组织的内容安全的，这需要包括PR部门、公共关系部门、风险管理部门、法律合规部门和安全部门等多个部门共同协同。CSO一个人的力量是不足以将内容安全提高的一个很高的层级，需要组织对内容安全提高重视程度，才能达到专人专岗，才能提高内容的审核力度。

某内容审核专员表示，一年多的审核岗位经验总结下来有几点体验：

1.岗位流动性大，每周周一基本上都会有一批新人入职，每个月也会有人离职。

2.天天开班前会，熟悉近期的时事热点，以及更新的审核规则，每个月月考一次，与绩效挂钩。

3.轮岗，早中晚大夜班轮换，24小时不离人，工作生活作息极不规律。

4.工作比较枯燥，每天都要审成百上千个视频，视频的内容五花八门，前几个月可能还会有新鲜感，但是时间长了就会发现自己只是一个没有感情的审核机器。

最后，他总结到，这个岗位真的就是吃青春饭，在没有未来规划的前提下，一边赚钱一边规划是个不错的选择，但如果想要找到一个长久做下去的工作，就不要在考虑这个岗位了，毕竟不能三十多岁还指望审视频来养家糊口。

某科技行业专家阿互表示，内容审核所涉及的技术包括：

OCR（文本识别技术），主要用来识别图片中存在的文字。许多违规内容，包括联系方式、色情信息、广告信息等为了规避审核，都会以图片的方式呈现。

人脸识别技术，通常用来识别政治、宗教类人物，识别到后可以直接删除或者进行风险标记。

语音识别技术，语音识别的应用场景比较多，但在内容审核领域仍然不是刚需，所以使用的较少。但也有些直播或音频平台比较重视音频对比、声纹识别技术，可以轻易识别到一些固定模式的违法违规声音。

视频识别≈图片识别，视频是画面与音频组成的以帧为单位的画面，通常采取截帧上传与服务器数据对比来识别。审核模式和图片审核相同，比如通过画面皮肤裸露状态来判断是否过于性感、是否是色情内容。

上下文语义识别技术，这种技术用来判断一句话是否能跟上下文结合，是否是一段垃圾文本。比如说，在评论区随便输入一串奇怪的文本，如果系统认为和上下文不相关，就有理由将内容放入审核区。

技术是很酷，用好了可以大量减少内容审核的工作，但内容审核技术的实施是一件很难一劳永逸的事情，其中的尺度和参数都需要人来不断维护，而且人工审核仍然是非常有必要的，并且需要的人工可能越来越多。内容审核技术的应用，仍然任重道远。

正如上述专家提到的那样，内容审核任重道远，尺度的把控尤为关键。对于CSO而言，当下的安全工作虽然很繁重，但内容安全依然不能忽视，毕竟实现安全的最大价值就是为业务发展保驾护航。