专题·网暴治理 | 从治理框架到治理实践：网络暴力信息的全方位治理体系 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 北京科技创新中心研究基地副主任、副教授赵精武；北京科技创新中心研究基地助理研究员文彬

面对日趋严峻的网络暴力现状，继“两高一部”发布《关于依法惩治网络暴力违法犯罪的指导意见》之后，国家网信办联合公安部、文旅部、国家广电总局公布了《网络暴力信息治理规定》（以下简称《规定》），这是中国首部针对网络暴力信息治理的专门性立法。

《规定》的出台标志着我国在网络暴力信息治理方面进入了全新阶段。该文件遵循“源头防范、防控结合、标本兼治、协同共治”的基本原则，根据网络暴力信息的发展规律设置具有针对性的治理机制和配套性的治理措施，旨在构建网络暴力信息的全方位治理体系。如果信息发布者继续抱有“法不责众”“网络匿名”等侥幸心理从事网络暴力行为，那么他们必将会被追究相应的法律责任。

一、网络暴力治理的常见模式及其局限性

《规定》将网络暴力信息界定为通过网络以文本、图像、视频等形式对个人集中发布的，含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私，以及影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息。这一定义反映了当前网络暴力活动的复杂性，除了过去常见的直接侮辱谩骂等行为，还延伸出恶意揣测和故意挑起情绪对立等更为隐蔽的行为模式。

在《规定》出台前，理论界对于网络暴力治理主要存在两种治理学说，即“刑法治理模式”与“协同治理模式”。这两种模式分别针对存在相应立法规定但网络暴力治理效果仍然欠佳的现象提出对应的解决措施。前者以解释和立法为主要路径，后者则强调多元主体的共同参与。尽管这两种模式在一定程度上能够增强网络暴力治理的效果，但在实际应用中仍然存在一定的局限性。

（一）刑法治理模式及其局限性

刑法治理模式主要是以侮辱罪、诽谤罪、寻衅滋事罪、侵犯公民个人信息罪等罪名追究行为人的刑事责任，并借由刑法的威慑性有效震慑恶劣网络暴力事件的发生。一方面，针对我国现行刑法中的侮辱罪、诽谤罪等罪名，通过法律解释等方式确认入罪条件。例如，以网络暴力信息的传播为切入点，汇集刑法所有的信息传播类犯罪，分别从网络暴力信息的制作者、传播者和辅助者的角度认定网络暴力行为人的刑事责任。另一方面，可以通过增设“网络暴力罪”“煽动仇恨情绪罪”等新罪名以弥补法律治理的疏漏。然而，这两类治理模式虽然在一定程度上能够惩戒网络暴力行为人，但始终难以调和网络暴力实施者的众多性与刑法谦抑性所导致的责任承担主体的有限性之间的矛盾。网络暴力具有群体性与规模化的特征，参与主体的广泛性是网络暴力难治理的重要因素，而刑法治理模式始终无法摆脱谦抑性的限制。这意味着仅有少数人能够受到应有的惩戒，且受制于因果关系、主观过错认定困难，以及行为人事后删除相关信息导致的证据获取难题等因素的影响。刑事责任的承担主体范围始终有限，而这种有限性无法回应网络暴力参与主体广泛性的治理需求，未承担刑事责任的行为人或存在侥幸心理，进而继续实施网络暴力行为。因此，单纯依靠刑法手段治理网络暴力行为难以应对群体情绪极化导致的网络暴力乱象。

（二）协同治理模式及其局限性

为了填补刑法治理模式因谦抑性而导致的责任主体范围有限性，有观点主张通过民事侵权责任预防和惩治网络暴力行为。然而，纯粹的民事救济存在诉讼成本过高、证据收集困难以及精神损害赔偿数额有限等弊端。对于一般社会公众而言，仅仅证明“特定个人对自己实施网络暴力”或“特定个人煽动网民对自己实施网络暴力”等事实就已经相当困难，更不用说面对数量众多的网络暴力侵权主体，受害人几乎不可能逐一提起诉讼。在实践中，许多网络暴力受害者可能会选择不了了之，这也进一步助长了网络暴力实施者的嚣张气焰。因此，单一的法律责任难以有效解决网络暴力治理难题，多元主体协同共治成为网络暴力治理领域的新趋势。协同治理模式主要侧重于明确政府、企业、个人以及行业自律组织等相关责任主体的义务，从多方面限制网络暴力信息的产生与传播，降低网络暴力事件的发生概率。

然而，以往的协同治理模式过于侧重事后阶段的法律责任认定，即在网络暴力事件发生后，确认平台服务提供者、用户和监管机构对事件的发生是否存在过错。尽管事后治理固然重要，但对于受害者而言，必要的风险预防和权益保护机制同样不可或缺。以网络谣言引发的网络暴力为例，网络暴力实施者通常先入为主地视谣言为事实真相，并在平台算法的反复推送下加深内心的确信度，进而发布与传播相应的网络暴力信息。待真相大白之际，网络暴力信息已充斥整个互联网，受害者也已遭到伤害。尽管部分实施者事后会受到法律制裁，但大多数实施者所采取的措施仅仅是删除相关信息，他们对于理性发言和拒绝网络暴力的认识并未得到有效提升。在下一次网络谣言来袭时，他们可能仍然会在不明真相的情况下化身“正义使者”，发表与传播不当言论，而在事件反转后，又再次以删除相关言论收尾，形成恶性循环。

群体性网络暴力信息的发布与传播是导致网络暴力不良后果的重要因素。事后追责难以消除群体影响，故而需要转向事前预防与事中规制，在网络暴力酝酿发酵时将其扼杀，降低网络暴力信息规模化的可能性。然而，网络暴力事件的发生具有偶然性和不确定性，热点事件、时事新闻甚至道德评价均有可能诱发网络暴力信息泛滥，意图在事前阶段精准地进行风险预防并不具有可操作性。因此，事中环节成为网络暴力治理的重点内容，需明确影响网络暴力事件形成与发展的因素，并对其设置相应的制度规范，进而实现风险层层递减的治理效果。

二、网络暴力事件的形成规律和演进特征

网络暴力实际上是一个持续性的信息传播过程，由最初因热点事件、网络谣言等引发的零星具有网络暴力性质的信息，逐渐发展并聚集，最终形成对受害者造成身心损害的网络暴力信息。具体而言，网络暴力事件通常具备三个阶段性特征。

（一）诱发群体情绪宣泄特征

无论是由网络谣言、热点新闻与事件引发的网络暴力，还是纯粹因观念分歧衍生出的网络暴力，最初的表现形式大多是否定性、批判性乃至指责性的评论信息内容。然而，部分网友在匿名性心理所产生的去抑制化效应下，摆脱社会规范与道德的约束，背离客观与理性，基于自身情绪宣泄、道德指责等原因发布违规的网络评价信息。此时，网络暴力事件通常具有个体性、零散性的特征，且行为主体范围相对明确，尚未完全发展为群体性攻击活动。因此，被害人可以通过民事责任或者刑事责任实现充分救济。

（二）社会热点事件舆论失序特征

在过度追求流量经济和眼球经济的当下，部分信息传播媒介在社会热点事件的舆论扩散过程中“添油加醋”，而非“揭露真相”或“发表合理评论”。例如，在“胖猫”事件中存在利用人工智能合成受害人道歉视频的情形，这对于不明真相的“吃瓜路人”极具误导性，而对于网络暴力的实施者而言，无疑是一剂增强其行为合理性的强心剂。网络暴力实施者在对受害者进行攻击时，也会将提出合理质疑者视为与受害者“同一阵营”，并对其施加类似的网络暴力行为，进而形成“沉默的螺旋”效应。质疑者或持相反意见的网友为避免遭受网络暴力而选择保持沉默，这助长了网络暴力信息支持者的嚣张气焰，使得网络暴力信息成为“强势”观点。

这一现象的形成主要有两方面成因。一是从众心理与“群体无责感”的驱使，对于不确定的内容，选择主流观点是风险最小且最具安全感的做法；二是多元观念虽然在一定程度上会引发争议，但能够确保网民较为全面地了解事实，并在独立思考后选择支持最适宜的观点。然而，在单一观念下，网民往往会先入为主地认可所接收到的信息的真实性。在信息大爆炸时代，网民通常不会也难以对信息进行溯源验真。尤其是随着人工智能技术的发展，这加大了网民辨别信息真伪的难度，即便有网民在接收信息时对信息的真实性持怀疑态度，在平台算法机制的频繁推送下，他们亦会逐步确定信息的真实性。因此，在此阶段，零星的具有网络暴力性质的信息逐渐发展成为群体意见。

面对大体一致、情绪极端化的网络暴力事件，受害人已无法针对此类网络暴力行为采取有效救济措施，更需要平台经营者和监管机构及时干预，切断部分网络水军、网络大V、营销号恶意诱导网络舆论的负面影响。

（三）衍生性犯罪活动增加特征

网络暴力事件发展到一定阶段，往往会诱发“网络开盒”“人肉搜索”“骚扰威胁”等附加性违法犯罪行为。部分网络暴力实施者通过人肉搜索等途径获取受害者的个人信息，包括姓名、工作单位、联系方式、家庭住址等。在此过程中，网络暴力由纯粹的线上语言攻击延伸至线下的威胁骚扰，进一步扩大了损害结果。同时，在信息发布与传播渠道多元化的网络时代，“沉默的螺旋”可能会演变为“反沉默的螺旋”或者“沉默的双螺旋”，网络暴力事件中不再仅仅是一种观点的支持者对受害者的攻击，而是两种甚至多种观点的碰撞，进而引发群体攻击，即持不同观点的群体对某一方群体的个体进恶性人身攻击。因此，除了原有的受害者之外，群体中的个人也面临遭受网络暴力的风险，进一步扩大了网络暴力的损害范围。此外，更为棘手的是，部分行为人基于恶意报复等目的，通过以混淆视听等方式将毫不相关的他人说成网暴受害人，导致网络暴力事件的损害范围也就此失控。

三、网络暴力治理的应对措施：网络暴力信息全方位治理体系

尽管现行立法已经对网络暴力事件作出了较为详尽且全面的规定，但网络暴力问题从来不是通过一次或若干次立法活动就能彻底解决的，更需要在治理实践层面持续推进治理机制的有效实施。结合网络暴力事件的形成规律和阶段性特征，基于《规定》的相关治理机制，对网络暴力事件进行全方位治理。

第一，针对诱发性网络信息，为降低网络暴力的形成风险，应当限制具有网络暴力性质或诱导网络暴力行为的信息生成。具体可以从以下三个方面实现：一是弱化匿名性心理所产生的去抑制化效果。网络信息服务提供者“应当依法对用户进行身份信息认证”，强化落实网络实名制度，通过多种验证途径确保用户以真实身份注册和使用账号；二是强化用户对网络暴力的责任认知。网络信息服务提供者应当通过用户协议明确告知用户相关的法律责任，“明确网络暴力信息治理相关权利义务”，同时可通过弹窗、评论区加粗字体等方式提醒用户理性发言、文明互动；三是加强网络暴力信息预防预警机制的建立。网络信息服务提供者应建立网络暴力信息特征库、典型案例样本库、网络暴力信息预警模型等，通过技术手段强化对网络暴力信息的识别监测，限制相关信息的发布与传播。

第二，针对公众舆论背后的群体情绪激化趋势，网络信息服务提供者首先需要完善信息举报功能，“在服务显著位置设置专门的网络暴力信息快捷投诉、举报入口”，加强对网络暴力信息的及时与准确处理；其次优化算法推送服务模式，“坚持政治方向、舆论导向、价值取向”，以信息多元化为推送目标，优先推送官方信息、辟谣信息等正面消息，避免在单一信息环境下对用户造成潜移默化的影响，打破信息茧房；最后应规范新兴媒体的信息发布与传播行为，禁止以流量经济为目的的恶意炒作，加强对相关主体发布信息的合理性与合法性检查，针对发布网络暴力信息的用户“依法依约采取警示、删除信息、限制账号功能、关闭账号等处置措施”，针对多次发布网络暴力信息的用户“依法依约采取列入黑名单、禁止重新注册等处置措施”。对监管机构而言，应及时发布引发网络暴力的相关事件的调查结果，必要时应当公布相关细节，以避免因不透明与不全面而引发网友质疑与新一轮的网络暴力。

第三，针对衍生性犯罪行为，应当尽早采取行政监管措施，预防网络暴力损害结果的恶化。同时，网络平台也应当积极配合公安机关对相关犯罪活动进行严厉打击。针对评论等公开信息，网络信息服务提供应“加强对跟帖评论信息内容的管理”。除了公开信息，网络暴力实施者主要通过私信对受害者进行攻击，对此网络信息服务提供者应当“建立健全网络暴力信息防护功能”“完善私信规则”。当用户收到异于平常时期的私信时，应启动提醒机制，并在不涉及用户隐私的情况下对私信内容进行网络暴力信息监测，判断用户是否正在遭受网络暴力伤害，从而采取关闭私信功能、屏蔽相关信息等措施。当出现涉及个人信息的网络暴力信息时，网络平台应及时删除，对发布主体予以警告、注销与封禁等处置措施，并及时通知受害者个人信息泄露的具体情况，完善网络暴力信息的快捷取证功能，为网络暴力受害者提供维权便利。

（本文刊登于《中国信息安全》杂志2024年第9期）

分享网络安全知识强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情