评论 | 网络平台算法应用安全背后的治理逻辑 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 北京航空航天大学法学院副教授赵精武

近期，中央网信办等四部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》（以下简称“通知”）。此次专项行动主要面向网络平台算法应用安全，进一步深化互联网信息服务算法综合治理。

此次行动并非“心血来潮”，选择以“算法应用安全”作为治理重心，原因有三：一是生成式人工智能技术突破性创新，使得与之关联的算法应用得到前所未有的功能强化，故而需要针对新技术和新业态背景下的算法应用展开专项治理行动。二是此次行动可以视为先前《关于加强互联网信息服务算法综合治理的指导意见》的延续与细化。该意见的主要目标是“逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”，而本次专项行动则是将该目标转化为具体的监管措施和执法活动，规范和约束网络平台的算法应用。三是实践中存在不少滥用算法技术的违法犯罪活动，如“信息茧房”实质性限制了用户能够获取的网络信息类型和范围，“网络水军”利用算法技术实施更具规模化、智能化的“打榜”“制造舆论焦点”等非法活动。对此，《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》等法律法规作出明确规定，我们要以这些法律法规为依据，形成长效化的算法应用安全治理机制。

此次专项行动的核心动机是保障网民的合法权益，维护网民的人格尊严和自由。因为无论算法技术如何创新、服务模式如何优化，始终需要确保“算法技术服务于人”这一根本宗旨的实现。进一步而言，专项行动背后的治理理念表现为“以人为本”，相应的主要工作任务也需要以维护个人权益为中心，这既包括对旧问题的彻底整治，也包括对新业态的重点规范。倘若从主要任务来看，专项行动似乎存在旧事重提之嫌。毕竟“信息茧房”“大数据杀熟”“网络水军”等社会问题早已有之，甚至同年颁布的《消费者权益保护法实施条例》专门设置第九条第二款，以防止“大数据杀熟”等价格歧视现象的发生。然而，人工智能等信息技术的高速创新要求治理实践持续更新，于此时开展相应的专项行动，也是为了全面回应网民普遍关注的算法技术滥用问题。以“大数据杀熟”为例，原本“看人下菜”的定价方式逐渐延伸出“随机红包优惠力度因人而异”“浏览页面因人而变”等现象。部分商家还会以“定制化服务”为幌子，试图将“大数据杀熟”与精准营销混为一谈。为了解决该类问题，“通知”专门提及，如果优惠券领取失败，严禁服务提供者以“来晚了”“擦肩而过”等提示词掩盖真实原因。

在过去，算法安全问题通常被视为纯粹的技术问题。时至今日，我国网络法治体系已经将算法安全作为需要重点回应的基础问题，并强调从研发到应用各个环节的法律规制。发生这种治理观念的大转变，是因为算法应用方式有所创新，过去的算法安全问题大多属于网络安全问题的子问题，而当下的算法安全问题则逐渐独立于一般的网络安全问题之外，衍生出算法歧视、算法侵权等新问题。更重要的是，遵循“以技术治理技术”的治理思路已经难以适应当下科技创新趋势。在技术无法有效保障算法安全的背景下，需要转向多元化的治理机制，即由法律对算法应用安全进行必要的干预。当然，这种法律干预坚持以维系算法安全和算法创新两种立法目标为前提，对技术环节作出过多干预，反而会导致算法应用发展处处受制。此次专项行动的工作目标实际上也间接反映了我国算法安全治理的基本原则，即以算法向上向善为价值导向，确保算法应用的各个环节满足公平公正、公开透明、自主可控、责任落实的基本要求。《互联网信息服务算法推荐管理规定》也作出了类似规定，即提供算法推荐服务应当遵循公平公正、公开透明、科学合理和诚实信用原则。不过，与该规定相比，此次专项行动的调整范围包括了所有涉及算法应用的互联网信息服务，而并不仅仅局限于“算法推荐服务”。

促进算法应用向上向善包含了法律和伦理的双重内涵。在法律层面，所谓的向上向善强调的是算法应用不得侵害用户的合法权益，既能够提供积极向上的网络信息，也能够有效预防和抵制网络不良信息。在伦理层面，所谓的向上向善则表现为算法应用符合科技伦理要求，不得减损用户的主体地位，尊重和保障用户的自主选择能力。当然，这种向上向善的价值导向绝非空洞的法律口号，此次行动的主要任务也是围绕这一点予以展开。

在涉及信息茧房、网络水军等“旧问题”时，专项行动的重要整治环节和事项主要强调算法应用自身的透明性。需要注意，这种透明性不能等同于算法代码的公开透明，而是向特定用户及社会公众说明算法应用的基本原理、核心功能以及对权益的影响程度。以“信息茧房”为例，该现象通常与算法推荐服务密切相关，主要是指基于用户兴趣爱好等因素，向用户持续推送其感兴趣的信息。这种“猜你喜欢”式的信息服务看似提供了优质的信息服务，但长期来看，却会使得用户能够接触到的网络信息局限于特定范围。从个人信息素养来看，这种类似“茧房”的信息获取方式会将个人的认知思维、认知视角予以固化。特别是在面向老年人等特殊群体时，在高度同质化的网络信息洗脑下，老年人等特殊群体原本的认知观念可能发生异化，容易陷入保健品营销等电信网络诈骗的陷阱之中。从社会秩序维护来看，“控制用户所能接收到的网络信息范围”这类信息服务模式一旦被滥用，轻则间接干扰社会公众的认知判断，重则容易引发网络暴力等恶性事件。因此，专项行动特别强调，服务提供者所设置的信息茧房防范机制至少应当满足两个效果，一是能够有效预防用户沉迷，二是保障用户能够自主选择是否接受推送服务。此外，中央网信办等部门近年来持续强化对网络水军的治理，并取得良好的治理效果，但随着算法技术的迭代创新，网络水军的行为方式开始呈现智能化发展趋势。一方面，网络水军利用人工智能技术实现发帖内容的多样化和智能化，而非过去机械式的重复发帖。另一方面，网络水军还能够利用算法技术，结合平台业务特征、用户活跃时间段等要素开展“定制化灌水”和营销炒作。相应地，专项行动将操纵榜单行为作为抓手，通过提升榜单背后的算法透明度和可解释性，预防和治理恶意操作榜单、炒作热点等行为。

在涉及特殊群体权益保护等新问题时，专项行动的工作重心则表现为确保算法应用能够服务于人。以新就业形态劳动者权益保护为例，外卖平台的配送算法使得外卖骑手成为“困在算法里面的劳动者”。令人棘手的是，这一问题的解决并非仅要求外卖平台调整算法那般简单，如何设置既符合外卖平台商业利益，也能够满足外卖骑手合法权益的算法系统才是问题的关键。并且，如果该问题不彻底解决，不合理的配送时间设置还可能导致外卖骑手选择以违反交通规则的方式实现最快送单，进而增加交通事故的发生概率。合理科学的算法系统应当能够最大化平衡外卖平台、外卖骑手和用户各方权益诉求，为了实现这样一种平衡状态，专项行动也将公开算法规则和畅通申诉渠道作为突破口，对算法系统作出必要且有限的干预。此外，在涉及交通管制、交通事故、恶劣天气等因素时，专项系统还提出更为直观的监管要求，即算法系统应当能够适时合理延长配送时间，设置更为合理的内部管理机制。

总结而言，配合附件“算法专项治理清单指引”，此次专项行动能够有效推动服务提供者严格落实算法主体责任，并通过具体细致的监管标准和评估指标，提升服务提供者的算法业务合规能力，建立健全内部的算法安全管理制度和技术措施，真正做到“旧题新做”。

（来源：人民法院报）

分享网络安全知识强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情