专家观点 | 平台算法应用的安全风险与法治规范

文 | 北京航空航天大学法学院 赵精武 刘舒畅

2024年11月，中央网信办秘书局、工业和信息化部办公厅、公安部办公厅、市场监管总局办公厅联合印发《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，针对平台算法应用常见的信息茧房、操纵榜单、侵害新就业形态劳动者权益、大数据杀熟等社会公众关注的热点问题，实施专项整治行动。此次行动以强化算法向上向善服务为目标导向，严格落实平台的主体责任，确保算法技术不被滥用。从行动成效看，各大网络平台积极配合，围绕正能量信息推送权重增加、用户自主选择权保障等核心环节进行功能优化，算法滥用现象得到有效遏制，算法应用方式持续优化。但算法治理是一项长期性、系统性的工程，面向平台算法应用的业务模式创新，监管机构不仅需要“时时看”，还需要“回头看”，关注平台算法应用的安全风险，引导和督促平台持续优化算法服务模式。在此背景下，中央网信办相关负责人在2025年5月公开表示，“清朗·网络平台算法典型问题治理”专项行动开展以来，重点平台信息推荐算法治理取得了一定成效，但还存在相关功能使用效果不显著、推荐内容质量不够高等问题，与广大网民和社会各界的期待相比还有差距。网信部门还将开展常态化巡查，督导信息推荐算法平台持续优化算法运行机制和管理规则，不断提升推荐内容质量，探索多样化“破茧”路径，创新用户赋权功能，切实维护网民合法权益。

自《互联网信息服务算法推荐服务管理规定》等专门立法正式实施以来，平台算法应用日渐规范化，但在互联网流量经济诱导下，部分网络平台仍心存侥幸心理，将经济效益最大化作为核心目标，忽视算法应用可能导致的各类侵权风险。对社会公众而言，用户点击各类移动应用程序，首页推荐的各类网页信息、搜索结果呈现的产品顺序等均是算法应用的直观体现。但这种以提升用户体验为名义的个性化服务也产生了一系列问题：随着用户消费行为数据收集数量的增加，部分平台根据用户过往的消费能力，有意将价格更高的产品置于搜索结果前列，或者提供更高昂的信息服务，或者利用收集的消费者日常消费数据，依照一定算法逻辑，自动生成和输出个性化的销售或服务定价，使不同消费者对相同销售或服务支付不同对价的行为和现象，形成“大数据杀熟”。这严重侵害消费者的自主选择权、公平交易权。

近年来，随着常态化监管措施的持续实施，“大数据杀熟”现象已得到了有效遏制，但部分平台基于“可能感兴趣的内容”“社会热搜榜”“同城美食推荐榜单”等用户标签为用户设置“行为画像”，致使用户持续接收到内容同质化的网络信息，形成“信息茧房”。用户一旦长时间接触同质化信息，不仅实质性限制用户获取的信息类型和范围，还有可能导致用户就特定事项形成固化认知，使得平台实现对网络舆情的操纵。比如，各类排名榜单中的“明星热搜榜”“美食推荐榜”“社会热搜榜”等一度成为网络黑灰产的“重灾区”，“网络水军”通过人工智能机器人等技术工具实现规模化操纵网络评论。此外，在外卖配送等新型业务模式层面，有的外卖平台利用算法尽可能缩减配送时间，却忽视了“外卖小哥”等从业者在外卖配送过程中还会受到天气、交通拥堵等不确定因素影响。

平台算法技术滥用的社会危害性主要表现为公民个体的权益损害和社会层面的网络信息生态失序。个体层面，算法技术滥用不仅限制公民获取多元化网络信息内容的可能性，还会限制公民在购买产品或服务时的选择空间。社会层面，算法技术滥用则可能诱发网络暴力、群体对立等社会事件，更会促使网络舆情被随意操纵，威胁国家安全和社会稳定。

面对已经存在及未来可能发生的各类算法技术滥用风险，应通过强化平台主体责任，促使算法技术应用透明化。《中华人民共和国电子商务法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《互联网信息服务算法推荐管理规定》等法律法规已对平台的算法安全义务作出了详尽规定。因此，要确保网络平台充分完整履行算法安全保障义务。在2024年的“清朗·网络平台算法典型问题治理”专项行动中，监管机构也将算法导向正确、算法公平公正、算法公开透明、算法自主可控、算法责任落实等作为基本的工作目标，在治理实践中，实现这些目标必须以平台积极履行法定义务为保障。算法安全保障义务的设置始终要以促进算法技术更好更快的发展为目标。只有这些法定义务得到充分履行，才能形成有利于平台经济发展的市场环境和网络空间秩序。

平台算法安全保障义务的履行是一项长期性、系统性的工程。随着算法技术的更新迭代，平台需要适时调整义务履行方式和重心。具体而言，相关义务的主要内容包括四个层面：其一，算法应用应保障用户自主选择的能力，在增加推送内容类型多元化的同时，提升推送内容的信息质量，不能以个性化服务等名义不当限制用户实际能够接触的网络信息范畴，避免用户陷入“信息茧房”。其二，算法应用应以尊重人格尊严和维护人类主体地位为前提，而不是通过技术应用使得劳动者成为“算法操纵”“算法管制”的对象。要允许用户自行设置和调整兴趣偏好，保障用户反感的网络信息不会频繁被推送。其三，算法应用具备一定的透明性。要确保社会公众有能力知晓相关应用的基本功能和对权益的实际影响，而不是以信息倾斜的方式逃避告知义务的履行。其四，算法应用要遵循安全可靠的运行规则，持续健全算法应用安全管理机制和信息推送质量把控机制，预防平台算法应用沦为网络黑灰产的“滋生地”。平台应将内部人员与网络黑灰产勾结作为业务合规管理的重点。需要注意的是，平台算法安全保障义务的履行并不涉及对算法技术应用方式和企业经营自主权的不当干预，而是强调网络平台应当尽可能采取合理措施确保算法技术的应用结果合理合法、向上向善。

监管机构要以常态化、动态化监管措施督促网络平台严格落实主体责任。一方面，监管机构需要继续延续“清朗·网络平台算法典型问题治理”专项行动的执法模式，不定期对各类算法技术应用及其典型问题展开专项整治。特别是在网络信息传播环节，监管机构要重点审查网络平台是否实质性限制用户能够获取的网络信息类型和范围，预防算法滥用导致的网络舆情被操纵。另一方面，监管机构要以协同治理模式全面整治与算法应用相关的网络黑灰产业。实践中，“网络水军”利用技术手段规避平台内部管理措施，提供有偿增加、降低网络热度等服务，操纵网络评论，引导网络舆情导向，人为制造社会热点事件。对此，平台要严格落实网络实名制等法定义务，监管机构要以全产业链治理方式打击此类活动，力争杜绝“网络水军”通过更换账号、更换平台等方式“死灰复燃”。

信息技术的创新发展应以服务社会公众为目标，任何创新性的技术应用方式都不应凌驾于人类主体地位之上。平台在创新应用算法技术时，应严守法律红线和伦理底线，综合采用技术创新、业务合规、内部管理优化等多元方式提升算法应用的安全可靠性，实现“技术让生活更加美好”的目标。

（来源：民主与法制时报）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号