正文

加速完善算法公开透明，强化算法治理

admin
admin V管理员 /0 评论 /171 阅读
0111
此篇文章发布距今已超过617天，您需要注意文章的内容或图片是否可用！

点击蓝字丨关注我们

申请加入数据安全共同体计划，请在本公众号回复“申请表”获取下载链接

算法本身具有专业性、复杂性、保密性等特征，如果算法使用者故意隐瞒或利用支配地位，算法黑箱就会形成。算法黑箱一旦产生，极易发生算法使用者侵犯各方利益的行为。当前社会与算法有关的一系列问题，如算法歧视、诱导用户沉迷、流量造假、大数据杀熟、算法共谋、信息茧房等均与算法黑箱有密切的关系。而算法透明作为算法黑箱治理的重要手段，已经受到各方广泛关注。当前，国内针对与算法相关的立法和政府管理文件相继出台，算法透明已经成为算法治理的一项重要规制举措。
本文将从介绍美欧等西方主要发达国家的算法透明治理手段出发，概述相关国家和地区算法透明规制现状，同时进一步介绍国内在算法透明治理方面的工作，并对国内未来算法透明发展的新方向做简要阐释。
一、美欧等西方发达国家普遍开展算法治理活动，提升算法透明度
（一）美国：多层次协同保障算法公开透明
美国在联邦政府与州政府层面均对算法透明进行了规制。联邦政府层面，2019年10月，美国参议院提出《过滤泡沫透明度法案》1，该法案要求大型互联网平台向消费者提供更大的透明度，当使用“不透明”算法产出个性化推荐内容时须明确告知用户，并给予用户选择退出的权利。2021年5月27日，美国参议院参议员爱德华·马基和国会议员多丽丝·松井提出《2021年算法正义与在线平台透明度法案》2，该法案通过提出披露算法收集个人信息的类别以及处理个人信息的方式、发布透明度报告以及长时间保留算法使用和处理记录等一系列方法，确保在线平台履行算法透明义务。2022年2月，美国俄勒冈州民主党参议员罗恩·怀登（Ron Wyden）、新泽西州民主党参议员科里·布克（Cory Booker）和纽约州民主党众议员伊薇特·克拉克（Yvette Clark）提出《2022年算法责任法案》3，该法案将提升算法透明度作为工作重点，要求开发和使用自动化决策工具的公司应当对算法的偏见性、有效性和其他方面进行评估，以消除可能对于少数群体存在的歧视。2022年9月，美国白宫召开专家会并公布“加强竞争和技术平台问责制的六项原则”，其中包括“增加平台算法和内容审核决策的透明度”4。
州政府层面，2017年，纽约市通过算法透明法案，并设立“算法问责特别工作组”（Algorithmic Accountability Task Fore），专门监督市政府使用算法的情况，具体场景包括刑事调查、教师评估、消防、公共住房等。2022年9月，华盛顿拟通过《停止算法歧视法案》5，该法案要求公司披露使用算法的情况，并在做出不利决定（如拒绝抵押贷款、收取更高利率）时向消费者提供更强有力的解释以增强透明度。
（二）欧盟：多措并举提升算法透明度
近年来，欧盟在《通用数据保护条例》创设算法解释权的基础上，对算法透明进行了更全面深入的讨论与探索。2019年4月，欧洲议会研究服务机构发布《算法问责及透明度监管框架》6，将算法透明度与可解释性视作解决算法公平、实现算法治理的基础工具，并呼吁欧盟尽快完善监管机制和法律责任制度。2022年11月16日，欧盟委员会宣布《数字服务法案》7生效。法案采取算法问责和透明度审计等措施，以规范算法系统如何塑造内容的可见性和推广以及它的社会和伦理影响。该法案要求在线平台应当公开推荐活动所依据的算法参数，提高算法透明度。
此外，为落实《数字服务法案》，欧盟委员会新成立了欧洲算法透明度中心（ECAT），ECAT为欧盟委员会在《算法服务法案》规定的超大在线平台（vlop）和超大在线搜索引擎（vlose）系统义务方面的独家监督和执行职责提供科学和技术的相关专业知识，并针对算法风险评估提供新的透明度评估方法和最佳实践路径。 
（三）英国：着力加强公共部门算法公开透明
2020年9月，英国发布《国家数据战略》，提出政府部门将与学术机构开展合作，共同探索提高算法透明度的方法。2021年6月，英国数据伦理与创新中心（Centre for Data Ethics and Innovation，CDEI）委托BritishThinks开展的公众调查报告发布8，该报告建议政府在做出影响个人的重大决策时，对所有使用算法的公共部门组织施加强制性透明度义务，以避免高风险活动对公众造成的不良后果。
2021年11月，英国内阁办公厅中央数字和数据办公室（Central Digital and Data Office，CDDO）发布了《算法透明度标准》，以提升公共部门在使用算法工具辅助决策时的透明度。该标准主要包括算法透明度数据标准、算法透明度模板和相关工作指南三部分。其中算法透明度数据标准以清单形式列明算法使用者应当填写的内容和格式。算法透明度模板是算法透明应当公开内容的实例。工作指南是完成算法透明工作的流程指引。作为全球较早发布的算法透明度标准，英国《算法透明度标准》为公共部门保障算法透明度提供了具体指引。
2023年1月5日，CDDO与CDEI联合发布《算法透明度记录标准》9，该标准是记录和共享公共部门如何使用算法工具的标准化形式，主要内容包括记录算法使用方式、列明算法工具负责主体、说明算法决策机制、说明算法工作原理、列出算法技术规格和相关数据以及列明算法风险和影响评估等内容，该标准作为国家数据战略的一部分，将有助于制定算法透明度的跨政府标准。
二、国内加快算法治理顶层设计，突出算法透明重要性
国内针对算法治理的一系列立法和政府规范文件陆续出台，算法治理顶层设计加速完善。《电子商务法》《个人信息保护法》《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》等法律法规对算法标识、算法透明等方面进行了规制。
2019年1月，《电子商务法》正式实施10。该法第三十三条明确规定“电子商务平台经营者应当在其首页显著位置持续公示平台服务协议和交易规则信息或者上述信息的链接标识，并保证经营者和消费者能够便利、完整地阅览和下载”，用以提升电商平台交易规则的透明性。
2021年11月1日，《个人信息保护法》正式实施11。该法第二十四条第一款要求“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇”、第三款要求“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”，进一步强调了个人信息处理者自动化决策技术应用的算法透明度。
在此基础上，2021年9月，国家互联网信息办公室、工信部等九部委联合发布了《关于加强互联网信息服务算法综合治理的指导意见》的通知12，要求推动算法公开透明。规范企业算法应用行为，保护网民合理权益，秉持公平、公正原则，促进算法公开透明。督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道，消除社会疑虑，推动算法健康发展。
2022年11月，国家互联网信息办公室发布了《互联网信息服务算法推荐管理规定》13，该规定指出提供算法推荐服务，应当遵循公平公正、公开透明等原则。鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
三、加速完善算法公开透明，强化算法治理
总体来看，全球各国针对算法透明的治理还处于初始阶段，算法透明标准不明、算法透明缺乏实践指引以及如何化解算法透明与商业秘密之间的冲突等难题成为制约各国算法透明发展的重要因素。
2022年12月19日，中共中央、国务院印发了《关于构建数据基础制度更好发挥数据要素作用的意见》，提出要全面加速数据价值释放，纵深推进数字化发展。数据价值的释放离不开深度学习等算法的赋能和加持，算法透明作为算法治理的重要手段，将迎来发展新阶段。
（一）细化落实算法透明顶层设计要求
充分落实《互联网信息服务算法推荐管理规定》等规范要求，推动算法透明治理规范化、常态化。一方面，有序开展算法备案工作，持续扩大算法备案覆盖的行业和领域，加强算法管理。另一方面，充分借鉴国外经验，组织开展算法影响评估等活动，扩展自动化决策的事前评估手段，进一步提升算法透明性。
（二）推动算法透明标准体系建设
加强算法透明领域的标准研制工作，重点关注各行业各场景算法透明标准、算法影响评估、算法透明共性技术等领域，建立健全算法透明标准体系，进一步明晰算法公开透明要求，引导算法透明治理落地实施。
（三）促进行业自律活动有序开展
充分发挥行业自律组织沟通政府、企业和市场的桥梁纽带作用。一方面，通过制定“算法透明公约”等，设立行业企业及从业人员算法使用规范，督促企业和从业人员落实算法透明原则，营造算法使用的良好环境。另一方面，利用科研机构、高校、头部企业在技术研发、实践操作、交流合作方面的优势，通过共建实验室、算法透明研究中心等机构和举行研讨会等形式，协同攻克算法透明在技术标准、实践操作方面的难题。

引用：

[1]https://mp.weixin.qq.com/s/SJ8nEGF8UnMmtGjSERKi4g

[2]https://mp.weixin.qq.com/s/D9z2JuF8TglTB02I3JI-jA

[3]https://mp.weixin.qq.com/s/FFjTockLrs1akwk5OtDvPg

[4]https://mp.weixin.qq.com/s/9kMPrVMLHA2Bk5dBRDb-VA

[5]https://mp.weixin.qq.com/s/_dzMNhz5fOVlJ3UscjagVQ

[6]http://www.deheheng.com/Archives/IndexArchives/index/a_id/9070.html

[7]https://baijiahao.baidu.com/s?id=1730874653427482955&wfr=spider&for=pc

[8]https://www.gov.uk/government/organisations/centre-for-data-ethics-and-innovation

[9]https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub

[10]http://www.npc.gov.cn/npc/c30834/201808/5f7ac8879fa44f2aa0d52626757371bf.shtml

[11]http://www.npc.gov.cn/npc/c30834/202108/a8c4e3672c74491a80b53a172bb753fe.shtml

[12]http://www.cac.gov.cn/2021-09/29/c_1634507915623047.htm

[13]http://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm


作者简介：
关伟东，中国信息通信研究院数据安全研究员，主要从事数据安全监管支撑、产业发展研究、个人信息保护研究等工作。

数据安全共同体计划

（data security community）


“数据安全共同体计划”为了促进《数据安全法》《个人信息保护法》落地实施，推动数据开发利用和数据安全领域的技术推广和产业创新，致力于促进数据安全产业链各环节的交流与合作，推动数据安全政策、技术、人才多要素良性互动，构建数据安全产业生态共同体。


咨询电话：

      曹京 15810981762

      解伯延 18631643906

联系人邮箱：[email protected]


加速完善算法公开透明，强化算法治理


推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
ZhouSa.com-宙飒天下网