标准应用 |《基于个人信息的自动化决策安全要求》解读-广告营销与司法实践篇

广告营销场景下的自动化决策

广告营销场景下的自动化决策合规要求

《要求》特别针对广告营销类场景的自动化决策提出了相关合规要求，结合《个人信息保护法》、《互联网信息服务算法推荐管理规定》、《信息安全技术个人信息安全规范》、《信息安全技术生物特征识别信息保护基本要求》、《移动互联网应用（APP）适老化通用设计规范》、《个人信息保护合规审计管理办法（征求意见稿）》等相关法律规范，合规要点总结如下：

合规要点		具体要求
主体	儿童	不应出于营销目的对儿童进行特征生成分析并开展相应个性化营销服务。
主体	老年人	做好适老化改造，适老版界面、单独的适老版APP中严禁出现广告内容及插件，也不能随机出现广告或临时性的广告弹窗。
告知	决策的透明度	以显著方式告知用户其提供算法推荐服务的情况；以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等；主动告知个人自动化决策处理个人信息的种类及可能带来的影响。
算法		对算法模型进行安全评估，尽可能减少自动化决策算法模型存在的缺陷，当应用场景和主要功能发生变化时，对算法模型重新进行评估；采取必要措施对算法和参数模型进行保护。
标签	内容	不应包含拜金炫富、色情低俗类的信息关键词记入用户标签，并向其推送类似信息；不应以违法和不良信息关键词对用户贴标签、归类并针对性推送信息；不应设置歧视性或者偏见性用户标签；不应基于生物特征识别信息自身生成用户画像。
标签	使用	不应利用用户标签进行诱导营销与过度推荐；应向个人提供动态调整的推荐比例选项；使用用户画像时，除为实现个人信息主体授权同意的使用目的所必需外，使用个人信息时应消除明确身份指向性，避免精确定位到特定个人；对个人信息处理、标签管理、模型训练等自动化决策过程中的人工操作进行记录，防范人为恶意操纵自动化决策信息和结果。
竞争	公平公正	不应实施虚构原价、虚假优惠折价等不正当价格行为；不应对消费者收取未予以标明的费用；保证结果公平、公正，不应开展任何可能造成交易价格、交易机会、交易条件等实际差别待遇的行为。
竞争	禁操纵	不应通过利用算法操纵中奖概率、中奖结果、中奖人员等欺骗方式进行有奖销售；不应滥用市场支配地位，利用算法在无正当理由的情况下操纵价格，排除、限制市场竞争；不应算法屏蔽信息、过度推荐、操纵榜单及控制热搜等可能造成信息茧房的操纵行为。
权利保障	拒绝权	通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。
	解释说明权	通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。
	投诉举报权	设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。
个人信息保护影响评估		利用个人信息进行自动化决策应当事前进行个人信息保护影响评估，并对处理情况进行记录。
备案		如何涉及具有舆论属性或者社会动员能力的算法，则应当在提供服务之日起十个工作日内履行备案手续。

广告营销场景的自动化决策合规现状

从产业实践的角度看，首先，目前很多APP都会提供便捷的拒绝个性化广告的机制，并在隐私政策中披露拒绝的方式，截图如下：

其次，很多APP也履行了明确的告知义务，会单独介绍个性化推荐和个性化广告的相关运作原理、关闭效果等相关情况以帮助用户更好地了解个性化推荐，有的还插入了视频来进行讲解，具体截图如下：

最后，很多APP也提供用户标签管理机制，为用户提供更具体的关闭选择，具体截图如下：

从备案实践的角度看，很多企业也已经完成了个性化推送类的算法备案工作，此类算法是目前备案数量最多的算法，目前算法备案实践情况如下：

备案时间	个性化推送类算法	检索过滤类算法	生成合称类算法	排序精选类算法	调度决策类算法
2022.8	17	4	2	4	3
2022.10	29	29	8	4	0
2023.1	71	40	0	11	1
2023.4	19	14	0	3	3
2023.6	0	0	41	0	0
总数	136	87	51	22	7

目前很多企业也会披露其备案情况，有的在其隐私政策中披露了算法备案情况，具体截图如下：

自动化决策的司法实践情况

目前以“自动化决策”为关键词检索到的判决书并不多，但从相关司法判决中可知，告知同意机制以及用户退出机制仍然是合规重点。

相关企业可基于告知同意开展自动化决策活动，但需提供便捷的退出机制。在郭某某诉某网络有限公司个人信息保护纠纷案（（2021）浙0192民初5626号）中，法院指出，被告公司的购物APP在首次运行时所展示的隐私政策已告知了个性化推荐的相关信息，并提供了拒绝自动化决策的具体路径，事前通过隐私政策等取得概括性同意，以及事后提供拒绝方式，可视为对个人知情同意权的保障，此时，个人信息处理者利用个人信息进行自动化决策具有合法性基础。与此同时，法院也在罗懿与北京大生知行科技有限公司网络侵权责任纠纷案（（2021）京0491民初5094号）中指出，被告没有事先进行告知，亦未征得原告的有效同意，就在“XXtalk”和“XX英语”两款产品中强制收集原告职业、学龄阶段、英语水平、学习目的等用户画像信息，更没有同时提供不针对个人特征的选项或提供便捷的拒绝方式，因此被告构成侵权。

相关企业如果对儿童开展自动化决策，需要获取儿童监护人的单独同意。在杭州市余杭区人民检察院诉某短视频平台未成年人保护民事公益诉讼案（（2020）浙0192民初10993号）中，法院指出，企业在未获得儿童监护人单独授权同意的情况下，就基于算法的自动化决策将含有儿童用户个人信息的短视频向其他用户进行推送，且企业未获监护人同意就默认开启个性化推荐，对儿童进行画像，运用算法进行内容推送，应认定为违法处理儿童个人信息。

相关企业应保证自动化决策的透明度，推动算法公开透明。在郑徐好、上海XX信息技术有限公司悬赏广告纠纷案（粤0192民初14112号）中，法院指出，XX公司发布的“砍价免费拿”活动是通过自动信息系统设置程序指令、算法、运行条件等的自动化决策活动，直接影响了消费者砍价的过程与结果，XX公司应确保自动化决策过程信息透明、公平合理，应做好算法解释工作，推动算法公开透明，充分保障消费者的知情权。在许某某与杭州某软件服务公司网络服务合同案（（2020）浙0192民初3081号）中，法院也指出平台行使算法权利应当公开透明，事先披露治理机制、管理规则以及相关技术原理。同时用户也有权对自动化决策提出质疑和申诉，进一步了解算法的逻辑构造。

总结

《个人信息保护法》第二十四条提出了基于个人信息进行自动化决策的合规要求，《要求》结合《个人信息安全规范》等相关规范，进一步细化了相关要求，创新性地将自动化决策拆解为特征生成和决策两个环节，并针对算法、特征生成和决策均明确了相关安全要求，为自动化决策提供更落地的合规指引。自动化决策的安全要求具体如下：