探寻合规之道，共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。

点击 "合规社" > 点击右上角“···” > 设为星标⭐

□ 来源 | 各地网信办公众号

□ 责编 | 合规酱

▽

随着人工智能技术的广泛应用，AI技术滥用问题逐渐凸显，成为社会关注的焦点。为有效治理AI技术滥用，中央网信办于4月30日启动了“清朗·整治AI技术滥用”专项行动。专项行动分两个阶段开展，第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治6类突出问题：一是违规AI产品。二是传授、售卖违规AI产品教程和商品。三是训练语料管理不严。四是安全管理措施薄弱。五是未落实内容标识要求。六是重点领域安全风险。

近日，北京、上海、天津、江苏、浙江等地网信办陆续发布了专项行动的阶段性成果，展示了AI技术滥用治理的初步成效。

北京

▽

北京市“清朗•整治AI技术滥用”专项行动取得初步成效

自“清朗·整治AI技术滥用”专项行动开展以来，北京市委网信办贯彻落实中央决策部署，全面加强AI技术全链条监管，推动形成政府监管、企业履责、社会共治的治理格局。经过第一阶段集中攻坚，全市AI技术滥用治理取得阶段性成效，网络生态持续净化。

加强工作组织压实企业主体责任

一是制定《北京市“清朗·整治AI技术滥用”专项行动实施方案》，明确整治重点，提出整治任务，细化工作具体安排。上线全国首个省级AI技术滥用治理举报渠道，依托“网信北京”“京通”等平台宣传推广，收集网民举报线索，及时研判处置，形成“用户标记—平台核查—联合处置”工作模式，目前已处置AI技术滥用、谣言等举报26篇。

二是组织属地重点互联网企业开展自查自纠，覆盖大模型备案、数据训练、内容审核、产品功能等全环节。京东新增100个AI特征敏感词，拦截违规内容；昆仑万维、零一万物等企业完善训练语料清洗机制，防范虚假信息、违规内容传播等。

三是组织技术支撑团队，重点核查API接口接入、医疗金融问答、未成年人保护等高风险领域。督促重点网站平台加强训练语料管理、提高内容审核效率等。

重拳重击整治成效凸显

一是违规产品与内容全力遏制。全市已备案大模型企业截止目前未发现“一键脱衣”“声音克隆”等违规功能。微博清理传播教授AI换脸教程类内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个；抖音清理AI生成的虚假信息、低俗内容等24749条等。

二是训练数据治理初见成效。提升数据来源合规率，百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源；百川停止使用存在疑问的数据来源，制定严格的网络爬取规范，确保数据合规合法。强化敏感内容过滤，360、深言科技等企业优化语义识别模型，提高涉政、涉黄内容拦截准确率等。

三是重点领域风险有效防控。医疗金融领域方面，智谱明确禁止生成具体股票推荐、基金购买建议，避免诱导高风险投资；快手对医疗回答明确标注“不替代专业医疗建议”。未成年人保护方面，猿力科技对未成年人提问进行分级审核，仅允许教育类内容生成；小米通过实名认证和年龄校验，限制未成年人使用AI生成暴力内容等敏感功能。

四是标识管理与技术能力双突破。显隐标识覆盖近半，目前已有近60家企业已落实标识要求，微博、抖音等平台实现生成内容“显著标识+元数据水印”双标注。攻防技术升级，百度、字节跳动等企业建立“红蓝对抗”机制，模拟攻击案例，修复潜在安全漏洞，优化模型对虚假信息的识别能力等。

健全长效治理机制

一是持续督促指导平台落实标识要求，建设标识能力。督促AI服务提供者按照《互联网信息服务深度合成管理规定》，参照《人工智能生成合成内容标识办法》，对文本、音频、图片、视频等生成合成内容进行标识，防止公众混淆或者误认。指导内容传播平台参照《人工智能生成合成内容标识办法》要求，配备生成合成内容标识功能，构建生成合成内容检测识别能力，对生成合成内容进行标识。

二是强化企业培训。针对企业关注的合规政策、扶持政策、技术交流等痛点需求，对平台企业进行宣讲解读、培训，助力平台企业合规发展。

三是构建多元共治格局。利用协会、科研院所力量，指导成立“AI安全治理联盟”，进行技术对接、企业参访、开放研讨等，交流AI治理经验，重点突破深度伪造检测、多模态内容溯源等关键技术，提高全市AI治理水平。持续畅通网民举报渠道，加强公众参与，提升社会监督意识。（来源：网信北京）

上海

▽

上海市委网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作

为贯彻落实中央网信办“清朗·整治AI技术滥用”工作部署，4月下旬以来，上海市委网信办聚焦6类突出问题深入开展第一阶段专项行动。现向社会公布阶段性工作成果，进一步凝聚共识，共同营造清朗网络生态。

强化合规，全面清理整治违规AI产品和信息

上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害AI内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少。
上海市委网信办深化大模型合规指导服务中心作用，指导各类提供生成式人工智能服务的主体落实合规义务，强化安全评估，迄今已完成82款大模型备案，87款应用登记。对3款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚。
督导联动，提升AI平台安全风控能力
上海市委网信办指导重点AI平台加强技术源头治理，深化自查自纠，加强训练语料管理机制，加强新版本新应用上线、API接入应用的安全管理，用好大模型能力持续提升安全水平，建立健全与业务规模相适应的风控机制。组织专业机构对8家企业14款AI类应用开展了巡查测试，对部分重点平台开展现场检查和上门指导，发现并督导整改优化内容审核、意图识别等安全措施的薄弱环节。通过系统性排查和闭环整改，上海重点AI平台和重点平台AI应用的合规性、安全可控性持续增强。

以人为本，强化重点领域AI安全管理

针对关乎人民群众“生命线”“钱袋子”和“未成年人保护”等社会高度关注的AI应用，上海市委网信办会同市卫健委、金融监管等主管部门，对申请备案、登记的垂域模型和应用加强审核和业务指导，对33款已完成备案、登记提供医疗健康、金融、教育、情感陪伴服务的AI应用开展督导检查，要求完善行业领域安全审核和控制机制，加强专业知识库和检索增强能力建设，提升输出准确性，防范虚假、误导、诱导沉迷对患者、投资者、未成年人带来的不良影响。

联合市卫健委，指导上海人工智能实验室举办了医疗大模型开源评测社区上线发布会和上海网络安全博览会“医学人工智能安全”论坛，面向全市各医疗机构、医疗服务企业开展AI安全宣贯和合规指导，依托上海市医疗大模型应用检测验证中心对16家机构20个AI医疗场景开展评估，结合模型安全性评价和业务验证，强化行业规范和伦理审查，指导安全加固，引导规范应用。

多策并举，强化AIGC标识示范和全链条治理

上海市委网信办将高标准落实《人工智能生成合成内容标识办法》及配套强制性国家标准作为专项治理的关键抓手，切实保障公众知情权。先后组织开展了4场面向大模型企业、重点网站平台、应用企业的法规宣贯和专题交流，覆盖企业400余家，深入解读标识要求和技术路径，推动企业从“要我落实”转向“我要落实”。指导成立AIGC标识生态联盟，上海人工智能安全治理实验室联合重点大模型企业、网站平台，合力推进标识互认、能力共享与标准协同。
围绕“制作-传播”环节，指导重点网站平台加快配备显式与隐式标识功能，不断提升AIGC内容、AI高风险行为的检测识别和治理能力。通过政策指导、生态协同与技术落地，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证，小红书牵头编制图片模态元数据标识实践指南，上海标识工作取得阶段性成效。
上海市委网信办将持续深化专项行动，统筹技术治理、制度建设和生态优化，强化对重点问题、平台、环节的常态化监管，推动智能向善。第二阶段将聚焦AI造谣、低俗内容等7类突出问题加大整治力度，维护良好网络生态。上海将切实落实习近平总书记考察上海的重要指示，力争在人工智能发展和治理各方面走在前列，产生示范效应。（来源：网信上海）

天津

▽

天津市深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作成效

天津市委网信办高度重视“清朗·整治AI技术滥用”专项行动，专项行动第一阶段工作主要任务为强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力，现将第一阶段专项行动工作成效发布如下。

一、加强顶层设计，强化协调配合

一是按照“清朗·整治AI技术滥用”专项行动要求，天津市委网信办细化制定《天津市关于开展“清朗·整治AI技术滥用”专项行动的实施方案》，各区、各部门依据自身职责对属地网站、APP、生成式人工智能服务提供企业等主体开展工作。

二是向属地7家生成式人工智能服务企业下发《关于开展“清朗·整治AI技术滥用”专项行动的工作提示》，提示相关企业在集中整治违规AI服务、强化AI服务和应用上架审核、加强训练语料安全管理、完善技术安全防范措和督促制作平台落实标识要求等5个方面开展专项工作。

二、立足工作实际，加强安全监管

一是按照《生成式人工智能服务管理暂行办法》要求，天津市委网信办优化备案登记机制，建立沟通协调机制，认真做好备案、登记和安全监管工作。截止目前，已完成“360智脑大模型”“蜜度文修大模型”“同道汇才大模型”“百应服务大模型”“菲凡工业大模型”5个生成式人工智能服务备案工作，完成“牵手AI恋爱助手”“洪恩文本生成服务”“Filez AI知识库”“五八驾考智能问答”4个生成式人工智能服务登记工作。

二是与属地生成式人工智能服务提供企业做好配合，认真开展重要时间节点重保工作，指导属地生成式人工智能服务提供企业制定应急重保预案，做好自查自检工作，加强值班值守。

三是天津市委网信办立足天津生成式人工智能行业实际，采用“人工+技术”的方式对生成式人工智能服务生成内容开展安全监测，以API对接的方式，利用大模型监管生成式人工智能服务，通报生成式人工智能服务存在的问题，以技术应对技术，以智能管理智能。截止目前，已开展四次专项内容监测行动，监测通报问题4批共计14个，已全部完成整改。

三、坚持效果导向，开展排查清理

一是召开2025年度第2次市级直联网站平台工作会议，就天津市开展“清朗·整治AI技术滥用”专项行动作专题工作部署，进一步压实网站平台主体责任，要求各网站平台切实防范AI技术滥用风险，营造风清气正的网络空间，22家市级重点网站平台内容负责人参加会议。

二是组织中央新闻网站天津频道、属地新闻网站、主要商业网站平台10余家媒体参加专题培训，聚焦规范人工智能生成合成内容标识，指导相关媒体参照《人工智能生成合成内容标识办法》等要求配齐生成合成内容标识功能，结合实际构建生成合成内容检测识别能力，对生成合成内容进行标识，切实压紧压实网站平台主体责任，防范AI技术滥用风险，营造风清气正的网络空间。

三是组织16个区对属地5万余家网站，1万余个APP进行排查，发现1家企业所属网站存在违规提供“一键换脸换装”等AI应用违规产品，第一时间对网站负责人进行约谈教育，责令整改注销问题网站，目前涉事网站均已关闭。同时，排查发现部分企业存在调用已备案生成式人工智能服务API未登记直接提供生成式人工智能服务的情况，已联系相关企业开展登记工作。

四是组织开展全网未备案登记生成式人工智能服务相关教程及有害信息巡查整治工作，及时举报处置涉生成式人工智能服务有害信息40余条。

下一步，天津市委网信办将继续落实“清朗·整治AI技术滥用”专项行动要求，加强组织领导，压实平台主体责任，严格督导检查，强化宣传曝光，全面做好“清朗·整治AI技术滥用”工作，切实防范AI技术滥用风险，营造风清气正的网络空间。（来源：网信天津）

江苏

▽

江苏省委网信办深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作

为贯彻落实中央网信办“清朗·整治AI技术滥用”专项行动有关工作要求，江苏省委网信办加强部门协同，聚焦整治重点，建立工作机制，深入开展第一阶段工作。现公布阶段工作成果。

聚焦突出问题，统筹力量开展整治

第一阶段整治工作重点围绕违规AI产品、传授及售卖违规AI产品教程和商品、训练语料管理不严、安全管理措施薄弱、未落实内容标识要求和重点领域安全风险等6类突出问题开展。建立政府管理部门、专业技术队伍、企业多元参与的整治体系，采取企业自查自纠、第三方技术测试评估、现场调研与指导等方式，充分发挥各方力量，扎实开展整治工作。

全面清理排查，取得阶段工作成效

清理违规产品和信息。重点清查网上提供生成式人工智能服务但未履行大模型备案或登记程序，以及提供“一键脱衣”等违法违规功能的应用。联合省通信管理局排查接入地为江苏的AI风险域名163个，封堵和取消接入域名18个。加强技术巡查，累计排查提供文本生成、图片生成、音频生成等人工智能应用但未履行大模型备案（登记）的网站50个，APP应用42个，督导限期备案（登记），清理传授、售卖违规AI产品教程和商品，营销、炒作、推广违规AI产品信息7条。

开展风险测试评估。对已备案（登记）的48款生成式人工智能应用开展风险测试评估，测试用例覆盖内容安全、网络安全、数据安全等领域，通过红队测试方式，主动查找薄弱风险点。指导企业风险溯源和问题整改，提升线上人工智能应用安全风险防范能力。

督促落实标识要求。以专项行动为契机，加快落实《人工智能生成合成内容标识办法》。华为软件、同程旅游、T3、运满满等已上线显式标识，思必驰、清睿智能、南京文投等5家企业已实现显式隐式双标识，超过一半的企业落实标识要求。华为应用商店建立AI应用上架标识审核规范和制度，专项行动以来共审核预发布115款人工智能相关APP，核验确认62款已上线标识，剩余应用限期完成内容标识要求。

建立长效机制，强化技术源头治理

强化培训指导。举办人工智能生成合成内容标识政策法规宣讲会（江苏站），定期举办全省互联网新技术新应用安全评估培训班和安全治理技术沙龙，加强人工智能应用企业、应用程序分发平台和传播平台人工智能标识和治理相关培训指导，提升企业落实安全治理要求的技术能力，助力平台企业合规发展。

完善多方参与的AI治理体系。构建党委政府、企业、科研院所、社会组织、专业技术团队、网民等多方力量共同参与的人工智能治理体系，开展技术交流、试点示范等活动，发挥各方优势，补齐安全短板，持续打击接入境外大模型、提供非法服务等违法违规行为，把AI治理推向常态化和长效化。

江苏省委网信办将结合落实人工智能标识要求，开启第二阶段整治专项行动，重点整治利用AI制作发布谣言、利用AI制作发布不实信息、利用AI制作发布色情低俗内容、利用AI假冒他人实施侵权违法行为、利用AI从事网络水军活动、AI产品服务和应用程序违规、侵害未成年人权益等7类突出问题，推动智能向善。（来源：网信江苏）

浙江

▽

浙江省委网信办开展“清朗·整治AI技术滥用”专项行动第一阶段工作

为贯彻落实中央网信办“清朗·整治AI技术滥用”专项行动部署，营造风清气正的网络空间，浙江省委网信办结合全省人工智能发展形势，部署“浙里清朗·整治AI技术滥用”专项行动，开展AI技术源头治理工作，聚焦6类突出问题开展专项整治，取得阶段性成果。

一、强化部署，压实平台主体责任

一是积极组织部署。制定《“浙里清朗·整治AI技术滥用”专项行动实施方案》《“浙里清朗·整治AI技术滥用”技术监测和巡查方案》，督促平台企业聚焦模型备案、数据训练、内容审核等重点环节开展全链条自纠自查。

二是加强技术巡查。组织技术力量对10款AI类应用，针对训练语料管理、安全管理措施、落实内容标识情况等要点开展巡查测试，梳理形成问题集向企业通报，督促企业及时整改，迭代升级安全能力，建立健全风控机制。

二、精准出击，彰显行动治理成效

一是清理违规内容信息。指导通义、DeepSeek、淘宝等重点网站平台，集中清理“声音克隆”“语音复刻”“AI换脸”“一键脱衣”等违规AI产品、商品及相关营销、炒作、推广、教程信息，各AI应用和网站平台共拦截清理各类违法违规信息及提问2550万余条，累计处置违规账号100余个。

二是严格内容标识管理。组织200余家平台企业参加人工智能标识办法标识标准宣讲会，督促平台落实《人工智能生成合成内容标识办法》，要求对文本、图像、音视频等生成内容进行显著标识，推动平台构建AI内容检测识别能力。

三是完善安全管理措施。指导企业建立与业务规模相适应的内容审核、意图识别等安全措施。钉钉等平台设立AI违规内容举报入口，完善相关内容举报处置闭环，达摩院“寻光大模型”等AI应用优化内容识别模型，实现100%“机器审核+人工审核”覆盖，违规内容拦截率显著提升。

三、健全机制，深化长效协同治理

一是强化企业合规指导。组织专项政策宣讲与合规培训，采用“线上+线下”双线联动模式全方位加强政策宣贯，将政策要求转化为社会共识。高标准推进安全管理，结合技术路线、应用场景特征针对性开展指导服务，督促指导平台落实标识要求、建设标识能力，强化人工智能全流程合规指引。

二是加强常态化安全管理。组织多家技术支撑团队，针对违规AI产品、训练语料管理不严、安全管理措施薄弱、未落实内容标识要求等问题，开展人工智能全生命周期安全测试，通过持续压力测试与算法优化，实现模型输入输出内容实时安全扫描。

三是构建协同共治生态。建立“1+6+N”人工智能治理体系，协同推进垂直领域大模型在行业领域部署应用和上线服务，赋能行业提质增效。畅通投诉举报渠道，加强公众参与和社会监督，推动形成“政府监管、行业自治、企业自律、社会监督”的AI治理新格局。

下一步，浙江省委网信办将以“智能向善”的工作思路为指引，持续深化监管创新与多方协作，筑牢技术发展安全防线，营造清朗可靠的AI应用生态，不断提升生成式人工智能安全治理工作效能。（来源：网信浙江）

在人工智能技术蓬勃发展的今天，企业作为AI技术的开发者、运营者和使用者，正站在机遇与挑战并存的十字路口。一方面，AI技术的飞速进步为创新带来了无限可能；另一方面，技术滥用的风险也如影随形，不仅可能侵犯用户合法权益，还可能对社会稳定和网络安全造成冲击。因此，企业在开发和应用AI技术时须制定并执行有效的治理策略，以满足监管要求，保障用户权益，维护社会稳定，并提升自身的市场竞争力。

从各地“清朗·整治AI技术滥用”专项行动的阶段性成果来看，我们可以提炼出一些对企业具有启发性的经验和治理策略，有助于企业在专项行动中更好地落实相关要求。

一、强化源头治理：从AI产品设计到内容审核全流程把控

1. 产品设计阶段：安全与合规的前置考量

企业在开发AI产品时，应将安全与合规作为核心设计原则，避免生成违法违规内容。例如，在北京“清朗·整治AI技术滥用”专项行动成效通报中，智谱明确禁止生成具体股票推荐、基金购买建议，以降低高风险投资的诱导风险。快手对医疗回答明确标注“不替代专业医疗建议”，防止误导用户。同时，企业还应建立完善的风险评估机制，在产品上线前进行全面的安全性测试，以降低技术层面的安全隐患。

2. 数据训练阶段：保障数据的合法性和安全性

AI模型的训练依赖大量数据，模型所使用数据需来源合法，不使用未经授权或侵犯个人信息及知识产权的数据。在专项行动中，就提升数据来源合规率方面，百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源；百川停止使用存在疑问的数据来源，制定严格的网络爬取规范，确保数据合规合法。昆仑万维、零一万物等企业完善训练语料清洗机制，防范虚假信息、违规内容传播等。

3. 内容审核阶段：构建高效的内容审核体系

AI生成内容的审核是防范技术滥用的关键环节。企业应建立高效的内容审核体系，配备专业的审核团队和技术手段。北京专项行动中，360、深言科技等企业优化语义识别模型，提高涉政、涉黄内容拦截准确率等，强化敏感内容过滤，提高内容审核的效率，增强平台对有害信息的防御能力。

二、落实内容标识管理：保障公众知情权

显著标识与隐式标识的结合。为保障公众知情权，企业应对生成的文本、音频、图片、视频等内容进行显著标识，并配备元数据水印等隐式标识。如，围绕“制作-传播”环节，上海网信指导重点网站平台加快配备显式与隐式标识功能，不断提升AIGC内容、AI高风险行为的检测识别和治理能力，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线。

三、提升技术能力：构建AI安全风控体系

企业应根据业务规模和技术需求，构建完善的安全风控体系，全面提升技术能力以应对潜在的安全风险。这包括优化内容识别技术，提升对虚假信息、违规内容的检测与拦截能力；同时，建立攻防技术体系，通过模拟攻击与防御演练，及时发现并修复潜在漏洞。在此基础上，企业需定期开展安全评估与漏洞扫描，结合行业最佳实践，持续完善安全策略，强化数据加密与访问控制机制，优化模型训练与部署流程，从而有效降低安全风险，保障 AI 应用的稳健运行。

四、履行合规义务：备案登记、内部管理及重点领域合规

企业在AI技术应用中需严格遵循相关法律法规，按要求及时完成生成式人工智能备案或登记程序，为AI技术应用提供坚实的法律基础。同时，企业应建立健全的AI内部合规管理体系，明确各部门在AI安全合规治理中的职责和流程，定期开展合规自查，及时发现并纠正潜在的合规问题，有效提升企业的风险管理能力。

在具体应用中，企业需重点关注高风险领域和特殊群体的合规要求。对于医疗、金融等高风险领域，企业应加强安全审核机制，努力降低误导用户或引发风险的可能性。对于未成年人等特殊群体，企业应采取适当的保护措施，限制其接触可能产生不良影响的内容，积极保障其合法权益。