观韬解读 | 全球人工智能监管系列解读（七）——韩国人工智能（AI）规制体系

在全球人工智能（AI）快速发展的浪潮中，韩国通过引入“监管沙盒”机制，以及颁布了AI针对性成文法，展现了其独特的规制路径。一方面，韩国通过“监管沙盒”为新技术提供灵活的试验环境，既加速了技术创新又保障了社会安全；另一方面，韩国制定了综合性AI法律框架《AI基本法》，通过成文法律法规的形式，对AI施以国家强制力的监管。这种双管齐下的策略不仅促进了AI产业在韩国的健康发展，也体现了韩国在全球AI竞争中的前瞻性与责任感。

本文将韩国已经发布的与AI相关的管理规定和行业指引整理如下：

在全球AI竞争愈演愈烈的时代浪潮下，韩国自2019年起积极布局，全力推动AI发展并构建规制体系。从国家层面战略的首次确立，到多领域行业指引文件的相继发布，韩国在AI规制领域的探索涵盖了上至伦理规范、立法规划，下至技术创新、人才培养的诸多关键层面。在这一不断发展的过程中，韩国在金融、专利、个人信息保护等行业逐步落实AI规制计划，形成了一套以数据类别和应用行业为区分标准，以行业指引为主要规制工具的独特体系。

2019年，在全球AI竞争愈发激烈的背景下，韩国发布了《人工智能国家战略》，这是韩国首次通过书面形式确立的国家层面的AI管理方针，可以说，国家战略是韩国首个系统性管理和促进AI发展的规范性文件。

韩国在国家战略中指出，AI正引发第四次工业革命。为了应对这一变革带来的深刻影响，以及为了实现韩国建立全球领先AI系统的愿景，韩国提出要从四个方面对AI系统进行建设和规制。首先，要为AI技术的创新营造快速发展的环境条件，为此，韩国选择采取弱管控的监管体系，对新兴技术行业列举“负面清单”，采取“先审批后监督”的“监管沙盒（Regulatory Sandbox）”制度，允许所有旨在创造新服务的创新尝试，并加速创新技术的推广。其次，重视科技人才的培养，加强AI基础教育，积极推进多领域融合人才的培养。再次，将AI从制造业扩展至所有行业，通过公众能够感知的融合成果，刺激经济不断保持增长势头。最后，通过改进电子政务系统，向数字化政府转型，在能够直接影响公众生活的领域为公众提供高效、优质的公共服务。

2020年12月，韩国相继发布了《人工智能半导体产业发展战略》、《国家人工智能伦理标准》和《人工智能立法路线图》三份行业指引文件，分别从宏观国家战略、微观立法路径和具体实务指导三个角度，对韩国AI的发展作出新的指引和安排。

其中，韩国在《国家人工智能伦理标准》中第一次从宏观角度提出了韩国AI伦理规制的核心——以人为本。该文件将“以人为本”确立为全社会实施AI都应遵循的基本准则，确立了尊重人类尊严、促进社会公益、合理使用技术三项基本原则，同时还明确了保障人权、保护隐私、尊重多样性、预防危害等十项贯穿AI系统生命周期的关键要求。文件旨在规范AI的开发与利用活动，确保其符合伦理道德，并最终实现对人类和社会有益的发展。

与《国家人工智能伦理标准》的理论性偏重不同，《人工智能半导体产业发展战略》更偏向于AI的实践意义。其发布旨在通过发挥韩国在半导体制造领域的优势，大力培育AI半导体产业，以实现韩国引领全球AI市场的目的。该战略的终极目标是使韩国成为AI半导体领域的全球领导者，其核心内容均指向韩国AI半导体行业的具体发展计划，如计划到2030年韩国AI半导体产业占据全球20%的市场份额，培育20家创新企业和3000名高级人才等。

无论是展望宏观角度的《国家人工智能伦理标准》，还是聚焦微观角度的《半导体产业发展战略》，都是从AI的开发及应用角度展开，而《人工智能立法路线图》与这两者均不同的方面，就体现在其是完全从法律规制的角度展开的。《立法路线图》对包含医疗、金融、劳动就业等11个领域设定了30项立法任务，制定了韩国从2021年始至2023年终的全行业全方位的法律体系建设及完善计划。

从《人工智能国家战略》到三份行业指引文件，可以看出韩国在AI领域展现出的进取决心与缜密规划。凭借《人工智能国家战略》，韩国搭建起AI发展的四梁八柱；随后乘势而上，接连推出的三份行业指引文件，从宏观理念确立到微观立法保障，在AI规制原则确立和法律体系完善等重点方向精准发力，后续为各行业AI应用与发展提供方向，全力推动韩国在全球AI竞争中抢占先机。

2021年7月，韩国金融服务委员会（FSC）发布了《金融服务中人工智能使用指南》。在这一使用指南中，FSC提出要从内部控制制度、数据管理（确保数据的准确性、安全性、透明度、公平性）、第三方管理（主要是AI供应商和运营商）及消费者权益保护四个角度，来增强公众对基于AI的金融服务的信任，并持续推动金融行业创新。

2023年2月，为解决专利申请数量不断增加带来的审核压力，韩国专利厅发布了2023至2027年度《基于人工智能的专利行政改革实施计划》。专利厅提出，自2023年起其重要推进任务便是AI专利检索及审查支持工具的开发。例如开发形式审查自动化系统，以检查申请人提交给专利厅的各类文件是否存在程序上的缺陷；升级AI机器的咨询功能，提升以用户为中心的咨询服务水平等。

从韩国金融业到知识产权业对AI规制工作的有序推进可以看出，韩国的AI规制计划已经开始应用于具体的实施领域中，除对具体行业发布指引外，韩国还在AI涉及的个人数据方面进行了规制力度的加强。

2023年8月，韩国个人信息保护委员会（PIPC）组建了“AI隐私团队”，并发布《人工智能时代安全使用个人数据的政策方向》（“《个人数据使用政策》”）。该文件依旧延续了《人工智能国家战略》的治理思路，以“监管沙盒”制度为原则，采取“先审批后监督”的规制方式，通过AI隐私团队与各企业合作，对企业的AI开发及使用活动开展“充分性预先评估”，为企业制定实施保障措施的计划，以确保各企业的活动符合《个人信息保护法》（Personal Information Protection Act, PIPA）的要求。

具体而言，对于经营业务所处行业的法律监管尚不明确的新兴AI企业，PIPC将在PIPA的标准框架下，先与企业共同拟定一份关于要实施的保障措施的计划。在经委员会暂时批准后，企业必须在发展和部署AI服务过程中切实践行前述保障措施，同时，PIPC将对实施情况进行后续审查。

该文件中还提到，PIPC将与AI的各利益相关方合作，将在后续针对不同领域的特定需求制定更详细的指南。从这一文件可以看出，韩国AI的规制是以AI所依仗的数据类别为主要划分依据，以AI实际应用场景所对应的不同行业作为细分标准，以行业指引作为主要规制工具开展的。

2024年7月，PIPC再次发布了《处理人工智能(AI)开发和服务中使用“公开数据”标准指南》（“《指南》”）。虽然在内容方面，《指南》与《个人数据使用政策》都是对AI使用个人信息数据方面的管理规定。但相较而言，《指南》是对《个人数据使用政策》规定的进一步细化。从文件的内容来看，PIPC在《指南》中界定了“公开数据”这一特定类型，将非公开或部分公开信息排除在外，对保护对象的针对性更强；从管理制度的实施来看，《指南》深入探讨了AI开发和服务中使用公开数据的安全措施，不仅提及技术手段，还兼顾企业实际情况，不强制企业“一刀切”式的采取所有规定措施，而是引导企业根据自身条件选择适用措施的“最佳组合”，从实践角度出发，平衡AI性能发展与数据环境安全，这也能够更好地保障文件规定的安全措施能够真正落地。

综合PIPC发布的各项文件，可以看出其在AI规制文件的主旨及目的上保持一致，但具体内容及实施细则方面不断发生变化。从规制文件的内容角度看，PIPC在AI规制方面的指引文件正朝着精细化、专业化方向发展；从规制对象看，PIPC始终都是以新兴AI企业（尤其是所在行业的法律监管尚不明确的企业）作为重点关注的规制对象；从技术发展和个人信息保护的平衡来看，PIPC一直致力于在促进AI发展的同时保护个人数据安全。通过制定合理的标准和灵活的安全措施要求，PIPC既满足了AI对数据的需求，又保障了个人信息安全，在社会层面营造了健康的产业发展环境。

纵观韩国的非强制性监管措施可以看出，韩国对于AI的非强制性规制是通过围绕《人工智能国家战略》为核心，以数据类型和应用行业作为区分标准，由各管理委员会设定行业指引的方式，建设国家对AI的规制体系。这一体系的建设和运行可以说对AI技术的创新和发展都创设了极为优越的社会环境，当然，这样积极促发展的环境也必然造成政府监管力量薄弱的问题，并且这一问题导致的政府控制力失衡将为韩国的非强制性规制体系带来急剧变革。

2024年8月，韩国曝出deepfake风波，大量利用deepfake技术制作的虚假色情内容在韩国网络传播。这些虚假内容严重侵犯个人隐私，使公众对AI技术产生恐惧和担忧，降低了对AI的信任度，在一定程度上阻碍了AI在其他领域的正常推广和应用。此次风波暴露出韩国政府宽松监管环境下的AI技术恶意滥用问题，而这一由AI作为主要涉事工具的群体性事件的爆发，也普遍被猜测是推动韩国政府决定使用国家强制力监管AI领域开发和应用的主要原因之一。2024年8月，韩国政府计划加强对利用deepfake进行性犯罪行为的处罚力度，并进一步推进相关立法。

2024年12月，韩国《AI基本法案》（“《法案》”）终获通过。这部法律是韩国在AI领域的重要立法成果，标志着韩国成为仅次于欧盟的全球第二个制定综合性AI法律框架的国家。

《法案》共5章，包括总则、AI健康发展框架与信任基础的建立、发展AI技术和培育产业、AI伦理与可信度和附则。其中，第四章是法案重点章节，主要规定了AI从业者的各项义务。

首先，《法案》确立了AI伦理原则包含的三个方面，即安全可靠原则、可访问原则及为人类原则。该三项原则的核心依旧是为了保障人类在AI技术发展中的权利，秉承了韩国自2020年提出的“以人为本”的AI基本发展准则，引导AI朝着有利于人类福祉的方向发展。

其次，《法案》定义了高影响AI并对高影响AI从业者规定了多项义务。法案将对人的生命、身体安全和基本权利有重大影响或可能带来风险的AI系统定义为高影响AI（如涉及能源、饮用水、医疗、原子能、犯罪、公民权利方面的AI）。对高影响AI从业者而言，法案强调AI从业者在提供AI产品或服务时，需先自行审查所涉AI是否为高影响AI；要保障高影响AI的安全性与可靠性；AI产品运营者还应尽量评估其产品对人的基本权利的影响。

再次，《法案》规定了AI从业者的透明度义务，主要涉及高影响AI和生成式AI领域（指模仿输入数据的结构和特征，生成文本、声音、图像、视频等各种结果的AI系统）。AI从业者需对基于此类AI运行的产品或服务预先通知用户；对生成式AI生成的结果进行标明；对于使用AI系统生成的难以与现实区分的虚拟内容，应以用户可明确识别的方式通知或标明。从用户角度来看，AI从业者履行透明度义务保障了接受AI产品或服务的用户的知情权。在AI技术广泛应用的当下，用户有权知道所接触的产品或服务是否依赖AI，以及哪些内容由AI生成。例如在新闻领域，若使用生成式AI撰写新闻稿件，明确标识能让用户判断信息来源的可靠性，避免被误导。从行业发展角度而言，AI从业者履行透明度义务亦有助于规范AI产品的市场秩序。明确的透明度要求促使企业遵守规则，避免利用AI的不透明性进行不正当竞争。

此外，《法案》还规定了AI的安全性义务，即AI从业者应通过识别、评估整个AI生命周期的风险，构建监测和应对AI相关安全事故的风险管理体系，以确保AI系统的安全性。

最后，《法案》还针对在韩国国内没有住址或营业地的AI企业进行了特别规定，如果该类企业的用户数量、销售额等达到一定的标准，就必须以书面形式指定代理人，且该代理人必须是在韩国国内有住址或营业地的国内代理人。这一规定除能够有效将境外用户体量较大的AI运营者纳入规制体系外，还能够起到一定的国内企业保护作用。对于规模较小、用户数量或销售额刚达到标准的境外企业，指定国内代理人的要求可能成为其进入韩国市场的阻碍。

《法案》还规定了对企业违反相关合规义务行为的处罚，在AI从业者存在违反前述义务的行为时，科学技术信息通信部长官可以要求相关主体停止或责令改正其违法行为，对于拒不停止或者改正的，可处以3000万韩元（约人民币15万）以下的罚款。

韩国的这一法案旨在确保韩国到2027年实现在AI领域跃升为世界三大强国的目标，确保韩国AI技术和产业的创新。通过《法案》的各项规定，我们也可以看出韩国希望根据AI技术和产业的发展趋势，通过寻求AI可靠性、安全性的保障途径，建立AI产业发展与可靠性、安全性保障之间平衡的法律和制度秩序。

虽然韩国针对AI已经颁布了《法案》进行规制，但是无论是从《法案》的内容还是《法案》的体量来看，其确实无法涵盖社会生活的方方面面。因此，韩国政府采用了“法案+现有法律”的交互规制体系。

如在2024年12月，韩国政府颁布了《关于处罚性暴力犯罪的特例法》（성폭력범죄의 처벌 등에 관한 특례법，“《特例法》”）的修正案，在这一修正案中着重修改了与虚拟影像相关的法律规定，主要从以下两个角度加重了对虚拟影像犯罪的惩处：

1．提高了虚假影像物等的散布等罪的处罚上限。在《特例法》修订前，对于“在违背影像物等的对象意愿的情况下，以散布等为目的拍摄人的面部、身体或声音的拍摄物、影像作品或音频作品”以及“散布上述编辑物、合成物、加工物或复制品”的行为，应当被判处五年以下有期徒刑。而新修正案将这一上限提高至七年，反映出韩国对这类利用信息通信网实施的与AI相关违法犯罪行为打击力度的增强。

2．扩大虚假影像物犯罪的处罚类型。根据《特例法》修正案，任何人拥有、购买、储存或观看虚假影像物的汇编或副本，应处以3年以下监禁或不超过3000万韩元的罚款。这一规定是本次修正案新增加的条款，根据这一条款，韩国对虚假影像物犯罪行为的处罚范围从单纯的编辑、合成、加工及散布等行为，扩大到对相关物品的持有、购买及观看行为。可以预见，这一“买卖同罪”的举措能够对潜在的犯罪帮助者们起到恐吓作用，能够有效的减少非法虚假影像物的传播；同时，这一举措也是考虑到AI技术发展使得此类影像物的传播变得更具有便捷性和隐蔽性的特点，通过扩大规制范围，能够更全面地防控相关违法犯罪行为。

又如在2023年3月修订的PIPA中也规定，完全自动化的系统（包括应用AI技术的系统）处理个人信息，并作出对信息主体自身权利或义务有重大影响的决策的情况下，信息主体有对个人信息处理者表示拒绝相应决策的权利；在2024年8月修订的《促进信息和通信网络利用的信息保护法》（정보통신망 이용촉진 및 정보보호 등에 관한 법률）中规定了科学和信息通信技术部以及通信委员会应当承担防止合成图像等造成损害的责任。

由此可见，韩国对AI的规制并不仅仅依赖于《法案》的相关规定，而是以《法案》的规制原则为基础，以现有法律法规的修正条款为手段，二者相互结合以实现对AI技术及衍生服务的动态监管。