专家解读 | 生成式人工智能治理须协同发力 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 华南理工大学新时代网络文明研究中心执行主任、博士生导师谢加书

“立善法于天下，则天下治；立善法于一国，则一国治”。科学立法有助于处理好科技进步和经济社会发展的关系。安全是发展的前提，发展是安全的保障，安全和发展要同步推进。《生成式人工智能服务管理暂行办法》（以下简称《办法》）提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，为促进生成式人工智能技术服务群众美好生活、防范风险奠定了基础。

生成式人工智能技术是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。近年来，因为自动驾驶、聊天机器人ChatGPT火了而引发网民的高度关注。从人类现代化历史经验来看，科技革命必然会带来生产方式和生活方式的巨大变革，推动社会治理方式的嬗变。作为信息革命的重要组成部分，生成式人工智能技术已经对人们的生产和生活产生巨大的影响，并对网络治理产生影响。生成式人工智能技术在一定程度上降低了信息技术的应用门槛，简化了技术应用的复杂程度，如人工智能生成文本、音视频等，已经并将深入影响教育、文化艺术等行业，将极大地解放劳动者，为促进经济和社会发展带来了巨大的正面影响。但同时，科技创新也是“双刃剑”，不当应用也会给国家和人民带来较大风险，如意识形态风险、个人信息权益保护、数据安全等问题日益突出。

面对渗透性强、潜在风险大而又飞速发展的信息技术，《办法》坚持发展和安全并重、促进创新和依法治理。一方面，包括生成式人工智能在内的信息技术是数字经济蓬勃发展的第一生产力。而数字经济是当今大国形成竞争新优势的关键所在。因此，必须采取有效措施鼓励生成式人工智能创新发展。《办法》设技术发展与治理专章，用“鼓励”“支持”“推动”等词汇强调法规推动生成式人工智能技术创新、数据资源建设、平台建设、优质内容生成、应用场景和应用生态体系建设、风险防范、国际交流与合作。另一方面，要落实总体国家安全观，依法治理，防范风险。没有网络安全就没有国家安全，就没有经济社会稳定运行，广大人民群众利益也难以得到保障。《办法》第一条明确提出其制定目的是“为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益”。人民安全是总体国家安全观的宗旨，《办法》旗帜鲜明地保护人民安全和其他权益：“尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益”；《办法》特别要求“采取有效措施防范未成年用户过度依赖或者沉迷生成式人工智能服务”，体现了《办法》对未成年人的关心和爱护；政治安全是根本，《办法》明确要求“坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容”。

生成式人工智能治理必须协同发力，形成服务提供者、使用者、监管者和公众等多方合力，才能实现良法善治的目标。生成式人工智能的风险不仅在于源头的算法等设计，更在于服务生产和生活的过程中。《办法》注重源头治理，有效防范了风险，保护了群众和使用者的权益。《办法》设专章对服务过程进行规制。根据权利和义务一致原则，并考虑到相关服务提供者能第一时间识别潜在风险等因素，因此生成式人工智能服务提供者依法承担网络信息内容生产者责任，履行网络信息安全和个人信息保护等义务，并要求与服务使用者签订服务协议，明确双方权利和义务。作为服务提供者发现违法内容的，应当及时采取相应措施整改，并向有关主管部门报告；服务提供和使用者都应当遵守法律、行政法规，尊重社会公德和伦理道德；从服务社会公众角度来看，《办法》要求提供者建立健全投诉、举报机制，为公众参与监督提供了依据；生成式人工智能的应用涉及众多行业，其监督检查必然要依靠行业主管。《办法》设计了分类分级监管机制，明确要求制定相应的分类分级监管规则或者指引。有关部门依据各自职责依法加强对生成式人工智能服务的管理。

（来源：人民邮电报）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图了解详情