专家观点 | 加强生成式人工智能的应用与治理 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 清华大学智能社会治理研究院院长苏竣

以人工智能技术为核心的新一轮科技革命和产业变革，正快速推动着全球创新版图的重构、文明秩序的重塑和人类社会的智能化转型。近年来，生成式人工智能正逐渐成为人工智能技术产生颠覆性变革的“新潮头”，已经能够实现从文本到图像再到视频内容合成的领域跨越。接下来，应以生成式人工智能产业应用推广和技术治理为抓手，释放创新效能，把握好发展机遇。

早期的人工智能主要作为一种支持工具或服务存在，提供数据处理、简单自动化任务等功能。这一阶段，人工智能主要被视为加强既有信息产业基础设施的一部分。2006年，人工智能领域的发展取得极大进展，为后续生成式人工智能技术的发展奠定了基础。之后，随着自然语言处理、计算机视觉、机器学习等关键技术的突破，人工智能的能力大幅提升，使得生成式人工智能从单纯的技术基础设施转变为能够独立完成复杂创作任务的各类应用。近年来，生成式人工智能技术开始进入商业应用并不断深入。与此同时，市场对于高质量、高效率内容的需求日益增长，生成式人工智能开始转变为直接面向终端用户的服务和产品提供者。生成式人工智能从此不再仅仅是技术或工具，而是一个涵盖内容创作、分发、版权管理等一系列服务的完整产业链。它也被应用于更广泛的创意内容市场，涵盖文学创作、图像和视频制作、音乐创作等领域，促成了围绕生成式人工智能技术的全新生态系统的形成。

生成式人工智能产业发展带来的影响不仅体现在技术层面，也带来了全新的风险和挑战。一是需警惕其带来的垄断、失业、贫富分化等经济风险。有报告指出，现有职业的一半可在2030年至2060年间实现自动化。在制造业等传统行业，通过引入人工智能驱动的机器视觉和机器人技术，能够实现生产线的自动化和智能化，促进劳动力从简单劳动向更为复杂的技术和服务岗位转移，推动劳动力转型，为全要素生产率增长开辟新路径。但是，智能经济下的超级平台具有赢者通吃、网络合并的基因，在某些情况下会使得小型创业公司难以竞争，加剧市场集中度，形成垄断格局。二是需有效应对其带来的意识形态潜在风险。它能够通过生成定制化的信息和内容，生成多元化的观点和论述，从而促进更开放、更包容的公共讨论空间，鼓励更多人参与到政治过程中来。但精准推送产生的信息茧房，也会在一定程度上导致在线极端主义、虚假宣传等问题。三是注意社会风险管控。它可通过智能算法分析数据访问模式，识别潜在的数据泄露和隐私侵犯行为，辅助设计更为安全的数据处理和存储方案，以系统性思维纾解社会风险，构建更安全、更可持续的社会。但是，人工智能系统的训练数据也可能被恶意篡改，以致其学习到错误信息。另外，生成式人工智能技术将在推动能源生产和消费革命方面发挥巨大作用，大幅降低能源消耗和碳排放。但是，数字化与绿色化发展之间仍存在夹角，其作用还需进一步优化。

面对生成式人工智能等新兴技术所带来的潜在风险与挑战，应紧密跟踪、深入分析，并以积极、审慎的态度加以应对和管理，确保能够有效控制并化解伴随而来的风险，促进新技术在更广泛领域的健康发展。

加强基础研究，增强自主创新能力。基础研究是推动科技进步和创新的根基，为长远的科技发展奠定了理论和实验基础。虽然新兴技术的变革性应用往往是市场需求驱动的，但技术背后的基础设施却是长周期、高风险基础研究的成果转化。因而需要坚持长远视角和战略耐心，鼓励科学家探索未知领域，重视核心技术的自主研发和保护，确保在关键领域和技术上的自主可控。同时密切关注市场动态，及时获取新兴技术和市场需求的信息，对国际科技发展趋势保持敏感，在基础研发方向与实际应用需求之间进行协同调适。

合理规划生成式人工智能产业布局，修正市场失灵风险。技术的发展不是一蹴而就的，需要基于先行先试的广泛探索，经历长周期、宽领域、跨学科的研究推广，在可控风险的前提下，应对市场短周期波动的不确定性风险。各地可持续推进依托生成式人工智能技术的人工智能社会实验，在实践中探索和验证生成式人工智能技术的应用模式、风险管控方法以及社会影响。此外，可以通过政府引导基金等政策工具，为初创企业和创新项目提供必要的资金支持，助力这一产业成功跨越创新的死亡之谷。同时，还可通过提供研发补贴、税收优惠等政策干预，以应对知识产权保护不足、技术创新正外部性的不充分内化，修正市场失灵。

建立多元主体参与的治理机制，加强国际合作与交流。探索政府监管、行业自律、企业自治、社会监督的监管体系，引入行业、社会等监督力量，鼓励企业自治，在重点发展领域侧重监管资源的配置，形成具有包容性和敏捷性的监管框架，防止技术滥用等衍生风险发生，建立安全可控的生成式人工智能产业体系。与其他国家和国际组织建立多边合作与对话机制，以有效应对生成式人工智能技术全球化发展带来的地缘挑战。建立生成式人工智能技术与产业发展的统一技术标准、伦理准则和行为规范，引导技术的发展方向。促进不同行业和不同规模企业间的协同和互信，引导企业开展负责任创新，保障用户权益和数据安全，下好智能社会国际竞争的“先手棋”，推动生成式人工智能产业健康、可持续发展。

（来源：学习时报）

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情