前沿 | 新一代人工智能的社会影响及风险治理 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 山东大学东北亚学院教授戚凯

第二次世界大战期间，以艾伦·图灵（Alan Turing）为代表的数学家们发明了现代计算机的前身产品，从而极大提升了人类的计算速度。这些经验促使图灵于1950年在著作《计算机器与智能》中提出了一个具有里程碑意义的问题，即“机器能够思考吗？”1956年，另一位计算机行业先驱约翰·麦卡锡（John McCarthy）正式提出了“人工智能”的概念，意指机器有可能模拟人类的智能特征。自此之后，世界各国各学科人才一直致力于该领域的研究。在长达数十年的时间里，有关人工智能的研究形成了“结构模拟”“功能模拟”“行为模拟”等三大流派，它们代表不同的研究理念，在不同场景也具有各自的独特优势。但是，从根本上来说，在当时的技术水平条件下，整个人工智能研究缺乏“三算”（算力、算法、算料）基础，由此研究曾长期处于难以推进的尴尬状态。

新世纪以来，半导体、高速通信及数字存储技术的突破性进展加速了人类社会的信息化进程。计算能力的指数级增长、算法的持续优化及数据规模的爆发式扩张，为人工智能研究开创了前所未有的发展机遇。新一代人工智能技术迅速崛起，成为全球科技创新的核心领域。然而，技术发展往往是“双刃剑”，在促进人类福祉提升的同时，亦可能衍生难以预测的潜在风险。这就要求我们深入研究人工智能对社会系统的影响机理，并构建相应的风险防控体系。

新一代人工智能的发展现状

2017年7月，国务院印发的《新一代人工智能发展规划》明确指出，“新一代人工智能相关学科发展、理论建模、技术创新、软硬件升级等整体推进，正在引发链式突破，推动经济社会各领域从数字化、网络化向智能化加速跃升”。在此之后的数年时间里，国内外顶级人工智能科研机构与企业继续发力，积极把握住人类社会数字化的时代潮流，全力推动人工智能从小范围、实验室测试阶段走向大规模、商业化应用阶段。目前，新一代人工智能正在科技与商业领域双向发力，取得重大进展。

第一，以中国为代表的世界主要大国更加重视新一代人工智能发展。党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》中多处提及“人工智能”：完善推动人工智能等战略性产业发展政策和治理体系；完善生成式人工智能发展和管理机制；建立人工智能安全监管制度；在实施“一带一路”科技创新行动计划领域加强人工智能等多边合作平台建设。与此同时，自2024年初以来，美、英、德、法等西方大国也在新一代人工智能领域频频施策，寻求主导地位。

第二，科技界继续推进新一代人工智能核心技术研发，其中深度学习、多模态、大语言模型等技术尤为引人关注。深度学习是新一代人工智能的一个重要发展方向，其核心在于通过模拟人脑的神经网络结构，训练计算机从大量数据中提取特征并进行预测或分类。随着计算能力的提升和数据量的增加，深度学习已经在语音识别、图像处理，乃至逻辑归纳等领域取得了显著的进展。多模态技术则主要涉及更加复合与融合的新一代人工智能，与传统人工智能相比，多模态技术能够处理并整合文本、图像、音频、视频等多类信息源，形成更为全面的理解和决策，该技术有助于实现人工智能系统信息输入与输出的多维度融合，并提高系统在复杂环境中的表现。大语言模型通过处理大量文本数据，学习人类语言的结构和使用规则，能够生成符合语法和语义的自然语言，这些模型不仅可以理解和生成文本，还能够在一定程度上进行推理、解决问题和生成创意。

第三，企业界对新一代人工智能的投资兴趣热度不减。中国互联网络信息中心在2024年11月发布的《生成式人工智能应用发展报告（2024）》显示，中国生成式人工智能产品用户规模已达2.3亿人，人工智能核心产业规模已接近6000亿元人民币。据有关数据统计，2018年以来，全球人工智能初创企业年度风险投资规模维持在500亿美元以上，个别年份甚至高达1100亿美元。特别是手握巨额财富的美国四大数字平台企业（Meta、谷歌、微软、亚马逊）在2024年延续高强度投资态势，第二季度在人工智能基础设施投资规模达529亿美元。从2024年年初至9月份，全球针对人工智能初创企业的风险投资规模达到了641亿美元，按比例来看，近三分之一的风险投资资金都流向了人工智能行业。

新一代人工智能的正向经济与社会影响

新一代人工智能在科技创新与产业应用层面取得突破性进展，正加速渗透至社会各领域，对政治、经济、文化等维度产生深远影响。就正向影响来说，新一代人工智能在促进经济增长、增进社会福利等方面均具有重要潜能。

第一，打造全新产业，提升生产效率。尽管ChatGPT等生成式人工智能聊天机器人应用风靡全球，但新一代人工智能并非只是单一的文本或视频生成技术，而是一整套具有底座意义的科技创新与赋能体系。新一代人工智能正在与各产业领域深度融合，形成数据驱动、人机协同、跨界融合、共创分享的智能经济形态。一方面，新一代人工智能技术已发展成为新兴产业，技术转化、集成与创新不断涌现，从而催生了众多新兴业态。这些业态通常具有高附加值，位于全球产业链和价值链的高端，例如人工智能软硬件、智能工业机器人、智能（无人）驾驶交通工具等。目前，中、美、英、法、德等新一代人工智能大国均涌现出了一大批人工智能相关产业巨头，它们为上述国家的经济增长与高质量发展提供了强劲动力。

另一方面，新一代人工智能作为“科技头雁”，对其他产业的溢出带动作用更加明显。2024年12月11日至12日，中央经济工作会议确定了2025年要抓好的九项重点任务，其中之一是以科技创新引领新质生产力发展，建设现代化产业体系，开展“人工智能+”行动。“人工智能+”就是要将新一代人工智能技术与各行各业、各种应用场景有机结合，以创造更多价值。譬如，在新一代人工智能的加持下，制造业生产设备与流程的自动化、智能化水平大幅提升，能够实现全年无休运转，而且显著降低了传统人工监督生产的失误率，极大提升了产能。此外，在金融交易、交通运输、物流配送等行业，新一代人工智能具有庞大的数据库与巨大的算力，能够向这些行业提供人脑难以企及的运筹学最优方案，从而节约了大量的时间与成本，继而提升了生产效率，减轻了人们的工作负担。

第二，提升社会治理能力，增进社会福祉。有研究指出，各国不同的人工智能政策会对本国的社会福利结构与水平产生重大的影响。目前看来，新一代人工智能正在全面整合大数据、高算力、强算法，因此它在破解一些社会治理传统难题上，具备强大的潜力。在医疗行业，已经有德国人工智能企业将机器深度学习应用于医学影像检测，在显著降低成本的同时，大幅提升了诊断效率与准确性。在教育领域，人工智能正在赋能各类在线学习平台，它们能够提供基于整个大数据库的优质教育资源，而且能够完全打破空间壁垒，显著缓解教育发展地域不均衡的难题。在天气预报、气候变化监测以及环境保护等多个领域，新一代人工智能技术展现了其卓越的“三算”能力，显著提升了这些行业的观测与预测水平，达到了前所未有的高度。

第三，全面融入日常生活，改善衣食住行。新一代人工智能以其强大的计算能力和自我学习能力，极大地提升了人类日常生活的便利性。从智能语音助手到推荐算法，人工智能使得人们可以更加精准快捷地获取日常生活所需信息，无论是日常购物、餐饮预订还是交通导航、健康医疗，由人工智能赋能的各种智能终端设备与软件都能够更好地了解消费者的个性化需求，并做出快速匹配。尤其在中国，众多新兴的人工智能生态系统企业正迅速崛起，它们所推出的创新产品正广泛渗透至汽车、家居、娱乐、支付、健康等多个领域，极大地提升了广大用户日常生活的便捷性，实现了“一键互联”和“一触即达”的高效体验。

新一代人工智能的治理风险

但是，新一代人工智能明显也具有很高的风险，其“双刃剑”效应业已凸显，且正在给各国的社会发展和国家安全造成重大挑战。

第一，信息安全与隐私保护风险。新一代人工智能，特别是生成式人工智能、多模态大模型的迅猛发展，使得违法犯罪分子盗取他人隐私数据、炮制虚假信息的能力大幅上升，成本却显著下降。各国普通民众对传统纸面型、文字型虚假信息早已树立了较强的防范意识，但人工智能科技却使得虚假信息“脱胎换骨”。各种活灵活现的音频、图片、视频对普罗大众的迷惑性极强。这些深度伪造的虚假信息不仅损害人民群众的个人隐私、财产安全等切身利益，更有可能被用于操纵舆论、扰乱社会秩序，以至干涉内政、颠覆政权。

第二，算法歧视与社会公平风险。近期有学者特别指出，新一代人工智能的卓越进展，使得人类社会对于智能系统及其服务的态度，从既往的不太信任发展到了如今的过度信任。但是，人工智能及其背后的算法永远无法实现真正的客观公正，算法越强大，越无处不在，越有可能将这种过度信任扭曲为“信息茧房”，继而就会在不同的人群间逐步制造出坚固的认知壁垒，其最终将加剧社会不公平、不公正问题。

第三，替代人工与社会冲击风险。斯坦福大学于2024年发布的《人工智能指数报告》指出，新一代人工智能在图像分类、视觉推理、语言理解等任务上的能力表现已经超过人类，因此它尤其擅长完成与规范文字、数字相关的重复性、程序性的任务。在此背景下，人类社会的就业形态必然会受到深刻影响，譬如数据录入文员、零售业收银员、电话客服接线员等职业可能会面临被取代的风险。此外，国际货币基金组织的研究发现，在发达经济体，大约60%的工作岗位可能受到人工智能的影响，在新兴市场和低收入国家，受到人工智能影响的工作岗位预计分别占40%和26%，除此之外，人工智能还可能影响国家内部的收入和财富不平等。上述就业与收入问题最终都容易引发社会抗议，给国家治理造成额外的挑战。

第四，自然资源消耗与环境可持续风险。当前，新一代人工智能的繁荣背后，是各国对自然资源的进一步过度消耗。例如：与传统的数据中心相比，人工智能数据中心更加耗电耗水。2024年美国与加拿大的数据中心向发电公司订购的电力达到33675兆瓦，比2015年的用电量增长了约8.7倍。《自然》杂志指出，在日益严重的淡水短缺危机、持续干旱和公共供水基础设施迅速老化的当下，亟需深度调查和解决人工智能的耗水问题，随着新一代人工智能需求激增，相关用水量在2027年之前将增至42亿至66亿立方米，约为英国每年用水总量的一半。

第五，人工智能军事化与全球发展风险。当前，一些西方大国正在强行推进人工智能武器化进程，将新一代人工智能与传统武器装备结合，希望制造完全自主武器（即所谓的“智能杀人机器”）。这类做法不仅违背人类传统道德，而且还会彻底颠覆国防与战争形态。更重要的是，某些霸权国家为了护持霸权，明显寻求独霸人工智能领域，希望对其他国家的发展能力形成代际差距。此类做法一方面迫使其他大国只能作出对等反应，引发人工智能军备竞赛，另一方面更是显著扩展了全球数字发展鸿沟，“赢者通吃、弱者更弱”的全球巨大发展差距将更为明显，从而给世界带来更多的深层次不稳定因素。

总的看来，新一代人工智能的确具有提升经济社会发展水平等诸多益处，但其风险点众多且重大，对国家的社会发展和国家安全均形成挑战，因此亟需把握风险治理的核心议题，采取切实有效的行动。

新一代人工智能风险治理的关键路径

2018年，习近平总书记在主持十九届中央政治局第九次集体学习时就强调：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。”面对近年来新一代人工智能跃迁带来的更大挑战，中国需要制定更加科学有效的治理路径，在推动技术进一步发展的同时规避潜在威胁。人工智能的风险治理既需要符合中国自身国情，也要将技术创新与伦理规范相融合，更需要推动全球协作和实践方案。治理关键路径应包含以下几个方面：

第一，推进算法透明化研发，强化风险监测机制。新一代人工智能的核心能力之一在于强大算法，但当前算法黑箱难题迟迟没有得到解决，以致其成为人工智能风险复杂难辨的关键动因。有鉴于此，首先，必须加速算法透明化研究。瞄准一直以来的黑箱式机器学习与算法“痛点”，要下大气力促进“可解释性人工智能”科技的开发，并推动相关成果尽快落地。在运用新一代人工智能的重点领域，譬如涉及公共安全、个人隐私、医疗健康、传媒舆情、企业内控、金融通信的场景，要求人工智能必须能够被解释、可溯源、可控制。其次，针对人工智能换脸、变声、音视频合成等深度伪造技术，要从程序代码根源做好监测与预警机制，尽早落实人工智能敏感工具用户实名制。利用人工智能，建立前沿技术识别和监测体系，对存在人工智能严重滥用风险，特别是涉嫌扰乱社会秩序、侵害公共安全的个人或机构实行动态监测、常态化打击。

第二，推进伦理规范，继续健全法律框架。人工智能的伦理和法律治理是风险管理的核心环节。中国的相关治理必须注重结合本国国情，要立足于社会主义核心价值观，强调人工智能技术应用必须尊重社会公德、维护公平正义，确保技术服务于人民福祉。在法律层面，立法机构需要制定严格的隐私保护法规，明确数据的采集、存储和使用范围，并推动企业与机构采用数据加密和匿名化技术，从技术层面保障用户隐私。此外，在人工智能使用中触及的法律责任问题，也需通过制定针对性的法规予以明确，例如从法律层面尽早明晰算法错误或系统失控等意外事件所引发的责任归属问题。

第三，关注就业市场变迁，强化社会保障体系。人工智能的广泛应用对就业结构和收入分配带来了深远影响。政府需要通过政策和社会保障机制，积极应对就业市场的变化。首先，应加强劳动者的职业再培训和技能升级，尤其是对中低技能岗位从业者提供免费或低成本的技能培训计划，以帮助他们适应人工智能驱动的产业转型，特别是加强对他们的数字生产生活方式训练，使其更好地融入现代数字与人工智能时代。其次，应建立更有温度的劳动权益保护机制，要明确新一代人工智能乃至一切数字科技的根本用处是增进全社会福利，而不是制造“机器控制人类”的畸形世界，要下力气整治所谓的“算法陷阱”“智能计时”给一线生产人员带来的巨大生理与心理压力。再次，要发展更灵活的社会保障体系，如失业保险和收入补助计划，为受人工智能科技冲击的劳动者提供过渡支持。同时，政府可以通过财政政策激励企业创造更多高附加值岗位，推动产业升级，为社会提供更多就业机会。

第四，优先发展绿色科技，强化政策引导支持。为应对新一代人工智能对自然资源的高消耗，需要优先发展更加节能高效的相关技术。例如，在硬件层面加快推进碳化硅等新一代半导体材料的研发，从根本上大幅减少新一代人工智能计算中心对水电资源的消耗，在软件层面研发更加绿色的计算架构和优化算法。同时，政府应通过征收碳排放税、奖励高能效科技等政策，引导企业关注节能增效，加速推动绿色技术落地应用。

第五，促进国际合作，缩减发展鸿沟。中国作为新一代人工智能大国，也是国际社会负责任、爱好和平的重要大国，亟需加强引领，在开发“智能杀人机器”等高风险议题上持续推进国际社会制定统一的国际法准则，明确风险底线与红线。与此同时，中国还应推动人工智能技术的开放共享，倡导构建包容性的全球技术生态。例如，通过开源平台和技术转让，帮助发展中国家提高人工智能研发和应用能力。此外，中国还应继续加强“一带一路”建设中的数字合作，通过人工智能基础设施建设、人才培养和经验分享，支持更多后发国家融入人工智能发展浪潮。

新一代人工智能是人类技术进步的里程碑，其强大的计算能力、自主学习能力和广泛应用场景，正以前所未有的速度改变社会的生产与生活方式。然而，伴随技术发展的不仅是效率提升与便利化，还有深刻的社会、伦理与治理挑战。例如，算法黑箱与偏见问题可能加剧不平等，隐私侵犯与技术滥用引发公众担忧，人工智能的军事化和全球化竞争也对国际安全和合作形成了压力。这些问题表明，技术进步本身并非万能解药，必须通过技术创新与治理创新的结合，才能确保人工智能的安全、可靠与公平应用。未来，唯有在推动人工智能科技发展的同时，建立健全的伦理框架、法律体系和全球合作机制，才能最大限度地释放其潜力，为社会发展注入可持续动力，实现科技与人类福祉的共赢。【本文系国家社会科学基金重点项目“中美科技竞争背景下美国对华数字产业遏制动向及反制策略研究”（项目编号：22AGJ007）的阶段性成果】

（来源：人民论坛网）

分享网络安全知识强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情