前沿 | 筑牢AIGC影响下的意识形态安全屏障 - 新鲜讯息

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中国社会科学院新闻与传播研究所世界传媒研究中心研究员闫佳琦

人工智能生成内容（AIGC）的深度发展和快速普及，为意识形态工作带来全新变量。AIGC从内容层面、语料层面、算法层面，由表及里地重塑了“人机共生”网络生态下的意识形态工作新场景。意识形态大数据有助于从内容倾向识别、账号网络分析、议题联合博弈等维度，开展监测与预警、汇总与回应、过滤与溯源的被动防御，以及精确触达受众、精准调控议题、精细管理平台的主动策划，对打好网络安全攻防战来说具有重要意义。

AIGC对网络安全的多层挑战

AIGC对网络安全的表层挑战，体现在意识形态宣传的内容生成层面。其内容呈现出成本低、速度快、形态真、情感强等特点。一方面，AIGC显著降低内容的生成成本，前期集中开发训练之后的边际成本大幅降低。这种快速生成的能力使意识形态宣传者能够迅速响应新闻事件、社会趋势或政治变化，从而更灵活地把握信息传播的重点方向。另一方面，AIGC有望生成“柔性”人格化表达、“深度”流畅化内容，使意识形态工作能够通过回应痛点、响应诉求、调动情绪等方式，更有针对性地激发观众“入脑入心”的内在情感反应。与此同时，AIGC与错误意识形态的结合将更具有隐蔽性、渗透性，虚假舆论共识的遮蔽效应可能进一步提升意识形态工作难度。

AIGC对网络安全的中层挑战，体现在意识形态宣传的语料训练层面。数据投毒、标签投毒、AI投毒等语料污染攻击，是当前逐渐升级的意识形态恶意攻击的典型方式。首先，数据投毒是较为基本的形式，即虚假、偏激或误导性文本语料被注入AIGC的训练数据中。其次，标签投毒关注训练数据的标签或类别，使模型学习错误对应关系，将数据标签错误标记为与实际内容不匹配的标签，实现内容生成的虚实颠倒、阳奉阴违，通过“劫持叙事”弥散历史虚无主义。在此基础上，AI投毒是针对人工智能系统所开展的更深层次威胁，以对抗样本攻击、模型扰动等方式，超越单一的数据或标签投毒，从更为底层的技术逻辑干扰AIGC平台，生成更大规模的意识形态误导性内容，成为意识形态工作中不可小觑的“数字化杀伤武器”。

AIGC对网络安全的深层挑战，体现在意识形态宣传的算法学习层面。计算宣传依托于人工智能、深度学习等技术手段，激化了意识形态工作中的认知竞争与情感争夺，可能衍生出意识形态“算法霸权”的新一轮角力。错误意识形态内容如被AIGC大模型学习，其后续输出的相关信息又会回流至网络，成为进一步被学习加工的错误原料，新旧版本的错误信息相互裹挟、愈演愈烈，就会形成意识形态内容生产的“有害的螺旋”。后续信息分发进入公共领域后，可能进一步激发意识形态分裂、偏见、极端化等问题。因此，未来对于AIGC技术的竞争，极有可能成为大国竞争新的着力点。

监测意识形态声量动态变化

面临AIGC对意识形态领域带来的挑战，意识形态大数据或能为意识形态风险的有效洞察提供机遇。意识形态大数据主要通过监测社交媒体、公开文章和在线讨论等数据，将不同意识形态内容及账号信息等作为学习语料，形成意识形态关键词词库，以期持续监测意识形态声量动态变化，描摹多渠道、多平台、多元受众群体的触达反馈情况，及时发现异常传播节点与风险内容，为相关主管部门的管控、应对工作提供技术支持。具体而言，意识形态大数据有望从内容层面、账号层面、议题层面，为助力网络安全提供技术支持。

一是意识形态相关内容的倾向识别。意识形态大数据基于海量多模态数据，深度学习自由主义、保守主义、相对中立等意识形态偏向特征，测算不同意识形态信息内容的左右倾向、情感倾向、传播趋势，预判相关内容的覆盖度和影响力。意识形态大数据有助于快速把握舆论敏感变化点，便于及时采取相应措施应对潜在的网络安全威胁。

二是意识形态所涉账号的网络分析。意识形态大数据还可以用于分析网络上的账号信息及其互动模式。通过分析账号的内容结构、转发关系、时序特征等，可以定位风险敏感者、温和派、极端派等账号属性，识别可能的虚假或自动化的社交机器人账号。同时，网络分析有助于揭示意识形态网络中的关键参与者和信息传播路径，揭示幕后潜在势力和核心参与者，分析其在传播特定意识形态信息方面起到的关键作用，有助于制定针对性应对策略。

三是意识形态风险议题的联合博弈。一方面，意识形态大数据可以通过类别型指标、数量型指标、时序型指标等，为独立议题、联合议题提供风险定量评估标准。另一方面，通过分析人机博弈、机器博弈的战术和意图，意识形态大数据可以为综合性议题的精细化应对提供参考，根据风险程度区分应对环节中的轻重缓急，提升意识形态工作效能。

意识形态宣传新模式

意识形态的“攻”与“守”，是筑牢网络安全屏障的核心议题。基于意识形态大数据的核心功能特点，意识形态工作有望从被动转向主动，两相配合以加强网络安全建设。面对意识形态信息的浩荡洪流，意识形态大数据提供底层数据原料，AIGC成为整合流程的生产车间，革新了信息生产方式与意识形态宣传模式。

被动防御是当下意识形态工作的主线任务。基于AIGC的意识形态大数据对于“防”的关键意义，筑牢网络安全屏障主要体现在“三步走”策略。

第一步是监测与预警。传统的网络安全工作更依赖于关键字词识别，而AIGC可通过文本变换与多媒体融合替换的方式予以躲避。基于意识形态大数据的多准则动态管控手段，可以在拟态仿真环境下对网络信息传播安全攻击、防御等博弈行为进行模拟，进一步升级网络风险的监测预警方式，推动人工智能时代的科学决策和依法决策。

第二步是汇总与回应。对于监测到的网络安全问题，意识形态大数据可以配合管理部门，在具象化层面理解语义、语境、语用等传播因素，在抽象化层面把握意识形态特征和传播规律。由此生成的网络信息传播安全管控的案例库、策略库，有助于运筹帷幄、评定等级、区别类别、针对处理，争取网络信息安全的最优管控策略。

第三步是过滤与溯源。意识形态的斗争本质上是人的斗争，监测与回应或可治标，而过滤信息迷雾、溯源背后特殊利益集团则有利于治本。对于特定账号或信息来源，意识形态大数据可以根据信息敏感性、危害性、影响力等因素，分级别、分权重、分期限地进行信息溯源、流量控制、自动降权等，以此达到修正错误意识形态的反制效果。

主动策划是未来意识形态工作的必争之地。基于AIGC的意识形态大数据体现的建设性意义，筑牢网络安全屏障重在实现对受众、议题、平台维度的突破。

首先是精确触达受众，受众是信息传播的接收者、意识形态宣传的目标对象。意识形态大数据有助于感知受众的社会背景、文化习惯、价值观念、信息接收习惯等。在此基础上的AIGC内容生成和传播则会具备高度的灵活性和定制性，生成推送更符合受众需求和接受程度的宣传内容，提升不同受众群体的信息触达体验。

其次是精准调控议题，议题是信息传播的内容、意识形态宣传的核心关切。意识形态大数据可以批量提炼意识形态宣传的多元议题，AIGC则可在此基础上生成丰富的多模态展现形式，针对不同场景的个性化需求予以精准输出。同时，基于AIGC的意识形态大数据可以关注议题的动态变化，进行议题跟踪、调整、优化，“小步快跑”，多管齐下，以适应议题宣传的差异变化。

最后是精细管理平台，平台是信息传播的载体，意识形态宣传的重要场域。意识形态大数据可以捕捉不同平台的传播特性、用户画像、辐射范围等，以此系统性整合、全局性调配宣传策略，突破平台间意识形态宣传的藩篱。同时AIGC可以及时捕捉平台的商业策略与用户群体的调整变化，优化意识形态大数据的算法与算力分布，锁定平台宣传锚点。

筑牢网络安全屏障，需要把握好技术革新“方向盘”、意识形态工作“压舱石”。AIGC新技术变革的挑战中同时蕴含机遇，运用好意识形态大数据这一工具，化被动为主动，强化阵地建设，是彰显大国网络安全治理智慧和魄力的重要考验。

（来源：中国社会科学网）

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图了解详情