GB/T 45674-2025 《网络安全技术 生成式人工智能数据标注安全规范》发布

《GB/T45674—2025网络安全技术生成式人工智能数据标注安全规范》于2025年4月25日发布，2025年11月1日实施。该规范针对生成式人工智能数据标注安全问题，制定了一系列要求与评价方法。

《GB/T45674—2025网络安全技术生成式人工智能数据标注安全规范》规定了生成式人工智能训练的数据标注平台或工具、标注规则、标注人员、标注核验的安全要求，以及安全评价方法。该规范适用于数据标注组织方、需求方和第三方机构，旨在防范数据标注过程中的安全风险，提高数据标注安全水平。

适用范围：

适用于生成式人工智能数据标注组织方开展训练数据标注活动，也为数据需求方检查、验收及第三方机构评估提供参考。

安全要求：

数据标注平台或工具：定期评估修复漏洞，确保标注环境安全，记录操作日志，保障标注设备和网络安全，使用自动化标注工具需符合法规要求。

数据标注规则：规则应包含标注目标等内容，区分功能性和安全性标注规则，涵盖多种核验与处置机制，避免产生安全风险内容。

数据标注人员：进行安全培训并考核，合格者上岗，定期或规则变化时重新培训；合理分配任务，明确人员职责；规范人员管理，不同角色人员职责分离，及时撤销离岗或违规人员权限。

数据标注核验：安全性标注数据应全面、有代表性，标注比例不低于3%；核验方式包括人工和混合核验，核验内容涵盖理解准确、问答一致等；对问题标注进行纠正、记录和复核。

安全评价方法：

数据标注平台或工具：审查评估和修复记录、检查平台安全性、审查日志等，符合预期结果为“符合要求”。

数据标注规则：审查规则内容、分类、任务类型等方面，符合相应预期为“符合要求”。

数据标注人员：评价培训、任务分配和人员管理情况，符合预期结果为“符合要求”。

数据标注核验：检查安全性标注覆盖范围、核验方式等，符合预期为“符合要求”。

关键问题解答：

1. 数据标注规则安全要求中，功能性标注规则和安全性标注规则有何不同？

功能性标注规则用于指导标注人员生成具备真实性、准确性等的标注数据，包含正反例信息和安全风险识别方法；安全性标注规则围绕数据及生成内容的主要安全风险进行标注，包含安全风险提示信息的响应规则说明及示例。

2. 数据标注人员安全培训的具体内容和考核标准是什么？

培训内容包括标注规则安全要求、平台工具使用及安全要求等；考核内容有法律法规知识、标注规则理解能力等，考核合格者获得标注上岗资格。 3. 数据标注核验要求中，安全性标注数据有哪些具体指标？

安全性标注数据应至少覆盖主要安全风险场景，每种安全风险的标注数据宜不少于200条，标注比例宜不低于3%，且需经过审核，未通过核验的数据超过总量5%时该批次作废。

近期热点内容：

标准节选

全部内容请到帮会中下载，感谢支持！！

END

来源：全国网安标委

freebuf 帮会简介

「一起聊安全」公众号及帮会致力于网络安全材料汇总与分享，围绕网络安全标准、安全政策法规、安全报告及白皮书、安全会议、安全方案、新技术等方向，与FREEBUF知识大陆共建【一起聊安全】帮会，目前相关内容已有6700+，安全标准涵盖国标、行标、团标等，包括等保、关基、商密、数据安全、云计算、物联网、工业互联网、移动安全、风险评估、安全攻防等30+方向内容，覆盖最新安全政策法规、安全报告及白皮书等，为网安人提供最新最全资料。