AIGC的迅猛发展给我们的日常工作生活带来了一场生产力革命,vivo作为一家以用户为导向的科技公司,在积极拥抱AIGC的同时也高度重视它带来的新的安全挑战。
vivo安全合规高级经理-吴佳颖
AIGC风险场景包含有由其特性衍生的数据风险和模型风险,以及由产品特性所决定内容风险和运营风险,这四类风险在系统&应用联动效应和用户多元使用需求下相互影响、相互制约,共同构成了完整的风险矩阵。
想要解决风险就必须要摸清风险,vivo开展治理的第一步是构建风险度量模型。通过解读、融合相关政策法规和技术指导文件,vivo内部制定了《大模型安全风险评估基准》,从数据安全、模型安全、内容安全、运营安全四个板块来度量大模型全生命周期的安全水位。
在《基准》的方法论指导下,vivo从最初的训练语料环节,到最终的产品上线环节,通过一条流水线把所有关键环节和关键角色都串联在一起,组成AIGC业务的安全架构,上下游各司其职,共同保障产品安全质量和用户体验。
在安全架构的实践层面,vivo内部通过一套流程和两个平台进行实现。
产品安全开发流程通过将安全管控节点融入其中,从需求策划到设计开发阶段,针对风险场景做成因倒推,提出各阶段相应的安全需求,以内部的成熟规范引导、约束,严格把关各个环节的交付质量。
同时,vivo构建了大模型管理平台来隔离上层业务与底层大模型的直接通路,所有产品接入AIGC能力都需要通过大模型管理平台来验证其安全措施的落实程度,以此保障整个上下游的产品安全。此外,位于大模型管理平台下游的内容安全策略平台集成了内容审核、用户管理和策略运营模块,为AIGC产品提供统一的内容管理策略,既能守住最底线的通用标准,又能根据实际场景和用户反馈进行尺度微调。
在内容风险方面,vivo构建了合适的内容标签体系,以监管层面的正常应答、红线必达、红线拒答三类要求,以及业务层面的文本、图片、音频等多模态场景的实践需求来组成整个标签体系, 共18类400多个细管控场景。
基于内容标签体系,vivo安全团队针对管控场景结合变异攻击手法又构建了内容质量评测集,并开展内容安全质量评估。评估从原始问题维度、绕过率维度和高级攻击手法维度,输出大模型内容安全质量评估报告,而这份报告也将成为vivo所有大模型是否准入的金标准。
尽管针对大模型下游的内容进行了一系列管控,但大模型效果提升的原动力,始终是高标准高质量的训练语料。对此,vivo和百度深度合作,针对数据及数据源的不同问题进行专项处理,形成了一套全面的训练语料清洗与质量监测体系,对大模型训练语料进行提质纠偏。
整个处理会分为两个阶段,首先进行数据源的质量确认,当授权合法性和质量可靠性都满足管控要求后,才会进行具体的数据清洗,而在清洗过程中会不断进行质量监测,及时识别不可靠数据源,最终输出满足质量标准的训练语料。
百度安全技术委员会主席-包沉浮
除了不断夯实内部能力,vivo还在行业内持续开展广泛合作。
在信通院成立AIIA安全治理委员会构建人工智能安全评测体系的过程中,vivo积极参与各项工作并贡献了实践经验。2024年,中国信通院联合vivo等30余家单位发起大模型安全基准测试,从底线红线、社会伦理、信息泄露的角度对大语言模型、多模态大模型进行安全测试分析。
中国信息通信研究院人工智能研究所安全部主任-石霖
今年7月,vivo率先通过了信通院首轮AIIA大模型安全测评。在测评中vivo以AIIA为抓手,提升了AI全链治理水平,并不断吸收经验、优化内部安全架构。
同时,vivo也不断积极推动行业标准制定,目前已牵头立项团体标准《移动智能终端端侧大模型安全实施指南》,将我们在端侧大模型安全实践和研究积累与行业分享,以期望与行业伙伴一起协作,共同提升端侧大模型的安全水位,助力终端AI行业的发展。
vivo始终期待与更多的开发者和行业合作伙伴一起,为AI产业的蓬勃发展添砖加瓦。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...