为帮助中小企业更好地了解、应对AIGC时代的挑战与机遇,5月27日,创业黑马在北京举办了以“预见新世界,构建新格局”为主题的“2023•黑马AIGC峰会”。
知道创宇副总裁李伟辰在会上进行了题为《知道创宇SecGPT,AIGC时代全流程业务风险治理》的分享,为中小企业做好AIGC内容治理提供了创宇思路和解决方案。
SecGPT:
一种网络安全“大模型”
SecGPT是知道创宇创始人、CEO赵伟在2015年世界互联网大会上提出的超前性概念,是将整个网络空间的所有数据放到一起进行跨域跨层的数据关联,然后寻找风险以及应对方式的过程。
按照赵伟的观察,网安行业大体上经历了四个时代,即手动分析时代、自动分析时代、信息时代、智能时代,每一次过渡到下一个时代,都要经历一次技术革命。
在当下的智能时代,AI技术逐渐成为网络攻防双方所关注的核心技术之一,网安行业的需求也逐渐从“合规”向“实战”升级,随着数据资源的指数级增长及大数据能力的崛起,以SecGPT概念打造安全能力生产线成为可能。
实际上,这一概念也是知道创宇构建整个技术体系以及产品矩阵的理论基础,立足网络攻防战场,用创新打造实战化防御体系。
AIGC野蛮生长,
危机十面埋伏
2023 Q1,人工智能企业新增11.4万家
AIGC行业从去年下半年发展到现在,不仅走出了低谷,许许多多的人工智能企业更像是踏浪而来。
截至2022年底,我国人工智能相关企业注册量为42.27万家;到了2023年第一季度,我国人工智能相关企业注册量新增11.41万家,较2022年同比增长25%。仅部分搜索可见,在Github上人工智能相关开源项目已经多达6.8万个以上。
除了企业,也有一些群体在野蛮生长,弄浊了浪潮,他们利用AIGC违法满足私利的情况层出不穷。
AI诈骗在全国爆发!眼见不一定为实!
AIGC生成内容可能导致的违法乱纪情况,包括但不限于:误导性和虚假信息,不当或违法内容,深度伪造的内容,恶意利用的安全事件,伦理道德,歧视性内容,隐私泄露。这些内容的传播将直接作用于互联网平台,使其被通报、罚款、整改,严重的甚至被下架。
李伟辰在分享中指出:“在AIGC广泛应用的时代,互联网平台势必将面临巨大的风险压力。”
AIGC野蛮生长,危机十面埋伏
监管视角下的AIGC合规要求,
内容、算法、数据是三大重点方向
我国的监管部门已敏锐察觉到AIGC可能产生的风险,并准备开展监管工作,以使其健康发展。从监管视角出发,AIGC的整个业务形态需要落实三类要求,分别是内容、算法和数据。
监管视角下内容之合规要求
今年发布的《生成式人工智能服务管理办法(征求意见稿)》提到:“利用生成式人工智能的产品提供聊天和文本、图像、声音生成等服务的组织和个人,需要承担该产品生成内容生产者的责任;提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行进行标识。”
《互联网信息内容生态治理规定》里也提到:“网络信息内容服务平台应当履行信息内容管理主体责任,加强本平台网络信息内容生态治理。”
监管视角下算法之合规要求
《互联网信息服务深度合成管理规定》里提出:“深度合成服务提供者应当落实信息安全主体责任。”《互联网信息服务算法推荐管理规定》中提到的“算法推荐服务提供者应当落实算法安全主体责任”。
算法合规必须考虑算法备案要求、算法评估要求、算法相对透明要求、用户权益建立健全机制等要求。
监管视角下数据之合规要求
尤其是在AIGC特定的大模型下,更会遇到一些特殊的数据合规要求。在《生成式人工智能服务管理办法(征求意见稿)》里还提到:“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。这些监管的明确要求,都给互联网带来了新的挑战。
IPO视角下的合规要求
除了监管要求,当企业成长到一定程度,进入IPO节点时,相关的部门还会对我们提出更高的要求。比如要求:
公司在保证人工智能技术可控、符合伦理规范方面的措施和规划;
需要说明公司经营是否符合《个人信息保护法》《数据安全法》《网络安全法》等法律的规定;
对外提供的产品是否涉及数据的采集运用,如是,说明数据的来源及其合法合规性;
保证数据采集、清洗、管理、运用等各方面的合规措施。
李伟辰表示:“相信随着相关法律的逐渐出台,在IPO阶段,企业将面临的合规性的质询会越来越多。”
知道创宇认知域网络空间AI
安全融合应用
李伟辰介绍到:“上述说了这么多监管趋严的例子,企业也正严阵以待,那知道创宇能在期间发挥什么作用呢?”
“知道创宇SecGPT架构,由大数据AI安全基座、大数据AI安全模型算法中台、大数据AI安全能力引擎、大数据AI安全业务应用构建。这是知道创宇从2007年创立以来就在践行的实际架构,在这一套架构上,知道创宇逐渐确立了以创新能力驱动“实战防御”的发展方向,在2018-2020三年间,发布了约二十款产品。通过产品间的连接、联动,构建起“AI+安全大数据”的底层能力,为客户提供云防御、云监测、云测绘、云智脑产品与服务。同时,知道创宇也在做全球范围的攻击威胁态势感知。”
在业务安全方面,知道创宇CDAI(Cognitive Domain Artificial Intelligence)认知域AI引擎系统是融合多年业务审核实践经验,联合众多内容安全审核领域专家智囊,使用数十种前沿数据科学算法作为能力核心,研制的一套创新AI系统解决架构。
该系统目前已完全接入知道创宇ScanA内容安全监测、ScanA智能审核平台、资质审核平台、数据精标平台等诸多产品,根据不同客户的不同需求,提供特定的解决方案。
针对互联网应用平台,
提供4套内容安全风控方案
AIGC智能审核定制
使用 Instruction GPT 类模型强大的指令执行特性,极速指定审核模版,分钟级上线定制化的机审能力。
内容合规鉴别服务
积极参与AIGC内容管理相关法令法规制定,契合监管需求,提供AIGC模型的内容合规测试服务以及AIGC违规内容的识别服务。
AIGC训练标注服务
充分发挥人审专家优势,为各大厂商提供专业的、高质量的RLHF(Reinforcement Learning Human Feedback)服务,助力客户厂商的GPT类模型训练。
AIGC合规基线评测
提供内容安全领域专业的测试人员对AIGC基线开展测试和评估,最终评测结果将为人工智能系统的开发和应用提供参考和指导。
针对大模型、大模型应用和相关企业,
提供三位一体的合规解决方案
在训练阶段、评估阶段、推理应用阶段均提供特色服务。训练阶段可以提供无监督预训练、RLHF;评估阶段可以帮助客户建立问题库、问题答案请求模型;推理阶段可以进行用户请求分析以及内容传播分析等。
知道创宇提供「三位一体」的大模型安全&合规解决方案
针对不同的业务场景,
提供ScanA全栈式内容风控体系解决方案
知道创宇ScanA全栈式内容风控体系包括机审和人审。客户可以根据需要的业务场景选择机审引擎或者机审引擎+人工复核,审核的内容包括图文音视文档等,覆盖AI对话、AI绘画、AI办公、AI搜索、AI视频、AI音频等AIGC应用场景。
平台可以通过API的方式将内容提交给知道创宇,审核结束后会把结果返回。如果内容是正常的,平台可正常展示出去;但如果是违规的,就会打上相应的标签返回给平台方。
知道创宇ScanA全栈式内容风控体系
目前,知道创宇ScanA全栈式内容风控这套体系已经应用在了很多一线头部厂商上,得到大厂的验证,并且是供应商里评价十分靠前的选择。
演讲的最后,李伟辰还向与会者介绍和展示了知道创宇发布的。
李伟辰表示:“知道创宇作为网信代表企业,将紧跟国家政策要求,向AIGC领域全方位渗透。通过人机深度交互,机器智能与人类智慧深度结合,实现以数据为中心、以分析处理数据为中枢的自主感知、自主分析、自主决策、自主打击能力,可为业内提供非常靠谱的、且能够落地的合规安全解决方案。”
PS:查看今日二条推送,阅读《知道创宇SecGPT,AIGC时代全流程业务风险治理》分享全文~
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...