中关村论坛年会
3月27日-31日,2025中关村论坛年会在北京举行,千名顶尖学者、中外嘉宾围绕“新质生产力与全球科技合作”的年度主题,展开前沿对话,共绘未来蓝图。奇安信集团紧扣“新质生产力”主题,以“AI+安全 护航双智城市建设”为核心,系统呈现“AI+安全”护航智能社会建设的创新实践。
在“行业大模型应用与发展论坛”上,奇安信集团副总裁张勇表示,大模型技术为网络安全带来新机遇的同时,也面临数据隐私、对抗攻击等挑战。奇安信通过技术创新构建了全方位的安全防护体系:一方面,奇安信自研的人工智能安全大模型QAX-GPT告警研判能力已接近中级安全专家水平;另一方面,奇安信创新研发了大模型卫士、设计了AI安全整体应对方案,帮助政企机构提前洞察风险并采取应对措施。
他强调,面对大模型时代的安全挑战,需要从技术、法律、伦理多维度协同应对。未来,奇安信将持续深化大模型与网络安全的融合创新,重点突破多模态威胁分析等关键技术,并推动产学研协同,共建AI安全新生态,为数字经济发展提供坚实的安全保障。
在“科技与法治论坛”上,奇安信集团副总裁段继平系统剖析了AI大模型的三类问题:一是技术本身不成熟,存在幻觉、数据安全及输出不当言论等问题;二是应用行为不规范,生成式AI被滥用于伪造视频、语音诈骗、虚假营销,企业与个人在使用中也面临数据泄露与内容合规风险;三是治理体系不完善,法律标准滞后、平台责任模糊,难以支撑有效监管。
针对这些问题,需从三方面解决:一是解决大模型内生安全,通过数据预处理、模型加固、输入输出审查、内容合规校验等手段,形成模型“免疫系统”,实现从训练到应用的全生命周期安全管控;二是加强技术对抗和源头治理,利用技术对抗算法,3月,网信办联合四部委发布的人工智能生成标识方法及明确平台责任是良好开端,但还需一套内容治理方案,涵盖事前生成、事中审核、事后溯源取证等环节,以此打击新型 AI 犯罪;三是加大技术和法律协同联动,同步完善法规标准、责任机制与行业规范,探索内容标识、平台免责、算法责任分级等制度创新,构建真正可执行、可问责、可持续的AI治理体系。“期望在人工智能时代,安全能从阻力转变为AI大模型发展的内生动力。”他表示。
在同期开展的中关村常设展上,奇安信集团展示了其"AI+安全"领域的先进技术和解决方案,这些创新成果构筑起了立体化的网络安全防线。
由奇安信XLab实验室研发的奇安信大网威胁态势监控平台,先后披露过2025年春节期间针对DeepSeek的攻击、东海岸断网事件等;AISOC是奇安信安全大模型深度融合的安全产品,以安全大模型和大数据关联引擎为驱动,嵌入安全运营核心工作,实现安全运营工作十倍、百倍、千倍的效率跃升;车路云一体化安全解决方案则通过智能驾舱攻防演示与“车路云”路端网络安全攻防演示,展示车、路、云安全风险,并构建一体化安全能力,为双智城市建设提供有力支持,彰显了奇安信在多领域的技术实力与前瞻性。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...