观点 | 生成式人工智能的技术失控风险与治理规则优化
扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 吉林大学法学院 马永强近日，一则关于生成式人工智能模型违抗人类指令的消息引发社会广泛关注。据...
admin
功能安全看人工智能技术特征及风险
在当前发布的功能安全标准体系中，人工智能技术（AI）及其系统应用还未被正式纳入标准中。多项国际标准未对人工智能系统作出明确指引，有些标准在安全关键领域以明令条款限制其应用实践，这种...
安全知识分享(含答案)-长期更新
“ 安全从业者的知识宝库”☆☆☆—AI安全数据投毒攻击（Data Poisoning）如何影响模型？举一个例子攻击者通过污染训练数据（如插入带有错误标签的样本），导致模型在测试时出...
网络安全知识体系1.1隐私和在线权利（七）：隐私作为控制之支持隐私政策谈判和可解释性
2.2 支持隐私政策谈判以前的技术在联机服务中配置其隐私设置时支持用户。正交工作线专用于自动将用户首选项与服务或服务之间的通信。诸如W3C的隐私首选项平台项目（P3P）之类的技术...
AI+Security系列第3期（五）：AI技术在网络安全领域的本地化应用与挑战
近日，由安全极客、Wisemodel 社区、InForSec 网络安全研究国际学术论坛和海升集团联合主办的“AI + Security”系列第 3 期技术沙龙：“AI 安全智能体，...
团队科研成果分享-39
团队科研成果分享2024.09.16-2024.09.22标题: A Globally Interpretable Convolutional Neural Network Co...
IAPP发布《2024年人工智能治理实践报告》
2024年6月，IAPP和FTI Consulting发布了《2024年人工智能治理实践报告》，报告旨在向人工智能治理专业人员提供信息，让其了解在构建和完善人工智能治理计划时，需要...
热文CSA大中华区发布《AI可信度分析》报告，中国电信、广州大学、蚂蚁集团、西安电子科技大学等单位参编
9月6日，以“以AI守护AI，大模型时代的攻守之道”为主题的“2024lnclusion 外滩大会”见解论坛于上海成功举办。大会由蚂蚁集团、中国新一代人工智能发展战略研究院、云安全...
深度：北约人工智能战略举措与影响分析
本文5458字 阅读约需 14分钟2024年7月10日，北约更新了其《人工智能战略》（以下简称《战略》），在2021年《战略》的基础上纳入了人工智能技术的最新进展，如生成式人工...
XCon2024议题||大模型安全攻防探索与实践
循万变·见未来——技术前瞻未来五年，大模型在安全方面的发展“十趋势”1. 对抗攻击防御：包括增强模型的鲁棒性、检测和缓解对抗攻击的方法。2. 隐私保护技术：隐私保护技术（如差分隐私...