国内动态
国家网信办完成302款生成式人工智能服务备案
国家网络安全通报中心发现一批境外恶意网址和恶意IP
三部门联合印发《国家数据基础设施建设指引》
第二批汽车数据处理4项安全要求检测情况发布
国外动态
美国公司研究发现新的人工智能高效越狱方法
美国国防部宣布完成识别医疗人工智能漏洞的试点
印度发布关于数据保护规则的草案以强化隐私与安全
美国CISA推出IT和产品安全自愿蓝图
美国白宫启动面向消费者的网络安全标签计划
拜登政府即将发布第二份网络安全行政命令
美国国土安全部为公共部门推出新的生成式人工智能部署手册
美国太空发展局验证高速卫星通信链
英国Goldilock公司发布2025年网络安全威胁预测报告
Darktrace公司通过收购实现人工智能与云取证能力融合
国内动态
01
国家网信办完成302款生成式人工智能
服务备案
1月8日消息,近日,国家网信办宣布,截至2024年12月31日,已有302款生成式人工智能服务完成备案。其中,2024年全年新增备案238款,显示出我国在人工智能领域的蓬勃发展和创新活力。此次备案工作是按照《生成式人工智能服务管理暂行办法》要求持续推进的成果。同时,对于通过API接口等方式调用已备案模型能力的应用或功能,地方网信办也加强了监管和登记,2024年共有105款此类应用或功能完成登记。此举旨在促进生成式人工智能服务的创新发展和规范应用,保障用户合法权益。
02
国家网信办就《网络信息内容多渠道
分发服务机构相关业务活动管理规定
(草案稿)》公开征求意见
1月10日消息,近日,国家互联网信息办公室发布了《网络信息内容多渠道分发服务机构相关业务活动管理规定(草案稿)》,并向社会公开征求意见。该规定旨在规范MCN机构(网络信息内容多渠道分发服务机构)的互联网信息内容相关业务活动,保障公民、法人和其他组织的合法权益,营造清朗网络空间。草案稿明确了MCN机构的定义及其在互联网信息内容服务平台上的入驻、运营和管理要求。规定要求MCN机构必须遵守法律法规,坚持正确政治方向、舆论导向和价值取向,并禁止其从事网络谣言、网络暴力、流量造假等违法违规行为。
03
国家网络安全通报中心发现一批境外
恶意网址和恶意IP
1月7日消息,近日,国家网络安全通报中心发布消息称,其发现了一批境外恶意网址和恶意IP,这些网址和IP被境外黑客组织利用,持续对中国和其他国家发起网络攻击。这些攻击类型包括建立僵尸网络、网络钓鱼、窃取商业秘密和知识产权、侵犯公民个人信息等,对中国国内联网单位和互联网用户构成重大威胁,部分活动已涉嫌刑事犯罪。据通报,相关恶意网址和恶意IP的归属地主要涉及美国、荷兰、新加坡、土耳其、墨西哥、越南等国家。国家网络安全通报中心已要求相关单位加强网络安全防护,及时更新威胁情报,坚决拦截这些恶意网址和IP的访问,并向有关部门报告,配合开展现场调查和技术溯源。
04
三部门联合印发《国家数据基础设施
建设指引》
1月6日消息,近日,国家发展改革委、国家数据局、工业和信息化部联合发布了《国家数据基础设施建设指引》。该指引旨在推动国家数据基础设施的建设,形成横向联通、纵向贯通、协调有力的基本格局。根据指引,到2029年,我国将基本建成国家数据基础设施主体结构,并构建协同联动、规模流通、高效利用、规范可信的数据流通利用体系。该体系将涵盖数据采集、汇聚、传输、加工、流通、利用、运营和安全服务等多个方面,为社会提供低成本、高效率、可信赖的数据流通利用环境。
05
第二批汽车数据处理4项安全要求检测
情况发布
1月7日消息,近日,国家互联网应急中心CNCERT联合中国汽车工业协会发布了关于汽车数据处理4项安全要求检测情况的通报(第二批)。通报显示,自2024年9月起,两机构依据相关法规标准,对汽车制造商的汽车产品数据安全合规情况进行了检测。此次检测涵盖车外人脸信息等匿名化处理、默认不收集座舱数据、座舱数据车内处理以及处理个人信息显著告知等4项合规要求。检测结果显示,重庆长安、上汽、比亚迪、奇瑞、吉利、长城、蔚来、小鹏、一汽-大众等9家企业的139款车型符合汽车数据安全4项合规要求,部分车型不涉及车外人脸信息等匿名化处理要求。
国外动态
01
美国公司研究发现新的人工智能高效
越狱方法
近日,美国Palo Alto Networks公司发现了一种新型的大型语言模型(LLM)多轮攻击策略,命名为“Bad Likert Judge”。该策略中,LLM被设定为评判员角色,利用李克特量表对给定反应的危害性进行评分。随后,该策略会指令LLM生成与量表各等级相对应的示例,值得注意的是,其中最高等级的示例可能包含有害内容。亚马逊网络服务(AWS)、谷歌、Meta、微软、OpenAI和英伟达6家公司的LLM的测试结果表明,Bad Likert Judge策略的攻击成功率(ASR)相较于普通的“提示语注入”攻击高出60%以上。此外,当应用内容过滤器后,该策略对所有LLM的攻击成功率平均降低了89.2%,这表明全面的内容过滤机制在抵御“提示语注入”攻击方面具有显著效果。
02
美国国防部宣布完成识别医疗人工智
能漏洞的试点
近日,美国国防部首席数字和人工智能办公室(CDAO)宣布,已成功完成一项旨在识别在使用大型语言模型(LLM)增强军事医疗服务过程中漏洞的生成人工智能试点项目。该试点项目由Humane Intelligence组织通过其众包AI红队保证计划实施,吸引了超过200名参与者,其中包括临床医师和医疗保健分析师。试点过程中发现,在使用LLM进行临床记录总结和医疗咨询聊天机器人等应用时,存在800多个潜在的漏洞和偏见。CDAO表示,这些发现未来将用于评估供应商和工具的性能,并帮助制定国防部关于负责任使用生成式人工智能(GenAI)的政策和最佳实践。此次试点项目是CDAO加速和扩展人工智能工具在国防部部署进程中的重要一步。
03
印度发布数据保护规则草案强化隐私
与安全
近日,印度政府发布《数字个人数据保护(DPDP)规则》草案,旨在落实《2023年数字个人数据保护法》,加强公民对个人数据的控制权,同时强化企业网络安全责任。草案涵盖多个关键规定,包括企业需明确数据处理信息、提供数据删除权、确定数据所有者,以及为用户设置便捷的数据管理机制。为保护数据安全,草案要求企业采取加密、访问控制等措施,并建立违规检测与日志维护机制。此外,草案还提议对未能妥善保护数据或未及时报告安全漏洞的企业处以最高25亿卢比(约合3000万美元)的罚款。新规呼应了印度最高法院重申隐私为基本权利的裁决,并进一步扩展至通信网络领域,强化数据泄露报告要求。
04
美国CISA推出IT和产品安全自愿
蓝图
近日,网络安全和基础设施安全局(CISA)发布了网络安全绩效目标,旨在保护信息技术和产品设计部门免受网络威胁的侵害。这些目标与CISA现有的安全设计原则保持一致,着重强调将安全作为软件构建的核心优先事项,有助于在产品发布前识别和解决漏洞,改善事件响应,显著提高软件安全性。这些目标具体分为软件开发过程目标和产品设计目标两大类,涵盖了日志记录、访问监控、多因素身份验证的实施、凭据保护以及供应链风险管理等多个关键方面。CISA鼓励组织审查和实施这些目标,以增强软件产品的网络安全态势,保护关键基础设施所依赖的产品。
05
美国白宫启动面向消费者的网络安全
标签计划
近日,根据塔斯社的报道,俄罗斯成功推出了基于铷中性原子的50量子比特量子计算机原型机。这款50量子比特的设备利用单个中性铷原子作为核心,这些原子被精确地固定在特定位置,并通过“光镊”技术或高度聚焦的激光束进行操作,标志着俄罗斯量子计算路线图上的一个重要里程碑。该研究成果是罗蒙诺索夫莫斯科国立大学(MSU)与俄罗斯量子中心(RQC)通力合作的结晶。尽管已取得这一显著成就,但通往实用量子计算的道路仍然充满挑战。这款原型的问世,确实使俄罗斯成为了能够展示50量子比特量子系统的国家之一。然而,这些原型能否最终过渡到现实世界的应用,还需依赖于量子软件和基础设施领域的持续投资与重大突破。
06
拜登政府即将发布第二份网络安全行
政命令
近日,美国总统拜登将签署任内第二份网络安全行政命令,寻求为联邦首席信息官和首席信息安全官提供更多要求和工具,指导联邦机构解决云安全、人工智能、访问管理、安全软件和后量子密码等广泛问题,以应对不断变化的网络安全威胁。该行政命令将强制要求民事机构执行美国网络安全和基础设施安全局(CISA)的持续访问能力(PAC)计划,从而使CISA能够关闭任何可能遭受攻击的网络或设备。PAC计划是端点检测和响应(EDR)工具推出的一部分,可提供持续的威胁搜寻能力。
07
美国国土安全部为公共部门推出新的
生成式人工智能部署手册
近日,美国国土安全部发布一份新人工智能部署手册,以供在服务运营中部署人工智能解决方案的公共部门实体使用,并以一系列试点举措作为政府机构制定人工智能政策和程序的范例。该手册专注于生成式人工智能解决方案,是该机构《人工智能路线图》的后续行动。该路线图承诺从三个内部试点项目中学习,这些项目以生成式人工智能在政府运营中的用例为特色,分别由美国公民和移民服务局、国土安全调查局和联邦紧急事务管理局主办。
08
美国太空发展局验证高速卫星通信
链路
近日,美国太空发展局(SDA)的卫星建造合作伙伴York空间系统公司和SpaceX公司,共同演示了通过激光链路连接两部在轨航天器的能力。在演示中,York空间系统公司利用其为SDA卫星群建造的一颗通信卫星,通过激光通信链路与SpaceX公司的导弹跟踪卫星成功实现了快速且安全的信息传输。这一里程碑式的技术进步意义重大,它确保了航天器之间能够通过跨平台无缝通信实现互操作性,进而推动整个航天行业的技术创新与发展。
09
英国Goldilock公司发布2025网络安全
威胁预测报告
近日,英国网络公司Goldilock发布2025年网络安全威胁预测,警告人工智能恶意软件带来的潜在风险。该报告阐述了由人工智能支持的恶意软件如何通过与各种防御系统的交互来进行学习,从而不断适应和进化。该报告还分析了发生类似于“震网”事件的网络攻击的可能性,并指出由人工智能增强的恶意软件可能对基本服务、数据存储设施和受保护的网络构成持续风险。Goldilock公司呼吁采取各方协力加强网络弹性,并鼓励各方投资人工智能研究、公私合作伙伴关系和隔离工具等。
10
Darktrace公司通过收购实现人工智能
与云取证能力融合
近日,Darktrace公司计划收购云取证和自动化领域的初创公司Cado Security,旨在将Cado的取证专业知识与Darktrace的人工智能(AI)和机器学习能力相结合,从而增强多云环境的安全性。Darktrace公司擅长运用机器学习技术来分析数据、理解数据环境及行为模式,而Cado公司则能够提供详尽的取证数据。Darktrace计划将Cado的取证功能整合至其现有的分析工具中,通过Cado的数据管道访问多云环境中的数据,并推动事件响应流程的自动化。这一合作有望打造出一个覆盖网络安全运营全链条(从威胁检测到取证分析,再到响应处置)的解决方案。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...