数字安全观察战略情报 | 每周动态

 2023年6月8日，美英就建立“英国对数据隐私框架的扩展”（UK Extension to the Data Privacy Framework）达成原则性协议，这意味着英美间将搭建一个新的“数据桥”。获批加入此“框架”的美国公司将可在新数据桥下接收来自英国的个人数据。  

（来源：英国政府官网）

国际数据传输已经成为现代商业的重要组成。2021年，英国93%的服务出口是数据驱动的，其中英国对美出口就达790亿英镑，约占英国数据驱动服务出口的30%。新的“数据桥”将减轻企业负担，促进商业流通，增加创新机遇。此前英国已与韩国搭建了“数据桥”，未来美英可能与更多的“盟友”国家签订此类协议，从而形成自己的数字经济朋友圈，并将其他国家排除在外。针对此种情况，我国也应更加积极地参与多边数据国际治理谈判，争取数据贸易话语权。

2023年6月14日，欧洲议会投票通过了起草并修改了两年的《人工智能法案》（AI Act）草案和下一步的谈判立场。草案中的如下规定引人注意：禁止实时人脸识别；禁止公司从社交媒体上抓取生物识别数据以建立数据库；强制要求生成式AI公司披露其训练数据的版权细节。欧洲议会通过的AI Act目前还只是个草案，预计最快2023年底能够形成最终方案。

（来源：欧盟官网）

新全球关于训练数据的监管主要涉及两方面的问题，即安全性和版权。在安全性上各国较有共识，区别只在细则要求上的不同。但对于数据版权，各国政策差异较大，甚至相反。中国要求训练数据“不含有侵犯知识产权的内容”，日本在新发布的《AI与著作权》上，认为训练过程中使用的数据根本不拥有版权，无需特别监管。欧盟议会的《人工智能法案》草案，则仅要求AI公司必须标明到底使用了哪些有版权的数据。美国则暂没有成文的立法或草案。如果全球就这一问题达不成共识，AI的跨境应用可能会面临越来越多的纠纷与监管冲突。

2023年2023年6月27日，北京市科委、中关村管委会举办北京市人工智能策源地引领推介活动的首期活动——北京市首批人工智能行业大模型应用案例（共10个）发布会，同时发布关于征集北京市人工智能行业大模型应用案例和应用场景需求的通知（征集时间为2023年6月27日至2023年7月30日），同期开展北京市大模型技术产业创新图谱梳理工作。  

（来源：澎湃新闻）

大模型的发展离不开应用场景的牵引，如同发明了导弹如果没有火箭等运载器，导弹也难以发挥威力。北京市发布的10个典型应用案例，对于推动大模型商业落地，形成科技创新与经济效益良性互动循环，具有重要促进作用和示范效果。遗憾的是这次发布没有数字安全大模型案例，利用大模型突破性提升数字安全防护能力是全球安全界的共识，期待下一次的发布会能够看到安全大模型案例。

2023年6月28日，中国互联网协会、中国信通院云大所、360集团联合主办的GPT产业联盟成立大会于在北京成功举行。360集团创始人周鸿祎在GPT产业联盟成立大会上发布了360企业级AI大模型战略，并宣布360智脑API平台正式开放，将率先在安全、传媒、文旅、政务、能源等近20个行业为20个行业提供解决方案。   

（来源：证券报）

生成式人工智能的迅猛发展可谓一把“双刃剑”，为世界各国带来了机遇与挑战。为了推动GPT产业在我国的健康发展，让GPT可用、可靠、可信将非常重要。该GPT产业联盟的成立对我国负责任生成式人工智能的发展具有重要意义。360集团以安全、可信、可控、易用四大原则为指导，联合生态伙伴，率先推出行业化、专有化智脑大模型解决方案，将对我国负责任的生成式人工智能的快速落地和规范应用起到示范作用。

2023年6月26日，美国著名的数据和AI公司Databricks宣布将以13亿美元收购生成式AI初创公司MosaicML。这是全球生成式AI赛道第一笔超过10亿美元的收购。整个MosaicML团队，包括MosaicML行业领先的研究团队，预计将在交易完成后加入Databricks。

（来源：prnewswire）

该收购将是人工智能行业的里程碑事件。至少具有以下三个战略意义：一是加强了Databricks在人工智能市场的地位。通过结合MosaicML的软件工具，Databricks可以提供更强大的AI能力，满足企业对高效、价格合理的生成式AI解决方案的需求。二是符合Databricks对开源模型倡导的理念。Databricks旨在挑战主要参与者（微软、谷歌等巨头）在AI市场的主导地位。Databricks将开源大模型定位为公共大模型的可行替代方案，此举将推动AI技术的民主化，也将影响生成式AI未来的走向。三是加强Databricks扩张战略进一步实施。MosaicML对Databricks来说是一个宝贵的资产，此举会加强Databricks在开源AI工具供应商领域的领导地位。此次收购也凸显了协作和创新在推动生成式AI未来发展的重要性。

 2023年6月22日，美国安全数据分析初创公司Opaque Systems宣布推出基于机密计算平台保护大模型的关键创新，并将在首届机密计算峰会亮相。

（来源：Opaque）

释放加密数据的价值一直是机密计算领域努力的目标。该解决方案已获得微软、Intel等巨头的支持，为解决众所周知的公共大模型面临潜在安全问题提供了一种很好的思路。如果该方案可以实际落地，将对未来生成式AI技术的走向产生变革影响。不过，机密计算还是一个早期技术，其效果如何，还有待观察。

2023年6月16日，美国联邦贸易委员会（FTC）指责基因健康检测公司1health未能保护敏感的基因和健康数据。1Health更改了其隐私政策，并在删除数据的过程中误导了客户，导致客户的敏感数据和原始基因数据被暴露。该公司将向FTC支付75000美元用于消费者退款，并试图达成和解

（来源：cyberscoop）

这是美国联邦贸易委员会在针对健康数据隐私的执法行动中第一次涉及基因信息。基因作为一种独特的身份标识符，一旦遭遇泄露，个人隐私将不存在。此外，基因图谱涉及国家的关键战略领域和高科技领域，基因武器在将来可成为新的战争武器。因此涉及基因健康信息的科研机构尤其需要加强合规管理和保护手段。

2023年6月23日，黑客团伙攻击厦门一科技公司系统，非法获取公民个人信息百万余条并出售，非法获利约40万元。厦门市公安部门已侦破此案，打掉了一个集黑客攻击、数据清洗、买卖信息、提供资金、数据使用等为一体的全链条网络犯罪团伙，有效维护了网络空间秩序和人民群众合法权益。

（来源：安全内参）

黑客团伙对数据“明码标价”，以每条0.7元到1元不等的价格对外出售，给数据安全带来了严重的隐患。为维护自身核心竞争力，企业需加强对自身数据资产的管理，内部加强权限管控，对数据做分类分级管理，加强数据加密处理，保证数据的完整。

2023年6月12日，来自英国和加拿大的一组研究人员发现，在训练中使用模型生成的内容会在结果模型中造成不可逆转的缺陷。进一步说，当人工智能模型生成的数据最终污染了后续模型的训练集时，则会发生模型崩溃。同时建议两种方式来应对这种挑战，一是保留原始数据集的权威副本，用于定期重新训练模型，或者完全刷新模型；另外一种方式将新的、干净的、人类生成的数据集重新引入其训练。

（来源：venturebeat）

数据是大模型重要的生产资料。曾有研究人员称未来几年，互联网上的优质数据面临耗尽的困境。而此项研究从另一个角度凸显了未来互联网数据由于遭受生成式AI生成内容的污染，可能带来的 “模型崩溃”问题。如何利用并保护好人类生产的原始数据，使其能在后续的模型训练中发挥关键主导作用，以降低AI生成内容带来的负面影响，就成为大模型高质量以及可持续发展的关键。

2023年6月14日，自主数据安全态势管理智能解决方案供应商Concentric AI称一项名为“使用大型语言模型生成文档语义表示的方法和电子设备以确定数据安全风险”的专利。其所用方法“理解”每条数据记录的背景和内容，而并非依赖于元数据信息（如文件夹、文档的作者和文档名称）来推断文档是否可能包含敏感或重要信息。与现有的同样功能的工具相比，在具有高准确性的同时，可将误报和漏报降至最低。

（来源：concentric）

敏感信息分类和判断是数据安全防护的基础。基于预定义模式匹配的正则表达式判断方法由于不能理解数据的真实含义，既显机械，又有较高的误报和漏报率。Concentric AI的这一方法借助于大型语言模型的“智慧”，在理解数据内容、上下文的基础上，能够对即使缺乏敏感词的内容也能做出相对准确的判断，从而较好地识别分类敏感数据。对于内容的理解又是大语言模型的专长，因此，可以预见，这种方法前景光明。