环球观察 | 国际人工智能最新进展与多元应用 - 新鲜讯息

美国国家标准与技术研究院启动人工智能风险评估计划

6月3日消息，近日，美国国家标准与技术研究院（NIST）启动名为“评估人工智能的风险和影响”（ARIA 0.1）的0.1版计划。ARIA 0.1将在2024年夏季和秋季进行，涉及“电视剧剧透”测试、“膳食计划”测试和“寻路”测试3种应用场景，并将支持3个等级的评估工作：通过模型测试来确认人工智能是否具备所宣称的能力；由红队对应用程序进行压力测试；通过现场测试了解人们平时如何使用人工智能。ARIA计划将表明用于评定特定风险的测试方法是否合用，以及针对人工智能的“护栏”和风险环境措施是否有效。

美空军推出人工智能新型实验性聊天机器人

6月11日消息，美空军正在推出一个新的NIPRGPT平台，该平台将允许用户和承包商与非机密互联网协议路由器网络（NIPRNet）上的聊天机器人进行交互。作为一个实验平台，美国空军计划重点关注NIPRGPT性能的各种关键指标，包括“计算效率、资源利用率、安全合规性”等，以衡量生成式人工智能的实际应用和挑战，并确保未来的实施是有效和高效的。该部门鼓励用户提供有关NIPRGPT的反馈，以帮助告知该技术未来的潜在集成。NPIRGPT也是AFRL的Dark Saber软件平台的一部分，该平台是一个由飞行员和监护人组成的软件工程生态系统，配备了开发和部署下一代软件和操作能力所需的工具。

美CISA 与政府和行业进行人工智能驱动的网络桌面演习

6月17日消息，美网络安全和基础设施安全局（CISA）与来自政府和行业的50多名人工智能专家进行了为期四小时的演习，以帮助理解和减轻对人工智能系统的数字威胁。桌面演习的任务是提高人们对人工智能系统如何为数字网络提供网络威胁的新载体的认识，检查当前的应对措施，并为关键基础设施运营商、安全供应商和其他利益相关者构建信息共享优先事项。在由公共和私营部门领导人组成的联合网络防御合作组织的领导下，桌面演习模拟了针对人工智能系统的网络安全事件。参与者练习了事件响应工作，以减轻假设攻击造成的损害，包括信息共享和行动协作。

美陆军将启动生成式人工智能试点项目

6月19日消息，美陆军将于7月实施生成式人工智能试行项目，将利用大语言模型（LLM）完成费力、耗时的任务，旨在降低实施人工智能算法的风险。试点项目在影响级别（IL）5的安全云环境中运行，具有最高级别的授权来存储和处理受控的非机密信息。2024年3月，陆军启动了为期100天的人工智能风险评估试点项目“防御AI”，并即将在夏季启动“500天计划”，激励工业界开发能够整合到陆军和国防部系统中的算法，以支持安全系统和分层防御网络。该试点项目即为“500天计划”的内容之一。

陆军将在安全问题中启动GenAI试点

6月21日消息，美国陆军将于今年夏天启动生成式人工智能（GenAI）试点项目，一名陆军高级官员表示，她对该项目感到“兴奋”，出于安全考虑，该服务进展迅速但谨慎。GenAI试点是陆军和国防部（DoD）在各种军事战线上采用人工智能技术的努力的又一步。美国陆军最近投资了5000万美元，用于开发射频识别和语言翻译等领域的人工智能和机器学习（ML）解决方案。

美国陆军寻求利用数字孪生、生成性人工智能技术实现装备更快交付

6月25日消息，美国陆军高层近日表示，如果该军种能够扫清与劳动力培训和信任相关的障碍，数字模型和生成式人工智能工具的使用将成为陆军合同的标准。通过将数字孪生和模型整合到合同实践中，可以帮助陆军更好地向行业传达其需求：数字孪生使陆军能够以数字方式复制现场、实验室或计算机中的功能，并且能够真正复制问题，识别根本原因和问题，使得该军种拥有很多速度、敏捷性和洞察力；而在数字模型上，陆军计划希望使用数字模型来发布征求建议书，以确定是否符合或遵守军种标准，并让供应商提供解决方案，以便陆军能够确定它是否真正符合军种要求。

美国网络司令部新建人工智能工作组以支持网络行动

6月26日消息，近日，美国网络司令部表示其新建了一个人工智能工作组，以负责为网络任务部队的行动提供人工智能支持。该工作组的工作重点是提供行动所需的人工智能能力、普及人工智能以及应对人工智能威胁。该工作组将与各军种的网络部队密切合作，并通过网络司令部来推广人工智能，尤其是用人工智能来解决政策和标准等非技术性领域的问题。由网络司令部司令兼任局长的国家安全局已于2023年成立人工智能安全中心，以负责对抗对手使用的人工智能。

美国谷歌公司探索用人工智能开展网络安全研究

6月26日消息，近日，美国谷歌公司的Project Zero团队推出名为Naptime的人工智能框架，以探索用大型语言模型（LLM）开展漏洞研究。Naptime的目标是使LLM像人类专家那样，通过基于假设的迭代方法开展漏洞研究。Naptime架构以人工智能智能体与一组专用工具之间的交互为中心，这些工具包括：供智能体浏览代码库的代码浏览器，在沙盒环境中使用的Python脚本，供智能体与程序交互并观察后者行为的调试器，用于上报智能体进程的报告器，以及用于验证是否满足智能体工作条件的控制器等。

美陆军依托“支点”项目开发基于人工智能的电子战技术

6月27日消息，美陆军发布了一项信息征询书，计划依托“支点”项目开发基于人工智能的电子战技术，重点关注利用无线电频率/电子战手段完成目标探测与识别的能力。当前美陆军正逐渐转向大规模作战行动，如何快速向指挥官提供信息已成为亟需解决的问题。“支点”项目作为美陆军首个人工智能和机器学习转化渠道，能够以“软件增强能力”快速迭代、持续更新的形式，集成并赋能“战术情报目标接入节点”地面站、陆军情报数据平台、电子战规划和管理工具及“联合瞄准综合指挥与协调套件”等系统，利用人工智能/机器学习技术加速各类目标的定位、跟踪、瞄准，以及动能、非动能效果的战损评估进程。

美IBM与NASA合作开发大型语言模型工具包

6月27日消息，IBM 和 NASA共同开发了一套全面的大型语言模型工具集，供研究人员访问来自不同来源的精选科学数据。该工具包名为INDUS，支持五个科学领域的研究，包括地球科学和天体物理学。LLM套件还提供了来自同行评审的生物和物理科学以及行星科学研究的改进数据访问。研究人员可以通过INDUS解锁的大量数据源理解复杂的科学概念并更有效地探索新的研究思路。编码器和句子转换器构成了该工具包的两个模型。通过 LLM，编码器将自然语言文本转换为数字编码。

美陆军依托“支点”项目开发基于人工智能的电子战技术

美国能源部发布更新的GenAI参考指南

6月28日消息，美国能源部（DoE）发布了其生成式人工智能（GenAI）参考指南的更新版本，以纳入拜登总统 2023 年 10 月的人工智能行政命令中的指导。美国能源部首席信息官办公室去年夏天发布了参考指南的第一版，该指南诞生于 2023 年 3 月发布的 OpenAI 的 ChatGPT-4。该指南旨在就与使用生成式 AI 技术相关的关键考虑因素、风险和最佳实践提供指导。第二版具有行政命令的具体指导，该指南介绍了 GenAI 在 DoE 中的几个潜在用例，例如总结合同、根据文本描述创建图像、转录会议纪要、为培训材料或演示文稿创建视频。

CIA依靠人工智能进行数据分类

6月28日消息，中央情报局（CIA）正在广泛使用人工智能技术来执行数据和信息分类，并履行其为联邦情报界各机构处理的开源信息收集职责。在内容分类方面，中央情报局人工智能创新主任拉克希米·拉曼表示，该机构正在使用人工智能技术来进行翻译、转录，以及帮助我们的分析师过滤数据所需的所有类型的处理。拉曼还谈到了该机构需要人工智能的基础能力，以帮助该机构部署和编目人工智能模型，并致力于训练数据集，以便能够利用它来提高国家安全。

DISA计划推出人工智能网络安全功能

6月28日消息，美国国防信息系统局（DISA）网络安全和分析总监布莱恩·赫尔曼表示，在来自中国的威胁日益严重的情况下，美国国防信息系统局正在考虑使用人工智能来自动化其类似行政的网络安全能力。赫尔曼表示，自动化将使DISA员工能够贡献他们的脑力来执行高端战斗工作，而不是执行正常的日常任务。他还强调了以数据为中心的布局将如何帮助在其网络中推出零信任原则。使用人工智能来提高DISA的网络安全能力符合其情报总监的建议。

编辑：陈十九

审核：商密君

征文启事

大家好，为了更好地促进同业间学术交流，商密君现开启征文活动，只要你对商用密码、网络安全、数据加密等有自己的独到见解和想法，都可以积极向商密君投稿，商密君一定将您的声音传递给更多的人。

来源：信息安全与通信保密杂志社

注：内容均来源于互联网，版权归作者所有，如有侵权，请联系告知，我们将尽快处理。

点分享

点点赞

点在看