Synk收购Invariantlabs-AI安全技术的强强联手

在AI及安全领域，美国的投资并购一直非常活跃。跟踪这些资本及头部公司的行为，可以帮我们预见一些技术及市场走向。资本是聪明的，用钱投票，才是真正的看好。

我们将持续跟踪和分析投资及并购安全。

波士顿，2025 年 6 月 24 日——安全 AI 软件开发领域的领导者Snyk今天宣布收购Invariant Labs，后者是一家全球公认的 AI 安全研究公司，也是开发针对新兴 AI 威胁的防护措施的早期先驱。

Snyk 首席执行官 Peter McKay 表示：“此次收购是 Snyk 近期推出的 AI Trust Platform 的重要整合，增强了保护应用程序免受新兴威胁的能力。Snyk 现在可以为客户提供一个单一平台，以解决当前应用程序和代理 AI 漏洞。”

Invariant Labs

Invariant Labs 是一家致力于构建稳健、可靠且安全的人工智能代理的安全研究实验室。作为苏黎世联邦理工学院的衍生公司和苏黎世联邦理工学院人工智能中心的附属初创公司，Invariant Labs 专注于保障人工智能应用的安全。其负责人包括 Marc Fischer、Luca Beurer-Kellner、Martin Vechev 教授和 Florian Tramèr 教授。

Invariant Labs在MCP领域的研究非常领先，之前我写过几篇文章，介绍他们的成果。尤其是TPA漏洞，在业界引起非常大的影响。

他们的主要产品包括：

*护栏 (Invariant Guardrails)：一个位于 LLM 和代理层级的透明安全层，允许代理构建者和软件工程师为现有 AI 系统提供强大的安全保障。护栏提供了针对个人身份信息 (PII)、机密信息、版权侵权、即时注入以及有害或不受欢迎内容的关键检测功能。至关重要的是，它还集成了静态代码分析（Snyk Code 集成的自然场所），并执行图像分析 (OCR) 和 HTML 解析，以检测代理交互中的隐藏威胁。这种全面的方法解决了代理 AI 的多方面攻击面。

* Invariant Explorer：一款强大的工具，用于可视化和探索复杂的代理轨迹，能够深入检查代理行为、可视化测试结果和稳健断言（包括诸如Levenshtein距离和LLM-as-a-judge管道之类的模糊检查器），从而进行全面的安全分析和调试。它为AI代理通常不透明的行为提供了前所未有的可视性，而这正是AI开发者面临的一大痛点。

* 网关（Invariant Gateway）：一种轻量级、零配置的服务，充当 AI 代理和 LLM 提供商（例如 OpenAI、Anthropic、Gemini）之间的中介（代理）。它会自动追踪代理交互并将其存储在 Invariant Explorer 中。更重要的是，它支持通过拦截和控制 LLM 调用来实施防护措施，并在运行时应用策略来增强安全性。这对于管理实时风险至关重要。

*扫描器( Invariant MCP-scan)：一款专用安全扫描工具，用于检查已安装的模型上下文协议 (MCP) 服务器是否存在常见漏洞。它专门扫描工具描述中的快速注入攻击、工具中毒攻击以及跨域权限提升，并可管理已批准实体的白名单。该工具可直接解决一类快速涌现的漏洞。

以上产品均为大模型安全领域最前沿的技术，并且技术上都非常领先。

他们还有些创新的研究领域：

*语言模型编程 (LMP) 和 LMQL：本研究引入了一种高级查询语言，旨在简化和控制 LLM 交互，使 LLM 的使用更像编程。LMQL 允许通过 where 子句指定约束，以在解码过程中强制执行合法的 token 序列，从而显著减少模型查询并提高效率。这意味着 AI 行为更加可预测且安全。

*提示草图：一种新颖的提示范式，支持模板引导的 LLM 推理，其中 LLM 预测模板中多个变量的值，而不仅仅是完成提示。这增强了对生成的控制，支持推理框架，并已显示出更高的性能。对于 AI 开发者而言，这意味着更可靠、更可控的 AI 输出。

*模型算法：一个基于原则的推理框架，用于使用基于简单公式的复合模型来构建和偏置法学语言模型 (LLM)，从而实现对形式和情感等属性的细粒度控制，而无需重新训练。这为引导人工智能行为实现安全和合乎道德的结果提供了强大的新方法。

*约束解码 (DOMINO)：一种先进的算法，在 LLM 文本生成过程中强制执行严格的形式语言约束，以确保输出格式的一致性，甚至比无约束解码实现更快的加速。这满足了对可靠且安全的 AI 输出格式的迫切需求，避免了常见的生成陷阱。

数据污染与规避 (EAL)：规避增强学习 (EAL) 是一种基于改写机制的规避策略，其研究揭示了模型如何在规避当前污染检测方法的同时提升基准测试性能。这种对复杂攻击媒介的主动理解是构建高弹性人工智能系统的关键。

Snyk.io

Snyk成立于2015年，最初在特拉维夫和伦敦创立，现总部位于波士顿，公司名称"Snyk"代表"So Now You Know"，发音类似"sneak"，总部位于波士顿。

2024年营收达到3.438亿美元，比2023年的2.5亿美元增长37.5%，当前估值约为74亿美元。

三位联合创始人 Snyk由三位以色列企业家创立，他们都曾在以色列国防军(IDF)的8200部队(信号情报部队)服役：