OpenAI to acquire Promptfoo

OpenAI加速 OpenAI Frontier 的智能体安全测试与评估能力我们正在收购 AI 安全平台 Promptfoo。该平台旨在帮助企业在开发阶段识别并修复 AI 系统中的漏洞。收购完成后，我们会将 Promptfoo 的技术直接集成到 OpenAI Frontier 中，这是我们用于构建和运行 AI 协作伙伴的平台。随着企业将 AI 协作伙伴部署到实际业务流中，评估、安全与合规性已成为基础性要求。企业需要系统化的方法来测试智能体的行为、在部署前发现风险，并保持清晰的记录，以支持长期的监督、治理与问责。 Promptfoo 团队由 Ian Webster 和 Michael D’Angelo 领导，他们构建了一套强大的工具，并赢得了超过 25% 的财富 500 强企业的信赖。此外，他们还拥有一套广泛使用的开源⁠（在新窗口中打开）命令行界面（CLI）和库，用于对大语言模型（LLM）应用进行评估和红队测试。我们将共同致力于持续建设该开源项目，同时进一步提升 Frontier 内部集成的企业级能力。“Promptfoo 在企业级 AI 系统的评估、安全与测试领域拥有深厚的技术底蕴。他们的工作成果正助力企业部署安全、可靠的 AI 应用。我们非常期待能将这些能力直接引入 Frontier 平台。”— Barret Zoph，OpenAI B2B 总经理针对在 Frontier 上构建智能体的企业，我们将重点加强以下几项核心能力：平台内置的安全与保障测试：自动化安全测试与红队测试能力将成为 Frontier 平台的原生组成部分。这将帮助企业识别并修复各类风险，包括提示注入（prompt injections）、越狱（jailbreaks）、数据泄露、工具滥用以及超出策略范围的智能体行为。集成于开发工作流的安全与评估：Frontier 将深度整合相关工作流，以便更早地识别、调查并修复智能体风险，让安全成为企业级 AI 系统开发与运行的核心环节。 监督与问责：集成的报告与追溯能力将帮助组织记录测试过程、监测长期变化，并满足日益增长的 AI 治理、风险管理与合规（GRC）要求。“Promptfoo 诞生于一个迫切的需求 — 赋予开发者守护 AI 安全的实战能力。随着 AI 智能体与真实数据及系统的连接日益紧密，对其进行安全防护与验证变得比以往任何时候都更具挑战，也更为关键。加入 OpenAI 让我们能全力加速，为那些致力于构建现实世界 AI 系统的团队提供更强大的安全保障与治理能力。”— Ian Webster，Promptfoo 联合创始人兼首席执行官我们由衷欢迎 Promptfoo 团队的加入。未来，我们将共同深耕技术，为企业打造全方位的工具护航，助力安全可靠的 AI 落地应用。本次收购的最终完成仍需满足惯例交割条件。