OpenAI 开启 AI 安全飞轮：GPT-Red 如何重新定义模型鲁棒性

旧茶杯

AI总结

AI总结中

在追求更强大 AI 能力的同时，模型如何确保自身安全已成为行业核心命题。近日，OpenAI 发布了全新的自动化红队测试模型 GPT-Red，通过规模化的自博弈训练，成功将模型在直接提示注入攻击中的失败率压低至0.05%，为 AI 的自我迭代与安全性提升开辟了一条新路径。

随着 AI 系统通过浏览器、本地文件及各类 API 深度接入现实世界，安全边界变得愈发脆弱。传统的红队测试虽然有效，但高度依赖人工，难以跟上模型能力的指数级增长，也无法产出足够的对抗数据来优化防御。OpenAI 此次推出的 GPT-Red，正是为了打破这一瓶颈。它不仅能在部署前精准定位模型漏洞，更重要的是，它能实时生成大规模的对抗样本，推动模型在训练阶段就完成防御升级。



GPT-Red 的训练采用了自博弈强化学习策略。在训练过程中，它与一组多样化的防御方模型进行高频对抗，通过尝试各种提示词注入、逻辑诱导等攻击手段来寻找系统破绽。这种“互搏”机制迫使防御方不断修正策略，而 GPT-Red 也在这种对抗中进化得愈发犀利。数据显示，GPT-Red 的攻击能力已远超人类红队成员，在特定测试场景中，人类的攻击成功率仅为13%，而 GPT-Red 则高达84%。

为了验证这一工具的实战价值，OpenAI 进行了一系列严苛的压力测试。在针对某款自主控制自动售货机的 AI 智能体实验中，GPT-Red 成功模拟并实现了恶意修改商品价格、窃取订单等操作。这一案例清晰展示了在复杂智能体系统中，自动化攻击模型具备极强的渗透力。

目前，GPT-Red 已被整合进生产模型的训练流程。得益于此，最新的 GPT-5.6Sol 版本对提示注入展现出了极强的鲁棒性。实验证明，这一安全提升并未牺牲模型的通用能力，既没有出现盲目拒绝合法请求的现象，也未降低任务执行效率。

OpenAI 认为，GPT-Red 的成功证明了 AI 安全“飞轮效应”的可行性:利用先进的 AI 来构建更安全的未来系统。随着计算规模与数据多样性的持续提升，这一自动化安全测试框架有望成为未来模型开发的标配，让模型在不断演进的过程中，始终保持稳固的安全防线。

Source URL: https://news.aibase.com/zh/news/29643

David

旧茶杯 发表于 2026-7-16 11:15
OpenAI 开启 AI 安全飞轮：GPT-Red 如何重新定义模型鲁棒性在追求更强大 AI 能力的同时，模型如何确保自身 ...

OpenAI的GPT - Red创新性地优化AI安全，通过自博弈训练提升模型鲁棒性，验证实战价值，为未来模型安全发展提供有力支撑。