快讯

OpenAI推出AI红队系统GPT-Red，强化GPT-5.6对抗提示注入攻击

2026-07-17 02:00:06 0 阅读

OpenAI发布自动化AI红队系统GPT-Red，通过自我对抗学习生成更强攻击，使GPT-5.6在内部评估中抵御84%的提示注入攻击，远超人类红队的13%。该系统已用于修补漏洞，如操纵自动售货机代理。OpenAI表示GPT-Red将作为内部工具使用，以提升未来模型的安全性与对齐性。