OpenAI近日公布了针对对抗性蒸馏(Adversarial Distillation)的防护进展,强调了其在提升GPT-6.2 Astra和GPT-6.2 Sol模型安全性方面所作的努力。通过这一更新,OpenAI有效降低了其他模型提取其推理过程的能力,减少了行业在网络安全、生物技术等重要领域面临的潜在风险。原模型被不当利用进行训练的现象,可能导致高风险能力转移至安全性较低的模型中,形成更大的安全隐患。文章将深入探讨这一新防护机制的实施方案及效果。
## 防护机制的实施效果
OpenAI在内部黑盒红队测试中,对攻击者提取模型推理内容的成功率进行了评估。结果显示,针对此前请求的提取成功率由54%降至仅0.2%;而针对当前请求的成功率则从22.9%降至0.9%。这一结果表明,更新的安全措施显著提升了模型的防护能力。 蜘蛛体育直播
## 关键防护措施
为实现上述防护目标,OpenAI采取了以下措施:
- **对抗性训练**:使模型能够识别与拒绝推理链提取的请求。 - **输入和输出分类器**:有效检测潜在攻击及信息泄露。 - **API限制**:防止不同会话、模型和组织之间的推理内容复用。 蜘蛛体育直播
此外,GPT-6.2 Astra和GPT-6.2 Sol模型将受保护的推理内容与对话历史密切关联,确保任何修改都会导致源内容的丢失和后续生成的数据无法访问。
## 执法与协调行动
在针对未经授权蒸馏活动的执法方面,OpenAI表示,从今年以来,每周都会对数千至上万个相关账号采取措施,规模显著增加。公司还积极调查大规模提取账号的网络,致力于与其他模型提供商共享攻击指标,以帮助识别相关的滥用行为。 蜘蛛体育直播
## 未来的安全研究
OpenAI还分享了针对蒸馏安全风险的研究成果,发现采用涵盖完整推理轨迹的教师模型进行微调的学生模型,在网络安全能力迁移效果上通常会优于仅依靠最终回答和摘要训练的模型。这进一步强化了模型在复杂场景下的安全性。
通过这些综合措施,OpenAI显著提升了其模型的安全防护水平,也为对抗未来潜在的安全威胁提供了更有效的保障。有关AI模型安全的更多信息,读者可以参考相关进一步的研究和报告。 蜘蛛体育直播