OpenAI因安全风险暂停最新模型强化学习训练

摘要与判断

OpenAI表示，因内部开发与测试风险随模型能力提升而增加，公司已将面向部署的最新模型强化学习训练暂时暂停两周，同时加固研究环境、开展红队测试并扩大监控覆盖；原计划最大规模的前沿强化学习运行仍处于暂停状态，待小规模训练和评估验证防护措施及对齐证据。该安排将延缓相关训练推进，并把安全防护验证置于前沿训练恢复之前，对模型开发与人工智能安全团队具有直接参考价值。

Topics

引用和原文

• As models become more capable, the risks associated with developing and testing them inter
• 原文链接

Trace

Raw Item

raw_3ecdf6638647407b

Processed Item

processed_4f8e75949f27478d

Source

source_x_openai

Cluster

查看所属簇

LLM Logs

llm_84acd20206064d28, llm_fa3602bd2be24355, llm_cf2d581feb6946de

Coze Loop

3d49d08d4a3abef814d2f84d2603d19a