团队因安全加固暂停最新模型强化学习训练

摘要与判断

该团队表示，随着模型能力提升，内部开发与测试风险增加，因此暂时暂停面向部署的最新模型强化学习训练两周，并加固研究环境、开展红队测试和扩大监控覆盖。最大规模的前沿强化学习运行仍在暂停，团队将先通过小规模训练与评估验证安全措施并积累更多对齐证据，短期内或影响相关模型训练进度。

Topics

引用和原文

• As models become more capable, the risks associated with developing and testing them inter
• 原文链接

Trace

Raw Item

raw_2d036cf3a9db4260

Processed Item

processed_0d58ca1de5584779

Source

source_x_btaylor

Cluster

查看所属簇

LLM Logs

llm_edf047e61de44909, llm_df3a34981c50402c, llm_54d54b5b4f6e4918

Coze Loop

2c5e880d42ccb277842cbd5ceceb9c9f