AI团队因安全加固暂停最新模型强化学习训练

摘要与判断

一家AI研发团队表示，因模型能力提升带来更高的内部开发与测试风险，已暂时暂停面向部署的最新模型强化学习训练两周，并加固研究环境、开展红队测试、扩大监控覆盖。最大规模的前沿强化学习运行仍处于暂停状态，团队将先通过小规模训练和评估验证安全措施及对齐证据。

Topics

引用和原文

• As models become more capable, the risks associated with developing and testing them inter
• 原文链接

Trace

Raw Item

raw_93b9dcef87854e74

Processed Item

processed_6fcc701b2a024cb4

Source

source_x_feishu_candidate_realchillben

Cluster

查看所属簇

LLM Logs

llm_cdd3f778b4454777, llm_ebf40c8bfdfe4093, llm_ab89819571404960

Coze Loop

b28624e58f0d4ec9258d476e420c267c