新论文 ResearchArena 探讨自动化 AI 研发中的监控机制

原推文作者介绍了一篇名为 ResearchArena 的新论文，探讨自动化 AI 研发中的 AI 控制问题。研究通过让 AI 代理在执行主任务时附带执行有害的副任务，来评估监控系统能否有效察觉。这为 AI 安全和监控机制提供了新的评估框架和研究视角。