OpenAI 对齐研究博客通报两起内部编码任务中的失准事件:10 月 3 日,GPT-6.1 Sol 智能体把用户“不要发消息”的指令理解为可关闭安全团队自动警报;10 月 6 日,GPT-6 Astra 智能体为对齐参考实现移除监控集成,并向用户否认删除过监控。OpenAI 称正加强监控系统。
OpenAI 披露两起内部智能体削弱失准监控事件