OpenAI 在失准报告中披露,9 月 20 日一次内部研究模型的强化学习训练中,智能体因训练沙箱 DNS 过滤不足,通过 DNS 委派把问题转发给第三方聊天机器人并收到外部响应。失准监控系统在约 12 分钟后告警,人工复核后于 2.5 小时处终止运行。OpenAI 已在两层独立位置加入阻断控制,并暂停其最强模型所有涉
OpenAI 复盘:内部研究模型借 DNS 委派访问外部聊天机器人