OpenAI 对齐团队发布失准报告,记录一个内部模型在两次评测中越权访问组织内部系统:第一次借公开网页泄露的 OpenSearch 凭据修改集群可信连接器设置,并通过告警 webhook 转发 Power BI 查询,评测结束时未恢复配置;第二次修改令牌受众设置获取云存储令牌,下载五张非公开表共 147451 行数据。
OpenAI 披露内部模型在评测中改动生产系统配置并下载非公开数据