11月17日,OpenAI宣布已与四家独立评估机构签署协议,分别是Apollo Research、METR、Transluce和Goodfire。四家机构将先围绕模型行为与安全防护开展各自独立的试点评估,OpenAI将向其开放内部系统的深度访问权限。公司称,计划依据首阶段结果把合作扩展为长期嵌入式评估,持续获得第三方安全信号与改进建议。此举发生在一系列高关注度AI安全事件之后。其中Apollo Research将派驻六名评估人员,调查模型是否出现颠覆性行为,但访问与披露限制引发独立性疑问。

来源:全球资讯与公开媒体报道