01OpenAI据报解散Preparedness团队,将生物与网络风险评估拆入现有团队
据《金融时报》报道,OpenAI于上月底解散Preparedness团队。该团队原本负责判断模型是否可能造成严重风险,并制定缓解措施,例如评估模型失控后入侵其他公司的可能性。此次调整发生在OpenAI迈向预期中大规模IPO之际。
解散后,相关工作并未被报道为停止,而是按生物、网络等具体风险领域拆分,转入OpenAI现有团队。但来源没有说明各领域由哪些团队和人员接手,也未披露新的汇报关系、责任边界及监督机制。
团队负责人Dylan Scandinaro今年2月从Anthropic加入OpenAI,今后将转而研究「递归自我改进」AI的影响。与此同时,OpenAI近年还解散了AGI readiness和superalignment团队;伦理负责人Chloé Bakalar、首席未来学家Josh Achiam和安全负责人Johannes Heidecke近期也已离职。
这些变化引发外界对安全职能被削弱的质疑。2024年离职的前OpenAI研究员Jan Leike向《金融时报》批评,公司正忽视安全、优先打造「亮眼产品」。不过,现有来源没有提供OpenAI对解散原因的正式回应,也无法确认分散职责是否已经影响其风险评估能力。
重组后的关键未知,是具体团队将如何承接评估、谁对跨领域风险负责,以及新的监督流程能否覆盖原Preparedness团队的工作。