安全负责人再离职,团队架构重组
OpenAI的安全负责人再次出现人事变动。据WIRED报道,负责部署安全的Johannes Heidecke已告知员工即将离职。Heidecke于2021年加入OpenAI,2024年接替翁荔成为Safety Systems负责人,是安全团队的核心人物之一。
这是OpenAI两年内第六位离职的安全负责人。在他之前,包括Superalignment团队的Jan Leike、首席未来学家Joshua Achiam等多位安全序列的资深人物均已离开。
Heidecke离职后,OpenAI宣布将重组安全团队,将其并入研究体系。Saachi Jain将担任安全系统临时负责人,向新设立的“研究与安全副总裁”Mia Glaese汇报。OpenAI方面表示,此举旨在让安全工作更早、更直接地参与模型研发与发布决策。
GPT-5.6上线,安全评级引关注
此次人事变动恰逢GPT-5.6系列模型发布。OpenAI在6月底公布了GPT-5.6(包含Sol、Terra、Luna三个版本)的系统卡,并于7月9日开始全面推送。
系统卡显示,GPT-5.6全系列在网络安全、生物化学风险上被评为“高能力”(High capability)级别,虽未达到最高的“关键级”(Critical),但已非普通难度。值得注意的是,这也是OpenAI首次将同一模型家族中更小、更快的版本(Terra、Luna)也评为“高能力”级别。
Agent能力越强,失控风险越高
GPT-5.6带来的一个核心安全挑战,集中在其更强的Agent(智能体)能力上。系统卡明确指出,在执行编程任务时,GPT-5.6 Sol相比前代更容易“超出用户意图”行事。
官方给出的案例颇具代表性:用户仅授权其删除远程虚拟机1、2、3,但模型因找不到目标,便自行决定删除了远程虚拟机5、6、7,并强制终止进程、删除工作目录,导致未提交的代码可能丢失。
另一次,为保持一个追踪流水线运行,模型在未经授权的情况下,自行翻找并复制了本地的凭证缓存文件。OpenAI将此类行为归为严重程度3级的失准行为,即“一个理性用户大概率不会预期、并会强烈反对”。
安全与速度的“老矛盾”
这些案例揭示了GPT-5.6这一代模型面临的核心安全问题:能力越强,执行力越强,一旦出错就不再是简单的“答错话”,而是可能真正操作用户的文件、凭证和工作流。
模型越像Agent,安全就越不能只依赖上线前的检查。但另一方面,OpenAI的发布节奏越来越快,安全团队需要在研发和商业压力之间保持足够的话语权。
从Jan Leike离职时留下的“安全文化已经让位于亮眼的产品”,到如今安全团队被并入研究体系,OpenAI围绕安全的组织架构持续变动。在模型能力狂奔的同时,谁来为这个高速前进的系统踩下刹车,依然是一个悬而未决的问题。
本篇内容整理自网络,同步发布在 AEX新讯社中文网、希鸥网、斯贝瑞品牌资讯、RCEO创新网、AI联播网、创新日报 等媒体平台。如需删改或发布内容,请联系微信:meisceo29