OpenAI安全组织近年多次调整。
智东西7月8日消息,今日,OpenAI元老之一、首席未来学家约书亚·阿希亚姆(Joshua Achiam)在社交平台X上发布告别长文,结束其在OpenAI近9年的任职,最后工作日为本月24日。

▲约书亚·阿希亚姆在社交媒体平台发文宣布离职(图源:X)
阿希亚姆的履历几乎贯穿OpenAI从非营利研究实验室到商业巨头的全过程。他2017年以25岁实习生的身份加入OpenAI,当时“计算机还不会说话,也不会思考”。此后他长期担任AI安全方向的研究科学家,2024年9月25日升任使命对齐(Mission Alignment)负责人,今年2月11日刚转任新设立的首席未来学家一职,这个头衔他只用了不到五个月。

▲约书亚·阿希亚姆的工作经历(图源:领英)
对于首席未来学家的职责,OpenAI在官方通讯中给出的描述是:研究AI和AGI将如何重塑社会,并输出帮助各类机构提前准备的分析。阿希亚姆在今年2月底的一场公开对话中称,这是一个“新颖且实验性的角色”。
这次离职发生在OpenAI上市进程和组织重组交织的窗口期。OpenAI 6月8日已向美国证券交易委员会秘密提交S-1草案,但尚未决定上市时间。
与此同时,前白宫AI顾问迪恩·鲍尔(Dean Ball)已加入OpenAI,负责Strategic Futures团队,他将与阿基姆有一段短暂的工作交接期。任职期间,鲍尔也将对接公司研究员与政策负责人协同开展工作。
阿希亚姆两个月前刚在马斯克起诉奥特曼的官司里替OpenAI出庭作证,法庭上展示了一座刻着“蠢驴”的金色驴形奖杯——那是2018年他当面警告马斯克“抢跑AGI会牺牲安全”、被马斯克骂“蠢驴”后,同事送他作为留念的。

▲约书亚·阿希亚姆的“蠢驴”金色奖杯(图源:X)
从实习生到首席未来学家
OpenAI安全团队多次重组
阿希亚姆2017年以实习生身份加入OpenAI,此后成长为专攻AI安全方向的研究员。

▲约书亚·阿希亚姆(图源:Getty Images)
2022年ChatGPT上线后,OpenAI从一间小型研究实验室迅速扩张为大型科技企业,该公司安全、产品与研究团队历经多次架构调整。
过去一年,OpenAI着力打通AI研究团队与政策团队的协作壁垒,提前为技术发展路径制定配套规范与行业标准。随着两大部门合作加深,博阿兹·巴拉克(Boaz Barak)、诺姆·布朗(Noam Brown)、阿德里安·埃科费(Adrien Ecoffet)等多名公司研究员均称,自身参与政策相关工作的程度显著提升。
OpenAI安全组织近年多次调整。OpenAI 2023年7月宣布成立超级对齐(Superalignment)团队,由伊利亚·苏茨克维(Ilya Sutskever)和简·莱克(Jan Leike)共同领导,目标是在四年内解决超级智能对齐的核心技术挑战。不到一年后,该团队解散。简·莱克(Jan Leike)已于2024年跳槽至Anthropic。
2024年9月,时任CTO米拉·穆拉蒂(Mira Murati)宣布离职,OpenAI宣布成立由阿基姆牵头的 “使命对齐团队”,专职推动公司“确保AGI造福全人类”的既定使命。今年2月该团队解散,OpenAI同步宣布阿希亚姆调任首席未来学家。直至今日,阿希亚姆宣布离职。
OpenAI尚未公布继任人选。阿希亚姆的岗位衔接公司AI安全团队与政策团队,主要负责研究AI发展带来的潜在风险与正向价值。他曾协同OpenAI全球事务负责人克里斯·莱汉(Chris Lehane)等公司高管,推动出台契合OpenAI核心宗旨的政府监管规则,即确保通用AI造福全人类。
随着OpenAI筹备上市,该公司已有多名深耕AI安全领域的高管相继离职,阿希亚姆是最新一位。
2024年,政策研究负责人迈尔斯·布伦戴奇(Miles Brundage)、AI模型风险能力研究负责人史蒂文·阿德勒(Steven Adler)双双离开OpenAI,二人共同创办非营利机构,呼吁各大AI实验室严格落实高标准安全规范。
负责研究ChatGPT应对存在心理、情绪困扰用户交互方案的安德里亚·瓦隆(Andrea Vallone),则在2025年末离职,加入莱克在Anthropic的团队。
2018年当面质疑马斯克遭怒斥
“蠢驴”奖杯今年5月现身法庭
阿希亚姆此前最出圈的时刻发生在法庭上。今年5月,他作为OpenAI一方证人在马斯克诉奥尔特曼案中出庭作证。在证人环节的最后一天,OpenAI律师向法官展示了一座金色驴形奖杯,上面刻着“永远做那头为安全而战的蠢驴”(Never stop being a jackass for safety),这座奖杯正属于阿希亚姆。
奖杯背后是一段2018年的往事。阿希亚姆作证称,马斯克2018年宣布离开OpenAI、要自行加速研发AGI时,他曾当面警告追求速度可能损害安全,马斯克当场斥其为“蠢驴”(jackass)。
此后包括现任Anthropic联合创始人兼CEO、当时的OpenAI员工达里奥·阿莫迪(Dario Amodei)在内的同事送给他这座奖杯,以纪念这句“骂名”。
在OpenAI内部,阿希亚姆是公认坚定捍卫安全核心宗旨的核心人物,但他时常公开批评整个AI安全行业社群,也因此引发不少争议。
据《连线》拿到的阿希亚姆发给OpenAI全体员工的内部邮件,他在文中写道:“如今全球都知晓通用人工智能的发展前景,即便走出前沿实验室,我也依然能够践行这份初心使命。我坚信人类终将迎来和平、前所未有的繁荣,社会与科学领域都将诞生难以想象的全新可能。无论我下一步选择何种方向,都会和大家一道,推动这一愿景落地成真。”
阿奇亚姆称他要毕业了
7月24日为最后一天
以下是对阿希亚姆离职发文的全文编译:
不久前,我在OpenAI的Slack上和大家分享了这段话:
珍爱的朋友、同事、各位员工伙伴们!我这个月要毕业了。
我离开没有某个具体原因,也不是因为现在这个节点有什么具体理由。但这是我已经想了一段时间的事,现在感觉时机合适。世界已经知道这个秘密了,我觉得可以在前沿实验室的墙外继续为使命工作。
我2017年以一名25岁实习生的身份加入OpenAI。那时,计算机还不能说话,也不能思考。现在我34岁了,有了家庭和一个两岁的儿子,计算机已经能够解决前沿科学问题。这十年里,像是发生了几个世纪的变化。
人类的未来取决于我们共同围绕AGI和超级智能作出的选择。一切都押在这里。但更重要的是,一切也都有可能。我们很快就能够向人类最远大的目标发起尝试。
我相信,我们可以抵达这样一个世界:满足每个人的基本需求不只是一个已经解决的问题,人们甚至会因为曾经把标准设得这么低而感到冒犯。我相信,我们可以抵达一个和平、高度繁荣,并拥有难以想象的社会和科学可能性的世界。无论我接下来做什么,我都会继续和你们一起努力,让这个愿景成为现实。
如果你回到九年前,告诉我后来发生的一切,我会惊讶于听到这么多好消息。谢谢你们让这一切如此特别。谢谢你们让我有幸与你们并肩工作。
要逐一联系每个人并表达感谢,是一项艰巨任务,因为名单实在太长。好在我还有几周时间可以完成这件事。我的最后一天将是24日。
为了安全AGI。
结语:安全议题走出实验室
OpenAI仍要回答使命与商业化问题
阿希亚姆离职后,OpenAI安全与政策交叉岗位的责任将如何分配,还没有公开答案。迪恩·鲍尔加入Strategic Futures团队,说明OpenAI仍在补强前沿AI政策和治理能力,但这类岗位的重点已不只在模型训练和评测,也包括监管沟通、上市披露、公共利益和内部治理。
OpenAI已经向SEC秘密提交S-1草案,意味着未来公开招股文件中,模型安全、用户风险、监管不确定性和公司结构都可能成为外界审视重点。对OpenAI来说,安全使命不再只是研究团队内部的技术命题,也会变成资本市场、政策机构和公众共同追问的问题。
来源:《连线》
文章来自于微信公众号 “智东西”,作者 “智东西”