图片来源:OpenAI
Miles Brundage,OpenAI 的长期政策研究员和公司 AGI Readiness 团队的高级顾问,已离职。
在周三的 X 上的一篇帖子和他在通讯中的一篇文章中,Brundage 表示他认为自己作为研究人员和倡导者在非营利部门会产生更大的影响,因为他将“有更多的自由发表能力。”
Miles Brundage 说:“‘这次决定之所以困难,部分原因在于在 OpenAI 工作是一个极具影响力的机会,现在比以往任何时候都更是如此。OpenAI 需要那些对使命深感关切并致力于维持严格决策文化的员工,这包括开发和部署(包括内部部署,随着时间的推移,这将变得越来越重要)。”
随着 Miles Brundage 的离开,OpenAI 的经济研究部门,直到最近还是 AGI 准备的一个子团队,将归入 OpenAI 的新首席经济学家罗尼·查特吉的领导之下。
Brundage 表示,AGI 准备团队的其余部分——正在逐步解散——将分配到 OpenAI 的其他部门。任务对齐负责人约书亚·阿基亚姆将接手一些 AGI 准备的项目。
一位 OpenAI 发言人告诉 TechCrunch,该公司“完全支持”Brundage 在行业外进行政策研究的决定,并对他的贡献“深表感谢”。
“Brundage 全力投入独立的人工智能政策研究的计划,让他有机会在更广泛的范围内产生影响,我们很高兴能从他的工作中学习并关注其影响,”发言人在一份声明中表示。“我们相信,在他的新角色中,迈尔斯将继续提高行业和政府政策制定的质量标准。”
发言人没有透露谁将接管 Brundage 的职责。
Brundage 于 2018 年加入 OpenAI,最初担任研究科学家,后来成为公司的政策研究负责人。在加入 OpenAI 之前,布伦达奇是牛津大学人类未来研究所的研究员。
在 AGI 准备团队中,Brundage 特别关注语言生成系统的负责任部署,例如ChatGPT。他还在其他地方领导了其他项目,包括 OpenAI 的外部红队计划和首份“系统卡”报告,记录了 AI 模型的能力和局限性。
近年来,OpenAI 被几位前员工和董事会成员指责优先考虑商业产品,而忽视了 AI 安全。在他的 X 平台帖子中,Brundage 呼吁 OpenAI 员工“畅所欲言”,讨论公司如何做得更好。
“有些人对我说,他们很难过我离开了,并且感激我在这里时常愿意提出担忧或问题……OpenAI 面临许多艰难的决定,如果我们屈从于群体思维,就无法做出正确的决定,”他写道。
OpenAI 最近几周一直在失去高管,这一切都是由于对公司方向的分歧所致。首席技术官 Mira Mirrati、首席研究官 Bob McCrew 和研究副总裁 Barret Zoph 在九月底宣布辞职。著名研究科学家安德烈·卡帕提在二月份离开了 OpenAI;几个月后,OpenAI 联合创始人和前首席科学家伊利亚·苏茨克弗辞职,前安全负责人扬·莱克也辞职。八月份,联合创始人约翰·舒尔曼表示他将离开 OpenAI。而公司的总裁格雷格·布罗克曼则在休长假。
今天对 OpenAI 来说是个相当不光彩的日子。
星期三早上,该公司成为《纽约时报》专题的主题,前 OpenAI 研究员 Suchir Balaji 表示,他离开公司是因为他不再想为他认为会对社会造成更多伤害而非好处的技术做贡献。Balaji 还指责 OpenAI 在未经许可的情况下使用受知识产权保护的数据训练其模型,称这一指控是其他人在集体诉讼中对该组织提出的。
本文翻译自:TechCrunch,https://techcrunch.com/2024/10/23/lawsuit-blames-character-ai-in-death-of-14-year-old-boy/
编译:Amber
文章来自于微信公众号“Z Potentials”,作者“TechCrunch”