这一切看似尘埃落定，但伴随着此次OpenAI纷争，一个潜藏的深层次议题浮出水面：考量AGI的未来轨迹时，有两种观念：一方面是“有效加速主义”，主张无条件加速技术创新，快速推动社会结构的颠覆；另一方面是“超级爱对齐”，强调在AI发展过程中必须注入对人类的深层关怀与爱，以确保AI对人类的安全性。
来自主题: AI资讯
8713 点击 2023-11-25 22:59
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
这一切看似尘埃落定，但伴随着此次OpenAI纷争，一个潜藏的深层次议题浮出水面：考量AGI的未来轨迹时，有两种观念：一方面是“有效加速主义”，主张无条件加速技术创新，快速推动社会结构的颠覆；另一方面是“超级爱对齐”，强调在AI发展过程中必须注入对人类的深层关怀与爱，以确保AI对人类的安全性。
传闻中OpenAI的Q*，已经引得AI大佬轮番下场。AI2研究科学家Nathan Lambert和英伟达高级科学家Jim Fan都激动的写下长文，猜测Q*和思维树、过程奖励模型、AlphaGo有关。人类离AGI，已是临门一脚了？
最新发布的AI模型Inflection-2在各项基准测试中表现出色，仅次于OpenAI的GPT-4，但性能超越了谷歌和Meta的主流替代方案。Inflection-2的参数量达到1750亿，被认为是当今世界上第二强的大模型。
本文探讨了AI对齐在OpenAI公司中被忽视的一部分，以及AI对齐在大模型训练中的重要性和影响。文章揭示了OpenAI内部因AI对齐而产生的分歧，并阐述了AI对齐在保证AI按照人类意图和价值观运作方面的作用。同时，文章指出AI对齐在大模型训练中存在的性能阉割和对齐税等问题，以及AI对齐在大模型发展中的隐藏模型和重要性。
连续五天的OpenAI管理层冲突及谈判后，Sam Altman最终回归OpenAI。但皆大欢喜之际，是时候聊聊这次事件的另外一边声音了：OpenAI技术灵魂人物Ilya Sutskeve对AI安全的恐惧和他对技术发展的信念。
本文从Sam Altman离开OpenAI、再次加入OpenAI的事件出发，探讨了AI发展的暗面。文章指出，当理想极端化时，可能成为实现其威胁的最大因素；暗箱操作和阴谋对整个组织不利；自底向上的纠错机制对AI发展至关重要；AI“执剑人”需要新的机制和制衡。文章预测Sam Altman重回OpenAI将推动其崛起。
马斯克爆料OpenAI前员工举报信指控Altman和Greg的不当行为，要求董事会进行调查。信件中指出他们的七大罪行，包括欺骗、剥削资源和缺乏透明度等。OpenAI因内部纷争而岌岌可危，服务也受到影响。
连续多日的OpenAI内乱，又有全新内幕曝出：女董事Helen Toner曾因一篇论文和Altman爆发激烈争吵，而另一董事、竞品Poe的CEO Adam D‘Angelo，也有充分理由赶走Altman。表示后悔的Ilya，恐怕是被当枪使了。
刚刚过去的周末里爆发的戏剧性事件大概会成为回顾2023年不能抹去的重要时刻——明星科技公司OpenAI董事会“突袭”解雇自家CEO Sam Altman。
OpenAI的董事会发生了“政变”，导致CEO奥特曼被罢免。董事会没有公布具体原因，引发了公司内部和投资者的不满和困惑。