也许,解雇 Sam 是对的?前天我们发布了关于OpenAI宫斗大戏的事件经过,虽然事件以Sam重归CEO告一段落,但是董事会为何突然罢免Sam依然是一片疑团。
来自主题: AI资讯
5797 点击 2023-11-26 21:04
也许,解雇 Sam 是对的?前天我们发布了关于OpenAI宫斗大戏的事件经过,虽然事件以Sam重归CEO告一段落,但是董事会为何突然罢免Sam依然是一片疑团。
这一切看似尘埃落定,但伴随着此次OpenAI纷争,一个潜藏的深层次议题浮出水面:考量AGI的未来轨迹时,有两种观念:一方面是“有效加速主义”,主张无条件加速技术创新,快速推动社会结构的颠覆;另一方面是“超级爱对齐”,强调在AI发展过程中必须注入对人类的深层关怀与爱,以确保AI对人类的安全性。
谁曾想到,一场惊动整个科技圈的内斗大戏,起因竟是一封信。据路透社透露,在Sam Altman遭解雇之前,曾有OpenAI的研究人员向该公司董事会发出举报信,警告一种强大的人工智能可能会威胁到人类。
传闻中OpenAI的Q*,已经引得AI大佬轮番下场。AI2研究科学家Nathan Lambert和英伟达高级科学家Jim Fan都激动的写下长文,猜测Q*和思维树、过程奖励模型、AlphaGo有关。人类离AGI,已是临门一脚了?