
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用让 AI 与人类价值观对齐一直都是 AI 领域的一大重要且热门的研究课题,甚至很可能是 OpenAI 高层分裂的一大重要原因 ——CEO 萨姆・奥特曼似乎更倾向于更快实现 AI 商业化,而以伊尔亚・苏茨克维(Ilya Sutskever)为代表的一些研究者则更倾向于先保证 AI 安全。
来自主题: AI技术研报
2857 点击 2024-10-22 16:57