是时候停止炒作「o3是AGI」了！背后15人安全对齐团队大盘点
是时候停止炒作「o3是AGI」了！背后15人安全对齐团队大盘点我们或许可以称o3是「更高级的推理AI」，而远不是AGI。 昨天凌晨，OpenAI 连续 12 天发布会终于落下了帷幕，并甩出了最强大的推理模型 o3 系列！
来自主题: AI资讯
7377 点击 2024-12-23 10:10
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
我们或许可以称o3是「更高级的推理AI」，而远不是AGI。 昨天凌晨，OpenAI 连续 12 天发布会终于落下了帷幕，并甩出了最强大的推理模型 o3 系列！
以前我们总说：比你更了解你自己的是税务局。现在恐怕还需要变成：比你更了解你自己的，除了税务局，还有AI。
安全话题，在人工智能（AI）行业一向备受关注。
2023年10月的某一天，在OpenAI的实验室里，一个被称为Q*的模型展现出了某种前所未有的能力。
前段时间离职后留下公开辞职博客的OpenAI六年元老Miles Brundage最近再发一文，讨论了一个相当热门但棘手的问题：当今的AI发展速度，应该加速、减速还是维持现状？
之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。当然是发～博～客。这次的博客一如既往万字干货，妥妥一篇研究综述，翁荔本人直言写起来不容易。主题围绕强化学习中奖励黑客（Reward Hacking）问题展开，即Agent利用奖励函数或环境中的漏洞来获取高奖励，而并未真正学习到预期行为。
“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”
近年来，代码语言模型（Language Models for Code，简称 CodeLMs）逐渐成为推动智能化软件开发的关键技术，应用场景涵盖智能代码生成与补全、漏洞检测与修复等。
2024 年，AI 大模型从「以分计价」跨入「以厘计价」的时代。
OpenAI治理研究员Richard Ngo宣布离职。近来，OpenAI中专注于AI安全的员工接连出走，Ngo是最新的一位。