ChatGPT拒绝谈论这个人，没人知道为什么
ChatGPT拒绝谈论这个人，没人知道为什么ChatGPT两岁了，版本更新没等来，却被发现一个神秘Bug。
来自主题: AI资讯
7251 点击 2024-12-02 16:19
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
ChatGPT两岁了，版本更新没等来，却被发现一个神秘Bug。
不仅仅是“构建AGI”，要确保它造福人类！ 政策研究部门核心人员离职！ Rosie Campbell-OpenAI的政策研究员，也是原研究科学家、政策研究负责人Miles Brundage亲密共事的伙伴。
最近，一支来自UCSD和清华的研究团队提出了一种全新的微调方法。经过这种微调后，一个仅80亿参数的小模型，在科学问题上也能和GPT-4o一较高下！或许，单纯地卷AI计算能力并不是唯一的出路。
ChatGPT已经2岁了！OpenAI下一个目标瞄准十亿用户，预计明年放出AI智能体产品。就在生日这天，马斯克还送上了大礼：阻止OpenAI全面盈利的一份诉状书。
教育一直被认为是会被LLM改变最大的行业之一。ChatGPT 的使用场景中，教育占据了很大比重，其用量常随开学和假期规律波动。而 Andrej Karpathy 也选择了教育作为他的创业方向。人们都期待能够有全能的AI Tutor，因材施教，提供给每个人最好、最个性化的教育。
去年二月ChatGPT刚在国内被热议的时候，我发过两篇文章凑热闹，一篇总结了几个群友的观点，关于ChatGPT的功能和它可能带来的影响，一篇介绍了许成刚教授和Tinyfool的评论，关于ChatGPT为什么出现在美国。
Letta（由之前爆火的 MemGPT 更名）最近做了一个关于 AI Agents Stack 的研究报告。
Fine-tuning理论上很复杂，但是OpenAI把这个功能完善到任何一个人看了就能做出来的程度。我们先从原理入手，你看这张图，左边是Pre-trained LLM （预训练大模型模型），也就是像ChatGPT这样的模型；右边是Fine-tuned LLM （微调过的语言大模型），中间就是进行微调的过程，它需要我们提供一些「ChatGPT提供不了但是我们需要的东西」。
LLM 规模扩展的一个根本性挑战是缺乏对涌现能力的理解。特别是，语言模型预训练损失是高度可预测的。然而，下游能力的可预测性要差得多，有时甚至会出现涌现跳跃（emergent jump），这使得预测未来模型的能力变得具有挑战性。
OpenAI的成长历程和竞争策略。