当前主流的视觉语言模型（VLM）主要基于大语言模型（LLM）进一步微调。因此需要通过各种方式将图像映射到 LLM 的嵌入空间，然后使用自回归方式根据图像 token 预测答案。
来自主题: AI技术研报
7976 点击 2024-06-17 19:35
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
当前主流的视觉语言模型（VLM）主要基于大语言模型（LLM）进一步微调。因此需要通过各种方式将图像映射到 LLM 的嵌入空间，然后使用自回归方式根据图像 token 预测答案。
人类的教育方式，对大模型而言也很适用。
随着大型语言模型（LLM）规模不断增大，其性能也在不断提升。尽管如此，LLM 依然面临着一个关键难题：与人类的价值和意图对齐。在解决这一难题方面，一种强大的技术是根据人类反馈的强化学习（RLHF）。
解散Ilya的超级对齐团队之后，奥特曼再造了一个新的「安全委员会」。OpenAI称正训练离AGI更近一步的下一代前沿模型，不过在这90天评估期间，怕是看不到新模型发布了。
在线和离线对齐算法的性能差距根源何在？DeepMind实证剖析出炉
Ilya Sutskever离职内幕曝光，Sam Altman面临信任崩盘。
Ilya前脚刚离职，OpenAI超级对齐团队负责人Jan Leike，紧接着也官宣了。
今天，OpenAI 联合创始人、首席科学家 Ilya Sutskever 发推宣告离职。
随着深度学习大语言模型的越来越火爆，大语言模型越做越大，使得其推理成本也水涨船高。模型量化，成为一个热门的研究课题。
Richard Sutton 在 「The Bitter Lesson」中做过这样的评价：「从70年的人工智能研究中可以得出的最重要教训是，那些利用计算的通用方法最终是最有效的，而且优势巨大。」