OpenAI“最后一篇”超级对齐论文发布：大小模型相互博弈，输出可读性up
OpenAI“最后一篇”超级对齐论文发布：大小模型相互博弈，输出可读性up让大小模型相互博弈，就能实现生成内容可读性的提升！
来自主题: AI资讯
8340 点击 2024-07-18 16:32
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
让大小模型相互博弈，就能实现生成内容可读性的提升！
当我们不停在CoT等领域大下苦功、试图提升LLM推理准确性的同时，OpenAI的对齐团队从另一个角度发现了华点——除了准确性，生成答案的清晰度、可读性和可验证性也同样重要。
以发展的眼光看待价值对齐问题。
本文介绍了一篇语言模型对齐研究的论文，由瑞士、英国、和法国的三所大学的博士生和 Google DeepMind 以及 Google Research 的研究人员合作完成。
今天，OpenAI悄悄在博客上发布了一篇新论文——CriticGPT，而这也是前任超级对齐团队的「遗作」之一。CriticGPT同样基于GPT-4训练，但目的却是用来指正GPT-4的输出错误，实现「自我批评」。
不用打标签，也能解决视觉大模型的偏好对齐问题了。
在人工智能领域的发展过程中，对大语言模型（LLM）的控制与指导始终是核心挑战之一，旨在确保这些模型既强大又安全地服务于人类社会。早期的努力集中于通过人类反馈的强化学习方法（RLHF）来管理这些模型，成效显著，标志着向更加人性化 AI 迈出的关键一步。
当前主流的视觉语言模型（VLM）主要基于大语言模型（LLM）进一步微调。因此需要通过各种方式将图像映射到 LLM 的嵌入空间，然后使用自回归方式根据图像 token 预测答案。
人类的教育方式，对大模型而言也很适用。
随着大型语言模型（LLM）规模不断增大，其性能也在不断提升。尽管如此，LLM 依然面临着一个关键难题：与人类的价值和意图对齐。在解决这一难题方面，一种强大的技术是根据人类反馈的强化学习（RLHF）。