MATRIX：社会模拟推动大模型价值自对齐，比GPT4更「体贴」
MATRIX：社会模拟推动大模型价值自对齐，比GPT4更「体贴」随着大语言模型（LLMs）在近年来取得显著进展，它们的能力日益增强，进而引发了一个关键的问题：如何确保他们与人类价值观对齐，从而避免潜在的社会负面影响？
来自主题: AI技术研报
10940 点击 2024-02-27 14:03
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
随着大语言模型（LLMs）在近年来取得显著进展，它们的能力日益增强，进而引发了一个关键的问题：如何确保他们与人类价值观对齐，从而避免潜在的社会负面影响？
大模型的成功很大程度上要归因于 Scaling Law 的存在，这一定律量化了模型性能与训练数据规模、模型架构等设计要素之间的关系，为模型开发、资源分配和选择合适的训练数据提供了宝贵的指导。
AI技术高歌猛进， 不久前，OpenAI文生视频模型Sora横空出世， 标志AIGC领域里程碑式的进展，引全球热议。 埃隆·马斯克评论：“gg humans（人类认赌服输）”。
多模态大模型，首次本地部署在安卓手机上了！
有消息称字节跳动已上线“河马爱学”APP，该产品融合了AI能力，瞄准小初高学生，主要提供拍照答题，提供作业、口算、作文批改以及语文作文、英语作文、文学素养等服务。
大模型时代，终端厂商的AI决心，愈发凸显。
最近几天，Sora 成为了全世界关注的焦点。与之相关的一切，都被放大到极致。
AAAI 2024 奖项陆续公布，继杰出论文奖后，今天博士论文奖也公布了。
问世才两个星期，谷歌的世界模型也来了，能力看起来更强大：它生成的虚拟世界「自主可控」。
2023 年年底，很多人都预测，未来一年将是视频生成快速发展的一年。但出人意料的是，农历春节刚过，OpenAI 就扔出了一个重磅炸弹 —— 能生成 1 分钟流畅、逼真视频的 Sora。