AI对齐全面综述！北大等从800+文献中总结出四万字，知名学者挂帅
AI对齐全面综述！北大等从800+文献中总结出四万字，知名学者挂帅通用模型时代下，当今和未来的前沿AI系统如何与人类意图对齐？通往AGI的道路上，AI Alignment（AI对齐）是安全打开 “潘多拉魔盒” 的黄金密钥。
来自主题: AI技术研报
4777 点击 2023-11-04 23:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
通用模型时代下，当今和未来的前沿AI系统如何与人类意图对齐？通往AGI的道路上，AI Alignment（AI对齐）是安全打开 “潘多拉魔盒” 的黄金密钥。
最近，由CMU/MIT/清华/Umass提出的全球首个生成式机器人智能体RoboGen，可以无限生成数据，让机器人7*24小时永不停歇地训练。AIGC for Robotics，果然是未来的方向。
在深度学习时代，尤其是随着大型语言模型（LLMs）的出现，大多数研究人员的注意力都集中在追求新的最先进（SOTA）结果上，使得模型规模和计算复杂性不断增加。
GPT-3究竟是如何进化到GPT-4的？ 字节给OpenAI所有大模型来了个“开盒”操作。 结果还真摸清了GPT-4进化路上一些关键技术的具体作用和影响。
中国科学院物理研究所/北京凝聚态物理国家研究中心SF10组和中国科学院计算机网络信息中心共同合作，将AI大模型应用于材料科学领域，将数万个化学合成路径数据投喂给大语言模型LLAMA2-7b，从而获得了MatChat模型
今日，阿里国际站正式上线外贸AI产品“生意助手”，此前多位参与了内测的阿里国际站商家透露：这款AI产品最大的惊喜在于“它真的懂外贸”。内测数据显示，这款AI产品给商家提升了超过19%的曝光量。这种直接进入产业内部的实用效果，是市面上其它所有AI产品都不曾具备的。
随着文本至图像的人工智能 Diffusion 模型的出现，为数字漫画领域揭示了一个充满希望的机遇。加利福尼亚州的 Dashtoon 公司抓住这个机会，致力于将这项尖端技术推广到全世界的故事讲述者者中。
有一家公司，OpenAI、Anthropic、Cohere、Aleph Alpha（欧洲顶尖大模型公司）和Hugging Face的模型训练和微调都离不开它，NVIDIA和谷歌云（GCP）都是它的深度合作伙伴，它是支持生成式AI明星公司们训练模型的幕后英雄。
在看似与AI毫不搭边的物理、生物等领域，科学家们似乎对“AI威胁论”不太在意，反倒是亲自下场搞起了AI。
披头士乐队（the Beatles）上线了他们的“新”歌。上线的这首 Now And Then，是因为用上了 AI，才让原本音源质量不佳而被搁置 30 年的 demo，得到重生。