在人工智能的前沿领域，大语言模型（Large Language Models，LLMs）由于其强大的能力正吸引着全球研究者的目光。在 LLMs 的研发流程中，预训练阶段占据着举足轻重的地位，它不仅消耗了大量的计算资源，还蕴含着许多尚未揭示的秘密。
来自主题: AI技术研报
6601 点击 2024-04-25 17:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
在人工智能的前沿领域，大语言模型（Large Language Models，LLMs）由于其强大的能力正吸引着全球研究者的目光。在 LLMs 的研发流程中，预训练阶段占据着举足轻重的地位，它不仅消耗了大量的计算资源，还蕴含着许多尚未揭示的秘密。
智东西4月11日报道，美国AI三巨头不仅在大模型赛道争奇斗艳，还纷纷卷起自研AI芯片。
2026年的数据荒越来越近，硅谷大厂们已经为AI训练数据抢疯了！它们纷纷豪掷十数亿美元，希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过，如果有一天AI忽然吐出了我们的自拍照或者隐私聊天，该怎么办？
3月29日，以“数据驱动，智绘未来”为主题的2024北京AI原生产业创新大会暨北京数据基础制度先行区成果发布会举办。会上，北京国际大数据交易所（以下简称“北数所”）牵头正式发布首批100个人工智能大模型高质量训练数据集，经联盟牵头推荐，中关村数字媒体产业联盟成员单位新华网、山东工艺美术学院、中国搜索、中文在线、北京服装学院、硅星人等院校、企业的高质量数据集入选。
如果让你在互联网上给大模型选一本中文教材，你会去哪里取材？是知乎，是豆瓣，还是微博？一个研究团队为了构建高质量的中文指令微调数据集，对这些社交媒体进行了测试，想找到训练大模型最好的中文预料，结果答案保证让你大跌眼镜——
「被门夹过的核桃，还能补脑吗？」
离大谱了，弱智吧登上正经AI论文，还成了最好的中文训练数据？？
清华系大模型领域创业又下一城，不过这次是中间层，解决的是算力焦虑问题。
你敢信？一款手游里藏着400+个AI角色，且各自有各自的性格……这就是腾讯在一年一度的“游戏界春晚”GDC上展示的一场技术肌肉秀——《火影忍者》手游相关负责人介绍了大规模强化学习AI训练系统，该方法的训练成本和时间比传统的训练方案减少90%。
当我们感慨 AI 快把人类一锅端了时，有大聪明发现了 AI 的一生之敌——弱智吧。