解析大模型中的Scaling Law 解析大模型中的Scaling Law 关键词: Scaling Law,模型训练,LLM训练 计划训练一个10B的模型,想知道至少需要多大的数据?收集到了1T的数据,想知道能训练一个多大的模型?老板准备1个月后开发布会,给的资源是100张A100,那应该用多少数据训一个多大模型最终效果最好? 来自主题: AI技术研报 10993 点击 2023-11-20 10:09