关键词: GPU,AI,模型部署,人工智能

都很贵。

关键词: 模型部署,AI,Llama 3.1 405B,AI工具,模型训练

单卡搞定Llama 3.1（405B），最新大模型压缩工具来了！

关键词: LLM,开源模型,Llama3.1,AI,模型教程,模型部署

不同类型的数据配比如何配置:先通过小规模实验确定最优配比，然后将其应用到大模型的训练中。 Token配比结论：通用知识50%；数学与逻辑25%；代码17%；多语言8%。

关键词: 大模型,CPU,GPU,AI硬件,模型部署

千亿参数规模的大模型推理，服务器仅用4颗CPU就能实现！

关键词: AI盒子,AI应用,Nvidia NIM,模型部署,人工智能

英伟达NIM新升级，助力AI在多领域应用。

关键词: Imbue,AI,大模型教程,GPU,模型训练,模型部署

我们知道 LLM 是在大规模计算机集群上使用海量数据训练得到的，机器之心曾介绍过不少用于辅助和改进 LLM 训练流程的方法和技术。而今天，我们要分享的是一篇深入技术底层的文章，介绍如何将一堆连操作系统也没有的「裸机」变成用于训练 LLM 的计算机集群。

关键词: AI,Llama 3,异构集群,模型训练,模型部署

假如你有闲置的设备，或许可以试一试。

关键词: LLaVA,模型训练,模型部署,TinyLLaVA,MSIIP

TinyLLaVA 项目由清华大学电子系多媒体信号与智能信息处理实验室 (MSIIP) 吴及教授团队和北京航空航天大学人工智能学院黄雷老师团队联袂打造。清华大学 MSIIP 实验室长期致力于智慧医疗、自然语言处理与知识发现、多模态等研究领域。北航团队长期致力于深度学习、多模态、计算机视觉等研究领域。

关键词: 模型训练,AI,AI框架,模型部署,LLaMA-3 8B,微调

本文由GreenBit.AI团队撰写，团队的核心成员来自德国哈索·普拉特纳计算机系统工程院开源技术小组。我们致力于推动开源社区的发展，倡导可持续的机器学习理念。我们的目标是通过提供更具成本效益的解决方案，使人工智能技术在环境和社会层面产生积极影响。

关键词: Karpathy,Llama 3,模型部署,模型训练

Llama 3发布一个月后，一位开发者在GitHub上创建了名为「从头开始实现Llama 3」的项目，引起了开源社区的广泛关注。代码非常详细地展现了Llama所使用的Transformer架构，甚至让Andrej Karpathy亲自下场「背书」。