拿CPU搞AI推理，谁给你的底气？
拿CPU搞AI推理，谁给你的底气？大模型的训练阶段我们选择GPU，但到了推理阶段，我们果断把CPU加到了菜单上。
来自主题: AI资讯
9233 点击 2024-03-27 17:27
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型的训练阶段我们选择GPU，但到了推理阶段，我们果断把CPU加到了菜单上。
马斯克说到做到开源Grok-1，开源社区一片狂喜。但基于Grok-1做改动or商用，都还有点难题： Grok-1使用Rust+JAX构建，对于习惯Python+PyTorch+HuggingFace等主流软件生态的用户上手门槛高。
把Huggingface上的现成模型拿来“攒一攒”—— 直接就能组合出新的强大模型？！日本大模型公司sakana.ai脑洞大开（正是“Transformer八子”之一所创办的公司），想出了这么一个进化合并模型的妙招。
近日，Stability AI又发布了新作SV3D，基于视频扩散模型的SV3D将3D模型生成的效果提升了一大截，模型权重已在huggingface开放。
我们将介绍 AI 生成内容加水印的方法，讨论其优缺点，并展示 Hugging Face Hub 上一些可用于添加/检测水印的工具。
说ChatGPT是AI的iPhone时刻有些言过其实, AGI的路上少不了Hugging Face…
始智AI wisemodel.cn社区将打造成huggingface之外最活跃的中立开放的AI开源社区。
OpenAI的GPT商店有开源平替了——来自抱抱脸（Hugging Face）。
现在，人人都可以利用开源模型，打造量身定制的AI助手了。
Hugging Face上有一位机器学习大神，分享了如何从头开始建立一套完整的MoE系统。