将 600 亿参数大模型装进手机的瓶颈，终于被中国 AI 公司突破了
将 600 亿参数大模型装进手机的瓶颈，终于被中国 AI 公司突破了一个 8B 参数的大模型，通常需要约 16GB 显存。参数越多，越吃显存，这就是为什么，内存价格一天比一天高。
来自主题: AI资讯
9067 点击 2026-05-25 16:00
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
一个 8B 参数的大模型，通常需要约 16GB 显存。参数越多，越吃显存，这就是为什么，内存价格一天比一天高。
刚刚的，面壁智能联合 OpenBMB 搞了个端侧开源周。今天作为开源周的第一天，端出来的是个好东西 BitCPM-CANN，模型权重只需要约 200 MB 的内存，手表也够跑
端侧多模态，卷出新天花板。仅1.3B，性能反超，效率翻倍，一张4090就能「爆改」。刚刚，清华系团队面壁智能开源了新一代「小钢炮」MiniCPM-V 4.6，再次证明了在端侧AI领域，中国团队已然站在世界前沿。
近日，字节跳动智能创作部门（Intelligent Creation Lab）提出新作 DreamLite，一个主干网络仅有 0.39B 参数的轻量级统一扩散模型，在单一网络内同时支持文生图（Text-to-Image） 和图像编辑（Text-guided Image Editing）两个任务，是目前已知首个实现这一能力的端侧模型。
一个3B激活参数的端侧模型，在全球Agent权威评测中，以94%任务完成率，超越了Claude、GPT-5.4、Gemini等国际主流云侧和端侧大模型。商汤绝影Sage来了，它不是「更聪明的语音助手「，而是第一个真正能在车里「办成复杂事「的智能体基座。
等效参数量仅0.3B，内存占用仅600MB，更适合端侧部署还带思维链的模型来了。腾讯混元最新推出面向消费级硬件场景的“极小”模型HY-1.8B-2Bit，体量甚至比常用的一些手机应用还小。
在 iPhone 上部署端侧 AI 模型，成了互联网的新显学。在 iPhone 上体验端侧模型，门槛其实不算高。打开 App Store，搜索 PocketPal AI，下载安装。如果不习惯英文界面，可以在设置 (Setting) 里找到语言 (Language) 选项，切换成中文。
刚刚，面壁智能再放大招——MiniCPM-V 4.5多模态端侧模型横空出世：8B参数，越级反超72B巨无霸，图片、视频、OCR同级全线SOTA！不仅跑得快、看得清，还能真正落地到车机、机器人等。这一次，它不只是升级，而是刷新了端侧AI的高度。
三天不开源，Qwen团队手就痒。 昨天深夜再次放出两个端侧模型： Qwen3-4B-Instruct-2507：非推理模型，大幅提升通用能力 Qwen3-4B-Thinking-2507：高级推理模型，专为专家级任务设计
7 月 1 日，国际顶级学术期刊《Nature》旗下子刊《Nature Communications》正式刊登了来自清华、面壁等研究团队联合研发的高效端侧多模态大模型MiniCPM-V 核心研究成果。