
苹果端侧AI两连发!模型体积减半、首字延迟降85倍,iPhone离线秒用
苹果端侧AI两连发!模型体积减半、首字延迟降85倍,iPhone离线秒用苹果在 Hugging Face上放大招了!这次直接甩出两条多模态主线:FastVLM主打「快」,字幕能做到秒回;MobileCLIP2主打「轻」,在 iPhone 上也能起飞。更妙的是,模型和Demo已经全开放,Safari网页就能体验。大模型,真·跑上手机了。
苹果在 Hugging Face上放大招了!这次直接甩出两条多模态主线:FastVLM主打「快」,字幕能做到秒回;MobileCLIP2主打「轻」,在 iPhone 上也能起飞。更妙的是,模型和Demo已经全开放,Safari网页就能体验。大模型,真·跑上手机了。
不使用端侧AI的话,谷歌在Pixel 10上就有虚假宣传的嫌疑了。
刚刚,面壁智能再放大招——MiniCPM-V 4.5多模态端侧模型横空出世:8B参数,越级反超72B巨无霸,图片、视频、OCR同级全线SOTA!不仅跑得快、看得清,还能真正落地到车机、机器人等。这一次,它不只是升级,而是刷新了端侧AI的高度。
当大多数大学生还在为毕业去向发愁时,年轻的王超已经带着他的端侧AI梦想,在国产算力赛道上跑出了加速度。这位杭州电子科技大学在读博士生创立的杭州旷维炬锐科技有限公司,不仅在2025年斩获千万级天使融资,更凭借“让AI模型在终端设备高效运行”的核心技术,成为国产AI生态构建的重要参与者。
由AI技术定义整个功能模块,对于整个端侧AI市场来说,这是积极的信号。
智能体趋势真的爆了。
端侧设备落地是今年最值得期待的行业故事。
端侧AI的火热,从1月的CES燃烧到正在进行的MWC,热度丝毫未减。
市场对于能适配小尺寸模型运行的端侧AI芯片需求开始水涨船高。
近年来,AI成为了国内手机市场上的最大热点。根据市研机构IDC的定义,AI手机有几个关键指标和特性:算力大于30TOPS的NPU、支持生成式AI模型的SoC、可以端侧运行各种大模型。而就在过去一年,国内AI手机市场迅猛发力。华为、小米、vivo、OPPO、荣耀等手机厂商,均已迅速在旗下产品上接入各自的云端或端侧AI大模型。