手机流畅运行470亿大模型：上交大发布LLM手机推理框架PowerInfer-2，提速29倍
手机流畅运行470亿大模型：上交大发布LLM手机推理框架PowerInfer-2，提速29倍苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。
来自主题: AI技术研报
7693 点击 2024-06-12 15:33
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
苹果一出手，在手机等移动设备上部署大模型不可避免地成为行业关注焦点。
万众瞩目的WWDC24上，苹果果然用AI把iPhone全部重塑。重磅登场的Apple Intelligence，让苹果全系产品有了史诗级升级。Siri被全面重塑，自由穿梭于系统中。AI大牛Karpathy对此狂赞，然而马斯克却彻底怒了，下令全员禁用苹果！
国产大模型「日日新 5.0」已经在权威主流评测中鲨疯了。变强的背后原因竟是，来自商汤自研中文Embedding模型——Piccolo2。这是首个对标OpenAI向量长度的模型。
大模型执行图推理任务，我们是希望大模型仅仅给出结果，还是在给出准确答案的同时，输出详细的推理过程？
又是一年一次的WWDC，北京时间6月11日凌晨，WWDC24主题演讲正式开启。按照惯例，每年的WWDC上，苹果都会带来一众软硬件新品。
大型语言模型（LLM）的一个主要特点是「大」，也因此其训练和部署成本都相当高，如何在保证 LLM 准确度的同时让其变小就成了非常重要且有价值的研究课题。
360 度场景生成是计算机视觉的重要任务，主流方法主要可分为两类，一类利用图像扩散模型分别生成 360 度场景的多个视角。由于图像扩散模型缺乏场景全局结构的先验知识，这类方法无法有效生成多样的 360 度视角，导致场景内主要的目标被多次重复生成，如图 1 的床和雕塑。
端午佳节，有的地方高考已经结束，有的考生还奋战在考场上。
近年来，具身智能（如自动驾驶和机器人等自主智能体）取得了迅猛发展。
AI 大牛 Andrej Karpathy 又「上新」了，这次一口气放出了长达四个小时的视频。