新注意力让大模型上下文内存占用砍半！精度不减还能加速2倍
新注意力让大模型上下文内存占用砍半！精度不减还能加速2倍大模型同样的上下文窗口，只需一半内存就能实现，而且精度无损？ 前苹果ASIC架构师Nils Graef，和一名UC伯克利在读本科生一起提出了新的注意力机制Slim Attention。
来自主题: AI资讯
8405 点击 2025-03-17 19:52
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
大模型同样的上下文窗口，只需一半内存就能实现，而且精度无损？ 前苹果ASIC架构师Nils Graef，和一名UC伯克利在读本科生一起提出了新的注意力机制Slim Attention。
号称地表最强的M3 Ultra，本地跑满血版DeepSeek R1，效果到底如何？
AGI明年降临？清华人大最新研究给狂热的AI世界泼了一盆冷水：人类距离真正的AGI，还有整整70年！若要实现「自主级智能，需要惊人的10²⁶参数，所需GPU总价竟是苹果市值的4×10⁷倍！
Intangible，现已获得 400 万美元的种子资金支持，提供了一款 AI 驱动的创意工具，让用户通过文本提示创建 3D 世界概念，助力跨行业创意专业人士。a16z Speedrun、Crosslink Capital 和几位天使投资者领投了本轮融资。
M3 Ultra终极引擎，可跑千亿模型
挤牙膏的新款 iPad Air 和 iPad 果然只是开胃小菜，今天苹果为我们带来了更有看点的 MacBook Air 和 Mac Studio 更新。
去年，Sam Altman曾做过一个预测： 有了AI，我们很快就会看到第一家估值10亿美元，但只有一个人的AI公司。
11年来首次重大更新，Alexa要打造终极智能家居体验？升级后的Alexa被叫做Alexa+，可以与用户自然对话，还能记住家庭不同成员的个人习惯提供个性化建议，完成制定旅行计划、提炼邮件重点等各种复杂的任务。彭博社知名记者马克·古尔曼将Alexa+称作“加强版的ChatGPT语音模式”，令人印象深刻。他还提到苹果在这个领域落后了很远。
在创始人、已故CEO乔布斯诞辰70周年之际，苹果宣布未来4年在本土投资5000亿美元，加速AI和半导体投资进度，将新建24家工厂，创造2万个就业岗位。
前几天，朋友跟我报了个猛料：苹果电脑上的可以用AI了。而另一位朋友，则带来了更为准确的消息：M2 Ultra 版本的 Mac Studio，已原生适配阶跃星辰模型全家桶，这应该是第一个全面适配苹果 Mac 设备的中国大模型厂商。