AI资讯新闻榜单内容搜索-贾扬清

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 贾扬清
大模型推理速度飙升3.6倍,「美杜莎」论文来了,贾扬清:最优雅加速推理方案之一

大模型推理速度飙升3.6倍,「美杜莎」论文来了,贾扬清:最优雅加速推理方案之一

大模型推理速度飙升3.6倍,「美杜莎」论文来了,贾扬清:最优雅加速推理方案之一

去年,在加速大语言模型推理层面,我们迎来了一个比推测解码更高效的解决方案 —— 普林斯顿、UIUC 等机构提出的 Medusa。如今,关于 Medusa 终于有了完整技术论文,还提供了新的版本。

来自主题: AI技术研报
4129 点击    2024-01-24 14:06
这一代AI追随者的窘境

这一代AI追随者的窘境

这一代AI追随者的窘境

前不久,原阿里首席AI科学家贾扬清的一条朋友圈截图四处流传。贾扬清说,他的一个朋友告诉他,某国产大模型不过是LLaMA架构,只是更换了几个变量名而已。 很快有好事者发现,在大模型、数据集开源社区Hugging Face上,就有一位开发者发出了类似质疑:“该模型使用了Meta LLaMA 的架构,只修改个tensor(张量)”。

来自主题: AI资讯
7292 点击    2023-11-26 20:58
大模型架构创新已死?

大模型架构创新已死?

大模型架构创新已死?

一场围绕大模型自研和创新的讨论,这两天在技术圈里炸了锅。起初,前阿里技术VP贾扬清,盆友圈爆料吐槽:有大厂新模型就是LLaMA架构,但为了表示不同,通过改变开源代码名字、替换几个变量名……

来自主题: AI资讯
3734 点击    2023-11-15 16:28
LeptonAI 使用体验

LeptonAI 使用体验

LeptonAI 使用体验

阿里巴巴算法工程师手把手教你部署AI模型

来自主题: AI技术研报
3076 点击    2023-10-22 21:47