AI资讯新闻榜单内容搜索-

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 
大模型终端部署新趋势:硬件直接支持混合矩阵乘法

大模型终端部署新趋势:硬件直接支持混合矩阵乘法

大模型终端部署新趋势:硬件直接支持混合矩阵乘法

在人工智能领域,模型参数的增多往往意味着性能的提升。但随着模型规模的扩大,其对终端设备的算力与内存需求也日益增加。低比特量化技术,由于可以大幅降低存储和计算成本并提升推理效率,已成为实现大模型在资源受限设备上高效运行的关键技术之一。然而,如果硬件设备不支持低比特量化后的数据模式,那么低比特量化的优势将无法发挥。

来自主题: AI资讯
5471 点击    2024-08-19 14:49
Post-Training有多重要?AI2研究员长文详解前沿模型的后训练秘籍

Post-Training有多重要?AI2研究员长文详解前沿模型的后训练秘籍

Post-Training有多重要?AI2研究员长文详解前沿模型的后训练秘籍

越来越多研究发现,后训练对模型性能同样重要。Allen AI的机器学习研究员Nathan Lambert最近发表了一篇技术博文,总结了科技巨头们所使用的模型后训练配方。

来自主题: AI技术研报
12705 点击    2024-08-19 14:47
一文看懂Mamba,Transformer最强竞争者

一文看懂Mamba,Transformer最强竞争者

一文看懂Mamba,Transformer最强竞争者

Mamba 虽好,但发展尚早。

来自主题: AI资讯
8491 点击    2024-08-19 14:46
奥特曼再放话「碾压」初创,CEO发文回怼:从「套壳」开始也能做出伟大产品

奥特曼再放话「碾压」初创,CEO发文回怼:从「套壳」开始也能做出伟大产品

奥特曼再放话「碾压」初创,CEO发文回怼:从「套壳」开始也能做出伟大产品

OpenAI就像是悬在AI初创公司头上的达摩克利斯之剑,可这在多大程度上是真实的,亦或是奥特曼的自我标榜?这篇文章击碎了科技巨头的滤镜,并试图为套壳GPT正名。

来自主题: AI资讯
11357 点击    2024-08-19 14:43
ChatGPT成8岁娃「导师」,外国家长们慌了!

ChatGPT成8岁娃「导师」,外国家长们慌了!

ChatGPT成8岁娃「导师」,外国家长们慌了!

GenAI的这股风不知不觉也刮到了学校课堂中。根据外媒报道,美国、英国、韩国等地的中小学逐渐开始推行「AI教育变革」。为什么被一众大学禁止的ChatGPT类AI工具,反而要在中小学推广?

来自主题: AI资讯
11204 点击    2024-08-19 14:37
微调Flux席卷全网,外国小哥一人组一队漫威英雄!

微调Flux席卷全网,外国小哥一人组一队漫威英雄!

微调Flux席卷全网,外国小哥一人组一队漫威英雄!

席卷开源界的AI生图王者诞生了!发布半个月,Flux已经成为替代Midjourney的宠儿。各路开发者们开始用自己的照片微调LoRA,一人拿捏多种风格。

来自主题: AI资讯
11910 点击    2024-08-19 14:32