AI资讯新闻榜单内容搜索-Ai框架

关键词: Transformer,DCFormer,AI框架,模型训练

改进Transformer核心机制注意力，让小模型能打两倍大的模型！

关键词: 模型训练,AI,AI框架,大模型

3D 重建和新视图合成技术在虚拟现实和增强现实等领域有着广泛的应用。NeRF 通过隐式地将场景编码为辐射场，在视图合成上取得了显著的成功。

关键词: Transformer,AI框架,AI论文,LLM,模型训练

即使最强大的 LLM 也难以通过 token 索引来关注句子等概念，现在有办法了。

关键词: MoE,Llama3,token,AI框架

每个token只需要5.28%的算力，精度就能全面对标Llama 3。

关键词: AI,注意力机制,SAPT,AI框架,模型训练

在大模型实际部署落地的过程中，如何赋予大模型持续学习的能力是一个至关重要的挑战。这使其能够动态适应新的任务并不断获得新的知识。大模型的持续学习主要面临两个重大挑战，分别是灾难性遗忘和知识迁移。灾难性遗忘是指模型在学习新任务时，会忘记其已掌握的旧任务。知识迁移则涉及到如何在学习新任务时有效地应用旧任务的知识来提升新任务学习的效果。

关键词: 模型训练,AI,AI框架,模型部署,LLaMA-3 8B,微调

本文由GreenBit.AI团队撰写，团队的核心成员来自德国哈索·普拉特纳计算机系统工程院开源技术小组。我们致力于推动开源社区的发展，倡导可持续的机器学习理念。我们的目标是通过提供更具成本效益的解决方案，使人工智能技术在环境和社会层面产生积极影响。

关键词: RNN,Transformer,模型训练,AI框架,AI

既能像 Transformer 一样并行训练，推理时内存需求又不随 token 数线性递增，长上下文又有新思路了？

关键词: 腾讯AI,AI框架,LLM,模型训练,GPU

以 OpenAI 的 GPT 系列模型为代表的大语言模型（LLM）掀起了新一轮 AI 应用浪潮，但是 LLM 推理的高昂成本一直困扰着业务团队。

关键词: KAN,AI框架,MLP,模型训练

本月初，来自 MIT 等机构的研究者提出了一种非常有潜力的 MLP 替代方法 ——KAN。

关键词: KAN,AI框架,神经网络,模型训练

最近一周KAN的热度逐渐褪去，正好静下心来仔细学习KAN的原理，收获颇多。