AI资讯新闻榜单内容搜索-Token

关键词: 昆仑万维模型,Skywork-13B,AI大模型

开源最彻底的大模型来了——130亿参数，无需申请即可商用。 不仅如此，它还附带着把全球最大之一的中文数据集也一并开源了出来：600G、1500亿tokens！

关键词: AI,GPT-4,token

千亿级大模型正迅速耗尽世界的高质量数据。对此，英伟达和UT提出了MimicGen系统。从人工合成数据中获得人工智能，将是未来的发展方向。

关键词: GraphGPT,港大GPT,港大模型

GraphGPT框架将图结构模型和大语言模型进行参数对齐，利用双阶段图指令微调范式提高模型对图结构的理解能力和适应性，再整合ChatGPT提高逐步推理能力，实现了更快的推理速度和更高的图任务预测准确率。

关键词: PyTorch,LLM,AI模型,token

这两天，FlashAttention团队推出了新作： 一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。 该方法尤其造福于长上下文LLM，在64k长度的CodeLlama-34B上通过了验证

关键词: LLaMA,ChatGPT,Claude,2,微调,AI

悄无声息，羊驼家族“最强版”来了！ 与GPT-4持平，上下文长度达3.2万token的LLaMA 2 Long，正式登场。

关键词: Falcon,开源大模型,AI,GPT-4

一经发布，地表最强开源模型Falcon 180B直接霸榜HF。3.5万亿token训练，性能直接碾压Llama 2。