AI资讯新闻榜单内容搜索-PyTorch

关键词: chatGPT,PyTorch,AI

这两天，有关开源的话题又火了起来。有人表示，「没有开源，AI 将一无所有，继续保持 AI 开放。」这个观点得到了很多人的赞同，其中包括图灵奖得主、Meta 首席科学家 Yann LeCun。

关键词: PyTorch,minGPT,GPT-fast

PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码！

关键词: PyTorch,LLM,AI模型,token

这两天，FlashAttention团队推出了新作： 一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。 该方法尤其造福于长上下文LLM，在64k长度的CodeLlama-34B上通过了验证