AI资讯新闻榜单内容搜索-斯坦福

关键词: PyTorch,LLM,AI模型,token

这两天，FlashAttention团队推出了新作： 一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。 该方法尤其造福于长上下文LLM，在64k长度的CodeLlama-34B上通过了验证

关键词: Inceptive,AI医药,AI医疗,AI生物

Jakob Uszkoreit创立的AI生物技术公司Inceptive近日获得a16z、NVIDIA的风险投资部门NVentures以及Obvious Ventures等机构投资的1亿美元A轮融资