关键词: AI,GPU,大模型,树注意力,模型训练

跨GPU的注意力并行，最高提速8倍，支持512万序列长度推理。