推理成本比MoE直降83%！字节最新大模型架构入围ICLR 2025
推理成本比MoE直降83%！字节最新大模型架构入围ICLR 2025字节出了个全新架构，把推理成本给狠狠地打了下去！推理速度相比MoE架构提升2-6倍，推理成本最高可降低83%。
来自主题: AI技术研报
5533 点击 2025-02-12 11:37
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
字节出了个全新架构，把推理成本给狠狠地打了下去！推理速度相比MoE架构提升2-6倍，推理成本最高可降低83%。