摘要
本申请公开了一种基于分布式FPGA的协同加速方法及装置,涉及模型加速技术领域,该方法包括:将一个第一FPGA芯片与多个第二FPGA芯片连接构建计算平台;对第一FPGA芯片与多个第二FPGA芯片进行时钟同步,基于第一FPGA芯片接收并解析来自外部系统的原始任务包,将原始任务包分解为多个子任务;监控各个第二FPGA芯片的负载状态,并基于负载状态分配子任务;通过各第二FPGA芯片对子任务进行并行处理,将处理结果反馈给第一FPGA芯片;基于第一FPGA芯片将各处理结果进行校验、整合,得到任务执行结果,将任务执行结果反馈给外部系统。解决了现有模型加速方案的加速效果与性能存在瓶颈,难以满足复杂场景的需求的技术问题。能够提升计算平台的可靠性、灵活性和计算效率。