摘要
本发明提供了一种神经网络的算子消除方法、系统、电子设备和存储介质,涉及深度学习的技术领域。包括:在神经网络模型中确定出存在算子消除需求的目标子图结构;将目标子图结构中的可消除状态的算子确定为目标消除算子;遍历所有的子图结构,直至确定出所有存在算子消除需求的目标子图结构及对应的目标消除算子;计算目标消除算子的输入和输出的缓冲区内存总和;根据缓冲区内存总和确定目标消除算子的目标缓存区,以将目标消除算子分配至目标缓存区,将所有的目标消除算子的输出配置同一缓存地址;确定目标消除算子的跳跃偏移量;基于跳跃偏移量对目标消除算子进行编译,以完成算子消除。本发明可以实现算子消除,可以减少神经网络的推理时间。