神经网络的算子消除方法、系统、电子设备和存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
神经网络的算子消除方法、系统、电子设备和存储介质
申请号:CN202411708893
申请日期:2024-11-27
公开号:CN119204134B
公开日期:2025-02-11
类型:发明专利
摘要
本发明提供了一种神经网络的算子消除方法、系统、电子设备和存储介质,涉及深度学习的技术领域。包括:在神经网络模型中确定出存在算子消除需求的目标子图结构;将目标子图结构中的可消除状态的算子确定为目标消除算子;遍历所有的子图结构,直至确定出所有存在算子消除需求的目标子图结构及对应的目标消除算子;计算目标消除算子的输入和输出的缓冲区内存总和;根据缓冲区内存总和确定目标消除算子的目标缓存区,以将目标消除算子分配至目标缓存区,将所有的目标消除算子的输出配置同一缓存地址;确定目标消除算子的跳跃偏移量;基于跳跃偏移量对目标消除算子进行编译,以完成算子消除。本发明可以实现算子消除,可以减少神经网络的推理时间。
技术关键词
内存 消除方法 消除系统 神经网络模型 非易失性计算机可读存储介质 网络拓扑结构 电子设备 模块 处理器 存储装置 程序