学习模型的硬件部署方法、相关装置和介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
学习模型的硬件部署方法、相关装置和介质
申请号:CN202410955434
申请日期:2024-07-16
公开号:CN118966291B
公开日期:2025-02-25
类型:发明专利
摘要
本公开提供了一种学习模型的硬件部署方法、相关装置和介质。该硬件部署方法包括:获取用于目标学习模型的处理单元部署的初始流水并行数和初始张量并行数;在部署方案节点跳转关系图上,定位初始流水并行数和初始张量并行数所在的初始部署方案节点;将部署方案节点跳转关系图和初始部署方案节点输入强化学习模型,得到使目标学习模型的推理性能最优化的目标部署方案节点,目标部署方案节点包括目标流水并行数和目标张量并行数;基于目标流水并行数和目标张量并行数,为目标学习模型部署处理单元。本公开实施例能扩大部署方法的适用范围,提高部署效率。
技术关键词
样本 处理单元 强化学习模型 流水 策略 关系 通信带宽 标签 通信量 邻居 节点更新 计算机程序产品 键值 单层 计算机设备 处理器 参数 定位单元 可读存储介质