一种权重反量化矩阵乘法模块与相关设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种权重反量化矩阵乘法模块与相关设备
申请号:CN202511484665
申请日期:2025-10-17
公开号:CN120950815A
公开日期:2025-11-14
类型:发明专利
摘要
本发明提出一种权重反量化矩阵乘法模块与相关设备,通用矩阵乘法单元用于向直接内存访问单元发送读取控制信息;直接内存访问单元用于根据读取控制信息生成对应的读请求,将读请求发送给片外存储器,并接收片外存储器反馈的目标数据,目标数据至少包括目标权重数据,目标权重数据为量化后的权重矩阵中同时与目标行标识、目标列标识匹配的权重数据;直接内存访问单元用于对目标权重数据进行反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元。由直接内存访问单元完成反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元,不需要经过全局缓存,不会占用全局缓存的访存带宽,避免产生额外且不必要的功耗。
技术关键词
反量化装置 因子 数据 矩阵 神经网络处理器 标识 乘法器 内存 模式 转换器 输入端 模块 参数 输出端 矫正 格式 电子设备 通道 功耗