基于双段多项式的GELU激活函数硬件实现系统和方法
申请号:CN202511403321
申请日期:2025-09-29
公开号:CN120893490B
公开日期:2025-11-28
类型:发明专利
摘要
本发明属于人工智能芯片设计技术领域,特别涉及一种基于双段多项式的GELU激活函数硬件实现系统和方法。包括:参数训练模块,用于获取双段多项式拟合的GELU激活函数的参数;输入分配模块,用于判断输入值在双段多项式的所属区间段,并输出输入值所属区间段的控制信号至循环乘加器计算模块;多项式系数存储模块,用于存储不同区间段的高阶多项式参数;循环乘加器计算模块,根据所述输入值所属区间段的控制信号,将所述多项式系数存储模块中存储的高阶多项式参数取出,并送入所述循环乘加器计算模块以计算输出值;数据量化模块,用于对输出值数据进行量化。本发明在保证模型准确率的前提下,显著降低硬件资源占用率,提升硬件能效的目的。
技术关键词
多项式
乘加器
人工智能芯片设计技术
存储模块
参数
预训练模型
符号
梯度下降优化算法
表达式
数据
展开式
指标
信号
查找表
乘法器
加法器
精度
有效性
能效