摘要
本申请涉及一种联邦学习系统的动态梯度压缩学习方法,属于人工智能领域。该方法包括:构建联邦学习模型,服务器分配不同采样通信带宽至客户端,客户端训练后得到本地模型;考虑每个客户端本地模型的资源约束和梯度状态,计算本轮动态梯度压缩策略的剪枝率和量化等级;根据剪枝率,每个客户端对自身的梯度进行稀疏化操作,得到稀疏化后的梯度;根据量化等级,每个客户端对稀疏化后的梯度进行量化和编码操作,得到压缩后的梯度数据;每个客户端将压缩后的梯度数据上传至服务器,服务器对其进行解压,得到解压的梯度数据;服务器将解压的梯度数据按元素聚合并更新全局模型,直到模型收敛。本申请实现在资源受限场景下性能更优的高效通信联邦学习。