键值缓存的分配方法及电子设备、计算机程序

本申请公开了一种键值缓存的分配方法及电子设备、计算机程序，涉及数据处理技术领域，通过综合词元的注意力向量及其引用数来计算重要性向量，能够从词元的注意力权重和引用数两个维度评估词元的重要性。基于重要性向量构建特征向量，并结合引用数构建亲和矩阵进行聚类处理，能够依据词元的缓存特性实现合理分类，之后基于重要性向量为不同聚类分配差异化的缓存预算向量并进行空间压缩分配，使得存储资源能够精准地投向重要性高的缓存。