AI资讯新闻榜单内容搜索-近似投机解码

关键词: AI新闻,模型训练,近似投机解码,ASD

北航、清华、港大、北大联合团队提出近似投机解码（ASD），作为即插即用的验证器模块，在严格预算内接受极少数低遗憾分歧字并复用大模型已算好的后缀，免训练地挂载于DSpark、EAGLE3、Medusa等主流投机解码算法，吞吐最高提升15.26%。