DeepSeek团队新作：把代码变成思维链，大模型推理各种能力全面提升
DeepSeek团队新作：把代码变成思维链，大模型推理各种能力全面提升用代码训练大模型思考，其他方面的推理能力也能提升。
来自主题: AI技术研报
4659 点击 2025-02-18 10:40
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
用代码训练大模型思考，其他方面的推理能力也能提升。
Falcon 方法是一种增强半自回归投机解码框架，旨在增强 draft model 的并行性和输出质量，以有效提升大模型的推理速度。Falcon 可以实现约 2.91-3.51 倍的加速比，在多种数据集上获得了很好的结果，并已应用到翼支付多个实际业务中。
大模型的的发布固然令人欣喜，但是各类测评也是忙坏了众多 AI 工作者。大模型推理的幻觉问题向来是 AI 测评的重灾区，诸如 9.9>9.11 的经典幻觉问题，各大厂家恨不得直接把问题用 if-else 写进来。
o1不是通向大模型推理的唯一路径！ MIT的新研究发现，在测试时对大模型进行训练，可以让推理水平大幅提升。
改进KV缓存压缩，大模型推理显存瓶颈迎来新突破—— 中科大研究团队提出Ada-KV，通过自适应预算分配算法来优化KV缓存的驱逐过程，以提高推理效率。
PPIO推出新AI产品，助力分布式云计算及AIGC应用。
KV Cache 是大模型推理性能优化的一个常用技术，该技术可以在不影响任何计算精度的前提下，通过空间换时间的思想，提高推理性能。
2024年，落地，无疑是大模型最重要的主题。
千亿参数规模的大模型推理，服务器仅用4颗CPU就能实现！
最近，新加坡国立大学联合南洋理工大学和哈工深的研究人员共同提出了一个全新的视频推理框架，这也是首次大模型推理社区提出的面向视频的思维链框架（Video-of-Thought， VoT）。视频思维链VoT让视频多模态大语言模型在复杂视频的理解和推理性能上大幅提升。该工作已被ICML 2024录用为Oral paper。