AI资讯新闻榜单内容搜索-Llama-2

关键词: Llama-2,MoE,贾扬清,SD,模型训练

“只需”10万美元，训练Llama-2级别的大模型。尺寸更小但性能不减的MoE模型来了：它叫JetMoE，来自MIT、普林斯顿等研究机构。性能妥妥超过同等规模的Llama-2。

关键词: LLaMA,Xwin-Math,LLaMA-2-7B,模型训练

数学问题解决能力一直被视为衡量语言模型智能水平的重要指标。通常只有规模极大的模型或经过大量数学相关预训练的模型才能有机会在数学问题上表现出色。

关键词: Llama-2,羊驼大模型,上下文限制,CEPE,并行编码上下文扩展

陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法：它仅用8k大小的token文档进行训练，就能将Llama-2窗口扩展至128k。

关键词: SliceGPT,LLAMA-2,模型训练

删除权重矩阵的一些行和列，让 LLAMA-2 70B 的参数量减少 25%，模型还能保持 99% 的零样本任务性能，同时计算效率大大提升。这就是微软 SliceGPT 的威力。

关键词: Llama-2,Mistral,MPT,大模型,FuseLLM

融合多个异构大语言模型，中山大学、腾讯 AI Lab 推出 FuseLLM

关键词: 微调,LLM,chatGPT,Llama-2,GPT-4

微调LLM需谨慎，用良性数据、微调后角色扮演等都会破坏LLM对齐性能！学习调大了还会继续提高风险！