关键词: AI,蒸馏,Llama2,GPT-4

《思考快与慢》中人类的两种思考方式，属实是被Meta给玩明白了。

关键词: LLM,AI搜索,神经架构搜索,LLaMA2-7B,模型训练

大型语言模型（LLM）的一个主要特点是「大」，也因此其训练和部署成本都相当高，如何在保证 LLM 准确度的同时让其变小就成了非常重要且有价值的研究课题。

关键词: LoRA,微调,模型训练,Llama2,监督微调

大数据巨头Databricks与哥伦比亚大学最新研究发现，在数学和编程任务上，LoRA干不过全量微调。

关键词: LLM,LLaMA,NLP, LLaMA2-7B,Transformer

基于 Transformer 架构的大语言模型在 NLP 领域取得了令人惊艳的效果，然而，Transformer 中自注意力带来的二次复杂度使得大模型的推理成本和内存占用十分巨大，特别是在长序列的场景中。

关键词: gpt-4-turbo-preview,智谱ChatGLM4,Baichuan2-Turbo,百度ERNIE-Bot 4.0,Yi-34B-chat,Llama2-70B

参照SuperCLUE（中文通用大模型综合性测评基准）框架专门定制了1000道题目集，一一测试了ChatGPT4、 智谱chatGLM-4、Baichuan2-Turbo、百度ERNIE-Bot 4.0、Yi-34B-chat、llama 2等模型在保险业务上的表现。

关键词: Llama2,AI推理芯片,GPU,Groq

这两天，Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片，实现每秒500tokens大模型生成，感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff，让不少人直呼：英伟达要被碾压了……

关键词: LLaMA2,RLHF,模型训练

有的大模型对齐方法包括基于示例的监督微调（SFT）和基于分数反馈的强化学习（RLHF）。然而，分数只能反应当前回复的好坏程度，并不能明确指出模型的不足之处。相较之下，我们人类通常是从语言反馈中学习并调整自己的行为模式。

关键词: MiniCPM,Mistral-7B,Llama2-13B,token,小模型

2B性能小钢炮来了！刚刚，面壁智能重磅开源了旗舰级端侧多模态模型MiniCPM，2B就能赶超Mistral-7B，还能越级比肩Llama2-13B。成本更是低到炸裂，170万tokens成本仅为1元！

关键词: Meta,Llama2,微调,GPT-4

人工智能的反馈（AIF）要代替 RLHF 了？

关键词: Llama2,GPT-4,MistralAI,Mistral-8x7B-MoE

混合专家模型（MoE）成为最近关注的热点。