AI资讯新闻榜单内容搜索-LLaMA

关键词: LoRA,微调,模型训练,Llama2,监督微调

大数据巨头Databricks与哥伦比亚大学最新研究发现，在数学和编程任务上，LoRA干不过全量微调。

关键词: Llama 3,Falcon 2,猎鹰,OpenAI,GPT-4o

5月14日，开源的大语言模型Falcon 2发布，性能超越Llama 3，消息登上了Hacker News热榜第一。「猎鹰」归来，开源宇宙将会迎来新的霸主吗？

关键词: 多模态,MiniCPM-Llama3-V 2.5,面壁小钢炮,面壁智能

杀疯了！一夜之间，全球最强端侧多模态模型再次刷新，仅用8B参数，击败了多模态巨无霸Gemini Pro、GPT-4V。而且，其OCR长难图识别刷新SOTA，图像编码速度暴涨150倍。这是国产头部大模型公司献给开发者们最浪漫的520礼物。

关键词: Llama 3,Meta AI,AI,大模型

Llama 3开源后，聊天机器人Meta AI也宣布使用新模型作为基座，在Meta旗下的各种软件（Meta.ai、Instagram、Facebook、WhatsApp）中都可以进行免费体验。

关键词: 模型训练,LLaMA3,数据集,RLHF

基于人类反馈的强化学习 (RLHF) 使得大语言模型的输出能够更加符合人类的目标、期望与需求，是提升许多闭源语言模型 Chat-GPT, Claude, Gemini 表现的核心方法之一。

关键词: Cursor,AI编程,openai,Llama3,GPT-4o,anysphere

70B模型，秒出1000token，换算成字符接近4000！

关键词: Llama3,GPT2-chatbot,GPT-4,Llama 3

Llama 3首发阵容里没有的120B型号竟意外“曝光”，而且十分能打？！

关键词: H800,AI云,Llama3,大模型,潞晨云官方

猛然间，大模型圈掀起一股“降价风潮”。

关键词: 模型训练,Flash Attention,GPU,注意力机制

众所周知，大语言模型的训练常常需要数月的时间，使用数百乃至上千个 GPU。以 LLaMA2 70B 模型为例，其训练总共需要 1,720,320 GPU hours。由于这些工作负载的规模和复杂性，导致训练大模型存在着独特的系统性挑战。

关键词: LLaMA,PaLM,大模型,模型训练,prompt

大模型回答如何更可靠？MIT研究团队设计出「共识博弈」，将数学家常用的博弈论引入LLM改进中。没想到，LLaMA-7B的表现，击败了LLaMA-65B，甚至与PaLM-540B相媲美。