AI资讯新闻榜单内容搜索-LLaMA

关键词: Decoder-Only,Llama3 70B,AI框架,模型训练,YOCO

微软&清华最新研究，打破GPT系列开创的Decoder-Only架构——

关键词: GPT-4 Turbo,Llama-3-70B,中国大模型,通义千问,Qwen

在发布一周年之际，阿里云通义千问大模型在闭源和开源领域都交上了一份满意的答卷。 国内的开发者们或许没有想到，有朝一日，他们开发的 AI 大模型会像出海的网文、短剧一样，让世界各地的网友坐等更新。甚至，来自韩国的网友已经开始反思：为什么我们就没有这样的模型？

关键词: Unsloth x Qwen2,模型部署,微调,模型微调,Llama

在上一篇文章「Unsloth微调Llama3-8B，提速44.35%，节省42.58%显存，最少仅需7.75GB显存」中，我们介绍了Unsloth，这是一个大模型训练加速和显存高效的训练框架，我们已将其整合到Firefly训练框架中，并且对Llama3-8B的训练进行了测试，Unsloth可大幅提升训练速度和减少显存占用。

关键词: OpenBMB,Eurux-8x22B,开源大模型, Llama3-70B

两周前，OpenBMB开源社区联合面壁智能发布领先的开源大模型「Eurux-8x22B 」。相比口碑之作 Llama3-70B，Eurux-8x22B 发布时间更早，综合性能相当，尤其是拥有更强的推理性能——刷新开源大模型推理性能 SOTA，堪称开源大模型中「理科状元」。

关键词: 微调,Mistral,Llama,模型训练,Enkrypt AI

大模型又又又被曝出安全问题！

关键词: Gradient AI,Llama 3,上下文,微调,LoRA

堂堂开源之王Llama 3，原版上下文窗口居然只有……8k，让到嘴边的一句“真香”又咽回去了。

关键词: Hugging Face,微调,Llama 3,Mistral AI,Mistral,Q-Lora

我们知道，Meta 推出的 Llama 3、Mistral AI 推出的 Mistral 和 Mixtral 模型以及 AI21 实验室推出的 Jamba 等开源大语言模型已经成为 OpenAI 的竞争对手。

关键词: HuggingFace,开源模型,FineWeb,数据集,模型训练

Meta最近开源的Llama 3模型再次证明了「数据」是提升性能的关键，但现状是，开源的大模型有一堆，可开源的大规模数据却没多少，而收集、清洗数据又是一项极其费时费力的工作，也导致了大模型预训练技术仍然掌握在少数高端机构的手中。

关键词: 多模态,ChatGPT,Llama 3,GPT-4

随着 Llama 3 发布，未来大模型的参数量已飙升至惊人的 4000 亿。尽管每周几乎都有一个声称性能超强的大模型出来炸场，但 AI 应用还在等待属于它们的「ChatGPT 时刻」。其中，AI 智能体无疑是最被看好的赛道。

关键词: AI,AI数学,AI,token,Llama,AI科研

AI做数学题，真正的思考居然是暗中“心算”的？