AI资讯新闻榜单内容搜索-微调

关键词: 大模型,LLM,AI套壳,模型训练

本文探讨了大模型套壳的问题，解释了大模型的内核和预训练过程。同时，介绍了“原创派”和“模仿派”两种预训练框架的差异，并讨论了通过“偷”聊天模型数据进行微调的现象。最后，提出了把“壳”做厚才是竞争力的观点。

关键词: AI,微调,增强信息检索

随着AI的发展，其应用场景也越来越广泛。在这样的背景下，面向企业的B端产品同样迎来了转型升级的机遇。本文将阐述AI在B端产品中的应用，希望对你有所帮助。

关键词: 大模型,预训练,监督微调

今天分享一篇符尧大佬的一篇数据工程（Data Engineering）的文章，解释了speed of grokking指标是什么，分析了数据工程

关键词: LoRA,微调,LCM-LoRA

如果 AI 是一辆豪华跑车，那么 LoRA 微调技术就是让它加速的涡轮增压器。LoRA 强大到什么地步？它可以让模型的处理速度提升 300%。还记得 LCM-LoRA 的惊艳表现吗？其他模型的十步，它只需要一步就能达到相媲美的效果。

关键词: MoE,多模态,多模态大模型

多模态大模型做“多任务指令微调”，大模型可能会“学得多错得多”，因为不同任务之间的冲突，导致泛化能力下降。

关键词: 向量数据库,微调,大模型

向量存储检索是个真需求，然而专用向量数据库已经凉了。

关键词: GPT-4 API,prompt,FAR AI

即便是GPT-4 API「灰盒」也逃不过安全漏洞。FAR AI实验室的团队从微调、函数调用、搜索增强三个方向入手，成功让GPT-4越狱。

关键词: 大模型,DeepMind,LLM

面对当前微调大模型主要依赖人类生成数据的普遍做法，谷歌 DeepMind 探索出了一种减少这种依赖的更高效方法。

关键词: chatGPT源2.0,GPT-4

相比GPT-3，GPT-4 （包括GPT-3.5） 的能力有了非常巨大的进步。这背后其实得益于一个很重要的过程引入：微调。

关键词: 视觉感知基础模型,APE

由厦门大学等机构提出的全新视觉感知基础模型APE，只需一个模型外加一套参数，就能在160个测试集上取得当前SOTA或极具竞争力的结果。而且训练和推理代码以及模型权重全部开源，无需微调，开箱即用。