搜索
Google DeepMind的SCoRe方法通过在线多轮强化学习，显著提升了大型语言模型在没有外部输入的情况下的自我修正能力。该方法在MATH和HumanEval基准测试中，分别将自我修正性能提高了15.6%和9.1%。
仅需600多条数据，就能训练自己的长输出模型了？！
“通用人工智能（AGI）的设计和开发，需要进行根本性改变。” 人工智能（AI）模型的参数规模越大，生成的答案就越准确？就更加可信？ 还真不一定！
Scale AI早早踩对了风口，如今终于一飞冲天了，公司的2024年年化收入预计达到近10亿美元。
FP8通过其独特的数值表示方式，能够在保持一定精度的同时，在大模型训练中提高训练速度、节省内存占用，最终降低训练成本。
自适应系统在动态和不确定的环境中具有关键作用，广泛应用于自动驾驶、智能制造、网络安全和智能医疗等领域。
指令调优（Instruction tuning）是一种优化技术，通过对模型的输入进行微调，以使其更好地适应特定任务。先前的研究表明，指令调优样本效率是很高效的，只需要大约 1000 个指令-响应对或精心制作的提示和少量指令-响应示例即可。
Skild AI 是一家位于匹兹堡的初创公司，由两位前 CMU 教授创立，旨在打造具身智能的通用大脑。Skild 宣称其模型展示了无与伦比的泛化和涌现能力，并且有多于竞争对手 1000 倍的训练数据。
科学技术的快速发展过程中，机器学习研究作为创新的核心驱动力，面临着实验过程复杂、耗时且易出错，研究进展缓慢以及对专门知识需求高的挑战。近年来，LLM 在生成文本和代码方面展现出了强大的能力，为科学研究带来了前所未有的可能性。然而，如何系统化地利用这些模型来加速机器学习研究仍然是一个有待解决的问题。
在当今大模型技术日新月异的背景下，数据已跃升为构建企业大模型知识库、优化训练与微调，乃至驱动模型创新不可或缺的核心要素。