搜索
Lilian Weng离职OpenAI后首篇博客发布！文章深入讨论了大模型强化学习中的奖励欺骗问题。随着语言模型在许多任务上的泛化能力不断提升，以及RLHF逐渐成为对齐训练的默认方法，奖励欺骗在语言模型的RL训练中已经成为一个关键的实践性难题。
如果说有一类游戏贯穿AI发展的始终，围绕其诞生的Thinking Game至今仍影响着最前沿AI技术的发展，那么答案很显然： 棋类游戏。
2024即将进入尾声，今年的大模型战场与以往有什么不同？ 模型更大、模态更多，但更重要的，是基础模型不再是投资者竞相争抢的香饽饽，百模大战的战场，已经转移到了应用侧。
谁又能够成为“中国AI第一城”呢？ 2024年，全球科技巨头的目光都放在了人工智能和Chat GPT上。
DeepMind大模型再登上Nature——
豆包代码大模型，不小心给曝光了！
在人类个体能力提升过程中，当其具备了基本的技能之后，会自主地与环境和自身频繁交互，并从中获取经验予以改进。大模型自我进化研究之所以重要，正是源于该思想，并且更倾向于探究大模型自身能力的深度挖掘和扩展。
大模型如今已具有越来越长的上下文，而与之相伴的是推理成本的上升。英伟达最新提出的Star Attention，能够在不损失精度的同时，显著减少推理计算量，从而助力边缘计算。
近日，BitNet系列的原班人马推出了新一代架构：BitNet a4.8，为1 bit大模型启用了4位激活值，支持3 bit KV cache，效率再突破。
在当今数字化转型的浪潮中，“大模型技术”已经成为企业级智能平台发展的新引擎。迈氪锶（上海）科技有限公司正是在这样的技术革新背景下，致力于构建世界级的新一代企业级智能平台。