让模型预见数据分布变化，东京大学等提出时态域泛化全新框架
让模型预见数据分布变化，东京大学等提出时态域泛化全新框架在数据分布持续变化的动态环境中，如何进行连续模型泛化？
来自主题: AI技术研报
11306 点击 2024-11-21 14:02
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
在数据分布持续变化的动态环境中，如何进行连续模型泛化？
在「全球最难LLM评测榜单」上，国产万亿参数模型杀入全球第五，拿下中国第一！国内明星初创阶跃星辰的这个自研模型太过亮眼，甚至引起了外国网友的热议。
近日，来自斯坦福、MIT等机构的研究人员推出了低秩线性转换方法，让传统注意力无缝转移到线性注意力，仅需0.2%的参数更新即可恢复精度，405B大模型两天搞定！
新的大语言模型（LLM）评估基准对于跟上大语言模型的快速发展至关重要。
大模型的执行力从哪里来？
关于产业进展，代码辅助工具，PearAI ，https://trypear.ai/，提供了代码自动生成、智能代码预测、代码编辑聊天、代码记忆提升、智能代码搜索等功能，还内置了Perplexity、Memo等其他AI工具，这其实加剧了如cursor等同质产品的竞争。
经过过去两年的野蛮狂奔，今天AI产业的主流论断已经从当初的FOMO（Fear of Missing Out）狂热情绪回归到了PMF（Product / Market Fit ）的冷静思考。
近日，有消息称，王诗沐的创业公司全灵（SEELE）完成千万美元Pre-A轮融资，投资方包括百度战投、美图投资、富坤创投、Webtime Information S&T等。据悉，本轮融资将用于打造全新游戏AIGC引擎，以及团队建设。
今天，DeepSeek 全新研发的推理模型 DeepSeek-R1-Lite 预览版正式上线。所有用户均可登录官方网页 （chat.deepseek.com），一键开启与 R1-Lite 预览版模型的超强推理对话体验。DeepSeek R1 系列模型使用强化学习训练，推理过程包含大量反思和验证，思维链长度可达数万字。
又一个国产版《Her》，就这么水灵灵地来了。