清华NLP组发布InfLLM：无需额外训练，「1024K超长上下文」100%召回！
清华NLP组发布InfLLM：无需额外训练，「1024K超长上下文」100%召回！挖掘大模型固有的长文本理解能力，InfLLM在没有引入额外训练的情况下，利用一个外部记忆模块存储超长上下文信息，实现了上下文长度的扩展。
来自主题: AI技术研报
6033 点击 2024-03-11 17:31
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
挖掘大模型固有的长文本理解能力，InfLLM在没有引入额外训练的情况下，利用一个外部记忆模块存储超长上下文信息，实现了上下文长度的扩展。
在英伟达市值超过2万亿位居全球第三之后，谁能挑战它赖以生存的GPU芯片？
拥抱新技术红利，抢占AI大模型先机？
Notion 是生产力工具领域 AI 策略最为激进的一家公司：在 ChatGPT 推出 2 个月后，Notion 就宣布推出 Notion AI，将 GenAI 的体验直接融入到产品，并根据不同需求和场景预设了 prompt，用户只需要空格或“/”即可调用 GPT。
当OepnAI和马斯克连日互杠、Google因文化偏见麻烦缠身、号称抢走GPT-4王位的Claude 3全力瞄准企业级部署的时候，在另一个角落，致力于「为每个人开发服务型AI」的人工智能初创公司Inflection AI，悄悄更新了他们的聊天机器人Pi，以及为之提供支持的新一代大模型Inflection-2.5。
2月19日以来，这款LPU持续成为热点，担当起英伟达GPU挑战者的角色。英伟达的主力芯片H100一卡难求，这给Groq公司带来了机会。
众所周知，开发顶级的文生图（T2I）模型需要大量资源，因此资源有限的个人研究者基本都不可能承担得起，这也成为了 AIGC（人工智能内容生成）社区创新的一大阻碍。同时随着时间的推移，AIGC 社区又能获得持续更新的、更高质量的数据集和更先进的算法。
马斯克状告OpenAI一案是近期人工智能领域的焦点，马斯克在诉状上这么写到：“小民马斯克，因由小民所创的OpenAI一心只想着捞钱，偏离初心，特此呈上此状以求申冤。
2022年底起，从AI生成文字、代码，到AI生成图片、声音，甚至是视频，AIGC（人工智能生成内容）蓬勃发展。我们一面憧憬着AI大幅提高效率，“因材施教”的个性化教育能得到普及，一面又担忧着AI产生的幻觉及物理性错误，会误导“活到老，学到老”的我们。
北京时间 2 月 22 日，半导体巨头 Arm 更新了 Arm® Neoverse™ 产品路线图，宣布推出两款基于全新第三代 Neoverse IP 构建的全新计算子系统（CSS）：Arm Neoverse CSS V3 和 Arm Neoverse CSS N3。