斯坦福大学的最新研究通过大规模实验发现，尽管大型语言模型（LLMs）在新颖性上优于人类专家的想法，但在可行性方面略逊一筹，还需要进一步研究以提高其实用性。
来自主题: AI技术研报
8779 点击 2024-09-17 23:12
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
斯坦福大学的最新研究通过大规模实验发现，尽管大型语言模型（LLMs）在新颖性上优于人类专家的想法，但在可行性方面略逊一筹，还需要进一步研究以提高其实用性。
文章讲述了彩云科技团队在改进Transformer架构方面的努力，尤其是推出的全新通用模型架构DCFormer，以及团队面临的种种挑战和突破。
Jason Wei 是思维链提出者，并和 Yi Tay、Jeff Dean 等人合著了关于大模型涌现能力的论文。目前他正在 OpenAI 进行工作。
今年 1 月份，2024 年度 IEEE 冯诺伊曼奖项结果正式公布，斯坦福大学语言学和计算机科学教授、AI 学者克里斯托弗・曼宁（Christopher Manning）获奖。
基于 Transformer 架构的大语言模型在 NLP 领域取得了令人惊艳的效果，然而，Transformer 中自注意力带来的二次复杂度使得大模型的推理成本和内存占用十分巨大，特别是在长序列的场景中。
挖掘大模型固有的长文本理解能力，InfLLM在没有引入额外训练的情况下，利用一个外部记忆模块存储超长上下文信息，实现了上下文长度的扩展。
明星NLP公司突发消息：停工停产6个月。
Lightning Attention-2 是一种新型的线性注意力机制，让长序列的训练和推理成本与 1K 序列长度的一致。
我基于结合大量示例及可视化的图形手段给大家科普了AI大模型的相关算法和核心概念。
“我认为AI未来必定会改变那批充当‘middle man（中间人）’位置的工作，去中间人是未来各行各业最显著的变化。”