无需额外训练提升模型30%性能！DeepMind科学家点赞MIT博士生实习成果
无需额外训练提升模型30%性能！DeepMind科学家点赞MIT博士生实习成果一个来自MIT博士生的惊人发现：只需对Transformer的特定层进行一种非常简单的修剪，即可在缩小模型规模的同时显著提高模型性能。
来自主题: AI技术研报
2040 点击 2023-12-31 12:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
一个来自MIT博士生的惊人发现：只需对Transformer的特定层进行一种非常简单的修剪，即可在缩小模型规模的同时显著提高模型性能。
一年前，ChatGPT 横空出世，“大模型”成为全球科技赛道绝对的“C位”。 这一年，国外微软OpenAI和谷歌DeepMind等“众神”打架，国内百模大战。这一年，文生图以及文生视频赛道都出现了很强的玩家和令人惊艳的产品，如 Midjourney、Runway Gen-2、Pika 1.0等。
今年5月，邱羽墨自主开发出AI公益学习平台AI-Button，帮助学生用人工智能技术复习考试，目前已上线公益板块并与腾讯公益合作。
本文分析了几个在2023年创业失败的AI项目，探讨了其失败原因以及如何避免重蹈覆辙。文章指出市场需求评估不准确、商业模式不可持续、技术实现不成熟等是导致这些项目失败的主要原因。
12月26日，Pika 1.0开启免费公测，普通用户可以直接上手体验。
首个视觉、语言、音频和动作多模态模型Unified-IO 2来了！它能够完成多种多模态的任务，在超过30个基准测试中展现出了卓越性能。
比互联网时代机会规模大10倍，但三分之二机会可能是大公司的。面对此次以生成式AI掀起的产业创新浪潮，硅谷技术VC——Fusion Fund的创始人张璐给出这样的论断。
2023年即将过去，回想这一年，你有没有什么印象深刻的科技新闻关键词？遥遥领先、ChatGPT、Vision Pro……不论是在开发新产品，还是在提供新体验上，这一年，大大小小的科技公司动作不断。
在即将过去的2023年里，“大模型”无疑是最能挑动神经的话题，AI还在进化但已经成为显学。“百模大战”让很多创业项目的估值水涨船高，行业直接进入大厂竞争时代。
2023年12月13日，全球科技顶刊《Nature》发布年度十大人物，与以往不同的是，今年的Nature’s 10额外增加了一个非人类，ChatGPT。