AI编程赛道融资井喷独角兽涌现的背后:一个基于10%的人口都是“程序员”的冰雹猜想
AI编程赛道融资井喷独角兽涌现的背后:一个基于10%的人口都是“程序员”的冰雹猜想AI编程初创公司Magic发布1亿上下文窗口模型,编码能力超级加倍
来自主题: AI资讯
10186 点击 2024-09-06 10:06
搜索
AI编程初创公司Magic发布1亿上下文窗口模型,编码能力超级加倍
专注于计算机图形学的全球学术顶会 SIGGRAPH,正在出现新的趋势。
推测解码(Speculative Decoding)是谷歌等机构在 2022 年发现的大模型推理加速方法。它可以在不损失生成效果前提下,获得 3 倍以上的加速比。GPT-4 泄密报告也提到 OpenAI 线上模型推理使用了它。
字节跳动联合中科院自动化研究所提出新方法,用AI快速检测出视频中的高光片段,对输入视频的长度以及期望提取的高光长度都具有极高的灵活性,相关论文已被AAAI 2024收录。