全面超越Transformer！清华蚂蚁推出纯MLP架构，长短程时序预测大幅提升
全面超越Transformer！清华蚂蚁推出纯MLP架构，长短程时序预测大幅提升Transformer很强，Transformer很好，但Transformer在处理时序数据时存在一定的局限性。
来自主题: AI技术研报
11007 点击 2024-06-11 16:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
Transformer很强，Transformer很好，但Transformer在处理时序数据时存在一定的局限性。
“追赶”OpenAI的中国公司们，步子迈得越来越大了。
人工智能应用的兴起推动了对算力和存储容量的需求。对企业、个人和政府而言，以安全的方式处理和存储这些数据至关重要。这意味着，对先进数据中心的需求将不断增长，我们认为这提供了具吸引力的投资机会——无论是在数据中心本身还是其所依赖的基础设施方面。
OpenAI在5月14日推出了新一代人工智能模型GPT-4o，支持文本、音频和图像的任意组合输入，并能够生成文本、音频和图像的任意组合输出。仅仅一天后，谷歌就在新一届I/O开发者大会上发布、更新了十多款产品，包括AI助手Project Astra、文生图模型Imagen3、对标Sora的文生视频模型Veo，以及备受瞩目的大模型Gemini 1.5 Pro的升级版。
近来和AI创业者的交流增加，随后就发现大家的产品很容易就落到过去SaaS的框子里面去。这就引发一个很关键的问题：SaaS不灵是因为技术不好么？否则一种更好的技术为什么能改变这个行业的盈利情况？
数据中心设计的未来。随着人工智能对数据需求越来越大，助力数据中心提升效率的企业将占据优势。
Sora 炸场之后，视频生成持续广受关注，不断掀起新的热潮。
近些年，语言建模领域进展非凡。Llama 或 ChatGPT 等许多大型语言模型（LLM）有能力解决多种不同的任务，它们也正在成为越来越常用的工具。
大型语言模型（LLM）的一个主要特点是「大」，也因此其训练和部署成本都相当高，如何在保证 LLM 准确度的同时让其变小就成了非常重要且有价值的研究课题。
360 度场景生成是计算机视觉的重要任务，主流方法主要可分为两类，一类利用图像扩散模型分别生成 360 度场景的多个视角。由于图像扩散模型缺乏场景全局结构的先验知识，这类方法无法有效生成多样的 360 度视角，导致场景内主要的目标被多次重复生成，如图 1 的床和雕塑。