基于昇腾算力突破AI求解，最高加速100倍！| 华为GTS&深圳市大数据研究院
基于昇腾算力突破AI求解，最高加速100倍！| 华为GTS&深圳市大数据研究院基于昇腾算力的矩阵运算改进求解器框架，大幅提升Local Optimum跳出能力。
来自主题: AI技术研报
6145 点击 2024-12-17 10:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
基于昇腾算力的矩阵运算改进求解器框架，大幅提升Local Optimum跳出能力。
AI带来的机遇远比科技行业面临的所有机遇要大，但这需要初创企业转变观念，不再寻求颠覆和摧毁老牌企业，而是改造它们，因为初创企业在很多方面都处于劣势。成功应用AI需要两样东西：大量数据和昂贵的算力。大公司正好拥有这两样东西。
近日，Crusoe Energy 宣布已筹集 6.86 亿美元，使其最新融资目标达到 8.18 亿美元。这笔资金将主要用于在德克萨斯州建设一个大型 AI 数据中心，并计划将该中心租赁给 Oracle（甲骨文）、微软 和 OpenAI 等知名公司，以支持其不断增长的算力需求。
算力更强大，错误更少，量子计算的最大挑战之一被搞定了。 这是一个重要的里程碑。
最新计算集群，Base青岛！ 华为云华东（青岛）数据中心刚刚正式开服。
云大厂背后“卖水人”
因为比特币挖矿和AI训练都需要大量的能源和算力。两者的同步发展势必在电力和硬件资源上产生竞争。这意味着AI训练业务可能会受到比特币价格波动的影响，尤其是当矿工们争夺有限的硬件资源时。也就是说比特币价格的上涨，可能会带动AI训练成本的提升。
随着开源数据的日益丰富以及算力价格的持续下降，对于个人或小型机构而言，预训练一个小型的 LLM 已逐渐成为可能。开源中文预训练语言模型 Steel - LLM 就是一个典型案例，其模型参数量与数据量并非十分庞大，基本处于参数量为 B 级别、数据量为 T 级别的规模。
在AI领域数据和算力的军备竞赛中，AI从业者要么紧密跟随OpenAI等领先公司做进一步的应用开发，要么在Transformer机制日益显现局限之时探索新的路径。
Sora 的发布让广大研究者及开发者深刻认识到基于 Transformer 架构扩散模型的巨大潜力。作为这一类的代表性工作，DiT 模型抛弃了传统的 U-Net 扩散架构，转而使用直筒型去噪模型。鉴于直筒型 DiT 在隐空间生成任务上效果出众，后续的一些工作如 PixArt、SD3 等等也都不约而同地使用了直筒型架构。