用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
来自主题: AI技术研报
3481 点击 2024-09-07 11:26
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。
在未来，太空 AI 算力或许要比地球上功率最大的还要大。
国产GPU厂商面临挑战，国产GPU有哪些，国产GPU芯片什么水平 谁能替代英伟达，谁又不想替代英伟达。这家掌握着将近80%的AI市场份额的企业，几乎没有天敌。
英伟达市值，一夜蒸发2790亿美元，创下美股史上单日最大跌幅！一天的损失，都赶上卖出的所有AI芯片了。「打倒英伟达垄断」的汹涌民意，终于有了具象化的一天。同时，英伟达已收到美国司法部传票，可谓噩耗连连。
据英伟达及其季度投资者近期更新发布的文件统计，第二季度营业额在四大神秘「重量级客户」的加持下翻倍增长，高达300亿。
融了25亿，估值150亿的独角兽，就这么倒下了？ 8月最后一个工作日，市场上传来一则消息，象帝先公司进行了一场全员会议，宣布暂停运行全员裁撤，高管们会继续融资，有钱了再给员工结算。
虽然英伟达的GPU在AI训练领域的主导地位仍然难以撼动，但似乎有迹象表明，在AI推理方面，竞争对手正在迎头赶上这家科技巨头，尤其是在能效方面。
GPU功耗高，不适边缘计算；多种AI硬件适应边缘应用。
大摩认为，GPU供应仍然比较紧张，需求继续超过供应。过去6个月中H100租赁价格有所下降，但价格的绝对水平表明硬件的投资回报率非常高，回本期在一年以内。