一家名为 VESSL AI 的韩国 MLOps 平台正试图通过专注于使用结合本地和云环境的混合基础设施来优化 GPU 费用，从而为自己开辟新的市场。
来自主题: AI资讯
5467 点击 2024-10-08 21:50
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
一家名为 VESSL AI 的韩国 MLOps 平台正试图通过专注于使用结合本地和云环境的混合基础设施来优化 GPU 费用，从而为自己开辟新的市场。
近日，来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage，用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内核，并取得更佳的性能。
世界上首台基于Arm架构的超算，现如今终于退役了。
为满足AI服务器先进封装的产能需求，台积电正在摩拳擦掌。
在 AI 领域，有两大场景对 GPU 的需求最大，一个是模型训练，另一个是 AI 推理任务。
LLaMA-Omni能够接收语音指令，同步生成文本和语音响应，响应延迟低至 226ms，低于 GPT-4o 的平均音频响应延迟 320ms。
有经销商称已无法下单英伟达H20芯片，有终端厂商称部分国内经销商不再接H20订单。H20或将遭停售的传闻早已在业内传开，其命运走向受关注。业内多方反馈称，H20年内到货已超出全年预期。
群雄逐鹿AI计算。
既然要扬长避短，选择自然也就只剩下了一个。
《2024 年全球人工智能趋势报告》：GPU、数据架构依然是巨大挑战