500万TPM+20msTPOT,火山引擎用「AI云原生」重构大模型部署范式
500万TPM+20msTPOT,火山引擎用「AI云原生」重构大模型部署范式部署 DeepSeek 系列模型,尤其是推理模型 DeepSeek-R1,已经成为一股不可忽视的潮流。
搜索
部署 DeepSeek 系列模型,尤其是推理模型 DeepSeek-R1,已经成为一股不可忽视的潮流。
开源模型,还是得看杭州。
尽管 OpenAI 和 Anthropic 的收入倍数在过去一年中下降,但 AI 应用开发者如 Perplexity 和 Writer 的收入倍数却上升,分析显示了十几家 AI 初创公司的估值和收入增长情况。
进入到 2025 年,视频生成(尤其是基于扩散模型)领域还在不断地「推陈出新」,各种文生视频、图生视频模型展现出了酷炫的效果。其中,长视频生成一直是现有视频扩散的痛点。
何恺明再次开宗立派!开辟了生成模型的全新范式——
DeepSeek 的开源周已经进行到了第三天(前两天报道见文末「相关阅读」)。今天开源的项目名叫 DeepGEMM,是一款支持密集型和专家混合(MoE)GEMM 的 FP8 GEMM 库,为 V3/R1 的训练和推理提供了支持,在 Hopper GPU 上可以达到 1350+ FP8 TFLOPS 的计算性能。
DeepSeek 开源周的第三天,带来了专为 Hopper 架构 GPU 优化的矩阵乘法库 — DeepGEMM。这一库支持标准矩阵计算和混合专家模型(MoE)计算,为 DeepSeek-V3/R1 的训练和推理提供强大支持,在 Hopper GPU 上达到 1350+FP8 TFLOPS 的高性能。
Pauline Clavelloux的创业故事展现了一个在全职工作压力下,通过AI技术打造成功应用的典型案例。以下是她从IBM全职员工到创建年收入约10万美元的AI应用IA Crea的详细过程,涵盖了从想法生成到市场验证、开发与推广的各个环节。
AI 女友来 “抢戏”,单身狗的福音,生育率 “emo”?
2024年12月4日,两位共同组织了“2024BRAIN NeuroAI Workshop”研讨会,探讨了NeuroAI如何整合到BRAIN计划中并帮助理解和治愈人类脑疾病。请问是什么契机促使两位聚集一起开展NeuroAI这项研究的?