关键词: AI,大模型,模型训练,Colossal-AI,ColossalAI

FP8通过其独特的数值表示方式，能够在保持一定精度的同时，在大模型训练中提高训练速度、节省内存占用，最终降低训练成本。

关键词: openai,Open-Sora,AI视频,Colossal-AI

不久前 OpenAI Sora 以其惊人的视频生成效果迅速走红，在一众文生视频模型中突出重围，成为全球瞩目的焦点。继 2 周前推出成本直降 46% 的 Sora 训练推理复现流程后，Colossal-AI 团队全面开源全球首个类 Sora 架构视频生成模型 「Open-Sora 1.0」，涵盖了整个训练流程，包括数据处理、所有训练细节和模型权重，携手全球 AI 热爱者共同推进视频创作的新纪元。

关键词: LLM,SwiftInfer,Colossal-AI,StreamingLLM

大模型推理再次跃升一个新台阶！最近，全新开源的国产SwiftInfer方案，不仅能让LLM处理无限流式输入，而且还将推理性能提升了46%。

关键词: 潞晨科技,Colossal-AI,AI SAAS

大模型元年里，哪怕是跑在趋势最前沿的基座模型厂商，都难逃算力焦虑。