首Token延迟降低32.4%!是石科技放出集群调度大招,国产推理再提效 首Token延迟降低32.4%!是石科技放出集群调度大招,国产推理再提效 关键词: AI新闻,是石科技,TokenFleet,分布式调度框架 GPU集群里,请求排队和资源闲置,可能同时发生。 来自主题: AI资讯 5233 点击 2026-10-20 11:27