LLM供应商套利以获得最佳性价比
OpenAI兼容端点。单一API,为每个模型路由至最经济、最快速的供应商。支持闭源和开源大型语言模型(LLMs)。后台实时运行基准测试(价格、延迟、负载)。现已在Roo和Cline分支上直接可用。