基于边缘计算的多模型服务智能调度优化方法及系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于边缘计算的多模型服务智能调度优化方法及系统
申请号:CN202510497368
申请日期:2025-04-21
公开号:CN120050331B
公开日期:2025-07-29
类型:发明专利
摘要
本发明公开了基于边缘计算的多模型服务智能调度优化方法及系统,涉及数据处理技术领域。所述方法包括:通过边缘计算进行API连接,构建统一接入平台;配置多模型调度策略组;基于统一接入平台进行模型调度检测,生成调度检测结果;根据调度检测结果生成切换指令,激活多模型调度策略组进行切换控制,确定多个模型服务数据;生成网关访问密钥,通过统一接入平台按照网关访问密钥对多个模型服务数据进行封装,生成多模型响应数据。解决了现有技术中模型服务调度不灵活、响应速度慢以及资源利用效率低的技术问题,达到了提高模型服务调度灵活性、加速响应速度并优化资源利用效率的技术效果。
技术关键词
调度优化方法 多模型 策略 密钥 冲突检测机制 网关 平台 重试机制 动态生成模型 调度优化系统 数据验证 异构 分布式追踪 矩阵 多协议 滑动时间窗口 实时数据 参数