合肥金星智控科技股份有限公司
宣传

位置:中冶有色 >

有色技术频道 >

> 化学分析技术

> 资源高效与服务质量感知的推理服务系统自适应调度方法

资源高效与服务质量感知的推理服务系统自适应调度方法

590   编辑:管理员   来源:中冶有色技术网  
2023-03-19 08:56:57
本发明公开了一种资源高效与服务质量感知的推理服务系统自适应调度方法,包括:深度学习模型自动选择模块利用协同过滤方法预测推理工作负载在不同深度学习模型上运行的推理性能;深度学习模型自动选择模块利用贪婪算法选择满足用户服务质量需求的最优深度学习模型,并将最优深度学习模型部署至容器中为推理服务系统中的推理工作负载服务;协同管理模块利用深度强化学习方法,根据推理工作负载的动态变化,协同地调整GPU资源分配和批量大小设置,本发明可根据用户的需求自动地选择深度学习模型,可根据推理工作负载的动态变化协同地调整GPU资源的分配和批量大小的设置。
声明:
“资源高效与服务质量感知的推理服务系统自适应调度方法” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究,如用于商业用途,请联系该技术所有人。
我是此专利(论文)的发明人(作者)
分享 0
         
举报 0
收藏 0
反对 0
点赞 0
标签:
化学分析
全国热门有色金属技术推荐
展开更多 +

 

中冶有色技术平台微信公众号
了解更多信息请您扫码关注官方微信
中冶有色技术平台微信公众号中冶有色技术平台

最新更新技术

报名参会
更多+

报告下载

第二届关键基础材料模拟、制备与评价技术交流会
推广

热门技术
更多+

衡水宏运压滤机有限公司
宣传
环磨科技控股(集团)有限公司
宣传

发布

在线客服

公众号

电话

顶部
咨询电话:
010-88793500-807
专利人/作者信息登记