合肥金星智控科技股份有限公司
宣传

位置：中冶有色 >

有色技术频道 >

有色金属技术

矿山技术

冶金技术

材料制备及加工技术

环境保护技术

分析检测技术

> 分析检测技术

> 化学分析技术

> 面向边缘设备深度学习模型推理的自适应批处理和并行调度系统

面向边缘设备深度学习模型推理的自适应批处理和并行调度系统

1034   编辑：管理员   来源：中冶有色技术网  
2023-03-19 07:36:07
本发明提出了一种面向边缘设备深度学习模型推理的自适应批处理和并行调度系统，包括决策模块、动态批处理调度模块、模型并行模块、性能分析器四部分；决策模块对深度学习模型的批处理和并行推理进行调度建模并为不同模型选择合适的批处理大小和模型并行数量，动态批处理调度模块进行批处理推理；模型并行模块同时处理多个推理请求；性能分析器以在线方式实时收集边缘设备的系统状态；与传统的启发式和其他强化学习方法相比，本发明设计的基于最大熵强化学习的调度决策算法，在对系统吞吐量和推理延迟的权衡方面有着3.2～58％的性能提升，同时收敛速度是其他算法的1.8～6.5倍；此外，平均调度开销只有其他算法的49％。
声明：
“面向边缘设备深度学习模型推理的自适应批处理和并行调度系统” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究，如用于商业用途，请联系该技术所有人。
我是此专利(论文)的发明人(作者)
分享 0
         
举报 0
收藏 0
反对 0
点赞 0
标签：
化学分析
上一个：多维气相色谱毛细管柱切换开关
下一个：锂离子电池内部反应离子通量和电势的估计方法

与 “面向边缘设备深度学习模型推理的自适应批处理和并行调度系统” 相关技术

▪ 移动式混汞提金设备固液分离装置
▪ 石墨选矿用烘干装置
▪ 保护大鳞片并有效精细分级的石墨选矿系统
▪ 电加热回转烘干装置
▪ 环保工程污水处理超滤膜技术
▪ 强酸高磷含镍废水除磷除镍处理方法
▪ 利用锂云母冶炼渣吸附水体中铅离子的方法
▪ 钽铌冶炼废水的处理方法
▪ 利用碳化硅废渣冶炼富锰渣的混合搅拌装置
▪ 镍钴冶炼废硫酸浓缩脱氟氯工艺及系统

相关化学分析设备推荐

土壤重金属检测仪LD-ZSA
浙江托普TZS-PH-I 土壤原位PH测定仪
土壤水分监测仪《大田建设》
泵吸六合一多气体检测仪
智能汉显打印配方型土壤养分测试仪
全国热门有色金属技术推荐
江苏矿山技术 徐州矿山技术 江苏选矿技术 江苏通用技术 徐州通用技术 北京矿山技术 北京采矿技术 北京通用技术 福建矿山技术 福建通用技术 江苏冶金技术 江苏火法冶金技术 北京冶金技术 北京火法冶金技术 北京湿法冶金技术 福建冶金技术 江苏材料制备及加工技术 常州材料制备及加工技术 江苏新能源材料技术 江苏加工技术 北京材料制备及加工技术 福建材料制备及加工技术 江苏环境保护技术 南京环境保护技术 苏州环境保护技术 南通环境保护技术 江苏废水处理技术 江苏固/危废处置技术 北京环境保护技术 北京废水处理技术 第十七届东亚资源再生技术国际会议 中冶有色技术平台 有色金属技术网 中冶有色技术网
展开更多 +

 

中冶有色技术平台微信公众号
了解更多信息请您扫码关注官方微信
中冶有色技术平台微信公众号中冶有色技术平台

最新更新技术

▪移动式混汞提金设备固液分离装置
▪石墨选矿用烘干装置
▪保护大鳞片并有效精细分级的石墨选矿系统
▪电加热回转烘干装置
▪环保工程污水处理超滤膜技术
▪强酸高磷含镍废水除磷除镍处理方法
▪利用锂云母冶炼渣吸附水体中铅离子的方法
▪钽铌冶炼废水的处理方法
▪利用碳化硅废渣冶炼富锰渣的混合搅拌装置
▪镍钴冶炼废硫酸浓缩脱氟氯工艺及系统

报名参会
更多+

第二届全国硫磷钛资源与新能源协同创新发展论坛
第二届全国硫磷钛资源与新能源协同创新发展论坛
2025年01月03日 ~ 05日
2025全国碳纤维与复合材料应用技术创新论坛
2025全国碳纤维与复合材料应用技术创新论坛
2025年01月03日 ~ 05日
2025工业废水处理与资源化利用交流会
2025工业废水处理与资源化利用交流会
2025年01月03日 ~ 05日
第二届中国微细粒矿物选矿技术大会
第二届中国微细粒矿物选矿技术大会
2025年03月25日 ~ 27日
2024新能源矿产资源科技创新发展论坛
2024新能源矿产资源科技创新发展论坛
2025年04月27日 ~ 29日

报告下载

1 矿产品能力验证计划中样品的选取
下载:136
2 取、制样安全浅析
下载:124
3 取、制样现状及未来规划/需求
下载:99
4 浅谈质量检验管理风险防控的重点
下载:92
5 自动化样品制备助力准确高效的矿
下载:92
6 样品变质引起采制样和结算问题
下载:89
7 矿产品人工取样方案的制定及案例
下载:86
8 用于X荧光分析的样品前处理及其
下载:85
9 不均匀样品给第三方检测机构和贸
下载:84
10 制样室装修设计技巧
下载:84
第二届中国微细粒矿物选矿技术大会
推广

热门技术
更多+

1防爆阀保护膜
2压力平衡机构
3水电站的尾水预埋件
4化工矿产有色金属的检测机构
5矿石分类与实时定量分析的光谱检测新方法
6矿石中有色金属成分和含量的检测装置
7有色金属现货状态评估系统及方法
8有色金属废料中铁磁性杂质检测设备及检测工艺
9高温熔体缓冷装置及渣包测温方法
10便携式矿山测量激光仪
衡水宏运压滤机有限公司
宣传
环磨科技控股（集团）有限公司
宣传

发布

在线客服

公众号

电话

顶部
咨询电话：
010-88793500-807
专利人/作者信息登记