合肥金星智控科技股份有限公司
宣传

位置：中冶有色 >

有色技术频道 >

有色金属技术

矿山技术

冶金技术

材料制备及加工技术

环境保护技术

分析检测技术

> 分析检测技术

> 化学分析技术

> 面向边缘设备深度学习模型推理的自适应批处理和并行调度系统

面向边缘设备深度学习模型推理的自适应批处理和并行调度系统

969   编辑：管理员   来源：中冶有色技术网  
2023-03-19 07:36:07
本发明提出了一种面向边缘设备深度学习模型推理的自适应批处理和并行调度系统，包括决策模块、动态批处理调度模块、模型并行模块、性能分析器四部分；决策模块对深度学习模型的批处理和并行推理进行调度建模并为不同模型选择合适的批处理大小和模型并行数量，动态批处理调度模块进行批处理推理；模型并行模块同时处理多个推理请求；性能分析器以在线方式实时收集边缘设备的系统状态；与传统的启发式和其他强化学习方法相比，本发明设计的基于最大熵强化学习的调度决策算法，在对系统吞吐量和推理延迟的权衡方面有着3.2～58％的性能提升，同时收敛速度是其他算法的1.8～6.5倍；此外，平均调度开销只有其他算法的49％。
声明：
“面向边缘设备深度学习模型推理的自适应批处理和并行调度系统” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究，如用于商业用途，请联系该技术所有人。
我是此专利(论文)的发明人(作者)
分享 0
         
举报 0
收藏 0
反对 0
点赞 0
标签：
化学分析
上一个：多维气相色谱毛细管柱切换开关
下一个：锂离子电池内部反应离子通量和电势的估计方法

与 “面向边缘设备深度学习模型推理的自适应批处理和并行调度系统” 相关技术

▪ 环保降尘型履带式制砂机
▪ 低成本高效提取红土镍矿有价金属冶金技术组合
▪ 球磨机洗煤分离机构
▪ 具有净化过滤效果的离心式通风机
▪ 高性能811正极材料制备技术
▪ 难变形管路构件精确成形
▪ 微流体吸收脱除冶金尾气中氮氧化物
▪ 数字化、精细化爆破整体崩落回采重叠空区群矿柱关键技术
▪ 水溶液深度除氟技术
▪ 尼尔森重选含铅金矿无污染冶炼工艺

相关化学分析设备推荐

全谱直读电感耦合等离子体发射光谱仪
手动土壤采样器
履带直推式土壤取样钻机
参数多气体检测仪
粉尘报警控制器
全国热门有色金属技术推荐
江苏矿山技术 徐州矿山技术 江苏选矿技术 江苏通用技术 徐州通用技术 北京矿山技术 北京采矿技术 北京通用技术 福建矿山技术 福建通用技术 江苏冶金技术 江苏火法冶金技术 北京冶金技术 北京火法冶金技术 北京湿法冶金技术 福建冶金技术 江苏材料制备及加工技术 常州材料制备及加工技术 江苏新能源材料技术 江苏加工技术 北京材料制备及加工技术 福建材料制备及加工技术 江苏环境保护技术 南京环境保护技术 苏州环境保护技术 南通环境保护技术 江苏废水处理技术 江苏固/危废处置技术 北京环境保护技术 北京废水处理技术 第十七届东亚资源再生技术国际会议
展开更多 +

 

中冶有色技术平台微信公众号
了解更多信息请您扫码关注官方微信
中冶有色技术平台微信公众号中冶有色技术平台

最新更新技术

▪环保降尘型履带式制砂机
▪低成本高效提取红土镍矿有价金属冶金技术组合
▪球磨机洗煤分离机构
▪具有净化过滤效果的离心式通风机
▪高性能811正极材料制备技术
▪难变形管路构件精确成形
▪微流体吸收脱除冶金尾气中氮氧化物
▪数字化、精细化爆破整体崩落回采重叠空区群矿柱关键技术
▪水溶液深度除氟技术
▪尼尔森重选含铅金矿无污染冶炼工艺

报名参会
更多+

全国有色金属工业电化学第三届学术会议
全国有色金属工业电化学第三届学术会议
2024年07月12日 ~ 14日
2024固态电池前沿技术发展论坛
2024固态电池前沿技术发展论坛
2024年07月12日 ~ 14日
2024钠电产业技术创新与应用高峰论坛
2024钠电产业技术创新与应用高峰论坛
2024年08月08日 ~ 10日
第三届全国先进功能材料制备/加工及应用技术交流会
第三届全国先进功能材料制备/加工及应用技术交流会
2024年08月16日 ~ 18日
第十七届东亚资源再生技术国际会议
第十七届东亚资源再生技术国际会议
2024年11月01日 ~ 04日

报告下载

1 实验室管理与实践
下载:52
2 化学实验室暖通系统设计新趋势
下载:50
3 矿产品样品制备要点与难点分析
下载:44
4 质检部门风险防控管理的探讨 （矿
下载:41
5 ICP-MS/MS测定有色金属中
下载:37
6 电位滴定法在北矿检测实验室的应
下载:33
7 电位滴定仪在有色金属分析的应用
下载:32
8 国家标准《铜精矿及主要含铜物料
下载:32
9 全面禁止洋垃圾入境形势下的固废
下载:32
10 金精矿制样与分析方法的研究
下载:32
第二届关键基础材料模拟、制备与评价技术交流会
推广

热门技术
更多+

1压力平衡机构
2水电站的尾水预埋件
3防爆阀保护膜
4化工矿产有色金属的检测机构
5矿石分类与实时定量分析的光谱检测新方法
6矿石中有色金属成分和含量的检测装置
7有色金属现货状态评估系统及方法
8有色金属废料中铁磁性杂质检测设备及检测工艺
9高温熔体缓冷装置及渣包测温方法
10便携式矿山测量激光仪
衡水宏运压滤机有限公司
宣传
环磨科技控股（集团）有限公司
宣传

发布

在线客服

公众号

电话

顶部
咨询电话：
010-88793500-807
专利人/作者信息登记