本发明公开了一种基于storm的铁路地质灾害监测大数据预处理方法及系统,包括:基于开源流计算storm框架为每个监测点的每个传感器数据提供并行的子计算模块,在每个子计算模块中实现铁路地质灾害监测大数据ETL处理,实现对不同监测点的多种传感器数据的实时并行预处理,有效提高数据处理效率、提高数据清洗质量;有效解决传统方法串行处理执行效率不高、不能满足监测大数据的处理需求的问题,能够满足铁路地质灾害监测数据预处理的实时性、时效性、高精度等要求,适用于复杂铁路地质灾害监测大数据实时分析与预警应用场景;同时,本发明所提供的基于storm的ELT处理方法同样也适用于其它存在多个工程监测点、多种监测数据的复杂工程。
声明:
“基于storm的铁路地质灾害监测大数据预处理方法及系统” 该技术专利(论文)所有权利归属于技术(论文)所有人。仅供学习研究,如用于商业用途,请联系该技术所有人。
我是此专利(论文)的发明人(作者)