CN109617654B - 工业互联网大数据服务系统数据传输方法与数据聚合解析装置 - Google Patents
工业互联网大数据服务系统数据传输方法与数据聚合解析装置 Download PDFInfo
- Publication number
- CN109617654B CN109617654B CN201811539335.5A CN201811539335A CN109617654B CN 109617654 B CN109617654 B CN 109617654B CN 201811539335 A CN201811539335 A CN 201811539335A CN 109617654 B CN109617654 B CN 109617654B
- Authority
- CN
- China
- Prior art keywords
- data
- bits
- field
- header
- acquisition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 47
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000004220 aggregation Methods 0.000 title claims description 59
- 230000002776 aggregation Effects 0.000 title claims description 59
- 238000004458 analytical method Methods 0.000 title claims description 40
- 238000012545 processing Methods 0.000 claims abstract description 35
- 230000004044 response Effects 0.000 claims abstract description 17
- 230000007717 exclusion Effects 0.000 claims abstract description 6
- 238000002955 isolation Methods 0.000 claims description 40
- 238000007405 data analysis Methods 0.000 claims description 24
- 230000003044 adaptive effect Effects 0.000 claims description 18
- 238000013507 mapping Methods 0.000 claims description 11
- 238000012360 testing method Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 5
- 238000005538 encapsulation Methods 0.000 claims 1
- 238000004519 manufacturing process Methods 0.000 description 23
- 238000007726 management method Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 8
- 238000013500 data storage Methods 0.000 description 7
- 238000013075 data extraction Methods 0.000 description 4
- 238000013506 data mapping Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000013468 resource allocation Methods 0.000 description 3
- 229910002056 binary alloy Inorganic materials 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 238000012827 research and development Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 241000282320 Panthera leo Species 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000013068 supply chain management Methods 0.000 description 1
- 230000009747 swallowing Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/0001—Systems modifying transmission characteristics according to link quality, e.g. power backoff
- H04L1/0006—Systems modifying transmission characteristics according to link quality, e.g. power backoff by adapting the transmission format
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
- H04L1/0056—Systems characterized by the type of code used
- H04L1/0061—Error detection codes
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开一种工业互联网大数据服务平台系统及其服务方法,开创性地在数据传输过程中引入了特定数据报头用以设置和管理工业控制互联网大数据服务系统和平台,通过其中的标记字段、FE设备字段、底层响应字段、FE类型码字段精确地对采集数据的处理对象参数类型、采集命令和控制消息类型、不同类型的采集组合进行判定和区分,并通过前隔绝字段后隔绝字段以及FE数据报头校验字段对该从FE数据报头进行精确控制和错误校验,从而能够方便、有效地进行大数据多用户多对象的采集任务,解决数据传输、处理格式一致性问题,有效管理传输数据并提升大数据系统管理效能。
Description
技术领域
本专利申请一般地涉及大数据传输技术,更具体地涉及一种工业互联网 大数据服务系统数据传输方法与数据聚合解析装置。
背景技术
于企业而言,工业生意链条长,从原材料供应、采购入库到生产检验, 再到销售环节,需要多方协作,而通过传统方式进行管理效率低、易出错,因此 很多工业企业有建设互联网体系,优化链条实现信息化协同的需求。
企业的工业变革方兴未艾。从解决工业企业自身的问题和需求出发,通过 “连接”缩短企业与供应端、管理端、生产端、销售端等各个节点之间以及各个 节点内部的沟通成本,减少出错率,提升沟通效率等。通过打造企业网,可对企 业内部生态进行整体规划管理,有效推动企业体系内上、中、下游,管理、研发、 采购、生产、质检、决策等不同板块的协同作业,让企业内部生态体系联系更为 紧密,产业链条更加优化。
在工业领域中合理地运用大数据技术能有效促进企业信息化发展,提升企 业生产运行效率、加速生产信息在制造过程中的流动、助力企业升级转型并形成 全新的智能制造模式。
由于超低成本的传感器、连接与数据存储等新基础设施的出现,叠加物联 网、大数据、人工智能,云计算,5G,芯片技术等新技术的发展,应用和升级, 工业部门的服务与商业模式也逐渐进化,工业物联网是整个科技,工业进步背景 下的必然结晶。
工业互联网是新一代信息通信技术与现代工业技术深度融合的产物,是制造业数字化、网络化、智能化的重要载体,也是全球新一轮产业竞争的制高点。工业互联网通过构建连接机器、物料、人、信息系统的基础网络,实现工业数据的全面感知、动态传输、实时分析,形成科学决策与智能控制,提高制造资源配置效率,正成为领军企业竞争的新赛道、全球产业布局的新方向、制造大国竞争的新焦点。作为工业互联网三大要素,工业互联网平台是工业全要素链接的枢纽,是工业资源配置的核心,对于振兴我国实体经济、推动制造业向中高端迈进具有重要意义。工业互联网平台是面向制造业数字化、网络化、智能化需求,构建基于海量数据采集、汇聚、分析的服务体系,支撑制造资源泛在连接、弹性供给、高效配置的工业云平台。其本质是通过构建精准、实时、高效的数据采集互联体系,建立面向工业大数据存储、集成、访问、分析、管理的开发环境,实现工业技术、经验、知识的模型化、标准化、软件化、复用化,不断优化研发设计、生产制造、运营管理等资源配置效率,形成资源富集、多方参与、合作共赢、协同演进的制造业新生态。
工业互联网平台已成为企业智能化转型重要抓手。即可帮助企业实现智能 化生产和管理。通过对生产现场“人机料法环”各类数据的全面采集和深度分析, 能够发现导致生产瓶颈与产品缺陷的深层次原因,不断提高生产效率及产品质量。 基于现场数据与企业计划资源、运营管理等数据的综合分析,能够实现更精准的 供应链管理和财务管理,降低企业运营成本。又能帮助企业实现生产方式和商业 模式创新。企业通过平台可以实现对产品售后使用环节的数据打通,提供设备健 康管理、产品增值服务等新型业务模式,实现从卖产品到卖服务的转变,实现价 值提升。基于平台还可以与用户进行更加充分的交互,了解用户个性化需求,并 有效组织生产资源,依靠个性化产品实现更高利润水平。此外,不同企业还可以 基于平台开展信息交互,实现跨企业、跨区域、跨行业的资源和能力集聚,打造更高效的协同设计、协同制造,协同服务体系。
但工业互联网的底层采集中,对不同类型的数据采集往往笼统地采用统一 或相近的采集设备,对采集数据未有先期的甄别和区分,且在数据传输过程中, 不能够精确地对采集数据的处理对象参数类型、采集命令和控制消息类型、不同 类型的采集组合进行判定和区分,从而不能精确和有效地进行大数据多用户多对 象的采集任务,导致数据传输、处理格式一致性问题,且无法有效管理传输数据, 降低大数据系统管理效能。
发明内容
本申请涉及一种工业互联网大数据服务系统的数据传输方法,包括采用 系统的数据聚合解析装置,完成数据采集对象编组、采集器编组、匹配采集、聚 合与解析;采用系统的数据处理映像指标装置,完成数据与文件的快速处理与吞 吐;采用系统的结果集装置,进行大数据处理结果集抽取与应用,并提供对使用 部署的计费规则;其中:
数据聚合解析装置包含中心控制部件、数据聚合部件、数据解析部件与至 少一个采集器,中心控制部件为被采集设备进行6位采集ID设置,并依据适配 采集对象厂商类型、适配采集对象设备类型、适配采集对象系统接口类型为采集 器进行编组;
所述中心控制部件将具有相同采集ID的多个被采集设备编为一组,分配 与其编组相适配的数据采集器,组成采集组集合,以精细化采集数据,防止因采 集设备类型、接口类型不一导致的采集器与被采集设备数据识别错误和采集错误, 数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报头对数 据进行封装处理,组成统一的聚合数据格式,发往数据解析部件;
数据解析部件,对所述数据聚合部件发来的聚合数据格式数据进行解封装、 解密、逆转置,并进行数据解析,获得分析对象数据。
其中所述聚合各个采集组集合的采集数据,采用特定格式的数据报头对数 据进行封装处理,组成统一的聚合数据格式,发往数据解析部件,具体为:
封装所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段:
前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;以及FE数据报头校验字 段。
在另一方面,本申请提供了一种工业互联网大数据服务系统的数据聚合 解析装置,所述系统包括数据聚合解析装置,完成数据采集对象编组、采集器编 组、匹配采集、聚合与解析;数据处理映像指标装置,完成数据与文件的快速处 理与吞吐;结果集装置,进行大数据处理结果集抽取与应用,并提供对使用部署 的计费规则;其中:
数据聚合解析装置包含中心控制部件、数据聚合部件、数据解析部件与至 少一个采集器,中心控制部件为被采集设备进行6位采集ID设置,并依据适配 采集对象厂商类型、适配采集对象设备类型、适配采集对象系统接口类型为采集 器进行编组;
所述中心控制部件将具有相同采集ID的多个被采集设备编为一组,分配 与其编组相适配的数据采集器,组成采集组集合,以精细化采集数据,防止因采 集设备类型、接口类型不一导致的采集器与被采集设备数据识别错误和采集错误,
数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报 头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件;
数据解析部件,对所述数据聚合部件发来的聚合数据格式数据进行解封装、 解密、逆转置,并进行数据解析,获得分析对象数据。
其中所述数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式 的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件, 具体为:
所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段:
前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;
FE数据报头校验字段。
本发明所提供的业互联网大数据服务系统数据传输方法与数据聚合解析 装置,开创性地在数据传输过程中引入了FE数据报头,用以设置和管理FE工 业控制互联网大数据服务系统和平台,其中,使用前隔绝字段、标记字段、FE 设备字段、底层响应字段、FE类型码字段、后隔绝字段以及FE数据报头校验字 段组成FE数据报头,通过其中的标记字段、FE设备字段、底层响应字段、FE 类型码字段精确地对采集数据的处理对象参数类型、采集命令和控制消息类型、 不同类型的采集组合进行判定和区分,并通过前隔绝字段后隔绝字段以及FE数 据报头校验字段对该从FE数据报头进行精确控制和错误校验,从而能够方便、有效地进行大数据多用户多对象的采集任务,解决数据传输、处理格式一致性问 题,有效管理传输数据并提升大数据系统管理效能。
附图说明
图1示出了工业互联网大数据服务系统的数据传输方法中包含FE数据报 头的数据传输方向示意图。
图2示出了工业互联网大数据服务系统的数据传输方法中最基本的传输 数据包格式。
图3示出了工业互联网大数据服务系统的数据传输方法中FE数据报头的 基本组成格式。
图4示出了工业互联网大数据服务系统的数据传输方法中FE类型码字段 的基本组成格式。
具体实施例描述
为使本发明的上述目的、特征和优点更加明显易懂,下面结合附图和具体 实施方式对本发明作进一步详细的说明:
现在详细说明本专利申请关于工业互联网大数据服务系统数据传输方法 与数据聚合解析装置的优选实施例,还在以下描述中提供了多个示例。虽然详细 描述了本专利申请公开的系统和方法,但是为了清楚起见,显然,对于本领域技 术人员理解该系统和方法非特别重要的一些功能部件可能不被示出。
此外,应该理解的是,本专利申请中公开的系统和方法不限于如下描述 的确切实施例,其可以由本领域技术人员在不脱离其精神或请求保护范围的情况 下实现各种改变和修改。例如,在本公开的范围内,不同的示例性实施例的元件 和/或功能部件可以彼此结合和/或相互替换。
图1示出了根据本专利申请一种工业互联网大数据服务系统的数据传输 方法中包含FE数据报头的数据传输方向示意图。图2示出了工业互联网大数据 服务系统的数据传输方法中最基本的传输数据包格式。图3示出了工业互联网大 数据服务系统的数据传输方法中FE数据报头的基本组成格式。参照图1和图2、 图3,该工业互联网大数据服务系统的数据传输方法,包括采用系统的数据聚合 解析装置,完成数据采集对象编组、采集器编组、匹配采集、聚合与解析;采用 系统的数据处理映像指标装置,完成数据与文件的快速处理与吞吐;采用系统的 结果集装置,进行大数据处理结果集抽取与应用,并提供对使用部署的计费规则; 其中:数据聚合解析装置包含中心控制部件、数据聚合部件、数据解析部件与至少一个采集器,中心控制部件为被采集设备进行6位采集ID设置,并依据适配 采集对象厂商类型、适配采集对象设备类型、适配采集对象系统接口类型为采集 器进行编组;所述中心控制部件将具有相同采集ID的多个被采集设备编为一组, 分配与其编组相适配的数据采集器,组成采集组集合,以精细化采集数据,防止 因采集设备类型、接口类型不一导致的采集器与被采集设备数据识别错误和采集 错误,
中心控制部件依据被采集设备的生产厂商设置采集ID第1-2位;依据被采 集设备类型设置采集ID第3-5位;依据被采集设备的系统接口类型设置采集ID 第6位。随后中心控制部件分配采集ID至平台系统中的各个被采集设备。
维护一被采集设备ID分配表,其中确定了每一位ID分配的原则和具体方 式,例如,对于需求厂商“香港堡狮龙”,本专利设置其采集ID的第1-2位厂商 识别代码为01,“海尔集团”为02等等。中心控制部件从被采集设备ID分配表 查询与设备特性相应的各位采集ID,在获得每一位采集ID后,依据一定的组合 方式组合成6位采集ID。
例如当被采集设备为工业生产设备时,设置采集ID第3位为1,当被采集 设备为家用设备时,设置采集ID第3位为2,当被采集设备为工业控制设备时, 设置采集ID第3位为3;当被采集设备为手动设备时,设置采集ID第4位为1, 当被采集设备为自动设备时,设置采集ID第4位为2,当被采集设备为智能AI 设备时,设置采集ID第4位为3;当被采集设备为虚拟化设备时,设置采集ID 第5位为1,当被采集设备为物理设备时,设置采集ID第5位为2。
依据被采集设备ID分配表,为被采集设备分配6位ID。
数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件;数据解析部件, 对所述数据聚合部件发来的聚合数据格式数据进行解封装、解密、逆转置,并进 行数据解析,获得分析对象数据。
参考图1,在本专利申请一种工业互联网大数据服务系统数据传输方法与 数据聚合解析装置中,所述聚合各个采集组集合的采集数据,采用特定格式的数 据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件,具 体为:封装所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段: 前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;
FE数据报头校验字段。
在一个实施例中,优选的,基于FE数据报头之前的其它类型数据报头, 按照一定算法与排列顺序生成所述前隔绝字段。该步骤具体为:将FE数据报头 之前的其它类型数据报头进行截断,当FE数据报头之前的其它类型数据报头为 奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9位中的奇数位 取反,并与原9位中的偶数位按照原顺序组成隔绝字段;当FE数据报头之前的 其它类型数据报头为偶数位且位数不小于8位时,保留中间的8位,将所截取的 8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;当FE 数据报头之前的其它类型数据报头位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从 第一位起截断为8位,组成隔绝字段。
在另一个实施例中,优选的,基于FE数据包负载,按照一定算法与排列 顺序生成所述后隔绝字段。该步骤具体为:将FE数据包负载进行截断,当FE 数据包负载为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9 位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;当FE数 据包负载为偶数位且位数不小于8位时,保留中间的8位,将所截取的8位中的 奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;当FE数据包负 载位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶 数位按照原顺序组合,后接该组合位的复制,从第一位起截断为8位,组成隔绝 字段。
在另一个实施例中,例如,所述标记字段具体为:将该设备处理批次标 识转化为二进制数据,并接续11111110,得到FE数据报头的标记字段。
请注意,在该示例中,标记字段中用作接续的11111110实际上为十六进制 字符“FE”的二进制表示,为FE工业互联网系统研发过程中用作标记用途。
在另一个实施例中,优选的,所述FE设备字段共6位,具体为:依据被 采集设备的生产厂商设置设备字段第1-2位;依据被采集设备类型设置设备字段 第3-5位;依据被采集设备的系统接口类型设置设备字段第6位。
通过对数据采集进行特殊设置,对采集对象分为三个迥异字段设置6位采 集ID,并依据采集对象的采集ID差异对其进行分组,同时,对相应的采集器按 照种类进行编组,再将相应编组的采集器与相应ID编组的采集对象设备进行一 一匹配,便捷、确切且有针对性地解决了因采集对象属性不同导致的采集器适配 问题。
在另一个实施例中,优选的,所述FE底层响应字段,具体设置方法为: 使用采集组中同一类型采集设备的设备标识的二进制代码作为FE底层响应字段, 用以判断具体的底层采集组集合。
采集组中同一类型采集设备的设备标识,应该设计为同一值。例如,对于 被采集对象采集ID为022312的采集组集合,可将其转化为二进制后进行极化编 码,使其获得接近信道容量的传输效能,将极化编码结果与被采集对象采集ID 为022312进行二进制与计算后,得到该类型采集设备的设备标识;
或,在系统初始化时设置对某一类型被采集设备进行采集的相应采集器设 备标识,从而得到该类型采集设备的设备标识。
图4示出了工业互联网大数据服务系统的数据传输方法中FE类型码字段 的基本组成格式。在另一个实施例中,例如,所述FE类型码字段为可选字段, 具体为:
WRO:用以表示该消息传输存在错误,需进行消息重传;
UPD:用以请求或响应与采集器更新数据有关的消息;
DEF:用以告知该消息为获取指定采集数据有关数据的消息;
DEL:用以进行采集组集合或采集组集合中特定采集器的删除的消息;
PAT:用以告知由采集器组一直到解析部件的某处传输路径错误的消息;
TEST:用以测试采集组集合的消息。
在另一方面,本申请提供了一种工业互联网大数据服务系统的数据聚合 解析装置,该装置所处的系统包括数据聚合解析装置,完成数据采集对象编组、 采集器编组、匹配采集、聚合与解析;数据处理映像指标装置,完成数据与文件 的快速处理与吞吐;结果集装置,进行大数据处理结果集抽取与应用,并提供对 使用部署的计费规则;其中:数据聚合解析装置包含中心控制部件、数据聚合部 件、数据解析部件与至少一个采集器,中心控制部件为被采集设备进行6位采集 ID设置,并依据适配采集对象厂商类型、适配采集对象设备类型、适配采集对 象系统接口类型为采集器进行编组;所述中心控制部件将具有相同采集ID的多 个被采集设备编为一组,分配与其编组相适配的数据采集器,组成采集组集合, 以精细化采集数据,防止因采集设备类型、接口类型不一导致的采集器与被采集 设备数据识别错误和采集错误,数据聚合部件,聚合各个采集组集合的采集数据, 采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往 数据解析部件;数据解析部件,对所述数据聚合部件发来的聚合数据格式数据进 行解封装、解密、逆转置,并进行数据解析,获得分析对象数据。
其中所述数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式 的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件, 具体为:
所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段:
前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;
FE数据报头校验字段。
其中所述前隔绝字段具体为:基于FE数据报头之前的其它类型数据报头, 按照一定算法与排列顺序生成所述前隔绝字段。
其中所述基于FE数据报头之前的其它类型数据报头,按照一定算法与排 列顺序生成所述前隔绝字段,具体为:
将FE数据报头之前的其它类型数据报头进行截断,当FE数据报头之前的其它 类型数据报头为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9 位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;
当FE数据报头之前的其它类型数据报头为偶数位且位数不小于8位时,保留中 间的8位,将所截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序 组成隔绝字段;
当FE数据报头之前的其它类型数据报头位数小于8位时,保留所有数据位,将 其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复 制,从第一位起截断为8位,组成隔绝字段。
其中所述后隔绝字段具体为:基于FE数据包负载,按照一定算法与排列 顺序生成所述后隔绝字段。
其中所述基于FE数据包负载,按照一定算法与排列顺序生成所述后隔绝 字段具体为:
将FE数据包负载进行截断,当FE数据包负载为奇数位且位数大于8位时, 保留中间的8+1=9位,将所截取的9位中的奇数位取反,并与原9位中的偶数 位按照原顺序组成隔绝字段;
当FE数据包负载为偶数位且位数不小于8位时,保留中间的8位,将所 截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;
当FE数据包负载位数小于8位时,保留所有数据位,将其中的奇数位取 反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从第一位起 截断为8位,组成隔绝字段。
其中所述标记字段具体为:将该设备处理批次标识转化为二进制数据,并 接续11111110,得到FE数据报头的标记字段。
其中所述FE设备字段共6位,具体为:
依据被采集设备的生产厂商设置设备字段第1-2位;
依据被采集设备类型设置设备字段第3-5位;
依据被采集设备的系统接口类型设置设备字段第6位。
其中所述FE底层响应字段,具体为:使用采集组中同一类型采集设备的 设备标识的二进制代码作为FE底层响应字段,用以判断具体的底层采集组集合。
其中所述FE类型码字段为可选字段,具体为:
WRO:用以表示该消息传输存在错误,需进行消息重传;
UPD:用以请求或响应与采集器更新数据有关的消息;
DEF:用以告知该消息为获取指定采集数据有关数据的消息;
DEL:用以进行采集组集合或采集组集合中特定采集器的删除的消息;
PAT:用以告知由采集器组一直到解析部件的某处传输路径错误的消息;
TEST:用以测试采集组集合的消息。
在另一个实施例中,该服务平台系统还包括数据处理映像指标层,包含: 第一接口,用于与数据库连接,处理数据库初始化过程,建立逻辑数据表、数据 表关联、数据主键、数据内含项,定义数据查询和数据修改原则;第二接口,与 用户连接,用于用户访问数据处理映像指标层,查询和修改分析对象数据,设置 数据查询和修改原则;第一数据映像指标生成部件,用以在数据处理映像指标层 处理并存储数据时建立数据存储网格,并同时建立数据映像指标网格,其中,数 据映像指标网格与数据存储网格结构一一对应,在平台底层存储介质生成数据存 储网格结构时,映像指标网格也在生成;第一数据映像指标操作部件,用于根据 用户操作获取对应的处理任务,根据处理任务数据获取相应映像指标网格节点, 从而依据映像指标网格与数据存储网格的对应关系获取相应数据存储网格结构 节点,并对任务分片,交由相应存储网格结构节点处理并返回处理结果数据。
另,该服务平台系统还包括结果集层,包含第一数据抽取部件,所述第一 数据抽取部件包含处理结果探测装置,探测由存储网格结构节点处理完成的结果 数据集,并依据存储网格结构对结果数据集进行分类;第一服务提供部件,用于 以服务部署方式,将所述第一数据抽取部件抽取出的结果数据集依据其分类,经 负载均衡后分发给相应类别的服务提供部件。
以及第一计费服务部件,用于以服务时间(S)*服务单元(U)*服务权重 系数方式对服务被提供方进行计费,其中服务权重系数由采集组集合相同的采集 ID经加权计算而得。
在所有上述实施方式中,为实现一些特殊的读/写功能的要求,中心控制 部件、数据聚合部件、数据解析部件与至少一个采集器、数据处理映像指标层部 件以及第一数据抽取部件、第一服务提供部件、第一计费服务部件可以增加硬件、 引脚连接或存储器差异来扩展功能。
虽然本专利申请已经示出并以特定参考描述多个实施例,但应注意的是, 在不脱离本发明的范围下,可以进行各种其他的改变或修改。
Claims (14)
1.一种工业互联网大数据服务系统的数据传输方法,包括采用系统的数据聚合解析装置,完成数据采集对象编组、采集器编组、匹配采集、聚合与解析;采用系统的数据处理映像指标装置,完成数据与文件的快速处理与吞吐;采用系统的结果集装置,进行大数据处理结果集抽取与应用,并提供对使用部署的计费规则;其中:
数据聚合解析装置包含中心控制部件、数据聚合部件、数据解析部件与至少一个采集器,中心控制部件为被采集设备进行6位采集ID设置,并依据适配采集对象厂商类型、适配采集对象设备类型、适配采集对象系统接口类型为采集器进行编组;
所述中心控制部件将具有相同采集ID的多个被采集设备编为一组,分配与其编组相适配的数据采集器,组成采集组集合,以精细化采集数据,防止因采集设备类型、接口类型不一导致的采集器与被采集设备数据识别错误和采集错误,
数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件;
数据解析部件,对所述数据聚合部件发来的聚合数据格式数据进行解封装、解密、逆转置,并进行数据解析,获得分析对象数据;
其中所述聚合各个采集组集合的采集数据,采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件,具体为:
封装所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段:
前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;
FE数据报头校验字段;
其中所述前隔绝字段具体为:基于FE数据报头之前的其它类型数据报头,按照一定算法与排列顺序生成所述前隔绝字段;
所述基于FE数据报头之前的其它类型数据报头,按照一定算法与排列顺序生成所述前隔绝字段,具体为:
将FE数据报头之前的其它类型数据报头进行截断,当FE数据报头之前的其它类型数据报头为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;
当FE数据报头之前的其它类型数据报头为偶数位且位数不小于8位时,保留中间的8位,将所截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;
当FE数据报头之前的其它类型数据报头位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从第一位起截断为8位,组成隔绝字段。
2.如权利要求1所述的数据传输方法,其特征在于,其中所述后隔绝字段具体为:基于FE数据包负载,按照一定算法与排列顺序生成所述后隔绝字段。
3.如权利要求2所述的数据传输方法,其特征在于,其中所述基于FE数据包负载,按照一定算法与排列顺序生成所述后隔绝字段具体为:
将FE数据包负载进行截断,当FE数据包负载为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;
当FE数据包负载为偶数位且位数不小于8位时,保留中间的8位,将所截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;
当FE数据包负载位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从第一位起截断为8位,组成隔绝字段。
4.如权利要求3所述的数据传输方法,其特征在于,其中所述标记字段具体为:将设备处理批次标识转化为二进制数据,并接续1111 1110,得到FE数据报头的标记字段。
5.如权利要求4所述的数据传输方法,其特征在于,其中所述FE设备字段共6位,具体为:
依据被采集设备的生产厂商设置设备字段第1-2位;
依据被采集设备类型设置设备字段第3-5位;
依据被采集设备的系统接口类型设置设备字段第6位。
6.如权利要求5所述的数据传输方法,其特征在于,其中FE底层响应字段,具体为:
使用采集组中同一类型采集设备的设备标识的二进制代码作为FE底层响应字段,用以判断具体的底层采集组集合。
7.如权利要求6所述的传输方法,其特征在于,其中所述FE类型码字段为可选字段,具体为:
WRO:用以表示消息传输存在错误,需进行消息重传;
UPD:用以请求或响应与采集器更新数据有关的消息;
DEF:用以告知该消息为获取指定采集数据有关数据的消息;
DEL:用以进行采集组集合或采集组集合中特定采集器的删除的消息;
PAT:用以告知由采集器组一直到解析部件的某处传输路径错误的消息;
TEST:用以测试采集组集合的消息。
8.一种工业互联网大数据服务系统的数据聚合解析装置,所述系统包括数据聚合解析装置,完成数据采集对象编组、采集器编组、匹配采集、聚合与解析;数据处理映像指标装置,完成数据与文件的快速处理与吞吐;结果集装置,进行大数据处理结果集抽取与应用,并提供对使用部署的计费规则;其中:
数据聚合解析装置包含中心控制部件、数据聚合部件、数据解析部件与至少一个采集器,中心控制部件为被采集设备进行6位采集ID设置,并依据适配采集对象厂商类型、适配采集对象设备类型、适配采集对象系统接口类型为采集器进行编组;
所述中心控制部件将具有相同采集ID的多个被采集设备编为一组,分配与其编组相适配的数据采集器,组成采集组集合,以精细化采集数据,防止因采集设备类型、接口类型不一导致的采集器与被采集设备数据识别错误和采集错误,
数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件;数据解析部件,对所述数据聚合部件发来的聚合数据格式数据进行解封装、解密、逆转置,并进行数据解析,获得分析对象数据;
所述数据聚合部件,聚合各个采集组集合的采集数据,采用特定格式的数据报头对数据进行封装处理,组成统一的聚合数据格式,发往数据解析部件,具体为:所述数据报头为FE数据报头,所述FE数据报头至少包含以下字段:
前隔绝字段:使用该字段用以隔绝上层包头;
标记字段:使用该字段用以提示FE数据报头的起始位置;
FE设备字段:使用该字段用以区分FE被采集设备及其类型;
底层响应字段:使用该字段用以判断底层所述采集组集合的具体标识;
FE类型码字段:使用该字段用以确定数据消息的具体类型;
后隔绝字段:使用该字段用以隔绝数据包负载;
FE数据报头校验字段;
所述前隔绝字段具体为:基于FE数据报头之前的其它类型数据报头,按照一定算法与排列顺序生成所述前隔绝字段;
所述基于FE数据报头之前的其它类型数据报头,按照一定算法与排列顺序生成所述前隔绝字段,具体为:
将FE数据报头之前的其它类型数据报头进行截断,当FE数据报头之前的其它类型数据报头为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;
当FE数据报头之前的其它类型数据报头为偶数位且位数不小于8位时,保留中间的8位,将所截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;
当FE数据报头之前的其它类型数据报头位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从第一位起截断为8位,组成隔绝字段。
9.如权利要求8所述的数据聚合解析装置,其特征在于,其中所述后隔绝字段具体为:基于FE数据包负载,按照一定算法与排列顺序生成所述后隔绝字段。
10.如权利要求9所述的数据聚合解析装置,其特征在于,其中所述基于FE数据包负载,按照一定算法与排列顺序生成所述后隔绝字段具体为:
将FE数据包负载进行截断,当FE数据包负载为奇数位且位数大于8位时,保留中间的8+1=9位,将所截取的9位中的奇数位取反,并与原9位中的偶数位按照原顺序组成隔绝字段;
当FE数据包负载为偶数位且位数不小于8位时,保留中间的8位,将所截取的8位中的奇数位取反,并与原8位中的偶数位按照原顺序组成隔绝字段;
当FE数据包负载位数小于8位时,保留所有数据位,将其中的奇数位取反,并与原数据中的偶数位按照原顺序组合,后接该组合位的复制,从第一位起截断为8位,组成隔绝字段。
11.如权利要求10所述的数据聚合解析装置,其特征在于,其中所述标记字段具体为:
将设备处理批次标识转化为二进制数据,并接续1111 1110,得到FE数据报头的标记字段。
12.如权利要求11所述的数据聚合解析装置,其特征在于,其中所述FE设备字段共6位,具体为:
依据被采集设备的生产厂商设置设备字段第1-2位;
依据被采集设备类型设置设备字段第3-5位;
依据被采集设备的系统接口类型设置设备字段第6位。
13.如权利要求12所述的数据聚合解析装置,其特征在于,FE底层响应字段,具体为:
使用采集组中同一类型采集设备的设备标识的二进制代码作为FE底层响应字段,用以判断具体的底层采集组集合。
14.如权利要求13所述的数据聚合解析装置,其特征在于,其中所述FE类型码字段为可选字段,具体为:
WRO:用以表示消息传输存在错误,需进行消息重传;
UPD:用以请求或响应与采集器更新数据有关的消息;
DEF:用以告知该消息为获取指定采集数据有关数据的消息;
DEL:用以进行采集组集合或采集组集合中特定采集器的删除的消息;
PAT:用以告知由采集器组一直到解析部件的某处传输路径错误的消息;
TEST:用以测试采集组集合的消息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811539335.5A CN109617654B (zh) | 2018-12-14 | 2018-12-14 | 工业互联网大数据服务系统数据传输方法与数据聚合解析装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811539335.5A CN109617654B (zh) | 2018-12-14 | 2018-12-14 | 工业互联网大数据服务系统数据传输方法与数据聚合解析装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109617654A CN109617654A (zh) | 2019-04-12 |
CN109617654B true CN109617654B (zh) | 2021-03-05 |
Family
ID=66010157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811539335.5A Active CN109617654B (zh) | 2018-12-14 | 2018-12-14 | 工业互联网大数据服务系统数据传输方法与数据聚合解析装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109617654B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110336698A (zh) * | 2019-07-05 | 2019-10-15 | 精英数智科技股份有限公司 | 一种故障数据分析方法、服务器及存储介质 |
CN116321280A (zh) * | 2022-12-31 | 2023-06-23 | 广东飞企互联科技股份有限公司 | 一种基于5g网络的物联网设备联动系统 |
CN116186613B (zh) * | 2023-05-04 | 2023-07-18 | 利维智能(深圳)有限公司 | 工业互联网数据的智能采集处理方法及系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101194482A (zh) * | 2003-08-13 | 2008-06-04 | 高通股份有限公司 | 用于更高数据速率的信号接口 |
CN102497427A (zh) * | 2011-12-13 | 2012-06-13 | 山东省建筑科学研究院 | 实现可再生能源监测系统数据采集服务的方法和装置 |
CN106094777A (zh) * | 2016-08-26 | 2016-11-09 | 北京航空航天大学 | 一种工业互联网Hub装置 |
CN106169988A (zh) * | 2016-02-26 | 2016-11-30 | 北京元心科技有限公司 | 巡检系统中传输数据的方法 |
CN107483372A (zh) * | 2017-08-31 | 2017-12-15 | 杭州京宁自动化技术有限公司 | 基于工业物联网的数据传输方法和系统 |
CN108462754A (zh) * | 2018-03-28 | 2018-08-28 | 西安西电电气研究院有限责任公司 | 一种工业互联网架构及实现方法 |
CN108737539A (zh) * | 2018-05-18 | 2018-11-02 | 济南浪潮高新科技投资发展有限公司 | 一种基于工业互联网平台IOT Hub服务的方法 |
US10148680B1 (en) * | 2015-06-15 | 2018-12-04 | ThetaRay Ltd. | System and method for anomaly detection in dynamically evolving data using hybrid decomposition |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140147583A (ko) * | 2013-06-20 | 2014-12-30 | 한국전자통신연구원 | 산업제어 시스템의 부정 접근을 방지하기 위한 장치 및 그 방법 |
-
2018
- 2018-12-14 CN CN201811539335.5A patent/CN109617654B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101194482A (zh) * | 2003-08-13 | 2008-06-04 | 高通股份有限公司 | 用于更高数据速率的信号接口 |
CN102497427A (zh) * | 2011-12-13 | 2012-06-13 | 山东省建筑科学研究院 | 实现可再生能源监测系统数据采集服务的方法和装置 |
US10148680B1 (en) * | 2015-06-15 | 2018-12-04 | ThetaRay Ltd. | System and method for anomaly detection in dynamically evolving data using hybrid decomposition |
CN106169988A (zh) * | 2016-02-26 | 2016-11-30 | 北京元心科技有限公司 | 巡检系统中传输数据的方法 |
CN106094777A (zh) * | 2016-08-26 | 2016-11-09 | 北京航空航天大学 | 一种工业互联网Hub装置 |
CN107483372A (zh) * | 2017-08-31 | 2017-12-15 | 杭州京宁自动化技术有限公司 | 基于工业物联网的数据传输方法和系统 |
CN108462754A (zh) * | 2018-03-28 | 2018-08-28 | 西安西电电气研究院有限责任公司 | 一种工业互联网架构及实现方法 |
CN108737539A (zh) * | 2018-05-18 | 2018-11-02 | 济南浪潮高新科技投资发展有限公司 | 一种基于工业互联网平台IOT Hub服务的方法 |
Non-Patent Citations (2)
Title |
---|
Development of an Internet of Things Gateway Applied to a Multimask Industrial Plant;Fabricio Tietz;《2018 13th IEEE International Conference on Industry Applications (INDUSCON)》;20181112;全文 * |
面向工业大数据的数据采集系统;谢青松;《中国优秀硕士学位论文全文数据库信息科技辑》;20180115;第I140-796页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109617654A (zh) | 2019-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI742980B (zh) | 用於申請規劃介面遷移的電腦化系統以及用於申請規劃介面遷移的電腦實行方法 | |
CN109617654B (zh) | 工业互联网大数据服务系统数据传输方法与数据聚合解析装置 | |
CN110569298B (zh) | 一种数据对接、可视化方法和系统 | |
CN105677648B (zh) | 一种基于标签传播算法的社团发现方法及系统 | |
CN103701934B (zh) | 一种资源优化调度方法及虚拟机宿主机优化选择方法 | |
CN114416313B (zh) | 基于资源预测模型的任务调度方法和装置 | |
CN108711074B (zh) | 业务分类方法、装置、服务器及可读存储介质 | |
CN109656997B (zh) | 工业互联网大数据服务平台系统和服务方法 | |
CN109257422A (zh) | 感知网络信息重构方法 | |
Larrinaga et al. | Node-red workflow manager for edge service orchestration | |
CN109669777B (zh) | 工业互联网大数据元需求服务提供方法与系统 | |
CN111698310A (zh) | 基于swift网络的多测试环境调度方法及装置 | |
CN114943443A (zh) | 工单分配方法、装置、设备和存储介质 | |
CN106357418A (zh) | 一种基于复杂网络的特征提取方法及装置 | |
CN111431664A (zh) | 基于json数据协议的派工数据包封装下达方法及装置 | |
CN110019456A (zh) | 数据导入方法、装置和系统 | |
CN114860311B (zh) | 流程处理方法、装置及网络设备 | |
CN107292049A (zh) | 一种基于icd数据流的仿真系统设计方法 | |
CN106230877A (zh) | 一种设备的远程管理方法、系统及设备 | |
CN116777173A (zh) | 一种任务分配方法、装置、设备和介质 | |
CN109726085A (zh) | 性能问题追踪的方法及系统 | |
CN109343968A (zh) | 一种获取数据的方法和相关装置 | |
CN113411841B (zh) | 5g切片的割接合并方法、装置及计算设备 | |
KR102000627B1 (ko) | 데이터 갱신 방법 및 그 장치 | |
CN113434612A (zh) | 数据统计方法及装置、存储介质及电子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
PE01 | Entry into force of the registration of the contract for pledge of patent right |
Denomination of invention: Industrial Internet Big Data Service System Data Transmission Method and Data Aggregation and Analysis Device Granted publication date: 20210305 Pledgee: Bank of Communications Ltd. Zhuhai branch Pledgor: GUANGDONG FLYING ENTERPRISE INTERNET TECHNOLOGY Co.,Ltd. Registration number: Y2024980000817 |
|
PE01 | Entry into force of the registration of the contract for pledge of patent right |