KR101476632B1 - 실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 - Google Patents
실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 Download PDFInfo
- Publication number
- KR101476632B1 KR101476632B1 KR1020140025942A KR20140025942A KR101476632B1 KR 101476632 B1 KR101476632 B1 KR 101476632B1 KR 1020140025942 A KR1020140025942 A KR 1020140025942A KR 20140025942 A KR20140025942 A KR 20140025942A KR 101476632 B1 KR101476632 B1 KR 101476632B1
- Authority
- KR
- South Korea
- Prior art keywords
- data
- stream
- analysis
- units
- log data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007405 data analysis Methods 0.000 title claims abstract description 120
- 238000004458 analytical method Methods 0.000 title claims abstract description 110
- 238000003672 processing method Methods 0.000 title claims abstract description 12
- 238000000034 method Methods 0.000 claims abstract description 35
- 230000003139 buffering effect Effects 0.000 claims abstract description 30
- 238000012545 processing Methods 0.000 claims description 39
- 238000013480 data collection Methods 0.000 claims description 29
- 238000004891 communication Methods 0.000 abstract description 22
- 230000008569 process Effects 0.000 abstract description 11
- 238000007726 management method Methods 0.000 description 18
- 238000010295 mobile communication Methods 0.000 description 12
- 238000004590 computer program Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000004873 anchoring Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000003908 quality control method Methods 0.000 description 2
- 238000013515 script Methods 0.000 description 2
- 241000760358 Enodes Species 0.000 description 1
- 238000003326 Quality management system Methods 0.000 description 1
- 238000010923 batch production Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/06—Generation of reports
- H04L43/067—Generation of reports using time frame reporting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/142—Network analysis or design using statistical or mathematical methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5003—Managing SLA; Interaction between SLA and QoS
- H04L41/5009—Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/12—Network monitoring probes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Algebra (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Pure & Applied Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
Description
도 2는 본 발명에 따른 실시간 데이터 분석 시스템의 전체 구성을 개략적으로 나타낸 블럭도이다.
도 3은 본 발명에 따른 실시간 데이터 분석 시스템에 있어서, 데이터 처리 제어를 위한 분석 코디네이터 장치의 상세 구성을 나타낸 블럭도이다.
도 4는 본 발명에 따른 실시간 데이터 분석 시스템에 있어서, 분석 코디네이터 장치의 데이터 처리 제어 과정을 나타낸 순서도이다.
도 5는 본 발명에 따른 실시간 데이터 분석 시스템의 데이터 처리 과정을 나타낸 순서도이다.
도 6은 본 발명에 따른 실시간 데이터 분석 시스템에서 전송되는 로그 데이터 스트림의 데이터 구조 및 통계 데이터와의 관계를 설명하는 모식도이다.
110: 데이터 수집부
120: 버퍼링부
130: 데이터 분석부
140: 분석 코디네이터 장치
Claims (13)
- 하나 이상의 데이터 수집부, 하나 이상의 버퍼링부 및 하나 이상의 데이터 분석부를 통해서 실시간으로 생성되는 복수의 로그 데이터 스트림을 처리하는 실시간 데이터 분석 시스템에서의 데이터 처리 방법에 있어서,
분산 코디네이터가 기준 시간대 별로 구분되는 스트림 ID를 포함하는 복수의 로그 데이터 스트림을 수집하여 하나 이상의 버퍼링부에 저장하는 상기 하나 이상의 데이터 수집부로부터 상기 스트림 ID의 수신 정보를 수집하는 제1 수집 단계; 및
수집 결과, 하나 이상의 데이터 수집부 모두가 특정 스트림 ID를 수신한 경우, 상기 분산 코디네이터가 상기 하나 이상의 데이터 분석부로 상기 특정 스트림 ID에 대응하는 기준 시간대의 로그 데이터 스트림에 대한 분석 시작을 지시하는 단계를 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 데이터 처리 방법. - 제1항에 있어서,
상기 분산 코디네이터가 상기 하나 이상의 버퍼링부로부터 로그 데이터 스트림을 읽어와 연속적으로 분석하는 상기 하나 이상의 데이터 분석부로부터 상기 특정 스트림 ID의 수신 정보를 수집하는 제2 수집 단계; 및
수집 결과, 상기 하나 이상의 데이터 분석부 모두가 특정 스트림 ID를 수신한 경우, 상기 특정 스트림 ID에 대응하는 특정 시간 대의 로그 데이터 스트림의 분석이 완료된 것으로 판단하는 단계를 더 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 데이터 처리 방법. - 제1항에 있어서,
상기 스트림 ID는 해당 기준 시간대에 생성된 로그 데이터 스트림의 마지막에 배치되는 것을 특징으로 하는 실시간 데이터 분석 시스템의 데이터 처리 방법. - 제2항에 있어서, 상기 제1 수집 단계 및 제2 수집 단계는
상기 하나 이상의 데이터 수집부 및 하나 이상의 데이터 분석부 중 마스터 데이터 수집부 및 마스터 데이터 분석부를 설정하고,
설정된 마스터 데이터 수집부 또는 마스터 데이터 분석부를 통해서 스트림 ID의 수신 정보를 수집하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 데이터 처리 방법. - 제2항에 있어서, 상기 제2 수집 단계는
상기 하나 이상의 데이터 분석부에 포함된 분석 토폴로지 중 상기 하나 이상의 버퍼링부로부터 로그 데이터 스트림을 읽어오는 실시간 입력 데몬으로부터 상기 스트림 ID의 수신 정보를 수집하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 데이터 처리 방법. - 하나 이상의 데이터 수집부, 하나 이상의 버퍼링부 및 하나 이상의 데이터 분석부를 통해서 실시간으로 생성되는 복수의 로그 데이터 스트림을 분산 및 병렬 처리하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치에 있어서,
기준 시간대 별로 구분되는 스트림 ID를 포함하는 복수의 로그 데이터 스트림을 수집하는 상기 하나 이상의 데이터 수집부로부터 수집된 스트림 ID 별 수신 정보를 기록하는 저장 모듈; 및
상기 저장 모듈에 기록된 스트림 ID별 수신 정보를 기반으로, 하나 이상의 데이터 수집부 모두가 특정 스트림 ID를 수신한 경우, 상기 하나 이상의 데이터 분석부로 상기 특정 스트림 ID을 포함하는 로그 데이터 스트림에 대한 분석 시작을 지시하는 데이터 처리 제어 모듈;
을 포함하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치. - 제6항에 있어서,
상기 저장 모듈은 상기 하나 이상의 버퍼링부로부터 로그 데이터 스트림을 읽어와 분석 처리하는 하나 이상의 데이터 분석부로부터 수집된 상기 특정 스트림 ID의 수신 정보를 더 기록하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치. - 제7항에 있어서,
상기 데이터 처리 제어 모듈은 상기 하나 이상의 데이터 분석부로부터 수집된 상기 특정 스트림 ID의 수신 정보를 기반으로 상기 특정 스트림 ID를 포함하는 로그 데이터 스트림에 대한 분석 완료를 판단하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치. - 제6항에 있어서,
상기 하나 이상의 데이터 수집부 및 하나 이상의 데이터 분석부 중 마스터 데이터 수집부 및 마스터 데이터 분석부를 설정하는 마스터 관리 모듈을 더 포함하고,
상기 저장 모듈은 상기 마스터 관리 모듈에 의해 설정된 마스터 데이터 수집부 및 마스터 데이터 분석부를 통해서 스트림 ID의 수신 정보를 기록하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치. - 제6항에 있어서,
상기 저장 모듈에 기록된 정보를 클러스터로 연결된 하나 이상의 다른 분석 코디네이터 장치와 동기화시키는 동기화 모듈을 더 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 분석 코디네이터 장치. - 하나 이상의 데이터 수집부, 하나 이상의 버퍼링부 및 하나 이상의 데이터 분석부를 통해서 실시간으로 생성되는 복수의 로그 데이터 스트림을 처리하는 실시간 데이터 분석 시스템의 실시간 데이터 분석 방법에 있어서,
상기 하나 이상의 데이터 수집부가 기준 시간 대별로 구분되는 스트림 ID를 포함하는 복수의 로그 데이터 스트림을 순차적으로 수신하여 상기 하나 이상의 버퍼링부에 분산 저장하는 단계;
상기 하나 이상의 데이터 수집부가 상기 로그 데이터 스트림의 수신 중에 특정 스트림 ID를 수신하면, 상기 특정 스트림 ID의 수신 정보를 분석 코디네이터에 통지하는 단계;
상기 하나 이상의 데이터 분석부가, 하나 이상의 데이터 수집부 모두로부터 특정 스트림 ID의 수신 정보를 수신한 분석 코디네이터로부터 특정 스트림 ID에 대응하는 로그 데이터 스트림의 분석 시작을 지시 받는 단계;
상기 하나 이상의 데이터 분석부가, 상기 하나 이상의 버퍼링부에 분산 저장된 특정 스트림 ID을 포함하는 복수의 로그 데이터 스트림을 순차적으로 읽어와 분석 처리하여 통계 데이터를 산출하는 단계
를 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 실시간 데이터 분석 방법. - 제11항에 있어서,
상기 하나 이상의 데이터 수집부 중 설정된 마스터 데이터 수집부가 상기 하나 이상의 데이터 수집부들의 특정 스트림 ID 수신 여부를 확인하여, 모두 특정 스트림 ID를 수신한 경우, 상기 분석 코디네이터에 상기 특정 스트림 ID에 대응하는 로그 데이터의 분석 시작을 의미하는 제1 플래그를 기록하는 단계를 더 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 실시간 데이터 분석 방법. - 제12항에 있어서,
상기 하나 이상의 데이터 분석부 중 설정된 마스터 데이터 분석부가 상기 하나 이상의 데이터 분석부들의 특정 스트림 ID 수신 여부를 확인하여, 모두 특정 스트림 ID를 수신한 경우, 상기 분석 코디네이터에 상기 특정 스트림 ID에 대응하는 로그 데이터의 분석 완료를 의미하는 제2 플래그를 기록하는 단계를 더 포함하는 것을 특징으로 하는 실시간 데이터 분석 시스템의 실시간 데이터 분석 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140025942A KR101476632B1 (ko) | 2014-03-05 | 2014-03-05 | 실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140025942A KR101476632B1 (ko) | 2014-03-05 | 2014-03-05 | 실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101476632B1 true KR101476632B1 (ko) | 2014-12-30 |
Family
ID=52679969
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020140025942A Active KR101476632B1 (ko) | 2014-03-05 | 2014-03-05 | 실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101476632B1 (ko) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105049287A (zh) * | 2015-07-28 | 2015-11-11 | 小米科技有限责任公司 | 日志处理方法及装置 |
CN105577431A (zh) * | 2015-12-11 | 2016-05-11 | 青岛云成互动网络有限公司 | 一种基于互联网应用的用户信息识别分类方法和系统 |
KR20170115859A (ko) | 2016-04-08 | 2017-10-18 | 한국전자통신연구원 | 규칙 기반 실시간 데이터 스트림 처리 방법 및 장치 |
KR101820521B1 (ko) * | 2016-02-16 | 2018-01-19 | 주식회사 이롬테크놀로지 | 실시간 읽기 방법 및 그 장치 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070015808A (ko) * | 2005-08-01 | 2007-02-06 | 서울통신기술 주식회사 | 네트워크의 트래픽 제어방법 |
KR20080099042A (ko) * | 2007-05-08 | 2008-11-12 | 에스케이 텔레콤주식회사 | 무선 인터넷 데이터 서비스의 데이터 트래픽 패턴을수집하는 방법 및 서버 |
-
2014
- 2014-03-05 KR KR1020140025942A patent/KR101476632B1/ko active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070015808A (ko) * | 2005-08-01 | 2007-02-06 | 서울통신기술 주식회사 | 네트워크의 트래픽 제어방법 |
KR20080099042A (ko) * | 2007-05-08 | 2008-11-12 | 에스케이 텔레콤주식회사 | 무선 인터넷 데이터 서비스의 데이터 트래픽 패턴을수집하는 방법 및 서버 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105049287A (zh) * | 2015-07-28 | 2015-11-11 | 小米科技有限责任公司 | 日志处理方法及装置 |
CN105577431A (zh) * | 2015-12-11 | 2016-05-11 | 青岛云成互动网络有限公司 | 一种基于互联网应用的用户信息识别分类方法和系统 |
KR101820521B1 (ko) * | 2016-02-16 | 2018-01-19 | 주식회사 이롬테크놀로지 | 실시간 읽기 방법 및 그 장치 |
KR20170115859A (ko) | 2016-04-08 | 2017-10-18 | 한국전자통신연구원 | 규칙 기반 실시간 데이터 스트림 처리 방법 및 장치 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11438781B2 (en) | Contextual quality of user experience analysis using equipment dynamics | |
CN110312279B (zh) | 一种网络数据的监测方法及装置 | |
US10237144B2 (en) | Quality of user experience analysis | |
JP5430744B2 (ja) | 通信システムのリアルタイムの性能および負荷統計のためのシステムならびに方法 | |
US10412550B2 (en) | Remote driving of mobile device diagnostic applications | |
KR101503680B1 (ko) | 네트워크 분석을 위한 방법 및 장치 | |
US11929938B2 (en) | Evaluating overall network resource congestion before scaling a network slice | |
EP3304818B1 (en) | Quality of user experience analysis using echo locate | |
CN113924800B (zh) | 提供信息 | |
US20160381662A1 (en) | Mobility Network Function Consolidation | |
CN113630794A (zh) | 多媒体广播多播服务中的测量 | |
Raza et al. | Rethinking LTE network functions virtualization | |
KR101533719B1 (ko) | 스트리밍 기반의 실시간 데이터 분석 장치 및 방법 | |
KR101476632B1 (ko) | 실시간 데이터 분석 시스템의 데이터 처리 방법 및 분석 코디네이터 장치 | |
US20150163104A1 (en) | Sketch Based Monitoring of a Communication Network | |
EP3398368A1 (en) | Contextual quality of user experience analysis using equipment dynamics | |
CN113596932B (zh) | 信息提供、生成、目标基站确定方法及设备、介质 | |
EP3383086B1 (en) | Detecting and reporting the impact of handovers on subscriber quality of experience | |
US10530823B2 (en) | Network stream processing to ensuring a guarantee that each record is accounted for exactly once | |
KR20160068448A (ko) | 무선 통신 시스템에서 전송 계층의 속도를 제어하기 위한 장치 및 방법 | |
EP3210340A1 (en) | Distributed trace of network procedures for network elements in cloud deployment | |
US10798019B2 (en) | Context information processor, profile distribution unit and method for a communication network | |
CN118828570A (zh) | 基于微服务的业务测试方法、装置、电子设备和存储介质 | |
CN116846771A (zh) | 业务操作方法、装置、终端及可读存储介质 | |
US10812601B2 (en) | Method and system for signaling and radio connection optimization over a cellular network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20140305 |
|
PA0201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20141213 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20141219 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20141219 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20200928 Start annual number: 7 End annual number: 7 |
|
PR1001 | Payment of annual fee |
Payment date: 20240919 Start annual number: 11 End annual number: 11 |