[go: up one dir, main page]

KR102511093B1 - Smart city elevator crime prevention system - Google Patents

Smart city elevator crime prevention system Download PDF

Info

Publication number
KR102511093B1
KR102511093B1 KR1020210184436A KR20210184436A KR102511093B1 KR 102511093 B1 KR102511093 B1 KR 102511093B1 KR 1020210184436 A KR1020210184436 A KR 1020210184436A KR 20210184436 A KR20210184436 A KR 20210184436A KR 102511093 B1 KR102511093 B1 KR 102511093B1
Authority
KR
South Korea
Prior art keywords
information
sensor
sound
elevator
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020210184436A
Other languages
Korean (ko)
Other versions
KR102511093B9 (en
Inventor
조만영
Original Assignee
가온플랫폼 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 가온플랫폼 주식회사 filed Critical 가온플랫폼 주식회사
Application granted granted Critical
Publication of KR102511093B1 publication Critical patent/KR102511093B1/en
Publication of KR102511093B9 publication Critical patent/KR102511093B9/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Maintenance And Inspection Apparatuses For Elevators (AREA)
  • Indicating And Signalling Devices For Elevators (AREA)

Abstract

일 실시 예에 따른 엘리베이터 범죄 예방 시스템은, 적어도 하나의 센서, 상기 적어도 하나의 센서와 데이터 통신 가능하도록 연결되는 플랫폼 서버 및 상기 적어도 하나의 센서와 작동적으로(operatively) 연결되는 제어부를 포함하고, 상기 제어부는, 상기 적어도 하나의 센서를 제어함으로써 상기 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득하고, 상기 동작 정보 및/또는 상기 소리 정보에 기반하여, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하고, 상기 동작 정보 및/또는 상기 소리 정보가 상기 지정된 조건을 만족하는 경우, 상기 플랫폼 서버를 통해 클라이언트 단말로 경보 데이터를 전송할 수 있다.An elevator crime prevention system according to an embodiment includes at least one sensor, a platform server connected to the at least one sensor for data communication, and a control unit operatively connected to the at least one sensor, The controller obtains motion information and/or sound information generated inside the elevator by controlling the at least one sensor, and based on the motion information and/or the sound information, the motion information and/or the sound. It is determined whether the information satisfies a specified condition, and when the motion information and/or the sound information satisfy the specified condition, alert data may be transmitted to the client terminal through the platform server.

Description

스마트시티 엘리베이터 범죄예방 시스템{SMART CITY ELEVATOR CRIME PREVENTION SYSTEM}Smart City Elevator Crime Prevention System {SMART CITY ELEVATOR CRIME PREVENTION SYSTEM}

본 문서에서 개시되는 다양한 실시 예들은, 스마트시티 엘리베이터 범죄 예방 시스템에 관한 것이다. 보다 상세하게는, 엘리베이터 내의 동작 및/또는 음성을 인식하여 실시간으로 범죄를 모니터링함으로써, 범죄를 예방하는 시스템에 관한 것이다.Various embodiments disclosed in this document relate to a smart city elevator crime prevention system. More specifically, it relates to a system for preventing crime by recognizing motion and/or voice in an elevator and monitoring crime in real time.

일반적으로 감시 수단을 통해 특정 장소를 감시하고 이상이 발견되는 경우 그에 대응하는 조치나 사후 확인이 가능하도록 하는 감시 시스템은 보안이 중요한 장소의 출입구, 주차장, 빌딩, 산업 현장 및 주택가 등 다양한 곳에 도입되어 왔다. 이를 통해 보안성이 향상되고 출입 관리가 쉬워지며 범죄율이 하락하는 효과가 입증됨에 따라 점차 다양하고 일반화되어 확산되고 있다.In general, a surveillance system that monitors a specific place through surveillance means and enables countermeasures or post-confirmation when an abnormality is found is introduced in various places such as entrances, parking lots, buildings, industrial sites, and residential areas where security is important. come. Through this, as security is improved, access control becomes easier, and the effect of reducing the crime rate is proven, it is gradually becoming more diverse and generalized.

일반적으로 이러한 감시 수단은 대체로 CCTV와 같이 이미지 및 영상 정보를 획득하고, 획득한 정보에 기반하여 객체 및 행동을 식별하는 방식으로 이루어진다.In general, these monitoring means are generally made in a way to acquire image and video information, such as CCTV, and to identify objects and actions based on the acquired information.

특히, 최근 컴퓨터를 통해 많은 정보를 받아들이고 이를 분석하고 해석하는 기술로써 딥러닝과 머신 러닝 알고리즘이 연구되고 있고, 이러한 기술들이 감시 시스템에 적용됨에 따라 객체, 행동 및 음성 등을 학습함으로써, 범죄의 발생 여부를 판단하는 기술이 적용되고 있다.In particular, deep learning and machine learning algorithms are currently being studied as technologies that accept, analyze, and interpret a lot of information through computers, and as these technologies are applied to surveillance systems, by learning objects, actions, and voices, crimes occur The technology to determine whether or not is being applied.

하지만 종래의 감시 시스템은 영상 정보를 녹화하는데 그치고, 실시간 모니터링을 위한 인력 부족 등을 이유로, 사전 예방 목적보다는 사후 원인 분석을 위한 블랙박스 형태의 영상분석 시스템에 한정되는 경우가 존재한다.However, there are cases in which conventional surveillance systems stop at recording video information and are limited to black box-type video analysis systems for post-causal analysis rather than preventive purposes due to lack of manpower for real-time monitoring.

또한, 기존의 감시 시스템은 영상 정보만을 획득하고 소리 정보를 획득하지 않으므로, CCTV 등의 영상 정보 획득 장치의 사각에서 발생하는 협박과 같은 범죄에 대하여 음성을 통해 모니터링하는데 제한이 있을 수 있다.In addition, since existing surveillance systems acquire only video information and do not acquire sound information, there may be limitations in monitoring crimes such as intimidation occurring in the blind spot of video information acquisition devices such as CCTVs through voice.

또한, 기존의 감시 시스템은 인력에 의해 감지가 이루어져야 하고, 감시 인력의 범죄 발생에 대한 대처가 미숙한 경우에는, 감시 시스템만으로 범죄 예방에 불충분할 수 있다.In addition, the existing surveillance system must be detected by manpower, and if the surveillance manpower is inexperienced in coping with the occurrence of a crime, the surveillance system alone may be insufficient for crime prevention.

본 개시에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또다른 기술적 과제들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical tasks to be achieved in the present disclosure are not limited to the technical tasks mentioned above, and other technical tasks not mentioned will be clearly understood by those skilled in the art from the description below. You will be able to.

일 실시 예에 따른 엘리베이터 범죄 예방 시스템은, 적어도 하나의 센서, 상기 적어도 하나의 센서와 데이터 통신 가능하도록 연결되는 플랫폼 서버 및 상기 적어도 하나의 센서와 작동적으로(operatively) 연결되는 제어부를 포함하고, 상기 제어부는, 상기 적어도 하나의 센서를 제어함으로써 상기 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득하고, 상기 동작 정보 및/또는 상기 소리 정보에 기반하여, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하고, 상기 동작 정보 및/또는 상기 소리 정보가 상기 지정된 조건을 만족하는 경우, 상기 플랫폼 서버를 통해 클라이언트 단말로 경보 데이터를 전송할 수 있다.An elevator crime prevention system according to an embodiment includes at least one sensor, a platform server connected to the at least one sensor for data communication, and a control unit operatively connected to the at least one sensor, The controller obtains motion information and/or sound information generated inside the elevator by controlling the at least one sensor, and based on the motion information and/or the sound information, the motion information and/or the sound. It is determined whether the information satisfies a specified condition, and when the operation information and/or the sound information satisfy the specified condition, alert data may be transmitted to the client terminal through the platform server.

일 실시 예에 따른 엘리베이터 범죄 예방 방법은, 적어도 하나의 센서를 이용하여, 상기 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득하는 동작, 상기 동작 정보 및/또는 상기 소리 정보에 기반하여, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작, 상기 동작 정보 및/또는 상기 소리 정보가 상기 지정된 조건을 만족하는 것으로 판단하는 것에 응답하여, 플랫폼 서버를 통해 클라이언트 단말로 경보 데이터를 전송하는 동작을 포함할 수 있다.
또한, 엘리베이터 범죄 예방 시스템에 있어서, 적어도 하나의 센서; 상기 적어도 하나의 센서와 데이터 통신 가능하도록 연결되는 플랫폼 서버; 및 상기 적어도 하나의 센서와 작동적으로(operatively) 연결되는 제어부를 포함하고, 상기 제어부는: 상기 적어도 하나의 센서를 제어함으로써 상기 엘리베이터 내부에서 발생하는 동작 정보 및 소리 정보를 획득하고, 상기 동작 정보를 획득하기 위해, 상기 적어도 하나의 센서는 카메라 또는 CCTV 또는 동작 감지 센서 중 적어도 하나를 포함하고, 상기 소리 정보를 획득하기 위해, 상기 적어도 하나의 센서는 소리 감지 센서 또는 음성 인식 센서 중 적어도 하나를 포함하며, 상기 동작 정보 및 상기 소리 정보에 기반하여, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하고, 상기 지정된 조건은 상기 동작 정보 및 상기 소리 정보에 기반하여 범죄 발생 여부를 판단하며, 상기 클라이언트 단말기는 범죄 관련 기관의 PC, Web, Application 중 적어도 하나로 참조될 수 있는 것, 상기 동작 정보 및 상기 소리 정보가 상기 지정된 조건을 만족하는 경우, 상기 플랫폼 서버를 통해 클라이언트 단말기로 경보 데이터를 전송하며, 인공 지능 학습 모듈을 더 포함하고, 상기 제어부는, 상기 인공 지능 학습 모듈을 통해, 상기 적어도 하나의 센서를 제어함으로써 획득된 상기 동작 정보 및 상기 소리 정보를 학습하고, 상기 학습 결과에 기반하여, 상기 엘리베이터 내에서 범죄가 발생하는지 여부를 모니터링하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 DeepPose 및 HRNET2 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 자세를 추정하되, 상기 엘리베이터 내 발생 가능한 싸움, 쓰러짐 및 유기 중 적어도 일부를 추정하고, 관절의 좌표를 통해 자세를 추정하고, 깊이 정보를 통해 3D 자세를 추정하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 R(2+1)D 및 I3D 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 행동을 추정하되, 순간적인 동작 및 행동을 추정하고, 상기 적어도 하나의 센서를 통해 감지한 데이터에 Mask R-CNN 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 손동작을 추정하되, 16개의 손가락 관절에 대해 3차원 좌표를 투영하여 손동작을 감지하고 추정하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 Kospeech 알고리즘을 적용하여 상기 엘리베이터 내부에서 발생하는 소리를 추정하되, 음향 모델과 언어 모델 학습을 통해 사전에 약속된 음성 또는 소리에 대해 감지하고 추정하고, 상기 동작 정보에 대해 상기 DeepPose 및 HRNET2 알고리즘과, 상기 R(2+1)D 및 I3D 알고리즘과, 상기 Mask R-CNN 알고리즘을 각각 이용하여 상기 사람의 자세, 사람의 행동 및 사람의 손동작을 추정하고, 상기 소리 정보에 대해 상기 Kospeech 알고리즘을 이용하여 소리를 추정하며, 상기 적어도 하나의 센서와 통신 가능하도록 연결되어 상기 동작 정보 및 상기 소리 정보를 수신하여 저장하는 NVR(network video recorder) 서버를 포함하고, 상기 플랫폼 서버는 상기 NVR 서버로부터 상기 동작 정보 및 상기 소리 정보를 포함하는 데이터를 수신하며, 상기 지정된 조건은, 상기 동작 정보 또는 상기 소리 정보가 각각 기 지정된 동작 또는 기 지정된 소리와 일치하는지 여부를 포함하고, 상기 기 지정된 동작은 자세, 행동 및 손동작 중 적어도 하나를 포함하며, 상기 엘리베이터 내부에 배치되는 스피커를 더 포함하고, 상기 제어부는, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는 경우, 상기 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력하는 것을 특징으로 한다.
또한, 엘리베이터 범죄 예방 방법에 있어서, 적어도 하나의 센서를 이용하여, 상기 엘리베이터 내부에서 발생하는 동작 정보 및 소리 정보를 획득하는 동작; 상기 동작 정보 및 상기 소리 정보에 기반하여, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작; 상기 동작 정보를 획득하기 위해, 상기 적어도 하나의 센서는 카메라 또는 CCTV 또는 동작 감지 센서 중 적어도 하나를 포함하고, 상기 소리 정보를 획득하기 위해, 상기 적어도 하나의 센서는 소리 감지 센서 또는 음성 인식 센서 중 적어도 하나를 포함하며, 상기 동작 정보 및 상기 소리 정보가 상기 지정된 조건을 만족하는 것으로 판단하는 것에 응답하여, 플랫폼 서버를 통해 클라이언트 단말기로 경보 데이터를 전송하는 동작을 포함하며, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 인공 지능 학습 모듈을 더 포함하고, 상기 지정된 조건은 상기 동작 정보 및 상기 소리 정보에 기반하여 범죄 발생 여부를 판단하며, 상기 클라이언트 단말기는 범죄 관련 기관의 PC, Web, Application 중 적어도 하나로 참조될 수 있는 것, 상기 제어부는, 상기 인공 지능 학습 모듈을 통해, 상기 적어도 하나의 센서를 제어함으로써 획득된 상기 동작 정보 및 상기 소리 정보를 학습하고, 상기 학습 결과에 기반하여, 상기 엘리베이터 내에서 범죄가 발생하는지 여부를 모니터링하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 DeepPose 및 HRNET2 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 자세를 추정하되, 상기 엘리베이터 내 발생 가능한 싸움, 쓰러짐 및 유기 중 적어도 일부를 추정하고, 관절의 좌표를 통해 자세를 추정하고, 깊이 정보를 통해 3D 자세를 추정하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 R(2+1)D 및 I3D 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 행동을 추정하되, 순간적인 동작 및 행동을 추정하고, 상기 적어도 하나의 센서를 통해 감지한 데이터에 Mask R-CNN 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 손동작을 추정하되, 16개의 손가락 관절에 대해 3차원 좌표를 투영하여 손동작을 감지하고 추정하며, 상기 적어도 하나의 센서를 통해 감지한 데이터에 Kospeech 알고리즘을 적용하여 상기 엘리베이터 내부에서 발생하는 소리를 추정하되, 음향 모델과 언어 모델 학습을 통해 사전에 약속된 음성 또는 소리에 대해 감지하고 추정하고, 상기 동작 정보에 대해 상기 DeepPose 및 HRNET2 알고리즘과, 상기 R(2+1)D 및 I3D 알고리즘과, 상기 Mask R-CNN 알고리즘을 각각 이용하여 상기 사람의 자세, 사람의 행동 및 사람의 손동작을 추정하며, 상기 소리 정보에 대해 상기 Kospeech 알고리즘을 이용하여 소리를 추정하고, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 동작 정보가 기 지정된 자세, 행동 및 손동작 중 적어도 하나와 일치하는지 여부를 판단하는 동작을 포함하며, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 소리 정보가 기 지정된 음성과 일치하는지 여부를 판단하는 동작을 포함하고, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는 경우, 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력하는 동작을 포함하는 것을 특징으로 한다.
An elevator crime prevention method according to an embodiment is an operation of obtaining operation information and / or sound information occurring inside the elevator using at least one sensor, based on the operation information and / or the sound information, In response to determining whether the operation information and/or the sound information satisfies the specified condition, and determining that the operation information and/or the sound information satisfy the specified condition, the client terminal via the platform server. It may include an operation of transmitting alert data to .
In addition, in the elevator crime prevention system, at least one sensor; a platform server connected to the at least one sensor to enable data communication; and a control unit operatively connected to the at least one sensor, wherein the control unit obtains motion information and sound information generated inside the elevator by controlling the at least one sensor, and the motion information In order to obtain, the at least one sensor includes at least one of a camera or a CCTV or a motion detection sensor, and to obtain the sound information, the at least one sensor uses at least one of a sound detection sensor or a voice recognition sensor. and determining, based on the motion information and the sound information, whether the motion information and the sound information satisfy a specified condition, wherein the specified condition determines whether or not a crime has occurred based on the motion information and the sound information. and if the client terminal can be referred to at least one of PC, Web, and Application of a crime-related agency, and the operation information and the sound information satisfy the specified conditions, an alarm is sent to the client terminal through the platform server. transmits data, and further includes an artificial intelligence learning module, wherein the control unit learns the motion information and the sound information obtained by controlling the at least one sensor through the artificial intelligence learning module, and the learning result Based on, monitoring whether a crime occurs in the elevator, and estimating the posture of a person inside the elevator by applying DeepPose and HRNET2 algorithms to the data detected through the at least one sensor, At least some of possible fights, falls, and abandonments are estimated, postures are estimated through joint coordinates, 3D postures are estimated through depth information, and R(2+1) is applied to the data detected through the at least one sensor. D and I3D algorithms are applied to estimate the behavior of the person inside the elevator, instantaneous motion and behavior are estimated, and Mask R is applied to the data detected through the at least one sensor. -Apply the CNN algorithm to estimate the hand motion of the person inside the elevator, detect and estimate the hand motion by projecting three-dimensional coordinates on 16 finger joints, and apply the Kospeech algorithm to the data detected through the at least one sensor Applied to estimate the sound generated inside the elevator, detect and estimate the voice or sound promised in advance through acoustic model and language model learning, and for the motion information, the DeepPose and HRNET2 algorithms, the R ( 2+1) D and I3D algorithms, and the Mask R-CNN algorithm are used to estimate the human posture, human action, and human hand motion, and the sound is estimated using the Kospeech algorithm for the sound information and a network video recorder (NVR) server communicatively connected to the at least one sensor to receive and store the operation information and the sound information, wherein the platform server includes the operation information and the sound from the NVR server. Receive data including information, wherein the specified condition includes whether the motion information or the sound information matches a predetermined motion or a predetermined sound, wherein the predetermined motion is at least one of a posture, an action, and a hand motion. and a speaker disposed inside the elevator, wherein the control unit outputs an alarm sound to the inside of the elevator through the speaker when the operation information and the sound information satisfy specified conditions. to be characterized
In addition, in the elevator crime prevention method, using at least one sensor, obtaining operation information and sound information generated inside the elevator; determining whether the motion information and the sound information satisfy specified conditions based on the motion information and the sound information; To obtain the motion information, the at least one sensor includes at least one of a camera or a CCTV or a motion sensor, and to obtain the sound information, the at least one sensor is a sound sensor or a voice recognition sensor. and transmitting alert data to a client terminal through a platform server in response to determining that the operation information and the sound information satisfy the specified condition, and the operation information and the sound include at least one. The operation of determining whether information satisfies a specified condition further includes an artificial intelligence learning module, wherein the specified condition determines whether or not a crime has occurred based on the motion information and the sound information, and the client terminal is related to a crime. What can be referred to as at least one of the institution's PC, Web, and Application, wherein the control unit learns the motion information and the sound information obtained by controlling the at least one sensor through the artificial intelligence learning module, and Based on the learning result, monitoring whether a crime occurs in the elevator, and estimating the posture of a person inside the elevator by applying DeepPose and HRNET2 algorithms to the data detected through the at least one sensor, the elevator Estimating at least some of possible fights, falls, and abandonments, estimating posture through coordinates of joints, estimating 3D posture through depth information, and adding R(2+ to data detected through the at least one sensor) 1) Estimating the behavior of a person inside the elevator by applying D and I3D algorithms, estimating instantaneous motion and behavior, and applying the Mask R-CNN algorithm to data sensed through the at least one sensor to estimate the elevator The hand motion of the person inside is estimated, but the hand motion is detected and estimated by projecting three-dimensional coordinates on 16 finger joints, and Kospeech algorithm is applied to the data detected through the at least one sensor. A gorism is applied to estimate the sound generated inside the elevator, but through acoustic model and language model learning, pre-promised voice or sound is detected and estimated, and the DeepPose and HRNET2 algorithms and the The human posture, human action, and human hand motion are estimated using the R(2+1)D and I3D algorithms and the Mask R-CNN algorithm, respectively, and the Kospeech algorithm is used to estimate the sound information. The operation of estimating and determining whether the motion information and the sound information satisfy a specified condition includes an operation of determining whether the motion information matches at least one of a predetermined posture, action, and hand motion, The operation of determining whether the operation information and the sound information satisfy a specified condition includes determining whether the sound information matches a pre-specified voice, and the operation information and the sound information satisfy the specified condition. When satisfied, it characterized in that it comprises an operation of outputting an alarm sound to the inside of the elevator through a speaker.

본 개시의 다양한 실시 예에 따르면, 실시간으로 엘리베이터 내의 범죄 정보를 수집, 모니터링 함으로써 범죄 발생을 즉각적으로 감지할 수 있다.According to various embodiments of the present disclosure, the occurrence of a crime can be immediately detected by collecting and monitoring crime information in an elevator in real time.

또한 본 개시의 다양한 실시 예에 따르면, 실시간으로 엘리베이터 내의 범죄 발생을 감지하고, 이를 관계 기관에 전송함으로써 범죄에 대해 신속히 대처할 수 있다.In addition, according to various embodiments of the present disclosure, it is possible to quickly respond to crime by detecting the occurrence of a crime in an elevator in real time and transmitting it to a related institution.

또한 본 개시의 다양한 실시 예에 따르면, 실시간으로 엘리베이터 내의 범죄 발생을 감지하고, 이에 대응하여 경보 메시지를 출력함으로써 범죄 발생 및 추가 범죄를 예방할 수 있다.In addition, according to various embodiments of the present disclosure, it is possible to prevent crime and additional crime by detecting crime in the elevator in real time and outputting a warning message in response thereto.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description below. will be.

본 발명의 특정한 바람직한 실시예들의 상기에서 설명한 바와 같은 또한 다른 측면들과, 특징들 및 이득들은 첨부 도면들과 함께 처리되는 하기의 설명으로부터 보다 명백하게 될 것이다.
도 1은 일 실시 예에 따른 엘리베이터 범죄 예방 시스템을 도시한다.
도 2는 일 실시 예에 따라 감지한 정보를 클라이언트 단말기에 전송하는 구조를 도시한다.
도 3a는 일 실시 예에 따라 자세를 감지, 추정하는 알고리즘을 도시한다.
도 3b는 일 실시 예에 따라 행동을 식별하는 알고리즘을 도시한다.
도 3c는 일 실시 예에 따라 손동작을 감지, 추정하는 알고리즘을 도시한다.
도 4는 일 실시 예에 따라 음성 정보를 인식하는 알고리즘을 도시한다.
도 5는 일 실시 예에 따른 엘리베이터 범죄 예방 방법을 나타내는 흐름도다.
도 6은 일 실시 예에 따라 스피커를 통해 경보 소리를 출력하는 동작을 나타내는 흐름도다.
도면의 설명과 관련하여, 동일 또는 실질적으로 동일한 구성요소에 대해서는 동일한 참조 부호가 사용될 수 있다.
Also other aspects as described above, features and benefits of certain preferred embodiments of the present invention will become more apparent from the following description taken in conjunction with the accompanying drawings.
1 shows an elevator crime prevention system according to an embodiment.
2 illustrates a structure for transmitting detected information to a client terminal according to an embodiment.
3A illustrates an algorithm for detecting and estimating a posture according to an embodiment.
3B depicts an algorithm for identifying actions, according to one embodiment.
3C illustrates an algorithm for detecting and estimating a hand gesture according to an embodiment.
4 illustrates an algorithm for recognizing voice information according to an embodiment.
5 is a flowchart illustrating an elevator crime prevention method according to an embodiment.
6 is a flowchart illustrating an operation of outputting an alarm sound through a speaker according to an exemplary embodiment.
In connection with the description of the drawings, like reference numerals may be used for identical or substantially identical elements.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 도면부호는 동일 구성 요소를 지칭한다.Advantages and features of the present invention, and methods for achieving them, will become clear with reference to the embodiments described below in detail in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and only the present embodiments make the disclosure of the present invention complete, and common knowledge in the art to which the present invention belongs It is provided to fully inform the holder of the scope of the invention, and the present invention is only defined by the scope of the claims. Like reference numerals designate like elements throughout the specification.

본 발명의 실시 예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들을 본 발명의 실시 예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. In describing the embodiments of the present invention, if it is determined that a detailed description of a known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description will be omitted. In addition, the terms to be described below are terms defined in consideration of functions in an embodiment of the present invention, which may vary according to the intention or custom of a user or operator. Therefore, the definition should be made based on the contents throughout this specification.

이때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.At this time, it will be understood that each block of the process flow chart diagrams and combinations of the flow chart diagrams can be performed by computer program instructions. These computer program instructions may be embodied in a processor of a general purpose computer, special purpose computer, or other programmable data processing equipment, so that the instructions executed by the processor of the computer or other programmable data processing equipment are described in the flowchart block(s). It creates means to perform functions. These computer program instructions may also be stored in a computer usable or computer readable memory that can be directed to a computer or other programmable data processing equipment to implement functionality in a particular way, such that the computer usable or computer readable memory The instructions stored in are also capable of producing an article of manufacture containing instruction means that perform the functions described in the flowchart block(s). The computer program instructions can also be loaded on a computer or other programmable data processing equipment, so that a series of operational steps are performed on the computer or other programmable data processing equipment to create a computer-executed process to generate computer or other programmable data processing equipment. Instructions for performing processing equipment may also provide steps for performing the functions described in the flowchart block(s).

또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.Additionally, each block may represent a module, segment, or portion of code that includes one or more executable instructions for executing specified logical function(s). It should also be noted that in some alternative implementations it is possible for the functions mentioned in the blocks to occur out of order. For example, two blocks shown in succession may in fact be executed substantially concurrently, or the blocks may sometimes be executed in reverse order depending on their function.

이 때, 본 실시 예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA(field-Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.At this time, the term '~unit' used in this embodiment means software or a hardware component such as a field-programmable gate array (FPGA) or application specific integrated circuit (ASIC), and what role does '~unit' have? perform them However, '~ part' is not limited to software or hardware. '~bu' may be configured to be in an addressable storage medium and may be configured to reproduce one or more processors. Therefore, as an example, '~unit' refers to components such as software components, object-oriented software components, class components, and task components, processes, functions, properties, and procedures. , subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays, and variables. Functions provided within components and '~units' may be combined into smaller numbers of components and '~units' or further separated into additional components and '~units'. In addition, components and '~units' may be implemented to play one or more CPUs in a device or a secure multimedia card.

본 발명의 실시예들을 구체적으로 설명함에 있어서, 특정 시스템의 예를 주된 대상으로 할 것이지만, 본 명세서에서 청구하고자 하는 주요한 요지는 유사한 기술적 배경을 가지는 여타의 통신 시스템 및 서비스에도 본 명세서에 개시된 범위를 크게 벗어나지 아니하는 범위에서 적용 가능하며, 이는 당해 기술분야에서 숙련된 기술적 지식을 가진 자의 판단으로 가능할 것이다.In describing the embodiments of the present invention in detail, an example of a specific system will be the main target, but the main subject matter to be claimed in this specification extends the scope disclosed herein to other communication systems and services having a similar technical background. It can be applied within a range that does not deviate greatly, and this will be possible with the judgment of those skilled in the art.

도 1은 일 실시 예에 따른 엘리베이터 범죄 예방 시스템을 도시한다.1 shows an elevator crime prevention system according to an embodiment.

도 1을 참조하면, 일 실시 예에 따른 엘리베이터 범죄 예방 시스템(100)(이하, 범죄 예방 시스템)은 적어도 하나의 센서(110), 적어도 하나의 센서와 통신 가능하도록 연결되는 NVR(network video recording) 서버(120), 플랫폼 서버(130) 및 플랫폼 서버(130)와 데이터 통신이 가능하도록 연결된 클라이언트 단말기(140)를 포함할 수 있다.Referring to FIG. 1 , an elevator crime prevention system 100 (hereinafter, crime prevention system) according to an embodiment includes at least one sensor 110 and a network video recording (NVR) connected to communicate with the at least one sensor. It may include a server 120, a platform server 130, and a client terminal 140 connected to the platform server 130 to enable data communication.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 동작 정보 및/또는 소리 정보를 획득할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 이용하여 엘리베이터 내부의 동작 및/또는 소리를 감지할 수 있다.According to an embodiment, the crime prevention system 100 may obtain motion information and/or sound information through at least one sensor 110 . According to one embodiment, the crime prevention system 100 may detect motion and/or sound inside the elevator using at least one sensor 110 .

일 실시 예에 따르면, 적어도 하나의 센서(110)는 카메라 또는 CCTV(closed circuit television)로 참조될 수 있다. 다른 실시 예에 따르면, 적어도 하나의 센서(110)는 동작 감지 센서, 소리 감지 센서 또는 음성 인식 센서 중 하나로 참조될 수 있으나, 이에 한정되는 것은 아니다. 예를 들어, 범죄 예방 시스템(100)은 동작 감지 센서를 통해 엘리베이터 내부의 동작을 감지할 수 있다. 다른 예를 들어, 범죄 예방 시스템(100)은 CCTV를 통해 엘리베이터 내부에 존재하는 인원의 자세, 손동작 또는 행동 중 적어도 하나를 감지할 수 있다. 또다른 예를 들면, 범죄 예방 시스템(100)은 소리 감지 센서를 통해 엘리베이터 내부에서 발생한 소리를 감지할 수 있다.According to one embodiment, at least one sensor 110 may be referred to as a camera or closed circuit television (CCTV). According to another embodiment, at least one sensor 110 may be referred to as one of a motion detection sensor, a sound detection sensor, or a voice recognition sensor, but is not limited thereto. For example, the crime prevention system 100 may detect motion inside an elevator through a motion sensor. For another example, the crime prevention system 100 may detect at least one of a posture, hand motion, or action of a person present inside the elevator through CCTV. As another example, the crime prevention system 100 may detect sound generated inside the elevator through a sound sensor.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 획득한 동작 정보 및/또는 소리 정보를 NVR 서버(120)로 전송할 수 있다. 일 실시 예에 따르면, NVR 서버(120)는 획득한 동작 정보 및/또는 소리 정보를 디지털 형태의 데이터로 압축 및 저장할 수 있다. 일 실시 예에 따르면, NVR 서버(120)는 디지털 형태로 저장된 동작 정보 및/또는 소리 정보를 편집하고, 출력할 수 있다. 일 실시 예에 따르면, NVR 서버(120)는 디지털 형태로 저장된 동작 정보 및/또는 소리 정보를 플랫폼 서버(130)로 전송할 수 있다.According to an embodiment, the crime prevention system 100 may transmit motion information and/or sound information acquired through at least one sensor 110 to the NVR server 120 . According to an embodiment, the NVR server 120 may compress and store acquired motion information and/or sound information as digital data. According to one embodiment, the NVR server 120 may edit and output motion information and/or sound information stored in digital form. According to one embodiment, the NVR server 120 may transmit motion information and/or sound information stored in digital form to the platform server 130 .

일 실시 예에 따르면, 범죄 예방 시스템(100)은 NVR 서버(120)와 데이터 통신이 가능하도록 연결된 플랫폼 서버(130)를 포함할 수 있다. 일 실시 예에 따른 플랫폼 서버(130)는 NVR 서버(120)로부터 디지털 형태로 변환된 동작 정보 및/또는 소리 정보를 수신할 수 있다. 예를 들어, NVR 서버(120)는 RTSP(real time streaming protocol) 통신을 이용하여 플랫폼 서버(130)로 데이터를 전송할 수 있다.According to one embodiment, the crime prevention system 100 may include a platform server 130 connected to the NVR server 120 to enable data communication. The platform server 130 according to an embodiment may receive motion information and/or sound information converted into digital form from the NVR server 120 . For example, the NVR server 120 may transmit data to the platform server 130 using real time streaming protocol (RTSP) communication.

일 실시 예에 따르면, 플랫폼 서버(130)는 NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보에 기반하여 엘리베이터 내부의 범죄 발생 여부를 판단할 수 있다. 이에 대한 구체적인 설명은 도 5를 통해 후술한다.According to an embodiment, the platform server 130 may determine whether a crime has occurred inside the elevator based on motion information and/or sound information received from the NVR server 120 . A detailed description of this will be described later with reference to FIG. 5 .

일 실시 예에 따르면, 플랫폼 서버(130)는 NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보에 기반하여 상황 데이터 및 경보 데이터를 생성할 수 있다. 일 실시 예에 따르면, 플랫폼 서버(130)는 NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보를 분석함으로써 상황 데이터 및 경보 데이터 중 적어도 일부를 생성할 수 있다. 예를 들어, 플랫폼 서버(130)는 인공 지능 학습 모듈(예: 기계 학습 모델)을 포함하고, 인공 지능 학습 모듈을 통해 NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보를 학습할 수 있다. 예를 들어, 플랫폼 서버(130)는 인공 지능 학습 모듈(예: 기계 학습 모델)을 이용하여, NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보를 학습하고, 학습 결과에 기반하여 엘리베이터 내부의 범죄 발생 여부를 판단할 수 있다. 예를 들어, 플랫폼 서버(130)는 인공 지능 학습 모듈(예: 기계 학습 모델)을 이용하여, NVR 서버(120)로부터 수신한 동작 정보 및/또는 소리 정보를 학습하고, 학습 결과에 기반하여 상황 데이터 및 경보 데이터 중 적어도 일부를 생성할 수 있다.According to an embodiment, the platform server 130 may generate situation data and alarm data based on motion information and/or sound information received from the NVR server 120 . According to an embodiment, the platform server 130 may generate at least some of situation data and alarm data by analyzing motion information and/or sound information received from the NVR server 120 . For example, the platform server 130 may include an artificial intelligence learning module (eg, a machine learning model) and learn motion information and/or sound information received from the NVR server 120 through the artificial intelligence learning module. there is. For example, the platform server 130 learns motion information and/or sound information received from the NVR server 120 using an artificial intelligence learning module (eg, a machine learning model), and based on the learning result, the elevator It can determine whether a crime has occurred inside. For example, the platform server 130 learns motion information and/or sound information received from the NVR server 120 using an artificial intelligence learning module (eg, a machine learning model), and based on the learning result, a situation At least some of data and alert data may be generated.

도 2는 일 실시 예에 따라 감지한 정보를 클라이언트 단말기에 전송하는 구조를 도시한다.2 illustrates a structure for transmitting detected information to a client terminal according to an embodiment.

도 1 및 도 2를 함께 참조하면, 일 실시 예에 따른 플랫폼 서버(130)는 로컬 서버 또는 클라우드 서버 중 하나로 참조될 수 있다. 일 실시 예에 따르면, 플랫폼 서버(130)는 적어도 하나의 센서(110) 또는 NVR 서버(120)로부터 수신한 데이터를 저장, 편집 및 전송할 수 있다. 예를 들어, 플랫폼 서버(130)는 내부망으로부터 요청을 수신하고 인터넷에 연결함으로써 클라이언트 단말기(140)로 데이터를 전송하는 Forward proxy 방식으로 데이터를 전송할 수 있다.Referring to FIGS. 1 and 2 together, the platform server 130 according to an embodiment may be referred to as either a local server or a cloud server. According to one embodiment, the platform server 130 may store, edit, and transmit data received from at least one sensor 110 or NVR server 120 . For example, the platform server 130 may transmit data in a forward proxy method of receiving a request from an internal network and transmitting data to the client terminal 140 by connecting to the Internet.

일 실시 예에 따르면, 플랫폼 서버(130)는 상황 데이터 및 경보 데이터 중 적어도 일부를 클라이언트 단말기(140)로 전송할 수 있다. 일 실시 예에 따르면, 플랫폼 서버(130)는 분석 결과에 따라 생성한 상황 데이터 및 경보 데이터 중 적어도 일부를 웹 서버에 구축된 어플리케이션을 통해 클라이언트 단말기(140)로 전송할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 엘리베이터 내부에서 범죄가 발생하는 것으로 인식하는 경우, 플랫폼 서버(130)를 통해 상황 데이터 및 경보 데이터 중 적어도 일부를 클라이언트 단말기(140)로 전송할 수 있다.According to one embodiment, the platform server 130 may transmit at least some of the situation data and alert data to the client terminal 140 . According to an embodiment, the platform server 130 may transmit at least some of the situation data and alarm data generated according to the analysis result to the client terminal 140 through an application built in the web server. According to an embodiment, the crime prevention system 100 may transmit at least some of situation data and alarm data to the client terminal 140 through the platform server 130 when recognizing that a crime occurs inside the elevator. .

일 실시 예에 따르면, 클라이언트 단말기(140)는 범죄 관련 기관(예: 경찰서 또는 소방서)의 PC(personal computer), Web, APP(application) 중 적어도 하나로 참조될 수 있으나, 이에 한정되는 것은 아니며 다양한 종류의 전자 장치로 참조될 수 있다. According to one embodiment, the client terminal 140 may refer to at least one of a PC (personal computer), Web, and APP (application) of a crime-related institution (eg, a police station or a fire station), but is not limited thereto, and various types of It may be referred to as an electronic device of.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 동작 정보 및/또는 소리 정보를 획득하고, 획득한 정보에 기반하여 범죄 발생 여부를 판단한 후, 범죄가 발생한 것으로 판단되는 경우, 상황 데이터 및 경보 데이터를 클라이언트 단말기(140)로 전송할 수 있다.According to an embodiment, the crime prevention system 100 obtains motion information and/or sound information through at least one sensor 110, determines whether a crime has occurred based on the obtained information, and determines that a crime has occurred. If determined, the situation data and alert data may be transmitted to the client terminal 140 .

도 3a는 일 실시 예에 따라 자세를 감지, 추정하는 알고리즘을 도시한다. 도 3b는 일 실시 예에 따라 행동을 식별하는 알고리즘을 도시한다. 도 3c는 일 실시 예에 따라 손동작을 감지, 추정하는 알고리즘을 도시한다.3A illustrates an algorithm for detecting and estimating a posture according to an embodiment. 3B depicts an algorithm for identifying actions, according to one embodiment. 3C illustrates an algorithm for detecting and estimating a hand gesture according to an embodiment.

도 3a 내지 도 3c를 함께 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 엘리베이터 내부에서 발생하는 이벤트에 대한 동작을 감지할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 엘리베이터 내부에 존재하는 사람의 자세, 행동 및 손동작 중 적어도 일부를 감지할 수 있다.Referring to FIGS. 3A to 3C , the crime prevention system 100 according to an embodiment may detect an operation of an event occurring inside an elevator through at least one sensor 110 . According to an embodiment, the crime prevention system 100 may detect at least some of the posture, behavior, and hand motion of a person present in the elevator through at least one sensor 110 .

도 3a를 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)(예: 동작 감지 센서)를 이용하여 엘리베이터 내부에서 사람의 자세에 관한 정보를 획득할 수 있다.Referring to FIG. 3A , the crime prevention system 100 according to an embodiment may obtain information about a person's posture inside an elevator using at least one sensor 110 (eg, a motion detection sensor).

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 기반하여 자세를 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmPose 패키지의 DeepPose 및 HRNET2 알고리즘을 적용함으로써, 엘리베이터 내부의 사람의 자세를 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmPose 패키지의 DeepPose 및 HRNET2 알고리즘을 적용함으로써, 엘리베이터 내 발생 가능한 싸움, 쓰러짐 및 유기 중 적어도 일부를 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmPose 패키지의 DeepPose 및 HRNET2 알고리즘을 적용함으로써, 관절의 좌표를 통해 자세를 추정하고, 깊이 정보를 통해 3D 자세를 추정할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmPose 패키지의 DeepPose 및 HRNET2 알고리즘을 적용함으로써, 자세를 추정함으로써 범죄 발생 상황을 감지할 수 있다.According to an embodiment, the crime prevention system 100 may estimate a posture based on data sensed through at least one sensor 110 . For example, the crime prevention system 100 may estimate the posture of a person inside the elevator by applying DeepPose and HRNET2 algorithms of the mmPose package to data sensed through at least one sensor 110 . For example, the crime prevention system 100 estimates at least some of fights, falls, and abandonments that may occur in an elevator by applying DeepPose and HRNET2 algorithms of the mmPose package to data detected through at least one sensor 110. can For example, the crime prevention system 100 applies the DeepPose and HRNET2 algorithms of the mmPose package to data detected through at least one sensor 110, thereby estimating the posture through joint coordinates and 3D data through depth information. position can be estimated. According to an embodiment, the crime prevention system 100 may detect a crime occurrence situation by estimating a posture by applying DeepPose and HRNET2 algorithms of the mmPose package to data sensed through at least one sensor 110 .

도 3b를 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)(예: 동작 감지 센서)를 이용하여 엘리베이터 내부에서 사람의 행동에 관한 정보를 획득할 수 있다.Referring to FIG. 3B , the crime prevention system 100 according to an embodiment may obtain information about a person's behavior in an elevator using at least one sensor 110 (eg, a motion detection sensor).

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 기반하여 엘리베이터 내부에서 사람의 행동을 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmAction2 패키지의 R(2+1)D 및 I3D 알고리즘을 적용함으로써, 엘리베이터 내부의 사람의 행동을 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 mmPose 패키지의 DeepPose 및 HRNET2 알고리즘 및 mmAction2 패키지의 R(2+1)D 및 I3D 알고리즘을 상호보완적으로 적용함으로써, 순간적인 동작 및 행동을 높은 신뢰도를 가지고 추정할 수 있다.According to an embodiment, the crime prevention system 100 may estimate a person's behavior inside the elevator based on data sensed through at least one sensor 110 . For example, the crime prevention system 100 applies the R(2+1)D and I3D algorithms of the mmAction2 package to data sensed through at least one sensor 110 to estimate the behavior of a person inside the elevator. can For example, the crime prevention system 100 complementarily uses DeepPose and HRNET2 algorithms of the mmPose package and R(2+1)D and I3D algorithms of the mmAction2 package on data detected through at least one sensor 110. By applying it, instantaneous motions and behaviors can be estimated with high reliability.

도 3c를 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)(예: 동작 감지 센서)를 이용하여 엘리베이터 내부에서 사람의 손동작에 관한 정보를 획득할 수 있다.Referring to FIG. 3C , the crime prevention system 100 according to an embodiment may obtain information about a person's hand motion inside an elevator using at least one sensor 110 (eg, a motion detection sensor).

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 기반하여 엘리베이터 내부에서 사람의 손동작을 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Mmdetection 패키지의 Mask R-CNN 알고리즘을 적용함으로써, 엘리베이터 내부의 사람의 손동작을 추정할 수 있다. 예를 들어, 범죄 예방 시스템은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Mmdetection 패키지의 Mask R-CNN 알고리즘을 적용함으로써, 16개의 손가락 관절에 대해 3차원 좌표를 투영하여 손동작을 감지하고 추정할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Mmdetection 패키지의 Mask R-CNN 알고리즘을 적용함으로써, 사전에 약속된 특정 손동작을 감지, 추정함으로써 범죄 발생 상황을 감지할 수 있다.According to an embodiment, the crime prevention system 100 may estimate a person's hand motion inside the elevator based on data sensed through at least one sensor 110 . For example, the crime prevention system 100 may estimate the hand motion of a person inside the elevator by applying the Mask R-CNN algorithm of the Mmdetection package to data sensed through at least one sensor 110 . For example, the crime prevention system detects and estimates hand motions by projecting three-dimensional coordinates for 16 finger joints by applying the Mask R-CNN algorithm of the Mmdetection package to data detected through at least one sensor 110. can do. According to an embodiment, the crime prevention system 100 applies the Mask R-CNN algorithm of the Mmdetection package to the data sensed through at least one sensor 110 to detect and estimate a specific hand motion promised in advance, thereby estimating a crime. occurrence can be detected.

도 4는 일 실시 예에 따라 음성 정보를 인식하는 알고리즘을 도시한다.4 illustrates an algorithm for recognizing voice information according to an embodiment.

도 4를 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)(예: 소리 감지 센서, 음성 인식 센서)를 이용하여 엘리베이터 내부에서 발생하는 소리에 관한 정보를 획득할 수 있다.Referring to FIG. 4 , the crime prevention system 100 according to an embodiment obtains information about sound generated inside an elevator using at least one sensor 110 (eg, a sound detection sensor, a voice recognition sensor). can do.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 기반하여 엘리베이터 내부에서 발생하는 소리를 추정할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Joint-ctc-attention 패키지의 Kospeech 알고리즘을 적용함으로써, 엘리베이터 내부에서 발생하는 소리를 추정할 수 있다. 예를 들어, 범죄 예방 시스템은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Joint-ctc-attention 패키지의 Kospeech 알고리즘을 적용함으로써, 음향 모델과 언어 모델 학습을 통해 사전에 약속된 음성 또는 소리에 대해 감지하고 추정할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 감지한 데이터에 Joint-ctc-attention 패키지의 Kospeech 알고리즘을 적용함으로써, 엘리베이터 내에서 발생하는 음성 또는 특정 소리를 감지, 추정함으로써 범죄 발생 상황을 감지할 수 있다.According to an embodiment, the crime prevention system 100 may estimate the sound generated inside the elevator based on data detected through at least one sensor 110 . For example, the crime prevention system 100 may estimate the sound generated inside the elevator by applying the Kospeech algorithm of the Joint-ctc-attention package to data sensed through at least one sensor 110 . For example, the crime prevention system applies the Kospeech algorithm of the Joint-ctc-attention package to data sensed through at least one sensor 110, and through learning an acoustic model and a language model, a previously promised voice or sound is obtained. can be detected and estimated. According to an embodiment, the crime prevention system 100 detects a voice or a specific sound generated in an elevator by applying the Kospeech algorithm of the Joint-ctc-attention package to data detected through at least one sensor 110. , it is possible to detect the crime occurrence situation by estimating.

도 5는 일 실시 예에 따른 엘리베이터 범죄 예방 방법을 나타내는 흐름도다.5 is a flowchart illustrating an elevator crime prevention method according to an embodiment.

도 5를 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 적어도 하나의 센서(110)를 통해 엘리베이터 내부에서 발생한 동작 및/또는 소리에 따라 범죄 발생이 감지된 경우, 경보 데이터 및/또는 상황 데이터를 클라이언트 단말기(140)로 전송할 수 있다.Referring to FIG. 5 , in the crime prevention system 100 according to an embodiment, when a crime is detected according to motion and/or sound generated inside the elevator through at least one sensor 110, alarm data and/or Condition data may be transmitted to the client terminal 140 .

일 실시 예에 따르면, 범죄 예방 시스템(100)(또는 제어부)은 동작 501에서 적어도 하나의 센서(110)를 이용하여 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 동작 501에서 적어도 하나의 센서(110)를 이용하여 감지한 엘리베이터 내부의 동작 또는 소리에 기반하여 동작 정보 또는 소리 정보를 획득할 수 있다. 예를 들어, 범죄 예방 시스템(100)은 음성 인식 센서를 이용하여 엘리베이터 내부에서 발생한 음성을 감지할 수 있다. 다른 예를 들어, 범죄 예방 시스템(100)은 동작 감지 센서를 이용하여 엘리베이터 내부에서 사람의 동작, 자세 또는 손동작 중 적어도 일부를 감지할 수 있다.According to an embodiment, the crime prevention system 100 (or control unit) may obtain motion information and/or sound information generated inside the elevator using at least one sensor 110 in operation 501. According to an embodiment, the crime prevention system 100 may obtain motion information or sound information based on motion or sound inside the elevator sensed using at least one sensor 110 in operation 501 . For example, the crime prevention system 100 may detect a voice generated inside an elevator using a voice recognition sensor. For another example, the crime prevention system 100 may detect at least some of a person's motion, posture, or hand motion inside the elevator using a motion sensor.

일 실시 예에 따르면, 범죄 예방 시스템(100)(또는 제어부)은 동작 503에서, 동작 501을 통해 획득한 동작 정보 및/또는 소리 정보가 지정된 조건을 만족하는지 여부를 판단할 수 있다. 일 실시 예에 따르면, 지정된 조건은 기 지정된 범죄 발생 상황으로 참조될 수 있다. 예를 들어, 범죄 예방 시스템(100)은 동작 503에서 동작 정보 또는 소리 정보가 각각 기 지정된 동작 또는 기 지정된 소리와 일치하는지 여부를 판단할 수 있다. 다른 예를 들어, 범죄 예방 시스템(100)은 동작 503에서 동작 정보 또는 소리 정보가 인공 지능 학습 모델의 학습을 통해 도출한 범죄 발생 상황과 일치하는지 여부를 판단할 수 있다.According to an embodiment, in operation 503, the crime prevention system 100 (or the control unit) may determine whether motion information and/or sound information obtained through operation 501 satisfy a specified condition. According to an embodiment, the specified condition may be referred to as a pre-specified crime occurrence situation. For example, in operation 503, the crime prevention system 100 may determine whether motion information or sound information matches a predetermined motion or a predetermined sound. For another example, in operation 503, the crime prevention system 100 may determine whether motion information or sound information matches a crime occurrence situation derived through learning of an artificial intelligence learning model.

일 실시 예에 따르면, 범죄 예방 시스템(100)(또는 제어부)은 동작 503을 통해 동작 정보 또는 소리 정보가 기 지정된 조건을 만족하는 것으로 판단한 경우, 동작 505에서 플랫폼 서버(130)를 통해 클라이언트 단말기(140)로 경보 데이터를 전송할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 동작 503을 통해 범죄 발생이 감지된 경우, 동작 505에서 플랫폼 서버(130)를 통해 생성한 경보 데이터 및 상황 데이터 중 적어도 하나를 클라이언트 단말기(140)로 전송할 수 있다. 일 실시 예에 따른 범죄 예방 시스템(100)이 동작 505에서 경보 데이터 및/또는 상황 데이터를 클라이언트 단말기(140)로 전송하는 동작은, 도 1 및 도 2의 구성을 통해 참조될 수 있다.According to an embodiment, when the crime prevention system 100 (or control unit) determines that motion information or sound information satisfies a pre-specified condition through operation 503, through the platform server 130 in operation 505, the client terminal ( 140) may transmit alarm data. According to an embodiment, the crime prevention system 100 transmits at least one of alert data and situation data generated through the platform server 130 in operation 505 when a crime is detected through operation 503 to the client terminal 140. can be sent to An operation in which the crime prevention system 100 according to an embodiment transmits alert data and/or situation data to the client terminal 140 in operation 505 may be referred to through configurations of FIGS. 1 and 2 .

도 6은 일 실시 예에 따라 스피커를 통해 경보 소리를 출력하는 동작을 나타내는 흐름도다.6 is a flowchart illustrating an operation of outputting an alarm sound through a speaker according to an exemplary embodiment.

도 5 및 도 6을 참조하면, 일 실시 예에 따른 범죄 예방 시스템(100)은 엘리베이터 내부의 동작 또는 소리에 기반하여 범죄 발생이 감지된 경우, 경보 데이터를 클라이언트 단말기(140)에 전송하고, 엘리베이터에 경보 소리를 출력할 수 있다.5 and 6, the crime prevention system 100 according to an embodiment transmits alarm data to the client terminal 140 when a crime is detected based on an operation or sound inside the elevator, and the elevator An alarm sound can be output to

일 실시 예에 따르면, 범죄 예방 시스템(100)는 엘리베이터 내부에 배치되는 적어도 하나의 스피커를 더 포함할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 동작 601에서 엘리베이터 내부에 배치되는 적어도 하나의 스피커를 통해 경보 소리를 출력할 수 있다. 일 실시 예에 따르면, 범죄 예방 시스템(100)은 동작 601에서 엘리베이터 내부에 배치되는 적어도 하나의 스피커를 통해 경보 소리를 엘리베이터 내부로 출력할 수 있다.According to one embodiment, the crime prevention system 100 may further include at least one speaker disposed inside the elevator. According to one embodiment, the crime prevention system 100 may output an alarm sound through at least one speaker disposed inside the elevator in operation 601 . According to one embodiment, the crime prevention system 100 may output an alarm sound to the inside of the elevator through at least one speaker disposed inside the elevator in operation 601 .

일 실시 예에 따르면, 범죄 예방 시스템(100)은 동작 601에서 엘리베이터 내부에 배치되는 적어도 하나의 스피커를 통해 경보 소리를 엘리베이터 내부로 출력함으로써, 범죄를 중단하도록 유도하거나 추가 범죄를 방지할 수 있다.According to one embodiment, the crime prevention system 100 outputs an alarm sound to the inside of the elevator through at least one speaker disposed inside the elevator in operation 601, thereby inducing a crime to be stopped or preventing additional crime.

일 실시 예에 따른 엘리베이터 범죄 예방 시스템(100)은, 적어도 하나의 센서, 상기 적어도 하나의 센서와 데이터 통신 가능하도록 연결되는 플랫폼 서버(130) 및 상기 적어도 하나의 센서와 작동적으로(operatively) 연결되는 제어부를 포함하고, 상기 제어부는, 상기 적어도 하나의 센서를 제어함으로써 상기 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득하고, 상기 동작 정보 및/또는 상기 소리 정보에 기반하여, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하고, 상기 동작 정보 및/또는 상기 소리 정보가 상기 지정된 조건을 만족하는 경우, 상기 플랫폼 서버(130)를 통해 클라이언트 단말기(140)로 경보 데이터를 전송할 수 있다.Elevator crime prevention system 100 according to an embodiment is operatively connected to at least one sensor, a platform server 130 connected to enable data communication with the at least one sensor, and the at least one sensor And a control unit that obtains operation information and / or sound information generated inside the elevator by controlling the at least one sensor, and based on the operation information and / or the sound information, the operation information It is determined whether the information and/or the sound information satisfies a specified condition, and when the operation information and/or the sound information satisfies the specified condition, the client terminal 140 is transmitted through the platform server 130. Alert data can be transmitted.

일 실시 예에 따른 엘리베이터 범죄 예방 시스템(100)은 상기 적어도 하나의 센서와 통신 가능하도록 연결되어 상기 동작 정보 및/또는 상기 소리 정보를 수신하여 저장하는 NVR(network video recorder) 서버(120)를 포함하고, 상기 플랫폼 서버(130)는 상기 NVR 서버(120)로부터 상기 동작 정보 및/또는 상기 소리 정보를 포함하는 데이터를 수신할 수 있다.The elevator crime prevention system 100 according to an embodiment includes a network video recorder (NVR) server 120 that is communicatively connected to the at least one sensor and receives and stores the operation information and/or the sound information. and the platform server 130 may receive data including the operation information and/or the sound information from the NVR server 120 .

일 실시 예에 따른 상기 지정된 조건은, 상기 동작 정보 또는 상기 소리 정보가 각각 기 지정된 동작 또는 기 지정된 소리와 일치하는지 여부를 포함할 수 있다.According to an embodiment, the designated condition may include whether the motion information or the sound information matches a predetermined motion or a predetermined sound, respectively.

일 실시 예에 따르면, 상기 기 지정된 동작은 자세, 행동 및 손동작 중 적어도 하나를 포함할 수 있다.According to an embodiment, the predetermined motion may include at least one of a posture, a behavior, and a hand motion.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 인공 지능 학습 모듈을 더 포함하고, 상기 제어부는 상기 인공 지능 학습 모듈을 통해, 상기 적어도 하나의 센서를 제어함으로써 획득된 상기 동작 정보 및/또는 상기 소리 정보를 학습하고, 상기 학습 결과에 기반하여, 상기 엘리베이터 내에서 범죄가 발생하는지 여부를 모니터링할 수 있다.According to an embodiment, the crime prevention system 100 further includes an artificial intelligence learning module, and the control unit controls the at least one sensor through the artificial intelligence learning module, and/or the operation information and/or the information obtained by controlling the at least one sensor. It is possible to learn sound information and monitor whether or not a crime occurs in the elevator based on the learning result.

일 실시 예에 따르면, 범죄 예방 시스템(100)은 엘리베이터 내부에 배치되는 스피커를 더 포함하고, 상기 제어부는, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는 경우, 상기 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력할 수 있다.According to one embodiment, the crime prevention system 100 further includes a speaker disposed inside the elevator, and the controller, when the operation information and/or the sound information satisfies a specified condition, through the speaker An alarm sound can be output to the inside of the elevator.

일 실시 예에 따른 엘리베이터 범죄 예방 방법은, 적어도 하나의 센서를 이용하여, 상기 엘리베이터 내부에서 발생하는 동작 정보 및/또는 소리 정보를 획득하는 동작, 상기 동작 정보 및/또는 상기 소리 정보에 기반하여, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작, 상기 동작 정보 및/또는 상기 소리 정보가 상기 지정된 조건을 만족하는 것으로 판단하는 것에 응답하여, 플랫폼 서버(130)를 통해 클라이언트 단말기(140)로 경보 데이터를 전송하는 동작을 포함할 수 있다.An elevator crime prevention method according to an embodiment is an operation of obtaining operation information and / or sound information occurring inside the elevator using at least one sensor, based on the operation information and / or the sound information, In response to determining whether the operation information and/or the sound information satisfies the specified condition, and determining that the motion information and/or the sound information satisfy the specified condition, the platform server 130 It may include an operation of transmitting alert data to the client terminal 140 through.

일 실시 예에 따르면, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 동작 정보가 기 지정된 자세, 행동 및 손동작 중 적어도 하나와 일치하는지 여부를 판단하는 동작을 포함할 수 있다.According to an embodiment, the operation of determining whether the motion information and/or the sound information satisfies a specified condition is an operation of determining whether the motion information matches at least one of a pre-specified posture, behavior, and hand motion. can include

일 실시 예에 따르면, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 소리 정보가 기 지정된 음성과 일치하는지 여부를 판단하는 동작을 포함할 수 있다.According to an embodiment, the operation of determining whether the operation information and/or the sound information satisfies a specified condition may include an operation of determining whether the sound information matches a pre-specified voice.

일 실시 예에 따르면, 상기 동작 정보 및/또는 상기 소리 정보가 지정된 조건을 만족하는 경우, 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력하는 동작을 포함할 수 있다.According to an embodiment, when the operation information and/or the sound information satisfies a specified condition, an operation of outputting an alarm sound to the inside of the elevator through a speaker may be included.

이와 같이, 본 발명의 다양한 실시예들은 특정 관점에서 컴퓨터 리드 가능 기록 매체(computer readable recording medium)에서 컴퓨터 리드 가능 코드(computer readable code)로서 구현될 수 있다. 컴퓨터 리드 가능 기록 매체는 컴퓨터 시스템에 의해 리드될 수 있는 데이터를 저장할 수 있는 임의의 데이터 저장 디바이스이다. 컴퓨터 리드 가능 기록 매체의 예들은 읽기 전용 메모리(read only memory: ROM)와, 랜덤-접속 메모리(random access memory: RAM)와, 컴팩트 디스크- 리드 온니 메모리(compact disk-read only memory: CD-ROM)들과, 마그네틱 테이프(magnetic tape)들과, 플로피 디스크(floppy disk)들과, 광 데이터 저장 디바이스들, 및 캐리어 웨이브(carrier wave)들(인터넷을 통한 데이터 송신 등)을 포함할 수 있다. 컴퓨터 리드 가능 기록 매체는 또한 네트워크 연결된 컴퓨터 시스템들을 통해 분산될 수 있고, 따라서 컴퓨터 리드 가능 코드는 분산 방식으로 저장 및 실행된다. 또한, 본 발명의 다양한 실시예들을 성취하기 위한 기능적 프로그램들, 코드, 및 코드 세그먼트(segment)들은 본 발명이 적용되는 분야에서 숙련된 프로그래머들에 의해 쉽게 해석될 수 있다.As such, various embodiments of the present invention may be implemented as computer readable codes in a computer readable recording medium from a specific point of view. A computer readable recording medium is any data storage device capable of storing data readable by a computer system. Examples of computer readable recording media include read only memory (ROM), random access memory (RAM), and compact disk-read only memory (CD-ROM). ), magnetic tapes, floppy disks, optical data storage devices, and carrier waves (such as data transmission over the Internet). The computer readable recording medium may also be distributed across networked computer systems, so that computer readable code is stored and executed in a distributed manner. In addition, functional programs, code, and code segments for achieving various embodiments of the present invention can be easily interpreted by programmers skilled in the field to which the present invention is applied.

또한 본 발명의 다양한 실시예들에 따른 장치 및 방법은 하드웨어, 소프트웨어 또는 하드웨어 및 소프트웨어의 조합의 형태로 실현 가능하다는 것을 알 수 있을 것이다. 이러한 소프트웨어는 예를 들어, 삭제 가능 또는 재기록 가능 여부와 상관없이, ROM 등의 저장 장치와 같은 휘발성 또는 비휘발성 저장 장치, 또는 예를 들어, RAM, 메모리 칩, 장치 또는 집적 회로와 같은 메모리, 또는 예를 들어 콤팩트 디스크(compact disk: CD), DVD, 자기 디스크 또는 자기 테이프 등과 같은 광학 또는 자기적으로 기록 가능함과 동시에 기계(예를 들어, 컴퓨터)로 읽을 수 있는 저장 매체에 저장될 수 있다. 본 발명의 다양한 실시예들에 따른 방법은 제어 모듈 및 메모리를 포함하는 컴퓨터 또는 휴대 단말에 의해 구현될 수 있고, 이러한 메모리는 본 발명의 실시예들을 구현하는 명령들을 포함하는 프로그램 또는 프로그램들을 저장하기에 적합한 기계로 읽을 수 있는 저장 매체의 한 예임을 알 수 있을 것이다. It will also be appreciated that the apparatus and method according to various embodiments of the present invention can be realized in the form of hardware, software, or a combination of hardware and software. Such software may include, for example, volatile or non-volatile storage devices such as ROM, whether removable or rewritable, or memory, such as RAM, memory chips, devices or integrated circuits, or For example, it may be stored in an optically or magnetically recordable and machine (eg, computer) readable storage medium such as a compact disk (CD), DVD, magnetic disk, or magnetic tape. A method according to various embodiments of the present invention may be implemented by a computer or portable terminal including a control module and a memory, and the memory stores a program or programs including instructions for implementing the embodiments of the present invention. It will be appreciated that this is an example of a machine-readable storage medium suitable for

따라서, 본 발명은 본 명세서의 청구항에 기재된 장치 또는 방법을 구현하기 위한 코드를 포함하는 프로그램 및 이러한 프로그램을 저장하는 기계(컴퓨터 등)로 읽을 수 있는 저장 매체를 포함한다. 또한, 이러한 프로그램은 유선 또는 무선 연결을 통해 전달되는 통신 신호와 같은 임의의 매체를 통해 전자적으로 이송될 수 있고, 본 발명은 이와 균등한 것을 적절하게 포함한다.Accordingly, the present invention includes a program including code for implementing the device or method described in the claims of this specification and a storage medium readable by a machine (such as a computer) storing such a program. In addition, such a program may be transmitted electronically through any medium, such as a communication signal transmitted through a wired or wireless connection, and the present invention appropriately includes equivalents thereto.

본 명세서와 도면에 개시된 본 발명의 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고, 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 또한 앞서 설명된 본 발명에 따른 실시예들은 예시적인 것에 불과하며, 당해 분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 범위의 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 다음의 특허청구범위에 의해서 정해져야 할 것이다.Embodiments of the present invention disclosed in the present specification and drawings are merely presented as specific examples to easily explain the technical content of the present invention and help understanding of the present invention, and are not intended to limit the scope of the present invention. In addition, the embodiments according to the present invention described above are merely exemplary, and those skilled in the art will understand that various modifications and embodiments of equivalent range are possible therefrom. Therefore, the true technical protection scope of the present invention should be defined by the following claims.

Claims (10)

엘리베이터 범죄 예방 시스템에 있어서,
적어도 하나의 센서;
상기 적어도 하나의 센서와 데이터 통신 가능하도록 연결되는 플랫폼 서버; 및
상기 적어도 하나의 센서와 작동적으로(operatively) 연결되는 제어부를 포함하고,
상기 제어부는:
상기 적어도 하나의 센서를 제어함으로써 상기 엘리베이터 내부에서 발생하는 동작 정보 및 소리 정보를 획득하고,
상기 동작 정보를 획득하기 위해, 상기 적어도 하나의 센서는 카메라 또는 CCTV 또는 동작 감지 센서 중 적어도 하나를 포함하고,
상기 소리 정보를 획득하기 위해, 상기 적어도 하나의 센서는 소리 감지 센서 또는 음성 인식 센서 중 적어도 하나를 포함하며,
상기 동작 정보 및 상기 소리 정보에 기반하여, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하고,
상기 지정된 조건은 상기 동작 정보 및 상기 소리 정보에 기반하여 범죄 발생 여부를 판단하며,
상기 클라이언트 단말기는 범죄 관련 기관의 PC, Web, Application 중 적어도 하나로 참조될 수 있는 것,
상기 동작 정보 및 상기 소리 정보가 상기 지정된 조건을 만족하는 경우, 상기 플랫폼 서버를 통해 클라이언트 단말기로 경보 데이터를 전송하며,
인공 지능 학습 모듈을 더 포함하고,
상기 제어부는, 상기 인공 지능 학습 모듈을 통해, 상기 적어도 하나의 센서를 제어함으로써 획득된 상기 동작 정보 및 상기 소리 정보를 학습하고, 상기 학습 결과에 기반하여, 상기 엘리베이터 내에서 범죄가 발생하는지 여부를 모니터링하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 DeepPose 및 HRNET2 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 자세를 추정하되, 상기 엘리베이터 내 발생 가능한 싸움, 쓰러짐 및 유기 중 적어도 일부를 추정하고, 관절의 좌표를 통해 자세를 추정하고, 깊이 정보를 통해 3D 자세를 추정하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 R(2+1)D 및 I3D 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 행동을 추정하되, 순간적인 동작 및 행동을 추정하고,
상기 적어도 하나의 센서를 통해 감지한 데이터에 Mask R-CNN 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 손동작을 추정하되, 16개의 손가락 관절에 대해 3차원 좌표를 투영하여 손동작을 감지하고 추정하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 Kospeech 알고리즘을 적용하여 상기 엘리베이터 내부에서 발생하는 소리를 추정하되, 음향 모델과 언어 모델 학습을 통해 사전에 약속된 음성 또는 소리에 대해 감지하고 추정하고,
상기 동작 정보에 대해 상기 DeepPose 및 HRNET2 알고리즘과, 상기 R(2+1)D 및 I3D 알고리즘과, 상기 Mask R-CNN 알고리즘을 각각 이용하여 상기 사람의 자세, 사람의 행동 및 사람의 손동작을 추정하고, 상기 소리 정보에 대해 상기 Kospeech 알고리즘을 이용하여 소리를 추정하며,
상기 적어도 하나의 센서와 통신 가능하도록 연결되어 상기 동작 정보 및 상기 소리 정보를 수신하여 저장하는 NVR(network video recorder) 서버를 포함하고,
상기 플랫폼 서버는 상기 NVR 서버로부터 상기 동작 정보 및 상기 소리 정보를 포함하는 데이터를 수신하며,
상기 지정된 조건은, 상기 동작 정보 또는 상기 소리 정보가 각각 기 지정된 동작 또는 기 지정된 소리와 일치하는지 여부를 포함하고,
상기 기 지정된 동작은 자세, 행동 및 손동작 중 적어도 하나를 포함하며,
상기 엘리베이터 내부에 배치되는 스피커를 더 포함하고,
상기 제어부는, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는 경우, 상기 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력하는, 엘리베이터 범죄 예방 시스템.
In the elevator crime prevention system,
at least one sensor;
a platform server connected to the at least one sensor to enable data communication; and
A control unit operatively connected with the at least one sensor,
The control unit:
Obtaining motion information and sound information generated inside the elevator by controlling the at least one sensor;
To obtain the motion information, the at least one sensor includes at least one of a camera or a CCTV or a motion sensor,
To obtain the sound information, the at least one sensor includes at least one of a sound detection sensor and a voice recognition sensor,
Based on the motion information and the sound information, determining whether the motion information and the sound information satisfy a specified condition;
The specified condition determines whether a crime has occurred based on the motion information and the sound information,
The client terminal may refer to at least one of a PC, Web, and Application of a crime-related institution;
When the operation information and the sound information satisfy the specified condition, alert data is transmitted to a client terminal through the platform server;
It further includes an artificial intelligence learning module;
The control unit learns, through the artificial intelligence learning module, the motion information and the sound information obtained by controlling the at least one sensor, and based on the learning result, determines whether a crime occurs in the elevator. monitoring,
Estimating the posture of a person inside the elevator by applying DeepPose and HRNET2 algorithms to the data detected through the at least one sensor, estimating at least some of fights, falls, and abandonments that may occur in the elevator, and the coordinates of the joints estimating posture through depth information, estimating 3D posture through depth information,
Estimating the behavior of a person inside the elevator by applying R(2+1)D and I3D algorithms to the data sensed through the at least one sensor, estimating instantaneous motion and behavior,
The mask R-CNN algorithm is applied to the data detected through the at least one sensor to estimate the hand motion of the person inside the elevator, and the hand motion is detected and estimated by projecting three-dimensional coordinates on 16 finger joints,
Estimate the sound generated inside the elevator by applying the Kospeech algorithm to the data detected through the at least one sensor, and detect and estimate a previously promised voice or sound through learning an acoustic model and a language model,
With respect to the motion information, the DeepPose and HRNET2 algorithms, the R (2 + 1) D and I3D algorithms, and the Mask R-CNN algorithm are used to estimate the human posture, human behavior, and human hand gestures, , The sound is estimated using the Kospeech algorithm for the sound information,
A network video recorder (NVR) server connected to the at least one sensor to be communicatively connected to receive and store the operation information and the sound information;
The platform server receives data including the operation information and the sound information from the NVR server,
The specified condition includes whether the motion information or the sound information matches a pre-specified motion or a pre-specified sound, respectively;
The predetermined motion includes at least one of a posture, an action, and a hand motion,
Further comprising a speaker disposed inside the elevator,
The control unit outputs an alarm sound to the inside of the elevator through the speaker when the operation information and the sound information satisfy specified conditions.
삭제delete 삭제delete 삭제delete 삭제delete 삭제delete 엘리베이터 범죄 예방 방법에 있어서,
적어도 하나의 센서를 이용하여, 상기 엘리베이터 내부에서 발생하는 동작 정보 및 소리 정보를 획득하는 동작;
상기 동작 정보 및 상기 소리 정보에 기반하여, 상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작;
상기 동작 정보를 획득하기 위해, 상기 적어도 하나의 센서는 카메라 또는 CCTV 또는 동작 감지 센서 중 적어도 하나를 포함하고,
상기 소리 정보를 획득하기 위해, 상기 적어도 하나의 센서는 소리 감지 센서 또는 음성 인식 센서 중 적어도 하나를 포함하며,
상기 동작 정보 및 상기 소리 정보가 상기 지정된 조건을 만족하는 것으로 판단하는 것에 응답하여, 플랫폼 서버를 통해 클라이언트 단말기로 경보 데이터를 전송하는 동작을 포함하며,
상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 인공 지능 학습 모듈을 더 포함하고,
상기 지정된 조건은 상기 동작 정보 및 상기 소리 정보에 기반하여 범죄 발생 여부를 판단하며,
상기 클라이언트 단말기는 범죄 관련 기관의 PC, Web, Application 중 적어도 하나로 참조될 수 있는 것,
상기 제어부는, 상기 인공 지능 학습 모듈을 통해, 상기 적어도 하나의 센서를 제어함으로써 획득된 상기 동작 정보 및 상기 소리 정보를 학습하고, 상기 학습 결과에 기반하여, 상기 엘리베이터 내에서 범죄가 발생하는지 여부를 모니터링하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 DeepPose 및 HRNET2 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 자세를 추정하되, 상기 엘리베이터 내 발생 가능한 싸움, 쓰러짐 및 유기 중 적어도 일부를 추정하고, 관절의 좌표를 통해 자세를 추정하고, 깊이 정보를 통해 3D 자세를 추정하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 R(2+1)D 및 I3D 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 행동을 추정하되, 순간적인 동작 및 행동을 추정하고,
상기 적어도 하나의 센서를 통해 감지한 데이터에 Mask R-CNN 알고리즘을 적용하여 상기 엘리베이터 내부의 사람의 손동작을 추정하되, 16개의 손가락 관절에 대해 3차원 좌표를 투영하여 손동작을 감지하고 추정하며,
상기 적어도 하나의 센서를 통해 감지한 데이터에 Kospeech 알고리즘을 적용하여 상기 엘리베이터 내부에서 발생하는 소리를 추정하되, 음향 모델과 언어 모델 학습을 통해 사전에 약속된 음성 또는 소리에 대해 감지하고 추정하고,
상기 동작 정보에 대해 상기 DeepPose 및 HRNET2 알고리즘과, 상기 R(2+1)D 및 I3D 알고리즘과, 상기 Mask R-CNN 알고리즘을 각각 이용하여 상기 사람의 자세, 사람의 행동 및 사람의 손동작을 추정하며, 상기 소리 정보에 대해 상기 Kospeech 알고리즘을 이용하여 소리를 추정하고,
상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 동작 정보가 기 지정된 자세, 행동 및 손동작 중 적어도 하나와 일치하는지 여부를 판단하는 동작을 포함하며,
상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는지 여부를 판단하는 동작은, 상기 소리 정보가 기 지정된 음성과 일치하는지 여부를 판단하는 동작을 포함하고,
상기 동작 정보 및 상기 소리 정보가 지정된 조건을 만족하는 경우, 스피커를 통해 상기 엘리베이터 내부로 경보 소리를 출력하는 동작을 포함하는, 엘리베이터 범죄 예방 방법.
In the elevator crime prevention method,
obtaining operation information and sound information generated inside the elevator by using at least one sensor;
determining whether the motion information and the sound information satisfy specified conditions based on the motion information and the sound information;
To obtain the motion information, the at least one sensor includes at least one of a camera or a CCTV or a motion sensor,
To obtain the sound information, the at least one sensor includes at least one of a sound detection sensor and a voice recognition sensor,
Transmitting alert data to a client terminal through a platform server in response to determining that the operation information and the sound information satisfy the specified condition;
The operation of determining whether the motion information and the sound information satisfy a specified condition further includes an artificial intelligence learning module,
The specified condition determines whether a crime has occurred based on the motion information and the sound information,
The client terminal may refer to at least one of a PC, Web, and Application of a crime-related institution;
The control unit learns, through the artificial intelligence learning module, the motion information and the sound information obtained by controlling the at least one sensor, and based on the learning result, determines whether a crime occurs in the elevator. monitoring,
Estimating the posture of a person inside the elevator by applying DeepPose and HRNET2 algorithms to the data detected through the at least one sensor, estimating at least some of fights, falls, and abandonments that may occur in the elevator, and the coordinates of the joints estimating posture through depth information, estimating 3D posture through depth information,
Estimating the behavior of a person inside the elevator by applying R(2+1)D and I3D algorithms to the data sensed through the at least one sensor, estimating instantaneous motion and behavior,
The mask R-CNN algorithm is applied to the data detected through the at least one sensor to estimate the hand motion of the person inside the elevator, and the hand motion is detected and estimated by projecting three-dimensional coordinates on 16 finger joints,
Estimate the sound generated inside the elevator by applying the Kospeech algorithm to the data detected through the at least one sensor, and detect and estimate a previously promised voice or sound through learning an acoustic model and a language model,
With respect to the motion information, the DeepPose and HRNET2 algorithms, the R (2 + 1) D and I3D algorithms, and the Mask R-CNN algorithm are used to estimate the human posture, human behavior, and human hand gestures, , The sound is estimated using the Kospeech algorithm for the sound information,
The operation of determining whether the motion information and the sound information satisfy a specified condition includes determining whether the motion information matches at least one of a predetermined posture, action, and hand motion;
The operation of determining whether the operation information and the sound information satisfy a specified condition includes determining whether the sound information matches a pre-specified voice,
Elevator crime prevention method comprising outputting an alarm sound to the inside of the elevator through a speaker when the operation information and the sound information satisfy a specified condition.
삭제delete 삭제delete 삭제delete
KR1020210184436A 2021-11-08 2021-12-22 Smart city elevator crime prevention system Active KR102511093B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210152119 2021-11-08
KR20210152119 2021-11-08

Publications (2)

Publication Number Publication Date
KR102511093B1 true KR102511093B1 (en) 2023-03-16
KR102511093B9 KR102511093B9 (en) 2024-04-08

Family

ID=85985466

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210184436A Active KR102511093B1 (en) 2021-11-08 2021-12-22 Smart city elevator crime prevention system

Country Status (1)

Country Link
KR (1) KR102511093B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006089256A (en) * 2004-09-27 2006-04-06 Toshiba Elevator Co Ltd Remote monitoring system of elevator
KR20190035186A (en) * 2017-09-26 2019-04-03 주식회사 바이캅 Intelligent unmanned security system using deep learning technique
KR102021441B1 (en) * 2019-05-17 2019-11-04 정태웅 Method and monitoring camera for detecting intrusion in real time based image using artificial intelligence
KR102145144B1 (en) * 2020-02-27 2020-08-18 주식회사 에이아이넷 Intelligent prevention system for prevention of elevator accident based on abnormality detection using ai machine learning
KR20210064886A (en) * 2019-11-26 2021-06-03 주식회사 케이티 Server, method and computer program for recognizing motion of person

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006089256A (en) * 2004-09-27 2006-04-06 Toshiba Elevator Co Ltd Remote monitoring system of elevator
KR20190035186A (en) * 2017-09-26 2019-04-03 주식회사 바이캅 Intelligent unmanned security system using deep learning technique
KR102021441B1 (en) * 2019-05-17 2019-11-04 정태웅 Method and monitoring camera for detecting intrusion in real time based image using artificial intelligence
KR20210064886A (en) * 2019-11-26 2021-06-03 주식회사 케이티 Server, method and computer program for recognizing motion of person
KR102145144B1 (en) * 2020-02-27 2020-08-18 주식회사 에이아이넷 Intelligent prevention system for prevention of elevator accident based on abnormality detection using ai machine learning

Also Published As

Publication number Publication date
KR102511093B9 (en) 2024-04-08

Similar Documents

Publication Publication Date Title
JP5043940B2 (en) Video surveillance system and method combining video and audio recognition
US9286778B2 (en) Method and system for security system tampering detection
KR102195706B1 (en) Method and Apparatus for Detecting Intruder
KR101425505B1 (en) The monitering method of Intelligent surveilance system by using object recognition technology
KR20220057213A (en) System for detecting abnormal behavior based on artificial intelligence
JP7162412B2 (en) detection recognition system
CN108027874A (en) Use the security system based on computer vision of depth camera
KR101411624B1 (en) Method and system for detecting fire
MXPA04003441A (en) Video tripwire.
KR102132086B1 (en) Unmanned shop control device and method thereof
JP2010514316A (en) Method for controlling an autonomous device
KR102472369B1 (en) Object tracking system based on sound source asking for emegency help and tracking method using the same
KR101075550B1 (en) Image sensing agent and security system of USN complex type
TWI756497B (en) Method, device and system for detecting a loitering event
JP2020013480A (en) Vehicle recognition system and vehicle recognition method
US20210225146A1 (en) Image-based disaster detection method and apparatus
KR20210013865A (en) Abnormal behavior detection system and method using generative adversarial network
KR102511093B1 (en) Smart city elevator crime prevention system
KR101885522B1 (en) Smoking monitoring apparatus
KR20130062489A (en) Device for tracking object and method for operating the same
US20220070361A1 (en) A method of using a machine-readable code for instructing camera for detecting and monitoring objects
KR20220019377A (en) Drone detection apparatus using deep learning and method thereof
US20190371142A1 (en) Pathway determination based on multiple input feeds
JP2011000699A (en) Drive recorder for robot
KR20220031168A (en) Display apparatus and control method thereof

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20211222

PA0201 Request for examination
PA0302 Request for accelerated examination

Patent event date: 20211223

Patent event code: PA03022R01D

Comment text: Request for Accelerated Examination

Patent event date: 20211222

Patent event code: PA03021R01I

Comment text: Patent Application

PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20220110

Patent event code: PE09021S01D

AMND Amendment
PE0902 Notice of grounds for rejection

Comment text: Final Notice of Reason for Refusal

Patent event date: 20220425

Patent event code: PE09021S02D

AMND Amendment
PE0601 Decision on rejection of patent

Patent event date: 20220701

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20220425

Comment text: Final Notice of Reason for Refusal

Patent event code: PE06011S02I

Patent event date: 20220110

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I

AMND Amendment
PX0901 Re-examination

Patent event code: PX09011S01I

Patent event date: 20220701

Comment text: Decision to Refuse Application

Patent event code: PX09012R01I

Patent event date: 20220516

Comment text: Amendment to Specification, etc.

Patent event code: PX09012R01I

Patent event date: 20220303

Comment text: Amendment to Specification, etc.

PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20221101

Patent event code: PE09021S01D

PX0701 Decision of registration after re-examination

Patent event date: 20230213

Comment text: Decision to Grant Registration

Patent event code: PX07013S01D

Patent event date: 20221006

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

Patent event date: 20220701

Comment text: Decision to Refuse Application

Patent event code: PX07011S01I

Patent event date: 20220516

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

Patent event date: 20220303

Comment text: Amendment to Specification, etc.

Patent event code: PX07012R01I

X701 Decision to grant (after re-examination)
GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20230313

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20230313

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
G170 Re-publication after modification of scope of protection [patent]
PG1701 Publication of correction

Patent event code: PG17011E01I

Patent event date: 20240402

Comment text: Request for Publication of Correction

Publication date: 20240408