[go: up one dir, main page]

KR20190102736A - Method and Apparatus for Video Denoising Considering Moving Object - Google Patents

Method and Apparatus for Video Denoising Considering Moving Object Download PDF

Info

Publication number
KR20190102736A
KR20190102736A KR1020180023579A KR20180023579A KR20190102736A KR 20190102736 A KR20190102736 A KR 20190102736A KR 1020180023579 A KR1020180023579 A KR 1020180023579A KR 20180023579 A KR20180023579 A KR 20180023579A KR 20190102736 A KR20190102736 A KR 20190102736A
Authority
KR
South Korea
Prior art keywords
image
motion
background
moving object
flow profile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020180023579A
Other languages
Korean (ko)
Other versions
KR102453392B1 (en
Inventor
배주한
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020180023579A priority Critical patent/KR102453392B1/en
Publication of KR20190102736A publication Critical patent/KR20190102736A/en
Application granted granted Critical
Publication of KR102453392B1 publication Critical patent/KR102453392B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • G06T5/002
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Picture Signal Circuits (AREA)

Abstract

이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치를 개시한다.
영상의 프레임 간 카메라 움직임을 판별하고, 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하며, 이동체가 존재하는 영역에서 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일을 기준 프레임과 비교하여 영상 잡음을 제거하는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치에 관한 것이다.
Disclosed are a method of image noise reduction and an apparatus therefor in consideration of a moving object.
Determining camera movement between frames of an image, estimating background motion and moving body motion based on camera movement, and comparing the flow profile of each background motion and moving body motion with reference frame in the area where moving body exists The present invention relates to a method for removing video noise considering a moving object and a device therefor.

Description

이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치{Method and Apparatus for Video Denoising Considering Moving Object}Image Noise Reduction Method and Apparatus Therefor {Method and Apparatus for Video Denoising Considering Moving Object}

본 발명의 실시예는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치에 관한 것이다. Embodiments of the present invention relate to an image noise removing method and apparatus therefor considering a moving object.

이 부분에 기술된 내용은 단순히 본 발명의 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The contents described in this section merely provide background information on the embodiments of the present invention and do not constitute a prior art.

일반적으로 영상 잡음 제거 기술은 공간 영역에서 영상 잡음을 제거하는 방식 및 시간 영역에서 영상 잡음을 제거하는 방식으로 구분될 수 있다. In general, image noise reduction techniques may be classified into a method of removing image noise in a spatial domain and a method of removing image noise in a time domain.

공간 영역에서 영상의 잡음을 제거하는 기술은 공간 영역에 대한 필터링을 수행하는 방법이 주로 사용된다. 공간 영역에서 필터링을 수행하는 방법에는 영상 잡음의 패턴을 고려하여 잡음을 제거하는 방법(한국공개특허 제10-2015-014259호), 센서 노이즈 특성을 고려하여 잡음을 제거하는 방법(한국공개특허 제10-2007-0061309호) 등이 있다. As a technique for removing noise in an image in the spatial domain, a method of performing filtering on the spatial domain is mainly used. The filtering method in the spatial domain includes a method of removing noise in consideration of a pattern of image noise (Korean Patent Laid-Open No. 10-2015-014259), and a method of removing noise in consideration of sensor noise characteristics (Korean Patent Publication No. 10-2007-0061309).

또한, 시간 영역에서 영상의 잡음을 제거하는 기술은 기준 영상을 설정하고, 기준 영상과 주변 영상을 이용하여 판단된 화면의 변화 정도에 따라 필터링 강도를 조정하여 영상 잡음을 제거하는 방법(한국공개특허 제10-2004-0024888)이 주로 사용된다. In addition, a technique for removing image noise in the time domain is a method of removing image noise by setting a reference image and adjusting the filtering intensity according to the degree of change of the screen determined using the reference image and the surrounding image. 10-2004-0024888) are mainly used.

하지만, 전술한 방법들은 카메라의 움직임이나 이동체의 모션을 고려하지 않고 배경 화소의 변화만을 이용하여 영상 잡음을 제거하는 방식이기 때문에 필터링 강도를 조절하더라도 왜곡이 생성된다. 따라서, 카메라의 움직임 또는 이동체의 모션을 고려하여 정확하게 영상 잡음을 제거하기 위한 방법이 필요하다. However, since the above-described methods remove image noise using only the change of the background pixel without considering the motion of the camera or the moving object, distortion is generated even if the filtering intensity is adjusted. Therefore, there is a need for a method for accurately removing image noise in consideration of camera movement or moving object movement.

본 발명의 실시예는 영상의 프레임 간 카메라 움직임을 판별하고, 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하며, 이동체가 존재하는 영역에서 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일을 기준 프레임과 비교하여 영상 잡음을 제거하는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치를 제공하는 데 주된 목적이 있다.An embodiment of the present invention determines a camera motion between frames of an image, estimates a background motion and a moving motion based on the movement of the camera, and references a flow profile for each of the background motion and the moving motion in a region where the moving object exists. A main object of the present invention is to provide an image noise removing method and an apparatus therefor in consideration of a moving object for removing image noise.

본 발명의 실시예의 일 측면에 의하면, 이동체를 고려하여 영상 잡음을 제거하는 장치에 있어서, 입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리부; 상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정부; 및 상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거부를 포함하는 것을 특징으로 하는 영상 잡음 제거장치를 제공한다.According to an aspect of an embodiment of the present invention, in the apparatus for removing image noise in consideration of a moving object, the scene change information of the input image is extracted, and the divided image is divided by dividing the image by the same scene based on the scene change information. An input image processor to generate; A motion estimator for checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And an image noise remover configured to remove image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion.

또한, 본 발명의 실시예의 다른 측면에 의하면, 이동체를 고려하여 영상 잡음을 제거하는 방법에 있어서, 입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리과정; 상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정과정; 및 상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거과정을 포함하는 것을 특징으로 하는 영상 잡음 제거방법을 제공한다.According to another aspect of an embodiment of the present invention, in the method for removing image noise in consideration of a moving object, the scene change information of the input image is extracted, and the image is divided and divided by the same scene based on the scene change information. An input image processing process of generating an image; A motion estimation process of checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And an image noise removing process of removing image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion.

이상에서 설명한 바와 같이 본 발명의 실시예에 의하면, 카메라 센서의 움직임, 영상 잡음의 패턴에 관계없이 고품질의 영상 잡음 제거 결과를 얻을 수 있는 효과가 있다. As described above, according to the exemplary embodiment of the present invention, it is possible to obtain a high quality image noise elimination result regardless of the movement of the camera sensor and the image noise pattern.

또한, 본 발명의 실시예에 의하면, 이동체 영역에 대한 부분적인 영상 정보를 이용하여 영상 잡음을 제거함에 따라 영상 잡음을 제거하는 시간을 단축시킬 수 있고, 스트리밍 환경에 적용 가능한 효과가 있다. In addition, according to an embodiment of the present invention, by eliminating the video noise by using partial image information on the moving object region, it is possible to shorten the time for removing the video noise and to apply to the streaming environment.

또한, 본 발명의 실시예에 의하면, 영상 잡음 제거 기술을 스트리밍 환경에 적용 가능함에 따라, IPTV, 실시간 스트리밍 컨텐츠, 지능형 영상 시스템의 실시간 모니터링 등 다양한 분야에 적용할 수 있는 효과가 있다. In addition, according to an embodiment of the present invention, the video noise reduction technology can be applied to the streaming environment, there is an effect that can be applied to various fields such as IPTV, real-time streaming content, real-time monitoring of intelligent video system.

도 1은 본 발명의 실시예에 따른 영상 잡음 제거장치를 개략적으로 나타낸 블록 구성도이다.
도 2는 본 발명의 실시예에 따른 영상 잡음 제거방법을 설명하기 위한 순서도이다.
도 3은 본 발명의 실시예에 따른 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다.
도 4는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 배경 및 이동체의 모션을 추정하는 동작을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 영상을 정합하고, 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다.
1 is a block diagram schematically illustrating an apparatus for removing video noise according to an exemplary embodiment of the present invention.
2 is a flowchart illustrating a method for removing image noise according to an exemplary embodiment of the present invention.
3 is an exemplary diagram for describing an operation of removing image noise according to an exemplary embodiment of the present invention.
4 is an exemplary view for explaining an operation of estimating a motion of a background and a moving object in an image noise removing device according to an exemplary embodiment of the present invention.
5 is an exemplary diagram for describing an operation of matching an image and removing image noise in an image noise removing apparatus according to an exemplary embodiment of the present invention.

이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시예에 따른 영상 잡음 제거장치를 개략적으로 나타낸 블록 구성도이다. 1 is a block diagram schematically illustrating an apparatus for removing video noise according to an exemplary embodiment of the present invention.

본 실시예에 따른 영상 잡음 제거장치(100)는 입력 영상 처리부(110), 모션 추정부(120) 및 영상 잡음 제거부(130)를 포함한다. The image noise canceller 100 according to the present exemplary embodiment includes an input image processor 110, a motion estimator 120, and an image noise remover 130.

입력 영상 처리부(110)는 입력 영상을 획득하고, 입력 영상의 장면 전환 여부를 판단하여 동일 공간에 대한 세그먼트(Segment)로 입력 영상을 분할한다. 여기서, 입력 영상은 카메라를 통해 촬영된 비디오 영상으로서, 복수의 공간영역을 촬영한 영상일 수 있다. 예를 들어, 입력 영상 처리부(110)는 PTZ(Pan-Tilt-Zoom) 카메라를 이용하여 복수의 기 설정된 영역을 촬영한 영상을 입력 영상으로 획득할 수 있다. The input image processor 110 obtains an input image, determines whether the input image is switched, and divides the input image into segments for the same space. The input image may be a video image captured by a camera and may be an image captured by a plurality of spatial regions. For example, the input image processor 110 may acquire an image of photographing a plurality of preset regions using an Pan-Tilt-Zoom (PTZ) camera as an input image.

입력 영상 처리부(110)는 입력 영상에 대한 장면 전환정보를 추출하고, 장면 전환정보를 이용하여 연속성 있는 공간에서 촬영된 영상으로 분할 처리한다. 입력 영상 처리부(110)는 동일한 공간을 기준으로 분할 처리된 영상을 분할 영상으로 기재하며, 본 실시예에서는 분할 영상 내에 포함된 프레임을 이용하여 잡음 제거를 수행한다. The input image processor 110 extracts scene change information of the input image and divides the scene change information into images captured in a continuous space using the scene change information. The input image processor 110 describes the divided image based on the same space as the divided image, and in this embodiment, the noise is removed by using a frame included in the divided image.

입력 영상은 공간 변화 즉, 장면 변화가 없는 경우 하나의 분할 영상으로 구현될 수 있으며, 공간 변화가 존재하는 경우 복수의 분할 영상으로 구현될 수 있다. The input image may be implemented as one divided image when there is no spatial change, that is, a scene change, and may be implemented as a plurality of divided images when there is a spatial change.

입력 영상 처리부(110)는 장면 전환정보를 이용하여 입력 영상의 장면 변화를 판단하며, 구체적으로 색상 히스토그램, 특징점 대응 정확도 등을 포함하는 장면 전환정보를 기초로 급격한 변화를 보이는 프레임을 장면이 전환된 프레임으로 선정하여 장면 전환 여부를 판단할 수 있다. The input image processor 110 determines a scene change of the input image by using the scene change information, and specifically, a scene is changed to a frame showing a sudden change based on the scene change information including color histogram, feature point correspondence accuracy, and the like. By selecting a frame, it is possible to determine whether to change scenes.

한편, 입력 영상 처리부(110)는 입력 영상의 메타데이터(Metadata) 정보에 포함된 장면 전환정보를 기반으로 장면 변화 여부를 판단할 수 있으나 반드시 이에 한정되는 것은 아니며, 기준 프레임 대비 SAD(Sum of Absolute Difference) 에러가 임계치 이상인 프레임을 선정하여 장면 전환 여부를 판단할 수도 있다. 예를 들어, 입력 영상이 A 영역 및 B 영역을 촬영한 100 개의 프레임으로 구성된 영상인 것으로 가정하면, 입력 영상 처리부(110)는 장면 전환정보를 기반으로 B 영역을 촬영하기 시작한 50 번째 프레임을 추출하며, 1 번째 프레임 내지 49 번째 프레임을 제1 분할 영상, 50 번째 프레임 내지 100 번째 프레임을 제2 분할 영상으로 구분할 수 있다. The input image processor 110 may determine whether the scene changes based on scene change information included in metadata information of the input image, but is not limited thereto. Difference) It is also possible to determine whether to change scenes by selecting a frame whose error is greater than or equal to a threshold. For example, assuming that the input image is an image composed of 100 frames photographing the A region and the B region, the input image processing unit 110 extracts the 50th frame from which the photographing of the B region is started based on the scene change information. The first to 49th frames may be divided into a first divided image and a 50th to 100th frame may be divided into a second divided image.

모션 추정부(120)는 분할 영상에서 배경 모션 및 이동체 모션을 추정한다. 모션 추정부(120)는 분할 영상에서의 카메라의 움직임 여부를 판별하고, 카메라의 움직임 여부에 근거하여 배경 모션 및 이동체 모션을 추정한다. 모션 추정부(120)는 카메라 움직임 판별부(122), 배경 모션 추정부(124) 및 이동체 모션 추정부(126)를 포함한다. The motion estimator 120 estimates the background motion and the moving object motion in the divided image. The motion estimation unit 120 determines whether the camera moves in the divided image, and estimates the background motion and the moving body motion based on the movement of the camera. The motion estimation unit 120 includes a camera motion determination unit 122, a background motion estimation unit 124, and a moving object motion estimation unit 126.

카메라 움직임 판별부(122)는 분할 영상 내에서 카메라의 움직임이 존재하는지 여부를 판별한다. 카메라 움직임의 판별 결과에 근거하여 배경 모션 추정부(124) 및 이동체 모션 추정부(126)에서 모션을 추정하는 방식은 변경될 수 있다. The camera motion determiner 122 determines whether a camera motion exists in the divided image. The motion estimation method of the background motion estimator 124 and the moving object motion estimator 126 may be changed based on the determination result of the camera movement.

카메라 움직임 판별부(122)는 픽셀의 밝기를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별한다. 예를 들어, 카메라 움직임 판별부(122)는 프레임 간의 차영상을 기준으로 전체 픽셀 개수에서 기 정의된 밝기 차이를 보이는 픽셀 또는 밝기 차이가 없는 픽셀의 비율을 계산하고, 해당 비율이 기 설정된 임계치 이하일 경우 카메라가 정지상태인 것으로 판단한다. 한편, 카메라 움직임 판별부(122)는 해당 비율이 기 설정된 임계치를 초과하는 경우 카메라의 이동이 있는 것으로 판단한다. The camera motion determiner 122 determines the movement of the camera between frames in the divided image by using the brightness of the pixel. For example, the camera motion determiner 122 calculates a ratio of a pixel having a predetermined brightness difference or a pixel having no brightness difference based on the difference image between frames, and the ratio is equal to or less than a preset threshold. If it is determined that the camera is stationary. On the other hand, the camera motion determination unit 122 determines that there is a movement of the camera when the ratio exceeds the preset threshold.

한편, 카메라 움직임 판별부(122)는 각 프레임의 특징점을 검출하고, 프레임 간의 특징점 대응 관계를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별할 수 있다. 예를 들어, 카메라 움직임 판별부(122)는 전체 특징점 대응 관계의 수에서 일정 임계치 이하의 움직임을 보이는 특징점 대응 이동량의 비율을 계산하고, 특징점 대응 이동량의 비율이 일정 임계치 이하일 경우 카메라가 정지 상태인 것으로 판단한다. 한편, 카메라 움직임 판별부(122)는 특징점 대응 이동량의 비율이 일정 임계치를 초과하는 경우 카메라의 이동이 있는 것으로 판단한다. On the other hand, the camera motion determiner 122 may detect the feature points of each frame, and determine the movement of the camera between the frames in the divided image by using the feature point correspondence between the frames. For example, the camera motion discriminating unit 122 calculates a ratio of the movement of the feature point corresponding to the movement of a certain threshold value from the total number of feature point correspondences, and when the ratio of the movement of the feature point correspondence is less than or equal to the predetermined threshold, I think that. On the other hand, when the ratio of the movement amount corresponding to the feature point exceeds a predetermined threshold, the camera motion discriminating unit 122 determines that there is a movement of the camera.

카메라 움직임 판별부(122)는 카메라의 움직임이 없거나 적은 경우 배경 모션 추정부(124) 및 이동체 모션 추정부(126)의 모션 추정 동작을 간소화할 수 있다. 즉, 카메라 움직임 판별부(122)는 프레임 간의 카메라가 정지 상태인 것으로 판별되면, 배경 모션 추정부(124) 및 이동체 모션 추정부(126)에서 특징점 대응 결과를 이동체 모션으로 추정하고, 프레임 간의 동일 영역은 배경 모션인 것으로 처리할 수 있다. 카메라 움직임 판별부(122)는 프레임 간의 카메라가 정지 상태이면, 배경 모션 추정부(124)에서 그리드 기반의 배경 모션을 별도로 추정할 필요가 없다.The camera motion determiner 122 may simplify the motion estimation operation of the background motion estimator 124 and the moving object motion estimator 126 when there is no or little camera movement. That is, when it is determined that the camera between frames is in a stationary state, the camera motion discriminating unit 122 estimates the result of the feature point correspondence in the background motion estimating unit 124 and the moving object motion estimating unit 126 as the moving object motion. The area can be treated as being background motion. When the camera between frames is stationary, the camera motion determiner 122 does not need to separately estimate the grid-based background motion in the background motion estimator 124.

배경 모션 추정부(124)는 분할 영상 내의 프레임 간 정적 배경에 대한 배경 모션을 추정한다. 배경 모션 추정부(124)는 카메라 움직임 판별부(122)의 카메라 움직임 판단 결과에 근거하여 배경 모션을 추정할 수 있다. The background motion estimator 124 estimates a background motion of the inter-frame static background in the divided image. The background motion estimator 124 may estimate the background motion based on the camera motion determination result of the camera motion determiner 122.

분할 영상 내의 프레임 간 카메라 움직임이 없는 정지상태인 경우, 배경 모션 추정부(124)는 움직임이 없는 부분 즉, 밝기 차이가 없는 픽셀 영역, 움직임이 없는 특징점 부분 등을 배경 모션으로 추정한다. 카메라 움직임이 없는 정지상태인 경우, 이동체 모션 추정부(126)에서는 움직임이 있는 부분 즉, 밝기 차이가 임계치 이상인 픽셀 영역, 움직임이 있는 특징점 부분 등을 이동체 모션으로 추정할 수 있다. When there is no camera movement between frames in the divided image, the background motion estimator 124 estimates a portion without movement, that is, a pixel region without brightness difference, a feature point portion without movement, and the like as the background motion. In the stationary state without camera movement, the moving object motion estimation unit 126 may estimate the moving part, that is, the pixel area where the brightness difference is greater than or equal to the threshold, the moving feature point part, and the like as the moving object motion.

한편, 분할 영상 내의 프레임 간 카메라 움직임이 있는 경우, 다음과 같은 방법으로 배경 모션을 추정한다. On the other hand, when there is camera movement between frames in the divided image, the background motion is estimated by the following method.

배경 모션 추정부(124)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정한다. 예를 들어, 배경 모션 추정부(124)는 분할 영상을 기 정의된 그리드로 분할하고, 특징점 대응 관계(F)를 이용하여 분할된 각 그리드에 대한 호모그래피(Homography)를 회귀분석(Regression) 처리하여 배경 모션을 추정한다. 여기서, 특징점 대응 관계(F)는 SIFT(Scale Invariant Feature Transform) 방식을 이용하여 특징점을 추출하고, RANSAC(RANdom SAmple Consensus) 방식으로 분석하여 배경 모션을 추정할 수 있다. RANSAC 방식을 사용하는 경우, 배경 모션 추정부(124)는 재투영 에러(Reprojection Error)가 임계치 이상인 특징점 대응 관계 즉, 이동체로부터 발생되는 특징점 대응 관계를 제거하여 배경 모션을 추정한다. The background motion estimator 124 divides the frames in the divided image into a grid, estimates the background motion by combining motions of the grids, and estimates the motion of the entire frame. For example, the background motion estimator 124 divides the divided image into predefined grids, and performs regression processing on the homography for each divided grid using the feature point correspondence relationship (F). To estimate the background motion. Here, the feature point correspondence relationship F may extract a feature point by using a scale invariant feature transform (SIFT) method, and analyze the background point by analyzing it using a random SAmple consensus (RANSAC) method. In the case of using the RANSAC method, the background motion estimator 124 estimates the background motion by removing a feature point correspondence whose reprojection error is greater than or equal to a threshold, that is, a feature point correspondence generated from a moving object.

배경 모션 추정부(124)는 SIFT 방식을 이용하여 특징점을 추출하고, RANSAC 방식으로 분석하여 배경 모션을 추정하는 것이 바람직하나 반드시 이에 한정되는 것은 아니며, 그리드 기반으로 배경 모션을 추정할 수 있다면 다양한 방법을 적용할 수 있다. 배경 모션 추정부(124)는 프레임 간 특징점 매칭 후 그리드 기반으로 평균 모션을 선택하는 방법을 사용하거나, 그리드 기반으로 모션을 전파하고 소정의 공간적 필터링을 적용하여 배경에 대한 모션을 추정할 수 있다. 예를 들어, 배경 모션 추정부(124)는 영상을 기 정의된 그리드로 분할 후 특징점 대응관계를 각 그리드의 꼭지점(Vertex)로 전파하고 각 꼭지점(Vertex)와 영상 공간에 대하여 이차원 필터링을 수행함으로써 이동체를 제거한 배경 모션을 추정할 수 있다. The background motion estimator 124 extracts feature points using the SIFT method and analyzes the background motion by using the RANSAC method. However, the background motion estimator 124 is not necessarily limited thereto. Can be applied. The background motion estimator 124 may estimate the motion of the background using a method of selecting an average motion on a grid basis after matching feature points between frames, or by propagating the motion on a grid basis and applying predetermined spatial filtering. For example, the background motion estimator 124 divides an image into a predefined grid and then propagates the feature point correspondence to the vertices of each grid and performs two-dimensional filtering on each vertex and the image space. The background motion from which the moving object is removed can be estimated.

이동체 모션 추정부(126)는 배경 모션을 추정한 후 분할 영상 내에 포함된 프레임에 대한 이동체 모션을 추정한다. 구체적으로, 이동체 모션 추정부(126)는 특징점 대응 관계를 기초로 생성된 특징점 대응정보(F)와 배경 모션(B)의 차이를 이용하여 이동체의 모션(M)을 추정한다. 여기서, 이동체 모션 추정부(126)는 배경 모션을 추정하는 방식과 동일한 그리드 방식으로 이동체 모션을 추정할 수 있다. 이동체 모션 추정부(126)는 [수학식 1]을 이용하여 이동체 모션을 추정할 수 있다. The moving body motion estimation unit 126 estimates the moving body motion of the frame included in the divided image after estimating the background motion. In detail, the moving object estimator 126 estimates the motion M of the moving object using the difference between the feature point correspondence information F and the background motion B generated based on the feature point correspondence. Here, the moving body motion estimation unit 126 may estimate the moving body motion in the same grid method as that of the background motion estimation. The moving body motion estimation unit 126 may estimate the moving body motion by using Equation 1.

Figure pat00001
Figure pat00001

이동체 모션 추정부(126)는 특징점 대응과 배경 모션의 차이를 주변으로 전파하거나 특정 위치에서 특징점 대응과 배경 모션의 차이의 평균치를 이용하여 이동체 모션을 추정할 수 있다. 예를 들어, 이동체 모션 추정부(126)는 그리드 기반의 이동체 모션을 추정하기 위하여 그리드의 주변 꼭지점으로 특징점 대응과 배경 모션의 차이를 전파시켜 2D 필터링을 수행하거나, 그리드의 꼭지점 주변의 모션 평균값을 산출하여 이동체 모션을 추정할 수 있다. 여기서, 이동체 모션 추정부(126)는 특징점 대응과 배경 모션의 차이에 패널티 함수(Penalty Function)을 적용하여 미세한 차이는 억제하고 큰 차이를 부각시켜 이동체 모션을 추정할 수 있다. The moving body motion estimation unit 126 may propagate the difference between the feature point correspondence and the background motion to the surroundings or estimate the moving object motion using an average value of the difference between the feature point correspondence and the background motion at a specific position. For example, the moving object motion estimator 126 performs 2D filtering by propagating the difference between the feature point correspondence and the background motion to the peripheral vertices of the grid in order to estimate the grid-based moving object motion, or calculates the average motion around the grid vertices. The motion can be estimated by calculating. Here, the moving body motion estimation unit 126 may apply a penalty function to the difference between the feature point correspondence and the background motion to suppress the minute difference and highlight the large difference to estimate the moving body motion.

이동체 모션 추정부(126)는 이동체 모션 중 기 설정된 임계치 이상의 이동체 모션을 추출하며, 해당 이동체 모션을 포함하는 그리드를 이동체 영역으로 설정할 수 있다. The moving body motion estimation unit 126 may extract a moving body motion that is greater than or equal to a predetermined threshold among the moving body motions, and set a grid including the moving body motion as the moving body region.

영상 잡음 제거부(130)는 추정된 배경 모션 및 이동체 모션을 기반으로 영상의 잡음을 제거하는 동작을 수행한다. 영상 잡음 제거부(130)는 영상 정합부(132), 프로파일 추정부(134) 및 필터링부(136)를 포함한다. The image noise remover 130 removes the noise of the image based on the estimated background motion and the moving object motion. The image noise remover 130 includes an image matcher 132, a profile estimator 134, and a filter 136.

영상 정합부(132)는 분할 영상 내에서 복수의 프레임을 포함하는 윈도우를 설정하고, 윈도우에 포함된 복수의 프레임의 배경 모션을 기반으로 기준 프레임을 정합한다. 구체적으로, 영상 정합부(132)는 분할 영상에서 슬라이딩 윈도우 방식으로 기준 프레임(Reference Frame)을 설정하고, 기 추정된 배경 모션을 이용하여 윈도우 내에 포함된 복수의 프레임을 기준 프레임의 좌표(Coordinate)로 정렬(정합)한다. The image matching unit 132 sets a window including a plurality of frames in the divided image, and matches the reference frame based on the background motion of the plurality of frames included in the window. In detail, the image matching unit 132 sets a reference frame in a sliding window manner in the divided image, and coordinates a plurality of frames included in the window using the estimated background motion. Sort by.

영상 정합부(132)는 기준 프레임(t)을 기준으로 n 개의 이전 프레임(t-1, t-2, ..., t-n) 및 n 개의 이후 프레임(t+1, t+2, ..., t+n)의 배경 모션을 이용하여 기준 프레임(t)으로 정합한다. 여기서, 정합은 갈릴레이 변환(Galilean Transformations)을 기반으로 처리되는 것이 바람직하나 반드시 이에 한정되는 것은 아니다. 영상 정합부(132)는 n 개의 이후 프레임의 경우에는 배경 모션을 역변환 처리하여 기준 프레임(t)에 정합하는 것이 바람직하고, 특정 위치까지의 배경 모션은 프레임 간 모션을 합산하여 산출될 수 있다. The image matching unit 132 includes n previous frames t-1, t-2, ..., tn and n subsequent frames t + 1, t + 2,... Based on the reference frame t. , t + n) to match the reference frame t. Here, the matching is preferably processed based on Galilean Transformations, but is not necessarily limited thereto. In the case of n subsequent frames, the image matching unit 132 preferably inversely converts the background motion to match the reference frame t. The background motion up to a specific position may be calculated by summing the inter-frame motion.

영상 정합부(132)는 이동체 모션에 대한 영역을 정확히 구분할 수 없으므로, 프레임 간의 배경 모션만을 이용하여 기준 프레임의 영상 정합을 처리한다. Since the image matching unit 132 cannot accurately distinguish the region for the moving object, the image matching unit 132 processes the image registration of the reference frame using only the background motion between the frames.

프로파일 추정부(134)는 윈도우 내에 포함된 프레임에서 이동체 모션에 대한 이동체 영역을 구분하고, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다. 여기서, 플로우 프로파일은 윈도우 내 프레임들에서 특정 픽셀 위치의 시간에 따른 밝기값들을 수집한 정보를 의미한다. The profile estimator 134 classifies the moving object region for the moving object in the frame included in the window, and estimates the flow profile for the moving body motion and the background motion because the moving object and the background are mixed in the moving area. . Here, the flow profile refers to information obtained by collecting brightness values over time of a specific pixel position in frames in a window.

프로파일 추정부(134)는 이동체 영역에서 이동체 및 배경에 대한 플로우 프로파일을 모두 추정함에 따라 필터링부(136)에서 이동체 모션 및 배경 모션에 대한 플로우 프로파일을 동시에 고려하여 영상 잡음 제거를 수행할 수 있다. 한편, 프로파일 추정부(134)는 기준 프레임에서 배경 모션만 존재하는 영역에 대해서는 배경 모션에 대한 플로우 프로파일만을 추정한다. As the profile estimator 134 estimates both the flow profile of the moving object and the background in the moving object area, the filtering unit 136 may perform image noise removal by simultaneously considering the flow profile of the moving object and the background motion. On the other hand, the profile estimator 134 estimates only the flow profile of the background motion in the region in which only the background motion exists in the reference frame.

프로파일 추정부(134)는 이동체 또는 배경에 대한 플로우 프로파일 내의 노이즈를 제거할 수 있다. 구체적으로, 프로파일 추정부(134)는 플로우 프로파일 내에 포함된 색상, 밝기 등에 대한 값의 분포를 정규분포로 가정하고, 소정의 표준편차 계수를 벗어나는 이상치(Outlier)를 제거하고, 제거된 값을 제외한 나머지 값들의 평균 및 분산을 추정하여 플로우 프로파일을 생성할 수 있다. 예를 들어, 프로파일 추정부(134)는 플로우 프로파일 내에 포함된 값의 분포를 가우시안(Gaussian) 분포로 가정하고, 소정의 시그마계수(예: 3 시그마)를 벗어나는 값은 제거하고, 나머지 값들의 평균 및 분산을 추정하여 플로우 프로파일을 생성한다. The profile estimator 134 may remove noise in the flow profile of the moving object or the background. Specifically, the profile estimator 134 assumes a distribution of values for color, brightness, etc. included in the flow profile as a normal distribution, removes outliers that deviate from a predetermined standard deviation coefficient, and excludes the removed values. The flow profile can be generated by estimating the mean and variance of the remaining values. For example, the profile estimator 134 assumes that the distribution of the values included in the flow profile is a Gaussian distribution, removes values outside a predetermined sigma coefficient (eg, 3 sigma), and averages the remaining values. And estimate variance to generate a flow profile.

프로파일 추정부(134)는 이동체 및 배경에 대한 플로우 프로파일 각각에 대해 정규분포로 가정하여 플로우 프로파일 내 노이즈를 제거할 수 있다. The profile estimator 134 may remove noise in the flow profile by assuming normal distribution for each of the flow profiles of the moving object and the background.

필터링부(136)는 이동체 또는 배경에 대한 플로우 프로파일을 필터링 처리하고, 필터링 처리를 통해 영상 잡음을 제거한다. The filtering unit 136 filters the flow profile of the moving object or the background, and removes image noise through the filtering process.

필터링부(136)는 배경 영역에 대한 배경 플로우 프로파일만을 이용하여 영상 잡음을 제거하는 경우, 배경에 해당하는 각 픽셀이 물리적인 위치가 모두 같은 것으로 가정하기 때문에 배경 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거할 수 있다. When the filtering unit 136 removes the image noise using only the background flow profile of the background area, the filtering unit 136 performs filtering (1d filtering) on the background flow profile because it is assumed that each pixel corresponding to the background has the same physical location. Can be applied to remove image noise.

한편, 배경 영역 및 이동체 영역이 혼재되어 있는 경우, 필터링부(136)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링(1d 필터링)하여 영상 잡음을 제거한다. On the other hand, when the background area and the moving object area are mixed, the filtering unit 136 compares each of the background flow profile and the moving object flow profile with the reference frame, calculates similarity, and filters the flow profile with high similarity (1d filtering). Eliminate video noise.

종래에는 기준 프레임에서 배경 모션만을 이용하여 잡음을 제거하였으며, 이동체 영역이 작으면 색상, 밝기 등의 변화가 크지 않아 문제가 되지 않지만, 이동체가 크거나 빠르게 움직이는 경우에는 정확한 잡음제거가 불가능하다. 따라서, 본 실시예에 따른 필터링부(136)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임과 비교하여 유사도에 따라 효율적으로 영상 잡음 제거를 수행할 수 있다. Conventionally, noise is removed using only a background motion in a reference frame, and a small area of the moving object is not a problem because the change in color, brightness, etc. is not large. However, when the moving object is large or moves fast, accurate noise removal is impossible. Therefore, the filtering unit 136 according to the present exemplary embodiment may efficiently remove the image noise according to the similarity by comparing each of the background flow profile and the moving object flow profile with the reference frame.

본 실시예에 따른 필터링부(136)는 배경 플로우 프로파일과 이동체 플로우 프로파일 각각의 평균값과 기준 프레임의 픽셀값을 비교하여 차이가 작은 즉, 유사도가 높은 플로우 프로파일을 선택하고, 선택한 플로우 프로파일을 필터링하여 영상 잡음을 제거한다. 여기서, 필터링은 가우시안 필터(Gaussian Filter), Bilateral 필터, Median 필터 등을 적용할 수 있으나 반드시 이에 한정되는 것은 아니며, 영상의 블러링(blurring) 또는 smoothing에 사용될 수 있는 필터라면 다양한 형태의 필터로 변경 적용 가능하다. The filtering unit 136 according to the present embodiment compares the average value of each of the background flow profile and the moving object flow profile with the pixel values of the reference frame, selects a flow profile having a small difference, that is, has a high similarity, and filters the selected flow profile. Eliminate video noise. Here, the filtering may be applied to a Gaussian filter, a bilateral filter, a median filter, etc., but the present invention is not limited thereto. Any filter that can be used for image blurring or smoothing may be changed to various types of filters. Applicable

필터링부(136)는 이동체 영역에서 [수학식 2]를 이용하여 배경 플로우 프로파일과 기준 프레임의 픽셀 간의 배경 유사도를 산출하고, [수학식 3]을 이용하여 이동체 플로우 프로파일과 기준 프레임의 픽셀 간의 이동체 유사도를 산출한다. The filtering unit 136 calculates a background similarity between the background flow profile and the pixels of the reference frame using Equation 2 in the moving object region, and moves the moving object between the moving object flow profile and the pixels of the reference frame using Equation 3 Calculate the similarity.

Figure pat00002
Figure pat00002

Figure pat00003
Figure pat00003

(SB: 배경 유사도, SM: 이동체 유사도, x: 픽셀 위치, W: 윈도우 사이즈,

Figure pat00004
: 기준 프레임 인덱스, t: 분할 영상 인덱스(
Figure pat00005
-W ≤ t ≤
Figure pat00006
+W), PB: 배경 플로우 프로파일, PM: 이동체 플로우 프로파일, PB E: Edge 영상에서 배경의 edgeness 프로파일 및 PM E: Edge 영상에서 이동체의 edgeness 프로파일)(S B : background similarity, S M : mobile similarity, x: pixel position, W: window size,
Figure pat00004
: Reference frame index, t: Split image index (
Figure pat00005
-W ≤ t ≤
Figure pat00006
+ W), P B : background flow profile, P M : mobile flow profile, P B E : edgeness profile of background in Edge image and P M E : edgeness profile of moving object in Edge image)

필터링부(136)는 [수학식 2] 및 [수학식 3]를 이용하여 배경 유사도 및 이동체 유사도를 산출하고, 두 개의 유사도 중 높은 유사도를 갖는 플로우 프로파일을 선택한다. 필터링부(136)는 선택된 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거한 영상 잡음 제거 결과를 생성한다. 여기서, 필터링부(136)는 선택된 플로우 프로파일에 필터링을 적용하는 것으로 기재하고 있으나 반드시 이에 한정되는 것은 아니며, 필터링을 대신하여 플로우 프로파일 내의 값들의 평균값을 적용하여 영상 잡음을 제거할 수도 있다. 여기서, 필터링부(136)는 기준 프레임과 시간적인 거리가 멀수록, 색상이 다를수록, Edgeness 차이가 많이 날수록 유사도가 작은 것으로 판단하며, 기준 프레임과 시간적인 거리가 가까울수록, 색상이 유사할수록, Edgeness 차이가 적게 날수록 유사도가 높은 것으로 판단한다. The filtering unit 136 calculates a background similarity and a moving object similarity using Equations 2 and 3, and selects a flow profile having a high similarity among the two similarities. The filtering unit 136 applies filtering (1d filtering) to the selected flow profile to generate an image noise removing result from removing the image noise. Here, the filtering unit 136 is described as applying filtering to the selected flow profile, but is not necessarily limited thereto. Instead, the filtering unit 136 may remove image noise by applying an average value of values in the flow profile. Here, the filtering unit 136 determines that the distance between the reference frame is far, the color is different, and the edgeness difference is large, the similarity is small. The closer the temporal distance to the reference frame is and the color is similar, The smaller the difference in edgeness, the higher the similarity.

도 2는 본 발명의 실시예에 따른 영상 잡음 제거방법을 설명하기 위한 순서도이다. 2 is a flowchart illustrating a method for removing image noise according to an exemplary embodiment of the present invention.

영상 잡음 제거장치(100)는 카메라를 이용하여 촬영된 입력 영상을 획득한다(S210). 여기서, 입력 영상은 카메라를 통해 촬영된 비디오 영상으로서, 복수의 공간영역을 촬영한 영상일 수 있다. The image noise canceling apparatus 100 obtains an input image photographed using a camera (S210). The input image may be a video image captured by a camera and may be an image captured by a plurality of spatial regions.

영상 잡음 제거장치(100)는 입력 영상에 대한 장면 전환정보를 추출하고(S212), 장면 전환정보를 이용하여 동일한 공간영역별로 입력 영상을 분할하여 분할 영상을 생성한다(S220). 여기서, 장면 전환정보는 색상 히스토그램, 특징점 대응 정확도 등을 포함하며, 영상 잡음 제거장치(100)는 장면 전환정보를 기초로 급격한 변화를 보이는 프레임을 장면이 전환된 프레임으로 선정하여 분할 영상을 생성한다.The image noise removing apparatus 100 extracts scene change information of the input image (S212), and generates a split image by dividing the input image by the same spatial region using the scene change information (S220). Here, the scene change information includes a color histogram, accuracy of feature point correspondence, and the like. The image noise removing apparatus 100 generates a segmented image by selecting a frame having a sudden change based on the scene change information as a frame to which the scene is changed. .

영상 잡음 제거장치(100)는 분할 영상 내 프레임 간 카메라의 움직임을 판별한다(S230). 영상 잡음 제거장치(100)는 각 프레임의 특징점을 검출하고, 프레임 간의 특징점 대응 관계를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별하거나, 프레임 간의 차영상을 기준으로 전체 픽셀 개수에서 기 정의된 밝기 차이를 보이는 픽셀 또는 밝기 차이가 없는 픽셀의 비율을 계산하여 카메라의 움직임을 판별할 수 있다. The image noise removing apparatus 100 determines the movement of the camera between frames in the divided image (S230). The image noise removing apparatus 100 detects a feature point of each frame and determines the movement of the camera between frames in the divided image using the feature point correspondence between the frames, or is defined in the total number of pixels based on the difference image between the frames. The movement of the camera can be determined by calculating the ratio of pixels having brightness differences or pixels having no brightness differences.

단계 S230에서 카메라의 움직임이 없는 경우, 영상 잡음 제거장치(100)는 프레임 간 배경의 움직임에 대한 메쉬 플로우(Mesh Flow)를 초기화하여 배경 모션을 추정하고(S232), 움직임이 있는 나머지 영역을 이동체 모션으로 추정한다(S250). 여기서, 배경의 움직임에 대한 메쉬 플로우는 움직임이 없는 하여 움직임이 없는 부분 즉, 밝기 차이가 없는 픽셀 영역, 움직임이 없는 특징점 부분 등에 대한 그리드 형태의 이차원 벡터의 집합을 의미한다. When there is no camera movement in step S230, the image noise removing apparatus 100 initializes a mesh flow of the background frame-to-frame movement to estimate the background motion (S232), and moves the remaining region with the moving object. It is estimated by the motion (S250). Here, the mesh flow for the motion of the background refers to a set of grid-shaped two-dimensional vectors for a part without motion, that is, a pixel area without brightness difference, a feature point part without motion, and the like.

한편, 단계 S230에서 카메라의 움직임이 존재하는 경우, 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정하고(S240), 특징점 대응 관계를 기초로 생성된 특징점 대응정보와 배경 모션의 차이를 이용하여 이동체의 모션을 추정한다(S250).On the other hand, when there is a camera movement in step S230, the image noise removing apparatus 100 divides the frame in the divided image into a grid, and estimates the background motion by combining the grid-specific motions to estimate the motion of the entire frame. In operation S240, the motion of the moving object is estimated using the difference between the feature point correspondence information and the background motion generated based on the feature point correspondence relationship (S250).

영상 잡음 제거장치(100)는 분할 영상 내에 포함된 복수의 프레임에 대해 시간순으로 배경 모션 및 이동체 모션을 추정하는 동작을 수행하고, 분할 영상 내 모든 프레임의 모션 추정이 완료되면(S252), 분할 영상에서 윈도우 슬라이딩 처리를 위한 소정의 윈도우를 설정한다(S260). The image noise removing apparatus 100 performs an operation of estimating a background motion and a moving object motion in chronological order with respect to a plurality of frames included in the divided image, and when the motion estimation of all the frames in the divided image is completed (S252), the divided image In step S260, a predetermined window for the window sliding process is set.

영상 잡음 제거장치(100)는 배경 모션을 기반으로 기준 프레임을 정합한다(S270). 구체적으로, 영상 잡음 제거장치(100)는 분할 영상에서 슬라이딩 윈도우 방식으로 기준 프레임(Reference Frame)을 설정하고, 기 추정된 배경 모션을 이용하여 윈도우 내에 포함된 복수의 프레임을 기준 프레임의 좌표(Coordinate)로 정렬(정합)한다. The image noise removing apparatus 100 matches the reference frame based on the background motion (S270). In detail, the image noise removing apparatus 100 sets a reference frame in a sliding window manner in the divided image, and coordinates a plurality of frames included in the window using the estimated background motion. Sort by ().

영상 잡음 제거장치(100)는 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다(S280).구체적으로, 영상 잡음 제거장치(100)는 윈도우 내에 포함된 프레임에서 이동체 모션에 대한 이동체 영역을 구분하고, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다. 여기서, 플로우 프로파일은 윈도우 내 프레임들에서 특정 픽셀 위치의 시간에 따른 밝기값들을 수집한 정보를 의미한다. The image noise canceller 100 estimates a flow profile of the moving object motion and the background motion, respectively (S280). Specifically, the image noise canceller 100 performs the motion of the moving object in a frame included in the window. Since the moving body region is divided and the moving body and the background are mixed in the moving body region, flow profiles for the moving body motion and the background motion are estimated. Here, the flow profile refers to information obtained by collecting brightness values over time of a specific pixel position in frames in a window.

영상 잡음 제거장치(100)는 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거하고(S290), 영상 잡음 제거 결과를 생성한다(S292). 구체적으로, 영상 잡음 제거장치(100)는 배경 영역에 대한 영상 잡음 제거를 수행하는 경우, 배경 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거한다. The image noise removing apparatus 100 filters the flow profile to remove image noise (S290), and generates an image noise removal result (S292). In detail, when the image noise removing apparatus 100 performs the image noise removal on the background region, the image noise removing apparatus 100 removes the image noise by applying filtering (1d filtering) to the background flow profile.

한편, 영상 잡음 제거장치(100)는 이동체 영역에 대한 영상 잡음 제거를 수행하는 경우, 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임의 픽셀값과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거한다.On the other hand, when the image noise removing apparatus 100 performs the image noise reduction for the moving object region, the background flow profile and the moving object flow profile are respectively compared with the pixel values of the reference frame, and the similarity is calculated. Filtering removes image noise.

도 2에서는 각 과정을 순차적으로 실행하는 것으로 기재하고 있으나, 반드시 이에 한정되는 것은 아니다. 다시 말해, 도 2에 기재된 과정을 변경하여 실행하거나 하나 이상의 과정을 병렬적으로 실행하는 것으로 적용 가능할 것이므로, 도 2는 시계열적인 순서로 한정되는 것은 아니다.In FIG. 2, each process is described as being sequentially executed, but is not necessarily limited thereto. In other words, since the process described in FIG. 2 may be applied by changing or executing one or more processes in parallel, FIG. 2 is not limited to the time series order.

도 2에 기재된 본 실시예에 따른 영상 잡음 제거방법은 애플리케이션(또는 프로그램)으로 구현되고 단말장치(또는 컴퓨터)로 읽을 수 있는 기록매체에 기록될 수 있다. 본 실시예에 따른 영상 잡음 제거방법을 구현하기 위한 애플리케이션(또는 프로그램)이 기록되고 단말장치(또는 컴퓨터)가 읽을 수 있는 기록매체는 컴퓨팅 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다.The image noise removing method according to the present embodiment described in FIG. 2 may be implemented in an application (or a program) and recorded on a recording medium readable by a terminal device (or a computer). An application (or program) for implementing an image noise canceling method according to the present embodiment is recorded and a recording medium readable by a terminal device (or computer) is any type of recording device in which data that can be read by a computing system is stored. It includes.

도 3은 본 발명의 실시예에 따른 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다. 3 is an exemplary diagram for describing an operation of removing image noise according to an exemplary embodiment of the present invention.

영상 잡음 제거장치(100)는 획득한 입력 영상의 장면 전환정보에 근거하여 동일 공간에 대한 분할 영상(310)으로 구분 처리한다. The image noise removing apparatus 100 classifies and processes the divided image into the divided image 310 of the same space based on the obtained scene change information of the input image.

영상 잡음 제거장치(100)는 분할 영상(310) 내에 포함된 복수의 프레임 각각에 대한 모션(320)을 추정한다. 영상 잡음 제거장치(100)는 분할 영상(310) 내 프레임 각각을 그리드로 구분하고, 그리드 기반의 배경 모션 및 이동체 모션을 각각 추정한다. The image noise removing apparatus 100 estimates the motion 320 for each of the plurality of frames included in the divided image 310. The image noise removing apparatus 100 divides each frame in the divided image 310 into a grid and estimates the grid-based background motion and the moving body motion, respectively.

영상 잡음 제거장치(100)는 분할 영상(310)의 윈도우 내에 포함된 프레임들의 배경 모션을 이용하여 영상 정합을 수행한다. 즉, 영상 잡음 제거장치(100)는 배경 모션을 이용하여 기준 프레임을 설정하고, 기준 프레임을 기반으로 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 생성한다. The image noise canceller 100 performs image registration using a background motion of frames included in a window of the divided image 310. That is, the image noise removing apparatus 100 sets a reference frame by using the background motion, and generates a flow profile for each of the background motion and the moving object motion based on the reference frame.

영상 잡음 제거장치(100)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 중 하나 또는 모두를 필터링하여 영상 잡음을 제거(330)한다. The image noise removing apparatus 100 filters the one or both of the background flow profile and the moving object profile to remove the image noise (330).

영상 잡음 제거장치(100)는 배경 플로우 프로파일만 존재하는 경우, 배경 플로우 프로파일을 필터링하여 영상 잡음을 제거한다. 하지만, 이동체 플로우 프로파일이 존재하는 경우, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 배경 플로우 프로파일 및 이동체 플로우 프로파일을 각각 기준 프레임의 픽셀과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거한다. If only the background flow profile exists, the image noise removing apparatus 100 filters the background flow profile to remove the image noise. However, when the moving object flow profile exists, the moving object and the moving object are mixed in the moving area so that the background flow profile and the moving flow profile are compared with the pixels of the reference frame, respectively, to calculate similarity, and to filter the flow profile having high similarity. Eliminate video noise.

도 4는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 배경 및 이동체의 모션을 추정하는 동작을 설명하기 위한 예시도이다. 4 is an exemplary view for explaining an operation of estimating a motion of a background and a moving object in an image noise removing device according to an exemplary embodiment of the present invention.

도 4의 (a)의 좌측 이미지는 분할 영상 내 프레임 간 특징점 대응 관계의 결과를 나타내고, 도 4의 (a)의 우측 이미지는 그리드 기반으로 배경 모션을 추정한 결과를 나타낸다. 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정할 수 있다. 예를 들어, 영상 잡음 제거장치(100)는 프레임을 그리드로 분할 후 특징점 대응관계를 각 그리드의 꼭지점(Vertex)로 전파하고 각 꼭지점(Vertex)와 영상 공간에 대하여 이차원 필터링을 수행함으로써 이동체를 제거한 배경 모션을 추정할 수 있다.The left image of FIG. 4A shows a result of a feature point correspondence relationship between frames in the divided image, and the right image of FIG. 4A shows a result of estimating background motion on a grid basis. The image noise removing apparatus 100 may estimate the background motion by dividing a frame in the divided image into a grid, and combining motions for each grid to estimate motion of the entire frame. For example, the image noise removing device 100 removes a moving object by dividing a frame into grids, then propagating a feature point correspondence to vertices of each grid and performing two-dimensional filtering on each vertex and image space. The background motion can be estimated.

도 4의 (b)의 좌측 이미지는 분할 영상에 대한 이미지를 나타내고, 도 4의 (b)의 우측 이미지는 그리드 기반으로 이동체 모션을 추정한 결과를 나타낸다. 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 각 그리드에서 특징점 대응과 배경 모션의 차이를 주변으로 전파하거나 특정 위치에서 특징점 대응과 배경 모션의 차이의 평균치를 이용하여 이동체 모션을 추정할 수 있다. 예를 들어, 영상 잡음 제거장치(100)는 그리드 기반의 이동체 모션을 추정하기 위하여 그리드의 주변 꼭지점으로 특징점 대응과 배경 모션의 차이를 전파시켜 2D 필터링을 수행하거나, 그리드의 꼭지점 주변의 모션 평균값을 산출하여 이동체 모션을 추정할 수 있다. The left image of (b) of FIG. 4 represents an image of the divided image, and the right image of (b) of FIG. 4 represents a result of estimating the moving body motion on a grid basis. The image noise removing apparatus 100 divides a frame in the divided image into a grid, propagates the difference between the feature point correspondence and the background motion in each grid, or uses the average value of the difference between the feature point correspondence and the background motion at a specific position. It can be estimated. For example, the image noise canceller 100 performs 2D filtering by propagating the difference between the feature point correspondence and the background motion to the peripheral vertices of the grid to estimate the grid-based moving object motion, or the motion average value around the vertices of the grid. The motion can be estimated by calculating.

도 5는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 영상을 정합하고, 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다. 5 is an exemplary diagram for describing an operation of matching an image and removing image noise in an image noise removing apparatus according to an exemplary embodiment of the present invention.

도 5의 (a)는 그리드 기반의 배경 모션을 이용하여 영상 정합을 수행하여 기준 프레임을 설정하는 예시도이다. 도 5의 (a)에 도시된 바와 같이, 영상 잡음 제거장치(100)는 기 설정된 윈도우 사이즈 내에 포함된 5 개의 프레임(t-2, t-1, t, t+1, t+2) 중 일부 프레임(t-2, t-1, t+1, t+2)의 배경 모션을 기준 프레임(t)으로 정합한다. 5A is an exemplary diagram of setting a reference frame by performing image registration using a grid-based background motion. As shown in (a) of FIG. 5, the image noise removing apparatus 100 may include one of five frames t-2, t-1, t, t + 1, and t + 2 included in a preset window size. The background motion of some frames t-2, t-1, t + 1, t + 2 is matched with the reference frame t.

도 5의 (b)는 이동체 영역에서 영상 잡음을 제거하기 위하여 배경 플로우 프로파일 및 이동체 플로우 프로파일의 유사도에 근거하여 플로우 프로파일을 선택하는 동작을 나타낸 예시도이다. 도 5의 (b)에 도시된 바와 같이, 영상 잡음 제거장치(100)는 윈도우 내에 포함된 프레임에서 이동체 영역을 추출하고, 이동체 영역의 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임의 픽셀과 비교하여 유사도를 산출한다. 영상 잡음 제거장치(100)는 유사도가 높은 플로우 프로파일 즉, 배경 플로우 프로파일 및 이동체 플로우 프로파일 중 최소의 에러를 갖는 플로우 프로파일 선택하여 영상 잡음을 제거할 수 있다. FIG. 5B is an exemplary diagram illustrating an operation of selecting a flow profile based on a similarity between the background flow profile and the moving flow profile in order to remove image noise in the moving object region. As shown in (b) of FIG. 5, the image noise removing apparatus 100 extracts a moving object region from a frame included in a window, and compares the background flow profile and the moving body flow profile of the moving object region with pixels of a reference frame. Similarity is calculated. The image noise removing apparatus 100 may remove image noise by selecting a flow profile having a high similarity, that is, a flow profile having a minimum error among the background flow profile and the moving object flow profile.

이상의 설명은 본 발명의 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명의 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명의 실시예들은 본 발명의 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely illustrative of the technical spirit of the embodiments of the present invention, and those skilled in the art to which the embodiments of the present invention pertain various modifications without departing from the essential characteristics of the embodiments of the present invention. Modifications may be possible. Therefore, the embodiments of the present invention are not intended to limit the technical spirit of the embodiments of the present invention, but to describe, and the scope of the technical spirit of the embodiments of the present invention is not limited by these embodiments. The protection scope of the embodiments of the present invention should be interpreted by the following claims, and all technical ideas within the equivalent scope should be interpreted as being included in the scope of the embodiments of the present invention.

이상에서 설명한 바와 같이 본 발명의 실시예는 영상 잡음을 제거하는 분야에 적용되어, 카메라 센서의 움직임, 영상 잡음의 패턴에 관계없이 고품질의 영상 잡음 제거 결과를 얻을 수 있고, 이동체 영역에 대한 부분적인 영상 정보를 이용하여 영상 잡음을 제거함에 따라 영상 잡음을 제거하는 시간을 단축시킬 수 있는 효과를 발생하는 유용한 발명이다.As described above, the embodiment of the present invention is applied to the field of removing image noise, so that a high quality image noise reduction result can be obtained regardless of the motion of the camera sensor and the pattern of the image noise. It is a useful invention to generate an effect that can shorten the time to remove the video noise by removing the video noise by using the image information.

100: 영상 잡음 제거장치
110: 입력 영상 처리부 120: 모션 추정부
122: 카메라 움직임 판별부 124: 배경 모션 추정부
126: 이동체 모션 추정부
130: 영상 잡음 제거부 132: 영상 정합부
134: 프로파일 추정부 136: 필터링부
100: video noise reduction device
110: input image processor 120: motion estimation unit
122: camera motion discrimination unit 124: background motion estimation unit
126: moving object motion estimation unit
130: image noise removing unit 132: image matching unit
134: profile estimation unit 136: filtering unit

Claims (9)

이동체를 고려하여 영상 잡음을 제거하는 장치에 있어서,
입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리부;
상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정부; 및
상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거부
를 포함하는 것을 특징으로 하는 영상 잡음 제거장치.
In the device for removing image noise in consideration of a moving object,
An input image processor extracting scene change information of an input image and generating a divided image by dividing an image for each scene based on the scene change information;
A motion estimator for checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And
An image noise remover for removing image noise in an area in which a moving object exists by using the flow profile of the background motion and the moving object motion.
Image noise reduction device comprising a.
제1항에 있어서,
상기 영상 잡음 제거부는,
상기 배경 모션을 이용하여 기준 프레임을 정합하는 영상 정합부;
상기 배경 모션 및 상기 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 추정하는 프로파일 추정부; 및
상기 이동체가 존재하는 영역에서 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각과 상기 기준 영상의 픽셀값을 비교하여 영상 잡음을 제거하는 필터링부
를 포함하는 것을 특징으로 하는 영상 잡음 제거장치.
The method of claim 1,
The image noise removing unit,
An image matching unit which matches a reference frame using the background motion;
A profile estimator for estimating a flow profile of each of the background motion and the moving object motion; And
A filtering unit for removing image noise by comparing each of the background flow profile and the moving body flow profile with the pixel value of the reference image in the region where the moving object exists.
Image noise reduction device comprising a.
제2항에 있어서,
상기 필터링부는,
상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 각각을 상기 기준 영상의 픽셀값과 비교하여 각각의 유사도를 산출하고, 상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 중 높은 유사도를 갖는 플로우 프로파일을 선택하여 필터링 처리하는 것을 특징으로 하는 영상 잡음 제거장치.
The method of claim 2,
The filtering unit,
Comparing each of the background flow profile and the moving object flow profile with a pixel value of the reference image to calculate a similarity, and selecting and filtering a flow profile having a high similarity among the background flow profile and the moving object flow profile. Video noise canceller characterized in that.
제1항에 있어서,
상기 모션 추정부는,
상기 분할 영상에 포함된 복수의 프레임 간 픽셀의 밝기 차이 또는 움직임에 대한 특징점 대응 비율을 기 설정된 임계치와 비교하여 상기 카메라의 움직임을 확인하는 것을 특징으로 하는 영상 잡음 제거장치.
The method of claim 1,
The motion estimation unit,
And detecting a movement of the camera by comparing a feature point corresponding ratio with respect to a difference in brightness or movement of a plurality of pixels among the frames included in the divided image to a preset threshold.
제4항에 있어서,
상기 모션 추정부는,
상기 카메라의 움직임이 없는 경우, 상기 밝기 차이가 없는 픽셀 또는 움직임이 없는 특징점 부분을 상기 배경 모션으로 추정하고, 상기 밝기 차이가 존재하는 픽셀을 상기 이동체 모션으로 추정하는 것을 특징으로 하는 영상 잡음 제거장치.
The method of claim 4, wherein
The motion estimation unit,
When there is no movement of the camera, the image noise canceller, characterized by estimating a pixel having no brightness difference or a portion of a feature point having no motion as the background motion and estimating a pixel having the brightness difference as the moving body motion. .
제4항에 있어서,
상기 모션 추정부는,
상기 카메라의 움직임이 존재하는 경우, 상기 분할 영상 내의 프레임을 그리드로 나누고, 상기 그리드별 모션을 취합하여 상기 배경 모션을 추정하고, 프레임 간의 특징점 대응정보와 상기 배경 모션의 차이를 이용하여 상기 이동체의 모션을 추정하는 것을 특징으로 하는 영상 잡음 제거장치.
The method of claim 4, wherein
The motion estimation unit,
When there is motion of the camera, the frames in the divided image are divided into grids, the motions for each grid are collected, the background motions are estimated, and the feature point correspondence information between the frames and the difference between the background motions are used. Image noise canceller, characterized in that the motion estimation.
이동체를 고려하여 영상 잡음을 제거하는 방법에 있어서,
입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리과정;
상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정과정; 및
상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거과정
을 포함하는 것을 특징으로 하는 영상 잡음 제거방법.
In the method of removing image noise in consideration of a moving object,
An input image processing process of extracting scene change information of an input image and generating a divided image by dividing an image for each scene based on the scene change information;
A motion estimation process of checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And
An image noise removing process of removing image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion
Image noise reduction method comprising a.
제7항에 있어서,
상기 영상 잡음 제거과정은,
상기 배경 모션을 이용하여 기준 프레임을 정합하는 영상 정합과정;
상기 배경 모션 및 상기 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 추정하는 프로파일 추정과정; 및
상기 이동체가 존재하는 영역에서 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각과 상기 기준 영상의 픽셀값을 비교하여 영상 잡음을 제거하는 필터링과정
을 포함하는 것을 특징으로 하는 영상 잡음 제거방법.
The method of claim 7, wherein
The image noise removal process,
An image registration process of matching a reference frame using the background motion;
A profile estimating process of estimating a flow profile for each of the background motion and the moving object motion; And
A filtering process for removing image noise by comparing the background flow profile and the mobile flow profile with the pixel values of the reference image in the region where the moving object exists.
Image noise reduction method comprising a.
제8항에 있어서,
상기 필터링과정은,
상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 각각을 상기 기준 영상의 픽셀값과 비교하여 각각의 유사도를 산출하고, 상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 중 높은 유사도를 갖는 플로우 프로파일을 선택하여 필터링 처리하는 것을 특징으로 하는 영상 잡음 제거방법.
The method of claim 8,
The filtering process,
Comparing each of the background flow profile and the moving object flow profile with a pixel value of the reference image to calculate a similarity, and selecting and filtering a flow profile having a high similarity among the background flow profile and the moving object flow profile. A video noise reduction method characterized by the above-mentioned.
KR1020180023579A 2018-02-27 2018-02-27 Method and Apparatus for Video Denoising Considering Moving Object Active KR102453392B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180023579A KR102453392B1 (en) 2018-02-27 2018-02-27 Method and Apparatus for Video Denoising Considering Moving Object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180023579A KR102453392B1 (en) 2018-02-27 2018-02-27 Method and Apparatus for Video Denoising Considering Moving Object

Publications (2)

Publication Number Publication Date
KR20190102736A true KR20190102736A (en) 2019-09-04
KR102453392B1 KR102453392B1 (en) 2022-10-07

Family

ID=67950684

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180023579A Active KR102453392B1 (en) 2018-02-27 2018-02-27 Method and Apparatus for Video Denoising Considering Moving Object

Country Status (1)

Country Link
KR (1) KR102453392B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022178715A1 (en) * 2021-02-24 2022-09-01 深圳市大疆创新科技有限公司 Image processing method and device
US12506961B2 (en) 2021-08-04 2025-12-23 Samsung Electronics Co., Ltd. Method and electronic device for frame stabilization of a video sequence

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050057829A (en) * 2003-12-11 2005-06-16 삼성전자주식회사 Methods for noise removal of moving picture digital data
KR20070056885A (en) * 2005-11-30 2007-06-04 주식회사 아이넷 A method of detecting feature points according to camera movement in a video and a computer readable medium recording a program composed of the method
JP2009171220A (en) * 2008-01-16 2009-07-30 Canon Inc Imaging apparatus and control method thereof
JP2017098884A (en) * 2015-11-27 2017-06-01 カシオ計算機株式会社 Movement detection apparatus, movement detection method, and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050057829A (en) * 2003-12-11 2005-06-16 삼성전자주식회사 Methods for noise removal of moving picture digital data
KR20070056885A (en) * 2005-11-30 2007-06-04 주식회사 아이넷 A method of detecting feature points according to camera movement in a video and a computer readable medium recording a program composed of the method
JP2009171220A (en) * 2008-01-16 2009-07-30 Canon Inc Imaging apparatus and control method thereof
JP2017098884A (en) * 2015-11-27 2017-06-01 カシオ計算機株式会社 Movement detection apparatus, movement detection method, and program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022178715A1 (en) * 2021-02-24 2022-09-01 深圳市大疆创新科技有限公司 Image processing method and device
US12506961B2 (en) 2021-08-04 2025-12-23 Samsung Electronics Co., Ltd. Method and electronic device for frame stabilization of a video sequence

Also Published As

Publication number Publication date
KR102453392B1 (en) 2022-10-07

Similar Documents

Publication Publication Date Title
KR101958116B1 (en) Image-processing device and method for foreground mask correction for object segmentation
CN109584204B (en) An image noise intensity estimation method, storage medium, processing and identification device
KR100846498B1 (en) Image analysis method and apparatus, and video region segmentation system
Walha et al. Video stabilization with moving object detecting and tracking for aerial video surveillance
CN106803865B (en) The denoising method and system of video time domain
KR101870700B1 (en) A fast key frame extraction method for 3D reconstruction from a handheld video
Kurnianggoro et al. Dense optical flow in stabilized scenes for moving object detection from a moving camera
KR101460317B1 (en) Detection apparatus of moving object in unstable camera environment and method thereof
Kartika et al. Frame differencing with post-processing techniques for moving object detection in outdoor environment
KR102453392B1 (en) Method and Apparatus for Video Denoising Considering Moving Object
JP2009512246A (en) Method and apparatus for determining shot type of an image
Hu et al. Feature-based real-time video stabilization for vehicle video recorder system
Zhang et al. A video deblurring algorithm based on motion vector and an encorder-decoder network
KR100566629B1 (en) Moving object detection system and method
JP6348020B2 (en) Image processing apparatus, image processing method, and inspection method using the same
KR102107177B1 (en) Method and apparatus for detecting scene transition of image
Xu et al. Features based spatial and temporal blotch detection for archive video restoration
Walha et al. Moving object detection system in aerial video surveillance
JP2002312795A (en) Image processing apparatus, image processing method, recording medium, and program
Gurrala et al. Enhancing Safety and Security: Face Tracking and Detection in Dehazed Video Frames Using KLT and Viola-Jones Algorithms.
JP2002312787A (en) Image processing apparatus, image processing method, recording medium, and program
Prabavathy et al. Gradual transition detection in shot boundary using gradual curve point
JP2002312792A (en) Image processing apparatus, image processing method, recording medium, and program
Rawat et al. Performance evaluation of various temporal derivatives for stabilization of videos with large moving objects
Rabha Background modelling by codebook technique for automated video surveillance with shadow removal

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20180227

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20210225

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20180227

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20220214

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20220728

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20221005

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20221005

End annual number: 3

Start annual number: 1

PG1601 Publication of registration