KR20190102736A - Method and Apparatus for Video Denoising Considering Moving Object - Google Patents
Method and Apparatus for Video Denoising Considering Moving Object Download PDFInfo
- Publication number
- KR20190102736A KR20190102736A KR1020180023579A KR20180023579A KR20190102736A KR 20190102736 A KR20190102736 A KR 20190102736A KR 1020180023579 A KR1020180023579 A KR 1020180023579A KR 20180023579 A KR20180023579 A KR 20180023579A KR 20190102736 A KR20190102736 A KR 20190102736A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- motion
- background
- moving object
- flow profile
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Picture Signal Circuits (AREA)
Abstract
이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치를 개시한다.
영상의 프레임 간 카메라 움직임을 판별하고, 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하며, 이동체가 존재하는 영역에서 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일을 기준 프레임과 비교하여 영상 잡음을 제거하는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치에 관한 것이다.Disclosed are a method of image noise reduction and an apparatus therefor in consideration of a moving object.
Determining camera movement between frames of an image, estimating background motion and moving body motion based on camera movement, and comparing the flow profile of each background motion and moving body motion with reference frame in the area where moving body exists The present invention relates to a method for removing video noise considering a moving object and a device therefor.
Description
본 발명의 실시예는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치에 관한 것이다. Embodiments of the present invention relate to an image noise removing method and apparatus therefor considering a moving object.
이 부분에 기술된 내용은 단순히 본 발명의 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The contents described in this section merely provide background information on the embodiments of the present invention and do not constitute a prior art.
일반적으로 영상 잡음 제거 기술은 공간 영역에서 영상 잡음을 제거하는 방식 및 시간 영역에서 영상 잡음을 제거하는 방식으로 구분될 수 있다. In general, image noise reduction techniques may be classified into a method of removing image noise in a spatial domain and a method of removing image noise in a time domain.
공간 영역에서 영상의 잡음을 제거하는 기술은 공간 영역에 대한 필터링을 수행하는 방법이 주로 사용된다. 공간 영역에서 필터링을 수행하는 방법에는 영상 잡음의 패턴을 고려하여 잡음을 제거하는 방법(한국공개특허 제10-2015-014259호), 센서 노이즈 특성을 고려하여 잡음을 제거하는 방법(한국공개특허 제10-2007-0061309호) 등이 있다. As a technique for removing noise in an image in the spatial domain, a method of performing filtering on the spatial domain is mainly used. The filtering method in the spatial domain includes a method of removing noise in consideration of a pattern of image noise (Korean Patent Laid-Open No. 10-2015-014259), and a method of removing noise in consideration of sensor noise characteristics (Korean Patent Publication No. 10-2007-0061309).
또한, 시간 영역에서 영상의 잡음을 제거하는 기술은 기준 영상을 설정하고, 기준 영상과 주변 영상을 이용하여 판단된 화면의 변화 정도에 따라 필터링 강도를 조정하여 영상 잡음을 제거하는 방법(한국공개특허 제10-2004-0024888)이 주로 사용된다. In addition, a technique for removing image noise in the time domain is a method of removing image noise by setting a reference image and adjusting the filtering intensity according to the degree of change of the screen determined using the reference image and the surrounding image. 10-2004-0024888) are mainly used.
하지만, 전술한 방법들은 카메라의 움직임이나 이동체의 모션을 고려하지 않고 배경 화소의 변화만을 이용하여 영상 잡음을 제거하는 방식이기 때문에 필터링 강도를 조절하더라도 왜곡이 생성된다. 따라서, 카메라의 움직임 또는 이동체의 모션을 고려하여 정확하게 영상 잡음을 제거하기 위한 방법이 필요하다. However, since the above-described methods remove image noise using only the change of the background pixel without considering the motion of the camera or the moving object, distortion is generated even if the filtering intensity is adjusted. Therefore, there is a need for a method for accurately removing image noise in consideration of camera movement or moving object movement.
본 발명의 실시예는 영상의 프레임 간 카메라 움직임을 판별하고, 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하며, 이동체가 존재하는 영역에서 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일을 기준 프레임과 비교하여 영상 잡음을 제거하는 이동체를 고려한 영상 잡음 제거 방법 및 그를 위한 장치를 제공하는 데 주된 목적이 있다.An embodiment of the present invention determines a camera motion between frames of an image, estimates a background motion and a moving motion based on the movement of the camera, and references a flow profile for each of the background motion and the moving motion in a region where the moving object exists. A main object of the present invention is to provide an image noise removing method and an apparatus therefor in consideration of a moving object for removing image noise.
본 발명의 실시예의 일 측면에 의하면, 이동체를 고려하여 영상 잡음을 제거하는 장치에 있어서, 입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리부; 상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정부; 및 상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거부를 포함하는 것을 특징으로 하는 영상 잡음 제거장치를 제공한다.According to an aspect of an embodiment of the present invention, in the apparatus for removing image noise in consideration of a moving object, the scene change information of the input image is extracted, and the divided image is divided by dividing the image by the same scene based on the scene change information. An input image processor to generate; A motion estimator for checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And an image noise remover configured to remove image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion.
또한, 본 발명의 실시예의 다른 측면에 의하면, 이동체를 고려하여 영상 잡음을 제거하는 방법에 있어서, 입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리과정; 상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정과정; 및 상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거과정을 포함하는 것을 특징으로 하는 영상 잡음 제거방법을 제공한다.According to another aspect of an embodiment of the present invention, in the method for removing image noise in consideration of a moving object, the scene change information of the input image is extracted, and the image is divided and divided by the same scene based on the scene change information. An input image processing process of generating an image; A motion estimation process of checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And an image noise removing process of removing image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion.
이상에서 설명한 바와 같이 본 발명의 실시예에 의하면, 카메라 센서의 움직임, 영상 잡음의 패턴에 관계없이 고품질의 영상 잡음 제거 결과를 얻을 수 있는 효과가 있다. As described above, according to the exemplary embodiment of the present invention, it is possible to obtain a high quality image noise elimination result regardless of the movement of the camera sensor and the image noise pattern.
또한, 본 발명의 실시예에 의하면, 이동체 영역에 대한 부분적인 영상 정보를 이용하여 영상 잡음을 제거함에 따라 영상 잡음을 제거하는 시간을 단축시킬 수 있고, 스트리밍 환경에 적용 가능한 효과가 있다. In addition, according to an embodiment of the present invention, by eliminating the video noise by using partial image information on the moving object region, it is possible to shorten the time for removing the video noise and to apply to the streaming environment.
또한, 본 발명의 실시예에 의하면, 영상 잡음 제거 기술을 스트리밍 환경에 적용 가능함에 따라, IPTV, 실시간 스트리밍 컨텐츠, 지능형 영상 시스템의 실시간 모니터링 등 다양한 분야에 적용할 수 있는 효과가 있다. In addition, according to an embodiment of the present invention, the video noise reduction technology can be applied to the streaming environment, there is an effect that can be applied to various fields such as IPTV, real-time streaming content, real-time monitoring of intelligent video system.
도 1은 본 발명의 실시예에 따른 영상 잡음 제거장치를 개략적으로 나타낸 블록 구성도이다.
도 2는 본 발명의 실시예에 따른 영상 잡음 제거방법을 설명하기 위한 순서도이다.
도 3은 본 발명의 실시예에 따른 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다.
도 4는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 배경 및 이동체의 모션을 추정하는 동작을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 영상을 정합하고, 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다. 1 is a block diagram schematically illustrating an apparatus for removing video noise according to an exemplary embodiment of the present invention.
2 is a flowchart illustrating a method for removing image noise according to an exemplary embodiment of the present invention.
3 is an exemplary diagram for describing an operation of removing image noise according to an exemplary embodiment of the present invention.
4 is an exemplary view for explaining an operation of estimating a motion of a background and a moving object in an image noise removing device according to an exemplary embodiment of the present invention.
5 is an exemplary diagram for describing an operation of matching an image and removing image noise in an image noise removing apparatus according to an exemplary embodiment of the present invention.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시예에 따른 영상 잡음 제거장치를 개략적으로 나타낸 블록 구성도이다. 1 is a block diagram schematically illustrating an apparatus for removing video noise according to an exemplary embodiment of the present invention.
본 실시예에 따른 영상 잡음 제거장치(100)는 입력 영상 처리부(110), 모션 추정부(120) 및 영상 잡음 제거부(130)를 포함한다. The
입력 영상 처리부(110)는 입력 영상을 획득하고, 입력 영상의 장면 전환 여부를 판단하여 동일 공간에 대한 세그먼트(Segment)로 입력 영상을 분할한다. 여기서, 입력 영상은 카메라를 통해 촬영된 비디오 영상으로서, 복수의 공간영역을 촬영한 영상일 수 있다. 예를 들어, 입력 영상 처리부(110)는 PTZ(Pan-Tilt-Zoom) 카메라를 이용하여 복수의 기 설정된 영역을 촬영한 영상을 입력 영상으로 획득할 수 있다. The
입력 영상 처리부(110)는 입력 영상에 대한 장면 전환정보를 추출하고, 장면 전환정보를 이용하여 연속성 있는 공간에서 촬영된 영상으로 분할 처리한다. 입력 영상 처리부(110)는 동일한 공간을 기준으로 분할 처리된 영상을 분할 영상으로 기재하며, 본 실시예에서는 분할 영상 내에 포함된 프레임을 이용하여 잡음 제거를 수행한다. The
입력 영상은 공간 변화 즉, 장면 변화가 없는 경우 하나의 분할 영상으로 구현될 수 있으며, 공간 변화가 존재하는 경우 복수의 분할 영상으로 구현될 수 있다. The input image may be implemented as one divided image when there is no spatial change, that is, a scene change, and may be implemented as a plurality of divided images when there is a spatial change.
입력 영상 처리부(110)는 장면 전환정보를 이용하여 입력 영상의 장면 변화를 판단하며, 구체적으로 색상 히스토그램, 특징점 대응 정확도 등을 포함하는 장면 전환정보를 기초로 급격한 변화를 보이는 프레임을 장면이 전환된 프레임으로 선정하여 장면 전환 여부를 판단할 수 있다. The
한편, 입력 영상 처리부(110)는 입력 영상의 메타데이터(Metadata) 정보에 포함된 장면 전환정보를 기반으로 장면 변화 여부를 판단할 수 있으나 반드시 이에 한정되는 것은 아니며, 기준 프레임 대비 SAD(Sum of Absolute Difference) 에러가 임계치 이상인 프레임을 선정하여 장면 전환 여부를 판단할 수도 있다. 예를 들어, 입력 영상이 A 영역 및 B 영역을 촬영한 100 개의 프레임으로 구성된 영상인 것으로 가정하면, 입력 영상 처리부(110)는 장면 전환정보를 기반으로 B 영역을 촬영하기 시작한 50 번째 프레임을 추출하며, 1 번째 프레임 내지 49 번째 프레임을 제1 분할 영상, 50 번째 프레임 내지 100 번째 프레임을 제2 분할 영상으로 구분할 수 있다. The
모션 추정부(120)는 분할 영상에서 배경 모션 및 이동체 모션을 추정한다. 모션 추정부(120)는 분할 영상에서의 카메라의 움직임 여부를 판별하고, 카메라의 움직임 여부에 근거하여 배경 모션 및 이동체 모션을 추정한다. 모션 추정부(120)는 카메라 움직임 판별부(122), 배경 모션 추정부(124) 및 이동체 모션 추정부(126)를 포함한다. The
카메라 움직임 판별부(122)는 분할 영상 내에서 카메라의 움직임이 존재하는지 여부를 판별한다. 카메라 움직임의 판별 결과에 근거하여 배경 모션 추정부(124) 및 이동체 모션 추정부(126)에서 모션을 추정하는 방식은 변경될 수 있다. The camera motion determiner 122 determines whether a camera motion exists in the divided image. The motion estimation method of the
카메라 움직임 판별부(122)는 픽셀의 밝기를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별한다. 예를 들어, 카메라 움직임 판별부(122)는 프레임 간의 차영상을 기준으로 전체 픽셀 개수에서 기 정의된 밝기 차이를 보이는 픽셀 또는 밝기 차이가 없는 픽셀의 비율을 계산하고, 해당 비율이 기 설정된 임계치 이하일 경우 카메라가 정지상태인 것으로 판단한다. 한편, 카메라 움직임 판별부(122)는 해당 비율이 기 설정된 임계치를 초과하는 경우 카메라의 이동이 있는 것으로 판단한다. The camera motion determiner 122 determines the movement of the camera between frames in the divided image by using the brightness of the pixel. For example, the camera motion determiner 122 calculates a ratio of a pixel having a predetermined brightness difference or a pixel having no brightness difference based on the difference image between frames, and the ratio is equal to or less than a preset threshold. If it is determined that the camera is stationary. On the other hand, the camera
한편, 카메라 움직임 판별부(122)는 각 프레임의 특징점을 검출하고, 프레임 간의 특징점 대응 관계를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별할 수 있다. 예를 들어, 카메라 움직임 판별부(122)는 전체 특징점 대응 관계의 수에서 일정 임계치 이하의 움직임을 보이는 특징점 대응 이동량의 비율을 계산하고, 특징점 대응 이동량의 비율이 일정 임계치 이하일 경우 카메라가 정지 상태인 것으로 판단한다. 한편, 카메라 움직임 판별부(122)는 특징점 대응 이동량의 비율이 일정 임계치를 초과하는 경우 카메라의 이동이 있는 것으로 판단한다. On the other hand, the camera motion determiner 122 may detect the feature points of each frame, and determine the movement of the camera between the frames in the divided image by using the feature point correspondence between the frames. For example, the camera motion
카메라 움직임 판별부(122)는 카메라의 움직임이 없거나 적은 경우 배경 모션 추정부(124) 및 이동체 모션 추정부(126)의 모션 추정 동작을 간소화할 수 있다. 즉, 카메라 움직임 판별부(122)는 프레임 간의 카메라가 정지 상태인 것으로 판별되면, 배경 모션 추정부(124) 및 이동체 모션 추정부(126)에서 특징점 대응 결과를 이동체 모션으로 추정하고, 프레임 간의 동일 영역은 배경 모션인 것으로 처리할 수 있다. 카메라 움직임 판별부(122)는 프레임 간의 카메라가 정지 상태이면, 배경 모션 추정부(124)에서 그리드 기반의 배경 모션을 별도로 추정할 필요가 없다.The camera motion determiner 122 may simplify the motion estimation operation of the
배경 모션 추정부(124)는 분할 영상 내의 프레임 간 정적 배경에 대한 배경 모션을 추정한다. 배경 모션 추정부(124)는 카메라 움직임 판별부(122)의 카메라 움직임 판단 결과에 근거하여 배경 모션을 추정할 수 있다. The
분할 영상 내의 프레임 간 카메라 움직임이 없는 정지상태인 경우, 배경 모션 추정부(124)는 움직임이 없는 부분 즉, 밝기 차이가 없는 픽셀 영역, 움직임이 없는 특징점 부분 등을 배경 모션으로 추정한다. 카메라 움직임이 없는 정지상태인 경우, 이동체 모션 추정부(126)에서는 움직임이 있는 부분 즉, 밝기 차이가 임계치 이상인 픽셀 영역, 움직임이 있는 특징점 부분 등을 이동체 모션으로 추정할 수 있다. When there is no camera movement between frames in the divided image, the
한편, 분할 영상 내의 프레임 간 카메라 움직임이 있는 경우, 다음과 같은 방법으로 배경 모션을 추정한다. On the other hand, when there is camera movement between frames in the divided image, the background motion is estimated by the following method.
배경 모션 추정부(124)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정한다. 예를 들어, 배경 모션 추정부(124)는 분할 영상을 기 정의된 그리드로 분할하고, 특징점 대응 관계(F)를 이용하여 분할된 각 그리드에 대한 호모그래피(Homography)를 회귀분석(Regression) 처리하여 배경 모션을 추정한다. 여기서, 특징점 대응 관계(F)는 SIFT(Scale Invariant Feature Transform) 방식을 이용하여 특징점을 추출하고, RANSAC(RANdom SAmple Consensus) 방식으로 분석하여 배경 모션을 추정할 수 있다. RANSAC 방식을 사용하는 경우, 배경 모션 추정부(124)는 재투영 에러(Reprojection Error)가 임계치 이상인 특징점 대응 관계 즉, 이동체로부터 발생되는 특징점 대응 관계를 제거하여 배경 모션을 추정한다. The
배경 모션 추정부(124)는 SIFT 방식을 이용하여 특징점을 추출하고, RANSAC 방식으로 분석하여 배경 모션을 추정하는 것이 바람직하나 반드시 이에 한정되는 것은 아니며, 그리드 기반으로 배경 모션을 추정할 수 있다면 다양한 방법을 적용할 수 있다. 배경 모션 추정부(124)는 프레임 간 특징점 매칭 후 그리드 기반으로 평균 모션을 선택하는 방법을 사용하거나, 그리드 기반으로 모션을 전파하고 소정의 공간적 필터링을 적용하여 배경에 대한 모션을 추정할 수 있다. 예를 들어, 배경 모션 추정부(124)는 영상을 기 정의된 그리드로 분할 후 특징점 대응관계를 각 그리드의 꼭지점(Vertex)로 전파하고 각 꼭지점(Vertex)와 영상 공간에 대하여 이차원 필터링을 수행함으로써 이동체를 제거한 배경 모션을 추정할 수 있다. The
이동체 모션 추정부(126)는 배경 모션을 추정한 후 분할 영상 내에 포함된 프레임에 대한 이동체 모션을 추정한다. 구체적으로, 이동체 모션 추정부(126)는 특징점 대응 관계를 기초로 생성된 특징점 대응정보(F)와 배경 모션(B)의 차이를 이용하여 이동체의 모션(M)을 추정한다. 여기서, 이동체 모션 추정부(126)는 배경 모션을 추정하는 방식과 동일한 그리드 방식으로 이동체 모션을 추정할 수 있다. 이동체 모션 추정부(126)는 [수학식 1]을 이용하여 이동체 모션을 추정할 수 있다. The moving body
이동체 모션 추정부(126)는 특징점 대응과 배경 모션의 차이를 주변으로 전파하거나 특정 위치에서 특징점 대응과 배경 모션의 차이의 평균치를 이용하여 이동체 모션을 추정할 수 있다. 예를 들어, 이동체 모션 추정부(126)는 그리드 기반의 이동체 모션을 추정하기 위하여 그리드의 주변 꼭지점으로 특징점 대응과 배경 모션의 차이를 전파시켜 2D 필터링을 수행하거나, 그리드의 꼭지점 주변의 모션 평균값을 산출하여 이동체 모션을 추정할 수 있다. 여기서, 이동체 모션 추정부(126)는 특징점 대응과 배경 모션의 차이에 패널티 함수(Penalty Function)을 적용하여 미세한 차이는 억제하고 큰 차이를 부각시켜 이동체 모션을 추정할 수 있다. The moving body
이동체 모션 추정부(126)는 이동체 모션 중 기 설정된 임계치 이상의 이동체 모션을 추출하며, 해당 이동체 모션을 포함하는 그리드를 이동체 영역으로 설정할 수 있다. The moving body
영상 잡음 제거부(130)는 추정된 배경 모션 및 이동체 모션을 기반으로 영상의 잡음을 제거하는 동작을 수행한다. 영상 잡음 제거부(130)는 영상 정합부(132), 프로파일 추정부(134) 및 필터링부(136)를 포함한다. The
영상 정합부(132)는 분할 영상 내에서 복수의 프레임을 포함하는 윈도우를 설정하고, 윈도우에 포함된 복수의 프레임의 배경 모션을 기반으로 기준 프레임을 정합한다. 구체적으로, 영상 정합부(132)는 분할 영상에서 슬라이딩 윈도우 방식으로 기준 프레임(Reference Frame)을 설정하고, 기 추정된 배경 모션을 이용하여 윈도우 내에 포함된 복수의 프레임을 기준 프레임의 좌표(Coordinate)로 정렬(정합)한다. The
영상 정합부(132)는 기준 프레임(t)을 기준으로 n 개의 이전 프레임(t-1, t-2, ..., t-n) 및 n 개의 이후 프레임(t+1, t+2, ..., t+n)의 배경 모션을 이용하여 기준 프레임(t)으로 정합한다. 여기서, 정합은 갈릴레이 변환(Galilean Transformations)을 기반으로 처리되는 것이 바람직하나 반드시 이에 한정되는 것은 아니다. 영상 정합부(132)는 n 개의 이후 프레임의 경우에는 배경 모션을 역변환 처리하여 기준 프레임(t)에 정합하는 것이 바람직하고, 특정 위치까지의 배경 모션은 프레임 간 모션을 합산하여 산출될 수 있다. The
영상 정합부(132)는 이동체 모션에 대한 영역을 정확히 구분할 수 없으므로, 프레임 간의 배경 모션만을 이용하여 기준 프레임의 영상 정합을 처리한다. Since the
프로파일 추정부(134)는 윈도우 내에 포함된 프레임에서 이동체 모션에 대한 이동체 영역을 구분하고, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다. 여기서, 플로우 프로파일은 윈도우 내 프레임들에서 특정 픽셀 위치의 시간에 따른 밝기값들을 수집한 정보를 의미한다. The
프로파일 추정부(134)는 이동체 영역에서 이동체 및 배경에 대한 플로우 프로파일을 모두 추정함에 따라 필터링부(136)에서 이동체 모션 및 배경 모션에 대한 플로우 프로파일을 동시에 고려하여 영상 잡음 제거를 수행할 수 있다. 한편, 프로파일 추정부(134)는 기준 프레임에서 배경 모션만 존재하는 영역에 대해서는 배경 모션에 대한 플로우 프로파일만을 추정한다. As the
프로파일 추정부(134)는 이동체 또는 배경에 대한 플로우 프로파일 내의 노이즈를 제거할 수 있다. 구체적으로, 프로파일 추정부(134)는 플로우 프로파일 내에 포함된 색상, 밝기 등에 대한 값의 분포를 정규분포로 가정하고, 소정의 표준편차 계수를 벗어나는 이상치(Outlier)를 제거하고, 제거된 값을 제외한 나머지 값들의 평균 및 분산을 추정하여 플로우 프로파일을 생성할 수 있다. 예를 들어, 프로파일 추정부(134)는 플로우 프로파일 내에 포함된 값의 분포를 가우시안(Gaussian) 분포로 가정하고, 소정의 시그마계수(예: 3 시그마)를 벗어나는 값은 제거하고, 나머지 값들의 평균 및 분산을 추정하여 플로우 프로파일을 생성한다. The
프로파일 추정부(134)는 이동체 및 배경에 대한 플로우 프로파일 각각에 대해 정규분포로 가정하여 플로우 프로파일 내 노이즈를 제거할 수 있다. The
필터링부(136)는 이동체 또는 배경에 대한 플로우 프로파일을 필터링 처리하고, 필터링 처리를 통해 영상 잡음을 제거한다. The
필터링부(136)는 배경 영역에 대한 배경 플로우 프로파일만을 이용하여 영상 잡음을 제거하는 경우, 배경에 해당하는 각 픽셀이 물리적인 위치가 모두 같은 것으로 가정하기 때문에 배경 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거할 수 있다. When the
한편, 배경 영역 및 이동체 영역이 혼재되어 있는 경우, 필터링부(136)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링(1d 필터링)하여 영상 잡음을 제거한다. On the other hand, when the background area and the moving object area are mixed, the
종래에는 기준 프레임에서 배경 모션만을 이용하여 잡음을 제거하였으며, 이동체 영역이 작으면 색상, 밝기 등의 변화가 크지 않아 문제가 되지 않지만, 이동체가 크거나 빠르게 움직이는 경우에는 정확한 잡음제거가 불가능하다. 따라서, 본 실시예에 따른 필터링부(136)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임과 비교하여 유사도에 따라 효율적으로 영상 잡음 제거를 수행할 수 있다. Conventionally, noise is removed using only a background motion in a reference frame, and a small area of the moving object is not a problem because the change in color, brightness, etc. is not large. However, when the moving object is large or moves fast, accurate noise removal is impossible. Therefore, the
본 실시예에 따른 필터링부(136)는 배경 플로우 프로파일과 이동체 플로우 프로파일 각각의 평균값과 기준 프레임의 픽셀값을 비교하여 차이가 작은 즉, 유사도가 높은 플로우 프로파일을 선택하고, 선택한 플로우 프로파일을 필터링하여 영상 잡음을 제거한다. 여기서, 필터링은 가우시안 필터(Gaussian Filter), Bilateral 필터, Median 필터 등을 적용할 수 있으나 반드시 이에 한정되는 것은 아니며, 영상의 블러링(blurring) 또는 smoothing에 사용될 수 있는 필터라면 다양한 형태의 필터로 변경 적용 가능하다. The
필터링부(136)는 이동체 영역에서 [수학식 2]를 이용하여 배경 플로우 프로파일과 기준 프레임의 픽셀 간의 배경 유사도를 산출하고, [수학식 3]을 이용하여 이동체 플로우 프로파일과 기준 프레임의 픽셀 간의 이동체 유사도를 산출한다. The
(SB: 배경 유사도, SM: 이동체 유사도, x: 픽셀 위치, W: 윈도우 사이즈, : 기준 프레임 인덱스, t: 분할 영상 인덱스(-W ≤ t ≤ +W), PB: 배경 플로우 프로파일, PM: 이동체 플로우 프로파일, PB E: Edge 영상에서 배경의 edgeness 프로파일 및 PM E: Edge 영상에서 이동체의 edgeness 프로파일)(S B : background similarity, S M : mobile similarity, x: pixel position, W: window size, : Reference frame index, t: Split image index ( -W ≤ t ≤ + W), P B : background flow profile, P M : mobile flow profile, P B E : edgeness profile of background in Edge image and P M E : edgeness profile of moving object in Edge image)
필터링부(136)는 [수학식 2] 및 [수학식 3]를 이용하여 배경 유사도 및 이동체 유사도를 산출하고, 두 개의 유사도 중 높은 유사도를 갖는 플로우 프로파일을 선택한다. 필터링부(136)는 선택된 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거한 영상 잡음 제거 결과를 생성한다. 여기서, 필터링부(136)는 선택된 플로우 프로파일에 필터링을 적용하는 것으로 기재하고 있으나 반드시 이에 한정되는 것은 아니며, 필터링을 대신하여 플로우 프로파일 내의 값들의 평균값을 적용하여 영상 잡음을 제거할 수도 있다. 여기서, 필터링부(136)는 기준 프레임과 시간적인 거리가 멀수록, 색상이 다를수록, Edgeness 차이가 많이 날수록 유사도가 작은 것으로 판단하며, 기준 프레임과 시간적인 거리가 가까울수록, 색상이 유사할수록, Edgeness 차이가 적게 날수록 유사도가 높은 것으로 판단한다. The
도 2는 본 발명의 실시예에 따른 영상 잡음 제거방법을 설명하기 위한 순서도이다. 2 is a flowchart illustrating a method for removing image noise according to an exemplary embodiment of the present invention.
영상 잡음 제거장치(100)는 카메라를 이용하여 촬영된 입력 영상을 획득한다(S210). 여기서, 입력 영상은 카메라를 통해 촬영된 비디오 영상으로서, 복수의 공간영역을 촬영한 영상일 수 있다. The image
영상 잡음 제거장치(100)는 입력 영상에 대한 장면 전환정보를 추출하고(S212), 장면 전환정보를 이용하여 동일한 공간영역별로 입력 영상을 분할하여 분할 영상을 생성한다(S220). 여기서, 장면 전환정보는 색상 히스토그램, 특징점 대응 정확도 등을 포함하며, 영상 잡음 제거장치(100)는 장면 전환정보를 기초로 급격한 변화를 보이는 프레임을 장면이 전환된 프레임으로 선정하여 분할 영상을 생성한다.The image
영상 잡음 제거장치(100)는 분할 영상 내 프레임 간 카메라의 움직임을 판별한다(S230). 영상 잡음 제거장치(100)는 각 프레임의 특징점을 검출하고, 프레임 간의 특징점 대응 관계를 이용하여 분할 영상 내 프레임 간 카메라의 움직임을 판별하거나, 프레임 간의 차영상을 기준으로 전체 픽셀 개수에서 기 정의된 밝기 차이를 보이는 픽셀 또는 밝기 차이가 없는 픽셀의 비율을 계산하여 카메라의 움직임을 판별할 수 있다. The image
단계 S230에서 카메라의 움직임이 없는 경우, 영상 잡음 제거장치(100)는 프레임 간 배경의 움직임에 대한 메쉬 플로우(Mesh Flow)를 초기화하여 배경 모션을 추정하고(S232), 움직임이 있는 나머지 영역을 이동체 모션으로 추정한다(S250). 여기서, 배경의 움직임에 대한 메쉬 플로우는 움직임이 없는 하여 움직임이 없는 부분 즉, 밝기 차이가 없는 픽셀 영역, 움직임이 없는 특징점 부분 등에 대한 그리드 형태의 이차원 벡터의 집합을 의미한다. When there is no camera movement in step S230, the image
한편, 단계 S230에서 카메라의 움직임이 존재하는 경우, 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정하고(S240), 특징점 대응 관계를 기초로 생성된 특징점 대응정보와 배경 모션의 차이를 이용하여 이동체의 모션을 추정한다(S250).On the other hand, when there is a camera movement in step S230, the image
영상 잡음 제거장치(100)는 분할 영상 내에 포함된 복수의 프레임에 대해 시간순으로 배경 모션 및 이동체 모션을 추정하는 동작을 수행하고, 분할 영상 내 모든 프레임의 모션 추정이 완료되면(S252), 분할 영상에서 윈도우 슬라이딩 처리를 위한 소정의 윈도우를 설정한다(S260). The image
영상 잡음 제거장치(100)는 배경 모션을 기반으로 기준 프레임을 정합한다(S270). 구체적으로, 영상 잡음 제거장치(100)는 분할 영상에서 슬라이딩 윈도우 방식으로 기준 프레임(Reference Frame)을 설정하고, 기 추정된 배경 모션을 이용하여 윈도우 내에 포함된 복수의 프레임을 기준 프레임의 좌표(Coordinate)로 정렬(정합)한다. The image
영상 잡음 제거장치(100)는 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다(S280).구체적으로, 영상 잡음 제거장치(100)는 윈도우 내에 포함된 프레임에서 이동체 모션에 대한 이동체 영역을 구분하고, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 이동체 모션 및 배경 모션에 대한 플로우 프로파일(Flow Profile)을 각각 추정한다. 여기서, 플로우 프로파일은 윈도우 내 프레임들에서 특정 픽셀 위치의 시간에 따른 밝기값들을 수집한 정보를 의미한다. The
영상 잡음 제거장치(100)는 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거하고(S290), 영상 잡음 제거 결과를 생성한다(S292). 구체적으로, 영상 잡음 제거장치(100)는 배경 영역에 대한 영상 잡음 제거를 수행하는 경우, 배경 플로우 프로파일에 필터링(1d 필터링)을 적용하여 영상 잡음을 제거한다. The image
한편, 영상 잡음 제거장치(100)는 이동체 영역에 대한 영상 잡음 제거를 수행하는 경우, 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임의 픽셀값과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거한다.On the other hand, when the image
도 2에서는 각 과정을 순차적으로 실행하는 것으로 기재하고 있으나, 반드시 이에 한정되는 것은 아니다. 다시 말해, 도 2에 기재된 과정을 변경하여 실행하거나 하나 이상의 과정을 병렬적으로 실행하는 것으로 적용 가능할 것이므로, 도 2는 시계열적인 순서로 한정되는 것은 아니다.In FIG. 2, each process is described as being sequentially executed, but is not necessarily limited thereto. In other words, since the process described in FIG. 2 may be applied by changing or executing one or more processes in parallel, FIG. 2 is not limited to the time series order.
도 2에 기재된 본 실시예에 따른 영상 잡음 제거방법은 애플리케이션(또는 프로그램)으로 구현되고 단말장치(또는 컴퓨터)로 읽을 수 있는 기록매체에 기록될 수 있다. 본 실시예에 따른 영상 잡음 제거방법을 구현하기 위한 애플리케이션(또는 프로그램)이 기록되고 단말장치(또는 컴퓨터)가 읽을 수 있는 기록매체는 컴퓨팅 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다.The image noise removing method according to the present embodiment described in FIG. 2 may be implemented in an application (or a program) and recorded on a recording medium readable by a terminal device (or a computer). An application (or program) for implementing an image noise canceling method according to the present embodiment is recorded and a recording medium readable by a terminal device (or computer) is any type of recording device in which data that can be read by a computing system is stored. It includes.
도 3은 본 발명의 실시예에 따른 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다. 3 is an exemplary diagram for describing an operation of removing image noise according to an exemplary embodiment of the present invention.
영상 잡음 제거장치(100)는 획득한 입력 영상의 장면 전환정보에 근거하여 동일 공간에 대한 분할 영상(310)으로 구분 처리한다. The image
영상 잡음 제거장치(100)는 분할 영상(310) 내에 포함된 복수의 프레임 각각에 대한 모션(320)을 추정한다. 영상 잡음 제거장치(100)는 분할 영상(310) 내 프레임 각각을 그리드로 구분하고, 그리드 기반의 배경 모션 및 이동체 모션을 각각 추정한다. The image
영상 잡음 제거장치(100)는 분할 영상(310)의 윈도우 내에 포함된 프레임들의 배경 모션을 이용하여 영상 정합을 수행한다. 즉, 영상 잡음 제거장치(100)는 배경 모션을 이용하여 기준 프레임을 설정하고, 기준 프레임을 기반으로 배경 모션 및 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 생성한다. The
영상 잡음 제거장치(100)는 배경 플로우 프로파일 및 이동체 플로우 프로파일 중 하나 또는 모두를 필터링하여 영상 잡음을 제거(330)한다. The image
영상 잡음 제거장치(100)는 배경 플로우 프로파일만 존재하는 경우, 배경 플로우 프로파일을 필터링하여 영상 잡음을 제거한다. 하지만, 이동체 플로우 프로파일이 존재하는 경우, 이동체 영역에서는 이동체와 배경이 혼재되어 있으므로 배경 플로우 프로파일 및 이동체 플로우 프로파일을 각각 기준 프레임의 픽셀과 비교하여 유사도를 산출하고, 유사도가 높은 플로우 프로파일을 필터링 처리하여 영상 잡음을 제거한다. If only the background flow profile exists, the image
도 4는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 배경 및 이동체의 모션을 추정하는 동작을 설명하기 위한 예시도이다. 4 is an exemplary view for explaining an operation of estimating a motion of a background and a moving object in an image noise removing device according to an exemplary embodiment of the present invention.
도 4의 (a)의 좌측 이미지는 분할 영상 내 프레임 간 특징점 대응 관계의 결과를 나타내고, 도 4의 (a)의 우측 이미지는 그리드 기반으로 배경 모션을 추정한 결과를 나타낸다. 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 그리드별 모션을 취합하여 프레임 전체의 모션을 추정하는 방식으로 배경 모션을 추정할 수 있다. 예를 들어, 영상 잡음 제거장치(100)는 프레임을 그리드로 분할 후 특징점 대응관계를 각 그리드의 꼭지점(Vertex)로 전파하고 각 꼭지점(Vertex)와 영상 공간에 대하여 이차원 필터링을 수행함으로써 이동체를 제거한 배경 모션을 추정할 수 있다.The left image of FIG. 4A shows a result of a feature point correspondence relationship between frames in the divided image, and the right image of FIG. 4A shows a result of estimating background motion on a grid basis. The image
도 4의 (b)의 좌측 이미지는 분할 영상에 대한 이미지를 나타내고, 도 4의 (b)의 우측 이미지는 그리드 기반으로 이동체 모션을 추정한 결과를 나타낸다. 영상 잡음 제거장치(100)는 분할 영상 내의 프레임을 그리드로 나누고, 각 그리드에서 특징점 대응과 배경 모션의 차이를 주변으로 전파하거나 특정 위치에서 특징점 대응과 배경 모션의 차이의 평균치를 이용하여 이동체 모션을 추정할 수 있다. 예를 들어, 영상 잡음 제거장치(100)는 그리드 기반의 이동체 모션을 추정하기 위하여 그리드의 주변 꼭지점으로 특징점 대응과 배경 모션의 차이를 전파시켜 2D 필터링을 수행하거나, 그리드의 꼭지점 주변의 모션 평균값을 산출하여 이동체 모션을 추정할 수 있다. The left image of (b) of FIG. 4 represents an image of the divided image, and the right image of (b) of FIG. 4 represents a result of estimating the moving body motion on a grid basis. The image
도 5는 본 발명의 실시예에 따른 영상 잡음 제거장치에서 영상을 정합하고, 영상 잡음을 제거하는 동작을 설명하기 위한 예시도이다. 5 is an exemplary diagram for describing an operation of matching an image and removing image noise in an image noise removing apparatus according to an exemplary embodiment of the present invention.
도 5의 (a)는 그리드 기반의 배경 모션을 이용하여 영상 정합을 수행하여 기준 프레임을 설정하는 예시도이다. 도 5의 (a)에 도시된 바와 같이, 영상 잡음 제거장치(100)는 기 설정된 윈도우 사이즈 내에 포함된 5 개의 프레임(t-2, t-1, t, t+1, t+2) 중 일부 프레임(t-2, t-1, t+1, t+2)의 배경 모션을 기준 프레임(t)으로 정합한다. 5A is an exemplary diagram of setting a reference frame by performing image registration using a grid-based background motion. As shown in (a) of FIG. 5, the image
도 5의 (b)는 이동체 영역에서 영상 잡음을 제거하기 위하여 배경 플로우 프로파일 및 이동체 플로우 프로파일의 유사도에 근거하여 플로우 프로파일을 선택하는 동작을 나타낸 예시도이다. 도 5의 (b)에 도시된 바와 같이, 영상 잡음 제거장치(100)는 윈도우 내에 포함된 프레임에서 이동체 영역을 추출하고, 이동체 영역의 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각을 기준 프레임의 픽셀과 비교하여 유사도를 산출한다. 영상 잡음 제거장치(100)는 유사도가 높은 플로우 프로파일 즉, 배경 플로우 프로파일 및 이동체 플로우 프로파일 중 최소의 에러를 갖는 플로우 프로파일 선택하여 영상 잡음을 제거할 수 있다. FIG. 5B is an exemplary diagram illustrating an operation of selecting a flow profile based on a similarity between the background flow profile and the moving flow profile in order to remove image noise in the moving object region. As shown in (b) of FIG. 5, the image
이상의 설명은 본 발명의 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명의 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명의 실시예들은 본 발명의 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely illustrative of the technical spirit of the embodiments of the present invention, and those skilled in the art to which the embodiments of the present invention pertain various modifications without departing from the essential characteristics of the embodiments of the present invention. Modifications may be possible. Therefore, the embodiments of the present invention are not intended to limit the technical spirit of the embodiments of the present invention, but to describe, and the scope of the technical spirit of the embodiments of the present invention is not limited by these embodiments. The protection scope of the embodiments of the present invention should be interpreted by the following claims, and all technical ideas within the equivalent scope should be interpreted as being included in the scope of the embodiments of the present invention.
이상에서 설명한 바와 같이 본 발명의 실시예는 영상 잡음을 제거하는 분야에 적용되어, 카메라 센서의 움직임, 영상 잡음의 패턴에 관계없이 고품질의 영상 잡음 제거 결과를 얻을 수 있고, 이동체 영역에 대한 부분적인 영상 정보를 이용하여 영상 잡음을 제거함에 따라 영상 잡음을 제거하는 시간을 단축시킬 수 있는 효과를 발생하는 유용한 발명이다.As described above, the embodiment of the present invention is applied to the field of removing image noise, so that a high quality image noise reduction result can be obtained regardless of the motion of the camera sensor and the pattern of the image noise. It is a useful invention to generate an effect that can shorten the time to remove the video noise by removing the video noise by using the image information.
100: 영상 잡음 제거장치
110: 입력 영상 처리부
120: 모션 추정부
122: 카메라 움직임 판별부
124: 배경 모션 추정부
126: 이동체 모션 추정부
130: 영상 잡음 제거부
132: 영상 정합부
134: 프로파일 추정부
136: 필터링부100: video noise reduction device
110: input image processor 120: motion estimation unit
122: camera motion discrimination unit 124: background motion estimation unit
126: moving object motion estimation unit
130: image noise removing unit 132: image matching unit
134: profile estimation unit 136: filtering unit
Claims (9)
입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리부;
상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정부; 및
상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거부
를 포함하는 것을 특징으로 하는 영상 잡음 제거장치.In the device for removing image noise in consideration of a moving object,
An input image processor extracting scene change information of an input image and generating a divided image by dividing an image for each scene based on the scene change information;
A motion estimator for checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And
An image noise remover for removing image noise in an area in which a moving object exists by using the flow profile of the background motion and the moving object motion.
Image noise reduction device comprising a.
상기 영상 잡음 제거부는,
상기 배경 모션을 이용하여 기준 프레임을 정합하는 영상 정합부;
상기 배경 모션 및 상기 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 추정하는 프로파일 추정부; 및
상기 이동체가 존재하는 영역에서 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각과 상기 기준 영상의 픽셀값을 비교하여 영상 잡음을 제거하는 필터링부
를 포함하는 것을 특징으로 하는 영상 잡음 제거장치.The method of claim 1,
The image noise removing unit,
An image matching unit which matches a reference frame using the background motion;
A profile estimator for estimating a flow profile of each of the background motion and the moving object motion; And
A filtering unit for removing image noise by comparing each of the background flow profile and the moving body flow profile with the pixel value of the reference image in the region where the moving object exists.
Image noise reduction device comprising a.
상기 필터링부는,
상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 각각을 상기 기준 영상의 픽셀값과 비교하여 각각의 유사도를 산출하고, 상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 중 높은 유사도를 갖는 플로우 프로파일을 선택하여 필터링 처리하는 것을 특징으로 하는 영상 잡음 제거장치.The method of claim 2,
The filtering unit,
Comparing each of the background flow profile and the moving object flow profile with a pixel value of the reference image to calculate a similarity, and selecting and filtering a flow profile having a high similarity among the background flow profile and the moving object flow profile. Video noise canceller characterized in that.
상기 모션 추정부는,
상기 분할 영상에 포함된 복수의 프레임 간 픽셀의 밝기 차이 또는 움직임에 대한 특징점 대응 비율을 기 설정된 임계치와 비교하여 상기 카메라의 움직임을 확인하는 것을 특징으로 하는 영상 잡음 제거장치.The method of claim 1,
The motion estimation unit,
And detecting a movement of the camera by comparing a feature point corresponding ratio with respect to a difference in brightness or movement of a plurality of pixels among the frames included in the divided image to a preset threshold.
상기 모션 추정부는,
상기 카메라의 움직임이 없는 경우, 상기 밝기 차이가 없는 픽셀 또는 움직임이 없는 특징점 부분을 상기 배경 모션으로 추정하고, 상기 밝기 차이가 존재하는 픽셀을 상기 이동체 모션으로 추정하는 것을 특징으로 하는 영상 잡음 제거장치.The method of claim 4, wherein
The motion estimation unit,
When there is no movement of the camera, the image noise canceller, characterized by estimating a pixel having no brightness difference or a portion of a feature point having no motion as the background motion and estimating a pixel having the brightness difference as the moving body motion. .
상기 모션 추정부는,
상기 카메라의 움직임이 존재하는 경우, 상기 분할 영상 내의 프레임을 그리드로 나누고, 상기 그리드별 모션을 취합하여 상기 배경 모션을 추정하고, 프레임 간의 특징점 대응정보와 상기 배경 모션의 차이를 이용하여 상기 이동체의 모션을 추정하는 것을 특징으로 하는 영상 잡음 제거장치.The method of claim 4, wherein
The motion estimation unit,
When there is motion of the camera, the frames in the divided image are divided into grids, the motions for each grid are collected, the background motions are estimated, and the feature point correspondence information between the frames and the difference between the background motions are used. Image noise canceller, characterized in that the motion estimation.
입력 영상의 장면 전환정보를 추출하고, 상기 장면 전환정보에 근거하여 동일 장면별로 영상을 분할하여 분할 영상을 생성하는 입력 영상 처리과정;
상기 분할 영상에서 카메라의 움직임을 확인하고, 상기 카메라의 움직임에 근거하여 배경 모션 및 이동체 모션을 추정하는 모션 추정과정; 및
상기 배경 모션 및 상기 이동체 모션에 대한 플로우 프로파일(Flow Profile)을 이용하여 이동체가 존재하는 영역의 영상 잡음을 제거하는 영상 잡음 제거과정
을 포함하는 것을 특징으로 하는 영상 잡음 제거방법.In the method of removing image noise in consideration of a moving object,
An input image processing process of extracting scene change information of an input image and generating a divided image by dividing an image for each scene based on the scene change information;
A motion estimation process of checking a movement of a camera in the divided image and estimating a background motion and a moving body motion based on the movement of the camera; And
An image noise removing process of removing image noise in an area in which a moving object exists by using a flow profile of the background motion and the moving object motion
Image noise reduction method comprising a.
상기 영상 잡음 제거과정은,
상기 배경 모션을 이용하여 기준 프레임을 정합하는 영상 정합과정;
상기 배경 모션 및 상기 이동체 모션 각각에 대한 플로우 프로파일(Flow Profile)을 추정하는 프로파일 추정과정; 및
상기 이동체가 존재하는 영역에서 배경 플로우 프로파일 및 이동체 플로우 프로파일 각각과 상기 기준 영상의 픽셀값을 비교하여 영상 잡음을 제거하는 필터링과정
을 포함하는 것을 특징으로 하는 영상 잡음 제거방법.The method of claim 7, wherein
The image noise removal process,
An image registration process of matching a reference frame using the background motion;
A profile estimating process of estimating a flow profile for each of the background motion and the moving object motion; And
A filtering process for removing image noise by comparing the background flow profile and the mobile flow profile with the pixel values of the reference image in the region where the moving object exists.
Image noise reduction method comprising a.
상기 필터링과정은,
상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 각각을 상기 기준 영상의 픽셀값과 비교하여 각각의 유사도를 산출하고, 상기 배경 플로우 프로파일 및 상기 이동체 플로우 프로파일 중 높은 유사도를 갖는 플로우 프로파일을 선택하여 필터링 처리하는 것을 특징으로 하는 영상 잡음 제거방법.
The method of claim 8,
The filtering process,
Comparing each of the background flow profile and the moving object flow profile with a pixel value of the reference image to calculate a similarity, and selecting and filtering a flow profile having a high similarity among the background flow profile and the moving object flow profile. A video noise reduction method characterized by the above-mentioned.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180023579A KR102453392B1 (en) | 2018-02-27 | 2018-02-27 | Method and Apparatus for Video Denoising Considering Moving Object |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180023579A KR102453392B1 (en) | 2018-02-27 | 2018-02-27 | Method and Apparatus for Video Denoising Considering Moving Object |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20190102736A true KR20190102736A (en) | 2019-09-04 |
| KR102453392B1 KR102453392B1 (en) | 2022-10-07 |
Family
ID=67950684
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180023579A Active KR102453392B1 (en) | 2018-02-27 | 2018-02-27 | Method and Apparatus for Video Denoising Considering Moving Object |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102453392B1 (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022178715A1 (en) * | 2021-02-24 | 2022-09-01 | 深圳市大疆创新科技有限公司 | Image processing method and device |
| US12506961B2 (en) | 2021-08-04 | 2025-12-23 | Samsung Electronics Co., Ltd. | Method and electronic device for frame stabilization of a video sequence |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20050057829A (en) * | 2003-12-11 | 2005-06-16 | 삼성전자주식회사 | Methods for noise removal of moving picture digital data |
| KR20070056885A (en) * | 2005-11-30 | 2007-06-04 | 주식회사 아이넷 | A method of detecting feature points according to camera movement in a video and a computer readable medium recording a program composed of the method |
| JP2009171220A (en) * | 2008-01-16 | 2009-07-30 | Canon Inc | Imaging apparatus and control method thereof |
| JP2017098884A (en) * | 2015-11-27 | 2017-06-01 | カシオ計算機株式会社 | Movement detection apparatus, movement detection method, and program |
-
2018
- 2018-02-27 KR KR1020180023579A patent/KR102453392B1/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20050057829A (en) * | 2003-12-11 | 2005-06-16 | 삼성전자주식회사 | Methods for noise removal of moving picture digital data |
| KR20070056885A (en) * | 2005-11-30 | 2007-06-04 | 주식회사 아이넷 | A method of detecting feature points according to camera movement in a video and a computer readable medium recording a program composed of the method |
| JP2009171220A (en) * | 2008-01-16 | 2009-07-30 | Canon Inc | Imaging apparatus and control method thereof |
| JP2017098884A (en) * | 2015-11-27 | 2017-06-01 | カシオ計算機株式会社 | Movement detection apparatus, movement detection method, and program |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022178715A1 (en) * | 2021-02-24 | 2022-09-01 | 深圳市大疆创新科技有限公司 | Image processing method and device |
| US12506961B2 (en) | 2021-08-04 | 2025-12-23 | Samsung Electronics Co., Ltd. | Method and electronic device for frame stabilization of a video sequence |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102453392B1 (en) | 2022-10-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101958116B1 (en) | Image-processing device and method for foreground mask correction for object segmentation | |
| CN109584204B (en) | An image noise intensity estimation method, storage medium, processing and identification device | |
| KR100846498B1 (en) | Image analysis method and apparatus, and video region segmentation system | |
| Walha et al. | Video stabilization with moving object detecting and tracking for aerial video surveillance | |
| CN106803865B (en) | The denoising method and system of video time domain | |
| KR101870700B1 (en) | A fast key frame extraction method for 3D reconstruction from a handheld video | |
| Kurnianggoro et al. | Dense optical flow in stabilized scenes for moving object detection from a moving camera | |
| KR101460317B1 (en) | Detection apparatus of moving object in unstable camera environment and method thereof | |
| Kartika et al. | Frame differencing with post-processing techniques for moving object detection in outdoor environment | |
| KR102453392B1 (en) | Method and Apparatus for Video Denoising Considering Moving Object | |
| JP2009512246A (en) | Method and apparatus for determining shot type of an image | |
| Hu et al. | Feature-based real-time video stabilization for vehicle video recorder system | |
| Zhang et al. | A video deblurring algorithm based on motion vector and an encorder-decoder network | |
| KR100566629B1 (en) | Moving object detection system and method | |
| JP6348020B2 (en) | Image processing apparatus, image processing method, and inspection method using the same | |
| KR102107177B1 (en) | Method and apparatus for detecting scene transition of image | |
| Xu et al. | Features based spatial and temporal blotch detection for archive video restoration | |
| Walha et al. | Moving object detection system in aerial video surveillance | |
| JP2002312795A (en) | Image processing apparatus, image processing method, recording medium, and program | |
| Gurrala et al. | Enhancing Safety and Security: Face Tracking and Detection in Dehazed Video Frames Using KLT and Viola-Jones Algorithms. | |
| JP2002312787A (en) | Image processing apparatus, image processing method, recording medium, and program | |
| Prabavathy et al. | Gradual transition detection in shot boundary using gradual curve point | |
| JP2002312792A (en) | Image processing apparatus, image processing method, recording medium, and program | |
| Rawat et al. | Performance evaluation of various temporal derivatives for stabilization of videos with large moving objects | |
| Rabha | Background modelling by codebook technique for automated video surveillance with shadow removal |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20180227 |
|
| PG1501 | Laying open of application | ||
| A201 | Request for examination | ||
| PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 20210225 Comment text: Request for Examination of Application Patent event code: PA02011R01I Patent event date: 20180227 Comment text: Patent Application |
|
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20220214 Patent event code: PE09021S01D |
|
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20220728 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20221005 Patent event code: PR07011E01D |
|
| PR1002 | Payment of registration fee |
Payment date: 20221005 End annual number: 3 Start annual number: 1 |
|
| PG1601 | Publication of registration |


