KR102207940B1 - Method and system for reducing noise - Google Patents
Method and system for reducing noise Download PDFInfo
- Publication number
- KR102207940B1 KR102207940B1 KR1020130155638A KR20130155638A KR102207940B1 KR 102207940 B1 KR102207940 B1 KR 102207940B1 KR 1020130155638 A KR1020130155638 A KR 1020130155638A KR 20130155638 A KR20130155638 A KR 20130155638A KR 102207940 B1 KR102207940 B1 KR 102207940B1
- Authority
- KR
- South Korea
- Prior art keywords
- channel
- filtering
- value
- image
- green
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 37
- 238000001914 filtration Methods 0.000 claims abstract description 101
- 238000000926 separation method Methods 0.000 claims abstract description 12
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 7
- 239000003086 colorant Substances 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 241001397104 Dima Species 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
본 발명의 일 실시예는 현재 프레임 영상을 색상 채널 별로 분리하여 색상 채널 별 영상 데이터를 생성하는 채널 분리부; 이전 프레임 영상의 색상 채널 별 영상 데이터로부터 휘도 데이터를 산출하는 휘도 획득부; 이전 프레임 영상의 상기 휘도 데이터에 필터를 적용하여 제1 필터링값을 생성하는 제1 필터링부; 상기 제1 필터링값을 상기 색상 채널 별 영상 데이터에 곱하여 색상 채널 별 곱셈값을 산출하는 곱셈부; 상기 색상 채널 별 곱셈값에 필터를 적용하여 색상 채널 별 제2 필터링값을 생성하는 제2 필터링부; 상기 색상 채널 별 제2 필터링값에 게인 연산을 행하는 게인 연산부; 를 포함하는 노이즈 제거 시스템을 개시한다.According to an embodiment of the present invention, a channel separation unit for generating image data for each color channel by separating a current frame image for each color channel; A luminance acquisition unit that calculates luminance data from image data for each color channel of a previous frame image; A first filtering unit generating a first filtering value by applying a filter to the luminance data of a previous frame image; A multiplier for calculating a multiplication value for each color channel by multiplying the first filtering value by the image data for each color channel; A second filtering unit generating a second filtering value for each color channel by applying a filter to the multiplication value for each color channel; A gain calculating unit that performs a gain operation on the second filtering value for each color channel; Disclosed is a noise reduction system comprising a.
Description
본 발명은 영상 노이즈 제거 방법 및 시스템에 관한 것으로, 보다 상세하게는 영상의 시간적 및 공간적 특성을 분석하여 노이즈를 제거할 수 있는 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for removing image noise, and more particularly, to a method and system for removing noise by analyzing temporal and spatial characteristics of an image.
영상 감시 시스템은 감시가 필요한 여러 장소에 카메라를 설치하고 카메라로부터 획득된 영상들을 모니터로 전송하거나 저장장치에 저장하여 실시간 감시 및 사후 검색을 수행할 수 있도록 해주는 시스템이다. 영상 감시 시스템에서 주로 사용되는 감시 카메라는 24시간 가동해야 하는 경우가 대부분이므로 어두운 곳 혹은 야간과 같은 저조도 환경에서도 일정 이상 품질의 영상을 생성해야 한다. 그러나, 저조도 환경에서는 영상에 노이즈가 발생할 가능성이 높다.The video surveillance system is a system that enables real-time monitoring and post-retrieval by installing cameras in various places where monitoring is required and transmitting images acquired from the cameras to a monitor or storing them in a storage device. Surveillance cameras, which are mainly used in video surveillance systems, need to be operated for 24 hours, so they must generate images of a certain quality or higher even in low-light environments such as dark places or at night. However, there is a high possibility that noise may occur in an image in a low-light environment.
따라서, 저조도 환경에서 노이즈가 저감된 감시 영상을 얻기 위한 기법들이 개발되고 있다. 대표적인 것으로 영상의 구조 텐서(tensor)를 이용한 3D 필터링 기술 및 비지역 평균(non-local mean) 기반 방법이 있다.Therefore, techniques for obtaining a surveillance image with reduced noise in a low-light environment are being developed. Representative examples include a 3D filtering technique using an image structure tensor and a non-local mean-based method.
구조 텐서를 이용한 3D 필터링은 영상의 각 화소에 대하여 인접 화소간의 그래디언트(gradient)를 계산하고, 이로부터 구조 텐서(structure tensor)를 생성하여 생성한 구조 텐서부터 고유벡터(eigenvector)와 고유값(eigenvalue)을 계산한다. 이로부터 3차원 가우시안 분포의 공분산행렬, 크기(scaling) 행렬, 회전(rotation) 행렬 등을 계산하여 최종적으로 해당 화소에 최적화된 가우시안 3D 필터링 커널(filtering kernel)을 생성한다. 이와 같은 방법은 커널 생성과 적용시 요구되는 계산량이 방대하고, 노이즈가 평탄하게 제거되지 않아 제품화가 어렵다는 문제점이 존재한다.3D filtering using a structure tensor calculates a gradient between adjacent pixels for each pixel of an image, and generates a structure tensor from the generated structure tensor, eigenvector and eigenvalue. ) Is calculated. From this, the covariance matrix, scaling matrix, rotation matrix, etc. of the 3D Gaussian distribution are calculated to finally generate a Gaussian 3D filtering kernel optimized for the corresponding pixel. Such a method has a problem in that the amount of computation required when generating and applying a kernel is enormous, and noise is not smoothly removed, making it difficult to commercialize.
또한, 비지역 평균 기반 방법은 국부 영역이 가진 특성이 영상의 다른 부분에서도 발견된다는 성질을 이용하는 것이다. 비지역 평균 기반 방법은 먼저 특정 크기의 블록에 대해, 이 블록과 유사한 블록을 영상에서 찾고, 찾아진 블록끼리 모아서 특성에 적합한 노이즈 제거 필터링을 수행한다. 그 후 필터링된 블록들을 다시 원래의 자리로 위치시킨다. 비지역 평균 기반 방법은, 영상 노이즈 제거 성능이 좋지만 특정 블록에 대해 유사한 블록들을 영상 전체에서 검색해야 하는 문제가 있으며, 블록 아티팩트(artifact)가 발생하는 문제점이 존재한다.In addition, the non-regional average-based method uses the property that the characteristics of the local region are found in other parts of the image. In the non-regional average-based method, first, for a block of a specific size, a block similar to the block is searched in an image, and the found blocks are gathered together to perform noise removal filtering suitable for characteristics. After that, the filtered blocks are placed back to their original positions. Although the non-regional average-based method has good image noise removal performance, there is a problem in that similar blocks for a specific block must be searched in the entire image, and there is a problem that block artifacts occur.
본 발명은 노이즈 신호의 시간적 및 공간적 특성을 분석하여 적은 계산량으로 노이즈를 제거할 수 있는 방법을 제시하는 것을 일 목적으로 한다.An object of the present invention is to provide a method for removing noise with a small amount of computation by analyzing temporal and spatial characteristics of a noise signal.
또한, 저조도 환경에서도 가능한 노이즈 제거 방법을 제공하는 것을 다른 목적으로 한다.In addition, it is another object to provide a noise removal method that is possible even in a low-light environment.
본 발명의 일 실시예는 현재 프레임 영상을 색상 채널 별로 분리하여 색상 채널 별 영상 데이터를 생성하는 채널 분리부; 이전 프레임 영상의 색상 채널 별 영상 데이터로부터 휘도 데이터를 산출하는 휘도 획득부; 이전 프레임 영상의 상기 휘도 데이터에 필터를 적용하여 제1 필터링값을 생성하는 제1 필터링부; 상기 제1 필터링값을 상기 색상 채널 별 영상 데이터에 곱하여 색상 채널 별 곱셈값을 산출하는 곱셈부; 상기 색상 채널 별 곱셈값에 필터를 적용하여 색상 채널 별 제2 필터링값을 생성하는 제2 필터링부; 상기 색상 채널 별 제2 필터링값에 게인 연산을 행하는 게인 연산부; 를 포함하는 노이즈 제거 시스템을 개시한다.According to an embodiment of the present invention, a channel separation unit for generating image data for each color channel by separating a current frame image for each color channel; A luminance acquisition unit that calculates luminance data from image data for each color channel of a previous frame image; A first filtering unit generating a first filtering value by applying a filter to the luminance data of a previous frame image; A multiplier for calculating a multiplication value for each color channel by multiplying the first filtering value by the image data for each color channel; A second filtering unit generating a second filtering value for each color channel by applying a filter to the multiplication value for each color channel; A gain calculating unit that performs a gain operation on the second filtering value for each color channel; Disclosed is a noise reduction system comprising a.
본 발명에 있어서, 상기 휘도 획득부는 휘도 데이터를 산출하여 메모리에 일시적으로 저장하고, 상기 곱셈부는 상기 제1 필터링값을 메모리로부터 획득할 수 있다.In the present invention, the luminance obtaining unit may calculate luminance data and temporarily store it in a memory, and the multiplication unit may obtain the first filtering value from the memory.
본 발명에 있어서, 상기 현재 프레임 영상 및 이전 프레임 영상은 저조도 환경에서 촬상된 영상일 수 있다.In the present invention, the current frame image and the previous frame image may be images captured in a low-light environment.
본 발명에 있어서, 상기 색상 채널 별 영상 데이터는 레드 채널 영상 데이터, 그린 채널 영상 데이터, 블루 채널 영상 데이터를 형성할 수 있다.In the present invention, the image data for each color channel may form red channel image data, green channel image data, and blue channel image data.
본 발명에 있어서, 상기 제1 필터링부 또는 제2 필터링부는 저역 통과 필터(low pass filter)를 적용할 수 있다.In the present invention, the first filtering unit or the second filtering unit may apply a low pass filter.
본 발명에 있어서, 상기 게인 연산은 가감승제 연산을 조합한 것일 수 있다.In the present invention, the gain operation may be a combination of an increase/decrease multiplication operation.
본 발명에 있어서, 상기 게인 연산부는 상기 색상 채널 별 제2 필터링값에 게인 연산을 행하여 생성된 색상 채널 별 영상을 조합하여 노이즈가 제거된 출력 영상을 생성할 수 있다.In the present invention, the gain calculator may generate an output image from which noise is removed by combining the image for each color channel generated by performing a gain operation on the second filtering value for each color channel.
본 발명의 다른 실시예는 현재 프레임 영상을 색상 채널 별로 분리하여 색상 채널 별 영상 데이터를 생성하는 채널 분리 단계; 이전 프레임 영상의 휘도 데이터에 필터를 적용한 제1 필터링값을 상기 색상 채널 별 영상 데이터에 곱하여 색상 채널 별 곱셈값을 산출하는 곱셈 단계; 상기 색상 채널 별 곱셈값에 필터를 적용하여 색상 채널 별 제2 필터링값을 생성하는 제2 필터링 단계; 상기 색상 채널 별 제2 필터링값에 게인 연산을 행하는 게인 연산 단계; 를 포함하는 노이즈 제거 방법을 개시한다.Another embodiment of the present invention is a channel separation step of separating a current frame image for each color channel to generate image data for each color channel; A multiplication step of calculating a multiplication value for each color channel by multiplying the image data for each color channel by a first filtering value obtained by applying a filter to the luminance data of a previous frame image; A second filtering step of generating a second filtering value for each color channel by applying a filter to the multiplication value for each color channel; A gain calculating step of performing a gain operation on the second filtering value for each color channel; Disclosed is a noise removal method comprising a.
본 발명에 있어서, 이전 프레임 영상의 색상 채널 별 영상 데이터로부터 휘도 데이터를 산출하는 휘도 획득 단계; 이전 프레임 영상의 상기 휘도 데이터에 필터를 적용하여 제1 필터링값을 생성하는 제1 필터링 단계; 를 추가적으로 포함할 수 있다.In the present invention, a luminance obtaining step of calculating luminance data from image data for each color channel of a previous frame image; A first filtering step of generating a first filtering value by applying a filter to the luminance data of a previous frame image; It may additionally include.
본 발명에 있어서, 상기 휘도 획득 단계는 휘도 데이터를 산출하여 메모리에 일시적으로 저장하고, 상기 곱셈 단계는 상기 제1 필터링값을 메모리로부터 획득할 수 있다.In the present invention, in the luminance obtaining step, luminance data may be calculated and temporarily stored in a memory, and the multiplying step may obtain the first filtering value from a memory.
본 발명에 있어서, 상기 현재 프레임 영상 및 이전 프레임 영상은 저조도 환경에서 촬상된 영상일 수 있다.In the present invention, the current frame image and the previous frame image may be images captured in a low-light environment.
본 발명에 있어서, 상기 색상 채널 별 영상 데이터는 레드 채널 영상 데이터, 그린 채널 영상 데이터, 블루 채널 영상 데이터를 형성할 수 있다.In the present invention, the image data for each color channel may form red channel image data, green channel image data, and blue channel image data.
본 발명에 있어서, 상기 제1 필터링 단계 또는 제2 필터링 단계는 저역 통과 필터(low pass filter)를 적용할 수 있다.In the present invention, a low pass filter may be applied in the first filtering step or the second filtering step.
본 발명에 있어서, 상기 게인 연산은 가감승제 연산을 조합한 것일 수 있다.In the present invention, the gain operation may be a combination of an increase/decrease multiplication operation.
본 발명에 있어서, 상기 게인 연산 단계는 상기 색상 채널 별 제2 필터링값에 게인 연산을 행하여 생성된 색상 채널 별 영상을 조합하여 노이즈가 제거된 출력 영상을 생성할 수 있다.In the present invention, in the gain calculation step, an output image from which noise is removed may be generated by combining images for each color channel generated by performing a gain operation on the second filtering value for each color channel.
본 발명에 의하면, 노이즈 신호의 시간적 및 공간적 한 특성을 분석하여 적은 계산량으로 노이즈를 제거함과 동시에 저조도 영상의 휘도 데이터를 강조할 수 있는 노이즈 제거 방법이 개시될 수 있다.According to the present invention, a noise removal method capable of enhancing luminance data of a low-illuminance image can be disclosed while removing noise with a small computational amount by analyzing temporal and spatial characteristics of a noise signal.
본 발명에 의하면, 절대적 계산량이 저감되고, 필터링 커널에 의한 비평탄화 흔적이 나타나지 않으며, 블록 처리에 의한 블록 아티팩트(artifact)가 감소된 노이즈 제거 방법이 개시될 수 있다.According to the present invention, a noise removal method in which an absolute computation amount is reduced, a non-flattening trace by a filtering kernel does not appear, and a block artifact by block processing is reduced can be disclosed.
도 1은 본 발명의 일 실시예에 따른 노이즈 제거 시스템의 구성을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 노이즈 제거 서버의 내부 구성을 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따라 노이즈 제거 서버가 입력 영상을 수신하여 노이즈가 제거된 출력 영상을 생성하는 것을 나타낸 도면이다.
도 4는 본 발명의 일 실시예에 따라 노이즈 제거 서버의 동작을 블록도로 나타낸 도면이다.1 is a diagram showing the configuration of a noise removal system according to an embodiment of the present invention.
2 is a diagram showing an internal configuration of a noise removal server according to an embodiment of the present invention.
3 is a diagram illustrating that a noise removal server receives an input image and generates an output image from which noise is removed according to an embodiment of the present invention.
4 is a block diagram illustrating an operation of a noise removal server according to an embodiment of the present invention.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.DETAILED DESCRIPTION OF THE INVENTION The detailed description of the present invention described below refers to the accompanying drawings, which illustrate specific embodiments in which the present invention may be practiced. These embodiments are described in detail sufficient to enable those skilled in the art to practice the present invention. It is to be understood that the various embodiments of the present invention are different from each other but need not be mutually exclusive. For example, specific shapes, structures, and characteristics described herein may be changed from one embodiment to another and implemented without departing from the spirit and scope of the present invention. In addition, it should be understood that the positions or arrangements of individual elements in each embodiment may be changed without departing from the spirit and scope of the present invention. Therefore, the detailed description to be described below is not made in a limiting sense, and the scope of the present invention should be taken as encompassing the scope claimed by the claims of the claims and all scopes equivalent thereto. Like reference numerals in the drawings indicate the same or similar elements over several aspects.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.Hereinafter, various embodiments of the present invention will be described in detail with reference to the accompanying drawings in order to enable those of ordinary skill in the art to easily implement the present invention.
도 1은 본 발명의 일 실시예에 따른 노이즈 제거 시스템의 구성을 나타낸 도면이다.1 is a diagram showing the configuration of a noise removal system according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 노이즈 제거 서버(100)는 노이즈 제거 서버(100), 복수의 네트워크 카메라들(200) 및 네트워크(300)를 포함한다.Referring to FIG. 1, the
도 1을 참조하면, 복수 개의 카메라들(200)이 네트워크(300)를 통해 노이즈 제거 서버(100)와 데이터를 주고받고 있다. 구체적으로, 복수 개의 카메라들(200)은 통신 채널(DCOM)을 통하여 노이즈 제거 서버(100)와 통신하면서, 영상 데이터 채널(DIMA)을 통하여 라이브 뷰 동영상 데이터를 노이즈 제거 서버(100)에 전달한다. 물론 복수 개의 감시 카메라가 아닌 한 개의 감시 카메라만 노이즈 제거 서버(100)와 통신할 수도 있고, 한 개의 감시 카메라 또는 복수 개의 감시 카메라들이 복수 개의 노이즈 제거 서버(100)들과 통신할 수도 있는 등 다양한 변형이 가능함은 물론이다.Referring to FIG. 1, a plurality of
이때, 복수 개의 감시 카메라들(200)은 감시 카메라로서 저조도 환경에서도 노이즈 제거 서버(100)에 영상 데이터를 전송할 수 있다. 감시 카메라의 경우 24시간 감시 영상이 필요하므로, 때에 따라서는 야간 혹은 어두운 곳과 같은 저조도의 환경에 감시 카메라가 설치될 수 있다. 복수 개의 감시 카메라들(200)이 설치된 경우에 저조도 영상을 노이즈 제거 서버(100)로 송출하여 노이즈를 제거할 필요가 있다.At this time, the plurality of
여기서 통신 채널(DCOM) 및 영상 데이터 채널(DIMA)을 형성하는 네트워크(300)는 유선 또는 무선으로 데이터나 명령을 송수신할 수 있는 모든 수단이 될 수 있다. 예를 들어, 네트워크(300)는 케이블을 통하여 유선으로 복수 개의 카메라들(200)과 노이즈 제거 서버(100)를 연결할 수도 있으며, 무선 랜 등을 사용하여 무선으로 복수 개의 카메라들(200)과 노이즈 제거 서버(100)를 연결할 수도 있다.Here, the
노이즈 제거 서버(100)는 일반 컴퓨팅 장치 및 서버 장치 등이 제한 없이 사용될 수 있다. 예를 들어, 노이즈 제거 서버(100)로 감시 카메라용 컨트롤 시스템 등이 사용될 수도 있을 것이다. 노이즈 제거 서버(100)는 필요에 따라 복수 개의 카메라들(200)로부터의 실시간 동영상을 저장할 수도 있다.The
노이즈 제거 서버(100)는 복수 개의 감시 카메라들(200)로부터 획득한 영상에서 노이즈를 제거하는 역할을 한다. 특히, 노이즈 제거 서버(100)는 복수 개의 감시 카메라들(200)로부터 획득한 영상이 저조도 영상일 때 더 우수한 품질로 노이즈를 제거할 수 있다.The
일반적으로, 저조도 영상은 일반 환경에서 획득한 영상보다 카메라 자체의 문제 등으로 인하여 더욱 심한 노이즈를 가진다. 또한, 저조도 영상에서는 휘도가 낮아 피사체의 구분이 어려우므로 사용자는 노이즈를 더 심하게 느끼는 경향이 있다. 복수 개의 감시 카메라들(200)로부터 획득한 t 프레임의 노이즈가 존재하는 원본 영상을 I(t), 노이즈를 N(t), 노이즈가 제거된 영상을 dnI(t)라 할 때, 원본 영상 I(t)는 아래의 수학식 1과 같이 표현될 수 있다.In general, a low-illuminance image has more severe noise due to a problem of the camera itself than an image acquired in a general environment. In addition, since the luminance is low in a low-illumination image, it is difficult to distinguish a subject, so the user tends to feel the noise more severely. When the original image with noise of t frames acquired from the plurality of
[수학식 1][Equation 1]
I(t) = dnI(t) + N(t)
I(t) = dnI(t) + N(t)
본 발명의 일 실시예에 의하면, 노이즈 제거 시스템은 노이즈 영상 I(t)를 획득하여 시간적, 공간적 필터링을 수행하여 노이즈가 제거된 영상인 dnI(t)를 획득한다. 보다 상세히, 공간적 필터링을 수행하기 위해 저역 통과 필터를 사용하고, 시간적 필터링을 수행하기 위해 이전 프레임 영상의 휘도 데이터를 참조한다.According to an embodiment of the present invention, a noise removal system obtains a noise image I(t) and performs temporal and spatial filtering to obtain a dnI(t) image from which noise is removed. In more detail, a low-pass filter is used to perform spatial filtering, and luminance data of a previous frame image is referred to to perform temporal filtering.
영상에 포함된 노이즈는 한 프레임 내에서는 특정한 평균과 표준편차의 가우시안 분포의 통계적 특성을 갖는 것으로 해석할 수 있다. 즉 노이즈는 공간축(spatial)에서는 가우시안 분포를 가지고 있으므로 이 특성을 잘 이용한 저역 통과 필터(Low Pass Filter)를 이용하면 영상에 존재하는 노이즈를 어느 정도 제거할 수 있다. 다음 프레임 영상의 노이즈도 이전 프레임 영상과 유사한 통계적 분포를 가지고 있다고 할 수 있으므로, 역시 저역 통과 필터를 이용하여 영상에 존재하는 노이즈를 제거할 수 있다.Noise included in an image can be interpreted as having statistical characteristics of a Gaussian distribution of a specific mean and standard deviation within one frame. That is, since noise has a Gaussian distribution on a spatial axis, a low pass filter that makes good use of this characteristic can remove noise existing in an image to some extent. Since the noise of the next frame image can be said to have a statistical distribution similar to that of the previous frame image, noise existing in the image can also be removed by using a low-pass filter.
상술한 바와 같이, 각 프레임 영상에 포함된 노이즈 신호는 통계적으로 어느 정도 모델링이 가능하다. 하지만, 특정 픽셀에 대하여 시간축(temporal)의 관점에서 살펴보면, 이전 프레임에서 존재하던 노이즈가 다음 프레임의 동일 위치에서는 존재하지 않을 확률이 더 크다. 즉, 노이즈는 시간축의 관점에서 보면 위치를 이동하는 것으로 해석할 수 있다. 따라서, 프레임간의 노이즈를 비교해보면 이전 프레임과 다음 프레임은 같은 픽셀 위치에 노이즈가 계속해서 존재할 가능성이 크지 않다. 즉, 특정 픽셀에 대해 현재 프레임에 나타나는 노이즈는 이전 프레임에서는 존재하지 않거나 그 강도가 상당히 변해있을 가능성이 매우 크다.As described above, the noise signal included in each frame image can be statistically modeled to some extent. However, when looking at a specific pixel in terms of a temporal axis, there is a greater probability that noise existing in the previous frame does not exist at the same position in the next frame. In other words, noise can be interpreted as moving position when viewed from the perspective of the time axis. Therefore, when comparing the noise between frames, it is unlikely that noise continues to exist at the same pixel position in the previous frame and the next frame. That is, it is very likely that the noise that appears in the current frame for a specific pixel does not exist in the previous frame or its intensity has changed considerably.
따라서, 본 발명의 일 실시예에 따른 노이즈 제거 시스템은 공간적으로는 저역 통과 필터링을 사용하여 노이즈를 제거하되, 시간적으로 이전 프레임 영상의 휘도 데이터를 참조함으로써 저조도 환경에서의 영상에 존재하는 노이즈를 효과적으로 제거할 수 있다.Therefore, the noise removal system according to an embodiment of the present invention removes noise by using low-pass filtering spatially, but by referring to the luminance data of the previous frame image temporally, the noise existing in the image in the low-light environment is effectively removed. Can be removed.
도 2는 본 발명의 일 실시예에 따른 노이즈 제거 서버(100)의 내부 구성을 나타낸 도면이다.2 is a diagram showing the internal configuration of the
도 2를 참조하면, 노이즈 제거 서버(100)는 채널 분리부(111), 휘도 획득부(112), 곱셈부(113), 제1 필터링부(114), 제2 필터링부(115), 게인 연산부(116), 메모리(120) 및 제어부(130)를 포함한다.2, the
노이즈 제거 서버(100)의 제어부(130)는 채널 분리부(111), 휘도 획득부(112), 곱셈부(113), 제1 필터링부(114), 제2 필터링부(115), 게인 연산부(116), 및 메모리(120) 간의 데이터 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(130)는 노이즈 제거 서버(100)의 외부로부터의/로의 데이터 흐름 또는 노이즈 제거 서버(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 채널 분리부(111), 휘도 획득부(112), 곱셈부(113), 제1 필터링부(114), 제2 필터링부(115), 게인 연산부(116), 및 메모리(120)에서 각각 고유 기능을 수행하도록 제어할 수 있다.The
도 3은 본 발명의 일 실시예에 따라 노이즈 제거 서버(100)가 입력 영상을 수신하여 노이즈가 제거된 출력 영상을 생성하는 것을 나타낸 도면이다.3 is a diagram illustrating that the
도 4는 본 발명의 일 실시예에 따라 노이즈 제거 서버(100)의 동작을 블록도로 나타낸 도면이다.4 is a block diagram showing the operation of the
이하에서는, 도 2 내지 도 4를 참조하여 노이즈 제거 서버(100)가 입력 영상에서 노이즈를 제거하는 과정을 설명한다.Hereinafter, a process of removing noise from an input image by the
먼저, 도 3 및 도 4를 참조하면 노이즈 제거 서버는 입력 영상(INPUT)으로 I(t)를 입력받는다.First, referring to FIGS. 3 and 4, the noise removal server receives I(t) as an input image (INPUT).
다음으로, 도 2의 채널 분리부(111)는 영상을 레드(red), 그린(green), 블루(blue)의 세가지 채널, 즉 RGB 채널 각각으로 분리하는 역할을 수행한다. 채널 분리부(111)는 순차적으로 들어오는 모든 영상에 대해 RGB 변환을 실시한다.Next, the
RGB란 빛의 삼원색을 이용하여 색을 표현하는 방식으로, 레드(RED), 그린(GREEN), 블루(BLUE) 세종류의 광원(光源)을 이용하여 색을 혼합하며 색을 섞을수록 밝아진다. 레드, 그린, 블루 채널을 모두 지칭하여 색상 채널이라 나타낼 수 있다. 채널 분리부(111)는 영상을 분석하여 레드 채널, 그린 채널 및 블루 채널을 생성하여 메모리(120)에 저장할 수 있다.RGB is a method of expressing colors using the three primary colors of light. Colors are mixed using three types of light sources (RED, GREEN, and BLUE), and the brighter the colors are mixed. Red, green, and blue channels may all be referred to as color channels. The
도 3 및 도 4를 참조하면, 채널 분리부(111)가 입력 영상 I(t)로부터 생성한 t 프레임에서의 레드, 그린, 블루 채널의 영상 데이터는 각각 R(t), G(t), B(t)로 표현될 수 있다.3 and 4, image data of red, green, and blue channels in a t frame generated by the
저조도 환경에서 촬영된 영상을 분석해보면, 레드, 그린, 블루 채널의 신호 강도(intensity)의 비율이 크게 차이나는 경우가 존재한다. 따라서 노이즈 제거를 위해 현재의 레드, 그린, 블루 채널과 이전 프레임의 레드, 그린, 블루 채널을 비교하는 경우, 색상 별 채널 특성이 노이즈 특성으로 반영되어 노이즈가 제대로 제거될 수 없다. 이러한 단점을 보완하기 위해 본 발명의 일 실시예에서는 이전 프레임의 레드, 그린, 블루 채널 별 영상 데이터로부터 휘도(luminance) 데이터값을 산출하고 이 휘도 데이터를 현재 프레임의 레드, 그린, 블루 채널의 영상 데이터와 비교하는 기준으로 사용한다.When an image captured in a low-light environment is analyzed, there is a case where the ratio of the signal intensity of the red, green, and blue channels is significantly different. Therefore, when comparing the current red, green, and blue channels with the red, green, and blue channels of the previous frame to remove noise, the channel characteristics for each color are reflected as noise characteristics, so noise cannot be properly removed. In an embodiment of the present invention, in order to compensate for these disadvantages, a luminance data value is calculated from image data for each red, green, and blue channel of a previous frame, and this luminance data is used as an image of the red, green, and blue channels of the current frame. It is used as a standard for comparison with data.
이를 위해, 도 2의 휘도 획득부(112)는 영상의 휘도 데이터를 산출하는 역할을 한다. 휘도 획득부(112)는 산출된 영상의 휘도 데이터를 메모리(120)에 임시적으로 저장할 수 있다. 본 발명의 일 실시예에 따른 노이즈 제거 방법에서는, 휘도 획득부(112)는 이전 프레임 영상의 휘도를 산출하여 현재 영상의 노이즈 제거 방법에 사용한다. 현재의 특정 픽셀의 값을 결정하기 위하여 이전 프레임의 휘도(luminance) 데이터 값을 이용하면 각 채널의 밝기 차이로 인해 발생하는 노이즈 제거 성능의 차이를 극복할 수 있으며 프레임 간의 노이즈 특성을 반영한 노이즈 제거가 가능한다.To this end, the
휘도 획득부(112)는 채널 분리부(111)가 생성한 레드, 그린, 블루 채널의 영상 데이터를 기초로 휘도 데이터를 생성할 수 있다. 휘도 획득부(112)가 생성한 t 프레임에서의 휘도 데이터를 Y(t)라 할 때, Y(t)는 아래의 [수학식 1]과 같이 산출될 수 있다.The
[수학식 1][Equation 1]
Y(t) = 0.299*R(t) + 0.587*G(t) + 0.114*B(t)
Y(t) = 0.299*R(t) + 0.587*G(t) + 0.114*B(t)
도 3 및 도 4를 참조하면, 휘도 획득부(122)는 입력 영상 I(t)의 휘도 데이터를 Y(t)로 생성하는 것을 알 수 있다.3 and 4, it can be seen that the luminance acquisition unit 122 generates luminance data of the input image I(t) as Y(t).
한편, t 프레임을 현재 프레임이라 가정할 때, 이전 프레임인 t-1 프레임의 휘도 데이터는 위의 [수학식 1]과 같은 산출 방법을 통해 Y(t-1)로 구해질 수 있다.Meanwhile, assuming that the frame t is the current frame, the luminance data of the frame t-1, which is the previous frame, can be obtained as Y(t-1) through a calculation method such as [Equation 1] above.
다음으로, 도 2의 제1 필터링부(114)는 휘도 데이터에 저역 통과 필터링을 실시하고, 곱셈부(113)는 필터링된 휘도 데이터와 색상 채널 별 영상 데이터를 곱하는 역할을 한다.Next, the
보다 상세히, 제1 필터링부(114)는 이전 프레임의 휘도 데이터에 저역 통과 필터(low pass filter)를 적용할 수 있다. 제1 필터링부(114)는 이전 프레임의 휘도 데이터를 메모리로부터 읽어 획득할 수 있다. 상술한 바와 같이, 이전 프레임의 휘도 데이터는 Y(t-1)이라 표현되고, 이전 프레임의 휘도 데이터에 저역 통과 필터를 적용한 제1 필터링값은 FY(t-1)이라 표현될 수 있다. F()는 저역 통과 필터링 연산을 의미한다.In more detail, the
도 3 및 도 4를 참조하면, 제1 필터링부(114)에 의해 현재 프레임의 휘도 데이터 Y(t)가 저역 통과 필터(LPF)를 통과하여 FY(t)가 생성되고, 생성된 FY(t)는 메모리(120)에 저장됨을 알 수 있다. 메모리에 저장된 제1 필터링값 FY(t)는 다음 프레임 영상의 노이즈 제거를 위해 사용된다. 도 3 및 도 4의 예를 참조하며, 현재 프레임 영상의 노이즈를 제거하기 위해서는 메모리에 저장된 이전 프레임 영상의 제1 필터링값 FY(t-1)이 사용된다.3 and 4, the luminance data Y(t) of the current frame is passed through the low-pass filter LPF by the
다음으로, 도 2의 곱셈부(113)는 제1 필터링부(114)에 의해 생성된 이전 프레임의 제1 필터링값인 FY(t-1)와 색상 채널 별 영상 데이터인 R(t), G(t), B(t)를 각각 곱하는 역할을 한다. 곱셈부(113)에 의해 산출된 값을 색상 채널 별 곱셈값이라 칭하며, 레드, 그린, 블루 각각에 대한 색상 채널 별 곱셈값이 생성된다. 보다 상세히, 도 3 및 도 4를 참조하면 레드 채널 영상 데이터와 제1 필터링값을 곱하여 레드 채널 곱셈값인 R(t)*FY(t-1)가 생성되고, 그린 채널 영상 데이터와 제1 필터링값을 곱하여 그린 채널 곱셈값인 G(t)*FY(t-1)가 생성되며, 블루 채널 영상 데이터와 제1 필터링값을 곱하여 블루 채널 곱셈값인 B(t)*FY(t-1)가 생성된다.Next, the
다음으로, 도 2의 제2 필터링부(115)는 색상 채널 별 곱셈값에 저역 통과 필터링을 수행하여 색상 채널 별 제2 필터링값을 산출하는 역할을 한다. 보다 상세히, 도 3 및 도 4를 참조하면 레드 채널 곱셈값인 R(t)*FY(t-1)에 저역 통과 필터(LPF)를 적용하여 레드 채널 제2 필터링값인 F(R(t)*FY(t-1)) 을 생성한다. 또한, 그린 채널 곱셈값인 G(t)*FY(t-1)에 저역 통과 필터를 적용하여 그린 채널 제2 필터링값인 F(G(t)*FY(t-1)) 을 생성한다. 또한, 블루 채널 곱셈값인 B(t)*FY(t-1)에 저역 통과 필터를 적용하여 블루 채널 제2 필터링값인 F(B(t)*FY(t-1)) 을 생성한다.Next, the
도 2의 게인 연산부(116)는 색상 채널 별 제2 필터링값에 게인 연산을 행하여 노이즈가 제거된 색상 채널 별 영상 데이터를 획득한다. 게인 연산에서는 적절한 상수나 변수의 곱셉, 나눗셈, 덧셈, 뺄셈 연산이 수행된다. 게인 연산을 G()라 할 때, 도 3 및 도 4의 예와 같이 색상 채널 별 제2 필터링값에 게인 연산이 행해지면 G(F(R(t)*FY(t-1))), G(F(G(t)*FY(t-1))), G(F(B(t)*FY(t-1)))이 산출된다.The
상술한 바와 같이, 노이즈 영상의 노이즈 제거 함수를 dn()이라 나타낼 때, 색상 채널 별 노이즈 제거 영상은 각각 dnR(t), dnG(t), dnB(t)가 된다. 색상 채널 별 노이즈 영상은 게인 연산부(116)에 의해 산출된 게이즈가 제거된 색상 채널 별 영상 데이터로서, 아래의 [수학식 2]와 같이 표현될 수 있다.As described above, when the noise removal function of the noise image is expressed as dn(), the noise removal images for each color channel are dnR(t), dnG(t), and dnB(t), respectively. The noise image for each color channel is image data for each color channel from which the gaze calculated by the
[수학식 2][Equation 2]
dnR(t) = G(F(R(t)*FY(t-1)))dnR(t) = G(F(R(t)*FY(t-1)))
dnG(t) = G(F(G(t)*FY(t-1)))dnG(t) = G(F(G(t)*FY(t-1)))
dnB(t) = G(F(B(t)*FY(t-1)))
dnB(t) = G(F(B(t)*FY(t-1)))
따라서, 본 발명의 일 실시예에 의하면 dnR(t), dnG(t), dnB(t)를 조합하여 최종적으로 노이즈가 제거된 출력 영상인 dnI(t)를 획득할 수 있다.Accordingly, according to an embodiment of the present invention, dnI(t), which is an output image from which noise is finally removed, may be obtained by combining dnR(t), dnG(t), and dnB(t).
참고로, 본 명세서에서는 게인 연상을 G()로 표현하였으며, 공지된 다양한 방법의 게인 연산이 본 발명에 사용될 수 있다. 예를 들어, 상수 곱과 상수 합에 의한 게인 연산법, 톤 매핑(tone mapping)에 의한 증폭 방법, 감마 보정에 의한 게인 연산법 등이 제안 없이 사용될 수 있다.For reference, in the present specification, the gain association is expressed as G(), and gain calculations of various known methods can be used in the present invention. For example, a gain calculation method based on constant multiplication and constant sum, an amplification method based on tone mapping, a gain calculation method based on gamma correction, and the like may be used without a proposal.
도 5는 본 발명의 일 실시예에 따른 노이즈 제거 방법을 나타낸 순서도이다.5 is a flow chart showing a noise removal method according to an embodiment of the present invention.
도 5를 참조하면, 먼저 노이즈 제거 서버는 카메라로부터 현재 프레임의 원본 노이즈 영상을 입력 영상 I(t)로 획득한다(S1).Referring to FIG. 5, first, the noise removal server acquires an original noise image of a current frame from a camera as an input image I(t) (S1).
다음으로, 현재 프레임 영상을 색상 채널 별로 분리하여 색상 채널 별 영상 데이터 R(t),G(t), B(t)를 생성한다(S2).Next, the current frame image is separated for each color channel to generate image data R(t), G(t), and B(t) for each color channel (S2).
다음으로, 이전 프레임의 색상 채널 별 영상 데이터로부터 산출된 휘도 데이터 Y(t-1)를 메모리로부터 획득한다(S3).Next, the luminance data Y(t-1) calculated from the image data for each color channel of the previous frame is obtained from the memory (S3).
다음으로, 이전 프레임 영상의 휘도 데이터에 저역 통과 필터(LPF)를 적용하여 제1 필터링값 FY(t-1)을 생성한다(S4).Next, a first filtering value FY(t-1) is generated by applying a low pass filter (LPF) to the luminance data of the previous frame image (S4).
다음으로, 제1 필터링값을 색상 채널 별 영상 데이터에 곱하여 색상 채널 별 곱셈값 R(t)*FT(t-1), G(t)*FT(t-1), B(t)*FT(t-1)을 생성한다(S5).Next, the first filtering value is multiplied by the image data for each color channel, and the multiplication values for each color channel R(t)*FT(t-1), G(t)*FT(t-1), B(t)*FT (t-1) is generated (S5).
다음으로, 색상 채널 별 곱셈값에 저역 통과 필터(LPF)를 적용하여 색상 채널 별 제2 필터링값 F(R(t)*FT(t-1)), F(G(t)*FT(t-1)), F(B(t)*FT(t-1))을 생성한다(S6).Next, the second filtering value F(R(t)*FT(t-1)), F(G(t)*FT(t) for each color channel by applying a low pass filter (LPF) to the multiplication value for each color channel -1)), F(B(t)*FT(t-1)) is generated (S6).
다음으로, 색상 채널 별 제2 필터링값에 게인 연산을 행하여 dnR(t), dnG(t), dnB(t)를 획득한다(S7).Next, a gain operation is performed on the second filtering value for each color channel to obtain dnR(t), dnG(t), and dnB(t) (S7).
다음으로, dnR(t), dnG(t), dnB(t)로부터 노이즈가 제거된 영상 dnI(t)를 출력한다(S8).Next, the image dnI(t) from which noise has been removed from dnR(t), dnG(t), and dnB(t) is output (S8).
이상 설명된 본 발명에 따른 노이즈 제거 방법의 실시예는, 하나의 프레임 내에서는 공간적으로 저역 통과 필터링을 수행하여 프레임 내에서 노이즈의 레벨을 낮출 수 있다. 또한 시간적으로 프레임간에 대해서는 R, G, B 채널간의 강도 차이와 노이즈 차이를 최소화하고자 휘도 신호를 이용하였고, 현재 프레임의 R, G, B 채널과 이전 프레임의 휘도 데이터를 서로 곱함으로써, 현재 프레임에서의 노이즈 레벨은 감소시키고 휘도 성분은 강화하는 결과를 얻을 수 있다. 이와 같은 본 발명의 일 실시예에 의하면, 기존 방법들에 비해 노이즈 제거를 위한 연산량이 획기적으로 감소할 수 있다.In the above-described embodiment of the noise removal method according to the present invention, the level of noise in the frame may be reduced by performing spatially low-pass filtering within one frame. In addition, for temporal frames, a luminance signal was used to minimize the difference in intensity and noise between the R, G, and B channels. By multiplying the R, G, B channels of the current frame and the luminance data of the previous frame, The noise level of is reduced and the luminance component is enhanced. According to such an embodiment of the present invention, compared to conventional methods, the amount of computation for noise removal can be drastically reduced.
이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.The embodiments according to the present invention described above may be implemented in the form of program instructions that can be executed through various computer components and recorded in a computer-readable recording medium. The computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded in the computer-readable recording medium may be specially designed and constructed for the present invention or may be known and usable to those skilled in the computer software field. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magnetic-optical media such as floptical disks. medium), and a hardware device specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of the program instructions include not only machine language codes such as those produced by a compiler but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware device can be changed to one or more software modules to perform the processing according to the present invention, and vice versa.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.The specific implementations described in the present invention are examples and do not limit the scope of the present invention in any way. For brevity of the specification, descriptions of conventional electronic configurations, control systems, software, and other functional aspects of the systems may be omitted. In addition, the connection or connection members of the lines between the components shown in the drawings exemplarily represent functional connections and/or physical or circuit connections, and in an actual device, various functional connections that can be replaced or added Connections, or circuit connections. In addition, if there is no specific mention such as “essential” or “importantly”, it may not be an essential component for the application of the present invention.
본 발명의 명세서(특히 특허청구범위에서)에서 “상기”의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다. 또한, 본 발명에서 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 적용한 발명을 포함하는 것으로서(이에 반하는 기재가 없다면), 발명의 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다. 마지막으로, 본 발명에 따른 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다. 반드시 상기 단계들의 기재 순서에 따라 본 발명이 한정되는 것은 아니다. 본 발명에서 모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 본 발명을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 발명의 범위가 한정되는 것은 아니다. 또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터에 따라 구성될 수 있음을 알 수 있다.In the specification of the present invention (especially in the claims), the use of the term “above” and a similar reference term may correspond to both the singular and the plural. In addition, when a range is described in the present invention, the invention to which an individual value falling within the range is applied (unless otherwise stated), and each individual value constituting the range is described in the detailed description of the invention. Same as Finally, unless explicitly stated or contradictory to the steps constituting the method according to the present invention, the steps may be performed in an appropriate order. The present invention is not necessarily limited according to the order of description of the steps. The use of all examples or illustrative terms (for example, etc.) in the present invention is merely for describing the present invention in detail, and the scope of the present invention is limited by the above examples or illustrative terms unless limited by the claims. It does not become. In addition, those skilled in the art can recognize that various modifications, combinations, and changes may be configured according to design conditions and factors within the scope of the appended claims or their equivalents.
100: 노이즈 제거 서버 111: 채널 분리부
112: 휘도 획득부 113: 곱셈부
114: 제1 필터링부 115: 제2 필터링부
116: 게인 연산부 120: 메모리
130: 제어부 200: 카메라
300: 네트워크100: noise removal server 111: channel separation unit
112: luminance acquisition unit 113: multiplication unit
114: first filtering unit 115: second filtering unit
116: gain operation unit 120: memory
130: control unit 200: camera
300: network
Claims (15)
이전 프레임 영상의 상기 레드, 그린, 블루 채널 별 영상 데이터로부터 휘도 데이터를 산출하는 휘도 획득부;
이전 프레임 영상의 상기 휘도 데이터에 필터를 적용하여 제1 필터링값을 생성하는 제1 필터링부;
상기 제1 필터링값을 상기 레드, 그린, 블루 채널 별 영상 데이터에 각각 곱하여 레드 채널 곱셈값, 그린 채널 곱셈값, 및 블루 채널 곱셈값을 분리하여 산출하는 곱셈부;
상기 레드 채널 곱셈값, 그린 채널 곱셈값, 및 블루 채널 곱셈값 각각에 필터를 적용하여 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값을 생성하는 제2 필터링부;
상기 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값에 게인 연산을 행하는 게인 연산부;
를 포함하는 노이즈 제거 시스템.A channel separating unit for separating the current frame image for each red, green, and blue channel to generate red channel image data, green channel image data, and blue channel image data;
A luminance acquisition unit that calculates luminance data from image data for each red, green, and blue channel of a previous frame image;
A first filtering unit generating a first filtering value by applying a filter to the luminance data of a previous frame image;
A multiplier for multiplying the image data for each of the red, green, and blue channels by the first filtering value to separate and calculate a red channel multiplication value, a green channel multiplication value, and a blue channel multiplication value;
A second filtering unit for generating a red channel second filtering value, a green channel second filtering value, and a blue channel second filtering value by applying a filter to each of the red channel multiplication value, green channel multiplication value, and blue channel multiplication value. ;
A gain calculating unit that performs a gain operation on the red channel second filtering value, the green channel second filtering value, and the blue channel second filtering value;
Noise reduction system comprising a.
상기 휘도 획득부는 휘도 데이터를 산출하여 메모리에 일시적으로 저장하고, 상기 곱셈부는 상기 제1 필터링값을 메모리로부터 획득하는 노이즈 제거 시스템.The method of claim 1,
The luminance obtaining unit calculates luminance data and temporarily stores it in a memory, and the multiplication unit obtains the first filtering value from a memory.
상기 현재 프레임 영상 및 이전 프레임 영상은 저조도 환경에서 촬상된 영상인 노이즈 제거 시스템.The method of claim 1,
The current frame image and the previous frame image are images captured in a low-light environment.
상기 제1 필터링부 또는 제2 필터링부는 저역 통과 필터(low pass filter)를 적용하는 노이즈 제거 시스템.The method of claim 1,
A noise removal system for applying a low pass filter to the first filtering unit or the second filtering unit.
상기 게인 연산은 가감승제 연산을 조합한 것인 노이즈 제거 시스템.The method of claim 1,
The noise removal system in which the gain calculation is a combination of an increase/decrease multiplication operation.
상기 게인 연산부는 상기 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값에 게인 연산을 행하여 생성된 색상 채널 별 영상을 조합하여 노이즈가 제거된 출력 영상을 생성하는 노이즈 제거 시스템.The method of claim 1,
The gain calculator combines the image for each color channel generated by performing a gain operation on the red channel second filtering value, the green channel second filtering value, and the blue channel second filtering value to generate an output image from which noise is removed. Removal system.
이전 프레임 영상의 휘도 데이터에 필터를 적용한 제1 필터링값을 상기 레드, 그린, 블루 채널 별 영상 데이터에 각각 곱하여 레드 채널 곱셈값, 그린 채널 곱셈값, 및 블루 채널 곱셈값을 분리하여 산출하는 곱셈 단계;
상기 레드 채널 곱셈값, 그린 채널 곱셈값, 및 블루 채널 곱셈값 각각에 필터를 적용하여 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값을 생성하는 제2 필터링 단계;
상기 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값에 게인 연산을 행하는 게인 연산 단계;
를 포함하는 노이즈 제거 방법.A channel separation step of separating the current frame image for each red, green, and blue channel to generate red channel image data, green channel image data, and blue channel image data;
A multiplication step of dividing and calculating a red channel multiplication value, a green channel multiplication value, and a blue channel multiplication value by multiplying each of the red, green, and blue channel image data by a filter applied to the luminance data of the previous frame image ;
A second filtering step of generating a red channel second filtering value, a green channel second filtering value, and a blue channel second filtering value by applying a filter to each of the red channel multiplication value, green channel multiplication value, and blue channel multiplication value. ;
A gain calculating step of performing a gain operation on the red channel second filtering value, the green channel second filtering value, and the blue channel second filtering value;
Noise removal method comprising a.
이전 프레임 영상의 색상 채널 별 영상 데이터로부터 휘도 데이터를 산출하는 휘도 획득 단계;
이전 프레임 영상의 상기 휘도 데이터에 필터를 적용하여 제1 필터링값을 생성하는 제1 필터링 단계;
를 추가적으로 포함하는 노이즈 제거 방법.The method of claim 8,
A luminance obtaining step of calculating luminance data from image data for each color channel of a previous frame image;
A first filtering step of generating a first filtering value by applying a filter to the luminance data of a previous frame image;
Noise removal method further comprising.
상기 휘도 획득 단계는 휘도 데이터를 산출하여 메모리에 일시적으로 저장하고, 상기 곱셈 단계는 상기 제1 필터링값을 메모리로부터 획득하는 노이즈 제거 방법.The method of claim 9,
In the luminance obtaining step, luminance data is calculated and temporarily stored in a memory, and in the multiplying step, the first filtering value is obtained from a memory.
상기 현재 프레임 영상 및 이전 프레임 영상은 저조도 환경에서 촬상된 영상인 노이즈 제거 방법.The method of claim 8,
The current frame image and the previous frame image are images captured in a low-light environment.
상기 게인 연산 단계는 상기 레드 채널 제2 필터링값, 그린 채널 제2 필터링값, 및 블루 채널 제2 필터링값에 게인 연산을 행하여 생성된 색상 채널 별 영상을 조합하여 노이즈가 제거된 출력 영상을 생성하는 노이즈 제거 방법.The method of claim 8,
In the gain calculation step, a noise-removed output image is generated by combining the image for each color channel generated by performing a gain operation on the red channel second filtering value, the green channel second filtering value, and the blue channel second filtering value. How to remove noise.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130155638A KR102207940B1 (en) | 2013-12-13 | 2013-12-13 | Method and system for reducing noise |
PCT/KR2014/002813 WO2015088106A1 (en) | 2013-12-13 | 2014-04-02 | Method and system for removing image noise |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130155638A KR102207940B1 (en) | 2013-12-13 | 2013-12-13 | Method and system for reducing noise |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20150069343A KR20150069343A (en) | 2015-06-23 |
KR102207940B1 true KR102207940B1 (en) | 2021-01-26 |
Family
ID=53371390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020130155638A Active KR102207940B1 (en) | 2013-12-13 | 2013-12-13 | Method and system for reducing noise |
Country Status (2)
Country | Link |
---|---|
KR (1) | KR102207940B1 (en) |
WO (1) | WO2015088106A1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210007393A (en) | 2019-07-11 | 2021-01-20 | 삼성전자주식회사 | Electronic device and control method thereof |
US11659141B2 (en) | 2019-11-22 | 2023-05-23 | Hanwha Techwin Co., Ltd. | Image processing apparatus and method |
CN114862718A (en) * | 2022-05-13 | 2022-08-05 | 杭州联吉技术有限公司 | An image focus evaluation method, device, device and readable storage medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080278591A1 (en) | 2007-05-09 | 2008-11-13 | Barna Sandor L | Method and apparatus for improving low-light performance for small pixel image sensors |
US20090278961A1 (en) * | 2008-05-07 | 2009-11-12 | Honeywell International Inc. | Method for digital noise reduction in low light video |
KR101200345B1 (en) * | 2011-09-21 | 2012-11-12 | 금오공과대학교 산학협력단 | Block-bases image authentication method using reversible watermarking based on progressive differential histogram |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101341101B1 (en) * | 2007-09-11 | 2013-12-13 | 삼성전기주식회사 | Apparatus and Method for restoring image |
US8457433B2 (en) * | 2010-01-28 | 2013-06-04 | Texas Instruments Incorporated | Methods and systems for image noise filtering |
US8417047B2 (en) * | 2011-03-01 | 2013-04-09 | Microsoft Corporation | Noise suppression in low light images |
-
2013
- 2013-12-13 KR KR1020130155638A patent/KR102207940B1/en active Active
-
2014
- 2014-04-02 WO PCT/KR2014/002813 patent/WO2015088106A1/en active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080278591A1 (en) | 2007-05-09 | 2008-11-13 | Barna Sandor L | Method and apparatus for improving low-light performance for small pixel image sensors |
US20090278961A1 (en) * | 2008-05-07 | 2009-11-12 | Honeywell International Inc. | Method for digital noise reduction in low light video |
KR101200345B1 (en) * | 2011-09-21 | 2012-11-12 | 금오공과대학교 산학협력단 | Block-bases image authentication method using reversible watermarking based on progressive differential histogram |
Also Published As
Publication number | Publication date |
---|---|
WO2015088106A1 (en) | 2015-06-18 |
KR20150069343A (en) | 2015-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8149336B2 (en) | Method for digital noise reduction in low light video | |
EP3341913B1 (en) | Inverse tone mapping based on luminance zones | |
US9654700B2 (en) | Computational camera using fusion of image sensors | |
JP7077395B2 (en) | Multiplexed high dynamic range image | |
US8050509B2 (en) | Method of and apparatus for eliminating image noise | |
US9378543B2 (en) | Temporally coherent local tone mapping of high dynamic range video | |
US8934711B2 (en) | Apparatus and method of processing image | |
US20220256183A1 (en) | Real-time image generation in moving scenes | |
US9361679B2 (en) | Temporally coherent local tone mapping of HDR video | |
KR102058775B1 (en) | Image processing apparatus, image processing method, and storage medium | |
KR102315471B1 (en) | Image processing method and device | |
KR20210011322A (en) | Video depth estimation based on temporal attention | |
KR20150145725A (en) | Method and apparatus for dynamic range expansion of ldr video sequence | |
KR102207940B1 (en) | Method and system for reducing noise | |
CN110431840B (en) | Image processing apparatus, method and storage medium | |
JP2012238932A (en) | 3d automatic color correction device and color correction method and color correction program | |
US11238564B2 (en) | Temporal de-noising | |
KR102136716B1 (en) | Apparatus for Improving Image Quality and Computer-Readable Recording Medium with Program Therefor | |
KR20230049231A (en) | Image enhancement method and apparatus | |
KR101878817B1 (en) | Image enhancement method and apparatus | |
KR20180064028A (en) | Method and apparatus of image processing | |
US20230132230A1 (en) | Efficient Video Execution Method and System | |
KR20150094350A (en) | Method and apparatus for executing demosaicking using edge information | |
US20130286289A1 (en) | Image processing apparatus, image display apparatus, and image processing method | |
KR102149270B1 (en) | Method and system for reducing noise by controlling lens iris |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20131213 |
|
PG1501 | Laying open of application | ||
PN2301 | Change of applicant |
Patent event date: 20181005 Comment text: Notification of Change of Applicant Patent event code: PN23011R01D |
|
A201 | Request for examination | ||
PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 20181010 Comment text: Request for Examination of Application Patent event code: PA02011R01I Patent event date: 20131213 Comment text: Patent Application |
|
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20191118 Patent event code: PE09021S01D |
|
E90F | Notification of reason for final refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Final Notice of Reason for Refusal Patent event date: 20200522 Patent event code: PE09021S02D |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20201026 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20210120 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20210121 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20241224 Start annual number: 5 End annual number: 5 |