[go: up one dir, main page]

KR101331052B1 - Device for improving stereo matching results, method for improving stereo matching results using the device and system for receving stereo matching results - Google Patents

Device for improving stereo matching results, method for improving stereo matching results using the device and system for receving stereo matching results Download PDF

Info

Publication number
KR101331052B1
KR101331052B1 KR1020100051852A KR20100051852A KR101331052B1 KR 101331052 B1 KR101331052 B1 KR 101331052B1 KR 1020100051852 A KR1020100051852 A KR 1020100051852A KR 20100051852 A KR20100051852 A KR 20100051852A KR 101331052 B1 KR101331052 B1 KR 101331052B1
Authority
KR
South Korea
Prior art keywords
binocular parallax
stripe
parallax image
discrete cosine
coefficients
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020100051852A
Other languages
Korean (ko)
Other versions
KR20110073198A (en
Inventor
임을균
장지호
신호철
황대환
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US12/971,793 priority Critical patent/US8401280B2/en
Publication of KR20110073198A publication Critical patent/KR20110073198A/en
Application granted granted Critical
Publication of KR101331052B1 publication Critical patent/KR101331052B1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

스테레오 매칭 결과를 개선하는 장치가 개시된다. 이 스테레오 매칭 결과를 개선하는 장치는 다수의 전처리 조건에 따라 전처리된 두 영상 간의 양안 시차를 이용하여 양안 시차 영상을 출력하는 스테레오 카메라부와, 상기 양안 시차 영상에 대해 이산 코사인 변환(Discrete Cosine Transform: DCT)하여 DCT 계수를 생성하는 이산 코사인 변환부와, 상기 생성된 DCT 계수를 입력받고, 상기 DCT 계수들 중 상기 줄무늬 패턴이 포함된 AC 계수들을 이용하여 화면에 분포한 줄무늬 양을 평가하는 줄무늬 평가부와, 상기 다수의 전처리 조건 중 상기 평가된 줄무늬 양 중 가장 낮은 줄무늬 양에 대응하는 전처리 조건을 최적의 조건을 평가하는 조건 평가부 및 상기 이산 코사인 변환부에 의해 획득된 상기 DCT 계수 중 소정의 AC 계수들을 변경하고, 변경된 상기 DCT 계수를 역 이산 코산인 변환하여 상기 줄무늬가 제거된 양안 시차 영상을 생성하는 줄무늬 제거부를 포함한다. An apparatus for improving stereo matching results is disclosed. The apparatus for improving the stereo matching result includes a stereo camera unit for outputting binocular disparity images using binocular disparity between two images preprocessed according to a plurality of preprocessing conditions, and a discrete cosine transform on the binocular disparity images. Stripe evaluation for inputting a discrete cosine transform unit for generating DCT coefficients by DCT) and the generated DCT coefficients and evaluating the amount of stripes distributed on the screen using AC coefficients including the stripe pattern among the DCT coefficients. A predetermined part of the DCT coefficients obtained by the condition evaluator and the discrete cosine transform unit for evaluating an optimal condition for a pretreatment condition corresponding to the lowest stripe amount among the evaluated stripe amounts among the plurality of pretreatment conditions. Binocular with the streaks removed by changing AC coefficients and transforming the altered DCT coefficients by inverse discrete cosine Generating a difference image comprises removing parts of stripes.

Figure R1020100051852
Figure R1020100051852

Description

스테레오 매칭 결과를 개선하는 장치, 상기 장치를 이용한 스테레오 매칭 결과를 개선 방법 및 스테레오 매칭 결과를 수신하는 시스템{DEVICE FOR IMPROVING STEREO MATCHING RESULTS, METHOD FOR IMPROVING STEREO MATCHING RESULTS USING THE DEVICE AND SYSTEM FOR RECEVING STEREO MATCHING RESULTS}DEVICE FOR IMPROVING STEREO MATCHING RESULTS, METHOD FOR IMPROVING STEREO MATCHING RESULTS USING THE DEVICE AND SYSTEM FOR RECEVING STEREO MATCHING RESULTS }

본 발명은 스테레오 매칭 결과를 개선하는 장치 및 이 장치를 이용한 방법에 관한 것으로서, 더욱 상세하게는 상기 스테레오 매칭 결과인 양안 시차 영상의 품질을 개선하는 장치 및 이 장치를 이용한 방법에 관한 것이다.The present invention relates to an apparatus for improving a stereo matching result and a method using the apparatus, and more particularly, to an apparatus for improving the quality of a binocular disparity image that is the stereo matching result and a method using the apparatus.

본 발명은 지식경제부의 IT원천기술개발사업의 일환으로 수행한 연구로부터 도출된 것이다[과제관리번호: 2008-F-037-01, 과제명: u-로봇 HRI 솔루션 및 핵심 소자 기술 개발].
The present invention is derived from a study conducted as part of the IT source technology development project of the Ministry of Knowledge Economy [Task management number: 2008-F-037-01, Task name: u-robot HRI solution and core device technology development].

스테레오 매칭 결과인 두 영상 간의 양안 시차(disparity)를 계산하는 방법에는 여러 가지가 있다. 기존의 양안 시차를 계산하는 방법으로, ASIC으로 구현 가능하고, 1 차원 에너지의 최적화를 수행하는 Dynamic Programming Stereo(DPS), Scanline Smoothness Optimisation 방법이 있다. There are several ways to calculate binocular disparity between two images as a result of stereo matching. Existing binocular disparity can be calculated by using ASIC, Dynamic Programming Stereo (DPS) and Scanline Smoothness Optimization.

그러나 이 방법들은 영상의 주사선 단위로 발생하는 오차로 인해 양안 시차 영상에 줄무늬(streak) 노이즈가 생기는 단점이 있으며, 양안 카메라의 정렬 조건에 따라서 그 노이즈 정도가 달라진다.However, these methods have a disadvantage in that streaks noise occurs in the binocular parallax image due to an error occurring in the unit of the scanning line of the image, and the noise degree varies according to the alignment condition of the binocular camera.

도 1은 기존의 줄무늬가 발생한 양안 시차 영상을 보여주는 도면이고, 도 2는 도 1에서 줄무늬가 많이 존재하는 8x8 크기의 블록을 나타낸 도면이다. FIG. 1 is a diagram illustrating a binocular parallax image in which a conventional stripe is generated, and FIG. 2 is a view illustrating an 8 × 8 block in which many stripes are present in FIG. 1.

도 1에 도시된 바와 같이, 1차원 에너지의 최적화를 이용해 얻은 양안 시차 영상에서 발생하는 줄무늬는 수평 방향으로 형성되고, 도 2에 도시된 바와 같이 사물의 중앙 부분보다는 사물의 경계 부분에서 주로 발생하는 특징이 있다. As shown in FIG. 1, streaks generated in the binocular parallax image obtained by optimizing one-dimensional energy are formed in a horizontal direction, and as shown in FIG. There is a characteristic.

도 3은 도 1에 도시된 양안 시차 영상을 푸리에 변환한 결과 영상을 보여주는 도면이다.3 is a diagram illustrating an image of a result of Fourier transforming the binocular parallax image illustrated in FIG. 1.

도 3을 참조하면, 수평 줄무늬가 포함된 영상을 푸리에 변환하고, 변환된 결과 영상을 로그 스케일(log scale)로 관찰하면, 세로선 성분이 강하게 나타나지만, 도 1 및 도 2에 도시한 바와 같이 줄무늬 각각의 길이가 길지 않기 때문에 수평 방향의 고주파 성분 또한 많이 나타나게 된다.Referring to FIG. 3, when the image including the horizontal stripes is Fourier-transformed and the converted result image is observed on a log scale, vertical components appear strongly, but as shown in FIGS. 1 and 2, respectively. Since the length of is not long, a lot of high frequency components in the horizontal direction also appear.

이러한 영상 내의 줄무늬를 제거하는 기존의 기술은 푸리에 영역에서 직선으로 나타나는 줄무늬를 검출하고, 선형 회귀 분석(linear regression analysis)을 이용하여 검출된 줄무늬를 제거한다. Conventional techniques for removing streaks in such images detect streaks that appear as straight lines in the Fourier region and remove the detected streaks using linear regression analysis.

그런데, 이러한 기존의 기술은 원래 영상 전체를 가로지르는 줄무늬를 제거하는 데 한정된다. 왜냐하면, 도 4에 도시된 바와 같이, 영상 내에 국소적으로 짧게 존재하는 줄무늬들은 줄무늬의 진행 방향을 따라 매우 많은 주파수 성분을 포함하므로, 도 5에 도시된 바와 같이, 푸리에 영역에서 매우 넓은 범위를 차지한다. 따라서 기존의 기술에서 사용되는 선형 회귀 분석으로는 영상 내에 국소적으로 짧게 존재하는 줄무늬들을 제거할 수 없다.However, this conventional technique is limited to removing streaks across the original image. Because, as shown in FIG. 4, streaks that are locally short in the image contain a large number of frequency components along the direction of travel of the streaks, so as shown in FIG. 5, they occupy a very wide range in the Fourier region. do. Therefore, linear regression analysis, which is used in existing techniques, cannot remove streaks that exist locally in the image.

화면 전체를 가로지르는 줄무늬를 줄이는 기존의 다른 기술에서는 영상 내의 많은 픽셀들에 대한 계산과정이 요구되어, 처리속도를 저하시킬 뿐만 아니라, 영상 내의 국소적으로 짧게 존재하는 줄무늬를 제거하지 못한다.
Other existing techniques for reducing streaks across the screen require computation of many pixels in the image, which not only slows down processing but also eliminates local short streaks in the image.

따라서, 본 발명의 목적은 양안 시차 영상에 존재하는 수평 줄무늬(streak)를 줄여, 스테레오 매칭 결과를 개선하는 장치를 제공하는 데 있다.Accordingly, an object of the present invention is to provide an apparatus for improving stereo matching results by reducing horizontal streaks present in binocular parallax images.

본 발명의 다른 목적은 상기 장치를 이용한 스테레오 매칭 결과를 개선 방법을 제공하는 데 있다. Another object of the present invention is to provide a method for improving stereo matching results using the apparatus.

본 발명의 또 다른 목적은 상기 스테레오 매칭 결과를 수신하는 시스템을 제공하는 데 있다.
Another object of the present invention is to provide a system for receiving the stereo matching result.

상기와 같은 목적을 달성하기 위한 본 발명의 일면에 따른 스테레오 매칭 결과를 개선하는 장치는, 다수의 전처리 조건에 따라 전처리된 두 영상 간의 양안 시차 영상을 출력하는 스테레오 카메라부와, 상기 양안 시차 영상에 대해 이산 코사인 변환(Discrete Cosine Transform: DCT)하여 DCT 계수를 생성하는 이산 코사인 변환부와, 상기 생성된 DCT 계수를 입력받고, 상기 DCT 계수 중 소정 방향의 줄무늬 패턴 성분이 포함된 AC 계수들을 이용하여 화면에 분포한 줄무늬 양을 평가하는 줄무늬 평가부와, 상기 다수의 전처리 조건 중 상기 평가된 줄무늬 양 중 가장 낮은 줄무늬 양에 대응하는 전처리 조건을 최적의 조건으로 평가하는 조건 평가부 및 상기 이산 코사인 변환부에 의해 획득된 상기 DCT 계수 중 소정의 AC 계수들을 변경하고, 변경된 DCT 계수를 역 이산 코사인 변환하여, 상기 최적의 조건에 따라 상기 줄무늬가 제거된 양안 시차 영상을 생성하는 줄무늬 제거부를 포함한다. In order to achieve the above object, an apparatus for improving stereo matching results according to an aspect of the present invention includes a stereo camera unit for outputting a binocular parallax image between two images preprocessed according to a plurality of preprocessing conditions, and the binocular parallax image. Discrete Cosine Transform (DCT) to generate a DCT coefficient by using a discrete cosine transform (DCT), and using the generated DCT coefficients, AC coefficients containing a stripe pattern component in a predetermined direction of the DCT coefficients A stripe evaluator for evaluating the amount of stripes distributed on the screen, a condition evaluator for evaluating a pretreatment condition corresponding to the lowest stripe amount among the evaluated stripe amounts among the plurality of pretreatment conditions as an optimal condition, and the discrete cosine transform Change predetermined AC coefficients among the DCT coefficients obtained by the negative and inverse discrete cosa And a stripe removing unit to generate a binocular parallax image from which the stripe is removed according to the optimal condition.

본 발명의 다른 일면에 따른 스테레오 매칭 결과를 개선하는 방법은, 다수의 전처리 조건에 따라 전처리된 두 영상 간의 양안 시차 영상을 출력하는 단계와, 상기 양안 시차 영상에 대해 이산 코사인 변환(Discrete Cosine Transform: DCT)하여 DCT 계수를 생성하는 단계와, 상기 생성된 DCT 계수 중 줄무늬 패턴에 대응하는 AC 계수들을 이용하여 화면에 분포한 줄무늬 양을 평가하는 단계와, 상기 다수의 전처리 조건 중 상기 평가된 줄무늬 양 중 가장 낮은 줄무늬 양에 대응하는 전처리 조건을 최적의 조건으로 평가하는 단계 및 상기 줄무늬 패턴에 대응하는 상기 AC 계수들을 변경하고, 변경된 상기 DCT 계수를 역 이산 코사인 변환하여, 상기 최적의 조건에 따라 상기 줄무늬가 제거된 상기 양안 시차 영상을 생성하는 단계를 포함한다.According to another aspect of the present invention, there is provided a method of improving a stereo matching result, including: outputting a binocular parallax image between two images preprocessed according to a plurality of preprocessing conditions, and performing a discrete cosine transform on the binocular parallax image: Generating DCT coefficients, evaluating the amount of stripes distributed on the screen by using AC coefficients corresponding to the stripe pattern among the generated DCT coefficients, and the estimated amount of stripes among the plurality of preprocessing conditions. Evaluating the pretreatment condition corresponding to the lowest stripe amount among the optimal conditions, changing the AC coefficients corresponding to the stripe pattern, and inverse discrete cosine transforming the changed DCT coefficients according to the optimal condition. Generating the binocular parallax image from which streaks have been removed.

본 발명의 또 다른 일면에 따른 스테레오 매칭 결과를 수신하는 수신 시스템은 원영상과 줄무늬 패턴이 포함된 양안 시차 영상을 압축 인코딩된 비트스트림으로서 전송받고, 상기 비트스트림을 디코딩하여 DCT 계수를 복원하고, 상기 복원된 DCT 계수 중 상기 양안 시차 영상에 해당하는 블록의 AC계수들을 변경하고, 변경된 DCT 계수를 역 이산 코사인 변환하여 상기 줄무늬 패턴이 줄어든 상기 양안 시차 영상을 복원하는 압축 영상 디코더 및 상기 복원된 양안 시차 영상에 포함된 블록을 디-블록킹하는 디-블록킹 필터를 포함한다.
According to another aspect of the present invention, a reception system for receiving a stereo matching result receives a binocular parallax image including an original image and a stripe pattern as a compression-encoded bitstream, decodes the bitstream to restore a DCT coefficient, A compressed image decoder for reconstructing the binocular disparity image from which the stripe pattern is reduced by changing AC coefficients of a block corresponding to the binocular disparity image among the reconstructed DCT coefficients, and performing inverse discrete cosine conversion of the changed DCT coefficients; And a de-blocking filter for de-blocking a block included in the parallax image.

본 발명에 의하면, 수평 줄무늬 노이즈가 발생하는 스테레오 매칭 시스템에서 줄무늬 양을 상대적으로 평가하고, 그 양이 최소가 되는 조건을 쉽게 찾을 수 있으며, 이 조건에 따라 수평 줄무늬가 줄어든 양안 시차 영상을 얻을 수 있다. According to the present invention, in a stereo matching system in which horizontal streak noise occurs, the amount of streaks can be relatively evaluated, and a condition in which the amount is minimized can be easily found, and a binocular parallax image with reduced horizontal streaks can be obtained according to this condition. have.

또한, 정지 영상 또는 동영상을 처리하는 영상 처리 분야에서 사용되는 소프트웨어 버전의 이산 코사인 변환기(Discrete Cosine transformer: DCT) 또는 동영상 하드웨어 코덱에 포함된 이산 코사인 변환기를 활용할 수 있으므로, 낮은 성능의 임베디드 보드에서도 처리가 가능하다.
It can also take advantage of discrete cosine transformers (DCTs) in software versions used in image processing applications for still or video processing, or discrete cosine transformers included in video hardware codecs, so that even low-performance embedded boards can be processed. Is possible.

도 1은 기존의 줄무늬가 발생한 양안 시차 영상을 보여주는 도면이다.
도 2는 도 1에서 줄무늬가 많이 발생한 영역을 8x8 크기의 블록 단위로 나타낸 도면이다.
도 3은 도 1에 도시된 양안 시차 영상에 푸리에변환을 적용한 결과 영상을 보여주는 도면이다.
도 4는 짧은 수평 줄무늬들이 포함된 영상을 보여주는 도면이다.
도 5는 도 4에 도시된 짧은 수평 줄무늬들의 푸리에 변환 결과를 보여주는 도면이다.
도 6은 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 장치를 보여주는 블록도이다.
도 7은 도 6에 도시된 스테레오 매칭부로부터 출력되는 양안 시차 영상을 보여주는 도면이다.
도 8은 8 X 8의 DCT의 기본 패턴을 보여주는 도면이다.
도 9는 서로 다른 전처리 조건에 따라 서로 다른 줄무늬 분포를 갖는 3 가지의 양안 시차 영상에 대한 도 6에 도시된 줄무늬 평가부의 출력값을 보여주는 그래프이다.
도 10은 도 6에 도시된 줄무늬 제거부에 의해 줄무늬가 줄어든 양안 시차 영상을 보여주는 도면이다.
도 11 및 도 12는 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 방법을 보여주는 순서도이다.
도 13은 본 발명의 다른 실시예에 따른 스테레오 매칭 결과를 개선하는 장치를 보여주는 블록도이다.
1 is a diagram illustrating a binocular parallax image in which a conventional stripe is generated.
FIG. 2 is a diagram illustrating a region in which a lot of stripes occur in FIG. 1 in units of 8 × 8 blocks.
FIG. 3 is a diagram illustrating a result image of applying a Fourier transform to the binocular parallax image illustrated in FIG. 1.
4 is a diagram illustrating an image including short horizontal stripes.
FIG. 5 is a diagram illustrating a Fourier transform result of the short horizontal stripes illustrated in FIG. 4.
6 is a block diagram illustrating an apparatus for improving a stereo matching result according to an embodiment of the present invention.
FIG. 7 is a diagram illustrating a binocular parallax image output from the stereo matching unit illustrated in FIG. 6.
8 shows a basic pattern of DCT of 8 × 8.
FIG. 9 is a graph showing output values of the stripe evaluator shown in FIG. 6 for three binocular parallax images having different stripe distributions according to different preprocessing conditions.
FIG. 10 is a diagram illustrating a binocular parallax image in which stripes are reduced by the stripe removing unit illustrated in FIG. 6.
11 and 12 are flowcharts illustrating a method of improving a stereo matching result according to an embodiment of the present invention.
13 is a block diagram illustrating an apparatus for improving a stereo matching result according to another embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하기로 한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 6은 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 장치를 보여주는 블록도이다.6 is a block diagram illustrating an apparatus for improving a stereo matching result according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 장치(100)는 스테레오 카메라부(110), 이산 코사인 변환기(Discrete Cosine transformer: 이하 DCT)(120), 줄무늬(Streak) 평가부(130), 조건 평가부(140) 및 줄무늬 제거부(150)를 포함한다.Referring to FIG. 6, the apparatus 100 for improving a stereo matching result according to an embodiment of the present invention includes a stereo camera unit 110, a discrete cosine transformer (DCT) 120, and stripes. ) Includes an evaluator 130, a condition evaluator 140, and a stripe remover 150.

상기 스테레오 카메라부(110)는 두 영상 간의 양안 시차를 계산하여 양안 시차 영상을 생성한다. 이러한 양안 시차 영상을 생성하기 위하여 상기 스테레오 카메라부(110)는 카메라부(112), 전처리부(114) 및 스테레오 매칭부(116)를 포함한다. 상기 카메라부(112)는 광축이 서로 평행하게 정렬된 오른쪽 카메라 유닛(112A)과 왼쪽 카메라 유닛(112B)을 포함하며, 상기 오른쪽 카메라 유닛(112A)은 오른쪽 영상을 생성하고, 상기 왼쪽 카메라 유닛(112B)은 왼쪽 영상을 생성한다.The stereo camera unit 110 generates a binocular disparity image by calculating a binocular disparity between two images. In order to generate the binocular parallax image, the stereo camera unit 110 includes a camera unit 112, a preprocessor 114, and a stereo matching unit 116. The camera unit 112 includes a right camera unit 112A and a left camera unit 112B whose optical axes are aligned in parallel with each other, and the right camera unit 112A generates a right image, and the left camera unit ( 112B generates a left image.

상기 전처리부(114)는 상기 오른쪽 영상을 입력받아서 상기 오른쪽 영상에 대해 전처리 과정을 수행하는 오른쪽 영상 전처리부(114A)와 상기 왼쪽 영상을 입력받아서 상기 왼쪽 영상에 대해 전처리 과정을 수행하는 왼쪽 영상 전처리부(114B)를 포함한다. 이러한 전처리 과정은 두 영상의 독립적인 밝기 조절 과정, 히스토그램 평활화 과정, 영상의 평행 이동 과정 및 영상의 회전 과정 등을 포함하며, 이러한 과정들이 스테레오 매칭 과정에 앞서 수행되므로, 상기 스테레오 매칭부(116)에서 수행되는 스테레오 매칭의 성능이 향상될 수 있다. The preprocessor 114 receives a right image and receives a right image preprocessor 114A that performs a preprocessing process on the right image and the left image and performs a preprocessing process on the left image. Section 114B. The preprocessing process includes an independent brightness adjustment process, a histogram smoothing process, a parallel movement process, and an image rotation process of two images. Since these processes are performed before the stereo matching process, the stereo matching unit 116 is performed. The performance of stereo matching performed at may be improved.

상기 스테레오 매칭부(116)는 상기 전처리된 오른쪽 영상과 왼쪽 영상을 입력받고, 동적 프로그래밍(dynamic programming) 기법 등의 알고리즘을 이용하여 상기 영상들 간의 양안 시차를 계산하고, 계산된 양안 시차를 밝기 정보로 나타나는 양안 시차 영상을 생성하여 출력한다. 이때, 상기 스테레오 매칭부(116)는 전처리 조건에 따라 서로 다른 오차 분포를 갖는 양안 시차 영상을 출력하게 되는 데, 오차 분포를 갖는 양안 시차 영상에 하드웨어 구현이 가능한 1차원 에너지 최적화 기법(one-dimension energy optimization technique)을 적용하면, 오차 분포는 주로 줄무늬(streak) 형태로 나타난다. 이하, 도 7을 참조하여 전처리 조건에 따라 서로 다른 줄무늬 분포를 갖는 양안 시차 영상에 대해 설명하기로 한다.The stereo matching unit 116 receives the preprocessed right and left images, calculates binocular disparity between the images using an algorithm such as a dynamic programming technique, and calculates the calculated binocular disparity between the brightness information and the brightness information. Generates and outputs a binocular parallax image represented by. In this case, the stereo matching unit 116 outputs binocular parallax images having different error distributions according to preprocessing conditions, and is a one-dimensional energy optimization technique capable of implementing hardware on the binocular parallax image having an error distribution. When the energy optimization technique is applied, the error distribution is mainly in the form of streaks. Hereinafter, a binocular parallax image having different stripe distributions according to preprocessing conditions will be described with reference to FIG. 7.

도 7은 도 6에 도시된 스테레오 매칭부로부터 출력되는 서로 다른 줄무늬 분포를 갖는 양안 시차 영상의 일례를 보여주는 도면이다.FIG. 7 is a diagram illustrating an example of a binocular parallax image having different stripe distributions output from the stereo matching unit illustrated in FIG. 6.

도 7에서는, 서로 다른 전처리 조건에 따라 서로 다른 줄무늬 분포를 갖는 3 가지의 양안 시차 영상들(CASE 1, CASE 2, CASE 3)이 나타난다. 본 실시예에서의 서로 다른 전처리 조건은 수직 정렬 위치의 변경이다.In FIG. 7, three binocular parallax images CASE 1, CASE 2, and CASE 3 having different stripe distributions are displayed according to different preprocessing conditions. The different pretreatment condition in this embodiment is a change in the vertical alignment position.

구체적으로, CASE 1은 왼쪽 영상의 위에서부터 i+1 번째 수평 라인(left[i+1])과 오른쪽 영상의 위에서부터 i번째 수평 라인(right[i])이 매칭되도록 왼쪽 영상을 한 줄 위로 평행이동해 매칭한 양안 시차 영상이다. Specifically, CASE 1 moves the left image up one line so that the i + 1th horizontal line (left [i + 1]) from the top of the left image matches the ith horizontal line (right [i]) from the top of the right image. It is a binocular parallax image matched by parallel movement.

CASE 2는 왼쪽 영상의 위에서부터 i번째 수평 라인(left[i])과 오른쪽 영상의 위에서부터 i번째 수평 라인(right[i])이 매칭되도록 왼쪽 영상을 그대로 이용해서 매칭한 양안 시차 영상이다. CASE 2 is a binocular parallax image matched using the left image as it is so that the i-th horizontal line (left [i]) from the top of the left image matches the i-th horizontal line (right [i]) from the top of the right image.

CASE 3은 왼쪽 영상의 i-1번째 수평 라인(left[i-1])과 오른쪽 영상의 i번째 수평 라인(right[i])이 매칭되도록 왼쪽 영상을 한 줄 아래로 평행 이동시켜 매칭한 양안 시차 영상이다. CASE 3 moves the left image down by one line so that the i-1th horizontal line of the left image (left [i-1]) matches the ith horizontal line of the right image (right [i]). Parallax image.

도 7에서는 CASE 1의 양안 시차 영상에서 줄무늬가 가장 심하게 나타나고, CASE 3의 양안 시차 영상에서 줄무늬가 가장 적게 나타나고 있다.In FIG. 7, streaks appear most severely in the binocular parallax image of CASE 1, and streaks appear least in the binocular parallax image of CASE 3.

본 실시예에서는 전처리 조건의 일 예로 수직 정렬 위치의 변경을 기술하고 있으나, 전처리 조건의 다른 예로 오른쪽 카메라의 노출값에 대한 왼쪽 카메라의 노출값 변경, 오른쪽 카메라의 루미넌스 게인(luminance gain)에 대한 왼쪽 카메라의 루미넌스 게인 변경 등 양안 시차 영상에 영향을 미치는 다양한 조작을 포함할 수 있다.In this embodiment, the vertical alignment position is described as an example of the preprocessing condition. However, as another example of the pretreatment condition, the left camera's exposure value is changed with respect to the right camera's exposure value, and the left camera's luminance gain with respect to the luminance gain of the right camera is described. It may include various manipulations that affect the binocular parallax image, such as changing the luminance gain.

다시 도 6을 참조하면, 상기 DCT(120)는 양안 시차 영상을 소정 크기의 블록 단위로 분할한다. 이후, 분할된 각 블록들에 대해 이산 코사인 변환(discrete cosine transform)을 수행하여, 각 블록들의 DCT 계수를 출력한다. 예를 들어 상기 DCT(120)는 입력받은 양안 시차 영상을 k(자연수)개의 8(세로 픽셀 수) X 8(가로 픽셀 수) 블록 영상으로 분할하고, 각 블록 영상(X1 ~ Xk)을 이산 코사인 변환하여, DCT(Discrete Cosine transform) 계수(Y1 ~ Yk)를 산출한다.Referring to FIG. 6 again, the DCT 120 divides the binocular parallax image into block units having a predetermined size. Thereafter, a discrete cosine transform is performed on each of the divided blocks to output DCT coefficients of the respective blocks. For example, the DCT 120 divides the received binocular parallax image into k (natural numbers) 8 (vertical pixel) X 8 (horizontal pixel) block images, and each block image (X1 to Xk) is discrete cosine. By transforming, discrete cosine transform (DCT) coefficients Y1 to Yk are calculated.

산출된 DCT(Discrete Cosine Transform) 계수(Yk)는 아래의 수학식 1로 나타낼 수 있다.The computed discrete cosine transform (DCT) coefficient Yk may be represented by Equation 1 below.

Figure 112010035388440-pat00001
Figure 112010035388440-pat00001

여기서, i는 입력된 양안 시차 영상 블록 Xk 내에서의 세로 방향 픽셀 좌표이고, j는 상기 양안 시차 영상 블록 Xk 내에서의 가로 방향 픽셀의 좌표이다. 또한, x, y는 DCT 계수의 인덱스를 나타낸다.Here, i is a vertical pixel coordinate in the input binocular parallax image block Xk, and j is a coordinate of a horizontal pixel in the binocular parallax image block Xk. In addition, x and y represent the index of a DCT coefficient.

도 8은 8 X 8의 DCT의 기본 패턴을 보여주는 도면으로서 상기 수학 식 1의 Ykx, y(여기서, 아래 첨자 x는 위에서부터 아래 방향으로 x = 0, 1, ..., 7을 나타내고, 아래 첨자 y는 왼쪽에서 오른쪽으로 y=0, 1, ..., 7을 나타낸다.)가 나타내는 성분을 보여준다.FIG. 8 is a diagram showing a basic pattern of DCT of 8 X 8, wherein Yk x, y in Equation 1 , wherein the subscript x represents x = 0, 1, ..., 7 in a downward direction from the top, The subscript y represents the component represented by y = 0, 1, ..., 7 from left to right.

도 8에 도시된 바와 같이, 블록 Xk의 DCT 계수(Ykx , y)는 노이즈 패턴 성분이 블록 Xk에 얼마나 많이 있는가를 나타내는 척도로 사용할 수 있다.As shown in FIG. 8, the DCT coefficients Yk x and y of the block Xk may be used as a measure of how many noise pattern components are in the block Xk.

DCT(이산 코사인 변환 과정)는 이산 푸리에 변환(Discrete Fourier Transform: DFT) 과정과 비교해서 다음과 같은 장점이 있다.Discrete Cosine Transform (DCT) has the following advantages over Discrete Fourier Transform (DFT).

첫째, 이산 푸리에 변환 과정(DFT)은 주기적인 영상(periodic image)을 만드는 과정에서 영상의 좌우 또는 상하 경계의 불연속성(discontinuity)에 의해서 고주파 성분이 발생하나, 이산 코사인 변환 기법은 주기적인 영상을 만드는 과정에서 영상의 좌우 또는 상하를 대칭을 시키기 때문에 불연속성이 발생하지 않으며, 불연속성에 의한 고주파 성분이 발생하지 않는다. 그러므로 DCT를 사용하면, 푸리에 변환을 이용하여 양안 시차 영상 내에서 줄무늬 성분에 대응하는 고주파 성분을 찾아내는 기존의 기술에 비해 효과적으로 줄무늬 노이즈의 고주파 성분이 검출될 수 있다. First, the discrete Fourier transform process (DFT) generates high frequency components by the discontinuity of the left and right and top and bottom boundaries of the image in the process of creating a periodic image, but the discrete cosine transform technique produces a periodic image. Since the image is symmetrical to the left and right or up and down in the process, discontinuity does not occur and high frequency components due to discontinuity do not occur. Therefore, by using the DCT, the high frequency component of the stripe noise can be detected more effectively than the conventional technique of finding the high frequency component corresponding to the stripe component in the binocular disparity image using the Fourier transform.

둘째, DFT는 언제나 magnitude와 phase 정보를 생성하지만, DCT는 phase 정보를 생성하지 않는다. 양안 시차 영상의 줄무늬를 검출하는 데 있어서, phase 정보는 필요하지 않으므로 DCT가 DFT보다 유리하다.Second, DFT always generates magnitude and phase information, but DCT does not generate phase information. In detecting fringes of binocular parallax images, DCT is advantageous over DFT because phase information is not needed.

셋째, DFT는 줄무늬를 검출하는 기존의 기술과는 달리, 영상을 8 x 8 또는 16 x 16의 작은 블록으로 나누고, 각 블록에 대해 이산 코사인 변환 과정을 수행하면, 짧은 줄무늬에 대응하는 고주파 성분은 그 블록 내에만 포함되고, 인접한 블록에 영향을 미치지 않는 장점이 있다.Third, unlike conventional techniques of detecting stripes, DFT divides an image into small blocks of 8 x 8 or 16 x 16, and performs discrete cosine transform on each block. It is only included within the block and has the advantage of not affecting adjacent blocks.

다시 도 6을 참조하면, 줄무늬 평가부(130)는 상기 DCT(120)로부터 k개 블록들의 각 DCT 계수들을 입력받아서, AC 계수들을 이용하여 화면에 분포한 줄무늬의 양을 평가한다. 상기 DCT 계수들 중 0차 계수(Ykx , y에서 x=y=0)는 다른 계수들과 달리 코사인 함수가 아니기 때문에 DC 계수라고 하고, 상기 0차 계수를 제외한 나머지 계수들은 AC 계수들이라 한다.Referring back to FIG. 6, the stripe evaluator 130 receives the DCT coefficients of k blocks from the DCT 120 and evaluates the amount of stripes distributed on the screen using AC coefficients. The zeroth order coefficients (Yk x , y = x = y = 0) of the DCT coefficients are called DC coefficients because they are not cosine functions unlike other coefficients, and the other coefficients except for the zeroth order coefficients are AC coefficients.

이러한 AC 계수 중 y=0인 계수들은 수평선을 잘 나타내는 계수로서, k개의 8 X 8 블록 영상을 이산 코사인 변환하는 경우, k개의 모든 블록에서 가장 얇은 수평선 주파수 성분인

Figure 112010035388440-pat00002
만이 사용될 수도 있다. 다시 말해, 상기 줄무늬 평가부(130)는 상기 양안 시차 영상을 상기 8 x 8 블록 크기로 분할한 경우, 줄무늬 패턴에 대응하는 주파수 성분이 가장 높은 좌측 맨 아래쪽 AC 계수들(도 8을 참조)을 이용하여 화면에 분포한 줄무늬 양을 평가한다. Of these AC coefficients, y = 0 is a good representation of the horizontal line. When discrete cosine transforms k 8 X 8 block images, it is the thinnest horizontal horizontal frequency component of all k blocks.
Figure 112010035388440-pat00002
Only may be used. In other words, when the binocular parallax image is divided into the 8 × 8 block size, the stripe evaluator 130 obtains the lower left bottom AC coefficients having the highest frequency components corresponding to the stripe pattern (see FIG. 8). Evaluate the amount of stripes distributed on the screen.

k개의 블록들에 대한 줄무늬 양 즉, 줄무늬 평가 함수(f)는 예를 들어 아래의 수학식 2와 같이 절대값의 합으로 나타낼 수 있다.
The amount of stripes for the k blocks, that is, the stripe evaluation function f, may be expressed as a sum of absolute values, for example, as shown in Equation 2 below.

Figure 112010035388440-pat00003
Figure 112010035388440-pat00003

상기 줄무늬 평가 함수(f)는 도 7의 양안 시차 영상들(CASE 1, CASE 2, CASE 3)과 다음 프레임의 양안 시차 영상들에 대해 다음과 같이 일관적인 평가 결과를 연산한다.The stripe evaluation function f calculates a consistent evaluation result for the binocular parallax images CASE 1, CASE 2, and CASE 3 of FIG. 7 and the binocular parallax images of the next frame as follows.

도 9는 서로 다른 전처리 조건에 따라 서로 다른 줄무늬 분포를 갖는 3 가지의 양안 시차 영상에 대해 도 6에 도시된 줄무늬 평가부의 출력값을 보여주는 그래프이다.FIG. 9 is a graph showing output values of the stripe evaluator shown in FIG. 6 for three binocular parallax images having different stripe distributions according to different preprocessing conditions.

도 9에는 제1 내지 제3 그래프(G1, G2, G3)가 나타나며, 상기 제1 내지 제3 그래프(G1, G2, G3) 각각은 도 7의 CASE 1, CASE 2, CASE 3의 양안 시차 영상들에 대한 줄무늬 평가부(130)의 출력값을 나타내는 그래프이다. 따라서, 상기 제1 그래프(G1)는 줄무늬 분포가 가장 심한 양안 시차 영상에 대한 줄무늬 평가부(도 6의 130)의 출력값이고, 상기 제3 그래프(G3)는 줄무늬 분포가 가장 낮은 양안 시차 영상에 대한 줄무늬 평가부의 출력값을 나타낸다.FIG. 9 shows first to third graphs G1, G2, and G3, and each of the first to third graphs G1, G2, and G3 includes binocular parallax images of CASE 1, CASE 2, and CASE 3 of FIG. 7. It is a graph which shows the output value of the stripe evaluation part 130 with respect to the field. Accordingly, the first graph G1 is an output value of the stripe evaluator (130 of FIG. 6) for the binocular parallax image having the greatest stripe distribution, and the third graph G3 is a binocular parallax image having the lowest stripe distribution. The output value of the stripe evaluation part is shown.

다시 도 6을 참조하면, 상기 조건 평가부(140)는 수직 정렬 위치에 따른 전처리 조건에 따라 줄무늬 평가부(130)에서 출력되는 출력값들을 각각 저장한다. 조건 평가부(140)는 저장된 출력값들을 서로 비교하여, 가장 낮은 출력값을 출력하는 경우에서의 전처리 조건을 최적의 조건으로서 출력한다. 즉, 도 9의 경우에서는, 상기 조건 평가부(140)가 다른 그래프들(G1, G2)에 비해 일관되게 작은 출력값의 분포를 형성하는 제3 그래프(G3) 즉, 도 7의 CASE 3의 양안 시차 영상에 적용된 전처리 조건을 최적의 조건으로 판단하고, 상기 최적의 조건에 대응하는 양안 시차 영상 즉, 도 7의 CASE 3의 양안 시차 영상을 최적의 양안 시차 영상으로 평가한다. Referring back to FIG. 6, the condition evaluator 140 stores output values output from the stripe evaluator 130 according to a preprocessing condition according to the vertical alignment position. The condition evaluator 140 compares the stored output values with each other and outputs the preprocessing condition in the case of outputting the lowest output value as an optimum condition. That is, in the case of FIG. 9, both conditions of the third graph G3, that is, the CASE 3 of FIG. 7, in which the condition evaluator 140 forms a distribution of output values that are consistently smaller than those of the other graphs G1 and G2. The preprocessing condition applied to the parallax image is determined as an optimal condition, and the binocular parallax image corresponding to the optimal condition, that is, the binocular parallax image of CASE 3 of FIG. 7, is evaluated as the optimal binocular parallax image.

이러한 조건 평가부(140)에 의한 평가결과에 따라, 도 6의 상기 줄무늬 제거부(150)는 스테레오 매칭부(116)에서 생성된 최적의 양안 시차 영상을 DCT(120)에 의해 이산 코사인 변환된 결과치를 입력받고, 그 결과치에서 소정의 조건에 해당하는 AC 계수들을 0이나 0에 가까운 값으로 변경(또는 삭제)한다. 이후, 변경된 AC 계수들을 역 이산 코사인 변환하여, 영상을 재구성한다. According to the evaluation result of the condition evaluator 140, the stripe remover 150 of FIG. 6 performs discrete cosine transform on the optimal binocular disparity image generated by the stereo matching unit 116 by the DCT 120. The result value is input, and the AC coefficients corresponding to the predetermined condition are changed (or deleted) to 0 or a value close to 0 in the result value. Then, the inverse discrete cosine transforms the altered AC coefficients to reconstruct the image.

도 10은 도 6에 도시된 줄무늬 제거부에 의해 줄무늬가 줄어든 양안 시차 영상을 보여주는 도면이다.FIG. 10 is a diagram illustrating a binocular parallax image in which stripes are reduced by the stripe removing unit illustrated in FIG. 6.

도 10을 참조하면, 상기 줄무늬 제거부(150)에 의해 도 7의 case 3의 양안 시차 영상의 DCT 계수에서 일부 AC 계수를 변경하고, 변경된 AC 계수를 역 이산 코사인 변환하여 얻은 양안 시차 영상은 도 7의 CASE 3의 양안 시차 영상에 비해 줄무늬 노이즈가 확연히 줄어든 것을 확인할 수 있다.Referring to FIG. 10, a binocular parallax image obtained by changing the AC coefficients from the DCT coefficients of the binocular parallax image of case 3 of FIG. 7 by the stripe removing unit 150 and performing inverse discrete cosine conversion of the changed AC coefficients is illustrated in FIG. It can be seen that the streak noise is significantly reduced compared to the binocular parallax image of CASE 3 of 7.

한편, 상기 줄무늬 제거부(150)에 의해 획득된 양안 시차 영상은 블록 단위로 연산된 결과이므로, 상기 줄무늬 제거부(150)에서 획득된 양안 시차 영상은 블록 경계가 두드러지게 나타난다. 따라서, 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 장치는 각 블록의 경계에 대해 디-블록킹(de-blocking) 과정을 수행하는 디-블록킹 필터(미도시)를 더 포함할 수 있다. On the other hand, since the binocular parallax image obtained by the stripe remover 150 is a result calculated in units of blocks, the binocular parallax image obtained by the stripe remover 150 has a prominent block boundary. Therefore, the apparatus for improving the stereo matching result according to an embodiment of the present invention may further include a de-blocking filter (not shown) for performing a de-blocking process on the boundary of each block. .

도 11 및 도 12는 본 발명의 일실시예에 따른 스테레오 매칭 결과를 개선하는 방법을 보여주는 순서도이다. 설명의 이해를 돕기 위하여, 도 6이 함께 참조된다. 11 and 12 are flowcharts illustrating a method of improving a stereo matching result according to an embodiment of the present invention. For better understanding of the description, reference is made to FIG. 6 together.

도 6 및 도 11을 참조하면, 먼저, 양안 시차 영상을 출력하기 위하여 스테레오 카메라부(110)에서 기 설정된 전처리 조건이 초기화된다(S1110).6 and 11, first, a preprocessing condition set in the stereo camera unit 110 is initialized in order to output a binocular parallax image (S1110).

이어, 상기 스테레오 카메라부(110)의 오른쪽 카메라(112A)와 왼쪽 카메라(112B)에 의해 오른쪽 영상과 왼쪽 영상이 각각 획득된다(S1112).Subsequently, the right image and the left image are acquired by the right camera 112A and the left camera 112B of the stereo camera unit 110, respectively (S1112).

이어, 상기 획득된 오른쪽 영상과 왼쪽 영상에 대해 소정의 전처리 조건에 따라 각각 전처리 과정이 수행된다. 전처리된 오른쪽 영상과 왼쪽 영상 간의 양안 시차를 이용한 스테레오 매칭 과정이 수행되고, 수행결과인 양안 시차 영상이 생성된다(S1114). 이때, 상기 전처리 조건은 다양하게 조작된다. 이러한 전처리 조건의 다양한 조작에는, 양쪽 영상 간의 수직 정렬 위치에 따른 조건 변경, 오른쪽 카메라의 노출값에 대한 왼쪽 카메라의 노출값 또는 왼쪽 카메라의 노출값에 대한 오른쪽 카메라의 노출값의 변수 변경, 오른쪽 카메라의 루미넌스 게인(luminance gain)에 대한 왼쪽 카메라의 루미넌스 게인 또는 왼쪽 카메라의 루미넌스 게인(luminance gain)에 대한 오른쪽 카메라의 루미넌스 게인의 변경등과 같은 양안 시차 영상에 영향을 미치는 조작 등이 있다.Subsequently, the preprocessing process is performed on the obtained right and left images according to predetermined preprocessing conditions. A stereo matching process using binocular disparity between the preprocessed right image and the left image is performed, and a binocular disparity image, which is an execution result, is generated (S1114). At this time, the pretreatment conditions are variously manipulated. Various operations of these preprocessing conditions include changing the condition according to the vertical alignment position between the two images, changing the exposure value of the left camera to the exposure value of the right camera or the variable of the exposure value of the right camera to the exposure value of the left camera, and the luminance gain of the right camera ( manipulation affecting binocular parallax images such as the luminance gain of the left camera for luminance gain or the change in the luminance gain of the right camera for luminance gain of the left camera.

이어, 생성된 양안 시차 영상을 소정의 크기의 블록들로 분할하고, 분할된 각 블록에 대한 이산 코사인 변환 과정이 수행된다(S1116). Subsequently, the generated binocular parallax image is divided into blocks having a predetermined size, and a discrete cosine transform process is performed on each of the divided blocks (S1116).

이어, 이산 코사인 변환된 각 블록 영상에 대한 줄무늬 평가가 수행되고(S1118), 줄무늬 평가 결과와 상기 전처리 조건이 누적되어 저장된다(S1120). Subsequently, the stripe evaluation is performed on each block image having the discrete cosine transform (S1118), and the stripe evaluation result and the preprocessing condition are accumulated and stored (S1120).

이후, 남아 있는 전처리 조건이 있으면, 현재의 전처리 조건이 남아 있는 다른 전처리 조건들 중 다른 하나로 변경되고(S1124), 변경된 전처리 조건에 따라 상기 과정들(S1110, S1112, S1114, S1116, S1118 및 S1120)이 다시 수행된다. 만일 남아 있는 전처리 조건이 없으면, 즉, 모든 전처리 조건이 적용된 양안 시차 영상의 줄무늬 양을 평가하고, 평가된 결과로부터 최적의 전처리 조건이 판단된다(S1126).Thereafter, if there is a remaining pretreatment condition, the current pretreatment condition is changed to another one of the remaining pretreatment conditions (S1124), and the processes (S1110, S1112, S1114, S1116, S1118 and S1120) according to the changed pretreatment condition. This is done again. If there is no remaining pretreatment condition, that is, the amount of stripes of the binocular parallax image to which all pretreatment conditions are applied is evaluated, and an optimal pretreatment condition is determined from the evaluated result (S1126).

이후, 데이터가 충분하지 않으면(S1128), 처음 과정(S1110)으로 다시 돌아가고, 데이터가 충분하면(S1128), 전처리 조건에 따른 줄무늬 평가 결과를 평가하여, 최적의 전처리 조건이 선정되고(S1130), 선정된 최적의 전처리 조건에 따라 도 6의 스테레오 카메라부(110)의 카메라 모듈(112)에서 왼쪽 영상과 오른쪽 영상이 생성된다(S1134).Thereafter, if the data is not sufficient (S1128), the process returns to the first step (S1110), and if the data is sufficient (S1128), the evaluation result of the stripe evaluation according to the pretreatment condition is selected, and the optimal pretreatment condition is selected (S1130). According to the selected optimal preprocessing condition, the left image and the right image are generated in the camera module 112 of the stereo camera unit 110 of FIG. 6 (S1134).

이어, 상기 생성된 왼쪽 영상과 오른쪽 영상 간의 양안 시차를 이용하여 상기 최적의 전처리 조건에 따른 양안 시차 영상이 생성되고(S1136), 상기 생성된 양안 시차 영상을 소정 크기(8 X 8)의 블록 영상들로 분할하고, 분할된 각 블록 영상에 대해 이산 코사인 변환 과정이 수행된다(S1138).Subsequently, a binocular disparity image according to the optimal preprocessing condition is generated using the generated binocular disparity between the left image and the right image (S1136), and the generated binocular disparity image is a block image of a predetermined size (8 × 8). In this case, a discrete cosine transform process is performed on the divided block images (S1138).

이어, 도 6의 줄무늬 제거부(150)에 의해 상기 이산 코사인 변환된 양안 시차 영상의 DCT 계수에서 일부 AC 계수가 변경되고, 변경된 AC 계수에 대해 역 이산 코사인 변환 과정이 수행되고, 수행된 결과에 따라 줄무늬 노이즈가 줄어든 양안 시차 영상이 생성된다(S1140).Subsequently, some AC coefficients are changed in the DCT coefficients of the discrete cosine transformed binocular parallax image by the stripe removing unit 150 of FIG. 6, and an inverse discrete cosine transform process is performed on the changed AC coefficients. Accordingly, a binocular parallax image with reduced streaked noise is generated (S1140).

이어, 상기 줄무늬 제거부(150)에 의해 획득된 양안 시차 영상은 블록 단위로 연산된 결과 영상이므로, 각 블록의 경계에 대해 디-블록킹(de-blocking) 과정이 수행된다(S1142).Subsequently, since the binocular parallax image acquired by the stripe remover 150 is a result image calculated in units of blocks, a de-blocking process is performed on the boundary of each block (S1142).

도 13은 본 발명의 다른 실시예에 따른 스테레오 매칭 결과를 개선하는 장치를 보여주는 블록도이다.13 is a block diagram illustrating an apparatus for improving a stereo matching result according to another embodiment of the present invention.

도 13을 참조하면, 본 발명의 다른 실시예에 따른 스테레오 매칭 결과를 개선하는 장치(200)는 스테레오 카메라부(210), 압축 영상 인코더(220) 및 압축 영상 디코더(230)를 포함한다.Referring to FIG. 13, an apparatus 200 for improving a stereo matching result according to another embodiment of the present invention includes a stereo camera unit 210, a compressed image encoder 220, and a compressed image decoder 230.

스테레오 카메라 시스템의 출력 결과를 무선랜이나 USB 등 한정된 대역폭의 네트워크를 통해 전송해야 할 경우, 중복 데이터가 제거된 압축된 형태의 영상이 네트워크 전송 구간에서 전송되는 것이 바람직하다. 이 경우, 도 6의 실시예에서의 DCT(120)는 도 13의 DCT를 포함하는 압축 영상 인코더(220)에 대응하고, 도6의 줄무늬 제거부(150)는 압축 영상을 디코딩하는 압축 영상 디코더(230)에 대응할 수 있다.When the output result of the stereo camera system needs to be transmitted through a network having a limited bandwidth, such as a wireless LAN or a USB, it is preferable that a compressed image in which duplicate data is removed is transmitted in a network transmission interval. In this case, the DCT 120 in the embodiment of FIG. 6 corresponds to the compressed image encoder 220 including the DCT of FIG. 13, and the stripe remover 150 of FIG. 6 decodes the compressed image. It may correspond to 230.

도 6의 실시예에서 줄무늬 평가부(130)는 스테레오 카메라부(110)의 설계시 최적 조건을 찾는 경우에만 필요하므로 도 13의 실시예에서는 생략 가능하다. In the embodiment of FIG. 6, the stripe evaluation unit 130 may be omitted in the embodiment of FIG. 13 because it is necessary only when the optimum condition is found in the design of the stereo camera unit 110.

상기 압축 영상 인코더(220)는 예를 들어 MPEG2, MPEG4, H.263 같은 표준의 동영상 하드웨어 인코더이거나 JPEG 인코더로서, 전처리된 오른쪽 영상 또는 전처리된 왼쪽 영상과 줄무늬가 포함된 양안 시차 영상이 조합된 프레임 영상을 입력받는다. 상기 압출 영상 인코더(220)는 상기 입력받은 프레임 영상을 8 x 8 블록 단위로 이산 코사인 변환을 적용하고, 이후 DCT 계수들을 양자화(quantize)하고, 양자화된 DCT 계수들을 가변 길이 인코딩(variable lengh encoding)과정을 통해 비트 스트림을 생성하여 출력한다.The compressed image encoder 220 is, for example, a video hardware encoder of a standard such as MPEG2, MPEG4, or H.263, or a JPEG encoder, and is a frame in which a pre-processed right image or a pre-processed left image and a binocular parallax image including stripes are combined. Receive the video. The extruded image encoder 220 applies a discrete cosine transform to the received frame image in units of 8 × 8 blocks, then quantizes DCT coefficients, and variable length encoding of the quantized DCT coefficients. The bit stream is generated and output through the process.

상기 압축 영상 디코더(230)는, 네트워크를 통해 전달받은 압축 영상 비트스트림을 가변 길이 디코딩(variable length decoding)하고, 역 양자화(dequantize)하여 DCT계수를 생성한다. 상기 압축 영상 디코더(230)에 포함된 줄무늬 제거부는, 양안 시차 영상 영역 내 블록의 AC 계수 중에서 소정의 조건에 해당하는 AC계수들을 0이나 0에 가까운 값으로 변경한다. 이후, 변경된 AC 계수들을 역 DCT 변환하여 영상을 재구성한다. 이후, 재구성된 영상 내의 각 블록의 경계에 대해 디-블록킹(de-blocking) 필터를 적용한 영상을 출력한다.The compressed video decoder 230 may variable length decode the decoded video bitstream received through the network, and dequantize the decoded video bitstream to generate a DCT coefficient. The stripe removing unit included in the compressed image decoder 230 changes AC coefficients corresponding to a predetermined condition among AC coefficients of blocks in the binocular parallax image region to zero or a value close to zero. Thereafter, the image is reconstructed by performing inverse DCT transformation on the changed AC coefficients. Thereafter, an image obtained by applying a de-blocking filter to the boundary of each block in the reconstructed image is output.

도 13의 실시예를 이용하면, 함께 인코딩된 원 영상의 품질을 손상하지 않으면서도 양안 시차 영상의 줄무늬를 제거할 수 있다.Using the embodiment of FIG. 13, streaks of binocular disparity images may be removed without compromising the quality of the original image encoded together.

Claims (16)

다수의 전처리 조건에 따라 전처리된 두 영상 간의 양안 시차 영상을 출력하는 스테레오 카메라부;
상기 양안 시차 영상에 대해 이산 코사인 변환(Discrete Cosine Transform: DCT) 하여 DCT 계수를 생성하는 이산 코사인 변환부;
상기 생성된 DCT 계수를 입력받고, 상기 DCT 계수 중 소정 방향의 줄무늬 패턴 성분이 포함된 AC 계수들을 이용하여 화면에 분포한 줄무늬 양을 평가하는 줄무늬 평가부;
상기 다수의 전처리 조건 중 상기 평가된 줄무늬 양 중 가장 낮은 줄무늬 양에 대응하는 전처리 조건을 최적의 조건으로 평가하는 조건 평가부; 및
상기 이산 코사인 변환부에 의해 획득된 상기 DCT 계수 중 기설정된 조건에 대응하는 AC(Alternating Current) 계수들을 변경하고, 변경된 DCT 계수를 역 이산 코사인 변환하여, 상기 최적의 조건에 따라 상기 줄무늬가 제거된 양안 시차 영상을 생성하는 줄무늬 제거부
를 포함하는 스테레오 매칭 결과를 개선하는 장치.
A stereo camera unit configured to output a binocular parallax image between two images preprocessed according to a plurality of preprocessing conditions;
A discrete cosine transform unit for generating a DCT coefficient by performing discrete cosine transform (DCT) on the binocular parallax image;
A stripe evaluation unit configured to receive the generated DCT coefficients and evaluate an amount of stripes distributed on a screen by using AC coefficients including stripe pattern components in a predetermined direction among the DCT coefficients;
A condition evaluator configured to evaluate a pretreatment condition corresponding to the lowest stripe amount among the evaluated stripe amounts among the plurality of pretreatment conditions as an optimal condition; And
Alternating AC (Alternating Current) coefficients corresponding to a predetermined condition among the DCT coefficients obtained by the discrete cosine transform unit, and performing inverse discrete cosine conversion on the changed DCT coefficients to remove the streaks according to the optimum condition. Stripe elimination unit for generating binocular parallax image
Apparatus for improving a stereo matching result comprising a.
제1항에 있어서, 상기 스테레오 카메라부는,
상기 두 영상 간의 수직 정렬 위치에 따른 전처리 조건에 따라 상기 양안 시차 영상을 출력하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 1, wherein the stereo camera unit,
And outputting the binocular parallax image according to a preprocessing condition according to the vertical alignment position between the two images.
제1항에 있어서, 상기 스테레오 카메라부는,
한쪽 카메라의 노출값에 대한 다른 쪽 카메라의 노출값을 설정하는 조건과 한쪽 카메라의 루미넌스 게인(luminance gain)에 대한 다른 쪽 카메라의 루미넌스 게인을 설정하는 조건을 포함하는 상기 전처리 조건에 따라 상기 양안 시차 영상을 출력하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 1, wherein the stereo camera unit,
The binocular parallax image is taken according to the preprocessing conditions including a condition for setting the exposure value of the other camera with respect to the exposure value of one camera and a condition for setting the luminance gain of the other camera with respect to the luminance gain of the one camera. And outputting a stereo matching result.
제1항에 있어서, 상기 이산 코사인 변환부는,
상기 양안 시차 영상을 소정 단위의 블록들로 분할하고, 분할된 각 블록에 대해 상기 이산 코사인 변환을 수행하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 1, wherein the discrete cosine transform unit,
And dividing the binocular disparity image into blocks of a predetermined unit and performing the discrete cosine transform on each of the divided blocks.
제4항에 있어서, 상기 이산 코사인 변환부는,
상기 양안 시차 영상을 8(세로 픽셀의 수) x 8(가로 픽셀의 수) 블록 단위 및 16(세로 픽셀의 수) x 16(가로 픽셀의 수) 블록 단위 중 어느 하나의 블록 단위로 분할하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 4, wherein the discrete cosine transform unit,
Dividing the binocular parallax image into one block unit of 8 (number of vertical pixels) x 8 (number of horizontal pixels) and 16 (number of vertical pixels) x 16 (number of horizontal pixels) blocks. Characterized by a device for improving stereo matching results.
제5항에 있어서, 상기 줄무늬 평가부는,
상기 양안 시차 영상을 K(0보다 큰 정수)개의 상기 8 x 8 블록으로 분할한 경우, 각 8 x 8 블록의 DCT 계수 중 줄무늬 패턴에 대응하는 주파수 성분이 가장 높은 각 AC 계수를 이용하여 화면에 분포한 줄무늬 양을 평가하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 5, wherein the stripe evaluation unit,
The binocular parallax image In the case of dividing K (integers greater than zero) into the 8 x 8 blocks, the amount of stripes distributed on the screen is obtained by using each AC coefficient having the highest frequency component corresponding to the stripe pattern among the DCT coefficients of each 8 x 8 block. Evaluating a stereo matching result.
제1항에 있어서, 상기 줄무늬 제거부는,
상기 기설정된 조건에 대응하는 AC 계수들 각각을 0으로 변경한 후, 상기 DCT 계수를 역 이산 코사인 변환하여 상기 줄무늬가 제거된 상기 양안 시차 영상을 생성하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
The method of claim 1, wherein the stripe removing unit,
After changing each of the AC coefficients corresponding to the predetermined condition to 0, the apparatus for improving the stereo matching result, characterized in that to generate the binocular parallax image from which the stripe is removed by inverse discrete cosine transform the DCT coefficients .
제7항에 있어서, 상기 역 이산 코사인 변환부에 의해 블록 단위로 재구성된 양안 시차 영상에 포함된 블록 경계를 디-블록킹(de-blocking)하는 디-블록킹 필터를 더 포함하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
8. The stereoscopic apparatus of claim 7, further comprising a de-blocking filter for de-blocking a block boundary included in the binocular disparity image reconstructed in units of blocks by the inverse discrete cosine transform unit. Device for improving matching results.
제1항에 있어서, 상기 소정방향의 줄무늬 패턴은, 수평방향의 줄무늬 패턴인 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 장치.
2. The apparatus of claim 1, wherein the stripe pattern in a predetermined direction is a stripe pattern in a horizontal direction. 3.
다수의 전처리 조건에 따라 전처리된 두 영상 간의 양안 시차 영상을 출력하는 단계;
상기 양안 시차 영상에 대해 이산 코사인 변환(Discrete Cosine Transform: DCT) 하여 DCT 계수를 생성하는 단계;
상기 생성된 DCT 계수 중 줄무늬 패턴에 대응하는 AC(Alternating Current) 계수들을 이용하여 화면에 분포한 줄무늬 양을 평가하는 단계;
상기 다수의 전처리 조건 중 상기 평가된 줄무늬 양 중 가장 낮은 줄무늬 양에 대응하는 전처리 조건을 최적의 조건으로 평가하는 단계; 및
상기 줄무늬 패턴에 대응하는 상기 AC 계수들을 변경하고, 변경된 상기 DCT 계수를 역 이산 코사인 변환하여, 상기 최적의 조건에 따라 상기 줄무늬가 제거된 상기 양안 시차 영상을 생성하는 단계
를 포함하는 스테레오 매칭 결과를 개선하는 방법.
Outputting a binocular parallax image between two images preprocessed according to a plurality of preprocessing conditions;
Generating a DCT coefficient by performing Discrete Cosine Transform (DCT) on the binocular parallax image;
Evaluating the amount of stripes distributed on the screen by using alternating current (AC) coefficients corresponding to the stripe pattern among the generated DCT coefficients;
Evaluating a pretreatment condition corresponding to the lowest stripe amount among the evaluated stripe amounts among the plurality of pretreatment conditions as an optimal condition; And
Changing the AC coefficients corresponding to the stripe pattern and inverse discrete cosine transforming the changed DCT coefficients to generate the binocular parallax image from which the stripe is removed according to the optimum condition
How to improve the stereo matching result comprising a.
제10항에 있어서, 상기 DCT 계수를 생성하는 단계는,
상기 양안 시차 영상을 소정 블록 단위로 분할하는 단계; 및
분할된 각 블록에 대해 상기 이산 코사인 변환을 수행하는 단계를 포함하는 것을 특징으로 하는 스테레오 매칭 결과를 개선하는 방법.
The method of claim 10, wherein generating the DCT coefficients,
Dividing the binocular parallax image by a predetermined block unit; And
And performing the discrete cosine transform on each partitioned block.
제11항에 있어서, 상기 소정 블록 단위로 분할하는 단계는,
상기 양안 시차 영상을 8(세로 픽셀의 수) x 8(가로 픽셀의 수) 블록 단위로 분할하는 단계인 것인 스테레오 매칭 결과를 개선하는 방법.
The method of claim 11, wherein dividing the data into predetermined block units comprises:
Dividing the binocular parallax image into 8 (number of vertical pixels) x 8 (number of horizontal pixels) blocks.
제12항에 있어서, 상기 줄무늬 양을 평가하는 단계는,
상기 양안 시차 영상을 K(0보다 큰 정수)개의 상기 8 x 8 블록으로 분할한 경우, 각 8 x 8 블록의 DCT 계수 중 줄무늬 패턴에 대응하는 주파수 성분이 가장 높은 각 AC 계수를 이용하여 화면에 분포한 줄무늬 양을 평가하는 단계인 것인 스테레오 매칭 결과를 개선하는 방법.
The method of claim 12, wherein the step of evaluating the amount of stripes,
The binocular parallax image In the case of dividing K (integers greater than zero) into the 8 x 8 blocks, the amount of stripes distributed on the screen is obtained by using each AC coefficient having the highest frequency component corresponding to the stripe pattern among the DCT coefficients of each 8 x 8 block. Evaluating stereo matching results.
제10항에 있어서, 상기 양안 시차 영상을 생성하는 단계는,
기설정된 조건에 대응하는 AC 계수들 각각을 0으로 변경한 후, DCT 계수를 역 이산 코사인 변환하여 상기 줄무늬가 제거된 상기 양안 시차 영상을 생성하는 단계인 것인 스테레오 매칭 결과를 개선하는 방법.
The method of claim 10, wherein the generating of the binocular parallax image comprises:
And changing each of the AC coefficients corresponding to a predetermined condition to 0, and then inverse discrete cosine transforming the DCT coefficients to generate the binocular parallax image from which the streaks have been removed.
원영상과 줄무늬 패턴이 포함된 양안 시차 영상을 압축 인코딩된 비트스트림으로서 전송받고, 상기 비트스트림을 디코딩하여 DCT 계수를 복원하고, 상기 복원된 DCT 계수 중 상기 양안 시차 영상에 해당하는 블록의 AC(Alternating Current)계수들을 변경하고, 변경된 DCT 계수를 역 이산 코사인 변환하여 상기 줄무늬 패턴이 줄어든 상기 양안 시차 영상을 복원하는 압축 영상 디코더; 및
상기 복원된 양안 시차 영상에 포함된 블록을 디-블록킹하는 디-블록킹 필터
를 포함하는 스테레오 매칭 결과를 수신하는 수신 시스템.
Receiving a binocular parallax image including an original image and a stripe pattern as a compression-encoded bitstream, decoding the bitstream to reconstruct DCT coefficients, and AC of a block corresponding to the binocular parallax image among the reconstructed DCT coefficients; A compressed image decoder configured to change coefficients and inverse discrete cosine transform the changed DCT coefficients to reconstruct the binocular parallax image having the reduced stripe pattern; And
De-blocking filter for de-blocking the blocks included in the reconstructed binocular parallax image
Receiving system for receiving a stereo matching result comprising a.
제15항에 있어서, 상기 압축 영상 디코더는,
상기 복원된 DCT 계수 중에서 기설정된 조건에 대응하는 AC 계수들 각각을 0으로 변경한 후, DCT 계수를 역 이산 코사인 변환하여 상기 줄무늬 패턴이 줄어든 상기 양안 시차 영상을 복원하는 것을 특징으로 하는 스테레오 매칭 결과를 수신하는 수신시스템.

The method of claim 15, wherein the compressed video decoder,
After changing each of the AC coefficients corresponding to a predetermined condition among the restored DCT coefficients to 0, the stereo matching result of restoring the binocular disparity image of which the stripe pattern is reduced by inverse discrete cosine transforming the DCT coefficients. Receiving system for receiving.

KR1020100051852A 2009-12-21 2010-06-01 Device for improving stereo matching results, method for improving stereo matching results using the device and system for receving stereo matching results Expired - Fee Related KR101331052B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US12/971,793 US8401280B2 (en) 2009-12-21 2010-12-17 Device for improving stereo matching results, method of improving stereo matching results using the device, and system for receiving stereo matching results

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20090127699 2009-12-21
KR1020090127699 2009-12-21

Publications (2)

Publication Number Publication Date
KR20110073198A KR20110073198A (en) 2011-06-29
KR101331052B1 true KR101331052B1 (en) 2013-11-22

Family

ID=44404019

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100051852A Expired - Fee Related KR101331052B1 (en) 2009-12-21 2010-06-01 Device for improving stereo matching results, method for improving stereo matching results using the device and system for receving stereo matching results

Country Status (1)

Country Link
KR (1) KR101331052B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102334332B1 (en) 2020-07-31 2021-12-02 숭실대학교 산학협력단 Enhancement method of depth map based on deep learning network using guided filtering, recording medium and device for performing the method

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101982650B1 (en) * 2011-11-29 2019-05-28 엘지이노텍 주식회사 Apparatus and system for measuring distance
CN103841411B (en) * 2014-02-26 2015-10-28 宁波大学 A kind of stereo image quality evaluation method based on binocular information processing
CN107025660B (en) * 2016-02-01 2020-07-10 北京三星通信技术研究有限公司 Method and device for determining image parallax of binocular dynamic vision sensor

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060005763A (en) * 2004-07-14 2006-01-18 삼성전자주식회사 Method and apparatus for predicting discrete cosine transform coefficients
KR20060067238A (en) * 2004-12-14 2006-06-19 한국전자통신연구원 Binocular stereoscopic image transmission device and method thereof, and Binocular stereoscopic image rendering device and method using same
KR20080047901A (en) * 2006-11-27 2008-05-30 삼성전자주식회사 Apparatus and method for aligning images in a stereo camera device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060005763A (en) * 2004-07-14 2006-01-18 삼성전자주식회사 Method and apparatus for predicting discrete cosine transform coefficients
KR20060067238A (en) * 2004-12-14 2006-06-19 한국전자통신연구원 Binocular stereoscopic image transmission device and method thereof, and Binocular stereoscopic image rendering device and method using same
KR20080047901A (en) * 2006-11-27 2008-05-30 삼성전자주식회사 Apparatus and method for aligning images in a stereo camera device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102334332B1 (en) 2020-07-31 2021-12-02 숭실대학교 산학협력단 Enhancement method of depth map based on deep learning network using guided filtering, recording medium and device for performing the method

Also Published As

Publication number Publication date
KR20110073198A (en) 2011-06-29

Similar Documents

Publication Publication Date Title
Triantafyllidis et al. Blocking artifact detection and reduction in compressed data
US8401280B2 (en) Device for improving stereo matching results, method of improving stereo matching results using the device, and system for receiving stereo matching results
US9860566B2 (en) Image decoding apparatus and image decoding method
EP3759917B1 (en) A spectrally adaptive noise filling tool (sanft) for perceptual transform coding of still and moving images
US20100046845A1 (en) Image coding apparatus and image decoding apparatus
US11134242B2 (en) Adaptive prediction of coefficients of a video block
JP2000508127A (en) Video encoder and decoder using motion-based segmentation and merging
US20180213233A1 (en) Method and device for processing video signal by using separable graph-based transform
CN113873237B (en) Method and apparatus for recovering degraded tiles of degraded frames resulting from reconstruction
KR20070024470A (en) Data Compression Using Matching Traces
KR101331052B1 (en) Device for improving stereo matching results, method for improving stereo matching results using the device and system for receving stereo matching results
US10129565B2 (en) Method for processing high dynamic range video in order to improve perceived visual quality of encoded content
KR20110086521A (en) Region-based encoding / decoding apparatus and method
Pearlman Adaptive cosine transform image coding with constant block distortion
WO2015028098A1 (en) Method and system for embedding information and authenticating a h.264 video using a digital watermark
KR101822677B1 (en) Method for coding and method for reconstruction of a block of an image sequence
US11593968B2 (en) Coefficient context modeling in video coding
Menon et al. Gain of Grain: A Film Grain Handling Toolchain for VVC-based Open Implementations
WO2012128209A1 (en) Image encoding device, image decoding device, program, and encoded data
Afsana et al. Efficient low bit-rate intra-frame coding using common information for 360-degree video
Parsons et al. An investigation of MSE contributions in transform image coding schemes
Krishnamoorthy et al. Reduction of blocking artifact in JPEG images with orthogonal polynomials
Fryza A Complete Video Coding Chain Based on Multi-Dimensional Discrete Cosine Transform.
Lee A Hybrid Variable-Rate Image Compression Codec With Learning-Based Residual Coding
CN1222283A (en) Video encoder and decoder using motion-based segmentation and merging

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R13-asn-PN2301

St.27 status event code: A-5-5-R10-R11-asn-PN2301

LAPS Lapse due to unpaid annual fee
PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20161114

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20161114

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R11-asn-PN2301