[go: up one dir, main page]

KR101868017B1 - Method for stereo matching and apparatus thereof - Google Patents

Method for stereo matching and apparatus thereof Download PDF

Info

Publication number
KR101868017B1
KR101868017B1 KR1020120049304A KR20120049304A KR101868017B1 KR 101868017 B1 KR101868017 B1 KR 101868017B1 KR 1020120049304 A KR1020120049304 A KR 1020120049304A KR 20120049304 A KR20120049304 A KR 20120049304A KR 101868017 B1 KR101868017 B1 KR 101868017B1
Authority
KR
South Korea
Prior art keywords
pixel
block
search target
value
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020120049304A
Other languages
Korean (ko)
Other versions
KR20120125970A (en
Inventor
김찬
엄기문
정원식
허남호
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Publication of KR20120125970A publication Critical patent/KR20120125970A/en
Application granted granted Critical
Publication of KR101868017B1 publication Critical patent/KR101868017B1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

본 발명에 따른 스테레오 매칭 방법은, 최대 변이 값을 기반으로, 기준 영상 내의 기준 블록에 대응하는 탐색 대상 영상 내의 복수의 탐색 대상 블록을 결정하는 단계, 복수의 탐색 대상 블록 각각에 대해, 기준 블록과의 블록 단위 상관도 값을 도출하는 단계, 블록 단위 상관도 값 중에서 최대 상관도 값을 결정하고, 최대 상관도 값에 대응하는 탐색 대상 픽셀을 기준 픽셀에 대한 매칭 픽셀로 결정하는 단계 및 매칭 픽셀에 대응하는 변이 값을 기준 픽셀의 변이 값으로 결정하는 단계를 포함한다. 본 발명에 의하면, 스테레오 매칭 효율이 향상될 수 있다.A stereo matching method according to the present invention includes the steps of determining a plurality of search target blocks in a search target image corresponding to a reference block in a reference image based on a maximum deviation value, Determining a maximum correlation value among the block-based correlation values, determining a search target pixel corresponding to the maximum correlation value as a matching pixel for the reference pixel, And determining a corresponding variation value as a variation value of the reference pixel. According to the present invention, the stereo matching efficiency can be improved.

Description

스테레오 매칭 방법 및 그 장치 {METHOD FOR STEREO MATCHING AND APPARATUS THEREOF}≪ Desc / Clms Page number 1 > METHOD FOR STEREO MATCHING AND APPARATUS THEREOF &

본 발명은 영상 처리에 관한 것으로서, 보다 상세하게는 스테레오 매칭 방법 및 그 장치에 관한 것이다.The present invention relates to image processing, and more particularly, to a stereo matching method and apparatus thereof.

3D 영상을 이용한 디지털 방송 서비스는, UDTV 서비스와 함께 HDTV에 이은 차세대 방송 서비스로 주목 받고 있으며, 고화질의 상용 3D 디스플레이의 출시 등과 같은 관련 기술의 발달을 바탕으로, 각 가정에서 3D 영상을 즐길 수 있는 3DTV 서비스가 수년 내에 제공될 수 있을 것으로 예상된다.Digital broadcasting service using 3D video is attracting attention as next generation broadcasting service following HDTV along with UDTV service. Based on the development of related technology such as the launch of high-resolution commercial 3D display, it is possible to enjoy 3D video in each home 3DTV services are expected to be available within the next few years.

현재 상용 서비스 또는 시범 서비스 되고 있는 3D 방송 서비스는 주로 좌영상 및 우영상으로 구성되는 스테레오스코픽 비디오를 이용한 서비스이다. 3D 비디오는 종래의 2D 비디오와 달리, 좌영상 및 우영상 사이에 시차를 가질 수 있다.The 3D broadcasting service currently being used as a commercial service or a trial service is a service using stereoscopic video mainly composed of left and right images. Unlike conventional 2D video, 3D video may have parallax between the left and right images.

본 발명의 기술적 과제는 스테레오 매칭 효율을 향상시킬 수 있는 스테레오 매칭 방법 및 장치를 제공함에 있다.SUMMARY OF THE INVENTION The present invention provides a stereo matching method and apparatus capable of improving stereo matching efficiency.

본 발명의 다른 기술적 과제는 스테레오 매칭 효율을 향상시킬 수 있는 변이 값 도출 방법 및 장치를 제공함에 있다.It is another object of the present invention to provide a method and apparatus for deriving a variation value that can improve stereo matching efficiency.

본 발명의 다른 기술적 과제는 스테레오 매칭 효율을 향상시킬 수 있는 깊이 정보 생성 방법 및 장치를 제공함에 있다.It is another object of the present invention to provide a depth information generating method and apparatus capable of improving stereo matching efficiency.

본 발명의 일 실시 형태는 스테레오 매칭 방법이다. 상기 방법은, 최대 변이(disparity) 값을 기반으로, 기준 영상 내의 기준 블록에 대응하는 탐색 대상 영상 내의 복수의 탐색 대상 블록을 결정하는 단계, 상기 복수의 탐색 대상 블록 각각에 대해, 상기 기준 블록과의 블록 단위 상관도 값을 도출하는 단계, 상기 블록 단위 상관도 값 중에서 최대 상관도 값을 결정하고, 상기 최대 상관도 값에 대응하는 탐색 대상 픽셀을 기준 픽셀에 대한 매칭 픽셀로 결정하는 단계 및 상기 매칭 픽셀에 대응하는 변이 값을 상기 기준 픽셀의 변이 값으로 결정하는 단계를 포함하되, 상기 기준 블록은 상기 기준 픽셀을 포함하고, 상기 복수의 탐색 대상 블록 각각은 이에 대응되는 탐색 대상 픽셀을 포함하고, 상기 블록 단위 상관도 값 도출 단계에서는, 상기 기준 블록에 대한 제1 서브 블록 및 상기 복수의 탐색 대상 블록 각각에 대한 제2 서브 블록을 결정하고, 상기 제2 서브 블록 각각에 대해 상기 제1 서브 블록과의 부분(partial) 상관도 값을 도출하고, 상기 도출된 부분 상관도 값에 대한 이동합(running sum)을 수행함으로써 상기 블록 단위 상관도 값을 도출하고, 상기 제1 서브 블록 및 상기 제2 서브 블록은 각각 하나의 컬럼(column)이다.One embodiment of the present invention is a stereo matching method. The method includes: determining a plurality of search target blocks in a search target image corresponding to a reference block in a reference image, based on a maximum disparity value; determining, for each of the plurality of search target blocks, Determining a maximum correlation value among the block correlation values and determining a search target pixel corresponding to the maximum correlation value as a matching pixel for the reference pixel; Determining a variation value corresponding to a matching pixel as a variation value of the reference pixel, wherein the reference block includes the reference pixel, each of the plurality of search target blocks includes a search target pixel corresponding thereto , In the step of deriving the block unit correlation value, the first sub-block for the reference block and the plurality of search target blocks Block for each of the first sub-blocks, derives a partial correlation value of the second sub-block with respect to the first sub-block, and calculates a partial correlation value for the second sub- sum), and the first sub-block and the second sub-block are each a column.

본 발명에 따른 스테레오 매칭 방법에 의하면, 스테레오 매칭 효율이 향상될 수 있다.According to the stereo matching method of the present invention, the stereo matching efficiency can be improved.

본 발명에 따른 변이 값 도출 방법에 의하면, 스테레오 매칭 효율이 향상될 수 있다.According to the mutation value derivation method of the present invention, the stereo matching efficiency can be improved.

본 발명에 따른 깊이 정보 생성 방법에 의하면, 스테레오 매칭 효율이 향상될 수 있다.According to the depth information generating method of the present invention, the stereo matching efficiency can be improved.

도 1은 블록 비교 방식 기반의 스테레오 매칭 방법의 실시예를 개략적으로 나타내는 도면이다.
도 2는 블록 비교 방식 기반의 스테레오 매칭 방법의 다른 실시예를 개략적으로 나타내는 도면이다.
도 3은 서로 인접한 두 픽셀에 대한 상관도 간의 관계를 설명하기 위한 도면이다.
도 4는 블록 비교 방식 기반의 스테레오 매칭 방법의 또 다른 실시예를 개략적으로 나타내는 도면이다.
도 5는 본 발명의 실시예에 따른 스테레오 매칭 방법의 실시예를 개략적으로 나타내는 흐름도이다.
도 6은 본 발명의 실시예에 따른 스테레오 매칭 장치의 실시예를 개략적으로 나타내는 블록도이다.
FIG. 1 is a diagram schematically showing an embodiment of a stereo matching method based on a block comparison method.
2 is a diagram schematically showing another embodiment of a stereo matching method based on a block comparison method.
3 is a diagram for explaining a relationship between degrees of correlation for two adjacent pixels.
4 is a diagram schematically showing another embodiment of a stereo matching method based on a block comparison method.
5 is a flow chart schematically illustrating an embodiment of a stereo matching method according to an embodiment of the present invention.
6 is a block diagram schematically illustrating an embodiment of a stereo matching apparatus according to an embodiment of the present invention.

이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. In the following description of the embodiments of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the subject matter of the present disclosure rather unclear.

어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 중간에 다른 구성 요소가 존재할 수도 있다고 이해되어야 할 것이다. 아울러, 본 발명에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다. It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . In addition, the description of "including" a specific configuration in the present invention does not exclude a configuration other than the configuration, and means that additional configurations can be included in the practice of the present invention or the technical scope of the present invention.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.The terms first, second, etc. may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component.

또한 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.In addition, the components shown in the embodiments of the present invention are shown independently to represent different characteristic functions, which does not mean that each component is composed of separate hardware or software constituent units. That is, each constituent unit is included in each constituent unit for convenience of explanation, and at least two constituent units of the constituent units may be combined to form one constituent unit, or one constituent unit may be divided into a plurality of constituent units to perform a function. The integrated embodiments and separate embodiments of the components are also included within the scope of the present invention, unless they depart from the essence of the present invention.

또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
In addition, some of the components are not essential components to perform essential functions in the present invention, but may be optional components only to improve performance. The present invention can be implemented only with components essential for realizing the essence of the present invention except for the components used for performance improvement, Are also included in the scope of the present invention.

도 1은 블록 비교 방식 기반의 스테레오 매칭 방법의 실시예를 개략적으로 나타내는 도면이다.FIG. 1 is a diagram schematically showing an embodiment of a stereo matching method based on a block comparison method.

3D 영상에서는 동일한 장면이 두 대 이상의 카메라를 이용하여 동시에 촬영될 수 있다. 예를 들어, 스테레오 영상은 좌 카메라 및 우 카메라를 포함한 두 대의 카메라를 통해 획득될 수 있다. 여기서, 좌 카메라를 통해 획득되는 영상은 좌영상, 우 카메라를 통해 획득되는 영상은 우영상으로 불릴 수 있다.In the 3D image, the same scene can be photographed simultaneously using two or more cameras. For example, a stereo image can be acquired through two cameras including a left camera and a right camera. Here, the image obtained through the left camera may be referred to as a left image, and the image obtained through the right camera may be referred to as a right image.

좌 카메라 및 우 카메라가 장면을 바라보는 각도는 서로 다를 수 있다. 따라서, 좌 카메라 및 우 카메라 간에는 시점 차이가 존재할 수 있고, 상기 시점 차이에 의해 좌영상 및 우영상 간에는 시차가 발생할 수 있다. 상기 시차에 의해, 좌영상에서 하나의 지점을 나타내는 픽셀의 위치 및 우영상에서 상기 지점과 동일한 지점을 나타내는 픽셀의 위치는 서로 다를 수 있다. 따라서, 상기 시차는 동일 지점을 나타내는 좌영상의 픽셀 및 우영상의 픽셀 간의 좌/우 방향의 변이(disparity) 값에 의해 나타내어질 수 있다. 이하, 동일 지점을 나타내는 좌영상의 픽셀 및 우영상의 픽셀은 동일 픽셀이라 한다.The angle of view of the left camera and the right camera may be different from each other. Therefore, there may be a viewpoint difference between the left camera and the right camera, and parallax may occur between the left and right images due to the viewpoint difference. Due to the parallax, the position of the pixel representing one point in the left image and the position of the pixel representing the same point on the right side may be different from each other. Accordingly, the parallax can be represented by the disparity value between the left image pixel indicating the same point and the right image pixel. Hereinafter, the pixels of the left image indicating the same point and the pixels of the right image are referred to as the same pixel.

각 픽셀에 대한 변이 값은 스테레오 영상으로부터 도출될 수 있다. 각 픽셀에 대한 변이 값이 도출되면, 상기 도출된 변이 값, 카메라의 초점 거리(focal length) 및 카메라의 베이스라인(baseline) 거리 등을 기반으로 3차원 깊이 정보가 계산될 수 있다. 여기서, 베이스라인 거리는 좌 카메라 및 우 카메라가 동일 축 상에 존재하는 경우, 상기 동일 축 상에서 좌 카메라와 우 카메라 간의 거리를 나타낼 수 있다. 따라서, 스테레오 영상으로부터 깊이 영상을 도출하거나 이를 이용하여 임의의 시점의 영상을 도출하는 과정에서는, 동일 픽셀에 대한 변이 값을 도출하는 과정이 매우 중요하다. The variation value for each pixel can be derived from the stereo image. Once the disparity value for each pixel is derived, the three-dimensional depth information can be calculated based on the derived disparity value, the focal length of the camera, and the baseline distance of the camera. Here, the baseline distance may indicate the distance between the left camera and the right camera on the same axis when the left camera and the right camera exist on the same axis. Accordingly, in deriving a depth image from a stereo image or deriving an image at an arbitrary point in time using the depth image, it is very important to derive a variation value for the same pixel.

상술한 변이 값은 좌영상 및/또는 우영상 내의 모든 각각의 픽셀에 대해 서로 대응되는 픽셀을 찾음으로써 도출될 수 있다. 여기서, 임의의 픽셀에 대응되는 픽셀은 상기 임의의 픽셀이 나타내는 지점과 동일한 지점을 나타내는 픽셀을 의미할 수 있다. 이하, 임의의 픽셀이 나타내는 지점과 동일한 지점을 나타내는 픽셀은 상기 임의의 픽셀에 대한 매칭 픽셀이라 한다. 좌영상 및/또는 우영상 내의 모든 각각의 픽셀에 대해 서로 대응되는 픽셀을 찾는 과정은 ‘스테레오 매칭(stereo matching)’으로 불릴 수 있다. The above-described variation value can be derived by finding a pixel corresponding to each of all the pixels in the left image and / or right image. Here, a pixel corresponding to an arbitrary pixel may mean a pixel representing the same point as the point indicated by the arbitrary pixel. Hereinafter, a pixel representing the same point as the point indicated by any pixel is referred to as a matching pixel for the arbitrary pixel. The process of finding pixels corresponding to each of all the pixels in the left and / or right image may be referred to as 'stereo matching'.

스테레오 매칭 방식에는 다양한 종류의 방법이 있을 수 있다. 예를 들어, 스테레오 매칭 방식에는 현재 픽셀 주변의 영역만을 고려하여 매칭 픽셀을 찾는 로컬 매칭 방식 및 전체적인 영상을 고려하여 매칭 픽셀을 찾는 글로벌 매칭 방식 등이 있을 수 있다. 이하, 본 명세서에서는 로컬 매칭 방식 중에서 블록 비교(block comparison) 방식 기반의 스테레오 매칭 방법이 서술된다.There are various types of stereo matching methods. For example, in the stereo matching method, there may be a local matching method in which matching pixels are considered only considering an area around a current pixel, and a global matching method in which a matching pixel is searched considering an entire image. Hereinafter, a stereo matching method based on a block comparison method among local matching methods will be described.

이하, 좌영상 및 우영상 중에서 기준 픽셀을 포함하는 영상은 기준 영상이라 하고, 기준 영상이 아닌 다른 영상은 탐색 대상 영상이라 한다. 여기서, 기준 픽셀은 탐색 대상 영상 내에서 매칭 픽셀을 찾기 위해 현재 처리 중인 픽셀을 의미할 수 있다. Hereinafter, an image including a reference pixel from a left image and a right image is referred to as a reference image, and an image other than a reference image is referred to as a search target image. Here, the reference pixel may mean a pixel currently being processed to find a matching pixel in the search target image.

스테레오 매칭 장치는 기준 영상 내의 모든 픽셀 각각에 대해, 탐색 대상 영상에서 이에 해당되는 매칭 픽셀을 찾을 수 있다. The stereo matching apparatus can find a matching pixel corresponding to each of all the pixels in the reference image in the search target image.

기준 픽셀이 정해진 경우, 스테레오 매칭 장치는 상기 기준 픽셀을 중심에 포함하는 기준 블록을 결정할 수 있다. 또한, 스테레오 영상은 소정의 최대 변이 값을 가질 수 있으며, 탐색 대상 영상 내에는 상기 기준 픽셀과 공간적으로 동일한 위치의 픽셀이 존재할 수 있다. 이하, 탐색 대상 영상 내에서 기준 픽셀과 공간적으로 동일한 위치의 픽셀은 동일 위치 픽셀이라 한다. 스테레오 매칭 장치는 탐색 대상 영상 내에서, 동일 위치 픽셀을 기준으로 ‘-최대 변이’ 위치(예를 들어, 왼쪽)부터 ‘+최대 변이’ 위치(예를 들어, 오른쪽)까지 존재하는 모든 픽셀(동일 위치 픽셀을 포함함.)을 기준 픽셀에 대한 매칭 픽셀 후보로 사용할 수 있다. 이하, 상기 매칭 픽셀 후보는 탐색 대상 픽셀이라 한다. 여기서, 탐색 대상 픽셀 각각은 하나의 변이 값에 대응될 수 있다. 이하, 본 명세서에서 탐색 대상 픽셀에 대응되는 변이 값은 기준 픽셀에 대한 변이 값 후보라 한다. 이 때, 각각의 탐색 대상 픽셀에 대해, 그 탐색 대상 픽셀을 중심에 포함하는 블록이 존재할 수 있으며, 이는 탐색 대상 블록이라 한다. 각각의 탐색 대상 블록은 기준 블록과 동일한 크기를 가질 수 있다.When the reference pixel is determined, the stereo matching apparatus can determine a reference block including the reference pixel as a center. In addition, the stereo image may have a predetermined maximum deviation value, and a pixel positioned at the same position as the reference pixel may exist in the search target image. Hereinafter, a pixel at a position spatially the same as the reference pixel in the search target image is referred to as a co-located pixel. The stereo matching apparatus searches all the pixels existing in the search target image from the '-maximum mutation' position (for example, left) to the '+ maximum mutation' position (for example, right) Position pixel) can be used as a matching pixel candidate for the reference pixel. Hereinafter, the matching pixel candidate is referred to as a search target pixel. Here, each of the pixels to be searched may correspond to one variation value. Hereinafter, a variation value corresponding to a search target pixel is referred to as a variation value with respect to a reference pixel. At this time, for each search target pixel, there may be a block including the search target pixel at the center, which is called a search target block. Each search target block may have the same size as the reference block.

도 1을 참조하면, 탐색 대상 영상 내의 탐색 대상 블록들이 도시된다. 도 1의 110은 탐색 대상 영상 내에서 기준 블록과 동일한 위치에 존재하는 탐색 대상 블록을 나타내고, 도 1의 115는 탐색 대상 영상 내에서 기준 픽셀과 동일한 위치에 존재하는 탐색 대상 픽셀을 나타낼 수 있다. 또한, 도 1의 120은 동일 위치 픽셀을 기준으로 ‘-최대 변이’ 위치에 존재하는 탐색 대상 픽셀을 중심에 포함하는 탐색 대상 블록을 나타낼 수 있고, 도 1의 130은 동일 위치 픽셀을 기준으로 ‘+최대 변이’ 위치에 존재하는 탐색 대상 픽셀을 중심에 포함하는 탐색 대상 블록을 나타낼 수 있다. Referring to FIG. 1, search target blocks in a search target image are shown. Reference numeral 110 in FIG. 1 denotes a search target block existing in the same position as the reference block in the search target image, and 115 in FIG. 1 may indicate a search target pixel existing at the same position as the reference pixel in the search target image. In FIG. 1, reference numeral 120 denotes a search target block including a search target pixel existing at a position of '-maximum mutation' on the basis of a co-located pixel, and 130 of FIG. Quot; + < / RTI > maximum mutation " position.

설명의 편의를 위해, 도 1에서는 도 110의 탐색 대상 블록과 도 120의 탐색 대상 블록 사이의 탐색 대상 블록들 및 도 110의 탐색 대상 블록과 도 130의 탐색 대상 블록 사이의 탐색 대상 블록들 중 일부가 생략되어 도시된다. 또한 후술되는 도 2 내지 도 4의 실시예에서도 도 1에서와 동일하거나 유사한 방법으로 블록 또는 컬럼(column)의 일부가 생략되어 도시될 수 있다. For the sake of convenience of explanation, FIG. 1 shows the search target blocks between the search target block of FIG. 110 and the search target block of FIG. 120, and some of the search target blocks between the search target block of FIG. Are omitted. Also in the embodiments of FIGS. 2 to 4 described later, a block or a part of a column may be omitted in the same or similar manner as in FIG.

스테레오 매칭 장치는 모든 탐색 대상 블록 각각에 대해 기준 블록과의 상관도를 계산할 수 있다. 상기 상관도는 탐색 대상 블록과 기준 블록이 유사한 정도를 나타낼 수 있다. 예를 들어, 상기 상관도는 탐색 대상 블록과 기준 블록 간의 교차 상관(cross-correlation) 값 및/또는 SAD(Sum of Absolute Difference) 값을 계산함으로써 구해질 수 있다. The stereo matching apparatus can calculate the correlation with the reference block for every search target block. The degree of correlation may indicate a degree of similarity between the search target block and the reference block. For example, the correlation may be obtained by calculating a cross-correlation value between a search target block and a reference block and / or a sum of absolute difference (SAD) value.

상관도를 계산하기 위해, 스테레오 매칭 장치는 기준 블록 내의 모든 각각의 픽셀과 상기 각각의 픽셀에 대응되는 탐색 대상 블록 내의 픽셀을 검색할 수 있다. 일례로, SAD가 사용되는 경우, 스테레오 매칭 장치는 기준 블록 내의 모든 각각의 픽셀에 대해, 상기 각각의 픽셀에 대응되는 탐색 대상 블록 내의 픽셀과의 차이의 절대값을 구할 수 있다. 이 때, 스테레오 매칭 장치는 상기 구해진 절대값을 모두 더하여 SAD 값을 도출할 수 있다. 상관도는 모든 탐색 대상 블록에 대해 동일한 방법으로 구해질 수 있다. 도 1의 실시예에서와 같이 최대 변이 값이 정의되는 경우, 하나의 기준 픽셀에 대해 모두 ‘2 * 최대 변이 값 + 1’개의 상관도 값이 구해질 수 있다.In order to calculate the correlation, the stereo matching apparatus can search all the pixels in the reference block and the pixels in the search object block corresponding to the respective pixels. For example, when SAD is used, the stereo matching apparatus can obtain the absolute value of the difference with respect to all the pixels in the reference block, from the pixel in the search object block corresponding to each pixel. At this time, the stereo matching apparatus can derive the SAD value by adding all the obtained absolute values. The correlation can be obtained in the same way for all search target blocks. When the maximum variation value is defined as in the embodiment of FIG. 1, a correlation value of '2 * maximum variation value + 1' can be obtained for one reference pixel.

모든 탐색 대상 블록에 대해 상관도가 구해지면, 스테레오 매칭 장치는 상관도 값이 가장 높은 탐색 대상 블록의 중심에 존재하는 탐색 대상 픽셀을, 기준 픽셀에 대한 매칭 픽셀로 결정할 수 있다. 상술한 바와 같이, 탐색 대상 픽셀 각각은 하나의 변이 값에 대응될 수 있으므로, 상기 결정된 매칭 픽셀 또한 하나의 변이 값에 대응될 수 있다. 이 때, 스테레오 매칭 장치는 상기 결정된 매칭 픽셀의 변이 값을 기준 블록에 대한 변이 값으로 결정하거나 선택할 수 있다.If the degree of correlation is obtained for all the search target blocks, the stereo matching device can determine the search target pixel existing in the center of the search target block having the highest correlation value as the matching pixel for the reference pixel. As described above, since each of the pixels to be searched can correspond to one variation value, the determined matching pixel can also correspond to one variation value. At this time, the stereo matching apparatus can determine or select the variation value of the determined matching pixel as the variation value with respect to the reference block.

그러나, 상술한 방법에 의하면 스테레오 매칭 장치는 블록 단위의 상관도만을 고려하여 기준 블록에 대한 매칭 픽셀을 결정할 수 있다. 블록 단위의 상관도만 고려되는 경우 매칭 픽셀이 정확하게 결정되지 않을 수 있으므로, 스테레오 매칭 장치는 기준 블록의 중심 픽셀(기준 픽셀)과 탐색 대상 블록의 중심 픽셀(탐색 대상 픽셀) 간의 유사도를 추가로 고려하여, 기준 블록에 대한 매칭 픽셀을 결정할 수도 있다.However, according to the above-described method, the stereo matching apparatus can determine a matching pixel for a reference block by considering only the degree of correlation on a block-by-block basis. Since the matching pixel may not be determined accurately when only the block-by-block correlation is considered, the stereo matching apparatus further considers the similarity between the center pixel of the reference block (reference pixel) and the center pixel of the search target block To determine a matching pixel for the reference block.

일 실시예로, 스테레오 매칭 장치는 상술한 방법에 의해 매칭 픽셀을 결정하되, 기준 픽셀과의 차이값의 절대값이 소정의 임계치보다 높은 탐색 대상 픽셀은, 상기 기준 픽셀에 대한 매칭 픽셀로 결정하지 않을 수 있다. 즉, 기준 픽셀과 탐색 대상 픽셀의 차이값의 절대값이 소정의 임계치보다 높은 경우, 스테레오 매칭 장치는 상기 탐색 대상 픽셀이 기준 픽셀의 매칭 픽셀이 아닌 것으로 판단할 수 있다.In one embodiment, the stereo matching apparatus determines a matching pixel by the above-described method, and the search target pixel whose absolute value of the difference value from the reference pixel is higher than the predetermined threshold value is determined as a matching pixel for the reference pixel . That is, when the absolute value of the difference between the reference pixel and the search target pixel is higher than a predetermined threshold value, the stereo matching apparatus can determine that the search target pixel is not a matching pixel of the reference pixel.

다른 실시예로, 스테레오 매칭 장치는 전체 블록 단위의 상관도 및 픽셀 단위의 상관도를 함께 고려하여 최종 상관도를 구할 수도 있다. In another embodiment, the stereo matching apparatus may calculate the final correlation by taking into account both the degree of correlation in units of whole blocks and the degree of correlation in units of pixels.

블록 단위의 상관도는 상술한 실시예에서와 동일한 방법으로 구해질 수 있다. 예를 들어, 스테레오 매칭 장치는 블록 단위의 상관도를 구하기 위해, 기준 블록 내의 모든 각각의 픽셀과 상기 각각의 픽셀에 대응되는 탐색 대상 블록 내의 픽셀을 검색하거나 비교할 수 있다. 이 때, 일례로 교차 상관 값 및/또는 SAD 값을 구함으로써 블록 단위의 상관도가 구해질 수 있다. 픽셀 단위의 상관도는 기준 블록의 중심 픽셀(기준 픽셀)과 탐색 대상 블록의 중심 픽셀(탐색 대상 픽셀)을 기반으로 도출될 수 있다. 일례로, 스테레오 매칭 장치는 기준 픽셀과 탐색 대상 픽셀의 차이값의 절대값을 구함으로써 픽셀 단위의 상관도를 도출할 수 있다. The degree of correlation in block units can be obtained in the same manner as in the above embodiment. For example, the stereo matching apparatus can search or compare all the pixels in the reference block and the pixels in the search target block corresponding to the respective pixels to obtain correlation on a block-by-block basis. At this time, for example, the degree of correlation on a block-by-block basis can be obtained by obtaining the cross-correlation value and / or the SAD value. The degree of correlation on a pixel basis can be derived based on the center pixel (reference pixel) of the reference block and the center pixel (search target pixel) of the search target block. In one example, the stereo matching apparatus can derive the pixel-by-pixel correlation by obtaining the absolute value of the difference between the reference pixel and the search target pixel.

블록 단위의 상관도 및 픽셀 단위의 상관도가 구해지면, 스테레오 매칭 장치는 상기 블록 단위의 상관도 및 픽셀 단위의 상관도의 가중치 합에 의해 탐색 대상 블록의 최종 상관도 값을 도출할 수 있다. 이 때, 스테레오 매칭 장치는 블록 단위의 상관도 및 픽셀 단위의 상관도에 각각 다른 가중치를 적용할 수 있다. When the degree of correlation in units of blocks and the degree of correlation in units of pixels are obtained, the stereo matching apparatus can derive the final correlation value of the search object block by the weighted sum of the degree of correlation and the degree of correlation in units of pixels. At this time, the stereo matching apparatus can apply different weights to the block-by-block correlation and the pixel-by-pixel correlation.

모든 탐색 대상 블록에 대해 최종 상관도 값이 구해지면, 스테레오 매칭 장치는 최종 상관도 값이 가장 높은 탐색 대상 블록의 중심에 존재하는 탐색 대상 픽셀을, 기준 픽셀에 대한 매칭 픽셀로 결정할 수 있다. 상술한 바와 같이, 탐색 대상 픽셀 각각은 하나의 변이 값에 대응될 수 있으므로, 상기 결정된 매칭 픽셀 또한 하나의 변이 값에 대응될 수 있다. 이 때, 스테레오 매칭 장치는 상기 결정된 매칭 픽셀의 변이 값을 기준 블록에 대한 변이 값으로 결정하거나 선택할 수 있다.
When the final correlation value is obtained for all the search target blocks, the stereo matching apparatus can determine the search target pixel existing in the center of the search target block having the highest final correlation value as the matching pixel for the reference pixel. As described above, since each of the pixels to be searched can correspond to one variation value, the determined matching pixel can also correspond to one variation value. At this time, the stereo matching apparatus can determine or select the variation value of the determined matching pixel as the variation value with respect to the reference block.

도 2는 블록 비교 방식 기반의 스테레오 매칭 방법의 다른 실시예를 개략적으로 나타내는 도면이다. 도 2의 실시예는 본 발명에 따른 디지털 하드웨어 구현 구조에 해당될 수 있다.2 is a diagram schematically showing another embodiment of a stereo matching method based on a block comparison method. The embodiment of FIG. 2 may correspond to a digital hardware implementation structure according to the present invention.

본 발명에서는 픽셀 간의 대응 관계(correspondence)를 도출하기 위해, 탐색 대상 블록들의 기준 블록에 대한 상관도 값들이 서로 비교될 수 있다. 상술한 바와 같이, 탐색 대상 블록 각각은 하나의 탐색 대상 픽셀에 대응되고 탐색 대상 픽셀 각각은 하나의 변이 값 후보에 대응될 수 있다. 따라서, 탐색 대상 블록의 상관도는, 상기 탐색 대상 블록에 대응되는 변이 값 후보에 대한 상관도로 볼 수도 있다.In the present invention, in order to derive the correspondence between the pixels, the correlation values for the reference block of the search target blocks may be compared with each other. As described above, each of the search target blocks corresponds to one search target pixel, and each search target pixel corresponds to one variation candidate. Therefore, the correlation of the search object block may be viewed as correlation with the mutation candidate corresponding to the search object block.

한편, 기준 영상 내의 픽셀 각각은 소정의 개수(예를 들어, ‘2 * 최대 변이 값 + 1’)의 변이 값 후보를 가질 수 있다. 따라서, 스테레오 매칭 장치는 기준 영상 내의 픽셀 각각에 대해, 상기 각각의 픽셀이 가질 수 있는 모든 변이 값 후보에 대한 상관도 값들을 저장할 수 있다. 그러나 이 경우, 저장되는 데이터 양이 지나치게 클 수 있으므로, 이러한 문제점을 해결할 수 있는 스테레오 매칭 방법이 필요하다.On the other hand, each of the pixels in the reference image may have a variation value candidate of a predetermined number (for example, '2 * maximum variation value + 1'). Thus, for each of the pixels in the reference image, the stereo matching device may store correlation values for all the variation candidate values that each pixel can have. However, in this case, since the amount of data to be stored may be excessively large, a stereo matching method that can solve this problem is needed.

상술한 문제점을 해결하기 위해, 각각의 픽셀 클럭마다 상관도의 최대값을 구하는 스테레오 매칭 방법이 제공될 수 있다. 이를 위해, 스테레오 매칭 장치는 각각의 픽셀 클럭마다 기준 픽셀의 모든 변이 값 후보에 대한 상관도를 계산하고, 상기 계산된 상관도에 기반하여 각각의 픽셀 클럭마다 상관도의 최대값(예를 들어, SAD의 최소값)을 계산할 수 있다. 이 경우, 매 픽셀 단위로 이에 대응되는 변이 값이 도출될 수 있다.In order to solve the above-described problem, a stereo matching method for obtaining the maximum value of the degree of correlation for each pixel clock can be provided. To this end, the stereo matching apparatus calculates a correlation for all the variation candidate values of the reference pixel for each pixel clock, and calculates a maximum correlation value (for example, The minimum value of the SAD). In this case, a variation value corresponding to each pixel can be derived.

도 2를 참조하면, 좌영상 데이터 및 우영상 데이터는 스캔 순서대로 스테레오 매칭 장치에 입력될 수 있다. 이 때, 스테레오 매칭 장치는 각각의 픽셀 클럭마다 좌영상의 기준 픽셀(210) 및/또는 우영상의 기준 픽셀(220)이 가질 수 있는 모든 변이 값 후보에 대해 상관도를 계산할 수 있다. 이를 위해 상관도 계산 과정에서, 스테레오 매칭 장치는 좌영상 데이터 및/또는 우영상 데이터에 대해 쉬프트(shift) 연산을 수행할 수 있다.Referring to FIG. 2, the left and right image data may be input to the stereo matching device in a scanning order. At this time, the stereo matching apparatus can calculate the degree of correlation with respect to all the variation candidate values that the reference pixel 210 of the left image and / or the reference pixel 220 of the right image can have for each pixel clock. To this end, the stereo matching apparatus may perform a shift operation on the left image data and / or the right image data in the correlation calculation process.

좌영상의 기준 픽셀(210)에 대한 상관도 값들은, 상기 기준 픽셀(210)에 대응하는 기준 블록 및 상기 좌영상의 기준 블록에 대응하는 우영상 내의 탐색 대상 블록들을 기반으로 도출될 수 있다. 마찬가지로, 우영상의 기준 픽셀(220)에 대한 상관도 값들은, 상기 기준 픽셀(220)에 대응하는 기준 블록 및 상기 우영상의 기준 블록에 대응하는 좌영상 내의 탐색 대상 블록들을 기반으로 도출될 수 있다. 이 때 예를 들어, 최대 변이 값이 N(N은 임의의 자연수)인 경우, 좌영상의 기준 블록에 대응하는 우영상 내의 탐색 대상 블록의 개수 및/또는 우영상의 기준 블록에 대응하는 좌영상 내의 탐색 대상 블록의 개수는 2N+1 개일 수 있다. 상관도를 구하는 방법의 구체적인 실시예는 도 1에서 상술한 바 있으므로, 여기서는 생략하기로 한다.Correlation values for the reference pixel 210 of the left image may be derived based on the reference block corresponding to the reference pixel 210 and the search target blocks in the right image corresponding to the reference block of the left image. Likewise, the correlation values for the reference pixel 220 of the right image may be derived based on the reference block corresponding to the reference pixel 220 and the search target blocks in the left image corresponding to the reference block of the right image have. In this case, for example, when the maximum variation value is N (N is an arbitrary natural number), the number of search target blocks in the right image corresponding to the reference block of the left image and / May be 2N + 1. A specific example of the method for obtaining the correlation is described in Fig. 1, and thus will not be described here.

여기서, 기준 블록의 크기가 Lr*Lc(Lr은 기준 블록의 행의 크기, Lc는 기준 블록의 열의 크기)라 가정하면, 하나의 기준 블록과 하나의 탐색 대상 블록 간의 상관도를 계산하기 위해, 입력의 크기가 2*Lr*Lc인 상관 계산 모듈이 필요하다. 이 때, 최대 변이 값이 N이라 가정하면, 하나의 기준 블록에 대한 상관도 값들을 동시에 계산하기 위해, 2*N+1 개의 상관 계산 모듈이 필요하다. 도 2에서는, 각각의 픽셀 클럭마다 좌영상의 기준 블록 및 우영상의 기준 블록에 대한 상관도 값들이 계산될 수 있으므로, 일례로 4*N+2 개의 상관 계산 모듈이 사용될 수 있다.Assuming that the size of the reference block is Lr * Lc (where Lr is the size of the row of the reference block and Lc is the size of the column of the reference block), in order to calculate the correlation between one reference block and one search target block, A correlation calculation module having an input size of 2 * Lr * Lc is required. At this time, assuming that the maximum variation value is N, 2 * N + 1 correlation calculation modules are required to simultaneously calculate correlation values for one reference block. In FIG. 2, correlation values for the reference block of the left image and the reference block of the right image may be calculated for each pixel clock, and thus, for example, 4 * N + 2 correlation calculation modules may be used.

도 2의 230은 기준 픽셀에 대응하는 모든 변이 값 후보들에 대한 상관도 값들을 나타낼 수 있다. 일 실시예로 도 2에서 최대 변이 값이 N이라 가정하면, 4*N+2 개의 상관 계산 모듈에 의해 각각의 픽셀 클럭마다 4*N+2 개의 상관도 값들이 도출될 수 있다.Reference numeral 230 in FIG. 2 may indicate correlation values for all the transition value candidates corresponding to the reference pixel. In one embodiment, assuming that the maximum transition value is N in FIG. 2, 4 * N + 2 correlation values can be derived for each pixel clock by 4 * N + 2 correlation calculation modules.

각각의 픽셀 클럭마다 4*N+2 개의 상관값이 도출되면, 스테레오 매칭 장치는 파이프라인 구조 기반의 이진 탐색(binary search)(240)을 통해, 좌영상의 기준 픽셀에 대한 최대 상관도 값 및/또는 우영상의 기준 픽셀에 대한 최대 상관도 값을 구할 수 있다. 이 때, 스테레오 매칭 장치는 최대 상관도 값에 대응되는 변이 값 후보를 기준 픽셀에 대한 변이(disparity) 값으로 결정할 수 있다. 따라서, 도 2의 스테레오 매칭 방법에서는 매 픽셀 클럭마다 변이 값이 도출될 수 있다. 도 2의 스테레오 매칭 방법에 의해 도출된 변이 값들은 변이 값 스트림을 구성할 수 있다. 여기서, N 값이 64라 가정하면, 일례로 9 픽셀 클럭 후에는 변이 값이 발생될 수 있다. 또한, 파이프라인 구조가 사용되므로, 일정한 지연 후에는 매 클럭마다 변이 값이 발생될 수 있다.When 4 * N + 2 correlation values are derived for each pixel clock, the stereo matching device obtains the maximum correlation value for the reference pixel of the left image and the maximum correlation value for the reference pixel of the left image through the binary search 240 based on the pipeline structure. And / or the maximum correlation value for the reference pixel of the right image can be obtained. At this time, the stereo matching apparatus can determine the disparity value corresponding to the maximum correlation value as the disparity value with respect to the reference pixel. Therefore, in the stereo matching method of FIG. 2, a variation value can be derived for each pixel clock. The disparity values derived by the stereo matching method of FIG. 2 may constitute a disparity value stream. Assuming that the N value is 64, for example, a transition value may be generated after 9 pixel clocks. Further, since a pipeline structure is used, a variation value can be generated every clock after a certain delay.

변이 값이 도출되면, 스테레오 매칭 장치는 상기 도출된 변이 값 및 카메라 파라미터(f, b)를 기반으로 깊이 정보를 생성할 수 있다(250). 여기서, f는 카메라의 초점 거리를 의미하고, b는 카메라의 베이스라인 거리를 의미할 수 있다.
Once the disparity value is derived, the stereo matching device may generate depth information based on the derived disparity value and the camera parameters f, b (250). Here, f denotes the focal length of the camera, and b denotes the baseline distance of the camera.

도 3은 서로 인접한 두 픽셀에 대한 상관도 간의 관계를 설명하기 위한 도면이다.3 is a diagram for explaining a relationship between degrees of correlation for two adjacent pixels.

도 3은 탐색 대상 영상 내의 탐색 대상 블록들을 도시한다. 도 3의 310은 탐색 대상 영상 내에서 기준 영상의 제1 기준 픽셀과 동일한 위치에 존재하는 탐색 대상 픽셀을 나타내고, 도 3의 320은 탐색 대상 영상 내에서 기준 영상의 제2 기준 픽셀과 동일한 위치에 존재하는 탐색 대상 픽셀을 나타낸다. 여기서, 제2 기준 픽셀은 제1 기준 픽셀에 인접하여 위치한 픽셀이라 가정한다. 또한, 도 3의 313, 316, 319는 제1 기준 픽셀에 대한 탐색 대상 블록을 나타내고, 도 3의 323, 326, 329는 제2 기준 픽셀에 대한 탐색 대상 블록을 나타낸다.3 shows search target blocks in a search target image. 3, reference numeral 310 denotes a search target pixel located at the same position as the first reference pixel of the reference image in the search target image, and 320 of FIG. 3 shows the search target pixel at the same position as the second reference pixel of the reference image Represents an existing search target pixel. Here, it is assumed that the second reference pixel is a pixel positioned adjacent to the first reference pixel. In addition, reference numerals 313, 316, and 319 in FIG. 3 denote search target blocks for the first reference pixel, and reference numerals 323, 326, and 329 in FIG. 3 denote search target blocks for the second reference pixel.

상술한 바와 같이, 스테레오 매칭 장치는 기준 영상 내 각 픽셀의 모든 변이 값 후보에 대해, 해당 탐색 대상 블록과 기준 블록 간의 상관도를 계산할 수 있다. 도 3을 참조하면, 제1 기준 픽셀과 제2 기준 픽셀은 서로 인접하여 위치하므로, 제1 기준 픽셀에 대한 탐색 대상 블록과 제2 기준 픽셀에 대한 탐색 대상 블록은 블록 내의 많은 영역을 공유할 수 있다. 따라서, 제1 기준 픽셀에 대한 상관도와 제2 기준 픽셀에 대한 상관도는, 탐색 대상 블록 내의 공유 부분에 대해, 서로 동일하거나 유사한 부분값을 공유할 수 있다. 따라서, 상술한 특성을 이용한 스테레오 매칭 방법이 제공될 수 있으며, 이는 도 4의 실시예에서 후술된다.
As described above, the stereo matching apparatus can calculate the degree of correlation between the search target block and the reference block for all the variation candidate values of each pixel in the reference image. Referring to FIG. 3, since the first reference pixel and the second reference pixel are adjacent to each other, the search target block for the first reference pixel and the search target block for the second reference pixel can share many areas within the block have. Thus, the correlation to the first reference pixel and the correlation to the second reference pixel may share the same or similar partial values with respect to the shared portion in the search target block. Therefore, a stereo matching method using the above-described characteristics can be provided, which will be described later in the embodiment of FIG.

도 4는 블록 비교 방식 기반의 스테레오 매칭 방법의 또 다른 실시예를 개략적으로 나타내는 도면이다. 도 4의 실시예는 본 발명에 따른 디지털 하드웨어 구현 구조에 해당될 수 있다.4 is a diagram schematically showing another embodiment of a stereo matching method based on a block comparison method. The embodiment of FIG. 4 may correspond to a digital hardware implementation structure according to the present invention.

도 4를 참조하면, 좌영상 데이터 및 우영상 데이터는 스캔 순서대로 스테레오 매칭 장치에 입력될 수 있다. 이 때, 스테레오 매칭 장치는 각각의 픽셀 클럭마다 좌영상의 기준 픽셀(410) 및/또는 우영상의 기준 픽셀(420)이 가질 수 있는 모든 변이 값 후보에 대해 상관도를 도출할 수 있다. 도 4의 실시예에서, 스테레오 매칭 장치는 SAD 계산에 의해 상관도를 도출한다고 가정한다. Referring to FIG. 4, the left image data and the right image data may be input to the stereo matching device in a scanning order. At this time, the stereo matching apparatus can derive the correlation for all of the variation candidate values that the reference pixel 410 of the left image and / or the reference pixel 420 of the right image can have for each pixel clock. In the embodiment of FIG. 4, it is assumed that the stereo matching apparatus derives the correlation by SAD calculation.

상술한 바와 같이, 변이 값 후보 각각에 대한 상관도 값은 기준 블록 및 상기 기준 블록에 대응하는 탐색 대상 영상 내의 탐색 대상 블록을 기반으로 도출될 수 있다. 따라서, 후술되는 실시예에서 각각의 변이 값 후보에 대해 최종적으로 도출되는 SAD는 블록 단위 SAD라 한다. As described above, the correlation value for each of the variation value candidates can be derived based on the reference block and the search target block in the search target image corresponding to the reference block. Therefore, in the following embodiments, the SAD finally derived for each variation value candidate is referred to as a block SAD.

도 1, 도 2의 실시예에서 상술한 바와 같이, 스테레오 매칭 장치는 기준 블록과 탐색 대상 블록을 직접 비교하여 블록 단위 SAD 값을 도출할 수 있다. 그러나, 스테레오 매칭 장치는 기준 블록에 대한 서브 블록(sub-block) 및 탐색 대상 블록에 대한 서브 블록을 기반으로 부분 SAD(partial SAD) 값들을 계산하여 누적함으로써 블록 단위 SAD 값을 도출할 수도 있다. As described above with reference to FIGS. 1 and 2, the stereo matching apparatus can derive a block-based SAD value by directly comparing a reference block and a search target block. However, the stereo matching apparatus may derive a block-based SAD value by calculating and accumulating partial SAD values based on a sub-block for a reference block and a sub-block for a search target block.

도 4에서는, 기준 블록에 대한 서브 블록 및 탐색 대상 블록에 대한 서브 블록이 각각 하나의 컬럼에 해당되는 경우의 실시예가 서술된다. 이 때, 본 명세서에서 기준 블록에 대한 서브 블록은 기준 컬럼으로 불릴 수 있으며, 탐색 대상 블록에 대한 서브 블록은 탐색 대상 컬럼으로 불릴 수 있다. In Fig. 4, an embodiment in which a sub-block for a reference block and a sub-block for a search target block correspond to one column is described. Here, the subblock for the reference block in this specification may be referred to as a reference column, and the subblock for the search target block may be referred to as a search target column.

예를 들어, 스테레오 매칭 장치는 기준 픽셀을 중심에 포함하는 기준 컬럼을 결정할 수 있다. 또한, 스테레오 매칭 장치는 탐색 대상 픽셀을 중심에 포함하는 탐색 대상 컬럼을 결정할 수 있다. 이 때, 스테레오 매칭 장치는 모든 탐색 대상 컬럼 각각에 대해 기준 컬럼과의 부분 SAD 값을 계산할 수 있다. 도 4의 430은 기준 픽셀에 대응하는 부분 SAD 값들을 나타낸다.For example, the stereo matching device may determine a reference column that includes a reference pixel at the center. Further, the stereo matching apparatus can determine a search target column including a search target pixel as a center. At this time, the stereo matching apparatus can calculate the partial SAD value with respect to the reference column for every search target column. 4, reference numeral 430 denotes partial SAD values corresponding to a reference pixel.

부분 SAD 값들이 도출되면, 스테레오 매칭 장치는 도출된 부분 SAD 값들에 기반하여 SAD 이동합(running sum)(440)을 수행함으로써 블록 단위 SAD 값을 도출할 수 있다. 예를 들어, 복수의 부분 SAD 값들이 누적되어, 하나의 탐색 대상 픽셀에 대한 블록 단위 SAD 값이 도출된 경우를 가정한다. 이 때, 상기 탐색 대상 픽셀에 인접한 다른 탐색 대상 픽셀의 블록 단위 SAD 값은, 이전 블록 단위 SAD 값에 새로운 탐색 대상 컬럼의 부분 SAD 값을 더하고, 더해진 값에서 가장 최초에 누적된 탐색 대상 컬럼의 부분 SAD 값을 뺌으로써 도출될 수 있다. 가장 최초에 누적된 탐색 대상 컬럼의 부분 SAD 값은, 일례로 쉬프트 레지스터(shift register)를 사용해서 얻어질 수 있다.Once the partial SAD values are derived, the stereo matching device may derive a block-by-block SAD value by performing a SAD running sum 440 based on the derived partial SAD values. For example, it is assumed that a plurality of partial SAD values are accumulated to derive a block-based SAD value for one search target pixel. In this case, the block unit SAD value of another search target pixel adjacent to the search target pixel is obtained by adding the partial SAD value of the new search target column to the previous block SAD value, and adding the SAD value of the new search target column Can be derived by subtracting the SAD value. The partial SAD value of the initially accumulated search target column can be obtained, for example, by using a shift register.

여기서, 기준 컬럼의 크기가 Lr이라 하면, 하나의 기준 컬럼과 하나의 탐색 대상 컬럼 간의 부분 SAD 값을 계산하기 위해, 입력의 크기가 2*Lr인 상관 계산 모듈이 필요하다. 이 때, 스테레오 매칭 장치는 새로운 부분 SAD 값을 더하고 최초에 누적된 부분 SAD 값을 빼는 기능을 가짐으로써 변이 값 후보에 대한 블록 단위 SAD 값을 구할 수 있다. 따라서, 이 경우 도 2의 실시예에 비해 적은 하드웨어 자원으로 동일하거나 유사한 결과를 얻을 수 있다.Assuming that the size of the reference column is Lr, a correlation calculation module having an input size of 2 * Lr is required to calculate the partial SAD value between one reference column and one search target column. At this time, the stereo matching apparatus has a function of adding a new partial SAD value and subtracting a first accumulated partial SAD value, thereby obtaining a block-based SAD value for the variation candidate. Therefore, in this case, the same or similar result can be obtained with less hardware resources than the embodiment of FIG.

도 4의 450, 460에 대한 내용은 도 2의 실시예에서와 유사하므로, 여기서는 생략하기로 한다.
The contents of 450 and 460 of FIG. 4 are similar to those of the embodiment of FIG. 2, and will not be described here.

도 5는 본 발명의 실시예에 따른 스테레오 매칭 방법의 실시예를 개략적으로 나타내는 흐름도이다.5 is a flow chart schematically illustrating an embodiment of a stereo matching method according to an embodiment of the present invention.

도 5를 참조하면, 스테레오 매칭 장치는 기준 픽셀에 대응하는 변이 값 후보 각각에 대한 상관도를 계산할 수 있다(S510).Referring to FIG. 5, the stereo matching apparatus may calculate a degree of correlation for each of the variance candidates corresponding to the reference pixel (S510).

일례로, 스테레오 매칭 장치는 탐색 대상 블록 각각에 대해 기준 블록과의 상관도를 계산할 수 있다. 이 때, 블록 단위의 상관도만 고려되는 경우 매칭 픽셀이 정확하게 결정되지 않을 수 있으므로, 도 1에서 상술한 바와 같이 스테레오 매칭 장치는 기준 픽셀과 탐색 대상 픽셀 간의 유사도를 추가로 고려할 수도 있다. 또한, 도 4에서 상술한 바와 같이, 스테레오 매칭 장치는 상관도를 구함에 있어, 서브 블록 단위의 부분 SAD 값들을 계산하여 누적함으로써 최종 SAD 값을 도출할 수도 있다.For example, the stereo matching apparatus can calculate the correlation with the reference block for each of the search target blocks. In this case, if only the block-by-block correlation is considered, the matching pixel may not be correctly determined. Therefore, the stereo matching apparatus may further consider the similarity between the reference pixel and the search target pixel as described above with reference to FIG. In addition, as described above with reference to FIG. 4, the stereo matching apparatus may derive the final SAD value by calculating and accumulating partial SAD values in units of subblocks in obtaining correlation.

다시 도 5를 참조하면, 스테레오 매칭 장치는 기준 픽셀의 변이 값을 도출할 수 있다(S520). Referring again to FIG. 5, the stereo matching apparatus may derive a variation value of a reference pixel (S520).

모든 탐색 대상 블록에 대해 상관도가 구해지면, 스테레오 매칭 장치는 상관도 값이 가장 높은 탐색 대상 블록의 중심에 존재하는 탐색 대상 픽셀을, 기준 픽셀에 대한 매칭 픽셀로 결정할 수 있다. 이 때, 스테레오 매칭 장치는 상기 결정된 매칭 픽셀에 대응되는 변이 값 후보를 기준 픽셀의 변이 값으로 결정할 수 있다.If the degree of correlation is obtained for all the search target blocks, the stereo matching device can determine the search target pixel existing in the center of the search target block having the highest correlation value as the matching pixel for the reference pixel. At this time, the stereo matching apparatus can determine the disparity value candidate corresponding to the determined matching pixel as the disparity value of the reference pixel.

스테레오 매칭 장치는 기준 픽셀의 변이 값을 도출하기 위해, 기준 영상 내의 픽셀 각각에 대해, 모든 변이 값 후보에 대한 상관도 값들을 저장할 수 있다. 그러나, 이 경우 저장되는 데이터 양이 지나치게 클 수 있다. 따라서, 스테레오 매칭 장치는 도 2에서 상술한 바와 같이, 픽셀 클럭마다 기준 픽셀의 모든 변이 값 후보에 대한 상관도를 계산하고, 상기 계산된 상관도에 기반하여 각각의 픽셀 클럭마다 기준 픽셀의 변이 값을 결정할 수도 있다.The stereo matching device may store correlation values for all the variation candidate values for each pixel in the reference image to derive the variation value of the reference pixel. However, in this case, the amount of data to be stored may be excessively large. 2, the stereo matching apparatus calculates a correlation for all the variation candidate values of the reference pixel for each pixel clock, and calculates a variation value of the reference pixel for each pixel clock based on the calculated correlation, .

변이 값이 도출되면, 스테레오 매칭 장치는 도출된 변이 값 및 카메라 파라미터를 기반으로 깊이 정보를 생성할 수 있다(S530). 여기서, 카메라 파라미터에는 카메라의 초점 거리 및 카메라의 베이스라인 거리 등이 있을 수 있다.
Once the disparity value is derived, the stereo matching device may generate depth information based on the derived disparity value and camera parameters (S530). Here, the camera parameters may include the focal length of the camera and the baseline distance of the camera.

도 6은 본 발명의 실시예에 따른 스테레오 매칭 장치의 실시예를 개략적으로 나타내는 블록도이다. 도 6의 실시예에 따른 스테레오 매칭 장치는 변이 값 계산부(610) 및 깊이 정보 계산부(620)를 포함할 수 있다.6 is a block diagram schematically illustrating an embodiment of a stereo matching apparatus according to an embodiment of the present invention. The stereo matching apparatus according to the embodiment of FIG. 6 may include a disparity value calculation unit 610 and a depth information calculation unit 620.

변이 값 계산부(610)는 입력된 좌영상 데이터 및 우영상 데이터를 기반으로 스테레오 영상 내의 각 픽셀에 대한 변이 값을 도출할 수 있다. 일례로, 변이 값 계산부(610)는 기준 픽셀에 대응하는 변이 값 후보 각각에 대한 상관도를 계산할 수 있으며, 상기 계산된 상관도를 기반으로 기준 픽셀의 변이 값을 도출할 수 있다. 변이 값 도출 방법의 구체적인 실시예들은 상술한 바 있으므로, 여기서는 생략하기로 한다.The disparity value calculation unit 610 may derive a disparity value for each pixel in the stereo image based on the inputted left image data and right image data. For example, the variation value calculation unit 610 may calculate a correlation for each of the variation candidate values corresponding to the reference pixel, and derive the variation value of the reference pixel based on the calculated correlation. Since specific embodiments of the deviation value derivation method have been described above, they will not be described here.

깊이 정보 계산부(620)는 도출된 변이 값 및 카메라 파라미터를 기반으로 깊이 정보를 생성할 수 있다. 여기서, 카메라 파라미터에는 카메라의 초점 거리 및 카메라의 베이스라인 거리 등이 있을 수 있다.
The depth information calculation unit 620 can generate depth information based on the derived disparity value and camera parameters. Here, the camera parameters may include the focal length of the camera and the baseline distance of the camera.

본 발명은 동영상 및 정지 영상 모두에 적용될 수 있다. 본 발명에 의하면, 각각의 픽셀 클럭마다 실시간으로 변이 값 및/또는 깊이 정보가 구해질 수 있고, 본 발명에 의한 기능이 하드웨어 로직으로 구현되는 경우, 하드웨어 자원이 적게 사용될 수 있다. 따라서, 스테레오 매칭의 효율 및/또는 성능이 향상될 수 있다.
The present invention can be applied to both moving images and still images. According to the present invention, the mutation value and / or depth information can be obtained in real time for each pixel clock, and when the function according to the present invention is implemented in hardware logic, less hardware resources can be used. Thus, the efficiency and / or performance of stereo matching can be improved.

상술한 실시예에서, 방법들은 일련의 단계 또는 블록으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.In the above-described embodiments, the methods are described on the basis of a flowchart as a series of steps or blocks, but the present invention is not limited to the order of steps, and some steps may occur in different orders or in a different order than the steps described above have. It will also be understood by those skilled in the art that the steps depicted in the flowchart illustrations are not exclusive and that other steps may be included or that one or more steps in the flowchart may be deleted without affecting the scope of the invention You will understand.

상술한 실시예는 다양한 양태의 예시들을 포함한다. 다양한 양태들을 나타내기 위한 모든 가능한 조합을 기술할 수는 없지만, 해당 기술 분야의 통상의 지식을 가진 자는 다른 조합이 가능함을 인식할 수 있을 것이다. 따라서, 본 발명은 이하의 특허청구범위 내에 속하는 모든 다른 교체, 수정 및 변경을 포함한다고 할 것이다.The above-described embodiments include examples of various aspects. While it is not possible to describe every possible combination for expressing various aspects, one of ordinary skill in the art will recognize that other combinations are possible. Accordingly, it is intended that the invention include all alternatives, modifications and variations that fall within the scope of the following claims.

Claims (10)

최대 변이(disparity) 값을 기반으로, 기준 영상 내의 기준 블록에 대응하는 탐색 대상 영상 내의 복수의 탐색 대상 블록을 결정하는 단계;
상기 복수의 탐색 대상 블록 각각에 대해, 상기 기준 블록과의 블록 단위 상관도 값을 도출하는 단계;
상기 블록 단위 상관도 값 중에서 최대 상관도 값을 결정하고, 상기 최대 상관도 값에 대응하는 탐색 대상 픽셀을 기준 픽셀에 대한 매칭 픽셀로 결정하는 단계; 및
상기 매칭 픽셀에 대응하는 변이 값을 상기 기준 픽셀의 변이 값으로 결정하는 단계를 포함하되,
상기 블록 단위 상관도 값을 도출하는 단계는:
상기 복수의 탐색 대상 블록 각각에 포함된 모든 픽셀들과 상기 기준 블록에 포함된 모든 픽셀들의 차이의 절대값들을 도출하는 단계;
상기 절대값들을 더해 상기 복수의 탐색 대상 블록 각각의 상기 상관도 값을 도출하는 단계; 및
상기 복수의 탐색 대상 블록 각각에 포함된 중심 픽셀들과 상기 기준 블록에 포함된 중심 픽셀들의 차이의 절대값들을 도출하여, 상기 복수의 탐색 대상 블록 각각에 대해, 픽셀 단위 상관도 값을 도출하는 단계를 포함하는 스테레오 매칭 방법.
Determining a plurality of search target blocks in a search target image corresponding to a reference block in a reference image based on a maximum disparity value;
Deriving a block unit correlation value with the reference block for each of the plurality of search target blocks;
Determining a maximum correlation value among the block-based correlation values, and determining a search target pixel corresponding to the maximum correlation value as a matching pixel for a reference pixel; And
And determining a variation value corresponding to the matching pixel as a variation value of the reference pixel,
Wherein deriving the blockwise correlation value comprises:
Deriving absolute values of differences between all pixels included in each of the plurality of search object blocks and all pixels included in the reference block;
Adding the absolute values to derive the correlation value of each of the plurality of search target blocks; And
Deriving absolute values of differences between center pixels included in each of the plurality of search object blocks and center pixels included in the reference block and deriving a pixel unit correlation value for each of the plurality of search object blocks; ≪ / RTI >
삭제delete 삭제delete 제 1 항에 있어서,
상기 블록 단위 상관도 값 및 상기 픽셀 단위 상관도 값의 가중치 합에 의해 상기 최대 상관도 값을 결정하는 스테레오 매칭 방법.
The method according to claim 1,
Wherein the maximum correlation value is determined by summing a weighted sum of the block-based correlation value and the pixel-based correlation value.
제 1 항에 있어서,
각각의 픽셀 클럭에서 상기 블록 단위 상관도 값 중에서 최대 상관도 값을 결정하는 스테레오 매칭 방법.
The method according to claim 1,
And determining a maximum correlation value among the block-based correlation values at each pixel clock.
최대 변이(disparity) 값을 기반으로, 기준 영상 내의 기준 블록에 대응하는 탐색 대상 영상 내의 복수의 탐색 대상 블록을 결정하는 단계;
상기 복수의 탐색 대상 블록 각각에 대해, 상기 기준 블록과의 블록 단위 상관도 값을 도출하는 단계;
상기 블록 단위 상관도 값 중에서 최대 상관도 값을 결정하고, 상기 최대 상관도 값에 대응하는 탐색 대상 픽셀을 기준 픽셀에 대한 매칭 픽셀로 결정하는 단계; 및
상기 매칭 픽셀에 대응하는 변이 값을 상기 기준 픽셀의 변이 값으로 결정하는 단계를 포함하되,
상기 블록 단위 상관도 값을 도출하는 단계는:
상기 기준 블록에 대한 제 1 서브 블록 및 상기 복수의 탐색 대상 블록 각각에 대한 제 2 서브 블록을 결정하고, 상기 제 2 서브 블록 각각에 대해 상기 제 1 서브 블록과의 부분(partial) 상관도 값을 도출하는 단계; 및
상기 도출된 부분 상관도 값에 대한 이동합(running sum)을 수행하는 단계를 포함하는 스테레오 매칭 방법.
Determining a plurality of search target blocks in a search target image corresponding to a reference block in a reference image based on a maximum disparity value;
Deriving a block unit correlation value with the reference block for each of the plurality of search target blocks;
Determining a maximum correlation value among the block-based correlation values, and determining a search target pixel corresponding to the maximum correlation value as a matching pixel for a reference pixel; And
And determining a variation value corresponding to the matching pixel as a variation value of the reference pixel,
Wherein deriving the blockwise correlation value comprises:
A first sub-block for the reference block and a second sub-block for each of the plurality of search target blocks are determined, and a partial correlation degree value with respect to the first sub-block is determined for each of the second sub- ; And
And performing a running sum on the derived partial correlation values.
제 6 항에 있어서
상기 제 1 서브 블록 및 상기 제 2 서브 블록은 각각 하나의 컬럼(column)인 스테레오 매칭 방법.
The method of claim 6, wherein
Wherein the first sub-block and the second sub-block are each a column.
제 6 항에 있어서,
상기 매칭 픽셀은 상기 최대 상관도 값을 갖는 탐색 대상 블록의 중심에 존재하는 탐색 대상 픽셀인 스테레오 매칭 방법.
The method according to claim 6,
Wherein the matching pixel is a search target pixel located at the center of the search target block having the maximum correlation value.
제 6 항에 있어서,
상기 결정된 변이 값 및 카메라 파라미터를 기반으로 깊이 정보를 생성하는 단계를 더 포함하는 스테레오 매칭 방법.
The method according to claim 6,
And generating depth information based on the determined variation value and the camera parameter.
제 9 항에 있어서,
상기 카메라 파라미터는 카메라의 초점 거리 및 카메라의 베이스라인 거리를 포함하는 스테레오 매칭 방법.
10. The method of claim 9,
Wherein the camera parameters include a focal length of the camera and a baseline distance of the camera.
KR1020120049304A 2011-05-09 2012-05-09 Method for stereo matching and apparatus thereof Expired - Fee Related KR101868017B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20110043269 2011-05-09
KR1020110043269 2011-05-09

Publications (2)

Publication Number Publication Date
KR20120125970A KR20120125970A (en) 2012-11-19
KR101868017B1 true KR101868017B1 (en) 2018-06-18

Family

ID=47511446

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120049304A Expired - Fee Related KR101868017B1 (en) 2011-05-09 2012-05-09 Method for stereo matching and apparatus thereof

Country Status (1)

Country Link
KR (1) KR101868017B1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150107267A (en) * 2014-03-13 2015-09-23 한국전자통신연구원 Method and apparatus for matching stereo
CN115100018A (en) 2015-06-10 2022-09-23 无比视视觉技术有限公司 Image processor and method for processing images
CN112765390A (en) * 2019-10-21 2021-05-07 南京深视光点科技有限公司 Stereo matching method with double search intervals
CN113570646B (en) * 2021-07-28 2024-03-08 南京物间科技有限公司 ZSAD-Census-based rapid stereo matching method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001092968A (en) * 1999-09-22 2001-04-06 Fuji Heavy Ind Ltd Stereo matching device, stereo matching method, and method of identifying corresponding point at infinity
JP2002267441A (en) * 2001-03-07 2002-09-18 Fuji Heavy Ind Ltd Stereo matching method and monitoring device
KR20100066914A (en) * 2008-12-10 2010-06-18 한국전자통신연구원 Apparatus and method for matching image
JP2010139288A (en) * 2008-12-10 2010-06-24 Konica Minolta Holdings Inc Stereo camera unit and stereo matching method

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100899422B1 (en) * 2007-08-06 2009-05-27 삼성모바일디스플레이주식회사 Stereo Matching System and Stereo Matching Method Using the Same

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001092968A (en) * 1999-09-22 2001-04-06 Fuji Heavy Ind Ltd Stereo matching device, stereo matching method, and method of identifying corresponding point at infinity
JP2002267441A (en) * 2001-03-07 2002-09-18 Fuji Heavy Ind Ltd Stereo matching method and monitoring device
KR20100066914A (en) * 2008-12-10 2010-06-18 한국전자통신연구원 Apparatus and method for matching image
JP2010139288A (en) * 2008-12-10 2010-06-24 Konica Minolta Holdings Inc Stereo camera unit and stereo matching method

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
엄기문 외 2명, "변이 기반 비대칭 필터링의 양안식 스테레오 비디오에서의 시각피로에 미치는 영향 고찰", 한국방송공학회(2003) *

Also Published As

Publication number Publication date
KR20120125970A (en) 2012-11-19

Similar Documents

Publication Publication Date Title
CN101933335A (en) Method and system for converting two-dimensional image data into stereoscopic image data
US20090129667A1 (en) Device and method for estimatiming depth map, and method for generating intermediate image and method for encoding multi-view video using the same
KR20160062571A (en) Image processing method and apparatus thereof
JP6655379B2 (en) Method and apparatus for generating an adaptive slice image from a focus stack
US9661307B1 (en) Depth map generation using motion cues for conversion of monoscopic visual content to stereoscopic 3D
CN102326394B (en) Image processing method and device
JP5533529B2 (en) Image processing apparatus and image processing system
KR101868017B1 (en) Method for stereo matching and apparatus thereof
KR100793076B1 (en) Edge-adaptive stereo / multipoint image matching device and method thereof
KR100943635B1 (en) Method and apparatus for generating disparity map using digital camera image
CN103679739A (en) Virtual view generating method based on shielding region detection
KR100745691B1 (en) Binocular or multi-view stereo matching apparatus and its method using occlusion area detection
CN104284193A (en) Encoding device and encoding method, and decoding device and decoding method
CN103139588A (en) Supplementary information coding apparatus and method for 3D video
CN102111637A (en) Stereoscopic video depth map generation method and device
JP4944046B2 (en) Video encoding method, decoding method, encoding device, decoding device, program thereof, and computer-readable recording medium
KR20160085708A (en) Method and apparatus for generating superpixels for multi-view images
KR101233399B1 (en) Method and apparatus for generating multi-view depth map
US9380285B2 (en) Stereo image processing method, stereo image processing device and display device
EP2786344B1 (en) Hybrid recursive analysis of spatio-temporal objects
KR102469228B1 (en) Apparatus and method for generating virtual viewpoint image
US10580210B2 (en) Method and device for refocusing at least one plenoptic video
Liao et al. Stereo matching and viewpoint synthesis FPGA implementation
Lin et al. Sprite generation for hole filling in depth image-based rendering
Guo et al. Hole-filling map-based coding unit size decision for dependent views in three-dimensional high-efficiency video coding

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

R17-X000 Change to representative recorded

St.27 status event code: A-3-3-R10-R17-oth-X000

PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

R17-X000 Change to representative recorded

St.27 status event code: A-3-3-R10-R17-oth-X000

A201 Request for examination
P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20220609

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20220609