KR102017949B1 - Apparatus and method for calibrating camera using rectangular parallelepiped with led - Google Patents
Apparatus and method for calibrating camera using rectangular parallelepiped with led Download PDFInfo
- Publication number
- KR102017949B1 KR102017949B1 KR1020170147293A KR20170147293A KR102017949B1 KR 102017949 B1 KR102017949 B1 KR 102017949B1 KR 1020170147293 A KR1020170147293 A KR 1020170147293A KR 20170147293 A KR20170147293 A KR 20170147293A KR 102017949 B1 KR102017949 B1 KR 102017949B1
- Authority
- KR
- South Korea
- Prior art keywords
- light emitting
- image
- emitting member
- calibration
- emitting members
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 65
- 238000001914 filtration Methods 0.000 claims description 22
- 239000011159 matrix material Substances 0.000 claims description 22
- 238000000605 extraction Methods 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 9
- 230000015572 biosynthetic process Effects 0.000 claims description 8
- 238000001514 detection method Methods 0.000 claims description 5
- 238000009499 grossing Methods 0.000 claims description 5
- 238000003384 imaging method Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 13
- 230000003190 augmentative effect Effects 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 2
- 241001290864 Schoenoplectus Species 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F21—LIGHTING
- F21V—FUNCTIONAL FEATURES OR DETAILS OF LIGHTING DEVICES OR SYSTEMS THEREOF; STRUCTURAL COMBINATIONS OF LIGHTING DEVICES WITH OTHER ARTICLES, NOT OTHERWISE PROVIDED FOR
- F21V33/00—Structural combinations of lighting devices with other articles, not otherwise provided for
- F21V33/0004—Personal or domestic articles
- F21V33/0052—Audio or video equipment, e.g. televisions, telephones, cameras or computers; Remote control devices therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F21—LIGHTING
- F21Y—INDEXING SCHEME ASSOCIATED WITH SUBCLASSES F21K, F21L, F21S and F21V, RELATING TO THE FORM OR THE KIND OF THE LIGHT SOURCES OR OF THE COLOUR OF THE LIGHT EMITTED
- F21Y2115/00—Light-generating elements of semiconductor light sources
- F21Y2115/10—Light-emitting diodes [LED]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
Abstract
본 발명은 카메라의 캘리브레이션을 수행하는 캘리브레이션 장치에 관한 것이다. 일 실시 예에 따른 캘리브레이션 장치는, 직육면체 형상의 몸체를 가지는 참조 물체와; 카메라가 상기 참조 물체를 촬상한 이미지를 이용하여 상기 카메라의 캘리브레이션을 수행하는 캘리브레이션 유닛을 포함한다.The present invention relates to a calibration device that performs calibration of a camera. According to one or more exemplary embodiments, a calibration device includes: a reference object having a body having a rectangular parallelepiped shape; And a calibration unit configured to perform calibration of the camera using an image of the camera photographing the reference object.
Description
본 발명은 발광 다이오드가 설치된 직육면체를 이용한 카메라의 캘리브레이션 장치 및 방법에 관한 것이다.The present invention relates to a calibration apparatus and method for a camera using a rectangular parallelepiped with a light emitting diode.
인간이 실제 눈으로 보는 세상은 3차원이다. 하지만 이것을 카메라로 촬상하면 2차원의 이미지로 변환된다. 이 때, 3차원 세계의 각 점들이 2차원의 이미지 상에서 어느 위치에 위치되는지는 기하학적으로 고려할 때 이미지를 찍을 당시의 카메라의 위치 및 방향에 의해 결정된다. 하지만 실제 이미지는 사용된 렌즈, 렌즈와 이미지 센서와의 거리 및 렌즈와 이미지 센서가 이루는 각 등 카메라 내부의 기구적인 부분에 의해서 크게 영향을 받는다. 따라서, 3차원 세계의 각 점들이 2차원 이미지 상에 투영된 위치를 구하거나 역으로 2차원 이미지 상의 좌표로부터 3차원 공간 좌표를 복원할 때에는 이러한 내부 요인을 제거해야 정확한 계산이 가능하다. 카메라의 내부 구성 정보는 고가의 카메라 외에는 명시적으로 알려져 있지 않고, 외부 구성 정보도 특별한 경우를 제외하고는 측정하기 어렵다. 이러한 내부 요인 및 외부 요인의 파라미터 값을 구하는 과정을 카메라 캘리브레이션이라 한다. The world that humans see with real eyes is three-dimensional. However, when this is captured by a camera, it is converted into a two-dimensional image. At this time, the position of each point in the three-dimensional world is located on the two-dimensional image is determined by the position and orientation of the camera at the time of taking the image in consideration of the geometric. However, the actual image is greatly influenced by mechanical parts inside the camera such as the lens used, the distance between the lens and the image sensor, and the angle between the lens and the image sensor. Therefore, when calculating the position where each point of the three-dimensional world is projected on the two-dimensional image or conversely restoring the three-dimensional spatial coordinates from the coordinates on the two-dimensional image, it is necessary to remove these internal factors to enable accurate calculation. Internal configuration information of the camera is not explicitly known except for expensive cameras, and external configuration information is difficult to measure except in special cases. The process of obtaining parameter values of these internal and external factors is called camera calibration.
이는 컴퓨터 비젼 분야에서 주요한 기술 사안이며, 최근 관심이 증가되고 있는 증강현실(AR: Augmented reality)을 위한 핵심 요소 기술이다. 증강현실은 실세계 영상에 3차원의 가상물체를 정확하게 겹쳐 보이도록 해야 하므로 실세계의 3D 공간좌표와 카메라로 획득한 2D 영상의 좌표 사이의 변환 관계를 설명할 수 있는 캘리브레이션이 선행되어야 한다. 실세계에 적용해야하므로 증강현실에 적합한 캘리브레이션은 실세계의 조명 변화 등의 환경 변화에 의한 영향이 최소화되어야 한다.This is a major technology issue in the field of computer vision, and a key element for Augmented Reality (AR), which is of increasing interest in recent years. Since augmented reality has to accurately superimpose a three-dimensional virtual object on a real world image, a calibration that can explain a transformation relationship between real world 3D spatial coordinates and coordinates of a 2D image acquired by a camera must be preceded. Since it should be applied to the real world, the calibration suitable for augmented reality should minimize the effects of environmental changes such as changes in lighting in the real world.
카메라 캘리브레이션 기법으로서 다양한 기법들이 제안되었는데, 주로 정밀하게 미리 구성된 3차원 물체(calibration object)에 대한 단일 이미지를 사용하거나, 크기가 알려진 체커보드(checker board)에 대한 복수의 이미지를 사용한다. 그러나 일반적인 3차원 물체를 이용한 캘리브레이션 기법은 3차원 물체의 제조의 어려움 및 고가의 장비가 요구되는 문제점이 있다. 또한, 체커보드 등을 이용하는 일반적인 2차원 물체를 이용하는 캘리브레이션 기법은 어두운 환경에서는 흰색과 검정색의 대조가 어려워 흰색과 검정색 영역 간의 교차점을 정밀하게 추출하기 어려우며 하나의 카메라에 대해 복수개의 이미지가 요구된다.Various techniques have been proposed as camera calibration techniques, mainly using a single image of a precisely pre-configured calibration object or multiple images of a checker board of known size. However, a calibration technique using a general three-dimensional object has a problem of difficulty in manufacturing a three-dimensional object and expensive equipment. In addition, the calibration technique using a general two-dimensional object using a checker board or the like is difficult to contrast the white and the black region in a dark environment, it is difficult to accurately extract the intersection between the white and black areas, and a plurality of images are required for one camera.
본 발명은 촬영 대상 물체의 제조가 용이한 캘리브레이션 장치 및 방법을 제공하기 위한 것이다.The present invention is to provide a calibration device and method that is easy to manufacture an object to be photographed.
또한, 본 발명은 조명 환경의 영향을 최소화할 수 있는 캘리브레이션 장치 및 방법을 제공하기 위한 것이다.It is also an object of the present invention to provide a calibration apparatus and method capable of minimizing the influence of the lighting environment.
또한, 본 발명은 요구되는 이미지의 수를 최소화할 수 있는 캘리브레이션 장치 및 방법을 제공하기 위한 것이다.It is also an object of the present invention to provide a calibration apparatus and method capable of minimizing the number of images required.
본 발명이 해결하고자 하는 과제는 여기에 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The problem to be solved by the present invention is not limited thereto, and other problems not mentioned will be clearly understood by those skilled in the art from the following description.
본 발명은 카메라의 캘리브레이션을 수행하는 캘리브레이션 장치를 제공한다. 일 실시 예에 따르면, 캘리브레이션 장치는, 직육면체 형상의 몸체를 가지는 참조 물체와; 카메라가 상기 참조 물체를 촬상한 이미지를 이용하여 상기 카메라의 캘리브레이션을 수행하는 캘리브레이션 유닛을 포함한다.The present invention provides a calibration device for performing the calibration of the camera. According to one embodiment, the calibration device includes: a reference object having a body having a rectangular parallelepiped shape; And a calibration unit configured to perform calibration of the camera using an image of the camera photographing the reference object.
상기 참조 물체는, 상기 몸체의 각 꼭지점에 제공되고 빛을 발생시키는 발광 부재를 더 포함할 수 있다.The reference object may further include a light emitting member provided at each vertex of the body and generating light.
상기 발광 부재는 확산형 발광다이오드(Diffused LED)로 제공될 수 있다.The light emitting member may be provided as a diffused light emitting diode (Diffused LED).
상기 캘리브레이션 유닛은, 상기 이미지 상의 발광 부재의 위치를 검출하는 발광 부재 위치 검출부와; 상기 이미지 상에서 상기 발광 부재 위치 검출부에서 위치가 파악된 발광 부재를 서로 연결하여 사각형을 형성하는 사각형 형성부와; 사각형 기반 캘리브레이션 기법을 이용하여 상기 사각형 형성부에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구하는 행렬 계산부를 포함할 수 있다.The calibration unit includes a light emitting member position detector for detecting a position of the light emitting member on the image; A quadrangle forming unit configured to form a quadrangle by connecting the light emitting members whose position is detected by the light emitting member position detector on the image; It may include a matrix calculator for obtaining a calibration matrix for each rectangle formed in the rectangle forming unit using a rectangle-based calibration technique.
상기 발광 부재 위치 검출부는, 상기 이미지 상의 노이즈(Noise)를 필터링하는 필터링부와; 상기 필터링부에서 필터링이 수행된 상기 이미지 상의 발광 부재의 중심부의 위치를 도출하는 발광 부재 중심부 추출부를 포함할 수 있다.The light emitting member position detector may include a filtering unit to filter noise on the image; The filtering unit may include a light emitting member center extracting unit for deriving a position of the center of the light emitting member on the image on which the filtering is performed.
상기 필터링부는 가우시안 스무딩 필터링 기법을 이용하여 상기 이미지 상의 노이즈(Noise)를 필터링하고, 상기 발광 부재 중심부 추출부는 이진화(Thresholding) 기법을 이용하여 상기 필터링부에서 필터링이 수행된 상기 이미지 상의 발광 부재의 중심부의 위치를 도출할 수 있다.The filtering unit filters the noise on the image using a Gaussian smoothing filtering technique, and the light emitting member center extracting unit filters the noise of the light emitting member on the image, which is filtered by the filtering unit using a binarization technique. The position of can be derived.
상기 사각형 형성부는, 상기 발광 부재 위치 검출부에서 위치가 검출된 상기 이미지 상의 발광 부재 중 각 방향의 최 외곽에 위치된 외곽 발광 부재를 서로 연결하여 다각형을 형성하는 다각형 형성부를 포함할 수 있다.The quadrangle forming unit may include a polygonal forming unit which connects the outer light emitting members positioned at the outermost sides of the light emitting members on the image detected by the light emitting member position detecting unit to form polygons.
상기 다각형 형성부는, 상기 외곽 발광 부재를 순차적으로 서로 연결하되 상기 외곽 발광 부재 중 시작점이 된 외곽 발광 부재가 끝점이 되도록 연결하여 폐곡선을 형성하는 폐곡선 형성 및 상기 폐곡선이 콘벡스(Convex)인지 여부를 판단하는 콘벡시티 판단을 수행하고, 상기 폐곡선 형성 및 상기 콘벡시티 판단을 상기 외곽 발광 부재의 외곽 발광 부재의 연결 순서를 변경하며 수행하되, 상기 폐곡선 중 콘벡스로 판단된 폐곡선을 상기 다각형으로 결정할 수 있다.The polygonal forming unit connects the outer light emitting members sequentially, but forms a closed curve by forming the closed curve by connecting the outer light emitting member which is the starting point of the outer light emitting member to an end point, and whether the closed curve is a convex. The convexity determination may be performed, and the closed curve formation and the convexity determination may be performed by changing a connection order of the outer light emitting member of the outer light emitting member, and the closed curve determined as convex among the closed curves may be determined as the polygon. have.
상기 사각형 형성부는, 상기 이미지 상의 상기 발광 부재의 수를 판단하는 발광 부재 수 판단부와; 상기 다각형의 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서, 상기 변 중 둘 이상의 변과 소실점을 공유하는 선분을 내부 선분으로 추출하는 내부 선분 추출부를 더 포함할 수 있다.The quadrangle forming unit may include a light emitting member number determining unit configured to determine the number of the light emitting members on the image; In addition to the sides of the polygon may further include an internal line segment extraction unit for extracting a line segment sharing a vanishing point with two or more of the sides of the light emitting member connecting the two light emitting members of the side as an internal segment.
상기 내부 선분 추출부는, 상기 이미지 상의 발광 부재의 수가 4개인 경우에는 상기 내부 선분의 추출을 수행하지 않고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 3개인 경우에는 상기 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 7개인 경우에는 상기 다각형 내의 발광 부재와 상기 외곽 발광 부재 중 하나를 연결하는 선분들 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출할 수 있다.The internal line segment extracting unit does not perform the extraction of the internal line segment when the number of light emitting members on the image is four, and when the number of light emitting members on the image is six and the vanishing point is three, two of the light emitting members are used. Of the light emitting members in the polygon and the outer light emitting members when the number of light emitting members on the image is 7 Among the line segments connecting one, a line segment sharing a vanishing point with two or more of the sides may be extracted as the internal line segment.
상기 내부 선분 추출부는, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 2개인 경우에는 각각의 상기 소실점을 공유하는 변들이 서로 교차하는 2개의 발광 부재를 연결한 선분을 상기 내부 선분으로 추출할 수 있다.When the number of light emitting members on the image is six and the number of vanishing points is two, the internal line extracting unit may extract, as the internal line segments, a line segment connecting two light emitting members whose sides sharing each vanishing point cross each other. .
또한, 본 발명은 카메라의 캘리브레이션을 수행하는 캘리브레이션 방법을 제공한다. 일 실시 예에 따르면, 캘리브레이션 방법은, 카메라로 직육면체 형상의 참조 물체를 촬상하고, 상기 카메라가 촬상한 상기 참조 물체의 이미지를 이용하여 상기 카메라의 캘리브레이션을 수행하되, 상기 참조 물체의 각 꼭지점에는 빛을 발생시키는 발광 부재가 제공된다.In addition, the present invention provides a calibration method for performing the calibration of the camera. According to an embodiment, the calibration method may include photographing a reference object having a rectangular parallelepiped shape with a camera and performing calibration of the camera using an image of the reference object captured by the camera, wherein each vertex of the reference object has light. A light emitting member for generating light is provided.
상기 발광 부재는 확산형 발광다이오드(Diffused LED)로 제공될 수 있다.The light emitting member may be provided as a diffused light emitting diode (Diffused LED).
상기 캘리브레이션 방법은, 상기 이미지 상의 발광 부재의 위치를 검출하는 발광 부재 위치 검출 단계와; 이후, 상기 이미지 상의 발광 부재를 서로 연결하여 사각형을 형성하는 사각형 형성 단계와; 이후, 사각형 기반 캘리브레이션 기법을 이용하여 상기 사각형 형성 단계에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구하는 행렬 계산 단계를 포함할 수 있다.The calibration method comprises the steps of: detecting a position of a light emitting member on the image; Thereafter, forming a quadrangle by connecting the light emitting members on the image to each other; Subsequently, the method may include a matrix calculation step of obtaining a calibration matrix for each quadrangle formed in the quadrangle forming step by using a square-based calibration technique.
상기 발광 부재 위치 검출 단계에서는, 가우시안 스무딩 필터링 기법을 이용하여 상기 이미지 상의 노이즈를 필터링하고, 상기 필터링이 완료된 상기 이미지 상의 발광 부재의 중심부의 위치를 이진화(Thresholding) 기법을 이용하여 도출할 수 있다.In the light emitting member position detection step, the noise on the image may be filtered using a Gaussian smoothing filtering technique, and the position of the central portion of the light emitting member on the filtered image may be derived by using a thresholding technique.
상기 사각형 형성 단계에서는, 상기 발광 부재 위치 검출부에서 위치가 검출된 상기 이미지 상의 발광 부재 중 각 방향의 최 외곽에 위치된 외곽 발광 부재를 서로 연결하여 다각형을 형성하는 다각형 형성 단계를 포함하고, 상기 다각형 형성 단계는 상기 외곽 발광 부재를 순차적으로 서로 연결하되 상기 외곽 발광 부재 중 시작점이 된 외곽 발광 부재가 끝점이 되도록 연결하여 폐곡선을 형성하는 폐곡선 형성 및 상기 폐곡선이 콘벡스(Convex)인지 여부를 판단하는 콘벡시티 판단을 수행하고, 상기 폐곡선 형성 및 상기 콘벡시티 판단을 상기 외곽 발광 부재의 외곽 발광 부재의 연결 순서를 변경하며 수행하되, 상기 폐곡선 중 콘벡스로 판단된 폐곡선을 상기 다각형으로 결정할 수 있다.In the quadrangle forming step, a polygon forming step of forming a polygon by connecting the outer light emitting members positioned in the outermost part of each direction among the light emitting members on the image where the position is detected by the light emitting member position detection unit to each other, the polygon In the forming step, the outer light emitting members are sequentially connected to each other, but a closed curve is formed to form a closed curve by connecting the outer light emitting member which is a starting point among the outer light emitting members to an end point, and determining whether the closed curve is a convex. A convexity determination may be performed, and the closed curve formation and the convexity determination may be performed by changing a connection order of the outer light emitting member of the outer light emitting member, and the closed curve determined as convex among the closed curves may be determined as the polygon.
상기 사각형 형성 단계는, 상기 이미지 상의 상기 발광 부재의 수를 판단하는 발광 부재 수 판단 단계와; 상기 발광 부재 수 판단 단계 및 상기 다각형 형성 단계 이후에, 상기 다각형의 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서, 상기 변 중 둘 이상의 변과 소실점을 공유하는 선분을 내부 선분으로 추출하는 내부 선분 추출 단계를 더 포함하되, 상기 내부 선분 추출 단계에서는, 상기 이미지 상의 발광 부재의 수가 4개인 경우에는 상기 내부 선분의 추출을 수행하지 않고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 2개인 경우에는 각각의 상기 소실점을 공유하는 변들이 서로 교차하는 2개의 발광 부재를 연결한 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 3개인 경우에는 상기 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 7개인 경우에는 상기 다각형 내의 발광 부재와 상기 외곽 발광 부재 중 하나를 연결하는 선분들 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출할 수 있다.The quadrangle forming step may include: determining a number of light emitting members on the light emitting member; After the step of determining the number of light emitting members and forming the polygon, the line segment sharing the vanishing point with at least two sides of the light emitting member among the line segments connecting two light emitting members of the light emitting member in addition to the sides of the polygon is extracted as an internal line segment. The method may further include extracting an internal line segment, wherein, in the extracting of the internal line segment, if the number of light emitting members on the image is four, the extraction of the internal line segment is not performed and the number of light emitting members on the image is six and the vanishing point is two. In the individual case, a line segment connecting two light emitting members intersecting each other with the vanishing point is extracted as the internal line segment, and when the number of light emitting members on the image is six and the vanishing point is three, Two or more of the sides of a line segment connecting two light emitting members of the light emitting member A line segment that shares a true point is extracted as the inner line segment, and when the number of light emitting members on the image is seven, two or more of the sides and a vanishing point among the line segments connecting one of the light emitting member and the outer light emitting member in the polygon. A line segment that shares a may be extracted as the internal line segment.
본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 촬영 대상 물체의 제조가 용이하다.The calibration apparatus and method according to an embodiment of the present invention makes it easy to manufacture an object to be photographed.
또한, 본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 조명 환경의 영향을 최소화할 수 있다.In addition, the calibration apparatus and method according to an embodiment of the present invention can minimize the influence of the lighting environment.
또한, 본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 요구되는 이미지의 수를 최소화할 수 있다.In addition, the calibration apparatus and method according to an embodiment of the present invention can minimize the number of images required.
도 1은 본 발명의 일 실시 예에 따른 캘리브레이션 장치를 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시 예에 따른 캘리브레이션 방법을 나타낸 순서도이다.
도 3은 도 1의 다각형 형성부에서 콘덱스가 안닌 것으로 판단된 폐곡선의 일 예를 나타낸 도면이다.
도 4는 도 1의 다각형 형성부에서 콘덱스인 것으로 판단된 폐곡선의 일 예를 나타낸 도면이다.
도 5는 이미지 상에 나타난 발광 부재가 6개이고 소실점이 3개인 경우 소실점을 공유하지 않는 선분의 일 예를 나타낸 도면이다.
도 6은 이미지 상에 나타난 발광 부재가 6개이고 소실점이 3개인 경우 다각형의 2개 이상의 변과 소실점을 공유하는 선분을 나타낸 도면이다.
도 7은 이미지 상에 나타난 발광 부재가 6개이고 소실점이 2개인 경우 하나의 소실점을 공유하는 변과 다른 하나의 소실점을 공유하는 변이 교차되는 2개의 발광 부재를 연결한 선분을 나타낸 도면이다.
도 8은 이미지 상에 나타난 발광 부재가 7개인 경우 소실점을 공유하지 않는 선분의 일 예를 나타낸 도면이다.
도 9는 이미지 상에 나타난 발광 부재가 6개인 경우 다각형의 2개 이상의 변과 소실점을 공유하는 선분을 나타낸 도면이다.1 is a view schematically showing a calibration device according to an embodiment of the present invention.
2 is a flowchart illustrating a calibration method according to an embodiment of the present invention.
FIG. 3 is a diagram illustrating an example of a closed curve determined to be non-condex in the polygon forming unit of FIG. 1.
FIG. 4 is a diagram illustrating an example of a closed curve determined to be a condex in the polygon forming unit of FIG. 1.
5 is a diagram illustrating an example of a line segment not sharing a vanishing point when there are six light emitting members and three vanishing points appearing on an image.
6 is a diagram illustrating a line segment sharing a vanishing point with two or more sides of a polygon when six light emitting members and three vanishing points appear on an image.
FIG. 7 is a diagram illustrating a line segment connecting two light emitting members in which a side sharing one vanishing point and a side sharing another vanishing point cross each other when there are six light emitting members and two vanishing points appearing on the image.
8 is a diagram illustrating an example of a line segment not sharing a vanishing point when there are seven light emitting members displayed on an image.
9 is a diagram illustrating a line segment sharing vanishing points with two or more sides of a polygon when six light emitting members are displayed on an image.
이하, 본 발명의 실시 예를 첨부된 도면들을 참조하여 더욱 상세하게 설명한다. 본 발명의 실시 예는 여러 가지 형태로 변형할 수 있으며, 본 발명의 범위가 아래의 실시 예들로 한정되는 것으로 해석되어서는 안 된다. 본 실시 예는 당업계에서 평균적인 지식을 가진 자에게 본 발명을 더욱 완전하게 설명하기 위해 제공되는 것이다. 따라서 도면에서의 요소의 형상은 보다 명확한 설명을 강조하기 위해 과장되었다.Hereinafter, embodiments of the present invention will be described in more detail with reference to the accompanying drawings. The embodiments of the present invention can be modified in various forms, and the scope of the present invention should not be construed as being limited to the following embodiments. This embodiment is provided to more completely explain the present invention to those skilled in the art. Therefore, the shape of the elements in the drawings are exaggerated to emphasize a more clear description.
도 1은 본 발명의 일 실시 예에 따른 캘리브레이션 장치(100)를 개략적으로 도시한 도면이다. 도 1을 참조하면, 캘리브레이션 장치(100)는 카메라(200)에 대한 캘리브레이션을 수행한다. 일 실시 예에 따르면, 캘리브레이션 장치(100)는 참조 물체(1000), 캘리브레이션 유닛(2000)을 포함한다.1 is a view schematically showing a
참조 물체(1000)는 몸체(1100) 및 발광 부재(1200)를 포함한다. 몸체(1100)는 직육면체 형상으로 제공된다. 일 실시 예에 따르면, 몸체(1100)는 정육면체 형상으로 제공된다. 몸체(1100)가 각 면이 사각형 형상을 가지는 직육면체 형상으로 제공됨으로써, 참조 물체(1000)를 촬상한 이미지를 이용하여 CLC(Coupled line cameras) 기법 또는 IAC(Image of absolute conic) 기법 등의 사각형 기반 캘리브레이션 기법을 적용할 수 있다. The
발광 부재(1200)는 이하 설명될 캘리브레이션을 수행을 위해 카메라(200)를 이용하여 참조 물체(1000)의 촬상 시 빛을 발생시킨다. 발광 부재(1200)는 몸체(1100)의 각 꼭지점에 제공된다. 따라서, 참조 물체(1000)의 촬상시 조명의 밝기의 영향을 최소화할 수 있어 이미지 상에서 몸체(1100)의 각 꼭지점을 인식하는 것이 용이하다. 일 실시 예에 따르면, 발광 부재(1200)는 확산형 발광다이오드(Diffused LED)로 제공된다. 따라서, 발광 부재(1200)의 빛이 일 방향에 집중되지 않으므로, 몸체(1000)의 꼭지점 중 카메라(200)에 노출되는 방향에 위치되는 꼭지점에 위치된 발광 부재(1200)의 인식이 각 발광 부재(1200)와 카메라(200) 간의 상대 위치와 무관하게 용이하다.The
캘리브레이션 유닛(2000)은 카메라(200)가 참조 물체(1000)를 촬상한 이미지를 이용하여 카메라(200)의 캘리브레이션을 수행한다. 일 실시 예에 따르면, 캘리브레이션 유닛(2000)은 발광 부재 위치 검출부(2100), 사각형 형성부(2200) 및 행렬 계산부(2300)를 포함한다. The
발광 부재 위치 검출부(2100)는 카메라(200)가 참조 물체(1000)를 촬상한 이미지 상의 발광 부재(1200)의 위치를 검출한다. 일 실시 예에 따르면, 발광 부재 위치 검출부(2100)는 필터링부(2110) 및 발광 부재 중심부 추출부(2120)를 포함한다.The light emitting
필터링부(2110)는 카메라(200)가 참조 물체(1000)를 촬상한 이미지 상의 노이즈(Noise)를 필터링한다. The
발광 부재 중심부 추출부(2120)는 필터링부(2110)에서 필터링이 수행된 상기 이미지 상의 발광 부재(1200)의 중심부의 위치를 도출한다. The light emitting
사각형 형성부(2200)는 카메라(200)가 참조 물체(1000)를 촬상한 이미지 상에서, 발광 부재 위치 검출부(2100)에서 위치가 파악된 발광 부재를 서로 연결하여 사각형을 형성한다. 일 실시 예에 따르면, 사각형 형성부(2200)는 다각형 형성부(2210), 발광 부재 수 판단부(2220) 및 내부 선분 추출부(2230)를 포함한다.The
다각형 형성부(2210)는 발광 부재 위치 검출부(2100)에서 위치가 검출된 이미지 상의 발광 부재 중 각 방향의 최 외곽에 위치된 외곽 발광 부재를 서로 연결하여 다각형을 형성한다.The
발광 부재 수 판단부(2220)는 발광 부재 위치 검출부(2100)에 위치가 검출된 이미지 상의 발광 부재(1200)의 수를 판단한다.The light emitting
내부 선분 추출부(2230)는 발광 부재 위치 검출부(2100)에서 검출된 발광 부재(1200) 중 두 개의 발광 부재(1200)를 연결하는 선분 중 다각형 형성부(2210)에서 형성된 다각형의 변 외의 선분 중에서, 상기 다각형의 변 중 둘 이상의 변과 소실점을 공유하는 선분을 내부 선분으로 추출한다. The internal line
행렬 계산부(2300)는 사각형 기반 캘리브레이션 기법을 이용하여 사각형 형성부(2200)에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구한다.The
이하, 설명의 편의상 상술한 캘리브레이션 장치(100)를 이용하여, 본 발명의 실시 예에 따른 캘리브레이션 방법을 설명한다.Hereinafter, a calibration method according to an embodiment of the present invention will be described using the above-described
도 2는 본 발명의 일 실시 예에 따른 캘리브레이션 방법을 나타낸 순서도이다. 도 1 및 도 2를 참조하면, 캘리브레이션 방법은 카메라(200)로 직육면체 형상의 참조 물체(1000)를 촬상하고, 카메라(200)가 촬상한 참조 물체(1000)의 이미지를 이용하여 카메라(200)의 캘리브레이션을 수행한다. 상술한 바와 같이, 참조 물체(1000)의 각 꼭지점에는 발광 부재(1200)가 제공될 수 있다. 일 실시 예에 따르면, 캘리브레이션 방법은 발광 부재 위치 검출 단계(S10), 사각형 형성 단계(S20) 및 행렬 계산 단계(S30)를 포함한다. 2 is a flowchart illustrating a calibration method according to an embodiment of the present invention. 1 and 2, the calibration method captures a rectangular
발광 부재 위치 검출 단계(S10)에서는 카메라(200)가 촬상한 참조 물체(1000)의 이미지 상의 발광 부재(1200)의 위치를 검출한다. 일 실시 예에 따르면, 발광 부재 위치 검출 단계(S10)에서는 상기 이미지 상의 노이즈를 필터링 하고, 필터링이 완료된 상기 이미지 상의 발광 부재(1200)의 중심부의 위치를 도출한다. 예를 들면, 발광 부재 위치 검출 단계(S10)에서, 필터링부(2110)는 가우시안 스무딩(Gaussian smoothing) 필터링 기법을 이용하여 상기 이미지 상의 노이즈를 필터링하고, 발광 부재 중심부 추출부(2120)는 이진화(Thresholding) 기법을 이용하여 필터링부(2110)에서 필터링이 수행된 상기 이미지 상의 발광 부재(1200)의 중심부의 위치를 도출한다. 상술한 바와 같이 이미지 상의 노이즈를 필터링하고 발광 부재의 중심부의 위치를 도출함으로써, 상기 이미지 상에서 몸체(1100)의 각 꼭지점의 위치를 보다 정밀하게 인식할 수 있다.In the light emitting member position detecting step S10, the position of the
사각형 형성 단계(S20)는 발광 부재 위치 검출 단계(S10) 이후에 수행된다. 사각형 형성 단계(S20)에서는 이하 설명될 행렬 계산 단계(S30)에서 사각형 기반 캘리브레이션 기법을 적용할 수 있도록 발광 부재 위치 검출 단계(S10)에서 검출된 이미지 상의 발광 부재(1200)를 서로 연결하여 사각형을 형성한다. 일 실시 예에 따르면, 사각형 형성 단계(S20)는 다각형 형성 단계(S21), 발광 부재 수 판단 단계(S22) 및 내부 선분 추출 단계(S23)를 포함한다. 사각형 형성 단계(S20)에서 형성된 각 사각형은 참조 물체(1000)의 면 중 이미지 상에 나타난 면을 나타낸다.The quadrangular forming step S20 is performed after the light emitting member position detecting step S10. In the quadrangle forming step S20, the rectangles may be connected by connecting the
도 3은 도 1의 다각형 형성부(2210)에서 콘덱스가 안닌 것으로 판단된 폐곡선의 일 예를 나타낸 도면이다. 도 4는 도 1의 다각형 형성부(2210)에서 콘덱스인 것으로 판단된 폐곡선의 일 예를 나타낸 도면이다. 도 3 및 도 4를 참조하면, 다각형 형성 단계(S21)에서는 발광 부재 위치 검출 단계(S10)에서 위치가 검출된 발광 부재(1200) 중 이미지 상에서 각 방향의 최 외곽에 위치된 외곽 발광 부재(1210)를 서로 연결하여 다각형을 형성한다. 일 실시 예에 따르면, 다각형 형성 단계(S21)에서는 외곽 발광 부재(1210)를 순차적으로 서로 연결하되 외곽 발광 부재(1210) 중 시작점이 된 외곽 발광 부재가 끝점이 되도록 연결하여 폐곡선을 형성하는 폐곡선 형성을 수행한다. 또한, 다각형 형성 단계(S21)에서는 상술한 바와 같이 형성된 폐곡선이 콘벡스(Convex)인지 여부를 판단하는 콘벡시티(Convexity) 판단을 수행한다. 다각형 형성 단계(S21)에서는 상기 폐곡선 형성 및 상기 콘벡시티 판단을 폐곡선 형성 시 외곽 발광 부재(1210)의 연결 순서를 변경하며 수행하되, 형성된 폐곡선 중 콘벡스로 판단된 폐곡선을 이미지 상의 참조 물체(1000)의 실루엣을 나타내는 다각형으로 결정한다. 예를 들면, 다각형 형성 단계(S21)에서, 도 1의 다각형 형성부(2210)는 상기 폐곡선 형성 및 콘벡시티 판단을 수행하되, 폐곡선 형성 시 형성된 폐곡선이 콘벡스가 아닌 경우(도 3의 경우), 외곽 발광 부재(1210)의 연결 순서를 달리하여 폐곡선을 형성하고, 폐곡선이 콘벡스인 경우(도 4의 경우), 콘벡스로 판단된 폐곡선을 이미지 상의 참조 물체(1000)의 실루엣을 나타내는 다각형으로 결정한다.3 is a diagram illustrating an example of a closed curve determined to be non-condex in the
다시 도 2를 참조하면, 발광 부재 수 판단 단계(S22)는 다각형 형성 단계(S21)와 동시에 수행될 수 있다. 이와 달리, 발광 부재 수 판단 단계(S22)는 다각형 형성 단계(S21)의 이전 또는 이후에 수행될 수 있다. 발광 부재 수 판단 단계(S22)에서는 발광 부재 위치 검출 단계(S10)에서 검출된 발광 부재(1200)의 수를 판단한다. 일 실시 예에 따르면, 발광 부재 수 판단 단계(S22)는 도 1의 발광 부재 수 판단부(2220)에 의해 수행될 수 있다.Referring back to FIG. 2, the light emitting member number determining step S22 may be performed simultaneously with the polygon forming step S21. Alternatively, the light emitting member number determining step S22 may be performed before or after the polygon forming step S21. In the light emitting member number determining step S22, the number of the
내부 선분 추출 단계(S23)는 발광 부재 수 판단 단계(S22) 및 다각형 형성 단계(S21) 이후에 수행된다. 내부 선분 추출 단계(S23)에서는, 이미지 상의 발광 부재(1200) 중 두 개의 발광 부재(1200)를 연결하는 선분 중 다각형 형성 단계(S21)에서 형성된 다각형의 변 외의 선분 중에서, 상기 다각형의 변 중 둘 이상의 변과 소실점(P1, P2, P3)을 공유하는 선분을 이미지 상의 참조 물체(1000)의 모서리를 나타내는 내부 선분으로 추출한다. The internal line segment extraction step S23 is performed after the light emitting member number determining step S22 and the polygon forming step S21. In the internal line segment extraction step (S23), two of the sides of the polygon among the line segments other than the sides of the polygon formed in the polygon forming step (S21) among the line segments connecting the two light emitting
참조 물체(1000)가 직육면체로 제공되므로, 카메라(200)에 의해 촬상된 이미지 상에 나타나는 발광 부재(1200)는 4개, 6개 또는 7개일 수 있다. Since the
일 실시 예에 따르면, 내부 선분 추출 단계(S23)에서는, 상기 이미지 상에 나타난 발광 부재(1200)의 수가 4개인 경우에는 상기 이미지 상에 참조 물체(1000)의 면 중 하나의 면만 보이는 경우이므로 상기 내부 선분의 추출을 수행하지 않는다.According to an embodiment, in the internal line segment extraction step (S23), when the number of the
상기 이미지 상에 나타난 발광 부재(1200)의 수가 6개인 경우에는 상기 이미지 상에 참조 물체(1000)의 면 중 두 개의 면이 보이는 경우이므로 상기 두 개의 면을 나타내는 두 개의 사각형을 형성하는 것이 요구된다. 이 경우, 참조 물체(1000)가 직육면체 임을 고려할 때, 상기 이미지 상의 참조 물체(1000)의 소실점(P1, P2, P3)은 2개 또는 3개이다.In the case where the number of light emitting
도 5는 이미지 상에 나타난 발광 부재(1200)가 6개이고 소실점(P1, P2, P3)이 3개인 경우 소실점(P1, P2, P3)을 공유하지 않는 선분(L1)의 일 예를 나타낸 도면이다. 도 6은 이미지 상에 나타난 발광 부재(1200)가 6개이고 소실점이 3개인 경우 다각형의 2개 이상의 변과 소실점(P3)을 공유하는 선분(L2)을 나타낸 도면이다. 도 5 및 도 6을 참조하면, 일 실시 예에 따르면, 내부 선분 추출 단계(S23)에서는 이미지 상에 나타난 발광 부재(1200)가 6개이고 소실점이 3개인 경우, 이미지 상에 나타난 발광 부재(1200) 중 두 개의 발광 부재를 연결하는 선분 중 다각형 형성 단계(S21)에서 형성된 다각형의 변 외의 선분 중에서, 상기 다각형의 변 중 2 개 이상의 변과 소실점(P3)을 공유하는 선분(L2)을 내부 선분으로 추출한다. 예를 들면, 도 5의 선분(L1)의 경우, 상기 다각형의 변과 소실점(P1, P2, P3)을 공유하지 않으므로, 내부 선분으로 추출되지 않는다. 도 6의 선분(L2)의 경우, 상기 다각형의 2개의 변과 소실점(P3)을 공유하므로 내부 선분으로 추출된다. 이에 의해, 카메라(200)에 의해 2개의 면이 촬상된 참조 물체(1000)의 직육면체 형상이 완성된다.5 is a diagram illustrating an example of a line segment L1 that does not share the vanishing points P1, P2, and P3 when there are six light emitting
도 7은 이미지 상에 나타난 발광 부재(1200)가 6개이고 소실점(P1, P2)이 2개인 경우 하나의 소실점(P1)을 공유하는 변과 다른 하나의 소실점(P2)을 공유하는 변이 교차되는 2개의 발광 부재(1230a, 1230b)를 연결한 선분(L3)을 나타낸 도면이다. 도 7을 참조하면, 6개의 발광 부재(1200)가 촬상되고 카메라(200)의 시점이 참조 물체(1000)의 이미지 상의 가운데 모서리(E1)의 중심(M)에 위치되는 경우, 상기 모서리(E1) 및 상기 모서리(E1)의 양 측에 위치되는 모서리(E2, E3)는 이미지 상에서 서로 평행하게 나타나므로, 서로 소실점을 공유하지 않는다. 따라서, 이 경우, 소실점(P1, P2)은 2개로 제공된다. 일 실시 예에 따르면, 이 경우, 내부 선분 추출 단계(S23)에서는 하나의 소실점(P1)을 공유하는 변과 다른 하나의 소실점(P2)을 공유하는 변이 교차되는 2개의 발광 부재(1230a, 1230b)를 연결한 선분(L3)을 내부 선분으로 추출한다. 이에 의해, 카메라(200)에 의해 2개의 면이 촬상된 참조 물체(1000)의 직육면체 형상이 완성된다.FIG. 7 illustrates that when six light emitting
카메라(200)가 촬상한 이미지 상에 나타난 발광 부재(1200)의 수가 7개인 경우에는 상기 이미지 상에 참조 물체(1000)의 면 중 3개의 면이 보이는 경우이므로 상기 3 개의 면을 나타내는 3개의 사각형을 형성하는 것이 요구된다. 이 경우, 참조 물체(1000)가 직육면체 임을 고려할 때, 상기 이미지 상의 참조 물체(1000)의 소실점(P1, P2, P3)은 3개이다. In the case where the number of light emitting
도 8은 이미지 상에 나타난 발광 부재(1200)가 7개인 경우 소실점(P1, P2, P3)을 공유하지 않는 선분(L4)의 일 예를 나타낸 도면이다. 도 9는 이미지 상에 나타난 발광 부재(1200)가 6개인 경우 다각형의 2개 이상의 변과 소실점(P1, P2, P3)을 공유하는 선분(L5, L6, L7)을 나타낸 도면이다. 도 8 및 도 9를 참조하면, 일 실시 예에 따르면, 내부 선분 추출 단계(S23)에서는 이미지 상에 나타난 발광 부재(1200)가 7개인 경우, 다각형 형성 단계(S21)에서 형성된 다각형 내의 발광 부재(1220)와 외곽 발광 부재(1210) 중 하나를 연결하는 선분들 중에서 상기 다각형의 변 중 2개 이상의 변과 소실점(P1, P2, P3)을 공유하는 선분(L5, L6, L7)을 내부 선분으로 추출한다. 예를 들면, 도 8의 선분(L4)의 경우, 상기 다각형의 변과 소실점(P1, P2, P3)을 공유하지 않으므로, 내부 선분으로 추출되지 않는다. 도 9의 선분(L5, L6, L7)의 경우, 각각 상기 다각형의 2개의 변과 소실점(P1, P2, P3)을 공유하므로 내부 선분으로 추출된다. 이에 의해, 카메라(200)에 의해 3개의 면이 촬상된 참조 물체(1000)의 직육면체 형상이 완성된다.FIG. 8 is a diagram illustrating an example of a line segment L4 that does not share vanishing points P1, P2, and P3 when seven light emitting
상술된 내부 선분 추출 단계(S23)는 도 1의 내부 선분 추출부(2230)에서 수행될 수 있다.The internal line segment extraction step S23 described above may be performed by the internal
다시 도 2를 참조하면, 행렬 계산 단계(S30)에서는 사각형 형성 단계(S20) 이후에 수행된다. 행렬 계산 단계(S30)에서는 사각형 기반 캘리브레이션 기법을 이용하여 사각형 형성 단계(S20)에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구한다. 행렬 계산 단계(S30)는 도 1의 행렬 계산부(2300)에 의해 수행될 수 있다.Referring back to FIG. 2, the matrix calculation step S30 is performed after the square forming step S20. In the matrix calculation step (S30), a calibration matrix for each rectangle formed in the rectangle forming step (S20) is obtained by using a rectangle-based calibration technique. The matrix calculation step S30 may be performed by the
다시 도 1을 참조하면, 캘리브레이션 장치(100)는 참조 물체 제어부(3000)를 더 포함할 수 있다. 참조 물체 제어부(3000)는 발광 부재(1200)를 제어한다. 일 실시 예에 따르면, 참조 물체 제어부(3000)는 카메라(200)의 캘리브레이션을 수행을 위해 발광 부재(1200)를 켜고, 캘리브레이션 완료 등의 경우에 발광 부재(1200)를 끄도록 발광 부재(1200)를 제어한다. 또한, 발광 부재(1200)는 색상 변경이 가능하도록 제공될 수 있다. 예를 들면, 발광 부재(1200)는 확산형 RGB 발광다이오드(Diffused RGB LED)로 제공될 수 있다. 이 경우, 참조 물체 제어부(3000)는 캘리브레이션 수행 상태에 따라 발광 부재(1200)의 색상을 변경할 수 있다. 예를 들면, 참조 물체 제어부(3000)는 캘리브레이션 유닛(2000)으로부터 캘리브레이션 수행에 대한 정보를 수신하고, 수신된 정보에 따라, 발광 부재(1200)의 전원이 켜져 있으나 캘리브레이션은 수행되지 않는 경우에는 파란색으로, 캘리브레이션 수행 중에는 빨간색으로, 캘리브레이션이 완료된 경우에는 녹색으로 빛을 발생시키도록 발광 부재(1200)를 제어한다. 일 실시 예에 따르면, 참조 물체 제어부(3000)는 참조 물체(1000)에 제공되고 발광 부재(1200)에 전원을 공급하고 발광 부재(1200)의 색상을 변경시키는 장치(미도시)와 무선으로 정보를 송수신할 수 있도록 제공된다.Referring back to FIG. 1, the
상술한 캘리브레이션 유닛(2000)의 각 기능을 수행하는 구성 및 참조 물체 제어부(3000)는 하나의 전산 장치 내에서 소프트웨어적으로 구현될 수 있다. 예를 들면, 캘리브레이션 유닛(2000)의 각 기능을 수행하는 구성 및 참조 물체 제어부(3000)는 라즈베리 파이(Raspberry Pi) 등의 피씨(PC) 내에서 소프트웨어적으로 구현될 수 있다.The configuration and
상술한 바와 달리, 직육면체로 제공된 참조 물체(1000)에는 발광 부재(1200)가 제공되지 않을 수 있다. 이 경우, 참조 물체(1000)의 각 면을 서로 다른 색상으로 제공함으로써, 촬상된 이미지 상에서 참조 물체(1000)의 각 면을 인식하도록 제공할 수 있다. 이 경우, 캘리브레이션 유닛은 인식된 각 면을 사각형 기반 캘리브레이션 기법을 이용하여 각각의 면에 대한 캘리브레이션 행렬을 구할 수 있다. 이 경우, 상술한 발광 부재 위치 검출 단계(S10) 및 사각형 형성 단계(S20)의 수행은 생략될 수 있다.Unlike the above description, the
또한, 본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 현실 세계에 이미지를 투사하는 공간증강현실(SAR: Spatial Augmented Reality)용 프로젝터에도 적용 가능하다. 예를 들면, 상술한 바와 같이, 참조 물체(1000) 및 캘리브레이션 유닛(2000)을 이용하여 카메라 캘리브레이션을 수행하여 도출된 캘리브레이션 행렬의 역변환을 투사할 이미지에 적용시켜, 상기 이미지를 프로젝터를 통해 참조 물체(1000)에 투사하는 방식으로 프로젝터 캘리브레이션을 수행할 수 있다. In addition, the calibration apparatus and method according to an embodiment of the present invention can be applied to a projector for spatial augmented reality (SAR) for projecting an image to the real world. For example, as described above, an inverse transformation of the calibration matrix derived by performing camera calibration using the
상술한 바와 같이, 본 발명의 실시 예들에 따른 캘리브레이션 장치 및 방법은 비교적 단순한 형태인 직육면체 형상의 몸체의 꼭지점에 발광 부재를 결합시켜 제조함으로써 참조 물체의 제조가 용이하다.As described above, the calibration apparatus and method according to the embodiments of the present invention can be easily manufactured by coupling the light emitting member to the vertex of the rectangular parallelepiped body.
또한, 본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 몸체의 각 꼭지점에 발광 부재를 제공하여 꼭지점의 인식이 용이함으로써 조명 환경의 영향을 최소화할 수 있다.In addition, the calibration apparatus and method according to an embodiment of the present invention can minimize the influence of the lighting environment by providing a light emitting member to each vertex of the body to facilitate the recognition of the vertex.
또한, 본 발명의 실시 예에 따른 캘리브레이션 장치 및 방법은 참조 물체가 직육면체 형상으로 제공되어 하나의 이미지 상에 카메라와의 각도가 서로 상이한 최대 3개의 사각형을 촬상할 수 있음으로서, 비교적 적은 수의 이미지로 캘리브레이션의 수행이 가능하다. In addition, in the calibration apparatus and method according to an embodiment of the present invention, a reference object is provided in a rectangular parallelepiped shape so that up to three squares having different angles from the camera can be captured on a single image. Low calibration can be performed.
100: 캘리브레이션 장치 200: 카메라
1000: 참조 물체 1100: 몸체
1200: 발광 부재 2000: 캘리브레이션 유닛
2100: 발광 부재 검출부 2110: 필터링부
2120: 발광 부재 중심부 검출부 2200: 사각형 형성부
2210: 다각형 형성부 2220: 발광 부재 수 판단부
2230: 내부 선분 추출부 2300: 행렬 계산부
3000: 참조 물체 제어부 S10: 발광 부재 위치 검출 단계
S20: 사각형 형성 단계 S21: 다각형 형성 단계
S22: 발광 부재 수 판단 단계 S23: 내부 선분 추출 단계
S30: 행렬 계산 단계100: calibration device 200: camera
1000: reference object 1100: body
1200: light emitting member 2000: calibration unit
2100: light emitting member detection unit 2110: filtering unit
2120: light emitting member center detecting unit 2200: square forming unit
2210: polygon forming unit 2220: number of light emitting members
2230: internal segment extraction unit 2300: matrix calculation unit
3000: Reference object control unit S10: Light emitting member position detection step
S20: Rectangle Formation Step S21: Polygon Formation Step
S22: determining number of light emitting members S23: extracting internal line segment
S30: matrix calculation step
Claims (17)
직육면체 형상의 몸체를 가지며, 상기 몸체의 각 꼭지점에 제공되고 빛을 발생시키는 발광 부재를 포함하는 참조 물체와;
카메라가 상기 참조 물체를 촬상한 이미지를 이용하여 상기 카메라의 캘리브레이션을 수행하는 캘리브레이션 유닛을 포함하되,
상기 캘리브레이션 유닛은,
상기 이미지 상의 발광 부재의 위치를 검출하는 발광 부재 위치 검출부와;
상기 이미지 상에서 상기 발광 부재 위치 검출부에서 위치가 파악된 발광 부재를 서로 연결하여 사각형을 형성하는 사각형 형성부를 포함하고,
상기 사각형 형성부는, 상기 발광 부재 위치 검출부에서 위치가 검출된 상기 이미지 상의 발광 부재 중 각 방향의 최 외곽에 위치된 외곽 발광 부재를 서로 연결하여 다각형을 형성하는 다각형 형성부를 포함하는 캘리브레이션 장치.In the device for performing the calibration of the camera,
A reference object having a rectangular parallelepiped body, the reference object including a light emitting member provided at each vertex of the body and generating light;
A camera includes a calibration unit for performing a calibration of the camera using the image of the reference object,
The calibration unit,
A light emitting member position detector for detecting a position of the light emitting member on the image;
And a quadrangle forming unit configured to form a quadrangle by connecting the light emitting members whose positions are detected by the light emitting member position detector on the image,
The quadrangle forming unit includes a polygon forming unit for forming a polygon by connecting the outer light emitting members positioned in the outermost part of each light emitting member on the image where the position is detected by the light emitting member position detecting unit to each other.
상기 발광 부재는 확산형 발광다이오드(Diffused LED)로 제공되는 캘리브레이션 장치.The method of claim 1,
The light emitting member is a calibration device provided by a diffused light emitting diode (Diffused LED).
상기 캘리브레이션 유닛은,
사각형 기반 캘리브레이션 기법을 이용하여 상기 사각형 형성부에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구하는 행렬 계산부를 더 포함하는 캘리브레이션 장치.The method of claim 1,
The calibration unit,
And a matrix calculator for obtaining a calibration matrix for each rectangle formed in the rectangle forming unit by using a rectangle-based calibration technique.
상기 발광 부재 위치 검출부는,
상기 이미지 상의 노이즈(Noise)를 필터링하는 필터링부와;
상기 필터링부에서 필터링이 수행된 상기 이미지 상의 발광 부재의 중심부의 위치를 도출하는 발광 부재 중심부 추출부를 포함하는 캘리브레이션 장치.The method of claim 1,
The light emitting member position detector,
A filtering unit to filter noise on the image;
And a light emitting member center extracting unit configured to derive a position of a center of the light emitting member on the image on which the filtering is performed.
상기 필터링부는 가우시안 스무딩 필터링 기법을 이용하여 상기 이미지 상의 노이즈(Noise)를 필터링하고,
상기 발광 부재 중심부 추출부는 이진화(Thresholding) 기법을 이용하여 상기 필터링부에서 필터링이 수행된 상기 이미지 상의 발광 부재의 중심부의 위치를 도출하는 캘리브레이션 장치.The method of claim 5,
The filtering unit filters the noise on the image by using a Gaussian smoothing filtering technique.
And the light emitting member center extracting unit derives the position of the center of the light emitting member on the image filtered by the filtering unit using a binarization technique.
상기 다각형 형성부는, 상기 외곽 발광 부재를 순차적으로 서로 연결하되 상기 외곽 발광 부재 중 시작점이 된 외곽 발광 부재가 끝점이 되도록 연결하여 폐곡선을 형성하는 폐곡선 형성 및 상기 폐곡선이 콘벡스(Convex)인지 여부를 판단하는 콘벡시티 판단을 수행하고, 상기 폐곡선 형성 및 상기 콘벡시티 판단을 상기 외곽 발광 부재의 외곽 발광 부재의 연결 순서를 변경하며 수행하되, 상기 폐곡선 중 콘벡스로 판단된 폐곡선을 상기 다각형으로 결정하는 캘리브레이션 장치.The method of claim 1,
The polygonal forming unit connects the outer light emitting members sequentially, but forms a closed curve by forming the closed curve by connecting the outer light emitting member which is the starting point of the outer light emitting member to an end point, and whether the closed curve is a convex. Performing a convexity determination to determine the closed curve formation and the convexity determination by changing a connection order of an outer light emitting member of the outer light emitting member, and determining a closed curve determined as a convex among the closed curves as the polygon. Calibration device.
상기 사각형 형성부는,
상기 이미지 상의 상기 발광 부재의 수를 판단하는 발광 부재 수 판단부와;
상기 다각형의 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서, 상기 변 중 둘 이상의 변과 소실점을 공유하는 선분을 내부 선분으로 추출하는 내부 선분 추출부를 더 포함하는 캘리브레이션 장치.The method of claim 1,
The square forming unit,
A light emitting member number determining unit configured to determine the number of the light emitting members on the image;
And an internal line segment extracting unit extracting a line segment sharing a vanishing point with two or more sides of the light side as an internal segment among line segments connecting two light emitting members of the light emitting member in addition to the sides of the polygon.
상기 내부 선분 추출부는, 상기 이미지 상의 발광 부재의 수가 4개인 경우에는 상기 내부 선분의 추출을 수행하지 않고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 3개인 경우에는 상기 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 7개인 경우에는 상기 다각형 내의 발광 부재와 상기 외곽 발광 부재 중 하나를 연결하는 선분들 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하는 캘리브레이션 장치.The method of claim 9,
The internal line segment extracting unit does not perform the extraction of the internal line segment when the number of light emitting members on the image is four, and when the number of light emitting members on the image is six and the vanishing point is three, two of the light emitting members are used. Of the light emitting members in the polygon and the outer light emitting members when the number of light emitting members on the image is 7 A calibration device for extracting a line segment sharing a vanishing point with two or more of the sides of the line segments connecting one as the internal line segment.
상기 내부 선분 추출부는, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 2개인 경우에는 각각의 상기 소실점을 공유하는 변들이 서로 교차하는 2개의 발광 부재를 연결한 선분을 상기 내부 선분으로 추출하는 캘리브레이션 장치.The method of claim 10,
The internal line extracting unit, when the number of light emitting members on the image is six and the number of vanishing points is two, the calibration device for extracting the line segment connecting the two light emitting members intersecting each other the sides sharing the vanishing point as the internal line segment .
카메라로 직육면체 형상의, 각 꼭지점에는 빛을 발생시키는 발광 부재를 포함하는 참조 물체를 촬상하는 단계; 및
상기 카메라가 촬상한 상기 참조 물체의 이미지를 이용하여 상기 카메라의 캘리브레이션을 수행하는 단계;를 포함하되,
상기 캘리브레이션을 수행하는 단계는,
상기 이미지 상의 발광 부재의 위치를 검출하는 발광 부재 위치 검출 단계와;
이후, 상기 이미지 상의 발광 부재를 서로 연결하여 사각형을 형성하는 사각형 형성 단계;를 포함하며,
상기 사각형 형성 단계는,
상기 발광 부재 위치 검출부에서 위치가 검출된 상기 이미지 상의 발광 부재 중 각 방향의 최 외곽에 위치된 외곽 발광 부재를 서로 연결하여 다각형을 형성하는 다각형 형성 단계를 포함하는 캘리브레이션 방법.Calibration device,
Imaging a reference object including a light emitting member for generating light at each vertex of a rectangular parallelepiped shape with a camera; And
Performing calibration of the camera using the image of the reference object picked up by the camera;
The performing of the calibration may include:
A light emitting member position detecting step of detecting a position of the light emitting member on the image;
And forming a rectangle by connecting the light emitting members on the image to each other.
The square forming step,
And a polygon forming step of forming polygons by connecting the outer light emitting members positioned at the outermost sides of the light emitting members on the image where the position is detected by the light emitting member position detection unit with each other.
상기 발광 부재는 확산형 발광다이오드(Diffused LED)로 제공되는 캘리브레이션 방법.The method of claim 12,
The light emitting member is a calibration method provided by a diffused light emitting diode (Diffused LED).
상기 사각형 형성 단계 이후에, 사각형 기반 캘리브레이션 기법을 이용하여 상기 사각형 형성 단계에서 형성된 각각의 사각형에 대한 캘리브레이션 행렬을 구하는 행렬 계산 단계를 더 포함하는 캘리브레이션 방법.The method of claim 12,
And a matrix calculation step of obtaining a calibration matrix for each rectangle formed in the rectangle forming step by using the rectangle-based calibration technique after the rectangle forming step.
상기 발광 부재 위치 검출 단계에서는, 가우시안 스무딩 필터링 기법을 이용하여 상기 이미지 상의 노이즈를 필터링하고, 상기 필터링이 완료된 상기 이미지 상의 발광 부재의 중심부의 위치를 이진화(Thresholding) 기법을 이용하여 도출하는 캘리브레이션 방법.The method of claim 12,
In the step of detecting the light emitting member, the noise on the image is filtered using a Gaussian smoothing filtering technique, and a calibration method for deriving the position of the central portion of the light emitting member on the filtered image using a thresholding technique.
상기 다각형 형성 단계는 상기 외곽 발광 부재를 순차적으로 서로 연결하되 상기 외곽 발광 부재 중 시작점이 된 외곽 발광 부재가 끝점이 되도록 연결하여 폐곡선을 형성하는 폐곡선 형성 및 상기 폐곡선이 콘벡스(Convex)인지 여부를 판단하는 콘벡시티 판단을 수행하고, 상기 폐곡선 형성 및 상기 콘벡시티 판단을 상기 외곽 발광 부재의 외곽 발광 부재의 연결 순서를 변경하며 수행하되, 상기 폐곡선 중 콘벡스로 판단된 폐곡선을 상기 다각형으로 결정하는 캘리브레이션 방법.The method of claim 12,
In the polygon forming step, the outer light emitting members are sequentially connected to each other, but a closed curve is formed to form a closed curve by connecting the outer light emitting member which is a starting point among the outer light emitting members to an end point, and whether the closed curve is a convex. Performing a convexity determination to determine the closed curve formation and the convexity determination by changing a connection order of an outer light emitting member of the outer light emitting member, and determining a closed curve determined as a convex among the closed curves as the polygon. Calibration method.
상기 사각형 형성 단계는,
상기 이미지 상의 상기 발광 부재의 수를 판단하는 발광 부재 수 판단 단계와;
상기 발광 부재 수 판단 단계 및 상기 다각형 형성 단계 이후에, 상기 다각형의 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서, 상기 변 중 둘 이상의 변과 소실점을 공유하는 선분을 내부 선분으로 추출하는 내부 선분 추출 단계를 더 포함하되,
상기 내부 선분 추출 단계에서는, 상기 이미지 상의 발광 부재의 수가 4개인 경우에는 상기 내부 선분의 추출을 수행하지 않고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 2개인 경우에는 각각의 상기 소실점을 공유하는 변들이 서로 교차하는 2개의 발광 부재를 연결한 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 6개이고 소실점이 3개인 경우에는 상기 변 외에 상기 발광 부재 중 두 개의 발광 부재를 연결하는 선분 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하고, 상기 이미지 상의 발광 부재의 수가 7개인 경우에는 상기 다각형 내의 발광 부재와 상기 외곽 발광 부재 중 하나를 연결하는 선분들 중에서 상기 변 중 2개 이상과 소실점을 공유하는 선분을 상기 내부 선분으로 추출하는 캘리브레이션 방법.
The method of claim 16,
The square forming step,
Determining the number of light emitting members on the image;
After the step of determining the number of light emitting members and forming the polygon, the line segment sharing the vanishing point with at least two sides of the light emitting member among the line segments connecting two light emitting members of the light emitting member in addition to the sides of the polygon is extracted as an internal line segment. Further comprises an internal segment extraction step,
In the internal line segment extraction step, if the number of light emitting members on the image is four, the extraction of the internal line segment is not performed. When the number of light emitting members on the image is six and the number of vanishing points is two, the respective vanishing points are shared. A line segment connecting two light emitting members whose sides cross each other is extracted as the internal line segment. When the number of light emitting members on the image is six and the vanishing point is three, the two light emitting members of the light emitting member are connected in addition to the side. Line segments that share a vanishing point with two or more of the sides among the line segments as the inner line segments, and when the number of light emitting members on the image is seven, line segments connecting one of the light emitting member in the polygon and the outer light emitting member A line segment sharing a vanishing point with two or more of the sides as the internal segment Calibration method to extract.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170147293A KR102017949B1 (en) | 2017-11-07 | 2017-11-07 | Apparatus and method for calibrating camera using rectangular parallelepiped with led |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170147293A KR102017949B1 (en) | 2017-11-07 | 2017-11-07 | Apparatus and method for calibrating camera using rectangular parallelepiped with led |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190051523A KR20190051523A (en) | 2019-05-15 |
KR102017949B1 true KR102017949B1 (en) | 2019-09-03 |
Family
ID=66579471
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170147293A KR102017949B1 (en) | 2017-11-07 | 2017-11-07 | Apparatus and method for calibrating camera using rectangular parallelepiped with led |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102017949B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20240014244A (en) | 2022-07-25 | 2024-02-01 | 한국전자통신연구원 | Method for synthesizing 3d joint data based on multi-view rgb-d camera |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003130621A (en) * | 2002-11-14 | 2003-05-08 | Techno Dream 21:Kk | Method and system for measuring three-dimensional shape |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101679285B1 (en) * | 2015-05-12 | 2016-11-24 | 사단법인 캠틱종합기술원 | System for analysing poses and motions using images |
KR102449438B1 (en) * | 2015-09-09 | 2022-09-30 | 한국전자통신연구원 | Cube restoration apparatus and method |
-
2017
- 2017-11-07 KR KR1020170147293A patent/KR102017949B1/en active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003130621A (en) * | 2002-11-14 | 2003-05-08 | Techno Dream 21:Kk | Method and system for measuring three-dimensional shape |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20240014244A (en) | 2022-07-25 | 2024-02-01 | 한국전자통신연구원 | Method for synthesizing 3d joint data based on multi-view rgb-d camera |
Also Published As
Publication number | Publication date |
---|---|
KR20190051523A (en) | 2019-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10002463B2 (en) | Information processing apparatus, information processing method, and storage medium, for enabling accurate detection of a color | |
US12010431B2 (en) | Systems and methods for multi-camera placement | |
US11115633B2 (en) | Method and system for projector calibration | |
CN109211207B (en) | Screw identification and positioning device based on machine vision | |
CN107025635B (en) | Depth-of-field-based image saturation processing method and device and electronic device | |
US10311648B2 (en) | Systems and methods for scanning three-dimensional objects | |
EP3531066B1 (en) | Three-dimensional scanning method including a plurality of lasers with different wavelengths, and scanner | |
CN106500627B (en) | 3-D scanning method and scanner containing multiple and different long wavelength lasers | |
US10447999B2 (en) | Alignment of images of a three-dimensional object | |
CN110798677B (en) | Three-dimensional scene modeling method and device, electronic device, readable storage medium and computer equipment | |
CN107370951B (en) | Image processing system and method | |
CN106767526A (en) | A kind of colored multi-thread 3-d laser measurement method based on the projection of laser MEMS galvanometers | |
JP2023508501A (en) | Association between 3D coordinates and 2D feature points | |
JP2010133752A (en) | Shape measuring device and program | |
CN107493411B (en) | Image processing system and method | |
TW201705088A (en) | Generating a disparity map based on stereo images of a scene | |
KR101983586B1 (en) | Method of stitching depth maps for stereo images | |
JP2010133751A (en) | Shape measuring device and program | |
Beltran et al. | A comparison between active and passive 3d vision sensors: Bumblebeexb3 and Microsoft Kinect | |
CN107469355A (en) | Game character image creation method and device, terminal equipment | |
KR102017949B1 (en) | Apparatus and method for calibrating camera using rectangular parallelepiped with led | |
CN107493412B (en) | Image processing system and method | |
KR101900797B1 (en) | Method for providing augmented reality using rubik's cube | |
JP2015148498A (en) | Distance measurement device and distance measurement method | |
JP2010014699A (en) | Shape measuring apparatus and shape measuring method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20171107 |
|
PA0201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20190221 Patent event code: PE09021S01D |
|
PG1501 | Laying open of application | ||
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20190826 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20190828 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20190828 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20220713 Start annual number: 4 End annual number: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20240702 Start annual number: 6 End annual number: 6 |