KR101850118B1 - Method and System for Calibration of Mobile Robot and Camera - Google Patents
Method and System for Calibration of Mobile Robot and Camera Download PDFInfo
- Publication number
- KR101850118B1 KR101850118B1 KR1020160101397A KR20160101397A KR101850118B1 KR 101850118 B1 KR101850118 B1 KR 101850118B1 KR 1020160101397 A KR1020160101397 A KR 1020160101397A KR 20160101397 A KR20160101397 A KR 20160101397A KR 101850118 B1 KR101850118 B1 KR 101850118B1
- Authority
- KR
- South Korea
- Prior art keywords
- camera
- pattern marker
- variable pattern
- variable
- feature points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 26
- 239000003550 marker Substances 0.000 claims abstract description 135
- 239000003086 colorant Substances 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 9
- 239000013256 coordination polymer Substances 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 230000007423 decrease Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
- B25J9/1692—Calibration of manipulator
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
- B25J19/023—Optical sensing devices including video camera means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1664—Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
- B25J9/1666—Avoiding collision or forbidden zones
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1674—Programme controls characterised by safety, monitoring, diagnostic
- B25J9/1676—Avoiding collision or forbidden zones
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Multimedia (AREA)
- Manipulator (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
본 발명은 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것으로, 본 발명의 일 실시예에 따른 방법은 가변 패턴 마커를 계획하여 생성하는 단계, 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계, 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고 촬영된 카메라의 영상에서 가변 패턴 마커를 인식하여 이동 로봇과 카메라의 캘리브레이션 파라미터를 결정하는 단계를 포함한다. 본 발명에 의하면, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있다.The present invention relates to a method and a system for calibrating a mobile robot and a camera, and a method according to an embodiment of the present invention includes planning and generating a variable pattern marker, generating the generated variable pattern marker on a display device A step of photographing the displayed variable pattern marker by the camera, and a step of recognizing the variable pattern marker in the image of the photographed camera and determining the calibration parameters of the mobile robot and the camera. According to the present invention, a variable pattern marker in which the resolution of a camera is considered is displayed on a display device provided in a mobile robot, and a calibration with high accuracy can be performed by recognizing a displayed variable pattern marker.
Description
본 발명은 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것으로, 보다 자세하게는 이동 로봇과 카메라의 캘리브레이션 파라미터(Calibration parameter)를 결정하는 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것이다.BACKGROUND OF THE
로봇이 작업을 수행하기 위해서 로봇 주변의 환경정보와 물체정보를 정확하게 인식해야 한다. 이를 위하여 로봇 자체에 카메라를 부착하여 사용할 수도 있으나 로봇의 공간상 제약으로 인해 로봇에는 해상도가 높지 않고 크기가 작은 카메라를 부착하여 사용하고, 그 대신 작업할 주변에 고해상도 카메라를 고정하여 사용한다.In order to perform the task, the robot must accurately recognize environmental information and object information around the robot. For this purpose, it is possible to attach a camera to the robot itself. However, due to the space limitation of the robot, a robot having a low resolution and a small size is attached to the robot. Instead, a high resolution camera is fixed around the robot.
종래에는 이와 같이 로봇 작업에서 조작 로봇과 카메라가 고정되어 사용되어 왔는데, 최근 모바일 매니퓰레이터 등이 도입되면서 이동 로봇과 카메라 간의 위치 관계가 변화될 수 있게 되었다. 따라서, 모바일 매니퓰레이터의 정교한 핸들링 작업을 위해서는 빈번하게 캘리브레이션 (Calibration)이 수행되어야 한다.Conventionally, an operation robot and a camera have been fixed and used in the robot operation. Recently, the positional relationship between the mobile robot and the camera can be changed by introducing a mobile manipulator and the like. Therefore, frequent calibration must be performed for the sophisticated handling of the mobile manipulator.
캘리브레이션은 카메라를 통해 보이는 조작 물체에 대한 이미지 데이터 값을 로봇의 좌표계로 변환하는 것을 말한다. 즉, 로봇이 물체를 잡거나 그 물체의 위치로 이동하고자 할 때에는 로봇이 반드시 그 물체의 위치를 알고 있어야 하는데, 캘리브레이션은 로봇이 카메라를 통해 보이는 물체의 위치를 정확히 알 수 있도록 하는 것이다.Calibration refers to the conversion of image data values for an operating object viewed through a camera into a robot coordinate system. That is, when the robot holds an object or tries to move to the position of the object, the robot must know the position of the object. The calibration is to allow the robot to accurately know the position of the object viewed through the camera.
이러한 캘리브레이션을 수행하기 위하여 로봇의 기구부에 랜드마크를 부착하고 카메라가 이를 촬영하여 인식한 후 캘리브레이션하는 방법을 사용하고 있다. 그런데 이 방법을 사용할 경우 랜드마크가 로봇에 정교하게 부착되어야 하며, 랜드마크가 카메라 좌표계의 특정 위치에 있는 경우 카메라 해상도가 부족하면 캘리브레이션의 정밀도가 낮아질 수 있다.In order to perform such calibration, a landmark is attached to a mechanical part of the robot, and a camera captures and recognizes and then calibrates the method. However, if this method is used, the landmark must be attached to the robot in a precise manner, and if the landmark is located at a specific position in the camera coordinate system, the accuracy of the calibration may be lowered if the camera resolution is insufficient.
따라서 본 발명이 해결하고자 하는 기술적 과제는 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있는 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템을 제공하는 것이다.SUMMARY OF THE INVENTION Accordingly, it is an object of the present invention to provide a mobile robot capable of displaying a variable pattern marker in which a resolution of a camera is considered in a display device installed in a mobile robot and recognizing a displayed variable pattern marker, And a method and system for calibrating a camera.
또한, 본 발명은 명시적으로 언급된 목적 이외에도, 후술하는 본 발명의 구성으로부터 달성될 수 있는 다른 목적도 포함한다.Further, the present invention includes other objects that can be achieved from the construction of the present invention described later, in addition to the objects explicitly mentioned.
상기한 기술적 과제를 해결하기 위한 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 방법은 가변 패턴 마커를 계획하여 생성하는 단계, 상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계, 상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고 상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계를 포함한다.According to another aspect of the present invention, there is provided a method of calibrating a mobile robot and a camera, the method comprising: generating and planning a variable pattern marker; displaying the generated variable pattern marker on a display device mounted on the mobile robot; Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker in the image of the photographed camera;
상기 가변 패턴 마커의 모양과 크기는 상기 카메라의 해상도에 따라 결정될 수 있다.The shape and size of the variable pattern marker may be determined according to the resolution of the camera.
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고, 상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다.The variable pattern marker may include at least one basic pattern marker, and the basic pattern marker may include at least three characteristic points.
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The three or more feature points may include circular feature points and a plurality of elliptical feature points that become longer from the circular feature points to longer ones.
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변될 수 있다.The radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point may be varied according to the resolution of the camera.
상기 가변 패턴 마커는 상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern marker may be composed of a plurality of basic pattern markers radially formed around the circular feature points.
상기 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
상기 미리 설정된 방향은 상기 카메라의 촬영 방향에 대응하는 방향일 수 있다.The predetermined direction may be a direction corresponding to the photographing direction of the camera.
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고, 상기 색상을 이용하여 상기 카메라의 방향을 판단할 수 있다.When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors, and the direction of the camera can be determined using the colors.
한편, 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템은 가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇, 상기 가변 패턴 마커를 촬영하는 카메라, 그리고 상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치를 포함한다.Meanwhile, the mobile robot and the camera calibration system according to the embodiment of the present invention may include a mobile robot having a display device on which variable pattern markers are displayed, a camera for photographing the variable pattern markers, And a controller for recognizing the marker and determining the calibration parameters of the mobile robot and the camera.
상기 가변 패턴 마커의 모양과 크기는 상기 카메라의 해상도에 따라 결정될 수 있다.The shape and size of the variable pattern marker may be determined according to the resolution of the camera.
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고, 상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다.The variable pattern marker may include at least one basic pattern marker, and the basic pattern marker may include at least three characteristic points.
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The three or more feature points may include circular feature points and a plurality of elliptical feature points that become longer from the circular feature points to longer ones.
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변될 수 있다.The radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point may be varied according to the resolution of the camera.
상기 가변 패턴 마커는 상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern marker may be composed of a plurality of basic pattern markers radially formed around the circular feature points.
상기 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
상기 미리 설정된 방향은 상기 카메라의 촬영 방향에 대응하는 방향일 수 있다.The predetermined direction may be a direction corresponding to the photographing direction of the camera.
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고, 상기 제어 장치는 상기 색상을 이용하여 상기 카메라의 방향을 판단할 수 있다.When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors, and the controller can determine the direction of the camera using the color.
이와 같이 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 따르면, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있으며, 상대적으로 해상도가 낮은 카메라를 사용할 수 있다.According to the method and system for calibrating a mobile robot and a camera according to an embodiment of the present invention, a variable pattern marker having a resolution of a camera is displayed on a display device installed in the mobile robot, a variable pattern marker displayed is recognized, Can be performed, and a camera having a relatively low resolution can be used.
사람의 개입 없이 가변 패턴 마커를 계획하여 표시하고 인식할 수 있으며, 이동 로봇이 스스로 작업장 주변에 설치된 정교한 카메라 영상 정보를 활용할 수 있게 된다.It is possible to plan and display and recognize the variable pattern marker without human intervention, and the mobile robot can utilize the sophisticated camera image information installed around the worksite by itself.
이에 따라, 자동 무인화 공정에서 활용성이 높을 것으로 기대되며 이러한 캘리브레이션 기술은 개인 서비스 로봇에서부터 전문 서비스 로봇에 이르기까지 폭넓게 적용될 수 있다.Accordingly, it is expected to be highly utilizable in an automatic unmanned process, and such a calibration technique can be widely applied from a personal service robot to a professional service robot.
한편, 본 발명의 효과는 상술된 것에 국한되지 않고 후술하는 본 발명의 구성으로부터 도출될 수 있는 다른 효과도 본 발명의 효과에 포함된다.On the other hand, the effects of the present invention are not limited to those described above, and other effects that can be derived from the constitution of the present invention described below are also included in the effects of the present invention.
도 1은 본 발명의 일 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템의 구성도이다.
도 2는 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 과정을 보여주는 동작 흐름도이다.
도 3은 로봇 좌표계와 카메라 좌표계 간의 상대적 위치를 나타낸 도면이다.
도 4는 본 발명의 일 실시예에 따른 기본 패턴 마커의 형태를 보여주는 예시도이다.
도 5는 본 발명의 일 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.
도 6은 본 발명의 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.
도 7은 본 발명의 또 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.1 is a configuration diagram of a mobile robot and a camera calibration system according to an embodiment of the present invention.
FIG. 2 is a flowchart illustrating a process of calibrating a mobile robot and a camera according to an exemplary embodiment of the present invention.
3 is a view showing a relative position between a robot coordinate system and a camera coordinate system.
FIG. 4 is an exemplary diagram illustrating a basic pattern marker according to an exemplary embodiment of the present invention. Referring to FIG.
5 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to an embodiment of the present invention.
6 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.
7 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.
그러면 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention.
도 1은 본 발명의 일 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템의 구성도를 나타낸다.FIG. 1 shows a configuration diagram of a mobile robot and a camera calibration system according to an embodiment of the present invention.
도 1에 도시한 바와 같이, 이동 로봇과 카메라의 캘리브레이션 시스템(1)은 이동 로봇(100), 카메라(200) 및 제어 장치(300)를 포함하여 구성된다.1, the mobile robot and the
이동 로봇(100)은 이동하며 작업을 수행할 수 있으며, 디스플레이 장치(120)가 설치될 수 있다. 디스플레이 장치(120)는 이동 로봇(100)과 카메라(200)의 캘리브레이션(Calibration)을 위한 가변 패턴 마커(VM)가 표시될 수 있다. 가변 패턴 마커(VM)는 디스플레이 장치(120)에서 생성되거나 이동 로봇(100) 또는 제어 장치(300)에서 생성될 수 있다. 이동 로봇(100) 또는 제어 장치(300)에서 가변 패턴 마커(VM)가 생성될 경우, 디스플레이 장치(120)는 이동 로봇(100) 또는 제어 장치(300)와의 통신을 통해 가변 패턴 마커(VM)에 대한 정보를 전달받아 화면표시수단에 표시할 수 있다.The
가변 패턴 마커(VM)는 3개 이상의 특징점으로 이루어질 수 있으며, 카메라(200)의 해상도에 따라 모양과 크기가 가변될 수 있다. 카메라(200)의 해상도에 따라 모양과 크기가 가변되는 가변 패턴 마커(VM)에 대해서는 하기의 도 3에서 보다 자세하게 설명하도록 한다.The variable pattern marker VM may be composed of three or more feature points, and the shape and size of the variable pattern marker VM may vary depending on the resolution of the
카메라(200)는 세계 좌표계(W)를 기준으로 이동 로봇(100)이 작업하는 공간의 지정된 위치에 고정 설치될 수 있으며, 이동 로봇(100)의 작업을 위해 필요한 영상을 획득할 수 있다. 카메라(200)는 2차원 영상 카메라 또는 3차원 영상 카메라로 구성되어 2차원 카메라 영상 또는 3차원 카메라 영상을 획득할 수 있다.The
그리고 카메라(200)는 이동 로봇(100)과의 캘리브레이션을 위해 디스플레이 장치(120)에서 표시되는 가변 패턴 마커(VM)를 촬영한 카메라의 영상을 획득할 수 있다.The
제어 장치(300)는 카메라(200)의 영상에서 가변 패턴 마커(VM)를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다. The
보다 자세하게는, 제어 장치(300)는 이동 로봇(100)이 작업을 수행하는 동안 로봇 좌표계(R)와 카메라 좌표계(C) 간의 상대적인 변환을 얻는 캘리브레이션을 수행할 수 있다. 이동 로봇(100)과 카메라(200)의 캘리브레이션을 수행하기 위해서는 3개 이상의 특징점이 필요한데, 이를 위하여 이동 로봇(100)에 부착된 디스플레이 장치(120)에서는 3개 이상의 특징점들로 구성된 가변 패턴 마커(VM)를 표시하고, 제어 장치(300)에서는 카메라(200)가 가변 패턴 마커를 촬영한 영상으로부터 가변 패턴 마커(VM)를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다.More specifically, the
이와 같이 캘리브레이션 파라미터가 결정되면 카메라(200)가 인식한 영상정보에서 획득된 환경 및 물체 정보를 로봇 좌표계(R)로 변환한 후, 이동 로봇(100)은 이 정보를 활용하여 물체를 조작하거나 충돌을 회피하게 된다. 이동 로봇(100)은 산업용 로봇이 사용되는 작업 현장에서, 예를 들어, 공급기에 의해 공급되는 부품의 피킹, 부품 조립, 픽 앤드 플레이스 및 부품 상세 검사 등 다양한 응용분야에 활용될 수 있다.After the calibration parameters are determined, the environment and object information obtained from the image information recognized by the
이하에서는 본 발명의 일 실시예에 따라 이동 로봇과 카메라의 캘리브레이션을 수행하는 과정에 대하여 보다 자세하게 설명하도록 한다.Hereinafter, the process of performing the calibration of the mobile robot and the camera according to an embodiment of the present invention will be described in more detail.
도 2는 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 과정을 보여주는 동작 흐름도이고, 도 3은 로봇 좌표계와 카메라 좌표계 간의 상대적 위치를 나타낸 도면이다.FIG. 2 is a flowchart illustrating a process of calibrating a mobile robot and a camera according to an exemplary embodiment of the present invention, and FIG. 3 is a diagram illustrating a relative position between a robot coordinate system and a camera coordinate system.
도 2를 참조하면, 이동 로봇과 카메라의 캘리브레이션 시스템(1)은 가변 패턴 마커(VM)를 계획하여 생성할 수 있다(S200). 이동 로봇(100)에 설치되어 있는 디스플레이 장치(120)가 세계 좌표계(W)를 기준으로 XY 평면에 놓여 있고, 일정 높이(h)에 고정된 카메라(200)가 연직 방향으로부터 만큼 기울어진 각도로 디스플레이 장치(120)를 바라보고 있을 때, 도 3과 같이 세계 좌표계(W), 카메라 좌표계(C), 디스플레이 장치 좌표계(M)를 설정할 수 있다. 디스플레이 장치 좌표계(M)와 카메라 좌표계(C) 간의 변환을 라고 했을 때, 디스플레이 장치 좌표계(M) 상의 의 카메라 좌표계(C)에서의 위치는 다음 [수학식 1]과 같이 표현된다.Referring to FIG. 2, the mobile robot and the
[수학식 1][Equation 1]
여기서, 는 디스플레이 장치 좌표계(M)와 카메라 좌표계(C) 간의 변환이고, 는 공간상의 한 점 를 카메라 좌표계(C)로 나타낸 좌표값이고, 는 공간상의 한 점 를 디스플레이 장치 좌표계(M)로 나타낸 좌표값이다.here, Is a transformation between the display device coordinate system M and the camera coordinate system C, Is a point in space Is a coordinate value represented by the camera coordinate system (C) Is a point in space Is a coordinate value indicated by the display device coordinate system M.
이때, 카메라의 영상에서 의 위치는 다음 [수학식 2]와 같이 표현된다.At this time, Is expressed by the following equation (2).
[수학식 2]&Quot; (2) "
여기서, 는 공간상의 한 점 의 카메라 영상 상에서의 위치로, 단위는 픽셀이고 영상의 중심을 (0,0)으로 설정할 수 있다. 그리고 f는 카메라의 초점 거리이고, d는 이미지 센서에서 영상의 1 픽셀에 해당하는 부분의 길이이며, d는 해상도와 반비례 관계를 가질 수 있다. 디스플레이 장치(120)는 세계 좌표계(W)에서 XY 평면에 놓여있는 상태이기 때문에 을 항상 만족할 수 있다.here, Is a point in space , The unit is pixel and the center of the image can be set to (0, 0). F is the focal length of the camera, d is the length of the portion of the image corresponding to one pixel of the image, and d is in inverse proportion to the resolution. Since the
따라서, 디스플레이 장치(120) 상의 점에 대한 는 항상 을 만족하기 때문에 다음 [수학식 3]이 성립될 수 있다.Thus, for a point on the
[수학식 3]&Quot; (3) "
상기의 [수학식 3]을 이용하면 다음 [수학식 4]를 얻을 수 있다.Using Equation (3), the following Equation (4) can be obtained.
[수학식 4]&Quot; (4) "
이러한 관계식들을 바탕으로 카메라의 영상 위에서 점의 위치가 변할 때, 디스플레이 장치(120) 위에서의 점의 위치가 얼마나 변하는지를 보기 위해 자코비안(Jacobian)을 적용하면 다음 [수학식 5]를 얻을 수 있다.Based on these relational expressions, when Jacobian is applied to see how the position of the point on the
[수학식 5]&Quot; (5) "
이에 따라, 다음 [수학식 6]이 성립될 수 있다.Accordingly, the following equation (6) can be established.
[수학식 6]&Quot; (6) "
카메라의 영상에서의 디스플레이 장치(120)에서 표시된 특징점들의 분포가 체커보드와 같이 간격이 픽셀인 격자 구조를 가지도록 하려고 할 때, 와 는 0 또는 가 된다. , 는 영상 중심으로부터 점 까지의 픽셀 수를 나타내며, , 는 점 로부터 각각 X축, Y축 방향으로 벗어난 픽셀 수를 나타낼 수 있다. 즉, 카메라의 영상 위의 점 에서 x축으로 격자 1칸 이동하면 , 이 된다. 이러한 상황에서 디스플레이 장치 좌표계(M)에서의 변화량 , 은 에서의 Jacobian J의 각 원소들의 크기가 얼마인지에 의해 결정되는데, J의 원소들의 크기는 d가 증가할수록 증가하기 때문에 해상도가 커질수록 줄어들게 된다. 또한, 수평선 아래의 모든 점에서 가 줄어들수록, 가 커질수록 J의 원소들의 크기는 증가한다. The distribution of the feature points displayed on the
따라서, 영상에서 일정한 픽셀 간격의 격자무늬를 만들기 위해서는 해상도가 낮을수록, 가 낮을수록, 가 클수록 디스플레이 장치(120) 상에서 특징점들의 크기를 키우고, 이웃한 특징점들 간의 간격을 더 크게 배치해야 한다. 하지만 캘리브레이션을 수행하기 전에는 값을 모르는 상태이므로, 가 줄어드는 방향이 디스플레이 장치 좌표계(M) 상에서 어느 방향인지 알 수 없다.Therefore, in order to create a grid pattern having a constant pixel interval in an image, the lower the resolution, The lower, The size of the minutiae points on the
따라서, 에 독립적이기 위하여 , 인 부분에 대해 기본 패턴을 형성하고 이를 균일한 여러 각도로 회전하면서 얻어지는 패턴을 합쳐서 최종 패턴을 얻도록 할 수 있다. 인 경우, 와 는 반대 방향이므로, 이 커질수록 특징점의 크기와 간격이 커져야 한다.therefore, To be independent of , It is possible to obtain a final pattern by combining the patterns obtained by forming a basic pattern on a portion of the substrate and rotating it at various uniform angles. Quot; Wow Is in the opposite direction, The greater the size and spacing of the feature points.
도 4는 본 발명의 일 실시예에 따른 기본 패턴 마커의 형태를 보여주는 예시도를 나타낸다.FIG. 4 shows an exemplary diagram showing a basic pattern marker according to an embodiment of the present invention.
가변 패턴 마커(VM)는 적어도 하나의 기본 패턴 마커를 포함하고, 각 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다. 3개 이상의 특징점은 원형 특징점 및 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The variable pattern marker VM may include at least one basic pattern marker, and each basic pattern marker may be composed of three or more feature points. The three or more feature points may include a plurality of circular feature points and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature points.
도 4를 참조하면, 기본 패턴 마커는 한 개의 원형 특징점(CP) 및 제1 내지 제3 타원형 특징점(EP-1~EP-3)으로 이루어질 수 있다. 원형 특징점(CP)은 왜곡이 없는 원의 형태로 반경은 r, 제1 타원형 특징점(EP-1)의 장반경은 ar, 제2 타원형 특징점(EP-2)의 장반경은 a2r, 제3 타원형 특징점(EP-3)의 장반경은 a3r이고, a는 비례 상수이다. 원형 특징점(CP)의 중심과 원형 특징점(CP)으로부터 가장 가깝게 위치한 제1 타원형 특징점(EP-1)의 중심 간의 간격은 b이고, 제1 타원형 특징점(EP-1)의 중심과 제2 타원형 특징점(EP-2)의 중심 간의 간격은 ab이고, 제2 타원형 특징점(EP-2)의 중심과 제3 타원형 특징점(EP-3)의 중심 간의 간격은 a2b이다. 이와 같이, 초기 패턴 간의 간격은 b로 정하고, 비례 상수 a를 둬서 원형 특징점(CP)으로부터 타원형 특징점이 멀어질수록 a배만큼 간격과 크기가 커지도록 할 수 있다. 그리고 카메라(200)의 해상도가 커지면 원형 특징점(CP)의 반경을 작게 해도 되기 때문에 특징점의 개수를 늘릴 수 있고, 특징점의 개수가 늘어나면 가변 패턴 마커(VM)를 정확하게 인식할 수 있으므로 오차를 줄일 수 있게 된다.Referring to FIG. 4, the basic pattern marker may be composed of one circular feature point CP and first to third elliptical feature points EP-1 to EP-3. The circular feature points CP are in the form of a circle having no distortion. The radius is r, the long radius of the first elliptical feature point EP-1 is ar, the long radius of the second elliptical feature point EP-2 is a 2 r, The major axis of feature point (EP-3) is a 3 r, and a is a proportional constant. The distance between the center of the circular feature point CP and the center of the first elliptical feature point EP located closest to the circular feature point CP is b and the center of the first elliptical feature point EP- distance between the centers of (EP-2) is a center distance between the center of the third elliptical feature point (EP-3) of the ab, and the second elliptical feature point (EP-2) is a 2 b. As described above, the spacing between the initial patterns is set to b, and the spacing and size can be increased by a times as the elliptical feature points are further away from the circular feature points CP by putting the proportionality constant a. When the resolution of the
따라서, 카메라(200)의 해상도에 따라 원형 특징점의 반경(r), 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 거리(b) 및 비례 상수(a)가 가변될 수 있다.Therefore, the radius r of the circular feature point, the distance b between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point, and the proportionality constant a can be varied according to the resolution of the
도 4에서 카메라(200)가 의 반대 방향 상단에서 기본 패턴 마커를 촬영한다면 촬영된 이미지에는 원형 특징점(CP)를 포함하여 타원형 특징점(EP-1~EP-3)들이 대략 원형으로 나타날 것이다. 따라서 원형으로 나타난 특징점에 대한 인식율은 다른 모양이나 형태에 비하여 높기 때문에 도 4의 기본 패턴 마커를 이용하면 시스템에서 높은 정밀도를 가지는 캘리브레이션 파라미터를 결정할 수 있게 된다.4, when the
도 5는 본 발명의 일 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이고, 도 6은 본 발명의 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이며, 도 7은 본 발명의 또 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도를 나타낸다.FIG. 5 is an illustration of a variable pattern marker made up of a plurality of basic pattern markers according to an embodiment of the present invention, FIG. 6 is an illustration of an example of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention And FIG. 7 shows an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.
도 5를 참조하면, 가변 패턴 마커는 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다. 원형 특징점의 반경(r)이 1cm, 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b)이 3cm, 비례 상수(a)가 1.1이고, 회전각 간격이 60도일 경우, 한 변이 30cm인 디스플레이 장치에 표시되는 최종 가변 패턴 마커(VM)는 도 5와 같이 6개의 기본 패턴 마커(VM-1~VM-6)가 하나의 원형 특징점(CP)을 중심으로 60도로 회전된 형태로 배치될 수 있다. 가변 패턴 마커는 상기한 바와 같은 방식으로 얻어진 기본 패턴 마커를 원형 특징점을 기준으로 여러 각도로 회전시킨 것을 합친 형태로 구현할 수 있다.Referring to FIG. 5, the variable pattern marker may be formed of a plurality of basic pattern markers radially formed around circular feature points. The radius r of the circular feature point is 1 cm, the interval b between the centers of the circular feature points and the centers of the elliptical feature points located closest to the circular feature points is 3 cm, the proportionality constant a is 1.1, The final variable pattern marker VM displayed on the display device having a side of 30 cm is obtained by rotating the six basic pattern markers VM-1 to VM-6 about 60 times with respect to one circular feature point CP as shown in FIG. . ≪ / RTI > The variable pattern marker can be realized by combining basic pattern markers obtained in the above-described manner by rotating at various angles with respect to the circular feature points.
도 5와 같은 가변 패턴 마커를 임의의 방향에서 카메라(200)가 촬영하더라도 6개의 패턴(VM-1~VM-6) 중 어느 하나는 대략 원형에 가깝게 인식될 가능성이 높다. 따라서 캘리브레이션 시스템(1)은 가변 패턴 마커의 위치를 인식할 수 있고 결국 캘리브레이션 파라미터를 결정할 수 있다.Even if the
도 6을 참조하면, 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다. 가변 패턴 마커는 제1 내지 제9 기본 패턴 마커(VM-1~VM-9)로 이루어질 수 있는데, 예를 들어 제1 내지 제9 원형 특징점(CP-1~CP-9)이 Y축 방향을 따라 미리 정해진 간격으로 이격되어 배치되면 각 기본 패턴 마커에 대응하는 복수의 타원형 특징점은 X축 방향을 따라 미리 정해진 간격으로 이격되어 배치될 수 있다.Referring to FIG. 6, the variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction. For example, the first to ninth circular feature points CP-1 to CP-9 may be arranged in the Y-axis direction as the first to ninth basic pattern markers VM-1 to VM-9. The plurality of elliptical feature points corresponding to the basic pattern markers may be spaced apart at predetermined intervals along the X-axis direction.
그리고 카메라(200)의 촬영 방향에 따라 가변 패턴 마커의 방향이 결정될 수 있는데, 도 7과 같이, 카메라의 촬영 방향에 따라 도 6의 가변 패턴 마커의 방향이 회전되어 배치될 수 있다. 즉 카메라에서 촬영된 복수의 특징점 중 적어도 하나가 원의 형태로 보이도록 카메라의 방향에 따라 가변 패턴 마커의 방향을 결정할 수 있다.The direction of the variable pattern marker may be determined according to the photographing direction of the
이동 로봇(100)에 자이로 센서나 가속도 센서가 구비되어 있어서 카메라(200)와의 상대 위치를 알 수 있는 경우에는 카메라(200) 방향에 맞추어 가변 패턴 마커를 설정할 수 있다. 이것도 가변 패턴 마커가 카메라 영상에서 원형으로 나타나 마커의 인식을 용이하게 할 수 있다.When the
한편 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어질 수 있다. 예컨대, 가변 패턴 마커가 제1 내지 제4 기본 패턴 마커로 이루어진 경우, 제1 기본 패턴 마커를 이루고 있는 특징점들은 붉은 계열의 색상, 제2 기본 패턴 마커를 이루고 있는 특징점들은 노란 계열의 색상, 제3 기본 패턴 마커를 이루고 있는 특징점들은 녹색 계열의 색상, 제4 기본 패턴 마커를 이루고 있는 특징점들은 파랑 계열의 색상으로 이루어질 수 있다. 이에 따라 색상을 이용하여 이동 로봇(100과 카메라(200)의 방향을 판단할 수 있도록 한다. 즉 카메라에서 촬영된 영상의 색상에 따라 카메라가 어느 방향에서 촬영했는지 알 수 있게 된다.On the other hand, when the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers may be made of different colors. For example, when the variable pattern marker is composed of the first to fourth basic pattern markers, the characteristic points constituting the first basic pattern marker are red-colored, the characteristic points constituting the second basic pattern marker are the color of the yellow system, The characteristic points constituting the basic pattern marker may be a green-based color, and the characteristic points constituting the fourth basic pattern marker may be a blue-based color. Accordingly, it is possible to determine the direction of the
예를 들어 도 7에 보이는 것처럼 화살표 방향으로 카메라(200)가 촬영을 하는 것으로 이동 로봇(100)이 판단하는 경우 가변 패턴 마커를 도 7과 같이 생성하여 표시할 수 있으며, 따라서 카메라(200)가 촬영한 이미지에는 대략 원형의 특징점으로 나타날 수 있고, 결국 가변 패턴 마커를 잘 인식할 수 있어서 정밀한 캘리브레이션 파라미터를 결정할 수 있다.For example, when the
도 2를 다시 참조하면, 상술한 방식으로 계획되어 생성된 가변 패턴 마커를 디스플레이 장치(120)에 표시(S210)하고, 표시된 가변 패턴 마커를 카메라(200)가 촬영(S220)하면, 촬영된 카메라의 영상에서 가변 패턴 마커를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다(S230).Referring again to FIG. 2, the variable pattern markers generated and planned in the above-described manner are displayed on the display device 120 (S210). When the
이때, 가변 마커 패턴을 인식하는 과정은 다음과 같다.The process of recognizing the variable marker pattern is as follows.
가변 마커 패턴의 형태를 알고 있기 때문에 3차원 영상 카메라의 영상에 아핀 불변 템플릿 매칭을 이용하여 인식을 수행할 수 있다. 이 방식을 통해 각 특징점들의 영상에서의 위치를 인식하고, 3차원 영상 카메라의 깊이 정보를 활용하여 카메라 좌표계 상에서의 각 특징점들의 좌표값을 계산할 수 있다. 이때, 원형 특징점의 반경(r), 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)를 알고 있으면 2차원 영상 카메라의 영상을 이용하여 카메라 좌표계 상에서의 각 특징점들의 좌표값을 계산할 수 있음은 물론이다.Since the shape of the variable marker pattern is known, it is possible to perform recognition using the affine invariant template matching on the image of the three-dimensional image camera. Through this method, the position of each feature point in the image can be recognized, and the coordinate value of each feature point on the camera coordinate system can be calculated using the depth information of the 3D image camera. At this time, if the radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point and the proportional constant (a) are known, The coordinate values of the respective minutiae can be calculated.
그리고, 인식된 가변 패턴 마커의 정보를 이용하여 카메라 좌표계와 로봇 좌표계 간의 파라미터를 결정하는 방법은 다음과 같다. A method for determining the parameter between the camera coordinate system and the robot coordinate system using the information of the recognized variable pattern marker is as follows.
우선, 로봇 좌표계 상에서 디스플레이 장치(120)의 위치는 고정되어 있기 때문에 로봇 좌표계 기준에서 가변 패턴 마커의 특징점들에 대한 좌표를 알 수 있다. 이를 카메라(200)를 통해 추출한 가변 패턴 마커의 특징점들의 카메라 좌표계 상에서의 좌표값과 함께 사용하여 두 특징점들 간의 상대적 변환을 계산하여 캘리브레이션 파라미터를 얻을 수 있다. 디스플레이 장치(120)를 매개로 하여 얻은 카메라 좌표계와 로봇 좌표계 간의 캘리브레이션 파라미터를 사용하여 카메라 좌표계 상에서 파악된 작업 물체의 위치 정보를 로봇 좌표계로 변환함으로써 로봇 좌표계 기준에서의 작업 물체의 위치를 파악할 수 있다. First, since the position of the
과 는 카메라 좌표계와 로봇 좌표계 간의 관계를 규정하고 있는 4x4 행렬 (RTC = [4x4] )들로 상호 역행렬 관계 ( = {}- 1)에 있다. 이 변환 행렬은 3x3의 자세 변환 행렬(R3X3)과 좌표계 원점의 위치 변환 행렬()로 다음 [수학식 7]과 같이 결정된다. and Is a 4 × 4 matrix ( R T C = [4 × 4]) that defines the relationship between the camera coordinate system and the robot coordinate system. = { } - 1 ). This transformation matrix is composed of a 3x3 attitude transformation matrix (R 3X 3 ) and a position transformation matrix of the origin of the coordinate system ) Is determined according to the following equation (7).
[수학식 7]&Quot; (7) "
자세 변환 행렬은 3개의 단위 방향 벡터로 결정되는데, 3개의 방향 벡터는 상호 수직인 관계에 있으며, 이 관계는 다음 [수학식 8]과 같다. The posture conversion matrix is determined by three unit direction vectors. The three direction vectors are perpendicular to each other, and this relationship is expressed by Equation (8).
[수학식 8]&Quot; (8) "
R3X3 = ]R 3X 3 = ]
= X = X
결정될 파라미터의 수가 방향 변환 3개, 위치 변환 3개로 총 6개의 정보가 필요하기에 동일직선상이 아닌 가변 패턴 마커들이 최소 3개 이상이면 결정될 수 있으나, 4개 이상의 가변 패턴 마커들을 사용하여 위치 오차 최소자승법들을 이용하여 캘리브레이션의 정밀도를 향상시킬 수 있다. 가변 마커 패턴에 대한 로봇 좌표계와 카메라 좌표계의 관계는 다음 [수학식 9]와 같다.The number of parameters to be determined can be determined by using three or more variable pattern markers. However, if more than three variable pattern markers are used, The accuracy of the calibration can be improved by using square methods. The relationship between the robot coordinate system and the camera coordinate system with respect to the variable marker pattern is expressed by the following equation (9).
[수학식 9]&Quot; (9) "
RP(M) = * CP(M) R P (M) = * C P (M)
캘리브레이션 이후 작업 물체의 위치를 로봇 좌표계로 변환하는 방식에 대해 설명하면, 로봇 좌표계 내에서의 작업 물체(O)의 위치는 좌표 변환 행렬과 카메라 좌표계 내에서의 물체(O)와 가변 패턴 마커의 위치를 통하여 다음 [수학식 10]과 같이 구해질 수 있다.The position of the work object O in the robot coordinate system is determined by the coordinate conversion matrix and the position of the object O in the camera coordinate system and the position of the variable pattern marker in the camera coordinate system Can be obtained through the following equation (10).
[수학식 10]&Quot; (10) "
RP(O) = * CP(O) R P (O) = * C P (O)
그리고, 이동 로봇(100)은 이 정보를 활용하여 물체를 조작하거나 충돌을 회피할 수 있다. Then, the
이와 같이, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 사람의 개입 없이 자동으로 계획 및 생성하여 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있다.As described above, the variable pattern markers considering the resolution of the camera are automatically planned, displayed, and displayed on the display device installed in the mobile robot without human intervention, and the variable pattern markers displayed are recognized to perform calibration with high accuracy have.
본 발명의 실시예는 다양한 컴퓨터로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터로 읽을 수 있는 매체를 포함한다. 이 매체는 앞서 설명한 이동 로봇과 카메라의 캘리브레이션 방법을 실행시키기 위한 프로그램을 기록한다. 이 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 이러한 매체의 예에는 하드디스크, 플로피디스크 및 자기 테이프와 같은 자기 매체, CD 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 자기-광 매체, 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 구성된 하드웨어 장치 등이 있다. 또는 이러한 매체는 프로그램 명령, 데이터 구조 등을 지정하는 신호를 전송하는 반송파를 포함하는 광 또는 금속선, 도파관 등의 전송 매체일 수 있다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.Embodiments of the present invention include a computer-readable medium having program instructions for performing various computer-implemented operations. This medium records a program for executing the above-described method of calibrating the mobile robot and the camera. The medium may include program instructions, data files, data structures, etc., alone or in combination. Examples of such media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD and DVD, programmed instructions such as floptical disk and magneto-optical media, ROM, RAM, And a hardware device configured to store and execute the program. Or such medium may be a transmission medium, such as optical or metal lines, waveguides, etc., including a carrier wave that transmits a signal specifying a program command, data structure, or the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like.
이상에서 본 발명의 바람직한 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, Of the right.
1: 이동 로봇과 카메라의 캘리브레이션 시스템
100: 이동 로봇
120: 디스플레이 장치
200: 카메라
300: 제어 장치1: Mobile robot and camera calibration system
100: Mobile robot
120: display device
200: camera
300: Control device
Claims (18)
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변되는 이동 로봇과 카메라의 캘리브레이션 방법.A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
(B) and a proportional constant (a) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point are varied according to the resolution of the camera, / RTI >
상기 가변 패턴 마커의 모양과 크기는,
상기 카메라의 해상도에 따라 결정되는 이동 로봇과 카메라의 캘리브레이션 방법.The method of claim 1,
The shape and size of the variable-
The method of claim 1, wherein the moving robot and the camera are determined according to a resolution of the camera.
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 방법.A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
The variable-
And a plurality of basic pattern markers radially formed around the circular feature points.
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 방법.A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
The variable-
And a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
상기 미리 설정된 방향은,
상기 카메라의 촬영 방향에 대응하는 방향인 이동 로봇과 카메라의 캘리브레이션 방법.8. The method of claim 7,
The predetermined direction is a direction
Wherein the camera is a direction corresponding to a photographing direction of the camera.
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고,
상기 색상을 이용하여 상기 카메라의 방향을 판단하는 이동 로봇과 카메라의 캘리브레이션 방법.A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors,
And determining the direction of the camera using the color.
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변되는 이동 로봇과 카메라의 캘리브레이션 시스템A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
(B) and a proportional constant (a) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point are varied according to the resolution of the camera, Calibration System
상기 가변 패턴 마커의 모양과 크기는,
상기 카메라의 해상도에 따라 결정되는 이동 로봇과 카메라의 캘리브레이션 시스템.11. The method of claim 10,
The shape and size of the variable-
Wherein the mobile robot and the camera are calibrated according to the resolution of the camera.
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 시스템.A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
The variable-
And a plurality of basic pattern markers radially formed around the circular feature points.
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 시스템.A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
The variable-
And a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
상기 미리 설정된 방향은,
상기 카메라의 촬영 방향에 대응하는 방향인 이동 로봇과 카메라의 캘리브레이션 시스템.17. The method of claim 16,
The predetermined direction is a direction
Wherein the camera is a direction corresponding to a photographing direction of the camera.
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고,
상기 제어 장치는,
상기 색상을 이용하여 상기 카메라의 방향을 판단하는 이동 로봇과 카메라의 캘리브레이션 시스템.A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors,
The control device includes:
And determining the direction of the camera using the color.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160101397A KR101850118B1 (en) | 2016-08-09 | 2016-08-09 | Method and System for Calibration of Mobile Robot and Camera |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160101397A KR101850118B1 (en) | 2016-08-09 | 2016-08-09 | Method and System for Calibration of Mobile Robot and Camera |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180017503A KR20180017503A (en) | 2018-02-21 |
KR101850118B1 true KR101850118B1 (en) | 2018-04-19 |
Family
ID=61524575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160101397A Active KR101850118B1 (en) | 2016-08-09 | 2016-08-09 | Method and System for Calibration of Mobile Robot and Camera |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101850118B1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150128779A (en) | 2013-03-11 | 2015-11-18 | 유니버시티 오브 플로리다 리서치 파운데이션, 인크. | Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications |
CN109807605A (en) * | 2019-03-25 | 2019-05-28 | 广东利迅达机器人系统股份有限公司 | A kind of inclined installation method of mobile phone installation equipment |
WO2023063645A1 (en) * | 2021-10-14 | 2023-04-20 | 네이버랩스 주식회사 | Method for measuring pose of robot and robot system using same |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114895680A (en) * | 2022-05-20 | 2022-08-12 | 上海交通大学 | A mobile robot vision positioning system and method |
KR102770745B1 (en) | 2024-08-19 | 2025-02-24 | 주식회사 프로닉스 | Articulated robot system with easy-to calibration for camera sensor |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2690603B2 (en) * | 1990-05-30 | 1997-12-10 | ファナック株式会社 | Vision sensor calibration method |
KR100698534B1 (en) * | 2005-11-04 | 2007-03-22 | 재단법인 포항산업과학연구원 | Landmark for location recognition of mobile robot and location recognition device and method using same |
JP5213183B2 (en) * | 2009-07-14 | 2013-06-19 | 独立行政法人科学技術振興機構 | Robot control system and robot control program |
JP2015182144A (en) * | 2014-03-20 | 2015-10-22 | キヤノン株式会社 | Robot system and calibration method of robot system |
-
2016
- 2016-08-09 KR KR1020160101397A patent/KR101850118B1/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2690603B2 (en) * | 1990-05-30 | 1997-12-10 | ファナック株式会社 | Vision sensor calibration method |
KR100698534B1 (en) * | 2005-11-04 | 2007-03-22 | 재단법인 포항산업과학연구원 | Landmark for location recognition of mobile robot and location recognition device and method using same |
JP5213183B2 (en) * | 2009-07-14 | 2013-06-19 | 独立行政法人科学技術振興機構 | Robot control system and robot control program |
JP2015182144A (en) * | 2014-03-20 | 2015-10-22 | キヤノン株式会社 | Robot system and calibration method of robot system |
Non-Patent Citations (1)
Title |
---|
일본 특허공보 특허 제 5213183호(2013.06.19.) 1부. * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150128779A (en) | 2013-03-11 | 2015-11-18 | 유니버시티 오브 플로리다 리서치 파운데이션, 인크. | Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications |
KR20190040091A (en) | 2013-03-11 | 2019-04-16 | 유니버시티 오브 플로리다 리서치 파운데이션, 인크. | Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications |
KR20190104250A (en) | 2013-03-11 | 2019-09-06 | 유니버시티 오브 플로리다 리서치 파운데이션, 인크. | Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications |
CN109807605A (en) * | 2019-03-25 | 2019-05-28 | 广东利迅达机器人系统股份有限公司 | A kind of inclined installation method of mobile phone installation equipment |
WO2023063645A1 (en) * | 2021-10-14 | 2023-04-20 | 네이버랩스 주식회사 | Method for measuring pose of robot and robot system using same |
KR102690238B1 (en) * | 2021-10-14 | 2024-08-05 | 네이버 주식회사 | Method of pose estimation and robot system using the same method |
Also Published As
Publication number | Publication date |
---|---|
KR20180017503A (en) | 2018-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101850118B1 (en) | Method and System for Calibration of Mobile Robot and Camera | |
US11413753B2 (en) | Robotic system control method and controller | |
JP6573354B2 (en) | Image processing apparatus, image processing method, and program | |
CN104249371B (en) | Information processor and information processing method | |
KR101864949B1 (en) | Method for building a grid map with mobile robot unit | |
CN111590593B (en) | Calibration method, device and system of mechanical arm and storage medium | |
CN109822568B (en) | Robot control method, system and storage medium | |
KR102452315B1 (en) | Apparatus and method of robot control through vision recognition using deep learning and marker | |
WO2022107684A1 (en) | Device for adjusting parameter, robot system, method, and computer program | |
CN110000793A (en) | A kind of motion planning and robot control method, apparatus, storage medium and robot | |
US11941852B2 (en) | Three-dimensional measurement device, three-dimensional measurement method, and three-dimensional measurement program | |
WO2019176450A1 (en) | Information processing device, information processing method, and program | |
JP2023505322A (en) | Method and system for programming robots | |
EP4524679A1 (en) | Method of locating a remotely operated vehicle within a workspace and remote inspection system employing such method | |
CN109664291A (en) | A kind of bootstrap technique of robot | |
JP7660686B2 (en) | ROBOT CONTROL DEVICE, ROBOT CONTROL SYSTEM, AND ROBOT CONTROL METHOD | |
JP5703890B2 (en) | Recognition object, object recognition apparatus and program, object recognition system | |
JP2013010160A (en) | Robot control system, robot system, and marker processing method | |
TWI656421B (en) | Control method of self-propelled equipment | |
JP2023011454A (en) | Three-dimensional design data creation method, construction work method, three-dimensional design data creation system, and three-dimensional design data creation program | |
TWI813480B (en) | Cluster data synthesis apparatus, method, system, and computer-readable medium | |
EP3959049B1 (en) | Performance arena for robots with position location system | |
JP7278637B2 (en) | Self-propelled moving device | |
CN118992839A (en) | Container lock hole identification method and system and engineering vehicle | |
JPH0371043B2 (en) |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20160809 |
|
PA0201 | Request for examination | ||
PG1501 | Laying open of application | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20180405 Patent event code: PE09021S01D |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20180411 |
|
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20180412 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20180412 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20210401 Start annual number: 4 End annual number: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20220325 Start annual number: 5 End annual number: 5 |
|
PR1001 | Payment of annual fee |
Payment date: 20230323 Start annual number: 6 End annual number: 6 |