[go: up one dir, main page]

KR101850118B1 - Method and System for Calibration of Mobile Robot and Camera - Google Patents

Method and System for Calibration of Mobile Robot and Camera Download PDF

Info

Publication number
KR101850118B1
KR101850118B1 KR1020160101397A KR20160101397A KR101850118B1 KR 101850118 B1 KR101850118 B1 KR 101850118B1 KR 1020160101397 A KR1020160101397 A KR 1020160101397A KR 20160101397 A KR20160101397 A KR 20160101397A KR 101850118 B1 KR101850118 B1 KR 101850118B1
Authority
KR
South Korea
Prior art keywords
camera
pattern marker
variable pattern
variable
feature points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020160101397A
Other languages
Korean (ko)
Other versions
KR20180017503A (en
Inventor
지상훈
유수정
김홍석
양광웅
이상형
김지웅
한재성
Original Assignee
한국생산기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원 filed Critical 한국생산기술연구원
Priority to KR1020160101397A priority Critical patent/KR101850118B1/en
Publication of KR20180017503A publication Critical patent/KR20180017503A/en
Application granted granted Critical
Publication of KR101850118B1 publication Critical patent/KR101850118B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1692Calibration of manipulator
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/023Optical sensing devices including video camera means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • B25J9/1666Avoiding collision or forbidden zones
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • B25J9/1676Avoiding collision or forbidden zones

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Manipulator (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

본 발명은 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것으로, 본 발명의 일 실시예에 따른 방법은 가변 패턴 마커를 계획하여 생성하는 단계, 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계, 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고 촬영된 카메라의 영상에서 가변 패턴 마커를 인식하여 이동 로봇과 카메라의 캘리브레이션 파라미터를 결정하는 단계를 포함한다. 본 발명에 의하면, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있다.The present invention relates to a method and a system for calibrating a mobile robot and a camera, and a method according to an embodiment of the present invention includes planning and generating a variable pattern marker, generating the generated variable pattern marker on a display device A step of photographing the displayed variable pattern marker by the camera, and a step of recognizing the variable pattern marker in the image of the photographed camera and determining the calibration parameters of the mobile robot and the camera. According to the present invention, a variable pattern marker in which the resolution of a camera is considered is displayed on a display device provided in a mobile robot, and a calibration with high accuracy can be performed by recognizing a displayed variable pattern marker.

Description

이동 로봇과 카메라의 캘리브레이션 방법 및 시스템{Method and System for Calibration of Mobile Robot and Camera}TECHNICAL FIELD [0001] The present invention relates to a method and a system for calibrating a mobile robot and a camera,

본 발명은 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것으로, 보다 자세하게는 이동 로봇과 카메라의 캘리브레이션 파라미터(Calibration parameter)를 결정하는 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method and system for calibrating a mobile robot and a camera, and more particularly, to a method and system for calibrating a mobile robot and a camera that determine calibration parameters of a mobile robot and a camera.

로봇이 작업을 수행하기 위해서 로봇 주변의 환경정보와 물체정보를 정확하게 인식해야 한다. 이를 위하여 로봇 자체에 카메라를 부착하여 사용할 수도 있으나 로봇의 공간상 제약으로 인해 로봇에는 해상도가 높지 않고 크기가 작은 카메라를 부착하여 사용하고, 그 대신 작업할 주변에 고해상도 카메라를 고정하여 사용한다.In order to perform the task, the robot must accurately recognize environmental information and object information around the robot. For this purpose, it is possible to attach a camera to the robot itself. However, due to the space limitation of the robot, a robot having a low resolution and a small size is attached to the robot. Instead, a high resolution camera is fixed around the robot.

종래에는 이와 같이 로봇 작업에서 조작 로봇과 카메라가 고정되어 사용되어 왔는데, 최근 모바일 매니퓰레이터 등이 도입되면서 이동 로봇과 카메라 간의 위치 관계가 변화될 수 있게 되었다. 따라서, 모바일 매니퓰레이터의 정교한 핸들링 작업을 위해서는 빈번하게 캘리브레이션 (Calibration)이 수행되어야 한다.Conventionally, an operation robot and a camera have been fixed and used in the robot operation. Recently, the positional relationship between the mobile robot and the camera can be changed by introducing a mobile manipulator and the like. Therefore, frequent calibration must be performed for the sophisticated handling of the mobile manipulator.

캘리브레이션은 카메라를 통해 보이는 조작 물체에 대한 이미지 데이터 값을 로봇의 좌표계로 변환하는 것을 말한다. 즉, 로봇이 물체를 잡거나 그 물체의 위치로 이동하고자 할 때에는 로봇이 반드시 그 물체의 위치를 알고 있어야 하는데, 캘리브레이션은 로봇이 카메라를 통해 보이는 물체의 위치를 정확히 알 수 있도록 하는 것이다.Calibration refers to the conversion of image data values for an operating object viewed through a camera into a robot coordinate system. That is, when the robot holds an object or tries to move to the position of the object, the robot must know the position of the object. The calibration is to allow the robot to accurately know the position of the object viewed through the camera.

이러한 캘리브레이션을 수행하기 위하여 로봇의 기구부에 랜드마크를 부착하고 카메라가 이를 촬영하여 인식한 후 캘리브레이션하는 방법을 사용하고 있다. 그런데 이 방법을 사용할 경우 랜드마크가 로봇에 정교하게 부착되어야 하며, 랜드마크가 카메라 좌표계의 특정 위치에 있는 경우 카메라 해상도가 부족하면 캘리브레이션의 정밀도가 낮아질 수 있다.In order to perform such calibration, a landmark is attached to a mechanical part of the robot, and a camera captures and recognizes and then calibrates the method. However, if this method is used, the landmark must be attached to the robot in a precise manner, and if the landmark is located at a specific position in the camera coordinate system, the accuracy of the calibration may be lowered if the camera resolution is insufficient.

한국공개특허공보 제2007-0122271호 (공개일 2007. 12. 31.)Korean Unexamined Patent Publication No. 2007-0122271 (published on December 31, 2007)

따라서 본 발명이 해결하고자 하는 기술적 과제는 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있는 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템을 제공하는 것이다.SUMMARY OF THE INVENTION Accordingly, it is an object of the present invention to provide a mobile robot capable of displaying a variable pattern marker in which a resolution of a camera is considered in a display device installed in a mobile robot and recognizing a displayed variable pattern marker, And a method and system for calibrating a camera.

또한, 본 발명은 명시적으로 언급된 목적 이외에도, 후술하는 본 발명의 구성으로부터 달성될 수 있는 다른 목적도 포함한다.Further, the present invention includes other objects that can be achieved from the construction of the present invention described later, in addition to the objects explicitly mentioned.

상기한 기술적 과제를 해결하기 위한 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 방법은 가변 패턴 마커를 계획하여 생성하는 단계, 상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계, 상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고 상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계를 포함한다.According to another aspect of the present invention, there is provided a method of calibrating a mobile robot and a camera, the method comprising: generating and planning a variable pattern marker; displaying the generated variable pattern marker on a display device mounted on the mobile robot; Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker in the image of the photographed camera;

상기 가변 패턴 마커의 모양과 크기는 상기 카메라의 해상도에 따라 결정될 수 있다.The shape and size of the variable pattern marker may be determined according to the resolution of the camera.

상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고, 상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다.The variable pattern marker may include at least one basic pattern marker, and the basic pattern marker may include at least three characteristic points.

상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The three or more feature points may include circular feature points and a plurality of elliptical feature points that become longer from the circular feature points to longer ones.

상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변될 수 있다.The radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point may be varied according to the resolution of the camera.

상기 가변 패턴 마커는 상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern marker may be composed of a plurality of basic pattern markers radially formed around the circular feature points.

상기 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.

상기 미리 설정된 방향은 상기 카메라의 촬영 방향에 대응하는 방향일 수 있다.The predetermined direction may be a direction corresponding to the photographing direction of the camera.

상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고, 상기 색상을 이용하여 상기 카메라의 방향을 판단할 수 있다.When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors, and the direction of the camera can be determined using the colors.

한편, 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템은 가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇, 상기 가변 패턴 마커를 촬영하는 카메라, 그리고 상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치를 포함한다.Meanwhile, the mobile robot and the camera calibration system according to the embodiment of the present invention may include a mobile robot having a display device on which variable pattern markers are displayed, a camera for photographing the variable pattern markers, And a controller for recognizing the marker and determining the calibration parameters of the mobile robot and the camera.

상기 가변 패턴 마커의 모양과 크기는 상기 카메라의 해상도에 따라 결정될 수 있다.The shape and size of the variable pattern marker may be determined according to the resolution of the camera.

상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고, 상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다.The variable pattern marker may include at least one basic pattern marker, and the basic pattern marker may include at least three characteristic points.

상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The three or more feature points may include circular feature points and a plurality of elliptical feature points that become longer from the circular feature points to longer ones.

상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변될 수 있다.The radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point may be varied according to the resolution of the camera.

상기 가변 패턴 마커는 상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern marker may be composed of a plurality of basic pattern markers radially formed around the circular feature points.

상기 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다.The variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.

상기 미리 설정된 방향은 상기 카메라의 촬영 방향에 대응하는 방향일 수 있다.The predetermined direction may be a direction corresponding to the photographing direction of the camera.

상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고, 상기 제어 장치는 상기 색상을 이용하여 상기 카메라의 방향을 판단할 수 있다.When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors, and the controller can determine the direction of the camera using the color.

이와 같이 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 방법 및 시스템에 따르면, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있으며, 상대적으로 해상도가 낮은 카메라를 사용할 수 있다.According to the method and system for calibrating a mobile robot and a camera according to an embodiment of the present invention, a variable pattern marker having a resolution of a camera is displayed on a display device installed in the mobile robot, a variable pattern marker displayed is recognized, Can be performed, and a camera having a relatively low resolution can be used.

사람의 개입 없이 가변 패턴 마커를 계획하여 표시하고 인식할 수 있으며, 이동 로봇이 스스로 작업장 주변에 설치된 정교한 카메라 영상 정보를 활용할 수 있게 된다.It is possible to plan and display and recognize the variable pattern marker without human intervention, and the mobile robot can utilize the sophisticated camera image information installed around the worksite by itself.

이에 따라, 자동 무인화 공정에서 활용성이 높을 것으로 기대되며 이러한 캘리브레이션 기술은 개인 서비스 로봇에서부터 전문 서비스 로봇에 이르기까지 폭넓게 적용될 수 있다.Accordingly, it is expected to be highly utilizable in an automatic unmanned process, and such a calibration technique can be widely applied from a personal service robot to a professional service robot.

한편, 본 발명의 효과는 상술된 것에 국한되지 않고 후술하는 본 발명의 구성으로부터 도출될 수 있는 다른 효과도 본 발명의 효과에 포함된다.On the other hand, the effects of the present invention are not limited to those described above, and other effects that can be derived from the constitution of the present invention described below are also included in the effects of the present invention.

도 1은 본 발명의 일 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템의 구성도이다.
도 2는 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 과정을 보여주는 동작 흐름도이다.
도 3은 로봇 좌표계와 카메라 좌표계 간의 상대적 위치를 나타낸 도면이다.
도 4는 본 발명의 일 실시예에 따른 기본 패턴 마커의 형태를 보여주는 예시도이다.
도 5는 본 발명의 일 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.
도 6은 본 발명의 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.
도 7은 본 발명의 또 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이다.
1 is a configuration diagram of a mobile robot and a camera calibration system according to an embodiment of the present invention.
FIG. 2 is a flowchart illustrating a process of calibrating a mobile robot and a camera according to an exemplary embodiment of the present invention.
3 is a view showing a relative position between a robot coordinate system and a camera coordinate system.
FIG. 4 is an exemplary diagram illustrating a basic pattern marker according to an exemplary embodiment of the present invention. Referring to FIG.
5 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to an embodiment of the present invention.
6 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.
7 is an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.

그러면 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention.

도 1은 본 발명의 일 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 시스템의 구성도를 나타낸다.FIG. 1 shows a configuration diagram of a mobile robot and a camera calibration system according to an embodiment of the present invention.

도 1에 도시한 바와 같이, 이동 로봇과 카메라의 캘리브레이션 시스템(1)은 이동 로봇(100), 카메라(200) 및 제어 장치(300)를 포함하여 구성된다.1, the mobile robot and the camera calibration system 1 are configured to include a mobile robot 100, a camera 200, and a control device 300. [

이동 로봇(100)은 이동하며 작업을 수행할 수 있으며, 디스플레이 장치(120)가 설치될 수 있다. 디스플레이 장치(120)는 이동 로봇(100)과 카메라(200)의 캘리브레이션(Calibration)을 위한 가변 패턴 마커(VM)가 표시될 수 있다. 가변 패턴 마커(VM)는 디스플레이 장치(120)에서 생성되거나 이동 로봇(100) 또는 제어 장치(300)에서 생성될 수 있다. 이동 로봇(100) 또는 제어 장치(300)에서 가변 패턴 마커(VM)가 생성될 경우, 디스플레이 장치(120)는 이동 로봇(100) 또는 제어 장치(300)와의 통신을 통해 가변 패턴 마커(VM)에 대한 정보를 전달받아 화면표시수단에 표시할 수 있다.The mobile robot 100 can move and perform operations, and the display device 120 can be installed. The display device 120 may display a variable pattern marker VM for calibrating the mobile robot 100 and the camera 200. [ The variable pattern marker VM may be generated in the display device 120 or may be generated in the mobile robot 100 or the control device 300. [ When the variable pattern marker VM is generated in the mobile robot 100 or the control device 300, the display device 120 transmits the variable pattern marker VM to the mobile robot 100 or the control device 300, Can be received and displayed on the screen display means.

가변 패턴 마커(VM)는 3개 이상의 특징점으로 이루어질 수 있으며, 카메라(200)의 해상도에 따라 모양과 크기가 가변될 수 있다. 카메라(200)의 해상도에 따라 모양과 크기가 가변되는 가변 패턴 마커(VM)에 대해서는 하기의 도 3에서 보다 자세하게 설명하도록 한다.The variable pattern marker VM may be composed of three or more feature points, and the shape and size of the variable pattern marker VM may vary depending on the resolution of the camera 200. The variable pattern marker VM whose shape and size are variable according to the resolution of the camera 200 will be described in more detail with reference to FIG.

카메라(200)는 세계 좌표계(W)를 기준으로 이동 로봇(100)이 작업하는 공간의 지정된 위치에 고정 설치될 수 있으며, 이동 로봇(100)의 작업을 위해 필요한 영상을 획득할 수 있다. 카메라(200)는 2차원 영상 카메라 또는 3차원 영상 카메라로 구성되어 2차원 카메라 영상 또는 3차원 카메라 영상을 획득할 수 있다.The camera 200 can be fixedly installed at a designated position in the space where the mobile robot 100 operates based on the world coordinate system W and can acquire an image necessary for the operation of the mobile robot 100. The camera 200 may include a two-dimensional image camera or a three-dimensional image camera to obtain a two-dimensional camera image or a three-dimensional camera image.

그리고 카메라(200)는 이동 로봇(100)과의 캘리브레이션을 위해 디스플레이 장치(120)에서 표시되는 가변 패턴 마커(VM)를 촬영한 카메라의 영상을 획득할 수 있다.The camera 200 can acquire an image of a camera that has photographed the variable pattern marker VM displayed on the display device 120 for calibration with the mobile robot 100.

제어 장치(300)는 카메라(200)의 영상에서 가변 패턴 마커(VM)를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다. The control device 300 can recognize the calibration parameters of the mobile robot 100 and the camera 200 by recognizing the variable pattern marker VM from the image of the camera 200. [

보다 자세하게는, 제어 장치(300)는 이동 로봇(100)이 작업을 수행하는 동안 로봇 좌표계(R)와 카메라 좌표계(C) 간의 상대적인 변환을 얻는 캘리브레이션을 수행할 수 있다. 이동 로봇(100)과 카메라(200)의 캘리브레이션을 수행하기 위해서는 3개 이상의 특징점이 필요한데, 이를 위하여 이동 로봇(100)에 부착된 디스플레이 장치(120)에서는 3개 이상의 특징점들로 구성된 가변 패턴 마커(VM)를 표시하고, 제어 장치(300)에서는 카메라(200)가 가변 패턴 마커를 촬영한 영상으로부터 가변 패턴 마커(VM)를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다.More specifically, the control device 300 can perform calibration to obtain a relative conversion between the robot coordinate system R and the camera coordinate system C while the mobile robot 100 performs an operation. In order to perform the calibration of the mobile robot 100 and the camera 200, three or more feature points are required. To this end, in the display device 120 attached to the mobile robot 100, a variable pattern marker composed of three or more feature points The controller 200 recognizes the variable pattern marker VM from the image of the variable pattern marker taken by the camera 200 and determines the calibration parameters of the mobile robot 100 and the camera 200 have.

이와 같이 캘리브레이션 파라미터가 결정되면 카메라(200)가 인식한 영상정보에서 획득된 환경 및 물체 정보를 로봇 좌표계(R)로 변환한 후, 이동 로봇(100)은 이 정보를 활용하여 물체를 조작하거나 충돌을 회피하게 된다. 이동 로봇(100)은 산업용 로봇이 사용되는 작업 현장에서, 예를 들어, 공급기에 의해 공급되는 부품의 피킹, 부품 조립, 픽 앤드 플레이스 및 부품 상세 검사 등 다양한 응용분야에 활용될 수 있다.After the calibration parameters are determined, the environment and object information obtained from the image information recognized by the camera 200 are converted into the robot coordinate system R. Then, the mobile robot 100 manipulates the object using the information, . The mobile robot 100 can be used in various applications such as picking parts supplied by a feeder, parts assembly, pick-and-place, and parts detail inspection at a work site where an industrial robot is used.

이하에서는 본 발명의 일 실시예에 따라 이동 로봇과 카메라의 캘리브레이션을 수행하는 과정에 대하여 보다 자세하게 설명하도록 한다.Hereinafter, the process of performing the calibration of the mobile robot and the camera according to an embodiment of the present invention will be described in more detail.

도 2는 본 발명의 실시예에 따른 이동 로봇과 카메라의 캘리브레이션 과정을 보여주는 동작 흐름도이고, 도 3은 로봇 좌표계와 카메라 좌표계 간의 상대적 위치를 나타낸 도면이다.FIG. 2 is a flowchart illustrating a process of calibrating a mobile robot and a camera according to an exemplary embodiment of the present invention, and FIG. 3 is a diagram illustrating a relative position between a robot coordinate system and a camera coordinate system.

도 2를 참조하면, 이동 로봇과 카메라의 캘리브레이션 시스템(1)은 가변 패턴 마커(VM)를 계획하여 생성할 수 있다(S200). 이동 로봇(100)에 설치되어 있는 디스플레이 장치(120)가 세계 좌표계(W)를 기준으로 XY 평면에 놓여 있고, 일정 높이(h)에 고정된 카메라(200)가 연직 방향으로부터

Figure 112016077337817-pat00001
만큼 기울어진 각도로 디스플레이 장치(120)를 바라보고 있을 때, 도 3과 같이 세계 좌표계(W), 카메라 좌표계(C), 디스플레이 장치 좌표계(M)를 설정할 수 있다. 디스플레이 장치 좌표계(M)와 카메라 좌표계(C) 간의 변환을
Figure 112016077337817-pat00002
라고 했을 때, 디스플레이 장치 좌표계(M) 상의
Figure 112016077337817-pat00003
의 카메라 좌표계(C)에서의 위치는 다음 [수학식 1]과 같이 표현된다.Referring to FIG. 2, the mobile robot and the camera calibration system 1 can generate a variable pattern marker VM (S200). The display device 120 installed in the mobile robot 100 is placed in the XY plane with respect to the world coordinate system W and the camera 200 fixed at a predetermined height h is moved from the vertical direction
Figure 112016077337817-pat00001
The world coordinate system W, the camera coordinate system C, and the display device coordinate system M can be set as shown in FIG. 3 when the display device 120 is viewed at an angle inclined by a predetermined angle. The conversion between the display device coordinate system (M) and the camera coordinate system (C)
Figure 112016077337817-pat00002
(M) of the display device coordinate system
Figure 112016077337817-pat00003
The position in the camera coordinate system C is represented by the following equation (1).

[수학식 1][Equation 1]

Figure 112016077337817-pat00004
Figure 112016077337817-pat00004

여기서,

Figure 112016077337817-pat00005
는 디스플레이 장치 좌표계(M)와 카메라 좌표계(C) 간의 변환이고,
Figure 112016077337817-pat00006
는 공간상의 한 점
Figure 112016077337817-pat00007
를 카메라 좌표계(C)로 나타낸 좌표값이고,
Figure 112016077337817-pat00008
는 공간상의 한 점
Figure 112016077337817-pat00009
를 디스플레이 장치 좌표계(M)로 나타낸 좌표값이다.here,
Figure 112016077337817-pat00005
Is a transformation between the display device coordinate system M and the camera coordinate system C,
Figure 112016077337817-pat00006
Is a point in space
Figure 112016077337817-pat00007
Is a coordinate value represented by the camera coordinate system (C)
Figure 112016077337817-pat00008
Is a point in space
Figure 112016077337817-pat00009
Is a coordinate value indicated by the display device coordinate system M.

이때, 카메라의 영상에서

Figure 112016077337817-pat00010
의 위치는 다음 [수학식 2]와 같이 표현된다.At this time,
Figure 112016077337817-pat00010
Is expressed by the following equation (2).

[수학식 2]&Quot; (2) "

Figure 112016077337817-pat00011
Figure 112016077337817-pat00011

여기서,

Figure 112016077337817-pat00012
는 공간상의 한 점
Figure 112016077337817-pat00013
의 카메라 영상 상에서의 위치로, 단위는 픽셀이고 영상의 중심을 (0,0)으로 설정할 수 있다. 그리고 f는 카메라의 초점 거리이고, d는 이미지 센서에서 영상의 1 픽셀에 해당하는 부분의 길이이며, d는 해상도와 반비례 관계를 가질 수 있다. 디스플레이 장치(120)는 세계 좌표계(W)에서 XY 평면에 놓여있는 상태이기 때문에
Figure 112016077337817-pat00014
을 항상 만족할 수 있다.here,
Figure 112016077337817-pat00012
Is a point in space
Figure 112016077337817-pat00013
, The unit is pixel and the center of the image can be set to (0, 0). F is the focal length of the camera, d is the length of the portion of the image corresponding to one pixel of the image, and d is in inverse proportion to the resolution. Since the display device 120 is placed in the XY plane in the world coordinate system W
Figure 112016077337817-pat00014
Can always be satisfied.

따라서, 디스플레이 장치(120) 상의 점에 대한

Figure 112016077337817-pat00015
는 항상
Figure 112016077337817-pat00016
을 만족하기 때문에 다음 [수학식 3]이 성립될 수 있다.Thus, for a point on the display device 120,
Figure 112016077337817-pat00015
Always
Figure 112016077337817-pat00016
The following equation (3) can be established.

[수학식 3]&Quot; (3) "

Figure 112016077337817-pat00017
Figure 112016077337817-pat00017

상기의 [수학식 3]을 이용하면 다음 [수학식 4]를 얻을 수 있다.Using Equation (3), the following Equation (4) can be obtained.

[수학식 4]&Quot; (4) "

Figure 112016077337817-pat00018
Figure 112016077337817-pat00018

이러한 관계식들을 바탕으로 카메라의 영상 위에서 점의 위치가 변할 때, 디스플레이 장치(120) 위에서의 점의 위치가 얼마나 변하는지를 보기 위해 자코비안(Jacobian)을 적용하면 다음 [수학식 5]를 얻을 수 있다.Based on these relational expressions, when Jacobian is applied to see how the position of the point on the display device 120 changes when the position of the point changes on the image of the camera, the following equation (5) can be obtained .

[수학식 5]&Quot; (5) "

Figure 112016077337817-pat00019
Figure 112016077337817-pat00019

이에 따라, 다음 [수학식 6]이 성립될 수 있다.Accordingly, the following equation (6) can be established.

[수학식 6]&Quot; (6) "

Figure 112016077337817-pat00020
Figure 112016077337817-pat00020

Figure 112016077337817-pat00021
Figure 112016077337817-pat00021

카메라의 영상에서의 디스플레이 장치(120)에서 표시된 특징점들의 분포가 체커보드와 같이 간격이

Figure 112016077337817-pat00022
픽셀인 격자 구조를 가지도록 하려고 할 때,
Figure 112016077337817-pat00023
Figure 112016077337817-pat00024
는 0 또는
Figure 112016077337817-pat00025
가 된다.
Figure 112016077337817-pat00026
,
Figure 112016077337817-pat00027
는 영상 중심으로부터 점
Figure 112016077337817-pat00028
까지의 픽셀 수를 나타내며,
Figure 112016077337817-pat00029
,
Figure 112016077337817-pat00030
는 점
Figure 112016077337817-pat00031
로부터 각각 X축, Y축 방향으로 벗어난 픽셀 수를 나타낼 수 있다. 즉, 카메라의 영상 위의 점
Figure 112016077337817-pat00032
에서 x축으로 격자 1칸 이동하면
Figure 112016077337817-pat00033
,
Figure 112016077337817-pat00034
이 된다. 이러한 상황에서 디스플레이 장치 좌표계(M)에서의 변화량
Figure 112016077337817-pat00035
,
Figure 112016077337817-pat00036
Figure 112016077337817-pat00037
에서의 Jacobian J의 각 원소들의 크기가 얼마인지에 의해 결정되는데, J의 원소들의 크기는 d가 증가할수록 증가하기 때문에 해상도가 커질수록 줄어들게 된다. 또한, 수평선 아래의 모든 점에서
Figure 112016077337817-pat00038
가 줄어들수록,
Figure 112016077337817-pat00039
가 커질수록 J의 원소들의 크기는 증가한다. The distribution of the feature points displayed on the display device 120 in the image of the camera is spaced apart like the checkerboard
Figure 112016077337817-pat00022
When trying to have a pixel-lattice structure,
Figure 112016077337817-pat00023
Wow
Figure 112016077337817-pat00024
Is 0 or
Figure 112016077337817-pat00025
.
Figure 112016077337817-pat00026
,
Figure 112016077337817-pat00027
From the center of the image
Figure 112016077337817-pat00028
Lt; th > pixel,
Figure 112016077337817-pat00029
,
Figure 112016077337817-pat00030
Point
Figure 112016077337817-pat00031
Axis direction and the Y-axis direction, respectively. That is, the point on the image of the camera
Figure 112016077337817-pat00032
Moving a grid by x on the x axis
Figure 112016077337817-pat00033
,
Figure 112016077337817-pat00034
. In this situation, the change amount in the display device coordinate system M
Figure 112016077337817-pat00035
,
Figure 112016077337817-pat00036
silver
Figure 112016077337817-pat00037
The size of the elements of J increases as d increases, so it decreases as the resolution increases. Also, at every point below the horizon
Figure 112016077337817-pat00038
As the number decreases,
Figure 112016077337817-pat00039
The larger the size of J, the larger the size of the elements.

따라서, 영상에서 일정한 픽셀 간격의 격자무늬를 만들기 위해서는 해상도가 낮을수록,

Figure 112016077337817-pat00040
가 낮을수록,
Figure 112016077337817-pat00041
가 클수록 디스플레이 장치(120) 상에서 특징점들의 크기를 키우고, 이웃한 특징점들 간의 간격을 더 크게 배치해야 한다. 하지만 캘리브레이션을 수행하기 전에는
Figure 112016077337817-pat00042
값을 모르는 상태이므로,
Figure 112016077337817-pat00043
가 줄어드는 방향이 디스플레이 장치 좌표계(M) 상에서 어느 방향인지 알 수 없다.Therefore, in order to create a grid pattern having a constant pixel interval in an image, the lower the resolution,
Figure 112016077337817-pat00040
The lower,
Figure 112016077337817-pat00041
The size of the minutiae points on the display device 120 should be increased and the interval between adjacent minutiae points should be larger. However, before performing the calibration
Figure 112016077337817-pat00042
Since the value is unknown,
Figure 112016077337817-pat00043
Can not be known in which direction the display device coordinate system M is decreasing.

따라서,

Figure 112016077337817-pat00044
에 독립적이기 위하여
Figure 112016077337817-pat00045
,
Figure 112016077337817-pat00046
인 부분에 대해 기본 패턴을 형성하고 이를 균일한 여러 각도로 회전하면서 얻어지는 패턴을 합쳐서 최종 패턴을 얻도록 할 수 있다.
Figure 112016077337817-pat00047
인 경우,
Figure 112016077337817-pat00048
Figure 112016077337817-pat00049
는 반대 방향이므로,
Figure 112016077337817-pat00050
이 커질수록 특징점의 크기와 간격이 커져야 한다.therefore,
Figure 112016077337817-pat00044
To be independent of
Figure 112016077337817-pat00045
,
Figure 112016077337817-pat00046
It is possible to obtain a final pattern by combining the patterns obtained by forming a basic pattern on a portion of the substrate and rotating it at various uniform angles.
Figure 112016077337817-pat00047
Quot;
Figure 112016077337817-pat00048
Wow
Figure 112016077337817-pat00049
Is in the opposite direction,
Figure 112016077337817-pat00050
The greater the size and spacing of the feature points.

도 4는 본 발명의 일 실시예에 따른 기본 패턴 마커의 형태를 보여주는 예시도를 나타낸다.FIG. 4 shows an exemplary diagram showing a basic pattern marker according to an embodiment of the present invention.

가변 패턴 마커(VM)는 적어도 하나의 기본 패턴 마커를 포함하고, 각 기본 패턴 마커는 3개 이상의 특징점으로 이루어질 수 있다. 3개 이상의 특징점은 원형 특징점 및 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함할 수 있다.The variable pattern marker VM may include at least one basic pattern marker, and each basic pattern marker may be composed of three or more feature points. The three or more feature points may include a plurality of circular feature points and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature points.

도 4를 참조하면, 기본 패턴 마커는 한 개의 원형 특징점(CP) 및 제1 내지 제3 타원형 특징점(EP-1~EP-3)으로 이루어질 수 있다. 원형 특징점(CP)은 왜곡이 없는 원의 형태로 반경은 r, 제1 타원형 특징점(EP-1)의 장반경은 ar, 제2 타원형 특징점(EP-2)의 장반경은 a2r, 제3 타원형 특징점(EP-3)의 장반경은 a3r이고, a는 비례 상수이다. 원형 특징점(CP)의 중심과 원형 특징점(CP)으로부터 가장 가깝게 위치한 제1 타원형 특징점(EP-1)의 중심 간의 간격은 b이고, 제1 타원형 특징점(EP-1)의 중심과 제2 타원형 특징점(EP-2)의 중심 간의 간격은 ab이고, 제2 타원형 특징점(EP-2)의 중심과 제3 타원형 특징점(EP-3)의 중심 간의 간격은 a2b이다. 이와 같이, 초기 패턴 간의 간격은 b로 정하고, 비례 상수 a를 둬서 원형 특징점(CP)으로부터 타원형 특징점이 멀어질수록 a배만큼 간격과 크기가 커지도록 할 수 있다. 그리고 카메라(200)의 해상도가 커지면 원형 특징점(CP)의 반경을 작게 해도 되기 때문에 특징점의 개수를 늘릴 수 있고, 특징점의 개수가 늘어나면 가변 패턴 마커(VM)를 정확하게 인식할 수 있으므로 오차를 줄일 수 있게 된다.Referring to FIG. 4, the basic pattern marker may be composed of one circular feature point CP and first to third elliptical feature points EP-1 to EP-3. The circular feature points CP are in the form of a circle having no distortion. The radius is r, the long radius of the first elliptical feature point EP-1 is ar, the long radius of the second elliptical feature point EP-2 is a 2 r, The major axis of feature point (EP-3) is a 3 r, and a is a proportional constant. The distance between the center of the circular feature point CP and the center of the first elliptical feature point EP located closest to the circular feature point CP is b and the center of the first elliptical feature point EP- distance between the centers of (EP-2) is a center distance between the center of the third elliptical feature point (EP-3) of the ab, and the second elliptical feature point (EP-2) is a 2 b. As described above, the spacing between the initial patterns is set to b, and the spacing and size can be increased by a times as the elliptical feature points are further away from the circular feature points CP by putting the proportionality constant a. When the resolution of the camera 200 is increased, the radius of the circular feature point CP can be reduced. Therefore, the number of feature points can be increased. If the number of feature points is increased, the variable pattern marker VM can be accurately recognized. .

따라서, 카메라(200)의 해상도에 따라 원형 특징점의 반경(r), 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 거리(b) 및 비례 상수(a)가 가변될 수 있다.Therefore, the radius r of the circular feature point, the distance b between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point, and the proportionality constant a can be varied according to the resolution of the camera 200.

도 4에서 카메라(200)가

Figure 112016077337817-pat00051
의 반대 방향 상단에서 기본 패턴 마커를 촬영한다면 촬영된 이미지에는 원형 특징점(CP)를 포함하여 타원형 특징점(EP-1~EP-3)들이 대략 원형으로 나타날 것이다. 따라서 원형으로 나타난 특징점에 대한 인식율은 다른 모양이나 형태에 비하여 높기 때문에 도 4의 기본 패턴 마커를 이용하면 시스템에서 높은 정밀도를 가지는 캘리브레이션 파라미터를 결정할 수 있게 된다.4, when the camera 200
Figure 112016077337817-pat00051
, The elliptical feature points EP-1 to EP-3 including the circular feature points CP will appear in a roughly circular shape in the photographed image. Therefore, since the recognition rate for the feature points indicated by the circles is higher than other shapes or shapes, the calibration parameters having high accuracy can be determined by using the basic pattern marker of FIG.

도 5는 본 발명의 일 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이고, 도 6은 본 발명의 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도이며, 도 7은 본 발명의 또 다른 실시예에 따른 복수의 기본 패턴 마커로 이루어진 가변 패턴 마커의 예시도를 나타낸다.FIG. 5 is an illustration of a variable pattern marker made up of a plurality of basic pattern markers according to an embodiment of the present invention, FIG. 6 is an illustration of an example of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention And FIG. 7 shows an exemplary diagram of a variable pattern marker made up of a plurality of basic pattern markers according to another embodiment of the present invention.

도 5를 참조하면, 가변 패턴 마커는 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어질 수 있다. 원형 특징점의 반경(r)이 1cm, 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b)이 3cm, 비례 상수(a)가 1.1이고, 회전각 간격이 60도일 경우, 한 변이 30cm인 디스플레이 장치에 표시되는 최종 가변 패턴 마커(VM)는 도 5와 같이 6개의 기본 패턴 마커(VM-1~VM-6)가 하나의 원형 특징점(CP)을 중심으로 60도로 회전된 형태로 배치될 수 있다. 가변 패턴 마커는 상기한 바와 같은 방식으로 얻어진 기본 패턴 마커를 원형 특징점을 기준으로 여러 각도로 회전시킨 것을 합친 형태로 구현할 수 있다.Referring to FIG. 5, the variable pattern marker may be formed of a plurality of basic pattern markers radially formed around circular feature points. The radius r of the circular feature point is 1 cm, the interval b between the centers of the circular feature points and the centers of the elliptical feature points located closest to the circular feature points is 3 cm, the proportionality constant a is 1.1, The final variable pattern marker VM displayed on the display device having a side of 30 cm is obtained by rotating the six basic pattern markers VM-1 to VM-6 about 60 times with respect to one circular feature point CP as shown in FIG. . ≪ / RTI > The variable pattern marker can be realized by combining basic pattern markers obtained in the above-described manner by rotating at various angles with respect to the circular feature points.

도 5와 같은 가변 패턴 마커를 임의의 방향에서 카메라(200)가 촬영하더라도 6개의 패턴(VM-1~VM-6) 중 어느 하나는 대략 원형에 가깝게 인식될 가능성이 높다. 따라서 캘리브레이션 시스템(1)은 가변 패턴 마커의 위치를 인식할 수 있고 결국 캘리브레이션 파라미터를 결정할 수 있다.Even if the camera 200 photographs the variable pattern marker shown in Fig. 5 in an arbitrary direction, it is highly likely that any one of the six patterns VM-1 to VM-6 is recognized as being nearly circular. Therefore, the calibration system 1 can recognize the position of the variable pattern marker and can finally determine the calibration parameters.

도 6을 참조하면, 가변 패턴 마커는 미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어질 수 있다. 가변 패턴 마커는 제1 내지 제9 기본 패턴 마커(VM-1~VM-9)로 이루어질 수 있는데, 예를 들어 제1 내지 제9 원형 특징점(CP-1~CP-9)이 Y축 방향을 따라 미리 정해진 간격으로 이격되어 배치되면 각 기본 패턴 마커에 대응하는 복수의 타원형 특징점은 X축 방향을 따라 미리 정해진 간격으로 이격되어 배치될 수 있다.Referring to FIG. 6, the variable pattern markers may be composed of a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction. For example, the first to ninth circular feature points CP-1 to CP-9 may be arranged in the Y-axis direction as the first to ninth basic pattern markers VM-1 to VM-9. The plurality of elliptical feature points corresponding to the basic pattern markers may be spaced apart at predetermined intervals along the X-axis direction.

그리고 카메라(200)의 촬영 방향에 따라 가변 패턴 마커의 방향이 결정될 수 있는데, 도 7과 같이, 카메라의 촬영 방향에 따라 도 6의 가변 패턴 마커의 방향이 회전되어 배치될 수 있다. 즉 카메라에서 촬영된 복수의 특징점 중 적어도 하나가 원의 형태로 보이도록 카메라의 방향에 따라 가변 패턴 마커의 방향을 결정할 수 있다.The direction of the variable pattern marker may be determined according to the photographing direction of the camera 200. The direction of the variable pattern marker of FIG. 6 may be rotated and arranged according to the photographing direction of the camera, as shown in FIG. That is, the direction of the variable pattern marker can be determined according to the direction of the camera so that at least one of the plurality of feature points photographed by the camera appears as a circle.

이동 로봇(100)에 자이로 센서나 가속도 센서가 구비되어 있어서 카메라(200)와의 상대 위치를 알 수 있는 경우에는 카메라(200) 방향에 맞추어 가변 패턴 마커를 설정할 수 있다. 이것도 가변 패턴 마커가 카메라 영상에서 원형으로 나타나 마커의 인식을 용이하게 할 수 있다.When the mobile robot 100 is provided with the gyro sensor or the acceleration sensor and can recognize the relative position with respect to the camera 200, the variable pattern marker can be set in accordance with the direction of the camera 200. This also allows the variable pattern marker to appear as a circle in the camera image to facilitate recognition of the marker.

한편 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어질 수 있다. 예컨대, 가변 패턴 마커가 제1 내지 제4 기본 패턴 마커로 이루어진 경우, 제1 기본 패턴 마커를 이루고 있는 특징점들은 붉은 계열의 색상, 제2 기본 패턴 마커를 이루고 있는 특징점들은 노란 계열의 색상, 제3 기본 패턴 마커를 이루고 있는 특징점들은 녹색 계열의 색상, 제4 기본 패턴 마커를 이루고 있는 특징점들은 파랑 계열의 색상으로 이루어질 수 있다. 이에 따라 색상을 이용하여 이동 로봇(100과 카메라(200)의 방향을 판단할 수 있도록 한다. 즉 카메라에서 촬영된 영상의 색상에 따라 카메라가 어느 방향에서 촬영했는지 알 수 있게 된다.On the other hand, when the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers may be made of different colors. For example, when the variable pattern marker is composed of the first to fourth basic pattern markers, the characteristic points constituting the first basic pattern marker are red-colored, the characteristic points constituting the second basic pattern marker are the color of the yellow system, The characteristic points constituting the basic pattern marker may be a green-based color, and the characteristic points constituting the fourth basic pattern marker may be a blue-based color. Accordingly, it is possible to determine the direction of the mobile robot 100 and the camera 200 using the color, that is, it is possible to know from which direction the camera is photographed according to the color of the image photographed by the camera.

예를 들어 도 7에 보이는 것처럼 화살표 방향으로 카메라(200)가 촬영을 하는 것으로 이동 로봇(100)이 판단하는 경우 가변 패턴 마커를 도 7과 같이 생성하여 표시할 수 있으며, 따라서 카메라(200)가 촬영한 이미지에는 대략 원형의 특징점으로 나타날 수 있고, 결국 가변 패턴 마커를 잘 인식할 수 있어서 정밀한 캘리브레이션 파라미터를 결정할 수 있다.For example, when the mobile robot 100 determines that the camera 200 shoots in the direction of the arrow as shown in FIG. 7, the variable pattern marker can be generated and displayed as shown in FIG. 7, The photographed image can be displayed as an approximate circular feature point, and as a result, the variable pattern marker can be recognized well, and precise calibration parameters can be determined.

도 2를 다시 참조하면, 상술한 방식으로 계획되어 생성된 가변 패턴 마커를 디스플레이 장치(120)에 표시(S210)하고, 표시된 가변 패턴 마커를 카메라(200)가 촬영(S220)하면, 촬영된 카메라의 영상에서 가변 패턴 마커를 인식하여 이동 로봇(100)과 카메라(200)의 캘리브레이션 파라미터를 결정할 수 있다(S230).Referring again to FIG. 2, the variable pattern markers generated and planned in the above-described manner are displayed on the display device 120 (S210). When the camera 200 photographs the displayed variable pattern markers (S220) A variable pattern marker may be recognized from the image of the mobile robot 100 and the calibration parameters of the camera 200 may be determined (S230).

이때, 가변 마커 패턴을 인식하는 과정은 다음과 같다.The process of recognizing the variable marker pattern is as follows.

가변 마커 패턴의 형태를 알고 있기 때문에 3차원 영상 카메라의 영상에 아핀 불변 템플릿 매칭을 이용하여 인식을 수행할 수 있다. 이 방식을 통해 각 특징점들의 영상에서의 위치를 인식하고, 3차원 영상 카메라의 깊이 정보를 활용하여 카메라 좌표계 상에서의 각 특징점들의 좌표값을 계산할 수 있다. 이때, 원형 특징점의 반경(r), 원형 특징점의 중심과 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)를 알고 있으면 2차원 영상 카메라의 영상을 이용하여 카메라 좌표계 상에서의 각 특징점들의 좌표값을 계산할 수 있음은 물론이다.Since the shape of the variable marker pattern is known, it is possible to perform recognition using the affine invariant template matching on the image of the three-dimensional image camera. Through this method, the position of each feature point in the image can be recognized, and the coordinate value of each feature point on the camera coordinate system can be calculated using the depth information of the 3D image camera. At this time, if the radius (r) of the circular feature point, the interval (b) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point and the proportional constant (a) are known, The coordinate values of the respective minutiae can be calculated.

그리고, 인식된 가변 패턴 마커의 정보를 이용하여 카메라 좌표계와 로봇 좌표계 간의 파라미터를 결정하는 방법은 다음과 같다. A method for determining the parameter between the camera coordinate system and the robot coordinate system using the information of the recognized variable pattern marker is as follows.

우선, 로봇 좌표계 상에서 디스플레이 장치(120)의 위치는 고정되어 있기 때문에 로봇 좌표계 기준에서 가변 패턴 마커의 특징점들에 대한 좌표를 알 수 있다. 이를 카메라(200)를 통해 추출한 가변 패턴 마커의 특징점들의 카메라 좌표계 상에서의 좌표값과 함께 사용하여 두 특징점들 간의 상대적 변환을 계산하여 캘리브레이션 파라미터를 얻을 수 있다. 디스플레이 장치(120)를 매개로 하여 얻은 카메라 좌표계와 로봇 좌표계 간의 캘리브레이션 파라미터를 사용하여 카메라 좌표계 상에서 파악된 작업 물체의 위치 정보를 로봇 좌표계로 변환함으로써 로봇 좌표계 기준에서의 작업 물체의 위치를 파악할 수 있다. First, since the position of the display device 120 is fixed on the robot coordinate system, the coordinates of the minutiae points of the variable pattern marker on the robot coordinate system can be known. It is possible to obtain a calibration parameter by calculating a relative transformation between two minutiae points by using the minutiae points of the variable pattern marker extracted through the camera 200 together with coordinate values on the camera coordinate system. The position of the work object on the basis of the robot coordinate system can be grasped by converting the position information of the work object grasped on the camera coordinate system into the robot coordinate system by using the calibration parameters between the camera coordinate system and the robot coordinate system obtained through the display device 120 .

Figure 112016077337817-pat00052
Figure 112016077337817-pat00053
는 카메라 좌표계와 로봇 좌표계 간의 관계를 규정하고 있는 4x4 행렬 (RTC = [4x4] )들로 상호 역행렬 관계 (
Figure 112016077337817-pat00054
= {
Figure 112016077337817-pat00055
}- 1)에 있다. 이 변환 행렬은 3x3의 자세 변환 행렬(R3X3)과 좌표계 원점의 위치 변환 행렬(
Figure 112016077337817-pat00056
)로 다음 [수학식 7]과 같이 결정된다.
Figure 112016077337817-pat00052
and
Figure 112016077337817-pat00053
Is a 4 × 4 matrix ( R T C = [4 × 4]) that defines the relationship between the camera coordinate system and the robot coordinate system.
Figure 112016077337817-pat00054
= {
Figure 112016077337817-pat00055
} - 1 ). This transformation matrix is composed of a 3x3 attitude transformation matrix (R 3X 3 ) and a position transformation matrix of the origin of the coordinate system
Figure 112016077337817-pat00056
) Is determined according to the following equation (7).

[수학식 7]&Quot; (7) "

Figure 112016077337817-pat00057
Figure 112016077337817-pat00057

자세 변환 행렬은 3개의 단위 방향 벡터로 결정되는데, 3개의 방향 벡터는 상호 수직인 관계에 있으며, 이 관계는 다음 [수학식 8]과 같다. The posture conversion matrix is determined by three unit direction vectors. The three direction vectors are perpendicular to each other, and this relationship is expressed by Equation (8).

[수학식 8]&Quot; (8) "

R3X3 =

Figure 112016077337817-pat00058
]R 3X 3 =
Figure 112016077337817-pat00058
]

Figure 112016077337817-pat00059
=
Figure 112016077337817-pat00060
X
Figure 112016077337817-pat00061
Figure 112016077337817-pat00059
=
Figure 112016077337817-pat00060
X
Figure 112016077337817-pat00061

결정될 파라미터의 수가 방향 변환 3개, 위치 변환 3개로 총 6개의 정보가 필요하기에 동일직선상이 아닌 가변 패턴 마커들이 최소 3개 이상이면 결정될 수 있으나, 4개 이상의 가변 패턴 마커들을 사용하여 위치 오차 최소자승법들을 이용하여 캘리브레이션의 정밀도를 향상시킬 수 있다. 가변 마커 패턴에 대한 로봇 좌표계와 카메라 좌표계의 관계는 다음 [수학식 9]와 같다.The number of parameters to be determined can be determined by using three or more variable pattern markers. However, if more than three variable pattern markers are used, The accuracy of the calibration can be improved by using square methods. The relationship between the robot coordinate system and the camera coordinate system with respect to the variable marker pattern is expressed by the following equation (9).

[수학식 9]&Quot; (9) "

RP(M) =

Figure 112016077337817-pat00062
* CP(M) R P (M) =
Figure 112016077337817-pat00062
* C P (M)

캘리브레이션 이후 작업 물체의 위치를 로봇 좌표계로 변환하는 방식에 대해 설명하면, 로봇 좌표계 내에서의 작업 물체(O)의 위치는 좌표 변환 행렬과 카메라 좌표계 내에서의 물체(O)와 가변 패턴 마커의 위치를 통하여 다음 [수학식 10]과 같이 구해질 수 있다.The position of the work object O in the robot coordinate system is determined by the coordinate conversion matrix and the position of the object O in the camera coordinate system and the position of the variable pattern marker in the camera coordinate system Can be obtained through the following equation (10).

[수학식 10]&Quot; (10) "

RP(O) =

Figure 112016077337817-pat00063
* CP(O) R P (O) =
Figure 112016077337817-pat00063
* C P (O)

그리고, 이동 로봇(100)은 이 정보를 활용하여 물체를 조작하거나 충돌을 회피할 수 있다. Then, the mobile robot 100 can manipulate an object or avoid a collision by utilizing this information.

이와 같이, 이동 로봇에 설치된 디스플레이 장치에 카메라의 해상도가 고려된 가변 패턴 마커를 사람의 개입 없이 자동으로 계획 및 생성하여 표시하고, 표시된 가변 패턴 마커를 인식하여 높은 정밀도가 보장되는 캘리브레이션을 수행할 수 있다.As described above, the variable pattern markers considering the resolution of the camera are automatically planned, displayed, and displayed on the display device installed in the mobile robot without human intervention, and the variable pattern markers displayed are recognized to perform calibration with high accuracy have.

본 발명의 실시예는 다양한 컴퓨터로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터로 읽을 수 있는 매체를 포함한다. 이 매체는 앞서 설명한 이동 로봇과 카메라의 캘리브레이션 방법을 실행시키기 위한 프로그램을 기록한다. 이 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 이러한 매체의 예에는 하드디스크, 플로피디스크 및 자기 테이프와 같은 자기 매체, CD 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 자기-광 매체, 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 구성된 하드웨어 장치 등이 있다. 또는 이러한 매체는 프로그램 명령, 데이터 구조 등을 지정하는 신호를 전송하는 반송파를 포함하는 광 또는 금속선, 도파관 등의 전송 매체일 수 있다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.Embodiments of the present invention include a computer-readable medium having program instructions for performing various computer-implemented operations. This medium records a program for executing the above-described method of calibrating the mobile robot and the camera. The medium may include program instructions, data files, data structures, etc., alone or in combination. Examples of such media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD and DVD, programmed instructions such as floptical disk and magneto-optical media, ROM, RAM, And a hardware device configured to store and execute the program. Or such medium may be a transmission medium, such as optical or metal lines, waveguides, etc., including a carrier wave that transmits a signal specifying a program command, data structure, or the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like.

이상에서 본 발명의 바람직한 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, Of the right.

1: 이동 로봇과 카메라의 캘리브레이션 시스템
100: 이동 로봇
120: 디스플레이 장치
200: 카메라
300: 제어 장치
1: Mobile robot and camera calibration system
100: Mobile robot
120: display device
200: camera
300: Control device

Claims (18)

가변 패턴 마커를 계획하여 생성하는 단계,
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변되는 이동 로봇과 카메라의 캘리브레이션 방법.
A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
(B) and a proportional constant (a) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point are varied according to the resolution of the camera, / RTI >
제 1 항에서,
상기 가변 패턴 마커의 모양과 크기는,
상기 카메라의 해상도에 따라 결정되는 이동 로봇과 카메라의 캘리브레이션 방법.
The method of claim 1,
The shape and size of the variable-
The method of claim 1, wherein the moving robot and the camera are determined according to a resolution of the camera.
삭제delete 삭제delete 삭제delete 가변 패턴 마커를 계획하여 생성하는 단계,
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 방법.
A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
The variable-
And a plurality of basic pattern markers radially formed around the circular feature points.
가변 패턴 마커를 계획하여 생성하는 단계,
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 방법.
A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
Wherein the three or more feature points include circular feature points and a plurality of elliptical feature points that are longer from the circular feature points,
The variable-
And a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
제 7 항에서,
상기 미리 설정된 방향은,
상기 카메라의 촬영 방향에 대응하는 방향인 이동 로봇과 카메라의 캘리브레이션 방법.
8. The method of claim 7,
The predetermined direction is a direction
Wherein the camera is a direction corresponding to a photographing direction of the camera.
가변 패턴 마커를 계획하여 생성하는 단계,
상기 생성된 가변 패턴 마커를 이동 로봇에 장착된 디스플레이 장치에 표시하는 단계,
상기 표시된 가변 패턴 마커를 카메라가 촬영하는 단계, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 단계
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고,
상기 색상을 이용하여 상기 카메라의 방향을 판단하는 이동 로봇과 카메라의 캘리브레이션 방법.
A step of planning and generating a variable pattern marker,
Displaying the generated variable pattern marker on a display device mounted on a mobile robot,
Photographing the displayed variable pattern marker by a camera, and
Determining a calibration parameter of the mobile robot and the camera by recognizing the variable pattern marker from the image of the photographed camera
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors,
And determining the direction of the camera using the color.
가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇,
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 카메라의 해상도에 따라 상기 원형 특징점의 반경(r), 상기 원형 특징점의 중심과 상기 원형 특징점으로부터 가장 가깝게 위치한 타원형 특징점의 중심 간의 간격(b) 및 비례 상수(a)가 가변되는 이동 로봇과 카메라의 캘리브레이션 시스템
A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
(B) and a proportional constant (a) between the center of the circular feature point and the center of the elliptical feature point located closest to the circular feature point are varied according to the resolution of the camera, Calibration System
제 10 항에서,
상기 가변 패턴 마커의 모양과 크기는,
상기 카메라의 해상도에 따라 결정되는 이동 로봇과 카메라의 캘리브레이션 시스템.
11. The method of claim 10,
The shape and size of the variable-
Wherein the mobile robot and the camera are calibrated according to the resolution of the camera.
삭제delete 삭제delete 삭제delete 가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇,
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
상기 원형 특징점을 중심으로 하여 방사형으로 형성되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 시스템.
A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
The variable-
And a plurality of basic pattern markers radially formed around the circular feature points.
가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇,
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며, 상기 3개 이상의 특징점은 원형 특징점 및 상기 원형 특징점으로부터 멀어질수록 장반경이 길어지는 복수의 타원형 특징점을 포함하고,
상기 가변 패턴 마커는,
미리 설정된 방향을 따라 등간격으로 이격 배치되는 복수의 기본 패턴 마커로 이루어지는 이동 로봇과 카메라의 캘리브레이션 시스템.
A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
Wherein the basic pattern marker comprises three or more feature points, the three or more feature points include a circular feature point and a plurality of elliptical feature points that are lengthened with a longer radius from the circular feature point,
The variable-
And a plurality of basic pattern markers spaced apart at regular intervals along a predetermined direction.
제 16 항에서,
상기 미리 설정된 방향은,
상기 카메라의 촬영 방향에 대응하는 방향인 이동 로봇과 카메라의 캘리브레이션 시스템.
17. The method of claim 16,
The predetermined direction is a direction
Wherein the camera is a direction corresponding to a photographing direction of the camera.
가변 패턴 마커가 표시되는 디스플레이 장치가 설치된 이동 로봇,
상기 가변 패턴 마커를 촬영하는 카메라, 그리고
상기 촬영된 카메라의 영상에서 상기 가변 패턴 마커를 인식하여 상기 이동 로봇과 상기 카메라의 캘리브레이션 파라미터를 결정하는 제어 장치
를 포함하고,
상기 가변 패턴 마커는 적어도 하나의 기본 패턴 마커를 포함하고,
상기 기본 패턴 마커는 3개 이상의 특징점으로 이루어지며,
상기 가변 패턴 마커가 복수의 기본 패턴 마커로 이루어진 경우, 상기 복수의 기본 패턴 마커는 서로 다른 색상으로 이루어지고,
상기 제어 장치는,
상기 색상을 이용하여 상기 카메라의 방향을 판단하는 이동 로봇과 카메라의 캘리브레이션 시스템.
A mobile robot provided with a display device on which a variable pattern marker is displayed,
A camera for photographing the variable pattern marker, and
A controller for recognizing the variable pattern marker from the photographed image of the camera and determining calibration parameters of the mobile robot and the camera,
Lt; / RTI >
Wherein the variable pattern marker comprises at least one basic pattern marker,
The basic pattern marker is composed of three or more minutiae,
When the variable pattern marker is composed of a plurality of basic pattern markers, the plurality of basic pattern markers are made of different colors,
The control device includes:
And determining the direction of the camera using the color.
KR1020160101397A 2016-08-09 2016-08-09 Method and System for Calibration of Mobile Robot and Camera Active KR101850118B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160101397A KR101850118B1 (en) 2016-08-09 2016-08-09 Method and System for Calibration of Mobile Robot and Camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160101397A KR101850118B1 (en) 2016-08-09 2016-08-09 Method and System for Calibration of Mobile Robot and Camera

Publications (2)

Publication Number Publication Date
KR20180017503A KR20180017503A (en) 2018-02-21
KR101850118B1 true KR101850118B1 (en) 2018-04-19

Family

ID=61524575

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160101397A Active KR101850118B1 (en) 2016-08-09 2016-08-09 Method and System for Calibration of Mobile Robot and Camera

Country Status (1)

Country Link
KR (1) KR101850118B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150128779A (en) 2013-03-11 2015-11-18 유니버시티 오브 플로리다 리서치 파운데이션, 인크. Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications
CN109807605A (en) * 2019-03-25 2019-05-28 广东利迅达机器人系统股份有限公司 A kind of inclined installation method of mobile phone installation equipment
WO2023063645A1 (en) * 2021-10-14 2023-04-20 네이버랩스 주식회사 Method for measuring pose of robot and robot system using same

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114895680A (en) * 2022-05-20 2022-08-12 上海交通大学 A mobile robot vision positioning system and method
KR102770745B1 (en) 2024-08-19 2025-02-24 주식회사 프로닉스 Articulated robot system with easy-to calibration for camera sensor

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2690603B2 (en) * 1990-05-30 1997-12-10 ファナック株式会社 Vision sensor calibration method
KR100698534B1 (en) * 2005-11-04 2007-03-22 재단법인 포항산업과학연구원 Landmark for location recognition of mobile robot and location recognition device and method using same
JP5213183B2 (en) * 2009-07-14 2013-06-19 独立行政法人科学技術振興機構 Robot control system and robot control program
JP2015182144A (en) * 2014-03-20 2015-10-22 キヤノン株式会社 Robot system and calibration method of robot system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2690603B2 (en) * 1990-05-30 1997-12-10 ファナック株式会社 Vision sensor calibration method
KR100698534B1 (en) * 2005-11-04 2007-03-22 재단법인 포항산업과학연구원 Landmark for location recognition of mobile robot and location recognition device and method using same
JP5213183B2 (en) * 2009-07-14 2013-06-19 独立行政法人科学技術振興機構 Robot control system and robot control program
JP2015182144A (en) * 2014-03-20 2015-10-22 キヤノン株式会社 Robot system and calibration method of robot system

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
일본 특허공보 특허 제 5213183호(2013.06.19.) 1부. *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150128779A (en) 2013-03-11 2015-11-18 유니버시티 오브 플로리다 리서치 파운데이션, 인크. Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications
KR20190040091A (en) 2013-03-11 2019-04-16 유니버시티 오브 플로리다 리서치 파운데이션, 인크. Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications
KR20190104250A (en) 2013-03-11 2019-09-06 유니버시티 오브 플로리다 리서치 파운데이션, 인크. Materials and methods for improving lung function and for prevention and/or treatment of radiation-induced lung complications
CN109807605A (en) * 2019-03-25 2019-05-28 广东利迅达机器人系统股份有限公司 A kind of inclined installation method of mobile phone installation equipment
WO2023063645A1 (en) * 2021-10-14 2023-04-20 네이버랩스 주식회사 Method for measuring pose of robot and robot system using same
KR102690238B1 (en) * 2021-10-14 2024-08-05 네이버 주식회사 Method of pose estimation and robot system using the same method

Also Published As

Publication number Publication date
KR20180017503A (en) 2018-02-21

Similar Documents

Publication Publication Date Title
KR101850118B1 (en) Method and System for Calibration of Mobile Robot and Camera
US11413753B2 (en) Robotic system control method and controller
JP6573354B2 (en) Image processing apparatus, image processing method, and program
CN104249371B (en) Information processor and information processing method
KR101864949B1 (en) Method for building a grid map with mobile robot unit
CN111590593B (en) Calibration method, device and system of mechanical arm and storage medium
CN109822568B (en) Robot control method, system and storage medium
KR102452315B1 (en) Apparatus and method of robot control through vision recognition using deep learning and marker
WO2022107684A1 (en) Device for adjusting parameter, robot system, method, and computer program
CN110000793A (en) A kind of motion planning and robot control method, apparatus, storage medium and robot
US11941852B2 (en) Three-dimensional measurement device, three-dimensional measurement method, and three-dimensional measurement program
WO2019176450A1 (en) Information processing device, information processing method, and program
JP2023505322A (en) Method and system for programming robots
EP4524679A1 (en) Method of locating a remotely operated vehicle within a workspace and remote inspection system employing such method
CN109664291A (en) A kind of bootstrap technique of robot
JP7660686B2 (en) ROBOT CONTROL DEVICE, ROBOT CONTROL SYSTEM, AND ROBOT CONTROL METHOD
JP5703890B2 (en) Recognition object, object recognition apparatus and program, object recognition system
JP2013010160A (en) Robot control system, robot system, and marker processing method
TWI656421B (en) Control method of self-propelled equipment
JP2023011454A (en) Three-dimensional design data creation method, construction work method, three-dimensional design data creation system, and three-dimensional design data creation program
TWI813480B (en) Cluster data synthesis apparatus, method, system, and computer-readable medium
EP3959049B1 (en) Performance arena for robots with position location system
JP7278637B2 (en) Self-propelled moving device
CN118992839A (en) Container lock hole identification method and system and engineering vehicle
JPH0371043B2 (en)

Legal Events

Date Code Title Description
A201 Request for examination
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20160809

PA0201 Request for examination
PG1501 Laying open of application
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20180405

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20180411

PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20180412

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20180412

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
PR1001 Payment of annual fee

Payment date: 20210401

Start annual number: 4

End annual number: 4

PR1001 Payment of annual fee

Payment date: 20220325

Start annual number: 5

End annual number: 5

PR1001 Payment of annual fee

Payment date: 20230323

Start annual number: 6

End annual number: 6