[go: up one dir, main page]

JP6966218B2 - 撮像装置の校正装置、作業機械および校正方法 - Google Patents

撮像装置の校正装置、作業機械および校正方法 Download PDF

Info

Publication number
JP6966218B2
JP6966218B2 JP2017088967A JP2017088967A JP6966218B2 JP 6966218 B2 JP6966218 B2 JP 6966218B2 JP 2017088967 A JP2017088967 A JP 2017088967A JP 2017088967 A JP2017088967 A JP 2017088967A JP 6966218 B2 JP6966218 B2 JP 6966218B2
Authority
JP
Japan
Prior art keywords
target
external target
calibration
imaging
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017088967A
Other languages
English (en)
Other versions
JP2018184815A (ja
Inventor
彰吾 厚見
大樹 菅原
博義 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2017088967A priority Critical patent/JP6966218B2/ja
Publication of JP2018184815A publication Critical patent/JP2018184815A/ja
Application granted granted Critical
Publication of JP6966218B2 publication Critical patent/JP6966218B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Component Parts Of Construction Machinery (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本発明は、撮像装置の校正装置、作業機械、および校正方法に関する。
特許文献1には、作業機と撮像装置とを有する作業機械における撮像装置の校正を行う技術が開示されている。具体的には、特許文献1に記載の校正システムは、撮像装置が作業機に設けられたターゲットを撮像し、画像から撮像装置とターゲットとの位置関係を求め、作業機の姿勢と画像から求めた位置関係とに基づいて、撮像装置の校正を行う。
国際公開第2016/148309号
一方で、作業機械の本体から作業機を伸ばすことができる距離は有限である。つまり、特許文献1に記載の技術によれば、作業機の作業範囲内における撮像対象(掘削前、掘削中、掘削後の施工現場など)について、撮像装置に基づいてスケール等を精度よく計測することができる。作業範囲とは、作業機の操作によりバケットの刃先が到達し得る範囲をいう。一方で、特許文献1に記載の技術によれば、校正において作業機の作業範囲より遠い点の位置情報を用いることができないため、作業機の作業範囲より遠い領域における撮像対象について撮像装置に基づいて計測した場合、スケール等を精度よく計測することが困難である。そこで、作業機の作業範囲より遠い点についてスケール等を精度よく計測したいという要望がある。
本発明の態様は、作業機の作業範囲より遠い領域における撮像対象についてスケール等を精度よく計測できるように撮像装置を校正することができる撮像装置の校正装置、作業機械、および校正方法を提供することを目的とする。
本発明の第1の態様によれば、撮像装置の校正装置は、作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データおよび前記作業機に設けられた作業機ターゲットの撮像データを取得する撮像データ取得部と、前記既知外部ターゲットの現場座標系における位置を取得する外部ターゲット位置取得部と、前記作業機の車体座標系における位置を特定することで、前記作業機ターゲットの車体座標系における位置を算出する作業機位置特定部と、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置および前記作業機位置特定部によって算出された前記作業機ターゲットの位置を同一の座標系に係る位置に変換する位置変換部と、変換された各位置と前記撮像データ取得部により取得された前記既知外部ターゲットの撮像データおよび前記作業機ターゲットの撮像データとに基づいて前記撮像装置を校正する校正部と、を備える。
上記態様によれば、作業機の作業範囲より遠い領域における撮像対象について精度よく計算できるように撮像装置を校正することができる。
油圧ショベルと座標系との関係を示す図である。 第1の実施形態に係る構成システムを備えた油圧ショベルの外観を示す斜視図である。 第1の実施形態に係る油圧ショベルの制御系の構成を示す概略ブロック図である。 作業機の姿勢の例を示す図である。 第1の実施形態に係る校正方法の実行に用いられる作業機ターゲットの例を示す図である。 第1の実施形態においてステレオカメラによって撮像される作業機ターゲットの位置を示す図である。 第1の実施形態に係る校正方法の実行に用いられる外部ターゲットの例を示す図である。 第1の実施形態においてステレオカメラによって撮像される外部ターゲットの第1の位置を示す図である。 第1の実施形態における外部ターゲットの設置要領を示す図である。 第1の実施形態においてステレオカメラによって撮像される外部ターゲットの第2の位置を示す図である。 第1の実施形態に係る油圧ショベルの制御装置の構成を示すブロック図である。 第1の実施形態に係るステレオカメラの校正方法を示すフローチャートである。 第2の実施形態に係るステレオカメラの校正方法を示すフローチャートである。 第3の実施形態においてステレオカメラによって撮像される外部ターゲットの位置を示す図である。 第3の実施形態に係るステレオカメラの校正方法を示すフローチャートである。 他の実施形態に係る位置計測システムの構成を概略図である。
〈座標系〉
図1は、油圧ショベルと座標系との関係を示す図である。
以下の説明においては、三次元の現場座標系(Xg、Yg、Zg)、三次元の車体座標系(Xm、Ym、Zm)、および三次元のカメラ座標系(Xc、Yc、Zc)を規定して、これらに基づいて位置関係を説明する。
現場座標系は、施工現場に設けられたGNSS基準局Cの位置を基準点として南北に伸びるXg軸、東西に伸びるYg軸、上下に伸びるZg軸から構成される座標系である。GNSSの例としては、GPS(Global Positioning System)が挙げられる。GNSS基準局Cは、現場座標系における位置が既知な現場基準点の一例である。
車体座標系は、後述する油圧ショベル100の旋回体120に規定された代表点Oを基準として前後に伸びるXm軸、左右に伸びるYm軸、上下に伸びるZm軸から構成される座標系である。旋回体120の代表点Oを基準として前方を+Xm方向、後方を−Xm方向、左方を+Ym方向、右方を−Ym方向、上方向を+Zm方向、下方向を−Zm方向とよぶ。
カメラ座標系は、後述する油圧ショベル100のステレオカメラ125を構成する1つのカメラ(例えば第1カメラ1251)の位置を基準として、カメラの上下方向に伸びるXc軸、カメラの幅方向に伸びるYc軸、カメラの光軸方向に伸びるZc軸から構成される座標系である。
後述する油圧ショベル100の制御装置126は、演算により、ある座標系における位置を、他の座標系における位置に変換することができる。例えば、制御装置126は、カメラ座標系における位置を車体座標系における位置に変換することができ、その逆の座標系にも変換することができる。また制御装置126は、現場座標系における位置を車体座標系における位置に変換することができ、その逆の座標系にも変換することができる。
〈第1の実施形態〉
《油圧ショベルの構成》
図2は、第1の実施形態に係る校正システムを備えた油圧ショベルの外観を示す斜視図である。
作業機械である油圧ショベル100は、油圧により作動する作業機110と、作業機110を支持する旋回体120と、旋回体120を支持する走行体130とを備える。
《油圧ショベルの作業機》
作業機110は、ブーム111と、アーム112と、バケット113と、ブームシリンダ114と、アームシリンダ115と、バケットシリンダ116とを備える。
ブーム111は、アーム112およびバケット113を支える支柱である。ブーム111の基端部は、旋回体120の前部にブームピンP1を介して取り付けられる。
アーム112は、ブーム111とバケット113とを連結する。アーム112の基端部は、ブーム111の先端部にアームピンP2を介して取り付けられる。
バケット113は、土砂などを掘削するための刃を有する容器である。バケット113の基端部は、アーム112の先端部にバケットピンP3を介して取り付けられる。
ブームシリンダ114は、ブーム111を作動させるための油圧シリンダである。ブームシリンダ114の基端部は、旋回体120に取り付けられる。ブームシリンダ114の先端部は、ブーム111に取り付けられる。
アームシリンダ115は、アーム112を駆動するための油圧シリンダである。アームシリンダ115の基端部は、ブーム111に取り付けられる。アームシリンダ115の先端部は、アーム112に取り付けられる。
バケットシリンダ116は、バケット113を駆動するための油圧シリンダである。バケットシリンダ116の基端部は、アーム112に取り付けられる。バケットシリンダ116の先端部は、バケット113に取り付けられる。
《油圧ショベルの車体》
旋回体120には、オペレータが搭乗する運転室121が備えられる。運転室121は、旋回体120の前方かつ作業機110の左側(+Ym側)に備えられる。
運転室121の内部には、作業機110を操作するための操作装置1211が設けられる。操作装置1211の操作量に応じて、ブームシリンダ114、アームシリンダ115、およびバケットシリンダ116に作動油が供給され、作業機110が駆動する。
運転室121の上部には、ステレオカメラ125が設けられる。ステレオカメラ125は、運転室121内の前方(+Xm方向)かつ上方(+Zm方向)に設置される。ステレオカメラ125は、運転室121前面のフロントガラスを通して、運転室121の前方(+Xm方向)を撮像する。ステレオカメラ125は、少なくとも1対のカメラを備える。第1の実施形態においては、ステレオカメラ125は、2対のカメラを備えるため、ステレオカメラ125は、4個のカメラを備えることとなる。具体的には、ステレオカメラ125は、右側(−Ym側)から順に、第1カメラ1251、第2カメラ1252、第3カメラ1253、および第4カメラ1254を備える。各カメラの例としては、例えばCCD(Charge Coupled Device)センサ、およびCMOS(Complementary Metal Oxide Semiconductor)センサを用いたカメラが挙げられる。
第1カメラ1251と第3カメラ1253は、対をなすカメラである。第1カメラ1251と第3カメラ1253は、それぞれ光軸が運転室121の床面に対して略平行となるように、左右方向(±Ym方向)に間隔を空けて設置される。第2カメラ1252と第4カメラ1254は、対をなすカメラである。第2カメラ1252と第4カメラ1254は、それぞれ光軸が略平行となるように、かつその光軸が運転室121の床面に対して運転室121前方(+Xm方向)より下方向(−Zm方向)に傾くように、左右方向(±Ym方向)に間隔を空けて設置される。
ステレオカメラ125及び第1カメラ1251、第2カメラ1252、第3カメラ1253、第4カメラ1254は、撮像装置の一例である。ステレオカメラ125のうち少なくとも1対のカメラが撮像した1対の撮像データを用いることで、ステレオカメラ125と撮像対象との距離を算出することができる。なお、他の実施形態においては、ステレオカメラ125は、1対のカメラによって構成されてもよいし、3対以上のカメラによって構成されてもよい。また他の実施形態においては、ステレオカメラ125に代えて、撮像装置として、例えば、TOF(Time Of Flight)カメラのような、画像と三次元データを表す距離画像との両方が得られるセンサを用いてもよい。また、撮像装置として、距離画像を得ることができるカメラを用いてもよい。
《油圧ショベルの制御系》
図3は、第1の実施形態に係る油圧ショベルの制御系の構成を示す概略ブロック図である。
油圧ショベル100は、作業機位置検出器117、位置方位演算器123、傾斜検出器124、ステレオカメラ125、制御装置126を備える。
作業機位置検出器117は、作業機110の姿勢角を検出する。第1の実施形態に係る作業機位置検出器117は、ブームシリンダ114、アームシリンダ115、およびバケットシリンダ116のそれぞれのストローク長を検出するストローク検出器である。これにより、後述する制御装置126は、ブームシリンダ114、アームシリンダ115、およびバケットシリンダ116のそれぞれのストローク長に基づいて作業機110の姿勢角を検出することができる。他方、他の実施形態においては、これに限られず、作業機位置検出器117として、ストローク検出器に代えて、またはストローク検出器と併用して、ロータリーエンコーダや水平器等の角度検出器を用いてもよい。
位置方位演算器123は、旋回体120の位置および旋回体120が向く方位を演算する。位置方位演算器123は、GNSS(Global Navigation Satellite System)を構成する人工衛星から測位信号を受信する第1受信器1231および第2受信器1232を備える。第1受信器1231および第2受信器1232は、それぞれ旋回体120の異なる位置に設置される。位置方位演算器123は、第1受信器1231が受信した測位信号に基づいて、現場座標系における旋回体120の代表点O(車体座標系の原点)の位置を検出する。
位置方位演算器123は、第1受信器1231が受信した測位信号と、第2受信器1232が受信した測位信号とを用いて、検出された第1受信器1231の設置位置に対する第2受信器1232の設置位置の関係として、旋回体120の方位を演算する。
傾斜検出器124は、旋回体120の加速度および角速度を計測し、計測結果に基づいて旋回体120の傾き(例えば、Xm軸に対する回転を表すロール、Ym軸に対する回転を表すピッチ、およびZm軸に対する回転を表すヨー)を検出する。傾斜検出器124は、例えば運転室121の下面に設置される。傾斜検出器124は、例えば、慣性計測装置であるIMU(Inertial Measurement Unit)を用いることができる。
制御装置126は、プロセッサ910、メインメモリ920、ストレージ930、インタフェース940を備える。
ストレージ930には、作業機110を制御するためのプログラムが記憶されている。ストレージ930の例としては、HDD(Hard Disk Drive)、不揮発性メモリ等が挙げられる。ストレージ930は、制御装置126のバスに直接接続された内部メディアであってもよいし、インタフェース940または通信回線を介して制御装置126に接続される外部メディアであってもよい。
プロセッサ910は、ストレージ930からプログラムを読み出してメインメモリ920に展開し、プログラムに従って処理を実行する。またプロセッサ910は、プログラムに従ってメインメモリ920に記憶領域を確保する。インタフェース940は、作業機位置検出器117、操作装置1211、位置方位演算器123、傾斜検出器124、ステレオカメラ125およびその他の周辺機器と接続され、信号の授受を行う。
制御装置126は、プログラムの実行によりステレオカメラ125が撮像した撮像画像に基づいて施工現場等の撮像対象の計測を行う。制御装置126は、ステレオカメラが撮像した撮像データから撮像対象の形状を表す三次元データを生成する。三次元データの例としては、点群データ、ポリゴンデータ、およびボクセルデータが挙げられる。制御装置126は、ステレオカメラ125の位置を基準として互いに直交するXc軸、Yc軸、Zc軸から構成されるカメラ座標系における三次元データを生成する。また制御装置126は、プログラムの実行によりステレオカメラ125の校正(外部校正および車体校正)の計算を行う。外部校正とは、ステレオカメラ125を構成する1対のカメラ間の位置及び姿勢を求めることである。また車体校正とは、ステレオカメラ125と旋回体120との位置関係を求めることである。つまり、制御装置126は、撮像装置の校正装置の一例である。
《作業機の姿勢》
図4は、作業機の姿勢の例を示す図である。
制御装置126は、作業機位置検出器117の検出結果に基づいて、作業機110の姿勢を算出する。具体的には、制御装置126は、作業機110の姿勢として、ブーム111の姿勢角α、アーム112の姿勢角β、バケット113の姿勢角γ、およびバケット113の刃先Eの位置を算出する。
ブーム111の姿勢角αは、ブームピンP1から旋回体120の上方向(+Zm方向)に伸びる半直線と、ブームピンP1からアームピンP2へ伸びる半直線とがなす角によって表される。なお、旋回体120の傾き(ピッチ角)θによって、旋回体120の上方向と鉛直上方向は必ずしも一致しない。
アーム112の姿勢角βは、ブームピンP1からアームピンP2へ伸びる半直線と、アームピンP2からバケットピンP3へ伸びる半直線とがなす角によって表される。
バケット113の姿勢角γは、アームピンP2からバケットピンP3へ伸びる半直線と、バケットピンP3からバケット113の刃先Eへ伸びる半直線とがなす角によって表される。
ここで、ブーム111の姿勢角α、アーム112の姿勢角β、およびバケット113の姿勢角γの和を、作業機110の姿勢角ηとよぶ。作業機110の姿勢角ηは、バケットピンP3から旋回体120の上方向(+Z方向)に伸びる半直線と、バケットピンP3からバケット113の刃先Eへ伸びる半直線とがなす角に等しい。
車体座標系におけるバケット113の刃先Eの位置は、ブーム111の寸法L1、アーム112の寸法L2、バケット113の寸法L3、ブーム111の姿勢角α、アーム112の姿勢角β、バケット113の姿勢角γ、旋回体120の代表点Oの位置、および代表点OとブームピンP1との位置関係から求められる。ブーム111の寸法L1は、ブームピンP1からアームピンP2までの距離である。アーム112の寸法L2は、アームピンP2からバケットピンP3までの距離である。バケット113の寸法L3は、バケットピンP3から刃先Eまでの距離である。代表点OとブームピンP1との位置関係は、例えば、代表点Oを基準としたブームピンP1の車体座標系の位置で表される。また代表点OとブームピンP1との位置関係は、例えば、代表点OからブームピンP1までの距離、代表点OからブームピンP1へ伸びる半直線のXm軸方向の傾き、およびYm軸方向の傾きによって表されてもよい。
《ステレオカメラの校正》
ステレオカメラ125が備える1対のカメラ(第1カメラ1251と第3カメラ1253、または第2カメラ1252と第4カメラ1254)のカメラ座標系における姿勢の関係は、以下の式(1)で表すことができる。
Pc1=Rcy・Rcp・Rcr・Pc3+Tc ・・・ (1)
ここで、Pc1は第1カメラ1251のカメラ座標系における位置、Pc3は第3カメラ1253のカメラ座標系における位置を示す。Rcyは、第3カメラ1253のヨー角を第1カメラ1251のヨー角に変換するための回転行列である。Rcpは、第3カメラ1253のピッチ角を第1カメラ1251のピッチ角に変換するための回転行列である。Rcrは、第3カメラ1253のロール角を第1カメラ1251のロール角に変換するための回転行列である。Tcは位置Pc3を位置Pc1に変換するための並進行列である。
式(1)の各行列の要素を明示すると、以下の式(2)のようになる。
Figure 0006966218
ここで、xは、第1カメラ1251のカメラ座標系のXc座標における位置を示す。
は、第1カメラ1251のカメラ座標系のYc座標における位置を示す。zは、第1カメラ1251のカメラ座標系のZc座標における位置を示す。xは、第3カメラ1253のカメラ座標系のXc座標における位置を示す。yは、第3カメラ1253のカメラ座標系のYc座標における位置を示す。zは、第3カメラ1253のカメラ座標系のZc座標における位置を示す。θは、第1カメラ1251に対するXc軸回りの第3カメラ1253の相対角度(ヨー角)を示す。θは、第1カメラ1251に対するYc軸回りの第3カメラ1253の相対角度(ピッチ角)を示す。θは、第1カメラ1251に対するZc軸回りの第3カメラ1253の相対角度(ロール角)を示す。Txは、第1カメラ1251に対するXc軸方向の第3カメラ1253の相対位置を示す。Tyは、第1カメラ1251に対するYc軸方向の第3カメラ1253の相対位置を示す。Tzは、第1カメラ1251に対するZc軸方向の第3カメラ1253の相対位置を示す。
なお、上記説明では第1カメラ1251と第3カメラ1253の対を例に式(1)、式(2)について説明したが、第2カメラ1252と第4カメラ1254の対の姿勢の関係についても同様である。
第1の実施形態に係る校正では、上記式(1)を構成する行列Rcy、Rcp、Rcr、Tcを求める。すなわち、第1の実施形態に係る校正では、上記式(2)を構成するパラメータθ、θ、θ、Tx、Ty、Tzを求める。
またステレオカメラ125が備える各カメラ(第1カメラ1251、第2カメラ1252、第3カメラ1253、第4カメラ1254)と旋回体120との位置関係は、以下の式(3)で表すことができる。
Pm1=Rmy・Rmp・Rmr・Pc1+Tm ・・・ (3)
ここで、Pc1は第1カメラ1251のカメラ座標系における位置を示す。Rmyは、カメラ座標系における第1カメラ1251のヨー角(Xc軸回りの角度)を車体座標系におけるヨー角(Xm軸回りの角度)に変換するための回転行列である。Rmpは、カメラ座標系における第1カメラ1251のピッチ角(Yc軸回りの角度)を車体座標系におけるピッチ角(Ym軸回りの角度)に変換するための回転行列である。Rmrは、カメラ座標系における第1カメラ1251のロール角(Zc軸回りの角度)を車体座標系におけるロール角(Zm軸回りの角度)に変換するための回転行列である。Tmは位置Pc1を位置Pm1に変換するための並進行列である。
なお、上記説明では第1カメラ1251を例に上記式(3)について説明したが、第2カメラ1252、第3カメラ1253、および第4カメラ1254についても同様である。つまり、上記式(3)を各カメラに適用することで、第1カメラ1251、第2カメラ1252、第3カメラ1253、および第4カメラ1254のそれぞれについて、旋回体120との位置関係を示す式を表すことができる。
第1の実施形態に係る校正では、上記式(3)を構成する行列Rmy、Rmp、Rmr、Tmを求める。これらが求められると、制御装置126は、カメラ座標系における位置を車体座標系に変換することができる。
第1の実施形態に係る油圧ショベル100の制御装置126は、ステレオカメラ125が作業機ターゲットTmおよび外部ターゲットTgを撮像することで、ステレオカメラ125の校正を行う。作業機ターゲットTmとは、ステレオカメラ125の撮像画像に明瞭に写る作業機110に付された図形である。外部ターゲットTgとは、ステレオカメラ125の撮像画像に明瞭に写る施工現場に設けられた図形である。第1の実施形態に係る作業機ターゲットTmおよび外部ターゲットTgは、例えば、白地の板に黒点が記されたものである。このような図形であることで、撮像画像においてコントラストが明瞭になり、作業機ターゲットTmおよび外部ターゲットTgの位置を確実に特定することができる。
図5は、第1の実施形態に係る校正方法の実行に用いられる作業機ターゲットの例を示す図である。
作業機ターゲットTmは、バケット113の刃における所定の位置に取り付けられる。第1の実施形態においては、作業機ターゲットTmは、バケット113の刃のうち、中央の刃に取り付けられる。制御装置126の演算により、車体座標系におけるバケット113の中央の刃の刃先の位置を算出することができるため、バケット113の刃先と作業機ターゲットTmの中心位置との位置関係が既知であれば、制御装置126は、中央の刃に取り付けられた作業機ターゲットTmの中心位置を正確に算出することができる。なお、他の実施形態においては、作業機ターゲットTmは、複数の刃に取り付けられてもよく、例えば中央の刃および左右両端の刃の計3つの刃に取り付けられてもよい。また、他の実施形態においては、作業機ターゲットTmは、ステレオカメラ125の各カメラが撮像可能な作業機110上の位置であれば、バケット113の刃以外の箇所に取り付けられてもよく、例えば作業機に取り付けられた棒状のアタッチメントの先に作業機ターゲットTmが取り付けられてもよい。なお、制御装置126の演算によって算出される作業機ターゲットTmの位置情報には、GNSSの誤差およびその他誤差が含まれる。一方で制御装置126の演算によって算出される作業機ターゲットTmの位置情報の精度は、ステレオカメラ125の校正前におけるパラメータの精度より高い。そのため、本実施形態ではステレオカメラ125のパラメータ校正に作業機ターゲットTmの位置情報を用いている。なお、中心位置が既知である作業機ターゲットTmは、作業範囲内に位置する既知点ターゲットの一例である。
ここで、作業機ターゲットTmは、バケット113の中央の刃に取り付けられる。
図6は、第1の実施形態においてステレオカメラによって撮像される作業機ターゲットの位置を示す図である。
ステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、各作業機ターゲットTmが、例えば図6に示す位置p1、位置p2、位置p3、位置p4、位置p5、位置p6、位置p7、位置p8に来るように作業機110を制御する。そして、ステレオカメラ125を構成する各カメラは、各位置において作業機ターゲットTmを撮像する。このとき、制御装置126は、ステレオカメラ125による撮像の際に、作業機位置検出器117から作業機の位置を示す情報を取得する。
なお、位置p1からp8の位置は必ずしも図6に示す位置である必要はなく油圧ショベル100のオペレータは、作業機ターゲットTmを任意の位置に移動させて撮像を行ってもよい。また作業機ターゲットTmの位置の数も必ず8点である必要はなく任意の複数点であればよい。
図7は、第1の実施形態に係る校正方法の実行に用いられる外部ターゲットの例を示す図である。
外部ターゲットTgは、図7に示すように、地面に面する接地板Tg1と、接地板Tg1から垂直に立ち上がり既定の図形が描かれた表示板Tg2とを備える。なお、外部ターゲットTgの構造は、必ずしも接地板Tg1と表示板Tg2とを備えるものでなくてもよく、ステレオカメラ125の撮像画像からその位置を認識できるものであればどのようなものであってもよい。例えば、他の実施形態に係る外部ターゲットTgは、表示板Tg2のみを備え、地面や壁などに取り付けられるものであってもよい。また、他の実施形態に係る外部ターゲットTgは、表示板Tg2を備えず、地面や壁に直接描かれた図形であってもよいし、表示板Tg2に図形が描かれないものであってもよい。また、表示板Tg2に描かれる図形も位置を認識できるものであればどのような形状、色、模様の図形であってもよい。第1の実施形態に係る校正においては、外部ターゲットTgは、施工現場の任意の複数の位置(すなわち、現場座標系における位置が未知である複数の位置)と、現場座標系における位置が既知である位置とに設置される。以下、ある座標系における位置が未知である位置を未知点、ある座標系における位置が既知である位置を既知点ともいう。また、未知点に配置された外部ターゲットTgを未知外部ターゲット、既知点に配置された外部ターゲットTgを既知外部ターゲットともいう。
図8は、第1の実施形態においてステレオカメラによって撮像される外部ターゲットの第1の位置を示す図である。
ステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、各外部ターゲットTgを、例えば図8に示す位置p11、位置p12、位置p13、位置p14、位置p15、位置p16、位置p17、位置p18、位置p19に設置する。位置p11〜p19は、いずれも未知点である。つまり、各外部ターゲットTgの設置位置は正確でなくてよく、また現場座標系における位置が未知である。なお、外部ターゲットTgの数は必ず9点である必要はなく任意の複数の未知点であればよい。
このとき、位置p11〜p19は、ステレオカメラ125の撮像範囲において分散して配置されることが好ましい。
制御装置126は、各カメラについて、位置p1〜p8における作業機ターゲットTmおよび、位置p11〜p19における外部ターゲットTgを撮像した撮像画像における作業機ターゲットTmの中心位置を特定する。なお、撮像画像における作業機ターゲットTmの中心位置は、作業機ターゲットTmの撮像データの一例である。また制御装置126は、作業機位置検出器117が検出したバケット113の刃先位置、バケット113の姿勢角η、および作業機ターゲットTmの中心と刃先との位置関係に基づいて、車体座標系における作業機ターゲットTmの中心位置(位置p1〜p8の車体座標系における位置)を求める。そして、制御装置126は、位置p1〜p8および位置p11〜p19の各カメラの撮像画像における位置と、位置p1〜p8の車体座標系における位置とを用いて収束計算をすることで、各カメラのパラメータを求める。具体的には、制御装置126は、上記収束計算により、各カメラについて上記式(3)を構成する行列Rmy、Rmp、Rmr、Tmをそれぞれ求めることで、上記式(1)を構成する行列Rcy、Rcp、Rcr、Tcを得ることができる。
なお、他の実施形態においては、制御装置126は、位置p1〜p8の各カメラの撮像画像における位置および位置p1〜p8の車体座標系における位置を用いた収束計算と、位置p11〜p19の各カメラの撮像画像における位置を用いた収束計算とをそれぞれ並列に計算して、各カメラのパラメータを求めてもよい。
ここで、制御装置126は、位置p1〜p8の各カメラの撮像画像における位置と、位置p1〜p8の車体座標系における位置とを用いて収束計算を行うことで、少なくとも位置p1〜p8で囲われる範囲において、ステレオ計測の精度が担保されるようにカメラのパラメータを求めることができる。また、制御装置126は、位置p11〜p19の各カメラの撮像画像における位置を用いた収束計算を行うことで、位置p11〜p19で囲われる範囲において、ステレオ計測の成立が担保されるようにカメラのパラメータを求めることができる。一方、位置p11〜p19の車体座標系における位置は不明であるため、位置p11〜p19で囲われる範囲においてステレオ計測の精度は担保されない。つまり、位置p11〜p19で囲われる範囲内の任意の位置について、ステレオ計測により距離を算出することはできる一方で、その距離の精度が低い可能性がある。なお、他の実施形態においては、制御装置126は、未知点の位置(位置p11〜p19)を用いずに収束計算を行ってもよい。
そこで、制御装置126は、上記手順によって各カメラのパラメータを求めた後に、さらに位置が既知である外部ターゲットTgの撮像画像を用いて、さらに各カメラのパラメータを調整することで、位置p1〜p8で囲われる範囲より外側の範囲における距離の精度を向上させる。
図9は、第1の実施形態における外部ターゲットの設置要領を示す図である。
第1の実施形態においては、上記外部ターゲットTgを現場座標系における位置が既知の位置p20(既知点)に配置し、これを撮像することで、各カメラのパラメータを調整する。第1の実施形態では、外部ターゲットTgは、例えば表示板Tg2に描かれた図形の直下にGNSS基準局Cの中心がくるように、施工現場に設置される。GNSS基準局Cの現場座標系における位置(Xg,Yg,Zg)は既知であり、また外部ターゲットTgの接地板Tg1の底面から表示板Tg2に描かれた図形の中心点までの距離hが既知であることから、現場座標系における外部ターゲットTgの図形の中心位置p20(Xg,Yg,Zg+h)を正確に特定することができる。なお、他の実施形態においてGNSS基準局Cは、必ずしも現場座標系における基準点(原点)である必要はない。なお、既知の外部ターゲットTgの位置情報は、トータルステーション等の高精度のセンサを用いて計測されるため、その精度はステレオカメラ125の校正前におけるパラメータの精度より高い。そのため、本実施形態ではステレオカメラ125のパラメータ校正に外部ターゲットTgの位置情報を用いることで、ステレオ計測の精度を向上させることができる。
図10は、第1の実施形態においてステレオカメラによって撮像される外部ターゲットの第2の位置を示す図である。
また、油圧ショベル100のオペレータは、作業機ターゲットTm、および未知点である外部ターゲットTgを用いた校正の後に、位置p20に設置された既知点である外部ターゲットTgが作業機110の作業範囲(p1〜p8を含む範囲)より遠方になるように油圧ショベル100を移動させる。なお、作業範囲とは、車体座標系において作業機110の操作によりバケット113の刃先Eが到達し得る範囲をいう。そして、ステレオカメラ125を構成する各カメラは、位置p20の外部ターゲットTgを撮像する。なお、図10に示す例では、ステレオカメラ125は現場座標系における位置が既知の外部ターゲットTgを1回撮像するが、これに限られない。制御装置126は、ステレオカメラ125と現場座標系における位置が既知の外部ターゲットTgとの相対位置を異ならせながら、当該相対位置ごとに、ステレオカメラ125に現場座標系における位置が既知の外部ターゲットTgを複数回撮像させてもよい。この場合、現場座標系における位置が既知の外部ターゲットTgを1回撮像する場合より、より精度よくステレオカメラ125のパラメータを求めることができる。なお、作業範囲外に設置された既知点である外部ターゲットTgは、作業範囲外に位置する既知点ターゲットの一例である。また、作業範囲内に設置された既知点である外部ターゲットTgは、作業範囲内に位置する既知点ターゲットの一例である。
制御装置126は、位置p20における外部ターゲットTgを撮像した撮像画像に基づくステレオ計測によってカメラ座標系における外部ターゲットTgの中心位置を算出し、パラメータ記憶部204が記憶するステレオカメラ125の位置および姿勢を示すパラメータに基づいて、これを車体座標系における外部ターゲットTgの中心位置(第1位置)に変換する。また制御装置126は、現場座標系における外部ターゲットTgの中心位置を座標変換し、車体座標系における外部ターゲットTgの中心位置(第2位置)を求める。そして、制御装置126は、第1位置と第2位置との位置の差(距離)が最小となるように、各カメラのパラメータを調整する。
なお、パラメータ記憶部204には車体座標系における各カメラの位置および姿勢を示すパラメータが記憶されているため、第1位置および第2位置を算出することで、カメラと外部ターゲットTgとの位置関係が分かる。つまり、第1位置とパラメータ記憶部204が記憶するパラメータとの組み合わせは、カメラと外部ターゲットTgとの位置関係である第1位置関係の一例である。また第2位置とパラメータ記憶部204が記憶するパラメータとの組み合わせは、カメラと外部ターゲットTgとの位置関係である第2位置関係の一例である。
なお、他の実施形態においては、制御装置126は、カメラ座標系における外部ターゲットTgの中心位置でなく、ステレオカメラ125と外部ターゲットTgの間の距離に基づいて各カメラのパラメータを調整してもよい。具体的には、制御装置126は、以下の手順でカメラのパラメータを調整してもよい。制御装置126は、位置p20における外部ターゲットTgを撮像した撮像画像に基づくステレオ計測によってステレオカメラ125と外部ターゲットTgの中心位置との間の距離(第1距離)を求める。また制御装置126は、現場座標系における外部ターゲットTgの中心位置と車体座標系におけるステレオカメラ125の位置とに基づいて、座標系の変換により、ステレオカメラ125と外部ターゲットTgの中心位置との間の距離(第2距離)を求める。そして、制御装置126は、第1距離と第2距離との差が最小となるように、各カメラのパラメータを調整する。第1距離および第2距離は、いずれもステレオカメラ125と外部ターゲットTgの位置関係を表す値である。
《油圧ショベルの制御装置》
図11は、第1の実施形態に係る油圧ショベルの制御装置の構成を示すブロック図である。
制御装置126は、撮像データ取得部200、作業機械情報記憶部201、作業機位置特定部202、第1校正部203、パラメータ記憶部204、変換パラメータ算出部205、外部ターゲット位置算出部206、外部ターゲット位置取得部207、外部ターゲット位置変換部208、第2校正部209を備える。
撮像データ取得部200は、ステレオカメラ125の各カメラが撮像した画像を取得し、ステレオ計測により撮像対象の三次元データを生成する。画像および三次元データは撮像データの一例である。
作業機械情報記憶部201は、ブーム111の寸法L1、アーム112の寸法L2、バケット113の寸法L3、バケット113の輪郭形状、および旋回体120の代表点Oの位置とブームピンP1との位置関係等を記憶する。
作業機位置特定部202は、作業機位置検出器117が検出したブームシリンダ114、アームシリンダ115およびバケットシリンダ116のストローク量と、作業機械情報記憶部201が記憶する諸元の値に基づいてバケット113の位置及び姿勢を特定する。これにより、作業機位置特定部202は、車体座標系における作業機ターゲットTmの位置を特定する。
第1校正部203は、作業機位置特定部202が特定した車体座標系における作業機ターゲットTmの位置(位置p1〜p8)と、位置p1〜p8における作業機ターゲットTmの各カメラの撮像画像における位置と、未知点である位置p11〜p18における外部ターゲットTgの各カメラの撮像画像における位置に基づく収束計算により、ステレオカメラ125のパラメータを計算し更新、すなわち校正を行う。第1校正部203は、計算により得られたパラメータ(例えば、式(1)、式(3)の各行列)をパラメータ記憶部204に記録する。
パラメータ記憶部204は、ステレオカメラ125のパラメータを記憶する。
変換パラメータ算出部205は、位置方位演算器123が演算した旋回体120の位置および方位、ならびに傾斜検出器124が検出した旋回体120の傾斜角に基づいて、現場座標系と車体座標系との間の変換パラメータを算出する。これにより、パラメータ記憶部204に記憶されている車体座標系におけるステレオカメラ125の位置および姿勢を示すパラメータを座標変換することにより、現場座標系におけるステレオカメラ125の位置及び姿勢を特定することができる。変換パラメータ算出部205は、撮像装置の位置を取得する撮像装置位置取得部の一例である。
外部ターゲット位置算出部206は、撮像データ取得部200がステレオ計測によって得たカメラ座標系における外部ターゲットTgの位置を、パラメータ記憶部204が記憶するステレオカメラ125のパラメータを用いて座標変換することで、車体座標系における外部ターゲットTgの位置を算出する。外部ターゲット位置算出部206は、ステレオカメラ125の撮像画像に基づいて、ステレオカメラ125と外部ターゲットTgとの位置関係である第1位置関係を特定する第1位置関係特定部の一例である。
外部ターゲット位置取得部207は、既知のGNSS基準局Cの現場座標系における位置に、外部ターゲットTgの図形中心までの高さhを加算することで、外部ターゲットTgの現場座標系における位置p20を算出する。第1の実施形態において、既知のGNSS基準局Cの現場座標系における位置および外部ターゲットTgの図形中心までの高さhは予め制御装置126を動作させるためのプログラムに組み込まれている。なお、他の実施形態においては、GNSS基準局Cの現場座標系における位置および高さhがオペレータの操作等によりインタフェース940を介して入力され、入力された値がストレージ930に記録され、外部ターゲット位置取得部207がこれを読み出すものであってもよい。また他の実施形態において、図形中心の直下に現場座標系における位置が既知の点がこない場合(例えば、表示板Tg2の左下をGNSS基準局Cに合わせる場合など)、外部ターゲット位置取得部207は、高さhに代えて、現場座標系における位置が既知の点と図形中心との相対位置を示す情報を用いて位置p20を算出する。
外部ターゲット位置変換部208は、変換パラメータ算出部205が算出した変換パラメータを用いて、外部ターゲット位置取得部207が算出した外部ターゲットTgの現場座標系における位置を、車体座標系の位置に変換する。つまり、外部ターゲット位置変換部208は、車体座標系におけるステレオカメラ125と外部ターゲットTgの位置関係を特定することができる。外部ターゲット位置変換部208は、ステレオカメラ125の位置と外部ターゲットTgの位置とに基づいて、ステレオカメラ125と外部ターゲットTgとの位置関係である第2位置関係を特定する第2位置関係特定部の一例である。
第2校正部209は、外部ターゲット位置算出部206が算出したステレオカメラ125と外部ターゲットTgとの位置関係である第1位置関係と、外部ターゲット位置変換部208が得たステレオカメラ125と外部ターゲットTgとの位置関係である第2位置関係との差が最小になるようにステレオカメラ125のパラメータ(車体座標系における位置および姿勢)を修正する計算を、第1位置関係と第2位置関係との差が所定値以下になるまで繰り返し実行する(収束計算する)ことで、パラメータ記憶部204が記憶するパラメータを更新する。
《ステレオカメラの校正方法》
図12は、第1の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS0)。
油圧ショベル100のオペレータは、作業機ターゲットTmが所定の位置、例えば図6に示す位置p1からp8のそれぞれの位置に来るように操作装置1211を操作し、作業機110を駆動させる。
オペレータは、作業機ターゲットTmが位置p1からp8のそれぞれの位置に来たときに、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。これにより、制御装置126の撮像データ取得部200は、作業機ターゲットTmのそれぞれの位置(位置p1からp8)について、ステレオカメラ125の各カメラが撮像した画像を取得する(ステップS1)。このとき、作業機位置特定部202は、作業機位置検出器117が検出したブームシリンダ114、アームシリンダ115およびバケットシリンダ116のストローク量と、作業機械情報記憶部201が記憶する諸元の値に基づいて、作業機ターゲットTmのそれぞれの位置について、車体座標系における作業機ターゲットTmの位置を特定する(ステップS2)。
また、施工現場の作業者は、外部ターゲットTgを任意の位置、例えば図8に示す位置p11からp19のそれぞれの位置に設置する。このとき、外部ターゲットTgが設置される位置は未知点である。すなわち、作業者は位置p11からp19の正確な位置を知らなくてよい。
オペレータは、外部ターゲットTgが任意の位置に設置された後に、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。制御装置126の撮像データ取得部200は、ステレオカメラ125の各カメラが撮像した画像を取得する(ステップS3)。
第1校正部203は、各撮像画像における位置p1〜p8、p11〜p19の中心位置と、各位置p1〜p8の車体座標系における位置とに基づく収束計算により、ステレオカメラ125のパラメータを算出する(ステップS4)。第1校正部203は、パラメータを求めると、得られたパラメータをパラメータ記憶部204に記録・更新する(ステップS5)。
次に、オペレータは、GNSS基準局Cの直上(既知点)に設けられた外部ターゲットTgが図10に示すように、作業機110の作業範囲外に位置するように、操作装置1211を操作し、油圧ショベル100を移動させる。オペレータは、外部ターゲットTgが作業機110の作業範囲外に位置すると判断したときに、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。制御装置126の撮像データ取得部200は、ステレオカメラ125の各カメラが撮像した画像を取得し、当該画像に基づいてステレオ計測をすることで、カメラ座標系における外部ターゲットTgの位置を算出する(ステップS6)。
次に、変換パラメータ算出部205は、位置方位演算器123が演算した旋回体120の位置および方位、ならびに傾斜検出器124が検出した旋回体120の傾斜角に基づいて、現場座標系と車体座標系との間の変換パラメータを算出する(ステップS7)。
外部ターゲット位置算出部206は、パラメータ記憶部204が記憶するステレオカメラ125のパラメータを用いて、ステップS8で撮像データ取得部200がステレオ計測によって得たカメラ座標系における外部ターゲットTgの位置を、車体座標系における外部ターゲットTgの位置に変換算出する(ステップS8)。
外部ターゲット位置取得部207は、既知のGNSS基準局Cの現場座標系における位置に、外部ターゲットTgの図形中心までの高さを加算することで、外部ターゲットTgの現場座標系における中心位置を算出する(ステップS9)。次に、外部ターゲット位置変換部208は、変換パラメータ算出部205が算出した現場座標系と車体座標系との間の変換パラメータを用いて、外部ターゲット位置取得部207が算出した外部ターゲットTgの現場座標系における位置を、車体座標系の位置に変換する(ステップS10)。
第2校正部209は、外部ターゲット位置算出部206が算出した外部ターゲットTgの位置と、外部ターゲット位置変換部208が得た外部ターゲットTgの位置との差が最小になるようにステレオカメラのパラメータを収束計算し、パラメータ記憶部204が記憶するパラメータを更新する(ステップS11)。なお、第2校正部209は、少なくともパラメータ記憶部204が記憶するパラメータのうちステレオ計測におけるスケールに係るものを更新してもよい。これにより、制御装置126は、作業機110の作業範囲より遠い点についてより精度よく距離を計算できるようにステレオカメラ125を校正することができる。なお、上述したように、第2校正部209は、ステップS11においてカメラと外部ターゲットTgとの距離(第1距離と第2距離)の差が最小となるようにカメラのパラメータを校正するようにしてもよい。
《作用・効果》
このように、第1の実施形態によれば、制御装置126は、ステレオカメラ125の撮像画像に基づいたステレオ計測によって特定されたステレオカメラ125と外部ターゲットTgとの第1位置関係と、ステレオカメラ125の位置と外部ターゲットTgの位置とに基づいて特定された第2位置関係とに基づいてステレオカメラ125を校正する。外部ターゲットTgが作業機110上に設けられるものでなく施工現場に設けられるため、ステレオカメラ125と外部ターゲットTgとの距離を任意に設定してステレオカメラ125を校正することができる。したがって、制御装置126は、ステレオカメラ125と外部ターゲットTgとの距離を作業機110の作業範囲外に設定することで、作業機110の作業範囲より遠い点におけるスケールの計測精度が高くなるようにステレオカメラ125を校正することができる。
また、第1の実施形態によれば、外部ターゲットTgは、GNSS基準局Cの直上に設けられる。これにより、制御装置126は、外部ターゲットTgの現場座標系における位置を確実に特定することができる。
また、第1の実施形態によれば、制御装置126は、まず作業機110に設けられた作業機ターゲットTm、及び未知点の外部ターゲットTgに基づいてステレオカメラ125のパラメータを校正し、その後、既知点の外部ターゲットTgに基づいてステレオカメラ125のパラメータを更新する。これにより、既知点の外部ターゲットTgを用いた構成の前に、少なくとも作業機110の作業範囲において精度が高くなるようにステレオカメラ125のパラメータを求められた状態となる。その後、制御装置126は、既知点の外部ターゲットTgに基づく校正を行うことで、作業機110の作業範囲外においても精度が高くなるようにステレオカメラ125のパラメータを更新することができる。なお、他の実施形態においてはこれに限られず、制御装置126は、例えば作業機ターゲットTmおよび未知点の外部ターゲットTgに基づくステレオカメラ125のパラメータの校正と、既知点の外部ターゲットTgに基づくステレオカメラ125のパラメータの構成とを同時に行ってもよい。
また、第1の実施形態においては、作業機ターゲットTmが、中央の刃に取り付けられ、制御装置126がこれに基づいて収束計算を行うが、これに限られない。例えば、他の実施形態においては、作業機ターゲットTmが複数の刃に取り付けられてもよく、例えば中央の刃および左右両端の刃の計3つの刃に取り付けられてもよい。ここで、中央の刃以外に設けられた作業機ターゲットTmの車体座標系における位置は正確に分かっていなくてもよい。つまり作業機ターゲットTmの少なくとも1つが既知点に設置されていれば、他の作業機ターゲットTmは未知点に設置されていてもよい。以下の第2実施形態においても同様に、作業機ターゲットTmが複数の刃に取り付けられてもよい。
〈第2の実施形態〉
第2の実施形態について説明する。
第1の実施形態に係る油圧ショベル100の制御装置126は、作業機ターゲットTm、及び未知点である外部ターゲットTgを用いた校正の後に、現場座標系の位置が既知の外部ターゲットTgを用いた校正を行うという、2段階の校正を行う。これに対し、第2の実施形態に係る制御装置126は、作業機ターゲットTmと、未知点である外部ターゲットTgと、現場座標系の位置が既知の外部ターゲットTgとを用いて一度にステレオカメラ125の校正を行う。
《ステレオカメラの校正方法》
図13は、第2の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS100)。
油圧ショベル100のオペレータは、作業機ターゲットTmが所定の位置、例えば図6に示す位置p1からp8のそれぞれの位置に来るように操作装置1211を操作し、作業機110を駆動させる。
オペレータは、作業機ターゲットTmの位置p1からp8のそれぞれの位置に来たときに、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。これにより制御装置126の撮像データ取得部200は、それぞれの位置(位置p1からp8)について、ステレオカメラ125の各カメラが撮像した画像を取得する(ステップS101)。このとき、作業機位置特定部202は、作業機位置検出器117が検出したブームシリンダ114、アームシリンダ115およびバケットシリンダ116のストローク量と、作業機械情報記憶部201が記憶する諸元の値に基づいて、それぞれの位置について、車体座標系における作業機ターゲットTmの位置を特定する(ステップS102)。
また、施工現場の作業者は、外部ターゲットTgを任意の位置(未知点)、例えば図8に示す位置p11からp19のそれぞれの位置に設置する。
オペレータは、外部ターゲットTgが位置p11からp19のいずれかの位置に設置されたと判断するたびに、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。制御装置126の撮像データ取得部200は、それぞれの位置(位置p11からp19)について、ステレオカメラ125の各カメラが撮像した画像を取得する(ステップS103)。
次に、オペレータは、GNSS基準局Cの直上(既知点)に設けられた外部ターゲットTgが図10に示すように、作業機110の作業範囲外に位置するように、操作装置1211を操作し、油圧ショベル100を移動させる。オペレータは、外部ターゲットTgが作業機110の作業範囲外になったと判断したときに、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。制御装置126の撮像データ取得部200は、ステレオカメラ125の各カメラが撮像した画像を取得し、当該撮像画像における外部ターゲットTgの中心位置を求める(ステップS104)。なお、撮像画像における外部ターゲットTgの中心位置は、外部ターゲットTgの撮像データの一例である。
次に、変換パラメータ算出部205は、位置方位演算器123が演算した旋回体120の位置および方位、ならびに傾斜検出器124が検出した旋回体120の傾斜角に基づいて、現場座標系と車体座標系との間の変換パラメータを算出する(ステップS105)。
外部ターゲット位置取得部207は、既知のGNSS基準局Cの現場座標系における位置に、外部ターゲットTgの図形中心までの高さを加算することで、外部ターゲットTgの現場座標系における中心位置を算出する(ステップS106)。次に、外部ターゲット位置変換部208は、変換パラメータ算出部205が算出した現場座標系と車体座標系との間の変換パラメータを用いて、外部ターゲット位置取得部207が算出した外部ターゲットTgの現場座標系における位置を、車体座標系の位置に変換する(ステップS107)。
そして、第1校正部203は、撮像画像における位置p1〜p8、p11〜p19、p20の中心位置と、位置p1〜p8および位置p20の車体座標系における位置とに基づく収束計算により、ステレオカメラ125のパラメータを算出する(ステップS108)。第1校正部203は、得られたパラメータをパラメータ記憶部204に記録する(ステップS109)。
このように、第2の実施形態によれば、撮像画像における位置p1〜p8、p11〜p19、p20の中心位置と、位置p1〜p8および位置p20の車体座標系における位置とに基づく収束計算をすることで、1段階のステレオカメラ125の校正作業にて、作業機110の作業範囲内におけるステレオ計測の精度および作業機110の作業範囲より遠方の領域におけるステレオ計測の精度を担保することができる。
なお、第2の実施形態において、制御装置126は、車体座標系における作業機ターゲットTmの位置を特定し、これを用いて収束計算を行うが、これに限られない。例えば、他の実施形態に係る制御装置126は、車体座標系における作業機ターゲットTmの位置を用いずに、既知の外部ターゲットTgの車体座標系における位置と、撮像画像における作業機ターゲットTmおよび外部ターゲットTgの中心位置と、に基づいて収束計算を行ってもよい。
〈第3の実施形態〉
第3の実施形態について説明する。
第1、第2の実施形態に係る油圧ショベル100の制御装置126は、作業機ターゲットTmを用いて校正を行う。これに対し、第3の実施形態に係る制御装置126は、作業機ターゲットTmを用いずにステレオカメラ125の校正を行う。
図14は、第3の実施形態においてステレオカメラによって撮像される既知点の外部ターゲットTgの位置を示す図である。
第3の実施形態において、作業機110の作業範囲外に設置した既知点の外部ターゲットTgを用いてステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、図14に示すように、外部ターゲットTgに対して旋回体120を旋回させ、ステレオカメラ125から見て異なる角度に位置する外部ターゲットTgを撮像する。つまり、オペレータは、旋回体120が位置p101、位置p102、位置p103に来るように旋回体120を制御する。このとき、油圧ショベル100のオペレータは、走行体130を駆動させ、異なる距離から複数回外部ターゲットTgを撮像してもよい。そして、ステレオカメラ125を構成する各カメラは、各位置において外部ターゲットTgを撮像する。
そして、制御装置126は、各カメラの撮像画像における位置p101〜p103の中心位置と、位置p101〜p103の車体座標系における位置とに基づく収束計算により、ステレオカメラ125のパラメータを算出する。つまり、制御装置126は、ステレオカメラ125と既知点の外部ターゲットTgとの複数の相対位置を用いてステレオカメラ125の校正を行う。
《ステレオカメラの校正方法》
図15は、第3の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
パラメータ記憶部204には、ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS200)。まず外部ターゲット位置取得部207は、既知のGNSS基準局Cの現場座標系における位置に、外部ターゲットTgの図形中心までの高さhを加算することで、外部ターゲットTgの現場座標系における位置を算出する(ステップS201)。
次に、油圧ショベル100のオペレータは、油圧ショベル100と外部ターゲットTgとの相対位置が作業機110の作業範囲外になるように油圧ショベル100を走行した上で、旋回体120が任意の位置、例えば図14に示す位置p101からp103のそれぞれの位置に来るように操作装置1211を操作し、旋回体120を旋回させる。
オペレータは、旋回体120を位置p101からp103のそれぞれの位置に移動させると、操作装置1211を操作し、ステレオカメラ125に撮像指示を出力する。これにより、制御装置126の撮像データ取得部200は、それぞれの位置(位置p101からp103)について、ステレオカメラ125の各カメラが撮像した画像を取得し、当該撮像画像における外部ターゲットTgの中心位置を求める(ステップS202)。
次に、変換パラメータ算出部205は、位置方位演算器123が演算した旋回体120の位置および方位、ならびに傾斜検出器124が検出した旋回体120の傾斜角に基づいて、それぞれの位置について、現場座標系と車体座標系との間の変換パラメータを算出する(ステップS203)。
次に、外部ターゲット位置変換部208は、変換パラメータ算出部205が算出した変換パラメータを用いて、外部ターゲット位置取得部207が算出した外部ターゲットTgの現場座標系における位置を、それぞれの位置について、車体座標系の位置に変換する(ステップS204)。
第1校正部203は、位置p101〜p103の撮像画像における画像中心位置と、位置p101〜p103の車体座標系における位置とに基づいてステレオカメラ125のパラメータを算出する(ステップS205)。第1校正部203は、パラメータを求めると、得られたパラメータをパラメータ記憶部204に記録する(ステップS206)。
《作用・効果》
このように、第3の実施形態によれば、制御装置126は、ステレオカメラ125と外部ターゲットTgとの距離を作業機110の作業範囲より遠くに設定することで、作業機110の作業範囲より遠い点についてより精度よく距離を計算できるようにステレオカメラ125を校正することができる。
また、第3の実施形態によれば、制御装置126は、ステレオカメラ125と外部ターゲットTgとの相対位置ごとに、外部ターゲットTgの撮像画像における中心位置と、外部ターゲットTgの現場座標系の位置から変換された車体座標系における位置とを特定し、これらに基づいてステレオカメラ125を校正する。これにより、制御装置126は、ステレオカメラ125のパラメータをより精度よく求めることができる。また、これにより、作業機ターゲットTmを用いた校正を省略して、外部ターゲットTgを用いて直接ステレオカメラ125を校正することができる。
なお、第3の実施形態に係る制御装置126は、油圧ショベル100の旋回により、ステレオカメラ125と外部ターゲットTgとの複数の相対位置について、相対位置ごとに撮像画像を取得するが、これに限られない。例えば、他の実施形態においては、油圧ショベル100の走行により、複数の相対位置について、相対位置ごとに撮像画像を取得してもよい。例えば、外部ターゲットTgが作業機110の作業範囲内となる位置(近距離)と、外部ターゲットTgが作業機110の作業範囲外となる位置(遠距離)となるよう油圧ショベル100を走行させ、それぞれの位置において撮像画像を取得するようにしてもよい。
また、他の実施形態においては、複数の既知点のそれぞれに外部ターゲットTgを設置することで、ステレオカメラ125と複数の外部ターゲットTgのそれぞれの相対位置について撮像画像を取得してもよい。この場合、制御装置126は、複数の外部ターゲットTgの位置と、複数の外部ターゲットTgの撮像データとに基づいて撮像装置を校正する。また、他の実施形態においては、複数の任意の位置に外部ターゲットTgを設置し、それぞれの外部ターゲットTgの位置を高精度のセンサにより計測して既知点の外部ターゲットTgとして用いてもよい。また、他の実施形態において制御装置126は、油圧ショベル100の旋回または走行により、ステレオカメラ125と複数の外部ターゲットTgとの相対位置を異ならせ、相対位置ごとに撮像画像を取得してもよい。この場合、制御装置126は、位置関係ごとの複数の外部ターゲットTgの位置と、位置関係ごとの複数の外部ターゲットTgの撮像データとに基づいて撮像装置を校正する。すなわち、外部ターゲットTgの数は1つでも複数でもよく、撮像時におけるステレオカメラ125と外部ターゲットTgとの相対位置の数は1つでも複数でもよい。つまり、ステレオカメラ125は、1つの外部ターゲットTgを、油圧ショベル100の姿勢を変えずに1回撮像してもよいし、複数の外部ターゲットTgを、油圧ショベル100の姿勢を変えずに1回撮像してもよいし、1つの外部ターゲットTgを、油圧ショベル100の姿勢を変えて複数回撮像してもよいし、複数の外部ターゲットTgを、油圧ショベル100の姿勢を変えて複数回撮像してもよい。
また、第3の実施形態に係る制御装置126は、既知点の外部ターゲットTgの撮像画像における中心位置、および既知点に係る外部ターゲットTgの現場座標系の位置に基づいて収束計算を行を行うが、これに限られない。例えば、他の実施形態に係る制御装置126は、既知点に係る外部ターゲットTgの撮像画像における中心位置、未知点に係る外部ターゲットTgの撮像画像における中心位置、および既知点に係る外部ターゲットTgの現場座標系の位置に基づいて収束計算を行ってもよい。
〈他の実施形態〉
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
例えば、第1の実施形態によれば、作業機ターゲットTmを撮像した後に外部ターゲットTgを撮像するが、これに限られない。例えば、他の実施形態に係る制御装置126は、外部ターゲットTgを撮像した後に作業機ターゲットTmを撮像してもよいし、一の画像に作業機ターゲットTmと外部ターゲットTgの両方を写すことで、作業機ターゲットTmと外部ターゲットTgとを同時に撮像してもよい。
また、上述した実施形態においては作業機械が油圧ショベル100である場合について説明したが、これに限られない。例えば、他の実施形態においては、ホイルローダやブルドーザがステレオカメラ125を備え、上述の校正を行うものであってもよい。
また、上述した実施形態においては、制御装置126が、式(1)に示すパラメータ(いわゆる外部パラメータ)および式(3)に示すパラメータを求める場合について説明したが、これに限られない。例えば、制御装置126は、各カメラの内部パラメータを変化させることで、ステレオカメラ125の校正を行ってもよい。内部パラメータの例としては、カメラの光学系の焦点距離、カメラの光学系の光軸とイメージセンサの撮像面との交点の位置(x、y)、カメラレンズの半径方向の歪係数が挙げられる。
また、上述した実施形態においては、既知点の外部ターゲットTgが施工現場のGNSS基準局C上に設置されるが、これに限られない。例えば、他の実施形態においては、GNSSアンテナの近傍に外部ターゲットTgが設置されることで、外部ターゲットTgの現場座標系における位置を既知としてもよい。また例えば、外部ターゲットTgを他の油圧ショベル100に設け、当該他の油圧ショベル100が外部ターゲットTgの位置を現場座標系に変換することで、外部ターゲットTgの現場座標系における位置を既知としてもよい。また、外部ターゲットTgは、必ずしも施工現場に設置される必要はなく、例えば工場などに設置されてもよいし、屋内に設置されてもよい。
また、上述した実施形態においては、制御装置126がカメラ座標系および現場座標系の位置を車体座標系に変換することで、ステレオカメラ125と作業機ターゲットTmまたは外部ターゲットTgとの位置関係を特定するが、これに限られない。例えば、他の実施形態においては、車体座標系の位置をカメラ座標系または現場座標系に変換することで、ステレオカメラ125と作業機ターゲットTmまたは外部ターゲットTgとの位置関係を特定してもよい。
なお、第1、第2の実施形態では、制御装置126は既知点の外部ターゲットTgを1回撮像し、撮像画像と、このときのステレオカメラ125と既知点の外部ターゲットTgの位置関係とに基づいてステレオカメラ125のパラメータを更新するが、これに限られない。例えば、他の実施形態では、制御装置126は、既知点の外部ターゲットTgを複数回撮像し、各撮像画像と、それぞれの撮像タイミングにおけるステレオカメラ125と既知点の外部ターゲットTgの位置関係とに基づいてステレオカメラ125のパラメータを更新してもよい。この場合、図12に示すフローチャートのステップS6からステップS11の処理、または図13に示すフローチャートのステップS104からステップS109の処理を、図15に示すフローチャートのステップS201からステップS206に置き換えることで実現できる。既知点の外部ターゲットTgを複数回撮像することで、ステレオカメラ125と既知点の外部ターゲットTgの位置関係の算出結果に含まれるGNSSやIMUの誤差による影響を小さくすることができ、より精度よくステレオカメラ125のパラメータを求めることができる。
図16は、他の実施形態に係る校正システムの構成を概略図である。
上述した実施形態においては、制御装置126が単独でステレオカメラ125の校正を行うが、これに限られない。例えば、他の実施形態において、校正システム500が油圧ショベル100、サーバ501、通信回線502、端末装置503を備える場合に、制御装置126が他の装置と共働してステレオカメラ125の校正を行ってもよい。図16に示す例では、制御装置126は、通信回線502を介して、油圧ショベル100の遠隔に設けられているサーバ501および端末装置503とデータ通信することができる。サーバ501の例としては、コンピュータシステムが挙げられる。端末装置503の例としては、パーソナルコンピュータや携帯端末が挙げられる。通信回線502の例としては、インターネット、ローカルエリアネットワーク、携帯電話通信網、および衛星通信網が挙げられる。
このような実施形態において、サーバ501は、制御装置126の一部又は全部の機能を有していてよい。すなわち、サーバ501は、撮像データ取得部200、作業機械情報記憶部201、作業機位置特定部202、第1校正部203、パラメータ記憶部204、変換パラメータ算出部205、外部ターゲット位置算出部206、外部ターゲット位置取得部207、外部ターゲット位置変換部208、第2校正部209の少なくとも1つを有する。この場合、位置方位演算器123、傾斜検出器124、ステレオカメラ125、および作業機位置検出器117が検出したデータが、通信回線502を介してサーバ501に供給される。例えば、サーバ501は、制御装置126から撮像画像、現場座標系における各ターゲットの位置を受信し、これらに基づく収束計算を行うことで、カメラのパラメータを算出し、算出されたパラメータを制御装置126に送信する。
また、このような実施形態において、端末装置503が、制御装置126の一部又は全部の機能を有していてよい。すなわち、端末装置503は、撮像データ取得部200、作業機械情報記憶部201、作業機位置特定部202、第1校正部203、パラメータ記憶部204、変換パラメータ算出部205、外部ターゲット位置算出部206、外部ターゲット位置取得部207、外部ターゲット位置変換部208、第2校正部209の少なくとも1つを有する。
100 油圧ショベル
110 作業機
120 旋回体
125 ステレオカメラ
1251 第1カメラ
1252 第2カメラ
1253 第3カメラ
1254 第4カメラ
126 制御装置
200 撮像データ取得部
201 作業機械情報記憶部
202 作業機位置特定部
203 第1校正部
204 パラメータ記憶部
205 変換パラメータ算出部
206 外部ターゲット位置算出部
207 外部ターゲット位置取得部
208 外部ターゲット位置変換部
209 第2校正部
Tm 作業機ターゲット
Tg 外部ターゲット

Claims (12)

  1. 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データおよび前記作業機に設けられた作業機ターゲットの撮像データを取得する撮像データ取得部と、
    前記既知外部ターゲットの現場座標系における位置を取得する外部ターゲット位置取得部と、
    前記作業機の車体座標系における位置を特定することで、前記作業機ターゲットの車体座標系における位置を算出する作業機位置特定部と、
    前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置および前記作業機位置特定部によって算出された前記作業機ターゲットの位置を同一の座標系に係る位置に変換する位置変換部と、
    変換された各位置と前記撮像データ取得部により取得された前記既知外部ターゲットの撮像データおよび前記作業機ターゲットの撮像データとに基づいて前記撮像装置を校正する校正部と、
    を備える撮像装置の校正装置。
  2. 前記撮像データ取得部は、少なくとも1対の撮像装置から前記既知外部ターゲットの撮像データを取得し、
    前記校正部は、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記撮像データに基づいてステレオ計測された前記既知外部ターゲットの位置とに基づいて前記撮像装置を校正する、
    請求項1に記載の撮像装置の校正装置。
  3. 前記既知外部ターゲットのステレオ計測結果に基づいて、前記撮像装置と前記既知外部ターゲットとの位置関係である第1位置関係を特定する第1位置関係特定部と、
    前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置に基づいて、前記撮像装置と前記既知外部ターゲットとの位置関係である第2位置関係を特定する第2位置関係特定部と、
    を備え、
    前記校正部は、前記第1位置関係と前記第2位置関係とに基づいて前記撮像装置を校正する、
    請求項2に記載の撮像装置の校正装置。
  4. 前記校正部は、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部が取得した撮像データである画像における前記既知外部ターゲットの位置とに基づいて前記撮像装置を校正する、
    請求項1に記載の撮像装置の校正装置。
  5. 前記撮像データ取得部は、前記撮像装置によって撮像された、未知の位置に設置される未知外部ターゲットの撮像データを取得し、
    前記校正部は、前記撮像データ取得部が取得した撮像データである画像における前記未知外部ターゲットの位置を用いて前記撮像装置を校正する、
    請求項1から請求項4の何れか1項に記載の撮像装置の校正装置。
  6. 前記撮像データ取得部は、前記撮像装置によって撮像された複数の既知外部ターゲットの撮像データを取得し、
    前記外部ターゲット位置取得部は、前記複数の既知外部ターゲットそれぞれの位置を取得し、
    前記校正部は、前記外部ターゲット位置取得部により取得された前記複数の既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記複数の既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する、
    請求項1から請求項5の何れか1項に記載の撮像装置の校正装置。
  7. 前記撮像データ取得部は、前記撮像装置と前記既知外部ターゲットとの相対位置ごとに撮像データを取得し、
    前記外部ターゲット位置取得部は、前記相対位置ごとに前記既知外部ターゲットの位置を取得し、
    前記校正部は、前記外部ターゲット位置取得部により取得された前記相対位置ごとの既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記相対位置ごとの前記既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する、
    請求項1から請求項6の何れか1項に記載の撮像装置の校正装置。
  8. 前記撮像データ取得部は、前記作業機の作業範囲内の既知の位置に設けられた既知点ターゲットの撮像データを取得し、
    前記校正部は、前記既知外部ターゲットおよび前記既知点ターゲットの位置と、前記撮像装置による前記既知外部ターゲットおよび前記既知点ターゲットの撮像データとに基づいて前記撮像装置を校正する、
    請求項1から請求項7の何れか1項に記載の撮像装置の校正装置。
  9. 前記校正部は、前記撮像装置の前記作業機械における設置位置および姿勢を規定するパラメータを校正する、
    請求項1から請求項8の何れか1項に記載の撮像装置の校正装置。
  10. 前記既知外部ターゲットは、前記作業機の作業範囲より遠方に設けられ、
    前記校正部は、前記作業機ターゲットの位置と前記作業機ターゲットの撮像データに基づいて前記撮像装置を校正した後に、前記既知外部ターゲットの位置と前記既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する
    請求項1から請求項9の何れか1項に記載の撮像装置の校正装置。
  11. 前記作業機と、
    請求項1から請求項10の何れか1項に記載の撮像装置の校正装置と
    を備える作業機械。
  12. 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データおよび前記作業機に設けられた作業機ターゲットの撮像データを取得することと、
    前記既知外部ターゲットの現場座標系における位置を取得することと、
    前記作業機の車体座標系における位置を特定することで、前記作業機ターゲットの車体座標系における位置を算出することと、
    取得された前記既知外部ターゲットの位置および算出された前記作業機ターゲットの位置を同一の座標系に係る位置に変換することと、
    変換された各位置と取得された前記既知外部ターゲットの撮像データおよび前記作業機ターゲットの撮像データとに基づいて前記撮像装置を校正することと、
    を含む撮像装置の校正方法。
JP2017088967A 2017-04-27 2017-04-27 撮像装置の校正装置、作業機械および校正方法 Active JP6966218B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017088967A JP6966218B2 (ja) 2017-04-27 2017-04-27 撮像装置の校正装置、作業機械および校正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017088967A JP6966218B2 (ja) 2017-04-27 2017-04-27 撮像装置の校正装置、作業機械および校正方法

Publications (2)

Publication Number Publication Date
JP2018184815A JP2018184815A (ja) 2018-11-22
JP6966218B2 true JP6966218B2 (ja) 2021-11-10

Family

ID=64355666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017088967A Active JP6966218B2 (ja) 2017-04-27 2017-04-27 撮像装置の校正装置、作業機械および校正方法

Country Status (1)

Country Link
JP (1) JP6966218B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020003497A1 (ja) * 2018-06-29 2021-07-15 株式会社小松製作所 撮像装置の校正装置、監視装置、作業機械および校正方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6529058B1 (ja) * 2018-12-12 2019-06-12 J Think株式会社 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP6684004B1 (ja) * 2019-04-11 2020-04-22 J Think株式会社 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
FI20196023A1 (en) 2019-11-27 2021-05-28 Novatron Oy Method for determining the position and orientation of a machine
CN114729808B (zh) 2019-11-27 2025-03-25 诺瓦特伦有限公司 用于确定工作现场中的情境意识的方法
JP7215742B2 (ja) * 2020-03-19 2023-01-31 J Think株式会社 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
WO2023063219A1 (ja) * 2021-10-15 2023-04-20 住友重機械工業株式会社 作業機械の周辺監視システム、情報処理装置、及び周辺監視方法
JP2024041326A (ja) * 2022-09-14 2024-03-27 株式会社小松製作所 作業機械における車体座標系を設定するためのシステムおよび方法
JP2024070512A (ja) * 2022-11-11 2024-05-23 株式会社小松製作所 作業機械の校正システム及び作業機械の校正方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11173840A (ja) * 1997-12-08 1999-07-02 Ishikawajima Harima Heavy Ind Co Ltd 測距装置及び測距方法
JP5007885B2 (ja) * 2007-10-16 2012-08-22 株式会社トプコン 3次元測量システム及び電子的記憶媒体
JP2010210570A (ja) * 2009-03-12 2010-09-24 Tokyo Electric Power Co Inc:The 校正用データ取得装置およびその方法
JP6427984B2 (ja) * 2013-06-27 2018-11-28 株式会社リコー 測距装置、車両、測距装置の校正方法
EP3086196B1 (en) * 2015-04-21 2017-04-05 Hexagon Technology Center GmbH Method and control system for surveying and mapping a terrain while operating a bulldozer
KR20170039612A (ko) * 2015-09-30 2017-04-11 가부시키가이샤 고마쓰 세이사쿠쇼 교정 시스템, 작업 기계 및 교정 방법
CN106029994B (zh) * 2016-03-29 2020-04-03 株式会社小松制作所 校正系统、作业机械和校正方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020003497A1 (ja) * 2018-06-29 2021-07-15 株式会社小松製作所 撮像装置の校正装置、監視装置、作業機械および校正方法
US11508091B2 (en) 2018-06-29 2022-11-22 Komatsu Ltd. Calibration device for imaging device, monitoring device, work machine and calibration method
JP7203105B2 (ja) 2018-06-29 2023-01-12 株式会社小松製作所 撮像装置の校正装置、監視装置、作業機械および校正方法

Also Published As

Publication number Publication date
JP2018184815A (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
JP6966218B2 (ja) 撮像装置の校正装置、作業機械および校正方法
JP7203105B2 (ja) 撮像装置の校正装置、監視装置、作業機械および校正方法
KR102076631B1 (ko) 위치 계측 시스템, 작업 기계, 및 위치 계측 방법
KR102501073B1 (ko) 좌표 변환 시스템 및 작업 기계
CN106029994B (zh) 校正系统、作业机械和校正方法
JP5322789B2 (ja) モデル生成装置、モデル生成方法、モデル生成プログラム、点群画像生成方法および点群画像生成プログラム
WO2020241618A1 (ja) マップ生成システム及びマップ生成方法
CN108549771A (zh) 一种挖掘机辅助施工系统及方法
CN111226009B (zh) 作业机的外形形状测定系统、作业机的外形形状显示系统、作业机的控制系统以及作业机械
KR20200064542A (ko) 드론을 이용한 지상기준점 측량장치 및 그 방법
CN109242918B (zh) 一种直升机机载双目立体视觉标定方法
CN113874862A (zh) 工程机械
CN113935904A (zh) 激光里程计误差修正方法、系统、存储介质及计算设备
KR101409802B1 (ko) 3차원 3d 스캐너를 활용한 최적의 공간정보 분석 시스템
CN114004949B (zh) 机载点云辅助的移动测量系统安置参数检校方法及系统
CN112937444B (zh) 作业机械的辅助影像生成方法、装置和作业机械
JP2009042175A (ja) 施工位置測定システム及び丁張りレスシステム
CN114175104A (zh) 基于视觉的叶片定位
JP7517775B2 (ja) 3d設計データ作成方法、建設工事方法、3d設計データ作成システムおよび3d設計データ作成プログラム
CN118485719A (zh) 挖掘机铲斗位置确定方法、装置及挖掘机
CN118521636A (zh) 用于机具跟踪系统的视觉定位和特征检测
WO2009042933A1 (en) Photogrammetric networks for positional accuracy and ray mapping

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210202

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211021

R150 Certificate of patent or registration of utility model

Ref document number: 6966218

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250