JP6832806B2 - ガイド情報表示装置、クレーンおよびガイド情報の生成方法 - Google Patents
ガイド情報表示装置、クレーンおよびガイド情報の生成方法 Download PDFInfo
- Publication number
- JP6832806B2 JP6832806B2 JP2017142202A JP2017142202A JP6832806B2 JP 6832806 B2 JP6832806 B2 JP 6832806B2 JP 2017142202 A JP2017142202 A JP 2017142202A JP 2017142202 A JP2017142202 A JP 2017142202A JP 6832806 B2 JP6832806 B2 JP 6832806B2
- Authority
- JP
- Japan
- Prior art keywords
- guide information
- data
- suspended load
- camera
- data processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
- B66C13/00—Other constructional features or details
- B66C13/18—Control systems or devices
- B66C13/46—Position indicators for suspended loads or for crane elements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
- B66C23/00—Cranes comprising essentially a beam, boom, or triangular structure acting as a cantilever and mounted for translatory of swinging movements in vertical or horizontal planes or a combination of such movements, e.g. jib-cranes, derricks, tower cranes
- B66C23/88—Safety gear
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Control And Safety Of Cranes (AREA)
- Jib Cranes (AREA)
Description
本発明は、オペレータによるクレーン作業を補助するガイド情報表示装置、これを備えたクレーン、およびガイド情報の生成方法の技術に関する。
特許文献1には、ブームの先端近傍に取り付けられる撮像部と、撮像部によって撮像された画像を表示する表示部と、移動式クレーンの姿勢を制御するクレーンコントローラと、他の移動式クレーンと相互に情報を送受信するための通信部と、他の移動式クレーンから受信した他の移動式クレーンの情報を、表示部の画像に重ねて表示するための画像コントローラと、を備える移動式クレーンの表示装置が開示されている。
画像コントローラは、他の移動式クレーンの情報として、他の移動式クレーンの吊荷の移動限界線を、表示部の画像に重ねて表示するように構成される。画像コントローラは、クレーンコントローラが取得する吊荷荷重とアウトリガ張出量とに基づいて、ブームの旋回中心を中心とした最大作業半径を演算する。画像コントローラは、撮像部(ムービーカメラ)のズーム倍率、チルト角やパン角、高さ位置に基づいて、旋回中心を原点にして撮像されている範囲の座標を求める。撮像部の高さは、クレーンコントローラが取得するブーム長さおよび起伏角度に基づいて演算される。そして、画像コントローラは、最大作業半径の領域を示す曲線である移動限界線を、撮影部が撮像する画像が属する絶対座標系に変換して、画像に重ねて表示する。
特許文献1に記載の移動式クレーンの表示装置では、撮像部の高さは、クレーン情報として取得されるクレーン長さおよび起伏角により求められているが、例えば、吊荷周辺の地表面が、ブームを有する作業機の設置面に比べて隆起又は沈下していると、撮像部から地表面までの距離を算定する際に、物体周辺の地表面の隆起量もしくは沈下量を考慮することができないため、撮像部の高さを正確に算定することができなかった。そのため、吊荷の動線情報(現在の作業半径での動線情報)を正確に表示することができない場合があった。
本発明は、斯かる現状の課題に鑑みてなされたものであり、吊荷の動線を正確に表したガイド情報を表示することができるガイド情報表示装置およびガイド情報表示装置を備えたクレーンと、吊荷の動線を正確に表したガイド情報を生成することができるガイド情報の生成方法を提供することを目的とする。
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。
即ち、本発明に係るガイド情報表示装置は、ブームから垂下されるワイヤによって吊り下げられ、前記ブームの動作に応じて移動される吊荷の上方から、前記吊荷と地表面と、を少なくとも含む領域の映像を撮影するカメラと、前記領域において、前記吊荷の上方から点群データを取得するレーザスキャナと、を備えたデータ取得部と、前記カメラの映像を表示するデータ表示部と、前記レーザスキャナで取得した点群データに基づいて、前記カメラの映像に重畳して表示するガイド情報を生成するデータ処理部と、を備え、前記データ処理部は、前記レーザスキャナで取得した点群データに基づいて前記地表面の基準高を推定するとともに、前記地表面の基準高に基づいて前記カメラの撮影範囲を算出し、前記カメラの撮影範囲に基づいて、前記吊荷の動線を表す前記ガイド情報を生成することを特徴とする。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表したガイド情報を表示することができる。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表したガイド情報を表示することができる。
また、本発明に係るガイド情報表示装置は、前記データ処理部は、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心の位置を基準とした前記吊荷の旋回方向への動線を表す作業半径線情報を生成することを特徴とする。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表した作業半径線情報を表示することができる。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表した作業半径線情報を表示することができる。
また、本発明に係るガイド情報表示装置は、前記データ処理部は、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心と前記データ取得部の位置とを基準とした前記吊荷の前記ブームの軸線方向への動線を表す軸線情報を生成することを特徴とする。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表した軸線情報を表示することができる。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表した軸線情報を表示することができる。
また、本発明に係るガイド情報表示装置において、前記データ処理部は、前記ガイド情報を破線によって出力し、かつ、該破線の長さおよび間隔を前記地表面の基準高に基づいて算出した前記カメラの撮影範囲に応じて設定することを特徴とする。
このような構成のガイド情報表示装置によれば、オペレータは測定対象物に対する距離感を容易に把握することができる。
このような構成のガイド情報表示装置によれば、オペレータは測定対象物に対する距離感を容易に把握することができる。
また、本発明に係るガイド情報表示装置において、前記データ処理部は、前記領域を、平面視において格子状に分割し、同一形状で、かつ、同一面積を有する複数の小領域を生成し、前記小領域において、前記レーザスキャナのレーザ中心位置からの鉛直方向の距離が最大である点データを抽出し、前記小領域において、前記距離が最大である点データに対する他の点データの前記距離の離れ量を算出するとともに、前記距離の離れ量が所定の閾値以下である点データを、地表面を構成する点データとして抽出し、前記地表面を構成する点データに基づいて前記小領域における前記地表面の基準高を推定することを特徴とする。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表したガイド情報を表示することができる。
このような構成のガイド情報表示装置によれば、吊荷の動線を正確に表したガイド情報を表示することができる。
また、本発明に係るクレーンは、ガイド情報表示装置を備えることを特徴とする。
このような構成のクレーンによれば、吊荷の動線を正確に表したガイド情報を表示することができる。
このような構成のクレーンによれば、吊荷の動線を正確に表したガイド情報を表示することができる。
また、本発明に係るガイド情報の生成方法は、カメラによって、ブームから垂下されるワイヤによって吊り下げられ、前記ブームの動作に応じて移動される吊荷の上方から、前記吊荷と地表面と、を少なくとも含む領域を撮影する撮影工程と、レーザスキャナによって、前記吊荷の上方から、前記領域において点群データを取得する点群データ取得工程と、前記レーザスキャナで取得した点群データに基づいて、前記カメラの映像に重畳して表示するガイド情報を生成するデータ処理手段によって、前記点群データに基づいて前記地表面の基準高を推定する地表面推定工程と、前記地表面の基準高に基づいて前記カメラの撮影範囲を算出する撮影範囲算出工程と、前記カメラの撮影範囲に基づいて、前記吊荷の動線を表す前記ガイド情報を生成する動線情報生成工程と、を備えることを特徴とする。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
また、本発明に係るガイド情報の生成方法は、前記動線情報生成工程において、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心の位置を基準とした前記吊荷の旋回方向への動線を表す作業半径線情報を生成することを特徴とする。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
また、本発明に係るガイド情報の生成方法は、前記動線情報生成工程において、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心と前記カメラの位置とを基準とした前記吊荷の前記ブームの軸線方向への動線を表す軸線情報を生成することを特徴とする。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
このような構成のガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を生成することができる。
また、本発明に係るガイド情報の生成方法は、前記データ処理手段によって、前記ガイド情報を破線によって出力し、かつ、該破線の長さおよび間隔を前記カメラの撮影範囲に応じて設定する動線情報表示工程を、さらに備えることを特徴とする。
このような構成のガイド情報の生成方法によれば、オペレータは測定対象物に対する距離感を容易に把握することができる。
このような構成のガイド情報の生成方法によれば、オペレータは測定対象物に対する距離感を容易に把握することができる。
本発明の効果として、以下に示すような効果を奏する。
本発明に係るガイド情報表示装置、クレーンおよびガイド情報の生成方法によれば、吊荷の動線を正確に表したガイド情報を表示することができる。
次に、発明の実施の形態を説明する。
図1に示す如く、クレーン1は、本発明の一実施形態に係るガイド情報表示装置を備えたクレーンの一例であり、所望の場所に移動可能な移動式クレーンである。
クレーン1は、走行車両10、クレーン装置20を備えている。
図1に示す如く、クレーン1は、本発明の一実施形態に係るガイド情報表示装置を備えたクレーンの一例であり、所望の場所に移動可能な移動式クレーンである。
クレーン1は、走行車両10、クレーン装置20を備えている。
走行車両10は、クレーン装置20を搬送するものであり、複数(本実施形態では4個)の車輪11を有し、エンジン(図示せず)を動力源として走行する。
走行車両10の四方角部には、アウトリガ12が設けられている。アウトリガ12は、走行車両10の幅方向両側に油圧によって延伸可能な張り出しビーム12aと地面に垂直な方向に延伸可能な油圧式のジャッキシリンダ12bとから構成されている。そして、走行車両10は、ジャッキシリンダ12bを接地させることにより、クレーン1を作業可能な状態とすることができ、張り出しビーム12aの延伸長さを大きくすることにより、クレーン1の作業可能範囲(作業半径)を広げることができる。
走行車両10の四方角部には、アウトリガ12が設けられている。アウトリガ12は、走行車両10の幅方向両側に油圧によって延伸可能な張り出しビーム12aと地面に垂直な方向に延伸可能な油圧式のジャッキシリンダ12bとから構成されている。そして、走行車両10は、ジャッキシリンダ12bを接地させることにより、クレーン1を作業可能な状態とすることができ、張り出しビーム12aの延伸長さを大きくすることにより、クレーン1の作業可能範囲(作業半径)を広げることができる。
クレーン装置20は、吊荷Wをワイヤロープによって吊り上げるものであり、旋回台21、伸縮ブーム22、メインフックブロック23、サブフックブロック24、起伏シリンダ25、メインウインチ26、メインワイヤロープ27、サブウインチ28、サブワイヤロープ29、キャビン30を備えている。
旋回台21は、クレーン装置20を旋回可能に構成するものであり、円環状の軸受を介して走行車両10のフレーム上に設けられる。円環状の軸受は、その回転中心が走行車両10の設置面に対して垂直になるように配置されている。旋回台21は、円環状の軸受の中心を回転中心として一方向と他方向とに回転自在に構成されている。また、旋回台21は、油圧式の旋回モータ(図示せず)によって回転される。
伸縮ブーム22は、吊荷Wを吊り上げ可能な状態にワイヤロープを支持するものである。伸縮ブーム22は、複数のブーム部材であるベースブーム部材22a、セカンドブーム部材22b、サードブーム部材22c、フォースブーム部材22d、フィフスブーム部材22e、トップブーム部材22fから構成されている。各ブーム部材は、断面積の大きさの順に入れ子式に挿入されている。伸縮ブーム22は、各ブーム部材を図示しない伸縮シリンダで移動させることで軸方向に伸縮自在に構成されている。伸縮ブーム22は、ベースブーム部材22aの基端が旋回台21上に揺動可能に設けられている。これにより、伸縮ブーム22は、走行車両10のフレーム上で水平回転可能かつ揺動自在に構成されている。
メインフックブロック23は、吊荷Wを引掛けて吊り下げるためのものであり、メインワイヤロープ27が巻き掛けられる複数のフックシーブと、吊荷Wを吊るメインフック32とが設けられている。
クレーン装置20は、メインフックブロック23の他に、吊荷Wを引掛けて吊り下げるためのサブフックブロック24をさらに備えており、サブフックブロック24には、吊荷Wを吊るサブフック33が設けられている。
クレーン装置20は、メインフックブロック23の他に、吊荷Wを引掛けて吊り下げるためのサブフックブロック24をさらに備えており、サブフックブロック24には、吊荷Wを吊るサブフック33が設けられている。
起伏シリンダ25は、伸縮ブーム22を起立および倒伏させ、伸縮ブーム22の姿勢を保持するものである。起伏シリンダ25はシリンダ部とロッド部とからなる油圧シリンダから構成されている。
メインウインチ26は、メインワイヤロープ27の繰り入れ(巻き上げ)および繰り出し(巻き下げ)を行うものであり、本実施形態では油圧ウインチによって構成している。
メインウインチ26は、メインワイヤロープ27が巻きつけられるメインドラムがメイン用油圧モータによって回転されるように構成されている。メインウインチ26は、メイン用油圧モータが一方向へ回転するように作動油が供給されることでメインドラムに巻きつけられているメインワイヤロープ27を繰り出し、メイン用油圧モータが他方向へ回転するように作動油が供給されることでメインワイヤロープ27をメインドラムに巻きつけて繰り入れるように構成されている。
メインウインチ26は、メインワイヤロープ27が巻きつけられるメインドラムがメイン用油圧モータによって回転されるように構成されている。メインウインチ26は、メイン用油圧モータが一方向へ回転するように作動油が供給されることでメインドラムに巻きつけられているメインワイヤロープ27を繰り出し、メイン用油圧モータが他方向へ回転するように作動油が供給されることでメインワイヤロープ27をメインドラムに巻きつけて繰り入れるように構成されている。
また、サブウインチ28は、サブワイヤロープ29の繰り入れおよび繰り出しを行うものであり、本実施形態では、油圧ウインチによって構成している。
キャビン30は、オペレータが着座する運転座席31を覆うものであり、旋回台21における伸縮ブーム22の側方に設けられている。
このように構成されるクレーン1は、走行車両10を走行させることで、任意の位置にクレーン装置20を移動させることができ、また、起伏シリンダ25で伸縮ブーム22を任意の起伏角度に起立させることで、伸縮ブーム22を任意の伸縮ブーム長さに延伸させることができる。
また、クレーン1は、旋回台21、伸縮ブーム22、起伏シリンダ25等の動作(即ち、クレーン1の動作)を制御するコントローラ34を備えている。コントローラ34は、旋回台21、伸縮ブーム22、起伏シリンダ25等の動作状態に係る情報や、クレーン1固有の性能に係る情報、および吊荷Wの重量等を外部に出力することが可能である。
尚、本説明では、伸縮ブーム22の起伏支点の軸方向を基準として、図1に示すようなXYZ座標系を規定している(以下の説明においても同様)。
X軸方向(側線方向とも呼ぶ)は、伸縮ブーム22の起伏支点の軸方向に対して平行な水平方向である。また、Y軸方向(標高方向とも呼ぶ)は、鉛直方向である。さらに、Z軸方向(奥行方向とも呼ぶ)は、伸縮ブーム22の起伏支点の軸方向に対して垂直な水平方向である。即ち、XYZ座標系は、図2に示すように、伸縮ブーム22を基準としたローカル座標系として規定している。
X軸方向(側線方向とも呼ぶ)は、伸縮ブーム22の起伏支点の軸方向に対して平行な水平方向である。また、Y軸方向(標高方向とも呼ぶ)は、鉛直方向である。さらに、Z軸方向(奥行方向とも呼ぶ)は、伸縮ブーム22の起伏支点の軸方向に対して垂直な水平方向である。即ち、XYZ座標系は、図2に示すように、伸縮ブーム22を基準としたローカル座標系として規定している。
次に、本発明の一実施形態に係るガイド情報表示装置について、説明する。
クレーン1は、図3に示すようなガイド情報表示装置50を備えている。
ガイド情報表示装置50は、本発明に係るガイド情報表示装置の一例であり、図1に示すようなクレーン1による作業を効率よく、かつ、安全に行うことを可能にするために、吊荷Wを含む領域(以下、吊荷領域WAと言う)の情報(以下、ガイド情報と言う)を映像で表示し、オペレータに提示するための装置である。
クレーン1は、図3に示すようなガイド情報表示装置50を備えている。
ガイド情報表示装置50は、本発明に係るガイド情報表示装置の一例であり、図1に示すようなクレーン1による作業を効率よく、かつ、安全に行うことを可能にするために、吊荷Wを含む領域(以下、吊荷領域WAと言う)の情報(以下、ガイド情報と言う)を映像で表示し、オペレータに提示するための装置である。
ここでいう「吊荷領域WA」とは、図2および図4に示すように、クレーン1の作業領域SA内で、Y軸方向視において吊荷Wを含む領域として設定されるものであり、「ガイド情報」を生成する対象となる領域である。
「吊荷領域WA」は、クレーン1における伸縮ブーム22のトップブーム部材22fの直下を含む領域として設定され、吊荷領域WA内に存在する吊荷W、地表面F、地物Cが、ガイド情報表示装置50による測定対象物となる。「吊荷領域WA」は、伸縮ブーム22の旋回動作、起伏動作、伸縮動作に応じて変位する。
「吊荷領域WA」は、クレーン1における伸縮ブーム22のトップブーム部材22fの直下を含む領域として設定され、吊荷領域WA内に存在する吊荷W、地表面F、地物Cが、ガイド情報表示装置50による測定対象物となる。「吊荷領域WA」は、伸縮ブーム22の旋回動作、起伏動作、伸縮動作に応じて変位する。
また、ここで言う「ガイド情報」は、オペレータがクレーン1によって吊荷Wを搬送するときに、伸縮ブーム22の長さ・旋回位置・起伏角度、ワイヤロープの巻き出し量等の良否について、オペレータの判断を補助する情報であり、吊荷領域WAの映像情報、吊荷Wおよび地物Cの形状に係る情報、吊荷Wの高さ情報、地物Cの高さ情報、吊荷Wの動線に係る情報等が含まれる。
図3および図4に示す如く、ガイド情報表示装置50は、データ取得部60と、データ処理部70と、データ表示部80と、データ入力部90によって、構成されている。
データ取得部60は、吊荷領域WAにおけるガイド情報を生成するために必要なデータを取得する部位であり、図3に示すように、カメラ61、レーザスキャナ62、慣性計測装置(IMU)63を備えている。
図4に示すように、データ取得部60は、クレーン1の伸縮ブーム22の先端に位置しているトップブーム部材22fに付設されており、吊荷Wの真上に位置するブーム先端から真下の状況を捉えることができる状態で配置されている。尚、ここでいう吊荷Wの「真上」は、吊荷Wの鉛直上方の位置と、その位置を基準とした一定範囲(例えば、吊荷Wの上面の範囲)の位置と、を含む概念である。
データ取得部60は、伸縮ブーム22の先端部のトップブーム部材22fに対してジンバル67(図1参照)を介して付設されており、伸縮ブーム22が起伏動作、旋回動作、伸縮動作をしたときに、データ取得部60の姿勢(Y軸方向に向けた姿勢)を略一定に保持することができるように構成されている。これにより、カメラ61とレーザスキャナ62を常に吊荷Wに向けておくことができる。このため、データ取得部60は、カメラ61とレーザスキャナ62によって、吊荷Wとその下方に存在する地表面F(即ち、吊荷領域WA)から、常にデータを取得することができる。また、吊荷領域WAに地物Cが存在する場合には、カメラ61とレーザスキャナ62によって、地物Cのデータを取得することができる。
図5(A)(B)に示すように、カメラ61は、吊荷領域WAの映像を撮影するためのデジタルビデオカメラであり、撮影した映像をリアルタイムで外部に出力する機能を有している。カメラ61は、図5(A)(B)に示すような画角(水平画角θhおよび垂直画角θv)を有している。また、カメラ61は、適切なガイド情報の生成に必要なデータ量を考慮した画素数、フレームレート、画像伝送レートを有している。
図3に示すように、レーザスキャナ62は、測定対象物にレーザを照射し、そのレーザの測定対象物における反射光を受光することによって、その反射点に係る情報を取得し、測定対象物の点群データを取得する装置である。レーザスキャナ62の測定対象物は、吊荷W、地物C、地表面Fである。また、レーザスキャナ62には、測定時刻を取得するための第一GNSS受信機65が接続されている。
ガイド情報表示装置50では、レーザスキャナ62によって、リアルタイムに平面的な三次元点群データを取得する。
ガイド情報表示装置50では、レーザスキャナ62によって、リアルタイムに平面的な三次元点群データを取得する。
図6に示すように、レーザスキャナ62は、合計16個のレーザ送受信センサを備えており、同時に16本のレーザを測定対象物に照射して、測定対象物の点群データを取得することができるものである。レーザスキャナ62の16個の各レーザ送受信センサは、Z軸方向において2°ずつ照射角度を異ならせて配置されており、測定対象物に対して、全体で30°の拡がりを持ってレーザを照射可能に構成されている。また、レーザスキャナ62の各レーザ送受信センサは、Z軸回りに360°(全方位)回転可能に構成されている。尚、以下の説明では、吊荷領域WAに向けて照射されるレーザが描く軌跡をレーザ側線と呼ぶ。レーザ側線は、X軸方向に対して平行であり、レーザスキャナ62では、16本のレーザ側線が同時に描かれる。
そして、レーザスキャナ62は、レーザ側線がX軸方向に対して平行となるように配置されている。また、レーザスキャナ62は、レーザの照射角度を変更する基準軸が、Z軸方向に対して平行とされている。
図3に示すように、慣性計測装置(Inertial Measurement Unit、以下IMUと呼ぶ)63は、データ取得時におけるカメラ61とレーザスキャナ62の姿勢データを取得するための装置である。IMU63は、リアルタイムで姿勢角を測定することが可能であり、レーザスキャナ62によって取得した点群データの補正に利用可能な測定精度を有している。また、IMU63には、測定時刻を取得するための第二GNSS受信機66が接続されている。
図7(A)(B)に示すように、データ取得部60はカメラ61、レーザスキャナ62、慣性計測装置(IMU)63をフレーム体64に対して固定し、一体に構成したセンサユニットである。
フレーム体64は、5枚の板材を組み合わせて構成された略直方体状の物体である。フレーム体64は、4枚の板材で直方体の四方の側面部を構成するとともに、残り1枚の板材で、直方体の上面部を構成し、下方に開口部を有する形状に構成されている。データ取得部60では、カメラ61とレーザスキャナ62を、フレーム体64の側面部内側に付設し、IMU63を、フレーム体64の上面部に付設している。図7(A)に示すように、カメラ61の撮像素子中心位置とレーザスキャナ62のレーザ中心位置は、Y軸方向視において、Z軸方向に距離Δzhで離間している。尚、レーザ中心位置とは、レーザスキャナ62におけるレーザの回転中心であり、Z軸上に位置している。
また、図7(B)に示すように、カメラ61の撮像素子中心位置とレーザスキャナ62のレーザ中心位置は、X軸方向視において、Y軸方向に距離Δyvで離間している。
データ取得部60は、フレーム体64の四方の側面部のうち、対面する一対の側面部の一方がZ軸に対して垂直となり、対面する一対の側面部の他方がX軸に対して垂直となる姿勢で配置される。また、データ取得部60は、フレーム体64の上面部が、Y軸に対して垂直となる姿勢で配置される。
フレーム体64は、5枚の板材を組み合わせて構成された略直方体状の物体である。フレーム体64は、4枚の板材で直方体の四方の側面部を構成するとともに、残り1枚の板材で、直方体の上面部を構成し、下方に開口部を有する形状に構成されている。データ取得部60では、カメラ61とレーザスキャナ62を、フレーム体64の側面部内側に付設し、IMU63を、フレーム体64の上面部に付設している。図7(A)に示すように、カメラ61の撮像素子中心位置とレーザスキャナ62のレーザ中心位置は、Y軸方向視において、Z軸方向に距離Δzhで離間している。尚、レーザ中心位置とは、レーザスキャナ62におけるレーザの回転中心であり、Z軸上に位置している。
また、図7(B)に示すように、カメラ61の撮像素子中心位置とレーザスキャナ62のレーザ中心位置は、X軸方向視において、Y軸方向に距離Δyvで離間している。
データ取得部60は、フレーム体64の四方の側面部のうち、対面する一対の側面部の一方がZ軸に対して垂直となり、対面する一対の側面部の他方がX軸に対して垂直となる姿勢で配置される。また、データ取得部60は、フレーム体64の上面部が、Y軸に対して垂直となる姿勢で配置される。
次に、XYZ座標系における点(x,y)のX座標を、カメラ空間座標系におけるXc座標に変換する方法について、説明する。
ガイド情報表示装置50では、カメラ61で撮影した映像M上に後述するガイド情報GDを重畳してデータ表示部80に表示するために、XYZ座標系とカメラ空間座標系の間で座標値の変換処理を行う。ガイド情報表示装置50では、カメラ61の映像空間において、三次元のカメラ空間座標系Xc・Yc・Zcを規定している。
図5(A)に示すように、カメラ61のレンズ中心から延ばした垂線から点(x,y)までのX軸方向の距離をdh、カメラ61の水平方向の最大画面幅をwhとする。また、点(x,y)は、画面中心からX軸方向の位置をxとしている。このとき、カメラ空間における点(x,y)のXc座標は、以下の数式(1)(2)で表される。
尚、以下の数式では、カメラ61の撮像素子とレーザ中心の位置の水平方向の差分をΔzhとし(図7(A)参照)、カメラ画像の横幅をwh、カメラ61の水平画角をθh、一時変数をtmp1としている。
tmp1=(y−Δzh)×tan(π×θh/360)・・・(1)
Xc=wh/2−wh×x/(2×tmp1)・・・(2)
尚、以下の数式では、カメラ61の撮像素子とレーザ中心の位置の水平方向の差分をΔzhとし(図7(A)参照)、カメラ画像の横幅をwh、カメラ61の水平画角をθh、一時変数をtmp1としている。
tmp1=(y−Δzh)×tan(π×θh/360)・・・(1)
Xc=wh/2−wh×x/(2×tmp1)・・・(2)
次に、XYZ座標系における点(y,z)のZ座標を、カメラ空間座標系におけるZc座標に変換する方法について、説明する。
図5(B)に示すように、点(y,z)からレーザ中心までのZ軸方向の距離をdv、カメラ61の水平方向の最大画面幅をwvとしている。また、点(y,z)は、画面中心からZ軸方向の位置をzとしている。このとき、カメラ空間における点(y,z)のZc座標は、以下の数式(3)(4)で表される。
尚、以下の数式では、カメラ61の撮像素子とレーザスキャナ62のレーザ中心の位置の垂直方向の差分をΔyv(図7(B)参照)、カメラ画像の縦幅をwv、カメラ61の垂直画角をθv、一時変数をtmp2としている。
tmp2=Y×tan(π×θv/360)・・・(3)
Zc=wv/2+wv×(Z−Δyv)/(2×tmp2)・・・(4)
図5(B)に示すように、点(y,z)からレーザ中心までのZ軸方向の距離をdv、カメラ61の水平方向の最大画面幅をwvとしている。また、点(y,z)は、画面中心からZ軸方向の位置をzとしている。このとき、カメラ空間における点(y,z)のZc座標は、以下の数式(3)(4)で表される。
尚、以下の数式では、カメラ61の撮像素子とレーザスキャナ62のレーザ中心の位置の垂直方向の差分をΔyv(図7(B)参照)、カメラ画像の縦幅をwv、カメラ61の垂直画角をθv、一時変数をtmp2としている。
tmp2=Y×tan(π×θv/360)・・・(3)
Zc=wv/2+wv×(Z−Δyv)/(2×tmp2)・・・(4)
ガイド情報表示装置50では、上記数式(1)〜(4)を用いて、XYZ座標系においてレーザスキャナ62等によって取得した点群データの座標を、カメラ空間座標系に変換することによって、カメラ61で撮影した映像M上にガイド情報GDを位置合わせして表示する。
尚、レーザスキャナ62としては、伸縮ブーム22の最高到達高さを考慮して、その最高到達高さ(例えば、約100m)から測定対象物の三次元形状を測定可能な機器を選択する。また、レーザスキャナ62としては、適切なガイド情報を生成するために必要なデータ量およびデータ精度を考慮して、測定スピード、測定ポイント数、測定精度等の各仕様について所定の性能を有する機器を選択する。
尚、本実施形態では、合計16個のレーザ送受信センサを備えたレーザスキャナ62を用いる場合を例示しているが、本発明に係るガイド情報表示装置は、レーザスキャナを構成するレーザ送受信センサの個数によっては限定されない。即ち、本発明に係るガイド情報表示装置では、クレーンのブーム(ジブ)の最高到達高さ等に応じて、最適な仕様のレーザスキャナを適宜選択する。
データ取得部60によって吊荷領域WAにおいて取得するデータには、吊荷Wと、吊荷Wの下方の地表面Fと、吊荷Wの周囲に存在する地物Cをカメラ61によって撮影した映像データが含まれる。また、データ取得部60によって吊荷領域WAにおいて取得するデータには、吊荷Wと、地表面Fと、地物Cをレーザスキャナ62によってスキャンして取得した点群データが含まれる。尚、ここでいう地表面Fには、吊荷Wの搬送元および搬送先となる面を広く含み、地上面のみならず、建物屋上の床面や屋根面等も含まれる。
図3に示すように、データ処理部70は、データ取得部60で取得したデータを処理して、オペレータに提示するガイド情報GDを生成するための部位であり、本実施形態では、所定のデータ処理プログラムがインストールされた汎用のパーソナルコンピュータによって構成している。
また、データ処理部70は、クレーン1のコントローラ34と電気的に接続されており、コントローラ34から出力される「クレーン情報」が、データ処理部70に入力される。
また、データ処理部70は、クレーン1のコントローラ34と電気的に接続されており、コントローラ34から出力される「クレーン情報」が、データ処理部70に入力される。
データ表示部80は、オペレータに提示するガイド情報GDを表示するための部位であり、データ処理部70に接続されたディスプレイ装置により構成される。
データ表示部80には、図8(A)に示すように、カメラ61によって撮影した吊荷領域WAの映像Mをリアルタイムに表示する。
データ表示部80には、図8(A)に示すように、カメラ61によって撮影した吊荷領域WAの映像Mをリアルタイムに表示する。
ガイド情報GDには、図8(B)に示すように、吊荷W・地物CのY軸方向視における外形形状を表すガイド枠GD1や、吊荷Wの下面の高さ情報GD2、地物Cの上面の高さ情報GD3、吊荷Wの動線を示す作業半径線情報GD4、伸縮ブーム22の軸線方向を示す軸線情報GD5等が含まれる。
そして、データ表示部80には、データ処理部70で生成したガイド情報GDと映像Mが重畳して表示される。
そして、データ表示部80には、データ処理部70で生成したガイド情報GDと映像Mが重畳して表示される。
図3に示す如く、データ入力部90は、データ処理部70に対して、設定値等を入力するための部位であり、タッチパネル、マウス、キーボード装置等により構成される。
尚、ガイド情報表示装置50は、図9(A)に示すように、データ処理部70とデータ表示部80とデータ入力部90をタブレット型の汎用パーソナルコンピュータ(以下、タブレットPCとも呼ぶ)によって、一体的に構成することが好ましい。また、ガイド情報表示装置50は、図9(B)に示すように、データ表示部80とデータ入力部90をタッチパネル式ディスプレイ装置によって一体で構成し、当該タッチパネル式ディスプレイ装置に汎用PCたるデータ処理部70を接続する構成としてもよい。
図4に示すように、データ表示部80とデータ入力部90は、キャビン30内の運転座席31の前方のオペレータが見やすい位置に配置する。データ処理部70は、データ取得部60の近傍に配置することが好ましい。尚、データ処理部70とデータ表示部80とデータ入力部90をタブレットPCによって一体的に構成した場合には、データ処理部70をキャビン30内に配置する構成としてもよい。
データ取得部60とデータ処理部70間のデータの伝送は、有線LANによることが好ましい。尚、データ取得部60とデータ処理部70間のデータの伝送は、無線LANを採用してもよく、あるいは、電力線通信を採用してもよい。
データ取得部60とデータ処理部70間のデータの伝送は、有線LANによることが好ましい。尚、データ取得部60とデータ処理部70間のデータの伝送は、無線LANを採用してもよく、あるいは、電力線通信を採用してもよい。
尚、ガイド情報表示装置50は、図9(A)に示すように、データ処理部70とデータ表示部80とデータ入力部90をタブレット型の汎用パーソナルコンピュータ(以下、タブレットPCとも呼ぶ)によって、一体的に構成することが好ましい。また、ガイド情報表示装置50は、図9(B)に示すように、データ表示部80とデータ入力部90をタッチパネル式ディスプレイ装置によって一体で構成し、当該タッチパネル式ディスプレイ装置に汎用PCたるデータ処理部70を接続する構成としてもよい。
ここで、データ取得部60によるデータの取得状況を説明する。
データ取得部60では、カメラ61によって、吊荷領域WAを連続的に撮影し、吊荷領域WAの映像Mを取得する。
データ取得部60では、カメラ61によって、吊荷領域WAを連続的に撮影し、吊荷領域WAの映像Mを取得する。
図10に示すように、データ取得部60では、レーザスキャナ62によって、吊荷領域WAを連続的にスキャンし、吊荷領域WAにおける測定対象物の点群データを取得する。以下では、レーザスキャナ62によって取得する点群データを、点群データPと呼ぶ。点群データPは、点データpの集合であり、点データpは、吊荷領域WAに存在する地表面F、吊荷W、地物Cの上面に位置する点を表している。そして、点データpには、図11に示すように、測定対象物(例えば地物C)からレーザスキャナ62までの距離aと、その点データpを取得したときのレーザスキャナ62の照射角度bの情報が含まれている。
図3に示すように、レーザスキャナ62には、第一GNSS受信機65を接続しており、点群データPを取得すると同時に、第一GNSS受信機65によって複数の測位衛星から時間情報を受信する。そして、データ処理部70は、点データpに対して、該点データpの取得時間に係る情報を付与する。即ち、点データpに係る情報には、距離a、照射角度bの他、取得時間tpが含まれている。
また、データ取得部60では、レーザスキャナ62によって、点群データPを取得すると同時に、IMU63によって、所定の周期でレーザスキャナ62の姿勢データQを取得する。姿勢データQには、レーザスキャナ62のX・Y・Z軸の各軸方向に対する角度と加速度に係る情報が含まれる。尚、IMU63による姿勢データQの取得周期は、レーザスキャナ62による点群データPの取得周期よりも短くする。姿勢データQは、測定周期ごとに測定される個別姿勢データqの集合である。
IMU63には、第二GNSS受信機66を接続しており、姿勢データQを取得すると同時に、第二GNSS受信機66によって、複数の測位衛星から時間情報を受信する。データ処理部70は、個別姿勢データqに対して、該個別姿勢データqの取得時間に係る情報として取得時間tqを付与する。即ち、個別姿勢データqに係る情報には、取得時間tqが含まれている。
次に、データ処理部70によるデータの処理状況を説明する。
図12に示す如く、データ処理部70によるデータ処理では、まず「フレーム抽出処理」を行う(STEP−101)。
データ処理部70による点群データPのデータ処理では、点群データPのストリームデータから、1フレーム分の点群データPを切り出して出力する。1フレーム分の点群データPは、レーザスキャナ62によるレーザの照射方向がZ軸回りに1周する間に取得する点データpの集合である。
データ処理部70による点群データPのデータ処理では、点群データPのストリームデータから、1フレーム分の点群データPを切り出して出力する。1フレーム分の点群データPは、レーザスキャナ62によるレーザの照射方向がZ軸回りに1周する間に取得する点データpの集合である。
図12に示す如く、データ処理部70によるデータ処理では、次に「点群データと姿勢データの同期処理」を行う(STEP−102)。
データ処理部70は、1フレーム分の点群データPに含まれる点データpを、IMU63によって取得した姿勢データQと同期させる。
具体的には、個々の点データpにおいて、その点データpの取得時間tpに最も近い個別姿勢データqの取得時間tqを探索し、該取得時間tqにおける個別姿勢データqを、その点データpに対応付けることで同期する。
データ処理部70は、1フレーム分の点群データPに含まれる点データpを、IMU63によって取得した姿勢データQと同期させる。
具体的には、個々の点データpにおいて、その点データpの取得時間tpに最も近い個別姿勢データqの取得時間tqを探索し、該取得時間tqにおける個別姿勢データqを、その点データpに対応付けることで同期する。
このようにしてデータ処理部70は、個別姿勢データqに同期された点データpを出力する。
そして、図11に示すように、データ処理部70は、距離aおよび照射角度bとに基づいて、レーザスキャナ62のレーザ中心位置から点データpまでの距離hを算出する。尚、ここで言う「距離h」は、レーザスキャナ62のレーザ中心位置から点データpが存在する水平面までの距離、つまり、レーザスキャナ62のレーザ中心位置から点データpまでの鉛直方向の距離である。
そして、図11に示すように、データ処理部70は、距離aおよび照射角度bとに基づいて、レーザスキャナ62のレーザ中心位置から点データpまでの距離hを算出する。尚、ここで言う「距離h」は、レーザスキャナ62のレーザ中心位置から点データpが存在する水平面までの距離、つまり、レーザスキャナ62のレーザ中心位置から点データpまでの鉛直方向の距離である。
また、データ処理部70では、点データpの距離hを算出する際に、その点データpに対応する個別姿勢データqを用いて補正を行う。これによって、レーザスキャナ62の姿勢に起因する誤差を解消し、より精度よく点データpの距離hを算出することができる。
即ち、ガイド情報表示装置50において、データ取得部60は、レーザスキャナ62の姿勢データQを取得するIMU63を備え、データ処理部70は、IMU63で取得したレーザスキャナ62の姿勢データQに基づいて、点群データPを補正している。
ガイド情報表示装置50では、このような構成によって、オペレータに対して、より的確なガイド情報GDを提示することが可能になっている。
ガイド情報表示装置50では、このような構成によって、オペレータに対して、より的確なガイド情報GDを提示することが可能になっている。
1フレーム分の点群データPをXYZ座標系にプロットすると、図13(A)のように表される。図13(A)はZ軸方向から見た点群データP(点データpの集合)である。
図12に示す如く、データ処理部70によるデータ処理では、次に「地表面推定処理」を行う(STEP−103)。データ処理部70は、吊荷領域WAに存在する地表面Fの基準高H0を推定する処理を行う。
ここでは、まず、地表面Fを自動的に推定する場合を説明する。
(点群データ取得工程)
データ処理部70は、まず、1フレーム分の点群データPを取得する。点群データPは、測定対象物たる吊荷Wおよび地物Cの上方から、吊荷Wおよび地物Cおよび地表面Fを含む吊荷領域WAにおいて取得したものである。
データ処理部70は、まず、1フレーム分の点群データPを取得する。点群データPは、測定対象物たる吊荷Wおよび地物Cの上方から、吊荷Wおよび地物Cおよび地表面Fを含む吊荷領域WAにおいて取得したものである。
図14および図15(B)に示すように、データ処理部70は、吊荷領域WAを、平面視(Y軸方向視)において、格子状に複数の小領域Sに分割する(領域分割工程:STEP−201)。データ処理部70は、Z軸方向に対して平行な分割線によってレーザ側線を等間隔に分割し、分割されたレーザ側線を基準とする同一形状で、かつ、同一面積を有する小領域Sに分割している。本実施形態において、データ処理部70は、レーザ側線を10分割することで、160個の小領域Sに分割している。
次に、データ処理部70は、各小領域Sにおいて、距離hが最も大きい(距離hが最大距離hmaxである)点データpを抽出する(最大点データ抽出工程:STEP−202)。最大距離hmaxである点データpは、最も低い位置に存在している点データpであると推測される。そして、図14および図15(A)に示すように、データ処理部70は、最大距離hmaxである点データpに対する他の点データの距離hの離れ量Dを算出する(離れ量算出工程:STEP−203)。データ処理部70は、最大距離hmaxを基準として、距離hの離れ量Dが所定の閾値r1以内(本実施形態では離れ量Dが7cm以内)にある点データpを、地表面Fを構成する点データとして抽出する(地表面点データ抽出工程:STEP−204)。
次に、データ処理部70は、各小領域Sにおいて、抽出した点データpの距離hに基づいて各小領域Sの地表面Fの基準高H0を推定する(小領域地表面推定工程:STEP−205)。本実施形態では、データ処理部70は、抽出した点データpの距離hの平均値を、小領域Sにおける地表面Fの基準高H0としている。
データ処理部70では、このような構成によって、任意の小領域Sにおいて、地表面Fの基準高H0を推定することができる。
データ処理部70では、このような構成によって、任意の小領域Sにおいて、地表面Fの基準高H0を推定することができる。
さらに、データ処理部70は、各小領域Sにおける地表面Fの基準高H0に基づいて吊荷領域WAの地表面Fの基準高H0を推定する(領域地表面推定工程:STEP−206)。本実施形態では、データ処理部70は、各小領域Sにおける地表面Fの基準高H0(距離hの平均値)をさらに全ての小領域Sで平均した値を、吊荷領域WAの地表面Fの基準高H0としている。
データ処理部70では、このような構成によって、吊荷領域WAの地表面Fの基準高H0を推定することができる。そして、データ処理部70は、距離hと基準高H0から、点データpの標高値Hを算出する。図10に示すように、標高値Hは、点データpの基準高H0からの高さである。
データ処理部70では、このような構成によって、吊荷領域WAの地表面Fの基準高H0を推定することができる。そして、データ処理部70は、距離hと基準高H0から、点データpの標高値Hを算出する。図10に示すように、標高値Hは、点データpの基準高H0からの高さである。
(STEP−206)において、データ処理部70は、吊荷領域WAにおける地表面Fの基準高H0に対する一の小領域Sにおける地表面Fの基準高H0の差異が所定の閾値よりも大きい場合に、地表面Fを構成しない点データpを抽出したものと判断し、一の小領域Sにおける地表面Fの基準高H0の代わりに、一の小領域Sに隣接する小領域Sのうち、差異が所定の閾値未満となる小領域Sの地表面Fの基準高H0を用いて、吊荷領域WAにおける地表面Fの基準高H0を補正してもよい。
データ処理部70では、このような構成によって、地表面Fを構成しない点データpを抽出したものと推定される場合に、一の小領域Sの代わりに、一の小領域Sに隣接する小領域Sのうち、差異が所定の閾値未満となる小領域Sの地表面Fの基準高H0を用いることで、吊荷領域WAの地表面Fの基準高H0をより正確に推定することができる。
データ処理部70では、このような構成によって、地表面Fを構成しない点データpを抽出したものと推定される場合に、一の小領域Sの代わりに、一の小領域Sに隣接する小領域Sのうち、差異が所定の閾値未満となる小領域Sの地表面Fの基準高H0を用いることで、吊荷領域WAの地表面Fの基準高H0をより正確に推定することができる。
また、(STEP−206)において、吊荷領域WAにおける地表面Fの基準高H0を推定する際に、全ての小領域Sのうち、地表面Fを構成しない点データpを抽出したものと推定される小領域Sを除外してもよい。例えば、各小領域Sにおいて算出される地表面Fの基準高H0のうち、最小である一の小領域Sにおける地表面Fの基準高H0を基準として、所定の閾値以内にある小領域Sの地表面Fの基準高H0のみを用いて平均値を算出してもよい。以上のように、吊荷領域WAにおける地表面Fの基準高H0を推定する際に、全ての小領域Sの基準高H0を用いる必要はなく、特定の小領域Sの基準高H0のみを用いてもよい。
データ処理部70では、このような構成によって、地表面Fを構成する点データを抽出できていないと推定される小領域Sを除外することができる。そのため、正確に吊荷領域WAにおける基準高H0の推定を行うことができる。
データ処理部70では、このような構成によって、地表面Fを構成する点データを抽出できていないと推定される小領域Sを除外することができる。そのため、正確に吊荷領域WAにおける基準高H0の推定を行うことができる。
以上のように、地表面推定方法では、レーザスキャナ62によって、地表面Fを含む吊荷領域WAにおいて点群データPを取得する点群データ取得工程と、吊荷領域WAを、平面視において格子状に分割し、同一形状で、かつ、同一面積を有する複数の小領域Sを生成する領域分割工程と、小領域Sにおいて、距離hが最大である点データpを抽出する最大点データ抽出工程と、小領域Sにおいて、距離hが最大である点データpに対する他の点データpの距離hの離れ量Dを算出する離れ量算出工程と、小領域Sにおいて、距離hの離れ量Dが所定の閾値r1以内である点データpを抽出する地表面点データ抽出工程と、地表面点データ抽出工程において抽出される点データpに基づいて小領域Sの地表面Fの基準高H0を推定する小領域地表面推定工程と、各小領域Sの地表面Fの基準高H0に基づいて吊荷領域WAの地表面Fの基準高H0を推定する領域地表面推定工程と、を備えている。
ガイド情報表示装置50では、上記処理によって精度よく取得した地表面Fの基準高H0に基づいて、ガイド情報GDを生成する構成としている。このため、ガイド情報表示装置50では、地表面Fの基準高H0に基づいて、吊荷Wの高さ情報、地物Cの高さ情報を、精度良く算出することができる。
次に、映像上の特定の位置を基準として、地表面Fを推定する場合を説明する。尚、ここでは、映像上の特定の位置を、オペレータが手動で指定する場合を例示するが、データ処理部70が、映像上の特定の位置を自動的に決定し指定する構成としてもよい。
ガイド情報表示装置50では、データ表示部80およびデータ入力部90において地表面の位置を指定することで、基準となる地表面Fを決定することができる。
手動による場合、まず図16上図に示すように、オペレータがデータ表示部80に表示される映像上で、地表面であることが明らかな位置を指定する。すると、データ処理部70は、図16中図に示すように、その指定された位置(点)を中心とする所定半径の基準円を生成する。そして、データ処理部70は、図16下図に示すように、レーザ側線上にある点データpとの重なりを検出し、基準円内に含まれる複数の点データpを選択する。
手動による場合、まず図16上図に示すように、オペレータがデータ表示部80に表示される映像上で、地表面であることが明らかな位置を指定する。すると、データ処理部70は、図16中図に示すように、その指定された位置(点)を中心とする所定半径の基準円を生成する。そして、データ処理部70は、図16下図に示すように、レーザ側線上にある点データpとの重なりを検出し、基準円内に含まれる複数の点データpを選択する。
そして、データ処理部70は、図15(A)に示すように、選択された複数の点データpからまず、距離hが最も大きい(距離hが最大距離hmaxである)点データpを抽出する。そして、データ処理部70は、最大距離hmaxである点データpに対する他の点データの距離hの離れ量Dを算出する。データ処理部70は、最大距離hmaxを基準として、距離hの離れ量Dが所定の閾値r1以内(本実施形態では離れ量Dが7cm以内)にある点データpを地表面Fを構成する点データとして抽出する。データ処理部70は、抽出した点データpの距離hに基づいて地表面Fの基準高H0を推定する。本実施形態では、データ処理部70は、抽出した点データpの距離hの平均値を地表面Fの基準高H0として採用する。
図12に示す如く、データ処理部70によるデータ処理では、次に「平面の推定処理」を行う(STEP−104)。データ処理部70は、以下に示す上面推定方法によって、吊荷領域WAに存在する測定対象物たる吊荷Wと地物Cの上面を推定する。
1フレーム分の点群データPをXYZ座標系で示した吊荷領域WA上にプロットすると、図13(A)に示すように表される。そして、このような吊荷領域WAにある点群データPを模式的に表すと、図17上図のように表される。
データ処理部70は、図17上図に示すような吊荷領域WAにおいて取得した点群データPを、図17中図に示すように、Y軸方向に所定の厚みdで層状に分割し、点群データPを複数のグループに振り分ける(図13(B)参照)。
このときデータ処理部70は、分割した各グループに個別のグループID(ここでは、ID:001〜006とする)を付与し、各点データpをグループIDに関連付ける。
このときデータ処理部70は、分割した各グループに個別のグループID(ここでは、ID:001〜006とする)を付与し、各点データpをグループIDに関連付ける。
そして、データ処理部70は、各グループにおいて、そのグループに含まれる複数の点データpを用いて、平面を推定する。ここで言う「平面」は、吊荷Wおよび地物Cにおいて上向きに存在する平面であり、即ち、吊荷Wおよび地物Cの「上面」である。
具体的には、まず、データ処理部70は、図18および図19上図に示すように、同一グループに含まれる複数の点データp・p・・・から2つの点データp・pを選択する(2点選択工程:STEP−301)。
そして、データ処理部70は、図18および図19下図に示すように、選択した2つの点データp・pの2点間距離L1を算出する(点間距離算出工程:STEP−302)。
そして、データ処理部70は、図18および図19下図に示すように、選択した2つの点データp・pの2点間距離L1を算出する(点間距離算出工程:STEP−302)。
次に、データ処理部70は、図18および図20上図に示すように、2点間距離L1が所定の閾値r2以下であれば(STEP−303)、その2点(点線で示した2つの点データp・p)は同一平面上にあるものとみなす(2点平面みなし工程:STEP−304)。そして、データ処理部70は、図18および図20下図に示すように、同一平面上にあるとみなされた各点(ここでは、選択した2点)の重心G1を算出する(重心算出工程:STEP−305)。仮に、(STEP−303)において、「no」と判定された場合には、(STEP−301)に戻って、新たな2点を選択し直す。
次に、データ処理部70は、図18および図21上図に示すように、算出した重心G1に対する近傍点となる点データpを探索する(近傍点探索工程:STEP−306)。ここで言う「近傍点」とは、重心G1に対する点間距離が閾値r2以下の点である。
そして、データ処理部70は、図18および図21下図に示すように、近傍点たる点データpが見つかれば(STEP−307)、その近傍点たる点データpも、先に選択した2つの点データp・pと同一平面上にあるものとみなす(近傍点平面みなし工程:STEP−308)。
そして、データ処理部70は、図18および図21下図に示すように、近傍点たる点データpが見つかれば(STEP−307)、その近傍点たる点データpも、先に選択した2つの点データp・pと同一平面上にあるものとみなす(近傍点平面みなし工程:STEP−308)。
そして、データ処理部70は、図18および図22上図に示すように、(STEP−305)に戻って、同一平面上にあるとみなされた各点(ここでは、点線で示した3つの点データp・p・p)から、新たな重心G2を算出する。
データ処理部70は、(STEP−306)に移行して、重心G2に対する近傍点となる点データpをさらに探索する。そして、データ処理部70は、図18および図22下図に示すように、近傍点たる点データpがさらに見つかれば(STEP−307)、その近傍点たる点データpも、先に選択した各点と同一平面上にある点データpであるものとみなす(STEP−308)。
そして、データ処理部70は、新たな重心を算出しながら近傍点を探索し、近傍点たる点データpが検出されなくなるまで(STEP−305)から(STEP−308)までの処理を順に繰り返して行う。
そして、データ処理部70は、新たな重心を算出しながら近傍点を探索し、近傍点たる点データpが検出されなくなるまで(STEP−305)から(STEP−308)までの処理を順に繰り返して行う。
そして、データ処理部70は、図18および図23に示すように、新たな近傍点が見つからなければ、(STEP−307)で「no」と判定し、同一平面上にあるとみなされた点データpの部分集合(クラスタ)をクラスタリングして、平面を推定する(STEP−309)。ここで言う「クラスタリング」とは、点データpの集合である点群データPをクラスタに切り分けて、各クラスタに含まれる点データpが、同一平面上にあるという共通の特徴を持つようにする処理である。
データ処理部70は、点群データPを、同一平面上にあるとみなされた点データpに切り分けて、平面クラスタCL1を設定する(図17下図参照)。平面クラスタCL1に属する各点データpによれば、平面(即ち、吊荷Wおよび地物Cの「上面」)を規定することができる。尚、同一のグループIDが付与されたグループ内には、複数の平面クラスタCL1が存在する場合もある。
データ処理部70は、点群データPを、同一平面上にあるとみなされた点データpに切り分けて、平面クラスタCL1を設定する(図17下図参照)。平面クラスタCL1に属する各点データpによれば、平面(即ち、吊荷Wおよび地物Cの「上面」)を規定することができる。尚、同一のグループIDが付与されたグループ内には、複数の平面クラスタCL1が存在する場合もある。
そして、データ処理部70は、平面クラスタCL1に属する点データpの、X座標の最大値と最小値から平面の「幅」を推定し、Z座標の最大値と最小値から平面の「奥行」を推定する。データ処理部70は、このようにして、平面クラスタCL1が形成する平面を規定する。尚、ここで規定する平面は、矩形以外の多角形であってもよい。
このような上面推定方法では、レーザスキャナ62で取得した上面に対応する点群データPのみに基づいて吊荷Wおよび地物Cの上面を推定することができる。このため本実施形態で示した上面推定方法では、レーザスキャナ62で取得した点群データPに基づいて、短時間で吊荷Wおよび地物Cの上面を推定することが可能になり、ひいては、リアルタイムに吊荷Wおよび地物Cの上面を推定することが実現できる。
また、このような上面推定方法では、統計的手法を用いずに吊荷Wおよび地物Cの上面を推定することができ、統計的手法を用いる場合に比べて、吊荷Wおよび地物Cの上面の推定に要する計算量を低減することができる。このため本実施形態で示した上面推定方法では、レーザスキャナ62で取得した点群データPに基づいて、より短時間で吊荷Wおよび地物Cの上面を推定することが可能になる。
尚、本実施形態で示した吊荷Wおよび地物Cの上面推定方法では、クレーン1において、伸縮ブーム22のトップブーム部材22fにデータ取得部60を設け、レーザスキャナ62によって、吊荷Wの鉛直上方から吊荷W、地物C、地表面Fに係る点群データPを取得する場合を例示しているが、本発明に係る測定対象物の上面推定方法は、クレーンの吊荷とその吊荷の周囲に存在するものを測定対象物とする場合に適用するものとして限定されるものではない。
即ち、本実施形態で示した上面推定方法は、例えば、ブームを備える作業車両(例えば、高所作業車等)のブーム先端部やドローン等にレーザスキャナを設けて、上空からその鉛直下方に存在する測定対象物の点群データを取得し、取得した点群データに基づいて測定対象物の上面を推定する場合に広く適用することができる。
即ち、本実施形態で示した上面推定方法は、例えば、ブームを備える作業車両(例えば、高所作業車等)のブーム先端部やドローン等にレーザスキャナを設けて、上空からその鉛直下方に存在する測定対象物の点群データを取得し、取得した点群データに基づいて測定対象物の上面を推定する場合に広く適用することができる。
次に、データ処理部70は、推定した各平面クラスタCL1(上面)を結合する。
データ処理部70は、図24および図25上図に示すように、推定された平面クラスタCL1のうち、異なるグループIDが付与された2つの平面クラスタCL1・CL1を選択し、各平面クラスタCL1の標高値Hの差異dHを算出する(STEP−401:標高値差異算出工程)。
データ処理部70は、図24および図25上図に示すように、推定された平面クラスタCL1のうち、異なるグループIDが付与された2つの平面クラスタCL1・CL1を選択し、各平面クラスタCL1の標高値Hの差異dHを算出する(STEP−401:標高値差異算出工程)。
ここで、データ処理部70は、差異dHが閾値r3以内である組み合わせを探索する(STEP−402)。ここでいう平面クラスタCL1の標高値Hとは、平面クラスタCL1に属する各点データpの標高値Hの平均値である。
次に、データ処理部70は、図24および図25中図に示すように、標高値Hの差異dHが閾値r3以内である平面クラスタCL1の組み合わせが検出されたときには、それらの平面クラスタCL1・CL1についてX軸方向における重なりdWを検出する(STEP−403:重なり検出工程)。ここでいう「重なり」とは、平面クラスタCL1によって規定される平面のX軸方向における重複度合および離間度合であり、図24および図25に示すように、「幅」の重複量dW1が検出された場合(dW1>0)か、もしくは、離間量dW2が所定の閾値r4以下である場合(0≦dW2≦r4)に、「重なり」を検出するものとする。
そして、データ処理部70は、図24および図25に示すように、「重なり」が検出された場合には(STEP−404)、それらの平面クラスタCL1・CL1に属する点データpが同一平面上に存在するものとみなし、二つの平面クラスタCL1・CL1を結合し、新たな平面クラスタCL1として更新する(STEP−405:平面結合工程)。また、このとき、新たな平面クラスタCL1に属する各点データpから、新たな標高値Hを算出する。
データ処理部70は、図24に示すように、以上の処理を、条件を満たす平面クラスタCL1・CL1の組み合わせが無くなるまで繰り返して行い(STEP−406)、複数のグループに跨って存在する平面を推定する。
そして、データ処理部70は、以上の結合処理によって結合した平面(即ち、平面クラスタCL1)を出力する。
平面クラスタCL1によって規定される平面は、吊荷Wおよび地物Cにおいて上向きに存在する平面であり、即ち、吊荷Wおよび地物Cの上面である。
平面クラスタCL1によって規定される平面は、吊荷Wおよび地物Cにおいて上向きに存在する平面であり、即ち、吊荷Wおよび地物Cの上面である。
このような平面の推定方法では、点群データPの法線ベクトルを用いずに平面を推定することができる。このため、点群データPの法線ベクトルを用いて平面を推定する場合に比べて、計算量が少なくて済むという特徴がある。
また、このような平面の推定方法では、吊荷Wや地物Cの上面を推定することによって、吊荷Wや地物Cの側面の点データpを取得せずに、吊荷Wや地物Cの立体的形状を把握することができる。
また、このような平面の推定方法では、吊荷Wや地物Cの上面を推定することによって、吊荷Wや地物Cの側面の点データpを取得せずに、吊荷Wや地物Cの立体的形状を把握することができる。
図12に示す如く、データ処理部70によるデータ処理では、次に「同一領域のクラスタリング処理」を行う(STEP−105)。ここで言う「クラスタリング」とは、データの集合である点群データPを、クラスタに切り分けて、各クラスタに含まれる点データpが、「同一領域」にあるという共通の特徴を持つようにする処理である。
ここで行う「同一領域のクラスタリング処理」は、生成した平面クラスタCL1(平面)を、同一平面を構成するか否かとは無関係に、「同一領域」に存在するか否かという異なる観点でクラスタリングする処理である。
具体的には、図26上図に示すように、データ処理部70は、標高値Hが最大値Hhである点データpを含む平面クラスタCL1と、この平面クラスタCL1に未結合である平面クラスタCL1を抽出する。そして、データ処理部70は、抽出した各平面クラスタCL1の標高値Hの差分ΔHを算出し、差分ΔHが所定の閾値以下であれば、次の判定に移行する。
次の判定に移行すると、データ処理部70は、図26中図に示すように、差分ΔHが所定の閾値以下の二つの平面クラスタCL1・CL1について、Y軸方向視における重なりを確認する。
ここで、二つの平面クラスタCL1・CL1が、Y軸方向視において重なっている場合には、データ処理部70は、図26下図に示すように、これらの平面クラスタCL1・CL1を「同一領域」にあるものとみなし、これらの平面クラスタCL1・CL1によって、同一領域クラスタCL2を形成する。
ここで、二つの平面クラスタCL1・CL1が、Y軸方向視において重なっている場合には、データ処理部70は、図26下図に示すように、これらの平面クラスタCL1・CL1を「同一領域」にあるものとみなし、これらの平面クラスタCL1・CL1によって、同一領域クラスタCL2を形成する。
そして、データ処理部70は、標高値Hの最大値Hhを有する点データpを含む平面クラスタCL1と、この平面クラスタCL1に未結合である平面クラスタCL1をさらに探索し、未結合の平面クラスタCL1が抽出されれば、差分ΔHによる判定と、Y軸方向視における重なりの確認を行い、上記条件に合致する平面クラスタCL1があれば、上記同一領域クラスタCL2にさらに追加する。
データ処理部70は、このような処理を、標高値Hの最大値Hhを有する点データpを含む平面クラスタCL1に対して未結合の平面クラスタCL1が見つからなくなるまで繰り返して行う。データ処理部70は、以上のような処理によって、同一領域クラスタCL2を形成する。
そして、このようにして形成された同一領域クラスタCL2に属する点データpは、後述するガイド情報GDの表示において、形状的に一つのまとまりがあるものとして扱われ、同一領域クラスタCL2を囲むようにガイド枠GD1が表示される。
尚、このような「同一領域のクラスタリング処理」は、図27(A)(B)に示すような、標高値に基づく木構造を用いた階層的クラスタリングとすることが好ましい。データ処理部70は、「同一領域のクラスタリング処理」において、地物Cごとに、標高値Hを用いて木構造を作成する。ここでは、図27(A)に示した第一の例の地物Cについて木構造を用いた階層的クラスタリングを行った場合と、図27(B)に示した第二の例の地物Cについて木構造を用いた階層的クラスタリングを行った場合を例示している。
標高値に基づく木構造を用いた階層的クラスタリングでは、データ処理部70は、標高値Hの平均値が最も小さい平面クラスタCL1を「根(ルート)」として設定する。また、データ処理部70は、「根」を構成する平面クラスタCL1に対して、Y軸方向視において重なりを持つ平面クラスタCL1があれば、「根」から「枝(ブランチ)」を伸ばし、「枝」の先に、その重なりを持つ平面クラスタCL1を追加する。そして、データ処理部70は、標高値Hの平均値が最も大きい平面クラスタCL1を「子」として設定する。
ここで、ガイド枠GD1の生成方法について、説明する。
データ処理部70は、「同一領域のクラスタリング処理」において作成した地物Cの木構造を取得する。そして、データ処理部70は、木構造を構成する各平面クラスタCL1に含まれる点データpを取得する。
次に、データ処理部70は、図28上図に示すように、「子」の平面クラスタCL1の点データpから、Z軸方向において最も奥に位置するレーザ側線上の各点データpを取得する。そして、データ処理部70は、隣り合うレーザ側線との距離の1/2だけZ軸方向に離れており、かつ、各点データpを囲むことができるX軸方向の幅を有する矩形を作成する。
データ処理部70は、「同一領域のクラスタリング処理」において作成した地物Cの木構造を取得する。そして、データ処理部70は、木構造を構成する各平面クラスタCL1に含まれる点データpを取得する。
次に、データ処理部70は、図28上図に示すように、「子」の平面クラスタCL1の点データpから、Z軸方向において最も奥に位置するレーザ側線上の各点データpを取得する。そして、データ処理部70は、隣り合うレーザ側線との距離の1/2だけZ軸方向に離れており、かつ、各点データpを囲むことができるX軸方向の幅を有する矩形を作成する。
次に、データ処理部70は、作成した矩形に隣接するレーザ側線上に点データpが存在する場合には、図28下図に示すように、該当するレーザ側線上の点データpを全て含むように矩形を変形させて、外形線を作成する。
そして、データ処理部70は、対象となるレーザ側線上の点データpが無くなるまで隣接するレーザ側線上に点データpを探索し、上記処理を繰り返す。
最後に、データ処理部70は、選択した木構造に含まれる全ての平面クラスタCL1を外包する外形線を作成する。
そして、データ処理部70は、対象となるレーザ側線上の点データpが無くなるまで隣接するレーザ側線上に点データpを探索し、上記処理を繰り返す。
最後に、データ処理部70は、選択した木構造に含まれる全ての平面クラスタCL1を外包する外形線を作成する。
そして、データ処理部70は、作成した外形線の中から、条件に合う外形線のみをガイド枠GD1として出力する。
ガイド枠GD1として出力する条件は、例えば、図29(A)に示すように、地物Cの大枠たる外形線のみを表示する条件を選択することができる。この条件を選択した場合には、データ表示部80には、その地物Cに対して、地物Cの全体を囲む一つのガイド枠GD1が表示される。
ガイド枠GD1として出力する条件は、例えば、図29(A)に示すように、地物Cの大枠たる外形線のみを表示する条件を選択することができる。この条件を選択した場合には、データ表示部80には、その地物Cに対して、地物Cの全体を囲む一つのガイド枠GD1が表示される。
また、ガイド枠GD1として出力する条件としては、例えば、図29(B)に示すように、地物Cの大枠たる外形線に加えて、「根」に対する標高値Hの差(差分ΔH)が、閾値以上である外形線(小枠)のうち、各枝で標高値Hが最も高い平面クラスタCL1に係る外形線を表示する条件を選択することができる。この条件を選択した場合には、データ表示部80には、その地物Cの全体を囲む一つ目のガイド枠GD1と、一つ目のガイド枠GD1の内側に包含される二つ目のガイド枠GD1が表示され、地物Cの立体的形状が考慮されたより詳細なガイド情報GDが表示される。
さらに、ガイド枠GD1として出力する条件としては、例えば、図29(C)に示すように、地物Cの大枠たる外形線に加えて、「根」に対する標高値Hの差(差分ΔH)が、閾値以上である外形線(小枠)を全て表示する条件を選択することができる。この条件を選択した場合にも、データ表示部80には、地物Cの全体を囲む一つ目のガイド枠GD1と、その内側に包含される二つ目のガイド枠GD1が表示され、地物Cの立体的形状が考慮されたより詳細なガイド情報GDが表示される。
このような表示条件は、差分ΔHの閾値を調整することによっても行うことができる。オペレータは、ガイド情報GDの表示がより見易くなるように、ガイド枠GD1の表示条件を適宜選択することができる。
即ち、ガイド情報表示装置50では、同一領域クラスタCL2に基づいてガイド枠GD1を生成することによって、地物Cの立体的形状を考慮して、地物Cをより詳細に表現したガイド枠GD1を生成することが可能になる。また、ガイド情報表示装置50では、同一領域に存在する平面クラスタCL1をまとめて囲むガイド枠GD1を生成することが可能になる。即ち、ガイド情報表示装置50によれば、より詳細で見易いガイド情報GDを提示することができる。
図12に示す如く、データ処理部70によるデータ処理では、次に「点群データとカメラ映像の同期処理」を行う(STEP−106)。
ここでは、図5(A)(B)に示した通り、XYZ座標系で取得した点群データPをカメラ空間座標系の座標値に変換して、カメラ61によって撮影した映像M上に同期(位置合わせ)して、データ表示部80へと出力する。
ここでは、図5(A)(B)に示した通り、XYZ座標系で取得した点群データPをカメラ空間座標系の座標値に変換して、カメラ61によって撮影した映像M上に同期(位置合わせ)して、データ表示部80へと出力する。
図12に示す如く、データ処理部70によるデータ処理では、次に「ガイド表示処理」を行う(STEP−107)。
データ処理部70は、生成した同一領域クラスタCL2の情報に基づいて、ガイド情報GDを生成し、データ表示部80に出力する。
尚、「ガイド表示処理」に際しては、クレーン1のコントローラ34から出力される「クレーン情報」を利用する。ここで利用する「クレーン情報」には、伸縮ブーム22の長さ、起伏角度、クレーン1の作業半径、吊荷Wの重量等に係る情報が含まれる。
データ処理部70は、生成した同一領域クラスタCL2の情報に基づいて、ガイド情報GDを生成し、データ表示部80に出力する。
尚、「ガイド表示処理」に際しては、クレーン1のコントローラ34から出力される「クレーン情報」を利用する。ここで利用する「クレーン情報」には、伸縮ブーム22の長さ、起伏角度、クレーン1の作業半径、吊荷Wの重量等に係る情報が含まれる。
データ処理部70によるデータ処理の一連の流れを説明したが、このような構成では、測定対象物の側面における点データpを取得する必要がなく、少ない演算量で、吊荷Wや地物Cの立体的形状を的確に把握して、ガイド情報GDを生成することができる。このような構成は、データ演算量が少なくて済むため、リアルタイムに吊荷Wや地物Cの形状を把握する用途に適しており、簡易なハードウェア構成のデータ処理部70を用いることができる。
次に、ガイド情報GDの内容について、説明する。
ガイド情報表示装置50では、データ表示部80によって、ガイド情報GDを表示する。データ表示部80によって表示するガイド情報GDには、図8(B)に示すような、オペレータによる地表面Fの指定位置に係る情報が含まれている。
ガイド情報表示装置50では、データ表示部80によって、ガイド情報GDを表示する。データ表示部80によって表示するガイド情報GDには、図8(B)に示すような、オペレータによる地表面Fの指定位置に係る情報が含まれている。
また、ガイド情報表示装置50では、吊荷Wを指定することができる。オペレータが地表面Fを指定する場合と同様に、画面上で吊荷Wを指示することで、その指定位置に存在する平面(上面)が吊荷Wの上面を表すものとして設定される。吊荷Wとして指定された後は、吊荷Wに係るガイド枠GD1と地物Cに係るガイド枠GD1は、線色や線太さ等を変えて区別して表示することが好ましい。
地表面Fと吊荷Wの指定位置に係る情報は、円等の図形で表したマーカーによって表示される。
地表面Fと吊荷Wの指定位置に係る情報は、円等の図形で表したマーカーによって表示される。
また、データ表示部80によって表示するガイド情報GDには、データ処理部70によって生成したガイド枠GD1が含まれている。
データ処理部70は、設定された同一領域クラスタCL2に基づいて、ガイド枠GD1を出力する。尚、データ処理部70は、吊荷Wのガイド枠GD1としては、衝突を確実に回避するための余裕を設けることができ、吊荷Wの外形線から所定の距離だけ外側にオフセットさせた枠線を、ガイド枠GD1として出力することができる。このようなガイド枠GD1は、吊荷Wおよび地物Cにおいて推定された上面(平面クラスタCL1)を線分で囲う枠表示となっている。
また、データ表示部80によって表示するガイド情報GDには、基準高H0から吊荷Wの下面までの高さ情報GD2と、基準高H0から地物Cの上面までの高さ情報GD3と、が含まれている。
吊荷Wの高さ情報GD2は、データ表示部80の画面上の見やすい位置に独立したエリアを設けて、そのエリアに表示する構成とすることが好ましい。
ガイド情報表示装置50では、このような構成によって、吊荷Wの高さ情報GD2と地物Cの高さ情報GD3を見間違えることがないようにしている。
ガイド情報表示装置50では、このような構成によって、吊荷Wの高さ情報GD2と地物Cの高さ情報GD3を見間違えることがないようにしている。
データ処理部70は、高さ情報GD2を、吊荷Wの上面であると推定した平面クラスタCL1の上面高さから吊荷Wの高さを引くことによって算出する。
ガイド情報表示装置50では、オペレータが、吊荷Wに係る情報(以下「吊荷情報」と呼ぶ)を、予めデータ処理部70に入力する。このオペレータによる「吊荷情報」の入力は、データ入力部90から行われる。そして、データ処理部70は、「吊荷情報」を利用して、吊荷Wの高さを取得する。
ガイド情報表示装置50では、オペレータが、吊荷Wに係る情報(以下「吊荷情報」と呼ぶ)を、予めデータ処理部70に入力する。このオペレータによる「吊荷情報」の入力は、データ入力部90から行われる。そして、データ処理部70は、「吊荷情報」を利用して、吊荷Wの高さを取得する。
ガイド情報表示装置50では、地物Cの高さ情報GD3を、地物Cを囲むガイド枠GD1の内側に表示する構成としている。あるいは、ガイド情報表示装置50では、ガイド枠GD1が小さい場合には、ガイド枠GD1と一部が重なるように表示する構成としている。
ガイド情報表示装置50では、このような構成によって、地物Cと高さ情報GD3の対応関係を明確にしている。
ガイド情報表示装置50では、このような構成によって、地物Cと高さ情報GD3の対応関係を明確にしている。
また、ガイド情報表示装置50では、データ処理部70によって、そのガイド枠GD1に対応する平面クラスタCL1の標高値Hに応じて、ガイド枠GD1の線色を変える構成としている。
ガイド情報表示装置50では、このような構成によって、オペレータがガイド枠GD1を見ることで、吊荷Wや地物Cのおおまかな標高値(高さ)を感覚的に知覚することができる。このため、ガイド情報表示装置50では、吊荷Wと地物Cの高さをより的確に提示することができる。
ガイド情報表示装置50では、このような構成によって、オペレータがガイド枠GD1を見ることで、吊荷Wや地物Cのおおまかな標高値(高さ)を感覚的に知覚することができる。このため、ガイド情報表示装置50では、吊荷Wと地物Cの高さをより的確に提示することができる。
さらに、ガイド情報表示装置50では、データ処理部70によって、そのガイド枠GD1に対応する平面クラスタCL1の標高値Hに応じて、高さ情報GD2のフォント色を変える構成としている。
ガイド情報表示装置50では、このような構成によって、オペレータが高さ情報GD2を見ることで、吊荷Wや地物Cのおおまかな標高値(高さ)を感覚的に知覚できる。このため、ガイド情報表示装置50では、吊荷Wと地物Cの高さをより的確に提示することができる。
ガイド情報表示装置50では、このような構成によって、オペレータが高さ情報GD2を見ることで、吊荷Wや地物Cのおおまかな標高値(高さ)を感覚的に知覚できる。このため、ガイド情報表示装置50では、吊荷Wと地物Cの高さをより的確に提示することができる。
図30および図31に示すように、ガイド情報表示装置50によって行うガイド情報GDの表示には、吊荷Wの動線情報が含まれている。吊荷Wの動線情報には、クレーン1の作業半径線情報GD4と、クレーン1の伸縮ブーム22の軸線情報GD5が含まれる。尚、ここでいう「吊荷Wの動線情報」は、「メインフック32の動線情報」と換言してもよく、作業半径線情報GD4と軸線情報GD5は、「メインフック32の動線情報」としても利用することができる。
作業半径線情報GD4は、伸縮ブーム22を旋回動作させるときの吊荷Wの動線の目安となるものであり、吊荷Wは作業半径線情報GD4として示す円弧に沿って移動する。軸線情報GD5は、伸縮ブーム22を起伏動作および伸縮動作させるときの吊荷Wの動線の目安となるものであり、吊荷Wは軸線情報GD5として示す直線に沿って移動する。
図32を用いて、作業半径線情報GD4の生成に用いるクレーン1の作業半径Rの算出方法について説明する。ここでいう、クレーン1の作業半径Rとは、クレーン1における伸縮ブーム22の旋回中心から、メインフック32の中心(本実施形態では、カメラ61のレンズ中心)を通る鉛直線までの水平距離を指す。
尚、本説明においてのみ、カメラ座標系の原点O1(カメラ61のレンズ中心)を基準として、図32に示すようなXYZ座標系を規定している。X軸方向は、伸縮ブーム22の起伏支点の軸方向に対して平行な水平方向である。また、Y軸方向は、鉛直方向である。さらに、Z軸方向は、伸縮ブーム22の起伏支点の軸方向に対して垂直な水平方向である。
尚、本説明においてのみ、カメラ座標系の原点O1(カメラ61のレンズ中心)を基準として、図32に示すようなXYZ座標系を規定している。X軸方向は、伸縮ブーム22の起伏支点の軸方向に対して平行な水平方向である。また、Y軸方向は、鉛直方向である。さらに、Z軸方向は、伸縮ブーム22の起伏支点の軸方向に対して垂直な水平方向である。
カメラ座標系の原点O1を基準として表される伸縮ブーム22の旋回中心をO2(x1,y1,z1)、カメラ座標系の原点O1を基準として表される伸縮ブーム22の起伏支点をO3(x2,y2,z2)、伸縮ブーム22のブーム長さをL、伸縮ブーム22の起伏角をθとしたとき、作業半径Rは、以下の数式(5)(6)で算出することができる。尚、以下の数式では、一時変数をtmp3としている。
tmp3={(x1−x2)2+(y1−y2)2}/1000・・・(5)
R=tmp3+L×cosθ・・・(6)
尚、データ処理部70は、上記数式(5)(6)に基づいて作業半径Rを算出する場合のほか、クレーン1から「クレーン情報」として入力される作業半径Rを用いてもよい。
tmp3={(x1−x2)2+(y1−y2)2}/1000・・・(5)
R=tmp3+L×cosθ・・・(6)
尚、データ処理部70は、上記数式(5)(6)に基づいて作業半径Rを算出する場合のほか、クレーン1から「クレーン情報」として入力される作業半径Rを用いてもよい。
ここで、動線情報たるガイド情報GDの生成方法について、説明する。
図33に示す如く、まず、データ処理部70は、カメラ61が撮影した映像Mを取得する(撮影工程:STEP−501)。カメラ61の映像Mは、旋回動作と起伏動作と伸縮動作とが可能な伸縮ブーム22を備えたクレーン1によって吊り上げた吊荷Wの上方から、吊荷Wと地表面Fと、を少なくとも含む吊荷領域WAにおいて取得したものである。
図33に示す如く、まず、データ処理部70は、カメラ61が撮影した映像Mを取得する(撮影工程:STEP−501)。カメラ61の映像Mは、旋回動作と起伏動作と伸縮動作とが可能な伸縮ブーム22を備えたクレーン1によって吊り上げた吊荷Wの上方から、吊荷Wと地表面Fと、を少なくとも含む吊荷領域WAにおいて取得したものである。
次に、データ処理部70は、1フレーム分の点群データPを取得する(点群データ取得工程:STEP−502)。点群データPは、吊荷Wの上方から、吊荷Wと地表面Fと、を少なくとも含む吊荷領域WAにおいて取得したものである。
そして、データ処理部70は、前述した地表面推定処理(図14〜図16参照)によって、任意の小領域S(例えば、カメラ61のレンズ中心から延ばした垂線と交わる所定の小領域S)又は吊荷領域WAの地表面Fの基準高H0を推定する(地表面推定工程:STEP−503)。
データ処理部70は、地表面Fの基準高H0に基づいて、図30上図、図31上図および図33に示すように、実空間上におけるカメラ61の撮影範囲である横幅whおよび縦幅wvを算出する(撮影範囲算出工程:STEP−504)。
また、データ処理部70は、図30中図に示すように、カメラ座標系の原点O1および作業半径Rから、カメラ61の撮影範囲に対するクレーン1の旋回中心を算出する。そして、図30下図および図33に示すように、データ処理部70は、クレーン1の旋回中心点O2および作業半径Rからガイド情報GDである作業半径線情報GD4を生成する(動線情報生成工程:STEP−505)。
さらに、(STEP−505)において、データ処理部70は、図31下図に示すように、カメラ座標系の原点O1および伸縮ブーム22の旋回中心点O2に基づいて、各点O1・O2を通る線分から伸縮ブーム22の軸線方向を算出してガイド情報GDである軸線情報GD5を生成する。
尚、(STEP−505)においては、データ処理部70によって、作業半径線情報GD4と軸線情報GD5のいずれを先に生成してもよい。また、(STEP−405)では、作業半径線情報GD4と軸線情報GD5のいずれか一方だけを生成する構成としてもよい。
尚、(STEP−505)においては、データ処理部70によって、作業半径線情報GD4と軸線情報GD5のいずれを先に生成してもよい。また、(STEP−405)では、作業半径線情報GD4と軸線情報GD5のいずれか一方だけを生成する構成としてもよい。
そして、データ処理部70は、図30下図および図33に示すように、データ表示部80に作業半径線情報GD4を出力し、データ表示部80において、映像Mに作業半径線情報GD4を重畳させて表示する(動線情報表示工程:STEP−506)。
さらに、(STEP−506)において、データ処理部70は、図31下図および図33に示すように、軸線情報GD5をデータ表示部80に出力し、データ表示部80において、映像Mに軸線情報GD5を重畳させて表示する。本実施形態では、カメラ61の撮影範囲における縦方向および伸縮ブーム22の軸線方向は常に一致しているため、映像Mにおいて軸線情報GD5はZ軸方向に沿うように表示される。
尚、(STEP−506)において、作業半径線情報GD4と軸線情報GD5は、図34に示すように、データ表示部80において同時に表示してもよい。
尚、(STEP−506)において、作業半径線情報GD4と軸線情報GD5は、図34に示すように、データ表示部80において同時に表示してもよい。
また、(STEP−506)において、データ処理部70は、図30下図、図31下図に示すように、作業半径線情報GD4および軸線情報GD5を表示する線を破線によって出力し、かつ、その破線の長さおよび間隔を、地表面Fの基準高H0に基づいて算出したデータ取得部60の高さ(撮影範囲)に応じて設定する。まず、破線の長さおよび間隔の目安となる長さ(以下、基準長さと呼ぶ)を設定する。例えば、基準長さを1mとした場合、作業半径情報GD4と軸線情報GD5は、地表面Fの基準高H0に基づいて算出したデータ取得部60の高さ(撮影範囲の大きさ)に応じて表示上では破線の長さおよび間隔を変更し、そのときのスケールにおいて、地表面Fで1mに相当する長さおよび間隔として表示される。つまり、データ取得部60の高さが高くなるほど、表示上での破線の長さおよび間隔が短くなり、データ取得部60の高さが低いほど、表示上での破線の長さおよび間隔が長くなるように設定される。
以上のように、ガイド情報表示装置50では、作業半径線情報GD4および軸線情報GD5の破線の長さおよび間隔が、基準長さで表示されることによって、オペレータはガイド情報GDから地表面Fを含む測定対象物に対する距離感を容易に把握することができる。
以上のように、ガイド情報表示装置50では、作業半径線情報GD4および軸線情報GD5の破線の長さおよび間隔が、基準長さで表示されることによって、オペレータはガイド情報GDから地表面Fを含む測定対象物に対する距離感を容易に把握することができる。
尚、本実施形態では、地表面推定処理を用いて、吊荷W周辺の地表面Fの基準高H0を算出し、該地表面Fの基準高H0に基づいて、カメラ61の撮影範囲を算出しているが、撮影範囲の算出方法はこれに限定されない。例えば、「クレーン情報」から算出されるクレーン1の設置面に対するカメラ61の高さに基づいて、カメラ61の撮影範囲を算出してもよい。また、カメラ61がズーム機能を有している場合であれば、ズーム倍率を考慮して、カメラ61の撮影範囲を算出してもよい。
即ち、本発明の一実施形態に係るガイド情報表示装置は、伸縮ブーム22から垂下されるメインワイヤロープ27によって吊り下げられ、伸縮ブーム22の動作に応じて移動される吊荷Wの上方から、吊荷Wと吊荷Wの下方に存在する地表面Fと、を少なくとも含む吊荷領域WAの映像を撮影するカメラ61と、吊荷領域WAにおいて、吊荷Wの上方から点群データPを取得するレーザスキャナ62と、を備えたデータ取得部60と、カメラ61の映像Mを表示するデータ表示部80と、レーザスキャナ62で取得した点群データPに基づいて、カメラ61の映像Mに重畳して表示するガイド情報GDを生成するデータ処理部70と、を備え、データ処理部70は、レーザスキャナ62で取得した点群データPに基づいて地表面Fの基準高H0を推定するとともに、地表面Fの基準高H0に基づいてカメラ61の撮影範囲(横幅whおよび縦幅wv)を算出し、カメラ61の撮影範囲に基づいて、吊荷Wの動線を表すガイド情報GDを生成する。
そして、このような構成のガイド情報表示装置では、吊荷Wの動線を正確に表したガイド情報GDである作業半径線情報GD4および軸線情報GD5を表示することができる。
そして、このような構成のガイド情報表示装置では、吊荷Wの動線を正確に表したガイド情報GDである作業半径線情報GD4および軸線情報GD5を表示することができる。
さらに、ガイド情報表示装置50によって行うガイド情報GDの表示には、吊荷Wと地物Cの接触を防止するための警報表示が含まれている。
データ処理部70は、吊荷Wと地物Cを水平面に投影した際の水平距離が、所定の閾値(例えば、1m)以下であり、かつ、鉛直方向の距離が所定の閾値(例えば、1m)以下であった場合に、接触の恐れがあるものと判断する。
データ処理部70は、吊荷Wと地物Cを水平面に投影した際の水平距離が、所定の閾値(例えば、1m)以下であり、かつ、鉛直方向の距離が所定の閾値(例えば、1m)以下であった場合に、接触の恐れがあるものと判断する。
このときデータ処理部70は、図34に示すように、吊荷Wと接触する恐れがある地物Cのガイド枠GD1および高さ情報GD2を強調させる態様で、地物Cのガイド枠GD1および高さ情報GD2を出力する。あるいは、データ処理部70は、地物Cのガイド枠GD1および高さ情報GD2を点滅させる態様で、地物Cのガイド枠GD1および高さ情報GD2を出力する。ガイド情報表示装置50では、データ処理部70によって、警報表示たる地物Cのガイド枠GD1および高さ情報GD2を出力し、データ表示部80に表示することで、オペレータの注意を促すことができる。
また、ガイド情報表示装置50では、データ処理部70によってガイド情報GDを生成するにあたって、図35に示すように、吊荷Wとトップブーム部材22fの間に除外領域JAを設定する。そして、データ処理部70は、当該除外領域JA内で取得された点データpを、データ処理の対象から除外する構成としている。
除外領域JAには、メインワイヤロープ27が通過している。ガイド情報表示装置50では、メインワイヤロープ27をガイド情報GDの生成対象(測定対象物)に含めないようにすることで、より正確で見やすいガイド情報GDを提示する構成としている。尚、除外領域JAは、吊荷Wのガイド枠GD1の生成に影響を及ぼさないように考慮して、その下端高さを、吊荷Wの上面から所定の距離だけ離れた位置に設定することが好ましい。
このような構成のガイド情報表示装置50では、クレーン1のオペレータに対して、吊荷Wと吊荷Wの周辺に存在する地物Cについて、その形状を示すガイド枠GD1と、高さを示す高さ情報GD2・GD3を含むガイド情報GDを的確に提示することができる。そして、このような構成のガイド情報表示装置50を用いれば、例えば、オペレータが吊荷Wを直接視認することができない状況においても、オペレータは、ガイド情報表示装置50によって提示されるガイド情報GDに基づいて、効率よく、かつ、安全にクレーン1による作業を行うことができる。
1 クレーン
61 カメラ
62 レーザスキャナ
70 データ処理部
D 離れ量
F 地表面
P 点群データ
p 点データ
S 小領域
W 吊荷
C 地物
WA 吊荷領域
h 距離
61 カメラ
62 レーザスキャナ
70 データ処理部
D 離れ量
F 地表面
P 点群データ
p 点データ
S 小領域
W 吊荷
C 地物
WA 吊荷領域
h 距離
Claims (10)
- ブームから垂下されるワイヤによって吊り下げられ、前記ブームの動作に応じて移動される吊荷の上方から、前記吊荷と地表面と、を少なくとも含む領域の映像を撮影するカメラと、
前記領域において、前記吊荷の上方から点群データを取得するレーザスキャナと、
を備えたデータ取得部と、
前記カメラの映像を表示するデータ表示部と、
前記レーザスキャナで取得した点群データに基づいて、前記カメラの映像に重畳して表示するガイド情報を生成するデータ処理部と、を備え、
前記データ処理部は、前記レーザスキャナで取得した点群データに基づいて前記地表面の基準高を推定するとともに、前記地表面の基準高に基づいて前記カメラの撮影範囲を算出し、前記カメラの撮影範囲に基づいて、前記吊荷の動線を表す前記ガイド情報を生成する、
ことを特徴とするガイド情報表示装置。 - 前記データ処理部は、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心の位置を基準とした前記吊荷の旋回方向への動線を表す作業半径線情報を生成する、
ことを特徴とする請求項1に記載のガイド情報表示装置。 - 前記データ処理部は、前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心と前記データ取得部の位置とを基準とした前記吊荷の前記ブームの軸線方向への動線を表す軸線情報を生成する、
ことを特徴とする請求項1または請求項2に記載のガイド情報表示装置。 - 前記データ処理部は、
前記ガイド情報を破線によって出力し、かつ、該破線の長さおよび間隔を前記地表面の基準高に基づいて算出した前記カメラの撮影範囲に応じて設定する、
ことを特徴とする請求項1から請求項3の何れか一項に記載のガイド情報表示装置。 - 前記データ処理部は、
前記領域を、平面視において格子状に分割し、同一形状で、かつ、同一面積を有する複数の小領域を生成し、
前記小領域において、前記レーザスキャナのレーザ中心位置からの鉛直方向の距離が最大である点データを抽出し、
前記小領域において、前記距離が最大である点データに対する他の点データの前記距離の離れ量を算出するとともに、前記距離の離れ量が所定の閾値以下である点データを、地表面を構成する点データとして抽出し、
前記地表面を構成する点データに基づいて前記小領域における前記地表面の基準高を推定する、
ことを特徴とする請求項1から請求項4の何れか一項に記載のガイド情報表示装置。 - 請求項1から請求項5の何れか一項に記載のガイド情報表示装置を備える、
ことを特徴とするクレーン。 - カメラによって、ブームから垂下されるワイヤによって吊り下げられ、前記ブームの動作に応じて移動される吊荷の上方から、前記吊荷と地表面と、を少なくとも含む領域を撮影する撮影工程と、
レーザスキャナによって、前記吊荷の上方から、前記領域において点群データを取得する点群データ取得工程と、
前記レーザスキャナで取得した点群データに基づいて、前記カメラの映像に重畳して表示するガイド情報を生成するデータ処理手段によって、
前記点群データに基づいて前記地表面の基準高を推定する地表面推定工程と、
前記地表面の基準高に基づいて前記カメラの撮影範囲を算出する撮影範囲算出工程と、
前記カメラの撮影範囲に基づいて、前記吊荷の動線を表す前記ガイド情報を生成する動線情報生成工程と、
を備える、
ことを特徴とするガイド情報の生成方法。 - 前記動線情報生成工程において、
前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心の位置を基準とした前記吊荷の旋回方向への動線を表す作業半径線情報を生成する、
ことを特徴とする請求項7に記載のガイド情報の生成方法。 - 前記動線情報生成工程において、
前記ガイド情報として、前記カメラの撮影範囲に基づいて、前記ブームの旋回中心と前記カメラの位置とを基準とした前記吊荷の前記ブームの軸線方向への動線を表す軸線情報を生成する、
ことを特徴とする請求項7または請求項8に記載のガイド情報の生成方法。 - 前記データ処理手段によって、
前記ガイド情報を破線によって出力し、かつ、該破線の長さおよび間隔を前記カメラの撮影範囲に応じて設定する動線情報表示工程を、
さらに備える、
ことを特徴とする請求項7から請求項9の何れか一項に記載のガイド情報の生成方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017142202A JP6832806B2 (ja) | 2017-07-21 | 2017-07-21 | ガイド情報表示装置、クレーンおよびガイド情報の生成方法 |
PCT/JP2018/027280 WO2019017472A1 (ja) | 2017-07-21 | 2018-07-20 | ガイド情報表示装置、クレーンおよびガイド情報の生成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017142202A JP6832806B2 (ja) | 2017-07-21 | 2017-07-21 | ガイド情報表示装置、クレーンおよびガイド情報の生成方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019023116A JP2019023116A (ja) | 2019-02-14 |
JP6832806B2 true JP6832806B2 (ja) | 2021-02-24 |
Family
ID=65016596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017142202A Active JP6832806B2 (ja) | 2017-07-21 | 2017-07-21 | ガイド情報表示装置、クレーンおよびガイド情報の生成方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6832806B2 (ja) |
WO (1) | WO2019017472A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7351231B2 (ja) * | 2020-02-10 | 2023-09-27 | 株式会社タダノ | 吊荷監視装置、クレーン、吊荷監視方法及びプログラム |
JP7511510B2 (ja) | 2021-03-12 | 2024-07-05 | 日立建機株式会社 | 作業機械 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5876679B2 (ja) * | 2011-07-08 | 2016-03-02 | 株式会社タダノ | 性能線表示装置 |
JP6017782B2 (ja) * | 2011-12-09 | 2016-11-02 | 株式会社タダノ | 吊荷周辺の物体の高さ情報通知システム |
JP2016153335A (ja) * | 2015-02-20 | 2016-08-25 | 株式会社タダノ | 吊荷監視装置 |
-
2017
- 2017-07-21 JP JP2017142202A patent/JP6832806B2/ja active Active
-
2018
- 2018-07-20 WO PCT/JP2018/027280 patent/WO2019017472A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2019017472A1 (ja) | 2019-01-24 |
JP2019023116A (ja) | 2019-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7008851B2 (ja) | ガイド情報表示装置、ガイド情報表示方法、および作業機 | |
JP6965050B2 (ja) | ガイド情報表示装置およびこれを備えたクレーンおよびガイド情報表示方法 | |
JP6895835B2 (ja) | ガイド情報表示装置およびクレーン | |
JP6907061B2 (ja) | 測定対象物の上面推定方法、ガイド情報表示装置およびクレーン | |
JP6871097B2 (ja) | ガイド情報表示装置およびこれを備えた作業機およびガイド情報表示方法 | |
JP6928499B2 (ja) | ガイド情報表示装置および作業機 | |
JP6832806B2 (ja) | ガイド情報表示装置、クレーンおよびガイド情報の生成方法 | |
JP2019023567A (ja) | 地表面推定方法、ガイド情報表示装置およびクレーン |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210202 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6832806 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |