[go: up one dir, main page]

JP6491574B2 - Ar情報表示装置 - Google Patents

Ar情報表示装置 Download PDF

Info

Publication number
JP6491574B2
JP6491574B2 JP2015170550A JP2015170550A JP6491574B2 JP 6491574 B2 JP6491574 B2 JP 6491574B2 JP 2015170550 A JP2015170550 A JP 2015170550A JP 2015170550 A JP2015170550 A JP 2015170550A JP 6491574 B2 JP6491574 B2 JP 6491574B2
Authority
JP
Japan
Prior art keywords
information
display
display position
screen
overlap
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015170550A
Other languages
English (en)
Other versions
JP2017049658A (ja
Inventor
令子 瀧塚
令子 瀧塚
加藤 晴久
晴久 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2015170550A priority Critical patent/JP6491574B2/ja
Publication of JP2017049658A publication Critical patent/JP2017049658A/ja
Application granted granted Critical
Publication of JP6491574B2 publication Critical patent/JP6491574B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、作業者に操作支援用の情報を拡張現実により提供するAR情報表示装置に係り、特に、AR情報の表示位置を操作の対象物と重ならない位置へ移動するAR情報表示装置に関する。
現実環境に対してCGなどの仮想物体を位置合わせし、重畳表示することで情報を付加する拡張現実感(AR)が様々な分野で応用されている。
特許文献1には、光学式シースルー型HMD(Head Mounted Display)に撮像素子を取り付けてユーザの視界に映るマーカを撮像し、当該マーカに紐付いたAR情報をHMDスクリーンに表示する際、ユーザの頭の向きと連動してその画角が変動すると、撮像したマーカの傾きや位置に応じてAR情報の表示位置や傾きを精度高く特定する技術が開示されている。
特許文献2には、ARオブジェクトが他のARオブジェクトにより遮蔽される場合に、観察位置に対して実画像の視点から見て距離画像のそれぞれ対応する画点よりも後方に位置している点と、前方もしくは同位置にある点とを識別し、後者を前者とは異なる態様、例えば破線または鎖線で描写し、あるいは透明度や色を変更するなどして、視覚的に異ならせる技術が開示されている。
特許第5538483号公報 特許第5032343号公報
操作や作業(仕分け・組み立て・検査)の現場では、常に同じ手順や留意のもとで操作等を行なうわけではないので、操作者はしばしば操作内容を調査し、確認することになる。しかしながら、紙媒体のマニュアルを参照する場合には手を使ってページをめくるため、操作者は一時的に操作を中断しなければならない。
一方、ハンズフリーの光学式シースルー型HMDと拡張現実技術とを組み合わせ、操作支援内容を操作者の視界内に重畳表示すれば、操作者は視線移動のみで操作支援内容を読めるので操作を中断する必要がなくなる。
しかしながら、拡張現実技術を利用すると、操作の対象物の位置、姿勢に応じてAR情報の表示位置、姿勢も変化するため、対象物の位置、姿勢によっては、AR情報が対象物に重なって表示されてしまい、対象物が見えにくくなる場合がある。
特許文献1では、操作者の視界上の対象物に、操作支援メッセージを直接重畳して描画できるため、操作者は、操作の手を止めずに操作支援を受けることができて便利である。しかしながら、通常のAR技術で行われているように、メッセージを対象物の位置や傾きに応じて表示画面に描画すると、位置や方向によっては、操作者がメッセージを読みにくくなる事態が発生し、操作者が操作を間違える可能性がある。
特許文献2では、操作支援メッセージの一部が破線、鎖線、透明度または色を変更して表示画面上に描画されるので、メッセージの一部が欠けて十分な情報を操作者に提供できない事態が発生し、操作者を十分に支援ができない可能性がある。
本発明の目的は、上記の技術課題を解決し、操作支援用のAR情報を操作の対象物に対する作業者の操作が妨げられない位置へ移動して表示できるAR情報表示装置を提供することにある。
上記の目的を達成するために、本発明は、操作の対象物に紐付いたAR情報を当該対象物と関連する位置に表示するAR表示制御装置において、以下のような構成を具備した点に特徴がある。
(1) カメラ画像で認識された対象物およびそのAR情報を可視化するスクリーンと、対象物とカメラとの相対的な位置および姿勢の関係を推定する手段と、推定結果およびカメラ座標系からスクリーン座標系への変換行列に基づいてAR情報のスクリーン上での表示位置および姿勢を計算する手段と、対象物とそのAR情報とが重ならないようにAR情報の表示位置を移動させる手段とを具備した。
(2) スクリーンとして対象物を透視できる仮想スクリーンを採用し、当該装置を装着した作業者の視点で対象物と仮想スクリーンに投影されるAR情報とが重ならないように各AR情報の表示位置を移動させるようにした。
(3) スクリーンとして対象物を表示できる物理スクリーンを採用し、物理スクリーン上で対象物とAR情報とが重ならないようにAR情報の表示位置を移動させるようにした。
(4) AR情報の表示位置を移動させる手段は、一の対象物のAR情報と他の一の対象物とが重ならないように、その表示位置を移動させるようにした。
(5) AR情報の表示位置を移動させる手段は、一の対象物のAR情報が、カメラとの距離が当該一の対象物よりも近い他の一の対象物に重ならないように、AR情報の表示位置を移動させるようにした。
(6) AR情報の表示位置を移動させる手段は、変換行列のパラメータを補正することでAR情報の表示位置を移動させるようにした。
(7) AR情報のスクリーン上での表示位置は、AR情報の姿勢の補正後に計算されるようにした。
(8) AR情報は、対象物と近接する位置へ移動されるようにした。
(9) 対象物とそのAR情報との相対位置毎に表示優先度を設定しておき、AR情報が優先度のより高い相対位置に移動されるようにした。
(10) AR情報の表示位置を移動させる手段は、所定の周期で変換行列を繰り返し補正し、周期間での補正量の差分が小さければ前回周期の補正を維持するようにした。
(11) 複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報が優先表示されるようにした。
本発明によれば、以下のような効果が達成される。
(1) 請求項1の発明によれば、作業者の視点で操作の対象物とそのAR情報とが重ならないように、変換行列を補正することでAR情報の表示位置を移動させることができるので、従来のAR情報表示技術を利用して、作業者の操作性を妨げないように操作支援用のAR情報を提供できるようになる。
(2) 請求項2の発明によれば、光学式シースルー型HMDのように、対象物を透視できる仮想スクリーンにAR情報が表示されるシステムにおいて、作業者の操作性を妨げないようにAR情報を表示できるようになる。
(3) 請求項3の発明によれば、モバイル端末のように、対象物およびそのAR情報のいずれもが物理スクリーンに表示されるシステムにおいて、作業者の操作性を妨げないようにAR情報を表示できるようになる。
(4) 請求項4の発明によれば、対象物とそのAR情報との重なりのみならず、当該AR情報と他の対象物との重なりも回避できるので、作業者の操作性をさらに向上させることができるようになる。
(5) 請求項5の発明によれば、一の対象物のAR情報と当該一の対象物よりも手前に位置している対象物以外との重なりは許容されるので、AR情報の表示位置に関する制約を緩和できる。
(6) 請求項6,7の発明によれば、作業者にとって対象物やAR情報の視認性を向上させるためのAR情報の表示位置および姿勢の補正を簡単に行えるようになる。
(7) 請求項8の発明によれば、AR情報の表示位置が、その姿勢補正後に計算されるので、AR情報の表示位置を正確に計算できるようになる。
(8) 請求項9の発明によれば、AR情報は、対象物と重ならない範囲でより当該対象物と近い位置に移動されるので、対象物とAR情報との視覚的な紐付けを維持できる。
(9) 請求項10の発明によれば、AR情報の表示位置を、撮像画面の構図や作業者の視認性に配慮して、より好適な位置へ自動で移動できるようになる。
(10) 請求項11の発明によれば、変換行列の周期ごとの補正量の差分が所定の閾値以下であれば前回周期の補正が維持されるので、視認性の改善に大きく寄与しない僅かな補正が頻繁に繰り返されてAR表示が微動を繰り返すことによる視認性の低下を防止できるようになる。
(11) 請求項12,13の発明によれば、複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報が優先表示されるので、作業者が実際に操作する可能性の高い対象物のAR表示を優先的に表示できるようになる。
本発明の一実施形態に係るAR情報表示装置の主要部の構成を示した図である。 表示制御の仕組みを説明するための図である。 表示制御部の機能ブロック図である。 AR情報の姿勢変化によりその視認性が損なわれる例を示した図である。 AR情報の表示位置、姿勢を決定する変換行列の例を示した図である。 変換行列の補正によりAR情報の正面がHMDスクリーンに対して平行化される例を示した図である。 AR情報の移動例を示した図である。 本発明の一実施形態の動作を示したフローチャートである。 AR情報の表示位置、姿勢が補正される様子を示した図である。 複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図(その1)である。 複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図(その2)である。 複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図(その3)である。 複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図(その4)である。 AR情報同士の重なりをカメラからの距離に応じた優先度で制御する方法を示した図(その1)である。 AR情報同士の重なりをカメラからの距離に応じた優先度で制御する方法を示した図(その2)である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は、本発明の一実施形態に係る操作支援に好適なAR情報表示装置の主要部の構成を示した図である。ここでは、ハンズフリーの光学式シースルー型HMDへの適用を例にして説明するが、スマートフォン、タブレット端末、光学式シースルー型以外のHMDあるいはPC端末などの他のモバイル端末や情報端末にも適用できる。
光学式シースルー型HMD1は、作業者の視線方向の映像を撮影して操作の対象物(ARオブジェクト)Objを含むカメラ画像を出力するカメラモジュール2と、対象物ObjごとにそのAR情報として、作業支援用のメッセージ、図形、イラスト、記号、動画等の操作ガイドを記憶するAR情報データベース(DB)4と、作業者の眼前に配置されてAR情報を仮想のスクリーン3上に投影する透過型の光学系モジュール6と、作業者の視点で対象物とスクリーン3に投影されるAR情報とが重ならないように各AR情報のスクリーン3上での表示位置や表示形態を制御する表示制御部5とを主要な構成としている。
前記表示制御部5は、光学式シースルー型HMD1と一体の構成でも良いし、別のモジュールとして構成しても良い。前記AR情報DB4は表示制御部5に内蔵しても良いし、あるいはネットワーク上に設け、表示制御部5が無線通信によりネットワーク経由でAR情報を取得するように構成しても良い。
図2は、光学式シースルー型HMD1における表示制御の仕組みを説明するための図であり、図1と同一の符号は同一又は同等部分を表している。
光学式シースルー型HMD1では、作業者がスクリーン6において対象物Objを認識できる位置近傍に、そのAR情報を当該対象物Objの姿勢に応じた姿勢で重ねて表示するために、対象物Objの3D座標が現実空間の座標系(マーカ座標系)からカメラ座標系へ変換され、さらにカメラ座標系からスクリーン座標系へ変換される。
ここで、対象物Objの3D座標を仮想スクリーン上の2D座標に投影する関係を3行4列の変換行列P3×4、対象物Objに対するカメラ2の位置、姿勢を表す4行4列の変換行列をW4×4とすれば、カメラ座標系における3D座標をスクリーンへ投影する変換行列はP3×4・W-1 4×4で表される。
そして、対象物Objに対するカメラ2の現在の位置、姿勢をW1とすれば、当該対象物Objを前記変換行列P3×4・W-1 4×4を用いて現実空間の座標系基準でスクリーン上に描画する射影変換行列(P3×4・W-1 4×4)・W1を用いれば、AR情報を対象物Objの位置、姿勢に応じた位置、姿勢でスクリーン上に表示できる。
図3は、前記表示制御部5の主要部の構成を示した機能ブロック図であり、位置姿勢推定部5aは、カメラ画像に基づいて対象物Objとカメラ2との相対的な位置および姿勢の関係を推定する。
本実施形態では、各対象物Objの操作主面(正面)の3Dモデルから予め抽出してデータベース化されている特徴点集合と、カメラ画像から抽出した特徴点集合とのマッチング結果に基づいて対応点を設定し、複数の対応点に基づいて公知の手法により位置、姿勢推定用の変換行列W1を計算する。
表示位置姿勢計算部5bは、対象物Objごとに、オンラインでDLT解法等により求めた変換行列P3×4と外部パラメータ行列W4×4とに基づいて変換行列P3×4・W-1 4×4を計算し、これに前記変換行列W1を乗じることにより、AR情報のスクリーン上での表示位置および姿勢を計算する。
変換行列補正部5cは、回転解消部501および表示重なり解消部502を含み、AR情報や対象物Objの視認性が低下することにより作業者の操作性が妨げられないように前記変換行列を補正する。
前記回転解消部501は、図4に示したように、対象物Objの姿勢変化に応じてそのAR情報の正面(表示面)とスクリーン平面との間に生じるx,y,zの各軸中心の回転(傾斜)を解消して視認性を改善する。
本実施形態では、図5に示した変換行列P3×4・W-1 4×4を対象に、並進パラメータω14,ω24,ω34は維持したまま、回転パラメータω11〜ω33のみを単位行列の配列に書き換えて補正後変換行列Yを生成する。この変換行列Yを用いてマーカ座標系をカメラ座標系に変換すれば、図6に模式的に示したように、対象物Objの姿勢変化にかかわらず、そのAR情報の正面をスクリーン平面に対して常に平行化できるようになる。
図3へ戻り、変換行列補正部5cの表示重なり解消部502は、AR情報がスクリーン上で対象物Objと重なって表示されることにより対象物Objに対する作業者の操作性が妨げられないように、前記変換行列を補正することによりAR情報の表示位置を対象物Objと重ならない位置までスクリーン上で平行移動させる。
本実施形態では、作業者の視点で各対象物Objが可視化される領域と当該各対象物に紐付いた各AR情報がスクリーンに投影される表示位置とを求める。各対象物Objの可視化領域は、対象物Objごとに予め登録されている特徴点集合に対して、当該対象物Objに関して計算された変換行列を用いたスクリーン上への逆投影を行って計算される。
前記表示重なり解消部502は、対象物ObjとそのAR情報との紐付けが不明瞭とならないように、図7に典型的に示したように、対象物に重なって表示されるAR情報[同図(a)]の表示位置を、対象物Objと重ならず、かつ対象物Objとの距離を最小化できる位置[同図(b)]ほど優先的に、前記変換行列の並進パラメータω14,ω24,ω34を補正することで平行移動させる。
なお、対象物とそのAR情報の表示位置との相対的な位置関係ごとに優先度を定義しておけば、これも考慮できる。例えば、AR情報を対象物の右側や上側に表示することが望ましいのであれば、右側や上側に位置する表示位置に対してより高い優先度を付与し、これらの優先度を総合的に勘案して移動先を選択できる。
優先表示制御部5dは、カメラ画像内で複数の対象物Objが認識され、表示位置補正後にAR情報同士が重なって表示される場合に、カメラ2からの距離がより近い対象物ObjのAR情報がより優先的に表示されるように各AR情報の表示を制御する。
前記優先表示制御部5dにおいて、距離計算部503は、カメラ2と各対象物Objとの距離を計算する。優先度決定部504は、前記距離の計算結果に基づいて、各対象物ObjのAR情報の表示優先度を決定する。
図8は、本発明の一実施形態の動作を示したフローチャートであり、ステップS1では、カメラ画像内の全ての対象物Objが認識される。ステップS2では、図9(a)に示したように、認識された対象物Objの一つに注目して、その位置、姿勢に応じた変換行列P3×4・W-1 4×4が計算される。当該変換行列と前記変換行列W1とに基づいて計算されるAR情報の表示位置、姿勢は、同図(b)に示したように、対象物Objの位置、姿勢に準じたものとなる。
ステップS3では、前記図4,5を参照して説明したように、変換行列P3×4・W-1 4×4のx,y,zの各軸中心の回転パラメータが、前記回転解消部501により単位行列の配列に補正される。これにより、AR情報は、そのx,y,zの各軸中心の回転がキャンセルされるので、同図(c)に示したように、その正面がHMDスクリーン平面と平行となる位置、姿勢に補正される。
ステップS4では、前記回転パラメータを補正後の変換行列に基づいて、AR情報がスクリーンと平行に表示される際の表示位置が計算される。さらに、対象物Objごとに、その特徴点集合を包含する最小矩形領域が、作業者の視点で当該対象物Objを認識できる可視化領域として計算される。
ステップS5では、AR情報の表示位置候補が探索される。本実施形態では、前記計算された対象物Objの可視化領域およびAR情報の表示位置に基づいて、対象物ObjとそのAR情報とが重ならず、換言すれば対象物Objの可視化領域以外において、AR情報をスクリーン内に完全に表示できる全ての位置が探索される。ただし、対象物との重なり量が所定の閾値内となる位置は、実質的に重ならない位置とみなしても良い。
なお、前記ステップS1において複数の対象物が認識されている場合には、注目している対象物の可視化領域のみならず他の対象物の可視化領域とも重ならないという探索条件が追加される。ただし、当該追加の探索条件は、注目している対象物のカメラからの位置が他の対象物の位置よりも手前側の場合は無視しても良い。
すなわち、注目している対象物のAR情報と他の対象物との重なりは、注目している対象物が当該他の対象物よりも後方に位置していれば許容されず、前方に位置していれば許容されるようにしても良い。
ステップS6では、注目している対象物のAR情報に関して、探索された表示位置候補が複数であるか否かが判定される。表示位置候補が複数であればステップS7へ進み、その中から最適表示位置候補が所定の規則で選択される。
本実施形態では、注目している対象物の可視化領域とそのAR情報の表示位置候補との距離が、例えば両者の重心位置や中心位置の距離に基づいて計算され、当該距離のより短い表示位置候補ほど高い優先度が付与される。また、注目している対象物の可視化領域とそのAR情報の表示位置候補との相対的な位置関係ごとに優先度が定義されていれば、これも考慮される。
例えば、AR情報を対象物の右側や上側に表示することが望ましいのであれば、右側や上側に位置する表示位置候補に対してより高い優先度が付与される。前記ステップS7では、これらの優先度を総合的に勘案して、一の最適表示位置候補が選択される。
ステップS8では、前記ステップS7で選択された一の最適表示位置候補または前記ステップS5で探索された唯一の表示位置候補がAR情報の表示位置に決定される。ステップS9では、例えば図9(d)に示したように、AR情報の表示位置が前記ステップS8で決定された表示位置へ移動されるように変換行列の並進パラメータが補正される。
ステップS10では、前記ステップS1で認識された全ての対象物Objに関して上記の処理が完了したか否かが判定される。完了していなければステップS2へ戻り、残りの他の対象物Objについても、そのAR情報が対象物Objに重ならずに最も見易く表示されるように、変換行列のパラメータが補正される。
図10ないし図13は、複数の対象物(Obj1,Obj2)が認識されているときに、各対象物に関して上記の各処理が繰り返され、各AR情報の表示位置がリアルタイムで最適化される様子を示した図である。
前記ステップS3において、前記変換行列の回転系パラメータのみが補正され、並進パラメータが維持されている状態では、図10に示したように、各対象物Obj1,Obj2のAR情報は、それぞれ対応する対象物の中心部近傍に位置している。その後、ステップS4ないしステップS9の各処理で各AR情報の表示位置が最適化されると、各AR情報の表示位置は、例えば図11に示したように、対応する対象物Obj1,Obj2の上方の空きスペースに移動される。
その後、作業者と各対象物Obj1,Obj2との相対的な位置関係が変化して視点が変わり、対象物Obj1の上部にAR情報の表示スペースを確保できなくなると、ステップS4ないしステップS9の各処理が繰り返され、図12に示したように、対象物Obj1の下側の空きスペースに、そのAR情報の表示位置が移動される。なお、対象物Obj1の右側や左側に空きスペースを確保できれば、これらのスペースに移動されることもある。
さらに、上記のように、手前側の対象物のAR情報に限って後ろ側の対象物との重なりが許容されるのであれば、図13に一例を示したように、手前側の対象物Obj2のAR情報は、後ろ側の対象物Obj1と重なるように表示することもできる。
本実施形態によれば、AR情報の表示位置が、いずれの対象物Objとも重ならず、かつ作業者が直感的に関連性を感じられる位置へスクリーン上を平行移動されるので、対象物Objに対する作業性およびAR情報の視認性、識別性を向上させることができる。
なお、以上の各処理では対象物とAR情報との重なりは回避されるものの、AR情報同士の重なりは生じ得る。本実施形態では、対象物ObjとAR情報との重なり防止が優先され、そのためにはAR情報同士の重なりを回避できない場合には、AR情報同士の重なりを許容すると共に、前記優先制御部5dが、カメラ2との距離がより短い対象物Obj、すなわち手前側の対象物のAR情報を優先的に表示させる優先表示制御が、ステップS11以降で実行される。
すなわち、ステップS11ではAR情報同士が重なっているか否かが判定され、重なっていればステップS12へ進む。ステップS12では、相互に重なっているAR情報の各対象物Objとカメラ2との距離に基づいて、各対象物のAR情報に表示優先度が設定される。ステップS13では、表示優先度のより高いAR情報がより優先的に表示されるように各AR情報の表示が制御される。
図14,15は、カメラ2(または、作業者の視点)との距離がより短い対象物ObjのAR情報が優先表示される例を示した図であり、図14では、向かって右側の対象物Obj1とカメラ2との距離がより短いので、そのAR情報が他方の対象物Obj2のAR情報に優先して、手前側に重なって表示されている。
ここで、作業者が移動する等してカメラ2と各対象物Obj1、Obj2との相対的な位置関係が変化し、図15に示したように、今度は向かって左側の対象物Obj2とカメラ2との距離がより短くなると、そのAR情報が他方の対象物Obj1のAR情報に優先して、その手前側に重なって表示される。
このように、本実施形態によれば、カメラ2との距離が短く、実際に操作される可能性が高い方の対象物ObjのAR情報が優先表示されるので、複数の対象物Objが視野に入る環境下でも、操作しようとしている対象物ObjのAR情報を優先的に表示できるようになる。
なお、対象物とAR情報との重なりを回避する場合と同様に、AR情報同士の重なりを回避する場合も、重なり量(面積)に閾値を設定し、閾値未満の重なりは許容するようにしても良い。
さらに、本実施形態では上記の処理が所定の周期(例えば、カメラ画像のフレーム単位)で繰り返されるが、ステップS3,S8で決定される補正量の変化が、作業性や視認性の改善にさほど寄与しない僅かなものであるにも関わらず、そのような補正が頻繁に繰り返されると、AR表示の表示位置が微動を繰り返すことによって作業性や視認性が低下する可能性がある。したがって、周期間での補正量の差分が所定の閾値以下であれば前回周期の補正を維持するようにしても良い。
なお、上記の実施形態では、本発明を光学式シースルー型HMD1への適用を例にして、対象物の可視化領域と仮想スクリーンに投影されるAR情報の表示位置とが、作業者の視点で重ならないように各AR情報の表示位置が移動されるものとして説明したが、モバイル端末のように、対象物のカメラ映像がそのAR情報と共に物理スクリーン(ディスプレイ)上に表示されるシステムへの適用では、対象物とそのAR情報とがディスプレイ上で重ならないように各AR情報の表示位置が移動される。
1…光学式シースルー型HMD,2…カメラモジュール,3…仮想スクリーン,4…AR情報データベース(DB),5…表示制御部,5a…位置姿勢推定部,5b…表示位置姿勢計算部,5c…変換行列補正部,5d…優先表示制御部,6…光学系モジュール,501…回転解消部,502…表示重なり解消部,503…距離計算部,504…優先度決定部

Claims (13)

  1. 操作の対象物に紐付いたAR情報を当該対象物と関連する位置に表示するAR表示制御装置において、
    対象物を含む視線方向を撮影するカメラと、
    カメラ画像から認識した対象物およびそのAR情報を可視化するスクリーンと、
    前記対象物とカメラとの相対的な位置および姿勢の関係を推定する手段と、
    前記推定結果およびカメラ座標系からスクリーン座標系への変換行列に基づいてAR情報のスクリーン上での表示位置および姿勢を計算する手段と、
    対象物とそのAR情報とが重ならないように前記変換行列を補正してAR情報のスクリーン上での表示位置を移動させる手段とを具備したことを特徴とするAR情報表示装置。
  2. 前記スクリーンが、当該装置を使用する作業者の眼前に配置されて対象物を透視できる仮想スクリーンであって、
    前記AR情報の表示位置を移動させる手段は、対象物と仮想スクリーンに投影されるAR情報とが当該作業者の視点で重ならないように各AR情報の表示位置を移動させることを特徴とする請求項1に記載のAR情報表示装置。
  3. 前記スクリーンが対象物を表示できる物理スクリーンであって、
    前記AR情報の表示位置を移動させる手段は、物理スクリーン上で対象物とAR情報とが重ならないようにAR情報の表示位置を移動させることを特徴とする請求項1に記載のAR情報表示装置。
  4. 前記AR情報の表示位置を移動させる手段は更に、一の対象物のAR情報と他の一の対象物とが重ならないように当該AR情報の表示位置を移動させることを特徴とする請求項1ないし3のいずれかに記載のAR情報表示装置。
  5. 前記AR情報の表示位置を移動させる手段は更に、一の対象物のAR情報が、カメラとの距離が当該一の対象物よりも近い他の一の対象物に重ならないように当該AR情報の表示位置を移動させることを特徴とする請求項1ないし3のいずれかに記載のAR情報表示装置。
  6. 前記AR情報の表示位置を移動させる手段は、前記変換行列の並進パラメータを補正することを特徴とする請求項1ないし5のいずれかに記載のAR情報表示装置。
  7. 前記AR情報の表示位置を移動させる手段は更に、AR情報の正面がスクリーン平面と平行化するように前記変換行列の回転パラメータを補正することを特徴とする請求項6に記載のAR情報表示装置。
  8. 前記AR情報のスクリーン上での表示位置および姿勢を計算する手段は、前記変換行列の回転パラメータの補正後におけるAR情報のスクリーン上での表示位置を計算することを特徴とする請求項7に記載のAR情報表示装置。
  9. 前記AR情報の表示位置を移動させる手段は、対象物とそのAR情報とがより近接表示されるように前記AR情報の表示位置を補正することを特徴とする請求項1ないし8のいずれかに記載のAR情報表示装置。
  10. 対象物とそのAR情報との相対位置毎に表示優先度を設定する手段を更に具備し、
    前記AR情報の表示位置を移動させる手段は、優先度のより高い相対位置に前記AR情報の表示位置を移動させることを特徴とする請求項1ないし9のいずれかに記載のAR情報表示装置。
  11. 前記AR情報の表示位置を移動させる手段は、所定の周期で変換行列を繰り返し補正し、周期間での補正量の差分が所定の閾値以下であれば前回周期の補正を維持することを特徴とする請求項1ないし10のいずれかに記載のAR情報表示装置。
  12. 複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報を優先表示する手段を更に具備したことを特徴とする請求項1ないし11のいずれかに記載のAR情報表示装置。
  13. 前記優先表示する手段は、カメラからの距離が相対的に近い対象物のAR情報を遠い対象物のAR情報の手前側に表示することを特徴とする請求項12に記載のAR情報表示装置。
JP2015170550A 2015-08-31 2015-08-31 Ar情報表示装置 Active JP6491574B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015170550A JP6491574B2 (ja) 2015-08-31 2015-08-31 Ar情報表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015170550A JP6491574B2 (ja) 2015-08-31 2015-08-31 Ar情報表示装置

Publications (2)

Publication Number Publication Date
JP2017049658A JP2017049658A (ja) 2017-03-09
JP6491574B2 true JP6491574B2 (ja) 2019-03-27

Family

ID=58279415

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015170550A Active JP6491574B2 (ja) 2015-08-31 2015-08-31 Ar情報表示装置

Country Status (1)

Country Link
JP (1) JP6491574B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7642137B1 (ja) 2024-08-07 2025-03-07 Kddi株式会社 情報処理装置、情報処理方法及びプログラム

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6801263B2 (ja) * 2016-06-30 2020-12-16 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
CN106774870A (zh) * 2016-12-09 2017-05-31 武汉秀宝软件有限公司 一种增强现实交互方法及系统
JP6805057B2 (ja) * 2017-04-07 2020-12-23 トヨタホーム株式会社 情報表示システム
KR102436730B1 (ko) 2017-12-06 2022-08-26 삼성전자주식회사 가상 스크린의 파라미터 추정 방법 및 장치
JP6596530B2 (ja) * 2018-03-23 2019-10-23 アトラスコプコ株式会社 方法及び装置
JP6699709B2 (ja) * 2018-11-13 2020-05-27 富士ゼロックス株式会社 情報処理装置及びプログラム
JP7154501B2 (ja) * 2018-11-19 2022-10-18 東京電力ホールディングス株式会社 作業補助装置、表示装置、作業補助システム、及びプログラム
WO2020144848A1 (ja) * 2019-01-11 2020-07-16 三菱電機株式会社 オーサリング装置、オーサリング方法、及びオーサリングプログラム
JP2022051977A (ja) 2019-02-13 2022-04-04 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
KR20220044489A (ko) * 2019-08-09 2022-04-08 소니그룹주식회사 화상 처리 장치 및 화상 처리 방법, 그리고 프로그램
CN111651051B (zh) * 2020-06-10 2023-08-22 浙江商汤科技开发有限公司 一种虚拟沙盘展示方法及装置
JP7442140B2 (ja) * 2020-09-10 2024-03-04 公益財団法人鉄道総合技術研究所 コンピュータシステムおよび制御方法
JP7274451B2 (ja) * 2020-12-25 2023-05-16 ソフトバンク株式会社 システム、管理装置、プログラム、及び管理方法
CN113419625A (zh) * 2021-06-16 2021-09-21 歌尔智能科技有限公司 Ar设备图像控制方法及系统
CN114419299A (zh) * 2022-01-21 2022-04-29 北京字跳网络技术有限公司 虚拟物体的生成方法、装置、设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4834424B2 (ja) * 2006-03-03 2011-12-14 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP5724544B2 (ja) * 2011-03-31 2015-05-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP6314394B2 (ja) * 2013-09-13 2018-04-25 富士通株式会社 情報処理装置、設定方法、設定プログラム、システムおよび管理装置
JP6314427B2 (ja) * 2013-10-31 2018-04-25 キヤノンマーケティングジャパン株式会社 撮像装置、情報処理装置、制御方法およびプログラム
JP2015091055A (ja) * 2013-11-06 2015-05-11 キヤノン株式会社 撮像装置及び画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7642137B1 (ja) 2024-08-07 2025-03-07 Kddi株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
JP2017049658A (ja) 2017-03-09

Similar Documents

Publication Publication Date Title
JP6491574B2 (ja) Ar情報表示装置
US10198870B2 (en) Information processing apparatus, information processing system, and information processing method
CA3016539C (en) Image processing method, display device, and inspection system
JP5032343B2 (ja) 仮想物体を表示する方法および装置、ならびに環境画像に仮想物体を重ね合せるための方法および装置
JP6008397B2 (ja) 光学式シースルー型hmdを用いたarシステム
JP4137078B2 (ja) 複合現実感情報生成装置および方法
US20160307374A1 (en) Method and system for providing information associated with a view of a real environment superimposed with a virtual object
US20150103096A1 (en) Display device, head mount display, calibration method, calibration program and recording medium
JP2006072903A (ja) 画像合成方法及び装置
US20100188355A1 (en) Apparatus and method for detecting an object pointed by a user
JP2017187667A (ja) 頭部装着型表示装置およびコンピュータープログラム
WO2019013204A1 (ja) 情報を提示する情報処理装置、情報処理方法及びプログラム
JP7414395B2 (ja) 情報投影システム、制御装置、及び情報投影制御方法
JP2024113052A (ja) ヘッドマウントディスプレイ
JP7517803B2 (ja) ロボット教示システム、画像生成方法、及びプログラム
US11443719B2 (en) Information processing apparatus and information processing method
JP2025031790A (ja) 遠隔操作のための表示システム、表示方法およびプログラム
KR101308184B1 (ko) 윈도우 형태의 증강현실을 제공하는 장치 및 방법
JP6696925B2 (ja) 操作支援装置
JP5215211B2 (ja) 関連情報表示位置特定システムおよび関連情報表示位置特定用プログラム
JP6468656B2 (ja) Ar情報表示装置
JP7334460B2 (ja) 作業支援装置及び作業支援方法
WO2020049999A1 (ja) 製造支援システム,方法,プログラム
JP4366709B2 (ja) 画像処理方法、シミュレーション装置、プログラム及び記録媒体
US20220331972A1 (en) Robot Image Display Method, Recording Medium, And Robot Image Display System

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190301

R150 Certificate of patent or registration of utility model

Ref document number: 6491574

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150