JP3541855B2

JP3541855B2 - ３次元データ抽出方法及び装置

Info

Publication number: JP3541855B2
Application number: JP29822494A
Authority: JP
Inventors: 井上　　徹
Original assignee: 朝日航洋株式会社
Priority date: 1994-12-01
Filing date: 1994-12-01
Publication date: 2004-07-14
Anticipated expiration: 2019-07-14
Also published as: JPH08159762A

Description

【０００１】
【産業上の利用分野】
本発明は、３次元データ抽出方法及び装置に関し、より具体的には、ビデオ映像から３次元データを抽出する方法及び装置に関する。
【０００２】
【従来の技術】
３次元地形図を作成するには、従来、航空写真による航空測量技術が利用されている。しかし、航空測量技術は、現地上空をヘリコプタ又は軽飛行機を飛ばしながら地上をステレオ撮影し、それで得たステレオ写真を解析処理するものであり、ステレオ写真を得るだけでも多大な費用と時間がかかる上に、その解析にも非常な手間と費用がかかる。低高度で撮影した空中写真を使ってステレオ・マッチングにより３次元計測する場合、オクルージョンの影響によりマッチング・エラーが発生する。これは、ステレオ画像を形成する２つの画像が別の視線方向から見られたものであり、観察方向の相違に起因する画像の相違が、完全なマッチングを不可能にするからである。従来例は、地上の複数の標定点を使うことで、このような影響を除去しようとしているが、これでは自動化は不可能である。
【０００３】
【発明が解決しようとする課題】
これに対して、ビデオ映像を利用して地形図を作成する技術は、自動化しやすい。しかし、従来の技術では、写真３次元データを抽出するのに、航空写真測量と同様に、画像内に数点の対空標識（明確な３次元座標が分かっている標識）が必要とされ、必要な数の対空標識が確保されても、誤差がメートル単位で精度が悪く、実用に耐えない。
【０００４】
道路、河川及び鉄道等の管理、その新規路線計画、並びに都市等の開発状況調査には、３次元地形図が有益であり、３次元地形データを迅速、安価且つ簡単に入手できるシステムが望まれている。３次元地形データが得られれば、鳥瞰図も容易に作成（ディスプレイ表示又はプリンタ出力）でき、各種のシミュレーションを行なうことができる。また、ビデオ映像処理により３次元データを得ることができれば、変化部分のみを抽出するのも容易になるので、都市等の開発状況調査も容易になる。
【０００５】
本発明は、３次元データを自動抽出する３次元データ抽出方法及び装置を提示することを目的とする。
【０００６】
本発明はまた、ビデオ映像から３次元データを抽出する３次元データ抽出方法及び装置を提示することを目的とする。
【０００８】
【課題を解決するための手段】
本発明では、ビデオ映像の所定ラインの画像データを抽出して、視差の異なる連続モザイク画像を形成する。それらの連続モザイク画像から縦視差を除去した後、ステレオ・マッチングにより視差差を算出する。得られた視差差から高さを算出する。
【０００９】
好ましくは、撮影映像の連続する画面から、所定割合で重複する少なくとも３以上の画面を抽出し、その重複部分で各画面をマッチングし、外部標定要素を確定する。そして、この標定計算で決定された外部標定要素に従い、連続モザイク画像の各ラインに外部標定要素を内挿し、連続モザイク画像の各ラインを、当該ラインの外部標定要素に従い所定高度への投影画像に変換する。
【００１０】
【作用】
上記の各処理は、コンピュータ上で自動化可能であり、従って、ビデオ撮影による映像から、ステレオ・マッチングに必要なステレオ画像を得て、高さを算出する全行程を、コンピュータ上で自動実行できるようになり、迅速に所望地域等の３次元データを得ることができる。
【００１１】
ビデオ映像なので、外部標定要素を確定するのに必要な画像情報を豊富に得ることができ、外部標定要素の精度が高まる。これにより、最終的に得られる高さデータも精度の良いものになる。また、ステレオ画像のマッチング演算でも、当該ステレオ画像の中間的な画像を一時的に作って対応点を連鎖的に検索することにより、ステレオ写真の場合に比べ、ステレオ画像間の対応点をより精度良く確定できるようになり、オクルージョンの問題を完全に解決できる。
【００１２】
【実施例】
以下、図面を参照して本発明の実施例を詳細に説明する。
【００１３】
図１は、本発明の一実施例の空中計測システムの概略構成ブロック図、図２は、地上計測システムの概略構成ブロック図、図３は、地上解析システムの概略構成ブロック図を示す。
【００１４】
図１に示す空中計測システムを説明する。図１に示す空中計測システムは、本実施例ではヘリコプターに搭載される。本実施例では、高品位カメラ１０を高精度防振安定装置（防振装置）１２に搭載し、その高品位映像信号出力を高品位ビデオ・テープ・レコーダ１４によりビデオ・テープに記録する。なお、カメラ１０は、一般に下向きであって、直下の映像が走査線に垂直な方向に移動するように設置される。カメラ１０の出力映像信号は、高品位モニタ１６にも印加されている。これにより、カメラ１０の被写体及び撮影状況を視覚的に確認できる。
【００１５】
高精度防振安定装置１２は、機体からの振動がカメラ１０に影響しないようにする。これにより、ブレの無い映像を収録できるようになる。即ち、高精度防振安定装置１２は、ジャイロとジンバル・サーボを組み合わせることにより、カメラの１０光軸が機体に発生するロール軸、ピッチ軸及びヨー軸回りの角度の動揺に対して慣性空間の一定方向に常に向くような空間安定化機能を持つ。
【００１６】
１８は、測定データを収集・記録すると共に、３軸制御装置２０を介して防振安定装置１２を制御し、カメラ制御装置２２を介してカメラ１０を制御し、ＶＴＲ制御装置２４を介してＶＴＲ１４を制御するパーソナル・コンピュータである。３軸制御装置２０により、防振安定装置１２の目標方位を任意に設定でき、カメラ制御装置２２によりカメラ１０のフォーカス、ズーム、絞り値及び色バランス等を制御し、ＶＴＲ制御装置２４により、ＶＴＲ１４の録画開始、録画終了及びポーズを制御し、また、カメラ１０の出力映像信号と一緒に記録されるタイムコードを取得して、コンピュータ１８に転送する。このタイムコードは、ＶＴＲ１４に記録される映像情報と、その他の測定データを地上解析システムで解析する際に同期をとるのに利用される。
【００１７】
対地高度センサ２６は、対地高度を検出し、磁方位センサ２８は磁方位を検出する。高精度防振安定装置１２によっても、ジャイロ・ドリフトによりゆっくりとした方向移動があるので、磁方位センサ２８により、カメラ１０の向きを補正する必要がある。センサ２６，２８の出力は、ディジタル・データとして、コンピュータ１８に印加される。コンピュータ１８には他に、防振安定装置１２からカメラ１０の３軸方向を示す３軸ジャイロ・データ（ロール角、ピッチ角及びヨー角）が入力し、カメラ１０からズーム値を示すズーム・データが入力する。
【００１８】
３０はＧＰＳ（全地球測位システム）の受信アンテナ、３２はＧＰＳアンテナ３０の受信信号から現在地座標（緯度、経度及び高度）を参集するＧＰＳ受信装置である。ＧＰＳ受信装置３２から出力されるＧＰＳ測位データは、記録するためにコンピュータ１８に印加され、また、ナビゲーションのためにナビゲーション・システム３４にも印加される。ナビゲーション・システム３４は、予めフロッピー３６に記録しておいたナビゲーション・データ（測線データ）に従い、設定した測線に対する現在位置をモニタ３８の画面に３次元的グラフィック表示する。これにより、地上に目標物の無い地域や分かりにくい地域（例えば、山間地又は海域等）で所望の測線に沿った撮影が可能になる。
【００１９】
なお、ＧＰＳの測定精度を向上する方法として、座標が既知の基準点でもＧＰＳで測定し、その測定誤差でＧＰＳ測位データを補正するディファレンシャルＧＰＳ（Ｄ−ＧＰＳ）方式が知られている。本実施例では、このディファレンシャルＧＰＳ方式を採用し、座標が既知の基準局の座標を同時にＧＰＳで測定し、その測定誤差データをＧＰＳ補正データとして無線通信によりヘリコプターに送信する。通信装置４０は、基準局からのＧＰＳ補正データを受信し、コンピュータ１８に転送する。
【００２０】
コンピュータ１８は、入力する飛行データ（対地高度データ、磁方位データ、ズーム・データ、３軸ジャイロ・データ）とＧＰＳ補正データ、ＶＴＲ制御装置２４からのタイムコードと共に、フロッピー（登録商標、以下、同じ。）４２に記録する。コンピュータ１８はまた、各入力データを必要によりモニタ４４に表示することができ、オペレータはキーボード４６からコンピュータ１８に種々の指示を入力できる。
【００２１】
通信装置４０による基準局との通信が不良になった場合に備えて、本実施例では、図２に示すように、基準局でも、計測したＧＰＳ補正データを独自にフロッピーに保存する。即ち、ＧＰＳ受信装置５０は、ＧＰＳアンテナ５２の出力からＧＰＳアンテナ５２の現在地を算出し、ＧＰＳ測位データをコンピュータ５４に出力する。ＧＰＳアンテナ５２の正確な座標（基準位置データ）は予め測定されており、そのデータがコンピュータ５４に入力又は設定されている。コンピュータ５４は、ＧＰＳ受信装置５０からのＧＰＳ測位データと基準位置データとの誤差を算出し、ＧＰＳ補正データとしてフロッピー５６に記録する。勿論、測定時刻の情報も同時に記録する。ＧＰＳ測位データ及びその誤差（即ち、ＧＰＳ補正データ）は、必要により、モニタ５８の画面に表示される。オペレータはキーボード６０により種々の指令をコンピュータ５４に入力できる。コンピュータ５４はまた、通信装置６２を介してＧＰＳ補正データを、図１に示す空中計測システム（のコンピュータ１８）に送信する。
【００２２】
図１に示す空中計測システム（及び、必要により図２に示す地上計測システム）により計測された各データは、図３に示す地上解析システムにより解析され、３次元データが算出される。即ち、高品位ＶＴＲ７０は、図１に示す空中計測システムで録画されたビデオ・テープを再生し、映像映像信号をフレーム・バッファ７４に、再生されたタイムコードをエンジニアリング・ワークステーション７６に印加する。フレーム・バッファ７４に一時記憶された映像データはモニタ７８に印加され、映像表示される。再生されたタイムコードもモニタ７８に同時に表示されることがあるのは、いうまもでもない。
【００２３】
パーソナル・コンピュータ８０は、図１に示す空中計測システムで同時に収集された飛行データ及びＧＰＳ補正データ（通信不良の場合には、図２に示す地上計測システムで計測されたＧＰＳ補正データ）を読み出し、ＧＰＳ測位データをＧＰＳ補正データで補正すと共に、３軸ジャイロ・データを磁方位データで補正し、その他の計測データ及び一緒に記録されていたタイムコードと共にワークステーション７６に転送する。ワークステーション７６は、コンピュータ８０から供給されるタイムコードに従いＶＴＲ７０を制御し、同じタイムコードの映像をＶＴＲ７０に再生させる。これにより、ワークステーション７６は、撮影時の条件及び撮影位置と、そのときの撮影映像とを対応付けることができ、以下に詳細に説明する演算により、３次元データを生成する。
【００２４】
図４は、本実施例における計測から３次元データ抽出までのフローを示す。先ず、図１に示す各装置を航空機に搭載し、対象地域上空を可能な限り一定高度及び一定速度で飛行しながら対象地域を撮影し、飛行情報を収録する（Ｓ１）。このとき、撮影対象は、基本的に、カメラ１０の走査線の垂直方向に移動していく。カメラ１０により撮影された映像は、ＶＴＲ１４によりビデオテープに録画される。同時に、カメラ１０の正確な位置（緯度、経度、高さ）と向きの情報が、ＶＴＲ１４からのタイムコードと共にフロッピー４２に記録される。タイムコードは、地上での解析時に、カメラの位置及び向きと、再生映像との同期をとるのに使用される。
【００２５】
カメラ１０の位置は、基本的にはＧＰＳ受信機３２から出力されるＧＰＳ測位データから分かり、精度向上のために、基準局からのＧＰＳ補正データによりディファレンシャル処理される。ディファレンシャル処理は、航空機上でもよいが、ＧＰＳ補正データの通信不良などを考慮すると、ＧＰＳ受信機３２の出力（ＧＰＳ測位データ）とＧＰＳ補正データとを別々にフロッピー４２に記録しておき、地上での解析時にディファレンシャル処理するのが好ましい。ＧＰＳ補正データの通信不良があったときには、図２に示す地上計測システムで記録保存したＧＰＳ補正データでＧＰＳ測位データをディファレンシャル処理する。
【００２６】
カメラ１０の向きに関しては、防振安定装置１２のジャイロ・センサの出力を磁方位センサ２８の出力で補正した値をフロッピー４２に記録する。具体的には、３軸の傾き（ピッチ、ロール及びヨー）をフロッピーに記録する。勿論、簡略のため、または、防振安定装置１２の性能が良好な場合や、簡略化してもよい場合には、カメラ１０の傾きが一定であるとしてもよい。
【００２７】
ちなみに、撮影高度を１，０００フィートとし、２００万画素ＣＣＤイメージ・センサを使用するハイビジョン・カメラの場合で、焦点距離が８．５ｍｍのとき、撮影範囲は３３９ｍ、分解能は１７．７ｃｍであり、焦点距離が１０２．０ｍｍのとき、撮影範囲は２８ｍ、分解能は１．５ｃｍである。
【００２８】
収録された情報（映像と飛行情報）は、図３に示す地上解析システムで再生され、解析される。先に説明したように、ワークステーション７６は、コンピュータ８０からの撮影時の情報（カメラの位置と方位、並びにタイムコード）に従い、ＶＴＲ７０を制御し、同じタイムコードの映像を再生させる。再生された映像信号は、ディジタル化されて、フレーム・バッファ７４に格納される。このようにして、ワークステーション７６は、映像データと、撮影時のカメラ位置及び傾きのデータを得ることができ、標定計算（Ｓ２）、連続モザイク画像作成（Ｓ３）、縦視差除去（Ｓ４）、視差差算出（Ｓ５）及びＤＥＭ作成の各処理を経て、ＤＥＭデータを出力する。
【００２９】
標定計算（Ｓ２）を説明する。写真測量では、２枚のステレオ画像から３次元計測を行なう場合、各画像の正確な標定要素が必要になる。標定要素には、撮影時のカメラの位置及び３軸の傾きからなる外部標定要素と、カメラ主点位置ズレ量、レンズ歪係数及びフィルム平面度などからなる内部標定要素とがある。内部標定要素は、カメラ毎に個体差がありうるものも、予め測定しておくことができる。
【００３０】
外部標定要素は、次のような一般的な写真測量の手法で求めることができる。即ち、ビデオ撮影時に同時に収録した飛行情報、具体的にはカメラ１０の位置と傾きから、重複率が６０％（又はほぼ６０％）になるようなシーン（本実施例では、フィールド画）を、撮影映像から抽出する。例えば、図５に示す例では、シーン＃１に対してシーン＃２は６０％重複し、シーン＃３はシーン＃２に対して６０％重複する。シーン＃３はシーン＃１に対しても２０％重複する。抽出したシーンのフィールド番号は、後述の縦視差除去処理における外部標定要素の内挿処理で必要となるので、抽出された各シーンの外部標定要素と対にして、図示しない補助記憶装置（例えば、ハードディスク装置）に記憶する。
【００３１】
しかし、飛行情報に従って抽出した３シーンの重複部分は、センサ誤差及び地形の高さによる影響が含まれているので、ピッタリ合うことは稀である。そこで、実際には、次のようにして重複部分を確定する。即ち、図６に示すように、各シーンの重複部分に複数のマッチング領域を設定し、残差逐次検定法又は相互相関係数法などのマッチング手法により、各シーンの各マッチング領域内で共通ポイントを計算する。この計算は勿論、自動化可能であり、この共通ポイントをパス・ポイントと呼ぶ。
【００３２】
立体画像を構成する２つの画像からなる対をモデルと呼び、その重複部分のパス・ポイントの座標値から相対的な位置及び傾きの関係を求めるのを相互標定と呼び、複数のモデルをモデル相互の共通したパス・ポイントをもとに統一したコース座標系に変換すべく結合するのを接続標定と呼ぶ。相互標定と接続標定の関係を図７に示す。
【００３３】
一連の撮影映像で上述の相互標定と接続標定を繰り返し行なうことにより、各モデルを統一したコース座標系に変換できる。ビデオ撮影時に収録した飛行情報（外部標定要素）は、その測定系に依存する測定誤差又は変動を含むが、このような標定計算（相互標定と接続標定）により、外部標定要素の値を高精度に確定できる。
【００３４】
以上により、標定計算（Ｓ２）を終了し、次に、連続モザイク画像を作成する（Ｓ３）。カメラの撮像面（ＣＣＤ面）と地上撮影範囲の関係は、図８のようになる。ビデオ映像は、周知の通り、１秒間に３０フレームからなり、１フレームは奇フィールドと偶フィールドの２つのフィールドからなる。奇フィールドと偶フィールドは、走査線が重複しないようにずらして配列され、１／６０秒毎に交互に表示される。
【００３５】
即ち、カメラ１０により撮影したビデオ映像は、１／６０秒毎に撮影位置を変えたシーン（フィールド）からなり、本実施例では、図９に示すように、各フィールドから、その先頭ライン、中心ライン及び最終ラインの各ライン・データを抽出する。各フィールドの先頭ラインのデータから形成した画像を前方視画像、各フィールドの中心ラインのデータから形成した画像を直下視画像、各フィールドの最終ラインのデータから形成した画像を後方視画像とそれぞれ呼ぶ。撮影時の移動速度が一定で、且つカメラの傾きも一定であれば、これら、前方視画像、直下視画像及び後方視画像を使って立体視することができる。なお、高さを強調する、即ち分解能を上げるには、短い焦点距離のレンズを使えばよい。
【００３６】
但し、航空機によるビデオ撮影では、飛行速度の変化、飛行コースのズレ、飛行高度の変化、及び３軸（ピッチ、ロール及びヨー）の変化といった変動要因があり、これらの影響で生じる縦視差を除去する必要がある（Ｓ４）。
【００３７】
縦視差除去処理（Ｓ４）では先ず、標定計算（Ｓ２）で得られた重複率６０％の各画像の外部標定要素をもとに、連続モザイク画像（前方視画像、直下視画像及び後方視画像）の各ライン・データに対応する外部標定要素の値を内挿する。例えば、図１０に示すように、３つの撮影地点Ｐ，Ｑ，Ｒでの外部標定要素、即ちカメラの位置と傾きが、それぞれ、（Ｘp，Ｙp，Ｚp，ωp，φp，κp）、（Ｘq，Ｙq，Ｚq，ωq，φq，κq）及び（Ｘr，Ｙr，Ｚr，ωr，φr，κr）であるとしたとき、連続モザイク画像上で、各撮影地点Ｐ，Ｑ，Ｒでの直下視画像に相当するラインにこれらの外部標定要素の値を割り当て、それ以外のラインには、内挿値を割り当てる。このようにして、連続モザイク画像の各ラインに、図１１に示すように、外部標定要素（Ｘ_i，Ｙ_i，Ｚ_i，ω_i，φ_i，κ_i）を割り当てる。
【００３８】
本実施例では、写真測量の演算ソフトウエアを流用するので、ビデオ映像の座標系を、図１２に示すように、通常の写真測量の単写真の座標系に変換する。即
【００３９】
ち、
【数１】に示すように、画像座標系（ｕ，ｖ）を写真座標系（ｘ，ｙ）に変換する。
【００４０】
【数１】
ｘ＝（ｕ−ｕ₀）×ｘ_C
ｙ＝（ｖ−ｖ₀）×ｙ_C
但し、ｕ₀及びｖ₀は、ビデオ画像の中心画像座標値、ｘ_C及びｙ_Cは、１画素あたりのｘ，ｙ方向のＣＣＤ結像面での長さである。
【００４１】
そして、写真座標系を地上座標系に変換する。写真座標系（ｘ，ｙ）と地上座標系（Ｘ，Ｙ，Ｚ）との間には、図１３に示す幾何学的関係があり、その変換式は、下式で表わされる。
【００４２】
【数２】

【００４３】
ここで、ｆは、画面距離、（Ｘｏ，Ｙｏ，Ｚｏ）は、写真の投影中心Ｏの地上座
【００４４】
標である。
【数２】は、共線条件式と呼ばれる。９個の係数ａ₁₁〜ａ₃₃は、カメラの撮影軸の傾き（ω，φ，κ）より、数３により求められる。ω，φ，κはそれぞれＸ軸、Ｙ軸及びＺ軸のまわりの回転角を示し、それぞれの軸の正方向に向かって右まわりを正とする。
【００４５】
【数３】

【００４６】
従って、
【００４７】
【数４】

【００４８】
【数２】の逆変換式は、次のようになる。即ち、
【００４９】
【数５】

【００５０】
【数２】及び
【数５】における未知変量は、写真の投影中心の地上座標（Ｘｏ，Ｙｏ，Ｚｏ）及び撮影軸の傾き（ω，φ，κ）の６つである。この６つの未知変量が外部標定要素であり、先に求めたライン毎の外部標定要素により、ライン毎に、写真座標系を地上座標系に変換できる。
【００５１】
このように地上座標系に変換された連続モザイク画像に
【数５】を適用し、図１４に示すように、縦視差を除去した画像を作成する（Ｓ４）。即ち、先にライン毎に決定した外部標定要素を用いて、係数ａ₁₁〜ａ₃₃を求め、連続モザイク画
【００５２】
像の前方視画像、直下視画像及び後方視画像に
【数５】を適用して、標高０ｍに投映した画像を作成する。この時、作成する画像の１画素の大きさは、撮影高度、カメラ焦点距離及びビデオ画像１画素のＣＣＤ長等から計算して、最適な値に設定する。
【００５３】
出力画像の１画素の大きさを最適な値に設定しても、ビデオ撮影時の飛行速度や撮影方向の変化で画素ヌケの箇所が発生する場合がある。これは、フィルタ処理により周囲の画素から内挿又は補間する。内挿手法には、内挿したい点に最も近い観測点の値をそのまま流用する最近隣内挿法、内挿したい点の周囲の４つの観測点の値の平均値を求める値とする共一次内挿法、及び、内挿したい点の周囲の１６個の観測点の値を三次畳み込み処理する三次畳み込み内挿法などがある。
【００５４】
最近隣内挿法は、最大１／２画素の位置誤差を生じるが、オリジナルな画像データを壊さない利点があり、また、アルゴリズムが簡単である。共一次内挿法は、オリジナルのデータが壊される欠点があるが、平均化によりスムージングの効果がでる利点がある。三次畳み込み内挿法は、オリジナルのデータが壊される欠点があるが、画像の平滑化と鮮鋭化を同時に実現できるという利点がある。目的に応じて、また最終結果を見て、全体又は部分的に何れの内挿法を適用するかを選択すればよい。
【００５５】
縦視差を除去した画像から視差差を算出する（Ｓ５）。視差差の算出には、自動ステレオ・マッチング手法を使用する。本実施例では、図１５に示すように、縦視差除去画像の撮影方向が水平走査線に直交する方向になるように縦視差除去画像を再配列した上で、ステレオ・マッチングのための画像、即ち、マッチング画像を作成する。これにより、以下の処理を高速化できるだけでなく、処理に必要なメモリ容量を節減できる。
【００５６】
以上の処理により得られたマッチング画像の前方視画像上に、高さを算出する目的のテンプレート画像（例えば、Ｎ×Ｎ画素）を設定し、このテンプレート画像に近似する画像を、他のマッチング画像、即ち後方視画像又は直下視画像上の所定の探索範囲内で探索する。本実施例では、予め縦視差を除去しているので、探索範囲は、水平走査線に直交する方向のみで良い。マッチングしたら、その位置の差、即ち視差差を算出する。
【００５７】
ビデオ映像のフィールドの隣接するラインのデータから形成したモザイク画像は、非常に良く近似するが、抽出するラインが離れる程、得られたモザイク画像は、視線方向がそれだけ異なることになり、最適にマッチングしたときでも、マッチング・エラーが大きくなる。そこで、本実施例では、前方視画像と後方視画像とでステレオ・マッチングする場合でも、中間的なラインからモザイク画像を形成（勿論、縦視差も除去する。）し、逐次的に対応点を探索するようにした。これにより、オクルージョンによる影響を排除でき、高い精度で対応点を検出できるようになる。
【００５８】
図１７に示すような四角錐台状の物体を例に、説明する。図１８は、この物体をビデオ撮影したときの、撮影画面内の抽出ラインと、各ラインを合成して得られるモザイク画像（縦視差除去済み）との対応を示す。図１８（１）は、先頭ライン及び最終ラインを抽出する場合、同（２）はより内側のラインを抽出した場合、同（３）は更に内側のラインを抽出した場合、同（４）はほぼ中央の隣接するラインを抽出した場合である。このように、本実施例では、本来の前方視画像Ｆ１と後方視画像Ｒ１のほかに、中間的な前方視画像Ｆ２，Ｆ３，Ｆ４及び後方視画像Ｒ２，Ｒ３，Ｒ４がある。中間的な前方視画Ｆ４及び後方視画像Ｒ４の代わりに直下視画像を採用してもよい。
【００５９】
いうまでもないが、中間的な画像Ｆ２，Ｆ３，Ｆ４，Ｒ２，Ｒ３，Ｒ４は、必要に応じて、より少なく又はより多く設定してもよい。試行的なマッチング演算の結果により、適当な数を設定してもよい。
【００６０】
前方視画像Ｆ１の点Ａに対応する点を後方視画像Ｒ１から探索する場合、まず、中間的な前方視線画像Ｆ２上で点Ａの対応点を探索する。画像Ｆ１と画像Ｆ２は少し視線がずれているだけなので、自動ステレオ・マッチングによっても、高い精度で対応点を探索できる。画像Ｆ２で探索した対応点を含むテンプレートが像を設定し、画像Ｆ３上で対応点を探索する。そして、逐次、画像Ｆ４、画像Ｒ４、画像Ｒ３、画像Ｒ２、画像Ｒ１とステレオ・マッチング演算する。このようにして、画像Ｆ１上の点Ａの対応点を画像Ｒ１上で高い精度で探知できる。画像Ｆ１と画像Ｒ１を直接、ステレオ・マッチングした場合には、オクルージョンの影響により物体によっては大きな誤差を避けられないが、本実施例では、このように逐次探索することで、オクルージョンの影響を完全の除去できる。
【００６１】
ここでは、中間的な画像を予め作成するとしたが、視差差算出のためのマッチング演算を実行しながら、マッチング・エラーが許容値以下になるまで２分探索法により逐次的に中間的な画像を形成して対応点を探索するようにしてもよい。例えば、後方視画像でのマッチング処理で許容値以上のマッチング・エラーがある場合に、中間的なラインから抽出したモザイク画像を形成し（勿論、縦視差も除去する。）、そのモザイク画像上でマッチング演算する。ここで一定精度以上で対応点が見つかれば、その発見された対応点を目安に、後方視画像上でマッチング処理により対応点を探索する。中間的なモザイク画像でも許容値以上のマッチング・エラーがある場合には、更に中間的なラインから抽出したモザイク画像を形成し、そのモザイク画像上でマッチング演算する。このような繰り返し処理により、最終的に、前方視画像と後方視画像との間で対応点を検出する。このようにすることで、オクルージョンの影響を完全に排除して、高精度で対応点を検出できる。
【００６２】
何れにしても、中間的な画像は、マッチング演算に必要な部分のみを形成すれば良い。そうすれば、マッチング演算の時間を短縮でき、中間的な画像データを格納するメモリ容量も少なくて済む。
【００６３】
次に、ＤＥＭ（ＤｉｇｉｔａｌＥｌｅｖａｔｉｏｎＭｏｄｅｌ）を作成するために、下記式に従い視差差から高さを計算できる。即ち、
【００６４】
【数６】
ｈ＝ｄ×Ｈ／Ｂ
但し、ｈは求める高さ（ｍ）、ｄは視差差（ｍ）、Ｂはベース長（ｍ）、Ｈは撮影高度（ｍ）である。図１９は、視差差と高さの関係を示す。
【００６５】
カメラ１０のＣＣＤ撮像素子の結像面の長さをｃ１（ｍｍ）、１画素あたりのＣＣＤ結像面での長さをｄｃ（ｍｍ）、焦点距離をｆ（ｍｍ）とした場合、前方視画像と後方視画像による視差差から高さを求めるときには、
【００６６】
【数７】
ｈ＝ｄ×ｆ／（ｃ１−ｄｃ）
であり、前方視画像又は後方視画像と直下視画像による視差差から高さを求めるときには、
【００６７】
【数８】
ｈ＝ｄ×２×ｆ／（ｃ１−ｄｃ）
となる。
【００６８】
高さの精度は、Ｂ／Ｈ比で決まるが、撮影時にカメラ１０の焦点距離を変えることにより自由に設定できる。
【００６９】
高さデータが得られたら、メジアン・フィルタ等により、特に周囲のデータより凹凸のあるデータを検出し、周囲のデータで修整する。
【００７０】
以上の処理により、撮影対象内の所望地域について高さデータを算出でき、３次元データを得ることができる。
【００７１】
本実施例では、対空標識の設置及びその位置計測のための測量作業が不要になるので、任意の地域で迅速に調査できる。また、人が立ち入ることの出来ない危険地域（土砂崩れ、土石流及び火山噴火地帯等）についても、３次元地形図を作成できる。また、標定計算が自動化されているので、解析処理を手早く進めることが出来る。高さの精度は、カメラ１０の焦点距離を変えることで自由に設定できる。
【００７２】
本発明は、３次元地形図の作成に留まらず、防災情報の収集システム、鉄道や道路などの路線計画、及び、海・河岸の侵食調査などにも利用できる。
【００７３】
標定計算（Ｓ２）及び視差差算出（Ｓ５）で利用したマッチング手法を簡単に説明する。先に説明したように、従来、使用されているマッチング手法には、残差逐次検定法と相互相関係数法がある。
【００７４】
先ず、残差逐次検定法を説明する。図２０に示すようにＮ×Ｎ画素のテンプレート画像を、それより大きいＭ×Ｍ画素の入力画像内の探索範囲（Ｍ−Ｎ＋１）
【００７５】
²上で動かし、
【数９】の残差が最小になった位置で、重ね合わせが達成されたと看做す。
【００７６】
【数９】

【００７７】
ただし、（ａ，ｂ）は、入力画像内におけるテンプレート画像の左上位置を示し、Ｉ_(a,b)（ｍ，ｎ）は入力画像の部分画像、Ｔ（ｍ，ｎ）はテンプレート画像、Ｒ（ａ，ｂ）は、入力画像の部分画像とテンプレート画像との残差である。
【００７８】
重ね合わせがずれていると、各画素について順次加算していくときに残差が急激に増大する。そこで、加算の途中で残差があるしきい値を超えたら、重ね合わせが良くないものと判断して、加算を打ち切り、次の（ａ，ｂ）に移行する。これが、残差逐次検定法（ｓｅｑｕｅｎｔｉａ１ｓｉｍｉｌａｒｉｔｙｄｅｔｅｃｔｉｏｎａｌｇｏｒｉｔｈｍであり、以降ＳＳＤＡ法と略す。）である。ＳＳＤＡ法は、Ｂａｒｎｅａらによって提案されたが、しきい値をいかに与えるかが問題であった。この点に関して尾上らは、いかに述べるしきい値自動決定法を提案している。
【００７９】
尾上らの提案するしきい値自動決定法は、取り敢えずのしきい値として過去の残差の最小値を採用する。なお、最初は、しきい値無しで最後まで加算させ、その結果の残差を最初のしきい値とする。以降、最後まで、しきい値を超えることなく加算されるごとにその残差を新しいしきい値とする。この方法では、常に真の最小値に達することが保証されている。
【００８０】
ＳＳＤＡ法は、加算だけからなり、しかも多くの場合に途中で打ち切られるので、計算時間を大幅に短縮できる。尾上らは、雲の移動追跡に応用して、相互相関係数による方法と比べて精度が同等、処理時間が１桁以上短縮というきわめて良好な結果を得ている。
【００８１】
相互相関係数法を説明する。相互相関係数法では、
【数１０】が最大になる入力画像内におけるテンプレート画像の左上位置（ａ，ｂ）を求める。
【００８２】
【数１０】

【００８３】
この方法では、ＳＳＤＡ法のような計算の打ち切りが無いので、計算時間をあまり短縮できない。しかし、写真測量の分野では、ステレオ航空写真のディジタル画像から格子点の標高を計測し、等高線を描画する場合に、左右の画像で対応する点を探索する手法として相互相関係数法が、手軽なのでよく使われている。
【００８４】
本実施例によれば、従来良く利用された航空写真に代わって、高解像度ビデオカメラで収録した映像から３次元地形図等を作成できるので、非常に幅広い用途に利用可能である。例えば、道路、河川及び鉄道等の各種の管理に利用でき、また、画像処理で変化部分のみを抽出すれば都市等の開発状況調査に利用できる。また、３次元鳥瞰図を作成し、新規路線計画の完成状況をシミュレーションするのにも利用できる。
【００８５】
ヘリコプターから地上を撮影する例で説明したが、本発明は、ヘリコプター以外に、その他の飛行機、監視衛星及び地上を走行する自動車から撮影する場合にも適用できるこというまでもない。
【００８６】
また、上記実施例では、フィールド画像の最先ラインから前方視画像を形成し、最後のラインから後方視画像を形成したが、それぞれ、２番目以降のライン、最後のラインの１又は２以上前のラインであってもよいことは勿論である。
【００８７】
【発明の効果】
以上の説明から容易に理解できるように、本発明によれば、移動しながらのビデオ撮影により基礎データを収集でき、その画像処理により高さデータを得ることができる。撮影後の解析処理はその全て又はそのほとんどを自動化できるので、迅速に所望の３次元データを得ることができるようになる。また、従来よりも安価に３次元データを得ることが出来る。
【図面の簡単な説明】
【図１】本発明の一実施例の空中計測システムの概略構成ブロック図である。
【図２】本実施例の地上計測システムの概略構成ブロック図である。
【図３】本実施例の地上解析システムの概略構成ブロック図である。
【図４】本実施例における計測から３次元データ抽出までのフロー・チャートである。
【図５】標定計算のための６０％重複シーンの説明図である。
【図６】相互標定とパス・ポイントの説明図である。
【図７】相互標定と接続標定の説明図である。
【図８】カメラの撮像面と地上撮影範囲との関係図である。
【図９】連続モザイク画像作成の概念図である。
【図１０】連続モザイク画像と外部標定要素との関係図である。
【図１１】外部標定要素の内挿を説明する図である。
【図１２】撮像面の画像座標系と写真座標系を説明する図である。
【図１３】写真座標系と地上座標系の関係図である。
【図１４】縦視差除去の前後の画像例である。
【図１５】視差差算出のためのマッチング画像の説明図である。
【図１６】視差差算出のためのステレオ・マッチングの説明図である。
【図１７】測定対象とした四角錐台状の物体モデルである。
【図１８】図１７に示す物体をビデオ撮影したときの、撮影画面内の抽出ラインと、各ラインを合成して得られるモザイク画像（縦視差除去済み）との対応を示す図である。
【図１９】視差差と高さの関係の説明図である。
【図２０】入力画像とテンプレート画像のマッチングの基本図である。
【符号の説明】
１０：高品位カメラ
１２：高精度防振安定装置（防振装置）
１４：高品位ビデオ・テープ・レコーダ
１６：高品位モニタ
１８：パーソナル・コンピュータ
２０：３軸制御装置
２２：カメラ制御装置
２４：ＶＴＲ制御装置
２６：対地高度センサ
２８：磁方位センサ
３０：ＧＰＳアンテナ
３２：ＧＰＳ受信装置
３４：ナビゲーション・システム
３６：フロッピー
３８：モニタ
４０：通信装置
４２：フロッピー
４４：モニタ
４６：キーボード
５０：ＧＰＳ受信装置
５２：ＧＰＳアンテナ
５４：コンピュータ
５６：フロッピー
５８：モニタ
６０：キーボード
６２：通信装置
７０：高品位ＶＴＲ
７４：フレーム・バッファ
７６：エンジニアリング・ワークステーション
７８：モニタ
８０：パーソナル・コンピュータ
Ｆ１：前方視画像
Ｆ２，Ｆ３，Ｆ４：中間的な前方視画像
Ｒ１：後方視画像
Ｒ２，Ｒ３，Ｒ４：中間的な後方視画像

Claims

３次元データの抽出対象を移動しながら撮影し、その映像信号を記録すると共に、撮影するカメラの位置及び傾きを含む撮影情報を記録する基礎情報収集ステップと、当該基礎情報収集ステップで収集した映像及び撮影情報から当該抽出対象の３次元データを生成する３次元データ生成ステップとからなる３次元データ抽出方法であって、当該３次元データ生成ステップが、
撮影映像の連続する画面の中の所定画面における所定ラインの画像データを抽出して、前方視画像、直下視画像及び後方視画像の少なくとも２つの連続モザイク画像を生成する連続モザイク画像生成ステップと、
当該連続モザイク画像生成ステップで生成された連続モザイク画像から縦視差を除去する縦視差除去ステップと、
当該縦視差除去ステップで縦視差を除去した連続モザイク画像における所定位置に対する視差差を算出する視差差算出ステップと、
当該視差差算出ステップで算出された視差差から当該所定位置の高さを算出する高さ算出ステップ
とからなることを特徴とする３次元データ抽出方法。
更に、撮影映像の連続する画面から、相互標定及び接続標定により外部標定要素を確定する標定計算ステップを具備する請求項１に記載の３次元データ抽出方法。
上記標定計算ステップが、撮影映像の連続する画面から、所定割合重複する２画面を抽出し、相互標定する相互標定ステップと、当該相互標定ステップにより相互標定されたモデルを接続する接続標定ステップとを具備する請求項２に記載の３次元データ抽出方法。
上記所定割合が、６０％である請求項３に記載の３次元データ抽出方法。
上記縦視差除去ステップが、上記標定計算ステップで決定された外部標定要素に従い、上記連続モザイク画像生成ステップで生成された連続モザイク画像の各ラインに外部標定要素を割り当てる外部標定要素割り当てステップと、上記連続モザイク画像生成ステップで生成された連続モザイク画像の各ラインを、当該ラインの外部標定要素に従い所定高度への投影画像に変換する投影ステップとからなる請求項２乃至４の何れか１項に記載の３次元データ抽出方法。
上記視差差算出ステップは、上記連続モザイク画像の間の１以上の中間的な画像を形成する中間画像形成ステップと、当該１以上の中間的な画像を経て、上記連続モザイク画像における対応点を検出する対応点検出ステップと、当該対応点検出ステップの検出結果に従い当該対応点の視差差を算出する演算ステップとを具備する請求項１乃至５の何れか１項に記載の３次元データ抽出方法。
上記中間画像形成ステップは、撮影映像の連続する画面の中の所定画面における中間的なラインの画像データを抽出し、上記中間的な画像を形成する請求項６に記載の３次元データ抽出方法。
上記基礎情報収集ステップが、ＧＰＳ受信手段により上記カメラの位置を検出するステップを具備する請求項１乃至７の何れか１項に記載の３次元データ抽出方法。
上記基礎情報収集ステップが更に、上記ＧＰＳ受信手段の受信結果をディファレンシャル補正するステップを具備する請求項８に記載の３次元データ抽出方法。
上記カメラが防振手段により防振されている請求項１乃至９の何れか１項に記載の３次元データ抽出方法。
３次元データの抽出対象を撮影するビデオ・カメラと、
当該ビデオ・カメラの位置を測定する測位手段と、
当該ビデオ・カメラによる撮影映像及び当該測位手段の測定値を記録する記録手段と、
当該ビデオ・カメラ及び当該測位システムを搬送する搬送手段と、
当該記録手段に記録される映像情報及び位置情報を再生する再生手段と、
撮影映像の連続する画面の中の所定画面における所定ラインの画像データを抽出して、前方視画像、直下視画像及び後方視画像の少なくとも２つの連続モザイク画像を生成する連続モザイク画像生成手段と、
当該連続モザイク画像生成手段で生成された連続モザイク画像の縦視差を除去する縦視差除去手段と、
当該縦視差除去手段で縦視差を除去した連続モザイク画像において視差差を算出する視差差算出手段と、
当該視差差算出手段で算出された視差差から当該所定位置の高さを算出する高さ算出手段
とを具備することを特徴とする３次元データ抽出装置。
更に、撮影映像の連続する画面から、相互標定及び接続標定により外部標定要素を確定する標定計算手段を具備する請求項１１に記載の３次元データ抽出装置。
上記標定計算手段が、撮影映像の連続する画面から、所定割合重複する２画面を抽出し、相互標定する相互標定手段と、当該相互標定手段により相互標定されたモデルを接続する接続標定手段とを具備する請求項１２に記載の３次元データ抽出装置。
上記所定割合が、６０％である請求項１３に記載の３次元データ抽出装置。
上記縦視差除去手段が、
上記標定計算手段で決定された外部標定要素に従い、上記連続モザイク画像生成手段で生成された連続モザイク画像の各ラインに外部標定要素を割り当てる外部標定要素割り当て手段と、
上記連続モザイク画像生成手段で生成された連続モザイク画像の各ラインを、当該ラインの外部標定要素に従い所定高度への投影画像に変換する投影手段
とを具備する請求項１２乃至１４の何れか１項に記載の３次元データ抽出装置。
上記視差差算出手段は、
上記連続モザイク画像の間の１以上の中間的な画像を形成する中間画像形成手段と、
当該１以上の中間的な画像を経て、上記連続モザイク画像における対応点を検出する対応点検出手段と、
当該対応点検出手段の検出結果に従い当該対応点の視差差を算出する演算手段
とを具備する請求項１１乃至１５の何れか１項に記載の３次元データ抽出装置。
上記中間画像形成手段は、撮影映像の連続する画面の中の所定画面における中間的なラインの画像データを抽出し、上記中間的な画像を形成する請求項１６に記載の３次元データ抽出装置。
上記測位手段が、ＧＰＳ受信手段である請求項１１乃至１７の何れか１項に記載の３次元データ抽出装置。
更に、ＧＰＳ受信手段の出力をディファレンシャル補正する補正手段を具備する請求項１８に記載の３次元データ抽出装置。
上記カメラが、防振手段を介して上記搬送手段に載置される請求項１１乃至１９の何れか１項に記載の３次元データ抽出装置。
上記搬送手段が飛行体である請求項１１乃至２０の何れか１項に記載の３次元データ抽出装置。
更に、上記カメラの方位を検出する方位検出手段を具備し、当該方位検出手段の出力も上記記録手段に記録される請求項１１乃至２１の何れか１項に記載の３次元データ抽出装置。
上記搬送手段の移動方向が上記カメラの走査線方向に垂直な方向であるように上記カメラが設置される請求項１１乃至２２の何れか１項に記載の３次元データ抽出装置。