JP2009139324A - 車両用走行路面検出装置 - Google Patents
車両用走行路面検出装置 Download PDFInfo
- Publication number
- JP2009139324A JP2009139324A JP2007318567A JP2007318567A JP2009139324A JP 2009139324 A JP2009139324 A JP 2009139324A JP 2007318567 A JP2007318567 A JP 2007318567A JP 2007318567 A JP2007318567 A JP 2007318567A JP 2009139324 A JP2009139324 A JP 2009139324A
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- vehicle
- specific area
- plane
- specific
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 claims abstract description 48
- 230000009466 transformation Effects 0.000 claims abstract description 43
- 238000003384 imaging method Methods 0.000 claims abstract description 25
- 238000000034 method Methods 0.000 claims description 29
- 230000003287 optical effect Effects 0.000 claims description 13
- 238000012545 processing Methods 0.000 abstract description 41
- 239000011159 matrix material Substances 0.000 description 28
- 239000013598 vector Substances 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 238000012937 correction Methods 0.000 description 7
- 238000005111 flow chemistry technique Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【課題】簡易な処理により路面を正確に検出することが出来る車両用走行路面検出装置を提供する。
【解決手段】本発明による車両用走行路面検出装置は、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、第1撮像手段と、第2撮像手段と、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定する特定領域設定手段と、この特定領域において、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域と、を所定時間における車両の移動量に応じて結合して走行路面として設定する走行路面設定手段と、を有する。
【選択図】図5
【解決手段】本発明による車両用走行路面検出装置は、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、第1撮像手段と、第2撮像手段と、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定する特定領域設定手段と、この特定領域において、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域と、を所定時間における車両の移動量に応じて結合して走行路面として設定する走行路面設定手段と、を有する。
【選択図】図5
Description
本発明は、車両用走行路面検出装置に係り、特に、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置に関する。
従来、特許文献1に示すように、ステレオカメラにより得られる基準の画像を他方のカメラ視点に画像変換し、その変換画像を他方のカメラ画像とにより走行路面の平面パラメータを算出する平面検出装置が知られている。
また、特許文献2に示すように、前方の道路の勾配角を検出することが出来る前方道路の勾配検出方法が知られている。
また、特許文献2に示すように、前方の道路の勾配角を検出することが出来る前方道路の勾配検出方法が知られている。
しかしながら、上述したような装置或いは方法では、演算処理の負担が非常に大きく、特に、複数の傾斜変化がある路面については処理しきれない場合があった。また、単純な、例えば2つの平面同士の勾配変化を求めることが出来るものの、様々な傾斜変化がある場合に正確に路面までの距離や傾斜を検出することが出来ないものである。
そこで、本発明は、上述した従来技術の問題点を解決するためになされたものであり、簡易な処理により路面を正確に検出することが出来る車両用走行路面検出装置を提供することを目的としている。
上記の目的を達成するために本発明による車両用走行路面検出装置は、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、走行路面を撮像する第1撮像手段と、この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定する特定領域設定手段と、この特定領域において、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域と、を所定時間における車両の移動量に応じて結合して走行路面として設定する走行路面設定手段と、を有することを特徴としている。
このように構成された本発明においては、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定し、この特定領域において平面定数を算出し、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域とを所定時間における車両の移動量に応じて結合して走行路面として設定する。従って、例えば、数十m先のような特定領域の画像処理のみで、特定領域から車両直前までの路面の勾配を検出することが出来、処理負担を軽減することが出来る。また、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域とを所定時間における車両の移動量に応じて結合して走行路面として設定するので、路面勾配の検出も正確なものとなる。
また、本発明において、好ましくは、車両の移動量は、撮像された画像中の所定の静止物の位置関係を基準に決定される。
このように構成された本発明においては、車両の移動量を、静止物を利用した高精度な位置補正により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
このように構成された本発明においては、車両の移動量を、静止物を利用した高精度な位置補正により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
また、本発明において、好ましくは、車両の移動量は、撮像された画像中の所定の静止物をオプティカルフロー処理することにより決定される。
このように構成された本発明においては、車両の移動量を、オプティカルフロー処理により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
このように構成された本発明においては、車両の移動量を、オプティカルフロー処理により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
また、本発明において、好ましくは、特定領域設定手段は、所定距離を車両の速度に応じて変更する。
このように構成された本発明においては、車両の速度に応じて、車両制御及び画像処理に適した特定領域を設定することが出来る。
このように構成された本発明においては、車両の速度に応じて、車両制御及び画像処理に適した特定領域を設定することが出来る。
また、本発明において、好ましくは、平面定数は、車両からの距離d及び傾きnにより規定される。
このように構成された本発明においては、特定領域の距離及び傾きを簡易に精度良く検出することが出来る。
このように構成された本発明においては、特定領域の距離及び傾きを簡易に精度良く検出することが出来る。
また、本発明において、好ましくは、走行路面設定手段は、走行路面設定手段は、距離dが所定値以下及び/又は傾きnが所定値以上のとき車両の移動量に応じた特定領域と過去の特定領域との結合を中止する。
このように構成された本発明においては、車両の前方に車両が割り込むなどして距離dが所定値以下及び/又は傾きnが所定値以上となったとき、車両の移動量に応じた特定領域と過去の特定領域との結合を中止するので、不要な処理を中止して処理負担を軽減することが出来る。
このように構成された本発明においては、車両の前方に車両が割り込むなどして距離dが所定値以下及び/又は傾きnが所定値以上となったとき、車両の移動量に応じた特定領域と過去の特定領域との結合を中止するので、不要な処理を中止して処理負担を軽減することが出来る。
本発明による車両用走行路面検出装置によれば、簡易な処理により路面を正確に検出することが出来る。
以下、本発明の実施形態を添付図面を参照して説明する。
先ず、本発明の実施形態による車両用走行路面検出装置が適用される車両、道路領域検出処理の基本的なフロー、処理画像の例及び道路領域検出処理内容について説明する。図1は、本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図であり、図2は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートであり、図3は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図であり、図4は、射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。以下、Sは各ステップを示す。
先ず、本発明の実施形態による車両用走行路面検出装置が適用される車両、道路領域検出処理の基本的なフロー、処理画像の例及び道路領域検出処理内容について説明する。図1は、本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図であり、図2は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートであり、図3は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図であり、図4は、射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。以下、Sは各ステップを示す。
本発明の実施形態は、従来のように路面全体の自車両からの距離や面の傾きを求めるのではなく、例えば数十m先に所定の特定領域を設定してその特定領域の距離及び傾きを求め、車両が進行することにより路面が刻々と変化するとき、その特定領域の距離及び傾きの情報を時系列的に結合して、特定平面を含む特定平面より手前の路面の勾配を検出するものである。
先ず、図1に示すように、車両1は、フロントウィンドウ2の上方に設置されたステレオカメラ4と、ECU処理装置6とを有する。
図2に示すように、道路領域検出処理においては、S1において、ステレオカメラ4によりステレオ画像を取得する。得られた画像のうち、一方の画像を基準画像(図3(a))とし、他方の画像を参照画像(図3(b))とする。
次に、図2のS2おいて、ECU6は、前処理として、これらの基準画像及び参照画像を取り込み、両画像の輝度を一致させるためにLOGフィルタなどを用いてコントラスト調整を行う。
図2に示すように、道路領域検出処理においては、S1において、ステレオカメラ4によりステレオ画像を取得する。得られた画像のうち、一方の画像を基準画像(図3(a))とし、他方の画像を参照画像(図3(b))とする。
次に、図2のS2おいて、ECU6は、前処理として、これらの基準画像及び参照画像を取り込み、両画像の輝度を一致させるためにLOGフィルタなどを用いてコントラスト調整を行う。
次に、図2のS3に示すように、参照画像(図3(b))を基準画像(図3(a))の視点から見た画像に後述する(1)射影変換行列算出を用いて視点変換を行う。この処理では、道路平面に対する射影変換行列を動的に推定し、参照画像(図3(b))を射影変換して図3(c)に示すような射影変換画像を得る。このように得られた射影変換画像によれば、参照画像に含まれる高さのある物体が射影変換によって傾くことから、射影変換後の参照画像(図3(c))と基準画像(図3(a))との間で差分を求めることで、高さのない道路平面部分を抽出することが出来る。
即ち、先ず、図2のS4において、図3(d)に示すように、基準画像(図3(a))と射影変換後の参照画像(図3(c))の輝度値における差分画像を作成し、次に、図3(e)で黒く示される部分のように、輝度差がしきい値以下となる領域を求める。そして、図2のS5において、図3(f)に示すように、グレーで示すような道路領域における(2)道路平面の姿勢を算出することが出来る。
これらの処理は、後述するように、路面を複数の分割領域に分けたそれぞれの特定平面について行うことが出来る。
これらの処理は、後述するように、路面を複数の分割領域に分けたそれぞれの特定平面について行うことが出来る。
次に、本発明の実施形態による車両用走行路面検出装置において行われる、車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理についてより詳細に説明する。
1. (1)射影変換行列算出(図2のS3)
(1)射影変換行列算出式
参照画像Irを射影変換行列Hで変換した画像と基準画像Ibに対して、平面領域推定範囲内
での輝度差の2乗を評価関数e(H)として、これを最小にする射影変換行列
を求める。算出式は以下のようになる。
ただし、
は画像iの同次座標で表した位置
での輝度値、Hは画像間の平面部に対応した射影変換行列とする。
1. (1)射影変換行列算出(図2のS3)
(1)射影変換行列算出式
参照画像Irを射影変換行列Hで変換した画像と基準画像Ibに対して、平面領域推定範囲内
での輝度差の2乗を評価関数e(H)として、これを最小にする射影変換行列
を求める。算出式は以下のようになる。
ただし、
は画像iの同次座標で表した位置
での輝度値、Hは画像間の平面部に対応した射影変換行列とする。
(2)射影変換行列算出方法
式(1)を満たす射影変換行列を探索により求める。処理手順は以下のようになる。
(a)前時刻に推定した射影変換行列が存在する場合は、それを初期値とする。平面抽出処理のスタート時は前時刻の射影変換行列が存在しないため、水平な道路に停車した状態で撮影した画像から道路平面内の図4に示すような対応点(例えば、路面上で特定の輝度を有する白線、路面上の標識、マンホールなど)を設定し最小2乗法を用いて求めた射影変換行列H0を初期値とする。
式(1)を満たす射影変換行列を探索により求める。処理手順は以下のようになる。
(a)前時刻に推定した射影変換行列が存在する場合は、それを初期値とする。平面抽出処理のスタート時は前時刻の射影変換行列が存在しないため、水平な道路に停車した状態で撮影した画像から道路平面内の図4に示すような対応点(例えば、路面上で特定の輝度を有する白線、路面上の標識、マンホールなど)を設定し最小2乗法を用いて求めた射影変換行列H0を初期値とする。
(b)ステレオカメラ画像から射影変換行列を計算する。次に、射影変換行列は式(2)で表される。これを特異値分解して道路平面の法線ベクトルを求め、射影変換行列H0から求めた法線ベクトルn0と内積を計算して、ある範囲に収まり且つ平面領域が見つかるときはその射影変換行列は正しいと判断する。それ以外の時は、誤ったローカルミニマムに陥ったとして、次の射影変換行列H1を初期値として同様の計算を行う。それでも正しい射影変換行列が見つからない場合は、射影変換行列H2を初期値として同様の計算を行う。ただし、射影変換行列H1、H2は、射影変換行列H0の平面法線ベクトルn0をピッチ方向前後に4°傾けた法線ベクトルn1、n2と射影変換行列H0より求めたR、t、dを用いて式(2)より求めたものである。
ただし、ステレオカメラ間の回転行列をR、ベースラインベクトルをt、平面法線ベクトルをn、カメラと平面間距離をd、基準カメラと参照カメラの内部パラメータをA1、A2、定数項をkとする。定数項(k≠0)は、画像が得られた射影変換行列には定数倍の自由度が存在することを示す。
ただし、ステレオカメラ間の回転行列をR、ベースラインベクトルをt、平面法線ベクトルをn、カメラと平面間距離をd、基準カメラと参照カメラの内部パラメータをA1、A2、定数項をkとする。定数項(k≠0)は、画像が得られた射影変換行列には定数倍の自由度が存在することを示す。
(c)すべての射影変換行列(H0、H1、H2)を用いても正しい射影変換行列が求まらない場合は、その画像中に平面は存在しないと見なし、射影変換行列と計算領域をリセットし、ここで処理を終え、次の処理へと進む。
2. (2)道路平面の姿勢算出(図3のS5)
ステレオ画像間の平面に対する射影変換行列から、特異値分解を用いることでステレオカメラに対する平面の向きと位置を算出する。式(2)のカメラ内部パラメータA1、A2が既知であるとすると、式(3)のように射影変換行列H′を特異値分解できる。
t/d、nは以下の関係式から求めることができる。
ただし、σ1≠σ2≠σ3のとき、
(ε1,3=±1)・・・(5)
ε1,3を決定するために、2台のカメラが道路面を向いており平面が見えているという条件を加える。すなわち、nと
との内積が正になる。これで、解が2つとなる。次に、それぞれのnについて、求まったtと、実際のカメラ配置の大まかな並進ベクトルである
との内積を計算し、1に近いほうのtをnの解とする。
ステレオ画像間の平面に対する射影変換行列から、特異値分解を用いることでステレオカメラに対する平面の向きと位置を算出する。式(2)のカメラ内部パラメータA1、A2が既知であるとすると、式(3)のように射影変換行列H′を特異値分解できる。
t/d、nは以下の関係式から求めることができる。
ただし、σ1≠σ2≠σ3のとき、
(ε1,3=±1)・・・(5)
ε1,3を決定するために、2台のカメラが道路面を向いており平面が見えているという条件を加える。すなわち、nと
との内積が正になる。これで、解が2つとなる。次に、それぞれのnについて、求まったtと、実際のカメラ配置の大まかな並進ベクトルである
との内積を計算し、1に近いほうのtをnの解とする。
次に、dは得られたt/dの絶対値とカメラ間のベースライン長|t|から次の式より求めることができる。
以上のようにして、特定平面の平面定数として、車両1から特定平面までの距離d及び特定平面の姿勢(傾き/法線ベクトル)nを求めることが出来る。
以上のようにして、特定平面の平面定数として、車両1から特定平面までの距離d及び特定平面の姿勢(傾き/法線ベクトル)nを求めることが出来る。
次に、図5乃至図7により、本発明の実施形態による車両用走行路面検出装置の処理の概念を説明する。
図5は、車両の進行方向の前方に設定した画像処理を行う特定領域を示す概念図であり、図6は、図5のような特定領域(図6(a))と、所定時間後に車両に向けて移動した過去に設定した特定領域(B、C、D)(図6(b)、(c)、(d))と、により平面定数が決定された路面を説明するための概念図であり、図7は、それぞれ所定時間前において平面定数が決定された特定領域の位置(a、c、e)と、それらの過去の特定領域の位置が現在の位置に補正された位置(b、d、f)と、現在における特定領域の位置(g)とを示す概念図である。
図5は、車両の進行方向の前方に設定した画像処理を行う特定領域を示す概念図であり、図6は、図5のような特定領域(図6(a))と、所定時間後に車両に向けて移動した過去に設定した特定領域(B、C、D)(図6(b)、(c)、(d))と、により平面定数が決定された路面を説明するための概念図であり、図7は、それぞれ所定時間前において平面定数が決定された特定領域の位置(a、c、e)と、それらの過去の特定領域の位置が現在の位置に補正された位置(b、d、f)と、現在における特定領域の位置(g)とを示す概念図である。
先ず、図5に示すように、本発明の実施形態では、車両の進行方向前方の数十m先における所定の領域の路面を、特定領域(特定平面)として決定し、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、この特定領域の平面定数(距離d、傾き(法線ベクトル)n)を算出する。
図6(a)は、現在の路面状態を示し、特定領域をAとして示す。次に、図6(b)は、ΔT秒後の路面状態を示し、図6(a)で示す特定領域であった部分Aが車両側に近づいていることが分かる。図6(b)では、図6(a)と同様に、車両の進行方向前方の数十m先における所定の領域の路面を、特定領域(特定平面)Bとして決定し、その特定領域の平面定数(距離d、傾き(法線ベクトル)n)を算出する。
図6(c)は、2ΔT秒後の路面状態を示し、図6(a)及び図6(b)で示す特定領域であった部分A、Bが車両側に近づいていることが分かる。図6(c)では、図6(a)と同様に、車両の進行方向前方の数十m先における所定の領域の路面を、特定領域(特定平面)Cとして決定し、その特定領域の平面定数(距離d、傾き(法線ベクトル)n)を算出する。
図6(d)は、3ΔT秒後の路面状態を示し、図6(a)〜(c)で示す特定領域であった部分A、B、Cが車両側に近づいていることが分かる。図6(d)でも、図6(a)と同様に、車両の進行方向前方の数十m先における所定の領域の路面を、特定領域(特定平面)Dとして決定し、その特定領域の平面定数(距離d、傾き(法線ベクトル)n)を算出する。
図6(a)乃至図6(d)に示すように、路面は、静止物(例えば、電信柱や道路標識など)と共に車両側に近づいてくることが分かる。
図6(a)乃至図6(d)に示すように、路面は、静止物(例えば、電信柱や道路標識など)と共に車両側に近づいてくることが分かる。
今度は、図7に示すように、現在の路面状態A、B、C、Dにおける平面定数をどのように決定するかを説明する。
先ず、図7(a)に示すように、3ΔT秒前には、静止物b及び特定領域Aが存在する。そして、現在では、図7(b)に示すように、3ΔT秒後の現在では、静止物bの移動量をもとに、過去(図7(a))に特定した特定領域Aが所定距離だけ車両側に近づいていることが特定される。
先ず、図7(a)に示すように、3ΔT秒前には、静止物b及び特定領域Aが存在する。そして、現在では、図7(b)に示すように、3ΔT秒後の現在では、静止物bの移動量をもとに、過去(図7(a))に特定した特定領域Aが所定距離だけ車両側に近づいていることが特定される。
同様に、図7(c)に示すように、2ΔT秒前には、静止物b及び特定領域Bが存在する。そして、現在では、図7(d)に示すように、2ΔT秒後の現在では、静止物bの移動量をもとに、過去(図7(c))に特定した特定領域Bが所定距離だけ車両側に近づいていることが特定される。
同様に、図7(e)に示すように、ΔT秒前には、静止物b及び特定領域Cが存在する。そして、現在では、図7(f)に示すように、ΔT秒後の現在では、静止物bの移動量をもとに、過去(図7(e))に特定した特定領域Cが所定距離だけ車両側に近づいていることが特定される。
そして、現在では、図7(g)に示すように、特定領域Dが存在する。
そして、現在では、図7(g)に示すように、特定領域Dが存在する。
これらのことから、図7(h)に示すように、3ΔT秒前に平面定数が決定された領域A、2ΔT秒前に平面定数が決定された領域B、ΔT秒前に平面定数が決定された領域C、及び、現在の領域Dが、結合された状態として得られる。それぞれの領域A〜Dの平面定数は、それぞれ、3ΔT秒前、2ΔT秒前、ΔT秒前及び現在で特定されているので、車両の進行方向の広い領域の道路状態(勾配など)を把握することが出来るのである。
次に、図8乃至図10により、ECUによる処理内容をブロック図により説明する。図8は、本発明の実施形態による車両用走行路面検出装置における処理内容を示すブロック図であり、図9は、オプティカルフロー処理の内容を示す概念図であり、図10は、位置補正の処理内容を示すフローチャートである。
図8に示すように、ECU6は、ステレオカメラ4により撮像された路面画像を、ΔT毎に、画像記憶部(右)20及び画像記憶部(左)22で記憶する。路面領域判定部24では、これらの記憶された路面画像の情報を基に路面領域を判定する。この判定部24では、上述した車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理により射影変換を用いて判定する。なお、この路面領域判定部24では、予め設定された進行方向に対する路面の領域を路面領域として判定するか、或いは、白線や路肩を検出して路面領域として判定しても良い。
図8に示すように、ECU6は、ステレオカメラ4により撮像された路面画像を、ΔT毎に、画像記憶部(右)20及び画像記憶部(左)22で記憶する。路面領域判定部24では、これらの記憶された路面画像の情報を基に路面領域を判定する。この判定部24では、上述した車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理により射影変換を用いて判定する。なお、この路面領域判定部24では、予め設定された進行方向に対する路面の領域を路面領域として判定するか、或いは、白線や路肩を検出して路面領域として判定しても良い。
次に、画像処理領域(特定領域、特定平面)設定部26では、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により路面状態(距離d、傾きn)を特定する特定領域を数十m前方側に設定する。
次に、特定平面内対応点探索28では、ΔT毎に、左右のカメラ6のそれぞれの撮像画面における路面領域(路面領域判定部24で判定された路面)の互いの対応点を探索する。対応点とは、特定の輝度を有する部分であり、白線、路面上の標識、マンホールなどである(図4参照)。これらの対応点により射影変換を行うことが出来る。
次に、特定平面平面定数算出部30では、ΔT毎に、画像処理領域設定部26で設定した特定領域の平面定数である車両からの距離di、姿勢(傾き)niを算出する。ここでは、特定平面内対応点探索部28で設定された対応点の視差角により、距離及び傾きを算出する。より詳細には、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により行われる。
また、この特定平面平面定数算出部30では、車両と静止物bとの相対距離(xi、yi)が算出される。この特定平面平面定数算出部30で算出された特定平面の平面定数及び車両と静止物bとの相対距離は、特定平面平面定数記憶部32に、ΔT毎に記憶される。
また、この特定平面平面定数算出部30では、車両と静止物bとの相対距離(xi、yi)が算出される。この特定平面平面定数算出部30で算出された特定平面の平面定数及び車両と静止物bとの相対距離は、特定平面平面定数記憶部32に、ΔT毎に記憶される。
一方、特定平面の移動量(例えば、図6(a)〜(d)参照)を正確に算出するために、静止物検出部(オプティカルフロー処理部)34及び位置補正部36での処理を行う。
具体的には、静止物検出部(オプティカルフロー処理部)34では、図9に示すように、Δtにおける画像と、Δt+1における画像とをマッチング処理し、静止物bの移動ベクトルを算出する。
具体的には、静止物検出部(オプティカルフロー処理部)34では、図9に示すように、Δtにおける画像と、Δt+1における画像とをマッチング処理し、静止物bの移動ベクトルを算出する。
そして、位置補正部36では、図10に示すように、先ず、S1において静止物bの位置変化(オプティカルフローにより得られる移動ベクトル)により自車両の移動量を算出し、次に、S2において、自車両の移動量により、前フレーム画像(例えば、図7(a))が、今フレーム画像(例えば、図7(b))で表される領域を算出する。次に、S3において、マッチング処理により前フレーム画像と今フレーム画像との位置を特定する。
次に、走行路面勾配検出部38では、特定平面平面定数算出部30からの現在の特定平面の平面定数(例えば、図7(g))の情報と、特定平面平面定数記憶部32に記憶された過去の特定平面(例えば、図7(a)、(c)、(e))の情報を位置補正部36により移動量が補正された情報(例えば、図7(b)、(d)、(f))により、図7(h)で示すような、車両前方の広い領域の道路状態(距離d、傾きn)を検出するようになっている。
そして、この検出された路面勾配の情報を利用して、安全システム8、変速システム(AT)9、エンジンシステム(ENG)10の制御が行われる。
そして、この検出された路面勾配の情報を利用して、安全システム8、変速システム(AT)9、エンジンシステム(ENG)10の制御が行われる。
次に、図11により、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートについて説明する。図11は、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートである。Sは、各ステップを示す。
図11に示すように、S1では、各種パラメータのイニシャライズ処置が行われる。ここでは、i=0とされる。次に、S2において、ステレオカメラ4により撮像されたデータが画像記憶部20、22に記憶される。次に、S3において、路面領域判定部24により、走行路面となる対象領域が抽出され、さらに、S4において、画像処理領域設定部28で画像処理する特定領域を設定する。この特定領域は、車速に応じて、例えば、高速時には遠方に設定し、低速時には近方に設定するようにしても良い。また、特定領域の広さを遠方時には小さく、近方時には広くするようにしても良い。このように、特定領域までの距離を車両の速度に応じて変更するので、車両の速度に応じて、車両制御及び画像処理に適した特定領域を設定することが出来る。また、特定領域の広さを遠方時には小さく、近方時には広くすることで、車両制御及び画像処理に適した特定領域を設定することが出来る。
図11に示すように、S1では、各種パラメータのイニシャライズ処置が行われる。ここでは、i=0とされる。次に、S2において、ステレオカメラ4により撮像されたデータが画像記憶部20、22に記憶される。次に、S3において、路面領域判定部24により、走行路面となる対象領域が抽出され、さらに、S4において、画像処理領域設定部28で画像処理する特定領域を設定する。この特定領域は、車速に応じて、例えば、高速時には遠方に設定し、低速時には近方に設定するようにしても良い。また、特定領域の広さを遠方時には小さく、近方時には広くするようにしても良い。このように、特定領域までの距離を車両の速度に応じて変更するので、車両の速度に応じて、車両制御及び画像処理に適した特定領域を設定することが出来る。また、特定領域の広さを遠方時には小さく、近方時には広くすることで、車両制御及び画像処理に適した特定領域を設定することが出来る。
次に、S5において、静止物検出部(オプティカルフロー処理部)34により、静止物bの抽出及びオプティカルフローによる移動ベクトルの算出が行われる。
次に、S6において、特定平面平面定数算出部34により、特定平面Ai、jの平面データ(位置di、j、傾きni、j)が検出されると共に、特定平面平面定数記憶部2に記憶される。
次に、S6において、特定平面平面定数算出部34により、特定平面Ai、jの平面データ(位置di、j、傾きni、j)が検出されると共に、特定平面平面定数記憶部2に記憶される。
次に、S7において、特定平面の距離diが所定の小さい値(例えば、数m)より小さいか否か、及び、特定平面の距離niが所定の大きな値(例えば、通常の道路ではあり得ない傾き)より大きいか否かが判定される。そして、特定平面の距離diが所定の小さい値より小さい場合及び/又は特定平面の距離niが所定の大きな値より大きい場合には、処理を中止してS1に戻る。このような処理により、例えば、自車両の前方に先行車両が割り込んで来た場合などに、不要な処理を中止して処理負担を小さくすることが出来る。
次に、S8において、特定平面平面定数記憶部32に記憶された、各時刻Ti−1、Ti−2、T0における特定平面平面定数を読み込む。次に、S9において、S8で読み込まれた平面定数を、静止物検出部(オプティカルフロー処理部)34及び位置補正部36により処理された静止物bの移動量(自車両との相対距離((xi、yi))で表される)により、補正する。
次に、S10において、S8及びS9の処理で得られたデータにより、路面勾配(例えば、図7(h))を算出する。
次に、S10において、S8及びS9の処理で得られたデータにより、路面勾配(例えば、図7(h))を算出する。
次に、S10において、特定領域の平面Aの時刻Tiでの平面定数(位置di、ni)及び静止物bとの相対距離(xi、yi)を、特定平面平面定数記憶部32に記憶させる。次に、S11において、i=i+1として次の処理に進む。
以上、本発明の実施形態によれば、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出するために、走行路面を撮像するステレオカメラ4により撮像された路面画像から、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定し、この特定領域において、ステレオカメラ4で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出している。そして、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域と、を所定時間における車両の移動量に応じて結合して走行路面として設定するようにしている。
従って、撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定し、この特定領域において平面定数を算出し、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域とを所定時間における車両の移動量に応じて結合して走行路面として設定するので、例えば、数十m先のような特定領域の画像処理のみで、特定領域から車両直前までの路面の勾配を検出することが出来、処理負担を軽減することが出来る。また、特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域とを所定時間における車両の移動量に応じて結合して走行路面として設定するので、路面勾配の検出も正確なものとなる。
また、本実施形態においては、車両の移動量は、撮像された画像中の所定の静止物の位置関係を基準に決定されるので、車両の移動量を、静止物を利用した高精度な位置補正により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
さらに、車両の移動量は、撮像された画像中の所定の静止物をオプティカルフロー処理することにより決定されるので、車両の移動量を、オプティカルフロー処理により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
さらに、車両の移動量は、撮像された画像中の所定の静止物をオプティカルフロー処理することにより決定されるので、車両の移動量を、オプティカルフロー処理により決定することが出来るので、より精度良く路面勾配を検出することが出来る。
1 車両
4 ステレオカメラ
6 ECU
4 ステレオカメラ
6 ECU
Claims (6)
- 走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、
走行路面を撮像する第1撮像手段と、
この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、
撮像された路面の車両から所定距離離れた特定の領域を特定領域として設定する特定領域設定手段と、
この特定領域において、上記第1撮像手段及び上記第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により上記特定平面を規定する平面定数を算出する特定平面定数算出手段と、
上記特定領域と、所定時間後におけるこの特定領域より手前の過去に設定された少なくとも1つの特定領域と、を上記所定時間における車両の移動量に応じて結合して走行路面として設定する走行路面設定手段と、
を有することを特徴とする車両用走行路面検出装置。 - 上記車両の移動量は、撮像された画像中の所定の静止物の位置関係を基準に決定される請求項1に記載の車両用走行路面検出装置。
- 上記車両の移動量は、撮像された画像中の所定の静止物をオプティカルフロー処理することにより決定される請求項2に記載の車両用走行路面検出装置。
- 上記特定領域設定手段は、上記所定距離を車両の速度に応じて変更する請求項1乃至3に記載の車両用走行路面検出装置。
- 上記平面定数は、車両からの距離d及び傾きnにより規定される請求項1乃至4に記載の車両用走行路面検出装置。
- 上記走行路面設定手段は、上記所定値以下及び/又は傾きnが所定値以上のとき上記車両の移動量に応じた特定領域と過去の特定領域との結合を中止する請求項5に記載の車両用走行路面検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007318567A JP2009139324A (ja) | 2007-12-10 | 2007-12-10 | 車両用走行路面検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007318567A JP2009139324A (ja) | 2007-12-10 | 2007-12-10 | 車両用走行路面検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009139324A true JP2009139324A (ja) | 2009-06-25 |
Family
ID=40870059
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007318567A Pending JP2009139324A (ja) | 2007-12-10 | 2007-12-10 | 車両用走行路面検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009139324A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011106877A (ja) * | 2009-11-13 | 2011-06-02 | Toyota Motor Corp | 道路勾配推定装置 |
JP2012007922A (ja) * | 2010-06-23 | 2012-01-12 | Nec Corp | 道路構造測定方法および道路面測定装置 |
KR20140042441A (ko) * | 2012-09-28 | 2014-04-07 | 현대모비스 주식회사 | 경사 예측 방법 및 장치 |
WO2014073322A1 (ja) * | 2012-11-08 | 2014-05-15 | 日立オートモティブシステムズ株式会社 | 物体検出装置及び物体検出方法 |
KR101512557B1 (ko) * | 2013-07-05 | 2015-04-22 | 현대다이모스(주) | 영상정보를 이용한 4wd 차량의 주행제어장치 및 방법 |
JP2016087222A (ja) * | 2014-11-07 | 2016-05-23 | コニカミノルタ株式会社 | 画像処理装置及びプログラム |
CN114782447A (zh) * | 2022-06-22 | 2022-07-22 | 小米汽车科技有限公司 | 路面检测方法、装置、车辆、存储介质及芯片 |
-
2007
- 2007-12-10 JP JP2007318567A patent/JP2009139324A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011106877A (ja) * | 2009-11-13 | 2011-06-02 | Toyota Motor Corp | 道路勾配推定装置 |
JP2012007922A (ja) * | 2010-06-23 | 2012-01-12 | Nec Corp | 道路構造測定方法および道路面測定装置 |
KR20140042441A (ko) * | 2012-09-28 | 2014-04-07 | 현대모비스 주식회사 | 경사 예측 방법 및 장치 |
KR101987635B1 (ko) | 2012-09-28 | 2019-06-11 | 현대모비스 주식회사 | 경사 예측 방법 및 장치 |
WO2014073322A1 (ja) * | 2012-11-08 | 2014-05-15 | 日立オートモティブシステムズ株式会社 | 物体検出装置及び物体検出方法 |
US9424462B2 (en) | 2012-11-08 | 2016-08-23 | Hitachi Automotive Systems, Ltd. | Object detection device and object detection method |
KR101512557B1 (ko) * | 2013-07-05 | 2015-04-22 | 현대다이모스(주) | 영상정보를 이용한 4wd 차량의 주행제어장치 및 방법 |
JP2016087222A (ja) * | 2014-11-07 | 2016-05-23 | コニカミノルタ株式会社 | 画像処理装置及びプログラム |
CN114782447A (zh) * | 2022-06-22 | 2022-07-22 | 小米汽车科技有限公司 | 路面检测方法、装置、车辆、存储介质及芯片 |
CN114782447B (zh) * | 2022-06-22 | 2022-09-09 | 小米汽车科技有限公司 | 路面检测方法、装置、车辆、存储介质及芯片 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110567469B (zh) | 视觉定位方法、装置、电子设备及系统 | |
US10620000B2 (en) | Calibration apparatus, calibration method, and calibration program | |
JP4814669B2 (ja) | 3次元座標取得装置 | |
Oliveira et al. | Multimodal inverse perspective mapping | |
JP4919036B2 (ja) | 移動物体認識装置 | |
JP5588812B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
EP2757527B1 (en) | System and method for distorted camera image correction | |
US20160180531A1 (en) | Method To Determine Distance Of An Object From An Automated Vehicle With A Monocular Device | |
JP4899424B2 (ja) | 物体検出装置 | |
JP7107931B2 (ja) | 移動オブジェクトのレンジを推定する方法および装置 | |
JP2008182652A (ja) | カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法 | |
JP2009139324A (ja) | 車両用走行路面検出装置 | |
JP2006252473A (ja) | 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム | |
JP6552448B2 (ja) | 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム | |
JP2009139323A (ja) | 車両用走行路面検出装置 | |
Labayrade et al. | A reliable and robust lane detection system based on the parallel use of three algorithms for driving safety assistance | |
JP4052291B2 (ja) | 車両用画像処理装置 | |
JP2018048949A (ja) | 物体識別装置 | |
CN110053625A (zh) | 距离计算装置和车辆控制装置 | |
US11619495B2 (en) | Position estimating apparatus and position estimating method | |
JP2000293693A (ja) | 障害物検出方法および装置 | |
JP2011209070A (ja) | 画像処理装置 | |
US7599546B2 (en) | Image information processing system, image information processing method, image information processing program, and automobile | |
JP3985610B2 (ja) | 車両用走行路認識装置 | |
JP5330341B2 (ja) | 車載カメラを用いた測距装置 |