[go: up one dir, main page]

JP5188452B2 - 道路形状認識装置 - Google Patents

道路形状認識装置 Download PDF

Info

Publication number
JP5188452B2
JP5188452B2 JP2009123742A JP2009123742A JP5188452B2 JP 5188452 B2 JP5188452 B2 JP 5188452B2 JP 2009123742 A JP2009123742 A JP 2009123742A JP 2009123742 A JP2009123742 A JP 2009123742A JP 5188452 B2 JP5188452 B2 JP 5188452B2
Authority
JP
Japan
Prior art keywords
distance
distance data
road
group
straight line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009123742A
Other languages
English (en)
Other versions
JP2010271964A (ja
Inventor
徹 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2009123742A priority Critical patent/JP5188452B2/ja
Priority to US12/782,309 priority patent/US8340896B2/en
Priority to DE102010020867.1A priority patent/DE102010020867B4/de
Publication of JP2010271964A publication Critical patent/JP2010271964A/ja
Application granted granted Critical
Publication of JP5188452B2 publication Critical patent/JP5188452B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/12Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、道路形状認識装置に係り、特に、距離高さ検出手段により得られた距離データに基づいて道路形状モデルを生成する道路形状認識装置に関する。
近年、CCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラ等の撮像装置やレーザレーダ測距装置を車両に搭載し、撮像手段で撮像した画像の画像解析やレーザレーダ測距装置から発射された電波やレーザビームの反射光解析等により、それらの装置を搭載した車両が走行する道路形状を認識する道路形状認識装置の開発が進められている(例えば特許文献1〜3等参照)。
特許文献1では、ステレオカメラからなる撮像装置やレーザレーダ測距装置を用い、それらの装置前方の対象物までの実空間上の距離データを、三角測量の原理に基づいて或いはレーザビームの反射光解析等により検出する。そして、それらの距離データのうち、前回のサンプリング周期で検出された道路形状のモデルに基づいて三次元的に、或いはそれを二次元的に投影して設定されるウインドウ内に存在する距離データを、自車両前方に設定した各区間ごとに直線近似して、水平方向および垂直方向の道路形状のモデルを算出する技術が開示されている。
また、特許文献2では、ステレオカメラからなる撮像装置で撮像された一対の画像のうち、一方の画像の各画素の輝度に基づいて画像中から自車両の側方の車線に対応する各画素を検出し、検出した車線に対応する各画素の距離データを、自車両前方に設定した各区間ごとに直線近似して、水平方向および垂直方向の道路形状のモデルを算出する技術が開示されている。なお、車線とは、追い越し禁止線や路側帯と車道とを区画する区画線等の道路面上に標示された連続線や破線をいう。
さらに、特許文献3では、道路形状を、ステレオカメラからなる撮像装置を用いて、水平方向すなわち走行路がカーブする方向では道路形状を二次関数で近似し、垂直方向についてはエンジン出力と自車両の走行時の加速度から道路面の傾斜角を演算により算出することが記載されている。
特開平06−266828号公報 特開2001−092970号公報 特開2001−227944号公報
ところで、道路形状のうち、特に垂直方向(高さ方向)の形状については、上記の特許文献2等に記載されているように、検出した車線に対応する各画素の距離データを自車両前方の区間ごとに直線近似してモデル化することも可能である。しかし、自車両前方の領域を多数の区間に分割して区間ごとに直線近似を行うと処理が重くなる虞がある。
そこで、実際には、処理を簡略化して軽くするために、自車両前方の領域を、自車両から固定された距離を境界として自車両に近い側と遠い側との2つの区間に分割し、この2つの区間について、撮像された画像の画像解析やレーザレーダ測距装置を用いた反射光解析等により得られた対象物までの距離データをそれぞれ直線近似して道路形状のモデルを算出するように構成されている場合も多い。
例えば、自車両が走行している道路が、図18(A)に示すように、遠方に上り坂Aがあるような道路である場合、高さ方向(垂直方向)にY軸、距離方向(自車両の前方方向)にZ軸をとると、各距離データは図18(B)に示すようにZ−Y平面上にプロットされる。そして、例えばZ=0の位置にある自車両から固定された距離Zの位置を境界として分割された区間Rと区間Rで、各距離データが図18(B)に示すように区間R、Rごとにそれぞれ直線近似されて道路形状のモデルが生成される。
その際、区間R、Rでは、各距離データが例えば近似直線L、Lで近似されるが、遠方の上り坂Aに対応する距離データが近似直線Lより上方に存在することになる。そのため、上り坂Aに対応する距離データが立体物を検出するための条件を満たす状態となり、上り坂Aの部分を道路面上に存在する立体物として誤検出してしまう場合があった。
また、自車両が走行している道路が、図19(A)に示すように、遠方に下り坂Bがあるような道路である場合、図18(B)と同様に各距離データをプロットすると、各距離データは図19(B)に示すようにZ−Y平面上にプロットされる。そして、距離Zを境界として分割された区間Rと区間Rごとに、各距離データがそれぞれ各近似直線L、Lで近似されて道路形状のモデルが生成される。
その際、図19(A)に示すように、下り坂Bの道路面上を先行車両Vahが走行しているような場合、図19(B)に示すように、先行車両Vahの背面部分の距離データが下り坂Bの距離データの上方側に検出される。しかし、図19(B)に示すように、下り坂Bの手前の平坦な道路面の延長線上に先行車両Vahの背面が存在するような状況では、区間Rで直線近似を行う際、先行車両Vahの距離データと道路面の距離データとを区別できずに直線近似してしまい、先行車両Vahを道路面として誤検出してしまう場合があった。
このような立体物や先行車両Vahの誤検出を生じると、例えばその情報に基づいて自車両の自動制御等を行う場合にドライバの意思とは異なる自動制御が実行される虞がある。また、図18(B)や図19(B)に示したように、自車両から固定された距離Zを境界として自車両前方の領域を区間R、Rに分割して直線近似する場合、近似直線L、Lすなわち道路形状モデルは、実際の道路形状を必ずしも的確に表現したものとならないという問題もあった。
この問題を解決するためには、自車両前方の領域を分割する境界の位置(上記の例では距離Zの位置)を固定せずに可変として、分割された区間R、Rごとにそれぞれ近似直線L、Lを算出し、最も適切な境界の位置や近似直線L、Lを探索することが考えられるが、その処理に時間を要してしまうと自車両の自動制御技術等に応用することが困難になる。
本発明は、このような事情に鑑みてなされたものであり、実際の道路形状を的確に検出することが可能な道路形状認識装置を提供することを目的とする。また、道路形状の検出を高速に行うことが可能な道路形状認識装置を提供することをも目的とする。
前記の問題を解決するために、第1の発明は、道路形状認識装置において、
自車両が走行する道路面について少なくとも実空間上の距離と高さの情報を有する距離データを互いに異なる複数の地点で検出する距離高さ検出手段と、
前記実空間上の距離に基づいて、前記複数の距離データを、前記自車両に近い側の群と遠い側の群とに分割し、2つの前記群の境界部分の前記距離データを一方の前記群から他方の前記群に移し替えるごとに、前記群ごとに前記距離データを近似する近似直線をそれぞれ算出する近似直線算出手段と、
前記距離データを移し替えた前記群ごとに、それぞれの前記近似直線に基づく統計値を算出する統計値算出手段と、
算出された前記2つの群の前記各統計値に基づいて、前記2つの群の前記近似直線の組み合わせの中から1つを選択し、選択した前記近似直線の組み合わせを用いて道路形状モデルを少なくとも距離−高さ平面上の形状として生成する道路形状モデル生成手段と、
を備えることを特徴とする。
第2の発明は、第1の発明の道路形状認識装置において、
前記近似直線算出手段は、最小二乗法により、前記群ごとに前記距離データをそれぞれ近似する前記近似直線を算出し、
前記統計値算出手段は、前記統計値として、前記各群に属する前記各距離データの前記近似直線に対する分散または標準偏差を前記群ごとに算出し、
前記道路形状モデル生成手段は、算出された前記2つの群の前記各統計値の合計値が最小となる前記近似直線の組み合わせを選択することを特徴とする。
第3の発明は、第2の発明の道路形状認識装置において、前記近似直線算出手段は、前記距離データの実空間上の距離をZ、高さをYと表し、移し替えられる前記境界部分の前記距離データの実空間上の距離をZa、高さをYaと表し、前記各群ごとの総和をΣを用いて表す場合、当該境界部分の距離データを一方の前記群から他方の前記群に移し替えるごとに、前記一方の群におけるΣZ、ΣY、ΣZ、ΣZYからそれぞれZa、Ya、Za、ZaYaを減算し、前記他方の群におけるΣZ、ΣY、ΣZ、ΣZYにそれぞれZa、Ya、Za、ZaYaを加算して、前記最小二乗法により、前記群ごとに前記距離データを近似する前記近似直線をそれぞれ算出することを特徴とする。
第4の発明は、第1から第3のいずれかの発明の道路形状認識装置において、前記近似直線算出手段は、前記距離高さ検出手段で検出された前記複数の距離データのうち、過去のサンプリング周期において検出された前記道路形状モデルに基づいてその後の自車両の挙動から推定される今回のサンプリング周期における道路形状モデルの位置から所定の範囲内に存在する複数の距離データを、前記近似直線で近似する対象とすることを特徴とする。
第5の発明は、第1から第4のいずれかの発明の道路形状認識装置において、前記道路形状モデル生成手段は、前記選択した前記2つの群の前記各近似直線の交点部分を、前記各近似直線を接線とする緩和曲線で置換して、生成した前記道路形状モデルを補正することを特徴とする。
第6の発明は、第1から第5のいずれかの発明の道路形状認識装置において、
自車両側方に標示された車線を含む道路面上の標示に対応する路面標示点を検出する路面標示検出手段を備え、
前記近似直線算出手段は、前記路面標示検出手段により検出された前記路面標示点に対応し、前記距離高さ検出手段により少なくとも実空間上の距離と高さが検出された前記複数の距離データを対象として、前記群ごとに前記近似直線を算出する算出処理を行うことを特徴とする。
第7の発明は、第6の発明の道路形状認識装置において、
前記距離高さ検出手段は、撮像手段で撮像された一対の画像に対するステレオマッチングにより前記一対の画像のうち少なくとも一方の画像の画素ごとに前記距離データを検出し、
前記路面標示検出手段は、前記一方の画像の画素の輝度に基づいて前記路面標示点を検出し、
前記近似直線算出手段は、前記路面標示検出手段が検出した前記路面標示点に対応する前記距離データを、当該路面標示点を含む当該路面標示点の近傍の画素の輝度に基づいて修正し、修正した複数の距離データを、前記近似直線で近似する対象とすることを特徴とする。
第1の発明によれば、自車両が走行する道路面について実空間上の距離と高さの情報を有する距離データを互いに異なる複数の地点で検出し、これらの距離データを、自車両に近い側の群と遠い側の群に分割し、境界を可変として移動させながら群ごとに距離データを近似する近似直線をそれぞれ算出する。そして、群ごとに、それぞれの近似直線に基づく統計値を算出し、その統計値に基づいて近似直線の組み合わせを選択して、道路形状モデルを生成する。
そのため、実際の道路設計においては、道路の距離−高さ平面上の形状(縦断線形)は2本の直線と緩和曲線により構成されるが、群の境界を可変させながら2本の近似直線の適切な組み合わせを探索し、その実際の道路設計に即して、道路形状モデルを2本の近似直線の組み合わせ(或いはそれらと緩和曲線との組み合わせ)で的確に生成することが可能となり、道路形状を的確に認識することが可能となる。
第2の発明によれば、前記発明の効果に加え、最小二乗法により近似直線を算出し、統計値として各群に属する各距離データの近似直線に対する分散や標準偏差を群ごとに算出して、その合計値が最小となる近似直線の組み合わせを選択することで、的確かつ高速に近似直線の組み合わせを選択することが可能となり、道路形状の認識を的確かつ高速に行うことが可能となる。
第3の発明によれば、最小二乗法を用いて近似直線を算出する際に、各群の境界部分の距離データDaを一方の群から他方の群に移し替えるごとに、距離データDaに対応するZa等を、一方の群における各総和ΣZ等から減算し、他方の群における各総和ΣZ等に加算するだけで近似直線の各式を算出することが可能となるため、近似直線の算出を容易かつ高速に行うことが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
第4の発明によれば、近似直線の算出の対象とする距離データを、過去のサンプリング周期で生成された道路形状モデルとその後の自車両の挙動から推定される今回のサンプリング周期における道路形状モデルの位置から所定の範囲内に存在する距離データに限定することで、先行車両等の道路面の上方に存在する立体物を排除した状態で近似直線の算出を行うことが可能となる。
そのため、それらの近似直線から生成される道路形状モデルを的確に現実の道路面の形状に即したものとすることが可能となるとともに、距離データの探索範囲が限定されるため、近似直線の算出処理をより高速に行うことが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
第5の発明によれば、実際の道路設計においても、道路の距離−高さ平面上の形状(縦断線形)が2本の直線と緩和曲線により構成されるため、実際の道路設計に即して、道路形状モデルを2本の近似直線と緩和曲線との組み合わせで的確に生成することが可能となる。そのため、道路形状を的確に認識することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
第6の発明によれば、自車両の側方の車線や数字、矢印等の道路面上の標示に対応する路面標示点を検出し、各路面標示点に対応する各距離データを対象として道路形状モデルを生成することで、近似直線の算出の対象とする距離データから、先行車両等の道路面の上方に存在する立体物に対応する距離データを排除した状態で近似直線の算出を行うことが可能となる。そのため、それらの近似直線から生成される道路形状モデルをより的確に現実の道路面の形状に即したものとすることが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
第7の発明によれば、道路面上の標示に対するステレオマッチングでは、同じ基準画素ブロックに含まれる各路面標示点の距離データにおける実空間上の距離が同じ値になり、実際には存在する距離の差が検出されないことによる不具合が生じる虞がある(後述する図14参照)。
しかし、路面標示点に対応する距離データを、当該路面標示点を含むその近傍の画素の輝度に基づいて修正することで、同じ基準画素ブロックに含まれる各路面標示点のうち、一方の画像上より上側に撮像されているほど実空間上の距離が大きくなるといった実際の状況に適合するように、各路面標示点の距離データを修正することが可能となる。
そのため、ステレオマッチングを用いた場合でも、道路形状モデルをより的確に現実の道路面の形状に即した形状で生成することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
第1の実施形態に係る道路形状認識装置の構成を示すブロック図である。 撮像手段で撮像される一方の画像の例を示す図である。 作成された距離画像の例を示す図である。 (A)図18(A)の道路に対する各距離データの実空間上の距離と高さをプロットしたZ−Y平面を表す図であり、(B)その2番目に遠い距離データと3番目に遠い距離データとの間に設定された境界等を表す図である。 移動され3番目に遠い距離データと4番目に遠い距離データとの間に設定された境界等を表す図である。 選択された近似直線の組み合わせや境界、交点等を表す図である。 各近似直線を接線とする緩和曲線である円弧を表す図である。 図19(A)の道路に対して選択された近似直線の組み合わせや境界、交点等を表す図である。 第2の実施形態に係る道路形状認識装置の構成を示すブロック図である。 基準画像の水平ライン上での探索および検出された路面標示点の例を説明する図である。 基準画像上に検出された各立体物に対応する画像領域を表す図である。 ステレオマッチングの原理を説明する図である。 図10の右下隅の車線のエッジ部分の拡大図であり、基準画素ブロックや検出された路面標示点を表す図である。 同じ基準画素ブロックの各路面標示点の距離データをZ−Y平面上にプロットするとY軸方向に並ぶことを表す図である。 (A)〜(C)基準画像上に撮像されているシーンと基準画素ブロックとの相対的な位置関係をずらした例を示す図である。 (A)〜(C)基準画像上に撮像されているシーンと基準画素ブロックとの相対的な位置関係をずらした例を示す図である。 (A)基準画像上で水平ラインj1、j2の位置に並ぶ複数の基準画素ブロック等を表す図であり、(B)は水平ラインj1上の各画素の、(C)は水平ラインj2上の各画素のエッジ強度の分布等を表す図である。 (A)遠方に上り坂がある道路を表す図であり、(B)区間の境界を固定して(A)の道路形状を直線近似した道路形状モデルを表す図である。 (A)遠方の下り坂を先行車両が走行している道路を表す図であり、(B)区間の境界を固定して(A)の道路形状を直線近似した道路形状モデルを表す図である。
以下、本発明に係る道路形状認識装置の実施の形態について、図面を参照して説明する。
[第1の実施の形態]
第1の実施形態に係る道路形状認識装置1は、図1に示すように、撮像手段2や距離高さ検出手段6、近似直線算出手段10や統計値算出手段11、道路形状モデル生成手段12等を有する処理部9等を備えて構成されている。
なお、距離高さ検出手段6等を含む処理部9の上流側の構成については、本願出願人により先に提出された前記特許文献1や特許文献2等に詳述されており、構成の詳細な説明はそれらの公報に委ねる。以下、簡単に説明する。
本実施形態では、撮像手段2は、互いに同期が取られたCCDやCMOSセンサ等のイメージセンサがそれぞれ内蔵され、例えば車両のルームミラー近傍に車幅方向に所定の間隔をあけて取り付けられた運転者側のメインカメラ2aと助手席側のサブカメラ2bとからなるステレオカメラであり、所定のサンプリング周期で撮像して、一対の画像を出力するように構成されている。
なお、以下では、メインカメラ2aで撮像される図2に示すような一方の画像を基準画像T、サブカメラ2bで撮像される図示しない画像を比較画像Tcという。また、以下では、近似直線算出手段10等における処理を基準画像Tを対象として行う場合について説明するが、比較画像Tcを対象として行ったり、両方の画像T、Tcをそれぞれ処理するように構成することも可能である。
また、本実施形態では、撮像手段2のメインカメラ2aおよびサブカメラ2bでは、それぞれモノクロの画像データが取得されるようになっているが、RGB値等で表されるカラーの画像データを撮像する撮像手段を用いることも可能であり、その場合についても本発明が適用される。
メインカメラ2a等で基準画像T等を撮像する場合、例えば図2に示すように、基準画像T等の各水平ラインjの最も左側の画素から撮像を開始し、その後、順に右方向に走査していく。また、走査する水平ラインjを最も下側のラインから順に上方に切り替えながら撮像するようにして、各画素ごとに撮像された順に基準画像T等の各画素の輝度の画像データがそれぞれ変換手段3に順次送信されるようになっている。
変換手段3は、一対のA/Dコンバータ3a、3bで構成されており、撮像手段2のメインカメラ2aやサブカメラ2bで撮像された基準画像T等の画素ごとの各画像データをそれぞれ例えば256階調のグレースケールの輝度としてのデジタル値の画像データに順次変換して画像補正部4に出力するようになっている。
また、画像補正部4では、各画像データに対してずれやノイズの除去、輝度の補正等の画像補正をそれぞれ順次行い、各画像データを画像データメモリ5に順次格納するとともに、処理部9に順次送信するようになっている。また、画像補正部4は、画像補正した基準画像Tと比較画像Tcの各画像データを距離高さ検出手段6にも順次送信するようになっている。
距離高さ検出手段6は、イメージプロセッサ7を備えており、自車両が走行する道路面を含む対象物について、少なくとも実空間上の距離Zと高さYの情報を有する複数の距離データを互いに異なる複数の地点で検出するようになっている。
距離高さ検出手段6のイメージプロセッサ7では、基準画像Tと比較画像Tcの各画像データに対して順次ステレオマッチングやフィルタリング処理を施して、基準画像Tの画素ごとに視差dpを順次算出するようになっている。ステレオマッチングでは、図示を省略するが、基準画像T上の例えば4×4画素等の所定の画素数の基準画素ブロックと輝度パターンが類似する画素ブロックを比較画像Tc中のエピポーラライン上に特定し、それらの基準画像Tおよび比較画像Tc上の位置から基準画像Tの画素ごとに視差dpが順次算出される。
なお、以下、このようにして基準画像Tの各画素に視差dpを割り当てた画像(図3参照)を距離画像Tzという。また、実空間上で、上記の一対のカメラ2a、2bの中央真下の道路面上の点を原点とし、自車両の車幅方向(すなわち水平方向)をX軸方向、車高方向(すなわち高さ方向)をY軸方向、車長方向(すなわち距離方向)をZ軸方向とした場合、実空間上の点(X,Y,Z)と、距離画像Tz上の画素の座標(i,j)および視差dpとは、下記(1)〜(3)式で表される三角測量の原理に基づく座標変換により一意に対応付けることができる。
X=CD/2+Z×PW×(i−IV) …(1)
Y=CH+Z×PW×(j−JV) …(2)
Z=CD/(PW×(dp−DP)) …(3)
上記各式において、CDは一対のカメラの間隔、PWは1画素当たりの視野角、CHは一対のカメラの取り付け高さ、IVおよびJVは自車両正面の無限遠点の距離画像上のi座標およびj座標、DPは消失点視差を表す。
また、フィルタリング処理では、基準画像Tの基準画素ブロックと比較画像Tcの画素ブロックとの輝度パターンの類似性の度合いが低い場合には算出した視差dpを無効と出力するようになっており、イメージプロセッサ7は、有効とされた視差dpのみを距離データメモリ8に順次格納させるとともに、処理部9に順次送信するようになっている。
なお、本実施形態では、上記のように、撮像手段2としてメインカメラ2aとサブカメラ2bとを備え、距離高さ検出手段6は、それらで撮像された基準画像Tおよび比較画像Tcに対するステレオマッチングにより基準画像Tの各画素について実空間上の距離Z(すなわち視差dp)を算出するように構成されているが、これに限定されず、撮像手段2は例えば単眼のカメラのように1枚の画像Tのみを出力するものであってもよい。
また、本実施形態では、前述したように、距離画像Tzの各画素には視差dpが割り当てられ、必要に応じて、視差dpから上記(3)式に従って実空間上の距離Zが算出され、また、距離画像Tz上の画素の座標(i,j)と実空間上の距離Zから上記(1)、(2)式に従って実空間上の高さYや水平方向の位置Xが算出されて用いられるようになっている。しかし、各画素に、算出した(X,Y,Z)を距離データDとして予め割り当てて距離画像Tzを形成するように構成することも可能である。
さらに、距離高さ検出手段6は、自車両が走行する道路面を含む対象物について少なくとも実空間上の距離Zと高さYの情報を有する距離データDを測定したり算出したりして互いに異なる複数の地点で検出することができる機能を有していればよい。すなわち、例えば前述したレーザレーダ測距装置のように、自車両前方にレーザビームを照射してその反射光の情報に基づいて対象物の距離データDを測定する装置等であってもよく、検出の手法は特定の手法に限定されない。
処理部9は、本実施形態では、図示しないCPU(Central Processing Unit)やROM(Read Only Memory)、RAM(Random Access Memory)、入出力インターフェース等がバスに接続されたコンピュータで構成されている。処理部9は、近似直線算出手段10や統計値算出手段11、道路形状モデル生成手段12を備えている。
なお、処理部9において先行車両検出等の他の処理を行うように構成することも可能である。また、処理部9には、車速センサやヨーレートセンサ、ステアリングホイールの舵角を測定する舵角センサ等のセンサ類Qが接続されており、車速やヨーレート、舵角等の測定値が入力されるようになっている。
近似直線算出手段10は、距離高さ検出手段6により検出された距離データDの実空間上の距離Z(視差dp)に基づいて、複数の距離データDを、距離高さ検出手段6すなわち自車両に近い側の群Gと遠い側の群Gとに分割するようになっている。そして、2つの群G、Gの境界部分の距離データDを一方の群から他方の群に移し替えるごとに、各群G、Gに属する複数の距離データDを近似する近似直線L、Lをそれぞれ群G、Gごとに算出するようになっている。
また、本実施形態では、近似直線算出手段10は、最小二乗法を用いて、群G、Gごとに、各群G、Gに属する各距離データDをそれぞれ近似する近似直線L、Lを算出するようになっている。
なお、各距離データDを(Z,Y)で表し、近似直線を、
Y=aZ+b …(4)
の形で算出する場合、周知のように、最小二乗法では、a、bは、
a=(nΣZY−ΣZ・ΣY)/{nΣZ−(ΣZ)}…(5)
b=(ΣZ・ΣY−ΣZY・ΣZ)/{nΣZ−(ΣZ)}…(6)
の形で算出される。なお、上記(5)、(6)式中のnは群中の距離データDの数を表し、総和Σは群中の全距離データDについて行う。
本実施形態では、近似直線算出手段10における群G、Gの分割および近似直線L、Lの算出は、以下のようにして行われるようになっている。
近似直線算出手段10は、まず、距離高さ検出手段6により検出された距離画像Tz中を探索して、距離データDを有する画素を見出すごとに、距離データDの実空間上の距離Zと高さYを算出する。そして、それらの情報に基づいて、上記(5)、(6)式の演算に必要なZ、ZYをそれぞれ算出し、距離Zや高さYとともに距離データDに割り当てるようになっている。
基準画像Tとして、例えば図18(A)に示したように遠方に上り坂Aがあるような道路が撮像される状況では、上記のように近似直線算出手段10で算出された各距離データDの実空間上の距離Zと高さYを距離−高さ平面(Z−Y平面)上にプロットすると、図4(A)に示すようにプロットすることができる。なお、図4(A)に示すプロットの結果は、図18(B)に示したプロットの結果と同じである。
近似直線算出手段10は、続いて、図4(B)に示すように、複数の距離データDのうち、実空間上の距離Zが2番目に遠い距離データDn−1と3番目に遠い距離データDn−2の間に境界DLを設定して、複数の距離データDを、実空間上の距離Zが最も近い距離データDから3番目に遠い距離データDn−2までのn−2個の距離データDからなる自車両(Z=0)に近い側の群Gと、実空間上の距離Zが2番目に遠い距離データDn−1と最も遠い距離データDの2つの距離データDからなる自車両(Z=0)から遠い側の群Gに分割する。
そして、群G、Gごとに、各群G、Gに属する複数の距離データDを近似する近似直線L、Lをそれぞれ算出するようになっている。すなわち、群Gでは、距離データD〜Dn−2のn−2個の距離データDに対して直線近似を行い、群Gでは、距離データDn−1、Dの2つの距離データDに対して直線近似を行って、それぞれ近似直線L、Lを算出するようになっている。
その際、近似直線算出手段10は、群Gに属する各距離データD〜Dn−2についてそれぞれ算出した実空間上の距離Z、高さY、Z、ZYの各総和ΣZ、ΣY、ΣZ、ΣZYを算出し、それらを上記(5)、(6)式に代入して近似直線Lの式Y=aZ+bを算出する。また、群Gについても同様に、群Gに属する各距離データDn−1、Dについてそれぞれ算出したZ、Y、Z、ZYの各総和ΣZ、ΣY、ΣZ、ΣZYを算出し、それらを上記(5)、(6)式に代入して近似直線Lの式Y=aZ+bを算出する。
近似直線算出手段10は、群Gと群Gを分割する境界DLの位置等の情報と、算出した近似直線L、Lのa、b、a、bとを対応付けて図示しない記憶手段に保存するようになっている。
続いて、近似直線算出手段10は、境界DL部分の距離データDn−2を群Gから群Gに移し替えて、群Gと群Gとを分割する境界DLの位置を図5に示すように手前側すなわち自車両(Z=0)側に1つ分移動させる。すなわち、境界DLを、実空間上の距離Zが3番目に遠い距離データDn−2と4番目に遠い距離データDn−3の間に設定する。
そして、上記のようにして算出した群Gに属する各距離データD〜Dn−2についての各総和ΣZ、ΣY、ΣZ、ΣZYから、距離データDn−2に対応するZn−2、Yn−2、Zn−2 、Zn−2n−2を減算して、群Gに属する各距離データD〜Dn−3についての各総和ΣZ、ΣY、ΣZ、ΣZYを算出するようになっている。
また、近似直線算出手段10は、群Gについては、上記のようにして算出した群Gに属する各距離データDn−1、Dについての各総和ΣZ、ΣY、ΣZ、ΣZYに、距離データDn−2に対応するZn−2、Yn−2、Zn−2 、Zn−2n−2を加算して、群Gに属する各距離データDn−2〜Dについての各総和ΣZ、ΣY、ΣZ、ΣZYを算出するようになっている。
すなわち、移し替える境界DL部分の距離データをDaとし、その実空間上の距離をZa、高さをYaと表す場合、距離データDaを群Gから群Gに移し替えるごとに、距離データDaに対応するZa、Ya、Za、ZaYaを、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYから減算し、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYに加算するだけで、容易かつ高速に各群G、Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYを算出することが可能となる。
近似直線算出手段10は、距離データDn−2を群Gから群Gに移し替えて各群G、Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYを算出すると、上記と同様に、それらの各総和を上記(5)、(6)式に代入して近似直線Lの式Y=aZ+bと近似直線Lの式Y=aZ+bとをそれぞれ算出して、群G、Gを分割する境界DLの位置等の情報と近似直線L、Lのa、b、a、bとを対応付けて記憶手段に保存する。
近似直線算出手段10は、この近似直線L、Lの算出処理を、境界DL部分の距離データDaを群Gから群Gに移し替えるごとに行うようになっている。
なお、上記の構成例では、群Gと群Gを分割する境界DLの位置を自車両から最も遠い側に設定し、境界DLの位置を自車両に近づく方向に移動させながら近似直線L、Lの算出処理を行う場合について説明したが、その逆に、境界DLの位置を自車両から最も近い側、すなわち実空間上の距離Zが2番目に近い距離データDと3番目に近い距離データDの間に設定し、境界DLの位置を自車両から遠ざかる方向に移動させながら近似直線L、Lの算出処理を行うように構成することも可能である。
その場合も、境界部分の距離データDaを群Gから群Gに移し替えるごとに、距離データDaに対応するZa、Ya、Za、ZaYaを、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYに加算し、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYから減算するだけで、各群G、Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYを容易かつ高速に算出することが可能となる。
また、距離画像Tzが図3に示した画像である場合、距離画像Tz中には、道路面より上方にある車両やガードレール等の立体物の距離データDも存在し、これらの立体物の距離データDについても直線近似の対象とすると、後述するように近似直線L、Lに基づいて生成される道路形状モデルが的確に道路面の形状を反映したものにならない虞がある。また、距離画像Tz全体を探索するように構成すると、近似直線L、Lの算出処理が重くなる虞がある。
そこで、本実施形態では、距離高さ検出手段6で検出された複数の距離データDのうち、前回のサンプリング周期等の過去のサンプリング周期で生成された道路形状モデルに基づいてその後の自車両の挙動から今回のサンプリング周期における道路形状モデルの位置を推定する。そして、推定された道路形状モデルの位置から所定の範囲内に存在する複数の距離データD、すなわち、例えば推定された道路形状モデルの位置から上下方向(すなわち高さY方向)に所定の距離だけ離れた位置までの範囲内に存在する複数の距離データDのみを、直線近似の対象とするようになっている。
このように構成すれば、これらの限定された複数の距離データDに基づいて算出された近似直線L、Lから生成される道路形状モデルが的確に道路面の形状を反映したものになるとともに、距離画像Tzに対する探索範囲が限定され、近似直線L、Lの算出処理を軽くすることが可能となる。
統計値算出手段11は、上記のように近似直線算出手段10が境界DL部分の距離データDaを群Gから群Gに移し替えて各群G、Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYを算出し、近似直線L、Lをそれぞれ算出すると、算出された近似直線L、Lに基づく統計値を群G、Gごとにそれぞれ算出する。そして、この統計値の算出処理を、境界DL部分の距離データDaを群Gから群Gに移し替えられるごとに行うようになっている。
本実施形態では、統計値として、近似直線L、Lに対する各群G、Gの各距離データDの分散σ 、σ
σ =Σ{(aZ+b)−Y}/n …(7)
σ =Σ{(aZ+b)−Y}/n …(8)
が群G、Gごとにそれぞれ算出されるようになっている。
なお、n、nはそれぞれ群G、Gに属する各距離データDの数を表す。また、統計値として、分散σの代わりに、各群G、Gに属する各距離データDの標準偏差を群G、Gごとに算出するように構成することも可能である。
統計値算出手段11は、群G、Gごとに算出した分散σ 、σ を、近似直線算出手段10で設定された群G、Gを分割する境界DLの位置や、算出された近似直線L、Lのa、b、a、b等の情報と対応付けて記憶手段に保存するようになっている。
道路形状モデル生成手段12は、上記のように近似直線算出手段10で境界DL部分の距離データDaを群Gから群Gに移し替えるごとに算出した2つの群G、Gの近似直線L、Lの組み合わせの中から1つの組み合わせを選択し、選択した近似直線L、Lの組み合わせを用いて道路形状モデルを少なくとも距離−高さ平面(Z−Y平面)上の形状として生成するようになっている。
そして、本実施形態では、道路形状モデル生成手段12は、統計値算出手段11で算出された2つの群G、Gの各統計値の合計値、すなわち本実施形態では各群G、Gに属する各距離データDの近似直線L、Lに対する分散σ 、σ の合計値が最小となる近似直線L、Lの組み合わせを選択するようになっている。
例えば、図4(A)に示したようにZ−Y平面上にプロットされた各距離データDの場合、道路形状モデル生成手段12は、図6に示すような近似直線L、Lの組み合わせを選択して、距離−高さ平面(Z−Y平面)上の形状として道路形状モデルを生成する。すなわち、この場合、自車両(Z=0)から境界DLまでの範囲では近似直線L、境界DLよりも遠方の範囲では近似直線Lをモデルとする道路形状モデルが生成される。
また、本実施形態では、道路形状モデル生成手段12は、さらに、図6のように選択した2つの群G、Gの各近似直線L、Lの交点Cの部分を、各近似直線L、Lを接線とする緩和曲線で置換して、生成した道路形状モデルL、Lを補正するようになっている。
本実施形態では、緩和曲線として、図7に示すような円弧Rが用いられるようになっている。また、緩和曲線として、二次曲線等を用いるように構成することも可能である。そして、緩和曲線として円弧Rを用いる場合、その曲率半径rを、予め設定された固定値としてもよく、また、近似直線L、Lの傾きa、aの差分や当該道路の設定速度等に依存して変化するように構成してもよい。さらに、曲率半径rを種々変化させ、プロットされた各距離データDの円弧Rに対する分散等に基づいて最適な曲率半径rを算出するように構成することも可能である。
次に、本実施形態に係る道路形状認識装置1の作用について説明する。
基準画像Tとして、例えば図18(A)に示したように遠方に上り坂Aがあるような道路が撮像される状況における道路形状モデルの生成については、図4(A)に示した各距離データDに基づいて、図4(B)や図5に示した方法により、最終的に図6に示した道路形状モデルL、L(正確には近似直線Lと緩和曲線と近似直線Lをモデルとする道路形状モデル)が生成される。
また、図19(A)に示したように、遠方に下り坂Bがあり、その下り坂Bを先行車両Vahが走行している場合、本実施形態のように、過去のサンプリング周期で生成された道路形状モデルから推定される今回のサンプリング周期における道路形状モデルの位置から上下方向に所定の範囲内に存在する複数の距離データDのみを直線近似の対象とするように構成すれば、図19(B)に示した各距離データDのうち、先行車両Vahに対応する距離データDは除外され、道路面に対応する距離データDのみが直線近似の対象となる。
そして、図4(B)や図5に示した方法と同様にして、近似直線算出手段10で、境界DL部分の距離データDaを群Gから群Gに移し替えるごとに、距離データDaに対応するZa、Ya、Za、ZaYaを、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYから減算し、群Gにおける各総和ΣZ、ΣY、ΣZ、ΣZYに加算し、各総和を上記(5)、(6)式に代入して近似直線L、Lの各式Y=aZ+bをそれぞれ算出していく。
そして、近似直線算出手段10が境界DL部分の距離データDaを群Gから群Gに移し替えて近似直線L、Lの各式を算出するごとに、統計値算出手段11で、各群G、Gに属する各距離データDの近似直線L、Lに対する分散σ 、σ を算出する。そして、境界DL部分の距離データDaの移し替えが全て終了した時点で、道路形状モデル生成手段12で、分散σ 、σ の合計値が最小となる近似直線L、Lの組み合わせを選択する。
このようにして、図8に示すように、最終的に道路形状モデルL、Lが生成される。なお、図8では、緩和曲線である円弧Rの図示が省略されている。そして、図8に示すように、先行車両Vahに対応する距離データDとは明確に分離された状態で道路形状モデルL、Lが生成される。
以上のように、本実施形態に係る道路形状認識装置1によれば、自車両が走行する道路面について実空間上の距離Zと高さYの情報を有する距離データDを検出し、これらの距離データDを、自車両に近い側の群Gと遠い側の群Gに分割し、境界DLを可変として移動させながら群G、Gごとに距離データDを近似する近似直線L、Lをそれぞれ算出する。
そして、群G、Gごとに、それぞれの近似直線L、Lに基づく統計値、すなわち例えば各群G、Gに属する各距離データDの近似直線L、Lに対する分散σ 、σ を算出し、その統計値に基づいて、例えばその合計値が最小となる近似直線L、Lの組み合わせを選択して、道路形状モデルを生成する。
実際の道路設計においては、道路の距離−高さ平面上の形状(縦断線形)は2本の直線と緩和曲線により構成されるが、本実施形態に係る道路形状認識装置1によれば、その実際の道路設計に即して道路形状モデルを2本の近似直線L、Lの組み合わせ(或いはそれらと緩和曲線との組み合わせ)で生成することが可能となり、道路形状を的確に認識することが可能となる。
また、近似直線算出手段10で近似直線L、Lを算出する際に例えば最小二乗法を用い、距離データDの各群G、Gの境界DL部分の距離データDaを一方の群から他方の群に移し替えるごとに、距離データDaに対応するZa、Ya、Za、ZaYaを、一方の群における各総和ΣZ、ΣY、ΣZ、ΣZYから減算し、他方の群における各総和ΣZ、ΣY、ΣZ、ΣZYに加算するだけで近似直線L、Lの各式を算出することが可能となるため、近似直線L、Lの算出を容易かつ高速に行うことが可能となる。
さらに、近似直線算出手段10における近似直線L、Lの算出の対象とする距離データDを、過去のサンプリング周期で生成された道路形状モデルとその後の自車両の挙動から推定される今回のサンプリング周期における道路形状モデルの位置から所定の範囲内に存在する距離データDに限定することで、先行車両Vah等の道路面の上方に存在する立体物を排除した状態で近似直線L、Lの算出を行うことが可能となる。
そのため、このようにして算出された近似直線L、Lから生成される道路形状モデルを的確に現実の道路面の形状に即したものとすることが可能となるとともに、距離データDの探索範囲が限定されるため、近似直線L、Lの算出処理を軽くして、処理の高速化を図ることが可能となる。
[第2の実施の形態]
上記の第1の実施形態では、距離高さ検出手段6で少なくとも実空間上の距離Zと高さYが検出された全ての距離データD、或いは、そのうち過去のサンプリング周期で生成された道路形状モデルとその後の自車両の挙動から推定される今回のサンプリング周期における道路形状モデルの位置から所定の範囲内に存在する距離データDを対象として近似直線L、Lの算出等を行う場合について説明した。
しかし、自車両の側方の車線や、さらに範囲を広げて道路面上に表示された最高速度規制を表す数字や進行方向を示す矢印等の標示を検出し、検出した表示に対応する各距離データDを対象として道路形状モデルの生成を行うように構成することも可能である。第2の実施形態では、このように構成された道路形状認識装置について説明する。
第2の実施形態に係る道路形状認識装置20は、図9に示すように、撮像手段2や距離高さ検出手段6、近似直線算出手段10や統計値算出手段11、道路形状モデル生成手段12等を有する処理部9等を備えて構成されており、これらの構成は、第1の実施形態に係る道路形状認識装置1の場合と同様である。本実施形態では、処理部9に、さらに、自車両側方に標示された車線を含む道路面上の標示を検出する路面標示検出手段13が設けられている。
なお、本実施形態においても、撮像手段2としてメインカメラ2aとサブカメラ2bとを備え、距離高さ検出手段6で基準画像Tと比較画像Tcに対するステレオマッチングにより基準画像Tの各画素について視差dpすなわち実空間上の距離Zを算出するように構成されているが、これに限定されず、道路面上に標示された車線や数字、矢印等の標示の実空間上の距離Zや高さYを検出することができるものであれば、検出の手法は特定の手法に限定されない。
第1の実施形態と同様に、本実施形態においても、撮像手段2として、CCD等のイメージセンサがそれぞれ内蔵されたメインカメラ2aとサブカメラ2bが用いられている。そして、それらで基準画像Tや比較画像Tcを撮像する場合、図2に示したように、基準画像T等の各水平ラインjの最も左側の画素から撮像を開始し、その後、順に右方向に走査していく。また、走査する水平ラインjを最も下側のラインから順に上方に切り替えながら撮像するようにして、各画素ごとに撮像された順に基準画像T等の各画素の輝度pの画像データがそれぞれ変換手段3に順次送信されるようになっている。
そして、基準画像T等の各画素の輝度pの画像データは、変換手段3で例えば256階調のグレースケールのデジタル値の輝度pに順次変換され、画像補正部4で画像補正が順次行われた後、画像データメモリ5に順次格納されるとともに、処理部9に順次送信される。それらの画像データが距離高さ検出手段6にも順次送信されることは第1の実施形態で述べた通りである。
路面標示検出手段13は、本実施形態では、順次送信されてくる基準画像Tの各画素の画像データである輝度pに基づいて、車線等の道路面上の標示を検出するようになっている。
具体的には、路面標示検出手段13は、基準画像Tの水平ラインjの1行分の各画素の輝度pが入力されると、水平ラインj上を例えば図10に示すように基準画像Tの中央の位置から左右方向に探索しながら各画素の輝度pを検出する。このように探索していくと、水平ラインjを例えば右方向に探索した場合、道路面上に白色等で標示された車線等の標示の部分で各画素の輝度pが大きく上昇する。
そのため、路面標示検出手段13は、各画素の輝度pが大きく上昇し、隣接する画素の輝度pとの差分Δp(以下、エッジ強度Δpという。)が所定の閾値Δpth以上となる画素cl、cr(図10参照)を道路面上に表示された車線等の標示に対応する路面標示点として検出するようになっている。そして、各水平ラインjごとに路面標示点cl、crを検出していくと、基準画像T中の車線等のエッジ部分に対応する多数の路面標示点cl、crが検出される。
また、近似直線算出手段10は、路面標示検出手段13で検出された多数の路面標示点cl、crについて、距離高さ検出手段6により検出された視差dp等に基づいて上記(1)〜(3)式に従って実空間上の距離Zと高さYを算出し、各路面標示点cl、crの少なくとも実空間上の距離Zと高さYを有する各距離データDを対象として、第1の実施形態に示したように、群G、Gごとに近似直線L、Lを算出する算出処理を行う。
そして、第1の実施形態と同様に、近似直線算出手段10で近似直線L、Lが算出されるごとに統計値算出手段11で近似直線L、Lに基づく統計値、すなわち例えば近似直線L、Lに対する各群G、Gの各距離データDの分散σ 、σ を群G、Gごとにそれぞれ算出する。
そして、道路形状モデル生成手段12で、算出された2つの群G、Gの各統計値(例えば分散σ 、σ )に基づいて2つの群G、Gの近似直線L、Lの組み合わせの中から1つの組み合わせを選択し、選択した近似直線L、Lの組み合わせを用いて道路形状モデルL、L(或いは近似直線Lと緩和曲線と近似直線Lをモデルとする道路形状モデル)を少なくとも距離−高さ平面(Z−Y平面)上の形状として生成する。
以上のように、本実施形態に係る道路形状認識装置20によれば、第1の実施形態に係る道路形状認識装置1と同様の効果を奏することが可能となる。また、本実施形態では、路面標示検出手段13で車線等の道路面上の標示に対応する路面標示点cl、crを検出し、それらの路面標示点cl、crを対象として近似直線L、L等を算出して道路形状モデルを生成するため、道路形状をより的確に認識することが可能となる。
なお、路面標示検出手段13が基準画像Tの水平ラインj上を探索して路面標示点cl、crを検出する探索範囲を限定するように構成することも可能である。例えば、前述した特許文献2に示されているように、過去のサンプリング周期で検出した車線等の基準画像T上での位置の近傍に今回のサンプリング周期における探索範囲を設定するように構成して、探索範囲を狭めることが可能である。
また、例えば、道路面より上方に存在する車両等の立体物を検出する立体物検出手段を設けて、図11に示すように基準画像T中に撮像されている立体物O、Sを検出するように構成する。そして、検出した立体物O、Sに対応する画像領域を除外し、基準画像Tの立体物O、S以外の道路面の画像領域のみを探索範囲とすることで、探索範囲を狭めることも可能である。
このように探索範囲を限定すれば、路面標示点cl、crの検出をより高速に行うことが可能となるとともに、道路面より上方の位置に対応する距離データDを排除し、道路面上の点に対応する距離データDのみに基づいて近似直線L、L等を算出して道路形状モデルを生成することが可能となり、道路形状の認識精度を向上させることが可能となる。
一方、車線等の道路面上の標示に対応する距離データD、すなわち少なくともその実空間上の距離Zと高さYの情報を検出する距離高さ検出手段6として、本実施形態にように、一対の画像(基準画像Tと比較画像Tc)に対するステレオマッチングにより距離データDを検出する距離高さ検出手段6を用いる場合には、以下のようなステレオマッチング特有の現象が生じる。
距離高さ検出手段6のイメージプロセッサ7で行われるステレオマッチングでは、図12に示すように、基準画像Tを例えば3×3画素や4×4画素等の所定の画素数の基準画素ブロックPBに分割する。そして、1つの基準画素ブロックPBに対して、比較画像Tc中の当該基準画素ブロックPBと同じj座標のエピポーララインEPL上の各比較画素ブロックPBcを探索し、各比較画素ブロックPBcについて、
SAD=Σ|p1st−p2st| …(9)
を算出し、SAD値が最小の比較画素ブロックPBcを特定する。
なお、(9)式中でp1stは基準画素ブロックPB内の各画素の輝度を表し、p2stは比較画素ブロックPBc内の各画素の輝度を表す。また、上記の総和は、基準画素ブロックPBや比較画素ブロックPBcが例えば3×3画素の領域として設定される場合には1≦s≦3、1≦t≦3の範囲、4×4画素の領域として設定される場合には1≦s≦4、1≦t≦4の範囲の全画素について計算される。
そして、ステレオマッチングでは、基準画素ブロックPBの基準画像T上の位置と、当該基準画素ブロックPBについて特定した比較画素ブロックPBcの比較画像Tc上の位置から前述した視差dpを算出するようになっている。
そのため、基準画素ブロックPBが3×3画素で形成されている場合には1つの基準画素ブロックPBの9個の画素に同一の視差dpが割り当てられ、基準画素ブロックPBが4×4画素で形成されている場合には1つの基準画素ブロックPBの16個の画素に同一の視差dpが割り当てられる。
このようなステレオマッチングの手法を採用すると、例えば図10の右下隅の車線のエッジ部分の拡大図である図13に示すように、車線部分に路面標示点crが検出された場合、1つの基準画素ブロックPBに含まれる路面標示点crには同じ視差dpが割り当てられる。そして、上記(3)式に従えば同じ視差dpが割り当てられた各路面標示点crの実空間上の距離Zは同じ値となる。また、各路面標示点crのj座標が異なるため、上記(2)式から各路面標示点crの実空間上の高さYはそれぞれ異なる値として算出される。
そのため、同じ基準画素ブロックPBに含まれる各路面標示点crの距離データDを距離−高さ平面(Z−Y平面)上にプロットすると、図14に示すように各距離データDがY軸方向に並ぶ状態で検出されるという特徴が現れる。以下、これを第1の特徴という。
各路面標示点crは、本来、道路面に標示された車線等の標示に対応する各点であるため、各路面標示点crの実空間上の距離Zは、路面標示点crのj座標が大きくなるほど、すなわち基準画像T上でより上方に撮像されている点ほど遠くなるはずであり、それらの距離データDはZ軸方向に並ぶはずである。しかし、上記のようなステレオマッチングの結果、同じ基準画素ブロックPBに含まれる各路面標示点crの距離データDはY軸方向に並ぶように検出される。
このような特徴が現れると、自車両の前方に例えば図14に示したような緩やかな上り坂Eや図示しない緩やかな下り坂があるような場合に、上り坂E等の傾斜がY軸方向に並ぶ路面標示点crの各距離データDにいわば埋もれてしまい、上り坂E等の緩やかな傾斜を検出し難くなるといった問題を生じる。そのため、この第1の特徴の影響が極力除去されるように構成されることが望まれる。
また、このようなステレオマッチングの手法では、図15(A)〜図16(C)に示すように、基準画像T上に撮像されているシーンと基準画素ブロックPBとの相対的な位置関係がずれると、同じj座標を有する基準画像ブロックPBであっても、異なる視差dpが検出されるという特徴が現れる。以下、これを第2の特徴という。
例えば図15(A)では、基準画素ブロックPBの輝度パターンの中で車線に対応する明るい輝度の特徴部分が右上の部分すなわちj座標が大きい部分に現れるように基準画素ブロックPBが設定されると、ステレオマッチングでは、その基準画素ブロックPB内の各画素には実空間上の大きな距離Z(例えば10.5m)を与える視差dpが算出される。
また、図15(B)に示すように、基準画素ブロックPBが1画素分右側にずれて、基準画素ブロックPB中に車線のより手前側の部分が撮像された画素が入るように基準画素ブロックPBが設定されると、ステレオマッチングでは、その基準画素ブロックPB内の各画素には、図15(A)の場合よりも実空間上の距離Zとしてより小さな距離Z(例えば10.4m)を与える視差dpが算出される。
同様にして、図15(C)や図16(A)に示すように、基準画素ブロックPBがさらに右側にずれて、基準画素ブロックPB中に道路面上の標示のさらに手前側の部分が撮像された画素がより多く入るように基準画素ブロックPBが設定されると、ステレオマッチングでは、その基準画素ブロックPB内の各画素には、実空間上のさらに小さな距離Z(例えば10.2mや10.3m)を与える視差dpが算出される。
また、図16(B)、(C)に示すように、基準画素ブロックPBがさらに右側にずれて、基準画素ブロックPBの輝度パターンの暗い特徴部分が左下のj座標が小さく手前側の部分にだけ現れるように基準画素ブロックPBが設定されると、ステレオマッチングでは、その基準画素ブロックPB内の各画素には実空間上の小さな距離Z(例えば10.0mや10.1m)を与える視差dpが算出される。
そこで、この第2の特徴を利用して、図14に示したような問題となる上記の第1の特徴の影響を除去することができる。
前述したように、路面標示検出手段13で、図17(A)に示すように基準画像Tの水平ラインj1、j2上を左右方向に探索しながら路面標示点cr1、cr2を検出する際に、隣接する画素同士の輝度pの差分Δpすなわちエッジ強度Δpを算出していく。その際、車線等の道路面上の標示のエッジ部分では、エッジ強度Δpは例えば図17(B)や図17(C)に示すように変化する。その際、前述したように、このエッジ強度Δpが所定の閾値Δpth以上となる画素が道路面上に表示された車線等の標示に対応する路面標示点cr1、cr2として検出される。
また、図17(A)に示すように、基準画像T上でその水平ラインjの位置に並ぶ複数の基準画素ブロックPB(n)では、画素の視差dp(n)が基準画素ブロックPB(n)ごとに異なり、上記の図15(A)〜図16(C)の例から分かるように、基準画素ブロックPB(1)の各画素の視差dp(1)は実空間上で大きな距離Zを与え、基準画素ブロックPB(2)の各画素の視差dp(2)は実空間上のより小さな距離Zを与える視差となる。
そこで、路面標示検出手段13が検出した路面標示点cr1、cr2における視差dp(1)を、路面標示点cr1、cr2と同一の水平ラインj1、j2上に並ぶ複数の基準画素ブロックPB(1)、PB(2)、…の各画素の視差dp(1)、dp(2)、…を用いてそれぞれ重み付け平均して修正するように構成することができる。
すなわち、図17(B)に示すように、路面標示点cr1の近傍の各画素のうち、エッジ強度Δp(n)が閾値Δpth以上である各画素について、下記(10)式に示すように、その画素の視差dp(n)を、エッジ強度Δp(n)が閾値Δpth以上の部分の大きさΔp(n)−Δpthで重み付け平均し、この重み付け平均Dpを当該水平ラインj1の路面標示点cr1の視差として修正する。
Dp={Σdp(n)・(Δp(n)−Δpth)}/{Σ(Δp(n)−Δpth)}…(10)
図17(C)に示すように、同様に、路面標示点cr2についても、路面標示点cr2の近傍の各画素のうち、エッジ強度Δp(n)が閾値Δpth以上である各画素について、その画素の視差dp(n)をエッジ強度Δp(n)が閾値Δpth以上の部分の大きさΔp(n)−Δpthで重み付け平均し、この重み付け平均Dpを当該水平ラインj2の路面標示点cr2の視差として修正する。
路面標示点cr1の視差の修正では、図17(B)に示すように、路面標示点cr1自体の修正前の視差はdp(1)であるが、その右側近傍の基準画素ブロックPB(2)に属する各画素の視差dp(2)が大きく重み付けされる。そのため、路面標示点cr1の修正後の視差Dpは、修正前の値である視差dp(1)よりも視差dp(2)に近い値となり、元々視差dp(1)が与える実空間上の距離Zよりも小さな距離Z、すなわち手前側の距離Zを与える視差Dpに修正される。
それに対し、路面標示点cr2の視差の修正では、図17(C)に示すように、路面標示点cr2自体の修正前の視差はdp(1)であり、その右側近傍の各画素の視差も多くは視差dp(1)であり、僅かに基準画素ブロックPB(2)に属する画素の視差dp(2)が寄与するだけである。そのため、路面標示点cr2の修正後の視差Dpは、修正前の値である視差dp(1)とほぼ同じ値となり、元々視差dp(1)が与える実空間上の距離Zとほぼ同じの自車両から遠い距離Zを与える視差Dpに修正される。
そのため、修正前には、同じ画素ブロックPB(1)に含まれる路面標示点cr1、cr2には同じ視差dp(1)が割り当てられたため、図14に示したように、路面標示点cr1、cr2の各距離データDがY軸方向に並ぶ状態で検出されたが(上記の第1の特徴)、修正後は、路面標示点cr1、cr2が同じ画素ブロックPB(1)に含まれていても、自車両に近い側の路面標示点cr1の実空間上の距離Zが、自車両から遠い側の路面標示点cr2の実空間上の距離Zよりも小さな距離Zに修正される。
このように、上記の第2の特徴を利用して、車線や矢印等の道路面上の標示に対応する距離データDの検出においてステレオマッチングを用いる際に生じる特有の現象、すなわち同じ画素ブロックPBに含まれる路面標示点crに同じ視差dpが割り当てられてしまう上記の第1の特徴の影響を的確に除去することが可能となる。
そして、道路面上の標示に対応する各路面標示点crでは、基準画像T上でのj座標が大きくなるほど、すなわち基準画像T上でより上側に撮像されているほど実空間上の距離Zが大きくなるといった実際の状況に適合するように、各路面標示点crの視差dpを視差Dpを修正することが可能となる。
そのため、そのように修正された視差Dpに対応する実空間上の距離Zと高さYとを含む複数の距離データDを、上記のように2本の近似直線L、Lで近似する対象とすることで、例えば図14に示したような緩やかな上り坂E等を的確に認識することが可能となり、道路形状の認識精度をさらに向上させることが可能となる。
なお、上記(10)式の演算において、エッジ強度Δp(n)が閾値Δpth以上である画素が基準画素ブロックPB(2)の右方の基準画素ブロックPB(3)やさらにその右方の基準画素ブロックPBに及ぶ場合には、各基準画素ブロックPB(n)の視差dp(n)についても重み付け平均されることは言うまでもない。
1、20 道路形状認識装置
2 撮像手段
6 距離高さ検出手段
10 近似直線算出手段
11 統計値算出手段
12 道路形状モデル生成手段
13 路面標示検出手段
C 交点
cl、cr 路面標示点
D 距離データ
Da 群の境界部分の距離データ
DL 境界
距離高さ検出手段に近い側の群
距離高さ検出手段から遠い側の群
、L 近似直線
p 輝度
R 円弧(緩和曲線)
T 基準画像(一方の画像)
T、Tc 基準画像と比較画像(一対の画像)
Y 実空間上の高さ
Ya 群の境界部分の距離データの実空間上の高さ
Z 実空間上の距離
Za 群の境界部分の距離データの実空間上の距離
σ 、σ 分散(統計値)

Claims (7)

  1. 自車両が走行する道路面について少なくとも実空間上の距離と高さの情報を有する距離データを互いに異なる複数の地点で検出する距離高さ検出手段と、
    前記実空間上の距離に基づいて、前記複数の距離データを、前記自車両に近い側の群と遠い側の群とに分割し、2つの前記群の境界部分の前記距離データを一方の前記群から他方の前記群に移し替えるごとに、前記群ごとに前記距離データを近似する近似直線をそれぞれ算出する近似直線算出手段と、
    前記距離データを移し替えた前記群ごとに、それぞれの前記近似直線に基づく統計値を算出する統計値算出手段と、
    算出された前記2つの群の前記各統計値に基づいて、前記2つの群の前記近似直線の組み合わせの中から1つを選択し、選択した前記近似直線の組み合わせを用いて道路形状モデルを少なくとも距離−高さ平面上の形状として生成する道路形状モデル生成手段と、
    を備えることを特徴とする道路形状認識装置。
  2. 前記近似直線算出手段は、最小二乗法により、前記群ごとに前記距離データをそれぞれ近似する前記近似直線を算出し、
    前記統計値算出手段は、前記統計値として、前記各群に属する前記各距離データの前記近似直線に対する分散または標準偏差を前記群ごとに算出し、
    前記道路形状モデル生成手段は、算出された前記2つの群の前記各統計値の合計値が最小となる前記近似直線の組み合わせを選択することを特徴とする請求項1に記載の道路形状認識装置。
  3. 前記近似直線算出手段は、前記距離データの実空間上の距離をZ、高さをYと表し、移し替えられる前記境界部分の前記距離データの実空間上の距離をZa、高さをYaと表し、前記各群ごとの総和をΣを用いて表す場合、当該境界部分の距離データを一方の前記群から他方の前記群に移し替えるごとに、前記一方の群におけるΣZ、ΣY、ΣZ、ΣZYからそれぞれZa、Ya、Za、ZaYaを減算し、前記他方の群におけるΣZ、ΣY、ΣZ、ΣZYにそれぞれZa、Ya、Za、ZaYaを加算して、前記最小二乗法により、前記群ごとに前記距離データを近似する前記近似直線をそれぞれ算出することを特徴とする請求項2に記載の道路形状認識装置。
  4. 前記近似直線算出手段は、前記距離高さ検出手段で検出された前記複数の距離データのうち、過去のサンプリング周期において検出された前記道路形状モデルに基づいてその後の自車両の挙動から推定される今回のサンプリング周期における道路形状モデルの位置から所定の範囲内に存在する複数の距離データを、前記近似直線で近似する対象とすることを特徴とする請求項1から請求項3のいずれか一項に記載の道路形状認識装置。
  5. 前記道路形状モデル生成手段は、前記選択した前記2つの群の前記各近似直線の交点部分を、前記各近似直線を接線とする緩和曲線で置換して、生成した前記道路形状モデルを補正することを特徴とする請求項1から請求項4のいずれか一項に記載の道路形状認識装置。
  6. 自車両側方に標示された車線を含む道路面上の標示に対応する路面標示点を検出する路面標示検出手段を備え、
    前記近似直線算出手段は、前記路面標示検出手段により検出された前記路面標示点に対応し、前記距離高さ検出手段により少なくとも実空間上の距離と高さが検出された前記複数の距離データを対象として、前記群ごとに前記近似直線を算出する算出処理を行うことを特徴とする請求項1から請求項5のいずれか一項に記載の道路形状認識装置。
  7. 前記距離高さ検出手段は、撮像手段で撮像された一対の画像に対するステレオマッチングにより前記一対の画像のうち少なくとも一方の画像の画素ごとに前記距離データを検出し、
    前記路面標示検出手段は、前記一方の画像の画素の輝度に基づいて前記路面標示点を検出し、
    前記近似直線算出手段は、前記路面標示検出手段が検出した前記路面標示点に対応する前記距離データを、当該路面標示点を含む当該路面標示点の近傍の画素の輝度に基づいて修正し、修正した複数の距離データを、前記近似直線で近似する対象とすることを特徴とする請求項6に記載の道路形状認識装置。
JP2009123742A 2009-05-22 2009-05-22 道路形状認識装置 Active JP5188452B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009123742A JP5188452B2 (ja) 2009-05-22 2009-05-22 道路形状認識装置
US12/782,309 US8340896B2 (en) 2009-05-22 2010-05-18 Road shape recognition device
DE102010020867.1A DE102010020867B4 (de) 2009-05-22 2010-05-18 Strassenform-Erkennungsvorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009123742A JP5188452B2 (ja) 2009-05-22 2009-05-22 道路形状認識装置

Publications (2)

Publication Number Publication Date
JP2010271964A JP2010271964A (ja) 2010-12-02
JP5188452B2 true JP5188452B2 (ja) 2013-04-24

Family

ID=43125148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009123742A Active JP5188452B2 (ja) 2009-05-22 2009-05-22 道路形状認識装置

Country Status (3)

Country Link
US (1) US8340896B2 (ja)
JP (1) JP5188452B2 (ja)
DE (1) DE102010020867B4 (ja)

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005030838A1 (de) * 2005-07-01 2007-01-04 Siemens Ag Nightvisionsystem
JP5229254B2 (ja) * 2010-03-23 2013-07-03 株式会社デンソー 道路形状認識装置
CN103109522B (zh) * 2010-11-16 2016-05-11 本田技研工业株式会社 车载摄像头位置变化量检测装置
JP5389002B2 (ja) * 2010-12-07 2014-01-15 日立オートモティブシステムズ株式会社 走行環境認識装置
DE102011109569A1 (de) * 2011-08-05 2013-02-07 Conti Temic Microelectronic Gmbh Verfahren zur Fahrspurerkennung mittels einer Kamera
DE102012101085A1 (de) * 2012-02-10 2013-08-14 Conti Temic Microelectronic Gmbh Bestimmung einer Beschaffenheit einer Fahrbahnoberfläche mittels einer 3D-Kamera
FR2988504B1 (fr) * 2012-03-23 2014-05-09 Commissariat Energie Atomique Procede de determination d'un plan du sol a partir d'une image de profondeur
US8755967B1 (en) 2012-03-23 2014-06-17 Google Inc. Estimating road lane geometry using lane marker observations
US20130253753A1 (en) * 2012-03-23 2013-09-26 Google Inc. Detecting lane markings
JP5987899B2 (ja) * 2012-03-30 2016-09-07 富士通株式会社 生成装置、生成プログラムおよび生成方法
JP6113416B2 (ja) * 2012-04-04 2017-04-12 シャープ株式会社 画像撮像装置、画像処理方法、プログラム
JP2014006882A (ja) * 2012-05-31 2014-01-16 Ricoh Co Ltd 路面傾斜認識装置、路面傾斜認識方法及び路面傾斜認識用プログラム
US9053372B2 (en) 2012-06-28 2015-06-09 Honda Motor Co., Ltd. Road marking detection and recognition
JP6270102B2 (ja) * 2012-10-10 2018-01-31 株式会社リコー 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム
JP6376429B2 (ja) 2012-11-13 2018-08-22 株式会社リコー 対象地点到達検知装置、対象地点到達検知用プログラム、移動体機器制御システム及び移動体
JP5754470B2 (ja) * 2012-12-20 2015-07-29 株式会社デンソー 路面形状推定装置
US9267792B2 (en) * 2013-01-21 2016-02-23 Systèmes Pavemetrics Inc. Method and apparatus for compensating lateral displacements and low speed variations in the measure of a longitudinal profile of a surface
JP6274557B2 (ja) 2013-02-18 2018-02-07 株式会社リコー 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
US9971944B2 (en) * 2013-08-23 2018-05-15 Harman International Industries, Incorporated Unstructured road boundary detection
DE102013221696A1 (de) * 2013-10-25 2015-04-30 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines Höhenverlaufes einer vor einem Fahrzeug liegenden Straße
JP6528447B2 (ja) * 2014-02-25 2019-06-12 株式会社リコー 視差演算システム及び距離測定装置
JP5906272B2 (ja) * 2014-03-28 2016-04-20 富士重工業株式会社 車両用ステレオ画像処理装置
JP6519262B2 (ja) 2014-04-10 2019-05-29 株式会社リコー 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム
JP6550881B2 (ja) * 2014-07-14 2019-07-31 株式会社リコー 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム
KR101641490B1 (ko) * 2014-12-10 2016-07-21 엘지전자 주식회사 차량 운전 보조 장치 및 이를 구비한 차량
FR3033912B1 (fr) * 2015-03-18 2018-06-15 Valeo Schalter Und Sensoren Gmbh Procede d'estimation de parametres geometriques representatifs de la forme d'une route, systeme d'estimation de tels parametres et vehicule automobile equipe d'un tel systeme
JP6233345B2 (ja) * 2015-04-17 2017-11-22 トヨタ自動車株式会社 路面勾配検出装置
EP3306267B1 (en) * 2015-05-27 2020-04-01 Kyocera Corporation Arithmetic logic device, camera device, vehicle and calibration method
DE102015115352A1 (de) * 2015-09-11 2017-03-16 Connaught Electronics Ltd. Verfahren zum Bestimmen einer Ebene einer Fahrbahn, Fahrerassistenzsystem sowie Kraftfahrzeug
CN105740802A (zh) * 2016-01-28 2016-07-06 北京中科慧眼科技有限公司 基于视差图的障碍物检测方法和装置及汽车驾驶辅助系统
JP6406289B2 (ja) * 2016-03-14 2018-10-17 オムロン株式会社 路面形状測定装置、測定方法、及び、プログラム
DE102016110461A1 (de) * 2016-06-07 2017-12-07 Connaught Electronics Ltd. Verfahren zum Erkennen einer Neigung in einer Fahrbahn für ein Kraftfahrzeug, Fahrerassistenzsystem sowie Kraftfahrzeug
JP6644425B2 (ja) * 2016-07-07 2020-02-12 アルパイン株式会社 移動経路生成装置および移動経路生成方法
CN106250880B (zh) * 2016-08-23 2020-12-04 广西科技大学 一种车辆上坡前道路坡度视觉检测方法
WO2018050224A1 (en) * 2016-09-15 2018-03-22 Connaught Electronics Ltd. Method for determining a plane of a roadway, driver assistance system as well as motor vehicle
US10782704B2 (en) * 2017-01-30 2020-09-22 Toyota Motor Engineering & Manufacturing North America, Inc. Determination of roadway features
DE102017217005A1 (de) * 2017-09-26 2019-03-28 Robert Bosch Gmbh Verfahren zum Ermitteln der Steigung einer Fahrbahn
DE102018209391A1 (de) * 2018-06-13 2019-12-19 Zf Friedrichshafen Ag Einstellen einer Geschwindigkeit eines bodengebundenen Fahrzeugs in Abhängigkeit einer erkannten Beschaffenheit eines bodenniedrigen Hindernisses
DE102019209849B4 (de) * 2019-07-04 2021-08-05 Robert Bosch Gmbh Verfahren und Steuergerät zur abstandsmessenden Bildverarbeitung für eine Stereokameraeinrichtung für ein Fahrzeug und Stereokamerasystem mit einer Stereokameraeinrichtung und einem Steuergerät
JP7344032B2 (ja) * 2019-07-19 2023-09-13 株式会社Subaru 画像処理装置
DE102019213533A1 (de) * 2019-09-05 2021-03-11 Zf Friedrichshafen Ag Vorrichtung zum Anpassen einer Fahrstrategie eines Fahrzeugs
CN112154446B (zh) * 2019-09-19 2024-03-19 深圳市大疆创新科技有限公司 立体车道线确定方法、装置和电子设备
CN110530375B (zh) * 2019-10-10 2021-08-27 上海钛米机器人科技有限公司 机器人自适应定位方法、定位装置、机器人及存储介质
CN111190829B (zh) * 2019-12-31 2022-04-29 武汉中海庭数据技术有限公司 一种路口测试模型数据自动构建方法和装置
DE102021107904A1 (de) * 2021-03-29 2022-09-29 Conti Temic Microelectronic Gmbh Verfahren und System zur Bestimmung der Bodenebene mit einem künstlichen neuronalen Netz
CN113392762B (zh) * 2021-06-15 2024-04-26 北京纵目安驰智能科技有限公司 路口的检测方法、系统、终端及计算机可读存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3324821B2 (ja) * 1993-03-12 2002-09-17 富士重工業株式会社 車輌用車外監視装置
US5487116A (en) * 1993-05-25 1996-01-23 Matsushita Electric Industrial Co., Ltd. Vehicle recognition apparatus
US5708427A (en) * 1996-04-18 1998-01-13 Bush; E. William Vehicle in-lane positional indication/control by phase detection of RF signals induced in completely-passive resonant-loop circuits buried along a road lane
JP3373773B2 (ja) * 1998-01-27 2003-02-04 株式会社デンソー レーンマーク認識装置、車両走行制御装置および記録媒体
JP3352655B2 (ja) * 1999-09-22 2002-12-03 富士重工業株式会社 車線認識装置
JP2001227944A (ja) 2000-02-14 2001-08-24 Mazda Motor Corp 車両の走行環境認識装置
JP2009041972A (ja) * 2007-08-07 2009-02-26 Toshiba Corp 画像処理装置及びその方法

Also Published As

Publication number Publication date
US20100299109A1 (en) 2010-11-25
JP2010271964A (ja) 2010-12-02
US8340896B2 (en) 2012-12-25
DE102010020867A1 (de) 2011-05-19
DE102010020867B4 (de) 2017-12-28

Similar Documents

Publication Publication Date Title
JP5188452B2 (ja) 道路形状認識装置
JP5502448B2 (ja) 路面形状認識装置
JP5820774B2 (ja) 路面境界推定装置及びプログラム
JP3167752B2 (ja) 車輌用距離検出装置
JP3324821B2 (ja) 車輌用車外監視装置
JP6274557B2 (ja) 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
JP5776795B2 (ja) 立体物検出装置
JP5631581B2 (ja) 道路認識装置
JP6150164B2 (ja) 情報検出装置、移動体機器制御システム、移動体及び情報検出用プログラム
JPH05265547A (ja) 車輌用車外監視装置
KR102772870B1 (ko) 전자기기 및 제어방법
JP6457278B2 (ja) 物体検出装置及び物体検出方法
JP5180126B2 (ja) 道路認識装置
EP2821982B1 (en) Three-dimensional object detection device
JP5073700B2 (ja) 物体検出装置
JP5091897B2 (ja) 停止線検出装置
EP3428876A1 (en) Image processing device, apparatus control system, imaging device, image processing method, and program
JP4788399B2 (ja) 歩行者検出方法、装置、およびプログラム
JP5903901B2 (ja) 車両位置算出装置
JP2018092603A (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
JP4165966B2 (ja) 物体認識装置
US20230286548A1 (en) Electronic instrument, movable apparatus, distance calculation method, and storage medium
JP2013173427A (ja) 立体物検出装置
JP5668891B2 (ja) 立体物検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130122

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160201

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5188452

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250