[go: up one dir, main page]

JP3817174B2 - 車両用画像修整装置及び夜間運転視界支援装置 - Google Patents

車両用画像修整装置及び夜間運転視界支援装置 Download PDF

Info

Publication number
JP3817174B2
JP3817174B2 JP2001400275A JP2001400275A JP3817174B2 JP 3817174 B2 JP3817174 B2 JP 3817174B2 JP 2001400275 A JP2001400275 A JP 2001400275A JP 2001400275 A JP2001400275 A JP 2001400275A JP 3817174 B2 JP3817174 B2 JP 3817174B2
Authority
JP
Japan
Prior art keywords
image
obstacle
density value
vehicle
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001400275A
Other languages
English (en)
Other versions
JP2003199094A (ja
Inventor
宏二 石井
雅之 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yazaki Corp
Original Assignee
Yazaki Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yazaki Corp filed Critical Yazaki Corp
Priority to JP2001400275A priority Critical patent/JP3817174B2/ja
Priority to US10/327,897 priority patent/US7433496B2/en
Priority to DE10261290A priority patent/DE10261290B4/de
Publication of JP2003199094A publication Critical patent/JP2003199094A/ja
Application granted granted Critical
Publication of JP3817174B2 publication Critical patent/JP3817174B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車両用画像修整装置及び夜間運転視界支援装置に関し、より詳細には、車両に搭載され、運転者の視認が困難な前記車両前方の障害物を前記運転者に視認させるために近赤外線カメラにて撮像した前記車両前方の画像を修整する画像修整装置、及び、車両前方を撮像する赤外線カメラの画像をヘッドアップディスプレイ装置に表示することで夜間等における運転者の運転視界を支援する夜間運転視界支援装置に関するものである。
【0002】
【従来の技術】
近年、運転者の視認性向上のために、フロントガラスを反射面として虚像を表示させる、ヘッドアップディスプレイ装置(HUD)と呼ばれる投影型表示ユニットが一部の車種で採用されている。
【0003】
また、人間が外部から受け取る情報のメインは視覚を通じてのものといわれており、車両を運転している場合には、視覚の重要性が非常に高くなっている。そのため、進行方向に控える障害物を早く察知すればするほど、余裕を持って対応できるため、夜間や悪条件下での視界確保を目的とし、安全な走行を支援する夜間運転視界支援装置(ナイトビジョン)が提案されている。
【0004】
この装置は、車体前部に設置した赤外線カメラ、コンピュータ、上述したHUDを有して構成されている。そして、赤外線カメラによって収集された物体が放射する赤外線(熱)を示す映像を運転者前のHUDにモノクロ画像で映し出すことで、闇に潜む見えない障害物、雨や霧で視界が開けないときの車両前方の障害物等を運転者に認識させている。
【0005】
【発明が解決しようとする課題】
しかしながら、上述した夜間運転視界支援装置に用いられる赤外線カメラは、撮影対象物の熱を検知し、表示輝度差として表示する(温度の高いものは明るく表示される)。よって、生物など熱を発しているものが障害物の場合は問題ないが、発熱していない、または、周囲温度との差が少ない障害物は、明るく表示されない場合が考えられる。また、歩行者が防寒具などを着用している場合も明るく表示されないことになる。
【0006】
そこで、カメラに近赤外線カメラを用いる場合が考えられる。しかし、近赤外線カメラの白黒映像をそのままHUDに表示させると、障害物の他にも光量が強い街灯や対向車両のヘッドランプがHUD上に溢れるように表示されてしまい、その表示から運転者に障害物を認識させることが困難であるため、夜間運転視界支援装置の本来の目的を達成することができないという問題があった。
【0007】
よって本発明は、上述した問題点に鑑み、障害物を容易に認識することができる画像に修整する車両用画像修整装置、及び、運転者に障害物を確実に視認させる夜間運転視界支援装置を提供することを課題としている。
【0008】
【課題を解決するための手段】
上記課題を解決するため本発明によりなされた請求項1記載の車両用画像修整装置は、図1の基本構成図に示すように、車両に搭載され、運転者の視認が困難な前記車両前方の障害物を前記運転者に視認させるために近赤外線カメラにて撮像した前記車両前方の画像を修整する画像修整装置であって、前記近赤外線カメラが撮像した前記画像を取り込む画像取込手段21a1と、前記障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が前記障害物濃度値よりも低い濃度値となるように、前記画像取込手段21a1が取り込んだ画像を修整する修整手段21a2と、を備え、そして、前記修整手段21a2は、前記画像取込手段21a1が取り込んだ画像中から放射状に画素の濃度値が低くなっていく領域を特定し、該特定した領域に対して前記修整を行う手段であることを特徴とする。
【0009】
上記請求項1に記載した本発明の車両用画像修整装置によれば、画像取込手段21a1によって取り込まれた画像は、前記障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が前記障害物濃度値よりも低い濃度値となるように、修整手段21a2によって修整される。よって、近赤外線カメラによって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在すれば、その画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラが撮像した画像を障害物の認識が容易な画像とすることができる。従って、近赤外線カメラによって対向車両のヘッドライト、街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0013】
また、画像取込手段21a1によって画像が取り込まれると、修整手段21a2によって画像中から放射状に画素の濃度値が低くなっていく領域が特定され、該特定された領域に対して障害物濃度値よりも高い濃度値の画素が障害物濃度値よりも低い濃度値となるように修整される。よって、画像中から放射状に画素の濃度値が低くなっていく領域、つまり、対向車両のヘッドライト、街灯等が表示された領域を特定し、その領域に対する修整を行っているので、画像から障害物以外のものを排除したり、目立たなくすることができる。従って、障害物の視認のみを可能とする画像に修整することができるため、障害物をより一層確実に認識することができる。
【0014】
上記課題を解決するためになされた請求項記載の発明は、図1の基本構成図に示すように、請求項1に記載の車両用画像修整装置において、前記修整手段21a2が修整した画像に対し、隣接する前記画素の濃度値の差が所定値を越える境界を検出すると、前記濃度値の高い前記境界近傍の画素の前記濃度値を、前記境界から所定範囲に渡って低くなるように調整する調整手段21a4をさらに備えることを特徴とする。
【0015】
上記請求項に記載した本発明の車両用画像修整装置によれば、修整手段21a2によって修整された画像から隣接する画素の濃度値の差が所定値を越える境界が検出されると、該境界近傍の濃度値の高い画素を低い濃度値となるように画像が調整される。よって、隣接する画素の濃度値の差が所定値を越える境界を検出すると、境界近傍の濃度値の高い画素を低い濃度値となるように調整するので、この修整によって隣接する画素に対して急激な濃度値の変化が現れない画像とすることができる。また、段階的に濃度値が変化するように調整すれば、見栄えを良くすることができる。従って、障害物濃度値に基づいて修整を行って隣接する画像に所定値を越える濃度値の差が生じても調整するので、濃度値を大幅に低下する修整を行うことが可能となり、鮮明な画像によって障害物をより一層容易に認識することができる。
【0016】
上記課題を解決するため本発明によりなされた請求項記載の車両用画像修整装置は、図2の基本構成図に示すように、車両に搭載され、運転者の視認が困難な前記車両前方の障害物を前記運転者に視認させるために近赤外線カメラにて撮像した前記車両前方の画像を修整する車両用画像修整装置であって、前記近赤外線カメラが撮像した前記画像を取り込む画像取込手段21a1と、前記画像取込手段21a1が取り込んだ画像における車道を示す車道領域を検出する車道領域検出手段21a5と、前記車道領域検出手段21a5が検出した車道領域に基づいて、前記運転者に視認させる必要のない前記画像の不要領域を特定する不要領域特定手段21a6と、前記不要領域特定手段21a6が特定した不要領域に対応する画素の濃度値を、前記障害物に対応する画素の障害物濃度値よりも低くなるように、前記画像取込手段21a1が取り込んだ画像を修整する修整手段21a2と、を備えることを特徴とする。
【0017】
上記請求項に記載した本発明の車両用画像修整装置によれば、画像取込手段21a1によって画像が取り込まれると、該画像から白線、路肩等の検出によって画像における車道を示す車道領域が車道領域検出手段21a5によって検出される。そして、該車道領域に基づいて運転者に視認させる必要のない画像の不要領域、つまり車道とその近傍以外の領域等が不要領域特定手段21a6によって特定され、この不要領域に対応する画素の濃度値が障害物に対応する画素の障害物濃度値よりも低くなるように画像が修整手段21a2によって修整される。よって、近赤外線カメラによって撮像された画像から車道領域を特定し、この特定した車道領域に基づいて運転者に視認させる必要のない不要領域を特定し、この不要領域の画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラが撮像した画像を障害物の認識が容易な画像とすることができる。また、一般的に街灯等は画像の上部に表示されるため、不要領域を車道領域の上方とすることで、障害物の視認を妨げるようなものを排除したり、目立たなくすることができる。従って、近赤外線カメラによって車道沿いの街灯等の障害物より高輝度なものが近赤外線カメラによって撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0018】
上記課題を解決するためになされた請求項記載の発明は、図2の基本構成図に示すように、請求項に記載の車両用画像修整装置において、前記画像取込手段21a1が取り込んだ画像における前記障害物に対応する障害物領域を検出する障害物領域検出手段21a7をさらに備え、前記不要領域特定手段21a6はさらに、前記障害物領域検出手段21a7が検出した障害物領域に基づいて前記特定を行うことを特徴とする。
【0019】
上記請求項に記載した本発明の車両用画像修整装置によれば、画像取込手段21a1が取り込んだ画像における障害物に対応する障害物領域が、例えばステレオ法による障害物領域検出手段21a7によって検出される。そして、この障害物領域と車道領域とに基づいて不要領域が不要領域特定手段21a6によって特定される。よって、近赤外線カメラによって撮像された画像から車道領域と障害物領域とを特定し、これらの車道領域と障害物領域とに基づいて運転者に視認させる必要のない不要領域を特定するので、不要領域に障害物が含まれることを防止することができる。従って、不要領域に障害物が含まれることを確実に防止することができるため、障害物をより一層容易に認識することができる。
【0022】
上記課題を解決するため本発明によりなされた請求項記載の夜間運転視界支援装置は、図4の基本構成図に示すように、車両前方を撮像する近赤外線カメラ10の画像をヘッドアップディスプレイ装置30に表示することで夜間等における運転者の運転視界を支援する夜間運転視界支援装置において、請求項1〜の何れかに記載の車両用画像修整装置20をさらに備え、前記ヘッドアップディスプレイ装置30は、前記車両用画像修整装置20にて修整した画像を表示することを特徴とする。
【0023】
上記請求項に記載した本発明の夜間運転視界支援装置によれば、近赤外線カメラ10によって撮像された車両前方の画像は、車両用画像修整装置20によって障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が障害物濃度値よりも低い濃度値となるように修整され、該修整された画像がヘッドアップディスプレイ装置30に表示される。よって、近赤外線カメラ10によって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在していると、その画素の濃度値が障害物濃度値よりも低い濃度値となるように車両用画像修整装置20によって修整し、該修整した画像をヘッドアップディスプレイ装置30に表示するので、運転者はヘッドアップディスプレイ装置30に表示される画像から障害物を容易に認識することができる。また、安価な近赤外線カメラ10を用いても、車両用画像修整装置20によって画像を修整するので、障害物の認識が容易な夜間運転視界支援装置を安価で提供することができる。従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる。
【0024】
【発明の実施の形態】
以下、本発明に係る夜間運転視界支援装置の一実施の形態を、図5〜図25の図面を参照して説明する。
【0025】
図5の本発明に係る夜間運転視界支援装置の概略構成を示す構成図において、夜間運転視界支援装置(ナイトビジョン)は、近赤外線カメラ10と、車両用画像修整装置20と、ヘッドアップディスプレイ装置(HUD)30と、操作部40と、を有して構成している。
【0026】
近赤外線カメラ10は、周知のように、近赤外まで撮影可能なカメラであり、補助光として赤外光を車両前方に投射することにより、歩行者や対向車に眩しさを感じさせることなく対象物を明るく撮影することが可能な構成となっている。そして、近赤外線カメラ10は、車両前方の画像を撮像する毎に、その画像を車両用画像修整装置20に出力する。このように遠赤外線カメラよりも安価な近赤外線カメラ10を用いることで、夜間運転視界支援装置のコストダウンを図っている。
【0027】
車両用画像修整装置20は、予め定められたプログラムに従って動作するマイクロコンピュータ(μCOM)21を有する。μCOM21は、周知のように、予め定めたプログラムに従って各種の処理や制御などを行う中央演算処理装置(CPU)21a、CPU21aのためのプログラム等を格納した読み出し専用のメモリであるROM21b、各種のデータを格納するとともにCPU21aの処理作業に必要なエリアを有する読み出し書き込み自在のメモリであるRAM21c等を有して構成している。
【0028】
車両用画像修整装置20はさらに、μCOM21に接続しているインタフェース部22を備え、このインタフェース部22には、近赤外線カメラ10、HUD30、操作部40が接続される。そして、このインタフェース部22を介して近赤外線カメラ10及び操作部40からの各種情報がμCOM21に入力されると共に、μCOM21から画像等の情報がHUD30に出力される。
【0029】
HUD30は、周知のように、車両前方を撮像する近赤外線カメラ10の画像を車両のフロントガラスの投影エリア上に投影させて、前記車両のアイポイントからフロントガラスを透して視認される前記車両の前景に前記画像を重畳視認させる装置である。そして、HUD30は、例えば、FE(フィールドエミッション)ディスプレイ、蛍光表示管、EL(エレクトロルミネッセンス)ディスプレイ等や、バックライト付きの液晶ディスプレイ等からなる表示デバイス31を備え、ダッシュボード内等に設けた表示デバイス31はコンバイナ、フロントガラスにμCOM21が出力した画像を投影する。
【0030】
操作部40は、HUD30に対する表示開始及び表示終了を手動により操作するための複数のスイッチ、ボタン等を有して構成しており、例えば車両のステアリングホイール等に設けられ、運転者により手動で押圧されてON/OFFが操作される。そして、この操作部40のON/OFF状態を示す状態情報はμCOM21に出力される。
【0031】
[第1の実施の形態]
ここで、図6は図5のCPUが実行する第1の実施の形態における処理概要の一例を示すフローチャートであり、図7は第1の実施の形態を説明するための第1の画像を示す図であり、図8は第1の実施の形態を説明するための第2の画像を示す図であり、図9は第1の実施の形態を説明するための第3の画像を示す図である。
【0032】
車両用画像修整装置20のROM21bには、近赤外線カメラ10が撮像した画像を取り込む画像取込手段、障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が前記障害物濃度値よりも低い濃度値となるように、前記画像取込手段が取り込んだ画像を修整する修整手段、前記画像取込手段が取り込んだ画像を構成する画素の濃度値の分布に基づいて前記障害物濃度値を画定する画定手段、前記修整手段が修整した画像に対し、隣接する前記画素の濃度値の差が所定値を越える境界を検出すると、該境界近傍の濃度値の高い前記画素の濃度値を所定範囲に渡って前記境界から段階的に前記濃度値が高くなるように調整する調整手段、としてμCOM21(コンピュータ)を機能させるためのプログラム等を記憶している。
【0033】
次に、第1の実施の形態における車両用画像調整装置20のCPU21aが行う処理概要の一例を、図6のフローチャートを参照して以下に説明する。
【0034】
操作部40の操作に応じてCPU21aが起動されると、ステップS10(画像取込手段)において、近赤外線カメラ10が撮像した図7に示す画像がRAM21cに取り込まれ、その後ステップS11に進む。なお、図7において、画像にはその中心に向かう一対の白線が撮像され、これらの白線の内側が車道となっている。そして、画面の左側には車道を横断しようとしている歩行者(障害物に相当)が撮像されており、画像上には対向車両のヘッドライトの光、街灯の光等が中心部の明度が高い光点(図中の放射状の白色部分)となって撮像されている。
【0035】
ステップS11(画定手段)において、取り込んだ画像を構成する全画素の濃度値のヒストグラムが生成され、このヒストグラムが閾値で2つのクラスに分割され、2つのクラス間の分割が最も良くなるように閾値が画定され、この閾値が障害物濃度値としてRAM21cに記憶され、その後ステップS12に進む。
【0036】
なお、他の実施の形態としては、全画素の濃度値の平均値を障害物濃度値としたり、例えば濃度値が0〜255までのときにその7割付近の179の値を障害物濃度値として予めROM21bに記憶しておくような種々異なる実施の形態とすることができる。
【0037】
ステップS12において、取り込んだ画像の先頭の画素が着目されることでその濃度値が抽出され、ステップS13において、抽出した濃度値が障害物濃度値以上であるか否かが判定される。障害物濃度値以上ではないと判定された場合は(ステップS13でN)、ステップS15に進む。一方、障害物濃度値以上であると判定された場合は(ステップS13でY)、光点であると見なされ、ステップS14において、濃度値が0に変更され、その後ステップS15に進む。なお、濃度値の変更については、その値を単に低下させるだけでも差し支えない。
【0038】
ステップS15において、1画面分の画素を処理したか否かが判定される。1画面分の画素を処理していないと判定された場合は(ステップS15でN)、ステップS16において、処理した画素の次の画素が着目されることでその濃度値が抽出され、ステップS13に戻り、一連の処理が繰り返される。一方、1画面分の画素を処理したと判定された場合は(ステップS15でY)、ステップS17に進む。
【0039】
全ての画素に対する処理が終了すると、取り込まれた画像は図8に示すように光点の中心部分が暗くなり、その周りが急激に明るくなっているため、ステップS17(調整手段)において、隣接する画素の濃度値の差が予めROM21bに記憶いている所定値を越える境界を検出すると、該境界近傍の濃度値の高い前記画素の濃度値を所定範囲に渡って境界から段階的に濃度値が高くなるように画素の濃度値が修整され、つまり、境界付近の領域がぼかされ、その後ステップS18に進む。なお、前記所定値とは、例えば、任意に定められた判定用閾値である。
【0040】
ステップS18において、修整された画像がインタフェース部22を介してHUD30の表示デバイス31に出力され、その後ステップS10に戻り、次の画像に対する一連の処理が繰り返される。そして、HUD30には、図9に示すように、歩行者(障害物)よりも光点部分が暗くなるように修整された画像が表示される。
【0041】
以上説明したように、ステップS12〜S16の一連の処理が修整手段として機能している。よって、μCOM21のCPU21a1が、特許請求の範囲に記載の画像取込手段、修整手段、画定手段、並びに調整手段として機能している。
【0042】
次に、上述した構成による第1の実施の形態における夜間運転視界支援装置の動作(作用)の一例を、以下に説明する。
【0043】
近赤外線カメラ10によって図7に示す画像が撮像されると、この画像が車両用画像修整装置20に取り込まれる。そして、車両用画像修整装置20において、取り込んだ画像を構成する画素の濃度値の分布に基づいて障害物濃度値が画定され、この障害物濃度値よりも高い濃度値の画素が存在すれば、その画素の濃度値が障害物濃度値よりも低い濃度値となるように画像が修整される。そして、図8に示すように、修整された画像から隣接する画素の濃度値の差が所定値を越える境界が検出されると、該境界近傍の濃度値の高い画素を低い濃度値となるように画像が調整される。そして、図9に示すように、歩行者(障害物)よりも光点部分が暗くなるように修整された画像がHUD30に表示される。
【0044】
以上説明したように、近赤外線カメラ10によって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在すれば、その画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラ10が撮像した画像を障害物の認識が容易な画像とすることができる。よって、近赤外線カメラ10によって対向車両のヘッドライト、街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0045】
また、障害物濃度値は取り込んだ画像を構成する画素の濃度値のヒストグラム(分布)に基づいて画定するので、取り込んだ画像に適した障害物濃度値を自動的に算出することができる。さらに、隣接する画素の濃度値の差が所定値を越える境界を検出すると、境界近傍の濃度値の高い画素を低い濃度値となるように調整するので、この修整によって隣接する画素に対して急激な濃度値の変化が現れない画像とすることができる。
【0046】
従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる夜間運転視界支援装置を提供することができる。
【0047】
[第2の実施の形態]
ここで、図10は図5のCPUが実行する第2の実施の形態における処理概要の一例を示すフローチャートであり、図11は第2の実施の形態を説明するための第4の画像を示す図であり、図12は第2の実施の形態を説明するための第5の画像を示す図である。
【0048】
車両用画像修整装置20のROM21bには、近赤外線カメラ10が撮像した画像を取り込む画像取込手段、障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が前記障害物濃度値よりも低い濃度値となるように、前記画像取込手段が取り込んだ画像を修整する修整手段、としてμCOM21(コンピュータ)を機能させるためのプログラム等を記憶している。
【0049】
また、前記修整手段は、前記画像取込手段が取り込んだ画像中から放射状に画素の濃度値が低くなっていく領域を特定し、該特定した領域に対して前記修整を行うようにμCOM21(コンピュータ)を機能させる。
【0050】
次に、第2の実施の形態における車両用画像調整装置20のCPU21aが行う処理概要の一例を、図10のフローチャートを参照して以下に説明する。
【0051】
操作部40の操作に応じてCPU21aが起動されると、ステップS20(画像取込手段)において、近赤外線カメラ10が撮像した図7に示す画像がRAM21cに取り込まれ、その後ステップS21に進む。なお、図7において、画像にはその中心に向かう一対の白線が撮像され、これらの白線の内側が車道となっている。そして、画面の左側には車道を横断しようとしている歩行者(障害物に相当)が撮像されており、画像上には対向車両のヘッドライトの光、街灯の光等が中心部の明度が高い光点(図中の放射状の白色部分)となって撮像されている。
【0052】
対向車両のヘッドライト、街灯等の直接光は、中心部の濃度値(輝度)が高く、中心部から各方向に離れていくに従って濃度値が段階的に減衰していくという放射状の分布となるため、ステップS21において、取り込んだ画像中から放射状に画素の濃度値が低くなっていく領域、つまり、図11中の光点を囲む破線で示す領域が特定され、その後ステップS22において、特定された領域に対して例えば図の左側から順にラベルを割り振るラベリングが行われ、その後ステップS23に進む。
【0053】
ステップS23において、先頭のラベルに対応する領域が着目され、その後ステップS24において、着目された領域の全ての画素に対し、その先頭から順に各画素の濃度値が例えばROM21bに予め定められた障害物濃度値以下となるように修整され、その後ステップS25に進む。
【0054】
ステップS25において、全てのラベルに対応する領域を処理したか否かが判定される。全てのラベルを処理していないと判定された場合は(ステップS25でN)、ステップS26において、処理したラベルの次のラベルに対応する領域が着目され、ステップS24に戻り、一連の処理が繰り返される。
【0055】
また、ステップS25で全てのラベルを処理したと判定された場合は(ステップS25でY)、ステップS27において、修整が終了した画像がインタフェース部22を介してHUD30の表示デバイス31に出力され、その後ステップS20に戻り、次の画像に対する一連の処理が繰り返される。そして、HUD30には、図12に示すように、ラベリングした領域の光点部分が歩行者(障害物)よりも暗くなるように修整された画像が表示される。
【0056】
以上説明したように、ステップS21〜S26の一連の処理が修整手段として機能している。よって、μCOM21のCPU21a1が、特許請求の範囲に記載の画像取込手段及び修整手段として機能している。
【0057】
なお、第1の実施の形態と同様に、修整した画像における光点の中心部分が暗くなり、その周りが急激に明るくなっている場合は、図6のステップS17をステップS27の前に追加することで対応することができる。
【0058】
次に、上述した構成による第2の実施の形態における夜間運転視界支援装置の動作(作用)の一例を、以下に説明する。
【0059】
近赤外線カメラ10によって図7に示す画像が撮像されると、この画像が車両用画像修整装置20に取り込まれる。そして、車両用画像修整装置20において、取り込んだ画像中から図11に示すように光点を囲む破線で示す領域が特定され、各領域に対してラベリングが行われる。そして、各領域における各画素の濃度値が例えばROM21bに予め定められた障害物濃度値以下となるように画像が修整され、その結果、図12に示すように、ラベリングした領域の光点部分が歩行者(障害物)よりも暗くなるように修整された画像がHUD30に表示される。
【0060】
以上説明したように、近赤外線カメラ10によって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在すれば、その画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラ10が撮像した画像を障害物の認識が容易な画像とすることができる。よって、近赤外線カメラ10によって対向車両のヘッドライト、街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0061】
また、画像中から放射状に画素の濃度値が低くなっていく領域、つまり、対向車両のヘッドライト、街灯等が表示された領域を特定し、その領域に対する修整を行っているので、画像から障害物以外のものを排除したり、目立たなくすることができる。よって、障害物の視認のみを可能とする画像に修整することができるため、障害物をより一層確実に認識することができる。
【0062】
従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる夜間運転視界支援装置を提供することができる。
【0063】
[第3の実施の形態]
ここで、図13は図5のCPUが実行する第3の実施の形態における処理概要の一例を示すフローチャートであり、図14は第3の実施の形態を説明するための第6の画像を示す図であり、図15は第3の実施の形態を説明するための第7の画像を示す図であり、図16は第3の実施の形態を説明するための第8の画像を示す図であり、図17は第3の実施の形態を説明するための第9の画像を示す図である。
【0064】
車両用画像修整装置20のROM21bには、近赤外線カメラ10が撮像した前記画像を取り込む画像取込手段、前記画像取込手段が取り込んだ画像における車道を示す車道領域を検出する車道領域検出手段、前記車道領域検出手段が検出した車道領域に基づいて、前記運転者に視認させる必要のない前記画像の不要領域を特定する不要領域特定手段、前記不要領域特定手段が特定した不要領域に対応する画素の濃度値を、前記障害物に対応する画素の障害物濃度値よりも低くなるように、前記画像取込手段が取り込んだ画像を修整する修整手段、としてμCOM21(コンピュータ)を機能させるためのプログラム等を記憶している。
【0065】
次に、第3の実施の形態における車両用画像調整装置20のCPU21aが行う処理概要の一例を、図13のフローチャートを参照して以下に説明する。
【0066】
操作部40の操作に応じてCPU21aが起動されると、ステップS30(画像取込手段)において、近赤外線カメラ10が撮像した図14に示す画像がRAM21cに取り込まれ、その後ステップS31に進む。なお、図14において、画像にはその中心に向かう一対の白線が撮像され、これらの白線の内側が車道となっている。そして、画面の左側には車道を横断しようとしている歩行者(障害物に相当)が撮像されており、画像上には対向車両のヘッドライトの光、街灯の光等が中心部の明度が高い光点(図中の放射状の白色部分)となって撮像されている。
【0067】
ステップS31(車道領域検出手段)において、図15に示す画像中における白線、路肩等(白色の破線に相当)が検出され、該検出された白線、路肩等に挟まれた領域が車道を示す車道領域として検出され、その後ステップS32(不要領域特定手段)において、例えば車道領域と白線、路肩等から約2mの高さ以上の領域、つまり、図16に示す画像中における黒色の破線で示す領域が、運転者に視認させる必要のない画像の不要領域として特定され、その後ステップS33に進む。
【0068】
ステップS33において、取り込んだ画像の先頭の画素が着目されることでその濃度値が抽出され、その後ステップS34において、画素の位置が不要領域内であるか否かが判定される。不要領域内ではないと判定された場合は(ステップS34でN)、ステップS36に進む。一方、不要領域内であると判定された場合は(ステップS34でY)、ステップS35に進む。
【0069】
ステップS35において、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更され、その後ステップS36において、1画面分の画素を処理したか否かが判定される。1画面分の画素を処理していないと判定された場合は(ステップS36でN)、ステップS37において、処理した画素の次の画素が着目されることでその濃度値が抽出され、ステップS34に戻り、一連の処理が繰り返される。一方、1画面分の画素を処理したと判定された場合は(ステップS36でY)、ステップS38に進む。
【0070】
ステップS38において、修整された画像がインタフェース部22を介してHUD30の表示デバイス31に出力され、その後ステップS30に戻り、次の画像に対する一連の処理が繰り返される。そして、HUD30には、図17に示すように、歩行者(障害物)よりも上方(画面の約上半分)における光点は排除され、対向車両のヘッドライトに対応する光点と街灯に対応する光点の一部が残った画像が表示される。
【0071】
以上説明したように、ステップS33〜S37の一連の処理が修整手段として機能している。よって、μCOM21のCPU21a1が、特許請求の範囲に記載の画像取込手段、車道領域検出手段、不要領域特定手段、並びに修整手段として機能している。
【0072】
次に、上述した構成による第3の実施の形態における夜間運転視界支援装置の動作(作用)の一例を、以下に説明する。
【0073】
近赤外線カメラ10によって図14に示す画像が撮像されると、この画像が車両用画像修整装置20に取り込まれる。そして、車両用画像修整装置20において、取り込んだ画像中における白線、路肩等(図15における白色の破線に相当)が検出され、該検出された白線、路肩等に挟まれた領域が車道を示す車道領域として検出され、これらの車道領域と白線、路肩等から約2mの高さ以上の領域(図16の黒色の破線で示す領域に相当)が、運転者に視認させる必要のない画像の不要領域として特定される。そして、特定された画像の不要領域に対し、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更されることで画像が修整され、図17に示すように、歩行者(障害物)よりも上方(画面の約上半分)における光点は排除され、対向車両のヘッドライトに対応する光点と街灯に対応する光点の一部が残った画像がHUD30に表示される。
【0074】
以上説明したように、近赤外線カメラ10によって撮像された画像から車道領域を特定し、この特定した車道領域に基づいて運転者に視認させる必要のない不要領域を特定し、この不要領域の画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラ10が撮像した画像を障害物の認識が容易な画像とすることができる。また、一般的に街灯等は画像の上部に表示されるため、不要領域を車道領域の上方とすることで、障害物の視認を妨げるようなものを排除したり、目立たなくすることができる。よって、近赤外線カメラ10によって車道沿いの街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0075】
従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる夜間運転視界支援装置を提供することができる。
【0076】
[第4の実施の形態]
ここで、図18は図5のCPUが実行する第4の実施の形態における処理概要の一例を示すフローチャートであり、図19は第4の実施の形態を説明するための第10の画像を示す図であり、図20は第4の実施の形態を説明するための第11の画像を示す図であり、図21は第4の実施の形態を説明するための第12の画像を示す図である。
【0077】
車両用画像修整装置20のROM21bには、第3の実施の形態で説明した画像取込手段、車道領域検出手段、不要領域特定手段、並びに修整手段に加え、前記画像取込手段が取り込んだ画像における前記障害物に対応する障害物領域を検出する障害物領域検出手段、前記不要領域特定手段を前記障害物領域検出手段21a7が検出した障害物領域に基づいて前記特定を行う手段、としてμCOM21(コンピュータ)を機能させるためのプログラム等を記憶している。
【0078】
次に、第4の実施の形態における車両用画像調整装置20のCPU21aが行う処理概要の一例を、図18のフローチャートを参照して以下に説明する。
【0079】
操作部40の操作に応じてCPU21aが起動されると、ステップS40(画像取込手段)において、第3の実施の形態と同様に、近赤外線カメラ10が撮像した図14に示す画像がRAM21cに取り込まれ、その後、ステップS41(車道領域検出手段)において、図15に示す画像中における白線、路肩等(白色の破線に相当)が検出され、該検出された白線、路肩等に挟まれた領域が車道を示す車道領域として検出され、その後ステップS42に進む。
【0080】
ステップS42(障害物領域検出手段)において、図19に示す画像中における歩行者(障害物に相当)が例えばROM21bに予め定めた障害物濃度値等に基づいて検出され、該検出された歩行者を囲む領域(白色の破線に相当)が障害物に対応する障害物領域として検出され、その後ステップS43に進む。
【0081】
ステップS43(不要領域特定手段)において、検出された車道領域及び障害物領域に基づいて、画像中におけるの車道領域及び障害物領域以外の上部領域、つまり、図20に示す画像中における黒色の破線で示す領域が、運転者に視認させる必要のない画像の不要領域として特定され、その後ステップS44に進む。
【0082】
ステップS44において、取り込んだ画像の先頭の画素が着目されることでその濃度値が抽出され、その後ステップS45において、画素の位置が不要領域内であるか否かが判定される。不要領域内ではないと判定された場合は(ステップS45でN)、ステップS47に進む。一方、不要領域内であると判定された場合は(ステップS45でY)、ステップS46に進む。
【0083】
ステップS46において、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更され、その後ステップS47において、1画面分の画素を処理したか否かが判定される。1画面分の画素を処理していないと判定された場合は(ステップS47でN)、ステップS48において、処理した画素の次の画素が着目されることでその濃度値が抽出され、ステップS45に戻り、一連の処理が繰り返される。一方、1画面分の画素を処理したと判定された場合は(ステップS47でY)、ステップS49に進む。
【0084】
ステップS49において、修整された画像がインタフェース部22を介してHUD30の表示デバイス31に出力され、その後ステップS40に戻り、次の画像に対する一連の処理が繰り返される。そして、HUD30には、図21に示すように、歩行者(障害物)よりも上方における光点は排除され、対向車両のヘッドライトに対応する光点のみが残った画像が表示される。
【0085】
以上説明したように、ステップS44〜S48の一連の処理が修整手段として機能している。よって、μCOM21のCPU21a1が、特許請求の範囲に記載の画像取込手段、車道領域検出手段、不要領域特定手段、修整手段、並びに障害物領域検出手段として機能している。
【0086】
次に、上述した構成による第4の実施の形態における夜間運転視界支援装置の動作(作用)の一例を、以下に説明する。
【0087】
近赤外線カメラ10によって図14に示す画像が撮像されると、この画像が車両用画像修整装置20に取り込まれる。そして、車両用画像修整装置20において、取り込んだ画像中における白線、路肩等(図15における白色の破線に相当)が検出され、かつ、画像中における歩行者を囲む領域(図19における白色の破線に相当)が障害物に対応する障害物領域として検出される。
【0088】
検出された車道領域及び障害物領域に基づいて、画像中におけるの車道領域及び障害物領域以外の上部領域、つまり、図20に示す画像中における黒色の破線で示す領域が、運転者に視認させる必要のない画像の不要領域として特定される。そして、特定された画像の不要領域に対し、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更されることで画像が修整され、図21に示すように、歩行者(障害物)よりも上方における光点は排除され、対向車両のヘッドライトに対応する光点のみが残った画像がHUD30に表示される。
【0089】
以上説明したように、近赤外線カメラ10によって撮像された画像から車道領域を特定し、この特定した車道領域に基づいて運転者に視認させる必要のない不要領域を特定し、この不要領域の画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラ10が撮像した画像を障害物の認識が容易な画像とすることができる。また、一般的に街灯等は画像の上部に表示されるため、不要領域を車道領域の上方とすることで、障害物の視認を妨げるようなものを排除したり、目立たなくすることができる。よって、近赤外線カメラ10によって車道沿いの街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0090】
また、近赤外線カメラ10によって撮像された画像から車道領域と障害物領域とを特定し、これらの車道領域と障害物領域とに基づいて運転者に視認させる必要のない不要領域を特定するので、不要領域に障害物が含まれることを防止することができる。
【0091】
従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる夜間運転視界支援装置を提供することができる。
【0092】
[第5の実施の形態]
ここで、図22は図5のCPUが実行する第5の実施の形態における処理概要の一例を示すフローチャートであり、図23は第5の実施の形態を説明するための第13の画像を示す図であり、図24は第5の実施の形態を説明するための第14の画像を示す図であり、図25は第5の実施の形態を説明するための第15の画像を示す図である。
【0093】
車両用画像修整装置20のROM21bには、近赤外線カメラ10が撮像した画像を取り込む画像取込手段、前記画像取込手段が取り込んだ画像を車両のヘッドライトによって照射される照射領域を示す領域に対応する画素の濃度値が前記障害物に対応する画素の障害物濃度値よりも低くなるように修整する修整手段、としてμCOM21(コンピュータ)を機能させるためのプログラム、前記画像取込手段が取り込む画像における前記車両のヘッドライトによって照射される照射領域を示す照射領域情報等を記憶している。よって、第5の実施の形態では、ROM21bが特許請求の範囲に記載の照射領域情報記憶手段として機能している。
【0094】
次に、第5の実施の形態における車両用画像調整装置20のCPU21aが行う処理概要の一例を、図22のフローチャートを参照して以下に説明する。
【0095】
操作部40の操作に応じてCPU21aが起動されると、ステップS50(画像取込手段)において、近赤外線カメラ10が撮像した図23に示す画像がRAM21cに取り込まれ、その後ステップS51に進む。
【0096】
なお、図23において、画像にはその中心に向かう一対の白線が撮像され、これらの白線の内側が車道となっている。そして、画面の左側には車道を横断しようとしている歩行者(障害物に相当)が撮像されており、画像上には対向車両のヘッドライトの光、街灯の光等が中心部の明度が高い光点(図中の放射状の白色部分)となって撮像されている。また、第5の実施の形態では、右側通行の車道の場合について説明する。
【0097】
ステップS51において、取り込んだ画像の先頭の画素が着目されることでその濃度値が抽出され、その後ステップS52において、画素の位置がROM21bに記憶している照射領域情報が示す照射領域内、つまり、図24に示す画像中における下側約3分の1に相当する黒色の破線で示す領域内であるか否かが判定される。照射領域内ではないと判定された場合は(ステップS52でN)、ステップS54に進む。一方、照射領域内であると判定された場合は(ステップS52でY)、ステップS53に進む。
【0098】
なお、第5の実施の形態では、ROM21bの照射領域情報としては、車両のヘッドライトがロービームのときに照射されるであろう画像の領域を示す情報を記憶しているが、ハイビームのときの照射領域など種々異なる実施の形態とすることができる。
【0099】
ステップS53において、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更され、その後ステップS54において、1画面分の画素を処理したか否かが判定される。1画面分の画素を処理していないと判定された場合は(ステップS54でN)、ステップS55において、処理した画素の次の画素が着目されることでその濃度値が抽出され、ステップS52に戻り、一連の処理が繰り返される。一方、1画面分の画素を処理したと判定された場合は(ステップS54でY)、ステップS56に進む。
【0100】
ステップS56において、修整された画像がインタフェース部22を介してHUD30の表示デバイス31に出力され、その後ステップS50に戻り、次の画像に対する一連の処理が繰り返される。そして、HUD30には、図25に示すように、歩行者(障害物)よりも下方における対向車両のヘッドライト等に対応する光点は排除され、街灯等に対応する光点が残った画像が表示される。
【0101】
以上説明したように、ステップS51〜S55の一連の処理が修整手段として機能している。よって、μCOM21のCPU21a1が、特許請求の範囲に記載の画像取込手段及び修整手段として機能している。
【0102】
次に、上述した構成による第5の実施の形態における夜間運転視界支援装置の動作(作用)の一例を、以下に説明する。
【0103】
近赤外線カメラ10によって図23に示す画像が撮像されると、この画像が車両用画像修整装置20に取り込まれる。そして、車両用画像修整装置20において、取り込んだ画像中における照射領域、図24に示す画像中における下側約3分の1に相当する黒色の破線で示す領域内に対し、例えばROM21bに予め定められた障害物濃度値以下となるように画素の濃度値が変更されることで、図25に示すような画像に修整され、歩行者(障害物)よりも下方における対向車両のヘッドライト等に対応する光点は排除され、街灯等に対応する光点が残った画像がHUD30に表示される。
【0104】
以上説明したように、車両のヘッドライトが照射される領域は運転者の視認が可能なため、この領域を示す照射領域情報を記憶しておき、この照射領域情報が示す照射領域に対応する画素の濃度値が障害物に対応する画素の障害物濃度値よりも低くなるように取り込んだ画像を修整するので、近赤外線カメラ10が撮像した画像を障害物の認識が容易な画像とすることができる。よって、近赤外線カメラ10によって接近する対向車両のヘッドライト等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができる。
【0105】
従って、ヘッドアップディスプレイ装置30上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができる夜間運転視界支援装置を提供することができる。
【0106】
なお、上述した第1〜第5の実施の形態では、夜間運転視界支援装置が車両用画像修整装置20を有する構成とした場合の実施の形態について説明したが、本発明はこれに限定するものではなく、近赤外線カメラ10、HUD30の表示デバイス31等にて車両用画像修整装置20を実現するなど種々異なる実施の形態とすることができる。
【0107】
また、上述した第1〜第5の実施の形態では、画像取込手段、修整手段、画定手段、調整手段、車道領域検出手段、不要領域特定手段、障害物領域検出手段、並びに照射領域情報記憶手段を車両用画像修整装置20のCPU21a1にて実現した場合について説明したが、本発明はこれに限定するものではなく、DSPLSI、ASIC等を用いて実現するなど種々異なる実施の形態とすることができる。
【0108】
【発明の効果】
以上説明したように請求項1に記載した本発明の車両用画像修整装置によれば、近赤外線カメラによって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在すれば、その画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラが撮像した画像を障害物の認識が容易な画像とすることができる。従って、近赤外線カメラによって対向車両のヘッドライト、街灯等の障害物より高輝度なものが撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができるという効果を奏する。
【0110】
また、画像中から放射状に画素の濃度値が低くなっていく領域、つまり、対向車両のヘッドライト、街灯等が表示された領域を特定し、その領域に対する修整を行っているので、画像から障害物以外のものを排除したり、目立たなくすることができる。従って、障害物の視認のみを可能とする画像に修整することができるため、障害物をより一層確実に認識することができるという効果を奏する。
【0111】
請求項に記載の発明によれば、請求項1に記載の発明の効果に加え、隣接する画素の濃度値の差が所定値を越える境界を検出すると、境界近傍の濃度値の高い画素を低い濃度値となるように調整するので、この修整によって隣接する画素に対して急激な濃度値の変化が現れない画像とすることができる。また、段階的に濃度値が変化するように調整すれば、見栄えを良くすることができる。従って、障害物濃度値に基づいて修整を行って隣接する画像に所定値を越える濃度値の差が生じても調整するので、濃度値を大幅に低下する修整を行うことが可能となり、鮮明な画像によって障害物をより一層容易に認識することができるという効果を奏する。
【0112】
以上説明したように請求項に記載した本発明の車両用画像修整装置によれば、近赤外線カメラによって撮像された画像から車道領域を特定し、この特定した車道領域に基づいて運転者に視認させる必要のない不要領域を特定し、この不要領域の画素の濃度値が障害物濃度値よりも低い濃度値となるように画像を修整するので、近赤外線カメラが撮像した画像を障害物の認識が容易な画像とすることができる。また、一般的に街灯等は画像の上部に表示されるため、不要領域を車道領域の上方とすることで、障害物の視認を妨げるようなものを排除したり、目立たなくすることができる。従って、近赤外線カメラによって車道沿いの街灯等の障害物より高輝度なものが近赤外線カメラによって撮像されても、その画像は障害物を鮮明に表示するため、障害物を容易に認識することができるという効果を奏する。
【0113】
請求項に記載の発明によれば、請求項に記載の発明の効果に加え、近赤外線カメラによって撮像された画像から車道領域と障害物領域とを特定し、これらの車道領域と障害物領域とに基づいて運転者に視認させる必要のない不要領域を特定するので、不要領域に障害物が含まれることを防止することができる。従って、不要領域に障害物が含まれることを確実に防止することができるため、障害物をより一層容易に認識することができるという効果を奏する。
【0115】
以上説明したように請求項に記載した本発明の夜間運転視界支援装置によれば、近赤外線カメラによって撮像された画像に障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が存在していると、その画素の濃度値が障害物濃度値よりも低い濃度値となるように車両用画像修整装置によって修整し、該修整した画像をヘッドアップディスプレイ装置に表示するので、運転者はヘッドアップディスプレイ装置に表示される画像から障害物を容易に認識することができる。また、安価な近赤外線カメラを用いても、車両用画像修整装置によって画像を修整するので、障害物の認識が容易な夜間運転視界支援装置を安価で提供することができる。従って、ヘッドアップディスプレイ装置上には光量が強い街灯や対向車両のヘッドランプよりも鮮明に障害物を表示するので、運転者に障害物を確実に視認させることが可能となり、夜間等における運転者の運転視界をより一層確実に支援することができるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の車両用画像修整装置の基本構成を示す第1の構成図である。
【図2】本発明の車両用画像修整装置の基本構成を示す第2の構成図である。
【図3】本発明の車両用画像修整装置の基本構成を示す第3の構成図である。
【図4】本発明の夜間運転視界支援装置の基本構成を示す構成図である。
【図5】本発明に係る夜間運転視界支援装置の概略構成を示す構成図である。
【図6】図5のCPUが実行する第1の実施の形態における処理概要の一例を示すフローチャートである。
【図7】第1の実施の形態を説明するための第1の画像を示す図である。
【図8】第1の実施の形態を説明するための第2の画像を示す図である。
【図9】第1の実施の形態を説明するための第3の画像を示す図である。
【図10】図5のCPUが実行する第2の実施の形態における処理概要の一例を示すフローチャートである。
【図11】第2の実施の形態を説明するための第4の画像を示す図である。
【図12】第2の実施の形態を説明するための第5の画像を示す図である。
【図13】図5のCPUが実行する第3の実施の形態における処理概要の一例を示すフローチャートである。
【図14】第3の実施の形態を説明するための第6の画像を示す図である。
【図15】第3の実施の形態を説明するための第7の画像を示す図である。
【図16】第3の実施の形態を説明するための第8の画像を示す図である。
【図17】第3の実施の形態を説明するための第9の画像を示す図である。
【図18】図5のCPUが実行する第4の実施の形態における処理概要の一例を示すフローチャートである。
【図19】第4の実施の形態を説明するための第10の画像を示す図である。
【図20】第4の実施の形態を説明するための第11の画像を示す図である。
【図21】第4の実施の形態を説明するための第12の画像を示す図である。
【図22】図5のCPUが実行する第5の実施の形態における処理概要の一例を示すフローチャートである。
【図23】第5の実施の形態を説明するための第13の画像を示す図である。
【図24】第5の実施の形態を説明するための第14の画像を示す図である。
【図25】第5の実施の形態を説明するための第15の画像を示す図である。
【符号の説明】
10 近赤外線カメラ
20 車両用画像修整装置
21a1 画像取込手段(CPU)
21a2 修整手段(CPU)
21a3 画定手段(CPU)
21a4 調整手段(CPU)
21a5 車道領域検出手段(CPU)
21a6 不要領域特定手段(CPU)
21a7 障害物領域検出手段(CPU)
21b1 照射領域情報記憶手段(CPU)
30 ヘッドアップディスプレイ装置(HUD)

Claims (5)

  1. 車両に搭載され、運転者の視認が困難な前記車両前方の障害物を前記運転者に視認させるために近赤外線カメラにて撮像した前記車両前方の画像を修整する画像修整装置であって、
    前記近赤外線カメラが撮像した前記画像を取り込む画像取込手段と、
    前記障害物に対応する画素の障害物濃度値よりも高い濃度値の画素が前記障害物濃度値よりも低い濃度値となるように、前記画像取込手段が取り込んだ画像を修整する修整手段と、を備え、そして、
    前記修整手段は、前記画像取込手段が取り込んだ画像中から放射状に画素の濃度値が低くなっていく領域を特定し、該特定した領域に対して前記修整を行う手段である
    ことを特徴とする車両用画像修整装置。
  2. 前記修整手段が修整した画像に対し、隣接する前記画素の濃度値の差が所定値を越える境界を検出すると、前記濃度値の高い前記境界近傍の画素の前記濃度値を、前記境界から所定範囲に渡って低くなるように調整する調整手段をさらに備える
    ことを特徴とする請求項1に記載の車両用画像修整装置。
  3. 車両に搭載され、運転者の視認が困難な前記車両前方の障害物を前記運転者に視認させるために近赤外線カメラにて撮像した前記車両前方の画像を修整する車両用画像修整装置であって、
    前記近赤外線カメラが撮像した前記画像を取り込む画像取込手段と、
    前記画像取込手段が取り込んだ画像における車道を示す車道領域を検出する車道領域検出手段と、
    前記車道領域検出手段が検出した車道領域に基づいて、前記運転者に視認させる必要のない前記画像の不要領域を特定する不要領域特定手段と、
    前記不要領域特定手段が特定した不要領域に対応する画素の濃度値を、前記障害物に対応する画素の障害物濃度値よりも低くなるように、前記画像取込手段が取り込んだ画像を修整する修整手段と、
    を備えることを特徴とする車両用画像修整装置。
  4. 前記画像取込手段が取り込んだ画像における前記障害物に対応する障害物領域を検出する障害物領域検出手段をさらに備え、
    前記不要領域特定手段はさらに、前記障害物領域検出手段が検出した障害物領域に基づいて前記特定を行う
    ことを特徴とする請求項3に記載の車両用画像修整装置。
  5. 車両前方を撮像する近赤外線カメラの画像をヘッドアップディスプレイ装置に表示することで夜間等における運転者の運転視界を支援する夜間運転視界支援装置において、
    請求項1〜4の何れかに記載の車両用画像修整装置をさらに備え、
    前記ヘッドアップディスプレイ装置は、前記車両用画像修整装置にて修整した画像を表示する
    ことを特徴とする夜間運転視界支援装置
JP2001400275A 2001-12-28 2001-12-28 車両用画像修整装置及び夜間運転視界支援装置 Expired - Fee Related JP3817174B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2001400275A JP3817174B2 (ja) 2001-12-28 2001-12-28 車両用画像修整装置及び夜間運転視界支援装置
US10/327,897 US7433496B2 (en) 2001-12-28 2002-12-26 In-vehicle image correcting device and night driving view field supporting device
DE10261290A DE10261290B4 (de) 2001-12-28 2002-12-27 Im-Fahrzeug-Bildkorrektur-Einrichtung und Nachtfahrt-Sichtfeld-Unterstützungs-Einrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001400275A JP3817174B2 (ja) 2001-12-28 2001-12-28 車両用画像修整装置及び夜間運転視界支援装置

Publications (2)

Publication Number Publication Date
JP2003199094A JP2003199094A (ja) 2003-07-11
JP3817174B2 true JP3817174B2 (ja) 2006-08-30

Family

ID=19189593

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001400275A Expired - Fee Related JP3817174B2 (ja) 2001-12-28 2001-12-28 車両用画像修整装置及び夜間運転視界支援装置

Country Status (3)

Country Link
US (1) US7433496B2 (ja)
JP (1) JP3817174B2 (ja)
DE (1) DE10261290B4 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3817174B2 (ja) * 2001-12-28 2006-08-30 矢崎総業株式会社 車両用画像修整装置及び夜間運転視界支援装置
DE10253510A1 (de) * 2002-11-16 2004-05-27 Robert Bosch Gmbh Vorrichtung und Verfahren zur Verbesserung der Sicht in einem Kraftfahrzeug
JP4120513B2 (ja) * 2003-07-09 2008-07-16 株式会社デンソー 車両用暗視装置
JP2005033709A (ja) * 2003-07-11 2005-02-03 Nissan Motor Co Ltd 車両用周辺監視装置
JP4218453B2 (ja) * 2003-07-15 2009-02-04 株式会社デンソー 車両用前方視界支援装置
JP2005170323A (ja) * 2003-12-15 2005-06-30 Denso Corp 走路形状表示装置
JP4638143B2 (ja) * 2003-12-26 2011-02-23 富士重工業株式会社 車両用運転支援装置
JP4313712B2 (ja) * 2004-03-30 2009-08-12 本田技研工業株式会社 走行安全装置
DE102004050990A1 (de) * 2004-09-30 2006-04-06 Robert Bosch Gmbh Verfahren zur Darstellung eines von einer Videokamera aufgenommenen Bildes
DE102004060776A1 (de) * 2004-12-17 2006-07-06 Audi Ag Vorrichtung zur Aufnahme und Wiedergabe einer Bilddarstellung eines neben oder hinter einem Fahrzeug liegenden Verkehrsraumes
US7639841B2 (en) * 2004-12-20 2009-12-29 Siemens Corporation System and method for on-road detection of a vehicle using knowledge fusion
JP4668754B2 (ja) * 2005-09-30 2011-04-13 三菱電機株式会社 交通流計測装置
JP4426535B2 (ja) * 2006-01-17 2010-03-03 本田技研工業株式会社 車両の周辺監視装置
US8553100B2 (en) * 2006-08-21 2013-10-08 Xylem Ip Holdings Llc Spotlight with integral low lux video camera system
GB2443664A (en) * 2006-11-10 2008-05-14 Autoliv Dev An infra red object detection system de-emphasizing non relevant hot objects
DE102007008542B4 (de) * 2007-02-21 2019-04-18 HELLA GmbH & Co. KGaA Verfahren und Vorrichtung zum Steuern der Lichtabgabe eines Fahrzeugs
JP4952499B2 (ja) * 2007-10-12 2012-06-13 株式会社デンソー 画像処理装置
DE102007052666B4 (de) * 2007-11-05 2024-02-08 Robert Bosch Gmbh Verfahren zum Bearbeiten eines Orginalbilds
US8416300B2 (en) 2009-05-20 2013-04-09 International Business Machines Corporation Traffic system for enhancing driver visibility
KR101161979B1 (ko) * 2010-08-19 2012-07-03 삼성전기주식회사 나이트 비전용 영상 처리 장치 및 방법
DE102011122457A1 (de) * 2011-12-24 2013-06-27 Connaught Electronics Ltd. Verfahren zum Betreiben einer Kameraanordnung, Kameraanordnung und Fahrerassistenzsystem
KR101410215B1 (ko) 2012-08-16 2014-06-19 현대모비스 주식회사 차량용 객체 검출 장치 및 이의 방법
US9595017B2 (en) * 2012-09-25 2017-03-14 International Business Machines Corporation Asset tracking and monitoring along a transport route
DE102013016246A1 (de) * 2013-10-01 2015-04-02 Daimler Ag Verfahren und Vorrichtung zur augmentierten Darstellung
FR3013875B1 (fr) * 2013-11-25 2017-03-31 Renault Sas Systeme et procede de formation d'images nocturnes pour un vehicule automobile.
CN107206901B (zh) * 2015-02-20 2019-06-14 Jvc 建伍株式会社 车辆用显示装置
US10549853B2 (en) * 2017-05-26 2020-02-04 The Boeing Company Apparatus, system, and method for determining an object's location in image video data
US10789682B2 (en) 2017-06-16 2020-09-29 The Boeing Company Apparatus, system, and method for enhancing an image
CN117934774A (zh) * 2017-09-22 2024-04-26 麦克赛尔株式会社 信息记录装置、显示系统和影像装置
CN116076077A (zh) 2020-09-14 2023-05-05 株式会社小糸制作所 车辆用显示系统以及图像照射装置
JP7094349B2 (ja) * 2020-12-04 2022-07-01 マクセル株式会社 情報記録装置
JP2023161938A (ja) * 2022-04-26 2023-11-08 京セラ株式会社 情報処理装置、情報処理方法及びプログラム

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2020748A1 (en) * 1989-08-22 1991-02-23 Thomas F. Look Method and apparatus for machine reading of retroreflective vehicle identification articles
US5608823A (en) * 1989-10-04 1997-03-04 Canon Kabushiki Kaisha Image reading apparatus for correcting density levels
DE4042730B4 (de) 1990-03-10 2007-10-11 Daimlerchrysler Ag Anordnung zur Verbesserung der Sicht in Fahrzeugen
ATE203844T1 (de) * 1992-03-20 2001-08-15 Commw Scient Ind Res Org Gegenstands-überwachungsystem
US5332176A (en) * 1992-12-03 1994-07-26 Electronics & Space Corp. Controlled interlace for TOW missiles using medium wave infrared sensor or TV sensor
US5414439A (en) 1994-06-09 1995-05-09 Delco Electronics Corporation Head up display with night vision enhancement
US5768412A (en) * 1994-09-19 1998-06-16 Hitachi, Ltd. Region segmentation method for particle images and apparatus thereof
JPH08263784A (ja) 1995-03-23 1996-10-11 Honda Motor Co Ltd 道路状況認識装置
KR970010008B1 (ko) * 1995-04-13 1997-06-20 삼성전자 주식회사 적외선 물체검출장치
WO1997016807A1 (en) * 1995-10-31 1997-05-09 Sarnoff Corporation Method and apparatus for image-based object detection and tracking
AU1084397A (en) 1995-12-01 1997-06-19 Southwest Research Institute Methods and apparatus for traffic incident detection
US5981949A (en) * 1996-01-18 1999-11-09 The United States Of America As Represented By The Secretary Of The Air Force Locating defects in solid material
US5831669A (en) * 1996-07-09 1998-11-03 Ericsson Inc Facility monitoring system with image memory and correlation
US6044204A (en) * 1996-08-19 2000-03-28 Fuji Xerox Co., Ltd. Image forming apparatus and image processor
JP3159239B2 (ja) * 1996-11-08 2001-04-23 富士ゼロックス株式会社 画像処理装置および画像形成装置
US6124864A (en) * 1997-04-07 2000-09-26 Synapix, Inc. Adaptive modeling and segmentation of visual image streams
US5942094A (en) * 1997-12-23 1999-08-24 Elcorsy Technology Inc. Printing head system for use in an electrocoagulation printing apparatus
US6163309A (en) * 1998-01-16 2000-12-19 Weinert; Charles L. Head up display and vision system
JP3472479B2 (ja) * 1998-05-22 2003-12-02 シャープ株式会社 画像処理装置
JP2000083146A (ja) * 1998-09-07 2000-03-21 Fuji Photo Film Co Ltd 画像処理システム及び画像処理方法
US6731407B1 (en) * 1998-11-02 2004-05-04 Seiko Epson Corporation Image processing method and device
EP1160550A4 (en) * 1999-01-14 2008-01-30 Matsushita Electric Ind Co Ltd IR IMAGING DEVICE, VEHICLE EQUIPPED WITH SAID DEVICE AND DEVICE FOR ADJUSTING IR IMAGES
JP3864406B2 (ja) * 1999-01-26 2006-12-27 マツダ株式会社 車両の表示装置
US7106374B1 (en) * 1999-04-05 2006-09-12 Amherst Systems, Inc. Dynamically reconfigurable vision system
JP3515926B2 (ja) 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
US6531959B1 (en) * 1999-07-13 2003-03-11 Honda Giken Kogyo Kabushiki Kaisha Position detecting device
DE19955919C1 (de) 1999-11-20 2001-05-31 Daimler Chrysler Ag Verfahren zur Erkennung von Objekten in Bildern auf der Bildpixelebene
JP3760068B2 (ja) * 1999-12-02 2006-03-29 本田技研工業株式会社 画像認識装置
DE10016184C2 (de) 2000-03-31 2002-02-07 Audi Ag Vorrichtung zur Anzeige der Umgebung eines Fahrzeugs
EP1150252B1 (en) * 2000-04-28 2018-08-15 Panasonic Intellectual Property Management Co., Ltd. Synthesis of image from a plurality of camera views
US6323761B1 (en) * 2000-06-03 2001-11-27 Sam Mog Son Vehicular security access system
US6535242B1 (en) * 2000-10-24 2003-03-18 Gary Steven Strumolo System and method for acquiring and displaying vehicular information
US6420704B1 (en) * 2000-12-07 2002-07-16 Trw Inc. Method and system for improving camera infrared sensitivity using digital zoom
JP3612034B2 (ja) * 2001-04-24 2005-01-19 株式会社小糸製作所 自動車用赤外光照射ランプ
DE10217843B4 (de) * 2001-04-24 2007-08-02 Koito Manufacturing Co., Ltd. Infrarotstrahlungsleuchte für ein Automobil
JP3655560B2 (ja) * 2001-04-24 2005-06-02 株式会社小糸製作所 自動車用赤外光照射ランプ
JP4784013B2 (ja) * 2001-07-31 2011-09-28 トヨタ自動車株式会社 視界補助装置
JP2003200755A (ja) * 2001-12-28 2003-07-15 Yazaki Corp 車両用表示装置
JP3817174B2 (ja) * 2001-12-28 2006-08-30 矢崎総業株式会社 車両用画像修整装置及び夜間運転視界支援装置
JP2006217447A (ja) * 2005-02-07 2006-08-17 Yazaki Corp 車両用表示装置

Also Published As

Publication number Publication date
DE10261290B4 (de) 2007-02-15
US7433496B2 (en) 2008-10-07
US20030123752A1 (en) 2003-07-03
DE10261290A1 (de) 2003-07-17
JP2003199094A (ja) 2003-07-11

Similar Documents

Publication Publication Date Title
JP3817174B2 (ja) 車両用画像修整装置及び夜間運転視界支援装置
CN108460734B (zh) 车辆驾驶员辅助模块进行图像呈现的系统和方法
CN103098097B (zh) 用于车辆的周围图像显示系统和周围图像显示方法
JP4512595B2 (ja) 車両周辺部を可視化するための方法及び装置
JP5121737B2 (ja) 画像データにおいて重要対象物を識別するためのバーチャルスポットライト
JP2007288657A (ja) 車両用表示装置、車両用表示装置の表示方法
JP2008001182A (ja) 車両用視覚情報呈示装置及び車両用視覚情報呈示方法
WO2017022172A1 (ja) 車両用表示装置及び表示方法
KR20040053344A (ko) 영상을 향상시켜서 차량 안전을 개선하기 위한 방법 및 장치
JP2016196233A (ja) 車両用道路標識認識装置
JP2012027773A (ja) 擬似濃淡画像生成装置及びプログラム
JPH11243538A (ja) 車両用視認装置
CN114368342B (zh) 驾驶辅助方法、存储介质以及车辆
JP4556777B2 (ja) 夜間運転視界支援装置
JP2018106239A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2014164426A (ja) 物体検出装置
JP2007201549A (ja) 画像表示装置及び画像処理方法
JP4731177B2 (ja) 車両の赤外線撮影表示装置及び赤外線撮影表示方法
JP2008146404A (ja) 車載用画像認識装置
JP2004172828A (ja) 車両用暗視装置
JP4782491B2 (ja) 撮像装置
JP6866212B2 (ja) 表示制御装置、表示制御方法及びカメラモニタリングシステム
JP6354805B2 (ja) 視界制御装置
JP7647285B2 (ja) 画像表示制御装置、画像表示制御方法、及び、画像表示制御プログラム
JP2019214348A (ja) 物体認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060609

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3817174

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090616

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100616

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110616

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120616

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130616

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees