[go: up one dir, main page]

JP7641288B2 - 車載用センシングシステムおよびゲーティングカメラ - Google Patents

車載用センシングシステムおよびゲーティングカメラ Download PDF

Info

Publication number
JP7641288B2
JP7641288B2 JP2022543998A JP2022543998A JP7641288B2 JP 7641288 B2 JP7641288 B2 JP 7641288B2 JP 2022543998 A JP2022543998 A JP 2022543998A JP 2022543998 A JP2022543998 A JP 2022543998A JP 7641288 B2 JP7641288 B2 JP 7641288B2
Authority
JP
Japan
Prior art keywords
weather
gating
image data
image
gating camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022543998A
Other languages
English (en)
Other versions
JPWO2022039231A1 (ja
Inventor
与至久 遠藤
淳 狩野
学 加藤
裕一 綿野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Manufacturing Co Ltd
Original Assignee
Koito Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Manufacturing Co Ltd filed Critical Koito Manufacturing Co Ltd
Publication of JPWO2022039231A1 publication Critical patent/JPWO2022039231A1/ja
Application granted granted Critical
Publication of JP7641288B2 publication Critical patent/JP7641288B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/95Lidar systems specially adapted for specific applications for meteorological use
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01WMETEOROLOGY
    • G01W1/00Meteorology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Theoretical Computer Science (AREA)
  • Atmospheric Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Ecology (AREA)
  • Environmental Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本開示は、車両用のセンシングシステムに関する。
運転支援や自動運転のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナー、アクティブセンサなどの中から、用途、要求精度やコストを考慮して選択される。
TOFカメラに代わるアクティブセンサとして、ゲーティングカメラ(Gating Camera
あるいはGated Camera)が提案されている(特許文献1,2)。ゲーティングカメラは、撮影範囲を複数のレンジに区切り、レンジ毎に露光タイミングおよび露光時間を変化させて、撮像する。これにより、対象のレンジ毎にスライス画像が得られ、各スライス画像は対応するレンジに含まれる物体のみを含む。
特開2009-257983号公報 国際公開WO2017/110413A1
走行中の雨や雪、霧などは、視界の良否、各種センサの性能に大きく影響を与えるため、重要である。従来では、天候を検出するために、雨滴センサや霧センサなど、専用のセンサを用いる必要があり、コストアップの要因となっていた。
本開示は係る状況においてなされたものであり、そのある態様の例示的な目的のひとつは、天候に関する情報を取得可能なゲーティングカメラの提供にある。
本開示のある態様は、視野を奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラに関する。ゲーティングカメラは、パルス照明光を視野に照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するカメラコントローラと、イメージセンサが生成する画像データを処理する演算処理装置と、を備える。カメラコントローラは、天候検出モードにおいて所定レンジについて撮影を行い、演算処理装置は、広レンジについて得られた画像データにもとづいて、天候に関する情報を取得する。
本開示の別の態様もまた、ゲーティングカメラである。このゲーティングカメラは、パルス照明光を視野に照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するカメラコントローラと、イメージセンサが生成する画像データを処理する演算処理装置と、を備える。カメラコントローラは、天候検出モードにおいて、狭レンジと、狭レンジを手前方向に拡張した広レンジについて撮影を行い、演算処理装置は、狭レンジについて得られた第1画像データと、広レンジについて得られた第2画像データと、にもとづいて、天候に関する情報を取得する。
本開示によれば、ゲーティングカメラによって天候に関する情報を取得できる。
実施形態1に係るセンシングシステムのブロック図である。 ゲーティングカメラの動作を説明する図である。 図3(a)、(b)は、ゲーティングカメラにより得られる画像を説明する図である。 図4(a)~(c)は、悪天候下におけるゲーティングカメラの利点を説明する図である。 センシングシステムの動作を説明するタイムチャートである。 実施例1に係るゲーティングカメラの動作を説明する図である。 実施例2に係るゲーティングカメラの動作を説明する図である。 実施例3に係る撮影モードを説明する図である。 実施形態2に係るセンシングシステムのブロック図である。 実施形態3に係るセンシングシステムのブロック図である。 実施形態4に係るセンシングシステムのブロック図である。 実施形態5に係るセンシングシステムのブロック図である。 実施形態6に係るセンシングシステムのブロック図である。 図14(a)、(b)は、実施形態に係るセンシングシステムを備える自動車を示す図である。 実施形態に係る車両用灯具を示すブロック図である。 実施形態7に係るゲーティングカメラを備えるセンシングシステムのブロック図である。 図17(a)、(b)は、ゲーティングカメラによって撮影したスライス画像を示す図である。 図18(a)は、図17(a)のスライス画像のヒストグラムを示す図であり、図18(b)は、図17(b)のスライス画像のヒストグラムを示す図である。 図19(a)は、図17(b)のスライス画像の上部の空間の画像データであり、図19(b)は、図19(a)の画像データのヒストグラムを示す図である。 天候検出モードにおける撮影レンジを説明する図である。 図21(a)~(c)は、実施例3における差分画像の生成を説明する図である。 図22(a)、(b)は、差分画像にもとづく天候推定を説明する図である。
本開示のいくつかの例示的な実施形態の概要を説明する。この概要は、後述する詳細な説明の前置きとして、実施形態の基本的な理解を目的として、1つまたは複数の実施形態のいくつかの概念を簡略化して説明するものであり、発明あるいは開示の広さを限定するものではない。またこの概要は、考えられるすべての実施形態の包括的な概要ではなく、実施形態の欠くべからざる構成要素を限定するものではない。便宜上、「一実施形態」は、本明細書に開示するひとつの実施形態(実施例や変形例)または複数の実施形態(実施例や変形例)を指すものとして用いる場合がある。
一実施形態に係るゲーティングカメラは、視野を奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成する。ゲーティングカメラは、パルス照明光を視野に照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するカメラコントローラと、イメージセンサが生成する画像データを処理する演算処理装置と、を備える。演算処理装置は、天候検出モードにおいて所定レンジについて得られた画像データにもとづいて、天候に関する情報を取得する。
霧や雨、雪は、視野の平面内および奥行き方向に関して、ランダムに、言い換えると均一に存在する。一方、霧や雨、雪以外の物標(車両や歩行者、交通標識、デリニエータなど)は、局所的に、非ランダムに存在する。つまり、悪天候時には、所定レンジについて得られるスライス画像には、均一に分布する霧や雨、雪により乱反射された光が写ることとなり、これはランダムノイズに似た性質を示す。この性質にもとづいて、スライス画像を解析することで、ノイズ成分の有無あるいは過多にもとづいて、天候に関する情報を得ることができる。「天候に関する情報」とは、霧、雨、雪の存在の有無や種類であってもよいし、それらの量(濃さ)であってもよい。
カメラコントローラは、天候検出モードにおいて通常の撮影モードよりも奥行きが長い広レンジを所定レンジとして撮影を行ってもよい。ゲーティングカメラに近い領域が写るように、通常よりも広いレンジについて撮影を行うことで、霧や雨、雪の影響を大きく受けたスライス画像を生成でき、検出精度を高めることができる。
演算処理装置は、広レンジについて得られた画像データに含まれる所定領域にもとづいて、天候に関する情報を取得してもよい。悪天候時に、霧、雨、雪のみが含まれるように、所定領域を定めることで、検出精度を高めることができる。
所定領域は、画像データの上方に位置してもよい。空の部分を、所定領域として選択することで、車両や歩行者、交通標識、デリニエータなどの物標の影響を受けずに、天候を推定できる。
演算処理装置は、所定領域のヒストグラムを算出し、ヒストグラムにもとづいて、天候に関する情報を取得してもよい。霧、雨、雪などを撮影すると、ヒストグラムは、霧や雨、雪などの種類や量にもとづく所定の傾向を示す。したがって、ヒストグラムを生成し、それを解析することで、霧や雨、雪の有無、量などを推定できる。
演算処理装置は、ヒストグラムの形状にもとづいて、天候に関する情報を取得してもよい。霧や雨、雪などが存在すると、ヒストグラムは正規分布に近い形状を示す。
演算処理装置は、ヒストグラムの平均、分散の少なくとも一方にもとづいて、天候に関する情報を取得してもよい。
一実施形態に係るゲーティングカメラは、パルス照明光を視野に照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するカメラコントローラと、イメージセンサが生成する画像データを処理する演算処理装置と、を備える。カメラコントローラは、天候検出モードにおいて、狭レンジと、狭レンジを手前方向に拡張した広レンジについて撮影を行い、演算処理装置は、狭レンジについて得られた第1画像データと、広レンジについて得られた第2画像データと、にもとづいて、天候に関する情報を取得する。
たとえば狭レンジに存在する物標の影響を画像処理によって除去することで、差分となるレンジに存在する霧や雨、雪の影響を抽出することができ、天候に関する情報を得ることができる。
演算処理装置は、第1画像データと第2画像データそれぞれのヒストグラムを算出し、2つのヒストグラムにもとづいて天候に関する情報を取得してもよい。たとえば、狭レンジに物標が存在する場合を考える。この場合、狭レンジについて得られる第1画像データのヒストグラムは、正規分布から乖離する。好天候下では、広レンジについて得られる第2画像データのヒストグラムも、正規分布から乖離する。悪天候下では、広レンジについて得られる第2画像データには、霧や雨、雪に起因するノイズが重畳されるため、そのヒストグラムは、正規分布に近づくこととなる。
演算処理装置は、2つのヒストグラムそれぞれの平均と分散を算出し、平均と分散にもとづいて天候に関する情報を取得してもよい。たとえば平均の差分および/または分散の差分が所定のしきい値を超えているときに、悪天候と判定してもよい。
演算処理装置は、2つのヒストグラムそれぞれの形状にもとづいて天候に関する情報を取得してもよい。
演算処理装置は、第1画像データと第2画像データの差分を表す差分画像を生成し、差分画像にもとづいて天候に関する情報を取得してもよい。悪天候時に得られる差分画像には、霧や雨、雪に起因するノイズ成分が支配的に含まれることとなる。したがって差分画像に含まれるノイズ成分にもとづいて、天候に関する情報を得ることができる。
差分画像は、狭レンジに存在する物体が写る範囲について生成されてもよい。
演算処理装置は、差分画像のヒストグラムを生成し、ヒストグラムにもとづいて天候に関する情報を取得してもよい。
(実施形態)
以下、好適な実施形態について、図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施形態は、開示および発明を限定するものではなく例示であって、実施形態に記述されるすべての特徴やその組み合わせは、必ずしも開示および発明の本質的なものであるとは限らない。
(実施形態1)
図1は、実施形態1に係るセンシングシステム10Aのブロック図である。このセンシングシステム10Aは、自動車やバイクなどの車両に、運転支援あるいは自動運転を目的として搭載され、車両の周囲に存在する物体OBJを検出する。
センシングシステム10Aは、メインセンサ群50、メインコントローラ60およびゲーティングカメラ20を備える。メインセンサ群50は、ひとつ、あるいは複数のセンサを含みうる。たとえば、メインセンサ群50は、カメラ52およびミリ波レーダ54を含む。あるいはメインセンサ群50は、ステレオカメラを備えてもよい。あるいは、メインセンサ群50はLiDARなどを含んでもよい。
メインコントローラ60は、メインセンサ群50の出力にもとづいて、車両の周囲の物体の位置や種類を検出し、検出結果RESULTを出力する。たとえばメインコントローラ60は識別器(分類器)を備えてもよく、検出結果RESULTは、物標の種類(カテゴリ、クラス)および位置に関する情報を含んでもよい。
ゲーティングカメラ20は、視野を奥行き方向について複数のレンジRNG~RNGに区切り、複数のレンジRNG~RNGに対応する複数のスライス画像IMGs~IMGsを生成する。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
ゲーティングカメラ20は、照明装置22、イメージセンサ24、カメラコントローラ26、演算処理装置28を含む。
照明装置(投光器)22は、カメラコントローラ26から与えられる発光タイミング信号S1と同期して、パルス照明光L1を車両前方の視野に照射する。パルス照明光L1は赤外光であることが好ましいが、その限りでなく、所定の波長を有する可視光であってもよい。照明装置22は、たとえばレーザダイオード(LD)やLEDを用いることができる。ゲーティングカメラ20を夜間のみ使用するシステムにおいては、パルス照明光L1の波長を800nm付近の近赤外とすることができる。ゲーティングカメラ20を昼夜を問わずに使用するシステムにおいては、パルス照明光L1を1μmより長い波長域とするとよい。
イメージセンサ24は、複数の画素を含み、カメラコントローラ26から与えられる露光タイミング信号S2と同期した露光制御が可能であり、複数の画素からなるスライス画像IMGrを生成する。イメージセンサ24は、パルス照明光L1と同じ波長に感度を有しており、物体OBJが反射した反射光(戻り光)L2を撮影する。i番目のレンジRNGに関してイメージセンサ24が生成するスライス画像IMGrは、必要に応じて、生画像あるいは一次画像と称して、ゲーティングカメラ20の最終的な出力であるスライス画像IMGsと区別する。また、生画像IMGrおよびスライス画像IMGsを総称して、単にスライス画像IMGとも表記する。
カメラコントローラ26は、レンジRNGごとに、発光タイミング信号S1と露光タイミング信号S2を変化させて、照明装置22による発光と、イメージセンサ24の露光の時間差を変化させる。発光タイミング信号S1は、発光開始のタイミングと発光時間を規定する。露光タイミング信号S2は、露光開始のタイミング(発光との時間差)と、露光時間を規定する。
演算処理装置28は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコン、GPU(Graphics Processing Unit)などのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置28はハードウェアのみで構成してもよい。演算処理装置28は、イメージセンサ24の生成する生画像データIMGrを処理し、最終的なスライス画像IMGsを出力する。なお、イメージセンサ24の出力IMGrをそのままスライス画像IMGsとして用いる場合、演算処理装置28は省略することができる。
図2は、ゲーティングカメラ20の動作を説明する図である。図2には、i番目のレンジRNGを興味レンジとして測定するときの様子が示される。照明装置22は、発光タイミング信号S1と同期して、時刻t~tの間の発光期間τの間、発光する。最上段には、横軸に時間、縦軸に距離をとった光線のダイアグラムが示される。ゲーティングカメラ20から、レンジRNGの手前の境界までの距離をdMINi、レンジRNGの奥側の境界までの距離をdMAXiとする。
ある時刻に照明装置22を出発した光が、距離dMINiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMINiは、
MINi=2×dMINi/c
である。cは光速である。
同様に、ある時刻に照明装置22を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMAXiは、
MAXi=2×dMAXi/c
である。
レンジRNGに含まれる物体OBJのみを撮影したいとき、カメラコントローラ26は、時刻t=t+TMINiに露光を開始し、時刻t=t+TMAXiに露光を終了するように、露光タイミング信号S2を生成する。これが1回の露光動作である。
i番目のレンジRNGを撮影する際に、複数回の露光を行ってもよい。この場合、カメラコントローラ26は、所定の周期τで、上述の照射と露光の動作のセットを複数回にわたり繰り返せばよい。このとき、イメージセンサ24が生成する生画像データIMGrは、複数回の露光の積算結果となる。
本実施の形態において、露出(スライス画像内の物体像の輝度値)がレンジごとにばらつかないように、ゲーティングカメラ20は、レンジ毎に、シャッタースピード(露光時間)、露光回数、感度、パルス照明光の照射強度など(撮影パラメータ)が最適化されている。
図3(a)、(b)は、ゲーティングカメラ20により得られる画像を説明する図である。図3(a)の例では、レンジRNGに物体(歩行者)OBJが存在し、レンジRNGに物体(車両)OBJが存在している。図3(b)には、図3(a)の状況で得られる複数のスライス画像IMG~IMGが示される。スライス画像IMGを撮影するとき、イメージセンサ24はレンジRNGからの反射光のみにより露光されるため、スライス画像IMGにはいかなる物体像も写らない。
スライス画像IMGを撮影するとき、イメージセンサ24はレンジRNGからの反射光のみにより露光されるため、スライス画像IMGには、物体像OBJのみが写る。同様にスライス画像IMGを撮影するとき、イメージセンサ24はレンジRNGからの反射光のみにより露光されるため、スライス画像IMGには、物体像OBJのみが写る。このようにゲーティングカメラ20によれば、レンジ毎に物体を分離して撮影することができる。
ゲーティングカメラ20は、悪天候での撮影において有利である。以下、その理由を説明する。図4(a)~(c)は、悪天候下におけるゲーティングカメラ20の利点を説明する図である。図4(a)は、悪天候時の走行シーンの一例を示している。レンジRNGには物体(車両)OBJが存在している。また図に示す点は、雨粒、雪あるいは霧などの障害物を模式的に示したものである。図4(b)には、図4(a)の状況で得られる3番目のレンジのスライス画像IMGが示される。スライス画像IMGを撮影するとき、イメージセンサ24はレンジRNGからの反射光のみにより露光されるため、スライス画像IMGには、レンジRNG,RNGの障害物(雨粒、雪、霧)は写らない。つまり測定対象のレンジ以外のレンジに含まれる雨、雪、霧を除去することができる。
図4(c)には、同じ視野を一般的なカメラが撮影した画像を示す。一般的なカメラで撮影すると、すべてのレンジRNGの物体の反射光が写るため、物体OBJを遮るようにして、多くの障害物が写り込む。
図4(b)と(c)の比較から、ゲーティングカメラ20が生成するスライス画像IMGは、悪天候時において、一般的なカメラよりも多くの情報を含むことが分かる。
図1に戻る。本実施形態では、ゲーティングカメラ20はメインセンサ群50をアシストする補助的なセンサとして活用される。したがって、ゲーティングカメラ20は、常時動作するのではなく、走行環境に応じて、動作状態(イネーブル状態EN)、停止状態(ディセーブル状態DIS)が適応的に選択される。
ゲーティングカメラ20が動作状態となると、カメラコントローラ26は、発光タイミング信号S1および露光タイミング信号S2を生成し、これにより複数のレンジのスライス画像が生成される。ゲーティングカメラ20の停止状態では、カメラコントローラ26は、発光タイミング信号S1および露光タイミング信号S2を生成せず、したがって、スライス画像は生成されない。
悪天候時にはゲーティングカメラ20が生成したスライス画像IMGは、メインコントローラ60に供給される。そして、ゲーティングカメラ20の出力が、運転支援または自動運転の制御に利用される。
以上がセンシングシステム10Aの構成である。続いてその動作を説明する。図5は、センシングシステム10Aの動作を説明するタイムチャートである。
天候(視界)が良い条件では、メインセンサ群50の信頼性は高い。この場合には、ゲーティングカメラ20は停止状態となり、メインコントローラ60は、メインセンサ群50の出力にもとづいて、物標の検出を行う。
天候(視界)が悪い条件では、メインセンサ群50の信頼性が低下する。この場合には、ゲーティングカメラ20が動作状態となり、メインコントローラ60は、メインセンサ群50の出力に代えて、あるいはそれに加えて、ゲーティングカメラ20の検出結果にもとづいて、物標の検出を行う。
以上がセンシングシステム10Aの動作である。このセンシングシステム10Aによれば、ゲーティングカメラ20による消費電力の増加を抑制しつつ、悪天候時のセンシングシステム10Aの性能低下を抑制できる。
図1に戻る。ゲーティングカメラ20は、動作状態において、複数の撮影モードが切りかえ可能に構成される。複数の撮影モードは、相対的に性能が高く、消費電力が大きい第1撮影モードと、相対的に性能が低く、消費電力が小さい第2撮影モードと、を含む。
複数の撮影モードについて、いくつかの実施例を説明する。
(実施例1)
撮影モードごとに、フレームレートが異なっていてもよい。「フレームレート」は、測定対象となるすべてのレンジを測定する頻度であり、フレーム周期の逆数である。フレームレートが高い撮影モードでは、高速なセンシングが可能となる代わりに、消費電力が増加する。フレームレートが低い撮影モードでは、センシング速度が低下する代わりに、消費電力を削減できる。
図6は、実施例1に係るゲーティングカメラ20の動作を説明する図である。第1撮影モードMODE1の間、第1のフレーム周期TF1で、複数のレンジRNG~RNGの撮影時が実行される。この例ではレンジの個数は3個である。なお、1つのレンジの撮影期間の間に、発光と露光を複数回、繰り返して実行してもよい。
第2撮影モードMODE2の間、第2のフレーム周期TF2(TF2>TF1)で、複数のレンジRNG~RNGの撮影時が実行される。フレームレートが低下することにより、第2撮影モードMODE2の消費電力は、第1撮影モードMODE1の消費電力よりも低くなる。
悪天候時のように、ゲーティングカメラ20が必要とされる状況であっても、状況によっては最高の性能が要求されない場合もある。たとえば悪天候であっても、メインセンサ群50の出力にもとづくセンシングの精度(信頼性)がある程度高い状況では、ゲーティングカメラ20のフレームレートを低下させても、センシングに支障は生じない。そこで、このような場合には、第2撮影モードMODE2を選択することで、消費電力を削減できる。
たとえば、雨や雪の量、霧の濃さに応じて、撮影モードを選択してもよい。たとえば雨や雪が相対的に多く、あるいは霧が相対的に濃い状況では、第1撮影モードMODE1を選択し、雨や雪が相対的に少なく、あるいは霧が相対的に薄い状況では、第2撮影モードMODE2を選択してもよい。
あるいは、現在の悪天候の原因(雨、雪、霧のいずれであるか)に応じて、モードを選択してもよい。たとえば、霧が発生し、あるいは降雪時には、第1撮影モードを選択し、降雨時には、第2撮影モードMODE2を選択してもよい。
あるいは、走行シーンに応じて、第1撮影モードMODE1と第2撮影モードMODE2を切りかえてもよい。たとえば相対的に走行速度が高い状況では、第1撮影モードMODE1を選択し、相対的に走行速度が低い状況では、第2撮影モードMODE2を選択してもよい。
(実施例2)
実施例2では、撮影モードごとに、測定するレンジの個数が異なる。たとえば第1撮影モードMODE1では、3個のレンジRNG~RNGが測定され、第2撮影モードMODE2では、2個のレンジRNG~RNGが測定される。
図7は、実施例2に係るゲーティングカメラ20の動作を説明する図である。たとえば第1レンジRNGが0~25m、第2レンジRNGが25~50m、第3レンジRNGが50~100mであるとする。天候によっては、ゲーティングカメラ20の性能をもってしても、50mより先のセンシングができないような状況が生じうる。このような場合には、第2撮影モードMODE2を選択することで、消費電力を削減できる。
また、自動運転制御あるいは運転支援制御に必要な視程は、車速に依存する。具体的には、速度が高いほど、より遠くの物標の情報が必要となる。したがって、車速があるしきい値より高い場合には、第1撮影モードMODE1を選択し、車速がしきい値より低い場合には、第2撮影モードMODE2を選択してもよい。
なお、図7では、第2撮影モードMODE2のフレームレートが、第1撮影モードMODE1のフレームレートより低くなっているが、フレームレートは同じとしてもよい。
第1撮影モードMODE1における最も遠いレンジの奥側の境界までの距離(最遠撮影距離)はdMAX3であり、第2撮影モードMODE2における最遠撮影距離はdMAX であり、第1撮影モードMODE1と第2撮影モードMODE2とで異なっている。
このような場合に、第2撮影モードMODE2におけるパルス照明光の強度は、図7に示すように、第1撮影モードMODE1のそれに比べて低くてもよい。なお、図7のパルス照明光の強度は、連続発光していることを意図するものではない。第2撮影モードMODE2では、パルス照明光を遠距離まで投射する必要がないため、強度を低下させることができる。また、照明装置22の発熱量を減らすことができる。
(実施例3)
実施例3では、撮影モードごとに、複数のレンジの奥行きが異なる。図8は、実施例3に係る撮影モードを説明する図である。たとえば、第1撮影モードMODE1では、第1レンジRNGは0~25m、第2レンジRNGは25~50m、第3レンジRNGは50~100mであるのに対して、第2撮影モードMODE2では、第1レンジRNGは0~25m、第2レンジRNGは25~50m、第3レンジRNGは50~75mである。つまり第1撮影モードMODE1の最遠撮影距離は100mであるのに対して、第2撮影モードMODE2の最遠撮影距離は75mと短くなっている。
実施例3でも、実施例2と同様に、第2撮影モードMODE2では、パルス照明光を遠距離まで投射する必要がないため、強度を低下させることができる。また、照明装置22の発熱量を減らすことができる。
実施例3における撮影モードの選択は、実施例2と同様に、天候や視界の良否にもとづいて行ってもよいし、車速にもとづいて行ってもよい。
(実施例4)
実施例4において、ゲーティングカメラ20は、複数の撮影モードに加えて、スタンバイモードに切りかえ可能である。スタンバイモードでは、ゲーティングカメラ20はいつでも撮影可能な状態にあるが、自発的な撮影は行わず、待機している。スタンバイモードにおいて、カメラコントローラ26は、メインコントローラ60との間で通信可能であり、メインコントローラ60から撮影指示のコマンドを受けると、直ちに撮影を実行する。メインコントローラ60が指示されたときだけ撮影を行うことにより、無駄な消費電力を削減できる。
続いてゲーティングカメラ20の動作状態/停止状態の制御、ならびに、撮影モードの制御について説明する。
本実施形態において、ゲーティングカメラ20の動作状態/停止状態の制御、ならびに撮影モードの制御は、ゲーティングカメラ20自身が自律的に行う。
(制御方法1)
制御方法1では、ゲーティングカメラ20は、動作状態/停止状態の切りかえ、ならびに撮影モードの選択を、自身が生成したスライス画像IMGにもとづいて行う。
スライス画像IMGには、視野の奥行き方向の特定の範囲に含まれる被写体が写る。この性質を利用することで、視界の良否や天候を推定し、ゲーティングカメラの制御に活用することができる。スライス画像IMGにもとづく天候推定、視界推定については後述する。
カメラコントローラ26は、スライス画像IMGにもとづいて、ゲーティングカメラ20の動作/停止を決定する。カメラコントローラ26は、メインセンサ群50の信頼性の低下が推定される状況において、ゲーティングカメラ20を動作状態に切りかえる。
さらにカメラコントローラ26は、スライス画像IMGにもとづいて、第1撮影モードMODE1、第2撮影モードMODE2を選択する。選択の条件は、撮影モードに関する実施例1~4にもとづいて定めればよい。
なお、この制御方法1では、ゲーティングカメラ20は、停止状態において、撮影モードおよび動作/停止の制御のための撮影を、間欠的に(たとえば数十秒間隔~数分間隔)行う。
(制御方法2)
制御方法2では、ゲーティングカメラ20のカメラコントローラ26は、動作状態/停止状態の切りかえを、少なくともひとつの車両信号にもとづいて行う。車両信号は、レインセンサの出力、霧センサの出力、車速情報、メインセンサの機能不全を示すフェイル信号、メインコントローラの機能不全や認識精度低下を示すフェイル信号、ワイパーの制御信号、フォグランプの制御信号、などが例示される。カメラコントローラ26は車両信号にもとづいて、悪天候と判定した場合に、ゲーティングカメラ20を動作状態として撮影を開始する。
カメラコントローラ26は、撮影モードについては、制御方法1と同様に、スライス画像IMGにもとづいて実行する。
制御方法2では、制御方法1のように、停止状態の間、動作/停止の制御のための撮影が不要である。
(制御方法3)
制御方法3では、カメラコントローラ26は、動作状態/停止状態の切りかえ、および撮影モードの制御の両方を、少なくともひとつの車両信号にもとづいて行う。
(制御方法4)
制御方法4では、カメラコントローラ26は、動作状態/停止状態の切りかえをスライス画像IMGにもとづいて行い、撮影モードの制御を、少なくともひとつの車両信号にもとづいて行う。
動作状態/停止状態の制御、撮影モードの制御は、車両信号とスライス画像の解析結果の両方にもとづいて行ってもよい。
(実施形態2)
図9は、実施形態2に係るセンシングシステム10Bのブロック図である。実施形態2では、ゲーティングカメラ20の動作状態/停止状態は、外部からのイネーブル信号ENにもとづいて制御され、ゲーティングカメラ20の撮影モードは、ゲーティングカメラ20自身が自律的に制御する。
たとえば、図9では、ゲーティングカメラ20の動作状態/停止状態は、メインコントローラ60によって制御される。メインコントローラ60は、実施形態1で説明したのと同様に、少なくともひとつの車両情報にもとづいて、ゲーティングカメラ20の動作状態/停止状態を決定し、イネーブル信号ENを生成してもよい。またメインコントローラ60は、ゲーティングカメラ20が生成したスライス画像IMGにもとづいて、ゲーティングカメラ20の動作状態/停止状態を制御してもよい。
あるいはメインコントローラ60は、車両信号とスライス画像の両方にもとづいて、ゲーティングカメラ20の動作状態/停止状態を制御してもよい。
一方、実施形態2において、カメラコントローラ26は、スライス画像IMGにもとづいて、ゲーティングカメラ20の撮影モードを選択してもよい。あるいはカメラコントローラ26は、車両信号にもとづいて、ゲーティングカメラ20の撮影モードを選択してもよい。あるいはカメラコントローラ26は、車両信号とスライス画像の両方にもとづいて、ゲーティングカメラ20の撮影モードを選択してもよい。
(実施形態3)
図10は、実施形態3に係るセンシングシステム10Cのブロック図である。実施形態3では、ゲーティングカメラ20は、車両用灯具200に搭載される。車両用灯具200は、図示しないロービームやハイビームを統合的に制御する灯具ECU(Electronic Control Unit)210を備える。
ゲーティングカメラ20の動作状態/停止状態は、灯具ECU210が生成するイネーブル信号ENにもとづいて制御され、ゲーティングカメラ20の撮影モードは、ゲーティングカメラ20自身が自律的に制御する。灯具ECU210は、車両信号とスライス画像の少なくとも一方にもとづいて、ゲーティングカメラ20の動作状態/停止状態を制御する。
(実施形態4)
図11は、実施形態4に係るセンシングシステム10Dのブロック図である。実施形態4では、ゲーティングカメラ20は走行中、基本的には常時動作するものであり、撮影モードのみが切りかえ可能となっている。
ゲーティングカメラ20(カメラコントローラ26)は、スライス画像IMGと車両信号の少なくとも一方にもとづいて、撮影モードを選択する。
(実施形態5)
図12は、実施形態5に係るセンシングシステム10Eのブロック図である。実施形態5では、ゲーティングカメラ20は、複数の撮影モードの切りかえはサポートしておらず、動作状態(イネーブル状態)/停止状態(ディセーブル状態)の切りかえのみが可能となっている。
ゲーティングカメラ20(カメラコントローラ26)は、スライス画像IMGと車両信号の少なくとも一方にもとづいて、ゲーティングカメラ20の動作状態/停止状態を切りかえる。
(実施形態6)
図13は、実施形態6に係るセンシングシステム10Fのブロック図である。実施形態6では、メインセンサ群50の一部(この例ではカメラ52)、あるいは全部が省略されている。
ゲーティングカメラ20は、実施形態1~5で説明したように、動作状態/停止状態の切りかえ、撮影モードの切りかえの両方、あるいはいずれか一方が制御可能となっている。動作状態/停止状態の切りかえ、撮影モードの切りかえについては、実施形態1~5で説明した通りである。
図14(a)、(b)は、実施形態に係るセンシングシステム10を備える自動車300を示す図である。図14(a)を参照する。自動車300は、ヘッドランプ(灯具)302L,302Rを備える。
メインセンサ群50のカメラ52やミリ波レーダ54は、車両のセンシングに適した箇所に配置されている。たとえばカメラ52は、ルームミラーの裏側に設けられ、ミリ波レーダ54は、車両の前方に配置される。メインコントローラ60は、車室内あるいはエンジンルーム内に配置される。
ゲーティングカメラ20の照明装置22は、左右のヘッドランプ302L,302Rの少なくとも一方に内蔵される。イメージセンサ24は、車両の一部、たとえばルームミラーの裏側に取り付けることができる。あるいはイメージセンサ24は、フロントグリルやフロントバンパーに設けてもよい。カメラコントローラ26は、車室内に設けてもよいし、エンジンルームに設けてもよいし、ヘッドランプに内蔵してもよい。
図14(b)を参照する。図14(b)に示すように、イメージセンサ24は、左右のヘッドランプ302L,302Rのいずれかに内蔵してもよい。
図15は、実施形態に係る車両用灯具200を示すブロック図である。車両用灯具200は、図14(b)のヘッドランプ302に対応しており、ロービームユニット202、ハイビームユニット204、灯具ECU210およびゲーティングカメラ20を備える。
灯具ECU210は、車両側ECU310からの制御指令にもとづいて、ロービームユニット202およびハイビームユニット204のオン、オフあるいは配光を制御する。また、いくつかの実施形態、実施例において、灯具ECU210は、ゲーティングカメラ20の動作状態/停止状態を切りかえてもよい。
またゲーティングカメラ20は、車両用灯具200の筐体に内蔵されている。なお、イメージセンサ24、カメラコントローラ26、演算処理装置28の少なくともひとつは、車両用灯具200の筐体の外側に設けてもよい。
(スライス画像にもとづく視界推定、天候推定)
ゲーティングカメラは、奥行きについて、自由に注目レンジを設定し、その注目レンジに含まれる物体のみを撮影することができる。この特性を利用して、ゲーティングカメラ20自身が、自分で撮影したスライス画像IMGにもとづいて、天候に関する情報を取得する技術について説明する。
図16は、実施形態7に係るゲーティングカメラ20Gを備えるセンシングシステム10Gのブロック図である。ゲーティングカメラ20Gは、照明装置22、イメージセンサ24、カメラコントローラ26G、演算処理装置28Gを備える。
カメラコントローラ26Gは、通常の撮影モードに加えて、天候検出モードが選択可能である。天候検出モードでは、天候検出のために定めた所定レンジを対象とした撮影を行う。演算処理装置28Gは、天候検出モードにおいて所定レンジについて得られた画像データ(スライス画像)IMGfにもとづいて、天候に関する情報INFO_FCSTを取得する。
霧や雨、雪は、視野の平面内および奥行き方向に関して、ランダムに、言い換えると均一に存在する。一方、霧や雨、雪以外の物標(車両や歩行者、交通標識、デリニエータなど)は、局所的に、非ランダムに存在する。つまり、悪天候時には、所定レンジRNGfについて得られるスライス画像には、均一に分布する霧や雨、雪により乱反射された光が写ることとなり、これはランダムノイズに似た性質を示す。この性質にもとづいて、画像データIMGfを解析することにより、天候に関する情報を得ることができる。
以下、天候検出の具体例を、実施例1~実施例3をもとに説明する。
(実施例1)
カメラコントローラ26Gは、天候検出モードにおいて、通常の撮影モードよりも奥行き方向が長い広レンジRNGwを所定レンジRNGfとして撮影を行う。広レンジRNGwは、通常の撮影モードにおけるあるレンジを手前に拡大したものであってよい。たとえば、通常の撮影モードにおいて、RNGを0~25m、RNGを25~50m、RNGを50~75m、RNGを75~100mとして、4つのレンジRNG~RNGについて撮影を行うとする。天候検出用の広レンジRNGwは、二番目のレンジRNG2を、手前方向に拡張したレンジとすることができ、たとえば10~50mのように定めてもよい。レンジを拡大するために、カメラコントローラ26Gは、イメージセンサ24の露光時間を長くする。
図17(a)、(b)は、ゲーティングカメラによって撮影したスライス画像を示す図である。図17(a)は、悪天候下(赤外光のエネルギーにもとづく視程50m程度の霧中)で通常撮影モードのあるレンジ(25~100m)について得られたスライス画像である。図17(b)は、同じ状況で、図17(a)のレンジを手前側に拡大した広レンジIMGw(6~100m)について得られたスライス画像IMGfである。
図17(a)のスライス画像には、奥側に存在する物体からの反射光のみが写っているのに対して、図17(b)のスライス画像IMGfには、奥側の物体からの反射光に加えて、手前に拡張した範囲に位置する霧(雨、雪)による反射光が写り込み、したがって手前側の霧、雨、雪によって、奥側の物体が隠蔽される。つまり、手前側に広く撮影したスライス画像IMGfは、霧(雨、雪)の情報を多く含むこととなる。天候検出モードにおいてこのようなスライス画像IMGfを撮影することで、天候の推定が可能となる。
図18(a)は、図17(a)のスライス画像のヒストグラムを示す図であり、図18(b)は、図17(b)のスライス画像のヒストグラムを示す図である。各ヒストグラムの横軸は画素値(階調値)、縦軸は度数(発生頻度)を表す。図18(a)に示すように、奥側の物標からの反射光のヒストグラムは、物標の大きさおよび反射率が反映され、その結果として、急峻なエッジや複数のピークしたものとなり、正規分布から乖離する。一方、図18(b)に示すように、広く定めたレンジRNGwについて得られたスライス画像では、手前の霧、雨、雪によって奥側の物体が隠蔽されるため、スライス画像のヒストグラムは、ランダムノイズを含む画像のヒストグラムに近づくこととなる。その結果、ヒストグラムはシングルピークとなり、また肩はなだらかになる。
このように、悪天候下では、所定レンジRNGfについて得られたスライス画像IMGfのヒストグラムは、図18(b)に示すものに近づく傾向がある。反対に、霧、雨、雪が存在しない好天候下では、スライス画像IMGfのヒストグラムは図18(a)のそれに近づく。そこで、演算処理装置28gは、スライス画像IMGfのヒストグラムを取得することにより、天候の良否を判定することができる。
なお、天候検出モードにおいて、所定レンジRNGfの奥行きを長くすることは必須ではなく、通常の撮影モードと同じ奥行き長としてもよい。
演算処理装置28gは、スライス画像IMGfの全体についてヒストグラムを作成してもよいが、その一部分(所定領域)のみを抽出して、ヒストグラムを生成してもよい。
悪天候時に、霧、雨、雪のみが含まれ、好天候時には、いかなる物体も存在しないように、所定領域を定めることで、検出精度を高めることができる。具体的には、空の部分を所定領域として定めてもよい。この場合、所定領域は、画像データの上方の中央に配置するとよい。
図19(a)は、図17(b)のスライス画像IMGfの上部の空間の画像データであり、図19(b)は、図19(a)の画像データのヒストグラムを示す図である。このように、悪天候時に、空に相当する部分のヒストグラムを生成すると、正規分布に近いヒストグラムが得られる一方、好天候時には、反射がないため、ヒストグラムの分布は、低階調の領域に集中する。
演算処理装置28gは、スライス画像IMGfの一部分(あるいは全体)のヒストグラムを生成し、悪天候下においてヒストグラムに現れる特徴にもとづいて、天候を判定してもよい。たとえば演算処理装置28gは、ヒストグラムの形状にもとづいて、天候を判定してもよく、たとえばヒストグラムが正規分布に近いと判定した場合、悪天候と判定してもよい。正規分布に近いかどうかは、正規性の検定として知られる公知のアルゴリズムを利用してもよい。あるいは悪天候時には、図18(b)に示すように、ヒストグラムの肩がなだらかとなるため、分散σが大きくなる。そこで、分散σが所定のしきい値を超えたときに、悪天候と判定してもよい。あるいは分散σが大きいほど悪天候(霧が濃い、雨や雪の量が多い)と判定してもよい。
(実施例2)
実施例1では、1つの所定レンジRNGfについて得られる1枚のスライス画像IMGfにもとづいて、天候を推定したが、実施例2では、2つの所定レンジRNGfx、RNGfyについて撮影を行い、各レンジについて得られる2枚のスライス画像IMGfx、IMGfxにもとづいて天候を推定する。
具体的には、2つの所定レンジの一方(狭レンジともいう)RNGfxは、奥行き方向が相対的に狭く、他方(広レンジともいう)RNGfyは、奥行き方向が相対的に広く定められる。広レンジRNGyは、狭レンジRNGxを手前側に拡張した関係にあってもよい。図20は、天候検出モードにおける撮影レンジを説明する図である。破線は、イメージセンサ24の視野を表す。
悪天候時に、狭レンジRNGfxと広レンジRNGyについてゲーティングカメラにより撮影を行うと、図18(a)、(b)に示すような2枚のスライス画像(第1スライス画像、第2スライス画像という)が得られる。
演算処理装置28Gは、狭レンジRNGfxについて得られた第1画像データIMGfxと、広レンジRNGfyについて得られた第2画像データIMGfyと、にもとづいて、天候に関する情報を取得することができる。
具体的には演算処理装置28Gは、第1画像データIMGfxと第2画像データIMGfyそれぞれのヒストグラムを算出し、2つのヒストグラムにもとづいて天候に関する情報を取得する。この2つのヒストグラムは、図19(a)、(b)に示した2つのヒストグラムに相当する。
第1画像データIMGfxについて得られるヒストグラムは、狭レンジRNGfxに含まれる物標に応じた形状や分散、平均を有する。一方、第2画像データIMGfyについて得られるヒストグラムは、好天候時には、第1画像データIMGfxのそれに近づく。一方、悪天候時には、第2画像データIMGfyのヒストグラムは、ランダムノイズを多く含む画像のそれに近づく。具体的には、悪天候時のヒストグラムには、(i)形状が正
規分布に近い、(ii)肩がなだらか、(iii)分散が大きいといった特徴が現れる。
そこで演算処理装置28Gは、2つのヒストグラムそれぞれの平均を算出し、平均の差分が所定のしきい値を超えたときに(条件1)、悪天候と判定してもよい。
あるいは演算処理装置28Gは、2つのヒストグラムそれぞれの分散σを算出し、分散の差分が所定のしきい値を超えたときに(条件2)、悪天候と判定してもよい。
演算処理装置28Gは、条件1と2の両方が真であるときに、悪天候と判定してもよいし、いずれか一方が真であるときに悪天候と判定してもよい。
演算処理装置28Gは、2つのヒストグラムそれぞれの形状が類似しているか否かを判定し、類似していない場合に悪天候と判定してもよい。
(実施例3)
実施例3では、実施例2と同様に、狭レンジRNGfxと広レンジRNGfyについてスライス画像IMGfx、IMGfyを生成し、2つのスライス画像IMGfx、IMGfyにもとづいて、天候に関する情報を取得する。より具体的には演算処理装置28Gは、第1画像データIMGfxと第2画像データIMGfyの差分を表す差分画像IMGdを生成し、差分画像IMGdにもとづいて天候に関する情報を取得する。
図21(a)~(c)は、実施例3における差分画像の生成を説明する図である。差分画像IMGdの各画素の画素値IMGd(i)は、第1画像データIMGfxと第2画像データIMGfyの対応する画素の画素値のIMGfx(i)、IMGfy(i)の差分である。
IMGd(i)=IMGfy(i)-IMGfx(i)
IMG#(i)は、画像IMG#のi番目の画素の画素値を示す。差分画像では、奥側に位置する物体の反射光の多くはキャンセルされ、カメラに近い領域のノイズ成分(霧、雨、雪)が多く含まれることとなる。
演算処理装置28Gは、差分画像IMGdの全体にもとづいて天候を推定してもよいが、その一部分にもとづいて、天候を推定してもよい。図20に示すように、カメラの視野FOVのうち、ハッチングを付した一部の視野角内には、奥側のレンジRNGfxに存在する物体は写らない。そこで演算処理装置28Gは、第2画像データIMGfyのうち、ハッチングを付した視野角に相当する部分を除外し、残りの部分(有効領域)にもとづいて天候を推定するとよい。有効領域は、狭レンジRMGfxに存在する物体が写る範囲とも把握できる。
図22(a)、(b)は、差分画像IMGdにもとづく天候推定を説明する図である。図22(a)の差分画像IMGdには、矩形領域が示される。この矩形領域は、上述の有効領域に設けられる。図22(b)は、図22(a)の矩形領域内のヒストグラムを示す。演算処理装置28Gは、このヒストグラムにもとづいて、天候に関する情報を取得する。
演算処理装置28Gは、実施例1で説明したのと同様に、ヒストグラムにもとづいて天気を推定することができる。具体的には、ヒストグラムの形状、ピークの個数、肩の傾き、分散等にもとづいて、ヒストグラムがノイズに起因するものであるか、物体に起因するものであるかを判定する。
実施形態7で説明した天候の推定は、実施形態1~実施形態6の技術と組み合わせて、ゲーティングカメラ20の撮影モードの制御や、オン/オフの切りかえに用いることができるが、その限りでない。
以上、本発明について、実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。以下、こうした変形例について説明する。
(変形例1)
実施形態では、ゲーティングカメラ20からメインコントローラ60に対してスライス画像IMGを出力することとしたが、その限りでない。たとえばゲーティングカメラ20の演算処理装置28に、識別器(分類器)を実装し、識別結果、すなわち物標の種類(カテゴリ)および位置を、メインコントローラ60に出力するようにしてもよい。
(変形例2)
実施形態では、ゲーティングカメラ20の出力を、運転支援または自動運転の制御に利用することとしたがその限りでない。たとえば悪天候時にはゲーティングカメラ20をアクティブとし、ゲーティングカメラ20が生成するスライス画像IMGを、HUD(Head
Up Display)などの表示装置に表示し、ユーザの視界を補助してもよい。
(変形例3)
実施形態では、2つの撮影モードを切りかえる場合を説明したが、切りかえ可能な撮影モードの個数は3以上であってもよい。
実施の形態にもとづき、具体的な語句を用いて本発明を説明したが、実施の形態は、本発明の原理、応用の一側面を示しているにすぎず、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。
本開示は、車両用のセンシングシステムに利用できる。
S1 発光タイミング信号
S2 露光タイミング信号
10 センシングシステム
20 ゲーティングカメラ
22 照明装置
24 イメージセンサ
26 カメラコントローラ
28 演算処理装置
50 メインセンサ群
52 カメラ
54 ミリ波レーダ
60 メインコントローラ
200 車両用灯具
202 ロービームユニット
204 ハイビームユニット
210 灯具ECU
300 自動車
302 ヘッドランプ
310 車両側ECU

Claims (13)

  1. 視野を奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラであって、
    パルス照明光を視野に照射する照明装置と、
    イメージセンサと、
    前記照明装置の発光タイミングと前記イメージセンサの露光のタイミングを制御するカメラコントローラと、
    前記イメージセンサが生成する画像データを処理する演算処理装置と、
    を備え、
    前記演算処理装置は、天候検出モードにおいて所定レンジについて得られた前記画像データにもとづいて、天候に関する情報を取得し、
    前記カメラコントローラは、前記天候検出モードにおいて通常の撮影モードよりも奥行きが長い広レンジを前記所定レンジとして撮影を行うことを特徴とするゲーティングカメラ。
  2. 前記演算処理装置は、前記画像データに含まれる所定領域にもとづいて、天候に関する情報を取得することを特徴とする請求項1に記載のゲーティングカメラ。
  3. 前記所定領域は、前記画像データの上方に位置することを特徴とする請求項に記載のゲーティングカメラ。
  4. 前記演算処理装置は、前記所定領域のヒストグラムを算出し、前記ヒストグラムにもとづいて、天候に関する情報を取得することを特徴とする請求項またはに記載のゲーティングカメラ。
  5. 前記演算処理装置は、前記ヒストグラムの形状にもとづいて、天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  6. 前記演算処理装置は、前記ヒストグラムの平均、分散の少なくとも一方にもとづいて、天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  7. 視野を奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラであって、
    パルス照明光を視野に照射する照明装置と、
    イメージセンサと、
    前記照明装置の発光タイミングと前記イメージセンサの露光のタイミングを制御するカメラコントローラと、
    前記イメージセンサが生成する画像データを処理する演算処理装置と、
    を備え、
    前記カメラコントローラは、天候検出モードにおいて、狭レンジと、前記狭レンジを手前方向に拡張した広レンジについて撮影を行い、
    前記演算処理装置は、前記狭レンジについて得られた第1画像データと、前記広レンジについて得られた第2画像データと、にもとづいて、天候に関する情報を取得することを特徴とするゲーティングカメラ。
  8. 前記演算処理装置は、前記第1画像データと前記第2画像データそれぞれのヒストグラムを算出し、2つのヒストグラムにもとづいて前記天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  9. 前記演算処理装置は、前記2つのヒストグラムそれぞれの平均と分散を算出し、前記平均と前記分散にもとづいて前記天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  10. 前記演算処理装置は、前記2つのヒストグラムそれぞれの形状にもとづいて前記天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  11. 前記演算処理装置は、前記第1画像データと前記第2画像データの差分を表す差分画像を生成し、前記差分画像にもとづいて前記天候に関する情報を取得することを特徴とする請求項に記載のゲーティングカメラ。
  12. 前記差分画像は、前記狭レンジに存在する物体が写る範囲について生成されることを特徴とする請求項11に記載のゲーティングカメラ。
  13. 前記演算処理装置は、前記差分画像のヒストグラムを生成し、前記ヒストグラムにもとづいて前記天候に関する情報を取得することを特徴とする請求項11または12に記載のゲーティングカメラ。
JP2022543998A 2020-08-21 2021-08-19 車載用センシングシステムおよびゲーティングカメラ Active JP7641288B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020140276 2020-08-21
JP2020140276 2020-08-21
PCT/JP2021/030395 WO2022039231A1 (ja) 2020-08-21 2021-08-19 車載用センシングシステムおよびゲーティングカメラ

Publications (2)

Publication Number Publication Date
JPWO2022039231A1 JPWO2022039231A1 (ja) 2022-02-24
JP7641288B2 true JP7641288B2 (ja) 2025-03-06

Family

ID=80323546

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022543998A Active JP7641288B2 (ja) 2020-08-21 2021-08-19 車載用センシングシステムおよびゲーティングカメラ

Country Status (6)

Country Link
US (1) US20230336876A1 (ja)
EP (1) EP4202502A4 (ja)
JP (1) JP7641288B2 (ja)
CN (1) CN116648921A (ja)
IL (1) IL300810A (ja)
WO (1) WO2022039231A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021123944A1 (de) 2021-09-16 2023-03-16 Valeo Schalter Und Sensoren Gmbh Kameravorrichtung zum anbringen an einem fenster eines fahrzeugs, fahrzeug und verfahren zum betreiben einer kameravorrichtung

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180563A (ja) 1998-12-10 2000-06-30 Nagoya Electric Works Co Ltd 降雨雪状況検出方法およびその装置
JP2007057331A (ja) 2005-08-23 2007-03-08 Denso Corp 車載霧判定装置
JP2009078755A (ja) 2007-09-27 2009-04-16 Mitsubishi Heavy Ind Ltd 車両空調装置用操作装置
JP2019078755A (ja) 2017-10-24 2019-05-23 アクシス アーベー 一場面における霧検出のための方法及び撮像装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009257983A (ja) 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置および車両用距離画像データの生成方法
WO2017110413A1 (ja) 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
WO2017149370A1 (en) * 2016-03-01 2017-09-08 Brightway Vision Ltd. Gated imaging apparatus, system and method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000180563A (ja) 1998-12-10 2000-06-30 Nagoya Electric Works Co Ltd 降雨雪状況検出方法およびその装置
JP2007057331A (ja) 2005-08-23 2007-03-08 Denso Corp 車載霧判定装置
JP2009078755A (ja) 2007-09-27 2009-04-16 Mitsubishi Heavy Ind Ltd 車両空調装置用操作装置
JP2019078755A (ja) 2017-10-24 2019-05-23 アクシス アーベー 一場面における霧検出のための方法及び撮像装置

Also Published As

Publication number Publication date
JPWO2022039231A1 (ja) 2022-02-24
EP4202502A4 (en) 2024-02-14
US20230336876A1 (en) 2023-10-19
IL300810A (en) 2023-04-01
EP4202502A1 (en) 2023-06-28
WO2022039231A1 (ja) 2022-02-24
CN116648921A (zh) 2023-08-25

Similar Documents

Publication Publication Date Title
JP6293134B2 (ja) 立体ゲーテッド画像システム及び方法
JP6851985B2 (ja) 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
JP6416085B2 (ja) 適用可能な被写界深度を使用するゲーテッド撮像
JP6471528B2 (ja) 物体認識装置、物体認識方法
US9904859B2 (en) Object detection enhancement of reflection-based imaging unit
JP2009090844A (ja) 照明装置
JP7594539B2 (ja) ゲーティングカメラ、自動車、車両用灯具、画像処理装置、画像処理方法
WO2020184447A1 (ja) ゲーティングカメラ、自動車、車両用灯具、物体識別システム、演算処理装置、物体識別方法、画像表示システム、検査方法、撮像装置、画像処理装置
WO2022034472A1 (en) Apparatus, system and method for controlling lighting using gated imaging
JP7641288B2 (ja) 車載用センシングシステムおよびゲーティングカメラ
US20230328353A1 (en) Vehicle-mounted sensing system and gated camera
EP3227742B1 (en) Object detection enhancement of reflection-based imaging unit
JP7656584B2 (ja) センサ、自動車および周囲環境のセンシング方法
CN116648664A (zh) 车载用传感系统以及门控照相机
WO2022039229A1 (ja) 車載用センシングシステムおよびゲーティングカメラ
WO2022014416A1 (ja) ゲーティングカメラ、車両用センシングシステム、車両用灯具
US20250004137A1 (en) Active sensor, object identification system, vehicle lamp
WO2023085403A1 (ja) センシングシステム
WO2023013776A1 (ja) ゲーティングカメラ、車両用センシングシステム、車両用灯具
CN116710838A (zh) 车载用感测系统及门控照相机

Legal Events

Date Code Title Description
AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230510

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250221

R150 Certificate of patent or registration of utility model

Ref document number: 7641288

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150