JP7404173B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP7404173B2 JP7404173B2 JP2020117152A JP2020117152A JP7404173B2 JP 7404173 B2 JP7404173 B2 JP 7404173B2 JP 2020117152 A JP2020117152 A JP 2020117152A JP 2020117152 A JP2020117152 A JP 2020117152A JP 7404173 B2 JP7404173 B2 JP 7404173B2
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- region
- images
- area
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Description
図1を用いて、実施例1における物体検知装置を搭載した車載カメラシステムの概要を説明する。車両100にカメラ101が搭載される。カメラ101は、車両100周囲を撮影した画像を取得するためのもので、時間的に異なる複数の画像を取得できれば、単眼カメラでもよいし、2台以上のカメラからなるステレオカメラでもよい。カメラ101には物体検知装置102が搭載されており、例えば前方の物体までの距離や相対速度を計測して車両制御部103に送信する。車両制御部103は、物体検知装置102から受け取った距離や相対速度からブレーキ・アクセル105、ステアリング104を制御する。
画像変換部241においては、異なる2時刻における2枚の画像を、それぞれの画像全体において支配的な平面を射影変換(俯瞰変換とも呼ぶ)する第一パラメタによって俯瞰画像に変換する。第一パラメタは、それぞれの画面全体で同一のパラメタである。支配的な平面とは、例えば前述の車載カメラシステムであれば、自車が平坦な路面上にいると仮定して変換する場合の路面が考えられる。また、LiDARやステレオカメラなどの距離センサが存在する場合、距離計測結果を用いて路面を推定した結果を利用してもよい。このとき、図6に示すように路面勾配の変化するシーンでは自車601の姿勢を基に1枚の(同一の)平面602で路面全体を表現するため、表現している平面と路面にずれが発生する可能性がある。
障害物候補領域抽出部242においては、異なる2時刻で撮像された2枚の画像から領域の位置合わせを高精度に実施し、障害物の領域を正確に算出すべき領域(以下、障害物候補領域とも呼ぶ)を抽出する。シーン全体では複数の平面が存在するため、一つの(一律の)射影変換では十分に表現できない(図6参照)。そこで、一つの射影変換で表現できるだけの小領域を抽出し、後段の処理で改めて射影変換による画像の変換と重ね合わせを行うことで、路面部分の差分をなくし、障害物部分の差分だけを用いて障害物検知を行う。ここで、障害物検知において精度よく検知枠の位置を推定する必要があるのは下端部であるから、接地位置に近い領域(すなわち、障害物を示す領域のうち路面から所定高さ以内の領域)を選択する。
障害物検知部243においては、障害物候補領域抽出部242で抽出された障害物候補領域において位置合わせを実施することで支配的な平面を射影変換する第二パラメタを算出し、第二パラメタによって変換した画像を重ね合わせて(換言すれば、位置合わせを行い)差分の生じた領域を障害物が存在する領域、すなわち障害物として検知する。障害物検知部243のフローチャートを図11に示した。図11に示すように、入力として前述した(2枚の画像の)障害物候補領域を与える。ステップS1101において、与えられた領域から特徴点を検出する。特徴点の検出手段としては、FAST(Features from Accelerated Segment Test)やHarris’s corner detectionなどが公知として挙げられる。これらは画像中からコーナーとなっている点を検出するものであり(図12参照)、周辺と比較して特徴的である点を検出する手法として知られている。次にステップS1102において、検出した特徴点から特徴量を算出する。特徴量の算出手段としては、例えばSIFT(Scale-Invariant Feature Transform)が公知として挙げられる。SIFTは照明変化、回転、拡大縮小などの画像変化が発生した場合においても特徴量の変化しない頑健な特徴量として知られている手法であり、カメラの位置変化や時間経過によって見え方が変化した場合にも、同一の点を同一と判断することができる。次にステップS1103において、2時刻の特徴点のマッチングを行う(図12参照)。過去の時刻T-1における(障害物候補領域の)特徴点と、現在の時刻Tにおける(障害物候補領域の)特徴点を比較し、ステップS1102で算出した特徴量の近い点同士をマッチングさせ、図12に示すように2時刻で同一の個所を指し示す特徴点ペア(1201、1202)を得る。マッチングした点の情報を用いて、ステップS1104では射影変換行列の推定を行う。すべての点を同一の射影変換行列によって変換して重ね合わせたときに、最も点のずれ量が少なくなるような射影変換行列を求める。本処理によって、障害物候補領域抽出部242で抽出された、障害物の下端部及び足元の路面によって構成される小領域(障害物候補領域)に対して、足元の路面に応じた第二パラメタによる射影変換行列を求める。第二パラメタによる射影変換行列を用いて変換した画像(すなわち、障害物候補領域部分の俯瞰画像)同士をステップS1105において重ね合わせ、画像の輝度値の差分を計算する。ステップS1106において、重ね合わせ(位置合わせ)によって画像の差分が発生した領域(差分領域)が障害物(障害物が存在する領域)であるとして障害物検知結果を得る。障害物候補領域は、障害物及びその足元路面だけを含むような小領域を抽出しているため、本処理によって、シーン全体で路面勾配が変化していたり、段差や高低差によって1つの射影変換行列では表現できないシーンであっても、障害物ごとに適切な射影変換行列(足元路面に応じた第二パラメタによる射影変換行列)を推定することができ、路面の撮像された領域から不要な差分が発生することを防ぐことができる。
実施例2は実施例1の変形例であり、障害物候補領域抽出部242において地図情報及び車両GPS情報を用いることで、誤検知の可能性の高い領域を抽出する場合の実施例を示す。本実施例によれば、射影変換の誤差によって誤検知の発生する可能性の高い、路面上にテクスチャのあるシーンを逃すことなく障害物候補領域として抽出し、高精度に位置合わせすることで、路面上のテクスチャを障害物として誤検知することを防ぐことができる。
実施例3は実施例1の変形例であり、障害物候補領域抽出部242で現在障害物のある可能性のある領域だけでなく、未来において障害物(大人や子どもの歩行者、自転車、バイク、自動車など)の飛び出しの発生する可能性のある領域を抽出する場合の実施例を示す。本実施例によれば、急な飛び出しの発生時においても障害物までの距離を誤推定することなく推定することができる。
と考えてもよい。
Claims (10)
- 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出することによって前記障害物候補領域を抽出し、
前記障害物検知部は、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の第二パラメタによる位置合わせを行い差分の生じた領域を前記障害物が存在する領域と判断することを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出し、抽出した領域のうち路面から所定高さ以内の領域を抽出し、抽出した領域に対応する前記2枚の画像の領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の画像において歩行者の脚部検出機能によって検出された歩行者脚部候補の周辺領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、地図情報及び自車の位置情報を取得し、前記2枚の画像における路面ペイントが撮像される領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の画像において前記障害物の可能性のある領域の左右端に隣接する飛び出しの危険性のある領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出することによって前記障害物候補領域を抽出し、
前記障害物検知部は、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の第二パラメタによる位置合わせを行い差分の生じた領域を前記障害物が存在する領域と判断することを特徴とする画像処理装置。 - 請求項6に記載の画像処理装置であって、
前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出し、抽出した領域のうち路面から所定高さ以内の領域を抽出し、抽出した領域に対応する前記2枚の画像の領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の画像において歩行者の脚部検出機能によって検出された歩行者脚部候補の周辺領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、地図情報及び自車の位置情報を取得し、前記2枚の画像における路面ペイントが撮像される領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。 - 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え、
前記障害物候補領域抽出部は、前記2枚の画像において前記障害物の可能性のある領域の左右端に隣接する飛び出しの危険性のある領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020117152A JP7404173B2 (ja) | 2020-07-07 | 2020-07-07 | 画像処理装置 |
PCT/JP2021/019335 WO2022009537A1 (ja) | 2020-07-07 | 2021-05-21 | 画像処理装置 |
DE112021002598.8T DE112021002598T5 (de) | 2020-07-07 | 2021-05-21 | Bildverarbeitungsvorrichtung |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020117152A JP7404173B2 (ja) | 2020-07-07 | 2020-07-07 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022014673A JP2022014673A (ja) | 2022-01-20 |
JP7404173B2 true JP7404173B2 (ja) | 2023-12-25 |
Family
ID=79552895
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020117152A Active JP7404173B2 (ja) | 2020-07-07 | 2020-07-07 | 画像処理装置 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP7404173B2 (ja) |
DE (1) | DE112021002598T5 (ja) |
WO (1) | WO2022009537A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7418481B2 (ja) * | 2022-02-08 | 2024-01-19 | 本田技研工業株式会社 | 学習方法、学習装置、移動体制御装置、移動体制御方法、およびプログラム |
CN118334458B (zh) * | 2024-06-14 | 2024-09-17 | 中国海洋大学 | 一种通用跨域图像转换方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008034981A (ja) | 2006-07-26 | 2008-02-14 | Fujitsu Ten Ltd | 画像認識装置、画像認識方法、歩行者認識装置および車両制御装置 |
WO2010044127A1 (ja) | 2008-10-16 | 2010-04-22 | 三菱電機株式会社 | 車外障害物高度検出装置 |
JP2010256995A (ja) | 2009-04-21 | 2010-11-11 | Daihatsu Motor Co Ltd | 物体認識装置 |
JP2019139420A (ja) | 2018-02-08 | 2019-08-22 | 株式会社リコー | 立体物認識装置、撮像装置および車両 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007235642A (ja) | 2006-03-02 | 2007-09-13 | Hitachi Ltd | 障害物検知システム |
-
2020
- 2020-07-07 JP JP2020117152A patent/JP7404173B2/ja active Active
-
2021
- 2021-05-21 WO PCT/JP2021/019335 patent/WO2022009537A1/ja active Application Filing
- 2021-05-21 DE DE112021002598.8T patent/DE112021002598T5/de active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008034981A (ja) | 2006-07-26 | 2008-02-14 | Fujitsu Ten Ltd | 画像認識装置、画像認識方法、歩行者認識装置および車両制御装置 |
WO2010044127A1 (ja) | 2008-10-16 | 2010-04-22 | 三菱電機株式会社 | 車外障害物高度検出装置 |
JP2010256995A (ja) | 2009-04-21 | 2010-11-11 | Daihatsu Motor Co Ltd | 物体認識装置 |
JP2019139420A (ja) | 2018-02-08 | 2019-08-22 | 株式会社リコー | 立体物認識装置、撮像装置および車両 |
Also Published As
Publication number | Publication date |
---|---|
JP2022014673A (ja) | 2022-01-20 |
DE112021002598T5 (de) | 2023-03-09 |
WO2022009537A1 (ja) | 2022-01-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10452931B2 (en) | Processing method for distinguishing a three dimensional object from a two dimensional object using a vehicular system | |
US10690770B2 (en) | Navigation based on radar-cued visual imaging | |
CN106485233B (zh) | 可行驶区域检测方法、装置和电子设备 | |
US9846812B2 (en) | Image recognition system for a vehicle and corresponding method | |
JP6511283B2 (ja) | 物体検知装置 | |
US11200432B2 (en) | Method and apparatus for determining driving information | |
JP4973736B2 (ja) | 路面標示認識装置,路面標示認識方法及び路面標示認識プログラム | |
US9697421B2 (en) | Stereoscopic camera apparatus | |
KR101551026B1 (ko) | 차량 검출 방법 | |
JP2021510227A (ja) | 衝突前アラートを提供するためのマルチスペクトルシステム | |
WO2019202628A1 (ja) | 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法 | |
JP2005038407A (ja) | 車両用外界認識装置 | |
EP3324359B1 (en) | Image processing device and image processing method | |
JP7404173B2 (ja) | 画像処理装置 | |
JP3925285B2 (ja) | 走行路環境検出装置 | |
KR101818842B1 (ko) | 운전지원장치, 거리감지방법 및 차로의 너비감지방법 | |
US20200193184A1 (en) | Image processing device and image processing method | |
KR20160126254A (ko) | 도로 영역 검출 시스템 | |
JP6886136B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JP2013214258A (ja) | 歩行者検出装置及び方法、並びに車両用衝突判定装置 | |
WO2022270183A1 (ja) | 演算装置、速度算出方法 | |
JP6677142B2 (ja) | 駐車枠認識装置 | |
JP7390899B2 (ja) | レーンマーク認識装置 | |
WO2023095489A1 (ja) | 外界認識装置 | |
JP2006185431A (ja) | 車両周辺監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231003 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231025 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231213 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7404173 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |