JP4042319B2 - Alarm control device - Google Patents
Alarm control device Download PDFInfo
- Publication number
- JP4042319B2 JP4042319B2 JP2000296378A JP2000296378A JP4042319B2 JP 4042319 B2 JP4042319 B2 JP 4042319B2 JP 2000296378 A JP2000296378 A JP 2000296378A JP 2000296378 A JP2000296378 A JP 2000296378A JP 4042319 B2 JP4042319 B2 JP 4042319B2
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- driving load
- alarm
- driver
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
- Instrument Panels (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は警報制御装置、より具体的には自動車の安全走行を支援する警報制御装置に関する。
【0002】
【従来の技術】
近年、車両走行を行うにあたって安全走行の障害となる事物が存在する場合には、その旨を瞬時に、かつ、理解しやすい方法で運転者に報知することで事故を未然に防止する装置の発明及び開発がなされている。
【0003】
例えば、特開平8−175228号公報に記載の運転支援装置は、車両前方の光景をテレビカメラによって撮影し、画像処理によって撮影された画像の中に事故の原因となる障害物の存在が認められた場合には、その障害物の輪郭線をヘッドアップ型表示装置に障害物に重ねて投影することで、障害物の存在を強調し、運転者による障害物存在の認識を容易にする運転支援装置である。
【0004】
また、特開平7−329657号公報に記載の車両用警報表示装置は、人間の持つ視野の特性に着目して、車両において警報提示が必要な場合には、運転者の顔画像を処理することによって運転者の視線方向を検出し、検出した視線方向近くの表示位置にマスターワーニング表示を行うことで、運転者に何らかの警報が提示されていることを即座に、かつ、容易に認識させる車両用警報装置である。
【0005】
【発明が解決しようとする課題】
ところで、人間が視覚情報や聴覚情報を受容している時に有している認知特性は、人間に与えられている負荷に応じて変化するといわれている。
【0006】
例えば、運転者の運転負荷が低いほど有効視野は広くなり、運転負荷が高いほど狭くなる。また運転者の運転負荷が低いほど認知すべき対象の理解度は浅くなり、運転負荷が高いほど深くなる。更に、運転負荷が低いほど認知すべき対象の存在を認知するのに要する時間は短くなり、運転負荷が高いほど長くなる。つまり、運転者の運転負荷が低い場合には、進路上の障害物の存在を見落とすことは少ないが、その障害物が真に障害物であるのか、又は歩行者であるのか、という区別が困難であるということになる。一方、運転負荷が高い場合には、進路上の障害物の存在自体に気付く事が困難ではあるが、一度その障害物に目を向ければ、障害物であるのか人間であるのか、という区別は容易である。
【0007】
以上の人間の認知特性を鑑みると、前記前者の先行技術においては、運転負荷が低い時には有効な警報手段ではあるが、運転負荷が高い場合には提示されている警報そのものの存在に運転者が気付かない恐れがある。また、前記後者の先行技術においては、運転者の運転負荷に関わらず画一的なマスタワーニングを提供しているが、運転者の運転負荷を考慮することによって、より効果的な警報の提示を行う事が可能となる。
【0008】
本発明はこのような従来技術の課題を解決するために、運転負荷が高い場合でも運転者が警報に気付くことができる、運転負荷に関係なくより効果的な警報の提示が可能な警報制御装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
本発明は、車両前方において車両走行の妨げとなる可能性のある障害物が存在することを検出する障害物検出手段と、運転者の運転負荷状態を検出する運転負荷検出手段と、運転負荷検出手段によって検出される運転負荷状態に応じて、障害物検出手段が障害物を検出する障害物検出範囲を限定する障害物検出範囲限定手段と、障害物の種別を判定する障害物種別判定手段と、障害物検出手段によって障害物検出範囲において障害物が検出された場合、運転負荷検出手段によって検出される運転負荷状態に対応する視覚情報、または聴覚情報の受容に関する認知特性と、障害物種別判定手段による判定結果とに応じて、適正警報情報を運転者に提示する方法を決定する警報提示方法決定手段と、適正警報情報を提示する警報情報提示手段とを有する。
【0010】
【実施例】
以下、本発明の第1実施例を説明する。
【0011】
図2は、本発明の第1実施例に係る警報制御装置のブロック構成図である。
【0012】
この警報制御装置は、警報情報提示装置24とこれを制御するコントローラ23、運転者の生体信号を検出する生体信号検出装置20、検出した生体信号から運転者の運転負荷を検出する運転負荷判定装置21、車両前方において事故の原因となる可能性のある障害物を検出する障害物検出装置22から構成されている。
【0013】
これらは図1に示すクレーム対応図において、生体信号検出装置20及び運転負荷判定装置21は運転者負荷判定手段10を構成する。また、障害物検出装置22は障害物検出手段12及び障害物種別判別手段13を構成する。さらに、コントローラ23は警報提示手法決定手段14と障害物検出範囲決定手段11を構成し、警報情報提示装置24は警報情報提示手段15を構成する。なお、警報提示手法決定手段14と障害物検出範囲決定手段11は単一のコントローラ23で兼用させる必要はなく、互いに独立した装置で構成することも可能である。
【0014】
生体信号検出装置20は、心電信号検出装置201及び呼吸曲線検出装置202から構成されている。心電信号検出装置201は超音波センサによって心臓の拍動を検出するものであり、検出する心拍信号は心電の正確な波形診断が目的ではないため、図3に示すように、超音波センサ51をシート52に内蔵することで心拍信号の検出が可能である。また、呼吸曲線検出装置202は、胸部に配置した歪みゲージの伸縮で呼吸運動を波形として検出する呼吸センサであり、図3に示すように、呼吸センサ53をシートベルト50に内蔵することで呼吸信号の検出が可能である。
【0015】
運転負荷判定装置21は、心電信号検出装置201及び呼吸曲線検出装置202が検出した各信号に基づき、運転者の運転負荷を判定する。心電信号検出装置201が検出した心電信号から運転負荷を判定する場合、心電信号中R波を抽出しR波の時間的な間隔(RRI)を求め、RRIが相対的に小さな値を示せば運転負荷が高く、相対的に大きな値を示せば運転負荷が低いと判定する手法や、R波の時間的な間隔の分散値(RRV)を求め、RRVが相対的に小さな値を示せば運転負荷が高く、相対的に小さな値を示せば運転負荷が低いと判定する手法、RRIを周波数解析して得る高周波数成分(HF)及び低周波数成分(LF)の比(LH=LF/HF)によって、LHが相対的に大きい値を示せば運転負荷が高く、相対的に小さい値を示せば運転負荷が低いと判定する手法、などを適用することができる。
【0016】
また、呼吸曲線検出装置202が検出した呼吸曲線から運転負荷を判定する場合、呼吸曲線を周波数解析して得る呼吸周波数によって、呼吸周波数が相対的に小さい値を示せば運転負荷が高く、相対的に大きい値を示せば運転負荷が低いと判定する方法、呼吸曲線を周波数解析して得る呼吸周波数の分散値を求め、本分散値が相対的に大きい値を示せば運転負荷が高く、相対的に小さい値を示せば運転負荷を低いと判定する方法、などを適用することができる。
【0017】
更に、本運転負荷判定装置21では、前記の各手法によって求めた運転負荷を総合して運転者の運転負荷とする。この際、運転負荷はその値の大きさに応じて予め運転負荷判定装置21に記憶させておいた5段階の運転負荷区分に割り振る事が可能である。なお、運転負荷判定装置21が判定した運転者の運転負荷区分は運転負荷区分保持メモリ211に保存される。
【0018】
障害物検出装置22は、車両前方の光景を撮影するテレビカメラ221、テレビカメラの画像から障害物を抽出する画像処理装置222、画像メモリ223及び障害物区分保持メモリ224から構成されている。画像処理装置222では、ビデオカメラ221が撮影したアナログ信号又はデジタル信号による車両前方の画像信号から走行上事故の原因となる可能性のある障害物を抽出する。本処理の流れを図4に示すフローチャートを用いて以下に説明する。
【0019】
ステップS501はテレビカメラから画像を入力する。続いてステップS502で、障害物を検出する範囲と、障害物を検出する処理において、どの程度深く検出作業を行うか決定づける障害物検出レベルを入力する。
【0020】
ステップS503では、テレビカメラからの画像信号を微分フィルタなどによって画像中の輪郭線を抽出し、パターンマッチングの手法によって画像信号から、障害物の輪郭のみを抽出する処理を行う。なお、画像信号に対するパターンマッチングを行う範囲を限定することで、障害物を検出する範囲を制限することが可能であるため、ステップS202で入力した障害物検出範囲に限って輪郭抽出の処理を行う。
【0021】
ステップS504では、ステップS503で画像信号中に障害物と認められる輪郭が存在した場合には、ステップS505に進み画像処理装置22内部の画像メモリ223に輪郭線画像として保持する。障害物の存在が認められなかった場合には処理を終了する。
【0022】
ステップS506では、ステップS502で入力された検出レベルが「高」であるかを判別する。「高」であった場合にはステップS507に進み、「高」でなかった場合には処理を終了する。
【0023】
ステップS507では、ステップS503で検出した障害物が歩行者であるか障害物を区分する。この結果を、ステップS508で障害物区分保持メモリ224に保持して、処理を終了する。
【0024】
前記警報情報提示装置24はヘッドアップ型表示器(HUD)241、画像メモリ242及びブザー243により構成される。
【0025】
前記コントローラ23は、運転負荷判定装置21及び障害物検出装置22の処理結果に基づき、警報情報提示装置24を介して運転者に提示される警報情報を適正に制御する装置であり、適正警報決定回路231、適正警報決定規則保持メモリ233、障害物検出範囲決定回路233及び障害物検出範囲決定規則保持メモリ234により構成される。以下、本実施例における処理の流れを図8のフローチャートに基づいて説明する。
【0026】
まず、ステップS10では、運転者の運転負荷区分を運転負荷判定装置21の運転負荷区分保持メモリ211から読み込み、次のステップS11では、ステップS10で読み込まれた運転負荷区分と、コントローラ23内部の障害物検出範囲決定規則保持メモリ233に保持された図5に示す障害物検出範囲決定規則に基づき、コントローラ23内部の障害物検出範囲決定回路232によって、障害物の検出範囲及び障害物の検出レベルを決定する。
【0027】
なお、以下、本実施例においては障害物検出の範囲及び視覚警報の表示位置を図6に示すように、運転席側シート60のヘッドレスト61のヘッドレスト中心点62からフロントウィンド63に向けて、車両の進行方向かつ地面に対して水平に伸ばした直線がフロントウィンド63と交わる点を特定点64とすると、ヘッドレスト中心点62と特定点64を結ぶ直線を基準線70とした場合、フロントウィンド63上の任意の点65とヘッドレスト中心点62を結ぶ直線71と基準線70のなす角度θで表現することとする。
【0028】
次にステップS12では、ステップS11で決定した障害物検出範囲の範囲内に障害物が存在するかを判別するため、障害物検出装置22に指定の範囲に存在する障害物の検出を指定の検出レベルで実施させる指令を出す。例えば、図5の障害物検出範囲決定規則に示すように、運転負荷区分保持メモリ211に保持されている運転者の運転負荷がレベル1であった場合、障害物検出の範囲は「θ≧15°」であるので、θが15°以上の範囲で障害物を検出することを障害物検出装置22に伝達し、また検出レベルは「高」であるので障害物と歩行者を区分するレベルまで障害物検出を行うことを伝達する。次に、ステップS13では、障害物検出装置22からの検出結果に基づき、進行方向上に障害物が存在すると判定されたならばステップS14に進み、障害物が存在しないと判定されたならばステップS10に戻る。
【0029】
次にステップS14では、運転負荷区分保持メモリ211を読み込み、内部に保持されている運転負荷レベルに応じて、運転負荷レベルが「1」の場合には運転負荷レベル1の処理を実施するステップS15に進み、運転負荷レベルが「2」の場合には運転負荷レベル2の処理を実施するステップS16に進み、運転負荷レベルが「3」の場合には運転負荷レベル3の処理を実施するステップS17に進み、運転負荷レベルが「4」の場合には運転負荷レベル4の処理を実施するステップS18に進み、運転負荷レベルが「5」の場合には運転負荷レベル5の処理を実施するステップS19に進む。なお、これらの処理はコントローラ24内部の適正警報決定回路241によって行われる。
【0030】
以降、運転負荷レベル1の処理から運転負荷レベル5の処理まで順に説明する。これらの処理はコントローラ23内部の適正警報決定回路231が適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則を参照することによって行われる。なお、図7に示される角度θも図6によって説明するものである。
【0031】
運転負荷レベル1の処理の流れを図9のフローチャートに示す。
【0032】
まずステップS151では、障害物検出装置22の障害物区分保持メモリ224を参照し、メモリに保持された障害物区分が歩行者であればステップS152に進み、障害物であればステップS155に進む。
【0033】
ステップS152では、画像メモリ221に保持された画像よりも歩行者の位置を算出し、続いてステップS153では、フロントウィンド上に歩行者の像がθ=20°以内に存在する時にはステップS154に進み、θ=20°以内に存在しない場合にはステップS155に進む判断を行う。
【0034】
ステップS154では警報表示を行わない。これは、運転負荷がレベル1程度の低い場合において運転者は全体的な環境を把握することが可能である認知特性を示す為、フロントウィンド上のθ=20°以内に位置する歩行者の像は間違いなく検出できる為である。一方、ステップS155では、フロントウィンド上のθ=15°以内の位置において文字もしくはアイコン等を視野角2°の大きさで、ヘッドアップ型表示器を用いて表示することで、歩行者の存在を示す視覚警報の提示を行う。これは、運転負荷がレベル1程度の低い場合においても、フロントウィンド上のθ=20°以上に位置する歩行者の像については、その存在を見逃す可能性があるからである。
【0035】
ステップS156では、画像メモリ231に保持された画像より障害物の位置を算出し、続いてステップS157では、障害物の像がフロントウィンド上のθ=25°以内に存在する時にはステップS158に進み、θ=25°以内に存在しない場合にはステップS159に進む判断を行う。
【0036】
ステップS158では、警報表示を行わない。これは、運転負荷がレベル1程度の低い場合において運転者は全体的な環境を把握することができる認知特性を示す為、フロントウィンド上のθ=25°以内に像が位置する障害物は間違いなく検出できる為である。一方、ステップS159では、フロントウィンド上のθ=15°以内の位置において文字もしくはアイコン等を視野角2°の大きさで、ヘッドアップ型表示器を用いて表示することで、障害物の存在を示す視覚警報の提示を行う。これは、運転負荷がレベル1程度の低い場合においても、フロントウィンド上のθ=25°以上に像が位置する障害物については、その存在を見逃す可能性があるからである。
【0037】
運転負荷レベル2の処理の流れを図10のフローチャートに示す。
【0038】
まずステップS161では、障害物検出装置22の障害物区分保持メモリ224を参照し、メモリに保持された障害物区分が歩行者であればステップS162に進み、障害物であればステップS165に進む。
【0039】
ステップS162では、画像メモリ223に保持された画像より歩行者の位置を算出し、続いてステップS163では、歩行者の像が車両のフロントウィンド上のθ=15°以内に存在する時にはステップS164に進み、θ=15°以内に存在しない場合にはステップS165に進む判断を行う。
【0040】
ステップS164では、警報表示を行わない。これは、運転負荷がレベル2程度の低い場合において運転者は全体的な環境を把握することができる認知特性を示す為、フロントウィンド上のθ=15°以内に位置する歩行者の像は間違いなく検出できる為である。一方、ステップS165では、フロントウィンド上のθ=10°以内の位置において文字もしくはアイコン等を視野角5°の大きさで、ヘッドアップ型表示器を用いて表示することで、歩行者の存在を示す視覚警報の提示を行う。これは、運転負荷がレベル2程度の低い場合においても、フロントウィンド上のθ=15°以上に位置する歩行者の像については、その存在を見逃す可能性があるからである。
【0041】
ステップS166では、画像メモリ223に保持された画像より障害物の位置を算出し、続いてステップS167では、障害物の像がフロントウィンド上のθ=20°以内に存在する時にはステップS168に進み、θ=20°以内に存在しない場合にはステップS169に進む判断を行う。
【0042】
ステップS168では、警報表示を行わない。これは、運転負荷がレベル2程度の低い場合において運転者は全体的な環境を把握することができる認知特性を示す為、フロントウィンド上のθ=20°以内に位置する障害物の像は間違いなく検出できる為である。一方、ステップS169では、フロントウィンド上のθ=10°以内の位置において文字もしくはアイコン等を視野角5°の大きさで、ヘッドアップ型表示器を用いて表示することで、障害物の存在を示す視覚警報の提示を行う。これは、運転負荷の低い場合においても、フロントウィンド上のθ=20°以上に位置する障害物の像については、その存在を見逃す可能性があるからである。
【0043】
運転負荷レベル3の処理の流れを図11のフローチャートに示す。
【0044】
まずステップS171では、障害物検出装置22の画像メモリ223を参照し、警報情報提示装置24に備えられた画像メモリ242にその内容を取り込む。
【0045】
ステップS172では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=5°以内に存在する時には処理を終了し、θ=5°以内に存在しない場合にはステップS173に進む。
【0046】
ステップS173では、画像メモリ242に保持された障害物の輪郭線をヘッドアップ型表示装置241に赤で点滅表示することによって、フロントウィンド上では、障害物を赤で縁取ることによって強調された画像が表示されていることになる。ここでの点滅周期は適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則に基づき、点灯時間200ミリ秒、消灯時間200ミリ秒の、2.5Hzとする。
【0047】
ステップS174では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=20°以上に存在する場合にはステップS175に進む。
【0048】
ステップS175では、適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則に基づき、周波数3kHzのブザー243を、デューティ100ミリ秒/300ミリ秒で制御を行いつつ2秒間提示して処理を終了する。
【0049】
運転負荷レベル4の処理の流れを図12のフローチャートに示す。
【0050】
まずステップS181では、障害物検出装置22の画像メモリ223を参照し、画像メモリの内容を画像メモリ242に取り込む。ステップS182では、画像メモリ242に保持された障害物の輪郭線をヘッドアップ型表示装置241によって赤で点滅表示することによって、フロントウィンド上では、障害物を赤で縁取ることによって強調された画像が表示されていることになる。ここでの点滅周期は適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則に基づき、点灯時間100ミリ秒、消灯時間100ミリ秒の、5.0Hzとする。
【0051】
ステップS183では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=10°以上に存在する場合にはステップS184に進み、θ=10°以内に存在する場合には処理を終了する。
【0052】
ステップS184では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=30°以内に存在する場合にはステップS185に進み、θ=30°以上に存在する場合にはステップS186に進む。
【0053】
ステップS185では、適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則に基づき、周波数3kHzのブザー242を、デューティ100ミリ秒/300ミリ秒で制御しつつ2秒間提示し、ステップS186では、周波数3kHzのブザー242を、デューティ50ミリ秒/50ミリ秒で制御しつつ4秒間提示して処理を終了する。
【0054】
運転負荷レベル5の処理の流れを図13のフローチャートに示す。
【0055】
まずステップS191では、障害物検出装置22の画像メモリ223を参照し、画像メモリの内容を警報情報提示装置24に備えられた画像メモリ242に取り込む。ステップS192では、画像メモリ242に保持された障害物の輪郭線をヘッドアップ型表示装置によって赤で点滅表示することによって、フロントウィンド上では、障害物を赤で縁取ることによって強調された画像が表示されていることになる。ここでの点滅周期は適正警報決定規則保持メモリ232に保持された図7に示す適正警報決定規則に基づき、点灯時間50ミリ秒、消灯時間50ミリ秒の、10.0Hzとする。
【0056】
ステップS193では、画像メモリ231に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=10゜以上に存在する場合にはステップS194に進み、θ=10゜以内に存在する場合には処理を終了する。
【0057】
ステップS194では、画像メモリ231に保持された画像より障害物の位置を算出し、障害物の像がフロントウィンド上のθ=20゜以内に存在する場合にはステップS195に進み、θ=20゜以上に存在する場合にはステップS186に進む。
【0058】
ステップS195では、適正警報決定規則保持メモリ232に保持された図5に示す適正警報決定規則に基づき、周波数3kHzのブザー242を、デューティ100ミリ秒/300ミリ秒で制御を行いつつ2秒間提示し、ステップS196では、周波数3kHzのブザー242を、デューティ50ミリ秒/50ミリ秒で制御を行いつつ4秒間提示して処理を終了する。
【0059】
以上説明したように本実施例によれば、運転者の生体情報によって運転者の運転負荷を検出し、それに基づいて障害物の検出範囲及び障害物を検出した時の運転者への警報の与え方を変えるようにしたので、警報が必要な時に確実に警報情報の提示を行う事が可能になり、更に、警報の提示の際には運転者に課せられた運転負荷とその時の認知特性に応じた警報提示を行うことが可能となった。このため、警報情報の提示に対して運転者は素早く、確実に警報と警報の内容を理解することができ、速やかに障害物の回避行動に移ることが可能となる。
【0060】
図14は、本発明の第2実施例に係る警報制御装置のブロック構成図である。
【0061】
この図において、基本構成は前記図2の第1実施例のブロック構成図と同一であり、同符号を付けて重複した説明は省略する。
【0062】
操作状態検出装置30は、運転者の運転操作状態を検出する装置であり、具体的には、アクセル開度、ブレーキ操作、操舵角度、シフト操作、車室内に備わるスイッチ類の操作回数、などを検出する方法がある。また、車両状態検出装置31は、車両の動作状態を検出する装置であり、具体的には、車両速度、車両の前後加速度、横加速度、ヨーレートなどを検出する方法がある。
【0063】
運転負荷判定装置32では、操作状態検出装置30及び車両状態検出装置31が検出した各信号に基づき、運転者の運転負荷を判定する。この判定手法には様々な方法が考えられるが、例えば、運転操作状態から運転者の運転負荷を求める方法であれば、例えばアクセル開度であれば、一定時間のアクセル開度の時間微分を総和して、その値の大きさに応じて予め運転負荷判定装置32に記憶させておいた5段階の運転負荷区分に割り振る。すなわち、例えば、操舵角度であれば、一定時間の操舵角の時間微分を総和して、その値の大きさに応じて予め運転負荷判定装置32に記憶させておいた5段階の運転負荷区分に割り振る。また、例えば、ブレーキ操作、シフト操作、スイッチ類操作であれば、一定時間のブレーキ操作回数、シフト操作回数、スイッチ類操作回数をそれぞれ総和し、その値の大きさに応じて予め運転負荷判定装置32に記憶させておいた5段階の運転負荷区分に割り振る方法が考えられる。
【0064】
また、車両の動作状態より運転負荷を求める方法であれば、例えば車両速度であれば、一定時間の速度の時間微分を総和して、その値の大きさに応じて予め運転負荷判定装置32に記憶させておいた5段階の運転負荷区分に割り振り、例えば、車両の前後加速度、横加速度、ヨーレートであれば、一定時間のそれら値の時間微分を総和して、それぞれの値の大きさに応じて予め運転負荷判定装置32に記憶させておいた5段階の運転負荷区分に割り振る方法が考えられる。
【0065】
これら各運転負荷の判定手法が検出した5段階の運転負荷を全てについて平均を算出することによって、運転負荷判定装置32が提示する運転者の運転負荷判定としてもよい。なお、本運転負荷判定装置32が判定した運転者の運転負荷は、運転負荷区分保持メモリ321に保存される。
【0066】
障害物検出装置22は、車両前方の光景を撮影する前記テレビカメラ221、前記テレビカメラ221の画像から障害物を抽出する前記画像処理装置222、前記画像メモリ223及び歩行者検出装置225、前記障害物区分保持メモリ224から構成されている。
【0067】
歩行者検出装置225は、歩行者が携帯する電波等を発信する発信機と車両に搭載された受信機とによって構成されており、発信機が発進する電波を車両に搭載された受信機が検知する事で、ある位置に歩行者が存在する事を検知することが可能である。すなわち、画像処理装置222が何らかの障害物を検出した場合において、発信機の電波を受信した場合には障害物区分保持メモリ224には進行方向に歩行者が存在するという記録が保持され、発信機の電波を受信しなかった場合には障害物区分保持メモリ224には進行方向に障害物が存在するという記録が保持される。
【0068】
図14に示すコントローラ23における処理の流れは、図8から図13に示した本発明の第1実施例における図2中コントローラ23の処理の流れと同様である。
【0069】
以上説明したように本実施例によれば、運転者の運転操作情報及び車両挙動情報による運転者の運転負荷の検出を行い、それに基づいて障害物の検出範囲と障害物を検出したときの警報方法を変えるようにしたので、警報が必要な時に確実に警報情報の提示を行う事が可能になり、更に、警報の提示の際には運転者に課せられた運転負荷とその時の認知特性に応じた警報提示を行うことが可能となる。
【0070】
図15は、本発明の第3実施例に係る警報制御装置のブロック構成図である。
【0071】
この図において、基本構成は図2に示す本発明における第1実施例のブロック構成図及び図14に示す本発明における第2実施例のブロック構成図と同一であり、同符号を付して重複した説明は省略する。
【0072】
運転負荷判定装置41は、生体信号検出装置20、操作状態検出装置30、車両状態検出装置31からの出力信号を統合して、運転者の運転負荷をその値の大きさに応じて予め運転負荷区分保持メモリ421に記憶させておいた3段階の運転負荷区分に割り振ることによって判定を行う装置である。
【0073】
視線解析装置42は運転者の視線位置を検出する装置であり、例えば車両のインストルメントパネルに取り付けられたアイカメラによって眼球の画像を撮影し、画像処理を行う事によって運転者の視線位置を検出する装置である。更に本視線解析装置42にはその内部に、検出した運転者の視線位置情報を保持することが可能である視線位置保持メモリ421が備わっている。
【0074】
視線誘導装置44はコントローラ43からの入力に基づき、運転者の視線位置を所定の位置に誘導させる為の情報をヘッドアップ型表示器241に表示するとともに、運転者の視線位置が所定の位置に到達したかどうかの判断を行う装置である。
【0075】
コントローラ43は、運転負荷判定装置41、視線解析装置42及び障害物検出装置22の処理結果に基づき、警報情報提示装置24を介して運転者に提示される警報情報を適正に制御する装置であり、適正警報決定回路431、適正警報決定規則保持メモリ432、障害物検出範囲決定回路433及び障害物検出範囲決定規則保持メモリ434により構成される。
【0076】
以下、本実施例における処理の流れを図19に示すフローチャートに基づいて説明するが、基本的な処理の流れは図8に示す第1実施例のフローチャートと同一であるため、第1実施例における処理と異なるステップについて説明を行う。また、以下、本実施例においては障害物検出の範囲及び視覚警報表示の位置を、図16に示す運転者の視線位置66と運転者の眉間位置67を結ぶ直線を視線方向線72として、フロントウィンド63の任意の位置68と眉間の位置を結ぶ直線73と視線方向線がなす角度ηで表現することとする。
【0077】
ステップS31では、視線解析装置42によって運転者の視線位置を検出し、検出した視線位置を視線位置保持メモリ421で保持する。続いてステップS32では、ステップS31で検出された視線位置、ステップS10で読み込まれた運転負荷区分及び障害物検出範囲決定規則保持メモリ433に保持された図17に示す障害物検出範囲決定規則に基づき、障害物検出範囲決定回路433によって、障害物の検出範囲及び障害物の検出レベルを決定する。例えば、図17の障害物検出範囲決定規則に示すように、運転負荷区分保持メモリ211に保持されている運転者の運転負荷がレベル1であった場合、障害物検出の範囲は「η=15゜以上」であり、また検出レベルは「高」である。
【0078】
ステップS33では、運転負荷区分保持メモリ211を読み込み、メモリ内部に保持されている3段階の運転負荷レベルにおいて、運転負荷レベルが「1」の場合には運転負荷レベル1の処理を実施するステップS34に進み、運転負荷レベルが「2」の場合には運転負荷レベル2の処理を実施するステップS35に進み、運転負荷レベルが「3」の場合には運転負荷レベル3の処理を実施するステップS36に進む。なお、これらの処理はコントローラ43内部の適正警報決定回路431によって行われる。
【0079】
以降、運転負荷レベル1の処理から運転負荷レベル3の処理まで順に説明する。これらの処理はコントローラ43内部の適正警報決定回路431が適正警報決定規則保持メモリ432に保持された図18に示す適正規則保持法則を参照することによって行われる。
【0080】
運転負荷レベル1の処理の流れを図20のフローチャートに示す。
【0081】
まずステップS341では、障害物検出装置22の障害物区分保持メモリ224を参照し、メモリに保持された障害物区分が歩行者であればステップS342に進み、障害物であればステップS346に進む。
【0082】
ステップS342では、画像メモリ221に保持された画像より歩行者の存在位置を算出し、更に、視線位置保持メモリ421に保持された運転者の視線位置を読み込む。続いてステップS343では、歩行者の像が運転者の視線方向線との角度η=20゜以内に存在する時にはステップS344に進み、η=20゜以内に存在しない場合にはステップS345に進む判断を行う。
【0083】
ステップS344では、警報の提示を行わない。これは、運転負荷がレベル1程度の低い場合において運転者は全体的な環境を把握することができる認知特性を示す為、視線方向線との角度η=20゜以内に位置する歩行者は間違いなく検出できる為である。一方、ステップS345では、視線方向線との角度η=15゜以内の位置において、ヘッドアップ型表示器を用いて歩行者の存在を示す文字もしくはアイコン等による視覚警報の提示を視野角2゜の大きさによって行う。これは、運転負荷がレベル1程度の低い場合においても、視線方向線との角度η=20゜以上に位置する歩行者については、その存在を見逃す可能性があるからである。
【0084】
ステップS346では、画像メモリ231に保持された画像より障害物の存在位置を算出し、更に、視線位置保持メモリ421に保持された運転者の視線位置を読み込む。続いてステップS347では、障害物が運転者の視線方向線との角度η=25゜以内に存在する時にはステップS348に進み、25゜以内に存在しない場合にはステップS349に進む判断を行う。
【0085】
ステップS348では、警報の提示を行わない。これは、運転負荷がレベル1程度の低い場合において運転者は全体的な環境を把握することができる認知特性を示す為、視線方向線との角度η=25゜以内に位置する障害物は間違いなく検出できる為である。一方、ステップS349では、視線方向線との角度η=15゜以内の位置において、ヘッドアップ型表示器を用いて障害物の存在を示す文字もしくはアイコン等による視覚警報の提示を視野角2゜の大きさによって行う。これは、運転負荷がレベル1程度の低い場合においても、視線方向線との角度η=25゜以上に位置する歩行者については、その存在を見逃す可能性があるからである。
【0086】
運転負荷レベル2の処理の流れを図21のフローチャートに示す。
【0087】
まずステップS351では、障害物検出装置22の画像メモリ223を参照して保持されている画像メモリの内容を画像メモリ242に取り込み、更に、視線位置保持メモリ421を参照して保持されている運転者の視線位置を取り込む。
【0088】
ステップS352では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像が視線方向線との角度η=5゜以内に存在する時には処理を終了し、η=5゜以内に存在しない場合にはステップS353に進む。
【0089】
ステップS353では、画像メモリ242に保持された障害物の輪郭線を、ヘッドアップ型表示器を用いて赤で点滅表示することによって、フロントウィンド上では、障害物を赤で縁取ることによって強調された画像が表示されていることになる。ここでの点滅周期は適正警報決定規則保持メモリ232に保持された図18に示す適正警報決定規則に基づき、点灯時間200ミリ秒、消灯時間200ミリ秒の、2.5Hzとする。
【0090】
ステップS354では、画像メモリ223に保持された画像より障害物の位置を算出し、障害物の像が運転者の視線方向線との角度η=20゜以上に存在する場合にはステップS355に進み、η=20゜以上に存在しない場合には処理を終了する。
【0091】
ステップS355では、適正警報決定規則保持メモリ232に保持された図5に示す適正警報決定規則に基づき、周波数3kHzのブザー243を、デューティ100ミリ秒/300ミリ秒で制御を行いつつ2秒間提示して処理を終了する。
【0092】
運転負荷レベル3の処理の流れを図22のフローチャートに示す。
【0093】
まずステップS361では、障害物検出装置22の画像メモリ223を参照し、画像メモリの内容を画像メモリ242に取り込み、更に、視線位置保持メモリ421を参照して保持されている運転者の視線位置を取り込む。ステップS362では、画像メモリ242に保持された障害物の輪郭線を、ヘッドアップ型表示器を用いて赤で点滅表示することによって、フロントウィンド上では、障害物を赤で縁取ることによって強調された画像が表示されていることになる。ここでの点滅周期は適正警報決定規則保持メモリ232に保持された図5に示す適正警報決定規則に基づき、点灯時間50ミリ秒、消灯時間50ミリ秒の、10.0Hzとする。
【0094】
ステップS363では、画像メモリ231に保持された画像より障害物の位置を算出して、障害物の像が運転者の視線方向線との角度η=10゜以上の位置に存在する場合にはステップS364に進み、η=10゜以内に存在する場合には処理を終了する。
【0095】
ステップS364では、画像メモリ231に保持された画像より障害物の位置を算出して、障害物の像が運転者の視線方向線との角度η=20゜以内に存在する場合にはステップS365に進み、η=20゜以上に存在する場合にはステップS366に進む。
【0096】
ステップS365では、適正警報決定規則保持メモリ232に保持された図18に示す適正警報決定規則に基づき、周波数3kHzのブザー242を、デューティ100ミリ秒/300ミリ秒で制御を行いつつ2秒間提示して処理を終了する。
【0097】
ステップS366では、周波数3kHzのブザー242を、デューティ50ミリ秒/50ミリ秒で制御を行う。更に、フロントウィンド63に設置されたヘッドアップ型表示器及び視線誘導装置44を用いて運転者の視線を誘導するための情報を提示する。具体的には、図23に示すように運転者の視線位置80から障害物/歩行者81が存在する方向を示す矢印82等を表示する。
【0098】
ステップS367では、改めて運転者の視線位置を検出して、続いてステップS368において、運転者の視線位置が障害物の存在する位置に到達したかどうか判断を行う。運転者の視線位置が障害物に到達している場合にはステップS369に進んで警報音を停止して処理を終了するが、視線位置が障害物に到達していない場合には、ステップS366に戻る。
【0099】
以上説明したように本実施例によれば、運転者の生体情報、運転操作情報及び車両挙動情報による運転者の運転負荷の検出を行い、それに基づいて障害物の検出範囲と障害物を検出したときの警報方法を変えるようにしたので、警報が必要な時に確実に警報情報の提示を行う事が可能になり、更に、警報の提示の際には運転者に課せられた運転負荷とその時の認知特性に応じた警報提示を行うことが可能となる。更に、視線方向線によって視覚警報の提示位置を変えるようにしたり、運転負荷が高い場合には視線誘導を行うようにしたので、より正確に警報情報の提示を行うことが可能になる。
【0100】
【発明の効果】
請求項1記載の発明によれば、車両前方において車両走行を困難なものにする可能性のある障害物の存在の検出範囲を、運転者の運転負荷状態に応じて限定し、更に、運転者に警報すべき障害物を検出した場合には、運転者の運転負荷状態に対応する視覚情報、または聴覚情報の受容に関する認知特性と障害物の種別に応じて障害物警報情報を運転者に提示するようにしたので、運転者は不要かつ、煩わしいと感ずる警報提示を受けとることがないとともに、容易に警報と警報が示す内容が認識でき、これによって警報に対する動作をすばやく行うことができる。
【0101】
請求項2記載の発明によれば、請求項1記載の発明の効果に加え、警報提示方法決定手段は運転者の運転負荷に対応する視覚情報、または聴覚情報の受容に関する認知特性に基づいて聴覚表示及び視覚表示のいずれか、または双方によって前記警報情報を提示する事を決定し、更に視覚表示による警報情報の提示を行う場合には警報提示方法決定手段は運転者の運転負荷に対応する視覚情報、または聴覚情報の受容に関する認知特性に基づいて視覚表示の適正表示位置を決定するので、運転者は、認知特性に適合した警報情報を入手することができる。したがって、より確実に警報と警報が示す内容が認識できる。
【0102】
請求項3記載の発明によれば、請求項1、請求項2記載の発明の効果に加え、運転負荷検出手段は、運転者の運転負荷を生体情報運転負荷検出手段に、運転者の心電信号、脈波信号、呼吸信号、血圧信号、筋電信号の少なくとも一つ以上の生体情報から検出させ、また、運転負荷を操作情報運転負荷検出手段に、運転者のアクセル操作量、ブレーキ操作量、ハンドル操作量の少なくとも一つ以上の車両操作情報から運転負荷を検出させ、また、運転負荷を車両挙動運転負荷検出手段に、車両の速度、左右方向の加速度、ヨーレートの少なくとも一つ以上の車両挙動情報から検出させるので、車両運転中の運転者の運転負荷を生体情報、車両操作情報、車両挙動情報から検出することができる。
【0103】
請求項4記載の発明によれば、請求項1、請求項2、又は請求項3記載の発明の効果に加え、運転負荷検出手段は、運転負荷状態区分手段に運転者の運転負荷状態をその度合いに応じて区分させ、更に、警報提示方法決定手段は運転負荷状態区分手段によって示される区分に応じて適正警報情報提示の方法を決定するので、運転者に対して運転負荷の区分に応じた警報情報の提示が可能になる。
【0104】
請求項5記載の発明によれば、請求項1から請求項4記載の発明の効果に加え、障害物種別判定手段は、人・物区分手段に障害物を人間と人間以外とに区分させ、更に、警報提示手法決定手段は、人・物区分手段によって示される区分に応じて適正警報情報提示の方法を決定するので、運転者に対して障害物種別の区分に応じた警報情報の提示が可能になる。
【0105】
請求項6記載の発明によれば、請求項1から請求項5記載の発明の効果に加え、障害物検出範囲限定手段の限定する障害物の検出範囲を、運転負荷検出手段の検出した運転者の運転負荷が大きいほど広くするようにしたので、運転負荷が大きいほど広範囲の障害物を検出することが可能であり、運転負荷が小さいほど狭範囲の障害物を瞬時にかつ詳細に検出することが可能になる。
【図面の簡単な説明】
【図1】本発明の構成を示すブロック図である。
【図2】本発明の第一実施例の構成を示すブロック図である。
【図3】同実施例の超音波センサと呼吸センサの取付例を示す図である。
【図4】同実施例の障害物検出装置における演算処理手順を示すフローチャートである。
【図5】同実施例の障害物検出範囲決定規則保持メモリに収められた情報の説明図である。
【図6】同実施例の障害物検出範囲及び視覚警報表示位置を示す為に用いられる角度θの説明図である。
【図7】同実施例の適正警報決定規則保持メモリに収められた情報の説明図である。
【図8】同実施例のコントローラにおける演算処理手順を示すフローチャートである。
【図9】同実施例のコントローラにおける運転負荷レベル1の場合の演算処理手順を示すフローチャートである。
【図10】同実施例のコントローラにおける運転負荷レベル2の場合の演算処理手順を示すフローチャートである。
【図11】同実施例のコントローラにおける運転負荷レベル3の場合の演算処理手順を示すフローチャートである。
【図12】同実施例のコントローラにおける運転負荷レベル4の場合の演算処理手順を示すフローチャートである。
【図13】同実施例のコントローラにおける運転負荷レベル5の場合の演算処理手順を示すフローチャートである。
【図14】本発明の第二実施例の構成を示すブロック図である。
【図15】本発明の第三実施例の構成を示すブロック図である。
【図16】同実施例の障害物検出範囲及び視覚警報表示位置を示す為に用いられる角度ηの説明図である。
【図17】同実施例の障害物検出範囲決定規則保持メモリに収められた情報の説明図である。
【図18】同実施例の適正警報決定規則保持メモリに収められた情報の説明図である。
【図19】同実施例のコントローラにおける演算処理手順を示すフローチャートである。
【図20】同実施例のコントローラにおける運転負荷レベル1の場合の演算処理手順を示すフローチャートである。
【図21】同実施例のコントローラにおける運転負荷レベル2の場合の演算処理手順を示すフローチャートである。
【図22】同実施例のコントローラにおける運転負荷レベル3の場合の演算処理手順を示すフローチャートである。
【図23】同実施例の視線誘導装置の動作の説明図である。
【符号の説明】
10 運転者負荷判定装置
11 障害物検出範囲決定手段
12 障害物検出手段
13 障害物種別判別手段
14 警報提示手法決定手段
15 警報情報提示手段[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an alarm control device, and more particularly to an alarm control device that supports safe driving of an automobile.
[0002]
[Prior art]
In recent years, the invention of an apparatus for preventing an accident by informing a driver instantly and in an easy-to-understand manner when there is an obstacle to safe driving when performing vehicle driving. And has been developed.
[0003]
For example, in the driving support apparatus described in Japanese Patent Application Laid-Open No. 8-175228, a scene in front of the vehicle is photographed by a television camera, and the presence of an obstacle causing an accident is recognized in the image photographed by image processing. In such a case, the outline of the obstacle is projected onto the obstacle on the head-up display device, thereby emphasizing the presence of the obstacle and making it easier for the driver to recognize the obstacle. Device.
[0004]
Further, the vehicle alarm display device described in Japanese Patent Laid-Open No. 7-329657 processes a driver's face image when it is necessary to present an alarm in the vehicle, paying attention to the characteristics of the visual field of humans. By detecting the driver's line-of-sight direction and performing a master warning display at a display position near the detected line-of-sight direction, it is possible for the vehicle to immediately and easily recognize that an alarm is presented to the driver. It is an alarm device.
[0005]
[Problems to be solved by the invention]
By the way, it is said that the cognitive characteristics that humans have when receiving visual information and auditory information change according to the load given to humans.
[0006]
For example, the effective visual field becomes wider as the driving load of the driver is lower, and becomes narrower as the driving load is higher. In addition, the lower the driver's driving load, the lower the level of understanding of the object to be recognized, and the higher the driving load, the deeper. Furthermore, the lower the driving load, the shorter the time required to recognize the presence of an object to be recognized, and the longer the driving load, the longer. In other words, when the driver's driving load is low, it is rare to overlook the presence of an obstacle on the course, but it is difficult to distinguish whether the obstacle is truly an obstacle or a pedestrian. It means that. On the other hand, when the driving load is high, it is difficult to notice the presence of an obstacle on the path, but once you look at the obstacle, the distinction between being an obstacle or a human is Easy.
[0007]
In view of the above human cognitive characteristics, the former prior art is an effective alarm means when the driving load is low, but when the driving load is high, the driver is not present in the presence of the alarm itself being presented. There is a risk of not being aware. Further, in the latter prior art, a uniform master warning is provided regardless of the driving load of the driver, but more effective warning can be presented by considering the driving load of the driver. Can be done.
[0008]
In order to solve such a problem of the conventional technology, the present invention enables a driver to notice an alarm even when the driving load is high, and can provide a more effective alarm regardless of the driving load. The purpose is to provide.
[0009]
[Means for Solving the Problems]
The present invention relates to obstacle detection means for detecting the presence of an obstacle that may hinder vehicle travel in front of a vehicle, driving load detection means for detecting a driving load state of a driver, and driving load detection. An obstacle detection range limiting unit that limits an obstacle detection range in which the obstacle detection unit detects an obstacle according to the driving load state detected by the unit, and an obstacle type determination unit that determines an obstacle type. When the obstacle detection means detects an obstacle in the obstacle detection range, it corresponds to the driving load state detected by the driving load detection means. Regarding the reception of visual or auditory information According to the recognition characteristics and the determination result by the obstacle type determination means, there is an alarm presentation method determination means for determining a method for presenting appropriate alarm information to the driver, and an alarm information presentation means for presenting appropriate alarm information. .
[0010]
【Example】
The first embodiment of the present invention will be described below.
[0011]
FIG. 2 is a block diagram of the alarm control device according to the first embodiment of the present invention.
[0012]
This alarm control device includes an alarm
[0013]
These are the claim correspondence diagrams shown in FIG. 1, and the biological
[0014]
The biological
[0015]
The driving
[0016]
Further, when determining the driving load from the respiratory curve detected by the respiratory curve detection device 202, the driving load is high if the respiratory frequency indicates a relatively small value by the respiratory frequency obtained by frequency analysis of the respiratory curve. If a large value is shown, a method of determining that the driving load is low, a variance value of the respiratory frequency obtained by frequency analysis of the breathing curve is obtained, and if this variance value is relatively large, the driving load is high and the relative If a small value is indicated, a method of determining that the operation load is low can be applied.
[0017]
Further, in the present driving
[0018]
The
[0019]
In step S501, an image is input from the television camera. In step S502, an obstacle detection range and an obstacle detection level that determines how deeply the detection operation is performed in the obstacle detection process are input.
[0020]
In step S503, a contour line in the image is extracted from the image signal from the television camera using a differential filter or the like, and only the contour of the obstacle is extracted from the image signal by a pattern matching method. In addition, since it is possible to limit the range which detects an obstacle by limiting the range which performs the pattern matching with respect to an image signal, the outline extraction process is performed only in the obstacle detection range input in step S202. .
[0021]
In step S504, if there is an outline recognized as an obstacle in the image signal in step S503, the process proceeds to step S505, and is held as an outline image in the
[0022]
In step S506, it is determined whether or not the detection level input in step S502 is “high”. If it is “high”, the process proceeds to step S507, and if it is not “high”, the process ends.
[0023]
In step S507, the obstacle detected in step S503 is classified as a pedestrian or an obstacle. This result is held in the obstacle
[0024]
The alarm
[0025]
The
[0026]
First, in step S10, the driver's driving load classification is read from the driving load
[0027]
Hereinafter, in the present embodiment, the obstacle detection range and the visual alarm display position are shown in FIG. 6 from the
[0028]
Next, in step S12, in order to determine whether an obstacle exists within the obstacle detection range determined in step S11, the
[0029]
Next, in step S14, the operation load
[0030]
Hereinafter, the processing from the operation load level 1 to the operation load level 5 will be described in order. These processes are performed by referring to the appropriate alarm determination rules shown in FIG. 7 held in the appropriate alarm determination
[0031]
The flow of processing at the operating load level 1 is shown in the flowchart of FIG.
[0032]
First, in step S151, the obstacle
[0033]
In step S152, the position of the pedestrian is calculated from the image stored in the
[0034]
In step S154, no alarm is displayed. This is an image of a pedestrian located within θ = 20 ° on the windshield in order to show a cognitive characteristic that allows the driver to grasp the overall environment when the driving load is as low as about level 1. This is because it can definitely be detected. On the other hand, in step S155, the presence of a pedestrian is displayed by displaying a character or icon or the like with a viewing angle of 2 ° at a position within θ = 15 ° on the front window using a head-up display. Present visual warnings. This is because, even when the driving load is as low as level 1, the existence of a pedestrian image located at θ = 20 ° or more on the windshield may be missed.
[0035]
In step S156, the position of the obstacle is calculated from the image held in the
[0036]
In step S158, no alarm is displayed. This is because the driver has a cognitive characteristic that allows the driver to grasp the overall environment when the driving load is as low as level 1. Therefore, the obstacle where the image is located within θ = 25 ° on the front window is wrong. This is because it can be detected. On the other hand, in step S159, the presence of an obstacle is displayed by displaying a character or icon with a viewing angle of 2 ° at a position within θ = 15 ° on the front window using a head-up display. Present visual warnings. This is because, even when the driving load is as low as level 1, the presence of an obstacle with an image of θ = 25 ° or more on the front window may be missed.
[0037]
The flow of processing at the operating load level 2 is shown in the flowchart of FIG.
[0038]
First, in step S161, the obstacle
[0039]
In step S162, the position of the pedestrian is calculated from the image stored in the
[0040]
In step S164, no alarm display is performed. This is because when the driving load is as low as level 2, the driver can recognize the overall environment, so the image of a pedestrian located within θ = 15 ° on the windshield is incorrect. This is because it can be detected. On the other hand, in step S165, the presence of a pedestrian is displayed by displaying a character or an icon or the like with a viewing angle of 5 ° at a position within θ = 10 ° on the front window using a head-up display. Present visual warnings. This is because even when the driving load is as low as level 2, the existence of a pedestrian image located at θ = 15 ° or more on the windshield may be missed.
[0041]
In step S166, the position of the obstacle is calculated from the image held in the
[0042]
In step S168, no alarm display is performed. This is because the driver has a cognitive characteristic that allows the driver to grasp the overall environment when the driving load is as low as level 2. Therefore, the image of an obstacle located within θ = 20 ° on the windshield is incorrect. This is because it can be detected. On the other hand, in step S169, the presence of an obstacle is displayed by displaying a character or an icon or the like with a viewing angle of 5 ° at a position within θ = 10 ° on the front window using a head-up display. Present visual warnings. This is because, even when the driving load is low, the presence of an obstacle image located at θ = 20 ° or more on the front window may be missed.
[0043]
The flow of processing at the operating load level 3 is shown in the flowchart of FIG.
[0044]
First, in step S171, the
[0045]
In step S172, the position of the obstacle is calculated from the image held in the
[0046]
In step S173, the contour line of the obstacle held in the
[0047]
In step S174, the position of the obstacle is calculated from the image held in the
[0048]
In step S175, a
[0049]
The flow of processing at the operating load level 4 is shown in the flowchart of FIG.
[0050]
First, in step S181, the
[0051]
In step S183, the position of the obstacle is calculated from the image held in the
[0052]
In step S184, the position of the obstacle is calculated from the image held in the
[0053]
In step S185, based on the appropriate alarm determination rule shown in FIG. In step S186, the
[0054]
The flow of processing at the operating load level 5 is shown in the flowchart of FIG.
[0055]
First, in step S191, the
[0056]
In step S193, the position of the obstacle is calculated from the image held in the
[0057]
In step S194, the position of the obstacle is calculated from the image held in the
[0058]
In step S195, a
[0059]
As described above, according to the present embodiment, the driver's driving load is detected based on the driver's biological information, and an obstacle detection range and an alarm given to the driver when an obstacle is detected based on the driver's driving load are detected. Since it is possible to change the direction, it is possible to present alarm information reliably when an alarm is required, and to the driving load imposed on the driver and the cognitive characteristics at that time when presenting the alarm. It became possible to present warnings according to the situation. For this reason, the driver can quickly and surely understand the contents of the alarm and the alarm with respect to the presentation of the alarm information, and can quickly move to the obstacle avoidance action.
[0060]
FIG. 14 is a block diagram of an alarm control device according to the second embodiment of the present invention.
[0061]
In this figure, the basic configuration is the same as the block configuration diagram of the first embodiment of FIG. 2, and the same reference numerals are given and redundant description is omitted.
[0062]
The operation
[0063]
The driving
[0064]
Further, in the method of obtaining the driving load from the operation state of the vehicle, for example, in the case of the vehicle speed, the time differentiation of the speed for a predetermined time is summed, and the driving
[0065]
It is good also as a driver | operator's driving load determination which the driving
[0066]
The
[0067]
The
[0068]
The process flow in the
[0069]
As described above, according to the present embodiment, the driver's driving load is detected based on the driver's driving operation information and the vehicle behavior information, and the obstacle detection range and the alarm when the obstacle is detected based on the detection are detected. Since the method has been changed, it is possible to reliably present alarm information when an alarm is required. Furthermore, when presenting an alarm, the driving load imposed on the driver and the cognitive characteristics at that time can be considered. It is possible to present an alarm according to the response.
[0070]
FIG. 15 is a block diagram of an alarm control device according to the third embodiment of the present invention.
[0071]
In this figure, the basic configuration is the same as the block configuration diagram of the first embodiment of the present invention shown in FIG. 2 and the block configuration diagram of the second embodiment of the present invention shown in FIG. The explanations made are omitted.
[0072]
The driving
[0073]
The line-of-sight analysis device 42 is a device that detects the driver's line-of-sight position. For example, an eyeball image is captured by an eye camera attached to an instrument panel of the vehicle, and the driver's line-of-sight position is detected by performing image processing. It is a device to do. Further, the gaze analysis device 42 includes a gaze position holding memory 421 capable of holding the detected gaze position information of the driver.
[0074]
The line-of-
[0075]
The
[0076]
Hereinafter, the processing flow in the present embodiment will be described based on the flowchart shown in FIG. 19, but the basic processing flow is the same as that in the first embodiment shown in FIG. The steps different from the processing will be described. Hereinafter, in the present embodiment, the obstacle detection range and the visual alarm display position are defined as a line connecting the driver's line-of-
[0077]
In step S31, the gaze position of the driver is detected by the gaze analysis device 42, and the detected gaze position is held in the gaze position holding memory 421. Subsequently, in step S32, based on the line-of-sight position detected in step S31, the driving load classification read in step S10, and the obstacle detection range decision rule shown in FIG. 17 held in the obstacle detection range decision
[0078]
In step S33, the driving load
[0079]
Hereinafter, the processing from the operation load level 1 to the operation load level 3 will be described in order. These processes are performed by referring to the appropriate rule holding law shown in FIG. 18 held in the appropriate alarm determination
[0080]
The flow of processing at the operating load level 1 is shown in the flowchart of FIG.
[0081]
First, in step S341, the obstacle
[0082]
In step S342, the position of the pedestrian is calculated from the image held in the
[0083]
In step S344, no warning is presented. This is because, when the driving load is as low as level 1, the driver can recognize the overall environment, so that the pedestrian located within the angle η = 20 ° with respect to the line of sight line is wrong. This is because it can be detected. On the other hand, in step S345, a visual warning is displayed with characters or icons indicating the presence of a pedestrian using a head-up display at a position within an angle η = 15 ° with respect to the line of sight. Depending on the size. This is because, even when the driving load is as low as level 1, the presence of a pedestrian located at an angle η = 20 ° or more with the line of sight line may be missed.
[0084]
In step S346, the position of the obstacle is calculated from the image held in the
[0085]
In step S348, no warning is presented. This is because when the driving load is as low as level 1, the driver can recognize the overall environment. Therefore, the obstacle located within the angle η = 25 ° with respect to the line of sight is incorrect. This is because it can be detected. On the other hand, in step S349, at a position within an angle η = 15 ° with respect to the line of sight, a visual warning is displayed with a character or icon indicating the presence of an obstacle using a head-up display with a viewing angle of 2 °. Depending on the size. This is because, even when the driving load is as low as level 1, the presence of a pedestrian located at an angle η = 25 ° or more with respect to the line of sight line may be missed.
[0086]
The flow of processing at the operating load level 2 is shown in the flowchart of FIG.
[0087]
First, in step S351, the contents of the image memory held with reference to the
[0088]
In step S352, the position of the obstacle is calculated from the image held in the
[0089]
In step S353, the outline of the obstacle held in the
[0090]
In step S354, the position of the obstacle is calculated from the image held in the
[0091]
In step S355, a
[0092]
The flow of processing at the operating load level 3 is shown in the flowchart of FIG.
[0093]
First, in step S361, the
[0094]
In step S363, the position of the obstacle is calculated from the image held in the
[0095]
In step S364, the position of the obstacle is calculated from the image held in the
[0096]
In step S365, the
[0097]
In step S366, the
[0098]
In step S367, the driver's line-of-sight position is detected again, and in step S368, it is determined whether the driver's line-of-sight position has reached a position where an obstacle exists. If the driver's line-of-sight position has reached an obstacle, the process proceeds to step S369 to stop the alarm sound and the process is terminated. If the line-of-sight position has not reached the obstacle, the process proceeds to step S366. Return.
[0099]
As described above, according to the present embodiment, the driver's driving load is detected based on the driver's biological information, driving operation information, and vehicle behavior information, and the obstacle detection range and the obstacle are detected based on the detection. Since the alarm method at the time is changed, it is possible to reliably present the alarm information when the alarm is necessary. Further, when the alarm is presented, the driving load imposed on the driver and the current time It is possible to present an alarm according to the cognitive characteristics. Furthermore, since the visual alarm presentation position is changed according to the visual line direction line, or the visual line guidance is performed when the driving load is high, the alarm information can be presented more accurately.
[0100]
【The invention's effect】
According to the first aspect of the present invention, the detection range of the presence of an obstacle that may make the vehicle traveling difficult in front of the vehicle is limited according to the driving load state of the driver, and further, the driver If an obstacle that should be warned is detected, it corresponds to the driving load condition of the driver. Regarding the reception of visual or auditory information Obstacle warning information is presented to the driver according to cognitive characteristics and types of obstacles, so the driver will not receive an unnecessary and annoying alarm presentation, and the warning and warning will show easily The contents can be recognized, and the action for the alarm can be quickly performed.
[0101]
According to the invention described in claim 2, in addition to the effect of the invention described in claim 1, the alarm presenting method determination means can Regarding reception of corresponding visual or auditory information Based on the cognitive characteristics, it is determined that the warning information is presented by one or both of auditory display and visual display, and when the warning information is presented by visual display, the warning presentation method determining means On driving load Regarding reception of corresponding visual or auditory information Since the appropriate display position of the visual display is determined based on the cognitive characteristics, the driver can obtain the alarm information suitable for the cognitive characteristics. Therefore, the alarm and the contents indicated by the alarm can be recognized more reliably.
[0102]
According to the third aspect of the invention, in addition to the effects of the first and second aspects of the invention, the driving load detection means uses the driver's driving load as the biological information driving load detection means, and the driver's electrocardiogram. , Pulse wave signal, respiratory signal, blood pressure signal, myoelectric signal from at least one biological information, and driving load is detected in the operation information driving load detection means, the driver's accelerator operation amount, brake operation amount , The driving load is detected from at least one vehicle operation information of the steering wheel operation amount, and the driving load is detected by the vehicle behavior driving load detecting means, and at least one of the vehicle speed, the lateral acceleration, and the yaw rate is detected. Since it is detected from the behavior information, it is possible to detect the driving load of the driver who is driving the vehicle from the biological information, the vehicle operation information, and the vehicle behavior information.
[0103]
According to the invention described in claim 4, in addition to the effect of the invention described in claim 1, claim 2, or claim 3, the driving load detection means displays the driving load status of the driver in the driving load status classification means. According to the degree, the alarm presentation method determining means determines the appropriate alarm information presentation method according to the classification indicated by the driving load status classification means. Alarm information can be presented.
[0104]
According to the invention described in claim 5, in addition to the effects of the invention described in claims 1 to 4, the obstacle type determination means causes the person / object classification means to classify the obstacle into a human and a non-human, Furthermore, the warning presentation method determining means determines the appropriate warning information presentation method according to the classification indicated by the person / item classification means, so that the warning information according to the classification of the obstacle type can be presented to the driver. It becomes possible.
[0105]
According to the invention of claim 6, in addition to the effects of the inventions of claims 1 to 5, the driver detecting the obstacle detection range limited by the obstacle detection range limitation means is detected by the driving load detection means. The larger the driving load, the wider the range, so it is possible to detect a wide range of obstacles as the driving load increases, and the narrower range of obstacles can be detected instantaneously and in detail as the driving load decreases. Is possible.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of the present invention.
FIG. 2 is a block diagram showing a configuration of a first embodiment of the present invention.
FIG. 3 is a view showing an example of attachment of an ultrasonic sensor and a respiration sensor of the same embodiment.
FIG. 4 is a flowchart showing a calculation processing procedure in the obstacle detection apparatus of the embodiment.
FIG. 5 is an explanatory diagram of information stored in an obstacle detection range determination rule holding memory according to the embodiment;
FIG. 6 is an explanatory diagram of an angle θ used for indicating an obstacle detection range and a visual alarm display position according to the embodiment.
FIG. 7 is an explanatory diagram of information stored in an appropriate alarm determination rule holding memory according to the embodiment;
FIG. 8 is a flowchart showing a calculation processing procedure in the controller of the embodiment;
FIG. 9 is a flowchart showing a calculation processing procedure when the operation load level is 1 in the controller of the same embodiment;
FIG. 10 is a flowchart showing a calculation processing procedure when the operation load level is 2 in the controller of the same embodiment;
FIG. 11 is a flowchart showing a calculation processing procedure when the operation load level is 3 in the controller of the embodiment;
FIG. 12 is a flowchart showing a calculation processing procedure when the operation load level is 4 in the controller of the same embodiment;
FIG. 13 is a flowchart showing a calculation processing procedure when the operation load level is 5 in the controller of the same embodiment;
FIG. 14 is a block diagram showing a configuration of a second embodiment of the present invention.
FIG. 15 is a block diagram showing a configuration of a third embodiment of the present invention.
FIG. 16 is an explanatory diagram of an angle η used for indicating an obstacle detection range and a visual alarm display position according to the embodiment.
FIG. 17 is an explanatory diagram of information stored in an obstacle detection range determination rule holding memory according to the embodiment;
FIG. 18 is an explanatory diagram of information stored in a proper alarm determination rule holding memory according to the embodiment;
FIG. 19 is a flowchart showing a calculation processing procedure in the controller of the embodiment;
FIG. 20 is a flowchart showing a calculation processing procedure when the operation load level is 1 in the controller of the embodiment;
FIG. 21 is a flowchart showing a calculation processing procedure when the operation load level is 2 in the controller of the embodiment;
FIG. 22 is a flowchart showing a calculation processing procedure when the operation load level is 3 in the controller of the embodiment;
FIG. 23 is an explanatory diagram of the operation of the line-of-sight guidance device according to the embodiment.
[Explanation of symbols]
10 Driver load judgment device
11 Obstacle detection range determination means
12 Obstacle detection means
13 Obstacle type discrimination means
14 Warning presentation method decision means
15 Alarm information presentation means
Claims (6)
運転者の運転負荷状態を検出する運転負荷検出手段と、
前記運転負荷検出手段によって検出される運転負荷状態に応じて、前記障害物検出手段が障害物を検出する障害物検出範囲を限定する障害物検出範囲限定手段と、
前記障害物の種別を判定する障害物種別判定手段と、
前記障害物検出手段によって前記障害物検出範囲において障害物が検出された場合、前記運転負荷検出手段によって検出される運転負荷状態に対応する視覚情報、または聴覚情報の受容に関する認知特性と、前記障害物種別判定手段による判定結果とに応じて、適正警報情報を運転者に提示する方法を決定する警報提示方法決定手段と、
前記適正警報情報を提示する警報情報提示手段と、
を有する事を特徴とする警報制御装置。Obstacle detection means for detecting the presence of an obstacle that may hinder vehicle travel in front of the vehicle;
Driving load detection means for detecting the driving load state of the driver;
Obstacle detection range limiting means for limiting an obstacle detection range in which the obstacle detection means detects an obstacle according to the driving load state detected by the driving load detection means;
Obstacle type determination means for determining the type of the obstacle;
When an obstacle is detected in the obstacle detection range by the obstacle detection means, the visual information corresponding to the driving load state detected by the driving load detection means , or a cognitive characteristic related to reception of auditory information, and the obstacle According to the determination result by the object type determination means, an alarm presentation method determination means for determining a method for presenting appropriate alarm information to the driver;
Alarm information presenting means for presenting the appropriate alarm information;
An alarm control device characterized by having.
前記警報提示方法決定手段は、前記認知特性に基づいて、聴覚表示及び視覚表示のいずれか、または双方によって前記適正警報情報を提示する事を決定し、更に、前記視覚表示による前記適正警報情報の提示を行う場合には、前記認知特性に基づいて、前記視覚表示の適正表示位置を決定する手段を有する事を特徴とする警報制御装置。The alarm control device according to claim 1,
The alarm presentation method determining means determines to present the appropriate alarm information by either or both of an auditory display and a visual display based on the cognitive characteristics, and further, the appropriate alarm information of the visual display is determined. An alarm control device comprising means for determining an appropriate display position of the visual display based on the cognitive characteristics when presenting.
前記運転負荷検出手段は、運転者の心電信号、脈波信号、呼吸信号、血圧信号、筋電信号の少なくとも一つ以上の生体情報から運転負荷を検出する生体運転負荷検出手段、
運転者のアクセル操作量、ブレーキ操作量、ハンドル操作量の少なくとも一つ以上の車両操作情報から運転負荷を検出する操作運転負荷検出手段、
車両の速度、左右方向の加速度、ヨーレートの少なくとも一つ以上の車両挙動情報から運転負荷を検出する車両挙動運転負荷検出手段、
の少なくとも一つ以上を有する事を特徴とする警報制御装置。In the alarm control device according to claim 1 and claim 2,
The driving load detection means is a driving load detection means for detecting driving load from at least one biological information of a driver's electrocardiogram signal, pulse wave signal, respiratory signal, blood pressure signal, myoelectric signal,
An operation driving load detection means for detecting a driving load from at least one vehicle operation information of a driver's accelerator operation amount, a brake operation amount, and a steering wheel operation amount;
Vehicle behavior driving load detecting means for detecting driving load from at least one vehicle behavior information of vehicle speed, lateral acceleration, yaw rate,
An alarm control device having at least one of the following.
前記運転負荷検出手段は、運転者の運転負荷状態をその度合いに応じて区分する運転負荷状態区分手段を有し、
前記警報提示方法決定手段は前記運転負荷検出手段の前記運転負荷状態区分手段によって示される前記区分に応じて前記適正警報情報提示の方法を決定する事を特徴とする警報制御装置。In the alarm control device according to claim 1 or 3,
The driving load detection means has driving load state classification means for classifying the driving load state of the driver according to the degree thereof,
The alarm control apparatus according to claim 1, wherein the alarm presentation method determining means determines a method of presenting the appropriate alarm information according to the classification indicated by the driving load state classification means of the driving load detection means.
前記障害物種別判定手段の判定する前記障害物種別は、前記障害物を人間と人間以外とに区分する人・物区分手段を有し、
前記警報提示手法決定手段は、前記障害物種別判定手段の前記人・物区分手段が示す前記区分に応じて前記適正警報情報提示の方法を決定する事を特徴とする警報制御装置。The alarm control device according to claim 1 to 4,
The obstacle type determined by the obstacle type determining means has a person / object classification means for classifying the obstacle into a human and a non-human,
The alarm control apparatus according to claim 1, wherein the alarm presentation method determining means determines the appropriate alarm information presenting method according to the classification indicated by the person / object classification means of the obstacle type determining means.
前記障害物検出範囲限定手段の限定する前記障害物検出範囲は、前記運転負荷検出手段の検出した前記運転者の運転負荷が大きいほど広くする事を特徴とする警報制御装置。The alarm control device according to any one of claims 1 to 5,
2. The alarm control device according to claim 1, wherein the obstacle detection range limited by the obstacle detection range limiting means becomes wider as the driving load of the driver detected by the driving load detection means increases.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000296378A JP4042319B2 (en) | 2000-09-28 | 2000-09-28 | Alarm control device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000296378A JP4042319B2 (en) | 2000-09-28 | 2000-09-28 | Alarm control device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002104018A JP2002104018A (en) | 2002-04-09 |
JP4042319B2 true JP4042319B2 (en) | 2008-02-06 |
Family
ID=18778667
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000296378A Expired - Fee Related JP4042319B2 (en) | 2000-09-28 | 2000-09-28 | Alarm control device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4042319B2 (en) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4029562B2 (en) * | 2000-12-01 | 2008-01-09 | 三菱自動車工業株式会社 | Crew condition detection device |
JP4211501B2 (en) * | 2003-06-11 | 2009-01-21 | 日産自動車株式会社 | Vehicle driving support device |
JP4867463B2 (en) * | 2006-05-09 | 2012-02-01 | 株式会社デンソー | Driving assistance device |
JP5297608B2 (en) * | 2007-07-24 | 2013-09-25 | トヨタ自動車株式会社 | Warning device |
JP5008494B2 (en) * | 2007-08-07 | 2012-08-22 | ヤマハ発動機株式会社 | Caution information presentation system and motorcycle |
JP5311012B2 (en) * | 2008-09-29 | 2013-10-09 | マツダ株式会社 | Vehicle driving support device |
KR101537728B1 (en) * | 2008-11-25 | 2015-07-21 | 볼보 컨스트럭션 이큅먼트 에이비 | Driving monitoring system for construction machinery |
JP2010126135A (en) * | 2008-12-01 | 2010-06-10 | Toyota Motor Corp | Sight line guiding device |
JP4825868B2 (en) * | 2008-12-26 | 2011-11-30 | 本田技研工業株式会社 | Vehicle alarm device |
JP5587032B2 (en) * | 2010-05-24 | 2014-09-10 | 矢崎総業株式会社 | Vehicle display device |
TW201217201A (en) * | 2010-10-29 | 2012-05-01 | Univ Nat Taiwan Science Tech | Real-time warning system on vehicle windshield and performing method thereof |
CN110825237B (en) * | 2016-04-20 | 2024-02-23 | 日产自动车株式会社 | Information display method and display control device |
DE112018002676T5 (en) | 2017-05-23 | 2020-03-05 | AGC Inc. | Laminated glass |
US11878698B2 (en) | 2019-04-12 | 2024-01-23 | Mitsubishi Electric Corporation | Display control device, display control method, and storage medium storing display control program |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3559083B2 (en) * | 1994-12-26 | 2004-08-25 | 本田技研工業株式会社 | Driving support device |
JPH11119147A (en) * | 1997-10-14 | 1999-04-30 | Asahi Optical Co Ltd | Head up display |
JPH11245683A (en) * | 1998-02-27 | 1999-09-14 | Nissan Motor Co Ltd | Information presenting device for vehicle |
-
2000
- 2000-09-28 JP JP2000296378A patent/JP4042319B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002104018A (en) | 2002-04-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4042319B2 (en) | Alarm control device | |
EP2564765B1 (en) | System and method for improving a performance estimation of an operator of a vehicle | |
JP6291787B2 (en) | Vehicle display device | |
EP2117432B1 (en) | Anti-drowsing device and anti-drowsing method | |
JP6287728B2 (en) | In-vehicle system, vehicle control device, and program for vehicle control device | |
EP1801730B1 (en) | Method of detecting vehicle-operator state | |
US7948387B2 (en) | Drowsiness determination apparatus, program, and method | |
JP6369487B2 (en) | Display device | |
US7391305B2 (en) | Driver warning device | |
DE102014004395B3 (en) | Method for operating a driver assistance system and motor vehicle | |
WO2015019542A1 (en) | Visual field-calculating unit and visual field-calculating method | |
JP6756174B2 (en) | Vehicle control device | |
JP6776681B2 (en) | Driver status determination device and driver status determination program | |
KR20190134909A (en) | The apparatus and method for Driver Status Recognition based on Driving Status Decision Information | |
EP3412533B1 (en) | Method and vehicle for assisting a driver in driving such vehicle | |
JP3719112B2 (en) | Operating load judgment device | |
JP6793473B2 (en) | Sideways state judgment device | |
JP2008084219A (en) | Alarm device for curve in front | |
JP7046748B2 (en) | Driver status determination device and driver status determination method | |
JP7578832B2 (en) | Apparatus and associated method for analyzing a vehicle driver's perception of risk | |
JP2018013812A (en) | Driver state guide device and driver state guide program | |
JP2023072268A (en) | Driver state determination method and device | |
JP2019048486A (en) | Automatic driving device, method and program, and automatic driving vehicle | |
JP6281238B2 (en) | Recognition degree estimation device and recognition degree estimation method | |
JP6582799B2 (en) | Support apparatus and support method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061212 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070213 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070417 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071023 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071105 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101122 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111122 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121122 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121122 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131122 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |