[go: up one dir, main page]

JP6643659B2 - 表示制御装置、表示制御方法、および表示制御プログラム - Google Patents

表示制御装置、表示制御方法、および表示制御プログラム Download PDF

Info

Publication number
JP6643659B2
JP6643659B2 JP2014250246A JP2014250246A JP6643659B2 JP 6643659 B2 JP6643659 B2 JP 6643659B2 JP 2014250246 A JP2014250246 A JP 2014250246A JP 2014250246 A JP2014250246 A JP 2014250246A JP 6643659 B2 JP6643659 B2 JP 6643659B2
Authority
JP
Japan
Prior art keywords
virtual image
display
area
timing
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014250246A
Other languages
English (en)
Other versions
JP2015207272A (ja
Inventor
江村 恒一
恒一 江村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2014250246A priority Critical patent/JP6643659B2/ja
Priority to EP15160429.5A priority patent/EP2930654B1/en
Priority to US14/671,806 priority patent/US9652988B2/en
Publication of JP2015207272A publication Critical patent/JP2015207272A/ja
Application granted granted Critical
Publication of JP6643659B2 publication Critical patent/JP6643659B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Instrument Panels (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、運転者に注意を喚起するための情報の表示を制御する表示制御装置、表示制御方法、および表示制御プログラムに関する。
現在、運転者に注意喚起する先進運転支援システム(ADAS:Advanced Driver Assistance Systems)が普及しつつある。ADASのアプリケーションには、車線逸脱警報(LDW:Lane Departure Warning)、前方車両衝突警報(FCW:Forward Collision Warning)、歩行者衝突警報(PCW:Pedestrian Collision Warning)などがある。このADASでは、白線などの走行環境、先行車両および後方から接近する車両、進行方向上の歩行者などを、車載カメラまたは車載レーダ等で検知し、その検知内容に基づく情報を表示する。情報の表示先としては、例えば、メータディスプレイ、HUD(Head‐Up Display)、HMD(Head‐Mounted DisplayまたはHelmet‐Mounted Display)、眼鏡型ディスプレイ(Smart Glasses)などがある。
運転支援システムにおける支援レベルとして、警報、注意喚起、情報提供が定義されている(例えば、非特許文献1参照)。警報レベルでは、検知情報からの事故の可能性を予測し、運転者に対して即座に適切な行動・操作を促すことにより、運転者が素早い行動により対応することが期待される。注意喚起レベルでは、特定タイミングで、特定場所で、または、運転者による特定操作または特定状況が生じたときに、運転者に対して注意を喚起することにより、運転者がやや急いだ行動により対応することが期待される。情報提供レベルでは、運転者に対して安全運転を行うための客観情報を伝えることにより、運転者が通常運転時の行動により対応することが期待される。
FCWまたはPCWのような典型的なADASアプリケーションは、運転者の車両と直接衝突する可能性がある他の車両または歩行者を検知して注意喚起したり警報を通知したりする。
一方で、安全運転の実現のため、危険を予知する能力または事故を回避する能力をトレーニングする必要性が説かれている。これらのトレーニングとして、例えば、危険予知トレーニング、事故回避トレーニング、危険予測トレーニングなどが知られている。危険の予知とは、例えば、見通しの悪い交差点の死角または対向車線の渋滞車両の間から飛び出してくるかもしれない歩行者の動きを予測することである。事故の回避とは、例えば、車両の速度を減速して徐行することである。このとき、システムは、顕在化していない歩行者を検知できないため、交差点の見通しを悪くしている交差点角の建造物などの静的な走行環境、または、歩行者が横断する可能性がある渋滞車両などの動的な障害物を検知し、歩行者の飛び出しの可能性を予測することになる。このとき、予測された歩行者は実際には存在していない可能性もあるため、上述した注意喚起レベルまたは情報提供レベルでの支援が適当である。
従来、運転者の車両との間で事故が起きる可能性がある領域または対象(例えば、他の車両または歩行者等)を、事前に運転者が意識できる危険個所表示システムが知られている(例えば、特許文献1参照)。
特許第4228894号公報
藤本浩、"2-1 車々間通信を利用した運転支援システム:第4期ASVの取組みから(2.活用事例,<小特集>車と情報通信技術)"、電子情報通信学会誌、一般社団法人電子情報通信学会、平成24年8月1日、第95巻、第8号、p.690-695
しかしながら、特許文献1の技術は、事故が起きる可能性がある領域または対象に対して運転者が回避行動をとるべきか否かを決定づける緊急度(以下、単に緊急度という)、または、事故が起きる可能性がある対象の動きの不確実性(以下、単に不確実性という)を運転者に伝えることができないという課題がある。
本発明の目的は、運転者に対して緊急度または不確実性を伝えることができる表示制御装置、表示制御方法、および表示制御プログラムを提供することである。
本発明の一態様に係る表示制御装置は、移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおける表示制御装置であって、前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定する判定部と、前記判定部により前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御する制御部と、を備え、前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され、前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示される構成を採る。
本発明の一態様に係る表示制御方法は、移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおける表示制御方法であって、前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定するステップと、前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御するステップと、を備え、前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され、前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示されるようにした。
本発明の一態様に係る表示制御プログラムは、移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおけるコンピュータに実行させる表示制御プログラムであって、前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定する処理と、前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御する処理と、をコンピュータに実行させ、前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され、前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示されるようにした。
本発明は、運転者に対して緊急度または不確実性を伝えることができる。
本発明の実施の形態1に係る表示システムの構成例を示すブロック図 本発明の実施の形態1に係る表示システムの動作例を示すフローチャート 本発明の実施の形態1に係る運転者の視界の一例および運転者に提示される画像の一例を時系列で示す図 本発明の実施の形態1に係る運転者の視界の一例および運転者に提示される画像の一例を時系列で示す図 本発明の実施の形態1に係る運転者の視界の一例および運転者に提示される画像の一例を時系列で示す図 本発明の実施の形態1の変形例に係る運転者の視界の一例および運転者に提示される画像の一例を示す図 本発明の実施の形態2に係る表示システムの構成例を示すブロック図 本発明の実施の形態2に係るさまざまな路面の摩擦係数を示す図 本発明の実施の形態2に係る第1〜第3の表示領域の位置の決定方法について説明する図 本発明の実施の形態2に係る表示システムの動作例を示すフローチャート 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態2に係る自車両と対象物の位置関係、仮想画像の実景における重畳位置、および仮想画像が運転者の視界に重畳されている例を示す図 本発明の実施の形態1、2およびその変形例に係る表示システムおよび表示制御装置のハードウェア構成例を示すブロック図
(実施の形態1)
以下、本発明の実施の形態1について、図面を参照して説明する。
まず、本実施の形態1の表示システム100の構成例について図1を参照して説明する。図1は、本実施の形態1の表示システム100の構成例を示すブロック図である。
表示システム100は、例えば、車両などの移動体において用いられる。すなわち、表示システム100は、車載機器であってもよいし、車両に持ち込まれる機器であってもよい。なお、本実施の形態1では、表示システム100が車両に適用されたものとして説明するが、移動体は、車両に限定されず、船舶、航空機等であってもよい。また、本実施の形態1では、ユーザが車両の乗員、特に車両の運転者である例について説明するが、その限りではない。さらには、表示システム100は、ユーザが身体に装着に可能なウェラブルコンピュータ(例えば、後述するHMD)において用いられてもよい。
図1において、表示制御装置は、認識部101、推定部102、表示制御装置103、および表示源104を有する。
認識部101は、車両の運転者の前方の視界を表す前景画像を取得し、その前景画像に含まれる特徴量を抽出し、抽出した特徴量に基づいて所定の対象物の認識を行う。認識部101は、例えば、車両の内部または外部に搭載され、運転者の前方視界をセンシングするカメラである。対象物とは、例えば、道路上の白線、標識、路面標示、縁石、ガードレール、信号機、電柱、車両、人物、建物などであるが、本実施の形態1の認識部101で認識される対象物は、運転者の視界を遮るもの(例えば、建物、車両等)であるとする。なお、対象物の認識に関する技術は公知のため、詳細な説明は省略する。
推定部102は、車両が進行する軌道(以下、車両軌道という)を推定する。なお、車両軌道の推定に関する技術は公知のため、詳細な説明は省略する。
表示制御装置103は、認識部101で認識された対象物の情報と、推定部102で推定された車両軌道の情報とに基づいて、表示源104から投影される画像データを制御する。表示制御装置103は、判定部105および制御部106を有する。これらの詳細は後述する。
表示源104は、表示制御装置103からの制御に基づいて、画像データを生成し、それを図示しないディスプレイ(表示媒体の一例)へ投影する。表示源104は、プロジェクタ機能を有し、ディスプレイへ直接投影する。なお、表示源104は、プロジェクタ機能を用いる代わりに、例えば、ディスプレイに表示させてもよいし、または、ホログラムを用いてもよい。ホログラムを用いる場合、導光板の内部全反射条件を満たす平行光束群を内部全反射して導光する導光板を用いて、導光板を内部全反射して導光される平行光束群の一部を射出することで乗員に虚像を視認させる方式でもよい。なお、導光板を用いた方式においては、プロジェクタのように画像データを直接的に投影するものではないが、説明の便宜上、プロジェクタ方式と同様に投影という定義で説明する。
ディスプレイとしては、例えば、LCD(Liquid Crystal Display)、HUD(Head‐Up Display)、HMD(Head‐Mounted DisplayまたはHelmet‐Mounted Display)、眼鏡型ディスプレイ(Smart Glasses)、ナビゲーション用ディスプレイ、メータディスプレイ、その他の専用のディスプレイなどが適用される。HUDは、例えば、車両のウインドシールドであってもよいし、別途設けられるガラス面、プラスチック面などであってもよい。また、ウインドシールドは、例えば、フロントガラスであってもよいし、車両のサイドガラスまたはバックガラスであってもよい。
なお、表示システム100は、上述したディスプレイを含む構成であってもよい。
また、上述した画像データは、表示源104ではなく、表示制御装置103または図示しない他の構成要素によって生成されてもよい。
表示システム100において生成される画像データは、車両の運転者に提示するための提示情報(例えば、後述する仮想画像)を含む。すなわち、提示情報は、画像データの一部としてディスプレイに投影される。投影された提示情報は、虚像として運転者に視認される。ディスプレイに投影された提示情報が虚像として運転者に視認される原理は、公知技術であるため、説明を省略する。
なお、提示情報は、画像データの一部としてディスプレイに投影されるのではなく、運転者の視界に重畳されるようにディスプレイに投影されてもよい。この場合、表示制御装置103は提示情報だけを制御し、表示源104は提示情報だけをディスプレイに投影するようにしてもよい。以下では、提示情報が運転者の視界に重畳されるようにディスプレイに投影される例について説明する。
次に、本実施の形態1の表示制御装置103の構成について説明する。図1において、表示制御装置103は、判定部105、制御部106を有する。
判定部105は、推定部102で推定された車両軌道に隣接する所定領域に、認識部101で認識された対象物が存在するか否かを判定する。具体的には、判定部105は、車両軌道の座標情報と対象物との座標情報から両者の距離を算出し、その距離が所定値以内である場合、対象物が所定領域に存在すると判定する。
制御部106は、判定部105により対象物が所定領域に存在すると判定された場合、対象物の存在する位置(例えば、対象物の角)から車両軌道へ向かう方向(以下、軌道方向という)において第1の表示領域を決定する。第1の表示領域とは、ディスプレイ上の領域であり、軌道方向において、後述の第2表示領域および第3の表示領域よりも、対象物に近く、車両軌道から遠い領域である。換言すれば、第1の表示領域とは、対象物の存在する位置に対応するディスプレイ上の位置から車両軌道に対応するディスプレイ上の車両軌道に向かう軌道方向にある領域である。なお、ここでは「表示領域」としたが、「表示位置」としてもよい(後述の第2、第3の表示領域も同様)。また、上記対象物の存在する位置および車両軌道は、ディスプレイ上に表示されてもよいし、表示されなくてもよい。
そして、制御部106は、第1のタイミングで、第1の表示領域に第1の仮想画像を生成し、それをディスプレイに投影するように表示源104を制御する。この制御は、以下「第1の制御」という。
制御部106は、第1の制御の後、仮想画像が生成された回数(以下、生成回数という)が所定回数に達したか否かを判定する。この生成回数は、制御部106が仮想画像の生成、投影を行うように表示源104を制御した回数ということもできる。
制御部106は、第1の制御の後、生成回数が所定回数に達していないと判定した場合、軌道方向において、第1の表示領域を更新し、第2の表示領域を決定する。第2の表示領域とは、ディスプレイ上の領域であり、軌道方向において、更新後の第1の表示領域に比べて対象物から遠く、かつ、後述の第3の表示領域に比べて車両軌道から遠い領域である。換言すれば、第2の表示領域とは、上記軌道方向にあり、かつ、第1の表示領域よりもディスプレイ上の車両軌道側にある領域である。
そして、制御部106は、第1のタイミングより後の第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像を生成し、かつ、第2の表示領域に第2の仮想画像を生成し、それらをディスプレイに投影するように表示源104を制御する。この制御は、以下「第2の制御」という。第1の拡大仮想画像は、第1の仮想画像を拡大した画像(換言すれば、更新後の第1の仮想画像)である。また、第2の仮想画像は、第1の拡大仮想画像を1倍以上に拡大した画像である。
制御部106は、第2の制御の後、生成回数が所定回数に達したか否かを判定する。そして、制御部106は、生成回数が所定回数に達するまで、上述した表示領域の更新・決定処理および表示源104に対する制御処理を繰り返す。
次に、本実施の形態1の表示システム100の動作例について図2、図3を参照して説明する。図2は、本実施の形態1の表示システム100の動作例を示すフローチャートである。図3は、運転者の視界の一例および運転者に提示される仮想画像の一例を時系列で示す図である。以下では、車両が前方へ走行しており、時間の経過とともに運転者の視界が変化する場合を例として説明する。
最初に、図2および図3Aを用いて処理の流れを説明する。図3Aは、時刻tにおける運転者の視界31の例を示している。
ステップS201において、認識部101は、視界31を表す前景画像を取得し、その前景画像に含まれる建物301および生垣302を認識する。建物301および生垣302は、運転者の視界を遮る対象物の一例である。
ステップS202において、推定部102は、車両が走行中の道路303上において車両軌道304を推定する。この車両軌道304は、車両の進行方向を示している。なお、図3Aでは、説明のため車両軌道304を図示しているが、車両軌道304の画像は、ディスプレイ上に表示されてもよいし、表示されなくてもよい。
ステップS203において、表示制御装置103の判定部105は、車両軌道304に隣接する所定領域に建物301、生垣302が存在するか否かを判定する。判定部105が建物301および生垣302のどちらも所定領域に存在しないと判定した場合(ステップS203:NO)、フローは終了する。ここでは例として、判定部105は、建物301のみが所定領域に存在すると判定したとする(ステップS203:YES)。
ステップS204において、表示制御装置103の制御部106は、建物301の角(好適には車両軌道304を移動する車両に時間的に後から接近する角)から車両軌道304へ向かう軌道方向において、第1の表示領域(図示せず)を決定する。第1の表示領域は、軌道方向において、第2、第3の表示領域と比べて、建物301に最も近く、車両軌道304から最も遠い領域である。
ステップS205において、制御部106は、第1のタイミングで、第1の表示領域に波紋形状の一部(弓なり形状ともいう)を表す第1の仮想画像305を生成してディスプレイに投影するように表示源104を制御する(第1の制御に相当)。第1のタイミングは、時刻tと同じかそれよりも後で、かつ、時刻t’よりも前のタイミングである。
この第1の制御により、表示源104は、第1のタイミングで、第1の表示領域に第1の仮想画像305を生成し、それをディスプレイに投影する。その結果、図3Aに示すように、第1の仮想画像305が視界31に重畳されて表示される。第1の仮想画像305の大きさは、対象物が移動してくる可能性のある範囲を示す(以下の各仮想画像も同様)。
ステップS206において、制御部106は、仮想画像の生成回数が所定回数(例えば、3回とする)に達したか否かを判定する。ここでは第1の制御の終了後であるので、生成回数は1回である。よって、制御部106は、生成回数が3回に達していないと判定する(ステップS206:NO)。その後、フローは、ステップS207へ進む。なお、所定回数は3回に限定されない。
続いて、図2および図3Bを用いて処理の流れを説明する。図3Bは、時刻t’(t’>t)における運転者の視界32の例を示している。車両の進行と時間の経過に伴い、視界32は、視界31よりも拡大している。
ステップS207において、制御部106は、建物301から車両軌道304へ向かう軌道方向において、視界31から視界32への変化(拡大)に基づいて、第1の表示領域を更新する。その後、フローは、ステップS204へ戻る。
ステップS204において、制御部106は、建物301から車両軌道304へ向かう軌道方向において、第2の表示領域(図示せず)を決定する。第2の表示領域は、軌道方向において、更新後の第1の表示領域と比べて建物301から遠く、第3の表示領域と比べて車両軌道304から遠い領域である。
ステップS205において、制御部106は、第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像305aを生成し、かつ、第2の表示領域に第2の仮想画像306を生成してディスプレイに投影するように表示源104を制御する(第2の制御に相当)。第1の拡大仮想画像305aは、第1の仮想画像305を拡大したものである。また、第2の仮想画像306は、第1の拡大仮想画像305aを1倍以上拡大したものである。また、第2のタイミングは、時刻t’と同じかそれよりも後で、かつ、時刻t’’よりも前のタイミングである。
この第2の制御により、表示源104は、第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像305aを生成し、かつ、第2の表示領域に第2の仮想画像306を生成し、それらをディスプレイに投影する。その結果、図3Bに示すように、第1の拡大仮想画像305aおよび第2の仮想画像306が視界32に重畳されて表示される。
ステップS206において、制御部106は、仮想画像の生成回数が3回に達したか否かを判定する。ここでは第2の制御の終了後であるので、生成回数は2回である。よって、制御部106は、生成回数が3回に達していないと判定する(ステップS206:NO)。その後、フローは、ステップS207へ進む。
続いて、図2および図3Cを用いて処理の流れを説明する。図3Cは、時刻t’’(t’’>t’)における運転者の視界32の例を示している。車両の進行と時間の経過に伴い、視界33は、視界32よりも拡大している。
ステップS207において、制御部106は、建物301から車両軌道304へ向かう軌道方向において、視界32から視界33への変化(拡大)に基づいて、更新後の第1の表示領域および第2の表示領域を更新する。その後、フローは、ステップS204へ戻る。
ステップS204において、制御部106は、建物301から車両軌道304へ向かう軌道方向において、第3の表示領域(図示せず)を決定する。第3の表示領域は、軌道方向において、更新後の第2の表示領域と比べて建物301から遠く、車両軌道304に近い位置である。
ステップS205において、制御部106は、第3のタイミングで、再更新後の第1の表示領域に第1の拡大仮想画像305bを生成し、更新後の第2の表示領域に第2の拡大仮想画像306aを生成し、第3の表示領域に第3の仮想画像307を生成し、それらをディスプレイに投影するように表示源104を制御する(第3の制御に相当)。第1の拡大仮想画像305bは、第1の拡大仮想画像305aを拡大したものである。また、第2の拡大仮想画像306aは、第1の拡大仮想画像305bを1倍以上拡大したものである。また、第3の仮想画像307は、第2の拡大仮想画像306aを1倍以上拡大したものである。また、第3のタイミングは、時刻t’’と同じかそれよりも後のタイミングである。
この第3の制御により、表示源104は、第3のタイミングで、再更新後の第1の表示領域に第1の拡大仮想画像305bを生成し、更新後の第2の表示領域に第2の拡大仮想画像306aを生成し、第3の表示領域に第3の仮想画像307を生成し、それらをディスプレイに投影する。その結果、図3Cに示すように、第1の拡大仮想画像305b、第2の拡大仮想画像306a、および第3の仮想画像307が視界33に重畳されて表示される。
ステップS206において、制御部106は、仮想画像の生成回数が3回に達したか否かを判定する。ここでは第3の制御の終了後であるので、生成回数は3回である。よって、制御部106は、生成回数が3回に達したと判定する(ステップS206:YES)。これにより、フローは、終了する。
以上のように、本実施の形態1では、所定時間ごとに、視界を遮る対象物から車両軌道へ近付くように複数の仮想画像を表示することを特徴とする。これにより、運転者は、事故が起きる可能性がある領域または対象を把握でき、それに対して運転者がすぐに回避行動をとるべきか否か(緊急度)を知ることができる。
また、本実施の形態1では、複数の仮想画像が車両軌道に近付くにつれ徐々に拡大して表示し、各仮想画像の大きさは対象物が移動してくる可能性のある範囲を示すことを特徴とする。これにより、運転者は、所定時間ごとに、動きが不確実な対象物との間で事故が起こりうる範囲(不確実性)を知ることができる。
なお、上記フローでは、時間の経過とともに運転者の視界が変化しない場合(例えば、車両が停車している場合)にも適用可能である。その場合、時間の経過とともに視界は変化しないため、表示位置の更新、生成済みの仮想画像の拡大を行う必要はない。
以上、本発明の実施の形態1について説明したが、本発明は上記実施の形態1に限定されるものではなく、種々の変形が可能である。以下、変形例について説明する。
(変形例1)
仮想画像の形状は、波紋形状の一部に限定されず、その他の形状であってもよい。また、仮想画像の数は、3つに限定されず、2つであってもよいし、4つ以上であってもよい。
(変形例2)
制御部106は、視界を遮る対象物に車両が近付くほど、隣り合う表示領域間の距離が短くなるように各表示領域を決定し、決定した各表示領域に各仮想画像を生成するように制御してもよい。例えば、図3Bを用いて説明する。制御部106は、車両軌道304と、建物301の角の座標(認識部101の認識結果の一例)から車両軌道304へ伸びる線との交点を算出する。そして、制御部106は、算出した交点と車両との間の距離が短くなるほど、更新後の第1の表示領域と第2の表示領域との間の距離が短くなるように、各表示領域を決定する。そして、制御部106は、決定した各表示領域に第1の拡大仮想画像305aと第2の仮想画像306をそれぞれ生成するように表示源104を制御する。この結果、第1の拡大仮想画像305aと第2の仮想画像306とが近接して表示される。したがって、本変形例では、車両が対象物に近付くほど、隣り合って表示される仮想画像の間隔が密になるため、運転者の注意を喚起でき、運転者に対して緊急度および不確実性をより効果的に伝えることができる。また、車両が対象物に接近していることを運転者に伝えることができる。
(変形例3)
制御部106は、車両の走行速度が速くなるほど、隣り合う表示領域間の距離が短くなるように各表示領域を決定し、決定した各表示領域に各仮想画像を生成するように制御してもよい。また、制御部106は、車両の走行速度の変化が速くなるほど、隣り合う表示領域間の距離が短くなるように各表示領域を決定し、決定した各表示領域に各仮想画像を生成するように制御してもよい。本変形例における処理は、上記変形例2と同様であるので、ここでの説明は省略する。したがって、本変形例では、車両の走行速度が速いほど、または、車両の走行速度の変化が速いほど、隣り合って表示される仮想画像の間隔が密になるため、運転者の注意を喚起でき、運転者に対して緊急度および不確実性をより効果的に伝えることができる。また、車両の走行速度が速いことを運転者に伝えることができる。
(変形例4)
制御部106は、視界を遮る対象物に車両が近付くほど、隣り合う仮想画像の表示にかかる時間が短くなるように、表示源104を制御してもよい。例えば、図3Bを用いて説明する。制御部106は、車両軌道304と、建物301の角の座標(認識部101の認識結果の一例)から車両軌道304へ伸びる線との交点を算出する。そして、制御部106は、算出した交点と車両との間の距離が短くなるほど、第1の拡大仮想画像305aが表示されてから第2の仮想画像306が表示されるまでの時間が短くなるように、表示源104を制御する。この結果、第1の拡大仮想画像305aの表示後すぐに第2の仮想画像306が表示される。したがって、本変形例では、車両が対象物に近付くほど、隣り合う仮想画像の表示にかかる時間が短くなるため、運転者の注意を喚起でき、運転者に対して緊急度および不確実性をより効果的に伝えることができる。また、車両が対象物に接近していることを運転者に伝えることができる。
(変形例5)
制御部106は、車両の走行速度が速くなるほど、隣り合う仮想画像の表示にかかる時間が短くなるように、表示源104を制御してもよい。また、制御部106は、車両の走行速度の変化が速くなるほど、隣り合う仮想画像の表示にかかる時間が短くなるように、表示源104を制御してもよい。本変形例における処理は、上記変形例4と同様であるので、ここでの説明は省略する。したがって、本変形例では、車両の走行速度が速いほど、または、車両の走行速度の変化が速いほど、隣り合う仮想画像の表示にかかる時間が短くなるため、運転者の注意を喚起でき、運転者に対して緊急度および不確実性をより効果的に伝えることができる。また、車両の走行速度が速いことを運転者に伝えることができる。
(変形例6)
上記フローの説明では、ステップS203において、建物301と生垣302のうち、建物301のみが車両軌道304に隣接する所定領域に存在すると判定された場合の例について説明したが、以下では、複数の対象物が所定領域に存在すると判定される場合の例について、図2、図4を用いて説明する。
図4は、運転者の視界の一例および運転者に提示される仮想画像の一例を示す図である。なお、図4では、便宜上、表示されるべき全ての仮想画像405〜410が視界40に重畳表示された例を示しているが、以下では、これらの仮想画像が時系列で表示される過程について説明する。また、以下では、上記フローの説明と同様、車両が走行しており、時間の経過とともに運転者の視界40が変化する場合を例に説明する。
まず、時刻tのときの処理の流れについて説明する。
ステップS201において、認識部101は、視界40を表す前景画像を取得し、その前景画像に含まれる車両403および車両404を認識する。車両403、404は、運転者の視界を遮る対象物の一例である。車両403、404は、例えば、車両が存在するレーン(車線マーカ401の間のレーン)の右隣りに位置するレーンまたは路肩に停車している。また、車両403、404は、先行車両であってもよいし、対向車両であってもよい。
ステップS202において、推定部102は、車両が存在するレーン上において車両軌道402を推定する。なお、図4では、説明のため車両軌道402を図示しているが、実際には車両軌道402の画像は表示されない。
ステップS203において、判定部105は、車両軌道402に隣接する所定領域に車両403、404が存在するか否かを判定する。ここでは例として、判定部105は、車両403、404の両方が所定領域に存在すると判定したとする(ステップS203:YES)。
ステップS204において、制御部106は、車両403から車両軌道402へ向かう第1の軌道方向において、第1の表示領域A(図示せず)を決定する。第1の表示領域Aは、第1の軌道方向において、後述の第2の表示領域Aよりも、車両403に近く、車両軌道402から遠い位置である。
また、ステップS204において、制御部106は、車両404から車両軌道402へ向かう第2の軌道方向において、第1の表示領域B(図示せず)を決定する。第1の表示領域Bは、第2の軌道方向において、後述の第2の表示領域Bよりも、車両404に近く、車両軌道402から遠い位置である。
ステップS205において、制御部106は、第1のタイミングで、第1の表示領域Aに波紋形状の一部を表す第1の仮想画像405を生成してディスプレイに投影するように表示源104を制御する(第1の制御aに相当)。第1のタイミングは、時刻tと同じかそれよりも後で、かつ、時刻t’よりも前のタイミングである。
この第1の制御aにより、表示源104は、第1のタイミングで、第1の表示領域aに第1の仮想画像405を生成してディスプレイに投影する。その結果、図4に示すように、第1の仮想画像405が視界40に重畳されて表示される。
また、ステップS205において、制御部106は、第1のタイミングで、第1の表示領域Bに、波紋形状の一部を表す第1の仮想画像406を生成してディスプレイに投影するように表示源104を制御する(第1の制御bに相当)。
この第1の制御bにおいて、制御部106は、車両404が車両403よりも車両から遠い位置に存在することから、第1の仮想画像406の大きさを第1の仮想画像405よりも小さくするように制御する。
この第1の制御bにより、表示源104は、第1のタイミングで、第1の表示領域Bに第1の仮想画像406を生成してディスプレイに投影する。その結果、図4に示すように、第1の仮想画像406が視界40に重畳されて表示される。
ステップS206において、制御部106は、仮想画像の生成回数が所定回数(例えば、3回とする)に達したか否かを判定する。ここでは、第1の制御a、bをまとめて1つの制御とし、第1の仮想画像405、406をまとめて1つの生成とする。よって、制御部106は、生成回数が1回であり、所定の3回に達していないと判定する(ステップS206:NO)。その後、フローは、ステップS207へ進む。
次に、時刻t’(t’>t)のときの処理の流れについて説明する。
ステップS207において、制御部106は、車両403、404のそれぞれから車両軌道402へ向かう各軌道方向において、視界の変化(拡大)に基づいて、第1の表示領域A、Bをそれぞれ更新する。そして、フローは、ステップS204へ戻る。
その後、制御部106は、上記実施の形態1の説明と同様に、ステップS204〜S206の処理を行う(各ステップの詳細な説明は省略)。その結果、図4に示すように、第2のタイミングで、第2の仮想画像407、408が視界40に重畳されて表示され、第3のタイミングで、第3の仮想画像409、410が視界40に重畳されて表示される。第2の仮想画像408、第3の仮想画像410は、それぞれ、第2の仮想画像407、第3の仮想画像409よりも小さく表示される。
以上のように、本変形例では、車両軌道に隣接する所定領域に複数の対象物が存在する場合、車両と各対象物との距離に応じて、仮想画像の大きさを異ならせて表示することにより、運転者に対し、対象物との距離に応じた緊急度および不確実性を伝えることができる。
(変形例7)
上述した表示システム100、表示制御装置103の各部の機能は、コンピュータプログラムにより実現され得る。
(実施の形態2)
以下、本発明の実施の形態2について、図面を参照して説明する。
実施の形態2の表示システム500の構成例について図5を参照して説明する。図5は、実施の形態2の表示システム500の構成例を示すブロック図である。図5において、実施の形態1と同じ構成要素については、同じ符号を付与し説明は省略する。
表示システム500は、例えば、車両などの移動体において用いられる。すなわち、表示システム500は、車載機器であってもよいし、車両に持ち込まれる機器であってもよい。なお、実施の形態2では、表示システム500が車両に適用されたものとして説明するが、移動体は、車両に限定されず、船舶、航空機等であってもよい。また、実施の形態2では、ユーザが車両の乗員、特に車両の運転者である例について説明するが、その限りではない。さらには、表示システム500は、ユーザが身体に装着に可能なウェラブルコンピュータ(例えば、後述するHMD)において用いられてもよい。
図5において、表示制御装置は、認識部101、車両情報取得部502、表示制御装置503、表示源104、地図情報取得部507、および位置情報取得部508を有する。
車両情報取得部502は、自車両の速度情報や操舵情報を取得する。
表示制御装置503は、認識部101で認識された対象物の情報と、車両情報取得部502が取得した自車両の速度情報とに基づいて、表示源104から投影される画像データを制御する。
表示制御装置503は、判定部505および制御部506を有する。
判定部505は、認識部101で認識された自車両から対象物までの距離が、車両情報取得部502の取得する自車両の速度から算出する停止距離より短くなる所定時間前であるか否かを判定する。
具体的には、判定部505は、自車両の進行方向をx、進行方向に直行する方向をyとする2軸からなる座標系において、車両軌道の線分に対し、対象物との座標から降ろす垂線が交わる座標と、自車両の座標として認識部の座標(0,0)との距離を、対象物が車両軌道に交錯する場合の自車両から対象物までの距離として算出する。また判定部605は、車両情報取得部502の取得する自車両の速度をVとするとき、制動距離をV×V/(N×μ)の式から求め、空走距離をV×1000/3600×RTの式から求め、制動距離と空走距離の和を停止距離として算出する。
ここで、Nは定数であり254を与えることが好適である。また、μは摩擦係数であり、図6に示すように、道路状況により規定される範囲の数値を用いる。図6に示す摩擦係数は、安藤,倉持,“路面のすべり摩擦と路面管理水準及びすべり事故”,土木技術資料52−5,2010.の資料による。RTは反応速度であり、社団法人交通工学研究会編集,“道路交通技術必携”より、走行状態から運転者が認知した情報が脳に伝わり、脳からの命令によりブレーキ動作が起こり車両を停止させる場合の、反射時間(知覚判断してから行動に現れるまでの時間)、踏み替え時間、踏み込み時間を合計した「ブレーキ反応時間」は約0.6秒とされるが、制動停止時の空走距離算定では、反応動作に要するブレーキ反応時間は1.0秒とされている。
例えば、自車速度が時速40kmで摩擦係数が0.7である場合、制動距離は40×40/(254×0.7)≒9.0m、空走距離は40×1000/3600×1.0≒11.1mとなり、停止距離は、9.0+11.1=20.1mとなる。所定時間は、対象物から車両軌道までの距離Dyを、想定する飛出し移動体の速度Voで移動する時間とする。例えば、Dyを3m、Voを時速10kmとすると、所定時間は3/(10×1000/3600)≒1秒となる。自車速度時速40kmで1秒間に11.1m進むため、自車両から対象物までの距離が、20.1m+11.1m=31.2mより短くなるときに、判定部505の判定がYesとなる。
車両軌道は、車両情報取得部502の取得する操舵情報から操舵角が0度の場合は直線により延長した線分とし、操舵角が0度ではない場合はクロソイド曲線により求めた曲線により延長した線分、または地図情報取得部507の取得する地図情報と測位情報取得部508の取得する現在位置から特定する走行中の道路のカーブ曲率により延長した曲線とする。
制御部506は、判定部505により現時点が、自車両から対象物までの距離が自車両の停止距離より短くなる所定時間前であると判定された場合、対象物の存在する位置(例えば、見通しの悪い交差点脇の壁の角)から車両軌道へ向かう方向(以下、軌道方向という)において第1の表示領域を決定する。第1の表示領域とは、ディスプレイ上の領域であり、軌道方向において、後述の第2表示領域および第3の表示領域よりも、対象物に近く、車両軌道から遠い領域である。換言すれば、第1の表示領域とは、対象物の存在する位置に対応するディスプレイ上の位置から車両軌道に対応するディスプレイ上の車両軌道に向かう軌道方向にある領域である。なお、ここでは「表示領域」としたが、「表示位置」としてもよい(後述の第2、第3の表示領域も同様)。また、上記対象物の存在する位置および車両軌道は、ディスプレイ上に表示されてもよいし、表示されなくてもよい。
ここで、図7に示すように、対象物を表示する位置P0から第1の表示領域P1、第2の表示領域P2、および第3の表示領域P3までの距離は、対象物から車両軌道までの距離Dy、自車両から対象物までの距離Dx、自車両からドライバ視点までの距離Ddと、投影する表示面からドライバ視点までの距離Dpから求める。具体的には、P0からP1までの距離d1は、Dy/3×Dp/(Dx+Dd)の式から求める。P0からP2までの距離d2は2×d1、P0からP3までの距離d3は3×d1の式から求める。例えば、Dy=3m、Dx=31m、Dd=2m、Dp=3mの場合、d1は3/3×3/(31+2)≒9cm、d2は18cm、d3は27cmとなる。なお、対象物から第1の表示領域までの距離が所定の距離(例えば1m)より短くなる場合、第4の表示領域以降を追加してもよい。
そして、制御部506は、第1のタイミングで、第1の表示領域に第1の仮想画像を生成し、それをディスプレイに投影するように表示源104を制御する。この制御は、以下「第1の制御」という。
制御部506は、第1の制御の後、仮想画像が生成された回数(以下、生成回数という)が所定回数に達したか否かを判定する。この生成回数は、制御部506が仮想画像の生成、投影を行うように表示源104を制御した回数ということもできる。
制御部506は、第1の制御の後、生成回数が所定回数に達していないと判定した場合、軌道方向において、第1の表示領域を更新し、第2の表示領域を決定する。第2の表示領域とは、ディスプレイ上の領域であり、軌道方向において、更新後の第1の表示領域に比べて対象物から遠く、かつ、後述の第3の表示領域に比べて車両軌道から遠い領域である。換言すれば、第2の表示領域とは、上記軌道方向にあり、かつ、第1の表示領域よりもディスプレイ上の車両軌道側にある領域である。
そして、制御部506は、第1のタイミングより後の第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像を生成し、かつ、第2の表示領域に第2の仮想画像を生成し、それらをディスプレイに投影するように表示源104を制御する。この制御は、以下「第2の制御」という。第1の拡大仮想画像は、第1の仮想画像を拡大した画像(換言すれば、更新後の第1の仮想画像)である。また、第2の仮想画像は、第1の拡大仮想画像を1倍以上に拡大した画像である。
制御部106は、第2の制御の後、生成回数が所定回数に達したか否かを判定する。そして、制御部106は、生成回数が所定回数に達するまで、上述した表示領域の更新・決定処理および表示源104に対する制御処理を繰り返す。
地図情報取得部507は、指定する位置情報から特定する走行中道路のカーブ曲率を取得する。
測位情報取得部508は、自車両の現在位置情報を取得する。
図8と図9A、図9B、図9Cを用いて処理の流れを説明する。図8は表示システム200の動作例を示すフローチャートである。
図9Aの上側には、時刻tにおける自車両904および対象物の位置関係(P0が対象物の位置)と、第1の表示領域に生成する波紋の形状の一部を表す第1の仮想画像900の実景における重畳位置とを示した俯瞰図が示されている。
図9Aの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の仮想画像900が運転者の視界91に重畳されている例が示されている。
また、図9Bの上側には、時刻t’(t<t’)における自車両および対象物の位置関係と、第1、第2の表示領域に生成する波紋の形状の一部を表す第1、第2の仮想画像900、905の実景における重畳位置とを示した俯瞰図が示されている。
図9Bの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の拡大仮想画像900a、第2の仮想画像905が運転者の視界92に重畳されている例が示されている。
ここで、第1の拡大仮想画像900aは、自車両904が対象物に近づいた結果、第1の仮想画像900が拡大されて表示されるものである。
また、図9Cの上側には、時刻t’’(t’<t’’)における自車両および対象物の位置関係と、第1乃至第3の表示領域に生成する波紋の形状の一部を表す第1乃至第3の仮想画像900、905、907の実景における重畳位置とを示した俯瞰図が示されている。
図9Cの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の拡大仮想画像900b、第2の拡大仮想画像905a、および、第3の仮想画像907が運転者の視界A6に重畳されている例が示されている。
ここで、第1の拡大仮想画像900b、および、第2の拡大仮想画像905aはそれぞれ、自車両904が対象物に近づいた結果、第1の拡大仮想画像900a、および、第2の仮想画像905が拡大されて表示されるものである。
ステップS801において、認識部101は、視界91を表す前景画像を取得し、その前景画像に含まれる建物901を認識すると同時に、自車両から建物901の見通しの悪い角までの距離を取得する。建物901は、運転者の視界を遮る対象物の一例である。
ステップS802において、判定部505は、車両情報取得部502から自車の走行速度情報を取得し、測位情報取得部508から自車の現在位置座標情報を取得し、地図情報取得部507から、自車の現在位置座標情報に基づき、進行方向の地図情報として天候を加味した道路状況情報を取得し、道路状況に対応する摩擦係数を導き出し、所定のブレーキ反応時間と合わせて、停止距離を算出する。
ステップ803において、判定部505は、現時点が、取得した距離が停止距離より短くなる所定時間前かどうかを判定する。
判定部505により現時点が、取得した距離が停止距離より短くなる所定時間前でないと判定された場合(ステップS803:NO)、フローは終了する。ここでは例として、判定部505は、現時点が、取得した距離が停止距離より短くなる所定時間前であると判定したとする(ステップS803:YES)。
ステップS804において、推定部102は、車両が走行中の道路902上において車両軌道903を推定する。この車両軌道903は、車両の進行方向を示している。なお、図9Aの俯瞰図では、説明のため車両軌道903を図示しているが、車両軌道903の画像は、ディスプレイ上に表示されてもよいし、表示されなくてもよい。
ステップS805において、制御部506は、建物901の角から車両軌道903へ向かう軌道方向において、第1の表示領域(図示せず)を決定する。ここで、建物901の角は、車両軌道903に近い面の角であり、かつ車両軌道903を移動する車両に時間的に後から接近する角である。第1の表示領域は、軌道方向において、第2、第3の表示領域と比べて、建物901に最も近く、車両軌道903から最も遠い領域である。
ステップS806において、制御部506は、第1のタイミングで、第1の表示領域に波紋形状の一部(弓なり形状ともいう)を表す第1の仮想画像900を生成してディスプレイに投影するように表示源104を制御する(第1の制御に相当)。第1のタイミングは、時刻tと同じかそれよりも後で、かつ、時刻t’よりも前のタイミングである。
この第1の制御により、表示源104は、第1のタイミングで、第1の表示領域に第1の仮想画像900を生成し、それをディスプレイに投影する。その結果、図9Aに示すように、第1の仮想画像900が視界91に重畳されて表示される。第1の仮想画像900の大きさは、対象物が移動してくる可能性のある範囲を示し、ここでは好適な例として、自車両904に近づく方向に広がる波紋の一部の形状とする(以下の各仮想画像も同様)。
ステップS807において、制御部506は、仮想画像の生成回数が所定回数(例えば、3回とする)に達したか否かを判定する。ここでは第1の制御の終了後であるので、生成回数は1回である。よって、制御部506は、生成回数が3回に達していないと判定する(ステップS807:NO)。その後、フローは、ステップS808へ進む。なお、所定回数は3回に限定されない。
続いて、図9Bを用いて処理の流れを説明する。図9Bは、時刻t’(t’>t)における運転者の視界92の例を示している。車両の進行と時間の経過に伴い、視界92は、視界91よりも進行方向に進行した状態に対応している。
ステップS808において、制御部506は、建物901から車両軌道903へ向かう軌道方向において、視界91から視界92への変化(拡大)に基づいて、第1の表示領域を更新する。その後、フローは、ステップS805へ戻る。
ステップS805において、制御部506は、建物901から車両軌道903へ向かう軌道方向において、第2の表示領域(図示せず)を決定する。第2の表示領域は、軌道方向において、更新後の第1の表示領域と比べて建物901から遠く、第3の表示領域と比べて車両軌道903から遠い領域である。
ステップS806において、制御部506は、第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像900aを生成し、かつ、第2の表示領域に第2の仮想画像905を生成してディスプレイに投影するように表示源104を制御する(第2の制御に相当)。第1の拡大仮想画像900aは、第1の仮想画像900を拡大したものである。また、第2の仮想画像905は、第1の拡大仮想画像900aを1倍以上拡大したものである。また、第2のタイミングは、時刻t’と同じかそれよりも後で、かつ、時刻t’’よりも前のタイミングである。
この第2の制御により、表示源104は、第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像900aを生成し、かつ、第2の表示領域に第2の仮想画像905を生成し、それらをディスプレイに投影する。その結果、図9Bに示すように、第1の拡大仮想画像900aおよび第2の仮想画像905が視界92に重畳されて表示される。
なお、時刻t’における第1の拡大仮想画像900aは、時刻tにおける第1の仮想画像900をそのまま利用してもよい。
ステップS807において、制御部506は、仮想画像の生成回数が3回に達したか否かを判定する。ここでは第2の制御の終了後であるので、生成回数は2回である。よって、制御部506は、生成回数が3回に達していないと判定する(ステップS807:NO)。その後、フローは、ステップS808へ進む。
続いて、図9Cを用いて処理の流れを説明する。図9Cは、時刻t’’(t’’>t’)における運転者の視界93の例を示している。車両の進行と時間の経過に伴い、視界93は、視界92よりも進行方向に進行した状態に対応している。
ステップS808において、制御部506は、建物901から車両軌道903へ向かう軌道方向において、視界92から視界93への変化(拡大)に基づいて、更新後の第1の表示領域および第2の表示領域を更新する。その後、フローは、ステップS805へ戻る。
ステップS805において、制御部506は、建物901から車両軌道903へ向かう軌道方向において、第3の表示領域(図示せず)を決定する。第3の表示領域は、軌道方向において、更新後の第2の表示領域と比べて建物901から遠く、車両軌道903に近い位置である。
ステップS806において、制御部506は、第3のタイミングで、再更新後の第1の表示領域に第1の拡大仮想画像900bを生成し、更新後の第2の表示領域に第2の拡大仮想画像905aを生成し、第3の表示領域に第3の仮想画像907を生成し、それらをディスプレイに投影するように表示源104を制御する(第3の制御に相当)。第1の拡大仮想画像900b、および、第2の拡大仮想画像905aはそれぞれ、第1の拡大仮想画像900a、および、第2の仮想画像905を拡大したものである。また、第2の拡大仮想画像905aは、第1の拡大仮想画像900bを1倍以上拡大したものである。また、第3の仮想画像907は、第2の拡大仮想画像905aを1倍以上拡大したものである。また、第3のタイミングは、時刻t’’と同じかそれよりも後のタイミングである。
この第3の制御により、表示源104は、第3のタイミングで、再更新後の第1の表示領域に第1の拡大仮想画像900bを生成し、更新後の第2の表示領域に第2の拡大仮想画像905aを生成し、第3の表示領域に第3の仮想画像907を生成し、それらをディスプレイに投影する。その結果、図9Cに示すように、第1の拡大仮想画像900b、第2の拡大仮想画像905a、および第3の仮想画像907が視界93に重畳されて表示される。
ステップS807において、制御部506は、仮想画像の生成回数が3回に達したか否かを判定する。ここでは第3の制御の終了後であるので、生成回数は3回である。よって、制御部506は、生成回数が3回に達したと判定する(ステップS807:YES)。これにより、フローは、終了する。
以上のように、本実施の形態2では、所定時間ごとに、視界を遮る対象物から車両軌道へ近付くように複数の仮想画像を表示することを特徴とする。これにより、運転者は、事故が起きる可能性がある領域または対象を把握でき、それに対して運転者がすぐに回避行動をとるべきか否か(緊急度)を知ることができる。
また、本実施の形態2では、複数の仮想画像を車両軌道に近付くにつれ徐々に拡大して表示し、各仮想画像の大きさは対象物が移動してくる可能性のある範囲を示すことを特徴とする。これにより、運転者は、所定時間ごとに、動きが不確実な対象物との間で事故が起こりうる範囲(不確実性)を知ることができる。
(変形例8)
図10A、図10B、図10Cを用いて変形例8を説明する。
図10Aの上側には、時刻tにおける自車両904および対象物の位置関係(P0が対象物の位置)と、第1の表示領域に生成する波紋の形状の一部を表す第1の仮想画像900、および、第1の仮想画像900に対応するt時点での自車両の進行位置を波紋の形状の一部で表した第4の仮想画像1000の実景における重畳位置とを示した俯瞰図が示されている。
図10Aの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の仮想画像900、および、第1の仮想画像900に対応するt時点での自車両の進行位置を波紋の形状の一部で表した第4の仮想画像1000が運転者の視界91に重畳されている例が示されている。
また、図10Bの上側には、時刻t’(t<t’)における自車両904および対象物の位置関係と、第1、第2の表示領域に生成する波紋の形状の一部を表す第1、第2の仮想画像900、905、および、第1、第2の仮想画像900、905に対応するt’時点での自車両の進行位置を波紋の形状の一部で表した第4、第5の仮想画像1000、1001の実景における重畳位置とを示した俯瞰図が示されている。
図10Bの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の拡大仮想画像900a、第2の仮想画像905、第1の拡大仮想画像900a、第2の仮想画像905に対応するt’時点での自車両の進行位置を波紋の形状の一部で表した第4の拡大仮想画像1000a、および、第5の仮想画像1001が運転者の視界92に重畳されている例を示している。
ここで、第1の拡大仮想画像900a、および、第4の拡大仮想画像1000aはそれぞれ、自車両904が対象物に近づいた結果、第1の仮想画像900、および、第4の仮想画像1000が拡大されて表示されるものである。
また、図10Cの上側には、時刻t’’(t’<t’’)における自車両904および対象物の位置関係と、第1乃至第3の表示領域に生成する波紋の形状の一部を表す第1乃至第3の仮想画像900、905、907、および、第1乃至第3の仮想画像900、905、907に対応するt’’時点での自車両の進行位置を波紋の形状の一部で表した第4乃至第6の仮想画像1000、1001、1002の実景における重畳位置とを示した俯瞰図が示されている。
図10Cの下側には、ディスプレイの表示領域に生成する波紋の形状の一部を表す第1の拡大仮想画像900b、第2の拡大仮想画像905a、第3の仮想画像907、第1乃至第3の仮想画像900b、905a、907に対応するt’’時点での自車両の進行位置を波紋の形状の一部で表した第4の拡大仮想画像1000b、第5の拡大仮想画像1001a、および、第6の仮想画像1002が運転者の視界93に重畳されている例を示している。
ここで、第1の拡大仮想画像900b、第2の拡大仮想画像905a、第4の拡大仮想画像1000b、および、第5の拡大仮想画像1001aはそれぞれ、自車両904が対象物に近づいた結果、第1の拡大仮想画像900a、第2の仮想画像905、第4の拡大仮想画像1000a、および、第5の仮想画像1001が拡大されて表示されるものである。
図10Aに示すように、制御部506は、第1のタイミングで、第1の表示領域に波紋形状の一部(弓なり形状ともいう)を表す第1の仮想画像900を生成し、さらに第4の表示領域に波紋形状の一部を表す第4の仮想画像1000を生成してディスプレイに投影するように表示源104を制御する。
続けて、図10Bに示すように、制御部506は、第2のタイミングで、更新後の第1の表示領域に第1の拡大仮想画像900aを生成し、かつ、第2の表示領域に第2の仮想画像905を生成し、さらに更新後の第4の表示領域に第4の拡大仮想画像1000aを生成し、かつ、第5の表示領域に第5の仮想画像1001を生成してディスプレイに投影するように表示源104を制御する(第2の制御に相当)。第1の拡大仮想画像1000aは、第1の仮想画像1000を拡大したものである。また、第2の仮想画像905は、第1の拡大仮想画像900aを1倍以上拡大したものである。また、第4の拡大仮想画像1000aは、第4の仮想画像1000を拡大したものである。ここで、図10Bに示すように、第2の仮想画像905にもっとも近い位置にある第5の仮想画像1001の一部1002の輝度を上げても良い。あるいは、第5の仮想画像1001の色相が、第2の仮想画像905に近い方から赤色、黄色、緑色に順に変化するようにしても良い。
さらに続けて、図10Cに示すように、制御部506は、第3のタイミングで、再更新後の第1の表示領域に第1の拡大仮想画像900bを生成し、更新後の第2の表示領域に第2の拡大仮想画像905aを生成し、第3の表示領域に第3の仮想画像907を生成し、さらに、再更新後の第4の表示領域に第4の拡大仮想画像1000bを生成し、更新後の第5の表示領域に第5の拡大仮想画像1001aを生成し、第6の表示領域に第6の仮想画像1003を生成し、それらをディスプレイに投影するように表示源104を制御する(第3の制御に相当)。第1の拡大仮想画像900b、および、第2の拡大仮想画像905aはそれぞれ、第1の拡大仮想画像900a、および、第2の仮想画像905を拡大したものである。また、第2の拡大仮想画像905aは、第1の拡大仮想画像900bを1倍以上拡大したものである。また、第4の拡大仮想画像1000bは、第4の拡大仮想画像1000aを拡大したものである。また、第5の拡大仮想画像1001aは、第1の仮想画像1001を拡大したものである。ここで、図10Cに示すように、第3の仮想画像907にもっとも近い位置にある第6の仮想画像1003の一部1004の輝度を上げても良い。あるいは、第6の仮想画像1004の色相が、第3の仮想画像907に近い方から赤色、黄色、緑色の順に変化するようにしても良い。
図11は、各部の機能をプログラムにより実現するコンピュータのハードウェア構成を示す図である。このコンピュータ1100は、入力ボタン、タッチパッドなどの入力装置1101、ディスプレイやスピーカなどの出力装置1102、CPU(Central Processing Unit)1103、ROM(Read Only Memory)1104、RAM(Random Access Memory)1105、ハードディスク装置やSSD(Solid State Drive)などの記憶装置1106、DVD−ROM(Digital Versatile Disk Read Only Memory)やUSB(Universal Serial Bus)メモリなどの記録媒体から情報を読み取る読取装置1107、ネットワークを介して通信を行う送受信装置1008を備え、各部はバス1109により接続される。
そして、読取装置1107は、上記各部の機能を実現するためのプログラムを記録した記録媒体からそのプログラムを読み取り、記憶装置1106に記憶させる。あるいは、送受信装置1108が、ネットワークに接続されたサーバ装置と通信を行い、サーバ装置からダウンロードした上記各部の機能を実現するためのプログラムを記憶装置1106に記憶させる。
そして、CPU1103が、記憶装置1106に記憶されたプログラムをRAM1105にコピーし、そのプログラムに含まれる命令をRAM1105から順次読み出して実行することにより、上記各部の機能が実現される。また、プログラムを実行する際、RAM1105または記憶装置1106には、各実施の形態で述べた各種処理で得られた情報が記憶され、適宜利用される。
本発明は、運転者に注意を喚起するための情報の表示を制御する表示制御装置、表示制御方法、および表示制御プログラムに適用することができる。
100,500 表示システム
102 推定部
103 表示制御装置
104 表示源
105 判定部
106 制御部
502 車両情報取得部
503 表示制御装置
505 判定部
506 制御部
507 地図情報取得部
508 測位情報取得部
1100 コンピュータ
1101 入力装置
1102 出力装置
1103 CPU
1104 ROM
1105 RAM
1106 記憶装置
1107 読取装置
1108 送受信装置
1109 バス

Claims (8)

  1. 移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおける表示制御装置であって、
    前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定する判定部と、
    前記判定部により前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御する制御部と、を備え、
    前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、
    前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、
    前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され
    前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示される、
    表示制御装置。
  2. 前記制御部は、
    前記対象物と前記移動体との間の距離が短くなるほど、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像と前記第2の仮想画像との距離が短くなるように前記表示源を制御する、
    請求項1記載の表示制御装置。
  3. 前記制御部は、
    前記移動体の速度が速くなるほど、または、前記移動体の速度の変化が速くなるほど、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像と前記第2の仮想画像との距離が短くなるように、前記表示源を制御する、
    請求項1記載の表示制御装置。
  4. 前記制御部は、
    前記対象物と前記移動体との間の距離が短くなるほど、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像が表示されてから前記第2の仮想画像が表示されるまでの時間が短くなるように、前記表示源を制御する、
    請求項1記載の表示制御装置。
  5. 前記制御部は、
    前記移動体の速度が速くなるほど、または、前記移動体の速度の変化が速くなるほど、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像が表示されてから前記第2の仮想画像が表示されるまでの時間が短くなるように、前記表示源を制御する、
    請求項1記載の表示制御装置。
  6. 前記制御部は、
    前記判定部により前記所定領域に前記対象物が複数存在すると判定された場合、前記移動体と前記対象物それぞれとの間の距離に応じて、前記対象物ごとに、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像の大きさと前記第2の仮想画像の大きさとを異ならせて生成するように、前記表示源を制御する、
    請求項1から5のいずれか1項に記載の表示制御装置。
  7. 移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおける表示制御方法であって、
    前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定するステップと、
    前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御するステップと、を備え、
    前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、
    前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、
    前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され
    前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示される、
    表示制御方法。
  8. 移動体の乗員の前方視界を表す前景画像を取得し、前記前景画像に含まれる対象物を認識する認識部と、前記移動体が進行する軌道を推定する推定部と、所定の画像を生成して表示媒体に投影する表示源とを含む表示システムにおけるコンピュータに実行させる表示制御プログラムであって、
    前記認識部により認識された前記対象物が前記軌道に隣接する所定領域に存在するか否かを判定する処理と、
    前記所定領域に前記対象物が存在すると判定された場合、少なくとも第1のタイミングで第1の仮想画像を生成するように前記表示源を制御し、第1のタイミングより後の第2のタイミングで第2の仮想画像および第1の拡大仮想画像を生成するように前記表示源を制御する処理と、をコンピュータに実行させ、
    前記第1の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にある第1の領域に表示され、
    前記第1の拡大仮想画像は、前記第1の仮想画像を拡大した画像であり、
    前記第1の拡大仮想画像は、前記第2のタイミングで前記第1の領域に表示される前記第1の仮想画像が更新されて、前記第1の領域に表示され
    前記第2の仮想画像は、前記対象物の存在位置に対応する前記表示媒体上の位置から前記軌道に対応する前記表示媒体上の軌道に向かう方向にあり、かつ、前記第1の領域よりも前記表示媒体上の軌道側にある第2の領域に、前記第2のタイミングのときに前記第1の領域に表示される前記第1の拡大仮想画像以上の大きさに拡大して表示される、
    表示制御プログラム。
JP2014250246A 2014-04-09 2014-12-10 表示制御装置、表示制御方法、および表示制御プログラム Active JP6643659B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014250246A JP6643659B2 (ja) 2014-04-09 2014-12-10 表示制御装置、表示制御方法、および表示制御プログラム
EP15160429.5A EP2930654B1 (en) 2014-04-09 2015-03-24 Display control device, display control method, and program
US14/671,806 US9652988B2 (en) 2014-04-09 2015-03-27 Display control device, display control method, and non-transitory computer-readable storage medium

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014080235 2014-04-09
JP2014080235 2014-04-09
JP2014250246A JP6643659B2 (ja) 2014-04-09 2014-12-10 表示制御装置、表示制御方法、および表示制御プログラム

Publications (2)

Publication Number Publication Date
JP2015207272A JP2015207272A (ja) 2015-11-19
JP6643659B2 true JP6643659B2 (ja) 2020-02-12

Family

ID=52780849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014250246A Active JP6643659B2 (ja) 2014-04-09 2014-12-10 表示制御装置、表示制御方法、および表示制御プログラム

Country Status (3)

Country Link
US (1) US9652988B2 (ja)
EP (1) EP2930654B1 (ja)
JP (1) JP6643659B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6586824B2 (ja) * 2015-08-27 2019-10-09 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP6703799B2 (ja) * 2016-03-23 2020-06-03 古野電気株式会社 レーダ装置及び航跡表示方法
JP2018116537A (ja) * 2017-01-19 2018-07-26 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
WO2018167966A1 (ja) * 2017-03-17 2018-09-20 マクセル株式会社 Ar表示装置及びar表示方法
US10347030B2 (en) * 2017-05-15 2019-07-09 Envisics Ltd Adjusting depth of augmented reality content on a heads up display
JP7279318B2 (ja) * 2018-08-30 2023-05-23 株式会社リコー 制御装置、投射制御システム、移動体制御システム、移動体、制御方法及び制御プログラム
JP6827609B2 (ja) * 2019-01-10 2021-02-10 三菱電機株式会社 情報表示制御装置及び方法、並びにプログラム及び記録媒体
WO2021132566A1 (ja) * 2019-12-26 2021-07-01 パナソニックIpマネジメント株式会社 表示制御装置、表示システム、表示制御方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3575279B2 (ja) * 1998-05-22 2004-10-13 アイシン精機株式会社 駐車補助装置
JP2000036100A (ja) * 1998-07-16 2000-02-02 Hino Motors Ltd 車間距離検出装置
JP4228894B2 (ja) 2003-12-01 2009-02-25 日産自動車株式会社 危険個所表示システム
JP5392470B2 (ja) * 2009-01-30 2014-01-22 マツダ株式会社 車両用表示装置
JP2012048532A (ja) * 2010-08-27 2012-03-08 Denso Corp 移動体位置推定システム
EP2723069B1 (en) * 2011-06-16 2017-10-18 Aisin Seiki Kabushiki Kaisha Vehicle periphery monitoring device
JP6242563B2 (ja) * 2011-09-09 2017-12-06 株式会社メガチップス 物体検出装置
EP2763403B1 (en) * 2011-09-29 2018-08-15 Toyota Jidosha Kabushiki Kaisha Image display device, and image display method
WO2013065122A1 (ja) * 2011-11-01 2013-05-10 アイシン精機株式会社 障害物警報装置
US9396401B2 (en) * 2011-11-01 2016-07-19 Aisin Seiki Kabushiki Kaisha Obstacle alarm device
JP5974476B2 (ja) * 2011-12-22 2016-08-23 アイシン精機株式会社 障害物警報装置
KR101957943B1 (ko) * 2012-08-31 2019-07-04 삼성전자주식회사 정보 제공 방법 및 이를 위한 정보 제공 차량
JP6252316B2 (ja) * 2014-03-31 2017-12-27 株式会社デンソー 車両用表示制御装置

Also Published As

Publication number Publication date
JP2015207272A (ja) 2015-11-19
US20150294570A1 (en) 2015-10-15
US9652988B2 (en) 2017-05-16
EP2930654A2 (en) 2015-10-14
EP2930654B1 (en) 2021-04-28
EP2930654A3 (en) 2015-12-16

Similar Documents

Publication Publication Date Title
JP6643659B2 (ja) 表示制御装置、表示制御方法、および表示制御プログラム
EP3031656B1 (en) Information provision device, information provision method, and carrier medium storing information provision program
US8830044B2 (en) Driving support device
JP6303428B2 (ja) 車両情報投影システム
US10152120B2 (en) Information provision device and information provision method
JP6452065B2 (ja) 表示制御装置および表示制御プログラム
US10410423B2 (en) Display control device for controlling stereoscopic display of superimposed display object, display system, display control method and computer readable medium
US20210104212A1 (en) Display control device, and nontransitory tangible computer-readable medium therefor
US20170113665A1 (en) Algorithms for avoiding automotive crashes at left and right turn intersections
US20150203023A1 (en) Roadway projection system
KR20190052374A (ko) 컨텐츠 시각화 장치 및 방법
WO2015151438A1 (ja) 車両用表示制御装置
CN102792349A (zh) 驾驶辅助装置
WO2019230271A1 (ja) 表示制御装置、表示制御プログラム、及びその持続的有形コンピュータ読み取り媒体
JP2020032866A (ja) 車両用仮想現実提供装置、方法、及びコンピュータ・プログラム
JP2020086884A (ja) 区画線推定装置、表示制御装置、方法、及びコンピュータ・プログラム
JP2022186841A (ja) 車両用制御装置、方法、プログラムおよび車両用表示装置
CN113165510B (zh) 显示控制装置、方法和计算机程序
JP6838769B2 (ja) 周辺環境認識装置、表示制御装置
JP2020117105A (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2019172070A (ja) 情報処理装置、移動体、情報処理方法、及びプログラム
JP2020121607A (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2020199883A (ja) 表示制御装置、ヘッドアップディスプレイ装置、方法、及びコンピュータ・プログラム
WO2020158601A1 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2020121704A (ja) 表示制御装置、ヘッドアップディスプレイ装置、方法、及びコンピュータ・プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181206

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190604

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190904

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191212

R150 Certificate of patent or registration of utility model

Ref document number: 6643659

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150