JP5568761B2 - 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 - Google Patents
視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 Download PDFInfo
- Publication number
- JP5568761B2 JP5568761B2 JP2009022927A JP2009022927A JP5568761B2 JP 5568761 B2 JP5568761 B2 JP 5568761B2 JP 2009022927 A JP2009022927 A JP 2009022927A JP 2009022927 A JP2009022927 A JP 2009022927A JP 5568761 B2 JP5568761 B2 JP 5568761B2
- Authority
- JP
- Japan
- Prior art keywords
- mirror
- visual field
- vehicle
- field
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Rear-View Mirror Devices That Are Mounted On The Exterior Of The Vehicle (AREA)
- Traffic Control Systems (AREA)
Description
これにより、車両の鏡及び窓の方向に視覚的注意が向けられた場合に認知される視界の範囲を、空間的な広がりの分布範囲として夫々算出し、算出結果を加算する。このため、車両の鏡及び窓を介して総合的に視認されるべき視野が算出される。
また、本発明にあっては、車両が存する位置及び車両が有する姿勢において鏡及び窓を介して視認されるべき視野を算出する。
これにより、車両が存する空間における絶対的な視野が算出される。
これにより、頭部位置から鏡を介して視認されるべき視野を、鏡の外縁の外側を視界から遮蔽して鏡を除去したときに仮想視点から視認されるべき視野として算出する。
これにより、頭部位置から窓を介して視認されるべき視野を、窓を除いた車体によって視界を遮蔽したときに頭部位置から視認されるべき視野として算出する。
これにより、例えば、乗員によって視認されていると推定される視野が狭まった場合、又は視野の形状について時間的変化が乏しい場合、乗員に警告を与えて注意を喚起する。
これにより、車両の鏡及び窓の方向に視覚的注意が向けられた場合に認知される視界の範囲を、空間的な広がりの分布範囲として夫々算出し、算出結果を加算する。このため、車両の鏡及び窓を介して総合的に視認されるべき視野が算出される。
従って、車内及び車外を問わず車両に搭載された鏡と車両の窓とを介して視認されるべき視野を1つの空間的な広がりを有する範囲として推定することにより、視認されるべき視野を総合的に評価して安全運転に役立てることが可能となる。
(実施の形態)
図1は、本発明に係る視野推定装置を示すブロック図である。図中2は車両1に搭載されて車両1の運転を支援するマイクロコンピュータからなるECU(Electronic Control Unit)であり、ECU2はプログラムを実行するCPU21を備える。CPU21は、プログラム等の情報を記憶するROM22、一時的に発生した情報を記憶するRAM23、時間を計時するためのタイマ24、並びに各種データを入力又は出力するための入力部25及び出力部26と互いにバス接続されている。
測位データには、GPS受信機7が再生した1秒パルスが含まれるようにしてある。
仮想視線算出部207は、視線方向検出部201が算出した視線方向及び鏡面方向算出部203が算出した各ミラーの法線方向に基づき、夫々のミラーの仮想視点からミラーを見通す方向となる仮想視線方向を算出して鏡視野算出部211に与える。
鏡マスク算出部209は、仮想視点算出部206が算出した夫々のミラーについての仮想視点と、ROM22に予め記憶したバックミラー11及びドアミラー12,13の周縁部の位置とに基づき、夫々のミラーについて仮想視点からミラーの鏡面を見通す範囲を算出して鏡視野算出手段211に与える。
鏡視野算出部211は、仮想視点算出部206が算出した各ミラーについての仮想視点と、仮想視線算出部207が算出した夫々のミラーについての仮想視線方向と、鏡マスク算出部209が算出した夫々のミラーについての範囲と、車両位置検出部204及び車両姿勢検出部205が夫々検出した車両位置及び車両姿勢とに基づき、頭部位置から夫々の鏡を介して視線方向に視認されるべき視野が空間的に分布する範囲を算出して加算部212に与える。
運転状態判定部213は、加算部212から与えられた範囲、即ち、乗員1aによって視認されるべき視野に基づいて乗員1aの運転状態の良否を判定し、判定結果を警報部214に与える。
警報部214は、運転状態判定部213から与えられた判定結果が否の場合、警告のための表示データ及び鳴動データを、表示器8及びブザー9に夫々与える。
また、図3に示す視野150及び視野110,120,130は、夫々の視野の範囲が算出されたときの視線方向及び仮想視線方向を中心として立体的な広がりを有する空間を表している。このため、視野150,110,120,130が路面と交わる平面を、夫々平面的な視野151,111,121,131として評価することが可能である。
尚、実際には、時刻t1,t2を中心とする単位時間内に夫々視認されるべき前方の視野が存在するが、これらの視野は時間の経過と共に、時刻t2,t3を中心とする単位時間内に夫々視認されるべき後方及び後方両側方の視野と次々に重なることとなるため、図では省略してある。
尚、警報部214は、運転状態が良好でないと判定した場合、通信インタフェース27を介してナビゲーションシステム10のエージェントに、音声による警告を発声させてもよいし、図示しない複数のスピーカ及びLEDのうち、乗員1aが注意を払うべき方向にあるものを鳴動及び点滅させるようにしてもよい。
尚、以下の説明では、車両1に置かれた基準点(例えば、GPS受信機7が置かれた位置)を原点とする3次元の直交座標系の存在を想定しており、特に断りのない限り、車両1に対する位置及び方向が、夫々前記直交座標系におけるベクトル(の成分)として検出又は算出されるものとする。
尚、このような視線方向の推定については、文献:特開2008−102902に開示されている。
尚、カメラ3aをいわゆる3Dカメラとし、カメラ3aの合焦点位置より乗員1aの頭部位置を検出するようにしてもよい。
尚、ここで検出される車両位置Xc,t は、GPSに基づく絶対的な座標系における車両1の前記基準点の位置ベクトルであるものとする(以下の車両姿勢Rc,t についても同様)。
図5は、ドアミラー13に対する乗員1aの仮想視点と、仮想視点からドアミラー13の方向に向かう仮想視線方向とを説明するための模式的な図である。図において、車両1の運転席に着座している乗員1aの時刻tにおける頭部位置及び視線方向(のベクトル)を夫々Hx,t 及びVg,t とし、ドアミラー13の位置をMx とする。
式(2)では、視線方向Vg,t t と法線方向Nm (j) との内積が負のスカラー値となり、視線方向Vg,t に法線方向Nm (j) と同一方向のベクトルを加えて仮想視線方向のベクトルVg,t ’ が求まる。
また、式(4)については、ミラーjと視認されるべき位置Xとの間に遮蔽物が存在しないものとする。
同様にして、鏡視野算出部211は、式(6)に基づく視野の範囲に、式(4)に基づくマスク関数を掛け合わせた範囲を、k個のミラーについて加算することにより、GPSに基づく絶対的な座標系における視野の範囲を算出する。従って、鏡視野算出部211が算出すべき視野の範囲が、以下の式(14)のように表される。
図6及び図7は、窓視野及び鏡視野を算出して時系列的に積算するCPU21の処理手順を示すフローチャートである。図6,7の処理は、例えば、表示器8の図示しないタッチパネルより運転支援のメニューが選択されたときに起動され、ROM22に予め格納されている制御プログラムに従って実行される。
また、検出又は算出した結果はRAM23に記憶され、適宜参照されるものとする(以下同様)。
また、式(15)の分母の値は、N及びγの値によって決まる定数であるため、前記分母の値を先に算出してRAM23に記憶し、後の算出の際に利用するものとする。
これにより、車両の各ミラー及び前方窓の方向に視覚的注意が向けられた場合に認知される視界の範囲を、空間的な広がりの分布範囲として夫々算出し、算出結果を加算する。このため、車両のバックミラー、ドアミラー及び前方窓を介して総合的に視認されるべき視野が算出される。
従って、車内及び車外を問わず車両に搭載された鏡と車両の窓とを介して視認されるべき視野を1つの空間的な広がりを有する範囲として推定することにより、視認されるべき視野を総合的に評価して安全運転に役立てることが可能となる。
従って、頭部位置から各ミラーを介して視認されるべき視野を、夫々のミラーの外縁の外側を視界から遮蔽して鏡を除去したときに仮想視点から視認されるべき視野として算出するため、鏡を介して視認されるべき視野の範囲を簡便に算出することが可能となる。
従って、頭部位置から前方窓を介して視認されるべき視野を、前方窓を除いた車体によって視界を遮蔽したときに頭部位置から視認されるべき視野として算出するため、窓を介して視認されるべき視野の範囲を簡便に算出することが可能となる。
これにより、車両が存する空間における絶対的な視野を算出することが可能となる。
従って、車両の位置及び姿勢と、頭部位置及び視線方向とが時間と共に変化する場合に、鏡及び窓を介して視認されるべき視野を時間の関数として算出することが可能となる。
これにより、積算された視野が時間の経過と共に失われる情報として扱われるため、後の時刻に算出された視野の範囲に係る情報を重視することが可能となる。
従って、人が視覚情報を忘却する特性に近似させることが可能となると共に、簡便に視野の積算を行うことが可能となる。
これにより、頭部位置及び視線方向を的確に検出することが可能となる。
これにより、例えば、乗員によって視認されていると推定される視野が狭まった場合、又は視野の形状についての時間的変化が乏しい場合に、乗員に警告を与えて注意を喚起することが可能となる。
従って、注意力が散漫になっている方向に注意を向けさせて事故を未然に防止することが可能となる。
1a 乗員
2 ECU
21 CPU
22 ROM
23 RAM
24 タイマ
3a,3b カメラ(撮像部)
8 表示器
9 ブザー
11 バックミラー(鏡)
12,13 ドアミラー(鏡)
15 前方窓(窓)
203 鏡面方向検出部(鏡面方向検出手段)
204 車両位置検出部(位置検出手段)
205 車両姿勢検出部(姿勢検出手段)
206 仮想視点算出部(仮想視点算出手段)
207 仮想視線算出部(仮想視線算出手段)
208 窓マスク算出部(頭部位置から車両の周辺の視野を車両の一部に遮られることなく見通す範囲を算出する手段)
209 鏡マスク算出部(仮想視点から鏡の鏡面を見通す範囲を算出する手段)
210 窓視野算出部(窓視野算出手段)
211 鏡視野算出部(鏡視野算出手段)
212 加算部(加算手段)
213 運転状態判定部(運転状態の良否を判定する手段)
214 警報部(警告を発する手段)
Claims (12)
- 車両に搭載された1又は複数の鏡及び前記車両の窓を介して視認されるべき前記車両の周辺の視野を前記車両に対する乗員の相対的な頭部位置及び乗員の視線方向に基づいて推定する視野推定装置であって、
前記頭部位置から前記鏡を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する鏡視野算出手段と、
前記頭部位置から前記窓を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する窓視野算出手段と、
前記鏡視野算出手段及び窓視野算出手段が夫々算出した範囲に時間を遡ると共に減少する重みを付与して時系列的に積算する加算手段と、
所定の基準位置に対する前記車両の相対的な位置を検出する位置検出手段と、
所定の基準方向に対する前記車両の相対的な姿勢を検出する姿勢検出手段とを備え、
前記鏡視野算出手段及び前記窓視野算出手段は、前記位置検出手段が検出した位置及び前記姿勢検出手段が検出した姿勢において視認されるべき視野が前記基準位置及び基準方向に対して分布する範囲を夫々算出するようにしてあること
を特徴とする視野推定装置。 - 前記鏡の鏡面の方向を検出する鏡面方向検出手段と、
該鏡面方向検出手段が検出した鏡面の方向、前記頭部位置及び前記鏡の位置に基づいて、前記鏡に対する前記頭部位置の虚像位置にある仮想視点を算出する仮想視点算出手段と、
前記鏡面方向検出手段が検出した鏡面の方向及び前記視線方向に基づいて、前記仮想視点から前記鏡を見通す方向となる仮想視線方向を算出する仮想視線算出手段と、
前記仮想視点算出手段が算出した仮想視点から前記鏡の鏡面を見通す範囲を算出する手段とを備え、
前記鏡視野算出手段は、前記算出する手段が算出した範囲内で、前記仮想視点算出手段が算出した仮想視点から前記仮想視線算出手段が算出した仮想視線方向に視認されるべき視野が分布する範囲を算出するようにしてあること
を特徴とする請求項1に記載の視野推定装置。 - 前記頭部位置から前記車両の周辺の視野を前記車両の一部に遮られることなく見通す範囲を算出する手段を備え、
前記窓視野算出手段は、前記算出する手段が算出した範囲内で視認されるべき視野が分布する範囲を算出するようにしてあること
を特徴とする請求項1又は2に記載の視野推定装置。 - 前記重みは、指数関数的に減少することを特徴とする請求項1から3の何れか1項に記載の視野推定装置。
- 前記視野推定手段が推定した視野に基づいて前記乗員による前記車両の運転状態の良否を判定する手段と、
該手段が否と判定した場合、警告を発する手段と
を備えることを特徴とする請求項1から4の何れか1項に記載の視野推定装置。 - 車両に搭載された1又は複数の鏡及び前記車両の窓を介して視認されるべき視野を推定する視野推定装置で前記車両の周辺の視野を前記車両に対する乗員の相対的な頭部位置及び乗員の視線方向に基づいて推定する視野推定方法であって、
前記頭部位置から前記鏡を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する鏡視野算出手段が、範囲を算出するステップと、
前記頭部位置から前記窓を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する窓視野算出手段が、範囲を算出するステップと、
前記鏡視野算出手段及び窓視野算出手段が夫々算出した範囲に時間を遡ると共に減少する重みを付与して時系列的に積算する加算手段が、範囲を時系列的に積算するステップと、
所定の基準位置に対する前記車両の相対的な位置を検出する位置検出手段が、位置を検出するステップと、
所定の基準方向に対する前記車両の相対的な姿勢を検出する姿勢検出手段が、姿勢を検出するステップとを含み、
前記鏡視野算出手段及び前記窓野算出手段は、前記位置検出手段が検出した位置及び前記姿勢検出手段が検出した姿勢において視認されるべき視野が前記基準位置及び基準方向に対して分布する範囲を夫々算出するようにしてあること
を特徴とする視野推定方法。 - 前記鏡の鏡面の方向を検出する鏡面方向検出手段が、鏡面の方向を検出するステップと、
該鏡面方向検出手段が検出した鏡面の方向、前記頭部位置及び前記鏡の位置に基づいて、前記鏡に対する前記頭部位置の虚像位置にある仮想視点を算出する仮想視点算出手段が、仮想視点を算出するステップと、
前記鏡面方向検出手段が検出した鏡面の方向及び前記視線方向に基づいて、前記仮想視点から前記鏡を見通す方向となる仮想視線方向を算出する仮想視線算出手段が、仮想視線方向を算出するステップと、
前記仮想視点算出手段が算出した仮想視点から前記鏡の鏡面を見通す範囲を算出する手段が、範囲を算出するステップとを含み、
前記鏡視野算出手段は、前記算出する手段が算出した範囲内で、前記仮想視点算出手段が算出した仮想視点から前記仮想視線算出手段が算出した仮想視線方向に視認されるべき視野が分布する範囲を算出するようにしてあること
を特徴とする請求項6に記載の視野推定方法。 - 前記頭部位置から前記車両の周辺の視野を前記車両の一部に遮られることなく見通す範囲を算出する手段が、範囲を算出するステップを含み、
前記窓視野算出手段は、前記算出する手段が算出した範囲内で視認されるべき視野が分布する範囲を算出するようにしてあること
を特徴とする請求項6又は7に記載の視野推定方法。 - 前記重みは、指数関数的に減少することを特徴とする請求項6から8の何れか1項に記載の視野推定方法。
- 前記視野推定手段が推定した視野に基づいて前記乗員による前記車両の運転状態の良否を判定する手段が、良否を判定するステップと、
該手段が否と判定した場合、警告を発する手段が、警告するステップと
を含むことを特徴とする請求項6から9の何れか1項に記載の視野推定方法。 - 車両の運転を支援するコンピュータを、車両に搭載された1又は複数の鏡及び前記車両の窓を介して視認されるべき前記車両の周辺の視野を前記車両に対する乗員の相対的な頭部位置及び乗員の視線方向に基づいて推定する手段として機能させるためのコンピュータプログラムであって、
コンピュータを、
前記頭部位置から前記鏡を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する鏡視野算出手段、
前記頭部位置から前記窓を介して前記視線方向に視認されるべき視野が空間的に分布する範囲を算出する窓視野算出手段、
前記鏡視野算出手段及び窓視野算出手段が夫々算出した範囲に時間を遡ると共に減少する重みを付与して時系列的に積算する加算手段、
所定の基準位置に対する前記車両の相対的な位置を検出する位置検出手段、並びに
所定の基準方向に対する前記車両の相対的な姿勢を検出する姿勢検出手段として機能させ、
前記鏡視野算出手段及び前記窓視野算出手段は、前記位置検出手段が検出した位置及び前記姿勢検出手段が検出した姿勢において視認されるべき視野が前記基準位置及び基準方向に対して分布する範囲を夫々算出するようにしてあること
を特徴とするコンピュータプログラム。 - 請求項11に記載のコンピュータプログラムを記録してあることを特徴とするコンピュータでの読み取りが可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009022927A JP5568761B2 (ja) | 2009-02-03 | 2009-02-03 | 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009022927A JP5568761B2 (ja) | 2009-02-03 | 2009-02-03 | 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010179713A JP2010179713A (ja) | 2010-08-19 |
JP5568761B2 true JP5568761B2 (ja) | 2014-08-13 |
Family
ID=42761594
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009022927A Expired - Fee Related JP5568761B2 (ja) | 2009-02-03 | 2009-02-03 | 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5568761B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014062107A1 (en) * | 2012-10-19 | 2014-04-24 | Autoliv Development Ab | Driver attentiveness detection method and device |
CN109416884B (zh) * | 2016-07-05 | 2021-02-19 | 三菱电机株式会社 | 识别区域推定装置、识别区域推定方法及识别区域推定程序 |
JP7294483B2 (ja) * | 2017-11-06 | 2023-06-20 | 日本電気株式会社 | 運転支援装置、運転支援方法及びプログラム |
CN112598212B (zh) * | 2020-11-09 | 2023-03-31 | 东风汽车集团有限公司 | 一种虚实结合的驾驶视野评价系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0620240Y2 (ja) * | 1988-06-08 | 1994-05-25 | 日産自動車株式会社 | 視界補助装置 |
JP2000155894A (ja) * | 1998-11-18 | 2000-06-06 | Nippon Telegr & Teleph Corp <Ntt> | ドライビング環境適応型コミュニケーション制御装置 |
JP4342708B2 (ja) * | 2000-09-06 | 2009-10-14 | 本田技研工業株式会社 | ドライバの視線領域の適合性を判定する車載情報処理装置 |
JP4412365B2 (ja) * | 2007-03-26 | 2010-02-10 | アイシン・エィ・ダブリュ株式会社 | 運転支援方法及び運転支援装置 |
-
2009
- 2009-02-03 JP JP2009022927A patent/JP5568761B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010179713A (ja) | 2010-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103448634B (zh) | 与图像裁剪叠加的动态参考 | |
EP2485203B1 (en) | Vehicle-surroundings monitoring device | |
JP5257514B2 (ja) | 視認領域推定装置および運転支援装置 | |
JP5030142B2 (ja) | 集中度評価装置及びこれを用いた車両用表示装置 | |
CN111665513B (zh) | 面部特征部检测装置、面部特征部检测方法 | |
JP6479272B1 (ja) | 視線方向較正装置、視線方向較正方法および視線方向較正プログラム | |
CN111539333B (zh) | 驾驶员的注视区域识别及分心检测方法 | |
JP5568761B2 (ja) | 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 | |
CN106406515A (zh) | 推测车辆乘客视线的方法和机构、确定对车辆乘客特定的头部运动放大参数的方法和机构及对车辆乘客视线推测的方法和装置 | |
JP6669182B2 (ja) | 乗員監視装置 | |
JP5644414B2 (ja) | 覚醒度判定装置、覚醒度判定方法及びプログラム | |
CN113112413A (zh) | 图像生成方法、图像生成装置和车载抬头显示系统 | |
US20220113546A1 (en) | System and Method for Capturing a Spatial Orientation of a Wearable Device | |
DE102019109491A1 (de) | Datenverarbeitungsvorrichtung, überwachungssystem, wecksystem, datenverarbeitungsverfahren und datenverarbeitungsprogramm | |
WO2019049709A1 (ja) | 画像処理装置、画像処理方法、および画像表示システム | |
JP5498183B2 (ja) | 行動検出装置 | |
JP6906943B2 (ja) | 車載器 | |
JP2018101212A (ja) | 車載器および顔正面度算出方法 | |
WO2020219802A1 (en) | System and method for tracking human behavior real-time with single magnetometer sensor and magnets | |
KR102493994B1 (ko) | 영상 흔들림 보정 기능을 구비한 자동차용 영상 저장 장치 | |
JP2019153237A (ja) | 画像処理装置、画像表示システムおよび画像処理方法 | |
EP4133452B1 (en) | Method for calibrating a vehicle cabin camera | |
JP5206516B2 (ja) | 撮影補助装置、プログラムおよび撮影システム | |
CN115130045A (zh) | 一种驾驶员视野盲区的计算方法、装置、车辆及介质 | |
CN115035499A (zh) | 用于确定注视区域的方法、车辆控制方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120404 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130611 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130808 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140311 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140422 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140520 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140530 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5568761 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |