[go: up one dir, main page]

JP5023784B2 - 映像監視装置 - Google Patents

映像監視装置 Download PDF

Info

Publication number
JP5023784B2
JP5023784B2 JP2007109249A JP2007109249A JP5023784B2 JP 5023784 B2 JP5023784 B2 JP 5023784B2 JP 2007109249 A JP2007109249 A JP 2007109249A JP 2007109249 A JP2007109249 A JP 2007109249A JP 5023784 B2 JP5023784 B2 JP 5023784B2
Authority
JP
Japan
Prior art keywords
video
stage
recording
video frame
recorded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007109249A
Other languages
English (en)
Other versions
JP2008271016A (ja
Inventor
啓 門馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2007109249A priority Critical patent/JP5023784B2/ja
Publication of JP2008271016A publication Critical patent/JP2008271016A/ja
Application granted granted Critical
Publication of JP5023784B2 publication Critical patent/JP5023784B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Description

この発明は、プラントなどにおける機器の監視や、設備への侵入監視を、ビデオカメラで撮影した映像で行う映像監視装置に関する。
従来の映像監視装置においては、映像データを短時間ごとに細分化し、記録領域もアドレスを付加した格納領域に細分化して、各々の映像データに撮像時刻をつけて、格納領域に記録している。記録時間として最長記録時間を設定しておき、映像データを記録するときに記録対象となる格納領域に古い映像データがあれば、
(現在時−古い映像データの撮像時刻)>最長記録時間
が成立する場合には、対象となる格納領域を、現在時の映像データで上書きし、
(現在時−古い映像データの撮像時刻)<最長記録時間
が成立する場合には、対象となる格納領域の次のアドレスの領域に、現在時の映像データを上書きしている。このような方法で、最長記録時間を越える古い映像データの上に新しい映像データを上書きすることで、映像データの記録時間を長時間にしている。(例えば、特許文献1参照)。
特開2003−153165 映像監視システム(請求項4、0009段、0024段〜0032段、図11〜図15)
従来の映像監視装置では、事前に設定された最長記録時間を越える長時間の記録は保証されないという問題点があった。また、記録対象となる格納領域に以前に記録された古い映像データの撮像時刻と現在時との時間が最長記録時間より小さい場合では、「対象となる格納領域の次のアドレスの格納領域」の映像データの撮像時刻を確認せずに強制的にデータが書き換えられる。このため、最長記録時間を越えていない映像データが削除されることがあり、最長記録時間までの映像データを記録できない場合があるという問題点があった。
これらの問題点を解消するために、本発明においては、所定の記録容量に最長記録時間を設定せずに長期間の映像データを記録できるようにすることを課題とする。
この発明に係る映像監視装置においては、映像データの記録領域を上限設定の無い複数に区分けし段階をつけ、第1段階は映像データを間引かずにすべての映像フレームを記録し、第2段階以降の段階には映像フレームを間引いて記録する。段階を上げるごとに、各段階の記録容量を小さく、間引率を小さく、記録時間を長くする。すなわち、間引率の段階間比率を1未満、記録時間の段階間比率を1より大きい値とし、各段階の記録容量の段階間比率となる間引率の段階間比率と記録時間の段階間比率の積を1未満とする。これにより、段階を上げるにしたがって、小さい記録容量で記録時間を長期間化することができる。
この発明は、映像データの記録領域を上限設定の無い複数に区分けし段階をつけ、段階を大きくするごとに記録容量を小さく、間引率を小さく、記録時間を長くすることで、所定の記録容量に最長記録時間を設定せずに長期間映像データの記録を可能にする。
実施の形態1.
図1はこの発明を実施するための実施の形態1における映像監視装置のブロック図、図2はこの発明を実施するための実施の形態1における記録領域のブロック図、図3はこの発明を実施するための実施の形態1における記録映像の状態図、図4はこの発明を実施するための実施の形態1における記録領域管理図、図5はこの発明を実施するための実施の形態1における映像監視装置のフロー図である。
図1において、映像を撮影するためのビデオカメラ10が撮影対象となる方向に向けて設置され、このビデオカメラ10により撮影された映像を符号化するための符号化装置20が接続されている。この符号化装置20により符号化された映像データは符号化装置20に接続される映像蓄積装置30にて記録される。図1では、ビデオカメラ10、符号化装置20、映像蓄積装置30は別個の機器として記載しているが、互いに一体となっていてもかまわない。
符号化装置20は、映像をデジタルデータに符号化するものであるが、この実施の形態では、連続する映像を短い時間ごとの画像(映像フレーム)として構成し、この画像をそれぞれデジタル化するものである。その際に映像フレーム1枚ごとにJPEG(Joint Photographic Experts Group)圧縮を行い、これらの映像フレームを連続して記録するMotionJPEG方式で符号化することが考えられる。なお、映像フレームの圧縮方式にはさまざまな方式があり、また連続する映像フレームの相関を元に圧縮するMPEG(Moving Picture Experts Group)方法などもあるが、これら別の方式を適用することも可能である。
映像蓄積装置30は、符号化装置20で符号化された映像データを受信する受信手段31と、映像データを管理する管理手段32と、映像データから一部の映像フレームを間引く動作を行う間引手段33と、映像データを記録する蓄積手段34と、映像データの記録先である記録領域35からなり、31ないし35はいずれも論理的に構成されるものである。
図2において、記録領域35は複数の領域に区切ってあり、第1段階、第2段階のように段階が付されている。この段階には特に上限は設けられていない。また、この第n段階に分割した領域はそれぞれ論理的にリング状の記録領域を構成しており、第n段階リング記録領域41とする。ここで、一般に記録領域は対象となる記録領域を指すアドレスが先頭アドレスから末尾アドレスまでとなるが、リング状の記録領域は末尾アドレスに1を加えると先頭アドレスになるものである。蓄積手段34から映像データの映像フレームの記録の指示があると、対象となる段階のリング記録領域41の書込位置42に記録される。
第1段階リング記録領域41aは映像データを全映像フレーム記録する。記録方法としては、書込位置42aが示す位置に映像フレームを記録すると、書込位置42aに1加算される。この記録領域がリング状になっているため書き込み位置が1周すると、以前に映像データが書き込まれた位置に新しい映像データが書き込まれることになる。
第2段階リング記録領域41bでは、映像データを一部間引いて記録する。このとき、削減なしの原映像データに対する、データを間引いた後の映像データの、同時間における映像フレーム数の比率を間引率とする。例えば、原映像データが30fps(frame per second)で、圧縮後の映像データが5枚のうち4枚を削減し1枚を残した6fpsであれば間引率20%となる。第2段階の間引率をPとすると、映像データを記録するときに、(1/P)枚に1枚の映像フレームを記録する。
第3段階リング記録領域41c以降でも第2段階と同様であり、第n段階リング記録領域41の間引率をPとすると、映像データを記録するときに、(1/P)枚に1枚の映像フレームを記録する。ここで、(1/P)は必ずしも整数とは限らず、整数にならない場合は四捨五入などの処置を施せばよい。
第n段階リング記録領域41の段階間の間引率の比率をpとする。すなわち、p=Pn+1/Pである。また、第n段階リング記録領域41の記録時間をQ、段階間の記録時間の比率をq=Qn+1/Qとする。第1段階の間引率は1であり、第1段階の記録時間をtとすると、P=pn−1、Q=tqn−1となる。
また、第n段階リング記録領域41の記録容量Sは以下の式で定まる値である。
=映像フレーム枚数×1フレームあたりの容量
映像フレーム枚数=Q×1秒あたりのフレーム数(fps)
1秒あたりのフレーム数=原映像データの1秒あたりのフレーム数×P
より、
=P×Q×原映像データの1秒あたりのフレーム数×1フレームあたりの容量
…… (式1)
ここで、原映像データの1秒あたりの映像フレーム数は、符号化装置20で符号化する際に定められる値であり、一般には30fpsであることが多い。また、1フレームあたりの容量は、対象となる映像の解像度や圧縮の精度により、ある一定の範囲内の値になり、それら映像データを記録できるように最大値を採用する。以降、原映像データの1秒あたりのフレーム数=a、1フレームあたりの容量=bとおくと、(式1)よりS=abPと表すことができる。
第1段階から第n段階までのリング記録容量の合計Tは、以下の式で与えられる。
=abP+abP+……+abP
=Σ(k=1 to n)abP
=Σ(k=1 to n)abp(k−1)×tq(k−1)
=abt(1−p(n−1)(n−1))/(1−pq) …… (式2)
ここで、段階を上げるごとに、記録時間を長時間化して記録容量を下げるためには、以下の通りである。
記録時間の段階間比率 q>1
記録容量の段階間比率 pq<1 …… (式3)
間引率の段階間比率 p<1
(式2)と(式3)より、段階に上限を設定しない場合の記録容量Tは以下の通りである。
T=lim(n→∞)T
=abt/(1−pq)
以上をまとめると、下記の条件の場合に、映像データを最長記録時間を設定せずに長期間記録できる。
間引率の段階間比率 p<1
記録時間の段階間比率 q>1
記録容量の段階間比率 pq<1
総記録容量 T=abt/(1−pq)
ただし、a=原映像データの1秒あたりのフレーム数
b=1フレームあたりの容量
t=第1段階の記録時間
上記の条件を満たす例として、下記の場合について説明する。下記条件を(条件A)とする。
間引率の段階間比率 p=0.5
記録時間の段階間比率 q=1.5
各段階の記録容量の段階間比率 pq=0.75
原映像データの1秒あたりのフレーム数 a=30 fps
1フレームあたりの容量 b=100kbyte
第1段階の記録時間 t=86400秒(=1日)
総記録容量 T=abt/(1−pq)≒1.04Tbyte
図3は、(条件A)での第1段階、第2段階、第3段階における映像フレームの記録状態の一部を例として示したものである。ただし、図面に表示するため第1段階の記録時間は32フレーム分、すなわち32/30秒に縮小して表示している。また、図示した状態は、第1段階、第2段階、第3段階とも、各リング記録領域を映像フレームで満たした状態である。
第1段階では、撮影したデータすべてを記録するため、時系列に映像フレームが連続することになり、記録容量は32フレーム分となる。第2段階では、間引率が0.5であるため、2枚に1枚のデータを間引くことになり、記録時間は第1段階の1.5倍のため48/30秒、記録容量は24フレーム分となる。第3段階では、間引率が0.25であるため、4枚に3枚のデータを間引き1枚のデータを残すことになり、記録時間は第2段階の1.5倍のため72/30秒、記録容量は18フレーム分となる。
初期状態である記録領域35に映像フレームが記録されていない状態から、最初の映像フレームは第1段階、第2段階、第3段階の各段階に記録され、2番目の映像フレームは第1段階のみに記録される。3番目の映像フレームは第1段階と第2段階に記録され、4番目の映像フレームは第1段階のみに記録され、5番目の映像フレームは第1段階、第2段階、第3段階に記録される。このようにして6番目から32番目までの映像フレームが記録される。33番目の映像フレームは第1段階、第2段階、第3段階に記録されるが、第1段階ではリング記録領域41aの容量である32フレーム分にすべて記録されているので、最初の映像フレームの記録してある場所に上書きされ、最初の映像フレームは削除されることになる。34番目の映像フレームは、第1段階のみに記録され、第1段階の2番目の映像フレームの記録してある場所に上書きされて、2番目の映像フレームは削除される。同様に、49番目の映像フレームは、第1段階、第2段階、第3段階に記録されるが、第1段階は17番目の映像フレームが記録してある場所に上書きされ、第2段階は最初の映像フレームが記録してある場所に上書きされる。73番目の映像フレームは、第1段階、第2段階、第3段階に記録されるが、第1段階は41番目の映像フレームの記録してある場所に上書きされ、第2段階は25番目の映像フレームの記録してある場所に上書きされ、第3段階は最初の映像フレームの記録してある場所に上書きされる。この73番目の映像フレームが記録された状態が図3の示す状態になり、第1段階は42番目から73番目までの32枚の映像フレームが、第2段階は27番目から73番目まで2枚に1枚の割合で24枚の映像フレームが、第3段階は5番目から73番目まで4枚に1枚の割合で18枚の映像フレームが記録されていることになる。
図4は、(条件A)での第n段階における間引率、間引率の段階間比率、記録密度、記録時間(日数)、記録時間の段階間比率、記録容量、記録容量の段階間比率を示したものである。例えば、第10段階では総容量の2%に当たる19Gbyteの記録容量に間引率0.002の映像データを約38.4日間記録が可能であり、第16段階では総容量の0.4%に当たる3Gbyteの記録容量に間引率0.00003の映像データを約437.9日間記録が可能である。なお、間引率0.00003の映像データとは、約19分に1フレームの映像である。このように、段落を上げるに従い記録容量を減少させるため、最終的には記録容量が1フレーム未満になる。記録容量が1フレーム未満ということは、この段階には映像を記録できないことになり、その前段階が上限となる。すなわち、段階nは以下の方程式を満たす値となる。
t×a×(pq)n−1>1 …… (式4)
(条件A)での(式4)を満たすnは、n<52.3となり、第52段階まで記録領域を作成することとなる。
次に、(条件A)における動作について、図5のフローを用いて説明する。まず、撮影を開始するときの記録領域35の初期状態は、映像フレームが記録されていない状態とする。撮影を開始する(101)と、管理手段32内に保持しているカウンタcを0に設定する(102)。カウンタcはビデオカメラ10で撮影され符号化装置20で符号化された元となる映像データの1枚ごとの映像フレームを指すものであり、最初の映像フレームがc=0、2番目の映像フレームがc=1に対応することとなる。
ビデオカメラ10にて1フレーム分の映像を撮影し(103)、符号化装置20で映像が映像フレームに符号化される(104)。映像蓄積装置30の受信手段31で符号化された映像フレームが受け取られ蓄積手段34に一時蓄積される(105)。管理手段32内にあり第n段階を示すnを1にする(106)。すなわち、第1段階から検討していくことを示している。続いて、間引手段33でcが2n−1で割り切れるかどうか判断する(107)。cが2n−1で割り切れる場合は、このカウンタcが示す映像フレームを間引きすることなく第n段階に記録するということであり108ステップに進み、割り切れない場合はこの映像フレームを間引くこととして第n段階には記録しないということであり111ステップに進む。108ステップでは第n段階のリング記録領域41nの書込位置42nに映像フレームを書き込む。このとき、書込位置42nが示す場所に映像フレームが記録されているか否かは関係なく書き込む。すなわち、映像フレームが記録されていると、撮影した直後の映像フレームで上書きされ、以前の映像フレームは削除されることになる。次に書込位置を1つ進め、nに1を加える(109)。nが(式4)を満たす上限を超えているかどうか、すなわち(条件A)においてn>52かどうかを判断し(110)、超えていない場合は、107ステップに戻り、次の段階について同様に検討し、超えている場合は111ステップに進む。111ステップではcに1を加え、次の映像フレームについて検討する。103から111までのフローを繰り返すこととなるが、さらに具体的に以下で説明する。
撮影を開始しカウンタc=0に設定して1フレーム撮影し符号化して受信手段で映像フレームを受信する(101から105)と、まず、第1段階での検討をするため、106ステップにてn=1とする。107のステップにおいてc=0は21−1=1で割り切れ、108ステップに進み最初の映像フレームが第1段階の書込位置42aに書き込まれ、109ステップで第1段階の書込位置42aを1つ進め、nに1加えてn=2とする。110ステップではnが52を超えていないので、107ステップに進む。c=0は22−1=2で割り切れ、再び108ステップに進み第2段階の書込位置42bに最初の映像フレームが書き込まれ、109ステップで第2段階の書込位置42bを1つ進め、nに1加えてn=3となる。110ステップではnが52を超えていないので、107ステップに進む。第3段階、第4段階と第51段階まで同様に処理され、第52段階における107ステップ、108ステップ、109ステップと進むと、109ステップでn=53となる。110ステップではn>52のため111ステップに進み、cに1を加えて、c=1となり103ステップに進む。このようにして最初の映像フレームは、第1段階から第52段階までのリング記録領域に保存される。
103ステップで2番目の映像フレームが撮影され、符号化されて受信手段で受信される(104、105)と、106ステップで再びn=1とされて第1段階から検討される。107のステップでc=1は21−1=1で割り切れ、108ステップに進み2番目の映像フレームが第1段階の書込位置42aに書き込まれ、109ステップで第1段階の書込位置42aを1つ進め、nに1加えてn=2となる。110ステップではnが52を超えていないので、107ステップに戻る。c=1は22−1=2で割り切れないため、2番目の映像フレームを第2段階に保存しないこととして111ステップに進み、cに1を加えて、c=2となり103ステップに進む。このようにして、2番目の映像フレームは第1段階のみのリング記録領域に保存される。
103ステップで3番目の映像フレームが撮影され、符号化されて受信手段で受信される(104、105)と、106ステップで再びn=1とされて第1段階から検討される。107のステップでc=2は21−1=1で割り切れ、108ステップで3番目の映像フレームが第1段階の書込位置42aに書き込まれ、109ステップで第1段階の書込位置42aを1つ進め、nに1を加えてn=2となる。110ステップではnが52を超えていないので、107ステップに戻る。c=2は22−1=2で割り切れるため、再び108ステップで3番目の映像フレームが第2段階の書込位置42bに書き込まれ、109ステップで第2段階の書込位置42bを1つ進め、nに1を加えてn=3となる。110ステップではnが52を超えていないので、107ステップに戻る。c=2は23−1=4で割り切れないため、3番目の映像フレームを第3段階に保存しないこととして111ステップに進み、cに1を加えc=3となり103ステップに進む。このようにして、3番目の映像フレームは第1段階および第2段階のリング記録領域に保存される。
このようにすると、4番目の映像フレームはc=3となり、n=1のみで割り切れるため、第1段階のみに記録される。5番目の映像フレームはc=4となり、n=1、2、3で割り切れるため、第1段階、第2段階、第3段階に記録される。
上記のフローを繰り返し、約1日後(約86400秒後)で2592000番目の映像が撮影され符号化されて受信手段で受信される(103、104、105)と、107ステップではc=2591999は21−1=1で割り切れ、108ステップで2592000番目の映像フレームが第1段階の書込位置42aに書き込まれ、109ステップで第1段階の書込位置42aを1つ進める。(条件A)では、第1段階のリング記録領域41aは2592000フレーム分のため、書込位置42aはリング状の記録領域の特性から最初に戻り、最初の映像フレームが記録された場所を示すことになる。nに1加えてn=2となり110ステップを経て107ステップに戻ると、c=2591999は22−1=2で割り切れないため、この映像フレームを第2段階に保存せず111ステップに進み、cに1を加えられ、c=2592000となり103ステップに進む。
103ステップで2592001番目の映像フレームが撮影され、符号化されて受信手段で受信される(104、105)と、106ステップで再びn=1とされて第1段階から検討される。107のステップでc=2592000は21−1=1で割り切れ、108ステップに進む。第1段階の書込位置42aには、c=0に対応する最初の映像フレームが記録されているが、この上にc=2592000に対応する映像フレームで上書きすることになり、c=0に対応する最初の映像フレームは第1段階から削除されることになる。109ステップで第1段階の書込位置42aを1つ進めると、この第1段階の書込位置42aはc=1に対応する2番目の映像フレームが記録されている場所を示すこととなる。nに1を加えてn=2となる。110ステップではnが52を超えていないので、107ステップに戻る。その後c=2592000について、第2段階以上に関する記録を検討することとなる。以上のとおりで、第1段階は1日分(2592000フレーム分)の映像データが記録されることになる。
このように、映像データの記録領域を複数に区分けし段階をつけ、各段階に映像データを間引いて記録し、段階を大きくするごとに記録容量を小さく、間引率を小さく、記録時間を長くすることで、所定の記録容量に最長記録時間を設定せずに長期間映像データの記録を可能にすることができる。
実施の形態2.
なお、実施の形態1では間引率の段階間比率および記録時間の段階間比率を一定値としていたが、間引率の段階間比率および記録時間の段階間比率を段階ごとに異なる値としてもよい。
図6は、この発明を実施するための実施の形態2における記録領域管理図である。図6において、リング記録領域の段階を第1段階から第10段階まで示しているが、間引率の段階間比率と、記録時間の段階間比率を段階ごとに異なる値にしている。間引率の段階間比率は、記録密度が段階ごとに利用者の利用しやすい値になるようにしており、例えば第2段階では10fps、第5段階では5秒に1枚の記録(1/5fps)としている。さらに、記録時間の段階間比率を段階ごとに定めることにより、記録時間を利用しやすい値に設定することができる。
また、図6のような設定にすることで、第3段階では記録密度を2fpsとしているが、符号化装置20で例えばMPEG方式を採用する場合、MPEG方式では1枚の画像から14枚分を動きの変化だけを記録するようにして圧縮するため、MPEG方式の映像から画像部分のみを抜き出すこととなり利用しやすい。
このように、映像データの間引率の段階間比率および記録時間の段階間比率を段階ごとに異なる値とすることにより、各段階の記録密度と記録時間を利用しやすい値にした上で、所定の記録容量に最長記録時間を設定せずに長期間映像データの記録を可能にすることができる。
実施の形態3.
なお、実施の形態1ではすべての段階の記録領域で現在時から映像を記録することとしていたが、図7に示すように段階をまたいで時系列とすることもできる。
図7はこの発明を実施するための実施の形態3における記録映像の状態図、図8はこの発明を実施するための実施の形態3における記録領域管理図、図9はこの発明を実施するための実施の形態3における映像監視装置のフロー図である。
図7は、実施の形態1で例示した(条件A)における第1段階、第2段階、第3段階での映像フレームの記録状態の一部を示したものである。ただし、図面に表示するため第1段階の記録時間は32フレーム分、すなわち32/30秒としている。また、図示した状態は、第1段階、第2段階、第3段階とも、リング記録領域を映像フレームで満たした状態である。
第1段階では、撮影したデータすべてを記録するため、時系列に映像フレームが連続することになり、記録容量は32フレーム分となる。第2段階では、間引率が0.5であるため、2枚に1枚のデータを間引くこととなるが、第1段階の記録期間と重ならないように記録する期間を定めている。このため、第1段階の記録期間は現在時から31/30秒前、第2段階の記録期間は32/30秒前から79/32秒前までとなる。第3段階では4枚に3枚のデータを間引き1枚のデータを残すことになり、第2段階の記録期間と重ならないように記録する期間を定めている。
初期状態である記録領域35に映像フレームが記録されていない状態では、最初の映像フレームは第1段階に記録される。2番目以降の映像フレームも撮影された後は第1段階に記録される。32番目の映像フレームが第1段階に記録されると、第1段階のリング記録領域41aはすべて映像フレームで満たされる。33番目の映像フレームが撮影されると、第1段階のリング記録領域41aの書込位置には最初の映像フレームがすでに記録されているので、これを第2段階に複写して、33番目の映像フレームを第1段階の最初の映像フレームが記録されている場所に上書きする。第2段階へは2枚に1枚の割合で間引きをしながら書き込むため、34番目の映像フレームを撮影したときには、第1段階の書込位置にある2番目の映像フレームを第2段階へ複写することなく間引いて、34番目の映像フレームを第1段階の2番目の映像フレームが記録されている場所に上書きする。35番目の映像フレームを撮影したときは、3番目の映像フレームを第2段階に複写し、その上に35番目の映像フレームを上書きする。36番目の映像フレームを撮影したときは、4番目の映像フレームを第2段階へ複写することなく間引いて、その上に36番目の映像フレームを上書きする。このようにして、第1段階が映像フレームで満たされた後は、第2段階へ2枚に1枚の割合で複写・間引きをしながら、撮影した映像フレームで第1段階の書込位置に上書きすることとなる。
第2段階から第3段階への複写・間引きも同様である。79番目の映像フレームを撮影したときには、第1段階の書込位置にある47番目の映像フレームを第2段階へ複写して、79番目の映像フレームを第1段階の47番目の映像フレームが記録されている場所に上書きする。この時点で、第2段階のリング記録領域41bは全て映像フレームで満たされ、第2段階の書込位置が最初の映像フレームが記録されている場所を示すことになる。80番目の映像フレームを撮影したときは、48番目の映像フレームを第2段階へ複写することなく間引いて、その上に80番目の映像フレームを上書きする。81番目の映像フレームを撮影したときは、49番目の映像フレームを第2段階へ複写する必要があるが、第2段階の書込位置にも最初の映像フレームがありそれを第3段階の書込位置42cへ複写した上で、第2段階の書込位置へ49番目の映像フレームを上書きし、第1段階の書込位置へ81番目の映像フレームを上書きする。82番目の映像フレームを撮影したときは、50番目の映像フレームを第2段階へ複写することなく間引いて、第1段階の書込位置へ上書きする。83番目の映像フレームを撮影したときは、51番目の映像フレームを第2段階へ複写するが、第2段階の書込位置にある3番目の映像フレームを第3段階へ複写することなく間引いて、51番目の映像フレームを第2段階へ複写し、83番目の映像フレームを第1段階の書込位置へ上書きする。84番目の映像フレームを撮影したときは、52番目の映像フレームを第2段階へ複写することなく間引いて、第1段階の書込位置へ上書きする。85番目の映像フレームを撮影したときは、53番目の映像フレームを第2段階へ複写するが、第2段階の書込位置にある5番目の映像フレームを第3段階の書込位置へ複写して、53番目の映像フレームを第2段階へ複写して書込位置へ上書きし、85番目の映像フレームを第1段階の書込位置へ上書きする。このようにして、第2段階が映像フレームで満たされた後は、第3段階へ2枚に1枚の割合で複写・間引きをしながら、第1段階から複写する映像フレームを第2段階の書込位置に映像フレームを上書きすることとなる。
図8は、(条件A)での第n段階における間引率、間引率の段階間比率、記録密度、記録期間、記録時間の段階間比率、記録容量、記録容量の段階間比率を示したものである。このうち、記録期間以外は実施の形態1と同じである。記録期間は、第1段階が現在時から1日前まで、第2段階が1日前から2.5日前まで、第3段階が2.5日前から4.7日前までのように、段階ごとに時系列で重ならないようにしている。このため、第10段階では75日前から113日前まで、第16段階では867日前から1300日前までのように、実施の形態1と比較して長期間の記録が可能となる。
次に動作について図9のフローを用いて説明する。撮影開始時には記録領域35に映像フレームが記録されていない状態とする。撮影を開始する(121)と、すべての段階のカウンタcを0にする(122)。カウンタcは第n段階における映像フレームを示すものである。ビデオカメラ10にて1フレーム分の映像を撮影し(123)、符号化装置20で映像フレームを符号化する(124)。第1段階のリング記録領域41aへの保存から検討するので、n=1とする(125)。符号化装置20から発信された映像フレームは映像蓄積装置30の受信手段31で受け取られる(126)。間引手段で第n段階の書込位置42に以前に記録した映像フレームがあるかどうか判断し(127)、映像フレームがない場合は第n段階の書込位置にすぐに映像フレームを書き込んでもよいため128ステップに進み、映像フレームがある場合にはこの映像フレームを次の段階に複写するか間引くかを検討するため130フレームに進む。130ステップでは、カウンタcが第n+1段階と第n段階の間引率の段階間比率の逆数(Pn+1/P)で割り切れるかどうか判断する(130)。割り切れる場合は、カウンタcが示す映像フレームを第n+1段階に複写するため131段階に進み、割り切れない場合はカウンタcが示す映像フレームを第n+1段階から間引くため128ステップに進む。131ステップでは、第n段階の書込位置42の示す映像フレームを蓄積手段34に渡す。この蓄積手段34は、バッファの役目をするものであり、第n+1段階での検討をするときに第n+1段階の書込位置42に記入されるものである。131ステップを終了すると、第n段階におけるフローと第n+1段階におけるフローに分かれることになるが、第n段階においては128ステップに移動し、第n+1段階においては132ステップに移動する。
132ステップでは、次の段階について検討するためnに1を加え126ステップに移動する。以降、蓄積手段34においてある映像フレームについて126ステップから132ステップで前述と同様に検討する。
128ステップでは、第n段階の書込位置42に映像フレームを書き込む。このとき、第n段階の書込位置42が示す場所に、すでに映像フレームがあるか否かは関係なく書き込む。すなわち、映像フレームがある場合には上書きすることになる。129ステップではカウンタcに1を加え、書込位置を1つ進める。すべての段階の検討が終了したときに、次の映像を撮影するため123ステップに移動する。以降123から132のステップを繰り返すことになるが、さらに具体的に以下で説明する。
記録領域に映像フレームが記録されていない初期状態で撮影を開始する(121)と、カウンタc=0、すなわち第1段階のカウンタc=0、第2段階のカウンタc=0、第3段階のカウンタc=0、のように設定する(122)。最初の映像を撮影し(123)符号化される(124)と、第1段階から検討することとしてn=1とする(125)。受信手段31で映像フレームを受け取り(126)、c=0では第1段階の書込位置42aにはデータはないため(127)、128ステップに進み第1段階の書込位置42aに最初の映像フレームを書き込む。cに1を加えてc=1とし、第1段階の書込位置42aを1つ進める(129)。最初の映像フレームでは第2段階以上に渡す映像フレームがなかったため全ての段階の検討が終了したこととなり、123ステップに進み、2番目の映像を撮影する。
2番目の映像が符号化装置20で符号化され(124)、n=1とする(125)。受信手段31で映像フレームを受け取り(126)、第1段階の書込位置にデータがないため(127)、第1段階の書込位置42aに映像フレームを書込み(128)、cに1を加えてc=2とし、第1段階の書込位置42aを1つ進める(129)。同様にして、2592000番目の映像まで撮影し、第1段階リング記録領域41aに書き込む(128)。129ステップで、cに1を加えてc=2592000とし、第1段階の書込位置42aを1つ進める(129)と、第1段階の書込位置42aは、最初の映像フレームが記録されている場所を示すことになる。
2592001番目の映像を撮影し(123)符号化され(124)、n=1とする(125)。受信手段で映像フレームを受け取り(126)、127ステップでは、第1段階の書込位置42aは、最初の映像フレームが記録されている場所を示すためデータがあることになり、130ステップに移動する。c=2592000が、(P/P)=2で割り切れるため131ステップに移動する。第1段階の書込位置42aの映像フレームである最初の映像フレームを蓄積手段34に渡し(131)、128ステップおよび132ステップに移動する。128ステップで第1段階の書込位置42aに2592001番目の映像フレームを書き込むと、最初の映像フレームは削除される。129ステップでcに1を加えてc=2592001とし、第1段階の書込位置42aを1つ進める。また、132ステップでnに1を加えn=2とし126ステップに移動する。蓄積手段34から最初の映像フレームを受け取り、第2段階の書込位置にデータがないので(127)、128ステップに移動し、第2段階の書込位置42bに最初の映像フレームを書き込む。cに1を加えてc=1とし、第2段階の書込位置42bを1つ進める(129)。第1段階、第2段階の検討が終了し、第3段階以降の段階へは渡す映像フレームがないため、全ての段階での検討が終了したこととなり、123ステップに移動する。
2592002番目の映像を撮影し(123)符号化され(124)、n=1とする(125)。受信手段で映像フレームを受け取り(126)、127ステップでは、第1段階の書込位置42aは、2番目の映像フレームが記録されている場所を指し示すためデータがあることになり、130ステップに移動する。c=2592001が、(P/P)=2で割り切れないため、第2段階への2番目の映像フレームの複写をせずに間引くこととし、128ステップに移動する。第1段階の書込位置42aに2592002番目の映像フレームを書き込むと、2番目の映像フレームは削除される。これにより、2番目の映像フレームは記録領域35から削除され、間引かれたことになる。129ステップでcに1を加えてc=2592002とし、第1段階の書込位置42aを1つ進める。第1段階での検討が終了し、第2段階以降の段階へは渡す映像フレームがないため、全ての段階で検討が終了したこととなり、123ステップに移動する。このようにして、第1段階から第2段階へは2枚に1枚の割合で映像フレームが複写・間引きをされることとなる。第2段階から第3段階、およびそれ以上についても同様に行われる。
このように、記録領域に記録する映像を、段階をまたいで時系列にすることにより、さらに長期間映像データの記録を可能にすることができる。
実施の形態4.
なお、実施の形態3では段階を上げるごとに映像フレームを一定の割合で間引いたが、図10に示すように、第n段階から第n+1段階に映像データを移動させるときに、同じ映像フレームが連続する場合には、同一の映像フレームの最初のものだけを残し、2枚目以降を削除するようにしてもよい。
この実施の形態では、プラントなどの機器監視や、侵入監視などに適用することを目的としているため、プラントの機器については異常が発生していない場合、侵入監視では侵入者がいない場合に、長期にわたって映像データが変化しない場合がある。このような同じ映像フレームが連続する場合に、同一の映像フレームの最初のものだけを残し、2枚目以降を削除することにより映像データの記録時間を長期化することができる。
図10はこの発明を実施するための実施の形態4における記録映像の状態図を示す。図10は、実施の形態1で例示した(条件A)における第1段階、第2段階、第3段階での映像フレームの記録状態を示したものであり、第1段階の記録時間を32/30秒にして図示している。第1段階では撮影したデータすべてを記録するため、現在時から時系列に映像フレームが連続することになり、記録容量は32フレーム分である。第2段階では、間引率が0.5であるため、2枚に1枚のデータを間引くこととなるが、第1段階の記録期間と重ならないように記録期間を定めている。第3段階では同じ映像が連続する場合に、連続する映像の最初の1枚のみを残し、2枚目以降を削除することで記録容量を削減している。
動作について、第2段階の書込位置42bにある映像データを蓄積手段34に渡した後、第3段階の書込位置42cより1つ前の位置にある映像データと比較する。この2つの映像データが一致すると第3段階の書込位置42cに映像データを書き込まないで、蓄積手段34にある映像データを削除する。
このように、同じ映像データが連続する場合に、最初の1枚のみを残し2枚目以降を削除することにより、記録容量を削減することができ、一定の記録領域に長期間映像データを記録することができる。
実施の形態5.
なお、実施の形態3では段階を上げるごとに映像フレームを一定の割合で間引いたが、図12に示すように、第n段階から第n+1段階に映像データを移動させるときに、映像データの容量を縮小するようにしてもよい。
図11はこの発明を実施するための実施の形態5における映像監視装置のブロック図、図12はこの発明を実施するための実施の形態5における記録映像の状態図を示す。図11では、実施の形態1の映像監視装置のブロック図である図1と比較して、映像蓄積装置30に映像縮小手段36を追加している。
図12は、実施の形態1で例示した条件における第1段階、第2段階、第3段階での映像フレームの記録状態を示したものであり、第1段階の記録時間を32/30秒にして図示している。第1段階では撮影したデータすべてを記録するため、現在時から時系列に映像フレームが連続することになり、記録容量は32フレーム分である。第2段階では、間引率が0.5であるため、2枚に1枚のデータを間引くこととなるが、第1段階の記録期間と重ならないように記録期間を定めている。第3段階では、映像縮小手段36にて第2段階の映像フレームを1つずつ縮小し、1フレームあたりの容量を減少させて記録している。
動作について、第2段階の書込位置42bにある映像データを蓄積手段34に渡した後、映像縮小手段36に渡し、映像を縮小する。映像縮小では、例えば撮影時の映像データが横640ピクセル、縦480ピクセルのデータであれば、それを横320ピクセル、縦240ピクセルのデータにすることで、1/4の容量に縮小させることができる。また、映像データが赤(R)8bit、緑(G)8bit、青(B)8bitの24bitカラー映像であれば、赤(R)4bit、緑(G)4bit、青(B)4bitの12bitカラー映像とすることで1/2の容量に縮小させることができる。この縮小したデータを第3段階の書込位置に記録する。
このように、映像蓄積装置に映像縮小手段を備え、第n段階の時点で映像を縮小することにより、記録容量を縮小させることができ、一定の記録領域に長期間映像データを記録することができる。
実施の形態6.
図13はこの発明を実施するための実施の形態6における映像監視装置のブロック図、図14はこの発明を実施するための実施の形態6における記録映像の状態図を示す。
図13において、実施の形態1における映像監視装置に、イベント入力手段50を設け、このイベント入力手段50を映像蓄積装置30に接続するとともに、この映像蓄積装置30にイベント記録手段37と、イベント記録領域38を設けたものである。イベント入力手段50は、この実施の形態における映像監視装置の目的が、プラントの機器監視であれば温度や振動など機器の状態を監視するセンサーであり、侵入監視であれば赤外線センサーなど人の有無を監視するセンサーである。また、本装置とは独立する他の装置からイベントとして入力されるものであってもよく、さらには作業員によって入力されるものであってもよい。本装置に接続するイベント入力手段50が出力する信号として、このイベント入力手段50による加工等により、イベントとして映像を記録する必要のある開始時刻と終了時刻が含まれるものとする。
次に動作について説明する。イベント入力手段50からの信号に含まれる開始時刻と終了時刻を、映像蓄積装置30内の受信手段31が受け取り、管理手段32に渡す。この開始時刻と終了時刻からイベント記録手段37により映像データを記録領域35から選出しイベント記録領域38に記録する。図14において、イベントにより記録が必要な時間帯はイベント記録時間200であり、開始時刻201から終了時刻202の期間を示す。この開始時刻201と終了時刻202が共に含まれる最小の段階を探すと、第1段階では開始時刻201が含まれず、第2段階以降であれば開始時刻201、終了時刻202の両者とも含まれるため、第2段階となる。このため、イベント記録手段37により、イベント記録時間200に対応する映像データとしてイベント記録データ203を第2段階から選出し、イベント記録領域38に複写する。
このように、映像蓄積装置にイベント入力手段とイベント記録手段とイベント記録領域を設け、イベントによる記録の必要な時間帯を別の領域に複写することにより、イベントに関する映像データという重要度の高い映像を参照しやすくすることができる。
なお、イベント記録時間に対する記録データを開始時刻および終了時刻が共に含まれる最小の段階としたが、必ずしも最小の段階から選出せず、イベントにより記録する映像データの間引率を小さくして、イベントとして記録する映像データの容量を縮小してもよい。
実施の形態7.
実施の形態6では、映像データの記録方法が実施の形態1で示した方法による場合において、イベントにより記録する映像データの選出について説明したが、実施の形態7では映像データの記録方法が実施の形態3のような段階をまたいで時系列である場合について説明する。
図15はこの発明を実施するための実施の形態7における記録映像の状態図を示す。なお、装置の構成は実施の形態6で示した図13と同じである。
イベント入力手段50からの信号に含まれる開始時刻と終了時刻を、映像蓄積装置30内の受信手段31が受け取り、管理手段32に渡す。この開始時刻と終了時刻からイベント記録手段37により映像データを記録領域35から選出しイベント記録領域38に記録する。図15において、イベントにより記録が必要な時間帯はイベント記録時間200であり、開始時刻201から終了時刻202の期間を示す。イベント記録時間200が示す期間の映像データが、1つの段階内で収まらない場合は、複数の段階から映像データを選出し、1つの映像データとして接続させる。図15では開始時刻201における映像データが第3段階にあり、終了時刻202における映像データが第2段階にあるため、第3段階と第2段階からイベント記録時間200に当たる部分を選出し、連続する映像データであるイベント記録データ203とした上で、イベント記録領域38に複写する。
このように、実施の形態7においては、段階をまたがって時系列で保存してある映像データがある場合、イベントの開始時刻から終了時刻までの映像データを複数の段階から選出し、連続したイベント記録データとしてイベント記録領域に記録することにより、イベントが入力された時点における間引率でイベントを保存することができる。
実施の形態8.
図16は、複数台のビデオカメラおよび符号化装置をネットワークに接続し、複数台のビデオカメラからの映像データを記録できるようにした場合の実施の形態を示すものである。図16において、複数のビデオカメラ10a、10bで撮影された映像をそれぞれ符号化するため、複数の符号化装置20a、20bが接続されている。これら符号化装置20a、20bにより符号化された映像データは、ネットワーク70を介して映像蓄積装置30にて記録される。記録された映像データを参照するために、ネットワーク70に映像監視端末60を接続する。
映像蓄積装置30は、複数の符号化装置20a、20bからの映像データを受信する受信手段31と、映像データを管理する管理手段32と、映像データから一部の映像フレームを間引く動作を行う間引手段33と、映像データを蓄積する蓄積手段34と、映像データの記録先である複数の記録領域35a、35bと、映像監視端末に映像を配信する配信手段39からなる。これら、受信手段31、管理手段32、間引手段33、蓄積手段34、複数の記録領域35a、35b、配信手段39は論理的なものである。ビデオカメラ10aで撮影した映像データは対応する記録領域35aに記録され、ビデオカメラ10bで撮影した映像データは対応する記録領域35bに記録される。また、映像監視端末60からは、記録領域35に記録されている映像を、配信手段39およびネットワーク70を介して参照することができる。
このように、複数のビデオカメラと符号化装置を設け、映像蓄積装置に複数の記録領域を設けることにより、1つの映像監視装置で複数の範囲の監視をすることができる。
この発明の実施の形態1を示す映像監視装置のブロック図である。 この発明の実施の形態1を示す記録領域のブロック図である。 この発明の実施の形態1を示す記録映像の状態図である。 この発明の実施の形態1を示す記録領域管理図である。 この発明の実施の形態1を示す映像監視装置のフロー図である。 この発明の実施の形態2を示す記録領域管理図である。 この発明の実施の形態3を示す記録映像の状態図である。 この発明の実施の形態3を示す記録領域管理図である。 この発明の実施の形態3を示す映像監視装置のフロー図である。 この発明の実施の形態4を示す記録映像の状態図である。 この発明の実施の形態5を示す映像監視装置のブロック図である。 この発明の実施の形態5を示す記録映像の状態図である。 この発明の実施の形態6を示す映像監視装置のブロック図である。 この発明の実施の形態6を示す記録映像の状態図である。 この発明の実施の形態7を示す記録映像の状態図である。 この発明の実施の形態8を示す映像監視装置のブロック図である。
符号の説明
10、10a、10b ビデオカメラ
20、20a、20b 符号化装置
30 映像蓄積装置
33 間引手段
35 記録領域
36 映像縮小手段
37 イベント記録手段
38 イベント記録領域
50 イベント入力手段
70 ネットワーク

Claims (9)

  1. ビデオカメラと、該ビデオカメラで撮影した映像を符号化する符号化装置と、符号化された映像を記録する記録領域および映像を間引く間引手段を有する映像蓄積装置とを備えた映像監視装置において、前記記録領域を間引率および記録時間の異なる上限設定の無い複数の段階の記録領域に分割し、前記間引率の段階間比率が1未満で、前記記録時間の段階間比率が1より大きく、前記間引率の段階間比率と前記記録時間の段階間比率の積が1未満であること特徴とする映像監視装置。
  2. 間引率の段階間比率および記録時間の段階間比率が、一定であることを特徴とする請求項1に記載の映像監視装置。
  3. 間引率および記録時間が段階ごとに異なることを特徴とする請求項1に記載の映像監視装置。
  4. 記録領域に記録する映像を、段階をまたいで時系列としたことを特徴とする請求項1ないし3のいずれかに記載の映像監視装置。
  5. 間引手段は、2つの画像フレームの相関に基づき片方のフレームを削除するものであることを特徴とする請求項4に記載の映像監視装置。
  6. 映像蓄積装置に、フレームごとの画像の解像度を低下させる映像縮小手段を備えることを特徴とする請求項4に記載の映像監視装置。
  7. イベントの種類および期間を映像蓄積装置へ提供するイベント入力手段と、前記イベント入力手段の出力信号により前記期間の映像を記録領域から選出しイベント記録領域に複写するイベント記録手段とを有することを特徴とする請求項1ないし3のいずれかに記載の映像監視装置。
  8. イベントの種類および期間を映像蓄積装置へ提供するイベント入力手段と、前記イベント入力手段の出力信号により前記期間の映像を複数の段階の記録領域から選出し連続した映像に連結しイベント記録領域に複写するイベント記録手段とを有することを特徴とする請求項4に記載の映像監視装置。
  9. 複数の符号化装置と、映像蓄積装置とをネットワークで接続したことを特徴とする請求項1ないし3のいずれかに記載の映像監視装置。
JP2007109249A 2007-04-18 2007-04-18 映像監視装置 Expired - Fee Related JP5023784B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007109249A JP5023784B2 (ja) 2007-04-18 2007-04-18 映像監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007109249A JP5023784B2 (ja) 2007-04-18 2007-04-18 映像監視装置

Publications (2)

Publication Number Publication Date
JP2008271016A JP2008271016A (ja) 2008-11-06
JP5023784B2 true JP5023784B2 (ja) 2012-09-12

Family

ID=40049968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007109249A Expired - Fee Related JP5023784B2 (ja) 2007-04-18 2007-04-18 映像監視装置

Country Status (1)

Country Link
JP (1) JP5023784B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6447918B2 (ja) * 2015-04-02 2019-01-09 鹿児島県 静電気放電発生源検知方法および静電気放電発生源可視化方法
KR101623321B1 (ko) * 2015-11-30 2016-05-20 (주)클로닉스 디지털 포렌식에서 대용량 동영상 증거물에 대한 고속 검색 장치 및 방법
CN109716400B (zh) * 2017-07-31 2021-08-10 Jvc 建伍株式会社 图像记录装置、图像记录方法和存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6950600B2 (en) * 2001-04-23 2005-09-27 Mitsubishi Electric Research Labs, Inc. Exponential storage system and method
JP2003153177A (ja) * 2001-11-08 2003-05-23 Mega Chips Corp 映像録画装置および映像録画方法
JP4346371B2 (ja) * 2003-07-11 2009-10-21 三洋電機株式会社 監視カメラシステム
JP2005328404A (ja) * 2004-05-17 2005-11-24 Sony Corp 記録方法及び記録装置と再生方法

Also Published As

Publication number Publication date
JP2008271016A (ja) 2008-11-06

Similar Documents

Publication Publication Date Title
US7573492B2 (en) Monitoring system and method, and program and recording medium used therewith
JP3927608B2 (ja) 動画像表示装置及び動画像記憶装置
US8195037B2 (en) Apparatus and method of storing video data
JP4270623B2 (ja) 時系列データ蓄積配信システム
JP2003153177A (ja) 映像録画装置および映像録画方法
JP2004179881A5 (ja)
JP5023784B2 (ja) 映像監視装置
JP2002342139A (ja) 画像信号処理装置
US7006701B2 (en) Sequential digital image compression
US20100026848A1 (en) Moving picture imaging apparatus with zoom function, image processing and display method and program
JP2004260710A (ja) 画像再生装置及びプログラム
DE102012200417B4 (de) Bilddatenaufzeichnungsvorrichtung
KR101706220B1 (ko) 영상 저장 장치 및 영상 저장 장치의 오버라이팅 방법
JP2006332824A (ja) デジタルカメラ装置およびそのプログラム
US10165223B2 (en) Pre-selectable video file playback system and method, and computer program product
JPH1169298A (ja) 監視画像記録装置
KR100786607B1 (ko) 디지털 영상 저장방법
JP6247062B2 (ja) 画像管理装置及び画像管理方法及びプログラム
JP2003061082A (ja) 監視画像データの記録・再生制御装置
JP5025574B2 (ja) 画像処理装置及びその制御方法
JP7171337B2 (ja) 撮像装置、画像記録方法及びプログラム
JP4610821B2 (ja) 画像データ転送装置、画像データ転送方法及び撮像装置
JP2005079868A (ja) 画像配信装置、画像生成装置、画像保存装置、画像配信プログラム、画像生成プログラム、画像保存プログラムおよび画像取得プログラム
JP2009213095A (ja) 画像ファイル作成装置、画像ファイル作成方法及びプログラム
JP2000261788A (ja) 画像を用いた監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111227

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120309

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120604

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5023784

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees