JP4403364B2 - Information recording control device, information recording control method, recording medium, and program - Google Patents
Information recording control device, information recording control method, recording medium, and program Download PDFInfo
- Publication number
- JP4403364B2 JP4403364B2 JP2003149209A JP2003149209A JP4403364B2 JP 4403364 B2 JP4403364 B2 JP 4403364B2 JP 2003149209 A JP2003149209 A JP 2003149209A JP 2003149209 A JP2003149209 A JP 2003149209A JP 4403364 B2 JP4403364 B2 JP 4403364B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- related information
- information
- imaging
- recording
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、情報記録制御装置および情報記録制御方法、記録媒体、並びにプログラムに関し、特に、撮像した画像や音声を、撮像対象に関連する情報とともに記録させることができるようにした情報記録制御装置および情報記録制御方法、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
近年、画像や音声のデジタルデータを磁気テープ、メモリカード等に記録するデジタルカメラ等の画像記録装置が広く利用されている。このデジタルカメラには、撮像した画像情報に加えて、撮像日時やカメラのパラメータを同時に記録することができるものがある。
【0003】
また、GPS(Global Positioning System)によって撮像場所の位置情報を取得し、その位置情報に基づいて、画像を撮像した撮像対象に関連する関連情報を検索して、その関連情報を、画像に関連付けて記録するカメラ装置も提案されている(例えば、特許文献1)。
【0004】
【特許文献1】
特開平11−72348号公報
【0005】
【発明が解決しようとする課題】
しかしながら、撮像場所の位置情報(撮像位置)に基づいて撮像対象に関連する関連情報を検索した場合、特定の位置に固定されていない撮像対象(例えば、走行中の車等)については関連情報を検索することが困難であるという問題があった。
【0006】
また、同じ位置に複数の撮像対象がある場合に、GPSによる撮像位置の位置情報のみでは、撮像対象を特定することが困難であるという問題があった。
【0007】
本発明は、このような状況に鑑みてなされたものであり、撮像対象の特定を精度良く行い、その撮像対象について、正しい関連情報をその画像とともに記録することができるようにするものである。
【0008】
【課題を解決するための手段】
本発明の情報記録制御装置は、撮像対象の画像を取得する画像取得手段と、撮像対象の撮像位置を検出するとともに、画像取得手段により取得された画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、撮像対象を識別する識別情報を検出する検出手段と、検出手段により検出された撮像位置および識別情報並びに撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得手段と、画像取得手段で取得された画像を、関連情報取得手段により取得された関連情報とともに記録部に記録させる記録制御手段とを備えることを特徴とする。
【0009】
関連情報取得手段により複数の関連情報が取得された場合に、その複数の関連情報から、所望の関連情報を選択する選択手段をさらに備え、記録制御手段は、選択手段により選択された関連情報を記録させるようにすることができる。
【0010】
関連情報取得手段は、関連情報を記憶する関連情報記憶部とネットワークを介して通信を行うことにより、関連情報を取得するようにすることができる。
【0011】
関連情報取得手段は、撮像対象に付けられたRF(Radio Frequency)タグから検出される撮像対象の情報を表すRFタグ情報にも基づいて、関連情報を取得するようにすることができる。
【0012】
本発明の情報記録制御方法は、撮像対象の画像を取得する画像取得ステップと、撮像対象の撮像位置を検出するとともに、画像取得ステップの処理により取得された画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、撮像対象を識別する識別情報を検出する検出ステップと、検出ステップの処理により検出された撮像位置および識別情報並びに撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、画像取得ステップの処理で取得された画像を、関連情報取得ステップの処理により取得された関連情報とともに記録部に記録させる記録制御ステップとを含むことを特徴とする。
【0013】
本発明のプログラムは、撮像対象の画像を取得する画像取得ステップと、撮像対象の撮像位置を検出するとともに、画像取得ステップの処理により取得された画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、撮像対象を識別する識別情報を検出する検出ステップと、検出ステップの処理により検出された撮像位置および識別情報並びに撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、画像取得ステップの処理で取得された画像を、関連情報取得ステップの処理により取得された関連情報とともに記録部に記録させる記録制御ステップとを含む処理をコンピュータに行わせることを特徴とする。
【0014】
本発明のプログラムが記録されている記録媒体は、撮像対象の画像を取得する画像取得ステップと、撮像対象の撮像位置を検出するとともに、画像取得ステップの処理により取得された画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、撮像対象を識別する識別情報を検出する検出ステップと、検出ステップの処理により検出された撮像位置および識別情報並びに撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、画像取得ステップの処理で取得された画像を、関連情報取得ステップの処理により取得された関連情報とともに記録部に記録させる記録制御ステップとを含む処理をコンピュータに行わせるプログラムが記録されていることを特徴とする。
【0015】
本発明においては、撮像対象の画像が取得され、撮像対象の撮像位置が検出されるとともに、取得された画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、撮像対象を識別する識別情報が検出される。検出された撮像位置および識別情報並びに撮像対象の画像に基づいて、その撮像対象に関連する関連情報が取得され、画像が、その関連情報とともに記録部に記録される。
【0016】
【発明の実施の形態】
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【0017】
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
【0018】
請求項1に記載の情報記録制御装置(例えば、図2のビデオカメラ1)は、撮像対象の画像を取得する画像取得手段(例えば、図2の画像入力部31)と、前記撮像対象の撮像位置を検出するとともに、前記画像取得手段により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出手段(例えば、図2の検出部33)と、前記検出手段により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得手段(例えば、図2の検索部34)と、前記画像取得手段で取得された前記画像を、前記関連情報取得手段により取得された前記関連情報とともに前記記録部に記録させる記録制御手段(例えば、図2の記録制御部35)とを備えることを特徴とする。
【0019】
請求項2に記載の情報記録制御装置は、前記関連情報取得手段により複数の関連情報が取得された場合に、その複数の関連情報から、所望の関連情報を選択する選択手段(例えば、図2の操作部37)をさらに備え、前記記録制御手段は、前記選択手段により選択された前記関連情報を記録させることを特徴とする。
【0020】
請求項5に記載の情報記録制御方法は、撮像対象の画像を取得する画像取得ステップ(例えば、図3のステップS1)と、前記撮像対象の撮像位置を検出するとともに、前記画像取得ステップの処理により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出ステップ(例えば、図3のステップS5)と、前記検出ステップの処理により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップ(例えば、図3のステップS7)と、前記画像取得ステップの処理で取得された前記画像を、前記関連情報取得ステップの処理により取得された前記関連情報とともに前記記録部に記録させる記録制御ステップ(例えば、図3のステップS10)とを含むことを特徴とする。
【0021】
請求項6に記載のプログラムおよび請求項7に記載の記録媒体のプログラムの各ステップの具体例も、請求項5に記載の情報記録制御方法の各ステップの発明の実施の形態における具体例と同様である。
【0022】
図1は、本発明を適用したビデオカメラ1の処理の概要を示す図である。
【0023】
ビデオカメラ1は、撮像対象の画像11を撮像し、その際、その撮像対象を撮像した撮像場所を表わす位置情報(撮像位置)を検出する。ビデオカメラ1は、撮像対象の画像11と撮像位置に基づいて、その撮像対象に関連する関連情報12を検索し、取得する。そして、ビデオカメラ1は、画像11を関連情報12とともに記録する。
【0024】
図2は、ビデオカメラ1の構成例を示す図である。
【0025】
ビデオカメラ1は、画像入力部31、音声入力部32、検出部33、検索部34、記録制御部35、記録部36、および操作部37から構成されている。また、ビデオカメラ1は、情報記憶装置51とインターネット等のネットワークを介して接続可能となっており、情報記憶装置51との間で、有線または無線により通信を行うことができるようになっている。
【0026】
画像入力部31は、撮像対象を撮像して、その撮像対象の画像(信号)のデジタルデータ(画像データ)を取得し、検索部34と記録制御部35に供給する。画像入力部31は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージャで構成される。
【0027】
音声入力部32は、音声(音)を集音することにより、音声(信号)のデジタルデータ(音声データ)を取得し、記録制御部35に供給する。音声入力部32は、例えば、マイクロホンで構成される。
【0028】
検出部33は、画像入力部31で画像を撮像した日時や場所を検出する。即ち、検出部33は、不図示の計時部で計時された撮像日時を検出するとともに、GPSにより画像の撮像場所を表わす、例えば、緯度および経度などの位置情報(撮像位置)を検出する。検出部33は、検出した撮像日時や位置情報を検索部34に供給する。
【0029】
検索部34は、画像入力部31から供給される画像データから、撮像対象を特定するための、画像データの代表となる画像(以下、適宜、代表画像と称する)(のデータ)を抽出(または生成)する。そして、検索部34は、ネットワークを介して、情報記憶装置51にアクセスし、検出部33から供給された位置情報および画像データから抽出した代表画像に基づいて、情報記憶装置51が記憶している登録データの中から、撮像対象に関連する関連情報を検索することにより取得し、記録制御部35に供給する。
【0030】
また、検索部34は、検出部33から供給される撮像日時を記録制御部35に供給する。
【0031】
記録制御部35は、画像入力部31から供給される画像データと音声入力部32から供給される音声データをエンコードし、そのエンコード後の画像データと音声データを、検索部34から供給される関連情報および撮像日時とともに記録部36に記録する制御を行う。なお、画像データおよび音声データと、関連情報とは、同一ファイルに記録することもできるし、別のファイルに記録することもできるが、ここでは、別のファイルに記録するものとする。記録部36としては、例えば、デジタルデータを記録する磁気テープ、メモリカード等を用いることができる。
【0032】
操作部37は、ユーザによって操作され、そのユーザの操作に応じて、例えば、撮像開始または撮像終了を指示する信号を、画像入力部31と音声入力部32に供給したり、画像信号や音声信号の記録開始または記録終了を指示する信号を、記録制御部35に供給する。また、検索部34で複数の関連情報が取得された場合に、ユーザが、操作部37を操作することにより、その複数の関連情報の中から、所望の関連情報の選択が指示されると、操作部37は、その選択情報を記録制御部35に供給する。
【0033】
情報記憶装置51は、各種の撮像対象を識別する識別情報をその撮像対象に関連する関連情報(例えば、撮像対象の名称や撮像対象に関する詳細説明を記述したテキスト)とともに、登録データとして記憶している。撮像対象の識別情報としては、例えば、撮像対象が存在する位置情報と撮像対象を1以上の方向から撮像して得られる画像の基準パターンがある。
【0034】
図3は、図2のビデオカメラ1の撮像記録処理を説明するフローチャートである。この撮像記録処理は、ユーザが操作部37を操作することにより撮像開始を指示したとき、開始される。
【0035】
ステップS1において、画像入力部31と音声入力部32は、撮像を開始する。即ち、画像入力部31は、撮像対象の画像データを取得して、その画像データを検索部34と記録制御部35に供給し、音声入力部32は、撮像対象の音声データを取得して、その音声データを記録制御部35に供給する。
【0036】
ステップS1の処理後は、ステップS2に進み、記録制御部35は、画像入力部31から供給される画像データと音声入力部32から供給される音声データをエンコードし、そのエンコード後の画像データと音声データを記録部36に記録し、ステップS3に進む。
【0037】
ステップS3において、操作部37は、ユーザにより撮像停止が指示されたかどうかを判定し、撮像停止が指示されていないと判定した場合、ステップS2に戻り、上述した処理を繰り返す。
【0038】
一方、ステップS3において、操作部37は、ユーザにより撮像停止が指示されたと判定した場合、ステップS4に進み、画像入力部31と音声入力部32に撮像停止を指示する信号を供給し、ステップS5に進む。操作部37から画像入力部31と音声入力部32に、撮像停止を指示する信号が供給されると、画像入力部31は、撮像対象の画像データの取得を停止し、音声入力部32は、撮像対象の音声データの取得を停止する。
【0039】
ステップS5において、検出部33は、不図示の計時部で計時された撮像日時とGPSにより画像の撮像場所を表わす位置情報(撮像位置)を検出して、検索部34に供給し、ステップS6に進む。ステップS6において、検索部34は、画像入力部31から供給された画像データ(画像入力部31から供給され、記録部36に記録された画像データ)から、撮像対象を特定するための代表画像として、例えば、1フレームの画像(のデータ)を抽出する。
【0040】
ステップS6の処理後は、ステップS7に進み、検索部34は、ステップS5で検出部33から供給された位置情報と、ステップS6で抽出された代表画像に基づいて、代表画像における撮像対象の関連情報を取得する。
【0041】
即ち、検索部34は、情報記憶装置51にアクセスし、情報記憶装置51に記憶されている登録データの中から、その登録データにおける識別情報としての位置情報と画像の基準パターンが、撮像対象の位置情報と代表画像の画像パターンにそれぞれ合致するものを検索する。
【0042】
例えば、代表画像の撮像対象がポスタである場合、検索部34は、ポスタの撮像場所を表わす位置情報(撮像位置)に基づいて、情報記憶装置51に記憶されている登録データの中から、ポスタの撮像位置に近い位置の位置情報を識別情報として有する登録データを検索し、さらに、検索された登録データを対象に、その登録データの識別情報として記憶されている画像の基準パターンと、代表画像の画像パターンのマッチングを行い、代表画像の画像パターンに最も類似するものを検索する。
【0043】
なお、撮像位置に近い位置の位置情報を識別情報として有する登録データの中に、その登録データの識別情報として記憶されている画像の基準パターンが、代表画像の画像パターンに類似するものがない場合は、全ての登録データを対象にマッチングを行い、代表画像の画像パターンに最も類似するものを検索する。
【0044】
上述したステップS7のように、位置情報と代表画像の両方に基づいて、登録データを検索することにより、位置情報のみでは特定することが困難な撮像対象を代表画像の画像パターンにより正確に特定することができる。
【0045】
さらに、検索部34は、取得した関連情報と、検出部33から供給された撮像日時を、記録制御部35に供給し、ステップS7からステップS8に進む。
【0046】
ステップS8において、記録制御部35は、検索部34から供給された関連情報を選択する。即ち、例えば、記録制御部35は、検索部34から複数の関連情報(複数の対象それぞれの関連情報)が供給された場合、その複数の関連情報を、不図示の表示部に表示する。ユーザは、表示部に表示された関連情報の中から、所望の関連情報を選択するように操作部37を操作し、操作部37は、その選択情報を記録制御部35に供給する。なお、検索部34から1つのまたは複数の関連情報が供給された場合、ステップS8では、その関連情報をユーザによる操作部37の操作に応じて編集することが可能である。また、ステップS8の処理は、スキップすることが可能である。
【0047】
なお、ステップS8では、検索部34から複数の関連情報が供給された場合、その複数の関連情報の中から、代表画像または位置情報の一致度(マッチングの度合い)の高い順に所定数(1以上)の関連情報を選択するようにしてもよい。
【0048】
ステップS8の処理後は、ステップS9に進み、操作部37は、ユーザにより、関連情報の記録開始が指示されたかどうかを判定し、記録開始が指示されていないと判定した場合、記録開始が指示されるまで待機する。
【0049】
一方、ステップS9において、操作部37は、ユーザにより記録開始が指示されたと判定した場合、記録開始を指示する信号を記録制御部35に供給し、ステップS10に進む。ステップS10において、記録制御部35は、直前のステップS2で記録した画像データおよび音声データに対応付けて、ステップS8で選択されたまたはステップS7で取得した関連情報および撮像日時を、記録部36に記録して処理を終了する。
【0050】
なお、上述した処理では、位置情報と代表画像に基づいて関連情報が検索されたが、検出部33が、撮像対象に付けられたRFタグから撮像対象の情報を表わすRFタグ情報を検出し、検索部34が、位置情報と代表画像の他に、そのRFタグ情報にも基づいて、撮像対象に関連する関連情報を検索することも可能である。この場合、情報記憶装置51の識別情報の中に、RFタグ情報が表す撮像対象も記憶されている。
【0051】
例えば、美術館において絵画が撮像された場合、検出部33は、絵画に付けられたRFタグから、撮像対象が絵画であることを表わすRFタグ情報を検出し、検索部34が、美術館の位置を表わす位置情報と代表画像の他に、そのRFタグ情報にも基づいて、撮像対象である絵画に関連する関連情報を検索する。これにより、位置情報と代表画像のマッチングだけでは困難な撮像対象を正確に特定することができる。
【0052】
また、検出部33では、撮像対象の画像と、過去に撮像された、記録部36に記録されている画像とのマッチングを行い、撮像対象の画像と一致または類似する、過去に撮像された画像に対応付けられている関連情報から、撮像対象を識別する情報を検出するようにすることができる。この場合、検索部34では、検出部33で検出された撮像対象を識別する情報をも用いて、その撮像対象の関連情報を検索することができる。
【0053】
図4は、ビデオカメラ1の処理の概要を説明する図である。
【0054】
ビデオカメラ1は、撮像対象の画像11を撮像し、その際、その撮像対象を撮像した撮像場所を表わす位置情報(撮像位置)として緯度と経度を検出する。ビデオカメラ1は、撮像対象の画像11と撮像位置をキーにして、情報記憶装置51に記憶されている登録データの中から、その撮像対象に関連する関連情報12(例えば、撮像地点の観光スポットの詳細テキスト等の撮像対象に関する詳細説明を記述したテキスト)を検索する。
【0055】
このように、ビデオカメラ1は、位置情報だけでなく、撮像対象の画像、さらには、必要に応じてRFタグ情報、その他の撮像対象を識別する情報に基づいて、登録データを検索することにより、位置情報のみでは特定できない撮像対象、例えば、走行中の車などを特定し、その撮像対象に関連する関連情報を取得することができる。
【0056】
また、ビデオカメラ1は、情報記憶装置51から取得した関連情報12を、撮像された画像11とともに記録する。これにより、記録された画像から所望の画像を検索する場合、タイトルやコメントを予め入力することなく、関連情報から、簡単に画像を検索することができる。
【0057】
即ち、記録された画像から所望の画像を検索する場合、サムネイル表示などによって画像一覧を表示し、ユーザがその画像一覧から所望の画像を選択する方法が考えられるが、この場合、画像一覧の画像が小さいので、所望の画像かどうかを判断することが困難なことがある。
【0058】
そこで、ユーザが手入力によって画像にタイトルやコメントを付加し、そのタイトルやコメント文を検索する方法がある。この場合、所望の画像を検索しやすいが、ユーザがタイトルやコメント文を画像ごとにタイプする必要があり面倒である。
【0059】
ビデオカメラ1では、ユーザがタイトルやコメントをタイプせずに、関連情報から容易に画像を検索することができる。
【0060】
さらに、画像11とともに関連情報12が記録されるので、その関連情報を用いることにより、記録された画像の保存や利用を簡便かつ利便に行うことができる。
【0061】
なお、上述した説明では、位置情報はGPSを用いて検出されたが、DGPS(Differential Global Positioning System)等その他の機能を用いて検出されてもよい。
【0062】
また、上述した説明では、ビデオカメラ1の検索部34が、関連情報を検索したが、情報記憶装置51に関連情報を検索させ、その検索結果を取得するようにすることもできる。
【0063】
さらに、検索部36で画像マッチングに用いる画像データは、間引いた画像のデータや特徴量でもよい。間引いた画像を画像マッチングに用いた場合、検索部36における画像マッチングの処理量を少なくすることができる。
【0064】
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。この場合、上述した処理は、図5に示されるようなパーソナルコンピュータ600により実行される。
【0065】
図5において、CPU(Central Processing Unit)601は、ROM(Read Only Memory)602に記憶されているプログラム、または、記憶部608からRAM(Random Access Memory)603にロードされたプログラムに従って各種の処理を実行する。RAM603にはまた、CPU601が各種の処理を実行する上において必要なデータなどが適宜記憶される。
【0066】
CPU601、ROM602、およびRAM603は、内部バス604を介して相互に接続されている。この内部バス604にはまた、入出力インターフェース605も接続されている。
【0067】
入出力インターフェース605には、キーボード、マウスなどよりなる入力部606、CRT,LCD(Liquid Crystal Display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部607、ハードディスクなどより構成される記憶部608、モデム、ターミナルアダプタなどより構成される通信部609が接続されている。通信部609は、電話回線やCATVを含む各種のネットワークを介しての通信処理を行なう。
【0068】
入出力インターフェース605にはまた、必要に応じてドライブ610が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどによりなるリムーバブルメディア621が適宜装着され、それから読み出されたコンピュータプログラムが、必要に応じて記憶部608にインストールされる。
【0069】
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば、汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
【0070】
この記録媒体は、図5に示されるように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されているリムーバブルメディア621よりなるパッケージメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM602や記憶部608が含まれるハードディスクなどで構成される。
【0071】
なお、本明細書において、フローチャートに記載された処理は、ステップとして記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0072】
【発明の効果】
以上の如く、本発明によれば、撮像した画像に関連付けて情報を記録することができる。特に、撮像対象が特定の位置に固定されていない場合においても、その撮像対象について正しい関連情報を記録することができる。
【図面の簡単な説明】
【図1】本発明を適用したビデオカメラの処理の概要を示す図である。
【図2】図1のビデオカメラの構成例を示すブロック図である。
【図3】図2のビデオカメラにおける撮像記録処理を説明するフローチャートである。
【図4】ビデオカメラの処理の概要を示す図である。
【図5】パーソナルコンピュータの構成例を示すブロック図である。
【符号の説明】
1 ビデオカメラ, 11 画像, 12 関連情報, 31 画像入力部,
32 音声入力部, 33 検出部, 34 検索部, 35 記録制御部,
36 記録部, 37 操作部, 51 情報記憶装置[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an information recording control device, an information recording control method, a recording medium, and a program, and in particular, an information recording control device capable of recording a captured image and sound together with information related to an imaging target, and The present invention relates to an information recording control method, a recording medium, and a program.
[0002]
[Prior art]
In recent years, an image recording apparatus such as a digital camera that records digital data of images and sounds on a magnetic tape, a memory card or the like has been widely used. In some digital cameras, in addition to captured image information, an imaging date and time and camera parameters can be recorded simultaneously.
[0003]
In addition, the position information of the imaging location is acquired by GPS (Global Positioning System), and based on the position information, related information related to the imaging target that captured the image is searched, and the related information is associated with the image. A camera device for recording has also been proposed (for example, Patent Document 1).
[0004]
[Patent Document 1]
Japanese Patent Laid-Open No. 11-72348
[Problems to be solved by the invention]
However, when related information related to the imaging target is searched based on the positional information (imaging position) of the imaging location, the related information is not obtained for the imaging target (for example, a running car) that is not fixed at a specific position. There was a problem that it was difficult to search.
[0006]
Further, when there are a plurality of imaging targets at the same position, there is a problem that it is difficult to specify the imaging target only by the position information of the imaging position by GPS.
[0007]
The present invention has been made in view of such a situation, and specifies an imaging target with high accuracy so that correct relevant information can be recorded together with the image for the imaging target.
[0008]
[Means for Solving the Problems]
An information recording control apparatus according to the present invention includes an image acquisition unit that acquires an image to be imaged, an imaging position of the image acquisition target, and matches or is similar to the image acquired by the image acquisition unit before the image. Detection means for detecting identification information for identifying the imaging target from related information related to the imaging target recorded in the recording unit corresponding to the acquired image, imaging position and identification information detected by the detection means, and Based on the image of the imaging target, the related information acquisition unit that acquires the related information related to the imaging target and the image acquired by the image acquisition unit are recorded in the recording unit together with the related information acquired by the related information acquisition unit. And a recording control means.
[0009]
In the case where a plurality of related information is acquired by the related information acquisition means, the recording control means further includes a selection means for selecting desired related information from the plurality of related information, and the recording control means displays the related information selected by the selection means. You can make it record.
[0010]
The related information acquisition unit can acquire the related information by performing communication via a network with a related information storage unit that stores the related information .
[0011]
Related information obtaining means, based also on the RF tag information representing the information of the imaging object detected from RF (Radio Frequency) tag attached to the imaging target can be configured to obtain the relevant information.
[0012]
An information recording control method according to the present invention includes an image acquisition step for acquiring an image to be imaged, an image pickup position of the image pickup object, and an image that matches or is similar to the image acquired by the process of the image acquisition step. A detection step for detecting identification information for identifying the imaging target from related information related to the imaging target recorded in the recording unit corresponding to the previously acquired image, and an imaging position detected by the processing of the detection step Based on the identification information and the image of the imaging target, the related information acquisition step for acquiring the related information related to the imaging target and the image acquired by the processing of the image acquisition step are acquired by the processing of the related information acquisition step. And a recording control step for recording in the recording unit together with the related information.
[0013]
The program of the present invention acquires an image acquisition step for acquiring an image to be imaged, and detects an imaging position of the image capture target, and is acquired before the image that matches or is similar to the image acquired by the processing of the image acquisition step. A detection step for detecting identification information for identifying the imaging target from related information related to the imaging target recorded in the recording unit corresponding to the recorded image, and an imaging position and identification information detected by the processing of the detection step In addition, based on the image of the imaging target, a related information acquisition step of acquiring related information related to the imaging target, and an image acquired by the processing of the image acquisition step, the related information acquired by the processing of the related information acquisition step In addition , the computer is caused to perform processing including a recording control step of recording in a recording unit .
[0014]
The recording medium in which the program of the present invention is recorded is an image acquisition step for acquiring an image to be imaged, and an image acquisition position of the image acquisition target, and coincides with or is similar to the image acquired by the process of the image acquisition step. The detection step for detecting the identification information for identifying the imaging target from the related information related to the imaging target recorded in the recording unit corresponding to the image acquired before that image, and detection by the processing of the detection step Based on the captured imaging position and identification information and the image of the imaging target, the related information acquisition step of acquiring the related information related to the imaging target, and the image acquired in the processing of the image acquisition step, the related information acquisition step programming to perform the processing together with the related information acquired by the processing and a recording control step of recording the recording unit to the computer Beam is characterized in that it is recorded.
[0015]
In the present invention, an image to be imaged is acquired, the imaging position of the imaged object is detected , and the recording unit corresponds to an image acquired before the image that matches or is similar to the acquired image. Identification information for identifying the imaging target is detected from the related information related to the recorded imaging target. Based on the detected imaging position and identification information and the image of the imaging target, related information related to the imaging target is acquired, and the image is recorded in the recording unit together with the related information.
[0016]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below. Correspondences between constituent elements described in the claims and specific examples in the embodiments of the present invention are exemplified as follows. This description is to confirm that specific examples supporting the invention described in the claims are described in the embodiments of the invention. Therefore, even if there are specific examples that are described in the embodiment of the invention but are not described here as corresponding to the configuration requirements, the specific examples are not included in the configuration. It does not mean that it does not correspond to a requirement. On the contrary, even if a specific example is described here as corresponding to a configuration requirement, this means that the specific example does not correspond to a configuration requirement other than the configuration requirement. not.
[0017]
Further, this description does not mean that all the inventions corresponding to the specific examples described in the embodiments of the invention are described in the claims. In other words, this description is an invention corresponding to the specific example described in the embodiment of the invention, and the existence of an invention not described in the claims of this application, that is, in the future, a divisional application will be made. Nor does it deny the existence of an invention added by amendment.
[0018]
The information recording control device according to claim 1 (for example, the video camera 1 in FIG. 2) includes an image acquisition unit (for example, the
[0019]
According to a second aspect of the present invention, there is provided the information recording control apparatus, wherein when a plurality of pieces of related information are acquired by the related information acquisition unit, a selection unit that selects desired related information from the plurality of pieces of related information (for example, FIG. 2). The operation section 37) is further provided, wherein the recording control means records the related information selected by the selection means.
[0020]
The information recording control method according to claim 5 includes an image acquisition step (for example, step S1 in FIG. 3) for acquiring an image to be imaged, and an image acquisition position of the imaged object, and processing of the image acquisition step. Identification information for identifying the imaging target from the related information related to the imaging target recorded in the recording unit corresponding to the image acquired before the image that matches or is similar to the image acquired by Based on the detection step (for example, step S5 in FIG. 3) to detect, the imaging position and the identification information detected by the processing of the detection step, and the image of the imaging target, related information related to the imaging target is obtained. Related information acquiring step of acquiring (for example, step S 7 of FIG. 3) and, the image obtained by the processing of the image acquisition step, said associated information Together with the related information acquired by the processing of the resulting step recording control step of recording in the recording unit (e.g., step S1 0 of FIG. 3), characterized in that it comprises a.
[0021]
The specific example of each step of the program according to claim 6 and the program of the recording medium according to claim 7 is the same as the specific example in the embodiment of the invention of each step of the information recording control method according to claim 5. It is.
[0022]
FIG. 1 is a diagram showing an outline of processing of a video camera 1 to which the present invention is applied.
[0023]
The video camera 1 captures an
[0024]
FIG. 2 is a diagram illustrating a configuration example of the video camera 1.
[0025]
The video camera 1 includes an
[0026]
The
[0027]
The
[0028]
The
[0029]
The
[0030]
Further, the
[0031]
The
[0032]
The
[0033]
The
[0034]
FIG. 3 is a flowchart for explaining the imaging and recording process of the video camera 1 of FIG. This imaging recording process is started when the user gives an instruction to start imaging by operating the
[0035]
In step S1, the
[0036]
After the process of step S1, the process proceeds to step S2, and the
[0037]
In step S3, the
[0038]
On the other hand, if it is determined in step S3 that the user has instructed to stop imaging, the
[0039]
In step S5, the
[0040]
After the processing in step S6, the process proceeds to step S7, and the
[0041]
That is, the
[0042]
For example, when the imaging target of the representative image is a poster, the
[0043]
In the case of registration data having position information close to the imaging position as identification information, the reference pattern of the image stored as the identification information of the registration data is not similar to the image pattern of the representative image Performs matching on all registered data and searches for the most similar image pattern of the representative image.
[0044]
As in step S7 described above, by searching the registered data based on both the position information and the representative image, the imaging target that is difficult to be specified only by the position information is accurately specified by the image pattern of the representative image. be able to.
[0045]
Further, the
[0046]
In step S <b> 8, the
[0047]
In step S8, when a plurality of pieces of related information are supplied from the
[0048]
After the process of step S8, the process proceeds to step S9, where the
[0049]
On the other hand, if it is determined in step S9 that the user has instructed recording start, the
[0050]
In the above-described processing, related information is searched based on the position information and the representative image. However, the
[0051]
For example, when a picture is captured in a museum, the
[0052]
In addition, the
[0053]
FIG. 4 is a diagram for explaining an outline of processing of the video camera 1.
[0054]
The video camera 1 captures an
[0055]
As described above, the video camera 1 searches the registration data based not only on the position information but also on the image to be imaged, and further on the basis of the RF tag information and other information for identifying the imaged object as necessary. It is possible to specify an imaging target that cannot be specified only by position information, for example, a running car, and obtain related information related to the imaging target.
[0056]
In addition, the video camera 1 records the
[0057]
That is, when searching for a desired image from recorded images, a method of displaying an image list by thumbnail display or the like and allowing the user to select a desired image from the image list is conceivable. Since it is small, it may be difficult to determine whether it is a desired image.
[0058]
Therefore, there is a method in which a user manually adds a title or comment to an image and searches for the title or comment text. In this case, it is easy to search for a desired image, but it is troublesome because the user needs to type a title and a comment for each image.
[0059]
In the video camera 1, the user can easily search for an image from related information without typing a title or a comment.
[0060]
Further, since the
[0061]
In the above description, the position information is detected using GPS, but may be detected using other functions such as DGPS (Differential Global Positioning System).
[0062]
In the above description, the
[0063]
Further, the image data used for image matching in the
[0064]
The series of processes described above can be executed by hardware or can be executed by software. In this case, the processing described above is executed by a personal computer 600 as shown in FIG.
[0065]
In FIG. 5, a CPU (Central Processing Unit) 601 performs various processes according to a program stored in a ROM (Read Only Memory) 602 or a program loaded from a
[0066]
The
[0067]
The input /
[0068]
A drive 610 is connected to the input /
[0069]
When a series of processing is executed by software, a program constituting the software executes various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed in a general-purpose personal computer from a network or a recording medium.
[0070]
As shown in FIG. 5, this recording medium is not only configured by a package medium including a
[0071]
In the present specification, the processes described in the flowcharts are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes performed in time series according to the order described as steps. It also includes processing.
[0072]
【The invention's effect】
As described above, according to the present invention, information can be recorded in association with a captured image. In particular, even when the imaging target is not fixed at a specific position, correct relevant information can be recorded for the imaging target.
[Brief description of the drawings]
FIG. 1 is a diagram showing an outline of processing of a video camera to which the present invention is applied.
FIG. 2 is a block diagram illustrating a configuration example of the video camera in FIG. 1;
FIG. 3 is a flowchart for explaining imaging recording processing in the video camera of FIG. 2;
FIG. 4 is a diagram showing an outline of processing of a video camera.
FIG. 5 is a block diagram illustrating a configuration example of a personal computer.
[Explanation of symbols]
1 video camera, 11 images, 12 related information, 31 image input section,
32 voice input unit, 33 detection unit, 34 search unit, 35 recording control unit,
36 recording unit, 37 operation unit, 51 information storage device
Claims (7)
前記撮像対象の撮像位置を検出するとともに、前記画像取得手段により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出手段と、
前記検出手段により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得手段と、
前記画像取得手段で取得された前記画像を、前記関連情報取得手段により取得された前記関連情報とともに前記記録部に記録させる記録制御手段と
を備えることを特徴とする情報記録制御装置。Image acquisition means for acquiring an image to be imaged;
In addition to detecting the imaging position of the imaging target, the imaging target recorded in the recording unit corresponding to an image acquired before the image that matches or is similar to the image acquired by the image acquisition unit Detecting means for detecting identification information for identifying the imaging target from related information ;
Related information acquisition means for acquiring related information related to the imaging target based on the imaging position and the identification information detected by the detection means and the image of the imaging target;
An information recording control apparatus comprising: a recording control unit that causes the recording unit to record the image acquired by the image acquisition unit together with the related information acquired by the related information acquisition unit.
前記記録制御手段は、前記選択手段により選択された前記関連情報を記録させる
ことを特徴とする請求項1に記載の情報記録装置。In the case where a plurality of related information is acquired by the related information acquisition means, further comprising a selection means for selecting desired related information from the plurality of related information,
The information recording apparatus according to claim 1, wherein the recording control unit records the related information selected by the selection unit.
ことを特徴とする請求項1に記載の情報記録制御装置。The information recording control apparatus according to claim 1, wherein the related information acquisition unit acquires the related information by performing communication via a network with a related information storage unit that stores the related information .
ことを特徴とする請求項1に記載の情報記録制御装置。The related information obtaining means, based also on the RF tag information representing information of the imaging object detected from RF (Radio Frequency) tag attached to the imaging target, and acquires the related information The information recording control apparatus according to claim 1.
前記撮像対象の撮像位置を検出するとともに、前記画像取得ステップの処理により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出ステップと、
前記検出ステップの処理により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、
前記画像取得ステップの処理で取得された前記画像を、前記関連情報取得ステップの処理により取得された前記関連情報とともに前記記録部に記録させる記録制御ステップと
を含むことを特徴とする情報記録制御方法。An image acquisition step of acquiring an image to be imaged;
The imaging recorded in the recording unit corresponding to the image acquired before the image that detects the imaging position of the imaging target and matches or is similar to the image acquired by the processing of the image acquisition step A detection step of detecting identification information for identifying the imaging target from related information related to the target ;
A related information acquisition step of acquiring related information related to the imaging target based on the imaging position and the identification information detected by the processing of the detection step and the image of the imaging target;
A recording control step of causing the recording unit to record the image acquired in the processing of the image acquisition step together with the related information acquired in the processing of the related information acquisition step. .
撮像対象の画像を取得する画像取得ステップと、
前記撮像対象の撮像位置を検出するとともに、前記画像取得ステップの処理により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出ステップと、
前記検出ステップの処理により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、
前記画像取得ステップの処理で取得された前記画像を、前記関連情報取得ステップの処理により取得された前記関連情報とともに前記記録部に記録させる記録制御ステップと
を含む処理をコンピュータに行わせることを特徴とするプログラム。In a program for causing a computer to perform predetermined information recording control processing,
An image acquisition step of acquiring an image to be imaged;
The imaging recorded in the recording unit corresponding to the image acquired before the image that detects the imaging position of the imaging target and matches or is similar to the image acquired by the processing of the image acquisition step A detection step of detecting identification information for identifying the imaging target from related information related to the target ;
A related information acquisition step of acquiring related information related to the imaging target based on the imaging position and the identification information detected by the processing of the detection step and the image of the imaging target;
Characterized in that to perform processing including a recording control step of recording the image obtained by the processing of the image acquisition step, in the recording portion together with the related information acquired by the processing of the related information acquisition step to the computer Program.
撮像対象の画像を取得する画像取得ステップと、
前記撮像対象の撮像位置を検出するとともに、前記画像取得ステップの処理により取得された前記画像と一致または類似する、その画像より前に取得された画像に対応して記録部に記録されている撮像対象に関連する関連情報から、前記撮像対象を識別する識別情報を検出する検出ステップと、
前記検出ステップの処理により検出された前記撮像位置および前記識別情報並びに前記撮像対象の画像に基づいて、その撮像対象に関連する関連情報を取得する関連情報取得ステップと、
前記画像取得ステップの処理で取得された前記画像を、前記関連情報取得ステップの処理により取得された前記関連情報とともに前記記録部に記録させる記録制御ステップと
を含む処理をコンピュータに行わせるプログラムが記録されている
ことを特徴とする記録媒体。In a recording medium on which a program for causing a computer to perform predetermined information recording control processing is recorded,
An image acquisition step of acquiring an image to be imaged;
The imaging recorded in the recording unit corresponding to the image acquired before the image that detects the imaging position of the imaging target and matches or is similar to the image acquired by the processing of the image acquisition step A detection step of detecting identification information for identifying the imaging target from related information related to the target ;
A related information acquisition step of acquiring related information related to the imaging target based on the imaging position and the identification information detected by the processing of the detection step and the image of the imaging target;
A program that causes a computer to perform a process including a recording control step of recording the image acquired in the process of the image acquisition step together with the related information acquired in the process of the related information acquisition step in the recording unit is recorded. A recording medium characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003149209A JP4403364B2 (en) | 2003-05-27 | 2003-05-27 | Information recording control device, information recording control method, recording medium, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003149209A JP4403364B2 (en) | 2003-05-27 | 2003-05-27 | Information recording control device, information recording control method, recording medium, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004356718A JP2004356718A (en) | 2004-12-16 |
JP4403364B2 true JP4403364B2 (en) | 2010-01-27 |
Family
ID=34045386
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003149209A Expired - Fee Related JP4403364B2 (en) | 2003-05-27 | 2003-05-27 | Information recording control device, information recording control method, recording medium, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4403364B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104994256A (en) * | 2015-06-16 | 2015-10-21 | 成都西可科技有限公司 | Motion camera supporting real-time live video |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4831079B2 (en) | 2008-01-17 | 2011-12-07 | ソニー株式会社 | Program, image data processing method, and image data processing apparatus |
JP4508257B2 (en) | 2008-03-19 | 2010-07-21 | ソニー株式会社 | Composition determination apparatus, composition determination method, and program |
TWI558199B (en) | 2008-08-08 | 2016-11-11 | 尼康股份有限公司 | Carry information machine and information acquisition system |
CN104980635A (en) * | 2015-06-16 | 2015-10-14 | 成都西可科技有限公司 | Motion camera for recording and displaying 3D shooting track |
CN114851194A (en) * | 2022-04-26 | 2022-08-05 | 北京市商汤科技开发有限公司 | Object picking method and device of cleaning robot and related equipment and storage medium thereof |
-
2003
- 2003-05-27 JP JP2003149209A patent/JP4403364B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104994256A (en) * | 2015-06-16 | 2015-10-21 | 成都西可科技有限公司 | Motion camera supporting real-time live video |
Also Published As
Publication number | Publication date |
---|---|
JP2004356718A (en) | 2004-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4569471B2 (en) | Electronic image storage method, electronic image storage device, and electronic image storage system | |
KR101531783B1 (en) | Video summary including a particular person | |
US8264570B2 (en) | Location name registration apparatus and location name registration method | |
TWI554096B (en) | Video summary including a feature of interest | |
JP4920043B2 (en) | Map classification method | |
JP4379493B2 (en) | Imaging apparatus, information processing apparatus, information processing method, and computer program | |
US20070228159A1 (en) | Inquiry system, imaging device, inquiry device, information processing method, and program thereof | |
JP4866396B2 (en) | Tag information adding device, tag information adding method, and computer program | |
US7512335B2 (en) | Image capturing apparatus, an image capturing method, and a machine readable medium storing thereon a computer program for capturing images | |
JP5803723B2 (en) | Structure inspection support method, structure inspection support program, and structure inspection support device | |
JP4403364B2 (en) | Information recording control device, information recording control method, recording medium, and program | |
JP4352332B2 (en) | Image scoring method and image scoring system | |
JP4403937B2 (en) | Camera device, information processing device, and subject identification method | |
JP6179315B2 (en) | Information processing apparatus, image processing system, image processing method and program in information processing apparatus | |
JP2002169823A (en) | Computer-readable recording medium where database retrieving program is recorded, and method and device for database retrieval | |
JP2004297305A (en) | System and program for configuring data base, system and program for retrieving image, and image recorder/reproducer | |
JP2004363871A (en) | Data storage device, its method and its program, and recording medium recording program | |
JP2009043006A (en) | Peripheral information providing system, server and peripheral information providing method | |
JP2007172197A (en) | Image input device, image output device and image input/output system | |
JP6436191B2 (en) | Server apparatus, information processing method and program using server apparatus | |
JP2003036267A (en) | Information retrieval device, and information retrieval method | |
JP2007020054A (en) | Method and device for managing image | |
JP2005062929A (en) | Information retrieval method and information retrieval device | |
WO2014002742A1 (en) | Digital image-capturing device, method for recording image-capturing information, and computer program | |
JP2004234179A (en) | Imaging process data creation device and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060509 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090123 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091006 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091019 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121113 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121113 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |