JP2007013479A - カメラワーク情報付与および評価装置 - Google Patents
カメラワーク情報付与および評価装置 Download PDFInfo
- Publication number
- JP2007013479A JP2007013479A JP2005190546A JP2005190546A JP2007013479A JP 2007013479 A JP2007013479 A JP 2007013479A JP 2005190546 A JP2005190546 A JP 2005190546A JP 2005190546 A JP2005190546 A JP 2005190546A JP 2007013479 A JP2007013479 A JP 2007013479A
- Authority
- JP
- Japan
- Prior art keywords
- information
- camera work
- video
- motion
- change point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000011156 evaluation Methods 0.000 title claims description 115
- 230000033001 locomotion Effects 0.000 claims description 309
- 238000001514 detection method Methods 0.000 claims description 68
- 238000003384 imaging method Methods 0.000 claims description 59
- 230000010365 information processing Effects 0.000 claims description 28
- 230000004044 response Effects 0.000 claims description 3
- 238000003672 processing method Methods 0.000 claims 2
- 239000002994 raw material Substances 0.000 abstract 1
- 230000001133 acceleration Effects 0.000 description 72
- 238000000034 method Methods 0.000 description 55
- 238000012545 processing Methods 0.000 description 31
- 230000002123 temporal effect Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 4
- 238000009795 derivation Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000004091 panning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000002040 relaxant effect Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000010977 unit operation Methods 0.000 description 1
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【課題】 ビデオカメラを用いて「パン」や「ティルト」などの様々な撮影動作で撮影し記録した撮影素材の中から、「パン」という撮影動作で撮影された映像区間を容易に探し出し、利用者に提示することができない。
【解決手段】 ビデオカメラにセンサを搭載し、そのセンサの情報を用いて、撮影動作の変化点を検出し、変化点によって分割された映像区間に対して、カメラワーク情報を導出し、該当する映像区間と関連付けて記録する。記録された「パン」等のカメラワーク情報を用いて撮影素材の中の映像区間を特定することによって、利用者に対して所望の「パン」という撮影動作で撮影した映像区間を提示することが可能になる。
【選択図】 図1
【解決手段】 ビデオカメラにセンサを搭載し、そのセンサの情報を用いて、撮影動作の変化点を検出し、変化点によって分割された映像区間に対して、カメラワーク情報を導出し、該当する映像区間と関連付けて記録する。記録された「パン」等のカメラワーク情報を用いて撮影素材の中の映像区間を特定することによって、利用者に対して所望の「パン」という撮影動作で撮影した映像区間を提示することが可能になる。
【選択図】 図1
Description
本発明は、テレビや映画、ビデオなどの動画像撮影時の情報付与方法に関し、特に、カメラの上下や左右などへの動きの情報をセンサを用いて取得し、そのセンサ情報を動画像の該当区間に対して付与する方法に関する。
動画像編集時には、目的とするシーンを探し出し、そのシーンを再生したり、そのシーンを切り出すといった作業が頻繁に行われている。しかし、従来の動画像編集時には、目的のシーンを探し出すために、編集者が対象となる映像を一度全て再生して目的とするシーンを見つけ出す必要があり、多大な作業時間がかかっていた。
上記の課題を解決するため、映像信号の変化点を自動検出することにより、シーンの変わり目を検出し、シーンの頭出し操作などを容易にする技術が開示されている(例えば、特許文献1参照)。また、「パンの映像」などのカメラの動きに関する情報である「カメラワーク」に関するキーワードを用いて映像を検索できるようにするため、画像処理によって映像から「パン」などのカメラワークを、自動的に検出することに関する技術が開示されている(例えば、特許文献2参照)。また、手ぶれなどの撮影時の品質の低い映像区間と、適切な映像区間を抽出し、分類して編集者に提示することによって、編集時等に適切な映像区間を選択しやすくする方法が開示されている(例えば、特許文献3参照)。
特許第2863818号公報
特許第2677312号公報
特開2000−261757号公報
上記の課題を解決するため、映像信号の変化点を自動検出することにより、シーンの変わり目を検出し、シーンの頭出し操作などを容易にする技術が開示されている(例えば、特許文献1参照)。また、「パンの映像」などのカメラの動きに関する情報である「カメラワーク」に関するキーワードを用いて映像を検索できるようにするため、画像処理によって映像から「パン」などのカメラワークを、自動的に検出することに関する技術が開示されている(例えば、特許文献2参照)。また、手ぶれなどの撮影時の品質の低い映像区間と、適切な映像区間を抽出し、分類して編集者に提示することによって、編集時等に適切な映像区間を選択しやすくする方法が開示されている(例えば、特許文献3参照)。
上記の従来技術のように、動画像編集時の作業負荷を軽減するためには、自動的に映像を分割し、それら分割された映像区間に対して付加情報を付与することにより当該付加情報を映像検索に利用可能とし、さらに自動的に映像区間の品質を評価して、当該映像区間を分類して編集者に提示可能とすることが必要である。
しかし、特許文献1に記載の方法では、映像信号の輝度や色情報を用いて変化点検出を行っているため、撮影時のカメラの動き、つまり、カメラワークと、輝度や色情報に相関がない場合、カメラワークの単位で映像を分割することができない。
しかし、特許文献1に記載の方法では、映像信号の輝度や色情報を用いて変化点検出を行っているため、撮影時のカメラの動き、つまり、カメラワークと、輝度や色情報に相関がない場合、カメラワークの単位で映像を分割することができない。
また、特許文献2に記載の方法では、画像処理を用いて撮影時のカメラの動きを推定しているため、撮影領域内の大部分を占める被写体が動いている動画像の場合、実際にカメラを動かして撮影したのか、カメラは静止して撮影していたが、被写体が動いていたのか判断できない場合がある。従って、特許文献2に記載の方法では誤ったカメラワークを検出することがある。
また、特許文献3に記載の方法では、上記のカメラワーク検出の場合と同様に、画像処理を用いてカメラの動きを推定し、評価を行っているため、例えば被写体が微少に揺れているものを撮影した場合には手ぶれと評価される可能性がある。また、静止して撮影した映像区間は手ぶれの評価基準を厳しく設定し、パンをしながら撮影した映像区間は静止して撮影した映像区間よりは手ぶれの評価基準を緩くするといった、カメラワークごとに評価基準を選択することについては言及されていない。
本発明は上記課題を鑑み、カメラワークの単位で映像を映像区間に分割し、分割された映像区間ごとにカメラワークを検出して、後に検索可能なようにカメラワーク情報を付加情報として映像と関連づけて記録し、さらにカメラワークに依存した評価指標を用いて、映像区間を評価し、その評価値を映像と関連づけて記録することによって、編集時に当該カメラワーク情報を用いて映像区間を検索可能とすると共に、当該映像区間を評価値によって分類、提示可能とすることを目的とする。
本発明の請求項1に係る情報処理装置は、撮像装置の移動による動きを検出し、画像撮影時の情報を付与する情報処理装置であって、映像を撮像する撮像手段と、撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与手段と、前記撮像手段の移動を動き情報として検出する動き情報検出手段と、前記動き情報検出手段の検出した前記動き情報に基づき、前記撮像手段の動きの変化を変化点として検出する変化点検出手段と、検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、 前記変化点と前記映像アドレスを保持する保持手段とを有する。
本発明の請求項2に係る情報処理装置は、撮像装置の移動による動きを検出して、画像撮影時の情報を付与する情報処理装置であって、映像を撮像する撮像手段と、撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与手段と、前記撮像手段の移動を動き情報として検出する動き情報検出手段と、前記動き情報検出手段の検出した前記動き情報に基づき算出した前記撮像手段の速度があらかじめ定めた値となる時点あるいは当該値から変化する時点を変化点として検出する変化点検出手段と、検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、前記変化点と前記映像アドレスを保持する保持手段とを有する。
本発明の請求項3に係る情報処理装置は、請求項1または請求項2の構成であって、さらに、動き情報とカメラワーク情報を対応付けるカメラワーク対応関係情報に基づき、検出した変化点間の動き情報からカメラワーク情報を決定するカメラワーク情報決定手段を有し、前記保持手段は、変化点間の映像アドレスとカメラワーク情報を対応付けて保持する。
本発明の請求項4に係る情報処理装置は、請求項3の構成であって、さらに、動き情報およびカメラワーク情報よりカメラワークを評価するカメラワーク評価指標に基づき、検出した変化点間の動き情報およびカメラワーク情報より変化点間のカメラワーク評価を決定するカメラワーク評価手段を有し、 前記保持手段は、さらに対応する変化点間の映像アドレス、カメラワーク情報、およびカメラワーク評価情報を対応付けて保持する。。
本発明の請求項5に係る情報処理装置は、請求項4の構成であって、さらに、各カメラワークに対応して前記カメラワーク評価指標を有する。
本発明の請求項6に係る情報処理装置は、請求項1から請求項5のいずれかの構成であって、さらに、前記変化点検出手段は、動き情報より前記撮像手段の移動速度を算出し、移動速度が0から変化する時点、あるいは0になる時点を変化点とする。
本発明の請求項6に係る情報処理装置は、請求項1から請求項5のいずれかの構成であって、さらに、前記変化点検出手段は、動き情報より前記撮像手段の移動速度を算出し、移動速度が0から変化する時点、あるいは0になる時点を変化点とする。
本発明の請求項7に係る情報処理装置は、請求項1から請求項5のいずれかの構成であって、さらに、前記変化点検出手段は、動き情報より前記撮像手段の移動速度を算出し、移動速度が予め定めた閾値以上となる時点、あるいは前記閾値以下となる時点を変化点とする。
本発明の請求項8に係る情報処理装置は、請求項3の構成であって、さらに、外部から入力された情報に基づきカメラワーク対応関係情報を更新する情報更新部を有する。
本発明の請求項8に係る情報処理装置は、請求項3の構成であって、さらに、外部から入力された情報に基づきカメラワーク対応関係情報を更新する情報更新部を有する。
本発明の請求項11に係る情報処理装置は、撮像装置の移動による動きを検出し、画像撮影時の情報を付与する情報処理装置であって、外部の撮像装置により撮像された映像フレームに時系列に基づく映像アドレスが付与された映像フレームと前記外部の撮像装置の移動による動き情報を受信する受信手段と、前記撮像手段の移動を動き情報として検出する動き情報検出手段と、前記動き情報検出手段の検出した前記動き情報に基づき、前記撮像手段の動きの変化を変化点として検出する変化点検出手段と、検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、前記変化点と前記映像アドレスを保持する保持手段とを有する。
本発明によって、カメラワークの単位で映像区間の頭出し再生などが可能になる。
また、頭出し点によって分割された映像区間には、カメラワーク情報が映像と関連づけて付与されているので、それらカメラワーク情報を検索キーとして検索を行い、該当する映像区間を特定することができる。
また、各映像区間にはカメラワークに依存した評価指標によって評価が行われ、評価値が付与されている。この評価値やカメラワーク情報を用いて、映像品質の高い映像区間のみを編集者に提示する等の、映像区間の分類、提示処理を行うことが可能になる。
また、頭出し点によって分割された映像区間には、カメラワーク情報が映像と関連づけて付与されているので、それらカメラワーク情報を検索キーとして検索を行い、該当する映像区間を特定することができる。
また、各映像区間にはカメラワークに依存した評価指標によって評価が行われ、評価値が付与されている。この評価値やカメラワーク情報を用いて、映像品質の高い映像区間のみを編集者に提示する等の、映像区間の分類、提示処理を行うことが可能になる。
よって、編集時に、カメラワークの単位で分割されている映像に対して、カメラワーク情報を用いた検索が可能となり、また、カメラワーク情報および評価値を用いて映像区間を分類、提示が可能となり、編集者が編集に利用する映像区間を容易に特定可能となり、効率的な編集を行うことができる。
以下本発明の実施の形態について、図面を参照しながら説明する.
(実施の形態1)
本実施の形態において、ビデオカメラを用いて撮影を行った際の、撮影時のビデオカメラの左右や前後への動きの情報をもとに、撮影した映像に対してカメラワーク情報を付与する方法を開示する。ここで、「カメラワーク情報」とはビデオカメラの撮影位置や方向などを変化させながら撮影を行った時の、ビデオカメラの動かし方に対する名前のことである。このビデオカメラの動かし方を「撮影動作」と呼ぶことにする。一般的によく用いられるカメラワーク情報としては、撮影者を中心にビデオカメラを横方向に向きを変えながら水平に撮影する「パン」、動いている被写体を追いかけながら撮影する「ドリー」などがある。なお、カメラワーク情報は「パン」「ドリー」に限定されるものではなく、また、撮影動作と名前の対応関係は今回あげたものに限定されない。撮影動作と、その名前および、それらの関係を、ビデオカメラを操作するユーザなどが別途定義してもよい。また、全くビデオカメラを動かさず、静止させて撮影した映像に対してもカメラワーク情報を付与してよい。本実施の形態では、ビデオカメラを静止させて撮影した映像に対するカメラワーク情報として「静止」を用いることとする。
(実施の形態1)
本実施の形態において、ビデオカメラを用いて撮影を行った際の、撮影時のビデオカメラの左右や前後への動きの情報をもとに、撮影した映像に対してカメラワーク情報を付与する方法を開示する。ここで、「カメラワーク情報」とはビデオカメラの撮影位置や方向などを変化させながら撮影を行った時の、ビデオカメラの動かし方に対する名前のことである。このビデオカメラの動かし方を「撮影動作」と呼ぶことにする。一般的によく用いられるカメラワーク情報としては、撮影者を中心にビデオカメラを横方向に向きを変えながら水平に撮影する「パン」、動いている被写体を追いかけながら撮影する「ドリー」などがある。なお、カメラワーク情報は「パン」「ドリー」に限定されるものではなく、また、撮影動作と名前の対応関係は今回あげたものに限定されない。撮影動作と、その名前および、それらの関係を、ビデオカメラを操作するユーザなどが別途定義してもよい。また、全くビデオカメラを動かさず、静止させて撮影した映像に対してもカメラワーク情報を付与してよい。本実施の形態では、ビデオカメラを静止させて撮影した映像に対するカメラワーク情報として「静止」を用いることとする。
(1.全体構成)
図1に本実施の形態の全体構成を示す。
撮像部1001は、CCDなどの画像センサを用いて構成され、撮影を行いその結果の映像情報を映像記録制御部1002へ出力する。
映像記録制御部1002は、撮像部1001で撮影された映像情報を映像保持部1003へ記録するかどうかを制御する。ユーザや接続された機器などからの記録開始指示により撮像部1001から得られた映像を映像保持部1003へ記録し、ユーザや接続された機器などからの記録終了指示によって映像の記録を終了する。また、記録を行う映像に対して、映像フレームを識別できる映像アドレスを付与して映像保持部1003へ記録する。この映像アドレスを用いて、映像の特定箇所を指定することが可能になることによって、映像保持部1003に記録されている映像の任意の位置を頭出しし、再生を行ったり、不要部分を削除したりする編集を行うことなどが可能になる。本実施の形態では映像アドレスとして、映像と音声を同期させるための規格の一つであるSMPTE(Society of Motion Picture and Television Engineer:全米映画テレビジョン技術者協会)で規定されているタイムコードを利用する。
図1に本実施の形態の全体構成を示す。
撮像部1001は、CCDなどの画像センサを用いて構成され、撮影を行いその結果の映像情報を映像記録制御部1002へ出力する。
映像記録制御部1002は、撮像部1001で撮影された映像情報を映像保持部1003へ記録するかどうかを制御する。ユーザや接続された機器などからの記録開始指示により撮像部1001から得られた映像を映像保持部1003へ記録し、ユーザや接続された機器などからの記録終了指示によって映像の記録を終了する。また、記録を行う映像に対して、映像フレームを識別できる映像アドレスを付与して映像保持部1003へ記録する。この映像アドレスを用いて、映像の特定箇所を指定することが可能になることによって、映像保持部1003に記録されている映像の任意の位置を頭出しし、再生を行ったり、不要部分を削除したりする編集を行うことなどが可能になる。本実施の形態では映像アドレスとして、映像と音声を同期させるための規格の一つであるSMPTE(Society of Motion Picture and Television Engineer:全米映画テレビジョン技術者協会)で規定されているタイムコードを利用する。
また、映像記録制御部1002が記録開始指示を受け取った際には、動き情報取得部1004へ動作開始指示を行い、映像記録制御部1002が記録終了指示を受け取った際には、動き情報取得部1004へ動作終了指示を行う。
映像保持部1003は、映像記録制御部1002からの指示に従って、撮像部1001で撮影された映像を、映像記録制御部1002で生成される映像アドレスと共に記録する。
映像保持部1003は、映像記録制御部1002からの指示に従って、撮像部1001で撮影された映像を、映像記録制御部1002で生成される映像アドレスと共に記録する。
動き情報取得部1004は、撮像部1001の動きを計測するように設置された一つまたは複数のセンサから、撮像部1001の動きに関する情報を取得する。また、それらセンサからの情報を用いて、撮像部1001の動きに関する情報を算出する。具体的には、撮像部1001の動きに関する情報を取得するために加速度センサを用いた場合、センサからの加速度情報の取得や、その加速度情報を積分することによって速度の算出、センサ情報からのノイズ除去のための処理などを行う。なお、搭載するセンサは加速度センサに限定するものではなく、角速度センサなどでもよい。また、センサ情報から計算する値も、速度に限定されるものではなく、移動距離などを計算で求めてもよい。このようにして取得したセンサ情報や、センサ情報を用いて処理を行って取得した情報などを変化点検出部1005および動き区間情報取得部1007へ送信する。これら送信される情報をまとめて、「動き情報」と呼ぶこととする。
動き情報取得部1004は、映像を記録開始した時点から、記録終了までの間、動作すればよいため、映像記録制御部1002からの指示に従って動作開始、終了を行う。
変化点検出部1005は、動き情報取得部1004より取得した撮像部1001の動き情報を基に、撮影動作が変更される点を検出する。本実施の形態では、動き情報取得部1004より動き情報として速度情報を取得し、速度の大きさ、つまり速さが0以外の値から0となる時点および0から0以外の値となる時点を撮影動作の変化点として検出する。なお、変化点の検出方法は、今回の方法に限定されるものではない。例えば、人がビデオカメラを手に持って撮影を行っている場合、静止させているつもりでもある程度の揺れが存在する場合などに対応するため、速さがある一定値以下に変化した時点または、ある一定値以上に変化した時点を変化点としてもよい。また、移動する乗り物の上で撮影を行う場合、カメラを静止させていても、乗り物の移動速度と同じ速度をビデオカメラが持つことになる。そのような場合に対応するため、3次元の直交座標系を定め、速度を直交座標系の各軸方向成分に分解し、それぞれの値が特定の値つまり乗り物の移動速度を直交座標系の各軸方向成分に分解した値と同じ値になった時点を変化点としてもよい。このように、変化点検出部1005は動き情報取得部1004より取得できる情報を用いて、特定の条件を満たした時点を変化点とする。また、このような変化点を検出するための規則は、撮影ごとやユーザごとに選択し、設定してもよい。
変化点検出部1005は、動き情報取得部1004より取得した撮像部1001の動き情報を基に、撮影動作が変更される点を検出する。本実施の形態では、動き情報取得部1004より動き情報として速度情報を取得し、速度の大きさ、つまり速さが0以外の値から0となる時点および0から0以外の値となる時点を撮影動作の変化点として検出する。なお、変化点の検出方法は、今回の方法に限定されるものではない。例えば、人がビデオカメラを手に持って撮影を行っている場合、静止させているつもりでもある程度の揺れが存在する場合などに対応するため、速さがある一定値以下に変化した時点または、ある一定値以上に変化した時点を変化点としてもよい。また、移動する乗り物の上で撮影を行う場合、カメラを静止させていても、乗り物の移動速度と同じ速度をビデオカメラが持つことになる。そのような場合に対応するため、3次元の直交座標系を定め、速度を直交座標系の各軸方向成分に分解し、それぞれの値が特定の値つまり乗り物の移動速度を直交座標系の各軸方向成分に分解した値と同じ値になった時点を変化点としてもよい。このように、変化点検出部1005は動き情報取得部1004より取得できる情報を用いて、特定の条件を満たした時点を変化点とする。また、このような変化点を検出するための規則は、撮影ごとやユーザごとに選択し、設定してもよい。
このようにして、変化点が検出できた場合、変化点が検出された時点の映像位置を特定する映像アドレスを取得するため、映像アドレス取得部1006へ通知する。また、動き区間情報取得部1007へも通知する。
映像アドレス取得部1006は、変化点検出部1005の指示に従って映像記録制御部1002から映像アドレスを取得する。そして、取得した映像アドレスを情報保持部1010へ記録する。
映像アドレス取得部1006は、変化点検出部1005の指示に従って映像記録制御部1002から映像アドレスを取得する。そして、取得した映像アドレスを情報保持部1010へ記録する。
動き区間情報取得部1007は、変化点検出部1005から受け取った変化点の情報と、動き情報取得部1004から取得した動き情報を基に、ある変化点から次の変化点が検出されるまでの区間の動き情報を保持し、その保持されたある変化点から次の変化点が検出されるまでの区間の動き情報をカメラワーク情報導出部1008およびカメラワーク評価部1009へ伝達する。この伝達される情報を「動き区間情報」と呼ぶ。
カメラワーク情報導出部1008は、動き区間情報取得部1007より取得した動き区間情報よりカメラワーク情報を導出する。カメラワーク情報導出部1008では、撮影時のビデオカメラの動かし方(撮影動作)と、それに対応するカメラワーク情報を予め対応させて保持しており、動き区間情報から撮影時の撮影動作を判断し、対応するカメラワーク情報を導出する。
このカメラワーク情報と撮影動作との対応関係を、「カメラワーク対応関係情報」と呼ぶこととする。
導出したカメラワーク情報は、情報保持部1010へ記録される。
カメラワーク評価部1009は、動き区間情報取得部1007より取得した動き区間情報と、その動き区間情報に対応する、カメラワーク情報導出部1008より取得したカメラワーク情報を用いて、動き区間情報で得られている区間と同じ映像区間に対して評価を与える。評価は、動き区間情報を基に、予め保持しているカメラワーク情報に依存した評価基準を用いて行う。この評価基準を「カメラワーク評価指標」と呼ぶこととする。また、与える評価値を「カメラワーク評価値」と呼ぶこととする。ここでの評価とは、視聴に耐えるかどうかを表す映像品質情報や、後の編集などに利用する可能性が高いかどうかを表す利用可能性情報と言った情報だけではなく、ビデオカメラを動かした方向や、その動かした速度が速いか遅いかなどの、カメラワーク情報を補足するカメラワーク補足情報も含む。
導出したカメラワーク情報は、情報保持部1010へ記録される。
カメラワーク評価部1009は、動き区間情報取得部1007より取得した動き区間情報と、その動き区間情報に対応する、カメラワーク情報導出部1008より取得したカメラワーク情報を用いて、動き区間情報で得られている区間と同じ映像区間に対して評価を与える。評価は、動き区間情報を基に、予め保持しているカメラワーク情報に依存した評価基準を用いて行う。この評価基準を「カメラワーク評価指標」と呼ぶこととする。また、与える評価値を「カメラワーク評価値」と呼ぶこととする。ここでの評価とは、視聴に耐えるかどうかを表す映像品質情報や、後の編集などに利用する可能性が高いかどうかを表す利用可能性情報と言った情報だけではなく、ビデオカメラを動かした方向や、その動かした速度が速いか遅いかなどの、カメラワーク情報を補足するカメラワーク補足情報も含む。
なお、カメラワーク情報に依存しないカメラワーク評価指標をもちいてもよい。
情報保持部1010は、映像アドレス、カメラワーク情報、カメラワーク評価情報を保持する。情報保持部1010が保持する情報、情報管理表2000の一例を図2に示す。列2001には変化点検出部1005で検出され、映像アドレス取得部1006によって映像記録制御部1002より取得された映像アドレス、変化点で分割された映像区間の開始アドレスと終了アドレスが記述される。例えば、行2004、行2005、行2006がそれぞれ映像区間に該当するように記述されている。列2002には、カメラワーク情報導出部1008で得られたカメラワーク情報が記述される。列2003にはカメラワーク評価部1009で得られたカメラワーク評価値が記述される。例えば、行2004は映像アドレス00:00:00:00から00:00:10:00で特定される映像区間に対して、カメラワーク情報「静止」、カメラワーク評価値「OK」であると言うことを表している。また、行2005の列2003のように1つの映像区間に対して複数のカメラワーク評価値を与えてもよい。
情報保持部1010は、映像アドレス、カメラワーク情報、カメラワーク評価情報を保持する。情報保持部1010が保持する情報、情報管理表2000の一例を図2に示す。列2001には変化点検出部1005で検出され、映像アドレス取得部1006によって映像記録制御部1002より取得された映像アドレス、変化点で分割された映像区間の開始アドレスと終了アドレスが記述される。例えば、行2004、行2005、行2006がそれぞれ映像区間に該当するように記述されている。列2002には、カメラワーク情報導出部1008で得られたカメラワーク情報が記述される。列2003にはカメラワーク評価部1009で得られたカメラワーク評価値が記述される。例えば、行2004は映像アドレス00:00:00:00から00:00:10:00で特定される映像区間に対して、カメラワーク情報「静止」、カメラワーク評価値「OK」であると言うことを表している。また、行2005の列2003のように1つの映像区間に対して複数のカメラワーク評価値を与えてもよい。
なお、情報管理表2000には、図面を見て理解し易いように「静止」、「OK」等が記載されているが、実際は装置内の処理に用いることができれば良いので、装置が処理できる符号、コード等で記載される。
(2.処理の詳細)
以下に、一例として図1に示した構成をすべて図3に示すビデオカメラ3001に実装し、図4に示す流れで撮影を行う場合を考える。
(2.処理の詳細)
以下に、一例として図1に示した構成をすべて図3に示すビデオカメラ3001に実装し、図4に示す流れで撮影を行う場合を考える。
図3に示すように水平に設置したビデオカメラ3001において、撮影方向をy軸正の向き、鉛直方向上向きをz軸正の向き、y軸正の向きに向かって水平右90°の方向をx軸正の向きとなるビデオカメラ3001に固定された座標軸を考えることとする。座標軸はビデオカメラ3001に固定されているので、ビデオカメラ3001の姿勢を変えた場合、z軸は鉛直方向では無くなる場合がある。
ここで、図4の流れを説明する。
映像記録制御部に対して記録開始指示を行い、ビデオ映像の記録を開始する(S4001)。
ビデオカメラ3001を上下や左右などに動かさず、静止した状態で撮影を行う(S4002)。
映像記録制御部に対して記録開始指示を行い、ビデオ映像の記録を開始する(S4001)。
ビデオカメラ3001を上下や左右などに動かさず、静止した状態で撮影を行う(S4002)。
次に、記録状態のまま、撮影している方向に移動する(S4003)。
S4003での移動が完了した後、ビデオカメラ3001の撮影する方向を変えながら撮影を行う(S4004)。
映像記録制御部に対して記録終了指示を行い、記録を終了する(S4005)。
以上で処理を終了する(S4006)。
S4003での移動が完了した後、ビデオカメラ3001の撮影する方向を変えながら撮影を行う(S4004)。
映像記録制御部に対して記録終了指示を行い、記録を終了する(S4005)。
以上で処理を終了する(S4006)。
図1に示した構成を全て実装した図3に示したビデオカメラ3001を用いて、図4に示した流れで撮影を行った場合の代表的な構成要素の動作の詳細を説明する。
なお、本実施の形態では図1に示した構成を全てビデオカメラ3001に実装したが、このような実装方法に限定されるものではない。複数の機器に分割してビデオカメラ、パソコン、ビデオレコーダのように各機能を実装し、それら間で情報、データを通信等により送受信してもよい。
なお、本実施の形態では図1に示した構成を全てビデオカメラ3001に実装したが、このような実装方法に限定されるものではない。複数の機器に分割してビデオカメラ、パソコン、ビデオレコーダのように各機能を実装し、それら間で情報、データを通信等により送受信してもよい。
(2−1.映像記録制御部の動作例)
映像記録制御部1002の動作の詳細を説明する。S4001の記録開始指示およびS4005の記録終了指示は、映像記録制御部1002に対して行われる。この際の、映像記録制御部1002の処理の流れを図5に示すフローチャートを用いて説明する。
記録開始指示をユーザまたは、他の機器などから受信する(S5001)。
映像記録制御部1002の動作の詳細を説明する。S4001の記録開始指示およびS4005の記録終了指示は、映像記録制御部1002に対して行われる。この際の、映像記録制御部1002の処理の流れを図5に示すフローチャートを用いて説明する。
記録開始指示をユーザまたは、他の機器などから受信する(S5001)。
動き情報取得部1004へ動作を開始するように指示を行う(S5002)。
撮像部1001より映像フレームを1フレーム取得する(S5003)。
S5003で取得した映像フレームを識別するための映像アドレスを生成する(S5004)。映像アドレスとしては例えばSMPTE12M−1995で規定されているリニアタイムコードを用いる。映像アドレスの生成はこの規格に沿って行い、記録開始点から映像フレームの数を数え、時、分、秒、フレームを句読点で区切って表記する。1秒30フレームの映像の場合、フレームとしては0から29まで連続的にカウントアップし、その後、秒の位に桁を上げる。また、NTSCテレビジョンシステムにおいて1秒が30フレームではない場合、1秒25フレームの場合、1秒24フレームの場合などフレーム数の数え方は前記SMPTEの規格に従う。
撮像部1001より映像フレームを1フレーム取得する(S5003)。
S5003で取得した映像フレームを識別するための映像アドレスを生成する(S5004)。映像アドレスとしては例えばSMPTE12M−1995で規定されているリニアタイムコードを用いる。映像アドレスの生成はこの規格に沿って行い、記録開始点から映像フレームの数を数え、時、分、秒、フレームを句読点で区切って表記する。1秒30フレームの映像の場合、フレームとしては0から29まで連続的にカウントアップし、その後、秒の位に桁を上げる。また、NTSCテレビジョンシステムにおいて1秒が30フレームではない場合、1秒25フレームの場合、1秒24フレームの場合などフレーム数の数え方は前記SMPTEの規格に従う。
S5003で取得した映像フレームと、S5004で生成した映像アドレスを映像保持部1003へ記録する(S5005)。
記録終了の指示を受信していない場合、S5002へ戻り、処理を繰り返す。記録終了の指示を受信している場合、S5007へ進む(S5006)。
S5006において、記録終了の指示を受信していると判断された場合、動き情報取得部1004へ動作を終了するように指示を行う(S5007)。
記録終了の指示を受信していない場合、S5002へ戻り、処理を繰り返す。記録終了の指示を受信している場合、S5007へ進む(S5006)。
S5006において、記録終了の指示を受信していると判断された場合、動き情報取得部1004へ動作を終了するように指示を行う(S5007)。
以上で、映像記録制御部1002の処理を終了する(S5008)。
(2−2.動き情報取得部の動作例)
次に、動き情報取得部1004の動作について説明する。本実施の形態では、ビデオカメラ3001に、図3で示したx、y、zの3軸方向の加速度を測定することができるセンサおよびx、y、zの3軸を中心とした回転速度を測定することができる3軸角速度センサを搭載した場合を考える。動き情報取得部1004ではビデオカメラ3001の動きを取得するように搭載された加速度センサ及び角速度センサからセンサ情報を取得する。動き情報取得部1004はこの加速度センサから得られる情報を積分することによって速度を算出する。この速度算出の際には角速度センサから得られる情報を基に、回転運動による遠心力による加速度分を加速度センサから得られた加速度から除いて計算する。積分には、例えば数値積分を用いる。これら取得した動き情報である加速度情報及び速度情報を、変化点検出部1005および動き区間情報取得部1007へ送信する。なお、動き情報取得部1004において、取得したセンサ情報から、微少振動部分や他の近い時間に取得されたセンサ情報から局所的に大きく乖離した特異な部分をノイズと見なし除去した結果を、変化点検出部1005及び動き区間情報取得部1007へ送信してもよい。この際に行った情報の除去を、「ノイズ除去」と呼ぶ。ノイズ除去の方法としては、センサからの情報を周波数成分に分解し、特定の周波数や、特定の範囲の周波数の情報を削除する周波数フィルタリングや、移動平均を取る方法などがある。これらノイズ除去方法は、本願の発明の主眼ではないので、詳細説明は省く。また、速度計算の際に、前記ノイズ除去を行った加速度情報を用いてもよい。
(2−2.動き情報取得部の動作例)
次に、動き情報取得部1004の動作について説明する。本実施の形態では、ビデオカメラ3001に、図3で示したx、y、zの3軸方向の加速度を測定することができるセンサおよびx、y、zの3軸を中心とした回転速度を測定することができる3軸角速度センサを搭載した場合を考える。動き情報取得部1004ではビデオカメラ3001の動きを取得するように搭載された加速度センサ及び角速度センサからセンサ情報を取得する。動き情報取得部1004はこの加速度センサから得られる情報を積分することによって速度を算出する。この速度算出の際には角速度センサから得られる情報を基に、回転運動による遠心力による加速度分を加速度センサから得られた加速度から除いて計算する。積分には、例えば数値積分を用いる。これら取得した動き情報である加速度情報及び速度情報を、変化点検出部1005および動き区間情報取得部1007へ送信する。なお、動き情報取得部1004において、取得したセンサ情報から、微少振動部分や他の近い時間に取得されたセンサ情報から局所的に大きく乖離した特異な部分をノイズと見なし除去した結果を、変化点検出部1005及び動き区間情報取得部1007へ送信してもよい。この際に行った情報の除去を、「ノイズ除去」と呼ぶ。ノイズ除去の方法としては、センサからの情報を周波数成分に分解し、特定の周波数や、特定の範囲の周波数の情報を削除する周波数フィルタリングや、移動平均を取る方法などがある。これらノイズ除去方法は、本願の発明の主眼ではないので、詳細説明は省く。また、速度計算の際に、前記ノイズ除去を行った加速度情報を用いてもよい。
図4のS4001の記録開始指示を映像記録制御部1002が受信し(S5001)、映像記録制御部1002から動作開始指示が出され(S5002)、それを動き情報取得部1004が受信することによって動作を開始する。そして、図4のS4005の記録終了指示を映像記録制御部1002が受信し(S5006)、映像記録制御部1002から動作終了指示が出され(S5007)、それを動き情報取得部1004が受信することによって動作を終了する。
動き情報取得部1004が動作開始から終了までの間に、S4002、S4003、S4004のそれぞれの撮影を行うことになる。
図6の(a)(b)(c)に、図4のS4002、S4003、S4004のそれぞれの撮影時のビデオカメラ3001の動きを図示する。
S4002の、静止して撮影する場合は、図6の(a)に示すようにビデオカメラ3001を左右や前後、上下などに動かさず撮影する。
図6の(a)(b)(c)に、図4のS4002、S4003、S4004のそれぞれの撮影時のビデオカメラ3001の動きを図示する。
S4002の、静止して撮影する場合は、図6の(a)に示すようにビデオカメラ3001を左右や前後、上下などに動かさず撮影する。
S4003の、記録状態のまま移動した場合は、撮影者の歩行をモデル化して、図6の(b)に示す様に、ビデオカメラ3001が前進しながら、上下に周期的に動いた状態で撮影されたと考える。
S4004の、ビデオカメラ3001の向きを変えながら撮影を行った場合は、図6の(c)に示すように、y軸上のビデオカメラ後方(y軸負の方向)に原点を設け、ビデオカメラを、その原点を中心に回転させて撮影する向きを変化させたと考える。
S4004の、ビデオカメラ3001の向きを変えながら撮影を行った場合は、図6の(c)に示すように、y軸上のビデオカメラ後方(y軸負の方向)に原点を設け、ビデオカメラを、その原点を中心に回転させて撮影する向きを変化させたと考える。
S4002、S4003、S4004と順次撮影を行った時に、フレーム単位の間隔ごとに動き情報取得部1004が取得する3軸加速度センサの値を一定時間分だけ蓄積し、時間変化として表したものを図7に示す。図7(a)はx軸方向の加速度の時間変化である。図7(b)はy軸方向の加速度の時間変化である。図7(c)はz軸方向の加速度の時間変化である。
また、1秒あたりのフレーム数をf、記録開始点からのフレーム数をn、nフレーム目の速度をV(n)、n―1フレーム目の速度をV(n―1)、nフレーム目の加速度をa(n)、とすると、V(n)は以下の(数1)で求められる。ここで、V(0)は記録開始点の速度であるが、今回、記録開始点を基準として速度を求めるため、V(0)=0とする。
他のx軸周りやy軸周りの回転運動を行っている場合も同様である。また、回転運動の接線方向と回転中心方向は3軸加速度センサの値から、加速度の値の立ち上がりが早いほうが接線方向であり、遅い方が回転中心方向であると判断する。
図7に示した加速度情報より、(数1)を用いて求めた速度情報を一定時間分だけ蓄積し、時間変化として表したものを図8に示す。図8の(a)、(b)、(c)はそれぞれ順にx軸方向、y軸方向、z軸方向の速度の時間変化を表している。図8(b)の点8003から点8004の区間は、図7(b)においては加速度を持っていたが、遠心力による加速度Wを計算、図7(b)の加速度に加えた結果0となり、(数1)を用いて速度を求めた場合も常に0となった。
動き情報取得部1004は、図7の(a)(b)(c)に示されているセンサから取得した情報と、図8の(a)(b)(c)に示されているセンサ情報を処理して得られた情報を順次、変化点検出部1005と動き区間情報取得部1007へ送信する。
なお、今回は(数1)を用いて数値積分を行い、速度を求めたが、本願の発明の主眼ではないので、詳細説明は省くが、シンプソンの公式や台形公式と一般に呼ばれる方法を用いてもよい。
なお、今回は(数1)を用いて数値積分を行い、速度を求めたが、本願の発明の主眼ではないので、詳細説明は省くが、シンプソンの公式や台形公式と一般に呼ばれる方法を用いてもよい。
(2−3.変化点検出部の動作例)
次に変化点検出部1005の動作について説明する。動作の流れを図9の(a)にフローチャートとして示す。
動き情報取得部1004から、速度や加速度の情報が受信できているかを判断する(S9001)。受信できている場合はS9002へ進み、受信できていない場合は処理を終了させる(S9004)。
次に変化点検出部1005の動作について説明する。動作の流れを図9の(a)にフローチャートとして示す。
動き情報取得部1004から、速度や加速度の情報が受信できているかを判断する(S9001)。受信できている場合はS9002へ進み、受信できていない場合は処理を終了させる(S9004)。
動き情報取得部1004から速度や加速度の情報が受信できている場合、変化点検出の規則に従って、変化点であるかどうかを判断する(S9002)。変化点であると判断された場合、S9003へ進み、変化点ではないと判断された場合S9001へ進む。
S9002において変化点が検出された場合、映像アドレス取得部1006及び動き区間情報取得部1007へ変化点検出通知を送信する(S9003)。
S9002において変化点が検出された場合、映像アドレス取得部1006及び動き区間情報取得部1007へ変化点検出通知を送信する(S9003)。
本実施の形態では、動き情報取得部1004より受信した図8の(a)(b)(c)に示されている、x、y、zの各軸方向の速度を用いて、変化点を検出することとする。
また、今回の変化点検出の規則としては、ビデオカメラ3001の速さ、つまりx、y、zの各軸方向速度を合成して得られるビデオカメラ3001の速度の大きさの変化に着目し、速さが0から0以外の値へ変化する点、および、速さが0以外の値から0に変化する点を変化点として検出する。ビデオカメラ3001の速さをVとすると、速さVは以下の(数3)で求めることができる。
また、今回の変化点検出の規則としては、ビデオカメラ3001の速さ、つまりx、y、zの各軸方向速度を合成して得られるビデオカメラ3001の速度の大きさの変化に着目し、速さが0から0以外の値へ変化する点、および、速さが0以外の値から0に変化する点を変化点として検出する。ビデオカメラ3001の速さをVとすると、速さVは以下の(数3)で求めることができる。
S9001で取得したx、y、zの各軸方向の速度から上記の(数3)を用いて速さVを計算する(S9101)。
1回前の時点で計算された速さUが存在するかを判断する(S9102)。映像記録開始直後、初めて図9(b)のフローチャートの処理が行われた際はUが存在しないことになる。速さUが存在する場合はS9103へ進み、存在しない場合はS9105へ進む。
1回前の時点で計算された速さUが存在するかを判断する(S9102)。映像記録開始直後、初めて図9(b)のフローチャートの処理が行われた際はUが存在しないことになる。速さUが存在する場合はS9103へ進み、存在しない場合はS9105へ進む。
速さUが存在した場合、S9101で計算したVとUを用いて、「U=0 かつ V≠0」または「U≠0 かつ V=0」のどちらかの条件を満たすか判断する(S9103)。どちらかの条件を満たす場合S9104へ進み、どちらの条件も満たさない場合S9105へ進む。
S9103で条件を満たした場合、変化点とする(S9104)。S9103において「U=0 かつ V≠0」の条件を満たしていた場合は、速さUが取得できた時点、つまり、1回前の時点を変化点とする。本実施の形態ではフレームごとに本フローチャートが事項されるため、1フレーム前を変化点とすると言うことである。また、S9103において「U≠0 かつ V=0」の条件を満たしていた場合は、速さVが取得できた時点、つまり、現在のフレームを変化点とする。その結果、図9(a)S9002で変化点が検出されたと判断され、S9003へと進むことになる。
S9103で条件を満たした場合、変化点とする(S9104)。S9103において「U=0 かつ V≠0」の条件を満たしていた場合は、速さUが取得できた時点、つまり、1回前の時点を変化点とする。本実施の形態ではフレームごとに本フローチャートが事項されるため、1フレーム前を変化点とすると言うことである。また、S9103において「U≠0 かつ V=0」の条件を満たしていた場合は、速さVが取得できた時点、つまり、現在のフレームを変化点とする。その結果、図9(a)S9002で変化点が検出されたと判断され、S9003へと進むことになる。
S9101で求めた速さVをUに代入する(S9105)。
処理を終了させる(S9106)。
変化点検出部1005が、図8の(a)(b)(c)に示されているx、y、zの各軸方向速度を取得した場合の変化点検出の処理を具体例を用いて説明する。ここで、図8の中の点8001、点8002、点8003、点8004とはある映像フレームを指し示している。点8001は映像記録開始点の映像フレームを、点8002、点8003はいずれかの軸方向速度の時間変化が0になった点もしくは0から変化した点の映像フレームを、点8004は映像記録終了点の映像フレームを指し示している。変化点検出部1005は図8の(a)(b)(c)に示されているx、y、zの各軸方向速度を映像フレームと同じ間隔で離散的に取得する。取得した速度情報から(数3)を用いて速さVを計算する(S9102)。点8001から点8002の間は求められる速さVは「0」である。従って点8001から点8002の間はUの値も「0」であり、「U=0 かつ V=0」となりS9103における条件は満たさない。
処理を終了させる(S9106)。
変化点検出部1005が、図8の(a)(b)(c)に示されているx、y、zの各軸方向速度を取得した場合の変化点検出の処理を具体例を用いて説明する。ここで、図8の中の点8001、点8002、点8003、点8004とはある映像フレームを指し示している。点8001は映像記録開始点の映像フレームを、点8002、点8003はいずれかの軸方向速度の時間変化が0になった点もしくは0から変化した点の映像フレームを、点8004は映像記録終了点の映像フレームを指し示している。変化点検出部1005は図8の(a)(b)(c)に示されているx、y、zの各軸方向速度を映像フレームと同じ間隔で離散的に取得する。取得した速度情報から(数3)を用いて速さVを計算する(S9102)。点8001から点8002の間は求められる速さVは「0」である。従って点8001から点8002の間はUの値も「0」であり、「U=0 かつ V=0」となりS9103における条件は満たさない。
つぎに、点8002と点8003の間に存在する、点8002の次に速度情報を取得した時点つまり、点8002から1フレーム後の点において、速さVを計算する。このとき、y軸方向速度およびz軸方向速度が「0」ではないため、速さVも「0」では無い値を持つ。また、点8002の時点での速さVが「0」であり、現在この値がUの値として保持されている。従って、「U=0 かつ V≠0」の条件を満たす(S9103)。「U=0 かつ V≠0」の条件を満たしたため、Uの速さを取得した時点、つまり点8002の時点を変化点として検出する。
つぎに、点8002と点8003を含まない点8002と点8003の間はy軸方向速度またはz軸方向速度が「0」ではないためVは常に「0」では無い値を持つ。従って、点8002と点8002の1フレーム後の点および点8003を含まない点8002と点8003の間はUの値も「0」ではない値を持つ。従って「U≠0 かつ V≠0」となりS9103における条件は満たさない。
つぎに、点8003において速さVを計算する。このときx、y、zの全ての軸方向の速度が「0」であるため、速さVは「0」となる。また、点8003の1フレーム前の速さV、つまり点8003の時点のUの値はy軸方向速度またはz軸方向速度が「0」では無いため「0」ではない。従って、「U≠0 かつ V=0」となり、S9103における条件を満たし、Vの速さを取得した時点、つまり点8003の時点を変化点として検出する。
以上の処理と同様にして点8004を変化点として検出する。
従って、変化点検出部1005は変化点として、点8002、点8003、点8004の箇所を順に検出する。
また、映像記録制御部1002によって動き情報取得部1004に対して動作開始指示がだされ、動作を開始し、その結果として、変化点検出部1005において速度や加速度などの情報が、受信可能となった点、つまり、動作開始点である点8001も変化点と同等に見なすこととする。また、今回は、動作終了点は変化点である点8004と同一であったが、ビデオカメラ3001を動かしている途中の状態で映像記録制御部1002において記録終了指示を受信した場合などは、動作終了点と最後に検出される変化点が同一にならない場合もある。その場合は、動作終了点も変化点としてみなして処理することになる。
従って、変化点検出部1005は変化点として、点8002、点8003、点8004の箇所を順に検出する。
また、映像記録制御部1002によって動き情報取得部1004に対して動作開始指示がだされ、動作を開始し、その結果として、変化点検出部1005において速度や加速度などの情報が、受信可能となった点、つまり、動作開始点である点8001も変化点と同等に見なすこととする。また、今回は、動作終了点は変化点である点8004と同一であったが、ビデオカメラ3001を動かしている途中の状態で映像記録制御部1002において記録終了指示を受信した場合などは、動作終了点と最後に検出される変化点が同一にならない場合もある。その場合は、動作終了点も変化点としてみなして処理することになる。
変化点検出部1005は、動作開始点である点8001および、変化点である点8002、点8003、点8004のそれぞれが検出できた時点で、映像アドレス取得部1006および動き区間情報取得部1007に対して、変化点検出通知を送信する。
なお、今回は、変化点検出の規則として、速さが0から0以外の値へ変化した点、および速さが0以外の値らから0へ変化した点としたが、変化点検出の規則としては、これに限定されるものではない。
なお、今回は、変化点検出の規則として、速さが0から0以外の値へ変化した点、および速さが0以外の値らから0へ変化した点としたが、変化点検出の規則としては、これに限定されるものではない。
(2−4.映像アドレス取得部の動作例)
次に映像アドレス取得部1006の動作について説明する。映像アドレス取得部1006は、変化点検出部1005から変化点検出通知を受け取った時、映像記録制御部1002から映像アドレスを取得する。映像記録制御部1002は、撮像中の映像に対し、映像アドレスを付与している。また、取得した映像アドレスを情報保持部1010へ送信する。
次に映像アドレス取得部1006の動作について説明する。映像アドレス取得部1006は、変化点検出部1005から変化点検出通知を受け取った時、映像記録制御部1002から映像アドレスを取得する。映像記録制御部1002は、撮像中の映像に対し、映像アドレスを付与している。また、取得した映像アドレスを情報保持部1010へ送信する。
今回、動作開始点である点8001で取得される映像アドレスを「00:00:00:00」、変化点である点8002、点8003、点8004が検出されたときに取得される映像アドレスをそれぞれ順に「00:00:10:00」、「00:00:20:00」、「00:00:30:00」とする。
なお、今回は本システムの処理が十分に高速であると仮定して、変化点検出部1005から変化点検出通知を映像アドレス取得部1006が受信した際の、映像記録制御部1002が付与しているアドレス取得した。しかし、本システムが映像を記録し、動き情報を取得してから、変化点を検出し、映像アドレス取得部1006が変化点検出通知を受信する間に、映像記録制御部1002において映像アドレスが変化する以上に処理に時間がかかる場合は、変化点が検出された時点の映像アドレスを適切に取得できるように、処理に要する時間分だけ一時的に映像アドレスを映像記録制御部1002にFIFO等のバッファを設けて蓄積しておけば、このバッファより読み出すことができる。
なお、今回は本システムの処理が十分に高速であると仮定して、変化点検出部1005から変化点検出通知を映像アドレス取得部1006が受信した際の、映像記録制御部1002が付与しているアドレス取得した。しかし、本システムが映像を記録し、動き情報を取得してから、変化点を検出し、映像アドレス取得部1006が変化点検出通知を受信する間に、映像記録制御部1002において映像アドレスが変化する以上に処理に時間がかかる場合は、変化点が検出された時点の映像アドレスを適切に取得できるように、処理に要する時間分だけ一時的に映像アドレスを映像記録制御部1002にFIFO等のバッファを設けて蓄積しておけば、このバッファより読み出すことができる。
(2−5.動き区間情報取得部の動作例)
次に動き区間情報取得部1007の動作について説明する。動き区間情報取得部1007の動作の流れを図10のフローチャートを用いて説明する。
変化点検出部1005より変化点検出通知を受信する(S10001)。なお、一番初めに受信する変化点検出通知は動作開始点に関する変化点検出通知である。
次に動き区間情報取得部1007の動作について説明する。動き区間情報取得部1007の動作の流れを図10のフローチャートを用いて説明する。
変化点検出部1005より変化点検出通知を受信する(S10001)。なお、一番初めに受信する変化点検出通知は動作開始点に関する変化点検出通知である。
動き情報取得部1004から動き情報を取得する(S10002)。動き情報が取得できる場合は、S10003へ進み、取得できない場合は、処理を終了させる(S10007)。
動き情報取得部1004から取得した動き情報を蓄積していく(S10003)。この蓄積されている情報を、「動き区間中間情報」と呼ぶ。
動き情報取得部1004から取得した動き情報を蓄積していく(S10003)。この蓄積されている情報を、「動き区間中間情報」と呼ぶ。
変化点検出部1005より変化点検出通知を受信した場合、S10005へ進み、受信できない場合はS10002へ戻り、受信できるまでS10002およびS10003の処理を繰り返す(S10004)。
S10004において変化点検出通知を受信した場合、S10003において蓄積した動き区間中間情報を、動き区間情報としてカメラワーク情報導出部1008および、カメラワーク評価部1009へ送信する(S10005)。
S10004において変化点検出通知を受信した場合、S10003において蓄積した動き区間中間情報を、動き区間情報としてカメラワーク情報導出部1008および、カメラワーク評価部1009へ送信する(S10005)。
S10003において蓄積した動き区間中間情報を破棄し、S10002へ戻る(S10006)。
次に、動き情報として図7の(a)(b)(c)および図8の(a)(b)(c)を受信している間に、変化点検出部1005から動作開始点である点8001、変化点である点8002、変化点である点8003、変化点である点8004に関する通知を順次、受信した場合を考える。
次に、動き情報として図7の(a)(b)(c)および図8の(a)(b)(c)を受信している間に、変化点検出部1005から動作開始点である点8001、変化点である点8002、変化点である点8003、変化点である点8004に関する通知を順次、受信した場合を考える。
S10001において動作開始点である点8001に関する通知を受信する。
S10002において図7の(a)(b)(c)および図8の(a)(b)(c)に示される動き情報を取得する。なお、S10002においては図7の(a)(b)(c)および図8の(a)(b)(c)に示されている動き情報を全て受信するのではなく、動き情報取得部1004でフレーム単位に取得できた動き情報から、随時受信していくことになる。
S10002において図7の(a)(b)(c)および図8の(a)(b)(c)に示される動き情報を取得する。なお、S10002においては図7の(a)(b)(c)および図8の(a)(b)(c)に示されている動き情報を全て受信するのではなく、動き情報取得部1004でフレーム単位に取得できた動き情報から、随時受信していくことになる。
S10003において、S10002において随時受信している動き情報を装置内のバッファメモリ等(図示せず)に蓄積して、動き区間中間情報を更新していく。
S10004において変化点である点8002に関する変化点検出通知を受信するまで、S10002の動き情報の取得およびS10003の動き情報の蓄積つまり、動き区間中間情報の更新を行う。変化点である点8002に関する変化点検出通知を受信した時点で、動作開始点である点8001に関する変化点検出通知を受信してから、変化点である点8002に関する変化点検出通知を受信するまでの間にS10003において蓄積した動き情報つまり動き区間中間情報を、動き区間情報としてカメラワーク情報導出部1008およびカメラワーク評価部1009へ送信する。
S10004において変化点である点8002に関する変化点検出通知を受信するまで、S10002の動き情報の取得およびS10003の動き情報の蓄積つまり、動き区間中間情報の更新を行う。変化点である点8002に関する変化点検出通知を受信した時点で、動作開始点である点8001に関する変化点検出通知を受信してから、変化点である点8002に関する変化点検出通知を受信するまでの間にS10003において蓄積した動き情報つまり動き区間中間情報を、動き区間情報としてカメラワーク情報導出部1008およびカメラワーク評価部1009へ送信する。
このとき送信される動き区間情報11000を図11に示す。
行11001には加速度情報が、行11002には速度情報が記載されている。
また、列11003にはx軸方向の情報が、列11004にはy軸方向の情報が、列11005にはz軸方向の情報が記載されている。つまり、行11001の列11003にはx軸方向の加速度が記載されていることになる。
行11001には加速度情報が、行11002には速度情報が記載されている。
また、列11003にはx軸方向の情報が、列11004にはy軸方向の情報が、列11005にはz軸方向の情報が記載されている。つまり、行11001の列11003にはx軸方向の加速度が記載されていることになる。
図11に示されているように、動き情報取得部1004より取得した動き情報が、動作開始点である点8001から変化点である点8002の間の区間分、S10003において蓄積されている。
カメラワーク評価部1009へ送信完了後、S10003において蓄積していた情報を破棄する。
カメラワーク評価部1009へ送信完了後、S10003において蓄積していた情報を破棄する。
S10002へ戻り、S10002およびS10003の処理によって、変化点である点8002に関する変化点検出通知を受信してから、次に変化点である点8003に関する変化点検出通知を受信するまでの間の動き情報を蓄積することになる。
変化点である点8003に関する変化点検出通知を受信した際にカメラワーク情報導出部1008及びカメラワーク評価部1009へ送信される動き区間情報12000を図12に示す。情報の記載方法は図11と同様である。
変化点である点8003に関する変化点検出通知を受信した際にカメラワーク情報導出部1008及びカメラワーク評価部1009へ送信される動き区間情報12000を図12に示す。情報の記載方法は図11と同様である。
同様に処理を行い、変化点である点8004に関する変化点検出通知を受信した際にカメラワーク情報導出部1008およびカメラワーク評価部1009へ送信される動き区間情報13000を図13に示す。情報の記載方法は図11と同様である。
(2−6.カメラワーク情報導出部の動作例)
次にカメラワーク情報導出部1008の動作について説明する。カメラワーク情報導出部1008は、動き区間情報取得部1007より取得した動き区間情報と、予め保持しているカメラワーク対応関係情報を用いて、取得した動き区間情報に対応するカメラワーク情報を導出する。
(2−6.カメラワーク情報導出部の動作例)
次にカメラワーク情報導出部1008の動作について説明する。カメラワーク情報導出部1008は、動き区間情報取得部1007より取得した動き区間情報と、予め保持しているカメラワーク対応関係情報を用いて、取得した動き区間情報に対応するカメラワーク情報を導出する。
カメラワーク対応関係情報の一例を図14、図15、図16の(a)と(b)、図17の(a)と(b)に示す。図14、図15、図16、図17は、それぞれカメラワークが静止、ドリー、パン、ティルトの状態における各軸方向の加速度と速度を示している。なお、これらは一例であり、これらのみに限定されるものではない。また、今回は、x、y、zの各軸方向の速度と加速度からなる動き区間情報と、カメラワーク情報を対応させて記述しているが、カメラワーク対応関係情報の記述方法や持っているべき情報がこれらに限定されるものではない。動き区間情報を評価する条件式とカメラワーク情報を対応させて記述しておいてもよい。図14の行14001にカメラワーク情報が記述されている。行14002および行14003には、行14001に記述されているカメラワーク情報に対応する動き区間情報が記述されている。カメラワーク対応関係情報に記述されている動き区間情報は、数値データで与えられるが、図14、図15、図16の(a)と(b)、図17の(a)と(b)では、分かりや易くするためにその数値データを図示してある。行14002には加速度が、行14003には速度が記述されており、列14004にはx軸方向の情報が、列14005にはy軸方向の情報が、列14006にはz軸方向の情報が記述されている。つまり、行14002の列14004には、行14001に記述されているカメラワーク情報「静止」に対応する動き区間情報の中の、加速度のx軸方向の情報が記述されていることになる。
また、カメラワーク情報が「パン」でも、右へパンや左へパン、ゆっくりや素早く、など様々な動きが存在する。そのため、図16の(a)と(b)に分けて図示したように同じカメラワーク情報「パン」に対して、異なる動き区間情報の組み合わせを対応づけてもよい。
カメラワーク情報導出部の処理の流れを、図18のフローチャートを用いて説明する。
カメラワーク情報導出部の処理の流れを、図18のフローチャートを用いて説明する。
動き区間情報取得部1007より、動き区間情報を取得する(S18001)。
S18001で取得した動き区間情報から、x軸方向の加速度の時間変化を取り出し、予め保持しているカメラワーク対応関係情報のx軸方向加速度の時間変化と照合を行う。この際の照合方法は、カメラワーク対応関係情報に保持されているx軸方向加速度の時間変化の値を、S18001で取得した動き区間情報のx軸方向加速度の時間変化の時間と同じになるように時間軸方向に拡大または縮小し、また、加速度の最大値が同じになるように加速度も拡大または縮小を行う。その後、拡大または縮小を行ったカメラワーク対応関係情報に記述されていたx軸方向加速度の時間変化の値と、S18001で取得した動き区間情報とを用いて、相関係数を求め、その値がある値以上であった場合を一致したと見なす。相関係数rは、例えば以下の(数4)を用いて求める。ここで、nは照合を行うデータの数、d(i)、e(i)はそれぞれ照合をおこなうデータdおよびeのi番目の値、D、Eはそれぞれd、eそれぞれの平均の値である。本実施の形態では、d(i)、e(i)はそれぞれ動き区間情報の保持するx軸方向加速度の各時間での値、カメラワーク対応関係情報の保持するx軸方向加速度の各時間での値である。
S18001で取得した動き区間情報から、x軸方向の加速度の時間変化を取り出し、予め保持しているカメラワーク対応関係情報のx軸方向加速度の時間変化と照合を行う。この際の照合方法は、カメラワーク対応関係情報に保持されているx軸方向加速度の時間変化の値を、S18001で取得した動き区間情報のx軸方向加速度の時間変化の時間と同じになるように時間軸方向に拡大または縮小し、また、加速度の最大値が同じになるように加速度も拡大または縮小を行う。その後、拡大または縮小を行ったカメラワーク対応関係情報に記述されていたx軸方向加速度の時間変化の値と、S18001で取得した動き区間情報とを用いて、相関係数を求め、その値がある値以上であった場合を一致したと見なす。相関係数rは、例えば以下の(数4)を用いて求める。ここで、nは照合を行うデータの数、d(i)、e(i)はそれぞれ照合をおこなうデータdおよびeのi番目の値、D、Eはそれぞれd、eそれぞれの平均の値である。本実施の形態では、d(i)、e(i)はそれぞれ動き区間情報の保持するx軸方向加速度の各時間での値、カメラワーク対応関係情報の保持するx軸方向加速度の各時間での値である。
同様に、x軸方向の速度、y軸、z軸方向の速度加速度についても照合を行う(S18002)。
S18002において、x、y、z軸の速度と加速度全ての時間変化が、動き区間情報と一致しているカメラワーク対応関係情報が存在するかを判断する(S18003)。存在する場合、S18005へ進み、存在しない場合S18004へ進む。
S18002において、x、y、z軸の速度と加速度全ての時間変化が、動き区間情報と一致しているカメラワーク対応関係情報が存在するかを判断する(S18003)。存在する場合、S18005へ進み、存在しない場合S18004へ進む。
S18003で存在しないと判断された場合、カメラワーク緩和条件を適用の上、再度カメラワーク対応関係情報と照合を行う(S18004)。カメラワーク緩和条件については後述する。カメラワーク緩和条件を適用した上でx、y、z軸の速度と加速度全ての時間変化が、S18001で取得した動き区間情報と一致しているカメラワーク対応関係情報が存在するかを判断する。一致しているものが存在する場合、S18005へ進み、存在しない場合、S18006へ進む。
S18003または、S18004で存在すると判断された場合、そのカメラワーク対応関係情報に記述されているカメラワーク情報を、S18001で取得した動き区間情報のカメラワーク情報として取得する(S18005)。
S18005において取得したカメラワーク情報を情報保持部1010へ送信すると共に、カメラワーク評価部1009へ送信する(S18006)。
S18005において取得したカメラワーク情報を情報保持部1010へ送信すると共に、カメラワーク評価部1009へ送信する(S18006)。
以上で処理を終了する(S18007)。
カメラワーク緩和条件を保持するカメラワーク緩和条件表の一例を図19に示す。カメラワーク緩和条件表19000の各行に、カメラワーク対応関係情報の条件を緩和する情報が記載されている。列19005には、該当するカメラワーク対応関係情報を特定するため、カメラワーク情報が記述されている。列19006には、カメラワーク対応関係情報の条件を緩和する情報が記載されている。例えば、行19001は、列19005に「パン」、行19011の列19008および列19009には何も情報が記載されておらず、列19010には「N/A」と記載されている。また、行19012の列19008および列19009には何も情報が記載されておらず、列19010には「N/A」と記載されている。
カメラワーク緩和条件を保持するカメラワーク緩和条件表の一例を図19に示す。カメラワーク緩和条件表19000の各行に、カメラワーク対応関係情報の条件を緩和する情報が記載されている。列19005には、該当するカメラワーク対応関係情報を特定するため、カメラワーク情報が記述されている。列19006には、カメラワーク対応関係情報の条件を緩和する情報が記載されている。例えば、行19001は、列19005に「パン」、行19011の列19008および列19009には何も情報が記載されておらず、列19010には「N/A」と記載されている。また、行19012の列19008および列19009には何も情報が記載されておらず、列19010には「N/A」と記載されている。
行19001「パン」と記載されているので、これは「パン」のカメラワークを規定しているカメラワーク対応関係情報16100およびカメラワーク対応関係情報16200に対する緩和条件であることを表している。そして、なにも記載されていないx軸方向の加速度および速度、y軸方向の加速度および速度に関しては、カメラワーク対応関係情報16100の列16103および列16104に記載されているx軸方向およびy軸方向の加速度と速度の時間変化と動き区間情報との照合を行う。カメラワーク対応関係情報16200についても同様である。また、「N/A」と記載されているz軸方向の加速度および速度に関してはカメラワーク対応関係情報16100の列16102とカメラワーク対応関係情報16200の列16202に記載されているz軸方向の速度及び加速度の時間変化と、動き区間情報との照合を行う際に、常に一致していると判断するようにする。他のカメラワーク緩和条件についても同様である。ここで、カメラワーク情報導出部1008において、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報を保持し、カメラワーク緩和条件として図19に示すカメラワーク緩和条件表19000に記載の情報を保持している状態で、動き区間情報取得部1007より、図11、図12、図13に示す動き区間情報を取得した場合の動作について以下に説明する。
図11の動き区間情報を取得する(S18001)。
カメラワーク情報導出部1008は、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記述されている動き区間情報と照合を行う(S18002)。まず、動き区間情報11000の行11001の列11003に記載されているx軸方向の加速度の時間変化と、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記載されているx軸方向の加速度の時間変化より、相関係数を求める。相関係数を求めた結果、図14、図15、図17の(a)と(b)に記載されているx軸方向の加速度との相関係数が「1」となり、一致したと判断する。同様に動き区間情報11000の行11002の列11003に記載されているx軸方向の速度、列11004に記載されているy軸方向の加速度と速度、列11005に記載されているz軸方向の加速度と速度に関しても同様にカメラワーク対応関係情報に記載されている各軸方向の速度および加速度の時間変化と相関係数を求め、一致しているかを判断する。
カメラワーク情報導出部1008は、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記述されている動き区間情報と照合を行う(S18002)。まず、動き区間情報11000の行11001の列11003に記載されているx軸方向の加速度の時間変化と、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記載されているx軸方向の加速度の時間変化より、相関係数を求める。相関係数を求めた結果、図14、図15、図17の(a)と(b)に記載されているx軸方向の加速度との相関係数が「1」となり、一致したと判断する。同様に動き区間情報11000の行11002の列11003に記載されているx軸方向の速度、列11004に記載されているy軸方向の加速度と速度、列11005に記載されているz軸方向の加速度と速度に関しても同様にカメラワーク対応関係情報に記載されている各軸方向の速度および加速度の時間変化と相関係数を求め、一致しているかを判断する。
本実施の形態では、図14に示したカメラワーク対応関係情報14000の行14002に記述されている各軸方向の加速度の時間変化の情報と、図11の行11001に記述されている加速度の時間変化の情報が一致し、カメラワーク対応関係情報14000の行14003に記述されている各軸方向の速度の時間変化の情報と、図11の行11002に記述されている速度の時間変化の情報が一致していると判断する(S18003)。
図11の動き区間情報に対応するカメラワーク情報は、カメラワーク対応関係情報14000の行14001に記述されている「静止」であると判断する(S18005)。
導出されたカメラワーク情報「静止」は情報保持部1010へ送信されると共に、カメラワーク評価部1009へ送信される(S18006)。
図12の動き区間情報12000を取得する(S18001)。
導出されたカメラワーク情報「静止」は情報保持部1010へ送信されると共に、カメラワーク評価部1009へ送信される(S18006)。
図12の動き区間情報12000を取得する(S18001)。
カメラワーク情報導出部1008は、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記述されている動き区間情報と照合を行う(S18002)。上記の動き区間情報11000の時と同様に、x、y、zの各軸方向の加速度と速度の時間変化と、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示すカメラワーク対応関係情報に記載されているx、y、zの各軸方向の加速度と速度の時間変化より、相関係数を求め、一致しているかどうかを判断する。
しかし今回の場合、動き区間情報12000と、x、y、zの各軸方向の加速度と速度の時間変化がすべて一致するカメラワーク対応関係情報は存在しない(S18003)。
従って、図19に示すカメラワーク緩和条件表19000に保持されているカメラワーク緩和条件をカメラワーク対応関係情報に適用し、再度照合を行う(S18004)。動き区間情報12000の列12003および列12004に記述されている情報とカメラワーク対応関係情報15000の列15004及び列15005に記載されている情報は一致している。また、動き区間情報12000の列12005に記述されているz軸方向の加速度及び速度の時間変化情報と、カメラワーク対応関係情報15000の列15006に記述されているz軸方向の加速度と速度の時間変化が異なる。しかし、カメラワーク対応関係情報15000の行15001に記載されている「ドリー」というカメラワーク情報から、カメラワーク緩和条件表19000の列19005に「ドリー」と記載されている行19003を発見し、行19003に記載されているカメラワーク緩和条件をカメラワーク対応関係情報15000に適用すると、列15006に記述されているz軸方向の加速度と速度の時間変化は、相関係数の値に関係なく、一致していると判断してよいことになる。従って、動き区間情報12000と、x、y、zの各軸方向の加速度と速度の時間変化がすべて一致するカメラワーク対応関係情報が存在したと判断する。
従って、図19に示すカメラワーク緩和条件表19000に保持されているカメラワーク緩和条件をカメラワーク対応関係情報に適用し、再度照合を行う(S18004)。動き区間情報12000の列12003および列12004に記述されている情報とカメラワーク対応関係情報15000の列15004及び列15005に記載されている情報は一致している。また、動き区間情報12000の列12005に記述されているz軸方向の加速度及び速度の時間変化情報と、カメラワーク対応関係情報15000の列15006に記述されているz軸方向の加速度と速度の時間変化が異なる。しかし、カメラワーク対応関係情報15000の行15001に記載されている「ドリー」というカメラワーク情報から、カメラワーク緩和条件表19000の列19005に「ドリー」と記載されている行19003を発見し、行19003に記載されているカメラワーク緩和条件をカメラワーク対応関係情報15000に適用すると、列15006に記述されているz軸方向の加速度と速度の時間変化は、相関係数の値に関係なく、一致していると判断してよいことになる。従って、動き区間情報12000と、x、y、zの各軸方向の加速度と速度の時間変化がすべて一致するカメラワーク対応関係情報が存在したと判断する。
動き区間情報12000に対応するカメラワーク情報は、カメラワーク対応関係情報15000の行15001に記述されている「ドリー」であると判断する(S18005)。
導出されたカメラワーク情報「ドリー」は情報保持部1010へ送信されると共に、カメラワーク評価部1009へ送信される(S18006)。
導出されたカメラワーク情報「ドリー」は情報保持部1010へ送信されると共に、カメラワーク評価部1009へ送信される(S18006)。
このように、カメラワーク対応関係情報に記述されている情報と動き区間情報が一致しない場合でも、カメラワーク緩和条件をもちいて、その規則に従ってカメラワーク対応関係情報の条件を一部緩和させ、動き区間情報と一致しているかを判断し、カメラワーク情報を判断する。
図13の動き区間情報13000を取得した場合の、カメラワーク情報導出部1008は、動き区間情報11000を取得した場合と同様に処理を行い、カメラワーク情報として図16のカメラワーク対応関係情報16100の行16101に記述されている「パン」であると判断する。
図13の動き区間情報13000を取得した場合の、カメラワーク情報導出部1008は、動き区間情報11000を取得した場合と同様に処理を行い、カメラワーク情報として図16のカメラワーク対応関係情報16100の行16101に記述されている「パン」であると判断する。
導出されたカメラワーク情報「パン」は情報保持部1010へ送信されると共に、カメラワーク評価部1009へ送信される。
(2−7.カメラワーク評価部の動作例)
次にカメラワーク評価1009部の動作について説明する。図20のフローチャートを用いて処理の流れを説明する。
(2−7.カメラワーク評価部の動作例)
次にカメラワーク評価1009部の動作について説明する。図20のフローチャートを用いて処理の流れを説明する。
動き区間情報取得部1007より、動き区間情報を取得する(S20001)。
次に、S20001の動き区間情報に対応するカメラワーク情報を、カメラワーク情報導出部1008より取得する(S20002)。
S20002で取得したカメラワーク情報を用いて、予め保持している複数のカメラワーク評価指標の中から、今回用いるカメラワーク評価指標を選択する(S20003)。
次に、S20001の動き区間情報に対応するカメラワーク情報を、カメラワーク情報導出部1008より取得する(S20002)。
S20002で取得したカメラワーク情報を用いて、予め保持している複数のカメラワーク評価指標の中から、今回用いるカメラワーク評価指標を選択する(S20003)。
S20003で選択されたカメラワーク評価指標を用いて、S20001で取得した動き区間情報を評価し、評価値を得る(20004)。
20004で導出した評価値を情報保持部1010へ送信する(20005)。
処理を終了する(20006)。
図21にカメラワーク評価指標の一例を示す。
20004で導出した評価値を情報保持部1010へ送信する(20005)。
処理を終了する(20006)。
図21にカメラワーク評価指標の一例を示す。
列21005にカメラワーク情報が記載され、列21006に評価指標、列21007に評価値が記載されている。また、一つのカメラワーク情報に対して複数の評価指標と評価値が存在してもよい。例えば行21004の列21005に記載されているカメラワーク情報「静止」の場合、評価指標として行21010に記載されているものと、行21011に記載されているものの二種類が存在することになる。そして、行21010の列21006に記載されている評価指標に、動き区間情報が適合すれば、行21010の列21007に記載されている評価値が与えられる。他の行に記載されている評価指標についても同様である。ここで、行21006で使われている「A」、「B」、「C」、「D」、「E」、「F」は予め定められている定数である。また、下記の(数5)、(数6)、(数7)はそれぞれ、x軸方向速度の大きさ、y軸方向速度の大きさ、z軸方向速度の大きさを表す。
カメラワーク評価部1009において予め図21に示したカメラワーク評価指標を保持している状態で、動き区間情報11000を動き区間情報取得部1007より取得し、カメラワーク情報として「静止」をカメラワーク情報導出部1008から取得する場合のカメラワーク評価部1009の処理の流れを図20のフローチャートに沿って説明する。
動き区間情報11000を動き区間情報取得1007より取得する(S20001)。
カメラワーク情報として「静止」をカメラワーク情報導出部1008より取得する(S20002)。
動き区間情報11000を動き区間情報取得1007より取得する(S20001)。
カメラワーク情報として「静止」をカメラワーク情報導出部1008より取得する(S20002)。
図21の複数のカメラワーク評価指標の中から、行21010および行21011に記載されている、カメラワーク情報が「静止」である場合のカメラワーク評価指標を選択する(S20003)。
動き区間情報11000を、図21の行21010および行21011に記載のカメラワーク評価指標を用いて評価を行う。図22の(a)に動き区間情報11000の行11002に記載されている各軸方向の速度と、図21の行21010および行21011に記載のカメラワーク評価指標の閾値を破線で図示する。図22の(a)より、行21010に記載されている評価指標を満たし、行21011に記載されている評価指標を満たしていないことがわかる。従って、評価値として行21010の列21007に記載されている「OK」を得る(S20004)。この「OK」は、例えば、映像品質の高い映像であることを意味する。そして、評価値「OK」をカメラワーク評価値として情報保持部1010へ送信する(S20005)。
動き区間情報11000を、図21の行21010および行21011に記載のカメラワーク評価指標を用いて評価を行う。図22の(a)に動き区間情報11000の行11002に記載されている各軸方向の速度と、図21の行21010および行21011に記載のカメラワーク評価指標の閾値を破線で図示する。図22の(a)より、行21010に記載されている評価指標を満たし、行21011に記載されている評価指標を満たしていないことがわかる。従って、評価値として行21010の列21007に記載されている「OK」を得る(S20004)。この「OK」は、例えば、映像品質の高い映像であることを意味する。そして、評価値「OK」をカメラワーク評価値として情報保持部1010へ送信する(S20005)。
動き区間情報12000およびカメラワーク情報「ドリー」を取得した場合も、同様に処理が行われる。参考のため、S20004において評価が行われる際の図を図22の(b)に示す。図21の行21003に記載されている二つの評価指標は共にz軸方向の速度に対しての評価指標であるため、図22の(b)の行22201の列22202に記載されているz軸方向の速度変化に対して、評価を行う。今回の場合は、行21009に記載の評価指標を満たし、行21008に記載の評価指標を満たしていないことがわかる。従って、評価値として「NG」を得る。そして、この値をカメラワーク評価値として情報保持部1010へ送信する。この「NG」は、例えば、映像品質の低い映像であることを意味する。
動き区間情報13000およびカメラワーク情報「パン」を取得した場合も、同様に処理が行われ、評価値として「OK」を得たとする。この値をカメラワーク評価値として情報保持部1010へ送信する。
(2−8.情報保持部の動作例)
情報保持部1010について説明する。情報取得部1010は、映像アドレス取得部1006から取得した変化点の映像アドレス、カメラワーク情報導出部1008から取得したカメラワーク情報、カメラワーク評価部1009より取得したカメラワーク評価値を記録するため、情報管理表を保持する。一例として情報管理表を図23に示す。情報管理表23000の列23001に映像アドレス、列23002にカメラワーク情報、列23003にカメラワーク評価値を各行ごとに対応させて記録する。例えば、行23004は、映像アドレス「00:00:00:00」から「00:00:10:00」の区間のカメラワーク情報は「静止」であり、カメラワーク評価値は「OK」であると言うことを表している。他の行についても同様に解釈することができる。
(2−8.情報保持部の動作例)
情報保持部1010について説明する。情報取得部1010は、映像アドレス取得部1006から取得した変化点の映像アドレス、カメラワーク情報導出部1008から取得したカメラワーク情報、カメラワーク評価部1009より取得したカメラワーク評価値を記録するため、情報管理表を保持する。一例として情報管理表を図23に示す。情報管理表23000の列23001に映像アドレス、列23002にカメラワーク情報、列23003にカメラワーク評価値を各行ごとに対応させて記録する。例えば、行23004は、映像アドレス「00:00:00:00」から「00:00:10:00」の区間のカメラワーク情報は「静止」であり、カメラワーク評価値は「OK」であると言うことを表している。他の行についても同様に解釈することができる。
(3.効果)
以上の処理によって、撮影動作の変化点で映像アドレスが記録されており、この映像アドレスを頭出し再生に利用することによって、撮影動作の単位で映像の頭出し再生などが可能になる。また、頭出し点によって分割された映像区間には、カメラワーク情報が映像と関連づけて付与されており、それらカメラワーク情報を検索キーとして検索を行い、該当する映像区間を特定し、その特定された映像に対して、再生や切り出しなどの編集作業を行うことが可能になる。また、各映像区間にはカメラワークに依存した評価指標によって評価が行われ、評価値が付与されている。この評価値を用いて、手ぶれの少ない映像区間などの、映像品質の高い映像区間のみを利用者に提示する等の処理を行うことが可能になる。
以上の処理によって、撮影動作の変化点で映像アドレスが記録されており、この映像アドレスを頭出し再生に利用することによって、撮影動作の単位で映像の頭出し再生などが可能になる。また、頭出し点によって分割された映像区間には、カメラワーク情報が映像と関連づけて付与されており、それらカメラワーク情報を検索キーとして検索を行い、該当する映像区間を特定し、その特定された映像に対して、再生や切り出しなどの編集作業を行うことが可能になる。また、各映像区間にはカメラワークに依存した評価指標によって評価が行われ、評価値が付与されている。この評価値を用いて、手ぶれの少ない映像区間などの、映像品質の高い映像区間のみを利用者に提示する等の処理を行うことが可能になる。
なお、本実施の形態では撮像部を設け、撮像部の動きを取得できるようにセンサを設け、映像記録制御部が撮像部から映像を取得し、動き情報取得部がセンサから動き情報を取得する例を用いて説明を行ったが、予め、映像アドレスを付与した映像、およびその映像を撮像した装置の動き情報を記録しておき、動き情報取得部は記録されている動き情報を読み出し、映像アドレス取得部は記録されているアドレス情報を読み出すように動作させてもよい。
(実施の形態2)
本実施の形態において、実施の形態1に記載のビデオカメラを用いて撮影を行った際の、撮影時のビデオカメラの左右や前後への動きの情報をもとに、撮影した映像に対してカメラワーク情報を付与する方法を実装したシステムにおいて、さらに、カメラワーク情報導出部が保持するカメラワーク対応関係情報を、生成する方法およびシステムについて説明する。
本実施の形態において、実施の形態1に記載のビデオカメラを用いて撮影を行った際の、撮影時のビデオカメラの左右や前後への動きの情報をもとに、撮影した映像に対してカメラワーク情報を付与する方法を実装したシステムにおいて、さらに、カメラワーク情報導出部が保持するカメラワーク対応関係情報を、生成する方法およびシステムについて説明する。
(1.全体構成)
図24に本実施の形態の全体構成を示す。撮像部1001、映像記録制御部1002、映像保持部1003、動き情報取得部1004、変化点検出部1005、動き区間情報1007は実施の形態1と同様であるため、説明を省略する。また、映像アドレス取得部1006、カメラワーク評価部1009はそれぞれで取得した情報を記録する先が、情報保持部1010ではなく情報保持部24004である以外は、実施の形態1と同様であるため、説明を省略する。
図24に本実施の形態の全体構成を示す。撮像部1001、映像記録制御部1002、映像保持部1003、動き情報取得部1004、変化点検出部1005、動き区間情報1007は実施の形態1と同様であるため、説明を省略する。また、映像アドレス取得部1006、カメラワーク評価部1009はそれぞれで取得した情報を記録する先が、情報保持部1010ではなく情報保持部24004である以外は、実施の形態1と同様であるため、説明を省略する。
カメラワーク情報導出部24001は、実施の形態1に記載のカメラワーク情報導出部1008と同様にカメラワーク情報を導出し、情報保持部24002へ記録する。また、カメラワーク情報を導出した際に用いた動き区間情報も情報保持部24002へ記録する。
情報保持部24002は、実施の形態1に記載の情報保持部1010と同様に、映像アドレス、カメラワーク情報、カメラワーク評価情報を保持する。また、これらの情報に加えて、カメラワーク情報導出部24001より受信する、動き区間情報も保持する。
情報保持部24002は、実施の形態1に記載の情報保持部1010と同様に、映像アドレス、カメラワーク情報、カメラワーク評価情報を保持する。また、これらの情報に加えて、カメラワーク情報導出部24001より受信する、動き区間情報も保持する。
カメラワーク情報定義部24003は、キーボードなどの利用者からの入力手段及び利用者に情報を提示する表示手段をもち、情報保持部24002に保持されている動き区間情報を読み出し利用者に提示し、その読み出した動き区間情報に対して、利用者から新たにカメラワーク情報の定義の入力を受ける。
カメラワーク対応関係情報更新部24004は、カメラワーク情報定義部24003で新たに定義されたカメラワーク情報とそのカメラワーク情報に対応する動き区間情報から、動き区間対応関係情報を生成し、カメラワーク情報導出部に保持されているカメラワーク対応関係情報に追加する。
カメラワーク対応関係情報更新部24004は、カメラワーク情報定義部24003で新たに定義されたカメラワーク情報とそのカメラワーク情報に対応する動き区間情報から、動き区間対応関係情報を生成し、カメラワーク情報導出部に保持されているカメラワーク対応関係情報に追加する。
(2.処理の詳細)
以下に、一例として図24に示した構成をすべて図3に示すビデオカメラ3001に実装し、図4に示す流れで撮影を行う場合を考える。
(2−1.カメラワーク情報導出部の動作例)
カメラワーク情報導出部24001の動作について説明する。カメラワーク情報導出部24001は、カメラワーク情報導出部1008と同様に、動き区間情報取得部1007より取得した動き区間情報と、予め保持ししているカメラワーク対応関係情報を用いて、取得した動き区間情報に対応するカメラワーク情報を導出する。
以下に、一例として図24に示した構成をすべて図3に示すビデオカメラ3001に実装し、図4に示す流れで撮影を行う場合を考える。
(2−1.カメラワーク情報導出部の動作例)
カメラワーク情報導出部24001の動作について説明する。カメラワーク情報導出部24001は、カメラワーク情報導出部1008と同様に、動き区間情報取得部1007より取得した動き区間情報と、予め保持ししているカメラワーク対応関係情報を用いて、取得した動き区間情報に対応するカメラワーク情報を導出する。
そして、導出したカメラワーク情報に加えて、カメラワーク情報を導出する際に用いた動き区間情報も情報保持部24002へ送信する。
カメラワーク情報導出部24001の処理の流れを、図25のフローチャートを用いて説明する。
S18001、S18002、S18003、S18004、S18005、S18007は、カメラワーク情報導出部1008の処理の説明の際に説明した図18のフローチャートと同様であるため説明を省略する。
カメラワーク情報導出部24001の処理の流れを、図25のフローチャートを用いて説明する。
S18001、S18002、S18003、S18004、S18005、S18007は、カメラワーク情報導出部1008の処理の説明の際に説明した図18のフローチャートと同様であるため説明を省略する。
S18005でカメラワーク対応関係表からカメラワーク情報を取得した後、S18001において取得した動き区間情報とS18005で取得したカメラワーク情報を情報保持部24002へ送信する(S25001)。
ここで、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示したカメラワーク対応関係情報と、図19に示したカメラワーク緩和条件表を保持している状態で、動き区間情報取得部1007より、図11に示す動き区間情報11000を取得した場合の動作について説明する。
ここで、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示したカメラワーク対応関係情報と、図19に示したカメラワーク緩和条件表を保持している状態で、動き区間情報取得部1007より、図11に示す動き区間情報11000を取得した場合の動作について説明する。
図11の動き区間情報11000を取得したのち、カメラワーク情報として「静止」と判断するまでの処理は、カメラワーク情報導出部1008の場合と同じであるため省略する。
S18001で取得した図11に示した動き区間情報11000と、S18005で導出したカメラワーク情報「静止」を情報保持部24002へ送信すると共に、カメラワーク情報「静止」はカメラワーク評価部1009へ送信される(S25001)
カメラワーク情報導出部24001が図12または図13に示す動き区間情報12000または動き区間情報13000を取得した場合も、それぞれ図11に示した動き区間情報11000を取得した場合と同様に動作し、それぞれカメラワーク情報「ドリー」または「パン」を導出するまでは、カメラワーク情報導出部1008と同様に動作する。そして、それぞれS24001において、S18001で取得した図12または図13に示した動き区間情報12000または動き区間情報13000と、S18005で取得したカメラワーク情報「ドリー」または「パン」を情報保持部24002へ送信すると共に、カメラワーク情報「ドリー」または「パン」はカメラワーク評価部1009へ送信される。
S18001で取得した図11に示した動き区間情報11000と、S18005で導出したカメラワーク情報「静止」を情報保持部24002へ送信すると共に、カメラワーク情報「静止」はカメラワーク評価部1009へ送信される(S25001)
カメラワーク情報導出部24001が図12または図13に示す動き区間情報12000または動き区間情報13000を取得した場合も、それぞれ図11に示した動き区間情報11000を取得した場合と同様に動作し、それぞれカメラワーク情報「ドリー」または「パン」を導出するまでは、カメラワーク情報導出部1008と同様に動作する。そして、それぞれS24001において、S18001で取得した図12または図13に示した動き区間情報12000または動き区間情報13000と、S18005で取得したカメラワーク情報「ドリー」または「パン」を情報保持部24002へ送信すると共に、カメラワーク情報「ドリー」または「パン」はカメラワーク評価部1009へ送信される。
(2−2.情報保持部の動作例)
情報保持部24002について説明する。情報保持部24002は、映像アドレス取得部1006から取得した変化点の映像アドレス、カメラワーク情報導出部24001から取得したカメラワーク情報および動き区間情報、カメラワーク評価部1009より取得したカメラワーク評価値を記録するため、情報管理表を保持する。一例として、保持する情報管理表を図26に示す。情報管理表26000の列26001に映像アドレス、列26002にカメラワーク情報、列26003にカメラワーク評価値、列26004に動き区間情報を各行ごとに対応させて記録する。例えば、行26005は、列26001に映像アドレス取得部1006から取得した映像アドレスを、列26002にカメラワーク情報導出部24001から取得したカメラワーク情報を、列26003にカメラワーク評価部1009より取得したカメラワーク評価値を、列26004にカメラワーク情報導出部24001から取得した動き区間情報を保持し、映像アドレス「00:00:00:00」から「00:00:10:00」の区間のカメラワーク情報は「静止」であり、カメラワーク評価値は「OK」であり、動き区間情報は図11に示されている動き区間情報11000であるということを表している。
情報保持部24002について説明する。情報保持部24002は、映像アドレス取得部1006から取得した変化点の映像アドレス、カメラワーク情報導出部24001から取得したカメラワーク情報および動き区間情報、カメラワーク評価部1009より取得したカメラワーク評価値を記録するため、情報管理表を保持する。一例として、保持する情報管理表を図26に示す。情報管理表26000の列26001に映像アドレス、列26002にカメラワーク情報、列26003にカメラワーク評価値、列26004に動き区間情報を各行ごとに対応させて記録する。例えば、行26005は、列26001に映像アドレス取得部1006から取得した映像アドレスを、列26002にカメラワーク情報導出部24001から取得したカメラワーク情報を、列26003にカメラワーク評価部1009より取得したカメラワーク評価値を、列26004にカメラワーク情報導出部24001から取得した動き区間情報を保持し、映像アドレス「00:00:00:00」から「00:00:10:00」の区間のカメラワーク情報は「静止」であり、カメラワーク評価値は「OK」であり、動き区間情報は図11に示されている動き区間情報11000であるということを表している。
同様に、行26006には、動き区間情報12000と共に映像アドレス「00:00:10:00」「00:00:20:00」カメラワーク情報「ドリー」、カメラワーク評価値「NG」が記録されている。
同様に、行26007には、動き区間情報13000と共に映像アドレス「00:00:20:00」「00:00:30:00」カメラワーク情報「パン」、カメラワーク評価値「OK」が記録されている。
同様に、行26007には、動き区間情報13000と共に映像アドレス「00:00:20:00」「00:00:30:00」カメラワーク情報「パン」、カメラワーク評価値「OK」が記録されている。
(2−3.カメラワーク情報定義部の動作例)
カメラワーク情報定義部24003は、キーボードなどの利用者からの入力手段及び利用者に情報を提示する表示手段をもち、情報保持部24002に保持されている動き区間情報を読み出し利用者に提示し、その読み出した動き区間情報に対して、利用者から新たにカメラワーク情報の定義の入力を受ける。
カメラワーク情報定義部24003は、キーボードなどの利用者からの入力手段及び利用者に情報を提示する表示手段をもち、情報保持部24002に保持されている動き区間情報を読み出し利用者に提示し、その読み出した動き区間情報に対して、利用者から新たにカメラワーク情報の定義の入力を受ける。
処理の詳細を図27に示したフローチャートを用いて説明する。
利用者からの指示に従って、情報保持部24002に保持されている情報管理表から1行読み出す(S27001)。
S27001で読み出した映像アドレス、カメラワーク情報、カメラワーク評価値、動き区間情報を利用者に提示し、利用者が新たに定義したカメラワーク情報の入力を受け付ける(S27002)。
利用者からの指示に従って、情報保持部24002に保持されている情報管理表から1行読み出す(S27001)。
S27001で読み出した映像アドレス、カメラワーク情報、カメラワーク評価値、動き区間情報を利用者に提示し、利用者が新たに定義したカメラワーク情報の入力を受け付ける(S27002)。
S27001で読み出した動き区間情報と、S27002で利用者によって入力され、受信したカメラワーク情報を、カメラワーク対応関係情報更新部へ送信する(S27003)。
処理を終了する(S27004)。
具体例を用いて説明する。
処理を終了する(S27004)。
具体例を用いて説明する。
情報保持部24002が図26に示した情報管理表26000を保持している状態を考える。
利用者から情報管理表26000の行26006の情報取り出すよう指示を受けたとする。このとき、利用者からの指示に従って、情報管理表26000の行26006の情報を取り出す(S27001)。
利用者から情報管理表26000の行26006の情報取り出すよう指示を受けたとする。このとき、利用者からの指示に従って、情報管理表26000の行26006の情報を取り出す(S27001)。
S27001で取り出した、映像アドレス「00:00:10:00」「00:00:20:00」、カメラワーク情報「ドリー」、カメラワーク評価情報「NG」、動き区間情報12000を利用者に提示し、新たにカメラワーク情報の入力を受ける(S27002)。本実施の形態においては、「歩行中」という入力を受けたとする。なお、このとき、映像アドレスの情報と映像保持部1003の情報を用いて、映像アドレスが示す映像区間を再生し、利用者に提示してもよい。
S27002で入力を受けた、「歩行中」というカメラワーク情報と、S27001で取り出した動き区間情報12000をカメラワーク対応関係情報更新部24004へ送信する(S27003)。
そして、処理を終了する(S27004)。
なお、S27002で利用者によって定義され、入力されたカメラワーク情報を、情報保持部24002へ送信し、該当する行に従来記録されているカメラワーク情報を置換して記録してもよい。
そして、処理を終了する(S27004)。
なお、S27002で利用者によって定義され、入力されたカメラワーク情報を、情報保持部24002へ送信し、該当する行に従来記録されているカメラワーク情報を置換して記録してもよい。
(2−4.カメラワーク対応関係情報更新部の動作例)
カメラワーク対応関係情報更新部24004は、カメラワーク情報定義部24003で新たに定義されたカメラワーク情報とそのカメラワーク情報に対応する動き区間情報から、動き区間対応関係情報を生成し、カメラワーク情報導出部に保持されているカメラワーク対応関係情報に追加する。
カメラワーク対応関係情報更新部24004は、カメラワーク情報定義部24003で新たに定義されたカメラワーク情報とそのカメラワーク情報に対応する動き区間情報から、動き区間対応関係情報を生成し、カメラワーク情報導出部に保持されているカメラワーク対応関係情報に追加する。
処理の詳細を図28に示したフローチャートを用いて説明する。
カメラワーク情報定義部24003から、カメラワーク情報と動き区間情報を取得する(S28001)。
S28001で取得したカメラワーク情報と動き区間情報からカメラワーク対応関係情報を作成する(S28002)。
カメラワーク情報定義部24003から、カメラワーク情報と動き区間情報を取得する(S28001)。
S28001で取得したカメラワーク情報と動き区間情報からカメラワーク対応関係情報を作成する(S28002)。
S28002で作成したカメラワーク対応関係情報をカメラワーク導出部24001の保持しているカメラワーク対応関係情報に追加する(S28003)。すでに同じ動き区間情報が定義済みの場合は、そのカメラワーク対応関係情報と置換してもよい。
処理を終了させる(S28004)。
具体例を用いて説明する。
処理を終了させる(S28004)。
具体例を用いて説明する。
カメラワーク情報定義部24003から、カメラワーク情報として「歩行中」を、動き区間情報として動き区間情報12000を取得する場合を考える。また、このときカメラワーク情報導出部24001は図14、図15、図16の(a)と(b)、図17の(a)と(b)に示したカメラワーク対応関係情報を保持しているとする。
カメラワーク情報定義部24003から、カメラワーク情報「歩行中」および、動き区間情報12000を取得する(S28001)。
カメラワーク情報定義部24003から、カメラワーク情報「歩行中」および、動き区間情報12000を取得する(S28001)。
S28001で取得したカメラワーク情報「歩行中」と動き区間情報12000より、カメラワーク対応関係情報を作成する(S28002)。図29にこのとき作成されたカメラワーク対応関係情報29000を示す。行29001にカメラワーク情報「歩行中」が記述されており、行29002および行29003に動き区間情報12000が記述されている。
S28002において作成したカメラワーク対応関係情報29000をカメラワーク情報導出部24001のカメラワーク対応関係情報に追加する(S28003)。この結果として、カメラワーク情報導出部は、図14、図15、図16の(a)と(b)、図17の(a)と(b)に示したカメラワーク対応関係情報とともに、カメラワーク対応関係情報29000も保持することになる。
以上で処理を終了する(S28004)。
なお、カメラワーク対応関係情報を作成する際に、利用者からの入力を受ける手段を設け、動き区間情報を利用者からの入力によって修正してもよい。また、動き区間情報をいくつかの、直線や2次曲線などで近似したのち、カメラワーク対応関係情報を作成してもよい。
なお、カメラワーク対応関係情報を作成する際に、利用者からの入力を受ける手段を設け、動き区間情報を利用者からの入力によって修正してもよい。また、動き区間情報をいくつかの、直線や2次曲線などで近似したのち、カメラワーク対応関係情報を作成してもよい。
(3.効果)
以上の処理によって、撮影終了後に情報保持部に保持されている情報を用いて、新たなカメラワーク対応関係情報を定義可能になった。この定義されたカメラワーク対応関係情報を次回の撮影時にもちいて、カメラワーク情報を導出することが可能になる。また、これらカメラワーク情報を他のカメラのカメラワーク情報導出部へ撮影前に予め登録しておくことによって、カメラワーク対応関係情報の登録を受けたカメラでも、定義を行ったカメラ同様のカメラワーク情報を導出可能になる。
なお、新たにカメラワーク対応関係情報が定義され、カメラワーク情報導出部に追加された場合、情報保持部に保持されている情報管理表の動き区間情報を、カメラワーク情報導出部へ送信し、新たなカメラワーク対応関係情報も含めたカメラワーク対応関係情報を用いて、再度カメラワーク情報の導出を行なってもよい。
以上の処理によって、撮影終了後に情報保持部に保持されている情報を用いて、新たなカメラワーク対応関係情報を定義可能になった。この定義されたカメラワーク対応関係情報を次回の撮影時にもちいて、カメラワーク情報を導出することが可能になる。また、これらカメラワーク情報を他のカメラのカメラワーク情報導出部へ撮影前に予め登録しておくことによって、カメラワーク対応関係情報の登録を受けたカメラでも、定義を行ったカメラ同様のカメラワーク情報を導出可能になる。
なお、新たにカメラワーク対応関係情報が定義され、カメラワーク情報導出部に追加された場合、情報保持部に保持されている情報管理表の動き区間情報を、カメラワーク情報導出部へ送信し、新たなカメラワーク対応関係情報も含めたカメラワーク対応関係情報を用いて、再度カメラワーク情報の導出を行なってもよい。
また、本実施の形態では、撮影を行った後、情報保持部に保持されている情報を用いてカメラワーク情報を定義し、カメラワーク対応関係情報を作成して、カメラワーク情報導出部へ追加を行ったが、最低限、動き区間情報が取得できれば、その動き区間情報を用いて、カメラワーク情報定義部において、カメラワーク情報を定義し、カメラワーク対応関係情報更新部において、カメラワーク対応関係情報を作成することが可能である。
なお、本願にて説明したカメラワーク対応関係情報は装置内のメモリに記憶されていても良いし、またはメモリカード、USBメモリ、光ディスク、磁気ディスクのような外部メモリ、あるいはパソコン等に記憶されたメモリであっても良い。
また、カメラワーク対応関係情報を外部メモリ等に記憶し、このカメラワーク対応関係情報を他の装置で用いれば、装置が変わっても同じ条件でカメラワークに関する情報を得ることができ、装置による映像品質のばらつきを低減することが可能となる。
また、カメラワーク対応関係情報を外部メモリ等に記憶し、このカメラワーク対応関係情報を他の装置で用いれば、装置が変わっても同じ条件でカメラワークに関する情報を得ることができ、装置による映像品質のばらつきを低減することが可能となる。
本発明は、TVや映画などの番組制作において、編集を行うこと想定した撮影時に用いられるビデオカメラのみならず、家庭向けのビデオカメラや車などに備え付けられる車載カメラなど、編集を想定しない様々なビデオカメラにおいても、利用可能である。
1001 撮像部
1002 映像記録制御部
1003 映像保持部
1004 動き情報取得部
1005 変化点検出部
1006 映像アドレス取得部
1007 動き区間情報取得部
1008 カメラワーク情報導出部
1009 カメラワーク評価部
1010 情報保持部
1002 映像記録制御部
1003 映像保持部
1004 動き情報取得部
1005 変化点検出部
1006 映像アドレス取得部
1007 動き区間情報取得部
1008 カメラワーク情報導出部
1009 カメラワーク評価部
1010 情報保持部
Claims (11)
- 撮像装置の移動による動きを検出し、検出した情報を用いて画像撮影時の情報を付与する情報処理装置であって、
映像を撮像する撮像手段と、
撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与手段と、
前記撮像手段の移動を動き情報として検出する動き情報検出手段と、
前記動き情報検出手段の検出した前記動き情報に基づき、前記撮像手段の動きの変化を変化点として検出する変化点検出手段と、
検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、
前記変化点と前記映像アドレスを保持する保持手段と、
を有することを特徴とする情報処理装置。 - 撮像装置の移動による動きを検出し、検出した情報を用いて画像撮影時の情報を付与する情報処理装置であって、
映像を撮像する撮像手段と、
撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与手段と、
前記撮像手段の移動を動き情報として検出する動き情報検出手段と、
前記動き情報検出手段の検出した前記動き情報に基づき算出した前記撮像手段の速度があらかじめ定めた値となる時点あるいは当該値から変化する時点を変化点として検出する変化点検出手段と、
検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、
前記変化点と前記映像アドレスを保持する保持手段と、
を有することを特徴とする情報処理装置。 - 動き情報とカメラワーク情報を対応付けるカメラワーク対応関係情報に基づき、検出した変化点間の動き情報からカメラワーク情報を決定するカメラワーク情報決定手段を有し、
前記保持手段は、変化点間の映像アドレスとカメラワーク情報を対応付けて保持することを特徴とする請求項1または請求項2記載の情報処理装置。 - 動き情報およびカメラワークを評価するカメラワーク評価指標に基づき、検出した変化点間の動き情報より変化点間のカメラワーク評価を決定するカメラワーク評価手段を有し、
前記保持手段は、さらに対応する変化点間の映像アドレス、カメラワーク情報、およびカメラワーク評価情報を対応付けて保持することを特徴とする請求項3記載の情報処理装置。 - 各カメラワークに対応して前記カメラワーク評価指標を有することを特徴とする請求項4記載の情報処理装置。
- 前記変化点検出手段は、動き情報より前記撮像手段の移動速度を算出し、移動速度が0から変化する時点、あるいは0になる時点を変化点とすることを特徴とする請求項1から請求項5のいずれか1項に記載の情報処理装置。
- 前記変化点検出手段は、動き情報より前記撮像手段の移動速度を算出し、移動速度が予め定めた閾値以上となる時点、あるいは前記閾値以下となる時点を変化点とすることを特徴とする請求項1から請求項5のいずれか1項に記載の情報処理装置。
- 外部から入力された情報に基づきカメラワーク対応関係情報を更新する情報更新部を有することを特徴とする請求項1から請求項3のいずれか1項に記載の情報処理装置。
- 撮像装置の移動による動きを検出し、検出した情報を用いて画像撮影時の情報を導出する情報処理方法であって、
映像を撮像装置により撮像する撮像ステップと、
撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与ステップと、
前記撮像装置の移動を動き情報として検出する動き情報検出ステップと、
前記動き情報検出ステップで検出した前記動き情報に基づき、前記撮像装置の動きの変化を変化点として検出する変化点検出ステップと、
検出した前記変化点における映像アドレスを取得する映像アドレス取得ステップと、
前記変化点と前記映像アドレスを保持させる保持ステップ、
よりなることを特徴とする情報処理方法。 - 撮像装置の移動による動きを検出し、検出した情報を用いて画像撮影時の情報を導出する情報処理プログラムであって、
映像を撮像装置により撮像する撮像ステップと、
撮像した映像フレームに時系列に基づく映像アドレスを付与する映像アドレス付与ステップと、
前記撮像装置の移動を動き情報として検出する動き情報検出ステップと、
前記動き情報検出ステップで検出した前記動き情報に基づき、前記撮像装置の動きの変化を変化点として検出する変化点検出ステップと、
検出した前記変化点における映像アドレスを取得する映像アドレス取得ステップと、
前記変化点と前記映像アドレスを保持させる保持ステップ、
よりなることを特徴とする情報処理プログラム。 - 撮像装置の移動による動き情報を受けて画像撮影時の情報を導出する情報処理装置であって、
外部の撮像装置により撮像された映像フレームに時系列に基づく映像アドレスが付与された映像フレームと前記外部の撮像装置の移動による動き情報を受信する受信手段と、
前記撮像手段の移動を動き情報として検出する動き情報検出手段と、
前記動き情報検出手段の検出した前記動き情報に基づき、前記撮像手段の動きの変化を変化点として検出する変化点検出手段と、
検出した前記変化点における映像アドレスを取得する映像アドレス取得手段と、
前記変化点と前記映像アドレスを保持する保持手段と、
を有することを特徴とする情報処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005190546A JP2007013479A (ja) | 2005-06-29 | 2005-06-29 | カメラワーク情報付与および評価装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005190546A JP2007013479A (ja) | 2005-06-29 | 2005-06-29 | カメラワーク情報付与および評価装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007013479A true JP2007013479A (ja) | 2007-01-18 |
Family
ID=37751399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005190546A Pending JP2007013479A (ja) | 2005-06-29 | 2005-06-29 | カメラワーク情報付与および評価装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007013479A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010166256A (ja) * | 2009-01-14 | 2010-07-29 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
WO2014132988A1 (ja) * | 2013-02-27 | 2014-09-04 | ブラザー工業株式会社 | 情報処理装置及び情報処理方法 |
JP2017531872A (ja) * | 2014-10-13 | 2017-10-26 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | 障害物検出装置及び障害物検出方法 |
US9848133B2 (en) | 2013-03-26 | 2017-12-19 | Panasonic Intellectual Property Management Co., Ltd. | Image generation device, imaging device, image generation method, and program for generating a new image from a captured image |
-
2005
- 2005-06-29 JP JP2005190546A patent/JP2007013479A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010166256A (ja) * | 2009-01-14 | 2010-07-29 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
US9734406B2 (en) | 2009-01-14 | 2017-08-15 | Sony Corporation | Information processing device, information processing method and program |
WO2014132988A1 (ja) * | 2013-02-27 | 2014-09-04 | ブラザー工業株式会社 | 情報処理装置及び情報処理方法 |
JP2014164685A (ja) * | 2013-02-27 | 2014-09-08 | Brother Ind Ltd | 情報処理装置及び情報処理方法 |
US9848133B2 (en) | 2013-03-26 | 2017-12-19 | Panasonic Intellectual Property Management Co., Ltd. | Image generation device, imaging device, image generation method, and program for generating a new image from a captured image |
JP2017531872A (ja) * | 2014-10-13 | 2017-10-26 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | 障害物検出装置及び障害物検出方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11381744B2 (en) | Video processing method, device and image system | |
US9779775B2 (en) | Automatic generation of compilation videos from an original video based on metadata associated with the original video | |
JP4525558B2 (ja) | 情報処理装置、撮像装置、および情報処理方法、並びにコンピュータ・プログラム | |
US8208792B2 (en) | Content shooting apparatus for generating scene representation metadata | |
US20150243325A1 (en) | Automatic generation of compilation videos | |
US8571378B2 (en) | Image capturing apparatus and recording method | |
US20150016683A1 (en) | Image processing device, image processing method, and program | |
CN101753823A (zh) | 自动标记图像的装置及其方法 | |
US8411902B2 (en) | Providing a visual indication of the content of a video by analyzing a likely user intent | |
US7602980B2 (en) | Image processing apparatus and method | |
EP2053540B1 (en) | Imaging apparatus for detecting a scene where a person appears and a detecting method thereof | |
JP2014095979A (ja) | 電子機器、画像データ処理方法およびプログラム | |
CN100583999C (zh) | 处理图像的装置和方法及处理再现图像的装置和方法 | |
JP2010245856A (ja) | 映像編集装置 | |
JP2007013479A (ja) | カメラワーク情報付与および評価装置 | |
US11394877B2 (en) | Control apparatus, image pickup apparatus, and control method | |
JP2011041154A (ja) | 画像処理装置、画像処理方法 | |
JP4773998B2 (ja) | 監視カメラ・システム,動画検索装置および顔画像データベース更新装置ならびにそれらの動作制御方法 | |
AU2016277643A1 (en) | Using face detection metadata to select video segments | |
EP2608106A1 (en) | Method and apparatus for face prioritization | |
CN105100593B (zh) | 摄像装置及其控制方法 | |
US9536566B2 (en) | Video processing device, video processing method, and recording medium | |
JP2012029119A (ja) | 表示制御装置、カメラ、および、表示装置 | |
JP2019092001A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP4687420B2 (ja) | 撮影装置、撮影方法及びプログラム |