JP2019161361A - 画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム - Google Patents
画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム Download PDFInfo
- Publication number
- JP2019161361A JP2019161361A JP2018043314A JP2018043314A JP2019161361A JP 2019161361 A JP2019161361 A JP 2019161361A JP 2018043314 A JP2018043314 A JP 2018043314A JP 2018043314 A JP2018043314 A JP 2018043314A JP 2019161361 A JP2019161361 A JP 2019161361A
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- cooperation
- request
- work
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 46
- 238000003384 imaging method Methods 0.000 claims description 83
- 238000004891 communication Methods 0.000 description 52
- 230000010365 information processing Effects 0.000 description 50
- 230000008569 process Effects 0.000 description 35
- 230000006870 function Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 19
- 230000004044 response Effects 0.000 description 19
- 238000004140 cleaning Methods 0.000 description 17
- 230000005540 biological transmission Effects 0.000 description 15
- 238000012423 maintenance Methods 0.000 description 12
- 230000001954 sterilising effect Effects 0.000 description 10
- 230000009471 action Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 238000004659 sterilization and disinfection Methods 0.000 description 9
- 238000012790 confirmation Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 5
- 239000000470 constituent Substances 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000005406 washing Methods 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000001680 brushing effect Effects 0.000 description 1
- 238000012508 change request Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000001012 protector Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32101—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N1/32128—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title attached to the image data, e.g. file header, transmitted message header, information on the same page or in the same computer file as the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00095—Systems or arrangements for the transmission of the picture signal
- H04N1/00114—Systems or arrangements for the transmission of the picture signal with transmission of additional information signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00127—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
- H04N1/00347—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with another still picture apparatus, e.g. hybrid still picture apparatus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/188—Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/0077—Types of the still picture apparatus
- H04N2201/0084—Digital still camera
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Studio Devices (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
【課題】異なる機器において取得された画像を容易に連携利用することを可能にして、画像の有効利用を促進する。
【解決手段】 画像ファイル作成装置は、撮像画像を取得する取得部と、上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加する制御部と、を具備し、上記制御部は、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含める。
【選択図】図1
【解決手段】 画像ファイル作成装置は、撮像画像を取得する取得部と、上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加する制御部と、を具備し、上記制御部は、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含める。
【選択図】図1
Description
本発明は、画像の連携利用を容易にする画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システムに関する。
近年、デジタルカメラなどの撮影機能付き携帯機器(撮影機器)は、画像処理を駆使して、様々な撮影機能を備えている。また、撮影機器においては、通信機能を備えたものもあり、撮影して得た画像を他の機器やネットワーク上に伝送することも可能である。
また、撮影機器においては、画像の記録に際して、撮影日時や撮影場所の情報等、画像以外の補助データ(メタデータ)を画像と共にファイル化して記録するようになっている。即ち、画像ファイルは、画像データとメタデータとによって構成され、記録後に画像ファイルの編集も可能である。例えば、特許文献1には、スタジオにおける画像合成に際して、リアルタイムに付加するメタデータと、ノン(非)リアルタイムに付加するメタデータとを付加する技術が開示されている。
ところで、撮影機器としては、一般的なデジタルカメラのように単独で撮影を行うものだけでなく、監視カメラのように複数のカメラと制御装置とが連携して撮影を行うものもある。これらの撮影機器により取得された画像は、それぞれの専用の市場において独自のルールで画像管理がなされていた。
近年、デジタル化の流れによって、様々な機器の利用範囲の境界が変わり、また、これまでになかった全く違う使われ方がされるようになってきた。しかしながら、撮影機器の分野においては、特殊な市場においてのみ連携のための独自ルールの画像管理が行われており、一般的なデジタルカメラ等における連携は十分には考慮されていないという問題があった。
本発明は、異なる機器において取得された画像を容易に連携利用することを可能にして、画像の有効利用を促進することができる画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システムを提供することを目的とする。
本発明の一態様による画像ファイル作成装置は、撮像画像を取得する取得部と、上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加する制御部と、を具備し、上記制御部は、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含める。
本発明の一態様による画像ファイル作成方法は、撮像画像を取得する取得ステップと、上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加するステップであって、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含めるステップと、を具備する。
本発明の一態様による画像ファイル作成プログラムは、コンピュータに、撮像画像を取得する取得ステップと、上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加するステップであって、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含めるステップと、を実行させる。
本発明の一態様によるコンテンツ作成システムは、複数の機器が連携して生成する連携コンテンツを構成する個々のコンテンツの関係をそれぞれのコンテンツにメタデータとして付与し、上記連携の当事者となる上記複数の機器の情報と、連携の条件を出力した依頼元情報とを、上記メタデータとして生成するメタデータ生成部を具備する。
本発明によれば、異なる機器において取得された画像を容易に連携利用することを可能にして、画像の有効利用を促進することができるという効果を有する。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る画像ファイル作成装置を含む情報処理装置による情報処理システムを示すブロック図である。本実施の形態は、他の機器への画像の提供や、他の機器への画像提供の依頼をするための連携参加情報をメタデータとして画像ファイルに付加させて記録することにより、複数の撮影機器間で連携して撮影を行うことを可能にしたり、複数の撮影機器が撮影して得た撮像画像を連携して利用できるようにするものである。なお、連携参加情報には、画像の提供を行うための提供情報と、画像提供の依頼を行うための依頼情報とがある。ここで、連携参加情報と書いたものは、より積極的に連携しながら協働したという意味で、「連携当事者情報」と表現してもよい。
図1は本発明の第1の実施の形態に係る画像ファイル作成装置を含む情報処理装置による情報処理システムを示すブロック図である。本実施の形態は、他の機器への画像の提供や、他の機器への画像提供の依頼をするための連携参加情報をメタデータとして画像ファイルに付加させて記録することにより、複数の撮影機器間で連携して撮影を行うことを可能にしたり、複数の撮影機器が撮影して得た撮像画像を連携して利用できるようにするものである。なお、連携参加情報には、画像の提供を行うための提供情報と、画像提供の依頼を行うための依頼情報とがある。ここで、連携参加情報と書いたものは、より積極的に連携しながら協働したという意味で、「連携当事者情報」と表現してもよい。
先ず、図2A及び図2Bと図3A、図3B及び図3Cとを参照して本実施の形態の概要について説明する。図2A及び図3Aは情報処理装置A〜Cが連携していることを示す説明図である。図2Bは図2Aの情報処理装置Cに記録される画像ファイルに付属するメタデータの内容を示す説明図であり、図3B,図3Cはそれぞれ図3Aの情報処理装置B,Cに記録される画像ファイルに付属するメタデータの内容を示す説明図である。なお、図2A及び図3Aは3つの情報処理装置A,B,Cが連携する例を示しているが、情報処理装置Aは撮像機能を有していてもいなくてもよく、主に管理機能を備えた親装置である。この図3Aは、かなり単純化した例であって、情報処理装置Bと情報処理装置Cとで直接連携してもよく、この場合、情報処理装置Aの機能が情報処理装置Bや情報処理装置Cに内蔵されたり分担されたりする。本願はそうした状況を考慮し、カバーしつつ、平易な説明のために構成を単純化して説明している。
図2Aの例は、情報処理装置Bが情報処理装置Aに対して、自機が撮像して取得する画像と所定の関係を有する画像(以下、連携画像という)を要求し、情報処理装置Aは情報処理装置Bの要求に応じた連携画像の提供を情報処理装置Cに依頼して、情報処理装置Bに連携画像を提供することを可能にするものである。情報処理装置Bは、連携画像の取得を希望していることを示す依頼情報を、情報処理装置Bが撮像する画像(以下、連携元画像という)のメタデータとして記録するようになっている。
なお、連携画像の提供を依頼する機器(図2Aでは情報処理装置B)を依頼機器、連携画像を提供する機器(図2Aでは情報処理装置C)を提供機器ともいい、依頼機器と提供機器との間の中継を行う機器(図2Aでは情報処理装置A)を管理機器ともいう。
なお、情報処理装置Aは、情報処理装置Cの撮影を制御している場合には、情報処理装置Cから強制的に連携画像を取得することを可能にしてもよいが、情報処理装置Aが情報処理装置Cの撮影を制御していない場合を考慮して、情報処理装置Cは自機が撮像して取得した画像を連携画像として他機に提供してもよいことを示す提供情報を取得した画像のメタデータとして記録するようになっている。
また、依頼情報がメタデータとして記録された段階では、依頼情報によって要求された連携画像そのものを連携画像を提供する機器から転送する必要はなく、提供予定の連携画像を特定する例えばファイル名等の情報のみを連携画像に代えて提供するようにする。これにより、本当に必要な画像のみを転送すればよく、連携画像の転送に伴う通信の負荷を軽減することができる。
図2B、図3B及び図3Cは、各装置が取得した連携元画像に付随するメタデータを示している。なお、メタデータには、Exif(Exchangeable image file format)規格により規定されたメタデータが含まれるが、以後の説明では、Exif規格のメタデータについては説明を省略する。
本実施の形態においては、連携した撮影を可能にすると共に、撮像画像の連携した利用を可能にするために、メタデータは、図2B、図3B及び図3Cに示すように、連携参加情報として7種類の情報(a)〜(g)を含む。なお、これらの情報は、連携元画像又は連携画像の撮影時に付加される情報だけでなく、撮影後において連携した後に付加される情報もある。
下記3種類の情報(a)〜(c)は、提供情報に関するものである。なお、連携画像の提供を依頼する機器においても、必要に応じて提供情報を記録する。これにより、1つの画像ファイルから、連携画像が連携元画像とどのような関係にあるかを把握することも可能である。
(a)トリガ出力機器情報は、連携画像の撮影のトリガを発生した機器、即ち、連携元画像を撮影した機器を示し、不明な場合又は存在しない場合には省略される。
(b)トリガ判定機器情報は、連携画像の撮影のトリガのタイミングを決定した機器を示し、外部機器によって撮影が制御されていない場合には自機となり、省略可である。
(c)撮影依頼機器情報は、撮影を直接依頼する依頼元の機器を示し、外部機器によって撮影が制御されていない場合には自機となり、省略可である。
なお、連携画像の提供を行わない場合には、情報(a)〜(c)は空欄(データ無し)となり、連携画像の提供を行ってもよい場合には、少なくともトリガ判定機器情報(b)は自機又は他機を示す情報となる。
なお、連携画像の提供を行わない場合には、情報(a)〜(c)は空欄(データ無し)となり、連携画像の提供を行ってもよい場合には、少なくともトリガ判定機器情報(b)は自機又は他機を示す情報となる。
また、以下の4種類の情報(d)〜(g)は、連携に関する依頼情報である。なお、連携画像を提供する機器においても、必要に応じて依頼情報を記録する。これにより、1つの画像ファイルから、連携元画像と連携画像との関係を把握することが可能となる。
(d)依頼先機器情報は、連携画像の提供の依頼先の機器を示し、連携画像の提供を依頼する場合には、特定の機器又はブロードキャストが指定される。
(e)関連応答機器情報は、連携画像の供給元の機器を示し、連携する場合でも必ずしも決まっているとは限らない。この情報が空欄の場合には、自機が撮像した得た画像を連携元画像とする連携画像が存在しないことを示す。
(f)依頼条件情報は、連携画像の提供を依頼する場合の条件を示し、例えば、時間、場所、映像パラメータ等の各種情報が考えられる。即ち、依頼条件情報は、連携元画像と連携画像との関連を示す情報となる。なお、依頼条件は連携の対象や連携の仕方を決める条件であり、連携条件と言ってもよい場合がある。特に依頼機器だけでなく提供機器側から発生することも可能であり、この場合には連携条件と言ってもよい。
(g)応答画像ファイル名情報は、依頼機器については提供される連携画像の画像ファイル名、提供機器については連携元画像の画像ファイル名を示し、通常、依頼時には不明である。
なお、連携画像の提供を依頼しない場合には、情報(d)〜(g)は空欄となり、連携に参加しない場合には、(a)〜(g)の全ての情報は空欄となる。
図2Bは図2Aの情報処理装置C(以下、この場合には提供機器Cともいう)が取得した撮像画像(連携画像)に付加されるメタデータを示している。図2Bの例では、情報処理装置B(以下、この場合には依頼機器Bともいう)は、自機の連携元画像の撮影からΔT秒後までに撮影した画像を連携画像として供給されることを依頼するものである。この場合には、情報処理装置Aが提供機器Cの撮影を制御していることから、依頼機器B(依頼元)からの依頼情報は、情報処理装置Aに供給される。情報処理装置Aは依頼機器Bと提供機器Cとの連携を管理する管理機器であり、以下、管理機器Aともいう。
図2Bのトリガ判定機器情報から明らかなように、提供機器Cの撮影は管理機器Aにより制御され、撮影依頼機器情報は管理機器Aを示すものである。なお、提供機器Cが取得した連携画像には、依頼条件情報も含まれている。
図3Aの例は、情報処理装置Bが依頼機器(以下、この場合には依頼機器B、依頼元ともいう)であり、情報処理装置Cが提供機器(以下、この場合には提供機器Cともいう)である例を示している。しかし、図3Aの例は、情報処理装置Aは、情報処理装置Cの撮影を制御している訳ではなく、単に所定のネットワーク内における連携を管理している管理機器(以下、この場合には管理機器Aともいう)である。
図3Bは図3Aの依頼機器Bが取得した撮像画像(連携元画像)(画像ファイル名Y)に付加されるメタデータを示し、図3Cは図3Aの提供機器Cが取得した撮像画像(連携画像)(画像ファイル名Z)に付加されるメタデータを示している。図3Bに示すように、依頼機器Bは管理機器Aに連携画像の供給を依頼する。依頼条件情報により、連携元画像からΔT秒後に撮影が行われた画像が連携画像として要求されることが分かる。
提供機器Cは、自機の操作により撮影を行うものであり、トリガ判定機器情報は自機を示すCとなっている。依頼先機器情報は、依頼機器Aを示している。提供機器Cは連携画像をファイル名Zで記録し、このファイル名の情報が例えば管理機器Aを介して依頼機器Bに供給されてメタデータに記録される。提供機器Cは、関連応答機器情報が空欄であり、自機で撮像したファイル名Zの画像を連携元画像とする連携画像は存在しない。
なお、図3A〜図3Cの例は、提供機器Cが1枚の連携画像のみを提供する例を示しているが、提供機器Cが複数枚の連携画像を提供することも考えられる。この場合には、依頼機器Bの1つの連携元画像の画像ファイル中には、応答画像ファイル名情報(g)が連携画像毎に複数設けられたメタデータが付加されることになる。
また、図3A〜図3Cの例は、提供機器が1台の例を示しているが、1台の依頼機器Bに対して、複数台の提供機器が存在する場合がある。この場合には、依頼機器Bの1つの連携元画像の画像ファイル中には、上記情報(d)〜(g)が提供機器毎に複数設けられたメタデータが付加されることになる。
また、図2A及び図3Aの例は、管理機器Aを経由して情報処理装置B,Cが連携する例を説明したが、情報処理装置Bと情報処理装置Cとが直接通信を行って、連携してもよいことは明らかである。この場合には、情報処理装置Aは不要となる。
このように本実施の形態によれば、連携に必要な情報をメタデータとして画像に付加して記録することで、簡単に連携した撮影が可能である。また、画像ファイル中に連携に関する情報がメタデータとして記録されていることから、記録後において1枚の画像ファイルから、どのような連携を行って撮影されたものかを容易に判定することができる。これにより、異なる機器で取得された画像を連携して利用することができ、有効利用を促進することが可能である。
(具体例)
次に、図1を参照して具体的な適用例について説明する。
次に、図1を参照して具体的な適用例について説明する。
図1は作業判定装置10、ウェアラブル端末装置20及びカメラ30による連携を示している。作業判定装置10は依頼機器及び管理機器であり、ウェアラブル端末装置20は依頼機器であり、カメラ30は提供機器である例について説明する。図1は本実施の形態における情報処理装置を作業支援システム1に適用した例を示している。この作業支援システム1は、複数の作業からなる所定の一連の作業を規定の手順及び手法に従って確実に実行するための作業支援を行うと共に、実行した各作業に関するエビデンス(evidence;証拠)記録を行うことができるようにしたものである。そのために、当該作業支援システム1は、複数の撮像装置と、これら複数の撮像装置を連携させ制御する制御装置とからなる。なお、本実施形態においては、図1に示すように、ウェアラブル端末装置20及びカメラ30により2つの撮像装置を構成し、作業判定装置10により制御装置を構成した例を示している。
この構成により、図1の作業支援システム1は、予め決められた複数の作業に関する情報集(データベース)と、実際に行われた作業に関する複数の画像データ(取得画像データ)とに基づいて、対象とする一連の作業に含まれる個々の作業内容や作業手順を表示して作業案内を行ったり、個々の作業が正しく行われたか否か、正しい作業手順が実行されたか否か等、作業に関する確認や判定を行って、正しい作業が行われた場合にはエビデンス記録を行う一方、誤った作業が行われた場合には作業者に警告等を発して正しい作業を促す等の作業支援を行う。
作業判定装置10は、ウェアラブル端末装置20及びカメラ30のそれぞれを制御し、ウェアラブル端末装置20及びカメラ30により取得された画像データ(静止画像データ(第2画像データ),動画像データ(第1画像データ)等)に基づいて、実行された個々の作業の確認や判定を行い、作業記録(エビデンス記録)等の動作制御を行う。また、作業判定装置10は、ウェアラブル端末装置20及びカメラ30を連携させて動作させる制御等を行う。そのために、作業判定装置10は、制御部11と、通信部12と、データベース13と、記録部14等を有して構成されている。
なお、本実施形態の作業判定装置10においては、図示を省略しているが、上述した各構成要素のほかにも、例えば操作部や表示部等、一般的な制御装置が具備している各種の構成要素を有している。これら図示を省略した各種の構成要素については、本発明に直接関連しない部分であるので、その詳細説明は省略する。
制御部11は、本実施形態の作業支援システム1の全体を統括的に制御する複数の制御回路等を含む構成部である。この制御部11に含まれる複数の制御回路等としては、特に、作業判定部11aと、表示制御部11bと、ガイド部11cと、対象物判定部11dと、記録制御部11e等がある。なお、画像ファイル作成装置は、主に制御部11及び記録部14によって構成される。
作業判定部11aは、ウェアラブル端末装置20及びカメラ30によって取得された画像データと、データベース13に予め蓄積されている情報と、対象物判定部11d及び記録制御部11eによって取得された判定結果情報等に基づいて、実行された作業に関する各項目の確認や判定等を行う制御回路等を含む構成部である。なお、ここで行われる判定は、例えば、作業に用いるツールの種類の判定や、各作業の種類の判定等である。
表示制御部11bは、当該作業判定装置10に含まれる表示部(不図示)若しくは、当該作業判定装置10と連携するウェアラブル端末装置20及びカメラ30に含まれる表示部(25,不図示)等を制御して、所定の表示(画像表示のほか警告表示等)を行わせるための制御回路等を含む構成部である。
ガイド部11cは、ウェアラブル端末装置20及びカメラ30によって取得された画像データと、データベース13に予め蓄積されている情報とに基づいて、実行された作業に関するガイド表示や、次に行うべき作業のガイド表示等を行うためのガイド情報を生成する制御回路等を含む構成部である。
対象物判定部11dは、ウェアラブル端末装置20及びカメラ30によって取得された画像データと、データベース13に予め蓄積されている情報とに基づいて、画像データに含まれる所定の対象物の種類や部位,形状,大きさ,個数,状態等、所定の条件を検出し判定する制御回路等を含む構成部である。なお、対象物判定部11dは、上述した以外にも、例えばオートフォーカス機構を利用して、撮像装置と対象物との間の距離と撮像素子サイズとの関係から、撮像素子の受光面上に結像された対象物のサイズを算出するといった手段を用いることも考えられる。
記録制御部11eは、記録部14における記録及び再生を制御する。記録部14は、ウェアラブル端末装置20及びカメラ30によって取得された画像データ等と、これに関連する作業情報を関連付けて記録する制御回路等及び記録媒体等を含む構成部である。もちろん、もっと多くの視野、視界、視点からの画像を参照可能にしてもよい。
本実施の形態においては、記録部14は、画像データ記録領域14a、メタデータ記録領域14b及び機器データ記録領域14cを有している。記録制御部11eは、画像の記録に際して、画像データを画像データ記録領域14aに記録すると共に、記録する画像データに関連付けて、メタデータをメタデータ記録領域14bに記録するようになっている。上述したように、メタデータには、連携参加情報、即ち、依頼情報や提供情報が含まれる。また、機器データ記録領域14cには自機を特定するための機器データが記録されており、記録制御部11eは、依頼情報及び提供情報の送信のたのに読出しに際して機器データを含めるようになっている。
通信部12は、ウェアラブル端末装置20及びカメラ30のそれぞれの通信部(22,32)との間でデータ通信(情報の送受信)を行う制御回路等を含む送信部であり受信部である。ここで、通信部12は、無線通信を用いる構成であってよいし、有線通信を用いる構成であってもよい。本実施の形態においては、制御部11は、通信部12により、機器データを含む依頼情報や提供情報を送信することができるようになっている。
データベース13は、予め決められた各種の情報を蓄積するストレージ装置(補助記憶装置)である。データベース13を作業判定装置10に含めて構成する例(具体的には、例えば、内部固定式の記憶媒体(内蔵メモリ等)若しくは着脱式の記憶媒体(着脱カード式メモリ等))を示している。しかしながら、データベース13の構成は、これらの形態に限られることはない。例えば、データベースを独立した形態の外部ストレージ装置によって構成してもよい。なお、この場合には、独立構成のデータベースと作業判定装置10との間は、無線若しくは有線による所定の接続手段によって各種データの送受信を行い得るように構成すればよい。
データベース13には、例えば作業情報データベース13aや画像データベース13b等が蓄積される。ここで、作業情報データベース13aは、複数の作業に関する各種の情報(対象物情報,使用ツール情報,作業種類情報等)等が含まれる。また、画像データベース13bは、作業情報データベース13aに記録される各種情報に関連する画像データ集(例えば複数の作業に関する複数の視野からの画像情報等)である。
ウェアラブル端末装置20は、例えば、図4に示すように、作業者100が身体の一部(例えば顔面近傍等)に装着することによって、両手を自在とすることができると同時に、作業者自身の手元近傍の様子を常に撮像することができるような形態の撮像装置である。換言すると、ウェアラブル端末装置20は、作業者100の目線相当の作業情報を取得することができる形態の撮像装置である。
このウェアラブル端末装置20は、主に第1画像データである動画像データを取得する。これは、作業者の頻繁な作業の流れを把握するためで、時間変化が分かる静止画でも、そこから抜き出した動きベクトルのような画像の時間変化を表すデータ情報でもよい。ただし、エビデンス用に用いる場合は、後で人間が検証できるような静止画であることが好ましい。
ウェアラブル端末装置20は、制御部21と、通信部22と、記録部23と、取得部としての撮像部24と、表示部25と、警告部26と、時計部27等を有して構成されている。制御部21は、ウェアラブル端末装置20の全体を統括的に制御する制御回路等を含む構成部である。この制御部21は、例えば、CPU(Central Processing Unit)等を用いたプロセッサ(processor;処理装置)によって構成されている。そして、制御部21は、メモリ(不図示)に記憶されたプログラムにしたがって動作することにより、各構成部の制御を行う。なお、なお、画像ファイル作成装置は、主に制御部21及び記録部23によって構成される。
ウェアラブル端末装置20は、制御部21の制御下において単独で作用すると同時に、作業判定装置10との間で通信を行うことによって、当該作業判定装置10の制御部11の制御下においても作用する撮像装置である。なお、ウェアラブル端末装置20は、主に動画像データを取得する撮像装置としているが、これに限られることはない。例えば、ウェアラブル端末装置20は、作業者による所定の操作、或いは所定の行為をトリガとして、任意に若しくは自動的に静止画像データを動画像データと同時に又は静止画像データを単独で取得し得るような構成でもよい。
制御部21は、通信部22を制御して作業判定装置10との間で各種の情報の送受信(通信)を行い、撮像部24を制御して画像データ等を取得し、表示部25を制御して表示画面に各種の情報表示を行う等の各種の制御を実行する。なお、通信部22は画像を取得する取得部としても機能することになる。これらの制御に加えて、制御部21は、作業判定装置10の制御部11からの制御信号を受けて作業判定装置10と連携して当該ウェアラブル端末装置20を制御する。
制御部21は、例えば、画像判定部21aと、表示制御部21b等の複数の回路部等を有して構成されている。画像判定部21aは、撮像部24によって取得した画像データに基づいて所定の判定を行う判定処理回路である。この画像判定部21aは、上述の作業判定装置10の制御部11に含まれる判定部11a,11dと同等若しくは簡易的な回路部である。
つまり、当該画像判定部21aは、第1画像データと第2画像データとをデータベース13の作業情報に従って判定する作業判定部として機能する。したがって、作業判定装置10の制御部11に判定部11a,11dが設けられていれば、画像判定部21aは省略することも可能である。
ウェアラブル端末装置20側に画像判定部21aを設けて構成されている場合には、当該画像判定部21aによる判定結果のみを通信部(22,12)を介して作業判定装置10の制御部11へと送信すればよい。これを受けて、作業判定装置10の制御部11は、受信した判定結果情報に基づく制御を行う。したがって、この構成の場合、通信負荷を軽減させることができるという利点がある。
表示制御部21bは、表示部25を制御して表示画面に所定の表示を行うための制御回路部である。通信部22は、作業判定装置10との通信(情報の送受信)を司る制御回路等を含む送信部であり受信部である。通信部22は、無線若しくは有線による所定の通信手段が適用される。通信部22は、作業判定装置10を介してウェアラブル端末装置20とは異なる位置に設けられたカメラ30からの第2画像データを取得する通信部としても機能する。
さらに、通信部22は、作業判定装置10を介してデータベース13との間で通信を行って、当該データベース13の作業情報を参照することもできる。なお、通信部22とデータベース13とが直接通信を行うような構成としてもよい。
撮像部24は、図示しない撮像光学系や撮像素子及びその駆動制御回路等を有して構成される構成部である。この撮像部24は、撮像光学系によって形成された撮像対象物の光学像を撮像素子によって順次光電変換し、これによって得られた画像データに基く画像を表示部25の表示画面に順次表示する機能を有する。また、得られた画像信号に基づいて所定の形態の画像データ(例えば動画像データ若しくは静止画像データ)を形成し、これを記録したり、通信部22,12を介して作業判定装置10へと伝送する等の機能を有する。このような機能を有する撮像部24自体の構成は、従来一般的な撮像装置における撮像部と略同様である。したがって、その詳細な構成及び図示は省略する。
なお、撮像素子としては、例えばCCD(Charge Coupled Device;電荷結合素子)イメージセンサーやCMOS(Complementary Metal Oxide Semiconductor;相補性金属酸化膜半導体)型イメージセンサー等の光電変換素子等が適用される。このような撮像部は、作業中の作業者目線(視界、視野)に近い画像が得られ、両手の間で行われる両手を使った詳細作業(目視チェックも含め)が確認しやすい。
表示部25は、撮像部24によって取得された画像データに基づいて画像を表示するほか、画像に重畳させて各種の警告表示若しくは各種所定のメッセージ表示又はガイド表示(詳細後述)等を表示し得ると共に、適宜所定の動作モードの切り換えにより、当該ウェアラブル端末装置20における各種の設定等のためのメニュー表示等を行う表示制御回路等を含む構成部である。
ウェアラブル端末装置20の表示部25は、図4に示すように、作業者100の顔部近傍に配置されている。例えば、表示部25は、図示しない導光部と表示画面等を有して構成されて、作業者100の視線方向に画像を形成することができるようになっている。なお、表示画面は、例えば、液晶表示(Liquid Crystal Display;LCD)部や有機エレクトロルミネッセンス(有機EL;Organic Electro-Luminescence:OEL)表示部等が適用される。
表示部25により形成される画像の領域は、作業者100の視野を阻害しない程度の領域であり、作業者100は、通常状態では、左右両眼の全視野を視認できると共に、視線移動を行うことで視野中の所定の範囲に表示部25による表示内容を視認することができるようになっている。
なお、図示を省略しているが、本実施形態におけるウェアラブル端末装置20は、電源供給源となるバッテリを有している。このバッテリは、当該ウェアラブル端末装置20を駆動するために必要な電力を発生し、制御部21によって制御されることによって、各構成部への電力供給が行われる。
作業者100がウェアラブル端末装置20を装着した状態で、撮像部24の撮像光学系が作業者の視線方向と略一致する方向に向けらることにより、撮像部24によって取得される画像は、作業者が見ている方向(視線方向)を含む所定の領域の画像となる。
本実施の形態においては、記録部23は、画像データ記録領域23a、メタデータ記録領域23b及び機器データ記録領域23cを有している。制御部21は、画像の記録に際して、画像データを画像データ記録領域23aに記録すると共に、記録する画像データに関連付けて、メタデータをメタデータ記録領域23bに記録するようになっている。上述したように、メタデータには、連携参加情報、即ち、依頼情報や提供情報が含まれる。また、機器データ記録領域23cには自機を特定するための機器データが記録されており、制御部21は、依頼情報及び提供情報の送信のたのに読出しに際して機器データを含めるようになっている。
一方、カメラ30は、一般的な形態の撮像装置若しくは作業台(不図示)等の近傍の所定の位置に載置若しくは固設される撮像装置である。換言すると、カメラ30は、作業者の目線相当の作業情報とは異なる作業情報を取得することができる形態の撮像装置である。
このカメラ30は、作業者目線の画像とは異なる視野からの、いわば客観的な見地の情報を持つことが好ましく(システムとして情報がリッチになる)、主に第2画像データである静止画像データを取得する。エビデンス用に用いる場合は、後で人間が検証できるような静止画であることが好ましいからであるが、もちろん、それを連続的に取得すれば動画となるので、消費エネルギーや記録容量さえ問題なければ、こうした応用があってもよい。
カメラ30の構成は、一般的な形態の撮像装置と略同様である。例えば、カメラ30は、少なくとも制御部31と、通信部32と、取得部としての撮像部34等を含んで構成されている。なお、画像ファイル作成装置は、主に制御部31及び記録部34によって構成される。
制御部31は、カメラ30の全体を統括的に制御する制御回路等を含む構成部である。この制御部31は、例えば、CPU(Central Processing Unit)等を用いたプロセッサ(processor;処理装置)によって構成されている。そして、制御部31は、メモリ(不図示)に記憶されたプログラムにしたがって動作することにより、各構成部の制御を行う。
制御部31は、通信部32を制御して作業判定装置10との間で各種の情報の送受信(通信)を行い、撮像部34を制御して画像データ等を取得する等の各種の制御を実行する。これらの制御に加えて、制御部31は、作業判定装置10の制御部11からの制御信号を受けて作業判定装置10と連携して当該カメラ30を制御する。
通信部32は、作業判定装置10との通信(情報の送受信)を司る制御回路等を含む送信部であり受信部である。通信部32は、無線若しくは有線による所定の通信手段が適用される。なお、通信部32は、作業判定装置10を介してデータベース13との間で通信を行って、当該データベース13の作業情報を参照することもできる。ここで、通信部32とデータベース13とが直接通信を行うような構成としてもよい。
撮像部34は、不図示の撮像光学系,撮像素子及びその駆動制御回路等を有して構成される構成部である。この撮像部34は、撮像光学系によって形成された撮像対象物の光学像を撮像素子によって順次光電変換し、これによって得られた画像データを、通信部32を介して作業判定装置10へと伝送する等の機能を有する。また、同時に当該画像データに基く画像を表示部(不図示)を用いて順次表示する機能を有する。
本実施の形態においては、記録部33が設けられている。記録部33は、画像データ記録領域33a、メタデータ記録領域33b及び機器データ記録領域33cを有している。制御部31は、画像の記録に際して、画像データを画像データ記録領域33aに記録すると共に、記録する画像データに関連付けて、メタデータをメタデータ記録領域33bに記録するようになっている。上述したように、メタデータには、連携参加情報、即ち、依頼情報や提供情報が含まれる。また、機器データ記録領域33cには自機を特定するための機器データが記録されており、制御部31は、依頼情報及び提供情報の送信のたのに読出しに際して機器データを含めるようになっている。
このような機能を有する撮像部34自体の構成は、ウェアラブル端末装置20や従来一般的な撮像装置における撮像部と略同様である。例えば、図1においては図示を省略しているが、従来一般的な形態の撮像装置が具備する構成部材(操作部や表示部,バッテリ等)も有している。これらの構成部材については、従来一般的な形態の撮像装置と同様の構成及び作用を有するものであるので、その詳細説明は省略する。
なお、カメラ30においても、制御部31に画像判定部(作業判定部)を設けて構成してもよい。カメラ30の制御部31に画像判定部を設けて構成した場合には、ウェアラブル端末装置20の制御部21に画像判定部21aを設けた場合と同様に、当該カメラ30は画像判定部による判定結果のみを通信部(32,12)を介して作業判定装置10の制御部11へと送信すればよい。これを受けて、作業判定装置10の制御部11は、受信した判定結果情報に基づく制御を行う。したがって、この構成の場合、通信負荷を軽減させることができるという利点がある。
次に、このように構成された実施の形態の動作について図4から図15を参照して説明する。図4は、本実施形態の作業支援システムを使用して所定のメンテナンス作業(器具洗浄滅菌作業)を行っている際の様子を示す概念図である。また、図5A及び図6Aはウェアラブル端末装置20によって取得される画像Gb1,Gb2を示す説明図であり、図5B及び図6Bはカメラ30によって取得される画像Gc1,Gc2を示す説明図である。また、図7及び図8はそれぞれ図5B又は図6Bに示す画像Gc1,Gc2のメタデータの内容を示す説明図である。図9から図11は実施の形態の動作を説明するためのフローチャートである。図12から図15は画像ファイルの構成例を説明するための説明図である。
図1の作業支援システム1を用いて行う作業としては、各種の分野における各種の作業を想定することができるが、以下の説明においては、作業の具体的な一例として、医療器具等を扱う作業のうちの所定の医療器具等の洗浄等に関するメンテナンス作業を例に上げて説明する。具体的には、使用済みの医療器具である手術用器具や処置具等(例えばハサミ形状の器具。以下、ハサミと略記する)を洗浄して滅菌する作業(以下、器具洗浄滅菌作業という)を例示する。
図4に示すように、本実施形態にて例示するメンテナンス作業(器具洗浄滅菌作業)を行う際には、作業者100は、所定の作業部屋内に設置された作業台150に向かって椅子151に座った状態で作業を行う。このとき、作業者100は、顔面近傍にウェアラブル端末装置20を装着した状態である。これにより、ウェアラブル端末装置20は、作業者100の視線方向を含む所定の領域の画像データ(主に動画像データ)を取得する。
また、作業台150の台上には、カメラ30が、作業者側に向けて載置されている。このカメラ30は、作業者100の少なくとも手元近傍を含む所定の領域の画像データを取得する。なお、カメラ30は、水回りでの使用を考慮して、防水機能を有するものが望ましい。
ウェアラブル端末装置20及びカメラ30と連携する作業判定装置10は、図4においては図示を省略している。これは、本実施形態にて例示する作業の作業場所が水回り近傍にあることから、作業判定装置10を離れた場所に設置しているためである。
ここで例示するメンテナンス作業(器具洗浄滅菌作業)は、使用済みの医療器具である手術用器具や処置具等であるハサミ200を洗浄して滅菌する作業である。したがって、作業台150には洗浄槽150aが備わっている。さらに、当該洗浄槽150aの上方には水道蛇口153が設置されている。この水道蛇口153のハンドル153aを開栓方向に回転操作すると、流水口153bより流水154が流れ出る。
作業者100は、洗浄槽150aに溜めた洗浄液(例えば水)にてメンテナンス対象の具器(ハサミ200)を所定のツール(洗浄用ブラシ300)を用いてブラッシング洗浄する。
この場合において、ウェアラブル端末装置20によって取得される画像データは、例えば図5Aに示すような画像Gb1や図6Aに示すような画像Gb2となる。図5Aに示す画像Gb1中には、作業者100の手によって把持されたハサミ200の画像200b1が含まれる。また、図6Aに示す画像Gb2は、作業者100が一方の手(左手100L)にメンテナンス対象具器(ハサミ200)を持ち、他方の手(右手100R)に持った所定のツール(洗浄用ブラシ300)を用いてブラッシング洗浄作業を行っている様子を示すものであり、左右の手の画像100Lg2,100Rg2、ハサミ200の画像200g2及びブラシ300の画像300g2が含まれる。
作業支援システム1において、ウェアラブル端末装置20は作業者が順次行う複数の作業の状況を適宜撮像する。こうして取得された各画像データは作業判定装置10へと送信される。作業判定装置10は、ウェアラブル端末装置20が取得した画像データを受信して、この画像データとデータベースに予め蓄積された各種情報とに基づいて所定の判定処理を行う。例えば、作業判定装置10は、対象とする作業内容に応じて規定されている複数の確認項目、例えばメンテナンス対象の器具の判定,使用ツールの種類等の判定,作業行為(ブラッシング,水洗,擦拭,薬剤噴霧等)等の判定等を行う。
作業判定装置10は、判定処理結果に基づいて、各種の制御処理を行う。例えば、実行された作業行為が規定の作業に合致する(正しい作業である)との判定結果の場合には、確認チェック表の作成等を行い、加えてエビデンス記録を行う。例えば、作業判定装置10は、作業者100が、ハサミ200やブラシ300をカメラ30の撮影範囲にかざすことで、カメラ30に対してエビデンス記録のための撮像を行わせることができる。
作業判定装置10は、例えば図5Aに示す画像Gb1を受信すると、カメラ30に対してハサミ200の撮像を指示する。図5Bはこの場合に、カメラ30によって撮像されて得られた画像Gc1を示している。画像Gc1中にはハサミ200の画像200c1が含まれる。作業判定装置10は、画像Gc1を取り込み、画像Gc1の画像解析により、ハサミ200の洗浄作業が正常に行われたことを判定する。
図7はこの画像Gc1に付加されるメタデータを示している。この場合には、トリガ出力機器はウェアラブル端末装置20を示す装置Bであり、トリガ判定機器は作業判定装置10を示す装置Aであり、撮影依頼機器は装置Aであり、依頼先機器は装置Aであり、関連応答機器は存在せず空欄であり、依頼条件はウェアラブル端末装置20の撮影からΔT1秒以内に撮影した画像であることを示すΔT1であり、応答画像ファイル名は存在せず空欄である。
この依頼条件で指定される時間ΔT1として、厳密に具体的な時刻や時間差を指定してもよい。機器の性能や利用状況によっては、絶対的な時間の同期が難しい場合もあり、一方で絶対的な時間の厳密さが求められない場合もある。そこで、依頼条件により厳密性を規定できるような仕様としてもよい。ここでは、特に、絶対的な厳密性より実用的な便利さを重視した説明をしている。つまり、ここでのΔT1は、許容時間差という書き方もできる。これが大きければ、それほどの厳密性は求められず、小さければ厳密である、という表記として扱うこともできる。本実施の形態を採用して、例えば1秒以下の指定があれば、かなりの厳密さで機器の同期や絶対時刻、グリニッジ時間などを参照しての時間合わせが重要になるといった解釈で機器連携するような規格を採用ししてもよい。逆に、絶対時刻の条件を指定できるようにしてもよい。このような指定は、各機器の持つ時計の誤差をグリニッジ時間などと比較可能な装置を連携すれば可能となる。また、この時間は依頼条件という言葉以外にも、「予約」という言葉で表現してもよい。これは機器連携やコンテンツの連携が、その場ですぐ、という場合ばかりではないからで、後で特定の条件で連携できれば良いという活用方法もあるからである。
また、例えば、作業判定装置10は、図6Aに示す画像Gb2を受信すると、カメラ30に対してハサミ200の撮像を指示する。図6Bはこの場合に、カメラ30によって撮像されて得られた画像Gc2を示している。画像Gc2中にはハサミ200の画像200c2が含まれると共に、ハサミ200に付着した汚れの画像201c2も含まれる。
作業判定装置10は、画像Gc2を取り込み、画像Gc2の画像解析により、ハサミ200の洗浄作業が規定の作業から外れている(作業ミスである)との判定結果を得る。この場合には、その旨の警告表示等を行うと共に、正しい作業のやり直しをさせる等のガイド表示等を行い、更に、カメラ30に対してメタデータの更新を指示する。
図8は画像Gc2に付加されるメタデータを示している。図8に示すように、トリガ出力機器はウェアラブル端末装置20を示す装置Bであり、トリガ判定機器は作業判定装置10を示す装置Aであり、撮影依頼機器は装置Aであり、依頼先機器は装置Aであり、関連応答機器は装置Bであり、依頼条件はカメラ30の画像Gc2の撮像から−ΔT2秒以内に撮影した画像であることを示す−ΔT2であり、応答画像ファイル名は画像Gb2を示す。
画像Gc2のメタデータから、画像Gc2の撮像からΔT2秒前に、装置Bであるウェアラブル端末装置20によって撮像されたファイル名Gb2の画像が連携画像として指定されていることが分かる。
図7のメタデータからは、画像Gc1がウェアラブル端末装置20の撮像からΔT1秒後に撮影された作業成功を示すエビデンス画像であることが分かる。一方、図8のメタデータからは、画像Gc2が作業失敗を示すもので、この画像の撮像からΔT2秒前にウェアラブル端末装置20により撮像された画像が画像Gb2であることが分かる。
作業支援システム1を使用して所定のメンテナンス作業(器具洗浄滅菌作業)を行う際の作用を、図9〜図11のフローチャートを用いて以下に説明する。
図9は作業判定装置10の作用を示すフローチャートである。ここでは、施設のシステムをつかさどるサーバとかパソコンなどを想定しているが、このような機能は、より小規模なシステムでは、ウェアラブル端末装置20やカメラ30が代行する可能性もある。この場合、作業判定装置20そのものがない、ウェアラブル端末装置20とカメラ30のみでシステムが構成できる。特に屋外での現場等でこうした作業支援をする場合、カメラ30がカメラ付きの情報端末に取って代わることが考えられる。図10はウェアラブル端末装置20の作用を示すフローチャートである。図11はカメラ30の作用を示すフローチャートである。
作業支援システム1において、各装置(作業判定装置10,ウェアラブル端末装置20,カメラ30)の電源オン状態とされているものとする。この状態において、作業者100は、図4で示す所定の環境下にあって、所定の作業を開始する。ここで説明する所定の作業は、医療器具のメンテナンス作業のうちの「ハサミ洗浄滅菌作業」を例示する。
先ず、作業判定装置10、ウェアラブル端末装置20及びカメラ30は、それぞれステップS1,S20,S30において、通信設定、ログイン設定を行い、相互の通信を確立する。これにより、作業判定装置10とウェアラブル端末装置20との通信、作業判定装置10とカメラ30との通信が確立する。
作業判定装置10は、電源オン状態で、ウェアラブル端末装置20に撮像を指示し、画像判定指令を行い、取得作業画像の仮記録を行う(ステップS2)。また、ウェアラブル端末装置20は、電源オン状態で、ライブビュー画像の撮像動作中であり、指示信号待機状態にある(図10のステップS21)。同様に、カメラ30も電源オン状態で、ライブビュー画像の撮像動作中であり、指示信号待機状態にある(図11のステップS31)。
この状態で、作業者100は、所定の作業場所にて、所定の「ハサミ洗浄滅菌作業」を開始する。まず、作業者100は、「ハサミ洗浄滅菌作業」においてメンテナンス対象とする器具(ハサミ200)を手に持って、これをカメラ30の前面(撮像範囲内)にかざす行為を行う。
すると、ウェアラブル端末装置20は、当該行為(ハサミ200をカメラ30の前面にかざす行為。以下、「かざす行為」と略記する)が行われたか否かの検出を行う(図10のステップS22)。この検出処理は、例えば、ウェアラブル端末装置20における制御部21の画像判定部21aにて行われる。ここで、器具を「かざす行為」が検出された場合には図10のステップS23の処理に進む。また、検出されない場合には引き続き当該検出処理を繰り返す。
図10のステップS23において、ウェアラブル端末装置20の制御部21は、上記器具を「かざす行為」が行われた旨の情報(以下、「かざした情報」と略記する)を作業判定装置10へと送信する。その後、ステップS24のライブビュー画像撮像動作を行いつつ待機状態となる。
待機状態にある作業判定装置10は、図9のステップS3にて、器具を「かざした情報」が受信されたか否かの確認を行う。ここで、器具を「かざした情報」の受信が確認された場合には、次のステップS4の処理に進む。なお、当該情報の受信が確認されない場合には、引き続き指示信号の受信を待機する。
ステップS4において、作業判定装置10の制御部11は、カメラ30に対して所定の撮像動作を実行する要求指示(撮像要求指示)を送信する。その後、カメラ30から撮像結果(ハサミ200の画像データ等)が送信されてくるのを待機する。
カメラ30は、図11のステップS32において、作業判定装置10からの撮像要求指示が受信されたか否かの確認を行う。ここで、撮像要求指示の受信が確認された場合には、所定の撮像動作を実行した後、次のステップS33の処理に進む。なお、ここで行われる撮像動作によって取得される画像データは、例えばハサミ200の拡大画像データのほか、例えば作業者100自身を含めた周囲環境(例えば作業部屋,作業台等)の画像データである。周囲環境データを取得することによって、当該作業が正しい(規定された)作業環境下においてなされているか、作業者100が正しい(規定された)装具、具体的には例えばマスク,手袋,顔面保護具等を着用しているか否かの確認ができる。
次に、ステップS33において、撮像動作の結果取得された画像データ(主に静止画像データ)等の情報を作業判定装置10に送信する。次いで、ステップS31の処理に戻り、ライブビュー画像の撮像動作を継続して実行しながら、所定の指示信号の受信を待機する。
作業判定装置10においては、カメラ30による撮像結果(ハサミ200の画像データ)を受信する(図9のステップS4)。作業判定装置10は、カメラ30からの撮像結果を受信したら、次のステップS5の処理に進む。ステップS5において、作業判定装置10は、制御部11の対象物判定部11d等を制御してメンテナンス対象器具の判定処理を実行する。この判定処理は、上記ステップS4で受信した撮像結果(ハサミ200の画像データ)と、データベース13に蓄積されているメンテナンス対象器具の画像データ等を参照して行う処理である。
次に、作業判定装置10は、ステップS6において、所定の工程の作業終了後の画像であるか否かを判定する。作業終了後の画像でない場合には、作業判定装置10は、ステップS11においてガイド表示が必要か否かを判定し、必要な場合には、ステップS12においてアドバイス表示をウェアラブル端末装置20によって表示させる。なお、作業判定装置10は、ガイド表示が不要な場合に、ステップS11から処理をステップS10に移行して、特定作業が終了したか否かを判定する。
作業判定装置10は、ステップS6において、作業終了後の画像が受信されたものと判定すると、ステップS7に処理を移行する。ステップS7において、作業判定装置10は、ウェアラブル端末装置20から受信した動画像データと、データベース13に蓄積されている対応データとを比較する。そして、取得された動画像データに基づいて、作業者100が行った作業が正しい(規定された)作業であるか否かを確認する。
作業判定装置10は、比較結果に問題が無ければ、即ち作業者100が行った作業(取得動画像)が正しい(規定された)作業であることが確認された場合(OKである場合)には、次のステップS13の処理に進む。また、OKではない場合には、ステップS8の処理に進む。
作業判定装置10は、作業結果が良好であると判定した場合には、ステップS13において画像記録を行い、工程情報と共に証拠画像化する。即ち、記録制御部11eによって記録部14に画像データ、メタデータが記録される。図1では画像データとメタデータとは記録部14の異なる領域に記録されている例を示しているが、一般的には、画像データ及びメタデータはファイル化され1つの画像ファイルとして記録される。
図12はこの場合に記録部14に記録される画像ファイルを示している。図12の画像ファイルには、作業が良好(OK)であることを示す証拠の画像データが含まれる。更に、図12の画像ファイルには、メタデータとして、画像データのサムネイルと、連携参加情報と、撮影指示機器情報と、作業名情報と、日時、感度、シャッター速度(SS)及び絞り等の撮影時情報とが含まれる。
一方、作業判定装置10は、作業結果が良好ではないと判定した場合には、ステップS8において、カメラ30によって取得された画像をシステム情報及びウェアラブル端末装置20からの作業画像と関連付けて記録する。即ち、上述したように、メタデータを更新してウェアラブル端末装置20によって撮像された画像を連携画像に指定し、作業ミスが生じていることの記録を残す。次に、作業判定装置10は、ステップS9において、警告及び改善指示等を行う。
図13はこの場合に記録部14に記録される画像ファイルを示している。図13の画像ファイルには、作業が良好でない(NG)であることを示す画像データが含まれる。更に、図13の画像ファイルには、メタデータとして、画像データのサムネイルと、連携参加情報と、撮影指示機器情報と、作業名情報と、日時、感度、シャッター速度(SS)及び絞り等の撮影時情報と、作業画像情報とが含まれる。なお、作業画像情報は、図8の例における応答画像Gb2に対応するものである。
図10のステップS26において、ウェアラブル端末装置20は、警告表示やガイド表示等の情報を受信したか否かの確認を行う。ここで、当該情報の受信が確認された場合には、次のステップS27の処理に進む。また、確認されない場合には、上述のステップS21の処理に戻り、ライブビュー画像撮像動作を行いつつ待機状態となる。ステップS27において、ウェアラブル端末装置20の制御部21は、表示部25を制御して、所定の形態の警告表示,ガイド表示等を実行する。
一方、作業判定装置10は、ステップS10において、工程が終了したか否かの確認を行う。この確認は、例えばデータベース13を参照する等による。作業判定装置10は、工程終了が確認されない場合、即ち工程が終了しておらず、次の作業が存在する場合には、ステップS2に処理を戻す。
このように本実施の形態においては、複数の機器において連携して撮像を行う場合、又は複数の機器が撮影して得た画像を連携して利用する場合には、撮像画像に連携参加情報を付加する。これにより、各撮像画像により、当該撮像画像を元に連携画像の供給を依頼したか、或いは当該撮像画像が連携元画像に対応して供給可能な連携画像であるか、連携画像の供給元や供給先等の情報、或いは連携の条件等を把握することが可能である。これにより、複数の機器で連携した撮影を行う場合でも、また、このような連携撮影が管理装置に従って行われた場合であっても、画像ファイルのみから、連携に関する各種情報を取得することができ、複数の機器により得た撮像画像を連携させて利用することが可能である。このように本実施の形態では、画像の有効利用を著しく促進させることができる。
図12及び図13の連携参加情報は、上述した依頼情報及び提供情報を含むものであるが、上述した連携参加情報は一例である。例えば、連携参加情報として、上述した依頼情報及び提供情報の一部又は全部に代えて、或いは、上述した依頼情報及び提供情報の一部又は全部に加えて、図14及び図15に示す連携参加情報をメタデータとして記録するようにしてもよい。
図14の連携参加情報は、撮像画像を撮像した機器(以下、当該機器という)が撮像主体であることを示す情報、当該機器以外の機器が撮像主体であることを示す情報、当該機器以外の機器が複数であることを示す情報、複数の機器を制御するコントロール機器が存在することを示す情報を含む。
また、図15の連携参加情報は、当該機器の画像が連携せず単独の画像であることを丸印で示す情報(単独)、双方の丸印によって当該機器が、連携する他機と平等な連携関係にあることを示す情報(平等連携)、丸印を主とし三角印を従として、当該機器が連携する他機に対して主の関係であることを示す情報(主従連携1)、丸印を主とし三角印を従として、当該機器が連携する他機に対して従の関係であることを示す情報(主従連携2)を含む。
また、上述したように、依頼情報により連携画像の供給を依頼する依頼機器に対して、提供情報を有する提供機器が存在することが判明した場合でも、判明直後に連携画像の画像データを依頼機器に転送する必要はなく、連携画像を特定する例えば画像ファイル名のみを伝えればよい。この場合でも、必要に応じて、依頼機器が所定のネットワークを介して提供機器にアクセス可能にすることで、連携画像を取得することが可能である。
また、提供機器が連携画像を所定のネットワークにアップロードしておけば、依頼機器は、当該所定のネットワークにアクセスすることで、連携画像を取得することも可能である。即ち、本実施の形態では、複数の機器が連携してコンテンツを作成するシステムを構成可能となる。即ち、複数の機器が連携して生成する連携コンテンツを構成する個々のコンテンツの関係をそれぞれのコンテンツにメタデータとして付与し、更に、上記連携の当事者となる上記複数の機器情報と、連携の条件を出力した依頼元情報とを、上記メタデータとして生成するメタデータ生成部を具備することを特徴とするコンテンツ作成システムを構成することが可能となる。
更に、提供機器は、依頼機器の存在を知ることなく提供情報をメタデータとして記録しておくことも可能である。この場合には、提供機器が例えば公開ネットワークに、依頼条件を記述した画像をアップロードしておくことで、この依頼条件の内容に対応する依頼を行った依頼機器において、アップロードされた画像を連携画像としてダウンロードすることも可能である。例えば、依頼条件としては、ネットワーク環境、場所、撮影時刻、撮影方向等が考えられる。例えば、所定の場所で所定の日時、時間帯に撮影された画像であることを依頼条件に記述した提供情報を含む画像を公開サーバにアップロードおくことで、依頼機器は、後日、例えば同じ時間に同じ場所で撮影して得た画像に関連する画像を公開サーバからダウンロードすることも可能である。この場合には、依頼情報中の依頼先機器としては、公開サーバのURLの情報を含むようにしてもよい。
なお、連携に参加する機器は、連携参加情報を送信するものと説明したが、連携参加情報を含む画像ファイルそのものを送信するようにしてもよい。また、依頼機器は連携画像の画像ファイル名等を用いて連携画像を取得することができるが、この場合には、転送された連携画像を記録してもよく、転送された連携画像を記録することなく表示するようにしてもよい。また、連携画像として静止画の例を説明したが、連携画像が動画像であってもよい。
(第2の実施の形態)
図16は本発明の第2の実施の形態を示すブロック図である。図16において図1と同一の構成要素には同一符号を付して説明を省略する。本実施の形態は具体的な適用例が第1の実施の形態と異なるのみで、第1の実施の形態と同様の構成によって実現することができる。
図16は本発明の第2の実施の形態を示すブロック図である。図16において図1と同一の構成要素には同一符号を付して説明を省略する。本実施の形態は具体的な適用例が第1の実施の形態と異なるのみで、第1の実施の形態と同様の構成によって実現することができる。
即ち、本実施の形態の構成は図1と略同様であり、画像管理装置110は図1の作業判定装置10の制御部11に代えて制御部111を採用すると共にデータベース13を削除したものである。制御部111は作業判定部11aを省略した点が制御部11と異なる。カメラ120は、警告部26を省略すると共に、表示部25に代えて表示部121を採用した点が図1のウェアラブル端末装置20と異なる。また、連携装置130は、図1のカメラ30と同様の構成である。
次に、このように構成された実施の形態の作用について図17から図26を参照して説明する。図17及び図18はサッカーの試合における機器連携を説明するための説明図である。また、図19及び図20は3次元撮影における機器連携を説明するための説明図である。図21A及び図21Bはカメラ120のカメラ制御を示すフローチャートである。なお、図21A及び図21Bでは三角で囲んだ同一の数字同士で処理が連結されることを示している。図22は画像管理装置110の動作を示すフローチャートである。また、図23及び図24はそれぞれ図17又は図20に対応したカメラ120のメタデータを示す説明図である。
図17はサッカーの試合をカメラ120及び連携機器130によって撮影している様子を示している。グラウンド141におけるサッカーの試合において、観客の一人が例えば観客席から、カメラ120によりグラウンド141のゴール142側を撮影しているものとする。観客は、表示部121の表示画面121a上に表示されたスルー画を見ながら撮影操作を行う。いま、観客がカメラ120のシャッターボタンを右手125で操作することで撮像を行い、表示画面121a上に表示されている画像Gb3を撮像するものとする。画像Gb3中にはグラウンド141の比較的広い領域の画像141aが撮像されている。
一方、画像管理装置110は、例えばサッカー場に設置された放送用カメラである連携機器130からの画像を管理するものである。連携機器130は三脚等に取り付けられた据え置き式であって、例えば望遠機能を有しており、広角画像を取得することができる。また、画像管理装置110の管理により、複数の連携機器130が連携して撮影を行う場合もある。図18は連携機器130の撮像画像Gc3を示しており、ゴール142の画像142aと、ボールをキャッチしようとしているキーパーを捉えたボール及びキーパーの画像144a,143aとを含んでいる。
図17及び図18の例では、観客がカメラ120により取得した画像Gb3は、フリーキックの直前のプレーヤーの動きの状態を捉えた画像であり、放送用カメラである連携機器130により取得された画像Gc3は、フリーキックの直後のゴール142近傍の様子を捉えたものである。一般的には、画像Gc3の方が、ユーザの興味を引きやすいシーンを捉えたものといえる。本実施の形態では、カメラ120により撮影を行う観客は、画像管理装置110によって取得される画像を連携画像として要求することで、よりよいシーンの画像を取得したり、記憶に残りやすい画像を得ることができる。
例えば、観客はカメラ120を操作して、画像Gc3の撮影後に画像ファイル又は画像ファイル中の依頼情報を含む連携参加情報を画像管理装置110に送信するようにしてもよい。また、画像管理装置110が連携機器130から取得した画像を図示しない公開サーバにアップロードする場合には、例えば、観客はサッカー観戦後に、カメラ120に記憶されている画像ファイル又は画像ファイル中の依頼情報を含む連携参加情報を公開サーバにアップロードすることで、画像Gc3の提供を依頼することもできる。
また、図17及び図18では、観客が放送用カメラ130による画像の供給を希望する例を示したが、画像管理装置110において、観客がカメラ120により撮影した画像の要求を希望することも考えられる。そこで、例えば、サッカー場に来客した観客の中で、画像の供給を行ってもよい場合に、連携参加情報の供給情報を撮像画像に含めて、撮像画像をアップロードするようにしてもよい。
カメラ120の制御部21は、図21AのステップS41において、撮影モードが設定されているか否かを判定する。撮影モードが設定されている場合には、制御部21は次のステップS42において、撮像を開始し、スルー画を表示部121の表示画面121aに表示する。制御部21は、ユーザにより撮影パラメータの変更操作があったか否かを判定し(ステップS43)、変更操作があった場合には、ステップS51においてパラメータ操作等の設定を反映させた制御を行って撮像を行い、変更操作がない場合には、ステップS44において以前のパラメータ操作等に応じた撮像を行う。こうして、表示画面121a上には、ユーザの設定操作を反映させた撮像画像が表示される。制御部21はステップS45において、画像ファイルのメタデータとして記録するために、撮影位置(場所)、時刻、操作履歴等を判定する。
次に、制御部21は、ステップS46において、撮像画像中から対象物を判定すると共に、例えば動きの判定を行って、撮像画像がどのようなイベントに関連するものであるかを判定する。例えば、人の動きが比較的大きい画像の場合には、スポーツのイベントを撮影したものであると判定してもよい。また、例えば、対象物が動きのない物体の場合には、撮像画像が3D撮影に関する画像であると判定してもよい。
制御部21は、ステップS47において撮影操作があったか否かを判定する。制御部21は、撮影操作がないと判定した場合には、処理をステップS41に戻し、撮影操作があったと判定した場合には、処理をステップS48に移行して、ステップS46において判定したイベントがスポーツのイベントであるか、3D撮影のイベントであるかを判定する。
ここでは、連携対象となる条件(連携条件)が極端に異なる例をあげて説明しているが、当然、このような分岐のみを想定した発明ではない。スポーツシーンであっても、当然、バットに当たったボールの変形形状を様々な角度から同時に撮りたい場合もあるが、そのようなケースでは、その要望をユーザが手動入力すればよい。この判定は、自動でやらずに手動設定できるようにして、その結果でステップS48の分岐を変えられるようにしてもよい。動き判定の結果で、動きが大きいものほど同期や連携の精度を高くするニーズもある。また、様々な物理現象の観測などでは、動く対象物の撮影や観測で絶対時刻での一致が求められる可能性がある。
スポーツのイベントの場合には、制御部21は、ステップS52において、撮影を行った後、当該撮影に関して時刻判定、特定シーンの判定を行って、依頼情報を生成する。制御部21は、次のステップS50において、撮像画像の画像圧縮を行い、操作履歴等と共にメタデータを生成して、画像データとメタデータとをファイル化する。更に、制御部21は、必要に応じて、画像ファイル又は画像ファイル中の連携参加情報を送信する。
この時(撮影したとき)、すぐに連携しなくてもほかの機器の情報を参照したいだけなので、迅速に機器連携する必要が常に必要なわけではなく、こうした即時性というより「予約」も含めた連携要求、依頼条件、連携条件となる。こうした「即時性」や「予約」といった依頼条件、連携条件もメタデータとなっている。こうした工夫によって、いたずらにほかの機器の制御にまで干渉することがなくなり、実用性が向上する。自機器も、ほかの機器から緊急性、即時性のない連携要求が、緊急で来ると、ユーザの使い勝手に大きな制約が出て、不便な装置となってしまう。
図22のステップS70において、画像管理装置110の制御部111は、他機からのアクセスを監視しており、アクセスが発生するとステップS71において、画像ファイル又は画像ファイル中の連携参加情報を受信したか否かを判定する。これらの受信がない場合には、制御部111はステップS70に処理を戻し、受信した場合には次のステップS72において、依頼情報に基づく画像要求が発生しているか否かを判定する。制御部111は、画像要求が発生していない場合には、次のステップS76において、管理している連携機器130又は観客が操作するカメラ120から画像を受信しているか否かを判定する。
制御部111は、画像を受信していない場合には、次のステップS78において、通信設定、ログイン設定を行い、連携機器130に対してスケジュール情報等の発信を行う。このスケジュール情報に応じて、連携機器130は撮影を行い、撮像画像を画像管理装置110に送信する。
制御部111は、連携機器130又はカメラ120からの画像を受信すると、ステップS76からステップS77に処理を移行して、受信画像をカテゴリ毎に整理し、時刻情報と共に記録する。例えば、サッカーの試合の画像を記録する場合には、前半のシーン、後半のシーン、シュートシーン、反則のシーン、休憩のシーン、その他のシーン等にカテゴリ分けする。これにより、依頼機器が依頼情報中にこれらのカテゴリを記載しておくことで、所望のシーンの画像を依頼機器に提供することができる。また、画像管理装置110において、所定のシーンにおいて有効と考えられる画像を容易に検索することができ、放送時に利用することもできる。
制御部111は、ステップS71において画像要求が発生していると判定すると、次のステップS72において、要求された画像情報を送信する。この場合の画像情報は、連携画像に関する画像情報である。カメラ120の制御部21は、ステップS50において、依頼先機器である画像管理装置110から連携画像に関する情報を取得すると、取得した情報に基づいてメタデータを更新する。
例えば、制御部21は、受信した情報に基づいて連携画像の画像ファイル名を追記するだけでなく、依頼先機器の情報や依頼条件等を更新する可能性がある。例えば、連携画像が当初の依頼先機器とは異なる依頼先機器に保存される場合等においては、当該連携画像をダウンロードするのに必要な情報に応じて依頼先機器及び依頼条件等を更新する。
図23は依頼機器であるカメラ120のメタデータを示している。図23の例では、トリガ出力機器は自機であるカメラ120を示す装置Bであり、トリガ判定機器は自機を示す装置Bであり、撮影依頼機器も装置Bである。この場合には、これらの情報は省略してもよい。また、図23の例では、依頼先機器は画像管理装置110を示す装置Aであり、関連応答機器はシュートシーンを撮影した連携機器130を示す装置Cであり、依頼条件はカメラ120の画像Gb3の撮像からΔT3秒以内に撮影した画像であることを示すΔT3であり、応答画像ファイル名はシュートシーンの画像Gc3である。
なお、スポーツの撮影の場合には、依頼条件ΔT3としては、比較的長い時間、例えば10秒程度を設定してもよい。なお、サッカー観戦後に自宅等で公開サーバにアップロードされた画像Gc3の提供を希望する場合には、依頼条件としては、公開サーバの情報、サッカーの試合のIDや時刻の情報、例えば何点目の得点シーン等のシーン情報等が考えられる。ユーザはこうして生成された画像ファイル又は連携参加情報を所定のサーバにアップロードすることで、連携画像の情報又は連携画像の画像ファイルをダウンロードすることが可能となる。
図25及び図26は依頼条件の決定の仕方の一例を説明するための説明図である。例えば、依頼条件はイベント毎に決定してもよい。図25の例では、イベントとして、成長記録系、ステージ、スケジュール有、事件、事故又はスポーツ及び3D撮影が設定され、これらのイベントにおける撮影では、連携元画像と連携画像との時間差について、それぞれ1日単位、1時間単位、数分単位、秒単位、一瞬という時間差の設定例が示されている。例えば、子供の成長記録のための撮影を行う場合には、依頼条件として1日単位を設定すればよく、この場合には、例えば連携元画像の撮影から1日以内に撮影した連携画像が要求されることになる。また、例えば、スポーツの撮影では、秒単位での設定が行われ、例えば連携元画像の撮影から数秒以内に撮影した連携画像が要求される。
図26はスポーツ進行のスケジュールを示しており、前半の9分30秒から9分40秒にかけてシュートのシーンが撮影されたこと、前半の13分30秒から14分40秒にかけてゴールのシーンが撮影されたことを示している。依頼条件中にこのようなスケジュールの情報を含めることで、所望のシーンの撮像画像の要求を簡単にすることも可能である。
このように、依頼機器は、画像ファイルのメタデータに依頼情報を記述することで、容易に供給を希望する画像を取得することが可能である。
カメラ120の制御部21は、ステップS41において撮影モードが指定されていないと判定された場合には、処理を図21BのステップS60に移行して再生モードが指定されているか否かを判定する。再生モードが指定されている場合には、制御部21は、次のステップS61において、記録部23に記録されている画像の一覧表示を表示する。次に、制御部21は、ユーザにより一覧表示中の所定の画像が選択されたか否かを判定する(ステップS62)。制御部21は、ユーザによる選択が行われない場合には、ステップS66において画像の変更が指示されたか否かを判定する。制御部21は、画像の変更が指示されていない場合にはステップS67において終了操作が行われたか否かを判定する。制御部21は、終了操作が行われた場合には処理をステップS41に戻し、終了操作が行われていない場合には処理をステップS62に戻す。
制御部21は、ステップS62において選択操作が行われたものと判定すると、次のステップS63において選択画像を拡大して表示する。更に、制御部21は、ステップS64において連携画像の確認操作が行われたか否かを判定する。連携画像の確認操作が行われた場合には、ステップS65において、連携画像の検索を行って表示する。
即ち、制御部21は、記録部23に記録されているメタデータを読出して、依頼情報を参照することで、連携画像の取得を行う。例えば、依頼先機器及び依頼条件の情報に基づいて、連携画像のダウンロードを行う。制御部21は、ダウンロードした連携画像を表示し、取得を希望する場合には、取得した連携画像の情報に基づいて、必要に応じてメタデータを更新した後、ステップS66に処理を移行する。
この場合、撮影の瞬間というより、その後の比較的長い余裕のある時間の中での連携ができればよいという状況でもあり、連携条件は「連携予約」となって、次に鑑賞するときに、別コンテンツが参照できるような実用化ができればよい。つまり、即座に通信などを行う必要もなく、例えば通信環境が良くなった時に、この情報を通信するように工夫してもよい。
制御部21は、ステップS62,S64においてNO判定を行った場合にも処理をステップS66に移行する。制御部21は、ステップS66において画像変更の要求があったものと判定した場合には、ステップS68において画像を変更して、処理をステップS64に戻す。
また、制御部21は、ステップS60において、再生モードが指定されていないと判定した場合にはステップS69に処理を移行して画像受信、通信設定、連携画像検索取得、スケジュール情報の取得等を行って処理をステップS41に戻す。なお、スケジュール情報を利用することで、ユーザによる連携画像を取得するための依頼条件の指定が容易となる。
また、画像管理装置110の制御部111は、図22のステップS74において、情報要求が発生したか否かを判定する。情報要求が発生していない場合には送信が終了したか否かを判定し(ステップS76)、送信が終了していなければ処理をステップS73に戻し、送信が終了すると処理をステップS70に戻す。
制御部111は、情報要求が発生している場合には、ステップS74から処理をステップS75に移行して、画像や関連情報(イベント情報)等を要求元に送信する。例えば、イベント情報を送信することで、カメラ120は、ステップS46において確実なイベント判定が可能となる。
一方、図19はカメラ120及び1台以上の連携機器130によって、被写体151を3次元(3D)撮影している様子を示している。なお、図19では図面の簡略化のために、1台以上の連携機器130のうちの1台の連携機器130のみを示している。図19の例では、画像管理装置110は採用されておらず、依頼機器であるカメラ120は、直接、依頼先機器である1台以上の連携機器130との間で連携参加情報を送受信するようになっている。
図19の例では、被写体151を、カメラ120によって撮像すると共に、カメラ120とは異なる視線方向から連携機器130によっても撮像するようになっている。ユーザは、表示部121の表示画面121a上に表示されたスルー画を見ながら撮影操作を行う。いま、ユーザがカメラ120のシャッターボタンを右手125で操作することで撮像を行い、表示画面121a上に表示されている画像Gb4を撮像するものとする。画像Gb4中には被写体151の画像151aが撮像されている。
一方、依頼先機器である連携機器130も被写体151を撮像する。連携機器130は例えば三脚等に取り付けられた据え置き式であって、被写体151に対して所定の位置に配置され、カメラ120の依頼によって撮影を行うことができるようになっている。カメラ120及び連携機器130の視線が異なる2台以上の撮像機器によって被写体151を撮像することで、立体画像を得ることができる。即ち、連携機器130は、カメラ120が記録した画像ファイル中の依頼条件の情報によって指定された時間に、被写体151を撮影するように制御されている。なお、3D撮影を考慮した場合には、依頼条件には、カメラ120の撮影から例えば0.1秒以内に連携機器130において撮影を行うための情報が記述される。図20は連携機器130の撮像画像Gc4を示しており、画像Gc4には被写体151の画像151aが含まれる。
図21AのステップS48において、カメラ120の制御部21はイベントが3D撮影であるものと判定すると、処理をステップS49に移行して、撮影を行うと共に、時刻判定を行い、判定した時刻及び各種撮影パラメータ等を含め連携参加情報を生成する。カメラ120及び1台以上の連携機器130における撮影パラメータを共通化することで、撮像画像の画質を均一にして3次元画像の画質を向上させることができる。
この時(撮影したとき)、すぐに連携しないとパラメータの連携ができないので、迅速に機器連携する必要があり、こうした即時性も含めた連携要求、連携条件となる。
制御部21は、次のステップS50において、撮像画像の画像圧縮を行い、操作履歴等と共にメタデータを生成して、画像データとメタデータとをファイル化する。更に、制御部21は、必要に応じて、画像ファイル又は画像ファイル中の連携参加情報を送信する。これにより、連携機器130は、カメラ120の撮影から指定された時間以内に、指定された撮影パラメータで被写体151を撮影する。ステップS50において、依頼先機器である連携機器130から連携画像に関する情報を取得すると、取得した情報に基づいてメタデータを更新する。
図24は依頼機器であるカメラ120のメタデータを示している。図24の例では、トリガ出力機器は自機であるカメラ120を示す装置Bであり、トリガ判定機器は自機を示す装置Bであり、撮影依頼機器も装置Bである。この場合には、これらの情報は省略してもよい。また、図24の例では、依頼先機器は1台の連携機器130を示す装置C1であり、関連応答機器は被写体151を撮影した連携機器130を示す装置C1であり、依頼条件はカメラ120の画像Gb4の撮像からΔT4秒以内に撮影した画像であることを示すΔT4であり、応答画像ファイル名は連携機器130が撮像して得た画像Gc41である。
なお、図24の例は複数台の連携機器130に撮影を依頼しており、メタデータには連携を依頼した機器毎の情報が記述される。図24の例では、2台目の依頼先機器である連携機器130に関する情報として、依頼先機器は連携機器130を示す装置C2であり、関連応答機器は被写体151を撮影した連携機器130を示す装置C2であり、依頼条件はカメラ120の画像Gb4の撮像からΔT4秒以内に撮影した画像であることを示すΔT4であり、応答画像ファイル名は連携機器130が撮像して得た画像Gc42であることが分かる。
即ち、図24のメタデータを参照することで、複数の連携機器130が撮影して得た複数の撮像画像の関係を把握することが可能であり、カメラ120が3D撮影用の特殊な制御機能を有していない場合でも、複数の連携機器130が撮影して得た撮像を用いて3D画像を生成することが可能となる。
ここでは、3D撮影と強調して説明したが、複数の機器の連携の一例であって、パノラマ画像や広視野画像や複数点監視や奥行き情報取得とか様々な応用例があり、画像でなく画像と音声とか、ほかの情報を連携させる用途もあることは言うまでもない。つまり、複数の機器が連携して生成する連携コンテンツを構成する個々のコンテンツの関係がわかればよく、それぞれのコンテンツにメタデータとして付与するコンテンツ作成システムにしておくことによって、コンテンツがばらばらになっても、すぐに関連付けることができる。この連携の当事者となる上記複数の機器情報と、連携の条件を出力した依頼元情報とを、上記メタデータとして生成するメタデータ生成部を具備することを特徴とするので、情報取得をやり直すときにもすぐに元々の連携構成を知ることができ、再現させたり改良させたりが簡単にできる。
なお、図19の例では、1台のカメラ120と1台以上の連携機器130によって3D撮影を行う例を説明したが、複数台のカメラ120によって3D撮影を行うようになっていてもよい。この場合には、1台カメラ120が親器となり、他のカメラ120が子器となって、撮影を行う。親器のカメラ120は、依頼情報を含む連携参加情報を生成し、子器のカメラ120は、供給情報を含む連携参加情報を生成すればよい。
このように本実施の形態においては、第1の実施の形態と同様の効果を得ることができ、また、様々なイベントにおいて有用な画像の取得を容易にすることができる。
このように、本願は、どのような機器が接続されていて、そのうちのどの機器のどのような情報をもとに撮影が行われたかが画像ファイルに残っている(エビデンス)ということ、どのような状況でどのような画像を求めているかを画像ファイルに残す(してネットにUPする)こと、どのような画像を求めているかをどこに出したか(出す予定か)を画像ファイルに残す(してネットにUPする)ことなど、高度な目的を総合的に検討して、これまでにない、しかも無駄がなく生成が容易なメタデータを考案したものとなっている。つまり、複雑な連携で上記高度な目的を達成する当事者機器を明確にしている。また、対象物の画像を取得し、上記画像取得時に取得した撮像の依頼情報と、上記撮像の依頼情報の発信装置とその発信装置の依頼根拠を上記取得画像データと関連づけて記録した。また、対象物の画像を取得し、これと画像と関連づけて撮像依頼する条件を依頼情報とし、上記取得画像データと関連づけて記録した。さらに、対象物の画像を取得し、上記画像と関連づけて撮像依頼する対象機器情報を依頼情報として、上記取得画像データと関連づけて記録するようにして連携して情報を取得するときの状況を明確にした。これによって得られた情報の精度があがり、証拠性も向上する。
なお、本発明の各実施形態においては、撮影のための機器として、ウェアラブル端末装置や通常のカメラや放送用カメラ等を用いて説明したが、撮影画像を取得することができるものであれば、どのような撮像デバイスを採用してもよく、設置場所にとらわれなければ、撮影するための機器として、レンズ型カメラでも、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話やスマートフォンなど携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。また、内視鏡、顕微鏡のような産業用、医療用の光学機器でもよく、監視カメラや車載用カメラ、据え置き型のカメラ、例えば、テレビジョン受信機やパーソナルコンピュータ等に取り付けられているカメラであってもよい。
さらに、実施形態において、部(セクションやユニット)として記載した部分は、専用の回路や、複数の汎用の回路を組み合わせて構成してもよく、必要に応じて、予めプログラムされたソフトウェアに従って動作を行うマイクロプロセッサ及びCPU等のプロセッサ、あるいはシーケンサを組み合わせて構成されてもよい。また、その制御の一部又は全部を外部の装置が引き受けるような設計も可能で、この場合、有線や無線の通信回路が介在する。ここでは、単純化のため通信部を特記していない場合もあるが、本願の特徴的な処理や補足的な処理をサーバやパソコン等の外部機器が行う実施形態も想定される。つまり、複数の機器が連携して、本発明の特徴を成立させる場合も、本願はカバーしている。この時の通信には、ブルートゥース(登録商標)やWi−Fi(登録商標)、電話回線等が用いられる。また、この時の通信は、USB等で行われてもよい。専用の回路、汎用の回路や制御部を一体としてASICとして構成してもよい。こうした装置、あるいはシステムは、ユーザに何らかの働きかけを行ったり、部品の角度を変えたりする等の機能を有しても良く、その機構は、様々なアクチュエータと、必要に応じて連結メカニズムによって構成されており、ドライバ回路によってアクチュエータが作動する。このドライブ回路もまた、特定のプログラムに従ってマイクロプロセッサマイコンやASIC等が制御する。こうした制御は各種センサやその周辺回路が出力する情報によって、詳細な補正、調整などが行われてもよい。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
また、ここで説明した技術のうち、主にフローチャートで説明した制御や機能は、多くがプログラムにより設定可能であり、そのプログラムをコンピュータが読み取り実行することで上述した制御や機能を実現することができる。そのプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD−ROM等、不揮発性メモリ等の可搬媒体や、ハードディスク、揮発性メモリ等の記憶媒体に、その全体あるいは一部を記録又は記憶することができ、製品出荷時又は可搬媒体或いは通信回線を介して流通又は提供可能である。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールしたりすることで、容易に本実施の形態の画像処理装置を実現することができる。
1…作業支援システム、10…作業判定装置、11,21,31…制御部、11e…記録制御部、14,23,33…記録部、14a,23a,33a…画像データ記録領域、14b,23b,33b…メタデータ記録領域、14c,23c,33c…機器データ記録領域、20…ウェアラブル端末装置、25…表示部、30…カメラ、A,B,C…情報処理装置。
Claims (10)
- 撮像画像を取得する取得部と、
上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加する制御部と、を具備し、
上記制御部は、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含める
ことを特徴とする画像ファイル作成装置。 - 上記撮像画像を撮像する撮像部を具備し、
上記制御部は、上記依頼条件の情報として、上記撮像画像の撮像時間と上記連携画像の撮像時間との関係を示す情報を含める
ことを特徴とする請求項1に記載の画像ファイル作成装置。 - 上記制御部は、上記依頼条件の情報として、連携画像の提供の依頼先の機器の情報、連携画像の供給元の機器の情報、上記連携画像を特定する情報のうちの少なくとも1つの情報を含める
ことを特徴とする請求項2に記載の画像ファイル作成装置。 - 上記制御部は、上記提供情報として、上記連携画像の撮像のトリガを発生する機器の情報を含める
ことを特徴とする請求項1に記載の画像ファイル作成装置。 - 上記制御部は、上記提供情報として、上記連携画像の撮像のトリガのタイミングを判定する機器の情報及び上記連携画像の提供を直接依頼する機器の情報の少なくとも一方を含める
ことを特徴とする請求項4に記載の画像ファイル作成装置。 - 上記制御部は、上記取得部による撮像画像の取得後に上記連携参加情報を作成すると共に、上記連携画像の提供の依頼先の機器から上記連携画像を特定する情報を受信した後、上記連携参加情報を更新する
ことを特徴とする請求項1に記載の画像ファイル作成装置。 - 上記制御部は、上記連携画像の提供の依頼先の機器から上記連携画像を特定する情報を受信した後、受信した情報に基づいて上記連携画像を取得する
ことを特徴とする請求項1に記載の画像ファイル作成装置。 - 撮像画像を取得する取得ステップと、
上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加するステップであって、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含めるステップと、
を具備したことを特徴とする画像ファイル作成方法。 - コンピュータに、
撮像画像を取得する取得ステップと、
上記撮像画像の提供を行うための提供情報と上記撮像画像と所定の関係を有する連携画像の提供の依頼を行うための依頼情報との少なくとも一方を含む連携参加情報を上記撮像画像にメタデータとして付加するステップであって、上記依頼情報として、上記撮像画像と上記連携画像との間の上記所定の関係を示す依頼条件の情報を含めるステップと、
を実行させるための画像ファイル作成プログラム。 - 複数の機器が連携して生成する連携コンテンツを構成する個々のコンテンツの関係をそれぞれのコンテンツにメタデータとして付与し、上記連携の当事者となる上記複数の機器の情報と、連携の条件を出力した依頼元情報とを、上記メタデータとして生成するメタデータ生成部
を具備することを特徴とするコンテンツ作成システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018043314A JP2019161361A (ja) | 2018-03-09 | 2018-03-09 | 画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム |
US16/292,123 US10841453B2 (en) | 2018-03-09 | 2019-03-04 | Image file creation apparatus, image file creation method, recording medium storing image file creation program, and content creation system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018043314A JP2019161361A (ja) | 2018-03-09 | 2018-03-09 | 画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019161361A true JP2019161361A (ja) | 2019-09-19 |
Family
ID=67842231
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018043314A Pending JP2019161361A (ja) | 2018-03-09 | 2018-03-09 | 画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10841453B2 (ja) |
JP (1) | JP2019161361A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023188938A1 (ja) * | 2022-03-30 | 2023-10-05 | 富士フイルム株式会社 | 情報処理装置及び情報処理方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220134222A1 (en) * | 2020-11-03 | 2022-05-05 | Nvidia Corporation | Delta propagation in cloud-centric platforms for collaboration and connectivity |
JP2022159806A (ja) * | 2021-04-05 | 2022-10-18 | 株式会社エビデント | データ処理方法、データ処理装置、およびプログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7528868B2 (en) * | 2003-12-18 | 2009-05-05 | Eastman Kodak Company | Image metadata attachment |
JP2008054155A (ja) | 2006-08-28 | 2008-03-06 | Matsushita Electric Ind Co Ltd | 画像合成装置 |
JP6140991B2 (ja) * | 2012-12-04 | 2017-06-07 | オリンパス株式会社 | サーバシステム、プログラム、サーバシステムの作動方法及び端末装置 |
US20160065908A1 (en) * | 2014-08-29 | 2016-03-03 | Coban Technologies, Inc. | Portable camera apparatus and system for integrated surveillance system devices |
US10078644B1 (en) * | 2016-01-19 | 2018-09-18 | Gopro, Inc. | Apparatus and methods for manipulating multicamera content using content proxy |
US10015369B2 (en) * | 2016-05-04 | 2018-07-03 | Gopro, Inc. | Synchronization of cameras using wireless beacons |
US20190356885A1 (en) * | 2018-05-16 | 2019-11-21 | 360Ai Solutions Llc | Camera System Securable Within a Motor Vehicle |
-
2018
- 2018-03-09 JP JP2018043314A patent/JP2019161361A/ja active Pending
-
2019
- 2019-03-04 US US16/292,123 patent/US10841453B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023188938A1 (ja) * | 2022-03-30 | 2023-10-05 | 富士フイルム株式会社 | 情報処理装置及び情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
US10841453B2 (en) | 2020-11-17 |
US20190281183A1 (en) | 2019-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7460781B2 (en) | Photographing system | |
CN103685925B (zh) | 摄像装置以及摄像处理方法 | |
US8760518B2 (en) | Photographing apparatus, photographing system and photographing method | |
KR101690955B1 (ko) | 증강 현실을 이용한 영상 데이터 생성 방법 및 재생 방법, 그리고 이를 이용한 촬영 장치 | |
JP6192940B2 (ja) | 撮影機器及び連携撮影方法 | |
WO2011102232A1 (ja) | 電子機器、撮像装置、画像再生方法、画像再生プログラム、画像再生プログラムを記録した記録媒体および画像再生装置 | |
KR20070081756A (ko) | 촬영 장치 및 방법, 및 프로그램 | |
JP2006013923A (ja) | 監視装置 | |
JP6455474B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019087974A (ja) | 撮像装置、撮像方法、表示装置および表示方法 | |
JP2019161361A (ja) | 画像ファイル作成装置、画像ファイル作成方法、画像ファイル作成プログラム及びコンテンツ作成システム | |
JP2012050011A (ja) | 撮影システム、撮影制御方法、撮影装置およびプログラム | |
JP4583717B2 (ja) | 撮像装置及び方法、画像情報提供システム、プログラム、並びに制御装置 | |
JP2010187711A (ja) | カメラ制御装置、カメラ制御システムおよびカメラ制御方法 | |
JP6412743B2 (ja) | 撮影支援装置、撮影支援システム、撮影支援方法及び撮影支援プログラム | |
US10785397B2 (en) | Information processing system, information processing method and non-transitory computer-readable recording medium on which information processing program is recorded for moving image photographing, acquisition, and editing | |
JP6297739B1 (ja) | 物件情報提供サーバ | |
JP5600413B2 (ja) | 撮影機器システム、外部機器、カメラ、および撮影機器システムの制御方法 | |
JP2020107196A (ja) | 画像処理装置または画像処理サーバー | |
JP6415933B2 (ja) | アドバイス表示装置 | |
JP2014212439A (ja) | 表示制御装置、制御方法およびプログラム | |
JP2009124658A (ja) | 撮影シミュレーションシステム | |
JP7095710B2 (ja) | 情報処理システム、情報処理方法、プログラム、及び管理装置 | |
JP6218615B2 (ja) | 表示機器、表示方法、撮影装置及び撮影システム | |
CN113259622B (zh) | 信息处理装置和方法以及存储介质和计算机装置 |