JP5563625B2 - Image analysis apparatus, image analysis method, and image analysis system - Google Patents
Image analysis apparatus, image analysis method, and image analysis system Download PDFInfo
- Publication number
- JP5563625B2 JP5563625B2 JP2012147341A JP2012147341A JP5563625B2 JP 5563625 B2 JP5563625 B2 JP 5563625B2 JP 2012147341 A JP2012147341 A JP 2012147341A JP 2012147341 A JP2012147341 A JP 2012147341A JP 5563625 B2 JP5563625 B2 JP 5563625B2
- Authority
- JP
- Japan
- Prior art keywords
- monitor
- content
- image
- video
- marker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Controls And Circuits For Display Device (AREA)
Description
本発明は、画像解析装置、画像解析方法、および画像解析システムに関する。 The present invention relates to an image analysis device, an image analysis method, and an image analysis system.
近年、立体映像を提示するための技術開発が進み、奥行きを持った立体映像を提示することが可能なヘッドマウントディスプレイ(Head Mounted Display; 以下「HMD」と記載する。)が普及してきている。このようなHMDの中には、ホログラフィック素子やハーフミラー等を用いて、立体映像をユーザに提示しつつ、かつユーザがHMDの外の様子をシースルーで見ることができる光学透過型HMDも開発されている。 2. Description of the Related Art In recent years, technological development for presenting stereoscopic images has progressed, and a head mounted display (hereinafter referred to as “HMD”) capable of presenting stereoscopic images with depth has become widespread. Among these HMDs, we have also developed an optically transmissive HMD that uses a holographic element, a half mirror, etc. to present stereoscopic images to the user and allows the user to see the outside of the HMD in a see-through manner. Has been.
一方、カメラ等の撮像素子で撮像した実世界の映像にCG(Computer Graphics)等の映像を付加した映像を生成し、ユーザに提示する実世界の映像の一部に修正を加えるAR(Augmented Reality)技術も実用段階に入りつつある。AR技術では、バーコード等の識別可能な特定の情報を認識し、その情報に紐付けて画像を生成する場合もある。 On the other hand, an AR (Augmented Reality) that generates a video in which a video such as CG (Computer Graphics) is added to a real-world video captured by an imaging device such as a camera, and modifies a part of the real-world video presented to the user. ) Technology is also entering the practical stage. In the AR technology, there is a case where specific information such as a barcode is recognized and an image is generated in association with the information.
光学透過型HMDとテレビモニタとを併用し、テレビモニタにマーカを表示させてテレビモニタ自体をマーカとして利用することにより、その光学透過型HMDを装着するユーザに対し、テレビモニタが表示する映像に光学透過型HMDの映像を重ねて提示することが実現できる。一方で、テレビモニタにもコンテンツの再生画面を表示させることを考えると、マーカの提示によってコンテンツの世界観が損なわれてしまうことは、可能な限り避けることが望まれる。 By using an optically transmissive HMD in combination with a television monitor, displaying a marker on the television monitor and using the television monitor itself as a marker, the video displayed on the television monitor is displayed to the user wearing the optically transmissive HMD. It is possible to display an optically transmissive HMD video in an overlapping manner. On the other hand, considering that the content playback screen is also displayed on the television monitor, it is desirable to avoid as much as possible that the world view of the content is impaired due to the presentation of the marker.
本発明はこうした課題に鑑みてなされたものであり、その目的は、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することにある。 The present invention has been made in view of such problems, and an object of the present invention is to provide a technique for achieving both maintenance of a world view of content and presentation of a monitor detection marker.
上記課題を解決するために、本発明のある態様は画像解析装置である。この装置は、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。 In order to solve the above problems, an aspect of the present invention is an image analysis apparatus. This device includes a content playback unit that plays back content, a video acquisition unit that acquires video captured by an imaging device that captures video including a monitor that is displaying the playback screen of the content, and the video acquisition unit And a monitor specifying unit for specifying the position of the monitor from the video. Here, the content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user observing the monitor, and the monitor specifying unit specifies from the video including the marker imaged by the imaging device. Based on the marker, the position of the monitor in the video is specified.
本発明の別の態様は、画像解析方法である。この方法は、ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を取得するステップと、取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとをプロセッサに実行させる。 Another aspect of the present invention is an image analysis method. In this method, a step of acquiring a video including a monitor displaying a content playback screen including a marker displayed in a manner not recognized by the user, and the marker is specified from the content playback screen included in the acquired video. And a step of identifying the position of the monitor in the video based on the identified marker.
本発明のさらに別の態様は、画像解析システムである。このシステムは、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示するモニタと、前記モニタを含む映像を撮像する撮像素子と、前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタ特定部にのみ認識されるようなマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。 Yet another embodiment of the present invention is an image analysis system. The system displays a content playback unit that plays back content, a monitor that displays the playback screen of the content, an image sensor that captures video including the monitor, and a playback screen of the content that is captured by the image sensor A video acquisition unit that acquires a video including an internal monitor, and a monitor specifying unit that specifies the position of the monitor from the video acquired by the video acquisition unit. Here, the content reproduction unit reproduces content including a marker that can be recognized only by the monitor identification unit, and the monitor identification unit also includes a marker identified from an image including the marker imaged by the imaging element. And the position of the monitor in the video is specified.
本発明のさらに別の態様は、上記の方法の各ステップをコンピュータに実現させるプログラムである。 Yet another embodiment of the present invention is a program that causes a computer to implement the steps of the above method.
このプログラムは、ビデオやオーディオのデコーダ等のハードウェア資源の基本的な制御を行なうために機器に組み込まれるファームウェアの一部として提供されてもよい。このファームウェアは、たとえば、機器内のROM(Read Only Memory)やフラッシュメモリなどの半導体メモリに格納される。このファームウェアを提供するため、あるいはファームウェアの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。 This program may be provided as part of firmware incorporated in the device in order to perform basic control of hardware resources such as video and audio decoders. This firmware is stored in a semiconductor memory such as a ROM (Read Only Memory) or a flash memory in the device, for example. In order to provide the firmware or to update a part of the firmware, a computer-readable recording medium storing the program may be provided, and the program may be transmitted through a communication line.
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。 It should be noted that any combination of the above-described constituent elements and the expression of the present invention converted between a method, an apparatus, a system, a computer program, a data structure, a recording medium, and the like are also effective as an aspect of the present invention.
本発明によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供する提供することができる。 ADVANTAGE OF THE INVENTION According to this invention, the technique for aiming at coexistence with the maintenance of the world view of a content and presentation of the marker for monitor detection can be provided.
図1は、実施の形態に係る映像提示システム100の全体構成を模式的に示す図である。実施の形態に係る映像提示システム100は、立体映像観察デバイス200、モニタ300、および情報処理装置400を含む。
FIG. 1 is a diagram schematically illustrating an overall configuration of a
モニタ300は、コンテンツの再生画面の少なくとも一部を再生する。モニタ300は一般的なテレビモニタを用いて実現できるが、フレームシーケンシャル方式で立体映像を表示する3次元モニタであることが好ましく、以下本明細書においては、モニタ300は3次元モニタであることを前提とする。なお、3次元モニタは、2次元画像を表示する一般的なテレビモニタの機能も合わせ持つ。
The
人間の左右の目は6cm程度離れているため、左目から見える映像と右目から見える映像には視差が生じる。人間の脳は、左右の目で知覚した視差画像を、奥行きを認識するためのひとつの情報として利用しているといわれている。そのため、左目で知覚される視差画像と右目で知覚される視差画像とをそれぞれの目に投影すると、人間には奥行きを持った映像として認識される。モニタ300は、左目用の視差画像と右目用の視差画像とを交互に時分割で表示する。モニタ300は、液晶テレビやプラズマディスプレイ、有機ELモニタ等の既知の提示デバイスを用いて実現できる。
Since the left and right eyes of a human are about 6 cm apart, parallax occurs between the image seen from the left eye and the image seen from the right eye. The human brain is said to use parallax images perceived by the left and right eyes as one piece of information for recognizing depth. For this reason, when a parallax image perceived by the left eye and a parallax image perceived by the right eye are projected onto the respective eyes, it is recognized as a video having a depth by humans. The
立体映像観察デバイス200は、光学透過型HMDである。ここで立体映像観察デバイス200は、モニタ300を観察するための光学シャッタ(図示せず)を備えてもよい。光学シャッタはモニタ300の視差画像の切替と同期して、左右のシャッタを開閉する。より具体的には、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタを閉じるとともに左目用のシャッタを開け、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。反対に、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタを閉じるとともに右目用のシャッタを開け、ユーザに右目用の視差画像を提示する。光学シャッタは、例えば既知の液晶シャッタを用いて実現できる。
The stereoscopic
立体映像観察デバイス200は、シャッタ切替のための同期信号を受信する。同期信号は、モニタ300または情報処理装置400に設けられた図示しない信号送信部から、例えば赤外光等を用いて無線で伝達される。
The stereoscopic
情報処理装置400は、映像提示システム100で提示するための立体映像や上述した同期信号を取得する。情報処理装置400の例としては、例えば据置型のゲーム機や携帯ゲーム機等である。情報処理装置400は内蔵するプロセッサを用いて立体映像や同期信号を生成したり、図示しないネットワークインタフェースを介して、サーバ等の他の情報処理装置から立体映像を取得したりする。
The
図2は、実施の形態に係る立体映像観察デバイス200の外観の一例を模式的に示す図である。立体映像観察デバイス200は、立体映像を提示する提示部202、撮像素子204、および種々のモジュールを収納する筐体206を含む。
FIG. 2 is a diagram schematically illustrating an example of the appearance of the stereoscopic
提示部202は、ユーザの目に立体映像を提示する光学透過型HMDと、光学透過型HMDを透過する外界の光の透過率を変更する液晶シャッタとを含む。撮像素子204は、立体映像観察デバイス200を装着するユーザの視野を含む領域にある被写体を撮像する。このため、撮像素子204は、立体映像観察デバイス200をユーザが装着したとき、ユーザの眉間のあたりに配置されるように設置されている。撮像素子204は、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の既知の固体撮像素子を用いて実現できる。
The
筐体206は、めがね形状の立体映像観察デバイス200におけるフレームの役割を果たすとともに、立体映像観察デバイス200が利用する様々なモジュール(図示せず)を収納する。立体映像観察デバイス200が利用するモジュールとは、光学透過型HMDを実現するためのホログラム導光板を含む光学エンジン、液晶シャッタを駆動するためのドライバや同期信号受信部、その他Wi−Fi(登録商標)モジュール等の通信モジュール、電子コンパス、加速度センサ、傾きセンサ、GPS(Global Positioning System)センサ、および照度センサ等である。これらのモジュールは例示であり、また立体映像観察デバイス200はこれらのモジュールを必ずしも全て搭載する必要はない。いずれのモジュールを搭載するかは、立体映像観察デバイス200が想定する利用シーンに応じて決定すればよい。
The
図2は、めがね型の立体映像観察デバイス200を例示する図である。立体映像観察デバイス200の形状は、この他にも帽子形状、ユーザの頭部を一周して固定されるベルト形状、ユーザの頭部全体を覆うヘルメット形状等さまざまなバリエーションが考えられるが、いずれの形状の立体映像観察デバイス200も本発明の実施の形態に含まれることは、当業者であれば容易に理解される。
FIG. 2 is a diagram illustrating a glasses-type stereoscopic
図3は、実施の形態に係る画像解析装置500の内部構成を模式的に示す図である。実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現される。あるいは、インターネット等のネットワークを介して情報処理装置400に送信するための立体映像を生成するサーバ内に実現されてもよいし、立体映像観察デバイス200やモニタ300に内蔵されてもよい。あるいはさらに、画像解析装置500は独立したひとつの装置であってもよい。以下では、実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現されることを前提に説明する。
FIG. 3 is a diagram schematically illustrating an internal configuration of the
実施の形態に係る画像解析装置500は、映像取得部502、モニタ特定部504、およびコンテンツ再生部506を含む。
コンテンツ再生部506は、映画やゲーム、テレビ番組等のコンテンツを再生する。コンテンツ再生部506が再生するコンテンツの映像のうち、少なくとも一部の映像はモニタ300に表示される。また、コンテンツ再生部506が再生するコンテンツの映像の一部は、立体映像観察デバイス200中の光学透過型HMDに表示される。
The
例えば、コンテンツ再生部506が再生するコンテンツがゲームアプリケーションである場合、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像やARイメージ等が光学透過型HMDに表示される。
For example, when the content played back by the
立体映像観察デバイス200に備えられた撮像素子204は、コンテンツ再生部506が再生するコンテンツの再生画面を表示中のモニタ300を含む映像を撮像する。映像取得部502は、撮像素子204が撮像した映像を取得する。モニタ特定部504は、映像取得部502が取得した映像中に映っているマーカを検出し、検出したマーカをもとにモニタ300の位置を特定する。このため、コンテンツ再生部506は、モニタ特定部504がモニタ300の特定に利用するためのマーカを、モニタ300に表示させる。コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに、光学透過型HMDに表示されるモニタ300上に3次元イメージを重ねて表示させる。
The
上述したとおり、モニタ300はコンテンツ再生部506が再生するコンテンツの映像も表示するため、ユーザは、光学透過型HMDを介してモニタ300を観察する。したがって、モニタ特定部504によるモニタ300の特定を容易とする目的でコンテンツの映像と異なるマーカ用の画像を表示すると、コンテンツの世界観を損なうことになりかねず、場合によってはユーザが興ざめしてしまう可能性もある。
As described above, since the
そこでコンテンツ再生部506は、モニタ300を観察するユーザには認識されない態様で表示されるマーカをコンテンツに含めてを再生する。ここで、「ユーザには認識されない態様で表示」としては、コンテンツ再生部が再生するコンテンツに由来する映像を表示することによってユーザにはマーカであることを気づかせないように表示することと、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することとの、ふたつの表示方法が考えられる。以下、コンテンツ再生部506が再生するコンテンツに由来する映像を表示する方法と、撮像素子204にのみマーカを提示する方法とについて順に説明する。
Therefore, the
まず、コンテンツ再生部506が再生するコンテンツに由来する映像をマーカとして表示することについて説明する。
First, a description will be given of displaying video derived from content to be reproduced by the
モニタ特定部504は、テンプレートマッチングやDP(Dynamic Programming)マッチング、エッジ等の特徴量解析など、既知のパターンマッチング手法を用いて映像中のマーカを特定する。したがって、映像中の所定の構造物を特定するために用いられるマーカは、映像においてなるべく変化の少ない画像であることが好ましい。
The
一般に、ゲームコンテンツの映像は、ユーザの操作対象となるキャラクタや敵キャラ等、映像中を動き回るキャラクタ画像と、動きによる変化が比較的少ない背景画像とに分類できる。したがって、コンテンツに由来する映像をマークとする例として、ゲームコンテンツにおける背景画像をマーカとすることが挙げられる。 In general, video of game content can be classified into character images that move around the video, such as characters and enemy characters that are subject to operation by the user, and background images that have relatively little change due to movement. Therefore, as an example of using a video derived from content as a mark, a background image in game content can be used as a marker.
モニタ特定部504は、マーカとなる背景画像を取得し、背景画像から取得した画像中に含まれる構造物のエッジや輪郭、コーナー、配色等の特徴量を抽出する。図4は、実施の形態に係るモニタ特定部504がマーカの特定に用いる特徴量の一例を表形式で示す図である。モニタ特定部504は背景画像を解析して、背景画像中のどの位置にどのような特徴量が存在するかを管理する。図4に示す例では、タイプ1は構造物のコーナー(角の点)が、画像中の点(X1,Y1)に存在することを示している。モニタ特定部504は、映像取得部502から新たに取得した映像を解析し、その映像中に上記の特徴量を含むか否かを調べることで、新たに取得した映像からマーカとなる背景画像を特定する。なお、特徴量は画像解析装置500内の図示しない記録部に保存される。
The
ところで、背景画像は映像中を動き回るキャラクタ画像と比較すると動きによる変化が少ないといえども、通常、ゲームの進行にしたがって少しずつ変化する。そこで、モニタ特定部504は、ひとたび抽出した特徴点の差分情報も管理する。具体的には、モニタ特定部504は、背景画像の変化に伴う各特徴点の平行移動量や、特徴量が回転した場合にはその回転角も管理する。また、特徴量の存在位置によっては背景画像の移動によって消失する場合もあるため、各特徴量が現在有効か否かも管理する。これにより、特徴量の抽出のもととなった背景画像が変化したとしても、特徴量をもとにしてマーカとなる背景画像を特定することができる。また、ゲームコンテンツの背景そのものをマーカとしてモニタ300を特定するため、ユーザにマーカを意識させることがなく、ゲームの世界観を損なうことを防止できる。
By the way, the background image usually changes little by little as the game progresses even though the change due to movement is small compared to the character image moving around in the video. Therefore, the
次に、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することについて説明する。
Next, it will be described that a marker is presented only on the
上述したとおり、モニタ300はフレームシーケンシャル方式の3次元モニタであり、光学透過型HMDはフレームシーケンシャル方式の3次元モニタの観察に用いる光学シャッタを備えている。そこでコンテンツ再生部506は、光学透過型HMDを通して実空間を観察するユーザの視界を光学シャッタが遮蔽している間に、モニタ特定部504がモニタ300の位置を特定するために利用するマーカをモニタ300に表示させる。
As described above, the
図5は、実施の形態に係るコンテンツ再生部506が再生する画像の種類と、そのときの光学シャッタのオンオフのタイミングを表形式で示す図である。
FIG. 5 is a table showing the types of images reproduced by the
上述したとおり、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタをオンして右目の視野を遮蔽するとともに左目用のシャッタをオフとし、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。また、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタをオンして左目の視野を遮蔽するとともに右目用のシャッタをオフとし、ユーザに右目用の視差画像を提示する。左目用の視差画像と右目用の視差画像を表示した後に、モニタ300は、3番目の画像としてマーカのための画像を表示する。この時、光学シャッタは両目ともオンとなってユーザの視界を遮蔽する。
As described above, when the
このように、モニタ300が左目用の視差画像、右目用の視差画像、およびマーカ画像を変更しながら順番に提示し、光学シャッタのオンオフ制御を画像の提示に同期させることにより、モニタ300を用いてユーザに立体映像を提示しつつ、ユーザに認識されないように撮像素子204だけにマーカ画像を提示することができる。ユーザはマーカ画像を見ることがないため、ゲームの世界観を損なうことを防止できる。
In this way, the
ところで、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像が光学透過型HMDに表示されるような場合、コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに映像を表示する。このため、例えばユーザの視線がモニタ300からはずれる等の原因によってモニタ特定部504によるモニタ300の位置特定ができなくなったとすると、コンテンツ再生部506は光学透過型HMDに適切に映像を表示できなるなる。そこで、モニタ特定部504がマーカの特定に失敗した場合、コンテンツ再生部506はコンテンツの再生を一旦停止する。その後、モニタ特定部504がマーカの特定に成功すれば、コンテンツ再生部506はコンテンツの再生を再開する。
By the way, when the background image of the game video is displayed on the
また、モニタ特定部504がマーカの特定に失敗することによってコンテンツの再生を一旦停止する場合、コンテンツ再生部506は、モニタの特定に失敗したことを示すメッセージを光学透過型HMDに表示させる。これにより、ユーザはゲームの進行が中断することが分かる。ユーザは、例えばゲーム以外になすべき別の所用が発生したのであれば、ゲームの進行を中断したまま所用を済ませればよい。また、ゲームを継続することを望むのであれば、立体映像観察デバイス200の撮像素子204をモニタ300の方向に向けることで、モニタ特定部504がモニタを特定できるようにしてもよい。
In addition, when the reproduction of the content is temporarily stopped because the
図6は、実施の形態に係る画像解析装置500によるモニタ特定処理の流れを示すフローチャートである。本フローチャートにおける処理は、例えば画像解析装置500の電源が投入されたときに開始する。
FIG. 6 is a flowchart showing a flow of monitor specifying processing by the
コンテンツ再生部506は、コンテンツを再生する(S2)。モニタ300は、コンテンツ再生部506が再生したコンテンツの再生映像を表示する(S4)。撮像素子204は、コンテンツの再生映像を表示するモニタ300を含む映像を撮像する(S6)。
The
モニタ特定部504は、映像取得部502が取得した撮像素子204の映像中から、モニタ300を特定するためのマーカの検出を試みる(S8)。モニタ特定部504がマーカの検出に失敗した場合(S10のN)、コンテンツ再生部506は再生中のコンテンツを一時停止する(S12)。コンテンツ再生部506はまた、モニタの特定に失敗したことを示すメッセージを、ユーザが装着している光学透過型HMDに表示させる(S14)。コンテンツ再生部506が光学透過型HMDにメッセージを表示させた後、ステップS6に戻って上述の処理を繰り返す。
The
モニタ特定部504がマーカの検出に成功した場合(S10のY)、モニタ特定部504は、検出したマーカをもとに映像中におけるモニタ300の位置を特定する(S16)。モニタ特定部504がモニタ300の位置を特定したとき、コンテンツが一時停止されている場合(S18のY)、コンテンツ再生部506はコンテンツの再生を再開する(S20)。コンテンツが一時停止されていない場合(S18のN)、コンテンツ再生部506はコンテンツの再生を継続する。コンテンツが一時停止されていない場合か、あるいはコンテンツ再生部506はコンテンツの再生を再開すると、本フローチャートにおける処理は終了する。
When the
以上の構成による映像提示システム100の利用シーンは以下のとおりである。ユーザが立体映像観察デバイス200を装着してモニタ300を観察すると、撮像素子204は、コンテンツ再生部506によってユーザには認識されない態様で表示されるマーカを撮像する。モニタ特定部504は、マーカを検出することで映像中に存在するモニタ300の位置を特定する。
The usage scenes of the
以上説明したように、実施の形態に係る映像提示システム100によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することができる。
As described above, according to the
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。 The present invention has been described based on the embodiments. The embodiments are exemplifications, and it will be understood by those skilled in the art that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are within the scope of the present invention. .
(第1の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ひとたびモニタ300の位置特定が成功した後は、モニタに表示させる画像以外の情報をマーカとしてもよい。具体的には、例えばモニタ300の位置特定が成功した後は、モニタ300のフレームを検出用マーカとしてもよい。モニタのフレームは時間による変化がないため、より精度よくモニタ300を特定することが期待できる。
(First modification)
In the above, the case where the marker image is displayed on the
(第2の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ここで、光学透過型HMDの光学シャッタを制御するためのシャッタ制御信号が赤外光を介して送信される場合、シャッタ制御信号の出力部をモニタ300のフレームに設けてその赤外光を検出することにより、モニタ300の位置を特定することもできる。
(Second modification)
In the above, the case where the marker image is displayed on the
撮像素子204を実現するためのCCD等の撮像素子は、一般に赤外光も撮像することができる。赤外光は可視光ではないため、ユーザの目に観測されることはほとんどない。したがって、モニタ300のフレームから発信される赤外光の発信源を特定すれば、モニタ300のフレームを特定するための有力な手がかりとなる。一般的な撮像素子には赤外線遮断シートが取り付けられていることが多いが、撮像素子204には赤外線遮断シートを取り付けないことが好ましい。これにより、赤外光であるシャッタ制御信号をより検出しやすくすることができる。
In general, an image sensor such as a CCD for realizing the
(第3の変形例)
上記では、モニタ300表示されたマーカ画像から特徴量を直接抽出する場合について説明した。これに代えて、コンテンツ再生部506は、コンテンツの再生映像に例えば既知のデジタル指紋や電子透かしを埋め込んでもよい。これにより、ユーザにとっては埋め込まれた情報を視認することは困難であるが、モニタ特定部504は特定の検出処理を実行することによってマーカを検出することができる。
(Third Modification)
In the above description, the case where the feature amount is directly extracted from the marker image displayed on the
(第4の変形例)
上記では、図5を参照して光学シャッタのオンオフを制御について説明したが、光学シャッタのオンオフのタイミングは図5に示すパターンに限られない。例えば、図5に示すパターンに対してマーカ画像を表示する頻度を少なくしてもよい。これにより、コンテンツの映像とマーカ画像とが混ざって表示されるクロストークの影響を小さくすることができる。
(Fourth modification)
In the above, the on / off control of the optical shutter has been described with reference to FIG. 5, but the on / off timing of the optical shutter is not limited to the pattern shown in FIG. For example, the frequency of displaying the marker image for the pattern shown in FIG. 5 may be reduced. As a result, it is possible to reduce the influence of the crosstalk displayed by mixing the content video and the marker image.
また図5はモニタ300が3次元映像を表示する場合の例を示すが、モニタ300は通常の2次元映像を表示するものであってもよい。この場合、コンテンツ再生部506は、コンテンツの映像とマーカ画像とを時分割で交互に表示するか、あるいはコンテンツの映像フレームを所定枚数表示した後に、マーカ画像をモニタ300に表示させてもよい。立体映像観察デバイス200の光学シャッタは、モニタ300がマーカ画像を表示している間だけシャッタをオンとして、ユーザの視界を遮蔽することで、ユーザにはマーカ画像を知覚させずにモニタ300にマーカ画像を表示することができる。
FIG. 5 shows an example in which the
100 映像提示システム、 200 立体映像観察デバイス、 202 提示部、 204 撮像素子、 206 筐体、 300 モニタ、 400 情報処理装置、 500 画像解析装置、 502 映像取得部、 504 モニタ特定部、 506 コンテンツ再生部。
DESCRIPTION OF
Claims (9)
前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、
前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
前記撮像素子は、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示する光学透過型HMDに備えられており、
前記コンテンツ再生部は、前記光学透過型HMDを装着して前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定し、
前記コンテンツ再生部は、前記モニタ特定部が特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成することを特徴とする画像解析装置。 A content playback unit for playing back content,
A video acquisition unit that acquires video captured by an imaging device that captures video including a monitor that is displaying the content playback screen;
A monitor specifying unit for specifying the position of the monitor from the video acquired by the video acquisition unit,
The imaging device is provided in an optically transmissive HMD that presents an image observed when a three-dimensional image in a virtual three-dimensional space generated by the content is projected into a real space,
The content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user who wears the optically transmissive HMD and observes the monitor,
The monitor specifying unit specifies the position of the monitor in the video based on the marker specified from the video including the marker imaged by the imaging device ,
The content reproduction unit generates a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the position of the monitor specified by the monitor specifying unit. Analysis device.
前記コンテンツ再生部は、前記光学透過型HMDを通して実空間を観察するユーザの視界を前記光学シャッタが遮蔽している間に、前記モニタ特定部が前記モニタの位置を特定するために利用するマーカを前記モニタに表示させることを特徴とする請求項1から4のいずれかに記載の画像解析装置。 The monitor that displays the playback screen of the content is a frame sequential type three-dimensional monitor, and the optical transmission type HMD includes an optical shutter used for observation of the frame sequential type three-dimensional monitor,
The content reproduction unit uses a marker used by the monitor specifying unit to specify the position of the monitor while the optical shutter blocks the field of view of a user observing a real space through the optical transmission type HMD. The image analysis apparatus according to claim 1 , wherein the image analysis apparatus is displayed on the monitor.
ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を撮像素子を用いて取得するステップと、
取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、
特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとを含み、
前記撮像素子は前記ユーザが装着中の光学透過型HMDに備えられており、当該光学透過型HMDは、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示するものであり、
前記画像解析方法はさらに、特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成するステップを含むことを特徴とする画像解析方法。 An image analysis method executed by a processor,
Using an imaging device to obtain a video including a monitor displaying a playback screen of content including a marker displayed in a manner not recognized by the user;
Identifying the marker from a playback screen of content included in the acquired video;
Identifying the position of the monitor in the video based on the identified marker ,
The image pickup device is provided in an optical transmission HMD worn by the user, and the optical transmission HMD projects a three-dimensional image in a virtual three-dimensional space generated by the content into a real space. The video that is observed in the case,
The image analysis method further includes a step of generating a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the specified position of the monitor. Method.
ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を撮像素子を用いて取得する機能と、
取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、
特定したマーカをもとに、映像中における前記モニタの位置を特定する機能とを含み、
前記撮像素子は前記ユーザが装着中の光学透過型HMDに備えられており、当該光学透過型HMDは、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示するものであり、
前記プログラムはさらに、特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成する機能を含むことを特徴とするプログラム。 A program for causing a computer to realize an image analysis function,
A function of acquiring an image including a monitor displaying a playback screen of content including a marker displayed in a manner not recognized by a user using an imaging device ;
Identifying the marker from a playback screen of content included in the acquired video;
Including the function of specifying the position of the monitor in the video based on the specified marker ,
The image pickup device is provided in an optical transmission HMD worn by the user, and the optical transmission HMD projects a three-dimensional image in a virtual three-dimensional space generated by the content into a real space. The video that is observed in the case,
The program further includes a function for generating a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the specified position of the monitor .
前記コンテンツの再生画面を表示するモニタと、
前記モニタを含む映像を撮像する撮像素子と、
前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、
前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
前記撮像素子は、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示する光学透過型HMDに備えられており、
前記コンテンツ再生部は、前記光学透過型HMDを装着して前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定し、
前記コンテンツ再生部は、前記モニタ特定部が特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成することを特徴とする画像解析システム。 A content playback unit for playing back content,
A monitor for displaying a playback screen of the content;
An image pickup device for picking up an image including the monitor;
An image acquisition unit that acquires an image captured by the image sensor and including a monitor displaying a playback screen of the content;
A monitor specifying unit for specifying the position of the monitor from the video acquired by the video acquisition unit,
The imaging device is provided in an optically transmissive HMD that presents an image observed when a three-dimensional image in a virtual three-dimensional space generated by the content is projected into a real space,
The content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user who wears the optically transmissive HMD and observes the monitor,
The monitor specifying unit specifies the position of the monitor in the video based on the marker specified from the video including the marker imaged by the imaging device,
The content reproduction unit generates a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the position of the monitor specified by the monitor specifying unit. Analysis system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012147341A JP5563625B2 (en) | 2012-06-29 | 2012-06-29 | Image analysis apparatus, image analysis method, and image analysis system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012147341A JP5563625B2 (en) | 2012-06-29 | 2012-06-29 | Image analysis apparatus, image analysis method, and image analysis system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014011654A JP2014011654A (en) | 2014-01-20 |
JP5563625B2 true JP5563625B2 (en) | 2014-07-30 |
Family
ID=50107965
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012147341A Active JP5563625B2 (en) | 2012-06-29 | 2012-06-29 | Image analysis apparatus, image analysis method, and image analysis system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5563625B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6329343B2 (en) * | 2013-06-13 | 2018-05-23 | 任天堂株式会社 | Image processing system, image processing apparatus, image processing program, and image processing method |
WO2015096145A1 (en) * | 2013-12-27 | 2015-07-02 | Intel Corporation | Device, method, and system of providing extended display with head mounted display |
KR101860370B1 (en) | 2016-05-23 | 2018-05-24 | 주식회사 토비스 | a Public HMD apparatus and a game machine having the same |
US10916220B2 (en) | 2018-08-07 | 2021-02-09 | Apple Inc. | Detection and display of mixed 2D/3D content |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005250950A (en) * | 2004-03-05 | 2005-09-15 | Nippon Telegr & Teleph Corp <Ntt> | Marker presentation portable terminal, expanded sense of reality system, and its operation method |
JP2009205556A (en) * | 2008-02-28 | 2009-09-10 | Panasonic Corp | User interface device |
JP4995934B2 (en) * | 2010-03-26 | 2012-08-08 | 株式会社コナミデジタルエンタテインメント | Augmented reality system, marker terminal, photographing terminal, augmented reality method, and information recording medium |
-
2012
- 2012-06-29 JP JP2012147341A patent/JP5563625B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2014011654A (en) | 2014-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9684173B2 (en) | Image processing device, image processing method, and image processing system | |
KR101275542B1 (en) | Three-dimensional image display device and three-dimensional image display method | |
JP4903888B2 (en) | Image display device, image display method, and image correction method | |
JP5917017B2 (en) | Image processing apparatus, control method therefor, and program | |
JP4794678B1 (en) | Video processing apparatus, video processing method, and video communication system | |
US20100225576A1 (en) | Three-dimensional interactive system and method | |
US20160344999A1 (en) | SYSTEMS AND METHODs FOR PRODUCING PANORAMIC AND STEREOSCOPIC VIDEOS | |
GB2514466A (en) | Display | |
CA2933704A1 (en) | Systems and methods for producing panoramic and stereoscopic videos | |
US20180192031A1 (en) | Virtual Reality Viewing System | |
JP5563625B2 (en) | Image analysis apparatus, image analysis method, and image analysis system | |
JP5972462B2 (en) | Image generation method | |
JP5222407B2 (en) | Image display device, image display method, and image correction method | |
JP7403256B2 (en) | Video presentation device and program | |
CN111736692B (en) | Display method, display device, storage medium and head-mounted device | |
JP2012100015A (en) | Three-dimensional video reproducing device | |
CN105630170B (en) | Information processing method and electronic equipment | |
JP2011077984A (en) | Video processing apparatus | |
WO2022255058A1 (en) | Information processing device and image generation method | |
JP2006267767A (en) | Image display device | |
KR20130070034A (en) | Apparatus and method of taking stereoscopic picture using smartphones | |
JP2021068296A (en) | Information processing device, head-mounted display, and user operation processing method | |
WO2013001839A1 (en) | Image pick-up device | |
CN108295463A (en) | A kind of image display method and apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140313 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140603 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140612 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5563625 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |