[go: up one dir, main page]

JP5563625B2 - Image analysis apparatus, image analysis method, and image analysis system - Google Patents

Image analysis apparatus, image analysis method, and image analysis system Download PDF

Info

Publication number
JP5563625B2
JP5563625B2 JP2012147341A JP2012147341A JP5563625B2 JP 5563625 B2 JP5563625 B2 JP 5563625B2 JP 2012147341 A JP2012147341 A JP 2012147341A JP 2012147341 A JP2012147341 A JP 2012147341A JP 5563625 B2 JP5563625 B2 JP 5563625B2
Authority
JP
Japan
Prior art keywords
monitor
content
image
video
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012147341A
Other languages
Japanese (ja)
Other versions
JP2014011654A (en
Inventor
良徳 大橋
洋一 西牧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to JP2012147341A priority Critical patent/JP5563625B2/en
Publication of JP2014011654A publication Critical patent/JP2014011654A/en
Application granted granted Critical
Publication of JP5563625B2 publication Critical patent/JP5563625B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、画像解析装置、画像解析方法、および画像解析システムに関する。   The present invention relates to an image analysis device, an image analysis method, and an image analysis system.

近年、立体映像を提示するための技術開発が進み、奥行きを持った立体映像を提示することが可能なヘッドマウントディスプレイ(Head Mounted Display; 以下「HMD」と記載する。)が普及してきている。このようなHMDの中には、ホログラフィック素子やハーフミラー等を用いて、立体映像をユーザに提示しつつ、かつユーザがHMDの外の様子をシースルーで見ることができる光学透過型HMDも開発されている。   2. Description of the Related Art In recent years, technological development for presenting stereoscopic images has progressed, and a head mounted display (hereinafter referred to as “HMD”) capable of presenting stereoscopic images with depth has become widespread. Among these HMDs, we have also developed an optically transmissive HMD that uses a holographic element, a half mirror, etc. to present stereoscopic images to the user and allows the user to see the outside of the HMD in a see-through manner. Has been.

一方、カメラ等の撮像素子で撮像した実世界の映像にCG(Computer Graphics)等の映像を付加した映像を生成し、ユーザに提示する実世界の映像の一部に修正を加えるAR(Augmented Reality)技術も実用段階に入りつつある。AR技術では、バーコード等の識別可能な特定の情報を認識し、その情報に紐付けて画像を生成する場合もある。   On the other hand, an AR (Augmented Reality) that generates a video in which a video such as CG (Computer Graphics) is added to a real-world video captured by an imaging device such as a camera, and modifies a part of the real-world video presented to the user. ) Technology is also entering the practical stage. In the AR technology, there is a case where specific information such as a barcode is recognized and an image is generated in association with the information.

光学透過型HMDとテレビモニタとを併用し、テレビモニタにマーカを表示させてテレビモニタ自体をマーカとして利用することにより、その光学透過型HMDを装着するユーザに対し、テレビモニタが表示する映像に光学透過型HMDの映像を重ねて提示することが実現できる。一方で、テレビモニタにもコンテンツの再生画面を表示させることを考えると、マーカの提示によってコンテンツの世界観が損なわれてしまうことは、可能な限り避けることが望まれる。   By using an optically transmissive HMD in combination with a television monitor, displaying a marker on the television monitor and using the television monitor itself as a marker, the video displayed on the television monitor is displayed to the user wearing the optically transmissive HMD. It is possible to display an optically transmissive HMD video in an overlapping manner. On the other hand, considering that the content playback screen is also displayed on the television monitor, it is desirable to avoid as much as possible that the world view of the content is impaired due to the presentation of the marker.

本発明はこうした課題に鑑みてなされたものであり、その目的は、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することにある。   The present invention has been made in view of such problems, and an object of the present invention is to provide a technique for achieving both maintenance of a world view of content and presentation of a monitor detection marker.

上記課題を解決するために、本発明のある態様は画像解析装置である。この装置は、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。   In order to solve the above problems, an aspect of the present invention is an image analysis apparatus. This device includes a content playback unit that plays back content, a video acquisition unit that acquires video captured by an imaging device that captures video including a monitor that is displaying the playback screen of the content, and the video acquisition unit And a monitor specifying unit for specifying the position of the monitor from the video. Here, the content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user observing the monitor, and the monitor specifying unit specifies from the video including the marker imaged by the imaging device. Based on the marker, the position of the monitor in the video is specified.

本発明の別の態様は、画像解析方法である。この方法は、ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を取得するステップと、取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとをプロセッサに実行させる。   Another aspect of the present invention is an image analysis method. In this method, a step of acquiring a video including a monitor displaying a content playback screen including a marker displayed in a manner not recognized by the user, and the marker is specified from the content playback screen included in the acquired video. And a step of identifying the position of the monitor in the video based on the identified marker.

本発明のさらに別の態様は、画像解析システムである。このシステムは、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示するモニタと、前記モニタを含む映像を撮像する撮像素子と、前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタ特定部にのみ認識されるようなマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。   Yet another embodiment of the present invention is an image analysis system. The system displays a content playback unit that plays back content, a monitor that displays the playback screen of the content, an image sensor that captures video including the monitor, and a playback screen of the content that is captured by the image sensor A video acquisition unit that acquires a video including an internal monitor, and a monitor specifying unit that specifies the position of the monitor from the video acquired by the video acquisition unit. Here, the content reproduction unit reproduces content including a marker that can be recognized only by the monitor identification unit, and the monitor identification unit also includes a marker identified from an image including the marker imaged by the imaging element. And the position of the monitor in the video is specified.

本発明のさらに別の態様は、上記の方法の各ステップをコンピュータに実現させるプログラムである。   Yet another embodiment of the present invention is a program that causes a computer to implement the steps of the above method.

このプログラムは、ビデオやオーディオのデコーダ等のハードウェア資源の基本的な制御を行なうために機器に組み込まれるファームウェアの一部として提供されてもよい。このファームウェアは、たとえば、機器内のROM(Read Only Memory)やフラッシュメモリなどの半導体メモリに格納される。このファームウェアを提供するため、あるいはファームウェアの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。   This program may be provided as part of firmware incorporated in the device in order to perform basic control of hardware resources such as video and audio decoders. This firmware is stored in a semiconductor memory such as a ROM (Read Only Memory) or a flash memory in the device, for example. In order to provide the firmware or to update a part of the firmware, a computer-readable recording medium storing the program may be provided, and the program may be transmitted through a communication line.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and the expression of the present invention converted between a method, an apparatus, a system, a computer program, a data structure, a recording medium, and the like are also effective as an aspect of the present invention.

本発明によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供する提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the technique for aiming at coexistence with the maintenance of the world view of a content and presentation of the marker for monitor detection can be provided.

実施の形態に係る映像提示システムの全体構成を模式的に示す図である。It is a figure which shows typically the whole structure of the video presentation system which concerns on embodiment. 実施の形態に係る立体映像観察デバイスの外観の一例を模式的に示す図である。It is a figure which shows typically an example of the external appearance of the three-dimensional image observation device which concerns on embodiment. 実施の形態に係る画像解析の内部構成を模式的に示す図である。It is a figure which shows typically the internal structure of the image analysis which concerns on embodiment. 実施の形態に係るモニタ特定部がマーカの特定に用いる特徴量の一例を表形式で示す図である。It is a figure which shows an example of the feature-value which the monitor specific | specification part which concerns on embodiment uses for pinpointing a table | surface form. 実施の形態に係るコンテンツ再生部が再生する画像の種類と、そのときの光学シャッタのオンオフのタイミングを表形式で示す図である。It is a figure which shows the kind of image which the content reproduction part which concerns on embodiment reproduces, and the timing of ON / OFF of the optical shutter at that time in a table format. 実施の形態に係る画像解析装置によるモニタ特定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the monitor specific process by the image analysis apparatus which concerns on embodiment.

図1は、実施の形態に係る映像提示システム100の全体構成を模式的に示す図である。実施の形態に係る映像提示システム100は、立体映像観察デバイス200、モニタ300、および情報処理装置400を含む。   FIG. 1 is a diagram schematically illustrating an overall configuration of a video presentation system 100 according to an embodiment. The video presentation system 100 according to the embodiment includes a stereoscopic video observation device 200, a monitor 300, and an information processing apparatus 400.

モニタ300は、コンテンツの再生画面の少なくとも一部を再生する。モニタ300は一般的なテレビモニタを用いて実現できるが、フレームシーケンシャル方式で立体映像を表示する3次元モニタであることが好ましく、以下本明細書においては、モニタ300は3次元モニタであることを前提とする。なお、3次元モニタは、2次元画像を表示する一般的なテレビモニタの機能も合わせ持つ。   The monitor 300 reproduces at least a part of the content reproduction screen. The monitor 300 can be realized by using a general television monitor, but is preferably a three-dimensional monitor that displays a stereoscopic image by a frame sequential method. In the following description, the monitor 300 is a three-dimensional monitor. Assumption. The three-dimensional monitor also has a function of a general television monitor that displays a two-dimensional image.

人間の左右の目は6cm程度離れているため、左目から見える映像と右目から見える映像には視差が生じる。人間の脳は、左右の目で知覚した視差画像を、奥行きを認識するためのひとつの情報として利用しているといわれている。そのため、左目で知覚される視差画像と右目で知覚される視差画像とをそれぞれの目に投影すると、人間には奥行きを持った映像として認識される。モニタ300は、左目用の視差画像と右目用の視差画像とを交互に時分割で表示する。モニタ300は、液晶テレビやプラズマディスプレイ、有機ELモニタ等の既知の提示デバイスを用いて実現できる。   Since the left and right eyes of a human are about 6 cm apart, parallax occurs between the image seen from the left eye and the image seen from the right eye. The human brain is said to use parallax images perceived by the left and right eyes as one piece of information for recognizing depth. For this reason, when a parallax image perceived by the left eye and a parallax image perceived by the right eye are projected onto the respective eyes, it is recognized as a video having a depth by humans. The monitor 300 alternately displays the parallax image for the left eye and the parallax image for the right eye in a time division manner. The monitor 300 can be realized using a known presentation device such as a liquid crystal television, a plasma display, or an organic EL monitor.

立体映像観察デバイス200は、光学透過型HMDである。ここで立体映像観察デバイス200は、モニタ300を観察するための光学シャッタ(図示せず)を備えてもよい。光学シャッタはモニタ300の視差画像の切替と同期して、左右のシャッタを開閉する。より具体的には、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタを閉じるとともに左目用のシャッタを開け、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。反対に、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタを閉じるとともに右目用のシャッタを開け、ユーザに右目用の視差画像を提示する。光学シャッタは、例えば既知の液晶シャッタを用いて実現できる。   The stereoscopic image observation device 200 is an optical transmission type HMD. Here, the stereoscopic image observation device 200 may include an optical shutter (not shown) for observing the monitor 300. The optical shutter opens and closes the left and right shutters in synchronization with the switching of the parallax image of the monitor 300. More specifically, when the monitor 300 displays a parallax image for the left eye, the right eye parallax is closed to the user wearing the stereoscopic video observation device 200 by closing the right eye shutter and opening the left eye shutter. Present an image. On the other hand, when the monitor 300 displays the right-eye parallax image, the left-eye shutter is closed and the right-eye shutter is opened, and the right-eye parallax image is presented to the user. The optical shutter can be realized using, for example, a known liquid crystal shutter.

立体映像観察デバイス200は、シャッタ切替のための同期信号を受信する。同期信号は、モニタ300または情報処理装置400に設けられた図示しない信号送信部から、例えば赤外光等を用いて無線で伝達される。   The stereoscopic video observation device 200 receives a synchronization signal for shutter switching. The synchronization signal is transmitted wirelessly from a signal transmission unit (not shown) provided in the monitor 300 or the information processing apparatus 400 using, for example, infrared light.

情報処理装置400は、映像提示システム100で提示するための立体映像や上述した同期信号を取得する。情報処理装置400の例としては、例えば据置型のゲーム機や携帯ゲーム機等である。情報処理装置400は内蔵するプロセッサを用いて立体映像や同期信号を生成したり、図示しないネットワークインタフェースを介して、サーバ等の他の情報処理装置から立体映像を取得したりする。   The information processing apparatus 400 acquires a stereoscopic video to be presented by the video presentation system 100 and the synchronization signal described above. Examples of the information processing apparatus 400 include a stationary game machine and a portable game machine. The information processing apparatus 400 generates a stereoscopic video and a synchronization signal using a built-in processor, and acquires a stereoscopic video from another information processing apparatus such as a server via a network interface (not shown).

図2は、実施の形態に係る立体映像観察デバイス200の外観の一例を模式的に示す図である。立体映像観察デバイス200は、立体映像を提示する提示部202、撮像素子204、および種々のモジュールを収納する筐体206を含む。   FIG. 2 is a diagram schematically illustrating an example of the appearance of the stereoscopic video observation device 200 according to the embodiment. The stereoscopic video observation device 200 includes a presentation unit 202 that presents a stereoscopic video, an imaging element 204, and a housing 206 that houses various modules.

提示部202は、ユーザの目に立体映像を提示する光学透過型HMDと、光学透過型HMDを透過する外界の光の透過率を変更する液晶シャッタとを含む。撮像素子204は、立体映像観察デバイス200を装着するユーザの視野を含む領域にある被写体を撮像する。このため、撮像素子204は、立体映像観察デバイス200をユーザが装着したとき、ユーザの眉間のあたりに配置されるように設置されている。撮像素子204は、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の既知の固体撮像素子を用いて実現できる。   The presentation unit 202 includes an optically transmissive HMD that presents a stereoscopic image to the user's eyes, and a liquid crystal shutter that changes the transmittance of external light that passes through the optically transmissive HMD. The imaging element 204 images a subject in an area including the field of view of the user wearing the stereoscopic video observation device 200. For this reason, the image sensor 204 is installed so as to be arranged around the user's eyebrows when the user wears the stereoscopic image observation device 200. The imaging device 204 can be realized by using a known solid-state imaging device such as a charge coupled device (CCD) image sensor or a complementary metal oxide semiconductor (CMOS) image sensor.

筐体206は、めがね形状の立体映像観察デバイス200におけるフレームの役割を果たすとともに、立体映像観察デバイス200が利用する様々なモジュール(図示せず)を収納する。立体映像観察デバイス200が利用するモジュールとは、光学透過型HMDを実現するためのホログラム導光板を含む光学エンジン、液晶シャッタを駆動するためのドライバや同期信号受信部、その他Wi−Fi(登録商標)モジュール等の通信モジュール、電子コンパス、加速度センサ、傾きセンサ、GPS(Global Positioning System)センサ、および照度センサ等である。これらのモジュールは例示であり、また立体映像観察デバイス200はこれらのモジュールを必ずしも全て搭載する必要はない。いずれのモジュールを搭載するかは、立体映像観察デバイス200が想定する利用シーンに応じて決定すればよい。   The housing 206 plays a role of a frame in the glasses-shaped stereoscopic image observation device 200 and accommodates various modules (not shown) used by the stereoscopic image observation device 200. The modules used by the stereoscopic image observation device 200 include an optical engine including a hologram light guide plate for realizing an optical transmission type HMD, a driver and a synchronization signal receiving unit for driving a liquid crystal shutter, and other Wi-Fi (registered trademark). A communication module such as a module, an electronic compass, an acceleration sensor, a tilt sensor, a GPS (Global Positioning System) sensor, and an illuminance sensor. These modules are examples, and the stereoscopic image observation device 200 does not necessarily need to be equipped with all of these modules. Which module is mounted may be determined according to the usage scene assumed by the stereoscopic video observation device 200.

図2は、めがね型の立体映像観察デバイス200を例示する図である。立体映像観察デバイス200の形状は、この他にも帽子形状、ユーザの頭部を一周して固定されるベルト形状、ユーザの頭部全体を覆うヘルメット形状等さまざまなバリエーションが考えられるが、いずれの形状の立体映像観察デバイス200も本発明の実施の形態に含まれることは、当業者であれば容易に理解される。   FIG. 2 is a diagram illustrating a glasses-type stereoscopic image observation device 200. The shape of the stereoscopic image observation device 200 may be various variations such as a hat shape, a belt shape that is fixed around the user's head, and a helmet shape that covers the entire user's head. Those skilled in the art can easily understand that the stereoscopic image observation device 200 having a shape is also included in the embodiment of the present invention.

図3は、実施の形態に係る画像解析装置500の内部構成を模式的に示す図である。実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現される。あるいは、インターネット等のネットワークを介して情報処理装置400に送信するための立体映像を生成するサーバ内に実現されてもよいし、立体映像観察デバイス200やモニタ300に内蔵されてもよい。あるいはさらに、画像解析装置500は独立したひとつの装置であってもよい。以下では、実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現されることを前提に説明する。   FIG. 3 is a diagram schematically illustrating an internal configuration of the image analysis apparatus 500 according to the embodiment. The image analysis apparatus 500 according to the embodiment is realized as a part of the information processing apparatus 400 described above. Alternatively, it may be realized in a server that generates a stereoscopic video to be transmitted to the information processing apparatus 400 via a network such as the Internet, or may be incorporated in the stereoscopic video observation device 200 or the monitor 300. Alternatively, the image analysis apparatus 500 may be an independent apparatus. Hereinafter, the image analysis apparatus 500 according to the embodiment will be described on the assumption that the image analysis apparatus 500 is realized as a part of the information processing apparatus 400 described above.

実施の形態に係る画像解析装置500は、映像取得部502、モニタ特定部504、およびコンテンツ再生部506を含む。   Image analysis apparatus 500 according to the embodiment includes a video acquisition unit 502, a monitor identification unit 504, and a content reproduction unit 506.

コンテンツ再生部506は、映画やゲーム、テレビ番組等のコンテンツを再生する。コンテンツ再生部506が再生するコンテンツの映像のうち、少なくとも一部の映像はモニタ300に表示される。また、コンテンツ再生部506が再生するコンテンツの映像の一部は、立体映像観察デバイス200中の光学透過型HMDに表示される。   The content playback unit 506 plays back content such as movies, games, and television programs. At least a part of the content video to be played back by the content playback unit 506 is displayed on the monitor 300. In addition, a part of the content video to be played back by the content playback unit 506 is displayed on the optically transmissive HMD in the stereoscopic video viewing device 200.

例えば、コンテンツ再生部506が再生するコンテンツがゲームアプリケーションである場合、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像やARイメージ等が光学透過型HMDに表示される。   For example, when the content played back by the content playback unit 506 is a game application, a background image of the game video is displayed on the monitor 300, and a video or AR image of a character to be operated by the user is converted into an optically transmissive HMD. Is displayed.

立体映像観察デバイス200に備えられた撮像素子204は、コンテンツ再生部506が再生するコンテンツの再生画面を表示中のモニタ300を含む映像を撮像する。映像取得部502は、撮像素子204が撮像した映像を取得する。モニタ特定部504は、映像取得部502が取得した映像中に映っているマーカを検出し、検出したマーカをもとにモニタ300の位置を特定する。このため、コンテンツ再生部506は、モニタ特定部504がモニタ300の特定に利用するためのマーカを、モニタ300に表示させる。コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに、光学透過型HMDに表示されるモニタ300上に3次元イメージを重ねて表示させる。   The imaging element 204 provided in the stereoscopic video observation device 200 captures an image including the monitor 300 that is displaying a playback screen of the content played back by the content playback unit 506. The video acquisition unit 502 acquires video captured by the image sensor 204. The monitor specifying unit 504 detects a marker shown in the video acquired by the video acquisition unit 502, and specifies the position of the monitor 300 based on the detected marker. For this reason, the content reproduction unit 506 causes the monitor 300 to display a marker used by the monitor specifying unit 504 for specifying the monitor 300. Based on the position of the monitor 300 specified by the monitor specifying unit 504, the content reproduction unit 506 displays the three-dimensional image superimposed on the monitor 300 displayed on the optical transmission type HMD.

上述したとおり、モニタ300はコンテンツ再生部506が再生するコンテンツの映像も表示するため、ユーザは、光学透過型HMDを介してモニタ300を観察する。したがって、モニタ特定部504によるモニタ300の特定を容易とする目的でコンテンツの映像と異なるマーカ用の画像を表示すると、コンテンツの世界観を損なうことになりかねず、場合によってはユーザが興ざめしてしまう可能性もある。   As described above, since the monitor 300 also displays the video of the content played back by the content playback unit 506, the user observes the monitor 300 via the optically transmissive HMD. Therefore, displaying a marker image different from the content video for the purpose of facilitating the identification of the monitor 300 by the monitor identifying unit 504 may impair the world view of the content. There is also a possibility of end.

そこでコンテンツ再生部506は、モニタ300を観察するユーザには認識されない態様で表示されるマーカをコンテンツに含めてを再生する。ここで、「ユーザには認識されない態様で表示」としては、コンテンツ再生部が再生するコンテンツに由来する映像を表示することによってユーザにはマーカであることを気づかせないように表示することと、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することとの、ふたつの表示方法が考えられる。以下、コンテンツ再生部506が再生するコンテンツに由来する映像を表示する方法と、撮像素子204にのみマーカを提示する方法とについて順に説明する。   Therefore, the content reproduction unit 506 reproduces the content by including a marker displayed in a manner that is not recognized by the user observing the monitor 300. Here, as “display in a manner not recognized by the user”, displaying the video derived from the content reproduced by the content reproduction unit so that the user does not notice that it is a marker, Two display methods are conceivable, in which a marker is presented only on the image sensor 204 while the user's field of view is blocked. Hereinafter, a method for displaying a video derived from content to be reproduced by the content reproduction unit 506 and a method for presenting a marker only on the image sensor 204 will be described in order.

まず、コンテンツ再生部506が再生するコンテンツに由来する映像をマーカとして表示することについて説明する。   First, a description will be given of displaying video derived from content to be reproduced by the content reproduction unit 506 as a marker.

モニタ特定部504は、テンプレートマッチングやDP(Dynamic Programming)マッチング、エッジ等の特徴量解析など、既知のパターンマッチング手法を用いて映像中のマーカを特定する。したがって、映像中の所定の構造物を特定するために用いられるマーカは、映像においてなるべく変化の少ない画像であることが好ましい。   The monitor specifying unit 504 specifies a marker in the video by using a known pattern matching method such as template matching, DP (Dynamic Programming) matching, or feature amount analysis such as an edge. Therefore, it is preferable that the marker used for specifying a predetermined structure in the video is an image with as little change as possible in the video.

一般に、ゲームコンテンツの映像は、ユーザの操作対象となるキャラクタや敵キャラ等、映像中を動き回るキャラクタ画像と、動きによる変化が比較的少ない背景画像とに分類できる。したがって、コンテンツに由来する映像をマークとする例として、ゲームコンテンツにおける背景画像をマーカとすることが挙げられる。   In general, video of game content can be classified into character images that move around the video, such as characters and enemy characters that are subject to operation by the user, and background images that have relatively little change due to movement. Therefore, as an example of using a video derived from content as a mark, a background image in game content can be used as a marker.

モニタ特定部504は、マーカとなる背景画像を取得し、背景画像から取得した画像中に含まれる構造物のエッジや輪郭、コーナー、配色等の特徴量を抽出する。図4は、実施の形態に係るモニタ特定部504がマーカの特定に用いる特徴量の一例を表形式で示す図である。モニタ特定部504は背景画像を解析して、背景画像中のどの位置にどのような特徴量が存在するかを管理する。図4に示す例では、タイプ1は構造物のコーナー(角の点)が、画像中の点(X,Y)に存在することを示している。モニタ特定部504は、映像取得部502から新たに取得した映像を解析し、その映像中に上記の特徴量を含むか否かを調べることで、新たに取得した映像からマーカとなる背景画像を特定する。なお、特徴量は画像解析装置500内の図示しない記録部に保存される。 The monitor specifying unit 504 acquires a background image serving as a marker, and extracts feature amounts such as edges, contours, corners, and color schemes of structures included in the acquired image from the background image. FIG. 4 is a diagram illustrating an example of a feature amount used for specifying a marker by the monitor specifying unit 504 according to the embodiment in a table format. The monitor specifying unit 504 analyzes the background image and manages what feature amount exists at which position in the background image. In the example shown in FIG. 4, Type 1 indicates that the corner (corner point) of the structure exists at the point (X 1 , Y 1 ) in the image. The monitor specifying unit 504 analyzes the video newly acquired from the video acquisition unit 502 and checks whether or not the above-described feature amount is included in the video, thereby obtaining a background image serving as a marker from the newly acquired video. Identify. The feature amount is stored in a recording unit (not shown) in the image analysis apparatus 500.

ところで、背景画像は映像中を動き回るキャラクタ画像と比較すると動きによる変化が少ないといえども、通常、ゲームの進行にしたがって少しずつ変化する。そこで、モニタ特定部504は、ひとたび抽出した特徴点の差分情報も管理する。具体的には、モニタ特定部504は、背景画像の変化に伴う各特徴点の平行移動量や、特徴量が回転した場合にはその回転角も管理する。また、特徴量の存在位置によっては背景画像の移動によって消失する場合もあるため、各特徴量が現在有効か否かも管理する。これにより、特徴量の抽出のもととなった背景画像が変化したとしても、特徴量をもとにしてマーカとなる背景画像を特定することができる。また、ゲームコンテンツの背景そのものをマーカとしてモニタ300を特定するため、ユーザにマーカを意識させることがなく、ゲームの世界観を損なうことを防止できる。   By the way, the background image usually changes little by little as the game progresses even though the change due to movement is small compared to the character image moving around in the video. Therefore, the monitor specifying unit 504 also manages the difference information of the feature points once extracted. Specifically, the monitor specifying unit 504 manages the translation amount of each feature point accompanying the change of the background image, and the rotation angle when the feature value is rotated. In addition, depending on the position where the feature amount exists, it may disappear due to the movement of the background image, so it is also managed whether each feature amount is currently valid. As a result, even if the background image from which the feature amount is extracted changes, the background image that becomes the marker can be specified based on the feature amount. Moreover, since the monitor 300 is specified using the background of the game content itself as a marker, the user can be prevented from being conscious of the marker, and the game world view can be prevented from being impaired.

次に、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することについて説明する。   Next, it will be described that a marker is presented only on the image sensor 204 while the user's field of view is blocked.

上述したとおり、モニタ300はフレームシーケンシャル方式の3次元モニタであり、光学透過型HMDはフレームシーケンシャル方式の3次元モニタの観察に用いる光学シャッタを備えている。そこでコンテンツ再生部506は、光学透過型HMDを通して実空間を観察するユーザの視界を光学シャッタが遮蔽している間に、モニタ特定部504がモニタ300の位置を特定するために利用するマーカをモニタ300に表示させる。   As described above, the monitor 300 is a frame sequential type three-dimensional monitor, and the optical transmission type HMD includes an optical shutter used for observation of the frame sequential type three-dimensional monitor. Therefore, the content reproduction unit 506 monitors a marker used by the monitor specifying unit 504 to specify the position of the monitor 300 while the optical shutter blocks the field of view of the user observing the real space through the optical transmission type HMD. 300 is displayed.

図5は、実施の形態に係るコンテンツ再生部506が再生する画像の種類と、そのときの光学シャッタのオンオフのタイミングを表形式で示す図である。   FIG. 5 is a table showing the types of images reproduced by the content reproduction unit 506 according to the embodiment and the on / off timing of the optical shutter at that time in a table format.

上述したとおり、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタをオンして右目の視野を遮蔽するとともに左目用のシャッタをオフとし、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。また、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタをオンして左目の視野を遮蔽するとともに右目用のシャッタをオフとし、ユーザに右目用の視差画像を提示する。左目用の視差画像と右目用の視差画像を表示した後に、モニタ300は、3番目の画像としてマーカのための画像を表示する。この時、光学シャッタは両目ともオンとなってユーザの視界を遮蔽する。   As described above, when the monitor 300 displays a parallax image for the left eye, the right-eye shutter is turned on to block the right-eye field of view, the left-eye shutter is turned off, and the stereoscopic image observation device 200 is attached. The parallax image for the left eye is presented to the user. When the monitor 300 displays a right-eye parallax image, the left-eye shutter is turned on to block the left-eye field of view and the right-eye shutter is turned off to present the right-eye parallax image to the user. To do. After displaying the parallax image for the left eye and the parallax image for the right eye, the monitor 300 displays an image for the marker as the third image. At this time, both optical eyes are turned on to block the user's field of view.

このように、モニタ300が左目用の視差画像、右目用の視差画像、およびマーカ画像を変更しながら順番に提示し、光学シャッタのオンオフ制御を画像の提示に同期させることにより、モニタ300を用いてユーザに立体映像を提示しつつ、ユーザに認識されないように撮像素子204だけにマーカ画像を提示することができる。ユーザはマーカ画像を見ることがないため、ゲームの世界観を損なうことを防止できる。   In this way, the monitor 300 presents the left-eye parallax image, the right-eye parallax image, and the marker image in order while changing them, and synchronizes the on / off control of the optical shutter with the presentation of the image, thereby using the monitor 300. Thus, a marker image can be presented only to the image sensor 204 so as not to be recognized by the user while presenting a stereoscopic video to the user. Since the user does not see the marker image, it is possible to prevent the game world view from being impaired.

ところで、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像が光学透過型HMDに表示されるような場合、コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに映像を表示する。このため、例えばユーザの視線がモニタ300からはずれる等の原因によってモニタ特定部504によるモニタ300の位置特定ができなくなったとすると、コンテンツ再生部506は光学透過型HMDに適切に映像を表示できなるなる。そこで、モニタ特定部504がマーカの特定に失敗した場合、コンテンツ再生部506はコンテンツの再生を一旦停止する。その後、モニタ特定部504がマーカの特定に成功すれば、コンテンツ再生部506はコンテンツの再生を再開する。   By the way, when the background image of the game video is displayed on the monitor 300 and the video of the character to be operated by the user is displayed on the optically transmissive HMD, the content specifying unit 504 specifies the content reproduction unit 506. An image is displayed based on the position of the monitor 300. For this reason, for example, if the position of the monitor 300 cannot be specified by the monitor specifying unit 504 due to, for example, the user's line of sight being off the monitor 300, the content reproduction unit 506 can appropriately display the video on the optically transmissive HMD. . Therefore, when the monitor identifying unit 504 fails to identify the marker, the content reproduction unit 506 temporarily stops the content reproduction. Thereafter, if the monitor identifying unit 504 succeeds in identifying the marker, the content reproduction unit 506 resumes the reproduction of the content.

また、モニタ特定部504がマーカの特定に失敗することによってコンテンツの再生を一旦停止する場合、コンテンツ再生部506は、モニタの特定に失敗したことを示すメッセージを光学透過型HMDに表示させる。これにより、ユーザはゲームの進行が中断することが分かる。ユーザは、例えばゲーム以外になすべき別の所用が発生したのであれば、ゲームの進行を中断したまま所用を済ませればよい。また、ゲームを継続することを望むのであれば、立体映像観察デバイス200の撮像素子204をモニタ300の方向に向けることで、モニタ特定部504がモニタを特定できるようにしてもよい。   In addition, when the reproduction of the content is temporarily stopped because the monitor identification unit 504 fails to identify the marker, the content reproduction unit 506 displays a message indicating that the identification of the monitor has failed on the optical transmission type HMD. Thereby, the user understands that the progress of the game is interrupted. For example, if another job to be performed other than the game has occurred, the user may complete the job while interrupting the progress of the game. Further, if it is desired to continue the game, the monitor specifying unit 504 may specify the monitor by directing the image sensor 204 of the stereoscopic video observation device 200 toward the monitor 300.

図6は、実施の形態に係る画像解析装置500によるモニタ特定処理の流れを示すフローチャートである。本フローチャートにおける処理は、例えば画像解析装置500の電源が投入されたときに開始する。   FIG. 6 is a flowchart showing a flow of monitor specifying processing by the image analysis apparatus 500 according to the embodiment. The processing in this flowchart starts when the image analysis apparatus 500 is powered on, for example.

コンテンツ再生部506は、コンテンツを再生する(S2)。モニタ300は、コンテンツ再生部506が再生したコンテンツの再生映像を表示する(S4)。撮像素子204は、コンテンツの再生映像を表示するモニタ300を含む映像を撮像する(S6)。   The content reproduction unit 506 reproduces content (S2). The monitor 300 displays the playback video of the content played back by the content playback unit 506 (S4). The image sensor 204 captures a video including the monitor 300 that displays the playback video of the content (S6).

モニタ特定部504は、映像取得部502が取得した撮像素子204の映像中から、モニタ300を特定するためのマーカの検出を試みる(S8)。モニタ特定部504がマーカの検出に失敗した場合(S10のN)、コンテンツ再生部506は再生中のコンテンツを一時停止する(S12)。コンテンツ再生部506はまた、モニタの特定に失敗したことを示すメッセージを、ユーザが装着している光学透過型HMDに表示させる(S14)。コンテンツ再生部506が光学透過型HMDにメッセージを表示させた後、ステップS6に戻って上述の処理を繰り返す。   The monitor specifying unit 504 tries to detect a marker for specifying the monitor 300 from the video of the image sensor 204 acquired by the video acquisition unit 502 (S8). When the monitor identifying unit 504 fails to detect the marker (N in S10), the content reproduction unit 506 pauses the content being reproduced (S12). The content playback unit 506 also displays a message indicating that the monitor identification has failed on the optically transmissive HMD worn by the user (S14). After the content reproduction unit 506 displays a message on the optically transmissive HMD, the process returns to step S6 and the above processing is repeated.

モニタ特定部504がマーカの検出に成功した場合(S10のY)、モニタ特定部504は、検出したマーカをもとに映像中におけるモニタ300の位置を特定する(S16)。モニタ特定部504がモニタ300の位置を特定したとき、コンテンツが一時停止されている場合(S18のY)、コンテンツ再生部506はコンテンツの再生を再開する(S20)。コンテンツが一時停止されていない場合(S18のN)、コンテンツ再生部506はコンテンツの再生を継続する。コンテンツが一時停止されていない場合か、あるいはコンテンツ再生部506はコンテンツの再生を再開すると、本フローチャートにおける処理は終了する。   When the monitor specifying unit 504 succeeds in detecting the marker (Y in S10), the monitor specifying unit 504 specifies the position of the monitor 300 in the video based on the detected marker (S16). When the monitor specifying unit 504 specifies the position of the monitor 300, if the content is paused (Y in S18), the content reproduction unit 506 resumes the content reproduction (S20). If the content is not paused (N in S18), the content reproduction unit 506 continues to reproduce the content. When the content is not paused or when the content reproduction unit 506 resumes the reproduction of the content, the processing in this flowchart ends.

以上の構成による映像提示システム100の利用シーンは以下のとおりである。ユーザが立体映像観察デバイス200を装着してモニタ300を観察すると、撮像素子204は、コンテンツ再生部506によってユーザには認識されない態様で表示されるマーカを撮像する。モニタ特定部504は、マーカを検出することで映像中に存在するモニタ300の位置を特定する。   The usage scenes of the video presentation system 100 configured as described above are as follows. When the user wears the stereoscopic video observation device 200 and observes the monitor 300, the image sensor 204 images the marker displayed in a manner that is not recognized by the user by the content reproduction unit 506. The monitor specifying unit 504 specifies the position of the monitor 300 existing in the video by detecting the marker.

以上説明したように、実施の形態に係る映像提示システム100によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することができる。   As described above, according to the video presentation system 100 according to the embodiment, it is possible to provide a technique for achieving both maintenance of the content worldview and presentation of the monitor detection marker.

以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   The present invention has been described based on the embodiments. The embodiments are exemplifications, and it will be understood by those skilled in the art that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are within the scope of the present invention. .

(第1の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ひとたびモニタ300の位置特定が成功した後は、モニタに表示させる画像以外の情報をマーカとしてもよい。具体的には、例えばモニタ300の位置特定が成功した後は、モニタ300のフレームを検出用マーカとしてもよい。モニタのフレームは時間による変化がないため、より精度よくモニタ300を特定することが期待できる。
(First modification)
In the above, the case where the marker image is displayed on the monitor 300 and the position of the monitor 300 in the video is specified has been described. Once the monitor 300 has been successfully identified, information other than the image to be displayed on the monitor may be used as a marker. Specifically, for example, after the position of the monitor 300 is successfully identified, the frame of the monitor 300 may be used as a detection marker. Since the monitor frame does not change with time, it can be expected to specify the monitor 300 with higher accuracy.

(第2の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ここで、光学透過型HMDの光学シャッタを制御するためのシャッタ制御信号が赤外光を介して送信される場合、シャッタ制御信号の出力部をモニタ300のフレームに設けてその赤外光を検出することにより、モニタ300の位置を特定することもできる。
(Second modification)
In the above, the case where the marker image is displayed on the monitor 300 and the position of the monitor 300 in the video is specified has been described. Here, when a shutter control signal for controlling the optical shutter of the optical transmission type HMD is transmitted through infrared light, an output unit of the shutter control signal is provided in the frame of the monitor 300 to detect the infrared light. By doing so, the position of the monitor 300 can also be specified.

撮像素子204を実現するためのCCD等の撮像素子は、一般に赤外光も撮像することができる。赤外光は可視光ではないため、ユーザの目に観測されることはほとんどない。したがって、モニタ300のフレームから発信される赤外光の発信源を特定すれば、モニタ300のフレームを特定するための有力な手がかりとなる。一般的な撮像素子には赤外線遮断シートが取り付けられていることが多いが、撮像素子204には赤外線遮断シートを取り付けないことが好ましい。これにより、赤外光であるシャッタ制御信号をより検出しやすくすることができる。   In general, an image sensor such as a CCD for realizing the image sensor 204 can also capture infrared light. Since infrared light is not visible light, it is rarely observed by the user's eyes. Therefore, if the source of infrared light transmitted from the frame of the monitor 300 is specified, it becomes an effective clue for specifying the frame of the monitor 300. Although an infrared shielding sheet is often attached to a general image sensor, it is preferable not to attach an infrared shielding sheet to the image sensor 204. This makes it easier to detect a shutter control signal that is infrared light.

(第3の変形例)
上記では、モニタ300表示されたマーカ画像から特徴量を直接抽出する場合について説明した。これに代えて、コンテンツ再生部506は、コンテンツの再生映像に例えば既知のデジタル指紋や電子透かしを埋め込んでもよい。これにより、ユーザにとっては埋め込まれた情報を視認することは困難であるが、モニタ特定部504は特定の検出処理を実行することによってマーカを検出することができる。
(Third Modification)
In the above description, the case where the feature amount is directly extracted from the marker image displayed on the monitor 300 has been described. Instead, the content playback unit 506 may embed, for example, a known digital fingerprint or digital watermark in the playback video of the content. Thereby, although it is difficult for the user to visually recognize the embedded information, the monitor specifying unit 504 can detect the marker by executing a specific detection process.

(第4の変形例)
上記では、図5を参照して光学シャッタのオンオフを制御について説明したが、光学シャッタのオンオフのタイミングは図5に示すパターンに限られない。例えば、図5に示すパターンに対してマーカ画像を表示する頻度を少なくしてもよい。これにより、コンテンツの映像とマーカ画像とが混ざって表示されるクロストークの影響を小さくすることができる。
(Fourth modification)
In the above, the on / off control of the optical shutter has been described with reference to FIG. 5, but the on / off timing of the optical shutter is not limited to the pattern shown in FIG. For example, the frequency of displaying the marker image for the pattern shown in FIG. 5 may be reduced. As a result, it is possible to reduce the influence of the crosstalk displayed by mixing the content video and the marker image.

また図5はモニタ300が3次元映像を表示する場合の例を示すが、モニタ300は通常の2次元映像を表示するものであってもよい。この場合、コンテンツ再生部506は、コンテンツの映像とマーカ画像とを時分割で交互に表示するか、あるいはコンテンツの映像フレームを所定枚数表示した後に、マーカ画像をモニタ300に表示させてもよい。立体映像観察デバイス200の光学シャッタは、モニタ300がマーカ画像を表示している間だけシャッタをオンとして、ユーザの視界を遮蔽することで、ユーザにはマーカ画像を知覚させずにモニタ300にマーカ画像を表示することができる。   FIG. 5 shows an example in which the monitor 300 displays a 3D image, but the monitor 300 may display a normal 2D image. In this case, the content reproduction unit 506 may alternately display the content video and the marker image in a time-division manner, or may display the marker image on the monitor 300 after displaying a predetermined number of video frames of the content. The optical shutter of the stereoscopic video observation device 200 turns on the shutter only while the monitor 300 is displaying the marker image and shields the user's field of view, so that the marker is not displayed on the monitor 300 without the user perceiving the marker image. An image can be displayed.

100 映像提示システム、 200 立体映像観察デバイス、 202 提示部、 204 撮像素子、 206 筐体、 300 モニタ、 400 情報処理装置、 500 画像解析装置、 502 映像取得部、 504 モニタ特定部、 506 コンテンツ再生部。   DESCRIPTION OF SYMBOLS 100 video presentation system, 200 stereoscopic video observation device, 202 presentation part, 204 imaging device, 206 housing | casing, 300 monitor, 400 information processing apparatus, 500 image analysis apparatus, 502 video acquisition part, 504 monitor specification part, 506 content reproduction part .

Claims (9)

コンテンツを再生するコンテンツ再生部と、
前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、
前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
前記撮像素子は、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示する光学透過型HMDに備えられており、
前記コンテンツ再生部は、前記光学透過型HMDを装着して前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定し、
前記コンテンツ再生部は、前記モニタ特定部が特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成することを特徴とする画像解析装置。
A content playback unit for playing back content,
A video acquisition unit that acquires video captured by an imaging device that captures video including a monitor that is displaying the content playback screen;
A monitor specifying unit for specifying the position of the monitor from the video acquired by the video acquisition unit,
The imaging device is provided in an optically transmissive HMD that presents an image observed when a three-dimensional image in a virtual three-dimensional space generated by the content is projected into a real space,
The content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user who wears the optically transmissive HMD and observes the monitor,
The monitor specifying unit specifies the position of the monitor in the video based on the marker specified from the video including the marker imaged by the imaging device ,
The content reproduction unit generates a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the position of the monitor specified by the monitor specifying unit. Analysis device.
前記モニタ特定部は、前記コンテンツ再生部が再生するコンテンツに由来する映像をマーカとして、前記モニタの位置を特定することを特徴とする請求項1に記載の画像解析装置。   The image analysis apparatus according to claim 1, wherein the monitor specifying unit specifies the position of the monitor using a video derived from the content reproduced by the content reproduction unit as a marker. 前記コンテンツ再生部が再生するコンテンツがゲームコンテンツの場合、前記モニタ特定部は、前記ゲームコンテンツの背景画面をマーカとして前記モニタの位置を特定することを特徴とする請求項1または2に記載の画像解析装置。   3. The image according to claim 1, wherein when the content played by the content playback unit is game content, the monitor specifying unit specifies the position of the monitor using a background screen of the game content as a marker. Analysis device. 前記モニタ特定部がマーカの特定に失敗した場合、前記コンテンツ再生部はコンテンツの再生を停止することを特徴とする請求項1から3のいずれかに記載の画像解析装置。   4. The image analysis apparatus according to claim 1, wherein when the monitor specifying unit fails to specify a marker, the content playback unit stops playback of the content. 5. 前記コンテンツの再生画面を表示するモニタはフレームシーケンシャル方式の3次元モニタであり、かつ前記光学透過型HMDはフレームシーケンシャル方式の3次元モニタの観察に用いる光学シャッタを備えており、
前記コンテンツ再生部は、前記光学透過型HMDを通して実空間を観察するユーザの視界を前記光学シャッタが遮蔽している間に、前記モニタ特定部が前記モニタの位置を特定するために利用するマーカを前記モニタに表示させることを特徴とする請求項1から4のいずれかに記載の画像解析装置。
The monitor that displays the playback screen of the content is a frame sequential type three-dimensional monitor, and the optical transmission type HMD includes an optical shutter used for observation of the frame sequential type three-dimensional monitor,
The content reproduction unit uses a marker used by the monitor specifying unit to specify the position of the monitor while the optical shutter blocks the field of view of a user observing a real space through the optical transmission type HMD. The image analysis apparatus according to claim 1 , wherein the image analysis apparatus is displayed on the monitor.
前記モニタ特定部が前記マーカの特定に失敗した場合、前記コンテンツ再生部は、モニタの特定に失敗したことを示すメッセージを前記光学透過型HMDに表示させることを特徴とする請求項1から5のいずれかに記載の画像解析装置。 6. The content reproducing unit causes the optical transmission type HMD to display a message indicating that the monitor has failed when the monitor identifying unit fails to identify the marker . The image analysis apparatus according to any one of the above. プロセッサが実行する画像解析方法であって、
ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を撮像素子を用いて取得するステップと、
取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、
特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとを含み、
前記撮像素子は前記ユーザが装着中の光学透過型HMDに備えられており、当該光学透過型HMDは、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示するものであり、
前記画像解析方法はさらに、特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成するステップを含むことを特徴とする画像解析方法。
An image analysis method executed by a processor,
Using an imaging device to obtain a video including a monitor displaying a playback screen of content including a marker displayed in a manner not recognized by the user;
Identifying the marker from a playback screen of content included in the acquired video;
Identifying the position of the monitor in the video based on the identified marker ,
The image pickup device is provided in an optical transmission HMD worn by the user, and the optical transmission HMD projects a three-dimensional image in a virtual three-dimensional space generated by the content into a real space. The video that is observed in the case,
The image analysis method further includes a step of generating a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the specified position of the monitor. Method.
画像解析機能をコンピュータに実現させるプログラムであって、
ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を撮像素子を用いて取得する機能と、
取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、
特定したマーカをもとに、映像中における前記モニタの位置を特定する機能とを含み、
前記撮像素子は前記ユーザが装着中の光学透過型HMDに備えられており、当該光学透過型HMDは、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示するものであり、
前記プログラムはさらに、特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成する機能を含むことを特徴とするプログラム。
A program for causing a computer to realize an image analysis function,
A function of acquiring an image including a monitor displaying a playback screen of content including a marker displayed in a manner not recognized by a user using an imaging device ;
Identifying the marker from a playback screen of content included in the acquired video;
Including the function of specifying the position of the monitor in the video based on the specified marker ,
The image pickup device is provided in an optical transmission HMD worn by the user, and the optical transmission HMD projects a three-dimensional image in a virtual three-dimensional space generated by the content into a real space. The video that is observed in the case,
The program further includes a function for generating a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the specified position of the monitor .
コンテンツを再生するコンテンツ再生部と、
前記コンテンツの再生画面を表示するモニタと、
前記モニタを含む映像を撮像する撮像素子と、
前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、
前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
前記撮像素子は、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示する光学透過型HMDに備えられており、
前記コンテンツ再生部は、前記光学透過型HMDを装着して前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定し、
前記コンテンツ再生部は、前記モニタ特定部が特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成することを特徴とする画像解析システム。
A content playback unit for playing back content,
A monitor for displaying a playback screen of the content;
An image pickup device for picking up an image including the monitor;
An image acquisition unit that acquires an image captured by the image sensor and including a monitor displaying a playback screen of the content;
A monitor specifying unit for specifying the position of the monitor from the video acquired by the video acquisition unit,
The imaging device is provided in an optically transmissive HMD that presents an image observed when a three-dimensional image in a virtual three-dimensional space generated by the content is projected into a real space,
The content reproduction unit reproduces content including a marker displayed in a manner that is not recognized by a user who wears the optically transmissive HMD and observes the monitor,
The monitor specifying unit specifies the position of the monitor in the video based on the marker specified from the video including the marker imaged by the imaging device,
The content reproduction unit generates a three-dimensional image to be displayed on the monitor displayed on the optical transmission type HMD based on the position of the monitor specified by the monitor specifying unit. Analysis system.
JP2012147341A 2012-06-29 2012-06-29 Image analysis apparatus, image analysis method, and image analysis system Active JP5563625B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012147341A JP5563625B2 (en) 2012-06-29 2012-06-29 Image analysis apparatus, image analysis method, and image analysis system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012147341A JP5563625B2 (en) 2012-06-29 2012-06-29 Image analysis apparatus, image analysis method, and image analysis system

Publications (2)

Publication Number Publication Date
JP2014011654A JP2014011654A (en) 2014-01-20
JP5563625B2 true JP5563625B2 (en) 2014-07-30

Family

ID=50107965

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012147341A Active JP5563625B2 (en) 2012-06-29 2012-06-29 Image analysis apparatus, image analysis method, and image analysis system

Country Status (1)

Country Link
JP (1) JP5563625B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6329343B2 (en) * 2013-06-13 2018-05-23 任天堂株式会社 Image processing system, image processing apparatus, image processing program, and image processing method
WO2015096145A1 (en) * 2013-12-27 2015-07-02 Intel Corporation Device, method, and system of providing extended display with head mounted display
KR101860370B1 (en) 2016-05-23 2018-05-24 주식회사 토비스 a Public HMD apparatus and a game machine having the same
US10916220B2 (en) 2018-08-07 2021-02-09 Apple Inc. Detection and display of mixed 2D/3D content

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005250950A (en) * 2004-03-05 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> Marker presentation portable terminal, expanded sense of reality system, and its operation method
JP2009205556A (en) * 2008-02-28 2009-09-10 Panasonic Corp User interface device
JP4995934B2 (en) * 2010-03-26 2012-08-08 株式会社コナミデジタルエンタテインメント Augmented reality system, marker terminal, photographing terminal, augmented reality method, and information recording medium

Also Published As

Publication number Publication date
JP2014011654A (en) 2014-01-20

Similar Documents

Publication Publication Date Title
US9684173B2 (en) Image processing device, image processing method, and image processing system
KR101275542B1 (en) Three-dimensional image display device and three-dimensional image display method
JP4903888B2 (en) Image display device, image display method, and image correction method
JP5917017B2 (en) Image processing apparatus, control method therefor, and program
JP4794678B1 (en) Video processing apparatus, video processing method, and video communication system
US20100225576A1 (en) Three-dimensional interactive system and method
US20160344999A1 (en) SYSTEMS AND METHODs FOR PRODUCING PANORAMIC AND STEREOSCOPIC VIDEOS
GB2514466A (en) Display
CA2933704A1 (en) Systems and methods for producing panoramic and stereoscopic videos
US20180192031A1 (en) Virtual Reality Viewing System
JP5563625B2 (en) Image analysis apparatus, image analysis method, and image analysis system
JP5972462B2 (en) Image generation method
JP5222407B2 (en) Image display device, image display method, and image correction method
JP7403256B2 (en) Video presentation device and program
CN111736692B (en) Display method, display device, storage medium and head-mounted device
JP2012100015A (en) Three-dimensional video reproducing device
CN105630170B (en) Information processing method and electronic equipment
JP2011077984A (en) Video processing apparatus
WO2022255058A1 (en) Information processing device and image generation method
JP2006267767A (en) Image display device
KR20130070034A (en) Apparatus and method of taking stereoscopic picture using smartphones
JP2021068296A (en) Information processing device, head-mounted display, and user operation processing method
WO2013001839A1 (en) Image pick-up device
CN108295463A (en) A kind of image display method and apparatus

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140603

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140612

R150 Certificate of patent or registration of utility model

Ref document number: 5563625

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250