A.第1実施形態:
A−1.画像表示システムの構成:
図1は、本発明の一実施形態における画像表示システム1000の概略構成を示す説明図である。画像表示システム1000は、頭部装着型表示装置100と、外部装置としての携帯情報端末300とを備えている。画像表示システム1000は、携帯情報端末300の表示画像と、頭部装着型表示装置100が有する画像と、を含む一覧画像を頭部装着型表示装置100に表示させるシステムである。ここで、「スマートフォン300の表示画像」とは、スマートフォン300の表示画面に表示されている画像を意味する。なお、スマートフォン300の表示画像には、表示画面に表示されるべき画像であるものの外部出力の結果として表示されない画像も含む。また、「頭部装着型表示装置100が有する画像」とは、頭部装着型表示装置100の表示画面に現在表示されている画像を意味する。なお、頭部装着型表示装置100の表示画像には、表示画面に表示されるべき画像であるものの外部出力の結果として表示されない画像も含む。
頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。携帯情報端末300は、携帯可能な情報通信端末である。本実施形態では、携帯情報端末として、スマートフォン(smartphone)を例示する。ヘッドマウントディスプレイ100と、スマートフォン300とは、無線通信または有線通信可能に接続されている。
A−2.頭部装着型表示装置の構成:
図2は、ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。図1、2に示すように、ヘッドマウントディスプレイ100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部(コントローラー)10とを備えている。画像表示部20と制御部10とは、接続部40によって接続され、接続部40を介して各種信号の伝送を行う。接続部40には、金属ケーブルや光ファイバーを採用することができる。
A−2−1.制御部の構成:
制御部10は、ヘッドマウントディスプレイ100を制御するための装置である。制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、CPU140と、インターフェイス180と、送信部(Tx)51および52とを備え、各部は図示しないバスにより相互に接続されている(図2)。
入力情報取得部110は、例えば、タッチパッド、十字キー、フットスイッチ(使用者の足により操作するスイッチ)、ジェスチャー検出(カメラ等を用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得する)、視線検出(赤外線センサー等を用いて使用者の視線を検出し、視線の動きに対応付けられたコマンドによる操作入力を取得する)、マイクロホン等の入力デバイスに対する操作入力に応じた信号を取得する。なお、ジェスチャー検出の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者が手に持つ道具等を動き検出のための目印にしてもよい。フットスイッチ、視線検出、マイクロホンによる操作入力を取得することとすれば、使用者が手を用いて操作することが困難な現場(例えば、医療現場、建設業や製造業などの手元作業を必要とする現場など)において、ヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。
記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。記憶部120は、領域情報記憶部122を含んでいる。領域情報記憶部122は、少なくとも1つの領域情報を記憶している。領域情報は、配置処理(図5)において生成される一覧画像の領域を規定する情報である。換言すれば、領域情報は、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とを配置するための枠として使用される。
図3は、領域情報記憶部122に記憶されている領域情報の一例を示す説明図である。図3に示す領域情報AIは、長方形状の領域(以降、「領域AI」とも呼ぶ。)を有している。領域AIは、ヘッドマウントディスプレイ100の表示素子(図2:右LCD241、左LCD242)の縦横比と同じ縦横比を有することが好ましい。
領域AIは、第1の領域AR1と、第2の領域AR2との2つの領域を含んでいる。第1の領域AR1は、配置処理(図5)においてスマートフォン300の表示画像が配置される領域である。第2の領域AR2は、配置処理においてヘッドマウントディスプレイ100が有する画像が配置される領域である。図3の例では、第1の領域AR1は、領域AIを水平方向に等分した一方に配置され、第2の領域AR2は領域AIを水平方向に等分した他方に配置されている。すなわち、第1の領域AR1と、第2の領域AR2とは、同じ大きさの領域である。
なお、図3に示した第1の領域AR1と、第2の領域AR2との配置および大きさは一例であり、任意に定めることができる。例えば、第1の領域AR1と第2の領域AR2とは、領域AIを水平方向にn等分(nは3以上の整数)した大きさとしてもよい。この場合、領域情報AIを用いて生成された一覧画像がヘッドマウントディスプレイ100に表示された際、使用者の視界を妨げないという観点から、第1の領域AR1と第2の領域AR2とは、領域AIの端部(左右の端部)に配置されることが好ましい。また、第1の領域AR1と第2の領域AR2とは、領域AIを鉛直方向にm等分(mは2以上の整数)した大きさとしてもよい。ここで、mが3以上の場合、第1の領域AR1と第2の領域AR2とは、領域AIの端部(上下の端部)に配置されることが好ましい。また、第1の領域AR1と第2の領域AR2とは、異なる大きさとしてもよい。また、第1の領域AR1と、第2の領域AR2とは、領域の少なくとも一部が重なっていてもよい。
電源130は、ヘッドマウントディスプレイ100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、所定の無線通信規格(例えば、赤外線、Bluetooth(登録商標)に例示される近距離無線通信、IEEE802.11に例示される無線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV(Audio Video)端末、家電製品等がある。GPSモジュール134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100の使用者の現在位置を検出し、使用者の現在位置情報を表す現在位置情報を生成する。なお、現在位置情報は、例えば緯度経度を表す座標によって実現することができる。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、生成部142、通知部144、オペレーティングシステム(ОS)150、画像処理部160、音声処理部170、表示制御部190として機能する。
生成部142は、配置処理(図4)において、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とを用いて一覧画像を生成する。通知部144は、通知処理(図8)において、一覧画像のうちの、スマートフォン300の表示画像に対する操作が行われた場合に、スマートフォン300に対して操作内容を通知する。
画像処理部160は、生成部142や、インターフェイス180や、無線通信部132等からOS150を介して入力される映像信号に基づいて信号を生成する。画像処理部160は、生成した信号を、接続部40を介して画像表示部20に供給することで、画像表示部20における表示を制御する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。
例えば、ディジタル形式の場合、ディジタルR信号と、ディジタルG信号と、ディジタルB信号と、クロック信号PCLKとが同期した状態の映像信号が入力される。画像処理部160は、ディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の解像度変換処理、輝度彩度の調整などの種々の色調補正処理、キーストーン補正処理等の画像処理を実行する。その後、画像処理部160は、クロック信号PCLKと、画像データーDataとを、送信部51、52を介して送信する。
アナログ形式の場合、アナログR信号と、アナログG信号と、アナログB信号と、垂直同期信号VSyncと、水平同期信号HSyncとからなる映像信号が入力される。画像処理部160は、入力された信号から垂直同期信号VSyncと水平同期信号HSyncを分離し、それらの周期に応じて、図示しないPLL回路等を用いてクロック信号PCLKを生成する。また、画像処理部160は、アナログR信号と、アナログG信号と、アナログB信号とを、A/D変換回路等を用いてディジタル信号に変換する。画像処理部160は、変換後のディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の画像処理を実行した後、クロック信号PCLKと、画像データーDataと、垂直同期信号VSyncと、水平同期信号HSyncとを、送信部51、52を介して送信する。なお、以降では、送信部51を介して送信される画像データーDataを「右眼用画像データーData1」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データーData2」とも呼ぶ。
表示制御部190は、画像表示部20が有する右表示駆動部22と左表示駆動部24とを制御する制御信号を生成する。制御信号とは、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを個別に切り替えるための信号である。表示制御部190は、これらの制御信号によって、右表示駆動部22と左表示駆動部24とにおける画像光の生成および射出を制御する。表示制御部190は、生成した制御信号を、送信部51、52を介して送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、右イヤホン32の図示しないスピーカーと、左イヤホン34の図示しないスピーカーとに対して供給する。
インターフェイス180は、所定の有線通信規格(例えば、MicroUSB(Universal Serial Bus)、USB、HDMI(High Definition Multimedia Interface、HDMIは登録商標)、DVI(Digital Visual Interface)、VGA(Video Graphics Array)、コンポジット、RS−232C(Recommended Standard 232)、IEEE802.3に例示される有線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV端末、家電製品等がある。
A−2−2.画像表示部の構成:
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26(図1)と、左光学像表示部28(図1)と、9軸センサー66とを含んでいる。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者のこめかみに対向する位置に配置されている。本実施形態における右表示駆動部22と左表示駆動部24とは、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)や投写光学系を用いて、画像を表す画像光を生成し射出する。右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。
受信部53は、送信部51から送信されるデーターを受信する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、入力されたクロック信号PCLKと右眼用画像データーData1と、垂直同期信号VSyncと、水平同期信号HSyncとに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。
左表示駆動部24は、右表示駆動部22とほぼ同様の構成を有し、右表示駆動部22と同様に動作する。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。詳細な説明は省略する。なお、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出してもよい。
右光学像表示部26と左光学像表示部28とは、使用者が画像表示部20を装着した際に使用者の左右の眼前にそれぞれ位置するように配置されている(図1参照)。右光学像表示部26は、右導光板261と、図示しない調光板を含んでいる。右導光板261は、光透過性の樹脂材料等によって形成されている。右導光板261は、右表示駆動部22から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REへ導く。右導光板261には、回折格子を用いても良いし半透過反射膜を用いても良い。調光板は、薄板状の光学素子であり、画像表示部20の表側を覆うように配置されている。調光板は、右導光板261を保護し、右導光板261の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
左光学像表示部28は、右光学像表示部26とほぼ同様の構成を有し、右光学像表示部26と同様に動作する。すなわち、左光学像表示部28は、左導光板262と、図示しない調光板を含み、左表示駆動部24から出力された画像光を、使用者の左眼LEへ導く。詳細な説明は省略する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、ヘッドマウントディスプレイ100の使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。
図4は、使用者に視認される虚像の一例を示す説明図である。図4では、使用者の視野VRを例示している。上述のようにして、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像VIを視認することができる。図4の例では、虚像VIは、ヘッドマウントディスプレイ100のOSの待ち受け画面である。また、使用者は、右光学像表示部26および左光学像表示部28を透過して外景SCを視認する。このように、本実施形態のヘッドマウントディスプレイ100の使用者は、視野VRのうち虚像VIが表示された部分については、虚像VIと、虚像VIの背後の外景SCとを見ることができる。また、使用者は、視野VRのうち虚像VIが表示されていない部分については、右光学像表示部26および左光学像表示部28を透過して外景SCを直接見ることができる。なお、本明細書において、「ヘッドマウントディスプレイ100が画像を表示する」ことには、ヘッドマウントディスプレイ100の使用者に対して虚像を視認させることも含む。
A−3.配置処理:
図5は、配置処理の手順を示すシーケンス図である。配置処理は、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とが並べて配置された一覧画像を生成し、生成された一覧画像をヘッドマウントディスプレイ100に表示させる処理である。配置処理は、主として生成部142により実行される。
ステップS100において、配置処理を行うためのアプリケーションが起動される。ステップS100のアプリケーションの起動は、入力情報取得部110が使用者による起動操作を検出したことをトリガーとしてもよく、他のアプリケーションからの起動命令の検出をトリガーとしてもよい。ステップS100のアプリケーションの起動によって、CPU140に対して、生成部142および通知部144の機能が実現される。
ステップS102において無線通信部132またはインターフェイス180は、スマートフォン300が接続されたことを検出する。なお、以降では、ヘッドマウントディスプレイ100とスマートフォン300とがIEEE802.11に準拠した無線LANを用いて通信する場合を例示する。ステップS104において生成部142は、無線通信部132を介して接続されているスマートフォン300の認証を行う。この認証は、種々の認証技術を利用して実施することが可能である。例えば、生成部142は、スマートフォン300のMAC(Media Access Control)アドレスを用いてスマートフォン300を認証してもよく、ユーザ名とパスワードを用いてスマートフォン300を認証してもよい。また、生成部142は、認証局が発行するディジタル証明書を用いてスマートフォン300を認証してもよく、使用者の身体的特徴(顔、指紋、声紋)を認識してスマートフォン300を認証してもよい。ステップS104における認証が成功した後、ステップS106において生成部142は、スマートフォン300との間でコネクションを確立する。
ステップS108においてスマートフォン300は、スマートフォン300の表示画像を取得する。具体的には、スマートフォン300は、スマートフォン300において再生中のコンテンツや、アプリケーションGUI(Graphical User Interface)等、スマートフォン300において表示されている画面を所定の規格に従ってレンダリングし、フレーム画像を取得する。ステップS108において取得されたフレーム画像は、スマートフォン300の表示画像であり、以降「第1の画像」とも呼ぶ。
ステップS110においてスマートフォン300は、取得した第1の画像をヘッドマウントディスプレイ100へ送信する。ヘッドマウントディスプレイ100の生成部142は、無線通信部132を介して第1の画像を取得する。このとき、生成部142と無線通信部132とは「取得部」として機能する。
ステップS112において生成部142は、ヘッドマウントディスプレイ100が有する画像として、ヘッドマウントディスプレイ100の表示画面に現在表示されている画像を取得する。具体的には、生成部142は、ステップS108と同様の方法用いて、フレーム画像を取得する。なお、生成部142は、画像処理部160またはビデオメモリーから直接フレーム画像を取得してもよい。ステップS112において取得されたフレーム画像は、ヘッドマウントディスプレイ100が有する画像であり、以降「第2の画像」とも呼ぶ。
ステップS114において生成部142は、第1の画像と第2の画像とを拡大、縮小する。具体的には、生成部142は、ステップS110で取得した第1の画像を、領域情報AI(図3)の第1の領域AR1の大きさに合うように、拡大または縮小する。同様に、生成部142は、ステップS112で取得した第2の画像を、領域情報AIの第2の領域AR2の大きさに合うように、拡大または縮小する。なお、生成部142は、第1の画像および第2の画像の縦横比をそれぞれ維持したまま、拡大または縮小することが好ましい。そうすれば、生成部142は、スマートフォン300の表示画像と、ヘッドマウントディスプレイ100が有する画像(表示画像)を忠実に再現した一覧画像を生成することができる。
ステップS116において生成部142は、第1の画像を領域情報AIの第1の領域AR1に配置し、第2の画像を領域情報AIの第2の領域AR2に配置して、一覧画像を生成する。この際、生成部142は、第1の画像と第2の画像との少なくとも一方に対して、以下のa1〜a5に例示するような加工を施してもよい。なお、加工a1〜a5は、単独で採用されてもよく、組み合わせて採用されてもよい。
(a1)生成部142は、第1、2の画像の形状を変更する。例えば、生成部142は、四角形状の第1、2の画像を、円形状や台形状に変更することができる。
(a2)生成部142は、第1、2の画像の透過率を変更する。第1、2の画像の透過率を変更すれば、虚像として表示されている一覧画像を視認した際に、使用者の視界が一覧画像によって妨げられることを抑制することができる。
(a3)生成部142は、第1、2の画像の色変換処理を施す。例えば、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。そして、生成部142は、第1、2の画像に対して外景画像の補色を強める、または、弱める色変換処理を施す。このようにすれば、生成部142は、第1、2の画像を外景と比して目立たせることができる。
(a4)生成部142は、第1、2の画像の大きさを変更する。例えば、生成部142は、第1、2の画像を、領域情報AIの第1、2の領域の大きさとは無関係に拡大または縮小する。
(a5)生成部142は、第1、2の画像に対して、文字、図形、記号等の装飾を付加する。例えば、生成部142は、第1、2の画像に対して、画像を説明するための文字を付加することができる。また、例えば、生成部142は、第1、2の画像に対して、画像の周囲を縁取る枠を追加することもできる。
このようにして、第1の画像と、第2の画像との一方に対して上記a1〜a5のような加工を施すこととすれば、一覧画像を視認した使用者は、一覧画像において、第1の画像と、第2の画像とを相互に識別しやすくなる。また、第1の画像と、第2の画像との両方に対して、異なる態様を用いて上記a1〜a5のような加工を施しても、同様に使用者における識別性を向上させることができる。
ステップS118において生成部142は、ヘッドマウントディスプレイ100に一覧画像を表示させる。具体的には、生成部142は、ステップS116で生成した一覧画像を、画像処理部160へ送信する。一覧画像を受信した画像処理部160では、上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、ヘッドマウントディスプレイ100の使用者は、視野に一覧画像の虚像を視認することができる。換言すれば、ヘッドマウントディスプレイ100は、一覧画像を表示することができる。
図6は、ヘッドマウントディスプレイ100において、一覧画像が表示されている様子を示す説明図である。図6に示すように、ヘッドマウントディスプレイ100の使用者は、視野VRにおいて、領域情報AI(図3)の第1の領域AR1に第1の画像IM1が配置され、第2の領域AR2に第2の画像IM2が配置された一覧画像を、虚像VIとして視認することができる。また、第2の画像IM2には、太枠BCを用いた装飾が付加されている。このため、使用者は、第1の画像と、第2の画像とを容易に識別することができる。
なお、動画像に対して図5の配置処理を適用する場合、上記ステップS108〜S118を繰り返し実行する。また、動画像を圧縮する規格が使用される場合は、ステップS108において、原画像やフレーム画像から変化した部分を表す差分画像(フレーム間差分)が送信されることがある。この場合、生成部142は、ステップS110とS112との間で、前回のフレーム画像と、取得したフレーム間差分とを用いてフレーム画像を合成する処理を行えばよい。
図7は、一覧画像におけるポインター画像の変化を説明するための説明図である。図7(A)は、第1の画像IM1に重畳されるポインター画像PO1を表している。図の例では、ポインター画像PO1は二重丸を表す図形である。図7(B)は、第2の画像IM2に重畳されるポインター画像PO2を表している。図の例では、ポインター画像PO2は円形に笑顔の描かれた図形である。上述したように、配置処理(図5)のステップS118において生成部142は、一覧画像をOS150経由で画像処理部160へ送信する。この際、OS150は、入力情報取得部110から取得した使用者の操作に応じて、一覧画像に対してポインター画像を重畳して描画する。生成部142は、OS150に対して、一覧画像の第1の画像IM1に重畳して描画されるポインター画像と、第2の画像IM2に重畳して描画されるポインター画像とを異なる画像とするように指示する。
この結果、図7(A)、(B)に示すように、画像表示部は、一覧画像の第1の画像IM1に重畳されるポインター画像PO1と、第2の画像IM2に重畳されるポインター画像PO2とを、異なる虚像VIとして使用者に視認させることができる。このようにすれば、ヘッドマウントディスプレイ100の使用者は、一覧画像において自身が操作しているのが、第1の画像IM1が表すスマートフォン300(外部装置)であるか、第2の画像IM2が表すヘッドマウントディスプレイ100(頭部装着型表示装置)であるかを識別しやすくなる。
なお、生成部142は、図7で説明した指示に変えて、または、図7で説明した指示と共に、ポインター画像PO1とPO2とのうちの少なくとも一方の形状を変更させる旨の指示をOS150へ送信することで、一覧画像の第1の画像IM1に重畳して描画されるポインター画像PO1と、第2の画像IM2に重畳して描画されるポインター画像PO2と、を異なる画像とさせてもよい。また、生成部142は、上述した「形状の変更」に代えて、透過率の変更、色変換処理の実施、大きさの変更、文字図形記号等の装飾の付加、等を指示してもよい。このようにすれば、ヘッドマウントディスプレイ100の使用者は、一覧画像に表示されるポインターPO1、2を識別しやすくなる。
以上のように、第1実施形態の配置処理によれば、画像表示部20は、ヘッドマウントディスプレイ100(頭部装着型表示装置)に接続されているスマートフォン300(外部装置)の表示画像である第1の画像と、ヘッドマウントディスプレイ100が有する画像である第2の画像とが含まれる一覧画像(図6)を表す虚像VIを形成し、使用者に視認させることができる。このため、ヘッドマウントディスプレイ100の表示画像とスマートフォン300の表示画像との両方を使用者に視認可能とするヘッドマウントディスプレイ100を提供することができる。
さらに、第1実施形態の配置処理によれば、生成部142は、領域情報AI(図3)に基づいて、第1の領域AR1に対してスマートフォン300(外部装置)から取得された第1の画像を配置し、第2の領域AR2に対してヘッドマウントディスプレイ100(頭部装着型表示装置)の第2の画像を配置することによって、簡便に、一覧画像を生成することができる。
さらに、第1実施形態の配置処理によれば、生成部142は、ヘッドマウントディスプレイ100(頭部装着型表示装置)が有する画像として、ヘッドマウントディスプレイ100の表示画面に現在表示されているフレーム画像(表示画像)を取得し、取得された表示画像をそのまま第2の画像として使用して、一覧画像を生成することができる。このため、生成部における配置処理の処理内容を簡潔にすることができる。
A−4.通知処理:
図8は、通知処理の手順を示すシーケンス図である。通知処理は、一覧画像のうちの第1、2の画像に対する操作が行われた場合、スマートフォン300またはヘッドマウントディスプレイ100に対して操作内容を通知する処理である。通知処理は、主として通知部144により実行される。なお、このとき通知部144は「第1の通知部」として機能する。
ステップS200において入力情報取得部110は、一覧画像に対する使用者の操作(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)を検出し、操作の座標(x、y)を取得する。この時、入力情報取得部110は「操作取得部」として機能する。
ステップS202において通知部144は、入力情報取得部110から座標(x、y)を受信し、以下の手順i、iiを実行する。
(i)受信した座標に基づいて、操作が行われた画像が第1の画像であるか、第2の画像であるかを特定する。
(ii)受信した座標に基づいて、配置処理(図5)のステップS114の拡大、縮小前の画像における座標を求める。
図9は、通知処理のステップS202について説明するための説明図である。図9(A)は、上記手順iについて説明するための説明図である。通知処理のステップS202において通知部144は、入力情報取得部110から座標CO1(x1、y1)を受信する。座標CO1は、一覧画像の左上端部の座標を(0、0)とした場合の、x方向の変化量と、y方向の変化量とを表す数値である。通知部144は、配置処理(図5)のステップS116における処理内容に基づき、座標CO1(x1、y1)が第1の画像IM1上に位置するか、第2の画像IM2上に位置するかを特定する。図9(A)の例では、座標CO1(x1、y1)は、第1の画像IM1、すなわち、スマートフォン300の表示画像上に位置している。
図9(B)は、上記手順iiについて説明するための説明図である。通知部144は、配置処理(図5)のステップS114で用いた拡大、縮小率を用いて、一覧画像に対して、ステップS114で行った変換とは逆の変換を施す。すなわち、ステップS114で縮小した場合は一覧画像を拡大し、ステップS114で拡大した場合は一覧画像を縮小する。その後、通知部144は、図9(A)で特定された画像(すなわち、第1の画像IM1または第2の画像IM2)の左上端部の座標を(0、0)とした場合の、座標CO1(x1、y1)と同じ位置に相当する座標CO2(x2、y2)を求める。
ステップS204において通知部144は、ステップS202で特定された画像が第2の画像、すなわち、ヘッドマウントディスプレイ100が有する画像(表示画像)であるか判定する。第2の画像である場合、通知部144は、OS150に対して、座標CO2(x2、y2)と、操作内容(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)を送信する。OS150では、受信した座標と操作内容に応じて、アプリケーションの起動等の処理が行われる。
ステップS206において通知部144は、ステップS202で特定された画像が第1の画像、すなわち、スマートフォン300の表示画像であるか判定する。第1の画像である場合、通知部144は、スマートフォン300に対して座標CO2(x2、y2)と、操作内容を送信する。スマートフォン300では、受信した座標と操作内容に応じて、アプリケーションの起動等の処理が行われる(ステップS208)。
以上のように、第1実施形態の通知処理によれば、通知部144(第1の通知部)は、一覧画像の第2の画像IM2(図9)に対する使用者の操作をOS150に通知するだけでなく、第1の画像IM1(図9)に対する使用者の操作をスマートフォン300(外部装置)に対して通知することができる。このため、使用者は、ヘッドマウントディスプレイ100(頭部装着型表示装置)の入力インターフェイスを介してヘッドマウントディスプレイ100を操作するだけでなく、ヘッドマウントディスプレイ100(頭部装着型表示装置)の入力インターフェイスを介してスマートフォン300をも遠隔操作することができる。この結果、利用者は、例えば、ヘッドマウントディスプレイ100に接続されている外部装置(本実施形態ではスマートフォン300)をカバンやポケットに入れたまま、当該外部装置を操作することが可能となり、ヘッドマウントディスプレイ100におけるユーザビリティーを向上させることができる。
B.第2実施形態:
本発明の第2実施形態では、「頭部装着型表示装置が有する画像」として、アイコン画像から生成された第2の画像を用いる構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.画像表示システムの構成:
第2実施形態における画像表示システムの概略構成は、図1に示す第1実施形態と同様である。
B−2.頭部装着型表示装置の構成:
図10は、第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、制御部10に代えて制御部10aを備える点である。制御部10aは、生成部142に代えて生成部142aを備え、通知部144に代えて通知部144aを備え、記憶部120に代えて記憶部120aを備える。
生成部142aは、配置処理の処理内容が図5で説明した第1実施形態と異なる。通知部144aは、通知処理の処理内容が図8で説明した第1実施形態と異なる。記憶部120aは、領域情報記憶部122に加えて、さらにフレーム情報124を備える。フレーム情報124には、少なくとも1つのフレームが記憶されている。フレーム情報124に記憶されているフレームは、第2実施形態の配置処理(図12)において、第2の画像(すなわち、ヘッドマウントディスプレイ100aが有するアイコン画像の配置を変更して生成される画像)を生成する際に、アイコン画像を配置するための枠として使用される。
本実施形態において、「アイコン画像」とは、プログラムやデバイスの内容を図、絵、文字、記号等を用いて分かり易く表現した画像を意味する。本実施形態の「アイコン画像」は、ヘッドマウントディスプレイ100aにインストールされているアプリケーションの起動用の画像を意味する。なお、「アイコン画像」には、このほか、ヘッドマウントディスプレイ100aにインストールされているアプリケーション(いわゆるウィジェットやガジェット)によって描画されている画像や、ヘッドマウントディスプレイ100aに記憶されているデーター(各種のファイル)の起動用の画像、ヘッドマウントディスプレイ100aに含まれるデバイスの存在を表す画像等を含んでもよい。を含んでもよい。アイコン画像は、換言すれば、アプリケーション(プログラム)やデーターやデバイスを抽象化したシンボルとも言える。
図11は、フレーム情報124に記憶されているフレームの一例を示す説明図である。図11に示すフレームFM1は、長方形状の領域(以降、「フレームFM1の領域」とも呼ぶ。)の内側に、画像リストLT1と、画像リストLT2と、これらを区切るための区切り線BAとが配置された構成を有する。フレームFM1の領域は、領域情報AIの第2の領域AR2と同じ縦横比を有することが好ましい。
画像リストLT1、LT2は、第2実施形態の配置処理において、アイコン画像が実際に配置される領域である。図3の例では、画像リストLT1、LT2は、フレームFM1の領域の下端の全体にわたって2段に配置されている。なお、画像リストLT1、LT2は、フレームFM1の任意の場所に配置することができる。例えば、画像リストLT1、LT2は、フレームFM1の領域の下端の一部に配置されてもよく、フレームFM1の領域の上端の一部または全体に配置されてもよく、フレームFM1の領域の右端の一部または全体に配置されてもよく、フレームFM1の領域の左端の一部または全体に配置されてもよく、フレームFM1の全ての領域に配置されてもよい。
画像リストLT1は、複数(図の例では5個)長方形状の画像枠B1〜B5を含んでいる。画像枠B1〜B5は、画像リストLT1内において、長方形状の長辺が互いに隣接するように配置されている。画像リストLT2は、複数の長方形状の画像枠B6〜B10を含んでいる。画像枠B6〜B10は、画像リストLT2内において、長方形状の長辺が互いに隣接するように配置されている。画像枠B1〜B10は、第2実施形態の配置処理(図12)において、ヘッドマウントディスプレイ100aが有するアイコン画像を配置するための領域である。
B−3.配置処理:
図12は、第2実施形態における配置処理の手順を示すシーケンス図である。図5に示した第1実施形態との違いは、ステップS112に代えてステップS300とステップS302とを備える点のみであり、他の処理内容は第1実施形態と同じである。
ステップS300において生成部142aは、ヘッドマウントディスプレイ100aが有するアイコン画像を収集する。具体的には、生成部142aは、記憶部120の所定の領域に記憶されている複数のアイコン画像のうち、ヘッドマウントディスプレイ100aの待ち受け画面に表示されるべき複数のアイコン画像を収集する。アイコン画像の一例としては、例えば、カメラやスピーカー等の各種デバイス、SNSサービス、メールサービス等の各種サービスの起動用アイコンがある。
ステップS302において生成部142aは、ステップS300で収集した複数のアイコン画像の配置を変更することで、第2の画像を生成する。具体的には、生成部142aは、フレーム情報124に記憶されているフレームFM1(図11)を取得する。生成部142aは、フレームFM1の画像リストLT1の画像枠B1〜B5と、画像リストLT2の画像枠B6〜B10に対して、取得した複数のアイコン画像を順次配置する。
なお、生成部142aは、ステップS300とS302との間に、以下のような処理b1〜bを行ってもよい。
(b1)アイコン画像のフィルタリング処理。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いて重複したアイコン画像を求めて、重複したアイコン画像の一方を破棄してもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像が表すアプリケーションを特定し、所定のアプリケーションに関するアイコン画像を破棄してもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像に付随する情報を参照して、アイコン画像が表すアプリケーションの使用頻度を求めて、使用頻度が低いアイコン画像を破棄してもよい。
(b2)アイコン画像のグルーピングおよびソート処理。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像の種類(アプリケーション起動用の画像か、アプリケーションによって描画されている画像か、データー起動用の画像か)を特定し、特定したアイコン画像の種類に応じてアイコン画像をグルーピングまたはソートしてもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像が表すアプリケーションの種類や名前を特定し、特定したアプリケーションの種類や名前に応じてアイコン画像をグルーピングまたはソートしてもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像に付随する情報を参照して、アイコン画像が表すアプリケーションの使用頻度を求めて、使用頻度に応じてアイコン画像をグルーピングまたはソートしてもよい。
(b3)アイコン画像の加工処理。
・例えば、生成部142aは、アイコン画像の形状、透過率、大きさを任意に変更してもよい。
・例えば、生成部142aは、アイコン画像に対して色変換処理を施してもよい。この場合、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。そして、生成部142aは、アイコン画像に対して外景画像の補色を強める色変換処理を施す。このようにすれば、生成部142aは、アイコン画像を外景と比して目立たせることができる。
・例えば、生成部142aは、アイコン画像に文字、図形、記号等の装飾を付加する。具体的には、生成部142aは、アイコン画像に対して、アイコン画像を説明するための文字を追加することができる。このようにすれば、虚像として表示されている第2の画像を視認した際に、使用者は、第2の画像に含まれる各アイコン画像が何であるかを識別しやすくなる。また、生成部142aは、アイコン画像に対して、アイコン画像の周囲を縁取る枠を追加することもできる。このようにすれば、生成部142aは、アイコン画像を外景と比して目立たせることができる。
図13は、ヘッドマウントディスプレイ100aにおいて、一覧画像が表示されている様子を示す説明図である。図12に示すように、第2実施形態のヘッドマウントディスプレイ100aの使用者は、視野VRにおいて、領域情報AI(図3)の第1の領域AR1に第1の画像IM1が配置されると共に、第2の領域AR2には、ヘッドマウントディスプレイ100aのアイコン画像を用いて生成された第2の画像IM2が配置された一覧画像を、虚像VIとして視認することができる。
なお、動画像に対して図12の配置処理を適用する場合、第1実施形態と同様に、上記ステップS108〜S118を繰り返し実行する。また、一覧画像におけるポインター画像の変化についても、第1実施形態と同様である。
以上のように、第2実施形態の配置処理によれば、生成部142aは、ヘッドマウントディスプレイ100(頭部装着型表示装置)が有するアイコン画像の配置を変更することで、フレームFM1に従って縦横比を自在に変化させた第2の画像IM2を生成し、生成した第2の画像IM2を用いて一覧画像を生成することができる。この結果、生成部142aは、領域情報AI(図3)の第2の領域AR2の大きさに応じて、最適な第2の画像を生成し、画像表示部20に表示させることができる。
B−4.通知処理:
第2実施形態における通知処理は、図8で説明した第1実施形態とほぼ同様である。ただし、ステップS202の手順iにおいて特定された画像が第2の画像である場合、上記手順iiは以下のiiiに読み替える。
(iii)通知部144aは、配置処理(図12)のステップS302における処理内容(すなわち、アイコン画像の配置)に基づいて、入力情報取得部110から取得された座標CO1(x1、y1)に相当する座標CO2(x2、y2)を求める。
C.第3実施形態:
本発明の第3実施形態では、一のヘッドマウントディスプレイに対して、外部装置として複数の他のヘッドマウントディスプレイが接続されると共に、一のヘッドマウントディスプレイにおけるポインターの表示を外部装置と共有する構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
C−1.画像表示システムの構成:
図14は、第3実施形態における画像表示システム1000bの概略構成を示す説明図である。図1に示した第1実施形態との違いは、ヘッドマウントディスプレイ100に代えてヘッドマウントディスプレイ100bを備える点と、スマートフォン300に代えてヘッドマウントディスプレイ100xおよびヘッドマウントディスプレイ100yを備える点である。
ヘッドマウントディスプレイ100bと、100xとは、無線通信または有線通信可能に接続されている。同様に、ヘッドマウントディスプレイ100bと、100yとは、無線通信または有線通信可能に接続されている。ヘッドマウントディスプレイ100xと、100yとの構成は、ヘッドマウントディスプレイ100bと同様であるため、説明を省略する。
C−2.頭部装着型表示装置の構成:
図15は、第3実施形態におけるヘッドマウントディスプレイ100bの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、制御部10に代えて制御部10bを備える点と、画像表示部20に代えて画像表示部20bを備える点である。
制御部10bは、生成部142に代えて生成部142bを備え、通知部144に代えて通知部144bを備えている。生成部142bは、配置処理の処理内容が図5で説明した第1実施形態と異なる。通知部144bは、通知処理の処理内容が図8で説明した第1実施形態と異なる。また、通知部144bは、後述のポインター通知処理を実行する。
画像表示部20bは、第1実施形態で説明した各部に加えてさらに、視線検出部62を備えている。視線検出部62は、使用者が画像表示部20bを装着した際の右側の目じりに対応する位置に配置されている(図14)。視線検出部62は、可視光カメラを備えている。視線検出部62は、可視光カメラを用いてヘッドマウントディスプレイ100bを装着した状態における使用者の左右の眼を撮像し、得られた眼の画像を解析することによって使用者の視線の方向を検出する。なお、視線検出部62は、可視光カメラに代えて赤外線センサーを用いて、使用者の視線の方向を検出してもよい。
図16は、第3実施形態において、領域情報記憶部122に記憶されている領域情報の一例を示す説明図である。図3に示した第1実施形態との違いは、長方形状の領域AIbが、第1の領域AR1と、第2の領域AR2とに加えて、第3の領域AR3を備える点、および、各領域の配置である。第1の領域AR1は、配置処理(図17)においてヘッドマウントディスプレイ100xの表示画像が配置される領域である。第2の領域AR2は、配置処理においてヘッドマウントディスプレイ100bの表示画像が配置される領域である。第3の領域AR3は、配置処理においてヘッドマウントディスプレイ100yの表示画像が配置される領域である。
第2の領域AR1は、領域AIbの全面に亘って配置されている。第1の領域AR2と、第3の領域AR3とは、領域AIbを水平方向に等分した左右それぞれの略中央部に配置されている。第1、3の領域AR1、AR3の鉛直方向における長さは、第2の領域AR2の鉛直方向における長さよりも短い。第1、3の領域AR1、AR3の水平方向における長さは、第2の領域AR2の水平方向における長さを2で除したものよりも短い。また、第1、3の領域AR1、AR3は、第2の領域AR2の上にレイヤーとして重畳されている。
C−3.配置処理:
図17は、第3実施形態における配置処理の手順を示すシーケンス図である。図5に示した第1実施形態との違いは、ステップS102〜S116に代えて、ステップS402〜S420を備える点である。
ステップS402において、ヘッドマウントディスプレイ100bの無線通信部132は、ヘッドマウントディスプレイ100xが接続されたことを検出し、ヘッドマウントディスプレイ100yが接続されたことを検出する。詳細は図5のステップS102と同様である。ステップS404においてヘッドマウントディスプレイ100bの生成部142bは、接続されているヘッドマウントディスプレイ100xの認証を実施し、ヘッドマウントディスプレイ100yの認証を実施する。詳細は図5のステップS104と同様である。認証成功後、ステップS406において生成部142bは、ヘッドマウントディスプレイ100bと100xとの間にコネクションを確立し、ヘッドマウントディスプレイ100bと100yとの間にコネクションを確立する。
ステップS408においてヘッドマウントディスプレイ100xは、ヘッドマウントディスプレイ100xの表示画像を取得する。詳細は図5のステップS108と同様である。ステップS408において取得されたフレーム画像は、外部装置としてのヘッドマウントディスプレイ100xの表示画像であり、以降「第1の画像」とも呼ぶ。ステップS410においてヘッドマウントディスプレイ100xは、取得した第1の画像をヘッドマウントディスプレイ100bへ送信する。詳細は図5のステップS110と同様である。
ステップS412においてヘッドマウントディスプレイ100yは、ヘッドマウントディスプレイ100yの表示画像を取得する。詳細は図5のステップS108と同様である。ステップS412において取得されたフレーム画像は、外部装置としてのヘッドマウントディスプレイ100yの表示画像であり、以降「第3の画像」とも呼ぶ。ステップS414においてヘッドマウントディスプレイ100yは、取得した第3の画像をヘッドマウントディスプレイ100bへ送信する。詳細は図5のステップS110と同様である。
ステップS416においてヘッドマウントディスプレイ100bの生成部142bは、ヘッドマウントディスプレイ100bの表示画面に現在表示されている画像を取得する。詳細は図5のステップS112と同様である。
ステップS418において生成部142bは、第1の画像と、第2の画像と、第3の画像と、を拡大縮小する。具体的には、生成部142bは、ステップS410で取得した第1の画像を、領域情報AIb(図16)の第1の領域AR1の大きさに合うように、拡大または縮小する。同様に、生成部142bは、ステップS416で取得した第2の画像を、領域情報AIbの第2の領域AR2の大きさに合うように拡大または縮小し、ステップS414で取得した第3の画像を、領域情報AIbの第3の領域AR3の大きさに合うように拡大または縮小する。なお、ステップS418において生成部142bは、拡大縮小に代えて、取得した第1〜3の画像IM1〜3の一部を、第1〜3の領域AR1〜3に合う大きさに切り出してもよい。
ステップS420において生成部142bは、第1の画像を領域情報AIbの第1の領域AR1に配置し、第2の画像を領域情報AIbの第2の領域AR2に配置し、第3の画像を領域情報AIbの第3の領域AR3に配置して、一覧画像を生成する。詳細は図5のステップS116と同様である。
図18は、ヘッドマウントディスプレイ100bにおいて、一覧画像が表示されている様子を示す説明図である。図18では、図示の便宜上、使用者が左右の光学像表示部26、28を透過して視認する外景SC(図4)については、図示を省略している。図示のように、ヘッドマウントディスプレイ100bの使用者は、視野VRにおいて、領域情報AIb(図16)の第1の領域AR1に第1の画像IM1が配置され、第2の領域AR2に第2の画像IM2が配置され、第3の領域AR3に第3の画像IM3が配置された一覧画像を、虚像VIとして視認することができる。なお、図の例では、第1の画像IM1は、ヘッドマウントディスプレイ100bのOSの待ち受け画面の画像、第2の画像IM2は、ヘッドマウントディスプレイ100xのOSの待ち受け画面の画像、第3の画像IM3は、ヘッドマウントディスプレイ100yのカメラによって撮影された画像である。
なお、第3実施形態の配置処理(図17)においても、第1実施形態と同様に、以下のような変形が可能である。各変形の詳細は、第1実施形態で説明した通りである。
・第1〜3の画像IM1〜3に異なる装飾(枠等)を付与する。
・動画像に対して第3実施形態の配置処理を適用する。
・第1〜3の画像IM1〜3に重畳されるポインター画像を、それぞれ異なる画像とする。
以上のように、第3実施形態の配置処理によれば、外部装置として複数の装置が接続された場合であっても、第1実施形態の配置処理と同様の効果を得ることができる。
C−4.通知処理:
第3実施形態において、通知部144bは、ポインター通知処理と、通知処理と、を並列して実行する。ここで、ポインター通知処理は、一のヘッドマウントディスプレイにおけるポインターの表示を、外部装置と共有するための処理である。通知処理は、一覧画像に対する操作が行われた場合に、画像の取得元である装置に対して操作内容を通知する処理である。
C−4−1.ポインター通知処理:
図19は、第3実施形態におけるポインター通知処理の手順を示すシーケンス図である。ポインター通知処理は、主として通知部144bにより実行される。なお、このとき通知部144bは「第2の通知部」として機能する。本実施形態では、一のヘッドマウントディスプレイとしてヘッドマウントディスプレイ100bを、外部装置としてヘッドマウントディスプレイ100x、100yを例示する。
ステップS500において、ヘッドマウントディスプレイ100bの入力情報取得部110は、ヘッドマウントディスプレイ100bの入力デバイスを介して与えられる指示体の動きを検出し、入力デバイス上における指示体の座標(x、y)を取得する。ここで「指示体」とは、例えば、使用者の指やタッチペンである。また、入力デバイスとは、例えば、タッチパッド、十字キー、フットスイッチ等である。この時、入力情報取得部110は「位置取得部」として機能する。ステップS502において、ヘッドマウントディスプレイ100bの通知部144bは、入力情報取得部110から指示体の座標を受信し、受信した指示体の座標をOS150へ送信する。OS150では、一覧画像のうち、受信した指示体の座標の位置にポインター画像を重畳させて描画する描画処理が実行される。
図20は、ヘッドマウントディスプレイ100bにおいて、一覧画像にポインター画像が重畳されて表示されている様子を示す説明図である。図20においても、図18と同様に、外景SC(図4)については図示を省略している。図示のように、ヘッドマウントディスプレイ100bの使用者は、視野VRにおいて、第1〜3の画像IM1〜3に対して、自身の指の動きに対応した位置にポインター画像PO1が重畳された画像を、虚像VIとして視認することができる。図の例では、ポインター画像PO1は二重丸を表す図形である。
図19のステップS504において、ヘッドマウントディスプレイ100bの通知部144bは、ステップS502で取得した指示体の座標が第1の画像上に位置する場合に、第1の画像の取得元である外部装置、すなわち、ヘッドマウントディスプレイ100xに対して、指示体の座標を送信する。なお、指示体の座標が第1の画像上に位置するか否かの判定方法は、図8のステップS202の手順iと同様である。また、図19のステップS504において、通知部144bは、図8のステップS202の手順iiに準じた変換後の座標CO2(x2、y2)を送信する。ステップS506において、ヘッドマウントディスプレイ100xのOSは、ステップS504で受信した指示体の座標の位置にポインター画像を重畳させて描画する描画処理を実行する。
図21は、外部装置としてのヘッドマウントディスプレイ100xにおいて、一覧画像にポインター画像が重畳されて表示されている様子を示す説明図である。図21においても、図18と同様に、外景SC(図4)については図示を省略している。図示のように、ヘッドマウントディスプレイ100xの使用者は、視野VRにおいて、ヘッドマウントディスプレイ100xの表示画面に現在表示されている画像IMxに対して、ヘッドマウントディスプレイ100bの使用者の指の動きに対応した位置にポインター画像PO2が重畳された画像を、虚像VIとして視認することができる。図の例では、ポインター画像PO2は円形に笑顔の描かれた図形である。
図19のステップS508において、ヘッドマウントディスプレイ100bの通知部144bは、ステップS502で取得した指示体の座標が第3の画像上に位置する場合に、第3の画像の取得元である外部装置、すなわち、ヘッドマウントディスプレイ100yに対して、指示体の座標を送信する。詳細はステップS504と同様である。ステップS510において、ヘッドマウントディスプレイ100yのOSは、ステップS508で受信した指示体の座標の位置にポインター画像を重畳させて描画する描画処理を実行する。この結果、図21と同様に、ヘッドマウントディスプレイ100yの使用者は、ヘッドマウントディスプレイ100yの表示画面に現在表示されている画像に対して、ヘッドマウントディスプレイ100bの使用者の指の動きに対応した位置にポインター画像が重畳された画像を虚像として視認することができる。
なお、ポインター通知処理では「指示体の動き」に代えて、または、「指示体の動き」と共に、使用者の「視線の動き」に基づくポインターを表示させてもよい。「視線の動き」を用いる場合、ステップS500においてヘッドマウントディスプレイ100bの視線検出部62は、使用者の視線の動きを取得し、通知部144bへ送信する。それ以降のステップにおいては、「指示体の動き」と記載した部分を「使用者の視線の動き」に読み替えればよい。なお、指示体の動きと視線の動きとの両方に基づくポインターを表示させる場合、指示体の動きと視線の動きの両方を検出した場合に、どちらを優先させるかが予め設定されていることが好ましい。このようにすれば、ヘッドマウントディスプレイ100b(頭部装着型表示装置)のOS150は、ヘッドマウントディスプレイ100bの入力デバイスにおける指示体の動きと、使用者の視線の動きと、のうちの少なくともいずれか一方に基づいて、ポインター画像PO1の位置を決定することができる。
以上のように、第3実施形態のポインター通知処理によれば、通知部144b(第2の通知部)は、ポインター画像PO1が一覧画像のうちの第1の画像IM1に重畳されている場合に、ヘッドマウントディスプレイ100x(外部装置)の表示画像IMxにおいて、ポインター画像PO1が重畳されている位置に対応する位置に外部装置用のポインター画像PO2を重畳させるための座標CO2(位置情報)を、ヘッドマウントディスプレイ100xに対して通知する。このため、ヘッドマウントディスプレイ100xは、取得した座標CO2に基づいて外部装置用のポインター画像PO2を表示することができる。この結果、ヘッドマウントディスプレイ100xの使用者は、ヘッドマウントディスプレイ100b(頭部装着型表示装置)の第1の画像IM1上におけるポインター画像PO1を、ヘッドマウントディスプレイ100xにおいて視認することが可能となる(図21)。換言すれば、ヘッドマウントディスプレイ100bにおけるポインターの表示を、外部装置としてのヘッドマウントディスプレイ100xと共有することができる。
C−4−2.通知処理:
図22は、第3実施形態における通知処理の手順を示すシーケンス図である。図8に示した第1実施形態との違いは、ステップS206、S208に代えて、ステップS600〜S606を備える点である。なお、このとき通知部144bは「第1の通知部」として機能する。
ステップS600において通知部144bは、ステップS202で特定された画像が第1の画像、すなわち、ヘッドマウントディスプレイ100xの表示画像であるか判定する。第1の画像である場合、通知部144bは、ヘッドマウントディスプレイ100xに対して、ステップS202の手順iiに準じた変換後の座標CO2(x2、y2)と、操作内容とを送信する。ヘッドマウントディスプレイ100xでは、受信した座標と操作内容に応じて、アプリケーションの起動や、起動中のアプリケーションに対する操作等の処理が行われる(ステップS602)。
ステップS604において通知部144bは、ステップS202で特定された画像が第3の画像、すなわち、ヘッドマウントディスプレイ100yの表示画像であるか判定する。第3の画像である場合、通知部144bは、ヘッドマウントディスプレイ100yに対して、ステップS202の手順iiに準じた変換後の座標CO2(x2、y2)と、操作内容とを送信する。ヘッドマウントディスプレイ100yでは、受信した座標と操作内容に応じて、アプリケーションの起動や、起動中のアプリケーションに対する操作等の処理が行われる(ステップS606)。
図23は、第3実施形態における通知処理のステップS600〜S606について説明するための説明図である。図23は、ヘッドマウントディスプレイ100bにおいて、一覧画像が表示されている様子を示している。
例えば、ヘッドマウントディスプレイ100bの使用者が、画像IM1として表示されている文書アプリケーション上において、何らかの操作(例えば、文字入力や文字削除等の編集操作、文書の承認操作、保存操作等)を実施する。このとき、通知処理(図22)のステップS600が実行されることにより、操作の座標と操作内容とがヘッドマウントディスプレイ100xに送信される。そして、通知処理のステップS602が実行されることにより、ヘッドマウントディスプレイ100xの文書アプリケーション上においても、ヘッドマウントディスプレイ100bの利用者の操作内容が反映される。
また、例えば、ヘッドマウントディスプレイ100bの使用者が、画像IM3として表示されているカメラアプリケーション上において、何らかの操作(例えば、ズームイン/アウト操作、シャッター押下操作、設定操作等)を実施する。この場合も同様に、通知処理のステップS604、S606が実行されることにより、ヘッドマウントディスプレイ100yのカメラアプリケーション上において、ヘッドマウントディスプレイ100bの利用者の操作内容が反映される。
以上のように、第3実施形態の通知処理によれば、外部装置として複数の装置が接続された場合であっても、第1実施形態の通知処理と同様の効果を得ることができる。
D.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、画像表示システムの構成について例示した。しかし、画像表示システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、画像表示システムを構成する各装置の追加・削除・変換等を行うことができる。また、画像表示システムを構成する装置のネットワーク構成の変更を行うことができる。
例えば、ヘッドマウントディスプレイには、複数の外部装置(例えば、スマートフォンとPDA)が接続されてもよい。この場合、第1、2実施形態と同様にして、生成部は、第1の外部装置の表示画像と、第2の外部装置の表示画像と、第m(mは3以上の整数)の外部装置の表示画像と、の全てが並べて配置された一覧画像を生成してもよい。このようにすれば、画像表示部は、ヘッドマウントディスプレイが有する画像と、ヘッドマウントディスプレイに接続されている複数の外部装置の表示画像と、が並べて配置された一覧画像を虚像として使用者に視認させることができる。このため、ヘッドマウントディスプレイにおける使用者の利便性をより一層向上させることができる。
例えば、上記実施形態におけるスマートフォンの代わりに、インターネットINTを介したクラウドサーバーが使用されてもよい。また、ヘッドマウントディスプレイに複数の外部装置が接続される場合において、外部装置のうちの少なくとも1つとして、インターネットINTを介したクラウドサーバーが使用されてもよい。この場合であっても、生成部は、上記第1、2実施形態と同様の処理を行うことにより、上記第1実施形態および第2実施形態と同様の効果を得ることができる。
例えば、上記実施形態のヘッドマウントディスプレイの生成部の機能は、ヘッドマウントディスプレイとは異なる情報処理装置によって提供されてもよい。情報処理装置として、例えば、インターネットINTを介したクラウドサーバーが使用されてもよい。この場合、情報処理装置は、ヘッドマウントディスプレイ(頭部装着型表示装置)に接続されている外部装置の表示画像である第1の画像と、ヘッドマウントディスプレイが有する第2の画像と、を取得する取得部と、取得された第1の画像と、取得された第2の画像と、を含む一覧画像を生成する一覧画像生成部と、生成された一覧画像をヘッドマウントディスプレイへ送信する一覧画像送信部と、を備える。一覧画像生成部は、上記実施形態で説明したヘッドマウントディスプレイの生成部と同様の処理を行うことで、ヘッドマウントディスプレイへ送信する一覧画像を生成する。
・変形例2:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態における制御部と、画像表示部とに対する構成要素の割り振りはあくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより接続部(コード)を廃した態様。(vi)制御部からタッチパッドを廃し、画像表示部にタッチパッドを設けた態様。
上記実施形態では、説明の便宜上、制御部が送信部を備え、画像表示部が受信部を備えるものとした。しかし、上記実施形態の送信部および受信部は、いずれも、双方向通信が可能な機能を備えており、送受信部として機能することができる。また、例えば、図5に示した制御部は、有線の信号伝送路を介して画像表示部と接続されているものとした。しかし、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth等の無線の信号伝送路を介した接続により接続されていてもよい。
例えば、図2に示した制御部、画像表示部の構成は任意に変更することができる。具体的には、例えば、制御部は、上述した各種の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー検出、視線検出、マイクロホン)のほか、種々の入力デバイス(例えば、操作用スティック、キーボード、マウス等)を備えることができる。また、上記実施形態では、電源として二次電池を用いることしたが、電源としては二次電池に限らず、種々の電池を使用することができる。例えば、一次電池や、燃料電池、太陽電池、熱電池等を使用してもよい。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、例えば、帽子のように装着するタイプの画像表示部等、他の形状の画像表示部を採用したヘッドマウントディスプレイとしてもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。さらに、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。そのほか、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
図24は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図24(A)の例では、画像表示部20cが、右光学像表示部26に代えて右光学像表示部26cを備え、左光学像表示部28に代えて左光学像表示部28cを備えている。右光学像表示部26cおよび左光学像表示部28cは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め上に配置されている。図24(B)の例では、画像表示部20dが、右光学像表示部26に代えて右光学像表示部26dを備え、左光学像表示部28に代えて左光学像表示部28dを備えている。右光学像表示部26dおよび左光学像表示部28dは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。なお、図24のような構成とした場合においても、使用者における視認性を向上させつつヘッドマウントディスプレイに適した態様となるように、一覧画像における第1の画像と第2の画像の配置を適宜調整することができる。この場合、上記実施形態に例示した配置の例には限られない。
例えば、上記実施形態では、表示駆動部は、バックライトと、バックライト制御部と、LCDと、LCD制御部と、投写光学系を用いて構成されるものとした。しかし、上記の態様はあくまで例示である。表示駆動部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、表示駆動部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部と、投写光学系とを備える構成としても良い。また、例えば、表示駆動部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
例えば、生成部、通知部、画像処理部、表示制御部、音声処理部等の各機能部は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能部は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて構成されてもよい。
・変形例3:
上記実施形態では、配置処理の一例を示した。しかし、配置処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、生成部は、領域情報を使用せずに一覧画像を生成してもよい。具体的には、ステップS116において生成部は、領域情報に代えて、予め定められた座標位置に第1の画像と、第2の画像とを配置することで一覧画像を生成してもよい。他の例として、ステップS116において生成部は、取得した第1の画像および第2の画像の大きさから動的に計算した座標位置に第1の画像と、第2の画像とを配置することで一覧画像を生成してもよい。このようにすれば、領域情報を必要とせずに一覧画像を生成することができる。
例えば、ステップS114における第1、2の画像の拡大、縮小の処理は省略してもよい。また、例えば、ステップS104のスマートフォンの認証と、S106のコネクションの確立と、はいずれか一方を省略してもよく、実行順序を入れ替えてもよい。
例えば、上記実施形態で説明した一覧画像は、2次元的に表現された画像を想定した。しかし、画像処理部は、右眼用画像データーと左眼用画像データーとを異なるデーターとすることで、一覧画像を3次元的に表現してもよい。
例えば、生成部は、一覧画像の第1、2の画像に重畳して描画されるポインター画像をそれぞれ異なる画像にするとした。しかし、生成部は、一覧画像の第1の領域に重畳して描画されるポインター画像と、第2の領域に重畳して描画されるポインター画像とを、それぞれ異なる画像とするように、OSに指示してもよい。
例えば、一覧画像の第1の画像に重畳して描画されるポインター画像と、第2の画像に重畳して描画されるポインター画像としては、同一の形状で、色や装飾に変化を持たせた画像を用いてもよい。
例えば、一覧画像の第1の画像に重畳して描画されるポインター画像と、第2の画像に重畳して描画されるポインター画像と、を異なる画像とすることに代えて、他の方法を用いて、使用者が操作している画像を視認可能な構成とすることもできる。具体的には、使用者の操作している一方の画像の透過率を下げ、他方の画像の透過率を上げてもよい。また、使用者の操作している一方の画像に対して、外景と比して画像を強調するような色変換処理を施し、他方の画像に対して、外景と画像を同化させるような色変換処理を施してもよい。また、使用者の操作している一方の画像に装飾を施し、他方の画像は未装飾のままとしてもよい。このように、第1の画像と第2の画像の透過率や、色や、装飾の有無を用いて、使用者が操作している画像を視認可能な構成とすることもできる。
例えば、上記第2実施形態において、生成部は、フレームを使用せずに第2の画像を生成してもよい。具体的には、生成部は、予め定められた座標位置にアイコン画像を配置することで第2の画像を生成してもよい。他の例として、生成部は、取得したアイコン画像の大きさから動的に計算した座標位置にアイコン画像を配置することで第2の画像を生成してもよい。このようにすれば、フレーム情報を必要とせずに第2の画像を生成することができる。
例えば、上記第2実施形態において、生成部は、使用者の視線方向を避けるように、動的に第2の画像を生成してもよい。具体的には、上記ヘッドマウントディスプレイにおいて、使用者の眼を撮像するカメラや赤外線センサー等、使用者の視線方向を検出する構成(「視線方向検出部」とも呼ぶ。)を追加する。生成部は、フレーム備える複数の画像リストのうち、検出された視線方向に遠い画像リストを優先的に選択し、アイコン画像の配置を行うこともできる。このようにすれば、第2の画像において、使用者の視線方向を避けた動的なアイコン画像の配置が可能となる。
・変形例4:
上記実施形態では、通知処理の一例を示した。しかし、通知処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
・変形例5:
上記実施形態(図3)では、領域情報記憶部に記憶されている領域情報の例を示した。しかし、上記領域情報の詳細はあくまで一例であり、種々の変更が可能である。例えば、構成要素の追加、削除、変更を行うことができる。
例えば、領域情報記憶部には、複数の領域情報が記憶されていてもよい。また、ヘッドマウントディスプレイの使用者の好み(設定)、使用者の視線の動き、使用者の頭の動き、周囲の明るさ等、任意の条件によって、一覧画像を生成する際に使用されるフレームが選択されてもよい。
・変形例6:
上記第2実施形態(図11)では、フレーム情報に記憶されているフレームの例を示した。しかし、上記フレームの詳細はあくまで一例であり、種々の変更が可能である。例えば、構成要素の追加、削除、変更を行うことができる。
例えば、フレーム情報には、複数のフレームが記憶されていてもよい。また、ヘッドマウントディスプレイの使用者の好み(設定)、使用者の視線の動き、使用者の頭の動き、周囲の明るさ等、任意の条件によって、第2の画像を生成する際に使用されるフレームが選択されてもよい。
例えば、フレームは、2つの画像リストLT1、LT2を有するものとした。しかし、フレームが有する画像リストは1つでもよいし、3つ以上でもよい。また、画像リスト内の画像枠の形状、大きさ、個数は任意に定めることができる。さらに、フレームの領域の大きさ(縦横比)は、領域情報の第2の領域と同じ大きさ(縦横比)でなくともよい。
・変形例7:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。