本発明は、あるシーンの立体パノラマ画像を生成し、1人または複数の閲覧者がそのパノラマ画像を立体的に閲覧できるようにその閲覧者(複数も可)に対して画像を表示するためのシステムおよび方法を提供する。本発明のシステムおよび方法について説明する前に、立体パノラマ画像がどういうものであるかと、ここに記載する様々なシステムおよび方法が一般にどのように立体パノラマ画像を生成し、その表示を容易にするかを説明すると有用であると思われる。これについては、図1Aおよび図1Bに関連して行う。まず図1Aを参照すると、同図は、垂直に立ち、あるシーンの点Pを観察している観察者、特に、ドット2Lおよび2R(一般に参照番号「2L/R」によって識別される)によって表される目の概略を示している。観察者は、点Pから反射され、破線矢印3Lおよび3Rによって表されるそれぞれの光線に沿って目2Lおよび2Rに向けられた光線により、点Pを見る。ただし、光線3Lおよび3Rは平行ではないので、観察者は点Pおよびその付近のそのシーンの領域に関する奥行を観察できるようになることが分かるだろう。
通常、観察者は、自分の周りの360Eパノラマの小さい部分しか見ることができない。パノラマのより多くの部分を見るためには、観察者は、たとえば、参照番号4によって識別される矢印が示す方向に自分の頭を回転させることになる。頭を回転させることにより、観察者は自分とともに回転する光線(図示せず)に沿ってそのシーン内の他の点(同じく図示せず)を閲覧できるようになる。観察者が360E全体の周りを回転した場合、それぞれの目は同じ視野円5の周りを回転することになる。
観察者が回転するにつれてその観察者の2つの目によって見られる一連の画像のそれぞれは別々の画像セットに分離することができ、各画像セットがそれぞれの目に関連することは図1Aから明らかになるだろう。これについては、図1Bに関連して説明する。図1Bは、左右のそれぞれの目に関する別々の視野円5Lおよび5R(一般に5L/R)に分割された視野円5を示し、点Pは各視野円5L/Rならびに図1Aに示す光線3Lおよび3Rに対応する関連光線3L(1)および3R(1)に関して図1Aと同じ位置に示されている。また、各視野円5L/Rは、観察者が矢印4Lおよび4Rによって表される方向に回転するにつれて観察者の左右のそれぞれの目がそのシーン内の様々な点について受け取る画像を表す参照番号3L(2)、...、3L(N)(一般に参照番号3L(n)によって識別される)および3R(2)、...、3R(N)(一般に参照番号3R(n)によって識別される)によって識別される他の光線も示している。
さらに図1Bに関連して説明すると、閲覧者によるそのシーンの立体パノラマ画像の閲覧を容易にするために、観察者のそれぞれの目によって受け取られると思われる画像を別々に記録し、閲覧者のそれぞれの目によって閲覧するかまたはその他の方法で閲覧者のそれぞれの目に対して表示することができる。したがって、たとえば、光線3L(1)、...、3L(N)によって示される連続方向に視野円5Lに対応する円の周りの連続点に画像を記録し、その画像をまとめてモザイク処理し、さらに光線3R(1)、...、3R(N)によって示される連続方向に視野円5Rに対応する円の周りの連続点に画像を記録する場合、ならびに(光線3L(n)と3R(n)の交点が同じ相対位置で閲覧されるように)これらの画像を適当に位置合せし、閲覧者のそれぞれの目に対して表示する場合、閲覧者はそのシーンの立体パノラマ画像を見ることができる。
同様に、コンピュータグラフィックス技法を使用して立体パノラマ画像を生成することができる。しかし、従来の画像レンダリングで使用する正規透視投影の代わりに、視野円5Lなどの円に接する光線を使用して左目用のパノラマ画像をレンダリングし、視野円5Rなどの円に接する光線を使用して右目用のパノラマ画像をレンダリングすることになる。
本発明は、そこから左右のパノラマ画像を生成することができ、そのパノラマ画像を閲覧者に表示することができる、画像の記録を容易にするための様々な配置を提供する。一般に、左右のパノラマ画像は、あるモデルからレンダリングするか、または複数の非パノラマ画像を記録し、その一部分をまとめてモザイク処理して左右のパノラマ画像を生成することにより、生成することができる。図1Aでは、視野円5に接する方向に閲覧するものとして目が示されているが、実施形態によっては、カメラがむしろ一般に、精密ではないが、視野円に対して垂直になる可能性があることが分かるだろう。
図2は、本発明の一実施形態により構築された立体パノラマ記録生成システム10の概略を示している。図2を参照すると、システム10は、カメラリグ11とパノラマモザイク画像生成器12とを含む。カメラリグ11は、上方に(水平記録パノラマの場合)に延びるマスト14とそれに堅く取り付けられてそこから延びるアーム15とを含む支持部上に取り付けられたカメラ13などの画像記録装置を含む。カメラ13は、たとえば、フィルム、電荷結合素子(CCD)などを含む複数タイプのいずれかの画像記録媒体を使用して画像を記録することができる。カメラ13によって記録された画像がそれによりマスト14から所定の距離に記録されるように、カメラ13はアーム15上に堅く取り付けられている。モータ16は、垂直軸の周りでマスト14を回転させ、それにより、その周りをマスト14が回転する軸上にセンタリングされた湾曲経路に沿ってカメラ13が回転するように構成されている。後述するように、モータ16の移動はモータ制御部17によって制御され、そのモータ制御部17はパノラマモザイク画像生成器12によって制御される。カメラ13はアーム15に堅く取り付けられているので、カメラ13はアーム15によって定義される方向を指すことになる。一実施形態では、カメラ13は動画用カメラとは対照的にスチールカメラであり、その実施形態では、モータ16は好ましくはカメラ13がステップバイステップ方式で回転できるようにするためにステッピングモータになり、カメラ13はカメラ13が画像を記録できるようにするために各ステップで停止する。その場合、ステップ間の角度は、図2および図3に関連して後述するように、パノラマ画像になるように各ステップで記録された画像のモザイク処理を容易にするようなものになる。一部の点では、連続ステップで記録された画像のそれぞれがパノラマモザイク画像生成器12に供給されて処理される。次にパノラマモザイク画像生成器12は、連続ステップで記録された画像を受け取り、その画像の部分をまとめてモザイク処理して、そこから左右のパノラマ画像を含む立体パノラマ画像対を生成する。立体パノラマ画像対を構成する左右のパノラマ画像は、図3に関連して後述するようにユーザに対して表示するかまたはユーザによって閲覧し、そのユーザにカメラ13が記録したシーンの立体画像を提供することができる。
上記の通り、パノラマ画像は、マスト14の回転中心の周りの様々な角位置でカメラ13によって記録された画像の部分をまとめてモザイク処理することにより生成される。さらに処理する前に、カメラ13の詳細と、パノラマ画像生成器12が画像の部分をまとめてモザイク処理し、観察者の左右の目によって同時に閲覧したときにマスト14の位置を取り囲むシーンの単一立体パノラマ画像をもたらすパノラマ画像対を形成する方法について説明すると有用であると思われる。図3は図2の最上部から見たときのカメラ13の内部の詳細を示す平面図であり、図4はカメラによって記録された画像の詳細と、その画像の部分をまとめてモザイク処理して立体パノラマ画像対を形成する方法を示している。まず図3を参照すると、カメラ13は、前部アパーチャ20と、後部画像記録媒体21と、画像記録媒体21に近接しそれより前方にあるスクリーン22と、シャッタ23とを有するハウジング24を含む。画像記録媒体21は、カメラ13の画像平面を定義するものであり、フィルム、CCDアレイなどを含む、従来の画像記録媒体を含むことができる。また、カメラ13は、画像平面上に画像の焦点を合わせるのを容易にするためにアパーチャ20内にレンズ(図示せず)も含むことができる。あるいは、カメラ13はピンホールカメラを含むことができ、その場合、レンズはまったく設けられない。
シャッタ23は、カメラ13が向けられたシーン27の部分から反射された光が選択的にカメラに入り、スクリーン22および画像記録媒体21の部分に投射され、それにより記録が行われるようにするために設けられている。シーン27は、マスト14の回転軸上にセンタリングされたパノラマシーンの一部を形成する。好ましくは、シャッタ23は、モータ16がカメラ13をあるステップから次のステップへ移動する間、閉じられ、それにより、このような移動中にシーン27からの光がカメラ13に入り、画像記録媒体21を露光するのをブロックするが、このような移動は本来は記録画像のぶれを引き起こす可能性がある。モータ16が次のステップに到達し、カメラ13が移動を停止した後、シャッタ23を開いて、シーン27からの光がカメラに入り、スクリーン22および画像記録媒体21に向かって後方に向けられるようにすることができる。画像記録媒体21が適切に露光された後、シャッタを閉じ、モータ16を励起してマスト14を回転し、それによりカメラ13を新しい向きにステップさせることができ、その点でこれらの動作を繰り返すことができる。好ましくは、画像記録媒体21がフィルムである場合、二重露光を回避するために、シャッタ23をもう一度開く前にそのフィルムを前に進めることになり、同様に、画像記録媒体21がCCDデバイスである場合、二重露光を回避するために必要に応じて、画像情報を検索して記憶し、CCDをリフレッシュすることができる。それぞれのステップでカメラ13によって記録された画像は、多重露光を回避するために、互いに独立したものになる。
スクリーン22は、一般に画像記録媒体21の部分を覆うように構成されているが、シーン27のそれぞれの方向ならびに部分27Lおよび27Rからの光が画像記録媒体21の近接領域26Lおよび26R上に向き、それにより記録されるようにするための少なくとも2つの垂直スリット25Lおよび25Rは除く。破線28Lおよび28Rが示すように、スリット25Rは画像記録媒体21の領域26Rがシーン27の左側部分27Rを記録できるように位置決めされ、スリット25Lは画像記録媒体21の領域26Lがシーン27の右側部分27Lを記録できるように位置決めされている。図1Aを参照すると、画像記録媒体21の領域26Rによって記録されるシーン27の部分27Rは、観察者がそのシーンの部分27Rを直接見ている場合に観察者の右目がそのシーンのその部分27Rを閲覧する方向に対応する方向からのものであることが分かるだろう。同様に、画像記録媒体の領域26Lによって記録されるシーン27の部分27Lは、観察者がそのシーンの部分27Lを直接見ている場合に観察者の左目がそのシーンのその部分27Lを閲覧する方向に対応する方向からのものである。さらに、好ましくは、アーム15上のカメラ13の位置決めは、カメラ13が回転したときに領域26Lおよび26Rが円、すなわち、画像円を描いて回転し、破線28Lおよび28Rが示す光線が図1Aおよび図1Bに関連して前述したものと同様の内部視野円に接するようなものになることが分かるだろう。したがって、画像記録媒体21の領域26Lがシーン27の部分27Rとして図3に示されているものを記録できるようにモータ16がカメラ13をステップすると、左目でその画像を閲覧し、同時にそのシーン27の領域27R内に前に記録された画像を右目で閲覧する観察者は、シーン27のその部分27Rの立体画像を見ることになるだろう。同様に、画像記録媒体21の領域26Rがシーン27の領域27Lとして図3に示されているものを記録できるようにモータ16がカメラ13をステップすると、右目でその画像を閲覧し、同時にそのシーン27の領域27L内に前に記録された画像を左目で閲覧する観察者は、シーン27のその部分27Lの立体画像を見ることになるだろう。
図3に示す実施形態では、カメラ13のスクリーン22には中央スリット25Cも設けられており、これはスクリーン27からの光がカメラ13に入るようにシャッタ22が開いたときに、画像記録媒体21の中央領域26Cがシーン27の領域27Cとして図3に示されているものを記録できるようにするものである。中央領域26Cはその領域を直視したものであり、光線28Cはカメラの光学的中心にだいたい対応することが分かるだろう。
上記のように、マスト14の回転中心の周りの様々なステップでカメラ13によって記録された画像は、パノラマモザイク画像生成器12によってまとめてモザイク処理し、左右のパノラマ画像を提供することができる。左右のパノラマ画像は、観察者、特に観察者の左右の目によって同時に閲覧したときに、マスト14の回転中心上にセンタリングされたパノラマシーンの立体パノラマ画像が得られることになる。左右のパノラマ画像が生成される方法については、図4に関連して詳述する。図4を参照すると、マスト14の回転中心の周りの「N」(ただし、「N」は整数である)個の連続ステップで記録された画像30(1)から30(N)(一般に参照番号30(n)によって識別される)のそれぞれは、左画像部分30L(n)と右画像部分30R(n)とを含む。次に各画像30(n)の左画像部分30L(n)は「n番目」のステップで画像記録媒体21上に記録された左領域26Lに対応し、右画像部分30R(n)は同じ「n番目」のステップで画像記録媒体21上に記録された右領域26Rに対応する。パノラマモザイク画像生成器12は、連続画像30(1)、30(2)、...、30(N)を受け取り、矢印32L(1)、32L(2)、...、32L(N)が示すように、それからの左画像部分30L(1)、30L(2)、...、30L(N)をまとめてモザイク処理して左パノラマ画像31Lを形成する。同様に、パノラマモザイク画像生成器12は、矢印32R(1)、32R(2)、...、32R(N)が示すように、それからの右画像部分30R(1)、30R(2)、...、30R(N)をまとめてモザイク処理して右パノラマ画像31Rを形成する。パノラマモザイク画像生成器12は、画像または画像の部分をまとめてモザイク処理するための任意の従来の技法を使用して左右のパノラマ画像31Lおよび31Rを生成することができる。左右のパノラマ画像31Lおよび31Rは、図1Bに関連して前述した左右の視野円5Lおよび5Rを描いて回転するときに観察者がそれぞれ自分の左右の目を通して見ると思われるものに適合することが分かるだろう。パノラマモザイク画像生成器12はそれぞれの画像ストリップとして左右のパノラマ画像31Lおよび31Rを生成することができるか、またはそれぞれの左右の端部をまとめてモザイク処理することにより、それぞれの連続ループとして画像を形成することができる。しかも、この画像は、用紙またはフィルムなどの従来の媒体、電子または磁気データ記憶域内のディジタル形式、または当業者には分かるようなその他の媒体上に形成するかまたはそこに記憶することができる。
それぞれの画像30(n)の左右の画像部分30L(n)および30R(n)の幅は、一般にスクリーン22の左右のスリット25Lおよび25R(図3)の幅に相関するものであり、一般に連続ステップのためにモータ16が拘束される角度を決定することになることがさらに分かるだろう。連続ステップ間の角度は、連続画像部分30L(1)、30L(2)、...、30L(N)をまとめてモザイク処理すると単一かつ連続的な左パノラマ画像31Lを提供することができ、連続画像30R(1)、30R(2)、...、30R(N)をまとめてモザイク処理すると単一かつ連続的な右パノラマ画像31Rを提供することができることを保証するようなものになる。
上記のように、一実施形態では、スクリーン22(図3)は、画像記録媒体の中央領域26Cにおけるシーン27の一部分の記録を容易にするために中央スリット25Cも有し、その一部分は左右の領域26Lおよび26R上に記録された部分同士の中間物になる。それぞれの画像30(n)上に記録された中央画像部分は図2では参照番号30C(n)によって識別される。その場合、パノラマモザイク画像生成器12は、連続画像30(n)の中央画像部分30C(n)から中央パノラマ画像も生成することができる。このように生成された中央パノラマ画像(図4には示されていない)は他の2つのパノラマ画像31Lおよび31Rのうちの一方とともに立体閲覧に使用することができるが、2つの画像間の対称性によってゆがみが減少し、立体視不均衡が増すので、左右のパノラマ画像31Lおよび31Rを使用することが好ましい。
マスト14からカメラ13までの距離ならびに左右のスリット25Lおよび25R間の分離は、通常の立体視の場合、すべての光線28R、28Lが接する視野円の半径が人間の両目の間の距離に近くなり、次にそれが図1Aに関連して前述した視野円の直径にだいたい対応するように選択される。また、視野円の直径は誇張立体視または縮小立体視のために拡大または縮小できることが分かるだろう。
この背景により、左右のパノラマ画像31Lおよび31Rの生成に関して立体パノラマ記録生成システム10によって実行される動作について、図5の流れ図に関連して説明する。図5を参照すると、マスト14の軸が立体パノラマ用の回転中心に位置するようにカメラリグ11を位置決めした後、モータ制御部17はまず、モータ16がカメラ13を第1の画像30(1)が記録される開始点に位置決めできるようにする(ステップ100)。カメラ13がだいたい位置決めされた後、モータ制御部17はパノラマモザイク画像生成器12に通知する(ステップ101)。
その後、立体パノラマ記録生成システム10は、複数回の反復により、マスト14の回転中心の周りの連続ステップで連続画像30(1)、30(2)、...、30(N)を記録する。各反復ごとに、パノラマモザイク画像生成器12は画像記録媒体21上に1つの画像を第1の反復画像30(1)として記録するようにカメラ13を制御する(ステップ102)。その動作では、パノラマモザイク画像生成器12は、画像記録媒体21の露光を容易にするためにカメラのシャッタ23が開けるようにすることができる。画像記録媒体21が適当に露光された後、シャッタ23は閉じられる。その後、カメラ13が画像記録媒体21としてフィルムを使用する場合、そのフィルムを前に進めることができる。あるいは、カメラ13が画像記録媒体21としてCCDアレイを使用する場合、パノラマモザイク画像生成器12は、その画像をカメラ13によって維持されている記憶媒体(図示せず)によって記憶するかまたは記憶のためにそれ(すなわち、パノラマモザイク画像生成器12)にダウンロードできるようにすることができる。
ステップ102で画像記録媒体21によって画像が記録された後、パノラマモザイク画像生成器12は、立体パノラマ画像対用の左右のパノラマ画像31Lおよび31Rを生成する際に使用されたすべての画像30(1)から30(N)が記録されたかどうかを判定することになる(ステップ103)。ステップ103でパノラマモザイク画像生成器12が否定の判定を行った場合、すなわち、立体パノラマ画像対に必要なすべての画像30(1)から30(N)が記録されたわけではないと判定された場合、それは、モータ制御部17がステップを前進するようにモータ16を制御できるようにする(ステップ104)。その後、他の画像30(2)の記録を容易にするために動作はステップ102に戻る。
立体パノラマ画像対に必要なすべての画像30(1)から30(N)が記録されたとパノラマモザイク画像生成器12がステップ103で判定するまで、立体パノラマ記録生成システム10は、複数回の反復によりステップ102から104を実行し、それぞれの反復ではマスト14の回転中心の周りの連続ステップのそれぞれで1つの画像30(n)を記録する。その時点で、パノラマモザイク画像生成器12は、立体パノラマ画像対を生成するために記録画像30(n)の処理を開始することができる。その動作では、パノラマモザイク画像生成器12はまず、それぞれの画像30(n)の左右の画像部分30L(n)および30R(n)を識別し(ステップ105)、連続する左画像部分30L(n)をモザイク処理して左パノラマ画像31Lを形成し、連続する右画像部分30R(n)をモザイク処理して右パノラマ画像31Rを形成する(ステップ106)ことができる。パノラマモザイク画像生成器12は、従来のモザイク処理技法を使用してステップ106で左右のパノラマ画像31Lおよび31Rを生成する。
図2に関連して前述した立体パノラマ記録生成システム10は、マスト14およびアーム15上に取り付けられ、シーン27のパノラマ画像を生成するために必要なアークによりモータ16およびモータ制御部17によって回転される単一カメラを使用するが、他の配置も使用することができる。たとえば、モータ制御部を使用するのではなく、コンピュータビジョン技法を使用してビデオフレームから画像運動を測定することにより、マストの回転に近づけることができる。他の例として、図6は、参照番号50によって識別される本システムの第2の実施形態の概略を示し、複数のカメラが円内に取り付けられている。好ましくは、その円の直径は図2に関連して前述した回転カメラシステムと同じように、すなわち、すべてのカメラの左スリットからの光線と右スリットからの光線が内部視野円に接し、それが図1Aに関連して前述した視野円5の直径に対応するように、選択されることが分かるだろう。これらのカメラはそのシーンの画像を同時に記録することができ、その後、図4に関連して前述したのと同じようにその画像を処理して左右のパノラマ画像を生成することができる。図6を参照すると、立体パノラマ記録生成システム50は、円形支持部52によって支持された複数のカメラ51(1)から51(N)(一般に参照番号51(n)によって識別される)を含む。カメラの数「N」は、左右のパノラマ画像31Lおよび31Rを生成するのに十分な左右の画像部分30L(n)および30R(n)を提供するのに必要な画像30(N)の数「N」を生成するのに必要な数に対応する。カメラ51(n)は、図1および図2に関連して前述した立体パノラマ記録生成システム10に使用するカメラ13(図2)と同様のものにすることができる。それぞれのカメラ51(n)は、破線52L(n)および52R(n)ならびに矢印53(n)によって表される特定の視野52(n)を有することになる。カメラの数「N」、それぞれの視野52(n)、円形支持部52の周りのそれぞれの配置は、左右のパノラマ画像31Lおよび31Rが連続することを保証するために十分な数の左右の画像部分30L(n)および30R(n)が記録されることを十分保証できるものになる。
システム10(図2)およびシステム50(図6)では、カメラ13および51(n)は、ピンホールカメラまたは画像記録媒体26上に画面27から画像の焦点を合わせるためのレンズを備えたカメラのいずれかとして記載されている。図7から図9に関連して説明する他の実施形態では、シーン27の画像をカメラに向かって反射させるためにミラーを使用する。図7から図9は、それぞれの立体パノラマ記録生成システム用の画像記録コンポーネント(本質的に図2に示すカメラリグ11に類似するもの)を概略図形式で具体的に示しているが、このようなシステム内に同じく含まれるパノラマモザイク画像生成器12は示していない。まず図7を参照すると、同図は、多辺形CCDアレイ61とミラーアレイ62とを含むカメラリグ60の平面図の概略を示している。一実施形態では、CCDアレイ61は上から見ると多辺形であり、各辺60(1)から60(S)(一般に参照番号60(s)によって識別される)は2つのCCDデバイス61(s)(L)および61(s)(R)(一般に参照番号61(s)(l/r)によって識別される)を有する。図7に示す例示的な実施形態では、CCDアレイ61は上から見ると八角形の形になっており、その場合、「S」は「8」になる。上記のように、図7は上からのCCDアレイ61を示し、辺60(s)は好ましくは正面から見たときに図7Aに示すように正方形または矩形の構成を有することが分かるだろう。同様に、それぞれのCCDデバイス61(s)(l/r)は好ましくは、それぞれの辺60(s)を正面から見たときに正方形または矩形の構成を有することになる。好ましくは、各辺60(s)のCCDデバイス61(s)(l/r)は、それぞれの辺60(s)を垂直に二等分する垂線63の両側に対称的に配置されることになる。
それぞれのミラー64(s)は八角形のCCDアレイ61の各辺61(s)から変位しており、各ミラー64(s)は一般に互いに対して所定の角度で配置された左右のミラー面65(s)(L)および65(s)(R)(一般に参照番号65(s)(l/r)によって識別される)を含み、頂点66(s)はCCDアレイ61のそれぞれの辺60(s)の中心に向いており、それぞれの辺60(s)を垂直に二等分する垂線63に平行である。それぞれのミラー面65(s)(l/r)は、あるシーンの一部分の画像を対応インデックス付きCCDデバイス61(s)(l/r)に向けるように配置されている。
近接ミラー64(s)および64(s′)の近接ミラーの左右のミラー面65(s)(L)および65(s′)(R)(s′=s+1、モジュロS)は、それぞれの左右のCCDデバイス61(s)(L)および62(s′)(R)によって記録するためにあるシーンの画像を向けるように機能する。これは以下の説明から明らかになる。一般に、図7に示すように、あるシーン(図示せず)からのそれぞれの光線70(s)(L)および70(s′)(R)はそれぞれのミラー面65(s)(L)および65(s′)(R)からそれぞれのCCDデバイス61(s)(L)および61(s)(R)に向かって反射する。光線70(s)(L)および70(s)(R)は一般に、あるシーンの一部分の左右の方向からのものであることが分かるだろう。したがって、それぞれのミラー面65(1)(L)および65(2)(R)によって提供されるように、CCDデバイス62(1)(L)および62(2)(R)の組合せによって記録された画像は、あるシーンの特定の領域用の適切な左右の画像を含むことになる。
連続インデックス付きCCDデバイス61(s)(L)によって記録された画像をまとめてモザイク処理して、左のパノラマモザイク画像を提供する。同様に、連続インデックス付きCCDデバイス61(s)(R)によって記録された画像をまとめてモザイク処理すると、右のパノラマモザイク画像を提供することができる。
図8は、単一固定カメラと回転平面ミラーを使用する立体パノラマ記録生成システム用のカメラリグ80を含む画像記録コンポーネントを上から見た平面図を示している。図8を参照すると、カメラリグ80はカメラ81と平面ミラー82とを含む。カメラ81は一般に従来のカメラである。ミラー82は通常、垂直ポスト(図示せず)上に取り付けられ、図2に関連して前述したように、カメラ13およびアーム15をモータ16およびモータ制御部17によって回転させる方法と同様にモータ(同じく図示せず)によって回転させる。ミラー82は好ましくは矩形の形になり、その上辺を図8に示す。ミラー82は破線矢印84が示す線に沿ってシーン83からカメラ81に向かって画像を反射する。カメラ81に供給される画像は反射画像なので、カメラの仮想視点または投射中心は破線矢印85によって定義される。ミラーが回転するにつれて、シーン83のうちカメラに向かって反射される部分がミラーの回転中心上にセンタリングされた円の周りを回転し、それに対するカメラ81の有向仮想視点は円86の周りを移動する。ミラー82が回転するにつれて、カメラ81は、図4に関連して前述した画像30(n)と同様の一連の画像を記録する。パノラマモザイク画像生成器は、図4に関連して前述したのと同様に、その画像の左右の画像部分をまとめてモザイク処理して左右のパノラマ画像を生成することができる。
カメラ81に供給される画像は反射画像なので、カメラの仮想視点または投射中心は破線矢印85によって定義される。ミラーが回転するにつれて、シーン83のうちカメラに向かって反射される部分がミラーの回転中心上にセンタリングされた円の周りを回転し、それに対するカメラ81の有向仮想視点は円86の周りを移動する。ミラー82が回転するにつれて、カメラ81は、図4に関連して前述した画像30(n)と同様の一連の画像を記録する。パノラマモザイク画像生成器は、図4に関連して前述したのと同様に、その画像の左右の画像部分をまとめてモザイク処理して左右のパノラマ画像を生成することができる。
図9は、単一固定カメラと湾曲ミラーを使用する立体パノラマ記録生成システム用のカメラリグ100を含む画像記録コンポーネントを上から見た平面図を示している。図9を参照すると、カメラリグ100はカメラ101と湾曲ミラー102とを含む。カメラ101は、従来のフィルムまたはビデオカメラなどの従来のカメラである。ミラー102は好ましくは図9に示すように湾曲反射表面を有する。ミラー102は、一般に参照番号104によって示される破線矢印が示す光線に沿ってシーン105からカメラ101に向かって画像を反射するように湾曲している。一般に、参照番号106によって示されるようにシーン105からの光線がカメラの光学的中心に向けられるように、ミラー102が構築され、カメラ101が配置される。そのプロセスでは、そのシーンから反射され、想像上の視野円103に接して投射される光線は、ミラー102から反射し、カメラの光学的中心に向けられることになる。次にカメラ101は、光学的中心を通過する光線によって表される画像を受け取って記録するように配置される。湾曲ミラー102が一般に約180度までの比較的広い角度付きアークの範囲を定めるシーン105の画像の記録を容易にすることは明らかになるだろう。
カメラリグ100は固定することができ、その場合、カメラリグは図9に示すようにシーン105のみの画像を記録することになる。360度全体を覆うために、例示的な実施形態はこのようなカメラリグを6台使用することができ、そのうちの3台は左目用の360度を覆うために使用し、他の3台は右目用の360度を覆うために使用する。あるいはカメラリグ100は、想像上の視野円103上にセンタリングされた回転中心を回転するように取り付けることもできる。カメラ101およびミラー102を支持するために、どのような従来の支持部(図示せず)を設けることもできる。この支持部は垂直ポスト(図示せず)上に取り付けられ、アセンブリはモータ(同じく図示せず)によって回転され、いずれも図2に関連して前述したようにカメラ13およびアーム15がモータ16およびモータ制御部17によって回転されるのと同様に行われる。アセンブリが回転するにつれて、カメラ101は図4に関連して前述した画像30(n)と同様の一連の画像を記録する。パノラマモザイク画像生成器は、図4に関連して前述したのと同様に、画像の左右の画像部分をまとめてモザイク処理して左右のパノラマ画像を生成することができる。
上記のように、本発明は、それにより生成器12などのパノラマモザイク画像生成器がコンピュータグラフィックス技法を使用してパノラマ立体画像対を生成することができる配置も提供する。これに関してパノラマモザイク画像生成器によって実行される動作については、図10に関連して説明する。一般に、パノラマモザイク画像生成器は円110上に位置するカメラ用の画像を合成する。通常の立体視効果を得るためには、円110の半径は人間の頭の半径程度でなければならず、角度「a」はd=2r sin aが人間の両目の間の距離にだいたい対応するようなものでなければならない。円110上のすべての位置で角度「b」が角度「a」にだいたい対応する場合、図10に示すように、1つの画像は2通りの閲覧方向に人工的に生成され、一方は左パノラマ画像31L用であり、もう一方は右パノラマ画像31R用である。図10に示すように、各カメラ位置P1、P2、...、の閲覧方向は、左パノラマ画像31Lを生成する際に使用する画像の場合は右方向であり、右パノラマ画像31Rを生成する際に使用する画像の場合は左方向である。連続カメラ位置で生成されるすべての画像をまとめてモザイク処理し、左右のパノラマ画像を作成する。
本発明は、パノラマモザイク画像生成器12によって生成された左右のパノラマ画像31Lおよび31R(図4)を閲覧者に対して表示し、それにより閲覧者がそれによって表されたパノラマを立体的に閲覧できるようにするためのシステムをさらに対象とする。図11から図12Bに関連して、いくつかの例示的なパノラマ画像表示システムについて説明する。図11を参照すると、同図は、閲覧者が自分の目の上に着けることができるゴーグルを含むパノラマ画像表示システム120の概略を示している。一般に、パノラマ画像表示システム120は、左右の表示装置121Lおよび121Rと、表示制御モジュール122と、左右の表示制御部123Lおよび123Rと、ポインティングスティック124とを含む。左右の表示装置121Lおよび121Rは、左右のそれぞれの目の上にゴーグルとして閲覧者が身に着けることができる。左右の表示装置121Lおよび121Rは、たとえば、薄膜トランジスタアクティブマトリックス型表示装置、液晶表示装置などを含む、どのような便利な装置でも含むことができる。左右の表示装置121Lおよび121Rは、たとえば、メガネの枠、マスクなどを含み、それを閲覧者のそれぞれの目の正面に保持するどのような便利な配置にも取り付けることができる。左右の表示制御部123Lおよび123Rは、表示制御モジュール122の制御下で、左右のそれぞれの表示装置121Lおよび121Rが左右のそれぞれのパノラマ画像31Lおよび31Rのうちの少なくとも選択した部分を表示できるようにして、閲覧者がそれらを閲覧できるようにする。表示制御モジュールにより、左右のパノラマ画像は、図1Bに関連して前述したように、閲覧者の視野内の同じ相対位置でパノラマの同じ部分に関する画像を表示するように位置合せされることになる。閲覧者は、ポインティングスティック124を使用して、そのシーンのうち閲覧者の目のすぐ正面にある特定の部分を調整するように表示制御モジュールを制御することができるが、これは図1Aに関連して前述したようにそのシーンを閲覧する際に観察者の角位置を制御することと同様である。
パノラマ画像が記録される表面の幾何学的形状は、画像が表示される表面の幾何学的形状とは異なる可能性があるので、ゆがみを回避するためにその画像に対する何らかの幾何学的変形が必要になる場合もある。たとえば、図2の回転カメラシステムは円筒形の表面上にパノラマ立体画像を生成する。平らなスクリーンを有するゴーグルを使用してその画像を表示する場合、その画像は、好ましくは表示の前に円筒形から平面への変形を使用して矯正しなければならない。これに対して、図12Aに示すように円筒形の画像を円筒形の劇場に表示する場合にはいかなる矯正も不要である可能性がある。
図12Aおよび図12Bは閲覧者に対して立体パノラマを表示するための全方向性劇場配置の概略を示しており、図12Aは一般に正面図を示し、図12Bは平面図を示す。図12Aおよび図12Bに示す配置では、円筒形スクリーンによって範囲が定められた空間の内部に位置決めされた閲覧者の目に見えるように、スクリーンの表面上に左右のパノラマ画像31Lおよび31Rが投射される。これらの画像は直交方向に偏光させることができ、スクリーンによって範囲が定められた空間の内部に位置決めされ、偏光メガネを身に着けた閲覧者は、スクリーン上のパノラマ画像を立体的に閲覧することができる。左右のそれぞれのパノラマ画像31Lおよび31Rを含む画像は、スクリーンによって範囲が定められた空間内に位置するプロジェクタによって、またはその外部の位置から投射することができる。画像は互いに直交して偏光されるので、閲覧者が身に着けたメガネのレンズの偏光により、閲覧者のそれぞれの目は、スクリーン上に投射された画像のそれぞれ1つを受け取ることができるようになる。
したがって、図12Aおよび図12Bを参照すると、全方向性劇場140は、円筒形スクリーン141と、それぞれが2つのプロジェクタ143L(n)および143R(n)を含む複数のプロジェクタセット142(1)から142(N)(一般に参照番号142(n)によって識別される)とを含む。各プロジェクタセット142(n)内のプロジェクタ143L(n)および143R(n)のそれぞれは、左右のそれぞれのパノラマ画像31Lおよび31Rの一部分をスクリーン141のそれぞれの部分上に投射する。プロジェクタセット142(n)の数は好ましくは、表示された画像がゆがまず、それぞれのプロジェクタセット142(n)によって表示される左右のパノラマ画像31Lおよび31Rの一部分がスクリーン141の周りに連続画像を提供し、それによりパノラマ画像を提供するように選択される。プロジェクタセット142(n)は、図12Bに示すようにスクリーン141の外部にその画像を投射するように位置決めすることができる。ただし、スクリーン141は、スクリーン141によって範囲が定められた空間の内部で投射画像を閲覧できるようなものでなければならない。あるいは、プロジェクタセット142(n)はスクリーン141の内部にその画像を投射するように位置決めすることもできる。スクリーン141によって範囲が定められた空間の内部に立ち、偏光メガネ145を身に着けた閲覧者144は、パノラマ画像を立体的に閲覧できるようになる。
当業者であれば、偏光の使用に加え、他の立体分離の方法を使用して立体閲覧を実行できることが分かるだろう。これはシャッタを備えた立体メガネを含み、「左」と「右」の画像を交互に表示することにより機能する。このメガネは高速シャッタを有し、それは、左の画像が表示される場合は、左目側が透明で、右目側が不透明になり、右の画像が表示される場合はその逆になる。他の配置では、緑と赤のメガネを備えた「アナグリフステレオ」を使用する。
本発明はいくつかの利点をもたらす。特に、本発明は、あるシーンの立体パノラマ画像を生成し、閲覧者がそのパノラマ画像を立体的に閲覧できるようにその閲覧者に対して画像を表示するためのシステムおよび方法を提供する。
ここに記載したシステムおよび方法に対して、いくつかの変更が可能であることは分かるだろう。たとえば、図2に関連して説明したシステムは、カメラ13が固定点の周りを回転できるようにすることにより、左右のパノラマ画像を提供するものとして記載されているが、このシステムはむしろ、カメラ13が1つの線に沿って並進できるようにし、それにより細長いパノラマ画像を提供できることが分かるだろう。
しかも、ここに記載したシステムは静止パノラマ画像を記録し表示するものとして記載されているが、そのシステムを使用して動画を立体的に記録し表示できることが分かるだろう。たとえば、図6から図8に関連して説明したようなシステムは、回転カメラ、ミラーなどを使用するものではなく、経路に沿って必要に応じて並進させ、並進するにつれて360Eのパノラマ画像を記録することができる。図2および図8に関連して説明したようなシステムは、回転カメラ、ミラーなどを使用するものであり、回転する間に並進させることもできる。しかし、後者の場合、完全なパノラマを提供するために、カメラおよび/またはミラーを並進させると同時に回転させることが必要になる。このカメラおよび/またはミラーは、わずかに並進させる前に360Eの円全体を回転させることができ、この動作を繰り返す。あるいは、並進が比較的遅く、カメラとミラーが並進するにつれてまったく完全なパノラマを可能にするためにかなりオーバラップする場合、一方または両方を回転させながら並進させることができる。いずれの場合も、パノラマモザイク画像生成器12は一連の左右のパノラマ画像31Lおよび31Rを生成し、それを閲覧者に対して連続的に表示できることが分かるだろう。たとえば、パノラマ画像表示システム120では、左右の表示装置121Lおよび121Rが連続する左右のパノラマ画像を表示できるようになる。同様に、全方向性劇場配置140では、それぞれのプロジェクタセット142(n)の左右のプロジェクタ143L(n)および143R(n)がスクリーン141のそれぞれの部分に左右のパノラマ画像31Lおよび31Rのそれぞれの部分を投射できるようになる。表示された左右の画像31Lおよび31Rが同じパノラマからのものになるように左右の表示装置121Lおよび121Rならびに様々なプロジェクタセットによる左右のパノラマ画像の前進が同期化されることが分かるだろう。
しかも、カメラ13は左右のスリット25Lおよび25Rを有するスクリーン22を含むものとして記載されているが、カメラ13はスクリーンを含む必要がないことが分かるだろう。むしろ、パノラマモザイク画像生成器は、左右のそれぞれのパノラマ画像31Lおよび31Rを生成する際に画像31(n)の左側部分と右側部分のそれぞれからの断片を使用することができる。
しかも、パノラマ画像表示システム120は閲覧者の目に対して立体パノラマ画像の中心の角位置を制御するためにポインティングスティックを使用するものとして記載されているが、たとえば、閲覧者の頭の位置または角度の向きの変化を判定するためにトラッカなどの配置を含む他の装置を使用できることが分かるだろう。
さらに、本発明は、閲覧者に対して表示可能な左右のパノラマ画像31Lおよび31Rの生成に関連して使用するために画像を記録するための配置を含むものとして記載されているが、左右のパノラマ画像31Lおよび31Rはむしろコンピュータグラフィックス技法を使用して生成できることが分かるだろう。
本発明により構築されたシステムは、たとえば、移動中に後で報告または分析するため、ならびに教育およびマーケティングに使用するためにスポーツイベントを記録することを含む、いくつかの応用例で有用である可能性があることが分かるだろう。しかも、本発明により構築されたシステムは、ロボット工学およびコンピュータビデオゲームに関連して有用である可能性がある。さらに、特定の表示配置に関連して本発明を説明してきたが、コンピュータモニタ、テレビなどでの表示など、他のタイプの配置も有用である可能性があることが分かるだろう。
本発明によるシステムは、専用ハードウェアまたは汎用コンピュータシステムあるいはその組合せから全部または一部を構築することができ、そのいずれの部分も適当なプログラムで制御できることが分かるだろう。どのようなプログラムも、従来通り全部または一部が本システムの一部を含むかまたは本システム上に記憶することができ、あるいは従来通り情報を転送するためのネットワークまたは他のメカニズムにより全部または一部を本システム内に供給することができる。しかも、本システムは、本システムに直接接続できるかまたは従来通り情報を転送するためのネットワークまたは他のメカニズムにより本システムに情報を転送できるオペレータ入力要素(図示せず)を使用してオペレータによって提供された情報により操作またはその他の方法で制御できることが分かるだろう。
上記の説明は、本発明の特定の実施形態に限定されている。しかし、本発明の利点の一部または全部を達成するとともに、本発明の様々な変形形態および修正形態が可能であることは明らかになるだろう。特許請求の範囲の目的は、本発明の真の精神および範囲に該当するような上記その他の変形形態および修正形態を含めることである。
本発明により構築されたシステムは、たとえば、移動中に後で報告または分析するため、ならびに教育およびマーケティングに使用するためにスポーツイベントを記録することを含む、いくつかの応用例で有用である可能性があることが分かるだろう。しかも、本発明により構築されたシステムは、ロボット工学およびコンピュータビデオゲームに関連して有用である可能性がある。さらに、特定の表示配置に関連して本発明を説明してきたが、コンピュータモニタ、テレビなどでの表示など、他のタイプの配置も有用である可能性があることが分かるだろう。
上記の説明は、本発明の特定の実施形態に限定されている。しかし、本発明の利点の一部または全部を達成するとともに、本発明の様々な変形形態および修正形態が可能であることは明らかになるだろう。特許請求の範囲の目的は、本発明の真の精神および範囲に該当するような上記その他の変形形態および修正形態を含めることである。