JP7615590B2 - Light reproduction device, three-dimensional space display system, light reproduction method, and program - Google Patents
Light reproduction device, three-dimensional space display system, light reproduction method, and program Download PDFInfo
- Publication number
- JP7615590B2 JP7615590B2 JP2020163317A JP2020163317A JP7615590B2 JP 7615590 B2 JP7615590 B2 JP 7615590B2 JP 2020163317 A JP2020163317 A JP 2020163317A JP 2020163317 A JP2020163317 A JP 2020163317A JP 7615590 B2 JP7615590 B2 JP 7615590B2
- Authority
- JP
- Japan
- Prior art keywords
- stereoscopic image
- element cell
- light
- reproduction
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 33
- 230000006870 function Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 18
- 230000004304 visual acuity Effects 0.000 claims description 11
- 210000001525 retina Anatomy 0.000 claims description 6
- 210000004027 cell Anatomy 0.000 description 121
- 238000004891 communication Methods 0.000 description 46
- 238000010586 diagram Methods 0.000 description 30
- 230000003287 optical effect Effects 0.000 description 11
- 210000001747 pupil Anatomy 0.000 description 11
- 238000003860 storage Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 8
- 238000009826 distribution Methods 0.000 description 7
- 230000004044 response Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000004438 eyesight Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 108010054404 Adenylyl-sulfate kinase Proteins 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 208000003464 asthenopia Diseases 0.000 description 2
- 238000011960 computer-aided design Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000002366 time-of-flight method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001755 vocal effect Effects 0.000 description 2
- 101000703681 Homo sapiens Single-minded homolog 1 Proteins 0.000 description 1
- 206010028813 Nausea Diseases 0.000 description 1
- 102100031980 Single-minded homolog 1 Human genes 0.000 description 1
- 102100039024 Sphingosine kinase 1 Human genes 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000010894 electron beam technology Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000008693 nausea Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 210000000608 photoreceptor cell Anatomy 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Diffracting Gratings Or Hologram Optical Elements (AREA)
Description
本発明は、光線再生装置、三次元空間表示システム、光線再生方法、及びプログラムに関する。 The present invention relates to a light reproduction device, a three-dimensional space display system, a light reproduction method, and a program.
家族間、親しい間柄、または、政治やビジネスの世界でもコミュニケーションにおいて、互いの気持ちを知ることが重要である。非言語的な部分では、会話の間合いや、パーソナルスペースの距離感を違和感なく伝える必要があり、加えてその距離感の中で相手の表情や仕草など非言語的な情報の獲得が大切である。 Whether it's between family members, close friends, or in the political or business world, it's important to know each other's feelings when communicating. In terms of non-verbal communication, it's necessary to communicate the appropriate conversational interval and personal space without feeling awkward. In addition, it's important to pick up on non-verbal information, such as the other person's facial expressions and gestures, within that distance.
コミュニケーションを円滑に行うための技術として種々の技術が提供されている。例えば、通信技術の分野では5Gの低遅延技術で通信遅延を低減させ、オンラインでの会話においても実際の会話と同じ感覚で会話の間合いとることができる。また、TOF(Time of Flight)などの三次元計測技術を用いて人との距離を正確に計測することができる。しかし、適切な対人距離(パーソナルスペース)を取ることができる奥行きのある空間を違和感なく表示する技術は知られていない。 Various technologies are being offered to facilitate smooth communication. For example, in the field of communications technology, 5G low-latency technology can reduce communication delays, allowing online conversations to be spaced in the same way as in real conversations. In addition, three-dimensional measurement technology such as TOF (Time of Flight) can be used to accurately measure the distance between people. However, no technology is known that can seamlessly display a deep space in which an appropriate interpersonal distance (personal space) can be maintained.
ここで、本願における奥行きのある空間とは、人が他者と公的なコミュニケーションをとる際に主に適用される、1.2m前後から3.6m程度までの対人距離がとれる空間より大きいサイズの空間を示す。以下の説明においては、この、1.2m前後から3.6m程度までの対人距離がとれる奥行きのある空間のことを、「社会距離空間」という。 In this application, a deep space refers to a space that is larger than the space in which an interpersonal distance of about 1.2 m to about 3.6 m can be maintained, which is mainly applied when people communicate publicly with others. In the following explanation, this deep space in which an interpersonal distance of about 1.2 m to about 3.6 m can be maintained is referred to as a "social distance space."
奥行きのある三次元像を表示するための様々な技術が存在している。例えば、ヘッドアップディスプレイや偏光めがね方式、液晶シャッターめがね方式のような装着型の表示装置、あるいはパララックスバリア方式やレンチキュラー方式など装着せずに、二つの目に異なる視差を観察させ立体像を表示する技術がある。このような三次元像を表示技術は、視差のみで立体感を感じさせるものである。このため、一点に視線を集中させる輻輳や、ピント調整などを必要とするため、人に眼精疲労や酔いを感じさせる場合があった。このため、奥行きのある社会距離空間を表示させるツールとして適切ではない。 There are various technologies for displaying three-dimensional images with depth. For example, there are wearable display devices such as head-up displays, polarized glasses, and liquid crystal shutter glasses, as well as technologies such as parallax barrier and lenticular that display three-dimensional images by having two eyes observe different parallax without wearing any equipment. These technologies for displaying three-dimensional images create a sense of three-dimensionality using only parallax. As a result, they require convergence to concentrate the gaze on one point and focus adjustments, which can cause eye strain and nausea. For this reason, they are not suitable as a tool for displaying socially distant spaces with depth.
これに対し、非特許文献1には、輻輳とピント調整を必要とすることなく三次元像を表示する技術が開示されている。非特許文献1には、超多眼ディスプレイや、マイクロレンズアレイを用いてライトフィールド(デジタルカメラの撮像面に入射する光線の撮像面上での方向情報と強度分布)を記録し、記録したライトフィールドを再現(表示)するディスプレイ(図19参照)が開示されている。また、液晶パネルなどを重ねたスタティックディスプレイ型のライトフィールドディスプレイ(図20参照)が提案されている。
In response to this, Non-Patent
また、特許文献1に記載の立体画像表示装置によれば、視点の数を十分に多くする(超多眼)技術が開示されている。これにより、人間の立体知覚に対し、両眼視差、ピント調節、輻輳、運動視差の4つの要因を満足させることができる。このような超多眼ディスプレイやライトフィールドディスプレイによる三次元画像の表示は、瞳の大きさより小さなサイズで光線を再現することで、自然なピント調整と輻輳を実現するものである。
The 3D image display device described in
しかしながら、特許文献1に記載されているような超多眼ディスプレイ等は、瞳の大きさより小さなサイズで光線を再現することで、自然なピント調整と輻輳を実現するものである。微小な面積で光線を制御していることから回折の影響で、ディスプレイ面から離れるほどボケが大きくなる。このため、ディスプレイ近傍の物体しか再現できず、ディスプレイ面と観察者が近い場合、社会距離空間の再現は困難である。一方、ディスプレイ面を観察者から離して社会距離空間近傍に置いた場合は、ディスプレイが表示したい空間より大きなサイズにする必要があり、高いコストや大きな設置スペースが必要となる。
However, super multi-eye displays such as those described in
以上のように、社会距離空間を再現するには、従来のライトフィールドディスプレイでは、回折の影響により大きなボケが生じることになるという問題があった。 As described above, when trying to recreate a socially distanced space, conventional light field displays had the problem of significant blurring caused by the effects of diffraction.
本発明の実施形態は、上記の問題に鑑みてなされたもので、主にディスプレイ面から1.2m前後から3.6m程度までの奥行きがある空間(社会距離空間)又は、それ以上の奥行きがある空間を、自然な距離感が得られ、且つボケが少ない三次元空間として表示することができる光線再生装置、三次元空間表示システム、光線再生方法、及びプログラムを提供することを目的とする。 The embodiments of the present invention have been made in consideration of the above problems, and aim to provide a light reproduction device, a three-dimensional space display system, a light reproduction method, and a program that can display a space that is primarily about 1.2 m to 3.6 m deep from the display surface (social distance space), or a space that is deeper than that, as a three-dimensional space that provides a natural sense of distance and has little blurring.
上記の課題を解決するために、発明の実施形態の光線再生装置は、再生空間に立体像を再生させる場合における前記立体像から仮想的に射出される光線を再生する光線再生装置であって、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備え、前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である。なお、ここでいう観察者に観察される度合いとは、立体像が表示される位置や範囲、観察者が許容するボケの程度などを示すものである。 In order to solve the above problems, a light reproducing device according to an embodiment of the present invention is a light reproducing device that reproduces light rays virtually emitted from a stereoscopic image when the stereoscopic image is reproduced in a reproduction space, and includes a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen, and the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance, and the stereoscopic image is displayed in a range from a display surface. The element cells are displayed in a range of at least 1.2 m to 3.6 m in the depth direction, and the size of each element cell in the element cell set and the pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to the degree to which the stereoscopic image displayed in the reproduction space is observed by the observer, and the size of the element cells is determined so that the spread angle of the diffracted light from the element cells is equal to or smaller than the angular resolution according to the eyesight of the observer, the size of the element cells is 0.8 mm or more, and the pitch of the element cells is 1.2 mm or less. Note that the degree to which the stereoscopic image is observed by the observer here indicates the position and range in which the stereoscopic image is displayed, the degree of blurring that the observer tolerates, etc.
本発明の実施形態によれば、社会距離空間を、自然な距離感が得られ、且つボケが少ない三次元空間として表示することができる。 According to an embodiment of the present invention, a social distance space can be displayed as a three-dimensional space that provides a natural sense of distance and has little blurring.
以下、図面を参照して本発明の実施の形態を詳しく説明する。三次元空間表示システム1は、例えば、光学装置と電気回路により実装される。以下に説明する各図面において、見易さのため構成要素の厚さや比率は誇張されていることがあり、構成要素の数も減らして図示していることがある。また、本発明は以下の実施形態そのままに限定されるものではなく、主旨を逸脱しない限りにおいて、適宜の組み合わせ、変形によって具体化できる。
The following describes in detail the embodiments of the present invention with reference to the drawings. The three-dimensional
図1は、第1実施形態の三次元空間表示システム1の構成を示すブロック図である。三次元空間表示システム1は、例えば、通信部10と、立体カメラ20と、三次元表示ディスプレイ30とを備える。通信部10は、デジタル通信網NWを介して外部と通信を行う。
Figure 1 is a block diagram showing the configuration of a three-dimensional
立体カメラ20は、被写体である観察対象とする物体を立体的に撮像するカメラであり、例えばステレオカメラである。立体カメラ20は、観察対象とする物体の三次元情報を、通信部10を介して三次元表示ディスプレイ30に転送する。ここでの三次元情報は、少なくとも物体から撮像面に入射する光線の入射方向と強度を含み、2つ以上の視差画像列や2次元画像と距離画像の組み合わせなどから得られるものであってもよく、観察対象とする物体を含む空間を示す情報であればよい。
The
三次元情報を取得するための方法として、様々な方法が考えられる。例えば、立体カメラ20がステレオカメラである場合、2台のカメラでそれぞれ撮影した画像を用いてデプス情報(以下、深度情報、奥行き距離などともいう)を測定することにより三次元情報を取得する方法がある。或いは、撮影対象物体に投影されたパターンを解析する方法がある。また、光の飛行時間を測定することにより、観察対象とする物体までの距離を計測するTOF方式などがある。三次元情報を取得するための方法は、少なくとも社会距離の範囲を必要な分解能で測定できれば、どの方法を用いてもよい。特に、数cmから数mという奥行き距離を精度よく測定することが可能なTOF方式が好適である。
There are various methods for acquiring three-dimensional information. For example, when the
立体カメラ20によって撮像する空間の範囲は、社会距離空間を認識させる程度に十分広い空間であることが望ましい。例えば、3.6m奥に角度±30度で広がるような空間であり、画角として60度以上である空間が好適である。例えば、35mmフィルム換算で、焦点距離25mmの広角レンズ相当の80度以上の画角であるとより臨場感のある空間を撮像することができる。さらに、角度方向の最小分解能Δαは、視力0.5程度に相当する分解能である0.033度以下であることが望ましい。
It is desirable that the range of space captured by the
例えば、立体カメラ20の解像度がハイビジョン(画素数1080×1920)の場合、角度方向の最小分解能Δαを0.033度以下にするためには、画角を73度以下とする。また、立体カメラ20の解像度が4K(画素数21 60×3840)の場合、角度方向の最小分解能Δαを146度以下とする。よって、80度以上の画角で社会距離空間を撮影する場合、4K以上の解像度の立体カメラ20で撮影することが望ましい。
For example, if the resolution of the
通信部10は、三次元情報の動画を安定して転送することが可能なデジタル通信網NWを用いて、外部の機器と三次元情報をやり取りする。解像度4Kの画像、かつ画素毎の奥行き情報を含む動画を安定して転送するためには、例えば、通信速度25Mbps以上であることが望ましい。デジタル通信網として、モバイル通信網を使用する場合、例えば、5G以上の規格を用いることにより遠隔地との情報のやり取りが容易になる。
The
三次元表示ディスプレイ30は、三次元の画像を表示するPC(Personal Computer)、サーバ装置、或いはクラウドサーバなどのコンピュータ装置である。三次元表示ディスプレイ30は、例えば、演算部31と、制御部32と、光源部33と、表示部34と、光制御部35と、記憶部36とを備える。ここで、三次元表示ディスプレイ30は、「光線再生装置」の一例である。演算部31は、「信号処理部」の一例である。制御部32は、「信号処理部」の一例である。表示部34は、「立体像表示部」の一例である。光制御部35は、「立体像表示部」の一例である。
The three-
演算部31、及び制御部32は、信号処理を行う機能部であり、例えば、三次元表示ディスプレイ30のCPU(Central Processing Unit)が記憶部36に予め記憶されたプログラムを実行することにより実現される。また、これらの信号処理を行う機能部が、ASIC(Application Specific Integrated Circuit)等の集積回路として実現されてもよい。
The
演算部31は、立体カメラ20から取得した三次元情報に基づいて、再生(表示)すべき光線の成分(光線の方向と強度)を、要素セル毎に計算する。ここでの要素セルについては、後で詳しく説明する。
The
制御部32は、光源部33、表示部34、及び光制御部35を制御し、要素セルごとに再生された光線の方向と強度を反映させる。これにより、自然な距離感とボケのない空間を表示することが可能となる。なお、三次元表示ディスプレイ30における光源部33や光制御部35が受動的で制御が不要な場合、制御部32によってこれらの機能部(光源部33や光制御部35)が制御される必要はない。
The
なお、立体カメラ20から取得した三次元情報を用いず、通信部10を介して外部から獲得した三次元情報のみを用いて画像を表示する場合、三次元空間表示システム1における立体カメラ20を省略することが可能である。一方、立体カメラ20からの三次元情報のみを用いて三次元表示ディスプレイ30に画像を表示する場合、三次元表示ディスプレイ30において通信部10を省略することが可能である。
When an image is displayed using only three-dimensional information acquired from the outside via the
光源部33は、レーザーやLED(Light-Emitting Diode)やEL(Electro-Luminescence)などの発光体を含む光源機能を有し、表示部34の光源となる機能部である。光制御部35は、制御部32からの制御信号に従って、光源部33によって照射される光源の方向と強度を制御する。
The
表示部34は、LCD(Liquid Crystal Display)や、OLED(Organic LED)、DMD(Digital Mirror Device)などの表示素子を用いた表示機能を有する。表示部34は、制御部32の制御に従い画像を表示する。
The
表示部34として、LCD、LED、OLED、DLP(Digital Light Processing)などの2次元の画像を表示する表示装置が一般的である。しかしながら、これに限定されない。表示部34は、レーザー光源やLED光源などの光源部33をスキャンする方式であってもよい。LEDやOLEDなどの自発光デバイスの場合、表示部34が、光源機能と表示機能を合わせ持つことになる。表示部34が、ホログラムなどの回折パターンによって光の方向を制御するものであれば、表示機能と光制御機能を一つのデバイスで実現することができる。
The
なお、以下の説明において、ディスプレイ面とは、表示部34の表示装置によってパターンが表示される面のことを示し、複数の表示装置を用いて画像を表示する場合、最も観察者に近い面を示す。
In the following description, the display surface refers to the surface on which the pattern is displayed by the display device of the
記憶部36は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、または、これらの記憶媒体の任意の組み合わせによって構成される。記憶部36は、三次元表示ディスプレイ30の各種の処理を実行するためのプログラム、及び各種の処理を行う際に利用される一時的なデータを記憶する。記憶部36は、例えば、立体カメラ20によって獲得された三次元情報を記憶する。記憶部36は、演算部31による演算結果を記憶する。記憶部36は、制御部32の制御によって再生される光線の方向や強度などを示す情報を記憶する。
The
図2は、第1実施形態の三次元空間表示システム1が適用される例を説明する図である。図2のXY方向は平面方向を示し、Z方向は鉛直方向を示している。立体カメラ20は、観察対象となる実体空間JKを撮像可能に設置される。実体空間JKには、複数の実体像IM(実体像IM-1~IM-7)が配置されている。三次元表示ディスプレイ30は、表示する画像が観察者OBによって観察可能となるように設置される。
Figure 2 is a diagram illustrating an example in which the three-dimensional
立体カメラ20は、実体空間JKを撮像する。三次元表示ディスプレイ30は、立体カメラ20によって撮像された実体空間JKを再現(表示)した再生空間SKを表示する。なお、図2の例では、立体カメラ20と三次元表示ディスプレイ30とが重なっている様子が示されているが、これらはZ方向に互いに異なる位置にあり重なってはいない。また、この例では立体カメラ20の撮像方向がX軸方向に沿った方向である場合を示しているが、これに限定されない。立体カメラ20の位置は、観察対象となる実体空間JKについて、観察者OBが観察したい任意の位置や方向から撮像可能であればよい。また、立体カメラは20が1機のみ配置される場合に限定されることはなく、複数の立体カメラ20が設置されてもよい。
The
この図の例では、三次元空間表示システム1が、三次元情報の記録(撮像)と再生(表示)に時間差を有してコミュニケーションを実現する三次元画像表示コミュニケーターとして機能する。すなわち、立体カメラ20で撮像された実体空間JKの三次元情報は、記憶部36にいったん記憶された後、観察者OBが希望する任意の時間に、所望の三次元画像が再生空間SKに再現される。これにより、撮像時に観察者OBが不在であっても、撮像時における実体空間JKの実体像IMを、撮像後の任意のタイミングで観察することができる。
In the example shown in this figure, the three-dimensional
なお、上記では、時間差で記録と再生を行う例を示したが、これに限定されない。例えば立体カメラ20と三次元表示ディスプレイ30とを、玄関とリビングなど互いに離れた位置に設置し、相手を直接視認することができないような互いに離れた位置でのコミュニケーションを実現する三次元映像コミュニケーターとして機能するようにしてもよい。これにより、観察者OBが、実体空間JKまで移動することなく、遠隔にある実体空間JKを体験(観察)することが可能になる。
Note that, although the above shows an example of recording and playback with a time difference, this is not limiting. For example, the
ここで、本願で対象とする社会距離空間について、詳しく説明する。社会距離空間は、従来の三次元ディスプレイ(立体画像表示装置)で表示させる空間のようにディスプレイ近傍に物体(被写体)が存在する空間ではない。社会距離空間は、ディスプレイが表示する空間において奥行き方向に離れた位置に被写体が存在する空間である。社会距離空間は、例えば、部屋の内部の空間や、公園内の空間等であり、その区間の内部に観察者(被写体)がいるような空間である。或いは、ディスプレイを窓として、窓から外側の空間(部屋の内部の空間等)を観察するような場合に表示される空間である。 Here, we will explain in detail the social distance space that is the subject of this application. A social distance space is not a space in which an object (subject) exists near the display, as in the space displayed by a conventional three-dimensional display (stereoscopic image display device). A social distance space is a space in which a subject exists at a position distant in the depth direction in the space displayed by the display. A social distance space is, for example, a space inside a room or a space in a park, and is a space in which an observer (subject) exists within that section. Alternatively, it is a space that is displayed when the display is used as a window and the outside space (such as the space inside a room) is observed through the window.
アメリカの文化人類学者であるエドワード・ホールは、人と人が相対する対人距離(パーソナルスペース)を、次の4つの距離帯に分類している。
1)密接距離
2)個体距離
3)社会距離
4)公衆距離
Edward Hall, an American cultural anthropologist, classifies interpersonal distance (personal space) between people into the following four distance zones:
1) Close distance 2) Personal distance 3) Social distance 4) Public distance
1)密接距離とは、相手との距離が0~0.45m程度であって、例えば相手の体温や匂いが分かるような距離に相当する。密接距離は、非常に親密な間柄の相手との距離であり、手をつなぐなど肌と肌の触れ合いや、匂いによるコミュニケーションが主となる対人距離である。
2)個体距離とは、相手との距離が0.45~1.2m程度であって、自分の独立性を保つために他者との間にとる距離に相当する。自分や相手が手を伸ばせば、触れることが可能な距離で、友人など親しい相手とコミュニケーションが行われる場合の対人距離である。
3)社会距離とは、相手との距離が1.2~3.6m程度であって、相手に触れることが困難な距離であり、職場での同僚同士の会話など、公式な場でのコミュニケーションに適している対人距離である。
4)公衆距離とは、相手との距離が3.6m程度以上で、二者間のコミュニケーションには不適切な距離であり、例えば演説や講演などのコミュニケーションが行われる場合の対人距離である。
1) Close distance is a distance of about 0 to 0.45 m, which corresponds to the distance at which you can sense the other person's body temperature or smell. Close distance is the distance between two people with whom you have a very intimate relationship, and is an interpersonal distance where communication is mainly based on skin-to-skin contact, such as holding hands, and smell.
2) Personal distance is the distance between you and another person that is about 0.45 to 1.2 meters, and corresponds to the distance you keep between yourself and another person in order to maintain your independence. It is the distance at which you or the other person can reach out and touch each other, and is the interpersonal distance when communicating with a close friend or other person.
3) Social distance is a distance of approximately 1.2 to 3.6 meters between two people, at which it is difficult to touch the other person and is an interpersonal distance that is appropriate for communication in formal settings, such as conversations between colleagues at work.
4) Public distance is a distance of approximately 3.6 m or more from the other person, which is an inappropriate distance for communication between two people, and is the interpersonal distance when communication such as a speech or lecture is taking place.
図3は、第2実施形態の三次元空間表示システム100構成を示すブロック図である。本実施形態の三次元空間表示システム100では、図1に示した三次元空間表示システム1が複数備えられ、お互いにデジタル通信網NWを介して接続される。これによって、複数の遠隔地同士が互いに自然なコミュニケーションを実現する三次元画像表示コミュニケーターを構成している。尚、立体カメラ20により得られた三次元情報は、必要に応じて演算部31などの信号処理によって圧縮、又は/及び変換され、通信部10を介して、通信先に送信される。
Figure 3 is a block diagram showing the configuration of a three-dimensional
なお、通信部10による通信手段として特に制限はないが、三次元情報を送受し合うため、上記に挙げた5Gの通信網のように大容量の情報を高速に伝送可能な通信手段を有することが好ましい。
The communication means used by the
図4は、第2実施形態の三次元空間表示システム100が適用される例を説明する図である。図4のXY方向は平面方向を示し、Z方向は鉛直方向を示している。立体カメラ20が設置される位置、方向、機数は、図2と同様であるため、その説明を省略する。三次元表示ディスプレイ30についても同様である。この図の例では、三次元空間表示システム100は、デジタル通信網NWを介して通信可能に接続される2つの遠隔地における、自然なコミュニケーションを実現する三次元画像表示コミュニケーターとして機能する。
Figure 4 is a diagram illustrating an example in which the three-dimensional
すなわち、実体空間JK-1に存在するメンバーが立体カメラ20-1に撮像されることによって得られる三次元情報が、デジタル通信網NWを介して三次元表示ディスプレイ30-2に送信される。これにより、三次元表示ディスプレイ30-2には、立体カメラ20-1で撮像された空間(実体空間JK-1)を再生した再生空間SK-1が表示される。 That is, the three-dimensional information obtained by capturing images of the members present in the physical space JK-1 by the stereoscopic camera 20-1 is transmitted to the three-dimensional display 30-2 via the digital communication network NW. As a result, the three-dimensional display 30-2 displays a reproduced space SK-1 that is a reproduction of the space captured by the stereoscopic camera 20-1 (physical space JK-1).
一方、実体空間JK-2に存在するメンバー(この例では一人)が立体カメラ20-2に撮像されることによって得られる三次元情報が、デジタル通信網NWを介して三次元表示ディスプレイ30-1に送信される。これにより、三次元表示ディスプレイ30-1には、立体カメラ20-2で撮像された空間(実体空間JK-2)を再生した再生空間SK-2が表示される。 Meanwhile, the three-dimensional information obtained by capturing an image of a member (in this example, one person) present in the physical space JK-2 by the stereoscopic camera 20-2 is transmitted to the three-dimensional display 30-1 via the digital communications network NW. As a result, the three-dimensional display 30-1 displays a reproduced space SK-2 that is a reproduction of the space (physical space JK-2) captured by the stereoscopic camera 20-2.
ここで、本実施形態の要素セルについて図5を用いて説明する。図5は、三次元表示ディスプレイ30から観察対象とする物体までの距離と、その物体を再現する際に生じるボケの大きさとの関係を示す特性図である。図5の横軸はディスプレイからの距離を示す。図5の縦軸はボケの大きさを示す。
Here, the element cell of this embodiment will be described with reference to FIG. 5. FIG. 5 is a characteristic diagram showing the relationship between the distance from the
一般に、ピント調整を可能とするディスプレイでは、図13に示すように、観察者は、ディスプレイ面を通して、その前後の空間を観察しており、再生すべき点物体である再生点から広がる光と同じ方向の光線が観察者の瞳より小さなサイズで再現されると観察者は、あたかも空間に点光源があるかのように観察することができる。 Generally, on a display that allows focus adjustment, as shown in Figure 13, the observer views the space in front of and behind the display surface, and when light rays in the same direction as the light spreading from the reproduction point (the point object to be reproduced) are reproduced in a size smaller than the observer's pupil, the observer can observe as if there were a point light source in space.
しかしながら、ディスプレイから再生される光線は、厳密には、図14に示すように様々な原因で広がりをもった光となり、それが再生像にボケが生じる要因となる。特に、光線の方向を決めるディスプレイの要素セルが小さい場合、要素セルを開口とする回折の影響によって、光は開口の外側に回り込んで広がりボケを生じることになる。 However, strictly speaking, the light rays reproduced from the display become spread due to various reasons as shown in Figure 14, which causes blurring in the reproduced image. In particular, when the element cells of the display that determine the direction of the light rays are small, the light will bend around the outside of the aperture due to the effect of diffraction caused by the element cells as apertures, causing it to spread and become blurred.
開口による回折の広がりは、ディスプレイ面から離れた位置ではフラウンフォーファ回折として近似でき、円形開口の場合、その広がり角はエアリーディスク(回折パターンの中心に生じる明るい領域)の大きさから求めることができる。すなわち円形開口から離れた遠視野にできる最小の暗環と光軸との隔たりを、光軸と平行で円形開口の端面を通る光線の広がり角θで表わすと、以下のように表現することができる(図15参照)。ここで、(式1)におけるλは光の波長、dは円形開口の直径である。 The spread of diffraction caused by an aperture can be approximated as Fraunhofer diffraction at positions away from the display surface, and in the case of a circular aperture, the spread angle can be calculated from the size of the Airy disk (the bright area that occurs in the center of the diffraction pattern). In other words, the distance between the optical axis and the smallest dark ring that can form in the far field away from the circular aperture can be expressed as follows (see Figure 15) when expressed as the spread angle θ of a ray of light that is parallel to the optical axis and passes through the end face of the circular aperture. Here, in (Equation 1), λ is the wavelength of light, and d is the diameter of the circular aperture.
θ=1.22×λ/d ・・・・(式1) θ=1.22×λ/d (Formula 1)
上記のような開口は、光線の方向を定義するディスプレイ上の面積の単位となる。このような単位を「要素セル」と呼称する。要素セルは、例えばマイクロレンズアレイを用いるライトフィールドディスプレイ(図19)では、1つのレンズが要素セルに相当する。また、液晶パネルなどを重ねたスタティックディスプレイ型のライトフィールドディスプレイ(図20)の場合、使用するディスプレイの画素が要素セルになる。 An aperture such as the one described above is a unit of area on the display that defines the direction of light rays. This unit is called an "element cell." For example, in a light field display that uses a microlens array (Figure 19), one lens corresponds to an element cell. In the case of a static display type light field display (Figure 20) in which liquid crystal panels or the like are stacked, the pixels of the display used become element cells.
ライトフィールドディスプレイでは、要素セル毎に光線の方向を制御するため、ピント調整の機能を持たせるためには、要素セルは観察者の瞳より十分に小さい必要がある。一般に人の瞳のサイズは2~8mm程度である。このため、要素セルのサイズを0.3mmとし、光の波長を500nmとすると、(式1)より光線の広がり角は、以下で表現される。 In a light field display, the direction of light rays is controlled for each element cell, so in order to provide focus adjustment functionality, the element cells must be sufficiently smaller than the observer's pupil. The size of a human pupil is generally around 2-8 mm. Therefore, if the size of the element cell is 0.3 mm and the wavelength of light is 500 nm, the spread angle of the light rays can be expressed as follows from (Equation 1).
θ=1.22×500×10-6/0.3
≒2.03×10-3(rad)
≒0.12(度)
θ=1.22×500× 10-6 /0.3
≒2.03× 10-3 (rad)
≒ 0.12 (degrees)
つまり、図15で円形開口を有する面からの距離L=3.6m離れた位置における、0.3mmの要素セルを通過した光線によるボケの大きさは、3600×tan(0.12°)×2≒15(mm)となり、約15mmの長さのボケが広がることになる。例えば、3.6m離れた位置での人物の顔に対して、15mm程度のボケが生じたとすると、人物としての認識はできるが、表情を読み取ることは難しくなる。 In other words, in Figure 15, the size of the blur caused by light passing through a 0.3 mm element cell at a distance L = 3.6 m from the surface with the circular opening is 3600 x tan (0.12°) x 2 ≒ 15 (mm), which means the blur spreads over a length of about 15 mm. For example, if a person's face at a distance of 3.6 m is blurred by about 15 mm, the person can be recognized, but it will be difficult to read their facial expression.
一般に、視力1.0の人は、裸眼で1/60度の角度の分解能をもつ。これと同等の回折による広がり角θとなる要素セルのサイズdは、波長を500nmとすると、(式1)より、以下で表現することができる。 Generally, a person with 1.0 vision has an angular resolution of 1/60 degrees with the naked eye. The size d of the element cell that produces the equivalent diffraction spread angle θ can be expressed as follows from (Equation 1), assuming a wavelength of 500 nm.
d=1.22×500×10-6/tan(1/60°)×2
=4.2mm
d=1.22×500×10-6/tan (1/60°)×2
= 4.2 mm
同様に、自動車免許の条件である視力0.7の人と同等の1/60/0.7度の角度の分解能をもつ、ボケを生じる要素セルのサイズは2.9mmとなる。眼鏡が不要な最低の視力は視力0.3であり、この条件における同様の計算により求められる、ボケを生じる要素セルのサイズは1.2mmとなる。視力0.2の条件において、ボケを生じる要素セルのサイズは0.8mmとなる。このことから観察して許容できるボケに抑えるためには、少なくとも0.8mm以上の要素セルのサイズdが必要と言える。 Similarly, the size of an element cell that generates blur, with an angular resolution of 1/60/0.7 degrees, equivalent to that of a person with 0.7 visual acuity, which is a requirement for a driver's license, is 2.9 mm. The minimum visual acuity without the need for glasses is 0.3, and the size of an element cell that generates blur, calculated using a similar method under these conditions, is 1.2 mm. With a visual acuity of 0.2, the size of an element cell that generates blur is 0.8 mm. From this, it can be said that an element cell size d of at least 0.8 mm or more is necessary to keep the blur to an acceptable level when observed.
ここで、図5に、要素セルのサイズdをパラメータとし、ディスプレイからの距離Lと回折によるボケの大きさの関係を示す。要素セルのサイズdは、図15におけるdに相当する。すなわち、上記で計算した要素セルのサイズdであり、条件に応じて、d=4.2mm、2.9mm、1.2mm、又は0.8mmと算出されたサイズに相当する。 Figure 5 shows the relationship between the distance L from the display and the degree of blur due to diffraction, with the element cell size d as a parameter. The element cell size d corresponds to d in Figure 15. That is, it is the element cell size d calculated above, and corresponds to the calculated size d = 4.2 mm, 2.9 mm, 1.2 mm, or 0.8 mm depending on the conditions.
図5に示すように、ディスプレイからの距離(L)が同じであれば、要素セルのサイズ(d)が大きいほど、ボケの大きさが小さくなることが分かる。これは(式1)でdが大きくなれば広がり角θが小さくなることを反映している。 As shown in Figure 5, if the distance from the display (L) is the same, the larger the element cell size (d), the smaller the blur. This reflects the fact that in (Equation 1), as d increases, the spread angle θ decreases.
ここで、要素セルを配置する間隔(ピッチp)について、図6を用いて説明する。図6は、三次元表示ディスプレイ30から観察対象とする物体までの距離と、再現された物体を見る観察者の網膜上の分解能(錯乱円直径)との関係を示す特性図である。図6の横軸はディスプレイからの距離を示す。図6の縦軸は錯乱円直径を示す。
The spacing (pitch p) at which element cells are arranged will now be explained with reference to FIG. 6. FIG. 6 is a characteristic diagram showing the relationship between the distance from the
一般に、人の瞳の大きさは2~8mm程度であり、この中に複数の光線を通過させて目のピント調整を実現する。このようなピント調整を実現するためには、少なくとも瞳内に2つ以上の要素セルからの光線が入るような要素セルの間隔(ピッチp)で配置されることが必要となる。より自然なピント調整を実現するには、瞳内に入射する光線数(要素セルの数)は多いほうが望ましい。つまり、要素セルの数を増やすために要素セル間の間隔(ピッチp)を小さくすることが望ましい。 Generally, the size of a human pupil is about 2 to 8 mm, and multiple light rays pass through this pupil to adjust the focus of the eye. To achieve this type of focus adjustment, the element cells must be arranged at a spacing (pitch p) such that light rays from at least two element cells enter the pupil. To achieve a more natural focus adjustment, it is desirable to have a larger number of light rays (number of element cells) entering the pupil. In other words, it is desirable to reduce the spacing (pitch p) between element cells in order to increase the number of element cells.
図6に示すように、観察者から物体までの距離(L)が同じであれば、要素セルのピッチ(p)が小さいほど、錯乱円直径が小さくなることが分かる。人の網膜上の視細胞の間隔は約10μm(0.01mm)であることから、これより良い分解能(より小さい錯乱円直径)を持つためには、距離1.2mより遠い物体であれば、約0.4mm以下の要素セルのピッチpが必要であることが分かる。 As shown in Figure 6, if the distance (L) from the observer to the object is the same, the smaller the pitch (p) of the element cells, the smaller the diameter of the circle of confusion. Since the spacing between photoreceptor cells on the human retina is approximately 10 μm (0.01 mm), in order to have better resolution (smaller diameter of the circle of confusion), an element cell pitch p of approximately 0.4 mm or less is required for an object more than 1.2 m away.
また、0.5m離れた距離で24インチのXGA(Extended Graphics Array:1990年にIBM社が発表した規格)のディスプレイ程度の解像度(網膜上で30μm(0.03mm)程度の錯乱円直径)まで許容できる用途であれば、距離1.2mより遠い物体であれば、要素セルのピッチpを、1.2mm以下で配置すればよいことが分かる。 In addition, if the application allows for a resolution equivalent to that of a 24-inch XGA (Extended Graphics Array: a standard announced by IBM in 1990) display at a distance of 0.5 m (circle of confusion diameter of approximately 30 μm (0.03 mm) on the retina), then it can be seen that for objects more than 1.2 m away, the pitch p of the element cells should be set to 1.2 mm or less.
以上を総合すると、社会距離(ディスプレイから約1.2mから3.6m程度までの距離の範囲)をとってコミュニケーションを行うのであれば、要素セルのサイズdが0.8mm以上、かつ要素セルのピッチpが1.2mm以下であれば、実用上支障のないコミュニケーションが可能になる。 In summary, if communication is to be carried out at a social distance (a distance of approximately 1.2 m to 3.6 m from the display), communication without practical problems will be possible if the element cell size d is 0.8 mm or more and the element cell pitch p is 1.2 mm or less.
なお、図6の横軸は観察者から物体までの距離であるが、察者が装置のディスプレイ面に対してどの距離から観察するかは、設計時には判らない。このため、設計時においては、観察者がディスプレイ面に最も近づいた場合、つまり観察者から物体までの距離をディスプレイ面から物体までの距離として計算を行うこととする。 Note that the horizontal axis in Figure 6 is the distance from the observer to the object, but the distance from which the observer will observe the object in relation to the display surface of the device is not known at the time of design. For this reason, at the time of design, calculations are performed assuming that the observer is closest to the display surface, i.e., the distance from the observer to the object is the distance from the display surface to the object.
図7は、要素セルのサイズdより、要素セルのピッチpが大きい(p≧d)場合の略図である。これは、上述した、要素セルのサイズdが0.8mm以上、かつ要素セルのピッチpが1.2mm以下の一例である。この場合、p≧dの関係にあることから、要素セル同士が重なることがない。このため、回折格子パターンも重ならずに独立している。 Figure 7 is a schematic diagram of a case where the pitch p of the element cells is greater than the size d of the element cells (p ≥ d). This is an example of the element cell size d being 0.8 mm or more and the pitch p of the element cells being 1.2 mm or less, as mentioned above. In this case, since the relationship p ≥ d holds, the element cells do not overlap. As a result, the diffraction grating patterns are also independent and do not overlap.
図8は、本発明によるディスプレイによって、点物体を物点A’として再生した場合の概念図である。各要素セルは、ディスプレイ面において、物点A’から出た光の方向を再現する。図面の上方の様々な方向から観察すると、観察者はそれぞれの方向からあたかも物点A’が存在するように見ることができる。 Figure 8 is a conceptual diagram of a display according to the present invention reproducing a point object as object point A'. Each element cell reproduces the direction of light emitted from object point A' on the display surface. When viewed from various directions above the drawing, the viewer can see as if object point A' exists from each direction.
本実施形態では、図6で説明したように、要素セルのピッチpは瞳の大きさに対して十分に小さいことを前提とする。また、図5で説明したように、要素セルのサイズdは回折によるボケが少ないサイズとすることを前提とする。このため、観察者OBには、輻輳、ピント調整、両眼視差などの立体視に必要な条件が矛盾なく再現される。したがって、観察者OBに眼精疲労を覚えさせることがない。すなわち、ディスプレイ面に近接していない、ディスプレイ面から離れた空間であっても、自然で違和感のない空間を再現することが可能になる。 In this embodiment, as explained in FIG. 6, it is assumed that the pitch p of the element cells is sufficiently small compared to the size of the pupil. Also, as explained in FIG. 5, it is assumed that the size d of the element cells is a size that causes little blurring due to diffraction. Therefore, the conditions necessary for stereoscopic vision, such as convergence, focus adjustment, and binocular parallax, are reproduced without any contradiction for the observer OB. Therefore, the observer OB does not experience eye strain. In other words, it is possible to reproduce a natural and comfortable space even in a space that is not close to the display surface or is far from the display surface.
一方、図8に示すように、各要素セルから射出する光線は、要素セルのサイズ(d)+回折による広がり(Δα)の幅をもつ。そのため、ディスプレイ面から遠い空間を観察する場合には問題ないが、ディスプレイ面から近い物体を観察する場合、物体の解像度が低下することになる。 On the other hand, as shown in Figure 8, the light beam emitted from each element cell has a width equal to the size of the element cell (d) plus the spread due to diffraction (Δα). Therefore, while there is no problem when observing a space far from the display surface, the resolution of the object decreases when observing an object close to the display surface.
この対策として、幾つかの方法が考えられる。例えば、図9に示すように、要素セルから再生する光線の明るさの分布を特徴的な分布とすることが考えられる。図9は、要素セルから再生する光線(再生光)の明るさの分布の一例を示す図である。図9の上側は要素セル内の位置と、再生光の明るさとの関係を示す特性図である。図9の下側は要素セルから射出する再生光の明るさの分布のイメージを示す模式図である。 There are several possible ways to address this issue. For example, as shown in Figure 9, it is possible to give the brightness distribution of the light rays reproduced from the element cell a characteristic distribution. Figure 9 is a diagram showing an example of the brightness distribution of the light rays (reproduced light) reproduced from the element cell. The upper part of Figure 9 is a characteristics diagram showing the relationship between the position within the element cell and the brightness of the reproduced light. The lower part of Figure 9 is a schematic diagram showing an image of the brightness distribution of the reproduced light emitted from the element cell.
図9に示すように、要素セルから再生する光線の明るさを、中心を明るくすると共に、中心から周辺に向かうにしたがっては暗くなるような分布とする。このようにすることで、再生される物体の解像度を向上させることが可能になる。このような光線の明るさ分布を作ることには、要素セルに記録する干渉縞パターンの透過率が、中心部から周辺部にいくほど低下するように要素セル内で回折効率の変化をつけることで実現できる。 As shown in Figure 9, the brightness of the light beam reproduced from the element cell is distributed so that it is brighter at the center and darker as it moves from the center to the periphery. In this way, it is possible to improve the resolution of the reproduced object. Creating such a brightness distribution of the light beam can be achieved by varying the diffraction efficiency within the element cell so that the transmittance of the interference fringe pattern recorded in the element cell decreases from the center to the periphery.
また、解像度の低下を防ぐ方法として、図10に示すように、各要素セルから再生される再生光の光線による物点A’’のサイズを調整することが考えられる。すなわち、要素セルとして、ディスプレイ面に物点A’’から発散した球面波、つまり物点からの波面と参照光との干渉縞を記録した要素セルを形成する。これにより、図10に示すように、各要素セルから再生される光線による物点A’’のサイズを、要素セルのサイズdの回折限界まで小さくすることが可能になる。 As a method of preventing a decrease in resolution, it is possible to adjust the size of object point A'' due to the rays of reconstructed light reproduced from each element cell, as shown in Figure 10. That is, an element cell is formed on the display surface, recording a spherical wave diverging from object point A'', that is, an interference fringe between the wavefront from the object point and the reference light. This makes it possible to reduce the size of object point A'' due to the rays reproduced from each element cell to the diffraction limit of the size d of the element cell, as shown in Figure 10.
これを実現する方法として、例えば、要素セルごとに計算したCGH(Computer-Generated Hologram;計算機ホログラム)を使用する方法がある。この方法では、物体からの光が要素セルの位置に到達した際における、波面と参照光とのホログラムを計算する。この方法では、要素セルごとの演算を実行すればよい。このため、後述するような、通常のCGHの計算と比較して演算量が少なく、また並列演算も可能であり高速な演算が可能となる。 One way to achieve this is, for example, to use a CGH (Computer-Generated Hologram) calculated for each element cell. With this method, a hologram of the wavefront and reference light is calculated when the light from the object reaches the position of the element cell. With this method, it is sufficient to perform calculations for each element cell. Therefore, the amount of calculations is smaller than with normal CGH calculations, as described below, and parallel calculations are also possible, allowing for high-speed calculations.
この場合、一つの要素セルだけでもピント調整の機能を満たすことが可能になる。そのため、要素セルのピッチpが1.2mm以上であっても、自然な立体視が可能になる。しかしながら、観察者OBの視点移動に伴って、像をなめらかに変化させるためには、要素セルのピッチpが瞳のサイズ以下であることが望ましい。このため、要素セルのピッチpは少なくとも7mm以下、望ましくは2mm以下であることが望ましい。すなわち、要素セルを、物体からの球面波を記録したホログラムとした場合、要素セルのサイズdを1.2mm以上(視力0.5相当)、要素セルのピッチpを2mm以下とすることで、より高解像度の立体像を観察することができる。 In this case, it is possible for just one element cell to fulfill the focus adjustment function. Therefore, even if the pitch p of the element cells is 1.2 mm or more, natural stereoscopic vision is possible. However, in order to smoothly change the image as the observer OB moves his/her viewpoint, it is desirable for the pitch p of the element cells to be equal to or smaller than the pupil size. For this reason, it is desirable for the pitch p of the element cells to be at least 7 mm or less, and preferably 2 mm or less. In other words, if the element cells are holograms that record spherical waves from an object, a higher resolution stereoscopic image can be observed by setting the element cell size d to 1.2 mm or more (equivalent to 0.5 visual acuity) and the element cell pitch p to 2 mm or less.
図10の方法で複数の物体を再生した場合の様態を、図11を用いて説明する。ディスプレイ面の各要素セルには、物体の表面における各点から発散した球面波と参照光との干渉縞が記録されている。ディスプレイ面から比較的近くに存在する物体B’からは、近くの光点から発散した球面波が再生される。一方、ディスプレイ面から比較的遠くに存在する物体C’からは、遠くの光点から発散した球面波が再生される。このように、ディスプレイ面から物体までの距離によって波面は異なって記録される。 The manner in which multiple objects are reproduced using the method of FIG. 10 will be explained with reference to FIG. 11. In each element cell of the display surface, interference fringes between the spherical waves diverging from each point on the surface of the object and the reference light are recorded. From object B', which is relatively close to the display surface, a spherical wave diverging from a nearby light point is reproduced. On the other hand, from object C', which is relatively far from the display surface, a spherical wave diverging from a distant light point is reproduced. In this way, the wavefront is recorded differently depending on the distance from the display surface to the object.
本実施形態では、物体の表面における各点から発散した球面波と参照光との干渉縞を、立体カメラ20を通してデジタル化する。これは、従来のデジタルホログラムと同様であるが、本実施形態では、物体をサンプリングする点に特徴がある。すなわち、図11に示すように、物体をサンプリングする点を、各要素セル位置からΔαの角度で分解されたポイントとする。
In this embodiment, the interference fringes between the spherical waves emanating from each point on the surface of the object and the reference light are digitized through a
これにより、従来のデジタルホログラムでは、μmオーダのサンプリングピッチで波面を計算する必要があるのに対して、本実施形態の手法では数mmから数cmのピッチでサンプリングすればよくなる。したがって、従来の手法において必要とされていた膨大な計算量を低減させることが可能となる。 As a result, while conventional digital holograms require wavefront calculations at a sampling pitch on the order of μm, the method of this embodiment only requires sampling at a pitch of a few mm to a few cm. This makes it possible to reduce the enormous amount of calculations required in conventional methods.
また、本実施形態の手法では、ディスプレイ面から離れれば離れるほど、サンプリングする間隔(サンプリングピッチ)が広がる。このため、本実施形態の手法は、ディスプレイ面から離れた広い空間を再現するのに適した方法となる。 In addition, with the method of this embodiment, the sampling interval (sampling pitch) increases the further away from the display surface. This makes the method of this embodiment suitable for reproducing a wide space away from the display surface.
ホログラフィックステレオグラムでは、光線の方向を再現するように立体像が作られる。このため、物体を複数の方向から撮影した画像から三次元画像を表示するためのデータを作成することが可能である。したがって、様々な方法で研究されているCG(コンピュータグラフィックス)の手法を用いて、光沢のある物体や透明な物体など、物体の形状のみならず、そのテクスチャを再現することが可能である。さらに、実際の物体を撮像することで、実物の物体における立体像を再生することも可能となる。 In a holographic stereogram, a three-dimensional image is created to reproduce the direction of light rays. This makes it possible to create data for displaying a three-dimensional image from images of an object taken from multiple directions. Therefore, using CG (computer graphics) techniques, which have been researched in various ways, it is possible to reproduce not only the shape of an object, such as a glossy or transparent object, but also its texture. Furthermore, by capturing an image of the actual object, it is also possible to reproduce a three-dimensional image of the actual object.
例えば、CG手法の一つである光線追跡法を適用してホログラムのパターンを計算する方法を、図12を用いて説明する。まず、各要素セルの中心を、光線追跡法によって射出される光線の始点とする。次に、各要素セルの中心を始点として光線追跡法を行い、光線と被写体となる物体との交点を求める。これにより、要素セルごとに異なる視点位置からの点光源の集合を持つことになり、上下左右の視差を持つ要素セルのパターンを作成することが可能となる。なお、ここでの物体(被写体)は、立体カメラ20で撮像された情報から得られる三次元情報に基づいて作成された三次元物体であってもよいし、CAD(computer-aided design)などを利用して作成された仮想的な(バーチャルな)物体であってもよい。また、この計算の際に光線の方向のみを考慮した場合、図8に示すような光線による再生となる。一方、この計算の際に光線の方向、及び物点までの距離の両方を考慮した場合、図10や、図11に示すような光線による再生となる。
For example, a method of calculating a hologram pattern by applying ray tracing, which is one of the CG techniques, will be described with reference to FIG. 12. First, the center of each element cell is set as the starting point of the light ray emitted by the ray tracing method. Next, the ray tracing method is performed with the center of each element cell as the starting point to find the intersection between the light ray and the object to be the subject. This results in a set of point light sources from different viewpoint positions for each element cell, making it possible to create a pattern of element cells with parallax up, down, left, and right. The object (subject) here may be a three-dimensional object created based on three-dimensional information obtained from information captured by the
ここで、実施形態の三次元表示ディスプレイ30が行う処理の流れを、図16のフローチャートを用いて説明する。図16には、光線の方向と物点までの距離まで考慮した場合のホログラムのパターンの計算処理の流れが示されている。
Here, the flow of processing performed by the
まず、三次元表示ディスプレイ30は、ディスプレイに表示すべき物体の三次元情報を取得する(ステップS10)。次に、三次元表示ディスプレイ30は、演算すべき要素セルの中心の位置を求め(ステップS11)、要素セルの中心位置を始点とし、始点から射出されΔαずつ角度が異なる各線と物体との交点を求める(ステップS12)。そして、三次元表示ディスプレイ30は、各物体との交点を物点とし、各物点から発散する球面波の要素セル位置における複素振幅の和を求める(ステップS13)。なお、ここで求められる複素振幅は、要素セルの大きさの範囲でよい。
First, the three-
三次元表示ディスプレイ30は、以上の工程(ステップS11~S13までの工程)を全ての要素セルについて行う(ステップS14、S17)。
The three-
その後、三次元表示ディスプレイ30は、全ての要素セルの複素振幅の和を求めることでディスプレイ面での複素振幅を求める(ステップS15)。次に、三次元表示ディスプレイ30は、参照光の波面とディスプレイ面での複素振幅との干渉縞のパターンを求める(ステップS16)。これにより、三次元表示ディスプレイ30は、ディスプレイに表現するホログラムのパターンを求めることができる。
Then, the three-
上述したフローチャートに示す処理では、要素セル毎の干渉縞パターンの和を求めるのではなく、複素振幅の和を求め(ステップS15)、その後に、参照光との干渉縞パターンを演算する(ステップS16)。こうすることで、三次元表示ディスプレイ30は、物体の三次元画像を、光線の方向及び物点までの距離の両方を含めた情報として記録、再生することができる。
In the process shown in the above flowchart, the sum of the complex amplitudes is calculated (step S15) rather than the sum of the interference fringe patterns for each element cell, and then the interference fringe pattern with the reference light is calculated (step S16). In this way, the
なお、上述したフローチャートに示す処理では、要素セルの複素振幅の和を計算した後に、参照光との干渉パターンを計算したが、これに限定されることはない。三次元表示ディスプレイ30は、要素セル毎に参照光との干渉パターンを求めた後に、各干渉パターンの和を演算するようにしてもよい。この場合、三次元表示ディスプレイ30は、要素セル毎に演算を実行することができる。このため、並列演算が容易になり、演算に要する時間をより短時間とすることができる。
In the process shown in the above-mentioned flowchart, the sum of the complex amplitudes of the element cells is calculated, and then the interference pattern with the reference light is calculated, but this is not limited to the above. The three-
また、記録する立体像(物体の三次元情報)は、水平方向の視差のみを考慮したステレオグラムでもよいが、ピント調整の効果をより効果的するためには、水平方向と鉛直方向の両方向の視差をもったステレオグラムである方が望ましい。また、上述した実施形態では、要素セルとして円形のセルを例示して説明したが、これに限定する必要はない。要素セルの形状は、三角形、四角形、五角形、六角形などの多角形の形状であってもよいし、星型、楕円、長方形などの形状であってもよい。 The recorded stereoscopic image (three-dimensional information of an object) may be a stereogram that takes into account only horizontal parallax, but to make focus adjustment more effective, it is preferable to use a stereogram that has parallax in both the horizontal and vertical directions. In addition, in the above-mentioned embodiment, circular cells are used as element cells, but this is not necessary. The shape of the element cells may be a polygonal shape such as a triangle, square, pentagon, or hexagon, or may be a star, ellipse, rectangle, or other shape.
また、ホログラフィックステレオグラムを再生する光源としては、レーザーやLEDなどの単色の光源、もしくは通常の光源とフィルターを組み合わせた光源を用いることが望ましい。波長による回折角の違いに起因するボケの発生を抑えるためである。 In addition, it is preferable to use a monochromatic light source such as a laser or LED as a light source for reproducing a holographic stereogram, or a light source that combines a normal light source with a filter. This is to prevent blurring caused by differences in diffraction angles due to wavelengths.
また、光源としてレーザー光源を用いた場合、コヒーレント性を落とす工夫をすることが望ましい。スペックルによるノイズを低減させるためである。レーザー光源のコヒーレント性を落とすには、光ファイバーを透過させる、光源を振動させる、光路長を変化させる、動きのある拡散要素を光路内に挿入する、複数の光源を組み合わせるなどの方法が考えられる。 When using a laser light source as the light source, it is desirable to take measures to reduce the coherence. This is to reduce noise caused by speckle. Possible methods for reducing the coherence of a laser light source include passing the light through an optical fiber, vibrating the light source, changing the optical path length, inserting a moving diffusing element into the optical path, and combining multiple light sources.
上記では、社会距離として、おおよそ1.2m程度から3.6m程度まで距離を対象としてきたが、空間において再生される全て物体がこの距離の範囲内に存在する必要はない。主に観察対象となる物体が、少なくともこの社会距離の範囲に存在していればよい。また、再生される対象(物体)としては、人に限定されるものではなく、動物やロボットなどであってもよい。また、再生される対象(物体)が、空間に再現された2次元の画像であってもよい。さらには、コミュニケーション対象の存在を示唆するような建築物、例えば、空間に配置された机や椅子、テーブルなどを再現するものであってもよい。さらには、再生される対象が、コミュニケーションを直接取るものでなくてもよい。例えば、重機を遠隔操作する際の観察対象となる地山などが、社会距離の範囲に存在している形態であっても構わない。遠隔手術や、宇宙空間におけるロボットアームの操作、軍事などにおける無人偵察機の操作などを行う場合も同様である。 In the above, the social distance is set to a distance of approximately 1.2 m to approximately 3.6 m, but it is not necessary for all objects reproduced in the space to exist within this distance range. It is sufficient that the object to be observed exists at least within this social distance range. Furthermore, the reproduced object (object) is not limited to a person, but may be an animal or a robot. Furthermore, the reproduced object (object) may be a two-dimensional image reproduced in the space. Furthermore, it may be a building that suggests the presence of a communication target, such as a desk, chair, or table placed in the space. Furthermore, the reproduced object does not have to be something that directly communicates. For example, the natural ground that is observed when remotely operating heavy machinery may exist within the social distance range. The same applies to remote surgery, the operation of a robot arm in outer space, and the operation of an unmanned reconnaissance aircraft in the military.
図5や図6を用いて説明したように、空間の奥行きが3.6mを超えた場合であっても本発明を用いればボケが少なく広い空間を再生することが可能になる。例えば、景色などの広い空間や建物や大きな動植物など巨大な物体を含む空間を表現するために、社会距離を超えた空間の表現にも本発明は利用することが可能である。 As explained using Figures 5 and 6, the present invention makes it possible to reproduce a wide space with little blurring even when the depth of the space exceeds 3.6 m. For example, the present invention can be used to express a space that exceeds social distance, such as a wide space such as a landscape or a space that includes large objects such as a building or large plants and animals.
また、接眼レンズなどの光学系を介してディスプレイを観察する場合、要素セルのサイズd、及び要素セルのピッチpの条件を、光学系の倍率に基づいて補正するようにしてもよい。例えば、ディスプレイからの距離が、おおよそ1.2m程度から3.6m程度までの社会距離で、接眼レンズなしのとき要素セルのサイズdを1.0mm、要素セルのピッチpを1.2mmとする場合を考える。この場合において、ヘッドマウントディスプレイなどに本実施形態を応用し、ヘッドマウントディスプレイなどに装着される接眼レンズの倍率が2倍であった場合、三次元表示ディスプレイ30は、要素セルのサイズdを1.0/2=0.5mm、要素セルのピッチpを1.2/2=0.6mmに補正する。逆に、縮小光学系を用いて光学系の倍率を0.5とする場合、三次元表示ディスプレイ30は、要素セルのサイズdを1.0/0.5=2.0mm、要素セルのピッチpを1.2/0.5=2.4mmとなるように補正する。
In addition, when observing the display through an optical system such as an eyepiece, the conditions of the size d of the element cells and the pitch p of the element cells may be corrected based on the magnification of the optical system. For example, consider a case where the size d of the element cells is 1.0 mm and the pitch p of the element cells is 1.2 mm when the distance from the display is a social distance of approximately 1.2 m to 3.6 m and there is no eyepiece. In this case, when this embodiment is applied to a head-mounted display or the like and the magnification of the eyepiece attached to the head-mounted display or the like is 2x, the three-
すなわち、補正後のサイズd#、補正後のp#は以下の式で表現される。以下の式において、dは補正前のサイズ、pは補正前のピッチ、BRは接眼レンズなどの光学系の倍率を示す。 In other words, the corrected size d# and corrected p# are expressed by the following formulas. In the formulas below, d is the size before correction, p is the pitch before correction, and BR is the magnification of the optical system such as the eyepiece lens.
d#=d/BR
p#=p/BR
d#=d/BR
p#=p/BR
なお、接眼レンズなどを用いずに直接ディスプレイ面を観察する場合、輻輳の効果を得るために両眼で同時に観察できることが望ましい。平均の眼間距離が約60mmであることから、ディスプレイ面のサイズは、少なくとも長軸方向において60mm以上あることが望ましい。 When observing the display surface directly without using eyepieces, it is desirable to be able to observe with both eyes simultaneously in order to obtain the effect of convergence. Since the average interocular distance is approximately 60 mm, it is desirable for the size of the display surface to be at least 60 mm in the long axis direction.
(実施形態の変形例)
ここで、実施形態の変形例について説明する。本変形例では、仮想的な物体(以下、仮想物体)を再生空間に再現させる点において、上述した実施形態と相違する。仮想物体は、例えば、バーチャルなキャラクターなどである。
(Modification of the embodiment)
Here, a modified example of the embodiment will be described. This modified example differs from the above-described embodiment in that a virtual object (hereinafter, a virtual object) is reproduced in the reproduction space. The virtual object is, for example, a virtual character.
図17は、実施形態の変形例における三次元空間表示システム1Aの構成を示すブロック図である。三次元空間表示システム1Aは、例えば、通信部10と、三次元表示ディスプレイ30とを備える。すなわち、本変形例において立体カメラ20を省略することが可能となる。
Figure 17 is a block diagram showing the configuration of a three-dimensional
通信部10は、外部から仮想物体の三次元情報を取得する。仮想物体には、観察対象となる物体のみならず、背景など、再現する空間の三次元情報が含まれる。三次元表示ディスプレイ30は、通信部10を介して取得した、仮想物体の三次元情報を用いて、例えば、その仮想物体が社会距離に存在する空間を再現して表示する。
The
或いは、三次元表示ディスプレイ30は、仮想物体の三次元情報を作成する機能部を備えるようにしてもよい。或いは、本変形例の三次元表示ディスプレイ30は、予め記憶部36に記憶されている仮想物体の三次元情報を用いるようにしてもよい。この場合、三次元空間表示システム1において、通信部10を省略することができる。
Alternatively, the three-
図18は、実施形態の変形例における三次元空間表示システム1Aが適用される例を説明する図である。図18では、例えば図17で示した構成により生成した仮想物体の三次元画像が再生像SIM(この例では、再生像SIM1~SIM7)として存在する再生空間SKを、ディスプレイに表示することができる。このように、本変形例の三次元表示ディスプレイ30を用いることで、バーチャルな空間に作られた人物やキャラクターなど実在しない相手や、他システムから送られたコミュニケーション相手のアバター等と、社会距離がとれる奥行きのある社会距離空間において、より自然なコミュニケーションを取ることができる。
Figure 18 is a diagram illustrating an example in which a three-dimensional
本変形例におけるコミュニケーションの手段は、特定の手段に限定されるものではない。例えば、三次元空間表示システム1Aが、キャラクターとコミュニケーションをとる手段に適用されてもよい。ここでのキャラクターは、仮想物体として表示されるバーチャルなキャラクターである。
The means of communication in this modified example is not limited to a specific means. For example, the three-dimensional
この場合、三次元空間表示システム1は、例えば、ライブカメラと、キャラクターに所定のリアクションを取らせた三次元空間画像を表示させる信号処理を行うプロセッサとを備える。ライブカメラはユーザを撮影する。プロセッサは、ライブカメラによって撮影された映像から当該ユーザのジェスチャーを認識し、当該ジェスチャーに基づいて、キャラクターに取らせるリアクションを決定し、決定したリアクションを取らせたキャラクターの画像を表示させる。これにより、ジェスチャーを通じて当該キャラクターとコミュニケーションをとることが可能となる。
In this case, the three-dimensional
或いは、三次元空間表示システム1Aが、マイクと、スピーカーと、キャラクターに所定のリアクションを取らせた三次元空間画像を表示させる信号処理を行うプロセッサとを備える。マイクにはユーザの音声が入力される。プロセッサは、当該マイクから入力されたユーザの音声に応じて当該音声の返答を決定し、決定した返答をスピーカーから出力させる。また、プロセッサは、ユーザの音声に応じてキャラクターに取らせるリアクションを決定し、決定したリアクションを取らせたキャラクターの画像を表示させる。これにより、音声を通じて当該キャラクターとコミュニケーションをとることが可能となる。
Alternatively, the three-dimensional
また、本変形例において、仮想物体は、CG(Computer Graphics)ではなく、予め立体カメラ等で撮影しておいた実写の動画像であってもよい。このような場合であっても、上述したようなユーザからのジェスチャーや音声などの入力に応じて、リアクションとして再生する動画像を切り替えることで、仮想物体とインタラクション(コミュニケーション)することが可能となる。 In addition, in this modified example, the virtual object may not be CG (Computer Graphics), but may be a live-action video image captured in advance by a stereoscopic camera or the like. Even in such a case, it is possible to interact (communicate) with the virtual object by switching the video image played as a reaction in response to gestures, voice input, or other input from the user as described above.
また、三次元空間表示システム1Aが再生(表示)する仮想物体が静止物体である場合には、三次元表示ディスプレイ30の表示部34として、印刷物などの変化しない(静止した)画像を表示するようにしてもよい。
In addition, if the virtual object reproduced (displayed) by the three-dimensional
また、三次元表示ディスプレイ30の表示部34が表示する画像は、電子線描画装置などの微細なパターニング装置を用いてホログラムパターンが描画された画像、さらには、描画されたホログラムパターンが複製された画像であってもよい。このように、表示する画像として固定されたホログラムパターン(静止画像)を用いることで、安価に広い空間を再現することが可能になる。なお、この場合、表示部34がホログラムパターンによって光の方向を制御する。表示部34は、各要素セルが射出する光線によりホログラムパターンを少なくとも虚像または実像のいずれか一方として表示する。このため、表示機能と光制御機能とが一つのデバイスで実現されることになる。このような場合、仮想物体として表示されるバーチャルなキャラクターにリアクションを取らせることはできなくなるが、上述のように疑似的に仮想物体との音声によるコミュニケーションを成立させることは可能である。なお、表示部34と共に、又は表示部43に代えて光制御部35が、固定されたホログラムパターン等の静止画像を表示するようにしてもよい。表示部34は、「立体像表示部」の一例である。光制御部35は、「立体像表示部」の一例である。また、ホログラムパターンが描画された画像は、「立体像」の一例である。描画されたホログラムパターンが複製された画像は、「立体像」の一例である。
The image displayed by the
以上、説明したように、実施形態の三次元表示ディスプレイ30は、再生空間に立体像を再生させる場合における前記立体像から仮想的に射出される光線を再生する。
As described above, the three-
実施形態の三次元表示ディスプレイ30は表示部34、又は/及び光制御部35を備える。表示部34、又は/及び光制御部35は「立体像表示部」の一例である。表示部34、又は/及び光制御部35は、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により立体像を少なくとも虚像または実像のいずれか一方として表示する。表示部34、又は/及び光制御部35は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示する。また、三次元表示ディスプレイ30では、要素セルのサイズd、及び要素セルのピッチpは、再生空間に再現される立体像が観察者に観察される度合いに応じて決定される値である。立体像は、再生空間おける奥行き方向の距離が社会距離に相当する領域に再現される。
The three-
これにより、実施形態の三次元表示ディスプレイ30は、再生空間において社会距離にある立体像が観察者OBによく見えるように、要素セルのサイズd、及び要素セルのピッチpを決定することができる。したがって、社会距離空間を、自然な距離感が得られ、且つボケが少ない三次元空間として再生することができる。
As a result, the three-
また、実施形態の三次元表示ディスプレイ30は演算部31又は/及び制御部32を備える。演算部31又は/及び制御部32は、「信号処理部」の一例である。演算部31又は/及び制御部32は、要素セル集合の各要素(要素セル)について、再生する光線の方向を演算する。要素セルは、再生画面に対応して二次元的に配置される。要素セルには、立体像の表面から射出される複数の前記光線からなる集合を、各々の光線が到達する再生画面の位置に応じて分割した各要素が対応づけられる。これにより上述した効果と同様の効果を奏する。
The three-
また、実施形態の三次元表示ディスプレイ30では、要素セルのサイズdは再現された立体像に生じるボケの大きさに応じて決定される。これにより、許容できるボケの大きさに抑えられるように要素セルのサイズdが決定されるため、ボケの少ない立体像を再生することができる。
In addition, in the three-
また、要素セルのピッチpは、再現された立体像を観察する観察者の網膜上の分解能に応じて決定される。これにより、ピント調整ができるように要素セルのピッチpが決定されるため、観察者OBがピントを合わせることが可能な立体像を再生することができる。 The pitch p of the element cells is determined according to the resolution on the retina of the observer who views the reproduced three-dimensional image. This allows the pitch p of the element cells to be determined so that focus adjustment is possible, making it possible to reproduce a three-dimensional image that the observer OB can focus on.
上述した実施形態における三次元空間表示システム1(1A、100)、及び三次元表示ディスプレイ30の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
The three-dimensional space display system 1 (1A, 100) and the three-
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 The above describes an embodiment of the present invention in detail with reference to the drawings, but the specific configuration is not limited to this embodiment, and includes designs that do not deviate from the gist of the present invention.
1、1A、100…三次元空間表示システム、10…通信部、20…立体カメラ、30…三次元表示ディスプレイ(光線再生装置)、31…演算部(信号処理部)、32…制御部(信号処理部)、33…光源部、34…表示部(立体像表示部)、35…光制御部(立体像表示部)、36…記憶部 1, 1A, 100...3D space display system, 10...communication unit, 20...stereoscopic camera, 30...3D display (light reproduction device), 31...arithmetic unit (signal processing unit), 32...control unit (signal processing unit), 33...light source unit, 34...display unit (stereoscopic image display unit), 35...light control unit (stereoscopic image display unit), 36...storage unit
Claims (11)
前記立体像の表面から射出される複数の前記光線が到達する再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部、
を備え、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、
光線再生装置。 A light beam reproducing device for reproducing light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, comprising:
a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells that are two-dimensionally arranged corresponding to a reproduction screen on which the plurality of light rays emitted from the surface of the stereoscopic image reach;
Equipped with
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
Light reproduction device.
前記立体像の表面から射出される複数の前記光線が到達する再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部、
を備え、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下である、
光線再生装置。 A light beam reproducing device for reproducing light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, comprising:
a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells that are two-dimensionally arranged corresponding to a reproduction screen on which the plurality of light rays emitted from the surface of the stereoscopic image reach;
Equipped with
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less.
Light reproduction device.
請求項1又は請求項2に記載の光線再生装置。 a signal processing unit that divides a set of a plurality of the light rays emitted from a surface of the stereoscopic image in accordance with a position on the reproduction screen, associates each element of the element cell set with each of the divided elements of the plurality of the light rays, and calculates one or more components of the light rays to be reproduced for each element of the element cell set,
3. The light reproducing device according to claim 1 or 2 .
域に前記立体像を表示させる場合に、当該表示される前記立体像を観察する観察者の網膜
上の分解能に応じて決定される、
請求項1から請求項3のいずれか一項に記載の光線再生装置。 the pitch of the element cells is determined according to a resolution on the retina of an observer who observes the displayed stereoscopic image when the stereoscopic image is displayed in an area in a reproduction space where the distance in the depth direction corresponds to a social distance;
The light reproducing device according to any one of claims 1 to 3.
請求項1から請求項4のいずれか一項に記載の光線再生装置。 The size of the element cell is determined to be smaller than the pitch of the element cell.
5. The light reproducing device according to claim 1.
請求項1から請求項5のいずれか一項に記載の光線再生装置。 The element cell is a hologram that records a wavefront from a stereoscopic image.
6. A light reproducing device according to claim 1.
前記光線再生装置に、立体像の三次元情報を出力する立体カメラと、
を備える三次元空間表示システム。 A light beam reproduction device according to any one of claims 1 to 6 ; a stereoscopic camera that outputs three-dimensional information of a stereoscopic image to the light beam reproduction device;
A three-dimensional space display system comprising:
前記立体像表示部が、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance;
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
光線再生方法。Light reproduction method.
前記立体像表示部が、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance;
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下であり、The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less,
光線再生方法。Light reproduction method.
前記立体像の表面から射出される複数の前記光線からなる集合を、前記再生画面の位置に応じて分割し、前記要素セル集合の各要素に前記分割した前記複数の前記光線の各要素を対応づけ、前記要素セル集合の各要素について、再生する1以上の前記光線の成分を演算する信号処理手段、
として機能させるプログラムであって、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、
プログラム。 a computer of a light beam reproduction device including a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen;
a signal processing means for dividing a set of a plurality of said light rays emitted from a surface of said stereoscopic image in accordance with a position on said reproduction screen, for associating each element of said element cell set with each of said divided elements of said plurality of said light rays, and for calculating one or more components of said light rays to be reproduced for each element of said element cell set;
A program that functions as
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
program.
前記立体像の表面から射出される複数の前記光線からなる集合を、前記再生画面の位置に応じて分割し、前記要素セル集合の各要素に前記分割した前記複数の前記光線の各要素を対応づけ、前記要素セル集合の各要素について、再生する1以上の前記光線の成分を演算する信号処理手段、
として機能させるプログラムであって、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下である、
プログラム。 a computer of a light beam reproduction device including a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen;
a signal processing means for dividing a set of a plurality of said light rays emitted from a surface of said stereoscopic image in accordance with a position on said reproduction screen, for associating each element of said element cell set with each of said divided elements of said plurality of said light rays, and for calculating one or more components of said light rays to be reproduced for each element of said element cell set;
A program that functions as
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less.
program.
Priority Applications (8)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020163317A JP7615590B2 (en) | 2020-09-29 | 2020-09-29 | Light reproduction device, three-dimensional space display system, light reproduction method, and program |
| PCT/JP2021/030292 WO2022039208A1 (en) | 2020-08-20 | 2021-08-19 | Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program |
| EP24213833.7A EP4485070A3 (en) | 2020-08-20 | 2021-08-19 | Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program |
| CN202180050388.4A CN115956214A (en) | 2020-08-20 | 2021-08-19 | Diffraction sheet and its manufacturing method, three-dimensional display device, light reproduction device, three-dimensional space display system, light reproduction method and program |
| CN202511311798.6A CN120909012A (en) | 2020-08-20 | 2021-08-19 | Light reproduction device, three-dimensional space display system, light reproduction method, and program |
| EP21858352.4A EP4202536B1 (en) | 2020-08-20 | 2021-08-19 | Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program |
| US18/171,576 US12392939B2 (en) | 2020-08-20 | 2023-02-20 | Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program |
| US18/807,693 US20240411066A1 (en) | 2020-08-20 | 2024-08-16 | Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020163317A JP7615590B2 (en) | 2020-09-29 | 2020-09-29 | Light reproduction device, three-dimensional space display system, light reproduction method, and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022055732A JP2022055732A (en) | 2022-04-08 |
| JP7615590B2 true JP7615590B2 (en) | 2025-01-17 |
Family
ID=80998543
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020163317A Active JP7615590B2 (en) | 2020-08-20 | 2020-09-29 | Light reproduction device, three-dimensional space display system, light reproduction method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7615590B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2023147942A (en) | 2022-03-30 | 2023-10-13 | セイコーエプソン株式会社 | Recording method and recording device |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000069505A (en) | 1998-08-25 | 2000-03-03 | Terumo Corp | Stereoscopic image display device |
| JP2007025601A (en) | 2005-07-21 | 2007-02-01 | Sony Corp | Display device, display control method, and program |
| JP2008233469A (en) | 2007-03-20 | 2008-10-02 | Toshiba Corp | Stereoscopic image display device |
| JP2010032818A (en) | 2008-07-29 | 2010-02-12 | National Institute Of Information & Communication Technology | Lens function member array, hologram producing device, and hologram producing program |
| US20150277378A1 (en) | 2014-03-31 | 2015-10-01 | Disney Enterprises, Inc. | Image based multiview multilayer holographic rendering algorithm |
| US20180173159A1 (en) | 2016-12-21 | 2018-06-21 | Vladimir Yankov | Method of Forming a Rarefied Hologram for Video Imaging and 3D Lithography |
| WO2019017290A1 (en) | 2017-07-20 | 2019-01-24 | エフ・エーシステムエンジニアリング株式会社 | Stereoscopic display |
| JP2019522231A (en) | 2016-05-18 | 2019-08-08 | シーリアル テクノロジーズ ソシエテ アノニムSeereal Technologies S.A. | Method for generating a hologram |
| WO2019171342A1 (en) | 2018-03-09 | 2019-09-12 | Evolution Optiks Limited | Vision correction system and method, light field display and microlens array therefor |
| WO2019210254A1 (en) | 2018-04-27 | 2019-10-31 | Limbak 4Pi S.L. | Human vision-adapted light field displays |
| US20190333444A1 (en) | 2018-04-25 | 2019-10-31 | Raxium, Inc. | Architecture for light emitting elements in a light field display |
| JP2019531496A (en) | 2016-07-15 | 2019-10-31 | ライト フィールド ラボ、インコーポレイテッド | Holographic superposition of real-world plenoptic opacity modulation via transparent waveguide arrays for light field, virtual and augmented reality |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2317291A (en) * | 1996-09-12 | 1998-03-18 | Sharp Kk | Observer tracking directional display |
| JP3787939B2 (en) * | 1997-02-27 | 2006-06-21 | コニカミノルタホールディングス株式会社 | 3D image display device |
-
2020
- 2020-09-29 JP JP2020163317A patent/JP7615590B2/en active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000069505A (en) | 1998-08-25 | 2000-03-03 | Terumo Corp | Stereoscopic image display device |
| JP2007025601A (en) | 2005-07-21 | 2007-02-01 | Sony Corp | Display device, display control method, and program |
| JP2008233469A (en) | 2007-03-20 | 2008-10-02 | Toshiba Corp | Stereoscopic image display device |
| JP2010032818A (en) | 2008-07-29 | 2010-02-12 | National Institute Of Information & Communication Technology | Lens function member array, hologram producing device, and hologram producing program |
| US20150277378A1 (en) | 2014-03-31 | 2015-10-01 | Disney Enterprises, Inc. | Image based multiview multilayer holographic rendering algorithm |
| JP2019522231A (en) | 2016-05-18 | 2019-08-08 | シーリアル テクノロジーズ ソシエテ アノニムSeereal Technologies S.A. | Method for generating a hologram |
| JP2019531496A (en) | 2016-07-15 | 2019-10-31 | ライト フィールド ラボ、インコーポレイテッド | Holographic superposition of real-world plenoptic opacity modulation via transparent waveguide arrays for light field, virtual and augmented reality |
| US20180173159A1 (en) | 2016-12-21 | 2018-06-21 | Vladimir Yankov | Method of Forming a Rarefied Hologram for Video Imaging and 3D Lithography |
| WO2019017290A1 (en) | 2017-07-20 | 2019-01-24 | エフ・エーシステムエンジニアリング株式会社 | Stereoscopic display |
| WO2019171342A1 (en) | 2018-03-09 | 2019-09-12 | Evolution Optiks Limited | Vision correction system and method, light field display and microlens array therefor |
| US20190333444A1 (en) | 2018-04-25 | 2019-10-31 | Raxium, Inc. | Architecture for light emitting elements in a light field display |
| WO2019210254A1 (en) | 2018-04-27 | 2019-10-31 | Limbak 4Pi S.L. | Human vision-adapted light field displays |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022055732A (en) | 2022-04-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11381804B2 (en) | Light projector using an acousto-optical control device | |
| US8130260B2 (en) | System and method for 3-dimensional display of image data | |
| Scarfe et al. | Using high-fidelity virtual reality to study perception in freely moving observers | |
| JP2022502800A (en) | Systems and methods for augmented reality | |
| US11122256B1 (en) | Mixed reality system | |
| US20240411066A1 (en) | Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program | |
| US12028419B1 (en) | Systems and methods for predictively downloading volumetric data | |
| US12352976B1 (en) | Computer-implemented system and method for providing VR/AR visual experiences to users by pupil-directed retinal projection in near-eye displays | |
| CN113875230A (en) | Mixed-mode three-dimensional display system and method | |
| TWI904312B (en) | Headset | |
| Broll et al. | VR/AR output devices | |
| TW202229978A (en) | Reverse pass-through glasses for augmented reality and virtual reality devices | |
| Zhang et al. | Design and implementation of an optical see-through near-eye display combining Maxwellian-view and light-field methods | |
| JP7615590B2 (en) | Light reproduction device, three-dimensional space display system, light reproduction method, and program | |
| JP6855493B2 (en) | Holographic video capture and telepresence system | |
| Dorado et al. | Toward 3D integral-imaging broadcast with increased viewing angle and parallax | |
| JP7322490B2 (en) | 3D image display system and usage method thereof, 3D image display display and usage method thereof, 3D image display display pattern calculation method | |
| CN116762032A (en) | Reverse see-through glasses for augmented reality and virtual reality devices | |
| Hansen et al. | Calibrating, Rendering and Evaluating the Head Mounted Light Field Display |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230823 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240723 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240919 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20241203 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241216 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7615590 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |