[go: up one dir, main page]

JP7615590B2 - Light reproduction device, three-dimensional space display system, light reproduction method, and program - Google Patents

Light reproduction device, three-dimensional space display system, light reproduction method, and program Download PDF

Info

Publication number
JP7615590B2
JP7615590B2 JP2020163317A JP2020163317A JP7615590B2 JP 7615590 B2 JP7615590 B2 JP 7615590B2 JP 2020163317 A JP2020163317 A JP 2020163317A JP 2020163317 A JP2020163317 A JP 2020163317A JP 7615590 B2 JP7615590 B2 JP 7615590B2
Authority
JP
Japan
Prior art keywords
stereoscopic image
element cell
light
reproduction
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020163317A
Other languages
Japanese (ja)
Other versions
JP2022055732A (en
Inventor
翼 鈴木
進 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Holdings Inc
Original Assignee
Toppan Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2020163317A priority Critical patent/JP7615590B2/en
Application filed by Toppan Holdings Inc filed Critical Toppan Holdings Inc
Priority to CN202511311798.6A priority patent/CN120909012A/en
Priority to PCT/JP2021/030292 priority patent/WO2022039208A1/en
Priority to EP24213833.7A priority patent/EP4485070A3/en
Priority to CN202180050388.4A priority patent/CN115956214A/en
Priority to EP21858352.4A priority patent/EP4202536B1/en
Publication of JP2022055732A publication Critical patent/JP2022055732A/en
Priority to US18/171,576 priority patent/US12392939B2/en
Priority to US18/807,693 priority patent/US20240411066A1/en
Application granted granted Critical
Publication of JP7615590B2 publication Critical patent/JP7615590B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Diffracting Gratings Or Hologram Optical Elements (AREA)

Description

本発明は、光線再生装置、三次元空間表示システム、光線再生方法、及びプログラムに関する。 The present invention relates to a light reproduction device, a three-dimensional space display system, a light reproduction method, and a program.

家族間、親しい間柄、または、政治やビジネスの世界でもコミュニケーションにおいて、互いの気持ちを知ることが重要である。非言語的な部分では、会話の間合いや、パーソナルスペースの距離感を違和感なく伝える必要があり、加えてその距離感の中で相手の表情や仕草など非言語的な情報の獲得が大切である。 Whether it's between family members, close friends, or in the political or business world, it's important to know each other's feelings when communicating. In terms of non-verbal communication, it's necessary to communicate the appropriate conversational interval and personal space without feeling awkward. In addition, it's important to pick up on non-verbal information, such as the other person's facial expressions and gestures, within that distance.

コミュニケーションを円滑に行うための技術として種々の技術が提供されている。例えば、通信技術の分野では5Gの低遅延技術で通信遅延を低減させ、オンラインでの会話においても実際の会話と同じ感覚で会話の間合いとることができる。また、TOF(Time of Flight)などの三次元計測技術を用いて人との距離を正確に計測することができる。しかし、適切な対人距離(パーソナルスペース)を取ることができる奥行きのある空間を違和感なく表示する技術は知られていない。 Various technologies are being offered to facilitate smooth communication. For example, in the field of communications technology, 5G low-latency technology can reduce communication delays, allowing online conversations to be spaced in the same way as in real conversations. In addition, three-dimensional measurement technology such as TOF (Time of Flight) can be used to accurately measure the distance between people. However, no technology is known that can seamlessly display a deep space in which an appropriate interpersonal distance (personal space) can be maintained.

ここで、本願における奥行きのある空間とは、人が他者と公的なコミュニケーションをとる際に主に適用される、1.2m前後から3.6m程度までの対人距離がとれる空間より大きいサイズの空間を示す。以下の説明においては、この、1.2m前後から3.6m程度までの対人距離がとれる奥行きのある空間のことを、「社会距離空間」という。 In this application, a deep space refers to a space that is larger than the space in which an interpersonal distance of about 1.2 m to about 3.6 m can be maintained, which is mainly applied when people communicate publicly with others. In the following explanation, this deep space in which an interpersonal distance of about 1.2 m to about 3.6 m can be maintained is referred to as a "social distance space."

奥行きのある三次元像を表示するための様々な技術が存在している。例えば、ヘッドアップディスプレイや偏光めがね方式、液晶シャッターめがね方式のような装着型の表示装置、あるいはパララックスバリア方式やレンチキュラー方式など装着せずに、二つの目に異なる視差を観察させ立体像を表示する技術がある。このような三次元像を表示技術は、視差のみで立体感を感じさせるものである。このため、一点に視線を集中させる輻輳や、ピント調整などを必要とするため、人に眼精疲労や酔いを感じさせる場合があった。このため、奥行きのある社会距離空間を表示させるツールとして適切ではない。 There are various technologies for displaying three-dimensional images with depth. For example, there are wearable display devices such as head-up displays, polarized glasses, and liquid crystal shutter glasses, as well as technologies such as parallax barrier and lenticular that display three-dimensional images by having two eyes observe different parallax without wearing any equipment. These technologies for displaying three-dimensional images create a sense of three-dimensionality using only parallax. As a result, they require convergence to concentrate the gaze on one point and focus adjustments, which can cause eye strain and nausea. For this reason, they are not suitable as a tool for displaying socially distant spaces with depth.

これに対し、非特許文献1には、輻輳とピント調整を必要とすることなく三次元像を表示する技術が開示されている。非特許文献1には、超多眼ディスプレイや、マイクロレンズアレイを用いてライトフィールド(デジタルカメラの撮像面に入射する光線の撮像面上での方向情報と強度分布)を記録し、記録したライトフィールドを再現(表示)するディスプレイ(図19参照)が開示されている。また、液晶パネルなどを重ねたスタティックディスプレイ型のライトフィールドディスプレイ(図20参照)が提案されている。 In response to this, Non-Patent Document 1 discloses a technology for displaying three-dimensional images without the need for convergence or focus adjustment. Non-Patent Document 1 discloses a super multi-eye display and a display (see FIG. 19) that uses a microlens array to record a light field (directional information and intensity distribution on the imaging surface of a digital camera of light rays incident on the imaging surface) and reproduces (displays) the recorded light field. In addition, a static display type light field display (see FIG. 20) in which liquid crystal panels or the like are layered is proposed.

また、特許文献1に記載の立体画像表示装置によれば、視点の数を十分に多くする(超多眼)技術が開示されている。これにより、人間の立体知覚に対し、両眼視差、ピント調節、輻輳、運動視差の4つの要因を満足させることができる。このような超多眼ディスプレイやライトフィールドディスプレイによる三次元画像の表示は、瞳の大きさより小さなサイズで光線を再現することで、自然なピント調整と輻輳を実現するものである。 The 3D image display device described in Patent Document 1 discloses a technology for increasing the number of viewpoints sufficiently (super multi-eye). This makes it possible to satisfy the four factors of human 3D perception: binocular parallax, focus adjustment, convergence, and motion parallax. Displaying 3D images using such super multi-eye displays and light field displays achieves natural focus adjustment and convergence by reproducing light rays smaller than the size of the pupil.

特願2007-17634号公報Patent Application No. 2007-17634

[online]、 ”ライトフィールドディスプレイの研究動向”2018年3月 小池 崇文、[令和2年8月3日検索]、インターネット〈URL:https://home.jeita.or.jp/device/lirec/symposium/fpd/pdf/2018_2a.pdf〉[online], "Research Trends of Light Field Displays" March 2018, Takafumi Koike, [Retrieved August 3, 2020], Internet <URL: https://home.jeita.or.jp/device/lirec/symposium/fpd/pdf/2018_2a.pdf>

しかしながら、特許文献1に記載されているような超多眼ディスプレイ等は、瞳の大きさより小さなサイズで光線を再現することで、自然なピント調整と輻輳を実現するものである。微小な面積で光線を制御していることから回折の影響で、ディスプレイ面から離れるほどボケが大きくなる。このため、ディスプレイ近傍の物体しか再現できず、ディスプレイ面と観察者が近い場合、社会距離空間の再現は困難である。一方、ディスプレイ面を観察者から離して社会距離空間近傍に置いた場合は、ディスプレイが表示したい空間より大きなサイズにする必要があり、高いコストや大きな設置スペースが必要となる。 However, super multi-eye displays such as those described in Patent Document 1 reproduce light rays at a size smaller than the pupil size, thereby achieving natural focus adjustment and convergence. Because light rays are controlled over a very small area, the effects of diffraction cause greater blurring the further away from the display surface. For this reason, only objects close to the display can be reproduced, and it is difficult to reproduce a social distance space when the display surface is close to the observer. On the other hand, if the display surface is placed away from the observer and close to the social distance space, the display needs to be larger than the space it is desired to display, which requires high costs and a large installation space.

以上のように、社会距離空間を再現するには、従来のライトフィールドディスプレイでは、回折の影響により大きなボケが生じることになるという問題があった。 As described above, when trying to recreate a socially distanced space, conventional light field displays had the problem of significant blurring caused by the effects of diffraction.

本発明の実施形態は、上記の問題に鑑みてなされたもので、主にディスプレイ面から1.2m前後から3.6m程度までの奥行きがある空間(社会距離空間)又は、それ以上の奥行きがある空間を、自然な距離感が得られ、且つボケが少ない三次元空間として表示することができる光線再生装置、三次元空間表示システム、光線再生方法、及びプログラムを提供することを目的とする。 The embodiments of the present invention have been made in consideration of the above problems, and aim to provide a light reproduction device, a three-dimensional space display system, a light reproduction method, and a program that can display a space that is primarily about 1.2 m to 3.6 m deep from the display surface (social distance space), or a space that is deeper than that, as a three-dimensional space that provides a natural sense of distance and has little blurring.

上記の課題を解決するために、発明の実施形態の光線再生装置は、再生空間に立体像を再生させる場合における前記立体像から仮想的に射出される光線を再生する光線再生装置であって、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備え、前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である。なお、ここでいう観察者に観察される度合いとは、立体像が表示される位置や範囲、観察者が許容するボケの程度などを示すものである。 In order to solve the above problems, a light reproducing device according to an embodiment of the present invention is a light reproducing device that reproduces light rays virtually emitted from a stereoscopic image when the stereoscopic image is reproduced in a reproduction space, and includes a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen, and the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance, and the stereoscopic image is displayed in a range from a display surface. The element cells are displayed in a range of at least 1.2 m to 3.6 m in the depth direction, and the size of each element cell in the element cell set and the pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to the degree to which the stereoscopic image displayed in the reproduction space is observed by the observer, and the size of the element cells is determined so that the spread angle of the diffracted light from the element cells is equal to or smaller than the angular resolution according to the eyesight of the observer, the size of the element cells is 0.8 mm or more, and the pitch of the element cells is 1.2 mm or less. Note that the degree to which the stereoscopic image is observed by the observer here indicates the position and range in which the stereoscopic image is displayed, the degree of blurring that the observer tolerates, etc.

本発明の実施形態によれば、社会距離空間を、自然な距離感が得られ、且つボケが少ない三次元空間として表示することができる。 According to an embodiment of the present invention, a social distance space can be displayed as a three-dimensional space that provides a natural sense of distance and has little blurring.

第1実施形態の三次元空間表示システム1の構成を示すブロック図である。1 is a block diagram showing a configuration of a three-dimensional space display system 1 according to a first embodiment. 第1実施形態の三次元空間表示システム1が適用される例を説明する図である。1 is a diagram illustrating an example in which a three-dimensional space display system 1 according to a first embodiment is applied. 第2実施形態の三次元空間表示システム100構成を示すブロック図である。FIG. 11 is a block diagram showing the configuration of a three-dimensional space display system 100 according to a second embodiment. 第2実施形態の三次元空間表示システム100が適用される例を説明する図である。11 is a diagram illustrating an example in which a three-dimensional space display system 100 according to a second embodiment is applied. 三次元表示ディスプレイ30から観察対象とする物体までの距離と、その物体を再現する際に生じるボケの大きさとの関係を示す特性図である。10 is a characteristic diagram showing the relationship between the distance from the 3D display 30 to an object to be observed and the magnitude of blurring that occurs when reproducing the object. 三次元表示ディスプレイ30から観察対象とする物体までの距離と、再現された物体を見る観察者の網膜上の分解能(錯乱円直径)との関係を示す特性図である。1 is a characteristic diagram showing the relationship between the distance from the 3D display 30 to an object to be observed and the resolution (diameter of the circle of confusion) on the retina of an observer who views the reproduced object. 要素セルにおけるサイズdとピッチpの関係の例を示す図である。11 is a diagram showing an example of the relationship between size d and pitch p in an element cell. FIG. 点物体を物点A’として再生した場合の例を示す図である。FIG. 13 is a diagram showing an example in which a point object is reproduced as an object point A'. 要素セルから再生する光線(再生光)の明るさの分布の一例を示す図である。11 is a diagram showing an example of the brightness distribution of light rays (reproduced light) reproduced from an element cell; FIG. 点物体を物点A’’として再生した場合の例を示す図である。FIG. 13 is a diagram showing an example in which a point object is reproduced as an object point A″. 図9の方法で複数の物体を再生した場合の例を示す図である。FIG. 10 is a diagram showing an example in which a plurality of objects are reproduced using the method of FIG. 9 . 光線追跡法を適用してホログラムの再生用データを計算する方法を説明するための図である。11 is a diagram for explaining a method of calculating reconstruction data for a hologram by applying a ray tracing method. FIG. 観察者がディスプレイ面を通して、再生点を観察する様態を示す模式図である。10 is a schematic diagram showing a manner in which an observer observes a reproduction point through a display surface. FIG. ディスプレイから再生される光線が広がりをもった光となり、再生点のボケとなる様態を示す模式図である。1 is a schematic diagram showing how light rays reproduced from a display become divergent light, resulting in blurring of the reproduction point. 円形開口によるフラウンフォーファ回折の広がり角と、その大きさを説明するための模式図である。1 is a schematic diagram for explaining the divergence angle and magnitude of Fraunhofer diffraction by a circular aperture. FIG. 実施形態の三次元表示ディスプレイ30が行う処理の流れを示すフローチャートである。4 is a flowchart showing a flow of processing performed by the three-dimensional display 30 of the embodiment. 実施形態の変形例における三次元空間表示システム1Aの構成を示すブロック図である。FIG. 13 is a block diagram showing the configuration of a three-dimensional space display system 1A according to a modified example of the embodiment. 実施形態の変形例における三次元空間表示システム1Aが適用される例を説明する図である。11A and 11B are diagrams illustrating an example in which a three-dimensional space display system 1A according to a modified example of the embodiment is applied. 従来の、マイクロレンズアレイを用いるライトフィールドディスプレイの構成を例示する模式断面図である。FIG. 1 is a schematic cross-sectional view illustrating the configuration of a conventional light field display using a microlens array. 従来の、液晶パネルを重ねたスタティックディスプレイ型のライトフィールドディスプレイの構成を例示する模式断面図である。FIG. 1 is a schematic cross-sectional view illustrating the configuration of a conventional static display type light field display in which liquid crystal panels are stacked.

以下、図面を参照して本発明の実施の形態を詳しく説明する。三次元空間表示システム1は、例えば、光学装置と電気回路により実装される。以下に説明する各図面において、見易さのため構成要素の厚さや比率は誇張されていることがあり、構成要素の数も減らして図示していることがある。また、本発明は以下の実施形態そのままに限定されるものではなく、主旨を逸脱しない限りにおいて、適宜の組み合わせ、変形によって具体化できる。 The following describes in detail the embodiments of the present invention with reference to the drawings. The three-dimensional spatial display system 1 is implemented, for example, by an optical device and an electrical circuit. In the drawings described below, the thickness and ratio of components may be exaggerated for ease of viewing, and the number of components may be reduced. Furthermore, the present invention is not limited to the following embodiments as they are, and can be embodied by appropriate combinations and modifications without departing from the spirit of the invention.

図1は、第1実施形態の三次元空間表示システム1の構成を示すブロック図である。三次元空間表示システム1は、例えば、通信部10と、立体カメラ20と、三次元表示ディスプレイ30とを備える。通信部10は、デジタル通信網NWを介して外部と通信を行う。 Figure 1 is a block diagram showing the configuration of a three-dimensional space display system 1 according to a first embodiment. The three-dimensional space display system 1 includes, for example, a communication unit 10, a stereoscopic camera 20, and a three-dimensional display 30. The communication unit 10 communicates with the outside world via a digital communication network NW.

立体カメラ20は、被写体である観察対象とする物体を立体的に撮像するカメラであり、例えばステレオカメラである。立体カメラ20は、観察対象とする物体の三次元情報を、通信部10を介して三次元表示ディスプレイ30に転送する。ここでの三次元情報は、少なくとも物体から撮像面に入射する光線の入射方向と強度を含み、2つ以上の視差画像列や2次元画像と距離画像の組み合わせなどから得られるものであってもよく、観察対象とする物体を含む空間を示す情報であればよい。 The stereoscopic camera 20 is a camera that captures a three-dimensional image of an object to be observed, which is a subject, and is, for example, a stereo camera. The stereoscopic camera 20 transfers three-dimensional information of the object to be observed to the three-dimensional display 30 via the communication unit 10. The three-dimensional information here includes at least the incident direction and intensity of light rays incident on the imaging surface from the object, and may be obtained from two or more parallax image series or a combination of two-dimensional images and distance images, or the like, as long as it is information that indicates the space including the object to be observed.

三次元情報を取得するための方法として、様々な方法が考えられる。例えば、立体カメラ20がステレオカメラである場合、2台のカメラでそれぞれ撮影した画像を用いてデプス情報(以下、深度情報、奥行き距離などともいう)を測定することにより三次元情報を取得する方法がある。或いは、撮影対象物体に投影されたパターンを解析する方法がある。また、光の飛行時間を測定することにより、観察対象とする物体までの距離を計測するTOF方式などがある。三次元情報を取得するための方法は、少なくとも社会距離の範囲を必要な分解能で測定できれば、どの方法を用いてもよい。特に、数cmから数mという奥行き距離を精度よく測定することが可能なTOF方式が好適である。 There are various methods for acquiring three-dimensional information. For example, when the stereoscopic camera 20 is a stereo camera, one method is to acquire three-dimensional information by measuring depth information (hereinafter also referred to as depth information, depth distance, etc.) using images captured by each of the two cameras. Another method is to analyze a pattern projected onto an object to be photographed. Another method is a TOF method that measures the distance to an object to be observed by measuring the flight time of light. Any method can be used to acquire three-dimensional information as long as it can measure at least the range of social distance with the required resolution. In particular, the TOF method is preferable because it can accurately measure depth distances of several centimeters to several meters.

立体カメラ20によって撮像する空間の範囲は、社会距離空間を認識させる程度に十分広い空間であることが望ましい。例えば、3.6m奥に角度±30度で広がるような空間であり、画角として60度以上である空間が好適である。例えば、35mmフィルム換算で、焦点距離25mmの広角レンズ相当の80度以上の画角であるとより臨場感のある空間を撮像することができる。さらに、角度方向の最小分解能Δαは、視力0.5程度に相当する分解能である0.033度以下であることが望ましい。 It is desirable that the range of space captured by the stereoscopic camera 20 is wide enough to allow the user to recognize the social distance space. For example, a space that extends 3.6 m deep at an angle of ±30 degrees and has an angle of view of 60 degrees or more is preferable. For example, a more realistic space can be captured with an angle of view of 80 degrees or more, equivalent to a wide-angle lens with a focal length of 25 mm in 35 mm film equivalent. Furthermore, it is desirable that the minimum resolution in the angular direction Δα is 0.033 degrees or less, which is a resolution equivalent to a visual acuity of about 0.5.

例えば、立体カメラ20の解像度がハイビジョン(画素数1080×1920)の場合、角度方向の最小分解能Δαを0.033度以下にするためには、画角を73度以下とする。また、立体カメラ20の解像度が4K(画素数21 60×3840)の場合、角度方向の最小分解能Δαを146度以下とする。よって、80度以上の画角で社会距離空間を撮影する場合、4K以上の解像度の立体カメラ20で撮影することが望ましい。 For example, if the resolution of the stereoscopic camera 20 is high vision (1080 x 1920 pixels), the angle of view must be 73 degrees or less in order to make the minimum resolution in the angular direction Δα 0.033 degrees or less. Also, if the resolution of the stereoscopic camera 20 is 4K (2160 x 3840 pixels), the minimum resolution in the angular direction Δα must be 146 degrees or less. Therefore, when photographing a social distance space with an angle of view of 80 degrees or more, it is desirable to use a stereoscopic camera 20 with a resolution of 4K or more.

通信部10は、三次元情報の動画を安定して転送することが可能なデジタル通信網NWを用いて、外部の機器と三次元情報をやり取りする。解像度4Kの画像、かつ画素毎の奥行き情報を含む動画を安定して転送するためには、例えば、通信速度25Mbps以上であることが望ましい。デジタル通信網として、モバイル通信網を使用する場合、例えば、5G以上の規格を用いることにより遠隔地との情報のやり取りが容易になる。 The communication unit 10 exchanges three-dimensional information with external devices using a digital communication network NW capable of stably transferring three-dimensional video information. To stably transfer a video including a 4K resolution image and depth information for each pixel, a communication speed of, for example, 25 Mbps or more is desirable. When a mobile communication network is used as the digital communication network, for example, using a standard of 5G or higher makes it easier to exchange information with remote locations.

三次元表示ディスプレイ30は、三次元の画像を表示するPC(Personal Computer)、サーバ装置、或いはクラウドサーバなどのコンピュータ装置である。三次元表示ディスプレイ30は、例えば、演算部31と、制御部32と、光源部33と、表示部34と、光制御部35と、記憶部36とを備える。ここで、三次元表示ディスプレイ30は、「光線再生装置」の一例である。演算部31は、「信号処理部」の一例である。制御部32は、「信号処理部」の一例である。表示部34は、「立体像表示部」の一例である。光制御部35は、「立体像表示部」の一例である。 The three-dimensional display 30 is a computer device such as a PC (Personal Computer), a server device, or a cloud server that displays three-dimensional images. The three-dimensional display 30 includes, for example, a calculation unit 31, a control unit 32, a light source unit 33, a display unit 34, a light control unit 35, and a memory unit 36. Here, the three-dimensional display 30 is an example of a "light reproduction device". The calculation unit 31 is an example of a "signal processing unit". The control unit 32 is an example of a "signal processing unit". The display unit 34 is an example of a "stereoscopic image display unit". The light control unit 35 is an example of a "stereoscopic image display unit".

演算部31、及び制御部32は、信号処理を行う機能部であり、例えば、三次元表示ディスプレイ30のCPU(Central Processing Unit)が記憶部36に予め記憶されたプログラムを実行することにより実現される。また、これらの信号処理を行う機能部が、ASIC(Application Specific Integrated Circuit)等の集積回路として実現されてもよい。 The calculation unit 31 and the control unit 32 are functional units that perform signal processing, and are realized, for example, by the CPU (Central Processing Unit) of the three-dimensional display 30 executing a program pre-stored in the storage unit 36. In addition, these functional units that perform signal processing may be realized as integrated circuits such as ASICs (Application Specific Integrated Circuits).

演算部31は、立体カメラ20から取得した三次元情報に基づいて、再生(表示)すべき光線の成分(光線の方向と強度)を、要素セル毎に計算する。ここでの要素セルについては、後で詳しく説明する。 The calculation unit 31 calculates the components of the light rays (light ray direction and intensity) to be reproduced (displayed) for each element cell based on the three-dimensional information acquired from the stereoscopic camera 20. The element cells here will be explained in detail later.

制御部32は、光源部33、表示部34、及び光制御部35を制御し、要素セルごとに再生された光線の方向と強度を反映させる。これにより、自然な距離感とボケのない空間を表示することが可能となる。なお、三次元表示ディスプレイ30における光源部33や光制御部35が受動的で制御が不要な場合、制御部32によってこれらの機能部(光源部33や光制御部35)が制御される必要はない。 The control unit 32 controls the light source unit 33, the display unit 34, and the light control unit 35 to reflect the direction and intensity of the light rays reproduced for each element cell. This makes it possible to display a space with a natural sense of distance and no blur. Note that if the light source unit 33 and the light control unit 35 in the three-dimensional display 30 are passive and do not require control, there is no need for the control unit 32 to control these functional units (the light source unit 33 and the light control unit 35).

なお、立体カメラ20から取得した三次元情報を用いず、通信部10を介して外部から獲得した三次元情報のみを用いて画像を表示する場合、三次元空間表示システム1における立体カメラ20を省略することが可能である。一方、立体カメラ20からの三次元情報のみを用いて三次元表示ディスプレイ30に画像を表示する場合、三次元表示ディスプレイ30において通信部10を省略することが可能である。 When an image is displayed using only three-dimensional information acquired from the outside via the communication unit 10, without using the three-dimensional information acquired from the stereoscopic camera 20, it is possible to omit the stereoscopic camera 20 in the three-dimensional space display system 1. On the other hand, when an image is displayed on the three-dimensional display 30 using only the three-dimensional information from the stereoscopic camera 20, it is possible to omit the communication unit 10 in the three-dimensional display 30.

光源部33は、レーザーやLED(Light-Emitting Diode)やEL(Electro-Luminescence)などの発光体を含む光源機能を有し、表示部34の光源となる機能部である。光制御部35は、制御部32からの制御信号に従って、光源部33によって照射される光源の方向と強度を制御する。 The light source unit 33 has a light source function including light emitters such as a laser, LED (Light-Emitting Diode), or EL (Electro-Luminescence), and is a functional unit that serves as the light source for the display unit 34. The light control unit 35 controls the direction and intensity of the light emitted by the light source unit 33 according to a control signal from the control unit 32.

表示部34は、LCD(Liquid Crystal Display)や、OLED(Organic LED)、DMD(Digital Mirror Device)などの表示素子を用いた表示機能を有する。表示部34は、制御部32の制御に従い画像を表示する。 The display unit 34 has a display function using display elements such as an LCD (Liquid Crystal Display), an OLED (Organic LED), or a DMD (Digital Mirror Device). The display unit 34 displays an image according to the control of the control unit 32.

表示部34として、LCD、LED、OLED、DLP(Digital Light Processing)などの2次元の画像を表示する表示装置が一般的である。しかしながら、これに限定されない。表示部34は、レーザー光源やLED光源などの光源部33をスキャンする方式であってもよい。LEDやOLEDなどの自発光デバイスの場合、表示部34が、光源機能と表示機能を合わせ持つことになる。表示部34が、ホログラムなどの回折パターンによって光の方向を制御するものであれば、表示機能と光制御機能を一つのデバイスで実現することができる。 The display unit 34 is generally a display device that displays two-dimensional images, such as an LCD, LED, OLED, or DLP (Digital Light Processing). However, this is not limited to this. The display unit 34 may be a type that scans a light source unit 33, such as a laser light source or an LED light source. In the case of a self-luminous device such as an LED or OLED, the display unit 34 has both a light source function and a display function. If the display unit 34 controls the direction of light using a diffraction pattern such as a hologram, the display function and the light control function can be realized in a single device.

なお、以下の説明において、ディスプレイ面とは、表示部34の表示装置によってパターンが表示される面のことを示し、複数の表示装置を用いて画像を表示する場合、最も観察者に近い面を示す。 In the following description, the display surface refers to the surface on which the pattern is displayed by the display device of the display unit 34, and when multiple display devices are used to display an image, refers to the surface closest to the viewer.

記憶部36は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、または、これらの記憶媒体の任意の組み合わせによって構成される。記憶部36は、三次元表示ディスプレイ30の各種の処理を実行するためのプログラム、及び各種の処理を行う際に利用される一時的なデータを記憶する。記憶部36は、例えば、立体カメラ20によって獲得された三次元情報を記憶する。記憶部36は、演算部31による演算結果を記憶する。記憶部36は、制御部32の制御によって再生される光線の方向や強度などを示す情報を記憶する。 The storage unit 36 is configured by a storage medium, for example, a hard disk drive (HDD), a flash memory, an electrically erasable programmable read only memory (EEPROM), a random access read/write memory (RAM), a read only memory (ROM), or any combination of these storage media. The storage unit 36 stores programs for executing various processes of the three-dimensional display 30, and temporary data used when performing various processes. The storage unit 36 stores, for example, three-dimensional information acquired by the stereoscopic camera 20. The storage unit 36 stores the results of calculations performed by the calculation unit 31. The storage unit 36 stores information indicating the direction and intensity of light rays reproduced under the control of the control unit 32.

図2は、第1実施形態の三次元空間表示システム1が適用される例を説明する図である。図2のXY方向は平面方向を示し、Z方向は鉛直方向を示している。立体カメラ20は、観察対象となる実体空間JKを撮像可能に設置される。実体空間JKには、複数の実体像IM(実体像IM-1~IM-7)が配置されている。三次元表示ディスプレイ30は、表示する画像が観察者OBによって観察可能となるように設置される。 Figure 2 is a diagram illustrating an example in which the three-dimensional space display system 1 of the first embodiment is applied. The XY directions in Figure 2 indicate planar directions, and the Z direction indicates the vertical direction. The stereoscopic camera 20 is installed so that it can capture an image of the actual space JK to be observed. A plurality of actual images IM (actual images IM-1 to IM-7) are arranged in the actual space JK. The three-dimensional display 30 is installed so that the image to be displayed can be observed by the observer OB.

立体カメラ20は、実体空間JKを撮像する。三次元表示ディスプレイ30は、立体カメラ20によって撮像された実体空間JKを再現(表示)した再生空間SKを表示する。なお、図2の例では、立体カメラ20と三次元表示ディスプレイ30とが重なっている様子が示されているが、これらはZ方向に互いに異なる位置にあり重なってはいない。また、この例では立体カメラ20の撮像方向がX軸方向に沿った方向である場合を示しているが、これに限定されない。立体カメラ20の位置は、観察対象となる実体空間JKについて、観察者OBが観察したい任意の位置や方向から撮像可能であればよい。また、立体カメラは20が1機のみ配置される場合に限定されることはなく、複数の立体カメラ20が設置されてもよい。 The stereoscopic camera 20 captures the physical space JK. The three-dimensional display 30 displays a reproduced space SK that reproduces (displays) the physical space JK captured by the stereoscopic camera 20. Note that in the example of FIG. 2, the stereoscopic camera 20 and the three-dimensional display 30 are shown overlapping, but they are in different positions in the Z direction and do not overlap. Also, this example shows a case where the imaging direction of the stereoscopic camera 20 is along the X-axis direction, but this is not limited to this. The position of the stereoscopic camera 20 may be such that it is possible to capture images of the physical space JK to be observed from any position or direction that the observer OB wishes to observe. Also, the number of stereoscopic cameras 20 is not limited to a single one, and multiple stereoscopic cameras 20 may be installed.

この図の例では、三次元空間表示システム1が、三次元情報の記録(撮像)と再生(表示)に時間差を有してコミュニケーションを実現する三次元画像表示コミュニケーターとして機能する。すなわち、立体カメラ20で撮像された実体空間JKの三次元情報は、記憶部36にいったん記憶された後、観察者OBが希望する任意の時間に、所望の三次元画像が再生空間SKに再現される。これにより、撮像時に観察者OBが不在であっても、撮像時における実体空間JKの実体像IMを、撮像後の任意のタイミングで観察することができる。 In the example shown in this figure, the three-dimensional space display system 1 functions as a three-dimensional image display communicator that realizes communication by having a time lag between the recording (imaging) and playback (display) of three-dimensional information. That is, the three-dimensional information of the physical space JK captured by the stereoscopic camera 20 is temporarily stored in the memory unit 36, and the desired three-dimensional image is then reproduced in the reproduction space SK at any time desired by the observer OB. This allows the observer OB to observe the physical image IM of the physical space JK at the time of imaging at any timing after imaging, even if the observer OB is not present at the time imaging is performed.

なお、上記では、時間差で記録と再生を行う例を示したが、これに限定されない。例えば立体カメラ20と三次元表示ディスプレイ30とを、玄関とリビングなど互いに離れた位置に設置し、相手を直接視認することができないような互いに離れた位置でのコミュニケーションを実現する三次元映像コミュニケーターとして機能するようにしてもよい。これにより、観察者OBが、実体空間JKまで移動することなく、遠隔にある実体空間JKを体験(観察)することが可能になる。 Note that, although the above shows an example of recording and playback with a time difference, this is not limiting. For example, the stereoscopic camera 20 and the three-dimensional display 30 may be installed in locations distant from each other, such as an entrance and a living room, and function as a three-dimensional video communicator that enables communication between distant locations where the other person cannot be directly seen. This allows the observer OB to experience (observe) a remote physical space JK without having to travel to the physical space JK.

ここで、本願で対象とする社会距離空間について、詳しく説明する。社会距離空間は、従来の三次元ディスプレイ(立体画像表示装置)で表示させる空間のようにディスプレイ近傍に物体(被写体)が存在する空間ではない。社会距離空間は、ディスプレイが表示する空間において奥行き方向に離れた位置に被写体が存在する空間である。社会距離空間は、例えば、部屋の内部の空間や、公園内の空間等であり、その区間の内部に観察者(被写体)がいるような空間である。或いは、ディスプレイを窓として、窓から外側の空間(部屋の内部の空間等)を観察するような場合に表示される空間である。 Here, we will explain in detail the social distance space that is the subject of this application. A social distance space is not a space in which an object (subject) exists near the display, as in the space displayed by a conventional three-dimensional display (stereoscopic image display device). A social distance space is a space in which a subject exists at a position distant in the depth direction in the space displayed by the display. A social distance space is, for example, a space inside a room or a space in a park, and is a space in which an observer (subject) exists within that section. Alternatively, it is a space that is displayed when the display is used as a window and the outside space (such as the space inside a room) is observed through the window.

アメリカの文化人類学者であるエドワード・ホールは、人と人が相対する対人距離(パーソナルスペース)を、次の4つの距離帯に分類している。
1)密接距離
2)個体距離
3)社会距離
4)公衆距離
Edward Hall, an American cultural anthropologist, classifies interpersonal distance (personal space) between people into the following four distance zones:
1) Close distance 2) Personal distance 3) Social distance 4) Public distance

1)密接距離とは、相手との距離が0~0.45m程度であって、例えば相手の体温や匂いが分かるような距離に相当する。密接距離は、非常に親密な間柄の相手との距離であり、手をつなぐなど肌と肌の触れ合いや、匂いによるコミュニケーションが主となる対人距離である。
2)個体距離とは、相手との距離が0.45~1.2m程度であって、自分の独立性を保つために他者との間にとる距離に相当する。自分や相手が手を伸ばせば、触れることが可能な距離で、友人など親しい相手とコミュニケーションが行われる場合の対人距離である。
3)社会距離とは、相手との距離が1.2~3.6m程度であって、相手に触れることが困難な距離であり、職場での同僚同士の会話など、公式な場でのコミュニケーションに適している対人距離である。
4)公衆距離とは、相手との距離が3.6m程度以上で、二者間のコミュニケーションには不適切な距離であり、例えば演説や講演などのコミュニケーションが行われる場合の対人距離である。
1) Close distance is a distance of about 0 to 0.45 m, which corresponds to the distance at which you can sense the other person's body temperature or smell. Close distance is the distance between two people with whom you have a very intimate relationship, and is an interpersonal distance where communication is mainly based on skin-to-skin contact, such as holding hands, and smell.
2) Personal distance is the distance between you and another person that is about 0.45 to 1.2 meters, and corresponds to the distance you keep between yourself and another person in order to maintain your independence. It is the distance at which you or the other person can reach out and touch each other, and is the interpersonal distance when communicating with a close friend or other person.
3) Social distance is a distance of approximately 1.2 to 3.6 meters between two people, at which it is difficult to touch the other person and is an interpersonal distance that is appropriate for communication in formal settings, such as conversations between colleagues at work.
4) Public distance is a distance of approximately 3.6 m or more from the other person, which is an inappropriate distance for communication between two people, and is the interpersonal distance when communication such as a speech or lecture is taking place.

図3は、第2実施形態の三次元空間表示システム100構成を示すブロック図である。本実施形態の三次元空間表示システム100では、図1に示した三次元空間表示システム1が複数備えられ、お互いにデジタル通信網NWを介して接続される。これによって、複数の遠隔地同士が互いに自然なコミュニケーションを実現する三次元画像表示コミュニケーターを構成している。尚、立体カメラ20により得られた三次元情報は、必要に応じて演算部31などの信号処理によって圧縮、又は/及び変換され、通信部10を介して、通信先に送信される。 Figure 3 is a block diagram showing the configuration of a three-dimensional space display system 100 according to the second embodiment. In the three-dimensional space display system 100 according to this embodiment, a plurality of the three-dimensional space display systems 1 shown in Figure 1 are provided, which are connected to each other via a digital communication network NW. This constitutes a three-dimensional image display communicator that enables natural communication between a plurality of remote locations. The three-dimensional information obtained by the stereoscopic camera 20 is compressed and/or converted as necessary by signal processing such as the calculation unit 31, and is transmitted to the communication destination via the communication unit 10.

なお、通信部10による通信手段として特に制限はないが、三次元情報を送受し合うため、上記に挙げた5Gの通信網のように大容量の情報を高速に伝送可能な通信手段を有することが好ましい。 The communication means used by the communication unit 10 is not particularly limited, but in order to send and receive three-dimensional information, it is preferable to have a communication means capable of transmitting large amounts of information at high speed, such as the 5G communication network mentioned above.

図4は、第2実施形態の三次元空間表示システム100が適用される例を説明する図である。図4のXY方向は平面方向を示し、Z方向は鉛直方向を示している。立体カメラ20が設置される位置、方向、機数は、図2と同様であるため、その説明を省略する。三次元表示ディスプレイ30についても同様である。この図の例では、三次元空間表示システム100は、デジタル通信網NWを介して通信可能に接続される2つの遠隔地における、自然なコミュニケーションを実現する三次元画像表示コミュニケーターとして機能する。 Figure 4 is a diagram illustrating an example in which the three-dimensional space display system 100 of the second embodiment is applied. The X and Y directions in Figure 4 indicate planar directions, and the Z direction indicates the vertical direction. The positions, directions, and number of stereoscopic cameras 20 are the same as in Figure 2, so their explanation is omitted. The same applies to the three-dimensional display 30. In the example of this figure, the three-dimensional space display system 100 functions as a three-dimensional image display communicator that realizes natural communication between two remote locations that are communicatively connected via a digital communication network NW.

すなわち、実体空間JK-1に存在するメンバーが立体カメラ20-1に撮像されることによって得られる三次元情報が、デジタル通信網NWを介して三次元表示ディスプレイ30-2に送信される。これにより、三次元表示ディスプレイ30-2には、立体カメラ20-1で撮像された空間(実体空間JK-1)を再生した再生空間SK-1が表示される。 That is, the three-dimensional information obtained by capturing images of the members present in the physical space JK-1 by the stereoscopic camera 20-1 is transmitted to the three-dimensional display 30-2 via the digital communication network NW. As a result, the three-dimensional display 30-2 displays a reproduced space SK-1 that is a reproduction of the space captured by the stereoscopic camera 20-1 (physical space JK-1).

一方、実体空間JK-2に存在するメンバー(この例では一人)が立体カメラ20-2に撮像されることによって得られる三次元情報が、デジタル通信網NWを介して三次元表示ディスプレイ30-1に送信される。これにより、三次元表示ディスプレイ30-1には、立体カメラ20-2で撮像された空間(実体空間JK-2)を再生した再生空間SK-2が表示される。 Meanwhile, the three-dimensional information obtained by capturing an image of a member (in this example, one person) present in the physical space JK-2 by the stereoscopic camera 20-2 is transmitted to the three-dimensional display 30-1 via the digital communications network NW. As a result, the three-dimensional display 30-1 displays a reproduced space SK-2 that is a reproduction of the space (physical space JK-2) captured by the stereoscopic camera 20-2.

ここで、本実施形態の要素セルについて図5を用いて説明する。図5は、三次元表示ディスプレイ30から観察対象とする物体までの距離と、その物体を再現する際に生じるボケの大きさとの関係を示す特性図である。図5の横軸はディスプレイからの距離を示す。図5の縦軸はボケの大きさを示す。 Here, the element cell of this embodiment will be described with reference to FIG. 5. FIG. 5 is a characteristic diagram showing the relationship between the distance from the 3D display 30 to the object to be observed and the magnitude of blurring that occurs when reproducing the object. The horizontal axis of FIG. 5 indicates the distance from the display. The vertical axis of FIG. 5 indicates the magnitude of blurring.

一般に、ピント調整を可能とするディスプレイでは、図13に示すように、観察者は、ディスプレイ面を通して、その前後の空間を観察しており、再生すべき点物体である再生点から広がる光と同じ方向の光線が観察者の瞳より小さなサイズで再現されると観察者は、あたかも空間に点光源があるかのように観察することができる。 Generally, on a display that allows focus adjustment, as shown in Figure 13, the observer views the space in front of and behind the display surface, and when light rays in the same direction as the light spreading from the reproduction point (the point object to be reproduced) are reproduced in a size smaller than the observer's pupil, the observer can observe as if there were a point light source in space.

しかしながら、ディスプレイから再生される光線は、厳密には、図14に示すように様々な原因で広がりをもった光となり、それが再生像にボケが生じる要因となる。特に、光線の方向を決めるディスプレイの要素セルが小さい場合、要素セルを開口とする回折の影響によって、光は開口の外側に回り込んで広がりボケを生じることになる。 However, strictly speaking, the light rays reproduced from the display become spread due to various reasons as shown in Figure 14, which causes blurring in the reproduced image. In particular, when the element cells of the display that determine the direction of the light rays are small, the light will bend around the outside of the aperture due to the effect of diffraction caused by the element cells as apertures, causing it to spread and become blurred.

開口による回折の広がりは、ディスプレイ面から離れた位置ではフラウンフォーファ回折として近似でき、円形開口の場合、その広がり角はエアリーディスク(回折パターンの中心に生じる明るい領域)の大きさから求めることができる。すなわち円形開口から離れた遠視野にできる最小の暗環と光軸との隔たりを、光軸と平行で円形開口の端面を通る光線の広がり角θで表わすと、以下のように表現することができる(図15参照)。ここで、(式1)におけるλは光の波長、dは円形開口の直径である。 The spread of diffraction caused by an aperture can be approximated as Fraunhofer diffraction at positions away from the display surface, and in the case of a circular aperture, the spread angle can be calculated from the size of the Airy disk (the bright area that occurs in the center of the diffraction pattern). In other words, the distance between the optical axis and the smallest dark ring that can form in the far field away from the circular aperture can be expressed as follows (see Figure 15) when expressed as the spread angle θ of a ray of light that is parallel to the optical axis and passes through the end face of the circular aperture. Here, in (Equation 1), λ is the wavelength of light, and d is the diameter of the circular aperture.

θ=1.22×λ/d ・・・・(式1) θ=1.22×λ/d (Formula 1)

上記のような開口は、光線の方向を定義するディスプレイ上の面積の単位となる。このような単位を「要素セル」と呼称する。要素セルは、例えばマイクロレンズアレイを用いるライトフィールドディスプレイ(図19)では、1つのレンズが要素セルに相当する。また、液晶パネルなどを重ねたスタティックディスプレイ型のライトフィールドディスプレイ(図20)の場合、使用するディスプレイの画素が要素セルになる。 An aperture such as the one described above is a unit of area on the display that defines the direction of light rays. This unit is called an "element cell." For example, in a light field display that uses a microlens array (Figure 19), one lens corresponds to an element cell. In the case of a static display type light field display (Figure 20) in which liquid crystal panels or the like are stacked, the pixels of the display used become element cells.

ライトフィールドディスプレイでは、要素セル毎に光線の方向を制御するため、ピント調整の機能を持たせるためには、要素セルは観察者の瞳より十分に小さい必要がある。一般に人の瞳のサイズは2~8mm程度である。このため、要素セルのサイズを0.3mmとし、光の波長を500nmとすると、(式1)より光線の広がり角は、以下で表現される。 In a light field display, the direction of light rays is controlled for each element cell, so in order to provide focus adjustment functionality, the element cells must be sufficiently smaller than the observer's pupil. The size of a human pupil is generally around 2-8 mm. Therefore, if the size of the element cell is 0.3 mm and the wavelength of light is 500 nm, the spread angle of the light rays can be expressed as follows from (Equation 1).

θ=1.22×500×10-6/0.3
≒2.03×10-3(rad)
≒0.12(度)
θ=1.22×500× 10-6 /0.3
≒2.03× 10-3 (rad)
≒ 0.12 (degrees)

つまり、図15で円形開口を有する面からの距離L=3.6m離れた位置における、0.3mmの要素セルを通過した光線によるボケの大きさは、3600×tan(0.12°)×2≒15(mm)となり、約15mmの長さのボケが広がることになる。例えば、3.6m離れた位置での人物の顔に対して、15mm程度のボケが生じたとすると、人物としての認識はできるが、表情を読み取ることは難しくなる。 In other words, in Figure 15, the size of the blur caused by light passing through a 0.3 mm element cell at a distance L = 3.6 m from the surface with the circular opening is 3600 x tan (0.12°) x 2 ≒ 15 (mm), which means the blur spreads over a length of about 15 mm. For example, if a person's face at a distance of 3.6 m is blurred by about 15 mm, the person can be recognized, but it will be difficult to read their facial expression.

一般に、視力1.0の人は、裸眼で1/60度の角度の分解能をもつ。これと同等の回折による広がり角θとなる要素セルのサイズdは、波長を500nmとすると、(式1)より、以下で表現することができる。 Generally, a person with 1.0 vision has an angular resolution of 1/60 degrees with the naked eye. The size d of the element cell that produces the equivalent diffraction spread angle θ can be expressed as follows from (Equation 1), assuming a wavelength of 500 nm.

d=1.22×500×10-6/tan(1/60°)×2
=4.2mm
d=1.22×500×10-6/tan (1/60°)×2
= 4.2 mm

同様に、自動車免許の条件である視力0.7の人と同等の1/60/0.7度の角度の分解能をもつ、ボケを生じる要素セルのサイズは2.9mmとなる。眼鏡が不要な最低の視力は視力0.3であり、この条件における同様の計算により求められる、ボケを生じる要素セルのサイズは1.2mmとなる。視力0.2の条件において、ボケを生じる要素セルのサイズは0.8mmとなる。このことから観察して許容できるボケに抑えるためには、少なくとも0.8mm以上の要素セルのサイズdが必要と言える。 Similarly, the size of an element cell that generates blur, with an angular resolution of 1/60/0.7 degrees, equivalent to that of a person with 0.7 visual acuity, which is a requirement for a driver's license, is 2.9 mm. The minimum visual acuity without the need for glasses is 0.3, and the size of an element cell that generates blur, calculated using a similar method under these conditions, is 1.2 mm. With a visual acuity of 0.2, the size of an element cell that generates blur is 0.8 mm. From this, it can be said that an element cell size d of at least 0.8 mm or more is necessary to keep the blur to an acceptable level when observed.

ここで、図5に、要素セルのサイズdをパラメータとし、ディスプレイからの距離Lと回折によるボケの大きさの関係を示す。要素セルのサイズdは、図15におけるdに相当する。すなわち、上記で計算した要素セルのサイズdであり、条件に応じて、d=4.2mm、2.9mm、1.2mm、又は0.8mmと算出されたサイズに相当する。 Figure 5 shows the relationship between the distance L from the display and the degree of blur due to diffraction, with the element cell size d as a parameter. The element cell size d corresponds to d in Figure 15. That is, it is the element cell size d calculated above, and corresponds to the calculated size d = 4.2 mm, 2.9 mm, 1.2 mm, or 0.8 mm depending on the conditions.

図5に示すように、ディスプレイからの距離(L)が同じであれば、要素セルのサイズ(d)が大きいほど、ボケの大きさが小さくなることが分かる。これは(式1)でdが大きくなれば広がり角θが小さくなることを反映している。 As shown in Figure 5, if the distance from the display (L) is the same, the larger the element cell size (d), the smaller the blur. This reflects the fact that in (Equation 1), as d increases, the spread angle θ decreases.

ここで、要素セルを配置する間隔(ピッチp)について、図6を用いて説明する。図6は、三次元表示ディスプレイ30から観察対象とする物体までの距離と、再現された物体を見る観察者の網膜上の分解能(錯乱円直径)との関係を示す特性図である。図6の横軸はディスプレイからの距離を示す。図6の縦軸は錯乱円直径を示す。 The spacing (pitch p) at which element cells are arranged will now be explained with reference to FIG. 6. FIG. 6 is a characteristic diagram showing the relationship between the distance from the 3D display 30 to the object to be observed and the resolution (diameter of the circle of confusion) on the retina of the observer who views the reproduced object. The horizontal axis of FIG. 6 indicates the distance from the display. The vertical axis of FIG. 6 indicates the diameter of the circle of confusion.

一般に、人の瞳の大きさは2~8mm程度であり、この中に複数の光線を通過させて目のピント調整を実現する。このようなピント調整を実現するためには、少なくとも瞳内に2つ以上の要素セルからの光線が入るような要素セルの間隔(ピッチp)で配置されることが必要となる。より自然なピント調整を実現するには、瞳内に入射する光線数(要素セルの数)は多いほうが望ましい。つまり、要素セルの数を増やすために要素セル間の間隔(ピッチp)を小さくすることが望ましい。 Generally, the size of a human pupil is about 2 to 8 mm, and multiple light rays pass through this pupil to adjust the focus of the eye. To achieve this type of focus adjustment, the element cells must be arranged at a spacing (pitch p) such that light rays from at least two element cells enter the pupil. To achieve a more natural focus adjustment, it is desirable to have a larger number of light rays (number of element cells) entering the pupil. In other words, it is desirable to reduce the spacing (pitch p) between element cells in order to increase the number of element cells.

図6に示すように、観察者から物体までの距離(L)が同じであれば、要素セルのピッチ(p)が小さいほど、錯乱円直径が小さくなることが分かる。人の網膜上の視細胞の間隔は約10μm(0.01mm)であることから、これより良い分解能(より小さい錯乱円直径)を持つためには、距離1.2mより遠い物体であれば、約0.4mm以下の要素セルのピッチpが必要であることが分かる。 As shown in Figure 6, if the distance (L) from the observer to the object is the same, the smaller the pitch (p) of the element cells, the smaller the diameter of the circle of confusion. Since the spacing between photoreceptor cells on the human retina is approximately 10 μm (0.01 mm), in order to have better resolution (smaller diameter of the circle of confusion), an element cell pitch p of approximately 0.4 mm or less is required for an object more than 1.2 m away.

また、0.5m離れた距離で24インチのXGA(Extended Graphics Array:1990年にIBM社が発表した規格)のディスプレイ程度の解像度(網膜上で30μm(0.03mm)程度の錯乱円直径)まで許容できる用途であれば、距離1.2mより遠い物体であれば、要素セルのピッチpを、1.2mm以下で配置すればよいことが分かる。 In addition, if the application allows for a resolution equivalent to that of a 24-inch XGA (Extended Graphics Array: a standard announced by IBM in 1990) display at a distance of 0.5 m (circle of confusion diameter of approximately 30 μm (0.03 mm) on the retina), then it can be seen that for objects more than 1.2 m away, the pitch p of the element cells should be set to 1.2 mm or less.

以上を総合すると、社会距離(ディスプレイから約1.2mから3.6m程度までの距離の範囲)をとってコミュニケーションを行うのであれば、要素セルのサイズdが0.8mm以上、かつ要素セルのピッチpが1.2mm以下であれば、実用上支障のないコミュニケーションが可能になる。 In summary, if communication is to be carried out at a social distance (a distance of approximately 1.2 m to 3.6 m from the display), communication without practical problems will be possible if the element cell size d is 0.8 mm or more and the element cell pitch p is 1.2 mm or less.

なお、図6の横軸は観察者から物体までの距離であるが、察者が装置のディスプレイ面に対してどの距離から観察するかは、設計時には判らない。このため、設計時においては、観察者がディスプレイ面に最も近づいた場合、つまり観察者から物体までの距離をディスプレイ面から物体までの距離として計算を行うこととする。 Note that the horizontal axis in Figure 6 is the distance from the observer to the object, but the distance from which the observer will observe the object in relation to the display surface of the device is not known at the time of design. For this reason, at the time of design, calculations are performed assuming that the observer is closest to the display surface, i.e., the distance from the observer to the object is the distance from the display surface to the object.

図7は、要素セルのサイズdより、要素セルのピッチpが大きい(p≧d)場合の略図である。これは、上述した、要素セルのサイズdが0.8mm以上、かつ要素セルのピッチpが1.2mm以下の一例である。この場合、p≧dの関係にあることから、要素セル同士が重なることがない。このため、回折格子パターンも重ならずに独立している。 Figure 7 is a schematic diagram of a case where the pitch p of the element cells is greater than the size d of the element cells (p ≥ d). This is an example of the element cell size d being 0.8 mm or more and the pitch p of the element cells being 1.2 mm or less, as mentioned above. In this case, since the relationship p ≥ d holds, the element cells do not overlap. As a result, the diffraction grating patterns are also independent and do not overlap.

図8は、本発明によるディスプレイによって、点物体を物点A’として再生した場合の概念図である。各要素セルは、ディスプレイ面において、物点A’から出た光の方向を再現する。図面の上方の様々な方向から観察すると、観察者はそれぞれの方向からあたかも物点A’が存在するように見ることができる。 Figure 8 is a conceptual diagram of a display according to the present invention reproducing a point object as object point A'. Each element cell reproduces the direction of light emitted from object point A' on the display surface. When viewed from various directions above the drawing, the viewer can see as if object point A' exists from each direction.

本実施形態では、図6で説明したように、要素セルのピッチpは瞳の大きさに対して十分に小さいことを前提とする。また、図5で説明したように、要素セルのサイズdは回折によるボケが少ないサイズとすることを前提とする。このため、観察者OBには、輻輳、ピント調整、両眼視差などの立体視に必要な条件が矛盾なく再現される。したがって、観察者OBに眼精疲労を覚えさせることがない。すなわち、ディスプレイ面に近接していない、ディスプレイ面から離れた空間であっても、自然で違和感のない空間を再現することが可能になる。 In this embodiment, as explained in FIG. 6, it is assumed that the pitch p of the element cells is sufficiently small compared to the size of the pupil. Also, as explained in FIG. 5, it is assumed that the size d of the element cells is a size that causes little blurring due to diffraction. Therefore, the conditions necessary for stereoscopic vision, such as convergence, focus adjustment, and binocular parallax, are reproduced without any contradiction for the observer OB. Therefore, the observer OB does not experience eye strain. In other words, it is possible to reproduce a natural and comfortable space even in a space that is not close to the display surface or is far from the display surface.

一方、図8に示すように、各要素セルから射出する光線は、要素セルのサイズ(d)+回折による広がり(Δα)の幅をもつ。そのため、ディスプレイ面から遠い空間を観察する場合には問題ないが、ディスプレイ面から近い物体を観察する場合、物体の解像度が低下することになる。 On the other hand, as shown in Figure 8, the light beam emitted from each element cell has a width equal to the size of the element cell (d) plus the spread due to diffraction (Δα). Therefore, while there is no problem when observing a space far from the display surface, the resolution of the object decreases when observing an object close to the display surface.

この対策として、幾つかの方法が考えられる。例えば、図9に示すように、要素セルから再生する光線の明るさの分布を特徴的な分布とすることが考えられる。図9は、要素セルから再生する光線(再生光)の明るさの分布の一例を示す図である。図9の上側は要素セル内の位置と、再生光の明るさとの関係を示す特性図である。図9の下側は要素セルから射出する再生光の明るさの分布のイメージを示す模式図である。 There are several possible ways to address this issue. For example, as shown in Figure 9, it is possible to give the brightness distribution of the light rays reproduced from the element cell a characteristic distribution. Figure 9 is a diagram showing an example of the brightness distribution of the light rays (reproduced light) reproduced from the element cell. The upper part of Figure 9 is a characteristics diagram showing the relationship between the position within the element cell and the brightness of the reproduced light. The lower part of Figure 9 is a schematic diagram showing an image of the brightness distribution of the reproduced light emitted from the element cell.

図9に示すように、要素セルから再生する光線の明るさを、中心を明るくすると共に、中心から周辺に向かうにしたがっては暗くなるような分布とする。このようにすることで、再生される物体の解像度を向上させることが可能になる。このような光線の明るさ分布を作ることには、要素セルに記録する干渉縞パターンの透過率が、中心部から周辺部にいくほど低下するように要素セル内で回折効率の変化をつけることで実現できる。 As shown in Figure 9, the brightness of the light beam reproduced from the element cell is distributed so that it is brighter at the center and darker as it moves from the center to the periphery. In this way, it is possible to improve the resolution of the reproduced object. Creating such a brightness distribution of the light beam can be achieved by varying the diffraction efficiency within the element cell so that the transmittance of the interference fringe pattern recorded in the element cell decreases from the center to the periphery.

また、解像度の低下を防ぐ方法として、図10に示すように、各要素セルから再生される再生光の光線による物点A’’のサイズを調整することが考えられる。すなわち、要素セルとして、ディスプレイ面に物点A’’から発散した球面波、つまり物点からの波面と参照光との干渉縞を記録した要素セルを形成する。これにより、図10に示すように、各要素セルから再生される光線による物点A’’のサイズを、要素セルのサイズdの回折限界まで小さくすることが可能になる。 As a method of preventing a decrease in resolution, it is possible to adjust the size of object point A'' due to the rays of reconstructed light reproduced from each element cell, as shown in Figure 10. That is, an element cell is formed on the display surface, recording a spherical wave diverging from object point A'', that is, an interference fringe between the wavefront from the object point and the reference light. This makes it possible to reduce the size of object point A'' due to the rays reproduced from each element cell to the diffraction limit of the size d of the element cell, as shown in Figure 10.

これを実現する方法として、例えば、要素セルごとに計算したCGH(Computer-Generated Hologram;計算機ホログラム)を使用する方法がある。この方法では、物体からの光が要素セルの位置に到達した際における、波面と参照光とのホログラムを計算する。この方法では、要素セルごとの演算を実行すればよい。このため、後述するような、通常のCGHの計算と比較して演算量が少なく、また並列演算も可能であり高速な演算が可能となる。 One way to achieve this is, for example, to use a CGH (Computer-Generated Hologram) calculated for each element cell. With this method, a hologram of the wavefront and reference light is calculated when the light from the object reaches the position of the element cell. With this method, it is sufficient to perform calculations for each element cell. Therefore, the amount of calculations is smaller than with normal CGH calculations, as described below, and parallel calculations are also possible, allowing for high-speed calculations.

この場合、一つの要素セルだけでもピント調整の機能を満たすことが可能になる。そのため、要素セルのピッチpが1.2mm以上であっても、自然な立体視が可能になる。しかしながら、観察者OBの視点移動に伴って、像をなめらかに変化させるためには、要素セルのピッチpが瞳のサイズ以下であることが望ましい。このため、要素セルのピッチpは少なくとも7mm以下、望ましくは2mm以下であることが望ましい。すなわち、要素セルを、物体からの球面波を記録したホログラムとした場合、要素セルのサイズdを1.2mm以上(視力0.5相当)、要素セルのピッチpを2mm以下とすることで、より高解像度の立体像を観察することができる。 In this case, it is possible for just one element cell to fulfill the focus adjustment function. Therefore, even if the pitch p of the element cells is 1.2 mm or more, natural stereoscopic vision is possible. However, in order to smoothly change the image as the observer OB moves his/her viewpoint, it is desirable for the pitch p of the element cells to be equal to or smaller than the pupil size. For this reason, it is desirable for the pitch p of the element cells to be at least 7 mm or less, and preferably 2 mm or less. In other words, if the element cells are holograms that record spherical waves from an object, a higher resolution stereoscopic image can be observed by setting the element cell size d to 1.2 mm or more (equivalent to 0.5 visual acuity) and the element cell pitch p to 2 mm or less.

図10の方法で複数の物体を再生した場合の様態を、図11を用いて説明する。ディスプレイ面の各要素セルには、物体の表面における各点から発散した球面波と参照光との干渉縞が記録されている。ディスプレイ面から比較的近くに存在する物体B’からは、近くの光点から発散した球面波が再生される。一方、ディスプレイ面から比較的遠くに存在する物体C’からは、遠くの光点から発散した球面波が再生される。このように、ディスプレイ面から物体までの距離によって波面は異なって記録される。 The manner in which multiple objects are reproduced using the method of FIG. 10 will be explained with reference to FIG. 11. In each element cell of the display surface, interference fringes between the spherical waves diverging from each point on the surface of the object and the reference light are recorded. From object B', which is relatively close to the display surface, a spherical wave diverging from a nearby light point is reproduced. On the other hand, from object C', which is relatively far from the display surface, a spherical wave diverging from a distant light point is reproduced. In this way, the wavefront is recorded differently depending on the distance from the display surface to the object.

本実施形態では、物体の表面における各点から発散した球面波と参照光との干渉縞を、立体カメラ20を通してデジタル化する。これは、従来のデジタルホログラムと同様であるが、本実施形態では、物体をサンプリングする点に特徴がある。すなわち、図11に示すように、物体をサンプリングする点を、各要素セル位置からΔαの角度で分解されたポイントとする。 In this embodiment, the interference fringes between the spherical waves emanating from each point on the surface of the object and the reference light are digitized through a stereoscopic camera 20. This is similar to conventional digital holograms, but this embodiment is characterized by sampling the object. That is, as shown in FIG. 11, the points at which the object is sampled are resolved at an angle of Δα from each element cell position.

これにより、従来のデジタルホログラムでは、μmオーダのサンプリングピッチで波面を計算する必要があるのに対して、本実施形態の手法では数mmから数cmのピッチでサンプリングすればよくなる。したがって、従来の手法において必要とされていた膨大な計算量を低減させることが可能となる。 As a result, while conventional digital holograms require wavefront calculations at a sampling pitch on the order of μm, the method of this embodiment only requires sampling at a pitch of a few mm to a few cm. This makes it possible to reduce the enormous amount of calculations required in conventional methods.

また、本実施形態の手法では、ディスプレイ面から離れれば離れるほど、サンプリングする間隔(サンプリングピッチ)が広がる。このため、本実施形態の手法は、ディスプレイ面から離れた広い空間を再現するのに適した方法となる。 In addition, with the method of this embodiment, the sampling interval (sampling pitch) increases the further away from the display surface. This makes the method of this embodiment suitable for reproducing a wide space away from the display surface.

ホログラフィックステレオグラムでは、光線の方向を再現するように立体像が作られる。このため、物体を複数の方向から撮影した画像から三次元画像を表示するためのデータを作成することが可能である。したがって、様々な方法で研究されているCG(コンピュータグラフィックス)の手法を用いて、光沢のある物体や透明な物体など、物体の形状のみならず、そのテクスチャを再現することが可能である。さらに、実際の物体を撮像することで、実物の物体における立体像を再生することも可能となる。 In a holographic stereogram, a three-dimensional image is created to reproduce the direction of light rays. This makes it possible to create data for displaying a three-dimensional image from images of an object taken from multiple directions. Therefore, using CG (computer graphics) techniques, which have been researched in various ways, it is possible to reproduce not only the shape of an object, such as a glossy or transparent object, but also its texture. Furthermore, by capturing an image of the actual object, it is also possible to reproduce a three-dimensional image of the actual object.

例えば、CG手法の一つである光線追跡法を適用してホログラムのパターンを計算する方法を、図12を用いて説明する。まず、各要素セルの中心を、光線追跡法によって射出される光線の始点とする。次に、各要素セルの中心を始点として光線追跡法を行い、光線と被写体となる物体との交点を求める。これにより、要素セルごとに異なる視点位置からの点光源の集合を持つことになり、上下左右の視差を持つ要素セルのパターンを作成することが可能となる。なお、ここでの物体(被写体)は、立体カメラ20で撮像された情報から得られる三次元情報に基づいて作成された三次元物体であってもよいし、CAD(computer-aided design)などを利用して作成された仮想的な(バーチャルな)物体であってもよい。また、この計算の際に光線の方向のみを考慮した場合、図8に示すような光線による再生となる。一方、この計算の際に光線の方向、及び物点までの距離の両方を考慮した場合、図10や、図11に示すような光線による再生となる。 For example, a method of calculating a hologram pattern by applying ray tracing, which is one of the CG techniques, will be described with reference to FIG. 12. First, the center of each element cell is set as the starting point of the light ray emitted by the ray tracing method. Next, the ray tracing method is performed with the center of each element cell as the starting point to find the intersection between the light ray and the object to be the subject. This results in a set of point light sources from different viewpoint positions for each element cell, making it possible to create a pattern of element cells with parallax up, down, left, and right. The object (subject) here may be a three-dimensional object created based on three-dimensional information obtained from information captured by the stereoscopic camera 20, or may be a virtual object created using CAD (computer-aided design) or the like. In addition, if only the direction of the light ray is considered in this calculation, the image will be reproduced by the light ray as shown in FIG. 8. On the other hand, if both the direction of the light ray and the distance to the object point are considered in this calculation, the image will be reproduced by the light ray as shown in FIG. 10 or FIG. 11.

ここで、実施形態の三次元表示ディスプレイ30が行う処理の流れを、図16のフローチャートを用いて説明する。図16には、光線の方向と物点までの距離まで考慮した場合のホログラムのパターンの計算処理の流れが示されている。 Here, the flow of processing performed by the 3D display 30 of the embodiment will be explained using the flowchart in FIG. 16. FIG. 16 shows the flow of calculation processing for a hologram pattern when the direction of the light ray and the distance to the object point are taken into consideration.

まず、三次元表示ディスプレイ30は、ディスプレイに表示すべき物体の三次元情報を取得する(ステップS10)。次に、三次元表示ディスプレイ30は、演算すべき要素セルの中心の位置を求め(ステップS11)、要素セルの中心位置を始点とし、始点から射出されΔαずつ角度が異なる各線と物体との交点を求める(ステップS12)。そして、三次元表示ディスプレイ30は、各物体との交点を物点とし、各物点から発散する球面波の要素セル位置における複素振幅の和を求める(ステップS13)。なお、ここで求められる複素振幅は、要素セルの大きさの範囲でよい。 First, the three-dimensional display 30 obtains three-dimensional information of the object to be displayed on the display (step S10). Next, the three-dimensional display 30 determines the position of the center of the element cell to be calculated (step S11), and determines the intersection points between the object and each line that is emitted from the starting point and differs in angle by Δα, starting from the center position of the element cell (step S12). The three-dimensional display 30 then determines the intersection points with each object as object points, and determines the sum of the complex amplitudes of the spherical waves emanating from each object point at the element cell position (step S13). Note that the complex amplitudes determined here may be within the range of the size of the element cell.

三次元表示ディスプレイ30は、以上の工程(ステップS11~S13までの工程)を全ての要素セルについて行う(ステップS14、S17)。 The three-dimensional display 30 performs the above steps (steps S11 to S13) for all element cells (steps S14 and S17).

その後、三次元表示ディスプレイ30は、全ての要素セルの複素振幅の和を求めることでディスプレイ面での複素振幅を求める(ステップS15)。次に、三次元表示ディスプレイ30は、参照光の波面とディスプレイ面での複素振幅との干渉縞のパターンを求める(ステップS16)。これにより、三次元表示ディスプレイ30は、ディスプレイに表現するホログラムのパターンを求めることができる。 Then, the three-dimensional display 30 obtains the complex amplitude on the display surface by calculating the sum of the complex amplitudes of all element cells (step S15). Next, the three-dimensional display 30 obtains the pattern of interference fringes between the wavefront of the reference light and the complex amplitude on the display surface (step S16). This allows the three-dimensional display 30 to obtain the pattern of the hologram to be displayed on the display.

上述したフローチャートに示す処理では、要素セル毎の干渉縞パターンの和を求めるのではなく、複素振幅の和を求め(ステップS15)、その後に、参照光との干渉縞パターンを演算する(ステップS16)。こうすることで、三次元表示ディスプレイ30は、物体の三次元画像を、光線の方向及び物点までの距離の両方を含めた情報として記録、再生することができる。 In the process shown in the above flowchart, the sum of the complex amplitudes is calculated (step S15) rather than the sum of the interference fringe patterns for each element cell, and then the interference fringe pattern with the reference light is calculated (step S16). In this way, the 3D display 30 can record and play back a 3D image of an object as information including both the direction of the light rays and the distance to the object point.

なお、上述したフローチャートに示す処理では、要素セルの複素振幅の和を計算した後に、参照光との干渉パターンを計算したが、これに限定されることはない。三次元表示ディスプレイ30は、要素セル毎に参照光との干渉パターンを求めた後に、各干渉パターンの和を演算するようにしてもよい。この場合、三次元表示ディスプレイ30は、要素セル毎に演算を実行することができる。このため、並列演算が容易になり、演算に要する時間をより短時間とすることができる。 In the process shown in the above-mentioned flowchart, the sum of the complex amplitudes of the element cells is calculated, and then the interference pattern with the reference light is calculated, but this is not limited to the above. The three-dimensional display 30 may calculate the sum of each interference pattern after determining the interference pattern with the reference light for each element cell. In this case, the three-dimensional display 30 can perform calculations for each element cell. This makes parallel calculations easier and reduces the time required for calculations.

また、記録する立体像(物体の三次元情報)は、水平方向の視差のみを考慮したステレオグラムでもよいが、ピント調整の効果をより効果的するためには、水平方向と鉛直方向の両方向の視差をもったステレオグラムである方が望ましい。また、上述した実施形態では、要素セルとして円形のセルを例示して説明したが、これに限定する必要はない。要素セルの形状は、三角形、四角形、五角形、六角形などの多角形の形状であってもよいし、星型、楕円、長方形などの形状であってもよい。 The recorded stereoscopic image (three-dimensional information of an object) may be a stereogram that takes into account only horizontal parallax, but to make focus adjustment more effective, it is preferable to use a stereogram that has parallax in both the horizontal and vertical directions. In addition, in the above-mentioned embodiment, circular cells are used as element cells, but this is not necessary. The shape of the element cells may be a polygonal shape such as a triangle, square, pentagon, or hexagon, or may be a star, ellipse, rectangle, or other shape.

また、ホログラフィックステレオグラムを再生する光源としては、レーザーやLEDなどの単色の光源、もしくは通常の光源とフィルターを組み合わせた光源を用いることが望ましい。波長による回折角の違いに起因するボケの発生を抑えるためである。 In addition, it is preferable to use a monochromatic light source such as a laser or LED as a light source for reproducing a holographic stereogram, or a light source that combines a normal light source with a filter. This is to prevent blurring caused by differences in diffraction angles due to wavelengths.

また、光源としてレーザー光源を用いた場合、コヒーレント性を落とす工夫をすることが望ましい。スペックルによるノイズを低減させるためである。レーザー光源のコヒーレント性を落とすには、光ファイバーを透過させる、光源を振動させる、光路長を変化させる、動きのある拡散要素を光路内に挿入する、複数の光源を組み合わせるなどの方法が考えられる。 When using a laser light source as the light source, it is desirable to take measures to reduce the coherence. This is to reduce noise caused by speckle. Possible methods for reducing the coherence of a laser light source include passing the light through an optical fiber, vibrating the light source, changing the optical path length, inserting a moving diffusing element into the optical path, and combining multiple light sources.

上記では、社会距離として、おおよそ1.2m程度から3.6m程度まで距離を対象としてきたが、空間において再生される全て物体がこの距離の範囲内に存在する必要はない。主に観察対象となる物体が、少なくともこの社会距離の範囲に存在していればよい。また、再生される対象(物体)としては、人に限定されるものではなく、動物やロボットなどであってもよい。また、再生される対象(物体)が、空間に再現された2次元の画像であってもよい。さらには、コミュニケーション対象の存在を示唆するような建築物、例えば、空間に配置された机や椅子、テーブルなどを再現するものであってもよい。さらには、再生される対象が、コミュニケーションを直接取るものでなくてもよい。例えば、重機を遠隔操作する際の観察対象となる地山などが、社会距離の範囲に存在している形態であっても構わない。遠隔手術や、宇宙空間におけるロボットアームの操作、軍事などにおける無人偵察機の操作などを行う場合も同様である。 In the above, the social distance is set to a distance of approximately 1.2 m to approximately 3.6 m, but it is not necessary for all objects reproduced in the space to exist within this distance range. It is sufficient that the object to be observed exists at least within this social distance range. Furthermore, the reproduced object (object) is not limited to a person, but may be an animal or a robot. Furthermore, the reproduced object (object) may be a two-dimensional image reproduced in the space. Furthermore, it may be a building that suggests the presence of a communication target, such as a desk, chair, or table placed in the space. Furthermore, the reproduced object does not have to be something that directly communicates. For example, the natural ground that is observed when remotely operating heavy machinery may exist within the social distance range. The same applies to remote surgery, the operation of a robot arm in outer space, and the operation of an unmanned reconnaissance aircraft in the military.

図5や図6を用いて説明したように、空間の奥行きが3.6mを超えた場合であっても本発明を用いればボケが少なく広い空間を再生することが可能になる。例えば、景色などの広い空間や建物や大きな動植物など巨大な物体を含む空間を表現するために、社会距離を超えた空間の表現にも本発明は利用することが可能である。 As explained using Figures 5 and 6, the present invention makes it possible to reproduce a wide space with little blurring even when the depth of the space exceeds 3.6 m. For example, the present invention can be used to express a space that exceeds social distance, such as a wide space such as a landscape or a space that includes large objects such as a building or large plants and animals.

また、接眼レンズなどの光学系を介してディスプレイを観察する場合、要素セルのサイズd、及び要素セルのピッチpの条件を、光学系の倍率に基づいて補正するようにしてもよい。例えば、ディスプレイからの距離が、おおよそ1.2m程度から3.6m程度までの社会距離で、接眼レンズなしのとき要素セルのサイズdを1.0mm、要素セルのピッチpを1.2mmとする場合を考える。この場合において、ヘッドマウントディスプレイなどに本実施形態を応用し、ヘッドマウントディスプレイなどに装着される接眼レンズの倍率が2倍であった場合、三次元表示ディスプレイ30は、要素セルのサイズdを1.0/2=0.5mm、要素セルのピッチpを1.2/2=0.6mmに補正する。逆に、縮小光学系を用いて光学系の倍率を0.5とする場合、三次元表示ディスプレイ30は、要素セルのサイズdを1.0/0.5=2.0mm、要素セルのピッチpを1.2/0.5=2.4mmとなるように補正する。 In addition, when observing the display through an optical system such as an eyepiece, the conditions of the size d of the element cells and the pitch p of the element cells may be corrected based on the magnification of the optical system. For example, consider a case where the size d of the element cells is 1.0 mm and the pitch p of the element cells is 1.2 mm when the distance from the display is a social distance of approximately 1.2 m to 3.6 m and there is no eyepiece. In this case, when this embodiment is applied to a head-mounted display or the like and the magnification of the eyepiece attached to the head-mounted display or the like is 2x, the three-dimensional display 30 corrects the size d of the element cells to 1.0/2 = 0.5 mm and the pitch p of the element cells to 1.2/2 = 0.6 mm. Conversely, when the magnification of the optical system is 0.5 using a reduced optical system, the three-dimensional display 30 corrects the size d of the element cells to 1.0/0.5 = 2.0 mm and the pitch p of the element cells to 1.2/0.5 = 2.4 mm.

すなわち、補正後のサイズd#、補正後のp#は以下の式で表現される。以下の式において、dは補正前のサイズ、pは補正前のピッチ、BRは接眼レンズなどの光学系の倍率を示す。 In other words, the corrected size d# and corrected p# are expressed by the following formulas. In the formulas below, d is the size before correction, p is the pitch before correction, and BR is the magnification of the optical system such as the eyepiece lens.

d#=d/BR
p#=p/BR
d#=d/BR
p#=p/BR

なお、接眼レンズなどを用いずに直接ディスプレイ面を観察する場合、輻輳の効果を得るために両眼で同時に観察できることが望ましい。平均の眼間距離が約60mmであることから、ディスプレイ面のサイズは、少なくとも長軸方向において60mm以上あることが望ましい。 When observing the display surface directly without using eyepieces, it is desirable to be able to observe with both eyes simultaneously in order to obtain the effect of convergence. Since the average interocular distance is approximately 60 mm, it is desirable for the size of the display surface to be at least 60 mm in the long axis direction.

(実施形態の変形例)
ここで、実施形態の変形例について説明する。本変形例では、仮想的な物体(以下、仮想物体)を再生空間に再現させる点において、上述した実施形態と相違する。仮想物体は、例えば、バーチャルなキャラクターなどである。
(Modification of the embodiment)
Here, a modified example of the embodiment will be described. This modified example differs from the above-described embodiment in that a virtual object (hereinafter, a virtual object) is reproduced in the reproduction space. The virtual object is, for example, a virtual character.

図17は、実施形態の変形例における三次元空間表示システム1Aの構成を示すブロック図である。三次元空間表示システム1Aは、例えば、通信部10と、三次元表示ディスプレイ30とを備える。すなわち、本変形例において立体カメラ20を省略することが可能となる。 Figure 17 is a block diagram showing the configuration of a three-dimensional space display system 1A in a modified example of the embodiment. The three-dimensional space display system 1A includes, for example, a communication unit 10 and a three-dimensional display 30. In other words, in this modified example, it is possible to omit the stereoscopic camera 20.

通信部10は、外部から仮想物体の三次元情報を取得する。仮想物体には、観察対象となる物体のみならず、背景など、再現する空間の三次元情報が含まれる。三次元表示ディスプレイ30は、通信部10を介して取得した、仮想物体の三次元情報を用いて、例えば、その仮想物体が社会距離に存在する空間を再現して表示する。 The communication unit 10 acquires three-dimensional information of a virtual object from the outside. The virtual object includes not only the object to be observed, but also three-dimensional information of the reproduced space, such as the background. The three-dimensional display 30 uses the three-dimensional information of the virtual object acquired via the communication unit 10 to reproduce and display, for example, the space in which the virtual object exists at a social distance.

或いは、三次元表示ディスプレイ30は、仮想物体の三次元情報を作成する機能部を備えるようにしてもよい。或いは、本変形例の三次元表示ディスプレイ30は、予め記憶部36に記憶されている仮想物体の三次元情報を用いるようにしてもよい。この場合、三次元空間表示システム1において、通信部10を省略することができる。 Alternatively, the three-dimensional display 30 may be provided with a functional unit that creates three-dimensional information of a virtual object. Alternatively, the three-dimensional display 30 of this modified example may use three-dimensional information of a virtual object that is stored in advance in the storage unit 36. In this case, the communication unit 10 can be omitted in the three-dimensional space display system 1.

図18は、実施形態の変形例における三次元空間表示システム1Aが適用される例を説明する図である。図18では、例えば図17で示した構成により生成した仮想物体の三次元画像が再生像SIM(この例では、再生像SIM1~SIM7)として存在する再生空間SKを、ディスプレイに表示することができる。このように、本変形例の三次元表示ディスプレイ30を用いることで、バーチャルな空間に作られた人物やキャラクターなど実在しない相手や、他システムから送られたコミュニケーション相手のアバター等と、社会距離がとれる奥行きのある社会距離空間において、より自然なコミュニケーションを取ることができる。 Figure 18 is a diagram illustrating an example in which a three-dimensional space display system 1A in a modified embodiment is applied. In Figure 18, a reproduction space SK in which a three-dimensional image of a virtual object generated by the configuration shown in Figure 17 exists as a reproduction image SIM (in this example, reproduction images SIM1 to SIM7) can be displayed on a display. In this way, by using the three-dimensional display 30 of this modified embodiment, more natural communication can be carried out in a social distance space with depth that allows social distance with non-existent people, such as people or characters created in a virtual space, or avatars of communication partners sent from other systems.

本変形例におけるコミュニケーションの手段は、特定の手段に限定されるものではない。例えば、三次元空間表示システム1Aが、キャラクターとコミュニケーションをとる手段に適用されてもよい。ここでのキャラクターは、仮想物体として表示されるバーチャルなキャラクターである。 The means of communication in this modified example is not limited to a specific means. For example, the three-dimensional space display system 1A may be applied as a means of communicating with a character. The character here is a virtual character displayed as a virtual object.

この場合、三次元空間表示システム1は、例えば、ライブカメラと、キャラクターに所定のリアクションを取らせた三次元空間画像を表示させる信号処理を行うプロセッサとを備える。ライブカメラはユーザを撮影する。プロセッサは、ライブカメラによって撮影された映像から当該ユーザのジェスチャーを認識し、当該ジェスチャーに基づいて、キャラクターに取らせるリアクションを決定し、決定したリアクションを取らせたキャラクターの画像を表示させる。これにより、ジェスチャーを通じて当該キャラクターとコミュニケーションをとることが可能となる。 In this case, the three-dimensional space display system 1 includes, for example, a live camera and a processor that performs signal processing to display a three-dimensional space image in which a character has a predetermined reaction. The live camera captures an image of the user. The processor recognizes the gestures of the user from the image captured by the live camera, determines the reaction that the character should have based on the gesture, and displays an image of the character having the determined reaction. This makes it possible to communicate with the character through gestures.

或いは、三次元空間表示システム1Aが、マイクと、スピーカーと、キャラクターに所定のリアクションを取らせた三次元空間画像を表示させる信号処理を行うプロセッサとを備える。マイクにはユーザの音声が入力される。プロセッサは、当該マイクから入力されたユーザの音声に応じて当該音声の返答を決定し、決定した返答をスピーカーから出力させる。また、プロセッサは、ユーザの音声に応じてキャラクターに取らせるリアクションを決定し、決定したリアクションを取らせたキャラクターの画像を表示させる。これにより、音声を通じて当該キャラクターとコミュニケーションをとることが可能となる。 Alternatively, the three-dimensional space display system 1A includes a microphone, a speaker, and a processor that performs signal processing to display a three-dimensional space image in which a character has a specified reaction. The user's voice is input to the microphone. The processor determines a voice response in response to the user's voice input from the microphone, and outputs the determined response from the speaker. The processor also determines a reaction to be made by the character in response to the user's voice, and displays an image of the character having the determined reaction. This makes it possible to communicate with the character through voice.

また、本変形例において、仮想物体は、CG(Computer Graphics)ではなく、予め立体カメラ等で撮影しておいた実写の動画像であってもよい。このような場合であっても、上述したようなユーザからのジェスチャーや音声などの入力に応じて、リアクションとして再生する動画像を切り替えることで、仮想物体とインタラクション(コミュニケーション)することが可能となる。 In addition, in this modified example, the virtual object may not be CG (Computer Graphics), but may be a live-action video image captured in advance by a stereoscopic camera or the like. Even in such a case, it is possible to interact (communicate) with the virtual object by switching the video image played as a reaction in response to gestures, voice input, or other input from the user as described above.

また、三次元空間表示システム1Aが再生(表示)する仮想物体が静止物体である場合には、三次元表示ディスプレイ30の表示部34として、印刷物などの変化しない(静止した)画像を表示するようにしてもよい。 In addition, if the virtual object reproduced (displayed) by the three-dimensional space display system 1A is a stationary object, the display unit 34 of the three-dimensional display 30 may be configured to display an unchanging (static) image such as a printed matter.

また、三次元表示ディスプレイ30の表示部34が表示する画像は、電子線描画装置などの微細なパターニング装置を用いてホログラムパターンが描画された画像、さらには、描画されたホログラムパターンが複製された画像であってもよい。このように、表示する画像として固定されたホログラムパターン(静止画像)を用いることで、安価に広い空間を再現することが可能になる。なお、この場合、表示部34がホログラムパターンによって光の方向を制御する。表示部34は、各要素セルが射出する光線によりホログラムパターンを少なくとも虚像または実像のいずれか一方として表示する。このため、表示機能と光制御機能とが一つのデバイスで実現されることになる。このような場合、仮想物体として表示されるバーチャルなキャラクターにリアクションを取らせることはできなくなるが、上述のように疑似的に仮想物体との音声によるコミュニケーションを成立させることは可能である。なお、表示部34と共に、又は表示部43に代えて光制御部35が、固定されたホログラムパターン等の静止画像を表示するようにしてもよい。表示部34は、「立体像表示部」の一例である。光制御部35は、「立体像表示部」の一例である。また、ホログラムパターンが描画された画像は、「立体像」の一例である。描画されたホログラムパターンが複製された画像は、「立体像」の一例である。 The image displayed by the display unit 34 of the three-dimensional display 30 may be an image in which a hologram pattern is drawn using a fine patterning device such as an electron beam drawing device, or an image in which the drawn hologram pattern is replicated. In this way, by using a fixed hologram pattern (still image) as the image to be displayed, it is possible to reproduce a large space at low cost. In this case, the display unit 34 controls the direction of light by the hologram pattern. The display unit 34 displays the hologram pattern as at least one of a virtual image or a real image by the light beam emitted by each element cell. Therefore, the display function and the light control function are realized by one device. In such a case, it is not possible to make the virtual character displayed as a virtual object react, but it is possible to establish pseudo-audio communication with the virtual object as described above. In addition, the light control unit 35 may display a still image such as a fixed hologram pattern together with the display unit 34 or instead of the display unit 43. The display unit 34 is an example of a "stereoscopic image display unit". The light control unit 35 is an example of a "stereoscopic image display unit". Additionally, an image in which a hologram pattern is drawn is an example of a "stereoscopic image." An image in which the drawn hologram pattern is replicated is an example of a "stereoscopic image."

以上、説明したように、実施形態の三次元表示ディスプレイ30は、再生空間に立体像を再生させる場合における前記立体像から仮想的に射出される光線を再生する。 As described above, the three-dimensional display 30 of the embodiment reproduces light rays virtually emitted from a three-dimensional image when the image is reproduced in a reproduction space.

実施形態の三次元表示ディスプレイ30は表示部34、又は/及び光制御部35を備える。表示部34、又は/及び光制御部35は「立体像表示部」の一例である。表示部34、又は/及び光制御部35は、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により立体像を少なくとも虚像または実像のいずれか一方として表示する。表示部34、又は/及び光制御部35は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示する。また、三次元表示ディスプレイ30では、要素セルのサイズd、及び要素セルのピッチpは、再生空間に再現される立体像が観察者に観察される度合いに応じて決定される値である。立体像は、再生空間おける奥行き方向の距離が社会距離に相当する領域に再現される。 The three-dimensional display 30 of the embodiment includes a display unit 34 and/or a light control unit 35. The display unit 34 and/or the light control unit 35 are an example of a "stereoscopic image display unit." The display unit 34 and/or the light control unit 35 displays a stereoscopic image as at least one of a virtual image and a real image by light emitted by each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen. The display unit 34 and/or the light control unit 35 displays the stereoscopic image in an area in which the distance in the depth direction in the reproduction space corresponds to the social distance. In the three-dimensional display 30, the size d of the element cells and the pitch p of the element cells are values determined according to the degree to which the stereoscopic image reproduced in the reproduction space is observed by the observer. The stereoscopic image is reproduced in an area in which the distance in the depth direction in the reproduction space corresponds to the social distance.

これにより、実施形態の三次元表示ディスプレイ30は、再生空間において社会距離にある立体像が観察者OBによく見えるように、要素セルのサイズd、及び要素セルのピッチpを決定することができる。したがって、社会距離空間を、自然な距離感が得られ、且つボケが少ない三次元空間として再生することができる。 As a result, the three-dimensional display 30 of the embodiment can determine the size d of the element cells and the pitch p of the element cells so that a three-dimensional image at a social distance in the reproduction space can be clearly seen by the observer OB. Therefore, the social distance space can be reproduced as a three-dimensional space that provides a natural sense of distance and has little blurring.

また、実施形態の三次元表示ディスプレイ30は演算部31又は/及び制御部32を備える。演算部31又は/及び制御部32は、「信号処理部」の一例である。演算部31又は/及び制御部32は、要素セル集合の各要素(要素セル)について、再生する光線の方向を演算する。要素セルは、再生画面に対応して二次元的に配置される。要素セルには、立体像の表面から射出される複数の前記光線からなる集合を、各々の光線が到達する再生画面の位置に応じて分割した各要素が対応づけられる。これにより上述した効果と同様の効果を奏する。 The three-dimensional display 30 of the embodiment also includes a calculation unit 31 and/or a control unit 32. The calculation unit 31 and/or the control unit 32 are an example of a "signal processing unit." The calculation unit 31 and/or the control unit 32 calculate the direction of the light ray to be reproduced for each element (element cell) of the element cell group. The element cells are arranged two-dimensionally corresponding to the reproduction screen. The element cells correspond to each element obtained by dividing a group of multiple light rays emitted from the surface of the three-dimensional image according to the position on the reproduction screen where each light ray reaches. This provides the same effect as described above.

また、実施形態の三次元表示ディスプレイ30では、要素セルのサイズdは再現された立体像に生じるボケの大きさに応じて決定される。これにより、許容できるボケの大きさに抑えられるように要素セルのサイズdが決定されるため、ボケの少ない立体像を再生することができる。 In addition, in the three-dimensional display 30 of the embodiment, the size d of the element cell is determined according to the amount of blurring that occurs in the reproduced three-dimensional image. This allows the size d of the element cell to be determined so that the amount of blurring is kept to an acceptable level, making it possible to reproduce a three-dimensional image with little blurring.

また、要素セルのピッチpは、再現された立体像を観察する観察者の網膜上の分解能に応じて決定される。これにより、ピント調整ができるように要素セルのピッチpが決定されるため、観察者OBがピントを合わせることが可能な立体像を再生することができる。 The pitch p of the element cells is determined according to the resolution on the retina of the observer who views the reproduced three-dimensional image. This allows the pitch p of the element cells to be determined so that focus adjustment is possible, making it possible to reproduce a three-dimensional image that the observer OB can focus on.

上述した実施形態における三次元空間表示システム1(1A、100)、及び三次元表示ディスプレイ30の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。 The three-dimensional space display system 1 (1A, 100) and the three-dimensional display 30 in the above-mentioned embodiment may be realized in whole or in part by a computer. In that case, a program for realizing this function may be recorded in a computer-readable recording medium, and the program recorded in the recording medium may be read into a computer system and executed to realize the function. Note that the term "computer system" here includes hardware such as an OS and peripheral devices. Furthermore, the term "computer-readable recording medium" refers to portable media such as flexible disks, optical magnetic disks, ROMs, and CD-ROMs, and storage devices such as hard disks built into a computer system. Furthermore, the term "computer-readable recording medium" may include a medium that dynamically holds a program for a short period of time, such as a communication line when a program is transmitted via a network such as the Internet or a communication line such as a telephone line, and a medium that holds a program for a certain period of time, such as a volatile memory inside a computer system that is a server or client in such a case. Furthermore, the above-mentioned program may be a program for realizing a part of the above-mentioned function, or may be a program that can realize the above-mentioned function in combination with a program already recorded in the computer system, or may be a program that is realized using a programmable logic device such as an FPGA.

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 The above describes an embodiment of the present invention in detail with reference to the drawings, but the specific configuration is not limited to this embodiment, and includes designs that do not deviate from the gist of the present invention.

1、1A、100…三次元空間表示システム、10…通信部、20…立体カメラ、30…三次元表示ディスプレイ(光線再生装置)、31…演算部(信号処理部)、32…制御部(信号処理部)、33…光源部、34…表示部(立体像表示部)、35…光制御部(立体像表示部)、36…記憶部 1, 1A, 100...3D space display system, 10...communication unit, 20...stereoscopic camera, 30...3D display (light reproduction device), 31...arithmetic unit (signal processing unit), 32...control unit (signal processing unit), 33...light source unit, 34...display unit (stereoscopic image display unit), 35...light control unit (stereoscopic image display unit), 36...storage unit

Claims (11)

再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する光線再生装置であって、
前記立体像の表面から射出される複数の前記光線が到達する再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部、
を備え、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、
光線再生装置。
A light beam reproducing device for reproducing light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, comprising:
a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells that are two-dimensionally arranged corresponding to a reproduction screen on which the plurality of light rays emitted from the surface of the stereoscopic image reach;
Equipped with
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
Light reproduction device.
再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する光線再生装置であって、
前記立体像の表面から射出される複数の前記光線が到達する再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部、
を備え、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下である、
光線再生装置。
A light beam reproducing device for reproducing light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, comprising:
a stereoscopic image display unit that displays the stereoscopic image as at least one of a virtual image and a real image by light rays emitted from each element cell included in an element cell set consisting of a plurality of element cells that are two-dimensionally arranged corresponding to a reproduction screen on which the plurality of light rays emitted from the surface of the stereoscopic image reach;
Equipped with
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less.
Light reproduction device.
前記立体像の表面から射出される複数の前記光線からなる集合を、前記再生画面の位置に応じて分割し、前記要素セル集合の各要素に前記分割した前記複数の前記光線の各要素を対応づけ、前記要素セル集合の各要素について、再生する1以上の前記光線の成分を演算する信号処理部を更に備える、
請求項1又は請求項2に記載の光線再生装置。
a signal processing unit that divides a set of a plurality of the light rays emitted from a surface of the stereoscopic image in accordance with a position on the reproduction screen, associates each element of the element cell set with each of the divided elements of the plurality of the light rays, and calculates one or more components of the light rays to be reproduced for each element of the element cell set,
3. The light reproducing device according to claim 1 or 2 .
前記要素セルのピッチは、再生空間における奥行き方向の距離が社会距離に相当する領
域に前記立体像を表示させる場合に、当該表示される前記立体像を観察する観察者の網膜
上の分解能に応じて決定される、
請求項1から請求項3のいずれか一項に記載の光線再生装置。
the pitch of the element cells is determined according to a resolution on the retina of an observer who observes the displayed stereoscopic image when the stereoscopic image is displayed in an area in a reproduction space where the distance in the depth direction corresponds to a social distance;
The light reproducing device according to any one of claims 1 to 3.
前記要素セルのサイズは、前記要素セルのピッチよりも小さくなるように決定される、
請求項1から請求項4のいずれか一項に記載の光線再生装置。
The size of the element cell is determined to be smaller than the pitch of the element cell.
5. The light reproducing device according to claim 1.
前記要素セルは、立体像からの波面を記録したホログラムである、
請求項1から請求項のいずれか一項に記載の光線再生装置。
The element cell is a hologram that records a wavefront from a stereoscopic image.
6. A light reproducing device according to claim 1.
請求項1から請求項のいずれか一項に記載の光線再生装置と
前記光線再生装置に、立体像の三次元情報を出力する立体カメラと、
を備える三次元空間表示システム。
A light beam reproduction device according to any one of claims 1 to 6 ; a stereoscopic camera that outputs three-dimensional information of a stereoscopic image to the light beam reproduction device;
A three-dimensional space display system comprising:
再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備える光線再生装置の光線再生方法であって、A light beam reproduction method for a light beam reproduction device having a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells two-dimensionally arranged corresponding to a reproduction screen, comprising:
前記立体像表示部が、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance;
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
光線再生方法。Light reproduction method.
再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備える光線再生装置の光線再生方法であって、A light beam reproduction method for a light beam reproduction device having a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells two-dimensionally arranged corresponding to a reproduction screen, comprising:
前記立体像表示部が、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where the distance in the depth direction corresponds to a social distance;
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下であり、The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less,
光線再生方法。Light reproduction method.
再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備える光線再生装置のコンピュータを、
前記立体像の表面から射出される複数の前記光線からなる集合を、前記再生画面の位置に応じて分割し、前記要素セル集合の各要素に前記分割した前記複数の前記光線の各要素を対応づけ、前記要素セル集合の各要素について、再生する1以上の前記光線の成分を演算する信号処理手段、
として機能させるプログラムであって、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは0.8mm以上であり、前記要素セルのピッチは1.2mm以下である、
プログラム。
a computer of a light beam reproduction device including a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen;
a signal processing means for dividing a set of a plurality of said light rays emitted from a surface of said stereoscopic image in accordance with a position on said reproduction screen, for associating each element of said element cell set with each of said divided elements of said plurality of said light rays, and for calculating one or more components of said light rays to be reproduced for each element of said element cell set;
A program that functions as
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 0.8 mm or more, and the pitch of the element cell is 1.2 mm or less.
program.
再生空間に立体像を表示させる場合における前記立体像から仮想的に射出される光線を再生する、再生画面に対応して二次元的に配置される複数の要素セルからなる要素セル集合に含まれる各要素セルが射出する光線により前記立体像を少なくとも虚像または実像のいずれか一方として表示する立体像表示部を備える光線再生装置のコンピュータを、
前記立体像の表面から射出される複数の前記光線からなる集合を、前記再生画面の位置に応じて分割し、前記要素セル集合の各要素に前記分割した前記複数の前記光線の各要素を対応づけ、前記要素セル集合の各要素について、再生する1以上の前記光線の成分を演算する信号処理手段、
として機能させるプログラムであって、
前記立体像表示部は、前記再生空間における奥行き方向の距離が社会距離に相当する領域に前記立体像を表示し、
前記立体像は、ディスプレイ面からの奥行き方向の距離が少なくとも1.2m~3.6mである範囲に表示され、
前記要素セル集合における各要素である要素セルのサイズ、及び前記要素セルを二次元的に配置する際の前記要素セルのピッチは、前記再生空間に表示される前記立体像が観察者に観察される度合いに応じて決定される値であり、
前記要素セルのサイズは、前記要素セルからの回折光の広がり角の大きさが、前記観察者の視力に応じた角度分解能の大きさ以下となるように決定され、
前記要素セルのサイズは1.2mm以上であり、前記要素セルのピッチは7mm以下である、
プログラム。
a computer of a light beam reproduction device including a stereoscopic image display unit which reproduces light beams virtually emitted from a stereoscopic image when the stereoscopic image is displayed in a reproduction space, and displays the stereoscopic image as at least one of a virtual image and a real image by light beams emitted from each element cell included in an element cell set consisting of a plurality of element cells arranged two-dimensionally corresponding to a reproduction screen;
a signal processing means for dividing a set of a plurality of said light rays emitted from a surface of said stereoscopic image in accordance with a position on said reproduction screen, for associating each element of said element cell set with each of said divided elements of said plurality of said light rays, and for calculating one or more components of said light rays to be reproduced for each element of said element cell set;
A program that functions as
the stereoscopic image display unit displays the stereoscopic image in an area in the reproduction space where a distance in a depth direction corresponds to a social distance,
the stereoscopic image is displayed within a range of at least 1.2 m to 3.6 m in the depth direction from the display surface;
a size of an element cell which is each element in the element cell set, and a pitch of the element cells when the element cells are two-dimensionally arranged are values determined according to a degree to which the stereoscopic image displayed in the reproduction space is observed by a viewer,
a size of the element cell is determined so that a spread angle of diffracted light from the element cell is equal to or smaller than an angular resolution according to the visual acuity of the observer;
The size of the element cell is 1.2 mm or more, and the pitch of the element cell is 7 mm or less.
program.
JP2020163317A 2020-08-20 2020-09-29 Light reproduction device, three-dimensional space display system, light reproduction method, and program Active JP7615590B2 (en)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2020163317A JP7615590B2 (en) 2020-09-29 2020-09-29 Light reproduction device, three-dimensional space display system, light reproduction method, and program
PCT/JP2021/030292 WO2022039208A1 (en) 2020-08-20 2021-08-19 Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program
EP24213833.7A EP4485070A3 (en) 2020-08-20 2021-08-19 Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program
CN202180050388.4A CN115956214A (en) 2020-08-20 2021-08-19 Diffraction sheet and its manufacturing method, three-dimensional display device, light reproduction device, three-dimensional space display system, light reproduction method and program
CN202511311798.6A CN120909012A (en) 2020-08-20 2021-08-19 Light reproduction device, three-dimensional space display system, light reproduction method, and program
EP21858352.4A EP4202536B1 (en) 2020-08-20 2021-08-19 Diffraction sheet, method for manufacturing same, three-dimensional display device, light-beam reproduction device, three-dimensional space display system, light-beam reproduction method, and program
US18/171,576 US12392939B2 (en) 2020-08-20 2023-02-20 Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program
US18/807,693 US20240411066A1 (en) 2020-08-20 2024-08-16 Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020163317A JP7615590B2 (en) 2020-09-29 2020-09-29 Light reproduction device, three-dimensional space display system, light reproduction method, and program

Publications (2)

Publication Number Publication Date
JP2022055732A JP2022055732A (en) 2022-04-08
JP7615590B2 true JP7615590B2 (en) 2025-01-17

Family

ID=80998543

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020163317A Active JP7615590B2 (en) 2020-08-20 2020-09-29 Light reproduction device, three-dimensional space display system, light reproduction method, and program

Country Status (1)

Country Link
JP (1) JP7615590B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023147942A (en) 2022-03-30 2023-10-13 セイコーエプソン株式会社 Recording method and recording device

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000069505A (en) 1998-08-25 2000-03-03 Terumo Corp Stereoscopic image display device
JP2007025601A (en) 2005-07-21 2007-02-01 Sony Corp Display device, display control method, and program
JP2008233469A (en) 2007-03-20 2008-10-02 Toshiba Corp Stereoscopic image display device
JP2010032818A (en) 2008-07-29 2010-02-12 National Institute Of Information & Communication Technology Lens function member array, hologram producing device, and hologram producing program
US20150277378A1 (en) 2014-03-31 2015-10-01 Disney Enterprises, Inc. Image based multiview multilayer holographic rendering algorithm
US20180173159A1 (en) 2016-12-21 2018-06-21 Vladimir Yankov Method of Forming a Rarefied Hologram for Video Imaging and 3D Lithography
WO2019017290A1 (en) 2017-07-20 2019-01-24 エフ・エーシステムエンジニアリング株式会社 Stereoscopic display
JP2019522231A (en) 2016-05-18 2019-08-08 シーリアル テクノロジーズ ソシエテ アノニムSeereal Technologies S.A. Method for generating a hologram
WO2019171342A1 (en) 2018-03-09 2019-09-12 Evolution Optiks Limited Vision correction system and method, light field display and microlens array therefor
WO2019210254A1 (en) 2018-04-27 2019-10-31 Limbak 4Pi S.L. Human vision-adapted light field displays
US20190333444A1 (en) 2018-04-25 2019-10-31 Raxium, Inc. Architecture for light emitting elements in a light field display
JP2019531496A (en) 2016-07-15 2019-10-31 ライト フィールド ラボ、インコーポレイテッド Holographic superposition of real-world plenoptic opacity modulation via transparent waveguide arrays for light field, virtual and augmented reality

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2317291A (en) * 1996-09-12 1998-03-18 Sharp Kk Observer tracking directional display
JP3787939B2 (en) * 1997-02-27 2006-06-21 コニカミノルタホールディングス株式会社 3D image display device

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000069505A (en) 1998-08-25 2000-03-03 Terumo Corp Stereoscopic image display device
JP2007025601A (en) 2005-07-21 2007-02-01 Sony Corp Display device, display control method, and program
JP2008233469A (en) 2007-03-20 2008-10-02 Toshiba Corp Stereoscopic image display device
JP2010032818A (en) 2008-07-29 2010-02-12 National Institute Of Information & Communication Technology Lens function member array, hologram producing device, and hologram producing program
US20150277378A1 (en) 2014-03-31 2015-10-01 Disney Enterprises, Inc. Image based multiview multilayer holographic rendering algorithm
JP2019522231A (en) 2016-05-18 2019-08-08 シーリアル テクノロジーズ ソシエテ アノニムSeereal Technologies S.A. Method for generating a hologram
JP2019531496A (en) 2016-07-15 2019-10-31 ライト フィールド ラボ、インコーポレイテッド Holographic superposition of real-world plenoptic opacity modulation via transparent waveguide arrays for light field, virtual and augmented reality
US20180173159A1 (en) 2016-12-21 2018-06-21 Vladimir Yankov Method of Forming a Rarefied Hologram for Video Imaging and 3D Lithography
WO2019017290A1 (en) 2017-07-20 2019-01-24 エフ・エーシステムエンジニアリング株式会社 Stereoscopic display
WO2019171342A1 (en) 2018-03-09 2019-09-12 Evolution Optiks Limited Vision correction system and method, light field display and microlens array therefor
US20190333444A1 (en) 2018-04-25 2019-10-31 Raxium, Inc. Architecture for light emitting elements in a light field display
WO2019210254A1 (en) 2018-04-27 2019-10-31 Limbak 4Pi S.L. Human vision-adapted light field displays

Also Published As

Publication number Publication date
JP2022055732A (en) 2022-04-08

Similar Documents

Publication Publication Date Title
US11381804B2 (en) Light projector using an acousto-optical control device
US8130260B2 (en) System and method for 3-dimensional display of image data
Scarfe et al. Using high-fidelity virtual reality to study perception in freely moving observers
JP2022502800A (en) Systems and methods for augmented reality
US11122256B1 (en) Mixed reality system
US20240411066A1 (en) Diffraction sheet and method for manufacturing the same, three-dimensional display device, light beam reproduction device, three-dimensional spatial display system, light beam reproduction method, and program
US12028419B1 (en) Systems and methods for predictively downloading volumetric data
US12352976B1 (en) Computer-implemented system and method for providing VR/AR visual experiences to users by pupil-directed retinal projection in near-eye displays
CN113875230A (en) Mixed-mode three-dimensional display system and method
TWI904312B (en) Headset
Broll et al. VR/AR output devices
TW202229978A (en) Reverse pass-through glasses for augmented reality and virtual reality devices
Zhang et al. Design and implementation of an optical see-through near-eye display combining Maxwellian-view and light-field methods
JP7615590B2 (en) Light reproduction device, three-dimensional space display system, light reproduction method, and program
JP6855493B2 (en) Holographic video capture and telepresence system
Dorado et al. Toward 3D integral-imaging broadcast with increased viewing angle and parallax
JP7322490B2 (en) 3D image display system and usage method thereof, 3D image display display and usage method thereof, 3D image display display pattern calculation method
CN116762032A (en) Reverse see-through glasses for augmented reality and virtual reality devices
Hansen et al. Calibrating, Rendering and Evaluating the Head Mounted Light Field Display

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241216

R150 Certificate of patent or registration of utility model

Ref document number: 7615590

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150