[go: up one dir, main page]

JP4599858B2 - Image display device - Google Patents

Image display device Download PDF

Info

Publication number
JP4599858B2
JP4599858B2 JP2004068889A JP2004068889A JP4599858B2 JP 4599858 B2 JP4599858 B2 JP 4599858B2 JP 2004068889 A JP2004068889 A JP 2004068889A JP 2004068889 A JP2004068889 A JP 2004068889A JP 4599858 B2 JP4599858 B2 JP 4599858B2
Authority
JP
Japan
Prior art keywords
image
observer
display
image display
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004068889A
Other languages
Japanese (ja)
Other versions
JP2005258022A (en
Inventor
祥治 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2004068889A priority Critical patent/JP4599858B2/en
Priority to PCT/JP2004/016025 priority patent/WO2005043218A1/en
Publication of JP2005258022A publication Critical patent/JP2005258022A/en
Priority to US11/413,046 priority patent/US7825996B2/en
Application granted granted Critical
Publication of JP4599858B2 publication Critical patent/JP4599858B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置に関するものであり、特に、観察者に対する画像の表示をその観察者の動作を考慮して制御する技術に関するものである。   The present invention relates to an image display device that allows a viewer to visually recognize a display target by a virtual image by projecting light onto the retina of the viewer, and in particular, displays the image of the viewer to the viewer. The present invention relates to a technology that takes control into consideration.

光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置が既に知られている(例えば、特許文献1参照。)。   There is already known an image display device that causes a viewer to visually recognize a display target by a virtual image by projecting light onto the retina of the viewer (see, for example, Patent Document 1).

この種の画像表示装置は、一般に、(a)光を出射する出射部(例えば、光源等)と、(b)光を変調する変調部(例えば、強度変調部、波面変調部等)と、(c)表示対象(コンテンツ)を虚像として画像表示領域に表示する表示部と、(d)画像が画像表示領域に表示されるように出射部および変調部を制御する制御部とを含むように構成される。   In general, this type of image display apparatus includes: (a) an emission unit that emits light (for example, a light source); and (b) a modulation unit that modulates light (for example, an intensity modulation unit, a wavefront modulation unit, and the like); (C) a display unit that displays a display target (content) as a virtual image in the image display region, and (d) a control unit that controls the emission unit and the modulation unit so that the image is displayed in the image display region. Composed.

この種の画像表示装置の一形式は、上記表示部が観察者の頭部に装着されて使用されるヘッドマウント型であり、その一従来技術が特許文献1に開示されている。   One type of this type of image display apparatus is a head-mounted type in which the display unit is used by being mounted on the head of an observer, and one conventional technique is disclosed in Patent Document 1.

このヘッドマウント型の画像表示装置が、それの表示部の位置を基準にして画像を表示するように設計される場合には、観察者の動作とは無関係に、観察者が画像表示領域(観察者の頭部に固定されている。)内において同じ位置に画像を観察することになる。すなわち、観察者は、画像が表示部に固定された状態、すなわち、画像の表示位置が観察者の視野内に固定された状態で画像を観察することになるのである。   When this head-mounted image display device is designed to display an image with reference to the position of the display unit, the observer can display an image display area (observation) regardless of the operation of the observer. The image is observed at the same position within the head. That is, the observer observes the image in a state where the image is fixed on the display unit, that is, in a state where the display position of the image is fixed in the visual field of the observer.

この画像表示装置がシースルー型である場合には、観察者は、画像を現実外界に重ねてそれと一緒に観察することが可能である。この画像表示装置を、上述のように、画像が観察者の視野内に固定された状態で観察されるように設計すると、観察者の動作(例えば、身体の移動、頭部の運動)にもかかわらず、画像が観察者の視野内に固定される。そのため、画像は本来、現実外界に固定されて観察されるはずであると認識する観察者は、現実外界内にではなく視野内に不動表示される画像に対して不自然さを感じてしまう。   When this image display device is a see-through type, an observer can superimpose an image on the actual outside world and observe it together. If this image display device is designed so that the image is observed in a state of being fixed in the observer's field of view as described above, the movement of the observer (for example, movement of the body, movement of the head) Regardless, the image is fixed in the observer's field of view. For this reason, an observer who recognizes that an image is supposed to be fixed and observed in the actual outside world may feel unnaturalness with respect to an image that is immovably displayed in the field of view instead of in the actual outside world.

これに対し、特許文献1に記載の画像表示装置においては、観察者頭部と現実外界との相対位置関係に基づき、画像が現実外界に固定されて観察されるように画像が表示される。
特開平8−21975号公報
On the other hand, in the image display device described in Patent Document 1, based on the relative positional relationship between the observer's head and the actual outside world, the image is displayed so that the image is fixed and observed in the actual outside world.
JP-A-8-21975

本発明者は、上述のヘッドマウント型の画像表示装置につき、観察者の動作とその観察者に対する画像の表示との関係について研究を行った。その結果、観察者の位置を基準にしてその観察者の動作を相対的に検出し、その検出された観察者の動作を参照することにより、観察者に対する画像の表示を制御することが可能であることに気が付いた。   The inventor conducted research on the relationship between the operation of the observer and the display of images to the observer for the above-described head-mounted image display apparatus. As a result, it is possible to control the display of the image to the observer by detecting the movement of the observer relative to the position of the observer and referring to the detected movement of the observer. I realized that there was.

以上説明した知見を背景にして、本発明は、光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置において、観察者に対する画像の表示をその観察者の動作を考慮して制御する新規な技術を提案することを課題としてなされたものである。   Against the background of the above-described knowledge, the present invention provides an image display device that allows a viewer to visually recognize a display target by a virtual image by projecting light onto the retina of the viewer. It is made as a subject to propose a new technique for controlling in consideration of a person's operation.

その課題を解決するために、本発明の一側面によれば、光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置であって、
光を出射する出射部と、
前記光を変調する変調部と、
その変調された光を出射口を経て観察者の網膜上に出射することにより、前記表示対象を表す画像を虚像として画像表示領域に表示する表示部であって、観察者の頭部に装着されて使用されるものと、
前記画像が前記画像表示領域に表示されるように前記出射部および変調部を制御する制御部であって、観察者の動作をその観察者の位置を基準にして相対的に検出し、その検出された動作に応じて、前記画像の表示のオン・オフとその表示位置の変更とのうちの少なくとも一方である表示制御を行うものと、
観察者である人体のうちの被検出部位である前記頭部の位置および向きと、前記人体を構成する複数の部位のうち、前記頭部に対する相対変位が可能である部位である基準部位に関連付けられるように予め定められた基準座標系との相対関係を検出する検出部と
を含み、
前記制御部は、前記画像を前記画像表示領域に表示するために、(a)前記表示対象を定義するために使用される定義用座標系と、(b)前記画像表示領域に表示される画像を定義する表示用座標系であって、前記表示部に固定されたものとを用い、
前記制御部は、さらに、前記検出された相対関係が反映されるように、前記定義用座標系上において前記表示対象を定義する定義データを、前記表示用座標系上において前記画像を表示する表示データに変換し、その変換された表示データに基づき、前記出射部および変調部を制御し、
前記基準座標系は、前記定義用座標系でもあるか、または、前記定義用座標系および前記表示用座標系のいずれとも異なり、
前記基準座標系は、前記人体の同じ部位に関連付けられる2個の点の位置情報と、その同じ部位に関連付けられる1個の点に作用する重力の向き情報とによって特定される画像表示装置が提供される。
本発明によって下記の各態様が得られる。各態様は、項に区分し、各項には番号を付し、必要に応じて他の項の番号を引用する形式で記載する。これは、本発明が採用し得る技術的特徴の一部およびそれの組合せの理解を容易にするためであり、本発明が採用し得る技術的特徴およびそれの組合せが以下の態様に限定されると解釈すべきではない。すなわち、下記の態様には記載されていないが本明細書には記載されている技術的特徴を本発明の技術的特徴として適宜抽出して採用することは妨げられないと解釈すべきなのである。
In order to solve the problem, according to one aspect of the present invention, an image display device that causes a viewer to visually recognize a display target by a virtual image by projecting light onto the retina of the viewer,
An emission part for emitting light;
A modulator for modulating the light;
A display unit that displays the image representing the display object as a virtual image on a display area by emitting the modulated light onto an observer's retina through an emission port, and is attached to the observer's head. Used and
A control unit that controls the emission unit and the modulation unit so that the image is displayed in the image display area, and detects the motion of the observer relative to the position of the viewer, and the detection In accordance with the performed operation, performing display control that is at least one of on / off of display of the image and change of the display position;
The position and orientation of the head that is the detected part of the human body that is the observer, and the reference part that is a part that can be displaced relative to the head among the plurality of parts that constitute the human body A detecting unit for detecting a relative relationship with a predetermined reference coordinate system,
Including
In order to display the image in the image display area, the control unit includes: (a) a definition coordinate system used for defining the display target; and (b) an image displayed in the image display area. Using a coordinate system for display that defines the above and fixed to the display unit,
The control unit further displays definition data defining the display target on the definition coordinate system and displays the image on the display coordinate system so that the detected relative relationship is reflected. Converted into data, based on the converted display data, to control the emission unit and the modulation unit,
The reference coordinate system is also the definition coordinate system, or different from both the definition coordinate system and the display coordinate system,
The reference coordinate system is provided by an image display device specified by position information of two points associated with the same part of the human body and direction information of gravity acting on one point associated with the same part. Is done.
The following aspects are obtained by the present invention. Each aspect is divided into sections, each section is given a number, and is described in a form that cites other section numbers as necessary. This is to facilitate understanding of some of the technical features that the present invention can employ and combinations thereof, and the technical features that can be employed by the present invention and combinations thereof are limited to the following embodiments. Should not be interpreted. That is, it should be construed that it is not impeded to appropriately extract and employ the technical features described in the present specification as technical features of the present invention although they are not described in the following embodiments.

さらに、各項を他の項の番号を引用する形式で記載することが必ずしも、各項に記載の技術的特徴を他の項に記載の技術的特徴から分離させて独立させることを妨げることを意味するわけではなく、各項に記載の技術的特徴をその性質に応じて適宜独立させることが可能であると解釈すべきである。   Further, describing each section in the form of quoting the numbers of the other sections does not necessarily prevent the technical features described in each section from being separated from the technical features described in the other sections. It should not be construed as meaning, but it should be construed that the technical features described in each section can be appropriately made independent depending on the nature.

(1) 光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置であって、
光を出射する出射部と、
前記光を変調する変調部と、
その変調された光を出射口を経て観察者の網膜上に出射することにより、前記表示対象を表す画像を虚像として画像表示領域に表示する表示部であって、観察者の頭部に装着されて使用されるものと、
前記画像が前記画像表示領域に表示されるように前記出射部および変調部を制御する制御部であって、観察者の動作をその観察者の位置を基準にして相対的に検出し、その検出された動作に応じて、前記画像の表示のオン・オフとその表示位置の変更とのうちの少なくとも一方である表示制御を行うものと
を含む画像表示装置。
(1) An image display device that causes a viewer to visually recognize a display target by a virtual image by projecting light onto the retina of the viewer,
An emission part for emitting light;
A modulator for modulating the light;
A display unit that displays the image representing the display object as a virtual image on a display area by emitting the modulated light onto an observer's retina through an emission port, and is attached to the observer's head. Used and
A control unit that controls the emission unit and the modulation unit so that the image is displayed in the image display area, and detects the motion of the observer relative to the position of the viewer, and the detection An image display apparatus including: performing display control which is at least one of on / off of display of the image and change of the display position in accordance with the performed operation.

光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる形式の画像表示装置を観察者が使用する場合には、例えば、その使用中に、観察者が、画像の表示を一時的に中止したいと希望したり、画像表示領域内に表示されている画像によって観察者の視界が邪魔されないようにしたり、観察者の動きに対して、所望の関係をもって表示位置を移動させたいと希望する可能性がある。   When the observer uses an image display device that projects the light onto the retina of the observer so that the observer can visually recognize the display target by a virtual image, for example, the observer If you want to temporarily stop the display of the image, prevent the viewer's field of view from being disturbed by the image displayed in the image display area, or set the display position in a desired relationship with the observer's movement. You may want to move it.

それら希望を満足させるために、例えば、画像表示領域内に表示されている画像を一時的に消去したり、画像表示位置に関して、表示画像が観察者の身体の一部(例えば、腰部)に固定された如く思わせることが可能である。さらにまた、画像表示領域のうち画像が通常表示される通常位置(例えば、中央位置)から、その通常位置から退避した退避位置(例えば、画像表示領域の縁に近い位置)に変更することも可能である。   In order to satisfy those desires, for example, the image displayed in the image display area is temporarily deleted, or the display image is fixed to a part of the observer's body (for example, the waist) with respect to the image display position. It is possible to make it seem like it was done. Furthermore, it is also possible to change from the normal position (for example, the center position) where the image is normally displayed in the image display area to the retracted position (for example, a position close to the edge of the image display area) from the normal position. It is.

したがって、画像表示装置は、例えば、画像の表示を一時的に中止(オフ)するための指令(もしくは、一時的に中止されている画像の表示を再開(オン)するための指令)、または、画像の表示位置を通常位置から退避位置に変更するための指令(もしくは、一時的に変更された表示位置を通常位置に復帰させるための指令)を観察者が手動操作によって当該画像表示装置に入力可能とするために、観察者によって手動操作されるべき操作部を備えたものとすることが可能である。   Therefore, the image display device, for example, a command for temporarily stopping (off) the display of the image (or a command for restarting (turning on) the display of the temporarily stopped image), or A command for changing the display position of the image from the normal position to the retracted position (or a command for returning the temporarily changed display position to the normal position) is manually input by the observer to the image display device. In order to make it possible, it is possible to provide an operation unit to be manually operated by an observer.

この操作部を備えた画像表示装置を使用する場合には、観察者による操作部の手動操作を当該画像表示装置が検出したならば、それに応答して、画像の表示のオン・オフとその表示位置の変更とのうちの少なくとも一方が行われる。   In the case of using an image display device equipped with this operation unit, if the image display device detects manual operation of the operation unit by an observer, in response to that, the display of the image is turned on / off and the display thereof At least one of position change is performed.

しかし、この場合には、操作部を操作するために、観察者は手を使うことを余儀なくされる。そのため、この場合には、観察者が別の手作業の遂行中に画像を観察するために、観察者はその手作業を一時的に中断しなければならない。さらに、その操作部の位置が変化すれば、それに伴い、その操作部を操作するために観察者が手を移動させる目標位置も変化する。その結果、例えば、その操作部を手動操作しようとする場合にはいちいち、その手動操作に先立ち、その操作部の位置を視覚的にまたは触覚的に探してその位置に向かって手を移動させなければならず、面倒である。   However, in this case, the observer is forced to use his / her hand to operate the operation unit. Therefore, in this case, in order for the observer to observe the image while performing another manual operation, the observer must temporarily interrupt the manual operation. Furthermore, if the position of the operation unit changes, the target position at which the observer moves his / her hand to operate the operation unit also changes accordingly. As a result, for example, when attempting to manually operate the operation unit, the position of the operation unit must be searched visually or tactilely and moved toward the position before the manual operation. It must be cumbersome.

これに対し、本項に係る画像表示装置においては、観察者の動作がその観察者の位置を基準にして相対的に検出され、その検出された動作に応じて、画像の表示のオン・オフとその表示位置の変更とのうちの少なくとも一方である表示制御が行われる。   On the other hand, in the image display device according to this section, the motion of the observer is relatively detected with reference to the position of the viewer, and image display is turned on / off according to the detected motion. And display control which is at least one of the change of the display position is performed.

したがって、この画像表示装置によれば、画像表示に関する上述のような観察者の希望(例えば、画像表示のオン・オフ、画像表示位置の変更)を当該画像表示装置が検知するために上述のような操作部を当該画像表示装置に設けることが不可欠ではなくなる。さらに、そのような希望を観察者が当該画像表示装置に入力するために、観察者が手を使って操作部を操作することも不可欠ではなくなる。   Therefore, according to this image display device, as described above, the image display device detects the viewer's desire regarding the image display (for example, on / off of image display, change of image display position). It is not indispensable to provide a simple operation unit in the image display device. Further, it is not indispensable for the observer to use the hand to operate the operation unit in order for the observer to input such a wish to the image display apparatus.

よって、本項に係る画像表示装置によれば、画像表示に関する希望を観察者が画像表示装置に入力するために、その画像表示装置を使用しつつ並行的に観察者が行う手作業を中断せずに済む態様で画像表示装置を実施することが可能である。   Therefore, according to the image display apparatus according to this section, in order for the observer to input the image display request to the image display apparatus, the manual operation performed by the observer in parallel while using the image display apparatus is interrupted. It is possible to implement the image display device in a manner that does not need to be performed.

さらに、本項に係る画像表示装置においては、画像表示に関する希望を観察者が画像表示装置に入力するためにその観察者に要求される動作が、この画像表示装置の位置(例えば、操作部の位置)に依存せずに済む。その結果、例えば、観察者は、画像表示に関する希望を入力するために、特定の目標物体(例えば、操作部のうちのボタン、スイッチ、ダイヤル、タッチパネル等)を探してその目標物体に向かって動作を行うことを要求されずに済む。   Further, in the image display device according to this section, an operation required for the observer to input an image display request to the image display device is determined by the position of the image display device (for example, the operation unit). Position). As a result, for example, an observer searches for a specific target object (for example, a button, a switch, a dial, a touch panel, etc. in an operation unit) and inputs toward the target object in order to input a request regarding image display. Is not required to do.

したがって、本項に係る画像表示装置によれば、画像表示に関する希望を観察者が入力するためにその観察者に要求される動作を単純化しまたは定型化することが容易となる。   Therefore, according to the image display apparatus according to this section, it is easy to simplify or standardize the operation required for the observer in order for the observer to input the hope for image display.

本項に係る画像表示装置においては、画像表示に関する観察者の希望を認識するために画像表示装置によって参照される観察者の動作が、その観察者の位置(観察者のうちの基準部位)を基準にして相対的に検出される。したがって、観察者の希望を認識するために検出される観察者の動作は、その観察者の絶対空間すなわち現実外界に対する相対位置に依存しない。   In the image display apparatus according to this section, the observer's action referred to by the image display apparatus in order to recognize the observer's desire regarding the image display is the position of the observer (reference part of the observer). It is detected relative to the reference. Therefore, the motion of the observer detected for recognizing the desire of the observer does not depend on the absolute space of the observer, that is, the relative position with respect to the actual outside world.

よって、この画像表示装置によれば、観察者の動作を検出するハードウエアをその観察者において自己完結的に構成することが可能となる。すなわち、その検出のためのハードウエアを現実外界に設置することを省略することが可能となるのである。このことは、観察者の動作を検出するハードウエア構成の単純化に寄与する。   Therefore, according to this image display apparatus, it becomes possible for the observer to configure the hardware for detecting the action of the observer in a self-contained manner. That is, it is possible to omit installing hardware for the detection in the actual outside world. This contributes to simplification of the hardware configuration for detecting the observer's motion.

本項における「変調部」は、例えば、互いに波長が異なる複数の光束成分を合成することによって目標の合成光束を形成する場合には、各光束成分の強度と、各光束成分または合成光束の波面曲率とのうち、少なくとも強度を変調するように構成することが可能である。波面曲率を変調するように構成することは不可欠ではないのである。   The “modulator” in this section refers to the intensity of each beam component and the wavefront of each beam component or combined beam, for example, when a target combined beam is formed by combining a plurality of beam components having different wavelengths. Of the curvature, at least the intensity can be modulated. It is not essential to configure the wavefront curvature to be modulated.

本項における「出射部」の一例は、レーザ光源である。そのレーザ光源の一例は、半導体レーザの如く、出射光の強度を変調する機能を有する光源である。この光源は、「出射部」としての機能と「変調部」としての機能とを併せ持っている。   An example of the “emitter” in this section is a laser light source. An example of the laser light source is a light source having a function of modulating the intensity of emitted light, such as a semiconductor laser. This light source has both a function as an “emitter” and a function as a “modulator”.

さらに、本項における「表示位置の変更」は、例えば、画像表示領域内における画像の表示位置の変更を意味する。   Furthermore, “changing the display position” in this section means, for example, changing the image display position in the image display area.

(2) さらに、観察者である人体を構成する複数の部位であって互いに相対変位が可能であるもののうち、動作が検出されるべき部位として予め指定された被検出部位の、前記人体に関連付けられた基準位置を設定するために予め選択された基準部位に対する相対位置を検出する検出部を含み、前記制御部は、その検出された相対位置に基づき、前記表示制御を行うものである(1)項に記載の画像表示装置。 (2) Further, among a plurality of parts constituting a human body that is an observer and capable of relative displacement, the detected part designated in advance as a part whose motion is to be detected is associated with the human body. A detection unit that detects a relative position with respect to a reference portion selected in advance to set the reference position, and the control unit performs the display control based on the detected relative position (1). The image display device according to the item.

この画像表示装置においては、観察者である人体を構成する複数の部位間の相対位置に基づき、前記(1)項に記載の表示制御が行われる。   In this image display device, the display control described in the item (1) is performed based on the relative positions between a plurality of parts constituting the human body that is an observer.

本項における「基準位置」は、例えば、人体のうちのある部位上の位置として設定したり、そのある部位から離れているが、そのある部位に幾何学的に一定に関連付けられた位置として設定することが可能である。   The “reference position” in this section is set, for example, as a position on a certain part of the human body, or as a position that is distant from the certain part but is geometrically related to the certain part. Is possible.

(3) 前記検出部は、互いに相対変位が可能な第1部分と第2部分とを含み、前記第1部分は、前記被検出部位に装着されてその被検出部位と一体的に運動し、前記第2部分は、前記基準部位に装着されてその基準部位と一体的に運動し、前記検出部は、さらに、それら第1部分と第2部分との相対位置を検出する検出手段を含む(2)項に記載の画像表示装置。 (3) The detection unit includes a first part and a second part that can be displaced relative to each other, and the first part is attached to the detected part and moves integrally with the detected part, The second part is attached to the reference part and moves integrally with the reference part, and the detection unit further includes detection means for detecting a relative position between the first part and the second part ( The image display device according to item 2).

この画像表示装置においては、観察者の動作を検出する検出部がその観察者に装着されるため、その検出部は、現実外界に設置される部分(例えば、床、壁等の固着物に設置されるセンサ)を使用せずに済む。   In this image display device, since a detection unit for detecting an observer's movement is attached to the observer, the detection unit is installed on a part installed in the actual outside world (for example, a fixed object such as a floor or a wall). Sensor).

したがって、この画像表示装置によれば、観察者が移動しても同じ画像表示装置によって画像を正常に観察可能である観察者の移動範囲が、観察者の動作を検出するという理由によって大きく制約されずに済む。観察者が同じ画像表示装置を使用して画像を観察しつつ移動可能な範囲を拡大することが容易なのであり、その結果、この画像表示装置のモビリティを向上させることも容易である。   Therefore, according to this image display device, even if the observer moves, the movement range of the observer who can normally observe the image by the same image display device is largely restricted by the reason that the movement of the observer is detected. You do n’t have to. It is easy for the observer to enlarge the movable range while observing an image using the same image display device, and as a result, it is easy to improve the mobility of the image display device.

本項における「検出手段」は、例えば、前記第1部分と第2部分との相対位置を電界、磁界、電磁波、光および音波のうちの少なくとも一つを利用して検出するものとすることが可能である。   The “detecting means” in this section shall detect, for example, the relative position between the first part and the second part using at least one of an electric field, a magnetic field, an electromagnetic wave, light, and a sound wave. Is possible.

(4) 前記第1部分と第2部分との一方は、前記相対位置を検出するための検出用信号を発生させる信号発生部であり、他方は、その発生させられた検出用信号であって空間に伝搬するものを受信する受信部である(3)項に記載の画像表示装置。 (4) One of the first part and the second part is a signal generating unit that generates a detection signal for detecting the relative position, and the other is the generated detection signal. The image display device according to item (3), wherein the image display device is a receiving unit that receives an object that propagates in space.

この画像表示装置においては、検出部が、空間に伝搬する信号を利用することにより、人体のうちの被検出部位と一体的に運動する第1部分と、人体のうちの基準部位と一体的に運動する第2部分との間の相対位置を検出する。したがって、その検出のために、それら第1部分と第2部分とを、リンク機構等の運動機構や、ケーブル、ワイヤ等の有体の信号伝送媒体によって互いに接続せずに済む。   In this image display device, the detection unit uses a signal propagating in space, so that the first part that moves integrally with the detected part of the human body and the reference part of the human body are integrated. The relative position between the moving second part is detected. Therefore, for the detection, the first part and the second part do not need to be connected to each other by a motion mechanism such as a link mechanism or a tangible signal transmission medium such as a cable or a wire.

よって、この画像表示装置によれば、観察者の動作を検出するという目的達成のために、検出部における第1部分と第2部分との間の相対位置が変化し得る範囲が制限されずに済み、ひいては、観察者の動作が変化し得る範囲が制限されずに済む。   Therefore, according to this image display device, the range in which the relative position between the first portion and the second portion in the detection unit can be changed is not limited in order to achieve the purpose of detecting the motion of the observer. In other words, the range in which the movement of the observer can change is not limited.

本項における「検出用信号」は、例えば、電界、磁界、電磁波、光、音波等である。   The “detection signal” in this section is, for example, an electric field, a magnetic field, an electromagnetic wave, light, a sound wave, or the like.

(5) 前記制御部は、前記検出された相対位置に基づき、観察者の動作が設定条件を満たす場合に、前記表示制御を行うものである(1)ないし(4)項のいずれかに記載の画像表示装置。 (5) The control unit performs the display control based on the detected relative position when an observer's operation satisfies a setting condition, according to any one of (1) to (4). Image display device.

本項における「設定条件」の一例は、観察者の頭部の向きに関する条件であって、その観察者がその正面を向く方向からずれた方向を頭部が向く(例えば、観察者が横を見るか、俯く)ことである。別の例は、観察者の手の動作に関する条件であって、手を一定位置に持ち上げることである。本項に係る画像表示装置においては、前記表示制御の要否を判定するために、観察者がその視線を通常の方向からずらす動作(例えば、眼球を回転させるか、頭部を回転させる)をその観察者に要求するように設計することは不可欠ではない。   An example of the “setting condition” in this section is a condition related to the orientation of the observer's head, and the head faces in a direction that deviates from the direction in which the observer faces the front (for example, the observer turns sideways). See or whisper). Another example is a condition related to the movement of the observer's hand, which is lifting the hand to a certain position. In the image display device according to this section, in order to determine whether or not the display control is necessary, an operation in which the observer shifts the line of sight from a normal direction (for example, the eyeball is rotated or the head is rotated). It is not essential to design for the observer.

本項に係る画像表示装置は、例えば、前記設定条件が第1設定条件と第2設定条件とを含んでいる。   In the image display device according to this section, for example, the setting condition includes a first setting condition and a second setting condition.

そして、観察者の動作が第1設定条件を満たす場合には、画像の表示をオン状態からオフ状態に切り換えて画像表示を一時的に中止することと、画像の表示位置を通常位置から退避位置に移動させることとの少なくとも一方を行う。   When the observer's operation satisfies the first setting condition, the image display is switched from the on state to the off state to temporarily stop the image display, and the image display position is changed from the normal position to the retracted position. At least one of moving to

これに対し、観察者の動作が第2設定条件を満たす場合には、画像の表示をオフ状態からオン状態に切り換えて画像表示を再開することと、頭部運動時にも安定した表示を行うため、例えば、表示画像の位置が観察者の身体の一部(例えば、腰部)に固定された如く表示することが可能である。さらに、画像の表示位置を退避位置から通常位置に復帰させることとの少なくとも一方を行う態様で実施することも可能である。   On the other hand, when the observer's action satisfies the second setting condition, the image display is switched from the off state to the on state to resume the image display and to perform stable display even during head movement. For example, it is possible to display the display image as if the position of the display image is fixed to a part of the observer's body (for example, the waist). Furthermore, it is also possible to implement in a mode in which at least one of returning the image display position from the retracted position to the normal position is performed.

(6) 前記被検出部位は、観察者の頭部と腕部と足部とのうちの少なくとも頭部に設定され、前記基準部位は、観察者の腰部に設定される(2)ないし(5)項のいずれかに記載の画像表示装置。 (6) The detected part is set on at least the head of the observer's head, arm, and foot, and the reference part is set on the waist of the observer (2) to (5) The image display device according to any one of items 1 to 3.

観察者である人体を構成する複数の部位のうち、観察者が比較的顕著な位置変化を与え得る部位として例えば、頭部、腕部および足部があり、これに対し、人体の姿勢変化にもかかわらず位置が比較的安定している部位として例えば、腰部がある。また、観察者の眼と共に運動する部位として頭部がある。   Among a plurality of parts constituting the human body that is the observer, there are, for example, a head, an arm part, and a foot part as a part where the observer can give a relatively remarkable position change. However, as a part whose position is relatively stable, for example, there is a waist. In addition, the head is a part that moves with the eyes of the observer.

このような知見に基づき、本項に係る装置においては、被検出部位は、観察者の頭部と腕部と足部とのうちの少なくとも頭部に設定され、基準部位は、観察者の腰部に設定される。   Based on such knowledge, in the apparatus according to this section, the detected part is set to at least the head of the observer's head, arm, and foot, and the reference part is the waist of the observer Set to

(7) 前記制御部は、前記基準部位を基準にして決定される位置に前記画像を観察者が観察するように、前記出射部および変調部を制御するものである(2)ないし(6)項のいずれかに記載の画像表示装置。 (7) The control unit controls the emission unit and the modulation unit so that an observer observes the image at a position determined on the basis of the reference part (2) to (6). The image display device according to any one of the items.

一般に、画像表示装置のうちの表示部の位置を基準にして画像をその画像表示装置が表示する場合には、観察者が何らかの動作を行っても、観察者の頭部と表示部との相対位置が変化しないため、観察者の動作とは無関係に、画像表示領域(観察者の頭部に固定されている。)内の同じ位置に画像を観察者が観察することになる。   In general, when the image display device displays an image with reference to the position of the display unit in the image display device, the observer's head and the display unit are Since the position does not change, the observer observes the image at the same position in the image display area (fixed to the observer's head) regardless of the action of the observer.

一方、画像表示装置がシースルー型、すなわち、観察者が画像を現実外界に重ねてそれと一緒に観察することを可能にする形式である場合には、観察者は、この画像表示装置の表示部を頭部に装着したまま、現実外界中の特定の対象物を集中的に観察しつつ特定の作業を行う可能性がある。   On the other hand, when the image display device is a see-through type, that is, in a format that allows the observer to superimpose an image on the actual outside world and observe it together with the image, the observer can display the display unit of the image display device. There is a possibility of performing a specific operation while intensively observing a specific object in the actual outside world while being worn on the head.

このような作業の過程において、その作業に関連する情報を視覚的に参照可能とするために、その関連情報を画像として画像表示領域内に表示することが考えられる。この場合には、その関連情報が表示されると、その表示画像が上記対象物に重ねられるために、観察すべき対象物がその表示画像によって少なくとも部分的に遮られる可能性がある。   In the course of such work, in order to make it possible to visually refer to information related to the work, it is conceivable to display the related information as an image in the image display area. In this case, when the related information is displayed, the display image is superimposed on the target object, so that the target object to be observed may be at least partially blocked by the display image.

一方、観察者は、その視線が特定の対象物から外れている一定の姿勢において上記関連情報を観察したいと希望する場合がある。そのような一定の姿勢の一例は、観察者が自分の腰部を見るために深く俯くというものである。別の例は、観察者が自分の斜め前もしくはほぼ真横を見るために頭部を回転させるというものである。さらに別の例は、観察者が自分の腕部を、その腕部のうち手関節と肘関節との間の部位が観察者の上半身の手前においてほぼ水平になるように折り曲げた状態で、その部位を直視するために観察者が頭部を傾けるというものである。   On the other hand, an observer may desire to observe the related information in a certain posture in which the line of sight deviates from a specific object. An example of such a certain posture is that an observer crawls deeply to see his / her waist. Another example is that the observer rotates his head to look at him diagonally in front or almost directly beside him. Yet another example is when the observer folds his arm so that the part of the arm between the wrist and elbow joints is almost horizontal in front of the upper body of the observer. The observer tilts his / her head to directly view the part.

これに対し、本項に係る画像表示装置においては、この画像表示装置のうちの表示部の位置を基準にして画像が表示されるのではなく、観察者の位置、すなわち、その観察者である人体のうちの基準部位を基準にして画像が表示される。   On the other hand, in the image display device according to this section, an image is not displayed based on the position of the display unit in the image display device, but the position of the observer, that is, the observer. An image is displayed with reference to a reference part of the human body.

したがって、本項に係る画像表示装置においては、観察者が何らかの動作を行ったために、その観察者のうちの被検出部位(例えば、頭部)と基準部位(例えば、腰部、腕部)との相対位置が変化した場合には、画像表示領域内における画像の表示のオン・オフ状態が観察者の動作に追従して変化し、オン状態にあっては、さらに、画像表示領域内における画像の表示位置も観察者の動作に追従して変化することになる。   Therefore, in the image display apparatus according to this section, since the observer has performed some operation, the detected part (for example, the head) and the reference part (for example, the waist part, the arm part) of the observer. When the relative position changes, the on / off state of the image display in the image display area changes following the observer's operation. The display position also changes following the observer's movement.

具体的に説明すれば、例えば、被検出部位を頭部に、基準部位を腰部にそれぞれ選択した場合には、観察者が腰部を注視したときに限り、画像が表示されるようにすることが可能になり、また、被検出部位を頭部に、基準部位を腕部にそれぞれ選択した場合には、観察者が腕部を注視した場合に限り、画像が表示されることが可能になる。いずれの例においても、画像表示状態すなわちオン状態においては、頭部と腰部または腕部との相対位置の変化に伴って画像表示位置が変化することになる。   More specifically, for example, when the detected region is selected as the head and the reference region is selected as the waist, the image may be displayed only when the observer gazes at the waist. In addition, when the detected part is selected as the head and the reference part is selected as the arm part, an image can be displayed only when the observer gazes at the arm part. In any of the examples, in the image display state, that is, the on state, the image display position changes with a change in the relative position between the head and the waist or the arm.

さらに、観察者である人体のうち、その観察者の動作にもかかわらず位置が安定している安定部位(例えば、腰部)の位置を基準にして観察者の動作を検出する場合には、観察者の動作の有無にかかわらず、観察者のうちの安定部位と現実外界との間に相対変位が発生しない。   Furthermore, in the case of detecting the observer's movement based on the position of a stable part (for example, the waist) of the human body that is the observer, the position is stable despite the movement of the observer. Regardless of whether or not the user is moving, no relative displacement occurs between the stable part of the observer and the actual outside world.

したがって、そのような安定部位を基準にして観察者の動作を検出し、その検出された観察者の動作に基づき、観察者に対する画像の表示位置を制御することは、観察者の動作と現実外界との相対位置関係に基づき、観察者に対する画像の表示位置(概念上、画像が画像表示領域内に表示されない場合の仮想位置を含む。)を制御することと、頭部運動があっても外部に安定した画像を表示するという点では、等価である。   Therefore, it is possible to detect the movement of the observer based on such a stable part and control the display position of the image with respect to the observer based on the detected movement of the observer. Control the display position of the image to the observer (conceptually, including the virtual position when the image is not displayed in the image display area) based on the relative position of the This is equivalent in that a stable image is displayed.

本項に係る画像表示装置の一具体例においては、画像が画像表示領域内に表示される位置(概念上、画像が画像表示領域内に表示されない場合の仮想位置を含む。)を観察者の動作に応じて決定することが、自動的に、画像を画像表示領域内に表示するか否かを観察者の動作に応じて決定することにつながる。すなわち、この具体例においては、画像の表示位置を観察者の動作に応じて決定することと、画像の表示のオン・オフ状態を観察者の動作に応じて決定することとが互いに独立しているのではなく、連携させられているのである。   In a specific example of the image display device according to this section, the position where the image is displayed in the image display area (conceptually, including the virtual position when the image is not displayed in the image display area) is displayed by the observer. Determining according to the operation automatically leads to determining whether to display the image in the image display area according to the operation of the observer. That is, in this specific example, the determination of the image display position according to the observer's action and the determination of the on / off state of the image display according to the observer's action are independent of each other. Rather than being, they are linked.

もっとも、本項に係る画像表示装置の別の具体例においては、画像の表示位置を観察者の動作に応じて決定すると画像が画像表示領域内に表示されることとなる場合に、観察者の別の意思表示(例えば、観察者によるスイッチ等、操作部の操作を含む。)を待って、画像が実際に画像表示領域内に表示される。この具体例においては、画像の表示位置を決定するための観察者の動作と、画像表示を最終的に許可するための観察者の意思表示とが互いに独立することになる。   However, in another specific example of the image display device according to this section, when the image display position is determined according to the operation of the observer, the image is displayed in the image display area. The image is actually displayed in the image display area after waiting for another intention display (for example, including an operation of the operation unit such as a switch by the observer). In this specific example, the observer's action for determining the image display position and the observer's intention display for finally permitting the image display are independent of each other.

(8) 前記制御部は、前記画像を前記画像表示領域に表示するために、(a)前記表示対象を定義するために使用される定義用座標系と、(b)前記画像表示領域に表示される画像を定義する表示用座標系であって、前記表示部に固定されたものとを用い、
前記制御部は、さらに、観察者の頭部の位置および向きと、前記人体に関連付けられるように予め定められた基準座標系との相対関係を検出し、その検出された相対関係が反映されるように、前記定義用座標系上において前記表示対象を定義する定義データを、前記表示用座標系上において前記画像を表示する表示データに変換し、その変換された表示データに基づき、前記出射部および変調部を制御するものである(7)項に記載の画像表示装置。
(8) The control unit displays (a) a definition coordinate system used for defining the display target, and (b) displays the image in the image display area, in order to display the image in the image display area. Using a display coordinate system that defines an image to be displayed and fixed to the display unit,
The control unit further detects a relative relationship between the position and orientation of the observer's head and a reference coordinate system predetermined so as to be associated with the human body, and the detected relative relationship is reflected. As described above, the definition data defining the display object on the definition coordinate system is converted into display data for displaying the image on the display coordinate system, and the emission unit is converted based on the converted display data. The image display device according to item (7), which controls the modulation section.

この画像表示装置においては、観察者の頭部の位置および向きと、人体に関連付けられた基準座標系との相対関係が反映されるように、定義用座標系上において表示対象を定義する定義データが、表示用座標系上において画像を表示する表示データに変換される。その変換された表示データに基づき、出射部および変調部が制御される。   In this image display device, definition data that defines a display target on the definition coordinate system so that the relative relationship between the position and orientation of the observer's head and the reference coordinate system associated with the human body is reflected. Are converted into display data for displaying an image on the display coordinate system. Based on the converted display data, the emission unit and the modulation unit are controlled.

したがって、この画像表示装置によれば、観察者の頭部に関する動作に応じて、画像が画像表示領域に表示される位置が決定される。その決定される位置は、概念上、画像表示領域に表示されない場合の位置を含むため、この画像表示装置によれば、観察者の頭部に関する動作に応じて、画像が画像表示領域に表示されるか否かも一緒に決定されることになる。   Therefore, according to this image display device, the position where the image is displayed in the image display area is determined in accordance with the motion related to the observer's head. Since the determined position conceptually includes a position when it is not displayed in the image display area, according to this image display device, an image is displayed in the image display area in accordance with an operation related to the observer's head. Whether or not will be decided together.

(9) 前記表示用座標系は、前記定義用座標系でもある(8)項に記載の画像表示装置。 (9) The image display device according to item (8), wherein the display coordinate system is also the definition coordinate system.

この画像表示装置は、後述の観察者基準表示モードであって、観察者の位置を基準にして決定される位置に画像を観察者が観察するようにその画像を表示するものを実行するために、観察者の頭部の位置および向きと、人体に関連付けられた基準座標系との相対関係が反映されるように、定義用座標系上において表示対象を定義する定義データが、表示用座標系上において画像を表示する表示データに変換される。   This image display apparatus is an observer reference display mode which will be described later, in order to display an image so that the observer observes the image at a position determined with reference to the position of the observer. The definition data defining the display target on the definition coordinate system is displayed in the display coordinate system so that the relative relationship between the position and orientation of the observer's head and the reference coordinate system associated with the human body is reflected. The image data is converted into display data for displaying an image.

この画像表示装置は、その観察者基準表示モードに代えて後述の表示部基準表示モードであって、当該画像表示装置のうちの表示部の位置を基準にして決定される位置に画像を観察者が観察するようにその画像を表示するものを実行することが可能である。   This image display device is a display unit reference display mode, which will be described later, instead of the observer reference display mode, and the image is displayed at a position determined based on the position of the display unit in the image display device. It is possible to execute what displays the image as it observes.

そして、本項に係る画像表示装置によれば、その表示部基準表示モードを実行する場合に、定義用座標系上において表示対象を定義する定義データに対して実質的な座標変換を何ら行うことなく、その定義データが事実上、表示用座標系にマッピングされる。その結果、その表示用座標系上において画像を表示する表示データが、その定義データと等しいデータとして取得される。   Then, according to the image display apparatus according to this section, when executing the display unit reference display mode, any substantial coordinate transformation is performed on the definition data defining the display target on the definition coordinate system. The definition data is effectively mapped to the display coordinate system. As a result, display data for displaying an image on the display coordinate system is acquired as data equal to the definition data.

(10) 前記基準座標系は、前記定義用座標系でもある(8)項に記載の画像表示装置。 (10) The image display device according to (8), wherein the reference coordinate system is also the definition coordinate system.

この画像表示装置によれば、定義用座標系と基準座標系とを同等とすることから、画像は、基準座標系に固定されたように表示される。   According to this image display apparatus, since the definition coordinate system and the reference coordinate system are made equivalent, the image is displayed as if it were fixed to the reference coordinate system.

この画像表示装置においては、定義座標系によって表現されている元データが、観察者の頭部の位置および向きと、人体に関連付けられた基準座標系との相対関係に基づき、表示用座標系上において画像を表示する表示データに変換され、それにより、定義データが表示用座標系にマッピングされる。   In this image display device, the original data expressed in the definition coordinate system is based on the relative relationship between the position and orientation of the observer's head and the reference coordinate system associated with the human body. Is converted into display data for displaying an image, whereby the definition data is mapped to the display coordinate system.

ところで、例えば、人体を構成する複数の部位のうち、人体の姿勢変化にもかかわらず位置が安定している部位として腰部がある。したがって、頭部の位置および向きを人体を基準にして相対的に検出することが必要である場合には、腰部の位置を基準にして検出することが望ましい。よって、例えば、観察者の腰部に関連付けて画像を表示する場合には、それら腰部と頭部との相対関係に基づき、画像が観察者によって観察されるか否かが決まり、観察される場合には、さらに、観察者によって画像が観察される位置が決まる。   By the way, for example, among a plurality of parts constituting the human body, there is a waist part as a part whose position is stable despite a change in posture of the human body. Therefore, when it is necessary to relatively detect the position and orientation of the head with reference to the human body, it is desirable to detect with respect to the position of the waist. Therefore, for example, when an image is displayed in association with the waist of the observer, whether or not the image is observed by the observer is determined based on the relative relationship between the waist and the head. Further, the position where the image is observed by the observer is determined.

ここに、観察者の腰部を基準にして画像を表示し、かつ、頭部の位置および向きを腰部を基準にして検出するためには、基準座標系および定義用座標系を共に、腰部に固定すればよい。このことは、基準座標系が定義用座標系でもあることを意味する。   Here, both the reference coordinate system and the definition coordinate system are fixed to the waist to display the image based on the waist of the observer and to detect the position and orientation of the head based on the waist. do it. This means that the reference coordinate system is also a definition coordinate system.

(11) 前記基準座標系は、前記定義用座標系および表示用座標系のいずれとも異なる(8)項に記載の画像表示装置。 (11) The image display device according to (8), wherein the reference coordinate system is different from both the definition coordinate system and the display coordinate system.

例えば、観察者の腕部を基準にして画像を表示し、かつ、腕部の位置を腰部を基準にして相対的に検出することが必要である場合には、例えば、定義用座標系を腕部に固定する一方、基準座標系を腰部に固定することが可能である。この例は、基準座標系が定義用座標系および表示用座標系のいずれとも異なる座標系である場合の一例である。   For example, when it is necessary to display an image with respect to the arm part of the observer and to relatively detect the position of the arm part with respect to the waist, for example, the definition coordinate system is The reference coordinate system can be fixed to the waist while being fixed to the waist. This example is an example in which the reference coordinate system is a coordinate system different from both the definition coordinate system and the display coordinate system.

(12) 前記基準座標系は、
前記人体に関連付けられる少なくとも1個の点の位置情報と、その少なくとも1個の点に関連付けられる少なくとも2個の向き情報との組合せと、
前記人体に関連付けられる少なくとも2個の点の位置情報と、それら少なくとも2個の点のうちの少なくとも1個の点に関連付けられる少なくとも1個の向き情報との組合せと、
前記人体に関連付けられる少なくとも3個の点の位置情報の組合せと
のいずれかによって特定される(10)または(11)項に記載の画像表示装置。
(12) The reference coordinate system is
A combination of position information of at least one point associated with the human body and at least two orientation information associated with the at least one point;
A combination of position information of at least two points associated with the human body and at least one orientation information associated with at least one of the at least two points;
The image display device according to (10) or (11), which is specified by any one of a combination of position information of at least three points associated with the human body.

座標系を3次元空間内で一意に定義するために、その3次元空間内において互いに一致しない3個の点の座標値を特定するか、互いに一致しない2個の点の座標値と、定義すべき座標系の1個の向きとの組合せを特定するか、または、1個の点の座標値と、定義すべき座標系の、互いに異なる2個の向きとの組合せを特定すれば足りる。   In order to uniquely define the coordinate system in the three-dimensional space, the coordinate values of three points that do not match each other in the three-dimensional space are specified, or the coordinate values of two points that do not match each other are defined. It is sufficient to specify a combination of one direction of the power coordinate system or a combination of the coordinate value of one point and two different directions of the coordinate system to be defined.

なお付言すれば、各点に関連付けられる向きを検出するために、各点に作用する重力の向きを参照することが可能である。定義すべき座標系が人体のうちのある部位に関連付けられる場合には、その部位に質量が存在するため、地球上においては必ず重力が作用する。その重力の向きは、比較的容易に検出し得る物理量である。   In addition, in order to detect the direction associated with each point, it is possible to refer to the direction of gravity acting on each point. When the coordinate system to be defined is associated with a certain part of the human body, there is a mass at that part, so gravity always acts on the earth. The direction of the gravity is a physical quantity that can be detected relatively easily.

以上説明した知見に基づき、本項に係る画像表示装置においては、前記(10)または(11)項における基準座標系が、(a)人体に関連付けられる少なくとも1個の点の位置情報と、その少なくとも1個の点に関連付けられる少なくとも2個の向き情報との組合せと、(b)人体に関連付けられる少なくとも2個の点の位置情報と、それら少なくとも2個の点のうちの少なくとも1個の点に関連付けられる少なくとも1個の向き情報との組合せと、(c)人体に関連付けられる少なくとも3個の点の位置情報の組合せとのいずれかによって特定される。   Based on the knowledge described above, in the image display device according to this item, the reference coordinate system in the item (10) or (11) includes (a) position information of at least one point associated with the human body, A combination of at least two orientation information associated with at least one point; (b) position information of at least two points associated with the human body; and at least one of the at least two points. And (c) a combination of position information of at least three points associated with the human body.

本項における「人体に関連付けられる点」は、人体上に位置する点を意味する場合のみならず、人体に対して概して一定の位置関係を有する物体(例えば、人体に装着される補助具)上の点を意味する場合もある。   In this section, the “point associated with the human body” means not only a point located on the human body but also on an object having a generally fixed positional relationship with the human body (for example, an auxiliary device attached to the human body). It may mean the point.

その物体は、例えば、人体の手で保持されて使用される物体としたり、人体のうち、手以外の部位に装着されて使用される物体とすることが可能である。この物体は、複数個の点が互いに共通に関連付けられる単一物体として構成したり、それら複数個の点が1個ずつまたは複数個ずつ個別に関連付けられる、互いに独立した複数個の物体として構成することが可能である。   The object can be, for example, an object that is used while being held by a human hand, or an object that is used by being attached to a part of the human body other than the hand. The object is configured as a single object in which a plurality of points are commonly associated with each other, or is configured as a plurality of independent objects in which the plurality of points are individually associated with one another or with each other. It is possible.

(13) 前記基準座標系は、前記人体の同じ部位に関連付けられる3個の点の位置情報によって特定される(10)または(11)項に記載の画像表示装置。 (13) The image display device according to (10) or (11), wherein the reference coordinate system is specified by position information of three points associated with the same part of the human body.

本項における「3個の点」は、例えば、人体の胴体を概して水平な平面で切断した場合の横断面の外周上に概して等間隔で並んだ3個の点である。   The “three points” in this section are, for example, three points that are arranged at regular intervals on the outer periphery of the cross section when the human torso is cut along a generally horizontal plane.

(14) 前記基準座標系は、前記人体の同じ部位に関連付けられる2個の点の位置情報と、その同じ部位に関連付けられる1個の点に作用する重力の向き情報とによって特定される(10)または(11)項に記載の画像表示装置。 (14) The reference coordinate system is specified by position information of two points associated with the same part of the human body and direction information of gravity acting on one point associated with the same part (10 ) Or (11).

本項における「2個の点」は、例えば、人体の腰部に関連付けられる2個の点であってその腰部の左側の端点および右側の端点にそれぞれ関連付けられるもの、人体の左腕部と右腕部とのうちのいずれかであって手関節と肘関節との間の部位に関連付けられる2個の点、または、人体の肩部に関連付けられる2個の点であってその肩部の左側の端点および右側の端点にそれぞれ関連付けられるものである。   “Two points” in this section are, for example, two points associated with the lumbar part of the human body, which are respectively associated with the left end point and the right end point of the lumbar part, the left arm part and the right arm part of the human body. Two points associated with the region between the wrist joint and the elbow joint, or two points associated with the shoulder of the human body, and the left end point of the shoulder and Each is associated with an end point on the right side.

(15) 前記制御部は、前記基準部位を基準にして決定される位置に前記画像を観察者が観察するようにその画像を表示する観察者基準表示モードと、前記表示部の位置を基準にして決定される位置に前記画像を観察者が観察するようにその画像を表示する表示部基準表示モードとを含む複数種類の表示モードのうちのいずれかを選択し、その選択された表示モードに従って前記画像を表示するものである(2)ないし(14)項のいずれかに記載の画像表示装置。 (15) The control unit is based on an observer reference display mode in which the image is displayed so that the observer observes the image at a position determined with reference to the reference part, and the position of the display unit. Select one of a plurality of types of display modes including a display unit reference display mode for displaying the image so that the observer observes the image at a position determined in accordance with the selected display mode. The image display device according to any one of (2) to (14), which displays the image.

この画像表示装置においては、画像を表示するモードが、観察者の基準部位を基準にして決定される位置に画像を観察者が観察するようにその画像を表示する観察者基準表示モードと、表示部の位置を基準にして決定される位置に画像を観察者が観察するようにその画像を表示する表示部基準表示モードとを含む複数種類の表示モードのうちのいずれかに選択される。   In this image display device, an image display mode includes an observer reference display mode for displaying an image so that the observer observes the image at a position determined with reference to the reference region of the observer, and a display The display unit is selected from among a plurality of display modes including a display unit reference display mode for displaying an image so that the observer observes the image at a position determined with reference to the position of the unit.

したがって、この画像表示装置によれば、観察者の希望・要求や、別の装置からの指令に従い、画像を表示する表示モードを変更することが可能となり、この画像表示装置の使い勝手や汎用性を向上させることが容易となる。   Therefore, according to this image display device, it is possible to change the display mode for displaying an image in accordance with the wishes / requests of the observer and instructions from another device, and the usability and versatility of this image display device can be improved. It becomes easy to improve.

本項における「制御部」は、表示モードの選択を、例えば、観察者の指令に従って行うことや、別の装置からの指令信号に従って行うことが可能である。   The “control unit” in this section can select the display mode according to, for example, an observer's command or a command signal from another device.

本項における「複数種類の表示モード」は、さらに、現実外界の位置を基準にして決定される位置に前記画像を観察者が観察するようにその画像を表示する現実外界基準表示モードを含むものとすることが可能である。   The “plural types of display modes” in this section further include a real outside world reference display mode in which an image is displayed so that an observer observes the image at a position determined based on the position of the real outside world. It is possible.

(16) 前記制御部は、観察者の指令に従って前記表示モードの選択を行うものである(15)項に記載の画像表示装置。 (16) The image display device according to (15), wherein the control unit selects the display mode in accordance with an instruction from an observer.

本項における「観察者の指令」は、例えば、観察者が特定のスイッチを操作すること、観察者が特定の動作(スイッチの操作を除く。)を行うかまたは特定の音声を発することによって発令することが可能である。観察者の特定の動作は、例えば、頭部の動作、手足の動作、眼の瞬き、瞳孔の運動である。   The “observer command” in this section is, for example, issued by an observer operating a specific switch, an observer performing a specific operation (except for switch operation), or issuing a specific sound. Is possible. The specific movement of the observer is, for example, the movement of the head, the movement of the limbs, the blink of the eyes, or the movement of the pupil.

(17) 当該画像表示装置は、観察者が、前記表示対象を表す画像を現実外界に重ねてそれと一緒に観察することを可能にするシースルー型である(1)ないし(16)項のいずれかに記載の画像表示装置。 (17) The image display device is a see-through type that enables an observer to superimpose an image representing the display object on the actual outside world and observe it together with the image. The image display device described in 1.

この画像表示装置によれば、観察者の動作に応じてその観察者に対する画像の表示が制御される。したがって、シースルー型の採用により、画像が現実外界に重ねられてそれと一緒に観察される環境において、観察者の動作が原因で観察者が現実外界との関係においてその表示画像に不自然さを感じてしまう可能性を軽減することが容易である。   According to this image display device, display of an image for the observer is controlled according to the operation of the observer. Therefore, by adopting the see-through type, in an environment where the image is superimposed on the real outside world and observed together with it, the observer feels unnatural in the displayed image in relation to the real outside world due to the action of the observer. It is easy to reduce the possibility of being lost.

さらに、この画像表示装置によれば、観察者の動作に応じて、その観察者が優先的に観察する対象(すなわち、特に注視する対象)を画像と現実外界中の特定の対象物とに適宜切り換えることが可能となる。その結果、この画像表示装置の使い勝手を向上させることが容易となる。   Furthermore, according to this image display device, according to the operation of the observer, the object (that is, the object to be watched in particular) that the observer preferentially observes is appropriately assigned to the image and a specific object in the real outside world. It is possible to switch. As a result, it becomes easy to improve the usability of the image display device.

(18) 当該画像表示装置が、光束を観察者の網膜上において2次元的に走査することにより、観察者に画像を表示する網膜走査型であり、
前記変調部は、当該画像表示領域から観察者の瞳孔内に入射する光束の波面曲率半径を、表示すべき画像のフレームごとに、またはフレームが分割された各部分領域ごとに変調する波面変調部を含む(1)ないし(17)項のいずれかに記載の画像表示装置。
(18) The image display device is a retinal scanning type that displays an image to an observer by scanning a light beam two-dimensionally on the observer's retina,
The modulation unit modulates the wavefront curvature radius of the light beam entering the observer's pupil from the image display region for each frame of the image to be displayed or for each partial region into which the frame is divided. The image display device according to any one of (1) to (17).

この画像表示装置によれば、観察者の網膜上に投影される画像を形成する光の波面曲率半径が、その形成すべき画像のフレームごとに、またはフレームが分割された各部分領域ごとに変調される。   According to this image display device, the wavefront curvature radius of the light forming the image projected on the retina of the observer is modulated for each frame of the image to be formed or for each partial region into which the frame is divided. Is done.

したがって、この画像表示装置によれば、画像の奥行きを自由に変更したり、画像を立体的に表示することが容易となる。   Therefore, according to this image display device, it becomes easy to freely change the depth of the image or to display the image three-dimensionally.

本項における「各部分領域」は、例えば、フレームを構成する各画素、互いに隣接した複数個の画素から成る画素グループ等である。   The “each partial area” in this section is, for example, each pixel constituting a frame, a pixel group including a plurality of adjacent pixels, and the like.

以下、本発明のさらに具体的な実施の形態の一つを図面に基づいて詳細に説明する。   Hereinafter, one of more specific embodiments of the present invention will be described in detail with reference to the drawings.

図1には、本発明の一実施形態に従う画像表示装置がブロック図で概念的に表されている。この画像表示装置は、光束を走査しつつ観察者の眼の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる網膜走査型ディスプレイである。   FIG. 1 is a block diagram conceptually showing an image display device according to an embodiment of the present invention. This image display device is a retinal scanning display that allows a viewer to visually recognize a display target by a virtual image by projecting a light beam onto a retina of an observer's eye while scanning.

図1に示すように、この画像表示装置は、画像を表示するために光束を走査し、かつ、その走査された走査光束を観察者の眼に向かって出射する表示光学系10を備えている。その走査光束は、観察者の眼の瞳孔を経て網膜上に到達し、その結果、観察者は画像を知覚する。   As shown in FIG. 1, the image display device includes a display optical system 10 that scans a light beam to display an image and emits the scanned scanning light beam toward an observer's eye. . The scanning light beam reaches the retina via the pupil of the observer's eye, and as a result, the observer perceives the image.

その表示光学系10は、図2に概念的にブロック図で表すように、光束を生成して出射する光源12と、強度変調器14と、波面変調器16と、スキャナ18と、誘導部20とを共通のハウジング22内に含むように構成されている。   As shown conceptually in a block diagram in FIG. 2, the display optical system 10 includes a light source 12 that generates and emits a light beam, an intensity modulator 14, a wavefront modulator 16, a scanner 18, and a guiding unit 20. Are included in the common housing 22.

光源12の一例は、レーザ光束を発生させるレーザであり、その一例は、半導体レーザである。強度変調器14は、光源12から入射した光束の強度(輝度)を変調するものであり、その一例は、音響光学効果を利用して強度変調を行うものである。波面変調器16は、強度変調器14から入射した光束の波面曲率を変調するものである。この波面変調器16の一例は、光束の光軸上に、位置または曲率が可変であるように配置された集光レンズまたは反射ミラーを利用して波面変調を行うものである。   An example of the light source 12 is a laser that generates a laser beam, and an example thereof is a semiconductor laser. The intensity modulator 14 modulates the intensity (luminance) of the light beam incident from the light source 12, and an example thereof performs intensity modulation using the acoustooptic effect. The wavefront modulator 16 modulates the wavefront curvature of the light beam incident from the intensity modulator 14. An example of the wavefront modulator 16 performs wavefront modulation using a condensing lens or a reflecting mirror arranged on the optical axis of a light beam so that the position or curvature is variable.

スキャナ18は、波面変調器16から入射した光束を2次元的に走査するものである。このスキャナ18の一例は、水平走査のための、加振器による振動体の共振を利用したマイクロミラーと、垂直走査のためのガルバノミラーとの組合せである。   The scanner 18 scans the light beam incident from the wavefront modulator 16 two-dimensionally. An example of the scanner 18 is a combination of a micro mirror that utilizes the resonance of a vibrator by a vibrator for horizontal scanning and a galvanometer mirror for vertical scanning.

誘導部20は、スキャナ18から出射した光束を観察者の網膜上に誘導する部分である。この誘導部20の一例は、リレー光学系であり、別の例は、その光束が単に透過する光学系である。この誘導部20から出射した光束は、ハウジング22に形成された出射口24を経て観察者の網膜上に到達する。その出射口24は、ハウジング22内部への異物侵入を防止するため、透明体で充填されている。   The guiding unit 20 is a part that guides the light beam emitted from the scanner 18 onto the retina of the observer. An example of the guide unit 20 is a relay optical system, and another example is an optical system that simply transmits the light beam. The light beam emitted from the guiding portion 20 reaches the observer's retina through an emission port 24 formed in the housing 22. The emission port 24 is filled with a transparent body in order to prevent foreign matter from entering the housing 22.

この表示光学系10は、観察者の頭部に装着されて使用される。すなわち、この画像表示装置はヘッドマウント型なのである。   The display optical system 10 is used by being mounted on the observer's head. That is, this image display apparatus is a head mount type.

以上の説明から明らかなように、本実施形態においては、光源12が前記(1)項における「出射部」の一例を構成し、強度変調器14および波面変調器16がそれぞれ同項における「変調部」の一例を構成し、誘導部20および出射口24が互いに共同して同項における「表示部」の一例を構成しているのである。   As is clear from the above description, in the present embodiment, the light source 12 constitutes an example of the “emitter” in the item (1), and the intensity modulator 14 and the wavefront modulator 16 are each “modulation” in the same term. The guide unit 20 and the emission port 24 cooperate with each other to form an example of the “display unit” in the same section.

なお付言するに、光源12が、半導体レーザの如く、自ら強度変調機能を有する場合には、光源12から独立した強度変調器14を設けることは不可欠ではない。   In addition, when the light source 12 has its own intensity modulation function like a semiconductor laser, it is not essential to provide the intensity modulator 14 independent of the light source 12.

さらに付言するに、表示すべき画像の奥行きを画像のフレームごとにまたは画素ごとに変化させることが必要ではない場合には、波面変調器16は不要である。   In addition, the wavefront modulator 16 is not required when it is not necessary to change the depth of the image to be displayed for each frame of the image or for each pixel.

さらに付言するに、本実施形態においては、誘導部20および出射口24のみならず光源12、強度変調器14、波面変調器16およびスキャナ18も観察者の頭部に装着されているが、光源12および強度変調器14は、観察者のうち頭部以外の部位、例えば、腰部に装着され、その強度変調器14から出射した光束が可撓性の光伝送媒体(例えば、光ファイバ)を経て頭部装着部40に伝送される態様で本発明を実施することが可能である。   In addition, in the present embodiment, not only the guide unit 20 and the emission port 24 but also the light source 12, the intensity modulator 14, the wavefront modulator 16, and the scanner 18 are mounted on the observer's head. 12 and the intensity modulator 14 are attached to a portion of the observer other than the head, for example, the waist, and the light beam emitted from the intensity modulator 14 passes through a flexible optical transmission medium (for example, an optical fiber). It is possible to implement the present invention in a mode transmitted to the head mounting unit 40.

表示光学系10は、図1に示すように、本実施形態においては、インターフェース部30、磁界受信部32および信号処理回路34と共に、共通のハウジング36内に収容されている。本実施形態においては、それら表示光学系10、インターフェース部30、磁界受信部32および信号処理回路34が互いに共同して頭部装着部40を構成している。   As shown in FIG. 1, the display optical system 10 is housed in a common housing 36 together with the interface unit 30, the magnetic field receiving unit 32, and the signal processing circuit 34 in this embodiment. In the present embodiment, the display optical system 10, the interface unit 30, the magnetic field receiving unit 32, and the signal processing circuit 34 together constitute a head mounting unit 40.

図3には、その頭部装着部40が観察者の頭部に装着される態様の一例が斜視図で示されている。この例においては、頭部装着部40の装着位置がずれないように頭部装着部40が頭部にベルト42を用いて装着される。   FIG. 3 is a perspective view showing an example in which the head mounting portion 40 is mounted on the observer's head. In this example, the head mounting portion 40 is mounted on the head using a belt 42 so that the mounting position of the head mounting portion 40 does not shift.

図1に示すように、この頭部装着部40においては、インターフェース部30に表示光学系10と磁界受信部32とが互いにパラレルに接続されている。磁界受信部32は、磁界の強度を検出するセンサである。この磁界受信部32が、信号処理回路34を経てインターフェース部30に接続されている。その信号処理回路34の一例は、磁界受信部32からアナログ信号として出力される磁界強度信号であって受信した磁界の強度を表すものをデジタル信号(例えば、磁界強度データ)に変換する変換器である。   As shown in FIG. 1, in the head mounting unit 40, the display optical system 10 and the magnetic field receiving unit 32 are connected in parallel to the interface unit 30. The magnetic field receiver 32 is a sensor that detects the strength of the magnetic field. The magnetic field receiving unit 32 is connected to the interface unit 30 via the signal processing circuit 34. An example of the signal processing circuit 34 is a converter that converts a magnetic field strength signal output as an analog signal from the magnetic field receiving unit 32 and representing a received magnetic field strength into a digital signal (for example, magnetic field strength data). is there.

図1に示すように、この画像表示装置は、さらに、腰部装着部50を備えている。その腰部装着部50は、観察者の腰部に装着されて使用される。図3には、この腰部装着部50が観察者の腰部に装着される態様の一例が斜視図で示されている。この例においては、腰部装着部50の装着位置がずれないように腰部装着部50が腰部にベルト52を用いて装着される。   As shown in FIG. 1, the image display device further includes a waist mounting portion 50. The waist mounting part 50 is used by being mounted on the waist of the observer. FIG. 3 is a perspective view showing an example of a mode in which the waist mounting portion 50 is mounted on the observer's waist. In this example, the waist attachment portion 50 is attached to the waist using a belt 52 so that the attachment position of the waist attachment portion 50 is not shifted.

図1に示すように、この腰部装着部50は、CPU60と、RAM/ROM62と、それらを互いに接続するバス64とを有するコンピュータ66を含むように構成されている。RAM/ROM62のうちのROM部には、後述の位置検出プログラムを含む各種プログラムが予め記憶されている。   As shown in FIG. 1, the waist mounting portion 50 is configured to include a computer 66 having a CPU 60, a RAM / ROM 62, and a bus 64 that connects them to each other. Various programs including a position detection program described later are stored in advance in the ROM portion of the RAM / ROM 62.

図1に示すように、バス64には、さらに、磁界発生部68、表示データ変換回路70、操作部72および画像情報メモリ74がそれぞれ、対応する信号処理回路78,80,82,84を経て接続されている。各信号処理回路78,80,82,84の一例は、アナログ信号とデジタル信号との間において信号フォーマットを変換する変換器であり、別の例は、信号またはデータを一時的に保存するバッファである。   As shown in FIG. 1, the bus 64 further includes a magnetic field generation unit 68, a display data conversion circuit 70, an operation unit 72, and an image information memory 74 through corresponding signal processing circuits 78, 80, 82, and 84, respectively. It is connected. One example of each signal processing circuit 78, 80, 82, 84 is a converter that converts a signal format between an analog signal and a digital signal, and another example is a buffer that temporarily stores a signal or data. is there.

図1に示すように、この腰部装着部50は、さらに、インターフェース部90を備えている。このインターフェース部90は、可撓性の信号伝送媒体94(図3参照)を経て頭部装着部40のインターフェース部30に電気的に接続されている。このインターフェース部90には、バス64と表示データ変換回路70とが互いにパラレルに接続されている。   As shown in FIG. 1, the waist mounting part 50 further includes an interface unit 90. The interface unit 90 is electrically connected to the interface unit 30 of the head-mounted unit 40 via a flexible signal transmission medium 94 (see FIG. 3). The interface unit 90 has a bus 64 and a display data conversion circuit 70 connected in parallel to each other.

腰部装着部50のバス64がインターフェース部90、信号伝送媒体94、インターフェース部30および信号処理回路34をそれらの順に経て磁界受信部32と接続されることにより、その磁界受信部32から磁界強度信号をコンピュータ66が取り込むことが可能となっている。その取り込まれた磁界強度信号に対して前記位置検出プログラムがコンピュータ66によって実行されることにより、頭部の位置および向きが腰部を基準にして検出される。   The bus 64 of the waist mounting part 50 is connected to the magnetic field receiving part 32 through the interface part 90, the signal transmission medium 94, the interface part 30, and the signal processing circuit 34 in that order, so that the magnetic field strength signal is transmitted from the magnetic field receiving part 32. Can be captured by the computer 66. The position detection program is executed by the computer 66 with respect to the captured magnetic field strength signal, so that the position and orientation of the head are detected with reference to the waist.

磁界発生部68は、頭部装着部40における磁界受信部32と共同して、頭部の、腰部に対する相対関係を検出するために腰部装着部50に設けられている。   The magnetic field generation unit 68 is provided in the waist mounting unit 50 in order to detect the relative relationship of the head to the waist with the magnetic field receiving unit 32 in the head mounting unit 40.

本実施形態においては、図4に示すように、磁界発生部68と、磁界受信部32と、コンピュータ66のうち前記位置検出プログラムを実行する部分とが互いに共同することにより、頭部の位置および向き(正確には、頭部装着部40の位置および向き)を腰部を基準にして(正確には、腰部装着部50の位置を基準にして)相対的に検出する相対関係検出部98を構成している。この相対関係検出部98は、ポジション・トラッカまたはポジション/オリエンテーション・トラッカとして既に知られた磁気的追跡装置が採用する磁気的追跡方法と共通のないしは類似する方法により、頭部の位置および向きを腰部を基準にして相対的に検出する。   In the present embodiment, as shown in FIG. 4, the magnetic field generation unit 68, the magnetic field reception unit 32, and the part of the computer 66 that executes the position detection program cooperate with each other, thereby A relative relationship detection unit 98 that relatively detects the direction (exactly, the position and orientation of the head mounting unit 40) with reference to the waist (exactly, with reference to the position of the waist mounting unit 50) is configured. is doing. The relative relationship detection unit 98 determines the position and orientation of the head by using a method common to or similar to a magnetic tracking method adopted by a magnetic tracking device already known as a position tracker or a position / orientation tracker. Is detected relative to

そのような磁気的追跡方法の一例が、米国特許第4,849,692号公報であって、発明の名称が「直流電流による磁界を利用することにより、金属が存在する状態において、2個の物体の相対的な位置および方向を定量的に測定する装置」であるものに開示されている。   An example of such a magnetic tracking method is U.S. Pat. No. 4,849,692, and the title of the invention is “in the presence of metal in the presence of metal by using a magnetic field by direct current. It is disclosed in what is “an apparatus for quantitatively measuring the relative position and orientation of an object”.

その磁気的追跡方法を実施するために、図4に示すように、磁界発生部68は、相互に直交する3個の発生コイル(X,Y,Z)を組み合わせた発生用複合コイルを備えている。同様にして、磁界受信部32は、相互に直交する3個の受信コイル(U,V,W)を組み合わせた受信用複合コイルを備えている。   In order to implement the magnetic tracking method, as shown in FIG. 4, the magnetic field generator 68 includes a generating composite coil in which three generating coils (X, Y, Z) orthogonal to each other are combined. Yes. Similarly, the magnetic field receiver 32 includes a receiving composite coil in which three receiving coils (U, V, W) orthogonal to each other are combined.

磁界発生部68においては、発生用複合コイルが腰部装着部50に内蔵される。発生用複合コイルの設置方向は、例えば、Y軸の正方向が観察者の前方、Z軸の正方向が鉛直上方をそれぞれ向くように定義される。このような定義は、磁界受信部32における受信用複合コイルにも適用可能である。   In the magnetic field generating unit 68, the generating composite coil is built in the waist mounting unit 50. The installation direction of the generating composite coil is defined, for example, such that the positive direction of the Y axis faces the front of the observer, and the positive direction of the Z axis faces vertically upward. Such a definition can also be applied to the reception composite coil in the magnetic field receiver 32.

なお付言するに、上述の3個の発生コイルは、腰部装着部50を横断する概して同一の平面上に配置することが可能である。さらに、それら3個の発生コイルは、可及的に相互に離間するように設置することが望ましい。ただし、等間隔で離間するように配置することは不可欠ではない。例えば、それら3個の発生コイルのうちの2個は、腰部の左端部と右端部とにそれぞれ配置し、残りの1個は、それら両端部の中央位置に配置することが可能である。以上説明した配置は、磁界受信部32における3個の受信コイルにも同様に採用し得る。   In addition, it is possible to arrange the above-described three generating coils on generally the same plane that traverses the waist mounting portion 50. Further, it is desirable that the three generating coils are installed so as to be separated from each other as much as possible. However, it is not indispensable to dispose them at regular intervals. For example, two of the three generating coils can be arranged at the left end and the right end of the waist, and the remaining one can be arranged at the center position of the both ends. The arrangement described above can be similarly applied to the three receiving coils in the magnetic field receiving unit 32.

本実施形態においては、発生用複合コイルに属する3個の発生コイルからの磁界を、受信用複合コイルに属する3個の受信コイルで受信することになるため、それら3個の受信コイルから合計9個の磁界強度データが出力されることになる。一方、各受信コイルが受信した磁界が、3個の発生コイルのうちのいずれから発生したものであるかを特定するためには、例えば、時分割方式または周波数分割方式を採用することが可能である。それら磁界強度データに基づき、頭部の位置および向きを腰部を基準にして相対的に検出するために、コンピュータ66によって上記位置検出プログラムが実行される。   In the present embodiment, since the magnetic fields from the three generating coils belonging to the generating composite coil are received by the three receiving coils belonging to the receiving composite coil, a total of 9 from these three receiving coils. The individual magnetic field strength data is output. On the other hand, in order to specify which of the three generating coils the magnetic field received by each receiving coil is, for example, a time division method or a frequency division method can be adopted. is there. Based on the magnetic field strength data, the position detection program is executed by the computer 66 in order to detect the position and orientation of the head relative to the waist.

図5には、その位置検出プログラムが概念的にフローチャートで表されている。この位置検出プログラムは、コンピュータ66の電源投入後、繰返し実行される。   FIG. 5 conceptually shows a flowchart of the position detection program. This position detection program is repeatedly executed after the computer 66 is powered on.

この位置検出プログラムの各回の実行時には、まず、ステップS1(以下、単に「S1」で表す。他のステップについても同じとする。)において、磁界発生部68に対し、磁界を発生させることを指令するための信号を出力する。これに応答し、磁界発生部68は、該当する発生コイルから磁界を発生させる。磁界発生部68は、例えば、3つの発生コイルから、時分割方式によって磁界を発生させる。   When executing this position detection program each time, first, in step S1 (hereinafter simply referred to as “S1”, the same applies to other steps), the magnetic field generation unit 68 is instructed to generate a magnetic field. Outputs a signal to In response to this, the magnetic field generator 68 generates a magnetic field from the corresponding generating coil. For example, the magnetic field generation unit 68 generates a magnetic field from three generation coils by a time division method.

次に、S2において、磁界受信部32から磁界強度信号が取り込まれる。その磁界強度信号は、各受信コイルが受信した磁界の強度を表す信号であり、各受信コイルに関連付けて磁界受信部32から取り込まれる。   Next, in S <b> 2, a magnetic field strength signal is taken from the magnetic field receiving unit 32. The magnetic field strength signal is a signal representing the strength of the magnetic field received by each receiving coil, and is fetched from the magnetic field receiving unit 32 in association with each receiving coil.

続いて、S3において、その取り込まれた磁界強度信号に基づき、頭部装着部40の位置および向きが腰部装着部50を基準にして相対的に検出される。具体的には、頭部装着部40の位置および向きは、例えば、前述の発生用複合コイルを代表する1個の点の位置(X方向位置、Y方向位置およびZ方向位置)と、その点に関連付けられた少なくとも2個の向き(例えば、X方向とY方向)とについてのそれぞれの検出結果(1個の位置情報および少なくとも2個の向き情報)に基づいて検出される。その検出結果は、RAM/ROM62に格納される。   Subsequently, in S <b> 3, the position and orientation of the head mounting part 40 are relatively detected based on the waist mounting part 50 based on the captured magnetic field strength signal. Specifically, the position and orientation of the head mounting part 40 are, for example, the position of one point that represents the above-described composite coil for generation (the position in the X direction, the position in the Y direction, and the position in the Z direction) and the point. Are detected based on respective detection results (one position information and at least two direction information) for at least two directions (for example, the X direction and the Y direction) associated with. The detection result is stored in the RAM / ROM 62.

以上で、この位置検出プログラムの一回の実行が終了する。   This completes one execution of the position detection program.

以上の説明から明らかなように、本実施形態においては、磁界受信部32と、磁界発生部68と、コンピュータ66のうち位置検出プログラムを実行する部分とが互いに共同して前記(2)項における「検出部」の一例を構成し、頭部が前記(2)項における「被検出部位」の一例を構成し、腰部が同項における「基準部位」の一例を構成しているのである。   As is clear from the above description, in the present embodiment, the magnetic field receiving unit 32, the magnetic field generating unit 68, and the portion of the computer 66 that executes the position detection program cooperate with each other in the above item (2). An example of the “detection part” is configured, the head part is an example of the “detected part” in the above item (2), and the waist part is an example of the “reference part” in the same term.

さらに、本実施形態においては、磁界受信部32が前記(3)項における「第1部分」の一例を構成し、磁界発生部68が同項における「第2部分」の一例を構成し、コンピュータ66のうち位置検出プログラムを実行する部分が同項における「検出手段」の一例を構成しているのである。   Furthermore, in the present embodiment, the magnetic field receiving unit 32 constitutes an example of the “first part” in the item (3), and the magnetic field generating unit 68 constitutes an example of the “second part” in the item, The portion of 66 that executes the position detection program constitutes an example of the “detection means” in the same section.

さらに、本実施形態においては、磁界発生部68が前記(4)項における「信号発生部」の一例を構成し、磁界受信部32が同項における「受信部」の一例を構成し、空間内に磁界を発生させるために磁界発生部68によって発生させられる信号が同項における「検出用信号」の一例を構成しているのである。   Furthermore, in the present embodiment, the magnetic field generator 68 constitutes an example of the “signal generator” in the item (4), and the magnetic field receiver 32 constitutes an example of the “receiver” in the item, The signal generated by the magnetic field generation unit 68 to generate a magnetic field in FIG. 1 constitutes an example of the “detection signal” in the same section.

本実施形態においては、表示対象(コンテンツ)を画像として観察者に表示するために、概念上、3種類の座標系が使用される。すなわち、表示対象を定義するために使用される定義用座標系と、画像表示領域に表示される画像を定義するために使用される表示用座標系と、頭部の位置および向き(正確には、頭部装着部40の位置および向き)を検出するために使用される基準座標系とである。   In the present embodiment, in order to display a display target (content) as an image to an observer, three types of coordinate systems are conceptually used. That is, the definition coordinate system used to define the display object, the display coordinate system used to define the image displayed in the image display area, and the position and orientation of the head (more precisely, And a reference coordinate system used for detecting the position and orientation of the head-mounted unit 40.

本実施形態においては、図6に示すように、表示用座標系が、頭部装着部40に固定される一方、基準座標系が、腰部装着部50に固定される。その結果、腰部装着部50を基準にして頭部の位置および向きが検出され、さらに、腰部装着部50を基準にして画像が画像表示領域に表示される。   In the present embodiment, as shown in FIG. 6, the display coordinate system is fixed to the head mounting portion 40, while the reference coordinate system is fixed to the waist mounting portion 50. As a result, the position and orientation of the head are detected with reference to the waist mounting part 50, and an image is displayed in the image display area with reference to the waist mounting part 50.

具体的には、腰部装着部50を基準にして頭部装着部40の位置および向きが検出され、その検出結果に基づき、腰部装着部50を基準にして画像の表示位置が決定される。その結果、観察者は、自分の腰部を注視するように頭部を傾けたときに限り、画像を観察でき、さらに、その場合において、その画像の表示位置が、腰部装着部50と頭部装着部40との相対関係に応じて変化する。   Specifically, the position and orientation of the head mounting part 40 are detected with reference to the waist mounting part 50, and the display position of the image is determined with reference to the waist mounting part 50 based on the detection result. As a result, the observer can observe the image only when the head is tilted so as to gaze at his / her waist, and in that case, the display position of the image is the waist mounting portion 50 and the head mounting. It changes according to the relative relationship with the part 40.

さらに具体的に説明すれば、観察者が自分の腰部を注視するように頭部を傾けると、観察者の視野内に画像が現れ、一方、観察者が正面を向くと、観察者の視野から画像が消失する。しかも、観察者が自分の腰部を注視するように頭部を傾けている姿勢においては、頭部を多少傾けると、それに応じて、観察者の視野内において画像が移動し、画像は腰部に固定されたように視認され、頭部の傾きが過大になると、観察者の視野から画像が消失する。   More specifically, when an observer tilts his head so as to gaze his / her waist, an image appears in the observer's field of view, while when the observer turns to the front, The image disappears. Moreover, in a posture where the observer tilts his / her head so that he / she looks at his / her waist, if the head is tilted slightly, the image moves in the viewer's field of view accordingly, and the image is fixed to the waist. If the head is excessively tilted, the image disappears from the observer's field of view.

ここで、以上説明したいくつかの座標系をより詳細に説明するに、基準座標系は、頭部装着部40の位置および向きを腰部装着部50を基準にして検出するために基準として使用される座標系である。この基準座標系は、それと同時に、腰部装着部50を基準にして画像表示領域に画像を表示するか否か(すなわち、画像の表示をオンにするかオフにするか)を判定し、表示する場合には、さらに、その表示位置を決定するために使用される座標系でもある。   Here, the several coordinate systems described above will be described in more detail. The reference coordinate system is used as a reference for detecting the position and orientation of the head mounting unit 40 with reference to the waist mounting unit 50. Coordinate system. At the same time, this reference coordinate system determines whether or not to display an image in the image display area with reference to the waist mounting portion 50 (that is, whether to turn on or off the display of the image) and displays it. In some cases, it is also a coordinate system used to determine its display position.

これに対し、表示用座標系は、頭部装着部40を基準にして画像表示領域に画像を表示するために使用される座標系である。   On the other hand, the display coordinate system is a coordinate system used for displaying an image in the image display area with reference to the head-mounted unit 40.

図6に示すように、基準座標系は、腰部装着部50に固定されたXYZ座標系である。磁界発生部68における発生用複合コイルX,Y,Zの位置と向きとにより、この基準座標系の位置が、今回の観察者に対して一意に決定される。   As shown in FIG. 6, the reference coordinate system is an XYZ coordinate system fixed to the waist mounting part 50. The position of this reference coordinate system is uniquely determined for the current observer by the position and orientation of the generating composite coils X, Y, and Z in the magnetic field generator 68.

これに対し、図6に示すように、表示用座標系は、頭部装着部40に固定されたxyz座標系である。磁界受信部32における受信用複合コイルU,V,Wの位置と向きとにより、この表示用座標系の位置が、今回の観察者に対して一意に決定される。   On the other hand, as shown in FIG. 6, the display coordinate system is an xyz coordinate system fixed to the head mounting unit 40. The position of this display coordinate system is uniquely determined for the current observer by the position and orientation of the reception composite coils U, V, and W in the magnetic field receiver 32.

すなわち、本実施形態においては、基準座標系が、腰部装着部50に内蔵される発生用複合コイルX,Y,Zの位置と向きとによって特定されるのである。同様にして、表示用座標系が、頭部装着部40に内蔵される受信用複合コイルU,V,Wの位置と向きとによって特定されるのである。   That is, in the present embodiment, the reference coordinate system is specified by the positions and orientations of the generating composite coils X, Y, and Z incorporated in the waist mounting portion 50. Similarly, the display coordinate system is specified by the positions and orientations of the reception composite coils U, V, W built in the head mounting unit 40.

ただし、それら座標系特定手法はあくまで一例であり、例えば、基準座標系が、腰部装着部50を代表する2個の点、すなわち、2個の発生コイルについての2個の配置位置と、それら2個の点のいずれかと一致するかまたはいずれとも一致しない第3の点に作用する重力の方向とによって特定される態様で本発明を実施することが可能である。   However, these coordinate system identification methods are merely examples. For example, the reference coordinate system includes two points representing the waist mounting portion 50, that is, two arrangement positions for two generating coils, and 2 It is possible to implement the present invention in a manner specified by the direction of gravity acting on a third point that matches or does not match any of the points.

同様にして、表示用座標系が、頭部装着部40を代表する2個の点、すなわち、2個の受信コイルについての2個の配置位置と、それら2個の点のいずれかと一致するかまたはいずれとも一致しない第3の点に作用する重力の方向とによって特定される態様で本発明を実施することが可能である。   Similarly, whether the display coordinate system matches two points representing the head-mounted unit 40, that is, two arrangement positions of the two receiving coils and one of these two points. Alternatively, it is possible to implement the present invention in a manner specified by the direction of gravity acting on the third point that does not coincide with either.

いずれの態様においても、特定の点に作用する重力の方向は、重力を直接に検出する重力センサを利用して検出したり、例えば、球状を成す導体と、その導体が転動する内周面を有する回転体であって、重力の作用方向が検出されるべき被検出物体と一体的に運動するものとの組合せを利用して検出することが可能である。   In any aspect, the direction of gravity acting on a specific point is detected using a gravity sensor that directly detects gravity, for example, a spherical conductor and an inner peripheral surface on which the conductor rolls. It is possible to detect using a combination of a rotating body having a structure in which the action direction of gravity moves integrally with the detected object to be detected.

後者の例においては、回転体は、それの内周面に複数の接触点が互いに絶縁される状態で配置されており、その内周面上を導体が転動すると、各転動位置においては、それら複数の接触点のうちの少なくとも2個が導体によって互いに導通させられる。それら複数の接触点のうち導体が同時に接触しているものがいずれであるかは、それら複数の接触点のうちの2個より成るすべてのペアについて電気抵抗、静電容量等を検出することによって特定することが可能である。このようにして回転体の内周面のうち導体が位置する位置が分かれば、回転体の中心の位置が既知である(例えば、変化しない)ことを条件に、回転体および被検出物体の向きが分かる。   In the latter example, the rotating body is arranged in a state where a plurality of contact points are insulated from each other on the inner peripheral surface thereof, and when the conductor rolls on the inner peripheral surface, at each rolling position, , At least two of the plurality of contact points are connected to each other by a conductor. Which of the plurality of contact points is in contact with the conductor at the same time is determined by detecting the electrical resistance, capacitance, etc. of all pairs of the plurality of contact points. It is possible to specify. If the position of the conductor on the inner peripheral surface of the rotating body is known in this way, the orientation of the rotating body and the object to be detected is provided that the position of the center of the rotating body is known (for example, does not change). I understand.

本実施形態においては、画像を観察者に表示するモードが2種類用意されている。すなわち、腰部装着部50を基準にして決定される位置に画像を観察者が観察するようにその画像を表示する腰部装着部基準表示モードと、頭部装着部40を基準にして決定される位置に画像を観察者が観察するようにその画像を表示する頭部装着部基準表示モードとである。ここに、腰部装着部基準表示モードは、観察者の腰部を基準部位に選択したうえで、その基準部位を基準にして画像を表示するモードである。   In this embodiment, two types of modes for displaying images to the observer are prepared. That is, a waist attachment unit reference display mode for displaying an image so that an observer observes the image at a position determined with reference to the waist attachment unit 50, and a position determined with reference to the head attachment unit 40 And a head-mounted unit reference display mode for displaying the image so that the observer observes the image. Here, the waist-mounted-part reference display mode is a mode in which an image is displayed based on the reference part after selecting the observer's waist as the reference part.

すなわち、本実施形態においては、腰部が前記(2)または(15)項における「基準部位」の一例であり、腰部装着部基準表示モードが前記(15)項における「観察者基準表示モード」の一例であり、頭部装着部基準表示モードが同項における「表示部基準表示モード」の一例なのである。さらに、一連の画像表示中、現実外界に対し、観察者の腰部の位置は変化せず、それ以外の部位は変化すると仮定すれば、腰部装着部基準表示モードは、現実外界基準表示モードの一例でもあることになる。   That is, in the present embodiment, the waist is an example of the “reference part” in the item (2) or (15), and the waist attachment part reference display mode is the “observer reference display mode” in the item (15). This is an example, and the head-mounted unit reference display mode is an example of the “display unit reference display mode” in the same section. Furthermore, during a series of image display, assuming that the position of the observer's waist does not change with respect to the actual outside world and other parts change, the waist mounting part reference display mode is an example of the actual outside world reference display mode. But it will be.

以上説明したように、本実施形態においては、表示モードが複数存在し、それらのうち実行するものを選択することが必要である。その選択を観察者の操作に応じて行うために操作部72が設けられている。   As described above, in the present embodiment, there are a plurality of display modes, and it is necessary to select one to be executed. An operation unit 72 is provided to perform the selection in accordance with the operation of the observer.

さらに、本実施形態においては、表示対象を定義する定義データが画像情報メモリ74に格納されている。その定義データは、定義用座標系上においてその表示対象を表現するように作成されている。   Further, in the present embodiment, definition data that defines a display target is stored in the image information memory 74. The definition data is created so as to represent the display object on the definition coordinate system.

頭部装着部基準表示モードが実行されると、定義データに対して実質的な座標変換を何ら行うことなく、その定義データが事実上、表示用座標系にマッピングされる。その結果、その表示用座標系上において画像を表示する表示データが、その定義データと等しいデータとして取得される。すなわち、表示用座標系と定義用座標系とが等しいとするのが、この頭部装着部基準表示モードなのである。   When the head-mounted unit reference display mode is executed, the definition data is effectively mapped to the display coordinate system without performing any substantial coordinate transformation on the definition data. As a result, display data for displaying an image on the display coordinate system is acquired as data equal to the definition data. That is, it is this head-mounted part reference display mode that the display coordinate system and the definition coordinate system are equal.

これに対し、腰部装着部基準表示モードが実行されると、腰部装着部50を基準にした頭部装着部40の位置および向きに基づき、定義データに対して実質的な座標変換が行われ、それにより、表示データが作成される。   On the other hand, when the waist mounting portion reference display mode is executed, substantial coordinate transformation is performed on the definition data based on the position and orientation of the head mounting portion 40 with respect to the waist mounting portion 50. Thereby, display data is created.

腰部装着部基準表示モードを実行する場合に、定義用座標系上において表示対象を定義する定義データに対して実質的な座標変換を行うことなく、その定義データが事実上、基準座標系にマッピングされる。その後、その定義データが、観察者の頭部の位置および向きと基準座標系との相対関係に基づき、表示用座標系上において画像を表示する表示データに変換され、それにより、定義データが表示用座標系にマッピングされる。   When executing the waist mounting part reference display mode, the definition data is effectively mapped to the reference coordinate system without performing substantial coordinate transformation on the definition data defining the display target on the definition coordinate system. Is done. After that, the definition data is converted into display data for displaying an image on the display coordinate system based on the relative relationship between the position and orientation of the observer's head and the reference coordinate system, thereby displaying the definition data. Mapped to the coordinate system.

モードと座標系との関係を簡単に説明すれば、定義用座標系はもともと、表示用座標系にも基準座標系にも関連付けられていない。しかしながら、頭部装着部基準表示モードが選択されれば、定義用座標系が表示用座標系に固定され、それにより、画像が頭部装着部に固定されたように表示される。これに対し、腰部装着部基準表示モードが選択されれば、定義用座標系が基準座標系に固定され、それにより、画像が腰部装着部に固定されたように表示される。   To briefly explain the relationship between the mode and the coordinate system, the definition coordinate system is originally not associated with the display coordinate system or the reference coordinate system. However, if the head-mounted part reference display mode is selected, the definition coordinate system is fixed to the display coordinate system, and thereby the image is displayed as if fixed to the head-mounted part. On the other hand, when the waist mounting portion reference display mode is selected, the definition coordinate system is fixed to the reference coordinate system, and thereby the image is displayed as if it was fixed to the waist mounting portion.

以上、選択された表示モードに従い、定義データから表示データが作成(変換)される工程を説明したが、この工程は表示データ変換回路70によって実行される。この表示データ変換回路70は、コンピュータ66とは別のコンピュータ(図示しない)を主体とし、図7にフローチャートで概念的に表されている表示データ作成プログラムを実行する態様で構成されている。ただし、この表示データ変換回路70は、コンピュータを用いて構成することは不可欠ではなく、例えば、DSPを用いて構成することが可能である。   The process of creating (converting) display data from definition data according to the selected display mode has been described above. This process is executed by the display data conversion circuit 70. The display data conversion circuit 70 is mainly configured by a computer (not shown) different from the computer 66, and is configured to execute a display data creation program conceptually represented in the flowchart of FIG. However, it is not essential to configure the display data conversion circuit 70 using a computer. For example, the display data conversion circuit 70 can be configured using a DSP.

この表示データ変換回路70においては、その表示データ作成プログラムが繰返し実行される。この表示データ作成プログラムの各回の実行時には、まず、図7のS31において、画像情報メモリ74から画像情報が定義データとして取り込まれる。次に、S32において、操作部72の出力信号に基づき、頭部装着部基準表示モードと腰部装着部基準表示モードとのうち観察者によって現在選択されている選択表示モードが識別される。   In the display data conversion circuit 70, the display data creation program is repeatedly executed. When the display data creation program is executed each time, first, image information is fetched as definition data from the image information memory 74 in S31 of FIG. Next, in S <b> 32, based on the output signal of the operation unit 72, the selection display mode currently selected by the observer is identified from among the head mounting unit reference display mode and the waist mounting unit reference display mode.

続いて、S33において、その識別された選択表示モードが腰部装着部基準表示モードであるか否かが判定される。   Subsequently, in S33, it is determined whether or not the identified selection display mode is the waist mounting portion reference display mode.

今回は、選択表示モードが腰部装着部基準表示モードではなく、頭部装着部基準表示モードであると仮定すれば、S33の判定がNOとなり、S34に移行する。このS34においては、定義用座標系が表示用座標系に固定され、それにより、前記取り込まれた定義データが、座標変換されることなく、表示データとして表示光学系10に対して出力される。すなわち、この頭部装着部基準表示モードにおいては、表示用座標系と定義用座標系とが同等となるのである。   If it is assumed that the selection display mode is not the waist-mounted part reference display mode but the head-mounted part reference display mode this time, the determination in S33 is NO and the process proceeds to S34. In S34, the definition coordinate system is fixed to the display coordinate system, whereby the taken definition data is output to the display optical system 10 as display data without being coordinate-converted. That is, in this head mounted portion reference display mode, the display coordinate system and the definition coordinate system are equivalent.

表示データは、例えば、各画素ごとに、光の強度(輝度)の目標値と奥行き(波面曲率)の目標値とを表している。表示データのうち目標強度を表す部分は最終的に強度変調器14に供給され、強度変調器14から出力される光束の強度が目標強度と等しくなるようにされる。同様に、表示データのうち目標奥行きを表す部分は最終的に波面変調器16に供給され、波面変調器16から出力される光束の波面曲率が目標波面曲率と等しくなるようにされる。   The display data represents, for example, a target value of light intensity (luminance) and a target value of depth (wavefront curvature) for each pixel. A portion representing the target intensity in the display data is finally supplied to the intensity modulator 14 so that the intensity of the light beam output from the intensity modulator 14 becomes equal to the target intensity. Similarly, the portion representing the target depth in the display data is finally supplied to the wavefront modulator 16 so that the wavefront curvature of the light beam output from the wavefront modulator 16 is equal to the target wavefront curvature.

以上で、この表示データ作成プログラムの一回の実行が終了する。   This completes one execution of the display data creation program.

これに対し、今回は、選択表示モードが腰部装着部基準表示モードであると仮定すれば、S33の判定がYESとなり、S35に移行する。このS35においては、腰部装着部50を基準にして、頭部装着部40の位置および向きが相対的に検出される。具体的には、RAM/ROM62から最新の検出結果が読み出される。   On the other hand, this time, if it is assumed that the selection display mode is the waist mounting portion reference display mode, the determination in S33 is YES, and the process proceeds to S35. In S35, the position and orientation of the head mounting part 40 are relatively detected with reference to the waist mounting part 50. Specifically, the latest detection result is read from the RAM / ROM 62.

その後、S36において、定義用座標系が基準座標系に固定され、それにより、前記取り込まれた定義データが基準座標系に固定される。すなわち、この腰部装着部基準表示モードにおいては、基準座標系と定義用座標系とが同等となるのである。   Thereafter, in S36, the definition coordinate system is fixed to the reference coordinate system, and thereby the taken definition data is fixed to the reference coordinate system. That is, in this waist mounting portion reference display mode, the reference coordinate system and the definition coordinate system are equivalent.

続いて、S37において、そのマッピングされた定義データが、頭部装着部40の位置および向きの相対的検出結果が反映されるように、表示用座標系にマッピングされる。そのマッピングは、例えば、その検出結果が、定義データにより表される画像と基準座標系との相対位置関係が設定されたときにおける頭部装着部40の位置および向きの相対的検出結果からずれるにつれて、観察者の視野内において画像の表示位置が移動するように行われる。すなわち、表示画像が、基準座標系に固定されたように視認されるのである。   Subsequently, in S37, the mapped definition data is mapped to the display coordinate system so that the relative detection result of the position and orientation of the head-mounted unit 40 is reflected. The mapping is performed, for example, as the detection result deviates from the relative detection result of the position and orientation of the head-mounted unit 40 when the relative positional relationship between the image represented by the definition data and the reference coordinate system is set. The display position of the image is moved within the field of view of the observer. That is, the display image is visually recognized as being fixed to the reference coordinate system.

このS37においては、そのようなマッピングが行われた定義データが、表示データとして、表示光学系10に対して出力される。   In S37, the definition data subjected to such mapping is output to the display optical system 10 as display data.

以上で、この表示データ作成プログラムの一回の実行が終了する。   This completes one execution of the display data creation program.

以上の説明から明らかなように、本実施形態においては、腰部装着部50が前記(1),(5),(7),(8),(15)または(16)項における「制御部」の一例を構成しているのである。   As is apparent from the above description, in the present embodiment, the waist mounting portion 50 is the “control unit” in the above item (1), (5), (7), (8), (15) or (16). It constitutes an example.

以上、本発明の実施の形態の一つを図面に基づいて詳細に説明したが、これは例示であり、前記[発明の開示]の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。   Although one embodiment of the present invention has been described in detail with reference to the drawings, this is an exemplification and is based on the knowledge of those skilled in the art including the aspects described in the section of [Disclosure of the Invention]. The present invention can be implemented in other forms with various modifications and improvements.

本発明の一実施形態に従う画像表示装置を概念的に表すブロック図である。1 is a block diagram conceptually showing an image display device according to an embodiment of the present invention. 図1における表示光学系10の構成を概念的に表すブロック図である。FIG. 2 is a block diagram conceptually showing the configuration of a display optical system 10 in FIG. 図1における頭部装着部40と腰部装着部50とがそれぞれ観察者の頭部と腰部とに装着される一例を示す斜視図である。It is a perspective view which shows an example with which the head mounting part 40 and the waist | hip | lumbar part mounting | wearing part 50 in FIG. 1 are each mounted | worn with an observer's head and waist | hip | lumbar part. 図1に示す画像表示装置において観察者の頭部の位置および向きを腰部を基準にして相対的に検出するためのいくつかの要素を取り出して示すブロック図である。FIG. 2 is a block diagram showing some elements for relatively detecting the position and orientation of the observer's head with reference to the waist in the image display apparatus shown in FIG. 1. 図4におけるコンピュータ66によって実行される位置検出プログラムを概念的に表すフローチャートである。6 is a flowchart conceptually showing a position detection program executed by a computer 66 in FIG. 4. 図1に示す画像表示装置において使用される表示用座標系および基準座標系を説明するための斜視図である。It is a perspective view for demonstrating the display coordinate system and reference | standard coordinate system which are used in the image display apparatus shown in FIG. 図1における表示データ変換回路70においてコンピュータによって実行される表示データ作成プログラムを概念的に表すフローチャートである。3 is a flowchart conceptually showing a display data creation program executed by a computer in the display data conversion circuit 70 in FIG.

符号の説明Explanation of symbols

12 光源
14 強度変調器
16 波面変調器
20 誘導部
24 出射口
32 磁界受信部
40 頭部装着部
50 腰部装着部
66 コンピュータ
68 磁界発生部
70 表示データ変換回路
DESCRIPTION OF SYMBOLS 12 Light source 14 Intensity modulator 16 Wavefront modulator 20 Guidance part 24 Output port 32 Magnetic field receiving part 40 Head mounting part 50 Lumbar mounting part 66 Computer 68 Magnetic field generation part 70 Display data conversion circuit

Claims (9)

光を観察者の網膜上に投影することにより、表示対象を虚像によって観察者に視認させる画像表示装置であって、
光を出射する出射部と、
前記光を変調する変調部と、
その変調された光を出射口を経て観察者の網膜上に出射することにより、前記表示対象を表す画像を虚像として画像表示領域に表示する表示部であって、観察者の頭部に装着されて使用されるものと、
前記画像が前記画像表示領域に表示されるように前記出射部および変調部を制御する制御部であって、観察者の動作をその観察者の位置を基準にして相対的に検出し、その検出された動作に応じて、前記画像の表示のオン・オフとその表示位置の変更とのうちの少なくとも一方である表示制御を行うものと
観察者である人体のうちの被検出部位である前記頭部の位置および向きと、前記人体を構成する複数の部位のうち、前記頭部に対する相対変位が可能である部位である基準部位に関連付けられるように予め定められた基準座標系との相対関係を検出する検出部と
を含み、
前記制御部は、前記画像を前記画像表示領域に表示するために、(a)前記表示対象を定義するために使用される定義用座標系と、(b)前記画像表示領域に表示される画像を定義する表示用座標系であって、前記表示部に固定されたものとを用い、
前記制御部は、さらに、前記検出された相対関係が反映されるように、前記定義用座標系上において前記表示対象を定義する定義データを、前記表示用座標系上において前記画像を表示する表示データに変換し、その変換された表示データに基づき、前記出射部および変調部を制御し、
前記基準座標系は、前記定義用座標系でもあるか、または、前記定義用座標系および前記表示用座標系のいずれとも異なり、
前記基準座標系は、前記人体の同じ部位に関連付けられる2個の点の位置情報と、その同じ部位に関連付けられる1個の点に作用する重力の向き情報とによって特定される画像表示装置。
An image display device that causes a viewer to visually recognize a display target by projecting light onto an observer's retina,
An emission part for emitting light;
A modulator for modulating the light;
A display unit that displays the image representing the display object as a virtual image on a display area by emitting the modulated light onto an observer's retina through an emission port, and is attached to the observer's head. Used and
A control unit that controls the emission unit and the modulation unit so that the image is displayed in the image display area, and detects the motion of the observer relative to the position of the viewer, and the detection In accordance with the performed operation, performing display control that is at least one of on / off of display of the image and change of the display position ;
The position and orientation of the head that is the detected part of the human body that is the observer, and the reference part that is a part that can be displaced relative to the head among the plurality of parts that constitute the human body A detecting unit for detecting a relative relationship with a predetermined reference coordinate system,
Including
In order to display the image in the image display area, the control unit includes: (a) a definition coordinate system used for defining the display target; and (b) an image displayed in the image display area. Using a coordinate system for display that defines the above and fixed to the display unit,
The control unit further displays definition data defining the display target on the definition coordinate system and displays the image on the display coordinate system so that the detected relative relationship is reflected. Converted into data, based on the converted display data, to control the emission unit and the modulation unit,
The reference coordinate system is also the definition coordinate system, or different from both the definition coordinate system and the display coordinate system,
The reference coordinate system is an image display device specified by position information of two points associated with the same part of the human body and direction information of gravity acting on one point associated with the same part .
前記検出部は、互いに相対変位が可能な第1部分と第2部分とを含み、前記第1部分は、前記被検出部位に装着されてその被検出部位と一体的に運動し、前記第2部分は、前記基準部位に装着されてその基準部位と一体的に運動し、前記検出部は、さらに、それら第1部分と第2部分との相対位置を検出する検出手段を含む請求項1に記載の画像表示装置。 The detection unit includes a first part and a second part that can be displaced relative to each other. The first part is attached to the detected part and moves integrally with the detected part, and the second part The part is attached to the reference part and moves integrally with the reference part, and the detection unit further includes detection means for detecting a relative position between the first part and the second part. The image display device described. 前記第1部分と第2部分との一方は、前記相対位置を検出するための検出用信号を発生させる信号発生部であり、他方は、その発生させられた検出用信号であって空間に伝搬するものを受信する受信部である請求項2に記載の画像表示装置。 One of the first part and the second part is a signal generation unit that generates a detection signal for detecting the relative position, and the other is the generated detection signal that propagates to space. The image display device according to claim 2, wherein the image display device is a receiving unit that receives what is to be performed . 前記制御部は、前記検出された相対関係に基づき、観察者の動作が設定条件を満たす場合に、前記表示制御を行うものである請求項1ないし3のいずれかに記載の画像表示装置。 The image display device according to claim 1, wherein the control unit performs the display control when an observer's action satisfies a setting condition based on the detected relative relationship . 前記基準部位は、観察者の腰部に設定される請求項1ないし4のいずれかに記載の画像表示装置。 The image display device according to claim 1 , wherein the reference part is set on a waist of an observer . 前記制御部は、前記基準部位を基準にして決定される位置に前記画像を観察者が観察するようにその画像を表示する観察者基準表示モードと、前記表示部の位置を基準にして決定される位置に前記画像を観察者が観察するようにその画像を表示する表示部基準表示モードとを含む複数種類の表示モードのうちのいずれかを選択し、その選択された表示モードに従って前記画像を表示するものである請求項1ないし5のいずれかに記載の画像表示装置。 The control unit is determined with reference to an observer reference display mode for displaying the image so that the observer observes the image at a position determined with reference to the reference part, and the position of the display unit. Select one of a plurality of display modes including a display unit reference display mode for displaying the image so that the observer observes the image at a position, and the image is displayed according to the selected display mode. 6. The image display device according to claim 1 , wherein the image display device is a display. 前記制御部は、観察者の指令に従って前記表示モードの選択を行うものである請求項6に記載の画像表示装置。 The image display device according to claim 6 , wherein the control unit is configured to select the display mode in accordance with an instruction from an observer . 当該画像表示装置は、観察者が、前記表示対象を表す画像を現実外界に重ねてそれと一緒に観察することを可能にするシースルー型である請求項1ないし7のいずれかに記載の画像表示装置。 The image display device according to any one of claims 1 to 7, wherein the image display device is a see-through type that enables an observer to superimpose an image representing the display object on the actual outside world and observe it together with the image. . 当該画像表示装置は、光束を観察者の網膜上において2次元的に走査することにより、観察者に画像を表示する網膜走査型であり、
前記変調部は、当該画像表示領域から観察者の瞳孔内に入射する光束の波面曲率半径を、表示すべき画像のフレームごとに、またはフレームが分割された各部分領域ごとに変調する波面変調部を含む請求項1ないし8のいずれかに記載の画像表示装置。
The image display device is a retinal scanning type that displays an image to the observer by two-dimensionally scanning the light beam on the retina of the observer,
The modulation unit modulates the wavefront curvature radius of the light beam entering the observer's pupil from the image display region for each frame of the image to be displayed or for each partial region into which the frame is divided. The image display device according to claim 1, comprising:
JP2004068889A 2003-10-30 2004-03-11 Image display device Expired - Fee Related JP4599858B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004068889A JP4599858B2 (en) 2004-03-11 2004-03-11 Image display device
PCT/JP2004/016025 WO2005043218A1 (en) 2003-10-30 2004-10-28 Image display device
US11/413,046 US7825996B2 (en) 2003-10-30 2006-04-28 Apparatus and method for virtual retinal display capable of controlling presentation of images to viewer in response to viewer's motion

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004068889A JP4599858B2 (en) 2004-03-11 2004-03-11 Image display device

Publications (2)

Publication Number Publication Date
JP2005258022A JP2005258022A (en) 2005-09-22
JP4599858B2 true JP4599858B2 (en) 2010-12-15

Family

ID=35083800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004068889A Expired - Fee Related JP4599858B2 (en) 2003-10-30 2004-03-11 Image display device

Country Status (1)

Country Link
JP (1) JP4599858B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9568996B2 (en) 2013-02-13 2017-02-14 Seiko Epson Corporation Image display device and display control method for image display device

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4735234B2 (en) * 2005-12-19 2011-07-27 ブラザー工業株式会社 Image display system
JP2007272067A (en) * 2006-03-31 2007-10-18 Brother Ind Ltd Image display device
WO2009041575A1 (en) * 2007-09-28 2009-04-02 Nikon Corporation Control device and head-mount display device
CN114748166A (en) * 2021-01-11 2022-07-15 上海微创医疗机器人(集团)股份有限公司 Method for detecting relative relation between sight line and target object and surgical robot system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5369415A (en) * 1992-06-29 1994-11-29 Motorola, Inc. Direct retinal scan display with planar imager
JPH0795498A (en) * 1993-09-24 1995-04-07 Sony Corp Glasses type display
JPH08160349A (en) * 1994-12-09 1996-06-21 Sega Enterp Ltd Head mounted video display system and device thereof
JPH09203637A (en) * 1996-01-26 1997-08-05 Olympus Optical Co Ltd Attitude detector
JP2887104B2 (en) * 1996-04-12 1999-04-26 オリンパス光学工業株式会社 Head mounted video display
JPH1195155A (en) * 1997-09-18 1999-04-09 Nec Software Kyushu Ltd Head up display device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9568996B2 (en) 2013-02-13 2017-02-14 Seiko Epson Corporation Image display device and display control method for image display device

Also Published As

Publication number Publication date
JP2005258022A (en) 2005-09-22

Similar Documents

Publication Publication Date Title
US7825996B2 (en) Apparatus and method for virtual retinal display capable of controlling presentation of images to viewer in response to viewer&#39;s motion
EP2006827A2 (en) Image display device
US12322164B2 (en) UI for head mounted display system
WO2019155916A1 (en) Image display device using retinal scan display unit and method therefor
JPH0749744A (en) Head mounting type display input device
US7091928B2 (en) Intelligent eye
WO2019142560A1 (en) Information processing device for guiding gaze
US10579109B2 (en) Control device and control method
JPH0764709A (en) Instruction processor
JP7367132B2 (en) EEG interface device
US20180308451A1 (en) Head-wearable presentation apparatus, method for operating the same, and medical-optical observation system
JP2001356875A (en) Pointer display system
JPH07271546A (en) Image display control method
JP4599858B2 (en) Image display device
JP2018029907A (en) Information processing method, program for causing computer to execute information processing method, and computer
JP7367041B2 (en) UI for head-mounted display systems
US11899836B2 (en) Method for operating a visualization system in a surgical application, and visualization system for a surgical application
CA3117533A1 (en) Ui for head mounted display system
JP4839598B2 (en) Image display device
JP3444935B2 (en) Image generator
JP7165604B2 (en) Virtual object output device and virtual object output method
JP7333051B2 (en) Display system, display method, controller, and computer program
JP2024035526A (en) information processing equipment
JP2018029969A (en) Information processing method and program for causing computer to execute information processing method
JP2024097269A (en) Information processing apparatus and information processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100831

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100913

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees