[go: up one dir, main page]

JP2006065888A - Image display apparatus and method, and information providing apparatus and method - Google Patents

Image display apparatus and method, and information providing apparatus and method Download PDF

Info

Publication number
JP2006065888A
JP2006065888A JP2005320814A JP2005320814A JP2006065888A JP 2006065888 A JP2006065888 A JP 2006065888A JP 2005320814 A JP2005320814 A JP 2005320814A JP 2005320814 A JP2005320814 A JP 2005320814A JP 2006065888 A JP2006065888 A JP 2006065888A
Authority
JP
Japan
Prior art keywords
image
user
display
dimensional
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005320814A
Other languages
Japanese (ja)
Inventor
Junichi Nagahara
潤一 永原
Toshikazu Minoshima
俊和 蓑島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005320814A priority Critical patent/JP2006065888A/en
Publication of JP2006065888A publication Critical patent/JP2006065888A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To realize an image display apparatus and its method which can display image of three dimensional virtual reality world with user interface that a user uses easily, and an information providing apparatus and its method to provide information to make it display in the image display apparatus. <P>SOLUTION: In the inside of a three dimensional virtual reality world, an image where a shop 302 is diagonally located for the direction of user's glance is displayed on the display; and if a user moves a pointer of a pointing device to the position of pointer 201 in the image and directs it, the user inside the three dimensional virtual reality world automatically performs moving action to the position in which just before the shop 302, that is, the shop 302 becomes the center of view. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、3次元空間の画像を表示する画像表示装置及びその方法、並びにその画像表示装置に表示させるための情報を提供する情報提供装置及びその方法に関する。   The present invention relates to an image display apparatus and method for displaying an image in a three-dimensional space, and an information providing apparatus and method for providing information to be displayed on the image display apparatus.

近年、ケーブル、電話線、又はネットワーク等を使用して、中央の情報処理装置であるサーバコンピュータと、例えば家庭等のユーザの端末の情報処理装置であるクライアントコンピュータとを繋ぎ、サーバコンピュータ内の情報をユーザのクライアントコンピュータに提供する情報提供サービスを行う場合や、サーバコンピュータ内の情報をユーザのクライアントコンピュータで検索する場合において、クライアントコンピュータ側のグラフィックを表示することができる表示装置上に、情報提供サービスの概念モデルやメタファ表現として、3次元で仮想現実世界(バーチャルリアリティ)を表示することが行われており、ユーザは、実世界に近いかたちで情報提供サービスを使用したり、検索を行ったりすることができる。   In recent years, a server computer, which is a central information processing apparatus, and a client computer, which is an information processing apparatus of a user terminal such as a home, are connected using a cable, a telephone line, a network, or the like. Information is provided on a display device capable of displaying a graphic on the client computer side when performing an information providing service for providing information to the user client computer or searching for information in the server computer on the user client computer The virtual reality world (virtual reality) is displayed in three dimensions as a conceptual model or metaphor expression of the service, and the user can use the information providing service or perform a search in a form close to the real world. can do.

例えば、一般的に、3次元空間表現を利用した情報ナビゲーションシステムでは、2次元空間表現と比較して、実世界に似せたかたちに、サービス内容や構成物を立体的に表現することができるので、ユーザが、この情報ナビゲーションシステムにアクセスしたときに、ユーザに対して友好的な印象を与えることが優位点として挙げられる。   For example, in general, in an information navigation system using a three-dimensional space representation, service contents and components can be three-dimensionally represented in a form resembling the real world as compared to a two-dimensional space representation. The advantage is that when the user accesses the information navigation system, a friendly impression is given to the user.

具体的には、3次元仮想現実世界の中には、例えば机や商品棚やテレビやドア等の種々の物体や設備が存在しており、ユーザは、マウス、トラックボール、及びキーパッド等のポインティングデバイスを操作デバイスとして用いることにより、3次元仮想現実世界内での移動方向等を指示して、表現された3次元仮想現実世界の内部を動き回り、3次元仮想現実世界の内部の物体や設備に働きかけを行う。   Specifically, in the 3D virtual reality world, there are various objects and facilities such as desks, product shelves, televisions, doors, etc., and the user can use a mouse, a trackball, a keypad, etc. By using a pointing device as an operation device, the movement direction in the three-dimensional virtual reality world is instructed, and the object moves around the represented three-dimensional virtual reality world to move objects and equipment inside the three-dimensional virtual reality world. To work on.

ここで、具体的に、図9に、ある3次元仮想現実世界の内部を上部から見た2次元画像を示す。この3次元仮想現実世界において、ユーザの両側には、種々の情報提供サービスを得るための複数の店301、302、303、304、305、306が存在しており、ユーザには複数の店のドアが見えている。ユーザは、上記複数の店の間を一直線に進行するものとする。   Here, specifically, FIG. 9 shows a two-dimensional image of the inside of a certain three-dimensional virtual reality world as seen from above. In this three-dimensional virtual reality world, there are a plurality of stores 301, 302, 303, 304, 305, 306 for obtaining various information providing services on both sides of the user. The door is visible. The user proceeds in a straight line between the plurality of stores.

最初に、ユーザは点309に停止しているとする。尚、ユーザの視点は実線の矢印で示し、ユーザの移動動作は点線の矢印で示すものとする。 First, a user is stopped at the point 309 1. The user's viewpoint is indicated by a solid arrow, and the user's movement is indicated by a dotted arrow.

この点309において、ユーザは、前方向、左方向、又は右方向のいずれかの方向に移動することができるように設定されている。また、点309でユーザが見る画像は、ディスプレイ20に表示されており、図10に示す画像である。ユーザには、左側の店301、302、303及び右側の店304、305、306が見えている。 In this respect 309 1, the user may forward, are set so as to be able to move leftward, or in either direction in the right direction. The user sees the image at point 309 1, are displayed on the display 20, an image shown in FIG. 10. The user can see the stores 301, 302, 303 on the left and the stores 304, 305, 306 on the right.

図10の画像内では、ユーザは、前方向の矢印のポインタ401、左方向の矢印のポインタ402、右方向の矢印のポインタ403で示すいずれかの位置に、ポインティングデバイスを用いてポインタを移動させて指示することにより、次の動作を行うことができる。   In the image of FIG. 10, the user moves the pointer using a pointing device to one of the positions indicated by the forward arrow pointer 401, the left arrow pointer 402, and the right arrow pointer 403. The following operations can be performed by instructing.

ここで、ユーザは、例えば左側の矢印のポインタ402の位置でクリックした場合には、図9に示す点309に移動する。このときにユーザが見る画像を図11に示す。ユーザは店302から離れた位置に立っており、ユーザの視線は店302に向いている。これにより、点309で見た左側の店の数よりも2軒多い5軒の店301、302、303、307、308を見ることになる。この点309で移動できる方向は、図11の画像内の前方向の矢印のポインタ404、左方向の矢印のポインタ405、右方向の矢印のポインタ406で示すいずれかの方向である。ユーザが、図11の画像において、ポインタを移動させて、前方向の矢印のポインタ404の位置を指示した場合には、図9の点309に移動し、左方向の矢印のポインタ405の位置を指示した場合には、図9の点309に移動し、右方向の矢印のポインタ406の位置を指示した場合には、図9の点309に移動することになる。 Here, the user, for example, when the user clicks at the position of the pointer 402 on the left side of the arrow, moves to 309 point 2 shown in FIG. An image viewed by the user at this time is shown in FIG. The user stands at a position away from the store 302, and the user's line of sight faces the store 302. Thus, you will see two on more 5 specialty stores 301,302,303,307,308 than the number of left shop seen at point 309 1. Direction can move the point 309 2, the pointer 404 before the direction of the arrow in the image of FIG. 11, the pointer 405 in the left direction of the arrow, is any direction indicated by the pointer 406 in the right direction of the arrow. User, in the image of FIG. 11, by moving the pointer, when indicating the position of the pointer 404 in the front direction of the arrow, moves to the point 309 3 of FIG. 9, the position of the pointer 405 in the left direction of the arrow when instructed, go to point 309 4 of FIG. 9, when indicating the position of the pointer 406 in the right direction of the arrow will move to the point 309 5 of FIG.

この図11の画像において、ユーザが前方向の矢印のポインタ404の位置を指示して点309に移動して停止したときにユーザが見る画像は、図12に示すものである。このときの点309は、店302の直前であり、3軒の店301、302、303を見ることになる。この画像においては、店302のドアを開くことを示すポインタ409、左方向の矢印のポインタ407、右方向の矢印のポインタ408、及び元の立位点309の位置に戻る(ズームバック)ことを示すポインタ410のいずれかの位置にポインタを移動させて指示することができる。ポインタ409の位置を指示すれば、店302のサービス内容にアクセスすることができる。 In the image of FIG. 11, the user sees the image when the user stops moving the point 309 3 indicate the position of the pointer 404 in the forward direction of the arrows are shown in FIG. 12. The point 309 3 at this time is immediately before the store 302, and the three stores 301, 302, and 303 are seen. In this image, the pointer 409 indicating that opening the door of the store 302, the pointer 407 in the left direction of the arrow, and returns to the pointer 408, and the original of the standing point 309 2 position in the right direction of the arrow (zoom back) that It is possible to instruct by moving the pointer to any position of the pointer 410 indicating. If the position of the pointer 409 is indicated, the service contents of the store 302 can be accessed.

従来技術として、特許文献1が知られている。   Patent document 1 is known as a prior art.

特開平07−098640号公報Japanese Patent Application Laid-Open No. 07-098640

ところで、上述の3次元仮想現実世界においては、実世界を忠実に表現しようとするあまり、ユーザの実際の使い勝手や、ユーザへのインターフェイスに問題が生じている。   By the way, in the above-described three-dimensional virtual reality world, there is a problem in the user's actual usability and the interface to the user because of trying to faithfully represent the real world.

3次元仮想現実世界の内部を動き回る際のユーザの移動動作に関しては、ユーザの所望の方向に自由に移動できるので、どちらの方向に移動すれば、どのような物体や設備が存在するのかがわかりにくくなってしまう。   With regard to the movement of the user when moving around in the 3D virtual reality world, the user can freely move in the direction desired by the user, so it can be seen in which direction the object or equipment exists. It becomes difficult.

また、ユーザが、3次元仮想現実世界の内部で、制作者の意図しない位置に移動してしまったときに、ユーザの見ている視界はわかりにくいものとなってしまい、次に進むべき方向が判別しにくい。   In addition, when the user moves to a position not intended by the creator within the 3D virtual reality world, the field of view that the user is viewing becomes difficult to understand, and the direction to go next Difficult to distinguish.

また、2次元の表示装置いわゆるCRTディスプレイによって、3次元仮想現実世界を表示していることにより、上下左右(X軸、Y軸)方向への操作は簡易に行うことができるが、奥行き(Z軸)方向への操作は、表現上及び操作上大変に難しい。   In addition, since the three-dimensional virtual reality world is displayed on a two-dimensional display device, a so-called CRT display, operations in the vertical and horizontal directions (X axis, Y axis) can be easily performed. Operation in the (axis) direction is very difficult in terms of expression and operation.

この2次元の表示装置に表現される3次元仮想現実世界内部を移動するために用いられる操作デバイスとしては、上述したように、マウス、トラックボール、及びキーパッド等があるが、これらは制御要素が少なく、また、人間の手足のように、全ての要素を自在に制御することができるものではない。よって、シミュレーションゲーム等において、上述の操作デバイスを用いて移動物体の移動方向を自由自在に制御し、安定した姿勢や視点及び動きを保持できるようになるには、大変な習熟が必要である。ゲームにおいては、習熟するまでを楽しむことができるが、情報提供サービスなどのように、多くのユーザが、できるだけ簡単に使用することができるインタフェースを必要とするものにおいては、初めて使用するユーザでも簡単に使用することができる必要がある。   As described above, there are a mouse, a trackball, a keypad, and the like as operation devices used for moving in the three-dimensional virtual reality world represented by the two-dimensional display device. However, it is not possible to freely control all elements like human limbs. Therefore, in a simulation game or the like, it is necessary to be very proficient in order to freely control the moving direction of the moving object using the operation device described above and to maintain a stable posture, viewpoint, and movement. In games, you can enjoy until you get used to it, but if you need an interface that many users can use as easily as possible, such as information provision services, it is easy even for first-time users. Need to be able to be used.

そこで、本発明は上述の実情に鑑み、ユーザが利用し易いユーザインターフェイスの3次元仮想現実世界の画像を表示することができる画像表示装置及びその方法、並びにその画像表示装置に表示させるための情報を提供する情報提供装置及びその方法を提供するものである。   Therefore, in view of the above situation, the present invention provides an image display device and method for displaying a 3D virtual real world image of a user interface that is easy for a user to use, and information to be displayed on the image display device. Providing an information providing apparatus and method therefor.

本発明に係る画像表示装置及びその方法は、表示手段に3次元の画像を表示し、3次元空間内のユーザの進行方向に対して視線方向を所定の角度傾けて対象物を見たときの画像を上記表示手段に表示し、上記表示手段に表示した画像内の位置を指示する指示手段によって、上記画像内に表示される上記対象物又は対象物に対応するポインタを指示したならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示させることにより、上述した課題を解決する。   The image display apparatus and method according to the present invention displays a three-dimensional image on the display means, and the object is viewed when the line-of-sight direction is inclined at a predetermined angle with respect to the user's traveling direction in the three-dimensional space. When the image is displayed on the display means and the instruction means indicating the position in the image displayed on the display means indicates the object displayed on the image or a pointer corresponding to the object, The above-described problem is solved by displaying the object so as to continuously move while changing the viewpoint position of the user to the position where the object is in the center of the user's field of view.

また、本発明に係る情報提供装置及びその方法は、少なくとも画像データ及び当該画像データを3次元画像として表示させるための3次元座標データをリクエストに応じて記憶手段から読み出して画像表示装置に送信し、上記画像表示装置において、ユーザの進行方向に対して視線方向を所定の角度傾けて表示された3次元空間内の対象物又は対象物に対応するポインタが指示されたならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示手段を制御するために必要とされる画像データ及び当該画像データに対応する3次元座標データを上記記憶手段から読み出し、上記画像表示装置に送信することにより、上述した課題を解決する。   The information providing apparatus and method according to the present invention also read at least image data and three-dimensional coordinate data for displaying the image data as a three-dimensional image from a storage unit in response to a request, and transmit the data to the image display apparatus. In the above image display device, if an object in the three-dimensional space displayed with the line-of-sight direction tilted by a predetermined angle with respect to the user's traveling direction or a pointer corresponding to the object is designated, the object is displayed. The image data required for controlling the display means so as to continuously move while changing the user's viewpoint position to a position that becomes the center of the user's field of view and the three-dimensional coordinate data corresponding to the image data are stored in the memory. The above-described problems are solved by reading from the means and transmitting to the image display device.

本発明に係る画像表示装置及びその方法によれば、上記対象物に対して自動的に動作を行った画像を表示することができ、指示手段で連続した操作を行わずとも、1回の操作によって、3次元仮想現実世界の内部で自動的に動作を行うことができるので、3次元仮想現実世界の内部で姿勢保持等の細かい操作に煩わされることなく、容易に対象物に対する動作を行うことができる。よって、ユーザの肉体的な負担を減らし、また、マウス等の指示手段の操作に習熟する必要がなくなる。また、3次元空間の奥行き方向も容易に表現することができるので、奥行き方向への動きを制御するためのソフトウェアのデータ量を減らすことができ、ユーザは、画像内で3次元空間の奥行き方向への移動動作を容易に行うことができる。これにより、3次元仮想現実世界のためのユーザインターフェイスを使い易くすることができる。   According to the image display device and the method thereof according to the present invention, it is possible to display an image automatically operated on the object, and to perform one operation without performing a continuous operation with the instruction unit. Can automatically operate inside the 3D virtual reality world, so that it can easily operate on the object without being troubled by fine operations such as posture maintenance inside the 3D virtual reality world. Can do. Therefore, the physical burden on the user is reduced, and it is not necessary to become familiar with the operation of the pointing means such as a mouse. In addition, since the depth direction of the three-dimensional space can be easily expressed, the amount of software data for controlling the movement in the depth direction can be reduced, and the user can reduce the depth direction of the three-dimensional space in the image. Can be easily moved. Thereby, the user interface for the three-dimensional virtual reality world can be made easy to use.

また、本発明に係る情報提供装置及びその方法によれば、上記対象物に対して自動的に動作を行った画像を画像表示装置に表示させることができ、画像表示装置において連続した操作を行わずとも、1回の操作によって、3次元仮想現実世界の内部で自動的に動作を行うことができるので、3次元仮想現実世界の内部で姿勢保持等の細かい操作に煩わされることなく、容易に対象物に対する動作を行うことができる。よって、画像表示装置のユーザの肉体的な負担を減らし、また、マウス等の指示手段の操作に習熟する必要がなくなる。また、3次元空間の奥行き方向も容易に表現することができるので、奥行き方向への動きを制御するためのソフトウェアのデータ量を減らすことができ、画像表示装置のユーザは、画像内で3次元空間の奥行き方向への移動動作を容易に行うことができる。また、3次元仮想現実世界のためのユーザインターフェイスを使い易くすることができる。   In addition, according to the information providing apparatus and the method thereof according to the present invention, an image automatically operated on the object can be displayed on the image display apparatus, and a continuous operation is performed on the image display apparatus. At least one operation can be automatically performed inside the three-dimensional virtual reality world, so it is easy without being bothered by detailed operations such as posture maintenance inside the three-dimensional virtual reality world. An operation on the object can be performed. Therefore, the physical burden on the user of the image display device is reduced, and it is not necessary to become familiar with the operation of the pointing means such as a mouse. In addition, since the depth direction of the three-dimensional space can be easily expressed, the amount of software data for controlling the movement in the depth direction can be reduced, and the user of the image display apparatus can The moving operation in the depth direction of the space can be easily performed. In addition, the user interface for the three-dimensional virtual reality world can be made easy to use.

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。   Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings.

先ず、本発明の具体的内容を述べる前に、本発明の画像表示装置及び情報提供装置を含む全体的なシステムについて、図1及び図2を用いて説明する。   First, before describing the specific contents of the present invention, an overall system including the image display apparatus and the information providing apparatus of the present invention will be described with reference to FIGS.

図1において、クライアントコンピュータ2は、大規模なATM網3及び転送会話装置4、FDDI(Fiber Distribution Data Interface)インターフェイス5を介して、サービス供給側の例えばサービス管理サーバ13、ビデオサーバ12、サービスAP(アプリケーション)サーバ14に接続されている。尚、上記ATMとは非同期転送モードのことであり、当該ATMでは、データの種類によらず48バイト単位の固定長データに分け、この固定長データに5バイトのヘッダを付加して、53バイトのセルを作り、セル単位でスイッチングが実行される。このATM網3は、音声や動画、コンピュータデータを混在して転送できることを特徴とする。また、上記FDDIは、光ファイバを用いた100Mビット/秒のトークンパッシング方式の媒体アクセス方式である。   In FIG. 1, a client computer 2 includes, for example, a service management server 13, a video server 12, and a service AP on the service supply side via a large-scale ATM network 3, a transfer conversation device 4, and an FDDI (Fiber Distribution Data Interface) interface 5. (Application) Connected to the server 14. The ATM is an asynchronous transfer mode. In the ATM, the fixed-length data is divided into 48-byte units regardless of the type of data, and a 5-byte header is added to the fixed-length data to generate 53 bytes. Cell is created and switching is performed on a cell-by-cell basis. The ATM network 3 is characterized by being able to transfer voice, video, and computer data in a mixed manner. The FDDI is a 100 Mbit / sec token passing system medium access system using an optical fiber.

上記ビデオサーバ12は、サーバコンピュータ7及び例えばハードディスクや光ディスク等からなるデータ格納装置6からなり、当該データ格納装置6に例えば後述するMPEG等のフォーマットに加工されたディジタルビデオデータが格納されている。当該ビデオサーバ12のデータ格納装置6から、クライアントコンピュータ2からのリクエストに応じた上記ディジタルビデオデータが読み出されて、転送されることになる。   The video server 12 includes a server computer 7 and a data storage device 6 made of, for example, a hard disk or an optical disk, and the digital video data processed into a format such as MPEG described later is stored in the data storage device 6. The digital video data corresponding to the request from the client computer 2 is read from the data storage device 6 of the video server 12 and transferred.

上記サービスAPサーバ14も同じくサーバコンピュータ11及びデータ格納装置10からなり、データ格納装置10にアプリケーション(AP)プログラムデータとしての3次元の画像の基になるデータやスクリプトを格納している。当該サービスAPサーバ14のデータ格納装置10から、クライアントコンピュータ2からのリクエストに応じた上記アプリケーションプログラムデータが読み出されて、転送されることになる。   The service AP server 14 also includes a server computer 11 and a data storage device 10. The data storage device 10 stores data and scripts that are the basis of a three-dimensional image as application (AP) program data. The application program data corresponding to the request from the client computer 2 is read from the data storage device 10 of the service AP server 14 and transferred.

上記サービス管理サーバ13も同じくサーバコンピュータ9及びデータ格納装置8からなるが、このサービス管理サーバ13は、クライアントコンピュータ2との対応を行うと共に、各ビデオサーバ7やサービスAPサーバ11の管理を行う。   The service management server 13 also includes a server computer 9 and a data storage device 8. The service management server 13 manages the video server 7 and the service AP server 11 as well as the correspondence with the client computer 2.

尚、上記ビデオサーバ12やサービスAPサーバ14は、それぞれ複数設けることも可能であり、また、各サーバ12、13、14を1台のサーバにまとめることも可能である。   A plurality of video servers 12 and service AP servers 14 can be provided, and the servers 12, 13, and 14 can be combined into one server.

ATM網3を通って転送されたクライアントコンピュータ2からのリクエストは、転送会話装置4と呼ばれるプロトコル変換及びデータの自動振り分け、データ転送速度変換等を行う装置と、FDDIインターフェイス5とを介して、上記サーバ側に伝えられる。   The request from the client computer 2 transferred through the ATM network 3 is sent to the above-described device via the FDDI interface 5 and a device called a transfer conversation device 4 that performs protocol conversion, automatic data distribution, data transfer rate conversion, and the like. It is transmitted to the server side.

上記クライアントコンピュータ2からのリクエストに応じて、サーバ側から送出されたデータは、クライアントコンピュータ2によって表示用の処理がなされ、モニタ装置1のディスプレイ上に表示され、これによりグラフィック表示を用いたユーザインターフェイス(グラフィカル・ユーザ・インターフェイス:以下、GUIと呼ぶ)が構築される。従って、ユーザは、当該モニタ装置1のディスプレイ上の表示を見ながら操作を行ったり、サービスの提供を受けることが可能となる。   Data sent from the server side in response to a request from the client computer 2 is processed for display by the client computer 2 and displayed on the display of the monitor device 1, thereby a user interface using a graphic display. (Graphical user interface: hereinafter referred to as GUI) is constructed. Therefore, the user can perform an operation or receive a service while viewing the display on the display of the monitor device 1.

次に、上記図1に示したクライアントコンピュータ2の自体の構成は、例えば図2に示すようなものとなる。   Next, the configuration of the client computer 2 shown in FIG. 1 is as shown in FIG.

この図2において、EISAボード36は、当該クライアントコンピュータ2とATM網3とを接続するボードであり、当該ATM網3を介してEISAボード36に供給された信号は、処理部41により記録/再生が制御されるハードディスク43に一旦格納された後、データの種類に応じて読み出されて、それぞれ対応する3次元レンダリングエンジン34、MPEG2デコーダ35、PCオーディオデコーダ39、MPEG2オーディオデコーダ40等へ送られる。   In FIG. 2, an EISA board 36 is a board for connecting the client computer 2 and the ATM network 3, and a signal supplied to the EISA board 36 via the ATM network 3 is recorded / reproduced by the processing unit 41. Is temporarily stored in the controlled hard disk 43 and then read out according to the type of data and sent to the corresponding three-dimensional rendering engine 34, MPEG2 decoder 35, PC audio decoder 39, MPEG2 audio decoder 40, etc. .

上記3Dレンダリングエンジン34は、3次元の物体の3次元座標データをモニタ装置1のディスプレイ20上に表示するためのデータ(3次元による仮想現実空間の画像データ)に変換する座標変換器であり、アプリケーションに応じたGUIの構築を行うためのものである。   The 3D rendering engine 34 is a coordinate converter that converts 3D coordinate data of a 3D object into data (image data in a virtual reality space in 3D) for display on the display 20 of the monitor device 1. This is for constructing a GUI according to the application.

MPEG2デコーダ35は、MPEG2の規格により圧縮されているデータを伸長するデコーダである。尚、MPEG(Moving Picture Image Coding Experts Group :蓄積用動画像符号化の検討組織)2は、動画像の圧縮・伸長技術の国際標準規格である。   The MPEG2 decoder 35 is a decoder that decompresses data compressed according to the MPEG2 standard. Note that MPEG (Moving Picture Image Coding Experts Group: a study organization for storing moving image coding) 2 is an international standard for moving image compression / decompression technology.

RGBミキサ33は、上記3Dレンダリングエンジン34からのデータとMPEG2デコーダ35からのデータが、ともに光3原色のR(赤)、G(緑)、B(青)からなるデータであるため、これらR、G、Bをミックスしたデータを生成する。   In the RGB mixer 33, the data from the 3D rendering engine 34 and the data from the MPEG2 decoder 35 are data composed of R (red), G (green), and B (blue) of the three primary colors. , G, and B are generated.

NTSCエンコーダ32は、上記RGBミキサ33からのデータをNTSCのテレビジョン標準規格の信号に変換する。このNTSCエンコーダ32からの映像信号がモニタ装置1のディスプレイ20上に表示される。尚、この図2のディスプレイ20上には、ポインティングデバイスによるポインタ(カーソル)22と、MPEG2をデコードして得た画像23と、3Dレンダリングエンジン34によるGUIのための画像(例えば3次元または2次元の画像21)とが表示されている。上記MPEG2の画像とGUIのための画像は合成して表示することも可能である。   The NTSC encoder 32 converts the data from the RGB mixer 33 into an NTSC television standard signal. The video signal from the NTSC encoder 32 is displayed on the display 20 of the monitor device 1. 2, a pointer (cursor) 22 by a pointing device, an image 23 obtained by decoding MPEG2, and an image for GUI by a 3D rendering engine 34 (for example, three-dimensional or two-dimensional) The image 21) is displayed. The MPEG2 image and the GUI image can be combined and displayed.

一方、PCオーディオデコーダ39は、ADPCM音源を用いて例えば効果音を生成する。また、MPEG2オーディオデコーダ40は、MPEG2の圧縮されたオーディオデータを伸長する。これらPCオーディオデコーダ39からのデータ及びMPEG2オーディオデコーダ40からのデータは、オーディオミキサ38によりミックスされてオーディオ信号となされ、当該オーディオ信号がスピーカ30に送られる。尚、このスピーカ30からの音声の出力に関しては、ステレオ音声または多チャンネル音声が望ましい。最近ではステレオ音声でも、音の位相差などをコントロールして立体的に音像を定位できるシステムも登場してきているので、これらを利用することもできる。   On the other hand, the PC audio decoder 39 generates, for example, sound effects using an ADPCM sound source. The MPEG2 audio decoder 40 expands MPEG2 compressed audio data. The data from the PC audio decoder 39 and the data from the MPEG2 audio decoder 40 are mixed by the audio mixer 38 to be an audio signal, and the audio signal is sent to the speaker 30. As for the sound output from the speaker 30, stereo sound or multi-channel sound is desirable. Recently, even for stereophonic sound, a system that can control a sound image in a three-dimensional manner by controlling the phase difference of sound has appeared, and these can be used.

また、上記ディスプレイ20上でのGUIの操作は、ポインティングデバイスの一例としてのワイヤレスマウス31から送信されるポイント(指示)情報に基づいて行われる。上記ワイヤレスマウス31から送信された上記ポイント情報は、ワイヤレス用チューナ37にて受信され、当該受信されたポインタ情報が処理部41に送られる。尚、上記ポインティングデバイスは、上記ワイヤレスマウス31に限らず、通常のマウスやトラックボール、キーパッド、ジョイスティック、さらにディスプレイ20と座標位置が対応しているタッチパネル等の各種のものを使用することができる。   The GUI operation on the display 20 is performed based on point (instruction) information transmitted from a wireless mouse 31 as an example of a pointing device. The point information transmitted from the wireless mouse 31 is received by the wireless tuner 37, and the received pointer information is sent to the processing unit 41. The pointing device is not limited to the wireless mouse 31, and various devices such as a normal mouse, a trackball, a keypad, a joystick, and a touch panel whose coordinate position corresponds to the display 20 can be used. .

処理部41はCPU(中央処理装置)を備えて成り、プログラムROM及びワークRAMとしての機能を有するメモリ42内の上記プログラムROMに保持しているプログラムデータに基づき、バス(EISA BUS)を介して各構成要素を制御すると共に、上記ワイヤレスマウス31からの指示情報に基づいて、GUIへの制御を行い、また、必要に応じてサーバコンピュータとの交信を行う。尚、この図2には、上記3Dレンダリングエンジン34やMPEG2デコーダ35等はそれぞれ独立したチップとして設けられている例を示しているが、これらによる各種信号処理を上記処理部41がソフトウェア的に行うことも可能である。   The processing unit 41 includes a CPU (central processing unit), and is based on program data held in the program ROM in the memory 42 having a function as a program ROM and work RAM, via a bus (EISA BUS). While controlling each component, it controls to GUI based on the instruction information from the said wireless mouse 31, and communicates with a server computer as needed. 2 shows an example in which the 3D rendering engine 34, the MPEG2 decoder 35, and the like are provided as independent chips. The processing unit 41 performs various signal processing using these as software. It is also possible.

上述したような図1及び図2のシステムを使用した場合のユーザに対するオンラインによるサービス提供の具体的な動作を、以下に説明する。   The specific operation of providing the service online to the user when using the system of FIGS. 1 and 2 as described above will be described below.

先ず、ユーザは、クライアントコンピュータ2のポインティングデバイスを使って、クライアントコンピュータ2とサーバ側のコンピュータ(この場合はサービス管理サーバ13のコンピュータ9)とのネットワーク上での接続を指示する。   First, the user uses the pointing device of the client computer 2 to instruct the connection between the client computer 2 and the server-side computer (in this case, the computer 9 of the service management server 13) on the network.

サーバ側のサービス管理サーバ13のコンピュータ9は、上記ネットワーク上での接続がなされてクライアントコンピュータ2からリクエストが供給されると、当該リクエストに応じてビデオサーバ12やサービスAPサーバ14を制御することにより、上記クライアントコンピュータ2に対して以下のデータ及びソフトウェアを転送する。即ち、例えば、仮想現実世界の振る舞いを記述するスクリプト、仮想現実世界の3次元座標データ、仮想現実世界の音声データ、クライアントコンピュータ2からユーザに対して指示する選択肢などを記述するスクリプト、その他、処理に必要な各種のデータを転送する。   When the computer 9 of the server-side service management server 13 is connected on the network and supplied with a request from the client computer 2, the computer 9 controls the video server 12 and the service AP server 14 in response to the request. The following data and software are transferred to the client computer 2. That is, for example, a script that describes the behavior of the virtual reality world, three-dimensional coordinate data of the virtual reality world, audio data of the virtual reality world, a script that describes options to be instructed to the user from the client computer 2, and other processing Various data necessary for the transfer.

クライアントコンピュータ2は、モニタ装置1のディスプレイ20の画面や必要に応じてスピーカ等を使用して、上記サーバ側から受け取ったデータ及びソフトウェアを基にした仮想現実世界を、ユーザに対して提示する。   The client computer 2 presents the virtual reality world based on the data and software received from the server side to the user by using the screen of the display 20 of the monitor device 1 or a speaker as necessary.

ユーザは、クライアントコンピュータ2に提示された仮想現実世界を視聴しつつ、ポインティングデバイスを使って、移動方向などを指示して仮想現実世界内部を徘徊し、操作ボタンなどを操作して仮想現実世界内部の物体または施設に働きかけを行う。   While viewing the virtual reality world presented on the client computer 2, the user uses a pointing device to instruct the moving direction and the like to trick the inside of the virtual reality world, and operates the operation buttons and the like to inside the virtual reality world. Work on the object or facility.

クライアントコンピュータ2は、スクリプトに従い、ユーザの操作に対して、視点位置,視線方向,音声、及び仮想現実世界内部の物体の働きまたは振る舞いを以て反応し、ユーザが仮想現実世界内部に入り込んでいるかのように、モニタ装置1のディスプレイ20及びスピーカを使用して仮想現実世界をユーザに対して提示する。また、スクリプトの記述に応じて、ユーザに種々の情報の提供や発言や物品の注文などを行う。   The client computer 2 responds to the user's operation by the viewpoint position, the line-of-sight direction, the sound, and the action or behavior of the object inside the virtual reality world according to the script, as if the user has entered the virtual reality world. In addition, the virtual reality world is presented to the user using the display 20 and the speaker of the monitor device 1. Also, according to the description of the script, the user is provided with various information, remarks, orders for articles, and the like.

本発明に係る画像表示装置は、上述したクライアントコンピュータ2に備えられるものであり、3次元の画像を表示する表示手段であるモニタ装置1と、上記モニタ装置1に表示した画像内の位置を指示する指示手段であるワイヤレスマウス31と、3次元空間内の対象物を所定の角度をもって見たときの画像を上記モニタ装置1に表示するように制御し、上記ワイヤレスマウス31によって上記画像内に表示される上記対象物を指示したならば、上記対象物に応じた動作を自動的に行って停止するまでの画像を上記モニタ装置1に表示するように制御する制御手段である処理部41とを備えて成るものである。   An image display apparatus according to the present invention is provided in the client computer 2 described above, and indicates a monitor apparatus 1 that is a display means for displaying a three-dimensional image, and a position in the image displayed on the monitor apparatus 1. And controlling the wireless mouse 31 to display an image when the object in the three-dimensional space is viewed at a predetermined angle on the monitor device 1 and displaying it in the image by the wireless mouse 31. A processing unit 41 which is a control means for controlling to automatically display an image on the monitor device 1 until the operation is stopped by automatically performing an operation according to the object. It is prepared.

ユーザが、上述の画像表示装置によって表示される画像を用いて3次元仮想現実世界の内部を移動するために、3次元仮想現実世界の内部には立ち止まることができる複数の点が予め決められている。これらの複数の点は立位点という。ユーザは、ポインティングデバイスであるワイヤレスマウス31を操作して、3次元仮想現実世界を表示した画像内の所望の位置や物体を指示することにより、3次元仮想現実世界内部の1つの立位点に移動して停止する。ユーザは、複数の立位点を移動していくことにより、3次元仮想現実世界の内部を動き回ることになる。このようにして3次元仮想現実世界の内部を移動するときにユーザが見る画像が、上記表示画像装置に表示される。   In order for the user to move inside the three-dimensional virtual reality world using the image displayed by the image display device described above, a plurality of points that can stop inside the three-dimensional virtual reality world are determined in advance. Yes. These multiple points are called standing points. The user operates the wireless mouse 31 that is a pointing device to indicate a desired position or object in an image displaying the 3D virtual reality world, so that the user stands at one standing point inside the 3D virtual reality world. Move and stop. The user moves around in the three-dimensional virtual reality world by moving a plurality of standing points. In this way, an image viewed by the user when moving inside the three-dimensional virtual reality world is displayed on the display image device.

ここで、図3を用いて立位点を具体的に説明する。   Here, the standing point will be specifically described with reference to FIG.

図3のAは、3次元仮想現実世界における店内の商品棚51、52を斜め横から見たときの3次元画像を示し、図3のBは、商品棚51、52を上部から見たときの2次元画像を示すものである。図3のA、Bには、店内の商品棚51、52に対して移動することができる複数の黒丸で示す立位点61、62、63、64、65が示されており、各立位点61、62、63、64、65におけるユーザの視線方向は実線の矢印で示すものである。   3A shows a three-dimensional image when the product shelves 51 and 52 in the store in the three-dimensional virtual reality world are viewed obliquely, and FIG. 3B shows when the product shelves 51 and 52 are viewed from above. The two-dimensional image is shown. 3A and 3B, standing points 61, 62, 63, 64, and 65 indicated by a plurality of black circles that can move with respect to the product shelves 51 and 52 in the store are shown. The user's line-of-sight direction at points 61, 62, 63, 64, and 65 is indicated by solid arrows.

尚、ある立位点から他の立位点に移動するときには、後述するように、立位点の動作情報として、次に移動することが可能な立位点が決められている。即ち、ユーザは、上記ある立位点に設定された動作情報に基づいて、次に移動することが可能な立位点にしか移動することができず、その他の点、即ち3次元仮想現実世界の内部の立位点が設けられていない場所には移動することができない。具体的には、図3の3次元仮想現実世界において、ユーザが立位点62にいるときには、立位点61又は立位点63にしか移動することができない。また、立位点64にいるときには、立位点63又は立位点65にしか移動することができない。   When moving from one standing point to another standing point, as will be described later, a standing point that can be moved next is determined as operation information of the standing point. That is, the user can move only to a standing point that can be moved next based on the operation information set to the certain standing point, and the other point, that is, the three-dimensional virtual reality world. It is impossible to move to a place where no standing point is provided. Specifically, in the three-dimensional virtual reality world of FIG. 3, when the user is at the standing point 62, the user can move only to the standing point 61 or the standing point 63. Further, when at the standing point 64, it can move only to the standing point 63 or the standing point 65.

また、立位点と立位点との間には、通過すべき点、即ち通過点が予め決められている場合がある。この通過点とは、2つの立位点の間の移動時に、通過すべき位置やそのときの視線方向等を示す点であり、ワイヤレスマウス31の操作によって指示しても停止することができず、短時間で通過する点である。例えば、図3のBにおいては、立位点64と立位点65との間に、2つの白丸で示す通過点71、72が設定されている。ユーザは、3次元仮想現実世界の店内で、立位点64から立位点65への移動、又は、立位点65から立位点64への移動を行う場合に、必ず通過点71、72を通って行くことになる。これらの通過点71、72にも、立位点と同様に複数の情報が設定されており、通過点71、72におけるユーザの視線方向は実線の矢印で示すものである。   In addition, there is a case where a point to be passed, that is, a passing point is predetermined between the standing point and the standing point. This passing point is a point that indicates the position to pass and the line-of-sight direction at the time of movement between the two standing points, and cannot be stopped even if instructed by operating the wireless mouse 31. It is a point that passes in a short time. For example, in B of FIG. 3, passing points 71 and 72 indicated by two white circles are set between the standing point 64 and the standing point 65. When the user moves from the standing point 64 to the standing point 65 or moves from the standing point 65 to the standing point 64 in the store in the three-dimensional virtual reality world, the passing points 71 and 72 are surely required. Will go through. A plurality of pieces of information are set for these passing points 71 and 72 as well as the standing point, and the user's line-of-sight direction at the passing points 71 and 72 is indicated by a solid arrow.

立位点及び通過点に設定されている情報としては、位置情報、視線情報、速度情報、及び動作情報がある。位置情報とは、3次元座標系における位置の値である。また、視線情報には、視線方向、視線のロール角、及び視野角が含まれ、速度情報には、移動速度の最大値、視線方向回転角速度の最大値、視線ロール角回転角速度の最大値、及び視野角増加速度の最大値が含まれ、動作情報には、次行う動作状態が含まれる。   Information set for the standing point and the passing point includes position information, line-of-sight information, speed information, and motion information. The position information is a position value in the three-dimensional coordinate system. The line-of-sight information includes the line-of-sight direction, the roll angle of the line of sight, and the viewing angle, and the speed information includes the maximum value of the moving speed, the maximum value of the line-of-sight direction rotation angular speed, the maximum value of the line-of-sight roll angle rotation angular speed, And the maximum value of the viewing angle increase speed, and the operation information includes the operation state to be performed next.

尚、上記ロール角とは、例えば飛行機等が3次元空間で旋回するときの回転角度に相当するものである。また、上記動作情報は、スクリプトで記述されており、具体的には、ある立位点で停止しているときにユーザが見る画像、即ちディスプレイ20に表示された画像内で、ユーザがワイヤレスマウス31を操作してポインタを移動させ、位置や物体(オブジェクト)を指示してボタンをクリックすることによって生じる次の動作であり、3次元仮想現実世界の内部で次の立位点に移動したり、ドアを開けて店内に入ったり等の動作を行うための情報である。   The roll angle corresponds to a rotation angle when an airplane or the like turns in a three-dimensional space, for example. The operation information is described in a script. Specifically, the user sees the wireless mouse in an image that the user sees when stopped at a certain standing point, that is, an image displayed on the display 20. This is the next operation that occurs when the pointer is moved by operating 31 and the position or object (object) is indicated and the button is clicked, and it moves to the next standing point within the 3D virtual reality world. This is information for opening the door and entering the store.

尚、同一の情報を持つ複数の立位点又は通過点が存在することが考えられるので、各情報において予め設定された値(デフォルト値)を用意しておいたり、ある立位点又は通過点の情報と次に移動する立位点又は通過点の情報とが同一である場合には、ある立位点又は通過点の情報を継承して次に移動する立位点又は通過点の情報として用いたりすることが考えられる。   Since there may be multiple standing points or passing points having the same information, a preset value (default value) is prepared for each information, or a certain standing point or passing point is prepared. If the information on the standing point or passing point that moves next is the same, the information on the standing point or passing point that inherits the information on a certain standing point or passing point and It may be used.

尚、立位点及び通過点以外の3次元仮想現実内部の点は、補間によって求めるものである。   Note that points inside the three-dimensional virtual reality other than the standing point and the passing point are obtained by interpolation.

また、ある立位点又は通過点から次の立位点又は通過点への移動時には、ある立位点又は通過点に設定されている速度情報を用いており、位置の移動については、移動速度の最大値を越えない一定速度で直線的に移動し、視線方向については、回転角速度の最大値を越えない一定速度で回転し、視線のロール角については、視線ロール角回転角速度の最大値を越えない一定速度で回転し、視野角については、視野角増加速度の最大値を越えない一定速度で増加するものである。   When moving from one standing point or passing point to the next standing point or passing point, the speed information set for a certain standing point or passing point is used. It moves linearly at a constant speed that does not exceed the maximum value, and rotates at a constant speed that does not exceed the maximum value of the rotational angular velocity for the line-of-sight direction. It rotates at a constant speed not exceeding, and the viewing angle increases at a constant speed not exceeding the maximum value of the viewing angle increase speed.

これにより、ある立位点又は通過点から次の立位点又は通過点への移動動作を、なめらかにすることができる。即ち、ディスプレイ20に表示される画像は、ユーザが実世界で実際に移動動作を行うときに見る画像に近い画像となる。   Thereby, the movement operation from a certain standing point or passing point to the next standing point or passing point can be made smooth. That is, the image displayed on the display 20 is an image close to an image seen when the user actually performs a moving operation in the real world.

次に、3次元仮想現実世界でのユーザの動作及び視点について説明する。   Next, a user's operation and viewpoint in the three-dimensional virtual reality world will be described.

先ず、図4を用いて、ユーザの視点(ビューポイント)を説明する。   First, a user's viewpoint (viewpoint) is demonstrated using FIG.

従来は、ユーザは両側の店の間を直線で進行するときに、ユーザの視線方向は進行方向と同一方向となっている。これに対して、本発明では、ユーザの進行方向に対して視線方向が所定の角度をもつようにする。図4のユーザ105は矢印Aの示す方向に進行するが、このとき、ユーザ105の視線方向を進行方向と同一方向とせずに、店の列に角度θだけ傾けて設定しておく。この角度θは、30〜60度程度である。図4に示す例では、ユーザ105の視線は、店301、302、303、304の列に30〜60度傾いており、このユーザ105は視界Wで示す範囲となる。   Conventionally, when a user travels in a straight line between stores on both sides, the user's line-of-sight direction is the same as the traveling direction. In contrast, in the present invention, the line-of-sight direction has a predetermined angle with respect to the traveling direction of the user. The user 105 in FIG. 4 proceeds in the direction indicated by the arrow A. At this time, the line of sight of the user 105 is not set in the same direction as the traveling direction, and is set to be inclined to the store row by an angle θ. This angle θ is about 30 to 60 degrees. In the example shown in FIG. 4, the line of sight of the user 105 is inclined 30 to 60 degrees in the rows of stores 301, 302, 303, and 304, and this user 105 is in the range indicated by the field of view W.

この店301、302、303の列とユーザの動作及び視線とについて、図5に、上部から見た2次元画像を示す。ユーザは、最初に、図5の立位点105に停止しているとする。尚、ユーザの視点は実線の矢印で示し、ユーザの移動動作は点線の矢印で示すものとする。 FIG. 5 shows a two-dimensional image as viewed from above, with respect to the columns of the stores 301, 302, and 303 and the user's actions and line of sight. User, the first, is stopped at the standing position point 105 1 in FIG. The user's viewpoint is indicated by a solid arrow, and the user's movement is indicated by a dotted arrow.

この立位点105でユーザが見る画像は、ディスプレイ20に表示されており、図6に示す画像である。ユーザには、店301、302、303が見えている。 The standing point 105 1 in the user sees the image is displayed on the display 20 is an image shown in FIG. The user can see the stores 301, 302, and 303.

ここで、ユーザは、前方向の矢印のポインタ201、左方向の矢印のポインタ202又は店301、右方向の矢印のポインタ203又は店303のいずれかの位置にワイヤレスマウス31のポインタを移動させてボタンをクリックすることにより、次の動作を行うことができる。   Here, the user moves the pointer of the wireless mouse 31 to any one of the forward arrow pointer 201, the left arrow pointer 202 or the store 301, the right arrow pointer 203 or the store 303. The following operations can be performed by clicking the button.

ここで、ポインタは、ディスプレイ20に表示された画像内で存在する位置によって形状(図柄)が変化して、その位置でどのような動作をするべきかを示す。即ち、ポインタの形状によって、ポインタの存在する位置での動作について、ナビゲーションを行うようになっている。ディスプレイ20内のある位置でワイヤレスマウス31のボタンをクリックすることにより、その位置のポインタの形状が示す動作状態に移行する。画像内でワイヤレスマウス31のボタンをクリックすることができる領域は予め設定されており、その領域内にポインタを移動させて、ワイヤレスマウス31のボタンをクリックすることにより、次の動作のための制御命令が処理部41に送られ、処理部41の制御によって次の動作が行われ、この動作によってユーザが見る画像がディスプレイ20に表示される。尚、上記クリックによって動作を行うことができる予め設定された領域以外の領域にポインタを移動させてクリックを行っても、処理部41の制御によって次の動作に移行することはできない。   Here, the pointer indicates what operation should be performed at the position where the shape (symbol) changes depending on the position in the image displayed on the display 20. That is, the navigation is performed for the operation at the position where the pointer exists depending on the shape of the pointer. When the button of the wireless mouse 31 is clicked at a certain position in the display 20, the operation state indicated by the shape of the pointer at that position is shifted. An area where the button of the wireless mouse 31 can be clicked in the image is set in advance. By moving the pointer into the area and clicking the button of the wireless mouse 31, control for the next operation is performed. A command is sent to the processing unit 41, and the next operation is performed under the control of the processing unit 41, and an image viewed by the user is displayed on the display 20 by this operation. Even if the pointer is moved to an area other than the preset area where the operation can be performed by clicking, the click cannot be performed by the control of the processing unit 41.

前方向の矢印のポインタ201の位置でボタンをクリックすると、図5の立位点105に移動する。即ち、店302が視界の中央となる、店302の直前の位置まで自動的に移動動作を行う。また、左方向の矢印のポインタ202又は店301の位置でボタンをクリックすると、店301が視界の中央となる店301の直前の位置まで自動的に移動動作を行い、右方向の矢印のポインタ203又は店303の位置でボタンをクリックすると、店303が視界の中央となる店303の直前の位置まで自動的に移動動作を行う。 Clicking the button at the position of the pointer 201 in the front direction of the arrow, moves to the standing point 105 2 of FIG. That is, the moving operation is automatically performed to the position immediately before the store 302 where the store 302 is in the center of the field of view. When the button is clicked at the position of the left arrow pointer 202 or the store 301, the store 301 automatically moves to the position immediately before the store 301 at the center of the view, and the right arrow pointer 203 is moved. Alternatively, when the button is clicked at the position of the store 303, the store 303 automatically moves to a position immediately before the store 303 at the center of the field of view.

立位点105でユーザが見る画像を図7に示す。この図7の画像は、図12に示した画像と同じである。このように、1回の移動動作で、図9の立位点309と同じ位置である、図5の立位点105に自動的に移動することができる。 An image that the user sees in a standing point 105 2 shown in FIG. The image in FIG. 7 is the same as the image shown in FIG. Thus, in one movement, is the same position as the standing point 309 3 of FIG. 9, it is possible to automatically move to the standing position point 105 2 of FIG.

図7の画像においては、店302のドアを開くことを示すポインタ204、左方向の矢印のポインタ205、右方向の矢印のポインタ206、及び元の立位点105の位置に戻る(ズームバック)ことを示すポインタ207のいずれかの位置にポインタを移動させて、ワイヤレスマウス31のボタンをクリックすることができる。ポインタ204の位置でボタンのクリックを行うことにより、店302のサービス内容にアクセスすることができる。尚、ポインタ204の位置にポインタを移動させた時点で、店302のサービスの内容説明(プレビュ)を文字や映像で自動的に行うようにしてもよい。また、ポインタ207の位置でボタンのクリックを行って、立位点105にズームバックしたときには、視線方向等も元の状態に戻るので、ユーザが見る画像は図6の画像となる。 In the image of FIG. 7, a pointer 204 indicating the opening of a door of the store 302, the pointer 205 in the left direction of the arrow, the pointer 206 in the right direction of the arrow, and returns to the original standing point 105 1 position (zoom back The pointer can be moved to any position of the pointer 207 indicating that the button of the wireless mouse 31 is clicked. By clicking the button at the position of the pointer 204, the service contents of the store 302 can be accessed. It should be noted that when the pointer is moved to the position of the pointer 204, the service content explanation (preview) of the store 302 may be automatically performed with characters and video. Further, by performing a click of a button at the position of the pointer 207, when the zoom back to standing point 105 1, since return to the original state even viewing direction, etc., the user sees the image is an image of FIG.

この実施例に示すように、ユーザが移動し易い位置情報、視線情報、速度情報、及び動作情報を設定した立位点又は通過点を決めておくことにより、3次元仮想現実世界内部でのユーザの移動動作は容易になり、さらに、3次元仮想現実世界内部でのユーザの動作を限定して自動的に動作させることにより、例えば3次元仮想現実世界内のインターフェイスは使い易いものとなる。   As shown in this embodiment, the user in the three-dimensional virtual reality world is determined by determining a standing point or passing point in which position information, line-of-sight information, speed information, and motion information that the user can easily move are set. In addition, the interface in the 3D virtual reality world is easy to use, for example, by automatically operating the movement within the 3D virtual reality world while limiting the user's movement.

また、対象物(オブジェクト)を、ユーザの視線方向に対して斜めに配置して表示することにより、奥行き方向も容易に表現することができる。このときのワイヤレスマウスでの操作は、単に画面の適当な位置にポインタを移動させてボタンをクリックするだけであり、雑誌のページをめくるような感覚で、3次元仮想現実世界を移動して、情報サービスの提供を受けることができる。   Moreover, the depth direction can also be easily expressed by arranging and displaying the object (object) obliquely with respect to the user's line-of-sight direction. The operation with the wireless mouse at this time is simply moving the pointer to an appropriate position on the screen and clicking the button, moving the 3D virtual reality world as if turning the pages of a magazine, Information services can be provided.

このような表示方法は、複数の店の前を通るウィンドウショッピングを行ったりする場合に用いるだけでなく、例えば、ニュースサービスを立体的に行うときなどにも非常に有効である。具体的には、例えば図8に示すように、ニュースの内容を表示したテレビモニタ501、502、503、504を斜めに配置して表示する。この場合には、ニュースの内容等はテレビモニタに表示された映像でほぼ理解することができるので、より感覚的な操作を実現することができる。   Such a display method is very effective not only when performing window shopping in front of a plurality of stores, but also when, for example, performing a news service in three dimensions. Specifically, for example, as shown in FIG. 8, television monitors 501, 502, 503, and 504 displaying the contents of news are displayed obliquely. In this case, the contents of news and the like can be almost understood from the video displayed on the television monitor, so that a more sensory operation can be realized.

以上説明したような本発明の実施の形態によれば、3次元空間内の対象物を所定の角度をもって見たときの画像内の上記対象物を指示手段で指示したならば、上記対象物に応じた動作を自動的に行って停止するまでの画像を上記表示手段に表示することにより、上記対象物に対して自動的に動作を行った画像を表示することができる。   According to the embodiment of the present invention as described above, if the object in the image when the object in the three-dimensional space is viewed at a predetermined angle is indicated by the instruction means, By displaying on the display means the image until the corresponding operation is automatically performed and stopped, the image automatically operated on the object can be displayed.

すなわち、本発明の実施の形態における画像表示装置は、3次元の画像を表示する表示手段と、上記表示手段に表示した画像内の位置を指示する指示手段と、3次元空間内の対象物を所定の角度をもって見たときの画像を上記表示手段に表示するように制御し、上記指示手段によって上記画像内に表示される上記対象物を指示したならば、上記対象物に応じた動作を自動的に行って停止するまでの画像を上記表示手段に表示するように制御する制御手段とを備えて成ることにより、指示手段で連続した操作を行わずとも、1回の操作によって、3次元仮想現実世界の内部で自動的に動作を行うことができるので、3次元仮想現実世界の内部で姿勢保持等の細かい操作に煩わされることなく、容易に対象物に対する動作を行うことができる。よって、ユーザの肉体的な負担を減らし、また、マウス等の指示手段の操作に習熟する必要がなくなる。また、3次元空間の奥行き方向も容易に表現することができるので、奥行き方向への動きを制御するためのソフトウェアのデータ量を減らすことができ、ユーザは、画像内で3次元空間の奥行き方向への移動動作を容易に行うことができる。これにより、3次元仮想現実世界のためのユーザインターフェイスを使い易くすることができる。   That is, the image display apparatus according to the embodiment of the present invention includes a display unit that displays a three-dimensional image, an instruction unit that indicates a position in the image displayed on the display unit, and an object in the three-dimensional space. When control is performed so that an image viewed at a predetermined angle is displayed on the display means, and the object displayed in the image is indicated by the instruction means, an operation corresponding to the object is automatically performed. Control means for controlling the display means to display an image until it is stopped on the display means, so that a three-dimensional virtual operation can be performed by one operation without performing a continuous operation by the instruction means. Since the operation can be automatically performed in the real world, the operation on the object can be easily performed without being troubled by a fine operation such as posture maintenance in the three-dimensional virtual real world. Therefore, the physical burden on the user is reduced, and it is not necessary to become familiar with the operation of the pointing means such as a mouse. In addition, since the depth direction of the three-dimensional space can be easily expressed, the amount of software data for controlling the movement in the depth direction can be reduced, and the user can reduce the depth direction of the three-dimensional space in the image. Can be easily moved. Thereby, the user interface for the three-dimensional virtual reality world can be made easy to use.

また、本発明の実施の形態における画像表示方法は、表示手段に3次元の画像を表示し、3次元空間内の対象物を所定の角度をもって見たときの画像を上記表示手段に表示し、上記表示手段に表示した画像内の位置を指示する指示手段によって、上記画像内に表示される上記対象物を指示したならば、上記対象物に応じた動作を自動的に行って停止するまでの画像を上記表示手段に表示することにより、指示手段で連続した操作を行わずとも、1回の操作によって、3次元仮想現実世界の内部で自動的に動作を行うことができるので、3次元仮想現実世界の内部で姿勢保持等の細かい操作に煩わされることなく、容易に対象物に対する動作を行うことができる。よって、ユーザの肉体的な負担を減らし、また、マウス等の指示手段の操作に習熟する必要がなくなる。また、3次元空間の奥行き方向も容易に表現することができるので、奥行き方向への動きを制御するためのソフトウェアのデータ量を減らすことができ、ユーザは、画像内で3次元空間の奥行き方向への移動動作を容易に行うことができる。これにより、3次元仮想現実世界のためのユーザインターフェイスを使い易くすることができる。   The image display method in the embodiment of the present invention displays a three-dimensional image on the display means, displays an image when the object in the three-dimensional space is viewed at a predetermined angle on the display means, If the instruction means for indicating the position in the image displayed on the display means indicates the object to be displayed in the image, the operation corresponding to the object is automatically performed until the object is stopped. By displaying the image on the display means, it is possible to automatically perform the operation inside the three-dimensional virtual real world by one operation without performing the continuous operation by the instruction means. It is possible to easily perform an operation on an object without being bothered by detailed operations such as posture maintenance in the real world. Therefore, the physical burden on the user is reduced, and it is not necessary to become familiar with the operation of the pointing means such as a mouse. In addition, since the depth direction of the three-dimensional space can be easily expressed, the amount of software data for controlling the movement in the depth direction can be reduced, and the user can reduce the depth direction of the three-dimensional space in the image. Can be easily moved. Thereby, the user interface for the three-dimensional virtual reality world can be made easy to use.

本発明の実施の形態においては、3次元空間内の対象物を所定の角度をもって見たときの画像内の上記対象物を指示手段で指示したならば、上記対象物に応じた動作を自動的に行って停止するまでの画像を上記表示手段に表示することにより、上記対象物に対して自動的に動作を行った画像を表示することができる。   In the embodiment of the present invention, when the object in the image when the object in the three-dimensional space is viewed at a predetermined angle is indicated by the instruction means, the operation corresponding to the object is automatically performed. By displaying on the display means the image until the operation is stopped, the image automatically operated on the object can be displayed.

本発明に係る画像表示装置を備えるクライアントコンピュータと本発明に係る情報提供装置であるサーバとを含むシステムの概略的な構成図である。1 is a schematic configuration diagram of a system including a client computer including an image display device according to the present invention and a server which is an information providing device according to the present invention. 本発明に係る画像表示装置を備えるクライアントコンピュータの概略的な構成図である。It is a schematic block diagram of a client computer provided with the image display apparatus which concerns on this invention. 立位点及び通過点を説明するための図である。It is a figure for demonstrating a standing point and a passing point. ユーザの視点を説明するための図である。It is a figure for demonstrating a user's viewpoint. 3次元仮想現実世界でのユーザの動作及び視点を説明するための図である。It is a figure for demonstrating a user's operation | movement and viewpoint in a three-dimensional virtual reality world. ユーザが見る画像を示す図である。It is a figure which shows the image which a user sees. ユーザが見る画像を示す図である。It is a figure which shows the image which a user sees. ニュースサービスを行うときの概略的な画像を示す図である。It is a figure which shows the schematic image when performing a news service. 3次元仮想現実世界での従来のユーザの動作及び視点を説明するための図である。It is a figure for demonstrating the operation | movement and viewpoint of the conventional user in a three-dimensional virtual reality world. ユーザが見る画像を示す図である。It is a figure which shows the image which a user sees. ユーザが見る画像を示す図である。It is a figure which shows the image which a user sees. ユーザが見る画像を示す図である。It is a figure which shows the image which a user sees.

符号の説明Explanation of symbols

1 モニタ装置、 2 クライアントコンピュータ、 3 ATM網、 4 転送会話装置、 5 FDDI、 6,8,10 データ格納装置、 7,9,11 サーバコンピュータ、 12 ビデオサーバ、 13 サービス管理サーバ、 14 サービスAPサーバ、 20 ディスプレイ、 21,23 画像、 22 ポインタ、 30 スピーカ、 31 ワイヤレスマウス、 32 NTSCエンコーダ、 33 RGBミキサ、 34 3Dレンダリングエンジン、 35 MPEG2デコーダ、 36 EISAボード、 37 ワイヤレスマウス用チューナ、 38 オーディオミキサ、 39 PC AUDIO、 40 MPEG2オーディオデコーダ、 41 処理部、 42 メモリ、 43 ハードディスク、 51,52 商品棚、 61,62,63,64,65 立位点、 71,72 通過点、 301,302,303,304 店、 105,105 立位点、 201,202,203,204,205,206,207 ポインタ、 501,502,503,504 テレビモニタ DESCRIPTION OF SYMBOLS 1 Monitor apparatus, 2 Client computer, 3 ATM network, 4 Transfer conversation apparatus, 5 FDDI, 6, 8, 10 Data storage apparatus, 7, 9, 11 Server computer, 12 Video server, 13 Service management server, 14 Service AP server 20 display, 21 and 23 images, 22 pointers, 30 speakers, 31 wireless mouse, 32 NTSC encoder, 33 RGB mixer, 34 3D rendering engine, 35 MPEG2 decoder, 36 EISA board, 37 tuner for wireless mouse, 38 audio mixer, 39 PC AUDIO, 40 MPEG2 audio decoder, 41 processing unit, 42 memory, 43 hard disk, 51, 52 product shelf, 61, 62, 63, 64, 65 standing point, 71, 72 Point, 301, 302, 303, 304 shops, 105 1, 105 2 standing point, 201,202,203,204,205,206,207 pointer, 501, 502, 503 and 504 television monitor

Claims (8)

3次元の画像を表示する表示手段と、
上記表示手段に表示した画像内の位置を指示する指示手段と、
3次元空間内のユーザの進行方向に対して視線方向を所定の角度傾けて対象物を見たときの画像を上記表示手段に表示するように制御し、上記指示手段により上記画像内に表示される上記対象物又は対象物に対応するポインタを指示したならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示手段を制御する制御手段と
を備えて成ることを特徴とする画像表示装置。
Display means for displaying a three-dimensional image;
Instruction means for indicating the position in the image displayed on the display means;
The display unit is controlled to display an image when the object is viewed with the line-of-sight direction tilted by a predetermined angle with respect to the traveling direction of the user in the three-dimensional space, and is displayed in the image by the instruction unit. If the pointer corresponding to the object or the object corresponding to the object is designated, the display unit is controlled so as to continuously move while changing the viewpoint position of the user to a position where the object is in the center of the user's field of view. And an image display device.
上記制御手段は、上記指示手段が所定の位置に移動すると、提供するサービスの内容の説明を自動的に表示するように制御することを特徴とする請求項1記載の画像表示装置。   2. The image display apparatus according to claim 1, wherein the control means controls to automatically display an explanation of the contents of the service to be provided when the instruction means moves to a predetermined position. 表示手段に3次元の画像を表示し、
3次元空間内のユーザの進行方向に対して視線方向を所定の角度傾けて対象物を見たときの画像を上記表示手段に表示し、
上記表示手段に表示した画像内の位置を指示する指示手段によって、上記画像内に表示される上記対象物又は対象物に対応するポインタを指示したならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示させることを特徴とする画像表示方法。
Display a three-dimensional image on the display means;
Displaying an image on the display means when the object is viewed by tilting the line-of-sight direction by a predetermined angle with respect to the traveling direction of the user in the three-dimensional space;
If the instruction means for indicating the position in the image displayed on the display means indicates the object displayed in the image or a pointer corresponding to the object, the object is positioned at the center of the user's field of view. An image display method comprising: displaying a user's viewpoint position so as to continuously move to a certain position.
上記指示手段が所定の位置に移動すると、提供するサービスの内容の説明を自動的に表示することを特徴とする請求項3記載の画像表示方法。   4. The image display method according to claim 3, wherein when the instructing means moves to a predetermined position, an explanation of the contents of the provided service is automatically displayed. 少なくとも画像データ及び当該画像データを3次元画像として表示させるための3次元座標データが格納された記憶手段と、
上記画像データ及び上記3次元座標データをリクエストに応じて画像表示装置に送信するように制御する制御手段とを備えて成り、
上記制御手段は、上記画像表示装置において、ユーザの進行方向に対して視線方向を所定の角度傾けて表示された3次元空間内の対象物又は対象物に対応するポインタが指示されたならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示手段を制御するために必要とされる画像データ及び当該画像データに対応する3次元座標データを上記画像表示装置に送信するように制御することを特徴とする情報提供装置。
Storage means storing at least image data and three-dimensional coordinate data for displaying the image data as a three-dimensional image;
Control means for controlling the image data and the three-dimensional coordinate data to be transmitted to the image display device in response to a request;
The control means, in the image display device, if an object in a three-dimensional space displayed with the line-of-sight direction tilted by a predetermined angle with respect to the user's traveling direction or a pointer corresponding to the object is indicated, Image data required to control the display means so that the object moves continuously while changing the viewpoint position of the user to a position where the object is in the center of the user's field of view, and three-dimensional coordinates corresponding to the image data An information providing apparatus that controls to transmit data to the image display apparatus.
上記制御手段は、自動的に上記対象物に相対する位置に移動して停止するまでの画像を表示するために必要とされる画像データ及び当該画像データに対応する3次元座標データを上記画像表示装置に送信するように制御することを特徴とする請求項5記載の情報提供装置。   The control means automatically displays the image data necessary for displaying an image until it moves to a position opposite to the object and stops, and three-dimensional coordinate data corresponding to the image data. 6. The information providing apparatus according to claim 5, wherein the information providing apparatus is controlled so as to be transmitted to the apparatus. 少なくとも画像データ及び当該画像データを3次元画像として表示させるための3次元座標データをリクエストに応じて記憶手段から読み出して画像表示装置に送信し、
上記画像表示装置において、ユーザの進行方向に対して視線方向を所定の角度傾けて表示された3次元空間内の対象物又は対象物に対応するポインタが指示されたならば、当該対象物がユーザの視界の中央となる位置までユーザの視点位置を変化させながら連続的に移動するよう表示手段を制御するために必要とされる画像データ及び当該画像データに対応する3次元座標データを上記記憶手段から読み出し、上記画像表示装置に送信することを特徴とする情報提供方法。
At least the image data and the three-dimensional coordinate data for displaying the image data as a three-dimensional image are read from the storage unit in response to the request and transmitted to the image display device.
In the image display device, if an object in the three-dimensional space displayed with the line-of-sight direction tilted by a predetermined angle with respect to the user's traveling direction or a pointer corresponding to the object is designated, the object is Image data required for controlling the display means so as to continuously move while changing the viewpoint position of the user to a position that becomes the center of the field of view, and the three-dimensional coordinate data corresponding to the image data. And providing the information to the image display device.
自動的に上記対象物に相対する位置に移動して停止するまでの画像を表示するために必要とされる画像データ及び当該画像データに対応する3次元座標データを上記画像表示装置に送信することを特徴とする請求項7記載の情報提供方法。   Automatically transmitting to the image display device the image data required to display the image until it moves to a position opposite to the object and stops, and the three-dimensional coordinate data corresponding to the image data. The information providing method according to claim 7.
JP2005320814A 2005-11-04 2005-11-04 Image display apparatus and method, and information providing apparatus and method Pending JP2006065888A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005320814A JP2006065888A (en) 2005-11-04 2005-11-04 Image display apparatus and method, and information providing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005320814A JP2006065888A (en) 2005-11-04 2005-11-04 Image display apparatus and method, and information providing apparatus and method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP15076995A Division JP3755164B2 (en) 1995-06-16 1995-06-16 Image display apparatus and method, and information providing apparatus and method

Publications (1)

Publication Number Publication Date
JP2006065888A true JP2006065888A (en) 2006-03-09

Family

ID=36112265

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005320814A Pending JP2006065888A (en) 2005-11-04 2005-11-04 Image display apparatus and method, and information providing apparatus and method

Country Status (1)

Country Link
JP (1) JP2006065888A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009069278A1 (en) * 2007-11-30 2009-06-04 Kabushiki Kaisha Square Enix (Also Trading As Square Enix Co. Ltd.) Image generation device, image generation program, image generation program recording medium, and image generation method
CN105979239A (en) * 2016-04-28 2016-09-28 乐视控股(北京)有限公司 Virtual reality terminal, display method of video of virtual reality terminal and device

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009069278A1 (en) * 2007-11-30 2009-06-04 Kabushiki Kaisha Square Enix (Also Trading As Square Enix Co. Ltd.) Image generation device, image generation program, image generation program recording medium, and image generation method
JP2009131436A (en) * 2007-11-30 2009-06-18 Square Enix Co Ltd Image generation apparatus, image generation program, image generation program recording medium, and image generation method
US8194073B2 (en) 2007-11-30 2012-06-05 Square Enix Co., Ltd. Image generation apparatus, image generation program, medium that records the program, and image generation method
CN105979239A (en) * 2016-04-28 2016-09-28 乐视控股(北京)有限公司 Virtual reality terminal, display method of video of virtual reality terminal and device

Similar Documents

Publication Publication Date Title
JP7498209B2 (en) Information processing device, information processing method, and computer program
US12041218B2 (en) Three-dimensional content distribution system, three-dimensional content distribution method and computer program
US6753857B1 (en) Method and system for 3-D shared virtual environment display communication virtual conference and programs therefor
JP3735890B2 (en) Online terminal device and image display method
US10092838B2 (en) Electronic apparatus for controlling a multi-field-of-view display apparatus, electronic system and control method
JP2020091504A (en) Avatar display system in virtual space, avatar display method in virtual space, computer program
CN110737435A (en) Multimedia editing method and device in game, terminal equipment and storage medium
AU2002305105B2 (en) Remote collaboration technology design and methodology
KR20210095160A (en) A technology configured to provide a user interface through the representation of two-dimensional content through three-dimensional display objects rendered in a navigable virtual space
KR20000076066A (en) Virtual environment viewpoint control
US20180146218A1 (en) Free viewpoint picture data distribution system
US5784570A (en) Server for applying a recipient filter and compressing the input data stream based upon a set of at least one characteristics in a multiuser interactive virtual environment
JP4236706B2 (en) Information processing apparatus and information processing method
WO1997000474A1 (en) Information processor and information displaying method
Steptoe et al. Acting rehearsal in collaborative multimodal mixed reality environments
JP3661228B2 (en) Image display apparatus and method, and information providing apparatus and method
JP2024541856A (en) Game live streaming interaction method, program, and electronic device
JP2010218195A (en) Image generation system, program, information storage medium, and server system
CN106791791A (en) The video play device and its implementation of a kind of controllable multidimensional seat
KR102542070B1 (en) System and method for providing virtual reality contents based on iptv network
JP3755164B2 (en) Image display apparatus and method, and information providing apparatus and method
KR20220124961A (en) Method and apparatus for providing a cloud game using switching between stereoscopic and panoramic images
Yura et al. Video avatar: Embedded video for collaborative virtual environment
JP2006065888A (en) Image display apparatus and method, and information providing apparatus and method
CN115514736B (en) Screen sharing method, device and intelligent interactive tablet

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080507

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080826