JPH09186951A - Image recording and reproducing device - Google Patents
Image recording and reproducing deviceInfo
- Publication number
- JPH09186951A JPH09186951A JP7343887A JP34388795A JPH09186951A JP H09186951 A JPH09186951 A JP H09186951A JP 7343887 A JP7343887 A JP 7343887A JP 34388795 A JP34388795 A JP 34388795A JP H09186951 A JPH09186951 A JP H09186951A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- index
- line
- reproducing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Television Signal Processing For Recording (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明は物体を複数の視点位
置から見た画像を記録再生する画像記録再生装置に関す
る。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image recording / reproducing apparatus for recording / reproducing an image of an object viewed from a plurality of viewpoint positions.
【0002】[0002]
【従来の技術】従来、被写体を撮像して得られる実写画
像を記録し、再生時にその被写体を指定された視点位置
から見た画像として再生する方法として、時系列的に画
像を撮像し、その撮像時における撮像手段の位置、姿勢
などを画像とともに記録しておき、再生時に上記位置姿
勢を指定し、それに対応する画像を再生する方法があっ
た。また他の例としては、特開平6−187424号公
報に開示されるように事前に計算した画像の集合から選
択した立体画像の対に動的にアクセスする方式があり、
また本出願人により提案された予め立体画像情報を完全
に求め、再生時に指定した手順で再生する方法などがあ
った。2. Description of the Related Art Conventionally, as a method of recording a photographed image obtained by picking up a subject and reproducing the subject as an image viewed from a designated viewpoint position, the images are picked up in time series and There has been a method in which the position, orientation, etc. of the image pickup means at the time of image pickup are recorded together with the image, the position and orientation are designated at the time of reproduction, and the image corresponding thereto is reproduced. Another example is a method of dynamically accessing a pair of stereoscopic images selected from a set of images calculated in advance, as disclosed in Japanese Patent Laid-Open No. 6-187424.
In addition, there has been a method proposed by the applicant of the present invention, in which stereoscopic image information is completely obtained in advance and is reproduced in a procedure specified at the time of reproduction.
【0003】[0003]
【発明が解決しようとする課題】しかしながら、上記撮
像時に時系列的に記録された画像を用いる方法では、同
じ被写体、或いは同じ風景、建物の中などの画像を撮像
時と異なる任意の視点位置から任意の速度で自然に再生
することは不可能であった。例えば再生時の視点位置の
変化が撮像時と同じであっても、撮像時と再生時とで視
点の変化速度が異なる場合は再生時の視点位置変化にス
ムーズに追随して視点位置変化の緩急に応じた再生画像
を得ることは困難であった。However, in the method of using the images recorded in time series at the time of image capturing, an image of the same subject, the same landscape, the inside of a building, etc. is taken from an arbitrary viewpoint position different from that at the time of image capturing. It was impossible to reproduce naturally at any speed. For example, even if the change in the viewpoint position during playback is the same as during image capture, if the viewpoint change speed during image capture and playback is different, the viewpoint position change during playback is smoothly followed and the change in viewpoint position is abrupt. It was difficult to obtain a reproduced image according to the above.
【0004】さらに視点位置や視線方向の変化の仕方が
一回の動画撮像でカバーできない場合、視点の変化に追
随した画像再生を行うためには、複数回に分けて撮像さ
れた動画像に対して、再生時に記録手段上で異なる視点
位置(視線方向)で撮像された一連の時系列画像の一つ
のアドレスへジャンプする必要があった。このため、撮
像時と異なる視点位置(視線方向)の変化に高速、且つ
なめらかに追従することのできる自然な画像再生は一層
困難であった。また立体情報を求めてから画像を再生す
る方式では、事前の演算量が莫大になること、従って実
写画像空間中を再生時の視点位置に応じてインタラクテ
ィブに再生するには不向きであった。Further, when the method of changing the viewpoint position and the line-of-sight direction cannot be covered by a single moving image pickup, in order to reproduce the image following the change of the viewpoint, the moving images picked up in a plurality of times are taken. Therefore, it is necessary to jump to one address of a series of time-series images captured at different viewpoint positions (line-of-sight direction) on the recording means during reproduction. For this reason, it is more difficult to reproduce a natural image that can smoothly and smoothly follow a change in the viewpoint position (line of sight) different from that at the time of image capturing. Further, the method of reproducing the image after obtaining the stereoscopic information requires a huge amount of calculation in advance, and thus is not suitable for interactive reproduction in the real image space according to the viewpoint position at the time of reproduction.
【0005】そこで、本発明の第1の目的は、画像生成
時と再生時とで視点位置または視線方向の変化の仕方が
異なる場合でもスムーズかつ自然な画像再生が可能な画
像記録再生装置を提供することである。本発明の第2の
目的は、撮像手段を用いて画像を生成する場合に第1の
目的を達成可能な画像記録再生装置を提供することであ
る。本発明の第3の目的は、時系列的に記録された画像
データに対し第1の目的を達成可能な画像記録再生装置
を提供することである。本発明の第4の目的は、画像デ
ータのみで視点位置または視線方向を検出することによ
り第1の目的を達成可能な画像記録再生装置を提供する
ことである。Therefore, a first object of the present invention is to provide an image recording / reproducing apparatus capable of smooth and natural image reproduction even when the way of changing the viewpoint position or the line-of-sight direction is different between the time of image generation and the time of reproduction. It is to be. A second object of the present invention is to provide an image recording / reproducing apparatus which can achieve the first object when an image is generated using an image pickup means. A third object of the present invention is to provide an image recording / reproducing apparatus capable of achieving the first object for image data recorded in time series. A fourth object of the present invention is to provide an image recording / reproducing apparatus capable of achieving the first object by detecting a viewpoint position or a line-of-sight direction only with image data.
【0006】本発明の第5の目的は、再生時に指定され
る視点位置または視線方向の変化に自然に追随して画像
再生が可能な第1の目的に準じた画像記録再生装置を提
供することである。本発明の第6の目的は、異なる視点
位置または視線方向で得た画像を効率的に圧縮する第1
の目的に準じた画像記録再生装置を提供することであ
る。本発明の第7の目的は、再生時の視点位置、視線方
向変化に高速追従して再生可能な画像アドレス生成を行
う第1の目的に準じた画像記録再生装置を提供すること
である。本発明の第8の目的は、視点の位置および視線
方向の変化パターンを限定して、高速な画像再生を行う
ことのできる第5の目的に準じた画像記録再生装置を提
供することである。A fifth object of the present invention is to provide an image recording / reproducing apparatus according to the first object, which is capable of reproducing an image by naturally following a change in a viewpoint position or a line-of-sight direction designated during reproduction. Is. A sixth object of the present invention is to efficiently compress images obtained at different viewpoint positions or line-of-sight directions.
It is an object of the present invention to provide an image recording / reproducing device conforming to the purpose of A seventh object of the present invention is to provide an image recording / reproducing apparatus according to the first object, which generates a reproducible image address by following a change in the viewpoint position and line-of-sight direction at the time of reproduction. An eighth object of the present invention is to provide an image recording / reproducing apparatus according to the fifth object which can perform high-speed image reproduction by limiting the change pattern of the viewpoint position and the line-of-sight direction.
【0007】本発明の第9の目的は、視点と対象物との
仮想距離または視点位置を固定した場合に再生時の視線
方向変化に高速追随可能な画像再生を行うことのできる
第5の目的に準じた画像記録再生装置を提供することで
ある。本発明の第10の目的は、再生時の視線方向を固
定した場合に所定方向へのズーミング画像再生または所
定方向に視点移動する場合の高速画像再生を行うことの
できる第5の目的に準じた画像記録再生装置を提供する
ことである。本発明の第11の目的は、視点位置、視線
方向と画像データ中の被写体との位置関係に応じて高速
再生可能な第1の目的に準じた画像記録装置を提供する
ことである。A ninth object of the present invention is to achieve an image reproduction capable of high-speed follow-up with the change of the line-of-sight direction during reproduction when the virtual distance between the viewpoint and the object or the viewpoint position is fixed. To provide an image recording / reproducing apparatus conforming to the above. The tenth object of the present invention is based on the fifth object capable of performing zooming image reproduction in a predetermined direction when the line-of-sight direction during reproduction is fixed or high-speed image reproduction when the viewpoint is moved in the predetermined direction. An object is to provide an image recording / reproducing device. An eleventh object of the present invention is to provide an image recording apparatus conforming to the first object capable of high-speed reproduction depending on the viewpoint position, the line-of-sight direction, and the positional relationship between the subject in the image data.
【0008】[0008]
【課題を解決するための手段】本発明においては、画像
データを生成する画像データ生成手段と、上記画像デー
タとこの画像データに対応する視点位置、視線方向デー
タとを記憶する記憶手段と、上記記憶手段に記憶された
上記視点位置、視線方向データに基づいて上記画像デー
タを再配列する処理手段とを設けている。According to the present invention, image data generating means for generating image data, storage means for storing the image data and viewpoint position and line-of-sight direction data corresponding to the image data, and A processing means for rearranging the image data based on the viewpoint position and line-of-sight direction data stored in the storage means is provided.
【0009】[0009]
【作用】本発明によれば、任意の視点位置からの画像を
撮像時の動画記録順序によらずに再生することができ
る。According to the present invention, an image from an arbitrary viewpoint position can be reproduced regardless of the moving image recording order at the time of image capturing.
【0010】[0010]
【発明の実施の形態】図1は本発明の実施の形態による
システム構成図である。本実施の形態は被写体3の他視
点画像を記録、再生する装置である。図において、1は
操作者が手などに持って被写体を任意の位置から撮影す
ることによる他視点画像を得るための撮像装置、2sお
よび2gは撮像装置1の姿勢、位置検出手段を構成する
ものであり、たとえば磁気を用いた検出方式を例にする
と、2gは磁場発生器で撮像装置1上に装着される。2
sは磁場検出器であり、磁場発生器2gから撮像装置1
の位置、姿勢を表す磁気信号を入力し、変換テーブルな
どに基づいて位置・姿勢データに変換する。尚、位置・
姿勢の検出手段の他の例としては、メカニカルジョイン
トにポテンションメータなどのセンサを搭載したものな
どを用い、先端に撮像装置1を装着するようにしてもよ
い。4はインデクス処理ユニット、5は記憶部、6はモ
ニタ等の画像表示部、7は再生時の視点位置・姿勢を入
力する視点入力装置である。またインデクス処理ユニッ
ト、記憶部はマイコン8内の機能によって実現される。FIG. 1 is a system configuration diagram according to an embodiment of the present invention. The present embodiment is an apparatus for recording and reproducing another viewpoint image of the subject 3. In the figure, reference numeral 1 denotes an image pickup apparatus for obtaining an other-viewpoint image by an operator holding a hand or the like to photograph a subject from an arbitrary position, and 2s and 2g constitute a posture and position detecting means of the image pickup apparatus 1. For example, taking a detection method using magnetism as an example, 2 g is a magnetic field generator and is mounted on the image pickup apparatus 1. 2
Reference numeral s denotes a magnetic field detector, which is used to connect the magnetic field generator 2g to the imaging device 1
A magnetic signal representing the position and orientation of the is input and converted into position / orientation data based on a conversion table or the like. The position
As another example of the attitude detecting means, a mechanical joint equipped with a sensor such as a potentiometer may be used, and the imaging device 1 may be attached to the tip. Reference numeral 4 is an index processing unit, 5 is a storage unit, 6 is an image display unit such as a monitor, and 7 is a viewpoint input device for inputting a viewpoint position / posture during reproduction. The index processing unit and the storage unit are realized by the functions in the microcomputer 8.
【0011】撮像装置1は、たとえば電子カメラであ
り、不図示のレンズ駆動装置、合焦装置、露光量調整装
置、センサ感度調整装置、固定あるいはリムーバブルの
画像記録装置などを有する。また、姿勢・位置検出手段
2s、2gとしては、市販品としては、Polhemu
s社のFASTRAKTMやAscension Tec
hnologies社のFlockofBirds
TM(以上商品名)などの磁気検知型センサ手段が使われ
る。これを用いることにより撮像装置1の3次元位置、
姿勢データをほぼ実時間で抽出することができる。The image pickup device 1 is, for example, an electronic camera, and has a lens driving device, a focusing device, an exposure amount adjusting device, a sensor sensitivity adjusting device, a fixed or removable image recording device, and the like, which are not shown. As the attitude / position detecting means 2s and 2g, commercially available products are Polhemu.
s company's FASTRAK ™ and Ascension Tec
FlockofBirds from hnologies
Magnetic detection type sensor means such as TM (above product name) is used. By using this, the three-dimensional position of the imaging device 1,
Attitude data can be extracted in almost real time.
【0012】図2はインデクス処理ユニット4の主たる
構成を示し、画像転送部41、撮像装置1と同期して動
作する位置・姿勢データ読み出し部43、位置・姿勢デ
ータを検索インデクスとする画像インデクス生成、書き
込み部42等からなる。FIG. 2 shows the main configuration of the index processing unit 4, which includes an image transfer unit 41, a position / orientation data reading unit 43 that operates in synchronization with the image pickup apparatus 1, and an image index generation using the position / orientation data as a search index. , A writing unit 42 and the like.
【0013】図3は記憶部5の主たる構成を示し、画像
データの読み出し、書き込みを行う画像データ読み出し
/書き込み部51、画像データからのインデクスを読み
出すインデクス読み出し部52、インデクス再配列部5
3、画像再生時、任意の視点から画像を再配列可能な画
像データ再配列部54、メモリ等の記録媒体55等から
なる。FIG. 3 shows the main configuration of the storage unit 5, which is an image data read / write unit 51 for reading and writing image data, an index read unit 52 for reading an index from the image data, and an index rearrangement unit 5.
3. An image data rearrangement unit 54 capable of rearranging images from an arbitrary viewpoint during image reproduction, a recording medium 55 such as a memory, and the like.
【0014】以下、マイコン8内で行われる処理手順に
ついて説明する。姿勢、位置検出手段2s、2gで得ら
れるパラメータとして、撮像装置1の3次元位置ベクト
ルを(X,Y,Z)、姿勢方向をθ、φのように表記す
る。ここでθ、φは撮像装置1の光軸方向を表し、物体
中心に設定される絶対座標系上で定義される経度(XY
面内でX軸に対する角度)、緯度(Z軸に対する角度)
をそれぞれ示す。The processing procedure performed in the microcomputer 8 will be described below. As parameters obtained by the posture / position detecting means 2s and 2g, a three-dimensional position vector of the image pickup apparatus 1 is expressed as (X, Y, Z), and a posture direction is expressed as θ and φ. Here, θ and φ represent the optical axis direction of the imaging device 1, and the longitude (XY) defined on the absolute coordinate system set at the object center.
In-plane angle with respect to X-axis) Latitude (angle with Z-axis)
Are respectively shown.
【0015】はじめにインデクス処理ユニット4におけ
る画像データのインデクス書き込み制御および転送制御
方法について説明する。インデクス生成、書き込み部4
2は撮像装置1より画像転送部41を介して所定のフレ
ームレートで送られる画像データに同期して位置・姿勢
データ読み出し部43により取り込まれる撮像装置の位
置・姿勢データに対して、取り込まれた画像に対応する
位置・姿勢パラメータ推定を所定の予測関数にしたがっ
て、たとえばカルマンフィルタ等の予測フィルタを用い
てセンサ出力のノイズ、時間遅れを考慮して行う。さら
にインデクス生成・書き込み部42において再配列処理
の単純化のために原点からの距離r=(X2 +Y2 +Z
2 )1/2 を随時モニタし、それが所定の値になったとき
に画像データ中の予め割り当てられたヘッダ領域に姿勢
インデクスθ、φを付与して記憶部5へ転送する。図8
は各画像に付与される位置・姿勢インデクスの書き込み
フォーマット例を示す。First, an index writing control and transfer control method of image data in the index processing unit 4 will be described. Index generation and writing unit 4
2 is taken in with respect to the position / orientation data of the imaging device which is taken in by the position / orientation data reading unit 43 in synchronization with the image data sent from the imaging device 1 via the image transfer unit 41 at a predetermined frame rate. The position / orientation parameter estimation corresponding to the image is performed in accordance with a predetermined prediction function, using a prediction filter such as a Kalman filter in consideration of noise and time delay of the sensor output. Furthermore, in order to simplify the rearrangement process in the index generation / writing unit 42, the distance from the origin r = (X 2 + Y 2 + Z
2 ) 1/2 is monitored at any time, and when it reaches a predetermined value, the posture indexes θ and φ are added to the header area assigned in advance in the image data and the result is transferred to the storage unit 5. FIG.
Shows a writing format example of the position / orientation index given to each image.
【0016】次に記憶部5での画像データ再配列方法に
ついて説明する。本実施の形態では記憶媒体55として
たとえば光(磁気)ディスクなどの円盤型ディスク媒体
を用いる場合、同一トラックに配列される画像データは
円周方向に緯度インデクスが所定間隔(例えば5度間
隔)で配列するように再配列を行う。このとき同一半径
(トラック)上のデータが同じ経度インデクスを有する
必要は無いが、経度インデクスが同じ画像データは基本
的に同一トラック上に配列するものとするが、隣接する
トラックにまたがって配列してもよい。また経度インデ
クスは半径方向に小から大(またはその逆)となるよう
に所定間隔で配列するものとする。このように姿勢また
は位置インデクスに関する昇順(降順)に画像を再配列
することにより、時間的に離れて撮像された画像(例え
ば同じ被写体を複数回に分けて異なる視点パラメータで
撮像した場合)であっても、インデクス間の距離が小さ
ければ再配列後のフレーム番号またはアドレスの差が小
さくなる(例えば隣り合わせになる)ことが大きな特徴
である。Next, a method of rearranging image data in the storage unit 5 will be described. In the present embodiment, when a disk type disk medium such as an optical (magnetic) disk is used as the storage medium 55, the image data arranged on the same track has a latitude index in the circumferential direction at a predetermined interval (for example, an interval of 5 degrees). Rearrange to align. At this time, it is not necessary for the data on the same radius (track) to have the same longitude index, but image data with the same longitude index is basically arranged on the same track, but it is arranged across adjacent tracks. May be. The longitude indexes are arranged at a predetermined interval in the radial direction from small to large (or vice versa). By rearranging the images in ascending order (descending order) with respect to the posture or the position index in this way, the images are taken at temporally different positions (for example, the same subject is imaged a plurality of times with different viewpoint parameters). However, if the distance between the indexes is small, the difference between the frame numbers or addresses after rearrangement is small (for example, they are adjacent to each other).
【0017】インデクス(または対応する位置・姿勢デ
ータ)の配列を一定微小間隔にすることにより、再生時
の視点位置、視線方向の変化に対する追従応答特性が格
段に向上する。即ち、視点位置、視線方向の変化の緩
急、或いはそれらの変化パターンにスムーズに追従した
画像再生が可能となる。特に再生時の視点の位置、視線
方向をマウス、操作レバーなどの検知手段を用いて直接
操作する場合には、検知信号を予測フィルタ(カルマン
フィルタなど)を用いて視点パラメータを推定し、該当
する画像インデクスを求めて再生してもよい。By making the array of the indexes (or the corresponding position / orientation data) at a constant minute interval, the follow-up response characteristic with respect to the change of the viewpoint position and the line-of-sight direction at the time of reproduction is remarkably improved. That is, it becomes possible to perform image reproduction in which changes in the viewpoint position and the line-of-sight direction are gradually changed or the change patterns thereof are smoothly followed. In particular, when the position of the viewpoint and the direction of the line of sight at the time of reproduction are directly operated by using a detection means such as a mouse or an operating lever, the viewpoint signal is estimated using a prediction filter (Kalman filter, etc.) for the detection signal, and the corresponding image You may play in search of an index.
【0018】また、再配列処理の高速化のために記録媒
体55上にインデクスデータが所定間隔になるように対
応する画像データ領域の割り当てを予め行ってもよい。
その場合にはインデクスを予め記録媒体55に書き込ん
でもよい。またインデクス処理ユニット4から転送され
たインデクスデータを判定して、予め設定されたインデ
クス値のいずれかに等しくなる(或いは設定値との差が
所定の閾値以下)場合には記録媒体上の対応する設定領
域に画像データを記録してもよい。このように設定済の
姿勢インデクス番地に画像データを書き込む場合には、
撮像動作終了時に必ずしも全記録領域が埋まるとは限ら
ない。この場合には撮像動作終了後、空きデータ領域が
消滅するように再配列してもよい。但し配列順序は先述
のごとく、基本的には同一トラック上には経度インデク
スが同じであって、緯度インデクスが小から大(または
その逆)となるようにすればよい。In order to speed up the rearrangement process, corresponding image data areas may be allocated on the recording medium 55 in advance so that the index data are arranged at predetermined intervals.
In that case, the index may be written in the recording medium 55 in advance. In addition, the index data transferred from the index processing unit 4 is judged, and if it is equal to any of the preset index values (or the difference from the set value is less than or equal to a predetermined threshold value), the corresponding on the recording medium is dealt with. Image data may be recorded in the setting area. When writing image data to the posture index address that has been set in this way,
The entire recording area is not always filled at the end of the imaging operation. In this case, the rearrangement may be performed so that the empty data area disappears after the imaging operation is completed. However, as described above, the arrangement order is basically such that the longitude index is the same on the same track and the latitude index is from small to large (or vice versa).
【0019】上述した画像データの再配列をいつ、どの
ようなタイミングで行うかについては、次の4通りを挙
げることができる。 (1)撮像装置からの画像取り込みを一旦終了してから
再配列を行う。 (2)撮像装置からの画像取り込みごとに逐次再配列を
行う。 (3)一定時間ごとに再配列する。 (4)処理ユニット4より転送される画像データ量に応
じて一定量転送されるごとに順次再配列を行う。Regarding when and at what timing the above-mentioned rearrangement of image data is performed, the following four ways can be mentioned. (1) Rearrangement is performed after the image acquisition from the image pickup apparatus is once completed. (2) Sequential rearrangement is performed every time an image is captured from the imaging device. (3) Rearrange at regular intervals. (4) Sequential rearrangement is performed every time a fixed amount is transferred according to the amount of image data transferred from the processing unit 4.
【0020】再生目的に応じて上記いずれの方法を用い
てもよい。特に、被写体画像の高速取り込みを優先する
場合は(1)または(3)が望ましい。画像取り込み速
度を重視せず、再配列処理時間を短縮したい場合には
(2)、(3)、(4)のいずれかを用いればよい。
(3)または(4)の方式は画像取り込み速度と再配列
速度の制御を可能にするものである。尚、以上のように
して得られた再配列後の画像データ列(前述のように必
ずしも撮像時の時系列画像データではない)に、通常の
動画圧縮(方式MPEG,Motion−JPEGな
ど)と同様の方式を適用して圧縮してもよい。Any of the above methods may be used depending on the reproduction purpose. In particular, (1) or (3) is desirable when priority is given to high-speed capturing of the subject image. When it is desired to shorten the rearrangement processing time without giving priority to the image capturing speed, any one of (2), (3), and (4) may be used.
The method (3) or (4) enables control of the image capturing speed and rearrangement speed. It should be noted that the rearranged image data sequence (not necessarily the time-series image data at the time of image capturing as described above) obtained in the above-described manner is similar to normal moving image compression (method MPEG, Motion-JPEG, etc.). The above method may be applied for compression.
【0021】次に第2の実施の形態について説明する。
本実施の形態では、再生手段で指定される視点の動きパ
ターンに基づくメモリ再配列を行う。視点位置または方
向の変化を表す軌跡パターンを仮想時系列データとして
予め再構成しておき、指定されたパターンの動きに対応
する画像データ列をキャッシュメモリ上などに配列して
記憶させ、再生時に指定された視点の動きに従って高速
に画像の生成を行うものである。この場合には再配列時
にインデクス情報は付加しなくてもよい。再配列時に
は、指定された順序列パターンに対応するインデクス列
を視点位置パラメータとインデクスとの参照テーブルま
たは変換式を用いることにより自動的に求めることがで
きる。Next, a second embodiment will be described.
In the present embodiment, memory rearrangement is performed based on the viewpoint movement pattern designated by the reproducing means. The trajectory pattern that represents the change in the viewpoint position or direction is reconstructed in advance as virtual time-series data, and the image data string corresponding to the movement of the specified pattern is arranged and stored in the cache memory, etc., and is specified during playback. The image is generated at high speed according to the movement of the generated viewpoint. In this case, index information may not be added at the time of rearrangement. At the time of rearrangement, the index sequence corresponding to the specified ordered sequence pattern can be automatically obtained by using the reference table or the conversion formula of the viewpoint position parameter and the index.
【0022】特に、第1の実施の形態の制約を緩和し
て、撮像装置1の姿勢・位置パラメータで構成される5
次元空間(X,Y,Z,θ,φ)において視点の状態変
化が一つの軌跡を描くような順序列パターンを複数用意
し、再生時に指定された視点位置・姿勢の順序列パター
ンに対応する画像データ列またはインデクス列の並び換
えを行った後、画像の高速再生を行う。例えば第1の実
施の形態と同様に、特定被写体の異なる視点位置から撮
像された画像(既に複数の視点位置・姿勢条件下で撮像
済とする)を再生する場合について、指定された視点位
置変化パターンが原点からの距離rを保ったまま、視点
位置が所定の平面aX+bY+cZ=dと球面X2 +Y
2 +Z2 =r2 との交差曲線である円周上を動くとす
る。また、順序列パターンをメニュー形式で端末に表示
し、選択されたパターンに対して詳細なパラメータ設定
を行ってもよい。In particular, the constraints of the first embodiment are relaxed, and the posture / position parameters of the image pickup apparatus 1 are used.
Prepare a plurality of sequence patterns such that the change of the viewpoint state draws one trajectory in the dimensional space (X, Y, Z, θ, φ), and correspond to the sequence pattern of the viewpoint position / orientation designated at the time of reproduction. After rearranging the image data sequence or index sequence, the image is reproduced at high speed. For example, as in the case of the first embodiment, when the image captured from different viewpoint positions of the specific subject (which has already been captured under a plurality of viewpoint position / orientation conditions) is reproduced, the specified viewpoint position change While the pattern maintains the distance r from the origin, the viewpoint position is a predetermined plane aX + bY + cZ = d and the spherical surface X 2 + Y.
It is assumed that the vehicle moves on the circumference of the circle which is the intersection curve with 2 + Z 2 = r 2 . Alternatively, the sequence pattern may be displayed on the terminal in a menu format, and detailed parameter settings may be performed for the selected pattern.
【0023】また再配列後に再生開始時の画像の視点パ
ラメータを変更する場合には、与えられた初期視点パラ
メータから該当する先頭インデクス値および先頭画像ア
ドレスを参照テーブルから求めることにより、それ以降
の画像列を再生することができる。特に視点パラメータ
の軌道が5次元空間内で閉じている場合には、視点パラ
メータ初期値変更後に再生用の先頭画像のインデクス
が、最後尾画像のインデクスと視点パラメータ軌道上で
隣接する(要するに軌道が閉じる)ように再配列をやり
直してもよい。Further, when changing the viewpoint parameter of the image at the start of reproduction after rearrangement, the corresponding start index value and start image address are obtained from the given initial viewpoint parameter from the reference table, and the subsequent images are obtained. Rows can be played. In particular, when the trajectory of the viewpoint parameter is closed in the five-dimensional space, the index of the first image for reproduction after the initial value of the viewpoint parameter is changed is adjacent to the index of the last image on the trajectory of the viewpoint parameter (in short, the trajectory is You can repeat the rearrangement as in (close).
【0024】また、複数の指定された視点運動パターン
からなる再生を行ってもよい。これにより視点位置変化
を複雑化したり、任意の視点運動パターンを予め設定す
ることが出来る。また順序列パターンを指定する方程式
のパラメータを変更したり、各パターンの始点と終点座
標(5次元空間内)を指定してもよいものとする。In addition, reproduction may be performed with a plurality of designated viewpoint movement patterns. This makes it possible to complicate the change in the viewpoint position and preset an arbitrary viewpoint movement pattern. It is also possible to change the parameters of the equation that specifies the sequence pattern, and to specify the start point and end point coordinates (in the five-dimensional space) of each pattern.
【0025】次に第3の実施の形態について説明する。
本実施の形態では、画像再生時に再生手段で指定される
視点位置・方向の所定の変化に対して画像表示の実時間
追従を可能とするような実写またはCG画像データの再
配列を行う。ここでは第2の実施の形態のように前もっ
て視点変化の状態空間中の軌跡を指定しないが、視線方
向の分布範囲が事前に分かっている(前方方向への運動
で時々視点の向きをある範囲で変える場合など)ものと
する。実写画像を記録再生する場合には、移動体上にジ
ャイロ、走行計および互いに光軸方向の異なる複数の撮
像装置を搭載し、移動体の位置と走行距離を計測しなが
ら建物の中や外の風景や町並みを撮像すればよい。本実
施の形態においては、各撮像装置からの画像に対して、
移動体の位置およびそれぞれの固有の視線方向データに
基づいてインデクスデータを生成する。この場合は姿勢
インデクスは、撮像装置に対して不変であるが移動体の
位置は撮像時においては時々刻々変わることは言うまで
もない。各撮像装置が視線方向に関して所定間隔で設置
されているとすると、特に、移動体位置または走行距離
インデクスが一定間隔でサンプリングされ、かつ画像デ
ータとともに記憶部5に記録されることが望ましい。Next, a third embodiment will be described.
In the present embodiment, a real shot or rearrangement of CG image data is performed so as to enable real-time follow-up of image display with respect to a predetermined change in the viewpoint position / direction designated by the reproducing means during image reproduction. Here, as in the second embodiment, the locus of the viewpoint change in the state space is not specified in advance, but the distribution range in the line-of-sight direction is known in advance (the range of the direction of the viewpoint from time to time in the forward movement is a certain range). When changing with), etc. When recording and reproducing live-action images, a gyroscope, odometer, and multiple imaging devices with different optical axis directions are installed on the moving body, and the inside and outside of the building are measured while measuring the position and running distance of the moving body. You just have to take a picture of the scenery and the streets. In the present embodiment, for images from each imaging device,
Index data is generated based on the position of the moving body and the unique line-of-sight direction data. In this case, the posture index does not change with respect to the image pickup apparatus, but it goes without saying that the position of the moving body changes momentarily during image pickup. If each of the image pickup devices is installed at a predetermined interval in the line-of-sight direction, it is particularly desirable that the moving body position or the travel distance index be sampled at a constant interval and recorded in the storage unit 5 together with the image data.
【0026】ここでは特に、マウス、操作レバーなどの
検知手段を用いて直接操作し、かつ再生時の仮想視点が
所定方向に重心移動しながら視線方向も変化させる場合
について説明する。図4は本実施の形態による記憶部5
(点線で囲まれた部分)の構成例および再生時の視点入
力部7を示す。この図4においては、図3の構成に加え
て移動方向に対して視線方向を離散的にN個とりそれぞ
れに対応して高速画像転送メモリ(キャッシュメモリ)
56、マルチプレクサ57、および視点入力部7からの
情報に基づき、マルチプレクサ57によるスイッチング
制御、再生アドレス位置の予測などを行う制御部58が
設けられている。この場合は各キャッシュメモリ56に
配列された画像データ列は視線方向を表す姿勢インデク
スが一定で、かつ位置インデクス(例えば、移動距離な
ど)が所定間隔で更新される画像データ列となるように
再配列されているものとする。本実施の形態の場合は、
不図示の同期手段により再生時の視点位置(移動距離)
と各キャッシュメモリの先頭画像アドレスとが常に対応
するようにアドレス更新をメモリ間で同期して行っても
よい。Here, in particular, a case will be described in which a detecting means such as a mouse or an operating lever is used for direct operation, and the virtual viewpoint at the time of reproduction changes the line-of-sight direction while moving the center of gravity in a predetermined direction. FIG. 4 shows the storage unit 5 according to this embodiment.
A configuration example of (a portion surrounded by a dotted line) and a viewpoint input unit 7 during reproduction are shown. In FIG. 4, in addition to the configuration of FIG. 3, a high-speed image transfer memory (cache memory) is provided corresponding to N discrete line-of-sight directions with respect to the moving direction.
56, a multiplexer 57, and a control unit 58 that performs switching control by the multiplexer 57, prediction of a reproduction address position, and the like based on information from the viewpoint input unit 7. In this case, the image data string arranged in each cache memory 56 is re-created so that the posture index indicating the line-of-sight direction is constant and the position index (for example, moving distance) is updated at predetermined intervals. It is assumed that they are arranged. In the case of this embodiment,
Point-of-view position (moving distance) during playback by synchronization means (not shown)
The addresses may be updated in synchronization between the memories so that and the start image address of each cache memory always correspond to each other.
【0027】また再生時に視点が仮想空間内の特定の場
所において周囲を眺め回すような場合には、同一位置イ
ンデクスで視線方向の異なる画像を各メモリ56の先頭
アドレスに配置し、マルチプレクサ57による再生画像
の切り替えを行ってもよいし、或いは位置インデクスの
同じ画像を既に説明したように視線方向の順に再配列し
て所定の画像メモリ(不図示)に記録させてから再生し
てもよい。さらに予め設定された視線方向の中間的方向
での画像をアフィン変換などを用いて補間画像列を自動
生成することにより、滑らかな画像再生が可能になる。
また、特定の物体の周りに視点位置を変化させながら背
景を含む物体画像を再生することも第1の実施の形態と
の併用により可能である。この場合にはその物体の3次
元形状モデルに基づく所定視点位置からのCG画像と背
景とを合成してもよい。この結果、応答速度が高く、か
つ再生範囲の広い視点追従型(インタラクティブ)画像
再生、特に実写画像空間のウオークスルーや被写体の連
続的視点変換再生が可能となる。When the viewpoint looks around at a specific place in the virtual space during reproduction, images with different line-of-sight directions at the same position index are arranged at the head addresses of the memories 56 and reproduced by the multiplexer 57. The images may be switched, or images having the same position index may be rearranged in the order of the line-of-sight direction and recorded in a predetermined image memory (not shown) before being reproduced, as described above. Further, a smooth image can be reproduced by automatically generating an interpolated image sequence using an affine transformation or the like for an image in an intermediate direction of the line-of-sight direction set in advance.
In addition, it is possible to reproduce an object image including a background while changing the viewpoint position around a specific object by using the first embodiment together. In this case, the CG image from the predetermined viewpoint position based on the three-dimensional shape model of the object may be combined with the background. As a result, it is possible to perform viewpoint-following (interactive) image reproduction having a high response speed and a wide reproduction range, particularly walk-through of a photographed image space and continuous viewpoint conversion reproduction of an object.
【0028】次に第4の実施の形態について説明する。
本実施の形態では、図5に示すようにドーム状の半球面
内に同期手段で結合された多数の撮像装置1を設け、そ
れぞれにおいて半球内の被写体の静止画像または動画像
を撮像する。本実施の形態は特に被写体に動き、変形な
どの動作を伴う場合に、それを任意の視点位置または任
意に変化する視点位置(或は視線方向)からの動画像と
して再生するのに有効である。図5は撮像装置1の配置
と各々に接続されたインデクス処理ユニット4の構成を
示したものである。各撮像装置1の3次元的位置と光軸
方向は既知かつ固定とし、撮像装置間で互いに同期して
取り込んで得られる画像にはそれぞれ固有の視点位置・
姿勢インデクスが撮像時にインデクス処理ユニット4に
より、図8(b)のフォーマットに従って付与される。
尚、インデクス処理ユニット4は撮像装置1に内蔵され
てもよい。Next, a fourth embodiment will be described.
In the present embodiment, as shown in FIG. 5, a large number of image pickup devices 1 coupled by a synchronizing means are provided in a dome-shaped hemisphere, and a still image or a moving image of a subject in the hemisphere is picked up in each of them. The present embodiment is particularly effective for reproducing a moving image from an arbitrary viewpoint position or an arbitrarily changing viewpoint position (or line-of-sight direction) when the subject is accompanied by motion such as movement or deformation. . FIG. 5 shows the arrangement of the image pickup apparatus 1 and the configuration of the index processing unit 4 connected to each. The three-dimensional position and the optical axis direction of each image pickup device 1 are known and fixed, and the images obtained by synchronizing the image pickup devices with each other have unique viewpoint positions and
The posture index is added by the index processing unit 4 according to the format of FIG.
The index processing unit 4 may be built in the imaging device 1.
【0029】再配列後は第1の実施の形態で使用した姿
勢パラメータを予め指定された所定の軌道上で連続再生
する。この場合、図6に示すように、隣接する撮像装置
間(或いは隣接する画像インデクス間)の中間的視点位
置での画像を補間画像生成部59により、補間画像列と
して自動生成する。After the rearrangement, the posture parameters used in the first embodiment are continuously reproduced on a predetermined orbit designated in advance. In this case, as shown in FIG. 6, the interpolation image generation unit 59 automatically generates an image at an intermediate viewpoint position between adjacent imaging devices (or between adjacent image indexes).
【0030】以下、各隣接する撮像装置1間の視線方向
変化Δφ、Δθが第1の実施の形態で用いた視線方向変
化の更新量(増減分)より大きいものとし、補間画像の
生成処理例を説明する。特に、視線方向が(θi ,
φi )と(θi ,φi+1 )との二つの撮像装置1で同時
刻に得られる画像間を視線方向がφij=φi +(j/
n)Δφで与えられる画像列を生成する場合について一
例を説明する。他の場合も処理は同様である。Below, assuming that the line-of-sight direction changes Δφ and Δθ between adjacent image pickup devices 1 are larger than the update amount (increase / decrease) of the line-of-sight direction change used in the first embodiment, an example of interpolation image generation processing Will be explained. In particular, if the line-of-sight direction is (θ i ,
The line-of-sight direction between the images obtained at the same time by the two imaging devices 1 of (φ i ) and (θ i , φ i + 1 ) is φ ij = φ i + (j /
n) An example will be described for the case of generating an image sequence given by Δφ. The processing is similar in other cases.
【0031】〔1〕各撮像装置上で定義される直交固有
座標系Ci 、Ci+1 (原点は主点と共約位置、Z軸が視
線方向、X、Y軸は基本的にセンサ面内とする)にアフ
ィン変換を施し、上記j番目の視線方向を有する固有座
標系Cijを得る。 〔2〕二つの撮像装置からの画像間の対応点を抽出す
る。対応点抽出処理は画像上の各点を中心とした二つの
画像間のブロック相関処理など、既存の手法を用いれば
よい。[1] Orthogonal proper coordinate system C i , C i + 1 defined on each image pickup device (the origin is a common position with the principal point, the Z axis is the line-of-sight direction, and the X and Y axes are basically sensors. Affine transformation is performed on the in-plane) to obtain the intrinsic coordinate system C ij having the j-th line-of-sight direction. [2] Extract corresponding points between images from the two image pickup devices. For the corresponding point extraction processing, an existing method such as block correlation processing between two images centering on each point on the image may be used.
【0032】〔3〕対応点の3次元座標算出(一方の撮
像装置の固有座標系で表す)。 〔4〕対応する画像上の点を変換後の座標系への投影像
として写像する。 〔5〕他方の画像中に対応点のない点については撮像光
学系の仕様で決まる像平面上にあるとみなして視線方向
(φij)に固有の座標系Cijに一方の撮像装置座標系か
らの幾何学的変換(3次元アフィン変換など)によりマ
ッピングし、写像後の点の画素値(輝度、色相)は写像
前の点と同じとする。[3] Three-dimensional coordinate calculation of corresponding points (represented by the unique coordinate system of one image pickup device). [4] Map the corresponding points on the image as a projected image on the coordinate system after conversion. [5] A point having no corresponding point in the other image is considered to be on the image plane determined by the specifications of the image pickup optical system, and one image pickup device coordinate system is set in the coordinate system C ij specific to the line-of-sight direction (φ ij ). The pixel value (luminance, hue) of the point after mapping is the same as the point before mapping, by performing a geometrical transformation (3D affine transformation, etc.).
【0033】以上の方法で補間画像列を生成することに
より、視線方向の異なる、少数の撮像装置からの画像を
記録しても視点位置の変化に追従する画像再生を連続的
に行うことができるが、補間画像生成法はこれに特に限
定されるものではない。本実施の形態の場合は、画像再
生に先だって予め補間画像列を生成しておくことによ
り、高速に視点位置に応じた画像再生が可能となる。By generating the interpolated image sequence by the above method, it is possible to continuously perform image reproduction that follows changes in the viewpoint position even if images from a small number of image pickup devices having different line-of-sight directions are recorded. However, the interpolation image generation method is not particularly limited to this. In the case of the present embodiment, the interpolation image sequence is generated in advance before the image reproduction, so that the image reproduction according to the viewpoint position can be performed at high speed.
【0034】尚、撮像装置1の配置は図5に限らず、例
えば被写体を囲む円筒面内、或いは建物内の壁面、天井
面上でもよい。これらの場合は撮像装置固有の位置を示
すインデクスが必要となる。The arrangement of the image pickup device 1 is not limited to that shown in FIG. 5, and may be, for example, on a cylindrical surface surrounding the subject, or on the wall surface or ceiling surface in the building. In these cases, an index showing the position peculiar to the image pickup apparatus is required.
【0035】次に第5の実施の形態について説明する。
図7は本実施の形態のシステム構成図を示す。本実施の
形態は撮像装置1として複眼カメラ1Aを用い、その位
置、姿勢検知のためには被写体3をカメラキャリブレー
ションパターン8上に置いて得られる画像データを処理
することにより検知することを特徴とする。尚、この処
理方式については本発明者により提案されている。その
他インデクス生成、再配列などの処理は第1の実施の形
態と同様である。Next, a fifth embodiment will be described.
FIG. 7 shows a system configuration diagram of the present embodiment. In the present embodiment, a compound eye camera 1A is used as the imaging device 1, and the position and orientation of the compound eye camera 1A are detected by processing image data obtained by placing the subject 3 on the camera calibration pattern 8. And The present inventor has proposed this processing method. Other processes such as index generation and rearrangement are the same as those in the first embodiment.
【0036】[0036]
【発明の効果】以上説明したように第1の発明によれば
任意の視点位置からの画像を撮像時の動画記録順序によ
らずに再生することができる。また、第2の発明によれ
ば、撮像時の動画記録順序、撮像時の視点位置変化の仕
方によらずに、任意の視点位置からの画像を高速に再生
することができる。第3の発明によれば、時系列的に撮
像した後でも任意の再生手順で任意の視点位置からの画
像を再生することができる。第4の発明によれば特別な
位置・姿勢検知用手段を搭載せず、撮像手段の軽量・コ
ンパクト化を達成することができる。As described above, according to the first aspect of the present invention, an image from an arbitrary viewpoint position can be reproduced regardless of the moving image recording order at the time of image capturing. Also, according to the second aspect, an image from an arbitrary viewpoint position can be reproduced at high speed regardless of the moving image recording order at the time of imaging and the way of changing the viewpoint position at the time of imaging. According to the third aspect, it is possible to reproduce an image from an arbitrary viewpoint position by an arbitrary reproduction procedure even after capturing images in time series. According to the fourth aspect of the invention, it is possible to reduce the weight and size of the imaging means without mounting any special position / orientation detecting means.
【0037】第5の発明によれば、再生時の視点位置変
化に追従した画像再生を行うことができる。第6の発明
によれば、記憶手段の容量節減とコンパクト化を達成
し、かつ多視点・非時系列画像データ列の効率圧縮を行
うことがてきる。第7の発明によれば、画像アドレスを
再生時の視点位置、または視線方向の昇順(または降
順)に画像の再配列を行うことができる。第8の発明に
よれば、パラメータ数を限定して視点位置に応じた画像
の高速再生を行うことができる。According to the fifth aspect of the invention, it is possible to perform image reproduction that follows changes in the viewpoint position during reproduction. According to the sixth aspect of the present invention, it is possible to achieve the capacity saving and the compactness of the storage means and to efficiently compress the multi-viewpoint / non-time series image data sequence. According to the seventh aspect, the images can be rearranged in the viewpoint position at the time of reproduction, or in the ascending order (or descending order) of the line-of-sight direction. According to the eighth invention, it is possible to perform high-speed reproduction of an image according to the viewpoint position by limiting the number of parameters.
【0038】第9の発明によれば再生時に視線方向のみ
変化する画像の高速再生を行うことができる。第10の
発明によれば、再生時に特定方向の画像を連続ズーミン
グまたは仮想空間中をウオークスルーしながら高速画像
再生を行うことができる。第11の発明によれば、視点
位置変化パターンに応じた高速画像再生を行うことがで
きる。According to the ninth aspect, it is possible to perform high speed reproduction of an image which changes only in the line-of-sight direction during reproduction. According to the tenth aspect, it is possible to perform high-speed image reproduction while continuously zooming images in a specific direction or walking through the virtual space during reproduction. According to the eleventh aspect, it is possible to perform high-speed image reproduction according to the viewpoint position change pattern.
【図1】本発明の第1の実施の形態を示す構成図であ
る。FIG. 1 is a configuration diagram showing a first embodiment of the present invention.
【図2】インデクス処理ユニットの構成を示すブロック
図である。FIG. 2 is a block diagram showing the configuration of an index processing unit.
【図3】記憶部の内部構成を示すブロック図である。FIG. 3 is a block diagram showing an internal configuration of a storage unit.
【図4】第3の実施の形態による移動体に複数の異なる
視線方向の撮像装置を搭載して画像を記録する場合の記
憶部の構成を示すブロック図である。FIG. 4 is a block diagram showing a configuration of a storage unit when a plurality of image pickup devices having different line-of-sight directions are mounted on a moving body according to the third embodiment to record an image.
【図5】第4の実施の形態による撮像装置の配置を示す
構成図である。FIG. 5 is a configuration diagram showing an arrangement of an image pickup device according to a fourth embodiment.
【図6】画像の再配列と撮像装置間の画像からの補間画
像列生成を行う場合の記録部の構成を示すブロック図で
ある。FIG. 6 is a block diagram showing a configuration of a recording unit when rearrangement of images and generation of an interpolated image sequence from images between imaging devices.
【図7】第5の実施の形態による撮像装置の位置・姿勢
検知をキャリブレーションパッドにより行う場合のシス
テム構成を示す構成図である。FIG. 7 is a configuration diagram showing a system configuration when the position / orientation of the image pickup apparatus according to the fifth embodiment is detected by a calibration pad.
【図8】インデクスを含む画像フォーマット例を示す構
成図である。FIG. 8 is a configuration diagram showing an example of an image format including an index.
1 撮像手段 2 姿勢・位置検出手段 4 インデクス処理ユニット 5 記憶手段 7 再生時の視点位置・姿勢入力部 8 キャリブレーションパッド 41 画像転送手段 43 位置・姿勢データ読み込み手段 42 画像インデクスの生成、書き込み手段 51 画像データ記録媒体 52 インデクス読み出し手段 53 インデクス再配列手段 54 画像データ再配列手段 DESCRIPTION OF SYMBOLS 1 Image pickup means 2 Posture / position detection means 4 Index processing unit 5 Storage means 7 Viewpoint position / posture input section during reproduction 8 Calibration pad 41 Image transfer means 43 Position / posture data reading means 42 Image index generation / writing means 51 Image data recording medium 52 Index reading means 53 Index rearranging means 54 Image data rearranging means
Claims (15)
段と、 上記画像データとこの画像データに対応する視点位置、
視線方向データとを記憶する記憶手段と、 上記記憶手段に記憶された上記視点位置、視線方向デー
タに基づいて上記画像データを再配列する処理手段とを
備えた画像記録再生装置。1. Image data generating means for generating image data, the image data and a viewpoint position corresponding to the image data,
An image recording / reproducing apparatus comprising: storage means for storing line-of-sight direction data; and processing means for rearranging the image data based on the viewpoint position and line-of-sight direction data stored in the storage means.
の撮像手段の位置、姿勢を検出して上記視点位置、視線
方向データを得る検出手段とからなり、上記視点位置、
視線方向データに基づいて画像のインデクスを生成する
インデクス処理手段を設け、撮像時の画像データおよび
上記インデクスを上記記憶手段に記憶することを特徴と
する請求項1に記載の画像記録再生装置。2. The image data generating means comprises image pickup means and detection means for detecting the position and orientation of the image pickup means to obtain the viewpoint position and line-of-sight direction data.
2. The image recording / reproducing apparatus according to claim 1, further comprising an index processing unit that generates an index of an image based on the line-of-sight data, and stores the image data at the time of imaging and the index in the storage unit.
タを時系列的に生成して上記記憶手段に記憶した後、上
記処理手段は上記インデクスに基づいて上記画像データ
を再配列することを特徴とする請求項2に記載の画像記
録再生装置。3. The image data generating unit generates image data in time series and stores the image data in the storage unit, and then the processing unit rearranges the image data based on the index. The image recording / reproducing apparatus according to claim 2.
勢を、上記画像データを処理することにより検出するこ
とを特徴とする請求項2に記載の画像記録再生装置。4. The image recording / reproducing apparatus according to claim 2, wherein the detecting means detects the position and orientation of the image pickup means by processing the image data.
る上記画像データを上記視点位置、視線方向データが所
定の間隔で配列されるように上記画像データを再配列す
ることを特徴とする請求項2に記載の画像記録再生装
置。5. The processing means rearranges the image data having the index so that the viewpoint position and line-of-sight direction data are arranged at predetermined intervals. The image recording / reproducing apparatus according to item 1.
に、上記記憶手段の隣接または近傍アドレスの画像デー
タを用いて画像データを圧縮符号化することを特徴とす
る請求項1に記載の画像記録再生装置。6. The image according to claim 1, wherein the processing means compresses and encodes the image data by using the image data at an adjacent or near address of the storage means after rearranging the image data. Recording / playback device.
段と、上記視点位置、視線方向に基づく上記記憶手段上
の画像アドレスを生成するアドレス生成手段と、上記ア
ドレスの画像を出力する出力手段とを設けたことを特徴
とする請求項1に記載の画像記録再生装置。7. A viewpoint position and line-of-sight direction input means at the time of image reproduction, an address generating means for generating an image address on the storage means based on the viewpoint position and the line-of-sight direction, and an output means for outputting an image of the address. The image recording / reproducing apparatus according to claim 1, further comprising:
置パラメータ、二つの視線方向角度パラメータを用いて
アドレスを生成することを特徴とする請求項7に記載の
画像記録再生装置。8. The image recording / reproducing apparatus according to claim 7, wherein the address generating means generates an address using one viewpoint position parameter and two line-of-sight direction angle parameters.
距離が固定で視線方向が異なる画像データを上記視線方
向データのみを用いて再配列することを特徴とする請求
項1に記載の画像記録再生装置。9. The processor according to claim 1, wherein the processing means rearranges image data having a fixed distance between a viewpoint position and a predetermined point and different line-of-sight directions using only the line-of-sight direction data. Image recording / reproducing device.
点位置と所定点との距離が異なる画像データを再配列す
ることを特徴とする請求項1に記載の画像記録再生装
置。10. The image recording / reproducing apparatus according to claim 1, wherein the processing means rearranges image data having a fixed line-of-sight direction and different distances between a viewpoint position and a predetermined point.
を一括して他の記憶手段に転送することを特徴とする請
求項1に記載の画像記録再生装置。11. The image recording / reproducing apparatus according to claim 1, wherein the image data after the rearrangement of the storage unit is collectively transferred to another storage unit.
いると共に、上記インデクス処理手段は、緯度インデク
スと経度インデクスとを作成し、上記処理手段は、上記
ディスク媒体の同一トラック上に配列される画像データ
は円周方向に上記緯度インデクスが所定間隔で配列され
るように再配列すると共に、経度インデクスが同じ画像
データは基本的に同一トラック上に配列されるように再
配列するようにした請求項2に記載の画像記録再生装
置。12. A disk medium is used as the storage means, the index processing means creates a latitude index and a longitude index, and the processing means stores image data arranged on the same track of the disk medium. The rearrangement is performed so that the latitude indexes are arranged at a predetermined interval in the circumferential direction, and the image data having the same longitude index are basically arranged on the same track. The described image recording / reproducing apparatus.
像データ生成手段から画像の取り込み毎に行うようにし
た請求項1に記載の画像記録再生装置。13. The image recording / reproducing apparatus according to claim 1, wherein the rearrangement by the processing means is performed every time an image is fetched from the image data generating means.
間毎に行うようにした請求項1に記載の画像記録再生装
置。14. The image recording / reproducing apparatus according to claim 1, wherein the rearrangement by the processing means is performed at regular intervals.
画像データ量毎に行うようにした請求項1に記載の画像
記録再生装置。15. The image recording / reproducing apparatus according to claim 1, wherein the rearrangement by the processing means is performed for each fixed amount of image data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34388795A JP3542430B2 (en) | 1995-12-28 | 1995-12-28 | Image recording and playback device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34388795A JP3542430B2 (en) | 1995-12-28 | 1995-12-28 | Image recording and playback device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09186951A true JPH09186951A (en) | 1997-07-15 |
JP3542430B2 JP3542430B2 (en) | 2004-07-14 |
Family
ID=18365012
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP34388795A Expired - Fee Related JP3542430B2 (en) | 1995-12-28 | 1995-12-28 | Image recording and playback device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3542430B2 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003346185A (en) * | 2002-05-24 | 2003-12-05 | Olympus Optical Co Ltd | Information display system and personal digital assistant |
JP2005027284A (en) * | 2003-06-10 | 2005-01-27 | Casio Comput Co Ltd | Image photographing apparatus, image photographing method, and image photographing program |
JP2010187285A (en) * | 2009-02-13 | 2010-08-26 | Research Organization Of Information & Systems | Virtual stereoscopic image display device and method of displaying virtual stereoscopic image |
JP2012128557A (en) * | 2010-12-14 | 2012-07-05 | Fujitsu Ltd | Subject position measuring apparatus, display system and subject position measuring method |
WO2021149336A1 (en) * | 2020-01-22 | 2021-07-29 | 富士フイルム株式会社 | Information processing device, information processing method, and program |
-
1995
- 1995-12-28 JP JP34388795A patent/JP3542430B2/en not_active Expired - Fee Related
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003346185A (en) * | 2002-05-24 | 2003-12-05 | Olympus Optical Co Ltd | Information display system and personal digital assistant |
JP2005027284A (en) * | 2003-06-10 | 2005-01-27 | Casio Comput Co Ltd | Image photographing apparatus, image photographing method, and image photographing program |
JP4635477B2 (en) * | 2003-06-10 | 2011-02-23 | カシオ計算機株式会社 | Image photographing apparatus, pseudo three-dimensional image generation method, and program |
JP2010187285A (en) * | 2009-02-13 | 2010-08-26 | Research Organization Of Information & Systems | Virtual stereoscopic image display device and method of displaying virtual stereoscopic image |
JP2012128557A (en) * | 2010-12-14 | 2012-07-05 | Fujitsu Ltd | Subject position measuring apparatus, display system and subject position measuring method |
WO2021149336A1 (en) * | 2020-01-22 | 2021-07-29 | 富士フイルム株式会社 | Information processing device, information processing method, and program |
JPWO2021149336A1 (en) * | 2020-01-22 | 2021-07-29 |
Also Published As
Publication number | Publication date |
---|---|
JP3542430B2 (en) | 2004-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6084979A (en) | Method for creating virtual reality | |
US6335754B1 (en) | Synchronization between image data and location information for panoramic image synthesis | |
US5881321A (en) | Camera motion sensing system | |
JP3104909B2 (en) | Image processing device | |
JP3732335B2 (en) | Image input apparatus and image input method | |
EP0921375B1 (en) | Camera layout for acquiring images | |
US6839081B1 (en) | Virtual image sensing and generating method and apparatus | |
JP6126820B2 (en) | Image generation method, image display method, image generation program, image generation system, and image display apparatus | |
JP2005056295A (en) | 360-degree image conversion processing apparatus | |
JP2002269592A (en) | Image processing device and method | |
US11252398B2 (en) | Creating cinematic video from multi-view capture data | |
JP2001008232A (en) | Omnidirectional video output method and apparatus | |
JP4348468B2 (en) | Image generation method | |
WO2009093136A2 (en) | Image capture and motion picture generation | |
CN101872243A (en) | System and method for realizing 360-degree panoramic play following real space direction | |
US6965699B2 (en) | Camera information coding/decoding method for synthesizing stereoscopic real video and a computer graphic image | |
Taylor | Videoplus: a method for capturing the structure and appearance of immersive environments | |
JP2849313B2 (en) | Image recording and playback device | |
Kanade et al. | Virtualized reality: perspectives on 4D digitization of dynamic events | |
JPH09186951A (en) | Image recording and reproducing device | |
US20160127617A1 (en) | System for tracking the position of the shooting camera for shooting video films | |
JPH09186957A (en) | Image recording and reproducing device | |
KR920002473B1 (en) | Image synthesizing apparatus | |
CN113096008A (en) | Panoramic picture display method, display device and storage medium | |
JPH1023465A (en) | Image pickup method and its device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040323 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040331 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090409 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090409 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100409 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110409 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140409 Year of fee payment: 10 |
|
LAPS | Cancellation because of no payment of annual fees |