JP4218626B2 - Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium - Google Patents
Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium Download PDFInfo
- Publication number
- JP4218626B2 JP4218626B2 JP2004311564A JP2004311564A JP4218626B2 JP 4218626 B2 JP4218626 B2 JP 4218626B2 JP 2004311564 A JP2004311564 A JP 2004311564A JP 2004311564 A JP2004311564 A JP 2004311564A JP 4218626 B2 JP4218626 B2 JP 4218626B2
- Authority
- JP
- Japan
- Prior art keywords
- decoding
- frame
- playback
- picture
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 102
- 238000007906 compression Methods 0.000 claims description 30
- 230000006835 compression Effects 0.000 claims description 30
- 230000002457 bidirectional effect Effects 0.000 claims 6
- 230000015654 memory Effects 0.000 description 177
- 230000002441 reversible effect Effects 0.000 description 63
- 238000012545 processing Methods 0.000 description 47
- 230000008569 process Effects 0.000 description 44
- 230000008929 regeneration Effects 0.000 description 39
- 238000011069 regeneration method Methods 0.000 description 39
- 230000004048 modification Effects 0.000 description 32
- 238000012986 modification Methods 0.000 description 32
- 238000010586 diagram Methods 0.000 description 31
- 230000004044 response Effects 0.000 description 24
- 230000004043 responsiveness Effects 0.000 description 14
- 230000003111 delayed effect Effects 0.000 description 12
- 102100037812 Medium-wave-sensitive opsin 1 Human genes 0.000 description 11
- 238000012546 transfer Methods 0.000 description 11
- 238000013139 quantization Methods 0.000 description 6
- 238000007796 conventional method Methods 0.000 description 5
- 230000001172 regenerating effect Effects 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Description
この発明は、複数フレーム単位でフレーム間圧縮が行われたビデオストリームの1倍速以下の速度での再生が可能な復号化装置、復号化方法および復号化プログラム、再生システム、再生装置、再生方法および再生プログラム、ならびに、記録媒体に関する。 The present invention relates to a decoding device, a decoding method and a decoding program, a reproduction system, a reproduction device, a reproduction method, and a decoding method capable of reproducing a video stream that has been inter-frame compressed in units of a plurality of frames at a speed equal to or less than 1 × The present invention relates to a reproduction program and a recording medium.
記録媒体に記録されたディジタルビデオ信号を再生するようにされた再生装置が知られている。ディジタルビデオ信号は、データ容量が膨大となるため、所定の方式で圧縮符号化されて記録媒体に記録されるのが一般的である。近年では、MPEG2(Moving Picture Experts Group 2)方式が圧縮符号化の標準的な方式として知られている。MPEG2では、DCT(Discrete Cosine Transform)によるフレーム内圧縮と、動き補償に基づく予測符号化によるフレーム間圧縮とを用いてディジタルビデオ信号の圧縮符号化を行い、さらに可変長符号を用いてデータの圧縮率を高めている。 A reproducing apparatus adapted to reproduce a digital video signal recorded on a recording medium is known. Since a digital video signal has an enormous data capacity, it is generally compressed and encoded by a predetermined method and recorded on a recording medium. In recent years, MPEG2 (Moving Picture Experts Group 2) system is known as a standard system for compression coding. In MPEG2, digital video signals are compressed and encoded using intra-frame compression using DCT (Discrete Cosine Transform) and interframe compression using predictive coding based on motion compensation, and data compression using variable-length codes. The rate is increasing.
フレーム間圧縮を行う場合、MPEG2によるビデオストリームは、フレーム内圧縮に基づくI(Intra-coded)ピクチャと、予測符号化に基づくピクチャであるP(Predictive-coded)ピクチャおよびB(Bi-directionally predictive coded)ピクチャとから構成される。Iピクチャは、それ自身の情報のみで復号化が可能である。一方、Pピクチャは、予測画像として時間的に前の画像が必要とされ、Bピクチャは、予測画像として時間的に前後の画像が必要とされ、単独では復号化されない。 When inter-frame compression is performed, a video stream according to MPEG2 includes an I (Intra-coded) picture based on intra-frame compression, a P (Predictive-coded) picture that is a picture based on predictive coding, and B (Bi-directionally predictive coded). ) Picture. An I picture can be decoded only with its own information. On the other hand, the P picture requires a temporally previous image as a predicted image, and the B picture requires a temporally previous and subsequent image as a predicted image, and is not decoded alone.
また、ランダムアクセスを可能とするために、Iピクチャを定期的に挿入し、Iピクチャを少なくとも1枚有するフレーム群構造を持つようにする。このフレーム群構造を、GOP(Group Of Picture)と称する。すなわち、GOPは、少なくとも1枚のIピクチャと、1乃至複数枚のPおよびBピクチャから構成される。ビデオストリームに対する処理は、GOP単位でなされ、例えば記録媒体に記録されたビデオストリームに対して、このGOP単位でアクセスされる。 In order to enable random access, an I picture is periodically inserted to have a frame group structure having at least one I picture. This frame group structure is referred to as GOP (Group Of Picture). That is, the GOP is composed of at least one I picture and one or more P and B pictures. Processing for the video stream is performed in units of GOPs. For example, a video stream recorded on a recording medium is accessed in units of GOPs.
GOPには、GOP内で完全に復号化が可能な、閉じた構造を持つクローズドGOPと、復号化の際に1つ前のGOPの情報を用いることができるオープンGOPとの2種類がある。オープンGOPは、クローズドGOPと比較して、より多くの情報を用いて復号化できるため高画質を得られ、一般的に用いられている。以下では、単に「GOP」と記述した場合には、特に断りのない限り、このオープンGOPを指すものとする。 There are two types of GOPs: a closed GOP having a closed structure that can be completely decoded within the GOP, and an open GOP that can use information of the previous GOP at the time of decoding. An open GOP can be decoded using more information than a closed GOP, so that high image quality can be obtained and is generally used. In the following, when “GOP” is simply described, this open GOP is indicated unless otherwise specified.
なお、1枚のIピクチャのみでGOPを構成することもでき、シングルGOPと称される。シングルGOPは、フレーム単位での編集を行う際に有利である。これに対して、上述の複数のピクチャから構成されるGOPをロングGOPと称する。シングルGOPでは、後述する問題点は発生しないため、以下では、GOPは、ロングGOPを指すものとする。 Note that a GOP can be composed of only one I picture, which is referred to as a single GOP. Single GOP is advantageous when editing in units of frames. On the other hand, a GOP composed of a plurality of pictures is referred to as a long GOP. In the single GOP, the problem described later does not occur. Therefore, hereinafter, the GOP indicates a long GOP.
1GOPは、例えば1枚のIピクチャ、4枚のPピクチャおよび10枚のBピクチャの、計15枚のピクチャから構成される。GOP内のI、PおよびBピクチャの表示順は、図27Aに一例が示されるように、「B0B1I2B3B4P5B6B7P8B9B10P11B12B13P14」のようになる。なお、添え字は表示順を示す。 One GOP is composed of a total of 15 pictures, for example, one I picture, four P pictures, and 10 B pictures. As shown in FIG. 27A, the display order of the I, P, and B pictures in the GOP is “B 0 B 1 I 2 B 3 B 4 P 5 B 6 B 7 P 8 B 9 B 10 P 11 B is as 12 B 13 P 14 ". The subscript indicates the display order.
この例では、最初の2枚のB0ピクチャおよびB1ピクチャは、1つ前のGOPにおける最後尾のP14ピクチャと、このGOP内のI2ピクチャとを用いて予測され復号化されたピクチャである。GOP内の最初のP5ピクチャは、I2ピクチャから予測され復号化されたピクチャである。他のP8ピクチャ、P11ピクチャおよびP14ピクチャは、それぞれ1つ前のPピクチャを用いて予測され復号化されたピクチャである。また、I2ピクチャ以降の各Bピクチャは、それぞれ前後のIおよび/またはPピクチャから予測され復号化されたピクチャである。 In this example, the first two B 0 pictures and B 1 pictures are predicted and decoded using the last P 14 picture in the previous GOP and the I 2 picture in this GOP. It is. The first P 5 picture in the GOP is a picture predicted from the I 2 picture and decoded. The other P 8 picture, P 11 picture, and P 14 picture are pictures predicted and decoded using the previous P picture, respectively. Each B picture after the I 2 picture is a picture predicted and decoded from the preceding and following I and / or P pictures.
一方、Bピクチャは、時間的に前後のIまたはPピクチャを用いて予測され復号化されるため、ストリームや記録媒体上におけるI、PおよびBピクチャの並び順は、デコーダにおける復号化の順序を考慮して決める必要がある。すなわち、Bピクチャを復号化するためのIおよび/またはPピクチャは、当該Bピクチャよりも常に先に復号化されていなければならない。 On the other hand, because B pictures are predicted and decoded using temporally preceding and following I or P pictures, the order of arrangement of I, P, and B pictures on a stream or recording medium is the order of decoding in a decoder. It is necessary to decide in consideration. That is, an I and / or P picture for decoding a B picture must always be decoded before the B picture.
上述の例では、ストリームや記録媒体上の各ピクチャの並び順は、図27Bに例示されるように、「I2B0B1P5B3B4P8B6B7P11B9B10P14B12B13」のようになり、この順でデコーダに入力される。なお、添え字は、図27Aに対応し、表示順を示す。 In the above-described example, the arrangement order of each picture on the stream or the recording medium is “I 2 B 0 B 1 P 5 B 3 B 4 P 8 B 6 B 7 P 11 B 9 as illustrated in FIG. 27B. B 10 P 14 B 12 B 13 ”and are input to the decoder in this order. The subscripts correspond to FIG. 27A and indicate the display order.
デコーダにおける復号化処理は、図27Cに示されるように、先ずI2ピクチャを復号化し、復号化されたこのI2ピクチャと1つ前のGOPにおける最後尾(表示順)のP14ピクチャとによりB0ピクチャおよびB1ピクチャを予測し復号化する。そして、B0ピクチャおよびB1ピクチャを復号化された順にデコーダから出力し、次にI2ピクチャを出力する。B1ピクチャが出力されると、次にP5ピクチャがI2ピクチャを用いて予測され復号化される。そして、I2ピクチャおよびP5ピクチャを用いてB3ピクチャおよびB4ピクチャが予測され復号化される。そして、復号化されたB3ピクチャおよびB4ピクチャを復号化された順にデコーダから出力し、次にP5ピクチャを出力する。 As shown in FIG. 27C, the decoding process in the decoder is performed by first decoding the I 2 picture and using the decoded I 2 picture and the last P 14 picture (display order) in the previous GOP. B 0 picture and B 1 picture are predicted and decoded. Then, the B 0 picture and the B 1 picture are output from the decoder in the decoded order, and then the I 2 picture is output. Once the B 1 picture is output, the P 5 picture is then predicted and decoded using the I 2 picture. Then, the B 3 picture and the B 4 picture are predicted and decoded using the I 2 picture and the P 5 picture. Then, the decoded B 3 picture and B 4 picture are output from the decoder in the order of decoding, and then the P 5 picture is output.
以下、同様にして、Bピクチャの予測に用いるPまたはIピクチャをBピクチャより先に復号化し、この復号化されたPまたはIピクチャを用いてBピクチャを予測して復号化し、復号化されたBピクチャを出力してから、当該Bピクチャを復号化するために用いたPまたはIピクチャを出力する処理が繰り返される。図27Bのようなピクチャ配置は、復号化に要するフレームメモリが4フレーム分で足りるため、一般的に用いられている。非特許文献1には、このようにしてMPEG2のエレメンタリストリームを復号化する方法が記載されている。
ところで、近年では、パーソナルコンピュータなどコンピュータ装置の処理能力の向上に伴い、このようなMPEG2方式により圧縮符号化されたビデオストリーム再生や編集を、コンピュータ装置を用いて行う例が増えてきている。図28は、MPEG2方式などを用いて圧縮符号化されたビデオストリームを復号化するための、一例のコンピュータ装置100の構成を概略的に示す。バス110に対してCPU(Central Processing Unit)111、メモリ112およびハードディスクドライブ113が接続される。メモリ112は、CPU111のワークメモリとして用いられるメモリである。復号化前のMPEG2ビデオストリームが、図27Bに示されるようなピクチャ配列でハードディスクドライブ113に格納されている。さらに、バス110に対して、デコーダ114およびバッファメモリ116が接続される。デコーダ114は、復号化処理のためのフレームメモリ115を有している。
By the way, in recent years, with the improvement of the processing capability of a computer device such as a personal computer, an example in which a computer device is used to reproduce and edit a video stream compressed and encoded by the MPEG2 system is increasing. FIG. 28 schematically shows a configuration of an
このような構成において、CPU111は、ハードディスクドライブ113からビデオストリームを読み出し、必要に応じてバッファメモリ116を利用しながら、読み出されたビデオストリームをバス110を介してデコーダ114に供給する。デコーダ114は、図27Cを用いて説明した順序に従い、供給されたストリームのIピクチャおよびPピクチャをフレームメモリ115に書き込んで復号化し、フレームメモリ115上のIピクチャおよび/またはPピクチャを用いて予測されるBピクチャが入力されたら、入力されたBピクチャのデータをフレームメモリ115上のデータを用いて復号化し、出力する。
In such a configuration, the
なお、コンピュータ装置でビデオストリームの復号化を行う場合、CPU111の処理速度が十分高速であれば、デコーダ114を設けずに全ての処理をCPU111内部で行うことも可能となる。しかしながら、より高解像度のビデオデータを復号化する場合には、リアルタイム性を満足できなくなる可能性もあるため、図28のように、ハードウェアとしてのデコーダ114を別途、設ける必要がある。例えば、デコーダ114を搭載した拡張ユニットを、コンピュータ装置100に対して搭載する。
When decoding a video stream by a computer device, if the processing speed of the
ここで、上述したようなMPEG2ビデオストリームを、本来の再生速度の1/2倍速や1/3倍速で再生を行うといったスロー再生を行う場合について考える。従来のデコーダ114は、ビデオストリームの入力を止めると、入力を止める直前のフレームを繰り返し出力し、出力がフリーズするような構成となっていた。例えば、入力を止めた場合に、フレームメモリ115のデータをフレームのタイミングで繰り返し読み出して出力することで、フリーズが実現される。
Here, consider a case where the above-described MPEG2 video stream is subjected to slow playback such as playback at 1/2 times the original playback speed or 1/3 speed. The
このスロー再生を、ビデオストリームの再生開始時から行う場合、従来では、再生開始に伴いデコーダ114に最初に入力されるピクチャから、スロー再生の速度で入力および復号化を行っていた。これを、図29を用いて説明する。MPEG2のエレメンタリストリームの場合、ビデオストリームは、I2ピクチャからデコーダ114に入力が開始される。なお、図29において、ピクチャを示す四角に付された斜線は、GOPを区別するためのものである。
When this slow playback is performed from the start of playback of the video stream, conventionally, input and decoding are performed at a slow playback speed from the picture that is first input to the
1/2倍速のスロー再生を行う場合、従来では、図29に一例が示されるように、I2ピクチャが入力された次の1フレーム同期信号期間は、デコーダ114に対する入力が止められ、その次のフレーム同期信号期間で次のピクチャ(B0ピクチャ)が入力される。以降、1フレーム同期信号毎にピクチャの入力および入力停止が繰り返され、1/2倍速のスロー再生が実現される。
In the case of performing ½-speed slow playback, conventionally, as shown in FIG. 29, the input to the
すなわち、デコーダ114は、最初に入力されたI2ピクチャを出力に先立って先行的に復号化し、フレームメモリ115に書き込む。次に、1/2倍速のスロー再生のシーケンスに従い、1フレーム同期信号期間、デコーダ114に対する入力が停止され、その次のフレーム同期信号のタイミングで、次のB0ピクチャが入力される。さらに、次の1フレーム同期信号期間、デコーダ114に対する入力が停止され、その次のフレーム同期信号のタイミングで、さらに次のB1ピクチャが入力される。
That is, the
なお、B0ピクチャおよびB1ピクチャは、前のGOPのP14ピクチャが無いため、復号化されない。 Note that the B 0 picture and the B 1 picture are not decoded because there is no P 14 picture of the previous GOP.
次にP5ピクチャが入力されると、このP5ピクチャが既に復号化されフレームメモリ115に書き込まれたI2ピクチャを用いて復号化されると共に、フレームメモリ115内のI2ピクチャが1フレーム同期信号期間、出力される。次の1フレーム同期信号期間では、入力が停止されると共に、フレームメモリ115内のI2ピクチャが繰り返し読み出され、出力がフリーズされる。
Next, when a P 5 picture is input, the P 5 picture is decoded using the I 2 picture that has already been decoded and written in the
このように、従来では、スロー再生を、ピクチャ入力および復号化開始の当初からスロー再生の速度に応じて行っていたため、最初の出力ピクチャが得られるまでに、スロー再生速度に応じた時間を要することになり、例えばユーザの再生装置に対する操作によりスロー再生開始の指示がなされてから、実際の画像が出力されるまでの応答性が悪いという問題点があった。 As described above, conventionally, since slow playback is performed according to the speed of slow playback from the beginning of picture input and decoding, it takes time according to the slow playback speed until the first output picture is obtained. In other words, for example, there is a problem that the responsiveness until an actual image is output after an instruction to start slow playback is made by a user's operation on the playback device is poor.
図29の例は、1/2倍速スロー再生の例であって、Iピクチャの入力および復号化の開始からピクチャ出力まで、6フレーム分の遅延が生じる。この遅延は、スロー再生速度に応じて長くなり、例えば1/5倍速スロー再生の場合には、Iピクチャの入力および復号化の開始からピクチャ出力まで15フレーム分、すなわち、30フレーム/秒の場合には、0.5秒もの時間を要してしまい、非常に応答性が悪いという問題点があった。 The example of FIG. 29 is an example of 1 / 2-speed slow reproduction, and a delay of 6 frames occurs from the start of I picture input and decoding to picture output. This delay becomes longer in accordance with the slow playback speed. For example, in the case of 1 / 5-speed slow playback, 15 frames from the start of I picture input and decoding to picture output, that is, 30 frames / second. Has a problem that it takes as much as 0.5 seconds and the response is very poor.
したがって、この発明の目的は、スロー再生を応答性よく開始することができるような復号化装置、復号化方法および復号化プログラム、再生システム、再生装置、再生方法および再生プログラム、ならびに、記録媒体を提供することにある。 Accordingly, an object of the present invention is to provide a decoding device, a decoding method and a decoding program, a playback system, a playback device, a playback method and a playback program, and a recording medium that can start slow playback with good responsiveness. It is to provide.
この発明は、上述した課題を解決するために、圧縮符号化されたビデオデータを復号化して出力する復号化装置において、入力されたビデオデータを復号化して出力する復号化手段と、復号化手段に対するビデオデータの入力と、入力されたビデオデータに対する復号化を、所定のシーケンスに基づき制御する制御手段とを有し、制御手段は、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化装置である。 In order to solve the above-described problems, the present invention provides a decoding device for decoding and outputting compressed and encoded video data, and decoding means for decoding and outputting input video data, and decoding means Video data input and control means for controlling the decoding of the input video data based on a predetermined sequence, and the control means decodes when a playback speed less than 1 × is instructed. Control is performed so that the input to the decoding means of the preceding frame input before the timing of the first frame output from the means and the decoding by the decoding means of the preceding frame are performed based on the sequence of the 1 × speed reproduction. The decoding device is characterized in that it is configured as described above.
また、この発明は、圧縮符号化されたビデオデータを復号化して出力する復号化方法において、入力されたビデオデータを復号化して出力する復号化のステップを有し、1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化方法である。 According to another aspect of the present invention, there is provided a decoding method for decoding and outputting compressed and encoded video data, and having a decoding step of decoding and outputting input video data, and a reproduction speed less than 1 × speed When instructed, the input to the decoding step of the preceding frame input before the timing of the first output frame from the decoding step, and the decoding by the decoding step of the preceding frame, The decoding method is characterized in that control is performed based on a sequence of 1 × speed reproduction.
また、この発明は、圧縮符号化されたビデオデータを復号化して出力する復号化方法をコンピュータ装置に実行させる復号化プログラムにおいて、復号化方法は、入力されたビデオデータを復号化して出力する復号化のステップを有し、1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化プログラムである。 According to another aspect of the present invention, there is provided a decoding program for causing a computer apparatus to execute a decoding method for decoding and outputting compression-encoded video data. The decoding method decodes input video data and outputs the decoded data. And an input to a preceding frame decoding step that is input before the timing of the first output frame from the decoding step when a playback speed less than 1 × speed is indicated. The decoding program is characterized in that the decoding by the step of decoding the preceding frame is controlled based on the sequence of the 1 × speed reproduction.
また、この発明は、圧縮符号化されたビデオデータを復号化して出力する復号化方法をコンピュータ装置に実行させる復号化プログラムが記録されたコンピュータ装置が読み取り可能な記録媒体において、復号化方法は、入力されたビデオデータを復号化して出力する復号化のステップを有し1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とするコンピュータ装置が読み取り可能な記録媒体である。 According to another aspect of the present invention, there is provided a recording medium readable by a computer device on which a decoding program for causing a computer device to execute a decoding method for decoding and outputting compression-encoded video data is output. A decoding step for decoding and outputting input video data is provided, and when a playback speed of less than 1 × speed is designated, it is input before the timing of the first output frame from the decoding step. The computer apparatus is characterized in that control is performed so that the input to the decoding step of the preceding frame and the decoding by the decoding step of the preceding frame are performed based on the sequence of the 1 × speed reproduction. Recording medium.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生装置において、圧縮符号化されたビデオデータが記録される記録媒体と、ビデオデータの再生速度を示す速度情報を出力する速度情報出力手段と、記録媒体から読み出されたビデオデータを復号化して出力する復号化手段とを有し速度情報出力手段から出力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生装置である。 The present invention also relates to a recording device for recording compressed and encoded video data and a playback speed of the video data in a playback device that decodes and outputs the video data that has been compressed and recorded on the recording medium. Speed information output means for outputting speed information and decoding means for decoding and outputting video data read from the recording medium, and reproduction at a speed less than 1 × speed by the speed information output from the speed information output means When the speed is instructed, the input to the decoding unit of the preceding frame input before the timing of the first frame output from the decoding unit and the decoding by the decoding unit of the preceding frame are 1 A playback apparatus characterized in that control is performed based on a double-speed playback sequence.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法において、ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップとを有し、速度情報出力のステップから出力された速度情報により、1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生方法である。 According to another aspect of the present invention, there is provided a playback method for decoding and outputting video data recorded on a recording medium after being compressed and encoded, a speed information output step for outputting speed information indicating the playback speed of the video data, and compression encoding A decoding step of decoding and outputting the video data read from the recording medium on which the recorded video data is recorded, and reproduction at a speed less than 1 × speed by the speed information output from the speed information output step When the speed is instructed, the input to the decoding step of the preceding frame that is input before the timing of the first output frame from the decoding step, and the decoding by the decoding step of the preceding frame; Is a reproduction method characterized in that control is performed based on a 1 × speed reproduction sequence.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、再生方法は、ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップとを有し、速度情報出力のステップから出力された速度情報により、1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生プログラムである。 According to another aspect of the present invention, there is provided a playback program for causing a computer apparatus to execute a playback method for decoding and outputting video data compressed and encoded and recorded on a recording medium. The playback method includes speed information indicating a playback speed of video data. A speed information output step for outputting, and a decoding step for decoding and outputting the video data read from the recording medium on which the compression-encoded video data is recorded, from the speed information output step When a playback speed less than 1 × speed is instructed by the output speed information, an input to the decoding step of the preceding frame input before the timing of the first output frame from the decoding step; In addition, it is controlled so that the decoding by the decoding step of the preceding frame is performed based on the sequence of the 1 × speed reproduction. A reproduction program characterized and.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法をコンピュータ装置に実行させる再生プログラムが記録されたコンピュータ装置に読み取り可能な記録媒体において、再生方法は、ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップとを有し、速度情報出力のステップから出力された速度情報により、1倍速未満の再生速度が指示された際に、復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化のステップへの入力と、先行フレームの復号化のステップによる復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とするコンピュータ装置に読み取り可能な記録媒体である。 The present invention also relates to a playback method in a recording medium readable by a computer device on which a playback program for causing a computer device to execute a playback method for decoding and outputting video data that has been compression-encoded and recorded on a recording medium. Is a speed information output step for outputting speed information indicating the playback speed of the video data, and a decoding process for decoding and outputting the video data read from the recording medium on which the compressed and encoded video data is recorded. And when the playback speed less than 1 × is instructed by the speed information output from the speed information output step, it is input before the timing of the first output frame from the decoding step. The input to the preceding frame decoding step and the decoding by the preceding frame decoding step are 1 × speed. A computer-readable recording medium apparatus being characterized in that so as to control to perform based on the raw sequence.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生システムにおいて、圧縮符号化されたビデオデータが記録される記録媒体とビデオデータの再生速度を示す速度情報を出力する速度情報出力手段とを有する制御装置と、記録媒体から読み出されたビデオデータを復号化して出力する復号化手段と、速度情報出力手段から出力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御する制御手段とを有する復号化装置とを備えることを特徴とする再生システムである。 The present invention also relates to a recording system on which compression-encoded video data is recorded and a speed indicating the playback speed of the video data in a playback system that decodes and outputs video data recorded on the recording medium after being compressed and encoded. Control apparatus having speed information output means for outputting information, decoding means for decoding and outputting video data read from the recording medium, and speed information output from the speed information output means, less than 1 × speed When the playback speed is instructed, the input to the decoding means of the preceding frame input before the timing of the first frame output from the decoding means and the decoding by the decoding means of the preceding frame are performed. A decoding system comprising: a decoding device having control means for performing control based on a 1 × speed reproduction sequence.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法において、圧縮符号化されたビデオデータが入力され、入力されたビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体からビデオデータを読み出して供給すると共に、ビデオデータの再生速度を示す速度情報を供給するようにしたことを特徴とする再生方法である。 According to another aspect of the present invention, there is provided a reproduction method for decoding and outputting video data that has been compression-encoded and recorded on a recording medium. The video data that has been compression-encoded is input and the input video data is decoded and output. Decoding means for decoding a preceding frame input before the timing of the first frame output from the decoding means when a playback speed of less than 1 × speed is indicated by the input speed information Compression-encoded video data is recorded on a decoding device that controls the input to the means and the decoding of the preceding frame by the decoding means based on the sequence of the 1 × speed reproduction. In addition to reading and supplying video data from a recording medium, speed information indicating the playback speed of the video data is supplied. That.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、再生方法は、圧縮符号化されたビデオデータが入力され、入力されたビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体からビデオデータを読み出して供給すると共に、ビデオデータの再生速度を示す速度情報を供給するようにしたことを特徴とする再生プログラムである。 According to another aspect of the present invention, there is provided a playback program for causing a computer apparatus to execute a playback method of decoding and outputting video data recorded on a recording medium after being compressed and encoded. , Having a decoding means for decoding and outputting the input video data, and when the reproduction speed less than 1 × speed is instructed by the input speed information, the first output frame from the decoding means For a decoding apparatus that controls to input the preceding frame input before the timing to the decoding means and to decode the preceding frame by the decoding means based on the sequence of the 1 × speed reproduction In addition, the video data is read out and supplied from the recording medium on which the compressed and encoded video data is recorded, and the playback speed of the video data is indicated. A reproduction program which is characterized in that so as to provide the speed information.
また、この発明は、圧縮符号化され記録媒体に記録されたビデオデータを復号化して出力する再生方法をコンピュータ装置に実行させる再生プログラムが記録されたコンピュータ装置に読み取り可能な記録媒体において、再生方法は、圧縮符号化されたビデオデータが入力され、入力されたビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体からビデオデータを読み出して供給すると共に、ビデオデータの再生速度を示す速度情報を供給するようにしたことを特徴とするコンピュータ装置が読み取り可能な記録媒体である。 The present invention also relates to a playback method in a recording medium readable by a computer device on which a playback program for causing a computer device to execute a playback method for decoding and outputting video data that has been compression-encoded and recorded on a recording medium. Has a decoding means for decoding and outputting the input video data when the compressed and encoded video data is input, and when the playback speed less than 1 × is instructed by the input speed information The input of the preceding frame input before the timing of the first frame output from the decoding unit to the decoding unit and the decoding of the preceding frame by the decoding unit are performed based on the sequence of the 1 × speed reproduction. Video data from a recording medium on which compression-encoded video data is recorded to a decoding device controlled in such a manner. Supplies out look is a recording medium computing device readable, characterized in that it has to supply a velocity information indicating the playback speed of the video data.
上述したように、請求項1、11、12および13に記載の発明は、1倍速未満の再生速度が指示された際に、入力されたビデオデータを復号化して最初に出力されるフレームのタイミングより以前に入力される先行フレームの入力と、先行フレームの復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしているため、再生開始時からスロー再生を行う場合でも、スロー再生開始指示からフレーム出力までのレイテンシが減少され、スロー再生開始の応答性が向上されると共に、スロー再生速度にかかわらずレイテンシが一定とされる。 As described above, according to the first, eleventh, twelfth and thirteenth aspects of the present invention, when a playback speed less than 1 × speed is instructed, the timing of the first output frame after decoding the input video data Since the input of the preceding frame input earlier and the decoding of the preceding frame are controlled based on the sequence of the 1 × speed playback, even if the slow playback is performed from the start of the playback, The latency from the playback start instruction to frame output is reduced, the response to start slow playback is improved, and the latency is constant regardless of the slow playback speed.
また、請求項14、24、25および26に記載の発明は、ビデオデータの再生速度を示す速度情報が出力され、この速度情報により、1倍速未満の再生速度が指示された際に、記録媒体から読み出されたビデオデータを復号化して最初に出力されるフレームのタイミングより以前に入力される先行フレームの入力と、先行フレームの復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしているため、出力された速度情報に基づき、記録媒体から読み出されたビデオデータを再生開始時からスロー再生を行う場合でも、スロー再生開始指示からフレーム出力までのレイテンシが減少され、スロー再生開始の応答性が向上されると共に、スロー再生速度にかかわらずレイテンシが一定とされる。
According to the invention described in
また、請求項27、37、38および39に記載の発明は、圧縮符号化されたビデオデータが入力され、入力されたビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの復号化手段への入力と、先行フレームの復号化手段による復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、制御装置は、圧縮符号化されたビデオデータが記録された記録媒体からビデオデータを読み出して供給すると共に、ビデオデータの再生速度を示す速度情報を供給するようにしているため、制御装置側では、記録媒体に記録されたビデオデータと、ビデオデータの再生速度を示す速度情報を復号化装置に供給するだけで、記録媒体から読み出されたビデオデータを再生開始時からスロー再生を行う場合でも、スロー再生開始指示からフレーム出力までのレイテンシが減少され、スロー再生開始の応答性が向上されると共に、スロー再生速度にかかわらずレイテンシが一定とされる。
The invention described in
この発明は、再生開始直後からデコーダへの入力および復号化は行うが、出力は行わないフレームを、予めデコーダに入力し復号化してフレームメモリに書き込むようにし、その際に、当該フレームのデコーダへの入力や復号化は、通常の1倍速の入力タイミングで行うようにしている。そのため、再生開始時からスロー再生を行う場合でも、スロー再生開始指示からフレーム出力までのレイテンシが減少され、スロー再生開始の応答性が向上されるという効果がある。 In the present invention, a frame that is input to and decoded from a decoder immediately after the start of reproduction but that is not output is input to the decoder in advance and decoded and written to the frame memory. Are input at the normal 1 × speed input timing. Therefore, even when performing slow playback from the start of playback, there is an effect that latency from the slow playback start instruction to frame output is reduced, and responsiveness at the start of slow playback is improved.
また、再生開始直後からデコーダへの入力および復号化は行うが、出力は行わないフレームの、デコーダへの入力や復号化のタイミングを、通常の1倍速のタイミングに限定しているので、スロー再生速度にかかわらずレイテンシが一定であるという効果がある。 Also, since the input to the decoder and the decoding are performed immediately after the start of the reproduction but the output is not performed, the input to the decoder and the decoding timing are limited to the normal 1 × speed, so the slow reproduction is performed. There is an effect that the latency is constant regardless of the speed.
以下、この発明の実施の一形態を、図面を参照しながら説明する。図1は、この発明の第1の形態に適用可能な一例の再生装置の構成を概略的に示す。この再生装置は、コンピュータ装置1と、コンピュータ装置1と接続し、コンピュータ装置1に対してビデオストリームのデコード機能および再生制御機能をハードウェア的に提供するデコーダボード2とからなる再生システムとして構成される。
Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 schematically shows the structure of an example of a playback apparatus applicable to the first embodiment of the present invention. This playback device is configured as a playback system including a
以下では、コンピュータ装置1がパーソナルコンピュータであって、デコーダボード2は、パーソナルコンピュータのスロットに装填され、PCIバス(Peripheral Component Interconnect Bus)に接続して用いられるPCIボードであるものとして説明する。なお、これはこの例に限定されず、再生装置は、ビデオストリームを再生するために設計および製造された専用の再生装置であってもよいし、ビデオストリームの記録再生を行うための記録再生装置であってもよい。さらに、他の目的のために設計および製造された装置に組み込まれているものでもよい。
In the following description, it is assumed that the
コンピュータ装置1において、ノースブリッジ10とサウスブリッジ13とが互いに接続される。ノースブリッジ10は、例えばCPU(Central Processing Unit)11、メモリ12および図示されないグラフィック回路が接続され、これらCPU11、メモリ12およびグラフィック回路などの間でなされる、高速なデータ転送を制御する。
In the
サウスブリッジ13は、ノースブリッジ10と比べて低速なデータ転送を制御し、主にインターフェイスの制御を行う。例えば、サウスブリッジ13は、ハードディスクドライブに対するインターフェイスを有し、ハードディスクドライブ14が接続される。また、例えばCD(Compact Disc)やDVD(Digital Versatile Disc)などを読み取り可能なドライブ装置に対するインターフェイスなども有する。さらに、サウスブリッジ13は、PCIバスに対するインターフェイスを有し、PCIバス15が接続される。PCIバス15は、PCIボードを接続可能なコネクタを1また複数有する。
The
ハードディスクドライブ14には、この再生装置で再生されるビデオストリームが格納される。ハードディスクドライブ14に格納されたビデオストリームは、CPU11により読み出され、サウスブリッジ13の制御に基づきPCIバス15に対して転送される。この実施の一形態においては、ハードディスクドライブ14に格納されたビデオストリームへのアクセスは、所定に区切られた複数フレームを単位として行われる。例えば、ビデオストリームがMPEG2のエレメンタリストリームであれば、ハードディスクドライブ14に格納されたビデオストリームに対するアクセスは、GOPを単位として行われる。
The
なお、ハードディスクドライブ14は、CPU11を動作させるためのプログラムデータなども、格納される。このプログラムデータは、例えばCD−ROM(Compact Disc-Read Only Memory)やDVD−ROM(Digital Versatile Disc-Read Only Memory)といった記録媒体に記録され、提供される。プログラムデータが記録された記録媒体を、コンピュータ装置1の図示されないドライブ装置に所定に装填して、記録媒体を再生し、プログラムデータを読み出してハードディスクドライブ14に所定にインストールする。ハードディスクドライブ14から読み出されたプログラムデータは、例えばメモリ12上に展開され、CPU11により読み込まれ実行される。プログラムデータとビデオストリームとは、それぞれ別のハードディスクドライブに格納すると、アクセス性などの面から好ましい。
The
デコーダボード2において、コントロールバス22に対してPCIブリッジ20、デコード部30およびCPU25が接続される。PCIブリッジ20は、コンピュータ装置1のPCIバス15に対するインターフェイスである。すなわち、このデコーダボード2は、コンピュータ装置1のPCIバス15に設けられたコネクタに装着され、PCIバス15とPCIブリッジ20とが電気的に接続されて用いられる。PCIブリッジ20は、メモリ21をバッファとして用い、PCIバス15との間でのデータのやりとりを制御する。
In the
例えば、CPU11からのコマンドや各種データがPCIバス15を介してPCIブリッジ20に供給される。PCIブリッジ20は、供給されたCPU11からのコマンドや各種データを、コントロールバス22を介してCPU25に供給する。また例えば、ハードディスクドライブ14から読み出されたビデオストリームがPCIバス15を介してPCIブリッジ20に供給される。PCIブリッジ20は、供給されたビデオストリームを一旦メモリ21に溜め込んでから、デコード部30に供給する。
For example, commands and various data from the
デコード部40は、概略的には、デコーダ23とフレームメモリ24とを有する。デコーダ23は、供給されたビデオストリームを復号化してフレーム単位でフレームメモリ24に書き込む。フレームメモリに書き込まれたデータは、所定に読み出され、出力ビデオデータとして出力される。
The
CPU25は、メモリ26をワークメモリとして用い、CPU11と各種命令やデータのやりとりを行いながら、デコーダボード2の各部を制御し、デコーダボード2における復号化処理を制御する。なお、デコーダボード2におけるビデオデータに対する処理は、図示されないクロック発生回路により発生された、ビデオフレーム周期に同期したフレーム同期信号に基づきタイミング制御されて行われる。
The
上述のような構成において、CPU11により、ハードディスクドライブ14から所定の複数フレーム単位でビデオストリームが読み出されると共に、CPU11とCPU25との間で、PCIバス15を介してコマンドや各種データのやりとりが行われる。このやりとりに基づき、ハードディスクドライブ14から読み出されたビデオストリームがサウスブリッジ13およびPCIバス15を介してPCIブリッジ20に供給され、メモリ21に一旦溜め込まれる。
In the configuration as described above, the
CPU25は、CPU11の命令に基づき、PCIブリッジ20に対して、メモリ21に溜め込まれたビデオストリームをフレーム単位で読み出してデコーダ23に供給するように命令する。メモリ21に溜め込まれたビデオストリームは、例えばCPU11からの再生方向の指示に基づくCPU25の命令に従い、供給された順序とは異なる順序にフレーム単位で並び替えられて読み出される。また、CPU11からの再生速度を指示する速度情報に基づくCPU25の命令に従い、読み出しのタイミングが制御される。
Based on the instruction from the
デコーダ23は、メモリ21から供給されたフレーム単位のビデオデータをCPU25から供給される復号化開始命令に従い復号化し、フレームメモリ24に書き込む。フレームメモリ24に書き込まれたビデオデータは、CPU25から供給される表示開始命令に従い読み出され、出力ビデオデータとして出力される。
The
図2は、デコーダ23の一例の構成を示す。デコード回路30および出力アドレス決定回路31は、それぞれコントロールバス22を介してCPU25と接続され、CPU25からの命令に基づき、ビデオストリームの復号化や、復号化されてフレームメモリ24に書き込まれたビデオデータの読み出しを行う。メモリコントローラ32は、フレームメモリ24に対するアクセス制御を行う。
FIG. 2 shows an exemplary configuration of the
デコーダ23に供給されたビデオデータは、デコード回路30で復号化され、CPU25の命令に基づきメモリコントローラ32にアドレス制御され、フレームメモリ24に書き込まれる。また、デコード回路30は、供給されたビデオデータの復号化を、CPU25からの命令に基づき、必要に応じてフレームメモリ24上にあるビデオデータを用いて行い、復号化されたビデオデータをフレームメモリ24に書き込む。
The video data supplied to the
一方、CPU25は、次のタイミングで出力するフレームを指示する表示開始命令を、コントロールバス22を介して出力アドレス決定回路31に供給する。この表示開始命令は、例えば、出力アドレス決定回路31が有するレジスタなどに書き込まれ、次に供給される表示開始命令により更新される。換言すれば、表示開始命令は、新たな表示開始命令が供給されるまで、保持される。出力アドレス決定回路31は、この表示開始命令に従い、フレームメモリ24から読み出すべきフレームのアドレスを求め、このアドレスに基づきメモリコントローラ32を介してフレームメモリ24からビデオデータをフレーム単位で読み出す。フレームメモリ24から読み出されたビデオデータは、出力ビデオデータとして出力される。
On the other hand, the
次に、この発明の実施の一形態によるスロー再生の制御方法について説明する。先ず、理解を容易とするために、この発明に適用可能なビデオストリームおよびビデオストリームの1倍速再生時の再生制御について、概略的に説明する。 Next, a slow playback control method according to an embodiment of the present invention will be described. First, in order to facilitate understanding, a video stream applicable to the present invention and playback control at the time of 1 × playback of the video stream will be schematically described.
この発明の実施の一形態では、ビデオデータの符号化方式として、背景技術の項で既に述べたMPEG2方式を適用する。また、1GOPが15フレームからなり、I、PおよびBピクチャの表示順は、「B0B1I2B3B4P5B6B7P8B9B10P11B12B13P14」であり、ビデオストリーム(以下、エレメンタリストリーム(Elementary Stream:ES)と呼ぶ)におけるI、PおよびBピクチャの配列は、「I2B0B1P5B3B4P8B6B7P11B9B10P14B12B13」であるものとする。
In the embodiment of the present invention, the MPEG2 system already described in the background section is applied as the video data encoding system. One GOP consists of 15 frames, and the display order of I, P and B pictures is “B 0 B 1 I 2 B 3 B 4 P 5 B 6 B 7 P 8 B 9 B 10 P 11 B 12 B 13 P 14 ”, and the arrangement of I, P, and B pictures in a video stream (hereinafter referred to as an elementary stream (ES)) is“ I 2 B 0 B 1 P 5 B 3 B 4 P 8 B 6 B 7 and P 11 B 9 B 10 P 14
この実施の一形態では、ハードディスクドライブ14から読み出され、デコーダボード2に入力されたエレメンタリストリームのこのピクチャ配列を、フォワード(正方向)再生の際には、下記の配列(1)のように並べ替えて、デコーダ23に入力する。
I2P5P8P11P14B0B1B3B4B6B7B9B10B12B13 ・・・(1)
また、リバース(逆方向)再生の際には、下記の配列(2)のように並べ替えて、デコーダ23に入力する。なお、リバース再生の場合、B1ピクチャおよびB0ピクチャは、符号化順で1つ前のGOPのピクチャである。
I2P5P8P11P14(B1)(B0)B13B12B10B9B7B6B4B3 ・・・(2)
このように並べ替えることで、MPEG2ビデオストリームのリバース再生が容易に行えると共に、フォワード再生をリバース再生と同様の処理で行うことができる。
In this embodiment, this picture array of elementary streams read from the
I 2 P 5 P 8 P 11 P 14 B 0 B 1 B 3 B 4 B 6 B 7 B 9 B 10 B 12 B 13 (1)
In reverse (reverse direction) reproduction, data is rearranged as shown in the following array (2) and input to the
I 2 P 5 P 8 P 11 P 14 (B 1 ) (B 0 ) B 13 B 12 B 10 B 9 B 7 B 6 B 4 B 3 (2)
By rearranging in this way, reverse playback of the MPEG2 video stream can be easily performed, and forward playback can be performed by the same processing as reverse playback.
データの並べ替えは、デコーダボード2のメモリ21を用いて行う。すなわち、CPU11により、ハードディスクドライブ14から1乃至複数GOPのエレメンタリストリームが読み出され、PCIバス15を介してデコーダボード2に転送される。この1乃至複数GOPのエレメンタリストリームは、デコーダボード2において、PCIブリッジ20に入力され、メモリ21に溜め込まれる。なお、メモリ21は、少なくとも4GOP分の容量を有するものとする。
Data rearrangement is performed using the
なお、CPU25は、メモリ21に複数GOP分が溜め込まれたエレメンタリストリームについて、GOPの先頭と、各フレーム(ピクチャ)の境界と、各ピクチャのピクチャタイプ(I、PおよびB)とを知ることができ、これらの情報に基づき、メモリ21から任意のピクチャ順でデータを読み出すことができる。
The
例えば、CPU11は、ハードディスクドライブ14に格納されたエレメンタリストリーム中のGOPヘッダをサーチし、サーチ結果に基づきエレメンタリストリームをGOP単位でハードディスクドライブ14から読み出し、デコーダボード2のメモリ21に対して、GOP先頭が書き込まれるアドレスを指定して書き込む。CPU11からCPU25に対して、このGOP先頭のメモリ21上でのアドレス情報が送信される。このアドレス情報に基づき、CPU25は、メモリ21上に書き込まれたエレメンタリストリームのGOP先頭にアクセスし、さらに、GOP内の各ピクチャヘッドをサーチし、ピクチャ境界と、各ピクチャのピクチャタイプを取得する。
For example, the
図3および図4を用いて、1倍速再生の際のフォワード再生の再生制御について説明する。図3は、デコーダ23における入出力および内部処理の概略的なシーケンスを示す。この図3に一例が示されるシーケンスは、エレメンタリストリームの復号化の開始時に、CPU25により予めスケジューリングされる。
The reproduction control of forward reproduction at the time of 1 × speed reproduction will be described using FIG. 3 and FIG. FIG. 3 shows a schematic sequence of input / output and internal processing in the
図3において、「ES入力」は、デコーダ23に対して入力されるエレメンタリストリームのピクチャ順序を示す。エレメンタリストリームは、上述した配列(1)に従ったピクチャ順序でデコーダ23に入力される。デコード回路30では、CPU25からの復号化開始命令に従い入力されたピクチャを復号化して、「デコード」に示されるようなピクチャ順序でフレームメモリ24に書き込む。この図3の例では、ES入力に対して1フレーム同期信号分遅延して、復号化されたピクチャがフレームメモリ24に書き込まれている。フレームメモリ24に書き込まれたピクチャは、出力可能となる。CPU25から、「表示命令」に示されるピクチャ順序で表示開始命令が送信される。この表示開始命令に従い、フレームメモリ24から、「出力」に示されるようなピクチャ順序で、フレーム同期信号に同期してピクチャが読み出され、出力される。この図3の例では、出力は、表示開始命令に対して1フレーム同期信号分遅延される。「ビデオ出力」は、デコーダボード2から外部に出力されるストリームを示す。
In FIG. 3, “ES input” indicates the picture order of the elementary stream input to the
なお、図3における「ES入力」、「デコード」、「表示命令」、「出力」および「ビデオ出力」などの意味は、後述する同様の図において、共通である。 Note that the meanings of “ES input”, “decode”, “display command”, “output”, “video output”, and the like in FIG.
図4は、図3のシーケンスに基づくフレームメモリ24の一例の使用状況を、GOP#1の先頭から復号化が開始されるものとして示す。図4において、縦軸は、図3の「デコード」に対応し、フレームメモリ24に対して書き込まれるピクチャをフレーム同期信号単位の時系列で示す。横軸は、出力されるピクチャを示す。出力ピクチャは、時系列的には、図4中に「●(黒丸)」で示されるようにして出力される。また、図4において、「◎(二重丸)」は、横軸のタイミングでフレームメモリ24に書き込まれるピクチャを示し、「○(丸印)」は、横軸のタイミングで既に書き込まれているピクチャを示す。すなわち、図4の横軸は、そのタイミングでフレームメモリ24に書き込まれているピクチャを示している。
FIG. 4 shows an example of the usage status of the
先ず、I2ピクチャが復号化されフレームメモリ24に書き込まれ、続けて、P5ピクチャ、P8ピクチャ、P11ピクチャおよびP14ピクチャが、図中に矢印で示されるように、それぞれ1つ前に復号化されたIまたはPピクチャを用いて復号化され、それぞれフレームメモリ24に書き込まれる。次に、B0ピクチャおよびB1ピクチャが、1つ前のGOPのP14ピクチャと、このGOP#1のI2ピクチャとを用いて復号化される。この図4の例では、GOP#1から復号化が開始されているので、B0ピクチャおよびB1ピクチャを復号化する必要が無い。
First, the I 2 picture is decoded and written in the
続けて、B3ピクチャおよびB4ピクチャ、B6ピクチャおよびB7ピクチャ、B9ピクチャおよびB10ピクチャ、ならびに、B12ピクチャおよびB13ピクチャが順次、図中に矢印で示されるように、それぞれのピクチャの表示順で前後のIまたはPピクチャを用いて復号化され、それぞれ表示開始命令により自身の表示がなされるまで、フレームメモリ24に保持される。
Subsequently, the B 3 picture and the B 4 picture, the B 6 picture and the B 7 picture, the B 9 picture and the B 10 picture, and the B 12 picture and the B 13 picture are sequentially shown by arrows in the figure, respectively. These pictures are decoded using the preceding and succeeding I or P pictures in the display order of the pictures, and are held in the
このように、この実施の一形態では、IピクチャおよびPピクチャは、GOP内の全てのBピクチャより先に復号化され、自身の出力がなされるまで、フレームメモリ24内に保持される。このような、他のピクチャから参照されるためにフレームメモリ24内に保持されるピクチャを、アンカーピクチャと称する。例えば、Iピクチャおよび4枚のPピクチャは、アンカーピクチャである。
As described above, in this embodiment, the I picture and the P picture are decoded before all the B pictures in the GOP and are held in the
なお、図4において、時系列方向でGOP#2のI2ピクチャ以降は、GOP#1のI2ピクチャからB13ピクチャまでの処理が繰り返されるので、詳細な説明を省略する。
In FIG. 4, the processing from the I 2 picture of
各タイミングにおけるフレームメモリ24の占有フレーム数を、図4の右端に示す。なお、時系列上でGOP#2以降の占有フレーム数は、GOP#1の対応する部分の処理が繰り返されるものとして示す。このように、フォワード再生においては、占有フレーム数が7フレームを超えることがない。フォワード再生時には、フレームメモリ24に書き込まれたピクチャのそれぞれは、表示開始命令に従い出力された時点で解放可能である。開放された領域には、新たなピクチャを上書きすることができる。
The number of frames occupied by the
図5および図6を用いて、1倍速再生の際のリバース再生の再生制御について説明する。図5は、上述した図3と対応する図であって、デコーダ23におけるリバース再生時の入出力および内部処理の概略的なシーケンスを示す。この図5に示されるシーケンスも、上述と同様に、エレメンタリストリームの復号化開始時に、CPU25により予めスケジューリングされる。
Reproduction control of reverse reproduction at the time of 1 × speed reproduction will be described with reference to FIGS. FIG. 5 is a diagram corresponding to FIG. 3 described above, and shows a schematic sequence of input / output and internal processing at the time of reverse reproduction in the
図5において、エレメンタリストリームは、「ES入力」に示されるように、上述した配列(2)に従ったピクチャ順序でデコーダ23に入力される。デコーダ回路30では、CPU25からの復号化開始命令に従い、入力されたピクチャを復号化して、「デコード」に示されるようなピクチャ順序でフレームメモリ24に書き込む。この図5の例では、ES入力に対して1フレーム同期信号分遅延して、ピクチャが復号化されフレームメモリ24に書き込まれている。フレームメモリ24に書き込まれたピクチャは、出力可能となる。
In FIG. 5, the elementary stream is input to the
CPU25から、「表示命令」に示されるピクチャ順序で表示開始命令が送信される。リバース再生の場合には、上述のフォワード再生とは逆に、P14ピクチャからB0ピクチャに向けた表示順で表示されるように表示開始命令が送信される。この表示開始命令に従い、フレームメモリ24から、「出力」に示されるようなピクチャ順序でピクチャが読み出され、表示開始命令に対して1フレーム同期信号分遅延されて出力される。
A display start command is transmitted from the
図6は、図5のシーケンスに基づくフレームメモリ24の使用状況を、GOP#1の先頭から復号化が開始されるものとして示す。図6中の各部の意味は、上述した図4と同様である。
FIG. 6 shows the usage status of the
IピクチャおよびPピクチャの処理は、フォワード再生の場合と同様に、I2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャおよびP14ピクチャの順に、それぞれ1つ前に復号化されたIまたはPピクチャを用いて復号化され、それぞれフレームメモリ24に書き込まれる。
As in the case of forward playback, the processing of the I picture and the P picture is performed in the order of the I 2 picture, the P 5 picture, the P 8 picture, the P 11 picture, and the P 14 picture. Each picture is decoded using a P picture and written in the
リバース再生の場合、上述したように、P14ピクチャの次に復号化されるB1ピクチャおよびB0ピクチャは、リバース再生の入力順で1つ前のGOP#0に含まれるピクチャである。この図6の例では、GOP#1から復号化が開始されており、B1ピクチャおよびB0ピクチャの復号化が省略されている。
In the case of reverse playback, as described above, the B 1 picture and B 0 picture that are decoded next to the P 14 picture are pictures included in
続けて、B13ピクチャおよびB12ピクチャ、B10ピクチャおよびB9ピクチャ、B7ピクチャおよびB6ピクチャ、ならびに、B4ピクチャおよびB3ピクチャが順次、図中に矢印で示されるように、それぞれのピクチャの表示順で前後のIまたはPピクチャを用いて復号化され、それぞれ表示開始命令により自身の表示がなされるまで、フレームメモリ24に保持される。リバース再生の場合でも、上述したフォワード再生の場合と同様に、IピクチャおよびPピクチャは、GOP内の全てのBピクチャより先に復号化され、自身の出力がなされるまで、フレームメモリ24内に保持される。
Subsequently, the B 13 picture and the B 12 picture, the B 10 picture and the B 9 picture, the B 7 picture and the B 6 picture, and the B 4 picture and the B 3 picture are sequentially shown as indicated by arrows in the figure, respectively. These pictures are decoded using the preceding and succeeding I or P pictures in the display order of the pictures, and are held in the
なお、図6において、時系列方向でGOP#2のI2ピクチャ以降は、GOP#1のI2ピクチャからB3ピクチャまでの処理が繰り返されるので、詳細な説明を省略する。
In FIG. 6, the processing from the I 2 picture of
各タイミングにおけるフレームメモリ24の占有フレーム数を、図6の右端に示す。なお、時系列上でGOP#2以降の占有フレーム数は、GOP#1の対応する部分の処理が繰り返されるものとして示す。リバース再生の場合には、B0ピクチャの復号化の際にI2ピクチャが必要となるため、上述したフォワード再生の場合とは異なり、B0ピクチャの復号化のタイミングにおいて占有フレーム数が8フレームとなる。その他のタイミングでは、占有フレーム数が7フレームを超えることがない。したがって、上述のフォワード再生時の処理と併せて、フレームメモリ24の容量を少なくとも8フレーム分とすることで、フォワード再生およびリバース再生の何方にも対応可能である。
The number of frames occupied by the
なお、リバース再生時には、フレームメモリ24上のI2ピクチャは、自身の出力が完了した後も、B0ピクチャの復号化が完了するまでは解放されない。I2ピクチャ以外のピクチャに関しては、自身の出力がなされた時点で解放可能である。
At the time of reverse reproduction, the I 2 picture on the
また、フォワード再生およびリバース再生の何れの場合も、フレームメモリ24上のどの領域にどのピクチャを書き込むか、といった制御は、例えば復号化のシーケンスをスケジューリングする際に、CPU25により適宜に行われる。例えば、デコーダボード2に供給されるエレメンタリストリームのフォーマットが予め分かっていれば、所定のテーブルやアルゴリズムを用いて、フレームメモリ24に対する各ピクチャのマッピングを制御することができる。
In either case of forward reproduction or reverse reproduction, control such as which picture is written in which area on the
このように、この実施の一形態に適用される再生制御方法によれば、メモリ21上でエレメンタリストリームのピクチャ順序を所定に並び替えてデコーダ23に供給するようにしているため、フォワード再生とリバース再生とを略同様の処理で行うことができ、必要なフレームメモリも8フレーム分で済む。
Thus, according to the playback control method applied to this embodiment, the picture order of the elementary stream is rearranged in a predetermined order on the
次に、この発明の実施の一形態に適用可能なスロー再生制御について説明する。このスロー再生制御は、デコーダ23に対するビデオデータ(ピクチャ)の入力と、CPU25からデコーダ23に供給される表示開始命令とを共に停止することで行うようにしている。これにより、フォワードおよびリバース方向のスロー再生を容易に、応答性よく行うことができる。
Next, slow reproduction control applicable to one embodiment of the present invention will be described. This slow reproduction control is performed by stopping both the input of video data (picture) to the
また、この発明では、再生の開始時からスロー再生を行う場合において、再生の開始時にピクチャの出力に先立って復号化されるピクチャを、1倍速再生の場合と同様のタイミングで予め入力および復号化する。これにより、スロー再生から再生を開始する際の応答性を向上させることができ、また、スロー再生開始から実際にスロー再生による出力が得られるまでの遅延時間がスロー再生の再生速度に依存されないようにできる。 In addition, in the present invention, when performing slow playback from the start of playback, a picture to be decoded prior to output of the picture at the start of playback is input and decoded in advance at the same timing as in the case of 1 × playback. To do. This can improve the responsiveness when starting playback from slow playback, and the delay time from the start of slow playback until the actual output by slow playback is obtained does not depend on the playback speed of slow playback. Can be.
なお、スロー再生は、2以上のフレーム同期信号毎に1回、出力フレームを更新することで実現できる。換言すれば、スロー再生は、同一フレーム画像を固定的に出力するポーズ再生と、ステップ命令により1フレームずつ送りながら出力するステップ再生とを組み合わせた動作であるということができる。例えば、1フレーム期間のポーズ再生と、1回のステップ再生との組み合わせを繰り返すことで、1/2倍速再生となる。また例えば、2フレーム期間のポーズ再生と、1回のステップ再生との組み合わせを繰り返すと、1/3倍速再生となる。以下では、1/2倍速再生の場合について、説明する。 Note that the slow reproduction can be realized by updating the output frame once every two or more frame synchronization signals. In other words, it can be said that the slow reproduction is an operation in which pause reproduction in which the same frame image is output in a fixed manner and step reproduction in which the frame is output one frame at a time according to a step command. For example, by repeating a combination of pause playback for one frame period and one step playback, 1 / 2-speed playback is achieved. Further, for example, when a combination of pause playback in a two-frame period and one step playback is repeated, 1/3 speed playback is performed. Hereinafter, the case of 1 / 2-speed playback will be described.
図7は、フォワード再生時に、ポーズ再生、ステップ再生および1/2倍速のスロー再生を行う場合の一例のシーケンスを示す。ES入力におけるI、PおよびBピクチャの配列は、上述の図3の例と同一の配列(1)である。先ず、ポーズ再生について説明する。例えばユーザは、ビデオ出力で出力されたビデオデータによる再生映像を見ながら、所望の再生映像位置でポーズ再生が行われることを期待して、再生装置を操作する。図7の例では、ユーザにより、出力データにおけるI2ピクチャのタイミングでポーズ再生の指示がなされる。この指示に基づき、CPU11からポーズ再生命令200が送信される。
FIG. 7 shows an example sequence in the case of performing pause playback, step playback, and 1 / 2-speed slow playback during forward playback. The arrangement of the I, P, and B pictures in the ES input is the same arrangement (1) as in the example of FIG. First, pause reproduction will be described. For example, the user operates the playback device in expectation that pause playback is performed at a desired playback video position while watching the playback video based on the video data output at the video output. In the example of FIG. 7, the user issues a pause playback instruction at the timing of the I 2 picture in the output data. Based on this instruction, a pause reproduction command 200 is transmitted from the
なお、図7では、説明のため、1フレーム同期信号期間の中間付近でポーズ再生の指示がなされたものとしている。ポーズ再生指示によるポーズ命令200は、フレーム同期信号に同期してなされるため、ポーズ命令200は、命令が送信されたタイミングの直後のフレーム同期信号のタイミングから有効となる。例えば、上述のようにIピクチャのタイミングでポーズ命令200が送信された場合、実際には、次のフレーム期間からポーズ再生が開始され、B3ピクチャが固定的に映出される。 In FIG. 7, for the sake of explanation, it is assumed that an instruction for pause reproduction has been given in the vicinity of the middle of one frame synchronization signal period. Since the pause command 200 based on the pause playback instruction is issued in synchronization with the frame synchronization signal, the pause command 200 becomes effective from the timing of the frame synchronization signal immediately after the timing at which the command is transmitted. For example, if the pause command 200 at the timing of the I-picture as described above is transmitted, in fact, pose reproduction from the next frame period is started, B 3 picture is fixedly movies out.
ユーザによるポーズ再生指示は、CPU11により受け取られる。CPU11は、このポーズ再生指示に応じて、再生速度を示す速度情報を、出力画像の更新を全く行わないことを示す「0」としてCPU25に伝える。CPU25は、この速度情報に基づき、デコーダ23に対する復号化開始命令および表示開始命令を停止する。それと共に、CPU25は、デコーダ23に対するピクチャの入力を停止する。例えば、CPU25は、メモリ21からのピクチャの読み出しを停止させて、デコーダ23に対するピクチャの入力を停止する。メモリ21からは通常通りピクチャを読み出し、読み出されたピクチャをデコーダ23に供給しないようにしてもよい。
The pause reproduction instruction by the user is received by the
図7を参照して、ポーズ再生指示に応じたデコーダ23各部の動作について説明する。出力データにおけるI2ピクチャのタイミングは、ES入力のB6ピクチャに対応する。したがって、ポーズ命令200に従い、ES入力においてB6ピクチャの次のピクチャ(B7ピクチャ)の入力が停止される。
With reference to FIG. 7, the operation of each part of the
CPU25は、ES入力により入力されたB6ピクチャに対する復号化開始命令を出し、次のピクチャからの復号化開始命令を停止する。復号化されたB6ピクチャは、1倍速のフォワード再生の場合と同様にして、フレームメモリ24に書き込まれる。
The
一方、出力データにおけるI2ピクチャのタイミングは、表示開始命令のB3ピクチャに対応する。したがって、B3ピクチャに対する表示開始命令が送信された後、次のピクチャ(B4ピクチャ)からの表示開始命令がポーズ命令200に従い停止される。表示開始命令が停止され表示開始命令が無い期間では、表示開始命令が停止される直前のピクチャがフレームメモリ24からフレーム同期信号に同期して繰り返し読み出される。この図7の例では、B3ピクチャがフレームメモリ24から繰り返し読み出されることになり、ポーズ再生指示に応じたポーズ再生が実現される。
On the other hand, the timing of the I 2 picture in the output data corresponds to the B 3 picture of the display start instruction. Therefore, after the display start command for the B 3 picture is transmitted, the display start command from the next picture (B 4 picture) is stopped according to the pause command 200. In a period in which the display start command is stopped and there is no display start command, the picture immediately before the display start command is stopped is repeatedly read from the
ポーズ再生中は、フレームメモリ24内の各ピクチャは、保持される。そのため、ポーズ再生が解除されポーズ再生命令により入力を停止されたピクチャがES入力としてデコーダ23に入力されても、フレームメモリ24内のピクチャを用いた復号化を実行することができる。
During pause playback, each picture in the
例えば、図7の例で、出力データのI2ピクチャのタイミングでポーズ命令200が送信され、ポーズ命令200から2フレーム後(図7のステップ命令201の位置)のタイミングでポーズ再生を解除する指示が送信された場合について考える。
For example, in the example of FIG. 7, a pause command 200 is transmitted at the timing of the I 2 picture of the output data, and an instruction to cancel pause playback at a timing two frames after the pause command 200 (position of the
この場合、ポーズ再生解除の指示の直後のフレーム同期信号のタイミングでポーズ再生が解除され、通常の復号化動作が開始される。したがって、ES入力では、ポーズ再生指示の際に入力が停止されたB7ピクチャからピクチャの入力が開始され、入力されたB7ピクチャの復号化開始命令が送信される。この復号化開始命令に応じて、フレームメモリ24に保持されているP5ピクチャおよびP8ピクチャを用いてB7ピクチャが復号化される。
In this case, pause playback is released at the timing of the frame synchronization signal immediately after the pause playback release instruction, and a normal decoding operation is started. Thus, the ES inputs, entered during pause reproduction instruction input picture is started from the B 7 picture is stopped, the decoding start command input B7 picture is transmitted. In response to this decoding start command, the B 7 picture is decoded using the P 5 picture and the P 8 picture held in the
表示開始命令についても同様に、ポーズ再生指示により停止されたB3ピクチャの次のピクチャであるB4ピクチャから表示開始命令が出力され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB4ピクチャが出力される。 Similarly, with respect to the display start command, a display start command is output from the B 4 picture that is the next picture after the B 3 picture stopped by the pause playback instruction, and is delayed by one frame synchronization signal from the display start command, and the frame memory The B 4 picture held in 24 is output.
次に、図7を参照してステップ再生指示に応じたデコーダ23各部の動作について説明する。例えば、ポーズ再生中に現在表示されているフレームの次のフレームを見たい場合に、ステップ再生が指示される。このステップ再生指示に応じて、CPU11からCPU25に対してステップ再生を行うステップ命令201が送信される。CPU25は、このステップ命令201に応じて、デコーダ23の各部をステップ再生を行うように制御する。この制御は、上述のポーズ再生動作におけるポーズ再生解除の際の制御と、略同一である。
Next, the operation of each part of the
例えば、図7の例で、ポーズ再生中にステップ命令201が送信された場合、ステップ命令201の直後のフレーム同期信号のタイミングで、1フレーム分の復号化動作が行われる。
For example, in the example of FIG. 7, when the
すなわち、ES入力では、直前のポーズ再生により入力が停止されたB6ピクチャの次のB7ピクチャが入力され、入力されたB7ピクチャの復号化開始命令が送信される。この復号化開始命令に従い、フレームメモリ24に保持されているP5ピクチャおよびP8ピクチャを用いてB7ピクチャが復号化され、フレームメモリ24に所定に書き込まれる。表示開始命令についても同様に、直前のポーズ再生により更新が停止されているB3ピクチャの次のピクチャであるB4ピクチャの表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB4ピクチャが出力される。
That is, in the ES input, the B 7 picture next to the B 6 picture whose input has been stopped by the previous pause reproduction is input, and a decoding start command for the input B 7 picture is transmitted. In accordance with this decoding start instruction, the B 7 picture is decoded using the P 5 picture and the P 8 picture held in the
なお、ステップ再生動作においては、CPU25は、CPU11により送信されるフレーム更新命令毎に、デコーダ23に対して次のピクチャを入力すると共に、入力された次のピクチャの復号化開始命令と、出力フレームを更新する表示開始命令とを、フレーム同期信号に合わせて送信する。すなわち、ステップ再生動作では、CPU11からCPU25に対してフレーム更新命令が送信されるまでは、デコーダ23に対してピクチャが入力されず、出力フレームの更新も行われない。
In the step reproduction operation, the
次に、スロー再生時の動作について説明する。再生速度が1倍速未満のスロー再生は、フレーム同期信号に合わせて同一のフレームを繰り返し出力し、速度情報に応じた更新タイミングで出力フレームを更新することで、実現される。CPU25は、CPU11から送信された速度情報の値が「1」未満且つ「0」以上であれば、スロー再生が指示されたと判断し、速度情報に応じたフレームの更新タイミングを求める。フレームの更新タイミングは、例えば与えられた速度情報に基づく計算や、予め求められ例えばメモリ26に記憶されたテーブルを参照するなどにより、求められる。例えば1/2倍速のスロー再生の場合は、速度情報「0.5」に基づき、2回のフレーム同期信号に対して1回、出力フレームの更新を行うことで実現される。
Next, the operation during slow playback will be described. Slow playback with a playback speed of less than 1 × speed is realized by repeatedly outputting the same frame in accordance with the frame synchronization signal and updating the output frame at an update timing corresponding to the speed information. If the value of the speed information transmitted from the
図7を参照して、スロー再生時のデコーダ23各部の動作について説明する。CPU11からCPU25に対して、速度情報として値「0.5」が送信され、CPU25に対して1/2倍速のスロー再生を指示する1/2倍速命令202が出される。この1/2倍速命令202は、次のフレーム同期信号のタイミングで有効とされる。CPU25は、この1/2倍速命令202に基づき、デコーダ23のES入力としてB10ピクチャを入力し、入力されたB10ピクチャの復号化開始命令をデコーダ23に送信する。それと共に、CPU25は、デコーダ23に対して、出力フレームを次のB6ピクチャに更新するように、表示開始命令を送信する。この表示開始命令に応じて、表示開始命令から1フレーム同期信号分遅延して、出力フレームが更新される。
With reference to FIG. 7, the operation of each part of the
Bピクチャを更新する表示開始命令が送信された次のフレーム同期信号のタイミングでは、ES入力において入力が停止され、それと共に復号化開始命令も送信されない。入力が停止されたので、CPU25から表示開始命令が送信されず、そのため、出力フレームが更新されず、B6ピクチャが再び出力される。 At the timing of the next frame synchronization signal at which the display start command for updating the B picture is transmitted, the input is stopped at the ES input, and at the same time, the decoding start command is not transmitted. Since the input is stopped, display start instruction from CPU25 is not transmitted, therefore, the output frame is not updated, B 6 picture is output again.
以降、1/2倍速のスロー再生時には、この動作が繰り返し行われる。したがって、スロー再生は、1回のステップ再生と、当該ステップ再生により更新されたフレームに対する所定フレーム期間分のポーズ再生とを組み合わせた動作と等価であるといえる。 Thereafter, this operation is repeatedly performed at the time of 1 / 2-speed slow playback. Therefore, it can be said that the slow reproduction is equivalent to an operation combining one step reproduction and pause reproduction for a predetermined frame period with respect to a frame updated by the step reproduction.
すなわち、CPU25は、出力フレームの更新タイミングでないときは、デコーダ23に対する復号化開始命令および表示開始命令の送信を停止し、上述したポーズ再生動作をデコーダ23に行わせる。これにより、デコーダ23は、上述したように、入力されるピクチャが無いため出力側のピクチャを保持し、次の更新タイミングになるまで同一ピクチャを繰り返し出力する。
That is, when it is not the update timing of the output frame, the
また、出力フレームの更新タイミングでは、復号化開始命令と表示開始命令とをデコーダ23に送信し、上述したステップ再生動作をデコーダ23に行わせる。これにより、デコーダ23は、上述したように、入力されたピクチャの復号化と、出力ピクチャの更新とを行う。
At the output frame update timing, a decoding start instruction and a display start instruction are transmitted to the
ここで、再生開始時からスロー再生(1/2倍速スロー再生とする)を行う場合について考える。再生開始時にスロー再生が指示されると、図8に一例が示されるように、復号化されたピクチャの出力に先立って、I2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャおよびP14ピクチャが順次、デコーダ23に入力される。デコーダ23は、先行的に入力されたこれらのIピクチャおよび4枚のPピクチャを復号化し、フレームメモリ24に書き込む。Iピクチャおよび4枚のPピクチャが復号化されると、最初に出力される予定のB0ピクチャがデコーダ23に入力される。
Here, consider the case of performing slow playback (1 / 2-speed slow playback) from the start of playback. When slow playback is instructed at the start of playback, as shown in an example in FIG. 8, prior to outputting the decoded picture, I 2 picture, P 5 picture, P 8 picture, P 11 picture and P 14 are output. Pictures are sequentially input to the
従来は、このIピクチャおよび4枚のPピクチャ、ならびに、最初に出力が予定されているB0ピクチャのデコーダ23に対する入力および復号化を、スロー再生による再生速度のタイミングで行っていた。例えば、CPU25からデコーダ23に対して送信された1/2倍速スロー命令300は、直後のフレーム同期信号302から有効となる。このフレーム同期信号302から、上述したような1/2倍速のスロー再生のシーケンスに従ってスロー再生動作が開始され、最初にI2ピクチャが入力および復号化され、以降、1フレーム同期信号期間おきに4枚のPピクチャが順次入力および復号化される。このようなスロー再生制御方法では、既に問題点として説明したように、スロー再生速度に応じて、1/2倍速スロー命令から実際にスロー再生による出力が得られるまでの遅延時間が長くなることになり、応答性が悪い。
Conventionally, input and decoding of the I picture, the four P pictures, and the B 0 picture scheduled to be output first to the
そこで、この発明の実施の一形態では、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い、出力を行わないピクチャについて、予め復号化してフレームメモリ24に書き込むようにしている。このとき、当該ピクチャのデコーダ23への入力や、デコーダ23における復号化は、予め通常の1倍速再生のシーケンスに従って、フレーム同期信号毎に行うようにする。
Therefore, in the embodiment of the present invention, input to the
このように、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い、出力を行わないピクチャについて、通常の1倍速再生のシーケンスに従って先行的に復号化を行うことで、例えば再生の開始時からスロー再生が指示されているような場合でも、応答性よくスロー再生を開始することができる。
In this way, input to the
図9を用いて、より具体的に説明する。なお、この図9および上述した図8は、例えば図3における「デコード」、「出力」および「ビデオ出力」を抜き出して簡略化した図である。Iピクチャおよび4枚のPピクチャは、全てのBピクチャに先立ってデコーダ23に入力され、復号化されてフレームメモリ24に書き込まれる。これらのIピクチャおよびPピクチャは、少なくとも、B1ピクチャの出力タイミングが経過するまで出力されない。また、最初に出力される予定のB0ピクチャは、勿論、デコーダ23に入力されてから少なくとも1フレーム同期信号期間分後に、出力される。そこで、Iピクチャおよび4枚のPピクチャと、最初に出力が予定されるB0ピクチャとを、先行的にデコーダ23に入力し復号化するピクチャとし、例えば再生の開始時からスロー再生が指示された場合に、1倍速再生のシーケンスに従ってデコーダ23への入力および復号化を行い、フレームメモリ24に書き込む。
This will be described more specifically with reference to FIG. FIG. 9 and FIG. 8 described above are simplified diagrams by extracting “decode”, “output”, and “video output” in FIG. 3, for example. The I picture and the four P pictures are input to the
そして、B0ピクチャの次からデコーダ23に入力される各ピクチャ(B1ピクチャ以降のピクチャ)に対するデコーダ23への入力および復号化を、デコーダ23の1/2倍速スロー再生のシーケンスに従い行う。デコーダ23における1/2倍速スロー再生のシーケンスは、図7を用いて既に説明した動作と同様なので、繁雑さを避けるために、詳細な説明を省略する。
Then, input to the
上述したように、CPU25は、メモリ21にエレメンタリストリームが書き込まれた際に、GOPの先頭と、各フレーム(ピクチャ)の境界と、各ピクチャのピクチャタイプ(I、PおよびB)とを取得している。そのため、1/2倍速スロー命令300直後のIピクチャおよび4枚のPピクチャ、ならびに、最初に出力される予定のB0ピクチャの入力および復号化を1倍速再生のタイミングで行い、それ以降のピクチャの入力および復号化を1/2倍速再生の動作に従い行うように制御するのは、容易である。
As described above, when the elementary stream is written in the
この発明による再生制御方法は、リバース再生時にも、上述のフォワード再生の場合と同様に適用できる。図10は、リバース再生時に、ポーズ再生、ステップ再生および1/2倍速のスロー再生を行う場合の一例のシーケンスを示す。ES入力におけるI、PおよびBピクチャの配列は、上述の図5の例と同一である。また、リバース再生時の動作は、基本的な考え方は、図7を用いて説明したフォワード再生時の動作と共通である。 The playback control method according to the present invention can be applied to reverse playback as in the case of forward playback described above. FIG. 10 shows an example sequence in the case of performing pause playback, step playback, and 1 / 2-times slow playback during reverse playback. The arrangement of I, P, and B pictures at the ES input is the same as that in the example of FIG. Further, the basic concept of the operation during reverse playback is the same as that during forward playback described with reference to FIG.
すなわち、ポーズ再生など、同一のフレームを繰り返し出力する場合には、デコーダ23に対するピクチャの入力および復号化開始命令を停止すると共に、出力フレームに対する表示開始命令を停止して出力フレームの更新を行わない。また、ポーズ再生を解除したり、ステップ再生を行うなど、一旦更新が停止されていた出力フレームを再び更新する場合には、入力が停止された次のピクチャを入力し、入力されたピクチャに対する復号化開始命令を出すと共に、表示開始命令が停止された次の出力フレームに対する表示開始命令が送信され、出力フレームが更新される。
That is, when repeatedly outputting the same frame, such as pause playback, the picture input to the
図10を参照して、リバース再生時のポーズ再生指示に応じたデコーダ23各部の動作について説明する。ユーザにより、出力データにおけるP14ピクチャのタイミングでポーズ再生の指示がなされポーズ命令203が送信された場合、出力データにおけるP14ピクチャのタイミングに対応するES入力のB10ピクチャの次のピクチャ(B9ピクチャ)の入力が停止される。また、ES入力により入力されたB10ピクチャの復号化開始命令が送信され、次のピクチャからの復号化開始命令が停止される。復号化されたB10ピクチャは、1倍速のリバース再生の場合と同様にして、フレームメモリ24に書き込まれる。
With reference to FIG. 10, the operation of each part of the
出力データ側では、出力データのP14ピクチャのタイミングに対応するB13ピクチャに対する表示開始命令が送信された後、次のピクチャ(B12ピクチャ)からの表示開始命令が停止され、表示開始命令が無い期間に、表示開始命令が停止される直前のピクチャ(図10の例ではB13ピクチャ)がフレームメモリ24からフレーム同期信号に同期して繰り返し読み出される。
On the output data side, after the display start command for the B 13 picture corresponding to the timing of the P 14 picture of the output data is transmitted, the display start command from the next picture (B 12 picture) is stopped and the display start command is issued. In the absence period, the picture immediately before the display start command is stopped (B 13 picture in the example of FIG. 10) is repeatedly read out from the
リバース再生時においても、ポーズ再生中は、フレームメモリ24内の各ピクチャは、保持される。そのため、ポーズ再生が解除されポーズ命令203により入力を停止されたピクチャがES入力としてデコーダ23に入力されても、フレームメモリ24内のピクチャを用いた復号化を実行することができる。
Even during reverse playback, each picture in the
ポーズ再生の解除が指示されると、指示直後のフレーム同期信号のタイミングでポーズ再生が解除され、通常の復号化動作が開始される。例えば、図10の例で、出力データのP14ピクチャのタイミングでポーズ命令203が送信され、ポーズ命令203から2フレーム後(図10のステップ命令204の位置)のタイミングでポーズ再生を解除する指示が送信された場合、ES入力では、ポーズ命令203の際に入力が停止されたB9ピクチャからピクチャの入力が開始され、ポーズ再生解除の指示の直後のフレーム同期信号のタイミングでB9ピクチャからの復号化開始命令が送信される。この復号化開始命令に従い、フレームメモリ24に保持されているP8ピクチャおよびP11ピクチャを用いてB9ピクチャが復号化される。
When cancellation of pause playback is instructed, pause playback is canceled at the timing of the frame synchronization signal immediately after the instruction, and a normal decoding operation is started. For example, in the example of FIG. 10, sent pause command 203 at the timing of P 14 picture of the output data, an instruction to release the pause playback timing of pause command 203 from the second frame after (position of the
表示開始命令についても同様に、ポーズ再生指示により停止されたB13ピクチャの次のピクチャであるB12ピクチャから表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB12ピクチャが出力される。 Similarly, with respect to the display start command, a display start command is transmitted from the B 12 picture that is the next picture of the B 13 picture stopped by the pause playback instruction, and is delayed by one frame synchronization signal from the display start command, and the frame memory The B 12 picture held in 24 is output.
次に、図10を参照して、リバース再生時のステップ再生指示に応じたデコーダ23各部の動作について説明する。例えば、ポーズ再生中に現在表示されているフレームの次のフレーム(リバース再生の場合は、フォワード再生における1つ前のフレーム)を見たい場合に、ステップ再生が指示され、CPU11からCPU25に対してステップ再生を行うステップ命令204が送信される。
Next, with reference to FIG. 10, the operation of each part of the
例えば、図10の例で、ポーズ再生中にステップ命令204が送信された場合、ES入力では、直前のポーズ命令203により入力が停止されたB10ピクチャの次のB9ピクチャが入力され、復号化開始命令が送信される。この復号化開始命令に従い、フレームメモリ24に保持されているP8ピクチャおよびP11ピクチャを用いてB9ピクチャが復号化され、フレームメモリ24に所定に書き込まれる。
For example, in the example of FIG. 10, when the
表示開始命令についても同様に、直前のポーズ命令203により更新が停止されているB13ピクチャの次のピクチャであるB12ピクチャの表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB12ピクチャが出力される。この場合も、フォワード再生の場合と同様に、CPU11からCPU25に対してフレーム更新命令が送信されるまでは、デコーダ23に対してピクチャが入力されず、出力フレームの更新も行われない。
Similarly, for the display start command, a display start command for the B 12 picture that is the next picture of the B 13 picture that has been updated by the previous pause command 203 is transmitted, and is delayed by one frame synchronization signal from the display start command. Then, the B 12 picture held in the
次に、スロー再生時の動作について説明する。リバース再生時においても、上述のフォワード再生と同様に、再生速度が1倍速未満のスロー再生は、フレーム同期信号に合わせて同一のフレームを繰り返し出力し、速度情報に応じた更新タイミングで出力フレームを更新することで、実現される。 Next, the operation during slow playback will be described. Even during reverse playback, as with forward playback described above, slow playback with a playback speed of less than 1 × speed repeatedly outputs the same frame according to the frame sync signal, and outputs an output frame at an update timing according to the speed information. It is realized by updating.
図10を参照して、リバース再生時のスロー再生におけるデコーダ23各部の動作について説明する。CPU11からCPU25に対して、速度情報として値「0.5」が送信され、CPU25に対して1/2倍速のスロー再生を指示する1/2倍速命令205が出される。なお、リバース再生を指示する命令は、予めCPU11からCPU25に送信されているものとする。速度情報にリバース再生命令を含めることもできる。1/2倍速命令205は、次のフレーム同期信号のタイミングで有効とされる。CPU25は、この1/2倍速命令205に基づき、デコーダ23のES入力としてB6ピクチャを入力し、入力されたB6ピクチャの復号化開始命令をデコーダ23に送信すると共に、デコーダ23に対して、出力フレームを次のB10ピクチャに更新するように、表示開始命令を送信する。この表示開始命令に応じて、1フレーム同期信号分遅延して出力フレームが更新される。
With reference to FIG. 10, the operation of each part of the
Bピクチャを更新する表示開始命令が送信された次のフレーム同期信号のタイミングでは、ES入力において入力が停止され、それと共に復号化開始命令も送信されない。入力が停止されたので、CPU25から表示開始命令が送信されず、そのため、出力フレームが更新されず、B10ピクチャが再び出力される。 At the timing of the next frame synchronization signal at which the display start command for updating the B picture is transmitted, the input is stopped at the ES input, and at the same time, the decoding start command is not transmitted. Since the input is stopped, display start instruction from CPU25 is not transmitted, therefore, the output frame is not updated, B 10 picture is output again.
以降、1/2倍速のスロー再生時には、この動作が繰り返し行われる。したがって、リバース再生においても、スロー再生は、1回のステップ再生と、当該ステップ再生により更新されたフレームに対する所定フレーム期間分のポーズ再生とを組み合わせた動作と等価であるといえる。 Thereafter, this operation is repeatedly performed at the time of 1 / 2-speed slow playback. Therefore, even in reverse playback, slow playback is equivalent to an operation that combines one step playback and pause playback for a predetermined frame period with respect to a frame updated by the step playback.
リバース再生開始時からスロー再生(1/2倍速スロー再生とする)を行う場合について考える。リバース再生開始時にスロー再生が指示されると、図11に一例が示されるように、復号化されたピクチャの出力に先立って、I2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャおよびP14ピクチャが順次、デコーダ23に入力される。デコーダ23は、先行的に入力されたこれらのIおよび4枚のPピクチャを復号化し、フレームメモリ24に書き込む。Iおよび4枚のPピクチャが復号化されると、最初に出力される予定の、リバース再生順で1つ前のGOPの(B1)ピクチャがデコーダ23に入力される。
Consider a case where slow playback (1 / 2-speed slow playback) is performed from the start of reverse playback. When slow playback is instructed at the start of reverse playback, as shown in an example in FIG. 11, prior to outputting the decoded picture, I 2 picture, P 5 picture, P 8 picture, P 11 picture, and P 14 pictures are sequentially input to the
従来のように、このIピクチャおよび4枚のPピクチャ、ならびに、最初に出力が予定されている(B1)ピクチャのデコーダ23に対する入力および復号化を、リバース方向のスロー再生によるシーケンスに従い行うと、図8を用いて説明した従来のフォワード再生の例と同様にして、スロー再生速度に応じて、1/2倍速スロー命令から実際にスロー再生による出力が得られるまでの遅延時間が長くなることになり、応答性が悪い。
When the input and decoding to the
リバース再生の場合にも、図9を用いて説明したこの発明の実施の一形態による再生制御方法を適用し、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い出力を行わないピクチャについて、予め復号化してフレームメモリ24に書き込む。このとき、当該ピクチャのデコーダ23への入力や、デコーダ23における復号化は、予め通常の1倍速再生のシーケンスで行うようにする。リバース再生についても、このように、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い出力を行わないピクチャについて、先行的に復号化を行うことで、例えば再生の開始時からリバース再生のスロー再生が指示されているような場合でも、応答性よくスロー再生を開始することができる。
Also in the case of reverse reproduction, the reproduction control method according to the embodiment of the present invention described with reference to FIG. 9 is applied, and input to the
図12を用いて、より具体的に説明する。なお、この図12および上述した図11は、例えば図3における「デコード」、「出力」および「ビデオ出力」を抜き出して簡略化した図である。Iピクチャおよび4枚のPピクチャは、全てのBピクチャに先立ってデコーダ23に入力され、復号化されてフレームメモリ24に書き込まれる。これらのIおよびPピクチャは、少なくとも、リバース再生の再生順で1つ前のGOPの(B0)ピクチャの出力タイミングが経過するまで出力されない。また、最初に出力される予定の(B1)ピクチャは、勿論、デコーダ23に入力されてから少なくとも1フレーム同期信号期間分後に、出力される。そこで、Iピクチャおよび4枚のPピクチャと、最初に出力が予定される(B1)ピクチャとを、先行的にデコーダ23に入力し復号化するピクチャとし、例えば再生の開始時からスロー再生が指示された場合に、1倍速再生のシーケンスに従いデコーダ23への入力および復号化を行い、フレームメモリ24に書き込む。
This will be described more specifically with reference to FIG. Note that FIG. 12 and FIG. 11 described above are diagrams in which, for example, “decode”, “output”, and “video output” in FIG. 3 are extracted and simplified. The I picture and the four P pictures are input to the
そして、(B1)ピクチャの次からデコーダ23に入力される各ピクチャ((B0)ピクチャ以降のピクチャ)に対するデコーダ23への入力および復号化を、デコーダ23のリバース方向の1/2倍速スロー再生のシーケンスに従い行う。デコーダ23におけるリバース再生時の1/2倍速スロー再生のシーケンスは、図10を用いて既に説明した動作と同様なので、繁雑さを避けるために、詳細な説明を省略する。
Then, the input to the
次に、この発明の実施の一形態の第1の変形例について説明する。上述では、リバース再生に対応させるため、デコーダ23に入力されるピクチャの配列を、メモリ21を用いて所定に並べ替えていたが、これはこの例に限定されない。すなわち、この発明による再生制御方法は、他の配列のエレメンタリストリームに対しても適用可能である。この発明の実施の一形態の第1の変形例は、上述した実施の一形態による1/2倍速スロー命令による再生制御方法を、標準的なピクチャ配列(I2B0B1P5B3B4P8B6B7P11B9B10P14B12B13)に対して適用した例である。
Next, a first modification of the embodiment of the present invention will be described. In the above description, the arrangement of pictures input to the
先ず、図13を用いて、標準的な配列による、1倍速のフォワード再生時におけるデコーダ23各部の動作について、概略的に説明する。なお、図13において、ピクチャを示す四角に付された斜線は、ES入力におけるGOPを区別するためのものである。また、図13の先頭のBピクチャの表示開始命令のタイミングでは、GOP#1の一つ前の図示されないGOP#0がデコーダ23に既に入力され、復号化や出力など所定の処理が既に完了され、GOP#1においては、I2ピクチャおよびB0ピクチャが既にデコーダ23に入力され、I2ピクチャに関しては復号化が完了しているものとする。
First, the operation of each part of the
B0ピクチャの表示開始命令のタイミングで、既に入力されているBピクチャがGOP#0のP14ピクチャおよびGOP#1のI2ピクチャを用いて復号化され、フレームメモリ24に書き込まれる。それと共に、ES入力としてB1ピクチャがデコーダ23に入力され、CPU25からデコーダ23に対して、入力されたB1ピクチャの復号化開始命令が送信される。B0ピクチャは、表示開始命令に対して1フレーム同期信号分遅延されて出力される。
At the timing of the B 0 picture display start command, the already input B picture is decoded using the P 14 picture of
次に、B1ピクチャの表示開始命令のタイミングで、ES入力としてP5ピクチャがデコーダ23に対して入力され、I2ピクチャを用いて復号化され次のフレーム同期信号のタイミングでフレームメモリ24に書き込まれる。Bピクチャは、表示開始命令に対して1フレーム同期信号分遅延されて出力される。以降、エレメンタリストリームのピクチャの入力順に従いこの処理が繰り返される。
Next, the P 5 picture is input to the
図14は、標準的な配列による、フォワード再生時のポーズ再生、ステップ再生および1/2倍速のスロー再生を行う場合の一例のシーケンスを示す。先ず、ポーズ再生の動作について、概略的に説明する。例えばユーザにより、ビデオ出力で出力されたビデオデータによる再生映像を見ながら、出力データにおけるB4ピクチャのタイミングでポーズ再生の指示がなされる。CPU11は、このポーズ再生指示に応じたポーズ命令210により、速度情報の値を「0」としてCPU25に伝える。CPU25は、この速度情報に基づき、デコーダ23に対する復号化開始命令および表示開始命令を停止する。
FIG. 14 shows an example of a sequence in the case of performing pause playback, step playback, and 1 / 2-speed slow playback during forward playback according to a standard arrangement. First, the operation of pause playback will be schematically described. For example the user, while watching the reproduced video by the video data output by the video output, an indication of the pause reproduction is performed at the timing of the B 4 picture in the output data. The
出力データにおけるI2ピクチャのタイミングは、ES入力のB4ピクチャに対応する。したがって、ES入力においてB4ピクチャの次のピクチャ(P8ピクチャ)の入力が停止される。CPU25は、ES入力により入力されたB4ピクチャに対する復号化開始命令を出し、次のピクチャからの復号化開始命令を停止する。復号化されたB4ピクチャは、フレームメモリ24に書き込まれる。
The timing of the I 2 picture in the output data corresponds to the B 4 picture of the ES input. Therefore, the input of the picture next to the B 4 picture (P 8 picture) is stopped at the ES input. The
一方、出力データにおけるI2ピクチャのタイミングは、表示開始命令のB3ピクチャに対応する。したがって、B3ピクチャに対する表示開始命令が送信された後、次のピクチャ(B4ピクチャ)からの表示開始命令が停止される。表示開始命令が停止され表示開始命令が無い期間では、表示開始命令が停止される直前のピクチャがフレームメモリ24からフレーム同期信号に同期して繰り返し読み出される。この図14の例では、B3ピクチャがフレームメモリ24から繰り返し読み出されることになり、ポーズ再生指示に応じたポーズ再生が実現される。
On the other hand, the timing of the I 2 picture in the output data corresponds to the B 3 picture of the display start instruction. Therefore, after the display start command for the B 3 picture is transmitted, the display start command from the next picture (B 4 picture) is stopped. In a period in which the display start command is stopped and there is no display start command, the picture immediately before the display start command is stopped is repeatedly read from the
ポーズ再生中は、フレームメモリ24内の各ピクチャは、保持される。そのため、ポーズ再生が解除されポーズ再生命令により入力を停止されたピクチャがES入力としてデコーダ23に入力されても、フレームメモリ24内のピクチャを用いた復号化を実行することができる。
During pause playback, each picture in the
例えば、図14の例で、出力データのI2ピクチャのタイミングでポーズ命令210が送信され、ポーズ命令210から2フレーム後(図14のステップ命令211の位置)のタイミングでポーズ再生を解除する指示が送信された場合について考える。
For example, in the example of FIG. 14, a pause command 210 is transmitted at the timing of the I 2 picture of the output data, and an instruction to cancel pause playback at a timing two frames after the pause command 210 (position of the
この場合、ポーズ再生解除の指示の直後のフレーム同期信号のタイミングでポーズ命令210が解除され、通常の復号化動作が開始される。したがって、ES入力では、ポーズ命令210により入力が停止されたP8ピクチャからピクチャの入力が開始され、復号化開始命令が送信される。この復号化開始命令に従い、フレームメモリ24に保持されているP5ピクチャを用いてP8ピクチャが復号化される。表示開始命令についても同様に、ポーズ命令210により停止されたB3ピクチャの次のピクチャであるB4ピクチャから表示開始命令が開始され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB4ピクチャが出力される。
In this case, the pause command 210 is canceled at the timing of the frame synchronization signal immediately after the instruction to cancel pause playback, and the normal decoding operation is started. Thus, the ES input, input by the pause command 210 is input picture is started from P 8 picture is stopped, the decoding start instruction is transmitted. In accordance with this decoding start command, the P 8 picture is decoded using the P 5 picture held in the
次に、図14を参照してステップ再生指示に応じたデコーダ23各部の動作について説明する。例えば、図14の例で、ポーズ再生中にステップ再生を指示するステップ命令I211が送信された場合、ステップ命令211の直後のフレーム同期信号のタイミングで、1フレーム分の復号化動作が行われる。
Next, the operation of each part of the
すなわち、ES入力では、直前のポーズ命令210により入力が停止されたB4ピクチャの次のP8ピクチャが入力され、P8ピクチャの復号化開始命令が送信される。この復号化開始命令に従い、P8ピクチャが復号化され、フレームメモリ24に所定に書き込まれる。表示開始命令についても同様に、直前のポーズ命令210により更新が停止されているB3ピクチャの次のピクチャであるB4ピクチャの表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24に保持されているB4ピクチャが出力される。
That is, in the ES input, the P 8 picture next to the B 4 picture whose input has been stopped by the immediately preceding pause instruction 210 is input, and a decoding start instruction for the P 8 picture is transmitted. In accordance with this decoding start instruction, the P 8 picture is decoded and written in the
図14を参照して、スロー再生時のデコーダ23各部の動作について説明する。CPU11からCPU25に対して、速度情報として値「0.5」が送信され、1/2倍速のスロー再生を指示する1/2倍速命令212が出される。この1/2倍速命令212は、次のフレーム同期信号のタイミングで有効とされる。CPU25は、この1/2倍速命令212に基づき、デコーダ23のES入力としてB7ピクチャを入力すると共に、入力されたB7ピクチャの復号化開始命令をデコーダ23に送信する。それと共に、CPU25は、デコーダ23に対して、出力フレームを次のB6ピクチャに更新するように、表示開始命令を送信する。この表示開始命令に応じて、1フレーム同期信号分遅延して、出力フレームが更新される。
With reference to FIG. 14, the operation of each part of the
Bピクチャを更新する表示開始命令が送信された次のフレーム同期信号のタイミングでは、ES入力において入力が停止され、それと共に復号化開始命令も送信されない。入力が停止されたので、CPU25から表示開始命令が送信されず、そのため、出力フレームが更新されず、B6ピクチャが再び出力される。 At the timing of the next frame synchronization signal at which the display start command for updating the B picture is transmitted, the input is stopped at the ES input, and at the same time, the decoding start command is not transmitted. Since the input is stopped, display start instruction from CPU25 is not transmitted, therefore, the output frame is not updated, B 6 picture is output again.
以降、1/2倍速のスロー再生時には、ES入力および表示開始命令などに従い、この動作が繰り返し行われる。 Thereafter, this operation is repeatedly performed in accordance with the ES input, display start command, and the like during 1 / 2-speed slow playback.
ここで、標準的な配列において、再生開始時からスロー再生(1/2倍速スロー再生とする)を行う場合についての問題点は、発明の課題として既に説明した通りであるので、ここでの説明は省略する。 Here, in the standard arrangement, the problem in the case where the slow reproduction (1 / 2-speed slow reproduction) is performed from the start of the reproduction is as already described as the subject of the invention. Is omitted.
標準的なピクチャ配列の場合にも、図9を用いて説明したこの発明の実施の一形態による再生制御方法を適用し、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い出力を行わないピクチャについて、予め復号化してフレームメモリ24に書き込む。このとき、当該ピクチャのデコーダ23への入力や、デコーダ23における復号化は、予め通常の1倍速再生のシーケンスに従い行うようにする。このように、再生開始直後からデコーダ23への入力およびデコーダ23での復号化を行い出力を行わないピクチャについて、先行的に復号化を行うことで、例えば再生の開始時からスロー再生が指示されているような場合でも、応答性よくスロー再生を開始することができる。
Also in the case of a standard picture arrangement, the playback control method according to the embodiment of the present invention described with reference to FIG. 9 is applied, and input to the
図15を用いて、より具体的に説明する。なお、この図15は、例えば図3における「デコード」、「出力」および「ビデオ出力」を抜き出して簡略化した図である。標準的なピクチャ配列においては、I2ピクチャは、P5ピクチャがデコーダ23に入力され復号化されるタイミングで、出力される。そのため、P5ピクチャまで、すなわちI2ピクチャ、B0ピクチャおよびB1ピクチャとを、先行的にデコーダ23に入力し復号化するピクチャとし、例えば再生の開始時からスロー再生が指示された場合に、1倍速再生のシーケンスに従いデコーダ23への入力および復号化を行い、フレームメモリ24に書き込む。
This will be described more specifically with reference to FIG. Note that FIG. 15 is a diagram in which, for example, “decode”, “output”, and “video output” in FIG. 3 are extracted and simplified. In the standard picture arrangement, the I 2 picture is output at the timing when the P 5 picture is input to the
なお、B0ピクチャおよびB1ピクチャは、1つ前のGOPにおける(P14)ピクチャを用いて復号化されるため、当該(P14)ピクチャがフレームメモリ24上に存在しない場合には、復号化および出力されない。
Incidentally, B 0 picture and B 1 picture is to be decoded using the previous GOP and (P 14) picture, when the (P 14) picture is not present on the
そして、B1ピクチャの次からデコーダ23に入力される各ピクチャ(P5ピクチャ以降のピクチャ)に対する入力タイミングおよび復号化のタイミングの制御を、デコーダ23の1/2倍速スロー再生のシーケンスに従い行う。デコーダ23における1/2倍速スロー再生のシーケンスは、図14を用いて既に説明した動作と同様なので、繁雑さを避けるために、詳細な説明を省略する。
Then, the control of the timing of the input timing and decoding for each picture (P 5 picture after picture) inputted from the following B 1 picture decoder 23, carried out according to the sequence of the half speed slow reproduction of the
次に、この実施の一形態の第2の変形例について説明する。上述では、デコーダボード2にデコーダ23が1基、搭載されている場合について説明したが、これはこの例に限定されない。すなわち、この発明は、複数のデコーダ23、23、・・・を用いてビデオストリームの復号化を行う場合にも適用することが可能である。
Next, a second modification of this embodiment will be described. In the above description, the case where one
図16は、デコーダボード2に3基のデコーダ23A、23Bおよび23Cを搭載し、デコード部40’がこれら3基のデコーダを含む例である。なお、図16において、上述した図1と共通する部分には同一の符号を付し、詳細な説明を省略する。デコーダ23Aは、フレームメモリ24Aを有する。同様に、デコーダ23Bはフレームメモリ24Bを、デコーダ23Cはフレームメモリ24Cをそれぞれ有する。デコーダ23A、23Bおよび23Cそれぞれの構成は、図2を用いて説明したものと同一であるので、詳細な説明を省略する。
FIG. 16 shows an example in which the
PCIブリッジ20に供給され、メモリ21に溜め込まれたエレメンタリストリームは、デコード部40’に供給される。このとき、CPU25は、エレメンタリストリームを、GOP毎に順次、デコーダ23A、23Bおよび23Cに振り分ける。デコーダ23A、23Bおよび23Cで復号化されたピクチャのそれぞれは、セレクタ27に供給される。セレクタ27は、CPU25の制御に従い、供給されたピクチャをピクチャ単位で表示順に選択して出力する。
The elementary stream supplied to the
このように、複数のデコーダ23A、23Bおよび23Cを用いて1本のエレメンタリストリームの復号化を行うことで、デコーダボード2全体としての処理能力が向上し、例えばより高精細な映像を映出するような、データレートが高いエレメンタリストリームを処理することができるようになる。また、フレームメモリ24の利用にも余裕が生じる。
In this way, by decoding one elementary stream using a plurality of
図17は、3基のデコーダ23A、23Bおよび23Cを用いた場合の、フォワード再生時の入出力および内部処理の概略的なシーケンスを示す。この実施の一形態の第2の変形例においては、デコード部40’に供給されるエレメンタリストリームのピクチャ配列を、上述した実施の一形態で説明したような、先ずGOP内のIおよびPピクチャを先に配置し、その後、Bピクチャを順に配置した配列とする。
FIG. 17 shows a schematic sequence of input / output and internal processing during forward reproduction when three
ここで、複数のデコーダ23A、23Bおよび23Cに対して、エレメンタリストリームをGOP毎に振り分けて供給する場合、それぞれのデコーダに供給されるGOPは、そのGOP自身で復号化が完結する、クローズドGOPの形態になっている必要がある。上述の実施の一形態の例では、GOPがオープンGOPの構成とされ、B0ピクチャおよびB1ピクチャは、1つ前のGOPのP14ピクチャを用いなければ復号化できない。
Here, when the elementary streams are distributed and supplied to each of the plurality of
そのため、例えば本来のエレメンタリストリームのGOP#0に対して、当該GOP#0の1つ後のGOPであるGOP#1の、I2ピクチャとB0ピクチャおよびB1ピクチャとをGOP#0に含ませ、配列(3)のようなピクチャ配列として、1つのデコーダに供給する。なお、配列(3)において、括弧()で括ったピクチャタイプは、主として処理対象とするエレメンタリストリームにおけるGOPの次のGOPに含まれるピクチャを示す。
I2P5P8P11P14(I2)B3B4B6B7B9B10B12B13(B0)(B1) ・・・(3)
Therefore, for example, with respect to
I 2 P 5 P 8 P 11 P 14 (I 2 ) B 3 B 4 B 6 B 7 B 9 B 10 B 12 B 13 (B 0 ) (B 1 ) (3)
このようなピクチャ配列とすることで、(I2)ピクチャはそれ自身で復号化され、(B0)ピクチャおよび(B1)ピクチャは、P14ピクチャと、復号化された(I2)ピクチャとを用いて復号化される。したがって、配列(3)によるピクチャ配列は、それ自身で完結して復号化が可能で、クローズドGOPを形成する。 With such a picture arrangement, the (I 2 ) picture is decoded by itself, the (B 0 ) picture and the (B 1 ) picture are the P 14 picture and the decoded (I 2 ) picture. And are decrypted using Therefore, the picture array according to the array (3) can be completed and decoded by itself to form a closed GOP.
図17の説明に戻り、上段はデコーダ23Aの処理、中段はデコーダ23Bの処理、下段はデコーダ23Cの処理をそれぞれ示す。最下段は、セレクタ27から出力される出力ビデオデータを示す。図17において、デコーダ23Bおよび23Cに対する表示開始命令は、「出力」を1フレーム同期信号分前にずらしたものと同等なので、の省略する。また、図17において、ピクチャを示す四角に付された斜線は、ES入力におけるGOPを区別するためのものである。
Returning to the description of FIG. 17, the upper stage shows the processing of the
上述の配列(3)によれば、デコーダ23A、23Bおよび23Cのそれぞれにおいて、Iピクチャおよび4枚のPピクチャの入力タイミングと、1つ前に入力されるGOPの処理を行うデコーダの入力タイミングとを重複させることで、復号化動作を出力と対応するタイミングで行うことができる。
According to the above arrangement (3), in each of the
例えば、デコーダ23Aの処理を例にとると、図示せずも、ES入力においてI2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャ、P14ピクチャ、(I2)ピクチャが順次、入力され、復号化開始命令によりそれぞれ復号化されてフレームメモリ24に書き込まれる。
For example, taking the processing of the
続けてB3ピクチャおよびB4ピクチャが入力され、復号化開始命令により復号化されフレームメモリ24に書き込まれると同時に、これらB3ピクチャおよびB4ピクチャの表示開始命令が送信される。表示開始命令から1フレーム同期信号分遅延して、出力がなされる。なお、I2ピクチャの表示開始命令は、B3ピクチャの入力タイミングで出される。以降、B6ピクチャ、B7ピクチャ、B9ピクチャ、B10ピクチャ、B12ピクチャ、B13ピクチャが順次入力される。このとき、既に復号化されているPピクチャの順序に対応する期間がスキップされて、各Bピクチャが入力される。Bピクチャは、入力順に復号化され、復号化と同時に表示開始命令が送信される。既に復号化されているPピクチャに対しても、出力順に対応して表示開始命令が送信される。
Subsequently, a B 3 picture and a B 4 picture are input, decoded by a decoding start command and written into the
B13ピクチャが入力されると、P14ピクチャに対応する期間、すなわち1フレーム同期信号期間分を空けて、(B0)ピクチャおよび(B1)ピクチャが入力され、復号化開始命令により、既に復号化されている(I2)ピクチャおよびP14ピクチャを用いて復号化され、復号化と同時に表示開始命令が送信される。(B1)ピクチャの入力後、配列(3)の2周期分の期間を空けて、ピクチャが入力される。 When the B 13 picture is input, the (B 0 ) picture and the (B 1 ) picture are input after a period corresponding to the P 14 picture, that is, one frame synchronization signal period. Decoding is performed using the decoded (I 2 ) picture and P 14 picture, and a display start command is transmitted simultaneously with the decoding. (B 1 ) After the picture is input, the picture is input with a period of two cycles of the array (3).
以上のシーケンスを、デコーダ23A、23Bおよび23Cにおいて順次繰り返すことで、3基のデコーダ23A、23Bおよび23Cを用いた構成でのフォワード再生が行われる。
By sequentially repeating the above sequence in the
図18は、3基のデコーダ23A、23Bおよび23Cを用いた場合の、フォワード再生時に、ポーズ再生、ステップ再生および1/2倍速のスロー再生を行う場合の一例のシーケンスを示す。複数のデコーダを用いる場合も、各動作の基本的な考え方は、上述のデコーダを1個のみ用いる場合と同様である。ポーズ再生、ステップ再生、スロー再生などの命令は、CPU25からデコーダ23A、23Bおよび23Cに対して共に供給される。なお、図18において、ピクチャタイプに付された「*(スター印)」は、ES入力におけるGOPを区別するためのものである。
FIG. 18 shows an example sequence in the case of performing pause playback, step playback, and half-speed slow playback during forward playback when three
先ず、ポーズ再生指示に応じた動作について説明する。最下段に示される出力ビデオデータのI2ピクチャのタイミングでポーズ再生を指示するポーズ命令220が送信されたものとする。このポーズ命令220は、ポーズ命令220が送信された直後のフレーム同期信号のタイミングで有効とされる。出力ビデオデータのI2ピクチャのタイミングは、ES入力のB4ピクチャに対応する。このポーズ命令220に応じて、B4ピクチャの次のピクチャからのES入力が停止される。入力の停止に伴い、入力されたBピクチャの次のピクチャからの復号化開始命令が停止される。 First, the operation according to the pause reproduction instruction will be described. Assume that a pause command 220 for instructing pause playback is transmitted at the timing of the I 2 picture of the output video data shown at the bottom. The pause command 220 is made valid at the timing of the frame synchronization signal immediately after the pause command 220 is transmitted. The timing of the I 2 picture of the output video data corresponds to the B 4 picture of the ES input. In response to the pause command 220, ES input from the next picture B 4 picture is stopped. As the input is stopped, the decoding start instruction from the picture next to the input B picture is stopped.
また、出力データにおけるI2ピクチャのタイミングは、表示開始命令のB3ピクチャに対応する。したがって、B3ピクチャの表示開始命令が送信された後、次のピクチャ(B4ピクチャ)からの表示開始命令が停止され、B3ピクチャがフレーム同期信号に同期して繰り返し出力される。これにより、ポーズ命令220に応じたポーズ再生が実現される。 The timing of the I 2 picture in the output data corresponds to the B 3 picture of the display start command. Therefore, after a B 3 picture display start command is transmitted, a display start command from the next picture (B 4 picture) is stopped, and the B 3 picture is repeatedly output in synchronization with the frame synchronization signal. Thereby, pause reproduction according to the pause command 220 is realized.
なお、例えば図17の出力データにおけるP14ピクチャのタイミングのように、複数のデコーダ23Aおよび23Bに対して並列的にピクチャが入力されている(この場合(B1)ピクチャおよび(P14)ピクチャ)ような場合、ピクチャが入力されているデコーダ23Aおよび23Bのそれぞれに対して復号化開始命令が送信され、各々復号化がなされる。また、複数のデコーダに対して並列的にピクチャが入力されているタイミングでポーズ命令が送信された場合、複数のデコーダそれぞれに対するES入力が停止される。
Incidentally, for example, as the timing of P 14 pictures in the output data of FIG. 17, parallel picture to a plurality of
ポーズ再生中は、各デコーダ23A、23Bおよび23Cのそれぞれにおいてフレームメモリ24A、24Bおよび24C内の各ピクチャが保持される。そのため、ポーズ再生が解除されポーズ命令により入力を停止されたピクチャがデコーダ23A、23Bおよび23Cに入力されても、ピクチャが入力されたデコーダのそれぞれにおいて、フレームメモリ24A、24Bおよび24C内のピクチャを用いた復号化を実行することができる。
During pause playback, each picture in the
なお、図17における(B0)ピクチャや(B1)ピクチャの出力時などのような、デコーダ間で出力が切り替わるようなタイミングでポーズ再生が送信された場合でも、同様の処理が行われる。 Note that the same processing is performed even when pause playback is transmitted at a timing at which output is switched between decoders, such as when (B 0 ) picture or (B 1 ) picture is output in FIG.
例えば、出力データにおける(B0)ピクチャのタイミングでポーズ命令が送信された場合、デコーダ23AのES入力が停止されると共に、デコーダ23BのES入力が対応する次の(B3)ピクチャで停止される。また、デコーダ23Cに対するES入力も停止される。表示開始命令も、(B1)ピクチャで停止され、以降、ポーズ命令が解除されるまで、(B1)ピクチャが繰り返し出力される。
For example, when the pause command is transmitted at the timing of the (B 0 ) picture in the output data, the ES input of the
また例えば、出力データにおける(B1)ピクチャのタイミングでポー命令が送信された場合、デコーダ23AのES入力が停止されると共に、デコーダ23BのES入力が対応する次の(B4)ピクチャで停止される。また、デコーダ23Cに対するES入力も停止される。表示開始命令は、デコーダ23Bに対して(B3)ピクチャで停止され、以降、ポーズ命令が解除されるまで、(B3)ピクチャが繰り返し出力される。
Also, for example, when a Po instruction is transmitted at the timing of (B 1 ) picture in the output data, the ES input of the
次に、図18を参照して、ステップ再生指示に応じた動作について説明する。例えば、図18のステップ命令221のように、ポーズ再生中にステップ命令221が送信された場合、ステップ命令221の直後のフレーム同期信号のタイミングで、1フレーム分の復号化動作が行われる。この例の場合、ES入力は、ポーズ命令220により入力が停止されたB4ピクチャの次のピクチャが、既に入力され復号化がなされているP5ピクチャであるため、実際のピクチャの入力は行われない。表示開始命令については、直前のポーズ再生により更新が停止されているB3ピクチャの次のピクチャであるB4ピクチャの表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24Aに保持されているB4ピクチャが出力される。
Next, with reference to FIG. 18, the operation according to the step reproduction instruction will be described. For example, when the
なお、図17における(B1)ピクチャの出力時などのような、デコーダ間で出力が切り替わるような場合でも、上述したポーズ再生時の動作と同様にして、切り替わり先のデコーダに対して表示開始命令が送信されると共に、各デコーダに対するES入力が開始される。 Even when the output is switched between decoders, such as when the (B 1 ) picture in FIG. 17 is output, display is started for the switching destination decoder in the same manner as in the pause playback operation described above. As commands are transmitted, ES input to each decoder is initiated.
次に、図18を参照して、スロー再生に応じた動作について説明する。例えば1/2倍速のスロー再生を指示する1/2倍速命令222が次のフレーム同期信号の周期で有効とされ、この1/2倍速命令222に基づき、CPU25は、デコーダ23AのES入力としてB7ピクチャを入力し、このピクチャの復号化開始命令をデコーダ23Aに送信する。それと共に、CPU25は、デコーダ23Aに対して、出力フレームを次のB6ピクチャに更新するように表示開始命令を送信する。この表示開始命令に応じて、表示開始命令から1フレーム同期信号分遅延して、デコーダ23Aの出力フレームが更新される。
Next, with reference to FIG. 18, the operation according to the slow playback will be described. For example, a 1/2 ×
B6ピクチャに更新する表示開始命令が送信された次のフレーム同期信号タイミングでは、ES入力において入力が停止され、それと共に復号化開始命令も送信されない。なお、この図18の例では、1/2倍速命令222に応じて入力されたES入力の次のピクチャは、P8ピクチャであり、既に入力および復号化が完了している。入力が停止されたので、CPU25から表示開始命令が送信されず、そのため、出力フレームが更新されずP5ピクチャが再び出力される。この動作が繰り返され、1/2倍速スロー再生が実現される。
At the next frame synchronization signal timing when the display start command to update to the B 6 picture is transmitted, the input is stopped at the ES input, and the decoding start command is not transmitted at the same time. In the example of FIG. 18, the next picture of ES input entered in response to the 1/2-
なお、1/2倍速スロー再生中に、デコーダ23Aにエレメンタリストリームが入力されるのと並列的に、次のデコーダ(デコーダ23B)に対してエレメンタリストリームが入力される場合(例えば図17におけるデコーダ23Bの(I2)ピクチャからの入力)、デコーダ23Bにおけるエレメンタリストリームの入力も、デコーダ23Aの入力と同様にして、1ピクチャ毎に入力および停止が繰り返される。
When the elementary stream is input to the next decoder (decoder 23B) in parallel with the input of the elementary stream to the
3基のデコーダ23A、23Bおよび23Cを用いた場合においても、再生開始時からフォワード方向にスロー再生(1/2倍速スロー再生とする)を行う場合、図19に一例が示されるように、上述したデコーダ23を1基用いてフォワード方向にスロー再生を行う場合と同様に、ピクチャの出力に先立って、I2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャ、P14ピクチャおよび(I2)ピクチャが順次、例えばデコーダ23Aに入力される。デコーダ23Aは、先行的に入力されたこれらのI2ピクチャ、4枚のPピクチャおよび(I2)ピクチャを復号化し、フレームメモリ24Aに書き込む。
Even when three
従来は、このI2ピクチャ、4枚のPピクチャおよび(I2)ピクチャのデコーダ23への入力および復号化を、スロー再生によるシーケンスに従い行っていた。そのため、既に問題点として説明したように、スロー再生速度に応じて、1/2倍速スロー命令から実際にスロー再生による出力が得られるまでの遅延時間が長くなることになり、応答性が悪い。
Conventionally, the input and decoding of the I 2 picture, the four P pictures, and the (I 2 ) picture to the
デコーダを複数用いる場合でも、図9を用いて説明したこの発明の実施の一形態による再生制御方法を適用し、再生開始直後から例えばデコーダ23Aへの入力およびデコーダ23Aでの復号化を行い出力を行わないピクチャについて、予め復号化してフレームメモリ24Aに書き込む。このとき、当該ピクチャのデコーダ23Aへの入力や、デコーダ23Aにおける復号化は、予め通常の1倍速再生のシーケンスに従い行うようにする。このように、再生開始直後から例えばデコーダ23Aへの入力およびデコーダ23Aでの復号化を行い出力を行わないピクチャについて、先行的に復号化を行うことで、例えば再生の開始時からフォワード再生のスロー再生が指示されているような場合でも、応答性よくスロー再生を開始することができる。
Even when a plurality of decoders are used, the playback control method according to the embodiment of the present invention described with reference to FIG. 9 is applied, and for example, the input to the
図20を用いて、より具体的に説明する。なお、この図20および上述した図19は、例えば図3における「デコード」、「出力」および「ビデオ出力」を抜き出して簡略化した図である。I2ピクチャ、4枚のPピクチャおよび(I2)ピクチャは、全てのBピクチャに先立って例えばデコーダ23Aに入力され、復号化されてフレームメモリ24Aに書き込まれる。これらのうち、(I2)ピクチャは、最初に出力される予定のピクチャである。そこで、I2ピクチャ、4枚のPピクチャおよび(I2)ピクチャを、先行的にデコーダ23Aに入力し復号化するピクチャとし、例えば再生の開始時からスロー再生が指示された場合に、1倍速再生のシーケンスに従いデコーダ23Aへの入力および復号化を行い、フレームメモリ24Aに書き込む。
This will be described more specifically with reference to FIG. FIG. 20 and FIG. 19 described above are diagrams in which, for example, “decode”, “output”, and “video output” in FIG. 3 are extracted and simplified. The I 2 picture, the four P pictures, and the (I 2 ) picture are input to, for example, the
そして、(I2)ピクチャの次からデコーダ23Aに入力される各ピクチャ(B3ピクチャ以降のピクチャ)に対する入力および復号化を、デコーダ23の1/2倍速スロー再生のシーケンスに従い行う。デコーダ23における1/2倍速スロー再生のシーケンスは、図18を用いて既に説明した動作と同様なので、繁雑さを避けるために、詳細な説明を省略する。
Then, the input and decoding for (I 2) each picture that is input from the next picture to the
図21は、3基のデコーダ23A、23Bおよび23Cを用いた場合の、リバース再生時の入出力および内部処理の概略的なシーケンスを示す。なお、図21において、ピクチャを示す四角に付された斜線は、ES入力におけるGOPを区別するためのものである。デコード部40’に供給されるエレメンタリストリームのピクチャ配列を、上述した実施の一形態で説明したような、先ずGOP内のIおよびPピクチャを先に配置し、その後、Bピクチャを順に配置した配列とする。この場合も、上述のフォワード再生の場合と同様に、複数のデコーダ23A、23Bおよび23Cのそれぞれに入力されるエレメンタリストリームは、クローズドGOPの形態となっている必要がある。
FIG. 21 shows a schematic sequence of input / output and internal processing during reverse reproduction when three
リバース再生の場合、配列(4)のようなピクチャ配列を用いる。なお、配列(4)において、括弧()で括ったピクチャタイプは、本来のエレメンタリストリームにおける、リバース再生時のGOPの再生順で前のGOPに含まれるピクチャを示す。
I2P5P8P11P14(I2)(B0)(B1)B13B12B10B9B7B6B4B3 ・・・(4)
In the case of reverse reproduction, a picture arrangement like the arrangement (4) is used. In the array (4), the picture type enclosed in parentheses () indicates a picture included in the previous GOP in the playback order of the GOP in the reverse playback in the original elementary stream.
I 2 P 5 P 8 P 11 P 14 (I 2 ) (B 0 ) (B 1 ) B 13 B 12 B 10 B 9 B 7 B 6 B 4 B 3 (4)
このようなピクチャ配列とすることで、(I2)ピクチャはそれ自身で復号化され、(B0)ピクチャおよび(B1)ピクチャは、P14ピクチャと、復号化された(I2)ピクチャとを用いて復号化される。したがって、配列(4)によるピクチャ配列は、それ自身で完結して復号化が可能で、クローズドGOPを形成する。 With such a picture arrangement, the (I 2 ) picture is decoded by itself, the (B 0 ) picture and the (B 1 ) picture are the P 14 picture and the decoded (I 2 ) picture. And are decrypted using Therefore, the picture array according to the array (4) can be completed and decoded by itself to form a closed GOP.
上述の配列(4)によれば、デコーダ23A、23Bおよび23Cのそれぞれにおいて、Iピクチャおよび4枚のPピクチャのタイミングを、1つ前に入力されるGOPの処理を行うデコーダの入力タイミングとを重複させることで、復号化動作を出力と対応するタイミングで行うことができる。
According to the array (4) described above, in each of the
例えば、デコーダ23Aの処理を例にとると、図示せずも、ES入力においてI2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャ、P14ピクチャ、(I2)ピクチャが順次、入力され、復号化開始命令によりそれぞれ復号化されてフレームメモリ24に書き込まれる。
For example, taking the processing of the
続けて(B1)ピクチャおよび(B0)ピクチャが入力され、復号化開始命令によりP14ピクチャおよび(I2)ピクチャを用いて復号化されフレームメモリ24に書き込まれ、表示開始命令から1フレーム同期信号分遅延して、出力がなされる。
Subsequently, a (B 1 ) picture and a (B 0 ) picture are input, decoded using the P 14 picture and the (I 2 ) picture by a decoding start instruction, written to the
次に、既に復号化されているP14ピクチャに対しても、出力順に対応して表示開始命令が送信され、さらに、B13ピクチャ、B12ピクチャ、B10ピクチャ、B9ピクチャ、B7ピクチャ、B6ピクチャ、B4ピクチャ、B3ピクチャが順次入力される。このとき、既に復号化されているPピクチャの順序に対応する期間がスキップされて、各Bピクチャが入力される。Bピクチャは、入力順に復号化され、復号化と同時に表示開始命令が送信される。さらに、既に復号化されているI2ピクチャに対して表示開始命令が送信される。 Next, a display start command is transmitted corresponding to the output order for the P 14 picture that has already been decoded, and further, a B 13 picture, a B 12 picture, a B 10 picture, a B 9 picture, and a B 7 picture. , B 6 picture, B 4 picture, and B 3 picture are sequentially input. At this time, a period corresponding to the order of P pictures that have already been decoded is skipped, and each B picture is input. The B pictures are decoded in the order of input, and a display start command is transmitted simultaneously with the decoding. Further, a display start command is transmitted to the I 2 picture that has already been decoded.
B3ピクチャの入力後、配列(4)の2周期分の期間を空けて、ピクチャが入力される。 After input of the B 3 picture, at a time of two cycles of the sequence (4), the picture is input.
以上のシーケンスを、デコーダ23A、23Bおよび23Cにおいて順次繰り返すことで、3基のデコーダ23A、23Bおよび23Cを用いた構成でのリバース再生が行われる。
By sequentially repeating the above sequence in the
図22は、3基のデコーダ23A、23Bおよび23Cを用いた場合の、リバース再生時に、ポーズ再生、ステップ再生および1/2倍速のスロー再生を行う場合の一例のシーケンスを示す。なお、図22において、ピクチャタイプに付された「*(スター印)」や「**」は、それぞれES入力におけるGOPを区別するためのものである。リバース再生の場合も、各動作の基本的な考え方は、上述のデコーダを1個のみ用いる場合と同様である。
FIG. 22 shows an example sequence in the case of performing pause playback, step playback, and half-speed slow playback during reverse playback when three
先ず、ポーズ再生指示に応じた動作について説明する。最下段に示される出力ビデオデータのP14ピクチャのタイミングでポーズ再生を指示するポーズ命令230が送信されたものとする。このポーズ命令230は、ポーズ命令230が送信された直後のフレーム同期信号のタイミングで有効とされる。出力ビデオデータのP14ピクチャのタイミングは、ES入力のB12ピクチャに対応する。このポーズ命令230に応じて、B12ピクチャの次のピクチャからのES入力が停止される。入力の停止に伴い、入力されたB12ピクチャの次のピクチャからの復号化開始命令が停止される。
First, the operation according to the pause reproduction instruction will be described. It shall pause
また、出力データにおけるP14ピクチャのタイミングは、表示開始命令のB13ピクチャに対応する。したがって、B13ピクチャの表示開始命令が送信された後、次のピクチャ(B12ピクチャ)からの表示開始命令が停止され、B13ピクチャがフレーム同期信号に同期して繰り返し出力される。これにより、ポーズ命令230に応じたポーズ再生が実現される。
Further, the timing of the P 14 picture in the output data corresponds to the B 13 picture of the display start instruction. Therefore, after the B 13 picture display start command is transmitted, the display start command from the next picture (B 12 picture) is stopped, and the B 13 picture is repeatedly output in synchronization with the frame synchronization signal. Thereby, pause reproduction according to the
なお、例えば図21の出力データにおけるP5ピクチャのタイミングのように、複数のデコーダ23Aおよび23Bに対して並列的にピクチャが入力されている(この場合(B3)ピクチャおよび(P14)ピクチャ)ような場合、ピクチャが入力されているデコーダ23Aおよび23Bのそれぞれに対して復号化開始命令が送信され、各々復号化がなされる。また、複数のデコーダに対して並列的にピクチャが入力されているタイミングでポーズ命令が送信された場合、複数のデコーダそれぞれに対するピクチャ入力が停止される。
Note that pictures are input in parallel to the plurality of
ポーズ再生中は、各デコーダ23A、23Bおよび23Cのそれぞれにおいてフレームメモリ24A、24Bおよび24C内の各ピクチャが保持される。そのため、ポーズ命令が解除されポーズ命令により入力を停止されたピクチャがデコーダ23A、23Bおよび23Cに入力されても、ピクチャが入力されたデコーダのそれぞれにおいて、フレームメモリ24A、24Bおよび24C内のピクチャを用いた復号化を実行することができる。
During pause playback, each picture in the
なお、図21における(I2)ピクチャの出力時などのような、デコーダ間で出力が切り替わるようなタイミングでポーズ命令が送信された場合でも、同様の処理が行われる。例えば、出力データにおける(I2)ピクチャのタイミングでポーズ再生命令が送信された場合、デコーダ23AのES入力が停止されると共に、デコーダ23BのES入力が対応する次のピクチャで停止される。この図21の例では、デコーダ23Bの当該入力は、既に復号化されたP14ピクチャに対応して空けられているので、その次のB13ピクチャの入力から停止されることになる。また、デコーダ23Cに対するES入力も停止される。表示開始命令も、(I2)ピクチャで停止され、以降、ポーズ命令が解除されるまで、(I2)ピクチャが繰り返し出力される。
Note that the same processing is performed even when a pause command is transmitted at a timing at which output is switched between decoders, such as when an (I 2 ) picture is output in FIG. For example, when the pause reproduction command is transmitted at the timing of the (I 2 ) picture in the output data, the ES input of the
次に、図22を参照して、ステップ再生指示に応じた動作について説明する。例えば、図22のステップ命令231のように、ポーズ命令230によるポーズ再生中にステップ再生を指示するステップ命令231が送信された場合、ステップ再生指示の直後のフレーム同期信号のタイミングで、1フレーム分の復号化動作が行われる。この例の場合、ES入力は、ポーズ命令230により入力が停止されたB12ピクチャの次のピクチャが、既に入力され復号化がなされているP11ピクチャであるため、実際のピクチャの入力は行われない。表示開始命令については、直前のポーズ再生により更新が停止されているB13ピクチャの次のピクチャであるB12ピクチャの表示開始命令が送信され、表示開始命令から1フレーム同期信号分遅延して、フレームメモリ24Aに保持されているB12ピクチャが出力される。
Next, with reference to FIG. 22, the operation according to the step reproduction instruction will be described. For example, when a
なお、図21における(I2)ピクチャの出力時などのような、デコーダ間で出力が切り替わるような場合でも、上述したポーズ再生時の処理と同様にして、切り替わり先のデコーダに対して表示開始命令が送信されると共に、各デコーダに対するES入力が開始される。 Even when the output is switched between decoders, such as when the (I 2 ) picture is output in FIG. 21, display is started for the switching destination decoder in the same manner as in the pause playback process described above. As commands are transmitted, ES input to each decoder is initiated.
次に、図22を参照して、スロー再生に応じた動作について説明する。例えば1/2倍速のスロー再生を指示する1/2倍速命令232が次のフレーム同期信号の周期で有効とされ、この1/2倍速命令232に基づき、CPU25は、デコーダ23AのES入力としてB9ピクチャを入力し、このピクチャの復号化開始命令をデコーダ23Aに送信する。それと共に、CPU25は、デコーダ23Aに対して、出力フレームを次のB10ピクチャに更新するように表示開始命令を送信する。この表示開始命令に応じて、表示開始命令から1フレーム同期信号分遅延して、デコーダ23Aの出力フレームが更新される。
Next, with reference to FIG. 22, the operation according to the slow playback will be described. For example, a 1/2 ×
B10ピクチャに更新する表示開始命令が送信された次のフレーム同期信号タイミングでは、ES入力において入力が停止され、それと共に復号化開始命令も送信されない。入力が停止されたので、CPU25から表示開始命令が送信されず、そのため、出力フレームが更新されずB10ピクチャが再び出力される。この動作が繰り返され、1/2倍速スロー再生が実現される。 In the next frame synchronizing signal timing display start command is sent to update the B 10 picture input in ES input is stopped, the decoding start command therewith also not transmitted. Since the input is stopped, display start instruction from CPU25 is not transmitted, therefore, the output frame B 10 picture is not updated is output again. This operation is repeated, and 1 / 2-speed slow playback is realized.
なお、1/2倍速スロー再生中に、デコーダ23Aにエレメンタリストリームが入力されるのと並列的に、次のデコーダ(デコーダ23B)に対してエレメンタリストリームが入力される場合(例えば図21におけるデコーダ23BのI2ピクチャからの入力)、デコーダ23Bにおけるエレメンタリストリームの入力も、デコーダ23Aの入力と同様にして、1ピクチャ毎に入力および停止が繰り返される。
When the elementary stream is input to the next decoder (decoder 23B) in parallel with the input of the elementary stream to the
3基のデコーダ23A、23Bおよび23Cを用いた場合においても、再生開始時からリバース方向にスロー再生(1/2倍速スロー再生とする)を行う場合、図23に一例が示されるように、上述したデコーダ23を1基用いてフォワード方向にスロー再生を行う場合と同様に、ピクチャの出力に先立って、I2ピクチャ、P5ピクチャ、P8ピクチャ、P11ピクチャ、P14ピクチャおよび(I2)ピクチャが順次、例えばデコーダ23Aに入力される。また、最初に出力される予定の(B1)ピクチャがデコーダ23Aに入力される。デコーダ23Aは、先行的に入力されたこれらのI2ピクチャ、4枚のPピクチャ、(I2)ピクチャおよび(B1)ピクチャを復号化し、フレームメモリ24Aに書き込む。
Even when three
従来は、このI2ピクチャ、4枚のPピクチャ、(I2)ピクチャおよび(B1)ピクチャのデコーダ23Aに対する入力および復号化を、リバース方向のスロー再生のシーケンスに従い行っていた。そのため、既に問題点として説明したように、スロー再生速度に応じて、1/2倍速スロー命令から実際にスロー再生による出力が得られるまでの遅延時間が長くなることになり、応答性が悪い。
Conventionally, input and decoding of the I 2 picture, the four P pictures, the (I 2 ) picture, and the (B 1 ) picture to the
デコーダを複数用いる場合でも、図9を用いて説明したこの発明の実施の一形態による再生制御方法を適用し、再生開始直後から例えばデコーダ23Aへの入力およびデコーダ23Aでの復号化を行い出力を行わないピクチャについて、予め復号化してフレームメモリ24Aに書き込む。このとき、当該ピクチャのデコーダ23Aへの入力や、デコーダ23Aにおける復号化は、予め通常の1倍速再生のシーケンスに従い行うようにする。このように、再生開始直後から例えばデコーダ23Aへの入力およびデコーダ23Aでの復号化を行い出力を行わないピクチャについて、先行的に復号化を行うことで、例えば再生の開始時からリバース再生のスロー再生が指示されているような場合でも、応答性よくスロー再生を開始することができる。
Even when a plurality of decoders are used, the playback control method according to the embodiment of the present invention described with reference to FIG. 9 is applied, and for example, the input to the
図24を用いて、より具体的に説明する。なお、この図24および上述した図23は、例えば図3における「デコード」、「出力」および「ビデオ出力」を抜き出して簡略化した図である。I2ピクチャ、4枚のPピクチャおよび(I2)ピクチャは、全てのBピクチャに先立って例えばデコーダ23Aに入力され、復号化されてフレームメモリ24Aに書き込まれる。また、最初に出力される予定の(B1)ピクチャは、勿論、全てのピクチャの出力前にデコーダ23Aに入力され、復号化される。
This will be described more specifically with reference to FIG. Note that FIG. 24 and FIG. 23 described above are diagrams in which, for example, “decode”, “output”, and “video output” in FIG. 3 are extracted and simplified. The I 2 picture, the four P pictures, and the (I 2 ) picture are input to, for example, the
そこで、I2ピクチャ、4枚のPピクチャ、(I2)ピクチャおよび(B1)ピクチャを、先行的にデコーダ23Aに入力し復号化するピクチャとし、例えば再生の開始時からスロー再生が指示された場合に、リバース再生の1倍速再生のシーケンスに従いデコーダ23Aへの入力および復号化を行い、フレームメモリ24Aに書き込む。
Therefore, the I 2 picture, the four P pictures, the (I 2 ) picture, and the (B 1 ) picture are input to the
そして、(B1)ピクチャの次からデコーダ23Aに入力される各ピクチャ(B0ピクチャ以降のピクチャ)に対する入力および復号化を、デコーダ23Aでのリバース方向の1/2倍速スロー再生のシーケンスに従い行う。デコーダ23Aにおける1/2倍速スロー再生のシーケンスは、図22を用いて既に説明した動作と同様なので、繁雑さを避けるために、詳細な説明を省略する。
Then, input and decoding for each picture (pictures after the B 0 picture) input to the
なお、上述では、デコーダボード2に3基のデコーダ23A、23Bおよび23Cが搭載されている例について説明したが、これはこの例に限られず、デコーダボード2にデコーダが2基搭載されている場合や、4基以上のデコーダがデコーダボード2上に搭載されている場合にも、同様にして処理を行うことが可能である。
In the above description, an example in which three
図25および図26は、この発明に適用可能な再生装置におけるビデオストリームの一例の表示処理を示すフローチャートである。このフローチャートによる処理は、上述した、この発明の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例に共通して適用可能である。ここでは、繁雑さを避けるために、実施の一形態または実施の一形態の変形例のように、デコーダボード2に対してデコーダ23が1基のみ、搭載されているものとする。なお、図25および図26において、符号「A」および「B」は、図25および図26間で対応する符号に処理が移行することを示す。
FIG. 25 and FIG. 26 are flowcharts showing display processing of an example of a video stream in a playback apparatus applicable to the present invention. The processing according to this flowchart can be commonly applied to the above-described embodiment of the present invention, the first modification of the embodiment, and the second modification of the embodiment. Here, in order to avoid complexity, it is assumed that only one
例えば再生装置のスタンバイ状態などにおいて、CPU11により、1乃至複数GOP分のエレメンタリストリームがハードディスクドライブ14から読み出される(ステップS10)。このエレメンタリストリームは、サウスブリッジ13およびPCIバス15を介してデコーダボード2に供給され、デコーダボード2においてPCIブリッジ20を介してメモリ21に転送され、溜め込まれる(ステップS11)。ハードディスクドライブ14から所定量のエレメンタリストリームが読み出され、読み出されたストリームのメモリ21への転送が完了されたら、たら、CPU11からCPU25に対して、転送完了が通知される(ステップS12)。
For example, in a standby state of the playback device, the
CPU25は、CPU11からの転送完了通知を受けると、例えばデコーダ23の初期化など、当該エレメンタリストリームを復号化するための準備を行う。そして、CPU25からCPU11に対して、復号化の準備が完了した旨が通知される(ステップS13)。そして、ステップS14で、例えばユーザによるコンピュータ装置1の操作に応じて、CPU11からCPU25に対して復号化を開始する旨の命令が送信される。
When the
この復号化開始命令には、フォワード再生およびリバース再生の何れを行うかを示す再生方向情報と、再生速度を示す速度情報とが含まれる。速度情報は、値が「1」で通常の1倍速再生、値が「1」未満「0」以上でスロー再生を示し、特に速度情報の値が「0」であれば、ポーズ再生を示す。速度情報として負の値を許し、速度情報が負の値であればリバース再生であることを示すようにしてもよい。また、ステップ再生を行うか否かの情報も、復号化開始命令に含まれて送信される。なお、以下では、ステップ再生は、再生速度が1倍速以下であるものと見なす。 This decoding start command includes playback direction information indicating whether to perform forward playback or reverse playback, and speed information indicating the playback speed. The speed information indicates normal 1 × speed playback with a value of “1”, slow playback when the value is less than “1” and “0” or more, and in particular when the speed information value is “0”, it indicates pause playback. A negative value may be allowed as the speed information, and if the speed information is a negative value, reverse playback may be indicated. Information on whether or not to perform step reproduction is also transmitted in the decoding start command. In the following, it is assumed that the step reproduction is a reproduction speed of 1 × or less.
CPU25は、このCPU11からの復号化開始命令を受けると、メモリ21に溜め込まれたエレメンタリストリームのうち1GOP分のデータに対して、再生方向に応じて、デコーダ23に入力するピクチャと表示ピクチャとをスケジューリングする(ステップS15)。例えば、フォワード再生であれば、図3に示したようにしてスケジューリングがなされ、メモリ21からのピクチャの読み出し順と、デコーダ23に対する表示開始命令とが決められる。
When the
次のステップS16(図26)で、CPU25は、速度情報に基づき1倍速未満の再生速度での再生が指示されているか否かを判断する。若し、1倍速未満の再生速度での再生が指示されていると判断されれば処理はステップS17に移行され、現在デコーダ23に入力されるピクチャが先行的に復号化を行うピクチャであるか否かが判断される。
In the next step S16 (FIG. 26), the
例えば、デコーダ23に入力されるピクチャの配列が配列(1)であれば、I2ピクチャ、4枚のPピクチャおよびB0ピクチャが先行的に復号化されるピクチャであるとされる。ピクチャ配列が配列(2)であれば、I2ピクチャ、4枚のPピクチャおよび出力順で1つ前のGOPにおけるB1ピクチャが先行的に復号化されるピクチャであるとされる。また、デコーダ23に入力されるピクチャ配列が標準的なピクチャ配列であれば、I2ピクチャ、B0ピクチャおよびB1ピクチャが先行的に復号化されるピクチャであるとされる。ステップS17で、入力ピクチャが先行的に復号化を行うピクチャであると判断されれば、処理はステップS20に移行される。
For example, if the arrangement of pictures input to the
一方、ステップS17で、入力ピクチャが先行的に復号化を行うピクチャでないと判断されれば、処理はステップS18に移行する。ステップS18では、CPU25が速度情報に基づきフレーム更新タイミングを計算し、次のステップS19で、現在がフレーム更新タイミングであるか否かが判断される。例えば、図7や図8を用いて既に説明したように、1/2倍速スロー再生が命令されている場合には、次のフレーム同期信号のタイミングから1フレーム同期信号期間毎に、フレーム更新がなされる。また、ポーズ再生が命令されている場合には、次のフレーム同期信号のタイミングから、フレーム更新がなされない。さらに、ステップ再生が命令されている場合には、次のフレーム同期信号のタイミングでフレーム更新がなされる。
On the other hand, if it is determined in step S17 that the input picture is not a picture to be decoded in advance, the process proceeds to step S18. In step S18, the
ステップS19で、現在が更新タイミングでないと判断されれば、処理は後述するステップS25に移行される。また、現在が更新タイミングであると判断されれば、処理はステップS20に移行される。なお、最初の1フレーム目は、更新タイミングであると見做される。 If it is determined in step S19 that the current time is not the update timing, the process proceeds to step S25 described later. If it is determined that the current timing is the update timing, the process proceeds to step S20. Note that the first frame is considered to be the update timing.
ステップS20で、CPU25は、ステップS15で求められたスケジュールなどに基づき、デコーダ23に対して復号化開始命令を転送する。それと共に、CPU25は、メモリ21に溜め込まれたエレメンタリストリームを、ステップS15で求められたスケジュールなどに基づきピクチャ単位で読み出し、デコーダ23に供給する。デコーダ23は、転送された復号化開始命令に基づき、供給されたピクチャを、必要に応じてフレームメモリ24に書き込まれた、復号化されたピクチャを用いて復号化する。復号化されたピクチャは、フレームメモリ24の書き込みあるいは上書き可能な領域に対して書き込まれる(ステップS21)。
In step S20, the
また、ステップS22で、CPU25からデコーダ23に対して、ステップS15で求められたスケジュールなどに基づき、表示開始命令が転送される。そして、ステップS23で、この表示開始命令に応じて、1フレームの表示(出力)がなされる。
In step S22, a display start command is transferred from the
なお、上述のステップS17で、入力ピクチャが先行的に復号化を行うピクチャであると判断された場合、処理がステップS20に移行されることで、ステップS18およびステップS19によるフレーム更新タイミングに関する処理がキャンセルされるので、速度情報が1倍速を示す値に自動的に設定されることになる。これに限らず、入力ピクチャが先行的に復号化を行うピクチャであると判断された場合に、ステップS18により速度情報の値を「1」として、フレーム更新タイミングを計算してもよい。 When it is determined in step S17 described above that the input picture is a picture to be decoded in advance, the process proceeds to step S20, and the process related to the frame update timing in steps S18 and S19 is performed. Since it is canceled, the speed information is automatically set to a value indicating 1 × speed. However, the frame update timing may be calculated by setting the value of the speed information to “1” in step S18 when it is determined that the input picture is a picture to be decoded in advance.
ステップS24で、1GOP分の表示(出力)が行われたか否かが判断される。若し、1GOP分の表示(出力)が行われていないと判断されれば、処理はステップS25に移行され、データの最後まで出力されたか否かが判断される。若し、最後まで出力されたと判断されれば、一連の再生動作が終了される。また、ステップS25で、データの最後まで出力されていないと判断されれば、処理はステップS16に戻される。 In step S24, it is determined whether or not display (output) for one GOP has been performed. If it is determined that one GOP worth of display (output) has not been performed, the process proceeds to step S25, where it is determined whether the data has been output to the end. If it is determined that the data has been output to the end, a series of reproduction operations are terminated. If it is determined in step S25 that the data has not been output to the end, the process returns to step S16.
一方、ステップS24で、1GOP分の表示(出力)が行われたと判断されれば、処理はステップS26に移行され、データの最後まで出力されたか否かが判断される。若し、最後まで出力されたと判断されれば、一連の再生動作が終了される。また、ステップS26で、データの最後まで出力されていないと判断されれば、処理はステップS27に移行され、CPU25からCPU11に対して、1GOP分の表示(出力)が完了した旨が通知される。
On the other hand, if it is determined in step S24 that display (output) for 1 GOP has been performed, the process proceeds to step S26, and it is determined whether or not the data has been output to the end. If it is determined that the data has been output to the end, a series of reproduction operations are terminated. If it is determined in step S26 that data has not been output to the end, the process proceeds to step S27, and the
次のステップS28で、CPU11により、上述のステップS10でハードディスクドライブ14から読み出されたエレメンタリストリームに対し、次に必要となる1GOP分のエレメンタリストリームが、ハードディスクドライブ14から読み出される。このとき、メモリ21に対して既に十分なデータが溜め込まれている場合には、ステップS28の処理を省略することができる。読み出された1GOP分のエレメンタリストリームは、メモリ21に転送され、溜め込まれる(ステップS29)。読み出されたストリームのメモリ21への転送が完了されたら、たら、CPU11からCPU25に対して、転送完了が通知される(ステップS30)。
In the next step S28, the
CPU25は、CPU11からの転送完了通知を受けると、例えばデコーダ23の初期化など、当該エレメンタリストリームを復号化するための準備を行う。そして、CPU25からCPU11に対して、復号化の準備が完了した旨が通知される(ステップS31)。そして、ステップS32で、CPU25により、GOP処理が必要か否かが判断される。例えば、ユーザがコンピュータ装置1に対して、再生方向を切り替えるような操作を行った場合、GOP単位で再度スケジューリングを行う必要がある。若し、必要であると判断されれば、処理はステップS15に移行され、スケジューリングがなされる。また、GOP処理が必要でないと判断されれば、処理はステップS16に移行される。
When the
なお、上述では、この発明の実施の一形態、ならびに、実施の一形態の大1および第2の変形例がMPEG2方式のロングGOPによるエレメンタリストリームに対して適用されるように説明したが、これはこの例に限定されない。例えば、この発明は、ピクチャが全てIピクチャで構成され、1GOP=1ピクチャとされるシングルGOPの例についても適用可能である。また、MPEG2方式に限らず、他の方式のビデオストリームにも適用させることができる。 In the above description, the embodiment of the present invention, and the first and second modifications of the embodiment have been described so as to be applied to an elementary stream based on the MPEG2 long GOP. This is not limited to this example. For example, the present invention can also be applied to an example of a single GOP in which all pictures are composed of I pictures and 1 GOP = 1 picture. Further, the present invention can be applied not only to the MPEG2 system but also to video streams of other systems.
また、上述では、この発明に適用可能な再生装置が、デコーダ23を搭載するデコーダボード2をコンピュータ装置に所定に装填して構成されるように説明したが、これはこの例に限定されない。例えば、CPU11が十分高速であって、尚かつ、メモリ12に十分な容量があれば、デコーダボード2をコンピュータ装置1に装填せず、CPU11上のソフトウェア処理で、この発明による再生制御を行うことも可能である。
In the above description, the playback apparatus applicable to the present invention has been described as being configured by predeterminedly loading the
さらに、上述では、GOPがI、PおよびBピクチャから構成されているように説明したが、これはこの例に限らず、GOPがIピクチャおよびBピクチャのみから構成される場合にも、この発明を適用することができる。この場合、例えばIピクチャおよび最初に出力される予定のBピクチャを、デコーダ23に対して先行的に入力され復号化されるピクチャとすることが考えられる。
Further, in the above description, the GOP has been described as being composed of I, P, and B pictures. However, this is not limited to this example, and the present invention is applicable to cases where the GOP is composed of only I pictures and B pictures. Can be applied. In this case, for example, it is conceivable that the I picture and the B picture scheduled to be output first are pictures that are input in advance to the
なお、ハードディスクドライブ14に格納されているビデオストリームに対して、ハードディスクドライブ14からから読み出すデータとして有効であるか否かを示す読み出し用のフラグ群、復号化のスケジューリングにおいて有効であるか否かを示す復号化用のフラグ群、復号化されたデータを表示するスケジューリングにおいて有効であるか否かを示す表示用のフラグ群などを、当該ビデオストリームに対応するメタデータとして適宜設け、一連のフラグ群を再生速度や再生方向に応じて自動的に更新することにより、デコーダ23におけるスケジューリングを管理することも可能である。
It should be noted that, for a video stream stored in the
このとき、過去のスロー再生などの可変速再生処理に用いた一連のスケジューリング、フラグ群の更新情報を、別途スケジューリングのメタデータ(履歴情報)として管理することも可能であり、必要に応じて、ビデオストリーム中にシンタックスとして記述したり、記録媒体であるハードディスクドライブ14などに別途記録したりしてもよい。
At this time, it is also possible to manage a series of scheduling and flag group update information used for variable-speed playback processing such as past slow playback as separate scheduling metadata (history information). It may be described as syntax in the video stream, or may be recorded separately on the
また、デコーダボード2に搭載されるデコーダ数やフレームメモリ24のバンク数、デコーダIDなどをメタデータ(構成履歴情報)として管理することも可能である。さらに、再生速度、再生方向などをメタデータ(再生履歴情報)として管理することも可能である。このとき、これらメタデータを、必要に応じてビデオストリーム中にシンタックスとして記述したり、記録媒体であるハードディスクドライブ14などに別途記録してもよい。
It is also possible to manage the number of decoders mounted on the
このようなメタデータ(履歴情報)を参照することにより、過去に実行されたスケジューリング処理を再利用することができ、さらに正確に高速に実行することが可能となる。このようなメタデータは、例えばデータベースとして外部装置で管理するような構成にしてもよい。 By referring to such metadata (history information), it is possible to reuse scheduling processing executed in the past, and to execute it more accurately and at high speed. Such metadata may be managed by an external device as a database, for example.
なお、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、デコーダ23(実施の一形態の第2の変形例においては、デコーダ23A、23Bおよび23C、以下では、繁雑さを避けるために実施の一形態の、デコーダボード2に対してデコーダ23が1基のみ、搭載されている例について、説明する)が、ハードディスクドライブ14に記録されているビデオストリームを、完全に復号化しない(中途段階まで復号化する)場合においても、この発明を適用可能である。
In the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the decoder 23 (in the second modification of the embodiment, the
具体的には、例えば、デコーダ23が、可変長符号に対する復号化および逆量子化のみを行い、逆DCT(Discrete Cosine Transform)を実行しない場合や、逆量子化を行うが可変長符号に対する復号化を行わない場合などにおいても、この発明を適用することができる。このような場合、例えば、デコーダ23は、例えば符号化処理および復号化処理においてどの段階(例えば逆量子化の段階)まで処理が行われたかを示す履歴情報を必要に応じて生成し、不完全に復号化されたデータに対応付けて出力することができるようにしてもよい。
Specifically, for example, when the
さらに、上述の実施の形態においては、ハードディスクドライブ14に、不完全に符号化されたデータ(例えば、DCTおよび量子化が行われているが、可変長符号化処理が行われていないデータなど)と、必要に応じて、符号化処理および復号化処理の履歴情報が記憶されており、デコーダ23が、CPU25の制御に基づいて、供給された不完全に符号化されたデータを復号化し、ベースバンド信号に変換することができるような場合においても、この発明は適用可能である。
Furthermore, in the above-described embodiment, incompletely encoded data (for example, data that has been subjected to DCT and quantization but not subjected to variable-length encoding processing) is stored in the
具体的には、デコーダ23が例えばDCTおよび量子化が行われているが、可変長符号化処理が行われていない不完全に符号化されたデータに対して、逆DCT変換および逆量子化のみを行い、可変長符号に対する復号化は実行しない場合などにおいても、この発明を適用することができる。
Specifically, the
また、このような場合、例えば、CPU25は、不完全に符号化されたデータに対応付けられてハードディスクドライブ14に記憶されている符号化処理および復号化処理の履歴情報をCPU11を介して取得し、これらの情報に基づいて、デコーダ23による復号化のスケジューリングを行うことができるようにしてもよい。
In such a case, for example, the
さらに、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、ハードディスクドライブ14に、不完全に符号化されたデータと、必要に応じて、符号化処理および復号化処理の履歴情報が記憶されており、デコーダ23が、CPU25の制御に基づいて、供給された不完全に符号化されたデータを完全に復号化しない(中途段階まで復号化する)場合においても、この発明は適用可能である。
Furthermore, in the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the
また、このような場合も、例えば、CPU25は、不完全に符号化されたデータに対応付けられてハードディスクドライブ14に記憶されている符号化処理および復号化処理の履歴情報を取得し、これらの情報に基づいて、デコーダ23による復号化のスケジューリングを行うことができるようにしてもよい。さらに、この場合においても、デコーダ23は、符号化処理および復号化処理の履歴情報を必要に応じて生成し、不完全に復号化されたデータに対応付けて出力することができるようにしてもよい。
Also in such a case, for example, the
換言すれば、デコーダ23が、CPU25の制御に基づいて、部分的な復号化を行う(復号化処理の工程のうちの一部を実行する)場合においても、この発明は適用可能であり、CPU25は、不完全に符号化されたデータに対応付けてハードディスクドライブ14に記憶されている符号化処理および復号化処理の履歴情報を取得し、これらの情報に基づいて、デコーダ23による復号化のスケジューリングを行うことができ、デコーダ23は、符号化および復号化の履歴情報を必要に応じて生成し、不完全に復号化されたデータに対応付けて出力することができるようにしてもよい。
In other words, the present invention is applicable even when the
さらに、ハードディスクドライブ14には、ビデオストリームに対応付けて、さらに符号化お処理よび復号化処理の履歴情報を記録するようにしてもよく、CPU25は、圧縮符号化されたビデオストリームの復号化のスケジューリングを、符号化処理および復号化処理の履歴情報に基づいて行うようにしてもよい。さらに、デコーダ23が、CPU25の制御に基づいて、圧縮符号化されたビデオストリームを復号化して、ベースバンド信号に変換することができるような場合においても、符号化および復号化の履歴情報を必要に応じて生成し、ベースバンド信号に対応付けて出力することができるようにしてもよい。
Further, the history information of the encoding and decoding processes may be further recorded in the
なお、上述の実施の一形態の第2の変形例においては、1または複数のデコーダ23がデコーダボード2に搭載され、デコーダボード2がコンピュータ装置1に装填されて用いられるように説明したが、デコーダが独立した装置として構成されている場合にも、この発明を適用可能である。
In the second modification of the embodiment described above, one or
このとき、独立した装置として構成されているデコーダは、圧縮符号化されたビデオストリームの供給を受けてこれを復号化し、表示または出力するのみならず、上述した場合と同様にして、ビデオストリームの供給を受け、中途段階まで部分的に復号化して、符号化および復号化の履歴情報と共に外部に出力したり、部分的に符号化されたビデオストリームの供給を受け、復号化処理を行い、ベースバンド信号に変換して外部に出力したり、部分的に符号化されたビデオストリームの供給を受け、中途段階まで部分的に復号化して、符号化および復号化の履歴情報と共に外部に出力するようにしてもよい。 At this time, the decoder configured as an independent device receives the compressed and encoded video stream, decodes it, and displays or outputs it. Received supply, partially decoded until halfway stage, output to the outside along with encoding and decoding history information, received supply of partially encoded video stream, performs decoding process, base It is converted into a band signal and output to the outside, or it is supplied with a partially encoded video stream, partially decoded to an intermediate stage, and output to the outside together with encoding and decoding history information It may be.
さらに、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、CPU11およびCPU25が互いに独立した構成とされているが、CPUの構成は、これに限らず、例えば、CPU11およびCPU25を、再生装置全体を制御する1つのCPUとして構成するようにしてもよい。また、CPU11およびCPU25が互いに独立して構成されている場合であっても、CPU11およびCPU25を1つのチップ内に構成することも可能である。
Furthermore, in the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the
さらにまた、CPU11およびCPU25が互いに独立して構成されている場合、上述の実施の形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例において、CPU11が実行する処理の少なくとも一部を、例えば時分割でCPU25が実行することができるようにしたり、CPU25が実行する処理の少なくとも一部を、例えば時分割で、CPU11が実行することができるようにしてもよい。すなわち、CPU11およびCPU25は、分散処理が可能なプロセッサを用いることができる。
Furthermore, when the
また、例えば、再生装置をLAN(Local Area Network)などのネットワークに接続可能な構成とし、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例において、CPU11および/またはCPU25が実行する処理の少なくとも一部を、ネットワークを介して接続されている他の装置のCPU上で実行させるようにもできる。
Further, for example, the playback apparatus is configured to be connectable to a network such as a LAN (Local Area Network), and the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment. In the example, at least a part of the processing executed by the
同様に、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、メモリ21およびフレームメモリ24が互いに独立した構成とされているが、これはこの例に限らず、メモリ21およびフレームメモリ24のそれぞれを、1つのメモリの異なる領域で構成することもできる。
Similarly, in the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the
さらに、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、ハードディスクドライブ14およびデコーダ23(実施の一形態の第2の変形例においては、ハードディスクドライブ14、デコーダ23A、23Bおよび23C、ならびに、セレクタ27)を、それぞれPCIブリッジ20およびPCIバス15を介して接続し、再生装置として一体的に構成したものとして説明したが、この発明はこの例に限られない。例えば、これらの構成要素のうちの一部が外部から有線または無線で接続される場合や、これらの構成要素が、この他、種々の接続形態で相互に接続される場合にも適用することができる。
Furthermore, in the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the
さらに、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、ビデオストリームがハードディスクドライブ14に格納されているものとして説明したが、これはこの例に限定されない。すなわち、例えば光ディスク、光磁気ディスク、半導体メモリ、磁気ディスクといった様々な記録媒体に記録されたビデオストリームに対して再生処理を行う場合にも、この発明を適用することができる。
Furthermore, in the above-described embodiment, the first modification example of the embodiment, and the second modification example of the embodiment, the video stream has been described as being stored in the
さらにまた、上述の実施の一形態、実施の一形態の第1の変形例および実施の一形態の第2の変形例においては、CPU25、メモリ21、デコーダ23およびフレームメモリ24(実施の一形態の第2の変形例においては、CPU25、メモリ21、デコーダ23A、23Bおよび23C、フレームメモリ24A、24Bおよび24C、ならびに、セレクタ27)を、コンピュータ装置に接続可能な同一の拡張ボード(例えば、PCIボードやPCI−Expressボード)に搭載した例について説明したが、これはこの例に限定されない。例えば、PCIーExpressなどの技術により、拡張ボード間のデータ転送速度が十分速い場合には、これらの構成要素を、それぞれ別の拡張ボードに搭載するようにしてもよい。
Furthermore, in the above-described embodiment, the first modification of the embodiment, and the second modification of the embodiment, the
なお、この明細書において、システムとは、複数の装置が論理的に集合した物をいい、各構成の装置が同一筐体中にあるか否かを問わない。 In this specification, the system refers to a logical collection of a plurality of devices, and it does not matter whether the devices of each configuration are in the same housing.
1 コンピュータ装置
2 デコーダボード
11 CPU
14 ハードディスクドライブ
20 PCIブリッジ
21 メモリ
23 デコーダ
24 フレームメモリ
25 CPU
1
14
Claims (39)
入力されたビデオデータを復号化して出力する復号化手段と、
上記復号化手段に対する上記ビデオデータの上記入力と、入力された該ビデオデータに対する上記復号化を、所定のシーケンスに基づき制御する制御手段と
を有し、
上記制御手段は、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化装置。 In a decoding device for decoding and outputting compressed and encoded video data,
Decoding means for decoding and outputting input video data;
The input of the video data to the decoding means, and control means for controlling the decoding of the input video data based on a predetermined sequence,
The control means inputs an input to the decoding means of a preceding frame that is input before the timing of the first output frame from the decoding means when a playback speed less than 1 × speed is instructed; A decoding apparatus, characterized in that said decoding by said decoding means for a preceding frame is controlled to be performed based on a 1 × speed playback sequence.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームとを含むことを特徴とする復号化装置。 The decoding device according to claim 1, wherein
The video data is compression encoded using inter-frame compression,
The preceding frame includes at least one complete frame that can be decoded by itself, and a forward reference frame that is decoded using a frame that is temporally positioned in the display order. Device.
上記先行フレームは、最初に出力されるフレームを含むことを特徴とする復号化装置。 The decoding device according to claim 1, wherein
The decoding apparatus according to claim 1, wherein the preceding frame includes a frame output first.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、少なくともそれ自身で復号化可能な1枚の完結フレームを含むことを特徴とする復号化装置。 The decoding device according to claim 1, wherein
The video data is compression encoded using inter-frame compression,
The decoding apparatus according to claim 1, wherein the preceding frame includes at least one complete frame that can be decoded by itself.
上記ビデオデータは、フレーム間圧縮を用いて、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなるグループを単位として圧縮符号化され、上記復号化は、該グループを単位として行われることを特徴とする復号化装置。 The decoding device according to claim 1, wherein
The video data includes at least one complete frame that can be decoded by itself using inter-frame compression, and a forward reference frame that is decoded using a frame that is positioned temporally earlier in display order; Compression encoding is performed in units of groups of bi-directional reference frames that are decoded with reference to frames that are temporally forward and backward in display order, and the decoding is performed in units of the groups. A decoding device characterized by the above.
上記グループ内の上記双方向参照フレームが該グループ内の上記完結フレームおよび上記前方参照フレームの後に上記復号化手段に入力されるようにしたことを特徴とする復号化装置。 The decoding device according to claim 5, wherein
The decoding apparatus according to claim 1, wherein the bidirectional reference frame in the group is input to the decoding means after the completion frame and the forward reference frame in the group.
上記入力されたビデオデータを一時的に格納する記憶手段をさらに有し、
上記記憶手段から上記ビデオデータを読み出す際に、上記グループ内の上記完結フレームおよび上記前方参照フレームを読み出してから、該グループ内の上記双方向参照フレームを読み出すようにしたことを特徴とする復号化装置。 The decoding device according to claim 6, wherein
A storage means for temporarily storing the input video data;
Decoding, wherein when reading the video data from the storage means, the complete frame and the forward reference frame in the group are read, and then the bidirectional reference frame in the group is read. apparatus.
上記復号化手段を複数有し、
上記制御手段は、上記ビデオデータを所定の1または複数フレームからなるグループ単位毎に上記複数の復号化手段に対して順次、入力するようにしたことを特徴とする復号化装置。 The decoding device according to claim 1, wherein
A plurality of decoding means,
The decoding device according to claim 1, wherein the control means sequentially inputs the video data to the plurality of decoding means for each group unit consisting of predetermined one or a plurality of frames.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記グループは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなることを特徴とする復号化装置。 The decoding device according to claim 8,
The video data is compression encoded using inter-frame compression,
The group includes at least one complete frame that can be decoded by itself, a forward reference frame that is decoded using a frame that is temporally earlier in display order, A decoding apparatus comprising: a bi-directional reference frame that is decoded with reference to a frame located behind.
上記グループは、該グループ内で復号化が完結するように構成されることを特徴とする復号化装置。 The decoding device according to claim 9, wherein
The decoding apparatus according to claim 1, wherein the group is configured such that decoding is completed within the group.
入力されたビデオデータを復号化して出力する復号化のステップを有し、
1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化方法。 In a decoding method for decoding and outputting compression-encoded video data,
A decoding step of decoding and outputting the input video data;
When a playback speed less than 1 × speed is instructed, an input to the decoding step of the preceding frame input before the timing of the first output frame from the decoding step; A decoding method characterized in that the decoding in the decoding step is controlled to be performed based on a sequence of 1 × speed reproduction.
上記復号化方法は、
入力されたビデオデータを復号化して出力する復号化のステップを有し、
1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする復号化プログラム。 In a decoding program for causing a computer device to execute a decoding method for decoding and outputting compression-encoded video data,
The decoding method is
A decoding step of decoding and outputting the input video data;
When a playback speed less than 1 × speed is instructed, an input to the decoding step of the preceding frame input before the timing of the first output frame from the decoding step; A decoding program characterized in that the decoding in the decoding step is controlled to be performed based on a sequence of 1 × speed reproduction.
上記復号化方法は、
入力されたビデオデータを復号化して出力する復号化のステップを有し、
1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とするコンピュータ装置が読み取り可能な記録媒体。 In a computer-readable recording medium on which a decoding program for causing a computer apparatus to execute a decoding method for decoding and outputting compressed and encoded video data is recorded,
The decoding method is
A decoding step of decoding and outputting the input video data;
When a playback speed less than 1 × speed is instructed, an input to the decoding step of the preceding frame input before the timing of the first output frame from the decoding step; A computer-readable recording medium, wherein the decoding in the decoding step is controlled to be performed based on a sequence of 1 × speed reproduction.
圧縮符号化されたビデオデータが記録される記録媒体と、
上記ビデオデータの再生速度を示す速度情報を出力する速度情報出力手段と、
上記記録媒体から読み出されたビデオデータを復号化して出力する復号化手段と
を有し、
上記速度情報出力手段から出力された上記速度情報により、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生装置。 In a playback device that decodes and outputs video data that has been compression-encoded and recorded on a recording medium,
A recording medium on which compressed and encoded video data is recorded;
Speed information output means for outputting speed information indicating the playback speed of the video data;
Decoding means for decoding and outputting video data read from the recording medium,
When the playback speed less than 1 × is instructed by the speed information output from the speed information output means, the preceding frame input before the timing of the first output frame from the decoding means A reproduction apparatus characterized in that input to the decoding means and the decoding of the preceding frame by the decoding means are controlled based on a sequence of 1 × speed reproduction.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームとを含むことを特徴とする再生装置。 The playback device according to claim 14, wherein
The video data is compression encoded using interframe compression,
The preceding frame includes at least one complete frame that can be decoded by itself, and a forward reference frame that is decoded by using a frame that is temporally preceding in display order. apparatus.
上記先行フレームは、最初に出力されるフレームを含むことを特徴とする再生装置。 The playback device according to claim 14, wherein
The playback apparatus, wherein the preceding frame includes a frame that is output first.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、少なくともそれ自身で復号化可能な1枚の完結フレームを含むことを特徴とする再生装置。 The playback device according to claim 14, wherein
The video data is compression encoded using inter-frame compression,
The playback apparatus according to claim 1, wherein the preceding frame includes at least one complete frame that can be decoded by itself.
上記ビデオデータは、フレーム間圧縮を用いて、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなるグループを単位として圧縮符号化され、上記復号化は、該グループを単位として行われることを特徴とする再生装置。 The playback device according to claim 14, wherein
The video data includes at least one complete frame that can be decoded by itself using inter-frame compression, and a forward reference frame that is decoded using a frame that is positioned temporally earlier in display order; Compression encoding is performed in units of groups of bi-directional reference frames that are decoded with reference to frames that are temporally forward and backward in display order, and the decoding is performed in units of the groups. A reproducing apparatus characterized by the above.
上記グループ内の上記双方向参照フレームが該グループ内の上記完結フレームおよび上記前方参照フレームの後に上記復号化手段に入力されるようにしたことを特徴とする再生装置。 The playback device according to claim 18, wherein
The reproducing apparatus, wherein the bidirectional reference frame in the group is input to the decoding means after the completion frame and the forward reference frame in the group.
上記記録媒体から読み出されたビデオデータを一時的に格納する記憶手段をさらに有し、
上記記憶手段から上記ビデオデータを読み出す際に、上記グループ内の上記完結フレームおよび上記前方参照フレームを読み出してから、該グループ内の上記双方向参照フレームを読み出すようにしたことを特徴とする再生装置。 The playback device according to claim 19,
A storage means for temporarily storing video data read from the recording medium;
A reproduction apparatus characterized in that, when the video data is read from the storage means, the complete frame and the forward reference frame in the group are read, and then the bidirectional reference frame in the group is read. .
上記復号化手段を複数有し、
上記ビデオデータを所定の1または複数フレームからなるグループ単位毎に上記複数の復号化手段に対して順次、入力するようにしたことを特徴とする再生装置。 The playback device according to claim 14, wherein
A plurality of decoding means,
2. A playback apparatus according to claim 1, wherein the video data is sequentially input to the plurality of decoding means for each group unit consisting of predetermined one or a plurality of frames.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記グループは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなることを特徴とする再生装置。 The playback device according to claim 21, wherein
The video data is compression encoded using inter-frame compression,
The group includes at least one complete frame that can be decoded by itself, a forward reference frame that is decoded using a frame that is temporally earlier in display order, A playback apparatus comprising: a bi-directional reference frame which is decoded with reference to a frame located behind.
上記グループは、該グループ内で復号化が完結するように構成されることを特徴とする再生装置。 The playback device according to claim 22,
The playback apparatus according to claim 1, wherein the group is configured to complete decoding within the group.
ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、
圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップと
を有し、
上記速度情報出力のステップから出力された上記速度情報により、1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生方法。 In a reproduction method for decoding and outputting video data that has been compression-encoded and recorded on a recording medium,
A speed information output step for outputting speed information indicating the playback speed of the video data;
A decoding step of decoding and outputting video data read from a recording medium on which the compressed and encoded video data is recorded,
The preceding frame that is input before the timing of the first frame output from the decoding step when a playback speed less than 1 × speed is instructed by the speed information output from the speed information output step A playback method characterized in that the input to the decoding step and the decoding of the preceding frame in the decoding step are controlled based on a 1 × speed playback sequence.
上記再生方法は、
ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、
圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップと
を有し、
上記速度情報出力のステップから出力された上記速度情報により、1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とする再生プログラム。 In a playback program for causing a computer device to execute a playback method for decoding and outputting video data compressed and encoded and recorded on a recording medium,
The above playback method is
A speed information output step for outputting speed information indicating the playback speed of the video data;
A decoding step of decoding and outputting video data read from a recording medium on which the compressed and encoded video data is recorded,
The preceding frame that is input before the timing of the first frame output from the decoding step when a playback speed less than 1 × speed is instructed by the speed information output from the speed information output step A reproduction program characterized in that the input to the decoding step and the decoding of the preceding frame in the decoding step are controlled based on a 1 × speed reproduction sequence.
上記再生方法は、
ビデオデータの再生速度を示す速度情報を出力する速度情報出力のステップと、
圧縮符号化されたビデオデータが記録される記録媒体から読み出されたビデオデータを復号化して出力する復号化のステップと
を有し、
上記速度情報出力のステップから出力された上記速度情報により、1倍速未満の再生速度が指示された際に、上記復号化のステップから最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化のステップへの入力と、該先行フレームの上記復号化のステップによる上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにしたことを特徴とするコンピュータ装置に読み取り可能な記録媒体。
In a recording medium readable by a computer apparatus on which a reproduction program for causing a computer apparatus to execute a reproduction method for decoding and outputting video data compressed and encoded and recorded on the recording medium is provided.
The above playback method is
A speed information output step for outputting speed information indicating the playback speed of the video data;
A decoding step of decoding and outputting video data read from a recording medium on which the compressed and encoded video data is recorded,
The preceding frame that is input before the timing of the first frame output from the decoding step when a playback speed less than 1 × speed is instructed by the speed information output from the speed information output step A computer apparatus characterized in that control is performed so that the input to the decoding step and the decoding by the decoding step of the preceding frame are performed based on a sequence of 1 × speed reproduction. A readable recording medium.
圧縮符号化されたビデオデータが記録される記録媒体と、
上記ビデオデータの再生速度を示す速度情報を出力する速度情報出力手段と
を有する制御装置と、
上記記録媒体から読み出されたビデオデータを復号化して出力する復号化手段と、
上記速度情報出力手段から出力された上記速度情報により、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御する制御手段と
を有する復号化装置と
を備えることを特徴とする再生システム。 In a playback system that decodes and outputs video data that has been compression-encoded and recorded on a recording medium,
A recording medium on which compressed and encoded video data is recorded;
A control device having speed information output means for outputting speed information indicating the playback speed of the video data;
Decoding means for decoding and outputting video data read from the recording medium;
When the playback speed less than 1 × is instructed by the speed information output from the speed information output means, the preceding frame input before the timing of the first output frame from the decoding means And a decoding device having control means for controlling the input to the decoding means and the decoding of the preceding frame by the decoding means based on a sequence of 1 × speed reproduction. Playback system.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームとを含むことを特徴とする再生システム。 28. A playback system according to claim 27.
The video data is compression encoded using inter-frame compression,
The preceding frame includes at least one complete frame that can be decoded by itself, and a forward reference frame that is decoded by using a frame that is temporally preceding in display order. system.
上記先行フレームは、最初に出力されるフレームを含むことを特徴とする再生システム。 28. A playback system according to claim 27.
The reproduction system according to claim 1, wherein the preceding frame includes a frame output first.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記先行フレームは、少なくともそれ自身で復号化可能な1枚の完結フレームを含むことを特徴とする再生システム。 28. A playback system according to claim 27.
The video data is compression encoded using inter-frame compression,
The reproduction system according to claim 1, wherein the preceding frame includes at least one complete frame that can be decoded by itself.
上記ビデオデータは、フレーム間圧縮を用いて、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなるグループを単位として圧縮符号化され、上記復号化は、該グループを単位として行われることを特徴とする再生システム。 28. A playback system according to claim 27.
The video data includes at least one complete frame that can be decoded by itself using inter-frame compression, and a forward reference frame that is decoded using a frame that is positioned temporally earlier in display order; Compression encoding is performed in units of groups of bi-directional reference frames that are decoded with reference to frames that are temporally forward and backward in display order, and the decoding is performed in units of the groups. A reproduction system characterized by this.
上記グループ内の上記双方向参照フレームが該グループ内の上記完結フレームおよび上記前方参照フレームの後に上記復号化手段に入力されるようにしたことを特徴とする再生システム。 32. A playback system according to claim 31, wherein
The reproduction system according to claim 1, wherein the bi-directional reference frame in the group is input to the decoding means after the completion frame and the forward reference frame in the group.
上記復号化装置は、上記記録媒体から読み出されたビデオデータを一時的に格納する記憶手段をさらに有し、
上記記憶手段から上記ビデオデータを読み出す際に、上記グループ内の上記完結フレームおよび上記前方参照フレームを読み出してから、該グループ内の上記双方向参照フレームを読み出すようにしたことを特徴とする再生システム。 The playback system according to claim 32, wherein
The decoding device further includes storage means for temporarily storing video data read from the recording medium,
A reproduction system characterized in that, when the video data is read from the storage means, the complete frame and the forward reference frame in the group are read, and then the bidirectional reference frame in the group is read. .
上記復号化装置は、上記復号化手段を複数有し、
上記ビデオデータを所定の1または複数フレームからなるグループ単位毎に上記複数の復号化手段に対して順次、入力するようにしたことを特徴とする再生システム。 28. A playback system according to claim 27.
The decoding device has a plurality of the decoding means,
A reproduction system characterized in that the video data is sequentially input to the plurality of decoding means for each group consisting of predetermined one or a plurality of frames.
上記ビデオデータは、フレーム間圧縮を用いて圧縮符号化され、
上記グループは、それ自身で復号化可能な少なくとも1枚の完結フレームと、表示順で時間的に前に位置するフレームを用いて復号化される前方参照フレームと、表示順で時間的に前および後ろに位置するフレームを参照して復号化される双方向参照フレームとからなることを特徴とする再生システム。 The playback system of claim 34,
The video data is compression encoded using inter-frame compression,
The group includes at least one complete frame that can be decoded by itself, a forward reference frame that is decoded using a frame that is temporally earlier in display order, A reproduction system comprising a bidirectional reference frame decoded with reference to a frame located behind.
上記グループは、該グループ内で復号化が完結するように構成されることを特徴とする再生システム。 36. A playback system according to claim 35.
The reproduction system according to claim 1, wherein the group is configured such that decoding is completed within the group.
圧縮符号化されたビデオデータが入力され、入力された該ビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体から該ビデオデータを読み出して供給すると共に、該ビデオデータの再生速度を示す上記速度情報を供給するようにした
ことを特徴とする再生方法。 In a reproduction method for decoding and outputting video data that has been compression-encoded and recorded on a recording medium,
When the compression-encoded video data is input, the video data has decoding means for decoding and outputting the input video data, and when the playback speed less than 1 × is instructed by the input speed information, The input of the preceding frame input before the timing of the first frame output from the decoding unit to the decoding unit and the decoding of the preceding frame by the decoding unit are performed at 1 × speed reproduction. The video data is read from the recording medium on which the compression-encoded video data is recorded and supplied to the decoding apparatus controlled to be performed based on the sequence, and the playback speed of the video data is indicated. A reproduction method characterized in that the speed information is supplied.
上記再生方法は、
圧縮符号化されたビデオデータが入力され、入力された該ビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体から該ビデオデータを読み出して供給すると共に、該ビデオデータの再生速度を示す上記速度情報を供給するようにした
ことを特徴とする再生プログラム。 In a playback program for causing a computer device to execute a playback method for decoding and outputting video data compressed and encoded and recorded on a recording medium,
The above playback method is
When the compression-encoded video data is input, the video data has decoding means for decoding and outputting the input video data, and when the playback speed less than 1 × is instructed by the input speed information, The input of the preceding frame input before the timing of the first frame output from the decoding unit to the decoding unit and the decoding of the preceding frame by the decoding unit are performed at 1 × speed reproduction. The video data is read from the recording medium on which the compression-encoded video data is recorded and supplied to the decoding apparatus controlled to be performed based on the sequence, and the playback speed of the video data is indicated. A reproduction program characterized in that the speed information is supplied.
上記再生方法は、
圧縮符号化されたビデオデータが入力され、入力された該ビデオデータを復号化して出力する復号化手段を有し、入力された速度情報により、1倍速未満の再生速度が指示された際に、上記復号化手段から最初に出力されるフレームのタイミングより以前に入力される先行フレームの上記復号化手段への入力と、該先行フレームの上記復号化手段による上記復号化とを、1倍速再生のシーケンスに基づき行うように制御するようにした復号化装置に対して、圧縮符号化されたビデオデータが記録された記録媒体から該ビデオデータを読み出して供給すると共に、該ビデオデータの再生速度を示す上記速度情報を供給するようにした
ことを特徴とするコンピュータ装置が読み取り可能な記録媒体。 In a recording medium readable by a computer apparatus on which a reproduction program for causing a computer apparatus to execute a reproduction method for decoding and outputting video data compressed and encoded and recorded on the recording medium is provided.
The above playback method is
When the compression-encoded video data is input, the video data has decoding means for decoding and outputting the input video data, and when the playback speed less than 1 × is instructed by the input speed information, The input of the preceding frame input before the timing of the first frame output from the decoding unit to the decoding unit and the decoding of the preceding frame by the decoding unit are performed at 1 × speed reproduction. The video data is read from the recording medium on which the compression-encoded video data is recorded and supplied to the decoding apparatus controlled to be performed based on the sequence, and the playback speed of the video data is indicated. A computer-readable recording medium characterized by supplying the speed information.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004311564A JP4218626B2 (en) | 2004-10-26 | 2004-10-26 | Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004311564A JP4218626B2 (en) | 2004-10-26 | 2004-10-26 | Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006128827A JP2006128827A (en) | 2006-05-18 |
JP4218626B2 true JP4218626B2 (en) | 2009-02-04 |
Family
ID=36723071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004311564A Expired - Fee Related JP4218626B2 (en) | 2004-10-26 | 2004-10-26 | Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4218626B2 (en) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7289554B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289553B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289548B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289550B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289545B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289552B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289546B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289551B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289547B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
JP7289549B2 (en) * | 2021-05-19 | 2023-06-12 | 株式会社ユニバーサルエンターテインメント | game machine |
-
2004
- 2004-10-26 JP JP2004311564A patent/JP4218626B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2006128827A (en) | 2006-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4207072B2 (en) | Information processing apparatus, information processing method, recording medium, and program | |
JP4534910B2 (en) | Image processing apparatus, image processing method, recording medium, and program | |
US8437408B2 (en) | Decoding with reference image stored in image memory for random playback | |
KR20060049391A (en) | Information processing apparatus and information processing method, recording medium and program | |
JP4218626B2 (en) | Decoding device, decoding method and decoding program, playback system, playback device, playback method and playback program, and recording medium | |
JP5011017B2 (en) | Image decoding device | |
JPH11168698A (en) | Method and device for reproduction | |
JP4281721B2 (en) | Data processing apparatus, data processing method, program, and recording medium | |
JP2014086798A (en) | Electronic apparatus, motion picture playback device, motion picture decoding method and program | |
US7974523B2 (en) | Optimal buffering and scheduling strategy for smooth reverse in a DVD player or the like | |
JP2000217109A (en) | Dynamic image reproducing device and reproducing method | |
JP2006128826A (en) | Decoder, decoding method and decoding program, reproduction system, reproducing apparatus, reproduction method and reproduction program, and recording medium | |
JP4281720B2 (en) | Data processing apparatus, data processing method, data processing system, program, and recording medium | |
JP4244974B2 (en) | Data processing system, playback device, data processing device, playback method, data processing method, program, and recording medium | |
JP4575417B2 (en) | Video playback device | |
JP2007060488A (en) | Image processing element, image processing method, recording medium and program | |
JP4492487B2 (en) | Data processing apparatus, data processing system, program, and recording medium | |
US8345760B2 (en) | Information processing apparatus and information processing method | |
JPH08140047A (en) | Picture data recorder | |
JP4284830B2 (en) | Moving picture editing / decoding apparatus and method | |
JP2001177829A (en) | Method for reproducing moving picture data and moving picture data reproducing device | |
JP3039416B2 (en) | Video storage and playback device | |
JP4046496B2 (en) | Moving picture decoding apparatus, moving picture decoding method, recording medium storing program for causing computer to execute the method, and program | |
JP4281722B2 (en) | REPRODUCTION DEVICE, REPRODUCTION METHOD, PROGRAM, AND RECORDING MEDIUM | |
JP2005323089A (en) | Reproducing device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060209 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081014 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081021 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081103 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111121 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111121 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111121 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121121 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |