[go: up one dir, main page]

JP2005072742A - 符号化装置及び符号化方法 - Google Patents

符号化装置及び符号化方法 Download PDF

Info

Publication number
JP2005072742A
JP2005072742A JP2003297064A JP2003297064A JP2005072742A JP 2005072742 A JP2005072742 A JP 2005072742A JP 2003297064 A JP2003297064 A JP 2003297064A JP 2003297064 A JP2003297064 A JP 2003297064A JP 2005072742 A JP2005072742 A JP 2005072742A
Authority
JP
Japan
Prior art keywords
data
encoded data
picture
encoding
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003297064A
Other languages
English (en)
Inventor
Hideyuki Narita
秀之 成田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003297064A priority Critical patent/JP2005072742A/ja
Priority to US10/913,385 priority patent/US20050078756A1/en
Priority to CNB2004100641755A priority patent/CN1312932C/zh
Priority to KR1020040065937A priority patent/KR20050020710A/ko
Publication of JP2005072742A publication Critical patent/JP2005072742A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】 リアルタイムで動画像データを伝送した場合においても画質の劣化を防止すること。
【解決手段】 入力画像データからBピクチャデータを作成するときは、入力画像データに基づいたBピクチャデータと、スキップBピクチャデータを作成して符号化データバッファメモリ5に蓄積しておくようにする。そして、vbvバッファによる検証結果に基づいて、BピクチャデータをスキップBピクチャに置き換えることで、符号化データ出力部6から出力されるビットストリーム出力のデータ量を調整することが可能になる。
【選択図】図1

Description

本発明は、例えばMPEG(Moving Picture Experts Group)の規格で画像データを圧縮して符号化を行う符号化装置及び符号化方法に関するものである。
従来から画像データに対して圧縮処理を行う方式としては、MPEG方式が提案されており、このMPEG方式により画像データを圧縮処理を行い、符号化する符号化装置がある。
上記したような符号化装置では、入力画像データを一旦画像メモリに蓄えた後、圧縮符号化するようにされる。そして、圧縮符号化された符号化データを、バッファメモリに蓄えた後、ビットストリームとして出力するようにされる。
なお、MPEG1及びMPEG2は、ISO(International Origanization for Standardization:国際標準化機構)とIEC(International Electrotechnical Commission:国際電気標準会議)によって標準化が進められたカラー動画像蓄積用符号化方式とされる。
MPEG1は、周期的なフレーム内符号化を取り入れた動き補償予測/DCT(離散コサイン変換)方式を符号化アルゴリズムとし、1.5Mbps程度の転送速度を持つとされる。また、MPEG2は、MPEG1の上位バージョンであり、数Mbps〜数十Mbpsという広範囲の転送速度を対象とする。
MPEG1は、主にCD−ROMなどの蓄積メディアを適用対象とする。またMPEG2は放送やAV機器への適用対象としている。
ところで、上記したような符号化装置から出力されるビットストリームを復号装置側に伝送する場合は、復号装置側で連続する画像が途切れることなく、デコードを行うことができるようにするために、符号化装置側でデータ量の制御を行う必要がある。
このため、符号化装置には、復号装置側のバッファメモリのデータ量を管理するために、MPEGの規格で規定されているvbv(Video Buffering Verifier)バッファと呼ばれる理想デコーダモデルの仮想バッファを設定し、このvbvバッファがオーバーフローしたり、アンダーフローしないようにデータ量の検証を行うようにしている。
そして、符号化装置では、このvbvバッファの検証結果に基づいて、符号化データのデータ量を抑制したり、或いは転送時のビットレートを変更するなどして、符号化装置から出力される復号装置側のバッファメモリのデータ量を調整するようにしている。
ここで、図8を参照しながら、従来の符号化装置において、入力画像データの符号化を行ったときにvbvバッファに蓄積されるデータ蓄積量の遷移状態について説明する。
なお、図8では、ビットレートをR、フレームレートにより決定されるピクチャ間の時間をTpとして説明する。
また、vbvバッファは、上記したように理想デコーダモデルの仮想バッファであることから、その全体の容量サイズ(vbv_buffer_size)は、復号装置側のバッファメモリの容量サイズに合わせて設定される。
vbvバッファは、例えば時点t0から入力画像データの符号化が開始されるものとして、以降、例えばビットレートRのデータ転送速度によりデータが蓄積されることになる。そして、時点t0から時間Tdだけ経過した時点t1において、復号装置側でデコード処理が開始されると、vbvバッファから1枚目のピクチャに相当するデータb1が読み出される。そして、時点t1からTp経過した時点t2において、vbvバッファから2枚目のピクチャに相当するデータb2が読み出される。以降は、時点t2から時間長Tp経過した時点t3,t4・・・ごとに、vbvバッファから3枚目、4枚目のピクチャに相当するデータb3,b4が読み出されることになる。
vbvバッファは、このような動作を繰り返し行うことで、各時点において読み出される各ピクチャのデータ量が、各時点におけるデータ蓄積量を越えないかどうかの検証を行うようにしている。
各時点におけるデータ蓄積量の求め方としては、例えば時点t4におけるデータ蓄積量は、例えば時点t3におけるピクチャに相当するデータb3が読み出された後のvbvバッファのビット残量をB0とすると、次の時点t4におけるデータ蓄積量B1は、時点t3におけるビット残量B0と、時点t3から時点t4までの時間長Tpと、そのビットレートRから以下のような演算により求めることができる。
B1=B0+R×Tp
そして、時点t4では、vbvバッファから4枚目のピクチャに相当するデータb4が読み出されることになるが、このときは、vbvバッファのデータ蓄積量B1を上限にして4枚目のピクチャに相当するデータb4の読み出しが可能かどうか検証するようにしている。そして、このような検証を行った結果、時点t4において、vbvバッファから4枚目のピクチャに相当するデータb4を読み出すと、vbvバッファがアンダーフローしてしまうような場合には、例えば画像圧縮符号化部で4枚目のピクチャの符号化データを作成するときのデータ量を減らしたり、或いは4枚目のピクチャに相当するデータを伝送するときのビットレートを変更するなどして、vbvバッファがアンダーフローしないように制御を行うようにしていた。
なお、本発明に関連する技術文献としては、以下の特許文献を挙げることができる。
特開平11−262008号公報
上記のように、従来の符号化装置では、vbvバッファのデータ蓄積量が1枚のピクチャに相当するデータ量より小さい場合は、そのピクチャの符号化データを作成するときの、Q(量子化)スケールを大きくしたり、DCT(離散コサイン変換)係数を削るなどの処理を行うなどしてそのピクチャのデータ量を減らして復号装置側のバッファメモリが破綻しないように制御を行うようにしていた。
しかしながら、上記したような制御を行った場合には、例えばデータ量を減らしたピクチャが画像品質に大きく影響を与えるピクチャである場合、例えばそのデータ量を減らしたピクチャが、他のピクチャをデコードする際に参照画像として用いられるピクチャである場合には、復号装置では数フレームにわたって画質の劣化が発生するという欠点があった。
特に、放送または通信などのリアルタイムでのデータ伝送が要求されるシステムで処理を行う場合、上記したような構成の符号化装置では復号装置側で著しい画質劣化を招くおそれがあった。
そこで、本発明は上記したような点を鑑みてなされたものであり、入力画像データを圧縮度が異なる所定単位の画像データに符号化した符号化データを出力するように構成されていると共に、入力画像データから圧縮度が最も大きい第1の符号化データを作成するときは、第1の符号化データと、少なくとも前記第1の符号化データよりデータ量が少ないとされるスキップ符号化データを作成して出力する画像符号化手段と、この画像符号化手段からの符号化データを一時的に蓄積する蓄積手段と、この蓄積手段に蓄積された前記符号化データに基づいたビットストリームを出力するデータ出力手段と、このデータ出力手段から出力されるビットストリーム出力を一時蓄積するものであり、所定タイミングで符号化データ単位でのデータの読み出しが行われる復号装置側のバッファメモリにおけるデータ蓄積量を仮想的に求めるための仮想バッファを発生させる仮想バッファ発生手段と、符号化データの作成状況から、仮想バッファにおけるデータ蓄積量において得られているデータ蓄積量を検証する検証手段と、この検証手段の検証結果に基づいて、前記第1の符号化データを前記スキップ符号化データに置き換えて符号化制御を行う符号化制御手段とを備えて構成することとした。
また本発明の符号化方法は、入力画像データを圧縮度が異なる所定単位の画像データに符号化した符号化データを出力するように構成されていると共に、入力画像データから圧縮度が最も大きい第1の符号化データを作成するときは、第1の符号化データと、少なくとも第1の符号化データよりデータ量が少ないとされるスキップ符号化データを作成して出力する画像符号化手順と、画像符号化手順により作成された符号化データを一時的に蓄積する蓄積手順と、蓄積手順により蓄積された符号化データに基づいたビットストリームを出力するデータ出力手順と、データ出力手順にから出力されるビットストリーム出力により、復号装置側のバッファメモリに蓄積されるデータ量を仮想的に求める仮想バッファ手順と、仮想バッファ手順を用いて復号装置側のデータ量の検証を行う検証手順と、検証手順の検証結果に基づいて、第1の符号化データをスキップ符号化データに置き換えて符号化制御を行う符号化制御手順とを実行するようにした。
上記構成によれば、入力画像データから第1の符号化データを作成するときは、この第1の符号化データよりデータ量が少ないとされるスキップ符号化データを作成するようにされる。そして、仮想バッファ手段を用いた検証手段による検証結果に基づいて、第1の符号化データをスキップ符号化データに置き換えることで、データ出力手段から出力されるビットストリーム出力のデータ量を調整することが可能になる。
このような本発明によれば、画質を保つうえで重要とされる、第1の符号化データ以外の第2の符号化データのデータ量を減らすことなく、データ出力手段から出力されるビットストリーム出力のデータ量を調整することが可能になる。
この結果、復号装置側において動画像を復号したときに、従来のように数フレームにわたって画質が大きく損なわれるといったことがなく、画質を大幅に向上させることができるようになる。
特に、本発明の符号化装置は、復号装置への動画像データをリアルタイムでの伝送が要求される放送やAVシステムに適用した場合に非常に有用とされるものである。
以下、本発明の実施の形態としての符号化装置について説明する。
図1は、本実施の形態としての符号化装置の構成を示したブロック図である。
この図1において、画像入力部2を介して入力された画像データは、画像メモリ3に入力される。画像メモリ3は、例えば画像入力部2からの画像データを一時的に保持するようにされる。
画像圧縮符号化部4は、画像メモリ3に保持された画像データについてMPEGによる圧縮符号化処理を施して出力するようにされる。
すなわち、画像圧縮符号化部4では、映像信号(1フレーム)のブロック化による細分化を行い、各ブロックのデータのDCT(離散コサイン変換)を行い、さらにビット数を減らすために再量子化を行う(高域成分を0にする)。そして、ブロックを1フレームの画面左上となるブロックからジグザグとなるようにブロック順を並び代え、ランレングスコーディングを行ってさらにビット数を圧縮するようにしている。
ここで、画像圧縮符号化部4において作成される符号化データについて簡単に説明しておく。
画像圧縮符号化部4では、上記のようにして圧縮処理される画像信号の各フレームについては、その時間的に前後となるフレームでは映像情報として非常に似たものであり、これを利用してさらに情報の圧縮が行われ、圧縮度の異なる3種類の画像データ(1フレームの映像データ)が設けられる。これらは、Iピクチャ(Intra Picture)、Pピクチャ(Predicted Picture)、Bピクチャ(Bidirectionally predicted Picture)と呼ばれる。
この場合、Iピクチャは、フレーム内予測画面のみからなる画像データとされ、Pピクチャはフレーム間順方向予測により生成される画像データとされる。またBピクチャはフレーム間双方向予測により生成される画像データとされる。このため、IピクチャとPピクチャは原画像と同じ順序で符号化される。
一方、Bピクチャは、IピクチャとPピクチャを先に処理した後、間に挿入されるBピクチャを後で符号化するようにしている。
また、或るIピクチャから始まる複数のピクチャにより、GOP(Group of Picture)が構成される。この場合、各GOPの独立性を維持して、ランダム・アクセスを行うためには、1つのGOP内には最低1枚のIピクチャが必要とされる。またGOPの最後は、IピクチャまたはPピクチャであることが必要とされる。
また本実施の形態の画像圧縮符号化部4は、第1の符号化データであるBピクチャの符号化データ(以下、「Bピクチャデータ」という)を作成するときに、全てのマクロブロックにおいて係数「0」、ベクトル統一で参照値「0」とされる、いわゆるスキップBピクチャと呼ばれる画像データを合わせて作成するようにされる。そして、このように作成したスキップ符号化データとされるスキップBピクチャの符号化データ(以下、「スキップBピクチャデータ」という)を、Bピクチャデータと共に符号化データバッファメモリ5に出力するようにされる。なお、スキップBピクチャデータは、画像サイズが決定されれば一意に求められるものである。
符号化データバッファメモリ5は、画像圧縮符号化部4で符号化された符号化データを取り込んで、一時的に蓄積して、符号化データ出力部6に対して出力するようにされる。
このような符号化データバッファメモリ5の実メモリサイズ(実容量)は、MPEGの規格で規定されているvbvバッファの仮想バッファより大きいメモリサイズとされる。
そこで、本実施の形態では、符号化データバッファメモリ5の実メモリサイズがvbvバッファのメモリサイズより大きいことを利用して、画像圧縮符号化部4から取り込んだデータを離散的に読み出すことができるように構成されている。
すなわち、本実施の形態としての符号化データバッファメモリ5は、従来用いられていた、リングバッファやFIFO(First in Farst out)バッファ的なものとは異なり、アドレス制御により、離散的に記憶されているデータを連続したデータとして読み出すことができるものとされる。
符号化データ出力部6は、符号化データバッファメモリ5から入力されるピクチャデータをストリームとして出力するようにされる。
符号化制御部7は、画像圧縮符号化部4、符号化データバッファメモリ5、符号化データ出力部6の制御を行うようにされる。
即ち、符号化制御部7は、画像圧縮符号化部4において、画像メモリ3に蓄積された画像データから第2の符号化データであるIピクチャやPピクチャ、或いは第1の符号化データであるBピクチャなどの符号化データを作成するための制御を実行する。また、画像メモリ3に蓄積された画像データからBピクチャの符号化データを作成する際には、スキップBピクチャの符号化データを作成するための制御も実行する。
また符号化制御部7は、符号化データバッファメモリ5の実メモリエリアに記憶、保持されているピクチャデータから任意のピクチャデータだけを読み出して出力させるための制御も実行するようにされる。即ち、符号化データバッファメモリ5に離散的に記憶、保持されているピクチャデータを連続したピクチャデータとして出力することが可能とされる。例えば符号化制御部7は、図2に示すように、符号化データバッファメモリ5の実メモリエリアに有効データとして、離散的に存在する複数のピクチャデータA,B,Cを連続したピクチャデータとして出力することが可能とされる。
この結果、符号化データ出力部6から出力される符号化データは、例えばピクチャデータA、ピクチャデータB、ピクチャデータCの順で連続したものとなる。
また、符号化装置1では、符号化データ出力部6から出力されるビットストリーム出力を、図示しない復号装置(デコーダ)側に伝送する場合は、復号装置側で途切れることなく、デコードできるようにデータ量を制御する必要がある。
このため、符号化装置1には、復号装置側のデータ量を検証するための仮想バッファ手段として、MPEGの規格で規定されているvbvバッファが設定されており、このvbvバッファにより、符号化データの発生量を管理して、復号装置側のバッファが破綻しないように、デコーダ側のデータ量の制御を行うようにしている。
このような仮想バッファ手段であるvbvバッファは、物理的なメモリとしては存在しないものであり、例えば符号化制御部7が、その内部に設けられているRAM(Random Access Memory)7aなどを作業領域として、vbvバッファについての演算を実行することにより検証手段として形成されるものである。なお、vbvバッファは、符号化データバッファメモリ5を作業領域として利用することも可能である。
さらに符号化制御部7は符号化制御手段として、vbvバッファにより得られた復号装置側のデータ量を検証した検証結果に基づいて、符号化データバッファメモリ5の読み出し制御を行うようにしている。
ここで、図3〜図5を参照しながら、本実施の形態の符号化装置において、入力画像データの符号化を行ったときにvbvバッファに蓄積されるデータ蓄積量の遷移状態について説明する。なお、これら図3〜図5では、ビットレートをR、フレームレートにより決定されるピクチャ間の時間をTpとする。
本実施の形態においても、vbvバッファは、先にも述べたように理想デコーダモデルの仮想バッファであることから、その全体の容量サイズ(vbv_buffer_size)は、復号装置側のバッファメモリの容量サイズに合わせて設定される。
vbvバッファの基本的な動作は、先に図8を用いて説明した従来のvbvバッファと同じとされる。
すなわち、本実施の形態のvbvバッファは、図3に示すように、例えば時点t0から入力画像データの符号化が開始されると、以降、例えばビットレートRでデータが蓄積されることになる。そして、時点t0から時間Tdだけ経過した或る時点、少なくともvbvバッファ蓄積されるデータがオーバーフローしない或る時点t1において、復号装置側でデコード処理が開始されるものとして、vbvバッファから1枚目のピクチャに相当するデータb1が読み出される。そして、時点t1からTp経過した時点t2において、vbvバッファから2枚目のピクチャに相当するデータb2が読み出される。そして、時点t2から時間長Tp経過した時点t3・・・において、vbvバッファから3枚目のピクチャに相当するデータb3が読み出されることになる。以降は、時点t3から時間長Tp経過するごとに、vbvバッファから各時点でのピクチャに相当するデータが読み出されることになる。
このように本実施の形態のvbvバッファにおいても、上記したような動作を繰り返し行うことで、各時点において読み出される各ピクチャのデータ量が各時点におけるデータ蓄積量を越えないかどうかの検証を行うようにしている。
各時点におけるデータ蓄積量の求め方としては、例えば時点t4におけるデータ蓄積量は、例えば時点t3におけるピクチャに相当するデータb3が読み出された後のvbvバッファのビット残量をB0とすると、次の時点t4におけるデータ蓄積量B1は、時点t3におけるビット残量B0と、時点t3から時点t4までの時間長TpとそのビットレートRから以下のような演算により求めることができる。
B1=B0+R×Tp
そのうえで、本実施の形態のvbvバッファでは、例えば時点t4においてvbvバッファから読み出される4枚目のピクチャに相当するピクチャデータb4が、IピクチャまたはPピクチャだった場合、この時点t4におけるピクチャデータを検証対象データとする。そして、この時点t4の一つ前の読み出し時点t3において、vbvバッファから読み出されたピクチャがBピクチャである場合には、時点t3において読み出したピクチャのデータb3を、演算により求めたスキップBピクチャのデータbsに置き換えたときのビット残量B0’を求めるようにしている。
時点t3のBピクチャをスキップBピクチャに置き換えたときの時点t4におけるデータ蓄積量B1’は、ビット残量B0’と、時点t3から時点t4までの時間長TpとそのビットレートRから、以下のような演算により求めることができる。
B1’=B0’+R×Tp
ここで、例えば図4に示すように、時点t4のピクチャ(IピクチャまたはPピクチャ)に相当するデータb4がデータ蓄積量B1より大きい(b4>B1)とすると、この場合は、vbvバッファがアンダーフローすることになる。即ち、復号装置のバッファメモリがデータ不足の状態に陥ることになる。
このため、従来の符号化装置では、時点t4のピクチャの符号化データを作成するときのデータ量を減らした、或いはピクチャに相当するビットストリームを出力するときのビットレートを変更するなどの制御を行うようにしていた。
しかしながら、このピクチャデータがBピクチャをデコードする際の参照画像になるIピクチャや、Pピクチャの場合には、IピクチャやPピクチャの画質のみならず、参照画像として利用したBピクチャの画質も劣化するため、先においても述べたように、数フレームにわたって画質が劣化することがある。
そこで、本実施の形態の符号化装置1では、図4に示したように、Iピクチャ若しくはPピクチャに相当するデータb4が、時点t3のピクチャをBピクチャのときのデータ蓄積量B1より大きい(b4>B1)場合には、図5に示すように、時点t3におけるピクチャをBピクチャからステップBピクチャに置き換えるようにしている。
この結果、図5に示すように、時点t4におけるデータ蓄積量B1をB1’とし、時点t4においてIピクチャまたはPピクチャに相当するデータb4がデータ蓄積量B1’より小さくなり、vbvバッファがアンダーフローしないようにすることができる。すなわち、vbvバッファにおいて復号装置のバッファメモリに破綻が生じないことを検証することができるようになる。
ここで、図6を用いて、本実施の形態の符号化装置1により、上記のようなvbvバッファの検証結果に基づいたビットストリームを出力するための動作について説明する。
先においても説明したように、符号化データバッファメモリ5の実メモリサイズはvbvバッファのメモリサイズより大きいとされる。
そこで、本実施の形態の符号化装置1では、上記のような符号化データバッファメモリ5を有効的に利用するようにしている。すなわち、符号化制御部7の制御により、符号化データバッファメモリ5に対して離散的に蓄積されたデータを連続したデータとして符号化データ出力部6に対して出力することで、vbvバッファの検証結果に基づいたビットストリームを出力するようにしている。
このため、本実施の形態の符号化装置1では、符号化制御部7が、画像圧縮符号化部4において、Bピクチャデータを作成する際に、このBピクチャデータと、このBピクチャデータよりデータ量が少ないスキップBピクチャデータを作成して符号化データバッファメモリ5に蓄積するようにしている。
そして、上記したようにvbvバッファにおいて、復号装置側のデータ量が規定範囲を超えると検証されたときには、符号化データバッファメモリ5上において、BピクチャデータをスキップBピクチャデータに書き換え、符号化データ出力部6からは、符号化データバッファメモリ5上において書き換えたスキップBピクチャデータだけを出力するようにしている。これにより、本実施の形態の符号化装置1では、復号装置側のバッファメモリが破綻しないようなビットストリームを出力することができるようになる。
なお、vbvバッファにおいて、蓄積されるデータ量が規定範囲を超えないと検証されたときには、従来と同様のビットストリームを出力するようにしている。つまり、符号化データバッファメモリ5上において、時点t3におけるピクチャデータをBピクチャデータからスキップBピクチャデータに書き換えることなく、ビットストリームが出力されることになる。
このように、本実施の形態の符号化装置1においては、vbvバッファの検証結果に基づいて、BピクチャをスキップBピクチャに置き換えることで、復号装置において復号するときに画質を保つうえで重要になる、IピクチャまたはPピクチャのデータ量を減らすことなく、復号装置側に伝送されるデータ量の調整を行うようにしている。
このように構成すると、例えばIピクチャやPピクチャの量子化スケールを粗く処理してデータ量を減らす場合に比べて、画像品質の向上を図ることができるようになる。これはBピクチャは量子化スケールを粗く処理しても平均的画質を維持することができるからである。
したがって、本実施の形態とされる符号化装置を、リアルタイムでの伝送が要求される放送やAVシステムなどに適用した場合に画質を大幅に向上させることができ、非常に有用とされる。
図7は、上記したようなvbvバッファを用いた検証動作を実現するために、符号化制御部7が実行する処理を示したフローチャートである。なお、以下に示す処理動作は、vbvバッファにおいて、IピクチャまたはPピクチャに相当するデータの符号化を行うときに実行するものとされる。
この場合、符号化制御部7は、先ず、ステップS101において、vbvバッファからIピクチャまたはPピクチャの符号化が行われる或る時点より一つ前の時点におけるvbvバッファのバッファ残量B0と、目標ビットレートRとから、或る時点におけるIピクチャまたはPピクチャの符号化が行われる前のvbvバッファのデータ蓄積量B1を求めるようにする。
続くステップS102において、一つ前の時点におけるBピクチャをスキップBピクチャとしたときのデータbsを求めるようにする。
次に、ステップS103において、一つ前の時点におけるBピクチャをスキップBピクチャとしたときのvbvバッファ残量B0’と、目標ビットレートRとから、或る時点におけるIピクチャまたはPピクチャの符号化が行われる前のvbvバッファのデータ蓄積量B1’を求めるようにする。
そして、次のステップS104において、vbvバッファのデータ蓄積量B1’を上限として、IピクチャまたはPピクチャの符号化を行うようにする。
次に、ステップS105において、IピクチャまたはPピクチャのピクチャデータがvbvバッファのデータ蓄積量B1を越えたかどうかの判別を行い、データbがvbvバッファのデータ蓄積量B1を越えていると判別したときは、ステップS106に進む。
そして、ステップS106において、一つ前の時点のBピクチャをスキップBピクチャに置き換えて処理を終えることになる。
一方、ステップS105において、データbがvbvバッファのデータ蓄積量B1を越えていないと判別したときは、BピクチャをスキップBピクチャに置き換えることなく処理を終えることになる。
このような処理を行うようにすれば、上記図3〜図5に示したvbvバッファの動作を符号化制御部7により実現することができる。
なお、本実施の形態においては、MPEG方式による符号化方式を例に挙げて説明したが、これはあくまでも一例であり、MPEG方式以外の符号化方式にも適用可能である。
また、本実施の形態では、本発明としてのvbvバッファを用いた検証動作をIピクチャまたはPピクチャの符号化時に行うものとして説明したが、Bピクチャの符号化時に行うことをも可能である。
また、本実施の形態としての符号化装置の構成は、あくまでも一例であり、仮想バッファを備えた符号化装置で有れば何れの構成のものにも適用可能である。
本発明の実施の形態としての画像符号化装置の構成を示したブロック図である。 本実施の形態としての符号化データ出力部の構成を示した図である。 本実施の形態としてのvbvバッファに蓄積されるデータの遷移状態を示した図である。 本実施の形態としてのvbvバッファに蓄積されるデータの遷移状態を示した図である。 本実施の形態としてのvbvバッファに蓄積されるデータの遷移状態を示した図である。 本実施の形態とされる符号化データ出力部の構成を示した図である。 本実施の形態とされる画像符号化装置の符号化制御部が実行する処理を示したフローチャートである。 従来のvbvバッファに蓄積されるデータの遷移状態を示した図である。
符号の説明
1 符号化装置、2 画像入力部、3 画像メモリ、4 画像圧縮符号化部、5 符号化データバッファメモリ、6 符号化データ出力部、7 符号化制御部、7a RAM

Claims (3)

  1. 入力画像データを圧縮度が異なる所定単位の画像データに符号化した符号化データを出力するように構成されていると共に、前記入力画像データから圧縮度が最も大きい第1の符号化データを作成するときは、前記第1の符号化データと、少なくとも前記第1の符号化データよりデータ量が少ないとされるスキップ符号化データを作成して出力する画像符号化手段と、
    前記画像符号化手段からの符号化データを一時的に蓄積する蓄積手段と、
    前記蓄積手段に蓄積された前記符号化データに基づいたビットストリームを出力するデータ出力手段と、
    前記データ出力手段から出力されるビットストリーム出力を一時蓄積するものであり、所定タイミングで上記符号化データ単位でのデータの読み出しが行われる復号装置側のバッファメモリにおけるデータ蓄積量を仮想的に求めるための仮想バッファを発生させる仮想バッファ発生手段と、
    符号化データの作成状況から、前記仮想バッファにおけるデータ蓄積量において得られているデータ蓄積量を検証する検証手段と、
    前記検証手段の検証結果に基づいて、前記第1の符号化データを前記スキップ符号化データに置き換えて符号化制御を行う符号化制御手段と、
    を備えていることを特徴とする符号化装置。
  2. 前記検証手段は、
    前記第1の符号化データ以外の第2の符号化データを検証対象データとして検証を行うときは、前記検証対象データの一つ前の第1の符号化データとしたときの第1のデータ蓄積量と、前記検証対象データの一つ前の第1の符号化データをスキップ符号化データとしたときの第2のデータ蓄積量とを求め、
    前記検証対象データのデータ量が、前記第1のデータ蓄積量を越えているときは、前記検証対象データの一つ前の第1の符号化データをスキップ符号化データに置き換えて検証を行うことを特徴とする請求項1に記載の符号化装置。
  3. 入力画像データを圧縮度が異なる所定単位の画像データに符号化した符号化データを出力するように構成されていると共に、前記入力画像データから圧縮度が最も大きい第1の符号化データを作成するときは、前記第1の符号化データと、少なくとも前記第1の符号化データよりデータ量が少ないとされるスキップ符号化データを作成して出力する画像符号化手順と、
    前記画像符号化手順からの符号化データを一時的に蓄積する蓄積手順と、
    前記蓄積手順に蓄積された前記符号化データに基づいたビットストリームを出力するデータ出力手順と、
    前記データ出力手順から出力されるビットストリーム出力を一時蓄積するものであり、所定タイミングで上記符号化データ単位でのデータの読み出しが行われる復号装置側のバッファメモリにおけるデータ蓄積量を仮想的に求めるための仮想バッファを発生させる仮想バッファ発生手順と、
    符号化データの作成状況から、前記仮想バッファにおけるデータ蓄積量において得られているデータ蓄積量を検証する検証手順と、
    前記検証手順の検証結果に基づいて、前記第1の符号化データを前記スキップ符号化データに置き換えて符号化制御を行う符号化制御手順と、
    を実行することを特徴とする符号化方法。


JP2003297064A 2003-08-21 2003-08-21 符号化装置及び符号化方法 Pending JP2005072742A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2003297064A JP2005072742A (ja) 2003-08-21 2003-08-21 符号化装置及び符号化方法
US10/913,385 US20050078756A1 (en) 2003-08-21 2004-08-09 Encoding apparatus and encoding method
CNB2004100641755A CN1312932C (zh) 2003-08-21 2004-08-20 编码设备和编码方法
KR1020040065937A KR20050020710A (ko) 2003-08-21 2004-08-20 부호화 장치 및 부호화 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003297064A JP2005072742A (ja) 2003-08-21 2003-08-21 符号化装置及び符号化方法

Publications (1)

Publication Number Publication Date
JP2005072742A true JP2005072742A (ja) 2005-03-17

Family

ID=34403023

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003297064A Pending JP2005072742A (ja) 2003-08-21 2003-08-21 符号化装置及び符号化方法

Country Status (4)

Country Link
US (1) US20050078756A1 (ja)
JP (1) JP2005072742A (ja)
KR (1) KR20050020710A (ja)
CN (1) CN1312932C (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009159599A (ja) * 2007-12-06 2009-07-16 Canon Inc 動画像符号化装置及び動画像符号化方法
WO2011138900A1 (ja) 2010-05-06 2011-11-10 日本電信電話株式会社 映像符号化制御方法および装置
JP2015130600A (ja) * 2014-01-07 2015-07-16 キヤノン株式会社 画像処理装置及びその制御方法、並びに、画像配信システム
US9179165B2 (en) 2010-05-07 2015-11-03 Nippon Telegraph And Telephone Corporation Video encoding control method, video encoding apparatus and video encoding program
JP7523134B2 (ja) 2021-07-30 2024-07-26 サイレックス・テクノロジー株式会社 送信機及び通信システム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4186119B2 (ja) * 2005-07-27 2008-11-26 セイコーエプソン株式会社 強誘電体メモリ装置
KR20070081949A (ko) * 2006-02-14 2007-08-20 엘지전자 주식회사 트랜스코딩 장치 및 방법
WO2008086243A1 (en) 2007-01-04 2008-07-17 Qualcomm Incorporated Method and apparatus for distributed spectrum sensing for wireless communication
CN101345871B (zh) * 2007-03-08 2012-01-04 瑞昱半导体股份有限公司 视频编解码的方法及其装置
JP5227875B2 (ja) * 2009-04-06 2013-07-03 株式会社日立製作所 動画像符号化装置
US8958475B2 (en) 2009-07-02 2015-02-17 Qualcomm Incorporated Transmitter quieting and null data encoding
US9112618B2 (en) * 2009-07-02 2015-08-18 Qualcomm Incorporated Coding latency reductions during transmitter quieting
US8902995B2 (en) 2009-07-02 2014-12-02 Qualcomm Incorporated Transmitter quieting and reduced rate encoding
WO2016197317A1 (zh) * 2015-06-09 2016-12-15 富士通株式会社 拷贝信息的编解码方法、装置以及图像处理设备
JP6580381B2 (ja) * 2015-06-12 2019-09-25 オリンパス株式会社 画像処理装置および画像処理方法
CN108664576A (zh) * 2018-05-02 2018-10-16 山东求同网信息科技有限公司 企业物料编码的不定度树状链表聚积编码方法及编制系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3310276B2 (ja) * 1997-06-19 2002-08-05 日本ビクター株式会社 画像信号符号化装置
JP4222681B2 (ja) * 1999-04-21 2009-02-12 齋藤 良幸 歯科用練和物の流し込み装置
TW527832B (en) * 2000-04-20 2003-04-11 Matsushita Electric Ind Co Ltd Video encoding apparatus that adjusts code amount by skipping encoding of image data
JP3866538B2 (ja) * 2001-06-29 2007-01-10 株式会社東芝 動画像符号化方法及び装置
US7197072B1 (en) * 2002-05-30 2007-03-27 Intervideo, Inc. Systems and methods for resetting rate control state variables upon the detection of a scene change within a group of pictures
US6944224B2 (en) * 2002-08-14 2005-09-13 Intervideo, Inc. Systems and methods for selecting a macroblock mode in a video encoder

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009159599A (ja) * 2007-12-06 2009-07-16 Canon Inc 動画像符号化装置及び動画像符号化方法
WO2011138900A1 (ja) 2010-05-06 2011-11-10 日本電信電話株式会社 映像符号化制御方法および装置
JP2014135741A (ja) * 2010-05-06 2014-07-24 Nippon Telegr & Teleph Corp <Ntt> 映像符号化制御方法および装置
US9179154B2 (en) 2010-05-06 2015-11-03 Nippon Telegraph And Telephone Corporation Video encoding control method and apparatus
US9179165B2 (en) 2010-05-07 2015-11-03 Nippon Telegraph And Telephone Corporation Video encoding control method, video encoding apparatus and video encoding program
JP2015130600A (ja) * 2014-01-07 2015-07-16 キヤノン株式会社 画像処理装置及びその制御方法、並びに、画像配信システム
JP7523134B2 (ja) 2021-07-30 2024-07-26 サイレックス・テクノロジー株式会社 送信機及び通信システム

Also Published As

Publication number Publication date
CN1312932C (zh) 2007-04-25
CN1592417A (zh) 2005-03-09
KR20050020710A (ko) 2005-03-04
US20050078756A1 (en) 2005-04-14

Similar Documents

Publication Publication Date Title
US8494043B2 (en) Video-information encoding method and video-information decoding method
US7301999B2 (en) Quantization method and system for video MPEG applications and computer program product therefor
JP5429580B2 (ja) 復号装置および方法、プログラム、並びに記録媒体
JP5152402B2 (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
JP2010232720A (ja) 画像符号化方法および画像復号化方法
JP2005072742A (ja) 符号化装置及び符号化方法
JP2001054110A (ja) 信号処理装置、信号処理方法及びコンピュータプログラム製品
WO2000064187A1 (en) Image encoding device and its method
JP2009246489A (ja) 映像信号切替装置
JP3779066B2 (ja) 動画像符号化装置
JP4539028B2 (ja) 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
JP2004007571A (ja) 符号化装置および方法、復号装置および方法、編集装置および方法、記録媒体、並びにプログラム
JP2004193780A (ja) 画像信号出力装置及び画像信号出力方法
JP2002330441A (ja) 符号化方法、符号化方法のプログラム、符号化方法のプログラムを記録した記録媒体及び符号化装置
JP2004312087A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070306

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070626