[go: up one dir, main page]

JP4421940B2 - 動画像符号化装置および方法、並びに動画像復号化装置および方法 - Google Patents

動画像符号化装置および方法、並びに動画像復号化装置および方法 Download PDF

Info

Publication number
JP4421940B2
JP4421940B2 JP2004144074A JP2004144074A JP4421940B2 JP 4421940 B2 JP4421940 B2 JP 4421940B2 JP 2004144074 A JP2004144074 A JP 2004144074A JP 2004144074 A JP2004144074 A JP 2004144074A JP 4421940 B2 JP4421940 B2 JP 4421940B2
Authority
JP
Japan
Prior art keywords
image
moving image
stereo
unit
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004144074A
Other languages
English (en)
Other versions
JP2005328299A (ja
Inventor
禎篤 加藤
チュンセン ブン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Priority to JP2004144074A priority Critical patent/JP4421940B2/ja
Priority to US11/125,209 priority patent/US7746931B2/en
Priority to EP20110187881 priority patent/EP2416580A2/en
Priority to EP20100154896 priority patent/EP2205003A3/en
Priority to EP20050010269 priority patent/EP1596609A3/en
Priority to CN2008101710869A priority patent/CN101400000B/zh
Priority to CNB2005100702876A priority patent/CN100488260C/zh
Publication of JP2005328299A publication Critical patent/JP2005328299A/ja
Priority to US12/508,066 priority patent/US8254458B2/en
Application granted granted Critical
Publication of JP4421940B2 publication Critical patent/JP4421940B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/007Aspects relating to detection of stereoscopic image format, e.g. for adaptation to the display format

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、いわゆる右目画像(右眼用画像ともいう)と、いわゆる左目画像(左眼用画像ともいう)を縦1列ごとに交互に並べた動画像(いわゆるステレオ動画像)、および奇数行画像と偶数行画像を横1行ごとに交互に並べた動画像(いわゆるインターレース動画像)を符号化する動画像符号化装置および方法、並びに、上記ステレオ動画像およびインターレース動画像を復号化する動画像復号化装置および方法に関する。
なお、「左フィールド画像」とは、右目画像と左目画像とを縦1列ごとに交互に並べられたステレオ動画像において、左目画像のみを抽出して得られる画像を意味し、「右フィールド画像」とは、上記のステレオ動画像において、右目画像のみを抽出して得られる画像を意味する。
立体動画像表示装置の一つとして、図1に示すような多数の画像配列から成るフィルター10を具備した液晶ディスプレイ11の前面に、多数の孔が開設されたスリット板12を配置した構成のパララックスバリア方式の立体映像表示装置が知られている。この立体映像表示装置は、視聴者の左目13からはフィルター上の左目画像Lのみが見え、視聴者の右目14からはフィルター上の右目画像Rのみが見えるように構成されているため、視聴者は立体動画像を視認することができる。なお、図1のスリット板12に代えて、レンチキュラー板を配置した構成の立体映像表示装置も知られている。
また、他の立体動画像符号化方式としては、例えば下記の特許文献1に開示された「立体映像伝送方法及び装置」が知られている。この技術では、図2(a)に示す縦1列ごとに交互に左目画像と右目画像が配置された立体画像に対し、まず図2(b)に示すように画像の左半分に左目画像を、右半分に右目画像を集めて再配置することで変換画像を作成する。次に、作成された変換画像に対し、動画像符号化、符号化データの送信、符号化データの受信、動画像復号化といった処理が行われる。その後、復号化された変換画像の画素配置を、再度、縦1列ごとに交互に左目画像と右目画像を配置し直して、入力信号である立体画像と同じ画像を再現する。
特開平11−18111号公報
立体画像では、近くの物体は左目画像と右目画像との視差が大きいが、遠くの物体は左目画像と右目画像との視差はほとんどない。そのため、特に遠くの物体を示すブロックにおいて、左目画像と右目画像との相関性を利用することにより、データ圧縮効率を向上させることができる。
ところが、上記の従来技術では、変換画像において、左半分に左目画像を、右半分に右目画像を配置しているため、動画像符号化を行う場合、左目画像と右目画像との相関性を利用できず、データ圧縮効率を向上させることができない、という課題がある。
また、変換画像において、一度、左半分に左目画像を、右半分に右目画像を配置して符号化するため、前述したパララックスバリア方式の立体動画像表示装置で表示する場合には、復号化処理後の画像の画素配置を変更することで、再度、左目画像と右目画像とを縦1列ごとに交互に配置し直す必要がある。このため、処理の効率化が困難であるという課題がある。
本発明は、上記課題を解決するために成されたものであり、立体動画像に対する画像処理を効率良く行うことができる動画像符号化装置および方法、並びに動画像復号化装置および方法を提供することを目的とする。
上記目的を達成するために、本発明の動画像符号化装置は、右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を符号化する動画像符号化装置であって、符号化対象の動画像がステレオ動画像であるか否かを判定する動画像種別判定部と、符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、当該動画像を所定方向に所定角度回転させる動画像回転部と、ステレオ動画像でないと判定された動画像、およびステレオ動画像であると判定され前記所定角度回転した動画像をインターレース符号化する動画像インターレース符号化部と、符号化対象の動画像がステレオ動画像であるか否かを示す情報、並びに、前記動画像回転部によって符号化対象の動画像に対し行われた回転の方向および角度に関する情報を含むステレオ画像識別子を符号化するステレオ画像識別子符号化部と、前記動画像インターレース符号化部によるインターレース符号化で得られた符号化ビットストリームと、前記ステレオ画像識別子符号化部による符号化で得られたステレオ画像識別子の符号とを多重化することで多重化符号化ビットストリームを作成する多重化部とを備えることを特徴とする。
なお、上記の動画像種別判定部は、入力された画像信号に基づいて、符号化対象の動画像がステレオ動画像であるか否かを判定してもよいし、予め定めた規則に従って符号化対象の動画像がステレオ動画像であるか否かを判定してもよい。
また、上記の動画像回転部は、符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、例えば、当該動画像を右に+90°回転させてもよいし、当該動画像を右に−90°回転させてもよい。
また、上記目的を達成するために、本発明の動画像復号化装置は、右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を復号化する動画像復号化装置であって、受信された多重化符号化ビットストリームを、動画像の符号化ビットストリームとステレオ画像識別子の符号とに分離する分離部と、分離された前記動画像の符号化ビットストリームをインターレース復号化する動画像インターレース復号化部と、分離された前記ステレオ画像識別子の符号を復号化するステレオ画像識別子復号化部と、前記ステレオ画像識別子復号化部による復号化で得られたステレオ画像識別子に含まれる前記動画像がステレオ動画像であるか否かを示す情報に基づき、前記動画像がステレオ動画像である場合、前記復号化で得られたステレオ画像識別子に含まれる符号化時に前記動画像に対し行われた回転の方向および角度に関する情報に基づいて、前記回転の方向とは逆方向に前記角度だけ前記動画像を回転させる画像処理を、前記動画像インターレース復号化部によるインターレース復号化で得られた動画像信号に対し行う処理制御部とを備えることを特徴とする。
上記の動画像符号化装置および動画像復号化装置によれば、符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、当該動画像を所定方向に所定角度回転させ、ステレオ動画像でないと判定された動画像、およびステレオ動画像であると判定され前記所定角度回転した動画像をインターレース符号化することで、左目画像と右目画像の相関性を利用して、データ圧縮の効率を向上させることができる。
また、入力したステレオ動画像信号と同じ画素配置の出力画像が得られるため、パララックスバリア方式の立体動画像表示装置で表示する場合に、復号化処理後の画像信号のラインの順番を変更し直すことなく、入力画像と同じ画像信号を得ることができる。
さらに、縦1列ごとに交互に左目画像と右目画像が配置されたステレオ動画像信号、および横1行ごとに交互に奇数行画像と偶数行画像が配置されたインターレース動画像信号を、同一の動画像符号化装置、および動画像復号化装置でそれぞれ符号化、復号化を行うことができ、装置の有効利用が可能である。
以上のような動画像符号化装置および動画像復号化装置に係る発明は、以下のような動画像符号化方法および動画像復号化方法に係る発明として捉えることができ、同様の効果を得ることができる。
即ち、本発明に係る動画像符号化方法は、右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を符号化する動画像符号化方法であって、符号化対象の動画像がステレオ動画像であるか否かを判定する動画像種別判定ステップと、符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、当該動画像を所定方向に所定角度回転させる動画像回転ステップと、ステレオ動画像でないと判定された動画像、およびステレオ動画像であると判定され前記所定角度回転した動画像をインターレース符号化する動画像インターレース符号化ステップと、符号化対象の動画像がステレオ動画像であるか否かを示す情報、並びに、前記動画像回転ステップによって符号化対象の動画像に対し行われた回転の方向および角度に関する情報を含むステレオ画像識別子を符号化するステレオ画像識別子符号化ステップと、前記インターレース符号化で得られた符号化ビットストリームと、前記符号化で得られたステレオ画像識別子の符号とを多重化することで多重化符号化ビットストリームを作成する多重化ステップとを有することを特徴とする。
また、本発明に係る動画像復号化方法は、右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を復号化する動画像復号化方法であって、受信された多重化符号化ビットストリームを、動画像の符号化ビットストリームとステレオ画像識別子の符号とに分離する分離ステップと、分離された前記動画像の符号化ビットストリームをインターレース復号化する動画像インターレース復号化ステップと、分離された前記ステレオ画像識別子の符号を復号化するステレオ画像識別子復号化ステップと、前記復号化で得られたステレオ画像識別子に含まれる前記動画像がステレオ動画像であるか否かを示す情報に基づき、前記動画像がステレオ動画像である場合、前記復号化で得られたステレオ画像識別子に含まれる符号化時に前記動画像に対し行われた回転の方向および角度に関する情報に基づいて、前記回転の方向とは逆方向に前記角度だけ前記動画像を回転させる画像処理を、前記インターレース復号化で得られた動画像信号に対し行う処理制御ステップとを有することを特徴とする。
本発明によれば、左目画像と右目画像の相関性を利用して、データ圧縮の効率を向上させることができる。
また、入力したステレオ動画像信号と同じ画素配置の出力画像が得られるため、パララックスバリア方式の立体動画像表示装置で表示する場合に、復号化処理後の画像信号のラインの順番を変更し直すことなく、入力画像と同じ画像信号を得ることができる。
さらに、縦1列ごとに交互に左目画像と右目画像が配置されたステレオ動画像信号、および横1行ごとに交互に奇数行画像と偶数行画像が配置されたインターレース動画像信号を、同一の動画像符号化装置、および動画像復号化装置でそれぞれ符号化、復号化を行うことができ、装置の有効利用が可能である。
以下、図面を参照しながら、本発明の実施形態に係る動画像符号化装置および方法、並びに動画像復号化装置および方法を説明する。なお、各図において、同一要素には同一符号を付して重複する説明を省略する。
[第1実施形態]
(動画像符号化装置の構成)
まず、図3を用いて、本実施形態に係る動画像符号化装置を説明する。本実施形態に係る動画像符号化装置30は、その機能的な構成要素として、動画像種別判定部301と、スイッチ302と、動画像回転部303と、スイッチ304と、動画像インターレース符号化部305と、ステレオ画像識別子符号化部306と、多重化部307とを備えて構成される。
動画像種別判定部301は、入力された動画像信号308を受信し、受信した動画像の種別を判定する。受信した動画像が、図4(a)のように縦1列ごとに交互に左目画像と右目画像とが配置されたステレオ画像信号であった場合、動画像種別判定部301は、入力画像がステレオ画像であるという情報(例えば「1」にセットしたステレオ画像識別子)310をスイッチ302と、スイッチ304と、ステレオ画像識別子符号化部306とへ送る。一方、受信した動画像が、図4(b)のように横1行ごとに交互に奇数行画像と偶数行画像とが配置されたインターレース画像信号であった場合、動画像種別判定部301は、入力画像がステレオ画像でないという情報(例えば「0」にセットしたステレオ画像識別子)310をスイッチ302と、スイッチ304と、ステレオ画像識別子符号化部306とへ送る。また、動画像種別判定部301は、受信した動画像信号309をスイッチ302に送る。なお、上記の図4は、入力画像が横352画素、縦288画素であった場合の例を示す。
動画像種別判定部301での画像種別の判定は、例えば、入力画像に付加された画像種別に関する情報を検出し、検出した情報に基づいて行うことができる。また、動画像種別判定部301での画像種別の判定は、符号化前に外部から与えられた設定ファイル等の画像種別に関する情報に基づいて行っても良い。
また、動画像種別判定部301での画像種別の判定は、以下のように、入力された画像の輝度値の関係を解析した結果を基に行っても良い。例えば、入力された画像を縦1列ごとに交互に分離して左フィールド画像と右フィールド画像を作成し、それらの分離した各フィールド画像の横方向の輝度値の相関が、分離前のフレーム画像の横方向の輝度値の相関に比べて高い場合、入力された画像をステレオ画像と判定しても良い。また、例えば、入力された画像を横1列ごとに交互に分離して上フィールド画像と下フィールド画像を作成し、それらの分離した各フィールド画像の縦方向の輝度値の相関が、分離前のフレーム画像の縦方向の輝度値の相関に比べて高い場合、入力された画像をインターレース画像と判定しても良い。
なお、画像種別の判定法は、上記例示した方法に限定されるものではない。
スイッチ302は、動画像種別判定部301から送られた動画像信号309と、ステレオ画像識別子310を受信し、ステレオ画像識別子が1の場合は、動画像信号309を動画像回転部303に送り、ステレオ画像識別子が0の場合は、動画像信号309をスイッチ304に送る。
動画像回転部303は、スイッチ302から送られた動画像信号309を受信し、動画像信号309により表される動画像を右に+90°回転して、インターレース動画像と同様に横1行ごとに交互に右目画像と左目画像が配置された動画像を表す動画像信号311に変換し、動画像信号311をスイッチ304に送る。
図5は、動画像回転部303によってステレオ動画像を右に+90°回転した例を示し、このうち図5(a)はスイッチ302から送られた動画像信号309により表される動画像を示し、図5(b)は図5(a)の動画像を右に+90°回転した動画像を示す。なお、上記の図5は、入力画像が横352画素、縦288画素であった場合の例を示す。
スイッチ304は動画像種別判定部301から送られたステレオ画像識別子310を基に、動画像回転部303から送られた動画像信号311、およびスイッチ302から送られた動画像信号309のうち一方を選択する。即ち、スイッチ304は、ステレオ画像識別子310が1の場合、動画像回転部303から送られた動画像信号311を、ステレオ画像識別子310が0の場合、スイッチ302から送られた動画像信号309を、それぞれ選択し、選択した動画像信号を動画像信号312として動画像インターレース符号化部305に送る。
動画像インターレース符号化部305は、スイッチ304から送られた動画像信号312を受けて動画像のインターレース符号化を行うことで符号化ビットストリーム313を作成する。そして、動画像インターレース符号化部305は、作成された符号化ビットストリーム313を多重化部307へ送る。なお、動画像インターレース符号化部305で使用するインターレース符号化方式の一例としては、H.264/AVC符号化方式(Joint Video Team (JVT) of ISO/IEC MPEG and ITU-VCEG, “Editor’s Proposed Draft Text Modifications for Joint Video Specification (ITU-T Rec.H.264|ISO/IEC 14496-10 AVC), Geneva modifications draft 37”を参照)が挙げられる。但し、上記のH.264/AVC符号化方式に限らず、インターレース画像の符号化に対応するあらゆる方式の符号化法を適用することができる。
ステレオ画像識別子符号化部306は、動画像種別判定部301から送られたステレオ画像識別子310を符号化し、符号化で得られた符号314を多重化部307へ送る。
多重化部307は、動画像インターレース符号化部305から送られた符号化ビットストリーム313と、ステレオ画像識別子符号化部306から送られたステレオ画像識別子の符号314とを多重化し、多重化で得られたビットストリームを多重化符号化ビットストリーム315として外部へ伝送する。
図6〜図9は、外部へ伝送する多重化符号化ビットストリーム315の例を示したものである。
多重化符号化ビットストリーム315は、各シーケンスの先頭を表す同期信号の後に、動画像全体に関する符号化情報(シーケンスヘッダ)、動画像の各フレームに関する符号化情報(フレームヘッダ)、動画像の符号化単位であるマクロブロックを何個か合わせた各スライスに関する符号化情報(スライスヘッダ)、動画像の各マクロブロックに関する符号化情報(マクロブロックヘッダ)、およびマクロブロックごとの符号化情報が多重化されて構成される。
入力された動画像の種別に関する情報であるステレオ画像識別子の符号は、図6のようにシーケンスヘッダに含んで伝送しても良いし、図7のようにフレームヘッダに含んで伝送しても良い。また、上記ステレオ画像識別子の符号は、図8のようにスライスヘッダに含んで伝送しても良いし、図9のようにマクロブロックヘッダに含んで伝送しても良い。
なお、動画像回転部303は、スイッチ302から送られた動画像信号309を受信し、図5(a)に示す動画像信号309により表される動画像を右に−90°回転(即ち、左に+90°回転)して、インターレース動画像と同様に横1行ごとに交互に左目画像と右目画像が配置された動画像(図5(c)参照)を表す動画像信号311に変換し、動画像信号311をスイッチ304に送っても良い。
動画像回転部303が、スイッチ302から送られた動画像信号309を、右に+90°回転するか、−90°回転するかは、予め決定された回転方法に従う。
また、動画像回転部303が動画像信号309を、右に+90°回転するか、−90°回転するかを示す情報は、動画像の符号化に関する情報として、ステレオ画像識別子とともに多重化符号化ビットストリーム315で送信しても良い。例えば、ステレオ画像識別子が1で、動画像回転部303がスイッチ302から送られた動画像信号309を右に+90°回転して動画像信号311に変換する場合は符号「10」を、ステレオ画像識別子が1で、動画像回転部303がスイッチ302から送られた動画像信号309を右に−90°回転して動画像信号311に変換する場合は符号「11」を、ステレオ画像識別子が0の場合は符号「0」を、それぞれ動画像の符号化に関する情報として、ステレオ画像識別子とともに多重化部307で多重化して、多重化符号化ビットストリーム315として伝送しても良い。
(動画像符号化装置の動作)
次に、図10を用いて、本発明における動画像符号化装置30の動作を説明する。
まず、動画像種別判定部301が、入力された動画像の画像種別判定として、当該動画像がステレオ画像であるか否かを判定する(ステップS1001)。ここで、入力された動画像がステレオ画像であった場合、動画像種別判定部301はステレオ画像識別子を「1」とし(ステップS1002)、動画像回転部303は予め決定された回転方法に従って、入力された動画像を右に+90°または−90°回転させる(ステップS1004)。一方、入力された動画像がステレオ画像でなかった場合、動画像種別判定部301はステレオ画像識別子を「0」とする(ステップS1003)。
前述したように、スイッチ304は、ステレオ画像識別子310が1の場合、動画像回転部303から送られた動画像信号311を、ステレオ画像識別子310が0の場合、スイッチ302から送られた動画像信号309を、それぞれ選択し、選択した動画像信号を動画像信号312として動画像インターレース符号化部305に送る。
動画像信号312を受信した動画像インターレース符号化部305は、動画像のインターレース符号化を行い(ステップS1005)、符号化ビットストリーム313を作成する。また、ステレオ画像識別子符号化部306は、ステレオ画像識別子の符号化を行い(ステップS1006)、符号化情報314を作成する。
最後に、多重化部307は、符号化ビットストリーム313と符号化情報314とを多重化して多重化符号化ビットストリーム315を作成し(ステップS1007)、図10の処理を終了する。
(動画像復号化装置の構成)
次に、図11を用いて、本発明に係る動画像復号化装置を説明する。本発明に係る動画像復号化装置110は、その機能的な構成要素として、分離部1101と、動画像インターレース復号化部1102と、ステレオ画像識別子復号化部1103と、スイッチ1104と、動画像逆回転部1105と、スイッチ1106とを備えて構成される。
分離部1101は、入力された多重化符号化ビットストリーム315を、動画像の符号化ビットストリーム1107とステレオ画像識別子の符号1108とに分離し、符号化ビットストリーム1107を動画像インターレース復号化部1102に、ステレオ画像識別子の符号1108をステレオ画像識別子復号化部1103に、それぞれ送る。
動画像インターレース復号化部1102は、分離部1101から送られた動画像の符号化ビットストリームに対し復号化を行うことで動画像信号1109を得る。そして、動画像インターレース復号化部1102は、復号化で得られた動画像信号1109をスイッチ1104に送る。なお、動画像インターレース復号化部1102で使用するインターレース復号化方式の一例としては、H.264/AVC復号化方式が挙げられる。但し、H.264/AVC復号化方式に限らず、インターレース画像の復号化に対応するあらゆる方式の復号化法を適用することができる。
ステレオ画像識別子復号化部1103は、分離部1101から送られたステレオ画像識別子の符号1108に対し復号化を行い、復号化されたステレオ画像識別子1110をスイッチ1104およびスイッチ1106に送る。
スイッチ1104は、動画像インターレース復号化部1102から送られた動画像信号1109と、ステレオ画像識別子復号化部1103から送られたステレオ画像識別子1110とを受信し、ステレオ画像識別子が1の場合は、動画像信号1109を動画像逆回転部1105に送り、ステレオ画像識別子が0の場合は、動画像信号1109をスイッチ1106に送る。
動画像逆回転部1105は、スイッチ1104から送られた動画像信号1109を受信し、図12(a)に示す動画像信号1109で表される動画像を左に+90°回転することで、図12(c)に示す縦1列ごとに交互に右目画像と左目画像とが配置された動画像信号1110に変換し、動画像信号1110をスイッチ1106に送る。この動画像逆回転部1105は、特許請求の範囲に記載した「処理制御部」に対応する。なお、上記の図12は、入力画像が横352画素、縦288画素であった場合の例を示す。
スイッチ1106は、ステレオ画像識別子復号化部1103から送られたステレオ画像識別子1110を基に、動画像逆回転部1105から送られた動画像信号1111およびスイッチ1104から送られた動画像信号1109のうち一方を選択する。即ち、スイッチ1106は、ステレオ画像識別子1110が1の場合、動画像逆回転部1105から送られた動画像信号1111を、ステレオ画像識別子1110が0の場合、スイッチ1104から送られた動画像信号1109を、それぞれ選択し、選択した動画像信号を動画像信号1112として所定のタイミングで表示デバイス(図示せず)へ出力し、入力映像信号を再生する。
なお、動画像逆回転部1105は、スイッチ1104から送られた動画像信号1109を受信し、図12(b)に示す動画像信号1109により表される動画像を左に−90°回転することで、図12(c)に示す縦1列ごとに交互に左目画像と右目画像とが配置された動画像信号1110に変換し、動画像信号1110をスイッチ1106に送っても良い。
動画像逆回転部1105が、スイッチ1104から送られた動画像信号1109を受信し、動画像信号1109により表される動画像を左に+90°回転するか−90°回転するかは、予め決定された回転方法に従う。
また、動画像逆回転部1105が動画像信号1109を、左に+90°回転するか−90°回転するかの処理は、動画像の符号化に関する情報として、ステレオ画像識別子とともに多重化符号化ビットストリーム315に含まれた符号に基づいて行っても良い。例えば、以下のような処理を行ってもよい。多重化符号化ビットストリーム315の動画像の符号化に関する符号が「10」の場合は、ステレオ画像識別子を1とし、動画像逆回転部1105がスイッチ1104から送られた動画像信号1109を左に+90°回転する。上記符号が「11」の場合は、ステレオ画像識別子を1とし、動画像逆回転部1105がスイッチ1104から送られた動画像信号1109を左に−90°回転する。上記符号が「0」の場合は、ステレオ画像識別子を0とする。
(動画像復号化装置の動作)
次に、図13を用いて、本発明における動画像復号化装置110の動作を説明する。
まず、分離部1101が、入力された多重化符号化ビットストリームを受信し、動画像の符号化ビットストリーム1107とステレオ画像識別子の符号1108とに分離する(ステップS1301)。
次に、動画像インターレース復号化部1102が、動画像の符号化ビットストリーム1107を復号化することで動画像信号1109を復元する(ステップS1302)。次に、ステレオ画像識別子復号化部1103が、ステレオ画像識別子の符号1108を復号化することでステレオ画像識別子1110を復元する(ステップS1303)。
次に、ステレオ画像識別子が1であるか否かを判定し(ステップS1304)、ステレオ画像識別子が1であった場合、動画像逆回転部1105が上記復元された動画像信号1109を左に+90°または−90°回転する(ステップS1305)。一方、ステレオ画像識別子が1でなかった場合は、ステップS1305の回転処理をスキップして、後述のステップS1306へ進む。
最後に、スイッチ1106は、ステレオ画像識別子が1の場合、動画像逆回転部1105から送られた動画像信号1111を、ステレオ画像識別子1110が0の場合、スイッチ1104から送られた動画像信号1109を、それぞれ選択し、選択された動画像信号を動画像信号1112として所定のタイミングで表示デバイス(図示せず)へ出力する(ステップS1306)。
以上述べた第1実施形態によれば、縦1列ごとに交互に左目画像と右目画像とが配置されたステレオ動画像信号を+90°または−90°回転してインターレース画像と同様の画素配置にした後、インターレース符号化することで、左目画像と右目画像との相関性を利用して、データ圧縮の効率を向上させることができる。
また、動画像回転部303でステレオ画像を+90°または−90°回転させてインターレース画像と同様の画素配置にしてインターレース符号化し、動画像逆回転部1105で復号画像を+90°または−90°逆回転させてステレオ画像に復元することで、パララックスバリア方式の立体動画像表示装置で表示する場合に、復号化処理後の画像信号のラインの順番を変更し直すことなく、入力画像と同じ画像信号を得ることができる。
さらに、縦1列ごとに交互に左目画像と右目画像が配置されたステレオ動画像信号、および横1行ごとに交互に奇数行画像と偶数行画像が配置されたインターレース動画像信号に対し、同一の動画像符号化装置で符号化を行うことができるとともに、同一の動画像復号化装置で復号化を行うことができ、装置の有効利用が可能である。
なお、動画像回転部303および動画像逆回転部1105は、動画像信号309および動画像信号1109を、それぞれフレーム単位で右に+90°または−90°回転、および左に+90°または−90°回転しても良い。
また、動画像回転部303および動画像逆回転部1105は、動画像信号309および動画像信号1109を、それぞれスライス単位で右に+90°または−90°回転、および左に+90°または−90°回転しても良い。
また、動画像回転部303および動画像逆回転部1105は、動画像信号309および動画像信号1109を、それぞれマクロブロック単位で右に+90°または−90°回転、および左に+90°または−90°回転しても良い。
上記では、右に+90°または−90°回転、および左に+90°または−90°回転という例を示したが、回転角度はこれらに限定されるものではなく、動画像における縦方向が横方向に変わるように回転させればよい。例えば、右に+270°または−270°回転、および左に+270°または−270°回転という回転パターンを採用してもよい。
また、上記では、動画像信号を、動画像回転部303により所定方向に回転させ、動画像逆回転部1105により当該所定方向とは逆方向に回転させる(即ち、逆回転させる)例を示したが、これに限定されるものではなく、動画像逆回転部1105により当該所定方向と同じ方向に回転させることで、元の動画像信号を復元してもよい。例えば、動画像信号を、動画像回転部303により右に+90°回転させ、動画像逆回転部1105により右に+270°回転させることで、元の動画像信号を復元してもよい。
[第2実施形態]
(動画像符号化装置の構成)
まず、図14を用いて、本発明に係る動画像符号化装置140について説明する。以下に説明する動画像符号化装置140は、H.264/AVC符号化方式に準拠した符号化装置である。
ここで、動画像符号化装置140に入力される動画像信号としての入力映像信号は、右目画像と左目画像とを縦1列ごとに交互に並べたステレオ動画像、または奇数行画像と偶数行画像とを横1行ごとに交互に並べたインターレース動画像を表す動画像信号である。本実施形態では、入力された動画像信号により表される画像は、16画素×16ライン固定の正方矩形領域であるマクロブロックに分割され、マクロブロック単位で以下の符号化処理が行われる。
動画像符号化装置140は、図14に示すように、機能的な構成要素として、動画像種別判定部1401と、ステレオ/インターレース動き検出部1402と、ステレオ/インターレース動き補償部1403と、フレームメモリ1404と、ステレオ/インターレース空間予測部1405と、スイッチ1406と、減算器1407と、ステレオ/インターレース直交変換部1408と、量子化部1409と、可変長符号化部1410と、逆量子化部1411と、ステレオ/インターレース逆直交変換部1412と、加算器1413とを備えて構成される。以下、各構成要素について説明する。
動画像種別判定部1401は、符号化対象の動画像を表す外部から入力された動画像信号としての入力映像信号1421を受信した後、入力映像信号1421により表される画像(以下「入力画像」という)をマクロブロックに分割し、マクロブロック単位で減算器1407およびステレオ/インターレース動き検出部1402に対し、それぞれ入力画像信号1422、1423を送る。また、動画像種別判定部1401は、入力画像がステレオ画像であるか否かを判定し、ステレオ画像である場合、画像の種別に関する情報であるステレオ画像識別子を「1」とし、ステレオ画像でない場合、上記ステレオ画像識別子を「0」とする。そして、動画像種別判定部1401は、動画像全体での符号化に関する情報(シーケンス情報)、各フレーム画像単位での符号化に関する情報(フレーム情報)、1個以上のマクロブロックをまとめた各スライス単位での符号化に関する情報(スライス情報)、および各マクロブロック単位での符号化に関する情報(マクロブロック情報)とともに、上記ステレオ画像識別子の情報を信号1440としてステレオ/インターレース動き検出部1402と可変長符号化部1410へ送る。なお、上記ステレオ画像識別子の符号は、図6のようにシーケンスヘッダに含んで伝送しても良いし、図7のようにフレームヘッダに含んで伝送しても良い。また、上記ステレオ画像識別子の符号は、図8のようにスライスヘッダに含んで伝送しても良いし、図9のようにマクロブロックヘッダに含んで伝送しても良い。
フレームメモリ1404は、過去に符号化済みのフレーム画像信号を記憶しておく部分である。
ステレオ/インターレース動き検出部1402は、動画像種別判定部1401から送られた画像の種別に関する情報、シーケンス情報、フレーム情報、スライス情報、およびマクロブロック情報を合わせた信号1440を基に、予測モードの選択と動きベクトルの検出を行う部分である。H.264/AVC符号化方式では、マクロブロックごとに、予測モードとして、入力された映像信号と時間的に異なる複数の符号化済みフレーム画像信号を参照して予測を行う複数のフレーム間予測モードと、同一空間上の符号化済みである近傍の画素値を用いて空間予測を行う複数のフレーム内予測モードとが用意されている。具体的には、動き検出部1402は、予測モードとしてフレーム間予測モードを選択した場合、参照画像信号1424および隣接ブロックの動きベクトル1442を用いて、予めフレームメモリ1404に蓄積されている複数の符号化済み画像の中から所定の探索範囲内で、符号化対象領域の画像信号パターンに類似する画像信号パターンを探し出す。そして、符号化対象領域の画像信号パターンと、当該類似する画像信号パターンとの間の空間的な変位量である動きベクトルを検出する。
より詳細には、ステレオ/インターレース動き検出部1402は、入力画像がステレオ画像である場合(即ち、ステレオ画像識別子が「1」にセットされている場合)に、入力画像をフレーム画像(図15(a)参照)としてフレーム間予測した場合(即ち、フレーム画像でのフレーム間予測を行った場合)と、入力画像を左フィールド画像(図15(b)参照)と右フィールド画像(図15(c)参照)とに分離してフレーム間予測した場合(即ち、フィールド画像でのフレーム間予測を行った場合)との符号化効率を比較し、符号化効率の高い方のフレーム間予測を選択する。
また、ステレオ/インターレース動き検出部1402は、入力画像がインターレース画像である場合(即ち、ステレオ画像識別子が「0」にセットされている場合)に、入力画像をフレーム画像(図16(a)参照)としてフレーム間予測した場合(即ち、フレーム画像でのフレーム間予測を行った場合)と、入力画像を奇数行画像(上フィールド画像:図16(b)参照)と偶数行画像(下フィールド画像:図16(c)参照)とに分離してフレーム間予測した場合(即ち、フィールド画像でのフレーム間予測を行った場合)との符号化効率を比較し、符号化効率の高い方のフレーム間予測を選択する。
ステレオ/インターレース動き検出部1402は、検出された動きベクトルと、符号化済みの隣接ブロックの動きベクトル1442から算出される最適予測動きベクトル(動きベクトル予測値)との差分情報である動きベクトル差分値と、動きベクトルの検出に用いた参照フレーム画像信号を示す参照フレーム番号と、選択された予測モードとを含む信号1425を可変長符号化部1410へ送る。同時に、動き検出部1402は、選択された予測モードと、動きベクトルと、参照フレーム番号とを含む信号1426をステレオ/インターレース動き補償部1403に送る。
また、ステレオ/インターレース動き検出部1402は、予測モードの情報の一部である、「選択された予測モードがフレーム画像でのフレーム間予測かフィールド画像でのフレーム間予測であるか」の情報および「入力画像がステレオ画像であるかインターレース画像であるか」の情報を表す信号1441を、ステレオ/インターレース動き補償部1403と、ステレオ/インターレース直交変換部1408と、ステレオ/インターレース逆直交変換部1412とに送る。
ステレオ/インターレース動き補償部1403は、ステレオ/インターレース動き検出部1402から送られた上記の信号1426を用いて、フレームメモリ1404中の参照フレーム番号で示される符号化済み画像信号(参照画像信号1424)を参照して、各マクロブロックの予測画像信号1427を作成しスイッチ1406に送る。
より詳細には、ステレオ/インターレース動き補償部1403は、上記の信号1441を基に、ステレオ/インターレース動き検出部1402から送られた上記の信号1426を用いて、フレームメモリ1404中の参照フレーム番号で示される符号化済み画像信号(参照画像信号1424)を参照して、各マクロブロックの予測画像信号1427を作成する。
入力画像がステレオ画像で(ステレオ画像識別子が「1」の場合)、選択された予測モードが「フレーム画像でのフレーム間予測」であるとき、ステレオ/インターレース動き補償部1403は、符号化対象のマクロブロックを一つのフレーム画像として動き補償を行った後、予測画像信号1427を作成する。また、入力画像がステレオ画像で、選択された予測モードが「フィールド画像でのフレーム間予測」であるとき、ステレオ/インターレース動き補償部1403は、符号化対象のマクロブロックを左フィールド画像と右フィールド画像とに分けて動き補償を行った後、左フィールドの予測画像信号と右フィールドの予測画像信号とを縦1列ごとに交互に並べて予測画像信号1427を作成する。
入力画像がインターレース画像で(ステレオ画像識別子が「0」の場合)、選択された予測モードが「フレーム画像でのフレーム間予測」であるとき、ステレオ/インターレース動き補償部1403は、符号化対象のマクロブロックを一つのフレーム画像として動き補償を行った後、予測画像信号1427を作成する。また、入力画像がインターレース画像で、選択された予測モードが「フィールド画像でのフレーム間予測」であるとき、ステレオ/インターレース動き補償部1403は、符号化対象のマクロブロックを上フィールド画像と下フィールド画像とに分けて動き補償を行った後、上フィールドの予測画像信号と下フィールドの予測画像信号とを横1行ごとに交互に並べて予測画像信号1427を作成する。
一方、ステレオ/インターレース動き検出部1402は、予測モードとして「フレーム内予測モード」を選択した場合、同一画像上の符号化済みである近傍のブロックの画素値を用いた空間予測を行い、予測モードを含む信号1425を可変長符号化部1410へ送る。この場合、ステレオ/インターレース動き検出部1402は、時間的な動きに関する情報である動きベクトル差分値および参照フレーム番号の信号を可変長符号化部1410へ送信する処理は行わない。また、ステレオ/インターレース動き検出部1402は、予測モードの情報の一部である、「選択された予測モードがフレーム画像でのフレーム内予測かフィールド画像でのフレーム内予測であるか」の情報および「入力画像がステレオ画像であるかインターレース画像であるか」の情報を表す信号1428を、ステレオ/インターレース直交変換部1408と、ステレオ/インターレース逆直交変換部1412と、ステレオ/インターレース空間予測部1405とに送る。
より詳細には、ステレオ/インターレース動き検出部1402は、入力画像がステレオ画像である場合(ステレオ画像識別子が「1」の場合)、入力画像をフレーム画像(図15(a)参照)としてフレーム内予測した場合(即ち、フレーム画像でのフレーム内予測を行う場合)と、入力画像を左フィールド画像(図15(b)参照)と右フィールド画像(図15(c)参照)とに分離してフレーム内予測した場合(即ち、フィールド画像でのフレーム内予測を行う場合)との符号化効率を比較し、符号化効率の高い方のフレーム内予測を選択する。
また、ステレオ/インターレース動き検出部1402は、入力画像がインターレース画像である場合(ステレオ画像識別子が「0」の場合)、入力画像をフレーム画像(図16(a)参照)としてフレーム内予測した場合(即ち、フレーム画像でのフレーム内予測を行う場合)と、入力画像を奇数行画像(上フィールド画像:図16(b)参照)と偶数行画像(下フィールド画像:図16(c)参照)とに分離してフレーム内予測した場合(即ち、フィールド画像でのフレーム内予測を行う場合)との符号化効率を比較し、符号化効率の高い方のフレーム内予測を選択する。
ステレオ/インターレース空間予測部1405は、ステレオ/インターレース動き検出部1402から送られた信号1428を基に、フレームメモリ1404中の符号化済みである近傍のブロックの画像信号(参照画像信号1429)を参照して、各マクロブロックの予測画像信号1430を生成し、スイッチ1406に送る。
このとき、入力画像がステレオ画像で(ステレオ画像識別子が「1」の場合)、選択された予測モードが「フレーム画像でのフレーム内予測」であるとき、ステレオ/インターレース空間予測部1405は、符号化対象のマクロブロックを一つのフレーム画像として空間予測した後、予測画像信号1430を作成する。また、入力画像がステレオ画像で、選択された予測モードが「フィールド画像でのフレーム内予測」であるとき、ステレオ/インターレース空間予測部1405は、符号化対象のマクロブロックを左フィールド画像と右フィールド画像とに分けて空間予測した後、左フィールドの予測画像信号と右フィールドの予測画像信号とを縦1列ごとに交互に並べて予測画像信号1430を作成する。
一方、入力画像がインターレース画像で(ステレオ画像識別子が「0」の場合)、選択された予測モードが「フレーム画像でのフレーム内予測」であるとき、ステレオ/インターレース空間予測部1405は、符号化対象のマクロブロックを一つのフレーム画像として空間予測した後、予測画像信号1430を作成する。また、入力画像がインターレース画像で、選択された予測モードが「フィールド画像でのフレーム内予測」であるとき、ステレオ/インターレース空間予測部1405は、符号化対象のマクロブロックを上フィールド画像と下フィールド画像とに分けて空間予測した後、上フィールドの予測画像信号と下フィールドの予測画像信号とを横1行ごとに交互に並べて予測画像信号1430を作成する。
スイッチ1406は、ステレオ/インターレース動き検出部1402から送られた予測モード1431に応じて、予測画像信号1427と予測画像信号1430のうちいずれかを選択し、選択した予測画像信号1432を減算器1407に送る。
減算器1407は、入力画像信号1422と予測画像信号1432との差分値(予測残差信号1433)を生成し、ステレオ/インターレース直交変換部1408に送る。
ステレオ/インターレース直交変換部1408は、ステレオ/インターレース動き検出部1402から送られた信号1428又は1441を基に、減算器1407から送られた予測残差信号1433の画素配置を変更して直交変換を行うことにより、直交変換係数1434を生成して、量子化部1409に送る。
このとき、入力画像がステレオ画像であった場合(ステレオ画像識別子が「1」の場合)の予測残差信号1433の画素配置を図17に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース直交変換部1408は、図17(a)のように予測残差信号1433の画素配置を変更することなく、4画素×4ラインのブロックに分割して、直交変換を行う。一方、予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース直交変換部1408は、図17(b)のように予測残差信号1433を左フィールド予測残差信号と右フィールド予測残差信号とに分離した画素配置に変更し、フィールドごとに4画素×4ラインのブロックに分割して、直交変換を行う。
一方、入力画像がインターレース画像であった場合(ステレオ画像識別子が「0」の場合)の予測残差信号1433の画素配置を図18に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース直交変換部1408は、図18(a)のように予測残差信号1433の画素配置を変更することなく、4画素×4ラインのブロックに分割して、直交変換を行う。予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース直交変換部1408は、図18(b)のように予測残差信号1433を上フィールド予測残差信号と下フィールド予測残差信号とに分離した画素配置に変更し、フィールドごとに4画素×4ラインのブロックに分割して、直交変換を行う。
なお、直交変換の単位は4画素×4ラインには限らず、16画素×16ライン、8画素×8ライン、16画素×8ライン、8画素×16ラインのような単位で行うこともできる。
量子化部1409は、ステレオ/インターレース直交変換部1408から送られた直交変換係数1434を量子化することにより、量子化直交変換係数1435を生成し、可変長符号化部1410および逆量子化部1411に送る。
次に、可変長符号化部1410が、動画像種別判定部1401から送られた復号画像の種別に関する情報(ステレオ画像識別子)、シーケンス情報、フレーム情報、スライス情報、およびマクロブロック情報を含む符号化に関する情報を合わせた信号1440と、量子化部1409から送られた量子化直交変換係数1435と、動き検出部1402から送られた予測モード、動きベクトル差分値および参照フレーム番号を含む信号1425とについて、エントロピー符号化を行って圧縮ストリーム1436に多重化して、外部へ伝送する。
また、逆量子化部1411は、量子化部1409から送られた量子化直交変換係数1435について逆量子化を行うことにより、直交変換係数1437を生成して、ステレオ/インターレース逆直交変換部1412に送る。
そして、ステレオ/インターレース逆直交変換部1412は、ステレオ/インターレース動き検出部1402から送られた信号1428又は1441を基に、逆量子化部1411から送られた直交変換係数1437について逆直交変換を行い、画素配置を変更して予測残差信号1438を生成し、加算器1413に送る。
このとき、入力画像がステレオ画像であった場合(ステレオ画像識別子が「1」の場合)の予測残差信号の画素配置変更を図19に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部1412は、図19(a)のように4画素×4ラインのブロックごとに逆直交変換した画素配置を変更することなく予測残差信号1433を生成する。一方、予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部1412は、図19(b)のように逆直交変換した左フィールド予測残差信号と右フィールド予測残差信号とを縦1列ごとに交互に並べて合成し、予測残差信号1438を生成する。
一方、入力画像がインターレース画像であった場合(ステレオ画像識別子が「0」の場合)の予測残差信号の画素配置変更を図20に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部1412は、図20(a)のように4画素×4ラインのブロックごとに逆直交変換した画素配置を変更することなく予測残差信号1433を生成する。一方、予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部1412は、図20(b)のように逆直交変換した上フィールド予測残差信号と下フィールド予測残差信号とを横1行ごとに交互に並べて合成し、予測残差信号1438を生成する。
加算器1413は、ステレオ/インターレース逆直交変換部1412から送られた予測残差信号1438と、スイッチ1406から送られた予測画像信号1432とを加算することで、局所復号画像であるフレーム画像信号1439を生成し、フレームメモリ1404に送る。このフレーム画像信号1439は、フレームメモリ1404に格納され、以降の符号化処理で、参照画像信号として用いられる。また、動きベクトルや参照フレーム番号に関する情報も、参照フレーム画像に含まれ、同時に格納される。
次に、図21に示す動画像復号化装置210の動作について説明する。以下に説明する動画像復号化装置210は、動画像符号化装置140と同様に、H.264/AVC符号化方式に準拠した復号化装置である。
動画像復号化装置210は、動画像符号化装置140により出力された圧縮ストリーム1436を入力信号として用い、これを入力映像信号に復号化する機能を有する。
動画像復号化装置210は、図21に示すように、機能的な構成要素として、可変長復号化部2101と、ステレオ/インターレース動きベクトル復元部2102と、ステレオ/インターレース動き補償部2103と、フレームメモリ2104と、ステレオ/インターレース空間予測部2105と、スイッチ2106と、逆量子化部2107と、ステレオ/インターレース逆直交変換部2108と、加算器2109とを備えて構成される。以下、各構成要素について説明する。
可変長復号化部2101は、圧縮ストリーム1436を受信した後、圧縮ストリーム1436を復号化することで、シーケンスの先頭を表す同期記号およびシーケンスヘッダ、フレームヘッダ、スライスヘッダ、マクロブロックヘッダと、画像の種別に関する情報(ステレオ画像識別子)と、「マクロブロック単位の予測モードがフレーム画像でのフレーム間予測であるかフィールド画像でのフレーム間予測であるかの情報、または、予測モードがフレーム画像でのフレーム内予測であるかフィールド画像でのフレーム内予測であるかの情報」とを合わせた信号2134に復号し、当該信号2134を、ステレオ/インターレース動きベクトル復元部2102と、ステレオ/インターレース空間予測部2105と、ステレオ/インターレース逆直交変換部2108とに送る。また、可変長復号化部2101は、マクロブロック符号化情報として、マクロブロック単位で予測モードと量子化直交変換係数を復号する。
また、予測モードがフレーム間予測モードである場合、可変長復号化部2101は、動きベクトル差分値と参照フレーム番号の復号も合わせて行う。なお、可変長復号化部2101は、復号した量子化直交変換係数2122を逆量子化部2107に送る。
また、予測モードがフレーム間予測モードである場合、可変長復号化部2101は、復号した予測モードと動きベクトル差分値と参照フレーム番号とを含む信号2121をステレオ/インターレース動きベクトル復元部2102に送るとともに、復元した予測モード2126をスイッチ2106に送る。一方、予測モードがフレーム内予測モードである場合、可変長復号化部2101は、復号した予測モード2126をスイッチ2106およびステレオ/インターレース空間予測部2105に送る。
予測モードがフレーム間予測モードである場合、ステレオ/インターレース動きベクトル復元部2102は、可変長復号化部2101から送信された信号2134と、動きベクトル差分値と、復号化済みの隣接ブロックの動きベクトル2124から算出した動きベクトル予測値とを用いて動きベクトルを復元し、上記の信号2134と、復元で得られた動きベクトル、予測モードおよび参照フレーム番号を含む信号2123とをステレオ/インターレース動き補償部2103に送る。
より詳細には、ステレオ/インターレース動きベクトル復元部2102は、復号化対象の画像(以下「復号画像」という)がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フレーム画像でのフレーム間予測」である場合、可変長復号化部2101から送信された動きベクトル差分値と、復号化済みの隣接ブロックの動きベクトル2124から算出した動きベクトル予測値とを用いて、マクロブロック単位でのフレーム画像の動きベクトルを復元する。一方、復号画像がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フィールド画像でのフレーム間予測」である場合、可変長復号化部2101から送信された動きベクトル差分値と、復号化済みの隣接ブロックの動きベクトル2124から算出した動きベクトル予測値とを用いて、左フィールド画像と右フィールド画像の各フィールド単位での動きベクトルを復元する。
また、ステレオ/インターレース動きベクトル復元部2102は、復号画像がインターレース画像で(即ち、ステレオ画像識別子が「0」の場合)、予測モードが「フレーム画像でのフレーム間予測」である場合、可変長復号化部2101から送信された動きベクトル差分値と、復号化済みの隣接ブロックの動きベクトル2124から算出した動きベクトル予測値とを用いて、マクロブロック単位でのフレーム画像の動きベクトルを復元する。一方、復号画像がインターレース画像で(即ち、ステレオ画像識別子が「0」の場合)、予測モードが「フィールド画像でのフレーム間予測」である場合、可変長復号化部2101から送信された動きベクトル差分値と、復号化済みの隣接ブロックの動きベクトル2124から算出した動きベクトル予測値とを用いて、上フィールド画像と下フィールド画像の各フィールド単位での動きベクトルを復元する。
ステレオ/インターレース動き補償部2103は、ステレオ/インターレース動きベクトル復元部2102から送られた信号2134と、動きベクトルと、予測モードと、参照フレーム番号とに基づいて、フレームメモリ2104から送信される参照フレーム画像2127を用いて、予測画像信号2125を生成し、スイッチ2106に送る。なお、フレームメモリ2104には、過去の復号化済みのフレーム画像信号が格納されている。
より詳細には、ステレオ/インターレース動き補償部2103は、復号画像がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フレーム画像でのフレーム間予測」である場合、ステレオ/インターレース動きベクトル復元部2102から送信された信号2134と、動きベクトルと、予測モードと、参照フレーム番号とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、マクロブロック単位でのフレーム画像の予測画像信号2125を生成する。一方、復号画像がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フィールド画像でのフレーム間予測」である場合、ステレオ/インターレース動きベクトル復元部2102から送信された信号2134と、動きベクトルと、予測モードと、参照フレーム番号とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、左フィールド画像と右フィールド画像の各フィールド単位で予測画像信号を生成した後、左フィールドの予測画像信号と右フィールドの予測画像信号とを縦1列ごとに交互に並べて予測画像信号2125を作成する。
また、ステレオ/インターレース動き補償部2103は、復号画像がインターレース画像(即ち、ステレオ画像識別子が「0」の場合)で、予測モードが「フレーム画像でのフレーム間予測」である場合、ステレオ/インターレース動きベクトル復元部2102から送信された信号2134と、動きベクトルと、予測モードと、参照フレーム番号とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、マクロブロック単位でのフレーム画像の予測画像信号2125を生成する。一方、ステレオ/インターレース動き補償部2103は、復号画像がインターレース画像(即ち、ステレオ画像識別子が「0」の場合)で、予測モードが「フィールド画像でのフレーム間予測」である場合、ステレオ/インターレース動きベクトル復元部2102から送信された信号2134と、動きベクトルと、予測モードと、参照フレーム番号とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、上フィールド画像と下フィールド画像の各フィールド単位で予測画像信号を生成した後、上フィールドの予測画像信号と下フィールドの予測画像信号とを横1行ごとに交互に並べて予測画像信号2125を作成する。
また、予測モードが「フレーム内予測モード」である場合、ステレオ/インターレース空間予測部2105は、符号化済みの近傍ブロックの画像信号(参照画像信号2127)を参照して予測画像信号2128を生成し、スイッチ2106に送る。
より詳細には、ステレオ/インターレース空間予測部2105は、復号画像がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フレーム画像でのフレーム内予測」である場合、可変長復号化部2101から送信された信号2134と予測モード2126とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、マクロブロック単位でのフレーム画像の予測画像信号2128を生成する。一方、復号画像がステレオ画像で(即ち、ステレオ画像識別子が「1」の場合)、予測モードが「フィールド画像でのフレーム内予測」である場合、ステレオ/インターレース空間予測部2105は、可変長復号化部2101から送信された信号2134と予測モード2126とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、左フィールド画像と右フィールド画像の各フィールド単位で予測画像信号を生成した後、左フィールドの予測画像信号と右フィールドの予測画像信号とを縦1列ごとに交互に並べて予測画像信号2128を作成する。
また、ステレオ/インターレース空間予測部2105は、復号画像がインターレース画像で(即ち、ステレオ画像識別子が「0」の場合)、予測モードが「フレーム画像でのフレーム内予測」である場合、可変長復号化部2101から送信された信号2134と予測モード2126とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、マクロブロック単位でのフレーム画像の予測画像信号2128を生成する。一方、復号画像がインターレース画像で(即ち、ステレオ画像識別子が「0」の場合)、予測モードが「フィールド画像でのフレーム内予測」である場合、ステレオ/インターレース空間予測部2105は、可変長復号化部2101から送信された信号2134と予測モード2126とに基づいて、フレームメモリ2104から送信される参照画像2127を用いて、上フィールド画像と下フィールド画像の各フィールド単位で予測画像信号を生成した後、上フィールドの予測画像信号と下フィールドの予測画像信号とを横1行ごとに交互に並べて予測画像信号2128を作成する。
次に、スイッチ2106が、可変長復号化部2101から送信された予測モード2126に応じて、予測画像信号2125と予測画像信号2128のうちいずれかを選択し、選択した信号を予測画像信号2129として加算器2109に送る。
一方、逆量子化部2107は、可変長復号化部2101により送信された量子化直交変換係数2122を逆量子化することで、量子化直交変換係数2122を直交変換係数2130に復元し、ステレオ/インターレース逆直交変換部2108に送る。
ステレオ/インターレース逆直交変換部2108は、直交変換係数2130を逆直交変換することで、直交変換係数2130を予測残差信号2131に復号する。
ステレオ/インターレース逆直交変換部2108に関するより詳細な説明は、動画像符号化装置140のステレオ/インターレース逆直交変換部1412と同様であるので、再度、図19および図20を使って説明する。
入力画像がステレオ画像であった場合(即ち、ステレオ画像識別子が「1」の場合)における予測残差信号の画素配置変更を図19に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部2108は、図19(a)のように4画素×4ラインのブロックごとに逆直交変換した画素配置を変更することなく予測残差信号2131を生成する。一方、予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部2108は、図19(b)のように逆直交変換した左フィールド予測残差信号と右フィールド予測残差信号とを縦1列ごとに交互に並べて合成することで、予測残差信号2131を生成する。
また、入力画像がインターレース画像であった場合(即ち、ステレオ画像識別子が「0」の場合)における予測残差信号の画素配置変更を図20に示す。予測モードが「フレーム画像でのフレーム間予測」または「フレーム画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部2108は、図20(a)のように4画素×4ラインのブロックごとに逆直交変換した画素配置を変更することなく予測残差信号2131を生成する。一方、予測モードが「フィールド画像でのフレーム間予測」または「フィールド画像でのフレーム内予測」の場合は、ステレオ/インターレース逆直交変換部2108は、図20(b)のように逆直交変換した上フィールド予測残差信号と下フィールド予測残差信号とを横1行ごとに交互に並べて合成することで、予測残差信号2131を生成する。
加算器2109は、スイッチ2106から送信された予測画像信号2129と、ステレオ/インターレース逆直交変換部2108から送信された予測残差信号2131とを加算することで、フレーム画像信号2132として復号する。この加算器2109は、特許請求の範囲に記載した「画像データ生成部」に対応し、フレーム画像信号2132は、特許請求の範囲に記載した「画像データ」に対応する。
復号されたフレーム画像信号2132は、以降の復号化処理に用いられるため、参照フレーム画像信号としてフレームメモリ2104に格納される。ここで、フレーム画像信号2132は、動画像符号化装置140における同一番号のフレーム画像信号1439と同一の値となる。また、動きベクトルや参照フレーム番号に関する情報も、参照フレーム画像信号に含まれ同時に格納される。
最後に、フレーム画像信号2133は、所定の表示タイミングで表示デバイス(図示せず)へ出力され、入力映像信号(動画像信号)1421が再生される。
以上述べた第2実施形態によれば、縦1列ごとに交互に左目画像と右目画像とが配置されたステレオ動画像信号に対し、フレーム画像として、または左フィールドと右フィールドからなるフィールド画像として、符号化および復号化を行うことにより、左目画像と右目画像の相関性を利用して、データ圧縮の効率を向上させることができる。
また、入力したステレオ動画像信号と同じ画素配置の出力画像が得られるため、パララックスバリア方式の立体動画像表示装置で表示する場合に、復号化処理後の画像信号のラインの順番を変更し直すことなく、入力画像と同じ画像信号を得ることができる。
さらに、縦1列ごとに交互に左目画像と右目画像が配置されたステレオ動画像信号、および横1行ごとに交互に奇数行画像と偶数行画像が配置されたインターレース動画像信号に対し、同一の動画像符号化装置で符号化を行うことができるとともに、同一の動画像復号化装置で復号化を行うことができ、装置の有効利用が可能である。
なお、上記では、入力画像を、縦に2つに分割又は横に2つに分割することで得られる2つのフィールド画像に分離して、フレーム間予測又はフレーム内予測を行う例を示したが、入力画像の分離方法はこれに限定されるものではなく、入力画像を斜めの境界線によって分離してもよいし、上下方向に3つ以上に分離してもよいし、左右方向に3つ以上に分離してもよい。
さて、以下では図22〜図25を用いて、上記の各実施形態の符号化処理プログラムおよび復号化処理プログラムについて概説する。
図22には、第1実施形態の動画像符号化処理に関する動画像符号化プログラム910の構成を示す。この図22に示すように、動画像符号化プログラム910は、処理を統括するメインモジュール911と、動画像種別判定モジュール912と、動画像回転モジュール913と、動画像インターレース符号化モジュール914と、ステレオ画像識別子符号化モジュール915と、多重化モジュール916とを備える。動画像種別判定モジュール912、動画像回転モジュール913、動画像インターレース符号化モジュール914、ステレオ画像識別子符号化モジュール915、多重化モジュール916がコンピュータに行わせる機能はそれぞれ、前述した図3の動画像種別判定部301、動画像回転部303、動画像インターレース符号化部305、ステレオ画像識別子符号化部306、多重化部307の機能に相当する。
図23には、第1実施形態の動画像復号化処理に関する動画像復号化プログラム920の構成を示す。この図23に示すように、動画像復号化プログラム920は、処理を統括するメインモジュール921と、分離モジュール922と、動画像インターレース復号化モジュール923と、ステレオ画像識別子復号化モジュール924と、処理制御モジュール925とを備える。分離モジュール922、動画像インターレース復号化モジュール923、ステレオ画像識別子復号化モジュール924がコンピュータに行わせる機能はそれぞれ、前述した図11の分離部1101、動画像インターレース復号化部1102、ステレオ画像識別子復号化部1103の機能に相当する。また、処理制御モジュール925がコンピュータに行わせる機能は、図11の動画像逆回転部1105、スイッチ1104および1106の機能に相当する。
図24には、第2実施形態の動画像符号化処理に関する動画像符号化プログラム930の構成を示す。この図24に示すように、動画像符号化プログラム930は、処理を統括するメインモジュール931と、動画像種別判定モジュール932と、動き検出モジュール933と、動き補償モジュール934と、空間予測モジュール935と、直交変換モジュール936と、可変長符号化モジュール937と、逆直交変換モジュール938とを備える。動画像種別判定モジュール932、動き検出モジュール933、動き補償モジュール934、空間予測モジュール935がコンピュータに行わせる機能はそれぞれ、前述した図14の動画像種別判定部1401、ステレオ/インターレース動き検出部1402、ステレオ/インターレース動き補償部1403、ステレオ/インターレース空間予測部1405の機能に相当する。また、直交変換モジュール936がコンピュータに行わせる機能は、図14のスイッチ1406、減算器1407およびステレオ/インターレース直交変換部1408の機能に相当する。可変長符号化モジュール937がコンピュータに行わせる機能は、図14の量子化部1409および可変長符号化部1410の機能に相当する。逆直交変換モジュール938がコンピュータに行わせる機能は、図14の量子化部1409、逆量子化部1411およびステレオ/インターレース逆直交変換部1412の機能に相当する。
図25には、第2実施形態の動画像復号化処理に関する動画像復号化プログラム940の構成を示す。この図25に示すように、動画像復号化プログラム940は、処理を統括するメインモジュール941と、可変長復号化モジュール942と、動きベクトル復元モジュール943と、動き補償モジュール944と、空間予測モジュール945と、逆直交変換モジュール946と、画像データ生成モジュール947とを備える。可変長復号化モジュール942、動きベクトル復元モジュール943、動き補償モジュール944、空間予測モジュール945がコンピュータに行わせる機能はそれぞれ、前述した図21の可変長復号化部2101、ステレオ/インターレース動きベクトル復元部2102、ステレオ/インターレース動き補償部2103、ステレオ/インターレース空間予測部2105の機能に相当する。また、逆直交変換モジュール946がコンピュータに行わせる機能は、図21の逆量子化部2107およびステレオ/インターレース逆直交変換部2108の機能に相当する。画像データ生成モジュール947がコンピュータに行わせる機能は、図21の加算器2109の機能に相当する。
なお、上記の各プログラムは、コンピュータ読取り可能な記録媒体(以下、単に「記録媒体」と記す)に記録されて流通してもよいし、その一部若しくは全部を他の機器から通信回線等の伝送媒体を介して、本発明に係る動画像符号化装置または動画像復号化装置により受信され、記録される構成にしてもよい。反対に、上記の各プログラムは、本発明に係る動画像符号化装置または動画像復号化装置から伝送媒体を介して他の機器に伝送され、インストールされる構成としてもよい。
パララックスバリア方式による立体映像表示の原理を説明する図である。 従来の立体動画像符号化方式を示す図である。 第1実施形態における動画像符号化装置を示す図である。 (a)はステレオ画像の画素配置を、(b)はインターレース画像の画素配置を示す図である。 (a)はステレオ画像の画素配置を、(b)はステレオ画像を右に+90°回転したときの画素配置を、(c)はステレオ画像を右に−90°回転したときの画素配置を示す図である。 外部へ伝送される多重化符号化ビットストリームの例を示した図である。 外部へ伝送される多重化符号化ビットストリームの例を示した図である。 外部へ伝送される多重化符号化ビットストリームの例を示した図である。 外部へ伝送される多重化符号化ビットストリームの例を示した図である。 第1実施形態における動画像符号化装置の動作を示すフローチャートである。 第1実施形態における動画像復号化装置を示す図である。 (a)はスイッチ1104から送られた動画像信号の一つの画素配置を、(b)はスイッチ1104から送られた動画像信号のもう一つの画素配置を、(c)は(a)を左に+90°または(b)を左に−90°回転したときの画素配置を示す図である。 第1実施形態における動画像復号化装置の動作を示すフローチャートである。 第2実施形態における動画像符号化装置を示す図である。 (a)はステレオ画像のフレーム画像を、(b)はステレオ画像の左フィールド画像を、(c)はステレオ画像の右フィールド画像を示す図である。 (a)はインターレース画像のフレーム画像を、(b)はインターレース画像の上フィールド画像を、(c)はインターレース画像の下フィールド画像を示す図である。 (a)はステレオ画像の予測残差信号の画素配置におけるフレーム画像での直交変換ブロックを、(b)はステレオ画像の予測残差信号の画素配置におけるフィールド画像での直交変換ブロックを示す図である。 (a)はインターレース画像の予測残差信号の画素配置におけるフレーム画像での直交変換ブロックを、(b)はインターレース画像の予測残差信号の画素配置におけるフィールド画像での直交変換ブロックを示す図である。 (a)はステレオ画像に対する逆直交変換後の予測残差信号の画素配置におけるフレーム画像での画素配置を、(b)はステレオ画像に対する逆直交変換後の予測残差信号の画素配置におけるフィールド画像での画素配置を示す図である。 (a)はインターレース画像に対する逆直交変換後の予測残差信号の画素配置におけるフレーム画像での画素配置を、(b)はインターレース画像に対する逆直交変換後の予測残差信号の画素配置におけるフィールド画像での画素配置を示す図である。 第2実施形態における動画像復号化装置を示す図である。 第1実施形態に係る動画像符号化プログラムの構成を示す図である。 第1実施形態に係る動画像復号化プログラムの構成を示す図である。 第2実施形態に係る動画像符号化プログラムの構成を示す図である。 第2実施形態に係る動画像復号化プログラムの構成を示す図である。
符号の説明
10…フィルター、11…液晶ディスプレイ、12…スリット板、13…左目、14…右目、30、140…動画像符号化装置、110、210…動画像復号化装置、301…動画像種別判定部、302…スイッチ、303…動画像回転部、304…スイッチ、305…動画像インターレース符号化部、306…ステレオ画像識別子符号化部、307…多重化部、910、930…動画像符号化プログラム、920、940…動画像符号化プログラム、1101…分離部、1102…動画像インターレース復号化部、1103…ステレオ画像識別子復号化部、1104…スイッチ、1105…動画像逆回転部、1106…スイッチ、1401…動画像種別判定部、1402…ステレオ/インターレース動き検出部、1403…ステレオ/インターレース動き補償部、1404…フレームメモリ、1405…ステレオ/インターレース空間予測部、1406…スイッチ、1407…減算器、1408…ステレオ/インターレース直交変換部、1409…量子化部、1410…可変長符号化部、1411…逆量子化部、1412…ステレオ/インターレース逆直交変換部、1413…加算器、2101…可変長復号化部、2102…ステレオ/インターレース動きベクトル復元部、2103…ステレオ/インターレース動き補償部、2104…フレームメモリ、2105…ステレオ/インターレース空間予測部、2106…スイッチ、2107…逆量子化部、2108…ステレオ/インターレース逆直交変換部、2109…加算器。

Claims (4)

  1. 右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を符号化する動画像符号化装置であって、
    符号化対象の動画像がステレオ動画像であるか否かを判定する動画像種別判定部と、
    符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、当該動画像を所定方向に所定角度回転させる動画像回転部と、
    ステレオ動画像でないと判定された動画像、およびステレオ動画像であると判定され前記所定角度回転した動画像をインターレース符号化する動画像インターレース符号化部と、
    符号化対象の動画像がステレオ動画像であるか否かを示す情報、並びに、前記動画像回転部によって符号化対象の動画像に対し行われた回転の方向および角度に関する情報を含むステレオ画像識別子を符号化するステレオ画像識別子符号化部と、
    前記動画像インターレース符号化部によるインターレース符号化で得られた符号化ビットストリームと、前記ステレオ画像識別子符号化部による符号化で得られたステレオ画像識別子の符号とを多重化することで多重化符号化ビットストリームを作成する多重化部と、
    を備える動画像符号化装置。
  2. 右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を復号化する動画像復号化装置であって、
    受信された多重化符号化ビットストリームを、動画像の符号化ビットストリームとステレオ画像識別子の符号とに分離する分離部と、
    分離された前記動画像の符号化ビットストリームをインターレース復号化する動画像インターレース復号化部と、
    分離された前記ステレオ画像識別子の符号を復号化するステレオ画像識別子復号化部と、
    前記ステレオ画像識別子復号化部による復号化で得られたステレオ画像識別子に含まれる前記動画像がステレオ動画像であるか否かを示す情報に基づき、前記動画像がステレオ動画像である場合、前記復号化で得られたステレオ画像識別子に含まれる符号化時に前記動画像に対し行われた回転の方向および角度に関する情報に基づいて、前記回転の方向とは逆方向に前記角度だけ前記動画像を回転させる画像処理を、前記動画像インターレース復号化部によるインターレース復号化で得られた動画像信号に対し行う処理制御部と、
    を備える動画像復号化装置。
  3. 右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を符号化する動画像符号化方法であって、
    符号化対象の動画像がステレオ動画像であるか否かを判定する動画像種別判定ステップと、
    符号化対象の動画像がステレオ動画像であると判定された場合に、当該動画像における縦方向が横方向に変わるように、当該動画像を所定方向に所定角度回転させる動画像回転ステップと、
    ステレオ動画像でないと判定された動画像、およびステレオ動画像であると判定され前記所定角度回転した動画像をインターレース符号化する動画像インターレース符号化ステップと、
    符号化対象の動画像がステレオ動画像であるか否かを示す情報、並びに、前記動画像回転ステップによって符号化対象の動画像に対し行われた回転の方向および角度に関する情報を含むステレオ画像識別子を符号化するステレオ画像識別子符号化ステップと、
    前記インターレース符号化で得られた符号化ビットストリームと、前記符号化で得られたステレオ画像識別子の符号とを多重化することで多重化符号化ビットストリームを作成する多重化ステップと、
    を有する動画像符号化方法。
  4. 右目画像と左目画像を縦1列ごとに交互に並べたステレオ動画像、および奇数行画像と偶数行画像を横1行ごとに交互に並べたインターレース動画像を復号化する動画像復号化方法であって、
    受信された多重化符号化ビットストリームを、動画像の符号化ビットストリームとステレオ画像識別子の符号とに分離する分離ステップと、
    分離された前記動画像の符号化ビットストリームをインターレース復号化する動画像インターレース復号化ステップと、
    分離された前記ステレオ画像識別子の符号を復号化するステレオ画像識別子復号化ステップと、
    前記復号化で得られたステレオ画像識別子に含まれる前記動画像がステレオ動画像であるか否かを示す情報に基づき、前記動画像がステレオ動画像である場合、前記復号化で得られたステレオ画像識別子に含まれる符号化時に前記動画像に対し行われた回転の方向および角度に関する情報に基づいて、前記回転の方向とは逆方向に前記角度だけ前記動画像を回転させる画像処理を、前記インターレース復号化で得られた動画像信号に対し行う処理制御ステップと、
    を有する動画像復号化方法。
JP2004144074A 2004-05-13 2004-05-13 動画像符号化装置および方法、並びに動画像復号化装置および方法 Expired - Fee Related JP4421940B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2004144074A JP4421940B2 (ja) 2004-05-13 2004-05-13 動画像符号化装置および方法、並びに動画像復号化装置および方法
US11/125,209 US7746931B2 (en) 2004-05-13 2005-05-10 Moving picture encoding apparatus and method, moving picture decoding apparatus and method
EP20100154896 EP2205003A3 (en) 2004-05-13 2005-05-11 Moving picture encoding apparatus and method, moving picture decoding apparatus and method
EP20050010269 EP1596609A3 (en) 2004-05-13 2005-05-11 Moving picture encoding apparatus and method, moving picture decoding apparatus and method
EP20110187881 EP2416580A2 (en) 2004-05-13 2005-05-11 Moving picture encoding apparatus and method, moving picture decoding apparatus and method
CN2008101710869A CN101400000B (zh) 2004-05-13 2005-05-13 运动图像编码装置及方法以及运动图像译码装置及方法
CNB2005100702876A CN100488260C (zh) 2004-05-13 2005-05-13 运动图像编码装置及方法以及运动图像译码装置及方法
US12/508,066 US8254458B2 (en) 2004-05-13 2009-07-23 Moving picture encoding apparatus and method, moving picture decoding apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004144074A JP4421940B2 (ja) 2004-05-13 2004-05-13 動画像符号化装置および方法、並びに動画像復号化装置および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009146683A Division JP2009260983A (ja) 2009-06-19 2009-06-19 動画像符号化装置および方法、並びに動画像復号化装置および方法

Publications (2)

Publication Number Publication Date
JP2005328299A JP2005328299A (ja) 2005-11-24
JP4421940B2 true JP4421940B2 (ja) 2010-02-24

Family

ID=34936414

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004144074A Expired - Fee Related JP4421940B2 (ja) 2004-05-13 2004-05-13 動画像符号化装置および方法、並びに動画像復号化装置および方法

Country Status (4)

Country Link
US (2) US7746931B2 (ja)
EP (3) EP2205003A3 (ja)
JP (1) JP4421940B2 (ja)
CN (2) CN101400000B (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2733950A1 (en) 2005-10-21 2014-05-21 Electronics and Telecommunications Research Institute Apparatus for encoding moving picture using adaptive scanning
US9516326B1 (en) * 2005-12-09 2016-12-06 Nvidia Corporation Method for rotating macro-blocks of a frame of a video stream
JP2007180982A (ja) * 2005-12-28 2007-07-12 Victor Co Of Japan Ltd 画像復号装置、画像復号方法、及び画像復号プログラム
JP2007180981A (ja) * 2005-12-28 2007-07-12 Victor Co Of Japan Ltd 画像符号化装置、画像符号化方法、及び画像符号化プログラム
ZA200805337B (en) 2006-01-09 2009-11-25 Thomson Licensing Method and apparatus for providing reduced resolution update mode for multiview video coding
KR100959538B1 (ko) * 2006-03-30 2010-05-27 엘지전자 주식회사 비디오 신호를 디코딩/인코딩하기 위한 방법 및 장치
US20100091845A1 (en) * 2006-03-30 2010-04-15 Byeong Moon Jeon Method and apparatus for decoding/encoding a video signal
KR100800750B1 (ko) 2006-08-04 2008-02-01 삼성전자주식회사 입체 영상 이미지를 생성 및 출력하는 입체 영상 이미지생성 장치 및 방법
JP4993676B2 (ja) * 2006-09-01 2012-08-08 キヤノン株式会社 画像符号化装置及び画像符号化方法
BRPI0717639A2 (pt) 2006-10-30 2013-11-12 Nippon Telegraph & Telephone Método de geração de informações de referência preditas, métodos de codificação de decodificação de vídeo, aparelhos destinados aos mesmos, programas destinados aos mesmos, e mídias de armazenamento que armazenam os programas
KR101319535B1 (ko) * 2006-12-26 2013-10-21 삼성전자주식회사 영상신호 처리장치 및 그 제어방법
KR101766479B1 (ko) * 2007-04-12 2017-10-23 돌비 인터네셔널 에이비 비디오 인코딩 및 디코딩의 타일링
EP2501137A3 (en) * 2007-06-11 2012-12-12 Samsung Electronics Co., Ltd. Method and apparatus for generating header information of stereoscopic image
US8471893B2 (en) * 2007-06-26 2013-06-25 Samsung Electronics Co., Ltd. Method and apparatus for generating stereoscopic image bitstream using block interleaved method
JP4892450B2 (ja) * 2007-10-17 2012-03-07 パナソニック株式会社 画像符号化装置および画像符号化方法
KR101591085B1 (ko) * 2008-05-19 2016-02-02 삼성전자주식회사 영상 파일 생성 및 재생 장치 및 방법
KR20100040640A (ko) 2008-10-10 2010-04-20 엘지전자 주식회사 수신 시스템 및 데이터 처리 방법
IT1393713B1 (it) * 2008-10-21 2012-05-08 S I R I Société Internationale De Rech Ind S A Sistema per codificare e decodificare immagini stereoscopiche
JP4960400B2 (ja) * 2009-03-26 2012-06-27 株式会社東芝 ステレオ画像符号化方法、及び、ステレオ画像復号化方法
JP5627860B2 (ja) * 2009-04-27 2014-11-19 三菱電機株式会社 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置
KR20100138806A (ko) 2009-06-23 2010-12-31 삼성전자주식회사 자동 3차원 영상 포맷 변환 방법 및 그 장치
US8542737B2 (en) * 2010-03-21 2013-09-24 Human Monitoring Ltd. Intra video image compression and decompression
WO2011125313A1 (ja) * 2010-04-09 2011-10-13 三菱電機株式会社 動画像符号化装置および動画像復号装置
JP5559614B2 (ja) * 2010-04-21 2014-07-23 日立マクセル株式会社 受信装置および受信方法
JP5505154B2 (ja) * 2010-07-16 2014-05-28 ソニー株式会社 画像処理装置と画像処理方法
JP4964355B2 (ja) * 2010-09-30 2012-06-27 パナソニック株式会社 立体映像符号化装置、立体映像撮影装置、および立体映像符号化方法
JP2012257198A (ja) * 2011-05-17 2012-12-27 Canon Inc 立体画像符号化装置、その方法、および立体画像符号化装置を有する撮像装置
JP5815326B2 (ja) * 2011-08-12 2015-11-17 ルネサスエレクトロニクス株式会社 動画像復号装置及び画像表示装置
US9973779B2 (en) 2012-03-12 2018-05-15 Dolby Laboratories Licensing Corporation 3D visual dynamic range coding
CN102802012A (zh) * 2012-07-19 2012-11-28 彩虹集团公司 一种3d信号自动识别方法
US20160048697A1 (en) * 2014-08-18 2016-02-18 Spatial Digital Systems, Inc. Enveloping and de-enveloping for Digital Photos via Wavefront Muxing
JP2016226008A (ja) * 2016-07-27 2016-12-28 日立マクセル株式会社 受信装置および受信方法
WO2022187251A1 (en) * 2021-03-01 2022-09-09 Waymo Llc Generating scene flow labels from point clouds using object labels

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01118111A (ja) 1987-10-30 1989-05-10 Sanyo Electric Co Ltd 磁気記録式カメラの集点調節機構
US5253056A (en) * 1992-07-02 1993-10-12 At&T Bell Laboratories Spatial/frequency hybrid video coding facilitating the derivatives of variable-resolution images
JPH07123447A (ja) * 1993-10-22 1995-05-12 Sony Corp 画像信号記録方法および画像信号記録装置、画像信号再生方法および画像信号再生装置、画像信号符号化方法および画像信号符号化装置、画像信号復号化方法および画像信号復号化装置、ならびに画像信号記録媒体
US5767898A (en) * 1994-06-23 1998-06-16 Sanyo Electric Co., Ltd. Three-dimensional image coding by merger of left and right images
JPH0870475A (ja) 1994-06-23 1996-03-12 Sanyo Electric Co Ltd 立体動画像の符号化・復号化方法及び装置
US6055012A (en) * 1995-12-29 2000-04-25 Lucent Technologies Inc. Digital multi-view video compression with complexity and compatibility constraints
CN1223772A (zh) * 1996-07-03 1999-07-21 松下电器产业株式会社 多个图像信息的编码方法、编码装置、译码及合成方法、译码及合成装置和记录上述方法的记录媒体
AU5410298A (en) * 1996-12-12 1998-07-03 Matsushita Electric Industrial Co., Ltd. Picture encoder and picture decoder
KR20000075982A (ko) * 1997-03-07 2000-12-26 다카노 야스아키 디지탈 방송 수신기 및 디스플레이 장치
JP3454675B2 (ja) 1997-06-20 2003-10-06 三洋電機株式会社 立体映像伝送方法及び装置
JP3519594B2 (ja) * 1998-03-03 2004-04-19 Kddi株式会社 ステレオ動画像用符号化装置
EP1269761A1 (en) * 2000-03-31 2003-01-02 Koninklijke Philips Electronics N.V. Encoding of two correlated sequences of data
US6940557B2 (en) * 2001-02-08 2005-09-06 Micronas Semiconductors, Inc. Adaptive interlace-to-progressive scan conversion algorithm
JPWO2003026315A1 (ja) 2001-09-14 2005-01-06 株式会社エヌ・ティ・ティ・ドコモ 符号化方法、復号方法、符号化装置、復号装置、画像処理システム、符号化プログラム及び復号プログラム
CA2380105A1 (en) * 2002-04-09 2003-10-09 Nicholas Routhier Process and system for encoding and playback of stereoscopic video sequences
KR100481732B1 (ko) * 2002-04-20 2005-04-11 전자부품연구원 다 시점 동영상 부호화 장치
JP4154569B2 (ja) * 2002-07-10 2008-09-24 日本電気株式会社 画像圧縮伸長装置
WO2011018111A1 (en) 2009-08-13 2011-02-17 Abb Research Ltd. Optimized cooling system for a brushed electrical machine, and a corresponding method

Also Published As

Publication number Publication date
EP2416580A2 (en) 2012-02-08
CN100488260C (zh) 2009-05-13
US7746931B2 (en) 2010-06-29
CN1697526A (zh) 2005-11-16
US20090285302A1 (en) 2009-11-19
EP1596609A3 (en) 2008-03-12
CN101400000A (zh) 2009-04-01
CN101400000B (zh) 2010-10-06
US8254458B2 (en) 2012-08-28
US20050254010A1 (en) 2005-11-17
JP2005328299A (ja) 2005-11-24
EP2205003A2 (en) 2010-07-07
EP1596609A2 (en) 2005-11-16
EP2205003A3 (en) 2014-12-31

Similar Documents

Publication Publication Date Title
JP4421940B2 (ja) 動画像符号化装置および方法、並びに動画像復号化装置および方法
KR101385884B1 (ko) 다시점 동영상의 부호화 및 복호화 방법 및 장치
KR100667830B1 (ko) 다시점 동영상을 부호화하는 방법 및 장치
EP1878260B1 (en) Method for scalably encoding and decoding video signal
KR101450670B1 (ko) 블록 기반의 양안식 영상 포맷 생성 방법과 장치 및 양안식영상 복원 방법과 장치
KR100636785B1 (ko) 다시점 입체 영상 시스템 및 이에 적용되는 압축 및 복원방법
KR102215951B1 (ko) 복호 장치 및 복호 방법, 및 부호화 장치 및 부호화 방법
JP5059766B2 (ja) 視差ベクトルの予測方法、その方法を利用して多視点動画を符号化及び復号化する方法及び装置
EP2538675A1 (en) Apparatus for universal coding for multi-view video
KR100728009B1 (ko) 다시점 동영상을 부호화하는 방법 및 장치
JP2009505604A (ja) 多視点動映像を符号化する方法及び装置
RU2680204C2 (ru) Способ и устройство для определения информации движения между позициями по времени в подблоке предсказания
KR20110124199A (ko) 화상 처리 장치 및 방법
KR20140110842A (ko) 화상 처리 장치 및 화상 처리 방법
JP4960400B2 (ja) ステレオ画像符号化方法、及び、ステレオ画像復号化方法
US9001892B2 (en) Moving image encoder and moving image decoder
JP4355914B2 (ja) 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム
JP5442688B2 (ja) 動画像符号化装置および方法、並びに動画像復号化装置および方法
JP2009260983A (ja) 動画像符号化装置および方法、並びに動画像復号化装置および方法
KR20120084628A (ko) 다시점 영상 부호화/복호화 장치 및 방법
JP2008034893A (ja) 多視点画像復号装置
JP2013211777A (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090428

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091201

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091203

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131211

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees