[go: up one dir, main page]

JP2010521002A - 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法 - Google Patents

多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法 Download PDF

Info

Publication number
JP2010521002A
JP2010521002A JP2009530277A JP2009530277A JP2010521002A JP 2010521002 A JP2010521002 A JP 2010521002A JP 2009530277 A JP2009530277 A JP 2009530277A JP 2009530277 A JP2009530277 A JP 2009530277A JP 2010521002 A JP2010521002 A JP 2010521002A
Authority
JP
Japan
Prior art keywords
information
audio signal
channel
audio
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009530277A
Other languages
English (en)
Other versions
JP5451394B2 (ja
Inventor
スン−クォン バク
ジョン−イル ソ
テ−ジン イ
ヨン−ジュ イ
イン−ソン チャン
ジェ−ヒョン ユ
デ−ヨン チャン
ジン−ウ ホン
ジン−ウン キム
キョン−オク カン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Electronics and Telecommunications Research Institute ETRI
Original Assignee
Electronics and Telecommunications Research Institute ETRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Electronics and Telecommunications Research Institute ETRI filed Critical Electronics and Telecommunications Research Institute ETRI
Publication of JP2010521002A publication Critical patent/JP2010521002A/ja
Application granted granted Critical
Publication of JP5451394B2 publication Critical patent/JP5451394B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/18Vocoders using multiple modes
    • G10L19/20Vocoders using multiple modes using sound class specific coding, hybrid encoders or object based coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/233Processing of audio elementary streams

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Mathematical Physics (AREA)
  • Stereophonic System (AREA)
  • Signal Processing Not Specific To The Method Of Recording And Reproducing (AREA)

Abstract

本発明は、多様なチャネルのマルチオブジェクトオーディオ信号の符号化および復号化装置並びに方法に関し、多様なチャネルから構成されたマルチオブジェクトオーディオ信号符号化および復号化装置並びに方法を提供する。本発明は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号を1つのダウンミックスされたオーディオ信号にダウンミキシングし、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するヘッダ情報および空間キュー情報を含む付加情報を抽出するダウンミキシング手段と、前記ダウンミキシングされたオーディオ信号を符号化する符号化手段と、前記付加情報をビットストリームとして生成する付加情報符号化手段とを備え、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報を含み、オーディオ符号化および復号化に利用される。

Description

本発明は、マルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法に関し、詳細には多様なチャネルを有するマルチオブジェクトオーディオ信号を符号化および復号化する、多様なチャネルから構成されたマルチオブジェクトオーディオ信号符号化および復号化装置、並びにその方法に関する。
ここで、多様なチャネルを有するマルチオブジェクトオーディオ信号とは、マルチオブジェクトオーディオ信号として各々のオーディオオブジェクトが相異なるチャネル(例えば、モノ、ステレオ、5.1チャネル)で構成されたオーディオ信号を意味する。
従来のオーディオ符号化/複号化技術によると、ユーザはオーディオコンテンツを受動的に聴取するほかはないため、ユーザの必要に応じて相異なるチャネルから構成された各オーディオオブジェクトを制御して1つのオーディオコンテンツを多様な方法で組合せることによって、多様なオーディオオブジェクトを消費することのできる多様なチャネルから構成された複数のオーディオオブジェクト別の符号化および復号化装置、並びに方法が要求されている。
従来技術であるSAC(Spatial Audio Coding)は、マルチチャネルオーディオ信号をダウンミックスされたモノまたはステレオ信号および空間キュー(spatial cue)として表現、伝送、および復元する技術であって、低いビット率でも高品質のマルチチャネルオーディオ信号を伝送できる。
しかし、SACは、マルチチャネルから構成された単一オブジェクトオーディオ信号に対してのみ符号化および復号化が可能な技術であるため、マルチチャネルでありながらも同時にマルチオブジェクトオーディオ信号、例えば、モノ、ステレオ、および5.1チャネルから構成された多様なオブジェクトのオーディオ信号を符号化/複号化することができないといった問題がある。
また別の従来技術であるバイノーラルキューコーディング(Binaural Cue Coding:BCC)は、マルチオブジェクトオーディオ信号を符号化/復号化することができるが、該当のオーディオオブジェクトは、モノチャネルである場合に限定されるため、モノチャネル以外の多様なチャネルから構成されたマルチオブジェクトオーディオ信号を符号化/複号化することができない短所がある。
まとめると、従来技術によると、単一チャネルから構成されたマルチオブジェクトオーディオ信号またはマルチチャネルの単一オブジェクトオーディオ信号に対してのみ符号化/複号化を行い得るため、多様なチャネルから構成されたマルチオブジェクトオーディオ信号に対しては符号化/複号化を行なえないという問題があり、したがって、従来のオーディオ信号符号化/複号化技術によると、ユーザはオーディオコンテンツを受動的に聴取せざるを得ないという問題がある。
したがって、ユーザの必要に応じて相異なるチャネルから構成された複数のオーディオオブジェクトの各々を制御して1つのオーディオコンテンツを多様な方法で組合せることによって、多様なオーディオオブジェクトを消費することのできる多様なチャネルから構成された複数のオーディオオブジェクト別の符号化および復号化装置、並びに方法が要求される。
本発明は前述の要求に対応するために提案されたものであって、多様なチャネルを有するマルチオブジェクトオーディオ信号を符号化および復号化する、多様なチャネルから構成されたマルチオブジェクトオーディオ信号符号化および復号化装置、並びにその方法を提供することを目的とする。
前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の符号化装置であって、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号を1つのダウンミックスされたオーディオ信号にダウンミキシングし、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するヘッダ情報および空間キュー情報を含む付加情報を抽出するダウンミキシング手段と、前記ダウンミキシングされたオーディオ信号を符号化する符号化手段と、前記付加情報をビットストリームとして生成する付加情報符号化手段と、を備え、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む符号化装置を提供する。
また、前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の符号化方法であって、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号を1つのダウンミックスされたオーディオ信号にダウンミキシングし、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するヘッダ情報および空間キュー情報を含む付加情報を抽出するダウンミキシングステップと、前記ダウンミキシングされたオーディオ信号を符号化する符号化ステップと、前記付加情報をビットストリームとして生成する付加情報符号化ステップと、を含み、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む符号化方法を提供する。
また、前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化装置であって、入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析手段と、該入力信号分析手段から抽出された付加情報を用いて、前記復元されたダウンミックスオーディオ信号をオブジェクト別のオーディオ信号に復元するオーディオオブジェクト抽出手段と、入力されたオーディオ信号に対する制御情報を用いて前記復元されたオブジェクト別のオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力手段と、を備え、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む復号化装置を提供する。
また、前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化方法であって、入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析ステップと、該入力信号分析ステップから抽出された付加情報を用いて、前記復元されたダウンミックスオーディオ信号をオブジェクト別のオーディオ信号に復元するオーディオオブジェクト抽出ステップと、入力されたオーディオ信号に対する制御情報を用いて前記復元されたオブジェクト別のオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力ステップと、を含み、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む復号化方法を提供する。
また、前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化装置であって、入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析手段と、入力オーディオ信号に対する制御情報を用いて、前記入力信号分析手段から抽出された付加情報を制御する付加情報制御手段と、制御された付加情報を用いて前記復元されたダウンミックスオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力手段と、を備え、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む復号化装置を提供する。
また、前述した目的を達成するための本発明は、相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化方法であって、入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析ステップと、入力オーディオ信号に対する制御情報を用いて、前記入力信号分析ステップから抽出された付加情報を制御する付加情報制御ステップと、制御された付加情報を用いて前記復元されたダウンミックスオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力ステップと、を含み、前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と、を含む復号化方法を提供する。
本発明は、多様なチャネルを有するマルチオブジェクトオーディオ信号を符号化および復号化する、多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化装置および方法を提供することによって、多様なチャネルから構成された多様なオーディオオブジェクトのオーディオコンテンツを効率的に符号化および復号化することにより、ユーザが必要に応じて能動的にオーディオコンテンツを消費することができる。
本発明に係るマルチオブジェクトオーディオ信号符号化装置を示す一実施例の図である。 図1におけるモノチャネルのダウンミキサを示す図である。 図1におけるステレオチャネルダウンミキサを示す図である。 図1におけるマルチチャネルダウンミキサを示す図である。 図1における第2ダウンミキサを示す図である。 図1における付加情報エンコーダから生成される付加情報ビットストリームの構造を示す図である。 図6に示す付加情報ビットストリームの構造を詳細に示す図である。 本発明に係る図6に示す付加情報ビットストリームの構造を詳細に示す他の実施例の図である。 本発明に係るマルチオブジェクトオーディオ復号化装置を示す一実施例を示すブロック図である。 本発明に係るマルチオブジェクトオーディオ復号化装置を示す他の実施例のブロック図である。 本発明に係る図1の装置を用いたマルチオブジェクトオーディオの符号化方法を示す一実施例のフローチャートである。 本発明に係る図9の装置を用いたマルチオブジェクトオーディオの復号化方法を示す一実施例のフローチャートである。 本発明に係る図10の装置を用いたマルチオブジェクトオーディオの復号化方法を示す一実施例のフローチャートである。
前述した目的、特徴、および長所は、添付の図面と関連した次の詳細な説明を介して更に明確になるであろう。以下、添付の図面を参照して本発明に係る好ましい一実施例を詳説する。
図1は、本発明に係るマルチオブジェクトオーディオ信号符号化装置を示す一実施例の図であって、例えば、入力される複数のオーディオオブジェクトのチャネルが、各々モノ、ステレオ、および5.1チャネルである。
同図に示すように、本発明の一実施例に係るマルチオブジェクトオーディオ符号化装置は、第1ダウンミキサ101、第2ダウンミキサ103、オーディオエンコーダ105、付加情報エンコーダ107、および多重化部(multiplexer)109を備える。
前記第1ダウンミキサ101は、モノチャネルのダウンミキサ111、ステレオチャネルダウンミキサ113、およびマルチチャネルダウンミキサ115を備えている。
前記第1ダウンミキサ101は、入力オーディオオブジェクトのヘッダ情報を用いて入力された多様なチャネルのマルチオブジェクトオーディオ信号をモノ、ステレオ、マルチチャネルに識別し、チャネル別にグルーピングする。したがって、多様なチャネルのマルチオブジェクトオーディオ信号は、各々チャネル別にグルーピングされて各チャネル別のダウンミキサ111、113、115によってダウンミキシングされる。
また、前記第1ダウンミキサ101は、入力オーディオオブジェクトからダウンミックスされたオーディオ信号、および空間キューを含む付加情報を抽出する。すなわち、同じチャネル別に音源がグルーピングされて前記第1ダウンミキサ101に入力され、モノチャネルのダウンミキサ111は、入力されたモノオーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報を抽出し、ステレオチャネルダウンミキサ113は、入力されたステレオオーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報を抽出し、マルチチャネルダウンミキサ115は、入力されたマルチチャネル(例えば5.1チャネル)オーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報を抽出する。
前記オーディオエンコーダ105は、前記第2ダウンミキサ103から出力された第2ダウンミックス信号を符号化する。
前記付加情報エンコーダ107は、前記第1ダウンミキサ101から出力された付加情報および前記第2ダウンミキサ103から出力された付加情報を用いて付加情報ビットストリームを生成する。ここで、付加情報ビットストリームに含まれた情報は、下記の図6において詳説する。
前記多重化部109は、前記オーディオエンコーダ105から符号化された信号および前記付加情報エンコーダ107から生成された付加情報ビットストリームを多重化して復号化装置に伝送されるビットストリームを生成する。
前記第1ダウンミキサ101から出力される第1ダウンミックス信号は、ステレオ信号またはモノ信号である。すなわち、前記モノチャネルのダウンミキサ111から出力されるダウンミックス信号はモノ信号であって、残りのダウンミキサ113、115から出力されるダウンミックス信号はモノまたはステレオ信号である。
前記第2ダウンミキサ103は、前記第1ダウンミキサ101から出力された第1ダウンミックス信号を第2ダウンミックスして第2ダウンミックス信号を出力し、前記第2ダウンミックスの過程で分析された空間キューを含む付加情報を抽出する。ここで、第2ダウンミックス信号は、モードに応じてモノまたはステレオ信号である。
ここで、前記付加情報には、空間キュー、オーディオ信号の復元および制御のためのヘッダ情報が含まれている。付加情報は、下記の図6において詳説する。
図2は、図1のモノチャネルのダウンミキサ111を示す図であって、例えば、入力されるモノオーディオオブジェクトがN個(m1、…、mN)である。
同図に示すように、前記モノチャネルのダウンミキサ111は、基本ダウンミキサ(1)(201a、…、201d)をカスケード(cascade)構造で備える。
モノチャネルのダウンミキサ111に含まれる基本ダウンミキサ(1)201の個数は、モノオーディオオブジェクトの個数(N)に応じて決定される。すなわち、モノオーディオオブジェクトがN個であるとき、基本ダウンミキサ(1)201の個数はN−1個となり、モノオーディオオブジェクトが1つであるときは基本ダウンミキサが無く入力信号がバイパス(bypass)される。
一方、実施例によって1つの基本ダウンミキサ(1)がカスケード方式によりN−1回利用され得る。
基本的に基本ダウンミキサ(1)は、2つの入力信号をダウンミックスして1つのダウンミックスされたモノ信号を生成し、入力信号に対する空間キューを含む付加情報を抽出する。最初の基本ダウンミキサ(1)201aは、前記モノチャネルのダウンミキサ111に入力されるモノオーディオオブジェクト2つを用いて1つのダウンミックスされたモノ信号を生成し、空間キューを含む付加情報を抽出する。次に、2番目に利用される基本ダウンミキサ(1)201bは、最初の基本ダウンミキサ(1)201aから出力されるダウンミックスされたモノ信号および前記モノチャネルのダウンミキサ111に入力されるモノオーディオオブジェクトを用いて1つのダウンミックスされたモノ信号を生成し、空間キューを含む付加情報を抽出する。N−1番目の基本ダウンミキサ(1)201dは、N−2番目の基本ダウンミキサ(1)(図示せず)から出力されるダウンミックスモノ信号および前記モノチャネルのダウンミキサ111に入力されるモノオーディオオブジェクトを用いて1つのダウンミックスされたモノ信号を生成し、空間キューを含む付加情報を抽出する。
ここで、空間キューとは、オーディオ信号を符号化および復号化する過程において利用される情報であって、周波数領域で抽出され、基本ダウンミキサ(1)201に入力される2つの信号の大きさの差(amplitude difference)、遅延差、相関性などの情報を含む。例えば、本発明の一実施例に従って活用可能な空間キューとして、オーディオ信号のパワー利得情報を示す、オーディオ信号間のレベル差(Channel(audio signal)Level Difference:CLD)、オーディオ信号間のエネルギー比(Inter-Channel Level Difference:ICLD)、オーディオ信号間の時間差(Inter Channel Time Difference:ICTD)、オーディオ信号間の相関性情報を示すオーディオ信号間の相関性(Inter Channel Correlation:ICC)、および仮想音源位置情報(Virtual Source Location Information)があるが、これに限定されない。
ここで、前記付加情報には、空間キュー、オーディオ信号の復元および制御のためのヘッダ情報が含まれる。付加情報は、下記の図6において詳説する。
図3は、図1のステレオチャネルダウンミキサ113を示す図であって、例えば、入力されるステレオオーディオオブジェクトは、各々M個のLEFT信号およびRIGHT信号(SL1、…、SLMおよびSR1、…、SRM)である。
ステレオチャネルダウンミキサ113に入力されるステレオオーディオオブジェクトは、ステレオのLEFT信号とRIGHT信号とに分離されて、分離された信号は再びグルーピングされる。
同図に示すように、前記ステレオチャネルダウンミキサ113は、複数の基本ダウンミキサ(1)201を備える。前記ステレオチャネルダウンミキサ113に備えられた基本ダウンミキサ(1)201は、M個のLEFT信号およびM個のRIGHT信号をダウンミキシングするために、2×(M−1)個が必要である。ここで、図2で説明したように他の実施例では、1つの基本ダウンミキサ(1)が2×(M−1)回利用され得る。
図3に示すように、M個のLEFT信号を分析するためのM−1個の基本ダウンミキサ(1)201la〜201leは、図2で説明したように、入力される信号を分析し、1つのダウンミックスされたLEFT信号を生成し、空間キューを含む付加情報を抽出する。
図3に示すように、M個のRIGHT信号を分析するためのM−1個の基本ダウンミキサ(1)201ra〜201reは、図2で説明したように、入力される信号を分析して1つのダウンミックスされたRIGHT信号を生成し、空間キューを含む付加情報を抽出する。
図3に示すように、ステレオオーディオオブジェクトが1つである場合は、入力されるLEFT信号およびRIGHT信号がバイパスされ得る。
したがって、前記ステレオチャネルダウンミキサ113は、ダウンミックスされたLEFT信号およびダウンミックスされたRIGHT信号を生成することによってステレオダウンミックス信号を出力し、空間キューを含む付加情報を抽出する。
ここで、前記付加情報には、空間キュー、オーディオ信号の復元および制御のためのヘッダ情報が含まれる。付加情報は下記の図6において詳説する。
図4は、図1のマルチチャネルダウンミキサ115を示す図であって、例えば、入力される5.1チャネルオーディオオブジェクトはP個である。
同図に示すように、マルチチャネルダウンミキサ115は、MPEGサラウンドまたはSAC技術によるダウンミキサであって、マルチチャネルオーディオ信号から空間キューが含まれた付加情報を抽出し、オーディオ信号をモノまたはステレオダウンミックス信号にダウンミックスする。
すなわち、マルチチャネルダウンミキサ115は、入力信号のP個のマルチチャネルオーディオオブジェクトから空間キューを抽出して伝送し、オーディオ信号をモノまたはステレオ信号にダウンミックスする。一般的にマルチチャネルオーディオオブジェクトは1つである場合がほとんどである。
図5は、図1の第2ダウンミキサ103を示す図である。
前記第2ダウンミキサ103は、前記第1ダウンミキサ101から出力された信号を再度ダウンミックスしてステレオダウンミックス信号を出力し、空間キューが含まれた付加情報を抽出する。
同図に示すように、前記第2ダウンミキサ103は、基本ダウンミキサ(1)201f、201gおよび基本ダウンミキサ(2)501を備える。
ステレオチャネルダウンミキサ113およびマルチチャネルダウンミキサ115からダウンミックスされた信号がステレオ信号である場合、該当のダウンミックスされたステレオ信号は、各々LEFTおよびRIGHT信号にグルーピングされると、基本ダウンミキサ(1)201fおよび201gが該当のグルーピングされたLEFTおよびRIGHT信号をダウンミキシングする。各々の基本ダウンミキサ(1)201fおよび201gから出力されたダウンミックスモノ信号は、LEFTおよびRIGHT信号の代表的なダウンミックス信号である。
すなわち、前記基本ダウンミキサ(1)201fは、前記ステレオチャネルダウンミキサ113から出力されるダウンミックスされたLEFT信号、および前記マルチチャネルダウンミキサ115から出力されるダウンミックスされたLEFT信号を再度ダウンミックスし、代表LEFT信号として1つの代表ダウンミックスLEFT信号を出力して、付加情報を抽出する。
そして、前記基本ダウンミキサ(1)201gは、前記ステレオチャネルダウンミキサ113から出力されるダウンミックスされたRIGHT信号、および前記マルチチャネルダウンミキサ115から出力されるダウンミックスされたRIGHT信号を再度ダウンミックスし、1つの代表ダウンミックスRIGHT信号を出力して、付加情報を抽出する。
ここで、図2で説明したように、他の実施例によって1つの基本ダウンミキサ(1)が2回利用され得る。
次に、前記基本ダウンミキサ(2)501は、前記モノチャネルのダウンミキサ111から出力されるダウンミックスモノ信号、前記基本ダウンミキサ(1)201fおよび201gから出力される代表ダウンミックスLEFT信号および代表ダウンミックスRIGHT信号をダウンミックスし、全体のダウンミックスLEFT信号および全体のダウンミックスRIGHT信号を出力して、空間キューが含まれた付加情報を抽出する。
ここで、前記付加情報には、空間キュー、オーディオ信号の復元および制御のためのヘッダ情報が含まれる。付加情報は下記の図6において詳説する。
前記基本ダウンミキサ(1)201および前記基本ダウンミキサ(2)501は、各々下記の式1および式2に基づいて入力オーディオ信号をダウンミキシングする。
Figure 2010521002
Figure 2010521002
Figure 2010521002
Figure 2010521002
前記重み付け要素は、ダウンミックス信号に対する表現目的の制約条件(constraint condition)に応じて決定され得る。ここで、制約条件とは、音響シーン(scene)に対する制約条件であって、例えば、ダウンミックスされたオーディオ信号においてバイオリンおよびギターに対するオーディオ信号がバイオリン0.7、ギター0.3の比率で再生(play back)されるために、各々の重み付け要素が各々0.7および0.3に設定され得る。制約条件情報は、システムまたはユーザなどの外部からの入力によって決定される。
一方、前記重み付け要素は、空間キューレベル情報に反映されなければならない。例えば、CLDを空間キューとして利用する場合、式1に対して式3のように空間キューレベル情報が予測できる。
Figure 2010521002
Figure 2010521002
基本ダウンミキサ(2)501は、MPEGサラウンドのTTT(Three-To-Two)ボックスと同一に空間キューを抽出する。
図6は、図1の付加情報エンコーダ107から生成される付加情報ビットストリームの構造を示す図である。
同図に示すように、付加情報ビットストリームは、ヘッダ情報および空間キューを含む。
前記ヘッダ情報は、多様なチャネルから構成されたマルチオブジェクトオーディオ信号の復元および再生のための情報を含み、オーディオオブジェクトに対するチャネル情報および該当のオーディオオブジェクトのIDを定義することによって、モノ、ステレオ、マルチチャネルのオーディオオブジェクトに対する復号化情報を提供することができる。すなわち、例えば、符号化された所定のオーディオオブジェクトがモノオーディオ信号であるか、ステレオオーディオ信号であるか区分できるように識別IDおよびオブジェクト別情報が定義され得る。前記ヘッダ情報は、一実施例としてSACヘッダ情報、オーディオオブジェクト情報、およびプリセット(preset)情報を含み得る。
一実施例として、前記SACヘッダ情報は、空間キュー基盤のオーディオ符号化の過程において生成される情報であって、タイムスロット(time-slot)情報を含み得る。前記SACヘッダ情報は、前記第1ダウンミキサ101および前記第2ダウンミキサ103が付加情報を抽出する過程において、前記第1ダウンミキサ101および前記第2ダウンミキサ103により抽出される。
一実施例として、前記オーディオオブジェクト情報は、ダウンミックスされるオーディオオブジェクトがモノ、ステレオ、またはマルチチャネルオーディオオブジェクトであるかを識別するための情報およびオブジェクトID情報を含む。例えば、オーディオオブジェクト情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数およびマルチチャネルオーディオオブジェクト数)および各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオおよびマルチチャネルであるかを識別する情報を含む)を含む。
一実施例として、前記プリセット情報はヘッダ情報の付加情報として、各オブジェクトの制御情報があらかじめ定義されている。
例えば、前記プリセット情報は、プリセットモード情報およびプリセットモード支援情報を含む。前記プリセットモード情報は、例えば、カラオケモード、ソロオブジェクト抽出(extraction)モード(ギター演奏オーディオオブジェクト抽出、ピアノ演奏オーディオオブジェクト抽出など)、選好レンダリング情報、および基本再生モードセッティング(playback mode setting)情報を含み得る。
前記プリセットモード支援情報は、例えば、カラオケモード支援のための情報としてボーカルインデックス情報、ソロオブジェクト抽出モードの支援のための情報として該当のオブジェクトインデックス情報、選好レンダリング支援のための情報として各オブジェクト別レンダリング情報(ローテーション、エレベーション(elevation)、スピードなど)、並びに基本ステレオおよびマルチチャネル再生モードセッティング支援のための情報として各オーディオオブジェクト別の最適のレンダリング情報を含む。
また、前記付加情報に含まれる空間キューは、入力されたマルチオブジェクトオーディオ信号のオブジェクト別の空間キュー情報を含む。
付加情報のフォーマットは、設計者の選択に応じて多様に構成され得る。
図7は、図6に示された付加情報ビットストリームの構造を示す図であって、モノおよびステレオチャネルから構成されたマルチオブジェクトオーディオ信号に対する付加情報を示す。
同図に示すように、ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数およびステレオオーディオオブジェクト数など)、各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオ、またはマルチチャネルであるかを識別する情報を含む)を含み、また、付加情報ビットストリームは空間キューを含んでいる。同図の一実施例では、空間キューの一実施例としてCLDまたはICCが利用されている。
同図に示すように、各モノおよびステレオオブジェクトに対応する空間キュー(CLDまたはICCなど)が付加情報に含まれる。すなわち、各入力オーディオオブジェクトに対応する空間キュー情報はすべての付加情報に含まれていなければならない。
図8は、本発明に係る図6に示された付加情報ビットストリームの構造を詳細に示す他の実施例の図であって、モノ、ステレオ、およびマルチチャネルから構成されたマルチオブジェクトオーディオ信号に対する付加情報を示す。
同図に示すように、ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数およびマルチチャネルオーディオオブジェクト数など)、各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオ、またはマルチチャネルであるかを識別する情報など)を含み、また、付加情報ビットストリームは空間キューを含む。同図の一実施例では、空間キューの一実施例としてCLDおよびICCを利用する。
一方、ここで、マルチチャネルオブジェクトに対する空間キューは、マルチチャネルオブジェクトの空間キュー並びにモノおよびステレオオブジェクトに対する空間キューをカスケード多重化(cascaded multiplexing)することで、1つの付加情報ビットストリームとして表現され得る。前記モノチャネルのダウンミキサ111、ステレオチャネルダウンミキサ113、および第2ダウンミキサ103によって抽出された空間キューが、図8のモノおよびステレオオーディオオブジェクトに対する空間キューであって、前記マルチチャネルダウンミキサ115によって抽出された空間キューが、図8のマルチチャネルオーディオオブジェクトに対する空間キューである。
図9は、本発明に係る多様なチャネルのマルチオブジェクトオーディオ信号を復号化する装置の一実施例を示すブロック図である。
本発明の一実施例に係る多様なチャネルのマルチオブジェクトオーディオ信号を復号化する装置は、例えば、図1のマルチオブジェクトオーディオ信号符号化装置から生成されたオーディオビットストリームから空間キュー情報を抽出し、抽出された空間キューを用いて各チャネル情報を予測することによって、多様なチャネルから構成されたマルチオブジェクトオーディオ信号(モノ、ステレオ、およびマルチチャネルオーディオオブジェクトを含むオーディオ信号)を復元する。
同図に示すように、本発明の一実施例に係る多様なチャネルのマルチオブジェクトオーディオ信号を復号化する装置は、逆多重化部(demultiplexer:DEMUX)901、オーディオデコーダ903、付加情報解析部905、オーディオオブジェクト抽出部907、およびレンダリング処理部909を備える。
前記逆多重化部901は、例えば、図1のマルチオブジェクトオーディオ信号符号化装置から生成されたオーディオビットストリームからオーディオ情報ビットストリームと付加情報ビットストリームとを分離する。
前記オーディオデコーダ903は、前記逆多重化部901により分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号を復元する。
前記付加情報解析部905は、前記逆多重化部901により分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報が含まれた付加情報を抽出する。
前記オーディオオブジェクト抽出部907は、前記付加情報解析部905から抽出された付加情報のヘッダ情報を用いて、ダウンミックスオーディオ信号からオブジェクト別のオーディオ信号を復元する。前記ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数およびマルチチャネルオーディオオブジェクト数など)および各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオおよびマルチチャネルオーディオオブジェクトであるかを識別する情報など)を含んでいるため、前記オーディオオブジェクト抽出部907は、前記付加情報解析部905から抽出された付加情報のヘッダ情報および空間キュー情報に基づいて前記オーディオデコーダ903によって出力されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号を復元することができる。
前記レンダリング処理部909は、前記オーディオオブジェクト抽出部907により復元された各オーディオオブジェクトに対するレンダリング制御情報(例えば、空間的オーディオオブジェクトの位置および大きさ)および出力チャネル制御情報(例えば、5.1もしくは7.1チャネル、またはステレオ)が外部から入力され、前記レンダリング制御情報および出力チャネル制御情報に基づき、前記オーディオオブジェクト抽出部907から復元された各オブジェクト別のオーディオ信号を配列して(arrange)オーディオ信号を出力する。
図10は、本発明に係る多様なチャネルのマルチオブジェクトオーディオ信号を復号化する装置の他の実施例を示すブロック図である。同図の他の実施例によるマルチオブジェクトオーディオ信号複合化装置は、各オブジェクト別に復元されたオーディオ信号をレンダリングする図9の複合化装置とは異なって、付加情報を制御してから、制御された付加情報に応じてオーディオオブジェクトをレンダリングすることによって、オーディオ信号を復元する。
同図に示すように、本発明の他の実施例に係る多様なチャネルのマルチオブジェクトオーディオ信号を復号化する装置は、逆多重化部901、オーディオデコーダ903、付加情報解析部905、付加情報制御部1001、およびSACデコーダ1003を備える。
図10の前記逆多重化部901、オーディオデコーダ903、付加情報解析部905は、図9の逆多重化部901、オーディオデコーダ903、付加情報解析部905と同じ構成である。
前記付加情報制御部1001は、前記オーディオデコーダ903により復元されたダウンミックスオーディオ信号に対するレンダリング制御情報(例えば、空間的オーディオオブジェクトの位置および大きさ)および出力チャネル制御情報(例えば、5.1もしくは7.1チャネル、またはステレオ)が外部から入力され、前記付加情報解析部905から抽出された付加情報(例えば、各オーディオオブジェクトの信号の大きさ情報および相関性情報)を前記外部入力信号によって制御する。
前記SACデコーダ1003は、前記付加情報制御部1001により制御された付加情報を用いて、前記オーディオデコーダ903から復元されたダウンミックスオーディオ信号から多様なチャネルのマルチオブジェクトオーディオ信号に復元する。前記SACデコーダ1003は、前記付加情報制御部1001により制御された付加情報のヘッダ情報を用いて、ダウンミックスオーディオ信号からオブジェクト別のオーディオ信号を復元する。前記ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数およびマルチチャネルオーディオオブジェクト数など)および各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオ、およびマルチチャネルであるかを識別する情報など)を含んでいるため、前記SACデコーダ1003は、前記付加情報制御部1001により制御された付加情報のヘッダ情報および空間キュー情報に基づいて前記オーディオデコーダ903によって出力されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号を復元することができる。
図11は、本発明に係る図1の装置を用いたマルチオブジェクトオーディオの符号化方法を示す一実施例のフローチャートである。
同図に示すように、入力された多様なチャネルのマルチオブジェクトオーディオ信号は、入力オーディオオブジェクトのヘッダ情報によってモノ、ステレオ、およびマルチチャネルオーディオ信号に識別され、チャネル別にグルーピングされる(S1101)。
次に、ステップS1101によって同じチャネル別にグルーピングされた音源がダウンミックスされ、空間キューを含む付加情報が抽出される(S1103)。すなわち、入力されたモノオーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報が抽出され、入力されたステレオオーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報が抽出され、入力されたマルチチャネル(例えば5.1チャネル)オーディオオブジェクトからダウンミックス信号、および空間キューを含む付加情報が抽出される。
前記ステップS1103から出力される第1ダウンミックス信号は、ステレオ信号またはモノ信号である。すなわち、前記入力されたモノオーディオオブジェクトから出力されるダウンミックス信号はモノ信号であり、ステレオオーディオオブジェクトまたはマルチチャネルオーディオオブジェクトから出力されるダウンミックス信号はモノまたはステレオ信号である。
次に、ステップS1103から出力される第1ダウンミックス信号は、第2ダウンミックスされ、前記第2ダウンミックスの過程で分析された空間キューを含む付加情報が抽出される(S1105)。ここで、第2ダウンミックス信号は、モードによってモノまたはステレオ信号である。
次に、ステップS1105から出力された第2ダウンミックス信号が符号化される(S1107)。
次に、ステップS1103から出力された付加情報およびステップS1105から出力された付加情報を用いて付加情報ビットストリームが生成される(S1109)。
次に、ステップS1107から符号化された信号およびステップS1109から生成された付加情報ビットストリームが多重化されて復号化装置に伝送されるビットストリームが生成される(S1111)。
図12は、本発明に係る図9の装置を用いたマルチオブジェクトオーディオの復号化方法を示す一実施例のフローチャートである。
同図に示すように、前記ステップS1111によって生成されたオーディオビットストリームからオーディオ情報ビットストリームと付加情報ビットストリームとに分離される(S1201)。
次に、ステップS1201により分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号が復元される(S1203)。
次に、ステップS1201により分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報の含まれた付加情報が抽出される(S1205)。
次に、ステップS1205から抽出された付加情報のヘッダ情報を用いて、ダウンミックスオーディオ信号からオブジェクト別のオーディオ信号が復元される(S1207)。前記ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数およびマルチチャネルオーディオオブジェクト数など)および各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオ、およびマルチチャネルオーディオオブジェクトであるかを識別する情報など)を含んでいるため、前記ステップS1205から抽出された付加情報のヘッダ情報および空間キュー情報に基づいて前記ステップS1203により出力されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号が復元され得る。
次に、ステップS1207によって復元された各オーディオオブジェクトに対するレンダリング制御情報(例えば、空間的オーディオオブジェクトの位置および大きさ)および出力チャネル制御情報(例えば、5.1もしくは7.1チャネル、またはステレオ)が外部から入力され、前記ステップS1207から復元された各オブジェクト別のオーディオ信号が配列され、マルチオブジェクトオーディオ信号が出力される。
図13は、本発明に係る図10の装置を用いたマルチオブジェクトオーディオの復号化方法を示す一実施例のフローチャートである。
同図に示すように、前記ステップS1111により生成されたオーディオビットストリームからオーディオ情報ビットストリームと付加情報ビットストリームとが分離される(S1301)。
次に、ステップS1301により分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号が復元される(S1303)。
次に、ステップS1301により分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報の含まれた付加情報が抽出される(S1305)。
次に、ステップS1303によって復元された各オーディオオブジェクトに対するレンダリング制御情報(例えば、空間的オーディオオブジェクトの位置および大きさ)および出力チャネル制御情報(例えば、5.1もしくは7.1チャネル、またはステレオ)が外部から入力され、前記ステップS1305から抽出された付加情報(例えば、各オーディオオブジェクトの信号の大きさおよび相関性情報を含む)が前記外部入力信号によって制御される(S1307)。
次に、ステップS1307によって制御された付加情報を用いて、前記ステップS1303から復元されたダウンミックスオーディオ信号から多様なチャネルのマルチオブジェクトオーディオ信号に復元される(S1309)。前記ステップS1307により制御された付加情報のヘッダ情報を用いて、ダウンミックスオーディオ信号からオブジェクト別のオーディオ信号が復元される。前記ヘッダ情報は、チャネル別のオーディオオブジェクト数(モノオーディオオブジェクト数、ステレオオーディオオブジェクト数、およびマルチチャネルオーディオオブジェクト数など)および各チャネル別のオーディオオブジェクトのインデックス情報(IDおよびオーディオオブジェクトがモノ、ステレオ、およびマルチチャネルであるかを識別する情報など)を含んでいるため、前記ステップS1307によって制御された付加情報のヘッダ情報および空間キュー情報に基づいて前記ステップS1303により出力されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号が復元され得る。
前述したような本発明の方法は、プログラムで具現されてコンピュータで読み出し可能な記録媒体(CD−ROM、RAM、ROM、フロッピー(登録商標)ディスク、ハードディスク、光磁気ディスクなど)に保存され得る。
特定の好ましい実施例について本発明を説明してきたが、特許請求の範囲において定義した本発明の精神および範囲から逸脱しない範囲内で様々な置換、変形および変更が可能であることは、本発明が属する技術分野において通常の知識を有する者にとって明白であろう。
本発明は、多様なチャネルから構成された多様なオブジェクトのオーディオコンテンツを効率的に符号化および復号化することによって、ユーザが必要に応じて能動的にオーディオコンテンツを消費することができる。

Claims (64)

  1. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の符号化装置であって、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号を1つのダウンミックスされたオーディオ信号にダウンミキシングし、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するヘッダ情報および空間キュー情報を含む付加情報を抽出するダウンミキシング手段と、
    前記ダウンミキシングされたオーディオ信号を符号化する符号化手段と、
    前記付加情報をビットストリームとして生成する付加情報符号化手段と
    を備え、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする符号化装置。
  2. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項1に記載の符号化装置。
  3. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項1に記載の符号化装置。
  4. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項1に記載の符号化装置。
  5. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と
    を含むことを特徴とする請求項4に記載の符号化装置。
  6. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項1に記載の符号化装置。
  7. 前記ダウンミキシング手段は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号をチャネル別にダウンミキシングする第1ダウンミックス部と、
    前記第1ダウンミックス部によってチャネル別にダウンミックスされた信号を1つのダウンミックス信号にダウンミキシングする第2ダウンミックス部と
    を備えたことを特徴とする請求項1に記載の符号化装置。
  8. 前記第1ダウンミックス部は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に含まれたモノチャネルのマルチオブジェクトオーディオ信号の各々に対して付加情報を抽出し、前記モノチャネルのマルチオブジェクトオーディオ信号をダウンミキシングする基本ダウンミキサを備えたことを特徴とする請求項7に記載の符号化装置。
  9. N−1個の基本ダウンミキサは、前記モノチャネルのマルチオブジェクトオーディオ信号がN個であるとき、カスケード構造で配列されたことを特徴とする請求項8に記載の符号化装置。
  10. 1個の基本ダウンミキサは、前記モノチャネルのマルチオブジェクトオーディオ信号がN個であるとき、カスケード方式に基づいてダウンミキシングをN−1回行うことを特徴とする請求項8に記載の符号化装置。
  11. 前記第1ダウンミックス部は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に含まれたステレオチャネルのマルチオブジェクトオーディオ信号である左側信号および右側信号の各々に対して付加情報を抽出し、前記ステレオチャネルのマルチオブジェクトオーディオ信号である左側信号および右側信号をダウンミキシングする基本ダウンミキサを備えたことを特徴とする請求項7に記載の符号化装置。
  12. M−1個の基本ダウンミキサは、前記ステレオチャネルのマルチオブジェクトオーディオ信号を構成する左側信号および右側信号がM個であるとき、前記左側信号および右側信号の各々に対してカスケード構造で配列されたことを特徴とする請求項11に記載の符号化装置。
  13. 1個の基本ダウンミキサは、前記ステレオチャネルのマルチオブジェクトオーディオ信号を構成する左側信号および右側信号がM個であるとき、前記左側信号および右側信号の各々に対してカスケード方式に基づいてダウンミキシングをM−1回行うことを特徴とする請求項11に記載の符号化装置。
  14. 前記第1ダウンミックス部は、MPEGサラウンドまたは空間キュー基盤オーディオコーディング(SAC)方式に基づいてマルチチャネルであるマルチオブジェクトオーディオ信号に対して付加情報を抽出し、前記マルチチャネルのマルチオブジェクトオーディオ信号をダウンミキシングするマルチチャネルダウンミキサを備えたことを特徴とする請求項11に記載の符号化装置。
  15. 前記第2ダウンミックス部は、
    前記第1ダウンミックス部によってステレオチャネルにダウンミックスされた信号の左側信号および右側信号の各々に対して付加情報を抽出し、前記第1ダウンミックス部によってステレオチャネルにダウンミックスされた信号の左側信号および右側信号の各々をモノチャネル信号にダウンミキシングする第1基本ダウンミキサと、
    前記第1基本ダウンミキサおよび前記第1ダウンミックス部によってモノチャネルにダウンミックスされた信号から付加情報を抽出し、前記第1基本ダウンミキサおよび前記第1ダウンミックス部によってモノチャネルにダウンミックスされた信号をステレオチャネル信号にダウンミキシングする第2基本ダウンミキサと
    を備えたことを特徴とする請求項7に記載の符号化装置。
  16. 前記符号化装置は、前記符号化手段によって符号化されたオーディオ信号および前記付加情報符号化手段によって生成された付加情報を多重化する多重化手段をさらに備えたことを特徴とする請求項1に記載の符号化装置。
  17. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の符号化方法であって、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号を1つのダウンミックスされたオーディオ信号にダウンミキシングし、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するヘッダ情報および空間キュー情報を含む付加情報を抽出するダウンミキシングステップと、
    前記ダウンミキシングされたオーディオ信号を符号化する符号化ステップと、
    前記付加情報をビットストリームとして生成する付加情報符号化ステップと
    を含み、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする符号化方法。
  18. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項17に記載の符号化方法。
  19. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項17に記載の符号化方法。
  20. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項17に記載の符号化方法。
  21. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と、
    を含むことを特徴とする請求項20に記載の符号化方法。
  22. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項17に記載の符号化方法。
  23. 前記ダウンミキシングステップは、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号をチャネル別にダウンミキシングする第1ダウンミックスステップと、
    該第1ダウンミックスステップによってチャネル別にダウンミックスされた信号を1つのダウンミックス信号にダウンミキシングする第2ダウンミックスステップと
    を含むことを特徴とする請求項17に記載の符号化方法。
  24. 前記第1ダウンミックスステップは、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に含まれたモノチャネルのマルチオブジェクトオーディオ信号の各々に対して付加情報を抽出し、前記モノチャネルのマルチオブジェクトオーディオ信号をダウンミキシングする基本ダウンミックスステップを含むことを特徴とする請求項23に記載の符号化方法。
  25. 前記基本ダウンミックスステップは、前記モノチャネルのマルチオブジェクトオーディオ信号がN個であるとき、N−1個のダウンミックス操作がカスケード構造で行なわれることを特徴とする請求項24に記載の符号化方法。
  26. 前記基本ダウンミックスステップは、前記モノチャネルのマルチオブジェクトオーディオ信号がN個であるとき、1個のダウンミックス操作がカスケード方式でN−1回行なわれることを特徴とする請求項24に記載の符号化方法。
  27. 前記第1ダウンミックスステップは、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に含まれたステレオチャネルのマルチオブジェクトオーディオ信号である左側信号および右側信号の各々に対して付加情報を抽出し、前記ステレオチャネルのマルチオブジェクトオーディオ信号である左側信号および右側信号をダウンミキシングする基本ダウンミックスステップを含むことを特徴とする請求項23に記載の符号化方法。
  28. 前記基本ダウンミックスステップは、前記ステレオチャネルのマルチオブジェクトオーディオ信号を構成する左側信号および右側信号がM個であるとき、M−1個のダウンミックス操作が前記左側信号および右側信号の各々に対してカスケード構造で行なわれることを特徴とする請求項27に記載の符号化方法。
  29. 前記基本ダウンミックスステップは、前記ステレオチャネルのマルチオブジェクトオーディオ信号を構成する左側信号および右側信号がM個であるとき、1個のダウンミックス操作が前記左側信号および右側信号の各々に対してカスケード方式でM−1回行なわれることを特徴とする請求項27に記載の符号化方法。
  30. 前記第1ダウンミックスステップは、MPEGサラウンドまたはSAC方式に基づいてマルチチャネルであるマルチオブジェクトオーディオ信号に対して付加情報を抽出し、前記マルチチャネルであるマルチオブジェクトオーディオ信号をダウンミキシングするマルチチャネルダウンミックスステップを含むことを特徴とする請求項27に記載の符号化方法。
  31. 前記第2ダウンミックスステップは、
    前記第1ダウンミックスステップによってステレオチャネルにダウンミックスされた信号の左側信号および右側信号の各々に対して付加情報を抽出し、前記第1ダウンミックスステップによってステレオチャネルにダウンミックスされた信号の左側信号および右側信号の各々をモノチャネル信号にダウンミキシングする第1基本ダウンミックスステップと、
    前記第1基本ダウンミックスステップおよび前記第1ダウンミックスステップによってモノチャネルにダウンミックスされた信号から付加情報を抽出し、前記第1基本ダウンミックスステップおよび前記第1ダウンミックスステップによってモノチャネルにダウンミックスされた信号をステレオチャネル信号にダウンミキシングする第2基本ダウンミックスステップと
    を含むことを特徴とする請求項23に記載の符号化方法。
  32. 前記符号化方法は、前記符号化ステップによって符号化されたオーディオ信号、および前記付加情報符号化ステップによって生成された付加情報を多重化する多重化ステップをさらに含むことを特徴とする請求項17に記載の符号化方法。
  33. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化装置であって、
    入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析手段と、
    該入力信号分析手段から抽出された付加情報を用いて、前記復元されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号に復元するオーディオオブジェクト抽出手段と、
    入力されたオーディオ信号に対する制御情報を用いて前記復元されたオブジェクト別のオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力手段と
    を備え、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする復号化装置。
  34. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項33に記載の復号化装置。
  35. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項33に記載の復号化装置。
  36. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項33に記載の復号化装置。
  37. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と
    を含むことを特徴とする請求項36に記載の復号化装置。
  38. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項33に記載の復号化装置。
  39. 前記制御情報は、復元された各オーディオオブジェクトに対するレンダリング制御情報および出力チャネル制御情報であることを特徴とする請求項33に記載の復号化装置。
  40. 前記入力信号分析手段は、
    入力されたオーディオ信号からオーディオ情報ビットストリームと付加情報ビットストリームとを分離する逆多重化部と、
    該逆多重化部により分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号を復元するオーディオ復元部と、
    前記逆多重化部により分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報が含まれた付加情報を抽出する付加情報解析部と
    を備えたことを特徴とする請求項33に記載の復号化装置。
  41. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化方法であって、
    入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析ステップと、
    該入力信号分析ステップから抽出された付加情報を用いて、前記復元されたダウンミックスオーディオ信号からオブジェクト別のオーディオ信号に復元するオーディオオブジェクト抽出ステップと、
    入力されたオーディオ信号に対する制御情報を用いて前記復元されたオブジェクト別のオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力ステップと
    を含み、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする復号化方法。
  42. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項41に記載の復号化方法。
  43. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項41に記載の復号化方法。
  44. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項41に記載の復号化方法。
  45. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と
    を含むことを特徴とする請求項44に記載の復号化方法。
  46. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項41に記載の復号化方法。
  47. 前記制御情報は、復元された各オーディオオブジェクトに対するレンダリング制御情報および出力チャネル制御情報であることを特徴とする請求項41に記載の復号化方法。
  48. 前記入力信号分析ステップは、
    入力されたオーディオ信号からオーディオ情報ビットストリームと付加情報ビットストリームとを分離する逆多重化ステップと、
    該逆多重化ステップにより分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号を復元するオーディオ復元ステップと、
    前記逆多重化ステップにより分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報が含まれた付加情報を抽出する付加情報解析ステップと
    を含むことを特徴とする請求項41に記載の復号化方法。
  49. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化装置であって、
    入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析手段と、
    入力オーディオ信号に対する制御情報を用いて、前記入力信号分析手段から抽出された付加情報を制御する付加情報制御手段と、
    制御された付加情報を用いて前記復元されたダウンミックスオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力手段と
    を備え、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする復号化装置。
  50. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項49に記載の復号化装置。
  51. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項49に記載の復号化装置。
  52. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項49に記載の復号化装置。
  53. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と
    を含むことを特徴とする請求項52に記載の復号化装置。
  54. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項49に記載の復号化装置。
  55. 前記制御情報は、復元されたダウンミックスオーディオ信号に対するレンダリング制御情報および出力チャネル制御情報であることを特徴とする請求項49に記載の復号化装置。
  56. 前記入力信号分析手段は、
    入力されたオーディオ信号からオーディオ情報ビットストリームと付加情報ビットストリームとを分離する逆多重化部と、
    該逆多重化部により分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号を復元するオーディオ復元部と、
    前記逆多重化部により分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報が含まれた付加情報を抽出する付加情報解析部と
    を備えたことを特徴とする請求項49に記載の復号化装置。
  57. 相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の復号化方法であって、
    入力オーディオ信号からダウンミックスオーディオ信号を復元し、入力されたオーディオ信号に含まれた付加情報ビットストリームからヘッダ情報および空間キュー情報を含む付加情報を抽出する入力信号分析ステップと、
    入力オーディオ信号に対する制御情報を用いて、前記入力信号分析ステップから抽出された付加情報を制御する付加情報制御ステップと、
    制御された付加情報を用いて前記復元されたダウンミックスオーディオ信号をマルチオブジェクトオーディオ信号として出力する出力ステップと
    を含み、
    前記ヘッダ情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対する識別子情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するチャネル情報と
    を含むことを特徴とする復号化方法。
  58. 前記チャネル情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号の各々に対するチャネル情報と、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のチャネル別のオーディオオブジェクト数情報と
    を含むことを特徴とする請求項57に記載の復号化方法。
  59. 前記ヘッダ情報は、空間キュー基盤のオーディオ符号化情報であるタイムスロット情報をさらに含むことを特徴とする請求項57に記載の復号化方法。
  60. 前記ヘッダ情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセット情報をさらに含むことを特徴とする請求項57に記載の復号化方法。
  61. 前記プリセット情報は、
    前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号に対するプリセットモードを定義するプリセットモード情報と、
    前記プリセットモードを支援するために必要な情報を定義するプリセットモード支援情報と
    を含むことを特徴とする請求項60に記載の復号化方法。
  62. 前記空間キュー情報は、前記相異なるチャネルから構成されたマルチオブジェクトオーディオ信号のモノおよびステレオオーディオオブジェクトに対する空間キュー情報と、マルチチャネルオーディオオブジェクトに対する空間キュー情報とを順次に含むことを特徴とする請求項57に記載の復号化方法。
  63. 前記制御情報は、復元されたダウンミックスオーディオ信号に対するレンダリング制御情報および出力チャネル制御情報であることを特徴とする請求項57に記載の復号化方法。
  64. 前記入力信号分析ステップは、
    入力されたオーディオ信号からオーディオ情報ビットストリームと付加情報ビットストリームとを分離する逆多重化ステップと、
    該逆多重化ステップにより分離されたオーディオ情報ビットストリームからダウンミックスオーディオ信号を復元するオーディオ復元ステップと、
    前記逆多重化ステップにより分離された付加情報ビットストリームから各オーディオオブジェクトの空間キュー情報が含まれた付加情報を抽出する付加情報解析ステップと
    を含むことを特徴とする請求項57に記載の復号化方法。
JP2009530277A 2006-09-29 2007-10-01 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法 Expired - Fee Related JP5451394B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2006-0096172 2006-09-29
KR20060096172 2006-09-29
PCT/KR2007/004795 WO2008039038A1 (en) 2006-09-29 2007-10-01 Apparatus and method for coding and decoding multi-object audio signal with various channel

Related Child Applications (2)

Application Number Title Priority Date Filing Date
JP2012278575A Division JP5453515B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法
JP2012278574A Division JP5453514B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法

Publications (2)

Publication Number Publication Date
JP2010521002A true JP2010521002A (ja) 2010-06-17
JP5451394B2 JP5451394B2 (ja) 2014-03-26

Family

ID=39230399

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2009530277A Expired - Fee Related JP5451394B2 (ja) 2006-09-29 2007-10-01 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法
JP2012278574A Expired - Fee Related JP5453514B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法
JP2012278575A Expired - Fee Related JP5453515B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2012278574A Expired - Fee Related JP5453514B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法
JP2012278575A Expired - Fee Related JP5453515B2 (ja) 2006-09-29 2012-12-20 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法

Country Status (6)

Country Link
US (4) US8364497B2 (ja)
EP (3) EP2100297A4 (ja)
JP (3) JP5451394B2 (ja)
KR (1) KR100917843B1 (ja)
CN (3) CN102768836B (ja)
WO (1) WO2008039038A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010521013A (ja) * 2007-03-09 2010-06-17 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
JP2011523247A (ja) * 2008-04-16 2011-08-04 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
JP2011528446A (ja) * 2008-07-15 2011-11-17 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
JP2012503791A (ja) * 2008-09-25 2012-02-09 エルジー エレクトロニクス インコーポレイティド 信号処理方法及び装置
US8346380B2 (en) 2008-09-25 2013-01-01 Lg Electronics Inc. Method and an apparatus for processing a signal
US8359113B2 (en) 2007-03-09 2013-01-22 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8422688B2 (en) 2007-09-06 2013-04-16 Lg Electronics Inc. Method and an apparatus of decoding an audio signal
WO2014192602A1 (ja) * 2013-05-31 2014-12-04 ソニー株式会社 符号化装置および方法、復号装置および方法、並びにプログラム
JP2017501438A (ja) * 2013-11-27 2017-01-12 ディーティーエス・インコーポレイテッドDTS,Inc. 高チャンネル数マルチチャンネルオーディオのためのマルチプレットベースのマトリックスミキシング
JP2021060610A (ja) * 2016-11-08 2021-04-15 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 少なくとも2つのチャンネルをダウンミックスするためのダウンミキサおよび方法ならびにマルチチャンネルエンコーダおよびマルチチャンネルデコーダ

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI326448B (en) 2006-02-09 2010-06-21 Lg Electronics Inc Method for encoding and an audio signal and apparatus thereof and computer readable recording medium for method for decoding an audio signal
MY144273A (en) 2006-10-16 2011-08-29 Fraunhofer Ges Forschung Apparatus and method for multi-chennel parameter transformation
CN102892070B (zh) 2006-10-16 2016-02-24 杜比国际公司 多声道下混对象编码的增强编码和参数表示
JP5139440B2 (ja) * 2006-11-24 2013-02-06 エルジー エレクトロニクス インコーポレイティド オブジェクトベースオーディオ信号の符号化及び復号化方法並びにその装置
EP2595148A3 (en) 2006-12-27 2013-11-13 Electronics and Telecommunications Research Institute Apparatus for coding multi-object audio signals
KR101069268B1 (ko) * 2007-02-14 2011-10-04 엘지전자 주식회사 오브젝트 기반의 오디오 신호의 부호화/복호화 장치 및 방법
EP2083585B1 (en) 2008-01-23 2010-09-15 LG Electronics Inc. A method and an apparatus for processing an audio signal
US8615088B2 (en) 2008-01-23 2013-12-24 Lg Electronics Inc. Method and an apparatus for processing an audio signal using preset matrix for controlling gain or panning
US8175295B2 (en) 2008-04-16 2012-05-08 Lg Electronics Inc. Method and an apparatus for processing an audio signal
WO2009128662A2 (en) 2008-04-16 2009-10-22 Lg Electronics Inc. A method and an apparatus for processing an audio signal
KR101061128B1 (ko) 2008-04-16 2011-08-31 엘지전자 주식회사 오디오 신호 처리 방법 및 이의 장치
KR20090110242A (ko) 2008-04-17 2009-10-21 삼성전자주식회사 오디오 신호를 처리하는 방법 및 장치
KR102149019B1 (ko) * 2008-04-23 2020-08-28 한국전자통신연구원 객체기반 오디오 컨텐츠의 생성/재생 방법 및 객체기반 오디오 서비스를 위한 파일 포맷 구조를 가진 데이터를 기록한 컴퓨터 판독 가능 기록 매체
KR101724326B1 (ko) * 2008-04-23 2017-04-07 한국전자통신연구원 객체기반 오디오 컨텐츠의 생성/재생 방법 및 객체기반 오디오 서비스를 위한 파일 포맷 구조를 가진 데이터를 기록한 컴퓨터 판독 가능 기록 매체
KR101596504B1 (ko) 2008-04-23 2016-02-23 한국전자통신연구원 객체기반 오디오 컨텐츠의 생성/재생 방법 및 객체기반 오디오 서비스를 위한 파일 포맷 구조를 가진 데이터를 기록한 컴퓨터 판독 가능 기록 매체
KR20110052562A (ko) 2008-07-15 2011-05-18 엘지전자 주식회사 오디오 신호의 처리 방법 및 이의 장치
WO2010036059A2 (en) 2008-09-25 2010-04-01 Lg Electronics Inc. A method and an apparatus for processing a signal
US9412126B2 (en) * 2008-11-06 2016-08-09 At&T Intellectual Property I, Lp System and method for commercializing avatars
KR101129974B1 (ko) * 2008-12-22 2012-03-28 (주)오디즌 객체 기반 오디오 컨텐츠 생성/재생 방법 및 그 장치
US8332229B2 (en) * 2008-12-30 2012-12-11 Stmicroelectronics Asia Pacific Pte. Ltd. Low complexity MPEG encoding for surround sound recordings
US8620008B2 (en) 2009-01-20 2013-12-31 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8139773B2 (en) * 2009-01-28 2012-03-20 Lg Electronics Inc. Method and an apparatus for decoding an audio signal
KR101283783B1 (ko) * 2009-06-23 2013-07-08 한국전자통신연구원 고품질 다채널 오디오 부호화 및 복호화 장치
US20100324915A1 (en) * 2009-06-23 2010-12-23 Electronic And Telecommunications Research Institute Encoding and decoding apparatuses for high quality multi-channel audio codec
JP5793675B2 (ja) * 2009-07-31 2015-10-14 パナソニックIpマネジメント株式会社 符号化装置および復号装置
US20110054917A1 (en) * 2009-08-28 2011-03-03 Electronics And Telecommunications Research Institute Apparatus and method for structuring bitstream for object-based audio service, and apparatus for encoding the bitstream
EP3564955B1 (en) 2010-01-19 2020-11-25 Dolby International AB Improved subband block based harmonic transposition
MX2012009785A (es) * 2010-02-24 2012-11-23 Fraunhofer Ges Forschung Aparato para generar señal de mezcla descendente mejorada, metodo para generar señal de mezcla descendente mejorada y programa de computadora.
CN102222503B (zh) * 2010-04-14 2013-08-28 华为终端有限公司 一种音频信号的混音处理方法、装置及系统
KR101615776B1 (ko) * 2010-05-28 2016-04-28 한국전자통신연구원 상이한 분석 단계를 사용하는 다객체 오디오 신호의 부호화 및 복호화 장치 및 방법
KR20120071072A (ko) * 2010-12-22 2012-07-02 한국전자통신연구원 객체 기반 오디오를 제공하는 방송 송신 장치 및 방법, 그리고 방송 재생 장치 및 방법
KR101227932B1 (ko) * 2011-01-14 2013-01-30 전자부품연구원 다채널 멀티트랙 오디오 시스템 및 오디오 처리 방법
RU2571388C2 (ru) 2011-03-18 2015-12-20 Фраунхофер-Гезелльшафт Цур Фердерунг Дер Ангевандтен Форшунг Е.Ф. Передача длины элемента кадра при кодировании аудио
CN103050124B (zh) 2011-10-13 2016-03-30 华为终端有限公司 混音方法、装置及系统
US9966080B2 (en) 2011-11-01 2018-05-08 Koninklijke Philips N.V. Audio object encoding and decoding
CN104641414A (zh) * 2012-07-19 2015-05-20 诺基亚公司 立体声音频信号编码器
WO2014023443A1 (en) 2012-08-10 2014-02-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Encoder, decoder, system and method employing a residual concept for parametric audio object coding
CN103812824A (zh) * 2012-11-07 2014-05-21 中兴通讯股份有限公司 音频多编码传输方法及相应装置
PL3005355T3 (pl) 2013-05-24 2017-11-30 Dolby International Ab Kodowanie scen audio
CN105229731B (zh) 2013-05-24 2017-03-15 杜比国际公司 根据下混的音频场景的重构
CN104240711B (zh) * 2013-06-18 2019-10-11 杜比实验室特许公司 用于生成自适应音频内容的方法、系统和装置
EP2830047A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for low delay object metadata coding
EP2830050A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for enhanced spatial audio object coding
EP2830045A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Concept for audio encoding and decoding for audio channels and audio objects
KR102243395B1 (ko) * 2013-09-05 2021-04-22 한국전자통신연구원 오디오 부호화 장치 및 방법, 오디오 복호화 장치 및 방법, 오디오 재생 장치
WO2015056383A1 (ja) * 2013-10-17 2015-04-23 パナソニック株式会社 オーディオエンコード装置及びオーディオデコード装置
KR101536855B1 (ko) * 2014-01-23 2015-07-14 재단법인 다차원 스마트 아이티 융합시스템 연구단 레지듀얼 코딩을 이용하는 인코딩 장치 및 방법
KR101511553B1 (ko) * 2014-02-14 2015-04-13 전자부품연구원 다중 단계 오디오 분리 방법 및 이를 적용한 오디오 시스템
CN106415717B (zh) * 2014-05-15 2020-03-13 瑞典爱立信有限公司 音频信号分类和编码
CN106471575B (zh) 2014-07-01 2019-12-10 韩国电子通信研究院 多信道音频信号处理方法及装置
US9774974B2 (en) * 2014-09-24 2017-09-26 Electronics And Telecommunications Research Institute Audio metadata providing apparatus and method, and multichannel audio data playback apparatus and method to support dynamic format conversion
WO2016049106A1 (en) * 2014-09-25 2016-03-31 Dolby Laboratories Licensing Corporation Insertion of sound objects into a downmixed audio signal
CN105898667A (zh) * 2014-12-22 2016-08-24 杜比实验室特许公司 从音频内容基于投影提取音频对象
CN106303897A (zh) 2015-06-01 2017-01-04 杜比实验室特许公司 处理基于对象的音频信号
EP3869825A1 (en) * 2015-06-17 2021-08-25 Samsung Electronics Co., Ltd. Device and method for processing internal channel for low complexity format conversion
CN114005454B (zh) 2015-06-17 2025-03-11 三星电子株式会社 实现低复杂度格式转换的内部声道处理方法和装置
KR102668239B1 (ko) * 2015-06-17 2024-05-22 삼성전자주식회사 저연산 포맷 변환을 위한 인터널 채널 처리 방법 및 장치
CN105070304B (zh) 2015-08-11 2018-09-04 小米科技有限责任公司 实现对象音频录音的方法及装置、电子设备
MX384922B (es) * 2015-11-17 2025-03-14 Dolby Int Ab Seguimiento de cabeza para sistema de salida binaural paramétrica y método.
BR122020025280B1 (pt) 2015-11-17 2024-03-05 Dolby International Ab Método para decodificar e reproduzir um fluxo de áudio para um ouvinte usando alto-falantes
KR102421292B1 (ko) * 2016-04-21 2022-07-18 한국전자통신연구원 오디오 객체 신호 재생 시스템 및 그 방법
US20200236424A1 (en) * 2017-04-28 2020-07-23 Hewlett-Packard Development Company, L.P. Audio tuning presets selection
GB2578715A (en) * 2018-07-20 2020-05-27 Nokia Technologies Oy Controlling audio focus for spatial audio processing
GB2582748A (en) 2019-03-27 2020-10-07 Nokia Technologies Oy Sound field related rendering
KR102471718B1 (ko) * 2019-07-25 2022-11-28 한국전자통신연구원 객체 기반 오디오를 제공하는 방송 송신 장치 및 방법, 그리고 방송 재생 장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09503105A (ja) * 1993-09-10 1997-03-25 アールシーエー トムソン ライセンシング コーポレイシヨン リアルタイム音声パケットレイヤエンコーダ
JP2003066994A (ja) * 2001-08-27 2003-03-05 Canon Inc データ復号装置及びデータ復号方法、並びにプログラム、記憶媒体
WO2005094125A1 (en) * 2004-03-04 2005-10-06 Agere Systems Inc. Frequency-based coding of audio channels in parametric multi-channel coding systems
WO2005101371A1 (en) * 2004-04-16 2005-10-27 Coding Technologies Ab Method for representing multi-channel audio signals
WO2006027079A1 (de) * 2004-09-08 2006-03-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zur wiederherstellung eines multikanal-audiosignals und zum erzeugen eines parameterdatensatzes hierfür

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4190742B2 (ja) * 2001-02-09 2008-12-03 ソニー株式会社 信号処理装置及び方法
JP3747806B2 (ja) * 2001-06-11 2006-02-22 ソニー株式会社 データ処理装置及びデータ処理方法
JP2003032800A (ja) * 2001-07-17 2003-01-31 Nippon Hoso Kyokai <Nhk> スピーカ接続回路装置
EP1341160A1 (en) * 2002-03-01 2003-09-03 Deutsche Thomson-Brandt Gmbh Method and apparatus for encoding and for decoding a digital information signal
JP4393383B2 (ja) 2002-10-15 2010-01-06 韓國電子通信研究院 ユーザの選好度によるオーディオ信号適応変換装置、および、その方法
KR100923297B1 (ko) * 2002-12-14 2009-10-23 삼성전자주식회사 스테레오 오디오 부호화 방법, 그 장치, 복호화 방법 및그 장치
CA2533056C (en) * 2003-07-21 2012-04-17 Stefan Geyersberger Audio file format conversion
DE10344638A1 (de) 2003-08-04 2005-03-10 Fraunhofer Ges Forschung Vorrichtung und Verfahren zum Erzeugen, Speichern oder Bearbeiten einer Audiodarstellung einer Audioszene
EP1735777A1 (en) 2004-04-05 2006-12-27 Koninklijke Philips Electronics N.V. Multi-channel encoder
EP1768107B1 (en) * 2004-07-02 2016-03-09 Panasonic Intellectual Property Corporation of America Audio signal decoding device
US7508947B2 (en) * 2004-08-03 2009-03-24 Dolby Laboratories Licensing Corporation Method for combining audio signals using auditory scene analysis
JP3915804B2 (ja) * 2004-08-26 2007-05-16 ヤマハ株式会社 オーディオ再生装置
SE0402652D0 (sv) * 2004-11-02 2004-11-02 Coding Tech Ab Methods for improved performance of prediction based multi- channel reconstruction
JP5106115B2 (ja) * 2004-11-30 2012-12-26 アギア システムズ インコーポレーテッド オブジェクト・ベースのサイド情報を用いる空間オーディオのパラメトリック・コーディング
DE102005008366A1 (de) * 2005-02-23 2006-08-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Ansteuern einer Wellenfeldsynthese-Renderer-Einrichtung mit Audioobjekten
US8185403B2 (en) * 2005-06-30 2012-05-22 Lg Electronics Inc. Method and apparatus for encoding and decoding an audio signal
US7788107B2 (en) * 2005-08-30 2010-08-31 Lg Electronics Inc. Method for decoding an audio signal
KR100880642B1 (ko) * 2005-08-30 2009-01-30 엘지전자 주식회사 오디오 신호의 디코딩 방법 및 장치
US7970072B2 (en) * 2005-10-13 2011-06-28 Lg Electronics Inc. Method and apparatus for processing a signal
CN100561576C (zh) * 2005-10-25 2009-11-18 芯晟(北京)科技有限公司 一种基于量化信号域的立体声及多声道编解码方法与系统
CN101356573B (zh) * 2006-01-09 2012-01-25 诺基亚公司 对双耳音频信号的解码的控制
TWI326448B (en) 2006-02-09 2010-06-21 Lg Electronics Inc Method for encoding and an audio signal and apparatus thereof and computer readable recording medium for method for decoding an audio signal
CN102892070B (zh) * 2006-10-16 2016-02-24 杜比国际公司 多声道下混对象编码的增强编码和参数表示
KR20080082917A (ko) 2007-03-09 2008-09-12 엘지전자 주식회사 오디오 신호 처리 방법 및 이의 장치

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09503105A (ja) * 1993-09-10 1997-03-25 アールシーエー トムソン ライセンシング コーポレイシヨン リアルタイム音声パケットレイヤエンコーダ
JP2003066994A (ja) * 2001-08-27 2003-03-05 Canon Inc データ復号装置及びデータ復号方法、並びにプログラム、記憶媒体
WO2005094125A1 (en) * 2004-03-04 2005-10-06 Agere Systems Inc. Frequency-based coding of audio channels in parametric multi-channel coding systems
JP2007526520A (ja) * 2004-03-04 2007-09-13 アギア システムズ インコーポレーテッド パラメトリックマルチチャネル符号化システムにおけるチャネルの周波数ベースの符号化
WO2005101371A1 (en) * 2004-04-16 2005-10-27 Coding Technologies Ab Method for representing multi-channel audio signals
WO2005101370A1 (en) * 2004-04-16 2005-10-27 Coding Technologies Ab Apparatus and method for generating a level parameter and apparatus and method for generating a multi-channel representation
JP2007531027A (ja) * 2004-04-16 2007-11-01 コーディング テクノロジーズ アクチボラゲット レベル・パラメータを生成する装置と方法、及びマルチチャネル表示を生成する装置と方法
JP2007532960A (ja) * 2004-04-16 2007-11-15 コーディング テクノロジーズ アクチボラゲット マルチチャネルオーディオ信号を表示するための装置と方法
WO2006027079A1 (de) * 2004-09-08 2006-03-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zur wiederherstellung eines multikanal-audiosignals und zum erzeugen eines parameterdatensatzes hierfür
JP2008512708A (ja) * 2004-09-08 2008-04-24 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ マルチチャネル信号またはパラメータデータセットを生成する装置および方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6012038725; J.Herre, et al.: '"The Reference Model Architecture for MPEG Spatial Audio Coding"' Convention Paper Presented at the 118th Convention , 200505, pp.1-13, Audio Engineering Society *
JPN6012038725; J.Herre, et al.: '"The Reference Model Architecture for MPEG Spatial Audio Coding"' Convention Paper Presented at the 118th Convention No.6447, 200505, pp.1-13, Audio Engineering Society *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010521013A (ja) * 2007-03-09 2010-06-17 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
US8359113B2 (en) 2007-03-09 2013-01-22 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8463413B2 (en) 2007-03-09 2013-06-11 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8594817B2 (en) 2007-03-09 2013-11-26 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8422688B2 (en) 2007-09-06 2013-04-16 Lg Electronics Inc. Method and an apparatus of decoding an audio signal
US8532306B2 (en) 2007-09-06 2013-09-10 Lg Electronics Inc. Method and an apparatus of decoding an audio signal
JP2011523247A (ja) * 2008-04-16 2011-08-04 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
JP2011528446A (ja) * 2008-07-15 2011-11-17 エルジー エレクトロニクス インコーポレイティド オーディオ信号の処理方法及び装置
JP2012503791A (ja) * 2008-09-25 2012-02-09 エルジー エレクトロニクス インコーポレイティド 信号処理方法及び装置
US8346380B2 (en) 2008-09-25 2013-01-01 Lg Electronics Inc. Method and an apparatus for processing a signal
WO2014192602A1 (ja) * 2013-05-31 2014-12-04 ソニー株式会社 符号化装置および方法、復号装置および方法、並びにプログラム
JPWO2014192602A1 (ja) * 2013-05-31 2017-02-23 ソニー株式会社 符号化装置および方法、復号装置および方法、並びにプログラム
US9805729B2 (en) 2013-05-31 2017-10-31 Sony Corporation Encoding device and method, decoding device and method, and program
TWI615834B (zh) * 2013-05-31 2018-02-21 Sony Corp 編碼裝置及方法、解碼裝置及方法、以及程式
JP2017501438A (ja) * 2013-11-27 2017-01-12 ディーティーエス・インコーポレイテッドDTS,Inc. 高チャンネル数マルチチャンネルオーディオのためのマルチプレットベースのマトリックスミキシング
JP2021060610A (ja) * 2016-11-08 2021-04-15 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 少なくとも2つのチャンネルをダウンミックスするためのダウンミキサおよび方法ならびにマルチチャンネルエンコーダおよびマルチチャンネルデコーダ
JP7210530B2 (ja) 2016-11-08 2023-01-23 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 少なくとも2つのチャンネルをダウンミックスするためのダウンミキサおよび方法ならびにマルチチャンネルエンコーダおよびマルチチャンネルデコーダ
JP2023052322A (ja) * 2016-11-08 2023-04-11 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 少なくとも2つのチャンネルをダウンミックスするためのダウンミキサおよび方法ならびにマルチチャンネルエンコーダおよびマルチチャンネルデコーダ
US11670307B2 (en) 2016-11-08 2023-06-06 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Downmixer and method for downmixing at least two channels and multichannel encoder and multichannel decoder
JP7621396B2 (ja) 2016-11-08 2025-01-24 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 少なくとも2つのチャンネルをダウンミックスするためのダウンミキサおよび方法ならびにマルチチャンネルエンコーダおよびマルチチャンネルデコーダ

Also Published As

Publication number Publication date
EP2575130A1 (en) 2013-04-03
JP5453515B2 (ja) 2014-03-26
US20100174548A1 (en) 2010-07-08
US20140095179A1 (en) 2014-04-03
EP2100297A1 (en) 2009-09-16
KR20080029940A (ko) 2008-04-03
CN101617360B (zh) 2012-08-22
US8670989B2 (en) 2014-03-11
JP5451394B2 (ja) 2014-03-26
US20140095178A1 (en) 2014-04-03
CN102768836A (zh) 2012-11-07
EP2100297A4 (en) 2011-07-27
CN102768835B (zh) 2014-11-05
JP2013054395A (ja) 2013-03-21
EP2575129A1 (en) 2013-04-03
CN102768836B (zh) 2014-11-05
WO2008039038A1 (en) 2008-04-03
JP2013077023A (ja) 2013-04-25
JP5453514B2 (ja) 2014-03-26
KR100917843B1 (ko) 2009-09-18
CN101617360A (zh) 2009-12-30
US9311919B2 (en) 2016-04-12
CN102768835A (zh) 2012-11-07
US8364497B2 (en) 2013-01-29
US9257124B2 (en) 2016-02-09
US20130110523A1 (en) 2013-05-02

Similar Documents

Publication Publication Date Title
JP5453515B2 (ja) 多様なチャネルから構成されたマルチオブジェクトオーディオ信号の符号化および復号化装置、並びにその方法
EP3059732B1 (en) Audio decoding device
KR100946688B1 (ko) 멀티 채널 오디오 디코더, 멀티 채널 인코더, 오디오 신호 처리 방법 및 상기 처리 방법을 수행하는 프로그램을 기록한 기록매체
RU2484543C2 (ru) Способ и устройство для кодирования и декодирования, основывающегося на объектах аудиосигнала
JP4616349B2 (ja) ステレオ互換性のあるマルチチャネルオーディオ符号化
KR20140028094A (ko) 다객체 오디오 신호의 부가정보 비트스트림 생성 방법 및 장치
KR20110016668A (ko) 시멘틱 정보를 이용한 멀티 채널 오디오 인코딩 및 디코딩 방법 및 장치
KR101615776B1 (ko) 상이한 분석 단계를 사용하는 다객체 오디오 신호의 부호화 및 복호화 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100927

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120727

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121029

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121127

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130705

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131007

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131226

R150 Certificate of patent or registration of utility model

Ref document number: 5451394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees