JP3014356B2 - MPEG-II audio encoding device - Google Patents
MPEG-II audio encoding deviceInfo
- Publication number
- JP3014356B2 JP3014356B2 JP10005940A JP594098A JP3014356B2 JP 3014356 B2 JP3014356 B2 JP 3014356B2 JP 10005940 A JP10005940 A JP 10005940A JP 594098 A JP594098 A JP 594098A JP 3014356 B2 JP3014356 B2 JP 3014356B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- fft
- data
- memory
- mpeg
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000015654 memory Effects 0.000 claims description 52
- 238000012545 processing Methods 0.000 claims description 32
- 238000004364 calculation method Methods 0.000 claims description 19
- 238000001914 filtration Methods 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000004148 unit process Methods 0.000 claims 1
- 238000000034 method Methods 0.000 description 14
- 238000004422 calculation algorithm Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- 238000007792 addition Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 238000012821 model calculation Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/002—Dynamic bit allocation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/233—Processing of audio elementary streams
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【0001】[0001]
【発明の属する技術分野】本発明は、HDTV、DVD 等の次
世代ディジタル映像媒体に採用される圧縮アルゴリズム
である、画像、音声のコーディングを含むMPEG−IIを用
いる装置に関し、特に、圧縮アルゴリズムの構成中の音
声圧縮アルゴリズムの具現のためのMPEG−IIオーディオ
符号化装置に関するものである。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an apparatus using MPEG-II including image and audio coding, which is a compression algorithm used for next-generation digital video media such as HDTV and DVD. The present invention relates to an MPEG-II audio encoding device for implementing a speech compression algorithm in the configuration.
【0002】[0002]
【従来の技術】MPEG−IIオーディオ符号化方式は高音質
オーディオ圧縮の標準案であり、サブバンド分析及び心
理音響モデルを基盤にしている。このような符号化方式
は、多大な計算量を含むため実時間処理の具現に数多い
困難が伴い、既存のDSP 構造を用いる場合、システムの
複雑度が増加することがある。このため、本発明は、応
用特殊プロセッサ(Application Specific Processor)
に基盤を置いたMPEG−IIオーディオ符号化装置として構
成する。2. Description of the Related Art The MPEG-II audio coding method is a standard for high-quality audio compression, and is based on a subband analysis and a psychoacoustic model. Such an encoding method involves a large amount of calculation, and therefore, has many difficulties in realizing real-time processing. When an existing DSP structure is used, the complexity of the system may increase. For this reason, the present invention relates to an application specific processor.
It is configured as an MPEG-II audio encoding device based on.
【0003】[0003]
【発明が解決しようとする課題】本発明は、このような
MPEG−IIオーディオ符号化のための専用のDSP に適した
算術論理演算部の構造に関するものである。本発明は、
さらに具体的には、単一のDSP コアを利用して複数のチ
ャネルを支援するMPEG−IIオーディオコーディングを実
時間で支援するために必要な算術論理演算を速やかに行
うことができる構造を示すものである。SUMMARY OF THE INVENTION The present invention
The present invention relates to the structure of an arithmetic and logic unit suitable for a dedicated DSP for MPEG-II audio encoding. The present invention
More specifically, it shows a structure that can quickly perform the arithmetic and logic operations required to support MPEG-II audio coding that supports multiple channels using a single DSP core in real time. It is.
【0004】上記MPEG−IIオーディオ符号化過程は、分
析フィルタおよび1024ポイントFFT (Fast Fourier
Transform;高速フーリエ変換)を含む心理音響モデル
作成、ビット割当、量子化、多チャネル処理、ビット列
形成のような多様な種類の作業で構成されており、5つ
の入力チャネルに対しこのような過程を全て適用しなけ
ればならないため、多数の演算量により実時間処理の具
現に困難が伴う。The above MPEG-II audio encoding process includes an analysis filter and a 1024-point FFT (Fast Fourier).
Transform (Fast Fourier Transform), which consists of various types of work such as psychoacoustic model creation, bit allocation, quantization, multi-channel processing, and bit string formation. This process is performed for five input channels. Since all of them have to be applied, realization of real-time processing is difficult due to a large amount of calculation.
【0005】上記問題を解決するため、本発明は、シス
テムを制御して複雑なアルゴリズムを効果的に行うこと
ができる特別なプロセッサコアを利用することにより、
オーディオ符号化器を具現することを目的とする。本発
明はさらに、FFT および分析フィルタエンジンを付加す
ることにより、プロセッサの効率を高め、計算能力を増
大させることを目的とする。本発明はさらに、各モジュ
ールが互いに独立したルーチンを処理してパイプライン
を形成するよう構成することにより、システムの使用度
を極大化することを目的とする。[0005] To solve the above problems, the present invention utilizes a special processor core that can control the system and effectively perform complex algorithms.
It is intended to implement an audio encoder. The present invention further aims at increasing the efficiency of the processor and increasing the computing power by adding an FFT and an analysis filter engine. It is a further object of the present invention to maximize system usage by configuring each module to process independent routines to form a pipeline.
【0006】[0006]
【課題を解決するための手段及び作用】前記目的を達成
するため本発明は、MPEG−IIオーディオ符号化装置にお
いて、多数のチャネルに入力されるオーディオデータ信
号をA/D 変換するA/D 変換部(6)と、前記A/D 変換部
で変換されたオーディオデータを以後の処理のためフレ
ーム単位で貯蔵するメモリ(7)と、前記メモリに貯蔵
されたオーディオデータを入力されチャネル別にFFT 演
算するFFT 部(1)と、前記メモリに貯蔵されたオーデ
ィオデータを入力され前記FFT 演算と同時に分析フィル
タリングを行い、処理結果を再びメモリに出力する分析
フィルタ部(2)と、前記FFT 部の処理結果から心理音
響演算を行い、前記分析フィルタ部(2)の出力により
スケール係数を計算すると共に、前記心理音響演算の結
果を利用してビットを割当てこの割当の結果を最終出力
ビット列とし、この最終出力ビット列をパッキングして
出力するコア部(4)と、前記コア部の最終出力ビット
列を外部に出力する出力バッファ部(8)とを具備して
成ることを特徴とする。According to the present invention, there is provided an MPEG-II audio encoding apparatus comprising: an A / D converter for A / D converting audio data signals input to a plurality of channels; (6), a memory (7) for storing the audio data converted by the A / D converter on a frame basis for subsequent processing, and an FFT operation for each channel which receives the audio data stored in the memory and receives the audio data. An FFT unit (1) for performing analysis filtering simultaneously with the FFT operation by receiving the audio data stored in the memory, and outputting the processing result to the memory again; A psychoacoustic operation is performed from the result, a scale factor is calculated based on the output of the analysis filter unit (2), and a bit is allocated using the result of the psychoacoustic operation. A core unit (4) for packing the final output bit sequence and outputting the final output bit sequence, and an output buffer unit (8) for outputting the final output bit sequence of the core unit to the outside. It is characterized by comprising.
【0007】さらに、本発明は、前記FFT 部(1)及び
分析フィルタ部(2)は、ハードワイヤードロジックに
設計され、前記FFT 部(1)にはオーディオデータ信号
が7個のチャネルに入力されることを特徴とする。Further, according to the present invention, the FFT section (1) and the analysis filter section (2) are designed in a hard-wired logic, and the FFT section (1) receives an audio data signal through seven channels. It is characterized by that.
【0008】さらに、本発明は、前記MPEG−IIオーディ
オ符号化装置は、それぞれ1つのFFT 部(1)、分析フ
ィルタ部(2)及びコア部(4)により7チャネルの入
力信号を処理するが、前記FFT 部(1)では第1チャネ
ルのFFT 演算結果を出力し、該FFT 演算結果を利用して
前記コア部で第1チャネルに対する心理音響演算を行う
と同時に、前記FFT 部で第2チャネルに対するFFT 演算
を行い、該第2チャネルのFFT 演算結果を利用して前記
コア部で第2チャネルに対する心理音響演算を行い、こ
のような演算を繰り返すことにより7チャネルの心理音
響演算が完了すると同時に前記分析フィルタ部(2)に
よる7チャネルに対する分析フィルタリングが完了する
ように、前記分析フィルタ部(2)の処理は、前記FFT
部(1)およびコア部(4)の処理と同時に並列に行う
ことを特徴とするFurther, according to the present invention, the MPEG-II audio encoding apparatus processes input signals of seven channels by one FFT unit (1), analysis filter unit (2) and core unit (4). The FFT unit (1) outputs an FFT operation result of the first channel, performs a psychoacoustic operation on the first channel in the core unit using the FFT operation result, and simultaneously outputs the second channel by the FFT unit. Is performed, and a psychoacoustic operation for the second channel is performed in the core unit using the result of the FFT operation for the second channel. By repeating such an operation, the psychoacoustic operation for the seventh channel is completed. The processing of the analysis filter unit (2) is performed by the FFT so that the analysis filtering for the seven channels by the analysis filter unit (2) is completed.
The processing is performed in parallel with the processing of the section (1) and the core section (4).
【0009】さらに、本発明は、前記7チャネルの心理
音響演算と同時に、7チャネルに対する分析フィルタリ
ングを1フレームの時間内で完了させるために、FFT 部
(1)、分析フィルタ部(2)、コア部(4)及びメモ
リ(7)を利用したパイプライン構造で処理することを
特徴とする。Further, the present invention provides an FFT unit (1), an analysis filter unit (2), and a core to complete analysis filtering for seven channels within one frame time simultaneously with the psychoacoustic calculation of the seven channels. Processing is performed by a pipeline structure using the unit (4) and the memory (7).
【0010】さらに、本発明は、前記コア部(4)は、
内部制御プログラムを貯蔵するプログラムメモリ(1
2)と、制御に必要なデータを貯蔵するデータメモリ
(13)と、プログラムフェッチを制御するプログラム
シーケンサ部(10,11)と、データ入出力を制御す
るデータアドレス発生部(15)と、算術論理演算を行
う算術論理演算部(14)と、プログラムメモリアドレ
スバス(16)及びプログラムメモリデータバス(1
7)と、データメモリアドレスバス(18)及びデータ
メモリデータバス(19)と、外部とのデータ入出力制
御信号及び内部制御信号を発生する制御部(9)とを具
備して成ることを特徴とする。Further, according to the present invention, the core portion (4)
Program memory (1) for storing internal control programs
2), a data memory (13) for storing data necessary for control, a program sequencer unit (10, 11) for controlling program fetch, a data address generator (15) for controlling data input / output, and an arithmetic operation An arithmetic and logic operation unit (14) for performing a logical operation, a program memory address bus (16) and a program memory data bus (1);
7), a data memory address bus (18), a data memory data bus (19), and a control unit (9) for generating an external data input / output control signal and an internal control signal. And
【0011】[0011]
【作用】MPEG−IIオーディオ符号化過程は計算量が膨大
なため、本発明ではこれを実時間で具現するため、符号
化過程全体を幾つかの補助ブロックに分けて処理する。
前述した目的を達成するため、本発明では、多数の計算
量を有する反面、同一の動作を反復する分析フィルタ
(Analysis Filter )及びFFT のルーチンと、知能的な
判断を必要とする心理音響モデリング及びビット列生成
ルーチン過程を処理するコア(Core)との3ブロックに
システム全体を分けている。In the present invention, since the MPEG-II audio encoding process requires a large amount of calculation, the present invention divides the entire encoding process into several auxiliary blocks and processes them in order to realize this in real time.
In order to achieve the above-mentioned object, the present invention has a large amount of calculation, but has an analysis filter (Analysis Filter) and an FFT routine that repeat the same operation, and a psychoacoustic modeling and The entire system is divided into three blocks: a core that processes the bit string generation routine.
【0012】[0012]
【発明の実施の形態】以下、添付の図面を参照して本発
明の好ましい実施の形態を詳細に説明する。図1は、本
発明を適用するMPEG−IIオーディオ符号化器の一実施の
形態の全体構成を示すシステム図であり、図中、点線で
示した部分は1つのチップに具現されている。DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments of the present invention will be described below in detail with reference to the accompanying drawings. FIG. 1 is a system diagram showing an overall configuration of an embodiment of an MPEG-II audio encoder to which the present invention is applied. In the drawing, a portion indicated by a dotted line is embodied in one chip.
【0013】MPEG−IIオーディオシステムの心理音響モ
デリングでは、FFT 出力から信号のマスキング曲線を求
める部分で、分析フィルタ及びFFT ルーチンの次に多数
の計算を必要とする。また、ビット列生成ルーチンで
は、分析フィルタの出力を用いてスケール係数(Scale
Factor)を求め、多チャネル処理を経た後、心理音響モ
デリングで求めたマスキング曲線を利用してビットを割
り当て、このビット割当情報で最終ビット列を生成する
一連の処理がコアブロックで最後に行われる。In the psychoacoustic modeling of the MPEG-II audio system, the calculation of the signal masking curve from the FFT output requires a number of calculations next to the analysis filter and the FFT routine. In the bit string generation routine, a scale factor (Scale
Factor), multi-channel processing is performed, bits are allocated using a masking curve obtained by psychoacoustic modeling, and a series of processings for generating a final bit sequence based on the bit allocation information is performed last in the core block.
【0014】前述した3つのブロックの処理は、ISO /
IEC、13818 − 3、MPEG−II標準案に定義されたフレー
ム単位で行われ、分析フィルタ及びFFT のルーチン、並
びに心理音響モデルを経てビット列を生成するルーチン
により1つのフレームの処理が終了する。The processing of the three blocks described above is based on ISO /
The processing is performed for each frame defined in the IEC, 13818-3, and the MPEG-II standard, and the processing of one frame is completed by a routine of an analysis filter and an FFT, and a routine of generating a bit string through a psychoacoustic model.
【0015】反復的に与えられた演算のみを行う分析フ
ィルタ及びFFT のルーチンは、ハードワイヤード(Hard
wired )ロジックに設計されたモジュール及び制御器を
利用することにより効果的に作業を行うことができる
が、このルーチン以外の心理音響モデリング及びビット
列生成ルーチンは、入力データによりその動作態様が変
化する作業であり、マイクロプログラミングされた制御
器がハードワイヤロジックに製作された制御器よりも効
果的に作業を行う。The analysis filter and the FFT routine that perform only the operations given iteratively are hardwired.
Wired) Although the work can be effectively performed by using a module and a controller designed in logic, the psychoacoustic modeling and the bit string generation routine other than this routine are work in which the operation mode changes depending on input data. And the microprogrammed controller works more effectively than the controller made in hardwired logic.
【0016】さらに、多チャネル処理を要求するMPEG−
IIの特性上、5つのプロセッサを利用したアルゴリズム
具現方法が提案され得るが、この場合、5つのプロセッ
サの間の情報交換及び同期化を担当する制御器が追加し
て要求され、システムの複雑度を増加させる。そこで、
多数のプロセッサ要素等を用いる代りに、速やかで効果
的なDSP コアを1つだけを用いることによりシステムの
複雑性を低下させることができる。本実施形態では、MP
EG−II符号化アルゴリズムのこのような特性を考慮し
て、分析フィルタ及びFFT ルーチンは別途のブロックに
作成し、入力信号に対して並列に処理を行うようにし、
MPEG−II符号化に用いる複雑なアルゴリズムを効果的に
実施することができる特別なプロセッサコアを設計して
心理音響モデル及びビット列生成ルーチンを1つのプロ
セッサコアが全て処理するようにしている。それによ
り、複雑性、費用対性能比面で効果的なシステムを具現
することができる。[0016] Further, the MPEG-
Due to the characteristics of II, an algorithm implementation method using five processors can be proposed. In this case, a controller for exchanging information and synchronizing between the five processors is additionally required, and the system complexity is increased. Increase. Therefore,
Instead of using multiple processor elements, etc., the system complexity can be reduced by using only one fast and effective DSP core. In the present embodiment, the MP
In consideration of such characteristics of the EG-II coding algorithm, the analysis filter and the FFT routine are created in separate blocks so that the input signal is processed in parallel.
A special processor core capable of effectively executing a complicated algorithm used for MPEG-II encoding is designed so that one processor core processes a psychoacoustic model and a bit string generation routine. Accordingly, a system that is effective in terms of complexity and cost / performance can be realized.
【0017】図1において、A/D 変換された左、右、中
央、左側のサラウンド、右側のサラウンド、低域周波数
補強(Low Frequency Enhancement )の6チャネルのデ
ータは、メモリ制御部(Memory Management Unit)
(5)を介してチップの外部メモリであるSRAM(7)に
入力され、その中に1フレームに該当するデータとして
貯蔵される。ここで、A/D 変換器であるA/D 変換モジュ
ール(6)はシリアルA/Dを用いており、1つのA/D 変
換器が2チャネルを担当する。In FIG. 1, A / D-converted data of six channels of left, right, center, left surround, right surround, and low frequency enhancement (Low Frequency Enhancement) are stored in a memory control unit (Memory Management Unit). )
The data is input to the SRAM (7), which is an external memory of the chip, via (5), and is stored therein as data corresponding to one frame. Here, the A / D conversion module (6), which is an A / D converter, uses serial A / D, and one A / D converter handles two channels.
【0018】1フレームのデータが外部メモリ(7)に
貯蔵されると、FFT 部であるFFT モジュール(1)は、
1024センプル単位でメモリ制部(5)を介して外部
メモリ(7)からデータを受け入れ、1チャネルに対す
るFFT 演算を行う。一方、分析フィルタ部である分析フ
ィルタモジュール(2)は、32センプル単位でメモリ
制御部(5)を介して外部メモリ(7)からデータを受
け入れて演算を行い、結果データを32センプル単位で
メモリ制御部(5)を介して外部メモリ(7)にチャネ
ル別に貯蔵する。When one frame of data is stored in the external memory (7), the FFT module (1), which is an FFT unit,
Data is received from the external memory (7) via the memory control unit (5) in units of 1024 samples, and FFT operation is performed for one channel. On the other hand, the analysis filter module (2), which is an analysis filter unit, receives data from the external memory (7) via the memory control unit (5) in units of 32 samples, performs an operation, and stores the resulting data in the unit of 32 samples. The data is stored for each channel in the external memory (7) through the control unit (5).
【0019】コアモジュール(4)は、分析フィルタモ
ジュール(2)で分析フィルタリングした結果データ及
びFFT モジュール(1)でFFT 演算処理した結果データ
をメモリ制御部(5)を介して外部メモリ(7)から受
け入れ、心理音響モデル作成、ビット割当、量子化、多
チャネル処理、ビット列形成のような多様な種類の作業
を行う。パッキングされたビット列はFIFO(8)を介し
てバイト単位で出力される。The core module (4) includes an external memory (7) via the memory control unit (5) for storing the result data obtained by the analysis filtering by the analysis filter module (2) and the result data obtained by the FFT operation processing by the FFT module (1). And perform various kinds of tasks such as psychoacoustic model creation, bit allocation, quantization, multi-channel processing, and bit string formation. The packed bit string is output in byte units via the FIFO (8).
【0020】本実施形態において具現したMPEG−IIオー
ディオ符号化器の各モジュールは、演算に用いるメモリ
及びモジュール間のデータ交換を担当するバッファを内
部に具えている。FFT モジュール(FFT 演算器)(1)
は、1K×16ビットROM 及び1K×32ビットメモリを有して
おり、分析フィルタモジュール(2)は、1.5K×16ビッ
トROM 及び2.5K×16ビットメモリを有している。プロセ
ッサコア部であるコアモジュール(4)は、メモリとし
て2048×25ビットプログラムROM 及び3072×16ビットデ
ータROM 、並びに2048×16ビットメモリを有している。
さらに、A/D 変換モジュール(6)を介して入力された
オーディオデータ及び分析フィルタ処理された出力を貯
蔵するために外部メモリ(7)が設けられている。Each module of the MPEG-II audio encoder embodied in this embodiment includes a memory used for calculation and a buffer for data exchange between modules. FFT module (FFT computing unit) (1)
Has a 1K × 16 bit ROM and a 1K × 32 bit memory, and the analysis filter module (2) has a 1.5K × 16 bit ROM and a 2.5K × 16 bit memory. The core module (4), which is a processor core unit, has a 2048 × 25-bit program ROM, 3072 × 16-bit data ROM, and a 2048 × 16-bit memory as memories.
Further, an external memory (7) is provided for storing the audio data input through the A / D conversion module (6) and the output subjected to the analysis filtering.
【0021】図2は、図1のMPEG−IIオーディオ符号化
器に対する動作タイミングを説明するための図であり、
動作過程は以下の通りである。分析フィルタモジュール
(2)はチャネル当り1152個の入力センプルに対し最
大5つのチャネルまで作業を行い、FFT 部(1)はチャ
ネル当り1024個のセンプルに対し最大7つのチャネ
ルまで作業を行う。上記2ブロックが作業する間、プロ
セッサコア部(4)はFFT 出力を利用して心理音響モデ
ル作成処理の作業を行うことになるが、これら作業の3
つのルーチンが全て終了すると、プロセッサコア部
(4)は分析フィルタ出力及び心理音響モデル出力を利
用してビット列を生成する。FIG. 2 is a diagram for explaining the operation timing for the MPEG-II audio encoder of FIG.
The operation process is as follows. Analysis filter module
(2) works on up to 5 channels for 1152 input samples per channel, and the FFT unit (1) works on up to 7 channels for 1024 samples per channel. While the above two blocks work, the processor core unit (4) performs the work of the psychoacoustic model creation processing using the FFT output.
When all the routines are completed, the processor core unit (4) generates a bit string using the output of the analysis filter and the output of the psychoacoustic model.
【0022】上記作業においては、フレームの始めの部
分では分析フィルタ及びFFT ルーチン並びに心理音響モ
デルが並列的に処理されるが、特にFFT ルーチンおよび
心理音響モデルの処理は各チャネル毎にパイプラインさ
れて行われる。これをFFT ルーチンの演算時間を実施単
位に設定して説明すると以下の通りである。In the above operation, the analysis filter, the FFT routine, and the psychoacoustic model are processed in parallel at the beginning of the frame. In particular, the processing of the FFT routine and the psychoacoustic model is pipelined for each channel. Done. This is described below by setting the calculation time of the FFT routine in the unit of execution.
【0023】図2の1番目の時間区間では、FFT モジュ
ール(1)は1番目のチャネル(CH0 )に対しFFT ルー
チンを行う。2番目の時間区間では、プロセッサコア部
(4)は1番目のチャネルに対するFFT 演算結果を利用
して心理音響モデル演算を行い、これと同時にFFT モジ
ュール(1)は2番目のチャネル(CH1 )に対するFFT
ルーチンを行う。このような方式で7番目の時間区間で
は、6番目のチャネル(CH5 )に対する心理音響モデル
演算及び7番目のチャネル(CH6 )に対するFFT 演算を
行い、最後に8番目の時間区間では、7番目のチャネル
(CH6 )に対する心理音響モデル演算を行うことによ
り、全チャネルに対するFFT 演算及び心理音響モデル演
算を終了することになる。さらに、5チャネルに対する
分析フィルタリング演算は7チャネルのFFT 演算終了時
間内に行われる。このような演算アルゴリズムとした理
由は、心理音響モデル演算にはFFT 演算の結果が必要で
あるが、分析フィルタリング演算は他演算部の演算結果
とは関りなく独立的に実施可能なためである。即ち、他
演算部とデータ交換がないためである。In the first time section of FIG. 2, the FFT module (1) performs an FFT routine for the first channel (CH0). In the second time interval, the processor core unit (4) performs a psychoacoustic model operation using the result of the FFT operation for the first channel, and at the same time, the FFT module (1) executes the operation for the second channel (CH1). FFT
Perform the routine. In this manner, in the seventh time section, the psychoacoustic model calculation for the sixth channel (CH5) and the FFT calculation for the seventh channel (CH6) are performed, and finally, in the eighth time section, the seventh By performing the psychoacoustic model computation for the channel (CH6), the FFT computation and the psychoacoustic model computation for all channels are completed. Further, the analysis filtering operation for five channels is performed within the end time of the FFT operation for seven channels. The reason for using such a calculation algorithm is that the psychoacoustic model calculation requires the result of the FFT calculation, but the analysis filtering calculation can be performed independently of the calculation results of other calculation units. . That is, there is no data exchange with other operation units.
【0024】前述したパイプラインが効果的に行われる
ためには、各段階に該当する作業が同一時間に終了し、
処理時間の差から発生する入出力渋滞現象が解消される
ようにしなければならない。即ち、1つのチャネルに対
する心理音響モデルの実施時間及びFFT ルーチンの処理
時間が等しくなる場合に、最大のプロセッシング効率を
得ることができる。心理音響モデルの実施時間は27MH
z クロックに換算して約43000サイクル(cycle )
程度を必要とし、1チャネルに対する1024ポイント
FFT 演算は約45000サイクルに至って完了する。In order for the above-mentioned pipeline to be performed effectively, the work corresponding to each stage is completed at the same time,
It is necessary to eliminate the input / output congestion caused by the difference in processing time. That is, when the execution time of the psychoacoustic model for one channel and the processing time of the FFT routine are equal, the maximum processing efficiency can be obtained. Implementation time of the psychoacoustic model is 27MH
Approximately 43000 cycles (cycle) converted to z clock
Required, 1024 points per channel
The FFT operation is completed in about 45,000 cycles.
【0025】図2に示すフレームの後半部に残る6つの
時間区間では、プロセッサコア部(4)は、分析フィル
タモジュール(2)の出力及び心理音響モデルの出力から
ビット列を生成することになる。心理音響モデルの演算
が終了すると、プロセッサコア部(4)が分析フィルタ
モジュール(2)の出力に対しビット列生成作業を行う
ので、分析フィルタモジュール(2)は前半部の8つの
時間区間の間に5チャネルに対する分析フィルタリング
を行う。In the remaining six time periods in the latter half of the frame shown in FIG. 2, the processor core unit (4) generates a bit string from the output of the analysis filter module (2) and the output of the psychoacoustic model. When the calculation of the psychoacoustic model is completed, the processor core unit (4) performs a bit string generation operation on the output of the analysis filter module (2). Analysis filtering is performed for five channels.
【0026】図3は、MPEG−IIオーディオ符号化用DSP
コアのブロック図である。MPEG−IIオーディオ符号化用
DSP コアは、システムの複雑性を低下させる面でアルゴ
リズムを具現するために1つのDSP コアのみを用いてお
り、このため、以下の事項を考慮して設計されている。
第1に、命令語実施時間を短くし、DSP コアの命令語実
施能力を極大化する。即ち、単位時間内に可能な多数の
命令語を実施することができるよう設計する。第2に、
アルゴリズム具現のため頻繁に用いる関数は、できるだ
け特別に製作した命令語を用いて解決する。これによ
り、アルゴリズム具現に必要とする命令語の絶対量を減
少させて全体実施時間を減少させることができる。FIG. 3 shows a DSP for MPEG-II audio encoding.
It is a block diagram of a core. For MPEG-II audio encoding
The DSP core uses only one DSP core to implement the algorithm in terms of reducing system complexity, and is therefore designed with the following considerations.
First, the instruction execution time is shortened, and the instruction execution capability of the DSP core is maximized. That is, it is designed to execute a large number of possible instructions in a unit time. Second,
Functions that are frequently used to implement the algorithm are resolved by using specially prepared commands as much as possible. Accordingly, the total amount of execution time can be reduced by reducing the absolute amount of the command word required for implementing the algorithm.
【0027】図3は、本発明のDSP コアの一実施形態に
なり得る3つの独立的なユニットを有しているプロセッ
サコアのブロック図であり、そのアーキテクチャ(Arch
itecture)の構成は速やかな実施速度を得るため命令語
水準パイプラインで具現している。本発明では、命令語
プリフェッチ(prefetch)及び実施(Execute )の2つ
の段階(Stage )を有するパイプライン構造に読み取り
(Read)段階を追加して、プリフェッチ、被演算部読み
取り(Operand Read)及び実施の3段階のパイプライン
構造としてアーキテクチャを設計している。FIG. 3 is a block diagram of a processor core having three independent units which can be one embodiment of the DSP core of the present invention.
Itecture) is embodied in an instruction-level pipeline to achieve fast execution speed. According to the present invention, a read stage is added to a pipeline structure having two stages (Stage) of instruction word prefetch and execute to execute prefetch, operand read, and execution. The architecture is designed as a three-stage pipeline structure.
【0028】パイプラインを具現するためにはそれぞれ
の段階が完全に独立的でなければならない。即ち、プリ
フェッチ、読取り及び実施の各段階で資源(Resource)
の共有が生じないようにしなければならない。このた
め、3つの独立的なユニットが要求される。先ず、命令
語フェッチ及びデータの操作(Manipulation)を独立さ
せるため、ハーバードアーキテクチャ(Harvard Archite
cture ;メモリ入出力帯域幅を拡大するため独立的なメ
モリを数個用いて独立的に同時にアクセス可能となるよ
う具現したメモリ構造、本実施形態ではプログラムメモ
リ(12)及びデータメモリ(13)を独立的に構成す
る)を採用した。細部的には、プログラムプリフェッチ
のためのプログラムアドレスを生成させるプログラムシ
ーケンサ(11)と、データ読取りのためのアドレスを
生成させるデータアドレス発生部であるデータアドレス
発生ユニット(data address generator unit )(1
5)と、データを処理する(命令語を実施する)算術論
理演算部(Arithmetic anc Logic Unit )である演算処
理部(14)とに分離した。In order to implement a pipeline, each stage must be completely independent. That is, at each stage of prefetch, read, and implementation,
Must not be shared. This requires three independent units. First, in order to make instruction word fetch and data manipulation (Manipulation) independent, a Harvard Archite architecture is used.
cture: a memory structure embodied so as to be able to be accessed independently and simultaneously using several independent memories in order to increase the memory input / output bandwidth. In this embodiment, the program memory (12) and the data memory (13) are used. Independently configured). More specifically, a program sequencer (11) for generating a program address for program prefetch and a data address generator unit (1) which is a data address generator for generating an address for data reading.
5) and an arithmetic processing unit (14), which is an arithmetic logic operation unit (arithmetic anc logic unit) that processes data (executes an instruction word).
【0029】プログラムシーケンサ(11)のブロック
は、命令語フェッチを担当する。プログラムシーケンサ
(11)は各クロック毎に次に行う命令語をプリフェッ
チする。データアドレス発生部(15)のブロックは、
読取り段階で用いるデータのアドレスを、簡単な足し算
演算を行うユニットを利用して作成する。算術論理演算
部(14)のブロックは、MPEG−IIオーディオ符号化器
から要求される全ての演算を行う。先ず基本的には、足
し算、引算及び掛算を行うとともに、システム制御信号
を作成するためAND 、OR、XOR 及びNOT の論理演算を行
う。特に、掛算と足し算を同時に行うMAC (Multiply &
Accumulate )演算のため掛算器及び足し算器が直列に
連結されている。MPEG−IIアルゴリズムでは頻度数が多
い演算が用いられるが、特別な命令語をおいて1クロッ
クに至って演算を行うことができるようにした。即ち、
このような応用特殊命令(Application Specific Instr
uction)を介して1つのプロセッサコアを有するMPEG−
IIオーディオ符号化器の実時間処理の具現が可能となる
ようにする。The block of the program sequencer (11) is responsible for instruction word fetch. The program sequencer (11) prefetches the next instruction word to be executed for each clock. The block of the data address generator (15) is
The address of the data used in the reading stage is created using a unit that performs a simple addition operation. The block of the arithmetic logic unit (14) performs all operations required from the MPEG-II audio encoder. Basically, addition, subtraction, and multiplication are performed, and logical operations of AND, OR, XOR, and NOT are performed to create a system control signal. In particular, MAC (Multiply &
Accumulate) For calculation, a multiplier and an adder are connected in series. In the MPEG-II algorithm, an operation having a high frequency is used, but the operation can be performed up to one clock with a special instruction word. That is,
Such application specific instructions (Application Specific Instr.)
MPEG with one processor core via auction)
Realization of real-time processing of the II audio encoder is enabled.
【0030】[0030]
【発明の効果】以上詳細に説明したように、本発明は、
MPEG−IIオーディオ符号化器を単一の応用特殊信号処理
プロセッサ(Application Specific Digital Signal Pr
ocessor )を利用して不規則的な演算を行い、その他の
規則反復的な演算であるFFT 、分析フィルタリング等の
演算はハードワイヤードロジックを採用した専用のプロ
セッサで具現し、各処理ブロック間のデータ入出力関係
を考慮したパイプライン構造を採用するとともに並列処
理を利用して、大規模な計算を要求するMPEG−IIオーデ
ィオコーディングアルゴリズムを実時間処理が可能とな
るように経済的な構造によって具現したものである。As described in detail above, the present invention provides
The MPEG-II audio encoder is connected to a single application specific digital signal processor (Application Specific Digital Signal Pr
ocessor) to perform irregular operations, and other operations such as FFT and analysis filtering, which are regular and iterative operations, are implemented by a dedicated processor employing hard-wired logic, and data between each processing block. Adopted a pipeline structure that considers the input / output relationship, and implemented an MPEG-II audio coding algorithm that requires large-scale computation using an economical structure that enables real-time processing using parallel processing. Things.
【0031】なお、上述した本発明の好ましい実施の形
態は例示の目的のため開示されたものであり、当業者で
あれば本発明の思想と範囲内で多様な修正、変更、付加
等を行うことが可能であり、このような修正変更等は特
許請求範囲に属するものと見なすべきものである。The above-described preferred embodiments of the present invention have been disclosed for the purpose of illustration, and those skilled in the art can make various modifications, changes, additions, etc. within the spirit and scope of the present invention. Such modifications and changes are to be considered as belonging to the appended claims.
【図1】図1は、本発明を適用するMPEG−IIオーディオ
符号化器の一実施の形態の全体構成を示すシステム図で
ある。FIG. 1 is a system diagram showing an overall configuration of an embodiment of an MPEG-II audio encoder to which the present invention is applied.
【図2】図2は、図1のMPEG−IIオーディオ符号化器に
対する動作タイミングを説明するための図である。FIG. 2 is a diagram for explaining operation timing for the MPEG-II audio encoder of FIG. 1;
【図3】図3は、MPEG−IIオーディオ符号化用DSP コア
のブロック図である。FIG. 3 is a block diagram of a DSP core for MPEG-II audio encoding.
1 FFT 部(FFT モジュール) 2 分析フィルタ部(分析フィルタモジュール) 3 制御部 4 プロセッサコア部(コアモジュール) 5 メモリ制御部 6 A/D 変換部(A/D 変換モジュール) 7 外部メモリ(SRAM) 8 先入先出バッファ部(FIFO) 9 制御部 10 プログラムシーケンサ制御部 11 プログラムシーケンサ 12 プログラムメモリ 13 データメモリ 14 算術論理演算部(演算処理部) 15 データアドレス発生部 16 プログラムメモリアドレスバス 17 プログラムメモリデータバス 18 データメモリアドレスバス 19 データメモリデータバス DESCRIPTION OF SYMBOLS 1 FFT part (FFT module) 2 Analysis filter part (analysis filter module) 3 Control part 4 Processor core part (core module) 5 Memory control part 6 A / D conversion part (A / D conversion module) 7 External memory (SRAM) 8 First-in first-out buffer unit (FIFO) 9 Control unit 10 Program sequencer control unit 11 Program sequencer 12 Program memory 13 Data memory 14 Arithmetic and logic operation unit (Operation processing unit) 15 Data address generation unit 16 Program memory address bus 17 Program memory data Bus 18 data memory address bus 19 data memory data bus
フロントページの続き (72)発明者 權 純弘 大韓民国ソウル特別市鍾路区世宗路100 番地 (56)参考文献 特開 平8−242174(JP,A) 特開 平9−134200(JP,A) (58)調査した分野(Int.Cl.7,DB名) H03M 7/30 Continuation of the front page (72) Inventor Sumihiro Gon 100 Sejong-ro, Jongno-gu, Seoul, Republic of Korea (56) References JP-A-8-242174 (JP, A) JP-A-9-134200 (JP, A) (58) ) Surveyed field (Int.Cl. 7 , DB name) H03M 7/30
Claims (5)
て、 多数のチャネルに入力されるオーディオデータ信号をA/
D 変換するA/D 変換部と、 前記A/D 変換部で変換されたオーディオデータを以後の
処理のためフレーム単位で貯蔵するメモリと、 前記メモリに貯蔵されたオーディオデータを入力されチ
ャネル別にFFT 演算(Fast Fourier Transform;高速フ
ーリエ変換)するFFT 部と、 前記メモリに貯蔵されたオーディオデータを入力され前
記FFT 演算と同時に分析フィルタリングを行い、処理結
果を再びメモリに出力する分析フィルタ部と、 前記FFT 部の処理結果から心理音響演算を行い、前記分
析フィルタ部の出力によりスケール係数を計算すると共
に、前記心理音響演算の結果を利用してビットを割当て
この割当の結果を最終出力ビット列とし、この最終出力
ビット列をパッキングして出力するコア部と、 前記コア部の最終出力ビット列を外部に出力する出力バ
ッファ部とを具備して成ることを特徴とするMPEG−IIオ
ーディオ符号化装置。In an MPEG-II audio encoding apparatus, audio data signals input to a plurality of channels are converted to A /
An A / D conversion unit for performing D conversion, a memory for storing the audio data converted by the A / D conversion unit on a frame basis for subsequent processing, and an FFT for each channel that receives the audio data stored in the memory and is inputted. An FFT unit for performing a calculation (Fast Fourier Transform), an analysis filter unit for receiving the audio data stored in the memory, performing analysis filtering simultaneously with the FFT calculation, and outputting the processing result to the memory again; A psychoacoustic operation is performed from the processing result of the FFT unit, a scale factor is calculated based on the output of the analysis filter unit, and bits are allocated using the result of the psychoacoustic operation, and the result of the allocation is used as a final output bit sequence. A core unit that packs and outputs the final output bit sequence, and an output buffer that outputs the final output bit sequence of the core unit to the outside. MPEG-II audio coding apparatus characterized by comprising; and a § portion.
ドワイヤードロジックに設計され、前記FFT 部にはオー
ディオデータ信号が7個のチャネルに入力されることを
特徴とする請求項1記載のMPEG−IIオーディオ符号化装
置。2. The MPEG-FFT unit according to claim 1, wherein the FFT unit and the analysis filter unit are designed as hard-wired logic, and the audio data signal is input to seven channels to the FFT unit. II audio encoding device.
それぞれ1つのFFT 部、分析フィルタ部及びコア部によ
り7チャネルの入力信号を処理するが、 前記FFT 部では第1チャネルのFFT 演算結果を出力し、
該FFT 演算結果を利用して前記コア部で第1チャネルに
対する心理音響演算を行うと同時に、前記FFT部で第2
チャネルに対するFFT 演算を行い、該第2チャネルのFF
T 演算結果を利用して前記コア部で第2チャネルに対す
る心理音響演算を行い、 このような演算を繰り返すことにより7チャネルの心理
音響演算が完了すると同時に前記分析フィルタ部による
7チャネルに対する分析フィルタリングが完了するよう
に、前記分析フィルタ部の処理は、前記FFT 部およびコ
ア部の処理と同時に並列に行うことを特徴とする請求項
1または2記載のMPEG−IIオーディオ符号化装置。3. The MPEG-II audio encoding device,
Each of the FFT units, the analysis filter unit, and the core unit processes the input signals of seven channels. The FFT unit outputs the result of the FFT operation of the first channel,
Using the result of the FFT operation, the core unit performs a psychoacoustic operation on the first channel, and simultaneously performs the second
Performs an FFT operation on the channel and calculates the FF of the second channel.
Using the result of the T operation, the core unit performs a psychoacoustic operation on the second channel, and by repeating such an operation, the psychoacoustic operation on the 7 channels is completed, and at the same time, the analysis filtering on the 7 channels by the analysis filter unit is performed. 3. The MPEG-II audio encoding apparatus according to claim 1, wherein the processing of the analysis filter unit is performed in parallel with the processing of the FFT unit and the core unit so as to be completed.
に、7チャネルに対する分析フィルタリングを1フレー
ムの時間内で完了させるために、FFT 部、分析フィルタ
部、コア部及びメモリを利用したパイプライン構造で処
理することを特徴とする請求項3記載のMPEG−IIオーデ
ィオ符号化装置。4. A pipeline structure using an FFT unit, an analysis filter unit, a core unit, and a memory, in order to complete the analysis filtering for the seven channels within one frame time simultaneously with the psychoacoustic calculation of the seven channels. 4. The MPEG-II audio encoding device according to claim 3, wherein the encoding is performed.
と、 データ入出力を制御するデータアドレス発生部と、 算術論理演算を行う算術論理演算部と、 プログラムメモリアドレスバス及びプログラムメモリデ
ータバスと、 データメモリアドレスバス及びデータメモリデータバス
と、 外部とのデータ入出力制御信号及び内部制御信号を発生
する制御部とを具備して成ることを特徴とする、請求項
3記載のMPEG−IIオーディオ符号化装置。5. The core unit includes a program memory for storing an internal control program, a data memory for storing data required for control, a program sequencer for controlling program fetch, and a data address for controlling data input / output. A generator, an arithmetic and logic unit for performing an arithmetic and logic operation, a program memory address bus and a program memory data bus, a data memory address bus and a data memory data bus, and an external data input / output control signal and an internal control signal. 4. The MPEG-II audio encoding device according to claim 3, further comprising a control unit for generating the audio data.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR97-1025 | 1997-01-15 | ||
KR1019970001025A KR100228546B1 (en) | 1997-01-15 | 1997-01-15 | MPEG-2 audio encoding device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH118559A JPH118559A (en) | 1999-01-12 |
JP3014356B2 true JP3014356B2 (en) | 2000-02-28 |
Family
ID=19494750
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10005940A Expired - Fee Related JP3014356B2 (en) | 1997-01-15 | 1998-01-14 | MPEG-II audio encoding device |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP3014356B2 (en) |
KR (1) | KR100228546B1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1076297A1 (en) * | 1999-08-09 | 2001-02-14 | Deutsche Thomson-Brandt Gmbh | Method for fast Fourier transformation of audio signals |
JP2001242894A (en) * | 1999-12-24 | 2001-09-07 | Matsushita Electric Ind Co Ltd | Signal processing device, signal processing method, and portable device |
JP2001320349A (en) | 2000-05-08 | 2001-11-16 | Mitsubishi Heavy Ind Ltd | Distributed communications equipment |
-
1997
- 1997-01-15 KR KR1019970001025A patent/KR100228546B1/en not_active Expired - Lifetime
-
1998
- 1998-01-14 JP JP10005940A patent/JP3014356B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
KR19980065852A (en) | 1998-10-15 |
JPH118559A (en) | 1999-01-12 |
KR100228546B1 (en) | 1999-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5893066A (en) | Fast requantization apparatus and method for MPEG audio decoding | |
US6944747B2 (en) | Apparatus and method for matrix data processing | |
JP4064989B2 (en) | Device for performing multiplication and addition of packed data | |
JP2007299279A (en) | Arithmetic device, processor system, and video processor | |
CN101025919B (en) | Synthetic sub-band filtering method for audio decoding and synthetic sub-band filter | |
JP3014356B2 (en) | MPEG-II audio encoding device | |
US5164724A (en) | Data format converters for use with digit-serial signals | |
JPH07253888A (en) | Data processing device | |
US5016011A (en) | Increased performance of digital integrated circuits by processing with multiple-bit-width digits | |
KR100760976B1 (en) | Computation Circuit and Method for Processing MPP-2 or MP-4AC Audio Decoding Algorithm in Programmable Processor | |
US20100100389A1 (en) | System for Signal Sample Rate Conversion | |
KR0147758B1 (en) | Synthesis filter of mpeg-2 audio decoder | |
Fältman et al. | A hardware implementation of an MP3 decoder | |
JP3065067B2 (en) | Equally spaced subband analysis filter and synthesis filter for MPEG audio multi-channel processing | |
JPH1091439A (en) | Processor | |
JP2000059232A (en) | Audio decoder | |
JP7575841B2 (en) | Reuse of adjacent SIMD units for fast and comprehensive results | |
JP3022186B2 (en) | Digital signal processor | |
JP2643279B2 (en) | Information processing device | |
JPH06110916A (en) | Signal processing circuit | |
KR100273768B1 (en) | The multi-channel subband synthesis filter for mpeg audio | |
JP2766191B2 (en) | Digital signal processing device and signal processing method | |
Oshana | Hardware Design Considerations | |
JP2686234B2 (en) | Digital signal processing device and signal processing method | |
JPH117440A (en) | Processor, compiler, product-sum operation method, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071217 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081217 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091217 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091217 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101217 Year of fee payment: 11 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111217 Year of fee payment: 12 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121217 Year of fee payment: 13 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121217 Year of fee payment: 13 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131217 Year of fee payment: 14 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |