JP4896449B2 - 音響信号処理方法、装置及びプログラム - Google Patents
音響信号処理方法、装置及びプログラム Download PDFInfo
- Publication number
- JP4896449B2 JP4896449B2 JP2005190272A JP2005190272A JP4896449B2 JP 4896449 B2 JP4896449 B2 JP 4896449B2 JP 2005190272 A JP2005190272 A JP 2005190272A JP 2005190272 A JP2005190272 A JP 2005190272A JP 4896449 B2 JP4896449 B2 JP 4896449B2
- Authority
- JP
- Japan
- Prior art keywords
- acoustic signal
- channels
- weighting
- signal processing
- input acoustic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/005—Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L2021/02082—Noise filtering the noise being echo, reverberation of the speech
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
- G10L2021/02161—Number of inputs available containing the signal or the noise to be suppressed
- G10L2021/02166—Microphone arrays; Beamforming
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Circuit For Audible Band Transducer (AREA)
Description
J.L. Flanagan, A.C. Surendran and E.E. Jan," Spatially Selective Sound Capture for Speech and Audio Processing", Speech Communication, 13, pp207-222,1993 A. V. Oppenheim and R.W. Schafer,"Digital Signal Processing", Prentice Hall, pp.519-524, 1975
図1に示されるように、本発明の第1の実施形態に従う音響信号処理装置は、複数(N)のマイクロホン101−1〜NからのNチャネルの受音信号(入力音響信号)のチャネル間特徴量を算出する特徴量算出部102、複数の重み係数(以下、重み係数係数ともいう)を格納した重み係数辞書103、チャネル間特徴量に基づき重み係数辞書103から重み係数を選択する選択部104、入力音響信号x1〜xNに選択された重み係数を重み付けする重み付け部105−1〜N、及び重み付け部105−1〜Nの出力信号を加算して目的音声信号が強調された出力音響信号を得る加算部106を有する。
wn={wn(0),wn(1),...,wn(L−1)}
n=1,2,..,N;ただし、Lはフィルタ長、
と表した場合、出力信号yは各チャネルの畳み込みの和として
到来時間差τを求める方法として例えば、CSP(cross-power-spectrum phase)法があげられる。CSP法ではN=2の場合、CSP係数を
図5は、本発明の第2の実施形態に従う音響信号処理装置を示している。本実施形態では、図1に示した第1の実施形態の音響処理装置に対してフーリエ変換部201−1〜Nとフーリエ逆変換部207が追加され、さらに図1の重み付け部105−1〜Nが周波数領域での乗算を行う重み付け部205−1〜Nに置き換わっている。ディジタル信号処理技術の分野において周知のように、時間領域での畳み込み演算は周波数領域での積で表される。本実施形態では、入力音響信号x1〜xNをフーリエ逆変換部201−1〜Nにおいて周波数領域に変換した後に重み付け加算を行う。この後、フーリエ逆変換部205においてフーリエ逆変換を行って時間領域の信号に戻して出力音響信号を生成する。本実施形態では、信号処理的には時間領域で処理する第1の実施形態と等価な処理を行っていることになる。数式(1)に対応する加算部106の出力信号は、畳み込みではなく積の形として、次式で表される。
(第3の実施形態)
本発明の第3の実施形態では、図6に示されるように第2の実施形態である図5の音響信号処理装置にクラスタリング部208とクラスタリング辞書209が追加されている。クラスタリング辞書209は、LBG法により得られたI個のセントロイドを格納している。
する(ステップS24)。クラスタリング辞書209は後述する作成手法により別途用意
する。
チャネル間特徴量は音源位置や分析フレーム毎にある分布を持ち、その分布は連続的であるため、重み係数を離散化する場合にはチャネル間特徴量と重み係数との対応付けを行う必要がある。この対応付けは様々な方法があるが、ここではチャネル間特徴量をLBGアルゴリズムにより予めクラスタリングし、チャネル間特徴量との距離が最小となるセントロイドを有するクラスタの番号に対して重み係数を対応付ける方法を述べる。すなわち、チャネル間特徴量の平均値をクラスタ毎に求め、各クラスタに1つの重み係数を対応させる。
本発明の第4の実施形態では、図8に示されるように話者601−1,601−2が居る室内602にマイクロホン101−1〜Nと第1乃至第3の実施形態のいずれかで説明した音響信号処理装置100が配置される。室内602は、例えば自動車の内部である。音響信号処理装置603は、目的音方向を話者601−1の方向に設定して、室内602と同一か比較的類似した環境で第3の実施形態で説明したような学習が行われることにより、重み係数辞書が作成されている。従って、話者601−1の発声は抑圧されずに、話者601−2の発声のみ抑圧される。
本発明の第5の実施形態によると、図9に示されるようにロボット頭部701の両側、すなわち耳の部分にマイクロホン101−1,101−2が配置され、第1乃至第3の実施形態のいずれかで説明した音響信号処理装置100に接続される。
図10は、本発明の第6の実施形態に従う音響信号処理装置であるエコーキャンセラを示している。本実施形態のエコーキャンセラは、自動車内のような室内801にマイクロホン101−1〜Nと、音響信号処理装置100、送信機802及びスピーカ803が配置される。電話や形態情報端末(PDA)やパーソナルコンピュータ(PC)などでハンズフリー通話を行う場合、スピーカ803から発する音のマイクロホン101−1〜Nに回り込む成分(エコー)が通話の相手先に送られる問題がある。これを防止するため、一般的にエコーキャンセラが用いられる。
102・・・チャネル間特徴量算出部;
103・・・重み係数辞書;
104・・・選択部;
105−1〜N・・・重み付け部;
106・・・加算器
204・・・選択部;
205−1〜N・・・フーリエ変換部;
207・・・フーリエ逆変換部;
208・・・クラスタリング部;
209・・・クラスタリング辞書
Claims (8)
- 複数チャネルの入力音響信号のチャネル間の差異を表す特徴量を求めるステップと、
前記特徴量と予め用意されたクラスタリング辞書内の複数の代表点との距離を求めるス
テップと、
前記距離が最小となる代表点を決定するステップと、
前記距離が最小となる代表点に対応付けられた複数チャネルの重み係数を予め用意した
重み係数辞書から選択するステップ、及び
複数チャネルの前記入力音響信号を複数チャネルの前記重み係数でそれぞれチャネル毎
に重み付けした後に、重み付け後の複数チャネルの前記入力音響信号を加算して出力音響
信号を生成するステップを具備する音響信号処理方法。 - 前記特徴量を求めるステップは、前記入力音響信号のチャネル間の到達時間差に基づく
特徴量を求める請求項1記載の音響信号処理方法。 - 前記特徴量を求めるステップは、前記入力音響信号のチャネル間の複素コヒーレンスを
求める請求項1記載の音響信号処理方法。 - 前記重み係数辞書は、スピーカからの信号を抑圧するように重み係数が定められている
請求項1記載の音響信号処理方法。 - 前記重み係数は時間領域のフィルタ係数であり、入力音響信号への重み付けは入力音響
信号と重み係数との畳み込みで表される請求項1記載の音響信号処理方法。 - 前記重み係数は周波数領域のフィルタ係数であり、前記入力音響信号への重み付けは入
力音響信号と重み係数との積で表される請求項1記載の音響信号処理方法。 - 複数チャネルの入力音響信号のチャネル間の差異を表す特徴量を求める手段と、
前記特徴量と予め用意されたクラスタリング辞書内の複数の代表点との距離を求める手
段と、
前記距離が最小となる代表点を決定する手段と、
前記距離が最小となる代表点に対応付けられた複数チャネルの重み係数を予め用意した
重み係数辞書から選択する手段、及び
複数チャネルの前記入力音響信号を複数チャネルの前記重み係数でそれぞれチャネル毎
に重み付けした後に、重み付け後の複数チャネルの前記入力音響信号を加算して出力音響
信号を生成する手段を具備する音響信号処理装置。 - 複数チャネルの入力音響信号のチャネル間の差異を表す特徴量を求める処理と、
前記特徴量と予め用意されたクラスタリング辞書内の複数の代表点との距離を求める処
理と、
前記距離が最小となる代表点を決定する処理と、
前記距離が最小となる代表点に対応付けられた複数チャネルの重み係数を予め用意した
重み係数辞書から選択する処理、及び
複数チャネルの前記入力音響信号を複数チャネルの前記重み係数でそれぞれチャネル毎
に重み付けした後に、重み付け後の複数チャネルの前記入力音響信号を加算して出力音響
信号を生成する処理をコンピュータに行わせるための音響信号処理プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005190272A JP4896449B2 (ja) | 2005-06-29 | 2005-06-29 | 音響信号処理方法、装置及びプログラム |
US11/476,024 US7995767B2 (en) | 2005-06-29 | 2006-06-28 | Sound signal processing method and apparatus |
CNA2006100942963A CN1893461A (zh) | 2005-06-29 | 2006-06-29 | 声音信号处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005190272A JP4896449B2 (ja) | 2005-06-29 | 2005-06-29 | 音響信号処理方法、装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007010897A JP2007010897A (ja) | 2007-01-18 |
JP4896449B2 true JP4896449B2 (ja) | 2012-03-14 |
Family
ID=37590788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005190272A Expired - Fee Related JP4896449B2 (ja) | 2005-06-29 | 2005-06-29 | 音響信号処理方法、装置及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7995767B2 (ja) |
JP (1) | JP4896449B2 (ja) |
CN (1) | CN1893461A (ja) |
Families Citing this family (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5070873B2 (ja) * | 2006-08-09 | 2012-11-14 | 富士通株式会社 | 音源方向推定装置、音源方向推定方法、及びコンピュータプログラム |
US8214219B2 (en) * | 2006-09-15 | 2012-07-03 | Volkswagen Of America, Inc. | Speech communications system for a vehicle and method of operating a speech communications system for a vehicle |
CN101030372B (zh) * | 2007-02-01 | 2011-11-30 | 北京中星微电子有限公司 | 一种语音信号处理系统 |
JP2008246037A (ja) * | 2007-03-30 | 2008-10-16 | Railway Technical Res Inst | 発話音響環境対応型発話音声分析システム |
JP4455614B2 (ja) | 2007-06-13 | 2010-04-21 | 株式会社東芝 | 音響信号処理方法及び装置 |
JP4469882B2 (ja) * | 2007-08-16 | 2010-06-02 | 株式会社東芝 | 音響信号処理方法及び装置 |
JP4907494B2 (ja) * | 2007-11-06 | 2012-03-28 | 日本電信電話株式会社 | 位相自動補正機能付き複数チャンネル音声転送システム、方法、プログラム、および位相ずれ自動調整方法 |
US8249867B2 (en) * | 2007-12-11 | 2012-08-21 | Electronics And Telecommunications Research Institute | Microphone array based speech recognition system and target speech extracting method of the system |
US8223981B2 (en) * | 2008-05-23 | 2012-07-17 | Analog Devices, Inc. | Wide dynamic range microphone |
US8724829B2 (en) | 2008-10-24 | 2014-05-13 | Qualcomm Incorporated | Systems, methods, apparatus, and computer-readable media for coherence detection |
JP5386936B2 (ja) * | 2008-11-05 | 2014-01-15 | ヤマハ株式会社 | 放収音装置 |
JP5277887B2 (ja) * | 2008-11-14 | 2013-08-28 | ヤマハ株式会社 | 信号処理装置およびプログラム |
EP2196988B1 (en) * | 2008-12-12 | 2012-09-05 | Nuance Communications, Inc. | Determination of the coherence of audio signals |
US8208649B2 (en) * | 2009-04-28 | 2012-06-26 | Hewlett-Packard Development Company, L.P. | Methods and systems for robust approximations of impulse responses in multichannel audio-communication systems |
US8620672B2 (en) | 2009-06-09 | 2013-12-31 | Qualcomm Incorporated | Systems, methods, apparatus, and computer-readable media for phase-based processing of multichannel signal |
US8433564B2 (en) * | 2009-07-02 | 2013-04-30 | Alon Konchitsky | Method for wind noise reduction |
DE102009052992B3 (de) * | 2009-11-12 | 2011-03-17 | Institut für Rundfunktechnik GmbH | Verfahren zum Abmischen von Mikrofonsignalen einer Tonaufnahme mit mehreren Mikrofonen |
JP4906908B2 (ja) * | 2009-11-30 | 2012-03-28 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 目的音声抽出方法、目的音声抽出装置、及び目的音声抽出プログラム |
US20110288860A1 (en) * | 2010-05-20 | 2011-11-24 | Qualcomm Incorporated | Systems, methods, apparatus, and computer-readable media for processing of speech signals using head-mounted microphone pair |
JP5903758B2 (ja) * | 2010-09-08 | 2016-04-13 | ソニー株式会社 | 信号処理装置および方法、プログラム、並びにデータ記録媒体 |
KR101527441B1 (ko) * | 2010-10-19 | 2015-06-11 | 한국전자통신연구원 | 음원 분리 장치 및 그 방법 |
JP4945675B2 (ja) | 2010-11-12 | 2012-06-06 | 株式会社東芝 | 音響信号処理装置、テレビジョン装置及びプログラム |
JP2012149906A (ja) * | 2011-01-17 | 2012-08-09 | Mitsubishi Electric Corp | 音源位置推定装置、音源位置推定方法および音源位置推定プログラム |
US9530435B2 (en) * | 2011-02-01 | 2016-12-27 | Nec Corporation | Voiced sound interval classification device, voiced sound interval classification method and voiced sound interval classification program |
JP5649488B2 (ja) * | 2011-03-11 | 2015-01-07 | 株式会社東芝 | 音声判別装置、音声判別方法および音声判別プログラム |
JP5865050B2 (ja) * | 2011-12-15 | 2016-02-17 | キヤノン株式会社 | 被検体情報取得装置 |
JP6221257B2 (ja) * | 2013-02-26 | 2017-11-01 | 沖電気工業株式会社 | 信号処理装置、方法及びプログラム |
JP6221258B2 (ja) * | 2013-02-26 | 2017-11-01 | 沖電気工業株式会社 | 信号処理装置、方法及びプログラム |
KR102109381B1 (ko) * | 2013-07-11 | 2020-05-12 | 삼성전자주식회사 | 전기기기 및 그 제어 방법 |
EP3133833B1 (en) * | 2014-04-16 | 2020-02-26 | Sony Corporation | Sound field reproduction apparatus, method and program |
US9838783B2 (en) * | 2015-10-22 | 2017-12-05 | Cirrus Logic, Inc. | Adaptive phase-distortionless magnitude response equalization (MRE) for beamforming applications |
DE102015222105A1 (de) * | 2015-11-10 | 2017-05-11 | Volkswagen Aktiengesellschaft | Audiosignalverarbeitung in einem Fahrzeug |
JP6703460B2 (ja) * | 2016-08-25 | 2020-06-03 | 本田技研工業株式会社 | 音声処理装置、音声処理方法及び音声処理プログラム |
JP6567479B2 (ja) * | 2016-08-31 | 2019-08-28 | 株式会社東芝 | 信号処理装置、信号処理方法およびプログラム |
US10334360B2 (en) * | 2017-06-12 | 2019-06-25 | Revolabs, Inc | Method for accurately calculating the direction of arrival of sound at a microphone array |
US10089998B1 (en) * | 2018-01-15 | 2018-10-02 | Advanced Micro Devices, Inc. | Method and apparatus for processing audio signals in a multi-microphone system |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0573090A (ja) * | 1991-09-18 | 1993-03-26 | Fujitsu Ltd | 音声認識方法 |
JP3714706B2 (ja) * | 1995-02-17 | 2005-11-09 | 株式会社竹中工務店 | 音抽出装置 |
JPH11202894A (ja) * | 1998-01-20 | 1999-07-30 | Mitsubishi Electric Corp | 雑音除去装置 |
US6553122B1 (en) * | 1998-03-05 | 2003-04-22 | Nippon Telegraph And Telephone Corporation | Method and apparatus for multi-channel acoustic echo cancellation and recording medium with the method recorded thereon |
JP3933860B2 (ja) * | 2000-02-28 | 2007-06-20 | 三菱電機株式会社 | 音声認識装置 |
DE60010457T2 (de) | 2000-09-02 | 2006-03-02 | Nokia Corp. | Vorrichtung und Verfahren zur Verarbeitung eines Signales emittiert von einer Zielsignalquelle in einer geräuschvollen Umgebung |
JP3716918B2 (ja) * | 2001-09-06 | 2005-11-16 | 日本電信電話株式会社 | 収音装置、方法及びプログラム、記録媒体 |
JP2003140686A (ja) * | 2001-10-31 | 2003-05-16 | Nagoya Industrial Science Research Inst | 音声入力の雑音抑制方法、雑音抑制制御プログラム、記録媒体及び音声信号入力装置 |
US7299190B2 (en) * | 2002-09-04 | 2007-11-20 | Microsoft Corporation | Quantization and inverse quantization for audio |
JP4247037B2 (ja) * | 2003-01-29 | 2009-04-02 | 株式会社東芝 | 音声信号処理方法と装置及びプログラム |
US7391870B2 (en) * | 2004-07-09 | 2008-06-24 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E V | Apparatus and method for generating a multi-channel output signal |
JP4892184B2 (ja) * | 2004-10-14 | 2012-03-07 | パナソニック株式会社 | 音響信号符号化装置及び音響信号復号装置 |
US7693706B2 (en) * | 2005-07-29 | 2010-04-06 | Lg Electronics Inc. | Method for generating encoded audio signal and method for processing audio signal |
-
2005
- 2005-06-29 JP JP2005190272A patent/JP4896449B2/ja not_active Expired - Fee Related
-
2006
- 2006-06-28 US US11/476,024 patent/US7995767B2/en not_active Expired - Fee Related
- 2006-06-29 CN CNA2006100942963A patent/CN1893461A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2007010897A (ja) | 2007-01-18 |
US7995767B2 (en) | 2011-08-09 |
CN1893461A (zh) | 2007-01-10 |
US20070005350A1 (en) | 2007-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4896449B2 (ja) | 音響信号処理方法、装置及びプログラム | |
JP4455614B2 (ja) | 音響信号処理方法及び装置 | |
JP5124014B2 (ja) | 信号強調装置、その方法、プログラム及び記録媒体 | |
EP2063419B1 (en) | Speaker localization | |
JP5738020B2 (ja) | 音声認識装置及び音声認識方法 | |
Perotin et al. | Multichannel speech separation with recurrent neural networks from high-order ambisonics recordings | |
US8392184B2 (en) | Filtering of beamformed speech signals | |
JP7041156B6 (ja) | ビームフォーミングを使用するオーディオキャプチャのための方法及び装置 | |
US8693287B2 (en) | Sound direction estimation apparatus and sound direction estimation method | |
US20170140771A1 (en) | Information processing apparatus, information processing method, and computer program product | |
JP6169910B2 (ja) | 音声処理装置 | |
JP6644959B1 (ja) | ビームフォーミングを使用するオーディオキャプチャ | |
Xiao et al. | The NTU-ADSC systems for reverberation challenge 2014 | |
JP2005249816A (ja) | 信号強調装置、方法及びプログラム、並びに音声認識装置、方法及びプログラム | |
JP5841986B2 (ja) | 音声処理装置、音声処理方法、及び音声処理プログラム | |
TW201222533A (en) | Sound source separator device, sound source separator method, and program | |
CN106663445A (zh) | 声音处理装置、声音处理方法及程序 | |
Niwa et al. | Post-filter design for speech enhancement in various noisy environments | |
US8639499B2 (en) | Formant aided noise cancellation using multiple microphones | |
JP4457221B2 (ja) | 音源分離方法およびそのシステム、並びに音声認識方法およびそのシステム | |
Song et al. | An integrated multi-channel approach for joint noise reduction and dereverberation | |
CN113782046B (zh) | 一种用于远距离语音识别的麦克风阵列拾音方法及系统 | |
Kawase et al. | Automatic parameter switching of noise reduction for speech recognition | |
CN112017684A (zh) | 一种基于麦克风阵列的密闭空间混响消除方法 | |
Prasad et al. | Two microphone technique to improve the speech intelligibility under noisy environment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061024 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090804 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091005 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100413 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100713 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20100723 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20100813 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111107 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20111125 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111221 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150106 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |