JPH1049148A - Frequency detecting device - Google Patents
Frequency detecting deviceInfo
- Publication number
- JPH1049148A JPH1049148A JP8200539A JP20053996A JPH1049148A JP H1049148 A JPH1049148 A JP H1049148A JP 8200539 A JP8200539 A JP 8200539A JP 20053996 A JP20053996 A JP 20053996A JP H1049148 A JPH1049148 A JP H1049148A
- Authority
- JP
- Japan
- Prior art keywords
- period
- data
- signal
- frequency
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005236 sound signal Effects 0.000 claims abstract description 40
- 238000005070 sampling Methods 0.000 claims abstract description 25
- 238000012935 Averaging Methods 0.000 claims description 20
- 238000001514 detection method Methods 0.000 claims description 15
- 230000001788 irregular Effects 0.000 abstract 1
- 238000005259 measurement Methods 0.000 abstract 1
- 230000006870 function Effects 0.000 description 36
- 238000012545 processing Methods 0.000 description 26
- 238000000034 method Methods 0.000 description 21
- 230000000694 effects Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 15
- 238000012937 correction Methods 0.000 description 12
- 230000000737 periodic effect Effects 0.000 description 5
- ATJFFYVFTNAWJD-UHFFFAOYSA-N Tin Chemical compound [Sn] ATJFFYVFTNAWJD-UHFFFAOYSA-N 0.000 description 4
- 241001342895 Chorus Species 0.000 description 3
- HAORKNGNJCEJBX-UHFFFAOYSA-N cyprodinil Chemical compound N=1C(C)=CC(C2CC2)=NC=1NC1=CC=CC=C1 HAORKNGNJCEJBX-UHFFFAOYSA-N 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 101150052726 DSP2 gene Proteins 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
Landscapes
- Reverberation, Karaoke And Other Acoustics (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
Description
【0001】[0001]
【産業上の利用分野】この発明は、入力された音声信号
の周波数(周期)を検出する周波数検出装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a frequency detector for detecting a frequency (period) of an input audio signal.
【0002】[0002]
【従来の技術】現在実用化されているカラオケ装置など
では、歌唱を盛り上げるため、または、歌唱を上手く聞
かせるために歌唱者の歌唱音声信号に対して3度や5度
上のハーモニー音声信号を生成して出力する機能を備え
たものがある。このハーモニー音声信号の付加機能にお
いては、歌唱者の歌唱音声とよく似た音色で且つ同じテ
ンポのハーモニー音声を作るため、マイクから入力され
た歌唱音声信号を周波数シフトしてハーモニー音声信号
を形成するものが一般的である。2. Description of the Related Art In a karaoke apparatus or the like that is currently in practical use, a harmony voice signal three or five times higher than a singer's singing voice signal is used to excite the singing or to make the singing sound better. Some have a function of generating and outputting. In the harmony voice signal addition function, a harmony voice signal is formed by frequency-shifting a singing voice signal input from a microphone in order to generate a harmony voice having a tone similar to the singing voice of the singer and having the same tempo. Things are common.
【0003】このハーモニー音声信号の付加機能を実現
するためには、歌唱音声信号の周波数(周期)を検出
し、この周波数をハーモニー旋律の周波数にシフトする
という作業が必要である。歌唱音声信号の周波数を検出
する方式としては、図11に示す手法が従来より用いら
れていた。この方式は、入力信号が0レベル線を通過し
て負の値から正の値に反転するタイミングをゼロクロス
タイミングとして監視し、直前のゼロクロスタイミング
から今回のゼロクロスタイミングまでの間隔(ゼロクロ
ス間隔)を1周期として測定する方式である。実際に
は、ディジタル化処理によりサンプリング周期で離散化
された信号が入力されるため、各サンプリングタイミン
グに得られるサンプリング値を監視し、このサンプリン
グ値が負の値から正の値に転じたときをゼロクロスタイ
ミングとしてサンプリング周期単位(整数値)で計測し
ている。In order to realize the function of adding the harmony voice signal, it is necessary to detect the frequency (period) of the singing voice signal and shift this frequency to the frequency of the harmony melody. As a method for detecting the frequency of a singing voice signal, a method shown in FIG. 11 has been conventionally used. In this method, a timing at which an input signal passes through a 0 level line and is inverted from a negative value to a positive value is monitored as a zero cross timing, and an interval (a zero cross interval) from the immediately preceding zero cross timing to the current zero cross timing is set to one. This is a method of measuring as a cycle. Actually, since a signal discretized at the sampling period by the digitization process is input, the sampling value obtained at each sampling timing is monitored, and when this sampling value turns from a negative value to a positive value. The zero-cross timing is measured in sampling period units (integer values).
【0004】[0004]
【発明が解決しようとする課題】しかし、この周波数検
出方式では、精度がサンプリング周期によって制限され
てしまうという問題点がある。すなわち、図11におい
てサンプリング周波数をFs Hz ,サンプリング周期T
sはその逆数でTs=1/Fs sec とし、入力信号の
真の周期をTin sec とすると、真のゼロクロス間隔P
0 samples は、 P0 =Tin/Ts である。しかし、実際に計測される値Pはサンプリング
周波数のカウント値(整数値)であり、 P1 =(Tin/Tsの小数点以下を切り捨てた値) または P2 =(Tin/Tsの小数点以下を切り上げた値)=P
1 +1 になる。However, this frequency detection method has a problem that the accuracy is limited by the sampling period. That is, in FIG. 11, the sampling frequency is set to Fs Hz and the sampling period T
s is the reciprocal of Ts = 1 / Fs sec, and if the true period of the input signal is Tin sec, the true zero-cross interval P
0 samples is P 0 = Tin / Ts. However, the value P actually measured is the count value (integer value) of the sampling frequency, and P 1 = (value obtained by rounding down the decimal point of Tin / Ts) or P 2 = (rounded up the decimal point of Tin / Ts) Value) = P
It becomes 1 +1.
【0005】ゼロクロスが計測される毎に、P1 または
P2 が得られるが、この検出される周波数(周期)には
P2 /P1 =1+1/P1 の変動が生じる。例えば、 Fs=44.1kHz で、信号周波数が500 Hz の場合は、 P0 =88.2 P1 =88 P2 =89 であり、検出される周波数の変動は、周波数比で89/
88、セントに換算すると19.56 セント という
大きな値になる。これをもとにハーモニー音声信号を生
成すると、ハーモニー音声信号のピッチが19.56セ
ントもずれるため主旋律とうなりを生じ、このために音
質が劣化する。入力される音声信号の周波数が高いほど
P1 が小さく、このピッチ変動1+1/P1 が大きくな
る。[0005] Each time the zero-cross is measured, but P 1 or P 2 is obtained, the variation of P 2 / P 1 = 1 + 1 / P 1 occurs in the detected the frequency (period). For example, when Fs = 44.1 kHz and the signal frequency is 500 Hz, P 0 = 88.2 P 1 = 88 P 2 = 89, and the fluctuation of the detected frequency is 89 /
When converted to 88 cents, this is a large value of 19.56 cents. When a harmony sound signal is generated based on this, the pitch of the harmony sound signal deviates by 19.56 cents, thereby causing a main melody and a beat, thereby deteriorating the sound quality. The higher the frequency of the audio signal input P 1 is small, the pitch fluctuation 1 + 1 / P 1 increases.
【0006】この発明は、サンプリングクロックのカウ
ント値で音声信号の周期をカウントしつつ、その精度を
向上した周波数検出装置を提供することを目的とする。SUMMARY OF THE INVENTION It is an object of the present invention to provide a frequency detecting device which has an improved accuracy while counting the period of an audio signal with a count value of a sampling clock.
【0007】[0007]
【課題を解決するための手段】この出願の請求項1の発
明は、所定のサンプリングクロックでディジタル化され
た音声信号を入力し、該音声信号の周期を前記サンプリ
ングクロックのカウント値で測定するカウント手段を備
えた周波数検出装置において、所定期間内に前記カウン
ト手段を繰り返し実行し、これによって得られた複数の
カウント値を加重平均することによって前記音声信号の
周波数を確定する加重平均手段を備えたことを特徴とす
る。According to a first aspect of the present invention, there is provided a counter for inputting an audio signal digitized by a predetermined sampling clock and measuring a period of the audio signal by a count value of the sampling clock. In the frequency detecting device provided with the means, the counting means is repeatedly executed within a predetermined period, and the weighted averaging means for determining the frequency of the audio signal by weighted averaging a plurality of count values obtained thereby. It is characterized by the following.
【0008】この出願の請求項2の発明は、前記所定期
間内に音声信号の入力がない期間があったとき、前記加
重平均手段を無効にし、前記カウント手段の最新のカウ
ント値から周波数を確定する手段を備えたことを特徴と
する。According to a second aspect of the present invention, when there is a period during which no audio signal is input within the predetermined period, the weighted averaging means is invalidated, and the frequency is determined from the latest count value of the counting means. Means for performing the operation.
【0009】この出願の請求項3の発明は、前記加重平
均手段を、前記所定期間内に音声信号の入力がない期間
があったとき、音声信号が入力された期間のみで加重平
均を行う手段としたことを特徴とする。According to a third aspect of the present invention, the weighted averaging means performs weighted averaging only during a period during which the audio signal is input when there is a period during which the audio signal is not input within the predetermined period. It is characterized by having.
【0010】この出願の請求項4の発明は、前記加重平
均手段は、前記複数のカウント値の変動が小さいとき古
いカウント値から新しいカウント値への重み付け係数の
変化率を小さくし、前記複数のカウント値の変動が小さ
いとき前記重み付け係数の変化率を大きくする手段を含
むことを特徴とする。According to a fourth aspect of the present invention, the weighted averaging means reduces a rate of change of a weighting coefficient from an old count value to a new count value when a variation in the plurality of count values is small, and When the fluctuation of the count value is small, a means for increasing a change rate of the weighting coefficient is included.
【0011】[0011]
【発明の実施の形態】図面を参照してこの発明の実施形
態である周波数検出装置を備えたカラオケ装置について
説明する。このカラオケ装置は、カラオケ歌唱者の歌唱
音声信号に対するハーモニー音声信号を付加するハーモ
ニー付加機能を備えている。このハーモニー付加機能
は、マイク27から入力されるカラオケ歌唱者の歌唱音
声信号をA/Dコンバータ29でディジタル変換し、音
声処理用DSP30でこの周波数を検出して、主旋律
(もとの歌唱音声信号)から3度または5度の音程のハ
ーモニー音声信号に変換する。そして、これをもとの歌
唱音声信号と一緒に出力することによって、ハーモニー
が付加されたカラオケ歌唱を行うことを可能にした機能
である。DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS A karaoke apparatus having a frequency detecting apparatus according to an embodiment of the present invention will be described with reference to the drawings. This karaoke apparatus has a harmony addition function of adding a harmony voice signal to a singing voice signal of a karaoke singer. The harmony adding function converts the singing voice signal of the karaoke singer input from the microphone 27 into a digital signal by the A / D converter 29, detects this frequency by the voice processing DSP 30, and outputs the main melody (original singing voice signal). ) Is converted to a harmony voice signal having a pitch of 3rd or 5th. Then, this function is output together with the original singing voice signal, thereby making it possible to perform karaoke singing with harmony.
【0012】図1は同カラオケ装置のブロック図であ
る。装置全体の動作を制御するCPU10には、バスを
介してROM11,RAM12,ハードディスク記憶装
置(HDD)17,ISDNコントローラ16,リモコ
ン受信機13,表示パネル14,パネルスイッチ15,
音源装置18,音声データ処理部19,効果用DSP2
0,文字表示部23,LDチェンジャ24,表示制御部
25および音声処理用DSP30が接続されている。FIG. 1 is a block diagram of the karaoke apparatus. The CPU 10 for controlling the operation of the entire apparatus includes a ROM 11, a RAM 12, a hard disk storage (HDD) 17, an ISDN controller 16, a remote control receiver 13, a display panel 14, a panel switch 15,
Sound source device 18, audio data processing unit 19, effect DSP2
0, a character display unit 23, an LD changer 24, a display control unit 25, and a voice processing DSP 30.
【0013】ROM11には、システムプログラム,ア
プリケーションプログラム,ローダおよびフォントデー
タが記憶されている。システムプログラムは、この装置
の基本動作や周辺機器とのデータ送受を制御するプログ
ラムである。アプリケーションプログラムは周辺機器制
御プログラム,シーケンスプログラムなどである。カラ
オケ演奏時にはシーケンスプログラムがCPU10によ
って実行され、楽曲データに基づいた楽音の発生,映像
の再生が行われる。ローダは、ホストステーションから
楽曲データをダウンロードするためのプログラムであ
る。フォントデータは、歌詞や曲名などを表示するため
のものであり、明朝体やゴジック体などの複数種類の文
字種のフォントが記憶されている。また、RAM12に
は、ワークエリアが設定される。HDD17には楽曲デ
ータファイルが設定される。The ROM 11 stores a system program, an application program, a loader, and font data. The system program is a program that controls the basic operation of the device and data transmission / reception with peripheral devices. The application program is a peripheral device control program, a sequence program, or the like. During a karaoke performance, a sequence program is executed by the CPU 10 to generate musical tones and reproduce images based on music data. The loader is a program for downloading music data from the host station. The font data is for displaying lyrics, song titles, and the like, and stores fonts of a plurality of character types, such as Mincho and Gothic. In the RAM 12, a work area is set. A music data file is set in the HDD 17.
【0014】ISDNコントローラ16は、ISDN回
線を介してホストステーションと交信するためのコント
ローラである。ISDNコントローラ16はホストステ
ーションから楽曲データなどをダウンロードする。ま
た、ISDNコントローラ16はDMA回路を内蔵して
おり、ダウンロードされた楽曲データやアプリケーショ
ンプログラムをCPU10を介さずに直接HDD17に
書き込む。The ISDN controller 16 is a controller for communicating with a host station via an ISDN line. The ISDN controller 16 downloads music data and the like from the host station. Further, the ISDN controller 16 has a built-in DMA circuit, and writes the downloaded music data and application program directly to the HDD 17 without passing through the CPU 10.
【0015】リモコン受信機13はリモコン31から送
られてくる赤外線信号を受信してデータを復元する。リ
モコン31は選曲スイッチなどのコマンドスイッチやテ
ンキースイッチなどを備えており、利用者がこれらのス
イッチを操作するとその操作に応じたコードで変調され
た赤外線信号を送信する。表示パネル14はこのカラオ
ケ装置の前面に設けられており、現在演奏中の曲コード
や予約曲数などを表示するものである。パネルスイッチ
15はカラオケ装置の前面操作部に設けられており、曲
コード入力スイッチやキーチェンジスイッチなどを含ん
でいる。The remote control receiver 13 receives the infrared signal sent from the remote control 31 and restores the data. The remote controller 31 includes a command switch such as a music selection switch, a numeric key switch, and the like. When the user operates these switches, an infrared signal modulated with a code corresponding to the operation is transmitted. The display panel 14 is provided on the front of the karaoke apparatus, and displays the currently playing music code and the number of reserved music. The panel switch 15 is provided on a front operation unit of the karaoke apparatus, and includes a music code input switch, a key change switch, and the like.
【0016】音源装置18は、カラオケ演奏時にCPU
10から入力されるイベントデータに基づいて楽音信号
を形成する。イベントデータは楽曲データの楽音トラッ
クに記憶されている。楽音トラックは図7に示すように
複数設定されているため、イベントデータも複数系統が
並行して入力される。音源装置18は、これらのデータ
を受信して複数の楽音信号を同時に形成する。音声デー
タ処理部19は、楽曲データに含まれるADPCMデー
タである音声データに基づき、指定された長さ,指定さ
れた音高の音声信号を形成する。音声データは、バック
コーラスや模範歌唱音などの音源装置18で電子的に発
生しにくい信号波形をそのままディジタル化して記憶し
たものである。The sound source device 18 has a CPU for performing karaoke.
A tone signal is formed on the basis of the event data input from. The event data is stored in a music track of the music data. Since a plurality of tone tracks are set as shown in FIG. 7, a plurality of event data are also input in parallel. The sound source device 18 receives these data and simultaneously forms a plurality of tone signals. The audio data processing unit 19 forms an audio signal having a specified length and a specified pitch based on audio data that is ADPCM data included in the music data. The audio data is obtained by directly digitizing and storing a signal waveform, such as a back chorus or a model singing sound, which is hardly generated electronically by the sound source device 18.
【0017】一方、歌唱用のマイク27から入力された
歌唱の音声信号はプリアンプ28で増幅されA/Dコン
バータ29でディジタル信号に変換されたのち効果用D
SP20および音声処理用DSP30に入力される。音
声処理用DSP30には、このほかCPU10からハー
モニー情報が入力される。音声処理用DSP30は、歌
唱音声信号の周波数(周期)を検出して波形要素データ
を切り出し、この波形要素データをハーモニー情報の周
波数で合成することによってハーモニー音声信号を形成
する。このハーモニー音声信号は効果用DSP20に出
力される。On the other hand, a singing voice signal input from a singing microphone 27 is amplified by a preamplifier 28 and converted to a digital signal by an A / D converter 29, and then converted to a digital signal for effect.
It is input to the SP 20 and the DSP 30 for audio processing. The harmony information is also input from the CPU 10 to the voice processing DSP 30. The voice processing DSP 30 detects the frequency (period) of the singing voice signal, cuts out the waveform element data, and synthesizes the waveform element data with the frequency of the harmony information to form a harmony voice signal. This harmony audio signal is output to the effect DSP 20.
【0018】効果用DSP20には、音源装置18が形
成した楽音信号、音声データ処理部19が形成した音声
信号、A/Dコンバータがディジタル変換した歌唱音声
信号および音声処理用DSP30が形成したハーモニー
音声信号が入力される。効果用DSP20は、これら入
力された音声信号や楽音信号に対してリバーブやエコー
などの効果を付与する。効果用DSP20が付与する効
果の種類や程度は、楽曲データの効果トラックのイベン
トデータ(DSPコントロールデータ)に基づいて制御
される。DSPコントロールデータはDSPコントロー
ル用シーケンスプログラムに基づき、CPU10が所定
のタイミングに効果用DSP20に入力する。効果が付
与された楽音信号,音声信号はD/Aコンバータ21で
アナログ信号に変換されたのちアンプ・スピーカ22に
出力される。アンプ・スピーカ22はこの信号を増幅し
たのち放音する。The effect DSP 20 includes a tone signal formed by the tone generator 18, a sound signal formed by the sound data processing section 19, a singing sound signal converted by the A / D converter into a digital signal, and a harmony sound formed by the sound processing DSP 30. A signal is input. The effect DSP 20 gives effects such as reverb and echo to these input audio signals and tone signals. The type and degree of the effect provided by the effect DSP 20 are controlled based on the event data (DSP control data) of the effect track of the music data. The DSP control data is input to the effect DSP 20 at a predetermined timing by the CPU 10 based on the DSP control sequence program. The tone signal and audio signal to which the effect has been added are converted into analog signals by the D / A converter 21 and then output to the amplifier / speaker 22. The amplifier / speaker 22 amplifies this signal and emits sound.
【0019】文字表示部23は入力される文字データに
基づいて、曲名や歌詞などの文字パターンを生成する。
また、LDチェンジャ24は入力された映像選択データ
(チャプタナンバ)に基づき、対応するLDの背景映像
を再生する。映像選択データは当該カラオケ曲のジャン
ルデータなどに基づいて決定される。ジャンルデータは
楽曲データのヘッダに書き込まれており、カラオケ演奏
スタート時にCPU10によって読み出される。CPU
10はジャンルデータに基づいてどの背景映像を再生す
るかを決定し、その背景映像を指定する映像選択データ
をLDチェンジャ24に対して出力する。LDチェンジ
ャ24には、5枚(120シーン)程度のレーザディス
クが内蔵されており約120シーンの背景映像を再生す
ることができる。映像選択データによってこのなかから
1つの背景映像が選択され、映像データとして出力され
る。文字パターン,映像データは表示制御部25に入力
される。表示制御部25ではこれらのデータをスーパー
インポーズで合成してモニタ26に表示する。The character display unit 23 generates character patterns such as song titles and lyrics based on the input character data.
The LD changer 24 reproduces the background video of the corresponding LD based on the input video selection data (chapter number). The video selection data is determined based on the genre data of the karaoke song or the like. The genre data is written in the header of the music data, and is read by the CPU 10 when the karaoke performance starts. CPU
10 determines which background video is to be reproduced based on the genre data, and outputs video selection data specifying the background video to the LD changer 24. The LD changer 24 contains about five (120 scenes) laser disks and can reproduce about 120 scenes of background video. One background video is selected from among them according to the video selection data, and is output as video data. The character pattern and the video data are input to the display control unit 25. The display control unit 25 superimposes these data in superimposition and displays them on the monitor 26.
【0020】ここで、図6〜図8を参照して同カラオケ
装置においてカラオケ演奏に用いられる楽曲データの構
成について説明する。図6は楽曲データの構成を示す図
である。また、図7,図8は楽曲データの詳細な構成を
示す図である。Here, the configuration of music data used for karaoke performance in the karaoke apparatus will be described with reference to FIGS. FIG. 6 is a diagram showing a configuration of music data. FIGS. 7 and 8 are diagrams showing a detailed configuration of music data.
【0021】図6において、1つの楽曲データは、ヘッ
ダ,楽音トラック,主旋律トラック,ハーモニートラッ
ク,歌詞トラック,音声トラック,効果トラックおよび
音声データ部からなっている。In FIG. 6, one piece of music data includes a header, a musical tone track, a main melody track, a harmony track, a lyrics track, an audio track, an effect track, and an audio data section.
【0022】ヘッダは、この楽曲データに関する種々の
データが書き込まれる部分であり、曲名,ジャンル,発
売日,曲の演奏時間(長さ)などのデータが書き込まれ
ている。CPU10は、メインシーケンスプログラムの
実行時にジャンルデータに基づいてモニタ26に表示す
る背景映像を決定し、LDチェンジャ24に対してその
映像のチャプタナンバを送信する。背景映像の決定方式
は、冬をテーマにした演歌の場合には雪国の映像を選択
し、ポップスの場合には外国の映像を選択するなどであ
る。The header is a portion in which various data relating to the music data are written, and data such as a music title, a genre, a release date, and a music playing time (length) are written therein. The CPU 10 determines a background video to be displayed on the monitor 26 based on the genre data when executing the main sequence program, and transmits a chapter number of the video to the LD changer 24. The method of determining the background image is to select an image of a snowy country in the case of enka on the theme of winter, and to select an image of a foreign country in the case of pops.
【0023】楽音トラック〜効果トラックの各トラック
は図7,図8に示すように複数のイベントデータと各イ
ベントデータ間の時間間隔を示すデュレーションデータ
Δtからなるシーケンスデータで構成されている。各ト
ラックのイベントデータはカラオケ演奏中にシーケンス
プログラムに基づきCPU10によって読み出される。
シーケンスプログラムは、所定のテンポクロックでΔt
をカウントし、Δtをカウントアップしたときこれに続
くイベントデータの読出タイミングであるとして、これ
を読み出して所定の処理部へ出力するプログラムであ
る。As shown in FIGS. 7 and 8, each track from the musical sound track to the effect track is composed of sequence data including a plurality of event data and duration data Δt indicating a time interval between the event data. The event data of each track is read out by the CPU 10 based on a sequence program during a karaoke performance.
The sequence program is executed at a predetermined tempo clock at Δt.
This is a program for reading out and outputting to a predetermined processing unit, assuming that when the time Δt is counted up, it is the readout timing of the event data subsequent thereto.
【0024】楽音トラックには、メロディトラック,リ
ズムトラックを初めとして種々のパートのトラックが形
成されている。CPU10は、楽音シーケンスプログラ
ムによって読み出したイベントデータを音源装置18に
出力する。音源装置18はそのイベントデータに含まれ
ているチャンネル指定データに基づいて発音チャンネル
を選択し、その発音チャンネルについてそのイベントを
実行する。On the musical sound track, tracks of various parts including a melody track and a rhythm track are formed. The CPU 10 outputs to the tone generator 18 the event data read by the tone sequence program. The sound source device 18 selects a sounding channel based on the channel designation data included in the event data, and executes the event for the sounding channel.
【0025】主旋律トラックには、このカラオケ曲の主
旋律すなわち歌唱者が歌うべき旋律のシーケンスデータ
が書き込まれている。カラオケ装置はこの主旋律データ
に基づいてガイドメロディを発音する。また、ハーモニ
ートラックの構成も主旋律トラックと同様であり、この
カラオケ曲のハーモニー旋律のシーケンスデータが書き
込まれている。このデータもCPU10から音声処理用
DSP30に入力される。音声処理用DSP30はこの
データに基づいてハーモニー音声信号の周波数(音高)
を決定する。In the main melody track, the main melody of the karaoke song, that is, the sequence data of the melody to be sung by the singer is written. The karaoke apparatus generates a guide melody based on the main melody data. The configuration of the harmony track is the same as that of the main melody track, and the sequence data of the harmony melody of this karaoke song is written. This data is also input from the CPU 10 to the voice processing DSP 30. The voice processing DSP 30 determines the frequency (pitch) of the harmony voice signal based on this data.
To determine.
【0026】歌詞トラックは、モニタ26上に歌詞を表
示するためのシーケンスデータを記憶したトラックであ
る。このシーケンスデータは楽音データではないが、イ
ンプリメンテーションの統一をとり、作業工程を容易に
するためこのトラックもMIDIデータ形式で記述され
ている。データ種類は、システム・エクスクルーシブ・
メッセージである。歌詞トラックのデータ記述におい
て、通常は1行の歌詞を1つの歌詞表示データとして扱
っている。歌詞表示データは1行の歌詞の文字データ
(文字コードおよびその文字の表示座標)、この歌詞の
表示時間(通常は30秒前後)、および、ワイプシーケ
ンスデータからなっている。ワイプシーケンスデータと
は、曲の進行に合わせて歌詞の表示色を変更してゆくた
めのシーケンスデータであり、表示色を変更するタイミ
ング(この歌詞が表示されてからの時間)と変更位置
(座標)が1行分の長さにわたって順次記録されている
データである。The lyrics track is a track in which sequence data for displaying lyrics on the monitor 26 is stored. Although this sequence data is not tone data, this track is also described in the MIDI data format in order to unify the implementation and facilitate the work process. The data type is system exclusive
It is a message. In the data description of the lyrics track, usually, one line of lyrics is treated as one piece of lyrics display data. The lyrics display data is composed of character data (character codes and display coordinates of the characters) of one line of lyrics, display time of the lyrics (usually around 30 seconds), and wipe sequence data. The wipe sequence data is sequence data for changing the display color of the lyrics in accordance with the progress of the song. The timing of changing the display color (the time from when the lyrics are displayed) and the change position (coordinates) ) Is data sequentially recorded over the length of one line.
【0027】音声トラックは、音声データ部に記憶され
ている音声データn(n=1,2,3,‥‥)の発生タ
イミングなどを指定するシーケンストラックである。音
声データ部には、音源装置18で合成しにくいバックコ
ーラスやハーモニー歌唱などの人声が記憶されている。
音声トラックには、音声指定データと、音声指定データ
の読み出し間隔、すなわち、音声データを音声データ処
理部19に出力して音声信号形成するタイミングを指定
するデュレーションデータΔtが書き込まれている。音
声指定データは、音声データ番号,音程データおよび音
量データからなっている。音声データ番号は、音声デー
タ部に記録されている各音声データの識別番号nであ
る。音程データ,音量データは、形成すべき音声データ
の音程や音量を指示するデータである。すなわち、言葉
を伴わない「アー」や「ワワワワッ」などのバックコー
ラスは、音程や音量を変化させれば何度も利用できるた
め、基本的な音程,音量で1つ記憶しておき、このデー
タに基づいて音程や音量をシフトして繰り返し使用す
る。音声データ処理部19は音量データに基づいて出力
レベルを設定し、音程データに基づいて音声データの読
出間隔を変えることによって音声信号の音程を設定す
る。The audio track is a sequence track for specifying the generation timing of the audio data n (n = 1, 2, 3,...) Stored in the audio data section. The voice data section stores human voices such as back chorus and harmony singing that are difficult to synthesize by the sound source device 18.
In the audio track, the audio designation data and the reading interval of the audio designation data, that is, the duration data Δt that designates the timing of outputting the audio data to the audio data processing unit 19 and forming the audio signal, are written. The voice designation data includes a voice data number, pitch data, and volume data. The audio data number is an identification number n of each audio data recorded in the audio data section. The pitch data and the volume data are data indicating the pitch and volume of the audio data to be formed. In other words, a back chorus without words, such as "Ah" or "Wawa Wawa", can be used many times by changing the pitch or volume. The pitch and volume are shifted based on and used repeatedly. The audio data processing unit 19 sets the output level based on the volume data, and sets the interval of the audio signal by changing the reading interval of the audio data based on the interval data.
【0028】効果トラックには、効果用DSP20を制
御するためのDSPコントロールデータが書き込まれて
いる。効果用DSP20は音源装置18,音声データ処
理部19,音声処理用DSP30から入力される信号に
対してリバーブなどの残響系の効果を付与する。DSP
コントロールデータは、このような効果の種類を指定す
るデータおよびその変化量データなどからなっている。In the effect track, DSP control data for controlling the effect DSP 20 is written. The effect DSP 20 applies reverberation or other reverberation effects to signals input from the sound source device 18, the audio data processing unit 19, and the audio processing DSP 30. DSP
The control data includes data designating the kind of the effect and data of a change amount thereof.
【0029】図2は前記音声処理用DSP30の機能を
説明する図である。音声処理用DSP30は内蔵されて
いるマイクロプログラムに基づき入力された歌唱音声信
号に対するハーモニー音声信号を形成するが、このマイ
クロプログラムをブロック化するとこの図のように表す
ことができる。FIG. 2 is a diagram for explaining the function of the voice processing DSP 30. The voice processing DSP 30 forms a harmony voice signal for the input singing voice signal based on a built-in microprogram, and this microprogram can be represented as shown in FIG.
【0030】マイク27から入力されアンプ28で増幅
されA/Dコンバータ29でディジタル信号に変換され
た歌唱音声信号は、この音声処理用DSP30の周期検
出部40,ピーク検出部41,音素検出部42,平均音
量検出部43および乗算器45に入力される。The singing voice signal input from the microphone 27, amplified by the amplifier 28, and converted into a digital signal by the A / D converter 29 is converted into a period detecting section 40, a peak detecting section 41, and a phoneme detecting section 42 of the voice processing DSP 30. , Are input to the average volume detector 43 and the multiplier 45.
【0031】周期検出部40は入力された歌唱音声信号
の波形に基づきその周期Tを検出する(図9(A)参
照)。周期検出部40は検出した周期情報をピーク検出
部41および窓関数発生部44に出力する。この周期検
出部40の機能の詳細は、後で図3〜図5を参照しなが
ら詳述する。The cycle detecting section 40 detects the cycle T based on the waveform of the input singing voice signal (see FIG. 9A). The cycle detector 40 outputs the detected cycle information to the peak detector 41 and the window function generator 44. The details of the function of the cycle detection unit 40 will be described later with reference to FIGS.
【0032】ピーク検出部41は入力された歌唱音声信
号の1つの周期内におけるローカルピークを検出する
(図9(A)参照)。周期検出部40から入力される周
期情報によって1周期の間隔が決定される。ピーク検出
部41は検出したピークタイミング情報を窓関数発生部
44に出力する。The peak detector 41 detects a local peak in one cycle of the input singing voice signal (see FIG. 9A). The interval of one cycle is determined by the cycle information input from the cycle detector 40. The peak detector 41 outputs the detected peak timing information to the window function generator 44.
【0033】音素検出部42は、入力された歌唱音声信
号のレベルの切れ目や周波数成分の変化によって音素の
切れ目を検出する。ここで音素とは発音を個別の子音と
母音に分割した区間をいうものとする。図9(B)にお
いて、歌詞「あかしやの」は、それぞれ「あ」「か」
「し」「や」「の」の5個の音節からなっており、これ
らの音節は「a」「k」「a」「sh」「i」「y」
「a」「n」「o」の9個の音素に分割することができ
る。各音節間にはレベルが低下する切れ目があり、子音
がホワイトノイズ的な非周期波形であるのに対し、母音
が周期波形であることなどに基づいて音素の分割を行
う。音素検出部42は音素の切れ目を検出すると、切れ
目である旨を表示する情報を窓関数発生部44に出力す
る。The phoneme detector 42 detects a phoneme break based on a level break or a change in frequency component of the input singing voice signal. Here, a phoneme refers to a section in which pronunciation is divided into individual consonants and vowels. In FIG. 9 (B), the lyrics “Akashiya no” are “A” and “K”, respectively.
It consists of five syllables, "shi", "ya", and "no", and these syllables are "a", "k", "a", "sh", "i", and "y".
It can be divided into nine phonemes "a", "n" and "o". Between each syllable, there is a break in which the level decreases, and phonemes are divided based on the fact that the consonant has a non-periodic waveform like a white noise, while the vowel has a periodic waveform. When detecting a break between phonemes, the phoneme detecting unit 42 outputs information indicating that the phoneme is a break to the window function generating unit 44.
【0034】平均音量検出部43は入力された歌唱音声
信号の振幅レベルを平滑して平均音量を検出する。平均
音量検出部43は検出した平均音量情報を音量制御部5
0に出力する。The average volume detector 43 detects the average volume by smoothing the amplitude level of the input singing voice signal. The average volume detection unit 43 uses the detected average volume information as the volume control unit 5
Output to 0.
【0035】窓関数発生部44は図9(C)に示すよう
な窓関数を出力する。この窓関数は乗算器45に出力さ
れる。乗算器45には上述したように歌唱音声信号が入
力されているため、歌唱音声信号がこの窓関数の部分の
み切り取られることになる(図9(C)参照)。窓関数
としては、開始から終了まで微分的に連続な関数を使用
することが望ましい。微分的に連続な関数を使用する
と、歌唱音声信号の一部(1周期)のみを切り出して
も、切り出しの境界でノイズを発生することがない。こ
のため、このDSP30では、sin2 (ωt/2)
(t=0〜T:Tは歌唱音声信号の1周期)を使用して
いる。この式からも明らかなように、窓関数の長さは歌
唱音声信号の1周期である。1周期の長さは周期検出部
40から入力される周期情報によって与えられる。ま
た、窓関数発生部44は、数十ms〜100msの適当
な間隔で繰り返し窓関数を発生する。このようにある程
度時間をあけて窓関数を発生するのは、同じ波形要素デ
ータをある程度継続しないと、その波形要素データの音
色が聴取者に認識されないからである。一方、音素検出
部42から音素の切れ目を表示する情報が入力されたと
きには必ず窓関数を発生して新たな音素の波形要素デー
タの切り出しを行う。これは、音素が切り換わると音色
が全く変わるため、これに追従するためである。また、
窓関数の開始タイミングは、ピーク検出部41から入力
されたピークが窓関数の中央に来るように、ピークと次
のピークの中間点すなわち最もレベルの低い点となるよ
うに制御される。上記のような窓関数で切り出された波
形要素データは、歌唱音声信号の音色すなわちフォルマ
ント(倍音成分)をほぼそのまま保存したものとなる。The window function generator 44 outputs a window function as shown in FIG. This window function is output to the multiplier 45. Since the singing voice signal is input to the multiplier 45 as described above, only the window function portion of the singing voice signal is cut out (see FIG. 9C). It is desirable to use a function that is differentially continuous from the start to the end as the window function. If a differentially continuous function is used, noise is not generated at the boundary of the cut even if only a part (one cycle) of the singing voice signal is cut. Therefore, in this DSP 30, sin 2 (ωt / 2)
(T = 0 to T: T is one cycle of the singing voice signal). As is apparent from this equation, the length of the window function is one cycle of the singing voice signal. The length of one cycle is given by the cycle information input from the cycle detector 40. Further, the window function generating section 44 repeatedly generates a window function at an appropriate interval of several tens ms to 100 ms. The reason why the window function is generated with a certain time interval is that if the same waveform element data is not continued to some extent, the timbre of the waveform element data will not be recognized by the listener. On the other hand, whenever information indicating a break between phonemes is input from the phoneme detection unit 42, a window function is generated to cut out waveform element data of a new phoneme. This is because the timbre changes completely when the phoneme is switched, so that it follows the change. Also,
The start timing of the window function is controlled so that the peak input from the peak detection unit 41 is located at the center of the window function, that is, the midpoint between the peak and the next peak, that is, the lowest level point. The waveform element data cut out by the window function as described above is obtained by storing the timbre of the singing voice signal, that is, the formant (overtone component) almost as it is.
【0036】窓関数発生部44は、窓関数を発生すると
同時に、窓関数を発生する旨およびその長さに関する情
報を書込制御部47に出力する。書込制御部47は、こ
の情報に対応して窓関数の開始から終了までの間、サン
プリングクロック(44.1kHz)に同期して歩進す
る書込アドレスをメモリ46に入力する。この書込アド
レスの入力により、乗算器45で切り出された波形要素
データはメモリ46に記憶される。The window function generating section 44 outputs the information to the effect that the window function is to be generated and its length to the writing control section 47 at the same time as generating the window function. The write control unit 47 inputs a write address that advances in synchronization with the sampling clock (44.1 kHz) from the start to the end of the window function in accordance with this information. By inputting the write address, the waveform element data cut out by the multiplier 45 is stored in the memory 46.
【0037】以上の構成により、メモリ46には、その
ときの歌唱音声信号の1周期分の波形要素データが記憶
される。この波形要素データを任意の周期で繰り返し読
み出すことにより、その任意の周期の基本周波数を有
し、波形要素データすなわち歌唱音声信号の音色(倍音
構成)を備えた音声信号を合成することができる。そこ
で、この波形要素データを歌唱音声信号から3度,5度
など協和する周波数関係にあるハーモニー周波数の周期
で繰り返し読み出すことにより、その周波数で且つ歌唱
音声信号と同じ音色のハーモニー音声信号を形成するこ
とができる。With the above configuration, the memory 46 stores the waveform element data for one cycle of the singing voice signal at that time. By repeatedly reading out the waveform element data at an arbitrary cycle, it is possible to synthesize an audio signal having the fundamental frequency of the arbitrary cycle and having the timbre (overtone configuration) of the singing voice signal. Therefore, by repeatedly reading out the waveform element data from the singing voice signal at a harmony frequency cycle having a consonant frequency relationship such as 3rd or 5th, a harmony voice signal having the same frequency and the same timbre as the singing voice signal is formed. be able to.
【0038】このメモリ46の読出制御は読出制御部4
8が行う。読出制御部48にはCPU10からハーモニ
ーデータが入力されている。このハーモニーデータは、
楽音データのハーモニートラックから読み出されたイベ
ントデータである。読出制御部48はこのハーモニーデ
ータの周波数でメモリ46を繰り返しアクセスする。す
なわち、1秒間にハーモニーデータの周波数回だけ波形
要素データを繰り返して読み出す。このハーモニーの旋
律が主旋律よりも周波数が低い場合には、ハーモニー音
声信号は、図10(A)に示すように波形要素データが
データ長Tよりも長いT1の間隔をおいて配列された波
形となる。このハーモニー旋律が主旋律よりも周波数が
高い場合には、ハーモニー音声信号は、図10(B)に
示すように波形要素データがデータ長Tよりも短いT2
の間隔で互いに重なりあって配列された波形となる。こ
れにより、ハーモニー音声信号の基本周波数は1/T1
および1/T2となるが各波形要素データ中の倍音成分
はそのまま保存されているため、歌唱音声信号と同様の
フォルマントが形成される。また、窓関数が微分的に連
続であるためノイズが発生することはない。The read control of the memory 46 is performed by the read control unit 4.
8 does. Harmony data is input from the CPU 10 to the read control unit 48. This harmony data
This is event data read from the harmony track of the musical sound data. The read control unit 48 repeatedly accesses the memory 46 at the frequency of the harmony data. That is, the waveform element data is repeatedly read out only for the frequency of the harmony data in one second. When the melody of the harmony has a lower frequency than the main melody, the harmony voice signal has a waveform in which the waveform element data is arranged at an interval of T1 longer than the data length T as shown in FIG. Become. When the harmony melody has a higher frequency than the main melody, the harmony sound signal has a waveform element data T2 shorter than the data length T as shown in FIG.
The waveforms are arranged so as to overlap each other at intervals of. Thereby, the fundamental frequency of the harmony audio signal is 1 / T1
And 1 / T2, but since the harmonic components in each waveform element data are stored as they are, a formant similar to the singing voice signal is formed. Further, since the window function is differentially continuous, no noise is generated.
【0039】上記のようにメモリ46から波形要素デー
タを繰り返し読み出すことによって形成されたハーモニ
ー音声信号は切換器49を経て乗算器51に入力され
る。乗算器51は音量制御部50から音量制御データが
入力される。音量制御部50は前記平均音量検出部43
から歌唱音声信号の平均音量情報を入力しており、この
平均音量情報に基づいて音量制御データを発生する。音
量制御データは、たとえば平均音量情報の80パーセン
トの値に設定される。乗算器51で音量制御をされたハ
ーモニー音声信号は効果用DSP20に出力される。な
お、切換器49はフレーズの切れ目などで強制的に出力
を0にするとき使用される。The harmony sound signal formed by repeatedly reading the waveform element data from the memory 46 as described above is input to the multiplier 51 via the switch 49. The multiplier 51 receives volume control data from the volume controller 50. The volume control unit 50 is provided with the average volume detection unit 43.
And average volume information of the singing voice signal, and generates volume control data based on the average volume information. The volume control data is set to, for example, a value of 80% of the average volume information. The harmony sound signal whose volume has been controlled by the multiplier 51 is output to the effect DSP 20. The switch 49 is used when the output is forcibly set to 0 at a break between phrases.
【0040】図3は前記周期検出部40の構成を示す図
である。ここで、この周期検出部40は入力された歌唱
音声信号の周期を検出するが、周期と周波数とは逆数関
係で同値のものであるため、この周期検出部は周波数検
出部と同等のものである。すなわち、検出された周期を
逆数にすれば容易に周波数を検出することができる。周
期検出部40はノイズ性判断部60,ローパスフィルタ
(LPF)61およびカウント演算部62からなってい
る。ノイズ性判断部60は歌唱音声信号のゼロクロスの
周期性を判断し、あまり短時間・不定期にゼロクロスを
繰り返すようであればノイズ信号であると判断する。L
PF61はノイズ信号や高調波成分を除去して歌唱音声
信号の基本周波数をカウント演算部62に供給するもの
である。カウント演算部62は、入力された歌唱音声信
号のゼロクロス間隔をサンプリングクロックの周期でカ
ウントし、複数のゼロクロス間隔を加重平均する機能部
である。平均するゼロクロス間隔の数は一定ではなく、
直前の一定時間に発生したゼロクロスの時間的間隔を全
て平均するようにしている。これにより、高い周波数の
場合には1つのゼロクロス間隔が短いため多くのゼロク
ロス間隔を平均し、低い周波数の場合には1つのゼロク
ロス間隔が長いため少ないゼロクロス間隔を平均するこ
とになる。このことは、高い周波数の場合にはゼロクロ
ス間隔に占めるサンプリングクロックの離散化誤差が大
きいため多数の平均が必要であり、低い周波数の場合に
はゼロクロス間隔に占めるサンプリングクロックの離散
化誤差が小さいため多数の平均をとる必要がないことと
一致している。音声信号の周波数(周期)を検出する場
合、加重平均の期間としては20ms程度が適当であ
る。FIG. 3 is a diagram showing the configuration of the cycle detecting section 40. Here, the period detecting unit 40 detects the period of the input singing voice signal. Since the period and the frequency have the same value in a reciprocal relationship, the period detecting unit is equivalent to the frequency detecting unit. is there. That is, the frequency can be easily detected by reversing the detected period. The cycle detection unit 40 includes a noise determination unit 60, a low-pass filter (LPF) 61, and a count calculation unit 62. The noise determination unit 60 determines the periodicity of the zero cross of the singing voice signal, and determines that the signal is a noise signal if the zero cross is repeated in a very short time and irregularly. L
The PF 61 removes a noise signal and a harmonic component and supplies the fundamental frequency of the singing voice signal to the count calculation unit 62. The count calculation unit 62 is a functional unit that counts the zero-cross intervals of the input singing voice signal at the cycle of the sampling clock and weights and averages a plurality of zero-cross intervals. The average number of zero-cross intervals is not constant,
All the time intervals of the zero cross generated in the immediately preceding fixed time are averaged. Thus, in the case of a high frequency, one zero-cross interval is short, so that many zero-cross intervals are averaged, and in the case of a low frequency, one zero-cross interval is long, so that a small zero-cross interval is averaged. This is because, in the case of high frequencies, the discretization error of the sampling clock occupying the zero-cross interval is large, so a large number of averages are required.In the case of low frequencies, the discretization error of the sampling clock occupying the zero-cross interval is small. Consistent with not having to take a large number of averages. When detecting the frequency (period) of the audio signal, about 20 ms is appropriate as the period of the weighted average.
【0041】そして、このカウント演算部62は図4に
示すようなレジスタを備えている。vflagは周期
(周波数)を検出していることを示すフラグである。ま
た、zcoldは前回のゼロクロスのタイミング(サン
プリングクロックのフリーランカウント値)を記憶する
レジスタである。また、P(0)〜P(N−1)はN個
までゼロクロス間隔のカウント値を記憶することができ
るレジスタである。このNは加重平均に必要になりうる
データ数より大きい値とする。The count operation section 62 has a register as shown in FIG. vflag is a flag indicating that the period (frequency) is detected. Zcol is a register that stores the previous zero-cross timing (free-run count value of the sampling clock). P (0) to P (N-1) are registers capable of storing up to N count values of zero-cross intervals. N is a value larger than the number of data that can be required for the weighted average.
【0042】図5は周期検出部40の動作を示すフロー
チャートである。まず、入力信号がピッチのある周期的
信号であるかノイズ性の信号であるかを判断する(s
1)。ノイズ性の信号の場合は短時間に多くのゼロクロ
スがあるため、これを利用してノイズ性の信号を判断す
ることができる。例えば、10ms以内に100回以上
のゼロクロスがあった場合、ノイズ性の信号と判断す
る。入力信号がノイズ性の信号だった場合は、周期的信
号の入力があることを示すvflagをクリアし、アド
レスnのレジスタP(n)に0を書き込んでリターンす
る(s12)。以上の処理はノイズ性判断部60が行
う。FIG. 5 is a flowchart showing the operation of the cycle detector 40. First, it is determined whether the input signal is a periodic signal having a pitch or a noise signal (s
1). In the case of a noisy signal, since there are many zero crossings in a short time, a noisy signal can be determined using this. For example, if there are 100 or more zero crossings within 10 ms, the signal is determined to be a noise signal. If the input signal is a noise signal, vflag indicating that a periodic signal is input is cleared, 0 is written in the register P (n) of the address n, and the process returns (s12). The above processing is performed by the noise characteristic determination unit 60.
【0043】ノイズ性の信号でない場合には、ローパス
フィルタ(LPF)61を通過しノイズ成分や高調波成
分を除去した入力信号に対して以下の処理を行う。以下
の処理はカウント演算部62によって実行される。ま
ず、LPF61を通過した定常的な信号があるかを判断
する(s2)。これは入力信号の振幅レベルがある値よ
り大きいかどうかで判断することができる。振幅レベル
が閾値よりも大きい場合は信号ありと判断し、小さい場
合は信号なしと判断する。入力信号がなかった場合は、
ノイズ性信号が入力された場合と同様、vflagをク
リアし、P(n)に0を書き込んでリターンする(s1
2)。If the signal is not a noise signal, the following processing is performed on an input signal which has passed through a low-pass filter (LPF) 61 and from which noise components and harmonic components have been removed. The following processing is executed by the count calculation unit 62. First, it is determined whether there is a stationary signal that has passed through the LPF 61 (s2). This can be determined based on whether or not the amplitude level of the input signal is larger than a certain value. If the amplitude level is larger than the threshold value, it is determined that there is a signal, and if it is smaller, it is determined that there is no signal. If there is no input signal,
As in the case where the noise signal is input, vflag is cleared, 0 is written to P (n), and the process returns (s1).
2).
【0044】一方、信号ありの場合、ゼロクロスが新た
に生じたかどうかを判断する(s3)。このゼロクロス
は負→正のゼロクロスであり、サンプリング値が負値か
ら正値へ移行したことで判断することができる(図10
参照)。ゼロクロスがなかった場合は何もせずにリター
ンする。ゼロクロスが生じた場合は、現在のvflag
の値を調べる(s4)。vflagが0(リセット)の
場合は、入力信号ありと判断されたのち始めてのゼロク
ロスであり、これより前のゼロクロスがないためゼロク
ロス間隔を計測できない。この場合には、vflagを
セットして現在時刻をzcoldに書き込む。この現在
時刻はフリーランでカウントしているサンプリングクロ
ックのカウント値が用いられる。そして確定周波数情報
Paveとして無効な値0を返す(s5)。このPav
eが周期情報Tとして窓関数発生部44に出力される
が、その値が0の場合には窓関数発生部44は周期未検
出であるとして窓関数を発生しない。すなわち、ハーモ
ニー音声信号の形成を行わない。On the other hand, if there is a signal, it is determined whether or not a new zero cross has occurred (s3). This zero cross is a negative → positive zero cross, which can be determined by the shift of the sampling value from a negative value to a positive value (FIG. 10).
reference). If there is no zero cross, return without doing anything. If a zero cross occurs, the current vflag
Is checked (s4). If vflag is 0 (reset), it is the first zero cross after it is determined that there is an input signal, and the zero cross interval cannot be measured because there is no previous zero cross. In this case, vflag is set and the current time is written to zcold. As the current time, the count value of the sampling clock counted in free run is used. Then, an invalid value 0 is returned as the fixed frequency information Pave (s5). This Pav
Although e is output to the window function generator 44 as the period information T, when the value is 0, the window function generator 44 determines that the period has not been detected and does not generate the window function. That is, no harmony audio signal is formed.
【0045】s4でvflagが既にセットされていた
場合、ゼロクロス間隔のカウント値を記憶するメモリの
アドレスnを1つカウントアップする。カウントアップ
の結果アドレスがNになった場合はアドレスを0にす
る。現在時刻と前回ゼロクロス時刻zcoldとの差を
計算し、それをゼロクロス間隔としてレジスタP(n)
にに書き込む。こののち、現在時刻をzoldに書き込
む(s6)。If vflag has already been set in s4, the address n of the memory storing the count value of the zero-cross interval is incremented by one. When the address becomes N as a result of the count-up, the address is set to 0. The difference between the current time and the previous zero-cross time zcol is calculated, and the calculated difference is used as the zero-cross interval in the register P (n)
Write to. Thereafter, the current time is written to zold (s6).
【0046】次に加重平均を行なう。まず初期値とし
て、Psum=0,Asum=0,c=0,i=nをセ
ットする(s7)。ここで、Psumはゼロクロス間隔
の和、Asumは加重平均をするための重み付け係数の
和、c は加算したゼロクロス間隔の個数、i はメモリア
ドレスを示す。まず、P(i)=0かどうか調べる。0
であった場合は、加重平均算出期間内に信号がない期間
またはノイズ性信号が入力されていた期間があることを
示している。このような場合には、加重平均をとっても
精度の高い周期情報Paveを求めることができないと
して最新のゼロクロス間隔のカウント値P(n)を確定
周波数情報Pave(周期T)として出力して(s1
3)リターンする。Next, weighted averaging is performed. First, Psum = 0, Asum = 0, c = 0, and i = n are set as initial values (s7). Here, Psum is the sum of the zero-cross intervals, Asum is the sum of the weighting coefficients for weighted averaging, c is the number of added zero-cross intervals, and i is the memory address. First, it is checked whether P (i) = 0. 0
Indicates that there is a period during which no signal is present or a period during which a noise signal is input within the weighted average calculation period. In such a case, it is determined that the period information Pave with high accuracy cannot be obtained even by taking a weighted average, and the latest count value P (n) of the zero-cross interval is output as the determined frequency information Pave (period T) (s1).
3) Return.
【0047】P(i)が0でなければ、次の計算を行な
う。If P (i) is not 0, the following calculation is performed.
【0048】Psum=Psum+a(c)×P(i) Asum=Asum+a(c) c=c+1 i=i−1 ただしi<0になったらi=N−1 以上の動作はPsumが加重平均の期間L(20msの
サンプリングクロックカウント値)を超えるまで繰り返
し実行する(s10)。この期間内に1回でもP(i)
=0があればs8の判断でs13に進む。P(i)=0
が一度もない場合には、加重平均期間における重み付け
されたゼロクロス間隔の総和Psumと重み付け係数の
総和Asumが算出される。すなわち、 Psum =a(0) ×P(n) +a(1) ×P(n-1) +a(2) ×
P(n-2) +…… となる。なお、加重平均の期間をTL(=20ms)と
すると、 L=TL×TS である。ここで、TSはサンプリングクロック周波数で
ある。最後に Pave=Psum/Asum を行なえば、ゼロクロス間隔の加重平均値である周期情
報Paveを算出することができる(s11)。この確
定周波数情報Paveを周期情報Tとして窓関数発生部
44に出力して歌唱音声信号のピッチ変換に用いる。Psum = Psum + a (c) × P (i) Asum = Asum + a (c) c = c + 1 i = i−1 However, if i <0, the operation above i = N−1 is the period when Psum is the weighted average. The processing is repeatedly executed until L (sampling clock count value of 20 ms) is exceeded (s10). At least once during this period, P (i)
If = 0, the process proceeds to s13 in the judgment of s8. P (i) = 0
Is not found once, the sum Psum of the weighted zero-cross intervals and the sum Asum of the weighting coefficients during the weighted average period are calculated. That is, Psum = a (0) × P (n) + a (1) × P (n−1) + a (2) ×
P (n−2) +... Note that if the period of the weighted average is TL (= 20 ms), then L = TL × TS. Here, TS is a sampling clock frequency. Finally, by performing Pave = Psum / Asum, it is possible to calculate the period information Pave which is a weighted average value of the zero-cross interval (s11). The determined frequency information Pave is output to the window function generator 44 as the period information T and used for pitch conversion of the singing voice signal.
【0049】なお、信号の立ち上がりのときなど、加重
平均期間内に信号がない期間がある場合、この例では加
重平均をやめて最新のゼロクロス間隔のカウント値P
(n)を出力するようにしているが、加重平均期間内の
周期的信号がある期間のみを抽出して加重平均を行って
もよい。When there is a period in which there is no signal within the weighted average period, such as when the signal rises, in this example, the weighted average is stopped and the latest zero-cross interval count value P
Although (n) is output, weighted averaging may be performed by extracting only a certain period of the periodic signal within the weighted average period.
【0050】重み付け係数a(c)は、 a(0) >a(1) >a(2) > … というように、現在に近い信号ほど重みを大きくし、過
去になるほど重みを小さくして、入力信号の周波数が変
化に対する追従性を高めるようにすればよい。、また入
力信号の性質を利用して、それにより動的に変更しても
良い。すなわち、a(k) =α**kとすると、入力信号の
周波数がが安定しているときは、αを大きな値(1に近
い値)にして単純平均に近づけ、入力信号の周波数が変
動しているときには、その変化に応じて自動的にαを小
さな値に変更するようにすればよい。The weighting coefficient a (c) is defined as follows: a (0)> a (1)> a (2)>... What is necessary is just to make the frequency of the input signal follow up the change. Alternatively, the characteristics of the input signal may be used to change dynamically. That is, when a (k) = α ** k, when the frequency of the input signal is stable, α is set to a large value (a value close to 1) to approach the simple average, and the frequency of the input signal varies. In this case, α may be automatically changed to a small value according to the change.
【0051】具体的には、加重平均を行うまえに、加重
平均を行うのと同じ期間で計測されたゼロクロス間隔P
(n)の最大値と最小値の比を計算し、この比が小さい
ときは入力信号の周波数が安定していて、比が大きいと
きは入力信号の周波数が変化している、または、安定し
ていないと判断し、これによってαの値を決定するよう
にすればよい。More specifically, before performing the weighted averaging, the zero-crossing interval P measured during the same period as the weighted averaging is performed.
The ratio between the maximum value and the minimum value of (n) is calculated. When the ratio is small, the frequency of the input signal is stable. When the ratio is large, the frequency of the input signal is changing or stable. It is determined that the value has not been set, and the value of α may be determined accordingly.
【0052】たとえば、R(=Pmax/Pmin)と
すると、 R≦1.03 ならば α=1.0 1.03<R≦1.06 ならば α=0.95 1.06<R≦1.09 ならば α=0.90 1.09<R≦1.12 ならば α=0.85 1.12<R ならば α=0.80 のように決定する。このようにRに応じて重み付け係数
を決定することにより、入力信号の周波数が安定してい
るときには、単純平均に近くなり周波数(周期)の計算
精度を高くすることができる。また、入力信号の周波数
が変動しているときは検出精度よりも周波数追従性が要
求されるため、現在に近いデータの重み大きくなって変
化によく追従できるようになる。なお、α=1.0の場
合には全ての重み付け係数が等しくなり、単純平均と同
じになる。For example, if R (= Pmax / Pmin), if R ≦ 1.03, α = 1.0 1.03 <R ≦ 1.06, and if α ≦ 0.95 1.06 <R ≦ 1, If 0.09, α = 0.90 1.09 <R ≦ 1.12, if α = 0.85 1.12 <R, then α = 0.80. By determining the weighting coefficient according to R in this manner, when the frequency of the input signal is stable, it becomes close to a simple average, and the calculation accuracy of the frequency (period) can be increased. Further, when the frequency of the input signal is fluctuating, the frequency tracking performance is required rather than the detection accuracy. Therefore, the weight of data close to the present is increased, and the data can be tracked well. Note that when α = 1.0, all weighting factors are equal, which is the same as the simple average.
【0053】なお、上記実施形態では歌唱音声信号の周
波数(周期)の検出について説明したが、楽器など他の
音声周波数信号の周波数検出にこれを用いてもよい。In the above embodiment, the detection of the frequency (period) of the singing voice signal has been described. However, this may be used for detecting the frequency of other voice frequency signals such as musical instruments.
【0054】[0054]
【発明の効果】請求項1の発明によれば、複数のカウン
ト値を平均化することにより、入力された音声信号の真
の周波数(周期)から端数を切り捨てて求められたカウ
ント値と端数を切り上げて求められたカウント値とが相
殺されるため、誤差が少なくなり精度の高い周波数(周
期)の検出を行うことができる。また、複数のカウント
値を加重平均する場合に、古いカウント値に対して新し
いカウント値の重みを大きくすることにより、入力音声
信号の周波数が変動している場合の追従性を良くするこ
とができる。According to the first aspect of the present invention, by averaging a plurality of count values, the count value and the fraction obtained by truncating the fraction from the true frequency (period) of the input audio signal are obtained. Since the count value obtained by rounding up is cancelled, the error is reduced and a highly accurate frequency (cycle) can be detected. In addition, when a plurality of count values are weighted and averaged, by increasing the weight of the new count value with respect to the old count value, it is possible to improve the followability when the frequency of the input audio signal fluctuates. .
【0055】請求項2の発明によれば、発音開始時や発
音の中断などによって信号が入力しなくなったとき、こ
のような場面ではもとより周波数が不安定であるため、
平均値ではなく1回のカウント値を用いることにより無
駄な演算をなくすことができる。According to the second aspect of the present invention, when a signal is not input at the start of sound generation or due to interruption of sound generation, the frequency is unstable in such a situation.
By using one count value instead of the average value, useless calculation can be eliminated.
【0056】請求項3の発明によれば、何らかの事情で
信号が入力されなかった場合でも、入力された信号によ
るカウント値のみで平均をとることにより、確定周波数
情報の出力を継続することができる。According to the third aspect of the present invention, even if a signal is not input for some reason, the output of the definite frequency information can be continued by averaging only the count value of the input signal. .
【0057】請求項4の発明によれば、複数のカウント
値の変動が小さいときすなわち入力信号の周波数変動が
小さいときには、重み付け係数の変化率を小さくして単
純平均に近づけてゆくことにより平均の精度を高くす
る。また、入力信号の周波数変動が大きい場合には、重
み付け係数の変化率を大きくして新しいカウント値の重
みを大きくする。これにより、確定される周波数値の入
力信号に対する追従性が良くなる。According to the fourth aspect of the present invention, when the variation of the plurality of count values is small, that is, when the frequency variation of the input signal is small, the rate of change of the weighting coefficient is reduced to approach the simple average, thereby obtaining the average value. Increase accuracy. When the frequency fluctuation of the input signal is large, the rate of change of the weighting coefficient is increased to increase the weight of the new count value. As a result, the followability of the determined frequency value to the input signal is improved.
【図1】この発明の実施形態であるカラオケ装置のブロ
ック図FIG. 1 is a block diagram of a karaoke apparatus according to an embodiment of the present invention.
【図2】同カラオケ装置の音声処理用DSPの構成を示
す図FIG. 2 is a diagram showing a configuration of a voice processing DSP of the karaoke apparatus.
【図3】同音声処理用DSPの一部である周期検出部の
構成を示す図FIG. 3 is a diagram showing a configuration of a period detecting unit which is a part of the DSP for audio processing;
【図4】同周期検出部に設けられるレジスタの構成を示
す図FIG. 4 is a diagram showing a configuration of a register provided in the same period detection unit.
【図5】同周期検出部の動作を示すフローチャートFIG. 5 is a flowchart showing the operation of the same period detection unit.
【図6】前記カラオケ装置に用いられる楽曲データの構
成を示す図FIG. 6 is a diagram showing a configuration of music data used in the karaoke apparatus.
【図7】同カラオケ装置に用いられる楽曲データの構成
を示す図FIG. 7 is a diagram showing a configuration of music data used in the karaoke apparatus.
【図8】同カラオケ装置に用いられる楽曲データの構成
を示す図FIG. 8 is a diagram showing a configuration of music data used in the karaoke apparatus.
【図9】歌唱音声信号から波形要素データの切り出し方
式を説明する図FIG. 9 is a diagram for explaining a method of extracting waveform element data from a singing voice signal.
【図10】ハーモニー音声信号の形成方式を説明する図FIG. 10 is a diagram illustrating a method of forming a harmony audio signal.
【図11】周期検出の原理を示す図FIG. 11 is a diagram showing the principle of period detection.
30…音声処理用DSP、40…周期検出部、44…窓
関数発生部、60…ノイズ性判断部、61…ローパスフ
ィルタ、62…カウント演算部Reference Signs List 30 DSP for voice processing, 40 Period detector, 44 Window function generator, 60 Noise determiner, 61 Low-pass filter, 62 Count calculator
─────────────────────────────────────────────────────
────────────────────────────────────────────────── ───
【手続補正書】[Procedure amendment]
【提出日】平成8年10月17日[Submission date] October 17, 1996
【手続補正1】[Procedure amendment 1]
【補正対象書類名】明細書[Document name to be amended] Statement
【補正対象項目名】請求項4[Correction target item name] Claim 4
【補正方法】変更[Correction method] Change
【補正内容】[Correction contents]
【手続補正2】[Procedure amendment 2]
【補正対象書類名】明細書[Document name to be amended] Statement
【補正対象項目名】0010[Correction target item name] 0010
【補正方法】変更[Correction method] Change
【補正内容】[Correction contents]
【0010】この出願の請求項4の発明は、前記加重平
均手段は、前記複数のカウント値の変動が小さいとき古
いカウント値から新しいカウント値への重み付け係数の
変化率を小さくし、前記複数のカウント値の変動が大き
いとき前記重み付け係数の変化率を大きくする手段を含
むことを特徴とする。According to a fourth aspect of the present invention, the weighted averaging means reduces a rate of change of a weighting coefficient from an old count value to a new count value when a variation in the plurality of count values is small, and fluctuations in the count value is large
Characterized in that it comprises a means for increasing the rate of change of the weighting coefficients advance are.
【手続補正3】[Procedure amendment 3]
【補正対象書類名】明細書[Document name to be amended] Statement
【補正対象項目名】0045[Correction target item name] 0045
【補正方法】変更[Correction method] Change
【補正内容】[Correction contents]
【0045】s4でvflagが既にセットされていた
場合、ゼロクロス間隔のカウント値を記憶するメモリの
アドレスnを1つカウントアップする。カウントアップ
の結果アドレスがNになった場合はアドレスを0にす
る。現在時刻と前回ゼロクロス時刻zcoldとの差を
計算し、それをゼロクロス間隔としてレジスタP(n)
に書き込む。こののち、現在時刻をzcoldに書き込
む(s6)。If vflag has already been set in s4, the address n of the memory storing the count value of the zero-cross interval is incremented by one. When the address becomes N as a result of the count-up, the address is set to 0. The difference between the current time and the previous zero-cross time zcol is calculated, and the calculated difference is used as the zero-cross interval in the register P (n).
Write to. Thereafter, write the current time to the z c old (s6).
【手続補正4】[Procedure amendment 4]
【補正対象書類名】図面[Document name to be amended] Drawing
【補正対象項目名】図5[Correction target item name] Fig. 5
【補正方法】変更[Correction method] Change
【補正内容】[Correction contents]
【図5】 FIG. 5
Claims (4)
ル化された音声信号を入力し、該音声信号の周期を前記
サンプリングクロックのカウント値で測定するカウント
手段を備えた周波数検出装置において、 所定期間内に前記カウント手段を繰り返し実行し、これ
によって得られた複数のカウント値を加重平均すること
によって前記音声信号の周波数を確定する加重平均手段
を備えたことを特徴とする周波数検出装置。1. A frequency detecting device comprising a counting means for inputting an audio signal digitized by a predetermined sampling clock and measuring a period of the audio signal by a count value of the sampling clock. A frequency detecting apparatus comprising: weighted averaging means for repeatedly executing a counting means and averaging a plurality of count values obtained thereby to determine the frequency of the audio signal.
期間があったとき、前記加重平均手段を無効にし、前記
カウント手段の最新のカウント値から周波数を確定する
手段を備えた請求項1に記載の周波数検出装置。2. The apparatus according to claim 1, further comprising: means for invalidating the weighted averaging means and determining a frequency from the latest count value of the counting means when there is a period during which no audio signal is input within the predetermined period. 3. The frequency detection device according to 1.
音声信号の入力がない期間があったとき、音声信号が入
力された期間のみで加重平均を行う手段である請求項1
に記載の周波数検出装置。3. The weighted averaging means is means for performing weighted averaging only during a period during which an audio signal is input, when there is a period during which no audio signal is input within the predetermined period.
3. The frequency detection device according to 1.
ト値の変動が小さいとき古いカウント値から新しいカウ
ント値への重み付け係数の変化率を小さくし、前記複数
のカウント値の変動が小さいとき前記重み付け係数の変
化率を大きくする手段を含む請求項1に記載の周波数検
出装置。4. The weighted averaging means reduces a change rate of a weighting coefficient from an old count value to a new count value when the variation of the plurality of count values is small, and sets the weighted average value when the variation of the plurality of count values is small. 2. The frequency detection device according to claim 1, further comprising means for increasing a change rate of the weighting coefficient.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP20053996A JP3645364B2 (en) | 1996-07-30 | 1996-07-30 | Frequency detector |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP20053996A JP3645364B2 (en) | 1996-07-30 | 1996-07-30 | Frequency detector |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1049148A true JPH1049148A (en) | 1998-02-20 |
JP3645364B2 JP3645364B2 (en) | 2005-05-11 |
Family
ID=16425996
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP20053996A Expired - Fee Related JP3645364B2 (en) | 1996-07-30 | 1996-07-30 | Frequency detector |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3645364B2 (en) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006113416A (en) * | 2004-10-18 | 2006-04-27 | New Japan Radio Co Ltd | The frequency counting method and device |
JP2007024532A (en) * | 2005-07-12 | 2007-02-01 | Yaskawa Electric Corp | Vibration frequency measuring method and apparatus |
JP2008134582A (en) * | 2006-10-27 | 2008-06-12 | Sony Corp | Audio processing method and audio processing apparatus |
JP2009131118A (en) * | 2007-11-27 | 2009-06-11 | Mitsubishi Electric Corp | Inverter control device and air conditioner |
JP2012060505A (en) * | 2010-09-10 | 2012-03-22 | On Semiconductor Trading Ltd | Drive control circuit of vibration speaker |
JP2012154656A (en) * | 2011-01-24 | 2012-08-16 | Hioki Ee Corp | Measuring apparatus and measuring method |
-
1996
- 1996-07-30 JP JP20053996A patent/JP3645364B2/en not_active Expired - Fee Related
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006113416A (en) * | 2004-10-18 | 2006-04-27 | New Japan Radio Co Ltd | The frequency counting method and device |
JP2007024532A (en) * | 2005-07-12 | 2007-02-01 | Yaskawa Electric Corp | Vibration frequency measuring method and apparatus |
JP2008134582A (en) * | 2006-10-27 | 2008-06-12 | Sony Corp | Audio processing method and audio processing apparatus |
US8204239B2 (en) | 2006-10-27 | 2012-06-19 | Sony Corporation | Audio processing method and audio processing apparatus |
JP2009131118A (en) * | 2007-11-27 | 2009-06-11 | Mitsubishi Electric Corp | Inverter control device and air conditioner |
JP2012060505A (en) * | 2010-09-10 | 2012-03-22 | On Semiconductor Trading Ltd | Drive control circuit of vibration speaker |
US9319777B2 (en) | 2010-09-10 | 2016-04-19 | Semiconductor Components Industries, Llc | Drive control circuit for vibration speaker |
JP2012154656A (en) * | 2011-01-24 | 2012-08-16 | Hioki Ee Corp | Measuring apparatus and measuring method |
Also Published As
Publication number | Publication date |
---|---|
JP3645364B2 (en) | 2005-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2921428B2 (en) | Karaoke equipment | |
JP3718919B2 (en) | Karaoke equipment | |
JP3598598B2 (en) | Karaoke equipment | |
JP2838977B2 (en) | Karaoke equipment | |
JP2005537499A (en) | Voice-controlled electronic musical instrument | |
JP2008250008A (en) | Musical sound processing apparatus and program | |
JP3645364B2 (en) | Frequency detector | |
JP3116937B2 (en) | Karaoke equipment | |
JP2005107330A (en) | Karaoke equipment | |
JP3760833B2 (en) | Karaoke equipment | |
JP5292702B2 (en) | Music signal generator and karaoke device | |
JP3430814B2 (en) | Karaoke equipment | |
JP3261990B2 (en) | Karaoke equipment | |
JP3173310B2 (en) | Harmony generator | |
JP3879524B2 (en) | Waveform generation method, performance data processing method, and waveform selection device | |
CN111179890B (en) | Voice accompaniment method and device, computer equipment and storage medium | |
JP2904045B2 (en) | Karaoke equipment | |
JP2012194387A (en) | Intonation determination device | |
JP5810947B2 (en) | Speech segment specifying device, speech parameter generating device, and program | |
JP5618743B2 (en) | Singing voice evaluation device | |
JP5416396B2 (en) | Singing evaluation device and program | |
JP2007225916A (en) | Authoring apparatus, authoring method and program | |
JP3963141B2 (en) | SINGLE SYNTHESIS DEVICE, SINGE SYNTHESIS PROGRAM, AND COMPUTER-READABLE RECORDING MEDIUM CONTAINING SINGE SYNTHESIS PROGRAM | |
JP6406182B2 (en) | Karaoke device and karaoke system | |
JP2005107335A (en) | Karaoke equipment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041228 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050203 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080210 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090210 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090210 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100210 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110210 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120210 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130210 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140210 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |