JP2010029281A - Ultrasonic diagnostic apparatus - Google Patents
Ultrasonic diagnostic apparatus Download PDFInfo
- Publication number
- JP2010029281A JP2010029281A JP2008192246A JP2008192246A JP2010029281A JP 2010029281 A JP2010029281 A JP 2010029281A JP 2008192246 A JP2008192246 A JP 2008192246A JP 2008192246 A JP2008192246 A JP 2008192246A JP 2010029281 A JP2010029281 A JP 2010029281A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- echo image
- similarity
- auxiliary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002159 abnormal effect Effects 0.000 claims abstract description 15
- 239000000523 sample Substances 0.000 abstract description 62
- 230000005856 abnormality Effects 0.000 abstract description 11
- 238000000034 method Methods 0.000 description 20
- 230000005540 biological transmission Effects 0.000 description 13
- 230000015572 biosynthetic process Effects 0.000 description 13
- 238000003786 synthesis reaction Methods 0.000 description 13
- 238000011156 evaluation Methods 0.000 description 10
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 150000001875 compounds Chemical class 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Landscapes
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
Description
本発明は、超音波診断装置に関し、特に超音波エコー断層画像の画質改善に関する。 The present invention relates to an ultrasonic diagnostic apparatus, and more particularly to image quality improvement of an ultrasonic echo tomographic image.
超音波エコー断層画像のコントラスト分解能を改善する方法として、複数の超音波エコー断層画像を重ね合わせるフレーム間相関処理や空間コンパウンド処理などが知られている。フレーム間相関処理は時相の異なる画像フレーム同士を画素ごとに加算する処理であり、空間コンパウンド処理は1つの超音波プローブで同一部位について音線方向を変えながら複数回超音波ビームを送受信し、同一部位(画素)ごとにそれら複数回の送受信で得られたエコー信号を加算する処理である。 As a method for improving the contrast resolution of an ultrasonic echo tomographic image, inter-frame correlation processing, spatial compound processing, or the like in which a plurality of ultrasonic echo tomographic images are superimposed is known. The inter-frame correlation process is a process of adding image frames with different time phases for each pixel, and the spatial compound process transmits and receives an ultrasonic beam multiple times while changing the sound ray direction for the same part with one ultrasonic probe, This is a process of adding echo signals obtained by a plurality of times of transmission / reception for each same part (pixel).
また特許文献1及び2には、時相の異なる複数の画像フレーム間で相関をとって画像を表示する際に、相関係数(重み付け加算のための重み)をフレームレートに応じて可変し、その相関係数を用いてそれら画像フレームを重み付け加算する方式が開示されている。
In
特許文献3には、フレーム間相関演算の相関係数(重み)を画素ごとにダイナミックに変える方式が開示されている。この方式では、画素値の大きい部分ではS/N比が良いことに着目し、画素ごとに、現フレームと前フレームのうち大きい方の画素値が大きいほど、現フレームの係数を大きくすることで出力画像における前フレームの影響を少なくし、動きによる画像のぼけを低減している。
フレーム間相関処理にしても空間コンパウンド処理にしても、従来の方式では、基準の画像フレームに対して加算する画像フレームにアーティファクト等の異常部分が含まれていてもそれがそのまま加算されてしまう。加算によりアーティファクト等の異常部分の影響は薄まるものの、異常部分を積極的に識別して対処するものとはいえない。フレームレートに応じて相関係数(すなわち重み付け加算の重み)を制御する方式も、結局のところ画像全体について一律にその係数を適用するものに過ぎず、アーティファクト等の異常部分を識別して選択的に対処するものとはならない。 Regardless of the inter-frame correlation process or the spatial compound process, even if an abnormal part such as an artifact is included in the image frame to be added to the reference image frame, it is added as it is. Although the influence of abnormal parts such as artifacts is reduced by the addition, it cannot be said that the abnormal parts are positively identified and dealt with. The method of controlling the correlation coefficient according to the frame rate (that is, the weight of weighted addition) is, after all, only applying the coefficient uniformly to the entire image, and selectively identifying abnormal parts such as artifacts. It will not deal with.
特許文献3の方式は画素ごとに相関係数(重み付け加算の重み)を変化させるものではあるが、この方式は画素値が大きいほどS/N比が良いという考え方に基づいた方式である。画素値の大小はアーティファクト等の異常の有無と関係がほとんど無いので、この方式もアーティファクト等の異常部分を積極的に識別して対処するものとはいえない。
Although the method of
本発明は、複数の超音波エコー画像を用いてアーティファクト等の異常部分を識別し、その識別結果に応じた表示画像を生成できるようにする。 The present invention makes it possible to identify abnormal parts such as artifacts using a plurality of ultrasonic echo images and generate a display image according to the identification result.
本発明に係る超音波診断装置は、超音波ビームを被検体内に送受波することにより、基準エコー画像と補助エコー画像とを生成する送受波手段と、前記基準エコー画像と前記補助エコー画像との間で、画素ごとに、当該画素を中心とするあらかじめ定めたサイズのブロック同士の類似度を計算する類似度計算手段と、前記基準エコー画像と前記補助エコー画像とを重み付け加算して表示画像を生成する表示画像生成手段であって、前記類似度計算手段が計算した画素ごとの類似度に応じて、前記重み付け加算における前記基準エコー画像の重みと前記補助エコー画像の重みとを画素ごとに制御する表示画像生成手段と、を備える。 An ultrasonic diagnostic apparatus according to the present invention includes a transmission / reception unit that generates a reference echo image and an auxiliary echo image by transmitting and receiving an ultrasonic beam into a subject, the reference echo image, and the auxiliary echo image. Between each pixel, a similarity calculation means for calculating a similarity between blocks of a predetermined size centered on the pixel, and a display image obtained by weighted addition of the reference echo image and the auxiliary echo image Display image generation means for generating the weight of the reference echo image and the weight of the auxiliary echo image in the weighted addition for each pixel according to the similarity for each pixel calculated by the similarity calculation means Display image generation means for controlling.
この構成によれば、基準エコー画像と補助エコー画像との間で、画素ごとに、画素を中心とするあらかじめ定めたサイズのブロック同士の類似度に応じて、それら両エコー画像の重み付け加算を制御することができる。 According to this configuration, weighted addition of both echo images is controlled between the reference echo image and the auxiliary echo image for each pixel according to the degree of similarity between blocks of a predetermined size centered on the pixel. can do.
1つの態様では、前記表示画像生成手段は、前記類似度計算手段が計算した類似度があらかじめ定めた閾値未満の画素については、前記表示画像に対する前記基準エコー画像の重みと前記補助エコー画像の重みとをともに0とし、異常画素であることを示すあらかじめ定められた値を前記表示画像における当該画素についての重み付け加算結果の値とする。 In one aspect, the display image generation means, for pixels whose similarity calculated by the similarity calculation means is less than a predetermined threshold, weights of the reference echo image and the auxiliary echo image for the display image Both are set to 0, and a predetermined value indicating an abnormal pixel is set as a value of a weighted addition result for the pixel in the display image.
この態様によれば、閾値未満という低い類似度を持つ異常画素ついては閾値以上の類似度を持つ画素と区別して表示することができる。 According to this aspect, an abnormal pixel having a low similarity of less than a threshold can be displayed separately from a pixel having a similarity equal to or higher than the threshold.
別の態様では、前記送受波手段は、第1の領域を超音波ビームで電子走査することで前記基準エコー画像を生成する第1の振動子アレイと、前記第1の振動子アレイとは異なる位置から、前記第1の領域と少なくとも部分的に重複する重複領域を含む第2の領域を走査することで前記補助エコー画像を生成するための第2の振動子アレイと、を含む。 In another aspect, the transmission / reception means is different from the first transducer array that generates the reference echo image by electronically scanning the first region with an ultrasonic beam. And a second transducer array for generating the auxiliary echo image by scanning a second region including an overlapping region at least partially overlapping the first region from the position.
更に別の態様では、前記第2の振動子アレイは前記第1の振動子アレイに対して角度変更可能に配設されており、前記表示画像生成手段は、前記第1の振動子アレイに対して前記第2の振動子アレイがなす角度に応じて、前記基準エコー画像と前記補助エコー画像との間での前記重複領域における同一位置の画素を特定し、特定した同一位置の画素の値について前記重み付け加算を行う。 In still another aspect, the second transducer array is disposed so that the angle of the second transducer array can be changed with respect to the first transducer array, and the display image generation unit is configured to be connected to the first transducer array. The pixel at the same position in the overlapping region between the reference echo image and the auxiliary echo image is specified according to the angle formed by the second transducer array, and the value of the specified pixel at the same position is determined. The weighted addition is performed.
更に別の態様では、前記表示画像生成手段は、前記基準エコー画像のうち、前記重複領域の各画素は前記基準エコー画像と前記補助エコー画像との前記重み付け加算により得られた値とし、前記重複領域以外の各画素は前記基準エコー画像の値とする表示画像を生成する。 In still another aspect, the display image generating means uses the overlapped area of each pixel of the reference echo image as a value obtained by the weighted addition of the reference echo image and the auxiliary echo image. Each pixel other than the region generates a display image having the value of the reference echo image.
本発明によれば、超音波エコー画像間でのブロック同士の画像の類似度に基づきアーティファクト等の異常部分を識別し、その識別結果に応じた表示画像を生成できる。 According to the present invention, it is possible to identify abnormal parts such as artifacts based on the similarity of images between blocks between ultrasonic echo images, and to generate a display image according to the identification result.
図1を参照して、実施形態の超音波診断装置の構成例について説明する。図示の超音波診断装置は、それぞれ電子走査により二次元エコー断層画像を生成する2つの超音波プローブ10A及び10Bを備える。超音波プローブ10A及び10Bの電子走査形状は特に限定されないが、以下では説明を簡潔にするために、共にリニア走査であるとする。超音波プローブ10Bは、ヒンジ等により超音波プローブ10Aに対して回転可能に接続されている。すなわち超音波プローブ10Aと10Bとは鋏のように開閉動作可能である。超音波プローブ10A及び10Bの振動子アレイにおける振動子の配列方向は同一平面内にあり、それらプローブ10A及び10Bの開閉の回転軸はその平面に垂直な方向である。両プローブ10A及び10Bが共にリニア走査であれば、それら両者の送受波面のなす角度が180度未満であれば、各プローブ10Aと10Bの走査範囲が互いに重複する。
With reference to FIG. 1, the structural example of the ultrasound diagnosing device of embodiment is demonstrated. The illustrated ultrasonic diagnostic apparatus includes two
送受信部12A及び12Bは、それぞれ、対応する超音波プローブ10Aと10Bを駆動・制御して超音波ビームの送受信及び電子走査を実現する。送受信部12A及び12Bは、送信部の機能と受信部の機能を備える。送信部は送信ビームフォーマーとして機能する。すなわち、送信部から複数の送信信号が超音波プローブ10A又は10Bの複数の振動子に対して供給される。これによってプローブ10A又は10Bから超音波ビームパルスが生体内に放射される。生体内からの反射波は、プローブ10A又は10Bにて受波される。これにより複数の振動子から複数の受信信号が出力される。それらの受信信号は送受信部12A又は12Bの受信部に入力される。受信部は受信ビームフォーマーとして機能し、複数の受信信号に対して整相加算処理を適用する。
The transmission /
送受信部12A及び12Bから出力された受信信号は、検波器14A及び14Bによりそれぞれ検波され、対数圧縮部16A及び16Bによりそれぞれ対数圧縮される。対数圧縮後の受信信号は、DSC(デジタル・スキャン・コンバータ)18A及び18Bによりそれぞれ表示用の座標系へと走査変換される。ここで、例えば角度検出部24(例えば角度エンコーダ)が超音波プローブ10Aと10Bとがなす角度θを検出し、その角度θの情報を例えばDSC18Bに供給する。この場合DSC18Bは、この角度θの情報を用いて、超音波プローブ10Bの受信信号の座標系を超音波プローブ10Aの座標系に合わせるように座標変換を行う。この場合、超音波プローブ10Aの座標系が表示の座標系である。また、DSC18A及び18Bは、走査変換の際に、受信信号データが存在しない座標格子点のデータを、周囲の各点の受信信号データから補間により求める。DSC18A及び18Bは、1回の電子走査の受信信号から、表示座標系に合った1フレームのエコー画像をそれぞれ生成する。各エコー画像フレームは、Bモード画像である。
The received signals output from the transmission /
DSC18A及び18Bによりそれぞれ形成されたエコー画像フレームは、合成部20により合成され、1つの表示画像フレームとなる。この例では、超音波プローブ10Aが生成するエコー画像フレームを基準画像とし、この基準画像を超音波プローブ10Bが生成する同時相のエコー画像フレームにより改善する。すなわち、超音波プローブ10Bが生成するエコー画像フレームは補助画像として用いられる。例えば、図2に例示するように、超音波プローブ10Aの電子走査範囲100A中のある部分が表示器22に表示される表示範囲200となる。この表示範囲200のうち、超音波プローブ10Bの電子走査範囲100Bと重複する領域の表示画像は、それらプローブ10Aと10Bのエコー画像を合成することで生成される。一方、表示範囲200のうち、電子走査範囲100Bと重ならない部分については、合成部20はプローブ10Aのエコー画像のみを出力する。なお、同時相の2つのフレームは、厳密に同一時刻のものでなくてもよい。
The echo image frames respectively formed by the
合成部20が生成した表示範囲200の表示画像フレームは、表示器22に表示される。表示器22は、例えば液晶ディスプレイやCRTなどの表示装置である。
The display image frame of the
次に合成部20における、電子走査範囲100Aと100Bとの重複領域での画像合成処理について説明する。
Next, image composition processing in the overlapping area of the
この処理では、超音波プローブ10Aが生成した基準画像フレーム300Aと、超音波プローブ10Bが生成した補助画像フレーム300Bとの間で、同一位置の画素同士の値を合成する。超音波プローブ10Bの受信信号はDSC18Bにより超音波プローブ10Aの座標系へと変換されているので、基準画像フレーム300Aと補助画像フレーム300Bとの間で同じ画素位置の画素同士を合成すればよい。
In this process, the values of pixels at the same position are synthesized between the reference image frame 300A generated by the
この合成において、この実施形態では、当該画素を中心とするあらかじめ定めた画素サイズの画素ブロック(以下、ROIと呼ぶ。ROIはRegion Of Interestの略)同士の画像の類似度を計算し、この類似度に応じて合成の際の基準画像フレーム300Aと補助画像フレーム300Bの各画素値の重みを制御する。ROIのサイズは、例えば3×3画素、あるいは5×5画素などでよい。
In this synthesis, in this embodiment, the similarity of images between pixel blocks (hereinafter referred to as ROI, which is referred to as ROI, where ROI is an abbreviation of Region Of Interest) centered on the pixel is calculated. The weight of each pixel value of the reference image frame 300A and the
すなわち、図3に模式的に示すように、基準画像フレーム300Aにおける当該画素を中心とするROI1と、補助画像フレーム300Bにおける当該画素を中心とするROI2との間の画像の類似度に応じて、基準画像フレーム300Aにおける当該画素の重みa1,及び補助画像フレーム300Bにおける当該画素の重みa2を求める。そして、それら各画素の値にそれぞれ対応する重みを乗算し、その乗算結果同士を加算する。重複領域の全画素についてこのような類似度に基づく重み付け加算を行うことで、重複領域の表示画像350が求められる。なお、表示範囲200のうち重複領域以外の領域は、基準画像フレーム300Aの画像をそのまま用いる。
That is, as schematically shown in FIG. 3, the image similarity between the ROI 1 centered on the pixel in the reference image frame 300A and the ROI 2 centered on the pixel in the
ROI同士の画像の類似度としては、例えばROI同士の相互相関係数を用いることができる。画像x(t)と画像y(t)の相互相関係数Rxyは、例えば次式で求めることができる。 For example, a cross-correlation coefficient between ROIs can be used as the similarity between ROI images. The cross-correlation coefficient R xy between the image x (t) and the image y (t) can be obtained by the following equation, for example.
ここで、tはROI内での画素の順番を表すインデックス番号であり、x(t)、y(t)はそれぞれの画像におけるt番目の画素の値である。mx、myは、各ROI内での画素値の平均である。また、Σは、ROI内の全画素についての総和演算を示す。 Here, t is an index number representing the order of pixels in the ROI, and x (t) and y (t) are values of the t-th pixel in each image. m x, m y is the average of the pixel values in each ROI. Further, Σ indicates a summation operation for all pixels in the ROI.
また、ROI同士の画像の類似度として、次式で表されるNSAD(Normalized Sum of Absolute Difference)を用いてもよい。 Further, NSAD (Normalized Sum of Absolute Difference) represented by the following equation may be used as the similarity between images of ROIs.
例えば相互相関係数を用いる場合、その値が0に近いほど両画像の類似度は低く、1に近いほど両画像の類似度は高い。基準画像フレーム300A及び補助画像フレーム300BのROIをそれぞれ画像x(t)、y(t)として、上述のいずれかの計算式により類似度を計算すればよい。なお、相互相関係数及びNSADは類似度の一例に過ぎない。
For example, when the cross-correlation coefficient is used, the similarity between both images is lower as the value is closer to 0, and the similarity between both images is higher as the value is closer to 1. The similarity may be calculated by any one of the above-described calculation formulas using the ROIs of the reference image frame 300A and the
また、この実施形態では、ROIの画像同士の類似度についての閾値をあらかじめ定めておく。ある画素について合成部20が計算した類似度がその閾値未満である場合には、その画素については、基準画像フレーム300A又は補助画像フレーム300Bの一方にアーティファクトや外来ノイズ混入等の異常が発生していると判断する。両画像における同一位置の部分は、生体内の同じ部分を表すものなので、本来であれば同一か近い画像となり類似度は高いはずである。したがって、類似度がかなり低くなった場合、何らかの異常が生じていると判断できる。類似度の閾値は、異常を判定するものなので、低い値とする。例えば類似度として相互相関係数を用い、閾値を例えば0.1などと設定するなどである。閾値は、この超音波診断装置を利用するユーザが、どの程度を異常と判断するかに応じて設定できるようにしてもよい。
In this embodiment, a threshold value for the similarity between ROI images is determined in advance. When the similarity calculated by the
そして、この実施形態では、類似度が閾値より低く異常が発生していると判断される画素については、1つの例として、両画像における当該画素に割り当てる重みを共に0とし、その画素の値を、異常であることを示すあらかじめ定めた固定値とする。異常であることを示す固定値は例えば0としてもよい。この場合、類似度が閾値未満となった画素は画素値0なので、Bモード画像上では画像がない状態(すなわち真っ黒)となるが、1画素がそのようになっても見た目の影響は少ない。また、別の例として、異常な画素であることを示す固定値として、通常のBモード画像のグレースケールでは使わない値を割り当てておき、表示器22が表示する際にその固定値の画素を、あらかじめ定めた色で表示するようにしてもよい。この場合、ユーザは、異常が生じた画素を識別でき、例えば診断のための情報として活用できる。
In this embodiment, for a pixel whose similarity is determined to be lower than a threshold and an abnormality has occurred, as an example, the weight assigned to the pixel in both images is set to 0, and the value of the pixel is It is a predetermined fixed value indicating abnormal. The fixed value indicating the abnormality may be 0, for example. In this case, the pixel whose similarity is less than the threshold value has a pixel value of 0, so that there is no image on the B-mode image (that is, black), but even if one pixel becomes so, the visual effect is small. As another example, a value that is not used in a gray scale of a normal B-mode image is assigned as a fixed value indicating an abnormal pixel, and the pixel having the fixed value is displayed when the
一方、類似度が閾値以上の画素については、類似度に応じて例えば次式を用いて重みa1及びa2を求める。 On the other hand, for the pixels whose similarity is greater than or equal to the threshold, the weights a 1 and a 2 are obtained using the following equation, for example, according to the similarity.
ここで、R12は基準画像フレーム300Aと補助画像フレーム300BのROI同士の類似度である。この式では、類似度が1の時に基準画像フレーム300Aと補助画像フレーム300Bの重みが共に0.5と等しくなり、類似度が閾値以上1未満では基準画像フレーム300Aについての重みの方が大きくなる。なお、類似度から重みa1及びa2を求める計算式は、例示のものに限らない。
Wherein, R 12 is similarity ROI between the reference image frame 300A and the
このように重みa1及びa2を求めると、合成部20は、基準画像フレーム300A及び補助画像フレーム300Bの当該画素の値にそれぞれ重みa1及びa2を乗算し、その乗算結果同士を加算することで、表示画像における当該画素の値を求め、表示画像用のメモリ領域の当該画素のアドレスに書き込む。
When the weights a 1 and a 2 are obtained in this way, the
以上の例によれば、基準画像フレーム300Aと補助画像フレーム300Bとの間でROI同士の類似度が低い画素を異常画素とし、異常画素を表示しなくしたり、あるいは明確に識別できるように表示したりすることができる。
According to the above example, a pixel having a low similarity between ROIs between the reference image frame 300A and the
以上の例では、類似度が閾値以下の画素は固定値としたが、この代わりにそのような画素については、基準画像フレーム300Aの画素値をそのまま用いるようにしてもよい。この場合、次のような効果を期待できる。 In the above example, pixels whose similarity is equal to or less than the threshold value are fixed values. Instead, for such pixels, the pixel values of the reference image frame 300A may be used as they are. In this case, the following effects can be expected.
すなわち、以上に説明した複数の超音波プローブ10Aと10Bのエコー画像を重ね合わせて表示画像を生成する装置では、各プローブの空間的な位置が隔たっており、各プローブの視野範囲が異なる。このため、それぞれのプローブから見た媒質(生体)の音速分布は異なっていると考えられる。この状態で、各プローブの画像フレームを単純に重ね合わせる(加算する)と、目標臓器の画像がうまく重ならず、にじんだりぼやけたりした画像となる。これに対し、各プローブの画像フレーム間の類似度に応じて表示画像を構成するこの実施形態の方式によれば、にじみやぼやけを抑えつつ、良好な画像合成を行うことができる。
That is, in the apparatus that generates a display image by superimposing the echo images of the plurality of
以上に説明した実施形態の方式は、3つ以上の超音波プローブ10Aからなるプローブシステムにも適用可能である。一例として、図4に例示する3つの超音波プローブ10A,10B,10Cからなるプローブシステムを用いた超音波診断装置を説明する。
The method of the embodiment described above can be applied to a probe system including three or more
この例では、超音波プローブ10Aの一方端に超音波プローブ10Bが、他方端に超音波プローブ10Cが、それぞれその端部を回転軸として回転可能に取り付けられている。この例でもプローブ10Aの超音波画像を基準画像フレームとし、プローブ10B及び10Cの超音波画像をそれぞれ補助画像フレームとする。この場合、基準画像フレームの表示範囲200は、3つのプローブ10A,10B,10Cの電子走査範囲100A,100B,100Cの全てが重複する領域、それら3つのうちの2つが重複する領域、及び電子走査範囲100Aのみの領域に分類される。電子走査範囲100Aのみの領域はプローブ10Aの信号のみを用いればよく、2つが重複する領域は上述の図1の例と同様に処理すればよい。
In this example, the
3つの範囲が重複する領域については、図5に模式的に示すように、補助画像フレーム300B(超音波プローブ10Bが生成した画像)、基準画像フレーム300A及び300C(超音波プローブ10Cが生成した画像)における同一位置(生体内の絶対位置が同じ)の画素の値を、それら画像間の類似度に応じた重みa1,a2,a3により重み付けして加算することで、出力用の表示画像350を形成する。
For the region where the three ranges overlap, as schematically shown in FIG. 5, the
各画像の画素値に割り当てる重みa1,a2,a3は図6に示す表が表す分類に従って求める。この表において、E12は、基準画像フレーム300Aと補助画像フレーム300BのROI同士の類似度R12についての評価値であり、R12が閾値以上であれば1、閾値未満であれば0とする。同様にE13は、基準画像フレーム300Aと補助画像フレーム300CのROI同士の類似度R13が閾値以上であれば1、閾値未満であれば0とし、E23は、補助画像フレーム300Bと補助画像フレーム300CのROI同士の類似度R23が閾値以上であれば1,閾値未満であれば0とする。また、図6の表において、第1フレームは補助画像フレーム300B、第2フレームは基準画像フレーム300A、第3フレームは補助画像フレーム300Cである。
The weights a 1 , a 2 , and a 3 assigned to the pixel values of each image are obtained according to the classification represented by the table shown in FIG. In this table, E 12 is an evaluation value for the similarity R 12 in ROI between the reference image frame 300A and the
図6の表に示すように、この例では、評価値E12、E23、E13の全てが1である場合には、3つの画像フレーム全てを用いて表示画像350を生成する。このとき、基準画像フレーム300A、補助画像フレーム300B及び300Cに割り当てる重みa1,a2,a3は次式により計算する。
As shown in the table of FIG. 6, in this example, when all of the evaluation values E 12 , E 23 , and E 13 are 1, the
この式では類似度R12、R23、R13の全てが1のとき、基準画像フレーム300Aの重みa2が0.5となり、補助画像フレーム300B及び300Cの重みは共に0.25となる。 In this formula, when all of the similarities R 12 , R 23 , and R 13 are 1, the weight a 2 of the reference image frame 300A is 0.5, and the weights of the auxiliary image frames 300B and 300C are both 0.25.
また、評価値E12とE23が1で、E13が0ある場合も同様に3つの画像フレーム全てを用いて式(5)〜(7)により求めた重みa1,a2,a3を用いて重み付け加算を行う。この場合、補助画像フレーム300B及び300Cは、共に基準画像フレーム300Aに対して閾値以上の類似度を持っているので、両方を補助として用いて表示画像を生成するのである。 Similarly, when the evaluation values E 12 and E 23 are 1 and E 13 is 0, the weights a 1 , a 2 , a 3 obtained by the equations (5) to (7) using all three image frames are similarly used. Is used for weighted addition. In this case, since both the auxiliary image frames 300B and 300C have a similarity equal to or higher than the threshold with respect to the reference image frame 300A, the display image is generated using both as auxiliary.
次に、評価値E12とE13が1で、E23が0ある場合、補助画像フレーム300Bは基準画像フレーム300Aに対して閾値以上の類似度で似ているが、補助画像フレーム300Cはそうではない。補助画像フレーム300Bと300Cとはある程度似ているが、基準画像フレーム300Aを補助画像フレームの補助により画質改善するという観点では、基準画像フレーム300Aに似ていない補助画像フレーム300Cは画質改善には用いない。このケースでは、次式(8)〜(10)で求めた重みa1,a2,a3を用いて画素値を重み付け加算する。
Next, when the evaluation values E 12 and E 13 are 1 and E 23 is 0, the
評価値E12が1で、E23とE13が0ある場合も同様に、式(8)〜(10)で求めた重みa1,a2,a3を用いて画素値を重み付け加算する。 Similarly, when the evaluation value E 12 is 1 and E 23 and E 13 are 0, the pixel values are weighted and added using the weights a 1 , a 2 , and a 3 obtained in the equations (8) to (10). .
次に、評価値E23とE13が1で、E12が0ある場合、補助画像フレーム300Cは基準画像フレーム300Aに対して閾値以上の類似度で似ているが、補助画像フレーム300Bはそうではない。補助画像フレーム300Bと300Cとはある程度似ているが、基準画像フレーム300Aを補助画像フレームの補助により画質改善するという観点では、基準画像フレーム300Aに似ていない補助画像フレーム300Bは画質改善には用いない。このケースでは、次式(11)〜(13)で求めた重みa1,a2,a3を用いて画素値を重み付け加算する。
Next, when the evaluation values E 23 and E 13 are 1 and E 12 is 0, the
評価値E23が1で、E12とE13が0ある場合も同様に、式(11)〜(13)で求めた重みa1,a2,a3を用いて画素値を重み付け加算する。 Similarly, when the evaluation value E 23 is 1 and E 12 and E 13 are 0, the pixel values are weighted and added using the weights a 1 , a 2 , and a 3 obtained in the equations (11) to (13). .
評価値E13が1で、E12とE23が0ある場合は、補助画像フレーム300Bと300Cとはある程度似ているが、どちらも基準画像フレーム300Aとは似ていない。このケースは、基準画像フレーム300Aのみにアーティファクト又はノイズなどの異常が発生していると考えられる。この場合、基準画像フレーム300Aを補助画像フレームにより改善するという基本的な考え方からは例外的なケースとして、補助画像フレーム300Bと300Cの画素値を、次式(14)〜(16)に示す重みを用いて重み付け加算する。
In the evaluation value E 13 is 1, if the E 12 and E 23 is 0, although somewhat similar to the
そして、評価値E12、E23、E13の全てが0である場合には、当該画素には異常が生じていると判断し、次式(17)〜(19)に示すように全ての重みa1,a2,a3を0とし、表示画像350の当該画素の値をあらかじめ定めた固定値とする。
When all of the evaluation values E 12 , E 23 , and E 13 are 0, it is determined that the pixel has an abnormality, and all of the evaluation values E 12 , E 23 , and E 13 are determined as shown in the following equations (17) to (19) The weights a 1 , a 2 , and a 3 are set to 0, and the value of the pixel of the
合成部20は、図6に示す判定ルールと式(5)〜(19)の重み計算式とを、プログラム又はデータ又はそれら両方の組合せ、あるいはハードウエア演算回路とそれらとの組合せにより実現するものであればよい。
The
以上では1次元アレイの超音波プローブを用いる場合を例にとったが、二次元アレイのプローブを用いる場合も、両者がそれぞれ求めるボリュームデータの重複領域について、上述の合成処理が適用できる。 In the above, the case of using an ultrasonic probe of a one-dimensional array is taken as an example, but the above-described synthesis process can also be applied to the overlapping areas of volume data respectively obtained by both when using a probe of a two-dimensional array.
また、超音波プローブ10A及び10B(及び10C)のエコー画像フレームに対してそれぞれフレーム間相関処理を行い、その処理結果の各フレームに対し、上述の合成部20に寄る合成処理を行うようにしてもよい。
Further, inter-frame correlation processing is performed on the echo image frames of the
また以上では、複数の超音波プローブの画像を合成する場合を例にとったが、上述の合成処理は、単体のプローブでのフレーム間相関処理において、異なる時点の複数フレームを合成したり、単体のプローブによる空間コンパウンド処理にて異なるビーム方向についての画像フレーム同士を合成したりする場合にも適用可能である。この場合、画像フレームを合成する合成部20の信号処理系内での設置箇所は、DSCの後段に限らず、検波器と対数圧縮部との間、あるいは対数圧縮部とDSCとの間であってもよい。
In the above, the case of synthesizing images of a plurality of ultrasonic probes has been taken as an example. However, the above-described synthesis processing is performed by synthesizing a plurality of frames at different points in the inter-frame correlation processing with a single probe, The present invention can also be applied to a case where image frames for different beam directions are synthesized by spatial compound processing using a probe. In this case, the installation location in the signal processing system of the
10A,10B 超音波プローブ、12A,12B 送受信部、14A,14B 検波器、16A,16B 対数圧縮部、18A,18B DSC、20 合成部、22 表示器。 10A, 10B ultrasonic probe, 12A, 12B transmission / reception unit, 14A, 14B detector, 16A, 16B logarithmic compression unit, 18A, 18B DSC, 20 synthesis unit, 22 display.
Claims (5)
前記基準エコー画像と前記補助エコー画像との間で、画素ごとに、当該画素を中心とするあらかじめ定めたサイズのブロック同士の類似度を計算する類似度計算手段と、
前記基準エコー画像と前記補助エコー画像とを重み付け加算して表示画像を生成する表示画像生成手段であって、前記類似度計算手段が計算した画素ごとの類似度に応じて、前記重み付け加算における前記基準エコー画像の重みと前記補助エコー画像の重みとを画素ごとに制御する表示画像生成手段と、
を備える超音波診断装置。 Transmitting / receiving means for generating a reference echo image and an auxiliary echo image by transmitting and receiving an ultrasonic beam into the subject;
A similarity calculation means for calculating a similarity between blocks of a predetermined size centered on the pixel for each pixel between the reference echo image and the auxiliary echo image;
Display image generation means for generating a display image by weighted addition of the reference echo image and the auxiliary echo image, and according to the similarity for each pixel calculated by the similarity calculation means, the weighted addition in the weighted addition Display image generating means for controlling the weight of the reference echo image and the weight of the auxiliary echo image for each pixel;
An ultrasonic diagnostic apparatus comprising:
第1の領域を超音波ビームで電子走査することで前記基準エコー画像を生成する第1の振動子アレイと、
前記第1の振動子アレイとは異なる位置から、前記第1の領域と少なくとも部分的に重複する重複領域を含む第2の領域を走査することで前記補助エコー画像を生成するための第2の振動子アレイと、
を含む、
ことを特徴とする請求項1又は2に記載の超音波診断装置。 The wave transmitting / receiving means includes
A first transducer array that electronically scans a first region with an ultrasonic beam to generate the reference echo image;
A second region for generating the auxiliary echo image by scanning a second region including an overlapping region at least partially overlapping with the first region from a position different from the first transducer array. A transducer array;
including,
The ultrasonic diagnostic apparatus according to claim 1 or 2.
前記表示画像生成手段は、前記第1の振動子アレイに対して前記第2の振動子アレイがなす角度に応じて、前記基準エコー画像と前記補助エコー画像との間での前記重複領域における同一位置の画素を特定し、特定した同一位置の画素の値について前記重み付け加算を行う、
ことを特徴とする請求項3記載の超音波診断装置。 The second transducer array is disposed such that the angle can be changed with respect to the first transducer array,
The display image generation unit is configured to perform the same operation in the overlapping region between the reference echo image and the auxiliary echo image according to an angle formed by the second transducer array with respect to the first transducer array. The pixel at the position is specified, and the weighted addition is performed on the value of the pixel at the same specified position.
The ultrasonic diagnostic apparatus according to claim 3.
ことを特徴とする請求項3記載の超音波診断装置。 The display image generation means uses the value obtained by the weighted addition of the reference echo image and the auxiliary echo image for each pixel in the overlap area in the reference echo image, Generating a display image as a value of the reference echo image;
The ultrasonic diagnostic apparatus according to claim 3.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008192246A JP5063515B2 (en) | 2008-07-25 | 2008-07-25 | Ultrasonic diagnostic equipment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008192246A JP5063515B2 (en) | 2008-07-25 | 2008-07-25 | Ultrasonic diagnostic equipment |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010029281A true JP2010029281A (en) | 2010-02-12 |
JP5063515B2 JP5063515B2 (en) | 2012-10-31 |
Family
ID=41734499
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008192246A Expired - Fee Related JP5063515B2 (en) | 2008-07-25 | 2008-07-25 | Ultrasonic diagnostic equipment |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5063515B2 (en) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013188311A (en) * | 2012-03-13 | 2013-09-26 | Canon Inc | Signal processor used for subject information acquisition apparatus and method for acquiring subject information |
JP2013255697A (en) * | 2012-06-13 | 2013-12-26 | Canon Inc | Object information acquiring apparatus and control method thereof |
KR101415667B1 (en) | 2012-08-27 | 2014-07-04 | 한국디지털병원수출사업협동조합 | Images from three-dimensional ultrasound scans to determine the devices and methods |
JP2014140716A (en) * | 2012-12-28 | 2014-08-07 | Canon Inc | Subject information obtaining apparatus, control method of subject information obtaining apparatus, and program |
WO2014208258A1 (en) * | 2013-06-28 | 2014-12-31 | 富士フイルム株式会社 | Diagnostic ultrasound apparatus, image-rendering method and program |
US9164171B2 (en) | 2011-02-21 | 2015-10-20 | Samsung Electronics Co., Ltd. | Method of ultrasonic beamforming and apparatus therefor |
JP2015213575A (en) * | 2014-05-08 | 2015-12-03 | 株式会社東芝 | Ultrasonic diagnostic device and ultrasonic imaging program |
KR20160039138A (en) * | 2014-09-30 | 2016-04-08 | 지멘스 메디컬 솔루션즈 유에스에이, 인크. | Shadow suppression in ultrasound imaging |
JP2016093277A (en) * | 2014-11-13 | 2016-05-26 | 株式会社東芝 | Medical image processing apparatus, ultrasonic diagnostic apparatus, medical image processing method and medical image processing program |
JP2016221264A (en) * | 2015-05-27 | 2016-12-28 | シーメンス メディカル ソリューションズ ユーエスエー インコーポレイテッドSiemens Medical Solutions USA,Inc. | Knowledge-based ultrasound image enhancement |
JP2017519558A (en) * | 2014-05-30 | 2017-07-20 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | Acquisition of synchronized phased array data from multiple acoustic windows |
JP2019030736A (en) * | 2013-04-03 | 2019-02-28 | バタフライ ネットワーク,インコーポレイテッド | Portable electronic devices with integrated imaging capabilities |
KR20190092781A (en) * | 2018-01-31 | 2019-08-08 | 삼성메디슨 주식회사 | Ultrasonic probe |
CN110248302A (en) * | 2019-05-29 | 2019-09-17 | 苏州佳世达电通有限公司 | Ultrasound scanner head checking system and the ultrasound scanner head method of inspection |
CN112702957A (en) * | 2018-05-31 | 2021-04-23 | 马特麦格拉斯设计有限公司 | Medical imaging method using multiple arrays |
CN114287963A (en) * | 2021-12-30 | 2022-04-08 | 重庆海扶医疗科技股份有限公司 | Image processing method, apparatus, electronic device and computer readable medium |
CN119509651A (en) * | 2025-01-21 | 2025-02-25 | 张家港长寿工业设备制造有限公司 | A steam gas-liquid separator and a real-time liquid level monitoring method thereof |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5652046A (en) * | 1979-10-05 | 1981-05-09 | Shimadzu Corp | Ultrasonic diagnosis apparatus |
JPH02228950A (en) * | 1989-03-01 | 1990-09-11 | Toshiba Corp | Image signal processing circuit of ultrasonic diagnostic apparatus |
JPH11128222A (en) * | 1997-11-04 | 1999-05-18 | Aloka Co Ltd | Ultrasonic diagnosis equipment |
JP2000350729A (en) * | 1999-06-10 | 2000-12-19 | Ge Yokogawa Medical Systems Ltd | Method for suppressing interference artifact and ultrasonic diagnosis system |
JP2002177273A (en) * | 2000-12-12 | 2002-06-25 | Toshiba Corp | Ultrasonic diagnostic device |
JP2003135454A (en) * | 2001-10-25 | 2003-05-13 | Ge Medical Systems Global Technology Co Llc | Ultrasonic diagnostic instrument |
-
2008
- 2008-07-25 JP JP2008192246A patent/JP5063515B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5652046A (en) * | 1979-10-05 | 1981-05-09 | Shimadzu Corp | Ultrasonic diagnosis apparatus |
JPH02228950A (en) * | 1989-03-01 | 1990-09-11 | Toshiba Corp | Image signal processing circuit of ultrasonic diagnostic apparatus |
JPH11128222A (en) * | 1997-11-04 | 1999-05-18 | Aloka Co Ltd | Ultrasonic diagnosis equipment |
JP2000350729A (en) * | 1999-06-10 | 2000-12-19 | Ge Yokogawa Medical Systems Ltd | Method for suppressing interference artifact and ultrasonic diagnosis system |
JP2002177273A (en) * | 2000-12-12 | 2002-06-25 | Toshiba Corp | Ultrasonic diagnostic device |
JP2003135454A (en) * | 2001-10-25 | 2003-05-13 | Ge Medical Systems Global Technology Co Llc | Ultrasonic diagnostic instrument |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9164171B2 (en) | 2011-02-21 | 2015-10-20 | Samsung Electronics Co., Ltd. | Method of ultrasonic beamforming and apparatus therefor |
JP2013188311A (en) * | 2012-03-13 | 2013-09-26 | Canon Inc | Signal processor used for subject information acquisition apparatus and method for acquiring subject information |
JP2013255697A (en) * | 2012-06-13 | 2013-12-26 | Canon Inc | Object information acquiring apparatus and control method thereof |
KR101415667B1 (en) | 2012-08-27 | 2014-07-04 | 한국디지털병원수출사업협동조합 | Images from three-dimensional ultrasound scans to determine the devices and methods |
JP2014140716A (en) * | 2012-12-28 | 2014-08-07 | Canon Inc | Subject information obtaining apparatus, control method of subject information obtaining apparatus, and program |
JP2019030736A (en) * | 2013-04-03 | 2019-02-28 | バタフライ ネットワーク,インコーポレイテッド | Portable electronic devices with integrated imaging capabilities |
WO2014208258A1 (en) * | 2013-06-28 | 2014-12-31 | 富士フイルム株式会社 | Diagnostic ultrasound apparatus, image-rendering method and program |
JP2015213575A (en) * | 2014-05-08 | 2015-12-03 | 株式会社東芝 | Ultrasonic diagnostic device and ultrasonic imaging program |
JP2017519558A (en) * | 2014-05-30 | 2017-07-20 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | Acquisition of synchronized phased array data from multiple acoustic windows |
US11366208B2 (en) | 2014-05-30 | 2022-06-21 | Koninklijke Philips N.V. | Synchronized phased array data acquisition from multiple acoustic windows |
JP2016067929A (en) * | 2014-09-30 | 2016-05-09 | シーメンス メディカル ソリューションズ ユーエスエー インコーポレイテッドSiemens Medical Solutions USA,Inc. | Shadow suppression in ultrasound imaging |
KR102014504B1 (en) * | 2014-09-30 | 2019-08-26 | 지멘스 메디컬 솔루션즈 유에스에이, 인크. | Shadow suppression in ultrasound imaging |
KR20160039138A (en) * | 2014-09-30 | 2016-04-08 | 지멘스 메디컬 솔루션즈 유에스에이, 인크. | Shadow suppression in ultrasound imaging |
US10456116B2 (en) | 2014-09-30 | 2019-10-29 | Siemens Medical Solutions Usa, Inc. | Shadow suppression in ultrasound imaging |
US10101450B2 (en) | 2014-11-13 | 2018-10-16 | Toshiba Medical Systems Corporation | Medical image processing apparatus, a medical image processing method and a medical diagnosis apparatus |
JP2016093277A (en) * | 2014-11-13 | 2016-05-26 | 株式会社東芝 | Medical image processing apparatus, ultrasonic diagnostic apparatus, medical image processing method and medical image processing program |
JP2016221264A (en) * | 2015-05-27 | 2016-12-28 | シーメンス メディカル ソリューションズ ユーエスエー インコーポレイテッドSiemens Medical Solutions USA,Inc. | Knowledge-based ultrasound image enhancement |
US10943147B2 (en) | 2015-05-27 | 2021-03-09 | Siemens Medical Solutions Usa, Inc. | Knowledge-based ultrasound image enhancement |
US10430688B2 (en) | 2015-05-27 | 2019-10-01 | Siemens Medical Solutions Usa, Inc. | Knowledge-based ultrasound image enhancement |
KR20190092781A (en) * | 2018-01-31 | 2019-08-08 | 삼성메디슨 주식회사 | Ultrasonic probe |
KR102607016B1 (en) | 2018-01-31 | 2023-11-29 | 삼성메디슨 주식회사 | Ultrasonic probe |
CN112702957A (en) * | 2018-05-31 | 2021-04-23 | 马特麦格拉斯设计有限公司 | Medical imaging method using multiple arrays |
JP2021525632A (en) * | 2018-05-31 | 2021-09-27 | マット・マクグラス・デザイン・アンド・カンパニー,リミテッド・ライアビリティー・カンパニーMatt Mcgrath Design & Co, Llc | Medical imaging method using multiple sequences |
US12303324B2 (en) | 2018-05-31 | 2025-05-20 | Faction Imaging Inc. | Method of medical imaging using multiple arrays |
US12329569B2 (en) | 2018-05-31 | 2025-06-17 | Faction Imaging Inc. | Anatomical attachment device and associated method of use |
CN110248302A (en) * | 2019-05-29 | 2019-09-17 | 苏州佳世达电通有限公司 | Ultrasound scanner head checking system and the ultrasound scanner head method of inspection |
CN114287963A (en) * | 2021-12-30 | 2022-04-08 | 重庆海扶医疗科技股份有限公司 | Image processing method, apparatus, electronic device and computer readable medium |
CN119509651A (en) * | 2025-01-21 | 2025-02-25 | 张家港长寿工业设备制造有限公司 | A steam gas-liquid separator and a real-time liquid level monitoring method thereof |
Also Published As
Publication number | Publication date |
---|---|
JP5063515B2 (en) | 2012-10-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5063515B2 (en) | Ultrasonic diagnostic equipment | |
US6659953B1 (en) | Morphing diagnostic ultrasound images for perfusion assessment | |
US8157737B2 (en) | Method and apparatus for real time spatial compound imaging | |
JP6393703B2 (en) | Continuously adaptive enhanced ultrasound imaging of subvolumes | |
US9123139B2 (en) | Ultrasonic image processing with directional interpolation in order to increase the resolution of an image | |
KR101511083B1 (en) | Apparatus and method for creating tissue doppler image using syntheic image | |
US6872181B2 (en) | Compound image display system and method | |
JP5475516B2 (en) | System and method for displaying ultrasonic motion tracking information | |
JP2006346459A (en) | Method and apparatus for correcting real-time movement of ultrasonic spatial complex imaging | |
KR100954988B1 (en) | Ultrasound System and Method for Forming Ultrasound Images | |
WO2011013346A1 (en) | Ultrasonic diagnostic device | |
JP2009082469A (en) | Ultrasonic diagnostic apparatus and program | |
EP2598907B1 (en) | Motion-compensated processing | |
JP2009172381A (en) | Contrast agent enhanced medical ultrasound diagnostic imaging method, computer-readable storage medium and contrast agent enhanced medical ultrasound diagnostic imaging apparatus | |
US12178635B2 (en) | Ultrasonic imaging system and blood flow imaging method | |
KR101792589B1 (en) | Beamformer, diagnosing system, medical image system and method for displaying diagnosing image | |
CN102743226A (en) | Method and apparatus for generating diagnosis image, diagnosis system, and medical image system | |
JP7076554B2 (en) | Systems and methods for adaptively setting the dynamic range for ultrasound image display | |
JP4363644B2 (en) | Ultrasonic image display method and ultrasonic diagnostic apparatus | |
JP7034686B2 (en) | Ultrasound diagnostic equipment, medical image processing equipment and their programs | |
JP2763126B2 (en) | Color ultrasonic diagnostic equipment | |
JP2019097795A (en) | Ultrasonic diagnostic apparatus, medical image processing apparatus, and program of the same | |
WO2016189955A1 (en) | Ultrasonic diagnostic device and ultrasonic image processing method | |
CN111012379A (en) | Method and system for performing ultrasound imaging | |
JP6132665B2 (en) | Ultrasonic diagnostic equipment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100512 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120216 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120409 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120731 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120807 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150817 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |