JP4513819B2 - Video conversion device, video display device, and video conversion method - Google Patents
Video conversion device, video display device, and video conversion method Download PDFInfo
- Publication number
- JP4513819B2 JP4513819B2 JP2007069758A JP2007069758A JP4513819B2 JP 4513819 B2 JP4513819 B2 JP 4513819B2 JP 2007069758 A JP2007069758 A JP 2007069758A JP 2007069758 A JP2007069758 A JP 2007069758A JP 4513819 B2 JP4513819 B2 JP 4513819B2
- Authority
- JP
- Japan
- Prior art keywords
- interpolation frame
- frame
- video signal
- input video
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 64
- 238000006243 chemical reaction Methods 0.000 title claims description 45
- 239000013598 vector Substances 0.000 claims description 130
- 230000033001 locomotion Effects 0.000 claims description 115
- 238000001514 detection method Methods 0.000 claims description 45
- 230000008569 process Effects 0.000 claims description 37
- 238000009826 distribution Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 11
- 230000007704 transition Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 9
- 230000005484 gravity Effects 0.000 description 7
- 238000004519 manufacturing process Methods 0.000 description 7
- 230000002123 temporal effect Effects 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 3
- 230000003252 repetitive effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Television Systems (AREA)
Description
本発明は、映像処理装置に係り、特に映像信号中のフレームから補間フレームを作成してフレームレート変換を行うための技術に関する。 The present invention relates to a video processing apparatus, and more particularly to a technique for creating an interpolation frame from a frame in a video signal and performing frame rate conversion.
近年、画像のフレーム数を増やすことにより、動画表示におけるぼやけ感やガタガタ感といった不自然な動きを改善するために、フレームレート変換を高画質化技術として適用する動きが注目され始めている。しかし、前記したような動画性能向上に対する明確な改善効果を得るためには、精度の高い補間フレーム生成が必要となる。従来からよく用いられている高度な補間方法として、現在のフレームと1フレーム前のフレームを用いて、フレーム間の動きベクトルを利用した動き補償処理を用いる方法がある。この方法では、動きベクトル情報をもとにフレーム間の動きを特定し、補間フレームを作成する。精度の高い補間フレームを得るためには、この動きベクトルの精度を上げる必要があり、検索範囲を2段階に分けて探索する方法(例えば非特許文献1)や、周囲の動きベクトルとの比較を行うことで、不適切な動きベクトルを除去するスムージング処理を行う等の手法が提案されている(例えば特許文献1参照)。 In recent years, attention has been focused on the application of frame rate conversion as a technique for improving image quality in order to improve unnatural movements such as blurring and rattling in moving image display by increasing the number of frames of an image. However, in order to obtain a clear improvement effect for improving the moving image performance as described above, it is necessary to generate an interpolation frame with high accuracy. As an advanced interpolation method that has been frequently used, there is a method that uses a motion compensation process using a motion vector between frames using the current frame and the previous frame. In this method, a motion between frames is specified based on motion vector information, and an interpolation frame is created. In order to obtain a highly accurate interpolation frame, it is necessary to increase the accuracy of the motion vector. For example, a search method divided into two stages (for example, Non-Patent Document 1) or a comparison with surrounding motion vectors A technique such as performing a smoothing process for removing an inappropriate motion vector by performing this technique has been proposed (see, for example, Patent Document 1).
しかしながら、従来の動き補償処理においては、1画面中に複数の動きを伴うような画像や、複数の動物体が交差するような動きにおいては、正確な動きベクトルを得る事が難しく、映像的に破綻をきたすことになる。 However, in the conventional motion compensation processing, it is difficult to obtain an accurate motion vector in an image with multiple motions in one screen or in a motion where multiple moving objects intersect. It will be bankrupt.
本発明は上記課題に鑑みて考えたものであり、より正確に動きベクトルを検出可能にして、高画質にフレームレート変換を行うことが可能な技術を提供することを目的とする。 The present invention has been made in view of the above problems, and an object of the present invention is to provide a technique capable of detecting a motion vector more accurately and performing frame rate conversion with high image quality.
上記目的を達成するために、本発明は、特許請求の範囲に記載されたように構成すればよい。
To achieve the above object, the present invention may be configured as described in the appended claims.
このような構成によれば、動き補償法を用いたフレームレート変換処理において、映像の特徴を捉えた適応的な補間制御により、動画性能向上を実現し、且つ破綻発生を抑えた映像を実現することが可能となる。 According to such a configuration, in the frame rate conversion process using the motion compensation method, the adaptive interpolation control that captures the characteristics of the video realizes the improvement of the moving image performance and the video with the occurrence of the failure suppressed. It becomes possible.
本発明によれば、より正確に動きベクトルを検出することが可能となり、以って、高画質にフレームレート変換を行うことが可能となる。 According to the present invention, it is possible to detect a motion vector more accurately, and thus it is possible to perform frame rate conversion with high image quality.
以下、本発明の実施形態について図面を参照しつつ説明する。 Embodiments of the present invention will be described below with reference to the drawings.
図1は、本発明の第一の実施形態である画像処理装置の構成の一例を示すブロック図である。 FIG. 1 is a block diagram showing an example of the configuration of an image processing apparatus according to the first embodiment of the present invention.
図1において、1001は入力信号、1002は解像度変換部、1003はフレームレート変換(以下、FRC:Frame Rate Conversionと呼ぶ)部、1004は画像メモリ、1005はタイミングコントロール部、1006は表示部、1007はFRC変換モード信号である。 In FIG. 1, 1001 is an input signal, 1002 is a resolution conversion unit, 1003 is a frame rate conversion (hereinafter referred to as FRC: Frame Rate Conversion) unit, 1004 is an image memory, 1005 is a timing control unit, 1006 is a display unit, 1007 Is an FRC conversion mode signal.
解像度変換部1002では、入力画像を表示部1006に合わせた画像フォーマットへ拡大・縮小処理を行う。FRC部1003では、外部から設定されるFRC変換モード信号1007に応じたフレームレートの変換を行い、タイミングコントローラ部1005では前記FRC部1003から得られたフレームレート変換出力を表示部1006に表示するためのタイミング調整を行う。
The
図2は、図1におけるFRC部1003の構成の一例を示すものである。
FIG. 2 shows an example of the configuration of the
図2において、2001は現フレーム信号、2002は1フレーム前信号、2003はFRC変換モード信号、2004は動きベクトル検出部、2005は動きベクトル、2006は画像特徴検出部、2007は判定信号、2008は補間フレーム生成部、2009は補間フレーム信号、2010はフレームレート変換出力信号、2011はメモリインターフェース部である。 In FIG. 2, 2001 is the current frame signal, 2002 is the signal one frame before, 2003 is the FRC conversion mode signal, 2004 is the motion vector detection unit, 2005 is the motion vector, 2006 is the image feature detection unit, 2007 is the determination signal, 2008 is An interpolation frame generation unit, 2009 is an interpolation frame signal, 2010 is a frame rate conversion output signal, and 2011 is a memory interface unit.
動きベクトル検出部2004では、現フレーム信号2001と1フレーム前信号2002により、動きベクトル2005を検出する。検出方法としては、前記従来技術で記したようなブロックマッチング法や勾配法、位相相関法等どれを用いても良いが、ここでは、図3に示すようなN×N(Nは整数)のブロックマッチング法を用いる場合で以下説明する。図3において、3001は現フレーム信号、3002は1フレーム前信号、3003は補間フレーム信号、3004は対象ブロック、3005は動きベクトル検索範囲、3006は最小差分値ブロックペア、3007は動きベクトルである。
The motion
補間フレーム3003上、補間しようとしている対象ブロック3004に対して、現フレーム信号3001、1フレーム前信号3002のそれぞれにおいて点対称の位置のブロックを中心として、所定ブロック数の検索範囲を設ける。図3の場合は水平11ブロック、垂直5ブロックと設定している。対象ブロック3004を中心として、時間方向に点対称ペアの位置にある現フレーム信号3001、及び1フレーム前信号3002上のブロック間の差分値マッチングにより、最も差分値が小さいブロックペア3006を検出し、その方向を動きベクトル3007として出力する。
On the
得られた動きベクトル2005(3007)は、補間フレーム生成部2008へ入力される。補間フレーム生成部2008では、補間フレーム中の対象ブロックの画素値を前記差分値最小ペアの画素値の平均値として算出する。
The obtained motion vector 2005 (3007) is input to the interpolation
図3では、60Hzから120Hzへの変換のように、入力される元のフレームレートでのフレーム(以下、キーフレームと呼ぶ)に対して時間的に中間の重心位置に1枚の補間フレームを挿入する場合を説明した。これに対し、図4では映画の24Hzから60Hzへの変換等、キーフレーム間に複数枚の補間フレームを挿入する場合の例を示す。尚、このように60Hzから120Hzへの変換をするのか、及び24Hzから60Hzへの変換をするのか等、フレームレート変換の動作モードを決めるのが、FRC変換モード信号1007(2003)である。 In FIG. 3, a single interpolated frame is inserted at the center of gravity position temporally with respect to the frame at the original input frame rate (hereinafter referred to as a key frame) as in the case of conversion from 60 Hz to 120 Hz. Explained when to do. On the other hand, FIG. 4 shows an example in which a plurality of interpolation frames are inserted between key frames, such as conversion from 24 Hz to 60 Hz of a movie. It is the FRC conversion mode signal 1007 (2003) that determines the operation mode of frame rate conversion, such as whether to convert from 60 Hz to 120 Hz and from 24 Hz to 60 Hz.
図4において、図3の構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。 In FIG. 4, the same components as those of FIG. 3 are denoted by the same reference numerals, and the description thereof is omitted.
4001は動きベクトル検索範囲1、4002は動きベクトル検索範囲2、4003は補間フレーム1、4004は補間フレーム2、4005は対象ブロック1、4006は対象ブロック2、4007は動きベクトル1、4008は動きベクトル2である。
4001 is motion
図4において、補間フレーム1 4003上の対象ブロック1 4005に対しては、現フレーム信号3001上では動きベクトル検索範囲1 4001を、1フレーム前信号3002上では動きベクトル検索範囲2 4002を設定する。図を見ても分かる通り、検索範囲の大きさとして、動きベクトル検索範囲1 <動きベクトル検索範囲2である。これは、補間フレーム1 4003の現フレーム信号3001からの時間的距離が、1フレーム前信号3002からの時間的距離に比べて短いためであり、その結果、点対称位置のブロック間での差分値マッチング演算の際、設定できる検索範囲の大きさが異なることになる。同様に、補間フレーム2 4004上の対象ブロック2 4006に対しても、その時間的重心位置の違いから、現フレーム信号3001上では動きベクトル検索範囲2 4002を、1フレーム前信号3002上では動きベクトル検索範囲1 4001を設定する必要がある。前記60Hzから120Hzへの変換同様、検索範囲内において差分値マッチング演算を行い、最も差分値が小さいブロックペアを算出し、その方向を動きベクトル2007として出力する。ここで、補間フレームが2つ存在するために、必要な動きベクトルも2つ(4007、4008)となる。補間フレーム生成部2005では、補間フレーム1 4003、及び補間フレーム2 4004それぞれの時間的重心位置を考慮して補間画素値を算出する。具体的には、図4において補間フレーム1上の対象ブロック1 4005、及び補間フレーム2 4006上の対象ブロック2の画素値(それぞれI(1), I(2)とする)は、時間方向の重心位置を考慮した荷重加算によってそれぞれ以下の数1及び数2で算出される。
In FIG. 4, a motion
(数1)I(1) = (3*Y1_a + 2*Y0_a)/5
(数2)I(2) = (Y1_b +4*Y0_b)/5
図5は、上記時間方向の荷重加算を説明する図である。図5において、5001〜5003は、24Hzの映像フレーム、5004〜5009は60Hzの映像フレーム、矢印に添えられている数値は、補間フレーム生成の際の時間方向の荷重値を示している。補間フレーム5005〜5008は、上記式(1)、(2)によりそれぞれ算出される。
(Equation 1) I (1) = (3 * Y1_a + 2 * Y0_a) / 5
(Equation 2) I (2) = (Y1_b + 4 * Y0_b) / 5
FIG. 5 is a diagram for explaining the load addition in the time direction. In FIG. 5, 5001 to 5003 are 24 Hz video frames, 5004 to 5009 are 60 Hz video frames, and the numerical values attached to the arrows indicate the load values in the time direction when generating the interpolation frames. The interpolation frames 5005 to 5008 are calculated by the above equations (1) and (2), respectively.
メモリインターフェース部2011では、補間フレーム生成部2008からの補間フレーム出力の画像メモリ1004へのデータ書き込み、及びFRC変換モード 1007に応じたレートでのデータ読み出しを行い、フレームレート変換出力2009を出力する。ここで、図5に示すように、24Hzから60Hzへの変換の場合は、キーフレーム5002は削除して映像を出力する。
In the
補間フレーム生成部2008では、上記したような通常FRC動作(以下、ベクトルFRCと称する)における補間フレーム生成動作に加え、後述する画像特徴検出部2006からの判定信号により、図6に示すようなフレーム繰り返しによる補間フレーム生成、つまりはベクトルFRC非動作の切替を行う。図7は、図2における補間フレーム生成部2008の構成の一例を示している。図7において、7001は現フレーム信号、7002は1フレーム前信号、7003は動きベクトル、7004はFRC変換モード信号、7005は水平/垂直方向補間画素選択部、7006は時間方向補間処理部、7007はセレクタ部、7008は判定信号である。
In the interpolation
ここで、我々がフレームレート変換による動画質評価により得た見解に関して以下に説明する。 Here, we will explain the opinions we have obtained through the video quality evaluation by frame rate conversion.
60Hzから120Hz、30Hzから60Hzへの変換のように整数倍のフレームレート変換で、キーフレーム間に補間フレームが1つしか挿入されない変換の場合、前記挿入される補間フレームの画質が、動きベクトル誤検出等で多少劣化が見られたとしても、人間の目ではそれを認識し難く、結果として時間解像度が向上したことのインパクトの方が大きい。これに対し、24Hzから60Hz、50Hzから60Hzへの変換のように非整数倍のフレームレート変換で、キーフレーム間に複数の補間フレームが挿入される場合は、前記補間フレームの画質が動きベクトル誤検出等で劣化が見られる場合、その劣化画像が時間的に2枚以上続くことになり、人間の目に認識され、時間解像度向上の効果よりも、画質の劣化が目立ってしまうことになる。 In the case of frame rate conversion of integer multiples, such as conversion from 60 Hz to 120 Hz, 30 Hz to 60 Hz, and conversion in which only one interpolation frame is inserted between key frames, the image quality of the inserted interpolation frame is a motion vector error. Even if some deterioration is observed in detection or the like, it is difficult for the human eye to recognize it, and as a result, the impact of improving the time resolution is greater. On the other hand, when a plurality of interpolated frames are inserted between key frames by non-integer multiple frame rate conversion, such as conversion from 24 Hz to 60 Hz, or 50 Hz to 60 Hz, the image quality of the interpolated frame becomes a motion vector error. When deterioration is detected by detection or the like, two or more deteriorated images continue in terms of time, which is recognized by human eyes, and deterioration of image quality becomes more conspicuous than the effect of improving time resolution.
次に、前記動きベクトル誤検出による劣化画像に関して説明する。 Next, a description will be given of a degraded image caused by the erroneous motion vector detection.
動きベクトルの検出においては、前記説明したように、基本的に現フレーム映像と1フレーム前の映像からブロック単位、画素単位での差分値マッチング演算による相関を算出し、前記相関が最も高い位置の画素値から補間フレームの画素値を算出する。しかし例えば図8に示すように、フレーム間において対象動物体が障害物の裏を通り抜けるような画像の場合、対象物体の一部は数フレーム間映像中に存在しなくなるため、正確な動きベクトルを算出することができない。また通常、動きベクトル検出においては、そのベクトルの信頼性向上のために、周囲で検出された動きベクトルや、画面全体の動きベクトルを参照する方式をとる事が多い。これにより、画面全体が一定方向へパンしているような映像ではかなり精度の高い動きベクトルが得られるが、画面中に複数の異なる動きが存在するような映像の場合は、正確な動きベクトル検出が急激に難しくなる。さらに、動きベクトルの検索範囲を超えるような早い動きの場合においても、正確なベクトル検出が行えず、画像の破綻を招くことになる。最も単純な対策としては、動きベクトル検索範囲を拡げることが考えられるが、その分誤検出する可能性も増えると共に、演算量の増大、及びハードウェア化を考えた場合の回路規模の増大に直結する。 In motion vector detection, as described above, the correlation is basically calculated from the current frame image and the image one frame before by the difference value matching calculation in block units and pixel units, and the position with the highest correlation is calculated. The pixel value of the interpolation frame is calculated from the pixel value. However, as shown in FIG. 8, for example, in the case where the target moving object passes through the back of the obstacle between frames, a part of the target object does not exist in the video for several frames. It cannot be calculated. Usually, in motion vector detection, in order to improve the reliability of the vector, a method of referring to a motion vector detected in the surroundings or a motion vector of the entire screen is often used. This makes it possible to obtain motion vectors with a high degree of accuracy for images in which the entire screen is panned in a certain direction, but accurate motion vector detection is possible for images with multiple different motions on the screen. Suddenly becomes difficult. Furthermore, even in the case of a fast motion that exceeds the motion vector search range, accurate vector detection cannot be performed, leading to image failure. The simplest measure is to expand the motion vector search range, but the possibility of erroneous detection increases accordingly, directly increasing the amount of computation and increasing the circuit scale when considering hardware implementation. To do.
本実施例では、映像の特徴に応じてその補間方法を切り替えることでこの問題を解決する。つまり、フレーム毎の動きベクトルヒストグラム情報を元に、映像の補間方法をダイナミックに変更する。以下、本発明では本方式をダイナミックFRCと称する。 In the present embodiment, this problem is solved by switching the interpolation method according to the feature of the video. That is, the video interpolation method is dynamically changed based on the motion vector histogram information for each frame. Hereinafter, in the present invention, this method is referred to as dynamic FRC.
図9は、本発明におけるダイナミックFRC処理のステートダイアグラムを示すものである。図9において、S101は動きベクトルを用いた補間フレーム生成を行うベクトルFRC動作状態、S102はフレーム繰り返しによる補間フレーム生成を行う、非FRC動作状態である。 FIG. 9 shows a state diagram of dynamic FRC processing in the present invention. In FIG. 9, S101 is a vector FRC operation state in which an interpolation frame is generated using a motion vector, and S102 is a non-FRC operation state in which an interpolation frame is generated by frame repetition.
画像特徴検出部2006での動きの特徴判定により、状態遷移(S103、S104)を行う。
The state transition (S103, S104) is performed by the motion feature determination in the image
画像特徴検出部2006では、検出された動きベクトルによるヒストグラム情報により、動きの特徴を検出し、判定信号2007を出力する。図10は、前記ベクトルヒストグラム検出結果の一例を示したものである。図10では、動きベクトル検出部2004でのベクトル検出範囲を垂直5ブロック、水平11ブロックに設定した場合を示している。図10のヒストグラム結果をグラフ化したものを図11に示す。図11を見て分かるように、この例ではベクトル(0,0)周辺に多くの動きベクトルが集中していることが読み取れる。画像特徴検出部2006ではこのようなベクトルヒストグラム分布を用いて動きの特徴を判定する。
The image
例えば、前記動きベクトルヒストグラム分布において、図12に示すように任意の方向に集中している場合には、画面中支配的な動きにより全体がスクロールしている可能性が高いと判定する。また図13に示すように、検索範囲の境界部分に所定閾値以上集中する場合、その画面は検索範囲を超える早い動きの物体が多くある可能性が高いと判定する。別の判定の仕方として、動きが検索範囲を超えた場合には、正確にマッチングがとれるブロックがなくなり、検索範囲内にマッチング値が同じレベルのブロックが複数存在することが予想されることを利用する。例えば、マッチング値が同じ場合には、ベクトル(0,0)、もしくはそれに近いベクトルを優先させるようなアルゴリズムを用いている場合、図14に示すように、ベクトル(0,0)に分布が集中することが考えられる。従ってこの場合、所定閾値以上ベクトル(0,0)に分布が集中する場合は検索範囲を超える動きが存在したと判定する。尚、ベクトル(0,0)に集中するかどうかはベクトル検出におけるアルゴリズム次第であり、これに限るものではない。また、図15に示すように、所定閾値以上の分布が散乱している場合は複数の動きが存在する画像であると判定する。 For example, when the motion vector histogram distribution is concentrated in an arbitrary direction as shown in FIG. 12, it is determined that there is a high possibility that the entire screen is scrolled due to the dominant motion in the screen. Also, as shown in FIG. 13, when the screen is concentrated on the boundary portion of the search range by a predetermined threshold or more, it is determined that there is a high possibility that there are many fast-moving objects exceeding the search range. Another judgment method is that when the motion exceeds the search range, there is no block that can be matched accurately, and it is expected that there are multiple blocks with the same matching value in the search range. To do. For example, when the matching values are the same, when an algorithm that prioritizes the vector (0,0) or a vector close thereto is used, the distribution is concentrated on the vector (0,0) as shown in FIG. It is possible to do. Therefore, in this case, when the distribution is concentrated on the vector (0, 0) above the predetermined threshold, it is determined that there is a motion exceeding the search range. Whether or not to concentrate on the vector (0,0) depends on the algorithm in vector detection, and is not limited to this. Further, as shown in FIG. 15, when a distribution of a predetermined threshold value or more is scattered, it is determined that the image has a plurality of movements.
画像特徴検出部2006では、図12〜15のようなベクトルヒストグラム分布を持つ画像入力の際に、その旨を示す判定信号2007を出力する。判定信号2007は例えば1/0の1ビットの信号で良い。図12に示すようなベクトルヒストグラム分布の場合、検出された動きベクトルの信頼性が高いと判断し0を出力する。図13〜15に示すようなベクトルヒストグラムの場合、動きベクトルの信頼性が低く、誤検出の可能性が高いため、1を出力する。セレクタ部7007では、前記判定信号に応じて、ベクトルFRCによる補間フレームとフレーム繰り返しによる補間フレーム出力の切替を行う。従って、判定信号2007が0の場合(S103)には、ベクトルFRC動作(S101)へ遷移し、判定信号が1の場合(S104)には、非FRC動作(S102)へ遷移する。また、前記状態遷移(S103,S104)の際には、状態が頻繁に切替わることによる弊害を防止するため、判定信号2007が0(1)の状態が、所定フレーム期間継続した場合に遷移する、もしくは遷移した後に、その状態を所定期間維持する、といったヒステリシス特性を持たせる構成としてもよい。
The image
また、本実施例においては、動きの特徴検出をハードウェアで構成しているが、これに限るものではなく、ハードウェアからは動きベクトル情報のみ出力し、ソフトウェアにて本ダイナミックFRC制御を実現する構成としてもよい。 In this embodiment, the feature detection of motion is configured by hardware. However, the present invention is not limited to this. Only the motion vector information is output from the hardware, and the dynamic FRC control is realized by software. It is good also as a structure.
また、補間フレーム出力切替に関しては、補間フレーム生成部2008で実施しなければならないこともなく、メモリインターフェース部2011によるデータ読み出し制御によって実施する構成としても良い。
In addition, the interpolation frame output switching need not be performed by the interpolation
以上のように本実施例によれば、入力された画像の動きの特徴を捉え、前記動きの特徴に応じて、FRCの動作状態をダイナミックに切り替えることが可能となる。 As described above, according to this embodiment, it is possible to capture the characteristics of the motion of the input image and dynamically switch the operation state of the FRC according to the characteristics of the motion.
図16は、本発明の第二の実施形態である画像処理装置のダイナミックFRC処理のステートダイアグラムを示すものである。図16において、図9に示した構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。 FIG. 16 shows a state diagram of dynamic FRC processing of the image processing apparatus according to the second embodiment of the present invention. In FIG. 16, the same components as those shown in FIG. 9 are denoted by the same reference numerals, and the description thereof is omitted.
本実施例では、FRCの状態を3段階とすることで、より画像に最適な制御を可能としている。以下、上述した第一の実施の形態と異なる部分についてその動作を説明する。 In this embodiment, the FRC state is set in three stages, thereby enabling more optimal control for the image. Hereinafter, the operation of portions different from those of the first embodiment described above will be described.
図16において、S201はベクトルFRC動作と非FRC動作の中間動作状態である。これらの3つの動作状態は、後述する遷移条件によって画像特徴検出部2006から出力される判定信号2007が、0の時ベクトルFRC動作(S205)、1の時に中間動作(S202,S204)、2の時に非FRC動作(S203)へ遷移する。
In FIG. 16, S201 is an intermediate operation state between the vector FRC operation and the non-FRC operation. These three operation states are: when the
図17は、本発明における24Hzから60Hzへの変換モードでの前記中間動作の一例を説明するための図である。図17において、17001〜17003は入力キーフレーム、17004〜17007は補間フレームである。ベクトルFRC動作(S101)の際には、前記補間フレームは全て動きベクトルを用いた補間、非FRC動作(S102)の際には、前記補間フレームは全て繰り返しフレーム、つまり17004、17005は17001、17006、17007は17002のフレームがそのまま挿入される。中間動作(S201)の場合には、図17に示すように、17005、17006フレームのみを、繰り返しフレーム、もしくは、時間方向の重心位置を考慮した線形補間フレームに置き換える。ここで、時間方向の重心位置を考慮した線形補間フレームとは、フレーム17001と17002に対して水平・垂直ベクトル”0”による時間方向の重心を考慮した荷重加算によって生成される。本方式による映像の見え方としては、フレームレート変換による本来の効果である動画の滑らかさに関しては、完璧な補間フレームが生成された場合と比較した場合、当然その効果は軽減することになるが、破綻を抑圧し、且つ効果を残した映像を実現することが可能となる。
FIG. 17 is a diagram for explaining an example of the intermediate operation in the conversion mode from 24 Hz to 60 Hz in the present invention. In FIG. 17, 17001 to 17003 are input key frames, and 17004 to 17007 are interpolation frames. In the vector FRC operation (S101), the interpolation frames are all interpolated using motion vectors, and in the non-FRC operation (S102), the interpolation frames are all repetitive frames, that is, 17004 and 17005 are 17001, 17006. 17007, the
前記3つの動作状態を切り替えるために、画像特徴検出部2006によって、その旨を示す判定信号2007を出力する。例えば0/1/2を2bitの信号で出力する構成とする。実施例1にて記載した1/0の判定に対して、閾値制御を設けることにより0/1/2への切替を実現する。制御例を以下図18のフローチャートを参照しながら説明する。
In order to switch between the three operation states, the image
まず、ベクトル集中度に関しては、ベクトルカウント閾値TH1以上の箇所がいくつ存在するかの集中度分布値をカウントする(F101)。境界分布度に関しては、検索範囲境界部分において、境界ベクトルカウント閾値TH4以上の箇所いくつ存在するかの境界分布値をカウントする(F102)。 First, regarding the vector concentration degree, the concentration distribution value indicating how many points equal to or greater than the vector count threshold TH1 are counted (F101). With respect to the boundary distribution degree, the boundary distribution value of the number of places equal to or greater than the boundary vector count threshold TH4 in the search range boundary portion is counted (F102).
次に前記集中度分布値と分布閾値TH2、TH3を比較する(F103,104)。さらに、前記境界分布値と境界閾値TH5、TH6を比較する(F105,106)。集中度分布値がTH2以下であり、且つ境界分布値がTH5以下の場合にベクトルFRC動作(F109)となる。集中度分布値がTH2以下であり、且つ境界分布値がTH5以上TH6以下の場合には、中間動作(F108)となる。さらに、集中度分布値がTH2以上TH3以下であり、且つ境界分布がTH5以上TH6以下の場合にも中間動作(F108)となる。集中度分布値がTH3以上の場合には、非FRC動作(F107)となる。さらに、集中度分布値がTH2以下であり、且つ境界分布値がTH6以上の場合、また集中度分布値がTH2以上TH3以下であり、且つ境界分布値がTH5以上の場合にも非FRC動作(F107)となる。 Next, the concentration distribution value is compared with the distribution threshold values TH2 and TH3 (F103, 104). Further, the boundary distribution value is compared with boundary threshold values TH5 and TH6 (F105, 106). The vector FRC operation (F109) is performed when the concentration distribution value is TH2 or less and the boundary distribution value is TH5 or less. When the concentration distribution value is not more than TH2 and the boundary distribution value is not less than TH5 and not more than TH6, the intermediate operation (F108) is performed. Further, the intermediate operation (F108) is also performed when the concentration distribution value is from TH2 to TH3 and the boundary distribution is from TH5 to TH6. When the concentration distribution value is greater than TH3, non-FRC operation (F107) is performed. Furthermore, when the concentration distribution value is TH2 or less and the boundary distribution value is TH6 or more, or when the concentration distribution value is TH2 or more and TH3 or less and the boundary distribution value is TH5 or more, non-FRC operation ( F107).
本制御により、画像特徴検出部2006から判定信号0(ベクトルFRC動作)/1(中間動作)/2(非FRC動作) 2007を出力する。
With this control, the image
図19は、本ダイナミックFRC制御による動作イメージを説明するための図である。図に示すように、3つの動作状態をダイナミックに切り替える。ベクトルFRC動作から非FRC動作への遷移(その逆も含む)の間には、基本的に中間動作が入る。これにより、動作切替の際の画像の違和感を軽減することが可能となる。 FIG. 19 is a diagram for explaining an operation image by the dynamic FRC control. As shown in the figure, the three operating states are dynamically switched. Between the transition from vector FRC operation to non-FRC operation (and vice versa), there is basically an intermediate operation. As a result, it is possible to reduce the uncomfortable feeling of the image when the operation is switched.
また、本実施例においては、ベクトルの集中度分布、境界分布を用いて、各値に対して3つの閾値使用による状態分けを行っているが、閾値の数は任意であり、且つ集中度という考え方ではなく、分散度という考え方、または境界分布に関しても、水平/垂直方向独立に制御する考え方を利用してもよい
また、第一の実施例同様、各動作状態への移行の際にはヒステリシス特性を持たせる構成としても良い。
In this embodiment, the vector concentration distribution and the boundary distribution are used to divide the state by using three threshold values for each value. However, the number of threshold values is arbitrary, and the concentration level is called Instead of the concept, the concept of dispersion or the boundary distribution may be controlled independently in the horizontal / vertical direction. In addition, as in the first embodiment, hysteresis is applied when transitioning to each operating state. It is good also as a structure which gives a characteristic.
また、中間動作における補間フレームに関しては、図17において、4枚の補間フレーム中2枚を繰り返しフレーム、もしくは、時間方向の重心位置を考慮した線形補間フレームに置き換える方式としているが、これに限るものではなく、4枚全てを前記線形フレームに置き換える方式としても良い。当然1枚のみ置き換える、3枚置き換える方式としても良い。前記置き換える枚数の違いに応じて、中間動作を分類し状態遷移を3以上に細分化してもよい。 In addition, regarding the interpolated frame in the intermediate operation, in FIG. 17, two of the four interpolated frames are replaced with a repetitive frame or a linear interpolated frame in consideration of the center of gravity in the time direction. Instead, it is possible to replace all four frames with the linear frame. Of course, it is possible to replace only one sheet or replace three sheets. Depending on the difference in the number of replacements, intermediate operations may be classified and state transitions may be subdivided into three or more.
また、2枚の繰り返しフレーム、もしくは、線形フレーム置き換え位置に関しても、17005、17006の位置に限るものではなく、17004、17007を置き換えても良い。さらには例えば図20に示すように、所定周期毎に、あるいは画像の特徴に応じて、置き換える枚数、位置を切り替える方式としても良い。例えば前記したようなベクトルの集中度分布情報を用いて、中間動作の中で、図21に示すように集中度が高い場合は置き換えフレーム数を少なくし、低い場合には、置き換えフレーム数を増やしていくような制御を行ってもよい。 Further, the positions of two repeated frames or linear frame replacement are not limited to the positions of 17005 and 17006, and 17004 and 17007 may be replaced. Further, for example, as shown in FIG. 20, a method of switching the number and position of replacements at predetermined intervals or in accordance with image characteristics may be used. For example, using the vector concentration distribution information as described above, in the intermediate operation, as shown in FIG. 21, the number of replacement frames is decreased when the concentration is high, and the number of replacement frames is increased when the concentration is low. Control may be performed.
以上のように本実施例によれば、FRCの状態をON/OFFモードに加えて、中間モードを持つ3段階とすることで、より画像に最適な制御が可能となる。 As described above, according to the present embodiment, by adding the FRC state to the ON / OFF mode and the three stages having the intermediate mode, it is possible to perform more optimal control for the image.
図22は、本発明の第三の実施形態である画像処理装置の構成の一例を示すブロック図である。 FIG. 22 is a block diagram showing an example of the configuration of the image processing apparatus according to the third embodiment of the present invention.
図22において、図1に示した構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。 22, the same components as those shown in FIG. 1 are denoted by the same reference numerals, and the description thereof is omitted.
本実施の形態によれば、スポーツ、ニュース、映画等の番組のジャンルに応じて最適な補間制御へ切り替えることにができる。 According to the present embodiment, it is possible to switch to optimal interpolation control according to the genre of a program such as sports, news, and movies.
また、ワイドモードに応じて最適な補間制御へ切り替えることができる。 Further, it is possible to switch to the optimum interpolation control according to the wide mode.
以下、上述した第一、第二の実施の形態と異なる部分についてその動作を説明する。 Hereinafter, the operation of parts different from the first and second embodiments described above will be described.
図22において、22001はEIT(Event Information Table)データ、22002はEITデータ処理部、22003はEIT判定信号、22004はワイドモード信号、22005はダイナミックFRC動作モード選択部、22006はダイナミックFRC動作モード信号である。 In FIG. 22, 22001 is EIT (Event Information Table) data, 22002 is an EIT data processing unit, 22003 is an EIT determination signal, 22004 is a wide mode signal, 22005 is a dynamic FRC operation mode selection unit, and 22006 is a dynamic FRC operation mode signal. is there.
BS/CS/地上デジタルテレビ放送では、映像/音声/データ放送以外に番組に関する情報(例えば番組の名称、番組内容、番組放送日、番組放送開始時間、番組放送継続時間、放送チャンネル、番組ジャンルコードなど)も電波に重畳して送出されている。BS/CS/地上デジタルテレビ放送受信装置では、放送局から送出されるEITと呼ばれる番組情報を利用し、これらを取得/構成することにより、電子番組表機能をユーザに提供している。図22においてEITデータ処理部22002では、EIT内のコンテント記述子で使用されている1バイトの番組ジャンルコードによって、例えば図23のような分類を行う。つまり、入力されたコンテンツが、スポーツ、アニメ・特撮、映画、ドラマ、バラエティといった動きの激しいシーンが多く存在する可能性のあるものは1を、ニュース、ワイドショーといった動きの激しいシーンが多くは存在しないであろうものには0をEIT判定信号22003として出力する。
In BS / CS / terrestrial digital television broadcasting, in addition to video / audio / data broadcasting, information related to programs (eg, program name, program content, program broadcast date, program broadcast start time, program broadcast duration, broadcast channel, program genre code) Etc.) are also transmitted superimposed on the radio wave. The BS / CS / terrestrial digital television broadcast receiving apparatus uses the program information called EIT sent from the broadcasting station, and obtains / configures the program information to provide the user with an electronic program guide function. In FIG. 22, the EIT
ワイドモード信号22004は、4:3映像を16:9へ拡大表示、上下黒帯の付いている映像を拡大して表示等しているかどうかを示す信号であり、ユーザが設定した現在のモードを示す信号である。各メーカによってモードの名称は異なるが、本実施例においては、スムーズ(拡大有り)とフル(拡大無し)の2種類で考える。
ダイナミックFRCモード選択部22005では、上記EIT判定信号22003と、ワイドモード信号22004から、ダイナミックFRC動作モード信号22006を生成する。ここで言うダイナミックFRCの動作モードとは、例えば第二の実施例にて記載した、3つの動作モードを切替るための閾値を切り替えることを示している。つまり、本モード設定により、図2における画像特徴検出部2006の動作が決定する。図19で示したダイナミックFRCの動作においては、閾値を上げることによってベクトルFRC動作時間が増加する。例えば閾値が低めの設定と、高めの設定の2種類のテーブルを持つことによって、高めの設定ではFRC動作時間が増加するため、効果が出やすいが破綻が見える可能性が残る。低めの設定では効果は限定されるが、破綻は見え難い、といった動作が可能となる。
The dynamic FRC
従って上記を踏まえ、例えばダイナミックFRCモード選択部22005では、図24に示すようなダイナミックFRC動作モード信号22006を出力する。
Therefore, based on the above, for example, the dynamic FRC
EIT判定信号22003により、動きの激しいシーンが多い番組ジャンルであれば1、動きの激しいシーンの少ない番組ジャンルでる場合は、ワイドモードがスムーズのときは1、フルのときは0を出力する。
According to the
ダイナミックFRC動作モード信号22006を受け取った画像特徴検出部2006は、その値が1の時は閾値が低めの設定、0の時は高めの設定に切り替える。
The image
以上のように本実施例では、ユーザが視聴する番組のジャンルデータ、表示モードに応じて補間制御を切り替えることが可能となる。 As described above, in this embodiment, it is possible to switch the interpolation control according to the genre data of the program viewed by the user and the display mode.
尚本実施例においては、番組ジャンルとして大分類の中の8種類のみで分類を行っているが、当然これに限るものではなく、その下の中分類にまで及ぶ切り替えを行う構成としても良い。また、本実施例においては、制御切替として2種類のみの説明を行ったが、これに限るものではなく、さらに細分化する構成とすれば尚良い。また、制御切替項目として、閾値の値を例に説明を行ったが、これに限ることはなく、例えば各動作状態のヒステリシス期間を切り替えることにより、各動作モードのバランスを可変する制御としても良い。 In the present embodiment, the program genre is classified by only eight kinds of major classifications. However, the present invention is not limited to this, and it may be configured to switch to the middle classification below. In the present embodiment, only two types of control switching have been described. However, the present invention is not limited to this, and a further subdivided configuration may be used. In addition, the threshold value has been described as an example of the control switching item, but the present invention is not limited to this. For example, the control mode may be controlled by changing the hysteresis period of each operation state to change the balance of each operation mode. .
1001…入力信号、1002…解像度変換部、1003…フレームレート変換(FRC:Frame Rate Conversion)部、1004…画像メモリ、1005…タイミングコントロール部、1006…表示部、1007…FRC変換モード信号、2001…現フレーム信号、2002…1フレーム前信号、2003…FRC変換モード信号、2004…動きベクトル検出部、2005…動きベクトル、2006…画像特徴検出部、2007…判定信号、2008…補間フレーム生成部、2009…補間フレーム信号、2010…フレームレート変換出力信号、2011 メモリインターフェース部、3001…現フレーム信号、3002…1フレーム前信号、3003…補間フレーム信号、3004…対象ブロック、3005…動きベクトル検索範囲、3006…最小差分値ブロックペア、3007…動きベクトル、4001…動きベクトル検索範囲1、4002…動きベクトル検索範囲2、4003…補間フレーム1、4004…補間フレーム2、4005…対象ブロック1、4006…対象ブロック2、4007…動きベクトル1、4008…動きベクトル2、5001〜5003…24Hzの映像フレーム、5004〜5009…60Hzの映像フレーム、6001〜6003…24Hzの映像フレーム、6004〜6009…60Hzの映像フレーム、7001…現フレーム信号、7002…1フレーム前信号、7003…動きベクトル、7004…FRCモード信号、7005…水平/垂直方向補間画素選択部、7006…時間方向補間処理部、7007…Fセレクタ部、7008…判定信号、S101…ベクトルFRC動作状態、S102…ベクトルFRC非動作状態、S103,S104…状態遷移、S201…中間動作状態、S202〜S205…状態遷移、17001〜17003 入力キーフレーム、17004〜17007 補間フレーム、20001〜20002…入力キーフレーム、20003〜20006…補間フレーム、22001…EIT(Event Information Table)データ、22002…EITデータ処理部、22003 EIT判定信号、22004…ワイドモード信号、22005…ダイナミックFRC動作モード選択部、22006…ダイナミックFRC動作モード信号。
1001 ... Input signal, 1002 ... Resolution conversion unit, 1003 ... Frame rate conversion (FRC) unit, 1004 ... Image memory, 1005 ... Timing control unit, 1006 ... Display unit, 1007 ... FRC conversion mode signal, 2001 ... Current frame signal, 2002 ... 1 frame previous signal, 2003 ... FRC conversion mode signal, 2004 ... motion vector detection unit, 2005 ... motion vector, 2006 ... image feature detection unit, 2007 ... determination signal, 2008 ... interpolation frame generation unit, 2009 ... Interpolated frame signal, 2010 ... Frame rate conversion output signal, 2011 Memory interface unit, 3001 ... Current frame signal, 3002 ... 1 frame previous signal, 3003 ... Interpolated frame signal, 3004 ... Target block, 3005 ... Motion vector search range, 3006 ... minimum difference value block pair, 3007 ... motion vector, 4001 ... motion
Claims (6)
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定部と、
前記動きベクトル検出部が検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成部と
を備え、
前記補間フレーム列生成部は、前記映像特徴判定部が判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像変換装置。 An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video conversion device for converting into a video signal having a sequence,
A motion vector detection unit for detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination unit that determines the feature of the video by creating histogram information about the motion vector detected by the motion vector detection unit;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected by the motion vector detection unit and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolation frame sequence generation unit for generating
The interpolation frame sequence generation unit is configured to determine a part of the plurality of frames included in the interpolation frame generated in the first interpolation frame generation process and the input video signal according to the determination result determined by the video feature determination unit. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame image conversion device and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process.
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定部と、
前記動きベクトル検出部が検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成部と、
補間フレーム列生成部が生成した補間フレーム列を有する映像信号を表示する表示部とを備え、
前記補間フレーム列生成部は、前記映像特徴判定部が判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像表示装置。 An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video display device for converting and displaying video signals having columns,
A motion vector detection unit for detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination unit that determines the feature of the video by creating histogram information about the motion vector detected by the motion vector detection unit;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected by the motion vector detection unit and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolation frame sequence generation unit for generating
A display unit for displaying a video signal having an interpolation frame sequence generated by the interpolation frame sequence generation unit;
The interpolation frame sequence generation unit is configured to determine a part of the plurality of frames included in the interpolation frame generated in the first interpolation frame generation process and the input video signal according to the determination result determined by the video feature determination unit. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame video display device and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process.
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出ステップと、
前記動きベクトル検出ステップで検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定ステップと、
前記動きベクトル検出ステップで検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成ステップと
を備え、
前記補間フレーム列生成ステップでは、前記映像特徴判定ステップで判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像変換方法。 An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video conversion method for converting into a video signal having columns,
A motion vector detection step of detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination step of creating histogram information about the motion vector detected in the motion vector detection step and determining a video feature;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected in the motion vector detection step and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolated frame sequence generating step for generating
In the interpolation frame sequence generation step, the interpolation frame generated in the first interpolation frame generation process and a part of the plurality of frames included in the input video signal are determined according to the determination result determined in the video feature determination step. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process Image conversion method.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007069758A JP4513819B2 (en) | 2007-03-19 | 2007-03-19 | Video conversion device, video display device, and video conversion method |
CN2008100868381A CN101272460B (en) | 2007-03-19 | 2008-03-19 | Image processing device and image display device |
US12/050,972 US8768103B2 (en) | 2007-03-19 | 2008-03-19 | Video processing apparatus and video display apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007069758A JP4513819B2 (en) | 2007-03-19 | 2007-03-19 | Video conversion device, video display device, and video conversion method |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010074076A Division JP5067439B2 (en) | 2010-03-29 | 2010-03-29 | Video conversion device, video display device, video conversion method, and video display method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008236098A JP2008236098A (en) | 2008-10-02 |
JP4513819B2 true JP4513819B2 (en) | 2010-07-28 |
Family
ID=39774296
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007069758A Active JP4513819B2 (en) | 2007-03-19 | 2007-03-19 | Video conversion device, video display device, and video conversion method |
Country Status (3)
Country | Link |
---|---|
US (1) | US8768103B2 (en) |
JP (1) | JP4513819B2 (en) |
CN (1) | CN101272460B (en) |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2450121A (en) * | 2007-06-13 | 2008-12-17 | Sharp Kk | Frame rate conversion using either interpolation or frame repetition |
JP2010057010A (en) * | 2008-08-29 | 2010-03-11 | Sharp Corp | Image display device |
US10075670B2 (en) | 2008-09-30 | 2018-09-11 | Entropic Communications, Llc | Profile for frame rate conversion |
US9042680B2 (en) * | 2009-02-12 | 2015-05-26 | Zoran (France) S.A. | Temporal video interpolation method with 2-frame occlusion handling |
US8395709B2 (en) * | 2009-03-04 | 2013-03-12 | ATI Technology ULC | 3D video processing |
JP5149861B2 (en) * | 2009-05-01 | 2013-02-20 | 富士フイルム株式会社 | Intermediate image generation apparatus and operation control method thereof |
JP2010288098A (en) * | 2009-06-12 | 2010-12-24 | Sony Corp | Device, method and program for interpolation of image frame |
TWI398159B (en) * | 2009-06-29 | 2013-06-01 | Silicon Integrated Sys Corp | Apparatus and method of frame rate up-conversion with dynamic quality control |
KR101585247B1 (en) * | 2009-07-24 | 2016-01-13 | 엘지전자 주식회사 | Method for processing a image signal and display apparatus thereof |
JP5315162B2 (en) * | 2009-08-05 | 2013-10-16 | 株式会社日立製作所 | Video processing apparatus and video processing method |
US8515933B2 (en) * | 2009-08-18 | 2013-08-20 | Industrial Technology Research Institute | Video search method, video search system, and method thereof for establishing video database |
US8805862B2 (en) * | 2009-08-18 | 2014-08-12 | Industrial Technology Research Institute | Video search method using motion vectors and apparatus thereof |
TWI443534B (en) * | 2009-08-18 | 2014-07-01 | Ind Tech Res Inst | Video search method and apparatus using motion vectors |
WO2011027593A1 (en) * | 2009-09-04 | 2011-03-10 | シャープ株式会社 | Display driver circuit, liquid crystal display device, display driving method, control program, and computer-readable recording medium having same control program recorded therein |
RU2012115477A (en) | 2009-09-18 | 2013-10-27 | Шарп Кабусики Кайся | IMAGE DISPLAY DEVICE |
JP4873765B2 (en) * | 2009-11-20 | 2012-02-08 | キヤノン株式会社 | Video signal processing apparatus and video signal processing method |
EP2509306A4 (en) * | 2009-12-01 | 2013-05-15 | Panasonic Corp | IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD |
JP2012169727A (en) * | 2011-02-10 | 2012-09-06 | Panasonic Corp | Image signal processor and image signal processing method |
WO2012117461A1 (en) * | 2011-03-03 | 2012-09-07 | パナソニック株式会社 | Three-dimensional video processing device and method, and three-dimensional video display device |
JP5863273B2 (en) * | 2011-05-02 | 2016-02-16 | キヤノン株式会社 | Image processing apparatus, control method, and program |
JP2013026727A (en) | 2011-07-19 | 2013-02-04 | Sony Corp | Display device and display method |
US8692935B1 (en) * | 2011-11-02 | 2014-04-08 | Marvell International Ltd. | Video interpolation mode based on merit |
US9042681B1 (en) * | 2012-01-02 | 2015-05-26 | Marvell International Ltd. | Interpolated video error concealment |
US9247243B1 (en) | 2012-01-02 | 2016-01-26 | Marvell International Ltd. | Interpolated video error concealment |
JP2013165487A (en) * | 2012-01-11 | 2013-08-22 | Panasonic Corp | Image processing apparatus, image capturing apparatus, and program |
WO2013151291A1 (en) * | 2012-04-02 | 2013-10-10 | 삼성전자 주식회사 | Multi-view image displaying apparatus for improving picture quality and a method thereof |
US9300906B2 (en) * | 2013-03-29 | 2016-03-29 | Google Inc. | Pull frame interpolation |
KR20150101779A (en) * | 2014-02-27 | 2015-09-04 | 엘지디스플레이 주식회사 | Image Display Device And Motion Blur Relieving Method Thereof |
US20160379400A1 (en) * | 2015-06-23 | 2016-12-29 | Intel Corporation | Three-Dimensional Renderer |
JP6368727B2 (en) * | 2016-02-17 | 2018-08-01 | サターン ライセンシング エルエルシーSaturn Licensing LLC | Display device and display method |
US10354394B2 (en) | 2016-09-16 | 2019-07-16 | Dolby Laboratories Licensing Corporation | Dynamic adjustment of frame rate conversion settings |
US10134114B2 (en) * | 2016-09-20 | 2018-11-20 | Gopro, Inc. | Apparatus and methods for video image post-processing for segmentation-based interpolation |
US10776688B2 (en) | 2017-11-06 | 2020-09-15 | Nvidia Corporation | Multi-frame video interpolation using optical flow |
KR102429559B1 (en) * | 2017-12-08 | 2022-08-04 | 삼성전자주식회사 | Display apparatus and method of driving thereof |
US10977809B2 (en) | 2017-12-11 | 2021-04-13 | Dolby Laboratories Licensing Corporation | Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings |
WO2020100215A1 (en) * | 2018-11-13 | 2020-05-22 | オリンパス株式会社 | Image capturing device, image correction method, and image correction program |
CN109922372B (en) * | 2019-02-26 | 2021-10-12 | 深圳市商汤科技有限公司 | Video data processing method and device, electronic equipment and storage medium |
KR102313993B1 (en) * | 2019-05-08 | 2021-10-19 | 주식회사 모션하우스 | Apparatus and Method for generating of simulation program for motion simulator |
US10958869B1 (en) * | 2019-11-14 | 2021-03-23 | Huawei Technologies Co., Ltd. | System, device and method for video frame interpolation using a structured neural network |
CN111476198B (en) * | 2020-04-24 | 2023-09-26 | 广西安良科技有限公司 | Gait recognition method, device, system, storage medium and server based on artificial intelligence |
CN112203034B (en) * | 2020-09-30 | 2023-09-08 | Oppo广东移动通信有限公司 | Frame rate control method and device and electronic equipment |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000333134A (en) * | 1999-05-20 | 2000-11-30 | Toshiba Corp | Interpolated field generation circuit and field double speed conversion circuit |
JP2001054075A (en) * | 1999-08-06 | 2001-02-23 | Hitachi Ltd | Motion compensation scanning conversion circuit for image signal |
JP2002359775A (en) * | 2001-03-28 | 2002-12-13 | Sanyo Electric Co Ltd | Telecine conversion method |
JP3588564B2 (en) * | 1999-03-31 | 2004-11-10 | 株式会社東芝 | Video data recording device |
JP2005124201A (en) * | 2003-10-14 | 2005-05-12 | Samsung Electronics Co Ltd | Device and method for converting frame rate using time shift and motion compensation |
JP2005287048A (en) * | 2004-03-30 | 2005-10-13 | Matsushita Electric Ind Co Ltd | Improvement of motion vector estimation at image border |
JP2005287049A (en) * | 2004-03-30 | 2005-10-13 | Matsushita Electric Ind Co Ltd | Motion compensation method and apparatus at vector-based image borders |
JP4438795B2 (en) * | 2006-12-28 | 2010-03-24 | 株式会社日立製作所 | Video conversion device, video display device, and video conversion method |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4663665A (en) * | 1985-01-07 | 1987-05-05 | Nippon Hoso Kyokai | TV system conversion apparatus |
JPH04323988A (en) * | 1991-04-23 | 1992-11-13 | Hitachi Ltd | Sampling rate conversion system |
JPH06165134A (en) * | 1992-11-27 | 1994-06-10 | Nippon Hoso Kyokai <Nhk> | Television format converter |
GB9720061D0 (en) | 1997-09-19 | 1997-11-19 | Crosfield Joseph & Sons | Metal compounds as phosphate binders |
JPH11331782A (en) | 1998-05-15 | 1999-11-30 | Mitsubishi Electric Corp | Signal converter |
KR100708091B1 (en) | 2000-06-13 | 2007-04-16 | 삼성전자주식회사 | Apparatus and method for frame rate conversion using bidirectional motion vector |
KR100396558B1 (en) * | 2001-10-25 | 2003-09-02 | 삼성전자주식회사 | Apparatus and method for converting frame and/or field rate using adaptive motion compensation |
EP1422928A3 (en) * | 2002-11-22 | 2009-03-11 | Panasonic Corporation | Motion compensated interpolation of digital video signals |
JP2005006275A (en) | 2002-11-22 | 2005-01-06 | Matsushita Electric Ind Co Ltd | Device, method, and program for generating interpolation frame |
JP2004180242A (en) | 2002-11-29 | 2004-06-24 | Victor Co Of Japan Ltd | Progressive scanning conversion apparatus, progressive scanning conversion method, and progressive scanning conversion program |
JP2005241787A (en) | 2004-02-25 | 2005-09-08 | Victor Co Of Japan Ltd | Picture display apparatus |
JP2006279917A (en) | 2005-03-04 | 2006-10-12 | Mitsubishi Electric Corp | Dynamic image encoding device, dynamic image decoding device and dynamic image transmitting system |
JP5177828B2 (en) | 2005-03-25 | 2013-04-10 | 株式会社Jvcケンウッド | Image rate conversion method and image rate conversion apparatus |
KR20070063304A (en) * | 2005-12-14 | 2007-06-19 | 삼성전자주식회사 | Motion Estimator and Motion Estimation Method |
KR100870115B1 (en) * | 2005-12-21 | 2008-12-10 | 주식회사 메디슨 | Image Formation Method Using Block Matching and Motion Compensation Interpolation |
US8582660B2 (en) * | 2006-04-13 | 2013-11-12 | Qualcomm Incorporated | Selective video frame rate upconversion |
US20080025390A1 (en) * | 2006-07-25 | 2008-01-31 | Fang Shi | Adaptive video frame interpolation |
-
2007
- 2007-03-19 JP JP2007069758A patent/JP4513819B2/en active Active
-
2008
- 2008-03-19 CN CN2008100868381A patent/CN101272460B/en active Active
- 2008-03-19 US US12/050,972 patent/US8768103B2/en active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3588564B2 (en) * | 1999-03-31 | 2004-11-10 | 株式会社東芝 | Video data recording device |
JP2000333134A (en) * | 1999-05-20 | 2000-11-30 | Toshiba Corp | Interpolated field generation circuit and field double speed conversion circuit |
JP2001054075A (en) * | 1999-08-06 | 2001-02-23 | Hitachi Ltd | Motion compensation scanning conversion circuit for image signal |
JP2002359775A (en) * | 2001-03-28 | 2002-12-13 | Sanyo Electric Co Ltd | Telecine conversion method |
JP2005124201A (en) * | 2003-10-14 | 2005-05-12 | Samsung Electronics Co Ltd | Device and method for converting frame rate using time shift and motion compensation |
JP2005287048A (en) * | 2004-03-30 | 2005-10-13 | Matsushita Electric Ind Co Ltd | Improvement of motion vector estimation at image border |
JP2005287049A (en) * | 2004-03-30 | 2005-10-13 | Matsushita Electric Ind Co Ltd | Motion compensation method and apparatus at vector-based image borders |
JP4438795B2 (en) * | 2006-12-28 | 2010-03-24 | 株式会社日立製作所 | Video conversion device, video display device, and video conversion method |
Also Published As
Publication number | Publication date |
---|---|
JP2008236098A (en) | 2008-10-02 |
CN101272460A (en) | 2008-09-24 |
US8768103B2 (en) | 2014-07-01 |
CN101272460B (en) | 2011-08-03 |
US20080231745A1 (en) | 2008-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4513819B2 (en) | Video conversion device, video display device, and video conversion method | |
JP4438795B2 (en) | Video conversion device, video display device, and video conversion method | |
JP4844370B2 (en) | Frame rate conversion device and display device | |
EP2161687B1 (en) | Video signal processing device, video signal processing method, and video signal processing program | |
JP5490236B2 (en) | Image processing apparatus and method, image display apparatus and method | |
JP5192087B2 (en) | Image processing apparatus and image processing method | |
JP5067439B2 (en) | Video conversion device, video display device, video conversion method, and video display method | |
US8385430B2 (en) | Video signal processing apparatus and video signal processing method | |
US20100039517A1 (en) | Film cadence detection | |
JP4431089B2 (en) | Video interpolation device, frame rate conversion device, and video display device | |
JP5241632B2 (en) | Image processing circuit and image processing method | |
JP2016048810A (en) | Frame rate conversion apparatus and frame rate conversion method | |
US20080063067A1 (en) | Frame interpolating circuit, frame interpolating method, and display apparatus | |
JP2007288483A (en) | Image converting apparatus | |
JP2005184442A (en) | Image processor | |
KR101109153B1 (en) | Method for deinterlacing using detecting judder and apparatus therefor | |
JP5371682B2 (en) | Image processing apparatus and image processing method | |
JP2007074439A (en) | Video processor | |
JP2009033468A (en) | Interpolation frame image display method and interpolation frame image generation apparatus for low frame rate moving image | |
JP2011082932A (en) | Method and apparatus for detecting telop image | |
JP2013074384A (en) | Image processing apparatus and image processing method | |
JP2008263256A (en) | Interpolation signal generating circuit, interpolation signal generation method, program, and video signal processor | |
JP2004120635A (en) | Scanning line interpolation circuit and scanning line interpolation method | |
JP2018160725A (en) | Video signal processor, video signal processing method, and video signal processing program | |
JP2016207101A (en) | Area detection device and area detection method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100420 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100503 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4513819 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130521 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130521 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |