[go: up one dir, main page]

JP4513819B2 - Video conversion device, video display device, and video conversion method - Google Patents

Video conversion device, video display device, and video conversion method Download PDF

Info

Publication number
JP4513819B2
JP4513819B2 JP2007069758A JP2007069758A JP4513819B2 JP 4513819 B2 JP4513819 B2 JP 4513819B2 JP 2007069758 A JP2007069758 A JP 2007069758A JP 2007069758 A JP2007069758 A JP 2007069758A JP 4513819 B2 JP4513819 B2 JP 4513819B2
Authority
JP
Japan
Prior art keywords
interpolation frame
frame
video signal
input video
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007069758A
Other languages
Japanese (ja)
Other versions
JP2008236098A (en
Inventor
荻野昌宏
中嶋満雄
水橋嘉章
高野橋健太
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2007069758A priority Critical patent/JP4513819B2/en
Priority to CN2008100868381A priority patent/CN101272460B/en
Priority to US12/050,972 priority patent/US8768103B2/en
Publication of JP2008236098A publication Critical patent/JP2008236098A/en
Application granted granted Critical
Publication of JP4513819B2 publication Critical patent/JP4513819B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Television Systems (AREA)

Description

本発明は、映像処理装置に係り、特に映像信号中のフレームから補間フレームを作成してフレームレート変換を行うための技術に関する。   The present invention relates to a video processing apparatus, and more particularly to a technique for creating an interpolation frame from a frame in a video signal and performing frame rate conversion.

近年、画像のフレーム数を増やすことにより、動画表示におけるぼやけ感やガタガタ感といった不自然な動きを改善するために、フレームレート変換を高画質化技術として適用する動きが注目され始めている。しかし、前記したような動画性能向上に対する明確な改善効果を得るためには、精度の高い補間フレーム生成が必要となる。従来からよく用いられている高度な補間方法として、現在のフレームと1フレーム前のフレームを用いて、フレーム間の動きベクトルを利用した動き補償処理を用いる方法がある。この方法では、動きベクトル情報をもとにフレーム間の動きを特定し、補間フレームを作成する。精度の高い補間フレームを得るためには、この動きベクトルの精度を上げる必要があり、検索範囲を2段階に分けて探索する方法(例えば非特許文献1)や、周囲の動きベクトルとの比較を行うことで、不適切な動きベクトルを除去するスムージング処理を行う等の手法が提案されている(例えば特許文献1参照)。   In recent years, attention has been focused on the application of frame rate conversion as a technique for improving image quality in order to improve unnatural movements such as blurring and rattling in moving image display by increasing the number of frames of an image. However, in order to obtain a clear improvement effect for improving the moving image performance as described above, it is necessary to generate an interpolation frame with high accuracy. As an advanced interpolation method that has been frequently used, there is a method that uses a motion compensation process using a motion vector between frames using the current frame and the previous frame. In this method, a motion between frames is specified based on motion vector information, and an interpolation frame is created. In order to obtain a highly accurate interpolation frame, it is necessary to increase the accuracy of the motion vector. For example, a search method divided into two stages (for example, Non-Patent Document 1) or a comparison with surrounding motion vectors A technique such as performing a smoothing process for removing an inappropriate motion vector by performing this technique has been proposed (see, for example, Patent Document 1).

特開平2002−27414号公報(第9項、図9)Japanese Patent Laid-Open No. 2002-27414 (Section 9, FIG. 9) 東芝レビュー Vol.59 No.12(2004)Toshiba Review Vol.59 No.12 (2004)

しかしながら、従来の動き補償処理においては、1画面中に複数の動きを伴うような画像や、複数の動物体が交差するような動きにおいては、正確な動きベクトルを得る事が難しく、映像的に破綻をきたすことになる。   However, in the conventional motion compensation processing, it is difficult to obtain an accurate motion vector in an image with multiple motions in one screen or in a motion where multiple moving objects intersect. It will be bankrupt.

本発明は上記課題に鑑みて考えたものであり、より正確に動きベクトルを検出可能にして、高画質にフレームレート変換を行うことが可能な技術を提供することを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to provide a technique capable of detecting a motion vector more accurately and performing frame rate conversion with high image quality.

上記目的を達成するために、本発明は、特許請求の範囲に記載されたように構成すればよい。

To achieve the above object, the present invention may be configured as described in the appended claims.

このような構成によれば、動き補償法を用いたフレームレート変換処理において、映像の特徴を捉えた適応的な補間制御により、動画性能向上を実現し、且つ破綻発生を抑えた映像を実現することが可能となる。   According to such a configuration, in the frame rate conversion process using the motion compensation method, the adaptive interpolation control that captures the characteristics of the video realizes the improvement of the moving image performance and the video with the occurrence of the failure suppressed. It becomes possible.

本発明によれば、より正確に動きベクトルを検出することが可能となり、以って、高画質にフレームレート変換を行うことが可能となる。   According to the present invention, it is possible to detect a motion vector more accurately, and thus it is possible to perform frame rate conversion with high image quality.

以下、本発明の実施形態について図面を参照しつつ説明する。   Embodiments of the present invention will be described below with reference to the drawings.

図1は、本発明の第一の実施形態である画像処理装置の構成の一例を示すブロック図である。   FIG. 1 is a block diagram showing an example of the configuration of an image processing apparatus according to the first embodiment of the present invention.

図1において、1001は入力信号、1002は解像度変換部、1003はフレームレート変換(以下、FRC:Frame Rate Conversionと呼ぶ)部、1004は画像メモリ、1005はタイミングコントロール部、1006は表示部、1007はFRC変換モード信号である。   In FIG. 1, 1001 is an input signal, 1002 is a resolution conversion unit, 1003 is a frame rate conversion (hereinafter referred to as FRC: Frame Rate Conversion) unit, 1004 is an image memory, 1005 is a timing control unit, 1006 is a display unit, 1007 Is an FRC conversion mode signal.

解像度変換部1002では、入力画像を表示部1006に合わせた画像フォーマットへ拡大・縮小処理を行う。FRC部1003では、外部から設定されるFRC変換モード信号1007に応じたフレームレートの変換を行い、タイミングコントローラ部1005では前記FRC部1003から得られたフレームレート変換出力を表示部1006に表示するためのタイミング調整を行う。   The resolution conversion unit 1002 performs an enlargement / reduction process on the input image to an image format adapted to the display unit 1006. The FRC unit 1003 performs frame rate conversion according to the FRC conversion mode signal 1007 set from the outside, and the timing controller unit 1005 displays the frame rate conversion output obtained from the FRC unit 1003 on the display unit 1006. Adjust the timing.

図2は、図1におけるFRC部1003の構成の一例を示すものである。   FIG. 2 shows an example of the configuration of the FRC unit 1003 in FIG.

図2において、2001は現フレーム信号、2002は1フレーム前信号、2003はFRC変換モード信号、2004は動きベクトル検出部、2005は動きベクトル、2006は画像特徴検出部、2007は判定信号、2008は補間フレーム生成部、2009は補間フレーム信号、2010はフレームレート変換出力信号、2011はメモリインターフェース部である。   In FIG. 2, 2001 is the current frame signal, 2002 is the signal one frame before, 2003 is the FRC conversion mode signal, 2004 is the motion vector detection unit, 2005 is the motion vector, 2006 is the image feature detection unit, 2007 is the determination signal, 2008 is An interpolation frame generation unit, 2009 is an interpolation frame signal, 2010 is a frame rate conversion output signal, and 2011 is a memory interface unit.

動きベクトル検出部2004では、現フレーム信号2001と1フレーム前信号2002により、動きベクトル2005を検出する。検出方法としては、前記従来技術で記したようなブロックマッチング法や勾配法、位相相関法等どれを用いても良いが、ここでは、図3に示すようなN×N(Nは整数)のブロックマッチング法を用いる場合で以下説明する。図3において、3001は現フレーム信号、3002は1フレーム前信号、3003は補間フレーム信号、3004は対象ブロック、3005は動きベクトル検索範囲、3006は最小差分値ブロックペア、3007は動きベクトルである。   The motion vector detection unit 2004 detects a motion vector 2005 from the current frame signal 2001 and the previous frame signal 2002. As a detection method, any of the block matching method, gradient method, phase correlation method and the like described in the prior art may be used. Here, N × N (N is an integer) as shown in FIG. The case where the block matching method is used will be described below. In FIG. 3, 3001 is the current frame signal, 3002 is the previous frame signal, 3003 is the interpolated frame signal, 3004 is the target block, 3005 is the motion vector search range, 3006 is the minimum difference value block pair, and 3007 is the motion vector.

補間フレーム3003上、補間しようとしている対象ブロック3004に対して、現フレーム信号3001、1フレーム前信号3002のそれぞれにおいて点対称の位置のブロックを中心として、所定ブロック数の検索範囲を設ける。図3の場合は水平11ブロック、垂直5ブロックと設定している。対象ブロック3004を中心として、時間方向に点対称ペアの位置にある現フレーム信号3001、及び1フレーム前信号3002上のブロック間の差分値マッチングにより、最も差分値が小さいブロックペア3006を検出し、その方向を動きベクトル3007として出力する。   On the interpolation frame 3003, a search range of a predetermined number of blocks is provided with respect to the target block 3004 to be interpolated, centering on a block at a point-symmetrical position in each of the current frame signal 3001 and the previous frame signal 3002. In the case of FIG. 3, 11 horizontal blocks and 5 vertical blocks are set. The block pair 3006 with the smallest difference value is detected by the difference value matching between the current frame signal 3001 at the position of the point symmetric pair in the time direction and the block on the previous frame signal 3002 around the target block 3004, The direction is output as a motion vector 3007.

得られた動きベクトル2005(3007)は、補間フレーム生成部2008へ入力される。補間フレーム生成部2008では、補間フレーム中の対象ブロックの画素値を前記差分値最小ペアの画素値の平均値として算出する。   The obtained motion vector 2005 (3007) is input to the interpolation frame generation unit 2008. The interpolation frame generation unit 2008 calculates the pixel value of the target block in the interpolation frame as the average value of the pixel values of the minimum difference value pair.

図3では、60Hzから120Hzへの変換のように、入力される元のフレームレートでのフレーム(以下、キーフレームと呼ぶ)に対して時間的に中間の重心位置に1枚の補間フレームを挿入する場合を説明した。これに対し、図4では映画の24Hzから60Hzへの変換等、キーフレーム間に複数枚の補間フレームを挿入する場合の例を示す。尚、このように60Hzから120Hzへの変換をするのか、及び24Hzから60Hzへの変換をするのか等、フレームレート変換の動作モードを決めるのが、FRC変換モード信号1007(2003)である。   In FIG. 3, a single interpolated frame is inserted at the center of gravity position temporally with respect to the frame at the original input frame rate (hereinafter referred to as a key frame) as in the case of conversion from 60 Hz to 120 Hz. Explained when to do. On the other hand, FIG. 4 shows an example in which a plurality of interpolation frames are inserted between key frames, such as conversion from 24 Hz to 60 Hz of a movie. It is the FRC conversion mode signal 1007 (2003) that determines the operation mode of frame rate conversion, such as whether to convert from 60 Hz to 120 Hz and from 24 Hz to 60 Hz.

図4において、図3の構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。   In FIG. 4, the same components as those of FIG. 3 are denoted by the same reference numerals, and the description thereof is omitted.

4001は動きベクトル検索範囲1、4002は動きベクトル検索範囲2、4003は補間フレーム1、4004は補間フレーム2、4005は対象ブロック1、4006は対象ブロック2、4007は動きベクトル1、4008は動きベクトル2である。   4001 is motion vector search range 1, 4002 is motion vector search range 2, 4003 is interpolation frame 1, 4004 is interpolation frame 2, 4005 is target block 1, 4006 is target block 2, 4007 is motion vector 1, 4008 is motion vector 2.

図4において、補間フレーム1 4003上の対象ブロック1 4005に対しては、現フレーム信号3001上では動きベクトル検索範囲1 4001を、1フレーム前信号3002上では動きベクトル検索範囲2 4002を設定する。図を見ても分かる通り、検索範囲の大きさとして、動きベクトル検索範囲1 <動きベクトル検索範囲2である。これは、補間フレーム1 4003の現フレーム信号3001からの時間的距離が、1フレーム前信号3002からの時間的距離に比べて短いためであり、その結果、点対称位置のブロック間での差分値マッチング演算の際、設定できる検索範囲の大きさが異なることになる。同様に、補間フレーム2 4004上の対象ブロック2 4006に対しても、その時間的重心位置の違いから、現フレーム信号3001上では動きベクトル検索範囲2 4002を、1フレーム前信号3002上では動きベクトル検索範囲1 4001を設定する必要がある。前記60Hzから120Hzへの変換同様、検索範囲内において差分値マッチング演算を行い、最も差分値が小さいブロックペアを算出し、その方向を動きベクトル2007として出力する。ここで、補間フレームが2つ存在するために、必要な動きベクトルも2つ(4007、4008)となる。補間フレーム生成部2005では、補間フレーム1 4003、及び補間フレーム2 4004それぞれの時間的重心位置を考慮して補間画素値を算出する。具体的には、図4において補間フレーム1上の対象ブロック1 4005、及び補間フレーム2 4006上の対象ブロック2の画素値(それぞれI(1), I(2)とする)は、時間方向の重心位置を考慮した荷重加算によってそれぞれ以下の数1及び数2で算出される。   In FIG. 4, a motion vector search range 1 4001 is set on the current frame signal 3001 and a motion vector search range 2 4002 is set on the previous frame signal 3002 for the target block 1 4005 on the interpolation frame 1 4003. As can be seen from the figure, the size of the search range is motion vector search range 1 <motion vector search range 2. This is because the temporal distance from the current frame signal 3001 of the interpolation frame 1 4003 is shorter than the temporal distance from the signal 3002 one frame before, and as a result, the difference value between the blocks at the point-symmetrical positions. The size of the search range that can be set during the matching operation is different. Similarly, for the target block 2 4006 on the interpolated frame 2 4004, the motion vector search range 2 4002 is displayed on the current frame signal 3001 and the motion vector is displayed on the previous frame signal 3002 due to the difference in the temporal center of gravity. Search range 1 4001 must be set. Similar to the conversion from 60 Hz to 120 Hz, the difference value matching calculation is performed within the search range, the block pair having the smallest difference value is calculated, and the direction thereof is output as the motion vector 2007. Here, since there are two interpolation frames, two motion vectors (4007 and 4008) are necessary. The interpolation frame generation unit 2005 calculates the interpolation pixel value in consideration of the temporal centroid position of each of the interpolation frame 1 4003 and the interpolation frame 2 4004. Specifically, in FIG. 4, the pixel values of the target block 1 4005 on the interpolation frame 1 and the target block 2 on the interpolation frame 2 4006 (referred to as I (1) and I (2), respectively) in the time direction The following equations (1) and (2) are respectively calculated by load addition considering the position of the center of gravity.

(数1)I(1) = (3*Y1_a + 2*Y0_a)/5
(数2)I(2) = (Y1_b +4*Y0_b)/5
図5は、上記時間方向の荷重加算を説明する図である。図5において、5001〜5003は、24Hzの映像フレーム、5004〜5009は60Hzの映像フレーム、矢印に添えられている数値は、補間フレーム生成の際の時間方向の荷重値を示している。補間フレーム5005〜5008は、上記式(1)、(2)によりそれぞれ算出される。
(Equation 1) I (1) = (3 * Y1_a + 2 * Y0_a) / 5
(Equation 2) I (2) = (Y1_b + 4 * Y0_b) / 5
FIG. 5 is a diagram for explaining the load addition in the time direction. In FIG. 5, 5001 to 5003 are 24 Hz video frames, 5004 to 5009 are 60 Hz video frames, and the numerical values attached to the arrows indicate the load values in the time direction when generating the interpolation frames. The interpolation frames 5005 to 5008 are calculated by the above equations (1) and (2), respectively.

メモリインターフェース部2011では、補間フレーム生成部2008からの補間フレーム出力の画像メモリ1004へのデータ書き込み、及びFRC変換モード 1007に応じたレートでのデータ読み出しを行い、フレームレート変換出力2009を出力する。ここで、図5に示すように、24Hzから60Hzへの変換の場合は、キーフレーム5002は削除して映像を出力する。   In the memory interface unit 2011, data of the interpolation frame output from the interpolation frame generation unit 2008 is written into the image memory 1004 and data is read at a rate corresponding to the FRC conversion mode 1007, and a frame rate conversion output 2009 is output. Here, as shown in FIG. 5, in the case of conversion from 24 Hz to 60 Hz, the key frame 5002 is deleted and video is output.

補間フレーム生成部2008では、上記したような通常FRC動作(以下、ベクトルFRCと称する)における補間フレーム生成動作に加え、後述する画像特徴検出部2006からの判定信号により、図6に示すようなフレーム繰り返しによる補間フレーム生成、つまりはベクトルFRC非動作の切替を行う。図7は、図2における補間フレーム生成部2008の構成の一例を示している。図7において、7001は現フレーム信号、7002は1フレーム前信号、7003は動きベクトル、7004はFRC変換モード信号、7005は水平/垂直方向補間画素選択部、7006は時間方向補間処理部、7007はセレクタ部、7008は判定信号である。   In the interpolation frame generation unit 2008, in addition to the interpolation frame generation operation in the normal FRC operation (hereinafter referred to as vector FRC) as described above, a frame as shown in FIG. Interpolation frame generation by repetition, that is, switching of vector FRC non-operation is performed. FIG. 7 shows an example of the configuration of the interpolation frame generation unit 2008 in FIG. In FIG. 7, 7001 is the current frame signal, 7002 is the previous frame signal, 7003 is the motion vector, 7004 is the FRC conversion mode signal, 7005 is the horizontal / vertical direction interpolation pixel selection unit, 7006 is the time direction interpolation processing unit, and 7007 is A selector section 7008 is a determination signal.

ここで、我々がフレームレート変換による動画質評価により得た見解に関して以下に説明する。   Here, we will explain the opinions we have obtained through the video quality evaluation by frame rate conversion.

60Hzから120Hz、30Hzから60Hzへの変換のように整数倍のフレームレート変換で、キーフレーム間に補間フレームが1つしか挿入されない変換の場合、前記挿入される補間フレームの画質が、動きベクトル誤検出等で多少劣化が見られたとしても、人間の目ではそれを認識し難く、結果として時間解像度が向上したことのインパクトの方が大きい。これに対し、24Hzから60Hz、50Hzから60Hzへの変換のように非整数倍のフレームレート変換で、キーフレーム間に複数の補間フレームが挿入される場合は、前記補間フレームの画質が動きベクトル誤検出等で劣化が見られる場合、その劣化画像が時間的に2枚以上続くことになり、人間の目に認識され、時間解像度向上の効果よりも、画質の劣化が目立ってしまうことになる。   In the case of frame rate conversion of integer multiples, such as conversion from 60 Hz to 120 Hz, 30 Hz to 60 Hz, and conversion in which only one interpolation frame is inserted between key frames, the image quality of the inserted interpolation frame is a motion vector error. Even if some deterioration is observed in detection or the like, it is difficult for the human eye to recognize it, and as a result, the impact of improving the time resolution is greater. On the other hand, when a plurality of interpolated frames are inserted between key frames by non-integer multiple frame rate conversion, such as conversion from 24 Hz to 60 Hz, or 50 Hz to 60 Hz, the image quality of the interpolated frame becomes a motion vector error. When deterioration is detected by detection or the like, two or more deteriorated images continue in terms of time, which is recognized by human eyes, and deterioration of image quality becomes more conspicuous than the effect of improving time resolution.

次に、前記動きベクトル誤検出による劣化画像に関して説明する。   Next, a description will be given of a degraded image caused by the erroneous motion vector detection.

動きベクトルの検出においては、前記説明したように、基本的に現フレーム映像と1フレーム前の映像からブロック単位、画素単位での差分値マッチング演算による相関を算出し、前記相関が最も高い位置の画素値から補間フレームの画素値を算出する。しかし例えば図8に示すように、フレーム間において対象動物体が障害物の裏を通り抜けるような画像の場合、対象物体の一部は数フレーム間映像中に存在しなくなるため、正確な動きベクトルを算出することができない。また通常、動きベクトル検出においては、そのベクトルの信頼性向上のために、周囲で検出された動きベクトルや、画面全体の動きベクトルを参照する方式をとる事が多い。これにより、画面全体が一定方向へパンしているような映像ではかなり精度の高い動きベクトルが得られるが、画面中に複数の異なる動きが存在するような映像の場合は、正確な動きベクトル検出が急激に難しくなる。さらに、動きベクトルの検索範囲を超えるような早い動きの場合においても、正確なベクトル検出が行えず、画像の破綻を招くことになる。最も単純な対策としては、動きベクトル検索範囲を拡げることが考えられるが、その分誤検出する可能性も増えると共に、演算量の増大、及びハードウェア化を考えた場合の回路規模の増大に直結する。   In motion vector detection, as described above, the correlation is basically calculated from the current frame image and the image one frame before by the difference value matching calculation in block units and pixel units, and the position with the highest correlation is calculated. The pixel value of the interpolation frame is calculated from the pixel value. However, as shown in FIG. 8, for example, in the case where the target moving object passes through the back of the obstacle between frames, a part of the target object does not exist in the video for several frames. It cannot be calculated. Usually, in motion vector detection, in order to improve the reliability of the vector, a method of referring to a motion vector detected in the surroundings or a motion vector of the entire screen is often used. This makes it possible to obtain motion vectors with a high degree of accuracy for images in which the entire screen is panned in a certain direction, but accurate motion vector detection is possible for images with multiple different motions on the screen. Suddenly becomes difficult. Furthermore, even in the case of a fast motion that exceeds the motion vector search range, accurate vector detection cannot be performed, leading to image failure. The simplest measure is to expand the motion vector search range, but the possibility of erroneous detection increases accordingly, directly increasing the amount of computation and increasing the circuit scale when considering hardware implementation. To do.

本実施例では、映像の特徴に応じてその補間方法を切り替えることでこの問題を解決する。つまり、フレーム毎の動きベクトルヒストグラム情報を元に、映像の補間方法をダイナミックに変更する。以下、本発明では本方式をダイナミックFRCと称する。   In the present embodiment, this problem is solved by switching the interpolation method according to the feature of the video. That is, the video interpolation method is dynamically changed based on the motion vector histogram information for each frame. Hereinafter, in the present invention, this method is referred to as dynamic FRC.

図9は、本発明におけるダイナミックFRC処理のステートダイアグラムを示すものである。図9において、S101は動きベクトルを用いた補間フレーム生成を行うベクトルFRC動作状態、S102はフレーム繰り返しによる補間フレーム生成を行う、非FRC動作状態である。   FIG. 9 shows a state diagram of dynamic FRC processing in the present invention. In FIG. 9, S101 is a vector FRC operation state in which an interpolation frame is generated using a motion vector, and S102 is a non-FRC operation state in which an interpolation frame is generated by frame repetition.

画像特徴検出部2006での動きの特徴判定により、状態遷移(S103、S104)を行う。   The state transition (S103, S104) is performed by the motion feature determination in the image feature detection unit 2006.

画像特徴検出部2006では、検出された動きベクトルによるヒストグラム情報により、動きの特徴を検出し、判定信号2007を出力する。図10は、前記ベクトルヒストグラム検出結果の一例を示したものである。図10では、動きベクトル検出部2004でのベクトル検出範囲を垂直5ブロック、水平11ブロックに設定した場合を示している。図10のヒストグラム結果をグラフ化したものを図11に示す。図11を見て分かるように、この例ではベクトル(0,0)周辺に多くの動きベクトルが集中していることが読み取れる。画像特徴検出部2006ではこのようなベクトルヒストグラム分布を用いて動きの特徴を判定する。   The image feature detection unit 2006 detects the feature of the motion based on the histogram information based on the detected motion vector, and outputs a determination signal 2007. FIG. 10 shows an example of the vector histogram detection result. FIG. 10 shows a case where the vector detection range in the motion vector detection unit 2004 is set to 5 vertical blocks and 11 horizontal blocks. FIG. 11 shows a graph of the histogram result of FIG. As can be seen from FIG. 11, it can be seen that many motion vectors are concentrated around the vector (0,0) in this example. The image feature detection unit 2006 determines the feature of motion using such a vector histogram distribution.

例えば、前記動きベクトルヒストグラム分布において、図12に示すように任意の方向に集中している場合には、画面中支配的な動きにより全体がスクロールしている可能性が高いと判定する。また図13に示すように、検索範囲の境界部分に所定閾値以上集中する場合、その画面は検索範囲を超える早い動きの物体が多くある可能性が高いと判定する。別の判定の仕方として、動きが検索範囲を超えた場合には、正確にマッチングがとれるブロックがなくなり、検索範囲内にマッチング値が同じレベルのブロックが複数存在することが予想されることを利用する。例えば、マッチング値が同じ場合には、ベクトル(0,0)、もしくはそれに近いベクトルを優先させるようなアルゴリズムを用いている場合、図14に示すように、ベクトル(0,0)に分布が集中することが考えられる。従ってこの場合、所定閾値以上ベクトル(0,0)に分布が集中する場合は検索範囲を超える動きが存在したと判定する。尚、ベクトル(0,0)に集中するかどうかはベクトル検出におけるアルゴリズム次第であり、これに限るものではない。また、図15に示すように、所定閾値以上の分布が散乱している場合は複数の動きが存在する画像であると判定する。   For example, when the motion vector histogram distribution is concentrated in an arbitrary direction as shown in FIG. 12, it is determined that there is a high possibility that the entire screen is scrolled due to the dominant motion in the screen. Also, as shown in FIG. 13, when the screen is concentrated on the boundary portion of the search range by a predetermined threshold or more, it is determined that there is a high possibility that there are many fast-moving objects exceeding the search range. Another judgment method is that when the motion exceeds the search range, there is no block that can be matched accurately, and it is expected that there are multiple blocks with the same matching value in the search range. To do. For example, when the matching values are the same, when an algorithm that prioritizes the vector (0,0) or a vector close thereto is used, the distribution is concentrated on the vector (0,0) as shown in FIG. It is possible to do. Therefore, in this case, when the distribution is concentrated on the vector (0, 0) above the predetermined threshold, it is determined that there is a motion exceeding the search range. Whether or not to concentrate on the vector (0,0) depends on the algorithm in vector detection, and is not limited to this. Further, as shown in FIG. 15, when a distribution of a predetermined threshold value or more is scattered, it is determined that the image has a plurality of movements.

画像特徴検出部2006では、図12〜15のようなベクトルヒストグラム分布を持つ画像入力の際に、その旨を示す判定信号2007を出力する。判定信号2007は例えば1/0の1ビットの信号で良い。図12に示すようなベクトルヒストグラム分布の場合、検出された動きベクトルの信頼性が高いと判断し0を出力する。図13〜15に示すようなベクトルヒストグラムの場合、動きベクトルの信頼性が低く、誤検出の可能性が高いため、1を出力する。セレクタ部7007では、前記判定信号に応じて、ベクトルFRCによる補間フレームとフレーム繰り返しによる補間フレーム出力の切替を行う。従って、判定信号2007が0の場合(S103)には、ベクトルFRC動作(S101)へ遷移し、判定信号が1の場合(S104)には、非FRC動作(S102)へ遷移する。また、前記状態遷移(S103,S104)の際には、状態が頻繁に切替わることによる弊害を防止するため、判定信号2007が0(1)の状態が、所定フレーム期間継続した場合に遷移する、もしくは遷移した後に、その状態を所定期間維持する、といったヒステリシス特性を持たせる構成としてもよい。   The image feature detection unit 2006 outputs a determination signal 2007 indicating that when an image having a vector histogram distribution as shown in FIGS. The determination signal 2007 may be a 1-bit signal of 1/0, for example. In the case of the vector histogram distribution as shown in FIG. 12, it is determined that the reliability of the detected motion vector is high, and 0 is output. In the case of the vector histogram as shown in FIGS. 13 to 15, 1 is output because the reliability of the motion vector is low and the possibility of erroneous detection is high. The selector unit 7007 switches between the interpolated frame based on the vector FRC and the interpolated frame output based on frame repetition according to the determination signal. Therefore, when the determination signal 2007 is 0 (S103), the process proceeds to the vector FRC operation (S101), and when the determination signal is 1 (S104), the process shifts to the non-FRC operation (S102). Also, during the state transition (S103, S104), transition is made when the state in which the determination signal 2007 is 0 (1) continues for a predetermined frame period in order to prevent adverse effects caused by frequent state switching. Alternatively, it may be configured to have a hysteresis characteristic of maintaining the state for a predetermined period after the transition.

また、本実施例においては、動きの特徴検出をハードウェアで構成しているが、これに限るものではなく、ハードウェアからは動きベクトル情報のみ出力し、ソフトウェアにて本ダイナミックFRC制御を実現する構成としてもよい。   In this embodiment, the feature detection of motion is configured by hardware. However, the present invention is not limited to this. Only the motion vector information is output from the hardware, and the dynamic FRC control is realized by software. It is good also as a structure.

また、補間フレーム出力切替に関しては、補間フレーム生成部2008で実施しなければならないこともなく、メモリインターフェース部2011によるデータ読み出し制御によって実施する構成としても良い。   In addition, the interpolation frame output switching need not be performed by the interpolation frame generation unit 2008, and may be configured to be performed by data read control by the memory interface unit 2011.

以上のように本実施例によれば、入力された画像の動きの特徴を捉え、前記動きの特徴に応じて、FRCの動作状態をダイナミックに切り替えることが可能となる。   As described above, according to this embodiment, it is possible to capture the characteristics of the motion of the input image and dynamically switch the operation state of the FRC according to the characteristics of the motion.

図16は、本発明の第二の実施形態である画像処理装置のダイナミックFRC処理のステートダイアグラムを示すものである。図16において、図9に示した構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。   FIG. 16 shows a state diagram of dynamic FRC processing of the image processing apparatus according to the second embodiment of the present invention. In FIG. 16, the same components as those shown in FIG. 9 are denoted by the same reference numerals, and the description thereof is omitted.

本実施例では、FRCの状態を3段階とすることで、より画像に最適な制御を可能としている。以下、上述した第一の実施の形態と異なる部分についてその動作を説明する。   In this embodiment, the FRC state is set in three stages, thereby enabling more optimal control for the image. Hereinafter, the operation of portions different from those of the first embodiment described above will be described.

図16において、S201はベクトルFRC動作と非FRC動作の中間動作状態である。これらの3つの動作状態は、後述する遷移条件によって画像特徴検出部2006から出力される判定信号2007が、0の時ベクトルFRC動作(S205)、1の時に中間動作(S202,S204)、2の時に非FRC動作(S203)へ遷移する。   In FIG. 16, S201 is an intermediate operation state between the vector FRC operation and the non-FRC operation. These three operation states are: when the determination signal 2007 output from the image feature detection unit 2006 according to the transition condition described later is 0, the vector FRC operation (S205), when 1, the intermediate operation (S202, S204), Sometimes transition to non-FRC operation (S203).

図17は、本発明における24Hzから60Hzへの変換モードでの前記中間動作の一例を説明するための図である。図17において、17001〜17003は入力キーフレーム、17004〜17007は補間フレームである。ベクトルFRC動作(S101)の際には、前記補間フレームは全て動きベクトルを用いた補間、非FRC動作(S102)の際には、前記補間フレームは全て繰り返しフレーム、つまり17004、17005は17001、17006、17007は17002のフレームがそのまま挿入される。中間動作(S201)の場合には、図17に示すように、17005、17006フレームのみを、繰り返しフレーム、もしくは、時間方向の重心位置を考慮した線形補間フレームに置き換える。ここで、時間方向の重心位置を考慮した線形補間フレームとは、フレーム17001と17002に対して水平・垂直ベクトル”0”による時間方向の重心を考慮した荷重加算によって生成される。本方式による映像の見え方としては、フレームレート変換による本来の効果である動画の滑らかさに関しては、完璧な補間フレームが生成された場合と比較した場合、当然その効果は軽減することになるが、破綻を抑圧し、且つ効果を残した映像を実現することが可能となる。   FIG. 17 is a diagram for explaining an example of the intermediate operation in the conversion mode from 24 Hz to 60 Hz in the present invention. In FIG. 17, 17001 to 17003 are input key frames, and 17004 to 17007 are interpolation frames. In the vector FRC operation (S101), the interpolation frames are all interpolated using motion vectors, and in the non-FRC operation (S102), the interpolation frames are all repetitive frames, that is, 17004 and 17005 are 17001, 17006. 17007, the frame 17002 is inserted as it is. In the case of the intermediate operation (S201), as shown in FIG. 17, only the 17005 and 17006 frames are replaced with a repetitive frame or a linear interpolation frame in consideration of the center of gravity position in the time direction. Here, the linear interpolation frame in consideration of the position of the center of gravity in the time direction is generated by adding a load in consideration of the center of gravity in the time direction by the horizontal / vertical vector “0” for the frames 17001 and 17002. As for how the video looks by this method, the smoothness of moving images, which is the original effect of frame rate conversion, is naturally reduced when compared to the case where a perfect interpolation frame is generated. Therefore, it is possible to realize a video that suppresses the failure and leaves an effect.

前記3つの動作状態を切り替えるために、画像特徴検出部2006によって、その旨を示す判定信号2007を出力する。例えば0/1/2を2bitの信号で出力する構成とする。実施例1にて記載した1/0の判定に対して、閾値制御を設けることにより0/1/2への切替を実現する。制御例を以下図18のフローチャートを参照しながら説明する。   In order to switch between the three operation states, the image feature detection unit 2006 outputs a determination signal 2007 indicating that effect. For example, 0/1/2 is output as a 2-bit signal. For the 1/0 determination described in the first embodiment, switching to 0/1/2 is realized by providing threshold control. A control example will be described below with reference to the flowchart of FIG.

まず、ベクトル集中度に関しては、ベクトルカウント閾値TH1以上の箇所がいくつ存在するかの集中度分布値をカウントする(F101)。境界分布度に関しては、検索範囲境界部分において、境界ベクトルカウント閾値TH4以上の箇所いくつ存在するかの境界分布値をカウントする(F102)。   First, regarding the vector concentration degree, the concentration distribution value indicating how many points equal to or greater than the vector count threshold TH1 are counted (F101). With respect to the boundary distribution degree, the boundary distribution value of the number of places equal to or greater than the boundary vector count threshold TH4 in the search range boundary portion is counted (F102).

次に前記集中度分布値と分布閾値TH2、TH3を比較する(F103,104)。さらに、前記境界分布値と境界閾値TH5、TH6を比較する(F105,106)。集中度分布値がTH2以下であり、且つ境界分布値がTH5以下の場合にベクトルFRC動作(F109)となる。集中度分布値がTH2以下であり、且つ境界分布値がTH5以上TH6以下の場合には、中間動作(F108)となる。さらに、集中度分布値がTH2以上TH3以下であり、且つ境界分布がTH5以上TH6以下の場合にも中間動作(F108)となる。集中度分布値がTH3以上の場合には、非FRC動作(F107)となる。さらに、集中度分布値がTH2以下であり、且つ境界分布値がTH6以上の場合、また集中度分布値がTH2以上TH3以下であり、且つ境界分布値がTH5以上の場合にも非FRC動作(F107)となる。   Next, the concentration distribution value is compared with the distribution threshold values TH2 and TH3 (F103, 104). Further, the boundary distribution value is compared with boundary threshold values TH5 and TH6 (F105, 106). The vector FRC operation (F109) is performed when the concentration distribution value is TH2 or less and the boundary distribution value is TH5 or less. When the concentration distribution value is not more than TH2 and the boundary distribution value is not less than TH5 and not more than TH6, the intermediate operation (F108) is performed. Further, the intermediate operation (F108) is also performed when the concentration distribution value is from TH2 to TH3 and the boundary distribution is from TH5 to TH6. When the concentration distribution value is greater than TH3, non-FRC operation (F107) is performed. Furthermore, when the concentration distribution value is TH2 or less and the boundary distribution value is TH6 or more, or when the concentration distribution value is TH2 or more and TH3 or less and the boundary distribution value is TH5 or more, non-FRC operation ( F107).

本制御により、画像特徴検出部2006から判定信号0(ベクトルFRC動作)/1(中間動作)/2(非FRC動作) 2007を出力する。   With this control, the image feature detection unit 2006 outputs a determination signal 0 (vector FRC operation) / 1 (intermediate operation) / 2 (non-FRC operation) 2007.

図19は、本ダイナミックFRC制御による動作イメージを説明するための図である。図に示すように、3つの動作状態をダイナミックに切り替える。ベクトルFRC動作から非FRC動作への遷移(その逆も含む)の間には、基本的に中間動作が入る。これにより、動作切替の際の画像の違和感を軽減することが可能となる。   FIG. 19 is a diagram for explaining an operation image by the dynamic FRC control. As shown in the figure, the three operating states are dynamically switched. Between the transition from vector FRC operation to non-FRC operation (and vice versa), there is basically an intermediate operation. As a result, it is possible to reduce the uncomfortable feeling of the image when the operation is switched.

また、本実施例においては、ベクトルの集中度分布、境界分布を用いて、各値に対して3つの閾値使用による状態分けを行っているが、閾値の数は任意であり、且つ集中度という考え方ではなく、分散度という考え方、または境界分布に関しても、水平/垂直方向独立に制御する考え方を利用してもよい
また、第一の実施例同様、各動作状態への移行の際にはヒステリシス特性を持たせる構成としても良い。
In this embodiment, the vector concentration distribution and the boundary distribution are used to divide the state by using three threshold values for each value. However, the number of threshold values is arbitrary, and the concentration level is called Instead of the concept, the concept of dispersion or the boundary distribution may be controlled independently in the horizontal / vertical direction. In addition, as in the first embodiment, hysteresis is applied when transitioning to each operating state. It is good also as a structure which gives a characteristic.

また、中間動作における補間フレームに関しては、図17において、4枚の補間フレーム中2枚を繰り返しフレーム、もしくは、時間方向の重心位置を考慮した線形補間フレームに置き換える方式としているが、これに限るものではなく、4枚全てを前記線形フレームに置き換える方式としても良い。当然1枚のみ置き換える、3枚置き換える方式としても良い。前記置き換える枚数の違いに応じて、中間動作を分類し状態遷移を3以上に細分化してもよい。   In addition, regarding the interpolated frame in the intermediate operation, in FIG. 17, two of the four interpolated frames are replaced with a repetitive frame or a linear interpolated frame in consideration of the center of gravity in the time direction. Instead, it is possible to replace all four frames with the linear frame. Of course, it is possible to replace only one sheet or replace three sheets. Depending on the difference in the number of replacements, intermediate operations may be classified and state transitions may be subdivided into three or more.

また、2枚の繰り返しフレーム、もしくは、線形フレーム置き換え位置に関しても、17005、17006の位置に限るものではなく、17004、17007を置き換えても良い。さらには例えば図20に示すように、所定周期毎に、あるいは画像の特徴に応じて、置き換える枚数、位置を切り替える方式としても良い。例えば前記したようなベクトルの集中度分布情報を用いて、中間動作の中で、図21に示すように集中度が高い場合は置き換えフレーム数を少なくし、低い場合には、置き換えフレーム数を増やしていくような制御を行ってもよい。   Further, the positions of two repeated frames or linear frame replacement are not limited to the positions of 17005 and 17006, and 17004 and 17007 may be replaced. Further, for example, as shown in FIG. 20, a method of switching the number and position of replacements at predetermined intervals or in accordance with image characteristics may be used. For example, using the vector concentration distribution information as described above, in the intermediate operation, as shown in FIG. 21, the number of replacement frames is decreased when the concentration is high, and the number of replacement frames is increased when the concentration is low. Control may be performed.

以上のように本実施例によれば、FRCの状態をON/OFFモードに加えて、中間モードを持つ3段階とすることで、より画像に最適な制御が可能となる。   As described above, according to the present embodiment, by adding the FRC state to the ON / OFF mode and the three stages having the intermediate mode, it is possible to perform more optimal control for the image.

図22は、本発明の第三の実施形態である画像処理装置の構成の一例を示すブロック図である。   FIG. 22 is a block diagram showing an example of the configuration of the image processing apparatus according to the third embodiment of the present invention.

図22において、図1に示した構成要素と同一の構成要素に関しては、同一の符号を付してその説明を省略する。   22, the same components as those shown in FIG. 1 are denoted by the same reference numerals, and the description thereof is omitted.

本実施の形態によれば、スポーツ、ニュース、映画等の番組のジャンルに応じて最適な補間制御へ切り替えることにができる。   According to the present embodiment, it is possible to switch to optimal interpolation control according to the genre of a program such as sports, news, and movies.

また、ワイドモードに応じて最適な補間制御へ切り替えることができる。   Further, it is possible to switch to the optimum interpolation control according to the wide mode.

以下、上述した第一、第二の実施の形態と異なる部分についてその動作を説明する。   Hereinafter, the operation of parts different from the first and second embodiments described above will be described.

図22において、22001はEIT(Event Information Table)データ、22002はEITデータ処理部、22003はEIT判定信号、22004はワイドモード信号、22005はダイナミックFRC動作モード選択部、22006はダイナミックFRC動作モード信号である。   In FIG. 22, 22001 is EIT (Event Information Table) data, 22002 is an EIT data processing unit, 22003 is an EIT determination signal, 22004 is a wide mode signal, 22005 is a dynamic FRC operation mode selection unit, and 22006 is a dynamic FRC operation mode signal. is there.

BS/CS/地上デジタルテレビ放送では、映像/音声/データ放送以外に番組に関する情報(例えば番組の名称、番組内容、番組放送日、番組放送開始時間、番組放送継続時間、放送チャンネル、番組ジャンルコードなど)も電波に重畳して送出されている。BS/CS/地上デジタルテレビ放送受信装置では、放送局から送出されるEITと呼ばれる番組情報を利用し、これらを取得/構成することにより、電子番組表機能をユーザに提供している。図22においてEITデータ処理部22002では、EIT内のコンテント記述子で使用されている1バイトの番組ジャンルコードによって、例えば図23のような分類を行う。つまり、入力されたコンテンツが、スポーツ、アニメ・特撮、映画、ドラマ、バラエティといった動きの激しいシーンが多く存在する可能性のあるものは1を、ニュース、ワイドショーといった動きの激しいシーンが多くは存在しないであろうものには0をEIT判定信号22003として出力する。   In BS / CS / terrestrial digital television broadcasting, in addition to video / audio / data broadcasting, information related to programs (eg, program name, program content, program broadcast date, program broadcast start time, program broadcast duration, broadcast channel, program genre code) Etc.) are also transmitted superimposed on the radio wave. The BS / CS / terrestrial digital television broadcast receiving apparatus uses the program information called EIT sent from the broadcasting station, and obtains / configures the program information to provide the user with an electronic program guide function. In FIG. 22, the EIT data processing unit 22002 performs classification as shown in FIG. 23, for example, according to the 1-byte program genre code used in the content descriptor in the EIT. In other words, the input content is 1 where there may be many scenes with intense movement such as sports, animation / special effects, movies, dramas, variety, and there are many scenes with intense movement such as news and wide shows. For those that will not, 0 is output as the EIT decision signal 22003.

ワイドモード信号22004は、4:3映像を16:9へ拡大表示、上下黒帯の付いている映像を拡大して表示等しているかどうかを示す信号であり、ユーザが設定した現在のモードを示す信号である。各メーカによってモードの名称は異なるが、本実施例においては、スムーズ(拡大有り)とフル(拡大無し)の2種類で考える。   Wide mode signal 22004 is a signal that indicates whether 4: 3 video is enlarged and displayed at 16: 9, and video with black bars on the top and bottom is enlarged and displayed. The current mode set by the user is displayed. It is a signal to show. Although the name of the mode differs depending on each manufacturer, in this embodiment, two types of smooth (with enlargement) and full (without enlargement) are considered.

ダイナミックFRCモード選択部22005では、上記EIT判定信号22003と、ワイドモード信号22004から、ダイナミックFRC動作モード信号22006を生成する。ここで言うダイナミックFRCの動作モードとは、例えば第二の実施例にて記載した、3つの動作モードを切替るための閾値を切り替えることを示している。つまり、本モード設定により、図2における画像特徴検出部2006の動作が決定する。図19で示したダイナミックFRCの動作においては、閾値を上げることによってベクトルFRC動作時間が増加する。例えば閾値が低めの設定と、高めの設定の2種類のテーブルを持つことによって、高めの設定ではFRC動作時間が増加するため、効果が出やすいが破綻が見える可能性が残る。低めの設定では効果は限定されるが、破綻は見え難い、といった動作が可能となる。   The dynamic FRC mode selection unit 22005 generates a dynamic FRC operation mode signal 22006 from the EIT determination signal 22003 and the wide mode signal 22004. The dynamic FRC operation mode referred to here indicates switching of threshold values for switching, for example, the three operation modes described in the second embodiment. That is, the operation of the image feature detection unit 2006 in FIG. 2 is determined by this mode setting. In the dynamic FRC operation shown in FIG. 19, the vector FRC operation time increases by increasing the threshold value. For example, by having two types of tables, a setting with a low threshold and a setting with a high setting, the FRC operation time increases with a high setting, so it is easy to produce an effect, but there is a possibility that a failure can be seen. A lower setting will limit the effect, but it will be difficult to see the failure.

従って上記を踏まえ、例えばダイナミックFRCモード選択部22005では、図24に示すようなダイナミックFRC動作モード信号22006を出力する。   Therefore, based on the above, for example, the dynamic FRC mode selection unit 22005 outputs a dynamic FRC operation mode signal 22006 as shown in FIG.

EIT判定信号22003により、動きの激しいシーンが多い番組ジャンルであれば1、動きの激しいシーンの少ない番組ジャンルでる場合は、ワイドモードがスムーズのときは1、フルのときは0を出力する。   According to the EIT determination signal 22003, 1 is output if the program genre has many scenes with a lot of motion, 1 when the program genre has few scenes with a lot of motion, and 0 when the wide mode is smooth.

ダイナミックFRC動作モード信号22006を受け取った画像特徴検出部2006は、その値が1の時は閾値が低めの設定、0の時は高めの設定に切り替える。   The image feature detection unit 2006 that has received the dynamic FRC operation mode signal 22006 switches the setting to a lower setting when the value is 1 and a higher setting when the value is 0.

以上のように本実施例では、ユーザが視聴する番組のジャンルデータ、表示モードに応じて補間制御を切り替えることが可能となる。   As described above, in this embodiment, it is possible to switch the interpolation control according to the genre data of the program viewed by the user and the display mode.

尚本実施例においては、番組ジャンルとして大分類の中の8種類のみで分類を行っているが、当然これに限るものではなく、その下の中分類にまで及ぶ切り替えを行う構成としても良い。また、本実施例においては、制御切替として2種類のみの説明を行ったが、これに限るものではなく、さらに細分化する構成とすれば尚良い。また、制御切替項目として、閾値の値を例に説明を行ったが、これに限ることはなく、例えば各動作状態のヒステリシス期間を切り替えることにより、各動作モードのバランスを可変する制御としても良い。   In the present embodiment, the program genre is classified by only eight kinds of major classifications. However, the present invention is not limited to this, and it may be configured to switch to the middle classification below. In the present embodiment, only two types of control switching have been described. However, the present invention is not limited to this, and a further subdivided configuration may be used. In addition, the threshold value has been described as an example of the control switching item, but the present invention is not limited to this. For example, the control mode may be controlled by changing the hysteresis period of each operation state to change the balance of each operation mode. .

本発明の第一の実施の形態を示すブロック図である。It is a block diagram which shows 1st embodiment of this invention. 本発明の第一の実施の形態におけるFRC部の構成の一例を示すものである。2 shows an example of the configuration of an FRC unit in the first embodiment of the present invention. ブロックマッチング法による補間フレーム生成を説明するための図である。It is a figure for demonstrating the production | generation of the interpolation frame by a block matching method. ブロックマッチング法による補間フレーム生成を説明するための図である。It is a figure for demonstrating the production | generation of the interpolation frame by a block matching method. FRC補間フレーム生成における時間方向の荷重加算を説明するための図である。It is a figure for demonstrating the load addition of the time direction in a FRC interpolation frame production | generation. フレーム繰り返しによる補間フレーム生成を説明するための図である。It is a figure for demonstrating the interpolation frame production | generation by frame repetition. 本発明の第一の実施の形態における補間フレーム生成部の構成の一例を示すものである。2 shows an example of a configuration of an interpolation frame generation unit in the first embodiment of the present invention. 動きベクトル誤検出となる映像パタンの例を示す図である。It is a figure which shows the example of the video pattern used as a motion vector false detection. ダイナミックFRC処理のステートダイアグラムを示すものである。2 shows a state diagram of dynamic FRC processing. ベクトルヒストグラム検出結果の一例を示す図である。It is a figure which shows an example of a vector histogram detection result. ベクトルヒストグラム分布の一例を示す図である。It is a figure which shows an example of vector histogram distribution. ベクトルヒストグラム分布の一例を示す図である。It is a figure which shows an example of vector histogram distribution. ベクトルヒストグラム分布の一例を示す図である。It is a figure which shows an example of vector histogram distribution. ベクトルヒストグラム分布の一例を示す図である。It is a figure which shows an example of vector histogram distribution. ベクトルヒストグラム分布の一例を示す図である。It is a figure which shows an example of vector histogram distribution. 本発明の第二の実施形態のダイナミックFRC処理のステートダイアグラムを示すものである。6 shows a state diagram of dynamic FRC processing according to the second embodiment of the present invention. 中間動作における補間フレーム生成の一例を説明するための図である。It is a figure for demonstrating an example of the interpolation frame production | generation in intermediate operation | movement. ダイナミックFRC処理のフローチャートである。It is a flowchart of a dynamic FRC process. ダイナミックFRC制御の動作イメージを説明するための図である。It is a figure for demonstrating the operation image of dynamic FRC control. ダイナミックFRC処理における補間フレーム生成を説明するための図である。It is a figure for demonstrating the production | generation of the interpolation frame in a dynamic FRC process. ダイナミックFRC処理における補間フレーム生成を説明するための図である。It is a figure for demonstrating the production | generation of the interpolation frame in a dynamic FRC process. 本発明の第三の実施の形態を示すブロック図である。It is a block diagram which shows 3rd embodiment of this invention. 番組ジャンル分類の一例を説明するための図である。It is a figure for demonstrating an example of program genre classification. ダイナミックFRC動作モード分類の一例を説明するための図である。It is a figure for demonstrating an example of dynamic FRC operation mode classification | category.

符号の説明Explanation of symbols

1001…入力信号、1002…解像度変換部、1003…フレームレート変換(FRC:Frame Rate Conversion)部、1004…画像メモリ、1005…タイミングコントロール部、1006…表示部、1007…FRC変換モード信号、2001…現フレーム信号、2002…1フレーム前信号、2003…FRC変換モード信号、2004…動きベクトル検出部、2005…動きベクトル、2006…画像特徴検出部、2007…判定信号、2008…補間フレーム生成部、2009…補間フレーム信号、2010…フレームレート変換出力信号、2011 メモリインターフェース部、3001…現フレーム信号、3002…1フレーム前信号、3003…補間フレーム信号、3004…対象ブロック、3005…動きベクトル検索範囲、3006…最小差分値ブロックペア、3007…動きベクトル、4001…動きベクトル検索範囲1、4002…動きベクトル検索範囲2、4003…補間フレーム1、4004…補間フレーム2、4005…対象ブロック1、4006…対象ブロック2、4007…動きベクトル1、4008…動きベクトル2、5001〜5003…24Hzの映像フレーム、5004〜5009…60Hzの映像フレーム、6001〜6003…24Hzの映像フレーム、6004〜6009…60Hzの映像フレーム、7001…現フレーム信号、7002…1フレーム前信号、7003…動きベクトル、7004…FRCモード信号、7005…水平/垂直方向補間画素選択部、7006…時間方向補間処理部、7007…Fセレクタ部、7008…判定信号、S101…ベクトルFRC動作状態、S102…ベクトルFRC非動作状態、S103,S104…状態遷移、S201…中間動作状態、S202〜S205…状態遷移、17001〜17003 入力キーフレーム、17004〜17007 補間フレーム、20001〜20002…入力キーフレーム、20003〜20006…補間フレーム、22001…EIT(Event Information Table)データ、22002…EITデータ処理部、22003 EIT判定信号、22004…ワイドモード信号、22005…ダイナミックFRC動作モード選択部、22006…ダイナミックFRC動作モード信号。 1001 ... Input signal, 1002 ... Resolution conversion unit, 1003 ... Frame rate conversion (FRC) unit, 1004 ... Image memory, 1005 ... Timing control unit, 1006 ... Display unit, 1007 ... FRC conversion mode signal, 2001 ... Current frame signal, 2002 ... 1 frame previous signal, 2003 ... FRC conversion mode signal, 2004 ... motion vector detection unit, 2005 ... motion vector, 2006 ... image feature detection unit, 2007 ... determination signal, 2008 ... interpolation frame generation unit, 2009 ... Interpolated frame signal, 2010 ... Frame rate conversion output signal, 2011 Memory interface unit, 3001 ... Current frame signal, 3002 ... 1 frame previous signal, 3003 ... Interpolated frame signal, 3004 ... Target block, 3005 ... Motion vector search range, 3006 ... minimum difference value block pair, 3007 ... motion vector, 4001 ... motion vector search range 1,4002 ... motion vector search range 2,4003 ... interpolation frame 1,4004 ... interpolation frame 2, 4005 ... Target block 1, 4006 ... Target block 2, 4007 ... Motion vector 1, 4008 ... Motion vector 2, 5001-5003 ... 24Hz video frame, 5004-5009 ... 60Hz video frame, 6001-6003 ... 24Hz Video frame, 6004 to 6009 ... 60Hz video frame, 7001 ... Current frame signal, 7002 ... Previous frame signal, 7003 ... Motion vector, 7004 ... FRC mode signal, 7005 ... Horizontal / vertical interpolation pixel selection unit, 7006 ... Time Direction interpolation processing unit, 7007 ... F selector unit, 7008 ... judgment signal, S101 ... Vector FRC operation state, S102 ... Vector FRC non-operation state, S103, S104 ... State transition, S201 ... Intermediate operation state, S202 to S205 ... State transition , 17001 to 17003 Input key frame, 17004 to 17007 Interpolated frame, 20001 to 20002 ... Input key frame, 20003 to 20006 ... Interpolated frame, 22001 ... EIT (Event Information Table) data, 22002 ... EIT data processing unit, 22003 EIT judgment signal , 22004 ... Widemo De signal, 22005 ... dynamic FRC operation mode selection unit, 22006 ... dynamic FRC operation mode signal.

Claims (6)

複数のフレームを含む入力映像信号を入力し、前記入力映像信号のフレームに基づいて補間フレームを生成し、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記補間フレームとを含むフレーム列を有する映像信号に変換する映像変換装置であって、
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定部と、
前記動きベクトル検出部が検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成部と
を備え、
前記補間フレーム列生成部は、前記映像特徴判定部が判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像変換装置。
An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video conversion device for converting into a video signal having a sequence,
A motion vector detection unit for detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination unit that determines the feature of the video by creating histogram information about the motion vector detected by the motion vector detection unit;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected by the motion vector detection unit and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolation frame sequence generation unit for generating
The interpolation frame sequence generation unit is configured to determine a part of the plurality of frames included in the interpolation frame generated in the first interpolation frame generation process and the input video signal according to the determination result determined by the video feature determination unit. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame image conversion device and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process.
前記補間フレーム列生成部は、前記映像特徴判定部が、第1の閾値以上のカウント数を有する動きベクトルの前記ヒストグラム全体における数と、第2の閾値以上のカウント数を有する動きベクトルの前記動きベクトル検出部の動き検出範囲の境界部分における数とに応じて判定した判定結果に応じて、前記第1乃至第3のフレーム列生成処理の切り替えを行うことを特徴とする請求項1に記載の映像変換装置。   In the interpolation frame sequence generation unit, the motion of the motion vector having the number of motion vectors having a count number equal to or greater than a first threshold and the number of motion vectors having a count number equal to or greater than a second threshold. The switching of the first to third frame sequence generation processing is performed according to a determination result determined according to a number in a boundary portion of a motion detection range of a vector detection unit. Video conversion device. 複数のフレームを含む入力映像信号を入力し、前記入力映像信号のフレームに基づいて補間フレームを生成し、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記補間フレームとを含むフレーム列を有する映像信号に変換して表示する映像表示装置であって、
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定部と、
前記動きベクトル検出部が検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成部と、
補間フレーム列生成部が生成した補間フレーム列を有する映像信号を表示する表示部とを備え、
前記補間フレーム列生成部は、前記映像特徴判定部が判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像表示装置。
An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video display device for converting and displaying video signals having columns,
A motion vector detection unit for detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination unit that determines the feature of the video by creating histogram information about the motion vector detected by the motion vector detection unit;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected by the motion vector detection unit and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolation frame sequence generation unit for generating
A display unit for displaying a video signal having an interpolation frame sequence generated by the interpolation frame sequence generation unit;
The interpolation frame sequence generation unit is configured to determine a part of the plurality of frames included in the interpolation frame generated in the first interpolation frame generation process and the input video signal according to the determination result determined by the video feature determination unit. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame video display device and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process.
前記補間フレーム列生成部は、前記映像特徴判定部が、第1の閾値以上のカウント数を有する動きベクトルの前記ヒストグラム全体における数と、第2の閾値以上のカウント数を有する動きベクトルの前記動きベクトル検出部の動き検出範囲の境界部分における数とに応じて判定した判定結果に応じて、前記第1乃至第3のフレーム列生成処理の切り替えを行うことを特徴とする請求項に記載の映像表示装置。 In the interpolation frame sequence generation unit, the motion of the motion vector having the number of motion vectors having a count number greater than or equal to a first threshold and the number of motion vectors having a count number greater than or equal to a second threshold. according to the determination result of the determination in accordance with the number at the boundary portion of the motion detection range of the vector detection unit, according to claim 3, characterized in that for switching the first to third frame sequence generation process Video display device. 複数のフレームを含む入力映像信号を入力し、前記入力映像信号のフレームに基づいて補間フレームを生成し、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記補間フレームとを含むフレーム列を有する映像信号に変換する映像変換方法であって、
前記入力映像信号に含まれる複数のフレーム間の動きベクトルの検出を行う動きベクトル検出ステップと、
前記動きベクトル検出ステップで検出した動きベクトルについてのヒストグラム情報を作成して映像の特徴を判定する映像特徴判定ステップと、
前記動きベクトル検出ステップで検出した動きベクトルと前記入力映像信号に含まれる複数のフレームとを用いて補間フレームを生成する第1の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうち一つのフレームをそのまま補間フレームとする第2の補間フレーム生成処理と、前記入力映像信号に含まれる複数のフレームのうちの2つのフレームの線形補間フレームを補間フレームとすることにより補間フレームを生成する第3の補間フレーム生成処理とを行い、前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第1乃至第3の補間フレーム生成処理で生成した補間フレームとを含む補間フレーム列を生成する補間フレーム列生成ステップと
を備え、
前記補間フレーム列生成ステップでは、前記映像特徴判定ステップで判定した判定結果に応じて、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第1のフレーム列生成処理と、前記第2の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームとを含むフレーム列を生成する第2のフレーム列生成処理と、前記第1の補間フレーム生成処理で生成した補間フレームと前記入力映像信号に含まれる複数のフレームの一部のフレームと前記第3の補間フレーム生成処理で生成した補間フレームとを含むフレーム列を生成する第3のフレーム列生成処理とを切り替える
ことを特徴とする映像変換方法。
An input video signal including a plurality of frames is input, an interpolation frame is generated based on the frame of the input video signal, and a frame including a part of the plurality of frames included in the input video signal and the interpolation frame A video conversion method for converting into a video signal having columns,
A motion vector detection step of detecting a motion vector between a plurality of frames included in the input video signal;
A video feature determination step of creating histogram information about the motion vector detected in the motion vector detection step and determining a video feature;
A first interpolation frame generation process for generating an interpolation frame using the motion vector detected in the motion vector detection step and a plurality of frames included in the input video signal; and a plurality of frames included in the input video signal; A second interpolation frame generation process in which one of the frames is directly used as an interpolation frame, and an interpolation frame is generated by using a linear interpolation frame of two frames among a plurality of frames included in the input video signal as an interpolation frame. the third performs the interpolation frame generation processing, the interpolation frame sequence comprising an interpolation frame part of the frame generated by the first to the third interpolation frame generation processing of a plurality of frames included in the input video signal An interpolated frame sequence generating step for generating
In the interpolation frame sequence generation step, the interpolation frame generated in the first interpolation frame generation process and a part of the plurality of frames included in the input video signal are determined according to the determination result determined in the video feature determination step. Including a first frame sequence generation process for generating a frame sequence including frames, an interpolation frame generated by the second interpolation frame generation process, and a part of a plurality of frames included in the input video signal A second frame sequence generation process for generating a frame sequence; an interpolation frame generated by the first interpolation frame generation process; a part of a plurality of frames included in the input video signal; and the third interpolation frame and switches the third frame sequence generation process for generating a sequence of frames including the generated interpolation frame generation process Image conversion method.
前記補間フレーム列生成ステップでは、第1の閾値以上のカウント数を有する動きベクトルの前記ヒストグラム全体における数と、第2の閾値以上のカウント数を有する動きベクトルの前記動きベクトル検出ステップでの動き検出範囲の境界部分における数とに応じて判定した前記映像特徴判定ステップの判定結果に応じて、前記第1乃至第3のフレーム列生成処理の切り替えを行うことを特徴とする請求項に記載の映像変換方法。 In the interpolation frame sequence generation step, the number of motion vectors having a count number equal to or greater than a first threshold value in the entire histogram and a motion vector having a count number equal to or greater than a second threshold value are detected in the motion vector detection step. range according to the image feature judging step of judging a result of the determination as a function of the number of boundary portions, according to claim 5, characterized in that for switching the first to third frame sequence generation process Video conversion method.
JP2007069758A 2007-03-19 2007-03-19 Video conversion device, video display device, and video conversion method Active JP4513819B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007069758A JP4513819B2 (en) 2007-03-19 2007-03-19 Video conversion device, video display device, and video conversion method
CN2008100868381A CN101272460B (en) 2007-03-19 2008-03-19 Image processing device and image display device
US12/050,972 US8768103B2 (en) 2007-03-19 2008-03-19 Video processing apparatus and video display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007069758A JP4513819B2 (en) 2007-03-19 2007-03-19 Video conversion device, video display device, and video conversion method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010074076A Division JP5067439B2 (en) 2010-03-29 2010-03-29 Video conversion device, video display device, video conversion method, and video display method

Publications (2)

Publication Number Publication Date
JP2008236098A JP2008236098A (en) 2008-10-02
JP4513819B2 true JP4513819B2 (en) 2010-07-28

Family

ID=39774296

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007069758A Active JP4513819B2 (en) 2007-03-19 2007-03-19 Video conversion device, video display device, and video conversion method

Country Status (3)

Country Link
US (1) US8768103B2 (en)
JP (1) JP4513819B2 (en)
CN (1) CN101272460B (en)

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2450121A (en) * 2007-06-13 2008-12-17 Sharp Kk Frame rate conversion using either interpolation or frame repetition
JP2010057010A (en) * 2008-08-29 2010-03-11 Sharp Corp Image display device
US10075670B2 (en) 2008-09-30 2018-09-11 Entropic Communications, Llc Profile for frame rate conversion
US9042680B2 (en) * 2009-02-12 2015-05-26 Zoran (France) S.A. Temporal video interpolation method with 2-frame occlusion handling
US8395709B2 (en) * 2009-03-04 2013-03-12 ATI Technology ULC 3D video processing
JP5149861B2 (en) * 2009-05-01 2013-02-20 富士フイルム株式会社 Intermediate image generation apparatus and operation control method thereof
JP2010288098A (en) * 2009-06-12 2010-12-24 Sony Corp Device, method and program for interpolation of image frame
TWI398159B (en) * 2009-06-29 2013-06-01 Silicon Integrated Sys Corp Apparatus and method of frame rate up-conversion with dynamic quality control
KR101585247B1 (en) * 2009-07-24 2016-01-13 엘지전자 주식회사 Method for processing a image signal and display apparatus thereof
JP5315162B2 (en) * 2009-08-05 2013-10-16 株式会社日立製作所 Video processing apparatus and video processing method
US8515933B2 (en) * 2009-08-18 2013-08-20 Industrial Technology Research Institute Video search method, video search system, and method thereof for establishing video database
US8805862B2 (en) * 2009-08-18 2014-08-12 Industrial Technology Research Institute Video search method using motion vectors and apparatus thereof
TWI443534B (en) * 2009-08-18 2014-07-01 Ind Tech Res Inst Video search method and apparatus using motion vectors
WO2011027593A1 (en) * 2009-09-04 2011-03-10 シャープ株式会社 Display driver circuit, liquid crystal display device, display driving method, control program, and computer-readable recording medium having same control program recorded therein
RU2012115477A (en) 2009-09-18 2013-10-27 Шарп Кабусики Кайся IMAGE DISPLAY DEVICE
JP4873765B2 (en) * 2009-11-20 2012-02-08 キヤノン株式会社 Video signal processing apparatus and video signal processing method
EP2509306A4 (en) * 2009-12-01 2013-05-15 Panasonic Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
JP2012169727A (en) * 2011-02-10 2012-09-06 Panasonic Corp Image signal processor and image signal processing method
WO2012117461A1 (en) * 2011-03-03 2012-09-07 パナソニック株式会社 Three-dimensional video processing device and method, and three-dimensional video display device
JP5863273B2 (en) * 2011-05-02 2016-02-16 キヤノン株式会社 Image processing apparatus, control method, and program
JP2013026727A (en) 2011-07-19 2013-02-04 Sony Corp Display device and display method
US8692935B1 (en) * 2011-11-02 2014-04-08 Marvell International Ltd. Video interpolation mode based on merit
US9042681B1 (en) * 2012-01-02 2015-05-26 Marvell International Ltd. Interpolated video error concealment
US9247243B1 (en) 2012-01-02 2016-01-26 Marvell International Ltd. Interpolated video error concealment
JP2013165487A (en) * 2012-01-11 2013-08-22 Panasonic Corp Image processing apparatus, image capturing apparatus, and program
WO2013151291A1 (en) * 2012-04-02 2013-10-10 삼성전자 주식회사 Multi-view image displaying apparatus for improving picture quality and a method thereof
US9300906B2 (en) * 2013-03-29 2016-03-29 Google Inc. Pull frame interpolation
KR20150101779A (en) * 2014-02-27 2015-09-04 엘지디스플레이 주식회사 Image Display Device And Motion Blur Relieving Method Thereof
US20160379400A1 (en) * 2015-06-23 2016-12-29 Intel Corporation Three-Dimensional Renderer
JP6368727B2 (en) * 2016-02-17 2018-08-01 サターン ライセンシング エルエルシーSaturn Licensing LLC Display device and display method
US10354394B2 (en) 2016-09-16 2019-07-16 Dolby Laboratories Licensing Corporation Dynamic adjustment of frame rate conversion settings
US10134114B2 (en) * 2016-09-20 2018-11-20 Gopro, Inc. Apparatus and methods for video image post-processing for segmentation-based interpolation
US10776688B2 (en) 2017-11-06 2020-09-15 Nvidia Corporation Multi-frame video interpolation using optical flow
KR102429559B1 (en) * 2017-12-08 2022-08-04 삼성전자주식회사 Display apparatus and method of driving thereof
US10977809B2 (en) 2017-12-11 2021-04-13 Dolby Laboratories Licensing Corporation Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings
WO2020100215A1 (en) * 2018-11-13 2020-05-22 オリンパス株式会社 Image capturing device, image correction method, and image correction program
CN109922372B (en) * 2019-02-26 2021-10-12 深圳市商汤科技有限公司 Video data processing method and device, electronic equipment and storage medium
KR102313993B1 (en) * 2019-05-08 2021-10-19 주식회사 모션하우스 Apparatus and Method for generating of simulation program for motion simulator
US10958869B1 (en) * 2019-11-14 2021-03-23 Huawei Technologies Co., Ltd. System, device and method for video frame interpolation using a structured neural network
CN111476198B (en) * 2020-04-24 2023-09-26 广西安良科技有限公司 Gait recognition method, device, system, storage medium and server based on artificial intelligence
CN112203034B (en) * 2020-09-30 2023-09-08 Oppo广东移动通信有限公司 Frame rate control method and device and electronic equipment

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333134A (en) * 1999-05-20 2000-11-30 Toshiba Corp Interpolated field generation circuit and field double speed conversion circuit
JP2001054075A (en) * 1999-08-06 2001-02-23 Hitachi Ltd Motion compensation scanning conversion circuit for image signal
JP2002359775A (en) * 2001-03-28 2002-12-13 Sanyo Electric Co Ltd Telecine conversion method
JP3588564B2 (en) * 1999-03-31 2004-11-10 株式会社東芝 Video data recording device
JP2005124201A (en) * 2003-10-14 2005-05-12 Samsung Electronics Co Ltd Device and method for converting frame rate using time shift and motion compensation
JP2005287048A (en) * 2004-03-30 2005-10-13 Matsushita Electric Ind Co Ltd Improvement of motion vector estimation at image border
JP2005287049A (en) * 2004-03-30 2005-10-13 Matsushita Electric Ind Co Ltd Motion compensation method and apparatus at vector-based image borders
JP4438795B2 (en) * 2006-12-28 2010-03-24 株式会社日立製作所 Video conversion device, video display device, and video conversion method

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4663665A (en) * 1985-01-07 1987-05-05 Nippon Hoso Kyokai TV system conversion apparatus
JPH04323988A (en) * 1991-04-23 1992-11-13 Hitachi Ltd Sampling rate conversion system
JPH06165134A (en) * 1992-11-27 1994-06-10 Nippon Hoso Kyokai <Nhk> Television format converter
GB9720061D0 (en) 1997-09-19 1997-11-19 Crosfield Joseph & Sons Metal compounds as phosphate binders
JPH11331782A (en) 1998-05-15 1999-11-30 Mitsubishi Electric Corp Signal converter
KR100708091B1 (en) 2000-06-13 2007-04-16 삼성전자주식회사 Apparatus and method for frame rate conversion using bidirectional motion vector
KR100396558B1 (en) * 2001-10-25 2003-09-02 삼성전자주식회사 Apparatus and method for converting frame and/or field rate using adaptive motion compensation
EP1422928A3 (en) * 2002-11-22 2009-03-11 Panasonic Corporation Motion compensated interpolation of digital video signals
JP2005006275A (en) 2002-11-22 2005-01-06 Matsushita Electric Ind Co Ltd Device, method, and program for generating interpolation frame
JP2004180242A (en) 2002-11-29 2004-06-24 Victor Co Of Japan Ltd Progressive scanning conversion apparatus, progressive scanning conversion method, and progressive scanning conversion program
JP2005241787A (en) 2004-02-25 2005-09-08 Victor Co Of Japan Ltd Picture display apparatus
JP2006279917A (en) 2005-03-04 2006-10-12 Mitsubishi Electric Corp Dynamic image encoding device, dynamic image decoding device and dynamic image transmitting system
JP5177828B2 (en) 2005-03-25 2013-04-10 株式会社Jvcケンウッド Image rate conversion method and image rate conversion apparatus
KR20070063304A (en) * 2005-12-14 2007-06-19 삼성전자주식회사 Motion Estimator and Motion Estimation Method
KR100870115B1 (en) * 2005-12-21 2008-12-10 주식회사 메디슨 Image Formation Method Using Block Matching and Motion Compensation Interpolation
US8582660B2 (en) * 2006-04-13 2013-11-12 Qualcomm Incorporated Selective video frame rate upconversion
US20080025390A1 (en) * 2006-07-25 2008-01-31 Fang Shi Adaptive video frame interpolation

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3588564B2 (en) * 1999-03-31 2004-11-10 株式会社東芝 Video data recording device
JP2000333134A (en) * 1999-05-20 2000-11-30 Toshiba Corp Interpolated field generation circuit and field double speed conversion circuit
JP2001054075A (en) * 1999-08-06 2001-02-23 Hitachi Ltd Motion compensation scanning conversion circuit for image signal
JP2002359775A (en) * 2001-03-28 2002-12-13 Sanyo Electric Co Ltd Telecine conversion method
JP2005124201A (en) * 2003-10-14 2005-05-12 Samsung Electronics Co Ltd Device and method for converting frame rate using time shift and motion compensation
JP2005287048A (en) * 2004-03-30 2005-10-13 Matsushita Electric Ind Co Ltd Improvement of motion vector estimation at image border
JP2005287049A (en) * 2004-03-30 2005-10-13 Matsushita Electric Ind Co Ltd Motion compensation method and apparatus at vector-based image borders
JP4438795B2 (en) * 2006-12-28 2010-03-24 株式会社日立製作所 Video conversion device, video display device, and video conversion method

Also Published As

Publication number Publication date
JP2008236098A (en) 2008-10-02
CN101272460A (en) 2008-09-24
US8768103B2 (en) 2014-07-01
CN101272460B (en) 2011-08-03
US20080231745A1 (en) 2008-09-25

Similar Documents

Publication Publication Date Title
JP4513819B2 (en) Video conversion device, video display device, and video conversion method
JP4438795B2 (en) Video conversion device, video display device, and video conversion method
JP4844370B2 (en) Frame rate conversion device and display device
EP2161687B1 (en) Video signal processing device, video signal processing method, and video signal processing program
JP5490236B2 (en) Image processing apparatus and method, image display apparatus and method
JP5192087B2 (en) Image processing apparatus and image processing method
JP5067439B2 (en) Video conversion device, video display device, video conversion method, and video display method
US8385430B2 (en) Video signal processing apparatus and video signal processing method
US20100039517A1 (en) Film cadence detection
JP4431089B2 (en) Video interpolation device, frame rate conversion device, and video display device
JP5241632B2 (en) Image processing circuit and image processing method
JP2016048810A (en) Frame rate conversion apparatus and frame rate conversion method
US20080063067A1 (en) Frame interpolating circuit, frame interpolating method, and display apparatus
JP2007288483A (en) Image converting apparatus
JP2005184442A (en) Image processor
KR101109153B1 (en) Method for deinterlacing using detecting judder and apparatus therefor
JP5371682B2 (en) Image processing apparatus and image processing method
JP2007074439A (en) Video processor
JP2009033468A (en) Interpolation frame image display method and interpolation frame image generation apparatus for low frame rate moving image
JP2011082932A (en) Method and apparatus for detecting telop image
JP2013074384A (en) Image processing apparatus and image processing method
JP2008263256A (en) Interpolation signal generating circuit, interpolation signal generation method, program, and video signal processor
JP2004120635A (en) Scanning line interpolation circuit and scanning line interpolation method
JP2018160725A (en) Video signal processor, video signal processing method, and video signal processing program
JP2016207101A (en) Area detection device and area detection method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100420

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100503

R151 Written notification of patent or utility model registration

Ref document number: 4513819

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250