JPH11308617A - ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 - Google Patents
ディジタル画像符号化装置とこれに用いる動きベクトル検出装置Info
- Publication number
- JPH11308617A JPH11308617A JP11350298A JP11350298A JPH11308617A JP H11308617 A JPH11308617 A JP H11308617A JP 11350298 A JP11350298 A JP 11350298A JP 11350298 A JP11350298 A JP 11350298A JP H11308617 A JPH11308617 A JP H11308617A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- motion vector
- image
- search range
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 210
- 239000013598 vector Substances 0.000 title claims abstract description 200
- 238000001514 detection method Methods 0.000 claims abstract description 28
- 238000000034 method Methods 0.000 claims description 10
- 238000009826 distribution Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 3
- 230000007704 transition Effects 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 abstract description 21
- 230000015556 catabolic process Effects 0.000 abstract description 2
- 238000006731 degradation reaction Methods 0.000 abstract description 2
- 230000000875 corresponding effect Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 21
- 230000005540 biological transmission Effects 0.000 description 14
- 238000004091 panning Methods 0.000 description 8
- 230000000670 limiting effect Effects 0.000 description 7
- 230000002829 reductive effect Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000013139 quantization Methods 0.000 description 5
- 230000006866 deterioration Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 239000006185 dispersion Substances 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 101100532856 Arabidopsis thaliana SDRA gene Proteins 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 101000969688 Homo sapiens Macrophage-expressed gene 1 protein Proteins 0.000 description 1
- 101000596298 Homo sapiens Modulator of macroautophagy TMEM150B Proteins 0.000 description 1
- 102100021285 Macrophage-expressed gene 1 protein Human genes 0.000 description 1
- 102100035252 Modulator of macroautophagy TMEM150B Human genes 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 235000008429 bread Nutrition 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 239000013256 coordination polymer Substances 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000033772 system development Effects 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
(57)【要約】
【課題】 画質低下を最小限に留めて動き推定の演算量
を削減して、MPEG2符号化装置の消費電力を低減し、パ
ン情報を用いて精度の高い動き推定を行なう。 【解決手段】 動きベクトル検出部7cは、参照画像バ
ッファ7bの参照画像データから入力画像バッファ7a
の符号化するMBの動きベクトルを探索するが、分散値
算出部7hで得られる動きベクトルの分散値が閾値より
も小さいか否かに応じて、動きベクトル検出部7cに設
定される探索範囲の広さを切り換え、また、狭い探索範
囲では、平均値算出部7gで得られる動きベクトルの平
均値に応じたオフセットが掛けられる。また、外部がC
PU IF8を介してパン情報が値保持部7eに供給さ
れると、このパン情報に応じて動きベクトル検出部7c
での探索範囲を広くしたり、狭くしたりし、また、狭い
探索範囲の場合、パン情報に応じたオフセットがこの探
索範囲に掛けられる。
を削減して、MPEG2符号化装置の消費電力を低減し、パ
ン情報を用いて精度の高い動き推定を行なう。 【解決手段】 動きベクトル検出部7cは、参照画像バ
ッファ7bの参照画像データから入力画像バッファ7a
の符号化するMBの動きベクトルを探索するが、分散値
算出部7hで得られる動きベクトルの分散値が閾値より
も小さいか否かに応じて、動きベクトル検出部7cに設
定される探索範囲の広さを切り換え、また、狭い探索範
囲では、平均値算出部7gで得られる動きベクトルの平
均値に応じたオフセットが掛けられる。また、外部がC
PU IF8を介してパン情報が値保持部7eに供給さ
れると、このパン情報に応じて動きベクトル検出部7c
での探索範囲を広くしたり、狭くしたりし、また、狭い
探索範囲の場合、パン情報に応じたオフセットがこの探
索範囲に掛けられる。
Description
【0001】
【発明の属する技術分野】本発明は、ディジタル画像信
号を高能率で符号化するディジタル画像信号符号化装置
と、これに用いられ、時間軸方向の冗長度を削減する動
き補償(フレーム間予測)に必要な動きベクトルを検出す
る動きベクトル検出装置に関する。
号を高能率で符号化するディジタル画像信号符号化装置
と、これに用いられ、時間軸方向の冗長度を削減する動
き補償(フレーム間予測)に必要な動きベクトルを検出す
る動きベクトル検出装置に関する。
【0002】
【従来の技術】ディジタル画像信号符号化装置として、
従来、例えば、「ITU−Tホワイトブック、オーディオビ
ジュアル/マルチメディア関連(Hシリーズ)勧告集」財
団法人日本ITU協会 平成7年2月18日発行 pp.375〜595
(以下、文献1という)に規定されている動画像圧縮技
術H.262(通称、MPEG2方式)による符号化装置
が知られている。MPEG2方式は放送や通信,蓄積メ
ディアなどの多様なアプリケーションに適用されること
を前提とする汎用的な規格である。
従来、例えば、「ITU−Tホワイトブック、オーディオビ
ジュアル/マルチメディア関連(Hシリーズ)勧告集」財
団法人日本ITU協会 平成7年2月18日発行 pp.375〜595
(以下、文献1という)に規定されている動画像圧縮技
術H.262(通称、MPEG2方式)による符号化装置
が知られている。MPEG2方式は放送や通信,蓄積メ
ディアなどの多様なアプリケーションに適用されること
を前提とする汎用的な規格である。
【0003】MPEG2方式において、時間軸方向の冗
長度を削減するために、動き補償を行ない、高い圧縮効
率を得ている。動き補償とは、圧縮する画像(ピクチャ)
を16×16画素からなるマクロブロックMBに分割
し、マクロブロックMB毎に参照画像中の動きベクトル
によって示される16×16画素からなる画像データと
の差分をとり、その差分画像データを符号化するもので
ある。
長度を削減するために、動き補償を行ない、高い圧縮効
率を得ている。動き補償とは、圧縮する画像(ピクチャ)
を16×16画素からなるマクロブロックMBに分割
し、マクロブロックMB毎に参照画像中の動きベクトル
によって示される16×16画素からなる画像データと
の差分をとり、その差分画像データを符号化するもので
ある。
【0004】MPEG2方式では、、動きベクトルを用
いた動き補償によって差分画像データを符号化したマク
ロブロックMBをノンイントラ(フレーム間予測符号
化)MBという、動きベクトルを使用せずに差分をとら
ないで符号化したマクロブロックMBをイントラ(フレ
ーム内予測符号化)MBという。また、イントラMBの
みで構成されるピクチャをIピクチャといい、参照画像
データとして表示順で過去のピクチャの画像データのみ
を使用するピクチャをPピクチャといい、参照画像デー
タとして表示順で過去と未来の両方のピクチャの画像デ
ータを使用することができるピクチャをBピクチャとい
う。なお、このBピクチャの参照画像データとして使用
するのはIピクチャとPピクチャの画像データであり、
Bピクチャの画像データは参照画像データとして用いら
れない。
いた動き補償によって差分画像データを符号化したマク
ロブロックMBをノンイントラ(フレーム間予測符号
化)MBという、動きベクトルを使用せずに差分をとら
ないで符号化したマクロブロックMBをイントラ(フレ
ーム内予測符号化)MBという。また、イントラMBの
みで構成されるピクチャをIピクチャといい、参照画像
データとして表示順で過去のピクチャの画像データのみ
を使用するピクチャをPピクチャといい、参照画像デー
タとして表示順で過去と未来の両方のピクチャの画像デ
ータを使用することができるピクチャをBピクチャとい
う。なお、このBピクチャの参照画像データとして使用
するのはIピクチャとPピクチャの画像データであり、
Bピクチャの画像データは参照画像データとして用いら
れない。
【0005】ここで、参照画像データとして用いること
ができるI,Pピクチャを参照画像ということにする
が、連続して配置されるx枚の画像(ピクチャ)毎に参
照画像が現れる場合、符号化されたMPEG2ビットス
トリームのm値はxであるという。
ができるI,Pピクチャを参照画像ということにする
が、連続して配置されるx枚の画像(ピクチャ)毎に参
照画像が現れる場合、符号化されたMPEG2ビットス
トリームのm値はxであるという。
【0006】動き補償に用いる動きベクトルを検出する
ためには、符号化すべき入力画像データと参照画像デー
タとを8×8画素からなるブロック単位でマッチングを
とるブロックマッチングという手法が、主に、用いられ
ている。
ためには、符号化すべき入力画像データと参照画像デー
タとを8×8画素からなるブロック単位でマッチングを
とるブロックマッチングという手法が、主に、用いられ
ている。
【0007】MPEG2方式での符号化では、この動き
ベクトルを探索する動き推定(Motion Estimation:以
下、MEという)の処理に必要な演算量が、一般に、そ
の他の演算である離散コサイン変換や量子化,可変長符
号化などと比較して、非常に多いものとなる。そして、
演算量の多さは消費電力の増加につながり、MPEG2
方式による符号化装置(以下、MPEG2符号化装置と
いう)における消費電力は、主に、ME処理に費やされ
る。
ベクトルを探索する動き推定(Motion Estimation:以
下、MEという)の処理に必要な演算量が、一般に、そ
の他の演算である離散コサイン変換や量子化,可変長符
号化などと比較して、非常に多いものとなる。そして、
演算量の多さは消費電力の増加につながり、MPEG2
方式による符号化装置(以下、MPEG2符号化装置と
いう)における消費電力は、主に、ME処理に費やされ
る。
【0008】符号化された画像の画質劣化を押さえつ
つ、ME処理の演算量を削減するために、従来では、例
えば、「1997年電子情報通信学会総合大会C−12−34」
(以下、文献2という)で発表されているように、過去
の動きベクトルの履歴を利用して探索範囲の形を適応的
に変化させることにより、画質劣化をおさえつつ動きベ
クトルの探索範囲を狭くするという方法が知られてい
る。
つ、ME処理の演算量を削減するために、従来では、例
えば、「1997年電子情報通信学会総合大会C−12−34」
(以下、文献2という)で発表されているように、過去
の動きベクトルの履歴を利用して探索範囲の形を適応的
に変化させることにより、画質劣化をおさえつつ動きベ
クトルの探索範囲を狭くするという方法が知られてい
る。
【0009】
【発明が解決しようとする課題】近年のディジタル技術
の発展により、動画像を扱う機器はより小さく、より軽
くなっている。この小型・軽量化技術の発展により、今
後ますます携帯機器の需要が高まって行く。
の発展により、動画像を扱う機器はより小さく、より軽
くなっている。この小型・軽量化技術の発展により、今
後ますます携帯機器の需要が高まって行く。
【0010】ところで、これら携帯機器は電池によって
駆動されるので、電池の寿命をより長く持たせるために
は、より低消費電力の回路を使用することが望まれる。
MPEG2符号化装置では、演算量の大半はMEに当て
られているので、ここでの消費電力を低減するために
は、動きベクトルの探索範囲を縮小したり、探索を簡略
化したりしてMEの演算量を削減することが考えられる
が、このことは符号化された画質に悪影響を及ぼすとい
う第1の問題があった。
駆動されるので、電池の寿命をより長く持たせるために
は、より低消費電力の回路を使用することが望まれる。
MPEG2符号化装置では、演算量の大半はMEに当て
られているので、ここでの消費電力を低減するために
は、動きベクトルの探索範囲を縮小したり、探索を簡略
化したりしてMEの演算量を削減することが考えられる
が、このことは符号化された画質に悪影響を及ぼすとい
う第1の問題があった。
【0011】また、上記文献2に記載のように、動きベ
クトルの探索範囲の形を適応的に変化させる方法では、
探索範囲の形を複雑に制御することにより、大きな探索
範囲を持つ場合とほぼ同等の画質が得られるが、文献2
には、探索範囲の形を決定する制御方法が示されておら
ず、その機能を充分に使うことができないであろうこと
が考えられる。
クトルの探索範囲の形を適応的に変化させる方法では、
探索範囲の形を複雑に制御することにより、大きな探索
範囲を持つ場合とほぼ同等の画質が得られるが、文献2
には、探索範囲の形を決定する制御方法が示されておら
ず、その機能を充分に使うことができないであろうこと
が考えられる。
【0012】一方、MPEG2符号化をシステム全体と
して考えたとき、パンが行なわれる場合、画面全体のパ
ンの情報はMPEG2符号化装置以外の手段によって検
出している場合がある。また、パンが行なわれていると
きには、動きベクトルがパンによって移動した先を表わ
している場合が多いので、ME処理を行なう装置が動き
ベクトルを探索する範囲は、パンによって移動した先の
周囲に限ってもよく、それ以外の場所を探索するのは無
駄が多いという第2の問題があった。
して考えたとき、パンが行なわれる場合、画面全体のパ
ンの情報はMPEG2符号化装置以外の手段によって検
出している場合がある。また、パンが行なわれていると
きには、動きベクトルがパンによって移動した先を表わ
している場合が多いので、ME処理を行なう装置が動き
ベクトルを探索する範囲は、パンによって移動した先の
周囲に限ってもよく、それ以外の場所を探索するのは無
駄が多いという第2の問題があった。
【0013】本発明の第1の目的は、上記第1の問題を
解消し、簡易な回路構成でもって、符号化された画像の
画質劣化を抑えつつMEの演算量を削減し、MPEG2
符号化装置の消費電力を低減することができるようにし
たディジタル画像符号化装置とこれに用いる動きベクト
ル検出装置を提供することにある。
解消し、簡易な回路構成でもって、符号化された画像の
画質劣化を抑えつつMEの演算量を削減し、MPEG2
符号化装置の消費電力を低減することができるようにし
たディジタル画像符号化装置とこれに用いる動きベクト
ル検出装置を提供することにある。
【0014】本発明の第2の目的は、上記第2の問題を
解消し、外部で検出されたパンの情報をMPEG2符号
化装置で有効に利用し、動きベクトルの無駄な探索動作
をなくすようにしたディジタル画像符号化装置とこれに
用いる動きベクトル検出装置を提供することにある。
解消し、外部で検出されたパンの情報をMPEG2符号
化装置で有効に利用し、動きベクトルの無駄な探索動作
をなくすようにしたディジタル画像符号化装置とこれに
用いる動きベクトル検出装置を提供することにある。
【0015】
【課題を解決するための手段】上記第1の目的を達成す
るために、本発明は、MEを行なう回路ブロックに、動
きベクトルの探索範囲を制限するモードと該探索範囲に
オフセットをつける機能とこれらを自律的に初期状態に
戻す機能とを設けたものである。
るために、本発明は、MEを行なう回路ブロックに、動
きベクトルの探索範囲を制限するモードと該探索範囲に
オフセットをつける機能とこれらを自律的に初期状態に
戻す機能とを設けたものである。
【0016】通常、動画像の時間軸方向の相関は高い
が、あるときは相関が低くなる。一般に、時間軸方向の
相関が高い動画像をMPEG2で符号化する場合には、
動きベクトルがほぼ同一の方向を指す場合が多い。一
方、時間軸方向の相関が低い動画像をMPEG2で符号
化する場合、動きベクトルはランダムな方向を指す。従
って、過去の参照画像データを用いた動きベクトルの探
索の結果、この動きベクトルの方向が似たようなところ
に集中しているときには、探索範囲を制限するモードを
設定するとともに、制限した探索範囲のオフセット(も
との広い探索範囲内での位置を決めるもの)を適宜設定
する。また、この制限された探索範囲が正しい動きベク
トルを検出できる範囲から外れているようであれば、自
律的に探索範囲を初期の広い状態に戻す。
が、あるときは相関が低くなる。一般に、時間軸方向の
相関が高い動画像をMPEG2で符号化する場合には、
動きベクトルがほぼ同一の方向を指す場合が多い。一
方、時間軸方向の相関が低い動画像をMPEG2で符号
化する場合、動きベクトルはランダムな方向を指す。従
って、過去の参照画像データを用いた動きベクトルの探
索の結果、この動きベクトルの方向が似たようなところ
に集中しているときには、探索範囲を制限するモードを
設定するとともに、制限した探索範囲のオフセット(も
との広い探索範囲内での位置を決めるもの)を適宜設定
する。また、この制限された探索範囲が正しい動きベク
トルを検出できる範囲から外れているようであれば、自
律的に探索範囲を初期の広い状態に戻す。
【0017】このようにすることにより、動きベクトル
の探索結果に大きな影響を与えることなく探索範囲を狭
くすることができ、この結果、MEの演算量が削減され
るので、符号化された画像の画質劣化を抑えつつMPE
G2符号化装置の低消費電力化を実現することができ
る。
の探索結果に大きな影響を与えることなく探索範囲を狭
くすることができ、この結果、MEの演算量が削減され
るので、符号化された画像の画質劣化を抑えつつMPE
G2符号化装置の低消費電力化を実現することができ
る。
【0018】上記第2の目的を達成するために、本発明
は、上記の探索範囲を制限するモードとこの探索範囲に
オフセットをつける機能とを外部から設定することがで
きるようするとともに、MPEG2符号化装置で検出さ
れた動きベクトルに関する情報を外部から参照すること
ができるようにした。
は、上記の探索範囲を制限するモードとこの探索範囲に
オフセットをつける機能とを外部から設定することがで
きるようするとともに、MPEG2符号化装置で検出さ
れた動きベクトルに関する情報を外部から参照すること
ができるようにした。
【0019】MPEG2符号化装置の外部で検出したパ
ン情報からどのような動きベクトルが検出されるかを予
測し、その予測された値を上記のオフセット値として設
定する。また、実際に検出された動きベクトルに関する
情報から探索範囲を制限してもよいかどうか判断し、上
記の探索範囲を制限するモードを設定する。このように
することにより、外部で検出されたパンの情報をMPE
G2符号化装置で有効に利用することが可能になる。
ン情報からどのような動きベクトルが検出されるかを予
測し、その予測された値を上記のオフセット値として設
定する。また、実際に検出された動きベクトルに関する
情報から探索範囲を制限してもよいかどうか判断し、上
記の探索範囲を制限するモードを設定する。このように
することにより、外部で検出されたパンの情報をMPE
G2符号化装置で有効に利用することが可能になる。
【0020】
【発明の実施の形態】以下、本発明の実施形態を図面を
用いて説明する。図1は本発明によるディジタル画像符
号化装置の第1の実施形態を示すブロック図であって、
1は画像データの入力端子、2はMPEG2符号化装
置、3はSDRAM(同期式記憶保持動作が必要な随時
読出し,書込み動作が可能な半導体記憶素子)ブロッ
ク、4はCPU(中央処理ユニット)ブロック、5はビ
ットストリームの出力端子、6はVIDEO(ビデオ)
ブロック、7はME(動き推定処理)ブロック、8はC
PU IF(CPUインターフェース)ブロック、9は
MC(動き補償)ブロック、10はJUDGE(判定)
ブロック、11はDCT/IDCT(離散コサイン変換/
逆離散コサイン変換)ブロック、12はQ/IQ(量子
化/逆量子化)ブロック、13はRATE(レート制
御)ブロック、14はVLC(可変長符号化)ブロッ
ク、15はCODE(コード)ブロック、16はSDR
AMアドレスバス、17はSDRAMデータバスであ
る。
用いて説明する。図1は本発明によるディジタル画像符
号化装置の第1の実施形態を示すブロック図であって、
1は画像データの入力端子、2はMPEG2符号化装
置、3はSDRAM(同期式記憶保持動作が必要な随時
読出し,書込み動作が可能な半導体記憶素子)ブロッ
ク、4はCPU(中央処理ユニット)ブロック、5はビ
ットストリームの出力端子、6はVIDEO(ビデオ)
ブロック、7はME(動き推定処理)ブロック、8はC
PU IF(CPUインターフェース)ブロック、9は
MC(動き補償)ブロック、10はJUDGE(判定)
ブロック、11はDCT/IDCT(離散コサイン変換/
逆離散コサイン変換)ブロック、12はQ/IQ(量子
化/逆量子化)ブロック、13はRATE(レート制
御)ブロック、14はVLC(可変長符号化)ブロッ
ク、15はCODE(コード)ブロック、16はSDR
AMアドレスバス、17はSDRAMデータバスであ
る。
【0021】同図において、SDRAMブロック3は
I,Pピクチャの画像データが参照画像データとして格
納されており、SDRAMアドレスバス16から読出ア
ドレスが供給されることにより、SDRAMブロック3
でのこの読出アドレスによる領域から参照画像データが
読み出されてSDRAMデータバス17に出力される。
これをSDRAMブロック3からの読出しという。ま
た、SDRAMアドレスバス16から書込アドレスが、
SDRAMデータバス17から画像データが夫々供給さ
れると、SDRAMブロック3でのこの書込アドレスに
よる領域にこの画像データが書き込きれる。これをSD
RAMブロック3への書込みという。
I,Pピクチャの画像データが参照画像データとして格
納されており、SDRAMアドレスバス16から読出ア
ドレスが供給されることにより、SDRAMブロック3
でのこの読出アドレスによる領域から参照画像データが
読み出されてSDRAMデータバス17に出力される。
これをSDRAMブロック3からの読出しという。ま
た、SDRAMアドレスバス16から書込アドレスが、
SDRAMデータバス17から画像データが夫々供給さ
れると、SDRAMブロック3でのこの書込アドレスに
よる領域にこの画像データが書き込きれる。これをSD
RAMブロック3への書込みという。
【0022】次に、MPEG2符号化装置2の各部の動
作について説明する。
作について説明する。
【0023】MPEG2方式では、画像(ピクチャ)の動
き補償を行なうための参照画像として、表示順で過去と
未来の両方の画像を使用可能とする。このために、画像
の入力順(即ち、表示順)と符号化順は必ずしも一致し
ない。例えば、図7(a)に示すように、ピクチャ
P1,P2,P3,P4がその順に入力されたものとする
と、これらが符号化されたときには、図7(b)に示す
ように、ピクチャP1,P4,P2,P3の順となる。
き補償を行なうための参照画像として、表示順で過去と
未来の両方の画像を使用可能とする。このために、画像
の入力順(即ち、表示順)と符号化順は必ずしも一致し
ない。例えば、図7(a)に示すように、ピクチャ
P1,P2,P3,P4がその順に入力されたものとする
と、これらが符号化されたときには、図7(b)に示す
ように、ピクチャP1,P4,P2,P3の順となる。
【0024】入力端子1から入力される各ピクチャの画
像データはVIDEOブロック6に供給されるが、この
VIDEOブロック6では、入力されるピクチャの順序
が、上記のように、符号化する順に並び替えられ、夫々
のピクチャ毎に輝度信号Yと2つの色差信号(R−Y)
,(B−Y)とに分離されるとともに、これら夫々の信
号毎にマクロブロックMBに分割される。ここで、マク
ロブロックMB中の輝度信号は16×16画素からな
り、マクロブロックMB中の色差信号(R−Y),(B
−Y)(なお、これらをまとめて、色差信号Cという)
は、水平,垂直とも1/2に間引かれて8×8画素から
なっている。かかる輝度信号YはマクロブロックMB毎
に順次MEブロック7,MCブロック9及びJUDGE
ブロック10に供給され、また、2つの色差信号Cもマ
クロブロックMB毎にMCブロック9に供給される。
像データはVIDEOブロック6に供給されるが、この
VIDEOブロック6では、入力されるピクチャの順序
が、上記のように、符号化する順に並び替えられ、夫々
のピクチャ毎に輝度信号Yと2つの色差信号(R−Y)
,(B−Y)とに分離されるとともに、これら夫々の信
号毎にマクロブロックMBに分割される。ここで、マク
ロブロックMB中の輝度信号は16×16画素からな
り、マクロブロックMB中の色差信号(R−Y),(B
−Y)(なお、これらをまとめて、色差信号Cという)
は、水平,垂直とも1/2に間引かれて8×8画素から
なっている。かかる輝度信号YはマクロブロックMB毎
に順次MEブロック7,MCブロック9及びJUDGE
ブロック10に供給され、また、2つの色差信号Cもマ
クロブロックMB毎にMCブロック9に供給される。
【0025】MEブロック7は、マクロブロックMB毎
に、VIDEOブロック6からの輝度信号YとSDRA
Mブロック3から読み出された参照画像データD4を用
いて動きベクトルMVを探索し、MCブロック9に供給
する。そこで、MCブロック9は、この探索された動き
ベクトルMVを用いて、マクロブロックMB毎に、VI
DEOブロック6からの輝度信号Yとこのマクロブロッ
クMBに対応するSDRAMブロック3から読み出した
参照画像データD4の輝度成分のマクロブロックMBと
の差分画像データD2を生成する。JUDGEブロック
10は、マクロブロックMB毎に、この差分画像データ
D2とVIDEOブロック6からの輝度信号Yとの夫々
の分散値を算出し、これら分散値のうちの小さい方がよ
り少ない符号量で符号化できると判定して、その判定結
果をイントラMB判定信号S4としてMEブロック7,
MCブロック9及びCPU IFブロック8に供給す
る。
に、VIDEOブロック6からの輝度信号YとSDRA
Mブロック3から読み出された参照画像データD4を用
いて動きベクトルMVを探索し、MCブロック9に供給
する。そこで、MCブロック9は、この探索された動き
ベクトルMVを用いて、マクロブロックMB毎に、VI
DEOブロック6からの輝度信号Yとこのマクロブロッ
クMBに対応するSDRAMブロック3から読み出した
参照画像データD4の輝度成分のマクロブロックMBと
の差分画像データD2を生成する。JUDGEブロック
10は、マクロブロックMB毎に、この差分画像データ
D2とVIDEOブロック6からの輝度信号Yとの夫々
の分散値を算出し、これら分散値のうちの小さい方がよ
り少ない符号量で符号化できると判定して、その判定結
果をイントラMB判定信号S4としてMEブロック7,
MCブロック9及びCPU IFブロック8に供給す
る。
【0026】そこで、MCブロック9は、このイントラ
MB判定信号S4からして、輝度信号Yの分散値の方が
小さいと判定されているときには、VIDEOブロック
6から供給されるマクロブロックMBの輝度信号Yの1
6×16画素を、さらに、夫々が8×8画素からなる4
個のブロックに分割し、また、VIDEOブロック6か
ら供給されるマクロブロックMBの色差信号C夫々の8
×8画素をそのままブロックとし、これら6個のブロッ
クを時分割多重してブロックデータD3としてDCT/I
DCTブロック11に供給する。また、差分画像データ
D2の分散値の方が小さいと判定されているときには、
この差分画像データD2を夫々8×8画素からなる4個
のブロックに分割し、また、VIDEOブロック6から
供給される2つの色差信号Cと、SDRAMブロック3
から読み出される参照画像データD4の上記動きベクト
ルMVで決まる8×8画素との夫々の色差信号との差分
画像データを生成し、これらをそのままブロックとし
て、これら4個の輝度信号Yのブロックと色差信号Cの
2個のブロックとからなる6個の8×8画素からなるブ
ロックを時分割多重し、ブロックデータD3としてDC
T/IDCTブロック11に供給する。
MB判定信号S4からして、輝度信号Yの分散値の方が
小さいと判定されているときには、VIDEOブロック
6から供給されるマクロブロックMBの輝度信号Yの1
6×16画素を、さらに、夫々が8×8画素からなる4
個のブロックに分割し、また、VIDEOブロック6か
ら供給されるマクロブロックMBの色差信号C夫々の8
×8画素をそのままブロックとし、これら6個のブロッ
クを時分割多重してブロックデータD3としてDCT/I
DCTブロック11に供給する。また、差分画像データ
D2の分散値の方が小さいと判定されているときには、
この差分画像データD2を夫々8×8画素からなる4個
のブロックに分割し、また、VIDEOブロック6から
供給される2つの色差信号Cと、SDRAMブロック3
から読み出される参照画像データD4の上記動きベクト
ルMVで決まる8×8画素との夫々の色差信号との差分
画像データを生成し、これらをそのままブロックとし
て、これら4個の輝度信号Yのブロックと色差信号Cの
2個のブロックとからなる6個の8×8画素からなるブ
ロックを時分割多重し、ブロックデータD3としてDC
T/IDCTブロック11に供給する。
【0027】以上のようなブロックデータD3は、DC
T/IDCTブロック11で離散コサイン変換され、Q/
IQブロック12で量子化された後、VLCブロック1
4で可変長符号化されてMPEG2ビットストリームと
なる。このMPEG2ビットストリームは、CODEブ
ロック15で送信バッファに一旦蓄積されて読出しが制
御されることにより、所定の一定ビットレートに平滑化
されて出力端子5から出力される。
T/IDCTブロック11で離散コサイン変換され、Q/
IQブロック12で量子化された後、VLCブロック1
4で可変長符号化されてMPEG2ビットストリームと
なる。このMPEG2ビットストリームは、CODEブ
ロック15で送信バッファに一旦蓄積されて読出しが制
御されることにより、所定の一定ビットレートに平滑化
されて出力端子5から出力される。
【0028】また、VLCブロック14で生成した画像
データの符号量の情報がRATEブロック13に供給さ
れ、これと予め設定されたビットレート情報とから、出
力端子5から出力されるMPEG2ビットストリームの
ビットレートを一定に保つためには、Q/IQブロック
12でどの程度粗く量子化をかけるべきかを算出し、Q
/IQブロック12はこの算出値に応じた量子化を行な
う。また、RATEブロック13は、この一定のビット
レートが破綻しないために許容できる1マクロブロック
MB当りの発生符号量を算出し、VLCブロック14
は、この算出値に応じて、1MB当りの発生符号量がこ
のビットレートを破綻させない値を超えないように符号
化処理が制御される。
データの符号量の情報がRATEブロック13に供給さ
れ、これと予め設定されたビットレート情報とから、出
力端子5から出力されるMPEG2ビットストリームの
ビットレートを一定に保つためには、Q/IQブロック
12でどの程度粗く量子化をかけるべきかを算出し、Q
/IQブロック12はこの算出値に応じた量子化を行な
う。また、RATEブロック13は、この一定のビット
レートが破綻しないために許容できる1マクロブロック
MB当りの発生符号量を算出し、VLCブロック14
は、この算出値に応じて、1MB当りの発生符号量がこ
のビットレートを破綻させない値を超えないように符号
化処理が制御される。
【0029】ところで、MPEG2方式では、非可逆符
号化を行なうため、入力端子1から入力されるもとの画
像(入力画像)と出力端子5から出力されたMPEG2
ビットストリームを復号した画像とは異なったものにな
る。このMPEG2ビットストリームを復号する受信側
の復号器では、差分画像データから元の画像データを再
生するために、参照画像データとして、復号された画像
データを使用するので、送信側のMPEG2符号化装置
2において、MCブロック9で差分画像データを生成す
る際に、入力画像データをそのまま参照画像データとし
て使用すると、このMPEG2符号化装置での参照画像
データと受信側の復号器での参照画像データとの間の差
が問題となる。この差をなくすために、MPEG2符号
化装置2側でも、このMPEGビットストリームを復号
した画像データを参照画像データとして用いるようにし
なければならない。これをローカルデコードという。
号化を行なうため、入力端子1から入力されるもとの画
像(入力画像)と出力端子5から出力されたMPEG2
ビットストリームを復号した画像とは異なったものにな
る。このMPEG2ビットストリームを復号する受信側
の復号器では、差分画像データから元の画像データを再
生するために、参照画像データとして、復号された画像
データを使用するので、送信側のMPEG2符号化装置
2において、MCブロック9で差分画像データを生成す
る際に、入力画像データをそのまま参照画像データとし
て使用すると、このMPEG2符号化装置での参照画像
データと受信側の復号器での参照画像データとの間の差
が問題となる。この差をなくすために、MPEG2符号
化装置2側でも、このMPEGビットストリームを復号
した画像データを参照画像データとして用いるようにし
なければならない。これをローカルデコードという。
【0030】このローカルデコードは、次のようにして
行なわれる。即ち、上記のように、VLCブロック14
では、ビットレート制御のために、1MB当りの発生符
号量を制限しており、それを超える画像データは可変長
符号化されない。このために、Q/IQブロック12か
ら出力された画像データの一部が可変長符号化されない
場合がある。そこで、MPEG2ビットストリームをデ
コードした値とローカルデコードの値とを一致させるた
めに、VLCブロック14から可変長符号化した分の画
像データをQ/IQブロック12に供給して逆量子化
し、さらに、DCT/IDCTブロック11で逆離散コ
サイン変換してMCブロック9に供給する。MCブロッ
ク9では、ノンイントラMBの差分画像データは参照画
像データが加算されて画像データに戻され、イントラM
Bのデータはそのままで復号画像データが生成され、I
ピクチャとPピクチャの復号画像データが参照画像デー
タD1 として、SDRAMデータバス17を介し、SD
RAMブロック3に保存される。
行なわれる。即ち、上記のように、VLCブロック14
では、ビットレート制御のために、1MB当りの発生符
号量を制限しており、それを超える画像データは可変長
符号化されない。このために、Q/IQブロック12か
ら出力された画像データの一部が可変長符号化されない
場合がある。そこで、MPEG2ビットストリームをデ
コードした値とローカルデコードの値とを一致させるた
めに、VLCブロック14から可変長符号化した分の画
像データをQ/IQブロック12に供給して逆量子化
し、さらに、DCT/IDCTブロック11で逆離散コ
サイン変換してMCブロック9に供給する。MCブロッ
ク9では、ノンイントラMBの差分画像データは参照画
像データが加算されて画像データに戻され、イントラM
Bのデータはそのままで復号画像データが生成され、I
ピクチャとPピクチャの復号画像データが参照画像デー
タD1 として、SDRAMデータバス17を介し、SD
RAMブロック3に保存される。
【0031】図2は図1における動きベクトル検出装置
としてのMEブロック7の第1の実施形態を示すブロッ
ク図であって、7aは入力画像バッファ、7bは参照画
像バッファ、7cは動きベクトル検出部、7dは参照画
像読出アドレス発生部、7eは値保持部、7fは判定計
数部、7gは平均値算出部、7hは分散値算出部であ
り、図1に対応する部分には同一符号をつけて重複する
説明を省略する。
としてのMEブロック7の第1の実施形態を示すブロッ
ク図であって、7aは入力画像バッファ、7bは参照画
像バッファ、7cは動きベクトル検出部、7dは参照画
像読出アドレス発生部、7eは値保持部、7fは判定計
数部、7gは平均値算出部、7hは分散値算出部であ
り、図1に対応する部分には同一符号をつけて重複する
説明を省略する。
【0032】VIDEOブロック6(図1)から供給さ
れる輝度信号Yの16×16画素からなるマクロブロッ
クMBは入力画像バッファ7aに格納され、また、この
マクロブロックMBに対してSDRAMブロック3から
読み出された参照画像データD4は参照画像バッファ7
bに格納される。ここで、参照画像バッファ7bは、水
平128画素×垂直56画素の参照画像データD4を格
納する。
れる輝度信号Yの16×16画素からなるマクロブロッ
クMBは入力画像バッファ7aに格納され、また、この
マクロブロックMBに対してSDRAMブロック3から
読み出された参照画像データD4は参照画像バッファ7
bに格納される。ここで、参照画像バッファ7bは、水
平128画素×垂直56画素の参照画像データD4を格
納する。
【0033】この参照画像バッファ7bからは、入力画
像バッファ7aに格納されたマクロブロックMBに対す
る動きベクトルMVの探索範囲の参照画像データが読み
出され、入力画像バッファ7aから読み出されるマクロ
ブロックMBの画像データとともに、動きベクトル検出
部7cに供給されるのであるが、動きベクトルの探索範
囲は、後述するように、通常の広い探索範囲と制限され
た狭い探索範囲とに設定可能である。ここで、通常の広
い探索範囲は、入力画像バッファ7aから読み出される
マクロブロックMBに対応する位置を中心として、水平
方向で−56〜+56画素,垂直方向で−20〜+20
画素からなる範囲であり(マクロブロックMBに対応す
る領域(16×16画素)の領域も含めると、水平12
8画素×垂直56画素の大きさ)、また、制限された狭
い探索範囲は、水平方向で−24〜+24画素,垂直方
向で−8〜+8画素からなる範囲である(マクロブロッ
クMBに対応する領域の領域も含めると、水平64画素
×垂直32画素の大きさとなる)。
像バッファ7aに格納されたマクロブロックMBに対す
る動きベクトルMVの探索範囲の参照画像データが読み
出され、入力画像バッファ7aから読み出されるマクロ
ブロックMBの画像データとともに、動きベクトル検出
部7cに供給されるのであるが、動きベクトルの探索範
囲は、後述するように、通常の広い探索範囲と制限され
た狭い探索範囲とに設定可能である。ここで、通常の広
い探索範囲は、入力画像バッファ7aから読み出される
マクロブロックMBに対応する位置を中心として、水平
方向で−56〜+56画素,垂直方向で−20〜+20
画素からなる範囲であり(マクロブロックMBに対応す
る領域(16×16画素)の領域も含めると、水平12
8画素×垂直56画素の大きさ)、また、制限された狭
い探索範囲は、水平方向で−24〜+24画素,垂直方
向で−8〜+8画素からなる範囲である(マクロブロッ
クMBに対応する領域の領域も含めると、水平64画素
×垂直32画素の大きさとなる)。
【0034】動きベクトル検出部7cでは、入力画像バ
ッファ7aから供給されるマクロブロックMBの画像デ
ータと参照画像バッファ7bからの探索範囲の画像デー
タとのブロックマッチングをとることにより、このマク
ロブロックMVに対する動きベクトルMVを検出する。
このブロックマッチングは、輝度信号Yの場合、16×
16画素からなるマクロブロックMBに対して探索範囲
を上下左右に移動させることにより、夫々の移動位置毎
の16×16画素の領域との相関(予測誤差)を求める
ものである。
ッファ7aから供給されるマクロブロックMBの画像デ
ータと参照画像バッファ7bからの探索範囲の画像デー
タとのブロックマッチングをとることにより、このマク
ロブロックMVに対する動きベクトルMVを検出する。
このブロックマッチングは、輝度信号Yの場合、16×
16画素からなるマクロブロックMBに対して探索範囲
を上下左右に移動させることにより、夫々の移動位置毎
の16×16画素の領域との相関(予測誤差)を求める
ものである。
【0035】このようにして、入力画像の1つのマクロ
ブロックMBについて動きベクトルMVが求まると、次
のマクロブロックMBの動きベクトルMVの探索を行な
うのであるが、このマクロブロックMBに対する探索範
囲はその1つ前のマクロブロックMBに対する探索範囲
とは異なる。このため、次のマクロブロックMBの動き
ベクトルMVの探索を行なうときには、これに対する探
索範囲を設定するために、SDRAMブロック3から参
照画像データの読出しが行なわれるが、続けて動きベク
トルMVの探索を行なう2つのマクロブロックMBに対
する探索範囲は大部分が重なり合っており、1つ前のマ
クロブロックMBの動きベクトルMVの探索に使用した
探索範囲の参照画像データの一部を再使用することがで
きる。このため、SDRAMブロック3から読み出して
参照画像バッファ7bに取り込む参照画像データの範囲
は、上記通常の広い探索範囲では、水平16画素×垂直
56画素の範囲であり、上記制限された狭い探索範囲で
は、水平16画素×垂直32画素の範囲である。
ブロックMBについて動きベクトルMVが求まると、次
のマクロブロックMBの動きベクトルMVの探索を行な
うのであるが、このマクロブロックMBに対する探索範
囲はその1つ前のマクロブロックMBに対する探索範囲
とは異なる。このため、次のマクロブロックMBの動き
ベクトルMVの探索を行なうときには、これに対する探
索範囲を設定するために、SDRAMブロック3から参
照画像データの読出しが行なわれるが、続けて動きベク
トルMVの探索を行なう2つのマクロブロックMBに対
する探索範囲は大部分が重なり合っており、1つ前のマ
クロブロックMBの動きベクトルMVの探索に使用した
探索範囲の参照画像データの一部を再使用することがで
きる。このため、SDRAMブロック3から読み出して
参照画像バッファ7bに取り込む参照画像データの範囲
は、上記通常の広い探索範囲では、水平16画素×垂直
56画素の範囲であり、上記制限された狭い探索範囲で
は、水平16画素×垂直32画素の範囲である。
【0036】参照画像読出アドレス発生部7dは、SD
RAMブロック3から参照画像データの読出範囲を制限
するモードと、この読出位置にオフセットをつける機能
とを備えており、これらモードと機能との設定はCPU
IFブロック8によって行なわれる。
RAMブロック3から参照画像データの読出範囲を制限
するモードと、この読出位置にオフセットをつける機能
とを備えており、これらモードと機能との設定はCPU
IFブロック8によって行なわれる。
【0037】次に、CPU IFブロック8による参照
画像読出アドレス発生部7dのかかるモードと機能につ
いて説明するが、その前に、図3〜図6により、符号化
する入力画像,参照画像間の相関と動きベクトルやその
探索範囲との関係について説明する。但し、図3は入力
画像と参照画像との相関が低い場合の動きベクトルの分
布図、図4は入力画像と参照画像との相関が高い場合の
動きベクトルの分布図、図5は入力画像と参照画像との
相関が高い場合の探索範囲の制限とオフセットとの説明
図、図6は探索範囲が制限された状態で符号化する入力
画像と参照画像との相関が低い場合の説明図である。
画像読出アドレス発生部7dのかかるモードと機能につ
いて説明するが、その前に、図3〜図6により、符号化
する入力画像,参照画像間の相関と動きベクトルやその
探索範囲との関係について説明する。但し、図3は入力
画像と参照画像との相関が低い場合の動きベクトルの分
布図、図4は入力画像と参照画像との相関が高い場合の
動きベクトルの分布図、図5は入力画像と参照画像との
相関が高い場合の探索範囲の制限とオフセットとの説明
図、図6は探索範囲が制限された状態で符号化する入力
画像と参照画像との相関が低い場合の説明図である。
【0038】なお、これに図3〜図6において、範囲α
−βは通常の広い探索範囲を表わしており、この探索範
囲α−βの縦軸が立てられている中心がこの探索範囲α
−βでの符号化する入力画像データのマクロブロックM
Bの位置とするものである。動きベクトルを探索する場
合には、相対的に上記のような画素範囲を持つ探索範囲
内でマクロブロックMBを、例えば、半画像分ずつ移動
させることにより、高い相関部分を探索するものである
が、図3〜図6における縦軸の「動きベクトルの分布密
度」とは、複数のMBに対して検出された動きベクトル
の分布の程度を示すものである。例えば、図3の場合に
は、入力画像,参照画像間の相関が低く、動きベクトル
がランダムに検出されていることを示している。また、
図4の場合には、動きベクトルが検出される率が高いこ
とを示している。
−βは通常の広い探索範囲を表わしており、この探索範
囲α−βの縦軸が立てられている中心がこの探索範囲α
−βでの符号化する入力画像データのマクロブロックM
Bの位置とするものである。動きベクトルを探索する場
合には、相対的に上記のような画素範囲を持つ探索範囲
内でマクロブロックMBを、例えば、半画像分ずつ移動
させることにより、高い相関部分を探索するものである
が、図3〜図6における縦軸の「動きベクトルの分布密
度」とは、複数のMBに対して検出された動きベクトル
の分布の程度を示すものである。例えば、図3の場合に
は、入力画像,参照画像間の相関が低く、動きベクトル
がランダムに検出されていることを示している。また、
図4の場合には、動きベクトルが検出される率が高いこ
とを示している。
【0039】符号化する入力画像と参照画像の相関が低
い場合には、動きベクトルは、図3に示すように、動き
ベクトル検出部7cでの探索範囲α−βに万遍なく検出
される。そして、入力画像と参照画像との相関が低い
と、これらの差分画像の分散が大きくなる傾向にあるの
で、JUDGEブロック10での判定結果はイントラM
Bが多いということになる。
い場合には、動きベクトルは、図3に示すように、動き
ベクトル検出部7cでの探索範囲α−βに万遍なく検出
される。そして、入力画像と参照画像との相関が低い
と、これらの差分画像の分散が大きくなる傾向にあるの
で、JUDGEブロック10での判定結果はイントラM
Bが多いということになる。
【0040】逆に、例えば、単純なパンを行なっている
ような画像のように、入力画像と参照画像との相関が高
い場合には、検出される動きベクトルは、図4で示すよ
うに、パンによる画像の移動を表わすベクトルを中心と
する領域に集まり、JUDGEブロック10の判定結果
はノンイントラMBが多いということになる。
ような画像のように、入力画像と参照画像との相関が高
い場合には、検出される動きベクトルは、図4で示すよ
うに、パンによる画像の移動を表わすベクトルを中心と
する領域に集まり、JUDGEブロック10の判定結果
はノンイントラMBが多いということになる。
【0041】このように、探索範囲α−β内での狭い範
囲に動きベクトルが集まっている場合には、図5で示す
ように、その位置を表わす動きベクトルの平均値Vaに
対する探索範囲でのオフセット値NOFを指定し、探索範
囲をこの動きベクトルの大半が含まれる狭い探索範囲
(即ち、探索範囲α’−β’)に制限しても、符号化し
た画像の画質に大きな影響は与えない。なお、この制限
された狭い探索範囲α’−β’に対し、上記の探索範囲
α−βが上記通常の広い探索範囲となる。
囲に動きベクトルが集まっている場合には、図5で示す
ように、その位置を表わす動きベクトルの平均値Vaに
対する探索範囲でのオフセット値NOFを指定し、探索範
囲をこの動きベクトルの大半が含まれる狭い探索範囲
(即ち、探索範囲α’−β’)に制限しても、符号化し
た画像の画質に大きな影響は与えない。なお、この制限
された狭い探索範囲α’−β’に対し、上記の探索範囲
α−βが上記通常の広い探索範囲となる。
【0042】また、エンコード中、シーンの切り替えな
どによって入力画像と参照画像との相関が低くなった
り、パンの方向が変化したりして、動きベクトルが集中
する場所が制限れた狭い探索範囲α’−β’からはずれ
た場合には、探索範囲をもとの通常の広い範囲α−βに
戻さなくてはならない。
どによって入力画像と参照画像との相関が低くなった
り、パンの方向が変化したりして、動きベクトルが集中
する場所が制限れた狭い探索範囲α’−β’からはずれ
た場合には、探索範囲をもとの通常の広い範囲α−βに
戻さなくてはならない。
【0043】図6は上記の制限された狭い探索範囲α’
−β’が設定されているときに、入力画像と参照画像と
の相関が低くなった場合を示すものであるが、このとき
には、探索範囲α’−β’外の斜線部で検出されるはず
の動きベクトルが正しく検出されず、イントラMBの判
定が非常に多くなる。従って、制限された狭い探索範囲
が設定されているときにイントラMBが多いという判定
があった場合には、図3に示す通常の広い探索範囲α−
βに戻す必要がある。
−β’が設定されているときに、入力画像と参照画像と
の相関が低くなった場合を示すものであるが、このとき
には、探索範囲α’−β’外の斜線部で検出されるはず
の動きベクトルが正しく検出されず、イントラMBの判
定が非常に多くなる。従って、制限された狭い探索範囲
が設定されているときにイントラMBが多いという判定
があった場合には、図3に示す通常の広い探索範囲α−
βに戻す必要がある。
【0044】以上のように、広い探索範囲と狭い探索範
囲の設定と、狭い範囲の探索範囲のオフセットの設定と
が行なわれるものであるが、まず、図2において、外部
設定有効モード設定信号S3 の値が0であり、CPU
IFブロック 8からの参照画像読出アドレス発生部7
dの設定を行なわない場合について説明する。
囲の設定と、狭い範囲の探索範囲のオフセットの設定と
が行なわれるものであるが、まず、図2において、外部
設定有効モード設定信号S3 の値が0であり、CPU
IFブロック 8からの参照画像読出アドレス発生部7
dの設定を行なわない場合について説明する。
【0045】動きベクトルの探索範囲を上記の広い探索
範囲にするか、狭い探索範囲に制限するかは、以下のよ
うにして、Pピクチャの符号化の際に決定される。
範囲にするか、狭い探索範囲に制限するかは、以下のよ
うにして、Pピクチャの符号化の際に決定される。
【0046】即ち、Pピクチャに符号化しているとき
に、動きベクトル検出部7cで検出された動きベクトル
MVの平均値Va(図5)を平均値算出部7gで算出
し、動きベクトルMVの分散値を分散値算出部7hで算
出して夫々値保持部7eに供給する。また、JUDGE
ブロック10のイントラ/ノンイントラ判定結果から判
定計数部7fがこのPピクチャ内のイントラMBの個数
を計数し、その計数値を値保持部7eに供給する。
に、動きベクトル検出部7cで検出された動きベクトル
MVの平均値Va(図5)を平均値算出部7gで算出
し、動きベクトルMVの分散値を分散値算出部7hで算
出して夫々値保持部7eに供給する。また、JUDGE
ブロック10のイントラ/ノンイントラ判定結果から判
定計数部7fがこのPピクチャ内のイントラMBの個数
を計数し、その計数値を値保持部7eに供給する。
【0047】このPピクチャの符号化が終了すると、値
保持部7eは取り込んだ平均値Vaから読出位置のオフ
セット値NOFを算出し、この結果を読出位置オフセット
信号S5として動きベクトル検出部7cと参照画像読出
アドレス発生部7dとに供給する。この読出位置オフセ
ットS5の算出法は後述する。また、分散値算出部7h
で算出された分散値が予め設定された閾値以下であると
きには、参照画像データの読出範囲(即ち、探索範囲)
を制限してもよいと判断し、読出範囲制限信号S6を動
きベクトル検出部7cと参照画像読出アドレス発生部7
dと参照バッファ7bとに供給する。この場合には、参
照画像読出アドレス発生部7dは、この読出範囲制限信
号S6により、SDRAM3からの参照画像データの読
出範囲を、入力画像バッファ7aに格納されたマクロブ
ロックMBに対応した位置を中心とした狭い探索範囲に
対するように、狭く制限する。
保持部7eは取り込んだ平均値Vaから読出位置のオフ
セット値NOFを算出し、この結果を読出位置オフセット
信号S5として動きベクトル検出部7cと参照画像読出
アドレス発生部7dとに供給する。この読出位置オフセ
ットS5の算出法は後述する。また、分散値算出部7h
で算出された分散値が予め設定された閾値以下であると
きには、参照画像データの読出範囲(即ち、探索範囲)
を制限してもよいと判断し、読出範囲制限信号S6を動
きベクトル検出部7cと参照画像読出アドレス発生部7
dと参照バッファ7bとに供給する。この場合には、参
照画像読出アドレス発生部7dは、この読出範囲制限信
号S6により、SDRAM3からの参照画像データの読
出範囲を、入力画像バッファ7aに格納されたマクロブ
ロックMBに対応した位置を中心とした狭い探索範囲に
対するように、狭く制限する。
【0048】また、値保持部7eから読出範囲制限信号
S6が出力されているときに、読出位置オフセットS5も
出力されるときには、この読出位置オフセットS5に応
じて、SDRAM3からの参照画像データの読出範囲の
位置を設定する。この読出位置オフセットS5がない場
合には、SDRAM3での参照画像データの読出範囲
は、入力画像バッファ7aに格納されたマクロブロック
MBに対応する位置が中心位置となる範囲であるが、読
出位置オフセットS5があると、この中心位置がこの読
出位置オフセットS5が表わすオフセット値NOFに応じ
た量だけずれたものとなる。また、参照画像バッファ7
bでは、参照画像読出アドレス発生部7dによって設定
されたSDRAM3での読出範囲の参照画像データが書
き込まれて狭い探索範囲の参照画像データが格納される
ことになり、読出範囲制限信号S6に応じてかかる参照
画像データが読み出されて動きベクトル検出部7cに供
給される。このようにして、動きベクトル検出部7c
は、例えば、図5に示すように、読出位置オフセットS
5 に応じたオフセット値NOFを持つ制限された狭い探索
範囲α’−β’が設定されることになる。
S6が出力されているときに、読出位置オフセットS5も
出力されるときには、この読出位置オフセットS5に応
じて、SDRAM3からの参照画像データの読出範囲の
位置を設定する。この読出位置オフセットS5がない場
合には、SDRAM3での参照画像データの読出範囲
は、入力画像バッファ7aに格納されたマクロブロック
MBに対応する位置が中心位置となる範囲であるが、読
出位置オフセットS5があると、この中心位置がこの読
出位置オフセットS5が表わすオフセット値NOFに応じ
た量だけずれたものとなる。また、参照画像バッファ7
bでは、参照画像読出アドレス発生部7dによって設定
されたSDRAM3での読出範囲の参照画像データが書
き込まれて狭い探索範囲の参照画像データが格納される
ことになり、読出範囲制限信号S6に応じてかかる参照
画像データが読み出されて動きベクトル検出部7cに供
給される。このようにして、動きベクトル検出部7c
は、例えば、図5に示すように、読出位置オフセットS
5 に応じたオフセット値NOFを持つ制限された狭い探索
範囲α’−β’が設定されることになる。
【0049】なお、判定計数部7fが一定以上の計数値
を出力しているときには(即ち、イントラMBの個数が
多いときには)、読出位置オフセット信号S5は0とな
り、また、読出範囲制限信号S6も出力されない。ま
た、分散値算出部7hで算出される分散値が上記閾値よ
りも大きいときにも、同様に、読出位置オフセット信号
S5と読出範囲制限信号S6が出力されない。この場合に
は、参照画像読出アドレス発生部7dは、入力画像バッ
ファ7aに格納されたマクロブロックMBに対応した位
置を中心とした広い探索範囲に対するように、参照画像
データを読み出すようにし、これを参照画像バッファ7
bに格納させる。また、動きベクトル検出部7cでは、
参照画像バッファ7bから参照画像データを読み取っ
て、図3に示す通常の広い探索範囲α−βのように、入
力画像バッファ7aに格納されたマクロブロックMBに
対応した位置を中心とした広い探索範囲が設定される。
を出力しているときには(即ち、イントラMBの個数が
多いときには)、読出位置オフセット信号S5は0とな
り、また、読出範囲制限信号S6も出力されない。ま
た、分散値算出部7hで算出される分散値が上記閾値よ
りも大きいときにも、同様に、読出位置オフセット信号
S5と読出範囲制限信号S6が出力されない。この場合に
は、参照画像読出アドレス発生部7dは、入力画像バッ
ファ7aに格納されたマクロブロックMBに対応した位
置を中心とした広い探索範囲に対するように、参照画像
データを読み出すようにし、これを参照画像バッファ7
bに格納させる。また、動きベクトル検出部7cでは、
参照画像バッファ7bから参照画像データを読み取っ
て、図3に示す通常の広い探索範囲α−βのように、入
力画像バッファ7aに格納されたマクロブロックMBに
対応した位置を中心とした広い探索範囲が設定される。
【0050】探索範囲を制限された狭い探索範囲α’−
β’とするモードでは、通常の広い探索範囲α−βであ
る場合に比べ、参照画像バッファ7bからの参照画像デ
ータの読出範囲が縦横夫々1/2となり、動きベクトル
検出部7cの動作時間が1/4となる。また、次のマク
ロブロックMBでの動きベクトルの探索のためにSDR
AMブロック3から参照画像データを読み出すためのS
DRAMブロック3へのアクセス量も減少し、MEブロ
ック7の消費電力を低減することができる。また、かか
るモードにあるときに広い探索範囲α−βが必要になっ
たときには、上記のように、自律的にこの広い探索範囲
α−βを戻すので、符号化された画像への影響は最小限
に押さえられる。
β’とするモードでは、通常の広い探索範囲α−βであ
る場合に比べ、参照画像バッファ7bからの参照画像デ
ータの読出範囲が縦横夫々1/2となり、動きベクトル
検出部7cの動作時間が1/4となる。また、次のマク
ロブロックMBでの動きベクトルの探索のためにSDR
AMブロック3から参照画像データを読み出すためのS
DRAMブロック3へのアクセス量も減少し、MEブロ
ック7の消費電力を低減することができる。また、かか
るモードにあるときに広い探索範囲α−βが必要になっ
たときには、上記のように、自律的にこの広い探索範囲
α−βを戻すので、符号化された画像への影響は最小限
に押さえられる。
【0051】次のピクチャの符号化時には、参照画像読
出アドレス発生部7dは、読出範囲制限信号S6が0で
なければ、読出範囲を制限して、さらに、読出位置オフ
セット信号S5が0でなければ、これに応じてこの読出
位置をオフセットしてSDRAMブロック3から参照画
像データを読み出し、また、読出範囲制限信号S6が0
であれば、通常の広い読出範囲でSDRAMブロック3
から参照画像データを読み出す。
出アドレス発生部7dは、読出範囲制限信号S6が0で
なければ、読出範囲を制限して、さらに、読出位置オフ
セット信号S5が0でなければ、これに応じてこの読出
位置をオフセットしてSDRAMブロック3から参照画
像データを読み出し、また、読出範囲制限信号S6が0
であれば、通常の広い読出範囲でSDRAMブロック3
から参照画像データを読み出す。
【0052】ここで、エンコードされる動画像のm値が
一定であるならば、次のPピクチャでの読出位置オフセ
ットは動きベクトルの平均値Vaとしてよい。このm値
が変化した場合には、m値に応じてスケーリングする。
一定であるならば、次のPピクチャでの読出位置オフセ
ットは動きベクトルの平均値Vaとしてよい。このm値
が変化した場合には、m値に応じてスケーリングする。
【0053】次に、Bピクチャにおける読出位置オフセ
ットの決定について説明する。図7はこの第1の実施形
態における動きベクトルのスケーリングの説明図であっ
て、図7(a)は表示順(入力順)でのピクチャの並び
を、図7(b)は符号化順でのピクチャの並びを夫々示
している。
ットの決定について説明する。図7はこの第1の実施形
態における動きベクトルのスケーリングの説明図であっ
て、図7(a)は表示順(入力順)でのピクチャの並び
を、図7(b)は符号化順でのピクチャの並びを夫々示
している。
【0054】図7(a)において、いま、順番に入力され
る4個のピクチャP1,P2,P3,P4に着目し、これ
らピクチャ中の特定の画像がピクチャP1,P2,P3,
P4の順に位置を変えていくものとし、これら夫々のピ
クチャにおいて、この特定の画像に含まれるマクロブロ
ックMBをピクチャP1でマクロブロックMB1とし、ピ
クチャP2でマクロブロックMB2とし、ピクチャP3で
マクロブロックMB3とし、ピクチャP4でマクロブロッ
クMB4とする。ここでは、パンが行なわれているもの
とし、このために、画像全体が同方向に同速度で移動す
る。図7では、この特定の画像のの表示位置のマクロブ
ロックMBが、ピクチャP1,P2,P3,P4の順に、左
下隅から右上隅へマクロブロックMB1,MB2,M
B3,MB4と移動していく状態を示している。これらマ
クロブロックMB1〜MB4の画像は互いに相関が非常に
高い。なお、説明の便宜上、これらマクロブロックMB
1〜MB4間の間隔を誇張して示している。
る4個のピクチャP1,P2,P3,P4に着目し、これ
らピクチャ中の特定の画像がピクチャP1,P2,P3,
P4の順に位置を変えていくものとし、これら夫々のピ
クチャにおいて、この特定の画像に含まれるマクロブロ
ックMBをピクチャP1でマクロブロックMB1とし、ピ
クチャP2でマクロブロックMB2とし、ピクチャP3で
マクロブロックMB3とし、ピクチャP4でマクロブロッ
クMB4とする。ここでは、パンが行なわれているもの
とし、このために、画像全体が同方向に同速度で移動す
る。図7では、この特定の画像のの表示位置のマクロブ
ロックMBが、ピクチャP1,P2,P3,P4の順に、左
下隅から右上隅へマクロブロックMB1,MB2,M
B3,MB4と移動していく状態を示している。これらマ
クロブロックMB1〜MB4の画像は互いに相関が非常に
高い。なお、説明の便宜上、これらマクロブロックMB
1〜MB4間の間隔を誇張して示している。
【0055】かかるピクチャP1〜P4は、ピクチャP1
がIピクチャとして、ピクチャP4がPピクチャとし
て、また、ピクチャP2,P3がBピクチャとして夫々符
号化されると、図7(b)に示すように、Iピクチャに
符号化されたピクチャP1,Pピクチャに符号化された
ピクチャP4,Bピクチャに符号化されたピクチャP2,
Bピクチャに符号化されたピクチャP3 の順に配列され
ることになる。従って、この場合のMPEG2ビットス
トリームのm値は3である。
がIピクチャとして、ピクチャP4がPピクチャとし
て、また、ピクチャP2,P3がBピクチャとして夫々符
号化されると、図7(b)に示すように、Iピクチャに
符号化されたピクチャP1,Pピクチャに符号化された
ピクチャP4,Bピクチャに符号化されたピクチャP2,
Bピクチャに符号化されたピクチャP3 の順に配列され
ることになる。従って、この場合のMPEG2ビットス
トリームのm値は3である。
【0056】このようにピクチャP1〜P4を符号化する
場合には、ピクチャP1 は、Iピクチャとして符号化さ
れるので、この符号化に動きベクトルは関係ない。
場合には、ピクチャP1 は、Iピクチャとして符号化さ
れるので、この符号化に動きベクトルは関係ない。
【0057】次に、ピクチャP4をPピクチャに符号化
する場合には、このピクチャP4のマクロブロックMB4
に対して、このマクロブロックMB4に応じた範囲のピ
クチャP1の画像データがSDRAM3から読み出され
て、参照画像データD4として、参照画像バッファ7b
に格納されている。そして、この場合、値保持部7eか
らは読出位置オフセット信号S5も読出範囲制限信号S6
も出力されていないものとすると、参照画像バッファ7
dからは、このマクロブロックMB4の位置を中心とす
る通常の広い範囲の探索範囲を含む読出範囲の参照画像
データが読み出されて動きベクトル検出部7cに供給さ
れ、この探索範囲でマクロブロックMB4に対する動き
ベクトルMVの探索が行なわれる。
する場合には、このピクチャP4のマクロブロックMB4
に対して、このマクロブロックMB4に応じた範囲のピ
クチャP1の画像データがSDRAM3から読み出され
て、参照画像データD4として、参照画像バッファ7b
に格納されている。そして、この場合、値保持部7eか
らは読出位置オフセット信号S5も読出範囲制限信号S6
も出力されていないものとすると、参照画像バッファ7
dからは、このマクロブロックMB4の位置を中心とす
る通常の広い範囲の探索範囲を含む読出範囲の参照画像
データが読み出されて動きベクトル検出部7cに供給さ
れ、この探索範囲でマクロブロックMB4に対する動き
ベクトルMVの探索が行なわれる。
【0058】ここで、動きベクトルMV1がこの探索範
囲内にあるとすると、ピクチャP1,P4は相関が非常に
高いものであるから、この場合の動きベクトルの分布密
度は、図4で示したように、MV1付近に集中すること
となる。この場合の平均値算出部7gで算出される動き
ベクトルの平均値VaはMV1に近い値であり、また、
分散値算出部7hで算出される動きベクトルの分散値は
予め設定されている閾値よりも低いものとする。
囲内にあるとすると、ピクチャP1,P4は相関が非常に
高いものであるから、この場合の動きベクトルの分布密
度は、図4で示したように、MV1付近に集中すること
となる。この場合の平均値算出部7gで算出される動き
ベクトルの平均値VaはMV1に近い値であり、また、
分散値算出部7hで算出される動きベクトルの分散値は
予め設定されている閾値よりも低いものとする。
【0059】次のBピクチャに符号化するピクチャP2
のマクロブロックMB2を符号化する場合には、入力が
先行したピクチャP1の画像データを参照画像データと
する動きベクトルMV2(これを前方向動きベクトルと
いう)の探索(前方向動きベクトル探索)と、入力順序
が後のピクチャP4の画像データを参照画像データとす
る動きベクトルMV3の探索(後方向動きベクトル探
索)とが行なわれる。
のマクロブロックMB2を符号化する場合には、入力が
先行したピクチャP1の画像データを参照画像データと
する動きベクトルMV2(これを前方向動きベクトルと
いう)の探索(前方向動きベクトル探索)と、入力順序
が後のピクチャP4の画像データを参照画像データとす
る動きベクトルMV3の探索(後方向動きベクトル探
索)とが行なわれる。
【0060】まず、前方向動きベクトルMV2の探索で
は、探索範囲のオフセット値NOF(図5)やSDRAM
3からの参照画像データの読出位置オフセット値は、先
に求めたピクチャP4の動きベクトルMV1の平均値Va
の1/3の大きさでこの動きベクトルMV1と同方向に設
定される。
は、探索範囲のオフセット値NOF(図5)やSDRAM
3からの参照画像データの読出位置オフセット値は、先
に求めたピクチャP4の動きベクトルMV1の平均値Va
の1/3の大きさでこの動きベクトルMV1と同方向に設
定される。
【0061】次に、後方向動きベクトルMV3の探索が
行なわれるのであるが、この場合には探索範囲のオフセ
ット値NOF(図5)やSDRAM3からの参照画像デー
タの読出位置オフセット値は、先に求めたピクチャP4
の動きベクトルMV1の平均値Vaの2/3の大きさでこ
の動きベクトルMV1 と逆方向に設定される。
行なわれるのであるが、この場合には探索範囲のオフセ
ット値NOF(図5)やSDRAM3からの参照画像デー
タの読出位置オフセット値は、先に求めたピクチャP4
の動きベクトルMV1の平均値Vaの2/3の大きさでこ
の動きベクトルMV1 と逆方向に設定される。
【0062】さらに、次のピクチャP3でのマクロブロ
ックMB3を符号化するときには、ピクチャP2の場合と
同様にして、ピクチャP1の画像データを参照画像デー
タとする前方向動きベクトルMV4の探索を行なう前方
向動きベクトル探索と、ピクチャP4 の画像データを参
照画像データとする後方向動きベクトルMV5の探索を
行なう後方向動きベクトル探索とが行なわれる。
ックMB3を符号化するときには、ピクチャP2の場合と
同様にして、ピクチャP1の画像データを参照画像デー
タとする前方向動きベクトルMV4の探索を行なう前方
向動きベクトル探索と、ピクチャP4 の画像データを参
照画像データとする後方向動きベクトルMV5の探索を
行なう後方向動きベクトル探索とが行なわれる。
【0063】この場合には、前方向動きベクトルMV4
の探索では、探索範囲のオフセット値NOF(図5)やS
DRAM3からの参照画像データの読出位置オフセット
値は、先に求めたピクチャP4 の動きベクトルMV1の
平均値Vaの2/3の大きさでこの動きベクトルと同方
向に設定される。
の探索では、探索範囲のオフセット値NOF(図5)やS
DRAM3からの参照画像データの読出位置オフセット
値は、先に求めたピクチャP4 の動きベクトルMV1の
平均値Vaの2/3の大きさでこの動きベクトルと同方
向に設定される。
【0064】また、同様にして、後方向動きベクトルM
V5の探索が行なわれるのであるが、この場合には、探
索範囲のオフセット値NOF(図5)やSDRAM3から
の参照画像データの読出位置オフセット値は、先に求め
たピクチャP4の動きベクトルMV1の平均値Vaの1/
3の大きさでこの動きベクトルVaと逆方向に設定され
る。
V5の探索が行なわれるのであるが、この場合には、探
索範囲のオフセット値NOF(図5)やSDRAM3から
の参照画像データの読出位置オフセット値は、先に求め
たピクチャP4の動きベクトルMV1の平均値Vaの1/
3の大きさでこの動きベクトルVaと逆方向に設定され
る。
【0065】MPEG2ビットストリームのm値が3の
場合、ピクチャP4の次に続くピクチャP5,P6(図7
に図示せず)を飛び越えて、ピクチャP7(図7に図示
せず)を、ピクチャP4の画像データを参照画像データ
として、Pピクチャに符号化する。この場合にも、値保
持部7eにピクチャP4の動きベクトルMV1の平均値V
aが保持され、また、ピクチャP4で算出された動きベ
クトルMV1の分散値は閾値よりも低いので、値保持部
7eから、これら平均値Vaと分散値に応じて、読出位
置オフセット信号S5と読出範囲制限信号S6が出力さ
れ、動きベクトル検出部7eに制限された狭い探索範囲
が設定され、この場合の探索範囲のオフセット値N
OF(図5)やSDRAM3からの参照画像データの読出
位置オフセット値は、先に求めたピクチャP4の動きベ
クトルMV1の平均値Vaと同じ大きさで、この動きベ
クトルMV1と同方向に設定される。ここでMPEG2
ビットストリームのm値が3以外に変化した場合、この
場合の探索範囲のオフセット値NOF(図5)やSDRA
M3からの参照画像データの読出位置オフセット値は、
ピクチャP4の動きベクトルMV1の平均値Va×m値/
3の大きさで、この動きベクトルMV1と同方向に設定
される。
場合、ピクチャP4の次に続くピクチャP5,P6(図7
に図示せず)を飛び越えて、ピクチャP7(図7に図示
せず)を、ピクチャP4の画像データを参照画像データ
として、Pピクチャに符号化する。この場合にも、値保
持部7eにピクチャP4の動きベクトルMV1の平均値V
aが保持され、また、ピクチャP4で算出された動きベ
クトルMV1の分散値は閾値よりも低いので、値保持部
7eから、これら平均値Vaと分散値に応じて、読出位
置オフセット信号S5と読出範囲制限信号S6が出力さ
れ、動きベクトル検出部7eに制限された狭い探索範囲
が設定され、この場合の探索範囲のオフセット値N
OF(図5)やSDRAM3からの参照画像データの読出
位置オフセット値は、先に求めたピクチャP4の動きベ
クトルMV1の平均値Vaと同じ大きさで、この動きベ
クトルMV1と同方向に設定される。ここでMPEG2
ビットストリームのm値が3以外に変化した場合、この
場合の探索範囲のオフセット値NOF(図5)やSDRA
M3からの参照画像データの読出位置オフセット値は、
ピクチャP4の動きベクトルMV1の平均値Va×m値/
3の大きさで、この動きベクトルMV1と同方向に設定
される。
【0066】かかるピクチャP7の符号化で動きベクト
ルMVの平均値Vaが新たに変化すると、値保持部7e
では、この新たな平均値Vaに更新され、次のPピクチ
ャの符号化で更新されるまでこの平均値Vaが保持され
る。
ルMVの平均値Vaが新たに変化すると、値保持部7e
では、この新たな平均値Vaに更新され、次のPピクチ
ャの符号化で更新されるまでこの平均値Vaが保持され
る。
【0067】以上の動きベクトルMVの探索において、
分散値算出部7hで算出された分散値が閾値よりも高い
ときには、値保持部7eからは読出位置オフセット信号
S5と読出範囲制限信号S6が出力されず(この場合で
も、値保持部7eでは、平均値Vaがそのまま保持され
ている)、従って、SDRAM3からの画像の読出範囲
も広げられて、動きベクトル検出部7cには、通常の広
い探索範囲が設定される。
分散値算出部7hで算出された分散値が閾値よりも高い
ときには、値保持部7eからは読出位置オフセット信号
S5と読出範囲制限信号S6が出力されず(この場合で
も、値保持部7eでは、平均値Vaがそのまま保持され
ている)、従って、SDRAM3からの画像の読出範囲
も広げられて、動きベクトル検出部7cには、通常の広
い探索範囲が設定される。
【0068】なお、以上の説明はMPEG2ビットスト
リームのm値が3の場合であるが、このm値が2の場合
(2ピクチャ毎に1つの参照画像(IまたはPピクチャ)
となる)でも、Bピクチャに符号化されるピクチャの前
方向動きベクトル探索でのSDRAM3の参照画像デー
タ読出位置オフセット値NOFは、先行して入力されたP
ピクチャの動きベクトルMVの平均値Vaの1/2の大
きさでこの動きベクトルMVと同方向に設定され、後方
向動きベクトル探索でのSDRAM3の参照画像データ
の読出位置オフセット値NOFは、Pピクチャの動きベク
トルMVの平均値Vaの1/2 の大きさでこの動きベク
トルMVと逆方向に設定される。これ以外については、
上記と同様である。
リームのm値が3の場合であるが、このm値が2の場合
(2ピクチャ毎に1つの参照画像(IまたはPピクチャ)
となる)でも、Bピクチャに符号化されるピクチャの前
方向動きベクトル探索でのSDRAM3の参照画像デー
タ読出位置オフセット値NOFは、先行して入力されたP
ピクチャの動きベクトルMVの平均値Vaの1/2の大
きさでこの動きベクトルMVと同方向に設定され、後方
向動きベクトル探索でのSDRAM3の参照画像データ
の読出位置オフセット値NOFは、Pピクチャの動きベク
トルMVの平均値Vaの1/2 の大きさでこの動きベク
トルMVと逆方向に設定される。これ以外については、
上記と同様である。
【0069】次に、CPU IFブロック8からの外部
設定有効モード信号S3の値が1である場合の動作につ
いて説明する。
設定有効モード信号S3の値が1である場合の動作につ
いて説明する。
【0070】図1において、CPUブロック4は、CP
U IFブロック8から、マクロブロックMB毎に、動
きベクトルMVの検出結果とイントラMB判定信号S4
の値とを受け取り、ユーザ定義のアルゴリズムを用い
て、SDRAM3の参照画像データ読出位置オフセット
値とベクトル探索範囲制限信号S1の値とを算出する
(ここでは、例えば、上記の平均値Vaの代わりに最頻
値を、分散値の代わりに絶対値差分和を夫々用いるアル
ゴリズムが考えられる)。
U IFブロック8から、マクロブロックMB毎に、動
きベクトルMVの検出結果とイントラMB判定信号S4
の値とを受け取り、ユーザ定義のアルゴリズムを用い
て、SDRAM3の参照画像データ読出位置オフセット
値とベクトル探索範囲制限信号S1の値とを算出する
(ここでは、例えば、上記の平均値Vaの代わりに最頻
値を、分散値の代わりに絶対値差分和を夫々用いるアル
ゴリズムが考えられる)。
【0071】そして、外部設定有効モード信号S3の値
を1とし、オフセット値設定信号S2の値を上記の算出
した参照画像データ読出位置オフセットとし、ベクトル
探索範囲制限信号S1の値を、ベクトル探索範囲制限を
行なう場合には、1として、夫々CPU IFブロック
8に設定する。
を1とし、オフセット値設定信号S2の値を上記の算出
した参照画像データ読出位置オフセットとし、ベクトル
探索範囲制限信号S1の値を、ベクトル探索範囲制限を
行なう場合には、1として、夫々CPU IFブロック
8に設定する。
【0072】図2において、値保持部7eでは、読出範
囲制限信号S6の値をCPU IFブロック8からのベク
トル探索範囲制限信号S1の値に、読出位置オフセット
信号S5の値をオフセット値設定信号S2の値に夫々設定
して出力する。このように、参照画像データ読出位置オ
フセット値とベクトル探索範囲制限信号S1の値とをC
PUブロック4から設定することができるようにするこ
とにより、外部で検出されたパンの情報などをMPEG
2符号化装置2で利用することができる。
囲制限信号S6の値をCPU IFブロック8からのベク
トル探索範囲制限信号S1の値に、読出位置オフセット
信号S5の値をオフセット値設定信号S2の値に夫々設定
して出力する。このように、参照画像データ読出位置オ
フセット値とベクトル探索範囲制限信号S1の値とをC
PUブロック4から設定することができるようにするこ
とにより、外部で検出されたパンの情報などをMPEG
2符号化装置2で利用することができる。
【0073】なお、この第1の実施形態では、上記のよ
うに、平均値と分散値を用いたが、これは、ほかの計算
法、例えば、平均値の代わりに最頻値を、分散値の代わ
りに絶対値差分和を夫々用いるようにしてもよい。
うに、平均値と分散値を用いたが、これは、ほかの計算
法、例えば、平均値の代わりに最頻値を、分散値の代わ
りに絶対値差分和を夫々用いるようにしてもよい。
【0074】また、この第1の実施形態では、参照画像
データ読出位置オフセットと探索範囲との制限をPピク
チャが符号化されたときに更新するようにしたが、各ピ
クチャ毎に参照画像データ読出位置オフセットや探索範
囲の制限を計算して更新するようにすることも可能であ
る。また、ピクチャ単位ではなく、過去の決められた個
数のマクロブロックMBでの動きベクトルMVの平均値
や分散値の情報をもとにして、マクロブロックMB毎や
複数のマクロブロックMB毎に参照画像データ読出位置
オフセットと探索範囲の制限を更新していくようにする
ことも可能である。
データ読出位置オフセットと探索範囲との制限をPピク
チャが符号化されたときに更新するようにしたが、各ピ
クチャ毎に参照画像データ読出位置オフセットや探索範
囲の制限を計算して更新するようにすることも可能であ
る。また、ピクチャ単位ではなく、過去の決められた個
数のマクロブロックMBでの動きベクトルMVの平均値
や分散値の情報をもとにして、マクロブロックMB毎や
複数のマクロブロックMB毎に参照画像データ読出位置
オフセットと探索範囲の制限を更新していくようにする
ことも可能である。
【0075】さらに、この第1の実施形態では、探索範
囲として広いモードと制限された狭いモードとの2種類
としたが、探索範囲を大きさが異なる3以上のモードを
選択制御するようにすることもできる。
囲として広いモードと制限された狭いモードとの2種類
としたが、探索範囲を大きさが異なる3以上のモードを
選択制御するようにすることもできる。
【0076】図8は本発明によるディジタル画像符号化
装置に用いる動きベクトル検出装置の第2の実施形態を
示すブロック図であって、7iは探索ポイントカウン
タ、7jは探索範囲判定結果保持部であり、図2に対応
する部分には同一符号をつけて重複する説明を省略す
る。この実施形態も、図1におけるME部7として用い
ることができる。
装置に用いる動きベクトル検出装置の第2の実施形態を
示すブロック図であって、7iは探索ポイントカウン
タ、7jは探索範囲判定結果保持部であり、図2に対応
する部分には同一符号をつけて重複する説明を省略す
る。この実施形態も、図1におけるME部7として用い
ることができる。
【0077】同図において、MEブロック7は、全探索
モードと狭探索モードの2つのモードを有しており、狭
探索モードは5つの探索ポイント(探索範囲)がある。
モードと狭探索モードの2つのモードを有しており、狭
探索モードは5つの探索ポイント(探索範囲)がある。
【0078】図9はこのMEブロック7の探索範囲を示
すものであって、同図(a)はPピクチャ符号化時の探
索範囲を、同図(b)はBピクチャ符号化時の探索範囲
を夫々示している。
すものであって、同図(a)はPピクチャ符号化時の探
索範囲を、同図(b)はBピクチャ符号化時の探索範囲
を夫々示している。
【0079】図9(a)において、Pピクチャ符号化時の
全探索モードでの探索範囲は、(イ)として示すよう
に、水平−56〜+56画素,垂直−20〜+20画素
(マクロブロックMBに対応する位置での16×16画
素の領域も含めて水平128画素×垂直56画素の大き
さ)の非常に広い探索範囲SP1であり、同じく狭探索
モード時での探索範囲は、(ロ)として示すように、水
平−24〜+24画素,垂直−6〜+6画素(マクロブ
ロックMBに対応する位置での16×16画素の領域も
含めて水平64画素×垂直28画素)の探索ポイントが
(1,1)の狭い探索範囲SP21である。この狭探索モ
ードでは、この探索範囲SP21の他に、(ハ)として示す
ように、広い探索範囲SP1に対し、左半部の中央部の
探索ポイントを(0,1)とする探索範囲SP22と、中央
部の上半部の探索ポイントを(1,0)する狭い探索範囲
SP23と、右半部の中央部の探索ポイントを(2,1)と
する狭い探索範囲SP24と、中央部の下半部の探索ポイ
ントを(1,2)とする狭い探索範囲SP25との4個もあ
り、これら5個の探索範囲SP21〜SP25は水平,垂直
で同じ画素数の範囲である。
全探索モードでの探索範囲は、(イ)として示すよう
に、水平−56〜+56画素,垂直−20〜+20画素
(マクロブロックMBに対応する位置での16×16画
素の領域も含めて水平128画素×垂直56画素の大き
さ)の非常に広い探索範囲SP1であり、同じく狭探索
モード時での探索範囲は、(ロ)として示すように、水
平−24〜+24画素,垂直−6〜+6画素(マクロブ
ロックMBに対応する位置での16×16画素の領域も
含めて水平64画素×垂直28画素)の探索ポイントが
(1,1)の狭い探索範囲SP21である。この狭探索モ
ードでは、この探索範囲SP21の他に、(ハ)として示す
ように、広い探索範囲SP1に対し、左半部の中央部の
探索ポイントを(0,1)とする探索範囲SP22と、中央
部の上半部の探索ポイントを(1,0)する狭い探索範囲
SP23と、右半部の中央部の探索ポイントを(2,1)と
する狭い探索範囲SP24と、中央部の下半部の探索ポイ
ントを(1,2)とする狭い探索範囲SP25との4個もあ
り、これら5個の探索範囲SP21〜SP25は水平,垂直
で同じ画素数の範囲である。
【0080】図9(b)において、Bピクチャ符号化時の
全探索モードでの探索範囲は、(イ)として示すよう
に、水平−29〜+29画素,垂直−20〜+20画素
(マクロブロックMBに対応する位置での16×16画
素の領域も含めて水平64画素×垂直56画素)の広い
探索範囲SB1であり、狭探索モード時の探索範囲は水
平−8〜+8画素,垂直−6〜+6画素(マクロブロッ
クMBに対応する位置での16×16画素の領域も含め
て水平32画素×垂直28画素)の非常に狭い探索範囲
である。この狭探索モードでの探索範囲は、全探索モー
ドでの探索範囲SB1に対する位置関係及び探索ポイン
トがPピクチャ符号化時の狭探索モード時と同様であっ
て、(ロ),(ハ) として示すように、5個の探索範囲SB
21,SB22,SB23,SB24,SB25がある。
全探索モードでの探索範囲は、(イ)として示すよう
に、水平−29〜+29画素,垂直−20〜+20画素
(マクロブロックMBに対応する位置での16×16画
素の領域も含めて水平64画素×垂直56画素)の広い
探索範囲SB1であり、狭探索モード時の探索範囲は水
平−8〜+8画素,垂直−6〜+6画素(マクロブロッ
クMBに対応する位置での16×16画素の領域も含め
て水平32画素×垂直28画素)の非常に狭い探索範囲
である。この狭探索モードでの探索範囲は、全探索モー
ドでの探索範囲SB1に対する位置関係及び探索ポイン
トがPピクチャ符号化時の狭探索モード時と同様であっ
て、(ロ),(ハ) として示すように、5個の探索範囲SB
21,SB22,SB23,SB24,SB25がある。
【0081】まず、図8において、MEブロック7が全
探索モードで動作している場合について説明する。
探索モードで動作している場合について説明する。
【0082】探索ポイントカウンタ7i内には、狭探索
モードの各探索ポイントに夫々1つずつカウンタが設け
られており、各探索ポイントに入る動きベクトルの発生
数を夫々のカウンタでカウントしておき、各探索ポイン
トの計数結果S9をピクチャ単位でCPU IFブロック
8を通してCPUブロック4にレポートする。
モードの各探索ポイントに夫々1つずつカウンタが設け
られており、各探索ポイントに入る動きベクトルの発生
数を夫々のカウンタでカウントしておき、各探索ポイン
トの計数結果S9をピクチャ単位でCPU IFブロック
8を通してCPUブロック4にレポートする。
【0083】MPEG2方式では、ピクチャとしてフィ
ールドピクチャとフレームピクチャの2種類があるが、
フレームピクチャの場合には、フレーム動きベクトルと
フィールド動きベクトルの2種類の動きベクトルがあ
る。このため、動きベクトル検出部7cでフィールド動
きベクトルが検出された場合、探索ポイントカウンタ7
iはこれをフレーム動きベクトルに変換してカウントす
る。
ールドピクチャとフレームピクチャの2種類があるが、
フレームピクチャの場合には、フレーム動きベクトルと
フィールド動きベクトルの2種類の動きベクトルがあ
る。このため、動きベクトル検出部7cでフィールド動
きベクトルが検出された場合、探索ポイントカウンタ7
iはこれをフレーム動きベクトルに変換してカウントす
る。
【0084】また、Bピクチャの場合、前方向動きベク
トルと後方向動きベクトルとがあるが、後方向動きベク
トルは探索範囲の中心に関して対称となる位置の探索ポ
イントに入るものとして加算される。例えば、探索ポイ
ント(0,1)に後方向動きベクトルが検出されると、
探索範囲の中心に関してこの探索ポイント(0,1)と
は対称な位置の探索ポイント(2,1)のカウンタに加
算する。
トルと後方向動きベクトルとがあるが、後方向動きベク
トルは探索範囲の中心に関して対称となる位置の探索ポ
イントに入るものとして加算される。例えば、探索ポイ
ント(0,1)に後方向動きベクトルが検出されると、
探索範囲の中心に関してこの探索ポイント(0,1)と
は対称な位置の探索ポイント(2,1)のカウンタに加
算する。
【0085】さらに、探索ポイントが重なっている領域
で動きベクトルが検出された場合には、その動きベクト
ルが属する全ての探索ポイントのカウンタで重複してカ
ウントする。
で動きベクトルが検出された場合には、その動きベクト
ルが属する全ての探索ポイントのカウンタで重複してカ
ウントする。
【0086】次に、CPUブロック4における探索モー
ドの判定処理について説明する。
ドの判定処理について説明する。
【0087】斜め方向の動きベクトル発生頻度が高い場
合(どの探索ポイントにも属さない動きベクトルが多
い)には、次のピクチャを全探索モードのピクチャとす
る。いずれかの探索ポイントで動きベクトル発生頻度が
事前に設定されたた閾値以上であれば、次のピクチャを
狭探索モードとしてもよいが、むやみに狭探索モードへ
遷移することを防ぐために、過去の連続する数個のピク
チャでの判定結果を保存しておき、該当する狭探索ポイ
ントが判定された割合が一定以上であれば、狭探索モー
ドへ遷移する。このとき、複数の探索ポイントで同一の
発生頻度であれば、探索ポイント(1,1)が最も優先
度が高く、以下(0,1)、(2,1)、(1,0)、
(1,2)の順で優先度が低くなる。
合(どの探索ポイントにも属さない動きベクトルが多
い)には、次のピクチャを全探索モードのピクチャとす
る。いずれかの探索ポイントで動きベクトル発生頻度が
事前に設定されたた閾値以上であれば、次のピクチャを
狭探索モードとしてもよいが、むやみに狭探索モードへ
遷移することを防ぐために、過去の連続する数個のピク
チャでの判定結果を保存しておき、該当する狭探索ポイ
ントが判定された割合が一定以上であれば、狭探索モー
ドへ遷移する。このとき、複数の探索ポイントで同一の
発生頻度であれば、探索ポイント(1,1)が最も優先
度が高く、以下(0,1)、(2,1)、(1,0)、
(1,2)の順で優先度が低くなる。
【0088】以上の判定によって狭探索モードへの遷移
が決定すると、次のピクチャでは、狭探索モードとし、
探索ポイントは最も動きベクトル発生頻度の高かった探
索ポイントとする。この結果は、CPU IFブロック
8を通し、探索範囲選択信号S8としてMEブロック7
の判定結果保持部7jに供給される。判定結果保持部7
jは、この探索範囲選択信号S8を適切なタイミングで
保持し、探索範囲信号S7として参照バッファ7b,動
きベクトル検出部7c及び参照画像読出アドレス発生部
7dに供給する。次のピクチャでは、参照画像読出アド
レス発生部7dは、探索範囲信号S7 で指定された探索
ポイントを読み出し、動きベクトル検出部7cは探索範
囲信号S7で指定された探索ポイントのみを探索する。
が決定すると、次のピクチャでは、狭探索モードとし、
探索ポイントは最も動きベクトル発生頻度の高かった探
索ポイントとする。この結果は、CPU IFブロック
8を通し、探索範囲選択信号S8としてMEブロック7
の判定結果保持部7jに供給される。判定結果保持部7
jは、この探索範囲選択信号S8を適切なタイミングで
保持し、探索範囲信号S7として参照バッファ7b,動
きベクトル検出部7c及び参照画像読出アドレス発生部
7dに供給する。次のピクチャでは、参照画像読出アド
レス発生部7dは、探索範囲信号S7 で指定された探索
ポイントを読み出し、動きベクトル検出部7cは探索範
囲信号S7で指定された探索ポイントのみを探索する。
【0089】MEブロック7が狭探索モードで動作して
いるときに、図2に示したME7と同様、シーンの切り
替えなどで入力画像と参照画像との相関が低くなった
り、パンの方向が変化したりして、動きベクトルMVの
集中する場所が探索範囲からはずれてしまう場合、全探
索モードへの復帰が必要である。ここで、1ピクチャ中
の同じ水平方向の配列での左端のマクロブロックMBか
ら右端のマクロブロックMBまでのマクロブロックMB
の列をマクロブロックMBラインというとすると、全探
索モードへの復帰を判定するために、予めいくつかのマ
クロブロックMBラインでは、全探索モードで動きベク
トルを検出することにしておき(以下、かかるマクロブ
ロックMBラインを全探索マクロブロックMBラインと
いう)、狭探索モードの各探索ポイント内の動きベクト
ル発生数をカウントする。CPUブロック4は全探索マ
クロブロックMBラインであることを判断し、狭探索モ
ードが判定されていても、そのマクロブロックMBライ
ンでは、判定結果保持部7jに対して全探索モードを指
定する。これにより、このマクロブロックMBラインで
は、MEブロック7が全探索モードで動作する。
いるときに、図2に示したME7と同様、シーンの切り
替えなどで入力画像と参照画像との相関が低くなった
り、パンの方向が変化したりして、動きベクトルMVの
集中する場所が探索範囲からはずれてしまう場合、全探
索モードへの復帰が必要である。ここで、1ピクチャ中
の同じ水平方向の配列での左端のマクロブロックMBか
ら右端のマクロブロックMBまでのマクロブロックMB
の列をマクロブロックMBラインというとすると、全探
索モードへの復帰を判定するために、予めいくつかのマ
クロブロックMBラインでは、全探索モードで動きベク
トルを検出することにしておき(以下、かかるマクロブ
ロックMBラインを全探索マクロブロックMBラインと
いう)、狭探索モードの各探索ポイント内の動きベクト
ル発生数をカウントする。CPUブロック4は全探索マ
クロブロックMBラインであることを判断し、狭探索モ
ードが判定されていても、そのマクロブロックMBライ
ンでは、判定結果保持部7jに対して全探索モードを指
定する。これにより、このマクロブロックMBラインで
は、MEブロック7が全探索モードで動作する。
【0090】探索ポイントカウンタ7iは、全探索マク
ロブロックMBラインで、各探索ポイントに入る動きベ
クトルの発生数をマクロブロックMBライン単位でカウ
ントし、その結果を探索ポイント計数結果S9としてC
PUプロック4にレポートする。CPUブロック4は、
探索ポイント計数結果S9を受け取り、現ピクチャで指
定された探索ポイントでの動きベクトル発生数が閾値以
上であれば、引き続き狭探索モードで同じ探索ポイント
での動きベクトル探索を指定する。それ以外であれば、
現ピクチャ内の次のマクロブロックMBラインからは、
全探索モードで動きベクトルの探索を指定する。ピクチ
ャ内での狭探索モードでの探索ポイントの変更や全探索
モードから狭探索モードへの変更は、画質に与える影響
が大きいので、行なわない。
ロブロックMBラインで、各探索ポイントに入る動きベ
クトルの発生数をマクロブロックMBライン単位でカウ
ントし、その結果を探索ポイント計数結果S9としてC
PUプロック4にレポートする。CPUブロック4は、
探索ポイント計数結果S9を受け取り、現ピクチャで指
定された探索ポイントでの動きベクトル発生数が閾値以
上であれば、引き続き狭探索モードで同じ探索ポイント
での動きベクトル探索を指定する。それ以外であれば、
現ピクチャ内の次のマクロブロックMBラインからは、
全探索モードで動きベクトルの探索を指定する。ピクチ
ャ内での狭探索モードでの探索ポイントの変更や全探索
モードから狭探索モードへの変更は、画質に与える影響
が大きいので、行なわない。
【0091】また、CPUブロック4は、JUDGEブ
ロック10(図2)からのイントラ/ノンイントラMB
の判定結果を受け取っており、全探索マクロブロックM
Bライン以外であっても、マクロブロックMBライン単
位でイントラMBの割合が多くなった場合、次のマクロ
ブロックMBラインから全探索モードへ復帰させる。
ロック10(図2)からのイントラ/ノンイントラMB
の判定結果を受け取っており、全探索マクロブロックM
Bライン以外であっても、マクロブロックMBライン単
位でイントラMBの割合が多くなった場合、次のマクロ
ブロックMBラインから全探索モードへ復帰させる。
【0092】なお、この実施形態では、狭探索モードで
の探索ポイント(狭探索ポイント:狭い探索範囲)を5
個としたが、探索ポイントの個数は、これに限らず、5
個よりも多くてもよいし、少なくてもよい。
の探索ポイント(狭探索ポイント:狭い探索範囲)を5
個としたが、探索ポイントの個数は、これに限らず、5
個よりも多くてもよいし、少なくてもよい。
【0093】また、この実施形態では、狭探索ポイント
を互いに一部が重なるように設定したが、広い探索範囲
を複数の領域に区切り、区切られた夫々の領域を狭探索
ポイントとしてもよい。
を互いに一部が重なるように設定したが、広い探索範囲
を複数の領域に区切り、区切られた夫々の領域を狭探索
ポイントとしてもよい。
【0094】さらに、この実施形態では、1回の探索で
使用できる狭探索ポイントは1つであったが、複数の狭
探索ポイントで探索するようにしてもよい。
使用できる狭探索ポイントは1つであったが、複数の狭
探索ポイントで探索するようにしてもよい。
【0095】さらにまた、この実施形態では、各探索ポ
イントに入る動きベクトルの発生数をカウントしてお
き、そのカウント値が高い狭探索ポイントを選択するも
のであったが、カウント値が低い狭探索ポイントでの動
きベクトルの探索を行なわないというアルゴリズムも考
えられる。
イントに入る動きベクトルの発生数をカウントしてお
き、そのカウント値が高い狭探索ポイントを選択するも
のであったが、カウント値が低い狭探索ポイントでの動
きベクトルの探索を行なわないというアルゴリズムも考
えられる。
【0096】上記の例をいくつか組み合わせて、例え
ば、全探索モードの探索範囲を4×4=16個の領域に
分割し、夫々を狭探索ポイントとする。各狭探索ポイン
トでの動きベクトルの発生数をカウントしておき、動き
ベクトルの95%以上が含まれるように狭探索ポイント
を複数個選び、それを次からの動き推定に用いるといっ
た実施形態も考えられる。
ば、全探索モードの探索範囲を4×4=16個の領域に
分割し、夫々を狭探索ポイントとする。各狭探索ポイン
トでの動きベクトルの発生数をカウントしておき、動き
ベクトルの95%以上が含まれるように狭探索ポイント
を複数個選び、それを次からの動き推定に用いるといっ
た実施形態も考えられる。
【0097】図10は本発明によるディジタル画像符号
化装置の携帯型ビデオカメラへの一応用例を示すブロッ
ク図である。18はMPEG2エンコーダ(本発明によ
るディジタル画像符号化装置)、19は撮像部、20は
手ぶれ補正部、21はパン検出センサ、22はCPUブ
ロック、23aは磁気テープによる記録部、23bは固
定ディスク装置による記録部、24はCPUバスであ
る。
化装置の携帯型ビデオカメラへの一応用例を示すブロッ
ク図である。18はMPEG2エンコーダ(本発明によ
るディジタル画像符号化装置)、19は撮像部、20は
手ぶれ補正部、21はパン検出センサ、22はCPUブ
ロック、23aは磁気テープによる記録部、23bは固
定ディスク装置による記録部、24はCPUバスであ
る。
【0098】同図において、携帯型の電気機器では、機
器の電力供給を電池に頼るため、低消費電力化による電
池寿命の増加が必要である。また、携帯型のビデオカメ
ラでは、従来の携帯型ビデオカメラで多く採用されてい
るように、パン検出センサ803を用いて画像のパンを
検出し、この検出結果に応じて画像の手ぶれを補正する
ようにしている。
器の電力供給を電池に頼るため、低消費電力化による電
池寿命の増加が必要である。また、携帯型のビデオカメ
ラでは、従来の携帯型ビデオカメラで多く採用されてい
るように、パン検出センサ803を用いて画像のパンを
検出し、この検出結果に応じて画像の手ぶれを補正する
ようにしている。
【0099】パン検出センサ21は、撮像部19の出力
画像信号からパンの情報を検出し、手ぶれ補正ブロック
20とCPUブロック22とに供給する。なお、パン検
出センサ21としては、ジャイロや加速度センサなどを
内蔵し、これらによってパン情報を検出するようにして
もよい。手ぶれ補正ブロック20は、このパン情報をも
とに画像信号の手ぶれによる影響を補正し、手ぶれが補
正された画像信号はMPEG2エンコーダ18に供給さ
れる。MPEG2エンコーダ18で符号化された画像情
報は、記録部23aもしくは23bに記録される。
画像信号からパンの情報を検出し、手ぶれ補正ブロック
20とCPUブロック22とに供給する。なお、パン検
出センサ21としては、ジャイロや加速度センサなどを
内蔵し、これらによってパン情報を検出するようにして
もよい。手ぶれ補正ブロック20は、このパン情報をも
とに画像信号の手ぶれによる影響を補正し、手ぶれが補
正された画像信号はMPEG2エンコーダ18に供給さ
れる。MPEG2エンコーダ18で符号化された画像情
報は、記録部23aもしくは23bに記録される。
【0100】なお、このMPEG2エンコーダ18は、
図1におけるMPEG2符号化装置2とSDRAMブロ
ック3とからなるものである。
図1におけるMPEG2符号化装置2とSDRAMブロ
ック3とからなるものである。
【0101】一方、パン検出センサ21からのパン情報
はCPUブロック22で解析されて、MPEG2エンコ
ーダ18におけるMEブロック7(図1)での適切な探
索範囲のオフセット値が計算され、その計算値がCPU
バス24を介してMPEG2エンコーダ18に供給され
る。これにより、MPEG2エンコーダ18では、パン
に対応した適切な動きベクトルを検出することができ
る。
はCPUブロック22で解析されて、MPEG2エンコ
ーダ18におけるMEブロック7(図1)での適切な探
索範囲のオフセット値が計算され、その計算値がCPU
バス24を介してMPEG2エンコーダ18に供給され
る。これにより、MPEG2エンコーダ18では、パン
に対応した適切な動きベクトルを検出することができ
る。
【0102】また、CPUブロック22は、MPEG2
エンコーダ18からのデータをCPUバス24を介して
取り込んで計算し、この計算結果に応じてMPEG2エ
ンコーダ18での動きベクトルの探索範囲の制限を指定
する。これにより、システム全体の低消費電力化が図れ
る。さらに、電池の残り容量不足などの理由によって緊
急に消費電力を押さえたいときには、CPUブロック2
2が探索範囲を制限したままにすることにより、さらな
る低消費電力化が図れる。
エンコーダ18からのデータをCPUバス24を介して
取り込んで計算し、この計算結果に応じてMPEG2エ
ンコーダ18での動きベクトルの探索範囲の制限を指定
する。これにより、システム全体の低消費電力化が図れ
る。さらに、電池の残り容量不足などの理由によって緊
急に消費電力を押さえたいときには、CPUブロック2
2が探索範囲を制限したままにすることにより、さらな
る低消費電力化が図れる。
【0103】図11は本発明によるディジタル画像符号
化装置の遠隔操作自動カメラへの一応用例を示すブロッ
ク図であって、25は運台、26はカメラ、27,28
は伝送部、29は制御部、30は伝送線であり、図10
に対応する部分には同一符号をつけて重複する説明を省
略する。
化装置の遠隔操作自動カメラへの一応用例を示すブロッ
ク図であって、25は運台、26はカメラ、27,28
は伝送部、29は制御部、30は伝送線であり、図10
に対応する部分には同一符号をつけて重複する説明を省
略する。
【0104】同図において、カメラ26の遠隔操作を行
なう場合、このカメラ26で撮影して得られる映像信号
を制御部29に供給しなければならない。しかし、伝送
路30の帯域が狭いなどの理由により、カメラ26から
出力される画像データPDをそのままでは伝送しきれな
い場合がある。この応用例では、カメラ26の出力画像
データPDを、一旦、MPEG2エンコーダ18に供給
することにより、符号化してその情報量を圧縮し、しか
る後、伝送部27で伝送路30での伝送に適した信号形
態に変換して伝送路30を伝送し、伝送部28でもとの
信号形態に変換して制御部29に供給され、復号されて
映像が再生されるものである。このようにして、MPE
G2エンコーダ18は、画像データPDをこれより狭い
帯域の伝送路30で伝送するのに有効である。
なう場合、このカメラ26で撮影して得られる映像信号
を制御部29に供給しなければならない。しかし、伝送
路30の帯域が狭いなどの理由により、カメラ26から
出力される画像データPDをそのままでは伝送しきれな
い場合がある。この応用例では、カメラ26の出力画像
データPDを、一旦、MPEG2エンコーダ18に供給
することにより、符号化してその情報量を圧縮し、しか
る後、伝送部27で伝送路30での伝送に適した信号形
態に変換して伝送路30を伝送し、伝送部28でもとの
信号形態に変換して制御部29に供給され、復号されて
映像が再生されるものである。このようにして、MPE
G2エンコーダ18は、画像データPDをこれより狭い
帯域の伝送路30で伝送するのに有効である。
【0105】この応用例では、制御部29からのカメラ
操作信号COが伝送部28で処理されて伝送路30を伝
送され、伝送部27で処理されてカメラ操作信号CO'
として雲台25に供給される。これにより、制御部29
からカメラ26の方向を制御することができる。
操作信号COが伝送部28で処理されて伝送路30を伝
送され、伝送部27で処理されてカメラ操作信号CO'
として雲台25に供給される。これにより、制御部29
からカメラ26の方向を制御することができる。
【0106】ここで、カメラ操作信号CO'をCPUブ
ロック22で解析され、カメラ26がどのように動く
か、予め計算される。この場合、カメラ26の動きとカ
メラ26のレンズの焦点距離とにより、前ピクチャから
現ピクチャまでどのくらいの画素数分パンしたかを計算
でき、その計算結果をもとに、MPEG2エンコーダ1
8での探索範囲の適切なオフセットを計算してこれをM
PEG2エンコーダ18に設定することができる。これ
により、MPEG2エンコーダ18では、パンに対応し
た適切な動きベクトルを検出することができる。
ロック22で解析され、カメラ26がどのように動く
か、予め計算される。この場合、カメラ26の動きとカ
メラ26のレンズの焦点距離とにより、前ピクチャから
現ピクチャまでどのくらいの画素数分パンしたかを計算
でき、その計算結果をもとに、MPEG2エンコーダ1
8での探索範囲の適切なオフセットを計算してこれをM
PEG2エンコーダ18に設定することができる。これ
により、MPEG2エンコーダ18では、パンに対応し
た適切な動きベクトルを検出することができる。
【0107】なお、以上の説明では、主にMPEG2符
号化装置についてであったが、例えば、MPEG1や
H.263のような他の規格に対応したディジタル画像
符号化装置や携帯型ビデオカメラの手ぶれ補正装置のパ
ン検出装置など、動き推定装置を用いる装置にも同様に
本発明を適用することができる。
号化装置についてであったが、例えば、MPEG1や
H.263のような他の規格に対応したディジタル画像
符号化装置や携帯型ビデオカメラの手ぶれ補正装置のパ
ン検出装置など、動き推定装置を用いる装置にも同様に
本発明を適用することができる。
【0108】
【発明の効果】以上説明したように、本発明によれば、
動きベクトルの探索範囲を狭く制限モードと該探索範囲
にオフセットをつける機能を設け、過去のベクトル探索
の結果をもとにオフセット値と探索範囲とを操作するも
のであるから、画質の劣化を最小限に押さえたまま電力
消費の多くを占めるME演算量を削減することができ、
この結果、MPEG2符号化装置全体の消費電力を低減
することができる。
動きベクトルの探索範囲を狭く制限モードと該探索範囲
にオフセットをつける機能を設け、過去のベクトル探索
の結果をもとにオフセット値と探索範囲とを操作するも
のであるから、画質の劣化を最小限に押さえたまま電力
消費の多くを占めるME演算量を削減することができ、
この結果、MPEG2符号化装置全体の消費電力を低減
することができる。
【0109】また、本発明によれば、外部のパン検出装
置による動き推定の最適化については、オフセット値と
探索範囲を外部CPUによって設定することにより、外
部で検出されるパンに応じた動き推定の最適化が可能と
なる。
置による動き推定の最適化については、オフセット値と
探索範囲を外部CPUによって設定することにより、外
部で検出されるパンに応じた動き推定の最適化が可能と
なる。
【図1】本発明による動きベクトル検出装置及びそれを
用いたディジタル画像符号化装置の第1の実施形態を示
すブロック図である。
用いたディジタル画像符号化装置の第1の実施形態を示
すブロック図である。
【図2】図1に示したMPEG2符号化装置でMEブロ
ックとして用いる本発明による動きベクトル検出装置の
第1の実施形態を示すブロック図である。
ックとして用いる本発明による動きベクトル検出装置の
第1の実施形態を示すブロック図である。
【図3】符号化画像と参照画像との相関が低い場合の動
きベクトルの分布図である。
きベクトルの分布図である。
【図4】符号化画像と参照画像との相関が高い場合の動
きベクトルの分布図である。
きベクトルの分布図である。
【図5】符号化画像と参照画像との相関が高い場合の探
索範囲の制限とオフセットの説明図である。
索範囲の制限とオフセットの説明図である。
【図6】探索範囲が制限された状態で符号化画像と参照
画像との相関が低い場合の説明図である。
画像との相関が低い場合の説明図である。
【図7】図1に示した第1の実施形態における動きベク
トルのスケーリングの説明図である。
トルのスケーリングの説明図である。
【図8】図1に示したディジタル画像符号化装置にME
ブロックとして使用可能な動きベクトル検出装置の第2
の実施形態を示すブロック図である。
ブロックとして使用可能な動きベクトル検出装置の第2
の実施形態を示すブロック図である。
【図9】図8に示した実施形態における動きベクトル検
出のための探索範囲の説明図である。
出のための探索範囲の説明図である。
【図10】本発明によるディジタル画像符号化装置の一
応用例を示すブロック図である。
応用例を示すブロック図である。
【図11】本発明によるディジタル画像符号化装置の他
の応用例を示すブロック図である。
の応用例を示すブロック図である。
1 画像データの入力端子 2 MPEG2符号化装置 3 SDRAM 4 CPUブロック 5 ビットストリームの出力端子 6 VIDEOプロック 7 MEブロック 7a 入力画像バッファ 7b 参照画像バッファ 7c 動きベクトル検出部 7d 参照画像読出アドレス発生部 7e 値保持部、 7f 判定計数部 7g 平均値算出部 7h 分散値算出部 7i 探索ポイントカウンタ 7j 判定結果保持部 8 CPU IFブロック 9 MCブロック 10 JUDGEブロック 11 DCT/IDCTブロック 12 Q/IQブロック 13 RATEブロック 14 VLCブロック 15 CODEブロック 16 SDRAMアドレスバス 17 SDRAMデータバス 18 MPEG2エンコーダ 19 撮像部 20 手ぶれ補正部 21 パン検出センサ 22 CPU 23a,23b 記録部 25 雲台 26 カメラ 29 制御部 30 伝送路
───────────────────────────────────────────────────── フロントページの続き (72)発明者 本巣 聰 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所マルチメディアシステム 開発本部内 (72)発明者 小堀 智生 神奈川県横浜市戸塚区吉田町292番地 株 式会社日立製作所マルチメディアシステム 開発本部内
Claims (6)
- 【請求項1】 動画像を圧縮符号化するディジタル画像
符号化装置であって、 該動画像の画像データを入力する入力手段と、 参照画像の画像データを蓄積するための蓄積手段と、 該入力手段から入力される該動画の画像データ毎に動き
ベクトルの探索範囲が設定され、設定された探索範囲で
の該参照画像の画像データを該蓄積手段から読み取り、
該探索範囲の該画像データを用いて入力された該動画の
画像データに対する動きベクトルを検出する動きベクト
ル検出手段と、 該動きベクトル検出手段で検出された該動きベクトルを
用いて、該動きベクトルに対応する入力された該動画象
の画像データを符号化する符号化手段と、 該動きベクトル検出手段に設定される該探索範囲の大き
さを可変とする制御手段とを備えたことを特徴とするデ
ィジタル画像符号化装置。 - 【請求項2】 請求項1において、 前記動きベクトル検出手段は、 前記蓄積手段での前記参照画像の画像データの読出しの
ためのアドレス信号を発生する参照画像読出アドレス発
生手段と、 該アドレス信号に応じて前記蓄積手段から読み出された
前記参照画像の画像データを蓄積し、前記探索範囲の画
像データを保持する参照画像バッファ手段と、 前記入力手段からの前記動画像の画像データを蓄積する
入力画像バッファ手段と、 該参照画像バッファ手段に蓄積された前記参照画像の画
像データと該入力画像バッファ手段に蓄積された前記動
画像の画像データとが供給され、前記探索範囲内で、前
記参照画像の画像データと前記動画像の入力画像データ
との相対位置を変化させつつ、夫々の相対的な位置関係
毎に前記参照画像の画像データと前記動画像の画像デー
タとの間で予測誤差を算出して、該予測誤差が最小とな
る前記参照画像の画像データと前記動画像の画像データ
との位置関係を検出し、検出した該予測誤差が最小とな
る該位置関係を表わす動きベクトルを生成,出力する画
像位置検出手段とを有し、 前記制御手段は、 前記画像位置検出手段によって検出された前記参照画像
の画像データと前記入力された動画像の画像データとの
間の相対位置と該相対位置に応じた情報を用いて前記探
索範囲の大きさを決定し、前記符号化手段からの符号化
が行われたか否かを示すの情報に応じて、決定した該大
きさを指定する前記制御信号を出力する参照範囲制御手
段を有することを特徴とするディジタル画像符号化装
置。 - 【請求項3】 入力手段から動画像の入力画像データが
所望のブロック単位で入力され、該所望のブロック単位
の入力画像データ毎に、探索範囲の参照画像の画像デー
タを用いて動きベクトルを検出する動きベクトル検出装
置において、 参照画像の画像データを蓄積する蓄積手段と、 該蓄積手段での該参照画像の画像データを読み出す領域
を指定するアドレス信号を発生するアドレス発生手段
と、 該蓄積手段から読み出された該参照画像の画像データが
書き込まれ、該探索範囲の参照画像の画像データを記憶
する参照画像バッファ手段と、 該所望のブロック単位の入力画像データを記憶する入力
画像バッファ手段と、 該参照画像バッファ手段から該探索範囲の参照画像の画
像データを、該入力画像バッファ手段から該所望のブロ
ック単位の入力画像データを夫々読み取り、該探索範囲
内で該参照画像の画像データと該所望のブロック単位の
入力画像データとの相対位置関係を順次変化させなが
ら、夫々の該相対位置関係毎に該参照画像の画像データ
と該所望のブロック単位の入力画像データとの予測誤差
を算出して、該予測誤差が最小となる該相対位置関係を
検出し、検出した該相対位置関係を表わし該所望のブロ
ック単位の入力画像データの符号化のための動きベクト
ルを生成,出力する動きベクトル検出部と、 該動きベクトル検出部で検出される該相対位置関係毎の
該予測誤差の分布と、該動きベクトルが該所望のブロッ
ク単位の入力画像データの符号化に使用されたか否かを
示す情報とに応じて該探索範囲の大きさを指定する制御
信号を生成する探索範囲制御手段とを備え、該動きベク
トル検出部で設定される該探索範囲の大きさを該制御信
号に応じて可変とすることを特徴とする動きベクトル検
出装置。 - 【請求項4】 請求項3において、 前記動きベクトル検出部は、前記参照画像を上下左右に
移動する範囲として、広い範囲と狭い範囲との2種類の
動作方式を持ち、該狭い範囲での探索位置が複数である
ことを特徴とする動きベクトル検出装置。 - 【請求項5】 請求項4において、 前記狭い範囲での前記参照画像位置の検出から前記広い
範囲での前記参照画像位置の検出へと遷移するために、
予め設定されていた場合には、無条件で広い範囲での前
記参照画像位置の検出を行ない、前記設定された位置で
の前記参照画像位置の検出が妥当であるか否かを判断す
ることを特徴とする動きベクトル検出装置。 - 【請求項6】 請求項4において、 前記探索範囲が狭い範囲であるとき、前記探索範囲制御
手段は、前記動きベクトル検出部で検出される前記相対
位置関係毎の前記予測誤差の分布の偏り位置に応じて、
前記探索範囲の位置にオフセットを設定することを特徴
とする動きベクトル検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11350298A JPH11308617A (ja) | 1998-04-23 | 1998-04-23 | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11350298A JPH11308617A (ja) | 1998-04-23 | 1998-04-23 | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH11308617A true JPH11308617A (ja) | 1999-11-05 |
Family
ID=14613958
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11350298A Pending JPH11308617A (ja) | 1998-04-23 | 1998-04-23 | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JPH11308617A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002152760A (ja) * | 2000-10-11 | 2002-05-24 | Samsung Electronics Co Ltd | ハイブリッド型高速動き推定方法及びその装置 |
JP2003009179A (ja) * | 2001-06-22 | 2003-01-10 | Olympus Optical Co Ltd | 動きベクトル及び視差ベクトル検出装置 |
JP2005354528A (ja) * | 2004-06-11 | 2005-12-22 | Canon Inc | 動きベクトル検出装置及び方法 |
WO2007136095A1 (ja) * | 2006-05-24 | 2007-11-29 | Panasonic Corporation | 動画像復号装置及び動画像復号方法 |
WO2008136178A1 (ja) * | 2007-04-26 | 2008-11-13 | Panasonic Corporation | 動き検出装置、動き検出方法、及び動き検出プログラム |
US8208541B2 (en) | 2006-04-03 | 2012-06-26 | Panasonic Corporation | Motion estimation device, motion estimation method, motion estimation integrated circuit, and picture coding device |
US8542740B2 (en) | 2007-08-07 | 2013-09-24 | Panasonic Corporation | Image coding apparatus and method for converting first coded data coded into second coded data based on picture type |
US8548058B2 (en) | 2007-08-07 | 2013-10-01 | Panasonic Corporation | Image coding apparatus and method for re-recording decoded video data |
CN110740329A (zh) * | 2018-07-19 | 2020-01-31 | 腾讯美国有限责任公司 | 视频编码解码方法和装置、计算机设备和存储介质 |
-
1998
- 1998-04-23 JP JP11350298A patent/JPH11308617A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002152760A (ja) * | 2000-10-11 | 2002-05-24 | Samsung Electronics Co Ltd | ハイブリッド型高速動き推定方法及びその装置 |
JP2003009179A (ja) * | 2001-06-22 | 2003-01-10 | Olympus Optical Co Ltd | 動きベクトル及び視差ベクトル検出装置 |
JP2005354528A (ja) * | 2004-06-11 | 2005-12-22 | Canon Inc | 動きベクトル検出装置及び方法 |
US8208541B2 (en) | 2006-04-03 | 2012-06-26 | Panasonic Corporation | Motion estimation device, motion estimation method, motion estimation integrated circuit, and picture coding device |
WO2007136095A1 (ja) * | 2006-05-24 | 2007-11-29 | Panasonic Corporation | 動画像復号装置及び動画像復号方法 |
WO2008136178A1 (ja) * | 2007-04-26 | 2008-11-13 | Panasonic Corporation | 動き検出装置、動き検出方法、及び動き検出プログラム |
US8542740B2 (en) | 2007-08-07 | 2013-09-24 | Panasonic Corporation | Image coding apparatus and method for converting first coded data coded into second coded data based on picture type |
US8548058B2 (en) | 2007-08-07 | 2013-10-01 | Panasonic Corporation | Image coding apparatus and method for re-recording decoded video data |
CN110740329A (zh) * | 2018-07-19 | 2020-01-31 | 腾讯美国有限责任公司 | 视频编码解码方法和装置、计算机设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3443880B2 (ja) | ビデオ信号符号化方法及び復号化方法 | |
EP1065883B1 (en) | Image predictive decoding method | |
EP0753968B1 (en) | Moving picture transmission system and moving picture transmission apparatus | |
US20030202587A1 (en) | Video data encoding apparatus and method for removing a continuous repeat field from the video data | |
US20070291131A1 (en) | Apparatus and Method for Controlling Image Coding Mode | |
JP4755093B2 (ja) | 画像符号化方法および画像符号化装置 | |
JPH0818979A (ja) | 画像処理装置 | |
JPH11308617A (ja) | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 | |
US6819713B1 (en) | Image processing apparatus and method for correcting a detected luminance and encoding or decoding | |
JP3599942B2 (ja) | 動画像符号化方法、及び動画像符号化装置 | |
JPH0541861A (ja) | 動画像符号化装置 | |
JP2006270683A (ja) | 符号化装置と方法 | |
JP3947316B2 (ja) | 動きベクトル検出装置及びこれを用いた動画像符号化装置 | |
JPH11239352A (ja) | 画像処理方法及び画像処理装置、並びにデータ記憶媒体 | |
JP3428332B2 (ja) | 画像符号化方法及び装置、並びに画像伝送方法 | |
JP2001238182A (ja) | 画像再生装置および画像再生方法 | |
JPH09261530A (ja) | 映像記録装置 | |
JP2004180345A (ja) | 撮影画像記録装置 | |
JPH0951538A (ja) | 画像信号の符号化方法 | |
JP2004343349A (ja) | 動きベクトル検出装置およびディジタルカメラ装置 | |
JPH1013836A (ja) | 動きベクトル検出装置 | |
JP2008199521A (ja) | 画像処理装置およびその方法 | |
JP2000115777A (ja) | 画像処理方法および画像処理装置 | |
WO2006103984A1 (ja) | 動き検出装置 | |
JP3590976B2 (ja) | 動画像圧縮装置 |