JP5156982B2

JP5156982B2 - 画像処理システム、画像処理方法、およびプログラム

Info

Publication number: JP5156982B2
Application number: JP2008148565A
Authority: JP
Inventors: 祐和亀山; 幸典野口
Original assignee: Fujifilm Corp
Current assignee: Fujifilm Corp
Priority date: 2008-06-05
Filing date: 2008-06-05
Publication date: 2013-03-06
Anticipated expiration: 2028-06-05
Also published as: JP2009296382A

Description

本発明は、画像処理システム、画像処理方法、およびプログラムに関する。本発明は、特に、画像を処理する画像処理システムおよび画像処理方法、ならびに画像処理システム用のプログラムに関する。

監視領域に出入りする人物の映像データを記録する監視記録装置が知られている（例えば、特許文献１参照。）。この監視記録装置は、撮影された動き物体の映像のうち、予め定められた基準に最も適合する映像のデータを、当該映像が撮影された時刻情報に関連付けてストレージに記録する。
特開２００６−２１７０７０号公報

上記特許文献１に記載の技術では、撮影された映像はストレージに蓄積されていく。このため、例えば大昔に撮影された映像などのように監視記録としての利用率が極めて低い映像によってストレージ容量の大半が消費されてしまうと、ストレージを効率的に利用することができなくなってしまう。このように、特許文献１に記載の技術では、記憶している画像を出力環境に応じて圧縮することができない。

上記課題を解決するために、本発明の第１の形態によると、画像処理システムであって、画像を記憶する記憶部と、画像を圧縮すべきか否かを判断する圧縮判断部と、圧縮判断部が画像を圧縮すべき旨を判断した場合に、画像を、画像における特徴領域と、画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する圧縮部とを備える。

本発明の第２の形態によると、方法であって、画像を記憶する記憶段階と、画像を圧縮すべきか否かを判断する圧縮判断段階と、圧縮判断段階において画像を圧縮すべき旨が判断された場合に、画像を、画像における特徴領域と、画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する圧縮段階とを備える。

本発明の第３の形態によると、画像処理システム用のプログラムであって、コンピュータを、画像を記憶する記憶部、画像を圧縮すべきか否かを判断する圧縮判断部、圧縮判断部が画像を圧縮すべき旨を判断した場合に、画像を、画像における特徴領域と、画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する圧縮部として機能させる。

なお、上記の発明の概要は、この発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。

図１は、一実施形態に係わる画像処理システム１０の一例を示す。画像処理システム１０は、以下に説明するように、監視システムとして機能することができる。

画像処理システム１０は、監視対象空間１５０を撮像する複数の撮像装置１００ａ−ｄ（以下、撮像装置１００と総称する。）、撮像装置１００により撮像された撮像画像を処理する画像処理装置１２０、通信ネットワーク１１０、画像処理装置１７０、画像ＤＢ１７５、および複数の表示装置１８０ａ−ｄ（以下、表示装置１８０と総称する。）を備える。画像処理装置１７０は、監視対象空間１５０とは異なる空間１６５に設けられている。また、表示装置１８０は、監視対象空間１５０および空間１６５とは異なる空間１６０に設けられている。

撮像装置１００ａは、撮像部１０２ａおよび撮像画像圧縮部１０４ａを有している。撮像部１０２ａは、連続して監視対象空間１５０を撮像することによって複数の撮像画像を撮像する。なお、撮像部１０２ａにより得られる撮像画像は、ＲＡＷ形式の撮像画像であってよい。撮像画像圧縮部１０４ａは、撮像部１０２ａにより撮像されたＲＡＷ形式の撮像画像を同時化して、同時化して得られた複数の撮像画像を含む動画をＭＰＥＧ符号化等により圧縮して、動画データを生成する。このように、撮像装置１００ａは、監視対象空間１５０を撮像して得られた動画を符号化して動画データを生成する。撮像装置１００ａは、当該動画データを画像処理装置１２０に出力する。

なお、撮像装置１００ｂ、撮像装置１００ｃ、および撮像装置１００ｄは、それぞれ撮像装置１００ａと同様の構成を有するので、撮像装置１００ｂ、撮像装置１００ｃ、および撮像装置１００ｄの各構成要素の説明を省略する。このようにして、画像処理装置１２０は、複数の撮像装置１００のそれぞれにより生成された動画データを、複数の撮像装置１００のそれぞれから取得する。

画像処理装置１２０は、撮像装置１００から取得した動画データを復号することにより、動画を取得する。画像処理装置１２０は、取得した動画に含まれる複数の撮像画像のそれぞれから、人物１３０が撮像された領域、車輌等の移動体１４０が撮像された領域等のように、特徴の種類が異なる複数の特徴領域を検出する。そして、画像処理装置１２０は、特徴の種類に応じた強度で特徴領域の画像を圧縮するとともに、特徴領域以外の領域の画像を、それぞれの特徴領域の画像を圧縮する圧縮強度より強い強度で圧縮する。

なお、画像処理装置１２０は、撮像画像から検出された特徴領域を特定する情報を含む特徴領域情報を生成する。そして、画像処理装置１２０は、特徴領域情報を圧縮動画データに付帯して、通信ネットワーク１１０を通じて画像処理装置１７０に送信する。

画像処理装置１７０は、特徴領域情報が対応づけられた圧縮動画データを画像処理装置１２０から受信する。そして、画像処理装置１７０は、圧縮動画データに対応づけられている特徴領域情報に対応づけて、当該圧縮動画データを画像ＤＢ１７５に記憶させる。なお、画像ＤＢ１７５は、ハードディスク等の不揮発性の記憶媒体に圧縮動画データを記憶してよい。このように、画像ＤＢ１７５は、圧縮された撮像画像を記憶する。

また、画像処理装置１７０は、表示装置１８０からの要求に応じて、画像ＤＢ１７５から圧縮動画データおよび特徴領域情報を読み出して、読み出した圧縮動画データを特徴領域情報を利用して伸張して表示用動画を生成して、通信ネットワーク１１０を通じて表示装置１８０に送信する。このとき、画像処理装置１７０は、通信ネットワーク１１０のネットワーク帯域幅または表示装置１８０の処理能力に応じて、表示用動画を再圧縮して表示装置１８０に送信する。表示装置１８０は、画像処理装置１７０から供給された表示用動画を表示する。

なお、特徴領域情報は、特徴領域の位置、特徴領域の大きさ、特徴領域の数、特徴領域が検出された撮像画像を識別する識別情報等を含むテキストデータ、もしくは当該テキストデータに圧縮、暗号化等の処理が施されたデータであってよい。そして、画像処理装置１７０は、特徴領域情報が含む特徴領域の位置、特徴領域の大きさ、特徴領域の数等に基づいて、種々の検索条件を満たす撮像画像を特定する。そして、画像処理装置１７０は、特定した撮像画像を復号して、表示装置１８０に提供してよい。

このように、画像処理システム１０によると、特徴領域を示す情報を動画に対応づけて記憶しているので、動画における所定の条件に適合する撮像画像群を高速に検索、頭出しをすることができる。また、画像処理システム１０によると、所定の条件に適合する撮像画像群だけ復号することができるので、再生指示に即応して速やかに所定の条件に適合する部分動画を表示することができる。

図２は、画像処理装置１２０のブロック構成の一例を示す。画像処理装置１２０は、画像取得部２５０、特徴領域検出部２０３、圧縮制御部２１０、圧縮部２４０、対応付け処理部２０６、圧縮判断部２６０、条件判断部２６５、条件取得部２７０、出力許容量取得部２８３、および出力部２０７を備える。画像取得部２５０は、圧縮動画取得部２０１および圧縮動画伸張部２０２を有する。

圧縮動画取得部２０１は、圧縮された動画を取得する。具体的には、圧縮動画取得部２０１は、撮像装置１００が生成した、符号化された動画データを取得する。圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した動画データを伸張することにより、動画に含まれる複数の撮像画像を生成する。具体的には、圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した、符号化された動画データを復号して、動画に含まれる複数の撮像画像を抽出する。なお、動画に含まれる撮像画像は、フレーム画像およびフィールド画像であってよい。

圧縮動画伸張部２０２によって得られた複数の撮像画像は、特徴領域検出部２０３および圧縮部２４０に供給される。特徴領域検出部２０３は、複数の撮像画像を含む動画から特徴領域を検出する。具体的には、特徴領域検出部２０３は、複数の撮像画像のそれぞれから特徴領域を検出する。

例えば、特徴領域検出部２０３は、動画において画像内容が変化する画像領域を、特徴領域として検出する。具体的には、特徴領域検出部２０３は、動くオブジェクトを含む画像領域を、特徴領域として検出してよい。なお、特徴領域検出部２０３は、複数の撮像画像のそれぞれから、特徴の種類が異なる複数の特徴領域を検出してよい。なお、特徴の種類とは、人物と移動体等のように、オブジェクトの種類を指標にしてよい。オブジェクトの種類は、オブジェクトの形状またはオブジェクトの色の一致度に基づいて決定されてよい。このように、特徴領域検出部２０３は、複数の撮像画像から、含まれるオブジェクトの種類が異なる複数の特徴領域を検出してよい。

例えば、特徴領域検出部２０３は、予め定められた形状パターンに予め定められた一致度以上の一致度で一致するオブジェクトを複数の撮像画像のそれぞれから抽出して、抽出したオブジェクトを含む撮像画像における領域を、特徴の種類が同じ特徴領域として検出してよい。なお、形状パターンは、特徴の種類毎に複数定められてよい。また、形状パターンの一例としては、人物の顔の形状パターンを例示することができる。なお、複数の人物毎に異なる顔のパターンが定められてよい。これにより、特徴領域検出部２０３は、異なる人物をそれぞれ含む異なる領域を、異なる特徴領域として検出することができる。

なお、特徴領域検出部２０３は、上記の人物の顔の他にも、人物の頭部または人物の手等の人体の一部の部位、あるいは人体以外の生体の少なくとも一部の部位を含む領域を、特徴領域として検出することができる。なお、生体とは、生体内部の腫瘍組織または血管等のように、生体の内部に存在する特定の組織を含む。他にも、特徴領域検出部２０３は、生体の他にも、貨幣、キャッシュカード等のカード、車輌、あるいは車両のナンバープレートが撮像された領域を特徴領域として検出してよい。

また、特徴領域検出部２０３は、テンプレートマッチング等によるパターンマッチングの他にも、例えば特開２００７−１８８４１９号公報に記載された機械学習（例えば、アダブースト）等による学習結果に基づいて、特徴領域を検出することもできる。例えば、予め定められた被写体の画像から抽出された画像特徴量と、予め定められた被写体以外の被写体の画像から抽出された画像特徴量とを用いて、予め定められた被写体の画像から抽出された画像特徴量の特徴を学習する。そして、特徴領域検出部２０３は、当該学習された特徴に適合する特徴を有する画像特徴量が抽出された領域を、特徴領域として検出してよい。

なお、特徴領域検出部２０３は、特願２００８−０７８６４１号に記載された方法で特徴領域を検出してよい。例えば、特徴領域検出部２０３は、オブジェクト検出対象の撮像画像を所定比率で間引くことにより、または当該所定比率で段階的に間引くことより、撮像画像と一枚以上の間引画像とを含む画像群を生成する。そして、特徴領域検出部２０３は、生成された画像群のうちの相対的に小さい第１の画像に、第１のフィルタを作用させて、評価値を算出する。ここで、第１のフィルタは、画像上の二次元的に広がる領域に作用することで、当該領域内に特定種類のオブジェクトが存在する確率を表わす評価値を生成する。また、第１のフィルタは、画像上の領域の広さに対応する画素数が所定比率で異なる、または当該所定比率で段階的に異なる、複数の広さの領域にそれぞれ作用する複数のフィルタを含むフィルタ群のうちの、相対的に狭い領域に作用するフィルタであってよい。特徴領域検出部２０３は、所定の第１の閾値を越える評価値が得られた一次候補領域を、第１の画像から抽出する。

そして、特徴領域検出部２０３は、第１の画像よりも画素数が一段階多い第２の画像における一次候補領域に相当する領域に、フィルタ群のうちの第１のフィルタよりも一段階広い領域に作用する第２のフィルタを作用させて、評価値を算出する。そして、特徴領域検出部２０３は、所定の第２の閾値を越える評価値が得られる二次候補領域を抽出する。

ここで、特徴領域検出部２０３は、上述の異なる広さの領域に作用する複数のフィルタを画像群のうちの対応する広さの領域に作用させて上記候補領域を抽出する抽出過程を繰り返していく。このとき、特徴領域検出部２０３は、相対的に狭い領域に作用するフィルタを作用させる抽出過程から、相対的に広い領域に作用するフィルタを作用させる抽出過程を、順次に繰り返していく。具体的には、特徴領域検出部２０３は、相対的に小さい画像に相対的に狭い領域に作用するフィルタを作用させる抽出過程から相対的に大きな画像に相対的に広い領域に作用するフィルタを作用させる抽出過程に向けて順次に繰り返す。そして、特徴領域検出部２０３は、２以上の抽出過程を繰り返して最終的に候補領域を抽出することにより、特定種類のオブジェクトを検出する。そして、特徴領域検出部２０３は、当該特定種類のオブジェクトが存在する領域を、特徴領域として検出する。このように、特徴領域検出部２０３は、後の抽出過程においては、直前の過程で抽出された領域に限定してフィルタを作用させる。このため、複数の各抽出過程において順次にオブジェクトの存在の有無が選別されていき、特徴領域をより高精度に検出することができる。また、小さいサイズの画像で特徴領域の粗ぶるいが行なわれるので、より高速に特徴領域を検出することができる。

また、特徴領域検出部２０３は、特願２００８−０７８６３６号に記載された方法で特徴領域を検出してよい。例えば、特徴領域検出部２０３は、撮像画像との二次元的に広がる所定の広さの領域に作用し特定種類のオブジェクトの輪郭および内部のうちの互いに異なるいずれかの特徴量を算出する複数のフィルタを用いて、特徴領域を検出する。具体的には、特徴領域検出部２０３は、当該複数のフィルタを、オブジェクト検出対象の撮像画像上の所定の広さの領域にそれぞれ作用させることにより、複数の特徴量を算出する。ここで、当該複数のフィルタには、複数のフィルタそれぞれにより算出される各特徴量と特定種類のオブジェクトである確率を表わす一次評価値との対応関係が対応づけられている。特徴領域検出部２０３は、当該対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数のフィルタに対応する複数の一次評価値を総合することにより、当該領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、二次評価値と閾値とを比較して、該閾値を越えて特定種類のオブジェクトが存在する確率が高い領域を抽出する。これにより、特徴領域検出部２０３は、当該領域を、特定種類のオブジェクトが存在する特徴領域として検出する。このように、特徴領域検出部２０３は、オブジェクトの輪郭・内部の様々な特徴を表わす特徴量を抽出する複数のフィルタを組み合わせることにより、例えば輪郭の形状だけによる抽出と比べて、高精度に特徴領域を抽出することができる。

なお、特徴領域検出部２０３は、特願２００８−０７８６３６号に記載された方法と、特願２００８−０７８６４１号に記載された方法とを組み合わせた方法により、特徴領域を検出してよい。具体的には、特願２００８−０７８６３６号に記載された方法に関連して説明した上記の複数のフィルタは、画素数が所定比率で異なる、または所定比率で段階的に異なる、複数の広さの領域にそれぞれ作用する、１つの広さごとに複数のフィルタを含んでよい。各フィルタのそれぞれは、当該各フィルタそれぞれに応じた上記対応関係に対応づけられてよい。そして、特徴領域検出部２０３は、オブジェクト検出対象の撮像画像を所定比率で間引くことにより、または所定比率で段階的に間引くことにより、撮像画像と一枚以上の間引画像とを含む画像群を生成する。そして、特徴領域検出部２０３は、画像群のうちの相対的に小さい第１の画像に相対的に狭い領域に作用する複数の第１のフィルタを作用させることで複数の特徴量を算出する。そして、特徴領域検出部２０３は、該複数の第１のフィルタそれぞれに対応する対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数の一次評価値を総合することにより、当該領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、求められた二次評価値と第１の閾値とを比較して該第１の閾値を越えて特定種類のオブジェクトが存在する確率が高い一次候補領域を抽出する。

また、特徴領域検出部２０３は、上記画像群のうちの第１の画像よりも画素数が一段階多い第２の画像の、一次候補領域に相当する領域に複数の第１のフィルタよりも一段広い領域に作用する複数の第２のフィルタを作用させることで、複数の特徴量を算出する。そして、特徴領域検出部２０３は、当該複数の第２のフィルタそれぞれに対応する対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数の第２のフィルタに対応する複数の一次評価値を総合することにより、当該一次候補領域に相当する領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、求められた二次評価値と第２の閾値とを比較して第２の閾値を越えて特定種類のオブジェクトが存在する確率が高い二次候補領域を抽出する。

ここで、特徴領域検出部２０３は、上述の異なる広さの領域に作用する複数のフィルタを画像群のうちの対応する広さの領域に作用させて上記候補領域を抽出する抽出過程を繰り返していく。このとき、特徴領域検出部２０３は、相対的に狭い領域に作用するフィルタを作用させる抽出過程から、相対的に広い領域に作用するフィルタを作用させる抽出過程を、順次に繰り返していく。具体的には、特徴領域検出部２０３は、相対的に小さい画像に相対的に狭い領域に作用するフィルタを作用させる抽出過程から相対的に大きな画像に相対的に広い領域に作用するフィルタを作用させる抽出過程に向けて順次に繰り返す。そして、特徴領域検出部２０３は、２以上の抽出過程を繰り返して最終的に候補領域を抽出することにより、特定種類のオブジェクトを検出する。そして、特徴領域検出部２０３は、当該特定種類のオブジェクトが存在する領域を、特徴領域として検出する。

また、特徴領域検出部２０３は、特願２００８−０９８６００号に記載された方法で特徴領域を検出してよい。例えば、特徴領域検出部２０３は、複数の撮像装置１００により撮像された動画に含まれる複数の撮像画像から、特徴領域を検出する。一例として、撮像装置１００ａおよび撮像装置１００ｂは、互いに同一のシーンを撮影しているものとする。例えば、撮像装置１００ａおよび撮像装置１００ｂは、ステレオカメラとして機能することができる。また、以下の説明では、撮像装置１００ａが撮像した第１の撮像画像と、撮像装置１００ｂが撮像した第２の撮像画像とを、ペア画像と呼ぶ。特徴領域検出部２０３は、ペア画像から、該ペア画像に写し出された特定種類のオブジェクトを検出して、検出した特定種類のオブジェクトの領域を、特徴領域として検出する。

特徴領域検出部２０３は、ペア画像とみなされる第１および第２の各撮像画像について、各撮像画像上において、特定種類のオブジェクトが写し込まれた領域を抽出する。ここでは、特徴領域検出部２０３は、特定種類のオブジェクトが写し込まれた領域を、粗い検出精度で検出してよい。そして、特徴領域検出部２０３は、抽出した第１の撮像画像上の領域と第２の撮像画像上の領域の中から、互いに対応する領域のペアを検出することにより、特定種類のオブジェクトを検出する。例えば、特徴領域検出部２０３は、当該ペアの領域の画像から、当該領域に写し込まれた被写体までの距離を算出する。特徴領域検出部２０３は、被写体までの距離に基づく被写体の３次元形状に基づいて、特定種類のオブジェクトを検出することができる。

ここで、特徴領域検出部２０３は、互いに対応する領域のペアを検出する場合に、ペア画像とみなされる第１および第２の撮像画像から検出した、特定種類のオブジェクトが写し込まれた領域を、複数のサブ領域に分ける。そして、特徴領域検出部２０３は、各サブ領域に写し出された部分画像を特徴づける特徴量の、複数のサブ領域に渡るベクトルを算出する。ここで、特徴量としては、画素値を例示することができる。また、複数のサブ領域に渡るベクトルとしては、勾配ベクトル（例えば、画素値勾配ベクトル）を例示することができる。そして、特徴領域検出部２０３は、算出された第１の画像上の領域のベクトルと第２の画像上のベクトルとの間の論理上の距離を算出する。特徴領域検出部２０３は、論理上の距離が予め定められた値より小さい領域のペアを、互いに対応する領域のペアとして検出する。なお、上記論理上の距離としては、ベクトルを形成する各成分どうしの差に対する二乗和の平方根を例示することができる。このようにして、特徴領域検出部２０３は、ペア画像から対応する領域のペアを高精度で抽出することができるので、被写体までの距離を高精度で算出することができる。したがって、特徴領域検出部２０３は、被写体の３次元形状を高精度で認識することができ、その結果、特定種類のオブジェクトをより高精度で検出することができる。

また、特徴領域検出部２０３は、特願２００８−０９１５６２号に記載された方法で特徴領域を検出してよい。例えば、特徴領域検出部２０３は、動画に含まれる複数の撮像画像のそれぞれから、特定種類の被写体に類似した類被写体形状を、当該類被写体形状の寸法と当該撮像装置１００の画角上の位置情報とを伴って抽出する。画角上の位置情報としては、撮像画像における画像領域上の位置を例示することができる。そして、特徴領域検出部２０３は、抽出した類被写体形状の被写体が特定種類の被写体であるか否かを判定して該特定種類の被写体を抽出する。例えば、特徴領域検出部２０３は、類被写体形状の被写体の周囲の予め定められたサーチ領域から、同一寸法に分類された類被写体形状の被写体が検出された個数を計数して、当該計数値が閾値以上の場合に、当該類被写体形状の被写体を特定種類の被写体として抽出してよい。そして、特徴領域検出部２０３は、特定種類の被写体を含む領域を、特徴領域として検出してよい。このため、特徴領域検出部２０３は、所定の寸法に近い寸法の被写体が集中して検出された画像領域内の類被写体形状の被写体を、特定種類の被写体として検出することができる。そして、当該画像領域以外の領域における類被写体形状の被写体を、特定種類の被写体として検出しなくてよい。このため、当該画像領域以外の領域における類被写体形状の被写体を、特定種類の被写体として誤検出する確率を低減することができる。

なお、撮像装置１００が画角を可変して撮像することができる場合、上記の画角上の位置情報としては、撮像装置１００の撮像方向および撮像画像上の位置を例示することができる。また、複数の撮像装置１００により、一の撮像装置１００が撮像する被写界より広い連続した被写界を撮像することができる場合、上記の画角上の位置情報としては、複数の撮像装置１００のそれぞれの撮像方向、および複数の撮像装置１００のそれぞれにより撮像された撮像画像上の位置を例示することができる。

特徴領域検出部２０３は、予め定められた被写体が撮像されている領域を特徴領域として検出することができる。なお、特徴領域検出部２０３は、矩形を含む任意の形状を有するＲＯＩを検出してよい。

このように、特徴領域検出部２０３は、複数の動画のそれぞれに含まれる複数の撮像画像から、複数の特徴領域を検出する。そして、特徴領域検出部２０３は、検出した特徴領域を示す情報を、圧縮制御部２１０に供給する。なお、特徴領域を示す情報は、特徴領域の位置を示す特徴領域の座標情報、特徴領域の種類を示す種類情報、および特徴領域が検出された動画を識別する情報を含む。

圧縮制御部２１０は、特徴領域検出部２０３から取得した特徴領域を示す情報に基づいて、圧縮部２４０による動画の圧縮処理を制御する。圧縮部２４０は、圧縮制御部２１０による制御により、以下に説明するように撮像画像における特徴領域と撮像画像における特徴領域以外の領域とで異なる強度で撮像画像を圧縮する。例えば、圧縮部２４０は、動画に含まれる撮像画像における特徴領域以外の領域の解像度を、特徴領域より低減することにより、撮像画像を圧縮する。このように、圧縮部２４０は、撮像画像における各画像領域のそれぞれを、画像領域の重要度に応じた強度で圧縮する。

なお、特徴領域検出部２０３が複数の特徴領域を検出した場合、圧縮部２４０は、撮像画像における複数の特徴領域の画像を、それぞれ特徴領域の特徴の種類に応じた強度で圧縮してよい。例えば、圧縮部２４０は、撮像画像における複数の特徴領域の画像の解像度を、特徴領域の特徴の種類に応じて定められた解像度に低減してよい。

対応付け処理部２０６は、撮像画像から検出された特徴領域を特定する情報を、撮像画像に対応づける。具体的には、対応付け処理部２０６は、撮像画像から検出された特徴領域を特定する情報を、撮像画像を動画構成画像として含む圧縮動画に対応づける。そして、出力部２０７は、対応付け処理部２０６によって特徴領域を特定する情報が対応付けされた圧縮動画データを、画像処理装置１７０に出力する。

画像処理装置１７０は、出力部２０７から出力された撮像動画データ中の圧縮動画に含まれている、圧縮部２４０により圧縮された複数の撮像画像を、撮像動画データ中の特徴領域を特定する情報とともに取得する。そして、画像処理装置１７０は、圧縮された複数の撮像画像を、特徴領域を特定する情報に対応づけて画像ＤＢ１７５に記憶させる。なお、出力部２０７から出力された撮像動画に含まれる圧縮部２４０により圧縮された複数の撮像画像は、この発明における圧縮された画像一例であってよい。

なお、画像処理装置１７０は、画像ＤＢ１７５がデータをさらに記憶することができる記憶容量である記憶残量を取得して、画像処理装置１２０に送信する。出力許容量取得部２８３は、画像処理装置１７０から送信された記憶残量を取得する。また、条件取得部２７０は、撮像画像をさらに圧縮すべき旨が判断される場合に満たされるべき記憶残量に関する条件を取得する。そして、条件判断部２６５は、出力許容量取得部２８３が取得した記憶残量が、条件取得部２７０が取得した記憶残量に関する条件を満たしているか否かを判断する。

そして、圧縮判断部２６０は、出力許容量取得部２８３が取得した記憶残量が、条件取得部２７０が取得した記憶残量に関する条件を満たしている旨を条件判断部２６５が判断した場合に、複数の撮像画像をさらに圧縮させる旨を判断する。なお、圧縮判断部２６０は、当該条件が満たされている旨を条件判断部２６５が判断した場合に、当該条件が満たされていない旨を条件判断部２６５が判断した場合に比べて、複数の撮像画像をより強い強度でさらに圧縮させる旨を判断してよい。圧縮制御部２１０は、圧縮判断部２６０が複数の撮像画像をさらに圧縮させる旨を判断した場合に、複数の撮像画像を圧縮部２４０にさらに圧縮させる。圧縮部２４０は、圧縮判断部２６０が撮像画像をさらに圧縮すべき旨を判断した場合に、撮像画像を、撮像画像における特徴領域と、撮像画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する。

なお、圧縮判断部２６０は、複数の撮像装置１００のそれぞれによって撮像された複数の動画に含まれる複数の撮像画像のそれぞれについて圧縮すべきか否かを判断してよい。そして、圧縮部２４０は、圧縮判断部２６０が少なくとも一の撮像画像を圧縮すべき旨を判断した場合に、少なくとも一の動画に含まれる撮像画像における複数の特徴領域のうちの少なくとも一の特徴領域において、圧縮判断部２６０が複数の撮像画像のそれぞれについて判断した判断結果に応じた強度で圧縮してよい。これにより、異なる複数の撮像装置１００によって撮像された動画に対する判断結果に応じて、一以上の撮像装置１００によって撮像された動画に対する圧縮率を制御することができる。また、異なる複数の撮像装置１００によって撮像された動画に対する判断結果に応じて、さらに撮像画像における複数の特徴領域のそれぞれについて圧縮率を制御することができる。このため、異なる複数の撮像装置１００によって撮像された動画の画質を、状況に応じて領域毎にきめ細やかに制御することができる。なお、圧縮判断部２６０による判断結果としては、条件取得部２７０が取得した条件が満たされているか否か、または、当該条件への適合度などを例示することができる。また、異なる複数の条件がある場合には、圧縮判断部２６０による判断結果としては、満たされている条件の組み合わせ、または、複数の条件のそれぞれへの適合度などを例示することができる。

このように、条件取得部２７０は、撮像画像をさらに圧縮すべき旨が判断される場合に満たされるべき条件を取得する。例えば、条件取得部２７０は、撮像画像をさらに圧縮すべき旨が判断される場合に満たされるべき、撮像画像が出力される出力先に出力することができる出力許容量に関する条件を取得する。そして、条件判断部２６５は、撮像画像が出力される出力先に出力することができる出力許容量が、条件取得部２７０が取得した条件を満たしているか否かを判断する。そして、圧縮判断部２６０は、当該出力許容量が条件を満たしていると条件判断部２６５が判断した場合に、画像をさらに圧縮すべき旨を判断する。そして、圧縮部２４０は、圧縮判断部２６０が撮像画像をさらに圧縮すべき旨を判断した場合に、撮像画像を、撮像画像における特徴領域と、撮像画像における特徴領域以外の領域とで異なる圧縮強度でさらに圧縮する。

なお、出力許容量としては、画像ＤＢ１７５の記憶残量の他に、画像処理装置１２０が通信ネットワーク１１０に出力することができるネットワーク帯域幅、画像処理装置１７０が単位時間あたりに処理することができるデータ量等を例示することができる。また、出力許容量取得部２８３、条件取得部２７０、条件判断部２６５、および圧縮判断部２６０の動作、ならびに圧縮判断部２６０が撮像画像をさらに圧縮する旨を判断した場合における圧縮部２４０の動作については、画像処理装置１７０の動作に関連して後により詳細に説明する。

図３は、圧縮部２４０のブロック構成の一例を示す。圧縮部２４０は、画像分割部２３２、複数の固定値化部２３４ａ−ｃ（以下、固定値化部２３４と総称する場合がある。）、および複数の圧縮処理部２３６ａ−ｄ（以下、圧縮処理部２３６と総称する場合がある。）を有する。

画像分割部２３２は、画像取得部２５０から複数の撮像画像を取得する。そして、画像分割部２３２は、複数の撮像画像を、特徴領域と、特徴領域以外の背景領域とに分割する。具体的には、画像分割部２３２は、複数の撮像画像を、複数の特徴領域のそれぞれと、特徴領域以外の背景領域とに分割する。このように、画像分割部２３２は、複数の撮像画像のそれぞれを、特徴領域と背景領域とに分割する。そして、圧縮処理部２３６は、特徴領域の画像である特徴領域画像と背景領域の画像である背景領域画像とを、それぞれ異なる強度で圧縮する。具体的には、圧縮処理部２３６は、特徴領域画像を複数含む特徴領域動画と背景領域画像を複数含む背景領域動画とを、それぞれ異なる強度で圧縮する。

具体的には、画像分割部２３２は、複数の撮像画像を分割することにより、複数の特徴の種類毎に特徴領域動画を生成する。そして、固定値化部２３４は、特徴の種類毎に生成された複数の特徴領域動画に含まれる特徴領域画像のそれぞれについて、それぞれの特徴の種類の特徴領域以外の領域の画素値を固定値化する。具体的には、固定値化部２３４は、特徴領域以外の領域の画素値を予め定められた画素値にする。そして、圧縮処理部２３６は、特徴の種類毎に、複数の特徴領域動画を圧縮する。例えば、圧縮処理部２３６は、特徴の種類毎に、複数の特徴領域動画をＭＰＥＧ圧縮する。

固定値化部２３４ａ、固定値化部２３４ｂ、および固定値化部２３４ｃは、それぞれ第１の特徴の種類の特徴領域動画、第２の特徴の種類の特徴領域動画、および第３の特徴の種類の特徴領域動画を固定値化する。そして、圧縮処理部２３６ａ、圧縮処理部２３６ｂ、および圧縮処理部２３６ｃは、第１の特徴の種類の特徴領域動画、第２の特徴の種類の特徴領域動画、および第３の特徴の種類の特徴領域動画を圧縮する。

なお、圧縮処理部２３６ａ−ｃは、特徴の種類に応じて予め定められた強度で特徴領域動画を圧縮する。例えば、圧縮処理部２３６は、特徴領域の特徴の種類に応じて予め定められた異なる解像度の動画に特徴領域動画を変換して、変換した特徴領域動画を圧縮してよい。他にも、圧縮処理部２３６は、ＭＰＥＧ符号化により特徴領域動画を圧縮する場合に、特徴の種類に応じて予め定められた異なる量子化パラメータで特徴領域動画を圧縮してよい。

また、圧縮処理部２３６ｄは、背景領域動画を圧縮する。なお、圧縮処理部２３６ｄは、圧縮処理部２３６ａ−ｃのいずれによる強度より高い強度で、背景領域動画を圧縮してよい。圧縮処理部２３６によって圧縮された特徴領域動画および背景領域動画は、対応付け処理部２０６に供給される。

なお、特徴領域以外の領域は固定値化部２３４によって固定値化さるので、圧縮処理部２３６がＭＰＥＧ符号化等によって予測符号化する場合に、特徴領域以外の領域において予測画像との間の画像の差分量を著しく低減することができる。このため、圧縮部２４０は、特徴領域動画をより高い圧縮率で圧縮することができる。

なお、本図では、圧縮部２４０が有する複数の圧縮処理部２３６のそれぞれが複数の特徴領域の画像および背景領域の画像をそれぞれ圧縮したが、他の形態では、圧縮部２４０は一の圧縮処理部２３６を有してよく、一の圧縮処理部２３６が、複数の特徴領域の画像および背景領域の画像をそれぞれ異なる強度で圧縮してよい。例えば、複数の特徴領域の画像および背景領域の画像が一の圧縮処理部２３６に時分割で順次供給され、一の圧縮処理部２３６が、複数の特徴領域の画像および背景領域の画像をそれぞれ異なる強度で順次圧縮してよい。

他にも、一の圧縮処理部２３６は、複数の特徴領域の画像情報および背景領域の画像情報を異なる量子化係数でそれぞれ量子化することによって、複数の特徴領域の画像および背景領域の画像をそれぞれ異なる強度で圧縮してよい。また、複数の特徴領域の画像および背景領域の画像がそれぞれ異なる画質の画像に変換された画像が一の圧縮処理部２３６に供給され、一の圧縮処理部２３６が、複数の特徴領域の画像および背景領域の画像をそれぞれ圧縮してよい。また、上記のように一の圧縮処理部２３６が領域毎に異なる量子化係数で量子化したり、領域毎に異なる画質に変換された画像を一の圧縮処理部２３６が圧縮する形態では、一の圧縮処理部２３６は、一の画像の全体を圧縮してもよく、本図で説明したように画像分割部２３２によって分割された画像をそれぞれ圧縮してもよい。なお、一の圧縮処理部２３６が一の画像の全体を圧縮する場合には、画像分割部２３２による分割処理および固定値化部２３４による固定値化処理はなされなくてよいので、圧縮部２４０は、画像分割部２３２および固定値化部２３４を有しなくてよい。

図４は、画像処理装置１７０のブロック構成の一例を示す。画像処理装置１７０は、圧縮画像取得部３０１、対応付け解析部３０２、伸張制御部３１０、伸張部３２０、合成部３３０、圧縮判断部３６０、条件判断部３６５、条件取得部３７０、判断情報取得部３８０、および圧縮部３４０を備える。

伸張部３２０は、複数の復号器３２２ａ−ｄ（以下、復号器３２２と総称する。）を有する。また、判断情報取得部３８０は、記憶期間取得部３８１、記憶残量取得部３８２、出力許容量取得部３８３、および権限取得部３８４を有する。以下に、画像ＤＢ１７５が記憶している動画をさらに圧縮する場合における画像処理装置１７０の各構成要素の機能および動作を説明する。

画像取得部３０１は、圧縮部２４０により圧縮された圧縮動画を取得する。具体的には、画像取得部３０１は、複数の特徴領域動画および背景領域動画を含む圧縮動画を取得する。より具体的には、画像取得部３０１は、特徴領域情報が付帯された圧縮動画を取得する。

対応付け解析部３０２は、画像ＤＢ１７５から取得した圧縮動画を、複数の特徴領域動画および背景領域動画と特徴領域情報とに分離して、複数の特徴領域動画および背景領域動画を伸張部３２０に供給する。また、対応付け解析部３０２は、特徴領域情報を解析して、特徴領域の位置および特徴の種類を伸張制御部３１０および合成部３３０に供給する。

伸張制御部３１０は、対応付け解析部３０２から取得した特徴領域の位置および特徴の種類に応じて、伸張部３２０による伸張処理を制御する。例えば、伸張制御部３１０は、特徴領域の位置および特徴の種類に応じて圧縮部２４０が動画の各領域を圧縮した圧縮方式に応じて、伸張部３２０に圧縮動画が示す動画の各領域を伸張させる。

復号器３２２は、符号化された複数の特徴領域動画および背景領域動画のいずれかを復号する。具体的には、復号器３２２ａ、復号器３２２ｂ、復号器３２２ｃ、および復号器３２２ｄは、それぞれ第１特徴領域動画、第２特徴領域動画、第３特徴領域動、および背景領域動画を復号する。

合成部３３０は、伸張部３２０によって伸張された複数の特徴領域動画および背景領域動画を合成して、一の動画を生成する。具体的には、合成部３３０は、背景領域動画に含まれる撮像画像に、複数の特徴領域動画に含まれる撮像画像上の特徴領域の画像を合成することによって、一の動画を生成する。合成部３３０は、生成した動画を圧縮部３４０に供給する。

圧縮部３４０は、対応付け解析部３０２から取得した特徴領域情報を用いて、合成部３３０によって合成されて得られた動画を圧縮する。例えば、合成部３３０によって合成されて得られた動画に含まれる複数の撮像画像のそれぞれを、撮像画像における特徴領域と、撮像画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する。

具体的には、圧縮部３４０は、圧縮判断部３６０が撮像画像をさらに圧縮すべき旨を判断した場合に、撮像画像における特徴領域以外の領域において、撮像画像における特徴領域より強い圧縮強度で圧縮する。なお、圧縮部３４０は、特徴領域の位置は、特徴領域情報に基づいて特定することができる。したがって、圧縮部３４０は、画像ＤＢ１７５が撮像画像に対応づけて記憶している情報が示す特徴領域以外の領域において、画像ＤＢ１７５が撮像画像に対応づけて記憶している情報が示す特徴領域より強い圧縮強度で撮像画像を圧縮することができる。

なお、圧縮部３４０は、複数の撮像画像のそれぞれにおける複数の特徴領域のそれぞれの領域において、特徴領域の特徴の種類に応じた圧縮強度で圧縮してよい。例えば、圧縮部３４０は、複数の撮像画像のそれぞれにおける複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類に応じた画質に低減することにより、撮像画像を圧縮してよい。

なお、上述したように、画像ＤＢ１７５は、複数の特徴領域のそれぞれを示す情報に対応づけて、複数の特徴領域のそれぞれにおいて特徴領域以外の領域より強い圧縮強度で圧縮された複数の撮像画像を記憶している。この場合、圧縮部３４０は、複数の特徴領域における画質より特徴領域以外の領域における画質をより低減することにより、撮像画像を圧縮してよい。また、画像ＤＢ１７５は、複数の特徴領域のそれぞれを示す情報に対応づけて、複数の特徴領域のそれぞれにおいて特徴領域の特徴の種類に応じた圧縮強度で圧縮された複数の撮像画像を記憶している。この場合、圧縮部３４０は、複数の撮像画像のそれぞれにおける複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類に応じた低減量で低減することにより、撮像画像を圧縮してよい。

より具体的には、圧縮部３４０は、複数の特徴領域における解像度より特徴領域以外の領域における解像度をより低減することにより、撮像画像を圧縮してよい。また、圧縮部３４０は、複数の特徴領域における色数より特徴領域以外の領域における色数をより低減することにより、撮像画像を圧縮してもよい。他にも、圧縮部３４０は、複数の特徴領域における階調数より特徴領域以外の領域における階調数をより低減することにより、撮像画像を圧縮してもよい。

また、圧縮部３４０は、複数の特徴領域より特徴領域以外の領域において、より高い周波数領域における空間周波数成分をより低減することにより、撮像画像を圧縮してもよい。なお、圧縮部３４０は、複数の特徴領域および特徴領域以外の領域の画像データを量子化する量子化パラメータを制御することにより、複数の特徴領域より特徴領域以外の領域において空間周波数成分をより低減してよい。また、圧縮部３４０は、画像取得部３０１が取得した圧縮された撮像画像における特徴領域以外の領域において、所定の周波数領域より高い周波数領域の空間周波数成分をカットしてよい。このように、圧縮部３４０は、複数の特徴領域における符号量より特徴領域以外の領域における符号量をより低減することにより、撮像画像を圧縮することができる。

圧縮部３４０により圧縮された動画は、画像ＤＢ１７５または表示装置１８０に供給される。画像ＤＢ１７５は、圧縮部３４０により圧縮された動画を特徴領域情報に対応づけて記憶する。また、表示装置１８０は、圧縮部３４０により圧縮された動画を表示する。

なお、画像処理装置１７０は、予め定められた条件が満たされた場合に、上述した動作により動画を圧縮してよい。具体的には、圧縮判断部３６０は、画像ＤＢ１７５が記憶している圧縮動画に動画構成画像として含まれる複数の撮像画像をさらに圧縮すべきか否かを判断する。そして、圧縮部３４０は、圧縮判断部３６０が撮像画像をさらに圧縮すべき旨を判断した場合に、撮像画像を、撮像画像における特徴領域と、撮像画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する。

より具体的には、条件取得部３７０は、圧縮判断部３６０が撮像画像をさらに圧縮すべき旨を判断する場合に満たされるべき条件を取得する。そして、条件判断部３６５は、条件取得部３７０が取得した条件が満たされていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。このように、条件判断部３６５は、圧縮判断部３６０が撮像画像をさらに圧縮すべき旨を判断する場合に満たされるべき条件が満たされているか否かを判断する。そして、圧縮判断部３６０は、条件が満たされていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。

なお、判断情報取得部３８０は、条件が満たされているか否かを判断すべく条件判断部３６５が使用する情報を取得する。具体的には、記憶期間取得部３８１は、画像ＤＢ１７５が撮像画像を記憶している期間の時間長さを取得する。そして、条件判断部３６５は、記憶期間取得部３８１が取得した時間長さが予め定められた値より長いことを示す条件が満たされているか否かを判断する。そして、圧縮判断部３６０は、画像ＤＢ１７５が撮像画像を記憶している期間の時間長さが条件を満たしていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。

なお、画像ＤＢ１７５が撮像画像を記憶している期間の時間長さは、撮像装置１００により撮像されてから経過した時間の長さであってもよい。また、画像ＤＢ１７５が撮像画像を記憶している期間の時間長さは、表示装置１８０に最後に供給された時刻から経過した時間の長さであってもよい。

また、記憶残量取得部３８２は、画像ＤＢ１７５がさらに記憶することができる記憶残量を取得する。そして、条件判断部３６５は、記憶残量取得部３８２が取得した記憶残量が予め定められた値より小さいことを示す条件が満たされているか否かを判断する。そして、圧縮判断部３６０は、記憶残量が条件を満たしていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。

出力許容量取得部３８３は、撮像画像が出力される出力先に出力することができる出力許容量を取得する。そして、条件判断部３６５は、出力許容量取得部３８３が取得した出力許容量が予め定められた値より小さいことを示す条件が満たされているか否かを判断する。そして、圧縮判断部３６０は、出力許容量が条件を満たしていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。

なお、撮像画像が出力される出力先としては、通信ネットワーク１１０、表示装置１８０を例示することができる。また、出力先に出力することができる出力許容量としては、出力先が通信ネットワーク１１０である場合には、通信ネットワーク１１０のネットワーク帯域幅を例示することができ、出力先が表示装置１８０である場合には、表示装置１８０が処理することができる単位時間あたりのデータ量、表示装置１８０が有するバッファ残量あるいは表示装置１８０用に用意された画像処理装置１７０側のバッファ残量等を例示することができる。

なお、ネットワーク帯域幅としては、契約している帯域幅、ネットワークの輻輳量に応じて定められる帯域幅を例示することができる。また、ネットワークの輻輳量は、表示装置１８０との間における通信パケットがロスしたパケットロス量、画像処理装置１７０が受信した動画におけるブロック抜け量を指標とすることができる。なお、画像処理装置１７０は、表示装置１８０との間における通信パケットがロスしたパケットロス量、あるいは画像処理装置１７０が受信した動画におけるブロック抜け量は、表示装置１８０からのフィードバックにより取得してもよい。

他にも、権限取得部３８４は、画像処理装置１７０から表示装置１８０に出力される動画を閲覧する閲覧権限を取得する。そして、条件判断部３６５は、権限取得部３８４が取得した閲覧権限が予め定められた値より小さいことを示す条件が満たされているか否かを判断する。そして、圧縮判断部３６０は、閲覧権限が条件を満たしていると条件判断部３６５が判断した場合に、撮像画像をさらに圧縮すべき旨を判断する。なお、閲覧権限とは、表示装置１８０が表示する動画を閲覧する閲覧者の権限であってよい。また、閲覧権限とは、複数の表示装置１８０にそれぞれ予め割り当てられている権限であってもよい。なお、圧縮部３４０は、複数の撮像画像のそれぞれにおける複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類および閲覧権限に応じた画質に低減することにより、撮像画像を圧縮してよい。

なお、画像ＤＢ１７５は、複数の撮像装置１００のそれぞれによって撮像された複数の動画を記憶している。この場合、圧縮判断部３６０は、画像ＤＢ１７５にそれぞれ記憶されている複数の動画に含まれる複数の撮像画像のそれぞれについて圧縮すべきか否かを判断してよい。そして、圧縮部３４０は、圧縮判断部３６０が少なくとも一の撮像画像を圧縮すべき旨を判断した場合に、少なくとも一の動画に含まれる撮像画像における複数の特徴領域のうちの少なくとも一の特徴領域において、圧縮判断部３６０が複数の撮像画像のそれぞれについて判断した判断結果に応じた強度で圧縮してよい。なお、圧縮判断部３６０による判断結果としては、条件取得部３７０が取得した条件が満たされているか否か、または、当該条件への適合度を例示することができる。また、異なる複数の条件がある場合には、圧縮判断部３６０による判断結果としては、満たされている条件の組み合わせ、または、複数の条件のそれぞれへの適合度などを例示することができる。

なお、図２に関連して、圧縮判断部２６０、条件判断部２６５、条件取得部２７０、および出力許容量取得部２８３の動作、ならびに圧縮判断部２６０が撮像画像をさらに圧縮する旨を判断した場合における圧縮部２４０の動作の概略を説明したが、圧縮判断部２６０、条件判断部２６５、条件取得部２７０、および出力許容量取得部２８３は、それぞれ圧縮判断部３６０、条件判断部３６５、条件取得部３７０、および出力許容量取得部３８３と同様に動作することができる。なお、画像処理システム１０は、画像処理装置１２０が有する各構成要素および画像処理装置１７０が有する各構成要素を組み合わせた構成要素を有する一の画像処理装置を備えてよいことは言うまでもない。

図５は、圧縮部２４０の他のブロック構成の一例を示す。本構成における圧縮部２４０は、特徴の種類に応じた空間スケーラブルな符号化処理によって複数の撮像画像を圧縮する。

本構成における圧縮部２４０は、画質変換部５１０、差分処理部５２０、および符号化部５３０を有する。差分処理部５２０は、複数の階層間差分処理部５２２ａ−ｄ（以下、階層間差分処理部５２２と総称する。）を含む。符号化部５３０は、複数の符号器５３２ａ−ｄ（以下、符号器５３２と総称する。）を含む。

画質変換部５１０は、画像取得部２５０から複数の撮像画像を取得する。また、画質変換部５１０は、特徴領域検出部２０３が検出した特徴領域を特定する情報および特徴領域の特徴の種類を特定する情報を取得する。そして、画質変換部５１０は、撮像画像を複製することにより、特徴領域の特徴の種類の数の撮像画像を生成する。そして、画質変換部５１０は、生成した撮像画像を、特徴の種類に応じた解像度の画像に変換する。

例えば、画質変換部５１０は、背景領域に応じた解像度に変換された撮像画像（以後、低解像度画像と呼ぶ。）、第１の特徴の種類に応じた第１解像度に変換された撮像画像（第１解像度画像と呼ぶ。）、第２の特徴の種類に応じた第２解像度に変換された撮像画像（第２解像度画像と呼ぶ。）、および第３の特徴の種類に応じた第３解像度に変換された撮像画像（第３解像度画像と呼ぶ。）を生成する。なお、ここでは、第１解像度画像は低解像度画像より解像度が高く、第２解像度画像は第１解像度画像より解像度が高く、第３解像度画像は第２解像度画像より解像度が高いとする。

そして、画質変換部５１０は、低解像度画像、第１解像度画像、第２解像度画像、および第３解像度画像を、それぞれ階層間差分処理部５２２ｄ、階層間差分処理部５２２ａ、階層間差分処理部５２２ｂ、および階層間差分処理部５２２ｃに供給する。なお、画質変換部５１０は、複数の撮像画像のそれぞれについて上記の画質変換処理することにより、階層間差分処理部５２２のそれぞれに動画を供給する。

なお、画質変換部５１０は、特徴領域の特徴の種類に応じて、階層間差分処理部５２２のそれぞれに供給する動画のフレームレートを変換してよい。例えば、画質変換部５１０は、階層間差分処理部５２２ａに供給する動画より低いフレームレートの動画を階層間差分処理部５２２ｄに供給してよい。また、画質変換部５１０は、階層間差分処理部５２２ｂに供給する動画より低いフレームレートの動画を階層間差分処理部５２２ａに供給してよく、階層間差分処理部５２２ｃに供給する動画より低いフレームレートの動画を階層間差分処理部５２２ｂに供給してよい。なお、画質変換部５１０は、特徴領域の特徴の種類に応じて撮像画像を間引くことによって、階層間差分処理部５２２に供給する動画のフレームレートを変換してよい。なお、上述したように圧縮部２４０では、圧縮される画素の位置が時間的にシフトされるが、圧縮される画素は画質変換部５１０において選択されてよい。

階層間差分処理部５２２ｄおよび符号器５３２ｄは、複数の低解像度画像を含む背景領域動画を予測符号化する。具体的には、階層間差分処理部５２２は、他の低解像度画像から生成された予測画像との差分画像を生成する。そして、符号器５３２ｄは、差分画像を空間周波数成分に変換して得られた変換係数を量子化して、量子化された変換係数をエントロピー符号化等により符号化する。なお、このような予測符号化処理は、低解像度画像の部分領域毎に行われてよい。

また、階層間差分処理部５２２ａは、画質変換部５１０から供給された複数の第１解像度画像を含む第１特徴領域動画を予測符号化する。同様に、階層間差分処理部５２２ｂおよび階層間差分処理部５２２ｃは、それぞれ複数の第２解像度画像を含む第２特徴領域動画および複数の第３解像度画像を含む第３特徴領域動画を予測符号化する。以下に、階層間差分処理部５２２ａおよび符号器５３２ａの具体的な動作について説明する。

階層間差分処理部５２２ａは、符号器５３２ｄによる符号化後の第１解像度画像を復号して、復号した画像を第１解像度と同じ解像度の画像に拡大する。そして、階層間差分処理部５２２ａは、拡大した画像と低解像度画像との間の差分画像を生成する。このとき、階層間差分処理部５２２ａは、背景領域における差分値を０にする。そして、符号器５３２ａは、差分画像を符号器５３２ｄと同様に符号化する。なお、階層間差分処理部５２２ａおよび符号器５３２ａによる符号化処理は、第１解像度画像の部分領域毎に施されてよい。

なお、階層間差分処理部５２２ａは、第１解像度画像を符号化する場合に、低解像度画像との間の差分画像を符号化した場合に予測される符号量と、他の第１解像度画像から生成された予測画像との間の差分画像を符号化した場合に予測される符号量とを比較する。後者の符号量の方が小さい場合には、階層間差分処理部５２２ａは、他の第１解像度画像から生成された予測画像との間の差分画像を生成する。なお、階層間差分処理部５２２ａは、低解像度画像または予測画像との差分をとらずに符号化した方が符号量が小さくなることが予測される場合には、低解像度画像または予測画像との間で差分をとらなくてもよい。

また、階層間差分処理部５２２ａは、背景領域における差分値を０にしなくてもよい。この場合、符号器５３２ａは、特徴領域以外の領域における差分情報に対する符号化後のデータを０にしてもよい。例えば、符号器５３２ａは、周波数成分に変換した後の変換係数を０にしてよい。なお、階層間差分処理部５２２ｄが予測符号化した場合の動きベクトル情報は、階層間差分処理部５２２ａに供給される。階層間差分処理部５２２ａは、階層間差分処理部５２２ｄから供給された動きベクトル情報を用いて、予測画像用の動きベクトルを算出してよい。

なお、階層間差分処理部５２２ｂおよび符号器５３２ｂの動作は、第２解像度画像を符号化するという点、および第２解像度画像を符号化する場合に、符号器５３２ａによる符号化後の第１解像度画像との差分をとる場合があるという点を除いて、階層間差分処理部５２２ｂおよび符号器５３２ｂの動作は階層間差分処理部５２２ａおよび符号器５３２ａの動作と略同一であるので、説明を省略する。同様に、階層間差分処理部５２２ｃおよび符号器５３２ｃの動作は、第３解像度画像を符号化するという点、および第３解像度画像を符号化を符号化する場合に、符号器５３２ｂによる符号化後の第２解像度画像との差分をとる場合があるという点を除いて、階層間差分処理部５２２ａおよび符号器５３２ａの動作と略同一であるので、説明を省略する。

以上説明したように、画質変換部５１０は、複数の撮像画像のそれぞれから、画質を低画質にした低画質画像、および少なくとも特徴領域において低画質画像より高画質な特徴領域画像を生成する。そして、差分処理部５２０は、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する。そして、符号化部５３０は、特徴領域差分画像および低画質画像をそれぞれ符号化する。

また、画質変換部５１０は、複数の撮像画像から解像度が低減された低画質画像を生成して、差分処理部５２０は、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像を拡大した画像との間の特徴領域差分画像を生成する。また、差分処理部５２０は、特徴領域において特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成する。

以上説明したように、圧縮部２４０は、解像度が異なる複数の階層間の画像の差分を符号化することによって階層的に符号化する。このことからも明らかなように、本構成の圧縮部２４０による圧縮方式の一部は、Ｈ．２６４／ＳＶＣによる圧縮方式を含むことが明らかである。なお、画像処理装置１７０がこのような階層化された圧縮動画を伸張する場合には、各階層の動画データを復号して、階層間差分により符号化されている領域については、差分がとられた階層で復号された撮像画像との加算処理により、元の解像度の撮像画像を生成することができる。

なお、図４に関連して説明した圧縮部３４０は、図３または図５に関連して説明した圧縮部２４０と同様の構成要素を有してよい。例えば、圧縮処理部２３６または画質変換部５１０において、複数の特徴領域および特徴領域以外の領域のそれぞれにおける画質を調整することができる。

図６は、画像ＤＢ１７５が記憶している特徴領域情報の一例をテーブル形式で示す。画像ＤＢ１７５は、フレームＩＤに対応づけて、特徴領域の位置を示す座標データを記憶している。フレームＩＤは、動画ストリームに動画構成画像として含まれる複数の撮像画像のそれぞれを識別する情報であってよい。

具体的には、画像ＤＢ１７５は、特徴領域の位置を示す座標データとして、人物の頭部の領域の位置を示す座標データ、人物の体部の領域の位置を示す座標データ、および移動体の領域の位置を示す座標データを記憶している。本図では、特徴領域が矩形である場合の座標データの一例が示されている。具体的には、画像ＤＢ１７５は、矩形の特徴領域において対角に位置する頂点の座標を、座標データとして記憶している。

このように、画像ＤＢ１７５は、撮像画像における特徴領域を示す情報に対応づけて、撮像画像を記憶している。また、画像ＤＢ１７５は、複数の撮像画像のそれぞれにおける複数の特徴領域のそれぞれを示す情報に対応づけて、複数の撮像画像を記憶している。このため、画像処理装置１７０は、特定の種類の特徴領域の位置を容易に特定することができる。

図７は、圧縮部３４０によって低減されるべき符号量の目標値の一例をテーブル形式で示す。圧縮部３４０は、出力データ量から許容データ量を減じた値を示すΔに対応づけて、複数の特徴領域および特徴領域以外の領域のそれぞれにおいて低減されるべき符号量の割合を記憶している。なお、出力データ量は、例えば、画像ＤＢ１７５が記憶している動画を出力した場合に出力される単位時間あたりのデータ量であってよい。また、許容データ量は、例えば通信ネットワーク１１０または表示装置１８０に出力することができる単位時間あたりのデータ量であり、この発明における出力許容量の一例であってよい。なお、以下の説明では、特徴領域以外の領域を非特徴領域と称する場合がある。

圧縮判断部３６０は、出力データ量が許容データ量を上回る場合に、撮像画像をさらに圧縮すべき旨を判断する。このとき、圧縮部３４０は、撮像画像の符号量をΔの大きさだけ低減すべく、撮像画像をさらに圧縮する。

このとき、圧縮部３４０は、Δが０より大きくα１より小さい場合には、低減する全符号量である全低減量のうちの５％の符号量を移動体の領域から、全低減量のうちの９５％の符号量を非特徴領域から低減することを目標とする。また、圧縮部３４０は、Δがα１以上でありα２より小さい場合には、全低減量のうちの５％の符号量を体部の領域から、全低減量のうちの１０％の符号量を移動体の領域から、全低減量のうちの８５％の符号量を非特徴領域から低減することを目標とする。また、圧縮部３４０は、Δがα２以上でありα３より小さい場合には、全低減量のうちの５％の符号量を頭部の領域から、全低減量のうちの１０％の符号量を体部の領域から、全低減量のうちの１５％の符号量を移動体の領域から、全低減量のうちの７０％の符号量を非特徴領域から低減することを目標とする。

このように、圧縮部３４０は、特徴領域の特徴の種類、および出力データ量と出力データ量との差に対応づけて、低減すべき符号量の量を対応づけて記憶している。そして、圧縮部３４０は、複数の特徴領域のそれぞれについて、特徴領域の特徴の種類、および出力データ量と出力データ量との差に対応づけて記憶している量だけ符号量を低減すべく、複数の特徴領域の画像をそれぞれ圧縮する。また、圧縮部３４０は、出力データ量と出力データ量との差に対応づけて、特徴領域以外の領域において低減すべき符号量の量を記憶している。そして、圧縮部３４０は、出力データ量と出力データ量との差に対応づけて記憶している量だけ特徴領域以外の領域における符号量を低減すべく、撮像画像における特徴領域以外の領域を圧縮する。

また、圧縮判断部３６０が撮像画像をさらに圧縮すべき旨を判断した場合に、圧縮部３４０は、特徴領域より非特徴領域をより優先して選択して、選択した領域を圧縮する。また、圧縮部３４０は、頭部の領域より体部の領域をより優先して選択するとともに、体部の領域より移動体の領域をより優先して選択して、選択した領域を圧縮する。このように、圧縮部３４０は、特徴の種類が異なる複数の特徴領域のそれぞれを、特徴の種類に応じて予め定められた優先度の順で選択して、選択した領域を圧縮する。

なお、Δの他にも、圧縮部３４０は、記憶期間、記憶残量、または閲覧権限の少なくともいずれかに対応づけて、低減すべき符号量の割合を記憶してよい。また、圧縮部３４０は、Δ、記憶期間、記憶残量、および閲覧権限の任意の組み合わせに対応づけて低減すべき符号量の割合を記憶してもよい。そして、圧縮部３４０は、本図に関連して説明した動作と同様に、記憶している符号量の割合に基づき、複数の特徴領域、および非特徴領域の画像をそれぞれ圧縮することができる。

図８は、圧縮部３４０が圧縮する圧縮方法の一例を示す。圧縮部３４０は、異なる複数種類の圧縮方法を、圧縮方法が選択される優先度に対応づけて記憶している。圧縮部３４０による圧縮方法としては、空間周波数の高周波成分を低減する圧縮方法を示す高周波成分低減、階調数を低減する圧縮方法を示す階調数低減、色数を低減する圧縮方法を示す色数低減、フレームレートを低減する圧縮方法を示すフレームレート低減、および解像度を低減する圧縮方法を示す解像度低減を例示することができる。

圧縮部３４０は、複数の特徴領域および非特徴領域のそれぞれの領域について、低減すべき符号量の量に応じて、高周波成分低減、階調数低減、色数低減、フレームレート低減、および解像度低減の順で、圧縮方法を選択する。例えば、圧縮部３４０は、各領域の画像を圧縮する場合に、高周波成分低減によって、低減すべき量の符号量を低減することができる場合には、高周波成分低減によって圧縮する。また、圧縮部３４０は、高周波成分低減だけでは低減すべき量の符号量を低減することができず、さらに階調数低減によって低減すべき量の符号量を低減することができる場合には、高周波成分低減および階調数低減によって圧縮する。このように、圧縮部３４０は、複数の特徴領域および非特徴領域のそれぞれの領域について、低減すべき符号量の量に応じて圧縮方法を選択して、選択した圧縮方法で複数の特徴領域および非特徴領域のそれぞれの領域の画像を圧縮する。

なお、高周波成分低減、階調数低減、色数低減、フレームレート低減、および解像度低減のそれぞれの圧縮方法について、低減することができる符号量の上限値が予め定められていてよい。そして、圧縮部３４０は、低減すべき量だけ符号量を低減することができる１以上の圧縮方法を、当該上限値および優先度に基づき選択してよい。また、本図で説明した圧縮方法の優先度は、特徴領域の特徴の種類毎に定められていてよい。そして、圧縮部３４０は、特徴領域の特徴の種類のそれぞれについて、特徴領域の特徴の種類毎に定められた優先度で圧縮方法を選択して、選択した圧縮方法で圧縮してよい。

図９は、画像処理装置１７０により圧縮される処理フローの一例を示す。本図の例では、表示装置１８０から動画を送信するよう要求された場合における画像処理装置１７０の処理フローの一例を示す。なお、画像処理装置１７０は、動画を送信する前に、表示装置１８０を利用して動画を閲覧するユーザから、表示装置１８０を通じてユーザＩＤおよびパスワードを取得して、取得したユーザＩＤおよびパスワードを用いて認証する。

そして、権限取得部３８４がユーザＩＤを取得するとともに、表示装置１８０が処理することができる処理許容量を出力許容量取得部３８３が取得する（Ｓ９０２）。なお、出力許容量取得部２８３は、処理許容量を表示装置１８０からのフィードバックにより取得してもよく、表示装置１８０に応じて予め定められた処理許容量を取得してもよい。

そして、画像取得部３０１は、１ＧＯＰの動画データを画像ＤＢ１７５から取得するとともに、動画データに含まれる複数の撮像画像における特徴領域の位置を画像ＤＢ１７５から読み出す（Ｓ９０４）。そして、出力許容量取得部３８３は、通信ネットワーク１１０のネットワーク帯域幅を取得する（Ｓ９０６）。なお、出力許容量取得部３８３は、上述したように、表示装置１８０に送信することができる帯域幅として予め定められた帯域幅、利用することが許容されている通信ネットワーク１１０の帯域幅、あるいは通信ネットワーク１１０における輻輳量等に基づいて、ネットワーク帯域幅を定めることができる。

そして、圧縮判断部３６０は、Ｓ９０６で取得したネットワーク帯域幅およびＳ９０２で取得した処理許容量に基づいて、許容データ量を決定する。例えば、ネットワーク帯域幅および処理許容量の小さい方を、許容データ量としてよい。そして、圧縮判断部３６０は、許容データ量と出力データ量とを比較して、さらに圧縮すべきか否かを判断する（Ｓ９０７）。

Ｓ９０７において、圧縮判断部３６０がさらに圧縮すべき旨を判断した場合には、圧縮部３４０は、複数の特徴領域のそれぞれおよび非特徴領域における目標符号量を決定する（Ｓ９０８）。なお、圧縮部３４０は、図７に関連して説明したΔの値、および図７に関連して説明した低減する符号量の割合、および複数の特徴領域および非特徴領域のそれぞれにおける符号量から、複数の特徴領域のそれぞれおよび非特徴領域における目標符号量を決定することができる。

そして、圧縮部３４０は、複数の特徴領域および非特徴領域のそれぞれにおける符号量がＳ９０８で決定した目標符号量になるよう、Ｓ９０４で取得した動画データに含まれる撮像画像を圧縮する（Ｓ９１０）。そして、画像処理装置１７０は、Ｓ９１０で圧縮された動画データを送信する（Ｓ９１２）。なお、Ｓ９０７において圧縮判断部３６０がさらに圧縮しない旨を判断した場合には、画像処理装置１７０は、Ｓ９０４で取得した動画データを送信することができる。

そして、画像処理装置１７０は、送信すべき動画における最後のＧＯＰを処理したか否かを判断する（Ｓ９１４）。最後のＧＯＰを処理していない場合にはＳ９０４に処理を戻す。最後のＧＯＰを処理した場合には処理を終了する。なお、本図の説明では、画像処理装置１７０の動作を分かりやすく説明することを目的として、動画データを１ＧＯＰ毎に処理して送信する場合を例に挙げて画像処理装置１７０の動作を説明したが、画像処理装置１７０は、１ＧＯＰに限らず、任意の単位で動画データを処理することができることは言うまでもない。以上説明したように、画像処理システム１０によると、通信ネットワーク１１０の帯域幅または表示装置１８０が処理することができる処理速度に応じて、適切な符号量の動画を提供することができる。

なお、本図に関連して、表示装置１８０に動画を送信する場合を例に挙げて画像処理装置１７０の処理フローの一例を説明した。他にも、画像処理装置１７０は、所定の時間間隔で定期的に画像ＤＢ１７５の記憶残量を取得して、取得した記憶残量が予め定められた値より小さい場合に、画像ＤＢ１７５に記憶されている動画をさらに圧縮することができる。また、画像処理装置１７０は、所定の時間間隔で定期的に画像ＤＢ１７５に記憶されている動画の記憶期間を取得して、取得した記憶期間が予め定められた値より大きい場合に、画像ＤＢ１７５に記憶されている動画をさらに圧縮することができる。このため、画像処理システム１０によると、画像ＤＢ１７５の利用効率が著しく低下してしまうことを未然に防ぐことができる場合がある。

図１０は、他の実施形態に係る画像処理システム２０の一例を示す。本実施形態における画像処理システム２０の構成は、撮像装置１００ａ−ｄがそれぞれ画像処理部８０４ａ−ｄ（以下、画像処理部８０４と総称する。）を有する点を除いて、図１で説明した画像処理システム１０の構成と同じとなっている。

画像処理部８０４は、画像処理装置１２０に含まれる構成要素のうち、画像取得部２５０を除く構成要素を有している。そして、画像処理部８０４に含まれる各構成要素の機能および動作は、画像処理装置１２０に含まれる各構成要素が圧縮動画伸張部２０２による伸張処理によって得られた動画を処理することに替えて、撮像部１０２によって撮像された動画を処理するという点を除いて、画像処理装置１２０に含まれる各構成要素の機能および動作と略同一であってよい。このような構成の画像処理システム２０においても、図１から図９にかけて画像処理システム１０に関連して説明した効果と同様の効果が得ることができる。

なお、画像処理部８０４は、撮像部１０２からＲＡＷ形式で表された複数の撮像画像を含む動画を取得して、取得した動画に含まれるＲＡＷ形式で表された複数の撮像画像をＲＡＷ形式のまま圧縮してよい。なお、画像処理部８０４は、ＲＡＷ形式で表された複数の撮像画像から１以上の特徴領域を検出してよい。また、画像処理部８０４は、圧縮されたＲＡＷ形式の複数の撮像画像を含む動画を圧縮してよい。なお、画像処理部８０４は、動画を、図１〜図９に関連して画像処理装置１２０の動作として説明した圧縮方法で圧縮することができる。また、画像処理装置１７０は、画像処理部８０４から取得した動画を伸張することにより、ＲＡＷ形式で表された複数の撮像画像を取得することができる。画像処理装置１７０は、伸張することにより取得されたＲＡＷ形式で表された複数の撮像画像をそれぞれ領域毎に拡大して、領域毎に同時化処理を施す。このとき、画像処理装置１７０は、特徴領域以外の領域より、特徴領域においてより高精度な同時化処理を施してよい。

なお、画像処理装置１７０は、同時化処理によって得られた撮像画像における特徴領域の画像に、超解像処理を施してよい。画像処理装置１７０における超解像処理としては、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づく超解像処理、あるいは特開２００４−８８６１５号公報に記載されたような被写体の動きに基づく超解像処理を例示することができる。

なお、画像処理装置１７０は、特徴領域に含まれるオブジェクト毎に、超解像処理を施してよい。例えば、特徴領域が人物の顔画像を含む場合に、画像処理装置１７０は、オブジェクトの一例としての顔部位（例えば、目、鼻、口など）毎に、超解像処理を施す。この場合、画像処理装置１７０は、特開２００６−３５０４９８号公報に記載されたようなモデル等の学習データを、顔部位（例えば、目、鼻、口など）毎に記憶しておく。そして、画像処理装置１７０は、特徴領域に含まれる顔部位毎に選択した学習データを使用して、各顔部位の画像に超解像処理を施してよい。

このように、画像処理装置１７０は、主成分分析（ＰＣＡ）を用いて特徴領域の画像を再構成することができる。なお、画像処理装置１７０による画像再構成手法、および当該画像再構成用の学習法としては、主成分分析（ＰＣＡ）による学習・画像再構成の他に、局所保存投影（ｌｏｃａｌｉｔｙｐｒｅｓｅｒｖｉｎｇｐｒｏｊｅｃｔｉｏｎ：ＬＰＰ）、線形判別分析（ＬｉｎｅａｒＤｉｓｃｒｉｍｉｎａｎｔＡｎａｌｙｓｉｓ：ＬＤＡ）、独立成分分析（Ｉｎｄｅｐｅｎｄｅｎｔｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓ：ＩＣＡ）、多次元スケーリング（ｍｕｌｔｉｄｉｍｅｎｓｉｏｎａｌｓｃａｌｉｎｇ：ＭＤＳ）、サポートベクターマシン（サポートベクター回帰）、ニューラルネットワーク、隠れマルコフモデル、Ｂａｙｅｓ推論、最大事後確率推定、反復逆投影、Ｗａｖｅｌｅｔ変換、局所線形埋め込み（ｌｏｃａｌｌｙｌｉｎｅａｒｅｍｂｅｄｄｉｎｇ：ＬＬＥ）、マルコフランダム場（Ｍａｒｋｏｖｒａｎｄｏｍｆｉｅｌｄ：ＭＲＦ）等の手法を用いることができる。

また、学習データとしては、特開２００６−３５０４９８号公報に記載されたようなモデルの他に、オブジェクトの多数のサンプル画像からそれぞれ抽出された、オブジェクトの画像の低周波成分および高周波成分を含んでよい。ここで、複数のオブジェクトの種類のそれぞれについてオブジェクトの画像の低周波成分をＫ−ｍｅａｎｓ法等によってクラスタリングすることによって、複数のオブジェクトの種類のそれぞれにおいてオブジェクトの画像の低周波成分が複数のクラスタにクラスタリングされていてよい。また、各クラスタ毎に代表的な低周波成分（例えば、重心値）が定められていてよい。

そして、画像処理装置１７０は、撮像画像における特徴領域に含まれるオブジェクトの画像から低周波成分を抽出する。そして、画像処理装置１７０は、抽出したオブジェクトの種類のオブジェクトのサンプル画像から抽出された低周波成分のクラスタのうち、抽出した低周波成分に適合する値が代表的な低周波成分として定められたクラスタを特定する。そして、画像処理装置１７０は、特定したクラスタに含まれる低周波成分に対応づけられている高周波成分のクラスタを特定する。このようにして、画像処理装置１７０は、撮像画像に含まれるオブジェクトから抽出された低周波成分に相関のある高周波成分のクラスタを特定することができる。そして、画像処理装置１７０は、特定した高周波成分のクラスタを代表する高周波成分を用いて、オブジェクトの画像をより高画質な高画質画像に変換してよい。例えば、画像処理装置１７０は、各オブジェクトの中心から顔上の処理対象位置までの距離に応じた重みでオブジェクト毎に選択された当該高周波成分をオブジェクトの画像に加算してよい。なお、当該代表する高周波成分は、閉ループ学習によって生成されてよい。このように、画像処理装置１７０は、各オブジェクト毎に学習することによって生成された学習データの中から、望ましい学習データをオブジェクト毎に選択して利用するので、オブジェクトの画像をより高い精度で高画質化することができる場合がある。

なお、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づく超解像処理では、主成分ベクトルおよび重みづけ係数により物体の画像が表される。これらの重みづけ係数および主成分ベクトルのデータ量は、物体の画像そのものが有する画素データのデータ量に比べて大幅に小さい。そこで、画像処理部８０４は、撮像部１０２から取得した複数の撮像画像における特徴領域の画像を圧縮する圧縮処理において、特徴領域に含まれる物体の画像から上記重みづけ係数を算出してよい。すなわち、画像処理部８０４は、特徴領域に含まれる物体の画像を、主成分ベクトルおよび重みづけ係数で表すことによって圧縮することができる。そして、画像処理部８０４は、主成分ベクトルおよび重みづけ係数を画像処理装置１７０に送信してよい。この場合、画像処理装置１７０においては、画像処理部８０４から取得した主成分ベクトルおよび重みづけ係数を用いて、特徴領域に含まれる物体の画像を再構成することができる。なお、画像処理部８０４は、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づくモデルの他に、種々の特徴パラメータで物体を表現するモデルを利用して特徴領域に含まれる物体の画像を圧縮することができることはいうまでもない。なお、図１〜９に関連して説明した画像処理システム１０の構成においても、画像処理装置１７０は、特徴領域の画像に上述した超解像処理を施すことができる。また、画像処理システム１０および画像処理システム２０において、圧縮部３４０は、上述した画像処理装置１２０と同様に、画像を主成分ベクトルおよび重みづけ係数で表すことによって、撮像画像をさらに圧縮することもできる。

図１１は、画像処理装置１２０および画像処理装置１７０として機能するコンピュータなどの電子情報処理装置１５００のハードウェア構成の一例を示す。電子情報処理装置１５００は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、及び表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、及びＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０を有する。

ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、より高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、及びグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、及びＲＡＭ１５２０に格納されたプログラムの内容に応じて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。

入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、及びデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。

入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、電子情報処理装置１５００が起動するときに実行するブート・プログラム、あるいは電子情報処理装置１５００のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。

ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。ＣＰＵ１５０５により実行されるプログラムは、電子情報処理装置１５００を、図１から図１０に関連して説明した画像処理装置１２０が有する各構成要素、あるいは図１から図１０に関連して説明した画像処理装置１７０が有する各構成要素として機能させる。

以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとして電子情報処理装置１５００に提供してもよい。このように、プログラムにより制御される電子情報処理装置１５００が、画像処理装置１２０および画像処理装置１７０として機能する。

以上、本発明を実施の形態を用いて説明したが、この発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

一実施形態に係わる画像処理システム１０の一例を示す図である。画像処理装置１２０のブロック構成の一例を示す図である。圧縮部２４０のブロック構成の一例を示す図である。画像処理装置１７０のブロック構成の一例を示す図である。圧縮部２４０の他のブロック構成の一例を示す図である。画像ＤＢ１７５が記憶している特徴領域情報の一例をテーブル形式で示す図である。圧縮部３４０によって低減されるべき符号量の目標値の一例をテーブル形式で示す図である。圧縮部３４０が圧縮する圧縮方法の一例を示す図である。画像処理装置１７０により圧縮される処理フローの一例を示す図である。他の実施形態に係る画像処理システム２０の一例を示す図である。画像処理装置１２０および画像処理装置１７０として機能する電子情報処理装置１５００のハードウェア構成の一例を示す。

符号の説明

１０画像処理システム
２０画像処理システム
１００撮像装置
１０２撮像部
１０４撮像画像圧縮部
１１０通信ネットワーク
１２０画像処理装置
１３０人物
１４０移動体
１５０監視対象空間
１６０空間
１６５空間
１７０画像処理装置
１７５画像ＤＢ
１８０表示装置
２０１圧縮動画取得部
２０２圧縮動画伸張部
２０３特徴領域検出部
２０６対応付け処理部
２０７出力部
２１０圧縮制御部
２４０圧縮部
２３２画像分割部
２３４固定値化部
２３６圧縮処理部
２５０画像取得部
２６０圧縮判断部
２６５条件判断部
２７０条件取得部
２８３出力許容量取得部
３０１画像取得部
３０２対応付け解析部
３１０伸張制御部
３２０伸張部
３２２復号器
３３０合成部
３４０圧縮部
３６０圧縮判断部
３６５条件判断部
３７０条件取得部
３８０判断情報取得部
３８１記憶期間取得部
３８２記憶残量取得部
３８３出力許容量取得部
３８４権限取得部
５１０画質変換部
５２０差分処理部
５２２階層間差分処理部
５３０符号化部
５３２符号器
８０４画像処理部
１５００電子情報処理装置
１５０５ＣＰＵ
１５１０ＲＯＭ
１５２０ＲＡＭ
１５３０通信インターフェイス
１５４０ハードディスクドライブ
１５５０フレキシブルディスク・ドライブ
１５６０ＣＤ−ＲＯＭドライブ
１５７０入出力チップ
１５７５グラフィック・コントローラ
１５８０表示デバイス
１５８２ホスト・コントローラ
１５８４入出力コントローラ
１５９０フレキシブルディスク
１５９５ＣＤ−ＲＯＭ
１５９８ネットワーク通信装置

Claims

画像を記憶する記憶部と、
前記画像を圧縮すべきか否かを判断する圧縮判断部と、
前記圧縮判断部が前記画像を圧縮すべき旨を判断した場合に、前記画像を、前記画像における特徴領域と、前記画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する圧縮部と
を備え、
前記圧縮部は、画像を出力した場合の出力データ量と画像の出力先に出力することができる出力許容量との差であるデータ量差に対応づけて、特徴の種類が異なる複数の特徴領域および特徴領域以外の領域のそれぞれの領域において低減されるべき符号量の割合を予め記憶しており、
前記圧縮部は、前記圧縮判断部が前記記憶部に記憶されている画像を圧縮すべき旨を判断した場合に、当該画像における複数の特徴領域のそれぞれを、当該画像を出力した場合のデータ量差に対応づけて予め記憶したそれぞれの種類の特徴領域において低減されるべき符号量の割合だけそれぞれの特徴領域における符号量を低減すべく圧縮するとともに、当該画像における特徴領域以外の領域を、当該データ量差に対応づけて予め記憶した特徴領域以外の領域において低減されるべき符号量の割合だけ当該画像における特徴領域以外の領域における符号量を低減すべく圧縮する
画像処理システム。
前記記憶部は、圧縮された画像を記憶しており、
前記圧縮判断部は、前記画像をさらに圧縮すべきか否かを判断し、
前記圧縮部は、前記圧縮判断部が前記画像をさらに圧縮すべき旨を判断した場合に、前記画像を、前記画像における特徴領域と、前記画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する
請求項１に記載の画像処理システム。
前記圧縮部は、前記圧縮判断部が前記画像をさらに圧縮すべき旨を判断した場合に、前記予め記憶している複数の特徴領域および特徴領域以外の領域のそれぞれの領域において低減されるべき符号量の割合に基づいて、前記画像における特徴領域以外の領域において、前記画像における特徴領域より強い圧縮強度で圧縮する
請求項２に記載の画像処理システム。
前記記憶部は、前記画像における特徴領域を示す情報に対応づけて、前記画像を記憶しており、
前記圧縮部は、前記記憶部が前記画像に対応づけて記憶している情報が示す特徴領域以外の領域において、前記記憶部が前記画像に対応づけて記憶している情報が示す特徴領域より強い圧縮強度で圧縮する
請求項３に記載の画像処理システム。
前記記憶部は、前記画像である複数の動画構成画像を含む圧縮された動画を、前記動画における特徴領域を示す情報に対応づけて記憶しており、
前記圧縮部は、前記記憶部が記憶している前記動画を、前記記憶部が前記動画に対応づけて記憶している情報が示す前記動画における特徴領域以外の領域において、前記記憶部が前記動画に対応づけて記憶している情報が示す前記動画における特徴領域より強い圧縮強度で圧縮する
請求項４に記載の画像処理システム。
前記圧縮部は、前記複数の動画構成画像のそれぞれを、前記記憶部が前記動画に対応づけて記憶している情報が示す前記動画における特徴領域以外の領域において、前記記憶部が前記動画に対応づけて記憶している情報が示す前記動画における特徴領域より強い圧縮強度で圧縮する
請求項５に記載の画像処理システム。
前記記憶部は、前記複数の動画構成画像のそれぞれにおける特徴領域を示す情報に対応づけて、前記複数の動画構成画像を記憶しており、
前記圧縮部は、前記複数の動画構成画像のそれぞれを、前記複数の動画構成画像のそれぞれに対応づけて前記記憶部が記憶している情報が示す前記複数の動画構成画像のそれぞれにおける特徴領域以外の領域において、前記複数の動画構成画像のそれぞれにおける特徴領域より強い圧縮強度で圧縮する
請求項６に記載の画像処理システム。
前記記憶部は、前記複数の動画構成画像のそれぞれにおける複数の特徴領域のそれぞれを示す情報に対応づけて、前記複数の動画構成画像を記憶しており、
前記圧縮部は、前記予め記憶している特徴の種類が異なる複数の特徴領域のそれぞれの領域において低減されるべき符号量の割合に基づいて、前記複数の動画構成画像のそれぞれにおける複数の特徴領域のそれぞれの領域において、特徴領域の特徴の種類に応じた圧縮強度で圧縮する
請求項７に記載の画像処理システム。
前記圧縮部は、前記複数の動画構成画像のそれぞれにおける前記複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類に応じた画質に低減することにより、前記画像を圧縮する
請求項８に記載の画像処理システム。
前記記憶部は、前記複数の特徴領域のそれぞれを示す情報に対応づけて、前記複数の特徴領域のそれぞれにおいて特徴領域以外の領域より強い圧縮強度で圧縮された前記複数の動画構成画像を記憶しており、
前記圧縮部は、前記複数の特徴領域における画質より前記複数の特徴領域以外の領域における画質をより低減することにより、前記画像を圧縮する
請求項９に記載の画像処理システム。
前記記憶部は、前記複数の特徴領域のそれぞれを示す情報に対応づけて、前記複数の特徴領域のそれぞれにおいて特徴領域の特徴の種類に応じた圧縮強度で圧縮された前記複数の動画構成画像を記憶しており、
前記圧縮部は、前記複数の動画構成画像のそれぞれにおける前記複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類に応じた低減量で低減することにより、前記画像を圧縮する
請求項１０に記載の画像処理システム。
前記圧縮判断部が前記画像をさらに圧縮すべき旨を判断する場合に満たされるべき条件が満たされているか否かを判断する条件判断部
をさらに備え、
前記圧縮判断部は、前記条件が満たされていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項２から１１のいずれか一項に記載の画像処理システム。
前記条件判断部は、前記記憶部がさらに記憶することができる記憶残量が予め定められた値より小さいことを示す条件が満たされているか否かを判断し、
前記圧縮判断部は、前記記憶残量が前記条件を満たしていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項１２に記載の画像処理システム。
前記条件判断部は、前記記憶部が前記画像を記憶している期間の時間長さが予め定められた値より長いことを示す条件が満たされているか否かを判断し、
前記圧縮判断部は、前記記憶部が前記画像を記憶している期間の時間長さが前記条件を満たしていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項１２に記載の画像処理システム。
前記条件判断部は、前記画像が出力される出力先に出力することができる出力許容量が予め定められた値より小さいことを示す条件が満たされているか否かを判断し、
前記圧縮判断部は、前記出力許容量が前記条件を満たしていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項１２に記載の画像処理システム。
前記条件判断部は、前記画像を閲覧する閲覧権限が予め定められた値より小さいことを示す条件が満たされているか否かを判断し、
前記圧縮判断部は、前記閲覧権限が前記条件を満たしていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項１２に記載の画像処理システム。
前記圧縮部は、前記データ量差および前記閲覧権限に対応づけて、特徴の種類が異なる複数の特徴領域および特徴領域以外の領域のそれぞれの領域において低減されるべき符号量の割合を予め記憶しており、当該予め記憶している符号量の割合に基づいて、前記複数の特徴領域のそれぞれの画質を、特徴領域の特徴の種類および前記閲覧権限に応じた画質に低減することにより、前記画像を圧縮する
請求項１６に記載の画像処理システム。
前記条件を取得する条件取得部
をさらに備え、
前記条件判断部は、前記条件取得部が取得した前記条件が満たされていると前記条件判断部が判断した場合に、前記画像をさらに圧縮すべき旨を判断する
請求項１２から１７のいずれか一項に記載の画像処理システム。
前記圧縮部は、前記複数の特徴領域における解像度より前記複数の特徴領域以外の領域における解像度をより低減することにより、前記画像を圧縮する
請求項１から１８のいずれか一項に記載の画像処理システム。
前記圧縮部は、前記複数の特徴領域における色数より前記複数の特徴領域以外の領域における色数をより低減することにより、前記画像を圧縮する
請求項１から１８のいずれか一項に記載の画像処理システム。
前記圧縮部は、前記複数の特徴領域における階調数より前記複数の特徴領域以外の領域における階調数をより低減することにより、前記画像を圧縮する
請求項１から１８のいずれか一項に記載の画像処理システム。
前記圧縮部は、前記複数の特徴領域より前記複数の特徴領域以外の領域において、より高い周波数領域における周波数成分をより低減することにより、前記画像を圧縮する
請求項１から１８のいずれか一項に記載の画像処理システム。
コンピュータを、請求項１から２２のいずれか一項に記載の画像処理システムとして機能させるためのプログラム。
画像を出力した場合の出力データ量と画像の出力先に出力することができる出力許容量との差であるデータ量差に対応づけて、特徴の種類が異なる複数の特徴領域および特徴領域以外の領域のそれぞれの領域において低減されるべき符号量の割合を予め記憶する段階と、
画像を記憶する記憶段階と、
前記画像を圧縮すべきか否かを判断する圧縮判断段階と、
前記圧縮判断段階において前記画像を圧縮すべき旨が判断された場合に、前記画像を、前記画像における特徴領域と、前記画像における特徴領域以外の領域とで異なる圧縮強度で圧縮する圧縮段階と
を備え、
前記圧縮段階は、前記圧縮判断段階において前記画像を圧縮すべき旨が判断された場合に、前記画像における複数の特徴領域のそれぞれを、前記予め記憶する段階において前記画像を出力した場合のデータ量差に対応づけて記憶したそれぞれの種類の特徴領域において低減されるべき符号量の割合だけそれぞれの特徴領域における符号量を低減すべく圧縮するとともに、前記画像における前記複数の特徴領域以外の領域を、前記予め記憶する段階において当該データ量差に対応づけて記憶した特徴領域以外の領域において低減されるべき符号量の割合だけ前記画像における特徴領域以外の領域における符号量を低減すべく圧縮する
画像処理方法。