[go: up one dir, main page]

JP2006114979A - 画像符号化装置及びその方法 - Google Patents

画像符号化装置及びその方法 Download PDF

Info

Publication number
JP2006114979A
JP2006114979A JP2004297707A JP2004297707A JP2006114979A JP 2006114979 A JP2006114979 A JP 2006114979A JP 2004297707 A JP2004297707 A JP 2004297707A JP 2004297707 A JP2004297707 A JP 2004297707A JP 2006114979 A JP2006114979 A JP 2006114979A
Authority
JP
Japan
Prior art keywords
filter
image
filter processing
block
slice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004297707A
Other languages
English (en)
Other versions
JP4533081B2 (ja
JP2006114979A5 (ja
Inventor
Satoru Kobayashi
悟 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2004297707A priority Critical patent/JP4533081B2/ja
Priority to US11/238,703 priority patent/US7590296B2/en
Publication of JP2006114979A publication Critical patent/JP2006114979A/ja
Publication of JP2006114979A5 publication Critical patent/JP2006114979A5/ja
Application granted granted Critical
Publication of JP4533081B2 publication Critical patent/JP4533081B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】 人間の視覚特性に適した復号画像が得られるように、符号化時のフィルタ処理の制御を行うことを目的とする。
【解決手段】 入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックの画像パターンを判定する判定部(115)と、入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うループフィルタ(120)と、前記判定部で判定された画像パターンに基づいて、ループフィルタの処理を制御する制御部(118)とを備える。
【選択図】 図1

Description

本発明は、画像符号化装置及びその方法に関し、特に、H.264と呼ばれる符号化方式を採用した画像符号化装置及びその方法におけるループフィルタを制御する技術に関する。
動画像を高能率符号化するための技術として、MotionJPEGやMPEG1,2といった符号化方式が確立されている。各メーカーはこれらの符号化方式を利用して動画像を保存可能としたディジタルカメラやディジタルビデオカメラといった撮像装置或いはDVDレコーダーなどを開発し、製品化しており、ユーザーはこれらの装置或いはパーソナルコンピュータやDVDプレーヤーなどを用いて簡単に動画像を視聴することが可能となっている。
ところで、ディジタル化された動画像は膨大なデータ量となる。そこで、上記したMPEG1,2などよりも更なる高圧縮が望める動画像の符号化方式が研究され続けてきて、近年ITU−T(国際電気通信連合 電気通信標準化部門)とISO(国際標準化機構)によりH.264/MPEG−4 part10という符号化方式(以下、H.264と称す)が標準化された。
H.264の画像符号化方法について、図9のブロック図を参照して説明する。図9はH.264の符号化ブロック図を表わすものである。図9において、減算器101、整数変換部102、量子化部103、エントロピー符号化部104、逆量子化部105、逆整数変換部106、加算器107、フレームメモリ108及び111、イントラ予測部109、ループフィルタ110、インター予測部112、動き検出部113及びスイッチ114から構成され、入力画像データを符号化処理して符号化データを出力する。
入力画像データを所定の画素数で構成される複数のブロックに分割し、そのブロック単位で処理を行う。まず、減算器101は、入力画像データから予測画像データを減算し、画像残差データを出力する。予測画像データの生成については後述する。
整数変換部102は、減算器101から出力された画像残差データを直交変換処理して、変換係数を出力する。そして量子化部103は、上記変換係数を所定の量子化パラメータを用いて量子化する。
エントロピー符号化部104は、量子化部103で量子化された変換係数を入力し、これをエントロピー符号化して符号化データとして出力する。
一方、量子化部103で量子化された変換係数は予測画像データの生成にも使われる。逆量子化部105は、量子化部103で量子化された変換係数を逆量子化する。さらに、逆整数変換部106は逆量子化部105で逆量子化された変換係数を逆整数変換し、復号画像残差データとして出力する。加算器107は、復号画像残差データと後述する予測画像データとを加算し、再構成画像データとして出力する。
再構成画像データはフレームメモリ108に保存されるとともに、ループフィルタ110でフィルタ処理されたものが、フレームメモリ111に保存される。再構成画像データの中で、以降の予測処理で参照される可能性があるデータは、フレームメモリ108または111に暫くの期間、保存される。また、ループフィルタ110はノイズを除去する為に用いられる。
イントラ予測部109は、フレームメモリ108に保存された再構成画像データを用いてフレーム内予測処理を行い、予測画像データを生成する。また、インター予測部112は、フレームメモリ111に保存された再構成画像データを用いて、動き検出部113によって検出された動きベクトル情報に基づいてフレーム間予測処理を行い、予測画像データを生成する。動き検出部113は入力画像データにおける動きベクトルを検出し、検出した動きベクトル情報をインター予測部112とエントロピー符号化部104へ出力する。
スイッチ114は、イントラ予測、インター予測のどちらを用いるか選択するための選択部である。イントラ予測部109からの出力とインター予測部112からの出力の一方を選択して、選択された予測画像データを減算器101、加算器107へ出力する。以上がH.264の画像符号化方法に関する概要である。
H.264では、MPEG1,2とは異なり局部復号化された局部復号画像に対してフィルタ処理を行うループフィルタを備えることが規定されている。ここで、ループフィルタ110の構成についてさらに説明する。
ループフィルタ110は、4×4画素ブロック境界又は16×16画素ブロック境界の平滑化を行い、復号画像におけるブロック歪みを除去するとともに、動き補償処理により復号画像を参照する画像にブロック歪みが伝播するのを防ぐという効果を有する。H.264ではループフィルタ処理強度の制御は主にQパラメータと呼ばれる量子化値に応じて行われる。また、画像を分割する“スライス”におけるスライスヘッダに含まれるslice_alpha_c0_offset_div2、及び、slice_beta_offset_div2という2つのパラメータにより、スライス単位でループフィルタ処理強度の変更が可能となっている。以上が、H.264におけるループフィルタに関する説明である。
ところで、符号化器内のフィルタ処理の制御について開示した先行技術として、例えば特許文献1及び特許文献2が存在する。
特許文献1では、入力画像と動き補償された画像の差分画像を予測画像データとして使用するために、逆量子化した後に得られたDCT係数、つまり、復号画像残差データのDCT係数を用いて歪み発生を判定し、歪みの大きさにより復号画像残差データに行うフィルタ処理の強度を制御して、適応的な歪み除去を行っていた。
また、特許文献2では入力画像の画像パターンであるエッジの強度に応じて量子化スケールを変更し、量子化スケールが小さい時は符号量増加を抑えるために、入力画像をDCT変換した結果得られたDCT係数にフィルタ処理を行っていた。
特開平6−311499号公報 特開平9−187005号公報
ループフィルタ処理の制御方法に関して、前述したように、H.264では、主にQパラメータと呼ばれる量子化値に応じてループフィルタ処理を制御する。
しかしながら、Qパラメータはバッファ容量等によっても変化してしまうので、必ずしも画像に対する視覚特性を反映したループフィルタ制御ができるとは言えない。
また、上記した特許文献1に開示されたフィルタ処理の制御方法は、予測画像データと復号画像残差データを足し合わせた再構成画像データではなく、復号画像残差データのDCT係数のみを、歪み発生の判定手段として使用するものであるため、フィルタ処理に視覚特性は反映されていない。また、上記した特許文献2は、量子化スケールが小さい時に符号量増加を抑えるためにフィルタ処理を行うものであり、入力画像の画像パターンに応じてのフィルタ処理は行っていないので、フィルタ処理に視覚特性は反映されていない。すなわち、これらの従来例は、人間の画像に対する視覚特性に適したフィルタ処理制御を行っていないため、良い画質の画像が得られ難いという課題がある。
本発明は上記の如き課題を鑑みてなされたものであり、例えばH.264による画像符号化装置及びその方法において、人間の視覚特性に適した復号画像が得られるようにフィルタ処理の制御を行うことを目的とする。
上記課題を解決するために、本発明の画像符号化装置は、入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックの画像パターンを判定する判定手段と、前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ手段と、前記判定手段で判定された画像パターンに基づいて、前記フィルタ手段におけるフィルタ処理を制御する制御手段とを備えることを特徴とする。
また、本発明の他の画像符号化装置は、入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックに関し、少なくとも画像の平坦さを基準にブロックの判定を行う判定手段と、前記判定手段により平坦と判定された少なくとも一つ以上の前記ブロックを集めて、少なくても一つのスライスを構成するスライス構成手段と、前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ手段と、前記スライス構成手段で構成されたスライスに対応するブロックについては、その他のブロックより強度を弱くしてフィルタ処理を行うよう、前記フィルタ手段におけるフィルタ処理を制御する制御手段とを備えることを特徴とする。
また、本発明の画像符号化方法は、入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックの画像パターンを判定する判定ステップと、前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ処理ステップと、前記判定ステップにおいて判定された画像パターンに基づいて、前記フィルタ処理ステップにおけるフィルタ処理を制御する制御ステップとを有することを特徴とする。
また、本発明の他の画像符号化方法は、入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックに関し、少なくとも画像の平坦さを基準にブロックの判定を行う判定ステップと、前記判定ステップにおいて平坦と判定された少なくとも一つ以上の前記ブロックを集めて、少なくても一つのスライスを構成するスライス構成ステップと、前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ処理ステップと、前記スライス構成ステップにおいて構成されたスライスに対応するブロックについては、その他のブロックより強度を弱くしてフィルタ処理を行うよう、前記フィルタ処理ステップにおけるフィルタ処理を制御する制御ステップとを有することを特徴とする。
本発明によれば、入力画像の画像パターンに応じて、フィルタ処理の強度等を制御することにより、人間の視覚特性を反映した良好な復号画像が得られる。
以下、図面を参照しながら本発明の好適な実施の形態を説明する。
図1は本発明の実施形態となる画像符号化装置のブロック図である。図1の画像符号化装置はH.264と呼ばれる符号化方式(フォーマット)により符号化処理する構成であるが、H.264のループフィルタに相当するデブロッキングフィルタを備えるものであれば、その他のフォーマットを用いても良い。
図1の画像符号化装置によれば、入力画像の画像パターンを判定し、その判定結果を用いて入力画像に適したループフィルタ処理を行うよう制御しながら符号化処理することで、人間の視覚特性を反映した復号画像を得る為の符号化データを生成することができる。以下、図1の画像符号化装置の構成について説明する。なお、図1において、図9で説明したH.264の符号化ブロック図と同じ符号のブロックに関しては、同様の構成,機能となるので、説明が重複するので省略する。
図1において、101〜109並びに111〜114は前述したとおりである。さらに、115は入力画像データの画像パターンを判定する画像パターン判定部である。116は上記画像パターン判定部115により判定された画像パターンの判定結果に基づき、画像パターンに応じた“スライス”を構成するスライス構成部である。117は上記画像パターン判定部115及びスライス構成部116の結果に基づき、ループフィルタ120で行うフィルタ処理の強度を、構成されたスライス毎に設定可能なフィルタ処理強度設定部である。
118は画像パターン判定部115、スライス構成部116及びフィルタ処理強度設定部117の各動作を制御する制御部である。制御部118はメモリ119を用いながら制御動作を実行する。メモリ119には、各種処理に必要なプログラム等も格納されている。
120はループフィルタである。前述したループフィルタ110と同様な構成,機能を備え、更にフィルタ処理強度設定部117からの設定命令に応じてフィルタリング処理の内容を変更できる構成となっている。以上が図1の構成である。
ここで上記した“スライス”に関して、H.264におけるスライスについて図10を参照して説明する。H.264におけるスライスとは、あるピクチャ内における少なくとも1つ以上の16×16画素のブロック(以下、マクロブロックと称す)をひとまとまりにしたものである。また、少なくとも1つ以上のスライスをひとまとまりにしたものが1フレームの画像であるピクチャを構成する。
ピクチャを分割するスライスを構成する方法は、例えば、図10(a)のようにラスタスキャンオーダーで左から右、上から下へと順番にスライスを構成しても良いし、図10(b)のように市松模様のようにスライスを構成しても良いし、図10(c)のようにピクチャの一部分の領域をくりぬいたようにスライスを構成しても良い。どのような形のスライスが構成可能であるかはスライスヘッダに含まれるslice_group_map_typeで規定されている。H.264ではこのような柔軟なスライス構成によりマクロブロックを任意のスライスに分類することが可能となっている。
続いて、図1の画像符号化装置の動作について説明を行う。ここでは上記画像パターン判定部115の構成例として、16×16画素マクロブロックに切り出した入力画像データに対して、直交変換としてアダマール変換することで画像パターン判定する例を説明する。ただし、ブロックの大きさ及び画像パターンを判定する手段、方法はこれに限ったものではない。
入力画像データの画素データを16×16画素マクロブロックに切り出したものに対し、上記画像パターン判定部115はそれぞれアダマール変換を実行し、得られたアダマール変換係数に基づき入力画像データの画像パターンを判定する。
ここで、アダマール変換について図2を参照して説明する。ここでは簡単のため4×4のアダマール変換について説明する。なお、アダマール変換は直交変換の一種である。図2は上記画像パターン判定部115において4×4のアダマール変換を行った例を示しており、図2(a)が4×4画素の入力画像、図2(b)がアダマール変換することにより得られたアダマール変換係数を示している。X11〜44が入力画像の各画素値、Y11〜44が各アダマール変換係数を示している。
ここでHを4×4のアダマール変換行列、Xを入力画像信号、Yをアダマール変換係数の信号とするとアダマール変換は、
[Y]=[H][X][H] (式1)
で表わされる。
さらに、
Figure 2006114979
Figure 2006114979
Figure 2006114979
とすれば、アダマール変換は
Figure 2006114979
となり、1回の割り算と加算と減算のみで実行できる。なお、(式5)の左辺のY11が入力画像のDC成分、Y12〜Y44が入力画像のAC成分を表すアダマール変換係数である。
図3は、1画素8bit(256階調)の画像データを4×4画素のブロックに切り出した入力画像に対するアダマール変換の例を示している。図3中の(a)が入力画像、(b)がアダマール変換係数を示す。図3の(1)−(a)のように入力画像ブロック内が平坦な画像の場合は、図3の(1)−(b)のように図2(b)のY11の位置に対応するアダマール変換係数が大きくなり、その他の変換係数は0となる。一方、図3の(2)−(a)のように入力画像ブロック内が複雑な画像の場合は、図3の(2)−(b)のように図2(b)のY44の位置に対応するアダマール変換係数が大きくなってくる。一般的に、入力画像ブロック内が平坦な画像の場合はAC成分を表すアダマール変換係数の総和が小さくなり、複雑な画像の場合はAC成分を表すアダマール変換係数の総和が大きくなることが知られている。
このような手法を用いることにより、画像パターン判定部115では、入力画像をアダマール変換することによって得られたアダマール変換係数に基づいて、平坦な画像、複雑な画像等の入力画像の画像パターンを判定する。
次に図1のスライス構成部116の動作を説明する。スライス構成部116は、1枚のピクチャ内において16×16画素マクロブロックを、画像パターン判定部115の判定結果に基づいて同じ画像パターン毎にひとまとまりにしてスライスを構成する。図4は、1枚のピクチャを2つのスライスで構成する例を示した図である。図4を参照しながら、以下の説明を行う。
上記スライス構成部116は、上記画像パターン判定部115によって、例えば、16×16画素マクロブロック毎に判定された画像パターンに基づき、少なくとも1つ以上のマクロブロックをひとまとまりにしてスライスを構成する。例として、ある1枚のピクチャが図4(a)のように中心部分のみ細かい縦縞の画像であり、その周囲が平坦な画像の場合、まず、上記画像パターン判定部115によって中心の縦縞部分に相当するブロックで複雑な画像と判定され、その周囲の部分のブロックで平坦な画像と判定される。そして、上記スライス構成部116が判定された画像パターンに対応して、図4(b)のように、中心部分がスライス#0(Slice#0)、その周囲がスライス#1(Slice#1)というスライスを構成する。2種類以上の画像パターンが判定された場合は、スライス#0,1,2,3・・・とスライスの数が増加する。このような手法を用いることにより、スライス構成部116は、入力画像のマクロブロック毎に判定された画像パターンに基づきスライスを構成する。
次に図1のフィルタ処理強度設定部117の動作を説明する。フィルタ処理強度設定部117は、上記画像パターン判定部115において判定された画像パターンに基づき、上記スライス構成部116において構成されたスライス毎にフィルタ処理の強度を設定する。ループフィルタ120では、上記フィルタ処理強度設定部117でスライス毎に設定されたフィルタ処理強度に基づき、16×16画素マクロブロックのブロック境界に対してフィルタ処理を行う。
ここで、まずループフィルタ120で行うフィルタ処理について、図5、図6、図7を参照して説明する。ここでは、ループフィルタ処理として3×3フィルターマスクを用いた平滑化フィルタ処理を行う例について説明する。ただし、ループフィルタ処理はこのフィルタ処理に限ったものではない。
図5(a)のf(i,j)はフィルタ処理を行う注目画素値を示し、フィルタ処理後の注目画素値f(i,j)の新しい画素値g(i,j)(図5(b))は、フィルタ処理前の画像における注目画素を取り巻く3×3フィルターマスク上の画素値、すなわち、図5(a)のf(i−1,j−1),f(i,j−1),f(i+1,j−1),f(i−1,j),f(i,j),f(i+1,j),f(i−1,j+1),f(i,j+1)及びf(i+1,j+1)の9個の値を用いて決定される。
続いて、3×3フィルターマスクを用いたフィルタ処理について、図6を参照して説明する。なお、図6に示す数字1又は2は、それぞれの位置に対応する画素値にかけるフィルタ係数を表す。例えば、図6(a)のような3×3フィルターマスクを用いたフィルタ処理の場合のフィルタ処理後の画素値g(i,j)は、
Figure 2006114979
で表される。このフィルタ処理を行うことにより注目画素と注目画素の周囲の画素値との差分が小さくなり、ぼけた画像が得られる。
図6(b)のような3×3フィルターマスクを用いたフィルタ処理の場合のフィルタ処理後の画素値g(i,j)は、
Figure 2006114979
で表される。このフィルタ処理は、(式6)のような近傍の画素値の単純平均ではなく、自分自身の画素値の重みを周りと比較して2倍してから10で割ることにより、平均を取るというものであり、(式6)のフィルタ処理と比較してフィルタ処理後の注目画素と注目画素の周囲の画素値との差分は大きくなる。つまり、画像をぼけさせる効果は薄い。このことを、フィルタ処理強度を弱くするという。逆に、(式7)で表されるフィルタ処理から見ると、(式6)で表されるフィルタ処理強度は強いということができる。
続いて、フィルタ処理を行う画素について図7を参照して説明する。図7は1枚のピクチャのある部分を拡大したものであり、太線で囲まれた領域はマクロブロックであり、そのマクロブロック内の小さい四角は1画素を表している。図7の網線部で示したある1つの画素を注目画素f(i,j)として前述のフィルタ処理を行う。この処理をすべての網線部の画素、つまり、16×16画素マクロブロックのブロック境界画素に対して行う。このように16×16画素マクロブロックのブロック境界画素に対しフィルタ処理を行うことにより、ブロック境界画素値の差分が小さくなりブロック歪みを低減させることができる。
続いて、フィルタ処理強度設定について説明する。上記フィルタ処理強度設定部117では、上記画像パターン判定部115において判定された画像パターンに基づき、上記スライス構成部116において構成されたスライス毎に行うフィルタ処理の強度を設定する。例えば、視覚特性上ブロック歪みなどの劣化が目立ち易い、平坦な画像ブロックの集合体であるスライスにはフィルタ処理の強度を強く設定する。逆に視覚的に劣化が目立ち難い、複雑な画像ブロックの集合体であるスライスにはフィルタ処理の強度を弱く設定する。つまり図4を参照して具体的に説明すると、平坦な画像であるスライス#1にはフィルタ処理の強度を強く設定し、複雑な画像であるスライス#0にはフィルタ処理の強度を弱く設定する。ループフィルタ120に対するフィルタ処理の強弱の設定は、図6を用いて述べた手法を応用することで設定可能である。ループフィルタ120は、フィルタ処理強度設定部117からの設定情報を受けて、上記した如きフィルタ処理の内容を設定された状態に合わせて動作させ、スライス毎にフィルタ処理を変化させて、適応的なフィルタ処理を行う。
以上が図1の画像符号化装置の構成及び動作の説明である。本画像符号化装置で生成された符号化データを不図示の復号装置でデコードすれば、画像パターンに応じて適応的にフィルタリングされた画像、すなわち人間の視覚特性を反映した良好な画像が復元できる。
次に、これまでに述べたような、画像符号化装置におけるループフィルタ120のフィルタ処理の制御手順を、図8のフローチャートを参照して説明する。なお、図8のフローチャートは、図1における制御部118が実行する制御動作に関するものであり、制御プログラムに応じたフローを表わしたものである。
まず、上記画像パターン判定部115は、ステップS801において、入力画像データを16×16画素に切り出した画像を入力し、ステップS802においてアダマール変換を行う。そして、ステップS803において、アダマール変換によって得られたアダマール変換係数のAC係数の総和を算出する。その総和がある閾値よりも小さい場合(noのとき)はステップS804において劣化が目立ち易いブロック(平坦といえる画像)であると判定し、ステップS805において上記スライス構成部116がスライス#1に設定する。ステップS803で総和がある閾値よりも大きい場合(yesのとき)はステップS806において劣化が目立ち難いブロック(複雑といえる画像)であると判定し、ステップS807において上記スライス構成部116がスライス#0に設定する。
そして、ステップS808で1枚のピクチャ内におけるすべてのブロックをスライスに設定できたかを判定し、すべて終えるまでは上記の動作を各ブロックに繰り返す(ステップS808でnoのとき)。1枚のピクチャ内におけるすべてのブロックをスライスに設定し終えたら(ステップS808でyesのとき)、上記フィルタ処理強度設定部117は、ステップS809において劣化が目立ち易い平坦な画像ブロックがひとまとまりにされたスライス#1にはフィルタ処理強度を強く設定し、劣化が目立ち難い複雑な画像ブロックがひとまとまりにされたスライス#0にはフィルタ処理強度を弱く設定する。そして、ステップS810において上記ループフィルタ110はスライス毎に設定されたフィルタ処理強度に基づき、スライス毎に適応的に、ブロック境界に対して平滑化フィルタ処理を行う。以上で図8のフローは終了する。
なお、これまでの説明では、入力画像データとして1枚のピクチャを例に説明したが、動画の場合は複数ピクチャから構成されるので、各ピクチャ(フレーム又はフィールド)毎に所定の周期で同様の処理を繰り返すことになる。
また、劣化が目立ち難い複雑な画像ブロックがひとまとまりにされたスライスには、上記した構成では弱いフィルタ処理を行うとしたが、フィルタ処理を行わないように設定することも可能である。
また、本実施形態であげた例では、平坦さまたは複雑さを画像パターンとして判定しているが、これら以外の特徴(輝度分布、色分布、エッジ等)を判定して、ループフィルタ処理の制御に用いる場合であっても、本発明の範疇となるのは言うまでもない。
このように本発明の画像符号化装置によれば、入力画像の画像パターンに直接対応してループフィルタ処理を制御することにより、人間の視覚特性に適したループフィルタ処理制御ができる。これにより、人間の視覚特性を反映した良好な画像を得ることができるという効果がある。
<その他の実施形態>
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、ブルーレイディスク、光ディスク、光磁気ディスクなどが考えられる。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャート図に対応するプログラムコードが格納されることになる。
画像符号化装置のブロック図である。 アダマール変換の説明図である。 アダマール変換の変換例を示す図である。 スライス構成方法の説明図である。 ループフィルタ処理の説明図である。 3×3フィルターマスクの例である。 フィルタ処理を行う画素値の説明図である。 フィルタ処理の制御動作を説明する為のフローチャートである。 一般的なH.264における符号化ブロック図である。 H.264におけるスライス構成の説明図である。
符号の説明
101 減算器
102 整数変換部
103 量子化部
104 エントロピー符号化部
105 逆量子化部
106 逆整数変換部
107 加算器
108 フレームメモリ
109 イントラ予測部
110 ループフィルタ
111 フレームメモリ
112 インター予測部
113 動き検出部
114 スイッチ
115 画像パターン判定部
116 スライス構成部
117 フィルタ処理強度設定部
118 制御部
119 メモリ
120 ループフィルタ

Claims (13)

  1. 入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックの画像パターンを判定する判定手段と、
    前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ手段と、
    前記判定手段で判定された画像パターンに基づいて、前記フィルタ手段におけるフィルタ処理を制御する制御手段とを備えることを特徴とする画像符号化装置。
  2. 前記ブロックのうち少なくとも1つ以上をひとまとまりにしてスライスを構成するスライス構成手段をさらに有し、該スライス構成手段は、前記画像パターンに応じて分類されるスライスを少なくとも1つ以上構成することを特徴とする請求項1に記載の画像符号化装置。
  3. 前記制御手段は、前記スライス構成手段により構成されたスライス毎に前記フィルタ手段におけるフィルタ処理を変更するよう制御することを特徴とする請求項2に記載の画像符号化装置。
  4. 前記フィルタ手段におけるフィルタ処理の強度を設定するフィルタ設定手段をさらに有し、該フィルタ設定手段は、前記スライス構成手段により構成されたスライス毎に前記フィルタ手段におけるフィルタ処理の強度を設定することを特徴とする請求項2又は3に記載の画像符号化装置。
  5. 前記制御手段は、前記判定手段で判定された画像パターンが平坦さと表わす結果のときと、複雑さをあらわす結果のときとで、前記フィルタ手段におけるフィルタ処理の強度を変更するよう制御することを特徴とする請求項1に記載の画像符号化装置。
  6. 前記判定手段は、前記ブロックに対して直交変換を行うことにより、前記画像パターンを判定することを特徴とする請求項1に記載の画像符号化装置。
  7. 前記フィルタ手段におけるフィルタ処理の強度を設定するフィルタ設定手段をさらに有し、該フィルタ設定手段は前記直交変換によって得られた変換係数のAC成分の総和が、所定の閾値より大きい時は前記フィルタ手段におけるフィルタ処理の強度が強くなるよう設定し、前記所定の閾値より小さい時は前記フィルタ手段におけるフィルタ処理の強度が弱くなるよう設定することを特徴とする請求項6に記載の画像符号化装置。
  8. 前記判定手段は、前記ブロックに対してアダマール変換を行うことにより、前記画像パターンを判定することを特徴とする請求項1に記載の画像符号化装置。
  9. 前記フィルタ手段におけるフィルタ処理の強度を設定するフィルタ設定手段をさらに有し、該フィルタ設定手段は前記アダマール変換によって得られた変換係数のAC成分の総和が、所定の閾値より大きい時は前記フィルタ手段におけるフィルタ処理の強度が強くなるよう設定し、前記所定の閾値より小さい時は前記フィルタ手段におけるフィルタ処理の強度が弱くなるよう設定することを特徴とする請求項8に記載の画像符号化装置。
  10. 前記フィルタ手段は、前記局部復号画像における各ブロックの境界の平滑化処理を行うことを特徴とする請求項1乃至9の何れか一項に記載の画像符号化装置。
  11. 入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックに関し、少なくとも画像の平坦さを基準にブロックの判定を行う判定手段と、
    前記判定手段により平坦と判定された少なくとも一つ以上の前記ブロックを集めて、少なくても一つのスライスを構成するスライス構成手段と、
    前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ手段と、
    前記スライス構成手段で構成されたスライスに対応するブロックについては、その他のブロックより強度を弱くしてフィルタ処理を行うよう、前記フィルタ手段におけるフィルタ処理を制御する制御手段とを備えることを特徴とする画像符号化装置。
  12. 入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックの画像パターンを判定する判定ステップと、
    前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ処理ステップと、
    前記判定ステップにおいて判定された画像パターンに基づいて、前記フィルタ処理ステップにおけるフィルタ処理を制御する制御ステップとを有することを特徴とする画像符号化方法。
  13. 入力した画像データを複数画素で構成されるブロックで分割した際の各ブロックに関し、少なくとも画像の平坦さを基準にブロックの判定を行う判定ステップと、
    前記判定ステップにおいて平坦と判定された少なくとも一つ以上の前記ブロックを集めて、少なくても一つのスライスを構成するスライス構成ステップと、
    前記入力した画像データに係る局部復号化された局部復号画像における前記各ブロックに対してフィルタ処理を行うフィルタ処理ステップと、
    前記スライス構成ステップにおいて構成されたスライスに対応するブロックについては、その他のブロックより強度を弱くしてフィルタ処理を行うよう、前記フィルタ処理ステップにおけるフィルタ処理を制御する制御ステップとを有することを特徴とする画像符号化方法。
JP2004297707A 2004-10-12 2004-10-12 画像符号化装置及びその方法 Expired - Fee Related JP4533081B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004297707A JP4533081B2 (ja) 2004-10-12 2004-10-12 画像符号化装置及びその方法
US11/238,703 US7590296B2 (en) 2004-10-12 2005-09-29 Image coding apparatus and method in which a loop filter performs a filtering process on each image block of an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004297707A JP4533081B2 (ja) 2004-10-12 2004-10-12 画像符号化装置及びその方法

Publications (3)

Publication Number Publication Date
JP2006114979A true JP2006114979A (ja) 2006-04-27
JP2006114979A5 JP2006114979A5 (ja) 2007-11-29
JP4533081B2 JP4533081B2 (ja) 2010-08-25

Family

ID=36145395

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004297707A Expired - Fee Related JP4533081B2 (ja) 2004-10-12 2004-10-12 画像符号化装置及びその方法

Country Status (2)

Country Link
US (1) US7590296B2 (ja)
JP (1) JP4533081B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009246511A (ja) * 2008-03-28 2009-10-22 Canon Inc 動画像符号化装置及びその制御方法、コンピュータプログラム
WO2011096071A1 (ja) * 2010-02-05 2011-08-11 株式会社 東芝 動画像符号化装置及び動画像復号化装置
WO2013000304A1 (zh) * 2011-06-28 2013-01-03 中兴通讯股份有限公司 环路滤波编解码方法及装置
JP2015104061A (ja) * 2013-11-27 2015-06-04 三菱電機株式会社 動画像符号化装置及び動画像復号装置
JP2016197906A (ja) * 2016-07-25 2016-11-24 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005535204A (ja) * 2002-07-31 2005-11-17 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ブロッキングアーチファクトの動的な検出
US8625914B2 (en) * 2013-02-04 2014-01-07 Sony Corporation Image processing system, image processing method and program
US20070286277A1 (en) * 2006-06-13 2007-12-13 Chen Xuemin Sherman Method and system for video compression using an iterative encoding algorithm
JP2008263529A (ja) * 2007-04-13 2008-10-30 Sony Corp 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
KR20100027096A (ko) * 2007-04-18 2010-03-10 톰슨 라이센싱 인트라 예측을 위한 적응 기준 영상 데이터 생성
CN101389021B (zh) * 2007-09-14 2010-12-22 华为技术有限公司 视频编解码方法及装置
WO2009033432A1 (en) * 2007-09-14 2009-03-19 Huawei Technologies Co., Ltd. A method and apparatus for video encoding and decoding
US20090316793A1 (en) * 2008-06-20 2009-12-24 Yang Zhijie Michael Method and system for adaptive deblocking for avs1-p2
BRPI0921986A2 (pt) * 2008-11-25 2018-06-05 Thomson Licensing métodos e aparelho para filtralçao por eliminação de artefatos à base de matrizes esparsas para codificação e decodificação de vídeo
US8615039B2 (en) * 2009-05-21 2013-12-24 Microsoft Corporation Optimized allocation of multi-core computation for video encoding
JP5233897B2 (ja) * 2009-07-31 2013-07-10 ソニー株式会社 画像処理装置および方法
JP5359657B2 (ja) 2009-07-31 2013-12-04 ソニー株式会社 画像符号化装置および方法、記録媒体、並びにプログラム
JP5604825B2 (ja) * 2009-08-19 2014-10-15 ソニー株式会社 画像処理装置および方法
US8537899B1 (en) * 2010-02-19 2013-09-17 Otoy, Inc. Fast integer and directional transforms for data encoding
JP5914962B2 (ja) * 2010-04-09 2016-05-11 ソニー株式会社 画像処理装置および方法、プログラム、並びに、記録媒体
US8885701B2 (en) * 2010-09-08 2014-11-11 Samsung Electronics Co., Ltd. Low complexity transform coding using adaptive DCT/DST for intra-prediction
US8654860B2 (en) * 2010-11-01 2014-02-18 Mediatek Inc. Apparatus and method for high efficiency video coding using flexible slice structure
US9525884B2 (en) * 2010-11-02 2016-12-20 Hfi Innovation Inc. Method and apparatus of slice boundary filtering for high efficiency video coding
US9247258B2 (en) * 2011-10-26 2016-01-26 Qualcomm Incorporated Unified design for picture partitioning schemes
US20130121422A1 (en) * 2011-11-15 2013-05-16 Alcatel-Lucent Usa Inc. Method And Apparatus For Encoding/Decoding Data For Motion Detection In A Communication System
CN104392250A (zh) * 2014-11-21 2015-03-04 浪潮电子信息产业股份有限公司 一种基于MapReduce的图像分类方法
WO2020185747A1 (en) * 2019-03-11 2020-09-17 Vid Scale, Inc. Methods and systems for post-reconstruction filtering
ES2967903T3 (es) * 2019-10-03 2024-05-06 Huawei Tech Co Ltd Codificador, decodificador y métodos correspondientes utilizando filtrado por interpolación

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0965336A (ja) * 1995-08-24 1997-03-07 Graphics Commun Lab:Kk フィルタ装置
WO2004080050A2 (en) * 2003-03-03 2004-09-16 Koninklijke Philips Electronics N.V. Video encoding

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06311499A (ja) 1993-04-27 1994-11-04 Olympus Optical Co Ltd 画像信号復号化装置
US5565921A (en) * 1993-03-16 1996-10-15 Olympus Optical Co., Ltd. Motion-adaptive image signal processing system
JPH09187005A (ja) 1995-12-28 1997-07-15 Canon Inc 符号化装置
US5737451A (en) * 1996-04-10 1998-04-07 Eastman Kodak Company Method and apparatus for suppressing blocking artifacts in block-transform coded images
KR100213089B1 (ko) * 1997-01-29 1999-08-02 윤종용 루프필터링 방법 및 루프필터
US6320987B1 (en) * 1998-10-16 2001-11-20 Neo Paradigm Labs, Inc. Pre-DCT residue filter
US7003174B2 (en) * 2001-07-02 2006-02-21 Corel Corporation Removal of block encoding artifacts
US6983079B2 (en) * 2001-09-20 2006-01-03 Seiko Epson Corporation Reducing blocking and ringing artifacts in low-bit-rate coding
BR0206777A (pt) * 2001-11-29 2004-02-25 Matsushita Electric Ind Co Ltd Método de remoção de distorção de codificação, método de codificação de vìdeo e aparelho e programa para o mesmo
US6950473B2 (en) * 2002-06-21 2005-09-27 Seiko Epson Corporation Hybrid technique for reducing blocking and ringing artifacts in low-bit-rate coding
US7212571B2 (en) * 2003-01-31 2007-05-01 Seiko Epson Corporation Method and apparatus for DCT domain filtering for block based encoding
US7724827B2 (en) * 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
US7397853B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0965336A (ja) * 1995-08-24 1997-03-07 Graphics Commun Lab:Kk フィルタ装置
WO2004080050A2 (en) * 2003-03-03 2004-09-16 Koninklijke Philips Electronics N.V. Video encoding

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009246511A (ja) * 2008-03-28 2009-10-22 Canon Inc 動画像符号化装置及びその制御方法、コンピュータプログラム
WO2011096071A1 (ja) * 2010-02-05 2011-08-11 株式会社 東芝 動画像符号化装置及び動画像復号化装置
WO2013000304A1 (zh) * 2011-06-28 2013-01-03 中兴通讯股份有限公司 环路滤波编解码方法及装置
JP2015104061A (ja) * 2013-11-27 2015-06-04 三菱電機株式会社 動画像符号化装置及び動画像復号装置
JP2016197906A (ja) * 2016-07-25 2016-11-24 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム

Also Published As

Publication number Publication date
JP4533081B2 (ja) 2010-08-25
US20060078209A1 (en) 2006-04-13
US7590296B2 (en) 2009-09-15

Similar Documents

Publication Publication Date Title
JP4533081B2 (ja) 画像符号化装置及びその方法
KR100612785B1 (ko) 경계강도에 기초한 적응 필터링
JP5261376B2 (ja) 画像符号化装置および画像復号化装置
JP4455487B2 (ja) 復号化装置及び復号化方法及びプログラム
JP6335365B2 (ja) 復号装置
CN103141094B (zh) 自适应环路滤波方法和装置
TWI387348B (zh) 解區塊濾波處理裝置及解區塊濾波處理方法
JP2006157481A (ja) 画像符号化装置及びその方法
KR101394209B1 (ko) 영상의 인트라 예측 부호화 방법
JP4774315B2 (ja) 画像復号化装置及び画像復号化方法
JP5396711B2 (ja) 動画像復号装置、動画像復号方法及びプログラム
JP4931214B2 (ja) 画像処理装置及びその方法
WO2007148619A1 (ja) 動画像復号装置、復号画像記録装置、それらの方法及びプログラム
JP2008301336A (ja) 画像処理装置、画像符号化装置及び画像復号化装置
JP2011250400A (ja) 動画像符号化装置及び動画像符号化方法
JPWO2009133845A1 (ja) 動画像符号化/復号化装置及び方法
JP2006005659A (ja) 画像符号化装置及びその方法
JP5627507B2 (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム
CN102057679B (zh) 压缩图像噪声去除装置和再现装置
JP2007013298A (ja) 画像符号化装置
JP5111260B2 (ja) 画像処理装置、及び、特定領域検出方法
JP4719108B2 (ja) 映像符号化方法、映像符号化装置、映像符号化プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP7109961B2 (ja) 画像復号装置、画像符号化装置、画像処理システム、画像復号方法及びプログラム
JP2006191287A (ja) 画像符号化装置、画像符号化方法および画像符号化プログラム
JP2024125778A (ja) 画像符号化装置、画像符号化方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071011

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090910

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100611

R150 Certificate of patent or registration of utility model

Ref document number: 4533081

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130618

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees