JP4141235B2 - 画像補正装置及びプログラム - Google Patents
画像補正装置及びプログラム Download PDFInfo
- Publication number
- JP4141235B2 JP4141235B2 JP2002330362A JP2002330362A JP4141235B2 JP 4141235 B2 JP4141235 B2 JP 4141235B2 JP 2002330362 A JP2002330362 A JP 2002330362A JP 2002330362 A JP2002330362 A JP 2002330362A JP 4141235 B2 JP4141235 B2 JP 4141235B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distortion
- scanning direction
- shape
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/146—Aligning or centring of the image pick-up or image-field
- G06V30/1475—Inclination or skew detection or correction of characters or of image to be recognised
- G06V30/1478—Inclination or skew detection or correction of characters or of image to be recognised of characters or characters lines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10008—Still image; Photographic image from scanner, fax or copier
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30176—Document
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Facsimile Image Signal Circuits (AREA)
- Facsimile Scanning Arrangements (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Image Input (AREA)
Description
【発明の属する技術分野】
本発明は、画像補正装置及びプログラムに関する。
【0002】
【従来の技術】
フラットベッドスキャナを用いて読み取る原稿の多くはシート状の原稿であり、コンタクトガラス上に開閉自在の圧板を設け、コンタクトガラス上に原稿を載置した後に圧板を閉じて原稿をスキャンするようにしている。しかし、原稿としてはシート状のものに限られず、ブック原稿(本、冊子など)も原稿として扱われることがあり、そのような場合にもコンタクトガラス上にブック原稿を載置し、原稿をスキャンすることになる。
【0003】
ところが、原稿としてブック原稿を用いた場合には、図39に示すように、ブック原稿100のページ綴じ部101がコンタクトガラス102から浮き上がってしまう。このようにブック原稿100のページ綴じ部101がコンタクトガラス102から浮き上がってしまった場合には、ページ綴じ部101が焦点面から離れてしまうため、浮き上がった部分のスキャン画像には、画像歪み、影、文字ボケなどの画像劣化が発生する。劣化した画像のページ綴じ部101は読みにくく、OCRにより文字認識処理を行うときの認識率が著しく低下する。特に、厚手製本ではその割合が高く、また、ブック原稿100のページ綴じ部101を焦点面から離れないように加圧作業した場合には、ブック原稿100自体を破損してしまうこともある。
【0004】
このような問題を解決すべく、画像の濃度情報から物体の3次元形状を推定する方法を用いて、画像の歪みを補正する方法が提案されている。このような画像の濃度情報から物体の3次元形状を推定する方法としては、Shape from Shadingと呼ばれる方法が代表的な例である(例えば、非特許文献1参照)。
【0005】
しかしながら、非特許文献1のShape from Shadingと呼ばれる方法によれば、計算量が多く、歪み補正処理の計算時間が長いので、実用化は困難である。
【0006】
また、三角測量方式により書籍の形状を測定するものもある(例えば、特許文献1参照)。しかしながら、特許文献1に記載されている方法によれば、三角測量方式により書籍の形状を測定するための特別な形状計測装置が必要になるため、適当ではない。
【0007】
そこで、近年においては、少ない計算量で有効に歪みを補正すべく、読み取りスキャン画像のページ外形の形状を用いて書籍表面の3次元形状を推定する画像補正装置が提案されている(例えば、特許文献2参照)。
【0008】
【非特許文献1】
T. Wada, H. Uchida and T. Matsuyama, “Shape from Shading with Interreflections under a Proximal Light Source: Distortion-Free Copying of an Unfolded Book”, International Journal Computer Vision 24(2),125-135(1997)
【特許文献1】
特開平5-161002号公報
【特許文献2】
特開平11-41455号公報
【0009】
【発明が解決しようとする課題】
ところで、コンタクトガラス上にブック原稿をセットする場合、ブック原稿の画像を下向きにしてセットする必要があり、操作者からは原稿の裏面しか見ることができないようになっている。そのため、スキャン画像には、図40に示すように、ブック原稿のページ綴じ部の浮き上がり方(コンタクトガラスからの距離)がページの上下で異なるためにカタカナの「ハの字」のような歪み形状(以下、“「ハの字」歪み”という。)になるスキャン画像aが発生する場合がある。
【0010】
しかしながら、従来の画像補正方式においては、これらの状況を考慮していないので、このようなスキャン画像の歪みを補正すると十分な補正ができないばかりか、むしろ画質が劣化してしまうという問題がある。
【0011】
本発明の目的は、カタカナの「ハの字」のような歪み形状のスキャン画像に対して3次元形状歪み補正を実行しても、歪み補正に伴う画質の劣化の発生を防止することができる画像補正装置及びプログラムを提供することである。
【0012】
【課題を解決するための手段】
請求項1の発明は、ページ綴じ部をスキャナ部の画像読取の主走査方向に対してほぼ平行になるように位置させてコンタクトガラスの上もしくは下に接触したブック原稿を、画像読取手段により読み取ったスキャン画像を補正する画像補正装置において、前記ブック原稿の前記スキャン画像に含まれる線形状部分を用い、前記スキャン画像の「ハの字」歪み角度を検出する「ハの字」歪み角度検出手段と、この「ハの字」歪み角度検出手段により検出された前記「ハの字」歪み角度に基づいて前記スキャン画像の「ハの字」歪みを補正した後に前記スキャン画像の副走査方向の形状歪みを補正する「ハの字」歪み補正手段と、を備え、前記「ハの字」歪み補正手段は、前記ブック原稿の3次元形状を検出する3次元形状検出手段と、この3次元形状検出手段により検出された前記ブック原稿の3次元形状に基づき前記スキャン画像の主走査方向の伸長処理を行う主走査方向歪み補正手段と、この主走査方向歪み補正手段により主走査方向の伸長処理を施された前記スキャン画像の左右ページを分割し、所定位置を中心として前記「ハの字」歪み角度検出手段により検出された前記各「ハの字」歪み角度だけそれぞれ回転させる画像回転手段と、この画像回転手段により回転された画像の3次元形状に基づき、副走査方向に画像を伸長する副走査方向歪み補正手段と、を備えることを特徴とする。
請求項2の発明は、請求項1記載の画像補正装置において、前記「ハの字」歪み角度検出手段は、前記線形状部分の直線部を前記スキャン画像の左右ページからそれぞれ検出し、前記直線部と湾曲部との境目を検出して歪み領域を推定する歪み領域推定手段と、前記スキャン画像の左右各ページの前記直線部と画像読み取りの副走査方向との成す角度をそれぞれ算出する「ハの字」歪み角度算出手段と、を備えることを特徴とする。
請求項3の発明は、請求項1又は2記載の画像補正装置において、前記3次元形状検出手段は、前記スキャン画像の左右各ページの前記直線部を綴じ部境界線まで延長した直線から前記線形状部分の前記湾曲部に至る距離に基づき、前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を検出する浮き上がり形状検出手段と、この浮き上がり形状検出手段により検出された前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を前記綴じ部境界線に平行な直線上の各列毎に2点選択し、これらの2点の浮き上がり形状値を基に前記直線上の各列毎に線形補間処理を行う線形補間手段と、を備えることを特徴とする。
請求項4の発明は、請求項3記載の画像補正装置において、前記浮き上がり形状検出手段は、前記ブック原稿の浮き上がった前記歪み領域と前記歪み領域でない領域の境目を推定して、境目での浮き上がり形状値を0とすることを特徴とする。
請求項5の発明は、請求項1又は2記載の画像補正装置において、前記主走査方向歪み補正手段は、前記画像読取手段の光軸を基準として検出された各画素の伸長率に基づいて主走査方向に画像を伸長することを特徴とする。
請求項6の発明は、ページ綴じ部をスキャナ部の画像読取の主走査方向に対してほぼ平行になるように位置させてコンタクトガラスの上もしくは下に接触したブック原稿を、画像読取手段により読み取ったスキャン画像を補正するプログラムであって、コンピュータを、前記ブック原稿の前記スキャン画像に含まれる線形状部分を用い、前記スキャン画像の「ハの字」歪み角度を検出する「ハの字」歪み角度検出手段と、この「ハの字」歪み角度検出手段により検出された前記「ハの字」歪み角度に基づいて前記スキャン画像の「ハの字」歪みを補正した後に前記スキャン画像の副走査方向の形状歪みを補正する「ハの字」歪み補正手段として機能させ、その際、コンピュータを、前記「ハの字」歪み補正手段が備える前記ブック原稿の3次元形状を検出する3次元形状検出手段と、この3次元形状検出手段により検出された前記ブック原稿の3次元形状に基づき前記スキャン画像の主走査方向の伸長処理を行う主走査方向歪み補正手段と、この主走査方向歪み補正手段により主走査方向の伸長処理を施された前記スキャン画像の左右ページを分割し、所定位置を中心として前記「ハの字」歪み角度検出手段により検出された前記各「ハの字」歪み角度だけそれぞれ回転させる画像回転手段と、この画像回転手段により回転された画像の3次元形状に基づき、副走査方向に画像を伸長する副走査方向歪み補正手段と、として機能させることを特徴とする。
請求項7の発明は、請求項6記載のプログラムであって、コンピュータを、前記線形状部分の直線部を前記スキャン画像の左右ページからそれぞれ検出し、前記直線部と湾曲部との境目を検出して歪み領域を推定する歪み領域推定手段と、前記スキャン画像の左右各ページの前記直線部と画像読み取りの副走査方向との成す角度をそれぞれ算出する「ハの字」歪み角度算出手段を備える前記「ハの字」歪み角度検出手段として機能させることを特徴とする。
請求項8の発明は、請求項6又は7記載のプログラムであって、コンピュータを、前記スキャン画像の左右各ページの前記直線部を綴じ部境界線まで延長した直線から前記線形状部分の前記湾曲部に至る距離に基づき、前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を検出する浮き上がり形状検出手段と、この浮き上がり形状検出手段により検出された前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を前記綴じ部境界線に平行な直線上の各列毎に2点選択し、これらの2点の浮き上がり形状値を基に前記直線上の各列毎に線形補間処理を行う線形補間手段、を備える前記3次元形状検出手段として機能させることを特徴とする。
請求項9の発明は、請求項8記載のプログラムであって、コンピュータを、前記ブック原稿の浮き上がった前記歪み領域と前記歪み領域でない領域の境目を推定して、境目での浮き上がり形状値を0とする前記浮き上がり形状検出手段として機能させることを特徴とする。
請求項10の発明は、請求項6又は7記載のプログラムであって、コンピュータを、前記画像読取手段の光軸を基準として検出された各画素の伸長率に基づいて主走査方向に画像を伸長する前記主走査方向歪み補正手段として機能させることを特徴とする。
【0013】
【発明の実施の形態】
本発明の第一の実施の形態を図1ないし図26に基づいて説明する。本実施の形態の画像補正装置は画像形成装置であるデジタル複写機に備えられており、画像読取装置としてはデジタル複写機のスキャナ部が適用されている。
ここで、図1はスキャナ部1の構成を示す縦断正面図である。図1に示すように、スキャナ部1は、原稿を載置するコンタクトガラス2と、原稿の露光用の露光ランプ3及び第一反射ミラー4からなる第一走行体5と、第二反射ミラー6及び第三反射ミラー7からなる第二走行体8と、原稿の画像を読み取る撮像素子としてのCCD(Charge Coupled Device)9と、このCCD9に結像させるためのレンズユニット10と、原稿を載置する基準になるとともにコンタクトガラス2のズレや外れを防止する原稿スケール11と、この原稿スケール11の下側に設置されたシェーディング補正用の白基準板12と、フレーム14とを備えている。CCD9はセンサボード13上に形成されている。
【0014】
原稿の走査時には、第一走行体5及び第二走行体8はステッピングモータ24(図3参照)によって副走査方向に移動する。すなわち、第一走行体5及び第二走行体8がコンタクトガラス2の下を走行して、露光ランプ3で原稿を露光走査し、その反射光を第一反射ミラー4、第二反射ミラー6及び第三反射ミラー7で反射して、レンズユニット10を通してCCD9に結像させる。ここに、画像読取手段が実現されている。
【0015】
このようなスキャナ部1は、このスキャナ部1で読み取られた原稿の画像に基づく画像データに応じ、例えば電子写真方式で用紙上に画像の形成を行う画像印刷装置であるプリンタ部(図示せず)を備えるデジタル複写機16に搭載されている。図2は、スキャナ部1を搭載したデジタル複写機16の上部部分を示す斜視図である。図2に示すように、スキャナ部1には、コンタクトガラス2に対して開閉自在な圧板17と、この圧板17の開閉を検出する開閉センサ18とが設けられている。なお、デジタル複写機16に備えられるプリンタとしては、電子写真方式のほか、インクジェット方式、昇華型熱転写方式、銀塩写真方式、直接感熱記録方式、溶融型熱転写方式など、種々の印刷方式を適用することができる。その具体的な構成については周知であるため、詳細な説明は省略する。
【0016】
図3は、スキャナ部1の制御系の電気的な接続を示すブロック図である。図3に示すように、この制御系は、スキャナ部1の全体を制御するメイン制御部19に、CCD9で読み取った画像データに各種の画像処理を施す回路である画像処理部20と、第一走行体5及び第二走行体8を制御する回路である走行体制御部21と、デジタル複写機16への各種操作を受け付け、また、各種メッセージを表示する操作パネル22と、CCD9で読み取った画像データや所定のデータ等を記憶するメモリ23とが接続されている。なお、操作パネル22には、コピー開始を宣言するためのコピースタートキー等が設けられている。また、走行体制御部21には、露光ランプ3と、第一走行体5及び第二走行体8を駆動するステッピングモータ24と、第一走行体5及び第二走行体8がホームポジションにあるか否かを検出するスキャナホームポジションセンサ(HPセンサ)25と、開閉センサ18とが接続されている。
【0017】
ここで、図4は画像処理部20の基本的な内部構成を示すブロック図である。図4に示すように、画像処理部20は、原稿をCCD9により読み取ったアナログ画像信号の増幅処理やデジタル変換処理等を行うアナログビデオ処理部26、シェーディング補正処理を行うシェーディング補正処理部27、シェーディング補正処理後のデジタル画像信号に、MTF補正、変倍処理、γ補正等の各種画像データ処理を行いスキャン画像を生成する画像データ処理部28、本実施の形態の特長的な機能であるスキャン画像の画像補正機能を実現する画像補正部29から構成されている。以上のような画像処理後のデジタル画像信号は、メイン制御部19を介してプリンタ部に送信されて、画像形成に供される。
【0018】
メイン制御部19は、図5に示すように、各部を集中的に制御するCPU(CentralProcessing Unit)31を備えており、このCPU31には、BIOSなどを記憶した読出し専用メモリであるROM(Read Only Memory)32と、各種データを書換え可能に記憶してCPU31の作業エリアとして機能するRAM(Random Access Memory)33とがバス34で接続されており、マイクロコンピュータを構成している。さらにバス34には、制御プログラムが記憶されたHDD35と、CD(Compact Disc)−ROM37を読み取るCD−ROMドライブ36と、プリンタ部等との通信を司るインタフェース(I/F)38とが接続されている。
【0019】
図5に示すCD−ROM37は、この発明の記憶媒体を実施するものであり、所定の制御プログラムが記憶されている。CPU31は、CD−ROM37に記憶されている制御プログラムをCD−ROMドライブ36で読み取り、HDD35にインストールする。これにより、メイン制御部19は、後述するような各種の処理を行うことが可能な状態となる。
【0020】
なお、記憶媒体としては、CD−ROM37のみならず、DVDなどの各種の光ディスク、各種光磁気ディスク、フレキシブルディスクなどの各種磁気ディスク、半導体メモリ等、各種方式のメディアを用いることができる。また、インターネットなどのネットワークからプログラムをダウンロードし、HDD35にインストールするようにしてもよい。この場合に、送信側のサーバでプログラムを記憶している記憶装置も、この発明の記憶媒体である。なお、プログラムは、所定のOS(Operating System)上で動作するものであってもよいし、その場合に後述の各種処理の一部の実行をOSに肩代わりさせるものであってもよいし、ワープロソフトなど所定のアプリケーションソフトやOSなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
【0021】
次に、メイン制御部19に設けられたCPU31が制御プログラムに基づいて実行する各種処理の内容について説明する。ここでは、CPU31が実行する処理のうち、本実施の形態のスキャナ部1が備える特長的な機能であるスキャン画像の画像補正機能を実現する画像補正装置である画像補正部29におけるスキャン画像の画像補正処理についてのみ説明する。
【0022】
図6は、スキャン画像の画像補正処理の流れを概略的に示すフローチャートである。なお、ここでは、図7に示すように、ブック原稿40のページ綴じ部41とスキャナ部1の画像読み取りの主走査方向とがほぼ平行になるように位置させてブック原稿40をコンタクトガラス2上に下向きに載置したことを意図した場合について説明する。
【0023】
まず、画像データ処理部28から出力されたコンタクトガラス2に載置されているブック原稿40のスキャン画像を入力する(ステップS1)。ここで、図8は入力した画像の一例を示したものである。そして、図9に示すように、入力されたブック原稿40のスキャン画像には、ページ綴じ部41のスキャン画像41´の近傍において歪みが生じている。
【0024】
次いで、ステップS2に進み、画像補正処理を実行する。
画像補正処理においては、まず、スキャン画像から線形状部分であるページ外形を抽出する(ステップS2−1)。ここで、図10は上端にページ外形が存在するスキャン画像の一例を示す説明図、図11は図10に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。図11に示すヒストグラムのx軸はスキャン画像の主走査方向(図10の上下方向)を示すものであり、スキャン画像の上端はヒストグラムの左端に対応付けられている。なお、ページ外形が下端に存在するスキャン画像の場合には、スキャン画像の下端がヒストグラムの右端に対応付けられることになる。したがって、図10に示すようにスキャン画像の上端にページ外形が存在する場合、スキャン画像の上部に黒い帯が現れることから、図11に示すヒストグラムの左端には高い縦棒が現れることになる。本実施の形態では、このような特性を利用して、スキャン画像にページ外形が存在するか否かの判断を行う。
【0025】
より具体的には、図11に示すように、ページ綴じ部41のスキャン画像41´からスキャン画像の左端(図10の左端)までの距離AO、ヒストグラム縦棒の高さBOとし、その比率kを下記に示す式により算出し、
k=BO/AO
算出された比率kが、予め定められた閾値よりも大きい場合に、スキャン画像にページ外形が存在すると判断する。
【0026】
なお、スキャン画像の上下にページ外形が存在する場合には、ヒストグラムの左右両端に高い縦棒が現れることになるので、このような場合には、ヒストグラムの左右両端の高い縦棒に基づいてスキャン画像にページ外形が存在するか否かの判断がそれぞれ実行される。
このスキャン画像にページ外形が存在するか否かの判断処理は、スキャン画像の綴じ部境界線を境にした左右ページ毎に実行される。
以上の処理により、スキャン画像にページ外形が存在すると判断された場合には、左右ページの上下辺のいずれにページ外形が存在しているのかという情報とともにページ外形を抽出し、RAM33に一時的に記憶する。
【0027】
なお、スキャン画像からのページ外形の抽出方法としては、これに限るものではなく、特開平11-41455号公報に記載されている方法等を用いるようにしても良い。
また、スキャン画像にページ外形が存在することが予め解かっている場合には、ページ外形が存在するか否かの判断を省略し、ページ外形の抽出のみを行うようにしても良い。
【0028】
スキャン画像からページ外形が抽出されると、ステップS2−2に進み、スキャン画像の「ハの字」歪み角度を検出する(「ハの字」歪み角度検出手段)。より具体的には、図12に示すように、スキャン画像の上辺のページ外形に基づいて「ハの字」歪み角度α,βを検出する。なお、図12中、Sはスキャン画像の画像境界線である。
【0029】
ここで、スキャン画像の「ハの字」歪み角度検出処理の流れについて図13を参照しつつ説明する。スキャン画像の「ハの字」歪み角度検出処理としては、まず、ステップS2−1で抽出したページ外形の直線部を推定する(ステップS11)。
次いで、ステップS11で推定したページ外形の直線部とページ外形の湾曲部との境目を検出し、スキャン画像の歪み領域を推定する(ステップS12)。つまり、ステップS11〜S12により歪み領域推定手段の機能が実行される。図12中、A,B,C,Dがページ外形の直線部とページ外形の湾曲部との境目である。これらのA,B,C,Dに囲まれた領域が歪み領域である。なお、ページ外形の直線部とページ外形の湾曲部との境目の判定処理については、各種の処理方法を用いることが可能である。例えば、特許文献2に記載されているような手法を用いることが可能である。概略的には、抽出したページ外形に基づいて近似直線を求め、この直線から離れて曲線となる部分をページ外形の直線部とページ外形の湾曲部との境目として判定するものである。
【0030】
続くステップS13においては、スキャン画像の左右ページのページ外形の直線部(図12においては、線分BK及び線分DN)と画像水平方向(副走査方向)の水平線とのなす角度(「ハの字」歪み角度)α,βを算出する。線分の傾きの算出については、既知の手法がいろいろあるが、例えば、点K及び点Bの主走査方向と副走査方向の各座標値の差から「ハの字」歪み角度αを算出し、点N及び点Dの主走査方向と副走査方向の各座標値の差から「ハの字」歪み角度βを算出する手法がある。ここに、「ハの字」歪み角度算出手段の機能が実行される。
以上により、「ハの字」歪み角度検出手段の機能が実行され、ステップS2−2のスキャン画像の「ハの字」歪み角度検出処理が終了する。
【0031】
ステップS2−2のスキャン画像の「ハの字」歪み角度検出処理が終了すると、ステップS2−3に進み、スキャン画像の画像歪み補正処理を実行する。スキャン画像の画像歪み補正処理の流れを図14に示す。図14に示すように、スキャン画像の画像歪み補正処理としては、まず、スキャン画像の左右ページのページ外形の直線部(図12中、線分BK、線分DN、線分AJ、線分CM)を綴じ部境界線(図12中、O−O'で示す線分)まで延長する(ステップS21)。図15に、スキャン画像の左右ページのページ外形の直線部(線分BK、線分DN、線分AJ、線分CM)を綴じ部境界線(O−O'で示す線分)まで延長した様子を示す。
【0032】
次いで、延長後の各直線部(線分KO'、線分O'N、線分JO、線分OM)上の所定の位置において、綴じ部境界線に平行な状態でこの所定位置からスキャン画像のページ外形の湾曲部に至る距離を求める(ステップS22)。図15に示すように、例えば、線分JOの所定位置Gより綴じ部境界線に平行な直線GHを求め、直線GHからページ外形の湾曲部に至る距離GG'を求める。
【0033】
その後、ステップS23に進み、各直線部(線分KO'、線分O'N、線分JO、線分OM)上の所定の位置からページ外形の湾曲部に至る距離に基づき、各直線上のz方向(図15では紙面と垂直方向)の書籍表面形状を求める。つまり、ステップS21〜S23により浮き上がり形状検出手段の機能が実行される。なお、書籍表面形状を求める方法としては、特許文献2に記載されている方法等が用いられるが、公知であるためその説明は省略する。図16に線分JO,OM上の書籍表面形状を示し、図17に線分KO',O'N上の書籍表面形状を示す。
【0034】
次に、線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状を求める(ステップS24:線形補間手段)。
線分ABと線分CDは、書籍表面の浮き上がった部分とそうでない部分の境目であり、線分ABと線分CDの3次元形状の高さは0である。すなわち、線分AO,OC,BO',O'D上の書籍表面形状と、線分AB,CD上の書籍表面形状とが解かることにより、これらの形状データを用いて線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状を求めることが可能になる。
【0036】
ここで、ステップS24における線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状の求め方について詳細に説明する。図18は綴じ部境界線(O−O'で示す線分)と平行な線分EE'における形状断面を示すものであって、線分EE'と線分ABとの交点をF(図15参照)とする。前述したように、点Eと点Fでの形状は既知であるので、点Eと点Fとの間に位置する3次元形状は、点Eと点Fとでの形状値の線形補間により求めることができる。すなわち、下記に示す式(1)により、EF間に位置する点Xの3次元形状を算出することができる。
【数1】
【0037】
同様に、図19は綴じ部境界線(O−O'で示す線分)と平行な線分GHにおける形状断面を示すものであって、線分GHと線分KO'との交点をH(図15参照)とする。前述したように、点Gと点Hでの形状は既知であるので、点Gと点Hとの間に位置する3次元形状は、点Gと点Hとでの形状値の線形補間により求めることができる。すなわち、下記に示す式(2)により、GH間に位置する点Xの3次元形状を算出することができる。
【数2】
【0038】
以上のように、綴じ部境界線と平行な直線上の形状を1列毎に求めることで、線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状を求めることができる。ここに、3次元形状検出手段の機能が実行される。
次に、ステップS25に進み、主走査方向における変倍処理を行う。主走査方向における変倍処理は、図20に示すように、光軸を基準にしてページ外形の各直線部(線分KO'、線分O'N、線分JO、線分OM)上に画像が揃うように主走査方向に変倍処理を行う。ここに、主走査方向歪み補正手段の機能が実行される。
【0039】
主走査方向における変倍処理について具体的に説明する。スキャナレンズの結像関係を図21に示す。OO'はレンズの光軸であり、0はレンズの中心である。Fはレンズの中心0からスキャナ表面(コンタクトガラス2)までの距離で、これを、スキャナの焦点距離と言う。スキャナ表面上の点Bは結像面でDに結像する。浮いた製本(ブック原稿40)の表面上の点CはE2に結像する。それぞれの結像面の中心0との距離はE0とE2である(第一走行体5及び第二走行体8が副走査方向に移動することによって、中心0も移動するが、その軌跡を結像中心線と呼ぶことにする)。三角形の相似関係により次の関係式(3),(4)が得られる。なお、レンズの焦点距離Fはスキャナ部1によって定まる既知量であり、スキャナ部1の設定値かレンズの校正値を用いる。
d/F=AB/AO'・・・(3)
AB/AO'=(E0−E2)/E2・・・(4)
そして、ステップS24で求めた線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状であるブック原稿40の浮き上がりの量をdとすると、式(3),(4)により、変倍率mは、次式(5)により得られる。
m=E0/E2=(d/F)+1・・・(5)
すなわち、線分AO,OC,BO',O'D上の歪み領域内の各画素位置E0での変倍率mに基づきE2の位置を次式(6)により算出する。
E2=E0/m=E0/((d/F)+1) ・・・(6)
そして、E0にE2での画素値を持ってくることにより、主走査方向に画像が伸ばされる。なお、この際、E2の位置は小数になる場合があるので、画素の線形補間処理も行う。
【0040】
主走査方向における変倍処理が終了すると、ステップS26に進み、ステップS13で算出した「ハの字」歪み角度α,βに基づいて、スキャン画像の「ハの字」歪み補正を行う(ステップS26:「ハの字」歪み補正手段)。スキャン画像の「ハの字」歪み補正は、概略的には、スキャン画像の左右ページを綴じ部境界線(図20中、O−O'で示す線分)で分割し、所定位置(例えば、スキャン画像の綴じ部境界線の下端O')を中心にして、スキャン画像の左右ページをそれぞれ「ハの字」歪み角度α,βだけ回転させることにより行われる。なお、スキャン画像の「ハの字」歪み補正は、ステップS24で求めた線分AO,OC,BO',O'D上の歪み領域内の書籍表面3次元形状についても綴じ部境界線(図20中、O−O'で示す線分)で分割し、それぞれ「ハの字」歪み角度α,βだけ回転させる。ここに、画像回転手段の機能が実行される。
【0041】
ただし、スキャン画像の左右ページを回転させて「ハの字」歪み補正する際に、そのままスキャン画像の左右ページを回転させただけでは、補正した画像の画素の座標が小数になる場合があり、「ハの字」歪み補正画像の画質を落としてしまう場合がある。そこで、本実施の形態においてはこれを解消するため、画素の線形補間処理を行う。ここに、画素線形補間手段の機能が実行される。
【0042】
図22は、画素値の線形補間処理による求め方を示す説明図である。図22に示す座標(x,y)での画素値f(x,y)は、その周辺ブロック[i,j]、[i+1,j]、[i,j+1]、[i+1,j+1]の平滑化処理後の画素値f(i,j)、f(i+1,j)、f(i,j+1)、f(i+1,j+1)の線形補間値として計算される。より具体的には、座標(x,y)での線形補間処理後の画素値f(x,y)は、
【数3】
により、算出される。
【0043】
以上の処理により、ステップS13で算出した「ハの字」歪み角度α,βに基づくスキャン画像の「ハの字」歪み補正が終了する。図20の画像に対して左右ページをそれぞれ「ハの字」歪み補正した後のスキャン画像を図23に示す。
スキャン画像の「ハの字」歪み補正が終了すると、ステップS27に進み、副走査方向における伸張処理を行う。ここに、副走査方向歪み補正手段の機能が実行される。
副走査方向における伸張処理について具体的に説明する。副走査方向における伸張処理は、回転後の画像を副走査方向に1行毎に伸張するものであって、各種の処理方法を用いることが可能である。例えば、特許文献2に記載されている副走査方向復元の処理方法を用いることができる。図24(a)に示す断面TUでの伸長処理を図24(b)に示す。図24(b)に示すように、書籍の表面V−V1−V2は、V−V1'−V2'に伸長処理され、書籍の表面W−W1−W2は、W−W1'−W2'に伸長処理される。同様に、図24(a)に示す断面PQでの伸長処理を図24(c)に示す。図24(c)に示すように、書籍の表面R−R1−R2は、R−R1'−R2'に伸長処理され、書籍の表面S−S1−S2は、S−S1'−S2'に伸長処理される。以上により、「ハの字」歪み補正手段の機能が実行される。
【0044】
続くステップS28では、輝度補正処理を実行する。ここに、輝度補正手段の機能が実行される。輝度補正処理については、各種の処理方法を用いることが可能である。例えば、特開平11-155070号公報に記載されている濃度復元の処理方法を用いるようにしても良い。
【0045】
ステップS29では、文字ボケ補正処理を実行する。ここに、ボケ補正手段の機能が実行される。文字ボケ補正処理については、各種の処理方法を用いることが可能である。例えば、特許文献2に記載されている文字ボケ補正の処理方法を用いるようにしても良い。
【0046】
以上により、ステップS2の画像補正処理が終了する。ここで、図25は歪みを補正した画像を示す平面図である。以上の処理によれば、図8に示したようなブック原稿40のページ綴じ部41のスキャン画像41'近傍において生じていた画像歪み及びスキャン画像の「ハの字」歪みが、図25に示すように補正されることになる。
【0047】
ここに、スキャン画像の主走査方向上辺及び下辺の近傍に位置するブック原稿40のページ外形を用いてスキャン画像の「ハの字」歪み角度α,βが検出され、この「ハの字」歪み角度α,βに基づいてスキャン画像の「ハの字」歪みを補正した後にスキャン画像の副走査方向の形状歪みが補正される。これにより、カタカナの「ハの字」のような歪み形状のスキャン画像に対して3次元形状歪み補正を実行しても、歪み補正に伴う画質の劣化の発生を防止することが可能になる。
【0048】
なお、本実施の形態においては、ブック原稿40のページ綴じ部41とスキャナ部1の画像読み取りの主走査方向とが平行になるように位置させてブック原稿40をコンタクトガラス2上に下向きに載置した場合について説明したが、これに限るものではない。例えば、図26に示すように、上向きのブック原稿40をコンタクトガラス2の下方からコンタクトガラス2に対して押し付けるように接触させるものであっても良い。
【0049】
また、本実施の形態においては、画像読取装置としてデジタル複写機のスキャナ部1を適用したが、これに限るものではなく、例えば自動ページ捲り機能を搭載したスキャナ等に適用するようにしても良い。
さらに、本実施の形態においては、画像補正装置を画像形成装置であるデジタル複写機16に備え、デジタル複写機16のスキャナ部1で読み取ったスキャン画像に対して画像補正処理を施すようにしたが、これに限るものではない。例えば、原稿画像を読み取る画像読取手段を備えたイメージスキャナを、図5に示したメイン制御部19と同等なシステム構成を備えたパーソナルコンピュータに接続するとともに、このパーソナルコンピュータのHDDに記憶媒体であるCD−ROM37に格納されたプログラムをインストールし、このプログラムに従ってパーソナルコンピュータのCPUを動作させることによって画像補正装置を構成しても、前述したような各種の作用効果と同様の作用効果を得ることができる。また、記憶媒体であるCD−ROM37に格納されたプログラムを、図5に示したメイン制御部19と同等なシステム構成を備えたパーソナルコンピュータのHDDにインストールし、このプログラムに従ってパーソナルコンピュータのCPUを動作させることによって画像補正装置を構成し、予め画像読取手段により読み取られたスキャン画像に対して画像補正処理を施すようにしても良い。
【0050】
次に、本発明の第二の実施の形態を図27ないし図38に基づいて説明する。なお、前述した第一の実施の形態と同じ部分は同じ符号で示し説明も省略する。本実施の形態は、第一の実施の形態とは、スキャン画像の画像補正処理が異なるものである。概略的には、第一の実施の形態においては線形状部分としてページ外形を用いてスキャン画像の「ハの字」歪みを補正するようにしたが、本実施の形態においては「ハの字」歪みの補正にあたって線形状部分として文字行または罫線を用いたものである。
【0051】
図27は、スキャン画像の画像補正処理の流れを概略的に示すフローチャートである。
まず、画像データ処理部28から出力されたコンタクトガラス2に載置されているブック原稿40のスキャン画像を入力した後(ステップS51)、ブック原稿40のスキャン画像の最適2値化処理を実行し(ステップS52)、副走査方向の黒画素数のヒストグラムを求める(ステップS53)。図28は、画像の黒画素ヒストグラムの一例を示すものである。
【0052】
次に、ステップS54において、画像補正処理を文字情報を利用して行うか罫線情報を利用して行うかの指定に待機する。
操作パネル22等を介して画像補正処理を文字情報を利用して行う旨の宣言がなされた場合には(ステップS54のN)、ステップS55に進み、文字が横書きであるか縦書きであるかを判別する。文字が横書きであるか縦書きであるかの判別は、ステップS53で求めた横方向(副走査方向)の黒画素数のヒストグラムに基づいて行う。例えば、横書きの画像の場合には、ヒストグラムに山谷の繰り返しパターンが現れ、縦書きの場合はこのパターンはない。この特徴を用いることにより、文字が横書きであるか縦書きであるかを判別する。ここに、文書判別手段の機能が実行される。
【0053】
文字が横書きであると判別された場合には(ステップS55のY)、黒画素が連続に繋がる文字単位の矩形抽出処理を行うとともに(ステップS56:文字外接矩形抽出手段)、文字行の抽出処理を行って最適な基準文字行を選択する(ステップS57:文字行抽出手段)。なお、文字認識処理については周知の技術であるので、その説明は省略する。ここで、二値化されたスキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を図29に示す。文字外接矩形抽出処理および文字行抽出処理後には、数多くの行が得られるが、その中で一定の長さ以上の行を選び、さらにその中でもっとも湾曲量が大きい行を最適な基準文字行として選択する。なお、一定の長さ以上の行とは、例えば、最も長い行の80%より長い行とする。また、ブック原稿40のページ綴じ部41の境界線より左側1行、右側1行をそれぞれ選択する。さらに、湾曲量は、文字行に含まれる各文字外接矩形の中心座標の主走査方向における位置によって測定し、中心座標の最大値と最小値との差が大きいほど湾曲量が大きいとみなす。
【0054】
続いて、ステップS57で抽出した基準文字行の直線部分を抽出する(ステップS58)。基準文字行の直線部分の抽出は、各矩形中心座標値のHough変換により行う。
Hough変換の原理を以下に示す。図30に示すように画像上の点P(x,y)を通過する直線は次の式(8)を満たす。
ρ=x・cosθ+y・sinθ・・・(8)
ここで、(x,y)は点Pの座標であり、ρは原点0と点Pとの距離である。θは直線POとx軸とがなす角度である。矩形中心座標(xi,yi)を離散化(メッシュ化)された(ρ,θ)パラメータ平面へと射影する。(x,y)平面の1点は、(ρ,θ)平面では1本の曲線に射影される。平面上の各メッシュについて曲線の通過数をカウントすると、通過数の多いメッシュは対応する直線があることを示す。1つの文字行には1本の直線しかないので曲線が最も多く通過するメッシュを見つければ、直線を抽出することができる。この方法は、ノイズに非常に強く、直線と曲線が混在する場合にも直線部分を抽出することができる。図29の直線を抽出した結果を図31に示す。
【0055】
続いて、基準文字行の曲線部分を求める(ステップS59)。ステップS57で抽出した基準文字行を以下に示す多項式(9)で近似し、最小2乗法により多項式の係数を求める。つまり、ステップS59は、行の曲線部分を多項式で近似するものである。
y=a0+a1x1+a2x2+・・・+anxn・・・(9)
ここで、(x,y)文字矩形中心の座標であり、(a0,a1,a2,・・・,an)は多項式の係数である。抽出した曲線部分の結果を図32に示す。
【0056】
次いで、基準文字行の直線部分と基準文字行の曲線部分との境目を検出し、スキャン画像の歪み領域を推定する(ステップS60)。つまり、ステップS58〜S60により歪み領域推定手段の機能が実行される。なお、基準文字行の直線部分と基準文字行の曲線部分との境目の判定処理については、各種の処理方法を用いることが可能である。例えば、特許文献2に記載されているような手法を用いることが可能である。概略的には、抽出した基準文字行に基づいて近似直線を求め、この直線から離れて曲線となる部分を基準文字行の直線部分と基準文字行の曲線部分との境目として判定するものである。
【0057】
続くステップS61においては、スキャン画像の左右ページの基準文字行の直線部分と画像水平方向(副走査方向)の水平線とのなす角度(「ハの字」歪み角度)を算出する。線分の傾きの算出については、第一の実施の形態を参照。
次に、ステップS58で求めた基準文字行の直線部分とステップS59で求めた基準文字行の曲線部分との間の距離を測定し(ステップS62)、3次元形状復元を行う(ステップS63)。図33は、基準文字行の直線部分と基準文字行の曲線部分との距離を示したものである。
【0058】
スキャンの主走査方向とブック原稿40のページ綴じ部41の境界線が平行な場合、レンズユニット10等のスキャナレンズによるブック原稿40を読み取るとき、結像系は次の特性を持つ。主走査方向は中心投影であり、副走査方向は平射投影である。ここで、これらの特性を利用して、3次元形状復元を行う。中心投影する場合、図34と図35に示すようにブック原稿40の表面はコンタクトガラス2の表面から浮いて結像距離が遠くなり、画像の拡大倍率は小さくなるので、外形エッジの直線はだんだん内側に湾曲していく。図35の縮む量ABを測定すれば、図34に示すような浮いた本の表面の高さdを計算できる。従って、直線の内側への歪み量を測定すれば、3次元形状(ブック原稿40のコンタクトガラス2からの浮き上がりの量)を復元できる。
【0059】
ここで、ブック原稿40を水平にコンタクトガラス2上に置くことを仮定する。そうすると、3次元の形状は2次元になる。スキャナレンズの結像関係を図36に示す。OO´はレンズの光軸であり、0はレンズの中心である。Fはレンズの中心0からスキャナ表面(コンタクトガラス2)までの距離で、これを、スキャナの焦点距離と言う。スキャナ表面上の点Bは結像面でDに結像する。浮いた製本(ブック原稿40)の表面上の点CはEに結像する。それぞれの結像面の中心0との距離はy´とyである(第一走行体5および第二走行体8が副走査方向に移動することによって、中心0も移動するが、その軌跡を結像中心線と呼ぶことにする)。三角形の相似関係により次の関係式(10),(11)が得られる。
d/F=AB/AO´・・・(10)
AB/AO´=(y´−y)/y・・・(11)
また、式(10),(11)により、ブック原稿40の浮き上がりの量dが次式(12)により得られる。
d=F×((y´−y)/y)・・・(12)
この式(12)により2次元の歪み量から3次元形状が求められることがわかる。ここで、歪み量(y´−y)と距離yは画像から求められるが、本実施の形態では、これを文字行あるいは罫線の直線成分と曲線部分との距離から求めるものである。レンズの焦点距離Fはスキャナ部1によって定まる既知量であり、スキャナ部1の設定値かレンズの校正値を用いる。以上のステップS58、S59、S62、S63により、浮き上がり量推定手段の機能が実行される。
【0060】
続いて、3次元形状に基づいて画像の歪み補正処理を行うとともに(ステップS64)、画像の輝度補正処理(ステップS65)、画像の文字ボケ補正処理を行う(ステップS66)。
【0061】
ステップS64の画像の歪み補正処理は、第一の実施の形態で説明したステップS25〜S27と何ら変わるものではないため、その説明は省略する。
また、画像の輝度補正処理(ステップS65)及び画像の文字ボケ補正処理(ステップS66)についても、第一の実施の形態で説明したステップS28及びステップS29と何ら変わるものではないため、その説明は省略する。
【0062】
一方、文字が縦書きであると判別された場合には(ステップS55のN)、ステップS67に進み、矩形抽出と縦方向の行の抽出処理を行う。ステップS67では、図37に示すように行の一番上あるいは一番下の矩形を求め、これを基準文字行とし、縦行の外形を求める。
【0063】
続くステップS58〜S66では、この基準文字行を構成する各矩形の中心座標を用いて、画像の歪み補正処理を行う。
また、歪み補正処理を罫線情報を利用して行う旨の宣言がなされた場合には(ステップS54のY)、横方向(副走査方向)に描いた罫線を抽出する(ステップS68:罫線抽出手段)。ステップS68では、ステップS53で求めた横方向(副走査方向)の黒画素数のヒストグラムを用いる。図38に示すように、横方向に描いた罫線が存在する場合には、ヒストグラムに細高いピークが現れるので、それを利用して罫線を抽出し、その中から一定の長さ以上の罫線を選ぶ。一定の長さを指定するとき、例えば、もっとも長い罫線の80%より長い罫線とする。そして、選択した罫線の中で画像の上端もしくは下端に最も近い罫線を基準罫線として選択する。また、ブック原稿40のページ綴じ部41の境界線より左側1罫線、右側1罫線をそれぞれ選択する。
続くステップS58〜S66は、基本的に文字情報を利用した場合と同様であるため、説明は省略する。
【0064】
【発明の効果】
請求項1、2、6、7記載の発明によれば、「ハの字」歪み補正手段は、ブック原稿の3次元形状を検出する3次元形状検出手段と、この3次元形状検出手段により検出された前記ブック原稿の3次元形状に基づきスキャン画像の主走査方向の伸長処理を行う主走査方向歪み補正手段と、この主走査方向歪み補正手段により主走査方向の伸長処理を施された前記スキャン画像の左右ページを分割し、所定位置を中心として前記「ハの字」歪み角度検出手段により検出された前記各「ハの字」歪み角度だけそれぞれ回転させる画像回転手段と、この画像回転手段により回転された画像の3次元形状に基づき、副走査方向に画像を伸長する副走査方向歪み補正手段と、を備えることにより、スキャン画像の「ハの字」歪みを補正した後にスキャン画像の副走査方向の形状歪み補正を確実に行うことができる。
請求項3、8記載の発明によれば、前記3次元形状検出手段は、前記スキャン画像の左右各ページの前記直線部を綴じ部境界線まで延長した直線から前記ページ外形の前記湾曲部に至る距離に基づき、前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を検出する浮き上がり形状検出手段と、この浮き上がり形状検出手段により検出された前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を前記綴じ部境界線に平行な直線上の各列毎に2点選択し、これらの2点の浮き上がり形状値を基に前記直線上の各列毎に線形補間処理を行う線形補間手段と、を備えることにより、ブック原稿の3次元形状の検出を確実に行うことができる。
請求項4、9記載の発明によれば、前記浮き上がり形状検出手段は、前記ブック原稿の浮き上がった前記歪み領域と前記歪み領域でない領域の境目を推定して、境目での浮き上がり形状値を0とすることにより、スキャン画像のコンタクトガラスからの浮き上がり形状値を容易に検出することができる。
請求項5、10記載の発明によれば、前記主走査方向歪み補正手段は、前記画像読取手段の光軸を基準として検出された各画素の伸長率に基づいて主走査方向に画像を伸長することにより、コンタクトガラスから浮き上がったブック原稿のスキャン画像の主走査方向の画像歪みを確実に補正することができる。
【図面の簡単な説明】
【図1】本発明の第一の実施の形態のスキャナ部の構成を示す縦断正面図である。
【図2】スキャナ部を搭載したデジタル複写機の上部部分を示す斜視図である。
【図3】スキャナ部の制御系の電気的な接続を示すブロック図である。
【図4】画像処理部の基本的な内部構成を示すブロック図である。
【図5】メイン制御部の電気的な接続を示すブロック図である。
【図6】スキャン画像の補正処理の流れを概略的に示すフローチャートである。
【図7】スキャナ部のコンタクトガラス上にブック原稿を載置した状態を示す斜視図である。
【図8】入力した画像の一例を示す平面図である。
【図9】スキャン画像のページ綴じ部の近傍の歪みを示す説明図である。
【図10】上端にページ外形が存在するスキャン画像の一例を示す説明図である。
【図11】図10に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。
【図12】スキャン画像の「ハの字」歪み角度の検出手法を示す説明図である。
【図13】スキャン画像の「ハの字」歪み角度検出処理の流れを示すフローチャートである。
【図14】スキャン画像の画像歪み補正処理の流れを示すフローチャートである。
【図15】スキャン画像の左右ページのページ外形の直線部を綴じ部境界線まで延長した様子を示す説明図である。
【図16】線分JO,OM上の書籍表面形状を示す説明図である。
【図17】線分KO',O'N上の書籍表面形状を示す説明図である。
【図18】綴じ部境界線と平行な線分EE'における形状断面を示す説明図である。
【図19】綴じ部境界線と平行な線分GHにおける形状断面を示す説明図である。
【図20】主走査方向における変倍処理の手法を示す説明図である。
【図21】スキャナレンズの結像関係を示す説明図である。
【図22】画素値の線形補間処理による求め方を示す説明図である。
【図23】図20の画像に対して左右ページをそれぞれ「ハの字」歪み補正した後のスキャン画像を示す説明図である。
【図24】副走査方向における伸張処理の手法を示す説明図である。
【図25】歪みを補正した画像を示す平面図である。
【図26】コンタクトガラスにブック原稿を接触させた状態を示す正面図である。
【図27】本発明の第二の実施の形態のスキャン画像の画像補正処理の流れを概略的に示すフローチャートである。
【図28】画像の黒画素ヒストグラムの一例を示すヒストグラムである。
【図29】二値化されたスキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を示す説明図である。
【図30】Hough変換の原理を示す説明図である。
【図31】Hough変換により図29の直線を抽出した結果を示す説明図である。
【図32】最小2乗法により図29の曲線部分を抽出した結果を示す説明図である。
【図33】基準文字行の直線部分と基準文字行の曲線部分との距離を示す説明図である。
【図34】本の表面の浮いた高さを示す説明図である。
【図35】画像が縮む量を示す説明図である。
【図36】スキャナレンズの結像関係を示す説明図である。
【図37】文字が縦書きである場合の基準文字行を示す説明図である。
【図38】横方向に描いた罫線を示す説明図である。
【図39】コンタクトガラス上にブック原稿を載置した状態を示す正面図である。
【図40】「ハの字」歪みが生じたスキャン画像を示す説明図である。
【符号の説明】
1・・・画像読取装置、2・・・コンタクトガラス、16・・・画像形成装置、29・・
・画像補正装置、37・・・記憶媒体、40・・・ブック原稿。
Claims (10)
- ページ綴じ部をスキャナ部の画像読取の主走査方向に対してほぼ平行になるように位置させてコンタクトガラスの上もしくは下に接触したブック原稿を、画像読取手段により読み取ったスキャン画像を補正する画像補正装置において、
前記ブック原稿の前記スキャン画像に含まれる線形状部分を用い、前記スキャン画像の「ハの字」歪み角度を検出する「ハの字」歪み角度検出手段と、この「ハの字」歪み角度検出手段により検出された前記「ハの字」歪み角度に基づいて前記スキャン画像の「ハの字」歪みを補正した後に前記スキャン画像の副走査方向の形状歪みを補正する「ハの字」歪み補正手段と、を備え、
前記「ハの字」歪み補正手段は、前記ブック原稿の3次元形状を検出する3次元形状検出手段と、この3次元形状検出手段により検出された前記ブック原稿の3次元形状に基づき前記スキャン画像の主走査方向の伸長処理を行う主走査方向歪み補正手段と、この主走査方向歪み補正手段により主走査方向の伸長処理を施された前記スキャン画像の左右ページを分割し、所定位置を中心として前記「ハの字」歪み角度検出手段により検出された前記各「ハの字」歪み角度だけそれぞれ回転させる画像回転手段と、この画像回転手段により回転された画像の3次元形状に基づき、副走査方向に画像を伸長する副走査方向歪み補正手段と、を備えることを特徴とする画像補正装置。 - 前記「ハの字」歪み角度検出手段は、前記線形状部分の直線部を前記スキャン画像の左右ページからそれぞれ検出し、前記直線部と湾曲部との境目を検出して歪み領域を推定する歪み領域推定手段と、前記スキャン画像の左右各ページの前記直線部と画像読み取りの副走査方向との成す角度をそれぞれ算出する「ハの字」歪み角度算出手段と、
を備えることを特徴とする請求項1記載の画像補正装置。 - 前記3次元形状検出手段は、前記スキャン画像の左右各ページの前記直線部を綴じ部境界線まで延長した直線から前記線形状部分の前記湾曲部に至る距離に基づき、前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を検出する浮き上がり形状検出手段と、この浮き上がり形状検出手段により検出された前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を前記綴じ部境界線に平行な直線上の各列毎に2点選択し、これらの2点の浮き上がり形状値を基に前記直線上の各列毎に線形補間処理を行う線形補間手段と、を備えることを特徴とする請求項1又は2記載の画像補正装置。
- 前記浮き上がり形状検出手段は、前記ブック原稿の浮き上がった前記歪み領域と前記歪み領域でない領域の境目を推定して、境目での浮き上がり形状値を0とすることを特徴とする請求項3記載の画像補正装置。
- 前記主走査方向歪み補正手段は、前記画像読取手段の光軸を基準として検出された各画素の伸長率に基づいて主走査方向に画像を伸長することを特徴とする請求項1又は2記載の画像補正装置。
- ページ綴じ部をスキャナ部の画像読取の主走査方向に対してほぼ平行になるように位置させてコンタクトガラスの上もしくは下に接触したブック原稿を、画像読取手段により読み取ったスキャン画像を補正するプログラムであって、コンピュータを、前記ブック原稿の前記スキャン画像に含まれる線形状部分を用い、前記スキャン画像の「ハの字」歪み角度を検出する「ハの字」歪み角度検出手段と、この「ハの字」歪み角度検出手段により検出された前記「ハの字」歪み角度に基づいて前記スキャン画像の「ハの字」歪みを補正した後に前記スキャン画像の副走査方向の形状歪みを補正する「ハの字」歪み補正手段として機能させ、
その際、コンピュータを、前記「ハの字」歪み補正手段が備える前記ブック原稿の3次元形状を検出する3次元形状検出手段と、この3次元形状検出手段により検出された前記ブック原稿の3次元形状に基づき前記スキャン画像の主走査方向の伸長処理を行う主走査方向歪み補正手段と、この主走査方向歪み補正手段により主走査方向の伸長処理を施された前記スキャン画像の左右ページを分割し、所定位置を中心として前記「ハの字」歪み角度検出手段により検出された前記各「ハの字」歪み角度だけそれぞれ回転させる画像回転手段と、この画像回転手段により回転された画像の3次元形状に基づき、副走査方向に画像を伸長する副走査方向歪み補正手段と、として機能させることを特徴とするプログラム。 - コンピュータを、前記線形状部分の直線部を前記スキャン画像の左右ページからそれぞれ検出し、前記直線部と湾曲部との境目を検出して歪み領域を推定する歪み領域推定手段と、前記スキャン画像の左右各ページの前記直線部と画像読み取りの副走査方向との成す角度をそれぞれ算出する「ハの字」歪み角度算出手段を備える前記「ハの字」歪み角度検出手段として機能させることを特徴とする請求項6記載のプログラム。
- コンピュータを、前記スキャン画像の左右各ページの前記直線部を綴じ部境界線まで延長した直線から前記線形状部分の前記湾曲部に至る距離に基づき、前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を検出する浮き上がり形状検出手段と、この浮き上がり形状検出手段により検出された前記スキャン画像の前記コンタクトガラスからの浮き上がり形状値を前記綴じ部境界線に平行な直線上の各列毎に2点選択し、これらの2点の浮き上がり形状値を基に前記直線上の各列毎に線形補間処理を行う線形補間手段、を備える前記3次元形状検出手段として機能させることを特徴とする請求項6又は7記載のプログラム。
- コンピュータを、前記ブック原稿の浮き上がった前記歪み領域と前記歪み領域でない領域の境目を推定して、境目での浮き上がり形状値を0とする前記浮き上がり形状検出手段として機能させることを特徴とする請求項8記載のプログラム。
- コンピュータを、前記画像読取手段の光軸を基準として検出された各画素の伸長率に基づいて主走査方向に画像を伸長する前記主走査方向歪み補正手段として機能させることを特徴とする請求項6又は7記載のプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002330362A JP4141235B2 (ja) | 2002-02-08 | 2002-11-14 | 画像補正装置及びプログラム |
US10/359,238 US7477426B2 (en) | 2002-02-08 | 2003-02-06 | Image correcting apparatus and method, program, storage medium, image reading apparatus, and image forming apparatus |
CNB031031943A CN1249617C (zh) | 2002-02-08 | 2003-02-08 | 图像补正装置,图像补正方法,及图像形成装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002033092 | 2002-02-08 | ||
JP2002-33092 | 2002-02-08 | ||
JP2002330362A JP4141235B2 (ja) | 2002-02-08 | 2002-11-14 | 画像補正装置及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003304390A JP2003304390A (ja) | 2003-10-24 |
JP2003304390A5 JP2003304390A5 (ja) | 2005-10-06 |
JP4141235B2 true JP4141235B2 (ja) | 2008-08-27 |
Family
ID=27667520
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002330362A Expired - Fee Related JP4141235B2 (ja) | 2002-02-08 | 2002-11-14 | 画像補正装置及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7477426B2 (ja) |
JP (1) | JP4141235B2 (ja) |
CN (1) | CN1249617C (ja) |
Families Citing this family (48)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3694892B2 (ja) * | 2001-09-12 | 2005-09-14 | セイコーエプソン株式会社 | 複合プリンタおよびスキャンイメージ複写方法 |
US7742198B2 (en) * | 2001-09-12 | 2010-06-22 | Seiko Epson Corporation | Image processing apparatus and method |
JP4200106B2 (ja) | 2003-07-15 | 2008-12-24 | 株式会社リコー | 画像処理装置、画像処理方法、コンピュータプログラム、及びコンピュータプログラムを記憶する記憶媒体 |
US7602995B2 (en) * | 2004-02-10 | 2009-10-13 | Ricoh Company, Ltd. | Correcting image distortion caused by scanning |
US7596273B2 (en) * | 2004-04-19 | 2009-09-29 | Fujifilm Corporation | Image processing method, image processing apparatus, and image processing program |
JP4271085B2 (ja) * | 2004-06-03 | 2009-06-03 | 株式会社リコー | 画像補正装置、画像読取装置、プログラム及び記憶媒体 |
DE602005005117T2 (de) * | 2004-08-10 | 2009-03-19 | Oce-Technologies B.V. | Detektion abweichender Seiten während des Scannens |
US20070126892A1 (en) * | 2005-11-30 | 2007-06-07 | Haike Guan | Correcting an image captured through a lens |
US7330604B2 (en) * | 2006-03-02 | 2008-02-12 | Compulink Management Center, Inc. | Model-based dewarping method and apparatus |
JP2007282057A (ja) * | 2006-04-10 | 2007-10-25 | Canon Inc | 画像処理装置 |
US8213687B2 (en) * | 2006-04-28 | 2012-07-03 | Hewlett-Packard Development Company, L.P. | Image processing methods, image processing systems, and articles of manufacture |
US20080021857A1 (en) * | 2006-07-10 | 2008-01-24 | Kabushiki Kaisha Toshiba | Electronic Data Storing Apparatus |
JP4991411B2 (ja) * | 2006-07-28 | 2012-08-01 | キヤノン株式会社 | 画像処理方法 |
GB0616293D0 (en) * | 2006-08-16 | 2006-09-27 | Imp Innovations Ltd | Method of image processing |
US8290293B2 (en) * | 2006-10-17 | 2012-10-16 | Samsung Electronics Co., Ltd. | Image compensation in regions of low image contrast |
JP4745949B2 (ja) * | 2006-12-11 | 2011-08-10 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
US7843611B2 (en) * | 2007-07-18 | 2010-11-30 | Kuwait University | High speed flatbed scanner comprising digital image-capture module with two-dimensional optical image photo-sensor or digital camera |
US8107766B2 (en) | 2008-04-03 | 2012-01-31 | Abbyy Software Ltd. | Method and system for straightening out distorted text-lines on images |
JP5199787B2 (ja) * | 2008-08-21 | 2013-05-15 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US8131009B2 (en) * | 2008-11-11 | 2012-03-06 | Xerox Corporation | Automatic spine creation from book covers without spines |
JP5321009B2 (ja) * | 2008-11-21 | 2013-10-23 | ソニー株式会社 | 画像信号処理装置、画像信号処理方法および画像投射装置 |
JP5202267B2 (ja) * | 2008-12-11 | 2013-06-05 | 三菱電機株式会社 | 画像読取装置 |
KR101061098B1 (ko) * | 2009-09-02 | 2011-09-01 | 심규철 | 스캐너 장치 및 스캐닝 방법 |
CN102196112B (zh) * | 2010-03-01 | 2014-09-24 | 佳能株式会社 | 用于检测页边界的方法和装置 |
JP4918167B1 (ja) * | 2011-03-31 | 2012-04-18 | パナソニック株式会社 | 画像処理装置およびこれを備えた原稿読取システム |
JP2013030937A (ja) * | 2011-07-27 | 2013-02-07 | Brother Ind Ltd | 画像読取装置 |
US10289924B2 (en) | 2011-10-17 | 2019-05-14 | Sharp Laboratories Of America, Inc. | System and method for scanned document correction |
CN102447810A (zh) * | 2011-10-27 | 2012-05-09 | 天津大学 | 一种非接触式图像扫描还原方法 |
JP5802524B2 (ja) * | 2011-11-21 | 2015-10-28 | 株式会社Pfu | 画像処理装置、画像処理方法、および画像処理プログラム |
GB2500431B8 (en) * | 2012-03-22 | 2017-06-07 | Sony Computer Entertainment Europe Ltd | System and method of estimating page position |
CN202759511U (zh) * | 2012-07-24 | 2013-02-27 | 旭丽电子(广州)有限公司 | 影像扫描装置 |
KR20140082428A (ko) | 2012-12-24 | 2014-07-02 | 삼성전자주식회사 | 화상독취장치, 이미지 보정 방법 및 컴퓨터 판독가능 기록매체 |
JP6344638B2 (ja) | 2013-03-06 | 2018-06-20 | 株式会社リコー | 物体検出装置、移動体機器制御システム及び物体検出用プログラム |
US8908021B2 (en) * | 2013-03-15 | 2014-12-09 | Orcam Technologies Ltd. | Systems and methods for automatic control of a continuous action |
CN104253923B (zh) * | 2013-06-28 | 2017-12-22 | 京瓷办公信息系统株式会社 | 图像读取装置和图像形成装置 |
AU2013273787A1 (en) * | 2013-12-20 | 2015-07-09 | Canon Kabushiki Kaisha | Method of detecting regions in an edge-based representation |
US9524445B2 (en) | 2015-02-27 | 2016-12-20 | Sharp Laboratories Of America, Inc. | Methods and systems for suppressing non-document-boundary contours in an image |
KR101719921B1 (ko) * | 2015-11-10 | 2017-03-24 | (주)칼리온 | 구조광을 이용한 3차원 북 스캐닝 장치 및 방법 |
RU2628266C1 (ru) | 2016-07-15 | 2017-08-15 | Общество с ограниченной ответственностью "Аби Девелопмент" | Способ и система подготовки содержащих текст изображений к оптическому распознаванию символов |
EP3448010A1 (en) * | 2017-08-23 | 2019-02-27 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | System for analyzing a document and corresponding method |
US10545844B2 (en) * | 2017-09-29 | 2020-01-28 | Ricoh Company, Ltd. | Print verification system that reports defective printheads |
JP6968647B2 (ja) * | 2017-10-03 | 2021-11-17 | キヤノン株式会社 | スキャン画像にファイル名を設定するための装置、その制御方法及びプログラム |
DE102018123781B4 (de) | 2018-09-26 | 2023-08-03 | Carl Zeiss Meditec Ag | Verfahren zum Durchführen einer Shading-Korrektur und optisches Beobachtungsgerätesystem |
JP7180408B2 (ja) * | 2019-01-25 | 2022-11-30 | 富士フイルムビジネスイノベーション株式会社 | 画像処理装置および画像処理プログラム |
CN110363721B (zh) * | 2019-07-10 | 2021-11-09 | 成都极米科技股份有限公司 | 目标区域信息生成方法、目标图案处理方法及系统 |
JP7367437B2 (ja) * | 2019-10-03 | 2023-10-24 | 富士フイルムビジネスイノベーション株式会社 | 画像処理装置、折り筋形成装置、および折り装置 |
JP2023074900A (ja) * | 2021-11-18 | 2023-05-30 | コニカミノルタ株式会社 | 画像形成装置、後処理位置調整方法および後処理位置調整プログラム |
JP2024001994A (ja) * | 2022-06-23 | 2024-01-11 | セイコーエプソン株式会社 | 支持ユニット、印刷システム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3175250B2 (ja) | 1991-12-05 | 2001-06-11 | ミノルタ株式会社 | 原稿読み取り装置 |
US5583662A (en) * | 1991-12-27 | 1996-12-10 | Ricoh Company, Ltd. | Book document reading device having a page turning capability |
US5677776A (en) * | 1994-09-29 | 1997-10-14 | Minolta Co., Ltd. | Image reader for processing an image of a document |
JP3436025B2 (ja) * | 1995-12-27 | 2003-08-11 | ミノルタ株式会社 | 読取り画像の修正方法及び画像読取り装置 |
JPH09200455A (ja) * | 1996-01-19 | 1997-07-31 | Minolta Co Ltd | 読取り画像の濃度補正方法及び画像読取り装置 |
US5726775A (en) * | 1996-06-26 | 1998-03-10 | Xerox Corporation | Method and apparatus for determining a profile of an image displaced a distance from a platen |
JPH1013608A (ja) * | 1996-06-26 | 1998-01-16 | Minolta Co Ltd | 画像読取り装置 |
US6433896B1 (en) * | 1997-06-10 | 2002-08-13 | Minolta Co., Ltd. | Image processing apparatus |
JP3532385B2 (ja) | 1997-07-24 | 2004-05-31 | 株式会社リコー | 画像処理装置 |
JP3385994B2 (ja) * | 1998-02-27 | 2003-03-10 | 株式会社ニコン | 像検出装置 |
JP3762579B2 (ja) * | 1999-08-05 | 2006-04-05 | 株式会社リコー | デジタル音響信号符号化装置、デジタル音響信号符号化方法及びデジタル音響信号符号化プログラムを記録した媒体 |
JP4021124B2 (ja) | 2000-05-30 | 2007-12-12 | 株式会社リコー | デジタル音響信号符号化装置、方法及び記録媒体 |
US6954290B1 (en) * | 2000-11-09 | 2005-10-11 | International Business Machines Corporation | Method and apparatus to correct distortion of document copies |
-
2002
- 2002-11-14 JP JP2002330362A patent/JP4141235B2/ja not_active Expired - Fee Related
-
2003
- 2003-02-06 US US10/359,238 patent/US7477426B2/en not_active Expired - Fee Related
- 2003-02-08 CN CNB031031943A patent/CN1249617C/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US7477426B2 (en) | 2009-01-13 |
CN1249617C (zh) | 2006-04-05 |
CN1437156A (zh) | 2003-08-20 |
US20030198398A1 (en) | 2003-10-23 |
JP2003304390A (ja) | 2003-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4141235B2 (ja) | 画像補正装置及びプログラム | |
JP3891408B2 (ja) | 画像補正装置、プログラム、記憶媒体及び画像補正方法 | |
US7016081B2 (en) | Image distortion correction apparatus, distortion correction method therefor, recording media, image scanner and image construction apparatus | |
JP4113804B2 (ja) | 画像処理装置及び画像処理プログラム | |
JP4162633B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP4111697B2 (ja) | 画像輝度補正装置、画像読取装置、画像形成装置及びプログラム | |
JP3983721B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4006242B2 (ja) | 画像補正装置、プログラム、記憶媒体及び画像補正方法 | |
JP3865215B2 (ja) | 画像歪み補正装置、プログラム、記憶媒体及び画像歪み補正方法 | |
JP4318874B2 (ja) | ボケ画像補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4507124B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4585015B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4180260B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP3979639B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP3926294B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置、画像歪み補正方法、画像歪み補正プログラム、及び記録媒体 | |
JP3917421B2 (ja) | 画像輝度補正装置、画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP4194076B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP4061256B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4093970B2 (ja) | 画像歪み補正装置、プログラム及び記憶媒体 | |
JP4136860B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム | |
JP4198613B2 (ja) | 画像歪み補正装置、プログラム及び記憶媒体 | |
JP2003143407A (ja) | 画像輝度補正装置、画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP3877142B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置、プログラム及び記憶媒体 | |
JP3865199B2 (ja) | 画像読取装置、画像歪み補正方法、記憶媒体および画像形成装置 | |
JP4840830B2 (ja) | 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20041007 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050524 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050524 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050524 |
|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20060922 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070328 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070412 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070608 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070723 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070920 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080218 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080610 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080610 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110620 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110620 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120620 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130620 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |