[go: up one dir, main page]

JP5885569B2 - 画像処理装置および画像処理プログラム - Google Patents

画像処理装置および画像処理プログラム Download PDF

Info

Publication number
JP5885569B2
JP5885569B2 JP2012091429A JP2012091429A JP5885569B2 JP 5885569 B2 JP5885569 B2 JP 5885569B2 JP 2012091429 A JP2012091429 A JP 2012091429A JP 2012091429 A JP2012091429 A JP 2012091429A JP 5885569 B2 JP5885569 B2 JP 5885569B2
Authority
JP
Japan
Prior art keywords
classification
image
user preference
preference information
grouping
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012091429A
Other languages
English (en)
Other versions
JP2013222225A (ja
Inventor
良輔 大岸
良輔 大岸
陽介 樫本
陽介 樫本
雅彰 相場
雅彰 相場
村上 隆
隆 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Document Solutions Inc
Original Assignee
Kyocera Document Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Document Solutions Inc filed Critical Kyocera Document Solutions Inc
Priority to JP2012091429A priority Critical patent/JP5885569B2/ja
Priority to US13/860,337 priority patent/US9152885B2/en
Priority to CN2013101251869A priority patent/CN103377380A/zh
Publication of JP2013222225A publication Critical patent/JP2013222225A/ja
Application granted granted Critical
Publication of JP5885569B2 publication Critical patent/JP5885569B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/43Editing text-bitmaps, e.g. alignment, spacing; Semantic analysis of bitmaps of text without OCR

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Character Discrimination (AREA)

Description

本発明は、画像処理装置および画像処理プログラムに関するものである。
画像内のオブジェクトを抽出する画像処理装置が種々提案されている(例えば特許文献1〜3参照)。例えば特許文献1,2に記載の装置は、OCR(Optical Character Recognition)技術で、画像内の文字を抽出している。また、例えば特許文献3に記載の装置は、文字、線分、およびイメージを抽出し、別々に圧縮している。
その他、表示されている画像内の複数のオブジェクトを、マウスなどを使用して手作業で選択し、選択されたオブジェクトをグルーピングする技術が提案されている(例えば特許文献4参照)。
特開平6−180770号公報 特開2004−341631号公報 特開2006−270439号公報 特開平3−160568号公報
上述の画像内のオブジェクトを抽出する画像処理装置は、画像内のオブジェクトを、文字などに固定的に分類している。このため、ユーザーの所望する詳細な分類を行うことは困難である。
また、上述のグルーピングの技術では、ユーザーが、表示されている画像から1つ1つのオブジェクトを選択しなければならないため、画像が表示された状態で、ユーザーが1つ1つのオブジェクトを分類する必要があり、グルーピングのためのユーザー作業が非常に煩雑である。
このように、上述の技術では、ユーザーによる簡単な作業で、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類を行い、各分類のオブジェクトをグルーピングすることは困難である。
本発明は、上記の問題に鑑みてなされたものであり、ユーザーによる簡単な作業だけで、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類を行い、各分類のオブジェクトをグルーピングする画像処理装置および画像処理プログラムを得ることを目的とする。
上記の課題を解決するために、本発明では以下のようにした。
本発明に係る画像処理装置は、ユーザー操作に基づいて、画像内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示すユーザー嗜好情報を所定の記憶装置に登録するグルーピング設定部と、画像内のオブジェクトを検出する画像解析部と、記憶装置からユーザー嗜好情報を読み出し、画像解析部により画像内で検出されたオブジェクトを、ユーザー嗜好情報により指定された分類ごとにグルーピングするグルーピング部とを備える。そして、ユーザー嗜好情報は、大分類と、大分類に属する下位分類を含み、グルーピング部は、各オブジェクトを、ユーザー嗜好情報により指定されている大分類にグルーピングするとともに、ユーザー嗜好情報により指定されている下位分類にグルーピングする。さらに、大分類に対して大分類であることを示す1つの分類IDが設定され、ある1つの下位分類に対して下位分類分類IDが複数設定され、グルーピング部は、各オブジェクトをグルーピングする際に、ユーザー嗜好情報により指定された大分類の分類IDおよび下位分類の分類IDに、オブジェクトを関連付ける。
これにより、事前にユーザー嗜好情報を登録しておくだけで(つまり、ユーザーによる簡単な作業だけで)、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類が自動的に行われ、各分類のオブジェクトがグルーピングされる。
また、本発明に係る画像処理装置は、上記の画像処理装置に加え、次のようにしてもよい。この場合、画像処理装置は、ユーザー操作を検出する入力部と、画像内のオブジェクトのうち、ユーザー嗜好情報において指定されている分類を選択する第1ユーザー操作および選択した分類に属するオブジェクトに対する編集方法を選択する第2ユーザー操作が入力部により検出されると、画像において、第1ユーザー操作により選択された分類に属するすべてのオブジェクトを、第2ユーザー操作により選択された編集方法で編集する画像編集部と、画像編集部による編集の前および/または後の上述の画像を表示する表示部とをさらに備える。
これにより、グルーピングされている各分類のオブジェクトが、一括して編集できる。
また、本発明に係る画像処理装置は、上記の画像処理装置に加え、次のようにしてもよい。この場合、ユーザー嗜好情報は、分類として、文字領域、画像領域、および罫線領域の少なくとも1つを指定する。そして、グルーピング部は、ユーザー嗜好情報により指定されている分類ごとに、その分類に属するオブジェクトをグルーピングする。
また、本発明に係る画像処理装置は、上記の画像処理装置に加え、次のようにしてもよい。この場合、ユーザー嗜好情報は、文字領域について、さらに、下位分類として、手書き文字か否かの分類を実行するか否かの設定情報、文字種別による分類を実行するか否かの設定情報、文字装飾による分類を実行するか否かの設定情報、および所定の指定文字の付いた単語を抽出する分類を実行するか否かの設定情報の少なくとも1つを含む。そして、グルーピング部は、文字領域について、ユーザー嗜好情報における設定情報より指定されている分類を実行する。
また、本発明に係る画像処理装置は、上記の画像処理装置に加え、次のようにしてもよい。この場合、ユーザー嗜好情報は、画像領域について、さらに、下位分類として、顔画像か否かの分類を実行するか否かの設定情報、および所定の形状か否かの分類を実行するか否かの設定情報の少なくとも1つを含む。そして、グルーピング部は、画像領域について、ユーザー嗜好情報における設定情報より指定されている分類を実行する。
また、本発明に係る画像処理装置は、上記の画像処理装置に加え、次のようにしてもよい。この場合、ユーザー嗜好情報は、罫線領域について、さらに、下位分類として、罫線方向による分類を実行するか否かの設定情報、罫線の線種による分類を実行するか否かの設定情報、および罫線の太さによる分類を実行するか否かの設定情報の少なくとも1つを含む。そして、グルーピング部は、罫線領域について、ユーザー嗜好情報における設定情報より指定されている分類を実行する。
本発明に係る画像処理プログラムは、コンピューターを、ユーザー操作に基づいて、画像内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示すユーザー嗜好情報を所定の記憶装置に登録するグルーピング設定部、画像内のオブジェクトを検出する画像解析部、および記憶装置からユーザー嗜好情報を読み出し、画像解析部により画像内で検出されたオブジェクトを、ユーザー嗜好情報により指定された分類ごとにグルーピングするグルーピング部として機能させる。そして、ユーザー嗜好情報は、大分類と、大分類に属する下位分類を含み、グルーピング部は、各オブジェクトを、ユーザー嗜好情報により指定されている大分類にグルーピングするとともに、ユーザー嗜好情報により指定されている下位分類にグルーピングする。さらに、大分類に対して大分類であることを示す1つの分類IDが設定され、ある1つの下位分類に対して下位分類分類IDが複数設定され、グルーピング部は、各オブジェクトをグルーピングする際に、ユーザー嗜好情報により指定された大分類の分類IDおよび下位分類の分類IDに、オブジェクトを関連付ける。これにより、事前にユーザー嗜好情報を登録しておくだけで(つまり、ユーザーによる簡単な作業だけで)、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類が自動的に行われ、各分類のオブジェクトがグルーピングされる。
本発明に係る画像処理プログラムは、上記の画像処理プログラムに加え、コンピューターを、さらに、画像内のオブジェクトのうち、ユーザー嗜好情報において指定されている分類を選択する第1ユーザー操作および選択した分類に属するオブジェクトに対する編集方法を選択する第2ユーザー操作が検出されると、画像において、第1ユーザー操作により選択された分類に属するすべてのオブジェクトを、第2ユーザー操作により選択された編集方法で編集する画像編集部として機能させるようにしてもよい。そして、上記の第1ユーザー操作は、ユーザー嗜好情報において指定されている大分類または下位分類を選択することを含み、画像編集部は、第1ユーザー操作によって選択された大分類または下位分類に属するすべてのオブジェクトを編集するようにしてもよい。
本発明によれば、ユーザーによる簡単な作業だけで、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類を行い、各分類のオブジェクトをグルーピングする画像処理装置および画像処理プログラムが得られる。
図1は、本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。 図2は、図1に示す画像処理装置によるユーザー嗜好情報の登録について説明するフローチャートである。 図3は、図1に示す画像処理装置において、ユーザー嗜好情報の登録時に表示されるユーザー嗜好入力画面の一例を示す図である。 図4は、図1に示す画像処理装置による画像内のオブジェクトのグルーピングについて説明するフローチャートである。 図5は、図1に示す画像処理装置による画像内のオブジェクトの分類の一例を示す図である。 図6は、図1に示す画像処理装置によるオブジェクトの画像編集画面の一例を示す図である。 図7は、図6に示す画像編集画面においてオブジェクトの画像編集が実行された後の画像編集画面の一例を示す図である。
以下、図に基づいて本発明の実施の形態を説明する。
図1は、本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。
図1に示す画像処理装置は、画像形成装置の一種である複合機であって、スキャナー部1、プリンター部2、ユーザー操作部3、ネットワーク通信部4、記憶装置5、およびコントローラー6を有する。
スキャナー部1は、原稿画像を光学的に読み取り、その原稿画像の画像データを出力する内部装置である。スキャナー部1は、スキャナーエンジン11、CCD(Charge Coupled Device)12、およびドキュメントフィーダー13を有し、スキャナーエンジン11は、コントローラー6からの要求に従って、CCD12、ドキュメントフィーダー13、その他の駆動装置(図示せず)を制御して、原稿画像を読み取り、その原稿画像の画像データ(ラスターデータ)を生成する。
プリンター部2は、コントローラー6からの要求に応じて、コントローラー6からの画像データに基づく画像を印刷する内部装置である。
ユーザー操作部3は、例えば装置筐体に設置された操作パネルであって、入力部21と、表示部22とを有する。入力部21は、ハードウェアキー、タッチパネルなどであって、ユーザー操作を検出し、そのユーザー操作に応じた電気信号を出力する装置である。表示部22は、例えば液晶ディスプレイ、LED(Light Emitting Diode)表示器などであって、ユーザーに対して各種情報を表示する装置である。ユーザー操作部3は、コントローラー6からの要求に応じた画面を表示部22で表示するとともに、入力部21により検出されたユーザー操作の情報をコントローラー6に供給する。
ネットワーク通信部4は、ネットワークに接続され、そのネットワークに接続されたホスト装置などとのデータ通信を行う装置である。
記憶装置5は、ユーザーの登録情報、後述のユーザー嗜好情報、スキャナー部1により生成された原稿画像の画像データなどを記憶する装置である。記憶装置5としては、例えばハードディスクドライブなどの不揮発性の記憶装置が使用される。
コントローラー6は、スキャナー部1とのデータ通信を行うインターフェイス31、プリンター部2とのデータ通信を行うインターフェイス32、ユーザー操作部3とのデータ通信を行うインターフェイス33、ネットワーク通信部4とのデータ通信を行うインターフェイス34、記憶装置5とのデータ通信を行うインターフェイス35、および画像処理部36を有する。
コントローラー6は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などを有するコンピューターおよび/またはASIC(Application Specific Integrated Circuit)を有し、図示せぬ画像処理プログラムを実行して画像処理部36を実現する。なお、画像処理プログラムは、ROM、記憶装置5などの記録媒体に予め記憶されている。
画像処理部36は、グルーピング設定部41、画像生成部42、画像解析部43、グルーピング部44、画像編集部45、および制御部46を有する。
グルーピング設定部41は、入力部21により検出されたユーザー操作に基づいて、ユーザー嗜好情報を特定し、記憶装置5に登録する処理部である。ユーザー嗜好情報は、画像(例えばスキャナー部1により読み取られた画像)内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示す情報である。
また、ユーザー嗜好情報は、オブジェクトの分類として、文字領域、画像領域、および罫線領域の少なくとも1つを指定する情報である。
また、ユーザー嗜好情報は、文字領域について、手書き文字か否かの分類を実行するか否かの設定情報、文字種別による分類を実行するか否かの設定情報、文字装飾による分類を実行するか否かの設定情報、および所定の指定文字の付いた単語を抽出する分類を実行するか否かの設定情報の少なくとも1つを含む。
また、ユーザー嗜好情報は、画像領域について、顔画像か否かの分類を実行するか否かの設定情報、および所定の形状か否かの分類を実行するか否かの設定情報の少なくとも1つを含む。
また、ユーザー嗜好情報は、罫線領域について、罫線方向による分類を実行するか否かの設定情報、罫線の線種による分類を実行するか否かの設定情報、および罫線の太さによる分類を実行するか否かの設定情報の少なくとも1つを含む。
画像生成部42は、スキャナー部1を制御して、原稿画像を読み取らせ、その原稿画像の画像データを取得する処理部である。
画像解析部43は、画像生成部42により取得された画像データに基づく画像内において、オブジェクトを検出する。オブジェクトとは、原稿画像内の、文字領域、画像領域、罫線領域などの個別の画像のことである。なお、画像解析部43は、既知の技術を使用して、画像内の文字領域、画像領域、および罫線領域をそれぞれ検出する。
なお、文字領域の検出については、一般的なOCR技術(例えば特開2004−341631号公報に記載の技術)が利用できる。また、画像領域の検出については、例えば、「航空写真からの複合オブジェクト認識手法の研究」(須藤 孝史ら著、2000年6月29日、日本写真測量学会平成12年度年次学術講演会発表論文集)、「航空画像からの半自動オブジェクト概念抽出手法の研究」(久保 孝弘ら著、2002年3月8日、コンピュータビジョンとイメージメディア132−2、情報処理学会研究会)などの技術が利用できる。
グルーピング部44は、記憶装置5からユーザー嗜好情報を読み出し、画像解析部43により画像内で検出されたオブジェクトを、そのユーザー嗜好情報により指定された分類ごとにグルーピングする。
グルーピング部44は、各オブジェクトについてのオブジェクトデータ、およびユーザー嗜好情報により指定されている各分類についての分類データを生成し、それらのデータをコントローラー6内のRAMや記憶装置5に保持する。
オブジェクトデータは、オブジェクトに固有のオブジェクトID、そのオブジェクトの領域を特定するための位置情報(領域の形状情報を含む)、および属性情報を有する。属性情報は、オブジェクトの属する分類(例えば文字領域など)を示す。
分類データは、各分類に固有の分類ID、およびその分類に属する1または複数のオブジェクトのオブジェクトIDのリストを互いに関連付けた状態で有する。
なお、オブジェクトデータおよび分類データは、原稿画像ごとに生成され、例えば、原稿画像の画像データに関連付けられて保持される。
この実施の形態では、このように、分類データを生成することで、グルーピング部44は、ユーザー嗜好情報により指定されているオブジェクトの分類ごとに、その分類に属するオブジェクトをグルーピングする。
なお、グルーピング設定部41は、ログイン中のユーザーに関連付けてユーザー嗜好情報を登録し、グルーピング部44は、ログイン中のユーザーのユーザー嗜好情報を読み出して使用するようにしてもよい。その場合、ユーザー嗜好情報は、ユーザーIDに関連付けて登録される。また、その場合には、正規ユーザーのユーザー登録情報(ユーザーIDまたはユーザーIDとパスコード)が予め記憶装置5に登録され、コントローラー6は、そのユーザー登録情報を参照して、ユーザーが当該画像処理装置の使用開始時に提示されるユーザーID(またはユーザーIDとパスコード)に基づいて、そのユーザーを特定するとともに、ログインの可否を決定する。
画像編集部45は、画像内のオブジェクトに対する画像編集を行う処理部である。具体的には、画像編集部45は、画像内のオブジェクトのうち、ユーザー嗜好情報において指定されている分類を選択する第1ユーザー操作および選択した分類に属するオブジェクトに対する編集方法を選択する第2ユーザー操作が入力部21により検出されると、画像のうち、その第1ユーザー操作により選択された分類に属するすべてのオブジェクトを、その第2ユーザー操作により選択された編集方法で編集する。なお、その際、表示部22には、画像編集部45による編集の前後の画像が表示される。
制御部46は、プリンター部2を制御し、例えば、画像編集部45による編集後の画像を印刷させる。
次に、上記画像処理装置の動作について説明する。
(1)ユーザー嗜好情報の登録
図2は、図1に示す画像処理装置によるユーザー嗜好情報の登録について説明するフローチャートである。
ユーザーが入力部21に対して所定の操作を行うと、入力部21がそのユーザー操作を検出し、グルーピング設定部41は、ユーザー嗜好入力画面を表示部22に表示させる(ステップS1)。
図3は、図1に示す画像処理装置において、ユーザー嗜好情報の登録時に表示されるユーザー嗜好入力画面の一例を示す図である。図3に示すユーザー嗜好入力画面では、大分類として、「文字領域グループ化」、「画像領域グループ化」、および「罫線領域グループ化」のうちの1つまたは複数が選択可能となっている。
「標準グループ化」のチェックボックス61がチェックされると、「文字領域グループ化」、「画像領域グループ化」、および「罫線領域グループ化」のすべてが指定される。
「文字領域グループ化」のチェックボックス62がチェックされると、「文字領域グループ化」が指定される(つまり、文字領域のオブジェクトを抽出し文字領域として分類するという分類方法が指定される)。なお、文字領域に対する分類IDが予め設定されており、分類データでは、文字領域に対する分類IDに、文字領域のオブジェクトIDが関連付けられる。
「画像領域グループ化」のチェックボックス63がチェックされると、「画像領域グループ化」が指定される(つまり、画像領域のオブジェクトを抽出し画像領域として分類するという分類方法が指定される)。なお、画像領域に対する分類IDが予め設定されており、分類データでは、画像領域に対する分類IDに、画像領域のオブジェクトIDが関連付けられる。
「罫線領域グループ化」のチェックボックス64がチェックされると、「罫線領域グループ化」が指定される(つまり、罫線領域のオブジェクトを抽出し罫線領域として分類するという分類方法が指定される)。なお、罫線領域に対する分類IDが予め設定されており、分類データでは、罫線領域に対する分類IDに、罫線領域のオブジェクトIDが関連付けられる。
また、「文字領域グループ化」に対する下位分類として、以下の分類が設定可能である。
「手書き文字分類」のチェックボックス71がチェックされると、文字領域について、手書き文字か否かの分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。
なお、手書き文字に対する分類IDと、それ以外(つまり活字文字)に対する分類IDとが予め設定されており、「手書き文字分類」が実行される場合、分類データにおいて、手書き文字に対する分類IDには、手書き文字として抽出された文字領域のオブジェクトIDが関連付けられ、それ以外(つまり活字文字)に対する分類IDには、それ以外(つまり活字文字)の文字領域のオブジェクトIDが関連付けられる。
「文字種別分類」のチェックボックス72がチェックされると、文字領域について、文字種別(特定の文字、特定のフォント種別、特定のフォントサイズなど)による分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、図3では図示していないが、「文字種別分類」の下位分類として、1または複数の文字種別を指定可能としてもよい。フォント種別は、例えばイタリック体、ボールド体などとされる。
なお、1または複数の特定の文字種別に対する1または複数の分類IDが予め設定されており、「文字種別分類」が実行される場合、分類データにおいて、各文字種別の分類IDには、その文字種別として抽出された文字領域のオブジェクトIDが関連付けられる。
「文字装飾分類」のチェックボックス73がチェックされると、文字領域について、文字装飾(マーカー、アンダーラインなどの特定の装飾)による分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、図3では図示していないが、「文字装飾分類」の下位分類として、1または複数の文字装飾種別を指定可能としてもよい。
なお、1または複数の特定の文字装飾に対する1または複数の分類IDが予め設定されており、「文字装飾分類」が実行される場合、分類データにおいて、各文字装飾の分類IDには、その文字装飾として抽出された文字領域のオブジェクトIDが関連付けられる。
「指定文字分類」のチェックボックス74がチェックされると、文字領域について、特定の指定文字を含む単語(あるいは指定文字の後続の単語)を分類する指定文字分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、指定文字は、例えば「”」、「’」などの引用符とされる。
なお、指定文字に対して分類IDが予め設定されており、「指定文字分類」が実行される場合、分類データにおいて、指定文字の分類IDには、その指定文字についての単語として抽出された文字領域のオブジェクトIDが関連付けられる。
また、「画像領域グループ化」に対する下位分類として、以下の分類が設定可能である。
「顔認識分類」のチェックボックス75がチェックされると、画像領域について、顔画像か否かの分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。
なお、顔画像に対して分類IDが予め設定されており、「顔認識分類」が実行される場合、分類データにおいて、顔画像の分類IDには、顔画像として抽出された画像領域のオブジェクトIDが関連付けられる。
「形状分類」のチェックボックス76がチェックされると、画像領域について、特定形状の画像か否かの分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、図3では図示していないが、「形状分類」の下位分類として、1または複数の形状を指定可能としてもよい。
なお、各形状に対して分類IDが予め設定されており、「形状分類」が実行される場合、分類データにおいて、各形状の分類IDには、その形状として抽出された画像領域のオブジェクトIDが関連付けられる。
また、「罫線領域グループ化」に対する下位分類として、以下の分類が設定可能である。
「方向分類」のチェックボックス77がチェックされると、罫線領域について、縦罫線か横罫線かの分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。
なお、縦罫線および横罫線に対してそれぞれ分類IDが予め設定されており、「方向分類」が実行される場合、分類データにおいて、縦罫線および横罫線の分類IDには、縦罫線および横罫線として抽出された罫線領域のオブジェクトIDが関連付けられる。
「線種分類」のチェックボックス78がチェックされると、罫線領域について、線種(実線、破線、鎖線など)による分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、図3では図示していないが、「線種分類」の下位分類として、1または複数の線種を指定可能としてもよい。
なお、各線種に対してそれぞれ分類IDが予め設定されており、「線種分類」が実行される場合、分類データにおいて、各線種の分類IDには、その線種として抽出された罫線領域のオブジェクトIDが関連付けられる。
「太さ分類」のチェックボックス79がチェックされると、罫線領域について、線の太さ(太、細など)による分類を実行するか否かの設定情報の値が、分類実行を示す値とされ、チェックされないと、分類実行せずを示す値とされる。なお、図3では図示していないが、「太さ分類」の下位分類として、1または複数の太さを指定可能としてもよい。
なお、各太さに対してそれぞれ分類IDが予め設定されており、「太さ分類」が実行される場合、分類データにおいて、各太さの分類IDには、その太さとして抽出された罫線領域のオブジェクトIDが関連付けられる。
そして、グルーピング部41は、ユーザー操作に応じて、ユーザー嗜好情報を登録するか否かを判定する(ステップS2)。例えば、図3に示す入力画面において、登録ボタン81が操作された場合、グルーピング部41は、ユーザー嗜好情報を登録すると判定し、キャンセルボタン82が操作された場合、グルーピング部41は、ユーザー嗜好情報を登録しないと判定する。なお、ユーザー嗜好情報を登録しないと判定した場合、グルーピング部41は、ユーザー嗜好情報を登録せずにこの処理を終了する。
ユーザー嗜好情報を登録すると判定した場合、グルーピング部41は、ユーザー嗜好入力画面において、ユーザーにより少なくとも1つの分類が指定されたか否かを判定する(ステップS3)。例えば図3に示す入力画面の場合、グルーピング部41は、チェックボックス61〜64,71〜79のうちの少なくとも1つがチェックされたか否かを判定する。
ユーザー嗜好入力画面において分類が指定されなかった場合、グルーピング部41は、ユーザー嗜好情報を登録せずにこの処理を終了する。
ユーザー嗜好入力画面において分類が指定された場合、グルーピング部41は、指定された分類をユーザー嗜好情報として登録する(ステップS4)。
ユーザー嗜好情報は、例えば、全分類のそれぞれについてのオン/オフを示すデータを有する。例えば図3に示すユーザー嗜好入力画面の場合、分類IDと、その分類についてのチェックボックス(チェックボックス61〜64,71〜79のいずれか)の値(例えば1または0)とが関連付けられてユーザー嗜好情報として登録される。
このようにして、画像内のオブジェクトの分類方法を示すユーザー嗜好情報が、事前に、ユーザーにより指定され、登録される。
(2)画像内のオブジェクトのグルーピングおよび編集
図4は、図1に示す画像処理装置による画像内のオブジェクトのグルーピングについて説明するフローチャートである。
入力部21に対するユーザーによる所定の操作に従って、画像生成部42は、スキャナー部1に原稿画像を読み取らせ、その原稿画像の画像データを取得する(ステップS21)。
次に、画像解析部43は、その画像データを解析し、その画像データに基づく画像内のオブジェクト(ここでは、文字領域、画像領域、および罫線領域)を検出する(ステップS22)。なお、このとき、画像解析部43は、文字領域、画像領域、および罫線領域のうち、ユーザー嗜好情報によりグループ化の指定がされている領域のみを検出するようにしてもよい。
そして、グルーピング部44は、ユーザー嗜好情報を読み込み(ステップS23)、そのユーザー嗜好情報において、「文字領域グループ化」の実行が指定されているか否かを判定する(ステップS24)。
そのユーザー嗜好情報において、「文字領域グループ化」の実行が指定されている場合には、グルーピング部44は、画像解析部43により検出された文字領域を、ユーザー嗜好情報において指定されている下位分類で分類し(ステップS25)、文字領域の分類IDに各文字領域のオブジェクトIDを関連付けるとともに、各下位分類について、その下位分類の分類IDに、その下位分類に属する文字領域のオブジェクトIDを関連付けて、分類データを生成し、その文字領域をグルーピングする(ステップS26)。
そのユーザー嗜好情報において、「文字領域グループ化」の実行が指定されていない場合には、ステップS25,S26の処理はスキップされる。
また、グルーピング部44は、そのユーザー嗜好情報において、「画像領域グループ化」の実行が指定されているか否かを判定する(ステップS27)。
そのユーザー嗜好情報において、「画像領域グループ化」の実行が指定されている場合には、グルーピング部44は、画像解析部43により検出された画像領域を、ユーザー嗜好情報において指定されている下位分類で分類し(ステップS28)、画像領域の分類IDに各画像領域のオブジェクトIDを関連付けるとともに、各下位分類について、その下位分類の分類IDに、その下位分類に属する画像領域のオブジェクトIDを関連付けて、分類データを生成し、その画像領域をグルーピングする(ステップS29)。
そのユーザー嗜好情報において、「画像領域グループ化」の実行が指定されていない場合には、ステップS28,S29の処理はスキップされる。
また、グルーピング部44は、そのユーザー嗜好情報において、「罫線領域グループ化」の実行が指定されているか否かを判定する(ステップS30)。
そのユーザー嗜好情報において、「罫線領域グループ化」の実行が指定されている場合には、グルーピング部44は、画像解析部43により検出された罫線領域を、ユーザー嗜好情報において指定されている下位分類で分類し(ステップS31)、罫線領域の分類IDに各罫線領域のオブジェクトIDを関連付けるとともに、各下位分類について、その下位分類の分類IDに、その下位分類に属する罫線領域のオブジェクトIDを関連付けて、分類データを生成し、その画像領域をグルーピングする(ステップS32)。
そのユーザー嗜好情報において、「罫線領域グループ化」の実行が指定されていない場合には、ステップS31,S32の処理はスキップされる。
このようにして、原稿画像内のオブジェクトの分類が実行される。
図5は、図1に示す画像処理装置による画像内のオブジェクトの分類の一例を示す図である。画像101内に、活字文字111、横罫線112、手書き文字113、横罫線114、および顔画像115が存在する場合、「標準グループ化」が指定されているとき、これらが、文字領域121、罫線領域122、文字領域123、罫線領域124、および画像領域125としてそれぞれ検出される。
ユーザー嗜好情報において「文字領域グループ化」の実行が指定されている場合、この図5に示す画像101についての分類データでは、文字領域の分類IDには、文字領域121のオブジェクトIDおよび文字領域123のオブジェクトIDが関連付けられる。
また、ユーザー嗜好情報において「文字領域グループ化」の下位分類である「手書き文字分類」の実行が指定されている場合、この図5に示す画像101についての分類データでは、手書き文字の分類IDには、文字領域121のオブジェクトIDが関連付けられ、それ以外の文字の分類IDには、文字領域123のオブジェクトIDが関連付けられる。一方、ユーザー嗜好情報において「文字領域グループ化」の下位分類である「手書き文字分類」の実行が指定されていない場合、この図5に示す画像101についての分類データには、手書き文字の分類IDおよびそれ以外の文字の分類IDについてのデータは含まれない。
次に、画像内のオブジェクトのグループごと(つまり、分類ごと)の画像編集について説明する。
ユーザーによる所定の操作に従って、画像編集部45は、画像編集画面を表示部22に表示させる。
図6は、図1に示す画像処理装置によるオブジェクトの画像編集画面の一例を示す図である。画像編集画面では、編集対象の画像101および各領域121〜125が表示されるとともに、編集対象の分類を指定するための分類リスト131、および編集方法を指定するための編集方法リスト132が表示される。分類リスト131は、編集対象の画像101内に含まれる分類のリストである。
分類リスト131内のいずれかの分類を選択する第1ユーザー操作、および編集方法リスト132内のいずれかの編集方法を選択する第2ユーザー操作が入力部21により検出されると、画像編集部45は、分類データを参照し、分類データ内で、選択された分類の分類IDに関連付けられているオブジェクトIDを特定し、オブジェクトデータにおいて、そのオブジェクトIDに関連付けられている位置情報からそのオブジェクトの領域を特定し、選択された編集方法で、その領域の画像を編集する。
図7は、図6に示す画像編集画面においてオブジェクトの画像編集が実行された後の画像編集画面の一例を示す図である。例えば、図6に示す画像編集画面において、第1ユーザー操作により「罫線領域:横」が選択され、第2ユーザー操作により「消去」が選択された場合、画像編集部45は、分類データおよびオブジェクトデータから、「罫線領域:横」の罫線領域122,124を特定し、図7に示すように、その領域122,124の色を背景色と同色に置換して罫線領域122,124を消去し、罫線領域122,124を消去した画像101を表示させる。
そして、例えば、制御部46は、画像編集部45による編集後の画像を、プリンター部2に印刷させる。あるいは、編集後の画像の画像データを記憶装置5に保存するようにしてもよい。
以上のように、上記実施の形態によれば、グルーピング設定部41は、ユーザー操作に基づいて、画像内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示すユーザー嗜好情報を記憶装置5に登録する。そして、画像解析部43は、画像内のオブジェクトを検出し、グルーピング部44は、記憶装置5からユーザー嗜好情報を読み出し、画像解析部43により画像内で検出されたオブジェクトを、ユーザー嗜好情報により指定された分類ごとにグルーピングする。
これにより、事前にユーザー嗜好情報を登録しておくだけで(つまり、ユーザーによる簡単な作業だけで)、画像内のオブジェクトに対して、ユーザーの所望する詳細な分類が行われ、各分類のオブジェクトがグルーピングされる。
なお、上述の実施の形態は、本発明の好適な例であるが、本発明は、これらに限定されるものではなく、本発明の要旨を逸脱しない範囲において、種々の変形、変更が可能である。
上記実施の形態において、分類データおよびオブジェクトデータを参照し、ユーザーにより指定された分類に属するオブジェクトを検索し、発見したオブジェクトを表示する検索機能を画像処理部36に追加してもよい。
本発明は、例えば、複合機などの画像形成装置に適用可能である。
5 記憶装置
21 入力部
22 表示部
41 グルーピング設定部
43 画像解析部
44 グルーピング部
45 画像編集部
101 画像
121,123 文字領域
122,124 罫線領域
125 画像領域

Claims (9)

  1. ユーザー操作に基づいて、画像内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示すユーザー嗜好情報を所定の記憶装置に登録するグルーピング設定部と、
    画像内のオブジェクトを検出する画像解析部と、
    前記記憶装置から前記ユーザー嗜好情報を読み出し、前記画像解析部により前記画像内で検出された前記オブジェクトを、前記ユーザー嗜好情報により指定された分類ごとにグルーピングするグルーピング部と、
    を備え、
    前記ユーザー嗜好情報は、大分類と、前記大分類に属する下位分類を含み、
    前記グルーピング部は、各オブジェクトを、前記ユーザー嗜好情報により指定されている大分類にグルーピングするとともに、前記ユーザー嗜好情報により指定されている下位分類にグルーピングし、
    前記大分類に対して前記大分類であることを示す1つの分類IDが設定され、ある1つの前記下位分類に対して前記下位分類分類IDが複数設定され、
    前記グルーピング部は、各オブジェクトをグルーピングする際に、前記ユーザー嗜好情報により指定された前記大分類の分類IDおよび前記下位分類の分類IDに、前記オブジェクトを関連付けること、
    を特徴とする画像処理装置。
  2. ユーザー操作を検出する入力部と、
    前記画像内のオブジェクトのうち、前記ユーザー嗜好情報において指定されている分類を選択する第1ユーザー操作および選択した前記分類に属するオブジェクトに対する編集方法を選択する第2ユーザー操作が前記入力部により検出されると、前記画像において、前記第1ユーザー操作により選択された前記分類に属するすべてのオブジェクトを、前記第2ユーザー操作により選択された前記編集方法で編集する画像編集部と、
    前記画像編集部による編集の前および/または後の前記画像を表示する表示部と、
    をさらに備えることを特徴とする請求項1記載の画像処理装置。
  3. 前記ユーザー嗜好情報は、前記大分類として、文字領域、画像領域、および罫線領域の少なくとも1つを指定し、
    前記グルーピング部は、前記ユーザー嗜好情報により指定されている前記大分類ごとに、その分類に属する前記オブジェクトをグルーピングすること、
    を特徴とする請求項1または請求項2記載の画像処理装置。
  4. 前記ユーザー嗜好情報は、前記文字領域について、さらに、前記下位分類として、手書き文字か否かの分類を実行するか否かの設定情報、文字種別による分類を実行するか否かの設定情報、文字装飾による分類を実行するか否かの設定情報、および所定の指定文字の付いた単語を抽出する分類を実行するか否かの設定情報の少なくとも1つを含み、
    前記グルーピング部は、前記文字領域について、前記ユーザー嗜好情報における前記設定情報より指定されている分類を実行すること、
    を特徴とする請求項3記載の画像処理装置。
  5. 前記ユーザー嗜好情報は、前記画像領域について、さらに、前記下位分類として、顔画像か否かの分類を実行するか否かの設定情報、および所定の形状か否かの分類を実行するか否かの設定情報の少なくとも1つを含み、
    前記グルーピング部は、前記画像領域について、前記ユーザー嗜好情報における前記設定情報より指定されている分類を実行すること、
    を特徴とする請求項3記載の画像処理装置。
  6. 前記ユーザー嗜好情報は、前記罫線領域について、さらに、前記下位分類として、罫線方向による分類を実行するか否かの設定情報、罫線の線種による分類を実行するか否かの設定情報、および罫線の太さによる分類を実行するか否かの設定情報の少なくとも1つを含み、
    前記グルーピング部は、前記罫線領域について、前記ユーザー嗜好情報における前記設定情報より指定されている分類を実行すること、
    を特徴とする請求項3記載の画像処理装置。
  7. 前記第1ユーザー操作は、前記ユーザー嗜好情報において指定されている大分類または下位分類を選択することを含み、
    前記画像編集部は、前記第1ユーザー操作によって選択された大分類または下位分類に属するすべてのオブジェクトを編集すること、
    を特徴とする請求項2記載の画像処理装置。
  8. コンピューターを、
    ユーザー操作に基づいて、画像内のオブジェクトをグルーピングする際のオブジェクトの分類方法を示すユーザー嗜好情報を所定の記憶装置に登録するグルーピング設定部、
    画像内のオブジェクトを検出する画像解析部、および
    前記記憶装置から前記ユーザー嗜好情報を読み出し、前記画像解析部により前記画像内で検出された前記オブジェクトを、前記ユーザー嗜好情報により指定された分類ごとにグルーピングするグルーピング部、
    として機能させ、
    前記ユーザー嗜好情報は、大分類と、前記大分類に属する下位分類を含み、
    前記グルーピング部は、各オブジェクトを、前記ユーザー嗜好情報により指定されている大分類にグルーピングするとともに、前記ユーザー嗜好情報により指定されている下位分類にグルーピングし、
    前記大分類に対して前記大分類であることを示す1つの分類IDが設定され、ある1つの前記下位分類に対して前記下位分類分類IDが複数設定され、
    前記グルーピング部は、各オブジェクトをグルーピングする際に、前記ユーザー嗜好情報により指定された前記大分類の分類IDおよび前記下位分類の分類IDに、前記オブジェクトを関連付けること、
    を特徴とする画像処理プログラム。
  9. 前記コンピューターを、さらに、前記画像内のオブジェクトのうち、前記ユーザー嗜好情報において指定されている分類を選択する第1ユーザー操作および選択した前記分類に属するオブジェクトに対する編集方法を選択する第2ユーザー操作が検出されると、前記画像において、前記第1ユーザー操作により選択された前記分類に属するすべてのオブジェクトを、前記第2ユーザー操作により選択された前記編集方法で編集する画像編集部として機能させ、
    前記第1ユーザー操作は、前記ユーザー嗜好情報において指定されている大分類または下位分類を選択することを含み、
    前記画像編集部は、前記第1ユーザー操作によって選択された大分類または下位分類に属するすべてのオブジェクトを編集すること、
    を特徴とする請求項8記載の画像処理プログラム。
JP2012091429A 2012-04-12 2012-04-12 画像処理装置および画像処理プログラム Expired - Fee Related JP5885569B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012091429A JP5885569B2 (ja) 2012-04-12 2012-04-12 画像処理装置および画像処理プログラム
US13/860,337 US9152885B2 (en) 2012-04-12 2013-04-10 Image processing apparatus that groups objects within image
CN2013101251869A CN103377380A (zh) 2012-04-12 2013-04-11 图像处理装置以及图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012091429A JP5885569B2 (ja) 2012-04-12 2012-04-12 画像処理装置および画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2013222225A JP2013222225A (ja) 2013-10-28
JP5885569B2 true JP5885569B2 (ja) 2016-03-15

Family

ID=49325151

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012091429A Expired - Fee Related JP5885569B2 (ja) 2012-04-12 2012-04-12 画像処理装置および画像処理プログラム

Country Status (3)

Country Link
US (1) US9152885B2 (ja)
JP (1) JP5885569B2 (ja)
CN (1) CN103377380A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6261265B2 (ja) * 2013-10-02 2018-01-17 キヤノン株式会社 情報処理装置、情報処理方法及びコンピュータにより読み取り可能なプログラム
US9569697B1 (en) * 2015-02-19 2017-02-14 Google Inc. Object oriented image editing
CN110543579A (zh) * 2019-07-26 2019-12-06 华为技术有限公司 一种图像显示方法与电子设备
JP7487520B2 (ja) * 2020-03-27 2024-05-21 富士フイルムビジネスイノベーション株式会社 情報処理装置、画像読取装置、及びプログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03160568A (ja) 1989-11-20 1991-07-10 Fujitsu Ltd 画像編集方式
JP3241372B2 (ja) * 1990-11-27 2001-12-25 パイオニア株式会社 カラオケ演奏方法
JPH06180770A (ja) 1992-12-14 1994-06-28 Sharp Corp 光学的文字読み取り装置
JPH0844884A (ja) * 1994-08-03 1996-02-16 Nec Home Electron Ltd データ表示方法及びデータ処理装置
JPH08202711A (ja) * 1995-01-23 1996-08-09 Canon Inc 文書編集操作電子装置
US6366910B1 (en) * 1998-12-07 2002-04-02 Amazon.Com, Inc. Method and system for generation of hierarchical search results
JP2002112022A (ja) * 2000-09-28 2002-04-12 Minolta Co Ltd 画像形成装置、画像形成方法、および画像形成プログラムを記録したコンピュータ読取可能な記録媒体
GB2369470B (en) * 2000-11-22 2005-03-30 Hewlett Packard Co Text processing system
US7197493B2 (en) * 2001-12-21 2007-03-27 Lifestory Productions, Inc. Collection management database of arbitrary schema
JP2004341631A (ja) 2003-05-13 2004-12-02 Jim:Kk マイクロフィルムocrシステム
JP2006005766A (ja) * 2004-06-18 2006-01-05 Fuji Photo Film Co Ltd 画像処理方法及び装置
JP2006270439A (ja) 2005-03-23 2006-10-05 Fuji Xerox Co Ltd 画像蓄積処理装置及び画像蓄積処理方法
US7809192B2 (en) * 2005-05-09 2010-10-05 Like.Com System and method for recognizing objects from images and identifying relevancy amongst images and information
US20060274949A1 (en) * 2005-06-02 2006-12-07 Eastman Kodak Company Using photographer identity to classify images
US7783117B2 (en) * 2005-08-12 2010-08-24 Seiko Epson Corporation Systems and methods for generating background and foreground images for document compression
JP4698743B2 (ja) * 2009-01-22 2011-06-08 シャープ株式会社 画像圧縮方法、画像圧縮装置、画像形成装置、コンピュータプログラム及び記録媒体

Also Published As

Publication number Publication date
CN103377380A (zh) 2013-10-30
US20130272610A1 (en) 2013-10-17
US9152885B2 (en) 2015-10-06
JP2013222225A (ja) 2013-10-28

Similar Documents

Publication Publication Date Title
US9514103B2 (en) Effective system and method for visual document comparison using localized two-dimensional visual fingerprints
US9454696B2 (en) Dynamically generating table of contents for printable or scanned content
JP4405831B2 (ja) 画像処理装置及びその制御方法、プログラム
US9485368B2 (en) Electronic document generation apparatus, recording medium, and electronic document generation system
US9641705B2 (en) Image forming apparatus for reading indicia on a sheet and inserting images on a subsequent printed sheet at a location corresponding to the location of the read indicia
JP5904149B2 (ja) 画像検査システムおよびプログラム
JP2014071698A (ja) 画像処理装置および画像処理方法
US11418658B2 (en) Image processing apparatus, image processing system, image processing method, and storage medium
JP5885569B2 (ja) 画像処理装置および画像処理プログラム
US7844080B2 (en) Image processing system and image processing method, and computer program
JP2008054147A (ja) 画像処理装置および画像処理プログラム
JP2007043662A (ja) 画像形成装置及び画像処理装置
US7844138B2 (en) History control apparatus
US20100134851A1 (en) Image processing apparatus, method for performing image processing and computer readable medium
JP2018055256A (ja) 情報処理装置、情報処理方法及びプログラム
US9641723B2 (en) Image processing apparatus with improved slide printout based on layout data
JP6790384B2 (ja) 画像処理装置及びプログラム
JP6617751B2 (ja) 文書データ加工装置、文書データ加工プログラム、及び文書データ加工方法
JP2009223390A (ja) 画像処理監視システム及びプログラム
JP2007041709A (ja) 文書処理システム、文書処理システムの制御方法、文書処理装置、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP2015060263A (ja) 画像処理装置
JP2010072850A (ja) 画像処理装置
JP2006134079A (ja) 画像処理装置及びプログラム
JP2019153230A (ja) 情報処理装置及び情報処理プログラム
JP2006229874A (ja) 情報処理装置、情報処理方法、情報処理プログラム、コンピュータに読み取り可能な記録媒体及び情報処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140319

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20140418

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140805

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141212

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20141224

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160209

R150 Certificate of patent or registration of utility model

Ref document number: 5885569

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees