[go: up one dir, main page]

JP7476557B2 - 機器、処理実行システム、処理実行方法、プログラム - Google Patents

機器、処理実行システム、処理実行方法、プログラム Download PDF

Info

Publication number
JP7476557B2
JP7476557B2 JP2020023801A JP2020023801A JP7476557B2 JP 7476557 B2 JP7476557 B2 JP 7476557B2 JP 2020023801 A JP2020023801 A JP 2020023801A JP 2020023801 A JP2020023801 A JP 2020023801A JP 7476557 B2 JP7476557 B2 JP 7476557B2
Authority
JP
Japan
Prior art keywords
image
receipts
cut
information processing
processing system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020023801A
Other languages
English (en)
Other versions
JP2021129252A (ja
Inventor
祐輔 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2020023801A priority Critical patent/JP7476557B2/ja
Priority to US17/159,251 priority patent/US11350011B2/en
Priority to EP21154086.9A priority patent/EP3873078B1/en
Publication of JP2021129252A publication Critical patent/JP2021129252A/ja
Application granted granted Critical
Publication of JP7476557B2 publication Critical patent/JP7476557B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3872Repositioning or masking
    • H04N1/3873Repositioning or masking defined only by a limited number of coordinate points or parameters, e.g. corners, centre; for trimming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/393Enlarging or reducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/0044Display of information to the user, e.g. menus for image preview or review, e.g. to help the user position a sheet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/04Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa
    • H04N1/0402Scanning different formats; Scanning with different densities of dots per unit length, e.g. different numbers of dots per inch (dpi); Conversion of scanning standards
    • H04N1/042Details of the method used
    • H04N1/0449Details of the method used using different sets of scanning elements, e.g. for different formats
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/04Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa
    • H04N1/047Detection, control or error compensation of scanning velocity or position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、機器、処理実行システム、処理実行方法、及び、プログラムに関する。
スキャナ装置などの機器がネットワーク上の情報処理システムと通信することで動作するWebアプリが知られている。例えば、機器が複数のレシートをスキャンして画像データを情報処理システムに送信すると、情報処理システムがレシートの分離、保存等を行う。
情報処理システムが個別のレシートを保存するだけでなく、レシートに対する処理結果を機器に送信する技術が考案されている(例えば、特許文献1参照。)。特許文献1には、スキャン画像における文字列の各行の区切りを特定することを目的として、画像形成装置でスキャンした結果を外部に送り補助データを生成し、それを用いた処理結果を画像形成装置に送信するシステムが開示されている。
しかしながら、従来の技術では、機器における処理を再度、機器が実行するか否かをユーザから受け付けることができないという問題があった。例えば、一連の処理を有するワークフロー等を実行する処理実行システムでは、情報処理システムで複数の処理を行う場合がある。この場合、機器からのデータが原因で複数の処理の途中で情報処理システムが処理に失敗していたとしても、ユーザは情報処理システムによる全ての処理の完了後に失敗を知ることとなり、無駄に時間がかかってしまう原因となっていた。
本発明は、上記課題に鑑み、機器での処理を再度、実行するか否かをユーザから受け付けることができる機器を提供することを目的とする。
上記課題に鑑み、本発明は、機器における第一の処理の結果を用いた第二の処理を情報処理システムに要求する機器であ、前記情報処理システムから取得した前記第二の処理の結果を表示する表示部と、前記機器における前記第一の処理を再度、行うことを受け付ける入力受付部と、を有す機器であって前記第一の処理が複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理である場合、前記表示部は、前記情報処理システムから取得した、前記複数のレシートの各画像の切り出し画像を表示し、前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記第一の処理を再度行う制御部は前記複数のレシートを再度、スキャンして、前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とする。
本発明によれば、機器での処理を再度、実行するか否かをユーザから受け付けることができる機器を提供することができる。
本実施形態の処理実行システムが行う処理の概略を説明する図である。 処理実行システムの一例の構成図である。 コンピュータの一例のハードウェア構成図である。 機器の一例のハードウェア構成図である。 処理実行システムの一例の機能構成を示す図である。 機器の操作パネルに表示される画面の遷移図の一例である。 レシートのスキャンからレシートの結合までの処理の流れを説明するシーケンス図の一例である(その1)。 レシートのスキャンからレシートの結合までの処理の流れを説明するシーケンス図の一例である(その2)。 レシートのスキャンからレシートの結合までの処理の流れを説明するシーケンス図の一例である(その3)。 機器の操作パネルに表示される画面例を示す図である。 スタンプが形成されたファイルのプレビュー表示までの処理の流れを説明するシーケンス図の一例である(その1)。 スタンプが形成されたファイルのプレビュー表示までの処理の流れを説明するシーケンス図の一例である(その2)。
以下、本発明を実施するための形態の一例として、処理実行システムと処理実行システムが行う処理実行方法について説明する。
<動作の概略>
図1を用いて、本実施形態の処理実行システム100が行う処理の概略を説明する。図1は、本実施形態の処理実行システム100が行う処理の概略を説明する図である。図1では、複数のレシートが含まれる画像データから情報処理システム50が各レシートを切り出して、メール送信又はデータ保存の少なくとも一方を行う処理を例に説明する。
(1) ユーザが複数のレシートをMFP(Multi-function Peripheral/Product/Printer)等の機器20でスキャン(第一の処理の一例)して情報処理システム50に画像データを送信する。
(2) 情報処理システム50は、
1.レシートの切り出し、2.メール送信、 3.データ保存
を順番に実行する(いずれも第二の処理の一例)。従来は、ユーザが介在することなく1~3の処理が自動的に実行されていた。本実施形態では、情報処理システム50が「1.レシートの切り出し」を行うと、処理結果を機器20に送信する。
(3) 機器20はレシートの切り出し結果を表示し、再処理を行うかどうかを受け付ける。この場合の再処理はスキャンである。ユーザは複数のレシートが適切に切り出されているかを確認し、レシートの置き方が悪いと考えると置き直す。そして、再度、複数のレシートを機器20でスキャンして情報処理システム50に画像データを送信する。
このように、機器20から処理の要求を行い、情報処理システム50上で複数の処理を実行するシステムにおいて機器における処理が原因で処理が失敗する可能性のある情報処理システム50が処理を行った場合、情報処理システム50は当該処理のあと、そのまま後工程に進まず、処理結果を機器20に送信する。機器20は後工程の処理にそのまま進めるか、機器20での処理を再度実行するかをユーザから受け付ける画面を表示し、ユーザからの入力に応じて、機器20での処理を再度実行する。そして、機器20がユーザから画面を介して処理を再度実行しない(後工程の処理を進める)旨の指示を受け付けた後に、情報処理システム50は、2.メール送信、3.データ保存の後処理を行う。
こうすることで、メール送信やデータ保存後に、レシートが切り出されていないことが判明して、やり直すという手間を削減できる。すなわち、情報処理システムが行う複数の処理の途中で処理結果が機器20に表示されるので、情報処理システム50における処理の失敗の原因となる機器20の処理を再度、行うかどうかをユーザが判断できる。
<用語について>
第一の処理の結果を用いた第二の処理とは、例えば、スキャンの結果である画像データに対する情報処理システムのレシート認識である。ただし、機器側の第一の処理と、ネットワーク上の第二の処理があればよく実施例には限られない。
第一の処理を再度、行うとは、機器がすでに行った同じ処理を、再度、行うことをいう。つまり、処理としては同じ内容の処理を2回以上、行うことをいう。
<システム構成例>
図2は本実施形態に係る処理実行システム100の一例の構成図である。図2の処理実行システム100は、ユーザ環境7とサービス提供環境8がインターネット等の広域的なネットワークN1を介して通信可能に接続されている。なお、ネットワークN1はファイアウォールの内側のLANでもよい。
ユーザ環境7には1台以上の機器20がLANなどのネットワークN2に接続されている。機器20は例えばスキャナ機能を有する装置である。なお、機器20はMFP、レーザプリンタ、画像形成装置、複合機(マルチファンクションプリンタ)、スキャナ装置、FAX装置などと呼ばれていてよい。あるいは、機器20はレシートを二次元の撮像素子で撮像する機能を有する装置でもよい。
機器20は、情報処理システム50が行う処理に必要な処理を行えればスキャナ装置に限られない。後述するようにプリント機能を有する装置も機器20となる。この他、電子黒板、PJ(Projector:プロジェクタ)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、自動車(Connected Car)、ノートPC、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
本実施形態の機器20は、情報処理システム50が提供するサービスをユーザが利用する端末となる。ユーザは、機器20から情報処理システム50にログインして、ユーザに利用権限が認められているWebアプリ(アプリケーションソフト)を選択して、情報処理システム50が提供するサービスを受ける。
サービス提供環境8はデータセンターなどに構築されており、ネットワークN3に入出力サービス装置50Aと一時ファイルストレージサービス装置50Bが接続されている。入出力サービス装置50Aは、機器20によってスキャンして得られた画像データの画像処理を行う。一時ファイルストレージサービス装置50Bはスキャンして得られた画像データに対して入出力サービス装置50Aが処理を行った結果を一時的に保存しておくための装置である。
情報処理システム50は、外部クラウドストレージサービス70などの外部サービスと連携した一連の処理をサービスとして提供する。情報処理システム50が提供するサービスである一連の処理を例えば、「処理フロー」や「ワークフロー」という。
また、本実施形態では、情報処理システム50の具体例としてクラウドシステムを想定して説明するが、これに限られない。クラウドシステムとは、特定ハードウェア資源が意識されずにネットワーク上のリソースが利用される利用形態をいう。情報処理システム50はインターネット上に存在してもオンプレミスに存在してもよい。
入出力サービス装置50Aと一時ファイルストレージサービス装置50Bはいずれも一台以上の情報処理装置によって実現されている。図では別体の装置として図示されているが、入出力サービス装置50Aと一時ファイルストレージサービス装置50Bは同じ1つの装置であってもよい。
外部クラウドストレージサービス70は、スキャンされた画像データが保存される記憶装置である。あるいは、機器20がプリントするためのファイルを保存している記憶装置である。外部クラウドストレージサービス70としては、公知のサービスが利用されてよい。例えば、Google Drive(登録商標)、Office365(登録商標)、One Drive(登録商標)などがある。
ただし、外部クラウドストレージサービス70は必ずしもなくてもよい。また、ユーザが実行するWebアプリに応じてメールサーバなど、多種多様なサーバが利用される場合もある。
<ハードウェア構成例>
<<コンピュータ>>
図2の情報処理システム50、又は、外部クラウドストレージサービス70は例えば図3に示すハードウェア構成のコンピュータにより実現される。図3はコンピュータの一例のハードウェア構成図である。図3のコンピュータ500はコンピュータによって構築されており、図3に示されているように、CPU501、ROM502、RAM503、HD504、HDDコントローラ505(Hard Disk Drive)、ディスプレイ506、外部機器接続I/F508(Interface)、ネットワークI/F509、バスライン510、キーボード511、ポインティングデバイス512、DVD-RWドライブ514(Digital Versatile Disk Rewritable)、メディアI/F516を備えている。
これらのうち、CPU501は、コンピュータ全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。HD504は、プログラム等の各種データを記憶する。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御する。ディスプレイ506は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリやプリンタ等である。ネットワークI/F509は、通信ネットワークを利用してデータ通信をするためのインターフェースである。バスライン510は、図3に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
また、キーボード511は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ514は、着脱可能な記録媒体の一例としてのDVD-RW513に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWに限らず、DVD-R等であってもよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出し又は書き込み(記憶)を制御する。
<<機器>>
図4は、機器20の一例のハードウェア構成図である。図4では機器20としてMFPのハードウェア構成を説明する。図4に示されているように、機器20は、コントローラ910、近距離通信回路920、エンジン制御部930、操作パネル940、ネットワークI/F950を備えている。
これらのうち、コントローラ910は、コンピュータの主要部であるCPU901、システムメモリ902(MEM-P)、ノースブリッジ903(NB)、サウスブリッジ904(SB)、ASIC906(Application Specific Integrated Circuit)、記憶部であるローカルメモリ907(MEM-C)、HDDコントローラ908、及び、記憶部であるHD909を有し、NB903とASIC906との間をAGPバス921(Accelerated Graphics Port)で接続した構成となっている。
これらのうち、CPU901は、機器20の全体制御を行う制御部である。NB903は、CPU901と、MEM-P902、SB904、及びAGPバス921とを接続するためのブリッジであり、MEM-P902に対する読み書きなどを制御するメモリコントローラと、PCI(Peripheral Component Interconnect)マスタ及びAGPターゲットとを有する。
MEM-P902は、コントローラ910の各機能を実現させるプログラムやデータの格納用メモリであるROM902a、プログラムやデータの展開、及びメモリ印刷時の描画用メモリなどとして用いるRAM902bとからなる。なお、RAM902bに記憶されているプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、CD-R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
SB904は、NB903とPCIデバイス、周辺デバイスとを接続するためのブリッジである。ASIC906は、画像処理用のハードウェア要素を有する画像処理用途向けのIC(Integrated Circuit)であり、AGPバス921、PCIバス922、HDDコントローラ908及びMEM-C907をそれぞれ接続するブリッジの役割を有する。このASIC906は、PCIターゲット及びAGPマスタ、ASIC906の中核をなすアービタ(ARB)、MEM-C907を制御するメモリコントローラ、ハードウェアロジックなどにより画像データの回転などを行う複数のDMAC(Direct Memory Access Controller)、並びに、スキャナ部931及びプリンタ部932との間でPCIバス922を介したデータ転送を行うPCIユニットとからなる。なお、ASIC906には、USB(Universal Serial Bus)のインターフェースや、IEEE1394(Institute of Electrical and Electronics Engineers 1394)のインターフェースを接続するようにしてもよい。
MEM-C907は、コピー用画像バッファ及び符号バッファとして用いるローカルメモリである。HD909は、画像データの蓄積、印刷時に用いるフォントデータの蓄積、フォームの蓄積を行うためのストレージである。HD909は、CPU901の制御にしたがってHD909に対するデータの読出又は書込を制御する。AGPバス921は、グラフィック処理を高速化するために提案されたグラフィックスアクセラレータカード用のバスインタフェースであり、MEM-P902に高スループットで直接アクセスすることにより、グラフィックスアクセラレータカードを高速にすることができる。
また、近距離通信回路920には、近距離通信回路アンテナ920aが備わっている。近距離通信回路920は、NFC、Bluetooth(登録商標)等の通信回路である。
更に、エンジン制御部930は、スキャナ部931及びプリンタ部932によって構成されている。また、操作パネル940は、現在の設定値や選択画面等を表示させ、操作者からの入力を受け付けるタッチパネル等のパネル表示部940a、並びに、濃度の設定条件などの画像形成に関する条件の設定値を受け付けるテンキー及びコピー開始指示を受け付けるスタートキー等からなるハードキー940bを備えている。コントローラ910は、機器20全体の制御を行い、例えば、描画、通信、操作パネル940からの入力等を制御する。スキャナ部931又はプリンタ部932には、誤差拡散やガンマ変換などの画像処理部分が含まれている。
なお、機器20は、操作パネル940のアプリケーション切り替えキーにより、ドキュメントボックス機能、コピー機能、プリント機能、及びファクシミリ機能を順次に切り替えて選択することが可能となる。ドキュメントボックス機能の選択時にはドキュメントボックスモードとなり、コピー機能の選択時にはコピーモードとなり、プリント機能の選択時にはプリンタモードとなり、ファクシミリモードの選択時にはファクシミリモードとなる。
また、ネットワークI/F950は、通信ネットワークを利用してデータ通信をするためのインターフェースである。近距離通信回路920及びネットワークI/F950は、PCIバス922を介して、ASIC906に電気的に接続されている。
<機能について>
次に、図5を参照して、本実施形態に係る処理実行システム100の機能構成について説明する。図5は、処理実行システム100の一例の機能構成を示す図である。
<<機器>>
機器20は、表示部21、及び、制御部23を有する。これら各機能部は、機器20にインストールされた1以上のプログラム(例えばWebブラウザとJavaScript(登録商標))に含まれる命令をCPU901が実行することで実現される機能又は手段である。
表示部21はユーザが操作する画面を表示する。この画面の画面情報は情報処理システム50から機器20に送信される場合と、機器20が保持している場合がある。ユーザが機器20で実行するアプリがWebアプリの場合、画面情報は情報処理システム50から送信され、ユーザが機器20で実行するアプリがネイティブアプリの場合、機器20が保持する画面情報に、情報処理システム50から送信された表示対象の情報が配置される。
なお、情報処理システム50が送信する画面情報は、HTML、XML、CSS(Cascade Style Sheet)、及びJavaScript(登録商標)等により作成される。Webアプリとは、厳密な定義はないが、Webブラウザ上で動作するプログラミング言語(たとえばJavaScript(登録商標))によるプログラムとWebサーバ側のプログラムが協調することによって動作し、Webブラウザ上で実行されるソフトウェア又はその仕組みを言う。WebアプリによりWebページを動的に変更できる。この場合、表示部21はWebブラウザにより実現される。なお、本実施形態ではWebアプリを単にアプリという場合がある。
表示部21は入力受付部22を有している。入力受付部22はタッチパネルやハードキーなどを介してユーザからの操作を受け付ける。入力された情報は制御部23へ送信される。
制御部23は、機器20の画面遷移や、情報処理システム50との通信、機器20が有する処理(スキャン等)の実行等を行う。例えば、入力受付部22から送信された情報に応じて、自機で処理を実行したり、入出力サービス装置50Aとの通信を行い入出力サービス装置50Aに何らかの処理を行わせたりする。また、情報処理システム50から受信したデータを表示部21へデータを送信し、画面を遷移させたりする。
<<入出力サービス装置>>
入出力サービス装置50Aは画像情報処理部51、及び、通信部56を有する。画像情報処理部51は、更に、画像認識部52、画像切り出し部53、画像結合判断部54、画像結合部55、及び、画像スタンプ実行部57を有する。これら各機能部は、入出力サービス装置50Aにインストールされた1以上のプログラムに含まれる命令をCPU501が実行することで実現される機能又は手段である。
画像認識部52は、機器20から送信された画像データに対して切り出すべき領域(個別のレシート)を認識する。画像認識部52は、例えば、画像データを二値化して、切り出し領域の輪郭を認識する。認識により、例えばレシートの4つの頂点の座標を決定する。
画像切り出し部53は画像認識部52の結果に基づき画像切り出し処理(画像データから各レシートを切り出す処理)を実行する。
画像結合判断部54は、画像切り出しの結果、本来は1枚のレシートが1つに分割されているなど、本来であれば結合されているべき切り出し画像を特定する。例えば、切り出し領域のX,Y座標や切り出し領域の縦・横のサイズを用いる。レシートAとレシートBの横サイズの差が一定以下、かつ、レシートAの切り出し画像の左下頂点のY座標と、レシートBの切り出し画像の左上頂点のY座標の差が一定以下の場合、2つのレシートを縦結合することで元のレシートを復元できる可能性があると検出する。画像結合判断部54の判断結果をユーザが確認できるように、画像結合判断部54はユーザに画像結合の判断結果をフィードバックする。画像結合部55はユーザからの確認結果に応じて複数の切り出し画像(レシート)を1つに結合する。
画像スタンプ実行部57は、PDFファイルなどが印刷された場合のイメージ画像にスタンプ画像を重畳してスタンプ結果画像を生成する。すなわち、スタンプが押下されたプレビュー画像を生成する。
通信部56は、機器20、外部クラウドストレージサービス70、及び、一時ファイルストレージサービス装置50Bと、各種の情報を送受信する。
<<一時ファイルストレージサービス装置>>
一時ファイルストレージサービス装置50Bは、通信部61とデータ保存部62を有している。これら各機能部は、一時ファイルストレージサービス装置50Bにインストールされた1以上のプログラムに含まれる命令をCPU501が実行することで実現される機能又は手段である。
通信部61は、入出力サービス装置50Aとの間で、画像データ及び切り出し画像の送受信を行う。データ保存部62は、画像データ及び切り出し画像をURLで管理し、一時的に保存する。一時的にとは外部クラウドストレージサービス70に保存されるまでの間やメール送信されるまでの間をいう(情報処理システム50が画像処理を終えてから、ユーザが機器20で再処理が必要かどうかを確認している間)。
<画面の遷移と処理の流れ>
続いて、図6を用いて画面の遷移と処理の流れを説明する。図6は、機器20の操作パネル940に表示される画面の遷移図の一例である。図6で実行されるアプリは、機器20がスキャンして得た画像データから、入出力サービス装置50Aがレシートの切り出しを行い、それぞれのレシートに対してファイル名を設定して、指定のメールアドレスに送信を行うという動作をするアプリである。図6ではユーザが行う主要な操作に対して、(1)~(9)までの通し番号を付与した。それぞれの操作について説明する。
(1) 画面301において、ユーザはコンタクトガラスに1つ以上のレシートを配置してスキャンを実行する。例えば、スタートボタン310を押下する。なお、スキャンは圧板を閉じた状態で行われる。これは、レシートは丸まっている状態の場合があり、圧板で伸ばすことが好ましいためである。一方、圧板が閉じるとレシート間が圧板の色で読み取られるため、圧板の色とレシートの色が同じ場合、画像認識部52がレシートの座標を特定しにくくなる。なお、圧板を開いた状態で機器20がスキャンしてもよい。
機器20は、スキャンにより得た画像データを入出力サービス装置50Aに送信する。入出力サービス装置50Aはレシートの切り出し処理を行う。また、切り出した結果を一時ファイルストレージサービス装置50Bに保存する。機器20は一時ファイルストレージサービス装置50Bから切り出し画像(各レシートの画像)をダウンロードする。これにより画面302に遷移する。画面302は、スキャンにより得た画像データ311(切り出す前の画像データ)と、各切り出し画像312を表示する。ユーザはボタン313により切り出し画像を切り替えることができる。
(2) ユーザは画像データ311の右上のアイコン314を押下して、画像データ311を拡大表示させることができる。
(3) ユーザは切り出し画像312の右上のアイコン315を押下して、切り出し画像312を拡大表示させることができる。画面303は拡大された切り出し画像312である。アイコン314が押下された場合も画像データ311が拡大表示される。画面303のボタン316が押下されると、画面302に戻る。
(4) 各切り出し画像312には、入出力サービス装置50Aが付与した日付317がファイル名として表示されている。本アプリにおいては、画像のファイル名として、ユーザが日付317を指定することができる。このための入力手段としてカレンダーアイコン318が表示されている。ユーザがカレンダーアイコン318を押下すると画面304が表示される。画面304はカレンダーであり、ユーザは任意の日付をファイル名に設定できる。画面304のキャンセルボタン319又はOKボタン320が押下されると、画面304が画面302に戻る。
(5) 本アプリは後工程として切り出し画像312を電子メールで送信するので、画面302は送信先のメールアドレス321と送信ボタン322を有している。メールアドレス321は本アプリに設定されているとする。ただし、ユーザがアドレス帳を操作パネル940に表示させ、別のメールアドレスを設定できてよい。切り出し画像312が正しくレシートを切り出したものであれば、ユーザは送信ボタン322を押下する。送信後、画面302は画面301に戻る。なお、電子メールの送信は機器20から切り出し画像312を直接メールサーバへ送信されてもよいし、機器20が入出力サービス装置50Aに対して後工程の処理を開始するための要求を送信し、当該要求に応じて入出力サービス装置50Aが一時ファイルストレージサービス装置50Bからファイルを取得して、メールを送信する構成としてもよい。
更に、後工程として電子メールで切り出し画像312を送信する形態は一例であって、メールを送信せず、経費精算システム等の外部システムへ切り出し画像312を送信する構成でもよい。この場合、機器20が入出力サービス装置50Aに対して後工程の処理を開始するための要求を送信した後、当該要求に応じて入出力サービス装置50Aが 一時ファイルストレージサービス装置50Bからファイルを取得し、サービス提供環境に含まれない経費精算システムに送信する構成としてもよい。
(6) 切り出しの実行結果が期待しているものではなかった場合、ユーザはやり直しボタン323を押下する。これにより画面302は画面301に戻る。レシートが大きく傾いていたり、丸まったままであったり、レシート間の距離が近すぎたりする場合、切り出しが成功しない場合がある。ユーザは、レシートの配置をし直すなどして、再度、スタートボタン310を押下する。
このように、情報処理システム50がメール送信する前に、ユーザから機器側の再処理の入力を受け付けることができる。
(7) レシートの配置をやり直しただけでは解決しない場合がある。このため、画面302は修正ボタン324を有している。例えば、1枚のレシートが複数の切り出し画像として出力されてしまった場合、ユーザは修正ボタン324を押下する。これにより画面305が表示される。画面305は、2つの切り出し画像欄325,326、結同方向ボタン328、329、結合結果欄327、及び、結合ボタン330を有している。2つの切り出し画像欄325,326は、それぞれ全ての切り出し画像を表示できる。ユーザは2つの切り出し画像欄325,326で、元は1枚のレシートであった切り出し画像を表示させる。切り出されたレシートが3つの場合、3×3の組み合わせから、元は1つのレシートであった正しい組み合わせをユーザが選択できる。結同方向ボタン328,329は2つの切り出し画像の結合方向をユーザが指定するためのボタンである。結合結果欄327には入出力サービス装置50Aによる結合結果が表示される。結合ボタン330は結合結果を確定するためのボタンである。これにより画面305は画面302に戻るが、切り出し画像312には結合されたものが表示される。
なお、画面305では2つの切り出し画像が結合の候補になっているが、3つ以上の切り出し画像が結合の候補となる場合もある。
(8) 画面302でユーザがボタン313を押下すると、切り出し画像が切り替わり、画面306に遷移する。画面306では画面302と同じ遷移が可能である。
(9) 画面307でユーザがボタン313を押下すると、切り出し画像が切り替わり、画面307に遷移する。画面307では画面302と同じ遷移が可能である。
<画像データの切り出し等の動作手順>
続いて、図7A~図7Cを参照して、処理実行システム100が画像データを切り出し、再度、機器20でスキャンするかどうかをユーザから受け付ける処理を説明する。図7A~図7Cは、レシートのスキャンからレシートの結合までの処理の流れを説明するシーケンス図の一例である。
まず、概略を説明する。処理実行システム100においは、入出力サービス装置50Aによるクラウド上での処理は、機器20とは非同期に実行される。そのため、ユーザがスキャンを実行し、画像データが入出力サービス装置50Aに送信されると、受信した時点で、入出力サービス装置50Aはスキャン成功通知を機器20へと返す。機器20は操作パネル上でスキャンジョブが成功した旨を表示する。
実際には、入出力サービス装置50Aは切り出し処理の実行、画像データ及び切り出し画像の一時ファイルストレージサービス装置50Bへの保存などを行っている。一時ファイルストレージサービス装置50Bがあることで、入出力サービス装置50Aが非同期に処理を行っても、機器20が画像データと切り出し画像を取得できる。
機器20はアプリの実行結果に含まれる、一時ファイルストレージサービス装置50Bに保存された画像のURLを使って、一時ファイルストレージサービス装置50Bから画像データと切り出し画像を取得する。機器20は画像データと切り出し画像を操作パネル940に表示する。
S1:ユーザは機器20にレシートを配置し、操作パネル940に表示されている画面301のスタートボタン310を押下することによりスキャンの実行を開始する。入力受付部22はスキャンの実行を受け付ける。
S2:入力受付部22が受け付けた「スキャン」処理実行命令を、表示部21は他の装置とのやり取りを行う制御部23に送信する。
S3:制御部23は、スキャン処理を行って画像データを生成し、画像データを入出力サービス装置50Aへ送信する。
S4:上記の通り、入出力サービス装置50Aは非同期で画像処理を実行するため、画像データを受け取った時点で、入出力サービス装置50Aの通信部56は機器20の制御部23へスキャンという処理の成功通知を送信する。
S5:制御部23は受信した成功通知を表示部21へ送信する。
S6:表示部21は、成功通知をユーザへフィードバックするためスキャンジョブ成功通知画面を操作パネル940に表示する。
S7:以降からステップS27まで、機器20とは非同期に入出力サービス装置50Aが行う画像処理である。まず、通信部56は画像データを画像情報処理部51の画像認識部52へ送信する。
S8:画像認識部52は、切り出し部位特定のために画像データの解析(二値化等)を行う。
S9:画像認識部52は解析結果をもとに画像切り出し箇所(各レシートの4つの頂点の座標)の特定を行う。
S10:画像認識部52は切り出し箇所を、画像切り出し処理を行う画像切り出し部53へ送信する。
S11:画像切り出し部53は、受け取った画像切り出し個所をもとに切り出し処理の実行を行う。
S12:画像切り出し部53は切り出し画像群を通信部56に送信する。
S13:通信部56は、切り出し画像群を一時ファイルストレージサービス装置50Bに保存するため、切り出し画像群を一時ファイルストレージサービス装置50Bに送信する。
S14:一時ファイルストレージサービス装置50Bの通信部61は切り出し画像群を受信し、切り出し画像群をデータ保存部62へ送信する。
S15:データ保存部62は切り出し画像群を保存する。
S16:データ保存部62は切り出し画像群が保存されている保存先URL情報を通信部61に返却する。
S17:一時ファイルストレージサービス装置50Bの通信部61は、入出力サービス装置50Aに保存先URL情報を送信する。
S18:次に、入出力サービス装置50Aの通信部56は元の画像データを一時ファイルストレージサービス装置50Bに保存するために、画像データを一時ファイルストレージサービス装置50Bに送信する。
S19:一時ファイルストレージサービス装置50Bの通信部61は画像データを受信し、画像データをデータ保存部62へ送信する。
S20:データ保存部62は画像データを保存する。
S21:データ保存部62は画像データの保存先である保存先URL情報を通信部61に返却する。
S22:一時ファイルストレージサービス装置50Bの通信部61は、入出力サービス装置50Aに保存先URL情報を送信する。
S23:入出力サービス装置50Aの通信部56は保存先URL情報を、切り出しジョブ実行結果として保存する。
S24:非同期で実行されている画像処理の結果を取得するため、機器20の制御部23は入出力サービス装置50Aに直前のジョブ実行結果の問い合わせを行う。例えば、制御部23はステップS4の後、いつ終わるか分からない画像処理の終了を入出力サービス装置50Aに繰り返し問い合わせるポーリングを行っている。あるいは、入出力サービス装置50Aがプッシュ通知で画像処理の終了を機器20に送信してもよい。
S25:これにより機器20の制御部23は、入出力サービス装置50Aから保存先URL情報を含むジョブ実行結果を取得する。
S26~S28:制御部23は、保存先URL情報を用いて画像データと切り出し画像の取得を行う。図7Bでは入出力サービス装置50Aを介して行っているが、機器20が直接、一時ファイルストレージサービス装置50Bと通信してもよい。
S29~S32:一時ファイルストレージサービス装置50Bのデータ保存部62は保存先URL情報で特定される画像データと切り出し画像を機器20に送信する。
S33:表示部21は画像データと切り出し画像を操作パネル940に表示する。これにより図6の画面302が表示される。
S34:切り出された結果が、レシートの再配置等では修正でき無さそうな場合、ユーザは画面302の修正ボタン324を押下する。入力受付部22は押下を受け付ける。
S35~S37:機器20は切り出し結果結合候補取得命令を入出力サービス装置50Aに送信する。
S38:画像結合判断部54は、切り出し画像から結合されるべき推定値が高いものをデフォルトの候補としてユーザにフィードバックする。例えば、横サイズがほぼ同じ2つの切り出し画像で、一方の切り出し画像の左下頂点のY座標と、他方の切り出し画像の左上頂点のY座標の差が一定以下の場合、結合されるべき可能性が高いものとする。画像結合判断部54は、結合されるべき可能性が高い2つの切り出し画像を組み合わせて同じ優先度を付しておく。
S39~S41:入出力サービス装置50Aは切り出し結果結合候補を機器20に送信する。
S42:機器20の表示部21は優先度の順に、切り出し結果結合候補を操作パネル940に表示する。これにより、画面305が表示される。なお、画面305の2つの切り出し画像欄325,326はそれぞれ全ての切り出し画像を表示できるので、ステップS35~S41はなくてもよい。ただし、ステップS35~S41の処理により機器20は切り出し画像欄325,326に、結合される可能性が高い切り出し画像を優先して又はデフォルトで表示できる。
S43:ユーザが結像を行う2つの切り出し画像を選択し、結合方向を入力する。入力受付部22は選択と入力を受け付ける。
S44~S46:機器20は2つの切り出し画像と結合方向を指定して、結合要求を入出力サービス装置50Aに送信する。
S47:画像結合部55は指定された2つの切り出し画像を結合する。
S48~S50:入出力サービス装置50Aは結合された切り出し画像を機器20に送信する。
S51:機器20の表示部21は画像データと切り出し画像を操作パネル940に表示する。これにより画面302が再度、表示される。結合前の切り出し画像の数が3つの場合、結合により切り出し画像の数が2つになる。
S52:ユーザが再度、機器20でスキャンを行うべきと判断した場合、ユーザは画面302のやり直しボタン323を押下する。これにより画面302は画面301に戻るので、ユーザはレシートの配置をやり直してスタートボタン310を押下する。入力受付部22は押下を受け付ける。
S53:表示部21は画像処理のやり直しを制御部23に送信する。
S54:制御部23はスキャンを行って画像データを作成し、画像データと共に画像処理のやり直しを入出力サービス装置50Aに送信する。
S55:入出力サービス装置50Aはやり直し要求を受信すると、直前の画像データと切り出し画像が不要になるので、通信部56は保存先URL情報を指定して一時保存ファイルの削除を一時ファイルストレージサービス装置50Bに送信する。
S56:一時ファイルストレージサービス装置50Bの通信部61は一時保存ファイルの削除を受信すると、データ保存部62が画像データと切り出し画像を削除する。
S57~S60:一時ファイルストレージサービス装置50Bは、入出力サービス装置50Aを介して一時保存ファイル削除成功を機器20に送信する。これにより、機器20と情報処理システム50はステップS3~S33の処理を再度行うので、機器20はレシートのスキャン(原稿のスキャン)をやり直した画像データから切り出された切り出し画像を画面302に表示できる。
処理実行システム100は、ユーザから図6(6)の送信ボタン322の押下等、切り出し画像312を用いて後工程を開始するための操作を受け付けるまで、ステップS3~S60までの処理を繰り返す。後工程を開始するための操作を受け付けた後、処理実行システム100は上述した後工程を開始する。したがって、機器20で再処理を行うかどうかを、処理実行システム100が全ての処理を実行する前に受け付けることができる。なお、ステップS43~S51の切り出し画像312の修正・結合処理は必須ではなく、省略されてもよい。ただし、ステップS43~S51の処理により、機器20へのユーザの操作に応じて容易に切り出し画像312の修正を行うことが可能となるため、切り出し画像312をメールで受信した後などの後工程が行われた後に、画像の修正を行う手間を省くことが可能となる。
<プリントアウトの処理>
図6,図7では、機器20がレシートをスキャンし入出力サービス装置50Aが自動切り出しを行うアプリケーションを例にして説明したが、以下ではプリントを行うアプリケーションの場合を説明する。
図8は、機器20の操作パネル940に表示される画面例を示す。図8の例は、外部クラウドストレージサービス70上に保存されたデータとこのデータに付加したいスタンプをユーザが選択し、機器20が印刷するという動作をするアプリケーションである。主要な操作に対して(1)~(4)までの通し番号を付与したためそれぞれの操作について説明を行う。
(1) 画面401は印刷するファイルとスタンプの選択画面である(外部クラウドストレージサービス70が有するファイルのリストを表示している)。ユーザは画面401の左側のファイルブラウズ410においてスタンプ画像を有するファイルの選択を行い、画面右側のファイルブラウズ411においてスタンプが押されるPDFファイル(印刷対象のファイル)の選択を行う(第一の処理の一例)。それらを選択した状態でユーザがスタートボタン412を押下すると、機器20はプレビュー(後述するスタンプ結果画像)を取得する画面402に遷移する。
(2) 画面402ではプレビュー欄413に印刷対象のファイルとスタンプのプレビューが表示される。プレビュー欄413に表示されるプレビューは入出力サービス装置50Aで作成されたものである(第二の処理の一例)。ユーザはスタンプ418の位置を確認できる。スタンプの位置の修正を行う場合、ユーザは位置パラメータ414を指定し(第一の処理の一例)、取得ボタン417を押下する。これにより、機器20は再度、入出力サービス装置50Aからプレビューを取得し、画面402に再表示する。
(3) プレビューが期待したものである場合、ユーザは印刷ボタン416を押下する。これにより、機器20はプレビューされている画像を印刷する。
(4) ファイルの選択が間違っていた場合、ユーザはファイル選択をやり直すためにやり直しボタン415を押下する。これにより画面401に戻る。
このように、機器20が印刷する前に、ファイル又はスタンプの選択を受け付けるという再処理や、スタンプ位置の設定を再度受け付けるという再処理が可能である。従来は、画面402から直接、印刷が行われていたが、この場合は、ファイルやスタンプの選択の間違い、スタンプの位置の誤設定などにより再印刷が必要になる場合があった。本実施例では入出力サービス装置50Aの処理結果(スタンプ結果画像のプレビュー)を表示して、機器20側で再処理するか否かを受け付けることができる。
<ファイルのプレビュー表示等の動作手順>
続いて、図9A、図9Bを参照して、処理実行システム100がスタンプを有するファイルのプレビューを作成し、再度、機器20でユーザが設定するかどうかをユーザから受け付ける処理を説明する。図9A、図9Bは、スタンプが形成されたファイルのプレビュー表示までの処理の流れを説明するシーケンス図の一例である。
S61:ユーザは画面401でスタンプのファイルと印刷用のファイルをそれぞれ選択し、スタートボタン412を押下する。入力受付部22はこれらを受け付ける。
S62:表示部21はスタンプのファイルと印刷用のファイルを指定して画像スタンプ実行命令を制御部23へ送信する。
S63:制御部23は入出力サービス装置50Aに画像スタンプ実行命令を送信する。
S64:画像処理は非同期に実行されるため、入出力サービス装置50Aの通信部56はすぐに成功通知を機器20に返却する。
S65:制御部23は受信した成功通知を表示部21へ送信する。
S66:表示部21は、成功通知をユーザへフィードバックするため画像スタンプ実行命令通知画面を操作パネル940に表示する。
S67:以降は非同期で行う画像処理である。まず、通信部56はスタンプのファイルと印刷用のファイルを指定して、画像スタンプ実行命令を画像スタンプ実行部57に送信する。
S68:画像スタンプ実行部57は、選択された印刷用のファイルに対して選択されたスタンプのファイルが有する画像を押下する。つまり、印刷用のファイルの印刷イメージにスタンプ画像を重ねる。
S69:画像スタンプ実行部57はスタンプ結果画像を入出力サービス装置50Aへ送信する。
S70:入出力サービス装置50Aの通信部56はスタンプ結果画像を一時ファイルストレージサービス装置50Bに送信する。
S71:一時ファイルストレージサービス装置50Bの通信部61はスタンプ結果画像を受信し、データ保存部62へ送信する。
S72:データ保存部62はスタンプ結果画像を一時保存する。
S73~S74:データ保存部62は通信部61を介してスタンプ結果画像の保存先 URL情報を入出力サービス装置50Aに送信する。
S75:入出力サービス装置50Aの通信部56は保存先URL情報を画像スタンプジョブ実行結果として保存する。
S76:機器20の制御部23は、非同期で実行される画像処理の結果を取得するため入出力サービス装置50Aへ直前のジョブ実行結果を問い合わせる(ポーリング)。あるいは、制御部23は入出力サービス装置50Aから画像処理の終了の通知を受ける。
S77:制御部23は保存先URL情報を含むジョブ実行結果を入出力サービス装置50Aから取得する。
S78~S83:制御部23は保存先URL情報を用いてスタンプ結果画像を一時ファイルストレージサービス装置50Bから取得する。
S84:制御部23はスタンプ結果画像を表示部21に送信する。
S85:表示部21はスタンプ結果画像を操作パネル940に表示する。これにより、画面402が表示される。
S86:表示されたプレビューのスタンプ位置、印刷用のファイル、又は、スタンプそのものが期待されたものでない場合、ユーザはやり直しボタン415を押下して、ファイル選択を再度行う。あるいは、画面402の位置パラメータ414を変更することで、スタンプ位置を変更する。そして、ユーザは取得ボタン417を押下する。入力受付部22はファイルの選択やスタンプ位置を受け付ける。
S87、S88:これにより、機器20はスタンプ結果画像の取得を再度、行う。この処理は、ステップS63~84と同様でよい。
S89:表示部21はスタンプ結果画像を操作パネル940に再度、表示する。これにより、画面402が更新される。
S90:表示されたスタンプ結果画像をユーザが機器20で印刷する場合、ユーザは印刷ボタン416を押下する。入力受付部22は押下を受け付ける。
S91:表示部21は、スタンプ結果画像印刷命令を制御部23に送信する。
S92~S97:制御部23は保存先URL情報を用いてスタンプ結果画像を一時ファイルストレージサービス装置50Bから取得する。図9Bでは入出力サービス装置50Aを介して行っているが、機器20が直接、一時ファイルストレージサービス装置50Bと通信してもよい。
S98:制御部23は取得したスタンプ結果画像を印刷する。
S99:制御部23は印刷成功通知を表示部21に送信する。
S100:表示部21は、スタンプ結果画像印刷の成功通知画面を表示する。
このように、機器20は、プリントアプリにおいても、機器20で再処理を行うかどうかを、処理実行システム100が全ての処理を実行する前に受け付けることができる。
<主な効果>
以上説明したように、本実施形態の処理実行システムは、機器20の処理(スキャン)に基づく情報処理システム50の処理結果(レシートの切り出し)が機器20に表示されるので、情報処理システム50における処理の失敗の原因となる機器20の処理を再度、行うかどうかをユーザが判断できる。また、機器20の処理(ファイル選択、スタンプ位置設定)に基づく情報処理システム50の処理結果(スタンプ結果画像の生成)が機器20に表示されるので、情報処理システム50における処理の失敗の原因となる機器20の処理を再度、行うかどうかをユーザが判断できる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、図5などの構成例は、機器20、情報処理システム50、及び、一時ファイルストレージサービス装置50Bによる処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。機器20、情報処理システム50、及び、一時ファイルストレージサービス装置50Bの処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、実施例に記載された装置群は、本明細書に開示された実施形態を実施するための複数のコンピューティング環境のうちの1つを示すものにすぎない。ある実施形態では、情報処理システム50は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、ネットワークや共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。
更に、情報処理システム50は、開示された処理ステップ、例えば図7,図9を様々な組み合わせで共有するように構成できる。例えば、所定のユニットによって実行されるプロセスは、情報処理システム50が有する複数の情報処理装置によって実行され得る。また、情報処理システム50は、1つのサーバ装置にまとめられていても良いし、複数の装置に分けられていても良い。
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)や従来の回路モジュール等のデバイスを含むものとする。
20 機器
50 情報処理システム
50A 入出力サービス装置
50B 一時ファイルストレージサービス装置
70 外部クラウドストレージサービス
100 処理実行システム
特許6066108号公報

Claims (12)

  1. 機器における第一の処理の結果を用いた第二の処理を情報処理システムに要求する機器であ
    前記情報処理システムから取得した前記第二の処理の結果を表示する表示部と、
    前記機器における前記第一の処理を再度、行うことを受け付ける入力受付部と、
    を有す機器であって
    前記第一の処理が複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理である場合、
    前記表示部は、前記情報処理システムから取得した、前記複数のレシートの各画像の切り出し画像を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記第一の処理を再度行う制御部は前記複数のレシートを再度、スキャンして、
    前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とする機器。
  2. 前記第二の処理は複数の処理を有し、
    前記表示部は、全ての前記複数の処理が実行される前に、前記第二の処理の結果を表示することを特徴とする請求項に記載の機器。
  3. 前記第一の処理は原稿のスキャンであり、前記第二の処理がスキャンにより生成された画像データの画像処理、及び、前記画像データの外部への送信である場合、
    前記表示部は、前記情報処理システムから取得した前記画像処理の結果を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記制御部は再度、原稿をスキャンして、前記第二の処理を前記情報処理システムに要求し、
    前記入力受付部が、前記外部への送信を受け付けた場合、前記制御部は前記画像データを前記情報処理システムに送信することを特徴とする請求項1又は2に記載の機器。
  4. 前記第一の処理は複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理、及び、前記複数のレシートの各画像の切り出し画像の外部への送信である場合、
    前記表示部は、前記情報処理システムから取得した前記複数のレシートの各画像の切り出し画像を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記制御部は前記複数のレシートを再度、スキャンすることを特徴とする請求項に記載の機器。
  5. 前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、
    前記制御部は結合の候補となる前記複数のレシートの前記切り出し画像を前記情報処理システムから取得し、
    前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とする請求項に記載の機器。
  6. 前記表示部は、レシートの前記切り出し画像を表示する複数の欄のそれぞれに、
    全てのレシートの前記切り出し画像の中からユーザにより指示された前記切り出し画像を表示し、
    前記入力受付部は、前記複数の欄に表示された複数の前記切り出し画像を結合することを受け付けることを特徴とする請求項に記載の機器。
  7. 前記表示部は前記切り出し画像と共にカレンダーアイコンを表示し、
    前記カレンダーアイコンの押下を受け付けると、カレンダーを表示し、
    前記入力受付部は前記カレンダーの日付の押下により、前記切り出し画像のファイル名を受け付けることを特徴とする請求項4~6のいずれか1項に記載の機器。
  8. 前記第一の処理はスタンプ画像とファイルの選択であり、前記第二の処理は前記スタンプ画像が重ねられた前記ファイルのスタンプ結果画像の生成である場合、
    前記表示部は、前記情報処理システムから取得した前記スタンプ結果画像を表示し、
    前記入力受付部が、前記スタンプ画像又は前記ファイルの選択を再度、行うことを受け付けた場合、前記表示部は再度、前記スタンプ画像又は前記ファイルの選択画面を表示し、
    前記制御部は、前記入力受付部が受け付けた前記スタンプ画像又は前記ファイルを用いた前記スタンプ結果画像を再度、前記情報処理システムから取得し、
    前記表示部は前記スタンプ結果画像を再度、表示し、
    前記入力受付部が、前記スタンプ結果画像の印刷を受け付けた場合、前記制御部は前記スタンプ結果画像を印刷することを特徴とする請求項2に記載の機器。
  9. 前記第一の処理は、更に前記スタンプ画像の位置の選択の受け付ける処理を有し、
    前記表示部は、前記情報処理システムから取得した前記スタンプ結果画像を表示し、
    前記入力受付部は、前記スタンプ画像の位置の選択を再度、受け付け、
    前記制御部は、前記入力受付部が受け付けた前記スタンプ画像の位置に基づいて生成された前記スタンプ結果画像を再度、前記情報処理システムから取得し、
    前記表示部は前記スタンプ結果画像を再度、表示し、
    入力受付部が、前記スタンプ結果画像の印刷を受け付けた場合、前記制御部は前記スタンプ結果画像を印刷することを特徴とする請求項に記載の機器。
  10. 機器における第一の処理の結果を用いた第二の処理を機器が情報処理システムに要求する処理実行システムであって、
    前記機器は、
    前記情報処理システムから取得した前記第二の処理の結果を表示する表示部と、
    前記機器における前記第一の処理を再度、行うことを受け付ける入力受付部と、
    を有し、
    前記第一の処理が複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理である場合、
    前記表示部は、前記情報処理システムから取得した、前記複数のレシートの各画像の切り出し画像を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記第一の処理を再度行う制御部は前記複数のレシートを再度、スキャンして、
    前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とする処理実行システム。
  11. 機器における第一の処理の結果を用いた第二の処理を情報処理システムに要求する機器が行う処理実行方法であって、
    表示部が、前記情報処理システムから取得した前記第二の処理の結果を表示するステップと、
    入力受付部が、前記機器における前記第一の処理を再度、行うことを受け付けるステップと、を有し、
    前記第一の処理が複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理である場合、
    前記表示部は、前記情報処理システムから取得した、前記複数のレシートの各画像の切り出し画像を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記第一の処理を再度行う制御部は前記複数のレシートを再度、スキャンして、
    前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とする処理実行方法。
  12. 機器における第一の処理の結果を用いた第二の処理を情報処理システムに要求する機器を、
    前記情報処理システムから取得した前記第二の処理の結果を表示する表示部と、
    前記機器における前記第一の処理を再度、行うことを受け付ける入力受付部、
    として機能させるためのプログラムであって、
    前記第一の処理が複数のレシートをまとめてスキャンする処理であり、前記第二の処理がスキャンにより生成された画像データから前記複数のレシートの各画像を切り出す処理である場合、
    前記表示部は、前記情報処理システムから取得した、前記複数のレシートの各画像の切り出し画像を表示し、
    前記入力受付部が、前記スキャンを再度、行うことを受け付けた場合、前記第一の処理を再度行う制御部は前記複数のレシートを再度、スキャンして、
    前記入力受付部が、前記複数のレシートの前記切り出し画像を結合することを受け付けた場合、前記表示部は、結合の候補となる前記複数のレシートの前記切り出し画像を優先して表示することを特徴とするプログラム。
JP2020023801A 2020-02-14 2020-02-14 機器、処理実行システム、処理実行方法、プログラム Active JP7476557B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020023801A JP7476557B2 (ja) 2020-02-14 2020-02-14 機器、処理実行システム、処理実行方法、プログラム
US17/159,251 US11350011B2 (en) 2020-02-14 2021-01-27 Device, process execution system, process execution method, and non-transitory recording medium
EP21154086.9A EP3873078B1 (en) 2020-02-14 2021-01-28 Device, process execution system, process execution method, and carrier means

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020023801A JP7476557B2 (ja) 2020-02-14 2020-02-14 機器、処理実行システム、処理実行方法、プログラム

Publications (2)

Publication Number Publication Date
JP2021129252A JP2021129252A (ja) 2021-09-02
JP7476557B2 true JP7476557B2 (ja) 2024-05-01

Family

ID=74347018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020023801A Active JP7476557B2 (ja) 2020-02-14 2020-02-14 機器、処理実行システム、処理実行方法、プログラム

Country Status (3)

Country Link
US (1) US11350011B2 (ja)
EP (1) EP3873078B1 (ja)
JP (1) JP7476557B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12056331B1 (en) 2019-11-08 2024-08-06 Instabase, Inc. Systems and methods for providing a user interface that facilitates provenance tracking for information extracted from electronic source documents
US11315353B1 (en) * 2021-06-10 2022-04-26 Instabase, Inc. Systems and methods for spatial-aware information extraction from electronic source documents
US12067039B1 (en) 2023-06-01 2024-08-20 Instabase, Inc. Systems and methods for providing user interfaces for configuration of a flow for extracting information from documents via a large language model
US12216694B1 (en) 2023-07-25 2025-02-04 Instabase, Inc. Systems and methods for using prompt dissection for large language models

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004106518A (ja) 2003-08-05 2004-04-08 Sharp Corp 画像形成システムおよび画像形成装置
JP2020198546A (ja) 2019-06-03 2020-12-10 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4630847B2 (ja) * 2006-06-09 2011-02-09 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
JP2008113075A (ja) * 2006-10-27 2008-05-15 Canon Inc 画像処理装置およびその制御方法
WO2009022002A2 (en) * 2007-08-15 2009-02-19 I.R.I.S. S.A. Method for managing sets of digitally acquired images and method for separation and identification of digitally acquired documents
US9129340B1 (en) * 2010-06-08 2015-09-08 United Services Automobile Association (Usaa) Apparatuses, methods and systems for remote deposit capture with enhanced image detection
JP2012185650A (ja) * 2011-03-04 2012-09-27 Canon Inc 情報処理装置、情報処理システム、情報処理装置の制御方法、及びプログラム
JP6066108B2 (ja) * 2014-04-16 2017-01-25 コニカミノルタ株式会社 電子文書生成システムおよびプログラム
US10122870B2 (en) * 2015-02-16 2018-11-06 Ricoh Company, Ltd. Information processing system, information processing apparatus, and information processing method
JP6690196B2 (ja) 2015-02-16 2020-04-28 株式会社リコー 情報処理システム、情報処理装置、及び情報処理方法
JP2017066108A (ja) 2015-09-30 2017-04-06 株式会社ジーシー 歯牙塗布用組成物
US9940083B2 (en) * 2015-10-07 2018-04-10 Ricoh Company, Ltd. Information processing system and method to execute a workflow processing corresponding to an image
JP6562822B2 (ja) * 2015-12-01 2019-08-21 シャープ株式会社 画像読取装置
US20170155792A1 (en) * 2015-12-01 2017-06-01 Sharp Kabushiki Kaisha Image reading apparatus
JP6562823B2 (ja) * 2015-12-01 2019-08-21 シャープ株式会社 画像読取装置
CN110115020B (zh) * 2016-12-28 2021-03-12 京瓷办公信息系统株式会社 图像读取装置
JP6880763B2 (ja) * 2017-01-19 2021-06-02 株式会社リコー 情報解析システム、情報解析方法
JP2019080166A (ja) * 2017-10-24 2019-05-23 株式会社東芝 画像処理装置、及び制御方法
JP7017060B2 (ja) * 2017-10-24 2022-02-08 富士フイルムビジネスイノベーション株式会社 画像処理装置及び画像処理プログラム
JP6913606B2 (ja) * 2017-11-02 2021-08-04 シャープ株式会社 画像処理装置
JP7005290B2 (ja) * 2017-11-07 2022-01-21 シャープ株式会社 画像処理装置
JP6986946B2 (ja) * 2017-12-13 2021-12-22 シャープ株式会社 原稿読取装置
JP7110636B2 (ja) * 2018-03-19 2022-08-02 株式会社リコー 情報処理システム、情報処理装置、及び情報処理方法
EP3543851A1 (en) 2018-03-19 2019-09-25 Ricoh Company, Ltd. Setup system, method, and computer-readable medium for multifunction peripheral devices for parameter-based integration of external services
US11308318B2 (en) * 2018-05-30 2022-04-19 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium
JP7155705B2 (ja) * 2018-07-20 2022-10-19 京セラドキュメントソリューションズ株式会社 画像形成装置
JP7271149B2 (ja) * 2018-11-30 2023-05-11 キヤノン株式会社 装置、方法、及びプログラム
JP2020136728A (ja) * 2019-02-13 2020-08-31 キヤノン株式会社 画像処理装置、システム、方法およびプログラム
JP7317561B2 (ja) * 2019-04-19 2023-07-31 キヤノン株式会社 タッチパネルを用いた文字入力のための画像処理装置、その制御方法及びプログラム
JP7234024B2 (ja) * 2019-04-23 2023-03-07 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7337553B2 (ja) * 2019-06-03 2023-09-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US11436299B2 (en) 2019-06-11 2022-09-06 Ricoh Company, Ltd. Information processing system, server apparatus, and information processing method
JP2021103846A (ja) * 2019-12-25 2021-07-15 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP7391672B2 (ja) * 2020-01-21 2023-12-05 キヤノン株式会社 文書を電子化するための画像処理システム、その制御方法及びプログラム
JP7415634B2 (ja) * 2020-02-10 2024-01-17 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004106518A (ja) 2003-08-05 2004-04-08 Sharp Corp 画像形成システムおよび画像形成装置
JP2020198546A (ja) 2019-06-03 2020-12-10 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
US11350011B2 (en) 2022-05-31
EP3873078B1 (en) 2023-05-31
US20210258448A1 (en) 2021-08-19
JP2021129252A (ja) 2021-09-02
EP3873078A1 (en) 2021-09-01

Similar Documents

Publication Publication Date Title
JP6953230B2 (ja) スキャン画像にファイル名等を設定するための装置、その制御方法及びプログラム
JP6891073B2 (ja) スキャン画像にファイル名等を設定するための装置、その制御方法及びプログラム
JP7476557B2 (ja) 機器、処理実行システム、処理実行方法、プログラム
JP6968647B2 (ja) スキャン画像にファイル名を設定するための装置、その制御方法及びプログラム
JP7034730B2 (ja) スキャン画像に関連する情報を設定するための装置、方法、およびプログラム
JP6983675B2 (ja) スキャン画像に関連する情報を設定するための装置、方法、プログラム、およびシステム
US11144189B2 (en) Determination and relocation of movement targets based on a drag-and-drop operation of a thumbnail across document areas
JP7062388B2 (ja) スキャン画像にファイル名等を設定するための装置、その制御方法及びプログラム
JP7030462B2 (ja) スキャン画像から文字情報を取得する画像処理装置、画像処理方法、及びプログラム
JP7077127B2 (ja) スキャン画像データに関連する情報を設定するための装置、方法、及びプログラム
US20210203808A1 (en) Image forming apparatus, image forming method, and recording medium
US11620840B2 (en) Image processing apparatus for extracting a desired character string from a scanned image
JP7027918B2 (ja) 制御プログラム及び、情報処理装置
CN114500761A (zh) 存储有控制程序的计算机可读记录介质、终端
JP7030505B2 (ja) スキャン画像に関連する情報を設定するための装置、方法、およびプログラム
US20230108397A1 (en) Apparatus, information processing method, and storage medium
JP7542980B2 (ja) 画像処理システム、画像処理方法及びプログラム
JP2019068323A (ja) スキャン画像にファイル名を設定するための装置、その制御方法及びプログラム
JP7540214B2 (ja) 印刷システム、プログラム及びクライアント端末
JP7206894B2 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
US20200220988A1 (en) Information processing terminal, information processing system, and operation screen display method
US20240404417A1 (en) Image processing apparatus, method of controlling the same, and storage medium
JP2024034740A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2024040612A (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2024054723A (ja) 情報処理システム、設定方法、プログラム、サービス提供システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240401

R150 Certificate of patent or registration of utility model

Ref document number: 7476557

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150