[go: up one dir, main page]

JP2014106490A - Code image processing system, code image display apparatus, image display apparatus, and program - Google Patents

Code image processing system, code image display apparatus, image display apparatus, and program Download PDF

Info

Publication number
JP2014106490A
JP2014106490A JP2012261553A JP2012261553A JP2014106490A JP 2014106490 A JP2014106490 A JP 2014106490A JP 2012261553 A JP2012261553 A JP 2012261553A JP 2012261553 A JP2012261553 A JP 2012261553A JP 2014106490 A JP2014106490 A JP 2014106490A
Authority
JP
Japan
Prior art keywords
code image
document
display device
image display
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012261553A
Other languages
Japanese (ja)
Inventor
Yusuke Korechika
悠介 是近
Yoshikazu Yamagishi
良和 山岸
Masahito Matsumura
雅人 松村
Ryosuke Takahashi
良輔 高橋
Masayoshi Miyazaki
将義 宮▲崎▼
Atsunobu Fuchita
篤信 渕田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Buffalo Inc
Original Assignee
Melco Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Melco Holdings Inc filed Critical Melco Holdings Inc
Priority to JP2012261553A priority Critical patent/JP2014106490A/en
Publication of JP2014106490A publication Critical patent/JP2014106490A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】比較的簡便な処理で、利用範囲の広いAR表示を実現できる符号画像処理システムを提供する。
【解決手段】符号画像表示装置は、ドキュメントに関連付けられた符号画像を表示出力し、ユーザの操作を受け入れる。符号画像表示装置は、受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新し、更新したドキュメントに関連する符号画像を生成し、表示させる。画像表示装置は、符号画像表示装置が表示する符号画像を撮像し、撮像した符号画像に関連付けられたドキュメントを取得し、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する。
【選択図】図1
A code image processing system capable of realizing AR display with a wide range of use by relatively simple processing.
A code image display device displays and outputs a code image associated with a document and accepts a user operation. The code image display device updates a document related to the displayed code image in accordance with the accepted operation, and generates and displays a code image related to the updated document. The image display device captures a code image displayed by the code image display device, acquires a document associated with the captured code image, and synthesizes and displays the document in a captured range of the code image associated with the document. To do.
[Selection] Figure 1

Description

本発明は、ドキュメントに関連付けられた符号画像を処理する符号画像処理システム、符号画像表示装置、画像表示装置、及びプログラムに関する。   The present invention relates to a code image processing system, a code image display device, an image display device, and a program for processing a code image associated with a document.

会議資料の表示を行うにあたり、拡張現実(AR)の技術を利用するものがある。例えば特許文献1には、次のような技術が開示されている。すなわち、ユーザは会議資料を表示する表示媒体(ノートの表紙、PCのフタなど)を選択しておく。会議参加時にカメラで表示媒体を撮像してユーザ名とともにサーバへ送信しておくと、サーバがユーザ名と表示媒体とで認証を実行する。そしてサーバは論理オブジェクトを取得してユーザへ送信し、ユーザ側で論理オブジェクトをAR表示する。ここでユーザが書込みを行うと、当該書込みが論理オブジェクトとしてさらに記録されて、後の参照に利用され、AR表示に供されるという技術が開示されている。   Some conference materials are displayed using augmented reality (AR) technology. For example, Patent Document 1 discloses the following technique. That is, the user selects a display medium (note cover, PC lid, etc.) for displaying the conference material. When a display medium is imaged with a camera and transmitted to the server together with the user name when participating in the conference, the server performs authentication with the user name and the display medium. The server acquires the logical object and transmits it to the user, and the user displays the AR on the logical object. Here, a technique is disclosed in which when a user performs writing, the writing is further recorded as a logical object, used for later reference, and used for AR display.

特開2011-217098号公報JP 2011-217098 A

しかしながら、上記従来の技術では、各ユーザがそれぞれの表示媒体上で論理オブジェクトを表示させることとなるため、論理オブジェクトを表示可能な領域がユーザごとに異なる。こうした環境下において各ユーザが見ている論理オブジェクトの配置が常に同じになるようにするには、AR表示を行う装置において、各論理オブジェクトの位置合わせを行わなければならず、処理が複雑化する。
また、従来の例では、AR表示が固定的であるため、オブジェクトが変化した場合に対応できず、利用範囲が限られてしまう。
However, in the above conventional technique, each user displays a logical object on each display medium, so that the area where the logical object can be displayed differs for each user. In order to ensure that the arrangement of the logical objects viewed by each user is always the same in such an environment, the alignment of the logical objects must be performed in the AR display device, which complicates the processing. .
Further, in the conventional example, since the AR display is fixed, it is not possible to cope with the case where the object changes, and the use range is limited.

本発明は上記実情に鑑みて為されたもので、比較的簡便な処理で、利用範囲の広いAR表示を実現できる符号画像処理システム、符号画像表示装置、画像表示装置、及びプログラムを提供することを、その目的の一つとする。   The present invention has been made in view of the above circumstances, and provides a code image processing system, a code image display device, an image display device, and a program capable of realizing AR display with a wide range of use by relatively simple processing. Is one of its purposes.

上記従来例の問題点を解決するための本発明は、符号画像処理システムであって、符号画像表示装置と画像表示装置とを含み、前記符号画像表示装置は、ドキュメントに関連付けられた符号画像を表示出力する表示手段と、ユーザの操作を受け入れる受入手段と、前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、を有し、前記画像表示装置は、前記符号画像表示装置が表示する符号画像を撮像する手段と、前記撮像された符号画像に関連付けられたドキュメントを取得する手段と、取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、を有することとしたものである。   The present invention for solving the problems of the above conventional example is a code image processing system, which includes a code image display device and an image display device, and the code image display device displays a code image associated with a document. Display means for displaying and outputting; receiving means for accepting a user operation; updating means for updating a document related to a displayed code image in accordance with the accepted operation; and a code image related to the updated document Control means for generating and displaying on the display means, wherein the image display device is associated with the picked-up code image and means for picking up the code image displayed by the code image display device. A means for acquiring a document and the acquired document are displayed in a range where the code image associated with the document is captured. A synthesis display unit that is obtained by the to have.

また、本発明の一態様に係る符号画像表示装置は、ドキュメントに関連付けられた符号画像を表示出力する表示手段と、ユーザの操作を受け入れる受入手段と、前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、を有することとしたものである。   The code image display device according to an aspect of the present invention includes a display unit that displays and outputs a code image associated with a document, a receiving unit that accepts a user operation, and displays the code image according to the accepted operation. Update means for updating a document related to the code image, and control means for generating a code image related to the updated document and displaying the code image on the display means.

さらに本発明の別の態様に係る画像表示装置は、ドキュメントに関連付けられた符号画像を表示出力する符号画像表示装置を撮像する手段と、前記撮像された、符号画像表示装置が表示する符号画像に関連付けられたドキュメントを取得する手段と、取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、を有することとしたものである。   Furthermore, an image display device according to another aspect of the present invention includes a means for imaging a code image display device that displays and outputs a code image associated with a document, and the captured code image displayed by the code image display device. Means for obtaining an associated document and composition display means for synthesizing and displaying the obtained document in a captured range of a code image associated with the document are provided.

また本発明のもう一つの態様に係るプログラムは、コンピュータを、ドキュメントに関連付けられた符号画像を表示出力する表示手段と、ユーザの操作を受け入れる受入手段と、前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、として機能させることとしたものである。   A program according to another aspect of the present invention displays a computer in accordance with a display unit that displays and outputs a code image associated with a document, a reception unit that receives a user operation, and the received operation. An update unit that updates a document related to the code image being generated, and a control unit that generates a code image related to the updated document and displays the code image on the display unit.

さらに本発明のさらにもう一つの態様に係るプログラムは、コンピュータを、ドキュメントに関連付けられた符号画像を表示出力する符号画像表示装置を撮像する手段と、前記撮像された、符号画像表示装置が表示する符号画像に関連付けられたドキュメントを取得する手段と、取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、として機能させることとしたものである。   According to still another aspect of the present invention, there is provided a program for displaying a computer on a code image display device that displays and outputs a code image associated with a document, and the captured code image display device displays the image. Means for obtaining a document associated with a code image, and a composite display means for synthesizing and displaying the obtained document in a captured range of the code image associated with the document. It is.

本発明によると、比較的簡便な処理で、利用範囲の広いAR表示を実現できる。   According to the present invention, AR display with a wide range of use can be realized with relatively simple processing.

本発明の実施の形態に係る符号画像処理システムの構成例を表すブロック図である。It is a block diagram showing the example of a structure of the code | cord | chord image processing system which concerns on embodiment of this invention. 本発明の実施の形態に係る符号画像処理システムで利用されるドキュメントデータベースの内容例を表す説明図である。It is explanatory drawing showing the example of the content of the document database utilized with the code | symbol image processing system which concerns on embodiment of this invention. 本発明の実施の形態に係る画像表示装置の概要例を表す説明図である。It is explanatory drawing showing the example of an outline | summary of the image display apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る画像表示装置の構成例を表すブロック図である。It is a block diagram showing the structural example of the image display apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る符号画像表示装置の例を表す機能ブロック図である。It is a functional block diagram showing the example of the code | symbol image display apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る画像表示装置の例を表す機能ブロック図である。It is a functional block diagram showing the example of the image display apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る符号画像処理システムの動作例を表すフローチャート図である。It is a flowchart figure showing the example of operation of the code picture processing system concerning an embodiment of the invention. 本発明の実施の形態に係る符号画像処理システムのもう一つの動作例を表すフローチャート図である。It is a flowchart figure showing another operation example of the code | symbol image processing system which concerns on embodiment of this invention.

本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係る符号画像処理システムは、図1に例示するように、符号画像表示装置1と、画像表示装置2とを含んで構成される。ここで符号画像表示装置1は、制御部11、記憶部12、入力部13、表示部14、及び通信部15を含んで構成される。   Embodiments of the present invention will be described with reference to the drawings. The code image processing system according to the embodiment of the present invention includes a code image display device 1 and an image display device 2 as illustrated in FIG. Here, the code image display device 1 includes a control unit 11, a storage unit 12, an input unit 13, a display unit 14, and a communication unit 15.

符号画像表示装置1の制御部11はCPU等のプログラム制御デバイスであり、記憶部12に格納されたプログラムに従って動作する。本実施の形態では、この符号画像表示装置1の制御部11は、ユーザに提示されるべきドキュメントに関連付けられた符号画像を表示部14に表示出力させる。またこの制御部11は、ユーザの操作を受け入れると、当該受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新して記憶する。そして当該更新して記憶したドキュメントに関連する符号画像を生成し、表示部14に表示させる。また本実施の形態では、この制御部11は、ドキュメントを特定するドキュメント特定情報とともに、ドキュメントの内容の要求を画像表示装置2から受け入れると、当該ドキュメント特定情報で特定されるドキュメントを例えば記憶部12から取り出して、要求元の画像表示装置2に対して送出する。この制御部11の詳しい処理の内容については、後に述べる。   The control unit 11 of the code image display device 1 is a program control device such as a CPU, and operates according to a program stored in the storage unit 12. In the present embodiment, the control unit 11 of the code image display device 1 causes the display unit 14 to display and output a code image associated with a document to be presented to the user. When the control unit 11 accepts a user operation, the control unit 11 updates and stores a document related to the displayed code image in accordance with the accepted operation. Then, a code image related to the updated and stored document is generated and displayed on the display unit 14. In the present embodiment, when the control unit 11 receives a document content request from the image display device 2 together with document specifying information for specifying a document, the control unit 11 stores the document specified by the document specifying information, for example, the storage unit 12. Are sent out to the requesting image display apparatus 2. Details of the processing of the control unit 11 will be described later.

記憶部12は、ハードディスクドライブ等のディスクデバイスや、DRAM等のメモリデバイスを含んで構成される。この記憶部12は、制御部11によって実行されるプログラムが保持される。このプログラムは、DVD-ROM(Digital Versatile Disc Read Only Memory)等のコンピュータ可読な記録媒体に格納されて提供され、この記憶部12に格納されたものであってもよいし、ネットワーク等の通信回線を通じて提供され、この記憶部12に格納されたものであってもよい。本実施の形態では、この記憶部12は、制御部11のワークメモリとしても動作する。またこの制御部12は、図2に例示するように、ユーザに提示されるべきドキュメントの内容を表す情報(C)を、各ドキュメントを特定するドキュメント特定情報(D)に関連付けたドキュメントデータベースを保持していてもよい。   The storage unit 12 includes a disk device such as a hard disk drive and a memory device such as a DRAM. The storage unit 12 holds a program executed by the control unit 11. The program may be provided by being stored in a computer-readable recording medium such as a DVD-ROM (Digital Versatile Disc Read Only Memory), and may be stored in the storage unit 12 or a communication line such as a network. It may be provided through and stored in the storage unit 12. In the present embodiment, the storage unit 12 also operates as a work memory of the control unit 11. Further, as illustrated in FIG. 2, the control unit 12 holds a document database in which information (C) representing the contents of a document to be presented to the user is associated with document specifying information (D) for specifying each document. You may do it.

入力部13は、例えば表示部14に重ね合わせて配されたタッチパネル等であり、ペンや指などでユーザが指示した位置を検出し、当該検出した位置の情報を制御部11に出力する。また、この入力部13は、キーボード等の他の入力デバイスや、ユーザのジェスチャー等を検出して操作を可能とするカメラ等のデバイスを含んでもよく、これらの入力デバイスにおいて行われた操作の内容を制御部11に出力する。表示部14は、液晶ディスプレイ等であり、制御部11から入力される指示に従って、情報を表示出力する。   The input unit 13 is, for example, a touch panel or the like arranged on the display unit 14. The input unit 13 detects a position designated by the user with a pen or a finger, and outputs information on the detected position to the control unit 11. The input unit 13 may include other input devices such as a keyboard and devices such as cameras that can be operated by detecting a user's gesture and the like, and details of operations performed on these input devices. Is output to the control unit 11. The display unit 14 is a liquid crystal display or the like, and displays and outputs information according to instructions input from the control unit 11.

通信部15は、無線LAN(Local Area Network)インタフェース等であり、制御部11から入力される指示に従い、ネットワークを介して情報を送信する。またこの通信部15は、ネットワークを介して到来する情報を受信し、受信した情報を制御部11に出力する。   The communication unit 15 is a wireless local area network (LAN) interface or the like, and transmits information via a network in accordance with an instruction input from the control unit 11. The communication unit 15 receives information that arrives via the network and outputs the received information to the control unit 11.

また画像表示装置2は、図3に例示するように、眼鏡型のデバイスであり、フレーム部20と、回路部30とを含んで構成される。フレーム部20は、左側リム21L,右側リム21R,ブリッジ22,鼻当て23,左ヒンジ24L,右ヒンジ24R,左テンプル25L,右テンプル25R,左スクリーン26L,及び右スクリーン26Rを含んで構成される。   Further, as illustrated in FIG. 3, the image display device 2 is a glasses-type device, and includes a frame unit 20 and a circuit unit 30. The frame portion 20 includes a left rim 21L, a right rim 21R, a bridge 22, a nose pad 23, a left hinge 24L, a right hinge 24R, a left temple 25L, a right temple 25R, a left screen 26L, and a right screen 26R. .

左右のスクリーン26L,Rは、それぞれ左右のリム21L,Rに支持される。左右のリム21L,Rはブリッジ22によって相互に接続される。各リム21L,Rのブリッジ22側側面には、鼻当て23が設けられる。リム21L,Rのブリッジ22側とは反対側の側面には、それぞれ対応するヒンジ24L,Rを介してテンプル25L,Rが接続される。ユーザはヒンジ24により、テンプル25とリム21とのなす角を調整し、テンプル25L,Rをそれぞれ左右の耳にかけ、鼻当て23を鼻の頭に当ててこの画像表示装置2を装着する。このときユーザの左右の目は、スクリーン26L,Rを介して外部を視認する。つまり、スクリーン26はガラス等の光透過性を有する材料で形成される。また本実施の形態では、このスクリーン26は、液晶ディスプレイ等の表示手段としても機能する。   The left and right screens 26L and 26R are supported by the left and right rims 21L and 21R, respectively. The left and right rims 21L and R are connected to each other by a bridge 22. A nose pad 23 is provided on the side surface of each rim 21L, R on the bridge 22 side. Temples 25L, R are connected to the side surfaces of the rims 21L, R opposite to the bridge 22 side via corresponding hinges 24L, R, respectively. The user adjusts the angle formed by the temple 25 and the rim 21 with the hinge 24, puts the temples 25L and R on the left and right ears, and puts the nose pad 23 on the head of the nose and wears the image display device 2. At this time, the left and right eyes of the user visually recognize the outside through the screens 26L and 26R. That is, the screen 26 is formed of a light transmissive material such as glass. In the present embodiment, the screen 26 also functions as display means such as a liquid crystal display.

またこの画像表示装置2の回路部30は、例えばテンプル25、リム21、またはブリッジ22に取り付けられる。この回路部30は、図4に例示するように、制御部31、記憶部32、表示部33、撮像部34、及び通信部35を含んで構成される。   The circuit unit 30 of the image display device 2 is attached to the temple 25, the rim 21, or the bridge 22, for example. As illustrated in FIG. 4, the circuit unit 30 includes a control unit 31, a storage unit 32, a display unit 33, an imaging unit 34, and a communication unit 35.

制御部31は、CPU等のプログラム制御デバイスであり、記憶部32に格納されたプログラムに従って動作する。本実施の形態では、この制御部31は、後に説明する撮像部34が撮像して得た、符号画像表示装置1の表示する符号画像を受け入れる。そして制御部31は、当該撮像された符号画像をデコードし、デコードして得た情報で特定される、符号画像に関連付けられたドキュメントを取得する。制御部31は、当該取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する。この制御部31の詳しい動作については後に述べる。   The control unit 31 is a program control device such as a CPU, and operates according to a program stored in the storage unit 32. In the present embodiment, the control unit 31 accepts a code image displayed by the code image display device 1 obtained by imaging by an imaging unit 34 described later. Then, the control unit 31 decodes the captured code image, and acquires a document associated with the code image specified by the information obtained by decoding. The control unit 31 synthesizes and displays the acquired document in the range where the code image associated with the document is captured. Detailed operation of the control unit 31 will be described later.

記憶部32は、制御部31によって実行されるプログラムを保持する。このプログラムは、DVD-ROMなどのコンピュータ可読な記録媒体に格納されて提供され、この記憶部32に格納されたものであってもよい。またこのプログラムは、ネットワーク等を介して配信され、この記憶部32に格納されたものであってもよい。本実施の形態では、この記憶部32は、制御部31のワークメモリとしても動作する。   The storage unit 32 holds a program executed by the control unit 31. The program may be provided by being stored in a computer-readable recording medium such as a DVD-ROM and stored in the storage unit 32. The program may be distributed via a network or the like and stored in the storage unit 32. In the present embodiment, the storage unit 32 also operates as a work memory of the control unit 31.

表示部33は、スクリーン26L,Rの少なくとも一方に取り付けられ、ユーザの目によって視認される位置に配された液晶方式や有機EL方式等を用いた光透過性を有するディスプレイである。この表示部33は、制御部31から入力される指示に従い、情報を表示する。   The display unit 33 is a display that is attached to at least one of the screens 26 </ b> L and 26 </ b> R and has a light transmission property using a liquid crystal method, an organic EL method, or the like disposed at a position visually recognized by the user's eyes. The display unit 33 displays information in accordance with an instruction input from the control unit 31.

撮像部34は、雲台34aとカメラ34bとを含み、カメラ34bが撮像した画像を制御部31に出力している。本実施の形態では、このカメラ34bは、動画像として例えば1/30秒に一枚の画像を撮像して制御部31に出力している。また雲台34aにより、カメラ34bの撮像の方向が設定される。ユーザは、予め、カメラ34bの撮像方向の中心が、自らの視野の中心に一致するよう、カメラ34bの撮像の方向を調整しておくものとする。   The imaging unit 34 includes a camera platform 34 a and a camera 34 b, and outputs an image captured by the camera 34 b to the control unit 31. In the present embodiment, the camera 34b captures one image as a moving image, for example, in 1/30 second and outputs the image to the control unit 31. In addition, the direction of imaging of the camera 34b is set by the camera platform 34a. It is assumed that the user adjusts in advance the imaging direction of the camera 34b so that the center of the imaging direction of the camera 34b coincides with the center of his field of view.

通信部35は、例えば無線LAN(Local Area Network)インタフェース等であり、制御部31から入力される指示に従って、指示された宛先にネットワークを介して情報を送信する。またこの通信部35は、ネットワークを介して到来した情報を受信し、制御部31に出力する。   The communication unit 35 is a wireless local area network (LAN) interface, for example, and transmits information to the designated destination via the network in accordance with an instruction input from the control unit 31. The communication unit 35 receives information that has arrived via the network and outputs the information to the control unit 31.

ここで、符号画像表示装置1の制御部11の動作について説明する。この制御部11は、機能的には、図5に例示するように、ドキュメント選択部41、符号画像生成部42、符号画像表示部43、操作受入部44、ドキュメント更新部45、更新制御部46、及びドキュメント配信部47を含んでなる。   Here, the operation of the control unit 11 of the code image display device 1 will be described. Functionally, the control unit 11 includes a document selection unit 41, a code image generation unit 42, a code image display unit 43, an operation reception unit 44, a document update unit 45, and an update control unit 46 as illustrated in FIG. , And a document distribution unit 47.

ドキュメント選択部41は、例えば入力部13から入力される指示に従って、ドキュメントデータベースに保持されているドキュメントのうちから、ユーザに提示されるべきドキュメントを選択する。ドキュメント選択部41は、選択したドキュメントの内容を表す情報と、当該ドキュメントに関連付けられているドキュメント特定情報とをドキュメントデータベースから読み出して、送信の対象となる情報としてワークメモリに保持する。   The document selection unit 41 selects a document to be presented to the user from among documents held in the document database, for example, according to an instruction input from the input unit 13. The document selection unit 41 reads information representing the content of the selected document and document specifying information associated with the document from the document database, and stores the information in the work memory as information to be transmitted.

符号画像生成部42は、ドキュメント選択部41が読み出したドキュメント特定情報を符号化し、例えばQRコード(登録商標)(JIS-X0510)やバーコード等の符号画像を生成する。   The code image generation unit 42 encodes the document specifying information read by the document selection unit 41 and generates a code image such as a QR code (registered trademark) (JIS-X0510) or a barcode.

符号画像表示部43は、符号画像生成部42が生成した符号画像を表示部14に表示出力する。またこの符号画像表示部43は、表示した符号画像のサイズを調整するべき旨の指示を、操作受入部44から受けると、当該指示に従ってサイズを調整した符号画像を表示する。一例として操作受入部44から符号画像のサイズをR%に縮小または拡大するべき旨の指示を受けると、R%だけ縮小または拡大した符号画像を生成し、この符号画像を表示部14に表示する。   The code image display unit 43 displays and outputs the code image generated by the code image generation unit 42 on the display unit 14. When the code image display unit 43 receives an instruction from the operation receiving unit 44 to adjust the size of the displayed code image, the code image display unit 43 displays the code image whose size is adjusted according to the instruction. For example, when an instruction to reduce or enlarge the size of the code image to R% is received from the operation receiving unit 44, a code image reduced or enlarged by R% is generated, and this code image is displayed on the display unit 14. .

また、この符号画像表示部43は、表示している符号画像を回転させるべき旨の指示を、操作受入部44から受け入れると、当該指示に従って傾きを調整した符号画像を表示する。一例として操作受入部44から符号画像をθ度傾けて表示するべき旨の指示を受けると、符号画像をθ度だけ回転させて表示部14に表示する。   When the code image display unit 43 receives an instruction to rotate the displayed code image from the operation receiving unit 44, the code image display unit 43 displays a code image whose inclination is adjusted according to the instruction. As an example, when an instruction indicating that the code image should be displayed with an inclination of θ degrees is received from the operation receiving unit 44, the code image is rotated by θ degrees and displayed on the display unit 14.

操作受入部44は、ユーザの操作を受け入れる。この操作には、符号画像のサイズを調整するべき旨の操作や、符号画像を回転させるべき旨の操作、並びに、ドキュメントに対する書き込み操作等が含まれる。具体的にこの操作受入部44は、符号画像のサイズを調整するべき旨の操作、または符号画像を回転させるべき旨の操作がなされると、当該操作の内容を反映した結果を符号画像表示部43に出力する。   The operation receiving unit 44 receives a user operation. This operation includes an operation to adjust the size of the code image, an operation to rotate the code image, a writing operation to the document, and the like. Specifically, when an operation to adjust the size of the code image or an operation to rotate the code image is performed, the operation receiving unit 44 displays a result reflecting the content of the operation as a code image display unit. Output to 43.

またこの操作受入部44は、符号画像の表すドキュメント特定情報で特定されるドキュメントへの書き込み操作がユーザからされると、当該操作の内容とドキュメント特定情報とをドキュメント更新部45に出力する。具体的にドキュメントへの書き込み操作を受けて、操作受入部44が出力する操作の内容を表す情報(操作内容情報)は、所定のタイミングごとに得られる、ペンや指によってなぞられた位置を表す座標情報や書き込みの内容を表す文字列、色等である。また、この書き込み操作が完了したときには、ユーザは、書き込み内容を確定するべき旨の操作を行う。操作受入部44は所定のタイミングごとに得られた座標情報等の操作内容情報や、書き込み内容を確定するべき旨の操作が行われたことを表す情報をドキュメント更新部45に出力する。   In addition, when a user performs a writing operation on the document specified by the document specifying information represented by the code image, the operation receiving unit 44 outputs the content of the operation and the document specifying information to the document updating unit 45. Specifically, information (operation content information) indicating the content of the operation output by the operation receiving unit 44 in response to a document writing operation represents a position traced with a pen or a finger obtained at a predetermined timing. It is a character string, a color, etc. showing the coordinate information and the content of writing. When this writing operation is completed, the user performs an operation to confirm the written content. The operation receiving unit 44 outputs operation content information such as coordinate information obtained at every predetermined timing and information indicating that an operation to confirm the written content has been performed to the document update unit 45.

ドキュメント更新部45は、操作受入部44から入力される操作内容情報で表されるユーザの書き込み内容を、対応するドキュメントを特定するドキュメント特定情報に関連付けて記憶部12に保持する。また、このドキュメント更新部45は、書き込み内容を確定するべき旨の操作が行われたことを表す情報が入力されると、記憶部12に保持したユーザの書き込み内容を、当該書き込み内容に関連付けられたドキュメント特定情報と同じドキュメント特定情報に関連付けてワークメモリに保持されているドキュメントの内容に合成して、新たなドキュメントを生成する。そしてドキュメント更新部45は、この新たなドキュメントを特定する、ドキュメントごとに固有なドキュメント特定情報を生成し、新たに生成したドキュメントと、ここで生成したドキュメント特定情報とを関連付けてドキュメントデータベースに格納する。   The document updating unit 45 holds the user's written content represented by the operation content information input from the operation receiving unit 44 in the storage unit 12 in association with the document specifying information for specifying the corresponding document. In addition, when information indicating that an operation to confirm the written content has been performed, the document update unit 45 associates the written content of the user stored in the storage unit 12 with the written content. The new document is generated by synthesizing it with the content of the document held in the work memory in association with the same document identification information as the document identification information. Then, the document updating unit 45 generates document specifying information unique to each document for specifying the new document, and stores the newly generated document in association with the generated document specifying information in the document database. .

更新制御部46は、ドキュメント更新部45が新たなドキュメントを生成すると、当該新たに生成したドキュメントを選択するよう、ドキュメント選択部41に指示する。この指示により、ドキュメント選択部41は、当該指示されたドキュメントをドキュメントデータベースから読み出し、送信の対象となる情報として、当該新たなドキュメントを特定するドキュメント特定情報に関連付けてワークメモリに保持する。   When the document update unit 45 generates a new document, the update control unit 46 instructs the document selection unit 41 to select the newly generated document. In response to this instruction, the document selection unit 41 reads the instructed document from the document database, and stores it in the work memory in association with the document specifying information for specifying the new document as information to be transmitted.

ドキュメント配信部47は、画像表示装置2からドキュメント特定情報を受信すると、当該受信したドキュメント特定情報に関連付けて、送信の対象となる情報としてワークメモリに保持されている、ドキュメントの内容を表す情報を読み出す。そしてドキュメント配信部47は当該読み出したドキュメントの内容を表す情報を、画像表示装置2へ配信する。またこのドキュメント配信部47は、受信したドキュメント特定情報に関連付けて保持されている座標情報があれば、当該座標情報を読み出す。そしてドキュメント配信部47は、当該読み出した座標情報で表される書き込みの内容を、ワークメモリに保持されたドキュメントの内容を表す情報に合成して、当該合成後の情報を画像表示装置2へ配信する。   Upon receiving the document specifying information from the image display device 2, the document distribution unit 47 associates the received document specifying information with information indicating the content of the document held in the work memory as information to be transmitted. read out. Then, the document distribution unit 47 distributes information representing the contents of the read document to the image display device 2. Further, if there is coordinate information held in association with the received document specifying information, the document distribution unit 47 reads the coordinate information. Then, the document distribution unit 47 combines the written content represented by the read coordinate information with information representing the content of the document held in the work memory, and distributes the combined information to the image display device 2. To do.

また画像表示装置2の回路部30の制御部31は、機能的には図6に例示するように、符号画像取得部51、デコード部52、ドキュメント取得部53及び合成表示部54を含んでなる。ここで符号画像取得部51は、撮像部34のカメラ34bが撮像した画像を所定のタイミングごとに繰り返し得る。そして画像を得るごとに、当該画像に撮像されている符号画像表示装置1の表示部14に表示された符号画像を検出してデコード部52に出力する。この符号画像取得部51は、また検出した符号画像のサイズと、撮像部34の座標系(カメラ34bの視線方向をz軸として、このカメラ34bに対して鉛直方向をy軸、水平方向をx軸とした座標系)においてxy平面内での符号画像の傾きを検出する。本実施の形態の一例では、符号画像はQRコード等、傾きやサイズを検出可能な符号画像であるものとする。またこの符号画像取得部51は、検出した符号画像を予め定められた標準状態(所定のサイズ及び傾き)とした正規化符号画像を生成してデコード部52に出力する。   The control unit 31 of the circuit unit 30 of the image display device 2 functionally includes a code image acquisition unit 51, a decoding unit 52, a document acquisition unit 53, and a composite display unit 54 as illustrated in FIG. . Here, the code image acquisition unit 51 can repeatedly obtain an image captured by the camera 34b of the imaging unit 34 at every predetermined timing. Each time an image is obtained, the code image displayed on the display unit 14 of the code image display device 1 captured in the image is detected and output to the decoding unit 52. The code image acquisition unit 51 also detects the size of the detected code image and the coordinate system of the image pickup unit 34 (the viewing direction of the camera 34b is the z axis, the vertical direction with respect to the camera 34b is the y axis, and the horizontal direction is the x axis. The inclination of the code image in the xy plane is detected in the coordinate system using the axes. In one example of the present embodiment, the code image is a code image such as a QR code that can detect the inclination and size. The code image acquisition unit 51 generates a normalized code image in which the detected code image is set to a predetermined standard state (predetermined size and inclination) and outputs the normalized code image to the decoding unit 52.

デコード部52は、正規化符号画像の入力を受けて、当該入力された、正規化された符号画像をデコードし、符号画像として表されているドキュメント特定情報を読み出す。ドキュメント取得部53は、デコード部52が読み出したドキュメント特定情報を符号画像表示装置1へ送信し、当該ドキュメント特定情報で特定されるドキュメントの内容を表す情報を要求する。そしてこのドキュメント取得部53は、符号画像表示装置1から要求した、ドキュメントの内容を表す情報と、当該ドキュメントに対して行われた書き込みの内容を表す操作内容情報とを受け入れる。   The decoding unit 52 receives an input of the normalized code image, decodes the input normalized code image, and reads document specifying information represented as the code image. The document acquisition unit 53 transmits the document specifying information read by the decoding unit 52 to the code image display device 1 and requests information representing the content of the document specified by the document specifying information. The document acquisition unit 53 receives information indicating the content of the document requested from the code image display device 1 and operation content information indicating the content of writing performed on the document.

合成表示部54は、ドキュメント取得部53が取得したドキュメントの内容を表す情報(本実施の形態のある例では、ドキュメントの内容を表す画像)に対して、座標情報が表す書き込みの内容を合成し、合成画像を生成する。そしてこの合成表示部54は、符号画像取得部51が検出した符号画像の傾きやサイズの情報を得て、当該検出した符号画像の傾きやサイズに応じて合成画像のサイズや傾きを変化させた画像を生成する。合成表示部54は、表示部33上で、この画像表示装置2を装着したユーザが、スクリーン26を通じて符号画像表示装置1に表示されている符号画像を見る位置に、当該生成した画像を表示する。これにより、取得したドキュメントの内容であるドキュメントの画像が、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示される。具体的に、ドキュメントの内容を表す情報を表示する領域は、符号画像表示装置1の表示部14の表示領域(ディスプレイ部分)を識別して当該表示領域に一致させるようにしてもよい。また表示される情報は、必ずしも符号画像が撮像されている範囲に限って表示される必要はなく、当該範囲を超えて(当該範囲からはみ出して)表示されてもよい。また、表示される情報が文字列である場合は、符号画像が撮像されている範囲内で折り返して(改行して)表示してもよい。   The composition display unit 54 synthesizes the content of writing represented by the coordinate information with the information representing the content of the document acquired by the document acquisition unit 53 (in the example of the present embodiment, an image representing the content of the document). Generate a composite image. The composite display unit 54 obtains information about the inclination and size of the code image detected by the code image acquisition unit 51, and changes the size and inclination of the composite image according to the detected inclination and size of the code image. Generate an image. The composite display unit 54 displays the generated image at a position on the display unit 33 where the user wearing the image display device 2 views the code image displayed on the code image display device 1 through the screen 26. . As a result, the image of the document, which is the content of the acquired document, is synthesized and displayed in the range where the code image associated with the document is captured. Specifically, the area for displaying information representing the content of the document may be made to match the display area by identifying the display area (display portion) of the display unit 14 of the code image display device 1. In addition, the displayed information is not necessarily displayed only in the range where the code image is captured, and may be displayed beyond the range (out of the range). Further, when the displayed information is a character string, it may be displayed by folding back (with a line break) within the range where the code image is captured.

本実施の形態の符号画像処理システムは以上の構成を備えてなり、次のように動作する。以下の説明では、ドキュメントの内容を表す情報は、例えば米国アドビ社のPDF(Portable Document Format)等で表現された情報であるとする。またユーザは、画像表示装置2のカメラ34bが撮像する画像の座標系と、スクリーン26において表示される情報の座標系との位置合わせを事前に行っておくものとする。このような位置合わせの方法は、ヘッドマウントディスプレイに関わる技術として広く知られた方法を採用できるので、ここでの詳しい説明を省略する。   The code image processing system of the present embodiment has the above-described configuration and operates as follows. In the following description, it is assumed that the information indicating the content of the document is information expressed in, for example, PDF (Portable Document Format) of Adobe Corporation in the United States. In addition, it is assumed that the user performs alignment in advance between the coordinate system of the image captured by the camera 34b of the image display device 2 and the coordinate system of the information displayed on the screen 26. As such an alignment method, a method widely known as a technique related to a head-mounted display can be adopted, and a detailed description thereof is omitted here.

図7に例示するように、会議を開催するユーザは符号画像表示装置1を操作して、所望のドキュメントを指定すると符号画像表示装置1は当該ドキュメントの指定を受け入れる(S1)。符号画像表示装置1は、ドキュメントデータベースに保持されているドキュメントのうちから、ユーザが指定したドキュメントを選択する(S2)。符号画像表示装置1は、当該選択したドキュメントに関連付けられてドキュメントデータベースに格納されているドキュメント特定情報を読み出して符号化し、符号画像を生成する(S3)。本実施の形態では、この符号画像がいわゆるARマーカとして機能するものであり、一例としてはQRコードを利用できる。符号画像表示装置1は、この符号画像を表示出力する(S4)。   As illustrated in FIG. 7, when a user holding a conference operates the code image display device 1 and designates a desired document, the code image display device 1 accepts the designation of the document (S1). The code image display device 1 selects a document designated by the user from the documents held in the document database (S2). The code image display device 1 reads and encodes the document specifying information stored in the document database in association with the selected document, and generates a code image (S3). In this embodiment, this code image functions as a so-called AR marker, and as an example, a QR code can be used. The code image display device 1 displays and outputs this code image (S4).

画像表示装置2では、この表示された符号画像を撮像し(S5)、この撮像した符号画像をデコードし、符号画像として表されているドキュメント特定情報を読み出す(S6)。画像表示装置2は、ここで読み出したドキュメント特定情報を符号画像表示装置1へ送信し、当該ドキュメント特定情報で特定されるドキュメントの内容を表す情報を要求する(S7)。   The image display device 2 captures the displayed code image (S5), decodes the captured code image, and reads document specifying information represented as the code image (S6). The image display device 2 transmits the document identification information read here to the code image display device 1, and requests information representing the contents of the document identified by the document identification information (S7).

符号画像表示装置1は、画像表示装置2からドキュメント特定情報を受信すると、処理S2にて選択したドキュメントの内容を表す情報を読み出す。そして当該読み出したドキュメントの内容を表す情報を、画像表示装置2へ配信する(S8)。   When the code image display device 1 receives the document specifying information from the image display device 2, the code image display device 1 reads information representing the content of the document selected in the process S2. Information representing the contents of the read document is distributed to the image display device 2 (S8).

画像表示装置2では、配信されたドキュメントの内容を表す情報を、当該画像表示装置2を装着したユーザが、スクリーン26を通じて符号画像表示装置1に表示されている符号画像を見る位置に位置合わせして表示部33に表示する(S9)。これにより、取得したドキュメントの内容であるドキュメントの画像が、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示される。   In the image display device 2, information representing the contents of the distributed document is aligned with a position where the user wearing the image display device 2 views the code image displayed on the code image display device 1 through the screen 26. Is displayed on the display unit 33 (S9). As a result, the image of the document, which is the content of the acquired document, is synthesized and displayed in the range where the code image associated with the document is captured.

本実施の形態では、画像表示装置2を用いるユーザが、符号画像表示装置1に表示された符号画像を、画像表示装置2が備える撮像部において撮像し、当該符号画像の表すドキュメントの内容を表す情報を取得してユーザに提示する。つまり、各ユーザが同じ符号画像表示装置1に表示された同じ符号画像を撮像していれば、各ユーザが見るドキュメントの内容も同じものとなる。   In the present embodiment, a user using the image display device 2 captures the code image displayed on the code image display device 1 in an imaging unit included in the image display device 2, and represents the content of the document represented by the code image. Information is acquired and presented to the user. That is, if each user has captured the same code image displayed on the same code image display device 1, the contents of the document viewed by each user will be the same.

さらに図8に例示するように、符号画像表示装置1において符号画像が表示されている表示部14に重ね合わせられた入力部13に対して、ユーザが操作を行うと符号画像表示装置1は、当該操作を受け入れる(S11)。そして符号画像表示装置1は当該ユーザの操作が、ペンや指でなぞったり、カメラでジェスチャーを撮影させるなどした、書き込みの内容の入力であるか、あるいは書き込み内容の確定の操作であるかを判断する(S12)。   Further, as illustrated in FIG. 8, when the user performs an operation on the input unit 13 superimposed on the display unit 14 on which the code image is displayed in the code image display device 1, the code image display device 1 The operation is accepted (S11). Then, the code image display device 1 determines whether the user's operation is an input of writing content or an operation of confirming the writing content, such as tracing with a pen or a finger or photographing a gesture with a camera. (S12).

ここでユーザの操作が、書き込み内容の入力であると判断されると、当該入力された書き込みの内容は、符号画像表示装置1において、表示されているドキュメントを特定するドキュメント特定情報と、当該書き込みの内容を入力したユーザを特定する情報とに関連付けて保持される(S13)。   Here, when it is determined that the user's operation is an input of writing contents, the input writing contents are the document specifying information for specifying the displayed document and the writing in the code image display device 1. Is stored in association with information for identifying the user who has input the content (S13).

本実施の形態では画像表示装置2は繰り返し、撮像した符号画像から読み出したドキュメント特定情報を符号画像表示装置1へ送信している。そして画像表示装置2が当該ドキュメント特定情報で特定されるドキュメントの内容を表す情報を要求すると(S14)、符号画像表示装置1は、処理S2にて選択したドキュメントの内容を表す情報を読み出すとともに、当該画像表示装置2が送信したドキュメント特定情報と、当該画像表示装置2のユーザを特定する情報(符号画像表示装置1は、このユーザを特定する情報を、例えば画像表示装置2に固有な機器を特定する情報、例えば通信部35に設定されたMACアドレス等に関連付けて予め記憶しておき、ドキュメント特定情報の送信元である画像表示装置2に固有な機器を特定する情報に対して関連付けられているユーザを特定する情報を取得することで得てもよい)とに関連付けられている書き込みの内容を読み出す。そして符号画像表示装置1は、当該読み出したドキュメントの内容を表す情報と当該読み出した書き込みの内容とを画像表示装置2へ配信する(S15)。   In the present embodiment, the image display apparatus 2 repeatedly transmits the document specifying information read from the captured code image to the code image display apparatus 1. When the image display device 2 requests information indicating the content of the document specified by the document specifying information (S14), the code image display device 1 reads out the information indicating the content of the document selected in the process S2, and Document specifying information transmitted by the image display device 2 and information specifying the user of the image display device 2 (the code image display device 1 uses information specifying this user, for example, a device unique to the image display device 2. The information to be identified is stored in advance in association with, for example, the MAC address set in the communication unit 35, and is associated with information for identifying a device unique to the image display device 2 that is the transmission source of the document identification information The content of the writing associated with the user may be obtained by acquiring information identifying the user who is present. Then, the code image display device 1 distributes the information indicating the content of the read document and the read content of the writing to the image display device 2 (S15).

画像表示装置2は、配信されたドキュメントの内容を表す情報に対し、併せて配信された書き込みの内容を合成して、合成画像を生成する(S16)。そしてこの合成画像を、当該画像表示装置2を装着したユーザが、スクリーン26を通じて符号画像表示装置1に表示されている符号画像を見る位置に位置合わせして表示する(S17)。   The image display device 2 synthesizes the written contents distributed together with the information representing the contents of the distributed document to generate a combined image (S16). The synthesized image is displayed in alignment with the position where the user wearing the image display device 2 views the code image displayed on the code image display device 1 through the screen 26 (S17).

一方処理S12において、符号画像表示装置1が、ユーザの操作が書き込み内容の確定の操作であると判断すると、符号画像表示装置1では、記憶部12に保持したユーザの書き込み内容を、当該書き込み内容に関連付けられたドキュメント特定情報によって特定されるドキュメントの内容に合成して、新たなドキュメントを生成する(S18)。そして符号画像表示装置1は、この新たなドキュメントを特定する、ドキュメントごとに固有なドキュメント特定情報を生成し、新たに生成したドキュメントと、ここで生成したドキュメント特定情報とを関連付けてドキュメントデータベースに格納する(S19)。また符号画像表示装置1は、処理S4に戻って当該生成したドキュメント特定情報を符号化した符号画像を表示する(R)。   On the other hand, when the code image display apparatus 1 determines in step S12 that the user's operation is an operation for confirming the write content, the code image display apparatus 1 uses the write content stored in the storage unit 12 as the write content. A new document is generated by synthesizing it with the content of the document specified by the document specifying information associated with (S18). Then, the code image display device 1 generates the document specifying information unique to each document for specifying the new document, and stores the newly generated document in association with the generated document specifying information in the document database. (S19). The code image display device 1 returns to the process S4 and displays a code image obtained by encoding the generated document specifying information (R).

また、ここで書き込みの内容を表す情報は、書き込みの内容を確定する操作が行われたごとに複数あってもよい。この場合、符号画像表示装置1は、どの書き込みの内容を合成するかの選択をユーザから受けておく。そして符号画像表示装置1は、画像表示装置2が送信したドキュメント特定情報で特定されるドキュメントの内容を表す情報を読み出すとともに、当該ドキュメント特定情報と、当該画像表示装置2のユーザを特定する情報とに関連付けられている書き込みの内容のうち、当該ユーザが選択した書き込み内容を読み出す。符号画像表示装置1は、当該読み出したドキュメントの内容を表す情報と当該読み出した書き込みの内容とを画像表示装置2へ配信する。   In addition, there may be a plurality of pieces of information indicating the contents of writing each time an operation for confirming the contents of writing is performed. In this case, the code image display apparatus 1 receives a selection of which writing content to be combined from the user. The code image display device 1 reads information indicating the content of the document specified by the document specification information transmitted by the image display device 2, and also specifies the document specification information and information for specifying the user of the image display device 2. Of the contents of writing associated with, the contents of writing selected by the user are read. The code image display device 1 distributes information representing the content of the read document and the read content of the writing to the image display device 2.

さらにここまでの説明では、符号画像表示装置1が、画像表示装置2が送信したドキュメント特定情報で特定されるドキュメントの内容を表す情報を読み出すとともに、当該ドキュメント特定情報と、当該画像表示装置2のユーザを特定する情報とに関連付けられている書き込みの内容のうち、当該ユーザが選択した書き込み内容を読み出して、画像表示装置2へ配信していた。しかしながら、本実施の形態はこれに限られず、例えば書き込み内容の入力操作を行ったユーザから、当該書き込み内容を共有とする旨の操作を受け入れたときには、符号画像表示装置1は、当該書き込み内容の情報に共有である旨の情報を関連付けて記憶してもよい。なお、共有とする旨の操作において、共有の相手方となるユーザ(共有対象ユーザ)を特定する情報を受け入れてもよい。この場合、符号画像表示装置1は、共有対象ユーザを特定する情報と共有である旨の情報とを、書込みの内容の情報に関連付けて記憶する。   Furthermore, in the description so far, the code image display device 1 reads out information representing the content of the document specified by the document specification information transmitted by the image display device 2, and the document specification information and the image display device 2 Of the writing contents associated with the information specifying the user, the writing contents selected by the user are read and distributed to the image display device 2. However, the present embodiment is not limited to this. For example, when an operation for sharing the written content is accepted from a user who has performed the input operation of the written content, the code image display device 1 stores the written content. Information indicating that the information is shared may be stored in association with the information. In addition, in the operation for sharing, information for specifying a user (a user to be shared) as a sharing partner may be accepted. In this case, the code image display device 1 stores information for specifying the sharing target user and information indicating that the user is shared in association with the information on the contents of writing.

符号画像表示装置1は、画像表示装置2が送信したドキュメント特定情報で特定されるドキュメントの内容を表す情報を読み出すとともに、当該ドキュメント特定情報と、当該画像表示装置2のユーザを特定する情報とに関連付けられている書き込みの内容のうち、当該ユーザが選択した書き込み内容と、共有である旨の情報に関連付けられた書き込み内容とを読み出して配信することとすればよい。また、共有対象ユーザを特定する情報と共有である旨の情報とが関連付けられた書込みの内容の情報が読み出された場合は、当該共有対象ユーザに、当該画像表示装置2のユーザを特定する情報が含まれている場合に限り読み出して配信する。   The code image display device 1 reads out information representing the content of the document specified by the document specification information transmitted by the image display device 2, and also converts the document specification information and information specifying the user of the image display device 2. Of the associated writing contents, the writing contents selected by the user and the writing contents associated with the information indicating sharing may be read and distributed. Further, when the information on the content of writing in which the information for specifying the sharing target user and the information indicating that the sharing is associated is read, the user of the image display device 2 is specified as the sharing target user. Read and distribute only when information is included.

画像表示装置2では、この新たに表示された符号画像に基づいてドキュメントの内容を表す情報を要求するので、画像表示装置2には、当該書き込みがされ、確定がされたドキュメントの内容が表示されることとなる。   Since the image display device 2 requests information representing the content of the document based on the newly displayed code image, the content of the document that has been written and confirmed is displayed on the image display device 2. The Rukoto.

なお、ここまでの説明においては、ドキュメントデータベースは符号画像表示装置1が保持しているものとしたが、本実施の形態はこれに限られない。例えばドキュメントデータベースは、符号画像表示装置1とは別体のサーバに保持され、符号画像表示装置1からネットワーク等を介してアクセスされるようになっていてもよい。さらに本実施の形態のある例では、画像表示装置2は、眼鏡型ではなく、例えばスマートフォン等、カメラを備えた情報処理装置であってもよい。この場合、視線とカメラ34bとの光軸を一致させる必要がなくなり、構成を簡便にできる。   In the description so far, the document database is held by the code image display device 1, but the present embodiment is not limited to this. For example, the document database may be held in a server separate from the code image display device 1 and accessed from the code image display device 1 via a network or the like. Furthermore, in an example of the present embodiment, the image display device 2 may be an information processing device provided with a camera such as a smartphone instead of the glasses type. In this case, it is not necessary to match the optical axes of the line of sight and the camera 34b, and the configuration can be simplified.

また本実施の形態のある例では、会議の識別情報と、当該識別情報で識別される会議の開始時刻、終了時刻、及び当該会議で使用するドキュメントへのアクセスを可能とするためのアクセス情報を互いに関連付けて記録した会議データベースを用いてもよい。すなわちこの例では、アクセス情報を用いなければ、ドキュメントデータベースに格納されているドキュメントの内容を表す情報へのアクセスが許可されないようにしておく。具体的には、このアクセス情報を復号鍵とし、ドキュメントの内容を表す情報を、この復号鍵であるアクセス情報に対応する暗号鍵で暗号化しておく。そして符号画像表示装置1は、例えば会議に参加するユーザ、あるいは、符号画像表示装置1の操作を行うユーザをユーザ名やパスワードを用いて、あるいはユーザの生体情報(指紋、声紋、顔その他の情報)を用いて認証する。   In an example of the present embodiment, the conference identification information, the conference start time and end time identified by the identification information, and access information for enabling access to the document used in the conference are provided. A conference database recorded in association with each other may be used. That is, in this example, if access information is not used, access to information representing the contents of the document stored in the document database is not permitted. Specifically, the access information is used as a decryption key, and information representing the contents of the document is encrypted with an encryption key corresponding to the access information that is the decryption key. The code image display device 1 uses, for example, a user who participates in a meeting or a user who operates the code image display device 1 using a user name or password, or a user's biometric information (fingerprint, voice print, face and other information). ) To authenticate.

符号画像表示装置1は、ユーザが認証された場合にはユーザから会議の識別情報を受け入れる。符号画像表示装置1は、現在時刻(通常のコンピュータが備えるカレンダーICを用いて取得できる。あるいはネットワークを介してNTP(Network Time Protocol)サーバから取得できる)を参照して、受け入れた識別情報で識別される会議の開始時刻から終了時刻の間に、現在時刻が含まれるか否かを判断し、含まれる場合に、関連付けられたアクセス情報を取得して、ドキュメントの内容を表す情報へのアクセスを行い、当該アクセスにより得たドキュメントの内容を表す情報を、要求に応じてユーザ側の画像表示装置2へ配信する。   When the user is authenticated, the code image display device 1 accepts conference identification information from the user. The code image display apparatus 1 is identified by the received identification information with reference to the current time (which can be obtained using a calendar IC provided in a normal computer or can be obtained from an NTP (Network Time Protocol) server via a network). It is determined whether the current time is included between the start time and the end time of the meeting to be performed, and if included, the associated access information is obtained and access to the information representing the content of the document is performed. The information representing the content of the document obtained by the access is distributed to the image display device 2 on the user side in response to the request.

なおアクセス情報は、復号鍵に限られず、例えば無線LANを介してドキュメントデータベースにアクセスするためのプロファイル情報等であってもよい。さらに、本実施の形態で、会議の終了時刻等、ドキュメントの利用を終了させるべき時刻が設定されている場合、符号画像表示装置1は、当該終了時刻等が経過したときには、表示部14への符号画像の表示出力を停止してもよい。   The access information is not limited to the decryption key, and may be profile information for accessing the document database via the wireless LAN, for example. Furthermore, in the present embodiment, when a time at which the use of the document is to be ended, such as a meeting end time, is set, the code image display device 1 displays the display unit 14 when the end time has elapsed. The display output of the code image may be stopped.

また、符号画像生成部42は、ドキュメント選択部41が読み出したドキュメント特定情報を符号化する際に、さらに、符号画像表示装置1に固有の情報(符号画像表示装置1に予め設定された暗号鍵情報)を用いて暗号化した情報を表すQRコード(JIS-X0510)やバーコード等の符号画像を生成してもよい。   Further, when encoding the document specifying information read by the document selection unit 41, the code image generation unit 42 further includes information unique to the code image display device 1 (an encryption key set in advance in the code image display device 1). A code image such as a QR code (JIS-X0510) or a bar code representing information encrypted using (information) may be generated.

この例では、画像表示装置2側では対応する符号画像表示装置1に固有の情報で暗号化された情報を復号するための復号鍵を記憶しているものとする。画像表示装置2は、図7の処理S5において、暗号化された情報を表す符号画像を撮像し、記憶している復号鍵で当該撮像した符号画像が表す情報を復号して、処理S6にて、ドキュメント識別情報を取得する。   In this example, it is assumed that the image display device 2 stores a decryption key for decrypting information encrypted with information unique to the corresponding code image display device 1. In the process S5 of FIG. 7, the image display device 2 captures the code image representing the encrypted information, decrypts the information represented by the captured code image with the stored decryption key, and in the process S6. , Get document identification information.

また、この例では、画像表示装置2は、対応する符号画像表示装置1で複号可能な暗号化を行うための暗号鍵情報を保持する。そして、図8の処理S14にてドキュメントの要求を送信する際、当該保持している暗号鍵情報を用いて、要求を暗号化する。   In this example, the image display device 2 holds encryption key information for performing encryption that can be decrypted by the corresponding code image display device 1. When the document request is transmitted in the process S14 of FIG. 8, the request is encrypted using the held encryption key information.

この場合、符号画像表示装置1は、暗号化された要求を受信すると、当該要求の複号を試みる。ここで複号に成功したならば、対応する画像表示装置2からの要求であるとして、ドキュメントの内容と書き込みの内容を送信する処理S15を実行する。また復号に成功しなかった場合は、符号画像表示装置1は、当該要求を無視することとする。   In this case, when the code image display device 1 receives the encrypted request, the code image display device 1 tries to decode the request. If the decoding is successful here, it is determined that the request is from the corresponding image display device 2, and processing S15 for transmitting the contents of the document and the contents of writing is executed. If the decoding is not successful, the code image display device 1 ignores the request.

この例によると、各ユーザが各自の符号画像表示装置1と、対応する画像表示装置2との双方を持参して会議に参加することで、各自が自己の書き込みの内容を見られることなく作業できるようになる。他人の画像表示装置2には、自己の所持している符号画像表示装置1において暗号化された情報を復号するための復号鍵が保持されていないためである。   According to this example, each user brings both his / her code image display device 1 and the corresponding image display device 2 to the conference, so that each user can work without seeing the contents of his / her own writing. become able to. This is because the image display device 2 of another person does not hold a decryption key for decrypting information encrypted in the code image display device 1 owned by the other person.

なお、この例では、画像表示装置2が復号のための鍵や、暗号鍵を保持する必要があるが、これらの鍵の情報は、予め符号画像表示装置1側で生成して、画像表示装置2に伝達することとしてもよい。具体的には、符号画像表示装置1はユーザの指示により自己が暗号化する際の暗号鍵E1とそれに対応する復号鍵D1、並びに、画像表示装置2が暗号化に用いる暗号鍵E2とそれに対応する復号鍵D2とを発行する。そして復号鍵D1と暗号鍵E2とを表す符号画像を生成して表示する。ユーザは、画像表示装置2において当該表示された符号画像を撮像させる。これにより画像表示装置2が、復号鍵D1と暗号鍵E2とを受け入れることができるようになり、符号画像表示装置1側では、それぞれに対応する暗号鍵E1と復号鍵D2とを保持している状態となる。   In this example, the image display device 2 needs to hold a key for decryption and an encryption key. Information on these keys is generated in advance on the code image display device 1 side, and the image display device 2 may be transmitted. Specifically, the code image display device 1 uses the encryption key E1 and the corresponding decryption key D1 when it is encrypted by the user's instruction, and the encryption key E2 used for encryption by the image display device 2 and the corresponding key. The decryption key D2 to be issued is issued. A code image representing the decryption key D1 and the encryption key E2 is generated and displayed. The user causes the image display device 2 to capture the displayed code image. As a result, the image display device 2 can accept the decryption key D1 and the encryption key E2, and the code image display device 1 side holds the encryption key E1 and the decryption key D2 corresponding to each. It becomes a state.

さらにここまでの説明では、符号画像表示装置1の符号画像生成部42が生成する符号画像は、QRコードやバーコード等、人間が見ても符号画像とわかるものとしていたが、本実施の形態の符号画像はこれに限られず、コンピュータが符号として可読な画像であればいかなるものであってもよい。例えば、人間には意味のある画像に埋め込まれたもの、あるいは意味のある画像そのものが符号画像として用いられてもよい。このような符号画像には、例えば米国ゼロックス社のデータグリフ等、広く知られたものがあるので、ここでの詳しい説明は省略する。   Further, in the description so far, the code image generated by the code image generation unit 42 of the code image display device 1 is assumed to be a code image even when viewed by humans, such as a QR code or a bar code. The code image is not limited to this, and may be any image as long as the computer can read the code. For example, an image embedded in an image that is meaningful to humans or an image that is meaningful may be used as a code image. Since such code images are widely known, such as data glyphs of Xerox Corporation, for example, detailed description thereof is omitted here.

本実施の形態によると、時間変化するドキュメントや書き込みにも対応できるため、比較的簡便な処理で、利用範囲の広いAR表示を実現できる。   According to the present embodiment, it is possible to cope with time-varying documents and writing, and thus AR display with a wide usage range can be realized with relatively simple processing.

1 符号画像表示装置、2 画像表示装置、11,31 制御部、12,32 記憶部、13 操作部、14,33 表示部、15,35 通信部、20 フレーム部、21 リム、22 ブリッジ、23 鼻当て、24 ヒンジ、25 テンプル、26 スクリーン、30 回路部、34 撮像部、34a 雲台、34b カメラ、41 ドキュメント選択部、42 符号画像生成部、43 符号画像表示部、44 操作受入部、45 ドキュメント更新部、46 更新制御部、47 ドキュメント送信部、51 符号画像取得部、52 デコード部、53 ドキュメント取得部、54 合成表示部。   DESCRIPTION OF SYMBOLS 1 Code image display apparatus, 2 Image display apparatus, 11,31 Control part, 12,32 Storage part, 13 Operation part, 14,33 Display part, 15,35 Communication part, 20 Frame part, 21 Rim, 22 Bridge, 23 Nose pad, 24 hinge, 25 temple, 26 screen, 30 circuit unit, 34 imaging unit, 34a pan head, 34b camera, 41 document selection unit, 42 code image generation unit, 43 code image display unit, 44 operation receiving unit, 45 Document update unit, 46 Update control unit, 47 Document transmission unit, 51 Code image acquisition unit, 52 Decode unit, 53 Document acquisition unit, 54 Composite display unit

Claims (5)

符号画像表示装置と画像表示装置とを含み、
前記符号画像表示装置は、
ドキュメントに関連付けられた符号画像を表示出力する表示手段と、
ユーザの操作を受け入れる受入手段と、
前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、
前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、を有し、
前記画像表示装置は、
前記符号画像表示装置が表示する符号画像を撮像する手段と、
前記撮像された符号画像に関連付けられたドキュメントを取得する手段と、
取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、
を有する符号画像処理システム。
A code image display device and an image display device,
The code image display device includes:
Display means for displaying and outputting a code image associated with the document;
An acceptance means for accepting the user's operation;
Updating means for updating a document related to the displayed code image in accordance with the accepted operation;
Control means for generating a code image related to the updated document and displaying the code image on the display means;
The image display device includes:
Means for capturing a code image displayed by the code image display device;
Means for obtaining a document associated with the captured code image;
A synthesized display unit that synthesizes and displays the acquired document in a captured range of a code image associated with the document;
A code image processing system.
ドキュメントに関連付けられた符号画像を表示出力する表示手段と、
ユーザの操作を受け入れる受入手段と、
前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、
前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、
を有する符号画像表示装置。
Display means for displaying and outputting a code image associated with the document;
An acceptance means for accepting the user's operation;
Updating means for updating a document related to the displayed code image in accordance with the accepted operation;
Control means for generating a code image related to the updated document and displaying the code image on the display means;
A code image display device comprising:
ドキュメントに関連付けられた符号画像を表示出力する符号画像表示装置を撮像する手段と、
前記撮像された、符号画像表示装置が表示する符号画像に関連付けられたドキュメントを取得する手段と、
取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、
を有する画像表示装置。
Means for imaging a code image display device that displays and outputs a code image associated with a document;
Means for obtaining a document associated with the imaged code image displayed by the code image display device;
A synthesized display unit that synthesizes and displays the acquired document in a captured range of a code image associated with the document;
An image display apparatus.
コンピュータを、
ドキュメントに関連付けられた符号画像を表示出力する表示手段と、
ユーザの操作を受け入れる受入手段と、
前記受け入れた操作に応じて、表示している符号画像に関連するドキュメントを更新する更新手段と、
前記更新したドキュメントに関連する符号画像を生成し、前記表示手段に表示させる制御手段と、
として機能させるプログラム。
Computer
Display means for displaying and outputting a code image associated with the document;
An acceptance means for accepting the user's operation;
Updating means for updating a document related to the displayed code image in accordance with the accepted operation;
Control means for generating a code image related to the updated document and displaying the code image on the display means;
Program to function as.
コンピュータを、
ドキュメントに関連付けられた符号画像を表示出力する符号画像表示装置を撮像する手段と、
前記撮像された、符号画像表示装置が表示する符号画像に関連付けられたドキュメントを取得する手段と、
取得したドキュメントを、当該ドキュメントに関連付けられた符号画像の撮像されている範囲に合成して表示する合成表示手段と、
として機能させるプログラム。
Computer
Means for imaging a code image display device that displays and outputs a code image associated with a document;
Means for obtaining a document associated with the imaged code image displayed by the code image display device;
A synthesized display unit that synthesizes and displays the acquired document in a captured range of a code image associated with the document;
Program to function as.
JP2012261553A 2012-11-29 2012-11-29 Code image processing system, code image display apparatus, image display apparatus, and program Pending JP2014106490A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012261553A JP2014106490A (en) 2012-11-29 2012-11-29 Code image processing system, code image display apparatus, image display apparatus, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012261553A JP2014106490A (en) 2012-11-29 2012-11-29 Code image processing system, code image display apparatus, image display apparatus, and program

Publications (1)

Publication Number Publication Date
JP2014106490A true JP2014106490A (en) 2014-06-09

Family

ID=51027997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012261553A Pending JP2014106490A (en) 2012-11-29 2012-11-29 Code image processing system, code image display apparatus, image display apparatus, and program

Country Status (1)

Country Link
JP (1) JP2014106490A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016033611A (en) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 Information providing system, display device, and display device control method
JP2016057927A (en) * 2014-09-10 2016-04-21 コニカミノルタ株式会社 Information display system, information display method, information display device, document display device, and program
JP2016086348A (en) * 2014-10-28 2016-05-19 コニカミノルタ株式会社 Image processing device, terminal device, processing method, and control program
JP2017068086A (en) * 2015-09-30 2017-04-06 東芝情報システム株式会社 Image information display system and image information display method

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000082107A (en) * 1998-06-30 2000-03-21 Sony Corp Image processing device, method therefor and medium
JP2000098300A (en) * 1998-09-28 2000-04-07 Sony Corp Device and method for stereoscopically synthesizing virtual image, game device and recording medium
JP2004127272A (en) * 2002-09-10 2004-04-22 Sony Corp Information processing device and method, storage medium, and program
JP2005027216A (en) * 2003-07-02 2005-01-27 Nippon Telegr & Teleph Corp <Ntt> ENVIRONMENTAL CHANGE TRANSMISSION DEVICE AND ENVIRONMENTAL CHANGE TRANSMISSION METHOD
JP2005250950A (en) * 2004-03-05 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> Marker-presenting portable terminal, augmented reality system, and operation method thereof
US20060038833A1 (en) * 2004-08-19 2006-02-23 Mallinson Dominic S Portable augmented reality device and method
JP2009259254A (en) * 2009-05-22 2009-11-05 Sharp Corp Content expression control device, content expression control system, reference object for content expression control and content expression control program
JP2010219879A (en) * 2009-03-17 2010-09-30 Ricoh Co Ltd Help information providing system, server apparatus, target device, mobile communication terminal, help information providing method, program, and recording medium
JP2011039971A (en) * 2009-08-18 2011-02-24 Nec Corp Information terminal, program, and method of controlling information terminal
JP2011076540A (en) * 2009-10-01 2011-04-14 King Jim Co Ltd Document editing device and data transfer method using the same
JP2011204047A (en) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd Augmented reality system, marker terminal photographing terminal, augmented reality method, and information recording medium
WO2012122008A1 (en) * 2011-03-04 2012-09-13 Qualcomm Incorporated Dynamic template tracking
JP2012178064A (en) * 2011-02-25 2012-09-13 Nintendo Co Ltd Image processing system, image processing method, image processing device and image processing program
JP2012208558A (en) * 2011-03-29 2012-10-25 Yamaha Corp Display control apparatus, terminal device, communication system, and program

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000082107A (en) * 1998-06-30 2000-03-21 Sony Corp Image processing device, method therefor and medium
JP2000098300A (en) * 1998-09-28 2000-04-07 Sony Corp Device and method for stereoscopically synthesizing virtual image, game device and recording medium
JP2004127272A (en) * 2002-09-10 2004-04-22 Sony Corp Information processing device and method, storage medium, and program
JP2005027216A (en) * 2003-07-02 2005-01-27 Nippon Telegr & Teleph Corp <Ntt> ENVIRONMENTAL CHANGE TRANSMISSION DEVICE AND ENVIRONMENTAL CHANGE TRANSMISSION METHOD
JP2005250950A (en) * 2004-03-05 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> Marker-presenting portable terminal, augmented reality system, and operation method thereof
US20060038833A1 (en) * 2004-08-19 2006-02-23 Mallinson Dominic S Portable augmented reality device and method
JP2010219879A (en) * 2009-03-17 2010-09-30 Ricoh Co Ltd Help information providing system, server apparatus, target device, mobile communication terminal, help information providing method, program, and recording medium
JP2009259254A (en) * 2009-05-22 2009-11-05 Sharp Corp Content expression control device, content expression control system, reference object for content expression control and content expression control program
JP2011039971A (en) * 2009-08-18 2011-02-24 Nec Corp Information terminal, program, and method of controlling information terminal
JP2011076540A (en) * 2009-10-01 2011-04-14 King Jim Co Ltd Document editing device and data transfer method using the same
JP2011204047A (en) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd Augmented reality system, marker terminal photographing terminal, augmented reality method, and information recording medium
JP2012178064A (en) * 2011-02-25 2012-09-13 Nintendo Co Ltd Image processing system, image processing method, image processing device and image processing program
WO2012122008A1 (en) * 2011-03-04 2012-09-13 Qualcomm Incorporated Dynamic template tracking
JP2012208558A (en) * 2011-03-29 2012-10-25 Yamaha Corp Display control apparatus, terminal device, communication system, and program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016033611A (en) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 Information providing system, display device, and display device control method
JP2016057927A (en) * 2014-09-10 2016-04-21 コニカミノルタ株式会社 Information display system, information display method, information display device, document display device, and program
JP2016086348A (en) * 2014-10-28 2016-05-19 コニカミノルタ株式会社 Image processing device, terminal device, processing method, and control program
JP2017068086A (en) * 2015-09-30 2017-04-06 東芝情報システム株式会社 Image information display system and image information display method

Similar Documents

Publication Publication Date Title
US10341113B2 (en) Password management
US8867780B2 (en) Obfuscating the display of information and removing the obfuscation using a filter
JP5696908B2 (en) Operation display system
CN104487981B (en) Portable multimedia display
US20190392422A1 (en) Mobile terminal and control method therefor
JP2014219448A (en) Display system, display method, display terminal and display program
JP6503771B2 (en) Projector and control method
US11057644B2 (en) Distribution system, client terminal, and method of controlling display
JP2014106490A (en) Code image processing system, code image display apparatus, image display apparatus, and program
US20250159354A1 (en) Information processing system, communication system, and image sharing method
US20250159353A1 (en) Information processing system, communication system, and image transmission method
JP6255731B2 (en) Display system, display method, and display terminal
JP6291989B2 (en) Content display device and control program for content display device
JP6303723B2 (en) Display control device and display control device control program
WO2018012444A1 (en) Service providing system, service communicating system, service providing method and recording medium
JP2018092228A (en) Information processing terminal, control method of information processing terminal and program
JP2019057059A (en) Information processing apparatus, information processing system, and program
WO2015093221A1 (en) Electronic device and program
EP3438837A1 (en) Service provision system, service delivery system, service provision method, and program
EP3438838A1 (en) Service providing system, serving receiving system, service providing method and program
EP3438860B1 (en) Service provision system, service exchange system, service provision method, and program
KR20170107489A (en) Method and system for providing a trusted environment for analog-digital signature performance
US20230326001A1 (en) Display terminal, display method, and recording medium
US12229971B2 (en) Display terminal, communication system, and non-transitory recording medium
EP4250744A1 (en) Display terminal, communication system, method for displaying, method for communicating, and carrier means

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170330

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170905