JP7338662B2 - Mobile object, control method and program - Google Patents
Mobile object, control method and program Download PDFInfo
- Publication number
- JP7338662B2 JP7338662B2 JP2021120290A JP2021120290A JP7338662B2 JP 7338662 B2 JP7338662 B2 JP 7338662B2 JP 2021120290 A JP2021120290 A JP 2021120290A JP 2021120290 A JP2021120290 A JP 2021120290A JP 7338662 B2 JP7338662 B2 JP 7338662B2
- Authority
- JP
- Japan
- Prior art keywords
- robot
- target
- image
- control unit
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 65
- 238000003384 imaging method Methods 0.000 claims description 23
- 230000005540 biological transmission Effects 0.000 claims description 4
- 230000006870 function Effects 0.000 claims description 4
- 238000004891 communication Methods 0.000 description 110
- 235000013616 tea Nutrition 0.000 description 79
- 241001122767 Theaceae Species 0.000 description 77
- 230000008569 process Effects 0.000 description 46
- 238000010586 diagram Methods 0.000 description 44
- 238000012545 processing Methods 0.000 description 30
- 230000004044 response Effects 0.000 description 22
- 230000009471 action Effects 0.000 description 17
- 235000011389 fruit/vegetable juice Nutrition 0.000 description 13
- 230000008859 change Effects 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 9
- 235000015197 apple juice Nutrition 0.000 description 8
- 230000006399 behavior Effects 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 235000015205 orange juice Nutrition 0.000 description 4
- 238000003825 pressing Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 239000010813 municipal solid waste Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 239000004836 Glue Stick Substances 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 235000014171 carbonated beverage Nutrition 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 235000009508 confectionery Nutrition 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Manipulator (AREA)
Description
本開示は、移動体、制御方法、およびプログラムに関し、例えば、ユーザにより指定された範囲に基づいて自律型ロボットを動作させるようにした移動体、制御方法、およびプログラムに関する。 TECHNICAL FIELD The present disclosure relates to a mobile body, a control method, and a program, for example, a mobile body, a control method, and a program that operate an autonomous robot based on a range designated by a user.
例えば、周囲の状況や、ユーザからの大まかな指示に応じて、自律的に行動（動作）する自律型ロボットが一般的なものになりつつある。 For example, autonomous robots that autonomously act (operate) in response to surrounding conditions and rough instructions from users are becoming common.
この自律型ロボットでは、例えば、ユーザが、商品名などを指定せずに、ペットボトル入りのお茶を持ってくるように指示を与えた場合、その指示に応じて、ペットボトル入りのお茶を探して持ってくる動作を、自律的に実行する。 For example, if the user gives an instruction to bring tea in a plastic bottle without specifying a product name, this autonomous robot searches for tea in a plastic bottle according to the instruction. It autonomously executes the action brought by the robot.
すなわち、例えば、自律型ロボットは、複数の、ペットボトル入りのお茶を見つけた場合、自らの判断で、ユーザが所望するペットボトル入りのお茶を選択し、ユーザのところまで持ってくる。 That is, for example, when the autonomous robot finds a plurality of PET bottled teas, it selects the PET bottled tea desired by the user and brings it to the user.
なお、ユーザが、物品とその物品の移動先を指定したことに応じて、ロボットに物品を移動先に移動させる技術が存在する（例えば、特許文献１参照）。 Note that there is a technology that causes a robot to move an article to a destination in response to a user's designation of an article and the destination of the article (see, for example, Patent Document 1).
ところで、例えば、自律型ロボットは、自律的に行動するため、ユーザが望む探索範囲を通り過ぎて、他の範囲を探索することが生じ得る。 By the way, for example, since an autonomous robot acts autonomously, it may happen that it passes through the search range desired by the user and searches another range.
そこで、例えば、ユーザが探索範囲を指定し、指定した探索範囲を、自律型ロボットに探索させるようにすることが望ましい。 Therefore, for example, it is desirable that the user specifies a search range and causes the autonomous robot to search the specified search range.
本開示は、このような状況に鑑みてなされたものであり、簡易な操作により、自律型ロボットによる範囲を指定できるようにするものである。 The present disclosure has been made in view of such a situation, and enables designation of a range by an autonomous robot by a simple operation.
本開示の一側面の移動体は、移動体の動きを制御可能に駆動する駆動部と、撮影画像を撮影し、画像データを生成する撮影部と、前記移動体の現在位置情報を、GPSに基づく対象位置に生成する位置情報生成部と、前記移動体の前記現在位置情報に基づいて前記移動体の計画された移動経路に沿った現在位置を示す地図と、前記画像データに基づいて前記撮影画像の中の２以上のターゲットとして認識された物体を示す認識状態を表す表示とを表示する指示装置に、前記現在位置情報と前記画像データとを送信する送信部と、前記撮影画像の中で前記ターゲットとして認識された物体を示す前記認識状態を表す表示に対してのユーザの選択操作を示すフィードバック情報を、前記指示装置から受信する受信部と、前記フィードバック情報に基づいて、前記移動体の動作を制御する制御部とを備える。 A moving body according to one aspect of the present disclosure includes a driving unit that drives the movement of the moving body so as to be controllable; a position information generating unit for generating a target position based on the map, a map showing the current position along the planned movement route of the moving body based on the current position information of the moving body, and the photographing based on the image data a transmission unit for transmitting the current position information and the image data to a pointing device that displays a recognition state display indicating objects recognized as two or more targets in the image; a receiving unit for receiving feedback information indicating a user's selection operation on the display representing the recognition state indicating the object recognized as the target from the pointing device; and a control unit for controlling the operation.
本開示においては、移動体の動きが制御可能に駆動され、撮影画像が撮影され、画像データが生成され、前記移動体の現在位置情報が、GPSに基づく対象位置に生成され、前記移動体の前記現在位置情報に基づいて前記移動体の計画された移動経路に沿った現在位置を示す地図と、前記画像データに基づいて前記撮影画像の中の２以上のターゲットとして認識された物体を示す認識状態を表す表示とを表示する指示装置に、前記現在位置情報と前記画像データとが送信され、前記撮影画像の中で前記ターゲットとして認識された物体を示す前記認識状態を表す表示に対してのユーザの選択操作を示すフィードバック情報が、前記指示装置から受信され、前記フィードバック情報に基づいて、前記移動体の動作が制御される。 In the present disclosure, the movement of a mobile body is controllably driven, a photographed image is captured, image data is generated, current position information of the mobile body is generated at a target position based on GPS, and A map indicating the current position along the planned movement route of the mobile object based on the current position information, and recognition indicating two or more objects recognized as targets in the captured image based on the image data. The current position information and the image data are transmitted to an instruction device that displays a display representing the state , and the display representing the recognition state showing the object recognized as the target in the captured image is displayed. Feedback information indicating a user's selection operation is received from the pointing device, and the operation of the moving body is controlled based on the feedback information.
本開示によれば、簡易な操作により、自律型ロボットによる範囲を指定することが可能となる。 According to the present disclosure, it is possible to specify the range of the autonomous robot by a simple operation.
以下、本開示における実施の形態（以下、本実施の形態という）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（ロボットの行動を予測するための情報を、指示装置の表示画面に表示する場合の一例）
２．第１の実施の形態の変形例
３．第２の実施の形態（指示装置を用いて、ユーザによるフィードバックをロボットに与える場合の一例）
４．第２の実施の形態の変形例
５．第３の実施の形態（指示装置を用いて、ロボットの探索範囲を指定する場合の一例）
An embodiment of the present disclosure (hereinafter referred to as the present embodiment) will be described below. The description will be given in the following order.
1. First Embodiment (Example of Displaying Information for Predicting Action of Robot on Display Screen of Instruction Device)
2. Modified example of the first embodiment 3. Second embodiment (an example of a case where a user gives feedback to a robot using a pointing device)
4. 5. Modified example of the second embodiment. Third embodiment (an example of designating a robot search range using a pointing device)
＜１．第１の実施の形態＞
[ロボット制御システムの構成例]
図１は、第１の実施の形態であるロボット制御システム１の構成例を示している。
<1. First Embodiment>
[Configuration example of robot control system]
FIG. 1 shows a configuration example of a robot control system 1 according to the first embodiment.
このロボット制御システム１は、表示画面２１aを有する指示装置２１、及び自律型のロボット２２から構成される。
This robot control system 1 comprises a
指示装置２１は、ユーザの操作に応じて、ロボット２２に所望の行動（例えば、所定の物体をユーザのところまで持ってくるという行動）をとらせるための指示情報を生成し、無線通信等により、ロボット２２に送信する。
The
すなわち、例えば、指示装置２１は、図２に示されるように、ユーザにより選択可能な複数の項目「お茶」、「炭酸飲料」、「お菓子」、…を、表示画面２１aに表示させる。
That is, for example, as shown in FIG. 2, the
ユーザは、図２に示されるような表示画面２１aを参照して、複数の項目の中から、ロボット２２に持ってきて欲しい物体の項目を選択（指定）する。なお、表示画面２１aには、項目として、例えば、ロボット２２に持ってきて欲しい物体のカテゴリが表示される。
The user refers to the
これに対応して、指示装置２１は、ユーザに選択された項目としてのカテゴリ（例えば、「お茶」等）に属する物体をターゲットとして、ユーザのところまで持ってこさせるための指示情報を生成し、無線通信等により、ロボット２２に送信する。なお、指示情報には、ユーザに選択された項目としてのカテゴリを表すカテゴリ情報が含まれる。
In response to this, the
ロボット２２は、指示装置２１からの指示情報に基づいて、ユーザに選択された項目としてのカテゴリに属する物体をターゲットとして探す動作を、自律的に実行する。
Based on the instruction information from the
なお、ロボット２２に指示を与える方法は、指示装置２１を用いた上述の方法に限定されず、その他、例えば、ロボット２２が、音声認識によりユーザの音声を認識可能である場合には、ユーザが、ターゲット等を音声により指示することができる。
The method of giving instructions to the
この場合、ロボット２２は、ユーザからの指示を、音声として認識し、その認識結果に基づいて、ユーザに指示されたターゲットを探す動作を、自律的に実行することとなる。また、例えば、ロボット２２が、ユーザのジェスチャやポスチャ等を認識可能である場合には、ユーザが、ジェスチャやポスチャ等により、ターゲット等を指示することができる。
In this case, the
ロボット２２は、周囲の状況や、ユーザからの大まかな指示（例えば、「お茶」持ってきて欲しいという大まかな指示）などに基づいて、自律的に各種の行動を行う２足歩行型のロボットである。
The
ロボット２２は、外部からの刺激を感知するセンサとして、音を感知する「耳」に相当するマイクロホン、及び光を感知する「目」に相当するカメラ等が、それぞれ所定の位置に設けられている。なお、ロボット２２の詳細は、図１９を参照して後述する。
The
次に、図３は、ロボット２２が行う処理の概要を示している。
Next, FIG. 3 shows an overview of the processing performed by the
図３には、ロボット２２の周囲を撮像して得られる周囲画像３１、ロボット２２によりターゲットであると認識されている物体を表す物体画像３２、ロボット２２によりターゲットではないと認識されている物体を表す物体画像３３、ロボット２２によりターゲットであるかもしれないと認識されている物体を表す物体画像３４、ロボット２２の撮像により得られた撮像画像の一部分を表す部分画像３５が示されている。
FIG. 3 shows a surrounding
なお、ロボット２２は、例えば、ユーザが居住する部屋３６内を自律的に移動して、ターゲットを探索する。
Note that the
ロボット２２は、ターゲットの探索中に、内蔵するカメラの撮像により得られた周囲画像３１や、部分画像３５を、適宜、指示装置２１に送信する。なお、周囲画像３１や部分画像３５は、ユーザが、指示装置２１を用いて、ロボット２２の探索範囲を指定する場合に用いられる。このことは、主に、図４３乃至図４７を参照して説明する。
The
また、ロボット２２は、部屋３６内を移動して、内蔵するカメラにより、物体を撮像して得られる撮像画像に基づいて、その物体が、ターゲットである度合いを表すスコア、つまり、ロボット２２の処理対象とされる度合いを表すスコアを計算する。なお、スコアの計算には、物体がターゲットであるか否かを識別するための識別器（を表す関数）が用いられる。
In addition, the
そして、ロボット２２は、物体のスコアに基づいて、物体の認識状態を決定する。なお、以下では、ロボット２２は、内蔵のカメラにより得られる画像を、スコアの計算に用いたり、指示装置２１に送信するものとして説明する。
The
しかしながら、スコアの計算に用いる画像や、指示装置２１に送信するための画像は、ロボット２２に内蔵のカメラにより得られる画像に限定されず、例えば、部屋３６の天井等に設置されたカメラにより得られる画像を採用することができる。この場合、部屋３６の天井等に設置されたカメラは、撮像により得られる画像を、ロボット２２に無線通信により送信するものとなる。
However, the images used for score calculation and the images to be transmitted to the
次に、図４は、認識状態の一例を示している。 Next, FIG. 4 shows an example of recognition states.
図４Aは、ロボット２２の認識状態が、「ターゲットである」及び「ターゲットではない」の２種類である場合を示している。
FIG. 4A shows a case where the recognition state of the
図４Bは、ロボット２２の認識状態が、「ターゲットである」、「まだ分からない」、「ターゲットではない」の３種類である場合を示している。 FIG. 4B shows three types of recognition states of the robot 22: "target", "not sure yet", and "not target".
図４Cは、ロボット２２の認識状態が、「ターゲットである」、「ターゲットかもしれない」、「まだ分からない」、及び「ターゲットではない」の４種類である場合を示している。 FIG. 4C shows four types of recognition states of the robot 22: "target", "maybe target", "not sure yet", and "not target".
なお、第１の実施の形態では、ロボット２２は、図４Cに示されるように、４種類の認識状態のいずれかとして認識するものとする。
In the first embodiment, the
ロボット２２は、例えば、物体のスコアが閾値th1以上である場合、その物体を、「ターゲットである」ものとして認識し、物体のスコアが閾値th1未満であり、閾値th2（<th1）以上である場合、「ターゲットかもしれない」と認識する。
For example, when the score of an object is equal to or greater than the threshold th1, the
また、ロボット２２は、例えば、物体のスコアが閾値th2未満であり、閾値th3（<th2）以上である場合、その物体を、ターゲットであるか否か「まだ分からない」ものとして認識し、物体のスコアが閾値th3未満である場合、「ターゲットではない」ものとして認識する。
Further, for example, when the score of an object is less than the threshold th2 and equal to or greater than the threshold th3 (<th2), the
ここで、閾値th1乃至th3は、予め決められてロボット２２に保持されているものとする。なお、ロボット２２は、物体の認識情報を決定するために、スコアと閾値とを比較するようにしているが、認識情報の決定方法は、これに限定されない。
Here, it is assumed that the thresholds th1 to th3 are determined in advance and held in the
図３に戻り、ロボット２２は、例えば、物体「ABC お茶」のスコアが閾値th1以上であると判定した場合、指示装置２１の表示画面２１aに、物体「ABC お茶」が、「ターゲットである」ものと認識している旨を表示させる。
Returning to FIG. 3, for example, when the
すなわち、例えば、指示装置２１の表示画面２１aには、図３に示されるように、物体「ABC お茶」を表す物体画像３２が、例えば、太線の矩形で囲まれた状態で表示される。この太線の矩形は、ロボット２２が、物体「ABC お茶」を「ターゲットである」と認識していることを表すものである。
That is, for example, on the
また、例えば、ロボット２２は、例えば、図３に示されるように、物体「犬型のロボット」のスコアが閾値th3未満であると判定した場合、指示装置２１の表示画面２１aに、物体「犬型のロボット」が、「ターゲットではない」ものと認識している旨を表示させる。
Further, for example, when the
すなわち、例えば、指示装置２１の表示画面２１aには、図３に示されるように、物体「犬型のロボット」を表す物体画像３３が、例えば、斜線が付加された状態で表示される。この斜線は、ロボット２２が、物体「犬型のロボット」を「ターゲットでなない」ものと認識していることを表すものである。
That is, for example, on the
さらに、例えば、ロボット２２は、例えば、図３に示されるように、物体「オレンジジュース」のスコアが閾値th1未満であり、閾値th2以上であると判定した場合、指示装置２１の表示画面２１aに、物体「オレンジジュース」が、「ターゲットかもしれない」と認識している旨を表示させる。
Furthermore, for example, when the
すなわち、例えば、指示装置２１の表示画面２１aには、図３に示されるように、オレンジジュースと記載されたペットボトルを表す物体画像３４が、例えば、細線の矩形で囲まれた状態で表示される。この細線の矩形は、ロボット２２が、物体「オレンジジュース」を、「ターゲットかもしれない」と認識していることを表すものである。
That is, for example, on the
また、例えば、ロボット２２は、所定の物体のスコアが閾値th2未満であり、閾値th3以上であると判定した場合、指示装置２１の表示画面２１aに、所定の物体が、ターゲットであるか否か「まだ分からない」ものとして認識している旨を表示させる。
Further, for example, when the
すなわち、例えば、指示装置２１の表示画面２１aには、所定の物体を表す物体画像が、例えば、そのままの状態（矩形で囲まれたり、斜線が付加されない状態）で表示される。そのままの状態で物体画像が表示される場合、ロボット２２が、所定の物体を、ターゲットであるか否か「まだ分からない」ものとして認識していることを表すものである。
That is, for example, an object image representing a predetermined object is displayed on the
このように、指示装置２１の表示画面２１aには、ロボット２２が認識している情報を表示させるようにしているので、ユーザは、ロボット２２の行動を容易に予測できるようになる。
Since information recognized by the
なお、表示方法は、これに限定されず、ユーザが、ロボット２２の行動を、直感的に理解できるような表示方法であれば、どのような表示方法であってもよい。
The display method is not limited to this, and any display method may be used as long as the user can intuitively understand the behavior of the
また、ユーザは、表示画面２１aを参照することにより、ターゲットとして好ましくない物体がターゲットとして認識されていると判断した場合、その物体はターゲットでない旨のフィードバック操作を、指示装置２１に対して行うことができる。
Further, when the user determines that an object unfavorable as a target is recognized as a target by referring to the
この場合、ロボット２２は、ユーザのフィードバック操作に応じて、物体のスコアを再計算し、再計算して得られたスコアに基づいて、自律的に行動する。なお、ユーザのフィードバック操作については、主に、図３１乃至図４２を参照して後述する。
In this case, the
[指示装置２１の構成例]
次に、図５は、指示装置２１の構成例を示している。
[Configuration example of the pointing device 21]
Next, FIG. 5 shows a configuration example of the
この指示装置２１は、操作部４１、制御部４２、表示画面２１aを有する表示部４３、通信部４４、及び記憶部４５から構成される。
The
操作部４１は、操作キーや操作ボタン等により構成され、例えば、ユーザが、ロボット２２に指示を与える場合等に、ユーザにより操作される。操作部４１は、ユーザに操作されたことに対応して、ユーザの操作に対応する操作信号を制御部４２に供給する。
The operation unit 41 includes operation keys, operation buttons, and the like, and is operated by the user, for example, when the user gives an instruction to the
制御部４２は、通信部４４からのロボット認識情報に基づいて、物体画像を含むロボット認識画像を生成し、表示部４３に供給して表示画面２１aに表示させる。なお、ロボット認識情報には、表示画面２１aの表示に必要な情報として、例えば、物体のスコア等が含まれる。また、表示画面２１aの表示例は、図６乃至図１７を参照して後述する。
Based on the robot recognition information from the
また、制御部４２は、操作部４１からの操作信号に応じて、指示情報や、フィードバック情報、指定範囲情報を生成し、通信部４４に供給する。
In addition, the
ここで、フィードバック情報とは、指示装置２１において、ユーザのフィードバックの内容を表す情報をいう。
Here, the feedback information means information representing the content of the user's feedback in the
ユーザは、操作部４１を用いて、例えば、ロボット２２が「ターゲットである」と認識している物体が、ターゲットではない旨のフィードバック操作を行うことができる。このことは、図３１乃至図４２を参照して詳述する。
The user can, for example, use the operation unit 41 to perform a feedback operation indicating that an object that the
また、指定範囲情報とは、例えば、指示装置２１の表示画面２１aに表示された周囲画像３１や部分画像３５上の全領域のうち、ユーザの領域指定操作により指定された領域の位置を表す。
The specified range information represents, for example, the position of the area specified by the user's area specifying operation, out of all the areas on the surrounding
ユーザは、操作部４１を用いて、例えば、周囲画像３１や部分画像３５上の全領域のうち、ロボット２２がターゲットを探索する探索範囲を指定する領域指定操作を行うことができる。このことは、図４３乃至図４７を参照して詳述する。
The user can use the operation unit 41 to perform an area designation operation for designating a search range in which the
制御部４２は、通信部４４からのロボット認識情報を、記憶部４５に供給して記憶させる。
The
表示部４３は、制御部４２からの制御にしたがって、表示画面２１aに画像を表示する。
The
なお、指示装置２１では、表示部４３を含めるように構成しているが、その他、例えば、表示部４３を指示装置２１に含めないように構成することができる。この場合、制御部４２と、外部に設けられた表示部４３とは、ケーブル等で接続されるものとなる。
Although the
通信部４４は、ロボット２２から送信されるロボット認識情報を受信し、制御部４２に供給する。また、通信部４４は、制御部４２からの指示情報や、フィードバック情報、指定範囲情報を、無線通信等を用いてロボット２２に送信する。
The
記憶部４５は、例えば、制御部４２により実行される制御用プログラム等を予め記憶している。また、例えば、記憶部４５は、制御部４２からのロボット認識情報を記憶する。
The
[表示画面２１aの表示例]
次に、図６乃至図１４は、指示装置２１が、ロボット２２からのロボット認識情報に基づいて、ロボット認識画像を表示した場合の表示画面２１aの一例を示している。
[Display example of
Next, FIGS. 6 to 14 show an example of the
ロボット２２は、指示装置２１からの指示情報に基づいて、物体「お茶」を持ってくるように指示された場合、物体「お茶」を探しに出かける。
When the
ロボット２２は、室内を探索しているが、まだ物体を検知していないため、指示装置２１には、ロボット２２からロボット認識情報が何も送信されない。
Although the
したがって、制御部４２は、図６に示されるように、例えば、何も写っていないロボット認識画像を、表示画面２１aに表示させる。
Therefore, the
ロボット２２は、部屋３６の室内を撮像して得られる撮像画像から、物体「鳥の置物」を検知した場合、その撮像画像から、物体「鳥の置物」を表す物体画像５１を抽出し、ロボット認識情報に含めて、通信部４４に送信する。
When the
これに対して、通信部４４は、ロボット２２からのロボット認識情報を、制御部４２に供給する。制御部４２は、通信部４４からのロボット認識情報に含まれる物体画像５１を、表示部４３に供給して表示画面２１aに表示させる。
In response, the
これにより、表示画面２１aには、図７に示されるように、物体画像５１が、図中左側に表示される。このため、ユーザは、ロボット２２が、鳥の置物を物体として検知したことを容易に予測することができる。
As a result, an
ロボット２２は、物体「鳥の置物」がターゲットであるか否かを識別するために、物体「鳥の置物」に近づくように行動する。そして、ロボット２２は、物体「鳥の置物」を近くで撮像して得られた撮像画像から、「鳥の置物」を表す物体画像５１を抽出し、ロボット認識情報に含めて、通信部４４に送信する。
The
これに対して、通信部４４は、ロボット２２からのロボット認識情報を、制御部４２に供給する。制御部４２は、通信部４４からのロボット認識情報に含まれる物体画像５１を、表示部４３に供給して表示画面２１aに表示させる。
In response, the
これにより、表示画面２１aには、図８に示されるように、図７の場合よりも大きな物体画像５１が、図中左側に表示される。なお、ロボット２２は、まだ物体「鳥の置物」のスコアを計算してないため、物体「鳥の置物」がターゲットであるか否か「まだ分からない」ものとして認識している。したがって、図８において、物体画像５１は、そのままの状態（矩形で囲まれたり、斜線が付加されない状態）で表示される。
As a result, as shown in FIG. 8, an
ロボット２２は、物体「鳥の置物」を近くで撮像して得られる撮像画像から、物体「鳥の置物」のスコアを計算する。そして、ロボット２２は、計算したスコアに基づいて、物体「鳥の置物」が「ターゲットではない」と認識した場合、「ターゲットではない」旨を表す認識状態（を表す情報）を含むロボット認識情報を、通信部４４に送信する。
The
これに対して、通信部４４は、ロボット２２からのロボット認識情報を、制御部４２に供給する。制御部４２は、通信部４４からのロボット認識情報に含まれる認識状態に基づいて、斜線が付加された物体画像５１を生成し、表示部４３に供給して表示画面２１aに表示させる。
In response, the
これにより、表示画面２１aには、図９に示されるように、斜線が付加された物体画像５１が表示される。
As a result, an
なお、物体画像５１に付加された斜線は、物体画像５１上の物体「鳥の置物」が、「ターゲットではない」ものとして、ロボット２２に認識されていることを表す。
The oblique lines added to the
このため、ユーザは、ロボット２２が、物体画像５１上の「鳥の置物」を「ターゲットではない」と認識していることを容易に予測することができる。
Therefore, the user can easily predict that the
ロボット２２は、室内を撮像して得られる撮像画像から、物体「十八茶」を検知した場合、その撮像画像から、物体「十八茶」を表す物体画像５２を抽出する。
When the
ロボット２２は、抽出した物体画像５２を含むロボット認識情報を、通信部４４に送信する。
The
これに対して、通信部４４は、ロボット２２からのロボット認識情報を、制御部４２に供給する。制御部４２は、通信部４４からのロボット認識情報に含まれる物体画像５２を、表示部４３に供給して表示画面２１aに表示させる。
In response, the
これにより、表示画面２１aには、図１０に示されるように、図中左側に、ロボット２２により検知された物体「十八茶」の物体画像５２が表示される。このため、ユーザは、ロボット２２が、物体「十八茶」を検知したことを、容易に予測することができる。
As a result, as shown in FIG. 10, the
また、ロボット２２は、物体「十八茶」の近くで撮像して得られる撮像画像から、物体「十八茶」のスコアを計算する。そして、ロボット２２は、計算したスコアに基づいて、物体「十八茶」が「ターゲットである」ものと認識した場合、物体「十八茶」が「ターゲットである」旨を表す認識状態を含むロボット認識情報を、通信部４４に送信する。
Further, the
これに対して、通信部４４は、ロボット２２からのロボット認識情報を、制御部４２に供給する。制御部４２は、通信部４４からのロボット認識情報に基づいて、矩形で囲まれるとともに、三角印で指し示された物体画像５２、及び斜線が付加された物体画像５１を生成し、表示部４３に供給して表示画面２１aに表示させる。
In response, the
これにより、表示画面２１aには、図１１に示されるように、太線の矩形で囲まれ、三角印（図１１に示される▲）で指し示された物体画像５２が図中左側に表示され、斜線の付加された物体画像５１が、物体画像５２よりも右側に表示される。
As a result, as shown in FIG. 11, the
なお、物体画像５２を囲む太線の矩形は、物体画像５２の物体「十八茶」が、「ターゲットである」ものとして、ロボット２２に認識されていることを表す。また、物体画像５２を指し示す三角印は、ロボット２２が、物体画像５２の物体「十八茶」を持って帰ろうと思っていることを表す。
The thick rectangle surrounding the
さらに、いまの場合、制御部４２は、物体のスコアが高い順序で、表示画面２１aの左側から右方向に、その物体を表す物体画像を表示するようにしている。
Furthermore, in this case, the
また、物体画像の表示位置は、物体のスコアに応じた位置とされている。したがって、例えば、第１の物体画像と、第２の物体画像との表示間隔は、第１の物体画像と第２の物体画像それぞれの物体のスコアの差を表すものとなる。 Also, the display position of the object image is determined according to the score of the object. Therefore, for example, the display interval between the first object image and the second object image represents the difference in object score between the first object image and the second object image.
このため、ユーザは、物体画像が表示される、表示画面２１a上の位置に応じて、物体画像が表す物体のスコアを直感的に把握することができる。
Therefore, the user can intuitively grasp the score of the object represented by the object image according to the position on the
図１１に示されるような表示画面２１aからは、ロボット２２が、物体「十八茶」を持ってくる動作を実行することを容易に予測することができる。
From the
また、ロボット２２は、自律的に移動し、内蔵するカメラの撮像により得られる撮像画像から、新たな物体を検知した場合、上述した場合と同様にして、ロボット認識情報を生成し、通信部４４に送信する。
In addition, when the
これに対して、制御部４２は、通信部４４からのロボット認識情報に基づいて、表示部４３に供給して表示画面２１aに表示させる。
On the other hand, based on the robot recognition information from the
このように、制御部４２は、ロボット２２から、通信部４４を介して送信されるロボット認識情報に基づいて、表示画面２１aの表示を更新することとなる。
In this manner, the
すなわち、例えば、表示画面２１aは、その後、ロボット２２の行動に応じて、図１２に示されるように、物体「ABC お茶」を表す物体画像５３が新たに表示されたものに更新される。また、表示画面２１aは、ロボット２２の行動に応じて、図１３に示されるように、物体「C炭酸ジュース」を表す物体画像５４、及び物体「USBメモリ」を表す物体画像５５が新たに表示されたものに更新される。さらに、例えば、表示画面２１aは、ロボット２２の行動に応じて、図１４に示されるように、スコアに応じて、各物体画像の位置が変更されたものに更新される。
That is, for example, the
なお、図１４の表示画面２１aでは、図１３に示した表示画面２１aで表示されている物体画像５１が、表示されないものとなっている。
Note that the
図１４においては、表示画面２１aの左側に表示されるほどに、物体のスコアが高いものとなっており、物体画像を表示する位置によって、物体のスコアを表すようにしている。
In FIG. 14, the score of an object increases as it is displayed on the left side of the
このため、物体画像５２乃至５５を、対応する各物体のスコアに応じた位置で表示させる場合、表示画面２１aや物体画像の大きさに起因して、物体画像５１を表示できない。
Therefore, when the
なお、図１４において、物体画像５１の物体「鳥の置物」のスコアは、物体画像５５の物体「USBメモリ」のスコアよりも十分に小さいものとする。
In FIG. 14 , the score of the object “bird figurine” in the
また、図１４において、物体画像５３の物体「ABC お茶」のスコアは、物体画像５２の物体「十八茶」のスコアよりも小さいものとなっている。
In addition, in FIG. 14, the score of the object “ABC tea” in the
しかしながら、三角印は、物体画像５３の物体「ABC お茶」を指し示しており、ロボット２２は、物体「ABC お茶」を持って帰ろうとしている。これは、ロボット２２が、物体のスコアのみならず、物体が存在する位置や、ユーザの好みを加味して、持って帰ろうとする物体を決定することによる。
However, the triangular mark points to the object "ABC tea" in the
ところで、第１の実施の形態では、図６乃至図１４に示したように、物体のスコアが高い順序で、表示画面２１aの左側から右方向に並べて表示させるようにした。しかしながら、右方向の他、任意の方向（例えば、右側から左方向）に表示させることができる。
By the way, in the first embodiment, as shown in FIGS. 6 to 14, objects are arranged and displayed from left to right on the
また、例えば、第１の実施の形態では、図６乃至図１４に示したように、物体のスコアが高い順序で任意の方向に並べて表示するとともに、物体のスコアに応じた位置に、物体画像を表示させるようにしている。 Further, for example, in the first embodiment, as shown in FIGS. 6 to 14, the object images are arranged in an arbitrary direction in descending order of the object scores, and the object images are displayed at positions corresponding to the object scores. is displayed.
しかしながら、表示画面２１aには、スコアの順序のみを用いて、物体画像を表示するようにしてもよい。その他、例えば、表示画面２１aには、スコアの順序を用いずに、物体のスコアに応じた位置で、物体画像を表示させることができる。
However, the object image may be displayed on the
また、例えば、物体のスコアに応じて、物体画像の順序、位置、大きさ、明るさ（輝度等）、鮮明度、又は色の少なくとも１つを変更して表示するようにしてもよい。 Further, for example, at least one of the order, position, size, brightness (brightness, etc.), sharpness, and color of the object image may be changed and displayed according to the score of the object.
さらに、例えば、物体のスコアを、物体画像に対応付けて表示させるようにしてもよい。なお、スコアは、例えば、棒グラフや、円グラフで表示することができる。スコアの表示として、円グラフを用いる場合、現在、最もスコアが高い物体のスコアに対するパーセンテージを、円グラフとして表示するようにしてもよい。 Furthermore, for example, the score of the object may be displayed in association with the object image. Note that the score can be displayed, for example, as a bar graph or a pie chart. When a pie chart is used to display the score, the percentage of the score of the object with the highest score at present may be displayed as a pie chart.
また、例えば、表示画面２１aにおいて、物体のスコアの変化を、矢印等で表示するようにしてもよい。
Further, for example, on the
具体的には、例えば、図１５に示されるように、物体画像５４に対応する物体「C炭酸ジュース」のスコアが増加するように変化している場合、表示画面２１aにおいて、物体画像５４に対応付けて、物体「C炭酸ジュース」のスコアの増加を示す白色の矢印を表示する。
Specifically, for example, as shown in FIG. 15, when the score of the object “C carbonated juice” corresponding to the
また、例えば、図１５に示されるように、物体画像５２に対応する物体「十八茶」のスコアが減少するように変化している場合、表示画面２１aにおいて、物体画像５２に対応付けて、物体「十八茶」のスコアの減少を示す黒色の矢印を表示する。
Further, for example, as shown in FIG. 15, when the score of the object "eighteen tea" corresponding to the
さらに、例えば、図１５に示されるように、物体画像５５に対応する物体「USBメモリ」のスコアが減少するように変化している場合、表示画面２１aにおいて、物体画像５５に対応付けて、物体「USBメモリ」のスコアの減少を示す黒色の矢印を表示する。
Furthermore, for example, as shown in FIG. 15, when the score of the object "USB memory" corresponding to the
表示画面２１aにおいて、図１５に示されるような内容が表示される場合、ユーザは、ロボット２２が、物体「十八茶」ではなく、物体「C炭酸ジュース」を間違えて持ってくることを予測できる。この場合、ロボット２２が、物体「C炭酸ジュース」を間違えて持ってくる前に、ユーザは、例えば、物体「十八茶」を持ってくるように明確に指示を与えるようにすることができる。
When the content shown in FIG. 15 is displayed on the
また、表示画面２１aにおいて、図１６に示されるような内容が表示される場合、ロボット２２が、ユーザの所望する物体「十八茶」を持ってくることを予測できる。この場合、ユーザは、ロボット２２に指示を与えることなく、ロボット２２が物体「十八茶」を持ってくるまで、仕事等に集中することができる。なお、図１６は、図１５と同様に構成されているため、図１６の説明は省略する。
16 is displayed on the
さらに、例えば、表示画面２１aにおいて、物体のスコアの変化を、矢印等に代えて、棒グラフや、折れ線グラフで表示させるようにしてもよい。その他、例えば、物体のスコアの変化とともに、又は物体のスコアの変化に代えて、スコアの履歴も表示してもよい。
Furthermore, for example, on the
スコアの変化や履歴を表示する場合、ユーザは、表示画面２１aを参照することにより、物体のスコアの変化や履歴を把握できるようになるので、スコアの順位の変動を容易に予測でき、ひいては、ロボット２２の行動を先立って予測することができるようになる。
When displaying score changes and histories, the user can grasp changes in scores and histories of objects by referring to the
なお、これらの表示は、制御部４２が、記憶部４５に記憶させたロボット認識情報を参照することにより実現される。
These displays are realized by referring to the robot recognition information stored in the
また、指示装置２１において、スコアの順位の変動が生じたときには、音を鳴らしたり、振動したり、ランプを点滅させるようにして、その旨をユーザに通知することができる。
In addition, when the order of the score changes, the
ところで、第１の実施の形態では、図６乃至図１４に示したように、ロボット２２により、「ターゲットである」ものとして認識された物体の物体画像を、太線の矩形で囲み、「ターゲットかもしれない」と認識された物体の物体画像をそのままの状態で表示する。
By the way, in the first embodiment, as shown in FIGS. 6 to 14, an object image of an object recognized as a "target" by the
また、例えば、ロボット２２により、ターゲットであるか否か「まだ分からない」と認識された物体の物体画像を、細線の矩形で囲み、「ターゲットではない」と認識された物体の物体画像を、斜線を付加した状態で表示するようにした。
Also, for example, an object image of an object recognized as being a target by the
しかしながら、それぞれの認識状態を表す表示方法は、矩形や斜線等に限定されない。 However, the method of displaying each recognition state is not limited to rectangles, diagonal lines, or the like.
また、例えば、認識状態を表す表示方法と、物体のスコアを表す表示方法とを併用して用いる他、認識状態を表す表示方法と、物体のスコアを表す表示方法との一方のみを用いて、表示画面２１aに表示するようにしてもよい。
Further, for example, in addition to using a display method representing the recognition state and a display method representing the score of the object in combination, using only one of the display method representing the recognition state and the display method representing the score of the object, It may be displayed on the
次に、図１７は、表示画面２１a上の物体画像に対して、ユーザの選択操作が行われたことに対応して、選択された物体画像の詳細情報を表示する場合の一例を示している。
Next, FIG. 17 shows an example of displaying detailed information of the selected object image in response to the user's selection operation for the object image on the
図１７に示される表示画面２１aには、主に、物体「十八茶」（ペットボトル）の底部分を表す物体画像５２a、及び物体「十八茶」の詳細情報として、物体「十八茶」をそれぞれ他の方向から撮像して得られた物体画像５２b乃至５２eが表示されている。
The
ロボット２２は、例えば、表示画面２１aに表示される物体画像として、物体を撮像して得られる最新の撮像画像から、物体画像を抽出し、ロボット認識情報に含めて、指示装置２１に送信するようにしている。
For example, the
なお、ロボット２２は、ロボット認識情報に含める物体画像としては、最新の撮像画像から抽出した物体画像の他、物体が写っている複数の撮像画像のうち、最も解像度の高い撮像画像から抽出した物体画像を採用することができる。
Note that the object image included in the robot recognition information of the
また、ロボット認識情報に含める物体画像としては、複数の物体画像のうち、ロボット２２により、物体の全体をよく表している抽出画像を採用してもよいし、典型的な抽出画像を採用してもよい。なお、典型的な抽出画像としては、例えば、物体を斜め上４５度から撮像した場合の抽出画像が考えられる。
As the object image to be included in the robot recognition information, an extracted image that well represents the entire object by the
例えば、ロボット２２が、過去の撮像により、物体画像５２b乃至５２eを一部分に含む撮像画像を取得しているものの、最新の撮像により、物体画像５２aを一部分に含む撮像画像を取得している場合、物体「十八茶」の底部分が写る物体画像５２aを含むロボット認識画像が、指示装置２１に送信される。
For example, when the
そして、指示装置２１では、図１７に示されるように、物体「十八茶」の底部分が写る物体画像５２aが、表示画面２１aに表示されることとなる。この場合、ユーザは、表示画面２１aに表示された物体画像５２aを見て、物体画像５２aが表す物体が「十八茶」であると理解できないことが生じ得る。
Then, as shown in FIG. 17, the
そこで、ロボット２２は、物体画像５２aの他、物体画像５２b乃至５２eも含むロボット認識情報を、指示装置２１の通信部４４に送信するようにしている。この場合、通信部４４はロボット２２からのロボット認識情報を、制御部４２に供給する。
Therefore, the
制御部４２は、通信部４４からのロボット認識情報に基づいて、表示部４３の表示画面２１aに、図１７に示されるように、図中左側から、物体「スティックのり」の物体画像、物体「十八茶」の物体画像５２a、及び物体「財布」の物体画像を表示させる。
Based on the robot recognition information from the
また、制御部４２は、通信部４４からのロボット認識情報を、記憶部４５に供給して保持させる。
Further, the
指示装置２１において、ユーザが、操作部４１を用いて、表示画面２１a上の物体画像５２aを選択する選択操作を行った場合、操作部４１は、ユーザの選択操作に対応する操作信号を、制御部４２に供給する。
In the
そして、制御部４２は、操作部４１からの操作信号に応じて、記憶部４５に保持済みのロボット認識情報に含まれる物体画像５２b乃至５２eを読み出し、表示部４３に供給して表示画面２１aを表示させる。
Then, in response to an operation signal from the operation unit 41, the
これにより、表示画面２１aには、図１７に示されるように、物体「十八茶」の詳細情報として、物体画像５２b乃至５２eが、表示画面２１aに表示される。
As a result, as shown in FIG. 17, the
このため、ユーザは、物体画像５２aから、物体画像５２a上の物体を把握できない場合でも、ユーザの選択操作に応じて表示される物体画像５２b乃至５２eにより、物体画像５２aに写る物体が「十八茶」であることを容易に把握できる。
Therefore, even if the user cannot grasp the object on the
なお、制御部４２は、その他、例えば、操作部４１からの操作信号に応じて、ユーザの選択操作が行われた場合、物体画像５２aを拡大したものを、詳細情報として表示させるようにすることができる。この場合、例えば、制御部４２は、記憶部４５に保持済みのロボット認識情報に含まれる物体画像５２aを読み出し、所定の拡大率で拡大させて、表示画面２１aに表示させる。
In addition, for example, when the user performs a selection operation in response to an operation signal from the operation unit 41, the
その他、例えば、制御部４２は、物体画像５２aの詳細情報として、物体画像５２a上の物体「十八茶」が検知された３次元位置を、表示画面２１aに表示させるようにしてもよい。この場合、記憶部４５には、物体画像５２aとともに、物体画像５２a上の物体「十八茶」の３次元位置も含むロボット認識情報が記憶されているものとする。
In addition, for example, the
ところで、指示装置２１が、例えば、操作部４１としてマウスが接続されたパーソナルコンピュータである場合、ユーザは、マウスを用いて、表示画面２１a上の物体画像５２a上に、カーソル等を移動させるようにして、物体画像５２aを選択する選択操作（マウスオーバー）を行うこととなる。
By the way, if the
なお、表示画面２１aには、複数の物体画像のうち、表示画面２１aの画面サイズに応じた所定枚数の物体画像のみが表示される。このため、表示画面２１aには、スコアが十分に高い物体画像や、スコアが上位n番までの物体画像、「ターゲットである」又は「ターゲットかもしれない」の少なくとも一方とされた物体画像のみを表示させるようにしている。
Of the plurality of object images, only a predetermined number of object images corresponding to the screen size of the
したがって、表示画面２１aには表示されない物体画像が存在するため、ユーザの操作に応じて、そのような物体画像を、表示画面２１aに表示できるように構成することが望ましい。
Therefore, since there is an object image that is not displayed on the
すなわち、例えば、ユーザは、マウスに設けられたスクロールボタンを回転させるスクロール操作を行うようにして、表示画面２１aに表示される各物体画像を縮小させ、表示画面２１aにより多くの物体画像を表示させることができる。
That is, for example, the user performs a scrolling operation of rotating a scroll button provided on a mouse to reduce each object image displayed on the
この場合、制御部４２は、操作部４１から、スクロール操作に対応する操作信号が供給されたことに対応して、記憶部４５に保持済みのロボット認識情報を読み出す。そして、制御部４２は、読み出したロボット認識情報に基づいて、スクロール操作に応じて縮小された各物体画像を生成し、表示部４３に供給して表示画面２１aに表示させる。
In this case, the
また、例えば、ユーザは、スクロール操作により、表示画面２１aに表示される各物体画像を拡大させ、表示画面２１aにより少ない物体画像を表示させることができる。
Further, for example, the user can enlarge each object image displayed on the
さらに、表示画面２１aは、例えば、その中央に、スコアx1の物体画像を表示させ、スコアx1よりも大きなスコアの物体画像を、左側に表示させ、スコアx1よりも小さなスコアの物体画像を、右側に表示させる。
Furthermore, the
表示画面２１aでは、ユーザ操作に応じて、スコアx1よりも小さなスコアx2(<x1)の物体画像を、表示画面２１aの中央に表示させ、スコアx2よりも大きなスコアの物体画像を、左側に表示させ、スコアx2よりも小さなスコアの物体画像を、右側に表示させることができる。
On the
すなわち、例えば、ユーザが、カーソル等を、スコアx2の物体画像が表示された位置に移動させ、その位置を、表示画面２１aの中央の位置とするように操作部４１を操作した場合、制御部４２において、表示画面２１aの中央の位置に、スコアx2の物体画像を表示させるようなロボット認識画像が生成され、表示部４３の表示画面２１aに表示されることとなる。
That is, for example, when the user moves the cursor or the like to the position where the object image with the score x2 is displayed and operates the operation unit 41 so as to set the position to the central position of the
なお、例えば、ユーザが、スコアx1の物体画像を表示させる位置を、表示画面２１aの中央とするように、操作部４１を操作した場合、表示画面２１aの表示は、その中央に、スコアx1の物体画像が表示される元の表示とされる。
For example, when the user operates the operation unit 41 so that the position where the object image with the score x1 is displayed is the center of the
また、例えば、ユーザが、操作部４１を用いて、表示画面２１a上の全領域のうち、所定の領域を拡大して表示させるための拡大操作を行った場合、表示画面２１aにおける所定の領域が拡大して表示される。
Further, for example, when the user uses the operation unit 41 to perform an enlargement operation for enlarging and displaying a predetermined area out of the entire area on the
[指示装置２１がロボット認識画像を表示する場合の動作説明]
次に、図１８のフローチャートを参照して、指示装置２１が行う表示処理を説明する。
[Description of Operation When
Next, the display processing performed by the
この表示処理は、例えば、ロボット２２からロボット認識情報が送信されたときに開始される。
This display process is started, for example, when the robot recognition information is transmitted from the
ステップＳ２１において、通信部４４は、制御部４２からの制御にしたがって、ロボット２２からのロボット認識情報を受信し、制御部４２に供給する。
In step S<b>21 , the
ステップＳ２２において、制御部４２は、通信部４４からのロボット認識情報に基づいて、ロボット認識画像を生成し、表示部４３に供給して表示画面２１aに表示させる。
In step S22, the
また、制御部４２は、通信部４４からのロボット認識情報を、記憶部４５に供給して記憶させる。
Further, the
ステップＳ２３において、制御部４２は、操作部４１から、ユーザによる選択操作に対応する操作信号が供給されたか否かに応じて、ユーザによる選択操作が行われたか否かを判定する。
In step S<b>23 , the
そして、ステップＳ２３では、制御部４２は、ユーザによる選択操作が行われていないと判定した場合、処理をステップＳ２１に戻し、それ以降同様の処理を繰り返す。
Then, in step S23, when the
また、ステップＳ２３において、制御部４２は、操作部４１から、ユーザによる選択操作に対応する操作信号が供給されたか否かに応じて、ユーザによる選択操作が行われたと判定した場合、処理をステップＳ２４に進める。いまの場合、例えば、図１７に示される物体画像５２aの詳細情報を表示させるための選択操作が行われたものとする。
Further, in step S23, if the
この場合、ステップＳ２４において、制御部４２は、記憶部４５に記憶されているロボット認識情報を読み出し、読み出したロボット認識情報に含まれる物体画像５２b乃至５２eを、表示部４３に供給して表示画面２１aに表示させる。その後、処理はステップＳ２１に戻され、それ以降、同様の処理が行われる。なお、この表示処理は、例えば、ロボット２２からロボット認識情報が送信されなくなったときに終了される。
In this case, in step S24, the
以上説明したように、表示処理によれば、ロボット２２からのロボット認識情報に基づいて、図６乃至図１７に示されるような表示画面２１aを表示させるようにしたので、ロボット２２の行動を容易に予測することが可能となる。
As described above, according to the display processing, the
また、表示処理によれば、ステップＳ２３において、例えば、図１７の物体画像５２aを選択する選択操作が行われたことに対応して、ステップＳ２４において、物体画像５２aに写る物体を、他の方向から見た場合の物体画像５２b乃至５２eを表示させるようにした。
Further, according to the display process, in step S23, for example, in response to the selection operation of selecting the
このため、ユーザは、表示画面２１aに表示された物体画像の物体を、より正確に把握することができる。
Therefore, the user can more accurately grasp the object of the object image displayed on the
[ロボット２２の構成例]
次に、図１９は、ロボット２２の構成例を示している。
[Configuration example of robot 22]
Next, FIG. 19 shows a configuration example of the
このロボット２２は、通信部６１、カメラ６２、距離センサ６３、マイクロホン６４、スピーカ６５、制御部６６、駆動部６７、及び記憶部６８から構成される。
This
通信部６１は、指示装置２１からの指示情報や、フィードバック情報、指定範囲情報等を受信し、制御部６６に供給する。
The
通信部６１は、制御部６６からのロボット認識情報を、指示装置２１に送信する。
The
カメラ６２は、光を感知する「目」に相当するものであり、例えば、CCD（Charge Coupled Device）イメージセンサ等により構成される。カメラ６２は、ロボット２２の周囲を撮像し、その撮像により得られる撮像画像を、制御部６６に供給する。
The
距離センサ６３は、ロボット２２から物体までの距離を測るセンサであり、物体までの距離を測って制御部６６に供給する。
The
マイクロホン６４は、音を感知する「耳」に相当するものであり、音声を集音し、その集音により得られる音声信号を、制御部６６に供給する。
The
スピーカ６５は、ロボット２２の「口」に相当するものであり、制御部６６からの制御にしたがって、所定の音声を出力する。
The
制御部６６は、通信部６１乃至スピーカ６５、及び駆動部６７を制御する。すなわち、例えば、制御部６６は、カメラ６２からの撮像画像、距離センサ６３からの距離、マイクロホン６４からの音声信号などに基づいて、周囲の状況等を把握し、把握した周囲の状況に応じて、駆動部６７を制御する。
The
また、制御部６６は、通信部６１からの指示情報に基づいて、駆動部６７を制御して、ユーザにより指示された行動を自律的に行う。すなわち、例えば、制御部６６は、駆動部６７を制御して、ロボット２２に、指示情報に含まれるカテゴリ情報が表すカテゴリに属する物体を、ターゲットとして自律的に探索させる。
The
さらに、制御部６６は、カメラ６２からの撮像画像に基づいて、撮像画像上の物体を検知し、検知した物体を表す物体画像を抽出する。また、制御部６６は、カメラ６２からの撮像画像に基づいて、検知した物体のスコアを計算する。
Furthermore, the
すなわち、例えば、制御部６６は、通信部６１からの指示情報に基づいて、ターゲットとされる物体の識別器を、記憶部６８から読み出す。また、制御部６６は、カメラ６２からの撮像画像から、検知した物体の特徴を表す特徴量を抽出する。
That is, for example, based on the instruction information from the
そして、制御部６６は、抽出した特徴量に基づいて、読み出した識別器を用いて、検知した物体のスコアを計算する。すなわち、例えば、制御部６６は、識別器から得られる識別結果（スコア）を、そのまま、検知した物体のスコアとすることもできるし、時系列的に、識別器から得られる識別結果を統合的に判断して、最終的なスコアを計算することもできる。
Then, the
制御部６６は、計算した物体のスコアに基づいて、その物体の認識状態を決定する。なお、認識状態の決定については、図２０を参照して後述する。
The
また、制御部６６は、計算した物体のスコアや、決定した物体の認識状態に基づいて、表示画面２１aに表示させる物体画像を決定する。なお、表示画面２１aに表示させる物体画像の決定方法は、図２１を参照して後述する。
Further, the
制御部６６は、例えば、物体の認識状態に応じて、表示画面２１aに表示することに決定した物体画像を変更（例えば、矩形で囲んだり、斜線を付加）し、変更後の物体画像、物体のスコア、表示対象情報等を含むロボット認識情報を生成し、通信部６１に供給する。
For example, the
また、制御部６６は、距離センサ６３を制御して、検知した物体までの距離を計測させる。これにより、距離センサ６３は、制御部６６が検知した物体までの距離を、制御部６６に供給する。
The
制御部６６は、カメラ６２からの撮像画像や、カメラ６２の姿勢（位置及び向き）等に基づいて、カメラ６２（ロボット２２）の３次元位置を検出する。なお、ロボット２２の３次元位置の検出方法の詳細は、例えば、特開２００８－３０４２６８号公報等に記載されている。
The
なお、制御部６６は、例えば、GPS(global positioning system)やWi-Fiを用いた測位技術を用いて、ロボット２２の３次元位置を検出するようにしてもよい。
Note that the
制御部６６は、検出した３次元位置と、距離センサ６３から供給される距離とに基づいて、検知した物体の３次元位置を算出し、その物体が写った撮像画像に対応付けて、記憶部６８に供給して記憶させる。
Based on the detected three-dimensional position and the distance supplied from the
また、制御部６６は、記憶部６８に保持された撮像画像（例えば、図３の周囲画像３１や部分画像３５）等を読み出し、読み出した撮像画像も含むロボット認識画像を生成し、通信部６１に供給する。
In addition, the
制御部６６は、通信部６１からの指定範囲情報と、記憶部６８に保持されている撮像画像とに基づいて、ユーザの指定操作により指定された領域を表す指定領域を検出する。
Based on the specified range information from the
また、制御部６６は、検出した指定領域上の物体に対応付けられている３次元位置を、記憶部６８から読み出し、読み出した３次元位置に基づいて、指定領域に対応する探索範囲を算出する。
Further, the
そして、制御部６６は、駆動部６７を制御して、ロボット２２の手や足に相当する部位を駆動させ、算出した探索範囲内でターゲット（カテゴリ情報が表すカテゴリに属する物体）を探索する動作を実行させる。
Then, the
駆動部６７は、制御部６６からの制御にしたがって、ロボット２２の「手」や「足」に相当する部分を駆動させる。これにより、ロボット２２は、自律的に行動する。
The
記憶部６８は、例えば、制御部６６により実行される制御用プログラムを予め保持する他、制御部６６から書込みが指示されたデータ等を記憶（保持）する。
The
また、記憶部６８は、複数の項目それぞれの物体毎に、その物体を識別するための識別器を記憶している。この識別器は、物体の特徴量を入力として、物体のスコアを出力する関数である。なお、この識別器は、予め行なわれた学習により生成されて記憶されているものとする。
The
さらに、記憶部６８は、制御部６６からの撮像画像（撮像画像上の物体の３次元位置が対応付けられている撮像画像であって、例えば、周囲画像３１や部分画像３５等）を記憶する。
Further, the
次に、図２０は、物体の認識状態の状態遷移図の一例を示している。 Next, FIG. 20 shows an example of a state transition diagram of object recognition states.
図２０には、制御部６６が認識する認識状態として、「未検出（検知）」、「まだ分からない」、「ターゲットかもしれない」、「ターゲットである」、及び「ターゲットではない」が示されている。
FIG. 20 shows "undetected (detected)", "unknown yet", "might be a target", "target", and "not a target" as recognition states recognized by the
制御部６６は、計算した物体のスコアに応じて、その物体を、「まだ分からない」、「ターゲットかもしれない」、「ターゲットである」、又は「ターゲットではない」のいずれの状態として認識する。
The
すなわち、例えば、制御部６６は、物体のスコアが閾値th1以上である場合、その物体を、「ターゲットである」ものとして認識し、物体のスコアが閾値th1未満であり、閾値th2（<th1）以上である場合、「ターゲットかもしれない」と認識する。
That is, for example, when the score of an object is equal to or greater than the threshold th1, the
また、例えば、制御部６６は、物体のスコアが閾値th2未満であり、閾値th3（<th2）以上である場合、その物体を、ターゲットであるか否か「まだ分からない」ものとして認識し、物体のスコアが閾値th3未満である場合、「ターゲットではない」ものとして認識する。
Also, for example, when the score of an object is less than the threshold th2 and is equal to or greater than the threshold th3 (<th2), the
なお、制御部６６は、ユーザによるフィードバック操作が行われる場合を除き、物体を「ターゲットである」ものとして認識する際に、必ず、「ターゲットかもしれない」と認識した状態を経由するようにしている。
It should be noted that the
したがって、表示画面２１aにおいて、ターゲットであるか否か「まだ分からない」ものとして認識されている物体（細線の矩形で囲まれた物体画像に対応）が、急に「ターゲットである」ものとして認識された物体（太線の矩形で囲まれた物体画像に対応）とされることを防止できる。
Therefore, on the
このため、ユーザは、表示画面２１aにおいて、「ターゲットかもしれない」ものとして認識された物体（そのままの状態で表示される物体画像に対応）にのみ、ターゲットに相応しくないものが存在するか否かに注意を払えばよいものとなる。
Therefore, on the
このように、物体を「ターゲットである」ものとして認識する際に、必ず、「ターゲットかもしれない」と認識した状態を経由するようにしているのは、表示画面２１aにおいて、ターゲットであるか否か「まだ分からない」ものとして認識されている物体が、急に「ターゲットである」ものとして認識された物体とされる場合、ユーザは、表示画面２１aにおいて、すべての物体に注意を払わなければならず、非常に面倒であることによる。
In this way, when recognizing an object as ``a target'', the reason why the ``might be a target'' recognition state is always passed through is that the
次に、図２１は、制御部６６が、物体のスコアに応じて、表示画面２１aに表示させる物体画像を決定する決定方法の一例を示している。
Next, FIG. 21 shows an example of a determination method by which the
図２１には、スコアの高い順序で、図中左側から、物体７１、物体７２、物体７３、…物体７４が示されている。
FIG. 21 shows an
制御部６６は、計算した物体７１のスコアに基づいて、物体７１を「ターゲットである」と認識している。また、制御部６６は、物体７２のスコアに基づいて、物体７２を「ターゲットかもしれない」と認識している。
The
さらに、制御部６６は、物体７３のスコアに基づいて、物体７３を、ターゲットであるか否か「まだ分からない」ものと認識している。また、制御部６６は、物体７４のスコアに基づいて、物体７４を、「ターゲットではない」と認識している。
Furthermore, based on the score of the
例えば、制御部６６は、図２１に示されるように、検知した複数の物体のうち、スコアが高い上位N番までの物体に対応する物体画像を、指示装置２１の表示画面２１aに表示させるものとして決定することができる。
For example, as shown in FIG. 21, the
また、例えば、制御部６６は、図２１に示されるように、検知した複数の物体のうち、「ターゲットである」及び「ターゲットかもしれない」と認識している物体に対応する物体画像を、少なくとも、指示装置２１の表示画面２１aに表示させるものとして決定してもよい。
In addition, for example, as shown in FIG. 21, the
[ロボット２２がスコアを計算するときの動作説明]
次に、図２２のフローチャートを参照して、ロボット２２が行うスコア計算処理について説明する。
[Description of the operation when the
Next, the score calculation process performed by the
このスコア計算処理は、例えば、ロボット２２が、指示装置２１からの指示情報に基づいて、室内を探索するときに開始される。
This score calculation process is started, for example, when the
ステップＳ４１において、カメラ６２は、ロボット２２の周囲の撮像を行い、その撮像により得られる撮像画像を、制御部６６に供給する。
In step S<b>41 , the
ステップＳ４２において、制御部６６は、カメラ６２からの撮像画像に基づいて、撮像画像上の物体を検知することを試みる。
At step S<b>42 , the
そして、制御部６６は、カメラ６２からの撮像画像に基づいて、その撮像画像から物体を検知したことに対応して、処理をステップＳ４３に進める。なお、制御部６６は、カメラ６２からの撮像画像に基づいて、その撮像画像から物体を検知しなかった場合、処理をステップＳ４１に戻し、それ以降同様の処理が行われる。
Based on the captured image from the
制御部６６は、指示装置２１から通信部６１を介して供給される指示情報に基づいて、ロボット２２の処理対象を表すターゲットを判定し、判定したターゲット用の識別器を、記憶部６８から読み出す。
The
ステップＳ４３において、制御部６６は、カメラ６２からの撮像画像から、検知した物体の特徴量を算出する。そして、制御部６６は、算出した特徴量に基づいて、記憶部６８から読み出した識別器を用いて、物体のスコアを計算する。
In step S<b>43 , the
ステップＳ４４では、制御部６６は、計算したスコアや、記憶部６８に記憶済みの撮像画像などを含むロボット認識情報を生成し、通信部６１に供給する。
In step S<b>44 , the
ステップＳ４５では、通信部６１は、制御部６６からのロボット認識情報を、指示装置２１に送信し、処理はステップＳ４１に戻され、それ以降同様の処理が行われる。
In step S45, the
なお、スコア計算処理は、例えば、ロボット２２がターゲットを見つけて、ユーザのところに持って帰ったときに終了される。
Note that the score calculation process ends, for example, when the
以上説明したように、スコア計算処理によれば、検知した物体のスコアを計算し、計算したスコア等を含むロボット認識情報を、指示装置２１に送信するようにした。
As described above, according to the score calculation process, the score of the detected object is calculated, and the robot recognition information including the calculated score is transmitted to the
よって、指示装置２１の表示画面２１aにおいて、図６乃至図１７に示されるようなロボット認識画像を表示できるようになるので、ユーザは、ロボット２２の行動を容易に予測することが可能となる。
6 to 17 can be displayed on the
＜２．第１の実施の形態の変形例＞
[ロボット認識画像の他の表示例]
ところで、図６乃至図１７を参照して、スコアの高い物体ほど、表示画面２１aの左に表示させるようにしたロボット認識画像を説明したが、ロボット認識画像は、これに限定されない。
<2. Modification of First Embodiment>
[Another display example of the robot recognition image]
By the way, the robot recognition image has been described in which an object with a higher score is displayed on the left side of the
次に、図２３は、ロボット認識画像の他の表示例を示している。 Next, FIG. 23 shows another display example of the robot recognition image.
図２３において、表示画面２１aの上側の画面を表す上側画面８１には、スコアの高い物体の物体画像ほど、表示画面２１aの左側に配置されたロボット認識画像が表示される。いまの場合、物体９１、物体９２、物体９３、物体９４の順序でスコアが高いものとなっている。
In FIG. 23, on the
また、表示画面２１aの上側の画面を表す下側画面８２には、カメラ６２の撮像により得られた最新の撮像画像が表示される。この撮像画像には、図２３に示されるように、上側画面８１に表示された物体９１（「りんごジュース」）及び物体９２（「C炭酸ジュース」）が写っている。
In addition, the latest image captured by the
表示画面２１aにおいて、上側画面８１上の物体９１及び下側画面８２上の物体９１（「りんごジュース」）は、点線で接続されており、上側画面８１と下側画面８２に表示された物体９１との対応関係がわかるようになっている。
In the
このことは、物体９２についても同様である。なお、この場合、ロボット認識情報には、カメラ６２の撮像により得られた最新の撮像画像が含まれる。
This is the same for the
すなわち、図２３では、下側画面８２に、カメラ６２の撮像により得られる最新の撮像画像を表示する点が、図６乃至図１７を参照して説明した場合と異なるものとなる。
That is, FIG. 23 differs from the case described with reference to FIGS. 6 to 17 in that the latest image captured by the
図２３において、上側画面８１を見ると、物体９１及び物体９２それぞれの物体画像が太線の矩形で囲まれているため、ロボット２２は、物体９１及び９２をターゲットと認識していることが予測される。また、図２３において、下側画面８２を見ると、ロボット２２は、物体９１及び９２の近くに存在することが予測される。
In FIG. 23, looking at the
このため、ユーザは、図２３の上側画面８１のみを参照する場合と比較して、図２３の上側画面８１及び下側画面８２を参照することにより、ロボット２２が、物体９１又は物体９２の一方を、ターゲットとして持ち帰る行動をとることを、より容易に推測できる。
Therefore, the user can see the
なお、図２３において、下側画面８２には、カメラ６２の撮像により得られた最新の撮像画像を表示するようにしたが、その他、例えば、任意の時刻でカメラ６２の撮像により得られた撮像画像を表示することができる。また、カメラ６２の撮像により得られた複数の撮像画像を合成して作成した合成画像（パノラマビューのような画像）を表示するようにしてもよい。
In FIG. 23, although the latest captured image obtained by imaging with the
さらに、例えば、表示画面２１aには、カメラ６２の撮像により得られた撮像画像上に、太線の矩形等を直接、重畳させる（例えば、撮像画像上のりんごジュースを太線の矩形で囲む）ようにしたものを表示させるようにしてもよい。この場合、表示画面２１aには、図２３に示した上側画面８１に表示される画像は表示されず、撮像画像のみが表示されることとなる。
Further, for example, on the
また、例えば、図２４に示されるように、カメラ６２の撮像により得られる最新の撮像画像に代えて、表示画面２１aの下側画面８２に、室内の空間を表す空間図を表示させるようにしてもよい。この場合、ロボット認識情報には、室内の空間図を表す空間情報が含まれる。なお、空間情報は、例えば、ロボット２２の記憶部６８に予め保持されているものとする。
Alternatively, for example, as shown in FIG. 24, instead of the latest captured image obtained by imaging with the
また、図２４に示されるように、下側画面８２に表示される空間図には、ロボット２２がこれから移動する経路が、点線１０１で示されている。なお、図２４では、上側画面８１に表示された物体と、その物体が存在する空間図上の位置とが点線で接続され、対応関係がわかるようになっている。
Further, as shown in FIG. 24, in the space map displayed on the
このため、ユーザは、図２４の表示画面２１aの上側画面８１のみを参照する場合と比較して、図２４の表示画面２１aの上側画面８１及び下側画面８２を参照することにより、ロボット２２が、物体９１（「りんごジュース」）を、ターゲットとして持ち帰るだろうと推測できる。
Therefore, the user can see the
なお、図２３及び図２４のような表示画面２１aを表示させるようにする場合、ロボット２２の近くに存在する物体（ロボット２２の位置から所定の範囲内に存在する物体）を、物体画像として優先的に表示させることが望ましい。
When displaying the
また、表示画面２１aには、例えば、図２３に示される下側画面８２に撮像画像を表示し、図２４に示される下側画面８２に空間図を表示させるようにしたが、その他、例えば、撮像画像と空間図との両方を表示させるようにしてもよい。
In addition, the
この場合、例えば、表示画面２１aには、図２３に示されるような表示とともに、ロボット２２がこれから移動する経路を表す点線１０１を含む空間図が表示されることとなる。
In this case, for example, on the
次に、図２５は、ロボット認識画像のさらに他の表示例を示している。 Next, FIG. 25 shows still another display example of the robot recognition image.
図２５には、表示画面２１aに、ロボット２２のカメラ６２の撮像により得られた最新の撮像画像が表示される。この撮像画像には、主に、ロボット２２により検知された物体１１１乃至１１４が写っている。
In FIG. 25, the latest image captured by the
そして、物体１１１及び１１３には、それぞれ、その物体に対してロボット２２が行おうとしている行動が、吹き出し１１１a乃至１１３aにより表示されている。
On the
吹き出し１１１aには、行動「捨てる」が表示され、吹き出し１１２aには、行動「持ってくる」が表示され、吹き出し１１３aには、行動「持ってくる」が表示され、吹き出し１１４aには、行動「捨てる」が表示される。なお、図２５に示されるような表示画面２１aが表示される場合、ロボット２２からのロボット認識情報には、物体（例えば、「鳥の置物」）を処理対象とするロボット２２の処理（例えば、「捨てる」）を表す処理情報が含まれる。
The
また、吹き出し１１１a乃至１１３aの大きさは、例えば、吹き出しが付加された物体のスコアに応じた大きさとされる。なお、スコアは、吹き出しの大きさの他、吹き出しの色で表すようにしてもよい。
Also, the sizes of the
第１の実施の形態では、ユーザが、指示装置２１を用いて、ロボット２２に、ターゲットとしての「お茶」を持ってくる旨を指示するようにしたが、指示は、これに限定されず、その他、例えば、ターゲットをゴミ箱に捨てる旨を指示することができる。
In the first embodiment, the user uses the
その他、例えば、ユーザは、指示装置２１を用いて、ターゲットを「つかむ」、「拾う」、「片付ける」等の指示を行うことができる。
In addition, for example, the user can use the
図２５では、例えば、ユーザが、指示装置２１を用いて、ロボット２２に、「ジュース」を持ってくる旨を指示するとともに、「小物」をゴミ箱に捨てる旨を指示した場合に、指示装置２１の表示画面２１aに表示される表示例である。
In FIG. 25, for example, when the user uses the
すなわち、表示画面２１aに表示されるロボット認識画像は、ユーザが、ロボット２２の行動を直感的に予測できるものであれば、どのような表示方法であってもよい。
That is, the robot recognition image displayed on the
また、例えば、ユーザは、指示装置２１を用いて、ターゲットとして、「お茶」等の他、ターゲットとして人を選択することができる。この場合、ユーザは、指示装置２１を用いて、ターゲットとしての人を「呼んでくる」等の指示を行うことができる。
Further, for example, the user can use the
この場合、表示画面２１aには、例えば、検知された人とともに、その人の名前を表示させるようにしてもよい。なお、人の名前は、例えば、その人を識別するための識別器に対応付けて、ロボット２２の記憶部６８に予め保持されているものとする。
In this case, for example, the name of the detected person may be displayed on the
また、表示画面２１aに、検知された人を表す名前として、異なる人の名前が表示されている場合には、ユーザは、操作部４１を用いて、名前を、検知された人の名前に変更させるようにすることができる。
Further, when a different person's name is displayed as the name representing the detected person on the
ところで、例えば、指示装置２１は、ロボット２２からのロボット認識情報に基づいて、図２６に示されるように、表示画面２１aに、物体画像１２１乃至１２４を含むロボット認識画像を表示するようにしている。
By the way, for example, the
図２６に示される表示画面２１aでは、ロボット２２が、物体画像１２１に対応する物体「十八茶」を「ターゲットかもしれない」と認識していることが表示される。
On the
さらに、ロボット２２が、物体画像１２２に対応する物体「C炭酸ジュース」及び物体画像１２３に対応する物体「鉢植え」を、それぞれ、ターゲットであるか否か「まだ分からない」ものとして認識していること、物体画像１２４に対応する物体「ぬいぐるみ」を、「ターゲットではない」と認識していることが表示される。
Furthermore, the
したがって、ユーザは、図２６に示される表示画面２１aを参照して、ロボット２２の行動を、以下のように推測することができる。すなわち、例えば、ユーザにおいては、ロボット２２が、「ターゲットかもしれない」と認識している物体「十八茶」を、いずれ「ターゲットである」ものとして認識するようになり、物体「十八茶」を持って帰るだろうと推測することができる。
Therefore, the user can refer to the
この場合、ユーザは、ロボット２２が、物体「十八茶」を持って帰るまで待つことが考えられる。
In this case, the user may wait until the
また、例えば、図２７に示される表示画面２１aには、ロボット２２が、物体画像１４１に対応する物体「ABC お茶」、及び物体画像１４２に対応する物体「S茶」のいずれも「ターゲットである」ものとして認識していることを表す太線の矩形が表示される。
Also, for example, the
さらに、例えば、図２７に示される表示画面２１aには、ロボット２２が、物体「ABC お茶」を持って帰ろうとしていることを表す三角印が表示される。
Further, for example, on the
したがって、ロボット２２は、物体「ABC お茶」及び物体「S茶」のいずれを持って帰ろうか迷っているものの、とりあえず、物体「ABC お茶」を持って帰ろうとしていることが、ユーザにより推測される。
Therefore, although the
ユーザは、物体「ABC お茶」及び物体「S茶」のどちらでもよい場合には、指示装置２１を特に操作することなく、ロボット２２が、物体「ABC お茶」又は物体「S茶」の一方を持って帰るのを待つこととなる。
If the user can select either the object "ABC tea" or the object "S tea", the
なお、例えば、図２７の表示画面２１aにおいて、三角印が表示されておらず、ユーザが、物体「ABC お茶」又は物体「S茶」のどちらでもよいので、早く持ってきて欲しいと思ったときには、ロボット２２に、例えば物体「ABC お茶」を持ってくるように指示できることが望ましい。
For example, in the
そこで、例えば、指示装置２１は、図２８に示されるように、表示画面２１aに表示された物体画像１６１乃至１６５のうち、ユーザが持ってきて欲しいと思っている物体「十八茶」に対応する物体画像１６２を、ユーザの操作により指示できるようにしている。
Therefore, for example, as shown in FIG. 28, the
なお、図２８では、表示画面２１aにおいて、例えば、三角印が表示されていない場合に、ユーザが持ってきて欲しいと思っている物体「十八茶」に対応する物体画像１６２が、ユーザの操作により指示されたことに対応して、太線の矩形で囲まれ、三角印で指示された物体画像１６２が表示されることとなる。
Note that in FIG. 28, for example, when the triangular mark is not displayed on the
また、例えば、図２９に示されるような表示画面２１aにおいて、物体画像１８１乃至１８７のうち、物体画像１８２に対応する物体「ABC お茶」を指し示す三角印が表示されている場合、ロボット２２が、物体「ABC お茶」を持って帰るだろうと推測される。
Further, for example, in the
ユーザが、物体「ABC お茶」ではなく、物体「Ｓ茶」を持って帰って欲しいと思っている場合、指示装置２１の操作部４１を操作することにより、物体「ABC お茶」に代えて、物体画像１８４に対応する物体「S茶」を持ってくるように指示することができる。
When the user wishes to bring back the object "S tea" instead of the object "ABC tea", by operating the operation unit 41 of the
すなわち、例えば、ユーザは、図３０に示されるように、表示画面２１a上の物体画像１８４を、ポインタ（矢印）等により指定するようにして、物体画像１８４に対応する物体「S茶」を持ってくるように指示することができる。
That is, for example, as shown in FIG. 30, the user designates an
これにより、表示画面２１aにおいて、物体画像１８２に対応する物体「ABC お茶」を指し示していた三角印（図２９）に代えて、物体画像１８４に対応する物体「S茶」を指し示す三角印（図３０）が表示されることとなる。
As a result, in the
＜３．第２の実施の形態＞
[表示画面２１aを見ているユーザが、ロボット２２に指示を与える場合の一例]
次に、図３１乃至図３８は、ユーザが、指示装置２１の操作部４１を操作して、ロボット２２に指示を与えるためのフィードバック操作を行う場合の一例を示している。
<3. Second Embodiment>
[Example of a case where a user looking at the
Next, FIGS. 31 to 38 show an example of a case where the user operates the operation section 41 of the
図３１は、ユーザが、指示装置２１の表示画面２１aを参照して、指示装置２１の操作部４１を用いて、フィードバック操作を行う場合の一例を示している。
FIG. 31 shows an example of a case where the user refers to the
図３１には、表示画面２１aに表示される物体画像２０１乃至２０４が示されている。なお、物体画像２０１及び２０２は、ロボット２２の認識状態が「ターゲットである」であることを示す矩形で囲まれている。
FIG. 31 shows object
また、物体画像２０３は、そのままの状態で表示され、物体「C炭酸ジュース」に対するロボット２２の認識状態が「まだ分からない」ものであることを示している。さらに、物体画像２０４は、ロボット２２の認識状態が「ターゲットではない」ことを示す斜線が付加されている。
The
ユーザは、指示装置２１の操作部４１を用いて、例えば、物体画像２０３が表す物体「C炭酸ジュース」の認識状態を、矢印２２１で示されるように、「まだ分からない」から「ターゲットである」に変更するフィードバック操作を行うことができる。
The user uses the operation unit 41 of the
また、例えば、ユーザは、指示装置２１の操作部４１を用いて、物体画像２０２が表す物体「十八茶」の認識状態を、矢印２２２で示されるように、「ターゲットである」から「ターゲットではない」に変更するフィードバック操作を行うことができる。
Further, for example, the user uses the operation unit 41 of the
制御部４２は、操作部４１からの、フィードバック操作に対応する操作信号に応じて、対応するフィードバック情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からのフィードバック情報を、ロボット２２に供給する。
The
ロボット２２は、通信部４４からのフィードバック情報に基づいて、物体のスコアを再計算し、その結果得られるスコアに基づいて、各物体の認識状態を変化させる。
The
次に、図３２は、指示装置２１からのフィードバック情報に応じて、ロボット２２の制御部６６が、物体の認識状態を変化させる場合の一例を示している。
Next, FIG. 32 shows an example in which the
例えば、指示装置２１において、ユーザが、操作部４１を用いてフィードバック操作を行った場合、操作部４１は、フィードバック操作に対応する操作信号を、制御部４２に供給する。
For example, when the user performs a feedback operation using the operation unit 41 of the
制御部４２は、操作部４１からの操作信号に基づいて、フィードバック情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からのフィードバック情報を、ロボット２２に送信する。
The
いまの場合、図３１に示したように、例えば、ユーザが、指示装置２１の操作部４１を用いて、物体画像２０３が表す物体「C炭酸ジュース」の認識状態を、矢印２２１で示されるように、「まだ分からない」から「ターゲットである」に変更するフィードバック操作を行った場合を考える。
In this case, as shown in FIG. 31, for example, the user uses the operation unit 41 of the
この場合、ロボット２２において、制御部６６は、指示装置２１の通信部４４から通信部６１を介して供給されるフィードバック情報に基づいて、物体「C炭酸ジュース」のスコアを再計算する。
In this case, in the
これにより、制御部６６は、再計算により得られた新たなスコアに基づいて、物体「C炭酸ジュース」の認識状態を、矢印２２１1で示されるように、「まだ分からない」から「ターゲットである」に決定（変更）する。
As a result, based on the new score obtained by recalculation, the
なお、フィードバック操作として、物体の認識状態を、「ターゲットかもしれない」から「ターゲットである」に変更するフィードバック操作が行われた場合、制御部６６では以下の処理が行われる。すなわち、例えば、制御部６６は、通信部６１からのフィードバック情報に基づいて、物体の認識状態を、矢印２２１2で示されるように、「ターゲットかもしれない」から「ターゲットである」に決定する。
Note that when a feedback operation is performed to change the recognition state of an object from "may be a target" to "is a target" as a feedback operation, the
また、フィードバック操作として、物体の認識状態を、「ターゲットではない」から「ターゲットである」に変更するフィードバック操作が行われた場合、制御部６６では以下の処理が行われる。すなわち、例えば、制御部６６は、通信部６１からのフィードバック情報に基づいて、物体の認識状態を、矢印２２１3で示されるように、「ターゲットではない」から「ターゲットである」に決定する。
Further, when a feedback operation is performed to change the recognition state of an object from "not a target" to "is a target" as a feedback operation, the
さらに、例えば、図３１に示したように、ユーザが、指示装置２１の操作部４１を用いて、物体画像２０２を表す物体「十八茶」の認識状態を、矢印２２２で示されるように、「ターゲットである」から「ターゲットではない」に変更するフィードバック操作を行った場合を考える。
Further, for example, as shown in FIG. 31, the user uses the operation unit 41 of the
この場合、制御部６６は、図３２に示されるように、通信部６１からのフィードバック情報に基づいて、物体「十八茶」の認識状態を、矢印２２２で示されるように、「ターゲットである」から「ターゲットではない」に決定する。
In this case, as shown in FIG. 32, based on the feedback information from the
[フィードバック操作の一例]
次に、図３３乃至図３８を参照して、ユーザが、指示装置２１の表示画面２１aを参照して、フィードバック操作を行う場合について説明する。
[Example of feedback operation]
Next, a case where the user refers to the
指示装置２１において、制御部４２は、ロボット２２から通信部４４を介して供給されるロボット認識情報に基づいて、表示部４３の表示画面２１aに、例えば、図３３に示されるような、物体画像２４１乃至２４４を含むロボット認識画像を表示させる。
In the
また、ロボット２２が、物体画像２４２が表す物体「スポドリンク」を「ターゲットである」と認識した場合、制御部４２は、ロボット２２から通信部４４を介して送信されてくるロボット認識情報に基づいて、表示画面２１aに、ロボット認識画像を表示させる。
Further, when the
これにより、表示画面２１aには、図３４に示されるように、物体画像２４１乃至２４４を含むロボット認識画像が表示される。
As a result, a robot recognition image including
図３４に示される表示画面２１aでは、ロボット２２が、ユーザが所望する物体「十八茶」（物体画像２４５が表す物体）とは異なる物体「スポドリンク」（物体画像２４２が表す物体）を、ターゲットとして認識していることが推測される。
On the
そして、ロボット２２が、物体「スポドリンク」をターゲットとして持って帰る行動をとる場合、制御部４２は、ロボット２２から通信部４４を介して送信されるロボット認識情報に基づいて、表示画面２１aに、ロボット認識画像を表示させる。
Then, when the
これにより、表示画面２１aは、図３５に示されるように、物体「スポドリンク」をターゲットとして持って帰ることを示す三角印が付加された物体画像２４２を表示する。
As a result, the
この場合、ユーザは、図３５に示されるように、指示装置２１の操作部４１を用いて、物体「スポドリンク」はターゲットではない旨を指示するフィードバック操作を行う。このとき、操作部４１は、ユーザのフィードバック操作に対応する操作信号を、制御部４２に供給する。
In this case, as shown in FIG. 35, the user uses the operation unit 41 of the
制御部４２は、操作部４１からの操作信号に基づいて、フィードバック情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からのフィードバック情報を、ロボット２２に送信する。この場合、例えば、ロボット２２(制御部６６)は、通信部４４からのフィードバック情報に基づいて、物体「スポドリンク」のスコアを再計算する。
The
これにより、物体「スポドリンク」のスコアは、例えば、物体「十八茶」のスコアよりも低いスコアとされ、ロボット２２は、物体「十八茶」をターゲットとして持って帰るように行動する。また、ロボット２２は、再計算したスコアに基づいて、物体「スポドリンク」の認識状態を、「ターゲットである」から「ターゲットではない」に変更する。
As a result, the score of the object "Spodrink" is, for example, lower than the score of the object "18 tea", and the
この場合、指示装置２１において、制御部４２は、ロボット２２から通信部４４を介して送信されるロボット認識情報に基づいて、表示画面２１aに、ロボット認識画像を表示させる。なお、ロボット認識情報には、少なくとも、ユーザのフィードバック操作に応じたフィードバック情報により再計算されたスコアが含まれる。
In this case, in the
これにより、表示画面２１aは、図３６に示されるように、物体「十八茶」をターゲットとして持って帰ることを示す三角印が付加された物体画像２４５を表示する。
As a result, the
なお、ユーザは、物体「スポドリンク」はターゲットではない旨を指示するフィードバック操作を行う他、例えば、図３７に示されるように、物体「十八茶」がターゲットである旨を指示するフィードバック操作を行うようにしても良い。 Note that the user performs a feedback operation instructing that the object "Spodrink" is not the target, and also performs a feedback operation instructing that the object "eighteen tea" is the target, as shown in FIG. may be performed.
この場合、例えば、ロボット２２(制御部６６)は、通信部４４からのフィードバック情報に基づいて、物体「十八茶」のスコアを再計算する。これにより、物体「十八茶」のスコアは、例えば、物体「スポドリンク」のスコアよりも高いスコアとされ、ロボット２２は、物体「十八茶」をターゲットとして持って帰るように行動する。
In this case, for example, the robot 22 (control unit 66) recalculates the score of the object “eighteen tea” based on the feedback information from the
これに対して、指示装置２１の制御部４２は、ロボット２２から通信部４４を介して送信されるロボット認識情報に基づいて、表示画面２１aに、ロボット認識画像を表示させる。
On the other hand, the
これにより、表示画面２１aは、図３８に示されるように、物体「十八茶」をターゲットとして持って帰ることを示す三角印が付加された物体画像２４５を表示する。
As a result, the
なお、例えば、フィードバック操作により、物体がターゲットではない旨を指示する場合、ユーザは、操作部４１を用いて、ターゲットではない物体（の物体画像）を指定し、
指定された物体を、ターゲットであるものとすることが考えられる。
Note that, for example, when instructing that the object is not the target by the feedback operation, the user uses the operation unit 41 to specify (an object image of) the object that is not the target,
It is conceivable that the specified object is the target.
この場合、制御部４２は、ユーザにより指定された物体がターゲットではない旨を表すフィードバック情報を生成する。
In this case, the
また、例えば、フィードバック操作により、物体がターゲットではない旨を指示する場合、ユーザは、操作部４１を用いて、ターゲットである物体（の物体画像）を指定し、指定されていない物体を、ターゲットではないものとすることが考えられる。 Further, for example, when instructing that the object is not the target by the feedback operation, the user uses the operation unit 41 to specify (the object image of) the object that is the target, and the unspecified object is the target. It is conceivable that it is not.
この場合、制御部４２は、ユーザにより指定されていない物体がターゲットではない旨を表すフィードバック情報を生成する。
In this case, the
なお、物体の指定は、指定したい表示画面２１a上の物体を、枠などで囲むようにして指定するようにしてもよい。また、操作部４１にマウスが含まれている場合には、指定したい表示画面２１a上の物体に、カーソル等を移動させ、マウスの左クリック（シングルクリック又はダブルクリック）で物体を指定してもよい。
The object may be specified by enclosing the object on the
さらに、指示装置２１がパーソナルコンピュータなどであり、操作部４１としてコントロールキーやシフトキーが設けられている場合には、コントロールキーやシフトキーを併用して左クリックを行うことにより、同時に、複数の物体を指定することができる。
Furthermore, if the
また、例えば、ユーザは、物体を指定した後、マウスを用いた右クリックにより表示される選択肢「ターゲットである」、「ターゲットでない」等のうち、選択肢「ターゲットでない」を選択することにより、指定済みの物体がターゲットではない旨を表すフィードバック操作を行うようにしてもよい。 Further, for example, after specifying an object, the user selects an option "not a target" from the options "is a target", "not a target", etc. displayed by right-clicking with a mouse. A feedback operation may be performed to indicate that the already-existing object is not the target.
さらに、例えば、ユーザは、指定済みの物体に対して、再度、マウスを用いた左クリックを行うことにより、物体の指定を解除することができる。その他、例えば、ユーザは、物体を、左クリックにより選択して、表示画面２１aの枠外に投げ捨てるような投げ捨て操作を、物体が「ターゲットではない」旨を表すフィードバック操作として行うことができる。
Further, for example, the user can cancel the designation of the object by left-clicking the designated object again using the mouse. In addition, for example, the user can select an object by left-clicking and throw the object out of the frame of the
例えば、操作部４１に「Enter」キーが含まれる場合、物体が指定されている状態で「Enter」キーを押下する押下操作を、指定された物体がターゲットである旨を表すフィードバック操作として採用することができる。 For example, when the operation unit 41 includes an "Enter" key, a pressing operation of pressing the "Enter" key while an object is specified is adopted as a feedback operation indicating that the specified object is the target. be able to.
また、例えば、操作部４１に「Delete」キーが含まれる場合、物体が指定された状態で「Delete」キーを押下する押下操作を、指定された物体がターゲットではない旨を表すフィードバック操作として採用することができる。 Further, for example, if the operation unit 41 includes a "Delete" key, a pressing operation of pressing the "Delete" key while an object is specified is adopted as a feedback operation indicating that the specified object is not a target. can do.
その他、例えば、操作部４１に「Tab」キーが含まれる場合、ユーザは、「Tab」キーが押下される毎に、表示画面２１a上に表示されるフォーカスを移動させるようにすることができる。
In addition, for example, if the operation unit 41 includes a "Tab" key, the user can move the focus displayed on the
これらのことは、指定された物体がターゲットである旨を表すフィードバック操作を行う場合についても同様である。 The same applies to the feedback operation indicating that the designated object is the target.
[指示装置２１が行うフィードバック処理について]
次に、図３９のフローチャートを参照して、指示装置２１が行うフィードバック処理について説明する。
[Feedback processing performed by the pointing device 21]
Next, feedback processing performed by the
なお、このフィードバック処理は、例えば、指示装置２１の電源がオンされたときに開始される。また、表示画面２１aには、物体画像が表示されているものとする。
This feedback process is started, for example, when the power of the
ステップＳ６１において、制御部４２は、操作部４１から、フィードバック操作に対応する操作信号が供給されたか否かに基づいて、ユーザによるフィードバック操作が行われたか否かを判定し、ユーザによるフィードバック操作が行われたと判定するまで、ステップＳ６１の処理を繰り返して行う。
In step S<b>61 , the
ステップＳ６１において、制御部４２は、フィードバック操作に対応する操作信号が供給されたか否かに基づいて、ユーザによるフィードバック操作が行われたと判定した場合、処理をステップＳ６２に進める。
If the
ステップＳ６２において、制御部４２は、ユーザによるフィードバック操作に基づいて、フィードバック情報を生成し、通信部４４に供給する。
In step S<b>62 , the
ステップＳ６３において、通信部４４は、制御部４２からのフィードバック情報を、無線通信等を用いて、ロボット２２に送信し、処理をステップＳ６１に戻し、それ以降、同様の処理が行われる。なお、このフィードバック処理は、例えば、指示装置２１の電源がオフされたときに終了される。
In step S63, the
以上説明したように、フィードバック処理によれば、ユーザによるフィードバック操作に応じて、表示画面２１aに表示された物体を、ターゲットである等と指示できるようにした。
As described above, according to the feedback processing, it is possible to instruct the object displayed on the
このため、例えば、ロボット２２が、ターゲットではない物体を、ターゲットとして認識している場合等に、指示装置２１により、その物体が、ターゲットではないことをロボット２２にフィードバックさせることが可能となる。
Therefore, for example, when the
[ロボット２２が行うスコア再計算処理について]
次に、図４０のフローチャートを参照して、ロボット２２が行うスコア再計算処理を説明する。
[Regarding the score recalculation process performed by the robot 22]
Next, the score recalculation process performed by the
なお、このスコア再計算処理は、例えば、ロボット２２の電源がオンされたときに開始される。
Note that this score recalculation process is started, for example, when the power of the
ステップＳ８１において、通信部６１は、指示装置２１からのフィードバック情報を受信するまで、ステップＳ８１の処理を繰り返す。そして。ステップＳ８１では、通信部６１は、指示装置２１からのフィードバック情報を受信した場合、受信したフィードバック情報を、制御部６６に供給して、処理をステップＳ８２に進める。
In step S<b>81 , the
ステップＳ８２において、制御部６６は、通信部６１からのフィードバック情報に基づいて、物体のスコアを再計算して、処理をステップＳ８３に進める。
In step S82, the
ステップＳ８３において、制御部６６は、再計算したスコアに基づいて、ロボット認識情報を生成し、通信部６１に供給して、処理をステップＳ８４に進める。
In step S83, the
ステップＳ８４では、通信部６１は、制御部６６からのロボット認識情報を、無線通信等により、指示装置２１に送信して、処理をステップＳ８１に戻し、それ以降、同様の処理が行われる。なお、このスコア再計算処理は、例えば、ロボット２２の電源がオフされたときに終了される。
In step S84, the
以上説明したように、スコア再計算処理によれば、指示装置２１からのフィードバック情報に基づいて、スコアを再計算するようにしたので、ユーザからのフィードバックを反映したスコアを計算することができる。
As described above, according to the score recalculation process, the score is recalculated based on the feedback information from the
＜４．第２の実施の形態の変形例＞
第２の実施の形態では、ユーザが、表示画面２１aを参照して、所定の物体が、ターゲットである旨又はターゲットではない旨のフィードバック操作を行うようにしたが、ユーザによるフィードバック操作は、これに限定されない。
<4. Modification of Second Embodiment>
In the second embodiment, the user refers to the
すなわち、例えば、表示画面２１aに、図４１に示されるようにして、物体２６１乃至２６３が１つの物体として表示される場合、ロボット２２は、物体２６１乃至物体２６３を１つの物体として認識しているものとなる。
That is, for example, when the
この場合、ユーザは、指示装置２１の操作部４１を用いて、例えば、１つの物体が表示された領域を指定するフィードバック操作を行うようにして、ロボット２２に、物体２６１乃至２６３を、それぞれ、１つの物体として認識させるようにすることができる。
In this case, the user uses the operation unit 41 of the
なお、１つの物体が表示された領域を指定するフィードバック操作は、例えば、操作部４１にマウスが含まれる場合、マウスを用いて、１つの物体が表示された領域を指定し、右クリックにより表示される選択肢「分離」を選択するようにして行われる。 Note that the feedback operation for designating an area in which one object is displayed is, for example, when the operation unit 41 includes a mouse, the mouse is used to designate an area in which one object is displayed, and the display is performed by right-clicking. This is done by selecting the option "separate".
そして、制御部４２は、操作部４１から、フィードバック操作に対応する操作信号が供給されたことに対応して、フィードバック情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からのフィードバック情報を、無線通信等によりロボット２２に送信する。
Then, in response to the supply of the operation signal corresponding to the feedback operation from the operation unit 41 , the
ロボット２２において、通信部６１は、通信部４４からのフィードバック情報を制御部６６に供給する。制御部６６は、通信部６１からのフィードバック情報に基づいて、１つの物体として認識していた物体２６１乃至２６３を、それぞれ、１つの物体２６１,２６２,２６３として認識する。
In the
また、制御部６６は、１つの物体として認識した物体２６１、物体２６２、物体２６３についてのスコアを計算し、その計算結果などに基づいて、ロボット認識情報を生成し、通信部６１を介して、指示装置２１に送信する。
In addition, the
指示装置２１では、制御部４２は、ロボット２２の通信部６１から、通信部４４を介して送信されるロボット認識情報に基づいて、表示部４３の表示画面２１aに、図４２に示されるようなロボット認識画像を表示させる。
In the
また、例えば、１つの物体とされるべきもの（例えば、同時に使用されるナイフ、フォーク、及びスプーンのセット等）が、分離して複数の物体として表示画面２１aに表示される場合には、ユーザは、指示装置２１の操作部４１を用いて、例えば、分離して表示された複数の物体を含む領域を指定するフィードバック操作を行うようにして、ロボット２２に、分離して表示された複数の物体を、１つの物体として認識させるようにすることができる。
Also, for example, when an item that should be regarded as one object (for example, a set of knives, forks, and spoons that are used at the same time) is displayed as a plurality of separate objects on the
なお、分離して表示された複数の物体を含む領域を指定するフィードバック操作は、例えば、操作部４１にマウスが含まれる場合、マウスを用いて、各物体が表示された領域をそれぞれ指定し、右クリックにより表示される選択肢「マージ」を選択するようにして行われる。 Note that the feedback operation for designating an area containing a plurality of objects displayed separately is, for example, when a mouse is included in the operation unit 41, using the mouse to designate an area in which each object is displayed, This is done by selecting the option "Merge" displayed by right-clicking.
ところで、例えば、第２の実施の形態では、表示画面２１aに表示された物体に対して、フィードバック操作を行うようにした。
By the way, for example, in the second embodiment, a feedback operation is performed on an object displayed on the
しかしながら、その他、例えば、撮像画像上の物体が、制御部６６により検知されていない場合には、撮像画像上の、未検知の物体を含む領域を指定する領域指定操作により、未検知の物体を、物体としてロボット２２に検知（認識）させるようにすることができる。
However, in addition, for example, when an object on the captured image is not detected by the
これにより、ロボット２２は、図４３に示されるように、未検知（検出）の物体を検知し、検知した物体の認識状態を、「未検出」から「まだ分からない」に決定することとなる。
As a result, the
すなわち、例えば、ユーザは、指示装置２１の操作部４１を用いて、ロボット２２が物体を探索するための探索範囲を指定する領域指定操作を行うようにして、ロボット２２に探索範囲内での探索を行わせるようにすることができる。
That is, for example, the user uses the operation unit 41 of the
＜５．第３の実施の形態＞
次に、図４４は、撮像画像を用いて、探索範囲を指定する場合の一例を示している。
<5. Third Embodiment>
Next, FIG. 44 shows an example of specifying a search range using a captured image.
例えば、ロボット認識情報に、撮像画像として、図４４Aに示されるような周囲画像３１が含まれる場合、指示装置２１の制御部４２は、そのロボット認識情報に基づいて、表示画面２１aに周囲画像３１を表示することとなる。
For example, when the robot recognition information includes a surrounding
この場合、ユーザは、指示装置２１の操作部４１を用いて、図４４Aに示されるように、表示画面２１aに表示された周囲画像３１上の部分領域２８１を、ターゲットを探索する探索範囲に対応する領域として指定する領域指定操作を行うことができる。
In this case, the user uses the operation unit 41 of the
これにより、操作部４１は、ユーザの領域指定操作が行われたことに応じて、対応する操作信号を、制御部４２に供給する。
Thereby, the operation unit 41 supplies the corresponding operation signal to the
制御部４２は、操作部４１からの操作信号に応じて、周囲画像３１上の全領域のうち、ユーザの領域指定操作により指定された部分領域２８１を表す指定範囲情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からの指定範囲情報を、ロボット２２に送信する。
In response to an operation signal from the operation unit 41 , the
これに対して、ロボット２２の通信部６１は、指示装置２１の通信部４４からの指定範囲情報を受信し、制御部６６に供給する。制御部６６は、通信部６１からの指定範囲情報に基づいて、記憶部６８に保持されている周囲画像３１上の部分領域２８１を検出する。
On the other hand, the
そして、制御部６６は、部分領域２８１上の各物体に対応付けられた複数の３次元位置を、記憶部６８から読み出し、読み出した複数の３次元位置に基づいて、ターゲットを探索するための探索範囲を算出（特定）する。
Then, the
なお、制御部６６が、探索範囲を算出する算出方法は、これに限定されない。すなわち、例えば、制御部６６は、部分領域２８１に３次元位置等が対応付けられていなくても、部分領域２８１や、カメラ６２の有効視野角、有効画素数、位置、及び向き等を表すパラメータから、探索範囲を算出することができる。
Note that the calculation method by which the
この場合、記憶部６８には、例えば、周囲画像３１に対応付けて、撮像により周囲画像３１が得られた撮像時刻とともに、撮像時刻におけるカメラ６２の位置及び向き等を表す第１のパラメータが、カメラ６２の撮像時に、制御部６６により記憶されるものとする。また、記憶部６８には、カメラ６２の有効視野角及び有効画素数等を表す第２のパラメータが予め記憶されているものとする。
In this case, in the
すなわち、例えば、制御部６６は、撮像により周囲画像３１が得られた撮像時刻におけるカメラ６２の位置及び向き等を表す第１のパラメータと、カメラ６２の有効視野角及び有効画素数等を表す第２のパラメータを、記憶部６８から読み出す。
That is, for example, the
そして、制御部６６は、第１及び第２のパラメータを用いることにより、周囲画像３１上を占める部分領域２８１から、部分領域２８１に対応する３次元的な視野範囲、つまり、撮像時刻において、部分領域２８１として撮像された実空間上の領域を特定する。
Then, by using the first and second parameters, the
なお、探索範囲としては、視野範囲のうち、ロボット２２が行動可能な領域が採用される。
As the search range, an area in which the
制御部６６は、駆動部６７を制御して、ロボット２２の手や足に相当する部位を駆動させ、算出した探索範囲内でターゲットを探索する動作を実行させる。
The
また、例えば、ロボット認識情報に、図４４Bに示されるような部分画像３５が含まれる場合、指示装置２１の制御部４２は、そのロボット認識情報に基づいて、表示画面２１aに部分画像３５を表示することとなる。
Further, for example, when the robot recognition information includes a
この場合、ユーザは、指示装置２１の操作部４１を操作して、表示画面２１aに表示された部分画像３５上の物体「りんごジュース」を検知させるように、部分画像３５上の部分領域２８２を指定する領域指定操作を行うことができる。
In this case, the user operates the operation unit 41 of the
これにより、ロボット２２は、部分画像３５上の部分領域２８２に対応する探索範囲内でターゲットを探索する動作を実行することとなる。よって、物体「りんごジュース」をロボット２２に検知させることができる。
As a result, the
なお、部分画像３５としては、例えば、ユーザの領域指定操作により指定された領域を、より近距離で撮像した場合に得られる撮像画像や、過去の撮像により得られた撮像画像の一部分の画像を採用することができる。
Note that the
次に、図４５は、室内の空間図を用いて、探索範囲を指定する場合の一例を示している。 Next, FIG. 45 shows an example of designating a search range using an indoor space map.
例えば、ロボット認識情報に、図４５に示されるような空間画像３０１（室内の空間図を表す画像）が含まれる場合、指示装置２１の制御部４２は、そのロボット認識情報に基づいて、表示画面２１aに空間画像３０１を表示することとなる。なお、記憶部４５に、予め空間画像３０１を保持するように構成すれば、制御部４２は、記憶部４５から空間画像３０１を読み出して、表示画面２１aに表示することとなる。
For example, when the robot recognition information includes a spatial image 301 (an image representing an indoor space diagram) as shown in FIG. A
この場合、ユーザは、指示装置２１の操作部４１を操作して、表示画面２１aに表示された空間画像３０１上の部分領域３２１を、探索範囲として指定する領域指定操作を行うようことができる。
In this case, the user can operate the operation unit 41 of the
これにより、操作部４１は、ユーザの領域指定操作が行われたことに応じて、対応する操作信号を、制御部４２に供給する。
Thereby, the operation unit 41 supplies the corresponding operation signal to the
制御部４２は、操作部４１からの操作信号に応じて、空間画像３０１上の全領域のうち、ユーザの領域指定操作により指定された部分領域３２１を表す指定範囲情報を生成し、通信部４４に供給する。通信部４４は、制御部４２からの指定範囲情報を、ロボット２２に送信する。なお、指定範囲情報は、ロボット２２が、ターゲットを探索するための探索範囲を特定（把握）するための特定情報として用いられる。
In response to an operation signal from the operation unit 41 , the
これに対して、ロボット２２の通信部６１は、指示装置２１の通信部４４からの指定範囲情報を受信し、制御部６６に供給する。制御部６６は、通信部６１からの指定範囲情報に基づいて、記憶部６８に保持されている空間画像３０１上の部分領域３２１を検出する。
On the other hand, the
そして、制御部６６は、部分領域３２１を構成する各小領域に対応付けられた複数の３次元位置を、記憶部６８から読み出し、読み出した複数の３次元位置に基づいて、探索範囲を算出する。
Then, the
制御部６６は、駆動部６７を制御して、ロボット２２の手や足に相当する部位を駆動させ、算出した探索範囲内でターゲットを探索する動作を実行させる。なお、制御部６６は、通信部６１からの指示情報に基づいて、その指示情報に含まれるカテゴリ情報が表すカテゴリに属する物体を、ターゲットとして、探索範囲内で探索する動作を実行させる。また、例えば、制御部６６は、指示装置２１から通信部６１を介して指示情報を受信していない場合、ターゲットを自律的に決定して、探索範囲内を探索する動作を実行させる。
The
これにより、ロボット２２は、空間画像３０１上の部分領域３２１に対応する探索範囲内でターゲットを探索する動作を実行することとなる。
As a result, the
なお、表示画面２１aに空間画像３０１が表示されている場合、ユーザが、操作部４１を用いて、例えば、空間画像３０１上の全領域のうち、部分領域３２２を選択したときには、部分領域３２２内での撮像により得られた撮像画像３４１を、表示画面２１aに表示させることができる。
Note that when the
すなわち、例えば、指示装置２１において、制御部４２は、ロボット２２から通信部４４を介して送信されてくるロボット認識情報を、記憶部４５に供給して記憶させている。
That is, for example, in the
したがって、記憶部４５には、図４５に示されるような空間画像３０１とともに、撮像画像３４１が、空間画像３０１上の部分領域３２２に対応付けられて記憶されている。
Therefore, the
このため、制御部４２は、ユーザにより部分領域３２２の選択が行われた場合、記憶部４５から、ユーザにより選択された部分領域３２２に対応する撮像画像３４１を読み出し、図４５に示されるようにして、表示画面２１aに表示させる。
Therefore, when the
そして、ユーザは、操作部４１を用いて、表示画面２１aに表示された撮像画像３４１に対して、図４４Bを参照した場合と同様にして、撮像画像３４１上の部分領域３６１を指定する領域指定操作を行うことができる。
Then, the user uses the operation unit 41 to designate a
これにより、ロボット２２は、撮像画像３４１上の部分領域３６１に対応する探索範囲内でターゲットを探索する動作を実行することとなる。
As a result, the
なお、撮像画像３４１は、ロボット認識情報に含まれた状態で、ロボット２２から指示装置２１に送信される。
Note that the captured
ところで、ロボット２２から指示装置２１に送信されるロボット認識情報は、無線通信等におけるデータの輻輳を避けるために、少ないデータ量であることが望ましい。
By the way, the robot recognition information transmitted from the
そこで、例えば、ロボット２２が、撮像画像３４１を、ロボット認識情報に含めて送信する場合には、図４６Bに示される高画質な撮像画像３４１のデータ量を少なくした、図４６Aに示されるような低画質の撮像画像３４１'を送信するようにしてもよい。なお、この撮像画像３４１'は、ユーザによる領域の指定等には用いられず、例えば、物体「りんごジュース」の物体画像を、表示画面２１aに表示する際に用いられる。また、ユーザによる領域の指定等に用いられる撮像画像は、高画質のままで送信され、表示画面２１aに表示されることが望ましい。
Therefore, for example, when the
撮像画像３４１'は、撮像画像３４１'上の全領域のうち、物体（「りんごジュース」のペットボトル）が写る部分領域３８１は、物体画像として用いるため、高画質とされ、それ以外の部分（斜線で示される部分）は、低画質とされている。
Of the entire region of the captured
すなわち、例えば、部分領域３８１は、高解像度又はカラーとされ、部分領域３８１以外は、低解像度又はモノクロとされる。
That is, for example, the
[指示装置２１が行う領域指定処理について]
次に、図４７のフローチャートを参照して、指示装置２１が行う領域指定処理について説明する。
[Regarding area designation processing performed by the pointing device 21]
Next, with reference to the flowchart of FIG. 47, the area specifying process performed by the
ステップＳ１０１において、通信部４４は、ロボット２２からのロボット認識情報を受信して、制御部４２に供給する。なお、ロボット認識情報には、例えば、撮像画像として、周囲画像３１が含まれているものとする。
In step S<b>101 , the
ステップＳ１０２において、制御部４２は、通信部４４からのロボット認識情報に含まれる周囲画像３１を、表示部４３に供給して、表示部４３の表示画面２１aに表示させる。
In step S<b>102 , the
ステップＳ１０３において、制御部４２は、操作部４１から、ユーザの領域指定操作に対応する操作信号が供給されたか否かに応じて、ユーザによる領域指定操作が行われたか否かを判定する。なお、領域指定操作とは、例えば、表示画面２１aに表示された周囲画像３１上の全領域のうち、所定の部分領域２８１を指定する操作をいう。
In step S<b>103 , the
そして、ステップＳ１０３では、制御部４２は、操作部４１からの操作信号に応じて、ユーザの領域指定操作が行われたと判定するまで、ステップＳ１０３の処理を繰り返して行う。
In step S<b>103 , the
ステップＳ１０３において、制御部４２は、ユーザの領域指定操作が行われたと判定した場合、処理をステップＳ１０４に進める。この場合、操作部４１から制御部４２には、ユーザの領域指定操作に対応する操作信号が供給される。
In step S103, when the
ステップＳ１０４において、制御部４２は、操作部４１からの操作信号に応じて、周囲画像３１上の、領域指定操作により指定された部分領域２８１を表す指定範囲情報を生成し、通信部４４に供給する。なお、指定範囲情報は、ロボット２２が、ターゲットを探索するための探索範囲を特定（把握）するための特定情報として用いられる。
In step S<b>104 , the
ステップＳ１０５では、通信部４４は、制御部４２からの指定範囲情報を、無線通信等を用いて、ロボット２２に供給し、ロボット２２に、探索範囲で探索を行わせる。以上で、この領域指定処理は終了される。
In step S105, the
以上説明したように、領域指定処理によれば、ユーザによる領域指定操作により、ロボット２２がターゲットを探索する探索範囲を指示できるようにしたので、例えば、ユーザが所望する範囲内を、ロボット２２に探索させることが可能となる。
As described above, according to the region designation process, the user can designate a search range in which the
特に、例えば、ユーザによる領域指定操作により、ロボット２２が未検知の物体を少なくとも含む範囲を、探索範囲として指定することで、ロボット２２に、未検知の物体を検知させるようにすることが可能となる。
In particular, for example, the
[ロボット２２が行う探索処理について]
次に、図４８のフローチャートを参照して、ロボット２２が行う探索処理について説明する。
[Regarding the search process performed by the robot 22]
Next, the search processing performed by the
ステップＳ１２１において、通信部６１は、指示装置２１の通信部４４からの指定範囲情報を受信し、制御部６６に供給する。なお、ステップＳ１２１は、後述するステップa１２２及びステップＳ１２３と並行して行われる。すなわち、例えば、通信部６１は、ステップＳ１２２又はステップＳ１２２の処理が実行中でも、指示装置２１の通信部４４からの指定範囲情報を受信することができる。
In step S<b>121 , the
ステップＳ１２２において、制御部６６は、通信部６１からの指定範囲情報に基づいて、記憶部６８に保持されている周囲画像３１上の部分領域２８１を検出する。
In step S<b>122 , the
ｒ
そして、制御部６６は、部分領域２８１を構成する各小領域に対応付けられた複数の３次元位置を、記憶部６８から読み出し、読み出した複数の３次元位置に基づいて、探索範囲を算出（特定）する。
r
Then, the
ステップＳ１２３において、制御部６６は、算出した探索範囲で、ロボット２２がターゲットを探索できるように、駆動部６７を駆動させる。なお、制御部６６は、例えば、通信部６１からの指示情報に基づいて、その指示情報に含まれるカテゴリ情報が表すカテゴリに属する物体を、ターゲットとするようにしている。以上で、探索処理は終了される。
In step S123, the
以上説明したように、探索処理では、ユーザの領域指定操作により指定された探索範囲内で、ターゲットを探索するようにした。 As described above, in the search process, the target is searched within the search range designated by the user's region designation operation.
このため、例えば、ユーザによる領域指定操作により、ロボット２２が未検知の物体を少なくとも含む範囲が、探索範囲として指定された場合、ロボット２２により、未検知の物体を検知することが可能となる。
Therefore, for example, when a range including at least an undetected object by the
なお、物体そのものではなく、ユーザの領域指定操作により探索範囲を指定するようにしているのは、ロボット２２が未検知の物体を指定することができないためである。
The reason why the search range is specified by the user's area specifying operation rather than the object itself is that the
よって、ユーザは、ロボット２２が未検知の物体を含む探索範囲を指定することにより、ロボット２２に、指定された探索範囲を探索させて、未検知の物体を検知させることができる。
Therefore, by designating a search range that includes an undetected object by the
また、領域指定処理のステップＳ１０３において、例えば、ユーザが、表示画面２１aに表示された周囲画像３１上の全領域のうち、所定の部分領域２８１を指定するようにして、探索範囲を指定するようにしたが、探索範囲の指定方法は、これに限定されない。
Further, in step S103 of the region designation process, for example, the user designates a predetermined
すなわち、例えば、指示装置２１が、ユーザを撮像して得られる撮像画像から、ユーザのジェスチャやポスチャ等（以下、ジェスチャ等という）を認識できる場合には、ユーザは、ジェスチャ等により、探索範囲を指定することができる。
That is, for example, if the
また、例えば、指示装置２１が、音声を認識できる場合には、ユーザは、音声により、探索範囲を指定することができる。この場合、ユーザは、例えば、探索範囲として、「台所」や「ぼくの部屋」等と発話することで、探索範囲を指定することができる。
Further, for example, when the
このような場合、その他、例えば、ユーザは、音声やジェスチャ等により、ターゲットとされる物体のカテゴリを指定（指示）することもできる。これにより、指示装置２１では、ユーザに指定されたカテゴリを表すカテゴリ情報を含む指示情報が生成される。
In such a case, for example, the user can specify (indicate) the category of the target object by voice, gesture, or the like. As a result, the
さらに、例えば、ロボット２２が、ユーザを撮像して得られる撮像画像からジェスチャ等を認識できる場合には、ユーザは、ジェスチャ等により、直接に、ロボット２２に対して探索範囲を指定することができる。
Furthermore, for example, if the
この場合、例えば、制御部６６は、カメラ６２からの撮像画像に基づいて、ユーザのジェスチャを認識し、その認識結果を、探索範囲を特定するために用いられる特定情報として取得（生成）する。そして、制御部６６は、取得した特定情報を用いて、探索範囲を特定し、駆動部６７を制御して、特定した探索範囲でロボット２２に探索を行なわせる。
In this case, for example, the
また、例えば、ロボット２２が、音声を認識できる場合には、ユーザは、音声により、直接に、ロボット２２に対して探索範囲を指定することができる。
Also, for example, if the
この場合、例えば、制御部６６は、マイクロホン６４から入力されるユーザの音声に基づいて、ユーザの音声を認識し、その認識結果を、特定情報として取得（生成）する。そして、制御部６６は、取得した特定情報を用いて、探索範囲を特定し、駆動部６７を制御して、特定した探索範囲でロボット２２に探索を行なわせる。
In this case, for example, the
このような場合、その他、例えば、ユーザは、音声やジェスチャ等により、ターゲットとされる物体のカテゴリを、直接にロボット２２に対して指定（指示）することもできる。
In such a case, for example, the user can directly specify (instruct) the category of the target object to the
これにより、制御部６６では、ユーザに指定されたカテゴリを表すカテゴリ情報を含む指示情報が生成され、生成された指示情報に含まれるカテゴリ情報が表すカテゴリに属する物体を、ターゲットとしてロボット２２に探索を行わせる。
As a result, the
ところで、指示装置２１としては、例えば、パーソナルコンピュータ等を適用することができる。
By the way, as the
なお、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、プログラム記録媒体からインストールされる。 The series of processes described above can be executed by hardware or by software. When a series of processes is executed by software, the programs that make up the software can be installed in a computer that is built into dedicated hardware, or various functions can be executed by installing various programs. It is installed from a program recording medium, for example, on a general-purpose computer.
[コンピュータの構成例]
図４９は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアのTを示すブロック図である。
[Computer configuration example]
FIG. 49 is a block diagram showing hardware T of a computer that executes the series of processes described above by a program.
CPU（Central Processing Unit）５０１は、ROM（Read Only Memory）５０２、又は記憶部５０８に記憶されているプログラムに従って各種の処理を実行する。RAM（Random Access Memory）５０３には、CPU５０１が実行するプログラムやデータ等が適宜記憶される。これらのCPU５０１、ROM５０２、及びRAM５０３は、バス５０４により相互に接続されている。
A CPU (Central Processing Unit) 501 executes various processes according to programs stored in a ROM (Read Only Memory) 502 or a
CPU５０１にはまた、バス５０４を介して入出力インタフェース５０５が接続されている。入出力インタフェース５０５には、キーボード、マウス、マイクロホン等よりなる入力部５０６、ディスプレイ、スピーカ等よりなる出力部５０７が接続されている。CPU５０１は、入力部５０６から入力される指令に対応して各種の処理を実行する。そして、CPU５０１は、処理の結果を出力部５０７に出力する。
An input/
入出力インタフェース５０５に接続されている記憶部５０８は、例えばハードディスクからなり、CPU５０１が実行するプログラムや各種のデータを記憶する。通信部５０９は、インターネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
A
また、通信部５０９を介してプログラムを取得し、記憶部５０８に記憶してもよい。
Alternatively, the program may be acquired via the
入出力インタフェース５０５に接続されているドライブ５１０は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア５１１が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部５０８に転送され、記憶される。
A drive 510 connected to an input/
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録（記憶）する記録媒体は、図４９に示すように、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む）、光磁気ディスク（ＭＤ（Mini-Disc）を含む）、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア５１１、又は、プログラムが一時的もしくは永続的に格納されるROM５０２や、記憶部５０８を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部５０９を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
As shown in FIG. 49, recording media for recording (storing) a program that is installed in a computer and made executable by the computer include magnetic disks (including flexible disks), optical disks (CD-ROM (Compact Disc-ROM), etc.). (including Read Only Memory), DVD (Digital Versatile Disc)), magneto-optical disc (including MD (Mini-Disc)), or
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。 In this specification, the steps describing the series of processes described above are not only processes performed chronologically in the described order, but also processes not necessarily performed chronologically, in parallel or individually. It also includes the processing to be performed.
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。 Further, in this specification, the term "system" refers to an entire device composed of a plurality of devices.
なお、本開示は、第１乃至第３の実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。 It should be noted that the present disclosure is not limited to the first to third embodiments, and various modifications are possible within the scope of the present disclosure.
１ ロボット制御システム, ２１ 指示装置, ２１a 表示画面, ２２ ロボット, ４１ 操作部, ４２ 制御部, ４３ 表示部, ４４ 通信部, ４５ 記憶部, ６１ 通信部, ６２ カメラ, ６３ 距離センサ, ６４ マイクロホン, ６５ スピーカ, ６６ 制御部, ６７ 駆動部, ６８ 記憶部 1 robot control system, 21 instruction device, 21a display screen, 22 robot, 41 operation unit, 42 control unit, 43 display unit, 44 communication unit, 45 storage unit, 61 communication unit, 62 camera, 63 distance sensor, 64 microphone, 65 speaker, 66 control section, 67 drive section, 68 storage section
Claims (16)
撮影画像を撮影し、画像データを生成する撮影部と、
前記移動体の現在位置情報を、GPSに基づく対象位置に生成する位置情報生成部と、
前記移動体の前記現在位置情報に基づいて前記移動体の計画された移動経路に沿った現在位置を示す地図と、前記画像データに基づいて前記撮影画像の中の２以上のターゲットとして認識された物体を示す認識状態を表す表示とを表示する指示装置に、前記現在位置情報と前記画像データとを送信する送信部と、
前記撮影画像の中で前記ターゲットとして認識された物体を示す前記認識状態を表す表示に対してのユーザの選択操作を示すフィードバック情報を、前記指示装置から受信する受信部と、
前記フィードバック情報に基づいて、前記移動体の動作を制御する制御部と
を備える移動体。 a driving unit that drives the movement of the moving body so as to be controllable;
an imaging unit that captures a captured image and generates image data;
a location information generating unit that generates the current location information of the mobile object at a target location based on GPS;
A map indicating the current position along the planned movement route of the mobile object based on the current position information of the mobile object, and two or more targets in the captured image based on the image data. a transmission unit configured to transmit the current position information and the image data to an instruction device that displays an indication representing a recognition state indicating an object ;
a receiving unit that receives, from the pointing device, feedback information indicating a user's selection operation on the display representing the recognition state indicating the object recognized as the target in the captured image;
and a control unit that controls the operation of the mobile body based on the feedback information.
請求項１に記載の移動体。 2. The mobile object of claim 1, wherein the feedback information is generated based on a command input indicating selection of the object recognized as the target .
請求項２に記載の移動体。 The moving body according to claim 2, wherein the driving section controls the moving body to move toward the object recognized as the target .
請求項１に記載の移動体。 2. The control unit according to claim 1, wherein the control unit acquires the image data of the photographed images continuously photographed by the photographing unit, including the object recognized as the target and recognized based on the feedback information. Mobile.
請求項４に記載の移動体。 The mobile body according to claim 4, wherein the transmission unit transmits the image data of the captured image including the object recognized as the target .
請求項１に記載の移動体。 The moving body according to claim 1, wherein the control section controls the driving section of the moving body to move the moving body.
請求項１に記載の移動体。 The moving object according to claim 1, wherein the control unit controls a movement range of the moving object based on at least the current position information.
請求項１に記載の移動体。 The moving object according to claim 1, wherein the control unit controls a movement range of the moving object based on at least the feedback information.
請求項８に記載の移動体。 The mobile body according to claim 8, wherein the mobile body is controlled based on the movement range of the mobile body.
請求項１に記載の移動体。 The moving body according to claim 1, wherein the control unit acquires a distance from the moving body to the object recognized as the target by a distance sensor of the moving body.
請求項１０に記載の移動体。 The moving object according to claim 10, wherein the control unit calculates position information of the object recognized as the target based on the current position information of the moving object and the distance.
請求項１に記載の移動体。 The mobile object according to claim 1, wherein the mobile object is controlled based on the position information of the object recognized as the target .
請求項１に記載の移動体。 The moving object according to claim 1.
請求項１に記載の移動体。 The moving object according to claim 1.
前記移動体の動きを制御可能に駆動し、
撮影画像を撮影し、画像データを生成し、
前記移動体の現在位置情報を、GPSに基づく対象位置に生成し、
前記移動体の前記現在位置情報に基づいて前記移動体の計画された移動経路に沿った現在位置を示す地図と、前記画像データに基づいて前記撮影画像の中の２以上のターゲットとして認識された物体を示す認識状態を表す表示とを表示する指示装置に、前記現在位置情報と前記画像データとを送信し、
前記撮影画像の中で前記ターゲットとして認識された物体を示す前記認識状態を表す表示に対してのユーザの選択操作を示すフィードバック情報を、前記指示装置から受信し、
前記フィードバック情報に基づいて、前記移動体の動作を制御する
制御方法。 the moving body
controllably driving the movement of the moving body;
Take a shot image, generate image data,
generating the current location information of the mobile object at a target location based on GPS;
A map indicating the current position along the planned movement route of the mobile object based on the current position information of the mobile object, and two or more targets in the captured image based on the image data. transmitting the current position information and the image data to a pointing device that displays a display representing a recognition state indicating an object ;
receiving, from the pointing device, feedback information indicating a user's selection operation on the display representing the recognition state indicating the object recognized as the target in the captured image;
A control method for controlling the operation of the moving object based on the feedback information.
撮影画像を撮影し、画像データを生成する撮影部と
を備える前記移動体のコンピュータを、
前記移動体の現在位置情報を、GPSに基づく対象位置に生成する位置情報生成部と、
前記移動体の前記現在位置情報に基づいて前記移動体の計画された移動経路に沿った現在位置を示す地図と、前記画像データに基づいて前記撮影画像の中の２以上のターゲットとして認識された物体を示す認識状態を表す表示とを表示する指示装置に、前記現在位置情報と前記画像データとを送信する送信部と、
前記撮影画像の中で前記ターゲットとして認識された物体を示す前記認識状態を表す表示に対してのユーザの選択操作を示すフィードバック情報を、前記指示装置から受信する受信部と、
前記フィードバック情報に基づいて、前記移動体の動作を制御する制御部と
して機能させるプログラム。 a driving unit that drives the movement of the moving body so as to be controllable;
an imaging unit that captures a captured image and generates image data;
a location information generating unit that generates the current location information of the mobile object at a target location based on GPS;
A map indicating the current position along the planned movement route of the mobile object based on the current position information of the mobile object, and two or more targets in the captured image based on the image data. a transmission unit configured to transmit the current position information and the image data to an instruction device that displays a display representing a recognition state indicating an object ;
a receiving unit that receives, from the pointing device, feedback information indicating a user's selection operation on the display representing the recognition state indicating the object recognized as the target in the captured image;
A program that functions as a control unit that controls the operation of the moving object based on the feedback information.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021120290A JP7338662B2 (en) | 2019-12-24 | 2021-07-21 | Mobile object, control method and program |
| JP2023129859A JP2023138731A (en) | 2019-12-24 | 2023-08-09 | Mobile body, control method, and program |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019232391A JP6922969B2 (en) | 2018-07-20 | 2019-12-24 | Mobiles, control methods, and programs |
| JP2021120290A JP7338662B2 (en) | 2019-12-24 | 2021-07-21 | Mobile object, control method and program |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019232391A Division JP6922969B2 (en) | 2018-07-20 | 2019-12-24 | Mobiles, control methods, and programs |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023129859A Division JP2023138731A (en) | 2019-12-24 | 2023-08-09 | Mobile body, control method, and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2021166106A JP2021166106A (en) | 2021-10-14 |
| JP7338662B2 true JP7338662B2 (en) | 2023-09-05 |
Family
ID=78022204
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021120290A Active JP7338662B2 (en) | 2019-12-24 | 2021-07-21 | Mobile object, control method and program |
| JP2023129859A Pending JP2023138731A (en) | 2019-12-24 | 2023-08-09 | Mobile body, control method, and program |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023129859A Pending JP2023138731A (en) | 2019-12-24 | 2023-08-09 | Mobile body, control method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (2) | JP7338662B2 (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007152443A (en) | 2005-11-30 | 2007-06-21 | Mitsubishi Heavy Ind Ltd | Clearing-away robot |
| JP2009129058A (en) | 2007-11-21 | 2009-06-11 | Mitsubishi Heavy Ind Ltd | Position specifying apparatus, operation instruction apparatus, and self-propelled robot |
| JP2009531184A (en) | 2006-03-27 | 2009-09-03 | コミッサリア タ レネルジー アトミーク | Intelligent interface device for gripping an object by an operating robot and method of operating this device |
-
2021
- 2021-07-21 JP JP2021120290A patent/JP7338662B2/en active Active
-
2023
- 2023-08-09 JP JP2023129859A patent/JP2023138731A/en active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007152443A (en) | 2005-11-30 | 2007-06-21 | Mitsubishi Heavy Ind Ltd | Clearing-away robot |
| JP2009531184A (en) | 2006-03-27 | 2009-09-03 | コミッサリア タ レネルジー アトミーク | Intelligent interface device for gripping an object by an operating robot and method of operating this device |
| JP2009129058A (en) | 2007-11-21 | 2009-06-11 | Mitsubishi Heavy Ind Ltd | Position specifying apparatus, operation instruction apparatus, and self-propelled robot |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2021166106A (en) | 2021-10-14 |
| JP2023138731A (en) | 2023-10-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12036672B2 (en) | Display control device, display control method, computer program product, and communication system | |
| JP5892361B2 (en) | Control device, control method, program, and robot control system | |
| KR20140043665A (en) | Image processing device, image processing method, and storage medium | |
| JP6439806B2 (en) | Robot apparatus and program | |
| JP6249247B2 (en) | Control device, control method, and program | |
| JP6642644B2 (en) | Moving object, control method, and program | |
| JP6922969B2 (en) | Mobiles, control methods, and programs | |
| JP7338662B2 (en) | Mobile object, control method and program | |
| JP6168179B2 (en) | Control device, control method, and program | |
| JP6372730B2 (en) | Control device, control method, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210726 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220531 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220607 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220727 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221122 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230116 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230207 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230725 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230807 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 7338662 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |