[go: up one dir, main page]

JP2018055248A - 情報収集システム、電子棚札、電子pop、文字情報表示装置 - Google Patents

情報収集システム、電子棚札、電子pop、文字情報表示装置 Download PDF

Info

Publication number
JP2018055248A
JP2018055248A JP2016188255A JP2016188255A JP2018055248A JP 2018055248 A JP2018055248 A JP 2018055248A JP 2016188255 A JP2016188255 A JP 2016188255A JP 2016188255 A JP2016188255 A JP 2016188255A JP 2018055248 A JP2018055248 A JP 2018055248A
Authority
JP
Japan
Prior art keywords
information
customer
product
information collection
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016188255A
Other languages
English (en)
Inventor
恭子 石田
Kyoko Ishida
恭子 石田
直規 葛谷
Naoki Kuzutani
直規 葛谷
健 益浦
Takeshi MASUURA
健 益浦
住広 博
Hiroshi Sumihiro
博 住広
大木 光晴
Mitsuharu Oki
光晴 大木
小野 博明
Hiroaki Ono
博明 小野
英史 山田
Hidefumi Yamada
英史 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2016188255A priority Critical patent/JP2018055248A/ja
Priority to CN201780058015.5A priority patent/CN109716378B/zh
Priority to US16/328,596 priority patent/US11403672B2/en
Priority to PCT/JP2017/033201 priority patent/WO2018061790A1/ja
Publication of JP2018055248A publication Critical patent/JP2018055248A/ja
Priority to US17/858,805 priority patent/US12026748B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0251Targeted advertisements
    • G06Q30/0268Targeted advertisements at point-of-sale [POS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F9/00Details other than those peculiar to special kinds or types of apparatus
    • G07F9/02Devices for alarm or indication, e.g. when empty; Advertising arrangements in coin-freed apparatus
    • G07F9/026Devices for alarm or indication, e.g. when empty; Advertising arrangements in coin-freed apparatus for alarm, monitoring and auditing in vending machines or means for indication, e.g. when empty
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/01Details for indicating
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Theoretical Computer Science (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Image Processing (AREA)
  • Display Racks (AREA)

Abstract

【課題】電子棚札、撮像装置、通信装置、情報処理装置、電子機器、コンピュータ、プログラム、記憶媒体、システム等に適用することができる、より高精度な情報を収集することができるようにする情報処理システムを提供する。
【解決手段】棚装置101−1〜Mにおいて、顧客または商品に関する情報を収集する情報収集装置122を商品種毎に備える。または、商品に関する情報を供給する情報処理装置と、その情報処理装置より供給される商品に関する情報を表示する情報表示端末とを備える。
【選択図】図5

Description

本技術は、情報収集システム、電子棚札、電子POP、文字情報表示装置に関し、特に、より高精度な情報を収集することができるようにした情報収集システム、電子棚札、電子POP、文字情報表示装置に関する。
従来、商品を販売する店舗等において、商品やその商品を購入する顧客に関する情報を収集することが考えられた。
例えば、自動販売機にカメラを設置し、商品を購入する顧客の情報を収集することが考えられた(例えば、特許文献1参照)。また、商品の陳列棚にカメラを設け、陳列棚周辺の顧客の情報を収集することが考えられた(例えば、特許文献2参照)。
特開2009−042956号公報 特開2013−144001号公報
しかしながら、これらの特許文献に記載の方法では、設置されるカメラの台数が、販売される商品種の数より少なかった。そのため、顧客がどの商品を見ているかまでを高精度に推定することが困難であった。
本技術は、このような状況に鑑みて提案されたものであり、より高精度な情報を収集することを目的とする。
本技術の一側面の情報収集システムは、顧客または商品に関する情報を収集する情報収集装置を商品種毎に備える情報収集システムである。
商品の置き場所に設置した前記情報収集装置の数が、前記情報を収集する商品種の数と同数以上であるようにすることができる。
商品の置き場所に設置した前記情報収集装置の数が、前記情報収集装置から、前記情報を集積するデータ集積装置へ転送される、商品毎の前記情報における、商品種の数と同数以上であるようにすることができる。
商品の置き場所に設置した前記情報収集装置の数が、前記情報を出力する商品種の数と同数以上であるようにすることができる。
前記情報収集装置は、撮像機能および通信機能を備えるネットワークカメラであるようにすることができる。
前記情報収集装置は、撮像機能および通信機能を有する電子棚札であるようにすることができる。
前記情報収集装置は、撮像機能および通信機能を有する電子POP(Point of purchase advertising)であるようにすることができる。
前記情報収集装置は、撮像機能および通信機能を有する文字情報表示装置であるようにすることができる。
前記情報収集装置は、他の装置から供給される情報を取得し、表示することができる。
前記他の装置は、前記情報収集装置から供給された商品の識別情報に対応する前記商品に関する情報を前記情報収集装置に供給し、前記情報収集装置は、供給された前記商品に関する情報を表示することができる。
本技術の他の側面の電子棚札は、顧客または商品に関する情報を収集する情報収集部を備える電子棚札である。
前記情報収集部は、イメージセンサであるようにすることができる。
本技術の他の側面の電子POP(Point of purchase advertising)は、顧客または商品に関する情報を収集する情報収集部を備える電子POPである。
前記情報収集部は、イメージセンサであるようにすることができる。
(イメージセンサ)
本技術の他の側面の文字情報表示装置は、顧客または商品に関する情報を収集する情報収集部を備える文字情報表示装置である。
前記情報収集部は、イメージセンサであるようにすることができる。
本技術の一側面においては、商品種ごとに設置される情報収集装置により顧客または商品に関する情報が収集される。
本技術の他の側面においては、顧客または商品に関する情報が収集される。
本技術によれば、情報を処理することが出来る。また本技術によれば、より高精度な情報を収集することができる。
従来の自動販売機の例を説明する図である。 従来の陳列棚の例を説明する図である。 従来の視線推定の例を説明する図である。 従来の視線推定の例を説明する図である。 情報収集システムの主な構成例を示す図である。 情報収集システムの他の構成例を示す図である。 情報収集装置の例を示す図である。 情報収集システムの各装置の主な構成例を示すブロック図である。 情報収集装置の主な構成例を示すブロック図である。 収集する情報の例を説明する図である。 情報収集システムの構成例と情報収集の様子の例を説明する図である。 情報収集システムの構成例と情報収集の様子の例を説明する図である。 情報収集システムの構成例と情報収集の様子の例を説明する図である。 情報収集システムの構成例と情報収集の様子の例を説明する図である。 電力供給構造の例を示す図である。 電力供給構造の例を示す図である。 電力供給構造の例を示す図である。 電力供給構造の例を示す図である。 顧客が見た商品種の特定の様子の例を説明する図である。 顧客が見た商品種の特定の様子の例を説明する図である。 同一人物特定の様子の例を説明する図である。 同一人物特定の様子の例を説明する図である。 同一人物特定の様子の例を説明する図である。 顧客が見た商品種の特定の様子の例を説明する図である。 顧客が見た商品種の特定の様子の例を説明する図である。 情報表示システムの主な構成例を示す図である。 情報表示端末の主な構成例を示す図である。 電子棚札システムの主な構成例を示す図である。 電子棚札配置の様子の例を説明する図である。 電子棚札の主な構成例を示すブロック図である。 画像認識部の主な構成例を示すブロック図である。 サーバの主な構成例を示すブロック図である。 情報取得処理の流れの例を説明するフローチャートである。 画像認識処理の流れの例を説明するフローチャートである。 画像認識処理の流れの例を説明するフローチャートである。 画像データ選定処理の流れの例を説明するフローチャートである。 画像データ選定処理の流れの例を説明するフローチャートである。 画像データ選定処理の流れの例を説明するフローチャートである。 データ提供処理の流れの例を説明するフローチャートである。 表示制御処理の流れの例を説明するフローチャートである。 データ提供処理の流れの例を説明するフローチャートである。 表示用データ取得処理の流れの例を説明するフローチャートである。 情報取得処理の流れの例を説明するフローチャートである。 表示制御処理の流れの例を説明するフローチャートである。 データ取得処理の流れの例を説明するフローチャートである。 顔位置特定の様子の例を説明する図である。 客情報認識処理の流れの例を説明するフローチャートである。 動体検知機能の様子の例を説明する図である。 電子棚札の主な構成例を示すブロック図である。 客情報認識処理の流れの例を説明するフローチャートである。 客情報認識処理の流れの例を説明するフローチャートである。 画像認識部の主な構成例を示すブロック図である。 画像認識処理の流れの例を説明するフローチャートである。 認識データ選定処理の流れの例を説明するフローチャートである。 電子棚札の主な構成例を示す外観図である。 客を撮像する様子の例を説明する図である。 カメラの可動範囲の顔認識の例を説明する図である。 電子棚札の主な構成例を示すブロック図である。 電源制御の例を説明する図である。 電源制御処理の流れの例を説明するフローチャートである。 情報取得処理の流れの例を説明するフローチャートである。 情報取得処理の流れの例を説明する、図48に続くフローチャートである。 コンピュータの主な構成例を示すブロック図である。
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(情報収集システム・情報表示システム)
2.第2の実施の形態(電子棚札システム)
3.第3の実施の形態(電子棚札における選定)
4.第4の実施の形態(応用例1:顔の大きさ特定)
5.第5の実施の形態(応用例2:動体検知)
6.第6の実施の形態(応用例3:表示制御)
7.第7の実施の形態(応用例4:可動撮像部)
8.第8の実施の形態(応用例5:電源制御部)
9.第9の実施の形態(応用例6:顔の向きの検出処理の制御)
10.第10の実施の形態(その他)
<1.第1の実施の形態>
<顧客や商品の情報の収集>
従来、商品を販売する店舗等において、商品やその商品を購入する顧客に関する情報を収集することが考えられた。例えば、特許文献1には、カメラ2を設置し、そのカメラ2によって商品を購入する顧客を撮像し、その撮像画像を顧客に関する情報として収集する自動販売機1が開示された(図1)。
また、特許文献2には、商品を陳列する陳列棚10の各棚にカメラ11を設け、そのカメラ11によって陳列棚10周辺の顧客を撮像し、その撮像画像を顧客に関する情報として収集する自動販売機1が開示された(図2)。
しかしながら、これらの方法の場合、カメラの数が商品種の数よりも少ない。そのため撮像画像から顧客がどの商品を見ているかを高精度に推定することが困難であった。この理由を、図3を用いて説明する。その前に、本願明細書で用いる言葉の定義を述べる。通常、商品の陳列棚(言い換えれば商品棚)には、商品の種類として複数種の商品が配置され、かつ、商品の個体として、商品の種類毎にそれぞれ複数個の商品(個体)が配置される。本願明細書では、個体が異なるだけで内容は同じである商品をひとまとめにして呼ぶ場合には、これを「商品種」と呼ぶ。また、1つの商品種において個体が異なるそれぞれの商品を呼ぶ場合には、これを「商品個体」と呼ぶ。ただし簡単のために、「商品種」を単に「商品」と呼ぶ場合もあり、また、「商品個体」を単に「商品」と呼ぶ場合もある。図3Aは、カメラの数が商品種の数よりも少ない従来技術の一例として、商品を陳列する陳列棚20に、7種類の商品(言い換えれば7個の商品種、21−1乃至21−7)と、商品種の数(7個)よりも少ない2個のカメラ(22−1と22−2)が配置され、かつ、陳列棚20の前面に2人の顧客(23−1と23−2)が立って商品を見ている状態を、棚の上方から見下ろした図である。カメラ22−1は、自身の前に位置する顧客23−1を撮像する。また、カメラ22−2は、自身の前に位置する顧客23−2を撮像する。このとき、顧客23−1は正面(カメラ22−1の方)を向いているため、顧客23−1が商品21−2の方を見ていることはカメラ22−1が得た撮像画像から比較的容易に推定することができる。
しかしながら、顧客23−2は横方向を見ているので、カメラ22−2が得た撮像画像には、図3Bに示される撮像画像24のように、顧客23−2の横顔が写ることになる。図3Aにおいて、顧客23−2は、カメラ22−1では撮像されず、カメラ22−2によってのみ撮像される。このため、カメラ22−2によって横顔が撮像された顧客23−2が、図3Aに記載の商品21−3乃至21−5のいずれの商品を見ているのかを識別するには、顧客23−2の顔の向きのわずかな違いあるいは顧客23−2の眼球内の瞳の位置のわずかな違いを基にして、顧客23−2の視線が延在する先の商品を推定する必要がある。このため、顧客が見ている商品を高い精度で識別するには、技術的な困難が伴う。かつ、顧客23−2の視線が延在する先にどの商品があるのかを推定しても、その推定結果が正しいか否かを検証する手段が無かった。このような事情によりに、カメラの数が商品種の数よりも少ない従来技術の場合、顧客がどの商品を見ているのかを高い精度で推定して、かつ推定結果が正しいかどうかを検証することが難しかった。
また、カメラが複数設置されると、同一人物が複数のカメラに写り込む可能性もあり、その場合、同一の顧客に関する情報を重複して収集してしまうおそれがあった。この理由を、図4を用いて説明する。図4Aは、7種類の商品(21−1乃至21−7)と3個のカメラ(22−1乃至22−3)が配置された陳列棚20の前に、3人の顧客(23−1乃至23−3)が立って商品を見ている状態を、棚の上方から見下ろした図である。図4Bに示されるように、カメラ22−1により得られる撮像画像24−1には顧客23−1と顧客23−2が写っている。また、図4Cに示されるように、カメラ22−2により得られる撮像画像24−2には顧客23−1と顧客23−2と顧客23−3が写っている。さらに、図4Dに示されるように、カメラ22−3により得られる撮像画像24−3には顧客23−2と顧客23−3が写っている。
これらの撮像画像からそのまま顧客情報を収集すると、実際には顧客は3名しか存在しないのに7名分の顧客情報が得られてしまう。つまり、例えば、「3名が商品21−2を見ている」、「2名が商品21−3を見ている」、「2名が商品21−4」を見ている」等といった誤った情報を収集してしまうおそれがあった。したがって、高精度な情報を収集することが困難であった。
そこで、顧客または商品に関する情報を収集する情報収集装置を商品種毎に、かつそれぞれの商品種の近傍に、備えるようにする。このようにすることにより、情報収集装置と商品種とが容易に対応付け(言い換えれば、紐付け)でき、情報収集装置の方を見ている顧客がその情報収集装置に対応する商品種を見ていると容易に特定することができる。また、顧客が向いている方向を容易に高精度に特定することができることから、重複した顧客情報の収集も容易に抑制することができる。したがって、より高精度な情報を収集することができる。
<情報収集システムの構成>
図5は、本技術を適用した情報処理システムの一実施の形態である情報収集システムの主な構成例を示す図である。図5に示される情報収集システム100は、商品や顧客に関する情報を収集するシステムである。
図5に示されるように、情報収集システム100は、棚装置101−1乃至棚装置101−M、中継装置102、および情報管理サーバ103を有する。棚装置101−1乃至棚装置101−Mは互いに同様の構成を有する。以下において、棚装置101−1乃至棚装置101−Mを互いに区別して説明する必要が無い場合、棚装置101と称する。
棚装置101は、横方向に連なって配置された複数の商品陳列棚121を有する。各商品陳列棚121には、商品131が例えば商品種毎に分けて陳列されている。また、商品陳列棚121の、その商品131の近傍には、商品や顧客などに関する情報を収集する情報収集装置122が、商品種毎に設置されている。さらに、棚装置101は、ローカルサーバ123を有している。
情報収集装置122は、情報を収集する機能を有しており、この機能を利用して、商品や顧客等に関する情報を収集する。情報収集装置122は、商品陳列棚121の商品種毎に、かつ、それぞれの商品種の近傍に設置されている。言い換えれば、情報収集装置122は、商品陳列棚121の、互いに異なる商品種(商品131)の近傍に設置されている。これにより情報収集装置122は、例えばこの位置関係によって商品種(商品131)に対応付けられている(言い換えれば、紐付けられている)。つまり、情報収集装置122は、自身の近傍に位置する商品種(商品131)に対応付けられている。さらに、その近傍の商品種(商品131)に関する情報が、情報収集装置122に登録されているようにしてもよい。情報収集装置122は、自身に対応付けられた商品種に対する顧客(例えばその商品種に興味を示した顧客)に関する情報を収集する。つまり、各情報収集装置122は、互いに異なる商品種に対応付けられ、互いに異なる商品種の顧客に関する情報を収集する。
また、情報収集装置122は、通信機能を有しており、その通信機能により、ローカルサーバ123と有線通信若しくは無線通信またはその両方を行うことができる。例えば、情報収集装置122は、自身が収集した情報をローカルサーバ123に供給することができる。また、例えば、情報収集装置122は、ローカルサーバ123から情報を取得することもできる。
なお、情報収集装置122が情報処理機能を有するようにしてもよい。例えば、情報収集装置122が、自身が収集した情報を処理し、その処理後の情報をローカルサーバ123に供給するようにしてもよい。また、例えば、情報収集装置122が、ローカルサーバ123から取得した情報を処理するようにしてもよい。
ローカルサーバ123は、通信機能を有する。ローカルサーバ123は、その通信機能により、当該棚装置101の各情報収集装置122と有線通信若しくは無線通信またはその両方を行うことができる。また、ローカルサーバ123は、その通信機能により、中継装置102と有線通信若しくは無線通信またはその両方を行うことができる。例えば、ローカルサーバ123は、当該棚装置101の各情報収集装置122が収集した情報を取得し、それを中継装置102に供給することができる。また、例えば、ローカルサーバ123は、中継装置102から情報を取得し、その情報を当該棚装置101の各情報収集装置122に供給することもできる。
なお、ローカルサーバ123が情報処理機能を有するようにしてもよい。例えば、ローカルサーバ123が、当該棚装置101の各情報収集装置122が収集した情報を処理し、その処理後の情報を中継装置102に供給するようにしてもよい。また、例えば、ローカルサーバ123が、中継装置102から取得した情報を処理し、その処理後の情報を当該棚装置101の各情報収集装置122に供給するようにしてもよい。
中継装置102は、通信機能を有する。中継装置102は、その通信機能により、各棚装置101(のローカルサーバ123)と有線通信若しくは無線通信またはその両方を行うことができる。また、中継装置102は、その通信機能により、情報管理サーバ103と有線通信若しくは無線通信またはその両方を行うことができる。例えば、中継装置102は、各棚装置101(のローカルサーバ123)から情報収集装置122が収集した情報を取得し、それを情報管理サーバ103に供給することができる。また、例えば、中継装置102は、情報管理サーバ103から情報を取得し、その情報を各棚装置101(のローカルサーバ123)に供給することもできる。
なお、中継装置102が情報処理機能を有するようにしてもよい。例えば、中継装置102が、各棚装置101(のローカルサーバ123)から取得した、情報収集装置122が収集した情報を処理し、その処理後の情報を情報管理サーバ103に供給するようにしてもよい。また、例えば、中継装置102が、情報管理サーバ103から取得した情報を処理し、その処理後の情報を各棚装置101(のローカルサーバ123)に供給するようにしてもよい。
情報管理サーバ103は、通信機能を有する。情報管理サーバ103は、その通信機能により、中継装置102と有線通信若しくは無線通信またはその両方を行うことができる。例えば、情報管理サーバ103は、中継装置102から情報収集装置122が収集した情報を取得することができる。また、例えば、情報管理サーバ103は、任意の情報を中継装置102に供給することもできる。
また、情報管理サーバ103は、情報処理機能や情報記憶機能を有する。例えば、情報管理サーバ103は、中継装置102から取得した情報を処理したり、記憶したりすることができる。さらに、情報管理サーバ103には、外部接続電子機器として、パーソナルコンピュータ(PC)111、外部記憶装置112、表示装置113、およびプリンタ114が接続されており、これらの外部接続電子機器を利用して処理を行うこともできる。例えば、情報管理サーバ103は、パーソナルコンピュータ111に情報を処理させたり、外部記憶装置112に情報を記憶させたり、表示装置113に画像を表示させたり、プリンタ114に情報を印刷させたりすることができる。
なお、情報収集システム100の構成は任意であり、図5の例に限定されない。例えば、図6のように、情報を収集したい商品種に対してのみ(つまり、商品陳列棚121に陳列されている商品群の一部の商品種に対してのみ)、情報収集装置122が設けられるようにしてもよい。情報を収集したい商品種が複数存在する場合は、この場合も、情報収集装置122が、その商品種毎に設置される。
なお、情報収集システム100は、情報を収集したい商品種の数よりも多くの情報収集装置122を備えながら、情報収集システム100から出力する情報は、情報を収集したい商品種についての情報のみに絞り込んで、情報収集システム100の外部へ情報を出力するようにしてもよい。
例えば、(1)情報収集システム100は、情報を収集したい商品種の数よりも多くの商品種について情報収集装置122を商品種毎に配置し、情報を収集したい商品種の数よりも多くの商品種について撮像した画像データもしくは画像解析後の解析結果データを、情報収集装置122からローカルサーバ123と中継装置102を経由して情報管理サーバ103へ送信し、情報管理サーバ103において、情報収集システム100の外部へ出力する情報を出力したい商品種についての情報のみに絞り込む処理を行い、絞り込んだ情報を情報収集システム100の外部へ出力するようにしてもよい。
あるいはまた、(2)情報収集システム100は、情報を収集したい商品種の数よりも多くの商品種について情報収集装置122を商品種毎に配置し、情報を収集したい商品種の数よりも多くの商品種について撮像した画像データもしくは画像解析後の解析結果データを、情報収集装置122からローカルサーバ123を経由して中継装置102へ送信し、中継装置102において、情報収集システム100の外部へ出力する情報を出力したい商品種についての情報のみに絞り込む処理を行い、絞り込んだ情報を情報管理サーバ103を経由して情報収集システム100の外部へ出力するようにしてもよい。
あるいはまた、(3)情報収集システム100は、情報を収集したい商品種の数よりも多くの商品種について情報収集装置122を商品種毎に配置し、情報を収集したい商品種の数よりも多くの商品種について撮像した画像データもしくは画像解析後の解析結果データを、情報収集装置122からローカルサーバ123へ送信し、ローカルサーバ123において、情報収集システム100の外部へ出力する情報を出力したい商品種についての情報のみに絞り込む処理を行い、絞り込んだ情報を中継装置102と情報管理サーバ103を経由して情報収集システム100の外部へ出力するようにしてもよい。
あるいはまた、(4)情報収集システム100は、情報を収集したい商品種の数よりも多くの商品種について情報収集装置122を商品種毎に配置し、それぞれの情報収集装置122において、情報収集装置122からローカルサーバ123へ送信する情報を情報収集システム100の外部へ出力したい商品種のについての情報のみに絞り込む処理を行い、絞り込んだ情報をローカルサーバ123と中継装置102と情報管理サーバ103を経由して情報収集システム100の外部へ出力するようにしてもよい。
つまり、顧客や商品についての情報を収集する情報収集装置122の数は、顧客についての情報を収集する商品種の数と同数以上としてもよいし、情報管理サーバ103へ転送される商品毎の情報における商品種の数と同数以上としてもよいし、顧客についての情報を出力する商品種の数と同数以上としてもよい。
このようにすることにより、取り扱う情報の量を抑制することができるので、この情報収集に関する各種処理の負荷の増大を抑制することができる。さらに、コストの増大を抑制することもできる。
<情報収集装置>
図5や図6に示される情報収集装置122はどのような装置であってもよく、収集する情報は商品や顧客に関する情報であればどのような情報であってもよい。例えば、情報収集装置122が、商品や顧客を撮像し、得られた撮像画像またはその撮像画像に基づいて得られる情報を商品や顧客に関する情報として収集するようにしてもよい。また、何らかのセンサを用いて商品や顧客に対してセンシングを行い、得られたセンサ出力またはそのセンサ出力に基づいて得られる情報を商品や顧客に関する情報として収集するようにしてもよい。また、情報収集装置122が、複数種類の情報(例えば、撮像画像とセンサ出力)を、商品や顧客に関する情報として収集するようにしてもよい。
例えば、情報収集装置122が、図7Aに示されるようなネットワークカメラ140として構成されるようにしてもよい。このネットワークカメラ140は、イメージセンサ141と測距センサ142を有する。イメージセンサ141は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)を用いたイメージセンサであり、被写体を撮像してその撮像画像(のデータ)を生成する。なお、イメージセンサ141がレンズや絞り等の光学機構を有するようにしてもよい。測距センサ142は、被写体までの距離を計測するセンサである。この測距センサ142の仕様は任意であり、どのような手法で距離を計測するようにしてもよい。例えば測距センサ142が赤外線を利用して距離を計測するようにしてもよい。また、このネットワークカメラ140は、通信機能を有する(図示せず)。
例えば、ネットワークカメラ140は、イメージセンサ141により顧客を撮像し、測距センサ142によりその顧客までの距離を計測し、通信機能により、それらの情報(撮像画像や距離計測結果等)を顧客に関する情報としてローカルサーバ123に供給することができる。また、例えば、ネットワークカメラ140は、イメージセンサ141により、対応付けられる商品の外形、バーコード、商品名を記載した文字等を撮像し、通信機能により、その撮像画像を商品に関する情報としてローカルサーバ123に供給することができる。
また、例えば、情報収集装置122が、情報を出力する機能を有するようにしてもよい。例えば、情報収集装置122が、文字や画像等を表示する機能を有するようにしてもよい。また、情報収集装置122が、音声や振動等を出力する機能を有するようにしてもよい。もちろん、情報収集装置122が、複数種類の情報(例えば、画像と音声等)を出力することができるようにしてもよい。なお、この出力する情報は任意である。例えば、商品や顧客に関する情報であってもよいし、それらとは関係の無い情報であってもよい。
例えば、情報収集装置122が、図7Bに示されるような電子棚札150として構成されるようにしてもよい。この電子棚札150は、商品の価格等、商品に関する情報を表示するデバイスである。図7Bに示されるように電子棚札150は、イメージセンサ151、測距センサ152、およびモニタ153を有する。イメージセンサ151は、イメージセンサ141と基本的に同様のセンサであり、被写体を撮像し、撮像画像を得る。測距センサ152は、測距センサ142と基本的に同様のセンサであり、例えば赤外線等を用いて距離の測定を行う。モニタ153は、文字情報等を表示する表示デバイスである。また、この電子棚札150は、通信機能を有する(図示せず)。
例えば、電子棚札150は、イメージセンサ151により顧客を撮像し、測距センサ152によりその顧客までの距離を計測し、通信機能により、それらの情報(撮像画像や距離計測結果等)を顧客に関する情報としてローカルサーバ123等に供給することができる。また、例えば、電子棚札150は、イメージセンサ151により、対応付けられる商品の外形、バーコード、商品名を記載した文字等を撮像し、通信機能により、その撮像画像を商品に関する情報としてローカルサーバ123等に供給することができる。
また、例えば、電子棚札150は、通信機能により、ローカルサーバ123等から商品に関する情報を取得し、その商品に関する情報を文字情報等としてモニタ153に表示させることができる。この商品に関する情報の内容は任意である。例えば、商品名、価格、内容量等の情報がこの商品に関する情報に含まれるようにしてもよい。
また、例えば、情報収集装置122が、図7Cに示されるような電子POP(Point of purchase advertising)160として構成されるようにしてもよい。この電子POP160は、商品の広告等、商品に関する情報を表示するデバイスである。図7Cに示されるように電子POP160は、イメージセンサ161、測距センサ162、モニタ163、並びに、スピーカ164−1およびスピーカ164−2を有する。イメージセンサ161は、イメージセンサ141と基本的に同様のセンサであり、被写体を撮像し、撮像画像を得る。測距センサ162は、測距センサ142と基本的に同様のセンサであり、例えば赤外線等を用いて距離の測定を行う。モニタ163は、動画または静止画等、任意の画像情報を表示する表示デバイスである。またモニタ163は、画面の一部の領域に、動画または静止画等、任意の画像情報を表示し、これと異なる画面上の領域に文字情報を表示してもよい。あるいは、モニタ163は、文字情報のみを表示してもよい。なお、モニタ163が表示する画像情報が、文字情報を含んでもよいことは、いうまでもない。スピーカ164−1およびスピーカ164−2は、音声を出力する音声出力デバイスである。なお以下においてスピーカ164−1およびスピーカ164−2を互いに区別して説明する必要が無い場合、スピーカ164と称する。また、この電子POP160は、通信機能を有する(図示せず)。
例えば、電子POP160は、イメージセンサ161により顧客を撮像し、測距センサ162によりその顧客までの距離を計測し、通信機能により、それらの情報(撮像画像や距離計測結果等)を顧客に関する情報としてローカルサーバ123等に供給することができる。また、例えば、電子POP160は、イメージセンサ161により、対応付けられる商品の外形、バーコード、商品名を記載した文字等を撮像し、通信機能により、その撮像画像を商品に関する情報としてローカルサーバ123等に供給することができる。
また、例えば、電子POP160は、通信機能により、ローカルサーバ123等から商品に関する情報を取得し、その商品に関する情報を動画像や静止画像あるいは文字等としてモニタ163に表示させることができる。この商品に関する情報の内容は任意である。例えば、商品名、価格、内容量等の情報がこの商品に関する情報に含まれるようにしてもよい。また、例えば、商品の広告映像等であってもよい。また、電子POP160は、ローカルサーバ123から取得した商品に関する情報を音声としてスピーカ164から出力させることができる。
なお、図示は省略するが、例えば、情報収集装置122が電光掲示板のような文字情報表示装置として構成されるようにしてもよい。この電光掲示板は、任意の文字情報を表示するデバイスであり、例えば、商品の広告メッセージや売り場の案内等の文字情報を表示することができる。この場合も、情報収集装置122は、上述の電子棚札150や電子POP160の場合と同様に、イメージセンサや測距センサ等の情報収集機能をさらに有し、商品や顧客に関する情報を収集する。また、通信機能も有しており(図示せず)、収集した情報をローカルサーバ123等に供給したり、ローカルサーバ123等から任意の情報を取得したりすることができる。なおこの場合も、電子POP160の場合と同様に、情報収集装置122が例えばスピーカ等の画像以外の情報の出力機能も有するようにしてもよい。
<各装置の構成>
情報収集システム100のローカルサーバ123および情報管理サーバ103の主な構成例を図8に示す。図8の例の場合、ローカルサーバ123は、通信部171および画像解析部172を有する。通信部171は、上述したローカルサーバ123の通信機能を実現するための処理を行う。すなわち、通信部171は、当該棚装置101の各情報収集装置122(情報収集装置122−1乃至情報収集装置122−N)や中継装置102と、有線通信若しくは無線通信またはその両方を行う。また、画像解析部172は、通信部171が情報収集装置122から取得した情報に含まれる撮像画像を解析し、その画像解析結果を通信部171に供給する。例えば画像解析部172は、撮像画像を解析して、顧客がどの商品を見ていたかを特定したり、顧客の属性(性別や年齢等)を推定したりする。通信部171は、情報収集装置122から取得した情報と、画像解析部172による画像解析結果とを中継装置102に供給する。
また、図8の例の場合、情報管理サーバ103は、通信部181、情報制御部182、および内部記憶装置183を有する。通信部181は、上述した情報管理サーバ103の通信機能を実現するための処理を行う。情報制御部182は、他の処理部や外部接続装置等を制御したり、情報を処理したりする。例えば、情報制御部182は、通信部181により受信または送信する情報の、内部記憶装置183や外部記憶装置112への読み書き、表示装置113やプリンタ114への出力、パーソナルコンピュータ111との授受等といった処理を行う。
情報収集装置122の主な構成例を図9に示す。図9Aは、情報収集装置122をネットワークカメラ140として構成する場合の構成例を示すブロック図である。図9Aに示されるように、ネットワークカメラ140は、撮像部201、測距部202、および通信部203を有する。撮像部201は、イメージセンサ141を有し、被写体の撮像に関する処理を行う。測距部202は、測距センサ142を有し、被写体までの距離計測に関する処理を行う。通信部203は、上述したネットワークカメラ140の通信機能を実現するための処理を行う。例えば、通信部203は、撮像部201において得られた撮像画像や測距部202において得られた距離計測結果等のデータを顧客や商品に関する情報としてローカルサーバ123に供給する。なお、ネットワークカメラ140が電力を蓄える蓄電部204を有し、その蓄電部204の電力を用いて各処理部が駆動するようにしてもよい。もちろん、この蓄電部204を省略して、外部電源から供給される電力を用いて各処理部が駆動するようにしてもよい。
図9Bは、情報収集装置122を電子棚札150として構成する場合の構成例を示すブロック図である。図9Bに示されるように、電子棚札150は、撮像部211、測距部212、表示部213、および通信部214を有する。撮像部211は、イメージセンサ151を有し、被写体の撮像に関する処理を行う。測距部212は、測距センサ152を有し、被写体までの距離計測に関する処理を行う。表示部213は、モニタ153を有し、商品に関する文字情報の表示に関する処理を行う。通信部214は、上述した電子棚札150の通信機能を実現するための処理を行う。例えば、通信部214は、撮像部211において得られた撮像画像や測距部212において得られた距離計測結果等のデータを顧客や商品に関する情報としてローカルサーバ123に供給する。また、通信部214は、例えば商品に関する文字情報をローカルサーバ123から取得し、それを表示部213に供給する。なお、電子棚札150が電力を蓄える蓄電部215を有し、その蓄電部215の電力を用いて各処理部が駆動するようにしてもよい。もちろん、この蓄電部215を省略して、外部電源から供給される電力を用いて各処理部が駆動するようにしてもよい。
図9Cは、情報収集装置122を電子POP160として構成する場合の構成例を示すブロック図である。図9Cに示されるように、電子POP160は、撮像部221、測距部222、表示部223、音声出力部224、および通信部225を有する。撮像部221は、イメージセンサ161を有し、被写体の撮像に関する処理を行う。測距部222は、測距センサ162を有し、被写体までの距離計測に関する処理を行う。表示部223は、モニタ163を有し、商品に関する文字情報の表示に関する処理を行う。音声出力部224は、スピーカ164を有し、音声出力に関する処理を行う。通信部225は、上述した電子POP160の通信機能を実現するための処理を行う。例えば、通信部225は、撮像部221において得られた撮像画像や測距部222において得られた距離計測結果等のデータを顧客や商品に関する情報としてローカルサーバ123に供給する。また、通信部225は、例えば商品の広告等、商品に関する画像や音声のデータをローカルサーバ123から取得し、その画像データを表示部223に供給し、その音声データを音声出力部224に供給する。なお、電子POP160が電力を蓄える蓄電部226を有し、その蓄電部226の電力を用いて各処理部が駆動するようにしてもよい。もちろん、この蓄電部226を省略して、外部電源から供給される電力を用いて各処理部が駆動するようにしてもよい。
<収集する情報>
情報収集システム100において収集される情報は任意である。例えば図10に示されるような情報が収集されるようにしてもよい。図10の例の場合、各商品について、顧客が商品を見た時刻、商品を見ていた時間、顧客と商品(情報収集装置122や商品陳列棚121でもよい)との距離、性別や年代等の顧客の属性、顧客が商品を手に取ったか否か、顧客が手に取った商品を商品陳列棚121に戻したか否か等の情報が収集される。
もちろん、この例に限らず、どのような情報が収集されるようにしてもよい。ただし、例えばマーケティング情報として分析や販売促進活動等に利用できる情報を収集するのが好ましい。情報収集システム100が、より有用な情報を収集することにより、情報収集の有用性を向上させることができるだけでなく、本技術を適用することにより得られる効果をより大きなものとすることができる。
<伝送する情報>
情報収集システム100は、情報収集装置122により収集された情報(例えば撮像画像等)を解析することにより、図10に例示したような情報を生成する。この解析処理は、情報収集システム100の任意の装置において行われるようにすることができる。
例えば、情報収集システム100が図8に示した構成の場合(図11Aに再掲)、この解析処理は、図11Bに示される表のように、ローカルサーバ123(形態1)、中継装置102(形態2)、または情報管理サーバ103(形態3)において行われるようにしてもよい。図11Bに示される表のように、形態1の場合、情報収集装置122とローカルサーバ123との間では撮像画像のデータが伝送され、ローカルサーバ123と中継装置102との間、並びに、中継装置102と情報管理サーバ103との間では画像解析結果のデータが伝送される。また、形態2の場合、情報収集装置122とローカルサーバ123との間、並びに、ローカルサーバ123と中継装置102との間では撮像画像のデータが伝送され、中継装置102と情報管理サーバ103との間では画像解析結果のデータが伝送される。さらに、形態3の場合、情報収集装置122とローカルサーバ123との間、ローカルサーバ123と中継装置102との間、並びに、中継装置102と情報管理サーバ103との間のいずれにおいても撮像画像のデータが伝送される。
なお、上述の画像解析が情報収集装置122において行われるようにしてもよい。その場合、情報収集装置122とローカルサーバ123との間、ローカルサーバ123と中継装置102との間、並びに、中継装置102と情報管理サーバ103との間のいずれにおいても画像解析結果のデータが伝送される。
また、画像データを伝送するフレームレート(伝送フレームレート)は、任意である。例えば、30fps(frame per second)程度であってもよいし、数fps(1または2fps)程度であってもよい。また、装置間で画像を適切に伝送することができるように、イメージセンサの数や画素数に応じて、この伝送フレームレートが適宜設定されるようにしてもよい。
なお、情報収集システム100の構成は任意であり、図8の例に限定されない。例えば、図12Aに示されるように、各棚装置101のローカルサーバ123を省略し、情報収集装置122と中継装置102とが、有線通信若しくは無線通信、またはその両方を行うようにしてもよい。
この場合、上述の解析処理は、図12Bに示される表のように、中継装置102(形態1)または情報管理サーバ103(形態2)において行われるようにしてもよい。図12Bに示される表のように、この形態1の場合、情報収集装置122と中継装置102との間では撮像画像のデータが伝送され、中継装置102と情報管理サーバ103との間では画像解析結果のデータが伝送される。また、形態2の場合、情報収集装置122と中継装置102との間、並びに、中継装置102と情報管理サーバ103との間のいずれにおいても撮像画像のデータが伝送される。
なお、この場合も、上述の画像解析が情報収集装置122において行われるようにしてもよい。その場合、情報収集装置122と中継装置102との間、並びに、中継装置102と情報管理サーバ103との間のいずれにおいても画像解析結果のデータが伝送される。
また、この場合も、画像データの伝送フレームレートは、任意である。イメージセンサの数や画素数に応じて、この伝送フレームレートが適宜設定されるようにしてもよい。
また、例えば、図13Aに示されるように、中継装置102を省略し、各棚装置101のローカルサーバ123と情報管理サーバ103とが、有線通信若しくは無線通信、またはその両方を行うようにしてもよい。
この場合、上述の解析処理は、図13Bに示される表のように、ローカルサーバ123(形態1)または情報管理サーバ103(形態2)において行われるようにしてもよい。図13Bに示される表のように、この形態1の場合、情報収集装置122とローカルサーバ123との間では撮像画像のデータが伝送され、ローカルサーバ123と情報管理サーバ103との間では画像解析結果のデータが伝送される。また、形態2の場合、情報収集装置122とローカルサーバ123との間、並びに、ローカルサーバ123と情報管理サーバ103との間のいずれにおいても撮像画像のデータが伝送される。
なお、この場合も、上述の画像解析が情報収集装置122において行われるようにしてもよい。その場合、情報収集装置122とローカルサーバ123との間、並びに、ローカルサーバ123と情報管理サーバ103との間のいずれにおいても画像解析結果のデータが伝送される。
また、この場合も、画像データの伝送フレームレートは、任意である。イメージセンサの数や画素数に応じて、この伝送フレームレートが適宜設定されるようにしてもよい。
また、例えば、図14Aに示されるように、ローカルサーバ123および中継装置102を省略し、各棚装置101の情報収集装置122と情報管理サーバ103とが、有線通信若しくは無線通信、またはその両方を行うようにしてもよい。
この場合、上述の解析処理は、図14Bに示される表のように、情報管理サーバ103(形態1)において行われるようにしてもよい。図14Bに示される表のように、この形態1の場合、情報収集装置122情報管理サーバ103との間では撮像画像のデータが伝送される。
なお、この場合も、上述の画像解析が情報収集装置122において行われるようにしてもよい。その場合、情報収集装置122と情報管理サーバ103との間では画像解析結果のデータが伝送される。
また、この場合も、画像データの伝送フレームレートは、任意である。イメージセンサの数や画素数に応じて、この伝送フレームレートが適宜設定されるようにしてもよい。
<電源供給>
次に、情報収集装置122への電源供給について説明する。情報収集装置122への電源供給は、外部電源から行うようにしてもよい。その場合、例えば、図15に示されるような構成としてもよい。図15の例の場合、外部AC電源にはプラグ251が接続されている。また、商品陳列棚121の各棚の前面に沿ってライティングダクト(Lighting Busways, JIS C8366)252が水平方向に配置されている。また、そのライティングダクト252と各情報収集装置122との間には、AC電源をDC電源に変換するAC/DC変換器253が設けられている。そして、外部AC電源がプラグ251とそのライティングダクト252を介して供給され、AC/DC変換器253によってDC電源に変換され、そのDC電源が各情報収集装置122に供給される。
また、図16に示されるような構成としてもよい。図16の例の場合、外部AC電源にはプラグ261が接続されている。また、プラグ261は、AC/DC変換器262を介して無線給電ケーブル263に接続される。この無線給電ケーブル263は、商品陳列棚121の各棚に沿って、各棚の前面の各所に配置されている無線給電用のコネクタのベース部264に接続されるように設置されている。また、無線給電コネクタのリモート部(図示せず)が各情報収集装置122に設置されている。そして、外部AC電源がプラグ261を介してAC/DC変換器262に供給されてDC電源に変換される。このDC電源は、無線給電ケーブル263を介して無線給電用のコネクタのベース部264に供給される。そしてそのDC電源は、無線給電用のコネクタのベース部264から無線給電により無線給電コネクタのリモート部に供給され、さらに情報収集装置122に供給される。
また、図17に示されるような構成としてもよい。図17の例の場合、外部AC電源にはプラグ271が接続されている。また、プラグ271は、AC/DC変換器272を介してDC電源ケーブル273に接続される。このDC電源ケーブル273は、商品陳列棚121の各棚に沿って、各情報収集装置122に接続されるように設置されている。そして、外部AC電源がプラグ271を介してAC/DC変換器272に供給されてDC電源に変換される。このDC電源は、DC電源ケーブル273を介して各情報収集装置122に供給される。
また、図18に示されるような構成としてもよい。図18の例の場合、外部AC電源にはプラグ281が接続されている。また、プラグ281は、AC/DC変換器282を介してローカルサーバ123に接続される。また、このローカルサーバ123に接続されるパワーオーバイーサネットケーブル(Power over Ethernet cable)283が商品陳列棚121の各棚に沿って、各情報収集装置122に接続されるように設置されている。そして、外部AC電源がプラグ281を介してAC/DC変換器282に供給されてDC電源に変換されてローカルサーバ123に供給される。また、このDC電源は、ローカルサーバ123からパワーオーバイーサネットケーブル283を介して各情報収集装置122に供給される。
以上のような構成とすることにより、外部電源からの電力を情報収集装置122に供給することができる。これにより、情報収集装置122に対してより大きな電力を供給することができる。そのため、例えば、電子棚札150や電子POP160の場合のように、情報収集装置122がモニタを有する場合、そのモニタに広告情報等をより明るく表示させることができる。また、例えば電子POPの場合のように情報収集装置122がスピーカを有する場合、そのスピーカに広告音をより大きな音で出力させることができる。したがって、広告としての効果をより大きく得ることができる。
なお、情報収集装置122が上述したように蓄電池を備えるようにし、その蓄電池から給電されるようにしてもよい。蓄電池を設けることにより、例えば配置場所の移動等において情報収集装置122を電源供給源から切り離した場合であっても、データを保持する(消えないようにする)ことができる。また、電源供給源から離した状態で、情報収集装置122を駆動させ、例えば商品に関する情報等を収集(例えば撮像等)させることもできる。
<顧客が見ている商品の特定方法1>
上述したように、情報収集システム100(の任意の装置)は、情報収集装置122が撮像して得られた撮像画像を解析して、顧客がどの商品を見ていたかを特定する。その際情報収集システム100は、顧客の顔の向きを評価もしくは分析して特定することにより、顧客がどの商品を見ていたかを特定する。この顔の向きの特定方法の具体例を以下に説明する。
図19Aは、商品を陳列する陳列棚121に配置した商品種の数と同数の情報収集装置を、商品陳列棚121に配置した商品種毎に配置した実施の形態を表す図である。この実施の形態の1つの例として、図19Aは、商品陳列棚121に、5種類の商品(言い換えれば5個の商品種、131−1乃至131−5)が配置され、かつ、商品種の数(5個)と同数の情報収集装置(122−1乃至122−5)が商品種毎に配置され、かつ、商品陳列棚121の前面に1人の顧客(301)が立って商品を見ている状態を、棚の上方から見下ろした図である。
この場合の情報収集装置122−1乃至情報収集装置122−5のそれぞれにおいて得られる撮像画像の例を図19Bに示す。図19Bにおいて、顔画像302−1乃至顔画像302−5は、情報収集装置122−1乃至情報収集装置122−5のそれぞれにおいて得られる撮像画像から切り出された顧客301の顔(頭部)部分の画像である。この場合、商品陳列棚121周辺には顧客301しか存在しないので、これらの顔画像は全て顧客301の顔画像である。
情報収集システム100は、これらの各顔画像における顔の向きを比較する。この比較方法は任意である。例えば、図19Cに示されるように、顔画像302−1乃至顔画像302−5のそれぞれについて、顔もしくは頭部領域の中心と顔の中心の位置関係を表す指標(例えば図19CのA1/W)を算出し、各画像間で比較するようにしてもよい。また、例えば、図19Dに示されるように、顔画像302−1乃至顔画像302−5のそれぞれについて、顔もしくは頭部の両端と顔の中心の位置関係を表す指標(図19Dにおける|B1-B2|、あるいはB1/B2)を算出し、各画像間で比較するようにしてもよい。さらに、例えば、図19Eに示されるように、顔画像302−1乃至顔画像302−5のそれぞれについて、顔の中心と2つ目のそれぞれの中心との位置関係を表す指標(図19Eにおける|C1-C2|、あるいはC1/C2)を算出し、各画像間で比較するようにしてもよい。
そして情報収集システム100は、その比較の結果に基づいて『最も正面を向いている』と判定される顔の画像を特定する。この特定の方法は任意である。例えば、図19Cの場合、A1/Wの値が最も0に近い画像を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよい。また、例えば、図19Dの場合、|B1-B2|の値が最も0に近い画像を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよいし、あるいは、B1/B2の値が最も1に近い画像(|B1/B2-1|の値が最も0に近い画像)を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよい。さらに、例えば、図19Eの場合、|C1-C2|の値が最も0に近い画像を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよいし、あるいは、C1/C2の値が最も1に近い画像(|C1/C2-1|の値が最も0に近い画像)を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよい。
そして情報収集システム100は、『最も正面を向いている』と特定した画像を撮像した情報収集装置122に対応する商品131を、『顧客が見ている商品』として特定する。
例えば、図19Bの場合、顔画像302−3が『最も正面を向いている顔の画像』と特定される。この顔画像302−3は、情報収集装置122−3により撮像された撮像画像から切り出された画像であるので、顧客301がその情報収集装置122−3に対応する商品131−3を見ていると特定される。
複数個の情報収集装置122が撮像した複数枚の画像を比較することにより、最も正面を向いている顧客の顔の画像を特定し、これにより顧客が見た商品を特定することについて、より詳しく説明する。
まず、第1の場合として、顧客が商品陳列棚121の両端以外の商品種131を見ている(正視している、直視している)場合について説明する。陳列棚121に配置した複数個の商品種131毎にその近傍に情報収集装置122を配置する。それぞれの情報収集装置122は、それぞれの近傍の商品種131に対応付けられている(紐付けられている)。陳列棚121に配置したある商品種を見ている顧客の顔を、これら複数個の情報収集装置を用いて撮像する。
そして、上記A1/Wまたは|B1-B2|あるいは|C1-C2|または|B1/B2-1|あるいは|C1/C2-1|を指標として、商品陳列棚121における各情報収集装置122の配置順に、これらの情報収集装置122が撮像した画像を比較する(より具体的には、各画像の指標の値の大きさを比較する)。第1の場合には、陳列棚の一方の端に配置された商品種131に対応付けられた情報収集装置122によって撮像された画像においては、上記指標は、ある正の値を持っている。これに続き、商品陳列棚121における各情報収集装置122の配置順に、これらの情報収集装置122が撮像した画像における上記指標の値の大きさを比較すると、上記顧客が見た商品種に近付くに従って上記指標の値の大きさが単調に減少し、上記顧客が見た商品種において上記指標の値の大きさが最小値(極小値、顧客が商品を見る姿勢によって多少のばらつきはあるが、概ね0に近い値)となり、その後、上記顧客が見た商品種から遠ざかるに従って上記指標の値の大きさが単調に増加する。
このため、上記A1/Wまたは|B1-B2|あるいは|C1-C2|または|B1/B2-1|あるいは|C1/C2-1|を指標として、商品陳列棚121における各情報収集装置122の配置順に、これらの情報収集装置122が撮像した画像を比較すると、上記指標の値の大きさが最小値(極小値、顧客が商品を見る姿勢によって多少のばらつきはあるが、概ね0に近い値)となった画像を撮像した情報収集装置122に対応付けられた(紐付けられた)商品種131が、顧客が見た(正視した、直視した)商品である、と特定することができる。同時に、陳列棚に配置された全ての商品種の中で、上記特定された商品種131に対応付けられた(紐付けられた)情報収集装置122で撮像された画像において、上記顧客の顔の向きに関する上記指標が最も小さくなっていることを、顧客の顔を撮像した画像において確認しているので、上記顧客が見た(正視した、直視した)商品の特定が正しいことを確認および検証していることになる。
次に、第2の場合として、顧客が商品陳列棚121の両端のどちらかの商品種131を見ている(正視している、直視している)場合について説明する。この場合、第1の場合と同様にして、商品陳列棚121における各情報収集装置122の配置順に、これらの情報収集装置122が撮像した画像における上記指標(A1/Wまたは|B1-B2|あるいは|C1-C2|または|B1/B2-1|あるいは|C1/C2-1|)の値の大きさを比較する。
その結果、(1)陳列棚の一方の端(第1の端)に配置された商品種131に対応付けられた情報収集装置122によって撮像された画像において、上記指標の値の大きさが最小値(極小値、顧客が商品を見る姿勢によって多少のばらつきはあるが、概ね0に近い値)となり、その後、上記第1の端から情報収集装置122までの距離が大きくなるに従って、上記指標の値の大きさが単調に増加する、あるいは、(2)陳列棚の一方の端(第1の端)に配置された商品種131に対応付けられた情報収集装置122によって撮像された画像において、上記指標の値の大きさがある正の値となり、その後、上記第1の端から情報収集装置122までの距離が大きくなるに従って、上記指標の値の大きさが単調に減少し、陳列棚のもう一方の端(第2の端)に配置された商品種131に対応付けられた情報収集装置122によって撮像された画像において、上記指標の値の大きさが最小値(極小値、顧客が商品を見る姿勢によって多少のばらつきはあるが、概ね0に近い値)となる。
このため、上記A1/Wまたは|B1-B2|あるいは|C1-C2|または|B1/B2-1|あるいは|C1/C2-1|を指標として、商品陳列棚121における各情報収集装置122の配置順に、これらの情報収集装置122が撮像した画像を比較すると、上記指標の値の大きさが最小値(極小値、顧客が商品を見る姿勢によって多少のばらつきはあるが、概ね0に近い値)となった画像を撮像した情報収集装置122に対応付けられた(紐付けられた)商品種131が、顧客が見た(正視した、直視した)商品である、と特定することができる。同時に、陳列棚に配置された全ての商品種の中で、上記特定された商品種131に対応付けられた(紐付けられた)情報収集装置122で撮像された画像において、上記顧客の顔の向きに関する上記指標が最も小さくなっていることを、顧客の顔を撮像した画像において確認しているので、上記顧客が見た(正視した、直視した)商品の特定が正しいことを確認および検証していることになる。
さらに情報収集システム100は、その顧客301がその商品を見ている時間を計測する。また、情報収集システム100は、その商品を見ている顧客301の年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客301とその顧客301が見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
同一人物が複数の撮像画像に写り込む場合であっても、1人の顧客が見ている方向(商品)は1つのみである。したがって顔画像が最も正面を向いていると判定される撮像画像は1つである。したがって、このようにして顧客が見ている商品の特定(顧客の顔の向きの特定)を行うことにより、各撮像画像から同一人物の顔画像を特定する必要がなく、より容易かつ高精度に、顧客が見ている商品を特定することができる。また、顔の向きを利用することにより、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、より高精度な情報をより容易に収集することができる。さらに、顧客が正面を向いていること(先に述べた顔の向きについての指標が最も小さくなっていること)を、顧客の顔を撮像した画像において確認しているので、顧客が見た商品の上記特定が正しいことを確認および検証していることになる。
なお、顧客の視線の方向を推定することにより、顧客が見ている商品を推定するようにしてももちろんよい。この場合であっても、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報を収集することができる。
<顧客が見ている商品の特定方法2>
なお、顔の向きを撮像画像間で比較する代わりに、各撮像画像において、顔の向きを特定して『顔がこちらを向いているか否か(顔の向きが正面を向いているか否か)』を判定するようにしてもよい。
この判定方法は任意である。例えば、情報収集システム100が、顔または頭部領域の中心と顔の中心の位置関係を表す指標(図19CにおけるA1/W)を算出し、その値に基づいて判定するようにしてもよい。また、例えば、情報収集システム100が、顔または頭部の両端と顔の中心の位置関係を表す指標(図19DにおけるB1/B2)を算出し、その値に基づいて判定するようにしてもよい。さらに、例えば、情報収集システム100が、顔の中心と2つ目のそれぞれの中心との位置関係を表す指標(図19EにおけるC1/C2)を算出し、その値に基づいて判定するようにしてもよい。
それぞれの判定方法の判定条件は任意である。例えば、図19Cの場合A1/Wの値が0に近いと『正面を向いている顔の画像』であると判断することができることから、A1/Wの値が『0±α』の範囲内の場合に『正面を向いている』と判定されるようにしてもよい。また、図19Dの場合B1/B2の値が1に近いと『正面を向いている顔の画像』であると判断することができることから、B1/B2の値が『1±β』の範囲内の場合に『正面を向いている』と判定されるようにしてもよい。さらに、図19Eの場合C1/C2の値が1に近いと『正面を向いている顔の画像』であると判断することができることから、『1±γ』の範囲内の場合に『正面を向いている』と判定されるようにしてもよい。なお、このα、β、γは、情報収集装置(または商品)の設置の間隔や顔の検出解析精度に依存するので、それらのパラメータに応じて調整することができるようにしてもよい。
例えば、図19Bの場合、顔画像302−3のみが『正面を向いている顔の画像』と判断される。この顔画像302−3は、情報収集装置122−3により撮像された撮像画像から切り出された画像であるので、顧客301がその情報収集装置122−3に対応する商品131−3を見ていると特定される。
さらに情報収集システム100は、その顧客301がその商品を見ている時間を計測する。また、情報収集システム100は、その商品を見ている顧客301の年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客301とその顧客301が見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
同一人物が複数の撮像画像に写り込む場合であっても、1人の顧客が見ている方向(商品)は1つのみである。したがって顔画像が正面を向いていると判定される撮像画像は1つである。したがって、このようにして顧客が見ている商品の特定(顧客の顔の向きの特定)を行うことにより、各撮像画像から同一人物の顔画像を特定する必要がなく、より容易かつ高精度に、顧客が見ている商品を特定することができる。また、顔の向きを利用することにより、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、より高精度な情報をより容易に収集することができる。
なお、顧客の視線の方向を推定することにより、顧客が見ている商品を推定するようにしてももちろんよい。この場合であっても、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報を収集することができる。
<顧客が複数の場合の特定方法1>
次に顧客が複数人の場合について説明する。図20Aに示される例の場合、商品陳列棚121の周辺には、3人の顧客311(顧客311A、顧客311B、および顧客311C)が立っている。
この場合、各情報収集装置122が撮像して得られた撮像画像には、各顧客の顔画像が図20Bの例のように含まれる。例えば、情報収集装置122−1において得られる撮像画像には、顧客311Aの顔画像312−1と、顧客311Bの顔画像313−1とが含まれる。また、情報収集装置122−2において得られる撮像画像には、顧客311Aの顔画像312−2と、顧客311Bの顔画像313−2とが含まれる。さらに、情報収集装置122−3において得られる撮像画像には、顧客311Aの顔画像312−3と、顧客311Bの顔画像313−3と、顧客311Cの顔画像314−1とが含まれる。また、情報収集装置122−4において得られる撮像画像には、顧客311Aの顔画像312−4と、顧客311Bの顔画像313−4と、顧客311Cの顔画像314−2とが含まれる。さらに、情報収集装置122−5において得られる撮像画像には、顧客311Aの顔画像312−5と、顧客311Bの顔画像313−5と、顧客311Cの顔画像314−3とが含まれる。
つまり、これらの撮像画像には同一人物の顔画像が複数含まれる。そこで、情報収集システム100は、各情報収集装置122によって撮像された顔画像から、重複して撮像された『同一人物』を特定し、その『同一人物』を集めたグループを作成する(図20Bの点線枠)。
そして、情報収集システム100は、その『同一人物』としてグルーピングされた各顔画像の間で顔の向きを比較する。この顔の向きの比較方法は任意である。例えば、図19を参照して説明したような方法により比較するようにしてもよい。図20の例の場合、顧客311Aは、顔画像312−3が『最も正面を向いている』ので、情報収集装置122−3(つまり商品131−3)を見ていると特定される。また、顧客311Bは、顔画像313−2が『最も正面を向いている』ので、情報収集装置122−2(つまり商品131−2)を見ていると特定される。さらに、顧客311Cは、顔画像314−3が『最も正面を向いている』ので、情報収集装置122−5(つまり商品131−5)を見ていると特定される。
図19の場合と同様に、情報収集システム100は、その顧客311A乃至顧客311Cのそれぞれが商品を見ている時間を計測する。また、情報収集システム100は、商品を見ている顧客311A乃至顧客311Cの年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客311A乃至顧客311Cとそれぞれが見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
このようにして顧客が見ている商品の特定(顧客の顔の向きの特定)を行うことにより、商品陳列棚121の周辺に顧客が複数人存在する場合であっても、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、より高精度な情報をより容易に収集することができる。
なお、顧客の視線の方向を推定することにより、顧客が見ている商品を推定するようにしてももちろんよい。この場合であっても、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報を収集することができる。
<同一人物の特定1>
次に、上述の方法における顧客の画像から同一人物を特定する方法の例について説明する。同一人物の特定の方法は任意であるが、例えば、情報収集装置122が有する測距センサを利用して同一人物の特定を行うようにしてもよい。
例えば、図21Aに示されるように、商品陳列棚121に商品131−1乃至商品131−5が陳列され、それに対応して情報収集装置122−1乃至情報収集装置122−5が設置されているとする。そして、その商品陳列棚121の前方周辺に顧客A乃至顧客Gが立っているとする。ここで、説明の為に、商品陳列棚121の前方の空間に対してX座標およびY座標を図21Aのように設定する。そして、顧客Aの鼻の座標を(x1,y1)とし、顧客Bの鼻の座標を(x2,y2)とし、顧客Cの鼻の座標を(x3,y3)とし、顧客Dの鼻の座標を(x4,y4)とし、顧客Eの鼻の座標を(x5,y5)とし、顧客Fの鼻の座標を(x6,y6)とし、顧客Gの鼻の座標を(x7,y7)とする。
各情報収集装置122は、それぞれの撮像画像において検出される顔(もしくは頭)について、図21Bに示されるように、各情報収集装置122に装備されている測距センサで角度と距離を計測する。具体的には、被写体(顔、例えば鼻の位置)までの角度と距離を計測する。情報収集システム100は、その計測結果に基づいて上記X、Y座標を求める。同一人物の座標は同一となるので、その座標によって同一人物を特定することができる。
例えば、図21Cのように、座標(x5,y5)が求められた顔画像は、全て顧客Eの顔画像であると特定することができる。また、座標(x6,y6)が求められた顔画像は、全て顧客Fの顔画像であると特定することができる。さらに、座標(x7,y7)が求められた顔画像は、全て顧客Gの顔画像であると特定することができる。情報収集システム100は、検出された全ての顔に関して、『同じ顔』のグループを作成し、顔向きの比較時に用いる。
このようにすることにより、情報収集システム100は、容易かつ高精度に同一人物を特定することができる。
<同一人物の特定2>
また、一定の時間監視することによって(複数フレームの撮像画像から)、同一人物を特定するようにしてもよい。
例えば、図22Aに示されるように、商品陳列棚121に商品131−1乃至商品131−5が陳列され、それに対応して情報収集装置122−1乃至情報収集装置122−5が設置されているとする。そして、その商品陳列棚121の前方周辺に顧客331Aおよび顧客331Bが立っているとする。
あるタイミングにおいて、各情報収集装置122により得られる撮像画像は、図22Bのようになる。つまり、情報収集装置122−1において得られた撮像画像332−1においては、顧客331Aおよび顧客331Bの顔画像は検出されない。また、情報収集装置122−2において得られた撮像画像332−2においては、顧客331Aの顔画像333−1および顧客331Bの顔画像334−1が検出される。さらに、情報収集装置122−3において得られた撮像画像332−3においては、顧客331Aの顔画像333−2および顧客331Bの顔画像334−2が検出される。また、情報収集装置122−4において得られた撮像画像332−4においては、顧客331Aの顔画像333−3および顧客331Bの顔画像334−3が検出される。また、情報収集装置122−5において得られた撮像画像332−5においては、顧客331Aの顔画像333−4が検出される。
ここから、『同一人物』を特定するために、各撮像画像の時間方向の顧客の動きに着目する。『同一人物』であれば、同じ時刻での動きの有無や動きの向きは、異なるカメラ間の画像でも同じ傾向となる。情報収集システム100は、この傾向を利用して同一人物の特定を行う。
例えば図23の場合、各撮像画像において、実線枠で囲まれる顧客Aの3つの顔は、時刻Ti-1で一緒に動き出し、時刻Tiで一緒に止まり、その後、時刻Ti1+1まで3つとも静止している。つまり、この3つの顔画像が1組となって実線矢印のように移動している。情報収集システム100は、このように、一連の動作、特に動き出し、移動動作の停止、動く向きが同じ人物を、『同一人物』と特定する。
また、各撮像画像において、点線枠で囲まれる顧客Bの3つの顔は、時刻Tiまで止まっており、Tiで一緒に動き出し、時刻Ti+1には図示したところまで一緒に動いてきた。つまり、この3つの顔画像が1組となって点線矢印のように移動している。情報収集システム100は、このように、一連の動作、特に動き出し、移動動作の停止、動く向きが同じ人物を、『同一人物』と特定する。
複数の人物同士で、仮に、動きのタイミングが同じになったとしても、それら複数人の異なる人物が歩く場所は、それぞれ異なる。そのため、これら複数人が各カメラにフレームインするタイミングは、それぞれ異なる。そのため、各カメラに撮像されたどの顔が同一人物かを、見極めることができる。
情報収集システム100は、検出された全ての顔に関して、『同じ顔』のグループを作成し、顔向きの比較時に用いる。
このようにすることにより、情報収集システム100は、容易かつ高精度に同一人物を特定することができる。
なお、情報収集システム100は、例えば顔認識によってどの顔が『同一人物』であるかを特定する等、その他の任意の方法で同一人物の特定を行うようにしてももちろんよい。
<顧客が複数の場合の特定方法2>
なお、複数人の顧客が撮像画像に含まれる場合であっても、<顧客が見ている商品の特定方法2>において説明したように、各撮像画像において、顔の向きを特定して『顔がこちらを向いているか否か(顔の向きが正面を向いているか否か)』を判定するようにしてもよい。この場合、各撮像画像において、各顔画像について、顔の向きを特定して『顔がこちらを向いているか否か(顔の向きが正面を向いているか否か)』を判定するようにすればよい。
例えば、図24Aに示されるように、商品陳列棚121に商品131−1乃至商品131−5が陳列され、それに対応して情報収集装置122−1乃至情報収集装置122−5が設置されているとする。そして、その商品陳列棚121の前方周辺に顧客361A、顧客361B、および顧客361Cが立っているとする。
あるタイミングにおいて、各情報収集装置122により得られる撮像画像は、図24Bのようになる。つまり、情報収集装置122−1において得られた撮像画像362−1においては、顧客361Aの顔画像363−1および顧客361Bの顔画像364−1が検出される。また、情報収集装置122−2において得られた撮像画像362−2においては、顧客361Aの顔画像363−2、顧客361Bの顔画像364−2、顧客361Cの顔画像365−1が検出される。さらに、情報収集装置122−3において得られた撮像画像362−3においては、顧客361Aの顔画像363−3、顧客361Bの顔画像364−3、顧客361Cの顔画像365−2が検出される。また、情報収集装置122−4において得られた撮像画像362−4においては、顧客361Aの顔画像363−4、顧客361Bの顔画像364−4、顧客361Cの顔画像365−3が検出される。さらに、情報収集装置122−5において得られた撮像画像362−5においては、顧客361Aの顔画像363−5、顧客361Bの顔画像364−5、顧客361Cの顔画像365−4が検出される。
情報収集システム100は、各撮像画像362において、検出された全ての顔の向きを特定し、『顔がこちらを見ているか否か』(具体的には、『顔の向きが正面を向いているか否か』)を判定する。この判定方法は任意である。例えば、<顧客が見ている商品の特定方法2>において説明した方法と同様の方法により判定するようにしてもよい。
例えば図24Bの場合、情報収集システム100は、撮像画像362−1について、『正面を向いている顔』は『無し』と判定する。また、情報収集システム100は、撮像画像362−2について、『正面を向いている顔』は『有り』(顔画像363−2)と判定し、『顧客361Aが商品131−2を見ている』と判定する。さらに、情報収集システム100は、撮像画像362−3について、『正面を向いている顔』は『有り』(顔画像364−3)と判定し、『顧客361Bが商品131−3を見ている』と判定する。また、情報収集システム100は、撮像画像362−4について、『正面を向いている顔』は『無し』と判定する。さらに、情報収集システム100は、撮像画像362−5について、『正面を向いている顔』は『有り』(顔画像365−4)と判定し、『顧客361Cが商品131−5を見ている』と判定する。
さらに情報収集システム100は、その顧客361がその商品を見ている時間を計測する。また、情報収集システム100は、その商品を見ている顧客361の年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客361とその顧客361が見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
このようにして顧客が見ている商品の特定(顧客の顔の向きの特定)を行うことにより、商品陳列棚121の周辺に顧客が複数人存在する場合であっても、より容易かつ高精度に、各顧客が見ている商品を特定することができる。また、顔の向きを利用することにより、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報をより容易に収集することができる。
<垂直方向の特定方法1>
以上においては、顧客の顔の水平方向の向きの特定について説明したが、この特定は、垂直方向についても行われるようにしてもよい。
例えば、図25Aに示されるように、商品陳列棚121の各棚に情報収集装置122−1乃至情報収集装置122−5が設置されているとする。つまり、情報収集装置122−1乃至情報収集装置122−5が垂直方向に並んでいるとする。そして、その商品陳列棚121の前方周辺に顧客371がいるとする。
また、情報収集装置122−1乃至情報収集装置122−5のそれぞれにおいて得られた撮像画像から、図25Bに示される各顔画像が検出されるとする。つまり、情報収集装置122−1において得られた撮像画像において顔画像372−1が検出され、情報収集装置122−2において得られた撮像画像において顔画像372−2が検出され、情報収集装置122−3において得られた撮像画像において顔画像372−3が検出され、情報収集装置122−4において得られた撮像画像において顔画像372−4が検出され、情報収集装置122−5において得られた撮像画像において顔画像372−5が検出されるとする。
情報収集システム100は、これらの各顔画像の顔の向きを比較する。この比較方法は任意である。例えば、情報収集システム100が、顔画像372−1乃至顔画像372−5のそれぞれにおいて、目と上唇の間の長さと顔の幅の比率(図25Cに示される顔画像372におけるN/W)を算出し、この指標(N/W)を画像間で比較するようにしてもよい。
そして情報収集システム100は、その比較の結果に基づいて『最も正面を向いている』と判定される顔の画像を特定する。この特定の方法は任意である。例えば、図25Cの場合、N/Wの値が最も大きい画像を『最も正面を向いている顔の画像』として特定(言い換えれば、評価もしくは分析の結論を付与)するようにしてもよい。この方法によると、図25Bの例の場合、情報収集装置122−4において得られた撮像画像における顔画像372−4が『最も正面を向いている顔の画像』として特定される。
そして情報収集システム100は、『最も正面を向いている』と特定した画像を撮像した情報収集装置122に対応する商品131を、『顧客が見ている商品』として特定する。
さらに情報収集システム100は、その顧客371がその商品を見ている時間を計測する。また、情報収集システム100は、その商品を見ている顧客371の年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客371とその顧客371が見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
垂直方向の場合も、1人の顧客が見ている方向(商品)は1つのみである。したがってこの場合も、上述のように特定を行うことにより、各撮像画像から同一人物の顔画像を特定する必要がなく、より容易かつ高精度に、顧客が見ている商品を特定することができる。また、顔の向きを比較するだけで、顧客が見ている商品を特定することができる。つまり、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、より高精度な情報をより容易に収集することができる。
なお、顧客の視線の方向を推定することにより、顧客が見ている商品を推定するようにしてももちろんよい。この場合であっても、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報を収集することができる。
<垂直方向の特定方法2>
顧客の顔の垂直方向の向きの特定方法は、上述の例に限定されない。例えば、顔画像間で指標の比較を行わずに、各画像において指標を評価して顔の向きを特定するようにしてもよい。
例えば、図25Aの場合に、<垂直方向の特定方法1>において説明したのと同様に、各撮像画像から図25Bに示されるような顔画像372−1乃至顔画像372−5が検出されたとする。情報収集システム100は、これらの顔の向きを特定し、『顔がこちらを見ているか否か』を判定する。より具体的には、情報収集システム100は、『顔の向きが正面を向いているか否か』を判定する。この場合、他の撮像画像の顔画像との比較は行わない。
なお、この顔の向きの特定方法は、任意である。例えば、図25Cに示されるように、情報収集システム100が、顔画像372について、目と上唇の間の長さと顔の幅の比率を指標(図25CにおけるN/W)を算出し、その値に基づいて判定するようにしてもよい。
例えば、このNおよびWの統計上の平均値をそれぞれN0、W0とする。顔の向きの指標であるN/WがN0/W0に近いと『正面を向いている顔の画像』であると判断することができることから、『N0/W0±α』の範囲内の場合に『正面を向いている』と判定されるようにしてもよい。なおこのαは、任意の値としてよいが、例えばN0/W0値の10%としてもよい。また、商品や情報収集装置122の設置の間隔や顔の検出解析精度に依存するので、このαの値を調整することができるようにしてもよい。
さらに情報収集システム100は、その顧客371がその商品を見ている時間を計測する。また、情報収集システム100は、その商品を見ている顧客371の年齢や性別などの属性を、任意の分析手法を用いて取得する。さらに、情報収集システム100は、顧客371とその顧客371が見ている商品(その商品に対応する情報収集装置122または商品陳列棚121でもよい)との距離を求める。情報収集システム100は、これらの解析結果を顧客に関する情報として収集する。
この場合も、1人の顧客が見ている方向(商品)は1つのみである。したがってこの場合も、上述のように特定を行うことにより、各撮像画像から同一人物の顔画像を特定する必要がなく、より容易かつ高精度に、顧客が見ている商品を特定することができる。また、顔の向きを利用することにより、顧客の視線の先を推定する場合よりも簡単なアルゴリズムで、かつ、高い精度で、顧客が見ている商品を特定することができる。つまり、情報収集システム100は、より高精度な情報をより容易に収集することができる。
なお、顧客の視線の方向を推定することにより、顧客が見ている商品を推定するようにしてももちろんよい。この場合であっても、情報収集システム100は、情報収集装置122を商品種毎に備えるため、顧客について従来技術よりも多くの方向からの画像を撮像することができる。このため、より高精度な情報を収集することができる。
<情報表示について>
例えば、電子棚札や電子POP等のように情報出力(表示)機能を備えている場合、情報収集装置122は、情報を出力(表示等)することができる。この情報は、例えば情報収集装置122に内蔵されている記憶部に予め記憶されているようにしてもよいし、ユーザ等により情報収集装置122に入力されるようにしてもよい。
また、通信機能を介して他の装置より供給されるようにしてもよい。例えば、図26に示されるように、情報管理サーバ103からその情報が供給される(情報収集装置122が情報管理サーバ103から供給された情報を出力する)ようにしてもよい。なお、情報収集装置122と情報管理サーバ103との間の通信はローカルサーバ123や中経装置102等を経由してもしなくてもよいので、図26においてはこれらの図示や説明を省略している。上述したように、情報収集装置122は、通信機能を利用して、収集した情報(商品や顧客に関する情報等)を情報管理サーバ103に供給する(矢印401)。そして、この通信機能(もちろん他の通信機能でも良い)を利用して、情報管理サーバ103から情報収集装置122に情報が供給される(矢印402)。情報収集装置122は、この情報管理サーバ103から供給された情報を、例えば画像や音声等として出力する。
その際、情報管理サーバ103が、情報収集装置122から供給された情報に関係する情報を、その情報収集装置122に供給するようにしてもよい。例えば、情報収集装置122が、商品を撮像し、その撮像画像に基づいて商品を特定し、その商品の識別情報を情報管理サーバ103に供給すると、情報管理サーバ103が、その識別情報に対応する商品に関する情報(例えば商品名、価格等)(すなわち、撮像された商品に関する情報)を、その情報収集装置122に供給する。情報収集装置122は、その商品名や価格などを画像(文字情報も含む)や音声等として出力する。このように情報収集装置122に商品を撮像させるだけで、容易に、その商品名や価格等の情報を、情報収集装置122に出力(表示等)させることができる。
また、例えば、情報収集装置122が、顧客を撮像し、その撮像画像に基づいて顧客の属性を特定し、その顧客の属性情報を情報管理サーバ103に供給すると、情報管理サーバ103が、その属性情報に対応する商品に関する情報(例えば、その属性の顧客にお勧めの商品名や価格等)(すなわち、撮像された顧客に提示すべき情報)を、その情報収集装置122に供給する。情報収集装置122は、その商品名や価格などを画像(文字情報も含む)や音声等として出力する。このようにすることにより、情報収集装置122が、容易に、周辺に位置する顧客にとって適切な情報を出力(表示等)することができるようになる。
なお、図26の例において、情報管理サーバ103が、情報収集装置122から供給された情報と無関係の情報(独立した情報)を、その情報収集装置122に供給するようにしてもよい。この場合、情報の送信タイミングも互いに独立していてもよい。つまり、情報管理サーバ103が、情報収集装置122からの情報の供給タイミングと独立したタイミングにおいて、その情報とは独立した情報を、情報収集装置122に供給するようにしてもよい。
例えば、情報管理サーバ103が、売り場の案内や、セール品やタイムセールの予定の案内等のような、情報収集装置122から供給される情報とは無関係な情報を、情報収集装置122からの情報供給タイミングとは無関係なタイミングにおいて(例えば情報収集装置122から情報が供給されていなくても)、情報収集装置122に対して供給し、情報収集装置122が、その情報を画像(文字情報も含む)や音声等として出力する。このようにすることにより、より容易に任意の情報を情報収集装置122に出力させることができる。もちろん、情報管理サーバ103は、このような情報を供給する情報収集装置122を任意に選択することができる。つまり、容易に、任意の場所(情報収集装置122)に任意の情報を出力させることができる。
なお、情報収集装置122が出力する情報は、情報管理サーバ103以外の装置から供給されるようにしてもよい。例えば、図27に示されるように、情報管理サーバ103とは別の情報提供サーバ411から供給されるようにしてもよい。
つまり、この場合、情報収集装置122は、通信機能を利用して、収集した情報(商品や顧客に関する情報等)を情報管理サーバ103に供給する(矢印421)。また、この通信機能(もちろん他の通信機能でも良い)を利用して、情報提供サーバ411から情報収集装置122に情報が供給される(矢印422)。情報収集装置122は、この情報提供サーバ411から供給された情報を、例えば画像や音声等として出力する。
図26の例の場合と同様に、情報収集装置122から情報管理サーバ103に供給される情報と、情報提供サーバ411から情報収集装置122に提供される情報とが、互いに関係していてもよいし、互いに独立していてもよい。また、これらの情報の伝送タイミングも、互いに関係していてもよいし、互いに独立していてもよい。
さらに、情報提供サーバ411が複数台設けられるようにしてもよい。つまり、情報収集装置122が、複数の装置から供給される情報を出力することができるようにしてもよい。
また、情報収集装置122に出力させる情報を供給する図26の情報管理サーバ103や図27の情報提供サーバ411は、任意の情報収集装置122に対して、任意の情報を任意のタイミングに供給することができるようにしてもよい。例えば、複数の情報収集装置122に対して同じ情報を供給することもできるようにしてもよいし、ある情報収集装置122に対して、その情報収集装置122から供給された情報に関係する情報を供給し、他の情報収集装置122に対して、その情報収集装置122から供給された情報とは無関係の情報を供給することができるようにしてもよい。また、一部の情報収集装置122に対して情報を供給しないようにすることができるようにしてもよい。また、例えば、ある情報収集装置122から供給された情報に関係する情報を、他の情報収集装置122に供給することができるようにしてもよい。
なお、図26や図27の例において、情報収集装置122が、情報を情報管理サーバ103に供給する機能を備えていなくてもよい。情報収集装置122が収集した情報は、任意の方法でその情報収集装置122から取り出すことができるようにしてもよい。例えば、収集された情報がUSBメモリ等のリムーバブルメディアに記憶され、そのリムーバブルメディアを介して、情報収集装置122の外部(例えば情報管理サーバ103等の他の装置)に出力されるようにしてもよい。
<2.第2の実施の形態>
<電子棚札システム>
次に、以上に説明した情報処理システムのより具体的な例について説明する。図28は、本技術を適用した情報処理システムの一実施の形態である電子棚札システムの主な構成例を示す図である。図28に示される電子棚札システム1100は、電子棚札1101に商品の情報を表示させるシステムである。
図28に示されるように、電子棚札システム1100は、N(Nは任意の自然数)個の電子棚札1101(電子棚札1101−1乃至電子棚札1101−N)を有する。電子棚札1101−1乃至電子棚札1101−Nを互いに区別しない場合、電子棚札1101と称する。電子棚札1101−1において示されるように、電子棚札1101の筐体には、カメラ1111、モニタ1112、およびモード識別用LED(Light Emitting Diode)1113が設けられている。
カメラ1111は、例えばCCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等、任意の撮像素子を有し、カメラ1111前方の被写体を撮像する。なお、カメラ1111が、その撮像素子の他に、例えばレンズや絞り等、任意の光学系を有するようにしてもよい。
モニタ1112は、例えばLCD(Liquid Crystal Display)、OELD(Organic Electro Luminescence Display)等、任意の表示デバイスを有し、例えば、商品名、カテゴリ、価格、識別情報(例えば識別番号やバーコード等)等、商品に関する任意の情報を表示する。
モード識別用LED1113は、電子棚札1101の動作モードを示す表示デバイスである。モード識別用LED1113は、例えば、発光色または発光の有無等によって電子棚札1101の動作モードを示す。なお、電子棚札1101の動作モードを示す表示デバイスは、LEDに限らず、任意の表示デバイスにより構成されるようにしてもよい。また、例えば、このような表示デバイスを省略し、電子棚札1101の動作モードを示す画像(例えば、絵柄、文字、記号等)をモニタ1112に表示させるようにしてもよい。
なお、電子棚札1101の筐体の構成は任意であり、図28に示される例に限定されない。例えば、カメラ1111、モニタ1112、モード識別用LED1113は、それぞれ、電子棚札1101の筐体の、図28の例と異なる位置に配置されるようにしてもよい。また、カメラ1111、モニタ1112、モード識別用LED1113は、それぞれ、複数設けられるようにしてもよい。それぞれの数は任意であり、互いに同数でなくてもよい。さらに、電子棚札1101は、測距センサを備えてもよい。
また、電子棚札1101は、通信機能を有し、ネットワーク1102を介して、例えばサーバ1103等、他の装置と通信を行うことができる。
ネットワーク1102は、任意の通信網であり、有線通信の通信網であってもよいし、無線通信の通信網であってもよいし、それらの両方により構成されるようにしてもよい。また、ネットワーク1102が、1の通信網により構成されるようにしてもよいし、複数の通信網により構成されるようにしてもよい。例えば、インターネット、公衆電話回線網、所謂3G回線や4G回線等の無線移動体用の広域通信網、WAN(Wide Area Network)、LAN(Local Area Network)、Bluetooth(登録商標)規格に準拠した通信を行う無線通信網、NFC(Near Field Communication)等の近距離無線通信の通信路、赤外線通信の通信路、HDMI(High-Definition Multimedia Interface)やUSB(Universal Serial Bus)等の規格に準拠した有線通信の通信網等、任意の通信規格の通信網や通信路がネットワーク1102に含まれるようにしてもよい。
サーバ1103は、電子棚札1101に対して、商品に関する情報等を提供する。サーバ1103は、通信機能を有し、ネットワーク1102を介して電子棚札1101等の他の装置と通信を行うことができる。サーバ1103の構成については後述するが、サーバ1103の構成は任意であり、1台の装置により構成されるようにしてもよいし、複数台の装置により構成されるようにしてもよいし、1台または複数台のサーバ上で動作する仮想サーバとして構成されるようにしてもよい。さらに、サーバ1103を、その構成を特定せずに、所謂クラウドサーバとしてもよい。
<電子棚札の設置例>
図29は、電子棚札1101の設置の様子の例を示す図である。図29に示されるように、電子棚札1101は、商品種毎に、それぞれの商品種の近傍に設置される。図29の例の場合、電子棚札1101−1乃至電子棚札1101−20が、商品棚(言い換えれば商品の陳列棚)1120の手前側(客側)に設置されている。商品棚1120の各段の棚1121−1乃至棚1121−4には、商品1122が配置される。なお、以下において、棚1121−1乃至棚1121−4を互いに区別して説明する必要が無い場合、棚1121と称する。また、図29においては、1群の商品1122のみが示されているが、棚1121には、任意の位置に任意の数の商品1122を配置することができる。
図29においては商品1122の図示を省略しているが、実際には、各電子棚札1101は、それぞれが情報を表示している商品の近傍に配置される。例えば、図29において図示している商品1122の情報(例えば商品名や価格等)は、その近傍に配置された電子棚札1101−1に表示される。客は、それらの位置関係と電子棚札に表示される商品名等から、商品1122と電子棚札1101との対応関係を把握することができる。
<電子棚札の構成>
図30は、電子棚札1101の主な構成例を示すブロック図である。図30に示されるように、電子棚札1101は、例えば、撮像部1131、画像認識部1132、処理制御部1133、通信部1134、表示制御部1135、記憶部1136、および表示部1137等の処理部を有する。
撮像部1131は、カメラ1111等を含み、被写体を撮像し、撮像画像(画像データ)を得る処理部である。撮像部1131は、得られた撮像画像の画像データを画像認識部1132に供給する。画像認識部1132は、撮像部1131から供給される画像データ(撮像画像)を解析し、撮像画像に含まれる、商品に関する所望の情報を認識する処理部である。画像認識部1132は、その認識結果を処理制御部1133に通知する。
処理制御部1133は、画像認識部1132による認識結果に基づいて、動作モードの選択に関する処理を行う処理部である。処理制御部1133は、その選択した動作モードに応じたデータを通信部1134や表示制御部1135に供給する。通信部1134は、他の装置と通信を行う処理部である。例えば、通信部1134は、処理制御部1133から供給されるデータを、ネットワーク1102を介してサーバ1103に供給する。また、例えば、通信部1134は、ネットワーク1102を介してサーバ1103からデータを取得し、それを表示制御部1135に供給する。
表示制御部1135は、表示部1137の表示制御に関する処理を行う処理部である。例えば、表示制御部1135は、処理制御部1133や通信部1134等から供給されるデータを用いて表示用画像を生成し、その表示用画像を表示部1137に供給し、表示させる。なお、表示制御部1135は、処理制御部1133や通信部1134等から供給されるデータを記憶部1136に記憶させ、任意のタイミングにおいてそのデータを読み出すことができる。つまり、表示制御部1135は、データの供給タイミングに関わらず、任意のタイミングにおいて、表示用画像を生成し、表示部1137に表示させることができる。
記憶部1136は、任意の記憶媒体を有し、表示制御部1135から供給される情報を記憶することができる処理部である。記憶部1136は、表示制御部1135からの要求に応じて、記憶している情報を表示制御部1135に供給する。表示部1137は、例えば、モニタ1112やモード識別用LED1113を有し、表示制御部1135から供給される表示用画像等の表示に関する処理を行う処理部である。
図31は、図30の画像認識部1132の主な構成例を示すブロック図である。図31に示されるように、画像認識部1132は、例えば、特定コード認識部1141、客認識部1142、および商品認識部1143を有する。
特定コード認識部1141は、撮像画像に含まれる、動作モード設定用の特定コードの認識に関する処理を行う。客認識部1142は、撮像画像に含まれる、客の顔等の認識に関する処理を行う。商品認識部1143は、撮像画像に含まれる、商品に関する情報の認識に関する処理を行う。
<情報設定モード>
電子棚札1101は、表示する商品の情報を更新する場合、情報設定モードで動作する。情報設定モードの場合、電子棚札1101は、カメラ1111により商品に関する情報を撮像し、その撮像画像に含まれる商品に関する情報を認識することにより、モニタ1112に表示する情報の更新を行う。
例えば、撮像部1131がカメラ1111を用いて商品に関する情報を撮像する。この商品に関する情報は、その商品を特定することができる情報であれば、どのような情報であってもよい。例えば、商品の外観や包装等であってもよいし、その包装や、商品カタログ等のような商品以外に記載された、その商品を識別する情報(識別情報)であってもよい。この識別情報は、どのような情報であってもよく、例えば、商品名、バーコード、QRコード(登録商標)、製造番号、識別番号等であってもよいし、それら以外であってもよいし、複数種類の情報を組み合わせてもよい。
画像認識部1132の商品認識部1143は、その撮像画像に含まれる商品に関する情報を認識する。処理制御部1133は、その商品に関する情報を、画像認識部1132が認識した認識データとして通信部1134に供給する。通信部1134は、その認識データをサーバ1103に供給する。サーバ1103は、その認識データに応じた、商品に関する表示用データを電子棚札1101に供給する。
電子棚札1101の通信部1134は、その表示用データを取得し、表示制御部1135は、その表示用データを用いて表示用画像を生成する。この表示用画像の内容は任意であるが、例えば、撮像部1131により撮像された商品(または撮像された「商品に関する情報」に対応する商品)の商品名、価格、バーコード(識別情報)の内、少なくともいずれか1つが含まれるようにしてもよい。また、例えば、商品の産地や生産者等の情報が含まれるようにしてもよい。また、値引き価格等の情報が含まれるようにしてもよい。もちろん、これらの例以外の情報が表示用画像に含まれていてもよい。例えば、撮像した商品(または撮像された「商品に関する情報」に対応する商品)と異なる商品についての情報が表示されるようにしてもよい。例えば、販売者側から客に対してお勧めの商品に関する情報が含まれるようにしてもよい。また、複数種類の情報が表示用画像に含まれていてもよい。
表示部1137は、その表示用画像をモニタ1112に表示させる。つまり、表示部1137は、画像認識部1132により認識された商品に関する情報に対応する「商品に関する画像」を表示する。
したがって、例えば、商品を販売する店舗の店員は、電子棚札1101を「情報設定モード」にして、カメラ1111に商品等(例えば商品、商品の包装、商品カタログ等)を撮像させることにより、その電子棚札1101のモニタ1112に表示される内容を、その商品についての情報に更新することができる。つまり、情報の更新の際に、ハンディターミナル等の専用の装置が不要になるので、コストの増大を抑制することができる。また、ハンディターミナル等の専用の装置の操作が不要になることで、より容易に電子棚札1101が表示する情報を更新することができる。つまり、利便性を向上させることができる。
なお、電子棚札1101が単体で動作し、サーバ1103を利用せずに表示する情報を更新することができるようにしてもよい。例えば、電子棚札1101が、予め商品に関する表示用データを複数記憶し、撮像された商品に関する情報に基づいて、使用する表示用データを選択するようにしてもよい。ただし、上述したようにサーバ1103を利用することにより、電子棚札1101の記憶容量による制限を抑制することができ、より多くの商品、より多くの種類の情報に対応させる(より多様な情報を表示させる)ことができる。また、より最新の情報を表示させることができる。さらに、システム全体でみた場合、複数の電子棚札1101の情報をサーバ1103にてまとめて管理することができるので、管理がより容易になるとともに、コストの増大を抑制することができる。
<情報取得モード>
情報を更新しない場合、電子棚札1101は、商品に関する情報を含む表示用画像を表示する。その際、電子棚札1101は、情報取得モードで動作し、客に関する情報を収集することができる。また、その収集した情報に基づいて、表示する画像を更新することもできる。
例えば、撮像部1131がカメラ1111を用いて客の顔や手等を撮像する。画像認識部1132の客認識部1142は、その撮像画像に含まれる客の画像から、客に関する情報を認識する。この客に関する情報は、どのような情報であってもよく、例えば、年齢(または年齢帯)、性別、名前や連絡先等の登録情報、表情、位置、向き、動き、視線、体温、呼吸の様子、手相、指紋等であってもよいし、それら以外であってもよいし、複数種類の情報を組み合わせてもよい。
処理制御部1133は、その客に関する情報を、画像認識部1132が認識した認識データとして通信部1134に供給する。通信部1134は、その認識データをサーバ1103に供給する。サーバ1103は、その認識データを取得し、管理する。このようにすることにより、サーバ1103は、各電子棚札1101から客に関する情報を容易に収集することができ、客についてタイプや行動を分析したり、その分析結果や集計結果を販売戦略の計画等に利用したりすることができる。さらに、その分析結果や集計結果を電子棚札1101による情報表示の制御にも利用することができる。つまり、利便性を向上させることができる。
なお、電子棚札1101は商品に近い位置に設置されるため、上述のように情報取得モードで動作することにより、例えば、どの商品とどの商品とを比較したか、視線を向けただけか商品を手にしたか、商品をいくつかごに入れたか、商品を棚に戻したか等、商品近傍の客についての情報を収集することができる。したがって、より有用な情報を得ることができる。
また、例えば、サーバ1103が収集した客に関する情報に基づいて、電子棚札1101に表示させる表示用データを選定し、その表示用データを電子棚札1101に供給するようにしてもよい。この表示用データの内容は任意である。例えば、この表示用データに商品に関する情報が含まれるようにしてもよい。例えば、サーバ1103が、収集した客に関する情報に基づいて、客に対して提示することにより宣伝効果が期待される商品に関する情報を、表示用データとして選定するようにしてもよい。また、例えば、サーバ1103が、収集した客に関する情報に基づいて、より大きな効果が得られるような表示の仕方(例えば表示用画像のレイアウト等)を特定し、その表示方法を示す表示用データを選定するようにしてもよい。
電子棚札1101の通信部1134は、その表示用データを取得し、表示制御部1135は、その表示用データから表示用画像(商品に関する画像)を生成し、表示部1137は、その表示用画像をモニタ1112に表示させる。つまり、表示部1137は、収集した客に関する情報に対応する商品に関する画像をモニタ1112に表示させることができる。したがって、電子棚札1101は、より大きな効果(例えば販促効果)を期待することができる表示を行うことができる。
<モードの切り替え>
電子棚札1101は、以上のような情報設定モードと情報取得モードとを切り換えることができる。この切り替えの方法は任意である。例えば、電子棚札1101の筐体に動作モードを切り替えるスイッチを設け、ユーザ等が手動でそのスイッチを動かして動作モードを切り替えるようにしてもよい。また、例えば、電子棚札1101が特定コードを撮像することによって、この動作モードの切り替えを行うことができるようにしてもよい。
例えば、撮像部1131がカメラ1111を用いて、動作モードを切り替えるための専用の画像(特定コード)を撮像する。この特定コードはどのような画像であってもよい。文字、数字、記号等であってもよいし、バーコードやQRコード等であってもよい。管理者等の予め登録された人物の顔や手(静脈や指紋)等であってもよい。また、それら以外であってもよいし、複数種類の情報を組み合わせてもよい。
画像認識部1132の特定コード認識部1141は、その撮像画像に含まれる特定コードを認識する。処理制御部1133は、その特定コードの認識結果に応じて、動作モードを切り替える。すなわち、処理制御部1133は、特定コードの認識結果に応じて、認識データとする情報を選択する。換言するに処理制御部1133は、商品に関する情報をサーバ1103に供給するか、客に関する情報をサーバ1103に供給するかを制御する。
表示部1137は、そのモードの切り替えに合わせて、モード識別用LED1113の表示を更新する。例えば、表示部1137は、モード識別用LED1113の表示色を切り替えたり、点灯させたり、消灯させたり、点滅させたりする。なお、表示部1137は、モード識別用LED1113を用いて、動作モードを切り替えた旨を通知するようにしてもよい。
このように、電子棚札1101は、専用の装置を用いずに動作モードを容易に切り替えることができる。つまり、電子棚札1101は、より容易に、上述の2つのモードで動作することができる。したがって、利便性を向上させることができる。
<サーバの構成>
図32は、サーバ1103の主な構成例を示すブロック図である。図32に示されるように、サーバ1103は、バス1154を介して相互に接続されているCPU(Central Processing Unit)1151、ROM(Read Only Memory)1152、およびRAM(Random Access Memory)1153を有する。
バス1154にはまた、入出力インタフェース1160も接続されている。入出力インタフェース1160には、入力部1161、出力部1162、記憶部1163、通信部1164、およびドライブ1165が接続されている。
入力部1161は、例えば、キーボード、マウス、タッチパネル、イメージセンサ、マイクロホン、スイッチ、入力端子等の任意の入力デバイスを有する。出力部1162は、例えば、ディスプレイ、スピーカ、出力端子等の任意の出力デバイスを有する。記憶部1163は、例えば、ハードディスク、RAMディスク、SSD(Solid State Drive)やUSBメモリ等のような不揮発性のメモリ等、任意の記憶媒体を有する。通信部1164は、例えば、イーサネット(登録商標)、Bluetooth、USB、HDMI(登録商標)、IrDA等の、有線若しくは無線、または両方の、任意の通信規格の通信インタフェースを有する。ドライブ1165は、自身に装着された、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の任意の記憶媒体を有するリムーバブルメディア1171を駆動する。
以上のように構成されるサーバ1103では、CPU1151が、例えば、記憶部1163に記憶されているプログラムを、入出力インタフェース1160およびバス1154を介して、RAM1153にロードして実行することにより、後述する機能を実現することができる。RAM1153にはまた、CPU1151が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU1151が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1171に記録して適用することができる。その場合、プログラムは、リムーバブルメディア1171をドライブ1165に装着することにより、入出力インタフェース1160を介して、記憶部1163にインストールすることができる。また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部1164で受信し、記憶部1163にインストールすることができる。その他、このプログラムは、ROM1152や記憶部1163に、あらかじめインストールしておくこともできる。
<情報取得処理の流れ>
次に、以上のような電子棚札システム1100において実行される処理について説明する。電子棚札1101は、情報取得処理を実行することにより、上述した情報設定モードでの処理、情報取得モードでの処理、または、動作モードの切り替え等を行う。
図33のフローチャートを参照して、この情報取得処理の流れの例を説明する。情報取得処理が開始されると、電子棚札1101の撮像部1131は、ステップS1101において、カメラ1111による撮像を開始する。また、ステップS1102において、電子棚札1101の各処理部は、初期設定を行う。
ステップS1103において、撮像部1131は、カメラ1111を用いて被写体を撮像し、撮像画像を得る。ステップS1104において、画像認識部1132は、画像認識処理を行い、撮像画像に含まれる情報を認識する。この画像認識処理の詳細については後述する。ステップS1105において、処理制御部1133は、その画像認識処理結果に基づいて認識データ選定処理を行い、認識データとするデータの選定を行う。この認識データ選定処理の詳細については後述する。ステップS1106において、表示制御部1135は、表示部1137を制御し、現在の動作モードを示す表示を行わせる。表示部1137は、モード識別用LED1113を用いて、その表示を行う。ステップS1107において、通信部1134は、ステップS1105の処理により選定された認識データをサーバ1103に送信する。
ステップS1108において、電子棚札1101は、情報取得処理を終了するか否かを判定し、終了しないと判定した場合、処理をステップS1103に戻し、それ以降の処理を繰り返す。また、ステップS1108において情報取得処理を終了すると判定された場合、情報取得処理が終了する。
<画像認識処理の流れ>
次に、図33のステップS1104において実行される画像認識処理の流れの例を、図34および図35のフローチャートを参照して説明する。
画像認識処理が開始されると、画像認識部1132の商品認識部1143は、撮像画像を解析し、その撮像画像に含まれる商品に関する情報を認識する。例えば、商品認識部1143は、撮像画像に含まれる、商品の筐体や包装の意匠、商品名、識別情報等を認識する。商品認識部1143は、その商品に関する情報の認識結果を保存する。
また、画像認識部1132の客認識部1142は、撮像画像を解析し、その撮像画像に含まれる客に関する情報を認識する。例えば、客認識部1142は、撮像画像に含まれる、客の顔や手、動き、視線等を認識する。客認識部1142は、その客に関する情報の認識結果を保存する。
また、画像認識部1132の特定コード認識部1141は、撮像画像を解析し、その撮像画像に含まれる特定コードを認識する。例えば、特定コード認識部1141は、撮像画像に含まれる、バーコード、QRコード、識別番号、管理者の顔等を認識する。
これらの各処理は、図34のステップS1111乃至ステップS1113のように並列に実行するようにしてもよいし、図35のステップS1121乃至ステップS1123のように直列に実行するようにしてもよい。これらの処理が終了すると画像認識処理が終了し、処理は図33に戻る。
<認識データ選定処理の流れ>
次に、図33のステップS1105において実行される認識データ選定処理の流れの例を、図36乃至図38のフローチャートを参照して説明する。
例えば、管理者が所定の特定コード(例えば、バーコード、識別番号、管理者の顔等、任意の情報)をカメラ1111の前に位置させ、撮像させると、特定コード認識部1141は、図33のステップS1104においてその特定コードを認識する。この動作モードの指定に用いられる特定コードは、例えば、モード固有の情報であってもよい。つまり、特定コードとして、情報設定モードを示す第1の特定コードと、情報取得モードを示す第2の特定コードとが存在し、撮像された特定コードのそのいずれであるかによって動作モードが制御されるようにしてもよい。例えば、第1の特定コードが撮像された場合、情報設定モードが選択され、第2の特定コードが撮像された場合、情報取得モードが選択されるようにしてもよい。この第1の特定コードおよび第2の特定コードは、互いに識別可能なものであればどのような情報であってもよい。
この場合の認識データ選定処理の流れの例を、図36のフローチャートを参照して説明する。認識データ選定処理が開始されると、処理制御部1133は、ステップS1131において、図33のステップS1104の処理により第1の特定コードが認識されたか否かを判定する。第1の特定コードが認識されたと判定した場合、処理はステップS1132に進む。
ステップS1132において、処理制御部1133は、動作モードを情報設定モードに設定し、商品認識部1143から、商品に関する情報の認識結果の保存データを認識データとして読み出す。読み出された商品に関する情報の認識結果は、図33のステップS1107において、認識データとしてサーバ1103に送信される。また、この場合、図33のステップS1106においては、モード識別用LED1113の表示が、情報設定モードを示す表示に設定される。ステップS1132の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
ステップS1131において、第1の特定コードが認識されていないと判定された場合、処理はステップS1133に進む。ステップS1133において、処理制御部1133は、図33のステップS1104の処理により第2の特定コードが認識されたか否かを判定する。第2の特定コードが認識されたと判定した場合、処理はステップS1134に進む。
ステップS1134において、処理制御部1133は、動作モードを情報取得モードに設定し、客認識部1142から、客に関する情報の認識結果の保存データを認識データとして読み出す。読み出された客に関する情報の認識結果は、図33のステップS1107において、認識データとしてサーバ1103に送信される。また、この場合、図33のステップS1106においては、モード識別用LED1113の表示が、情報取得モードを示す表示に設定される。ステップS1134の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
ステップS1133において、第2の特定コードが認識されていないと判定された場合、処理はステップS1135に進む。ステップS1135において、処理制御部1133は、動作モードを、前回保存データを読み出した際と同じモードのままとし、そのモードに対応する情報の保存データを認識データとして読み出す。例えば、前回が情報設定モードで合った場合、処理制御部1133は、ステップS1132の場合と同様に、商品認識部1143から、商品に関する情報の認識結果の保存データを認識データとして読み出す。また、例えば、前回が情報取得モードであった場合、処理制御部1133は、ステップS1134の場合と同様に、客認識部1142から、客に関する情報の認識結果の保存データを認識データとして読み出す。読み出された認識データは、図33のステップS1107においてサーバ1103に送信される。また、この場合、図33のステップS1106においては、モード識別用LED1113の表示が、前回のままとされる。ステップS1135の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
また、動作モードの指定に用いられる特定コードを単数とし、その特定コードが認識された場合に動作モードが切り替えられるようにしてもよい。この場合の認識データ選定処理の流れの例を、図37のフローチャートを参照して説明する。認識データ選定処理が開始されると、処理制御部1133は、ステップS1141において、図33のステップS1104の処理により特定コードが認識されたか否かを判定する。特定コードが認識されていないと判定した場合、処理はステップS1142に進む。
ステップS1142において、処理制御部1133は、動作モードを前回読み出した際と同一のモードとし、前回読み出した方の保存データを認識データとして読み出す。例えば、前回、動作モードが情報設定モードであり、商品に関する情報の認識結果の保存データが認識データとして読み出されたとすると、処理制御部1133は、今回も動作モードを情報設定モードとし、商品に関する情報の認識結果の保存データを認識データとして読み出す。逆に、前回、動作モードが情報取得モードであり、客に関する情報の認識結果の保存データが認識データとして読み出されたとすると、処理制御部1133は、今回も動作モードを情報取得モードとし、客に関する情報の認識結果の保存データを認識データとして読み出す。ステップS1142の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
また、ステップS1141において、特定コードが認識されたと判定した場合、処理はステップS1143に進む。ステップS1143において、処理制御部1133は、動作モードを切り替え、前回読み出していない方の保存データを認識データとして読み出す。例えば、前回、動作モードが情報設定モードであり、商品に関する情報の認識結果の保存データが認識データとして読み出されたとすると、今回、処理制御部1133は、動作モードを情報取得モードに切り替え、客に関する情報の認識結果の保存データを認識データとして読み出す。逆に、前回、動作モードが情報取得モードであり、客に関する情報の認識結果の保存データが認識データとして読み出されたとすると、今回、処理制御部1133は、動作モードを情報設定モードに切り替え、商品に関する情報の認識結果の保存データを認識データとして読み出す。ステップS1143の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
また、情報設定モードおよび情報取得モードのいずれか一方を初期状態とし、特定コードが認識された場合、一定期間、動作モードを他方のモードとするようにしてもよい。この場合の認識データ選定処理の流れの例を、図38のフローチャートを参照して説明する。なお、ここでは、情報取得モードを初期状態として説明する。認識データ選定処理が開始されると、処理制御部1133は、ステップS1151において、図33のステップS1104の処理により特定コードが認識されたか否かを判定する。特定コードが認識されたと判定した場合、処理はステップS1152に進む。
ステップS1152において、処理制御部1133は、動作モードを情報設定モードに切り替え、商品に関する情報の認識結果の保存データを認識データとして読み出す。ステップS1152の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
また、ステップS1151において、特定コードが認識されていないと判定された場合、処理はステップS1153に進む。ステップS1153において、処理制御部1133は、前回特定コードが認識されてから所定の時間以上経過したか否かを判定する。所定の時間以上経過していないと判定された場合、処理はステップS1152に戻る。
また、ステップS1153において、前回特定コードが認識されてから所定の時間以上経過したと判定された場合、処理はステップS1154に進む。ステップS1154において、処理制御部1133は、動作モードを情報取得モードにし、客に関する情報の認識結果の保存データを認識データとして読み出す。ステップS1154の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
<データ提供処理の流れ>
以上のように電子棚札1101から認識データが供給されるサーバ1103においては、データ提供処理を行うことにより、その認識データに対応する表示用データを電子棚札1101に提供する。このデータ提供処理の流れの例を、図39のフローチャートを参照して説明する。
データ提供処理が開始されると、サーバ1103のCPU1151は、ステップS1161において、通信部1164を制御して、電子棚札1101から供給される認識データを取得する。ステップS1162において、CPU1151は、ステップS1161の処理により取得された認識データを、記憶部1163に保存する。ステップS1163において、CPU1151は、記憶部1163に記憶されている表示用データ群の中から、その認識データに応じた表示用データ(電子棚札1101に表示させる情報を含むデータ)を、選定する。ステップS1164において、CPU1151は、通信部1164を制御して、その選定した表示用データを電子棚札1101に供給する。
ステップS1164の処理が終了すると、データ提供処理が終了する。
<表示制御処理の流れ>
以上のようにサーバ1103から表示用データが供給されると、電子棚札1101は、表示制御処理を実行し、その表示用データをモニタ1112に表示させる。この表示制御処理の流れの例を、図40のフローチャートを参照して説明する。
表示制御処理が開始されると、通信部1134は、ステップS1171において、サーバ1103から供給される表示用データを取得する。ステップS1172において、表示制御部1135は、その表示用データを用いて表示用画像を生成する。ステップS1173において、表示部1137は、その表示用画像をモニタ1112に表示させる。
ステップS1173の処理が終了すると、表示制御処理が終了する。
なお、ステップS1171において取得した表示用データは、一旦記憶部1136に記憶させ、表示するタイミングにおいて、表示制御部1135がその表示用データを読み出し、表示用画像を生成するようにしてもよい。このようにすることにより、表示用画像の表示タイミングを、表示用データの取得タイミングから独立させることができる。
以上のように各処理を行うことにより、電子棚札1101は、上述した情報設定モードや情報取得モードで動作することができ、また、これらの動作モードを切り替えることができ、利便性を向上させることができる。
<3.第3の実施の形態>
<電子棚札における選定>
第2の実施の形態においては、電子棚札1101が表示する情報(表示用データ)を、サーバ1103が選択するように説明したが、電子棚札1101が選択するようにしてもよい。例えば、サーバ1103が事前に複数の表示用データを電子棚札1101に供給し、電子棚札1101が、その中から、撮像画像より認識した商品に関する情報に対応するものを選定し、表示するようにしてもよい。
<データ提供処理の流れ>
このような場合、サーバ1103は、データ提供処理を実行することにより、表示用データを電子棚札1101に供給する。このデータ提供処理の流れの例を、図41のフローチャートを参照して説明する。
データ提供処理が開始されると、サーバ1103のCPU1151は、ステップS1201において、記憶部1163に記憶されている表示用データの中から複数選定する。この選定の基準は任意である。ステップS1202において、CPU1151は、通信部1164を制御し、ステップS1201において選定した複数の表示用データを、電子棚札1101に供給する。
ステップS1202の処理が終了すると、データ提供処理が終了する。
<表示用データ取得処理の流れ>
この処理に対して、電子棚札1101は、表示用データ取得処理を実行することにより、サーバ1103から供給される表示用データを取得する。この表示用データ取得処理の流れの例を、図42のフローチャートを参照して説明する。
表示用データ取得処理が開始されると、電子棚札1101の通信部1134は、ステップS1211において、サーバ1103から供給される複数の表示用データを取得する。ステップS1212において、記憶部1136は、ステップS1211において取得された複数の表示用データを記憶する。
ステップS1212の処理が終了すると、表示用データ取得処理が終了する。
<情報取得処理の流れ>
表示用データ取得処理を行った電子棚札1101は、情報取得処理を実行することにより、上述した情報設定モードでの処理、情報取得モードでの処理、または、動作モードの切り替え等を行う。
図43のフローチャートを参照して、この場合の情報取得処理の流れの例を説明する。情報取得処理が開始されると、電子棚札1101の撮像部1131は、ステップS1221において、カメラ1111による撮像を開始する。また、ステップS1222において、電子棚札1101の各処理部は、初期設定を行う。
ステップS1223において、撮像部1131は、カメラ1111を用いて被写体を撮像し、撮像画像を得る。ステップS1224において、画像認識部1132は、画像認識処理を行い、撮像画像に含まれる情報を認識する。この画像認識処理の詳細は任意である。例えば、第2の実施の形態の場合と同様の処理が実行されるようにしてもよい。
ステップS1225において、処理制御部1133は、その画像認識処理結果に基づいて認識データ選定処理を行い、認識データとするデータの選定を行う。この認識データ選定処理の詳細は任意である。例えば、第2の実施の形態の場合と同様の処理が実行されるようにしてもよい。
ステップS1226において、表示制御部1135は、表示部1137を制御し、現在の動作モードを示す表示を行わせる。表示部1137は、モード識別用LED1113を用いて、その表示を行う。ステップS1227において、電子棚札1101は、表示制御処理を行い、ステップS1225の処理により選定された認識データに対応する情報をモニタ1112に表示させる。この表示制御処理の詳細については後述する。
ステップS1228において、通信部1134は、ステップS1225の処理により選定された認識データをサーバ1103に送信する。
ステップS1229において、電子棚札1101は、情報取得処理を終了するか否かを判定し、終了しないと判定した場合、処理をステップS1223に戻し、それ以降の処理を繰り返す。また、ステップS1229において情報取得処理を終了すると判定された場合、情報取得処理が終了する。
<表示制御処理の流れ>
次に、図43のステップS1227において実行される表示制御処理の流れの例を、図44のフローチャートを参照して説明する。表示制御処理が開始されると、表示制御部1135は、ステップS1231において、記憶部1136に記憶されている複数の表示用データの中から、図43のステップS1225の処理により選定された認識データに対応する表示用データを選定し、その表示用データを記憶部1136から読み出す。
ステップS1232において、表示制御部1135は、読み出した表示用データを用いて表示用画像を生成し、それを表示部1137に供給する。ステップS1233において、表示部1137は、ステップS1232の処理により生成された表示用画像をモニタ1112に表示させる。
ステップS1233の処理が終了すると、表示制御処理が終了し、処理は図43に戻る。
<データ取得処理の流れ>
以上のような情報取得処理に対して、サーバ1103は、データ取得処理を実行することにより、電子棚札1101から供給される認識データを収集する。このデータ取得処理の流れの例を、図45のフローチャートを参照して説明する。
データ取得処理が開始されると、サーバ1103のCPU1151は、ステップS1241において、通信部1164を制御して、電子棚札1101から供給される認識データを取得する。ステップS1242において、CPU1151は、その取得した認識データを記憶部1163に保存する。認識データが記憶部1163に記憶されると、データ取得処理が終了する。
以上のように各処理を実行することにより、電子棚札1101は、容易に、撮像画像において認識された商品や客に関する情報に対応する表示用データを選定し、その表示用画像を表示させることができる。このようにすることにより、例えば、サーバ1103との通信が一時的に不通となるような場合であっても、電子棚札1101は、認識した情報に対応する表示用画像をモニタ1112に表示させることができる。つまり、利便性を向上させることができる。
<4.第4の実施の形態>
<顔の大きさ等の特定>
以上において、客に関する情報を収集するように説明したが、この客に関する情報はどのような情報であってもよい。例えば、客の顔の位置(客がどのくらい商品に近づいたか)、客の顔が検出された時刻(客がいつ来たか)、客の顔が検出されている時間(客がどのくらいの時間居たか)の内、少なくともいずれか1つを含むようにしてもよい。つまり、客に関する情報に、客が商品に対してどのくらい興味を示したかを示すような、客の行為を示す情報が含まれるようにしてもよい。
例えば、客の顔の位置は、検出された顔の大きさで判断する(すなわち、客が商品にどれくらい近づいたかを判断する)ようにしてもよい。例えば、図46Aに示されるように、電子棚札1101が、撮像画像1301の画角(すなわちカメラ1111の撮像範囲)に対して枠1311および枠1312を設定し、この2つの枠と顔画像とを比較して顔の大きさを判定するようにしてもよい。なお、図46Aに示されるように、枠1311は枠1312より小さく設定される。また、枠1311および枠1312は、図46Aに示されるように、撮像画像1301の画角の中央付近に設定されるようにしてもよいし、可動としてもよい。例えば、枠1311および枠1312が、撮像画像1301内における顔画像の位置に応じた位置に設定されるようにしてもよい。また、枠1311および枠1312の大きさや形状が、状況に応じて変化するようにしてもよい。
例えば、図46Bに示されるように、顔画像1321が枠1311よりも小さい場合、電子棚札1101は、その客が商品(電子棚札1101)から遠くに位置すると判定し、その客の商品に対する興味は小さいと推定する。また、例えば、図46Cに示されるように、顔画像1321が枠1311よりも大きく、かつ、枠1312よりも小さい場合、電子棚札1101は、その客が、図46Bの場合よりも商品(電子棚札1101)の近くに位置すると判定し、その客の商品に対する興味は、図46Bの場合よりも大きいと推定する。さらに、例えば、図46Dに示されるように、顔画像1321が枠1312よりも大きい場合、電子棚札1101は、その客が、図46Cの場合よりも商品(電子棚札1101)の近くに位置すると判定し、その客の商品に対する興味は、図46Cの場合よりも大きいと推定する。
<客情報認識処理の流れ>
この場合、客認識部1142は、図33のステップS1104(図34のステップS1112または図35のステップS1122)において、客情報認識処理を行うことにより、これらのパラメータを認識する。
図47のフローチャートを参照して、この客情報認識処理の流れの例を説明する。客情報認識処理が開始されると、客認識部1142は、ステップS1301において、撮像画像から顔を検出する。ステップS1302において、客認識部1142は、ステップS1301において顔を検出した時刻である顔検出時刻を認識する。つまり、客認識部1142は、いつ客が商品に興味を示したかを認識する。ステップS1303において、客認識部1142は、ステップS1301において検出した顔の大きさを、例えば図46を参照して説明したような方法で判定し、認識する。つまり、客認識部1142は、客がどのくらい興味を示したかを認識する。ステップS1304において、客認識部1142は、ステップS1301において顔を検出している時間を測定し、認識する。つまり、客認識部1142は、客がどのくらいの時間興味を示したかを認識する。そして、客認識部1142は、これらの客に関する情報の認識結果を保存する。
ステップS1304の処理が終了すると、客情報認識処理が終了し、処理は図33に戻る。
以上のように客情報認識処理を行うことにより、電子棚札1101は、客に関する情報として、より多様な情報を得ることができる。
<5.第5の実施の形態>
<動体検知>
また、電子棚札1101が、客に関する情報として、客の動き(行動)を認識するようにしてもよい。さらに、その場合に、客の動きを検知するためのカメラを、カメラ1111とは別に設けるようにしてもよい。例えば、図48Aに示されるように、カメラ1111とは別の、カメラ1341を電子棚札1101の筐体に設けるようにしてもよい。この場合、電子棚札1101が、例えば図48Bに示されるように、カメラ1111を用いて客の顔1351を撮像し、カメラ1341を用いて棚1121に設置された商品1122−1や商品1122−2に触れようとする客の手1352の動きを検知するようにしてもよい。
なお、図48の例の場合、カメラ1341が電子棚札1101の筐体の上面(上側に向かう面)に設けられているが、このカメラ1341の位置や撮影方向は任意である。また、カメラ1341は、動体を検知することができる撮像画像を得ることができればよいので、解像度に対する性能要求はカメラ1111よりも低い。つまり、カメラ1341は、カメラ1111よりも低解像度の撮像素子を用いるようにしてもよい。また、より高速の動体を検知することができるように、カメラ1341のフレームレートを、カメラ1111よりも高くするようにしてもよい。
<電子棚札の構成>
この場合の電子棚札1101の主な構成例を図49のブロック図に示す。図49に示されるように、この場合、電子棚札1101は、図30に示される構成に加え、撮像部1361および動体検知部1362をさらに有し、処理制御部1133の代わりに処理制御部1363を有する。
撮像部1361は、カメラ1341等を含み、被写体を撮像し、撮像画像(画像データ)を得る処理部である。撮像部1361は、得られた撮像画像の画像データを動体検知部1362に供給する。動体検知部1362は、撮像部1361から供給される画像データ(撮像画像)を解析し、撮像画像に含まれる動体(例えば客の手等)を検知する処理部である。この動体の検知方法は任意である。例えば、現在のフレームと前のフレームとで画像を比較することにより動体検知を行うようにしてもよい。また、例えば、背景画(初期状態の画像)を設定し、その背景画と現在のフレームの画像とを比較することにより動体検知を行うようにしてもよい。動体検知部1362は、その検知結果を処理制御部1363に通知する。
処理制御部1363は、画像認識部1132による認識結果と動体検知部1362による検知結果とに基づいて、動作モードの選択に関する処理を行う処理部である。処理制御部1363は、その選択した動作モードに応じたデータを通信部1134や表示制御部1135に供給する。例えば、処理制御部1363は、「情報取得モード」を選択した場合、画像認識部1132による認識結果とともに、動体検知部1362による動体検知結果を認識データとして選定し、通信部1134に供給する。つまり、通信部1134は、情報取得モードの場合、画像認識部1132による認識結果と、動体検知部1362による動体検知結果(例えば、客が商品を手に取ったか否か等)とを含む認識データを、ネットワーク1102を介してサーバ1103に供給する。
<客情報認識処理の流れ>
この場合、撮像部1361は、図33の情報取得処理のステップS1101(図43の情報取得処理の場合、ステップS1221)において、撮像部1131とともに撮像を開始し、ステップS1103(図43の情報取得処理の場合、ステップS1223)において、撮像部1131とともに撮像画像を取得する。
客認識部1142および動体検知部1362は、図33のステップS1104(図34のステップS1112または図35のステップS1122)において、客情報認識処理を行うことにより、客に関する情報を認識する。
図50のフローチャートを参照して、この客情報認識処理の流れの例を説明する。客情報認識処理が開始されると、ステップS1321乃至ステップS1324の各処理は、図47のステップS1301乃至ステップS1304の各処理と同様に実行される。ステップS1325において、動体検知部1362は、撮像部1361により得られた撮像画像から動体を検知する。つまり、動体検知部1362は、客が商品を手に取ったか否かを認識する。そして、客認識部1142は、これらの客に関する情報の認識結果を保存する。
ステップS1325の処理が終了すると、客情報認識処理が終了し、処理は図33に戻る。以上のように客情報認識処理を行うことにより、電子棚札1101は、客に関する情報として、より多様な情報を得ることができる。
<6.第6の実施の形態>
<表示制御>
第5の実施の形態においては、客に関する情報として、客の動き(行動)に関する情報が収集される場合について説明したが、この客の動き(行動)に関する情報に基づいて、電子棚札1101に表示される情報(画像)が制御されるようにしてもよい。例えば、サーバ1103が、認識データとして供給される客の動き(行動)に関する情報に基づいて、電子棚札1101に供給する表示用データを選定するようにしてもよい。その場合、サーバ1103は、第2の実施の形態において説明した場合と同様にデータ提供処理を実行し、認識データ(客の動き(行動)に関する情報)に応じた表示用データを選定し、電子棚札1101に供給するようにすればよい。また、例えば、電子棚札1101が、認識された客の動き(行動)に関する情報に基づいて、表示用データを選定するようにしてもよい。その場合、電子棚札1101は、第3の実施の形態において説明した場合と同様に表示制御処理を実行し、客の動き(行動)に関する情報に応じた表示用データを選定し、表示するようにすればよい。
このようにすることにより、例えば、客が電子棚札1101に対して所定の距離内に近づくと、電子棚札1101がモニタ1112の表示内容を変更するようにすることができる。例えば、その客を対象とするサービスを紹介するサービス情報等をモニタ1112に表示させる等、電子棚札1101が、状況に応じてより多様かつより効果的な表示を行うようにすることができる。
<客の属性>
また、例えば、客の年齢(または年齢帯)や性別等、客の属性に応じて電子棚札1101に表示される情報(画像)が制御されるようにしてもよい。その場合、客認識部1142は、撮像画像に含まれる客の属性を判定し、その判定結果を客に関する情報として認識する。それ以外の処理は、第2の実施の形態や第3の実施の形態において説明した場合と同様に実行されるようにしてもよい。
<客情報認識処理の流れ>
この場合、客認識部1142が、図33のステップS1104(図34のステップS1112または図35のステップS1122)において実行する客情報認識処理の流れの例を、図51のフローチャートを参照して説明する。
客情報認識処理が開始されると、ステップS1341乃至ステップS1344の各処理は、図47のステップS1301乃至ステップS1304の各処理と同様に実行される。ステップS1345において、客認識部1142は、ステップS1341において検出された顔から、客の性別や年齢等、客の属性を判定する。そして、客認識部1142は、これらの客に関する情報の認識結果や判定結果を保存する。
ステップS1345の処理が終了すると、客情報認識処理が終了し、処理は図33に戻る。以上のように客情報認識処理を行うことにより、電子棚札1101は、客に関する情報として、より多様な情報を得ることができる。したがって、電子棚札1101は、より多様な情報に応じて表示内容を制御することができる。つまり、電子棚札1101は、より多様な情報を表示することができる。
<客の識別情報>
また、例えば、客の識別情報に応じて電子棚札1101に表示される情報(画像)が制御されるようにしてもよい。例えば、電子棚札1101に近づいた客が電子棚札1101のカメラ1111の前方にIDカード等を翳し、そのカードに登録(表示)されている顧客固有IDコードを撮像させると、電子棚札1101が、その顧客固有IDコードに応じた情報(すなわち、そのIDカードの所有者である客に応じた情報)を表示するようにしてもよい。例えば、その客がお得意様(常連客)の場合、モニタ1112には、商品の定価ではなく、所定の割引を行った価格が表示されるようにしてもよい。それ以外の処理は、第2の実施の形態や第3の実施の形態において説明した場合と同様に実行されるようにしてもよい。
このような識別情報を用いることにより、客の、より詳細な識別を、より正確かつより容易に行うことができるようになる。したがって、それぞれの客に対してより適切な情報を提示することができるようになる。つまり、より細かい表示制御を行うことができる。
<画像認識部の構成>
この場合の画像認識部1132の主な構成例を図52に示す。この場合画像認識部1132は、図31に示される構成に加えて、顧客固有IDコード認識部1471を有する。顧客固有IDコード認識部1471は、撮像画像に含まれる顧客固有IDコードの認識に関する処理を行う。
<画像認識処理の流れ>
この場合の図33のステップS1104において実行される画像認識処理の流れの例を、図53のフローチャートを参照して説明する。この場合、画像認識処理が開始されると、商品認識部1143は、ステップS1361において、商品に関する情報を認識する。ステップS1362において、客認識部1142は、客に関する情報を認識する。ステップS1363において、顧客固有IDコード認識部1471は、撮像画像に含まれる顧客固有IDコードを認識する。ステップS1364において、特定コード認識部1141は、特定コードを認識する。ステップS1364の処理が終了すると、画像認識処理が終了し、処理は図33に戻る。
なお、この場合も、画像認識処理の各ステップの処理は、図34の例のように互いに並列に実行することもできる。
<認識データ選定処理の流れ>
次に、この場合の図33のステップS1105において実行される認識データ選定処理の流れの例を、図54のフローチャートを参照して説明する。この場合、認識データ選定処理が開始されると、ステップS1371乃至ステップS1373の各処理は、図36のステップS1131乃至ステップS1133の各処理と同様に実行される。
第2の特定コードが認識されると、ステップS1374において、処理制御部1133は、動作モードを情報取得モードに設定し、客認識部1142から、客に関する情報の認識結果の保存データと、顧客固有IDコードの認識結果の保存データとを認識データとして読み出す。読み出された客に関する情報の認識結果は、図33のステップS1107において、認識データとしてサーバ1103に送信される。また、この場合、図33のステップS1106においては、モード識別用LED1113の表示が、情報取得モードを示す表示に設定される。ステップS1374の処理が終了すると認識データ選定処理が終了し、処理は図33に戻る。
なお、ステップS1375の処理は、図36のステップS1135の処理と同様に実行される。
以上のように認識データ選定処理を行うことにより、電子棚札1101は、認識データとして、顧客固有IDコードの認識結果をサーバ1103に供給することができる。なお、サーバ1103は、第2の実施の形態の場合と同様に処理を行い、この認識データに対応する表示用データを選定し、電子棚札1101に供給することができる。したがって、電子棚札1101は、それぞれの客に対してより適切な情報を提示することができるようになる。
なお、図55においては、図36の場合と同様の手法で認識データ選定処理を行うように説明したが、認識データ設定処理の流れは、この例に限定されない。例えば、図37や図38のフローチャートの場合と同様の流れで認識データ設定処理が行われるようにしてもよい。
<7.第7の実施の形態>
<カメラの可動化>
電子棚札1101に設けられるカメラ1111の撮影方向(画角)は、固定であってもよいし、可変であってもよい。例えば、カメラ1111が電子棚札1101の筐体に対して可動に設けられ、その撮影方向(画角)を変更することができるようにしてもよい。
このカメラ1111は、例えば、図55Aに示されるように、電子棚札1101の筐体の正面(客側の面)に、電子棚札1101の正面を撮像するように設置されている。このカメラ1111の向きを可動とし、例えば、カメラ1111を、図55Bのように筐体正面(水平方向)に向けたり、図55Cのようにやや上側に向けたり、図55Dのようにやや下側に向けたりすることができるようにしてもよい。
図29を参照して説明したように、電子棚札1101は、商品棚1120に設置される。この商品棚1120には、一般的に、商品を配置する棚1121が複数設けられる。つまり、棚1121は、高い場所や低い場所にも設けられる。電子棚札1101は、このような棚1121に設置されるので、例えば図56Aに示されるように、客1601の目線の高さ付近以外の高い場所や低い場所にも設置される。したがって、電子棚札1101においてカメラ1111の向きを固定とすると、高い位置に設置された電子棚札1101−1や低い位置に設置された電子棚札1101−11、電子棚札1101−16等のカメラ1111は、図56Bに示されるように、客1601の顔を正面から撮像することができなくなるおそれがある。また、場合によっては、客1601が電子棚札1101に近づいても、撮影範囲内に客1601の顔が位置しない可能性もある。そのため、客1601の顔の認識精度が低減するおそれがあった。そこで、カメラ1111の向きを可動とすることにより、電子棚札1101の設置場所に依らず、電子棚札1101に近づき、電子棚札1101の方を見た客1601の顔を正面から撮像することができるようにすることができる。
例えば、図56の例の場合、各電子棚札1101を設置する際に、その設置する高さに応じて、カメラ1111が一般的な高さの客1601の顔の位置の方を向くように、カメラ1111の向きが調整されるようにしてもよい。
なお、カメラ1111の方向制御は、手動で行うようにしてもよいし、電子棚札1101にカメラ1111の向きを制御する制御機構を設けるようにしてもよい。例えば、カメラ1111の向きを可動範囲全体に動かしながら客1601を撮像してその顔の認識を行い、客1601の顔が認識できる範囲を求め、その範囲内の所定の向きにカメラ1111の向きを合わせるようにしてもよい。
例えば、図57Aに示されるように、制御機構がカメラ1111をまず最も上向きにする。次に、制御機構は、図57Bや図57Cのように、そこからカメラ1111の向きを下方向に動かしていき、図57Dのように、カメラ角度可動範囲(a+c)に対する顔認識に成功した範囲dを求める。そして制御機構は、その範囲dの中央の向き(d/2)を、客の顔を最も認識し易い角度(認識最適角度)とし、その向きにカメラ1111を向ける。
このようにすることにより、より容易に、カメラ1111の向きをより適切な向きに設定することができ、客(顔)の認識の精度を向上させることができる。
なお、このカメラ1111の可動方向は任意である。例えば、上下方向のみ可動としてもよいし、左右や斜め方向にも可動としてもよい。
<8.第8の実施の形態>
<電源制御>
例えば、商品(電子棚札1101)の近傍に誰も居ない状態、すなわち、電子棚札1101が客や商品等を認識してない状態においては、電子棚札1101は、情報を収集することも、表示する情報を設定(更新)することもできない。従ってこのような場合、一部の機能を停止し、その一部の処理部への電源供給を停止するようにしてもよい。このようにすることにより、消費電力の増大を抑制することができる。例えば、電子棚札1101の電源を電池とする場合、このように電源制御を行うことにより、その駆動時間を増大させることができる。
<電子棚札の構成>
この場合の電子棚札1101の主な構成例を図58に示す。図58に示されるようにこの場合、電子棚札1101は、図30の構成に加えて、動体検知部1631、電源制御部1632、電源部1633、および電源部1634を有する。
動体検知部1631は、撮像部1131において得られた撮像画像から動体を検知する。この動体検知の方法は任意であり、例えば、図49の動体検知部1362と同様の方法であってもよい。動体検知部1631は、検知結果を電源制御部1632に供給する。
電源制御部1632は、動体検知部1631による動体検知の結果に基づいて、電源部1633および電源部1634を制御する。電源部1633は、一点鎖線1641により囲まれた各処理部(例えば撮像部1131、動体検知部1631、電源制御部1632、および表示部1137)に、駆動に必要な電力を供給する。電源部1634は、点線1642により囲まれた各処理部(例えば画像認識部1132、処理制御部1133、通信部1134、表示制御部1135、記憶部1136)に、駆動に必要な電力を供給する。
例えば、電源制御部1632は、動体検知部1631により(例えば所定期間)動体が検知されていない場合、電源部1634による電源供給を停止させる。つまり、画像認識部1132乃至記憶部1136への電源供給が停止され、これらの処理部による処理が停止される。また、例えば、電源制御部1632は、動体検知部1631により動体が検知された場合、電源部1634による電源供給を開始させる。つまり、画像認識部1132乃至記憶部1136への電源供給が開始され、これらの処理部による処理が開始される。
つまり、動体が検知されない状態においては、撮像部1131、動体検知部1631、電源制御部1632、および表示部1137にのみ電力が供給され、被写体の撮像、動体の検知、画像の表示、および電源制御のみが行われる。このようにすることにより、不要な処理の実行を抑制し、消費電力の増大を抑制することができる。
なお、動体が検知されない状態において、電力供給を停止する処理部は、任意であり、図58の例に限定されない。例えば、画像認識部1132への電力供給のみが停止されるようにしてもよい。また、表示部1137への電力供給が停止され、画像表示が停止されるようにしてもよい。
また、動体が検知されない場合における各処理部への電力供給停止は、電力供給を完全に停止するものであってもよいし、少量の電力供給を継続するものであってもよい(供給量の削減であってもよい)。例えば、処理部においてデータの保持に必要な電力供給を継続するようにしてもよい。また、例えば、表示部1137への電力供給を停止する場合に、モニタ1112の表示を全て消去するようにしてもよいし、モニタ1112の表示の明度を低減させるのみとしてもよい。
<電力制御の連動>
また、このような電源制御が他の電子棚札1101と連動するようにしてもよい。つまり、ある電子棚札1101における動体検知結果に基づいて、その他の電子棚札1101の電力供給が制御されるようにしてもよい。なお、この連動の方法は任意である。
例えば、図59A乃至図59Dの上側に示されるように、客1651が商品棚1120の前方を図中左から右に向かって移動すると、図59A乃至図59Dの下側に示されるように、動体である客1651の近傍の列の電子棚札1101(図中実線で囲まれた電子棚札1101)が、その動きを検知する。すると、その電子棚札1101だけでなく、その1列右(動体(客1651)の移動方向に1列先)の電子棚札1101も(図中点線で囲まれた電子棚札1101)、電源部1634がオンにされる。そして、客1651が通り過ぎた列の電子棚札1101の電源部1634はオフにされる。
図59Dのように、客1651が商品棚1120の右端に達すると、その右端の列の電子棚札1101(図中実線で囲まれた電子棚札1101)においてその動きが検知され、その電子棚札1101(図中点線で囲まれた電子棚札1101)の電源部1634がオンにされる。
図59Eのように、客1651が移動方向を図中右向きから左向きに変えると、動体である客1651の近傍の列の電子棚札1101(図中実線で囲まれた電子棚札1101)が、その動きを検知し、その電子棚札1101だけでなく、その1列左(動体(客1651)の移動方向に1列先)の電子棚札1101も(図中点線で囲まれた電子棚札1101)、電源部1634がオンにされる。そして、客1651が通り過ぎた列の電子棚札1101の電源部1634はオフにされる。
このように電源を制御することにより、消費電力の増大を抑制することができる。
<電源制御処理の流れ>
電子棚札1101は、電源制御処理を実行することにより、このような電源制御を実現する。電源制御処理の流れの例を、図60のフローチャートを参照して説明する。
電源制御処理が開始されると、電源制御部1632は、ステップS1401において、電源を駆動モードにし、電源部1633および電源部1634をオンにする。つまり、電源部1633および電源部1634が、全ての処理部に対して電源を供給するようにする。
ステップS1402において、撮像部1131は、撮像を開始する。ステップS1403において、通信部1134は、サーバ1103から表示用データを取得する。ステップS1404において、表示制御部1135は、その表示用データを用いて表示用画像を生成する。ステップS1405において、表示部1137は、その表示用画像をモニタ1112に表示させる。
ステップS1406において、電源制御部1632は、電源を節電モードにし、電源部1633をオンのままとし、電源部1634をオフにする。つまり、電源部1634による電力供給(画像認識部1132乃至記憶部1136への電力供給)を停止させる。
ステップS1407において、撮像部1131は、撮像画像を取得する。ステップS1408において、動体検知部1631は、得られた撮像画像を用いて動体検知を行う。ステップS1409において、電源制御部1632は、ステップS1408の処理により動体が検知されたか否かを判定する。動体が検知されたと判定された場合処理はステップS1410に進む。
ステップS1410において、電源制御部1632は、電源を駆動モードにし、電源部1633および電源部1634をオンにする。つまり、電源部1633および電源部1634が、全ての処理部に対して電源を供給するようにする。
ステップS1411において、電子棚札1101の各処理部は情報取得処理を実行する。この情報取得処理は、第2の実施の形態において説明した場合(図33)と同様であるのでその説明を省略する。ステップS1412において、電子棚札1101の各処理部は表示制御処理を実行する。この表示制御処理は、第2の実施の形態において説明した場合(図40)と同様であるのでその説明を省略する。
表示制御処理が終了すると処理はステップS1414に進む。また、ステップS1409において、(所定の期間)動体が検知されていないと判定された場合、処理はステップS1413に進む。ステップS1413において、電源制御部1632は、電源を節電モードにし、電源部1633をオンのままとし、電源部1634をオフにする。つまり、電源部1634による電力供給(画像認識部1132乃至記憶部1136への電力供給)を停止させる。電源が節電モードにされると、処理はステップS1414に進む。
ステップS1414において、電子棚札1101は、電源制御処理を終了するか否かを判定する。終了しないと判定された場合、処理はステップS1407に戻り、それ以降の処理が実行される。また、ステップS1414において電源制御理を終了すると判定された場合、電源制御処理が終了する。
以上のように電源制御処理を実行することにより、電子棚札1101は、消費電力の増大を抑制することができる。
<9.第9の実施の形態>
<顔の向きの検出処理の制御>
なお、撮像画像に複数の客が含まれる場合、それぞれの客について、顔の向きを検出しなければならない。つまり、撮像画像に含まれる客の人数が増大するほど顔の向きの検出の負荷が増大することになる。そのため、電子棚札1101が、負荷を低減させるように、撮像画像に含まれる客の人数に応じて、顔の向きの検出処理を制御するようにしてもよい。
例えば、人数が多い場合は、顔の向き検出用のクロック周波数を上げたり、顔の向き検出の頻度を低減させたりするようにしてもよい。
<情報取得処理の流れ>
この場合の情報取得処理の流れの例を、図61および図62のフローチャートを参照して説明する。
情報取得処理が開始されると、撮像部1131は、ステップS1501において、撮像を開始する。ステップS1502において、電子棚札1101の各処理部は、初期設定を行う。ステップS1503において、撮像部1131は、カメラ1111を用いて被写体を撮像し、撮像画像を得る。
ステップS1504において、客認識部1142は、顔検出処理を行う。ステップS1505において、客認識部1142は、その検出人数が予め定められた所定の閾値未満であるか否かを判定する。閾値未満であると判定された場合、処理はステップS1506に進む。
ステップS1506において、客認識部1142は、検出された各顔の向きの検出を時分割で行う。また、客認識部1142は、同様に、検出された各顔の向き(客がどの商品の方を向いているか、すなわち、客がどの商品を見ているか)の特定を時分割で行う。
ステップS1507において、客認識部1142は、得られた顔の向きに関する情報等を用いて所望の顧客情報を収集する。ステップS1508において、処理制御部1133は、得られた収集情報を送信情報とする。
ステップS1509において、通信部1134は、その送信情報をサーバ1103に送信する。
ステップS1510において、電子棚札1101は、情報取得処理を終了するか否かを判定する。終了しないと判定された場合、処理はステップS1503に戻り、それ以降の処理が実行される。また、ステップS1510において、情報取得処理を終了すると判定された場合、情報取得処理が終了する。
なお、ステップS1505において、検出人数が閾値以上であると判定された場合、処理は図62のステップS1521に進む。
ステップS1521において、客認識部1142は、顔の向きの検出のクロック周波数を上げるか否かを判定する。クロック周波数を上げると判定された場合、処理はステップS1522に進む。
ステップS1522において、客認識部1142は、顔の向き検出用のシステムクロック周波数を上げて、より高速に顔の向きの検出を行うことができるようにする。つまり、より多くの客の顔の向きを検出することができるようになる。
ステップS1523において、客認識部1142は、周波数を上げたシステムクロックを用いて、各顔の向きの検出を時分割で行う。また、客認識部1142は、同様に、各顔の向きの特定を時分割で行う。
ステップS1524において、客認識部1142は、得られた顔の向きに関する情報等を用いて所望の顧客情報を収集する。ステップS1525において、処理制御部1133は、得られた収集情報を送信情報とする。ステップS1525の処理が終了すると、処理は図61のステップS1509に戻る。
また、図62のステップS1521において、顔の向きの検出のクロック周波数を上げないと判定された場合、処理はステップS1526に進む。ステップS1526において、客認識部1142は、顔の向きの検出の検出頻度を下げる。例えば、(1)1/30秒毎に顧客の画像を撮像し、そこで撮像された全ての顔についてその向きを1/30秒以内に特定して、特定した全ての顔の向きを1/30秒毎に出力する動作から、(2)2秒毎に顧客の画像を撮像し、そこで撮像された全ての顔についてその向きを2秒以内に特定して、特定した全ての顔の向きを2秒毎に出力する動作へと、動作を変更する。これにより、顧客の画像を撮影した後、顔の向きを特定する処理に充当できる時間が、長くなるので、より多くの客の顔の向きを検出することができるようになる。
ステップS1527において、客認識部1142は、各顔の向きの検出を時分割で行う。また、客認識部1142は、同様に、各顔の向きの特定を時分割で行う。
ステップS1528において、客認識部1142は、得られた顔の向きに関する情報等を用いて所望の顧客情報を収集する。ステップS1529において、処理制御部1133は、得られた収集情報と、検出頻度を下げた旨の通知情報とを送信情報とする。ステップS1529の処理が終了すると、処理は図61のステップS1509に戻る。
以上のように情報取得処理を行うことにより、検出された客の人数に応じて顔の向きの検出を制御することができ、顔の向きの検出の破綻を抑制することができる。
なお、電子棚札1101が、客認識部1142を複数有するようにし、複数の顔の向きの検出およびその顔の向きの特定を並行して実行することができるようにしてもよい。その場合であっても、検出された客の人数が増大すれば、顔の向きの検出が破綻する可能性はある。そこで、この場合も、図61および図62に示されるように情報取得処理を行うことにより、顔の向きの検出の破綻を抑制することができる。
<10.第10の実施の形態>
<商品>
以上においては、電子棚札1101が、商品に関する情報を表示するように説明したが、この「商品」は、どのようなものであってもよい。例えば、この「商品」は、有形なものであってもよいし、電子情報のような無形のものであってもよいし、サービスであってもよい。また、この「商品」の提供形態は、任意であり、販売であってもよいし、譲渡であってもよいし、貸与であってもよいし、展示であってもよいし、複製であってもよい。また、それらの行為の対価は有償であってもよいし無償であってもよい。有償の場合は課金処理が行われるようにしてもよい。また、対価は現金だけでなく、クレジットカード等を利用することができるようにしてもよい。また、専用または汎用のポイントを利用することができるようにしてもよい。さらに、本電子棚札システムを利用することにより、ポイントが付与されるようにしてもよい。
<その他のシステム>
本技術は、上述した電子棚札システムに限らず、撮像画像に基づいて情報の表示を制御するシステムであれば、例えば、交通、医療、防犯、農業、畜産業、鉱業、美容、工場、家電、気象、自然監視等、任意の分野の任意の用途に用いられるシステムに適用することができる。
<コンピュータ>
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合、そのソフトウエアを実行することができるコンピュータとしての構成を有するようにすればよい。このコンピュータには、例えば、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、任意の機能を実行することが可能な汎用のコンピュータ等が含まれる。
図63は、コンピュータの主なの構成例を示すブロック図である。図63に示されるように、コンピュータ1900は、バス1904を介して相互に接続されているCPU(Central Processing Unit)1901、ROM(Read Only Memory)1902、およびRAM(Random Access Memory)1903を有する。
バス1904にはまた、入出力インタフェース1910も接続されている。入出力インタフェース1910には、入力部1911、出力部1912、記憶部1913、通信部1914、およびドライブ1915が接続されている。
入力部1911は、例えば、キーボード、マウス、タッチパネル、イメージセンサ、マイクロホン、スイッチ、入力端子等の任意の入力デバイスを有する。出力部1912は、例えば、ディスプレイ、スピーカ、出力端子等の任意の出力デバイスを有する。記憶部1913は、例えば、ハードディスク、RAMディスク、SSD(Solid State Drive)やUSB(Universal Serial Bus)メモリ等のような不揮発性のメモリ等、任意の記憶媒体を有する。通信部1914は、例えば、イーサネット、Bluetooth、USB、HDMI(High-Definition Multimedia Interface)、IrDA等の、有線若しくは無線、または両方の、任意の通信規格の通信インタフェースを有する。ドライブ1915は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の任意の記憶媒体を有するリムーバブルメディア1921を駆動する。
以上のように構成されるコンピュータ1900では、CPU1901が、例えば、記憶部1913に記憶されているプログラムを、入出力インタフェース1910およびバス1904を介して、RAM1903にロードして実行することにより、各実施の形態において上述したハードウエアの構成の一部または全部と同等の機能を実現することができる。つまり、上述した一連の処理の少なくとも一部が行われる。RAM1903にはまた、CPU1901が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU1901が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1921に記録して適用することができる。その場合、プログラムは、リムーバブルメディア1921をドライブ1915に装着することにより、入出力インタフェース1910を介して、記憶部1913にインストールすることができる。また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部1914で受信し、記憶部1913にインストールすることができる。その他、このプログラムは、ROM1902や記憶部1913に、あらかじめインストールしておくこともできる。
なお、上述した一連の処理は、一部をハードウエアにより実行させ、他をソフトウエアにより実行させることもできる。
<その他>
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
また、例えば、本技術は、装置またはシステムを構成するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。
なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術を、他の実施の形態において説明した本技術と組み合わせて実施することもできる。また、上述した任意の本技術を、上述していない他の技術と併用して実施することもできる。
なお、本技術は以下のような構成も取ることができる。
(1) 顧客または商品に関する情報を収集する情報収集装置を商品種毎に備える
情報収集システム。
(2) 商品の置き場所に設置した前記情報収集装置の数が、前記情報を収集する商品種の数と同数以上である
(1)に記載の情報収集システム。
(3) 商品の置き場所に設置した前記情報収集装置の数が、前記情報収集装置から、前記情報を集積するデータ集積装置へ転送される、商品毎の前記情報における、商品種の数と同数以上である
(1)または(2)に記載の情報収集システム。
(4) 商品の置き場所に設置した前記情報収集装置の数が、前記情報を出力する商品種の数と同数以上である
(1)乃至(3)のいずれかに記載の情報収集システム。
(5) 前記情報収集装置は、撮像機能および通信機能を備えるネットワークカメラである
(1)乃至(4)のいずれかに記載の情報収集システム。
(6) 前記情報収集装置は、撮像機能および通信機能を有する電子棚札である
(1)乃至(5)のいずれかに記載の情報収集システム。
(7) 前記情報収集装置は、撮像機能および通信機能を有する電子POP(Point of purchase advertising)である
(1)乃至(6)のいずれかに記載の情報収集システム。
(8) 前記情報収集装置は、撮像機能および通信機能を有する文字情報表示装置である
(1)乃至(7)のいずれかに記載の情報収集システム。
(9) 前記情報収集装置は、他の装置から供給される情報を取得し、表示する
(1)乃至(8)のいずれかに記載の情報収集システム。
(10) 前記他の装置は、前記情報収集装置から供給された商品の識別情報に対応する前記商品に関する情報を前記情報収集装置に供給し、
前記情報収集装置は、供給された前記商品に関する情報を表示する
(9)に記載の情報収集システム。
(11) 顧客または商品に関する情報を収集する情報収集部を備える
電子棚札。
(12) 前記情報収集部は、イメージセンサである
(11)に記載の電子棚札。
(13) 顧客または商品に関する情報を収集する情報収集部を備える
電子POP(Point of purchase advertising)。
(14) 前記情報収集部は、イメージセンサである
(13)に記載の電子POP。
(15) 顧客または商品に関する情報を収集する情報収集部を備える
文字情報表示装置。
(16) 前記情報収集部は、イメージセンサである
(15)に記載の文字情報表示装置。
(21) 被写体を撮像する撮像部と、
前記撮像部により得られた撮像画像に含まれる商品に関する情報を認識する認識部と、
前記認識部により認識された前記商品に関する情報に対応する、前記商品に関する画像を表示する表示部と
を備える情報処理装置。
(22) 前記商品に関する情報は、前記商品の識別情報である
(21)に記載の情報処理装置。
(23) 前記商品に関する画像は、前記商品の商品名、価格、識別情報の内、少なくともいずれか1つを含む
(21)または(22)に記載の情報処理装置。
(24) 他の情報処理装置と通信を行い、前記認識部により認識された前記商品に関する情報を前記他の情報処理装置に供給し、前記商品に関する情報に対応する表示用のデータを取得する通信部と、
前記通信部により取得された前記表示用のデータを用いて、前記表示部に表示させる前記商品に関する画像を生成する表示制御部と
をさらに備え、
前記表示部は、前記表示制御部により生成された前記商品に関する画像を表示するように構成される
(21)乃至(23)のいずれかに記載の情報処理装置。
(25) 前記撮像部は、被写体として客を撮像し、
前記認識部は、前記撮像部により得られた撮像画像に基づいて前記客に関する情報を認識し、
前記通信部は、前記認識部により認識された前記客に関する情報を前記他の情報処理装置に供給する
(21)乃至(24)のいずれかに記載の情報処理装置。
(26) 前記客に関する情報は、前記客の顔の位置、前記客の顔が検出された時刻、前記客の顔が検出された時間の内、少なくともいずれか1つを含む
(21)乃至(25)のいずれかに記載の情報処理装置。
(27) 前記客に関する情報は、さらに、前記客の属性を含む
(21)乃至(26)のいずれかに記載の情報処理装置。
(28) 前記客に関する情報は、さらに、前記客の識別情報を含む
(21)乃至(27)のいずれかに記載の情報処理装置。
(29) 前記客の動きを撮像する動き撮像部と、
前記動き撮像部により得られた撮像画像に基づいて、前記客の動きを検知する動き検知部と
をさらに備え、
前記通信部は、さらに、前記動き検知部により検知された前記客の動きを前記客に関する情報として前記他の情報処理装置に供給するように構成される
(21)乃至(28)のいずれかに記載の情報処理装置。
(30) 前記認識部は、前記撮像画像に含まれる前記客の位置を特定し、所定の範囲内に位置する前記客についてのみ、前記客に関する情報を認識する
(21)乃至(29)のいずれかに記載の情報処理装置。
(31) 前記通信部は、前記他の情報処理装置に供給した前記客に関する情報に対応する表示用データを取得し、
前記表示制御部は、前記通信部により取得された前記表示用のデータを用いて、前記表示部に表示させる前記商品に関する画像を生成する
(21)乃至(30)のいずれかに記載の情報処理装置。
(32) 前記通信部が、前記商品に関する情報を供給するか、前記客に関する情報を供給するかを制御する制御部をさらに備える
(21)乃至(31)のいずれかに記載の情報処理装置。
(33) 前記撮像部により得られた撮像画像に含まれる特定コードを認識する特定コード認識部をさらに備え、
前記制御部は、前記特定コード認識部による前記特定コードの認識結果に応じて、前記通信部が前記商品に関する情報を供給するか前記客に関する情報を供給するかを制御するように構成される
(21)乃至(32)のいずれかに記載の情報処理装置。
(34) 前記制御部は、前記特定コード認識部により第1の特定コードが特定された場合、前記通信部に前記商品に関する情報を供給させ、前記特定コード認識部により前記第1のコードと異なる第2の特定コードが特定された場合、前記通信部に前記客に関する情報を供給させる
(21)乃至(33)のいずれかに記載の情報処理装置。
(35) 前記制御部は、前記特定コード認識部により特定コードが認識された場合、前記通信部に、供給する情報を切り替えさせる
(21)乃至(34)のいずれかに記載の情報処理装置。
(36) 前記制御部は、前記特定コード認識部により特定コードが認識されていない場合、前記通信部に前記商品に関する情報と前記客に関する情報との内いずれか一方を供給させ、前記特定コード認識部により特定コードが認識された場合、前記通信部が供給する情報を他方に切り替え、前記特定コード認識部により前記特定コードが認識されてから所定の時間が経過した場合、前記通信部が供給する情報を最初の一方に戻す
(21)乃至(35)のいずれかに記載の情報処理装置。
(37) 前記撮像部により得られた撮像画像に基づいて、動体を検知する動体検知部と、
前記動体検知部により所定期間以上動体が検知されていない場合、少なくとも前記認識部の電源をオフにし、前記動体検知部により動体が検知された場合、全ての処理部の電源をオンにする電源制御部と
をさらに備える(21)乃至(36)のいずれかに記載の情報処理装置。
(38) 前記撮像部により得られた撮像画像に含まれる客の顔を検出し、検出した顔の向きを特定する客認識部をさらに備え、
前記通信部は、前記客認識部により特定された顔の向きを示す情報を他の情報処理装置に供給し、前記顔の向きに対応する位置に配置された電子棚札に前記客用の画像を表示させるように構成される
(21)乃至(37)のいずれかに記載の情報処理装置。
(39) 被写体を撮像し、
得られた撮像画像に含まれる商品に関する情報を認識し、
認識された前記商品に関する情報に対応する、前記商品に関する画像を表示する
情報処理方法。
(40) 商品に関する画像を表示する電子棚札であって、
被写体を撮像する撮像部と、
前記撮像部により得られた撮像画像に含まれる情報を認識する認識部と、
前記認識部により認識された情報に対応する、前記商品に関する画像を表示する表示部と
を備える電子棚札。
100 情報収集システム, 101 棚装置, 102 中継装置, 103 情報管理サーバ, 121 商品陳列棚, 122 情報収集装置, 123 ローカルサーバ, 131 商品, 140 ネットワークカメラ, 141 イメージセンサ, 142 測距センサ, 150 電子棚札, 151 イメージセンサ, 152 測距センサ, 153 モニタ, 160 電子POP, 161 イメージセンサ, 162 測距センサ, 163 モニタ, 164 スピーカ, 411 情報提供サーバ, 1100 電子棚札システム, 1101 電子棚札, 1102 ネットワーク, 1103 サーバ, 1111 カメラ, 1112 モニタ, 1113 モード識別用LED, 1131 撮像部, 1132 画像認識部, 1133 処理制御部, 1134 通信部, 1135 表示制御部, 1136 記憶部, 1137 表示部, 1141 特定コード認識部, 1142 客認識部, 1143 商品認識部, 1341 カメラ, 1361 撮像部, 1362 動体検知部, 1363 処理制御部, 1471 顧客固有IDコード認識部, 1631 動体検知部, 1632 電源制御部, 1633 電源部, 1634 電源部

Claims (16)

  1. 顧客または商品に関する情報を収集する情報収集装置を商品種毎に備える
    情報収集システム。
  2. 商品の置き場所に設置した前記情報収集装置の数が、前記情報を収集する商品種の数と同数以上である
    請求項1に記載の情報収集システム。
  3. 商品の置き場所に設置した前記情報収集装置の数が、前記情報収集装置から、前記情報を集積するデータ集積装置へ転送される、商品毎の前記情報における、商品種の数と同数以上である
    請求項1に記載の情報収集システム。
  4. 商品の置き場所に設置した前記情報収集装置の数が、前記情報を出力する商品種の数と同数以上である
    請求項1に記載の情報収集システム。
  5. 前記情報収集装置は、撮像機能および通信機能を備えるネットワークカメラである
    請求項1に記載の情報収集システム。
  6. 前記情報収集装置は、撮像機能および通信機能を有する電子棚札である
    請求項1に記載の情報収集システム。
  7. 前記情報収集装置は、撮像機能および通信機能を有する電子POP(Point of purchase advertising)である
    請求項1に記載の情報収集システム。
  8. 前記情報収集装置は、撮像機能および通信機能を有する文字情報表示装置である
    請求項1に記載の情報収集システム。
  9. 前記情報収集装置は、他の装置から供給される情報を取得し、表示する
    請求項1に記載の情報収集システム。
  10. 前記他の装置は、前記情報収集装置から供給された商品の識別情報に対応する前記商品に関する情報を前記情報収集装置に供給し、
    前記情報収集装置は、供給された前記商品に関する情報を表示する
    請求項9に記載の情報収集システム。
  11. 顧客または商品に関する情報を収集する情報収集部を備える
    電子棚札。
  12. 前記情報収集部は、イメージセンサである
    請求項11に記載の電子棚札。
  13. 顧客または商品に関する情報を収集する情報収集部を備える
    電子POP(Point of purchase advertising)。
  14. 前記情報収集部は、イメージセンサである
    請求項13に記載の電子POP。
  15. 顧客または商品に関する情報を収集する情報収集部を備える
    文字情報表示装置。
  16. 前記情報収集部は、イメージセンサである
    請求項15に記載の文字情報表示装置。
JP2016188255A 2016-09-27 2016-09-27 情報収集システム、電子棚札、電子pop、文字情報表示装置 Pending JP2018055248A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016188255A JP2018055248A (ja) 2016-09-27 2016-09-27 情報収集システム、電子棚札、電子pop、文字情報表示装置
CN201780058015.5A CN109716378B (zh) 2016-09-27 2017-09-14 信息收集系统、电子货架标签、电子pop广告设备和字符信息显示设备
US16/328,596 US11403672B2 (en) 2016-09-27 2017-09-14 Information collection system, electronic shelf label, electronic pop advertising, and character information display device
PCT/JP2017/033201 WO2018061790A1 (ja) 2016-09-27 2017-09-14 情報収集システム、電子棚札、電子pop、文字情報表示装置
US17/858,805 US12026748B2 (en) 2016-09-27 2022-07-06 Information collection system, electronic shelf label, electronic pop advertising, and character information display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016188255A JP2018055248A (ja) 2016-09-27 2016-09-27 情報収集システム、電子棚札、電子pop、文字情報表示装置

Publications (1)

Publication Number Publication Date
JP2018055248A true JP2018055248A (ja) 2018-04-05

Family

ID=61759605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016188255A Pending JP2018055248A (ja) 2016-09-27 2016-09-27 情報収集システム、電子棚札、電子pop、文字情報表示装置

Country Status (4)

Country Link
US (2) US11403672B2 (ja)
JP (1) JP2018055248A (ja)
CN (1) CN109716378B (ja)
WO (1) WO2018061790A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020053792A (ja) * 2018-09-26 2020-04-02 ソニー株式会社 情報処理装置、および情報処理方法、プログラム、情報処理システム
JP2021099567A (ja) * 2019-12-20 2021-07-01 日本電気株式会社 情報処理システム、情報処理方法及び情報処理プログラム
JPWO2021149221A1 (ja) * 2020-01-23 2021-07-29
JP6919974B1 (ja) * 2020-09-30 2021-08-18 クックパッド株式会社 販促支援装置、販促支援方法、及び販促支援プログラム
WO2021181991A1 (ja) * 2020-03-13 2021-09-16 オムロン株式会社 アクセシビリティ判定装置、アクセシビリティ判定方法、及びプログラム
JP2021167994A (ja) * 2020-04-09 2021-10-21 株式会社ピースリー 視聴効果計測装置、視聴効果計測方法及びコンピュータプログラム
JP2022500718A (ja) * 2019-08-14 2022-01-04 北京市商▲湯▼科技▲開▼▲發▼有限公司Beijing Sensetime Technology Development Co., Ltd. データ処理方法、装置及び記憶媒体
JP2022051683A (ja) * 2020-09-22 2022-04-01 グラスパー テクノロジーズ エーピーエス 訓練データの生成と再識別に使用するための機械学習モデルの訓練とについての概念
JP2023016848A (ja) * 2019-08-29 2023-02-02 富士通株式会社 広告閲覧情報出力方法及び広告閲覧情報出力プログラム、並びに情報処理装置
US12211313B2 (en) 2020-02-28 2025-01-28 Nec Corporation Customer analysis apparatus, customer analysis method, and non-transitory storage medium

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3099020B1 (fr) * 2019-07-15 2022-01-14 Ses Imagotag Dispositif d’imagerie pour un support d’étagère et système d’étagère comprenant le dispositif d’imagerie
CN110738213B (zh) * 2019-09-20 2022-07-01 成都芯云微电子有限公司 一种包括周边环境的图像识别方法及装置
US11809935B2 (en) * 2019-10-03 2023-11-07 United States Postal Service Dynamically modifying the presentation of an e-label
WO2021121643A1 (en) * 2019-12-20 2021-06-24 Ses-Imagotag Gmbh Electronic shelf label with interaction interface activation
EP4083356A4 (en) * 2019-12-24 2022-12-21 Nec Corporation GATE DEVICE, METHOD FOR CONTROL THEREOF AND PROGRAM
US20210304291A1 (en) * 2020-03-25 2021-09-30 Walmart Apollo, Llc Identifying objects of interest for handicapped individuals based on eye movement patterns
JP7018983B2 (ja) 2020-04-01 2022-02-14 株式会社CREiST データ連携システム及びプログラム
KR20210144156A (ko) * 2020-05-21 2021-11-30 주식회사 라인어스 전자 가격 표시기 제어 방법
TWI787674B (zh) * 2020-11-25 2022-12-21 國立勤益科技大學 智能貨架管控系統
CN112862532B (zh) * 2021-02-10 2023-11-24 深兰智能科技研究院(宁波)有限公司 电子价签的显示控制方法及相关装置
KR102665453B1 (ko) * 2022-01-17 2024-05-10 엔에이치엔 주식회사 시선인식 기반 맞춤형 콘텐츠를 제공하는 장치 및 방법

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08137916A (ja) * 1994-11-09 1996-05-31 Hitachi Ltd 顧客興味情報収集方法および装置
US5774591A (en) * 1995-12-15 1998-06-30 Xerox Corporation Apparatus and method for recognizing facial expressions and facial gestures in a sequence of images
US6819783B2 (en) * 1996-09-04 2004-11-16 Centerframe, Llc Obtaining person-specific images in a public venue
JP4486120B2 (ja) * 1996-09-29 2010-06-23 雅信 鯨田 店舗内の陳列商品の情報提供装置
AUPQ896000A0 (en) * 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
US7113916B1 (en) * 2001-09-07 2006-09-26 Hill Daniel A Method of facial coding monitoring for the purpose of gauging the impact and appeal of commercially-related stimuli
JP3673834B2 (ja) * 2003-08-18 2005-07-20 国立大学法人山口大学 眼球運動を用いた視線入力コミュニケーション方法
US20060056667A1 (en) * 2004-09-16 2006-03-16 Waters Richard C Identifying faces from multiple images acquired from widely separated viewpoints
US8725567B2 (en) * 2006-06-29 2014-05-13 Microsoft Corporation Targeted advertising in brick-and-mortar establishments
JP2008197266A (ja) 2007-02-09 2008-08-28 Sharp Corp 再生装置、再生システム、再生方法及びコンピュータプログラム
JP4991440B2 (ja) 2007-08-08 2012-08-01 株式会社日立製作所 商品販売装置、商品販売管理システム、商品販売管理方法およびプログラム
JP2009053742A (ja) * 2007-08-23 2009-03-12 Toshihito Sone 電子棚札、電子棚札システム、および電子棚札表示用プログラム
JP4778532B2 (ja) * 2008-03-17 2011-09-21 Necソフト株式会社 顧客情報収集管理システム
US8219438B1 (en) * 2008-06-30 2012-07-10 Videomining Corporation Method and system for measuring shopper response to products based on behavior and facial expression
TWI430185B (zh) * 2010-06-17 2014-03-11 Inst Information Industry 臉部表情辨識系統及其辨識方法及其電腦程式產品
JP2012022538A (ja) 2010-07-15 2012-02-02 Hitachi Ltd 注目位置推定方法、画像表示方法、注目コンテンツ表示方法、注目位置推定装置および画像表示装置
US11309081B2 (en) * 2010-10-13 2022-04-19 Gholam A. Peyman Telemedicine system with dynamic imaging
JP2012093963A (ja) * 2010-10-27 2012-05-17 Seiko Epson Corp 表示処理装置および表示処理システム
JP5685100B2 (ja) * 2011-02-07 2015-03-18 セイコーソリューションズ株式会社 電子棚札端末
JP2012242912A (ja) * 2011-05-16 2012-12-10 Ishida Co Ltd 販売管理システム
JP5923962B2 (ja) * 2011-12-13 2016-05-25 株式会社ニコン 情報解析システム
WO2013103912A1 (en) * 2012-01-05 2013-07-11 Visa International Service Association Transaction visual capturing apparatuses, methods and systems
JP5590049B2 (ja) 2012-01-13 2014-09-17 日本電気株式会社 物品陳列棚、人物行動調査方法および人物行動調査用プログラム
JP2012084173A (ja) * 2012-01-14 2012-04-26 Toshihito Sone 棚札装置広告システム
WO2014088906A1 (en) * 2012-12-04 2014-06-12 Crutchfield Corporation System and method for customizing sales processes with virtual simulations and psychographic processing
CN105518734A (zh) * 2013-09-06 2016-04-20 日本电气株式会社 顾客行为分析系统、顾客行为分析方法、非暂时性计算机可读介质和货架系统
JP2015106252A (ja) * 2013-11-29 2015-06-08 シャープ株式会社 顔向き検出装置及び3次元計測装置
KR20160032648A (ko) * 2014-09-13 2016-03-24 삼성전기주식회사 전자 라벨을 이용한 관심 정보 처리 장치 및 방법
US10091414B2 (en) * 2016-06-24 2018-10-02 International Business Machines Corporation Methods and systems to obtain desired self-pictures with an image capture device

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12262192B2 (en) 2018-09-26 2025-03-25 Sony Corporation Information processing device, information processing method, program, and information processing system
JP2020053792A (ja) * 2018-09-26 2020-04-02 ソニー株式会社 情報処理装置、および情報処理方法、プログラム、情報処理システム
JP7160952B2 (ja) 2019-08-14 2022-10-25 北京市商▲湯▼科技▲開▼▲發▼有限公司 データ処理方法、装置及び記憶媒体
JP2022500718A (ja) * 2019-08-14 2022-01-04 北京市商▲湯▼科技▲開▼▲發▼有限公司Beijing Sensetime Technology Development Co., Ltd. データ処理方法、装置及び記憶媒体
JP2023016848A (ja) * 2019-08-29 2023-02-02 富士通株式会社 広告閲覧情報出力方法及び広告閲覧情報出力プログラム、並びに情報処理装置
JP2021099567A (ja) * 2019-12-20 2021-07-01 日本電気株式会社 情報処理システム、情報処理方法及び情報処理プログラム
JP7439496B2 (ja) 2019-12-20 2024-02-28 日本電気株式会社 情報処理システム、情報処理方法及び情報処理プログラム
JPWO2021149221A1 (ja) * 2020-01-23 2021-07-29
WO2021149221A1 (ja) * 2020-01-23 2021-07-29 日本電気株式会社 価格情報決定装置、価格決定方法、及びプログラム
US12211313B2 (en) 2020-02-28 2025-01-28 Nec Corporation Customer analysis apparatus, customer analysis method, and non-transitory storage medium
JP2021144572A (ja) * 2020-03-13 2021-09-24 オムロン株式会社 アクセシビリティ判定装置、アクセシビリティ判定方法、及びプログラム
WO2021181991A1 (ja) * 2020-03-13 2021-09-16 オムロン株式会社 アクセシビリティ判定装置、アクセシビリティ判定方法、及びプログラム
JP2021167994A (ja) * 2020-04-09 2021-10-21 株式会社ピースリー 視聴効果計測装置、視聴効果計測方法及びコンピュータプログラム
JP7186269B2 (ja) 2020-09-22 2022-12-08 グラスパー テクノロジーズ エーピーエス 訓練データの生成と同一物判定に使用するための機械学習モデルの訓練とについての概念
US12032656B2 (en) 2020-09-22 2024-07-09 Grazper Technologies ApS Concept for generating training data and training a machine-learning model for use in re-identification
JP2022051683A (ja) * 2020-09-22 2022-04-01 グラスパー テクノロジーズ エーピーエス 訓練データの生成と再識別に使用するための機械学習モデルの訓練とについての概念
JP2022056562A (ja) * 2020-09-30 2022-04-11 クックパッド株式会社 販促支援装置、販促支援方法、及び販促支援プログラム
JP6919974B1 (ja) * 2020-09-30 2021-08-18 クックパッド株式会社 販促支援装置、販促支援方法、及び販促支援プログラム

Also Published As

Publication number Publication date
CN109716378A (zh) 2019-05-03
US12026748B2 (en) 2024-07-02
US20220414713A1 (en) 2022-12-29
WO2018061790A1 (ja) 2018-04-05
US20210304256A1 (en) 2021-09-30
US11403672B2 (en) 2022-08-02
CN109716378B (zh) 2023-09-01

Similar Documents

Publication Publication Date Title
WO2018061790A1 (ja) 情報収集システム、電子棚札、電子pop、文字情報表示装置
US12075927B2 (en) Image display device, image display system, image display method, and program
US10482724B2 (en) Method, computer program product, and system for providing a sensor-based environment
US10474411B2 (en) System and method for alerting VR headset user to real-world objects
JP6264380B2 (ja) 販売促進システム、販売促進方法、販売促進プログラム及び棚システム
JP6562077B2 (ja) 展示装置、表示制御装置および展示システム
US10867280B1 (en) Interaction system using a wearable device
JP7439844B2 (ja) 端末装置、情報処理装置、情報出力方法、情報処理方法、接客支援方法及びプログラム
WO2015040661A1 (ja) 情報端末にマーチャンダイジング情報を表示させる制御方法
KR101662357B1 (ko) 표시 방법 및 표시 장치
US20160063517A1 (en) Product exposure analysis in a shopping environment
CN105103198A (zh) 显示控制装置、显示控制方法以及程序
KR20190061423A (ko) 반려동물 관리 시스템
JP2014026350A (ja) 関心度計測システム、関心度計測装置及び関心度計測プログラム
JP2016076109A (ja) 顧客購買意思予測装置及び顧客購買意思予測方法
WO2020189196A1 (ja) 情報処理装置、情報処理システム、表示制御方法および記録媒体
KR20180077881A (ko) 투명 디스플레이 기반의 지능화 상품 전시 시스템 및 그 방법
JP2020502623A (ja) 物体に関する情報を提供する方法
US10902501B2 (en) Method of storing object identifiers
JP2017045423A (ja) 映像処理装置、映像処理方法、映像処理システム、およびプログラム