[go: up one dir, main page]

JP7165140B2 - 効率的配置のための直列構成カメラアレイ - Google Patents

効率的配置のための直列構成カメラアレイ Download PDF

Info

Publication number
JP7165140B2
JP7165140B2 JP2019552864A JP2019552864A JP7165140B2 JP 7165140 B2 JP7165140 B2 JP 7165140B2 JP 2019552864 A JP2019552864 A JP 2019552864A JP 2019552864 A JP2019552864 A JP 2019552864A JP 7165140 B2 JP7165140 B2 JP 7165140B2
Authority
JP
Japan
Prior art keywords
camera
camera module
connection port
shelf
cameras
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019552864A
Other languages
English (en)
Other versions
JP2020520565A (ja
Inventor
グレーサー,ウィリアム
Original Assignee
グラバンゴ コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by グラバンゴ コーポレイション filed Critical グラバンゴ コーポレイション
Publication of JP2020520565A publication Critical patent/JP2020520565A/ja
Priority to JP2022168914A priority Critical patent/JP2023015102A/ja
Application granted granted Critical
Publication of JP7165140B2 publication Critical patent/JP7165140B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19645Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19641Multiple cameras having overlapping views on a single scene
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19654Details concerning communication with a camera
    • G08B13/19656Network used to communicate with a camera, e.g. WAN, LAN, Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Cameras In General (AREA)

Description

関連出願の相互参照
この出願は、2018年5月10日に出願された米国仮特許出願第62/504,501号の利益を主張するものであり、この参照によりその全体が組み込まれる。
技術分野
本発明は、一般に、マルチカメラシステム分野に関し、より具体的には、環境にカメラアレイを装備するための新規で有用なシステム及び方法に関する。
背景
様々なサービス及びアプリケーションを推進するために、環境内でセンサ駆動監視を行う新興の技術分野がある。一例として、最近の技術開発では、コンピュータビジョンを使用し、時に他の形式のセンシングと組み合わせることによって、店舗内で自動チェックアウトを可能にすることを目的とする初期提案システムが見うけられる。そのような実装の多くは、運用上の複雑さや高額なシステム設置コストを含む多くの要因により、その広範な使用が制限されている。
一例として、ビルなどの環境にマルチカメラ監視システムを設置することは、大きなプロジェクトになり得る。含まれる機器は高価な場合があり、しばしば、複雑で高価なカメラが含まれる。同様に、既存のインフラストラクチャ(棚、照明、通気孔など)を有する既存の店舗への設置を検討する場合、設置プロセス、又は設置の実行可能性さえも複雑である。
加えて、高度にカスタマイズされたシステムを設置するために、作業者に高度なトレーニングを必要とする。たとえトレーニングされていても、各カメラの設置、照準合わせ、較正、及び構築は複雑なプロセスになり得るため、システムのセットアップは長いプロセスになる場合がある。システムのメンテナンスも同様に、高価で複雑である。更に、アクティブに使用している場合、マルチカメラ監視システムは、皮肉なことに、それらの使用を制限し得る大量のデータを生成する可能性がある。このように、マルチカメラシステム分野では、環境にわたるユビキタスビデオ監視のための新規で有用なシステム及び方法を作成する必要がある。本発明は、そのような新規で有用なシステム及び方法を提供する。
図面の簡単な説明
システムの具体化の概略図である。 一連のカメラモジュールのネットワーク図である。 システムの具体化の概略図である。 吊り下げカメラモジュールの例示的な構成の概略図である。 吊り下げカメラモジュールの例示的な構成の概略図である。 棚通路内に整列された2列のカメラモジュールの例示的な構成の概略図である。 吊り下げカメラモジュールの例示的構成の概略図である。 例示的なカメラモジュールレール筐体本体の概略図である。 吊り下げカメラモジュールの概略図である。 天井タイルと互換性のあるカメラモジュール本体の底面概略図である。 天井タイル構造システム内で使用可能なカメラモジュール本体の上面概略図である。 カメラ及びカメラモジュール間隔の概略図である。 例示的なシングルポイントカメラモジュールの概略図である。 組み込みカメラモジュールの概略図である。 カメラモジュール用の代替的取り付けシステムの概略図である。 カメラモジュール、冗長電力及びネットワーク接続、並びにカメラサブシステムユニットのモジュール式使用の概略図である。 カメラモジュール、冗長電力及びネットワーク接続、並びにカメラサブシステムユニットのモジュール式使用の概略図である。 カメラモジュールの例示的な断面プロファイルである。 カメラモジュールの例示的な断面プロファイルである。 カメラモジュールの例示的な断面プロファイルである。 カメラモジュールの例示的な断面プロファイルである。 カメラモジュールの例示的な断面プロファイルである。 フレキシブルカメラモジュールの概略図である。 棚の光学観察を増強する際に使用されるレンズの図である。 カメラカバレッジ、及びカメラによって収集された棚に対するカメラカバレッジオーバーラップの概略図である。 カメラカバレッジ、及び補正光学システムの使用後の、カメラによって収集された棚に対するカメラカバレッジオーバーラップの概略図である。 カメラカバレッジ、及び補正光学システムの使用後の、カメラによって収集された棚に対するカメラカバレッジオーバーラップの概略図である。 カメラカバレッジ、及び補正光学システムの使用後の、カメラによって収集された棚に対するカメラカバレッジオーバーラップの概略図である。 異なるカメラモジュール変形例の例示的な照明統合フォームファクタである。 異なるカメラモジュール変形例の例示的な照明統合フォームファクタである。 異なるカメラモジュール変形例の例示的な照明統合フォームファクタである。 運用上の冗長性のためのカメラモジュールコンポーネントアーキテクチャの概略図である。 運用上の冗長性のためのカメラモジュールコンポーネントアーキテクチャの概略図である。 カメラモジュールを接続する、電力及びネットワーク接続ケーブルの概略図である。 監視ネットワーク分岐の概略図である。 接続ポートの概略図である。 例示的な配線管理ソリューションの概略図である。 スプリットフィールド光学システムの変形例の一般化された概略図である。 スプリットフィールド光学システムの変形例の一般化された概略図である。 スプリットフィールド光学システムの変形例の一般化された概略図である。 スプリットフィールド光学システムの変形例の一般化された概略図である。
実施形態の説明
本発明の実施形態の以下の説明は、本発明をこれらの実施形態に限定することを意図するものではなく、むしろこの発明を当業者が作成及び使用することを可能にすることを意図するものである。
1.概要
環境にわたるユビキタスビデオ監視のシステム及び方法は、特にビデオ及び静止画像などのメディアを収集するために、カメラのネットワークが効率的に設置及び動作できるように機能する。システムが収集したメディアは、大規模コンピュータビジョン(CV)駆動のアプリケーションで使用されることが好ましい。システム及び方法は、好ましくは、環境の天井領域に沿った、又は天井領域から吊り下げられた複数のカメラモジュールのセットアップを含む。システム及び方法は、環境の他の領域及び/又はインフラストラクチャにわたる設置を代わりに含んでもよい。システム及び方法の特定の属性は、簡単に設置できるカメラモジュールの使用であり、カメラモジュールは、デイジーチェーン化されるか又は他の方法で接続されて、監視ネットワークを形成することができる。商業空間又は適切な環境内で使用する場合、監視ネットワークを、詳細な視覚的監視のために天井及び他の領域にわたって配置させることができる。他の設置アプローチを、追加的に又は代替的に、システム及び方法と共に使用することができる。
システムは、複数のビデオ監視ノードに対するネットワークとして主に説明されている。本明細書で使用される「ビデオ」は、NTSC、PLA、MPEG、4K、HEVCなどの一般的なビデオフォーマットを意味する場合がある。ビデオはまた、経時的な場所が単調な、個々の静止画像のシーケンスを意味する場合がある。同様に、これらの画像は、Raw、JPG、PDF、GIF、BMP、HEIF、WebP、及び/又は他の適切なメディアフォーマットを含む、広範囲なフォーマットであり得る。
システムは更に、シングルカメラ及び/又は音声監視に適用することができ、加えて、独立して又はビデオ監視と組み合わせて使用できる他の形態の検知を含んでもよい。これらには、ライダ、ソナー、赤外線、紫外線、無線周波数、静電容量、磁気、スケール、圧力、ボリューム、気候感知などが含まれ得る。
同様に、システム及び方法は、追加的に又は代替的に、環境にわたって他のコンピュータ入力又は出力デバイスを配置させる際に使用することができる。システム及び方法は、ビデオ及び/又は画像データに加えて又はその代わりに、センサデータの収集及び/又は出力の生成に使用することができる。マイク、Bluetoothビーコン、スピーカ、プロジェクタ、及びその他の適切なデバイスなどの他の形式のデバイスを、追加的に又は代替的に、環境にわたって設置され得るシステムモジュールに統合することができる。本明細書では、画像ベースのビデオ監視に関連するときの、システム及び方法を主に説明する。
システム及び方法は、環境にわたってユビキタス監視を利用するアプリケーションに使用されることが好ましい。本明細書では、ユビキタスモニタリング(又はより具体的には、ユビキタスビデオモニタリング)が、環境内の関心領域にわたる広範なセンサ監視を特徴付けている。ユビキタス監視は、一般に、領域の不連続性がサポートされ得るが、実質的に連続していることが好ましい広いカバレッジ領域を有する。加えて、監視は、実質的に均一なデータ解像度で監視できる。
一例では、広いカバレッジが、監視対象の表面積の95%よりも大きいものとして特徴付けることができる。ショッピング環境では、これは、棚及び製品ディスプレイ、並びにショッピングフロアが監視されることを意味し得る。
実質的に均一なデータ解像度は、環境における異なる領域の画像解像度の変動性がターゲット範囲内にある検知構成を記述することが好ましい。自動チェックアウトCV駆動型アプリケーションの典型的な場合では、画像解像度のターゲット範囲は、製品識別のための製品パッケージの詳細を解明するのに十分である。
ユビキタス監視には、任意選択的に、冗長監視の特性を含むことができる。これには、複数の優位な場所からの冗長カバレッジを有することを含んでもよい。例えば、棚上のアイテムは、適切な製品識別解像度を有する2台の異なるカメラによって、及びカメラが異なる視点からアイテムを視認する場所で、可視状態になり得る。食料品店のような環境では、これは、いくつかの例示的な実装では、通路ごとに10~200台のカメラが配置されることを意味し得る。
システム及び方法には、大規模な環境に対して特定の潜在的な利点があり得るが、システム及び方法には、小さな環境内で潜在的な利点及びアプリケーションがある。異なる環境への適応性は、システム及び方法の典型的な利点である。
システム及び方法は、任意の適切なビデオ監視アプリケーションに使用できる。特に、システム及び方法は、自動セルフチェックアウト、在庫追跡、セキュリティ監視、環境イベント検出及び追跡、及び/又は他の適切なアプリケーションを含み得るCVベース計算アプリケーションに対するものである。
本明細書では、システム及び方法の主要で例示的なアプリケーションとして自動チェックアウトが使用されるが、任意の適切なアプリケーションが使用されてもよい。自動チェックアウトは、主に、顧客(又は顧客グループ)のショッピングプロセス中に仮想カートを生成又は維持するシステム又は方法を特徴とし、顧客が店舗を出るときやチェックアウトの準備ができたときに所持品を知ることを目的とする。本明細書で説明されるシステム及び方法を使用して、顧客用のアイテム別チェックアウトリストを自動的に生成することができる。自動チェックアウトシステムは、追加的に、ショッピングカートの合計に対して顧客のアカウントに自動的に課金することができる。自動チェックアウトシステムを代わりに使用して、支払い用にアイテムの入力を促進することができる。
システム及び方法を代わりに使用して、図書館、レンタル店、倉庫、又は任意の適切なアイテム保管施設などでの顧客による商品の撤去を把握してもよい。システム及び方法を代わりに使用して、ロケーションへのアクセスを許可又は制限し、又はそのようなアクセスに対して課金してもよい。システムは、食料品店、コンビニエンスストア、マイクロコマース及び無人店舗、バルクアイテムストア、薬局、書店、倉庫、ショッピングモール、市場、及び/又は商品若しくはサービスの商取引又は交換を促進する任意の適切な環境などの、多岐にわたるショッピング環境で作動するように作成することができる。別のケースでは、システムを、法執行又は同様のシステムと組み合わせて使用して、システムのルールに従っていない個人を特定することができる。
1つの潜在的な利点として、システム及び特にカメラモジュールを、容易に設置してアクティブ化することが好ましい。物理的に、カメラモジュールは、多くの店舗で使用されている標準器具を使用して取り付けることができる。いくつかの例では、これは、照明システムのインフラストラクチャなどの既存の店舗インフラストラクチャを使用すること、及びカメラモジュールの設置用にインフラストラクチャを再利用することを含み得る。他の例では、契約者及び電気技師が、照明システム及び他の一般的なデバイスを設置するのになじみ深い、標準的なデバイス設置を伴う場合がある。いくつかの変形例では、デバイスの設置は、従来の照明器具の設置の構造的な課題と実質的に類似している。
エレクトロニクスの観点からは、カメラモジュールをケーブルのセットで一緒に接続するだけでよい場合がある。いくつかの変形例では、これには、データケーブルと電力ケーブルのセットが含まれ得る。いくつかの変形例では、これには、パワーオーバーイーサネット(PoE)ケーブルやカスタムケーブルの使用など、データ及び/又は電力接続用の単一の統合ケーブルが含まれてもよい。
システム及び方法は更に、カスタマイズされた構成よりも自動構成を優先する。カメラモジュールは実質的に自己初期化でき、カメラモジュールのネットワークは自己組織化して環境ビデオ監視を調整することができる。自己較正及び構成により、システムを設置する作業者のトレーニング量を最小化することができる。そのような容易なセットアップは、コンピュータビジョン監視機能を用いて、環境を迅速にオンラインにするのを可能にするために重要である。加えて、環境内でのカメラの向きと配置は必ずしも正確にはできない。カメラモジュールのフォームファクタにより、望ましいユビキタス監視に対するデバイスのアライメント及び配置を簡素化することができる。カメラアライメントは、標準的な契約者の設置における通常許容範囲内の仕様で設計できる。加えて、自己構成により、カメラモジュールを個別に起動及び構成するための専門技術者への依存が軽減される。個々の視野を計画及び較正することにより各カメラの有用性を最大化するのとは対照的に、システム及び方法は、カメラでエリアを「飽和」させ、環境内のカメラトポロジを自律的に検出することによって較正に対処できる。このシステムは、環境内で高密度画像化システムを作成する際に使用できる。このようにして、カメラモジュールを設置する作業者は、カメラの正確な向き及び配置について心配することを軽減できる。
関連する潜在的な利点として、システム及び方法は更に、より簡単にメンテナンスできる。システム及び方法の様々な潜在的な実装により、様々なシナリオに対処して、システム問題への対応及び/又はシステムの更新を簡素化することができる。いくつかの変形例では、カメラモジュールに設計されたコンポーネント冗長性により、冗長データ及び/又は電力システムにフェールオーバすることによって、監視ネットワークが個々の障害に対して回復力を持つことを可能にすることができる。これにより、システムの稼働時間を増大させることができる。別の変形例では、設置されたカメラモジュール(例えば、適切に機能しないカメラモジュール、又はカメラモジュールの古いバージョン)は、新たなカメラモジュール200と交換することができる。そのようなカメラモジュールの更新は、他のカメラモジュールでのダウンタイムなしで実行できる。
別の潜在的な利点として、システム及び方法は、カメラ計算モジュールの効率的な構成を可能にすることができる。1つの変形例では、カメラモジュール内のカメラの配置及び向きを介して事前構成された方法で、棚、通路、又は他の関心領域を効率的にカバーするように、一連のカメラの視野を調整することができる。いくつかの変形例では、これにより設置用のカメラの数を大幅に低減することを可能にし得る。加えて、システム及び方法のいくつかの実施形態は、汎用画像化コンポーネントを利用して、環境を装備するための経済的なソリューションを提供することができる。システム及び方法は、小型フォーマットカメラセンサ(例えば、サイズが1/4インチ、1/3.2インチ、1/3インチ、1/1.7インチ、及び/又は他のサイズのカメラセンサを有するカメラ)などのより安価でより汎用的なコンポーネントを使用して運用できる。
別の潜在的な利点として、システム及び方法は、視覚的に目立たなくできる。ケーブルと複雑なコンポーネントの設置を最小限にすることで、システムは標準インフラストラクチャシステムとして環境に溶け込むことができ、環境内の人々にほとんど気付かれずに運用することができる。
別の潜在的な利点として、いくつかの実施形態は、CVベース処理を活用して、帯域幅データストレージの制限に対処することができる。CVベース処理は、CVベースメタデータ抽出、メディア処理、及び階層型ストレージソリューションを伴う動的情報処理を介して、情報保持を強化できる。
2.システム
図1に示すように、好ましい実施形態のユビキタスビデオ監視を環境に装備するシステムは、環境内で取り付けられ、且つ、相互接続されたカメラモジュール200のセットで構成されている監視ネットワーク100を含み得る。カメラモジュールのセットの各カメラモジュール200は、少なくとも1つのカメラ220と、少なくとも2つの接続ポート230とを含むことが好ましい。監視ネットワーク内で、カメラモジュールのセット(又は少なくともカメラモジュールのサブセット)を接続ポート230を介して直列に接続し、ネットワーク隣接カメラモジュールの接続ポート230間で物理接続を確立する。このようにして、システムを使用して、共有ネットワーク及び/又は電力接続を有するカメラモジュール200の接続チェーンを形成することができる。
このシステムは、ユビキタスビデオ監視システムを実装する可能性を高めることが好ましい。このシステムには、設置の容易さ、並びにCV駆動型アプリケーションを提供するための環境の信頼できる監視に役立つ様々な要素が含まれている。いくつかの変形例には、筐体、コンポーネント及び接続冗長性、ホットスワップ機能、補正光学システム、及び/又はその他の機能において、事前構成された配置で取り付けられた複数のカメラが含まれてもよい。説明したように、システムは自動チェックアウトなどのCV駆動型アプリケーションに使用することが好ましいが、他のタイプのアプリケーションにも使用できる。
好ましくは、カメラモジュールは、電力及び/又はネットワーク接続を受け取り、接続されたカメラモジュール200への電力及び/又はネットワーク接続を中継するための複数の接続ポート230を含むデバイスである。カメラモジュール200は、カメラモジュール200間のデータ及び/又は電力搬送を提供する1つ以上のケーブルで接続することによって、一緒にチェーン化することができる。1つの好ましい実装では、カメラモジュール200は、カメラモジュール200の反対側の端部(例えば、第1の側上の第1の接続ポート220、及び第1の側の反対側の第2の側上の第2の接続ポート220)上に接続ポート230を有する延長プロファイルの筐体本体210を有する。延長プロファイルは、経路に沿って(例えば、食料品店の通路を下って)事前構成された配置でカメラの設置をより簡単に促進できるように機能する。1つの好ましい実施形態では、カメラモジュール200は、イーサネットケーブル又はPoEケーブルによって相互接続された吊り下げ器具である。カメラモジュール200は、1つ以上のカメラ220、及び場合によってはメディアのローカル処理を容易にする計算コンポーネントのセットを含んでもよい。いくつかの場合では、CVベース処理をローカルで実行して、監視ネットワークにわたって通信されるメディアの量を軽減することができる。
いくつかの変形例では、カメラモジュールは、ネットワーク復元性のための冗長データ及び/又は電力接続を含むことができる。電力接続が失敗した場合、冗長電力接続がカメラモジュール200に電力を供給し続けることができる。同様に、1つの接続で問題が発生した場合、冗長ネットワーク接続がネットワーク接続を維持することができる。加えて、いくつかの変形例では、カメラモジュール200は、システムが動作を維持している間にカメラモジュール200を変更できるように、カメラモジュール200の取り外し及び再設置のためのホットスワップ制御システムを含むことができる。
監視ネットワーク
監視ネットワーク100は、カメラモジュールネットワークとして接続された複数のカメラモジュール200中からのビデオメディアデータの収集を調整するように機能する。CV駆動型アプリケーションは、一般に、1つ以上の監視ネットワーク100から収集されたデータから動作する。環境内には、いくつかの監視ネットワーク100(すなわち、サブネットワーク)があってもよい。カメラモジュール200は、監視ネットワーク100内で直列に接続されてもよい。カメラモジュール200は代わりに、監視ネットワーク100に分岐を含んでもよい。1つの変形例では、監視ネットワーク100を、ビデオカメラモジュールのみで構成することができる。別の変形例では、監視ネットワーク100は、他のタイプのセンサーモジュール/デバイスで構成されるノードを更に含んでもよい。
そのようなシステムの監視ネットワーク100を効果的に構成するために、いくつかの異なる方法がある。1つの好ましい構成では、環境内の監視ネットワーク100は、カメラモジュール200のセットの直列接続により形成されるサブネットワークのセットで構成される。直列接続監視ネットワーク(すなわち、デイジーチェーンネットワーク構成)は、カメラモジュールのストリングがチェーンを形成するように、各カメラモジュール200が少なくとも1つの他のカメラモジュール200に接続されていることが好ましい。図2に示すように、ネットワークの観点から、一連のカメラモジュールは、各々がいくつかのカメラ接続を有する複数のネットワークノードの直列接続であってもよい。
一般に、チェーンの最初の端部(及び/又は終端部)には、システムの残りの部分に戻る接続を含むことができる。構成には更に、相互接続分岐を含むことができる。例えば、カメラモジュールのデイジーチェーンは、2つ以上の分岐があるように、あるポイントで分割することができる。直列接続に含まれるカメラモジュールの数は、任意の適切な数にすることができる。直列のカメラレールの数は2つだけだが、より一般的には、10を超えて、(例えば、40のカメラモジュール、100のカメラモジュール、1000以上のカメラモジュール、又は更に多くの)任意の適切な数であり得る。図3に示すように、直列サブネットワークのセットは全て、集中化された計算、及び/又は電力に対して1つ以上のポイントに接続し戻され得る。
別の構成では、監視ネットワーク100は、各カメラモジュール200が単一の中央コンポーネントに接続されるように、星形パターンとすることができる。中央コンポーネントは、一次カメラモジュール200(例えば、ハブカメラモジュール)であり得るが、代わりに、異なるカメラモジュールとインターフェースする代替的な中央コンポーネントであってもよい。
更に別の構成は、2つ以上の端部で接続されるループ又はリングである。上記又は代替的なトポロジの1つ以上の組み合わせもまた可能である。
システムは更に、外部カメラ、画像化デバイス、他の適切なセンサーユニット、及び/又は出力システムと互換性があってもよい。1つの変形例では、カメラモジュール200は、IPカメラなどの外部カメラとの接続を容易にするための互換性を更に含むことができる。外部カメラ接続は代わりに、ローカル計算システム上の外部カメラインターフェースを介してなど、代替的なチャネルを介して達成することができる。1つの実装では、外部カメラモジュール200は、カメラモジュール200の同様の動作コンポーネントを含むことができるが、内部カメラからのビデオストリームの代わりに外部画像化システムの外部ビデオストリームを収集する。筐体本体210及びフォームファクタは、様々なカメラタイプとのインターフェースに対応するように変更されてもよい。このようにして、既存のカメラ及び監視システムを改造して、監視ネットワーク100及びシステムと統合することができる。
監視ネットワーク100は、環境にわたって分布された方法で設置されることが好ましい。システムは、関心のある被写体に焦点が適切に向けられるように、ビデオ監視のカスタマイズに適応できることが好ましい。多くの例示的なショッピング環境では、関心のある対象には、店舗、及び顧客、作業者、又は他のエージェントが相互作用するエリアに保管及び表示されるような製品が含まれる。本明細書で説明するように、監視ネットワーク100のカメラモジュール200を設置及び構成する際に、様々なアプローチを適用することができる。監視ネットワーク100は、環境内の異なる監視シナリオに対処するために、様々なそのような構成の変形例を使用してもよい。
カメラモジュール
好ましい実施形態のカメラモジュール200は、環境内に配置された画像化デバイスとして機能する。カメラモジュール200は、監視ネットワーク100の構築及びレイアウトにおいて、システムのビルディングブロックの1ユニットとして機能することができる。監視ネットワーク100は、環境にわたってデータを監視及び収集するように協働するカメラモジュール200のセットで構成されることが好ましい。より具体的には、監視ネットワーク100は、物理的に相互接続されたカメラモジュール200の1つ以上のセットであり得る。カメラモジュール200は、少なくとも、筐体本体210、1つのカメラ220、及び接続ポート230のセットを含むことが好ましい。カメラモジュール200は、好ましくは画像監視を容易にするが、加えて、固定/取り付け、ネットワーク構成、システム統合、CVベース処理、及びデータ管理、及び/又は他の適切な態様を容易にする。
カメラモジュール200の少なくとも1つの変形例では、筐体本体210は延長プロファイルを有し、カメラモジュール200は、天井又は高架構造物から水平に吊り下げられるための取り付け機構で構成される。システムの任意の適切なインスタンス化に使用される複数のカメラモジュール200があることが好ましい。
監視ネットワーク100のカメラモジュール200は、均一なタイプ及び形態のものであってもよいが、異なるカメラモジュールタイプのセットを同様に使用することができる。いくつかの場合では、システムのビルディングブロックの一部として、環境に設置するときの異なる課題に対処するために使用できるカメラモジュールタイプのセットがあることが好ましい。カメラ及び/又は計算コンポーネントなどの機能及び内部要素は、異なるカメラモジュールタイプにわたって実質的に類似していることが好ましいが、筐体本体210は、異なる使用に適応するようにカスタマイズされてもよい。1つの実装では、カメラモジュールタイプは、異なるフォームファクタ変形例及び/又は性能変形例を含んでもよい。
異なるフォームファクタは、異なる形状及び/又はサイズがより適切な、異なるアプリケーション及びシナリオに適応することができる。いくつかの例示的な異なるカメラモジュールフォームファクタタイプは、吊り下げカメラモジュール、組み込みカメラモジュール、フレキシブルカメラモジュールストリップ、シングルポイントカメラモジュール、及び/又は任意の適切なタイプのカメラモジュール200を含むことができる。加えて、これらの各々のサイズ又は形状バリエーションが異なってもよい。
機能のバリエーションにより、監視ネットワーク100の異なる部分で、異なる機能を可能化して統合することを可能にすることができる。機能のバリエーションには、様々な配置、向き、カメラ数、カメラ角度構成、カメラ光学システム、筐体本体のサイズとフォームファクタ、処理能力、及び/又はカメラモジュール200の他の適切なバリエーションを有するカメラを含むことができる。カメラモジュールタイプには、長さ、機能、及び/又は他のプロパティに関して、様々な種類があり得る。
1つの変形例では、機能のバリエーションは、通常のカメラモジュール200、及びハブ、中央、マスタ、又は一次カメラモジュール200の、2つのカメラモジュールタイプであり得る。一次カメラモジュールは、システムのデータ処理を容易にするために、追加の計算リソースを含んでもよい。追加的な計算リソースは、限られた供給で必要になり、コストに寄与し得るため、監視ネットワークにおいて必要に応じて使用できる専用カメラモジュールとして提供されてもよい。
カメラモジュール200は、接続ポート230のうちの少なくとも1つを介して、カメラモジュール200とインターフェースする有線導電接続によって相互接続されることが好ましい。接続ポート230は、電力及び/又はデータ接続(例えば、ネットワーク接続)を接続することができる。電力及び/又はデータ接続の一方又は両方に対して、無線通信を代わりに使用してもよい。1つの例では、図1及び図3に示すように、カメラモジュールの複数のサブネットワークを統合することができる。
加えて、簡単な構成を容易にするために、カメラモジュール200が、異なる監視ネットワーク100構成に対して可能にできる冗長性又はオプションのコンポーネントで設計されてもよい。例えば、一方で有線ネットワークが使用されることが好ましい。カメラモジュールは、カメラモジュール200又はカメラモジュールのサブネットワークがシステムと無線で通信できるように、Wi-Fiモジュール又は他の無線通信モジュールを更に含んでもよい。追加的に又は代替的に、無線電力供給を使用してもよい。
カメラモジュール200は、カメラモジュールを直列に接続できるように、少なくとも2つの接続ポート230を含むことが好ましい。延長形状を有する筐体本体210を用いて、第1の接続ポート230を一端部上に配置でき、第2の接続ポート230を他端部上に配置することができる。接続ポート230は代わりに、任意の適切な配置で(例えば、並んで)配置されてもよい。いくつかの変形例は、監視ネットワーク100が複数の分岐を含むことができるように、3つ以上の接続ポートを含むことができる。例えば、カメラモジュール200の1つの端部は、一連のカメラモジュール210がカメラモジュール200のその端部で分岐又は合流できるように、2つの接続ポート230を含むことができる。
説明したように、カメラモジュール200は、システムを介して利用可能なコンポーネントのモジュールのセットの一部であり、特定の環境及び/又はユースケースにカスタマイズされるカメラモジュール200の構成及び配置のカスタマイズに使用できる。異なる環境及びユースケースには、異なる要件があり得る。環境には、カメラモジュールの間隔と配置に影響を与え得る、様々な静的又は変化する可視性の期待があり得る。同様に、システムのユースケース又は目的は、配置に同様の影響を与える可能性がある。例えば、店舗や倉庫で使用する場合、在庫及び棚のレイアウトは、カメラモジュールを構成する際の要因になり得る。別の例として、詳細な在庫及び顧客との相互作用のためにシステムを使用すると、カバレッジ要件が異なる場合がある。
特にいくつかの変形例では、システムを使用して、棚上のアイテム及びそれらのアイテムとの相互作用を監視することができる。監視ネットワーク内の1つ以上のカメラモジュールの設置構成は、在庫の監視と在庫の相互作用の課題に特に対処するように設計することができる。いくつかの場合では、カメラモジュール200の設計と機能は、特定の設置計画に合わせてカスタマイズしてもよい。
図4A及び図4Bに示すように、デュアルアングル中央カメラモジュール200を通路の上部領域又は中央領域の上方に配置して、通路の両側を監視することができる。いくつかの店舗には、通路の中央に照明を吊り下げるための既存のインフラストラクチャが存在している。カメラモジュール200のいくつかの変形例では、照明器具を統合させたカメラモジュール200を使用することで、a)既存の照明器具を交換することによって、カメラモジュールを既存のインフラストラクチャに取り付けることができ、及び/又は、b)システムがカメラモジュールの領域の環境に照明を提供することができる。
図5に示すように、別の設置構成では、店舗の通路の各々の側を走り下る少なくとも2列の接続されたカメラモジュールを有し得る。この変形例では、カメラモジュール200を棚面の上方、及び好ましくは前(例えば、棚の前5インチから10インチ)に設置することにより、カメラモジュール200が、通路に反対側の棚上のアイテムを監視すること、及び顧客がカメラモジュール200に最も近い棚面に、いつ、おおよそどこで相互作用をするかを監視することの両方を可能にすることができる。1つの実装では、シングルカメラが、図5に示すように、第1の棚面上に入射する視野、及び反対側の棚面の上部領域に入射する視野の反対側の端部を有することができる。別の実装では、デュアルアングルカメラモジュール200は、第1の棚面が視野内にある第1の向き(例えば下向き)に実質的に向けられた第1のカメラと、第2の/反対側の棚面が第2のカメラの視野内にある第2の向き(例えば斜め外向き)に向けられた第2のカメラとを有してもよい。
他の設置構成もまた使用できる。いくつかの変形例では、カメラモジュールは、棚面又はターゲット領域に対して垂直になるように設置することができる。別の変形例では、図6に示すように、カメラモジュール200が複数の通路に広がる画像データを収集するように、カメラモジュールを設置することができる。
カメラモジュール本体
好ましい実施形態の筐体本体210は、カメラ220の取り付け、カメラモジュール200の計算コンポーネントの取り付け及び保護、及び/又はカメラモジュール200の他の要素の収容のためのフレームとして機能する。構造体は、計算コンポーネントを含むソリッドケースであることが好ましい。筐体本体210は、少なくとも1つの画定されたカメラマウントを有する構造体を含むことができる。カメラモジュール200の好ましい変形例は、複数のカメラ220を含むことができ、複数のカメラ220は、異なる画定されたカメラマウントの筐体本体210にわたって間隔を空けた配置で取り付けられる。筐体本体210は更に、カメラモジュール200を適所に配置し、固定し、又は物理的に結合することを容易にするように機能する1つ以上の取り付け機構を含むことができる。
構造体は好ましくは囲まれているが、オープントレイなどの代替的なフォームファクタを使用することもできる。構造体は、プラスチック、アルミニウム、スチール、複合材、又は任意の適切な材料など、任意の適切な材料で作成することができる。1つの好ましい実装では、構造体はガラス繊維であり、ガラス繊維は信号干渉を最小化できる。構造体は単一部品の設計にすることができるが、構造体は代わりに、複数の相互接続コンポーネントを含むことができる。
構造体は、カメラ及び計算コンポーネントを保持するための1つ以上の画定された空洞を有する静的要素であることが好ましい。好ましくは、カメラモジュール200は、環境にわたって「デイジーチェーン」又は「ストリング」カメラモジュールをサポートする。構造体の異なるフォームファクタを使用して、異なるタイプのサイトへの設置に適応することができる。2つの好ましい変形例には、レール構造体、タイル構造体、及び/又はコンパクト構造体が含まれる。
レール構造体の変形例では、構造体は延長プロファイルを有し、構造体の1つの次元に沿った大きさが他の2つの次元よりも大幅に大きい(例えば、長さが、幅又は深度よりも大幅に大きい)。別の方法で説明すると、筐体本体210は、図7に示すようなレール形状で、図8に示すようなチューブ形状の筐体、又は任意の適切な形状を有することができる。形状は直線であることが好ましいが、湾曲した、弧を描いた、又は角度のある筐体が、延長プロファイルを更に有することができる。延長フォームファクタは、環境内で長期にわたってカメラを配置しやすくするために機能することができる。例えば、所与の長さのスペースに対して、延長フォームファクタは、設置を必要とする長さあたりのユニット数が少なくなり得るため、設置の労力が低減される。
レール構造体の変形例では、異なる長さになり得る。いくつかの例示的な長さは、3~10フィートの間のいずれかの長さを含んでもよい。いくつかの例では、2~3フィートの筐体本体、5~6フィートの筐体本体、及び9~12フィートの筐体本体である、異なる長さのセットを使用することができる。任意の適切な長さを、代わりに使用してもよい。
タイル構造体の変形例では、図9Aに示すように、カメラモジュールを「タイル張り」又は「広げる」ことによって、カメラモジュール200を配置するために構造体を設計することができる。タイル構造体は、少なくとも1つの実質的に平坦な面を有するフォームファクタの筐体本体とすることができ、したがって、プレート又はシートとすることができる。平面は一般に正方形又は長方形の形状になるが、任意の適切な形状も使用できる。平面は、好ましくは、カメラを露出するために使用され、反対側は、好ましくは、コネクタポートを露出し、任意選択的にカメラモジュールのコンポーネントを収容するために使用される。図9A及び図9Bに示すように、構造体の変形例は、カメラモジュール200が天井タイルインフラストラクチャと互換性を有すように機能してもよい。カメラモジュールは、既存の天井タイルをカメラモジュールのタイルバリエーション(つまり、カメラモジュールタイル)と置き換えることによって設置できる。カメラモジュールタイルは、構造面を、2フィート×2フィート、2フィート×4フィート、又は適切な天井タイルと互換性のあるサイズの形状にすることができる。カメラモジュールタイルは、図9Aに示すように、Tバーへのドロップイン設置、又はドロップ天井に使用される吊り下げ天井器具に適合していることが好ましい。関連する変形例では、構造体は、既存の天井タイル又は材料を、追加又は改造するように設計することができる。この変形例では、カメラがターゲット領域を見るようにカメラ220が天井タイル又は材料を介して投影をすべく、カメラモジュールが設計されてもよい。カメラモジュールコンポーネントの一部又は全てのハウジングは、図9Bに示すように、サイト外の天井タイルの上方に配置されるように設計することができる。
カメラモジュールのレール構造体の変形例及びタイル構造体の変形例は、カメラの配置が複数の相互接続されたカメラモジュールにわたって実質的に周期的及び規則的であり得る、規則的な方法で配置することができる。図10に示すように、監視ネットワーク内のカメラのペアが3フィートの間隔を有するように、カメラモジュールレール間に6インチの間隔で、5フィート半のカメラモジュールレールを相互接続できる。
シングルポイントカメラモジュールでは、カメラモジュール200を別個のポイントに設置できるように、構造体をコンパクトに設計してもよい。シングルポイントカメラモジュールは、シングルカメラマウントを含んでもよいが、図11に示すように、異なる方向に向けられた複数のカメラマウントを含むことがより好ましい。1つの実装では、シングルポイントカメラモジュールは、吊り下げカメラモジュール200であり得る。しかしながら、シングルポイントカメラモジュールの取り付け機構は、カメラモジュール200を固定又は配置するための任意の適切な機構であり得る。シングルポイントカメラモジュールは、有線接続を介して1つ以上のカメラモジュールに接続できるように、本明細書で説明する変形例を含んでもよい。しかしながら、シングルポイントカメラモジュールは特に、有線接続を介して電力のみが供給されるように、無線通信チャネルを代わりに利用してもよい。シングルポイント本体は、図10のように、カメラモジュールの相互接続が近接していて実質的に相互接続されていない、よりポイントベースの設置用に設計されてもよい。
本明細書では、レール構造体の変形例が例として主に使用されているが、任意の適切な変形例を代わりに使用することができる。
様々なフォームファクタを、環境内に様々な方法で取り付けることができる。筐体取り付け機構は、カメラモジュール200の外部構造への配置、取り付け、又は物理的結合を容易にする、筐体本体210の締結機構又は設計機能であることが好ましい。取り付け機構の性質は、カメラモジュールタイプによって変化し得る。選択した変形例について、以下でより詳しく説明する。
図8に示すように、吊り下げカメラモジュール200は、天井などのより高い構造から吊り下げられるように構成されたフォームファクタである。吊り下げカメラモジュール200は、天井領域から環境を監視する際に使用されるのに好ましく、それは照明や看板などの吊り下げ器具を既に活用している商業スペースに対する簡単な解決策であり得る。
吊り下げカメラモジュール200の取り付け機構は、1つ以上のケーブル接続ポイントを収容することが好ましい。1つの実装では、筐体本体210は、2つのケーブルを使用してカメラモジュール200を天井から水平に吊り下げることができるように、筐体本体210の長さに沿って、且つ、反対側上に、2つのねじ付きランプチューブ固定ポイントを含むことができる。別の例示的な実装では、ユニストラット又はケーブル固定機構のような補助構造要素に取り付けるために、取り付け機構(例えば、突出ボルト)が設計されてもよい。
別の変形例では、組み込みカメラモジュール200は、しっかりと固定されるか、又は別の強固な構造に取り付けられるように構成されていることが好ましい。例えば、隣接する棚の通路を横切って水平方向に広げることができるように、図12に示すごとく、カメラモジュールを棚に直接取り付けてもよい。組み込みカメラモジュール200は、吊り下げカメラ取り付け設計の考慮事項の多くを含むことができる。しかしながら、組み込みカメラモジュール200はユーザにより近接し得るため、組み込みカメラモジュールは、改ざん及び悪用からより厳密に保護するための設計上の考慮事項を含むことが好ましい。取り付け機構は、組み込みカメラモジュール200を別の構造体に確実に固定できるように、ボルト貫通穴を含むように画定することができる。同様の堅牢性を考慮して、カメラモジュール200又はカメラを交換するのではなくカメラカバーを交換することによって、カメラマウント領域付近の摩耗に対処できるように、組み込みカメラモジュール200は、保護カメラカバーを更に含んでもよい。
別の変形例では、システムは、組み込みカメラモジュール200を吊り下げるか、又は配置するための剛性構造として作用するブレーシング構造を含んでもよい。図13に示すように、シェルフアダプタ構造は、棚ユニットの最上部の棚に取り付け、レバーを外側に吊り下げて正しい取り付け位置にすることができる。これは、通路に沿った設置を簡素化し、棚面に対するカメラモジュール200の制御された配置を促進するように機能し得る。
カメラマウントは、カメラが取り付けられる場所として機能する。
1つの変形例では、カメラマウントは、カメラが環境の外側の視界を有することができるように、構造体の空洞又は凹部を画定することができる。1つの変形例では、固定カメラの代わりに、交換可能なカメラユニットがカメラマウントを介してアクセス可能なポートに接続又はプラグインされ、カメラマウントに保持されるように、カメラマウントが、接続されたカメラユニットを更に容易にすることができる。交換可能なカメラユニットにより、カメラのカスタマイズ及びアップグレードが可能になり得る。カメラマウントは、静的に配置できる。或いは、カメラマウントは、物理的操作を介して、又は制御されたカメラアクチュエータシステムを介してのいずれかで再配置できる。取り付け時のカメラアングルのカスタマイズは、(例えば、カメラを所定位置に移動できる)関節機構を介して、又は(例えば、カメラが可能な位置範囲のうちの1つに取り付けられる)静的固定アプローチを介してもよい。1つの例示的な実装では、延長プロファイルを有する筐体本体210のセグメントは、カメラの角度を回転させるために筐体本体210の中心軸を中心に回転できるカメラマウントセクションを含むことができる。別の実装では、カメラモジュール200の最終組立の間に、カメラ角度をカスタマイズしてもよい。
カメラモジュールの変形例
1つの変形例では、カメラモジュール200は、完全なカメラモジュール200を形成するために接続できる複数のサブアセンブリを含むことができる。一例では、吊り下げカメラモジュール200は、機械的及び有線コネクタを介して、2つの部分的なカメラモジュールの半分を接続することによって形成することができる。各カメラモジュールユニットには、必要なコンポーネントが含まれていてもよい。或いは、特定のコンポーネント要件が満たされるために、カメラモジュールユニットが組み合わせて接続されている必要があり得るように、いくつかのカメラモジュールが特定のコンポーネントを省略又は含んでもよい。例えば、6台のアクティブなカメラごとに、カメラモジュールアセンブリの任意のセグメントに、特別な処理カメラモジュールユニットを接続する必要がある場合がある。
別のモジュールの変形例として、各カメラモジュール200は、任意の適切な数のカメラサブシステムユニット202(すなわち、カメラモジュールユニット)を組み合わせてカメラモジュールアセンブリを形成できるように、一端部又は両端部上にコネクタを含んでもよい。カメラサブシステムユニット202は、PCBボード又は密閉型計算デバイスなどの計算デバイスであることが好ましい。図14A及び図14Bに示すように、構造体は、様々な数のカメラサブシステムユニット202を取り付けるための内部器具を有することができる。図14A及び図14Bの例では、異なるサブシステムユニット202はそれぞれ、いくつかの数のカメラをサポートし、したがって、カメラモジュール200内のカメラの数は、密閉型サブシステムユニット202の数を選択することによって調整できる。このようにして、異なる環境の課題に対して、カメラモジュールを柔軟にカスタマイズ及び再利用することができる。
構造安定性のため、構造体は、スチール、ガラス繊維、アルミニウム又はプラスチックなどの実質的に硬い材料であり得るが、任意の適切な材料が使用されてもよい。1つの変形例では、筐体本体210は、図15Aに示すように、ある長さのチューブ、バー、又は他の形式の自己内蔵レールであり得るが、代わりにオープントラフであってもよい。計算コンポーネントは、筐体本体210の画定された凹部又は穴内に含まれることが好ましい。構造体の断面は、好ましくは、上方に延在するサブセクション又は構造を含み、これが、内蔵壁として機能し、吊り下げ中に構造的サポートを提供するように機能する。図15A~図15Eに示すように、様々なプロファイルが使用できる。トラフ設計は、図15B及び図15Cに示すように、筐体本体210内に含まれるコンポーネントを少なくとも一時的に密閉するためのカバーコンポーネントを更に含んでもよい。構造体の下向きの壁は、意図した角度にカメラを配置するように角度を付けることができる。1つの実装では、直角の押し出し成形バーは、図15Bに示すように、異なる方向を監視するために各面上に向けられたカメラマウントを有することができる。1つの変形例では、角度は調整可能であってもよい。1つの変形例では、構造体は、製造及び/又は設置中にカメラの位置を選択できるように、図15Cに示すように、複数のファセット及び/又はカメラマウントオプションを有するセクションを含んでもよい。カメラがなおも周囲の完全な光学視野を有しながらも機械的に保護されるように、カメラを、図15Dに示すように「プラウド」に取り付けるか、図15Eに示すようにわずかに凹ませてもよい。
1つの代替的な変形例として、フレキシブルカメラモジュールストリップにより、カメラモジュール200が表面に接着されるか、又は取り付けられることを容易にし得る。剛性材料で作られた構造体とは対照的に、フレキシブルカメラモジュールストリップの構造体は、図16に示すように、そのジオメトリの大部分に沿って曲げることができる。剛性のある内部コンポーネントを保護するために、いくつかの部分をなおも硬く作成してもよい。1つの好ましい実施形態では、フレキシブルカメラモジュールストリップを単に表面に適用することによって設置できるように、フレキシブルカメラモジュールストリップには、カメラマウントの側面の反対側に接着剤の裏打ちを含む。
カメラ
好ましい実施形態のカメラ220は、画像データを収集するように機能する。画像データはビデオストリームであることが好ましいが、代わりに定期的に収集された写真であってもよい。ビデオストリームには、マイクで記録された音声が含まれていても含まれていなくてもよい。カメラ220を使用して、代わりに他の形式の画像データを収集してもよい。システムのカメラ220は、視覚、赤外線、深度ベース、ライダ、レーダ、ソナー、又は他のタイプの画像の任意の適切な組み合わせを収集することができる。
システム内で使用されるカメラのセット又はシングルカメラモジュールは、様々な解像度、視野、絞り設定、フレームレート、性能、又はその他の機能を有することができる。カメラ220は、カメラモジュール200のカメラマウントに静的に取り付けられることが好ましい。或いは、カメラ220及び/又は他のカメラマウントを作動させて、使用中にカメラの向きを変えることができるようにしてもよい。
個々のカメラモジュール200は、少なくとも1つのカメラ220を含むことが好ましいが、代わりに複数のカメラ220を含んでもよい。複数のカメラ220は、カメラモジュール200の異なる場所に取り付けることができる。配置が間隔及び相対的方向を特徴付ける構成配置をカメラ220が有するように、カメラ220は、別個の位置及び/又は方向を有するように取り付けることができる。好ましくは、複数のカメラ220は、監視ネットワーク100又はカメラモジュール200内の別のカメラ220の視野と重複又は非重複であり得る、別個の視野を有するように取り付けられる。1つの実装では、複数のカメラ220を、延長カメラモジュール200の向かい合う両端部に取り付けることができる。カメラ220のサブセットは、実質的に同様の視野をキャプチャするように代替的に取り付けられてもよいが、異なる画像化技術を使用している。
カメラ配置の一部としての角度方向の選択時のオプションに単に基づいて、様々な構成を有する様々なカメラモジュール200のタイプがあり得る。第1の変形例では、カメラの第1のサブセットは、第1の角度方向で取り付けられる。シングルアングルの変形例の一部として、モジュールの全てのカメラは、画像面が実質的に平行である同じ角度方向を有してもよい。マルチアングルの変形例では、カメラの第1のサブセットは第1の角度方向で取り付けられ、カメラの少なくとも第2のサブセットは第2の角度方向で取り付けられる。デュアルアングルの変形例には、角度方向が異なる2つのカメラのサブセットがある。例えば、図4Aの例示的なアプリケーションに示すように、カメラのあるグループは第1の方向に向けられ、別のグループは第2の方向に向けられてもよい。トリアングルの変形例は、別の共通の変形例であり、カメラの2つのサブセットに対して2つの斜めの角度方向と、カメラのサブセットの1つの下向きの角度方向とがあり得る。任意の数の角度方向を使用してもよい。
カメラは、ターゲット領域に向けられるように角度が付けられていることが好ましい。1つの一般的なシナリオでは、ターゲット領域は、棚、又はより具体的には棚面である。多くの状況では、カメラモジュール200は、棚面の上方及び前に取り付けられることになる。棚は、店舗と商品のタイプによって高さが異なる。一般に、カメラは対象の棚面領域の上方に取り付けられる。カメラモジュールは、数インチ(例えば5インチ)から数フィート(例えば15フィート)だけ、棚面から水平方向にオフセットされてもよい。一般に、カメラは、水平方向に棚面から3~8フィート離れた場所にあることになる。カメラは、しばしば、棚の最上面の上方に0フィート(すなわち水平面)から10フィートの垂直オフセットで持ち上げられる。けれども、カメラは、場合によっては最上部よりも下方になってもよい。1つの状況では、カメラモジュールのカメラのサブセットは、第1の棚面をキャプチャするように構成された角度方向で取り付けられてもよい。
別の状況では、カメラは2つの対向する棚面の間に取り付けられてもよい。カメラマウントの角度方向は、棚面をターゲットとするように構成されることが好ましい。より具体的には、カメラのサブセットは、図5に示すように、カメラモジュールが第1と第2の棚の上方及び間に取り付けられたときに、第1の棚の第1の棚面と第2の棚の第2の棚面とをキャプチャするように構成された角度方向で取り付けられることが好ましい。一般に、第1と第2の棚は互いに向かい合う。このようにして、シングルカメラは、その視野に2つの棚を有することができる。第1の棚は、製品を識別し、及び/又は顧客によるアイテムの相互作用を検出するために、キャプチャされてもよい。同様の理由で第2の棚をキャプチャできるが、棚での相互作用のイベントがいつ発生するかを検出するために、更に監視されてもよい。
1つの好ましい変形例では、カメラ220はカメラペアとして取り付けることができ、カメラのサブセットが深度計算を実行できるように機能する深度知覚配置でペアリングされる。深度検知及び推定は、追加的に又は代替的に、シングルカメラ深度予測を含む代替技術を使用して実行することができる。カメラペアの深度知覚配置は、好ましくは1~10センチメートル離れた間隔であるが、任意の適切な間隔が使用されてもよい。複数のカメラペアは、筐体本体に沿って配置されることが好ましい。例えば、6フィートのカメラレールは、3フィート離れた2つのカメラペアを第1の方向に向けることができる(この例では、第1のアングルカメラと呼ぶ)。マルチアングルカメラの変形例では、2つの追加のカメラペア(この例では、第2のアングルカメラと呼ぶ)をそれぞれ、第2のアングルカメラペアが同様に3フィート離れるように、第1のアングルカメラペアのうちの1つの側に沿って配置してもよい。第2のアングルカメラは、第2の角度に向けられている。N-アングルカメラを使用してもよい。
カメラ220は、監視対象物をより良くターゲット化するように機能する、光学システム320を更に含むことができる。カメラ220は一般的な監視を提供し得るが、CV駆動型アプリケーションのカメラ220は、環境内の特定の領域の画像データを収集するようにカスタマイズされると、特定の利点を有することができる。例えば、自動チェックアウトの使用シナリオでは、吊り下げカメラモジュールは棚アイテムの画像データを確実に提供できることが好ましい。カメラモジュール200が吊り下げられると、棚の平面は一般にカメラ220の視野から斜めになるため、棚と製品のキーストーン歪み効果を生じる可能性がある。加えて、カメラの焦点プランは一般に棚に平行とはならず、カメラがある領域に焦点を合わせているにもかかわらず、棚の一部が焦点から外れている場合がある。いくつかの例では、アイテムの焦点の程度と焦点の外れが問題にならない場合がある。
補正光学システム320は、カメラ画像化面と対象面との方向のずれを補正することを容易にすることができ、これによって、歪みを軽減し、及び/又は関心領域の焦点を改善することができる。光学システム320は、カメラの焦点面を光学的にシフト及び/又はチルトさせて、ターゲット被写体を画像化する際に、歪み及び/又は焦点の一部に対抗することが好ましい。CLAIM-16A補正チルトシフト(例えば、シャインプルーク)光学システムは、対象の平面(例えば、棚の前面)に整列できるくさび形の被写界深度を作成できる。いくつかの変形例では、補正光学システムは光学シフトを適用してもよく、これによって歪みを補正できる。追加的に又は代替的に、光学システムは、チルトを適用して、焦点面を変更し、棚面のターゲット領域とより良く整列させることができる。これは、製品を底部から最上部まで焦点内に配置させるために使用できる。図17に示すように、カメラの画像化面に対してレンズを非平行に配置したり又は傾けたりして、棚の視界に対する画像化を補正することができる。図17は、1つのオプションの光学システムの基本原理をより良く示すため、縮尺通りではない。複合レンズ又は他の光学セットアップを、追加的に使用できる。追加的に又は代替的に、ライトフィールドカメラ若しくはプレノプティックカメラに使用されるレンチキュラーレンズ若しくは代替レンズなどの他の光学システムの変形例、複数の有向カメラの使用、又は他の適切なカメラ及び/若しくは光学システムを、特定のターゲット用の画像データ収集の適合に使用することができる。
光学システムの多くの変形例を適用してもよく、以下のセクションでより詳細に説明する。
補助コンポーネント
カメラモジュール200は、追加の又は強化された検知若しくは機能を提供する際に使用される、他の補助コンポーネントを更に含むことができる。補助コンポーネントには、マイク、スピーカ、エリア照明、プロジェクタ、通信モジュール、測位システムモジュール、及び/又はその他の適切なコンポーネントが含まれてもよい。
1つの変形例では、カメラモジュール200は、分散音声感知アレイを作成できるようにマイクを含むことができる。音声感知は、異なる場所からの音声入力を識別、位置特定、収集する際に使用できる。例えば、マイクを有する監視ネットワーク100は、環境内の位置を判定するために、音を三角測量することができる。これは、CVベース追跡を容易にするために使用できる。或いは、これは、システムとの音声ベースの対話を可能にするのに使用できる。1つの変形例では、監視ネットワークを介して提供されるマイクアレイを使用して、店内音声インターフェースを容易にすることができる。例えば、顧客は、店舗内の任意の場所から音声コマンドを発行でき、これにより、検出された音声コマンドをそのコマンドを発行するユーザエンティティ又はアカウントに関連付けるために使用され得るCV駆動型アプリケーションと同期できる。1つの実装では、マイクアレイは、この参照によりその全体が本明細書に組み込まれている、2017年9月27日に出願された米国特許出願公開第17/717,753号で論じられているように、音声源に対する差動的位置特定、処理、修正、及び応答に使用されてもよい。
別の変形例では、カメラモジュール200は、音声出力を可能にするように機能し得る統合スピーカを含むことができる。1つの実装では、これにより、環境にわたって単に音声を再生するように使用してもよい。スピーカは、監視ネットワークにわたって個別に制御可能であることが好ましく、ターゲット化された音声を異なる領域で再生できる。自動ショッピングエクスペリエンスでは、これを、買い物客が店舗内で追跡されるときに、拡張音声エクスペリエンスの提供に使用できる。デバイスを構成又は保守するときのヒューマンコンピュータインターフェース出力として、スピーカを更に使用できる。例えば、カメラモジュール200は、カメラモジュール200がエラー状態になったときに、音声信号を再生するように設定することができる。
別の変形例では、カメラモジュール200は、一般的な照明を提供するように機能する照明システムを含むことができる。照明システムは、統合照明を含むことができる。統合照明は、LED照明、又はカメラモジュール200に組み込まれている他の適切な光源であり得る。或いは、照明システムは、外部照明を接続できるように照明器具のセットとすることができる。いくつかの変形例では、照明器具は、蛍光灯、LED照明、白熱灯、CFL照明などの従来の照明に給電するように設計され、システムによって設置及び給電することができる。統合照明システムは、照明システムとカメラシステムとを個別にセットアップする必要がないことにより、店舗のインフラストラクチャを最小限にすることを可能にできる。いくつかの例では、既存の照明をサポートし、任意選択的に給電するために使用される構造インフラストラクチャを、カメラモジュール200の固定及び/又は給電のために再利用することができる。統合照明にLED照明が含まれる場合、カメラモジュール200及び監視ネットワークを設置することにより、環境照明のアップグレード、並びに高度な監視及びCV駆動型アプリケーションの追加に役立つことができる。図19Aに示すように、筐体本体210は、照明システムの統合をサポートするように調整することができる。
或いは、カメラモジュール200は、既存の照明器具に取り付けることができるようなフォームファクタを有することができる。例えば、図19Cに示す「蛍光管」カメラモジュールのフォームファクタ、又は図19Bに示す「電球」のフォームファクタを、カメラモジュールを所定の位置に固定し、照明器具に挿入することによって給電できるように使用することができる。照明システムの統合により、カメラモジュール200が通常光のような光をなおも提供できるようになり得るが、カメラモジュール200の検知及び計算機能により強化することもでき得る。これらの変形例は、無線で通信するか、又は電気器具に挿入すると露出するネットワーク接続ポートを有してもよい。
照明は更に、システムによって動的且つ個別に制御できる。オン/オフ状態、明るさ、色、方向性、及び/又は他のプロパティを個別に制御できる。システムを介して提供されるCV駆動型機能と組み合わせて、環境内の観察オブジェクトに基づいて照明を自動的に調整することができる。1つの例示的なアプリケーションでは、夜間に店舗内で使用される省電力モード中に、環境内にいる人々(例えば、作業者など)の場所に基づいて、照明を自動的にオン及びオフにし、又は調光できる。
別の変形例では、カメラモジュール200は、構造化された照明を投影するように機能するプロジェクタシステムを含むことができる。プロジェクタシステムを使用して、画像を異なる場所に投影することができる。システムのカメラは、様々なアプリケーションで使用できるCV駆動型センシング入力として使用することが好ましく、プロジェクタシステムは、カメラからの計算入力を補完するシステム出力として使用できる。プロジェクタは個別に制御でき、同様に、CV駆動型アプリケーションと組み合わせて使用できる。
別の変形例では、カメラモジュール200は、環境内の通信又はデータネットワークを容易にするように機能する通信モジュールを含むことができる。通信モジュールは、環境内で無線インターネットを提供するために使用されるWiFiルーターであり得る。或いは、通信モジュールは、Bluetoothビーコン又は他のアプリケーションに使用されるBluetoothモジュールとすることができる。任意の適切なタイプの通信モジュールをカメラモジュール又はモジュールの一部に統合して、環境内に無線通信チャネルを提供することができる。
関連する変形例では、カメラモジュールは、環境内のローカルな配置のための機構として作用するように機能する配置システムを含んでもよい。例えば、RFベース測位システムを使用して、環境内のRFIDタグを追跡できる。
環境条件センサ(例えば、煙探知器、CO2モニタ、温度、湿度、大気質など)、又は異なる機能のための他のコンポーネントなど、他の代替的なセンサ及びデバイスを追加的に含むことができる。
1つの変形例では、カメラモジュール200のコンポーネントは、運用上の冗長性のために構築及び設計することができる。デイジーチェーン接続の変形例では、システムは、たとえ1つのカメラモジュール200が故障した場合でも、カメラモジュール200の動作を維持できることが好ましい。計算及び通信の冗長性により、たとえ1つのセグメントに障害が生じた場合でも、相互接続された一連のカメラモジュールは動作を継続でき得る。1つの好ましい実施形態では、カメラモジュール200は、冗長電力及び/又は冗長ネットワーク接続を有することが好ましい。電力制御システムは、冗長電力を管理してもよい。ネットワークスイッチ又はハブは、冗長ネットワーク接続を調整してもよい。
1つの実装では、カメラモジュール200は、デイジーチェーン接続のための各端部上のコネクタ、T及びX形状を形成するための各端部上の第2のコネクタ、及び冗長性のためのコネクタの各ペアの第2のセット(ここでは全部で8個のコネクタ)を含むことができる。ペア群のペアはそれぞれ、ネットワーク(例えば、図20に示すネット-A及びネット-B)に収集され得る。ネット-Aを構成する4つの接続は、ネット-Bを構成する接続のように、共通のハブに接続される。次いで、ハブ-A及びハブ-Bは、CPUに接続するハブ-Cに順番に接続される。CPUは、カメラのアレイに接続する。この構成は、任意の単一のコネクタ、又はハブ-A若しくはハブ-Bのいずれかの障害に対して、完全に堅牢であり得る。更に、ハブ-C又はCPUに障害が生じた場合、システム内の他のカメラモジュールへの接続は維持される。
更に強化された代替的な実装では、第2のCPUが追加され、図21に示すように、2つのCPUの各々に、カメラ要素の2分の1の管理上の権限が与えられる。この実装では、ハブ又はCPUのいずれかに障害が生じた場合、カメラの半分が動作を停止することになる。カメラモジュール200及び/又はネットワークの構成は、カメラカバレッジの冗長性がいくつかのカメラ障害を処理するのに足りる、かなりの十分なカメラ密度を有することが好ましい。この第2の実装は、CPU-B&ハブ-A、及びCPU-A&ハブ-Bの接続を追加することによって更に強化することができる。
加えて、カメラモジュール200は、システムが生きていて動作している間にカメラモジュール200をシステムから安全に切断又は接続できるように、ホットスワップ制御システムを含むことができる。ホットスワップ制御システムは更に、短絡及び過電流障害からの継続的な保護を提供できる。ホットスワップ制御システムにより、システムに電力ダウンを要求することなく、システムへのハードウェアの更新及び修正の実行を可能にすることができる。一例として、カメラモジュール200は、交換する必要がある問題に遭遇する場合がある。メンテナンス作業者は、カメラモジュール周辺のネットワーク及び/又は電力接続を再配線でき(例えば、冗長電力又はネットワーク接続を、後続のカメラモジュール又は計画された交換品とスワップする)、したがって問題を引き起こしているカメラモジュールを取り外せる。それから、ネットワーク及び/又は電力接続を再配線することにより、交換用カメラモジュールを接続用に整え、次いで監視ネットワーク100にスワップすることができる。
計算コンポーネント
カメラモジュール200は、ローカル処理の実行、カメラモジュール200の状態管理、及び/又は監視ネットワーク、他のシステム要素、若しくはリモートリソースとのインターフェースに使用される計算コンポーネントのセットを含むことが好ましい。
計算コンポーネントは、処理用のコンポーネントのサブセットを含むことが好ましい。処理コンポーネントは、カメラモジュール200の動作状態及び他の動作を管理することができる。1つの好ましい変形例では、カメラモジュールは、収集されたビデオデータのローカル処理を実行するように構成された少なくとも1つの処理ユニットを含む。1つの態様として、処理コンポーネントは、カメラからの画像データを、システムの他のリソースとのデジタル通信のためのフォーマットにトランスコード又は変換するように機能することが好ましい。処理コンポーネントは、汎用処理ユニット、グラフィカル処理ユニット(GPU)などの専用処理ユニット、専用コンピュータビジョン若しくはディープラーニングプロセッサ、及び/又は任意の適切な処理コンポーネントを含むことができる。
1つの変形例では、処理コンポーネントで実行される処理は、生画像データをMPEGビデオフォーマットなどの圧縮メディアフォーマットに変換することを含んでもよい。別の変形例では、画像データは、時に、生画像データからメタデータ表現に変換されてもよく、CV分析が画像データから情報を抽出する。メタデータ及び/又はデジタルメディアフォーマットは、他のカメラモジュール及び/又はシステムコンポーネントに通信されてもよい。
1つの変形例では、カメラモジュール200は、ビデオデータのローカル処理の結果に基づいて、ビデオデータを選択的に通信するように構成されてもよい。メディア変換は、メタデータの「情報品質」に従って動的に設定されてもよい。変換中の結果であるメディアフォーマットの「メディア品質」は、「情報品質」に基づいて間接的に設定されてもよい。例えば、メディアが高レベルの信頼性でメタデータ表現に変換される場合、データストレージ又は帯域幅を節約するためにメディアフォーマットを低減することができる。一例として、動きが検出されない場合、人がいない場合、及び/又は他の適切な条件が満たされる場合、ビデオメディアは保存又は通信されない場合がある。
カメラモジュール200は、処理ユニット、GPU、又は各カメラ用の他の計算要素を含み得るが、代わりに、それらがカメラ間で共有されてもよい。
計算コンポーネントは、ネットワークハブ又はスイッチであり得る、通信制御システムを更に含むことができる。ネットワークスイッチは、カメラハブの内外で、ネットワーク設定及び/又は通信を容易にするように機能する。通信は、カメラモジュール200の接続ポートへの有線接続を介して実行されることが好ましいが、追加的又は代替的に、無線通信が使用されてもよい。内部又は外部のDHCPを使用して、ネットワーク構成を監視ネットワーク100の様々なコンポーネントに配置することができる。ネットワークスイッチは、複数のプロセッサが存在する場合にDHCPを内部で実行するように構成されたネットワークルータであることが好ましく、カメラルータがネットワーク観点から自己構築できるように、IPアドレスの割り当てを、システムのマスタールータによって内部的に管理することができる。図2に示すように、監視ネットワークのカメラは、そのような一連のネットワークスイッチにわたってグループ化されてもよい。1つの変形例では、ネットワークスイッチは、スパニングツリープロトコル(STP)、又はより好ましくは高速スパニングツリープロトコル(RSTP)の形式を実装できる。他の適切なネットワークプロトコルも、同様に実装できる。
カメラモジュール200の計算コンポーネントは更に、媒体及び/又はデータの保存に使用できる、オンボードデータストレージ/メモリソリューションを含むことができる。データストレージソリューションは、ハードドライブ、ソリッドステートドライブ、及び/又は任意の適切なタイプのデータストレージソリューションであり得る。データストレージソリューションは、カメラハブからのメディア及び/又はデータの一時的な保管場所として使用することができる。潜在的な長期関連性のため、データストレージが優先されてもよい。
計算コンポーネントは、オンボードメモリ、データポート、又は他のコンポーネントなど、他の一般的なコンポーネントを含むことができる。カメラモジュール200は、以下で説明するような様々なユーザインターフェース要素を更に含むことができる。
ユーザインターフェース要素
カメラモジュール200は、構成を簡素化するように設計されることが好ましく、通常の使用中に、カメラモジュール200との直接の相互作用が必要でなくてもよい。しかしながら、カメラモジュール200は、情報を出力するか、又はカメラモジュール200の直接制御を可能にするかのいずれかのためのユーザインターフェース要素を含んでもよい。ユーザインターフェース要素には、ボタン又はユーザの物理デバイス入力要素、ディスプレイ、インジケータライト、音声信号用スピーカなどの基本要素が含まれてもよい。
1つの好ましい変形例では、カメラモジュール200は、二次デバイスを介してカメラモジュール200の接続制御を可能にすることができる制御チャネル機構を含むことができる。制御チャネル機構は、手動制御が必要となるまれな状況に対してカメラモジュールが追加のコンポーネントで構築されるのを緩和するように機能することができる。制御及び構成は、カメラモジュール200のネットワーク接続を介しても実行できることが好ましい。パーソナルコンピュータ、スマートフォン、タブレットなどは、カメラモジュール200に接続でき、個々のカメラモジュール200とインターフェースするための媒体として使用できる。物理的接続は、カメラモジュール200へのネットワーク接続が稼働していないか、又は利用できない状況で使用できる。ユーザは、カメラモジュール200に直接接続して、診断を収集し、データへアクセスし、構成を更新し、デバイスを制御し、及び/又はカメラモジュール200と相互作用することができる。制御チャネル接続は、有線コネクタ(例えば、直列ポート、RJ-45、若しくはUSB接続)などのケーブル、カメラモジュール200によって確立されたBluetooth若しくはWi-Fiネットワークなどの無線接続、又は任意の適切な通信チャネルを介して行うことができる。1つの変形例では、カメラモジュール200のカメラは、カメラモジュール200へのデータ入力チャネルとして使用されてもよい。例えば、スマートフォンアプリは、構成を設定することを可能にし、次いで、エンコードされたメッセージを、ディスプレイ又はカメラのライトを介してカメラモジュール200に視覚的に伝達することができる。カメラモジュール200からの出力が、インジケータライト又は他の適切なフィードバック機構を介して示されてもよい。
接続ポート及び接続
接続ポート230は、一連のカメラモジュール200の直列接続を利用することによって、カメラモジュールの配線を容易にするように機能する。好ましくは、カメラモジュールが電力及び/又はネットワーク接続リレーとして作用できるように機能する2つの接続ポートがあり、ここで、入力電力又はネットワーク接続が1つの接続ポート230から受信され、カメラモジュールによって利用され、少なくとも第2の接続ポート230に中継される。これは、図22に示すカメラモジュール200の直列接続に使用できる。更に、3つ、4つ、又は、任意の適切な数の接続ポート230があってもよく、図23に示すように、追加の接続ポート230は、電力及び/又はネットワーク接続の(例えば、T又はX分岐を作成する)分岐配信に使用できる。カメラモジュール200の異なる接続ポート230は、実質的に同じであることが好ましい。接続ポート230はまた、任意の接続ポート230が電力及び/又はネットワーク接続の入力又は出力(すなわち、給電又は中継)として使用され得る無指向性であってもよい。例えば、カメラモジュール200が接続される方向は、違いを生じ得ない。或いは、方向性をカメラモジュールの設計に組み込んでもよい。
一例として、(高度な設置の複雑さを伴い得る)店舗を監視するための100~1000個の異なるデバイスへの給電及びネットワーク回線を処理する代わりに、カメラモジュールの1~25の「チェーン」を店舗の監視に使用できる。監視ネットワーク100の一部であるカメラモジュールのセットは、有線接続を介して相互接続されることが好ましい。有線接続は、電力及び/又はデータ通信を提供するために、カメラモジュールを電気的に結合するのに使用されることが好ましい。カメラモジュール200は、カメラモジュールのチェーンを接続できるように、少なくとも2つの接続ポート230を含むことが好ましい。図24のカメラモジュール200の端部面図に示すように、各接続ポート230は、カメラモジュール200の片側に露出されてもよい。第1の接続ポート230は、好ましくは、電力及び/又はネットワーク接続を提供するように機能し、一方、第2の接続ポート230は、電力への接続及び/又は後続のカメラモジュールへのネットワークアクセスを伝えるように機能する。カメラモジュール200は、電力及び/又はネットワーク接続が接続ポート230に依存しないように設計してもよい。例えば、カメラモジュールレールは、任意の適切な方向で一連のカメラモジュールに接続できる。いくつかの変形例では、カメラモジュール200は、カメラモジュールのチェーンが異なる方向に分岐できるように、少なくとも3つの接続ポート230を含んでもよい。
1つの好ましい変形例では、各接続ポート230は、電力接続ポート232と通信接続ポート234との両方を含む。電力接続ポート232は、接続されたカメラモジュールのネットワークにわたって、接続された電力供給ネットワークを形成するように機能する。通信接続ポート234は、環境内に取り付けられたカメラのセットにわたって通信ネットワークを形成するように機能する。
1つの代替的な変形例として、接続ポート230は、電力接続ポート232を含んでもよく、通信を無線で又は別の方法で容易にすることができる。別の代替的な変形例として、接続ポート230は、通信接続ポート234のみを含んでもよく、電力を別の方法で容易にすることができる(例えば、別個の電力コードを有して)。説明された変形例では、冗長若しくは二次電力接続ポート及び/又は通信接続ポートがあってもよい。冗長接続は、本質的に冗長又はフェールオーバではない場合があるが、ポートの使用が同様に優先順位付けされるか、又は代替的な方法で選択される場合に設計することができる。或いは、何らかのイベントが二次/冗長ポートの使用をトリガしない限り、接続ポートの1つが一次ポートとして使用されてもよい。図22に示すように、1つの好ましい変形例では、DC電力接続を接続する2つの電力接続ポート232と、2つのネットワークケーブル接続を接続する2つの通信接続ポート134とを有することができる。
複数の別個のケーブルは、接続ポート230に接続できる。或いは、統合ケーブルを使用して接続ポート230に接続し、それによって1つ以上の電力接続ポート及び/又は通信接続ポートを接続することができる。1つの実装では、有線接続はパワーオーバーイーサネット(PoE)ポートとすることができる。或いは、有線接続は、USBポート(例えば、USB電力供給接続用の)又は任意の適切な有線コネクタとすることができる。別の変形例では、電力とネットワーク接続とをバンドルするカスタムケーブルタイプを使用できる。
電力接続ポート232については、カメラモジュール200は、好ましくは、カメラモジュールのコンポーネントに供給される電力を調整又は管理するように機能する電力制御システムを含む。電力制御システムは、接続ポート間で、電力供給を中継し、又は通過させるように更に機能する。例えば、第1の電力接続ポート232を介して受け取られた60VDC電源は、電力制御システム(例えば、電力管理回路)を介して少なくとも第2の電力接続ポート232に中継される。第2の電力接続ポート232に接続された別のカメラモジュールは、その接続を介して電力を受け取ることができる。電力制御システムは、カメラモジュールのコンポーネント、又はより具体的にはカメラサブシステムユニット202のコンポーネントを駆動するために、電圧を1つ以上の所望の電圧レベルにステップダウンすることが好ましい。加えて、カメラモジュールがチェーンカメラモジュール200の開始領域にある場合、カメラモジュール200又はカメラサブシステムユニット202は、十分な電流負荷を処理するように設計することができる。例えば、カメラモジュール及び/又はカメラサブシステムユニット202の電力システムは、接続ポート230間で電流を搬送する大電流容量チャンネルを含むことができる。
冗長電力接続ポート232を使用すると、電力制御システムは更に、電力接続選択システムを含むことができる。電力接続選択システム(すなわち、電力スイッチシステム)は、使用する電力接続の少なくとも1つを適切に選択するように機能できる。障害又は電流及び/若しくは電圧の低下が生じた場合、電力接続選択システムは、通電中の電力接続の使用に移行する。電力接続選択システムは、設定された電力閾値に基づいて自動的に変化する静的回路設計を介して実装できる。或いは、電力接続選択システムは、電力接続の選択をアクティブに感知及び制御することができる。この変形例では、通信接続ポートの使用を、リモートで監視及び/又は制御することができる。
これに関連して、電力制御システムは、システムの実行中にカメラモジュール及び/又はカメラサブシステムユニット202の追加又は除去を管理するために、本明細書で説明するホットスワップコントローラを含むことができる。
追加的又は代替的に、別個の電力ポートを、カメラモジュール200に含むことができる。1つの変形例では、カメラモジュール200は、直列接続で使用される電力接続ポート230の代わりに使用できる補助電力ポートを含むことができる。いくつかの場合では、監視ネットワーク100の分岐又はセグメントは、通信接続の電力制限を超えることができるので、電力供給を補うために補助電力接続を使用することができる。同様に、ネットワーク接続が直列に沿って連続し得るように、電力接続ポート232を異なる電源に接続することができるが、図3に示すように、複数の電源を使用して、一連のカメラモジュール200のサブ領域中に電力を供給する。
通信接続ポート234については、カメラモジュール200は、有線ネットワーク接続を上述の通信制御システムに接続することが好ましい。通信制御システムは、カメラモジュールインスタンスの少なくとも1つのカメラから収集されたデータのデータ通信を調整するように構成されることが好ましい。データ通信は双方向に行え、任意の適切な通信プロトコルを使用できる。通信接続ポート234は、RJ45コネクタを有するイーサネット接続ポートであってもよい。通信されるデータには、ビデオメディアデータ、CV派生メタデータ、カメラモジュールの動作パラメータ、カメラモジュールに中継されるコマンド若しくはデータ、ソフトウェア/ファームウェア更新、及び/又は他の適切なデータ形式を含むことができる。
1つの実装では、カメラサブシステムユニット202は更に、図14A及び図14Bに示すように、カメラモジュール200上に露出する接続ポート230に接続でき、且つ、他のカメラサブシステムユニット202に接続できるように、ユニット接続ポート236を含むことができる。
システムは、カメラモジュールと統合するか、カメラモジュールと組み合わせて使用できる、配線管理機構を更に含んでもよい。配線管理機構は、複数のカメラモジュールを接続する際に配線管理を容易にするように機能する。1つの変形例では、配線管理機構は、余分な配線を保持及び格納するために使用できる静的構造にすることができる。配線管理機構は、図25に示すように、配線が接続ポートにおいて接続する場所の近くに、配線の小さなコイルを保持することが好ましい。配線管理機構は、コネクタの近くの配線へのストレスを軽減するように、更に機能することができる。別の実装では、システムは、カメラモジュール200に接続できる、バネ仕掛けの又は手動で巻き付けられたワイヤコイルを有する、伸縮可能な配線カートリッジを含む。好ましくは、接続している誰かが有線接続をカバーするのに最小限十分なカートリッジを選択できるように、異なる配線長を有するカートリッジのセットが提供されてもよい。余分な配線は、カートリッジ本体内に保管できる。
ローカル及びリモート計算システム
カメラモジュール200及び監視ネットワークを形成するための接続に加えて、システムは一般に、1つ以上の電源及び計算システムを含むか、それらとインターフェースする。電源は、カメラモジュールに給電するための電流を供給する電源であり得る。計算システムは、中央オンプレミス計算リソースとして機能するローカル計算システムを含んでもよい。ローカル計算システムは、単一のマスターシステムであり得るが、代わりに、連携して動作する複数のオンプレミス計算リソースとすることもできる。ローカル計算システムは、大容量メディアストレージ、及びより集中的な計算機能を容易にすることができる。重要な計算能力に依存する操作は、オンプレミス計算リソースに委任できる。ローカル計算システムは、カメラモジュールのネットワークを更に管理できる。追加的に又は代替的に、システムは、クラウドホスト計算リソースとして機能するリモートコンピュータリソースを含むことができる。リモート計算リソースは、異なる環境間でのデータ共有、コンピュータビジョン及びマシンインテリジェンスの強化、複数サイトのリモート監視、及び/又は他の機能を容易にすることができる。代替的な実装では、中央計算リソースに依存することなく、カメラモジュールを完全に分散した方法で動作させることができる。
3.方法
システムは、システムの様々な機能を容易にするいくつかの動作モードを含むことが好ましい。これらの機能は、新しい環境でのシステムのセットアップ、新しい環境でのシステムの運用、及び新しいシステムの保守など、システムの様々な様相に対処するように機能する。特に、システムの様々な動作プロセスを適用して、監視ネットワークを自動的に較正し、環境内の監視ネットワーク100のカメラトポロジを較正し、監視ネットワーク内の監視ネットワークにわたってメディアを管理することができる。
通信ネットワークの自動較正
監視ネットワークの通信ネットワークを自動的に較正する方法は、新しいカメラモジュールの登録を効率的な合理化されたプロセスにするように機能する。監視ネットワークは、自己構築され、変化に適応できることが好ましい。新たなカメラモジュール200の追加、カメラモジュール200の除去、及び/又はカメラモジュールの再構成は全て、IPアドレスの自動再割り当てをトリガできる。上述のように、カメラモジュール内のスイッチは、内部又は外部のDHCPを使用して、監視ネットワークの様々なコンポーネントにネットワーク構成を分配することができる。
カメラトポロジの較正
監視ネットワークのカメラトポロジを較正する方法は、カメラの相対的な方向と位置を、少なくともほぼ判定できるように機能する。カメラは、他のカメラへの近接、重複する視野、及び/又は観察可能な視野の相対的な位置を、自動的に検出することができる。複数のカメラにわたる被写体のCVベース追跡は、相対的な位置と方向の判定に使用できる。ネットワークトポロジの検出が、更に使用できる。
カメラトポロジの較正には、カメラの視野を環境の絶対位置に較正することを含むことができ、それによって環境内の位置をカメラの観察可能な位置にマッピングするように機能する。1つの実装では、較正ビーコンを環境内で移動することができる。ビーコンは、その絶対位置(例えば、ビルの内部に対するGPS座標又は位置座標)を記録することが好ましい。ビーコンは更に、ビーコンを視覚的に観察するカメラに絶対位置を関連付けることができるように、視覚的に観察可能なマーカを送信又は表示する。
カメラトポロジの較正を拡張して、環境トポロジの生成を含むことができる。システムがオブジェクト分類機能を含む変形例では、アイテム、人々、構造、及び/又は他の機能の位置を判定することができる。環境トポロジの例示的なアプリケーションとして。店舗は販売アイテムのプラノグラムを生成でき、そのプラノグラムは実質的にリアルタイムで更新することができる。
加えて、監視ネットワークのカメラトポロジの較正は、カメラトポロジの健全性に関するレポートを含むことができる。カメラトポロジの健全性に関するレポートは、カバレッジ内の穴(例えば、カメラに可視性がない場所)の検出を含むことができる。カメラトポロジの健全性のレポートは更に、特定の場所における不要なカメラ冗長性の検出を含むことができる。
監視ネットワーク内のメディア管理
分散CVベースの処理機能中に、監視ネットワーク内のメディアを管理して、データ通信及び計算プロセスを増強するための方法。1つの目的として、メディア管理のための方法は、情報の長期的な分析を実行できるように、観察データを保存することが好ましい。観察データの保存により、観察を様々な形式で保存又は表示することができ得る。
ローカル計算システムにおいてトランクを有するツリー状のネットワークとして、監視ネットワークは、ローカル計算システムへの接続を有することが好ましい。分散CV処理を使用して、通信されるメディアの量を低減することができる。加えて、メディアをローカルに保存することで、異なるカメラモジュールからオンデマンドでメディアを要求することを可能にすることができる。メディアの管理には、メディア表現の通信を動的に階層化することが含まれるのが好ましい。メディア表現は、様々なメディア及びフォーマットのメディアファイルとすることができるが、追加的に又は代替的に、メタデータ記述を含むことができる。通信の階層化は、カメラの優先順位付けに基づいて行うことができる。カメラの優先順位付けは、画像データの処理(例えば、変化の検出、又は人の存在の検出)、近くのカメラからの方向(例えば、カメラ間の被写体追跡のための)、又は他のリソースからの方向(例えば、ローカル処理システムの優先度、又は何らかの状態変化に基づくカメラの優先度下げ)によって、影響を受け得る。
媒体表現の動的階層化通信の1つの実装には、シーン変更(例えば、モーション)時に画像データを更新することと、CV処理の信頼性が低い場合に、高品質のメディアデータを通信することと、CV処理の信頼度が中程度の場合に、品質が低下したメディアデータを補助メタデータを用いて通信することと、CV処理の信頼性が高い場合に、メタデータのみの表現を通信することと、を含むことができる。ここで、CV処理の信頼閾値が例示的な条件として使用されているが、代替的又は追加的な条件も使用できる。
同様の階層化はまた、監視ネットワークの異なる場所における観察データのストレージに適用できる。例えば、カメラモジュールは、記憶するデータのフォーマットを変更して適応することによって、そのストレージ容量を増やすことができる。
4.光学強化のためのシステム及び方法
ユビキタスビデオ監視の光学強化のためのシステム及び方法300は、メディア、特にビデオ及び静止画像を収集するために、カメラのネットワークを効率的に設置及び動作できるように機能する。
システム及び方法300は、光学システムのセットを適用して、環境の別個の領域の光学画像化を調整された方法で変更することが好ましい。好ましくは、システム及び方法300は、画像との作業周りの集合的な目標に従って異なるターゲット領域が光学的に変更される環境で、1つ以上のターゲット領域に対する画像データを収集することができる。第1の好ましいターゲット領域は、店舗内のような様々なアイテムを保持し得る、棚の表面である。第2のターゲット領域は、顧客が環境内で移動し相互作用する歩行空間であり得る。他のターゲット領域には、カウンタ、テーブル、ビン、POSキオスクのコンベヤベルト、縦型コンピュータキオスクなどがあり得る。
いくつかの変形例では、システム及び方法300は、複数のカメラを用いて大きな構造又は領域を監視するために使用される。例えば、棚の表面は、複数のカメラで監視され得る。複数のカメラで使用される補正光学システム320は、この領域を監視する機能への制御を強化できる。補正歪み及び/又は焦点面調整は、特定のシナリオに対して調整できる2つの例示的な要因である。これは、カメラが棚の上方に取り付けられている場合に特に関連があり得る。
追加的に又は代替的に、光学システムのセットを有するカメラを使用して、シングルカメラユニットから別個の焦点面を作成してもよい。例えば、図26に示すように、食料品店の通路の上方に取り付けられたシングルカメラは、棚の画像化用に補正された第1焦点面、並びに通路の床を横切って移動している人々及びアイテム用に補正された第2焦点面を有してもよい。
システムは、主にビデオデータの収集について説明されている。本明細書で使用される「ビデオ」は、NTSC、PLA、MPEG、4Kなどの一般的なビデオフォーマットを意味する場合がある。ビデオはまた、経時的な場所が単調な、個々の静止画像のシーケンスを意味する場合がある。同様に、それらの画像は、Raw、JPG、PDF、GIF、BMP、HEIF、HEVC、WebP、及び/又は他の適切なメディアフォーマットを含む、広範なフォーマットであってもよい。
システムは更に、シングルカメラに適用でき、更に代わりに、他の形式の画像検知に適用できる。
上記のように、システム及び方法300は、環境にわたるユビキタス監視のために設計されたシステムにおいて、特定のアプリケーションを有してもよい。
システム及び方法300は更に、ビデオ若しくは画像の監視又はキャプチャシステムのみに、一般的な適用性を有することができる。例えば、システム及び方法300を使用して、カメラシステムが、任意の適切なタイプのアプリケーションのために定期的に商品の棚の画像を効率的に撮ることができるようにすることができる。
システム及び方法300は、店舗における一般的な状況であるように、棚又は垂直に配置されたアイテムを画像化する特定のアプリケーションを有する。より具体的には、システム及び方法300は、カメラがターゲット領域の上方に空中視点で取り付けられるときに一般的であるようなオフアングル視点から、棚、棚上のアイテム、又は他のターゲット領域をキャプチャしながら、画像化を強化するために使用することができる。他のシナリオ又はターゲットの被写体を代わりに使用することもできるが、ここでは主な例として棚のユースケースを使用する。
1つの潜在的な利点として、システム及び方法300は、改善された焦点及び/又は歪み効果を有するカメラシステムを生成することができる。多くの商業環境では、カメラシステムは関心のある領域の上方、又は環境の邪魔にならない他の領域に配置される。そのため、ビデオ監視の対象領域が、カメラシステムのセンサ面に非平行な面に沿うことがしばしば生じる。天井に取り付けられたカメラシステムからの棚の画像化は、そのような例の1つである。棚に積み重ねられたアイテムの焦点は、通常、異なるレベルの焦点を有する持つ場合がある。システム及び方法300は、棚又は他のターゲット領域の面により接近して整列するように焦点面を補正してもよい。棚面又は他のターゲット領域のキーストーン歪みは更に、従来のアプローチで通常発生する。システム及び方法300は、棚面のようなターゲット領域に対する透視歪みを低減することができる。これにより、棚面にわたってピクセル密度を均一に、又は少なくともより均一にすることができる。
関連する潜在的な利点として、ターゲット領域の画像化がより均一な方法で制御されるように、構成された配置を用いて複数のカメラにわたって透視補正を適用してもよい。(例えば、台形及び/又は三角形の重なり領域として現れる)棚画像のキーストンオーバーラップがある棚画像をキャプチャするカメラの配置とは対照的に、システム及び方法300は、図18B、18C、及び18Dに示すように、ターゲット領域のより平行な画像化に基づいてカメラの配置が設定できるように、歪みを低減又は補正することができる。結果として、オーバーラップから生じるカメラカバレッジ(例えば、オーバーラップの長方形領域)はより均一である。カメラカバレッジは、これによって、100%カバレッジ、200%カバレッジ、300%カバレッジ、又は他の適切なカバレッジ形式などの望ましいカバレッジタイプに基づいて修正することができる。
別の潜在的な利点として、システム及び方法300は、個々のカメラが別個のターゲット領域のカスタマイズされた画像化を有することを可能にすることができ、焦点面及び/又は歪み補正が画像面の少なくとも1つの領域に適用される。これにより、人々の追跡用にカスタマイズされた焦点距離で地上領域を監視できている間に、透視補正及び焦点面アライメントを用いて棚を監視できる状況で使用することができる。
上記及び下記で説明する変形例では、システム及び方法300は、店舗内の特定のシナリオを監視するために光学システムがカスタマイズされる場合に、カメラのより効率的な使用という追加の利点を有し得る。環境、特に店舗などの大規模な環境にわたってユビキタス画像化システムを展開する場合、スペースを適切に観察するためのカメラ及びデバイスの数が多数になり得る。カメラ効率は、物理的なコンポーネントのコストを削減し、並びに処理及びストレージのデータ量を削減する際に、重要であり得る。そのため、より効率的なカメラカバレッジ、より良いカメラカバレッジアライメント、ターゲット領域の被写体のより均一なピクセル密度、並びにシステム及び方法300の光学システムに一部起因する他の要因は全て、カメラ数を削減するように機能し得る。
一例として、光学的強化を使用するシステムは、カメラの数を25%~50%削減することができ、これにより、処理、データストレージ、筐体のサイズ/複雑さ、データ及び電力接続のフットプリントがより小さいカメラを駆動するための物理的な計算リソースを節約する。
好ましい実施形態のユビキタスビデオ監視の光学的強化のためのシステムは、異なる領域の協調的監視のために光学画像化をカスタマイズするように構成された光学システムのセットを含むことが好ましい。1つの変形例では、異なる領域は、関心のある1つの連続した被写体のサブ領域であってもよい。別の変形例では、棚及び地面のような異なる領域は、異なる予測を有し得る。
システムは主に、CV駆動型アプリケーションの課題にカスタマイズされた方法で、異なる領域からの画像データの収集を調整するように機能してもよい。特に、システムは、食料品店、コンビニエンスショップ、又はカメラのイメージセンサに平行ではない画定された平面に沿って並べられたアイテムの棚がある他の適切なタイプの店舗などの、商業施設内での画像化に対するアプリケーションを有する。システムは、マルチカメラ変形例及びスプリットビュー変形例を含み、これらは個別に又は組み合わせて使用できることが好ましい。
マルチカメラ変形例
第1の好ましい変形例では、図17に示すように、システムは、好ましくは、カメラ310のセットを含み、カメラは相対的なカメラ配置で構成されており、各カメラは、少なくとも1つの補正光学システム320を含む。マルチカメラの変形例では、カメラ310にわたってキャプチャされた画像の関係を把握するために、カメラによる画像化の光学的修正を調整するように機能する。例えば、マルチカメラ変形例では、上述の監視ネットワーク及び/又はカメラモジュールと組み合わせて使用すると、特定のアプリケーションを有することができる。環境にわたる関心対象の画像又はビデオのキャプチャは、より高いレベルのカメラ使用効率で実現できる。例えば、より少ない数のカメラで、棚のより広い領域を監視できる。
変形例は、複数のカメラを使用する軸外カメラシステムから、構造の高解像度ビデオ監視を実行するように機能できる。この変形例は、棚の高さよりも上方に取り付けられたカメラから監視したときに、棚などのカメラに非平行な面を有する長い連続構造の画像をキャプチャすることに対して特に利点がある。このシステムの変形例を介して、ターゲット領域(例えば、棚面)にわたって実質的に均一な画像解像度で、長い棚面を監視することができる。例えば、透視補正後の棚の底部にある被写体のピクセル密度を、最上部の棚にある被写体のピクセル密度とほぼ同じにすることができる。より具体的には、この変形例は、ターゲット領域にわたって実質的に均一な画像解像度で、棚面のようなターゲット領域のビデオ監視を実行することができる。
マルチカメラ変形例は更に、他のカメラアレイアプリケーションでより広範なアプリケーションを有してもよい。ここで、マルチカメラ変形例は、主に、商業空間内での画像化、及び、特に、棚面の前面及び棚面の上方(又は棚面上の関心領域)で水平方向に変位したカメラ位置から棚を監視するアプリケーションに対処する。それらに説明されているような他の適切なシナリオでは、代わりにこのマルチカメラの変形例を使用することができる。
カメラ310は、環境の画像をキャプチャするように機能する。カメラ310は、少なくともカメラセンサを含むことが好ましい。1つの変形例では、カメラ310は、単一の接続された構造に統合されてもよい。1つの実装として、カメラ310のセットは、上述のように、カメラペアとして時にグループ化されるカメラモジュールに統合されてもよい。更に、複数のカメラモジュール及び/又は他のマルチカメラデバイスは、カメラ310のセットが組み合わせて動作する複数の別個のデバイスを含むように、整列し、接続し、又は配置することができる。したがって、別の実装では、システムは、上述のように相互接続されたカメラモジュールの監視ネットワークを含んでもよく、各カメラモジュールは、カメラのセットからの別個のカメラのサブセットを構成する。
1つの好ましい配置として、カメラのセットは、(期待されるカメラ取り付け構成に対して)対応する角度方向で配置される。カメラのセットは、同一平面上の配置で、画定されたセンサ面に向けられてもよい。より具体的には、カメラの画定されたセンサ面は、いくつかの期待される許容範囲内で同一平面上にあり得る。例えば、カメラの列を列に沿って取り付け、棚の異なる位置に向かって同じ概略方向に向けてもよい。別の変形例では、カメラの配置は、円弧又は任意の経路のようないくつかの経路に沿った接線角度方向を有するカメラであるようにすることができる。例えば、カメラのリングが円形の棚を囲んでもよい。
ビデオ又は画像データは、カメラ310のセットから収集され、中央処理システムに通信されることが好ましい。
補正光学システム320は、環境の画像化を変更又は変換するように機能する。変換は、環境内の目的に合わせてカスタマイズすることが好ましい。この変換には、透視補正、焦点面調整、焦点距離の設定、及び/又は他の適切な視野調整が含まれてもよい。
棚を監視する場合では、補正光学システム320は、透視補正で構成されることが好ましい。棚面の上方のカメラでキャプチャされる際の棚は、遠近歪みと共にキャプチャされることになり、その結果、棚の最上部はピクセル密度解像度が大きくなり(例えば、より大きく表示され)、棚の底部はピクセル密度解像度が低くなる(例えば、より小さく表示される)。
補正光学システム320は、透視補正光学システムとすることができる。1つの実装では、透視補正光学システムは、シフトレンズ光学システム、又はより好ましくはチルトシフトレンズ光学システムであり得る。レンズのシフト及び/又はチルトは、通常の歪みを打ち消し得る補正歪みを生成することができる。これは、単一レンズ光学システムであってもよいが、代わりに多段光学システムを含んでもよい。棚のキャプチャ画像は、図8Dに示すように、キーストーンを低減することで、より好ましくは、図18Bに示すように、実質的にキーストーンを除去(例えば、棚の垂直エッジが5度以内で平行に)することで補正できる。透視補正は、様々な状況に対して調整できる。例えば、アイテムの長いビンを監視する場合、透視補正光学システムは、ビンの水平面のキーストーンに対して補正できる。講堂の座席など、非垂直(例えば、重力で定義された方向)の角度にある領域を監視する場合、斜めに整列された表面に対して透視補正を同様に適用できる。
透視補正を介して提供される一連の強化として、透視変換を、棚面のようなターゲット被写体の透視歪みを低減するように構成することができる。棚面の場合、結果として得られる棚面のキャプチャ画像の画定された垂直側面は、垂直から2度未満の角度になる。しかし、任意の適切なレベルの修正が、代わりに使用されてもよい。
同様に、棚(又はターゲット領域)の画像解像度が透視補正の結果として変更され、ターゲット被写体にわたって画像解像度の均一性を向上することができる。例えば、図18Bのキャプチャ画像は、最上部の棚の被写体と比較して、同様のピクセル密度で画像化された底部の棚における被写体を有することになる。
補正光学システム320、及び、より具体的には少なくとも透視補正光学システムを使用する1つの潜在的な利点は、棚面又は他の適切なターゲット領域のカメラカバレッジをより良く管理できることであり得る。透視補正光学システムが配置されたカメラのセットにわたって適用される場合、隣接するオーバーラップが光学補正システムとカメラ配置との調整を介して制御されるように画像面を変換できる。より具体的には、チルトシフト光学システムは、少なくとも透視変換を適用するように構成でき、一方、相対的なカメラ配置及び透視変換は、ターゲット被写体(例えば、棚面)を画像化するように協調して構成される。
隣接するオーバーラップ(例えば、隣接するカメラによるカメラカバレッジのオーバーラップ)は、棚面の垂直面にわたって一致したカメラカバレッジのために制御することができる。補正されない場合、キーストーンは異なるレベルのカメラカバレッジの結果となり得る。図18Aに示すように、棚のカメラカバレッジは、棚面の上方及び前に取り付けられたカメラモジュール200によって視認した場合に、補正されないときは小さな冗長性及び非常に高い冗長性を有するカバレッジ領域を有することができる。この図では、より暗い色の領域が、カメラのカバレッジのオーバーラップ又は冗長性の程度を示す。この例では、底部領域は時に、400%、300%、200%、又は100%のカメラカバレッジを有するが、棚の最上部は200%又は100%であることがわかる。そのような冗長性は、多くの状況で許容され得るが、いくつかのシナリオでは、カメラカバレッジをより制御することから利点を得ることができる。
補正により、ターゲット被写体における画像面のオーバーラップは、透視補正なしの画像面と比較して、長方形あるか又は少なくともより均一(例えば、キーストーンが低減された)であることが好ましい。
光学システム及び相対的なカメラ配置は、カメラカバレッジの隣接オーバーラップの異なるレベルに対して協調的に構成できる。より具体的には、光学システム及び相対的なカメラ配置の透視変換は、あるレベルの隣接するカメラオーバーラップから構成される。1つのターゲットオーバーラッププロファイルは、100%カメラカバレッジ、200%カメラカバレッジ、300%カメラカバレッジ、及び/又は任意の適切な変形例をターゲットにしてもよい。構成されたオーバーラップは、期待されるカメラの取り付け位置に基づいてもよい。棚のユースケースでは、カメラのセットは通常、棚面の上方及び前に取り付けられる。
最小化する変形例では、ターゲット被写体のカバレッジは、ターゲット被写体の100%カバレッジを有するように設計してもよい。理想的な隣接オーバーラップを、オーバーラップのない完全なアライメントのために構成することができる。しかしながら、通常の状態では、変動を許容するために、ある程度の隣接オーバーラップが好ましい場合がある。したがって、間の隣接オーバーラップは一般に25%未満になるように構成され、いくつかの実装では、10%以下になるように構成されてもよい。図18Bに示すように、カメラの離間配置は、隣接するカメラオーバーラップを画像化された棚面の4分の1未満となるように整列させるように構成することができる。これにより、冗長性を最小化するように機能することができ、カメラの数を低減することができる。
図18Cに示すように、カメラの離間配置は、代わりに、隣接するカメラオーバーラップを整列させて、特定の程度のカメラカバレッジ冗長性になるように構成してもよい。カメラ冗長性を達成するために、棚面のようなターゲット被写体を画像化する際に、少なくとも50%の隣接カメラオーバーラップに対して、相対的なカメラ配置及び透視変換を協調的に構成することができる。隣接するカメラオーバーラップは、60%のような特定の閾値以下に制限されてもよい。この例では、カバーされた棚の各領域を、2台のカメラで見ることができる(例えば、200%カバレッジ)。たとえ図18Dに示すような完全な歪み補正なしでも、補正シフト光学システムは、カメラカバレッジの制御を強化することができる。
補正光学システム320は、追加的又は代替的に、焦点面調整で構成することができ、焦点面は、所望のターゲット被写体と整列するように向きを変えることができる。標準的な画像化アプローチでは、棚上の被写体はカメラからの距離が異なることになり、それによって、通常は全てに完全に焦点が合うことはない。焦点面調整は、チルトレンズ、及びより好ましくはタイルシフトレンズを介して達成されることが好ましい。これは、単一レンズ光学システムであってもよいが、代わりに多段光学システムを含んでもよい。焦点面調整は、上述の透視補正と組み合わせて使用することが好ましい。好ましくは、焦点面は、棚面の画定された表面により接近して整列するように調整される。1つの実装では、チルトシフト光学システムは、棚面の10度以内で焦点面が整列するように構成されるが、任意の適切な程度の整列を実行してもよい。その結果、棚の前に見えるアイテムは、より均一なレベルの焦点を有する場合がある。
焦点面調整補正は、様々な状況に対して調整することができる。いくつかの変形例では、ターゲット被写体は水平面領域として画定されてもよく、そこで、カメラのセットは水平面領域からの上方及び中心から外れて取り付けられる。各カメラ及び光学システムに対する、並びにカメラ配置にわたる、そのような画像化に対処するために、対応する調整を行うことができる。例えば、アイテムの長いビンを監視する場合、ビンの水平面に整列するように焦点面を調整できる。別の変形例では、ターゲット被写体は、対角表面領域として画定されてもよい。言い換えれば、ターゲット被写体は、講堂の座席など、平行ではない又は垂直(例えば、重力で画定された向き)の角度に面に沿うことができる。一例では、焦点面は同様に、ターゲット領域の画定された角度面と整列することができる。
スプリットビュー変形例
第2の好ましい変形例では、システムは、図27に示すようなスプリットビュー光学システム330を有するカメラ300を含むことが好ましい。本明細書で説明されるスプリットビュー光学システム330は、別個の光学変換でキャプチャされた画像の少なくとも2つの領域を有する。
このスプリットビュー変形例は、画像のサブ領域内の、焦点距離、焦点面の向き、透視歪み補正、又は他の光学特性をカスタマイズするように機能することができる。スプリットビュー変形例は、近接した異なる関心領域をキャプチャするために、画像センサのエリアを効率的に利用する際に役立つことが好ましい。
スプリットビュー変形例は、マルチカメラ変形例と組み合わせて、及び/又はより具体的には上述のカメラモジュールの監視ネットワークと組み合わせて、個別に使用してもよい。スプリットビュー光学システム330は、補正光学システム300の変形例であることが好ましい。したがって、マルチカメラ変形例を有する補正光学システム320は、スプリットビュー光学システム330を更に使用することができる。
スプリットビュー光学システム330内で、異なる「ビュー」又は視野の領域が、異なる方法で変換される。変換のタイプには、透視補正、焦点面調整、視野調整、再方向付け、焦点距離調整、及び/又は他の適切な光学変換が含まれ得る。これらの光学変換は、任意の適切な組み合わせで組み合わせることができる。
スプリットビュー光学システム330は、画像化領域のセットを生成することが好ましい。1つの好ましい変形例では、カメラ300は、スプリットビュー光学システム330から、少なくとも第1の画像化領域及び第2の画像化領域をキャプチャするように構成することができる。他の変形例では、第3の画像化領域又は任意の適切な数の画像化領域を、スプリットビュー光学システム330によって生成することができる。ここで使用される画像化領域とは、カメラセンサの視野の一部に適用される光学変換から得られる画像データのサブ領域を指す。
別個の光学変換から得られる画像化領域は、別個の遷移又はエッジを有してもよい。結果として得られる画像は、関連する画像部分をソース画像から分離することができる別個の画像として扱われる各画像化領域で処理されてもよい。或いは、光学変換が、段階的な移行を提供するために段階化されてもよい。領域は、図28に示すように、環境内の別個の領域からの画像データであってもよい。或いは、領域は、別の領域から冗長な画像データを含んでもよい。例えば、図29に示すように、床領域は、棚の画像データも含まれる画像を含んでもよい。
透視補正及び/又は焦点面調整のためのスプリットビュー光学システム330の光学サブシステムは、上述の変形例を適用できることが好ましい。チルトシフト光学サブシステムを使用して、これらの補正の少なくとも1つを適用することが好ましい。スプリットビュー光学システム330は、少なくとも1つのチルトシフト光学サブシステムを含むことが好ましい。棚通路の画像化に使用する場合、チルトシフト光学サブシステムを、主に棚面に対して分離された画像領域にローカライズすることができる。
光学サブシステムを使用して、視野を調整することができる。1つの変形例では、領域は、関心領域に焦点を合わせるために狭められた視野を有してもよい。別の変形例では、領域は視野を広げてもよい。広い視野の光学サブシステムは、環境内の監視すべき領域が他の画像化領域のすぐ隣ではなく、低減された画像解像度で視認できる場合に役立ち得る。例えば、第2の棚面である。
光学サブシステムは、ミラー又は他の光学システムが領域の光路を別の空間にリダイレクトするリダイレクト変換を適用してもよい。
棚通路のユースケースでは、カメラ及びスプリットビュー光学システム330は、第1の棚面、ユーザトラフィックのある床領域、及び/又は場合によっては第2の棚面をキャプチャするように構成することができる。各領域は、特定の光学変換を有してもよい。
好ましくは、棚の少なくとも1つは、アイテム識別及びアイテム相互作用の分類及び検出の目的で監視される。例えば、第1の棚をキャプチャする画像領域は、棚上のアイテム、及び/又は顧客が棚からアイテムを除去又は棚にアイテムを追加するイベントを検出するのに適していることが好ましい。1つの好ましい変形例では、棚面をキャプチャする画像化領域は、スプリットビュー光学システム330のチルトシフト光学サブシステムによって光学的に変換される。
図26及び図28に示すように、チルトシフト光学サブシステムは、カメラの視野の一部を光学的に変換する。これは一般に、棚面の画像をキャプチャするために使用できる。他の画像化された領域を使用する際には、様々なオプションがあり得る。
1つの変形例では、少なくとも第2の画像化領域は、第1の画像化領域とは異なる有効な焦点面を与える方法で、光学的に変換することができる。焦点面は、第2のチルトシフト光学サブシステムを介して更に変換することができる。
別の変形例では、スプリットビュー光学システム330は、図26及び図28に示すように、視野のサブ領域をリダイレクトすることによって、第2の画像化領域を形成するように構成されたミラーを含むことができる。これは、第2の棚面、床面、又は任意の適切な領域などの、より有用な領域に視野をリダイレクトするために使用してもよい。第2の領域の焦点距離及び/又は焦点面はまた、更なる光学変換を介して調整することができる。同様に、視野又は他の光学特性は、スプリットビュー光学システム330の光学サブシステムを用いて、第2の画像化領域に対して同様に設定することができる。
1つの変形例では、スプリットビュー光学システム330を使用して、カメラが2つの対向する棚を監視できるようにすることができ、これは、カメラが2つの対向する棚面の間及び上方に取り付けられる場合に一般に適用可能である。この変形例では、カメラは、スプリットビュー光学システム330から、第1の画像化領域及び第2の画像化領域をキャプチャするように構成することができる。第1の画像化領域は、好ましくは第1の棚面をキャプチャし、第2の画像化領域は、好ましくは第2の棚面をキャプチャする。スプリットビュー光学システム330からの第1の画像化領域は、第1の棚面の透視補正を適用するように構成されたチルトシフト光学サブシステムを介して、光学的に変換することができる。
第1の棚に対向し得る第2の棚も同様に、対応する目的で監視することができる。1つの変形例では、一般的な棚の相互作用を検出する目的で、少なくとも1つの棚面を監視してもよい。相互作用の場所又は領域を、更に検出してもよい。例えば、顧客がその棚と相互作用するときを検出することを意図した目的で、第2の棚を監視することができ、ここで、このイベントの更なる分類を、アイテム分類とイベント分類のために構成された異なる視点を有する別のカメラに任せてもよい。
別の変形例では、カメラが棚及び床領域を監視できるように、スプリットビュー光学システム330を使用することができる。これは、カメラが棚面の前及び上方に取り付けられているときに、一般的に適用される。この変形例では、各カメラは、スプリットビュー光学システム330から第1の画像化領域及び第2の画像化領域をキャプチャするように構成することができる。第1の画像化領域は、好ましくは棚面をキャプチャし、第2の画像化領域は、好ましくは床面をキャプチャする。スプリットビュー光学システム330からの第1の画像化領域は、棚面の透視補正を適用するように構成されたチルトシフト光学サブシステムを介して、光学的に変換することができる。第2の領域は、床上又は床の近くのアクティビティを適切に感知するための様々な方法で変更してもよい。
好ましくは、第2の画像化領域は、床面に実質的に平行な焦点面を調整するように構成された光学サブシステムによって、光学的に変換されることが好ましい。これは、人々が環境にわたって移動する場所を監視するために機能してもよい。図29に示すように、焦点面が人々の顔のおおよその高さになるように、床の画像化領域を更にカスタマイズすることができる。例えば、この画像化領域の焦点面は、少なくとも5フィートに設定できる。
異なる領域は、1つのソース画像上に収集された一連の長方形画像として画像化されるように配置できる。或いは、ソース画像の異なる象限又は任意の適切な位置に領域が反映されるように、異なる領域を光学的に変換することができる。
実施形態のシステム及び方法は、少なくとも部分的に、コンピュータ可読命令を記憶するコンピュータ可読媒体を受信するように構成された機械として、実施及び/又は実装することができる。命令は、アプリケーション、アプレット、ホスト、サーバ、ネットワーク、ウェブサイト、通信サービス、通信インターフェース、ユーザのコンピュータ又はモバイルデバイスのハードウェア/ファームウェア/ソフトウェア要素、リストバンド、スマートフォン、又はそれらの任意の適切な組み合わせと統合されたコンピュータ実行可能コンポーネントによって実行することができる。実施形態の他のシステム及び方法は、少なくとも部分的に、コンピュータ可読命令を記憶するコンピュータ可読媒体を受信するように構成された機械として、実施及び/又は実装することができる。命令は、上述のタイプの装置及びネットワークと統合されたコンピュータ実行可能コンポーネントによって実行することができる。コンピュータ可読媒体は、RAM、ROM、フラッシュメモリ、EEPROM、光学デバイス(CD又はDVD)、ハードドライブ、フロッピードライブ、又は任意の適切なデバイスなどの、任意の適切なコンピュータ可読媒体に記憶できる。コンピュータ実行可能コンポーネントはプロセッサであり得るが、任意の適切な専用ハードウェアデバイスが(代替的に又は追加的に)命令を実行することができる。
当業者が前述の詳細な説明から、並びに図面及び特許請求の範囲から認識するように、以下の特許請求の範囲で定義される本発明の範囲から逸脱することなく、本発明の実施形態に修正及び変更を加えることができる。

Claims (18)

  1. 環境にわたるビデオ監視のためのシステムであって、
    前記環境内の監視ネットワークとして、取り付けられ、且つ、相互接続されたカメラモジュールのセットを備え、
    前記カメラモジュールのセットの各カメラモジュールインスタンスは、
    長さが3フィートより長い筐体本体と、
    少なくとも第1の接続ポートと第2の接続ポートと、を備えており、
    前記カメラモジュールは複数のカメラを備え、前記複数のカメラは、前記筐体本体にわたって離間配置で取り付けられ、かつ前記環境の外側の視界を有し、
    前記第1の接続ポートと前記第2の接続ポートは、前記カメラモジュールインスタンスの向かい合う両端部に取り付けられ、前記第1の接続ポートと前記第2の接続ポートの各々は、電力接続ポート及び通信接続ポートと、さらに、少なくとも一つの冗長接続ポートとを備え、
    前記カメラモジュールのセットの前記カメラモジュールが、隣接するカメラモジュールの前記接続ポートを介して直列に接続されている、システム。
  2. 前記少なくとも一つの冗長接続ポートは、冗長電力接続ポートを備え、各カメラモジュールは、前記カメラモジュールのコンポーネントに供給される電力を管理し、且つ、前記第1の接続ポートの電力接続ポート又は冗長電力接続ポートから前記第2の接続ポートの電力接続ポート及び冗長電力接続ポートに電力を通す電力制御システムを備える、請求項1に記載のシステム。
  3. 前記少なくとも一つの冗長接続ポートは、冗長通信接続ポートを備え、各カメラモジュールインスタンスは、前記カメラモジュールインスタンスの前記複数のカメラから収集されたデータのデータ通信を調整し、前記カメラモジュールインスタンスに接続された後続のカメラモジュールへネットワークアクセスを伝えるよう構成されている通信制御システムを更に備える、請求項1に記載のシステム。
  4. 前記電力制御システムは、ホットスワップ制御システムを更に備える、請求項2に記載のシステム。
  5. 前記第1及び第2の接続ポートの各々は、通信接続ポートを備え、各カメラモジュールインスタンスは、前記カメラモジュールインスタンスの前記複数のカメラから収集されたデータのデータ通信を調整するように構成されている通信制御システムを更に備える、請求項1に記載のシステム。
  6. 前記カメラモジュールは、このカメラモジュールを高架構造物から水平に吊り下げるための取り付け機構をさらに含む、請求項1に記載のシステム。
  7. 前記カメラモジュールは、照明システムを更に備える、請求項1に記載のシステム。
  8. 前記離間配置は、第1の角度方向で取り付けられた前記カメラの第1のサブセットと、第2の角度方向で取り付けられたカメラの第2のサブセットと、を備える、請求項1に記載のシステム。
  9. 前記カメラモジュールは、前記カメラモジュールが第1の棚の上方及び前に取り付けられているときに、少なくとも、前記第1の棚の第1の棚面をキャプチャするように構成された角度方向で取り付けられたカメラのサブセットを備える、請求項1に記載のシステム。
  10. 前記カメラモジュールは、前記カメラモジュールが第1の棚及び第2の棚の上方及び間に取り付けられているときに、少なくとも、前記第1の棚の第1の棚面及び前記第2の棚の第2の棚面をキャプチャするように構成された角度方向で取り付けられたカメラのサブセットを備える、請求項1に記載のシステム。
  11. 前記複数のカメラは、深度知覚配置でペアリングされたカメラのサブセットを有する、請求項1に記載のシステム。
  12. 前記カメラは、チルトシフト補正光学システムを更に備える、請求項1に記載のシステム。
  13. 前記チルトシフト補正光学システムは、前記棚面の上方及び前に取り付けられたときに、画像化された棚の歪みを補正するように構成されており、前記カメラの離間配置は、隣接するカメラオーバーラップを画像化された棚面の4分の1未満に整列させるように構成されている、請求項又は10のいずれか一項を引用する請求項1に記載のシステム。
  14. 前記ビデオ監視は、直列に接続された少なくとも10台のカメラモジュールで構成されている、請求項1に記載のシステム。
  15. 前記カメラモジュールのネットワークは、少なくとも2つのタイプのカメラモジュールで構成されている、請求項1に記載のシステム。
  16. 前記カメラモジュールインスタンスは、収集されたビデオデータのローカル処理を実行するように構成された少なくとも1つの処理ユニットを備える、請求項1に記載のシステム。
  17. 前記カメラモジュールは、前記収集されたビデオデータのローカル処理の結果に基づいて、ビデオデータを選択的に通信するように構成されている、請求項1に記載のシステム。
  18. 前記接続ポートは無指向性であり、
    前記第1の接続ポートの前記電力接続ポート及び前記冗長接続ポートは、電力の入力又は出力として使用することができ、
    前記通信接続ポート及び前記冗長接続ポートは、ネットワーク接続の入力又は出力として使用することができる、請求項1に記載のシステム。
JP2019552864A 2017-05-10 2018-05-10 効率的配置のための直列構成カメラアレイ Active JP7165140B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022168914A JP2023015102A (ja) 2017-05-10 2022-10-21 効率的配置のための直列構成カメラアレイ

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762504501P 2017-05-10 2017-05-10
US62/504,501 2017-05-10
PCT/US2018/032170 WO2018209156A1 (en) 2017-05-10 2018-05-10 Series-configured camera array for efficient deployment

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022168914A Division JP2023015102A (ja) 2017-05-10 2022-10-21 効率的配置のための直列構成カメラアレイ

Publications (2)

Publication Number Publication Date
JP2020520565A JP2020520565A (ja) 2020-07-09
JP7165140B2 true JP7165140B2 (ja) 2022-11-02

Family

ID=64096307

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019552864A Active JP7165140B2 (ja) 2017-05-10 2018-05-10 効率的配置のための直列構成カメラアレイ
JP2022168914A Pending JP2023015102A (ja) 2017-05-10 2022-10-21 効率的配置のための直列構成カメラアレイ

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022168914A Pending JP2023015102A (ja) 2017-05-10 2022-10-21 効率的配置のための直列構成カメラアレイ

Country Status (4)

Country Link
US (4) US10778906B2 (ja)
EP (1) EP3610469A4 (ja)
JP (2) JP7165140B2 (ja)
WO (1) WO2018209156A1 (ja)

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG10201407100PA (en) * 2014-10-30 2016-05-30 Nec Asia Pacific Pte Ltd System For Monitoring Event Related Data
CN114040153B (zh) 2016-05-09 2024-04-12 格拉班谷公司 用于在环境内计算机视觉驱动应用的系统
WO2018013439A1 (en) 2016-07-09 2018-01-18 Grabango Co. Remote state following devices
JP7093783B2 (ja) 2017-02-10 2022-06-30 グラバンゴ コーポレイション 自動化買物環境における動的な顧客チェックアウト体験のためのシステム及び方法
GB2560177A (en) 2017-03-01 2018-09-05 Thirdeye Labs Ltd Training a computational neural network
GB2560387B (en) 2017-03-10 2022-03-09 Standard Cognition Corp Action identification using neural networks
JP7165140B2 (ja) 2017-05-10 2022-11-02 グラバンゴ コーポレイション 効率的配置のための直列構成カメラアレイ
EP3635623A4 (en) 2017-06-21 2020-10-21 Grabango Co. LINKING OBSERVED HUMAN ACTIVITY ON A VIDEO TO A USER ACCOUNT
US11250376B2 (en) 2017-08-07 2022-02-15 Standard Cognition, Corp Product correlation analysis using deep learning
US10445694B2 (en) 2017-08-07 2019-10-15 Standard Cognition, Corp. Realtime inventory tracking using deep learning
US11200692B2 (en) 2017-08-07 2021-12-14 Standard Cognition, Corp Systems and methods to check-in shoppers in a cashier-less store
US11023850B2 (en) 2017-08-07 2021-06-01 Standard Cognition, Corp. Realtime inventory location management using deep learning
US10853965B2 (en) 2017-08-07 2020-12-01 Standard Cognition, Corp Directional impression analysis using deep learning
US10474988B2 (en) 2017-08-07 2019-11-12 Standard Cognition, Corp. Predicting inventory events using foreground/background processing
US10650545B2 (en) 2017-08-07 2020-05-12 Standard Cognition, Corp. Systems and methods to check-in shoppers in a cashier-less store
US10474991B2 (en) 2017-08-07 2019-11-12 Standard Cognition, Corp. Deep learning-based store realograms
US11232687B2 (en) 2017-08-07 2022-01-25 Standard Cognition, Corp Deep learning-based shopper statuses in a cashier-less store
US20190079591A1 (en) 2017-09-14 2019-03-14 Grabango Co. System and method for human gesture processing from video input
US10963704B2 (en) 2017-10-16 2021-03-30 Grabango Co. Multiple-factor verification for vision-based systems
US11481805B2 (en) 2018-01-03 2022-10-25 Grabango Co. Marketing and couponing in a retail environment using computer vision
US10928826B2 (en) * 2018-10-26 2021-02-23 Lyft, Inc. Sensor fusion by operations-control vehicle for commanding and controlling autonomous vehicles
WO2020092450A1 (en) 2018-10-29 2020-05-07 Grabango Co. Commerce automation for a fueling station
EP3668080B1 (en) * 2018-12-12 2021-08-18 Axis AB A method for assisting camera tilt angle adjustment
US11126861B1 (en) 2018-12-14 2021-09-21 Digimarc Corporation Ambient inventorying arrangements
CN109965434B (zh) * 2019-01-29 2021-09-21 迅捷安消防及救援科技(深圳)有限公司 可移动模块化智慧消防执勤保障装备及相关产品
CA3131604A1 (en) 2019-03-01 2020-09-10 Grabango Co. Cashier interface for linking customers to virtual data
US11232575B2 (en) 2019-04-18 2022-01-25 Standard Cognition, Corp Systems and methods for deep learning-based subject persistence
JP7305485B2 (ja) * 2019-08-29 2023-07-10 キヤノン株式会社 制御装置、撮像装置、レンズ装置、制御方法、および、プログラム
US11012601B1 (en) 2019-09-23 2021-05-18 Amazon Technologies, Inc. Dual camera module systems
CN110740297B (zh) * 2019-10-25 2021-03-12 浙江工贸职业技术学院 一种自动识别的基于计算机的监控装置及监控方法
JP7370845B2 (ja) * 2019-12-17 2023-10-30 東芝テック株式会社 販売管理装置及びその制御プログラム
US11810362B1 (en) * 2020-03-03 2023-11-07 Amazon Technologies, Inc. Image-based detection of planogram product spaces
JP7562164B2 (ja) * 2020-04-13 2024-10-07 薫 渡部 監視情報管理システム、監視情報管理プログラム及び監視情報管理方法
CN111726495A (zh) * 2020-06-19 2020-09-29 广州耀满科技有限公司 一种有效防止强烈撞击力破坏的安防监控报警装置
US11303853B2 (en) 2020-06-26 2022-04-12 Standard Cognition, Corp. Systems and methods for automated design of camera placement and cameras arrangements for autonomous checkout
US11361468B2 (en) 2020-06-26 2022-06-14 Standard Cognition, Corp. Systems and methods for automated recalibration of sensors for autonomous checkout
NO346392B1 (en) 2020-08-05 2022-07-04 Muybridge As Multiple camera sensor system and method of providing a target image by a virtual camera
US11341683B2 (en) * 2020-09-22 2022-05-24 AiFi Corp Smart self calibrating camera system
US11632522B2 (en) * 2020-12-11 2023-04-18 Joseph Donnan Mobile video surveillance recording system
US12160671B2 (en) * 2021-03-31 2024-12-03 Target Brands, Inc. Shelf-mountable imaging system
US20220327511A1 (en) * 2021-04-07 2022-10-13 Vcognition, Inc. System and method for acquiring training data of products for automated checkout
US11722775B2 (en) * 2021-08-17 2023-08-08 Canon Kabushiki Kaisha Image pickup apparatus and controlling method thereof
US11635167B1 (en) 2021-09-09 2023-04-25 Amazon Technologies, Inc. Quick-connect camera mounts with multiple degrees of freedom
US20240422495A1 (en) * 2021-12-01 2024-12-19 Rensselaer Polytechnic Institute Multi-sensor systems and methods for providing immersive virtual environments
WO2023215361A1 (en) * 2022-05-03 2023-11-09 Hippenmeyer Matthew Inventory management system and method
TWI852142B (zh) * 2022-10-24 2024-08-11 飛捷科技股份有限公司 網路裝置組態辨識方法與裝置
CN117803835B (zh) * 2024-02-29 2024-05-07 越西县申果庄大熊猫自然保护区保护中心 一种用于林业管理的野外监控设备

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232747A (ja) 2001-02-01 2002-08-16 Techno Scope:Kk カメラ雲台、カメラ雲台制御システムおよびカメラ雲台の駆動制御方法
JP2006314098A (ja) 2005-05-04 2006-11-16 Micrel Inc 単一のカテゴリー5ケーブルを用いて冗長性をもたせたイーサネット網
JP2008054036A (ja) 2006-08-24 2008-03-06 Hitachi Kokusai Electric Inc 映像伝送方法および映像伝送システム
JP2008079142A (ja) 2006-09-22 2008-04-03 Fujifilm Corp カメラシステム
US20100020173A1 (en) 2008-07-22 2010-01-28 Liebherr-Elektronik Gmbh Camera for Use in a Digital Network
JP2014149755A (ja) 2013-02-04 2014-08-21 Yoshiro Mizuno 通信設定システム
US20150124088A1 (en) 2012-11-16 2015-05-07 Scopix Inc. Tubular camera module
US20150205336A1 (en) 2014-01-17 2015-07-23 Allied Telesis Holdings Kabushiki Kaisha Resilient data and power supplies
JP2017069963A (ja) 2015-09-30 2017-04-06 株式会社ソフィックス 表示盤や操作盤のデータ収集システム、装置、方法、プログラムおよび記録媒体

Family Cites Families (226)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5254853A (en) 1990-02-14 1993-10-19 Stefan Reich Optical sensing device
US5418567A (en) 1993-01-29 1995-05-23 Bayport Controls, Inc. Surveillance camera system
US5502564A (en) * 1994-09-13 1996-03-26 Hughes Aircraft Company Substrate thickness measurement using oblique incidence multispectral interferometry
US6837436B2 (en) 1996-09-05 2005-01-04 Symbol Technologies, Inc. Consumer interactive shopping system
US6697103B1 (en) 1998-03-19 2004-02-24 Dennis Sunga Fernandez Integrated network for monitoring remote objects
IL138808A0 (en) * 1998-04-02 2001-10-31 Kewazinga Corp A navigable telepresence method and system utilizing an array of cameras
US6970183B1 (en) 2000-06-14 2005-11-29 E-Watch, Inc. Multimedia surveillance and monitoring system including network configuration
US8005314B2 (en) * 2005-12-09 2011-08-23 Amnis Corporation Extended depth of field imaging for high speed object analysis
US7107110B2 (en) 2001-03-05 2006-09-12 Microsoft Corporation Audio buffers with audio effects
US20040201754A1 (en) * 2001-10-12 2004-10-14 Mcalister Micheal J. Dual camera mounting arrangement for a wide screen imaging system
US8321302B2 (en) 2002-01-23 2012-11-27 Sensormatic Electronics, LLC Inventory management system
US7274803B1 (en) 2002-04-02 2007-09-25 Videomining Corporation Method and system for detecting conscious hand movement patterns and computer-generated visual feedback for facilitating human-computer interaction
US7921036B1 (en) 2002-04-30 2011-04-05 Videomining Corporation Method and system for dynamically targeting content based on automatic demographics and behavior analysis
US20030210340A1 (en) 2002-05-07 2003-11-13 John Frederick Romanowich Camera with a mechanical and electrical interface for couplable engagement with a standard lampholder
US7227976B1 (en) 2002-07-08 2007-06-05 Videomining Corporation Method and system for real-time facial image enhancement
US8351647B2 (en) 2002-07-29 2013-01-08 Videomining Corporation Automatic detection and aggregation of demographics and behavior of people
US7053915B1 (en) 2002-07-30 2006-05-30 Advanced Interfaces, Inc Method and system for enhancing virtual stage experience
US8010402B1 (en) 2002-08-12 2011-08-30 Videomining Corporation Method for augmenting transaction data with visually extracted demographics of people using computer vision
US7225414B1 (en) 2002-09-10 2007-05-29 Videomining Corporation Method and system for virtual touch entertainment
US9711153B2 (en) 2002-09-27 2017-07-18 The Nielsen Company (Us), Llc Activating functions in processing devices using encoded audio and detecting audio signatures
US6996460B1 (en) 2002-10-03 2006-02-07 Advanced Interfaces, Inc. Method and apparatus for providing virtual touch interaction in the drive-thru
US7912246B1 (en) 2002-10-28 2011-03-22 Videomining Corporation Method and system for determining the age category of people based on facial images
US7283650B1 (en) 2002-11-27 2007-10-16 Video Mining Corporation Method and system for printing of automatically captured facial images augmented with promotional content
US7734070B1 (en) 2002-12-31 2010-06-08 Rajeev Sharma Method and system for immersing face images into a video sequence
US20040260513A1 (en) 2003-02-26 2004-12-23 Fitzpatrick Kerien W. Real-time prediction and management of food product demand
US7711155B1 (en) 2003-04-14 2010-05-04 Videomining Corporation Method and system for enhancing three dimensional face modeling using demographic classification
US7590261B1 (en) 2003-07-31 2009-09-15 Videomining Corporation Method and system for event detection by analysis of linear feature occlusion
US7505621B1 (en) 2003-10-24 2009-03-17 Videomining Corporation Demographic classification using image components
US20050096997A1 (en) 2003-10-31 2005-05-05 Vivek Jain Targeting shoppers in an online shopping environment
US7319779B1 (en) 2003-12-08 2008-01-15 Videomining Corporation Classification of humans into multiple age categories from digital images
US7100824B2 (en) 2004-02-27 2006-09-05 Evolution Robotics, Inc. System and methods for merchandise checkout
US7168618B2 (en) 2004-08-12 2007-01-30 International Business Machines Corporation Retail store method and system
US20060036485A1 (en) 2004-08-13 2006-02-16 International Business Machines Corporation Methods and apparatus for presenting personalized information to consumers in a retail environment
US7646887B2 (en) 2005-01-04 2010-01-12 Evolution Robotics Retail, Inc. Optical flow for object recognition
US9609287B2 (en) 2005-03-02 2017-03-28 En-Gauge, Inc. Remote monitoring
US9036028B2 (en) 2005-09-02 2015-05-19 Sensormatic Electronics, LLC Object tracking and alerts
US20070091177A1 (en) 2005-10-24 2007-04-26 The Regents Of The University Of California Remote unattended camera and computer integrated security system
US20070126871A1 (en) * 2005-12-06 2007-06-07 Henninger Paul E Iii Modular surveillance camera system with self-identification capability
US7911482B1 (en) 2006-01-06 2011-03-22 Videomining Corporation Method and system for efficient annotation of object trajectories in image sequences
JP4125328B2 (ja) 2006-04-17 2008-07-30 キヤノン株式会社 電子機器、電子機器による周辺機器の制御方法、プログラム及び記憶媒体
US7681790B2 (en) 2006-06-09 2010-03-23 The Container Store Computer supported retail shopping systems and methods
US7930204B1 (en) 2006-07-25 2011-04-19 Videomining Corporation Method and system for narrowcasting based on automatic analysis of customer behavior in a retail store
US7974869B1 (en) 2006-09-20 2011-07-05 Videomining Corporation Method and system for automatically measuring and forecasting the behavioral characterization of customers to help customize programming contents in a media network
EP1908727A1 (en) 2006-10-03 2008-04-09 Seiko Epson Corporation Wafer-level MEMS package and manufacturing method thereof
US7987111B1 (en) 2006-10-30 2011-07-26 Videomining Corporation Method and system for characterizing physical retail spaces by determining the demographic composition of people in the physical retail spaces utilizing video image analysis
US8380558B1 (en) 2006-12-21 2013-02-19 Videomining Corporation Method and system for analyzing shopping behavior in a store by associating RFID data with video-based behavior and segmentation data
US8189926B2 (en) 2006-12-30 2012-05-29 Videomining Corporation Method and system for automatically analyzing categories in a physical space based on the visual characterization of people
US8146811B2 (en) 2007-03-12 2012-04-03 Stoplift, Inc. Cart inspection for suspicious items
US8295597B1 (en) 2007-03-14 2012-10-23 Videomining Corporation Method and system for segmenting people in a physical space based on automatic behavior analysis
US7957565B1 (en) 2007-04-05 2011-06-07 Videomining Corporation Method and system for recognizing employees in a physical space based on automatic behavior analysis
WO2008128205A1 (en) 2007-04-13 2008-10-23 Presler Ari M Digital cinema camera system for recording, editing and visualizing images
US7848548B1 (en) 2007-06-11 2010-12-07 Videomining Corporation Method and system for robust demographic classification using pose independent model from sequence of face images
US7909248B1 (en) 2007-08-17 2011-03-22 Evolution Robotics Retail, Inc. Self checkout with visual recognition
US8520906B1 (en) 2007-09-24 2013-08-27 Videomining Corporation Method and system for age estimation based on relative ages of pairwise facial images of people
US10296936B1 (en) 2007-09-26 2019-05-21 Videomining Corporation Method and system for measuring effectiveness of a marketing campaign on digital signage
US20090158309A1 (en) 2007-12-12 2009-06-18 Hankyu Moon Method and system for media audience measurement and spatial extrapolation based on site, display, crowd, and viewership characterization
WO2009082748A1 (en) 2007-12-26 2009-07-02 Johnson Controls Technology Company Systems and methods for conducting commerce in a vehicle
US8098888B1 (en) 2008-01-28 2012-01-17 Videomining Corporation Method and system for automatic analysis of the trip of people in a retail space using multiple cameras
JP2011517340A (ja) 2008-02-04 2011-06-02 エフペーエス・フード・プロセッシング・システムズ・ベーフェー 卵の表面上の汚れ及びその他の欠陥を検出するためのソフトウェア制御を有する視覚システム
US20130215116A1 (en) 2008-03-21 2013-08-22 Dressbot, Inc. System and Method for Collaborative Shopping, Business and Entertainment
US8027521B1 (en) 2008-03-25 2011-09-27 Videomining Corporation Method and system for robust human gender recognition using facial feature localization
US8433612B1 (en) 2008-03-27 2013-04-30 Videomining Corporation Method and system for measuring packaging effectiveness using video-based analysis of in-store shopper response
US8219438B1 (en) 2008-06-30 2012-07-10 Videomining Corporation Method and system for measuring shopper response to products based on behavior and facial expression
US8009863B1 (en) 2008-06-30 2011-08-30 Videomining Corporation Method and system for analyzing shopping behavior using multiple sensor tracking
US8448859B2 (en) 2008-09-05 2013-05-28 Datalogic ADC, Inc. System and method for preventing cashier and customer fraud at retail checkout
US8379937B1 (en) 2008-09-29 2013-02-19 Videomining Corporation Method and system for robust human ethnicity recognition using image feature-based probabilistic graphical models
US8577705B1 (en) 2008-12-30 2013-11-05 Videomining Corporation Method and system for rating the role of a product category in the performance of a store area
US8175388B1 (en) 2009-01-30 2012-05-08 Adobe Systems Incorporated Recognizing text at multiple orientations
WO2010099453A1 (en) 2009-02-27 2010-09-02 Foundation Productions, Llc Headset-based telecommunications platform
US8892469B2 (en) 2009-04-01 2014-11-18 Igt Gaming device security mechanism
US9747497B1 (en) 2009-04-21 2017-08-29 Videomining Corporation Method and system for rating in-store media elements
US8254633B1 (en) 2009-04-21 2012-08-28 Videomining Corporation Method and system for finding correspondence between face camera views and behavior camera views
US8638211B2 (en) 2009-04-30 2014-01-28 Icontrol Networks, Inc. Configurable controller and interface for home SMA, phone and multimedia
US8872964B2 (en) 2009-05-20 2014-10-28 Express Imaging Systems, Llc Long-range motion detection for illumination control
US9740977B1 (en) 2009-05-29 2017-08-22 Videomining Corporation Method and system for recognizing the intentions of shoppers in retail aisles based on their trajectories
US8812344B1 (en) 2009-06-29 2014-08-19 Videomining Corporation Method and system for determining the impact of crowding on retail performance
US8325982B1 (en) 2009-07-23 2012-12-04 Videomining Corporation Method and system for detecting and tracking shopping carts from videos
US8412656B1 (en) 2009-08-13 2013-04-02 Videomining Corporation Method and system for building a consumer decision tree in a hierarchical decision tree structure based on in-store behavior analysis
JP5257335B2 (ja) * 2009-11-24 2013-08-07 オムロン株式会社 3次元視覚センサにおける計測有効領域の表示方法および3次元視覚センサ
US8396758B2 (en) 2009-12-13 2013-03-12 Intuit Inc. Systems and methods for confirming purchases of products from a retail establishment using a mobile device
CA3176193A1 (en) 2010-05-10 2011-11-17 Daniel Cohen Method and system for managing a parking lot based on intelligent imaging
US8803888B2 (en) 2010-06-02 2014-08-12 Microsoft Corporation Recognition system for sharing information
JP5548042B2 (ja) 2010-06-23 2014-07-16 ソフトバンクモバイル株式会社 ユーザ端末装置及びショッピングシステム
JP2012028015A (ja) 2010-07-20 2012-02-09 Toshiba Corp 照明制御システムおよび照明制御方法
US8488881B2 (en) 2010-07-27 2013-07-16 International Business Machines Corporation Object segmentation at a self-checkout
US8615254B2 (en) 2010-08-18 2013-12-24 Nearbuy Systems, Inc. Target localization utilizing wireless and camera sensor fusion
US8652033B2 (en) 2010-09-23 2014-02-18 Karl Storz Endovision, Inc. Video stylet with directable tip
US20120173900A1 (en) * 2010-11-03 2012-07-05 Broadcom Corporation Providing power over ethernet within a vehicular communication network
US10157526B2 (en) * 2010-11-05 2018-12-18 Razberi Technologies, Inc. System and method for a security system
US20120173351A1 (en) 2010-12-29 2012-07-05 Qthru, Llc Mobile Electronic Shopping
US9367770B2 (en) 2011-08-30 2016-06-14 Digimarc Corporation Methods and arrangements for identifying objects
US10474858B2 (en) 2011-08-30 2019-11-12 Digimarc Corporation Methods of identifying barcoded items by evaluating multiple identification hypotheses, based on data from sensors including inventory sensors and ceiling-mounted cameras
US20130103537A1 (en) 2011-10-14 2013-04-25 Spencer Thornton Hewett Interactive consumer self-service shopping system
US20130284806A1 (en) 2011-10-19 2013-10-31 Ran Margalit Automated purchasing system
US10326921B2 (en) 2011-11-14 2019-06-18 Tseng-Lu Chien Light device has built-in camera and related digital data device's functions
WO2013134865A1 (en) 2012-03-16 2013-09-19 In Situ Media Corporation System and method for scanning, tracking and collating customer shopping selections
US9661047B2 (en) 2012-04-30 2017-05-23 Mobilatv Ltd. Method and system for central utilization of remotely generated large media data streams despite network bandwidth limitations
US9892438B1 (en) 2012-05-03 2018-02-13 Stoplift, Inc. Notification system and methods for use in retail environments
JP5973058B2 (ja) 2012-05-07 2016-08-23 ドルビー・インターナショナル・アーベー レイアウト及びフォーマットに依存しない3dオーディオ再生のための方法及び装置
US9147114B2 (en) 2012-06-19 2015-09-29 Honeywell International Inc. Vision based target tracking for constrained environments
US9774459B2 (en) * 2012-06-22 2017-09-26 Sensormatic Electronics, LLC Security system and method using wireless adapters and PoE cameras
EP2873028A4 (en) 2012-06-28 2016-05-25 Pelican Imaging Corp SYSTEMS AND METHOD FOR DETECTING DEFECTIVE CAMERA ARRAYS, OPTICAL ARRAYS AND SENSORS
US9288299B2 (en) 2012-09-14 2016-03-15 Dewmobile, Inc. Method and apparatus for file sharing in a network
US20140082610A1 (en) 2012-09-14 2014-03-20 DewMobile Inc. Mesh network and mesh network node application
US9647906B2 (en) 2012-11-02 2017-05-09 Rockwell Automation Technologies, Inc. Cloud based drive monitoring solution
US20140155022A1 (en) 2012-12-05 2014-06-05 Anil Kandregula Methods and apparatus to monitor usage of mobile devices
EP2747414B1 (en) 2012-12-18 2015-04-08 Axis AB Monitoring method and camera
US20140245160A1 (en) 2013-02-22 2014-08-28 Ubiquiti Networks, Inc. Mobile application for monitoring and controlling devices
US10198080B1 (en) * 2013-03-11 2019-02-05 Amazon Technologies, Inc. Virtual user interface
US9330413B2 (en) 2013-03-14 2016-05-03 Sears Brands, L.L.C. Checkout and/or ordering systems and methods
US9392675B2 (en) 2013-03-14 2016-07-12 Lutron Electronics Co., Inc. Digital load control system providing power and communication via existing power wiring
US8915429B2 (en) 2013-03-15 2014-12-23 Ncr Corporation Methods of mobile self-checkout shopping for produce items in a retail grocery store
US20140272855A1 (en) 2013-03-15 2014-09-18 FitStar, Inc. Selecting available exercises for customizing an exercise session
US9098825B2 (en) * 2013-03-26 2015-08-04 Leonard Bashkin Storage container with inventory control
WO2014179707A1 (en) 2013-05-02 2014-11-06 Rolley David System and method for collecting, analyzing and reporting fitness activity data
US9412099B1 (en) 2013-05-09 2016-08-09 Ca, Inc. Automated item recognition for retail checkout systems
US20140365334A1 (en) 2013-06-07 2014-12-11 Bby Solutions, Inc. Retail customer service interaction system and method
US20140363059A1 (en) 2013-06-07 2014-12-11 Bby Solutions, Inc. Retail customer service interaction system and method
US9329682B2 (en) 2013-06-18 2016-05-03 Microsoft Technology Licensing, Llc Multi-step virtual object selection
US10176456B2 (en) 2013-06-26 2019-01-08 Amazon Technologies, Inc. Transitioning items from a materials handling facility
US10268983B2 (en) 2013-06-26 2019-04-23 Amazon Technologies, Inc. Detecting item interaction and movement
US10290031B2 (en) 2013-07-24 2019-05-14 Gregorio Reid Method and system for automated retail checkout using context recognition
US9473747B2 (en) 2013-07-25 2016-10-18 Ncr Corporation Whole store scanner
US20150046213A1 (en) 2013-08-07 2015-02-12 Motorola Solutions, Inc. Method for identifying a shopping group in a store
EP3031206B1 (en) 2013-08-09 2020-01-22 ICN Acquisition, LLC System, method and apparatus for remote monitoring
JP6361103B2 (ja) 2013-09-17 2018-07-25 株式会社リコー 管理装置、管理システム、物体管理方法、及びプログラム
JP5920299B2 (ja) 2013-09-17 2016-05-18 コニカミノルタ株式会社 画像形成装置、遠隔制御方法、および遠隔制御プログラム
US9141931B2 (en) 2013-09-26 2015-09-22 Amazon Technologies, Inc. Inventory distribution method and system
US9984352B2 (en) 2013-09-26 2018-05-29 Amazon Technologies, Inc. Kiosk network in a kiosk management system
US9474934B1 (en) 2013-10-11 2016-10-25 Fit Intuition, LLC Biometric assessment in fitness improvement
US9183620B2 (en) * 2013-11-21 2015-11-10 International Business Machines Corporation Automated tilt and shift optimization
US20150163412A1 (en) 2013-12-11 2015-06-11 Echostar Technologies, Llc Home Monitoring and Control
EP4220599A1 (en) 2014-01-30 2023-08-02 Signify Holding B.V. Controlling a lighting system using a mobile terminal
US20150227890A1 (en) 2014-02-07 2015-08-13 Kristin Kaye Bednarek Communications system and smart device apps supporting segmented order distributed distribution system
US9948902B1 (en) 2014-03-07 2018-04-17 Alarm.Com Incorporated Video camera and sensor integration
US20150310601A1 (en) 2014-03-07 2015-10-29 Digimarc Corporation Methods and arrangements for identifying objects
US9120621B1 (en) 2014-03-25 2015-09-01 Amazon Technologies, Inc. Verifying bin content in an automated materials handling facility
US9317785B1 (en) 2014-04-21 2016-04-19 Video Mining Corporation Method and system for determining ethnicity category of facial images based on multi-level primary and auxiliary classifiers
US9918213B2 (en) 2014-05-07 2018-03-13 DewMobile Inc. Discovery and networking of proximate wireless devices by acoustic messaging
US20150373509A1 (en) 2014-06-19 2015-12-24 Dewmobile, Inc. Group gaming platform for mobile devices in proximity
JP5866522B2 (ja) 2014-07-08 2016-02-17 パナソニックIpマネジメント株式会社 施設管理支援装置、施設管理支援システムおよび施設管理支援方法
US10129507B2 (en) 2014-07-15 2018-11-13 Toshiba Global Commerce Solutions Holdings Corporation System and method for self-checkout using product images
US9547964B2 (en) 2014-07-24 2017-01-17 Heathco, Llc Integrated home lighting and notification system
CN107291104A (zh) 2014-07-30 2017-10-24 深圳市大疆创新科技有限公司 目标追踪系统及方法
US20170231058A1 (en) * 2014-08-04 2017-08-10 Innosys, Inc. Lighting Systems
TW201613334A (en) * 2014-09-19 2016-04-01 Vivotek Inc Network camera system and network camera thereof
EP3009997B1 (en) * 2014-10-15 2016-11-23 Axis AB Arrangement for a monitoring camera device
US20160110791A1 (en) * 2014-10-15 2016-04-21 Toshiba Global Commerce Solutions Holdings Corporation Method, computer program product, and system for providing a sensor-based environment
US10157379B2 (en) 2014-11-12 2018-12-18 Toshiba Global Commerce Solutions Holdings Corporation Self checkout with security checks based on categorized items
US9262681B1 (en) 2014-11-19 2016-02-16 Amazon Technologies, Inc. Probabilistic registration of interactions, actions or activities from multiple views
US10594983B2 (en) 2014-12-10 2020-03-17 Robert Bosch Gmbh Integrated camera awareness and wireless sensor system
US10134004B1 (en) * 2014-12-23 2018-11-20 Amazon Technologies, Inc. Processing image data from a camera cluster
US10722166B2 (en) 2014-12-30 2020-07-28 Ergoview S.R.L. Method and system for biomechanical analysis of the posture of a cyclist and automatic customized manufacture of bicycle parts
US9990587B2 (en) 2015-01-22 2018-06-05 Preferred Networks, Inc. Machine learning heterogeneous edge device, method, and system
US9412034B1 (en) 2015-01-29 2016-08-09 Qualcomm Incorporated Occlusion handling for computer vision
US9686477B2 (en) * 2015-02-16 2017-06-20 Cree, Inc. Lighting fixture with image sensor
US9706619B2 (en) 2015-02-16 2017-07-11 Cree, Inc. Lighting fixture with image sensor
US9853730B2 (en) 2015-02-27 2017-12-26 Xicato, Inc. Lighting based authentication of a mobile electronic device
US9270634B1 (en) 2015-03-02 2016-02-23 Dewmobile, Inc. Building a proximate social networking database based on relative distance profiling of two or more operably coupled computers
EP3269209B1 (en) 2015-03-13 2024-04-10 Lutron Technology Company LLC Control device having an illuminated portion controlled in response to an external sensor
US9250712B1 (en) 2015-03-20 2016-02-02 Hand Held Products, Inc. Method and application for scanning a barcode with a smart device while continuously running and displaying an application on the smart device display
US10089520B2 (en) 2015-03-26 2018-10-02 Krishna V Motukuri System for displaying the contents of a refrigerator
US20160289964A1 (en) * 2015-04-02 2016-10-06 Shawn Engberg Suspended ceiling
CA2981608A1 (en) 2015-04-03 2016-10-06 Lucis Technologies Holdings Limited Environmental control system
US10217120B1 (en) 2015-04-21 2019-02-26 Videomining Corporation Method and system for in-store shopper behavior analysis with multi-modal sensor fusion
US10565455B2 (en) 2015-04-30 2020-02-18 Ants Technology (Hk) Limited Methods and systems for audiovisual communication
US10037592B2 (en) * 2015-06-05 2018-07-31 Mindaptiv LLC Digital quaternion logarithm signal processing system and method for images and other data types
AU2016284700A1 (en) 2015-06-24 2018-01-18 Magic Leap, Inc. Augmented reality devices, systems and methods for purchasing
US9911290B1 (en) 2015-07-25 2018-03-06 Gary M. Zalewski Wireless coded communication (WCC) devices for tracking retail interactions with goods and association to user accounts
US10318976B2 (en) 2015-07-28 2019-06-11 Walmart Apollo, Llc Methods for determining measurement data of an item
US20190054347A1 (en) 2015-08-18 2019-02-21 Michael Saigh Wearable sports guidance communication system and developers tool kit
US9781233B2 (en) 2015-09-04 2017-10-03 Sunsight Holdings, Llc Alignment system including remote server for point-to-point alignment of spaced apart first and second antennas and related methods
US10180469B2 (en) 2015-10-28 2019-01-15 Siemens Healthcare Gmbh Gesture-controlled MR imaging system and method
CN105335509B (zh) 2015-10-29 2017-06-30 广州神马移动信息科技有限公司 一种推荐活动信息的方法、装置及服务器
US20170126985A1 (en) * 2015-10-30 2017-05-04 Gopro, Inc. Enumeration of Cameras in an Array
MX2018006807A (es) 2015-12-03 2019-07-04 Walmart Apollo Llc Carrito inteligente para el pago automatico de mercancias de venta al menudeo.
US10915910B2 (en) 2015-12-09 2021-02-09 International Business Machines Corporation Passive analysis of shopping behavior in a physical shopping area using shopping carts and shopping trays
CA3008886A1 (en) 2015-12-18 2017-06-22 Iris Automation, Inc. Real-time visual situational awareness system
US10262331B1 (en) 2016-01-29 2019-04-16 Videomining Corporation Cross-channel in-store shopper behavior analysis
US20170216667A1 (en) 2016-02-02 2017-08-03 Gaming Grids Wearables, Llc Esports fitness and training system
WO2017149875A1 (ja) * 2016-02-29 2017-09-08 ソニー株式会社 撮像制御装置、撮像装置及び撮像制御方法
KR20170110824A (ko) 2016-03-24 2017-10-12 삼성전자주식회사 디스플레이장치 및 그 제어방법
US10198625B1 (en) 2016-03-26 2019-02-05 Videomining Corporation Association of unique person to a mobile device using repeat face image matching
US10187629B2 (en) 2016-04-06 2019-01-22 Facebook, Inc. Camera calibration system
US10387896B1 (en) 2016-04-27 2019-08-20 Videomining Corporation At-shelf brand strength tracking and decision analytics
US10319198B2 (en) 2016-05-02 2019-06-11 Focal Systems, Inc. Expedited checkout system through portable checkout units
CN114040153B (zh) 2016-05-09 2024-04-12 格拉班谷公司 用于在环境内计算机视觉驱动应用的系统
SG11201810480RA (en) 2016-05-31 2018-12-28 Theia Group Incorporated System for transmission and digitization of machine telemetry
US10354262B1 (en) 2016-06-02 2019-07-16 Videomining Corporation Brand-switching analysis using longitudinal tracking of at-shelf shopper behavior
WO2018013439A1 (en) 2016-07-09 2018-01-18 Grabango Co. Remote state following devices
US10083358B1 (en) 2016-07-26 2018-09-25 Videomining Corporation Association of unique person to point-of-sale transaction data
BR102016019151A2 (pt) 2016-08-18 2018-03-06 De Souza Lopes Roberto Método e sistema computadorizado de visualização e identificação de veículos através de câmeras aplicadas em postos de combustível e lojas de conveniência
US10290119B2 (en) 2016-09-15 2019-05-14 Sportsmedia Technology Corporation Multi view camera registration
US10409548B2 (en) 2016-09-27 2019-09-10 Grabango Co. System and method for differentially locating and modifying audio sources
US20180096531A1 (en) 2016-09-30 2018-04-05 Daqri, Llc Head-mounted display and intelligent tool for generating and displaying augmented reality content
US10002344B2 (en) 2016-10-17 2018-06-19 Conduent Business Services, Llc System and method for retail store promotional price tag detection
US10825010B2 (en) 2016-12-30 2020-11-03 Datalogic Usa, Inc. Self-checkout with three dimensional scanning
US10665051B2 (en) 2017-02-02 2020-05-26 Smartbins Inc. Bulk food integrated scale system
JP7093783B2 (ja) 2017-02-10 2022-06-30 グラバンゴ コーポレイション 自動化買物環境における動的な顧客チェックアウト体験のためのシステム及び方法
US20180240180A1 (en) 2017-02-20 2018-08-23 Grabango Co. Contextually aware customer item entry for autonomous shopping applications
US10458595B2 (en) * 2017-02-28 2019-10-29 Cisco Technology, Inc. Smart Power over Ethernet lift
US10997421B2 (en) 2017-03-30 2021-05-04 Hrl Laboratories, Llc Neuromorphic system for real-time visual activity recognition
JP7165140B2 (ja) 2017-05-10 2022-11-02 グラバンゴ コーポレイション 効率的配置のための直列構成カメラアレイ
WO2018231850A1 (en) 2017-06-12 2018-12-20 Amber Agriculture, Inc. System and method for monitoring storage conditions in particulate goods
EP3635623A4 (en) 2017-06-21 2020-10-21 Grabango Co. LINKING OBSERVED HUMAN ACTIVITY ON A VIDEO TO A USER ACCOUNT
US10650545B2 (en) * 2017-08-07 2020-05-12 Standard Cognition, Corp. Systems and methods to check-in shoppers in a cashier-less store
US11023850B2 (en) 2017-08-07 2021-06-01 Standard Cognition, Corp. Realtime inventory location management using deep learning
US10474988B2 (en) 2017-08-07 2019-11-12 Standard Cognition, Corp. Predicting inventory events using foreground/background processing
US10055853B1 (en) 2017-08-07 2018-08-21 Standard Cognition, Corp Subject identification and tracking using image recognition
US10127438B1 (en) 2017-08-07 2018-11-13 Standard Cognition, Corp Predicting inventory events using semantic diffing
US10133933B1 (en) 2017-08-07 2018-11-20 Standard Cognition, Corp Item put and take detection using image recognition
US10474991B2 (en) 2017-08-07 2019-11-12 Standard Cognition, Corp. Deep learning-based store realograms
EP3665648A4 (en) 2017-08-07 2020-12-30 Standard Cognition, Corp. DETECTION OF THE SETTING AND REMOVAL OF ARTICLES USING IMAGE RECOGNITION
US10445694B2 (en) 2017-08-07 2019-10-15 Standard Cognition, Corp. Realtime inventory tracking using deep learning
US20190079591A1 (en) 2017-09-14 2019-03-14 Grabango Co. System and method for human gesture processing from video input
US10469768B2 (en) 2017-10-13 2019-11-05 Fyusion, Inc. Skeleton-based effects and background replacement
US10963704B2 (en) 2017-10-16 2021-03-30 Grabango Co. Multiple-factor verification for vision-based systems
US11481805B2 (en) 2018-01-03 2022-10-25 Grabango Co. Marketing and couponing in a retail environment using computer vision
US20190244161A1 (en) 2018-02-02 2019-08-08 Microsoft Technology Licensing, Llc Inventory control
US20190333039A1 (en) 2018-04-27 2019-10-31 Grabango Co. Produce and bulk good management within an automated shopping environment
WO2020051359A1 (en) 2018-09-07 2020-03-12 Gatekeeper Systems, Inc. Shopping basket monitoring using computer vision and machine learning
WO2020092450A1 (en) 2018-10-29 2020-05-07 Grabango Co. Commerce automation for a fueling station
US10347009B1 (en) 2018-11-21 2019-07-09 Juan Ramon Terven Self callbrating camera system
US20200265494A1 (en) 2019-02-17 2020-08-20 Grabango Co. Remote sku on-boarding of products for subsequent video identification and sale
CA3131604A1 (en) 2019-03-01 2020-09-10 Grabango Co. Cashier interface for linking customers to virtual data
US11280897B2 (en) 2019-03-31 2022-03-22 Waymo Llc Radar field of view extensions

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232747A (ja) 2001-02-01 2002-08-16 Techno Scope:Kk カメラ雲台、カメラ雲台制御システムおよびカメラ雲台の駆動制御方法
JP2006314098A (ja) 2005-05-04 2006-11-16 Micrel Inc 単一のカテゴリー5ケーブルを用いて冗長性をもたせたイーサネット網
JP2008054036A (ja) 2006-08-24 2008-03-06 Hitachi Kokusai Electric Inc 映像伝送方法および映像伝送システム
JP2008079142A (ja) 2006-09-22 2008-04-03 Fujifilm Corp カメラシステム
US20100020173A1 (en) 2008-07-22 2010-01-28 Liebherr-Elektronik Gmbh Camera for Use in a Digital Network
US20150124088A1 (en) 2012-11-16 2015-05-07 Scopix Inc. Tubular camera module
JP2014149755A (ja) 2013-02-04 2014-08-21 Yoshiro Mizuno 通信設定システム
US20150205336A1 (en) 2014-01-17 2015-07-23 Allied Telesis Holdings Kabushiki Kaisha Resilient data and power supplies
JP2017069963A (ja) 2015-09-30 2017-04-06 株式会社ソフィックス 表示盤や操作盤のデータ収集システム、装置、方法、プログラムおよび記録媒体

Also Published As

Publication number Publication date
US10778906B2 (en) 2020-09-15
US20240129643A1 (en) 2024-04-18
US10721418B2 (en) 2020-07-21
US20180332235A1 (en) 2018-11-15
JP2020520565A (ja) 2020-07-09
US11805327B2 (en) 2023-10-31
WO2018209156A1 (en) 2018-11-15
JP2023015102A (ja) 2023-01-31
EP3610469A4 (en) 2021-04-28
US20180332236A1 (en) 2018-11-15
EP3610469A1 (en) 2020-02-19
US20200404188A1 (en) 2020-12-24
US20210258508A9 (en) 2021-08-19

Similar Documents

Publication Publication Date Title
JP7165140B2 (ja) 効率的配置のための直列構成カメラアレイ
US20150124088A1 (en) Tubular camera module
US10440322B2 (en) Automated configuration of behavior of a telepresence system based on spatial detection of telepresence components
US9207904B2 (en) Multi-panel display with hot swappable display panels and methods of servicing thereof
US10534371B2 (en) System and method for providing and managing electricity
CN110999284B (zh) 用于分块的led显示器的无线内容传递
US20120310703A1 (en) TARGETED CONTENT DELIVERY USING OUTDOOR LIGHTING NETWORKS (OLNs)
WO2015123658A1 (en) Modular quick-connect a/v system and methods thereof
AU2023274066A1 (en) System, method and apparatus for a monitoring drone
US10044196B1 (en) Utility distribution infrastructure
US10699418B1 (en) Computer vision system that identifies the dimensions of a space from only a picture and a user input reference marker the techniques and capabilities of the system can be applied to space design and planning
US10764490B1 (en) Computer vision system that detects people, identification of their location in a field of view
US11216670B2 (en) Computer vision with identification of common movement pathways within a space
US20200410658A1 (en) Computer vision that provides physical body orientation, product interaction and pathway adjustment
US20180138976A1 (en) Determining position via multiple cameras and vlc technology
US10997401B2 (en) Computer vision system that provides information relative to animal wellness
CN204681503U (zh) 用于电能表自动化检定系统的视频监控设备
US20200410236A1 (en) Computer vision with identification of common areas of dwell in a space
WO2019219245A1 (en) Frame stitching and other functions using multiple cameras
US10791302B1 (en) Computer vision system that provides an identification of movement pathway intensity
US11165962B2 (en) Computer vision system that provides an accountability measurement of impact of architecture and design work
US10915743B2 (en) Computer vision system configured to monitor at risk humans
US20200410692A1 (en) Computer vision identification for each collision, a record of where each party came from, and their paths of movement post collision
US20200401300A1 (en) Computer vision that provides identification and quantification of group formation
US20200410248A1 (en) Computer vision system that provides information relative to utilization and occupancy heatmaps in a space

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201214

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210305

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210506

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220824

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221021

R150 Certificate of patent or registration of utility model

Ref document number: 7165140

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150