[go: up one dir, main page]

JP6343769B2 - Lost and found prevention system, information provision method for passenger car crew, computer program - Google Patents

Lost and found prevention system, information provision method for passenger car crew, computer program Download PDF

Info

Publication number
JP6343769B2
JP6343769B2 JP2013173444A JP2013173444A JP6343769B2 JP 6343769 B2 JP6343769 B2 JP 6343769B2 JP 2013173444 A JP2013173444 A JP 2013173444A JP 2013173444 A JP2013173444 A JP 2013173444A JP 6343769 B2 JP6343769 B2 JP 6343769B2
Authority
JP
Japan
Prior art keywords
passenger
state
analysis result
vehicle
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013173444A
Other languages
Japanese (ja)
Other versions
JP2015041344A (en
Inventor
中嶋 公栄
公栄 中嶋
利孝 宮崎
利孝 宮崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KOKUSAI MOTORCARS CO.,LTD.
Original Assignee
KOKUSAI MOTORCARS CO.,LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KOKUSAI MOTORCARS CO.,LTD. filed Critical KOKUSAI MOTORCARS CO.,LTD.
Priority to JP2013173444A priority Critical patent/JP6343769B2/en
Priority to PCT/JP2013/078279 priority patent/WO2015025435A1/en
Publication of JP2015041344A publication Critical patent/JP2015041344A/en
Application granted granted Critical
Publication of JP6343769B2 publication Critical patent/JP6343769B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18Status alarms
    • G08B21/24Reminder alarms, e.g. anti-loss alarms
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras

Landscapes

  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Emergency Alarm Devices (AREA)
  • Traffic Control Systems (AREA)

Description

この発明は、タクシーやハイヤーなどの旅客自動車の乗務員に、乗客の忘れ物がある可能性を通知する忘れ物防止システムに関する。   The present invention relates to a lost article prevention system that notifies passengers of passenger cars such as taxis and hires that there is a possibility that passengers are left behind.

旅客自動車では、乗客による忘れ物防止のために、従来から様々な仕組みが提案されている。例えば特許文献1には、車内撮影用の監視カメラにより、空車時にドアが開いたとき及び精算後にドアが閉じたときに車内を撮像し、撮像した車内映像を基準映像と比較することで忘れ物の有無を検知する車内忘れ物防止装置が提案されている。基準映像は、乗客が乗車するときの映像である。忘れ物有りを検知した場合には、忘れ物が有ることを乗客又は乗務員に報知する。
また、特許文献2には、忘れ物として検知すべき物品のリストを記憶しておき、乗客が降車した際に車両内の物品を判別し、判別した物品がリストに含まれる場合に当該物品を忘れ物として検知する車載装置が提案されている。物品の判別は、撮像装置により撮像された乗客の乗車前後の画像の差分に基づいて行われる。
In passenger cars, various mechanisms have been proposed in the past in order to prevent things left behind by passengers. For example, in Patent Document 1, the inside of a vehicle is imaged when the door is opened when the vehicle is empty and when the door is closed after payment, and the captured vehicle image is compared with a reference image. There has been proposed an in-vehicle left-behind prevention device that detects presence or absence. The reference image is an image when the passenger gets on. When it is detected that there is something left behind, it notifies the passenger or crew that there is something left behind.
Further, Patent Document 2 stores a list of articles that should be detected as forgotten items, discriminates the articles in the vehicle when a passenger gets off, and if the identified articles are included in the list, the articles are forgotten. An in-vehicle device that detects the above has been proposed. The discrimination of the article is performed based on the difference between the images taken by the imaging device before and after the passenger is boarded.

特開2006−338535号公報JP 2006-338535 A 特開2012−123497号公報JP 2012-123497 A

特許文献1、2に開示された装置は、いずれも撮像装置により車内を撮像し、その撮像画像から忘れ物を検知するものである。撮像装置による撮像画像から忘れ物を検知する方法は、センサ等により忘れ物を検知する方法よりも一般的にはコスト面で優位となる。しかし、撮像装置で車内を撮像するため、乗客の顔が撮像される可能性がある。乗客を特定できる形態の撮像は、乗客のプライバシー保護の観点から好ましくない。乗客によっては、撮像されることを好ましく思わず、抵抗感を抱くことも考えられる。
また、可視光による撮像では、撮像装置からみて何らかの物体の影になったり、トランクルームなどのように暗い部分では、忘れ物の検知が困難となる。さらに、従来の撮像装置による撮像では、天候(晴天、曇天)、時間帯(日中、夜間)、走行環境(トンネル等の有無)、太陽光の角度によって、映り方が異なる。そのため、撮像時の光量のムラによって物体の認識処理に誤差が生じたり、影を物体と誤認識したりする場合がある。
The devices disclosed in Patent Documents 1 and 2 both capture the interior of a vehicle with an imaging device and detect forgotten things from the captured images. In general, the method of detecting forgotten things from an image captured by an imaging device is superior to the method of detecting forgotten things by a sensor or the like in terms of cost. However, since the inside of the vehicle is imaged by the imaging device, the passenger's face may be imaged. Imaging in a form that can identify a passenger is not preferable from the viewpoint of passenger privacy protection. Depending on the passenger, it is not preferable to take an image, and it is possible to have a sense of resistance.
Further, in imaging with visible light, it becomes difficult to detect forgotten objects in a shadow of some object as seen from the imaging apparatus or in a dark part such as a trunk room. Furthermore, in the image pick-up by the conventional image pickup device, the way of reflection varies depending on the weather (clear weather, cloudy weather), the time zone (daytime, nighttime), the traveling environment (whether there is a tunnel or the like), and the angle of sunlight. For this reason, an error may occur in the object recognition process due to unevenness in the amount of light at the time of imaging, or a shadow may be erroneously recognized as an object.

本発明は、乗客のプライバシーを保護しつつ、天候、時間帯等の影響を受けずに旅客自動車内への忘れ物を検知可能な忘れ物防止システムを提供することを課題とする。   It is an object of the present invention to provide a forgotten object prevention system capable of detecting forgotten things in a passenger car without being affected by weather, time zone, or the like while protecting passenger privacy.

上記課題を解決するための本発明の忘れ物防止システムは、乗客が存在する賃走状態と、乗客が存在しない空車状態とを有する旅客自動車に設置され、当該時点の撮像環境では他の波長よりも高い解像度となる特定波長の赤外線を用いて前記旅客自動車の車内を撮像する撮像装置と、前記空車状態のときに前記撮像装置より取得した第1赤外線画像に映された物体を解析し、その解析結果を保持するとともに、前記空車状態から賃走状態に変化した後、乗客が降車する際に前記撮像装置より取得した第2赤外線画像に映された物体を解析し、その解析結果を前記保持されている解析結果と比較する解析手段と、前記解析手段による比較内容に応じて乗客以外の物体が車内に存在するかどうかを判別する判別手段と、前記乗客以外の物体が車内に存在すると判別された場合に、前記旅客自動車の乗務員に向けて、忘れ物が発生した可能性があることを警告する警告手段と、を備えることを特徴とする。
この忘れ物防止システムは、コンピュータプログラムと、このコンピュータプログラムを読み込み可能なコンピュータとの協働により実現することができる。また、このコンピュータにより、旅客自動車の乗務員に対する情報提供方法を実施することができる。
The forgotten object prevention system of the present invention for solving the above problems is installed in a passenger car having a rented state where passengers exist and an empty state where no passengers exist. An imaging device that images the interior of the passenger car using infrared light of a specific wavelength with high resolution, and an object reflected in the first infrared image acquired from the imaging device in the empty state, and the analysis The result is held, and after changing from the unoccupied state to the rented state, the object reflected in the second infrared image obtained from the imaging device is analyzed when the passenger gets off, and the analysis result is retained. An analysis means for comparing with the analysis result, a determination means for determining whether an object other than a passenger exists in the vehicle according to a comparison content by the analysis means, and an object other than the passenger in the vehicle When it is determined to be present, toward the crew of the passenger car, characterized in that it comprises a warning means for left behind to warn that may have occurred, the.
This forgotten object prevention system can be realized by the cooperation of a computer program and a computer that can read the computer program. Moreover, the information provision method with respect to the passenger | crew of a passenger car can be implemented with this computer.

本発明は、例えば車内への太陽光の入射角度、光量、天候に応じて最適な解像度となる特定波長の赤外線を用いて旅客自動車の車内を撮像する。そのため、可視光により撮影を行う従来の撮像装置では生じ得る、影を物体と誤認したり、あるいは、影の部分に存在する物体を認識できないなどの事態の発生を防止することができる。また、赤外線画像に映された物体の解析を行うため、乗客のプライバシーを害することもない。
また、赤外線画像に映された物体の解析結果に基づいて忘れ物の可能性がある物体や乗客の判別を行うので、画像を保持したり、画像同士を比較する場合に比べて、処理の負荷を著しく軽減させることができる。そのため、乗客の忘れ物の可能性の有無を迅速に判別することができる。
The present invention images the interior of a passenger car using, for example, an infrared ray having a specific wavelength that has an optimal resolution in accordance with the incident angle of the sunlight, the amount of light, and the weather. For this reason, it is possible to prevent the occurrence of a situation such as misidentifying a shadow as an object or not being able to recognize an object existing in a shadow portion, which may occur in a conventional imaging device that performs imaging using visible light. Further, since the object reflected in the infrared image is analyzed, passenger privacy is not harmed.
Also, because objects and passengers that are likely to be forgotten are discriminated based on the analysis results of the objects reflected in the infrared image, the processing load is reduced compared to holding images or comparing images. Can be significantly reduced. Therefore, it is possible to quickly determine whether or not there is a possibility that the passenger is left behind.

忘れ物防止システムの全体構成図。The whole block diagram of a thing-left-behind prevention system. 忘れ物防止システムに形成される機能構成図。The functional block diagram formed in a thing-left-behind prevention system. (a)、(b)はカメラの配置と撮像範囲の説明図。(A), (b) is explanatory drawing of a camera arrangement | positioning and an imaging range. 忘れ物防止システムが実行する処理のタイミングの説明図。Explanatory drawing of the timing of the process which a thing-left-behind prevention system performs. 乗客が降車するときに実行する忘れ物防止システムの処理手順説明図。Processing procedure explanatory drawing of the thing-left-behind prevention system performed when a passenger gets off. 空車状態のときに実行される忘れ物防止システムの処理手順説明図。Explanatory drawing of the process sequence of the thing-left-behind prevention system performed when it is an empty vehicle state. 賃走状態のときに実行される忘れ物防止システムの処理手順説明図。Explanatory drawing of the process sequence of the thing-left-behind prevention system performed in the rental state.

以下、本発明の実施の形態を図面を用いて詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

<システム構成>
図1は、本実施形態の忘れ物防止システムの構成図である。この忘れ物防止システム1は、旅客自動車の一例であるタクシーに搭載されており、乗客の忘れ物の有無をタクシーの乗務員に通知する。
<System configuration>
FIG. 1 is a configuration diagram of the forgotten object prevention system of the present embodiment. The forgotten thing prevention system 1 is mounted on a taxi that is an example of a passenger car, and notifies the taxi crew of the presence or absence of a thing left behind by the passenger.

忘れ物防止システム1は、撮像装置として、カメラ10が複数台設けられる。複数のカメラ10は、タクシーの車両内の各所に、できるだけ死角を作らないように配置される。本実施形態では、後部座席右シートの足下を撮像する右シートカメラ11、後部座席左シートの足下を撮像する左シートカメラ12、後部座席シートを頭上から撮像する頭上カメラ13、及びトランク内部を撮像するトランクカメラ14が、車両内に備えられる。
但し、カメラ10の数量、配置は、本例に限らず、コスト及び忘れ物の検知精度を考慮して、適宜設けられる。
The forgotten object prevention system 1 includes a plurality of cameras 10 as imaging devices. The plurality of cameras 10 are arranged in various places in the taxi vehicle so as not to make a blind spot as much as possible. In this embodiment, the right seat camera 11 that captures the foot of the right seat of the rear seat, the left seat camera 12 that captures the foot of the left seat of the rear seat, the overhead camera 13 that captures the rear seat from the overhead, and the interior of the trunk A trunk camera 14 is provided in the vehicle.
However, the number and arrangement of the cameras 10 are not limited to this example, and are appropriately provided in consideration of cost and accuracy of detecting forgotten items.

カメラ10は、赤外線に感度を持つ赤外線カメラであり、自動シャッタにより静止画像を撮る。シャッタ音は出ないように設定する。赤外線カメラは、可視光線の赤色より波長が長く(周波数が低い)、電波より波長の短い電磁波に感度を持つカメラであり、可視光による撮像ができない部位、例えばトランク内部、後部座席のフロアマット、夜のように車内が暗い場合であっても撮像が可能である。また、赤外線カメラでは、被写体の相対的な大きさの解析によって乗客の存在は認識できるが、乗客の顔までは識別しない。そのため、乗客のプライバシーを害することもない。   The camera 10 is an infrared camera having sensitivity to infrared rays, and takes a still image with an automatic shutter. Set so that shutter sound does not come out. An infrared camera is a camera having a wavelength longer than that of visible red (having a lower frequency) and sensitivity to an electromagnetic wave having a wavelength shorter than that of radio waves, and cannot be imaged by visible light, for example, inside a trunk, a floor mat of a rear seat, Even when the interior of the vehicle is dark like night, it is possible to take an image. The infrared camera can recognize the presence of a passenger by analyzing the relative size of the subject, but does not identify the passenger's face. Therefore, passenger privacy is not harmed.

忘れ物防止システム1は、忘れ物検知に関する主な機能をコンピュータの一種である制御部20において形成する。制御部20は、インタフェース21、CPU(Central Processing Unit)22、RAM(Random Access Memory)23、ROM(Read Only Memory)24を備える。また、大容量記録媒体であるHDD(Hard Disk Drive)25を備える。
インタフェース21、CPU22、RAM23、ROM24及びHDD25は、バスを介して相互にデータの送受信が可能に接続されている。
The thing-left-behind prevention system 1 forms the main function regarding the thing-left-behind detection in the control part 20 which is a kind of computer. The control unit 20 includes an interface 21, a CPU (Central Processing Unit) 22, a RAM (Random Access Memory) 23, and a ROM (Read Only Memory) 24. In addition, an HDD (Hard Disk Drive) 25 that is a large-capacity recording medium is provided.
The interface 21, CPU 22, RAM 23, ROM 24, and HDD 25 are connected to each other via a bus so as to be able to transmit and receive data.

インタフェース21は、カメラ10により撮像された赤外線画像を取得する。インタフェース21は、タクシーメータ30に接続されており、タクシーメータ30の状態(賃走、空車、割増、支払)を表す状態データを取得する。タクシーメータ30は、乗務員の操作により、その状態(賃走状態、空車状態、割増状態、支払状態)が変更されるが、後述するとおり、制御部20からの制御データにより、状態が強制変更される場合もある。
インタフェース21は、警告部40にも接続されている。警告部40は、スピーカ41及び警告灯42に接続される。
The interface 21 acquires an infrared image captured by the camera 10. The interface 21 is connected to the taximeter 30 and acquires state data representing the state of the taximeter 30 (rental, empty car, premium, payment). The taxi meter 30 is changed in its state (rental state, empty state, premium state, payment state) by the operation of the crew, but as described later, the state is forcibly changed by the control data from the control unit 20. There is also a case.
The interface 21 is also connected to the warning unit 40. The warning unit 40 is connected to a speaker 41 and a warning lamp 42.

CPU22は、HDD25から本発明のコンピュータプログラムを読み込み、さらに、ROM24から制御に必要な制御プログラムを読み込み、これらをRAM23を作業領域として実行することで、乗客の忘れ物検知に関する処理を実行する。   The CPU 22 reads the computer program of the present invention from the HDD 25, reads the control program necessary for control from the ROM 24, and executes these as the work area by the RAM 23, thereby executing processing related to passenger left behind detection.

図2は、CPU22がコンピュータプログラムを実行することで制御部20に形成される機能を表す機能ブロック図である。
制御部20は、画像管理部101、通知部104、メータ管理部105、波長毎の画像解析部201〜204、解析結果比較部205〜208、解析結果保持部209〜212、判別部300として機能する。
FIG. 2 is a functional block diagram showing functions formed in the control unit 20 when the CPU 22 executes a computer program.
The control unit 20 functions as the image management unit 101, the notification unit 104, the meter management unit 105, the image analysis units 201 to 204 for each wavelength, the analysis result comparison units 205 to 208, the analysis result holding units 209 to 212, and the determination unit 300. To do.

メータ管理部105は、タクシーメータ30の管理と、タクシーメータ30からの状態データに基づく画像管理部101の制御とを行う。具体的には、インタフェース21を通じてタクシーメータ30より取得した状態データに基づき、タクシーの状態を認識する。例えばタクシーメータ30からの状態データが賃走状態を表すものであれば、乗客を乗車させて走行している状態と認識する。同様に、空車状態であれば、乗客が存在しない状態で走行している状態と認識する。割増状態であれば、深夜帯に乗客を乗車させて走行している状態と認識する。支払状態であれば、賃走状態の後に停止して、乗客から支払いを受けている状態と認識する。   The meter management unit 105 performs management of the taximeter 30 and control of the image management unit 101 based on state data from the taximeter 30. Specifically, the state of the taxi is recognized based on the state data acquired from the taximeter 30 through the interface 21. For example, if the state data from the taximeter 30 represents the rented state, the state is recognized as a state in which a passenger is riding. Similarly, if the vehicle is in an empty state, the vehicle is recognized as being in a state where no passenger is present. If it is in the premium state, it is recognized as a state where a passenger is riding in the middle of the night. If it is a payment state, it will stop after a hiring state, and will recognize that it is the state which has received payment from the passenger.

これらの認識結果に基づき、メータ管理部105は、カメラ10の作動タイミング(シャッタの押下及びそれにより撮像された画像の取得タイミング)を定めるカメラ制御信号を画像管理部101へ送出する。また、後述する判別部300から制御データを受信したときに、タクシーメータ30の状態を強制的に変更する。
メータ管理部105におけるこれらの機能動作については、後述する。
Based on these recognition results, the meter management unit 105 sends to the image management unit 101 a camera control signal that determines the operation timing of the camera 10 (pressing of the shutter and the acquisition timing of an image captured thereby). In addition, when control data is received from the determination unit 300 described later, the state of the taximeter 30 is forcibly changed.
These functional operations in the meter management unit 105 will be described later.

画像管理部101は、上記のカメラ制御信号に基づき、カメラ10から赤外線画像(画像を表現するための電子データ)を取得する。赤外線画像は、タクシーが空車状態のときは一定時間毎、例えば1分間毎に繰り返し取得する。タクシーが乗客を乗せるために停止し、賃走状態に変化したときは、取得を停止しても良いが、乗客の有無を監視する場合は、そのまま継続するか、あるいは赤外線画像の取得周期を5分以上にして取得する。タクシーが空車状態から賃走状態に変化し、さらに支払い状態に変化した場合は、その時点で赤外線画像を取得し、その後、画像取得を停止する。以後の説明では、特に、区別する必要がない場合を除き、空車状態又は賃走状態で取得する赤外線画像を第1赤外線画像、支払い状態に変化したときに取得する赤外線画像を第2赤外線画像という。   The image management unit 101 acquires an infrared image (electronic data for representing an image) from the camera 10 based on the camera control signal. The infrared image is repeatedly acquired at regular intervals, for example, every minute when the taxi is in an empty state. When the taxi stops to take passengers and changes to a rented state, the acquisition may be stopped. However, when monitoring the presence of passengers, the acquisition may be continued or the infrared image acquisition period may be set to 5 Get in minutes or more. When the taxi changes from an empty state to a rental state and further changes to a payment state, an infrared image is acquired at that point, and then image acquisition is stopped. In the following description, unless specifically distinguished, an infrared image acquired in an empty state or a rented state is referred to as a first infrared image, and an infrared image acquired when the payment state is changed is referred to as a second infrared image. .

取得した赤外線画像は、複数の波長の画像の集合として画像管理部101に入力される。波長A画像解析部201は、これらの複数の波長の画像のうち、波長Aの画像に映されている物体の輪郭、配置等を解析し、解析結果を、解析結果保持部209に保持させる。この処理を赤外線画像を取得する度に繰り返す。   The acquired infrared image is input to the image management unit 101 as a set of images of a plurality of wavelengths. The wavelength A image analysis unit 201 analyzes the outline, arrangement, and the like of the object shown in the image of wavelength A among these multiple wavelength images, and causes the analysis result holding unit 209 to hold the analysis results. This process is repeated every time an infrared image is acquired.

解析結果比較部205は、解析結果保持部209に保持されている解析結果と今回の解析結果とを比較する。解析結果が同じである場合は、車内に変化が無いことを表す情報(「変化無し」)を判別部300へ出力する。画像の同じ位置で毎回映される物体は、固定的に設置されている物体ということになるので、当該物体を基準物体として保持したり、あるいは、当該基準物体にマスキングを施し、毎回の解析及び比較のための処理負荷を軽減するようにしてよい。   The analysis result comparison unit 205 compares the analysis result held in the analysis result holding unit 209 with the current analysis result. If the analysis results are the same, information indicating that there is no change in the vehicle (“no change”) is output to the determination unit 300. An object that is projected each time at the same position in the image is an object that is fixedly installed, so that the object can be held as a reference object, or the reference object can be masked and analyzed each time. The processing load for comparison may be reduced.

一方、解析結果が異なる場合は、車内の物体の配置に変化があったことを表す情報(「変化有り」)を判別部300へ出力する。解析結果が異なる場合は、例えば、基準物体とは異なる物体が新たに存在することになった場合、あるいは、乗客と思われる物体が存在する場合である。乗客が映り込む場合、乗客は赤外線画像における相対割合が大きくなるのが通常であり、しかも、乗客の場合には体温が検知される。そのため、そのような物体を乗客とみなし、「変化有り」に加え、乗客の存在を表す情報(「乗客有り」)を判別部300へ出力する。   On the other hand, when the analysis results are different, information (“changed”) indicating that the arrangement of the object in the vehicle has changed is output to the determination unit 300. The case where the analysis results are different is, for example, a case where an object different from the reference object is newly present, or a case where an object which is considered to be a passenger is present. When a passenger is reflected, the passenger usually has a large relative ratio in the infrared image, and in the case of a passenger, the body temperature is detected. Therefore, such an object is regarded as a passenger, and information indicating the presence of the passenger (“passenger present”) is output to the determination unit 300 in addition to “changed”.

同様の処理を、波長B画像解析部202、波長C画像解析部203、波長D画像解析部204、解析結果比較部206,207,208、解析結果保持部210,211,212について行う。すなわち、波長B画像解析部202は、波長Bの画像に映されている物体の輪郭、配置等を解析し、解析結果を解析結果保持部210に保持させる。波長C画像解析部203は、波長Cの画像に映されている物体の輪郭、配置等を解析し、解析結果を解析結果保持部211に保持させる。波長D画像解析部203は、波長Dの画像に映されている物体の輪郭、配置等を解析し、解析結果を解析結果保持部212に保持させる。解析結果比較部206,207,208は、それぞれ対応する解析結果保持部に保持されている最新の解析結果と今回の解析結果とを比較する。   Similar processing is performed for the wavelength B image analysis unit 202, the wavelength C image analysis unit 203, the wavelength D image analysis unit 204, the analysis result comparison units 206, 207, 208, and the analysis result holding units 210, 211, 212. That is, the wavelength B image analysis unit 202 analyzes the outline, arrangement, and the like of the object shown in the image of the wavelength B, and causes the analysis result holding unit 210 to hold the analysis result. The wavelength C image analysis unit 203 analyzes the outline, arrangement, and the like of the object shown in the wavelength C image, and causes the analysis result holding unit 211 to hold the analysis result. The wavelength D image analysis unit 203 analyzes the contour, arrangement, and the like of the object shown in the image of the wavelength D, and causes the analysis result holding unit 212 to hold the analysis result. The analysis result comparison units 206, 207, and 208 compare the latest analysis result held in the corresponding analysis result holding unit with the current analysis result.

なお、画像管理部101は、波長A、波長B、波長C、波長Dのうち、撮像時点の撮像環境では他の波長よりも高い解像度となる1つ又はいくつか(本例では3つ以下)の波長の解析結果だけを有効にすることを判別部300に通知しておくことが望ましい。
有効にする波長は、車内へのカメラ10の取付位置、カメラ10の性能、走行時間帯、天候、車内へ入射される太陽光の状況のような撮像環境に応じた実測結果に基づき、個別に設定する。例えば、さまざまな季節、天候、時間帯第1赤外線画像又は第2赤外線画像を波長A、波長B、波長C、波長D毎に解析した結果、解析結果同士の比較が最も容易な波長の解析結果が波長A,波長Dのものであったする。この場合、波長B、波長Cについては無効フラグを立て、あるいは、波長A及び波長Dの画像解析について有効フラグを立て、波長A及び波長Dの画像解析結果だけがフィルタリングされるようにする。
It should be noted that the image management unit 101 has one or several resolutions of wavelength A, wavelength B, wavelength C, and wavelength D that have higher resolution than other wavelengths in the imaging environment at the time of imaging (three or less in this example). It is desirable to notify the determination unit 300 that only the wavelength analysis result is valid.
The wavelength to be effective is individually determined based on the measurement result corresponding to the imaging environment such as the mounting position of the camera 10 in the vehicle, the performance of the camera 10, the traveling time zone, the weather, and the state of sunlight incident on the vehicle. Set. For example, as a result of analyzing the first infrared image or the second infrared image in various seasons, weather, time zones for each of the wavelength A, the wavelength B, the wavelength C, and the wavelength D, the analysis result of the wavelength that is the easiest to compare the analysis results Are those of wavelength A and wavelength D. In this case, the invalid flag is set for the wavelength B and the wavelength C, or the valid flag is set for the image analysis of the wavelength A and the wavelength D so that only the image analysis results of the wavelength A and the wavelength D are filtered.

判別部300は、メータ管理部105より入力される状態データ、画像管理部101より入力される有効波長の情報、及び、有効波長の赤外線画像の解析結果の比較内容に応じて、車内における乗客、乗客の忘れ物である可能性のある物体の判別を行う。すなわち、乗客が乗車する前と降車するときの赤外線画像同士を単に比較するのではなく、取得した赤外線画像に映された物体の解析結果の比較により、乗客又は物体の存在の有無を判別する。   The discriminating unit 300 is a passenger in the vehicle according to the comparison of the status data input from the meter management unit 105, the information on the effective wavelength input from the image management unit 101, and the analysis result of the infrared image of the effective wavelength. Identify objects that may be forgotten passengers. That is, the presence or absence of the passenger or the object is determined by comparing the analysis results of the object reflected in the acquired infrared image, rather than simply comparing the infrared images before the passenger gets on and when getting off.

例えば、タクシーが空車状態で、有効な波長の画像解析が波長A及び波長Dのものであり、解析結果比較部205、208から「変化無し」の情報が入力されている場合は、物体も乗客も存在しないと判別する。
他方、タクシーが賃走状態から支払状態に変化し、乗客が降車したにも関わらず「変化有り」の情報が入力されている場合は、直前に乗車した乗客の忘れ物の可能性がある物体が存在すると判別する。また、タクシーが空車状態であるにも関わらず、「乗客有り」の情報が入力される場合、あるいは、タクシーが賃走状態であるにも関わらず、「変化無し」の情報が入力される場合は、タクシーメータ30の変更し忘れの可能性があると判別する。
For example, when the taxi is in an empty state, the image analysis of the effective wavelength is for the wavelength A and the wavelength D, and the information “no change” is input from the analysis result comparison units 205 and 208, the object is also a passenger Is determined not to exist.
On the other hand, if the taxi changes from the rented state to the paid state and the passengers get off, but “changed” information is entered, the object that may be left behind by the passenger It is determined that it exists. In addition, when the taxi is in an empty state and “passenger” information is input, or when the taxi is in a rented state and “no change” information is input Determines that the taximeter 30 may be forgotten to be changed.

判別部300は、タクシーメータ30の変更し忘れの可能性がある状態が、一定時間(例えば1分間)以上継続する場合は、その旨を表す報知情報を通知部104へ出力するとともに、制御データをタクシーメータ管理部105に出力する。報知情報は乗務員へ報知する目的で生成される情報であり、制御データは、タクシーメータ30の状態を変更させるためのデータである。制御データは、報知情報の出力後一定時間経過後も同じ状態であるときに出力される。制御データを受領したタクシーメータ管理部105は、タクシーメータ30の状態を強制的に変更することができる。   When the state where there is a possibility that the taximeter 30 may be forgotten to be changed continues for a certain time (for example, 1 minute) or longer, the determination unit 300 outputs notification information indicating that fact to the notification unit 104 and controls data Is output to the taximeter management unit 105. The notification information is information generated for the purpose of notifying the crew, and the control data is data for changing the state of the taximeter 30. The control data is output when it is in the same state even after a certain period of time has elapsed after the notification information is output. The taximeter management unit 105 that has received the control data can forcibly change the state of the taximeter 30.

通知部104は、メータ管理部105からの報知情報と、判別部300からの判別結果とをもとに警告情報を生成し、この警告情報を警告部40に向けて出力する。警告情報の内容及びデータ形式は、報知情報かどうか、あるいは、判別部300の判別結果がどのような内容かによって異なるものとなる。
報知情報の場合、警告情報は、乗客にその旨が知得されることがないようにするため、警告灯42の作動信号として生成される。この作動信号により、警告等42が例えば赤色で点滅する。また、判別部300の判別結果が「変化有り」の場合、警告情報は、「忘れ物が存在する可能性があります。」という音声メッセージであり、スピーカ41から合成音声により出力される。
なお、警告情報の出力は、スピーカ41又は警告等42以外の出力装置であってもよい。
The notification unit 104 generates warning information based on the notification information from the meter management unit 105 and the determination result from the determination unit 300, and outputs this warning information to the warning unit 40. The content and data format of the warning information differ depending on whether the information is notification information or the content of the determination result of the determination unit 300.
In the case of the notification information, the warning information is generated as an operation signal of the warning lamp 42 so that the passenger is not informed. Due to this operation signal, the warning 42 flashes in red, for example. When the determination result of the determination unit 300 is “changed”, the warning information is a voice message “There is a possibility that something left behind is present”, and is output from the speaker 41 as synthesized speech.
The warning information may be output from an output device other than the speaker 41 or the warning 42.

<カメラ配置>
図3は、カメラ10の具体的な配置及び撮像部位の説明図である。図3(a)は、タクシー車内を横から見た場合の断面図であり、図3(b)は、タクシー車内の俯瞰図である。上述の通り、本実施形態において配置されるカメラ10は、右シートカメラ11、左シートカメラ12、頭上カメラ13、及びトランクカメラ14の4台である。
<Camera layout>
FIG. 3 is an explanatory diagram of a specific arrangement of the camera 10 and an imaging part. FIG. 3A is a cross-sectional view when the inside of the taxi car is viewed from the side, and FIG. 3B is an overhead view of the inside of the taxi car. As described above, the four cameras 10 arranged in the present embodiment are the right seat camera 11, the left seat camera 12, the overhead camera 13, and the trunk camera 14.

右シートカメラ11は、前列座席右シートの下部に設けられており、後部座席右シート前のフロアマット上及び後部座席右シートと後部座席右側ドアとの間を撮像可能に配置される。左シートカメラ12は、前列座席左シートの下部に設けられており、後部座席左シート前のフロアマット上及び後部座席左シートと後部座席左側ドアとの間を撮像可能に配置される。右シートカメラ11及び左シートカメラ12は、それぞれ、後部座席シートの座面より下側を撮像するようにする。これにより、右シートカメラ11及び左シートカメラ12は、後部座席シートに乗車する乗客の顔を撮像することはできないし、乗客にこれらのカメラ11,12の存在を気付かせることもない。   The right seat camera 11 is provided below the right seat in the front row seat, and is arranged on the floor mat in front of the rear seat right seat and between the rear seat right seat and the rear seat right door so as to capture an image. The left seat camera 12 is provided below the front seat left seat, and is disposed on the floor mat in front of the rear seat left seat and between the rear seat left seat and the rear seat left door so that an image can be taken. Each of the right seat camera 11 and the left seat camera 12 captures images below the seating surface of the rear seat. Thereby, the right seat camera 11 and the left seat camera 12 cannot image the face of the passenger who gets on the rear seat, and the passenger does not notice the presence of these cameras 11 and 12.

頭上カメラ13は、後部座席シート上の天井に設けられており、後部座席シートの座面上を撮像可能に配置される。頭上カメラ13を後部座席シートの背もたれ部分より後方に配置することで、後部座席シートに乗車する乗客の顔を撮像することはできないし、乗客にそのカメラ13の存在を気付かせることもない。しかし、後方過ぎると頭上カメラ13から後部座席シート上に死角ができる。そのため、忘れ物検知の観点からは、あまり後方に頭上カメラ13を配置することは好ましくない。本実施形態では、頭上カメラ13を後部座席シートのヘッドレスト上方に設けており、乗客の顔を撮像することなく、後部座席シートの座面上全体を撮像することとしている。   The overhead camera 13 is provided on the ceiling on the rear seat, and is arranged so as to be able to capture an image on the seat surface of the rear seat. By disposing the overhead camera 13 behind the backrest portion of the rear seat, it is not possible to image the face of the passenger riding on the rear seat, and the passenger is not made aware of the presence of the camera 13. However, if it is too far behind, a blind spot is formed on the rear seat from the overhead camera 13. For this reason, it is not preferable to place the overhead camera 13 too far from the viewpoint of forgotten object detection. In this embodiment, the overhead camera 13 is provided above the headrest of the rear seat, and the entire seat surface of the rear seat is imaged without imaging the passenger's face.

トランクカメラ14は、トランク内上部に設けられており、トランクの床面全体を撮像可能に配置される。   The trunk camera 14 is provided in the upper part in the trunk, and is arranged so as to be able to image the entire floor surface of the trunk.

以上のように本実施形態のカメラ10は、タクシー車内の、主に後部座席シート周辺、フロアマット、及びトランク内部を撮像可能に配置される。忘れ物の検知精度を上げる場合には、カメラの台数を増やす。例えば頭上カメラ13を2台にして、後部座席右シート上及び後部座席左シート上に設けるようにしてもよい。また、逆に、乗務員により比較的視認しやすい後部座席左シート周辺を撮像部位から除く(左シートカメラ12を除く)ようにしてコストを削減してもよい。また、カメラ10にパン、チルトが可能なもの或いは広角レンズを用いて、撮像部位を可変にして、1台のカメラで広範囲を撮像するようにしてもよい。   As described above, the camera 10 of the present embodiment is arranged so as to be able to image mainly the vicinity of the rear seat, the floor mat, and the trunk inside the taxi vehicle. Increase the number of cameras in order to increase the accuracy of detecting lost items. For example, two overhead cameras 13 may be provided on the rear seat right seat and the rear seat left seat. Conversely, the cost may be reduced by excluding the rear seat left seat periphery that is relatively easy to see by the crew from the imaging region (excluding the left seat camera 12). Alternatively, the camera 10 may be capable of panning and tilting, or a wide-angle lens, and the imaging region may be made variable to capture a wide range with a single camera.

<運用形態:情報提供方法>
次に、上記のように構成される忘れ物防止システム1の運用形態例を説明する。ここでは、忘れ物防止システム1を、乗務員に対する情報提供のためのツールとして使用する場合の例を挙げる。
図4は、忘れ物防止システム1において実行される情報処理のタイミングの説明図である。この情報処理は、乗客の乗車、降車、タクシーの発車等のイベントにより、主として乗務員により操作されるタクシーメータ30の状態に応じて適宜行われる。なお、図4では、空車状態では乗客が存在せず、賃走状態では乗客が存在する場合の例である。
<Operation mode: Information provision method>
Next, an operation mode example of the forgotten object prevention system 1 configured as described above will be described. Here, an example in which the forgotten object prevention system 1 is used as a tool for providing information to crew members will be described.
FIG. 4 is an explanatory diagram of the timing of information processing executed in the forgotten object prevention system 1. This information processing is appropriately performed depending on the state of the taximeter 30 operated mainly by the crew by events such as passenger boarding, getting off, and taxi departure. FIG. 4 shows an example in which there are no passengers in the empty state and there are passengers in the rental state.

忘れ物防止システム1が実行する処理は、タクシーが空車状態のときに、カメラ10より取得した第1赤外線画像のうち、有効波長の画像に映された物体の輪郭、位置等を解析し、その解析結果を保持するとともに、空車状態から賃走状態に変化した後、乗客が降車する際にカメラ10より取得した第2赤外線画像に映された物体を解析し、その解析結果を保持されている解析結果と比較する段階を有する。   The process executed by the forgotten object prevention system 1 analyzes the outline, position, etc. of the object shown in the effective wavelength image in the first infrared image acquired from the camera 10 when the taxi is empty. The result is retained, and the object reflected in the second infrared image acquired from the camera 10 is analyzed when the passenger gets off after changing from the empty state to the rented state, and the analysis result is retained. Comparing with results.

赤外線画像に映された物体の解析には多大な処理を要するところ、空車状態では、忘れ物防止システム1の処理負荷が比較的少ないため、そのような解析を詳細に行うことができる。そのため、通常は賃走状態よりも長い時間走行する空車状態のときに、第1赤外線画像に基づき、車内後部のシート周辺、フロア・マット、及びトランク内部の配置状況を特定するなどの解析を行い、その結果を保持しておく。これらの処理は走行中、繰り返し行われる。その周期は、上述したとおり通常は1分程度であるが、空車状態が一定時間継続される度に自動的に間隔が長くなるようにしてもよい。   The analysis of the object reflected in the infrared image requires a great deal of processing. However, since the processing load of the forgotten object prevention system 1 is relatively small in the empty state, such an analysis can be performed in detail. Therefore, when the vehicle is in an empty state where it normally travels longer than the rented state, an analysis such as specifying the arrangement of the area around the rear seat, floor mat, and trunk is performed based on the first infrared image. , Keep the result. These processes are repeated during traveling. The period is normally about 1 minute as described above, but the interval may be automatically increased every time the empty state is continued for a certain period of time.

乗客が降車するときには、乗務員により、タクシーメータ30が賃走状態から支払状態に変えられる。支払状態のときに忘れ物防止システム1が実行する処理は、第2赤外線画像に映された物体の解析を行い、予め保持されている最新の解析結果と第1赤外線画像による解析結果との比較を行い、比較内容に応じて、乗客以外の物体が車内に存在するかどうかを判別する段階と、乗客以外の物体が車内に存在すると判別された場合に、乗務員に向けて、忘れ物が発生した可能性があることを警告する段階とを有する。
警告は、タクシーメータ30が賃走状態の後、乗客が降車した所定時間経過前、例えば降車直後から1分以内に行う。これにより、乗客がタクシーから離れる前に乗務員が忘れ物の有無を確認することができる。
When the passenger gets off, the taxi meter 30 is changed from the rented state to the paid state by the crew. The process executed by the forgotten object prevention system 1 in the payment state analyzes the object reflected in the second infrared image, and compares the latest analysis result stored in advance with the analysis result by the first infrared image. Depending on the content of the comparison, it is possible to determine whether there are objects other than passengers in the vehicle, and if it is determined that objects other than passengers exist in the vehicle, there is a possibility that forgotten things have occurred for the crew Warning that there is sex.
The warning is given after the taxi meter 30 is in a rented state and before a lapse of a predetermined time when the passenger gets off, for example, within one minute immediately after getting off. Thereby, before a passenger leaves a taxi, a crew member can check the presence or absence of a thing left behind.

なお、乗客による支払いが迅速に行われ、警告が発車に間に合わない可能性もある。発車後に警告が行われると、忘れ物の可能性を検知しても忘れ物の防止にならない。そのため、警告を発車の前に確実に行うために、警告の他に忘れ物の可能性が無い旨の通知を行うようにしてもよい。
あるいは、乗務員が警告又は報知情報に対して応答した場合にだけ発車を許可する許可機能を制御部20に設けることで、警告が発車後に行われることを防止するようにしてもよい。この場合の乗務員による応答は、例えば警告又は報知情報の出力がスピーカ41により行われる場合にはスピーカ41の消音、警告灯42により行われる場合には警告灯42のリセットがある。これにより、忘れ物の可能性がある物体が存在する場合に、タクシーの乗務員に確実にその状況を知らせることができる。
In addition, there is a possibility that the payment is made promptly by the passenger and the warning is not in time for departure. If a warning is issued after departure, even if the possibility of forgotten items is detected, it will not be prevented. Therefore, in order to reliably issue a warning before departure, a notification that there is no possibility of forgetfulness other than the warning may be given.
Or you may make it prevent that a warning is performed after departure by providing the control part 20 with the permission function which permits a departure only when a crew member responds with respect to warning or alerting | reporting information. The response by the crew in this case includes, for example, mute of the speaker 41 when the warning or notification information is output by the speaker 41, and reset of the warning light 42 when the warning light 42 is used. Thus, when there is an object that may be left behind, the taxi crew can be surely notified of the situation.

上記の乗務員に対する情報提供を行う際の忘れ物防止システム1の処理手順は、以下のようになる。
図5は、乗客が降りようとするときの情報提供処理の手順説明図である。忘れ物防止システム1は、タクシーメータ30が支払状態であることを確認する。支払状態でなければ、当該情報提供処理を行わない(S10:N)。
タクシーメータ30が支払状態であれば(S10:Y)、乗客が降車するタイミングであるので、制御部20は、「ご乗車ありがとうございます。お忘れ物の無いようにお手回りの品をご確認ください。」のような音声案内を、スピーカ41により行う(S11)。このような音声案内により、まず、乗客に忘れ物への注意を喚起する。
The processing procedure of the left-behind item prevention system 1 when providing information to the crew is as follows.
FIG. 5 is an explanatory diagram of the procedure for providing information when a passenger is about to get off. The thing-left-behind prevention system 1 confirms that the taximeter 30 is in a payment state. If it is not in the payment state, the information providing process is not performed (S10: N).
If the taxi meter 30 is in the payment state (S10: Y), it is time for the passengers to get off, so the control unit 20 says "Thank you for the ride. Please check the items around you so that there are no leftovers. The voice guidance such as “is performed by the speaker 41 (S11). With such voice guidance, first, the passengers are alerted to things left behind.

音声案内中に、忘れ物防止システム1は、第1赤外線画像に映された物体の解析結果と第2赤外線画像に映された物体の解析結果の比較内容に応じて忘れ物の可能性がある物体の有無を判別する(S12)。具体的には、第2赤外線画像における解析結果と、予め保持されている第1赤外線画像における解析結果とを比較する。その結果、いずれも基準物体であり、変化が無い場合は、忘れ物の可能性のある物体が存在しないことになるので、変化無し通知を行い、そのまま当該情報提供処理を終える(S12「無」)。
第2赤外線画像に映された物体を確認できない場合、例えば車外からの光が強すぎる場合(赤外線画像の白飛び等)場合(S12「判断不可」)、次の周期の第2赤外線画像に基づく判別処理を繰り返す。それでも判断できない場合は、基準物体と異なる物体が存在しないと判別する。当該物体が存在した場合(S12:有)、警告を出力する(S13)。
During the voice guidance, the forgotten object prevention system 1 determines the object that may be forgotten according to the comparison contents of the analysis result of the object reflected in the first infrared image and the analysis result of the object reflected in the second infrared image. The presence or absence is discriminated (S12). Specifically, the analysis result in the second infrared image is compared with the analysis result in the first infrared image held in advance. As a result, if both are reference objects and there is no change, there is no object that may be forgotten, so a notification of no change is made, and the information providing process is finished as it is (S12 “No”). .
When the object reflected in the second infrared image cannot be confirmed, for example, when the light from the outside of the vehicle is too strong (such as overexposure of the infrared image) (S12 “cannot be determined”), it is based on the second infrared image of the next cycle. Repeat the discrimination process. If it is still impossible to determine, it is determined that there is no object different from the reference object. If the object exists (S12: present), a warning is output (S13).

以上のような処理により、乗務員は、スピーカ41からの警告音(音声)や警告灯42の表示により、忘れ物の発生の可能性を知ることができるので、降車した乗客に対して直ちに、忘れ物に対する注意を喚起することができる。   Through the processing as described above, the crew can know the possibility of occurrence of forgotten things from the warning sound (voice) from the speaker 41 and the display of the warning light 42. You can call attention.

<走行中の解析処理>
図6及び図7は、タクシーが走行しているときに忘れ物防止システム1が実行する処理手順説明図である。図6は、タクシーメータ30が支払状態から空車状態に変化した後にタクシーが走行を開始したとき、図7はタクシーメータ30が賃走状態で走行しているときの例である。なお、図6では、空車状態時に解析した基準物体に関する情報が解析結果として保持されているものとする。
<Analysis process during travel>
6 and 7 are explanatory diagrams of processing procedures executed by the forgotten object prevention system 1 when a taxi is traveling. FIG. 6 shows an example when the taxi starts running after the taxi meter 30 changes from the paid state to the empty state, and FIG. 7 shows an example when the taxi meter 30 runs in the rented state. In FIG. 6, it is assumed that information on the reference object analyzed in the empty state is held as an analysis result.

図6を参照すると、忘れ物防止システム1は、タクシーメータ30が空車状態であることを認識すると(S20:Y)、物体、乗客の判別処理を行う(S21)。すなわちカメラ10から赤外線画像を取得して、その赤外線画像に映された車内の物体の輪郭、配置等を解析する。赤外線画像に映された物体が乗客かどうかの判別基準については上述したとおりである。今回の解析結果と予め保持されている前回の解析結果と比較し、基準物体との変化が無ければ、忘れ物の可能性のある物体が存在しないことになるので、変化無し通知を行い(S21「変化無し」,S22)、S20の処理に戻る。変化無し通知は、警告灯42を緑色に点灯させてもよく、あるいは、何も表示させないようにしてもよい。   Referring to FIG. 6, when the forgotten object prevention system 1 recognizes that the taximeter 30 is in an empty state (S20: Y), it performs an object / passenger discrimination process (S21). That is, an infrared image is acquired from the camera 10, and the outline, arrangement, etc. of the object in the vehicle reflected in the infrared image are analyzed. The criterion for determining whether or not the object shown in the infrared image is a passenger is as described above. If the current analysis result is compared with the previous analysis result held in advance, if there is no change from the reference object, there is no object that may be forgotten, so no change notification is given (S21 “ No change ", S22), and the process returns to S20. In the notification of no change, the warning lamp 42 may be lit in green, or nothing may be displayed.

S21において、乗客に相当する物体は存在しないが、基準物体と異なる物体が存在すると判別した場合(S21:「変化有り」,「乗客無し」)、忘れ物防止システム1は、その物体を輪郭等によって特定する(S23)。この状態は、図5の情報提供処理の際における物体の判別漏れであるため、改めて警告を出した後、S20の処理に戻る。   In S21, when it is determined that there is no object corresponding to the passenger but there is an object different from the reference object (S21: “changed”, “no passenger”), the forgotten object prevention system 1 uses the contour or the like as the object Specify (S23). Since this state is an object discrimination failure in the information providing process of FIG. 5, a warning is issued again, and the process returns to S20.

S21において、乗客が存在すると判別した場合(S21:「変化有り」,「乗客有り」)、タクシーメータ30の状態と実際の車内の状態とが異なることになる。これは、一般的には、乗務員がタクシーメータ30を空車状態から賃走状態ないし割増状態に切り替え忘れた場合に生じる現象である。そこで、忘れ物防止システム1は、乗客有り通知を行い(S24)、警告灯42を点滅させる。一定時間経過前であれば、警告灯42の点滅状態を継続したままS20に戻る。一定時間経過後も同じであれば、タクシーメータ30の状態を強制的に変更させる(S25:Y、S26)。
なお、乗務員が応答した場合に警告灯42の点滅を解消できることは、上述したとおりである。また、タクシーメータ30の状態を強制的に変更させる必要がない場合は、その処理を省略し、乗客有り通知のまま、S20に戻るようにする。
In S21, when it is determined that there is a passenger (S21: “changed”, “passenger present”), the state of the taximeter 30 and the actual in-vehicle state are different. This is a phenomenon that generally occurs when the crew member forgets to switch the taximeter 30 from the empty state to the rented state or the premium state. Therefore, the forgotten object prevention system 1 notifies that there is a passenger (S24) and blinks the warning lamp 42. If the predetermined time has not elapsed, the process returns to S20 while the blinking state of the warning lamp 42 is continued. If it is the same after a lapse of a certain time, the state of the taximeter 30 is forcibly changed (S25: Y, S26).
As described above, the flashing of the warning light 42 can be eliminated when the crew member responds. Moreover, when it is not necessary to change the state of the taximeter 30 compulsorily, the process is abbreviate | omitted and it returns to S20 with a passenger presence notification.

図7を参照し、忘れ物防止システム1は、タクシーメータ30が賃走状態であることを認識すると(S30:Y)、乗客の有無の判別を行う(S31)。
S31において、乗客が存在すると判別した場合(S31:「乗客有り」)、タクシーメータ30の状態と実際の車内の状態とが一致するので、乗客有り通知を行い(S32)、S30に戻る。乗客有り通知は、警告灯42を緑色に点灯させてもよく、あるいは、何も表示させないようにしてもよい。
Referring to FIG. 7, when the forgotten object prevention system 1 recognizes that the taximeter 30 is in a rented state (S30: Y), it determines whether or not there are passengers (S31).
In S31, when it is determined that there is a passenger (S31: “passenger present”), the taxi meter 30 and the actual in-vehicle state match, so a passenger presence notification is made (S32), and the process returns to S30. In the passenger presence notification, the warning lamp 42 may be lit in green, or nothing may be displayed.

S31において、乗客が存在しないと判別した場合(S31:「乗客無し」)、タクシーメータ30の状態と実際の車内の状態とが異なることになる。これは、一般的には、乗務員がタクシーメータ30を賃走状態から空車状態に切り替え忘れた場合に生じる現象である。そこで、忘れ物防止システム1は、乗客無し通知を行い(S33)、警告灯42を点滅させる。一定時間経過前であれば、警告灯42の点滅状態を継続したままS30に戻る。一定時間経過後も同じであれば、タクシーメータ30の状態を強制的に変更させる(S34:Y、S35)。
なお、乗務員が応答した場合は、点滅状態を解消できることは、上述したとおりである。また、タクシーメータ30の状態を強制的に変更させる必要がない場合は、その処理を省略し、乗客無し通知のまま、S30に戻るようにする。
In S31, when it is determined that there is no passenger (S31: “No passenger”), the state of the taximeter 30 and the actual in-vehicle state are different. This is a phenomenon that generally occurs when the crew member forgets to switch the taximeter 30 from the rented state to the empty state. Therefore, the forgotten object prevention system 1 notifies that there is no passenger (S33) and blinks the warning lamp 42. If the predetermined time has not elapsed, the process returns to S30 while the blinking state of the warning lamp 42 is continued. If it is the same after a certain time has elapsed, the state of the taximeter 30 is forcibly changed (S34: Y, S35).
As described above, when the crew member responds, the blinking state can be eliminated. Moreover, when it is not necessary to forcibly change the state of the taximeter 30, the process is omitted, and the process returns to S30 with the passenger absence notification.

[実施形態による効果]
以上説明したように、本実施形態の忘れ物防止システム1では、カメラ10のシャッタを押す時点の撮像環境では他の波長よりも高い解像度となる特定波長の赤外線を用いてタクシーの車内を撮像する。そのため、可視光により撮影を行う従来の撮像装置では生じ得る、影を物体と誤認したり、あるいは、影の部分に存在する物体を認識できないなどの事態の発生を防止することができる。
また、赤外線画像に映された物体の輪郭や配置等の解析を繰り返し行い、解析結果同士を比較して、乗客及び忘れ物の可能性の高い物体を判別する。そのため、撮像画像それ自体を保持し、画像同士を比較する場合に比べて、処理の負荷量が著しく軽減される。これにより、乗客が支払いを済ませ、降車するまでの僅かな時間の間に、忘れ物の可能性のある物体を検知することができる。
さらに、赤外線を用いて撮像するため、乗客のプライバシーを害さないことはもとより、トランクルームや後部座席のシート下部あるいはフロアマットのように暗い場所に存在する物体をも識別することができる。そのため、可視光を用いた撮像装置を用いる場合よりも、検知精度を格段に高めることができる。
[Effects of the embodiment]
As described above, in the forgotten object prevention system 1 of the present embodiment, the inside of a taxi is imaged using infrared rays of a specific wavelength that has a higher resolution than other wavelengths in the imaging environment when the shutter of the camera 10 is pressed. For this reason, it is possible to prevent the occurrence of a situation such as misidentifying a shadow as an object or not being able to recognize an object existing in a shadow portion, which may occur in a conventional imaging device that performs imaging using visible light.
Moreover, the analysis of the outline and arrangement of the object reflected in the infrared image is repeatedly performed, and the analysis results are compared with each other to determine an object that is likely to be a passenger or forgotten item. Therefore, the processing load is significantly reduced as compared with the case where the captured image itself is held and the images are compared with each other. As a result, it is possible to detect an object that may be forgotten in a short time until the passenger completes payment and gets off the vehicle.
Furthermore, since imaging is performed using infrared rays, it is possible not only to harm passengers' privacy, but also to identify objects that exist in dark places such as trunk rooms, lower seats of rear seats, or floor mats. Therefore, the detection accuracy can be remarkably improved as compared with the case where an imaging device using visible light is used.

[変形例]
本実施形態は、忘れ物防止システム1をタクシーに搭載した場合の例であるが、タクシー以外にもハイヤー等の他の旅客自動車に搭載してもよい。
また、本実施形態では、特定波長の赤外線画像に映された物体の解析を行う例として、図2の波長別画像解析部201〜204、解析結果比較部205〜208、解析結果保持部209〜212を設けているが、この例に限定されない。例えば、当該特定波長の赤外線だけを透過させるフィルタ(フィルタリング回路)を設けるようにしてもよい。
GPSレシーバを設け、GPSデータから導かれる位置データ及び時刻データに基づいて、いつ、どこで乗車した乗客の忘れ物であるかを特定できるようにしてもよい。この場合、忘れ物の可能性のある物体を判別したときに、当該物体に関する情報をGPSデータに関連付けて保持しておく必要がある。
[Modification]
Although this embodiment is an example when the forgotten object prevention system 1 is mounted in a taxi, it may be mounted in another passenger car such as a hire other than a taxi.
Further, in the present embodiment, as an example of analyzing an object reflected in an infrared image of a specific wavelength, the wavelength-specific image analysis units 201 to 204, the analysis result comparison units 205 to 208, and the analysis result holding unit 209 to FIG. 212 is provided, but is not limited to this example. For example, a filter (filtering circuit) that transmits only infrared rays having the specific wavelength may be provided.
A GPS receiver may be provided so that it is possible to identify when and where the passenger is left behind based on position data and time data derived from the GPS data. In this case, when an object that may be forgotten is determined, it is necessary to store information about the object in association with GPS data.

1…忘れ物防止システム、10…カメラ、11…右シートカメラ、12…左シートカメラ、13…頭上カメラ、14…トランクカメラ、20…制御部、21…インタフェース、22…CPU、23…RAM、24…ROM、25・・・HDD、30…タクシーメータ、40…警告部、41…スピーカ、42…警告灯、101…画像管理部、104…通知部、105…メータ管理部、201〜204・・・波長別の画像解析部、205〜208・・・解析結果比較部、209〜212・・・解析結果保持部。   DESCRIPTION OF SYMBOLS 1 ... Lost thing prevention system, 10 ... Camera, 11 ... Right seat camera, 12 ... Left seat camera, 13 ... Overhead camera, 14 ... Trunk camera, 20 ... Control part, 21 ... Interface, 22 ... CPU, 23 ... RAM, 24 ... ROM, 25 ... HDD, 30 ... Taximeter, 40 ... Warning section, 41 ... Speaker, 42 ... Warning light, 101 ... Image management section, 104 ... Notification section, 105 ... Meter management section, 201-204 An image analysis unit for each wavelength, 205 to 208, an analysis result comparison unit, 209 to 212, an analysis result holding unit.

Claims (3)

乗客が存在する賃走状態と、乗客が存在しない空車状態とを有する旅客自動車に設置され、当該時点の撮像環境では他の波長よりも高い解像度となる特定波長の赤外線を用いて前記旅客自動車の車内を撮像する撮像装置と、
前記空車状態のときに前記撮像装置より取得した第1赤外線画像に映された物体を解析し、その解析結果を保持するとともに、前記空車状態から賃走状態に変化した後、乗客が降車する際に前記撮像装置より取得した第2赤外線画像に映された物体を解析し、その解析結果を前記保持されている解析結果と比較する解析手段と、
前記解析手段による比較内容に応じて、乗客以外の物体が車内に存在するかどうかを判別する判別手段と、
前記乗客以外の物体が車内に存在すると判別された場合に、前記旅客自動車の乗務員に向けて、忘れ物が発生した可能性があることを警告する警告手段と、を備える、
忘れ物防止システム。
It is installed in a passenger car having a renting state where passengers exist and an empty state where no passengers exist, and in the imaging environment at that time, infrared rays of a specific wavelength that has a higher resolution than other wavelengths are used. An imaging device for imaging the interior of the vehicle;
When an object reflected in the first infrared image acquired from the imaging device in the empty state is analyzed, the analysis result is retained, and the passenger gets off after changing from the empty state to the rented state Analyzing the object reflected in the second infrared image acquired from the imaging device, and comparing the analysis result with the held analysis result;
According to the comparison content by the analysis means, a determination means for determining whether an object other than a passenger exists in the vehicle,
When it is determined that an object other than the passenger is present in the vehicle, the warning means for warning that there is a possibility that something left behind has occurred for the passenger of the passenger car,
A left-behind prevention system.
乗客が存在する賃走状態と、乗客が存在しない空車状態とを有する旅客自動車に設置され、当該時点の撮像環境では他の波長よりも高い解像度となる特定波長の赤外線を用いて前記旅客自動車の車内を撮像する撮像装置が接続されるコンピュータが実行する方法であって、
前記旅客自動車が空車状態のときに前記撮像装置より取得した第1赤外線画像に映された物体を解析し、その解析結果を保持するとともに、前記空車状態から賃走状態に変化した後、乗客が降車する際に前記撮像装置より取得した第2赤外線画像に映された物体を解析し、その解析結果を前記保持されている解析結果と比較する段階と、
前記解析結果の比較内容に応じて乗客以外の物体が車内に存在するかどうかを判別する段階と、
前記乗客以外の物体が車内に存在すると判別された場合に、前記旅客自動車の乗務員に向けて、忘れ物が発生した可能性があることを警告する段階とを有する、
旅客自動車の乗務員に対する情報提供方法。
It is installed in a passenger car having a renting state where passengers exist and an empty state where no passengers exist, and in the imaging environment at that time, infrared rays of a specific wavelength that has a higher resolution than other wavelengths are used. A method executed by a computer to which an imaging device for imaging the inside of a vehicle is connected,
Analyzing the object reflected in the first infrared image acquired from the imaging device when the passenger car is in an empty state, holding the analysis result, and after changing from the empty state to the rental state, Analyzing the object reflected in the second infrared image acquired from the imaging device when getting off the vehicle, and comparing the analysis result with the held analysis result;
Determining whether an object other than a passenger exists in the vehicle according to the comparison content of the analysis result;
When it is determined that an object other than the passenger is present in the vehicle, a warning is given to a passenger of the passenger car that there is a possibility that something left behind has occurred.
How to provide information to passenger car crews.
乗客が存在する賃走状態と、乗客が存在しない空車状態とを有する旅客自動車に設置され、当該時点の撮像環境では他の波長よりも高い解像度となる特定波長の赤外線を用いて前記旅客自動車の車内を撮像する撮像装置が接続されるコンピュータを忘れ物防止システムとして動作させるためのコンピュータプログラムであって、
前記コンピュータを、
前記空車状態のときに前記撮像装置より取得した第1赤外線画像に映された物体を解析し、その解析結果を保持するとともに、前記空車状態から賃走状態に変化した後、乗客が降車する際に前記撮像装置より取得した第2赤外線画像に映された物体を解析し、その解析結果を前記保持されている解析結果と比較する解析手段、
前記解析手段による比較内容に応じて乗客以外の物体が車内に存在するかどうかを判別する判別手段、
前記乗客以外の物体が車内に存在すると判別された場合に、前記旅客自動車の乗務員に向けて、忘れ物が発生した可能性があることを警告する警告手段、として機能させるコンピュータプログラム。
It is installed in a passenger car having a renting state where passengers exist and an empty state where no passengers exist, and in the imaging environment at that time, infrared rays of a specific wavelength that has a higher resolution than other wavelengths are used. A computer program for operating a computer connected to an imaging device for imaging an interior of a vehicle as a forgotten object prevention system,
The computer,
When an object reflected in the first infrared image acquired from the imaging device in the empty state is analyzed, the analysis result is retained, and the passenger gets off after changing from the empty state to the rented state Analyzing the object reflected in the second infrared image acquired from the imaging device, and comparing the analysis result with the stored analysis result,
Discriminating means for discriminating whether an object other than a passenger exists in the vehicle according to the comparison content by the analyzing means,
A computer program that functions as a warning unit that warns a passenger in a passenger car that there is a possibility that something left behind has occurred when it is determined that an object other than the passenger is present in the vehicle.
JP2013173444A 2013-08-23 2013-08-23 Lost and found prevention system, information provision method for passenger car crew, computer program Expired - Fee Related JP6343769B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013173444A JP6343769B2 (en) 2013-08-23 2013-08-23 Lost and found prevention system, information provision method for passenger car crew, computer program
PCT/JP2013/078279 WO2015025435A1 (en) 2013-08-23 2013-10-18 System for preventing items from being left behind, method for provision of information to driver of passenger vehicle, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013173444A JP6343769B2 (en) 2013-08-23 2013-08-23 Lost and found prevention system, information provision method for passenger car crew, computer program

Publications (2)

Publication Number Publication Date
JP2015041344A JP2015041344A (en) 2015-03-02
JP6343769B2 true JP6343769B2 (en) 2018-06-20

Family

ID=52483237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013173444A Expired - Fee Related JP6343769B2 (en) 2013-08-23 2013-08-23 Lost and found prevention system, information provision method for passenger car crew, computer program

Country Status (2)

Country Link
JP (1) JP6343769B2 (en)
WO (1) WO2015025435A1 (en)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018024263A (en) * 2013-10-28 2018-02-15 順一 浅間 System for detecting article left behind in taxi
JP6014817B1 (en) * 2015-04-28 2016-10-26 順一 浅間 System and method for improving safety when starting a taxi immediately after getting on and off a taxi passenger
CN105809902B (en) * 2016-04-13 2017-03-29 京东方科技集团股份有限公司 A kind of taxi monitoring method, apparatus and system
US9720416B1 (en) 2016-04-18 2017-08-01 Ford Global Technologies, Llc Vehicle security system
CN105809904A (en) * 2016-05-10 2016-07-27 杨小平 Object forgetting reminder on service window
KR101845077B1 (en) 2016-12-12 2018-04-03 김한주 Operation method of outline analyzing server, temperature outline sensing device interfacing with outline analyzing server, and security system comprising outline analyzing server
DE102017000557A1 (en) 2017-01-21 2017-07-06 Daimler Ag Method for monitoring a vehicle interior
US10290158B2 (en) * 2017-02-03 2019-05-14 Ford Global Technologies, Llc System and method for assessing the interior of an autonomous vehicle
JP6783684B2 (en) * 2017-02-27 2020-11-11 株式会社東海理化電機製作所 Control device
US10509974B2 (en) 2017-04-21 2019-12-17 Ford Global Technologies, Llc Stain and trash detection systems and methods
US10304165B2 (en) 2017-05-12 2019-05-28 Ford Global Technologies, Llc Vehicle stain and trash detection systems and methods
JP6851048B2 (en) * 2017-09-04 2021-03-31 株式会社Zmp Taxi baggage forgetting prevention system
US9965940B1 (en) 2017-09-05 2018-05-08 Honda Motor Co., Ltd. Passenger reminder systems and methods
US9975380B1 (en) 2017-09-05 2018-05-22 Honda Motor Co., Ltd. Passenger reminder systems and methods
DE102017218100A1 (en) * 2017-10-11 2019-04-11 Bayerische Motoren Werke Aktiengesellschaft Method and apparatus for configuring vehicle functions
US11227480B2 (en) * 2018-01-31 2022-01-18 Mitsubishi Electric Corporation Vehicle interior monitoring device and vehicle interior monitoring method
JP2019144868A (en) * 2018-02-21 2019-08-29 株式会社ミツバ Things-left-behind prevention support device and things-left-behind prevention support program
JP6662935B2 (en) * 2018-03-09 2020-03-11 本田技研工業株式会社 Vehicle control device, vehicle control method, and program
JP2020142570A (en) * 2019-03-04 2020-09-10 テイ・エス テック株式会社 Notification system and vehicle mounted with the same
CN111986453A (en) * 2019-05-21 2020-11-24 奥迪股份公司 Reminder system, vehicle comprising same, and corresponding method and medium
US11492835B2 (en) * 2019-07-05 2022-11-08 Toyota Research Institute, Inc. Autonomous control of vehicle cargo area doors
US11130446B2 (en) 2019-10-15 2021-09-28 Robert Bosch Gmbh System to detect objects ejected from a vehicle
CN111415347B (en) * 2020-03-25 2024-04-16 上海商汤临港智能科技有限公司 Method and device for detecting legacy object and vehicle
CN112926970B (en) * 2021-02-06 2023-01-20 苏州鱼得水电气科技有限公司 Public transport operation management system based on smart city
US11780349B2 (en) 2021-03-10 2023-10-10 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for detecting objects left behind by using heated resistive filament in a vehicle
CN113537117B (en) * 2021-07-27 2022-05-06 广东机电职业技术学院 Vehicle-mounted legacy monitoring and alarming method and 5G system thereof
JP2023111615A (en) * 2022-01-31 2023-08-10 ソニーグループ株式会社 Information processing method, information processing device, and information processing system
CN115662087A (en) * 2022-09-13 2023-01-31 西北大学 Method, device and system for reminding passenger luggage in taxi trunk
US12479362B2 (en) 2023-12-15 2025-11-25 Continental Autonomous Mobility US, LLC Method for alerting a driver to objects left on a vehicle roof and alert system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4419672B2 (en) * 2003-09-16 2010-02-24 株式会社デンソー Vehicle left behind prevention device
JP2006338535A (en) * 2005-06-03 2006-12-14 Matsushita Electric Ind Co Ltd In-car left behind prevention method and apparatus
JP2010231415A (en) * 2009-03-26 2010-10-14 Denso Corp Vehicle monitoring device
JP2011154618A (en) * 2010-01-28 2011-08-11 Fbinnovation Inc Apparatus for detecting passenger for mobile body
JP5763965B2 (en) * 2011-05-11 2015-08-12 キヤノン株式会社 Information processing apparatus, information processing method, and program
JP5142416B2 (en) * 2011-07-07 2013-02-13 株式会社メガチップス Object detection device

Also Published As

Publication number Publication date
JP2015041344A (en) 2015-03-02
WO2015025435A1 (en) 2015-02-26

Similar Documents

Publication Publication Date Title
JP6343769B2 (en) Lost and found prevention system, information provision method for passenger car crew, computer program
CA2864653C (en) Stop violation detection system and method
EP3965082B1 (en) Vehicle monitoring system and vehicle monitoring method
US20120286974A1 (en) Hit and Run Prevention and Documentation System for Vehicles
US9953230B2 (en) Device, system and method for vehicle safety sensing and alerting by using camera and temperature sensor
KR101487165B1 (en) Safety system for getting on/off vihicle of passenger
US20120188346A1 (en) Monitoring device and method for monitoring an entry or exit area of an access opening of a vehicle to a building component
CN110503802A (en) Driving accident judgment method and system based on driving recorder
CN105984407B (en) Situation monitoring and alarming device after a kind of vehicle
US11460376B2 (en) Vehicle scratch detection system and vehicle
US20180086307A1 (en) Device and method for monitoring a vehicle, particularly for the management of loss events
JP7187080B2 (en) Event detection system that analyzes and stores relative vehicle speed and distance in real time
KR20170035035A (en) Apparatus and method for preventing drowsy driving
KR101205365B1 (en) System and method for acquiring information of passenger for the car
CN116176490A (en) Automobile safety belt detection method and related equipment
CN116771236A (en) Door control device, storage medium, and method
US11878681B2 (en) Method for operating a vehicle, parking assistance system and vehicle
CN112580418A (en) In-vehicle detection device, in-vehicle detection method, and non-transitory storage medium
CN120116878A (en) A safety warning method, system and device for rear-seat passengers getting off a vehicle
JP2018060487A (en) Taxi operation support system
KR101443746B1 (en) Apparatus for notifying black box recording event
JP2015178298A (en) Security device for vehicle
JP5597057B2 (en) Passenger drag detection system at home
KR20180063734A (en) Method and Apparatus for acquiring event image of vehicle
JP5647458B2 (en) Home fall detection system

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20160823

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180306

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180320

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180402

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180507

R150 Certificate of patent or registration of utility model

Ref document number: 6343769

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees