JP2016024685A - Work vehicle for mine - Google Patents
Work vehicle for mine Download PDFInfo
- Publication number
- JP2016024685A JP2016024685A JP2014149182A JP2014149182A JP2016024685A JP 2016024685 A JP2016024685 A JP 2016024685A JP 2014149182 A JP2014149182 A JP 2014149182A JP 2014149182 A JP2014149182 A JP 2014149182A JP 2016024685 A JP2016024685 A JP 2016024685A
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- dust
- vehicle
- region
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000000428 dust Substances 0.000 claims abstract description 205
- 238000001514 detection method Methods 0.000 claims abstract description 122
- 238000005065 mining Methods 0.000 claims abstract description 31
- 238000005259 measurement Methods 0.000 claims description 22
- 238000000105 evaporative light scattering detection Methods 0.000 claims description 3
- 238000000034 method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 9
- 239000004576 sand Substances 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 239000011435 rock Substances 0.000 description 2
- 239000000725 suspension Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 1
- 229910052500 inorganic mineral Inorganic materials 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011707 mineral Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000013049 sediment Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000003981 vehicle Substances 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Image Analysis (AREA)
Abstract
【課題】オフロード環境下において、砂埃の先に障害物が存在する可能性の高い領域を検出する鉱山用作業車両を提供する。【解決手段】カメラ11a,11bを備えたステレオカメラ装置11と、カメラ11aにて取得した二次元のカメラ取得画像と、カメラ11bにて取得した二次元のカメラ取得画像とを比較し、これら二つのカメラ取得画像間の視差の無い領域を視差無領域として特定する画像情報取得部と、視差画像中の視差無領域の画素数が所定値より大きい場合に、視差無領域を他車両1Aが存在する可能性の高い車両可能性領域と特定する車両存在領域検出部と、を備えた。【選択図】図1A work vehicle for mining that detects an area where an obstacle is likely to exist at the tip of dust in an off-road environment. A stereo camera device 11 including cameras 11a and 11b, a two-dimensional camera acquired image acquired by the camera 11a, and a two-dimensional camera acquired image acquired by the camera 11b are compared, and these two are compared. An image information acquisition unit that identifies a region without parallax between two camera acquired images as a non-parallax region, and when the number of pixels in the non-parallax region in the parallax image is greater than a predetermined value, the other vehicle 1A exists as a non-parallax region The vehicle possibility area | region with high possibility of performing and the vehicle presence area | region detection part which identifies are provided. [Selection] Figure 1
Description
本発明は、例えばオフロードダンプトラック等の鉱山用作業車両に関する。 The present invention relates to a mining work vehicle such as an off-road dump truck.
一般に、鉱山においては、土砂の採掘作業および運搬作業として油圧ショベルやダンプトラックなどの建設機械が用いられている。特に、鉱山に用いられるダンプトラックは、単位時間当たりの土砂の運搬量が採掘の進捗度に直結するため、効率の良い運用が求められる。 Generally, in mines, construction machines such as hydraulic excavators and dump trucks are used for mining and transporting earth and sand. In particular, dump trucks used in mines are required to operate efficiently because the amount of sediment transported per unit time is directly related to the progress of mining.
ところが、ダンプトラックを走行させる鉱山の走行路はオフロードで悪路が多いため、一般の舗装された道路に比べ、土壁や他車両等の障害物との衝突が懸念される。仮に、走行路上に障害物が生じ、ダンプトラックが障害物と接触して停止した場合には、後続するダンプトラックの走行を妨げ、鉱山の運行を長時間に亘って停止させてしまう。よって、土砂を効率良く採掘現場の外に大量に運搬するためには、前方車両や走行路上の障害物を早期に検知して、前方車両の追従走行や障害物の回避走行を行わせる必要がある。 However, since the mine traveling road where the dump truck runs is off-road and has many bad roads, there is a concern about collisions with obstacles such as dirt walls and other vehicles compared to ordinary paved roads. If an obstacle occurs on the travel path and the dump truck comes into contact with the obstacle and stops, the subsequent dump truck is prevented from traveling and the operation of the mine is stopped for a long time. Therefore, in order to efficiently transport a large amount of earth and sand outside the mining site, it is necessary to detect obstacles on the front vehicle and the traveling path at an early stage, and to follow the front vehicle and avoid obstacles. is there.
前方車両や障害物を検出するためのシステムとしては、ミリ波レーダ、レーザセンサまたはステレオカメラ等を用いた障害物検出装置が用いられている。これらのうち、ステレオカメラは、三次元の画像情報を取得でき、取得した画像情報から三次元形状を計測できるため、走行路面および障害物を区別できる。 As a system for detecting a preceding vehicle or an obstacle, an obstacle detection device using a millimeter wave radar, a laser sensor, a stereo camera, or the like is used. Among these, since the stereo camera can acquire three-dimensional image information and can measure a three-dimensional shape from the acquired image information, the traveling road surface and the obstacle can be distinguished.
ところが、鉱山の走行路がオフロードであることから、ダンプトラックが走行路を走行した際に、前方車両を目視にて確認できない程度の濃い砂埃を走行路上に撒き上げてしまう場合が想定される。そして、この巻上げた砂埃によって、ステレオカメラにて取得した画像情報中から、検出対象である他車両等の障害物の一部または全部が隠れてしまう。この場合には、障害物を検出するために必要となる画像情報が得られず、障害物を検出できないおそれがある。 However, since the mine travel path is off-road, when the dump truck travels on the travel path, it is assumed that the heavy truck dusts up to the travel path so that the front vehicle cannot be visually confirmed. . Then, due to the rolled up dust, some or all of obstacles such as other vehicles to be detected are hidden from the image information acquired by the stereo camera. In this case, there is a possibility that the image information necessary for detecting the obstacle cannot be obtained and the obstacle cannot be detected.
この種の砂埃を考慮した画像処理装置が、例えば特許文献1に開示されている。この特許文献1においては、カメラにて取得した画像情報中の各画素の輝度に基づいて、画像情報中の、砂埃等の塵埃領域を検出し、この検出した塵埃領域内の輝度差が減少して見えにくくなった人等を画像処理にてディスプレイ上に見えやすく表示している。 An image processing apparatus that takes this type of dust into account is disclosed in, for example, Japanese Patent Application Laid-Open No. H10-228707. In this Patent Document 1, a dust area such as dust is detected in image information based on the brightness of each pixel in image information acquired by a camera, and the brightness difference in the detected dust area is reduced. People who have become difficult to see are displayed on the display with image processing.
鉱山の走行路を走行するダンプトラックが走行時に巻上げる砂埃は、自然発生する砂埃に比べ濃度が高く、上記特許文献1に係る画像処理装置を用いた場合には、カメラにて取得した画像情報中の砂埃領域を検出できるものの、この砂埃領域内の輝度差が減少している部分を特定できず、砂埃の先に障害物が存在する可能性の高い領域を精度良く特定することが容易ではない。 The dust rolled up by the dump truck traveling on the mine traveling path has a higher concentration than the naturally occurring dust, and when the image processing apparatus according to Patent Document 1 is used, the image information acquired by the camera. Although it is possible to detect the dust area in the interior, it is not possible to identify the area where the brightness difference in the dust area is reduced, and it is not easy to accurately identify the area where there is a high possibility that an obstacle will exist at the tip of the dust. Absent.
本発明は、上述した従来技術における実状からなされたもので、その目的は、オフロード環境下において、砂埃の先に障害物が存在する可能性の高い領域を検出することができる鉱山用作業車両を提供することにある。 The present invention has been made from the above-described state of the art, and the object thereof is a mining work vehicle capable of detecting an area where an obstacle is likely to exist at the tip of dust in an off-road environment. Is to provide.
この目的を達成するために、本発明に係る鉱山用作業車両は、走行方向前方の画像情報が取得可能な第1および第2のカメラを備えたステレオカメラ装置と、前記第1のカメラにて取得した二次元の画像情報と、前記第2のカメラにて取得した二次元の画像情報とを比較し、これら画像情報間の差分の無い領域を差分無領域として特定する差分無領域特定部と、前記画像情報中の差分無領域の画素数が所定値より大きい場合に、前記差分無領域を障害物が存在する可能性の高い障害物領域と特定する障害物領域特定部と、を備えたことを特徴としている。 In order to achieve this object, a mining work vehicle according to the present invention includes a stereo camera device including first and second cameras capable of acquiring image information in front of a traveling direction, and the first camera. A difference no-area specifying unit that compares the acquired two-dimensional image information with the two-dimensional image information acquired by the second camera, and specifies an area having no difference between the image information as a no-difference area; An obstacle region specifying unit that specifies the difference-free region as an obstacle region that is highly likely to have an obstacle when the number of pixels of the difference-free region in the image information is larger than a predetermined value. It is characterized by that.
一般に、砂埃は、ステレオカメラ装置の第1および第2のカメラの画像情報間に差分のない領域となる。そこで本発明は、例えば鉱山用作業車両の走行時に後方に撒き上げた砂埃によって、当該鉱山用作業車両が隠れてしまい、この鉱山用作業車両の後方を走行する鉱山用作業車両から視覚的に確認できない場合であっても、この砂埃が発生している領域を、ステレオカメラ装置の第1および第2カメラにて取得した二次元の各画像情報を比較し、これら画像情報間の差分の無い領域にて特定できる。また、鉱山用作業車両が走行時に撒き上げる砂埃は、自然発生した砂埃に比べ、濃度が高くかつ鉱山用作業車両の大きさよりも発生範囲が広い。よって、第1および第2のカメラにて取得した画像情報間の差分無領域の画素数が所定値より大きい場合においては、その差分無領域を障害物、特に鉱山用作業車両が存在する可能性の高い障害物領域と特定できる。よって、砂埃の先に障害物が存在する可能性の高い領域を検出できる。 In general, dust becomes a region where there is no difference between the image information of the first and second cameras of the stereo camera device. Therefore, the present invention is, for example, that the mining work vehicle is hidden by dust that has been rolled up rearward when the mining work vehicle travels, and is visually confirmed from the mining work vehicle that runs behind the mining work vehicle. Even if this is not possible, the two-dimensional image information acquired by the first and second cameras of the stereo camera device is compared with the area where the dust is generated, and there is no difference between the image information. Can be specified. Also, the dust that the mining work vehicle whirls when traveling is higher in concentration than the naturally occurring dust and has a larger generation range than the size of the mining work vehicle. Therefore, when the number of pixels of the difference-free area between the image information acquired by the first and second cameras is larger than the predetermined value, there is a possibility that an obstacle, particularly a mining work vehicle exists in the difference-free area. Can be identified as a high obstacle area. Therefore, it is possible to detect an area where there is a high possibility that an obstacle exists in front of the dust.
また本発明は、上記発明において、前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の路面領域を特定する路面領域特定部と、前記画像情報中の前記差分無領域が前記路面領域に接している場合に、前記差分無領域を砂埃領域と特定する砂埃領域特定部とを備え、前記障害物領域特定部は、前記画像情報中の砂埃領域の画素数が所定値より大きい場合に、前記砂埃領域を障害物領域と特定することを特徴としている。 According to the present invention, in the above invention, a road surface area specifying unit that specifies a road surface area in the image information based on the image information acquired by the first and second cameras, and the difference in the image information is omitted. A dust region specifying unit that specifies the non-difference region as a dust region when the region is in contact with the road surface region, wherein the obstacle region specifying unit has a predetermined number of pixels of the dust region in the image information; When the value is larger than the value, the dust area is specified as an obstacle area.
一般に、画像情報中の路面領域に差分無領域が接している場合は、前方を走行する障害物、例えば鉱山用作業車両が走行時に撒き上げた砂埃の可能性が高い。そこで本発明は、差分無領域が路面領域に接している場合に砂埃領域と特定することにより、前方に位置する障害物を隠す砂埃領域を特定でき、この砂埃領域の先に障害物が存在する可能性の高い領域をより精度良く検出できる。 In general, when a no-difference area is in contact with a road surface area in image information, there is a high possibility of an obstacle traveling ahead, for example, dust that a mining work vehicle lifts up during traveling. Therefore, the present invention can identify a dust region that hides an obstacle located in front by specifying a dust region when the no-difference region is in contact with the road surface region, and there is an obstacle ahead of the dust region. A highly likely area can be detected more accurately.
また本発明は、上記発明において、前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した前記画像情報中の前記障害物領域の位置および画素数とに基づき、前記障害物の種類、大きさ、および位置を識別する障害物識別部と、を備えたことを特徴としている。 Moreover, the present invention provides the obstacle detection unit for detecting an obstacle present on the road surface area in the image information, the obstacle information detected by the obstacle detection unit, and the obstacle area in the above-described invention. An obstacle identifying unit that identifies the type, size, and position of the obstacle based on the position and the number of pixels of the obstacle region in the image information identified by the identifying unit. It is said.
このように構成した本発明は、障害物検出部にて路面領域上の障害物情報を検出し、障害物領域特定部にて特定した画像情報中の障害物領域の位置および画素数に、障害物検出部にて検出した路面領域上の障害物情報を加えることにより、障害物の種類、大きさ、及び位置を識別することができる。 In the present invention configured as described above, obstacle information on the road surface area is detected by the obstacle detection unit, and the position and the number of pixels of the obstacle area in the image information specified by the obstacle area specification unit are By adding the obstacle information on the road surface area detected by the object detection unit, the type, size, and position of the obstacle can be identified.
また本発明は、上記発明において、前記障害物検出部は、レーダと、前記レーダにて計測した計測情報に基づき、前記画像情報中の路面領域上に存在する障害物を検出するレーダ障害物検出部とを有することを特徴としている。 Also, in the present invention according to the invention described above, the obstacle detection unit detects the obstacle present on the road surface area in the image information based on the radar and measurement information measured by the radar. Part.
このように構成した本発明は、レーダを用いることにより、砂埃によって隠れた障害物の位置を砂埃越しに検出できる。よって、レーダにて計測した計測情報に基づき、画像情報中の路面領域上に存在する障害物を検出して障害物検出部による障害物情報とすることにより、この障害物検出部による路面領域上の障害物情報の検出をより精度良くできる。 The present invention configured as described above can detect the position of an obstacle hidden by dust through the dust by using the radar. Therefore, based on the measurement information measured by the radar, obstacles existing on the road surface area in the image information are detected and used as obstacle information by the obstacle detection unit. The obstacle information can be detected with higher accuracy.
また本発明は、上記発明において、前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した画像情報中の前記障害物領域の位置および画素数とに基づき、前記差分無領域が車両の走行にて発生した砂埃か否かを判別する砂埃判別部と、を備えたことを特徴としている。 Moreover, the present invention provides the obstacle detection unit for detecting an obstacle present on the road surface area in the image information, the obstacle information detected by the obstacle detection unit, and the obstacle area in the above-described invention. A dust discriminating unit that discriminates whether or not the non-difference area is dust generated by driving of the vehicle based on the position and the number of pixels of the obstacle region in the image information specified by the specifying unit. It is characterized by that.
車両による走行にて発生した砂埃か否かは、画像情報中の路面領域と障害物領域との位置関係やその大きさ、すなわち画素数によって判別できる。そこで本発明は、障害物検出部にて検出した障害物情報と、障害物領域特定部にて特定した画像情報中の障害物領域の位置および画素数とに基づき、差分無領域が車両による走行にて発生した砂埃か否かを判別することにより、差分無領域に相当する砂埃の原因を精度良く特定できる。よって、車両を覆い隠す砂埃をより精度良く特定できるため、車両が存在する可能性の高い領域をより精度良く検出できる。 Whether the dust is generated by traveling by the vehicle can be determined by the positional relationship between the road surface area and the obstacle area in the image information and the size thereof, that is, the number of pixels. Therefore, the present invention is based on the obstacle information detected by the obstacle detection unit and the position and the number of pixels of the obstacle region in the image information specified by the obstacle region specification unit. The cause of the dust corresponding to the non-difference area can be specified with high accuracy by discriminating whether or not the dust is generated in step S2. Therefore, since the dust covering the vehicle can be identified with higher accuracy, the region where the vehicle is likely to exist can be detected with higher accuracy.
また本発明は、上記発明において、画像情報を表示するための表示装置と、前記第1および第2のカメラのいずれか一方にて取得した画像情報を前記表示装置に表示させ、かつ前記障害物領域特定部にて特定した前記障害物領域を、前記表示装置に表示させた画像中に表示する画像制御部と、を備えたことを特徴としている。 According to the present invention, in the above invention, a display device for displaying image information, image information acquired by one of the first and second cameras is displayed on the display device, and the obstacle And an image control unit that displays the obstacle region specified by the region specifying unit in an image displayed on the display device.
このように構成した本発明は、第1および第2のカメラのいずれか一方にて取得した画像情報を表示装置に表示させるとともに、障害物領域特定部にて特定した障害物領域を、表示装置に表示させた画像中に表示することにより、砂埃が発生している位置および画素数に加え、その砂埃によって隠れている障害物が存在する可能性の高い領域を確認できる。 The present invention configured as described above causes the display device to display the image information acquired by any one of the first and second cameras, and displays the obstacle region specified by the obstacle region specifying unit. By displaying in the image displayed on the screen, it is possible to confirm a region where there is a high possibility that an obstacle hidden by the dust is present in addition to the position where the dust is generated and the number of pixels.
また本発明は、上記発明において、荷台と、前記荷台に積まれた積荷の質量を検出する積荷質量検出部と、走行速度を検出する速度検出部と、前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の前記差分無領域までの距離を算出する距離算出部と、を備え、前記障害物領域特定部は、前記積荷質量検出部にて検出した積荷の質量、前記速度検出部にて検出した走行速度、および前記距離算出部にて算出した前記差分無領域までの距離に応じて、前記所定値を変化させることを特徴としている。 According to the present invention, in the above invention, the loading platform, a loading mass detection unit that detects the mass of the load loaded on the loading platform, a speed detection unit that detects a traveling speed, and the first and second cameras. A distance calculating unit that calculates a distance to the non-difference region in the image information based on the acquired image information, and the obstacle region specifying unit is a mass of the load detected by the load mass detecting unit The predetermined value is changed according to the traveling speed detected by the speed detecting unit and the distance to the no-difference area calculated by the distance calculating unit.
鉱山においては、複数台の鉱山用作業車両が所定の車間をあけて走行しており、前方を走行する他車両の状態は、自車両の状態から判断できる場合が多い。そして、鉱山用作業車両の荷台に積まれた積荷の質量、走行速度、および障害物までの距離の変化に伴い、第1および第2のカメラにて取得される画像情報中の砂埃の画素数が相対的に変化してしまう。そこで、積荷質量検出部にて検出した積荷の質量、速度検出部にて検出した走行速度、および距離算出部にて算出した差分無領域までの距離に応じて、障害物領域特定部が障害物領域と特定する際の所定値を変化させることにより、この障害物領域特定部による障害物領域の特定をより精度良くできる。 In a mine, a plurality of mining work vehicles are traveling with a predetermined space between them, and the state of other vehicles traveling ahead can often be determined from the state of the host vehicle. The number of pixels of dust in the image information acquired by the first and second cameras in accordance with changes in the mass of the cargo loaded on the loading platform of the mining work vehicle, the traveling speed, and the distance to the obstacle Will change relatively. Therefore, according to the mass of the load detected by the load mass detection unit, the traveling speed detected by the speed detection unit, and the distance to the no-difference region calculated by the distance calculation unit, the obstacle region specifying unit By changing the predetermined value when specifying the area, the obstacle area can be specified with higher accuracy by the obstacle area specifying unit.
また本発明は、上記発明において、前記障害物領域特定部は、前記画像情報中の差分無領域の画素数が前記所定値より小さい場合に、前記第1および第2のカメラにて取得した画像情報から前記障害物領域を特定することを特徴としている。 Also, in the present invention according to the above-described invention, the obstacle region specifying unit may obtain images acquired by the first and second cameras when the number of pixels of the no-difference region in the image information is smaller than the predetermined value. The obstacle region is specified from the information.
このように構成した本発明は、画像情報中の差分無領域の画素数が所定値より小さい場合は、障害物を隠すような砂埃でなく、前方の障害物は第1および第2のカメラにて取得した画像情報から特定できる。そこで本発明は、画像情報中の差分無領域の画素数が所定値より小さい場合においては、第1および第2のカメラにて取得した画像情報から障害物領域を特定する。この結果、画像情報中の差分無領域の画素数の大きさに関わらず障害物領域を特定できる。 According to the present invention configured as described above, when the number of pixels in the non-difference area in the image information is smaller than a predetermined value, the front obstacle is not in the first and second cameras. Can be identified from the acquired image information. Therefore, the present invention specifies an obstacle area from the image information acquired by the first and second cameras when the number of pixels in the difference-free area in the image information is smaller than a predetermined value. As a result, the obstacle area can be specified regardless of the size of the number of pixels in the non-difference area in the image information.
本発明は、ステレオカメラ装置の第1および第2カメラにて取得した二次元の各画像情報を比較し、これら画像情報間の差分無領域により、砂埃が発生している領域を特定できる。また、鉱山用作業車両の走行時に生じる砂埃は、鉱山用作業車両の大きさよりも発生範囲が広いため、差分無領域の画素数が所定値より大きければ、その差分無領域を障害物が存在する可能性の高い障害物領域と特定でき、砂埃の先に障害物が存在する可能性の高い領域を検出できる。そして、前述した以外の課題、構成および効果は、以下の実施形態の説明より明らかにされる。 According to the present invention, two-dimensional image information acquired by the first and second cameras of the stereo camera device is compared, and an area where dust is generated can be specified by a difference-free area between the image information. Moreover, since the dust generated when the mining work vehicle travels has a wider generation range than the size of the mining work vehicle, if the number of pixels in the no-difference area is larger than a predetermined value, an obstacle exists in the no-difference area. It is possible to identify an obstacle region with a high possibility, and it is possible to detect a region where an obstacle is likely to exist ahead of the dust. Problems, configurations, and effects other than those described above will be made clear from the following description of embodiments.
以下、本発明に係る鉱山用作業車両に用いた障害物検出システムを実施するための形態を図に基づいて説明する。 EMBODIMENT OF THE INVENTION Hereinafter, the form for implementing the obstacle detection system used for the working vehicle for mines which concerns on this invention is demonstrated based on figures.
[第1実施形態]
本第1実施形態は、ステレオカメラ装置11を用いた実施形態である。図1は、本発明の第1実施形態に係る鉱山用作業車両の一例であるオフロードダンプトラックとして、建設機械向けの車両1である鉱山用ダンプトラックにて、砂埃D越しに前方を走行する他車両1Aを検出している状況を示す概略図である。図2は、車両1が用いられる鉱山システムを示す概略図である。図3は、車両1の駆動構成を示す概略図である。図4は、車両1に搭載した障害物検出システム10を示す概略図である。
[First Embodiment]
The first embodiment is an embodiment using a stereo camera device 11. FIG. 1 shows an off-road dump truck that is an example of a mining work vehicle according to the first embodiment of the present invention, and travels forward through dust D in a mining dump truck that is a vehicle 1 for construction machinery. It is the schematic which shows the condition which is detecting 1 A of other vehicles. FIG. 2 is a schematic diagram showing a mine system in which the vehicle 1 is used. FIG. 3 is a schematic diagram showing a drive configuration of the vehicle 1. FIG. 4 is a schematic diagram showing the obstacle detection system 10 mounted on the vehicle 1.
図5は、車両1のステレオカメラ装置11の各カメラ11a,11bにて取得したカメラ取得画像a,bを示す図で、(a)はカメラ11aのカメラ取得画像a、(b)はカメラ11bのカメラ取得画像bである。図6は、図5(a)および図5(b)に示す二次元のカメラ画像情報a,bから画像情報取得部12にて算出した視差画像DIを示す図である。そして、視差画像DI中の物体の色情報を有し肉眼で見たままのような画像をアピアランス・イメージと呼ぶ。アピアランス・イメージには視差画像中の各画素に対応した色情報が含まれる。図7は、障害物検出システム10のディスプレイ19の表示画像を示す概略図である。 5A and 5B are diagrams showing camera acquired images a and b acquired by the cameras 11a and 11b of the stereo camera device 11 of the vehicle 1. FIG. 5A is a camera acquired image a of the camera 11a, and FIG. 5B is a camera 11b. This is a camera acquired image b. FIG. 6 is a diagram showing the parallax image DI calculated by the image information acquisition unit 12 from the two-dimensional camera image information a and b shown in FIGS. 5 (a) and 5 (b). An image that has color information of an object in the parallax image DI and is viewed with the naked eye is called an appearance image. The appearance image includes color information corresponding to each pixel in the parallax image. FIG. 7 is a schematic diagram showing a display image on the display 19 of the obstacle detection system 10.
車両1は、図2に示すように、鉱山に予め設けられたオフロード環境下の走行路(搬送路)である路面Rを走行する。この車両1は、オペレータにて走行制御される有人走行式である。鉱山には、同一機種の複数の車両1が走行しており、図1に示すように、車両1の前方を、この車両1と同一構成の他車両1Aが所定の走行間隔(車間)をあけて走行している。また、鉱山には、車両1,1Aとの間で所定の情報を送受信するための情報センタ3が設置され、車両1に土砂等の積載物を積載させるための油圧ショベル4等が用いられている。路面Rは、障害物検出システム10による障害物の検出エリアであって、図5(a)、図5(b)および図6に示すように、その幅方向の両側に路肩Sが設けられている。各路肩Sは、盛土や、油圧ショベル4等にて鉱山を切土して形成された崖である切削面等にて設けられている。これら盛土および切削面は、予め定めた所定の高さ以上、例えば1.5m以上の高さに形成されている。 As shown in FIG. 2, the vehicle 1 travels on a road surface R that is a travel path (conveyance path) under an off-road environment provided in advance in the mine. The vehicle 1 is a manned traveling type that is travel-controlled by an operator. In the mine, a plurality of vehicles 1 of the same model are traveling. As shown in FIG. 1, another vehicle 1 </ b> A having the same configuration as that of the vehicle 1 has a predetermined traveling interval (inter-vehicle distance) in front of the vehicle 1. Running. In addition, an information center 3 for transmitting and receiving predetermined information to and from the vehicles 1 and 1A is installed in the mine, and a hydraulic excavator 4 for loading a load such as earth and sand on the vehicle 1 is used. Yes. The road surface R is an obstacle detection area by the obstacle detection system 10, and as shown in FIGS. 5 (a), 5 (b) and 6, road shoulders S are provided on both sides in the width direction. Yes. Each road shoulder S is provided by a cut surface that is a cliff formed by embankment or cutting a mine with a hydraulic excavator 4 or the like. These embankments and cutting surfaces are formed at a predetermined height or higher, for example, a height of 1.5 m or higher.
車両1は、図1に示すように、車両本体1aと、車両本体1aの前側上方に設けられた運転席1bと、車両本体1a上に起伏可能に設けられた作業部としての荷台1cと、車両本体1aを走行可能に支持する左右の前輪1dおよび後輪1eとを備えている。車両本体1aの前側のデッキ1f上には、車両本体1aの周囲、特に走行方向前方である外界環境を検出するためのステレオカメラ装置11が取り付けられている。車両1は、ステレオカメラ装置11にて認識した路面R上の障害物、特に先行して前方を走行する他車両1Aを検出する。デッキ1f上の前側角部には、GPS装置1gが取り付けられている。GPS装置1gは、車両本体1aの走行位置を検出するための位置検出部である。 As shown in FIG. 1, the vehicle 1 includes a vehicle main body 1a, a driver's seat 1b provided on the upper front side of the vehicle main body 1a, a loading platform 1c as a working unit provided on the vehicle main body 1a so as to be raised and lowered, Left and right front wheels 1d and rear wheels 1e that support the vehicle main body 1a so as to travel are provided. On the front deck 1f of the vehicle main body 1a, a stereo camera device 11 for detecting the environment around the vehicle main body 1a, particularly in front of the traveling direction, is attached. The vehicle 1 detects an obstacle on the road surface R recognized by the stereo camera device 11, particularly the other vehicle 1A traveling ahead ahead. A GPS device 1g is attached to the front corner on the deck 1f. The GPS device 1g is a position detection unit for detecting the traveling position of the vehicle main body 1a.
ステレオカメラ装置11は、車両1の走行方向前方の画像情報が所得可能な一対のカメラ11a,11bを備え、これら2台の第1および第2のカメラ11a,11bを用いて外界の立体的な三次元の画像情報を取得する。この三次元画像情報には、2台のカメラ11a,11bにて検出した図5(a)および図5(b)に示す二次元のカメラ取得画像a,bの差分から算出される撮像対象までの距離情報を有した視差画像DIと、アピアランス・イメージが含まれる。アピアランス・イメージは、視差画像DI中の各画素に対応した色情報を有する。 The stereo camera device 11 includes a pair of cameras 11a and 11b that can acquire image information in front of the traveling direction of the vehicle 1, and uses these two first and second cameras 11a and 11b to create a stereoscopic image of the outside world. Acquire 3D image information. The three-dimensional image information includes up to the imaging target calculated from the difference between the two-dimensional camera acquired images a and b shown in FIGS. 5A and 5B detected by the two cameras 11a and 11b. The disparity image DI having the distance information and the appearance image are included. The appearance image has color information corresponding to each pixel in the parallax image DI.
ステレオカメラ装置11は、車両本体1aの前側の左右方向の中央部である中心位置に、左右のカメラ11a,11b間の中心が位置するように取り付けられている。各カメラ11a,11bの焦点距離やレンズの歪みなどの内部パラメータ、および互いの位置関係および車体への設置位置を示す外部パラメータは、互いに同期されている。各カメラ11a,11bは、各光軸が平行となるように車両1前方に向けられ、図5(a)および図5(b)に示すように、これら各カメラ11a,11bの撮像領域11c,11dの一部が重なり合うように設置されている。 The stereo camera device 11 is attached so that the center between the left and right cameras 11a and 11b is located at the center position that is the center portion in the left-right direction on the front side of the vehicle body 1a. Internal parameters such as focal lengths and lens distortions of the cameras 11a and 11b, and external parameters indicating the positional relationship and the installation position on the vehicle body are synchronized with each other. Each camera 11a, 11b is directed to the front of the vehicle 1 so that each optical axis is parallel, and as shown in FIGS. 5 (a) and 5 (b), the imaging regions 11c, It is installed so that a part of 11d may overlap.
車両1は、図3に示すように、走行駆動装置5を備えている。走行駆動装置5は、動力源であるエンジン5aと、エンジン5aにて駆動される発電機5bと、発電機5bにて発電された電力が供給される電力制御装置5cと、後輪1eを駆動させるための走行モータ5dとを有している。走行モータ5dへの供給電力は、電力制御装置5cから制御される。電力制御装置5cは、車両1に搭載されたコントローラ6にて制御される。 As shown in FIG. 3, the vehicle 1 includes a travel drive device 5. The travel drive device 5 drives an engine 5a as a power source, a generator 5b driven by the engine 5a, a power control device 5c to which power generated by the generator 5b is supplied, and a rear wheel 1e. And a travel motor 5d. The power supplied to the travel motor 5d is controlled from the power control device 5c. The power control device 5 c is controlled by a controller 6 mounted on the vehicle 1.
コントローラ6は、電力制御装置5cを介して、車両本体1aを操舵するためのステアリングモータ5eや、車両本体1aを制動させるための、例えばリターダブレーキ等のブレーキ装置5f等の駆動を制御する車載コントローラである。車両本体1aには、情報センタ3との間で所定の信号を無線送信するための通信可能な車載無線装置5gが搭載されている。コントローラ6は、少なくとも車両1が走行する走行エリアに関する地図情報が予め記憶された記憶部6aを備えている。記憶部6aに記憶されている地図情報には、車両1が走行する路面Rおよび路肩Sに関する情報も含まれる。 The controller 6 controls the drive of a steering motor 5e for steering the vehicle main body 1a and a brake device 5f such as a retarder brake for braking the vehicle main body 1a via the power control device 5c. It is. The vehicle body 1a is equipped with a vehicle-mounted wireless device 5g capable of communicating with the information center 3 for wireless transmission of a predetermined signal. The controller 6 includes a storage unit 6a in which map information related to at least a travel area in which the vehicle 1 travels is stored in advance. The map information stored in the storage unit 6a includes information on the road surface R and the shoulder S on which the vehicle 1 travels.
さらに、車両本体1aには、例えば前輪1d等の所定の車輪の回転速度を検出するための車速センサ5hや、荷台1cに積まれた積荷の質量、すなわち荷重を検出するための荷重センサ5iが取り付けられている。車速センサ5hは、前輪1dの回転速度情報を取得してコントローラ6へ出力し、このコントローラ6にて車両1の走行速度が算出される。荷重センサ5iは、例えば前輪1dおよび後輪1eを支えるサスペンション(図示せず)に取り付けられ、荷台1cに積まれた積荷の質量変化に基づくサスペンションの変位量を検出する。荷重センサ5iは、検出した変位量をコントローラ6へ出力し、この変位量に基づいて荷台1cに積まれた積荷の質量がコントローラ6にて検出される。 Further, the vehicle body 1a includes a vehicle speed sensor 5h for detecting the rotational speed of a predetermined wheel such as the front wheel 1d, and a load sensor 5i for detecting the mass of the load loaded on the loading platform 1c, that is, a load. It is attached. The vehicle speed sensor 5h acquires the rotational speed information of the front wheels 1d and outputs it to the controller 6, and the controller 6 calculates the traveling speed of the vehicle 1. The load sensor 5i is attached to, for example, a suspension (not shown) that supports the front wheel 1d and the rear wheel 1e, and detects a displacement amount of the suspension based on a mass change of the load loaded on the loading platform 1c. The load sensor 5 i outputs the detected displacement amount to the controller 6, and the mass of the load loaded on the loading platform 1 c is detected by the controller 6 based on the displacement amount.
<障害物検出システム>
障害物検出システム10は、コントローラ6による処理にて実行され、路面R上に発生した砂埃Dによって隠れた障害物、例えば前方を走行する他車両1Aを認識するための障害物認識装置である。コントローラ6は、障害物検出システム10として、路面R上の、例えば他車両1A以外の、作業車、岩石、鉱物、土砂等の障害物を検出するための画像解析装置としてのステレオカメラシステムでもある。
<Obstacle detection system>
The obstacle detection system 10 is an obstacle recognition device for recognizing an obstacle hidden by the dust D generated on the road surface R, for example, another vehicle 1A traveling ahead, which is executed by processing by the controller 6. The controller 6 is also a stereo camera system as an obstacle detection system 10 as an image analysis device for detecting obstacles such as work vehicles, rocks, minerals, earth and sand other than the other vehicle 1A on the road surface R, for example. .
具体的に、障害物検出システム10は、ステレオカメラ装置11を備えた画像情報取得部12と、距離算出部13と、走行路認識部14と、砂埃検出部15と、砂埃位置検出部16と、車両存在領域検出部17と、画像制御部18と、表示装置としてのディスプレイ19とを備えている。これら画像情報取得部12、距離算出部13、走行路認識部14、砂埃検出部15、砂埃位置検出部16、車両存在領域検出部17および画像制御部18よる各処理は、コントローラ6にて行われる。 Specifically, the obstacle detection system 10 includes an image information acquisition unit 12 including a stereo camera device 11, a distance calculation unit 13, a travel path recognition unit 14, a dust detection unit 15, and a dust position detection unit 16. The vehicle presence area detection unit 17, the image control unit 18, and a display 19 as a display device are provided. These processes by the image information acquisition unit 12, the distance calculation unit 13, the travel path recognition unit 14, the dust detection unit 15, the dust position detection unit 16, the vehicle presence region detection unit 17, and the image control unit 18 are performed by the controller 6. Is called.
画像情報取得部12は、各カメラ11a,11bにて検出される画像情報として、図5(a)および図5(b)に示すカメラ取得画像a,bと、これら図5(a)および図5(b)に示す各カメラ取得画像a,bの見え方の違いに基づき算出した視差画像DIとを得る。視差画像DIは、各カメラ取得画像a,bのどちらかを基準として作成し、例えば図5(a)のカメラ取得画像aを基準に視差画像DIを作成する場合は、図5(a)で撮像された物体の位置が図5(b)のカメラ取得画像bでどこに位置するかを探索する。このとき、これらカメラ取得画像a,b間における位置の差異は、近い物体ほど大きく、遠い物体ほど小さくなる。この差異に基づき、各カメラ11a,11bで撮影した物体の立体的な位置を取得する。この技術は、一般的にステレオマッチングと呼ばれている。 The image information acquisition unit 12 includes camera acquisition images a and b shown in FIGS. 5A and 5B as image information detected by the cameras 11a and 11b, and FIGS. 5A and 5B. A parallax image DI calculated based on the difference in appearance of the camera acquisition images a and b shown in FIG. 5B is obtained. The parallax image DI is created on the basis of one of the camera acquired images a and b. For example, when the parallax image DI is created on the basis of the camera acquired image a in FIG. A search is made for where the position of the imaged object is located in the camera acquired image b in FIG. At this time, the position difference between the camera acquired images a and b is larger as the object is closer and smaller as the object is farther. Based on this difference, the three-dimensional position of the object photographed by each camera 11a, 11b is acquired. This technique is generally called stereo matching.
視差画像DIは、カメラ11aにて取得したカメラ取得画像a中の各領域と、カメラ11bにて取得したカメラ取得画像b中の各領域との対応付けを行い、これらカメラ取得画像a,b中の対象物がステレオカメラ装置11から見てどの位置にあるかで求められる。よって、視差画像DIは、カメラ11a,11bにて取得した二次元画像上の各画素の距離を求めたものである。 The parallax image DI associates each area in the camera acquired image a acquired by the camera 11a with each area in the camera acquired image b acquired by the camera 11b, and in these camera acquired images a and b. The position of the target object is determined from the stereo camera device 11 as viewed. Therefore, the parallax image DI is obtained by obtaining the distance between each pixel on the two-dimensional image acquired by the cameras 11a and 11b.
さらに、画像情報取得部12は、カメラ11aにて取得した二次元のカメラ取得画像aと、カメラ11bにて取得した二次元のカメラ取得画像bとを比較し、これらカメラ取得画像a,b間の差分、すなわち視差の無い領域を差分無領域(視差無領域)として特定する差分無領域特定部である。画像情報取得部12は、ステレオカメラ装置11の各カメラ11a,11bにて三次元距離情報である三次元画像情報(三次元点群)を取得する。なお、三次元点群は、検出した画像中の各点(画素)が、(x,y,z,r,g,b)の情報を有する点列情報である。画像情報取得部12は、障害物検出システム10の電源をオンオフさせるためのスイッチ(図示せず)がオンされた場合に、初期化処理として、各カメラ11a,11bにてアピアランス・イメージを取得可能としつつ、各カメラ11a,11bのキャリブレーション(較正)データ等を読み込む。 Furthermore, the image information acquisition unit 12 compares the two-dimensional camera acquisition image a acquired by the camera 11a with the two-dimensional camera acquisition image b acquired by the camera 11b, and determines between these camera acquisition images a and b. This is a difference-free area specifying unit that specifies a difference-free area, that is, an area without parallax as a difference-free area (no parallax area). The image information acquisition unit 12 acquires three-dimensional image information (three-dimensional point group) that is three-dimensional distance information in each of the cameras 11 a and 11 b of the stereo camera device 11. The three-dimensional point group is point sequence information in which each point (pixel) in the detected image has information of (x, y, z, r, g, b). When the switch (not shown) for turning on / off the power supply of the obstacle detection system 10 is turned on, the image information acquisition unit 12 can acquire appearance images by the cameras 11a and 11b as initialization processing. At the same time, the calibration data of each camera 11a, 11b is read.
距離算出部13は、画像情報取得部12にて検出した三次元画像情報、特に視差画像DI情報に基づいて、アピアランス・イメージ中の各点、すなわち視差画像DI中の各画素における撮像対象までの距離情報を取得する。よって、距離算出部13は、視差画像DI中の各画素の距離情報に基づいて、自車両1から砂埃発生位置Pまでの距離を算出する。 The distance calculation unit 13 determines each point in the appearance image, that is, the imaging target at each pixel in the parallax image DI based on the three-dimensional image information detected by the image information acquisition unit 12, particularly the parallax image DI information. Get distance information. Therefore, the distance calculation unit 13 calculates the distance from the own vehicle 1 to the dust generation position P based on the distance information of each pixel in the parallax image DI.
走行路認識部14は、画像情報取得部12にて求めた視差画像DIに対し、路面Rが平面で構成されている過程に基づき、視差画像DI中の平面領域を算出し、自車両1の位置と、ステレオカメラ装置11の各カメラ11a,11bの取付位置および取付角度との相対的な位置関係に基づいて、その平面領域を、路面Rを構成する主平面とする。さらに、走行路認識部14は、路面領域特定部であって、カメラ11a,11bにて取得したカメラ取得画像a,bに基づき、視差画像DI中の主平面を特定し、この主平面を路面領域と特定する。 The travel path recognition unit 14 calculates a plane area in the parallax image DI based on a process in which the road surface R is configured with a plane with respect to the parallax image DI obtained by the image information acquisition unit 12, and Based on the relative positional relationship between the position and the mounting positions and mounting angles of the cameras 11 a and 11 b of the stereo camera device 11, the plane area is set as a main plane constituting the road surface R. Further, the traveling road recognition unit 14 is a road surface area specifying unit that specifies a main plane in the parallax image DI based on the camera acquired images a and b acquired by the cameras 11a and 11b, and uses the main plane as a road surface. Identify the area.
砂埃検出部15は、画像情報取得部12にて求めた視差画像DIから、カメラ11a,11bの前方、すなわち車両1の先方に存在する砂埃Dの有無を検出する。砂埃位置検出部16は、砂埃Dがどの地点に生じているかを探索して検出する。具体的に、砂埃位置検出部16は、視差画像DI中の、砂埃検出部15にて検出した砂埃領域が、走行路認識部14にて特定した路面領域に隣接する画素を検索し、この砂埃領域が隣接する路面領域のうちの、最も自車両1に近い位置の画素を砂埃発生位置Pとして検出する。すなわち、砂埃位置検出部16は、砂埃領域特定部であって、砂埃領域が路面領域に隣接している場合に、その砂埃領域を砂埃発生位置Pと特定する。 The dust detection unit 15 detects the presence or absence of dust D existing in front of the cameras 11 a and 11 b, that is, ahead of the vehicle 1, from the parallax image DI obtained by the image information acquisition unit 12. The dust position detector 16 searches and detects where the dust D is generated. Specifically, the dust position detection unit 16 searches for a pixel in the parallax image DI in which the dust region detected by the dust detection unit 15 is adjacent to the road surface region specified by the travel path recognition unit 14. Of the road surface areas adjacent to each other, the pixel closest to the host vehicle 1 is detected as the dust generation position P. That is, the dust position detection unit 16 is a dust region specifying unit, and specifies the dust region as the dust generation position P when the dust region is adjacent to the road surface region.
車両存在領域検出部17は、砂埃位置検出部16にて検出した砂埃発生位置Pを、先行する他車両1Aが存在する可能性のある領域として検出する。すなわち、車両存在領域検出部17は、障害物領域特定部であって、視差画像DI中の視差無領域の位置および画素数に基づき、この視差無領域中の障害物、特に他車両1Aが存在する可能性の高い障害物領域である車両可能性領域Jを特定する。 The vehicle presence region detection unit 17 detects the dust generation position P detected by the dust position detection unit 16 as a region where the preceding other vehicle 1A may exist. That is, the vehicle presence area detection unit 17 is an obstacle area specifying unit, and based on the position and the number of pixels of the parallax-free area in the parallax image DI, there is an obstacle in the parallax-free area, particularly the other vehicle 1A. A vehicle possibility region J that is an obstacle region that is highly likely to be detected is identified.
画像制御部18は、図7に示すように、ステレオカメラ装置11のいずれか一方、例えばカメラ11aにて取得したカメラ取得画像a、すなわちアピアランス・イメージをディスプレイ19に出力して表示させるとともに、このディスプレイ19に表示させた画像中に、車両存在領域検出部17にて検出した車両可能性領域Jの範囲、すなわち位置および大きさを、例えば矩形状の枠等として重畳させて表示させる。ディスプレイ19は、例えば液晶表示装置等の視覚提示装置であり、車両1の運転席1bに設置されている。具体的に、ディスプレイ19は、運転席1bに座って車両1の走行等を操作するオペレータが見やすい位置に取り付けられている。 As shown in FIG. 7, the image control unit 18 outputs and displays the camera acquired image a acquired by any one of the stereo camera devices 11, for example, the camera 11 a, that is, the appearance image, on the display 19. In the image displayed on the display 19, the range of the vehicle possibility region J detected by the vehicle presence region detection unit 17, that is, the position and size are superimposed and displayed as, for example, a rectangular frame. The display 19 is a visual presentation device such as a liquid crystal display device, and is installed in the driver's seat 1 b of the vehicle 1. Specifically, the display 19 is attached to a position where an operator who sits on the driver's seat 1b and operates the vehicle 1 and the like is easy to see.
<動作>
次に、上記第1実施形態に係る障害物検出システム10の処理について、図8を参照して説明する。図8は、車両1に搭載された障害物検出システム10による処理を示すフローチャートである。図9は、ステレオカメラ装置11の左側に位置するカメラ11aで撮影したカメラ取得画像a中の特定の物体が、右側に位置するカメラ11bで撮影したカメラ取得画像bのどの位置に撮像されるかの特定方法を示す説明図である。図10は、障害物検出システム10にて作成した砂埃検出用画像SIを示す図である。図11は、障害物検出システム10による砂埃幅Eの検出方法を示す説明図である。図12は、障害物検出システム10の砂埃位置検出部16にて検出した砂埃幅Eの閾値の変換テーブルを示す表である。
<Operation>
Next, processing of the obstacle detection system 10 according to the first embodiment will be described with reference to FIG. FIG. 8 is a flowchart showing processing by the obstacle detection system 10 mounted on the vehicle 1. FIG. 9 shows at which position in the camera acquired image b captured by the camera 11b positioned on the right side a specific object in the camera acquired image a captured by the camera 11a positioned on the left side of the stereo camera device 11 is captured. It is explanatory drawing which shows the specific method. FIG. 10 is a diagram showing a dust detection image SI created by the obstacle detection system 10. FIG. 11 is an explanatory diagram showing a method for detecting the dust width E by the obstacle detection system 10. FIG. 12 is a table showing a conversion table of threshold values of the dust width E detected by the dust position detection unit 16 of the obstacle detection system 10.
障害物検出システム10の電源がスイッチにてオンされると、画像情報取得部12の初期化処理が行われる(ステップS01、以下単に「S01」等と示す。)。S01の初期化処理では、ステレオカメラ装置11の各カメラ11a,11bにて、図5(a)および図5(b)に示すカメラ取得画像a,bを取得可能とし、これら各カメラ11a,11bのキャリブレーションデータ等の調整用データを読み込み、これら各カメラ11a,11bにて検出するカメラ取得画像a,bから、図6に示す視差画像DIを算出可能とする。 When the power source of the obstacle detection system 10 is turned on by a switch, the image information acquisition unit 12 is initialized (step S01, hereinafter simply referred to as “S01”). In the initialization process of S01, the camera acquisition images a and b shown in FIGS. 5A and 5B can be acquired by the cameras 11a and 11b of the stereo camera apparatus 11, and these cameras 11a and 11b can be acquired. 6 is calculated, and the parallax image DI shown in FIG. 6 can be calculated from the camera acquired images a and b detected by the cameras 11a and 11b.
ここで、カメラ取得画像aに撮像されている特定の物体が、カメラ取得画像bのどの位置に撮像されているかを特定する方法について、図9を参照して説明する。図9は、カメラ取得画像a,bの座標系に関し、横方向をu軸とし、縦方向をv軸としている。カメラ取得画像aにおいて、uv座標で、位置(u1,v1)、(u1,v2)、(u2,v1)および(u2,v2)で囲まれた矩形領域Bを設定する。 Here, a method for identifying at which position in the camera acquired image b the specific object captured in the camera acquired image a will be described with reference to FIG. FIG. 9 relates to the coordinate system of the camera acquired images a and b, wherein the horizontal direction is the u axis and the vertical direction is the v axis. In the camera acquired image a, a rectangular area B surrounded by the positions (u1, v1), (u1, v2), (u2, v1) and (u2, v2) is set with the uv coordinates.
次いで、カメラ取得画像bにおいて、位置(U,v1)、(U,v2)、(U+(u2−u1),v1)および(U+(u2−u1),v2)で囲まれた領域を、Uの値をu=0からu=u3まで増加させ、このカメラ取得画像bの右方向へ矩形領域B1の位置まで走査する。この走査の際に、矩形領域B2内の画像と、矩形領域B1内の画像との相関値を比較し、カメラ取得画像aの矩形領域Bと相関性が最も高いカメラ取得画像bの矩形領域B2の位置(u4,v1)、(u4,v2)、(u4+(u2−u1),v1)および(u4+(u2−u1),v2)に、矩形領域Bに撮像されている物体と同一の物体が撮像されているとする。また、これら矩形領域B内の各画素と、矩形領域B2内の各画素が対応しているとする。 Next, in the camera acquired image b, an area surrounded by the positions (U, v1), (U, v2), (U + (u2-u1), v1) and (U + (u2-u1), v2) is Is increased from u = 0 to u = u3, and scanning is performed to the right of the camera acquired image b to the position of the rectangular area B1. During this scanning, the correlation value between the image in the rectangular area B2 and the image in the rectangular area B1 is compared, and the rectangular area B2 of the camera acquired image b having the highest correlation with the rectangular area B of the camera acquired image a. At the positions (u4, v1), (u4, v2), (u4 + (u2-u1), v1) and (u4 + (u2-u1), v2), the same object as the object imaged in the rectangular area B Is imaged. In addition, it is assumed that each pixel in the rectangular area B corresponds to each pixel in the rectangular area B2.
カメラ取得画像bの矩形領域B1を走査した際において、相関値がある一定以上の値になる矩形領域が存在しない場合は、カメラ取得画像aの矩形領域Bに対応するカメラ取得画像b内の対応点をなしとする。対応点がない場合は、距離情報を算出できず、視差画像DI中の対応画素にゼロ(0)を設定する。例えば、視覚的な特徴が疎な物体までの視差の算出を試みた場合に、視差値がゼロ(0)の画素が生じやすい。 When the rectangular area B1 of the camera acquired image b is scanned and there is no rectangular area whose correlation value exceeds a certain value, the correspondence in the camera acquired image b corresponding to the rectangular area B of the camera acquired image a Let the point be none. If there is no corresponding point, the distance information cannot be calculated, and zero (0) is set to the corresponding pixel in the parallax image DI. For example, when an attempt is made to calculate parallax up to an object with poor visual features, pixels with a parallax value of zero (0) are likely to occur.
鉱山において、車両1の走行に伴い濃度の高い砂埃が生じた場合、各カメラ11a,11bにて取得したカメラ取得画像a,b中の砂埃Dを撮影した領域の画素値は、略一定となる。このため、カメラ取得画像aの矩形領域Bに対応するカメラ取得画像b内の対応点を取得できない場合が多い。そして、砂埃Dが発生した領域は、視差画像DI中の画素値がゼロ(0)の領域に内包される。 In the mine, when high-concentration sand dust is generated as the vehicle 1 travels, the pixel values in the area where the dust D is captured in the camera acquired images a and b acquired by the cameras 11a and 11b are substantially constant. . For this reason, there are many cases where the corresponding points in the camera acquisition image b corresponding to the rectangular area B of the camera acquisition image a cannot be acquired. And the area | region where the dust D generate | occur | produced is included in the area | region where the pixel value in the parallax image DI is zero (0).
この後、画像情報取得部12により、各カメラ11a,11bにて、図5(a)および図5(b)に示すカメラ取得画像a,bが取得され(S02)、これらカメラ取得画像a,bに基づき、図6に示す視差画像DIが算出される(S03)。この視差画像DIにおいては、この視差画像DI中の各画素に対し、これらカメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較し、これらカメラ取得画像a上の各画素の画素値と、カメラ取得画像b上の各画素の画素値との差分、すなわち視差値が付与され、これら視差値を踏まえた画像情報が、視差画像DIの各画素に加えられている。 Thereafter, the camera information a and b shown in FIGS. 5A and 5B are acquired by the image information acquisition unit 12 in each of the cameras 11a and 11b (S02). Based on b, the parallax image DI shown in FIG. 6 is calculated (S03). In the parallax image DI, the two-dimensional camera acquisition images a and b acquired by the cameras 11a and 11b are compared with the pixels in the parallax image DI, and each pixel on the camera acquisition image a is compared. A difference between the pixel value and the pixel value of each pixel on the camera acquired image b, that is, a parallax value is given, and image information based on these parallax values is added to each pixel of the parallax image DI.
次いで、S03にて算出した視差画像DIから、走行路認識部14において、視差画像DI中の路面領域を算出する処理が実行される。走行路認識部14は、S03にて算出した視差画像D1に対し、路面Rが平面で構成されている過程に基づき、例えばRANSAC(RANdom Sampling Consensus)や、ハフ変換(Hough Transform)等を用いて、視差画像DI中の平面領域を算出する。そして、この平面領域のうち、車両1とステレオカメラ装置11の各カメラ11a,11bとの相対的な位置関係に基づいて、車両1が走行している平面領域を、路面Rに相当する主平面とする。さらに、この主平面と、この主平面に隣接している領域のうちの、予め設定した所定の閾値よりも小さな差分を有する領域とを算出して、路面Rに相当する路面領域と推定する(S04)。 Next, processing for calculating a road surface area in the parallax image DI is executed in the travel path recognition unit 14 from the parallax image DI calculated in S03. The traveling path recognition unit 14 uses, for example, RANSAC (RANdom Sampling Consensus), Hough Transform, or the like based on the process in which the road surface R is a plane with respect to the parallax image D1 calculated in S03. The plane area in the parallax image DI is calculated. And among this plane area, based on the relative positional relationship between the vehicle 1 and each camera 11a, 11b of the stereo camera device 11, the plane area in which the vehicle 1 is traveling is the main plane corresponding to the road surface R. And Further, the main plane and an area having a difference smaller than a predetermined threshold value among the areas adjacent to the main plane are calculated and estimated as a road surface area corresponding to the road surface R ( S04).
さらに、主平面と、この主平面に隣接している領域との各画素における画素値の差分を算出し、これら各画素における画素値の差分が予め定めた閾値以下の場合に、路面Rに相当する路面領域と推定する処理を繰り返す。この閾値は、車両1の走行特性等に基づいて設定され、例えば車両1の走行時に前輪1dまたは後輪1eのいずれかが、路面R上の走行に影響のない凹凸を乗り越えた場合でも車両1の走行に影響のない程度の値に設定している。 Further, when the difference between the pixel values of each pixel between the main plane and the area adjacent to the main plane is calculated, and the difference between the pixel values at each pixel is equal to or less than a predetermined threshold, it corresponds to the road surface R. The process of estimating the road surface area to be repeated is repeated. This threshold value is set based on the running characteristics of the vehicle 1. For example, even when either the front wheel 1 d or the rear wheel 1 e gets over the unevenness that does not affect the running on the road surface R when the vehicle 1 is running, the vehicle 1. It is set to a value that does not affect the running of the car.
次いで、S03にて算出した視差画像DIから、車両1の前方の路面R上に砂埃Dが発生しているか否かを砂埃検出部15にて検出する(S05)。S05においては、まず、S03にて算出した視差画像DIに、S04にて推定した路面領域を重畳させ、図10に示す砂埃検出用画像SIを作成する。このとき、この砂埃検出用画像SI上の路面領域を構成する各画素の画素値は、砂埃検出用画像SI中から砂埃Dを発生しているか否かの検出対象とならない、すなわち使用しない値とする。なお、この路面領域を構成する各画素を、路面領域画素G1と呼ぶ。 Next, from the parallax image DI calculated in S03, the dust detection unit 15 detects whether dust D is generated on the road surface R in front of the vehicle 1 (S05). In S05, first, the road surface area estimated in S04 is superimposed on the parallax image DI calculated in S03 to create the dust detection image SI shown in FIG. At this time, the pixel value of each pixel constituting the road surface area on the dust detection image SI is not a detection target of whether or not the dust D is generated from the dust detection image SI, that is, a value that is not used. To do. Each pixel constituting this road surface area is referred to as a road surface area pixel G1.
この後、砂埃検出用画像SI上の路面領域画素G1の探索を実行し、路面領域画素G1を発見した場合に、その発見した路面領域画素G1に隣接する各画素の視差値を探索する。このとき、視差値がゼロ(0)の画素、すなわち視差無領域に含まれる画素を発見した場合に、その画素を砂埃領域画素G2とする。砂埃領域画素G2を発見した場合は、この発見した砂埃領域画素G2に隣接する砂埃検出用画像SI中の画素の視差値を探索する。 Thereafter, a search for the road surface area pixel G1 on the dust detection image SI is executed, and when the road surface area pixel G1 is found, the parallax value of each pixel adjacent to the found road surface area pixel G1 is searched. At this time, when a pixel having a parallax value of zero (0), that is, a pixel included in a non-parallax region is found, the pixel is set as a dust region pixel G2. When the dust area pixel G2 is found, the parallax value of the pixel in the dust detection image SI adjacent to the found dust area pixel G2 is searched.
ただし、砂埃検出部15による砂埃領域画素G2の検出においては、砂埃Dが発生している可能性の高い領域に加え、例えば空等の視差値がゼロ(0)の領域の画素を検索するおそれがある。このため、視差画像DIにおける路面領域画素G1上の、予め定めた所定の閾値(砂埃領域画素検索範囲)以上の高さについては検索しない。S05での砂埃領域画素G2の探索の結果、このS05において砂埃領域画素G2の個数が、予め定めた所定の閾値以上になった場合に、砂埃有りと判定する(S06/YES)。 However, in the detection of the dust region pixel G2 by the dust detection unit 15, in addition to the region where the dust D is highly likely to occur, for example, a pixel in a region where the parallax value such as sky is zero (0) may be searched. There is. For this reason, no search is made for a height on the road surface area pixel G1 in the parallax image DI that is equal to or higher than a predetermined threshold value (dust area pixel search range). As a result of the search for the dust area pixel G2 in S05, if the number of the dust area pixels G2 is equal to or greater than a predetermined threshold value in S05, it is determined that there is dust (S06 / YES).
S06にて砂埃有りと判定した(YESの)場合、砂埃位置検出部16にて、視差画像DI中のどの地点、すなわちどの位置に砂埃Dが生じているか否かを探索する(S07)。このとき、視差画像DI中の各砂埃領域画素G2は、視差値がそれぞれゼロ(0)であるため、これら砂埃領域画素G2に基づいて車両1からの距離を算出できず、車両1から砂埃Dまでの距離を視差画像DIから直接算出できない。そこで、S07においては、砂埃領域画素G2に隣接している路面領域画素G1の位置を砂埃発生位置Pとして検出する。具体的には、S05にて検出した砂埃領域画素G2のうちの、下方向に路面領域画素G1が隣接する砂埃領域画素G2を探索する。そして、下方向に路面領域画素G1が隣接する砂埃領域画素G2のうち、最も車両1の近く、すなわち最も下方向に位置する砂埃領域画素G2を砂埃発生位置Pとする。 When it is determined that there is dust in S06 (YES), the dust position detection unit 16 searches for which point in the parallax image DI, that is, in which position the dust D is generated (S07). At this time, since each parallax region pixel G2 in the parallax image DI has a parallax value of zero (0), the distance from the vehicle 1 cannot be calculated based on these dust region pixels G2, and the dust D from the vehicle 1 can be calculated. Cannot be calculated directly from the parallax image DI. Therefore, in S07, the position of the road surface area pixel G1 adjacent to the dust area pixel G2 is detected as the dust generation position P. Specifically, among the dust region pixels G2 detected in S05, the dust region pixel G2 to which the road surface region pixel G1 is adjacent in the downward direction is searched. Of the dust area pixels G2 that are adjacent to the road surface area pixel G1 in the downward direction, the dust area pixel G2 that is closest to the vehicle 1, that is, the most downward direction is set as the dust generation position P.
この後、砂埃位置検出部16にて、視差画像DI中の砂埃領域の幅、すなわち砂埃幅Eを検出する(S08)。S08においては、視差画像DI中の互いに隣接している砂埃領域画素G2を探索していき、これら互いに隣接する砂埃領域画素G2のうちの、視差画像DI中の最も左端に位置する砂埃領域画素G2と、最も右端に位置する砂埃領域画素G2とを探索し、これら左端に位置する砂埃領域画素G2と、右端に位置する砂埃領域画素G2との水平方向(u軸方向)の差、すなわち、これら左右端の砂埃領域画素G2間の距離を砂埃幅Eとして検出する。 Thereafter, the dust position detector 16 detects the width of the dust region in the parallax image DI, that is, the dust width E (S08). In S08, the dust area pixel G2 adjacent to each other in the parallax image DI is searched, and the dust area pixel G2 located at the leftmost position in the parallax image DI among these adjacent dust area pixels G2. And the dust region pixel G2 located at the right end, and the difference in the horizontal direction (u-axis direction) between the dust region pixel G2 located at the left end and the dust region pixel G2 located at the right end, ie, these The distance between the left and right dust area pixels G2 is detected as the dust width E.
この検出した砂埃幅Eと、予め設定した所定の閾値とを比較し、砂埃幅Eが閾値より大きい場合(S09/YES)、砂埃Dにて隠れた範囲、すなわち砂埃隠蔽範囲である砂埃隠蔽領域を、先行する他車両1Aが存在する可能性が高い領域と判定する(S10)。 The detected dust width E is compared with a predetermined threshold value, and if the dust width E is larger than the threshold value (S09 / YES), the area hidden by the dust D, that is, the dust concealment area which is the dust concealment range. Is determined to be a region where there is a high possibility that the preceding other vehicle 1A exists (S10).
この閾値は、検出対象である他車両1Aの横幅寸法と同程度に設定しておく。なお、砂埃位置検出部16にて検出される砂埃幅Eは、車両1から砂埃Dまでの距離に応じて変化する。そこで、この閾値は、図11に示すように、検出対象とした視差画像DI中における自車両1の位置(車両想定位置F)から、S07にて検出した砂埃発生位置Pまでの車間距離Lに応じて変化させる。ここで、車両想定位置Fは、視差画像DI中に含まれない死角領域H内となる場合、カメラ11a,11bの取付位置および取付角度に基づき、視差画像DIより下方の所定位置と設定される。 This threshold value is set to be approximately the same as the width dimension of the other vehicle 1A to be detected. The dust width E detected by the dust position detection unit 16 changes according to the distance from the vehicle 1 to the dust D. Therefore, as shown in FIG. 11, this threshold is the inter-vehicle distance L from the position of the vehicle 1 (assumed vehicle position F) in the parallax image DI to be detected to the dust generation position P detected in S07. Change accordingly. Here, when the assumed vehicle position F is within a blind spot area H that is not included in the parallax image DI, the vehicle assumed position F is set to a predetermined position below the parallax image DI based on the mounting positions and mounting angles of the cameras 11a and 11b. .
さらに、鉱山の路面Rにおいては、図1に示すように、同一車種の複数台の車両1,1Aが所定の車間をあけ、同一の走行速度および積荷状態、すなわち走行状態で走行している場合が多い。このため、閾値は、路面Rから砂埃Dの立ち上がり位置を判断基準とし、予め定めた変換テーブルに基づいて、図12に示すように、荷重センサ5iによる検出によって自車両1の荷台1cに積荷を積んだ状態、すなわち積荷状態と検出した場合は、自車両1の荷台1cに積荷を積んでいない場合、すなわち空荷状態の場合に比べ、走行時に発生する砂埃Dがより濃くなり、砂埃発生位置Pから車両1までの距離が長くなることから、視差画像DI中の砂埃領域の大きさも小さくなるため、閾値を小さく設定する。 Further, on the road surface R of the mine, as shown in FIG. 1, when a plurality of vehicles 1 and 1A of the same vehicle type are separated from each other by a predetermined distance and are traveling at the same traveling speed and loaded state, that is, the traveling state. There are many. For this reason, the threshold is determined based on the rising position of the dust D from the road surface R, and based on a predetermined conversion table, as shown in FIG. 12, the load is detected on the loading platform 1c of the host vehicle 1 by the load sensor 5i. When the loaded state, that is, the loaded state is detected, the dust D generated at the time of traveling becomes darker than the case where no load is loaded on the loading platform 1c of the host vehicle 1, that is, the empty state, and the dust generation position Since the distance from P to the vehicle 1 is increased, the size of the dust area in the parallax image DI is also reduced, so the threshold value is set small.
また、車速センサ5hによる検出によって自車両1の車速が高くなるに連れて、先方を走行する他車両1Aの車速も同様に高くなることから、この他車両1Aが走行時に撒き上げる砂埃Dが濃くなり、かつその範囲が大きくなるため、閾値を大きく設定する。さらに、距離算出部13にて算出した自車両1から砂埃発生位置Pまでの車間距離Lが長くなるに連れて、砂埃発生位置Pが車両1からより遠くなり、視差画像DI中の砂埃領域の大きさが小さくなるため、閾値を小さく設定する。 Further, as the vehicle speed of the host vehicle 1 increases due to detection by the vehicle speed sensor 5h, the vehicle speed of the other vehicle 1A traveling ahead increases in the same manner, so that the dust D that the other vehicle 1A whirls when traveling is dark. Since the range becomes large, the threshold value is set large. Further, as the inter-vehicle distance L from the host vehicle 1 to the dust generation position P calculated by the distance calculation unit 13 becomes longer, the dust generation position P becomes further away from the vehicle 1, and the dust area of the parallax image DI is displayed. Since the size is small, the threshold is set small.
この後、S10にて判定した砂埃隠蔽領域に基づき、S07にて検出した砂埃発生位置Pを、先行する他車両1Aが存在する可能性が高い領域(車両可能性領域J)と、車両存在領域検出部17にて認定して出力し、画像制御部18にて、ディスプレイ19に表示されているカメラ取得画像a中に、車両可能性領域Jを重畳させて表示する(S11)。 Thereafter, based on the dust concealment area determined in S10, the dust generation position P detected in S07 is classified into an area where the preceding other vehicle 1A is likely to exist (vehicle possibility area J), and a vehicle existence area. The detection unit 17 recognizes and outputs the image, and the image control unit 18 superimposes and displays the vehicle possibility region J in the camera acquired image a displayed on the display 19 (S11).
一方、S05において砂埃領域画素G2の個数が、予め定めた所定の閾値より小さく砂埃Dなしと判定した場合(S06/NO)は、そもそも砂埃Dが発生しておらず砂埃Dの先に他車両1Aが存在する可能性はない。また、砂埃位置検出部16にて検出した砂埃幅Eが、閾値以下の場合(S09/NO)は、砂埃Dの発生の原因が、先行して走行する他車両1Aである可能性が極めて低い。このため、S06にて砂埃Dなしと判定した(NOの)場合、およびS09にて砂埃幅Eが閾値以下(NO)の場合は、車両存在領域検出部17にて、S03にて算出した視差画像DIから、先行して走行する他車両1Aの検出を行う(S12)。 On the other hand, if it is determined in S05 that the number of the dust area pixels G2 is smaller than a predetermined threshold value and there is no dust D (S06 / NO), no dust D is generated in the first place and the other vehicle is ahead of the dust D. There is no possibility that 1A exists. In addition, when the dust width E detected by the dust position detection unit 16 is equal to or smaller than the threshold (S09 / NO), it is very unlikely that the cause of the generation of the dust D is the other vehicle 1A traveling ahead. . For this reason, when it is determined that there is no dust D in S06 (NO), and when the dust width E is equal to or smaller than the threshold value (NO) in S09, the parallax calculated in S03 by the vehicle presence area detection unit 17 The other vehicle 1A traveling ahead is detected from the image DI (S12).
S12による他車両1Aの検出の後、S11へ進み、S12にて検出した他車両1Aに関する車両情報を、車両存在領域検出部17にて車両可能性領域Jとして出力し、画像制御部18にて、ディスプレイ19に表示されている画像中に、車両可能性領域Jを重畳させて表示する。なお、上記S01〜S12の処理は、例えば、1秒当たり30フレーム程度の、予め定めた所定フレームで繰り返して行われる。 After the detection of the other vehicle 1A in S12, the process proceeds to S11, where the vehicle information related to the other vehicle 1A detected in S12 is output as the vehicle possibility region J by the vehicle presence region detection unit 17, and the image control unit 18 The vehicle possibility region J is superimposed on the image displayed on the display 19 and displayed. Note that the processes of S01 to S12 are repeatedly performed at a predetermined frame, for example, about 30 frames per second.
<作用効果>
鉱山においては、前方を走行する他車両1Aが走行時に後方に砂埃Dを撒き上げると、この撒き上げられた砂埃Dによって他車両1Aが隠れてしまい、この他車両1Aを追従して走行する自車両1から他車両1Aを視覚的に確認できない場合がある。さらに、砂埃Dが発生している領域は、略真っ白な領域となり、ステレオカメラ装置11の各カメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較して視差画像DIを取得する場合に、視差値のない視差無領域となる。
<Effect>
In the mine, when the other vehicle 1A traveling in the front lifts up the dust D rearward during traveling, the other vehicle 1A is hidden by the dust D so lifted up, and the vehicle 1A following the other vehicle 1A travels. In some cases, the vehicle 1 cannot visually confirm the other vehicle 1A. Furthermore, the area where the dust D is generated is a substantially white area, and the parallax image DI is acquired by comparing the two-dimensional camera acquired images a and b acquired by the cameras 11a and 11b of the stereo camera device 11. In this case, a parallax-free area with no parallax value is obtained.
そこで、上記第1実施形態に係る障害物検出システム10においては、路面R上の砂埃Dが発生している領域を、ステレオカメラ装置11の各カメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較し、これらカメラ取得画像a,b間の視差無領域にて特定する。 Therefore, in the obstacle detection system 10 according to the first embodiment, a two-dimensional camera acquisition in which the area where the dust D is generated on the road surface R is acquired by the cameras 11a and 11b of the stereo camera device 11 is acquired. The images a and b are compared and specified in the non-parallax region between the camera acquired images a and b.
また、車両1Aが走行時に撒き上げる砂埃Dは、自然発生した砂埃に比べ、濃度が高くかつ車両1Aの大きさよりも発生範囲が広い。そこで、各カメラ11a,11bにて取得したカメラ取得画像a,b間の視差無領域が所定の閾値より大きい場合に、その視差無領域を、他車両1Aが存在する可能性の高い車両可能性領域Jと特定する。 Also, the dust D that the vehicle 1A whirls when traveling is higher in concentration than the naturally occurring dust and has a wider range of generation than the size of the vehicle 1A. Therefore, when the parallax-free area between the camera acquired images a and b acquired by the cameras 11a and 11b is larger than a predetermined threshold, the possibility that the other vehicle 1A is likely to exist in the parallax-free area. The region J is specified.
以上により、砂埃Dが発生し、前方を走行する他車両1Aが砂埃Dによって隠れている場合であっても、他車両1Aが存在する可能性のある領域を検出できる。よって、前方を走行する他車両1Aや、路面R上の車両1Aを早期に検知できるため、前方を走行する他車両1Aの追従走行や回避走行を行わせることが可能となり、信頼性の高い車両1にできる。 As described above, even when the dust D is generated and the other vehicle 1A traveling ahead is hidden by the dust D, an area where the other vehicle 1A may exist can be detected. Therefore, since the other vehicle 1A traveling ahead and the vehicle 1A on the road surface R can be detected at an early stage, it becomes possible to cause the other vehicle 1A traveling ahead to perform follow-up traveling and avoidance traveling, and a highly reliable vehicle. Can be 1.
さらに、車両1Aが走行時に発生する砂埃Dは、路面R上に発生する。このため、視差画像DI中の路面領域に視差無領域が接している場合は、前方を走行する他車両1Aが走行時に撒き上げた砂埃Dの可能性が高い。そこで、視差無領域が路面領域に接している場合に、その視差無領域を砂埃領域と特定することにより、前方を走行する他車両1Aを覆い隠す砂埃領域を適切に特定でき、この砂埃領域によって隠れた他車両1Aを適切に検出できる。 Further, dust D generated when the vehicle 1A travels is generated on the road surface R. For this reason, when the non-parallax region is in contact with the road surface region in the parallax image DI, there is a high possibility of the dust D that the other vehicle 1 </ b> A traveling ahead travels up. Therefore, when the non-parallax region is in contact with the road surface region, by specifying the non-parallax region as the dust region, it is possible to appropriately identify the dust region that covers the other vehicle 1A that travels forward. The hidden other vehicle 1A can be detected appropriately.
また、図7に示すように、カメラ11aにて取得したカメラ取得画像a、すなわちアピアランス・イメージをディスプレイ19に表示させるとともに、このディスプレイ19に表示させた画像中に、前方を走行する他車両1Aが存在する可能性の高い車両可能性領域Jを重畳させて表示させるようにしている。この結果、このディスプレイ19を、車両1を運転するオペレータが確認することによって、走行方向前方の砂埃Dが発生している位置および範囲に加え、その砂埃Dによって隠れている他車両1Aが存在する可能性の高い領域を容易に確認できるため、有人走行式の車両1においても、前方を走行する他車両1Aとの車間距離をより適切に維持することが可能となり、この他車両1Aへの接触をより適切に防止できる。 Further, as shown in FIG. 7, the camera acquired image a acquired by the camera 11 a, that is, the appearance image is displayed on the display 19, and the other vehicle 1 </ b> A traveling ahead in the image displayed on the display 19 is displayed. The vehicle possibility region J that is likely to exist is superimposed and displayed. As a result, when the operator who drives the vehicle 1 confirms the display 19, in addition to the position and range where the dust D is generated in the front in the traveling direction, there is another vehicle 1A hidden by the dust D. Since a highly likely area can be easily confirmed, even in a manned traveling vehicle 1, it becomes possible to more appropriately maintain an inter-vehicle distance from the other vehicle 1 </ b> A traveling ahead, and contact with the other vehicle 1 </ b> A. Can be prevented more appropriately.
さらに、鉱山は、図1に示すように、同一車種の複数台の車両1,1Aが所定の走行間隔をあけ、同一の走行状態で走行している場合が多いため、S09において、砂埃幅Eを対比する閾値を、自車両1が積荷状態の場合は空荷状態の場合に比べて小さく設定し、自車両1の車速が高くなるに連れて大きく設定する。さらに、自車両1から砂埃発生位置Pまでの車間距離Lが長くなるに連れて、閾値を小さく設定する。この結果、前方を走行する他車両1Aの走行状態や、他車両1Aまでの走行間隔に応じた砂埃Dの検出が可能となるため、砂埃Dによって隠れている他車両1が存在する可能性の高い領域をより精度良く検出でき、この他車両1Aとの走行間隔をより適切に維持することが可能となる。 Further, as shown in FIG. 1, in many cases, a plurality of vehicles 1 and 1A of the same vehicle type are separated from each other by a predetermined traveling interval and are traveling in the same traveling state. Is set smaller when the host vehicle 1 is in a loaded state than when it is in an unloaded state, and is set larger as the vehicle speed of the host vehicle 1 increases. Further, the threshold value is set smaller as the inter-vehicle distance L from the host vehicle 1 to the dust generation position P becomes longer. As a result, since it becomes possible to detect the dust D according to the traveling state of the other vehicle 1A traveling in front and the traveling interval to the other vehicle 1A, there is a possibility that the other vehicle 1 hidden by the dust D exists. A high area can be detected with higher accuracy, and the travel interval with the other vehicle 1A can be more appropriately maintained.
さらに、S06で砂埃Dなしと判定した(NOの)場合は、そもそも砂埃Dが発生しておらず砂埃Dの先に他車両1Aが存在する可能性はない。また、S09で砂埃幅Eが閾値以下(NO)の場合は、先行する他車両1Aの走行時に発生した砂埃の可能性が極めて低い。さらに、これら場合においては、前方を走行する他車両1Aは、カメラ取得画像a,b中に撮影されており、視差画像DIから特定できる。よって、S06で砂埃Dなしと判定した場合、およびS09で砂埃幅Eが閾値以下の場合は、S03にて算出した視差画像DIから、先行して走行する他車両1Aの検出を行うこととする。この結果、視差画像DI中の視差無領域の大きさに関わらず、前方を走行する他車両1Aが存在する可能性の高い領域を特定できる。 Further, when it is determined that there is no dust D in S06 (NO), no dust D is generated in the first place, and there is no possibility that the other vehicle 1A exists ahead of the dust D. Further, when the dust width E is equal to or smaller than the threshold value (NO) in S09, the possibility of dust generated when the preceding other vehicle 1A travels is extremely low. Further, in these cases, the other vehicle 1A traveling ahead is captured in the camera acquired images a and b, and can be identified from the parallax image DI. Therefore, when it is determined that there is no dust D in S06, and when the dust width E is equal to or smaller than the threshold value in S09, the other vehicle 1A traveling ahead is detected from the parallax image DI calculated in S03. . As a result, regardless of the size of the parallax-free area in the parallax image DI, it is possible to specify an area where there is a high possibility that the other vehicle 1A traveling ahead is present.
[第2実施形態]
図13は、本発明の第2実施形態に係る車両1を示す概略図である。図14は、車両1に搭載した障害物検出システム10Aを示す概略図である。本第2実施形態が前述した第1実施形態と異なるのは、第1実施形態に対し、第2実施形態は、レーダ計測システム21、砂埃判定部22および車両認識部23を備えた点である。なお、本第2実施形態において、第1実施形態と同一又は対応する部分には同一符号を付している。
[Second Embodiment]
FIG. 13 is a schematic view showing a vehicle 1 according to the second embodiment of the present invention. FIG. 14 is a schematic diagram showing an obstacle detection system 10 </ b> A mounted on the vehicle 1. The second embodiment differs from the first embodiment described above in that the second embodiment includes a radar measurement system 21, a dust determination unit 22, and a vehicle recognition unit 23. . In the second embodiment, the same or corresponding parts as those in the first embodiment are denoted by the same reference numerals.
<構成>
本第2実施形態において、レーダ計測システム21は、障害物検出システム10Aに備えられ、砂埃D越しに障害物の有無を検出する障害物検出部である。レーダ計測システム21は、走行路認識部14にて認識した路面領域上にある障害物を検出するもので、レーダ計測情報取得部21aと、レーダ障害物検出部21bとを有している。レーダ計測情報取得部21aは、例えばミリ波レーダ等の砂埃を透過し、この砂埃の先の障害物を検出可能なレーザであり、このレーザにて走査する領域であるセンシング領域内に存在する障害物の位置情報をレーダ計測情報としてレーダ障害物検出部21bに出力する。
<Configuration>
In the second embodiment, the radar measurement system 21 is an obstacle detection unit that is provided in the obstacle detection system 10A and detects the presence or absence of an obstacle through the dust D. The radar measurement system 21 detects an obstacle on the road surface area recognized by the traveling road recognition unit 14, and includes a radar measurement information acquisition unit 21a and a radar obstacle detection unit 21b. The radar measurement information acquisition unit 21a is a laser that passes through dust such as a millimeter wave radar and can detect an obstacle ahead of the dust, and a fault that exists in a sensing region that is a region scanned by this laser. The position information of the object is output to the radar obstacle detection unit 21b as radar measurement information.
レーダ障害物検出部21bは、レーダ計測情報取得部21aにて取得したレーダ計測情報と、走行路認識部14にて推定した視差画像DI中の路面領域情報に基づいて、車両1の走行を阻害するおそれのある障害物、例えば他車両1Aの位置を検出し、この検出した障害物の位置情報を、車両認識部23に出力する。砂埃判定部22は、レーダ障害物検出部21bが検出した障害物の位置情報と砂埃位置検出部16が検出した砂埃発生位置Pおよび砂埃Dの画素数に基づいて、砂埃検出部15が検出した砂埃領域が、前方を走行する他車両1Aによる走行で発生した砂埃か否かを判別する。 The radar obstacle detection unit 21b inhibits the traveling of the vehicle 1 based on the radar measurement information acquired by the radar measurement information acquisition unit 21a and the road surface area information in the parallax image DI estimated by the travel path recognition unit 14. The position of the obstacle that may be detected, for example, the position of the other vehicle 1 </ b> A is detected, and the position information of the detected obstacle is output to the vehicle recognition unit 23. The dust detection unit 22 detects the position of the obstacle detected by the radar obstacle detection unit 21b and the dust generation position P detected by the dust position detection unit 16 and the number of pixels of the dust D detected by the dust detection unit 15. It is determined whether or not the dust region is dust generated by traveling by the other vehicle 1A traveling ahead.
車両認識部23は、障害物識別部であって、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jと、レーダ障害物検出部21bにて検出した障害物の位置とを比較し、前方を走行する他車両1Aの種類、大きさ、および位置を識別する。すなわち、車両認識部23は、車両可能性領域Jの位置および画素数と、レーダ計測情報中の障害物の位置とに基づき他車両1Aを識別する。さらに、車両認識部23は、識別した他車両1Aの種類、大きさおよび位置に関する車両情報を、例えば画像制御部18へ出力する。 The vehicle recognition unit 23 is an obstacle identification unit, and includes a vehicle possibility region J in the parallax image DI detected by the vehicle presence region detection unit 17 and the position of the obstacle detected by the radar obstacle detection unit 21b. And the type, size, and position of the other vehicle 1A traveling ahead are identified. That is, the vehicle recognition unit 23 identifies the other vehicle 1A based on the position and the number of pixels of the vehicle possibility region J and the position of the obstacle in the radar measurement information. Further, the vehicle recognition unit 23 outputs vehicle information regarding the type, size, and position of the identified other vehicle 1 </ b> A to the image control unit 18, for example.
<動作>
次に、上記第2実施形態に係る障害物検出システム10Aの処理について、図15を参照して説明する。図15は、障害物検出システム10Aによる処理を示すフローチャートである。ここで、障害物検出システム10Aの処理は、上記第1実施形態に係る障害物検出システム10の処理のうち、番号が等しいステップは同一である。
<Operation>
Next, processing of the obstacle detection system 10A according to the second embodiment will be described with reference to FIG. FIG. 15 is a flowchart showing processing by the obstacle detection system 10A. Here, the steps of the obstacle detection system 10A are the same in the steps of the obstacle detection system 10 according to the first embodiment.
S04の後、レーダ計測情報取得部21aにて、レーダ計測情報を取得する(S21)。次いで、レーダ障害物検出部21bは、取得したレーダ計測情報中のセンシング領域内にある障害物の位置情報と、S04にて推定した視差画像DI中の路面領域情報とに基づき、車両1の走行を阻害するおそれのある障害物、すなわち他車両1Aの位置を検出し、この検出した障害物の位置情報を車両認識部23へ出力する(S22)。 After S04, the radar measurement information acquisition unit 21a acquires radar measurement information (S21). Next, the radar obstacle detection unit 21b travels the vehicle 1 based on the position information of the obstacle in the sensing area in the acquired radar measurement information and the road surface area information in the parallax image DI estimated in S04. The position of the other vehicle 1A is detected, and the detected position information of the obstacle is output to the vehicle recognition unit 23 (S22).
さらに、S10の後、レーダ障害物検出部21bにて検出した障害物の位置情報を参照し(S23)、S10にて判定した砂埃隠蔽領域付近に障害物が存在する否かを砂埃判定部22にて判定する(S24)。S24にて砂埃隠蔽領域付近に障害物が存在すると判定した(YESの)場合は、前方を走行する他車両1Aが存在する判定となり、レーダ障害物検出部21bにて検出した障害物の位置情報と、S07にて検出した砂埃発生位置P情報とを、車両情報として車両認識部23へ出力する(S11)。 Further, after S10, the position information of the obstacle detected by the radar obstacle detection unit 21b is referred to (S23), and whether or not there is an obstacle near the dust concealment area determined in S10 is determined. (S24). If it is determined in S24 that there is an obstacle in the vicinity of the dust concealment area (YES), it is determined that there is another vehicle 1A traveling ahead, and the position information of the obstacle detected by the radar obstacle detection unit 21b. And the dust generation position P information detected in S07 is output to the vehicle recognition part 23 as vehicle information (S11).
一方、S24にて砂埃隠蔽領域付近に障害物が存在しないと判定した(NOの)場合は、検出した砂埃隠蔽領域が自然発生よる砂埃と判定し(S25)、障害物検出システム10Aによる処理を終了する。この結果、自然発生による砂埃を、車両1Aの走行時に発生する砂埃Dと区別でき、砂埃Dによって隠れた車両1Aを誤認識する可能性を低減できる。 On the other hand, if it is determined in S24 that there is no obstacle in the vicinity of the dust concealment area (NO), it is determined that the detected dust concealment area is naturally generated dust (S25), and the processing by the obstacle detection system 10A is performed. finish. As a result, naturally occurring dust can be distinguished from dust D generated when the vehicle 1A travels, and the possibility of erroneous recognition of the vehicle 1A hidden by the dust D can be reduced.
さらに、S12の後においては、S12にて検出した視差画像DI中の他車両1Aの車両認識位置について、レーダ障害物検出部21bにて検出したレーダ計測情報中の障害物の位置情報を参照して他車両1Aを検出し(S26)、この検出した他車両1Aの車両情報を、例えば画像制御部18へ出力する(S11)。 Furthermore, after S12, the position information of the obstacle in the radar measurement information detected by the radar obstacle detection unit 21b is referred to for the vehicle recognition position of the other vehicle 1A in the parallax image DI detected in S12. The other vehicle 1A is detected (S26), and the detected vehicle information of the other vehicle 1A is output to, for example, the image control unit 18 (S11).
<作用効果>
以上により、本第2実施形態に係る障害物検出システム10Aにおいては、上記第1実施形態にて奏し得る作用効果に加え、車両存在領域認識部17にて他車両1Aの位置や大きさを特定できない場合であっても、レーダ計測情報取得部21aにて路面領域上の障害物の位置を検出し、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jの位置および画素数に、レーダ障害物検出部21bにて検出した障害物の位置情報を加えることにより、車両認識部23にて、前方を走行する他車両1Aの種類、大きさ、及び位置を識別できる。
<Effect>
As described above, in the obstacle detection system 10A according to the second embodiment, in addition to the operational effects that can be achieved in the first embodiment, the position and size of the other vehicle 1A are specified by the vehicle presence area recognition unit 17. Even if it is not possible, the position of the obstacle on the road surface area is detected by the radar measurement information acquisition unit 21a, and the position of the vehicle possibility area J in the parallax image DI detected by the vehicle presence area detection unit 17 and By adding the position information of the obstacle detected by the radar obstacle detection unit 21b to the number of pixels, the vehicle recognition unit 23 can identify the type, size, and position of the other vehicle 1A traveling ahead.
特に、レーダ計測情報取得部21aとしてレーダを用いることにより、レーザにて走査するセンシング領域内に存在する障害物の位置情報を正確に検出できるから、砂埃Dによって隠れた他車両1Aを適切に検出できる。よって、レーダ計測情報取得部21aにて計測したレーダ計測情報に基づき、レーダ障害物検出部21bにて、視差画像DI中の路面領域上に存在する障害物を検出し、この検出した障害物の位置情報を用いることにより、車両認識部23による路面領域上の障害物情報の検出をより精度良くできる。 In particular, by using a radar as the radar measurement information acquisition unit 21a, it is possible to accurately detect the position information of the obstacle present in the sensing area scanned by the laser, so that the other vehicle 1A hidden by the dust D is appropriately detected. it can. Therefore, based on the radar measurement information measured by the radar measurement information acquisition unit 21a, the radar obstacle detection unit 21b detects an obstacle present on the road surface area in the parallax image DI, and the detected obstacle is detected. By using the position information, the vehicle recognition unit 23 can more accurately detect the obstacle information on the road surface area.
さらに、車両1Aによる走行にて発生した砂埃か否かは、視差画像DI中の路面領域と砂埃領域との位置関係やその大きさ、すなわち画素数によって判別できる。このため、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jの位置および画素数と、レーダ障害物検出部21bにて検出した障害物の位置情報とに基づき、砂埃検出部15にて検出した砂埃領域が、前方を走行する他車両1Aの走行にて発生した砂埃Dか否かを砂埃判定部22にて判別できる。よって、砂埃領域に相当する砂埃Dの発生原因を精度良く特定できる。よって、車両1Aを覆い隠す砂埃Dをより精度良く特定できるため、車両1Aが存在する可能性の高い領域をより精度良く検出できる。 Further, whether or not the dust is generated by traveling by the vehicle 1A can be determined by the positional relationship between the road surface area and the dust area in the parallax image DI and the size thereof, that is, the number of pixels. Therefore, based on the position of the vehicle possibility region J and the number of pixels in the parallax image DI detected by the vehicle presence region detection unit 17 and the position information of the obstacle detected by the radar obstacle detection unit 21b, The dust determination unit 22 can determine whether the dust region detected by the detection unit 15 is the dust D generated by the traveling of the other vehicle 1A traveling forward. Therefore, the cause of generation of dust D corresponding to the dust region can be identified with high accuracy. Therefore, since the dust D covering the vehicle 1A can be specified with higher accuracy, the region where the vehicle 1A is likely to exist can be detected with higher accuracy.
[その他]
なお、本発明は前述した実施形態に限定されるものではなく、様々な変形態様が含まれる。例えば、前述した実施形態は、本発明を分りやすく説明するために説明したものであり、本発明は、必ずしも説明した全ての構成を備えるものに限定されるものではない。
[Others]
In addition, this invention is not limited to embodiment mentioned above, Various deformation | transformation aspects are included. For example, the above-described embodiments have been described in order to explain the present invention in an easy-to-understand manner, and the present invention is not necessarily limited to those having all the configurations described.
さらに、上記各実施形態においては、鉱山用のダンプトラックを例として車両1を説明したが、例えば、油圧ショベル4、散水車、グレーダ、ブルドーザ、ロードローダ、パトロールカー等の作業車の他、鉱山に設けられた路面Rを走行する鉱山用作業車両についても、本発明に係る障害物検出システム10,10Aを搭載することもできる。 Furthermore, in each said embodiment, although the vehicle 1 was demonstrated taking the dump truck for mines as an example, for example, in addition to working vehicles, such as a hydraulic excavator 4, a water truck, a grader, a bulldozer, a load loader, a patrol car, a mine The obstacle detection systems 10 and 10A according to the present invention can also be mounted on the mining work vehicle that travels on the road surface R provided on the road.
また、有人走行式の車両1のみならず、情報センタ3からの操作信号に応じて、自律走行可能な無人走行式の車両1であってもよい。この場合には、障害物検出システム10,10Aにて検出した車両情報を車両1から情報センタ3へ送信し、情報センタ3にて認識する車両情報と比較等し、この情報センタ3にて管制する複数台の車両1,1Aの運行をより精度良く管理できる。 Further, not only the manned traveling vehicle 1 but also the unmanned traveling vehicle 1 capable of autonomous traveling according to an operation signal from the information center 3 may be used. In this case, the vehicle information detected by the obstacle detection systems 10 and 10A is transmitted from the vehicle 1 to the information center 3 and compared with the vehicle information recognized by the information center 3. The operation of a plurality of vehicles 1 and 1A can be managed with higher accuracy.
また、上記各実施形態に係る障害物検出システム10,10Aとしては、例えば、前方を走行する他車両1Aのほか、鉱山の路面Rを走行する散水車、グレーダ、パトロールカー等の他車両を検出する車両検出システム等としてもよく、さらには、例えば落下した積載物や、崩れた土砂、落石等の車両1,1A以外の障害物を検出するシステムとしてもよい。 In addition, as the obstacle detection systems 10 and 10A according to the above embodiments, for example, other vehicles 1A traveling in front, other vehicles such as watering vehicles, graders, patrol cars traveling on the road surface R of the mine are detected. Further, a vehicle detection system or the like may be used. Further, for example, a system for detecting obstacles other than the vehicles 1 and 1A such as a dropped load, collapsed earth and sand, and falling rocks may be used.
またさらに、上記各実施形態においては、障害物検出システム10,10Aによるすべての処理を車両1に搭載したコントローラ6で行う構成としたが、車載無線装置5g等を用いて所定の情報の送受信を行うようにし、コントローラ6のうちの少なくともいずれかの処理を、情報センタ3等の車両1以外の場所で行う構成とすることもできる。 Furthermore, in each of the above-described embodiments, the controller 6 mounted on the vehicle 1 performs all the processing by the obstacle detection systems 10 and 10A. However, transmission and reception of predetermined information using the in-vehicle wireless device 5g and the like. It is also possible to adopt a configuration in which at least one of the processes of the controller 6 is performed at a place other than the vehicle 1 such as the information center 3.
1,1A 車両(鉱山用作業車両)
1c 荷台
5h 車速センサ(速度検出部)
5i 荷重センサ(積荷質量検出部)
6 コントローラ
10 障害物検出システム
11 ステレオカメラ装置
11a カメラ(第1のカメラ)
11b カメラ(第2のカメラ)
12 画像情報取得部(差分無領域特定部)
13 距離算出部
14 走行路認識部(路面領域特定部)
15 砂埃検出部
16 砂埃位置検出部
17 車両存在領域検出部(障害物領域特定部)
18 画像制御部
19 ディスプレイ(表示装置)
21 レーダ計測システム(障害物検出部)
21a レーダ計測情報取得部(レーダ)
21b レーダ障害物検出部
22 砂埃判定部
23 車両認識部(障害物識別部)
1,1A vehicle (mine work vehicle)
1c Loading platform 5h Vehicle speed sensor (speed detector)
5i Load sensor (load mass detector)
6 controller 10 obstacle detection system 11 stereo camera device 11a camera (first camera)
11b Camera (second camera)
12 Image information acquisition unit (difference-free region specifying unit)
13 Distance calculation unit 14 Travel path recognition unit (road surface area specifying unit)
DESCRIPTION OF SYMBOLS 15 Dust detection part 16 Dust position detection part 17 Vehicle presence area | region detection part (obstacle area specific | specification part)
18 Image Control Unit 19 Display (Display Device)
21 Radar measurement system (obstacle detection unit)
21a Radar measurement information acquisition unit (radar)
21b Radar obstacle detection unit 22 Dust determination unit 23 Vehicle recognition unit (obstacle identification unit)
Claims (8)
前記第1のカメラにて取得した二次元の画像情報と、前記第2のカメラにて取得した二次元の画像情報とを比較し、これら画像情報間の差分の無い領域を差分無領域として特定する差分無領域特定部と、
前記画像情報中の差分無領域の画素数が所定値より大きい場合に、前記差分無領域を障害物が存在する可能性の高い障害物領域と特定する障害物領域特定部と、
を備えたことを特徴とする鉱山用作業車両。 A stereo camera device including first and second cameras capable of acquiring image information in front of the traveling direction;
The two-dimensional image information acquired by the first camera is compared with the two-dimensional image information acquired by the second camera, and an area having no difference between the image information is identified as a no-difference area. A difference-free region specifying unit to
An obstacle area specifying unit for specifying the difference-free area as an obstacle area where an obstacle is likely to exist when the number of pixels of the difference-free area in the image information is larger than a predetermined value;
Mining work vehicle characterized by comprising:
前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の路面領域を特定する路面領域特定部と、
前記画像情報中の前記差分無領域が前記路面領域に接している場合に、前記差分無領域を砂埃領域と特定する砂埃領域特定部と、を備え、
前記障害物領域特定部は、前記画像情報中の砂埃領域の画素数が所定値より大きい場合に、前記砂埃領域を障害物領域と特定する
ことを特徴とする鉱山用作業車両。 The mine work vehicle according to claim 1,
A road surface area specifying unit for specifying a road surface area in the image information based on the image information acquired by the first and second cameras;
A dust region specifying unit for specifying the difference non-region as a dust region when the difference non-region in the image information is in contact with the road surface region;
The obstacle region specifying unit specifies the dust region as an obstacle region when the number of pixels of the dust region in the image information is larger than a predetermined value.
前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、
前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した前記画像情報中の前記障害物領域の位置および画素数とに基づき、前記障害物の種類、大きさ、および位置を識別する障害物識別部と、
を備えたことを特徴とする鉱山用作業車両。 The mining work vehicle according to claim 2,
An obstacle detection unit for detecting an obstacle present on the road surface area in the image information;
The type and size of the obstacle based on the obstacle information detected by the obstacle detection unit and the position and the number of pixels of the obstacle region in the image information specified by the obstacle region specifying unit. , And an obstacle identifying unit for identifying the position;
Mining work vehicle characterized by comprising:
前記障害物検出部は、レーダと、前記レーダにて計測した計測情報に基づき、前記画像情報中の路面領域上に存在する障害物を検出するレーダ障害物検出部とを有する
ことを特徴とする鉱山用作業車両。 The mine work vehicle according to claim 3,
The obstacle detection unit includes a radar and a radar obstacle detection unit that detects an obstacle existing on a road surface area in the image information based on measurement information measured by the radar. Mining work vehicle.
前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、
前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した画像情報中の前記障害物領域の位置および画素数とに基づき、前記差分無領域が車両の走行にて発生した砂埃か否かを判別する砂埃判別部と、
を備えたことを特徴とする鉱山用作業車両。 The mining work vehicle according to claim 2,
An obstacle detection unit for detecting an obstacle present on the road surface area in the image information;
Based on the obstacle information detected by the obstacle detection unit and the position and the number of pixels of the obstacle region in the image information specified by the obstacle region specification unit, the difference-free region is used for driving the vehicle. A dust discriminating unit for discriminating whether or not the dust is generated,
Mining work vehicle characterized by comprising:
画像情報を表示するための表示装置と、
前記第1および第2のカメラのいずれか一方にて取得した画像情報を前記表示装置に表示させ、かつ前記障害物領域特定部にて特定した前記障害物領域を、前記表示装置に表示させた画像中に表示する画像制御部と、
を備えたことを特徴とする鉱山用作業車両。 The mine work vehicle according to claim 1,
A display device for displaying image information;
Image information acquired by one of the first and second cameras is displayed on the display device, and the obstacle region specified by the obstacle region specifying unit is displayed on the display device. An image control unit to be displayed in the image;
Mining work vehicle characterized by comprising:
荷台と、
前記荷台に積まれた積荷の質量を検出する積荷質量検出部と、
走行速度を検出する速度検出部と、
前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の前記差分無領域までの距離を算出する距離算出部と、を備え、
前記障害物領域特定部は、前記積荷質量検出部にて検出した積荷の質量、前記速度検出部にて検出した走行速度、および前記距離算出部にて算出した前記差分無領域までの距離に応じて、前記所定値を変化させる
ことを特徴とする鉱山用作業車両。 The mine work vehicle according to claim 1,
Loading platform,
A load mass detector for detecting the mass of the load loaded on the cargo bed;
A speed detector for detecting the traveling speed;
A distance calculation unit that calculates a distance to the no-difference area in the image information based on the image information acquired by the first and second cameras;
The obstacle region specifying unit is responsive to the mass of the load detected by the load mass detection unit, the travel speed detected by the speed detection unit, and the distance to the no difference region calculated by the distance calculation unit. The predetermined value is changed. A mining work vehicle.
前記障害物領域特定部は、前記画像情報中の差分無領域の画素数が前記所定値より小さい場合に、前記第1および第2のカメラにて取得した画像情報から前記障害物領域を特定する
ことを特徴とする鉱山用作業車両。 The mine work vehicle according to claim 1,
The obstacle area specifying unit specifies the obstacle area from the image information acquired by the first and second cameras when the number of pixels of the non-difference area in the image information is smaller than the predetermined value. A mining work vehicle characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014149182A JP6385745B2 (en) | 2014-07-22 | 2014-07-22 | Mining work vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014149182A JP6385745B2 (en) | 2014-07-22 | 2014-07-22 | Mining work vehicle |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016024685A true JP2016024685A (en) | 2016-02-08 |
JP6385745B2 JP6385745B2 (en) | 2018-09-05 |
Family
ID=55271375
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014149182A Expired - Fee Related JP6385745B2 (en) | 2014-07-22 | 2014-07-22 | Mining work vehicle |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6385745B2 (en) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017159639A1 (en) * | 2016-03-14 | 2017-09-21 | 日立建機株式会社 | Mine working machine |
KR20180031146A (en) * | 2016-09-19 | 2018-03-28 | 현대자동차주식회사 | Vehicle and Method for detecting obstacle |
JP2018167642A (en) * | 2017-03-29 | 2018-11-01 | 日立建機株式会社 | Soil discharge state monitoring device |
JP2019079338A (en) * | 2017-10-25 | 2019-05-23 | 株式会社Ihi | Object detection system |
JP2019152580A (en) * | 2018-03-05 | 2019-09-12 | 日立建機株式会社 | Road surface state detector |
WO2020101007A1 (en) * | 2018-11-14 | 2020-05-22 | 住友建機株式会社 | Shovel, shovel control device, and shovel support device |
JP2020084431A (en) * | 2018-11-16 | 2020-06-04 | 日立建機株式会社 | Road surface management system |
WO2020184065A1 (en) * | 2019-03-14 | 2020-09-17 | 日立建機株式会社 | Construction machine |
CN111895931A (en) * | 2020-07-17 | 2020-11-06 | 嘉兴泊令科技有限公司 | Coal mine operation area calibration method based on computer vision |
JP2021015340A (en) * | 2019-07-10 | 2021-02-12 | ヤンマーパワーテクノロジー株式会社 | Work vehicle self-driving system |
JP2021021967A (en) * | 2019-07-24 | 2021-02-18 | 本田技研工業株式会社 | Recognition system, vehicle control system, recognition method, and program |
JP2021505479A (en) * | 2017-12-05 | 2021-02-18 | ギマ パルファンジェ エス.ア.エス.Guima Palfinger S.A.S. | Truck mountable detection system |
CN113795802A (en) * | 2019-05-14 | 2021-12-14 | 山特维克矿山工程机械有限公司 | Autonomous mine car operation |
CN114200838A (en) * | 2021-12-08 | 2022-03-18 | 青岛中鸿重型机械有限公司 | A kind of intelligent electric scraper control method |
CN114910970A (en) * | 2021-02-07 | 2022-08-16 | 北京博瑞赛科技有限责任公司 | Grade detection device and method for vehicle-mounted uranium ore |
WO2023042451A1 (en) * | 2021-09-15 | 2023-03-23 | 日立建機株式会社 | Autonomous mining vehicle |
CN116755111A (en) * | 2023-08-24 | 2023-09-15 | 深圳市镭神智能系统有限公司 | Mine car obstacle identification method, device, computer equipment and storage medium |
RU229058U1 (en) * | 2023-12-01 | 2024-09-19 | Общество с ограниченной ответственностью "Техно ТОР" | Electric vehicle with unmanned control system for the mining industry |
JP7590240B2 (en) | 2021-03-22 | 2024-11-26 | 日立建機株式会社 | Work Machine |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10143659A (en) * | 1996-11-06 | 1998-05-29 | Komatsu Ltd | Object detector |
JP2009276906A (en) * | 2008-05-13 | 2009-11-26 | Panasonic Corp | Travelling information providing device |
EP2293588A1 (en) * | 2009-08-31 | 2011-03-09 | Robert Bosch GmbH | Method for using a stereovision camera arrangement |
-
2014
- 2014-07-22 JP JP2014149182A patent/JP6385745B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10143659A (en) * | 1996-11-06 | 1998-05-29 | Komatsu Ltd | Object detector |
JP2009276906A (en) * | 2008-05-13 | 2009-11-26 | Panasonic Corp | Travelling information providing device |
EP2293588A1 (en) * | 2009-08-31 | 2011-03-09 | Robert Bosch GmbH | Method for using a stereovision camera arrangement |
Cited By (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017159639A1 (en) * | 2016-03-14 | 2017-09-21 | 日立建機株式会社 | Mine working machine |
CN108027423A (en) * | 2016-03-14 | 2018-05-11 | 日立建机株式会社 | Mine Work machine |
JPWO2017159639A1 (en) * | 2016-03-14 | 2019-03-28 | 日立建機株式会社 | Mining work machine |
CN108027423B (en) * | 2016-03-14 | 2022-01-04 | 日立建机株式会社 | Mining working machine |
US10656265B2 (en) | 2016-03-14 | 2020-05-19 | Hitachi Construction Machinery Co., Ltd. | Mining work machine |
KR20180031146A (en) * | 2016-09-19 | 2018-03-28 | 현대자동차주식회사 | Vehicle and Method for detecting obstacle |
KR102655800B1 (en) * | 2016-09-19 | 2024-04-09 | 현대자동차주식회사 | Vehicle and Method for detecting obstacle |
JP2018167642A (en) * | 2017-03-29 | 2018-11-01 | 日立建機株式会社 | Soil discharge state monitoring device |
JP2019079338A (en) * | 2017-10-25 | 2019-05-23 | 株式会社Ihi | Object detection system |
JP7043787B2 (en) | 2017-10-25 | 2022-03-30 | 株式会社Ihi | Object detection system |
US11685302B2 (en) | 2017-12-05 | 2023-06-27 | Guima Palfinger S.A.S. | Truck-mountable detection system |
JP2021505479A (en) * | 2017-12-05 | 2021-02-18 | ギマ パルファンジェ エス.ア.エス.Guima Palfinger S.A.S. | Truck mountable detection system |
JP2019152580A (en) * | 2018-03-05 | 2019-09-12 | 日立建機株式会社 | Road surface state detector |
WO2020101007A1 (en) * | 2018-11-14 | 2020-05-22 | 住友建機株式会社 | Shovel, shovel control device, and shovel support device |
KR102793837B1 (en) | 2018-11-14 | 2025-04-08 | 스미토모 겐키 가부시키가이샤 | Shovel, shovel control device, shovel support device |
CN113056591A (en) * | 2018-11-14 | 2021-06-29 | 住友建机株式会社 | Shovel, shovel control device, and shovel support device |
KR20210104668A (en) * | 2018-11-14 | 2021-08-25 | 스미토모 겐키 가부시키가이샤 | Shovel, shovel control device, shovel support device |
JPWO2020101007A1 (en) * | 2018-11-14 | 2021-09-30 | 住友建機株式会社 | Excavator, excavator control device, excavator support device |
JP2020084431A (en) * | 2018-11-16 | 2020-06-04 | 日立建機株式会社 | Road surface management system |
JP7187280B2 (en) | 2018-11-16 | 2022-12-12 | 日立建機株式会社 | road management system |
WO2020184065A1 (en) * | 2019-03-14 | 2020-09-17 | 日立建機株式会社 | Construction machine |
KR102579791B1 (en) | 2019-03-14 | 2023-09-19 | 히다치 겡키 가부시키 가이샤 | construction machinery |
JP2020148029A (en) * | 2019-03-14 | 2020-09-17 | 日立建機株式会社 | Construction machine |
KR20210120085A (en) * | 2019-03-14 | 2021-10-06 | 히다치 겡키 가부시키 가이샤 | construction machinery |
JP7111641B2 (en) | 2019-03-14 | 2022-08-02 | 日立建機株式会社 | construction machinery |
US12054913B2 (en) | 2019-03-14 | 2024-08-06 | Hitachi Construction Machinery Co., Ltd. | Construction machine |
CN113795802A (en) * | 2019-05-14 | 2021-12-14 | 山特维克矿山工程机械有限公司 | Autonomous mine car operation |
JP2021015340A (en) * | 2019-07-10 | 2021-02-12 | ヤンマーパワーテクノロジー株式会社 | Work vehicle self-driving system |
JP7349277B2 (en) | 2019-07-10 | 2023-09-22 | ヤンマーパワーテクノロジー株式会社 | Automated driving system for work vehicles |
JP2021021967A (en) * | 2019-07-24 | 2021-02-18 | 本田技研工業株式会社 | Recognition system, vehicle control system, recognition method, and program |
CN111895931B (en) * | 2020-07-17 | 2021-11-26 | 嘉兴泊令科技有限公司 | Coal mine operation area calibration method based on computer vision |
CN111895931A (en) * | 2020-07-17 | 2020-11-06 | 嘉兴泊令科技有限公司 | Coal mine operation area calibration method based on computer vision |
CN114910970A (en) * | 2021-02-07 | 2022-08-16 | 北京博瑞赛科技有限责任公司 | Grade detection device and method for vehicle-mounted uranium ore |
JP7590240B2 (en) | 2021-03-22 | 2024-11-26 | 日立建機株式会社 | Work Machine |
JP2023042673A (en) * | 2021-09-15 | 2023-03-28 | 日立建機株式会社 | Autonomous mine vehicle |
WO2023042451A1 (en) * | 2021-09-15 | 2023-03-23 | 日立建機株式会社 | Autonomous mining vehicle |
EP4404020A4 (en) * | 2021-09-15 | 2025-07-09 | Hitachi Construction Mach Co | AUTONOMOUS MINING VEHICLE |
CN114200838A (en) * | 2021-12-08 | 2022-03-18 | 青岛中鸿重型机械有限公司 | A kind of intelligent electric scraper control method |
CN116755111A (en) * | 2023-08-24 | 2023-09-15 | 深圳市镭神智能系统有限公司 | Mine car obstacle identification method, device, computer equipment and storage medium |
CN116755111B (en) * | 2023-08-24 | 2023-11-03 | 深圳市镭神智能系统有限公司 | Method and device for identifying obstacle of mine car, computer equipment and storage medium |
RU229058U1 (en) * | 2023-12-01 | 2024-09-19 | Общество с ограниченной ответственностью "Техно ТОР" | Electric vehicle with unmanned control system for the mining industry |
Also Published As
Publication number | Publication date |
---|---|
JP6385745B2 (en) | 2018-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6385745B2 (en) | Mining work vehicle | |
US11691648B2 (en) | Drivable surface identification techniques | |
US11125881B2 (en) | Lidar-based trailer tracking | |
US11567197B2 (en) | Automated object detection in a dusty environment | |
US10444755B2 (en) | Autonomous travel vehicle control device, autonomous travel vehicle control system, and autonomous travel vehicle control method | |
EP3159866B1 (en) | Object recognition apparatus and vehicle travel controller using same | |
AU2014213529B2 (en) | Image display system | |
US10810877B2 (en) | Vehicle control device | |
US12043283B2 (en) | Detection of near-range and far-range small objects for autonomous vehicles | |
WO2015163028A1 (en) | Road surface estimation device and road surface estimation system for mine work-vehicle | |
US10699136B2 (en) | System and method for camera-based detection of object heights proximate to a vehicle | |
WO2015098344A1 (en) | Mining work machine | |
WO2022004494A1 (en) | Industrial vehicle | |
AU2021301647B2 (en) | Obstacle detector and obstacle detection method | |
JP6175309B2 (en) | Mining vehicle | |
US12085950B2 (en) | Visual overlays for providing perception of depth | |
JP2019152580A (en) | Road surface state detector | |
JP6204782B2 (en) | Off-road dump truck | |
US11386568B2 (en) | Method and device for determining a quality of a surface in the surroundings of a transportation vehicle | |
US11608071B2 (en) | Vehicle control device | |
JP6909752B2 (en) | Work machine retreat support device | |
JP4768499B2 (en) | In-vehicle peripheral other vehicle detection device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180226 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180731 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180808 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6385745 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |