[go: up one dir, main page]

CN112740220A - 用于交通灯识别的系统和方法 - Google Patents

用于交通灯识别的系统和方法 Download PDF

Info

Publication number
CN112740220A
CN112740220A CN201880097828.XA CN201880097828A CN112740220A CN 112740220 A CN112740220 A CN 112740220A CN 201880097828 A CN201880097828 A CN 201880097828A CN 112740220 A CN112740220 A CN 112740220A
Authority
CN
China
Prior art keywords
traffic signal
fixtures
state
fixture
autonomous vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880097828.XA
Other languages
English (en)
Other versions
CN112740220B (zh
Inventor
泷直树
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Europe NV SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Europe NV SA filed Critical Toyota Motor Europe NV SA
Publication of CN112740220A publication Critical patent/CN112740220A/zh
Application granted granted Critical
Publication of CN112740220B publication Critical patent/CN112740220B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/04Traffic conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Traffic Control Systems (AREA)

Abstract

提供了一种用于自主车辆的交通信号固定装置验证系统,该系统包括光学识别装置,该光学识别装置被配置为获得自主车辆附近的两个或更多个交通信号固定装置的一个或多个图像,并检测自主车辆附近的一个或多个车辆的运动状态。该系统还包括处理装置,该处理装置被配置为确定在该一个或多个图像中识别的两个或更多个交通信号固定装置的相关性值,监视具有大于阈值的相关性值的两个或更多个相关的交通信号固定装置中的每一个的状态,以及基于该两个或更多个相关的交通信号固定装置的相关性值、该两个或更多个相关的交通信号固定装置中的每一个的相应状态、以及可选地,和/或车辆周围的一个或多个车辆的运动状态来致动自主车辆的加速器功能或制动功能。

Description

用于交通灯识别的系统和方法
技术领域
本公开涉及用于道路指示符识别的系统和方法,更具体地,涉及一个或多个交通灯的状态的改进识别。
背景技术
存在用于为机动车辆的驾驶员提供帮助的各种系统。例如,一个这样的辅助领域涉及自动交通信号识别。
可以通过使用合适的设备(例如,诸如相机的光学设备)来实现交通信号识别,以用于感知或检测机动车辆的周围环境。系统可从例如汽车制造商以及便携式导航设备(PNDS)的制造商二者商购。PND系统是基于GPS信号和用于提供与交通信号有关的信息的地图数据。
一些现有系统实现了用于提高识别精度和鲁棒性的相机设备。车辆制造商使用前置安装的相机设备和用于将信号和与车辆的驾驶状态有关的数据组合在一起的装置。进一步的选择是用于将信号与导航设备组合在一起的装置。
US 2016/0306361公开了使用相机提供自主导航特征。为车辆提供交通灯检测系统,其中与系统相关联的一个或多个处理设备经由数据接口来接收车辆前进的区域的至少一个图像,其中,该区域包括至少一个具有至少一个交通灯的交通灯固定装置(fixture)。处理设备基于车辆位置的至少一个指示器确定车辆是否处于转向车道。此外,处理设备处理所接收的图像以确定交通灯的状态,包括交通信号灯是否包括箭头。此外,系统可以基于对交通灯的状态的确定、交通灯是否包括箭头、以及车辆是否处于转向车道来引起系统响应。
发明内容
本发明人已经认识到,在某些条件下,可能难以甚至不可能验证或甚至不可能确定适用于自主车辆(ego vehicle)的交通信号的状态。这种难度可以由被阻挡的视野(遮挡)、不可操作的交通信号、无法识别的交通信号、无关的交通信号(例如,电车轨道信号)等引起。
因此,本配置旨在解决这些问题,其目的是实现自主驾驶和/或具有改进的安全性的驾驶辅助。
根据本公开的实施例,提供了用于自主车辆的交通信号固定装置验证系统。该系统包括光学识别装置以及处理装置,光学识别装置被配置为获得自主车辆附近的两个或更多个交通信号固定装置的一个或多个图像,并检测自主车辆附近的一个或多个车辆的运动状态。处理装置被配置为确定在一个或多个图像中识别的两个或更多个交通信号固定装置的相关性值,监视具有大于阈值的相关性值的两个或更多个相关的交通信号固定装置中的每一个的状态,以及基于两个或更多个相关的交通信号固定装置的相关性值,两个或更多个相关的交通信号固定装置中的每一个的相应状态,以及可选地,车辆周围的一个或多个车辆的运动状态,致动(actuate)自主车辆的加速器功能或制动功能。
通过提供这样的系统,在由自主驾驶系统拍摄动作之前,或者在提供驾驶员辅助之前(例如,辅助制动和/或转向),识别或暗示交通信号状态并验证该状态成为可能。
当不能确定两个或更多个相关的交通信号固定装置中的一个的状态时,该两个或更多个相关的交通信号固定装置中的另一个的状态可被用于致动。
当两个或更多个相关的交通信号特征的状态不相同时,具有更高相关性值的相关交通信号的状态可被用于致动。
当两个或更多个相关的交通信号特征的状态不相同时,具有最高安全因素的相关交通信号的状态可被用于致动。
具有最高安全因素的状态可对应于交通信号固定装置的红灯。
处理装置可被配置为接收与交通信号固定装置位置相关联的地图数据,并在相关性确定中使用地图数据。
可以在相关性值确定中考虑两个或更多个相关交通信号中的每一个与自主车辆的距离。
在检测到车辆周围的一个或多个车辆的运动状态的变化大于阈值百分比变化之后,运动状态的变化可被考虑用于致动。
根据本公开的其他实施例,提供了一种用于验证交通信号固定装置的状态的方法。该方法包括获得自主车辆附近的两个或更多个交通信号固定装置的一个或多个图像,检测自主车辆附近的一个或多个车辆的运动状态,确定在一个或多个图像中识别的两个或更多个交通信号固定装置的相关性值,监视具有大于阈值的相关性值的两个或更多个相关的交通信号固定装置中的每一个的状态,以及基于两个或更多个相关的交通信号固定装置的相关性值,两个或更多个相关的交通信号固定装置中的每一个的相应状态,以及可选地,车辆周围的一个或多个车辆的运动状态,致动自主车辆的加速器功能或制动功能。
当不能确定两个或更多个相关的交通信号固定装置中的一个的状态时,两个或更多个相关的交通信号固定装置中的另一个的状态可被用于致动。
当两个或更多个相关的交通信号特征的状态不相同时,具有更高相关性值的相关的交通信号的状态可被用于致动。
当两个或更多个相关的交通信号特征的状态不相同时,具有最高安全因素的相关的交通信号的状态可被用于致动。
该方法可包括接收与交通信号固定装置位置相关联的地图数据,并在相关性确定中使用地图数据。
在检测到车辆周围的一个或多个车辆的运动状态的变化大于阈值百分比变化时,运动状态的变化被考虑用于致动。
除非矛盾,否则可进行上述元素的组合和说明书内的组合。
应当理解,如要求保护的,前述一般描述和以下详细描述仅是示例性的和说明性的并且不限制本公开。
结合在本说明书中并构成本说明书的一部分的附图示出了本公开的实施例并与说明书一起用于解释其原理。
附图说明
图1示出了根据本公开实施例的示例性驾驶员辅助系统;
图2是表示包括如权利要求1所述的驾驶员辅助系统同时处于道路上的示例性交叉路口处的示例性车辆的图;
图3是类似于图2的示例性情况的俯视图;
图4A示出了示例性交通信号及其相关联的状态;
图4B是包括多个交通信号的示例性实际交叉路口;
图5A和5B示出了包括多个交通信号的两个另外的示例性交叉路口;
图6A是突出显示根据本公开实施例的示例性方法的流程图;以及
图6B示出了根据本公开的实施例的用于评估和验证一个或多个安全因素的示例性流程图。
具体实施方式
现在将参考本公开的示例性实施例,其示例在附图中示出。尽可能地,在整个附图中使用相同的附图标记,以指代相同或相似的部件。
图1示出了根据本公开实施例的示例性驾驶员辅助系统1。驾驶员辅助系统1可包括处理装置(例如电子控制单元(ECU)10)、图像获取装置15(例如相机)、一个或多个传感器20、以及显示器/致动器25等。根据一些实施例,可以根据需要可选地提供全球定位系统(GPS)27,以例如向ECU 10提供关于位置的附加数据和地图。
显示器/致动器25可被配置为向车辆2的驾驶员显示由ECU 10提供的信息和/或发布命令以引起自动或辅助驾驶场景中的各种车辆系统的致动(例如,加速,制动,转向等)
显示器25可以是用于向车辆2的驾驶员提供可见的和/或可听信息的任何合适的设备。例如,显示器25可包括抬头显示器(例如,在驾驶员前方的挡风玻璃上)、监视器、仪表盘显示器等。进一步地,在提供致动器25的情况下,这种设备可以是用于控制各种车辆系统的任何合适的设备。
图像获取装置15可包括例如一个或多个相机和/或其他合适的设备,其被配置为从车辆周围的区域获得光学数据(例如,在自主车辆的前方周边)。图像获取装置15可被配置为处理从车辆的周围获得的数据,以确定交通信号310、320、330、340、350和道路交叉路口的存在(即,车辆可转向十字路口或在目前道路上继续直行的十字路口)。这种图像获取装置15在本领域中是已知的,并且本领域技术人员将理解,在不脱离本公开的范围的情况下,可以在本系统中实现任何这样的图像获取装置15。这种图像获取装置的示例是在汽车市场目前的许多车辆上的鱼眼相机、长焦相机和典型相机。
图像获取装置15可位于车辆2上,以便提供车辆2周围的合理视野4(例如,跨越大约180度的前视图和侧视图)。例如,一个或多个图像获取装置15可位于挡风玻璃后面,在前保险杠上,侧视镜,后视镜和/或车辆2上的其他合适的安装位置,以便提供自主车辆附近和临近车辆的交叉路口的交通信号310、320、330、340、350的视野4。
根据一些实施例,出于美学原因,可能需要最小化图像获取装置15的可见性,并且本领域技术人员将理解,找到适合于实现这一目标的安装位置,同时还提供车辆2周围的充足视野是合理的考虑因素。
本文所使用的,当提到视野时,术语“合理”应表示提供图像获取装置15的如下视野:在自主车辆周围的道路的前面和外围的至少150度的球形覆盖范围,更好是160度,甚至更好是170度,再更好是180度。
如图2和3所示,图像获取装置15的FOV 4可实现从FOV 4内的一个或多个交通信号310、320、330、340、350的捕获和检测。但是,一些交通信号(例如,交通信号310和350)可以在图像获取装置15的FOV之外,或者被(例如,车辆3)阻挡在图像获取装置15的视线之外。因此,在某些情况下可能难以验证适用于自主车辆2的一个或多个交通信号的信号状态(例如,红色、黄色、绿色、红色转向信号、黄色转向信号、绿色转向信号等),而如下面更详细描述的,本公开的实施例可被实施以帮助进行这样的验证。
图像获取装置15可被配置为向ECU 10提供关于车辆2周围的数据,包括交通信号310、320、330、340、350和交叉道路。此类数据可包括例如交通信号相对于自主车辆2的位置,所检测的每个交通信号的状态(例如,红灯,黄灯,绿灯,转向指示灯等)
图像获取装置15可经由有线连接、无线连接或用于将数据传送到ECU10的其他合适的方法向ECU 10提供此类数据。例如,图像获取装置15可包括无线通信装置(例如IEEE802.11兼容的Wi-Fi硬件)用于将数据发送到ECU 10和/或可以使用来自图像获取装置15的数据的其他设备。替代地或附加地,例如出于安全目的,可以提供有线连接。例如,可以提供这种有线连接,以在无线连接应停止功能的情况下提供故障安全性。
当获得与交通信号相关的数据时,图像获取装置15可被配置为将时间指示符(例如,时间戳)和/或位置指示符(例如,坐标信息)分配给数据。替代地,ECU 10可被配置为在从图像获取装置15接收时将时间指示符分配给数据。通过将时间指示符分配给通过图像获取装置15获得的数据,数据的年龄(即,自从交通信号状态被识别以来经过的时间)可以由ECU 10等跟踪。当由ECU 10开始“学习”交通信号时序时,这可能特别有用。
ECU 10可包括被配置为操纵数据、执行计算、执行用于决策制定的代码、并将信息显示给车辆2的操作者和/或致动自主车辆2的各种系统(例如,加速器,制动,换档等)以便执行本公开的实施例的任何合适的设备。例如,ECU 10可包括各种模拟和/或数字电路,并且可包括诸如RISC处理器,i386处理器,ASIC处理器等的集成电路。通常,现代车辆中的车载计算机包括此类处理器,并且本领域技术人员将理解本ECU 10可被这种车载计算机包括,或者可单独提供。本领域技术人员还将理解,本文描述的示例性电路和处理器不旨在是限制性的,并且可以实现任何合适的设备。
ECU 10可被链接到与自主车辆2相关联的一个或多个数据库和/或其他存储器(例如,RAM、ROM等),以便能够存储车辆相关的数据以及可在处理车辆功能期间使用的值(例如,阈值,相关性值),例如特定状态下的交通信号持续时间(例如,典型的红灯持续时间为45秒,黄灯持续时间2秒等)。本领域技术人员将认识到,这里讨论的关于任何此类数据库和/或存储器的信息不旨在是限制的。
ECU 10可被配置为从图像获取装置15以及提供与本公开相关联的功能的一个或多个传感器20接收数据。例如,ECU 10可接收关于来自GPS27的交通信号的地图数据,其可用于验证在已识别的甚至未识别的交叉路口处的特定交通信号配置。虽然可以实现GPS 27以提供诸如故障安全性的数据,但是本公开的实施例还可以在不存在这种地图数据时起作用。
基于提供给ECU 10的数据和信号状态信息,ECU 10可被配置为执行各种操作以基于一个或者多个已识别的交通信号来确定相关性、验证状态、以及设置与自主车辆2的操作相关的操作标志。
图4A示出了单个交通信号的三个主要状态可能性,即,最左边的指示车辆可以行进的绿色信号;最右边的指示车辆必须停止的红色信号;以及中间的指示从红色到绿色或从绿色到红色的紧迫变化的黄色信号。类似地,图4B示出了允许左转车辆行进(左侧的特殊绿色箭头信号),但是继续直行或右转的车辆被要求停止(右侧的红色信号)的情况。
图5A示出了其中两个交通信号群组(即,群组A和群组B)都指示绿色状态(即,行进)的情况,而图5B示出了两个高架交通信号(群组A)和侧面交通信号(群组B)指示红色状态(即,停止)的情况。本领域技术人员将注意到,在所提供的每一个示例中,图像获取装置15的遮挡和/或FOV 4可妨碍ECU 10提供与交叉路口存在的所有交通信号有关的信息,因此,妨碍ECU 10关于如何通知自动车辆2的驾驶员和/或在自动驾驶场景中操作车辆来作出足够安全的确定。
在典型的场景中,单个交叉路口的两个或更多个交通信号可具有高于阈值Vth的相关性值;一个交通信号可具有高相关性值,而第二交通信号具有更低的相关性值;具有高相关性值Vth的一个或多个交通信号可以是可见的而同时一个或多个其他交通信号可能被阻挡。因此,适用于自主车辆2的交通信号状态的验证是期望的。
图6是突出显示用于执行本公开的实施例的示例性方法的流程图,并且可以通过参考图2-5更好地理解。出于解释本示例的目的,假设自主车辆2现在停在具有两个或更多个交通信号的交叉路口处(例如,如图3所示)。然而,本领域技术人员将认识到,在此应用的系统和方法也可以用于针对移动车辆行进通过交叉路口或通过存在并检测到多个交通信号的其他位置来进行交通信号验证。
当自主车辆2移动通过或到达交通场景时,图像获取装置15可获取自主车辆的周围(例如,车道信息)的图像,并且在该处在自主车辆2附近存在例如一个或多个交通信号(步骤610)。例如,如图3所示,自主车辆2上存在的一个或多个相机可基于可用视野和遮挡(例如,阻挡信号310的卡车3)检测交通信号320、330和340。
本领域技术人员将认识到,可以实现来自GPS 27的地图信息,以比较交通信号配置和在特定位置的放置与从图像获取装置15获得的信息,以及确定关于自主车辆2所处车道的信息。例如,在确定相关性值和车辆行进方向时,来自GPS 27的这种信息可以是有用的。
当图像获取装置已经捕获包括一个或多个交通信号的图像时,相关性因素可由ECU 10分配给图像中的所检测的交通信号中的每一个交通信号(步骤615)和由相关性分组的交通信号。例如,具有8和10之间的相关性值的交通信号可以被分组在一起,5和8被分组一起等。然后,这些信号“群组”可形成系统内进一步处理和评估的基础。
当讨论针对相关性的值和阈值相关性值时,可假设可基于期望的精度级别和安全因素,任意地设定此类相关性范围和阈值。例如,相关性值可以在0和1之间变化。或者,相关性值的范围可以在0到10、1到100之间等。
相关性值可基于例如图像中在相对于自主车辆2的交通信号的位置、所确定的自主车辆2的行驶方向、交通信号的状态、相对于其他交通信号的位置等来确定。例如,在确定自主车辆2的行驶方向保持不变的情况下,指示“左转向优先级”(即绿色左转箭头)状态的交通信号可被确定为具有比用于确定对自主车辆2的效果的阈值更低的相关性。类似地,直接在自主车辆2的行驶方向前方或一条直线上的一个或多个信号可被给予最高优先级(例如,值10)。
在自主车辆2被认为是直线前进的时候,仅具有转向指示符和/或与转向车道位于同一直线上的交通信号可被分配例如相关性值5。
类似地,电车轨道信号,例如,具有特殊颜色(例如,白色)和/或形状(例如,白色--和/或|)标记的信号,系统可以假设这种信号不是与自主车辆2相关的,并且可以分配例如相关性值0。
本领域技术人员将认识到,通常可以不考虑电车轨道的信号,尽管它们可能对某些验证保持有帮助。例如,在相关信号指示绿色(即,行进)但是在驾驶线路中存在电车轨道交叉并且电车轨道信号指示电车可以行进的情况下,ECU 10可确定需要制动或停止动作以保持安全水平。
根据一些实施例,如果检测到(或怀疑)电车轨道信号,则ECU 10可期望适用于交叉路口的车辆的相关交通信号。如果来自电车轨道信号的信息和来自车辆交通信号的信息是互补的(即,电车轨道信号指示停止,而交通信号是指示自主车辆2可通行的绿色),则关于自主车辆2的动作的确定可以更可靠的做出。即使其他相关的交通信号被(例如,卡车3)遮挡,也是如此。
根据另一示例,其中,第一交通信号350位于自主车辆2的左前方,第二交通信号310位于自主车辆2的右前方,相关性可被平均地分配给每个交通信号(例如,值8),以使得在没有其他交通信号的情况下,针对每个信号310和350,与自主车辆2的相关性保持在阈值(例如,4)之上,并且这些信号组合成信号群组(A)。
在已经识别和分组了交通信号之后,系统确定并监视当前每个交通信号的状态(例如,红色,黄色,绿色),并执行信号群组中的交通信号之间的比较(步骤620)。在信号群组中的所有交通信号的状态都是一致的(例如,所有信号显示绿色,所有信号显示红色等)(步骤620:是),可以根据该群组的交通信号的一致状态来设置操作标志(步骤635)(例如,绿色=维持/加速,黄色/红色=慢/停止)。
在设置了操作标志之后,ECU 10可向自主车辆2的各种系统发布命令以实现操作(步骤640)。例如,在确定红色/黄色交通信号状态的情况下,制动系统可被致动或维持。在确定了绿色交通信号状态的情况下,可能会引起加速或当前速度维持。在另一个示例中,在已经确定了绿色转向信号的情况下,可以致动转向以使转向按照期望的驾驶舒适/水平与制动或加速相结合。
本领域技术人员将认识到,在信号群组的信号之间关于状态的协议(步骤620:是)可被解释为“半确定的(semi-definitive)”。例如,如果所有信号状态都一致,但是由分离的系统检测到自主车辆2的路径中的行人,则ECU 10可以超驰(override)步骤635和640。
如果所识别的交通信号之间的比较表明相关信号群组(A;B)的交通信号不是一致的,并且/或者如果多个交通信号中的一个或多个已在视野4中被阻挡以使得不能再执行比较(步骤620:否),ECU 10可对各种安全因素进行评估以确定如何设置操作标志(步骤650)。这样的确定可以是基于:群组中的两个或更多个相关的交通信号固定装置的相关性值、两个或更多个相关的交通信号固定装置中的每一个的相应状态,以及在一些实施例中,车辆周围的一个或多个车辆的运动状态等。
图6B示出了根据本公开的实施例的用于评估和验证一个或多个安全因素的示例性流程图。以下参考图5A和5B描述用于评估安全因素的装置。
ECU 10可确定是否已经确定了相关信号群组的至少一个信号的状态(步骤705)。如果没有获得任何相关信号群组的状态(例如,所有信号被遮挡)(步骤705:否),则ECU 10可确定可能没有安全因素被评估并相应地设置操作标志(步骤750)。然后ECU可返回到图6A的流程图。在无论出于什么原因而无法验证安全因素的情况下(步骤650:否),可以向车辆的操作者/乘客提供一个消息,建议该不确定状态(步骤660)。这样的消息可以在显示设备25上显示,其具有指示的紧急程度,旨在吸引操作者/乘客的注意力,并且可以进一步建议手动接管车辆驾驶功能。
返回图6B,如果例如,如本领域技术人员在图5B中可能想象的,卡车3被定位成使得信号群组A的一个信号被阻挡,ECU仍然可获得关于群组A的一个信号的状态,以及群组B的状态。在这种情况下(步骤705:是),ECU 10可以进行到步骤710,以评估所确定的状态。
当评估信号群组的可见信号的状态时,类似于图5B所示的图像(即,A的所有信号和B的所有信号指示红色),可以确定没有信号指示绿色/通行状态(步骤710:否)。在这种情况下,ECU 10可确定自主车辆2应该如通过自主车辆2的当前状态确定的而停止或保持停止,并且操作标志被设定为制动和/或减速(步骤740)。
如果至少一个相关信号状态被确定为绿色/通行(或例如绿色/转向),则可以检查指示绿色状态的交通信号的相关性值以确定此类状态是否高于用于确定自主车辆2的动作的加速或继续的阈值Vth(步骤715)。如上所述,可以向通过图像获取装置15检测的场景中的每个信号分配相关性值,以及基于相关性值Vr分组的信号。因为信号群组中的某些信号可能被阻挡,因此,状态不确定,信号群组中用于其他信号的相关性值Vr的评估可能对安全因素评估变得重要。例如,在信号群组包括相关性10、8和7的信号(即,三个信号),但是仅第三信号的状态可被确定(即,相关性7)的情况下,可进行安全评估以确定信号的相关性值Vr是否足够高以根据信号状态行进(步骤715)。如果所讨论的信号的检测状态具有小于阈值的相关性值Vr(步骤715:否),则出于当前情况的目的,忽略所检测的绿色信号状态,并且操作标志被设置为制动和/或减速(步骤740)。
在已经确定具有绿色信号状态的信号还具有高于阈值Vth的相关性值Vr的情况下,ECU 10可向图像获取装置15请求关于周围车辆的运动的信息,以确定置信度(步骤720)。
例如,图像获取装置可提供关于相对于自主车辆2的运动、减速或甚至保持停止的多个周围车辆的信息。然后可针对每个状态将车辆的百分比与第二阈值V2th进行比较,以确定置信度是否在确定绿灯状态时得到(步骤720)。
根据一些实施例,在例如第二阈值(至少75%)的周围车辆保持或开始运动(步骤720:是)的情况下,可确定置信度可在针对自主车辆2的绿色信号状态下得到,并且操作标志可以设置为加速/维持速度(步骤730)。本领域技术人员将认识到,75%的第二阈值仅为示例性,并且可以根据期望的安全因素来设定第二阈值V2th。例如,第二阈值可被设定为60%、70%、80%、90%、甚至100%,以及它们之间的任何值,以便满足自主车辆2和周围车辆的期望安全水平。
在ECU 10未检测到与运动中的车辆数量对应的第二阈值V2th的情况下,操作标志可被设置为制动/减速,以确保在当前交叉路口处采取更安全的动作(步骤740)。
在上述场景的替代方案中,可以检测群组A和B的所有信号的状态,但所检测的信号之间的一个或多个状态可能不一致(即,A≠B,A≠A',或B≠B')。在这种情况下,每个所检测的状态可由ECU 10保留,以便在图6B所示的方法内进一步处理,并且每个状态通过流程图。或者,可以按从最高相关性值Vr到最低相关性值的顺序处理此类场景中的状态,以便确定应该如何设置操作标志。
在操作标志遵循所有相关信号之间的协议或安全因素验证来设置之后,处理可进行到步骤640,以便执行如所设置的操作标志。换句话说,当已经将信号标志设置为制动/减速时,ECU 10可在停止位置造成车辆的制动,减速和/或维持。
或者,在已经设定了加速/维持速度标志的情况下,ECU 10可发布命令,以引起自主车辆2的这种加速度和/或维持速度。
本领域技术人员将认识到,在不脱离所附权利要求的范围的情况下,可以考虑本文描述的示例的变化。例如,安全因素验证可在评估如何行进时考虑当前检测到的常规交通模式以及历史交通模式。根据一些实施例,可以根据交叉路口的历史安全等级来调整第二阈值V2th。换句话说,在交叉路口具有高意外比率的历史的情况下,可调整第二阈值V2th,以使得仅在检测到100%的在运行的其他车辆时验证绿色/通行状态。
此外,虽然本文未详细讨论,但是黄/橙警告信号通常被解释为并等同于红色/停止状态,以便增加安全因素。然而,这可以根据所需的系统范围来调整,或者按交叉路口基础来对交叉路口进行调整。例如,在历史上“安全的”交叉路口,黄灯可基于自主车辆与交叉路口的距离和在所述交叉路口处的交通信号的历史时刻来解释。本领域技术人员将理解,如何将交叉路口指定为历史安全的可以基于当地政府或其他负责任的交通维护实体生成的权威报告来确定。
此外,虽然本文描述的系统和方法旨在在没有由车载GPS系统提供的地图/GPS数据的情况下起作用,但是这种信息可用于进一步验证/增强由ECU 10做出的决定。例如,在图像检测装置15在交叉路口处检测到4个相关的交通信号,并且基于相关性,旨在将4个信号分组为一个信号群组的情况下,GPS数据可用于确认4个信号的存在及其相关性。
此外,ECU 10可被配置为经由已被设置的操作标志的显示器25来向操作者/乘客提供指示,并且可提供预定时间以允许操作者/乘客超驰被标记的操作。在这样做时,操作者/乘客的注意力可被吸引到显示器25和现有的驾驶场景,以及由操作者乘客做出的关于ECU 10确定的操作的评估。
在整个描述中,包括权利要求,术语“包括”应该被理解为与“包括至少一个”同义,除非另有说明。另外,除非另有说明,否则说明书(包括权利要求)中列出的任何范围应被理解为包括其端点值。所描述的元素的具体值应被理解为在本领域技术人员已知的被接受的制造或工业公差内,并且应该理解对术语“基本上”和/或“大约”和/或“一般”的任何使用意味着落入这种被接受的公差范围内。
在引用国家、国际或其他标准机构的任何标准(例如,ISO等)的情况下,这些引用旨在引用到本说明书的优先级日期为止的由国家或国际标准机构所定义的标准。对此类标准的任何后续实质性更改都不旨在修改本公开和/或权利要求的范围和/或定义。
尽管已经参考特定实施例在本文描述了本公开,但是应该理解,这些实施例仅是说明本公开的原理和应用。
旨在仅被认为是示例性的说明书和示例,其公开的真实范围由以下权利要求表示。

Claims (14)

1.用于自主车辆的交通信号固定装置验证系统,包括:
光学识别装置,其被配置为获得所述自主车辆附近的两个或更多个交通信号固定装置的一个或多个图像,并检测所述自主车辆附近的一个或多个车辆的运动状态;
处理装置,其被配置为:
确定在所述一个或多个图像中识别的两个或更多个交通信号固定装置的相关性值;
监视具有大于阈值的相关性值的两个或更多个相关的交通信号固定装置中的每一个的状态;以及
基于所述两个或更多个相关的交通信号固定装置的相关性值、所述两个或更多个相关的交通信号固定装置中的每一个的相应状态、以及可选地,所述车辆周围的所述一个或多个车辆的所述运动状态来致动所述自主车辆的加速器功能或制动功能。
2.根据权利要求1所述的交通信号固定装置验证系统,其中,当不能确定所述两个或更多个相关的交通信号固定装置中的一个的状态时,所述两个或更多个相关的交通信号固定装置中的另一个的状态被用于所述致动。
3.根据权利要求1所述的交通信号固定装置验证系统,其中,当所述两个或更多个相关的交通信号固定装置的状态不相同时,具有更高相关性值的相关的交通信号固定装置的状态被用于所述致动。
4.根据权利要求1所述的交通信号固定装置验证系统,其中,当所述两个或更多个相关的交通信号固定装置的状态不相同时,具有最高安全因素的相关的交通信号固定装置的状态被用于所述致动。
5.根据权利要求4所述的交通信号固定装置验证系统,其中,具有最高安全因素的状态对应于交通信号固定装置的停止灯或警示灯。
6.根据权利要求1-5中任一项所述的交通信号固定装置验证系统,其中,所述处理装置被配置为接收与交通信号固定装置位置相关联的地图数据,并在相关性确定中使用所述地图数据。
7.根据权利要求1-6中任一项所述的交通信号固定装置验证系统,其中,在所述相关性值确定中考虑所述自主车辆与所述两个或更多个相关的交通信号固定装置中的每一个的距离。
8.根据权利要求1-7中任一项所述的交通信号固定装置验证系统,其中,在检测到所述自主车辆周围的所述一个或多个车辆的运动状态的变化大于阈值百分比变化时,所述运动状态的变化被考虑用于所述制动。
9.一种用于从自主车辆验证交通信号固定装置的状态的方法,包括:
获得所述自主车辆附近的两个或更多个交通信号固定装置的一个或多个图像;
检测所述自主车辆附近的一个或多个车辆的运动状态;
确定在所述一个或多个图像中识别的两个或更多个交通信号固定装置的相关性值;
监视具有大于阈值的相关性值的两个或更多个相关的交通信号固定装置中的每一个的状态;以及
基于所述两个或更多个相关的交通信号固定装置的所述相关性值、所述两个或更多个相关的交通信号固定装置中的每一个的相应状态、和/或所述车辆周围的所述一个或多个车辆的运动状态来致动所述自主车辆的加速器功能或制动功能。
10.根据权利要求9所述的用于验证交通信号固定装置的状态的方法,其中,当不能确定所述两个或更多个相关的交通信号固定装置中的一个的状态时,所述两个或更多个相关的交通信号固定装置中的另一个的状态被用于所述致动。
11.根据权利要求9所述的用于验证交通信号固定装置的状态的方法,其中,当所述两个或更多个相关的交通信号固定装置的状态不相同时,具有更高相关性值的相关的交通信号固定装置的状态被用于所述致动。
12.根据权利要求9所述的用于验证交通信号固定装置的状态的方法,其中,当所述两个或更多个相关的交通信号固定装置的状态不相同时,具有最高安全因素的相关的交通信号固定装置的状态被用于所述致动。
13.根据权利要求9-12中任一项所述的方法,包括:接收与交通信号固定装置位置相关联的地图数据,并在相关性确定中使用所述地图数据。
14.根据权利要求9-13中任一项所述的方法,其中,在检测到所述自主车辆周围的所述一个或多个车辆的运动状态的变化大于阈值百分比变化时,所述运动状态的变化被考虑用于所述致动。
CN201880097828.XA 2018-09-21 2018-09-21 用于交通灯识别的系统和方法 Active CN112740220B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/EP2018/075685 WO2020057754A1 (en) 2018-09-21 2018-09-21 Systems and methods for traffic light identification

Publications (2)

Publication Number Publication Date
CN112740220A true CN112740220A (zh) 2021-04-30
CN112740220B CN112740220B (zh) 2025-03-25

Family

ID=63685970

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880097828.XA Active CN112740220B (zh) 2018-09-21 2018-09-21 用于交通灯识别的系统和方法

Country Status (3)

Country Link
US (1) US11893802B2 (zh)
CN (1) CN112740220B (zh)
WO (1) WO2020057754A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019119084A1 (de) * 2019-07-15 2021-01-21 Valeo Schalter Und Sensoren Gmbh Bestimmen eines Signalstatus einer Lichtsignalanlage
KR20220078772A (ko) * 2020-12-03 2022-06-13 현대모비스 주식회사 차량의 교차로 주행 제어 시스템 및 방법
US20230417565A1 (en) * 2022-06-27 2023-12-28 Waymo Llc Lane changes for autonomous vehicles involving traffic stacks at intersection
CN115294766B (zh) * 2022-07-31 2023-06-23 东风汽车集团股份有限公司 虚拟红绿灯构建方法、装置、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103832434A (zh) * 2012-11-22 2014-06-04 中国移动通信集团公司 一种行车安全控制系统及方法
CN104411559A (zh) * 2012-03-26 2015-03-11 谷歌公司 用于检测交通信号及其关联状态的鲁棒方法
US20160306361A1 (en) * 2014-01-30 2016-10-20 Mobileye Vision Technologies Ltd. Systems and methods for determining the status and details of a traffic light
CN107826036A (zh) * 2017-01-26 2018-03-23 问众智能信息科技(北京)有限公司 汽车智能辅助驾驶红绿灯安全提醒方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8364398B2 (en) * 2009-08-28 2013-01-29 Navteq B.V. Method of operating a navigation system to provide route guidance
US8559673B2 (en) * 2010-01-22 2013-10-15 Google Inc. Traffic signal mapping and detection
US9158980B1 (en) * 2012-09-19 2015-10-13 Google Inc. Use of relationship between activities of different traffic signals in a network to improve traffic signal state estimation
DE102013003798A1 (de) * 2013-03-05 2014-09-11 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Fahrerassistenzsystem
US10507807B2 (en) * 2015-04-28 2019-12-17 Mobileye Vision Technologies Ltd. Systems and methods for causing a vehicle response based on traffic light detection

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104411559A (zh) * 2012-03-26 2015-03-11 谷歌公司 用于检测交通信号及其关联状态的鲁棒方法
CN103832434A (zh) * 2012-11-22 2014-06-04 中国移动通信集团公司 一种行车安全控制系统及方法
US20160306361A1 (en) * 2014-01-30 2016-10-20 Mobileye Vision Technologies Ltd. Systems and methods for determining the status and details of a traffic light
CN107826036A (zh) * 2017-01-26 2018-03-23 问众智能信息科技(北京)有限公司 汽车智能辅助驾驶红绿灯安全提醒方法

Also Published As

Publication number Publication date
US20210287024A1 (en) 2021-09-16
CN112740220B (zh) 2025-03-25
US11893802B2 (en) 2024-02-06
WO2020057754A1 (en) 2020-03-26

Similar Documents

Publication Publication Date Title
CN106816021B (zh) 用于通过考虑相关的信号发送器来影响车辆系统的系统
US11390293B2 (en) Display device for displaying a system confidence level of an automatic drive control
JP6635428B2 (ja) 自動車周辺情報表示システム
US9589464B2 (en) Vehicular headlight warning system
CN110033629A (zh) 信号灯识别装置以及自动驾驶系统
US20070126565A1 (en) Process for monitoring blind angle in motor vehicles
CN107161076A (zh) 车辆照明系统
CN112771592A (zh) 用于警告机动车的驾驶员的方法和控制设备及具有这种控制设备的机动车
CN112740220B (zh) 用于交通灯识别的系统和方法
CN107021094A (zh) 用于辅助导航车辆通过交通的系统和方法
CN110036426B (zh) 控制装置和控制方法
JP7606894B2 (ja) 画像処理装置、画像処理方法およびプログラム
US10025316B1 (en) Automated vehicle safe stop zone use notification system
CN114523905A (zh) 一种显示车辆周围目标检测及轨迹预测的系统及方法
JP6398182B2 (ja) 信号情報提示装置
CN109982908A (zh) 车辆控制装置和车辆控制方法
EP3379201A1 (en) Automated vehicle safe stop zone use notification system
US9607513B1 (en) Systems and methods for informing driver of lane passing regulations
JP7572266B2 (ja) 車両制御装置、車両制御方法およびプログラム
CN113370972B (zh) 行驶控制装置、行驶控制方法以及存储程序的计算机可读取存储介质
US12311837B2 (en) Vehicle notification control device and vehicle notification control method
KR102022775B1 (ko) 비전센서를 이용한 자율주행차량의 교차로 통과지원시스템 및 통과지원방법
CN111216636A (zh) 行驶控制装置、控制方法以及存储程序的存储介质
JP7432198B2 (ja) 状況認識推定システム及び運転支援システム
JP6942913B1 (ja) 自動車

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20240923

Address after: Aichi Prefecture, Japan

Applicant after: Toyota Motor Corp.

Country or region after: Japan

Address before: Brussels

Applicant before: TOYOTA MOTOR EUROPE

Country or region before: Belgium

GR01 Patent grant
GR01 Patent grant