CN113874803B - 用于基于远程干预更新车辆操作的系统和方法 - Google Patents
用于基于远程干预更新车辆操作的系统和方法 Download PDFInfo
- Publication number
- CN113874803B CN113874803B CN201980092739.0A CN201980092739A CN113874803B CN 113874803 B CN113874803 B CN 113874803B CN 201980092739 A CN201980092739 A CN 201980092739A CN 113874803 B CN113874803 B CN 113874803B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- response
- request
- decision
- visual data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 58
- 230000004044 response Effects 0.000 claims abstract description 125
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 29
- 238000012790 confirmation Methods 0.000 claims abstract description 22
- 238000012545 processing Methods 0.000 claims description 97
- 230000000007 visual effect Effects 0.000 claims description 80
- 238000004891 communication Methods 0.000 claims description 41
- 238000001514 detection method Methods 0.000 claims description 35
- 239000003550 marker Substances 0.000 claims description 16
- 230000033001 locomotion Effects 0.000 claims description 11
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 26
- 230000009471 action Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 238000012544 monitoring process Methods 0.000 description 6
- 230000004888 barrier function Effects 0.000 description 4
- 230000010267 cellular communication Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 230000002776 aggregation Effects 0.000 description 3
- 238000004220 aggregation Methods 0.000 description 3
- 238000013475 authorization Methods 0.000 description 3
- 230000033228 biological regulation Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 239000007789 gas Substances 0.000 description 2
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- QJIUMVUZDYPQRT-UHFFFAOYSA-N 6-chloro-2,4-pyrimidinediamine Chemical compound NC1=CC(Cl)=NC(N)=N1 QJIUMVUZDYPQRT-UHFFFAOYSA-N 0.000 description 1
- 102100024246 Caspase activity and apoptosis inhibitor 1 Human genes 0.000 description 1
- 101710196418 Caspase activity and apoptosis inhibitor 1 Proteins 0.000 description 1
- 238000006424 Flood reaction Methods 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000002551 biofuel Substances 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- -1 electric Substances 0.000 description 1
- 239000003502 gasoline Substances 0.000 description 1
- 239000001257 hydrogen Substances 0.000 description 1
- 229910052739 hydrogen Inorganic materials 0.000 description 1
- 125000004435 hydrogen atom Chemical class [H]* 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000003345 natural gas Substances 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000004297 night vision Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 125000006850 spacer group Chemical group 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0027—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement involving a plurality of vehicles, e.g. fleet or convoy travelling
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/18—Propelling the vehicle
- B60W30/18009—Propelling the vehicle related to particular drive situations
- B60W30/18163—Lane change; Overtaking manoeuvres
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0038—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with simple or augmented images from one or more cameras located onboard the vehicle, e.g. tele-operation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/45—External transmission of data to or from the vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- General Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Business, Economics & Management (AREA)
- Transportation (AREA)
- Electromagnetism (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Game Theory and Decision Science (AREA)
- Medical Informatics (AREA)
- Traffic Control Systems (AREA)
Abstract
公开的技术涉及用于车辆运行的远程干预系统,该车辆可以是自动驾驶车辆、包括驾驶员辅助特征的车辆、用于共享出行服务的车辆等。该系统包括当车辆的运行被暂停时车辆向远程操作员发送远程干预的请求。该远程干预的请求可以包括物体标识的请求或决策确认的请求。该车辆可以部分地根据基于车辆的传感器数据和来自远程操作员的对远程干预请求的响应来更新车辆运行。远程操作员可以是人类操作员或人工智能操作员。
Description
通过引用并入优先权申请
本申请要求于2018年12月28日提交的第62/786,261号美国专利申请的权益,所述美国临时申请的全部内容通过引用的方式并入本文中。
版权声明
本专利文件公开的部分内容包含受版权保护的材料。版权所有者不反对任何人按美国专利和商标局文件和/或记录中所示的复制该专利文件或专利公开内容,而在其它方面保留所有版权。
背景技术
车辆——例如用于共享出行目的的车辆、提供驾驶员辅助功能的车辆和/或自动或自主驾驶车辆(AV)——可以使用车载数据处理系统获取和处理传感器数据以执行多种多样的功能。例如,功能可以包括确定和/或显示导航路线、识别道路标志、检测物体和/或道路障碍物、控制车辆操作等。然而,如果车载数据处理系统无法处传感器数据或由于意外路况而无法确定要采取的正确行动方案,则自动驾驶车辆或具有驾驶员辅助功能的车辆的运行可能会暂停或禁用。
发明内容
本公开提供在车辆的操作被暂停或禁用时向车辆(例如自动驾驶车辆,包括驾驶员辅助功能或包括用于共享出行服务的车辆)提供远程干预的系统和方法。该车辆可以将由车辆上的一个或多个传感器检测到的可视数据传输给远程操作员。远程操作员可以是人类操作员或人工智能(AI)操作员。在一些实施例中,在分析车辆传输的可视数据时,远程操作员可以向车辆提供直接命令或决策辅助。在一些实施例中,该车辆可以基于包括来自远程操作员的决策辅助响应和来自一个或多个传感器的输入的聚合的信息来保持对车辆的控制并输出控制信号以更新车辆操作。
附图说明
图1A示出了根据一个实施例的网络车辆环境的框图,其中一个或多个车辆和/或一个或多个用户设备经由网络与服务器交互。
图1B示出的框图示出根据一个实施例的图1A的车辆与图1A的一个或多个其它车辆和/或服务器通信。
图2A-2C示意性地示出了车辆可能被禁用或其操作可能被暂停时的示意性示例。
图3示意性地示出了用于远程操作员向车辆提供远程干预的示例系统。
图4示出了用于车辆请求远程干预的示例过程的流程图。
图5示出了用于由远程服务器向车辆提供远程干预响应的示例过程的流程图。
图6A示出了车辆接收远程干预的示例过程的流程图。
图6B示出了远程操作员向车辆提供远程干预的示例过程的流程图。
图7A-7B示出了由远程服务器提供的远程干预的示例的流程图。
图8A示出了车辆的车载数据处理系统的示例决策框图。
图8B示出了由车辆基于来自远程服务器的远程干预响应和基于车辆的传感器数据作出的有关车辆移动的决策的示例过程的流程图。
图9示出了执行由人工智能操作者向车辆提供远程干预时的示例过程的流程。
具体实施方式
根据本公开的一个或多个说明性实施例的系统和方法的详细描述和示例可以参见标题为示例远程干预系统的部分(包括其附属部分)以及标题为示例实施例的部分以及本文附图2A-9。再者,可以在本文图1A-1B中描述的网络车辆环境100中配置用于向车辆提供远程干预的部件和功能和/或将其并入该网络车辆环境中。
本文描述的多种实施例与车辆和/或计算机技术密切相关,通过车辆和/或计算机技术能够得以实现,并且依存于车辆和/或计算机技术。例如,在没有实现这些实施例所采用的车辆和/或计算机技术的情况中,本文结合多个实施例描述的向车辆提供远程干预无法合理地单独由人来执行。
■网络车辆环境
图1A示出了根据一个实施例的网络车辆环境100的框图,其中一个或多个车辆120和/或一个或多个用户设备102经由网络110与服务器130交互。例如,车辆120可以配备成提供出行共享和/或其它基于位置的服务,以帮助驾驶员控制车辆操作(例如,通过多种驾驶员辅助特征,例如自适应和/或常规巡航控制,自适应前灯控制,防抱死制动、自动泊车、夜视、盲点监测、碰撞避免、侧风稳定、驾驶员疲劳检测、驾驶员监控系统、紧急驾驶员辅助,交叉路口辅助、陡坡缓降控制、智能速度自适应、车道居中、车道偏离警告、前方、后方和/或侧方停车传感器、行人检测、雨量传感器、环视系统、胎压监测器、交通标志识别、转向辅助、逆向驾驶警告、交通状况提示等)和/或完全控制车辆运行。因此,车辆120可以是常规的汽油、天然气、生物燃料、电动、氢气等的,被配置为提供共享出行和/或其它基于位置的服务的,提供驾驶员辅助功能的(例如,一个或多个本文描述的驾驶员辅助特征)和/或自动化或自主驾驶车辆(AV)。车辆120可以是汽车、卡车、面包车、公共汽车、摩托车、踏板车、自行车和/或任何其它机动车辆。
服务器130可以与车辆120通信以获得车辆数据,例如路线数据、传感器数据、感知数据、车辆120控制数据、车辆120部件故障和/或故障数据等。服务器130可以处理和存储这些车辆数据以在由服务器130和/或另一计算系统(未示出)执行的其它操作中使用。此类操作可以包括运行用于识别车辆120运行问题(例如,车辆120导航误差的原因、异常传感器读数、未识别的物体、车辆120部件故障等)的诊断模型;运行用于给定一组变量的情况中模拟车辆120性能的模型;识别车辆120无法识别的物体,生成在被车辆120执行时使车辆120沿着指定的路径以某种方式驾驶和/或操控的控制指令;和/或类似操作。
服务器130还可以将数据传送到车辆120。例如,服务器130可以传送地图数据、固件和/或软件更新、车辆120控制指令、未能被车辆120以其它方式识别的物体的标识、乘客接取信息、交通数据和/或者类似信息。
除了与一个或多个车辆120通信之外,服务器130还能够与一个或多个用户设备102通信。具体地,服务器130可以提供网络服务以便让用户能够通过用户设备102上运行的应用请求基于位置的服务(例如,运送服务,如共享出行服务)。例如,用户设备102可以对应于通过网络110与服务器130通信的计算设备,例如智能电话、平板电脑、笔记本电脑、智能手表或任何其它设备。在该实施例中,用户设备102执行诸如移动应用的应用,操作用户设备102的用户可以使用该应用与服务器130交互。例如,用户设备102可以与服务器130通信,以向服务器130提供位置数据和/或查询,从服务器130接收地图相关数据和/或方向,和/或类似操作。
服务器130可以处理从用户设备102接收的请求和/或其它数据,以识别服务提供方(例如,车辆120驾驶员)以向用户提供所请求的服务。此外,服务器130可以接收数据——例如用户行程接取或目的地数据、用户位置查询数据等——服务器130基于这些数据识别与各种用户关联的区域、地址和/或其它位置。然后,服务器130可以使用所识别的位置以向服务提供方和/或用户提供指向所确定的接取位置的方向。
可以通过对服务器130负责的相同实体创建和/或制造在用户设备102上运行的应用程序。备选地,用户设备102上运行的应用可以是包括能够与服务器130通信的特征(例如,应用程序编程接口或软件开发套件)的第三方应用。
为了简洁和易于解释,图1A中图示一个服务器130。然而,应当认识到,服务器130可以是单个计算设备,或者可以包括逻辑上或物理上归为一组以共同作为服务器系统运行的多个不同计算设备。服务器130的部件可以采用专用的硬件(例如,具有一个或多个ASIC的服务器计算设备)来实现而无需软件,或者可以作为硬件和软件的组合来实现。另外,服务器130的模块和部件可以被组合在一个服务器计算设备上,或者个别地或分组设置于若干服务器计算设备上。在一些实施例中,服务器130可以包括比图1A所示的附加或更少的部件。
网络110包括任何有线网络、无线网络或其组合。例如,网络110可以是个人区域网络、局域网、广域网、空中广播网络(例如,用于广播或电视的网络)、有线网络、卫星网络、蜂窝电话网络或其组合。作为另一示例,网络110可以是链接网络的可公开访问的网络,可能由各种不同机构运行,例如因特网。在一些实施例中,网络110可以是私用或半私用网络,例如公司或大学内联网。网络110可以包括一个或多个无线网络,例如用于全球移动通信系统(GSM)网络、码分多址(CDMA)网络、长期演进(LTE)网络或任何其它类型的无线网络。网络110可以使用用于经因特网或任何其它上述网络进行通信的协议和部件。例如,网络110使用的协议可以包括超文本传输协议(HTTP)、超文本传输安全协议(HTTPS)、消息队列遥测传输(MQTT)、受限应用协议(CAAP)及类似协议。用于经因特网或前述任何其它类型的通信网络进行通信的协议和部件对于本领域技术人员是公知的,因此本文不再详细描述。
服务器130可以包括导航单元140、车辆数据处理单元145和数据存储150。导航单元140可以协助基于位置的服务。例如,导航单元140可以帮助用户(在此也称为“驾驶员”)将另一用户(在此也称为“搭车者”)和/或物体(例如,食物、包裹等)从第一位置(在此也称为“接取位置”)运送到第二位置(在此也称为“目的地位置”)。导航单元140可以通过向在搭车者的用户设备102上运行的应用、向驾驶员的用户设备102上运行的应用、和/或向车辆120上运行的导航系统提供地图和/或导航指令,来帮助实现用户和/或物体运送。
作为示例,导航单元140可以包括匹配服务(未示出),该匹配服务将请求从接取位置到目的地位置的行程的搭车者与能够完成该行程的驾驶员进行配对。该匹配服务可以与在搭车者的用户设备102上运行的应用和/或在驾驶员的用户设备102上运行的应用交互,以建立搭车者的行程和/或处理从搭车者对驾驶员的付款。
导航单元140还可以在行程期间与驾驶员的用户设备102运行上的应用通信,以从用户设备102获得行程位置信息(例如,通过耦合到和/或嵌入在用户设备102中的全球定位系统(GPS)部件),并向该应用提供导航方向,所述导航方向帮助驾驶员从当前位置行驶到目的地位置。导航单元140还可以向驾驶员指示多个不同地理位置或兴趣点,而无论驾驶员是否在搭载搭车者。
车辆数据处理单元145可以被配置为支持车辆120的驾驶员辅助特征和/或支持自动驾驶。例如,车辆数据处理单元145可以生成地图数据和/或将其传送到车辆120,运行用于识别车辆120的操作问题的诊断模型,运行用于在给定一组变量的情况中模拟车辆120的性能的模型,使用车辆120提供的车辆数据来识别物体并将物体的标识传送到车辆120,生成车辆120控制指令和/或将其传送到车辆120和/或类似操作。
数据存储器150可以存储导航单元140、车辆数据处理单元145、用户设备102和/或车辆120所使用的多种类型的数据。例如,数据存储150可以存储用户数据152、地图数据154、搜索数据156和日志数据158。
用户数据152可以包括有关注册于基于位置的服务的一些或所有用户的信息,例如驾驶员和搭车者。该信息可以包括例如用户名、密码、姓名、地址、帐单信息、与用户所采用或获得服务的先前行程相关联的数据、用户评级信息、用户忠诚度程序信息和/或类似信息。
地图数据154可以包括从传感器(例如,光探测和测距(LiDAR)传感器、无线电探测和测距(Radar)传感器、红外相机、可见光相机、立体相机、惯性测量单元(IMU)等)生成的高清(HD)地图、卫星图像、在捕获的街道图像上执行的光学字符识别(OCR)(例如,识别街道名称、识别街道标志文字、识别兴趣点名称等)等;用于计算路线的信息;用于渲染二维(2D)和/或三维(3D)图形地图的信息;和/或类似信息。例如,地图数据154可以包括诸多元素:如街道和十字路口的布局、桥梁(例如,包括有关过街天桥的高度和/或宽度的信息)、出口匝道、建筑物、停车结构入口和出口(例如,包括有关车辆入口和/或出口的高度和/或宽度的信息)、路牌和停车灯的位置、紧急岔道、兴趣点(例如公园、餐馆、加油站、景点、地标等以及关联名称)、道路标记(例如,分隔对面车道的中心线标记、车道标记、停车线、左转引导线、右转引导线、人行横道、公交车道标记、自行车道标记、安全岛标记、路面文字、高速公路出口和入口标记等)、路缘石、铁路线、水路、左右转弯的转弯半径和/或角度、道路特征的距离和尺寸、双向交通之间隔离物的位置和/或类似元素,连同这些元素相关联的地理位置(例如,地理坐标)。地图数据154还可以包括参考数据,例如实时和/或历史交通信息、当前和/或预测的天气状况、道路作业信息、有关法律和法规的信息(例如,速度限制、是否允许或禁止在红灯时右转、是否允许或禁止掉头、允许的行驶方向和/或类似的信息)、新闻事件,和/或类似信息。
虽然地图数据154示出为存储在服务器130的数据存储150中,但这并不意味着是限制性的。例如,服务器130可以将地图数据154传送到车辆120以存储在其中(例如,如下文描述,存储在数据存储129中)。
搜索数据156可以包括过去由多个不同用户输入的搜索。例如,搜索数据156可以包括对接取和/或目的地位置的文本搜索。搜索可以针对特定地址、地理位置、与地理位置关联的名称(例如,公园、餐厅、加油站、景点、地标等的名称)等。
日志数据158可以包括由一个或多个车辆120提供的车辆数据。例如,车辆数据可以包括路线数据、传感器数据、感知数据、车辆120控制数据、车辆120部件故障和/或故障数据等。
图1B示出的框图显示了根据一个实施例的图1A的车辆120与图1A的一个或多个其它车辆170A-N和/或服务器130通信。如图1B所示,车辆120可以包括多种部件和/或数据存储。例如,车辆120可以包括传感器阵列121、通信阵列122、数据处理系统123、通信系统124、内部接口系统125、车辆控制系统126、操作系统127、地图引擎128和/或数据存储129。
可以在车辆120、一个或多个车辆170A-N和/或服务器130之间发送和/或接收通信180。如上文结合图1A所述,服务器130可以从车辆120传送和/或接收数据。例如,服务器130可以向车辆120传送车辆控制指令或命令(例如,作为通信180)。车辆控制指令可以被通信阵列122(例如,被配置为发射和/或接收无线信号的一个或多个天线的阵列)接收,该通信阵列由通信系统124(例如,收发器)来操作。通信系统124可以将车辆控制指令传送到车辆控制系统126,该车辆控制系统可以操作车辆120的加速、转向、刹车、灯光、信号和其它操作系统127以便驾驶和/或操控车辆120和/或协助驾驶员驾驶和/或操控车辆120通过道路交通驶向由车辆控制指令所指定的目的地位置。
作为示例,车辆控制指令可以包括路线数据163,其可以由车辆控制系统126处理以操控车辆120和/或协助驾驶员沿着给定路线操控车辆120(例如,由服务器130和/或地图引擎128计算出的优化路线)驶向指定的目的地位置。在处理路线数据163时,车辆控制系统126可以生成控制命令164以供操作系统127执行(例如,加速、转向、刹车、操控、倒车等)以使车辆120沿路线行驶到目的地位置,和/或协助驾驶员沿线路操控车辆120驶向目的地位置。
目的地位置166可以由服务器130基于在用户设备102上运行的应用所传送的用户请求(例如,接取请求、递送请求等)来指定。备选地或附加地,车辆120的搭车者和/或驾驶员可以通过内部接口系统125(例如,车辆导航系统)提供用户输入169来提供目的地位置166。在一些实施例中,车辆控制系统126可以将输入的目的地位置166和/或车辆120的当前位置(例如,作为GPS数据包)作为通信180经由通信系统124和通信阵列122传送到服务器130。服务器130(例如,导航单元140)可以使用车辆120的当前位置和/或输入的目的地位置166来执行优化操作,以确定车辆120行驶到目的地位置166的最优路线。可以将包括最优路线的路线数据163经由通信阵列122和通信系统124,从服务器130传送到车辆控制系统126。由于接收到路线数据163,车辆控制系统126能使操作系统127操控车辆120通过交通沿最优路线驶向目的地位置166,协助驾驶员操控车辆120通过交通沿最优路线驶向目的地位置166,和/或使内部接口系统125显示和/或呈现用于操控车辆120通过交通沿最优路线驶向目的地位置166的指令。
备选地或附加地,路线数据163包括最优路线,并且车辆控制系统126自动地将路线数据163输入到地图引擎128中。地图引擎128可以使用最优路线生成地图数据165(例如,生成显示最优路线的地图和/或采取最优路线的指令)并且将地图数据165提供到内部接口系统125(例如,经由车辆控制系统126)以便进行显示。地图数据165可以包括从存储在服务器130上的数据存储150中的地图数据154中导出的信息。显示的地图数据165可以指示估计的到达时间和/或显示车辆120沿最优路线的行程进度。显示的地图数据165还可以包括指示符,例如改道命令、紧急通知、道路作业信息、实时交通数据、当前天气状况、有关法律和法规的信息(例如,限速、红灯时是否允许或禁止右转、哪里允许或禁止掉头、允许的行驶方向等)、新闻事件和/或类似信息。
用户输入169也可以是访问网络(例如,网络110)的请求。响应于此类请求,内部接口系统125可以生成访问请求168,其可以由通信系统124处理,以将通信阵列122配置为发送和/或接收对应于用户与内部接口系统125交互和/或与内部接口系统125通信的用户设备102交互(例如,通过无线连接连接到内部接口系统125的用户设备102)的数据。例如,车辆120可以包括车载Wi-Fi,乘客和/或驾驶员可以访问该Wi-Fi以发送和/或接收电子邮件和/或文本消息、音频流和/或视频内容、浏览内容页面(例如,网络页面、网站页面等)和/或访问使用网络访问的应用。基于用户交互,内部接口系统125可以经由网络110、通信阵列122和/或通信系统124接收内容167。通信系统124可以动态地管理网络访问以避免内容167传输中断或将其减到最少。
传感器阵列121可以包括任意数量的一种或多种类型的传感器,例如卫星无线电导航系统(例如,GPS)、光探测和测距传感器、景观传感器(例如,无线电探测和测距传感器)、惯性测量单元、相机(例如,红外相机、可见光相机、立体相机等)、Wi-Fi检测系统、蜂窝通信系统、车辆间通信系统、道路传感器通信系统、特征传感器、接近度传感器(例如,红外、电磁、光电等)、距离传感器、深度传感器和/或类似装置。卫星无线电导航系统可以基于对从卫星星座接收的信号的分析来计算车辆120的当前位置(例如,在1-10米的范围内)。
光探测和测距传感器、无线电探测和测距传感器和/或任何其它类似类型的传感器可用于在车辆120处于运动中或即将开始运动时检测车辆120周围环境。例如,光探测和测距传感器可用于从接近的物体反射多个激光束,以评估它们的距离并提供有关周围环境的准确三维信息。从光探测和测距传感器获得的数据可用于执行物体识别、运动矢量确定、碰撞预测和/或实施事故避免过程。可选地,光探测和测距传感器可以使用旋转扫描镜组件来提供360°视角。可以可选地将光探测和测距传感器安装在车辆120的车顶上。
惯性测量单元可以包括X、Y、Z朝向的陀螺仪和/或加速度计。惯性测量单元提供有关车辆120的转动和直线运动的数据,其可用于计算车辆120的运动和位置。
相机可用于捕获车辆120周围环境的视觉图像。具体根据相机的配置和数量,相机可以提供车辆120周围的360°视角。可以使用来自相机的图像读取道路标记(例如,车道标记)、读取街道标志、检测物体和/或类似操作。
Wi-Fi检测系统和/或蜂窝通信系统可分别用于对Wi-Fi热点或蜂窝塔进行三角测量,以确定车辆120的位置(可选地结合卫星无线电导航系统)。
车辆间通信系统(其可包括Wi-Fi检测系统、蜂窝通信系统和/或通信阵列122)可用于接收和/或向其它车辆170A-N传送数据,例如车辆120的当前速度和/或位置坐标、与规划减速时以及规划的减速率对应的时间和/或位置坐标、规划停止操作时的时间和/或位置坐标、规划变道时以及变道方向的时间和/或位置坐标、规划转弯操作时的时间和/或位置坐标、规划停车操作时的时间和/或位置坐标,和/或类似操作。
道路传感器通信系统(可包括Wi-Fi检测系统和/或蜂窝通信系统)可用于从道路传感器(例如,指示车流速度和/或交通拥堵)读取信息和/或从交通控制设备(例如,交通信号灯)读取信息。
当用户(例如,通过在用户设备102上运行的应用)请求接送时,用户可以指定具体的目的地位置。初始位置可以是车辆120的当前位置,其可以使用安装在车辆中的卫星无线电导航系统(例如,GPS、Galileo、COMPASS、DORIS、GLONASS和/或其它卫星无线电导航系统)、Wi-Fi定位系统、蜂窝塔三角测量和/或类似方式来予以确定。可选地,初始位置可由用户通过车辆120提供的用户界面(例如,内部接口系统125)或通过运行该应用的用户设备102来指定。可选地,可以根据从用户设备102获得的位置信息自动确定初始位置。除了初始位置和目的地位置之外,还可以指定一个或多个路径点,从而启用多个目的地位置。
来自传感器阵列121的原始传感器数据161可由车载数据处理系统123来处理。处理后的数据162则可以被数据处理系统123传送到车辆控制系统126,并且可选地经由通信系统124和通信阵列122传送到服务器130。
数据存储129可以存储地图数据(例如,地图数据154)和/或地图数据154的子集(例如,对应于车辆120当前所在的大致区域的地图数据154的一部分)。在一些实施例中,车辆120可以使用传感器阵列121沿行驶路线记录更新的地图数据,并经由通信系统124和通信阵列122将更新的地图数据传送到服务器130。服务器130然后可以将更新的地图数据传送到车辆170A-N中的一个或多个和/或进一步处理更新的地图数据。
数据处理系统123可以向车辆控制系统126提供连续或接近连续处理的数据162以响应车辆120周围环境中的点对点活动。处理后的数据162可以包括原始传感器数据161——表示车辆120的运行环境并且由传感器阵列121连续收集——与存储在数据存储129中的地图数据之间的比较。在一个示例中,将数据处理系统123编程为具有机器学习或其它人工智能能力,以使车辆120能够识别和响应状况、事件和/或潜在危险。在变体中,数据处理系统123可以连续地或接近连续地将原始传感器数据161与存储的地图数据进行比较,以便执行定位从而连续地或接近连续地确定车辆120的位置和/或方向。车辆120的定位可使车辆120能与存储的地图数据相比得知车辆120的即时位置和/或方向,以操控车辆120在街区道路上通过交通,和/或协助驾驶员操控车辆120在街区道路上通过交通并且识别和响应潜在危险(例如,行人)或当地状况,例如天气或交通状况。
再者,定位可使车辆120能够对通信阵列122进行调谐或波束转向,以将通信链接质量提高到最大和/或将来自其它车辆170A-N的其它通信的干扰减到最小。例如,通信系统124可以响应于从服务器130接收到的网络配置命令来对通信阵列122的辐射方向图进行波束转向控制。数据存储129可以存储标识网络基站和/或提供网络连接的其它网络源的当前网络资源地图数据。网络资源地图数据可以指示车辆120所在区域内的基站和/或可用网络类型(例如,3G、4G、LTE、Wi-Fi等)的位置。
虽然图1B将某些操作描述为由车辆120或服务器130执行,但这并不意味着作为限制。如本文描述的由车辆120和服务器130执行的操作可以由任一实体来执行。例如,通常由服务器130执行的某些操作(例如,向车辆170A-N传送更新地图数据)可由车辆120执行,以便达到负载平衡目的(例如,减少服务器130的处理负载,利用车辆120上的空闲处理能力等)。
再者,车辆170A-N中的任一个可以包括本文描述的车辆120的一些或全部部件。例如,车辆170A-N可以包括通信阵列122以与车辆120和/或服务器130进行通信。
■示例远程干预系统
如上所述,可以是自动驾驶车辆的车辆120、包括驾驶员辅助特征的车辆或用于共享出行服务的车辆,可以包括多个传感器(例如上文描述的光探测和测距、超声波传感器、相机等)以收集能够帮助其车载数据处理系统123作出有关车辆操作的决策的信息(例如视觉、音频等)。然而,在某些情况中,车辆的操作可以持续被暂停或禁用。图2A-2B示出了可能暂停车辆200(可以是上述车辆120)的操作的某些状况,例如由于车辆200在规划路线上移动时遇到不确定物体。
例如,如图2A所示,不确定的物体可以包括未知和/或意外障碍物202占据了车辆200正在行驶的当前车道204。障碍物202可能被车辆200上的传感器,例如光探测和测距210、相机、雷达、超声波传感器或本文公开的任何其它传感器。此类未知和/或意外障碍物的示例可以包括游行、洪水、掉落在当前车道204中的物体(例如从卡车后部掉下来的一件家具)。人类驾驶员在遇到这些障碍物时,可能会绕过这些障碍物并继续驶向目的地。相比之下,车辆200的车载数据处理系统可能缺乏以人类理解这些障碍物的方式对那些障碍物的理解。出于安全原因,车辆200可能将这些障碍物视为停止或减速直到停止的指示,有时持续很长一段时间直到障碍物被移除。
车辆还可依赖于检测沿规划路线上的标记物体(其可以是本文公开的任何物体,例如交通灯、道路标志、街道标记等)以确定车辆是否正在循沿规划路线。某些标记物体可能位于车辆上多个传感器的检测范围之外。如图2B所示,在车道204中行驶的车辆200预计会在其规划路线上经过标记物体,例如交通灯206。交通灯206可能位于稍微偏离车道204的位置。人类通过稍微向右看就能够确定交通灯206的存在。然而,由于交通灯206位于车辆200上的传感器(例如,光探测和测距210、相机、雷达、超声波传感器或其它传感器)的检测范围之外,车辆的处理系统会将传感器数据解释为缺失的标记物体。缺失的标记物体会导致车辆200无法确定车辆200是否正在其规划路线上行驶。出于安全原因,车辆200可能将缺失的标记对象视为停止或减速到停止的指示,有时持续很长一段时间,例如通过连接到该车辆的服务器(例如服务器130)确认标记物体的存在或确认车辆正在规划路线上行驶。
在一些情况下,车辆的车载数据处理系统可能需要某些操控(例如变换车道)的额外授权。如图2C所示,车辆200在车辆200行驶的车道204中遇到路障206。路障206可以在车道204中保留很长时间,例如超过一小时、两小时、半天或更长时间。与车道204相邻的车道208是空闲可用的。然而,车道204、208可能被实线分隔(例如,当车辆200已经进入交通规则禁止变道的交叉路口之前的区域时)。在车道204上行驶的人类驾驶员可以通过切换到相邻车道208来绕过路障206。然而,车辆200的处理系统可能被编程为在任何情况下都不会越过实线并且可能需要额外的授权才会穿越到相邻车道208。
在诸如图2A-2C所示的情况下,车辆200的操作可能一直暂停。车辆200可能在其当前位置停留很长时间,例如一小时、两小时、半天或甚至更长。可能需要向车辆200派遣服务团队以取回车辆。派遣服务团队可能是耗费人力和成本高昂的。此外,如上所述,在诸如图2A-2C所示的情况下,道路并非真正不可行驶。相反,车辆200的处理系统可能缺乏以人类能够适应的方式适应诸如图2A-2C中所示的道路状况的能力。
本公开提供用于减少在人类驾驶员能够继续驾驶时车辆操作被暂停的情况发生的系统和方法。图3示意性地示出了车辆300(其可以是本文公开的任何车辆示例)从远程服务器350(其可以是上述服务器130或不同的服务器)接收远程干预。远程操作员352可以位于远程服务器350处。远程操作员352可以是人类操作员或人工智能(AI)操作员。当车辆300的操作被暂停或禁用时,例如在图2A-2C所示的情况下,车辆300可以通过车辆300上的无线发射器(使用上述的任何无线通信协议)向远程服务器350发送干预请求。在远程操作员352已经核查车辆300的操作被暂停的情况之后,远程服务器350可以向车辆300提供响应。可以至少部分地基于该响应来更新车辆300的操作。
图4示出了由本文公开的车辆的车载数据处理系统请求和接收远程干预的示例过程400。在步骤402中,车辆的车载数据处理系统可以接收和处理来自车辆上的一个或多个传感器的信号输入。在判断步骤404中,车载数据处理系统可以确定,例如在车辆前方和/或车辆行驶的车道中的预定距离处,是否能够检测到物体。如果无法检测到物体,则车载数据处理系统可以返回到步骤402来继续监测周围环境。如果可以检测到物体,则在判断步骤406中,车载数据处理系统可以确定是否有预期的标记物体(例如交通灯或道路标志)存在于车辆前方。
如果未预期到标记物体存在,则在判断步骤408中,车载数据处理系统可以确定检测到的对象是否是可标识的。如果检测到的物体是可标识的,例如,如果处理系统确定检测到的物体是行人,则车载数据处理系统可以返回到步骤402以继续监测周围。该车载数据处理系统还可以实现应对涉及遇到行人的情形的算法,例如在距行人预定距离处停下来。如果检测到的物体不可标识,则在步骤412中,车载数据处理系统可以出于安全原因暂停车辆的操作,如上所述。当车辆的操作被暂停时,车辆可以停止或减速至停止。
如果预期标记对象存在,则在判断步骤410中,车载数据处理系统可以确定检测到的物体是否是标记物体。如果检测到的物体是标记物体,则车载数据处理系统可以返回到步骤402继续监测周围。如果检测到的物体不是标记物体,则车载数据处理系统也可以进行到步骤412,以暂停车辆的操作,因为车载数据处理系统无法确定车辆是否仍在规划路线上。
在步骤414中,车载数据处理系统可以经由无线发射器向远程操作员发送干预请求。步骤412和414的顺序可以颠倒,使得处理系统可以在停止车辆之前发送干预请求。在步骤416中,车载数据处理系统可以可选地验证远程操作员所在的远程服务器的身份。如果远程服务器的身份未能被验证,在步骤418中,车载数据处理系统可以搜索适合的远程服务器,直到远程服务器的身份被验证为止。例如,车辆的车载数据处理系统和/或远程服务器可以向彼此发送编码的消息以进行解码来作为一种形式的身份验证。
一旦远程服务器的身份得到验证,在步骤420中,车载数据处理系统可以将一个或多个传感器检测到的可视数据传输到远程服务器。在步骤422中,车载数据处理系统可以经由无线接收器从远程服务器接收响应。在步骤424中,车载数据处理系统可以基于响应采取动作。如下文将更详细描述的,车载数据处理系统的动作可以导致车辆操作的更新。该更新可以包括命令车辆保持停止,因为远程操作员可能确定车辆移动是不安全的。该更新可以包括如果远程操作员确定至少相邻车道对于行驶是安全的,则命令车辆切换到相邻车道并继续沿其规划路线。更新可以包括如果远程操作员确定未知物体不是道路危害(例如,纸袋或卡盒)和/或车辆在其规划路线上(例如,标记交通灯位于车辆上的传感器检测区域的稍微外侧),则命令车辆继续其在当前车道上。
图5示出了从本文公开的车辆的车载数据处理系统接收远程干预请求,并由远程服务器提供响应的示例过程500。在步骤502中,远程服务器可以由车载数据处理系统接收远程干预请求。在判断步骤504中,远程服务器可以可选地例如使用上述方法验证车辆的身份。如果车辆的身份未能得到验证,则在步骤506中,远程服务器可以忽略该请求,因为远程服务器可能没有向该请求车辆提供远程干预的授权。如果车辆的身份得到验证,在步骤508中,远程服务器可以从车载数据处理系统请求可视数据。在接收到可视数据时,在判断步骤510中,远程服务器处的远程操作员可以确定可视数据中的对象是否可标识。如果物体不能立即被识别,则在步骤512中,远程服务器可以连接到附加的知识库,例如本地交通控制数据、交通监视相机等,这些知识库可以提供更多的信息来帮助远程操作员识别可视数据中的物体或可视数据中缺失的标记物体。例如,通过连接到交通监视相机,远程操作员可以查找在车辆的一个或多个传感器的检测范围之外的缺失的交通灯。在步骤514中,远程服务器可以向车辆的车载数据处理系统输出响应,以提供远程干预。
■远程操作员接管控制的示例
在一些实施例中,远程操作员可以从车辆的车载数据处理系统(例如,临时地)接管车辆的操作控制。如图6A中的示例过程600所示,当车载数据处理系统在步骤602中(其可以包括上文参考图3和4描述的任何附加步骤)请求远程服务器处的远程操作员的远程干预时,在步骤604中,车载数据处理系统可以从远程服务器接收直接命令。直接命令可以包括如下的命令:车载数据处理系统将车辆操作的控制移交给远程操作员,至少在某个有限的时间内或进行更新车辆操作的任务直到车辆不再被禁用为止。在步骤606中,车载数据处理系统可以将车辆操作的控制交给在远程服务器处的远程操作员。在远程操作员更新了车辆的操作(可包括上述任何更新)后,远程操作员可以将车辆操作的控制交回给车载数据处理系统,并且在步骤608中,车载数据处理系统可以重新获得控制。
如图6B中的示例过程650所示,远程服务器可以在步骤652中(其可以包括上文参考图3和图5描述的任何附加步骤)接收来自车辆的远程干预请求。在步骤654中,远程服务器可以向车辆发送直接命令以请求对车辆操作的控制。在步骤656中,服务器处的远程操作员可以分析由车辆的车载数据处理系统传输的可视数据。在步骤658中,远程操作员可以向车辆输出控制信号。控制信号可以命令车辆以上述方式中任何一种更新其操作。在步骤660中,远程操作员可以将对车辆的控制返还给车辆的车载数据处理系统。在一些实施例中,远程操作员可以在向车辆发送直接命令之前分析可视数据。在一些实施方式中,远程操作员可以在分析了由车辆传输的可视数据之后向车辆发送直接命令以请求控制车辆的操作。当远程操作员确定车辆在其当前车道和/或相邻车道上继续移动是安全的时,远程操作员可以接管控制车辆的操作。当远程操作员确定车辆继续行驶不安全时,远程操作员可以向车辆发送“保持停止”响应而不接管控制车辆。
■远程操作员提供决策辅助的示例
在一些实施例中,当车辆请求远程干预时,远程操作员可以向车辆提供决策辅助响应而不是接管对车辆的控制。车辆的车载数据处理系统可以保持对车辆操作的完全控制,并且可以至少部分地基于来自远程操作员的决策辅助响应来更新车辆操作。车载数据处理系统还可以基于包括来自远程操作员的响应和基于车辆的传感器数据的聚合的信息,以更新车辆操作。
如图7A的示例过程700所示,远程服务器可以在步骤702中从上述示例车辆中的任何一种接收物体标识请求形式的远程干预请求。在步骤704中,远程服务器可以按上述任何方式从车辆请求和接收可视数据。在步骤706中,远程服务器可以分析可视数据以标识可视数据中的物体。如上所述,远程服务器能够连接到可以帮助标识可视数据中的物体的附加知识库和/或资源。在步骤708中,远程服务器可以输出物体标识形式的响应。
如图7B的示例过程750所示,在步骤752中,远程服务器可以从上述任何示例车辆接收决策确认请求形式的远程干预请求。该决策确认请求可以是,例如,授权通过实线进入相邻的未阻塞车道的请求,确认未知物体是或不是道路危害的请求,或者确认车辆在规划路线上的请求。在步骤754中,远程服务器可以按上述任何方式从车辆请求和接收可视数据。在步骤756中,远程服务器可以分析可视数据以标识可视数据中的物体。如上所述,远程服务器能够连接到额外的知识库和/或资源,这些知识库和/或资源可以帮助分析可视数据并确认由车辆的车载数据处理系统所建议的决策。在步骤758中,远程服务器可以输出决策确认形式的响应。
图8A图示本文公开的任何车辆示例的示例车载数据处理系统800。如上所述,车载数据处理系统800可以从位于远程服务器的远程操作员接收决策辅助响应804(例如物体标识和/或决策确认)。车载数据处理系统800还可以从本文公开的一个或多个传感器接收当前传感器数据802。车载数据处理系统800可以输出控制信号806,以同时基于当前基于车辆的传感器数据802和来自远程操作员的决策辅助响应804来更新车辆的操作。车载数据处理系统800由此可以将远程操作员的更智能和更灵活的决策能力与周围的更当前的和/或更实时的检测相结合,以提高最终控制信号在更新车辆操作中的效率、准确性和安全性。例如,在远程操作员已经确定不确定的物体不是道路危害或者越过实线到相邻车道是安全的之后,车辆上的传感器同时还可以检测额外的道路危害或安全问题,例如穿过道路的行人。额外的传感器数据可以使车载数据处理系统能够调整控制信号,例如在基于来自远程操作员的响应执行决策之前,等待行人穿越到道路的另一侧。
如图8B的示例过程810所示,车辆的车载数据处理系统可以使用远程干预来更新车辆的操作。在步骤812中,车载数据处理系统可以从远程服务器请求远程干预。如上所述,车载数据处理系统可以在车辆操作被暂停或禁用时,例如在图2A-2C所示的情况下,做出此类请求。在步骤814中,车载数据处理系统可以从远程服务器接收响应。该响应可以是决策辅助响应。在判断步骤816中,车载数据处理系统可以确定在当前车道或相邻车道上前行是否安全。车载数据处理系统可以基于来自远程服务器的响应来作出此确定。如果车载数据处理系统确定车辆前行不安全,则在步骤818中,车载数据处理系统可以暂停车辆的操作,使得车辆可以减速到停止(例如,在距离不确定物体的预定距离处)或者车辆可以保持停止。在一些实施例中,车辆的车载数据处理系统可以在车辆基本停止后发送远程干预请求。在一些实施例中,车载数据处理系统可以在车载数据处理系统预期车辆将要停止时(例如,当车辆接近不确定的物体或路障时)发送干预请求。
如果车载数据处理系统确定车辆继续前行是安全的,则在步骤820中,车载数据处理系统可以接收并处理来自车辆上的一个或多个传感器的信号输入。在判断步骤822中,车载数据处理系统可以根据基于车辆的当前传感器数据来确定在当前车道或相邻车道上继续前行是否仍然安全。如果车载数据处理系统确定车辆继续前进不安全,则车载数据处理系统可以前进到步骤818以暂停车辆的操作,使得车辆可以减速到停止或者车辆可以保持停止。如果车载数据处理系统基于来自远程操作员和传感器的聚合的信息确定车辆继续前行是安全的,则在步骤824中,车载数据处理系统可以输出控制信号来更新车辆的操作。该控制信号可以使车辆在其当前车道中移动或将车辆移动到相邻车道。
■示例人工智能操作员
远程操作员可以是人类操作员或人工智能操作员。人工智能操作员可以被采用来更高效地处理来自车辆的请求,如被人类操作员所处理得一样自然或基本接近自然。人工智能可以基于来自人类操作员的响应将响应输出自动化。人工智能操作员可以通过例如深度学习或神经网络模型进行训练。可以部署人类操作员来响应新的请求或分析新的可视数据。
在图9所示的示例过程900中,在步骤902中,人工智能操作员可以接收和分析来自请求远程干预的车辆的可视数据。在判断步骤904中,人工智能操作员可以确定相似的可视数据是否先前已经被人类操作员处理过。例如,人工智能操作员可以通过逐个像素地比较可视数据和/或通过比较请求车辆的时间和/或位置(例如交叉路口),将当前可视数据与先前处理过的可视数据进行比较。如果可视数据与任何先前处理过的可视数据不相似(例如当可视数据中的物体不同于先前处理过的可视数据中的物体时),人工智能操作员可以在步骤906中将请求转发给人类操作员。如果可视数据与任何先前处理过的可视数据相似或相同,例如当两组可视数据显示相同的物体时,则人工智能操作员可以在步骤908中检索先前由人类操作员提供的响应。在步骤910中,人工智能操作员可以基于先前发送的响应和请求的属性输出响应。由人工智能操作员输出的响应可以是与先前的响应相同或不同的属性的。在一些实施例中,人工智能操作员输出的响应可以取决于来自车辆的请求的属性,并且可以是直接命令或决策辅助响应。使用人工智能操作员来处理相似的请求或相似的可视数据集能够提高向车辆提供远程干预的效率,并且从而减少车辆操作被暂停或禁用时的待机时间。
就本文描述的附图而言,在本发明的范围内,其它实施例是可能的,上述部件、步骤、框、操作和/或消息/请求/查询/指令进行不同地排列、排序、细分、组织和/或组合。在一些实施例中,不同的部件可以发起或执行给定的操作。例如,在一些实施例中,更新车辆操作的控制信号可以被导向到车轮控制器和/或车辆刹车控制器,它们可以是与车载数据处理系统分离的控制器,以便移动车辆或使车辆保持停止。
■示例实施例
本发明的一些示例列举的实施例,在本段落部分中是以方法、系统和非瞬态计算机可读介质且非限制的形式来引述的。
在一些实施例中,一种被配置成接收远程干预的车辆可以包括车载硬件处理器;与所述车载硬件处理器进行电子通信的至少一个传感器,所述至少一个传感器被配置为检测所述车辆行驶所在的道路的可视数据,并将所述可视数据传输到所述车载硬件处理器;无线发射器;以及无线接收器;其中该车载硬件处理器可以被配置为响应于车辆的操作被暂停,经由无线发射器将远程干预请求发送到远程服务器,将可视数据发送到远程服务器,经由无线接收器从远程服务器接收响应于远程干预请求的响应,并根据响应采取动作,该动作产生控制信号以更新车辆的操作。
在一些实施例中,该车辆可以并入一个或多个以下特征:该可视数据可以包括三维图像数据;当可视数据包含不确定物体时该车辆的操作可以被暂停;该不确定物体可以包括无法识别的物体;该不确定物体可以包括缺失的标记物体;当车辆当前行驶的车道被阻塞且当前车道与相邻车道被实线分隔时,车辆的操作可以被暂停;该车载硬件处理器可以响应于车辆的操作被暂停而使车辆停止或减速;该车辆可以是自动驾驶车辆;该响应可以包括对车载硬件处理器的直接命令;该车载硬件处理器可以被配置为通过将车辆的控制交给远程服务器来根据直接命令采取动作,其中该远程服务器可以被配置为向车辆输出控制信号;该响应可以包括不确定物体的分类或确认由车载硬件处理器建议的决策;该车载硬件处理器可以被配置为输出控制信号以至少部分地基于响应来更新车辆的操作;该车载硬件处理器可以至少部分地基于来自至少一个传感器的附加信号输入来输出控制信号;该至少一个传感器包括光探测和测距、相机、红外摄像机、超声波换能器、无线电探测和测距或其组合;来自远程服务器的响应可以由查看可视数据的人类操作员提供;来自远程服务器的响应可以由查看可视数据的人工智能操作员提供;该人工智能操作员提供的响应可以基于由人类操作员提供的先前响应;该车辆可以响应控制信号移动到相邻的空闲车道;该车辆可以响应控制信号在其当前车道上移动;该车辆可以响应于所述控制信号保持停止。
在一些实施例中,由远程服务器向车辆提供远程干预的方法可以包括使用车辆的车载硬件处理器,从与车载硬件处理器进行电子通信的车辆的至少一个传感器接收信号输入,该至少一个传感器被配置为检测有关车辆正在行驶的道路的可视数据;响应于该车辆的操作被暂停,经由无线发射器向远程服务器输出远程干预请求;将可视数据传输到远程服务器;经由无线接收器从远程服务器接收响应于远程干预请求的响应;以及根据该响应采取动作,该动作产生控制信号以更新车辆的操作。
在一些实施例中,该方法可以并入一个或多个以下特征:该可视数据可以包括三维图像数据;当可视数据包含不确定物体时该车辆的操作可以被暂停;该不确定物体可以包括不可标识物体;该不确定物体可以包括缺失的标记物体;当车辆当前行驶的车道被阻塞且当前车道与相邻车道被实线分隔时,车辆的操作可以被暂停;该方法还可以包括响应于车辆的操作被暂停而使车辆停止或减速;该车辆可以是自动驾驶车辆;该响应可以包括对车载硬件处理器的直接命令;该动作可以包括将车辆的控制交给远程服务器,其中该远程服务器可以被配置为向车辆输出控制信号;该响应可以包括不确定物体的分类或确认由车载硬件处理器建议的决策;该动作可以包括输出控制信号以至少部分地基于响应来更新车辆的操作;该方法还可以包括至少部分地基于来自至少一个传感器的附加信号输入来输出控制信号;该至少一个传感器包括光探测和测距、相机、红外摄像机、超声波换能器、无线电探测和测距或其组合;来自远程服务器的响应可以由查看可视数据的人类操作员提供;来自远程服务器的响应可以由查看可视数据的人工智能操作员提供;该人工智能操作员提供的响应可以基于由人类操作员提供的先前响应;该车辆可以响应控制信号移动到相邻的空闲车道;该车辆可以响应控制信号在其当前车道上移动;该车辆可以响应于所述控制信号保持停止。
在一些实施例中,被配置为响应于远程干预来更新车辆操作可以包括车载硬件处理器;与所述车载硬件处理器进行电子通信的至少一个传感器,所述至少一个传感器被配置为检测所述车辆行驶所在的道路的可视数据,并定期将所述可视数据传输到所述车载硬件处理器;无线发射器;以及无线接收器,其中该车载硬件处理器被配置成执行以下操作:响应于所述车辆的运行被暂停,经由所述无线发射器向远程服务器传输决策协助的请求,将所述可视数据传输到所述远程服务器,经由所述无线接收器接收来自所述远程服务器响应于所述请求的决策辅助响应,并且基于包括所述响应和从所述至少一个传感器定期传输的所述可视数据的聚合的信息,输出控制信号以更新所述车辆的运行。
在一些实施例中,该车辆可以并入一个或多个以下特征:该决策辅助请求可以包括物体分类请求或决策确认请求;该决策辅助响应可以包括物体分类响应或决策确认响应;该可视数据可以包括三维图像数据;当可视数据包含不确定物体时该车辆的操作可以被暂停;该物体分类请求可以包括标识未知物体的请求;该决策确认请求可以包括批准移到与当前车道被实线分隔的相邻车道的请求;该决策确认请求可以包括确认在当前车道继续行驶是否安全的请求;该决策确认请求可以包括确认存在缺失的标记物体的请求;该车载硬件处理器可以响应于车辆的操作被暂停而使车辆停止或减速;该车辆可以是自动驾驶车辆;该响应可以包括对车载硬件处理器的直接命令;该车载硬件处理器可以被配置为通过将车辆的控制交给远程服务器来根据直接命令采取动作,其中该远程服务器可以被配置为向车辆输出控制信号;该响应可以包括不确定物体的分类或确认由车载硬件处理器建议的决策;该车载硬件处理器可以被配置为输出控制信号以至少部分地基于响应来更新车辆的操作;该车载硬件处理器可以至少部分地基于来自至少一个传感器的附加信号输入来输出控制信号;该至少一个传感器包括光探测和测距、相机、红外摄像机、超声波换能器、无线电探测和测距或其组合;来自远程服务器的响应可以由查看可视数据的人类操作员提供;来自远程服务器的响应可以由查看可视数据的人工智能操作员提供;该人工智能操作员提供的响应可以基于由人类操作员提供的先前响应;该车辆可以响应控制信号移动到相邻的空闲车道;该车辆可以响应控制信号在其当前车道上移动;该车辆可以响应于所述控制信号保持停止;该至少一个传感器可以持续向车载硬件处理器传送可视数据。
在一些实施例中,响应于远程干预更新车辆操作的方法可以包括:使用所述车辆的车载硬件处理器执行以下操作:定期从与所述车载硬件处理器进行电子通信的所述车辆的至少一个传感器接收信号输入,所述至少一个传感器被配置为检测有关所述车辆行驶所在的道路的可视数据;响应于所述车辆的运行被暂停,经由所述无线发射器向远程服务器输出用于决策协助的请求,将所述可视数据传输到所述远程服务器,经由无线接收器接收来自所述远程服务器响应于所述请求的决策辅助响应,并且基于包括所述响应和从所述至少一个传感器定期传输的所述可视数据的聚合的信息,输出控制信号以更新所述车辆的运行。
在一些实施例中,该方法可以并入一个或多个以下特征:该决策辅助请求可以包括物体分类请求或决策确认请求;该决策辅助响应可以包括物体分类响应或决策确认响应;该可视数据可以包括三维图像数据;当可视数据包含不确定物体时该车辆的操作可以被暂停;该物体分类请求可以包括标识未知物体的请求;该决策确认请求可以包括批准移到与当前车道被实线分隔的相邻车道的请求;该决策确认请求可以包括确认在当前车道继续行驶是否安全的请求;该决策确认请求可以包括确认存在缺失的标记物体的请求;该方法还可以包括响应于车辆的操作被暂停而使车辆停止或减速;该车辆可以是自动驾驶车辆;该响应可以包括对车载硬件处理器的直接命令;该车载硬件处理器可以被配置为通过将车辆的控制交给远程服务器来根据直接命令采取动作,其中该远程服务器可以被配置为向车辆输出控制信号;该响应可以包括不确定物体的分类或确认由车载硬件处理器建议的决策;该车载硬件处理器可以被配置为输出控制信号以至少部分地基于响应来更新车辆的操作;该车载硬件处理器可以至少部分地基于来自至少一个传感器的附加信号输入来输出控制信号;该至少一个传感器包括光探测和测距、相机、红外摄像机、超声波换能器、无线电探测和测距或其组合;来自远程服务器的响应可以由查看可视数据的人类操作员提供;来自远程服务器的响应可以由查看可视数据的人工智能操作员提供;该人工智能操作员提供的响应可以基于由人类操作员提供的先前响应;该车辆可以响应控制信号移动到相邻的空闲车道;该车辆可以响应控制信号在其当前车道上移动;该车辆可以响应于所述控制信号保持停止;所述接收可以包括持续地从该至少一个传感器接收可视数据。
在其它实施例中,一个或多个系统可以根据前述段落中引述的方法和/或计算机可读介质中的其中一个或多个来操作。在又一些实施例中,一种或多种方法可以根据前述段落中引述的系统和/或计算机可读介质中的其中一个或多个来操作。在再一些实施例中,一种或多种计算机可读介质,不包括瞬态传播信号,可以使具有一个或多个处理器和非瞬态计算机可读存储器的一个或多个计算设备根据前述段落中引述的系统和/或方法的其中一个或多个操作。
■术语
条件语言,例如“能够”、“可能”、“可以”或“可”,除非另有特别说明,或在所使用的上下文中以其它方式理解,否则通常旨在传达某些实施例包括,而其它实施例不包括某些特征、元素和/或步骤。因此,此类条件语言通常无意暗示特征、元素和/或步骤对于一个或多个实施例以任何方式是必需的,或者一个或多个实施例必需地包括用于在有或没有用户输入或提示的情况下,决定是否将这些特征、元素和/或步骤包括在任何特定实施例中或要在任何特定实施例中执行的逻辑。
除非上下文另有明确要求,否则在说明书和权利要求书中,词语“包括”、“包含”等应被解释为包含性意义,而不是唯一或详尽意义,即“包括但不限于”。如本文所用,术语“连接”、“耦合”或其任何变体是指两个或更多个元素之间的任何直接或间接的连接或耦合;元素之间的耦合或连接可以是物理的、逻辑的或其组合。此外,在本申请中使用的词语“此处”、“以上”、“以下”和类似含义的词语,是指本申请的整体而不是本申请的任何特定部分。在上下文允许的情况下,使用单数或复数的词汇也可以分别包括复数或单数。结合两个或更多个项的列表时,词汇“或”涵盖该词汇的以下所有解释:列表中的任何一个项、列表中的所有项目以及列表中项的任意组合。同样,结合两个或更多个项的列表时,术语“和/或”,涵盖该词的所有以下解释:列表中的任何一个项、列表中的所有项以及列表中项的任何组合。
在一些实施例中,本文中描述的任何算法的某些操作、动作、事件或功能可以以不同的顺序执行,可以添加、合并或完全排除(例如,对于实施算法,并非全部都是必不可少的)。在某些实施例中,操作、动作、功能或事件可以例如通过多线程处理、中断处理或多个处理器或处理器核或在其它并行架构上同时执行,而不是顺序执行。
本文描述的系统和模块可以包括软件、固件、硬件或适合于所描述的目的的软件、固件或硬件的任何组合。软件和其它模块可以驻留在服务器、工作站、个人计算机、计算机化平板电脑、PDA和其它适于本文描述的目的的计算设备上并在其上执行。软件和其它模块可以通过本地计算机存储器、网络、浏览器或适于本文描述的目的的其它方式来访问。本文描述的数据结构可以包括适于本文描述的目的的计算机文件、变量、编程阵列、编程结构或任何电子信息存储方案或方法或者它们的任何组合。本文描述的用户接口元素可以包括来自图形用户界面、交互式语音响应、命令行界面和其它合适接口的元素。
再者,所示系统的各种部件的处理可以分布在多个机器、网络和其它计算资源上。可以将一个系统的两个或更多个部件组合成更少的部件。所示系统的各种部件可以在一个或多个虚拟机中而不是在专用计算机硬件系统和/或计算设备中实现。同样,所示的数据存储库可以表示物理和/或逻辑数据存储,包括例如存储区域网络或其它分布式存储系统。此外,在一些实施例中,所示部件之间的连接表示数据流的可能路径,而不是硬件之间的实际连接。虽然示出了可能连接的一些示例,但是在多种实现中,所示部件的任何子集都能够彼此通信。
上面还结合用于方法、装置(系统)和计算机程序产品的流程示意图和/或框图描述了实施例。流程示意图和/或框图的每个框和流程示意图和/或框图中的框的组合可以通过计算机程序指令来实现。可以将此类指令提供给通用计算机、专用计算机、特殊配置计算机(例如,包括高性能数据库服务器、图形子系统等)的处理器或其它可编程数据处理装置来生产机器,使得通过计算机的处理器或其它可编程数据处理装置执行的指令,构成用于实现流程图和/或框图的一个或多个框中指定的动作的装置。这些计算机程序指令也可以存储在非暂时性计算机可读存储器中,这些计算机程序指令可以指导计算机或其它可编程数据处理装置以特定方式操作,使得存储在计算机可读存储器中的指令构成包括实现流程图和/或框图的一个或多个框中指定的动作的指令装置的制造品。这些计算机程序指令也可以加载到计算设备或其它可编程数据处理装置上,以在该计算设备或其它可编程装置上执行操作以产生计算机实现的处理,使得在该计算设备或其它可编程装置上执行的指令提供用于实现流程图和/或框图一个或多个框指定的动作的步骤。
上面提到的任何专利和应用和其它引用,包括可以在附属提交文件中列出的任何内容,可以通过引用并入本文。如有需要,可以修改本发明的多个方面以采用上文描述提供本发明再一个实施方式的多种引用的系统、功能和概念。鉴于上述详细描述,可以对本发明进行这些和其它改变。虽然上文描述了本发明的某些示例,并且描述了可设想的最佳方式,但是无论文本中呈现如何详尽,均可以以多种方式实施本发明。系统的细节在其具体实施方式中显著有所不同,同时仍涵盖在本文公开的本发明中。如上所述,不应将描述本发明多个方面的某些特征时使用的特定术语解释为暗示在本文中将该术语重新定义为被限制于本发明的与该术语相关联的任何特定特性、特征或方面。一般而言,在以下权利要求中使用的术语不应解释为将本发明限制于本说明书中公开的具体示例,除非上述具体实施方式部分中显性地定义此类术语。因此,本发明的实际范围不仅包括所公开的示例,而且包括依据权利要求实施或实现本发明的所有等效方式。
为了减少权利要求的数量,下文以某种权利要求形式呈示本发明的某些方面,但是申请人可以以任何数量的权利要求形式可设想本发明的其它方面。例如,虽然本发明的仅一个方面被引述为依据35U.S.Csec.112(f)(AIA)的手段加功能的权利要求,但是其它方面同样可以实施为手段加功能的权利要求,或者以其它形式实施,例如在计算机可读介质中实施。旨在依据35U.S.C.§112(f)处理的任何权利要求将以“用于”语句开始,但是在任何其它上下文中使用“用于”不意味着依据35U.S.C.§112(f)引用其处理。因此,申请人保留在提交本申请后在本申请或后续申请中追加附加权利要求的权利。
Claims (24)
1.一种被配置成响应于远程干预来更新车辆运行的车辆,所述车辆包括:
车载硬件处理器;
与所述车载硬件处理器进行电子通信的至少一个传感器,所述至少一个传感器被配置为检测所述车辆行驶所在的道路的可视数据,并定期将所述可视数据传输到所述车载硬件处理器;
无线发射器;以及
无线接收器,
其中所述车载硬件处理器被配置为:
响应于所述车辆的运行被暂停,经由所述无线发射器向远程服务器传输决策辅助请求,所述车辆的运行被暂停的状况包括所述车辆遇到未知和/或意外障碍物和标记对象缺失,
将所述可视数据传输到所述远程服务器,所述远程服务器连接到附加的知识库,以识别所述可视数据中的物体或所述可视数据中缺失的标记对象,
经由所述无线接收器接收来自所述远程服务器响应于所述请求的决策辅助响应,
响应于指示在当前车道或相邻车道上前行是安全的所述决策辅助响应,接收并处理来自所述至少一个传感器的当前可视数据,并且
基于包括所述响应和从所述至少一个传感器定期传输的所述当前可视数据的聚合的信息,输出控制信号以更新所述车辆的运行。
2.根据权利要求1所述的车辆,其中,所述决策辅助请求包括物体分类请求或决策确认请求。
3.根据权利要求1所述的车辆,其中,所述可视数据为三维图像数据。
4.根据权利要求2所述的车辆,其中,所述物体分类请求包括识别未知物体的请求。
5.根据权利要求2所述的车辆,其中,所述决策确认请求包括批准从当前车道移到由实线隔开的相邻车道的请求。
6.根据权利要求2所述的车辆,其中,所述决策确认请求包括确认在当前车道继续行驶是否安全的请求。
7.根据权利要求2所述的车辆,其中,所述决策确认请求包括确认存在缺失的标记物体的请求。
8.根据权利要求1所述的车辆,其中,所述车辆是自动驾驶车辆。
9.根据权利要求1所述的车辆,其中,所述至少一个传感器包括光探测和测距(LiDAR)、相机、红外摄像机、超声波换能器、无线电探测和测距(Radar)或其组合。
10.根据权利要求1所述的车辆,其中,来自所述远程服务器的响应由人工智能(AI)操作员基于由人类操作员提供的先前响应提供。
11.根据权利要求1所述的车辆,其中,响应于所述控制信号,所述车辆移动到相邻的空闲车道或在其当前车道中移动。
12.根据权利要求1所述的车辆,其中,所述车辆响应于所述控制信号保持停止。
13.一种响应于远程干预来更新车辆运行的方法,所述方法包括:
使用所述车辆的车载硬件处理器执行以下操作:
定期从与所述车载硬件处理器进行电子通信的所述车辆的至少一个传感器接收信号输入,所述至少一个传感器被配置为检测有关所述车辆行驶所在的道路的可视数据;
响应于所述车辆的运行被暂停,经由无线发射器向远程服务器输出决策辅助请求,所述车辆的运行被暂停的状况包括所述车辆遇到未知和/或意外障碍物和标记对象缺失,
将所述可视数据传输到所述远程服务器,所述远程服务器连接到附加的知识库,以识别所述可视数据中的物体或所述可视数据中缺失的标记对象,
经由无线接收器接收来自所述远程服务器响应于所述请求的决策辅助响应,
响应于指示在当前车道或相邻车道上前行是安全的所述决策辅助响应,接收并处理来自所述至少一个传感器的当前可视数据,并且
基于包括所述响应和从所述至少一个传感器定期传输的所述当前可视数据的聚合的信息,输出控制信号以更新所述车辆的运行。
14.根据权利要求13所述的方法,其中,所述决策辅助请求包括物体分类请求或决策确认请求。
15.根据权利要求13所述的方法,其中,所述可视数据为三维图像数据。
16.根据权利要求14所述的方法,其中,所述物体分类请求包括识别未知物体的请求。
17.根据权利要求14所述的方法,其中,所述决策确认请求包括批准从当前车道移到由实线隔开的相邻车道的请求。
18.根据权利要求14所述的方法,其中,所述决策确认请求包括确认在当前车道继续行驶是否安全的请求。
19.根据权利要求14所述的方法,其中,所述决策确认请求包括确认存在缺失的标记物体的请求。
20.根据权利要求13所述的方法,其中,所述车辆是自动驾驶车辆。
21.根据权利要求13所述的方法,其中,所述至少一个传感器包括光探测和测距(LiDAR)、相机、红外摄像机、超声波换能器、无线电探测和测距(Radar)或其组合。
22.根据权利要求13所述的方法,其中,来自所述远程服务器的响应由人工智能(AI)操作员基于由人类操作员提供的先前响应提供。
23.根据权利要求13所述的方法,其中,响应于所述控制信号,所述车辆移动到相邻的空闲车道或在其当前车道中移动。
24.根据权利要求13所述的方法,其中,所述车辆响应于所述控制信号保持停止。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862786261P | 2018-12-28 | 2018-12-28 | |
US62/786,261 | 2018-12-28 | ||
PCT/US2019/067620 WO2020139714A1 (en) | 2018-12-28 | 2019-12-19 | System and method for updating vehicle operation based on remote intervention |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113874803A CN113874803A (zh) | 2021-12-31 |
CN113874803B true CN113874803B (zh) | 2024-08-27 |
Family
ID=71121992
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980092739.0A Active CN113874803B (zh) | 2018-12-28 | 2019-12-19 | 用于基于远程干预更新车辆操作的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (2) | US11556124B2 (zh) |
CN (1) | CN113874803B (zh) |
WO (1) | WO2020139714A1 (zh) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018119417A1 (en) * | 2016-12-22 | 2018-06-28 | Nissan North America, Inc. | Autonomous vehicle service system |
DE102017120778A1 (de) * | 2017-09-08 | 2019-03-14 | Connaught Electronics Ltd. | Verfahren zum autonomen Parken eines aktuellen Fahrzeugs entlang einer trainierten Trajektorie |
CN109979239A (zh) * | 2017-12-28 | 2019-07-05 | 北京百度网讯科技有限公司 | 违规车辆提醒方法、装置及设备 |
EP3824404A4 (en) | 2018-07-20 | 2022-04-27 | May Mobility, Inc. | MULTI-PERSPECTIVE SYSTEM AND BEHAVIORAL POLICY SELECTION PROCESS BY AN AUTONOMOUS AGENT |
US11720094B2 (en) | 2018-12-28 | 2023-08-08 | Beijing Voyager Technology Co., Ltd. | System and method for remote intervention of vehicles |
US11556124B2 (en) | 2018-12-28 | 2023-01-17 | Beijing Voyager Technology Co., Ltd | System and method for updating vehicle operation based on remote intervention |
US11644846B2 (en) | 2020-03-31 | 2023-05-09 | GM Cruise Holdings LLC. | System and method for real-time lane validation |
KR20210133084A (ko) * | 2020-04-28 | 2021-11-05 | 삼성전자주식회사 | 뉴럴 네트워크의 학습 방법 및 장치 |
US11176703B1 (en) * | 2020-05-12 | 2021-11-16 | Gm Cruise Holdings Llc | Assessing visibility of a target object with autonomous vehicle fleet |
US11352023B2 (en) | 2020-07-01 | 2022-06-07 | May Mobility, Inc. | Method and system for dynamically curating autonomous vehicle policies |
EP3964909B1 (en) * | 2020-09-08 | 2024-08-07 | Volkswagen Ag | Methods, computer programs, apparatuses for a vehicle and a control center for resolving a deadlock traffic situation of an automatically operated vehicle |
JP7351320B2 (ja) * | 2021-03-09 | 2023-09-27 | トヨタ自動車株式会社 | 車両制御システム及び車両制御方法 |
JP7668373B2 (ja) | 2021-04-02 | 2025-04-24 | メイ モビリティー,インコーポレイテッド | 不完全な環境情報で自律エージェントを動作させる方法及びシステム |
US11565717B2 (en) | 2021-06-02 | 2023-01-31 | May Mobility, Inc. | Method and system for remote assistance of an autonomous agent |
KR20230001073A (ko) * | 2021-06-25 | 2023-01-04 | 현대자동차주식회사 | 자율 주행 차량, 그를 원격 제어하는 관제 시스템 및 그 방법 |
CN113879302A (zh) * | 2021-10-21 | 2022-01-04 | 中寰卫星导航通信有限公司 | 一种车辆控制方法、装置、设备及存储介质 |
KR102785885B1 (ko) * | 2022-06-20 | 2025-03-26 | 주식회사 엘지유플러스 | 자율 주행 차량의 안전 유지 장치 및 방법 |
US12202504B2 (en) * | 2022-08-22 | 2025-01-21 | Gm Cruise Holdings Llc | Automated inference of a customer support request in an autonomous vehicle |
WO2024129832A1 (en) | 2022-12-13 | 2024-06-20 | May Mobility, Inc. | Method and system for assessing and mitigating risks encounterable by an autonomous vehicle |
WO2024144825A1 (en) * | 2022-12-29 | 2024-07-04 | Motional Ad Llc | Route traversal using remote vehicle assistance |
CN118643754B (zh) * | 2024-08-16 | 2024-11-15 | 四川蜀旺新能源股份有限公司 | 一种氢电转化效能管理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9494439B1 (en) * | 2015-05-13 | 2016-11-15 | Uber Technologies, Inc. | Autonomous vehicle operated with guide assistance of human driven vehicles |
CN108873902A (zh) * | 2018-07-04 | 2018-11-23 | 北京踏歌智行科技有限公司 | 一种无人驾驶矿用车辆的远程控制方法及装置 |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102005050310A1 (de) * | 2004-10-22 | 2006-06-08 | Irobot Corp., Burlington | Systeme und Verfahren zum Steuern eines Fahrzeuges |
US20090112452A1 (en) | 2007-10-25 | 2009-04-30 | Gm Global Technology Operations, Inc. | Vehicle navigation system with real time traffic image display |
US8126642B2 (en) * | 2008-10-24 | 2012-02-28 | Gray & Company, Inc. | Control and systems for autonomously driven vehicles |
US9355562B1 (en) * | 2012-08-14 | 2016-05-31 | Google Inc. | Using other vehicle trajectories to aid autonomous vehicles driving through partially known areas |
US9720410B2 (en) * | 2014-03-03 | 2017-08-01 | Waymo Llc | Remote assistance for autonomous vehicles in predetermined situations |
US20150350439A1 (en) * | 2014-05-30 | 2015-12-03 | Ncr Corporation | Remote assistance customer information |
US9494935B2 (en) * | 2014-11-13 | 2016-11-15 | Toyota Motor Engineering & Manufacturing North America, Inc. | Remote operation of autonomous vehicle in unexpected environment |
CN107850895B (zh) * | 2015-05-13 | 2020-03-31 | 优步技术公司 | 通过引导协助操作的自动驾驶车辆 |
EP3109115B1 (en) * | 2015-06-23 | 2018-01-31 | Volvo Car Corporation | Arrangement and method for facilitating handover to and from an automated autonomous driving aid system |
EP3159853B1 (en) * | 2015-10-23 | 2019-03-27 | Harman International Industries, Incorporated | Systems and methods for advanced driver assistance analytics |
JP6962926B2 (ja) * | 2015-11-04 | 2021-11-05 | ズークス インコーポレイテッド | 自律車両の軌道修正のための遠隔操作システムおよび方法 |
US10379533B2 (en) * | 2016-01-04 | 2019-08-13 | GM Global Technology Operations LLC | System and method for autonomous vehicle fleet routing |
US10322717B2 (en) * | 2016-01-04 | 2019-06-18 | GM Global Technology Operations LLC | Expert mode for vehicles |
US20170227366A1 (en) * | 2016-02-10 | 2017-08-10 | Delphi Technologies, Inc. | Automated Vehicle Map Updates Based On Human Verification |
US20170285637A1 (en) * | 2016-03-31 | 2017-10-05 | GM Global Technology Operations LLC | Driving assistance methods and systems |
US10293818B2 (en) | 2017-03-07 | 2019-05-21 | Uber Technologies, Inc. | Teleassistance data prioritization for self-driving vehicles |
US10209718B2 (en) | 2017-03-14 | 2019-02-19 | Starsky Robotics, Inc. | Vehicle sensor system and method of use |
JP6779835B2 (ja) | 2017-06-15 | 2020-11-04 | 株式会社日立製作所 | 監視制御システム、監視制御装置及び監視制御方法 |
US20190137287A1 (en) | 2017-06-27 | 2019-05-09 | drive.ai Inc. | Method for detecting and managing changes along road surfaces for autonomous vehicles |
EP3649525B1 (en) | 2017-07-07 | 2021-09-22 | Zoox, Inc. | Interactions between vehicle and teleoperations system |
US10922903B2 (en) * | 2017-07-11 | 2021-02-16 | Waymo Llc | Methods and systems for providing remote assistance to a stopped vehicle |
US10732625B2 (en) * | 2017-12-04 | 2020-08-04 | GM Global Technology Operations LLC | Autonomous vehicle operations with automated assistance |
US11561107B2 (en) * | 2018-06-15 | 2023-01-24 | Phantom Auto Inc. | Vehicle routing evaluation based on predicted network performance |
US11099561B1 (en) | 2018-06-19 | 2021-08-24 | Zoox, Inc. | Control of an autonomous vehicle in unmapped regions |
US11216007B2 (en) * | 2018-07-16 | 2022-01-04 | Phantom Auto Inc. | Normalization of intelligent transport system handling characteristics |
US11106925B2 (en) | 2018-10-25 | 2021-08-31 | Intel Corporation | Computer-assisted or autonomous driving traffic sign recognition method and apparatus |
US10928828B2 (en) | 2018-12-14 | 2021-02-23 | Waymo Llc | Detecting unfamiliar signs |
US11720094B2 (en) | 2018-12-28 | 2023-08-08 | Beijing Voyager Technology Co., Ltd. | System and method for remote intervention of vehicles |
US11556124B2 (en) | 2018-12-28 | 2023-01-17 | Beijing Voyager Technology Co., Ltd | System and method for updating vehicle operation based on remote intervention |
-
2019
- 2019-12-19 US US16/721,435 patent/US11556124B2/en active Active
- 2019-12-19 WO PCT/US2019/067620 patent/WO2020139714A1/en active Application Filing
- 2019-12-19 CN CN201980092739.0A patent/CN113874803B/zh active Active
-
2022
- 2022-12-16 US US18/067,161 patent/US11860625B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9494439B1 (en) * | 2015-05-13 | 2016-11-15 | Uber Technologies, Inc. | Autonomous vehicle operated with guide assistance of human driven vehicles |
CN108873902A (zh) * | 2018-07-04 | 2018-11-23 | 北京踏歌智行科技有限公司 | 一种无人驾驶矿用车辆的远程控制方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2020139714A1 (en) | 2020-07-02 |
CN113874803A (zh) | 2021-12-31 |
US20200209846A1 (en) | 2020-07-02 |
US20230195110A1 (en) | 2023-06-22 |
US11556124B2 (en) | 2023-01-17 |
US11860625B2 (en) | 2024-01-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113874803B (zh) | 用于基于远程干预更新车辆操作的系统和方法 | |
US11720094B2 (en) | System and method for remote intervention of vehicles | |
US11860639B2 (en) | Vehicle-based road obstacle identification system | |
US10990105B2 (en) | Vehicle-based virtual stop and yield line detection | |
US11373524B2 (en) | On-board vehicle stop cause determination system | |
AU2020203517B2 (en) | Dynamic routing for autonomous vehicles | |
US11287270B2 (en) | Systems and methods for safe route planning for a vehicle | |
US11131554B2 (en) | Systems and methods for vehicle telemetry | |
US20200211370A1 (en) | Map editing using vehicle-provided data | |
US11568741B2 (en) | Communication device, control method thereof, and communication system including the same | |
US10627825B2 (en) | Using discomfort for speed planning in autonomous vehicles | |
CN113748316B (zh) | 用于车辆遥测的系统和方法 | |
US12100300B2 (en) | System and method for intersection collision avoidance | |
US20200208991A1 (en) | Vehicle-provided virtual stop and yield line clustering | |
US12080168B2 (en) | System and method for intersection collision avoidance | |
WO2020139324A1 (en) | Systems and methods for safe route planning for a vehicle | |
CN113748448B (zh) | 基于车辆的虚拟停止线和让行线检测 | |
WO2020139392A1 (en) | Vehicle-based road obstacle identification system | |
WO2020139390A1 (en) | Map editing using vehicle-provided data | |
US11741400B1 (en) | Machine learning-based real-time guest rider identification | |
WO2020139388A1 (en) | Vehicle-provided virtual stop and yield line clustering | |
US20240085903A1 (en) | Suggesting Remote Vehicle Assistance Actions | |
WO2020139394A1 (en) | On-board vehicle stop cause determination system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |