[go: up one dir, main page]

CN113744310A - 目标跟踪方法、装置、电子设备及可读存储介质 - Google Patents

目标跟踪方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113744310A
CN113744310A CN202110973091.7A CN202110973091A CN113744310A CN 113744310 A CN113744310 A CN 113744310A CN 202110973091 A CN202110973091 A CN 202110973091A CN 113744310 A CN113744310 A CN 113744310A
Authority
CN
China
Prior art keywords
target
target object
identification
coding
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110973091.7A
Other languages
English (en)
Inventor
康帅
苏翔博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202110973091.7A priority Critical patent/CN113744310A/zh
Publication of CN113744310A publication Critical patent/CN113744310A/zh
Priority to US17/836,507 priority patent/US20220301183A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了一种目标追踪方法、装置、电子设备及可读存储介质，涉及人工智能技术领域，尤其涉及计算机视觉和深度学习技术，具体可用于智慧城市和智能交通场景下。具体实现方案为：目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch。示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，可能发生错误的ID switch，将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。

Description

目标跟踪方法、装置、电子设备及可读存储介质
技术领域
本公开涉及人工智能技术领域，尤其涉及计算机视觉和深度学习技术，具体可用于智慧城市和智能交通场景下。
背景技术
目标跟踪是计算机视觉领域的一个重要问题，目前广泛应用在体育赛事转播、安防监控和无人机、无人车、机器人等领域。如何提升目标跟踪的性能成为了广泛关注的问题。
发明内容
本公开提供了一种目标跟踪方法、装置、电子设备及可读存储介质。根据本公开的第一方面，提供了目标跟踪方法，包括：
确定目标帧图片中各目标对象的目标重识别特征，目标重识别特征包含目标对象的位置信息；
基于各目标对象的目标重识别特征进行目标跟踪。
根据本公开的第二方面，提供了一种目标跟踪装置，包括：
确定模块，用于确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；
跟踪模块，用于基于各目标对象的所述目标重识别特征进行目标跟踪。
根据本公开的第三方面，提供了一种电子设备，该电子设备包括：
至少一个处理器；以及
与上述至少一个处理器通信连接的存储器；其中，
存储器存储有可被上述至少一个处理器执行的指令，指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行上述方法。
根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，该计算机指令用于使计算机执行上述方法。
根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现上述方法。
本公开提供的技术方案带来的有益效果是：
本公开实施例提供的方案，与现有技术目标追踪进行数据关联所用到的重识别特征为外观特征相比。本公开通过确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；基于各目标对象的所述目标重识别特征进行目标跟踪。即目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的IDswitch，将目标对象A的ID确定为24、将目标对象B的I D确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开提供的目标跟踪方法流程示意图；
图2是根据本公开提供的目标跟踪装置的结构示意图；
图3是用来实现本公开实施例的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
实施例一
图1示出了本公开实施例提供的一种目标追踪方法，如图1所示，包括：
步骤S101，确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；
步骤S102，基于各目标对象的所述目标重识别特征进行目标跟踪。
目标跟踪是计算机视觉领域的一个重要问题，目前广泛应用在体育赛事转播、安防监控和无人机、无人车、机器人等领域。其中，目标跟踪可以分为单目标跟踪和多目标跟踪(MOT，Multiple Object Tracking)。多目标跟踪的主要任务是对感兴趣的多个目标进行定位，并且维持该多个目标的ID，还可以记录该多个目标对象的轨迹。其中，如果不同目标帧图片中目标对象的ID相同，则表示是同一个目标对象。
其中，目标帧图片可以是从采集的视频中提取的图片，目标对象可以是车辆、人、动物等，其中，该采集的视频可以是智能交通、智能监控等场景下采集的视频。其中，该采集的视频可以是同一图像采集设备采集得到的，也可以是不同图像采集设备采集得到的。
行人再识别(Person Re-identification，Re-ID)是利用计算机视觉技术判断图像或者视频序列中是否存在特定行人的技术。本公开不局限于行人再识别，也可以是其他目标对象的识别，即本公开的目标对象再识别或重识别为利用计算机视觉技术判断图像或者视频序列中是否存在特定目标。
作为目标追踪中重要步骤的数据关联步骤，将当前帧中的目标对象与之前帧的目标建立关联，如果当前帧的目标与之前帧的目标为同一目标，可以分配与之前帧的目标对象相同ID，如果之前的帧不存在当前帧的目标，则当前帧的目标为新的目标，可以分配一个新的ID。
其中，数据关联步骤是通过目标重识别特征(Re-ID特征)的匹配实现的；其中，可以利用提取的当前帧的目标对象的重识别特征与之前帧的目标对象的重识别特征进行匹配，如果相应的向量距离满足预定的条件(如小于预定的阈值)，则可以认为两个目标相同，如果相应的向量距离不满足预定的条件(如超出预定的阈值)，则可以认为两个目标不同。进一步地，还可以将相同目标对位置信息划为同一类，并基于同一类别的目标的位置信息生成相应目标的轨迹数据。
其中，现有技术中，所利用的重识别特征仅为外观特征(视觉特征)或者运动特征，本公开的目标重识别特征为编码了目标对象位置的特征。
作为引入目标对象位置特征的好处，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，如果采用现有技术，重识别特征为外观特征，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功(即相应的向量距离小于预定的阈值)、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的ID switch，即将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。其中，对于同一个目标，由于跟踪算法误判，导致其ID发生切换的次数称为ID sw.，跟踪算法中理想的IDswitch应该为0。
本公开实施例提供的方案，与现有技术目标追踪进行数据关联所用到的重识别特征为外观特征相比。本公开通过确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；基于各目标对象的所述目标重识别特征进行目标跟踪。即目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的IDswitch，将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。
本申请实施例提供了一种可能的实现方式，其中，所述目标对象的位置信息为所述目标对象的中心点信息。
具体地，目标对象的位置信息可以用目标对象的中心点位置代表，也可以是其他的位置，如目标对象的多个边缘位置点，如目标对象中间区域的多个位置点。
具体地，在训练相应的神经网络模型时，所用到的训练样本对目标对象的位置信息进行了相应标注，如可以人工标注目标对象的中心点位置，该中心点位置可以是人工估计确定的；此外，为了实现中心点位置的准确标注，可以通过质心确定算法确定该中心点。从而在应用时，能够根据训练好的模型提取得到目标对象相应的位置特征。
对于本申请实施例，目标对象的位置可以用目标对象的中心点位置代表，从而能够引入目标对象的全局特征，此外，也能够避免运用边缘位置，存在与其他目标对象的边缘位置重合的情形。
本申请实施例提供了一种可能的实现方式，其中，确定目标帧图片中各目标对象的目标重识别特征，包括：
确定目标帧图片中各目标对象的第一重识别特征，所述第一重识别特征包括视觉特征和/或运动特征；
具体地，第一重识别特征可以包括视觉特征(外观特征)和/或运动特征；也即是说第一重识别特征可以仅包括视觉特征、运动特征中的一个，也可以包括视觉特征、运动特征中的两个，具体地，可以将提取的视觉特征、运动特征进行融合处理得到。其中，可以通过光流法(OFE)等提取目标对象的运动特征。
基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的中心点编码特征；
其中，在原理上Transformer是无法隐式学到序列的位置信息的，为了可以处理序列问题，Transformer使用位置编码(Position Encode/Embedding，PE)来解决这一问题，并且为了计算方便使用绝对位置编码，即序列中每个位置都有一个固定的位置向量。
具体地，可以通过如下公式对目标对象的中心点进行编码：
Figure BDA0003226400990000061
Figure BDA0003226400990000062
其中，PE为二维矩阵，PE矩阵和embeding矩阵维度一样，假设为N*C，然后dmodel表示中心点向量的维度，pos代表的是(0～N-1)，代表的是词在句子中的位置，其中，此处的词指中心点，句子指dmodel，即某一中心点在dmodel中的位置；i取值为(0～C/2)，代表的是词向量的位置，即中心点的向量在dmodel的位置；然后根据pos位置和i的奇偶来分别选择sin或者cos函数编码，得到最终的PE矩阵，并将PE矩阵加到原始pos embedding编码上去。
基于各目标对象的中心点编码特征与第一重识别特征进行融合处理，得到各目标对象的目标重识别特征。
具体地，可以将得到的中心点编码特征和第一重识别特征直接拼接得到目标重识别特征；也可以基于中心点编码特征和第一重识别特征的权重进行线性拼接得到目标重识别特征。
对于本申请实施例，解决了目标重识别特征的确定问题。
本申请实施例提供了一种可能的实现方式，其中，该方法包括：
通过基于检测的目标追踪模型确定目标帧图片中各目标对象的第一重识别特征。
其中，基于检测的目标追踪模型(Tracking By Detecting)通常包括两个独立的模型，对象检测和关联模型，检测模型首先通过对图像中目标对象的候选框进行边界界定来定位感兴趣的对象，然后，关联模型针对每个候选框提取重识别特征(Re-ID特征)，并根据在特征上定义的相应度量将其连接到现有轨道之一。
对于本申请实施例，将包含位置特征的目标重定位特征对基于检测的目标追踪模型进行改进，能够降低原基于检测的目标追踪模型发生错误的ID切换。
本申请实施例提供了一种可能的实现方式，其中，所述基于检测的目标跟踪模型为基于DeepSORT的目标跟踪模型，该方法包括：
基于预训练的目标检测网络模型确定各目标对象的候选框信息以及第一重识别特征，所述候选框信息包含候选框位置信息；
其中，预训练的目标检测网络模型可以是YOLO(You only look once)模型，也可以是RCNN、Fast-RCNN等其他目标检测模型。基于该预训练的目标检测网络模型，可以检测识别出感兴趣的目标对象的候选框相关信息，以及第一重识别特征，即针对确定的候选框进行相应特征提取得到的特征；其中，候选框信息具体可以包括位置信息、长、宽信息。
基于TransFormer的编码网络对各目标对象对应的候选框的位置进行编码，得到各目标对象的位置编码特征；
具体地，可以通过TransFormer的编码网络，根据得到的各目标对象对应的候选框的位置，进行相应的编码处理，得到各目标对象的位置编码特征。
基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
具体地，可以将得到的位置编码特征和第一重识别特征直接拼接得到目标重识别特征；也可以基于位置编码特征和第一重识别特征的权重进行线性拼接得到目标重识别特征。其中，该权重可以是根据经验值确定的，也可以是通过训练确定的。
Deep SORT的核心包括两个算法：卡尔曼滤波和匈牙利匹配。卡尔曼滤波可以基于目标前一时刻的位置，来预测当前时刻的位置，并且可以比传感器(在目标跟踪中即目标检测器，比如Yolo等)更准确的估计目标的位置。匈牙利算法解决的是一个分配问题，用来解决多目标跟踪中的数据关联问题。假设有两个detection，都与a轨迹有着最高的相似度，那该如何判断到底给a轨迹分配给谁，这时就要用到类似匈牙利算法来分配。
DeepSORT的优化主要就是基于匈牙利算法里的代价矩阵，它在IOU Match之前做了一次额外的级联匹配，利用了外观特征和马氏距离。其中，匹配指的是当前有效轨迹和检测到的目标之间的轨迹之间进行的相似度计算和分配问题。SORT中匹配的相似度计算是仅根据预测框和当前轨迹框的IOU的重合度作为度量，在DeepSORT中除了对运动信息的利用还加入的表观信息，通过计算表观相似度来衡量是否是同一个目标。
本公开的改进主要在于数据关联所用到的重识别特征，其他处理参照标准的DeepSORT进行相应调整即可实现，此处不再赘述。
对于本申请实施例，将包含位置特征的目标重定位特征对基于DeepSORT的目标追踪模型进行改进，能够降低原基于DeepSORT的目标追踪模型发生错误的ID切换。
本申请实施例提供了一种可能的实现方式，其中，该方法还包括：
通过基于联合检测与追踪的目标跟踪模型确定目标帧图片中各目标对象的第一重识别特征。
其中，联合检测与追踪的目标跟踪的核心思想是在单个网络中同时完成对象检测和Re-ID嵌入功能，以通过共享大部分计算来减少推理时间。本公开的对重识别特征的改进可以应用到相应的基于联合检测与追踪的目标跟踪模型。
对于本申请实施例，将包含位置特征的目标重定位特征对基于联合检测与追踪的目标跟踪模型进行改进，能够降低原基于联合检测与追踪的目标跟踪模型发生错误的ID切换。
本申请实施例提供了一种可能的实现方式，其中，所述基于联合检测与追踪的目标跟踪模型为基于FairMOT的目标跟踪模型，该方法还包括：
通过预训练的基于FairMOT的目标跟踪模型的编码解码网络，提取得到各目标对象的的第一重识别特征与检测特征；
具体地，通过FairMOT的encoder-decoder网络提取得到检测特征(Detection特征)与第一重识别特征(Re-ID特征)。
基于各所述检测特征进行Heatmap估算得到各目标对象的中心点位置；
具体地，基于提取的Detection特征，通过三个平行回归head，以无锚的方式分别用来预测Heatmap、对象中心偏移量和box大小。具体地，每个head的实现方法是对输出特征图(Detection)进行3×3卷积(256通道)，再经过1×1卷积层生成最终目标。
其中，Heatmap Head负责预测物体中心的位置。Center Offset Head负责更精确地定位对象。Box Size Head负责估计每个锚点处目标边界框的高度和宽度。
基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的位置编码特征；
具体地，可以通过TransFormer的编码网络，根据得到的各目标对象对应的候选框的位置，进行相应的编码处理，得到各目标对象的位置编码特征。
基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
具体地，可以将得到的位置编码特征和第一重识别特征直接拼接得到目标重识别特征；也可以基于位置编码特征和第一重识别特征的权重进行线性拼接得到目标重识别特征。其中，该权重可以是根据经验值确定的，也可以是通过训练确定的。
其中，FairMOT多目标跟踪通过去锚、多层特征聚合、以及学习低纬特征显著提高了单步法(即联合检测和跟踪)提升了跟踪性能。本公开的改进，在于将包含位置特征的目标重定位特征对基于FairMOT的目标跟踪模型进行改进，其他处理参照标准的Deep SORT进行相应调整即可实现，此处不再赘述。
对于本申请实施例，将包含位置特征的目标重定位特征对基于FairMOT的目标跟踪模型进行改进，能够降低原基于FairMOT的目标跟踪模型发生错误的ID切换。
实施例二
本公开实施例提供了一种目标追踪装置，如图2所示，包括：
确定模块201，用于确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；
跟踪模块202，用于基于各目标对象的所述目标重识别特征进行目标跟踪。
本申请实施例提供了一种可能的实现方式，其中，所述目标对象的位置信息为所述目标对象的中心点信息。
本申请实施例提供了一种可能的实现方式，其中，所述确定模块包括：
第一确定单元，用于确定目标帧图片中各目标对象的第一重识别特征，所述第一重识别特征包括视觉特征和/或运动特征；
第一编码单元，用于基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的中心点编码特征；
第一融合单元，用于基于各目标对象的中心点编码特征与第一重识别特征进行融合处理，得到各目标对象的目标重识别特征。
本申请实施例提供了一种可能的实现方式，其中，所述确定模块，具体用于通过基于检测的目标追踪模型确定目标帧图片中各目标对象的第一重识别特征。
本申请实施例提供了一种可能的实现方式，其中，所述基于检测的目标跟踪模型为基于DeepSORT的目标跟踪模型，所述确定模块包括：
第二确定单元，用于基于预训练的目标检测网络模型确定各目标对象的候选框信息以及第一重识别特征，所述候选框信息包含候选框位置信息；
第二编码单元，用于基于TransFormer的编码网络对各目标对象对应的候选框的位置进行编码，得到各目标对象的位置编码特征；
第二融合单元，用于基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
本申请实施例提供了一种可能的实现方式，其中，所述确定模块，具体用于通过基于联合检测与追踪的目标跟踪模型确定目标帧图片中各目标对象的第一重识别特征。
本申请实施例提供了一种可能的实现方式，其中，所述基于联合检测与追踪的目标跟踪模型为基于FairMOT的目标跟踪模型，所述确定模块包括：
第三确定单元，用于通过预训练的基于FairMOT的目标跟踪模型的编码解码网络，提取得到各目标对象的的第一重识别特征与检测特征；
估算单元，用于基于各所述检测特征进行Heatmap估算得到各目标对象的中心点位置；
第三编码单元，用于基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的位置编码特征；
第三融合单元，用于基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
对于本申请实施例，其实现的有益效果同上述方法实施例，此处不再赘述。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如本公开实施例提供的方法。
该电子设备与现有技术目标追踪进行数据关联所用到的重识别特征为外观特征相比。本公开通过确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；基于各目标对象的所述目标重识别特征进行目标跟踪。即目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的IDswitch，将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。
该可读存储介质为存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行如本公开实施例提供的方法。
该可读存储介质与现有技术目标追踪进行数据关联所用到的重识别特征为外观特征相比。本公开通过确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；基于各目标对象的所述目标重识别特征进行目标跟踪。即目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的IDswitch，将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。
该计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如本公开的第一方面中所示的方法。
该计算机程序产品与现有技术目标追踪进行数据关联所用到的重识别特征为外观特征相比。本公开通过确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；基于各目标对象的所述目标重识别特征进行目标跟踪。即目标跟踪进行数据关联所采用的重识别特征包含目标对象的位置信息，从而能够提升目标对象和背景的区分度，对于外观相似的目标对象，由于考虑目标对象的位置信息，能够降低目标追踪时发生错误的ID switch，示例性地，对于外观相似的目标对象A、B，目标对象A、B的正确的ID分别为23、24，由于A、B的外观相似，在进行数据关联时，由于目标对象A的重识别特征可能与ID为24对应的追踪器的历史重识别特征匹配成功、目标对象B的重识别特征可能与ID为23对应的追踪器的历史重识别特征匹配成功，可能发生错误的ID switch，将目标对象A的ID确定为24、将目标对象B的ID确定为23，而本公开数据关联采用的重识别特征引入了目标对象的位置特征，从而能够降低发生错误的ID切换。
图3示出了可以用来实施本公开的实施例的示例电子设备300的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图3所示，设备300包括计算单元301，其可以根据存储在只读存储器(ROM)302中的计算机程序或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序，来执行各种适当的动作和处理。在RAM 303中，还可存储设备300操作所需的各种程序和数据。计算单元301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口307也连接至总线304。
设备300中的多个部件连接至I/O接口305，包括：输入单元306，例如键盘、鼠标等；输出单元307，例如各种类型的显示器、扬声器等；存储单元308，例如磁盘、光盘等；以及通信单元309，例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理，例如方法目标追踪方法。例如，在一些实施例中，方法目标追踪方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元308。在一些实施例中，计算机程序的部分或者全部可以经由ROM 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由计算单元301执行时，可以执行上文描述的方法目标追踪方法的一个或多个步骤。备选地，在其他实施例中，计算单元301可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法目标追踪方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种目标跟踪方法，包括：
确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；
基于各目标对象的所述目标重识别特征进行目标跟踪。
2.根据权利要求1所述的方法，其中，所述目标对象的位置信息为所述目标对象的中心点信息。
3.根据权利要求2所述的方法，其中，确定目标帧图片中各目标对象的目标重识别特征，包括：
确定目标帧图片中各目标对象的第一重识别特征，所述第一重识别特征包括视觉特征和/或运动特征；
基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的中心点编码特征；
基于各目标对象的中心点编码特征与第一重识别特征进行融合处理，得到各目标对象的目标重识别特征。
4.根据权利要求3所述的方法，其中，该方法包括：
通过基于检测的目标追踪模型确定目标帧图片中各目标对象的第一重识别特征。
5.根据权利要求4所述的方法，其中，所述基于检测的目标跟踪模型为基于DeepSORT的目标跟踪模型，该方法包括：
基于预训练的目标检测网络模型确定各目标对象的候选框信息以及第一重识别特征，所述候选框信息包含候选框位置信息；
基于TransFormer的编码网络对各目标对象对应的候选框的位置进行编码，得到各目标对象的位置编码特征；
基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
6.根据权利要求3所述的方法，其中，该方法还包括：
通过基于联合检测与追踪的目标跟踪模型确定目标帧图片中各目标对象的第一重识别特征。
7.根据权利要求6所述的方法，其中,所述基于联合检测与追踪的目标跟踪模型为基于FairMOT的目标跟踪模型，该方法还包括：
通过预训练的基于FairMOT的目标跟踪模型的编码解码网络，提取得到各目标对象的的第一重识别特征与检测特征；
基于各所述检测特征进行Heatmap估算得到各目标对象的中心点位置；
基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的位置编码特征；
基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
8.一种目标跟踪装置，包括：
确定模块，用于确定目标帧图片中各目标对象的目标重识别特征，所述目标重识别特征包含目标对象的位置信息；
跟踪模块，用于基于各目标对象的所述目标重识别特征进行目标跟踪。
9.根据权利要求8所述的装置，其中，所述目标对象的位置信息为所述目标对象的中心点信息。
10.根据权利要求9所述的装置，其中，所述确定模块包括：
第一确定单元，用于确定目标帧图片中各目标对象的第一重识别特征，所述第一重识别特征包括视觉特征和/或运动特征；
第一编码单元，用于基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的中心点编码特征；
第一融合单元，用于基于各目标对象的中心点编码特征与第一重识别特征进行融合处理，得到各目标对象的目标重识别特征。
11.根据权利要求10所述的装置，其中，所述确定模块，具体用于通过基于检测的目标追踪模型确定目标帧图片中各目标对象的第一重识别特征。
12.根据权利要求11所述的装置，其中，所述基于检测的目标跟踪模型为基于DeepSORT的目标跟踪模型，所述确定模块包括：
第二确定单元，用于基于预训练的目标检测网络模型确定各目标对象的候选框信息以及第一重识别特征，所述候选框信息包含候选框位置信息；
第二编码单元，用于基于TransFormer的编码网络对各目标对象对应的候选框的位置进行编码，得到各目标对象的位置编码特征；
第二融合单元，用于基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
13.根据权利要求10所述的装置，其中，所述确定模块，具体用于通过基于联合检测与追踪的目标跟踪模型确定目标帧图片中各目标对象的第一重识别特征。
14.根据权利要求13所述的装置，其中,所述基于联合检测与追踪的目标跟踪模型为基于FairMOT的目标跟踪模型，所述确定模块包括：
第三确定单元，用于通过预训练的基于FairMOT的目标跟踪模型的编码解码网络，提取得到各目标对象的的第一重识别特征与检测特征；
估算单元，用于基于各所述检测特征进行Heatmap估算得到各目标对象的中心点位置；
第三编码单元，用于基于TransFormer的编码网络对各目标对象的中心点位置进行编码，得到各目标对象的位置编码特征；
第三融合单元，用于基于各目标对象的位置编码特征与第一重识别特征进行融合处理，得到各目标对象的所述目标重识别特征。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
CN202110973091.7A 2021-08-24 2021-08-24 目标跟踪方法、装置、电子设备及可读存储介质 Pending CN113744310A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110973091.7A CN113744310A (zh) 2021-08-24 2021-08-24 目标跟踪方法、装置、电子设备及可读存储介质
US17/836,507 US20220301183A1 (en) 2021-08-24 2022-06-09 Method and apparatus for tracking object, electronic device, and readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110973091.7A CN113744310A (zh) 2021-08-24 2021-08-24 目标跟踪方法、装置、电子设备及可读存储介质

Publications (1)

Publication Number Publication Date
CN113744310A true CN113744310A (zh) 2021-12-03

Family

ID=78732429

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110973091.7A Pending CN113744310A (zh) 2021-08-24 2021-08-24 目标跟踪方法、装置、电子设备及可读存储介质

Country Status (2)

Country Link
US (1) US20220301183A1 (zh)
CN (1) CN113744310A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114549584A (zh) * 2022-01-28 2022-05-27 北京百度网讯科技有限公司 信息处理的方法、装置、电子设备及存储介质
CN114821208A (zh) * 2022-04-22 2022-07-29 清华大学苏州汽车研究院（吴江） 目标物体检测模型训练方法、装置、设备及存储介质
CN116862952A (zh) * 2023-07-26 2023-10-10 合肥工业大学 一种用于相似背景条件下的变电站作业人员视频追踪方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116245916B (zh) * 2023-05-11 2023-07-28 中国人民解放军国防科技大学 一种面向无人艇的红外舰船目标跟踪方法及装置
CN119229133A (zh) * 2023-06-29 2024-12-31 北京字跳网络技术有限公司 一种图像处理方法、装置、电子设备、计算机可读介质
CN116993776B (zh) * 2023-06-30 2024-02-13 中信重工开诚智能装备有限公司 一种人员轨迹追踪方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709397A (zh) * 2020-07-08 2020-09-25 哈尔滨工业大学 一种基于多头自注意力机制的无人机变尺寸目标检测方法
CN112906590A (zh) * 2021-03-02 2021-06-04 东北农业大学 一种基于FairMOT的多目标跟踪人流量监测方法
CN113076809A (zh) * 2021-03-10 2021-07-06 青岛海纳云科技控股有限公司 一种基于视觉Transformer的高空坠物检测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709397A (zh) * 2020-07-08 2020-09-25 哈尔滨工业大学 一种基于多头自注意力机制的无人机变尺寸目标检测方法
CN112906590A (zh) * 2021-03-02 2021-06-04 东北农业大学 一种基于FairMOT的多目标跟踪人流量监测方法
CN113076809A (zh) * 2021-03-10 2021-07-06 青岛海纳云科技控股有限公司 一种基于视觉Transformer的高空坠物检测方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
SUN P等: "Transtrack: Multiple object tracking with transformer", ARXIV:2012.15460, pages 1 - 9 *
WOJKE N等: "Simple online and realtime tracking with a deep association metric", IEEE, pages 3645 - 3649 *
ZHANG Y等: "FairMOT: On the Fairness of Detection and Re-Identification in Multiple Object Tracking", ARXIV: 2004.01888, pages 1 - 11 *
朱晨光: "《机器阅读理解》", 机械工业出版社, pages: 126 - 127 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114549584A (zh) * 2022-01-28 2022-05-27 北京百度网讯科技有限公司 信息处理的方法、装置、电子设备及存储介质
CN114821208A (zh) * 2022-04-22 2022-07-29 清华大学苏州汽车研究院（吴江） 目标物体检测模型训练方法、装置、设备及存储介质
CN116862952A (zh) * 2023-07-26 2023-10-10 合肥工业大学 一种用于相似背景条件下的变电站作业人员视频追踪方法
CN116862952B (zh) * 2023-07-26 2024-02-27 合肥工业大学 一种用于相似背景条件下的变电站作业人员视频追踪方法

Also Published As

Publication number Publication date
US20220301183A1 (en) 2022-09-22

Similar Documents

Publication Publication Date Title
CN113744310A (zh) 目标跟踪方法、装置、电子设备及可读存储介质
CN109697499B (zh) 行人流量漏斗生成方法及装置、存储介质、电子设备
CN109740499A (zh) 视频分割方法、视频动作识别方法、装置、设备及介质
CN111523447B (zh) 车辆跟踪方法、装置、电子设备及存储介质
CN111291690B (zh) 路线规划方法、路线规划装置、机器人及介质
CN114170797B (zh) 交通限制路口的识别方法、装置、设备、介质及产品
CN114332509B (zh) 图像处理方法、模型训练方法、电子设备及自动驾驶车辆
US11756205B2 (en) Methods, devices, apparatuses and storage media of detecting correlated objects involved in images
US11972578B2 (en) Method and system for object tracking using online training
CN110688873A (zh) 多目标追踪方法及人脸识别方法
CN113420682A (zh) 车路协同中目标检测方法、装置和路侧设备
US11379741B2 (en) Method, apparatus and storage medium for stay point recognition and prediction model training
CN113837268A (zh) 确定轨迹点状态的方法、装置、设备和介质
Tsintotas et al. Appearance-based loop closure detection with scale-restrictive visual features
Kesa et al. Multiple object tracking and forecasting: Jointly predicting current and future object locations
CN114742280A (zh) 路况预测方法及相应的模型训练方法、装置、设备及介质
CN117764139A (zh) 风险场景识别模型的生成方法、装置及计算机程序产品
CN116186565A (zh) 自动驾驶控制方法及轨迹的检索、索引的构建方法、装置
CN113989720A (zh) 目标检测方法、训练方法、装置、电子设备及存储介质
CN118968044A (zh) 一种基于边缘计算的多目标检测追踪统计方法及装置
Nguyen et al. An algorithm using YOLOv4 and DeepSORT for tracking vehicle speed on highway
CN115953434B (zh) 轨迹匹配方法、装置、电子设备和存储介质
CN116394977A (zh) 确定规划轨迹的方法、模型训练方法和自动驾驶车辆
CN114429631B (zh) 三维对象检测方法、装置、设备以及存储介质
CN115936282A (zh) 一种清分模型的优化方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20211203