CN120883669A - 用于控制由第一无线装置采取的路径的方法和设备 - Google Patents
用于控制由第一无线装置采取的路径的方法和设备Info
- Publication number
- CN120883669A CN120883669A CN202380096193.2A CN202380096193A CN120883669A CN 120883669 A CN120883669 A CN 120883669A CN 202380096193 A CN202380096193 A CN 202380096193A CN 120883669 A CN120883669 A CN 120883669A
- Authority
- CN
- China
- Prior art keywords
- wireless device
- network
- model
- radio network
- radio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W28/00—Network traffic management; Network resource management
- H04W28/16—Central resource management; Negotiation of resources or communication parameters, e.g. negotiating bandwidth or QoS [Quality of Service]
- H04W28/26—Resource reservation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/302—Route determination based on requested QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/02—Arrangements for optimising operational condition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/12—Communication route or path selection, e.g. power-based or shortest path routing based on transmission quality or channel quality
- H04W40/16—Communication route or path selection, e.g. power-based or shortest path routing based on transmission quality or channel quality based on interference
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/18—Communication route or path selection, e.g. power-based or shortest path routing based on predicted events
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/20—Communication route or path selection, e.g. power-based or shortest path routing based on geographic position or location
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W36/00—Hand-off or reselection arrangements
- H04W36/16—Performing reselection for specific purposes
- H04W36/20—Performing reselection for specific purposes for optimising the interference level
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本文描述的实施例涉及用于控制第一无线装置的路径的方法和设备,其中第一无线装置至少使用第一频谱带与第一无线电网络通信。计算机实现的方法包括:获得第一无线装置行进通过的地理环境和无线电环境的模型,其中,无线电环境包括至少使用第一频谱带的第二无线电网络;如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则预测是否满足第一无线装置的服务质量QoS要求;如果第一无线装置在第一时间段内采取初始路径,则预测干扰水平是否满足第一条件,其中,干扰水平是由第一无线装置与第一无线电网络的通信在第二无线电网络上引起的;以及响应于预测在第一时间段期间将不满足QoS要求,或者在第一时间段期间干扰水平将不满足第一条件,发起对初始路径的更新以提供要由第一无线装置采取的新路径。
Description
技术领域
本文描述的实施例涉及用于控制由第一无线装置采取的路径的方法和设备。特定地,本文描述的方法和设备控制第一无线装置的路径以确保由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的干扰水平满足第一条件。
背景技术
通常,本文中使用的所有术语将根据其在相关技术领域中的普通含义来解释,除非明确给出和/或从其使用的上下文中暗示了不同含义。对一/一个/该元件、设备、组件、部件、步骤等的所有引用都应被开放式地解释为指所述元件、设备、组件、部件、步骤等中的至少一个实例,除非另有明确说明。本文中公开的任何方法的步骤不一定按照所公开的确切顺序来执行,除非一个步骤被明确描述为在另一个步骤之后或之前,和/或在暗示一个步骤必须在另一个步骤之后或之前的情况下。在任何适当的情况下,本文中公开的任何实施例的任何特征可以应用于任何其他实施例。同样,任何实施例的任何优点可以应用于任何其他实施例,并且反之亦然。根据以下描述,所包含的实施例的其他目的、特征和优点将变得明白。
第五代(5G)移动网络被设想为以不同的服务类别为特征,例如,超可靠低时延通信(URLLC)、大规模机器类型通信(mMTC)和增强型移动宽带(eMBB)。虽然eMBB旨在高频谱效率,但硬时延(例如,1 ms)和可靠性要求(目标误块率(BLER)在10-5和10-9之间)对于URLLC应用是必不可少的。本质上,URLLC的严格时延和可靠性要求使能例如工厂自动化、无人机通信、远程控制和远程手术之类新的新兴用例。
URLLC的一个重要用例是支持自动导引交通工具(AGV)、无人航空交通工具(UAV)和自动驾驶汽车。这些类型的装置被设计成沿着预定义的路线自动行进,并且它们被无线连接(例如,经由高质量和低时延的5G新空口(NR)无线电链路)到负责控制所述装置的公共或非公共网络。
由于这些装置正在移动,因此无线电链路的质量将持续变化。为了补偿这一点并维持所需的服务质量(QoS),负责网络和AGV通常将应用各种反应性无线电资源管理(RRM)动作,从而作用于各种链路质量测量(例如,作用于参考信号接收功率(RSRP)、信道质量指示符(CQI)和信道状态信息(CSI))。这些RRM动作可以例如包括以下之一:切换、链路适配、功率控制、调度和波束管理。在大多数情况下,这样的反应性RRM动作可以能够维持足够的QoS。然而,它们将不总是能够满足URLLC服务的高可靠性要求,包括例如网络和AGV之间所需的高质量无线电链路。
5G NR网络将不得不与在相同或邻近频率信道上操作的其它蜂窝网络(例如专用网络)共存,并且可能与相同频谱带的现有用户(包括例如卫星系统、固定通信链路或雷达)共存。
为了将网络之间的干扰水平保持在足够低的水平,5G NR网络可以在网络部署阶段期间(例如,当计划基站站点的位置、传送功率水平或天线的取向时)和/或在各种动作的帮助下考虑相邻网络以协调无线电资源的使用。
然而,5G NR网络可用的动作通常是静态或半静态的,即使网络间干扰的水平和影响可能是高度动态的。然后,这可能导致对无线电资源的低效使用或一些偶然的干扰峰值。偶然的干扰峰值通常将导致丢失的分组,在eMBB和其它尽力而为或非时延关键服务的情况下,这可以在分组重传的帮助下被容易地补偿。然而,在时延关键URLLC服务的情况下,时延预算可能不总是允许任何重传,并且丢失的分组在最坏的情况下可能导致无线电链路故障。
在未来,可能有可能在人工智能(AI)和机器学习(ML)的帮助下应用主动RRM动作,如(PCT/SE2019/051124和PCT/SE2021/050492)中所述。在所提出的方案中,网络将在AI/ML的帮助下预测无线电链路的未来QoS,并在链路质量变得太低之前已经应用必要的RRM动作。以这种方式,可以降低任何无线电链路故障的概率,并且可以保证期望的QoS,而同时以更高效的方式利用无线电资源。
发明内容
传统反应式RRM方法的问题在于,它们不能补偿无线电链路质量的突然下降,从而导致无线电链路故障,特别是在需要非常高且有保证的QoS的URLLC服务的情况下。在其它场景中,如果系统不得不应用高水平的冗余或大余量以能够应对无线电链路质量的突然变化,那么反应式RRM方法可能导致对无线电资源的低效使用。
反应式RRM方法的另一个限制在于,它们不以任何方式利用网络能够控制装置的移动的事实。
因此,本文描述的实施例使得5G NR网络能够具有控制例如AGV的移动的可能性,降低网络间无线电干扰的水平并且特别是降低网络间无线电干扰的影响,同时还保证完成AGV的操作/使命。在实践中,这可能意味着5G NR网络将为AGV选择不同的路线,其中在AGV与a)干扰源之间留下足够大的距离以保护网络与AGV之间的无线电链路,或在AGV与b)应被保护免受由AGV或控制网络引起的干扰影响的受害者之间留下足够大的距离。因此,本文描述的实施例可以提供路线重新设计以保证所需的服务水平,以便最大化无线电网络性能,同时a)不危及AGV的使命/任务(例如,完成其使命或到达其目的地所需的时间)和b)最小化对相同频谱带的其它用户的任何有害干扰的水平。
根据一些实施例,提供了一种用于控制由第一无线装置采取的路径的计算机实现的方法,其中,所述第一无线装置至少使用第一频谱带与第一无线电网络通信。所述方法包括:获得所述第一无线装置行进通过的地理环境和无线电环境的模型,其中,所述无线电环境包括至少使用所述第一频谱带的第二无线电网络;如果所述第一无线装置在第一时间段内采取通过所述地理环境的初始路径,则预测是否满足所述第一无线装置的服务质量QoS要求;如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测干扰水平是否满足第一条件,其中,所述干扰水平是由所述第一无线装置与所述第一无线电网络的通信在所述第二无线电网络上引起的;以及响应于预测在所述第一时间段期间将不满足所述QoS要求,或者在所述第一时间段期间所述干扰水平将不满足所述第一条件,发起对所述初始路径的更新以提供要由所述第一无线装置采取的新路径。
根据一些实施例,提供了一种用于控制由第一无线装置采取的路径的设备,其中,所述第一无线装置至少使用第一频谱带与第一无线电网络通信。所述设备包括处理电路,所述处理电路被配置成使得所述设备:获得所述第一无线装置行进通过的地理环境和无线电环境的模型,其中,所述无线电环境包括至少使用所述第一频谱带的第二无线电网络;如果所述第一无线装置在第一时间段内采取通过所述地理环境的初始路径,则预测是否满足所述第一无线装置的服务质量QoS要求;如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测干扰水平是否满足第一条件,其中,所述干扰水平是由所述第一无线装置与所述第一无线电网络的通信在所述第二无线电网络上引起的;以及响应于预测在所述第一时间段期间将不满足所述QoS要求,或者在所述第一时间段期间所述干扰水平将不满足所述第一条件,发起对所述初始路径的更新以提供要由所述第一无线装置采取的新路径。
根据一些实施例,提供了一种包括指令的计算机程序,所述指令当在至少一个处理器上执行时使得所述至少一个处理器执行如本文所述的方法。
根据一些实施例,提供了一种计算机程序产品,包括在其上存储有如上所述的计算机程序的非暂时性计算机可读介质。
出于本公开的目的,术语“ML模型”在其范围内涵盖以下概念:
机器学习过程(或算法),例如包括指令,通过该指令可以在训练过程中使用数据以生成用于执行给定任务或用于表示真实世界过程或系统的模型人工制品;
由这样的训练过程创建的模型人工制品,并且其包括执行任务的计算架构;以及
由模型人工制品执行以便完成任务的过程。
因此,对“ML模型”、“模型”、“模型参数”、“模型信息”等的引用可以被理解为涉及在“ML模型”的范围内所涵盖的上述概念中的任何一个或多个。
附图说明
为了更好地理解本公开的实施例,并且为了示出可以如何实施本公开,现在将仅通过示例的方式参考附图,在附图中:
图1示出了用于控制由第一无线装置所采取的路径以到达期望目的地/使得第一无线装置能够在给定时间内完成任务的计算机实现的方法;
图2是示出图1的方法的示例实现的流程图;
图3是示出图1和图2的方法的示例实现的信令图;
图4是网络数字孪生的简图,由此第三ML模型的动作在被转移到实际部署之前首先在网络数字孪生上测试;
图5示出了实现图1和图2的方法的示例场景;
图6示出了包括处理电路(或逻辑)的设备;
图7是示出根据一些实施例的设备的框图。
具体实施方式
本公开的某些方面及其实施例可以提供解决方案或至少减轻本文讨论的挑战。除非将某一步骤明确地描述为在另一步骤之后或之前和/或在暗示某一步骤必须在另一步骤之后或之前的情况下,否则本文公开的任何方法的步骤不一定按所公开的确切顺序执行。
参考附图更全面地描述特定实施例。然而,在本文中公开的主题的范围内包含其它实施例。所公开的主题不应被解释为仅限于本文中阐述的实施例;相反,这些实施例作为示例提供,以向本领域技术人员传达该主题的范围。
如我们在PCT/SE2019/051124和PCT/SE2021/050492中提出的,可以通过实现主动RRM机制来改善上述问题。例如,PCT/SE2019/051124提出了一种用于调度增强型移动宽带(eMBB)传输的方法,其中eMBB与超可靠低时延通信网络URLLC在相同的频率上,该方法包括:基于历史URLLC TDD数据来预测URLLC的时分双工TDD模式;以及基于所预测的URLLCTDD模式来调度eMBBTDD模式,以便管理URLLC网络上的交叉链路干扰。
PCT/SE2021/050492提出了一种位置感知无线电资源管理方案,其用于当eMBB用户在工厂内部时保护URLLC网络免受eMBB上行链路传输的影响。在所提出的方案中,URLLC网络首先检测工厂内部或附近是否存在正在URLLC网络上引起高干扰水平的eMBB用户。如果检测到eMBB用户在工厂内部,则URLLC网络将定位该用户并预测其未来轨迹。然后,URLLC网络可以采取若干动作来最小化来自工厂内部(一个或多个)eMBB用户的上行链路传输的高干扰的影响,所述动作是例如增加操作功率。
即使PCT/SE2019/051124和PCT/SE2021/050492中提出的主动RRM机制可以改善QoS,但是这种方法将不总是足够的,或者当例如旨在限制网络间干扰的水平时,它们甚至可能潜在地危及AGV与网络之间的无线电链路的QoS。
本文描述的实施例提供了一种用于发起由公共或非公共蜂窝网络控制的第一无线装置(例如,AGV)的路径的重新路由的QoS感知方法。
特定地,可以更新第一无线装置的路径,使得在最大化第一无线装置的能量效率、最小化网络拥塞、和满足第一无线装置和利用相同频谱带的任何第二无线电网络两者的QoS要求之间进行权衡。第二无线电网络可以包括蜂窝网络、卫星系统、固定通信链路或雷达网络中的一个或多个。
一些实施例进一步将主动重新设计由第一无线装置所采取的路径与主动调整RRM设置的动作相结合,以保证第一无线装置的所需服务水平和第二无线电网络的所需保护水平两者。
在本文描述的实施例的实现中,可以使用四个ML模型。将领会,在一些示例中,可以利用单个ML模型来执行所描述的四个ML模型中的两个或更多个的功能。
如果第一无线装置在第一时间段(例如,第一无线装置与第一无线电网络之间的通信的接下来的k个子帧)内采取通过地理环境的初始路径,则第一ML模型可以用于预测是否满足第一无线装置的QoS要求。如果第一无线装置在第一时间段内采取初始路径,则第二ML模型可以用于预测干扰水平是否满足第一条件,其中干扰水平是由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的。在本文中,术语“干扰水平”可以用于指由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的干扰。
在一些实施例中,第三ML模型可以用于确定第一无线装置在第一时间段内的新路径。第三ML模型可以重新设计第一无线装置的路线(或路径),并且在一些示例中,还可以推荐要在第一时间段期间采取的一个或多个RRM动作,以保证第一无线装置的QoS,同时最小化干扰水平。
例如,第三ML模型可以学习第一无线装置的最优路线,并且可选地,学习是否将需要附加的RRM动作来保证/最大化第一无线装置的QoS(在AGV的QoS不能沿着其当前选择的路线得到满足的情况下),同时保护受害网络并最小化由第一无线装置和第一无线电网络在可能正在进行关键活动的第二无线电网络上引起的干扰水平。
在一些示例中,第四ML模型可以用于预测第一无线电网络内的一个或多个小区上的负载。该预测可以用作第一ML模型、第二ML模型和第三ML模型中的一个或多个的输入。
在一些示例中,本文描述的实施例然后可以包括向第一无线装置通知新路线,并且如果适用的话,通知第一无线装置在第一时间段期间要采取的一个或多个RRM动作。
在一些示例中,第一无线装置然后可以基于接收到的新路径来更新其路线,并且它可以执行任何指示的RRM动作。
将领会,本文描述的一些实施例因此能够在一个或多个ML模型的帮助下主动重新计划由第一无线装置采取的路线,使得可以保证第一无线装置与第一无线电网络之间的高质量无线电链路的QoS要求,并且可以避免或减少由第一无线装置和控制第一无线装置的第一无线电网络对第二无线电网络引起的任何有害干扰。
在一些实施例中,连续监测对第一无线装置的QoS要求的预期满足和干扰水平,并且在第一无线装置在新路径上的所预测的QoS不满足QoS要求或当第一无线装置在新路径上时的所预测的干扰水平不满足第一条件的情况下,可以采取主动动作来重新路由第一无线装置以及潜在地做出附加的RRM动作。
附加的主动RRM动作可以包括以下中的一个或多个:切换(在不同服务基站、不同频率或不同无线电接入技术之间)、链路适配、功率控制、波束管理和协调调度。在备选路线不存在的场景中,或者当备选路线将不能保证第一无线装置的期望服务水平(例如,备选路线将太长使得第一无线装置将不能及时到达目的地)或者备选路线将不能保证足够低的干扰水平时,附加的主动RRM动作可能是有益的。
将领会,可以在人工智能或机器学习的帮助下学习和选择新路径,例如,基于一些预定义的优化准则,包括例如:总体系统容量、第一无线装置的QoS要求、干扰水平、第一无线装置的行进时间、和第一无线装置的能量消耗。
图1示出了用于控制由第一无线装置所采取的路径以到达期望目的地/使得第一无线装置能够在给定时间内完成任务的计算机实现的方法。第一无线装置至少使用第一频谱带与第一无线电网络通信。第一无线装置可以包括自动导引交通工具AGV,但是应当理解,所提出的想法对于具有类似特性的任何网络控制装置(例如,UAV和自动驾驶汽车)的控制也将是有效的。将领会,该方法可以应用于多个第一无线装置。此外,本公开的方法不仅仅限于非公共工业部署,而是其还可以应用于控制无线连接装置的移动性的任何通信网络。
方法100可以由网络节点执行,网络节点可以包括物理节点或虚拟节点,并且可以在计算装置或服务器设备中和/或在虚拟化环境中实现,例如在云、边缘云或雾部署中。网络节点可以包括第一无线电网络节点中的网络节点,例如基站。
在步骤101中,该方法包括获得第一无线装置行进通过的地理环境和无线电环境的模型,其中无线电环境包括至少使用第一频谱带的第二无线电网络。将领会,第二无线电网络可以包括蜂窝网络、卫星系统、固定通信链路或雷达系统。模型中的信息可以用作步骤102和103的输入,如下将描述的。
将领会,步骤101可以包括生成模型。可以基于从第一无线电网络和/或第二无线电网络中的网络节点和/或无线装置接收的信息来生成模型。还可以基于地理区域的数字地图来生成模型。
因此,第二无线电网络的用户可以包括相邻(公共或专用)蜂窝网络内的节点(例如,无线装置或基站)、卫星接收器(网关站、卫星或卫星终端)、或固定通信链路或雷达。这些用户中的任何用户可以是由第一无线装置与第一无线电网络之间的通信引起的干扰水平的受害者。
该模型包括关于无线电环境的信息,该无线电环境至少包括至少使用第一频谱带的第一无线电网络和第二无线电网络。将领会,在无线电环境内,可以存在与第一无线电网络在相同频谱带(例如,至少第一频谱带)上操作的多于一个的第二无线电网络(其可以被称为受害网络)。模型可以被认为包括地理环境和无线电环境的虚拟数据模型。
还将领会,模型可以包括两种类型的信息:静态信息和动态信息。在操作期间,可以基于从第一无线电网络和第二无线电网络中的网络节点、基站和无线装置接收的测量以及基于由部署在地理区域周围的附加传感器执行的测量来连续更新和细化模型的内容。
静态信息可以包括例如所讨论的地理区域的数字地图、关于第一无线装置可以采取的允许路径(道路、走廊等)的信息、以及静态无线电网络节点(例如,基站)的位置。静态信息还可以包括与第二无线电网络相关的信息,例如,第二无线电网络的静态无线电网络节点(基站、固定通信链路、卫星网关站、固定卫星终端、雷达)的位置。静态信息预期是相当稳定的,并且不需要经常更新。
该模型还可以定义受害网络的最大允许QoS降级的阈值。这可以被定义为静态信息或动态信息的一部分。
除了静态信息之外,模型还可以包括关于无线电环境的当前状态的动态信息,包括例如关于移动终端的位置、小区负载、用户性能、和在其上调度用户的资源块的信息。关于当前无线电环境的信息可以包括与第一无线电网络以及可选地与第二无线电网络相关的信息,这取决于如何定义第一无线装置的最大允许QoS降级的阈值,以及在评估第一无线装置的QoS时是否应当考虑从第二无线电网络朝向第一无线电网络的潜在干扰。
动态信息还可以包括来自外部源的输入,例如从第二无线电网络或频谱共享数据库接收的信息,其可以辅助为第二无线电网络处的最大允许QoS降级设置适当的动态阈值,并提供关于干扰水平的反馈。与静态信息相比,动态信息的内容可以更频繁得多地被更新。此外,可以要求第一无线电网络跟踪动态信息的历史以辅助AI/ML功能。
步骤102包括如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则预测是否满足第一无线装置的服务质量QoS要求。第一时间段可以包括第一无线装置与第一无线电网络之间的通信中的接下来的k个子帧。QoS可以根据时延和误块率BLER或作为期望服务的可用性来定义(参见例如5G-SMART,“5G常见术语”,2020。https://5gsmart.eu/wp-content/uploads/5G-SMART-common-terminology.pdf,3GPP,“服务质量(QoS)概念和架构(版本17)”,3GPP TS 23.107,V17.0.0,2022,3GPP,“垂直域中的计算机物理控制应用的服务要求(版本18)”,3GPP,3GPP,“5G系统的服务要求(版本19)”,3GPP TS 22.104,V18.3.0,2021,以及3GPP,“5G系统的服务要求(版本19)”,3GPP TS 22.261,V19.0.0,2022)。
将领会,QoS要求可以包括由第一无线装置所经历的QoS度量满足QoS阈值的要求。QoS阈值可以包括静态阈值或动态阈值。
步骤102可以包括利用第一ML模型来预测在第一时间段内是否满足QoS要求,例如如参考图2更详细描述的。步骤102可以利用在步骤101中获得的模型中的信息,以便预测在第一时间段内是否满足QoS要求。
步骤103包括如果第一无线装置在第一时间段内采取初始路径,则预测干扰水平是否满足第一条件,其中,干扰水平是由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的。
步骤103可以包括利用第二ML模型来预测是否满足第一条件,例如,如参考图2更详细描述的。步骤103可以利用在步骤101中获得的模型中的信息,以便预测在第一时间段内是否满足QoS要求。
第一条件可以包括干扰水平小于干扰阈值的配置。干扰阈值可以是静态的或动态的。
干扰阈值可以例如被表述为以下之一:朝向第二无线电网络的最大允许传输功率、在第二无线电网络处测量的最大允许接收干扰功率(I)、以及在第二无线电网络处测量的最大允许干扰功率与噪声(I/N)。在这些示例中,如果适用的话,模型可以不包括除了动态干扰阈值之外的关于第二无线电网络的动态信息。
在其它示例中,干扰阈值可以被表述为例如链路质量(SINR或CIR)的降低或用户性能(比特率、吞吐量)的降低。在这些示例中,可能需要模型包括如上所述的关于第二无线电网络的附加动态信息。
在动态干扰阈值的情况下,干扰阈值可以取决于第二无线电网络的活动、空间特性(天线波束方向)和资源需求(例如,第二无线电网络将在第一时间段期间占用哪些资源块或频率子带)。
动态干扰阈值通常可以直接由第二无线电网络或由特殊频谱共享数据库提供或发信号通知给第一无线电网络。
实际上,第一无线电网络可以向频谱共享数据库或直接向具有使用频谱的主要权利的第二无线电网络传送“频谱访问请求”消息。频谱访问请求消息可以指示所请求的频谱的量以及将使用频谱的地理位置。作为响应,频谱共享数据库或第二无线电网络可以传送“频谱访问授权”消息,其指示哪些特定频率信道将可用于共享、对应的动态干扰阈值、以及频谱访问授权将有效多长时间(例如,接下来的x秒,其中x是整数值)。在接收到“频谱访问授权”消息之后,第一无线电网络然后可以决定它将重新使用哪些频率信道,并且可以在执行步骤103(和104)时使用动态干扰阈值作为输入。
关于干扰水平的指示或反馈对于第一无线电网络不能检索关于第二无线电网络的状态的详细信息的场景可能是重要的。此外,这对于第二无线电网络是第一频谱带的现任用户的场景可能是重要的。干扰水平的反馈可以由第二无线电网络直接提供,或者由特殊频谱共享数据库提供,或者由部署在地理区域周围(例如紧邻第二无线电网络)的各种传感器提供。
反馈可以被提供为二进制指示(例如,指示干扰水平是否低于干扰阈值)或指示实际干扰水平或干扰水平的影响的测量值。如果第二无线电网络是专用/公共蜂窝网络,则测量值可以例如指示干扰水平(I或I/N)和/或干扰水平对提供给第二无线电网络的一个或多个用户的QoS的影响。此外,如果第二无线电网络包括第一频谱带的现任用户,则测量值可以指示干扰水平(I或I/N)。
步骤104包括:响应于预测QoS要求将在第一时间段期间不被满足,或者干扰水平将在第一时间段期间不满足第一条件,发起对初始路径的更新以提供要由第一无线装置采用的新路径。
在一些示例中,第一无线电网络可有权访问无线电环境和地理区域的模型的数字孪生(DT),除了上述静态和/或动态信息之外,该数字孪生(DT)还可以包括关于网络节点与无线电网络本身之间的数据的传播的信息。在这些示例中,可以在DT中的模拟的帮助下优化用于保证第一无线装置的期望QoS和对第二无线电网络的足够低的干扰水平两者的路径和潜在RRM动作。
然而,在实践中,此类模拟可能需要相当复杂的计算、传播环境的精确模型、以及频繁更新的动态信息。相反,如果优化/预测基于AI/ML方法,如本文所提出的(并且参考图2更详细地描述),则网络可能仅需要访问整个网络数字孪生的所选部分,例如,将不需要维持用于传播环境的模型。
此外,动作空间的高复杂性(大量可能的路径和RRM动作)以及对在线动作更新的需要使得ML的使用更适合于底层问题。
图2是示出图1的方法的示例实现的流程图。
在步骤201中,该方法包括利用第四ML模型来预测在第一时间段内第一无线电网络中的网络节点上的负载。特定地,第四ML模型可以预测环境内的网络节点的负载。网络节点可以包括服务第一无线电网络中的第一无线装置的第一网络节点。在一些示例中,网络节点可以包括第一无线电网络中的第一网络节点的相邻网络节点。将领会,第四ML模型可以预测第一无线电网络中的多个网络节点上的负载。
小区负载(例如,网络节点上的负载)可以被认为是模型中的动态信息的最重要片段之一,因为它可以以多种方式影响第一无线装置的QoS。
例如,相邻网络节点(或相邻小区)(来自专用或公共5G NR网络)中的高负载可能意味着高水平的干扰,并且因此意味着第一无线装置的潜在低水平的接收信干噪比(SINR),从而导致低数据速率或数据吞吐量。
在另一示例中,第一网络节点中的高负载可能意味着单个用户只能占用无线电资源的小份额,从而导致该用户的数据吞吐量和/或时延减少。
高负载可能由多个因素引起,例如网络节点的用户数量、所请求服务的特性(分组到达率、分组大小、服务优先级)、和外部干扰的水平。总之,关于第一无线电网络中的不同网络节点的负载的信息连同模型的所选内容可以用于计算或预测在第一时间段(例如,接下来的k个子帧)内对于第一无线装置的初始路径和第一无线装置的新路径两者的可实现的QoS(例如,在数据吞吐量、可靠性(BER/BLER)和时延方面)。
在一些示例中,第四ML模型可以包括以下中的一个或多个:随机森林和神经网络。
为了使第四ML模型预测在第一时间段期间网络节点处的负载,第四ML模型可以接收以下参数中的一个或多个作为输入:
- 连接到网络节点的无线装置的一个或多个历史负载水平;
- 所请求的服务的一个或多个特性,例如;
○ 连接到网络节点的一个或多个无线装置的一个或多个历史分组到达率;
○ 由连接到网络节点的一个或多个无线装置接收或传送的一个或多个历史分组大小;
○ 连接到网络节点的一个或多个无线装置的一个或多个历史服务优先级;
- 在网络节点处连接、活动或调度的无线装置的历史数量;
- 网络节点处的RRC连接的历史数量;
- 在网络节点处经历的外部干扰水平的一个或多个历史值;
- 连接到网络节点的无线装置的当前数量;
- 连接到网络节点的一个或多个无线装置的速率的一个或多个历史值;
- 当前连接到网络节点的一个或多个无线装置的路径,例如,在接下来的k个子帧内一个或多个无线装置的未来位置(坐标)的集合;以及
- 在接下来的k个子帧内,当前连接到网络节点的一个或多个无线装置的分组大小。
将领会,本文中的历史值可以包括在第一无线装置与第一无线电网络的通信中的先前m个(其中m是整数值)子帧上获取的值。
第四ML模型的输出可以包括在特定时间戳(时间TT)处第一无线电网络中的至少一个网络节点(网络节点XX)的所预测的负载。与至少一个网络节点的所预测的负载相关的该信息可以用作第一ML模型、第二ML模型或第三ML模型的输入(如稍后参考步骤202、203和206所述)。换句话说,所预测的负载可以用于执行以下步骤中的一个或多个:如果第一无线装置在第一时间段内采取初始路径,则预测是否满足第一无线装置的QoS要求;以及如果第一无线装置在第一时间段内采取初始路径,则预测干扰水平是否满足第一条件。所预测的负载还可以用于确定第一无线装置在第一时间段内的新路径。
第四ML模型可以单独部署在云上或在每个基站/节点上。为了最小化将数据传输到云的成本,并且特别地,如果所有输入特征在每个网络节点处本地可用,则第四ML模型可以在每个网络节点处本地部署,并且可以使用从连接到该特定网络节点的一个或多个无线装置接收的本地数据来周期性地(每X小时或Y天)重新训练。
在步骤202中,如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则第一ML模型预测是否满足第一无线装置的服务质量QoS要求。步骤202包括图1的步骤102的示例实现。第一时间段可以包括第一无线装置与第一无线电网络之间的通信中的接下来的k个子帧。
在一些示例中,第一ML模型可以部署在云中。第一ML模型可以预测在即将到来的k个子帧内,对于沿着第一无线装置的初始路径的接下来的可能位置,是否可以满足第一无线装置的QoS要求。
可以取决于第一无线装置更新其路径和/或采取附加RRM动作(如稍后将更多描述的)以保证其QoS和/或最小化第一无线装置和第一无线电网络在第二无线电网络上引起的干扰所需的时间来选择k的值。
将领会,在k的值的选择中,可能存在预测准确度与主动动作决策之间的折衷,例如,对于较大的k值,预测准确度降低,但是第一无线装置有更多时间来更新其路径和/或执行RRM动作。
第一ML模型可以包括使用监督学习技术实现的ML模型,例如神经网络、随机森林、逻辑回归、梯度提升树、和长短期记忆(LSTM)模型。如果满足QoS要求,则第一ML模型可以在接下来的k个子帧中的每一个子帧内进行预测。
因此,第一ML模型的预测可以是关于一组未来时间戳(t=0,t=1,t=1,…t=k)的二元分类问题。换句话说,第一ML模型可以针对接下来的k个子帧中的每个子帧来预测是否满足QoS要求。
第一ML模型可以接收但不限于接收以下示例输入中的任何一个或多个:
网络特征
- 由无线装置所经历的历史干扰水平。例如,由以下项所经历的干扰水平:下行链路方向上的第一无线装置和上行链路方向上的第一网络节点;
- 第一网络节点的平均下行链路和上行链路吞吐量的一个或多个历史值;
- 第一无线电网络中的一个或多个相邻网络节点到第一网络节点的平均下行链路和上行链路吞吐量的一个或多个历史值;
- 第一网络节点处的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 第一无线电网络中的第一网络节点的相邻网络节点处的活动的和/或调度的用户的数量的一个或多个历史值;
- 第一网络节点上的负载的一个或多个历史值;
- 在第一网络节点的一个或多个相邻网络节点上的负载的一个或多个历史值;
- 由第一网络节点利用的所利用的频域资源的一个或多个历史值;
- 相邻网络节点XX处的预测的负载(其可以在步骤201处作为输出而被提供);
- 第一无线电网络的一个或多个静态网络节点在地理环境内的位置;
- 地理环境内的临时和/或永久障碍物/装置的位置;
可选输入-当第二无线电网络包括公共/专用蜂窝网络时:
- 属于第二无线电网络的一个或多个相邻网络节点处的预测的负载;
- 属于第二无线电网络的网络节点处的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 属于第二无线电网络的一个或多个网络节点处的负载的一个或多个历史值;
- 属于第二无线电网络的一个或多个网络节点处的所利用的频域资源的一个或多个历史值;
- 属于第二无线电网络的一个或多个静态网络节点的位置;
可选输入-如果第二无线电网络包括第一频谱带的一个或多个现有用户:
- 第二无线电网络的一个或多个静态节点的位置;
- 第二无线电网络的一个或多个无线装置的位置;
- 由第二无线电网络利用的所利用的频域资源的一个或多个历史值;
- 关于第一频谱带在接下来的k个子帧内的所计划的可用性的信息(例如,“频谱访问授权”);
第一无线装置特征:
- 与第一网络节点相关联的服务小区id;
- 用于与由第一无线装置所经历的信道质量指示符(CQI)和/或信干噪比相关的一个或多个历史值;
- 由第一无线装置测量的RSRP、RSSI和/或RSRQ的一个或多个历史值;
- 第一无线装置的可实现时延的一个或多个历史值;
- 由第一无线装置实现的误比特率或误块率的一个或多个历史值;
- 第一无线装置的速度(将领会,工厂内的URLLC装置通常将以相对慢的速度移动);
- 第一无线装置的初始路径,例如第一无线装置在第一时间段(例如,接下来的k个子帧)内的未来位置(坐标)的集合;
- 在接下来的k个子帧内,向第一无线电网络传送或从第一无线电网络接收的分组大小;
- 第一无线装置处的分组到达率的一个或多个历史值;
- 与提供给第一无线装置的服务相关联的服务优先级的一个或多个历史值;
- 第一无线装置的位置的一个或多个历史值;
- 第一无线装置的QoS要求,其可以包括时延要求、可靠性要求和/或吞吐量要求;
- X个相邻无线装置的一个或多个位置及其对应的活动水平/服务特性(例如,分组到达率、服务优先级、分组大小)。
在一些示例中,第一ML模型可以接收以下输入中的一个或多个:
- 由第一无线装置所经历的历史干扰水平;
- 服务第一无线装置的网络节点和/或第一无线电网络中的一个或多个相邻网络节点上的业务负载的一个或多个历史值;
- 由第一无线装置所经历的时延的一个或多个历史值;
- 由第一无线装置所经历的误比特率或误块率的一个或多个历史值;
- 由第一无线装置所经历的分组到达率的一个或多个历史值;
- 第一无线装置的QoS要求;以及
- 服务第一无线装置的网络节点的一个或多个相邻网络节点处的预测的负载。
在一些示例中,第一ML模型的输出包括指示在接下来的k个子帧中的每一个子帧内是否预测为满足第一无线装置的QoS要求的二进制值的向量。
在一些其它示例中,第一ML模型在接下来的k个子帧中的每个子帧内预测与第一无线装置与第一无线电网络之间的通信相关联的一个或多个QoS度量的值。换句话说,第一ML模型可以在给定网络的当前状态的情况下以及针对在接下来的k个子帧内的第一无线装置的未来位置,学习未来可实现的延迟/时延、可靠性(BER/BLER)和/或吞吐量的值。
QoS度量的该实际值对于一些工业应用可能是关键的,其中,例如,连接的螺丝刀在某一时间段内需要稳定的时延值(换句话说,峰值是不期望的)。因此,QoS度量的实际值对于一些应用可能是有用的,而在每个子帧中是否满足QoS要求的预测对于其它应用是足够的。
在这些示例中,第一ML模型的输出可以包括在接下来的k个子帧中的每个子帧内第一无线装置的预测的QoS度量的向量。
例如,在预测吞吐量值的情况下,第一ML模型可以接收以下特征中的一个或多个(网络特征、如果第二无线电网络是公共/专用蜂窝网络时的特征、如果第二无线电网络是第一频谱带的现任用户时的特征、第一无线装置特征):
网络特征
- 第一网络节点上的负载的一个或多个历史值;
- 一个或多个相邻网络节点处的预测的负载(其可以作为步骤201的输出来提供);
- 地理区域内的临时和永久障碍物和/或装置的位置;
- 地理区域内的一个或多个静态网络节点的一个或多个位置;
可选输入–如果第二无线电网络是公共/专用蜂窝网络时的特征:
- 第二无线电网络中的一个或多个相邻网络节点处的预测的负载(其中相邻网络节点靠近第一无线电网络中的第一网络节点);
- 第二无线电网络的相邻网络节点处的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 第二无线电网络中的相邻网络节点上的负载的一个或多个历史值;
- 属于第二无线电网络的相邻网络节点处的所利用的频域资源的一个或多个历史值;
- 属于第二无线电网络的静态网络节点的一个或多个位置;
可选输入–如果第二无线电网络是第一频谱带的现有用户时的特征:
- 第二无线电网络的静态网络节点的一个或多个位置;
- 属于第二无线电网络的相邻网络节点处的所利用的频域资源的一个或多个历史值;
- 关于第一频谱带在接下来的k个子帧内的可用性的信息;
第一无线装置特征:
- 第一无线装置的信道状态向量的一个或多个历史值;
- 第一无线装置的平均下行链路和上行链路吞吐量的一个或多个历史值;
- 与由第一无线装置所经历的信道质量指示符(CQI)和/或信干噪比相关的一个或多个历史值;
- 由第一无线装置测量的RSRP、RSSI和/或RSRQ的一个或多个历史值;
- 第一无线装置的速度(将领会,工厂内的URLLC装置通常将以相对慢的速度移动);
- 第一无线装置的初始路径,例如第一无线装置在第一时间段(例如,接下来的k个子帧)内的未来位置(坐标)的集合;
- 在接下来的k个子帧内,向第一无线电网络传送或从第一无线电网络接收的分组大小;
- 第一无线装置处的分组到达率的一个或多个历史值;
- 第一无线装置的位置的一个或多个历史值;
- X个相邻无线装置的一个或多个位置及其对应的活动水平/服务特性(例如,分组到达率、服务优先级、分组大小)。
在步骤203中,如果第一无线装置在第一时间段内采取初始路径,则第二ML模型预测干扰水平是否满足第一条件。第一条件可以包括干扰水平低于干扰阈值的条件。步骤203包括图1的步骤103的示例实现。
第二ML模型可以部署在云上。第二ML模型可以包括神经网络、随机森林或逻辑回归、极端梯度(XG)增强模型、和长短期记忆(LSTM)模型。
第二ML模型可以在接下来的k个子帧中的每个子帧内预测干扰水平是否高于干扰阈值。将领会,干扰阈值可以是动态或静态阈值。
如前所述,k的值可以取决于第一无线装置更新其路线和/或采取附加RRM动作(如稍后描述的)以保证其在第二无线电网络上引起的最大干扰水平所需的时间来选择。将领会,在k的值的选择中,在预测准确度和主动动作决策之间可能存在折衷。例如,对于较大的k,预测准确度降低,但是第一无线装置具有更多的时间来更新其路线和/或RRM动作。
可以使用监督学习技术来训练第二ML模型。第二ML模型的输出可以被描述为关于一组未来时间戳(t=0,t=1,t=1,…t=k)的二元分类问题。
第二ML模型可以接收以下特征中的一个或多个(网络特征、与第二无线电网络相关的特征、如果第二无线电网络是公共/专用蜂窝网络时的特征、第一无线的特征)作为输入:
网络特征
- 属于第一无线电网络的相邻网络节点的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 属于第一无线电网络的相邻网络节点上的负载的一个或多个历史值;
- 第一无线电网络中的相邻网络节点处的所利用的频域资源的一个或多个历史值
- 第一无线电网络中的相邻网络节点处的预测的负载(其可以作为步骤201的输出来提供);
- 属于第一无线电网络的静态网络节点的一个或多个位置;
- 地理区域内的临时和/或永久障碍物和/或装置的一个或多个位置;
- 连接到第一无线电网络中的相邻网络节点的无线装置的一个或多个位置;
- 与属于第一无线电网络的相邻网络节点的波束方向有关的信息;
- 与在接下来的k个子帧内的第一频谱带资源的计划可用性相关的信息(例如,“频谱访问授权”)
- 与第二无线电网络处的干扰水平或影响有关的指示或反馈;
- 干扰水平的一个或多个历史值;
可选输入-与第二无线电网络相关的特征
- 属于第二无线电网络的一个或多个静态网络节点的位置;
- 第二无线电网络中的一个或多个无线装置的位置;
- 第二无线电网络处的所利用的频域资源的一个或多个历史值;
- 与属于第二无线电网络的网络节点的波束方向有关的信息;
可选输入-如果第二无线电网络是公共/专用蜂窝网络时的特征:
- 属于第二无线电网络的相邻网络节点处的预测的负载;
- 属于第二无线电网络的网络节点的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 属于第二无线电网络的网络节点上的负载的一个或多个历史值;
第一无线装置的特征
- 与第一网络节点相关联的服务小区id;
- 第一无线装置的负载、业务到达率和/或分组大小的一个或多个历史值;
- 第一无线装置的所分配的频域资源的一个或多个历史值;
- 与第一无线装置的服务波束方向有关的信息;
- 第一无线装置的速度;
- 第一无线装置的初始路径,例如,第一无线装置在接下来的k个子帧内的未来位置(坐标)的集合;
- 第一无线装置的服务优先级的一个或多个历史值;
- 第一无线装置的位置的一个或多个历史值;
- X个相邻无线装置的位置及其对应的活动水平/服务特性(分组到达率、服务优先级、分组大小)。
在一些示例中,第二ML模型接收以下中的一个或多个作为输入:
与服务第一无线装置的第一网络节点和/或第一无线电网络中的第一网络节点的一个或多个相邻网络节点的波束方向有关的信息;
关于在第一时间段内第二无线电网络处的第一频谱带的计划可用性的信息;
由第一无线装置所经历的业务负载、业务到达率和/或分组大小的一个或多个历史值;
针对第一无线装置的所分配的频域资源的一个或多个历史值;以及
在第一时间段内的初始路径。
第二ML模型的输出是二进制值的向量,其预测在接下来的k个子帧中的每一个子帧内,第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的干扰水平是否高于干扰阈值。
将领会,干扰阈值可以是由第二无线电网络所需的最小QoS水平和第一无线电网络的负载水平的函数,并且因此可以被相应地配置。
将领会,在一些场景中,如果其它用户正在共享第一频谱带,则除了在接下来的k个子帧内的对应QoS要求或第一条件(例如,从相邻网络或从频谱共享数据库接收的“频谱访问授权”)之外,还可以存在关于第一频谱带资源的计划可用性的信息。
然后,这可以允许第一无线电网络具有其可以在即将到来的时间段内使用具有一些特定条件(例如,第一条件)的某些频域资源的外部指示。
因此,将领会,第一ML模型和第二ML模型可以考虑第一条件和/或QoS要求的动态性。第一条件和QoS要求可以是不同网络条件的函数。
为了考虑第一条件和/或QoS要求的动态性,可以针对第一ML模型和/或第二ML模型训练若干分类模型,每个分类模型通过不同的第一条件和/或QoS要求进行训练,并且可以将所有所得模型部署在云上以用于真实网络操作。
可以假设实际QoS要求和/或第一条件可以是对第一ML模型或第二ML模型部署代理的输入,其在实时操作期间触发正确预测/分类模型的激活。(当在本文中提及代理时,所考虑的是软件代理或软件实现的代理。)注意,第一条件和/或QoS要求也可以由管理/操作网络的网络运营商或企业输入。
在步骤204中,该方法包括确定(基于第一ML模型的输出)QoS要求和(基于第二ML模型的输出)第一条件是否被满足。
如果QoS要求和第一条件两者都被满足,则该方法转到步骤205,其中第一无线装置的初始路径不被改变。然后,该方法返回到步骤201,并且在j个子帧之后重新开始,其中j<k。
如果不满足QoS要求或第一条件,则该方法转到步骤206。
步骤206包括图1的步骤104的示例实现。
在步骤206中,第三ML模型确定第一无线装置在第一时间段内的新路径。第三ML模型可以包括强化学习模型。在一些示例中,第三ML模型确定第一无线装置的新路径以及是否将需要附加的无线电资源管理RRM动作以保证将在新路径的整个过程中满足QoS要求,并且干扰水平将在整个新路径中继续满足第一条件。RRM动作可以使得新路径能够满足QoS要求和第一条件,以防无法找到(在没有RRM动作的帮助下)能够满足QoS要求和第一条件的路径。
将领会,还可能需要由第三ML模型确定的新路径来使得第一无线装置能够例如在特定时间段内到达特定目的地或执行特定任务。
第三ML模型可以部署在云中。可以经由强化学习来训练第三ML模型以学习第一无线装置的新路径。
将领会,强化学习模型可以由状态、动作空间和奖励函数来定义。
在本文中,状态可以被认为对应于输入特征,其对于表示学习过程的当前环境是重要的。
第三ML模型的状态可以包括以下中的一个或多个:
- 地理环境与无线电环境的模型;
- 第一无线装置不能穿越的地理环境中的一个或多个轨迹和/或位置,例如,无移动性区或永久(例如,工业线路)和/或临时障碍物的位置;
- 其它无线装置的一个或多个位置及其对应路径(通常为网络所知)、在接下来的k个子帧内的负载;
- 第一无线装置的速度和/或最大可能速度;
- 第一无线电网络中的第一网络节点和/或一个或多个相邻网络节点上的负载的一个或多个历史值;
- 第一无线电网络中的一个或多个相邻网络节点处的预测的负载(其可以作为步骤201的输出来提供);
- 传送到第一无线电网络或从第一无线电网络接收的分组大小;
- 第一无线装置的QoS要求;
- 第一无线装置的负载、业务到达率和/或分组大小的一个或多个历史值;
- 第一无线装置的所分配的频域资源的一个或多个历史值;
- 与第一无线装置的服务波束方向有关的信息;
- 第一无线装置的服务优先级的一个或多个历史值;
- 属于第一无线电网络的相邻小区的活动的和/或调度的无线装置的数量的一个或多个历史值;
- 属于第一无线电网络的相邻小区处的所利用的频域资源的一个或多个历史值;
- 第一无线电网络中的静态网络节点的位置;
- 连接到第一无线电网络中的相邻网络节点的无线装置的位置;
- 与第一无线电网络中的相邻网络节点的波束方向有关的信息;
- 与在接下来的k个子帧内的第一频谱带资源的计划可用性相关的信息(例如,“频谱访问授权”);
- 与第二无线电网络处的当前干扰水平或干扰水平的影响有关的指示或反馈;
- 干扰水平的一个或多个历史值;
- QoS要求和/或第一条件;
- 第一无线装置的目的地或要完成的动作,以及任何对应的停止位置;
- 为完成动作所允许的最长时间;
- 地理区域中正执行关键活动(以及任何对应的关键QoS要求)的其它无线装置的位置;
- 地理区域中的临时和/或永久障碍物或装置的位置;
- 可选状态值:
○ 在地理区域附近利用第一频谱带的其它无线装置的位置和业务负载(以及它们的坐标的未来集合);
○ 在地理区域附近的相邻网络的网络节点的物理坐标;
○ 在地理区域附近的属于第二无线电网络的无线装置的位置;
○ 第二无线电网络处的所利用的频域资源的一个或多个历史值;
○ 与属于第二无线电网络的网络节点的波束方向有关的信息
○ 属于第二无线电网络的相邻小区处的预测的负载;
○ 属于第二无线电网络的网络节点的活动的和/或调度的无线装置的数量的一个或多个历史值;
○ 属于第二无线电网络的网络节点的负载的一个或多个历史值。
第三ML模型的动作空间可以包括以下中的一个或多个:
- 阵列(例如,二维或三维阵列),所述阵列包括第一无线装置在接下来的k个子帧内的坐标;以及
- 第一无线装置要在接下来的k个子帧期间执行的潜在RRM动作。
换句话说,在接下来的k个子帧中的每个子帧i内,第三ML模型的动作空间可以包括第一无线装置可以从其在子帧i-1处的位置到达的阵列中的可能坐标,以及可以在子帧i处执行的潜在RRM动作。
第三ML模型的奖励可以包括多目标奖励函数。可以根据以下中的一个或多个来确定奖励:由第一无线装置所经历的QoS度量、第一无线装置到达目的地的时间段、以及干扰水平。
将领会,奖励可以被配置成对其中QoS度量满足QoS要求并且干扰水平满足第一条件的第一无线装置的移动进行奖励。
在一些示例中,第三ML模型基于奖励来确定新路径,使得在第一时间段内:
a. 满足服务质量QoS要求;以及
b. 干扰水平满足第一条件。
将领会,在一些示例中,奖励的目标可以包括以下中的一个或多个:
- 最大化由第一无线装置所经历的QoS,例如,以保证吞吐量、时延和可靠性要求;
- 最小化第一无线装置到达其目的地或完成动作的时间段。换句话说,可能不期望第一无线装置采取可能使正在完成的工作延迟的非常长的路径;
- 最小化干扰水平。例如,可以选择新路径以避免使在需要关键通信要求的地方发生关键工业活动的路径拥塞,以及在假设正共享频谱的另一附近网络上引起高干扰的路径。
在一些示例中,第三ML模型可以进一步确定要由无线装置执行的一个或多个无线电资源管理RRM动作,以确保a)和b)两者。备选地,在一些示例中,要由第一无线装置执行的RRM动作可以经由其它过程来单独学习(如PCT/SE2019/051124和PCT/SE2021/050492中所建议的)。
此类RRM动作的示例可以是但不限于:
- 执行第一无线装置例如从第一网络节点到更远但同时负载较少的网络节点的切换。备选地,第一无线装置可以移动到不同且负载较少的频率(频率间切换);
- 协调第一无线电网络与第二无线电网络之间的调度决策,使得可以减轻网络之间的干扰;
- 例如,调整第一无线装置的链路自适应过程,使得与容量更优化的场景相比,向第一无线装置指派更稳健的调制和编码方案;
- 在下行链路中,第一网络节点增加朝向第一无线装置的传输功率。类似地,对于上行链路,可以通过调整上行链路功率控制参数来增加第一无线装置的传输功率;
- 在下行链路中,如果第一网络节点能够动态地调整服务波束的波束宽度,则其使得朝向第一无线装置的波束变窄,从而增加天线方向性,并且因此增加第一无线装置处的接收信号功率。类似地,在上行链路方向上,如果第一无线装置能够动态地调整传送波束的波束宽度,则其使得朝向第一网络节点的波束变窄,从而增加天线方向性,并且因此增加第一网络节点处的接收信号功率。
在a)备选路径不可用、b)备选路径不满足QoS要求或第一条件、或c)备选路径不能满足总体服务要求(例如,关于第一无线装置行进到其目的地所花费的时间)的情况下,使用附加RRM机制可能是有益的。在大多数情况下,主动RRM机制可能仅在网络侧(即,在基站或中央控制单元中)需要改变或需要新过程,并且它们将利用已经标准化的信令消息以及针对空中接口和用户终端所指定的功能性。对于一些特定情况,例如与波束管理相关的情况,可能有可能需要指定一些新的信令消息以使能在用户终端内实现的网络辅助波束成形功能性。
将领会,第三ML模型可以同时学习多个无线装置的最优路线(对于这些无线装置,沿着它们的对应所选路线不能满足未来QoS)或单独学习每个无线装置的最优路线(这可能导致多代理强化学习问题)。
然而,在现实世界应用中,在子帧j期间,若干无线装置沿其初始路径不满足QoS的场景不会经常发生。对于此类场景,将在连续子帧期间,即在j、j+1、j+2处分开更新每个无线装置的路线。
因此,在一些示例中,第三ML模型可以被配置成针对给定网络状态单独地并且因此连续地(与同时地相反)优化每个无线装置的路径,从而降低第三ML模型的复杂度并且使能第三ML模型的更快收敛。
可以根据来自地理区域内的所有网络节点的数据和与环境的交互来全局地训练第三ML模型。
在步骤207中,第三ML模型指示到第一无线装置的新路径(以及在步骤206中确定的任何RRM动作)。例如,第三ML模型可以向装置传送消息,向其通知新路径、以及(如果适用的话)第一无线装置在接下来的k个子帧期间要执行的RRM动作。
在步骤208中,第一无线装置将初始路径更新为执行任何所指示的RRM动作的新路径。
将领会,可以每j个子帧重复步骤201至208,其中j<k,以便保证第一ML模型和第二ML模型连续监测由第一无线装置所经历的QoS和在第二无线电网络上引起的干扰水平,并且因此第三ML模型在不再满足QoS要求和/或第一条件的情况下通过重新路由第一无线装置和/或采取附加RRM动作来采取主动动作。
图3示出了用于图1和图2的方法的示例实现的信令图。
在步骤301中,第一无线装置向网络节点传送无线装置相关特征。这些特征可以是在第一无线装置处可用的特征中的一个或多个,其可以用作如参考图2的步骤201所描述的输入特征。
在步骤302中,网络节点转发无线装置相关特征并传送用于输入到云的任何其它特征。步骤302包括图1的步骤101的示例实现。
在步骤303中,第四ML模型预测在第一时间段期间第一无线电网络中的网络节点上的负载。步骤303包括图2的步骤201的示例实现。在该示例中,第四ML模型部署在云中。然而,将领会,第四ML模型可以部署在地理区域内的每个网络节点处。
在步骤304中,第一无线装置向网络节点传送无线装置相关特征。这些特征可以是在第一无线装置处可用的特征中的一个或多个,其可以用作如参考图2的步骤202或203所描述的输入特征。
在步骤305中,网络节点转发无线装置相关特征并传送用于输入到第一ML模型或第二ML模型中的任何其它特征。
在步骤306中,如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则第一ML模型预测是否满足第一无线装置的QoS要求。步骤306包括图1的步骤102和图2的步骤202的示例实现。
在步骤307中,如果第一无线装置在第一时间段内采取初始路径,则第二ML模型预测干扰水平是否满足第一条件,其中,干扰水平是由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的。步骤307包括图1的步骤103和图2的步骤203的示例实现。
在该示例中,假设不满足第一条件和QoS要求中的任一者或两者。
在步骤308中,第三ML模型确定第一无线装置在第一时间段内的新路径。步骤308包括图2的步骤206的示例实现。
在步骤309中,云向网络节点传送新路径和要执行的任何RRM动作的指示。
在步骤310中,网络节点将新路径和RRM动作转发到第一无线装置。
训练模型
注意,对于例如第三ML模型之类的RL代理,通常有2个训练阶段:(i)开发和(ii)探索,其中一个关键概念是探索和开发之间的权衡。
开发被定义为一种贪婪的方法,其中RL代理试图通过使用估计值来得到更多的奖励。因此,在此阶段期间,代理基于当前信息做出最佳决策。与开发不同,在探索阶段中,RL代理提高了其关于每个行动的知识,而不是得到更多的奖励,使得其能够得到长期利益。因此,在探索期间,RL代理收集更多信息以做出最佳整体决策。
因此,为了避免可能有可能导致对网络的有害影响(在探索阶段期间)的第一无线装置的任何重新路由(和附加RRM动作),我们通常会假设第三ML模型被连续地离线训练,并且然后策略将被实时地实现(并且每当更新的策略被训练时就被更新)。
然而,也可能的是,第三ML模型的结果可能由于一些其它原因(例如故障行为、第三ML模型受损、或网络中的临时变化)而导致有害影响。因此,另一个可能的解决方案将是依赖于使用完整的网络数字孪生,例如图4中所示的,由此,第三ML模型的动作首先在网络数字孪生上进行测试,并且然后如果此类动作显示它们不会导致对网络的任何额外有害影响(当在网络数字孪生上进行测试时),例如,如果满足第一条件和QoS要求,则转移到真实部署。在这里,网络数字孪生的使用可能被认为对于工业设定中的关键活动是重要的,并且例如,以保证服务水平协定(SLA)。
然后可以比较网络数字孪生和真实环境上的动作的结果(即,奖励值)以检测真实网络的策略中的任何可能的偏离,并且如果存在任何偏离模型,则可以触发重新训练。
AI模型的重新训练:
为了避免真实部署中的模型偏离,第一ML模型、第二ML模型、第三ML模型和第四ML模型可能需要被连续更新。
可以对从真实部署收集的新数据集连续地重新训练第一ML模型、第二ML模型和第四ML模型。重新训练可以即时发生(并且因此避免存储数据集),或者通过存储大的新数据集并将该数据用于模型重新训练(例如每K天)而批量发生。
为了重新训练第三ML模型,我们可能需要在不同的网络状态期间探索新的动作。为了保证真实部署中的安全探索,RL代理可以在数字孪生上更新其模型(即,学习策略)(通过探索新的可能动作),并且然后将该模型/策略转移到真实部署,因而保证安全探索(参见图4)。
数字孪生使能安全的模拟测试环境,在该环境中,我们可以训练和播放‘假设分析’场景,并训练/更新第三ML模型,而不会对真实世界对应物造成风险。然后,第三ML模型的参数可以从DT转移到第三ML模型,并且因此策略被实时实现(并且每当更新的策略被重新训练时被更新)。
为了保证数字孪生中等同于真实网络的环境的环境,数字孪生的内容在操作期间基于从网络节点和无线装置两者接收的测量以及基于由部署在系统覆盖区域周围的附加传感器执行的测量而被连续更新和细化。换句话说,数据被实时地来回传送到DT。
数字孪生可以包括两种类型的信息:静态和动态。静态信息包括例如所讨论区域的数字地图、关于允许路径(道路、走廊、障碍物(永久和临时)等)的信息、第一无线电网络中的无线电网络节点(基站)的信息(例如,天线的位置、类型和取向)、以及关于无线电网络节点和沿着允许路径的不同位置之间的传播条件(或传播损耗)的信息。静态信息还可以包括第二无线电网络的细节,例如,静态无线电网络节点(基站、固定通信链路、卫星网关站、固定卫星终端、雷达)的位置、关于天线的类型和取向的信息、以及关于第一无线电网络的无线电网络节点与第二无线电网络的无线电网络节点之间的传播条件的信息。
静态信息预期是相当稳定的,并且不需要经常更新。除了静态信息之外,数字孪生可以包括关于无线电网络的当前状态的动态信息,包括例如关于无线装置的位置、网络节点上的负载、和用户性能的信息。动态信息还可以包括来自外部源的输入,例如从第二无线电网络或频谱共享数据库接收的信息。与静态信息相比,动态信息的内容可以更频繁得多地更新。此外,网络应该跟踪动态信息的历史以辅助AI/ML功能性。
示例实现场景
图5示出了实现图1和图2的方法的示例场景。
特定地,图5示出了第一无线装置500计划从点a移动到点b,同时停留在相同的第一无线电网络(网络A)中的场景。
在该场景中,假设网络A与第二无线电网络(网络B)共享至少第一频谱带,第二无线电网络可以是例如现任用户/网络(具有使用第一频谱带的主要权利)或非公共网络(具有在其场所或财产内使用第一频谱带的独占权利,并且通常被赋有一定水平的保护免收第一频谱带的其它用户影响)。
应当注意,在典型场景中,由于访问限制和与非公共网络或由网络使用的不同无线电技术相关的封闭订户群组,从点a到点b的第一无线装置只能连接到网络/小区A而不能连接到网络/小区B。
如果网络B是第一频谱带的现任用户,则它可能不是一直活动的(即,使用第一频谱带),从而给于网络A更多自由以在关闭时段期间重新使用第一频谱带。类似地,非公共网络B的频谱需求可能不是一直恒定的,而是可以变化。
为了获得小区/网络之间的干扰情况的完整图片,干扰减轻过程(即,确定新路径和任何RRM动作)将必须考虑不同类型的干扰链路:
- 连接到小区/网络A的(一个或多个)第一无线装置与受害小区/网络B(的固定站和移动站)之间的干扰,以及
- 小区/网络A的(一个或多个)基站与受害小区/网络B(的固定站和移动站)之间的干扰。
如果受害小区/网络B是蜂窝网络(例如,非公共网络),则干扰减轻过程可以考虑从网络A到网络B的干扰(“保护第一频谱带的其它用户”)以及从网络B到网络A的干扰(“保证第一无线装置的期望QoS”)两者。然而,如果小区/网络B是频谱带的现任用户,则干扰减轻过程可以仅聚焦于从网络A到网络B的干扰,因为此类干扰场景的减轻通常还将解决与从网络B到网络A的干扰相关的不太频繁发生的问题。
考虑到网络A了解/检测到相邻节点/网络B已经变为活动的并且正在:a)对沿着路径1行进的第一无线装置产生干扰,和/或b)需要保护免受沿着路径1行进的第一无线装置或服务沿着路径1行进的第一无线装置的网络A的网络节点的影响。为了减少对网络B的干扰或来自网络B的干扰,小区/网络A确定从点a到点b的新路径2。
在稍后的时间步中,如果网络B不再活动,则网络A可以重新设计从点a到点b的路线以再次遵循路径1(因为它是更快或更短的路线)。通常,网络A可以借助于测量、网络之间的特定信令、或可以控制网络之间的第一频谱带的使用的某个外部数据库来了解网络B的活动。
在特殊情况下,允许小区/网络之间的移动性(例如,两个小区/网络属于同一运营商),但是小区/网络A或B中的任一者或其两者正在应用灵活的时分双工(TDD)模式或全双工时分双工(TDD)传输。这导致小区/网络之间的所谓的交叉链路TDD干扰,意味着网络A内的(一个或多个)基站的下行链路传输干扰网络B内的(一个或多个)基站的上行链路接收,并且反之亦然。类似地,连接到小区/网络A的(一个或多个)第一无线装置的上行链路传输干扰连接到小区/网络B的无线装置的下行链路接收,并且反之亦然。同样在该场景中,可以通过重新设计连接到小区/网络A的第一无线装置的路线来减轻小区/网络A与小区/网络B之间的干扰。
图6示出了包括处理电路(或逻辑)601的设备600。处理电路601控制设备600的操作,并且可以实现本文中关于设备600所描述的方法。处理电路601可以包括被配置成或编程为以本文描述的方式控制设备600的一个或多个处理器、处理单元、多核处理器或模块。在特定实现中,处理电路601可以包括多个软件和/或硬件模块,其各自被配置成执行或用于执行本文中关于设备600描述的方法的单个或多个步骤。将领会,设备600可以包括运行不同软件和/或过程的一个或多个虚拟机。因此,设备600可以包括一个或多个服务器、交换机和/或存储装置,或者在一个或多个服务器、交换机和/或存储设备中实现,或者被实现为一个或多个服务器、交换机和/或存储装置,和/或可以包括运行软件和/或过程的云计算基础设施。
简而言之,设备600的处理电路601被配置成获得第一无线装置正在行进通过的地理环境和无线电环境的模型,其中无线电环境包括至少使用第一频谱带的第二无线电网络;如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则预测是否满足第一无线装置的服务质量QoS要求;如果第一无线装置在第一时间段内采取初始路径,则预测干扰水平是否满足第一条件,其中,干扰水平是由第一无线装置与第一无线电网络的通信在第二无线电网络上引起的;以及响应于预测在第一时间段期间将不满足QoS要求,或者在第一时间段期间干扰水平将不满足第一条件,发起对初始路径的更新以提供要由第一无线装置采用的新路径。
在一些实施例中,设备600可以可选地包括通信接口602。设备600的通信接口602可以供与例如其它虚拟节点之类的其它节点通信时使用。例如,设备600的通信接口602可以被配置成向其它节点传送和/或从其它节点接收请求、资源、信息、数据、信号等。设备600的处理电路601可以被配置成控制设备600的通信接口602向其它节点传送和/或从其它节点接收请求、资源、信息、数据、信号等。通信接口602可以使用任何合适的通信技术。
可选地,设备600可以包括存储器603。在一些实施例中,设备600的存储器603可以被配置成存储程序代码,该程序代码可以由设备600的处理电路601执行以执行本文关于设备600描述的方法。备选地或另外地,设备600的存储器603可以被配置成存储本文描述的任何请求、资源、信息、数据、信号等。设备600的处理电路601可以被配置成控制设备600的存储器603以存储本文描述的任何请求、资源、信息、数据、信号等。设备600可以被配置成以本文关于设备描述的方式操作。
图7是示出根据一些实施例的设备700的框图。设备700可以控制由第一无线装置采取的路径,其中第一无线装置至少使用第一频谱带与第一无线电网络通信。设备700包括获得模块702,其被配置成获得第一无线装置正在行进通过的地理环境和无线电环境的模型,其中,无线电环境包括至少使用第一频谱带的第二无线电网络。设备700包括第一预测模块704,第一预测模块704被配置成如果第一无线装置在第一时间段内采取通过地理环境的初始路径,则预测是否满足第一无线装置的服务质量QoS要求。设备700还包括第二预测模块706,第二预测模块706被配置成如果第一无线装置在第一时间段内采取初始路径,则预测干扰水平是否满足第一条件,其中,干扰水平是由第一无线装置与第一无线电网络之间的通信在第二无线电网络上引起的。设备700还包括发起模块708,发起模块708被配置成响应于预测在第一时间段期间将不满足QoS要求或者在第一时间段期间干扰水平将不满足第一条件,发起对初始路径的更新以提供要由第一无线装置采用的新路径。设备700可以以本文关于设备描述的方式操作。
还提供了一种包括指令的计算机程序,所述指令在由处理电路(例如较早描述的设备600的处理电路601)执行时使得处理电路执行本文描述的方法的至少一部分。提供了一种体现在非暂时性机器可读介质上的计算机程序产品,其包括由处理电路可执行以使得处理电路执行本文描述的方法的至少一部分的指令。提供了一种计算机程序产品,其包括载体,所述载体包含用于使得处理电路执行本文描述的方法的至少一部分的指令。在一些实施例中,载体可以是电子信号、光信号、电磁信号、电信号、无线电信号、微波信号或计算机可读存储介质中的任一种。
本文描述的实施例能够为其路径正由第一无线电网络控制的无线装置提供有保证的服务质量。所述方法和实施例适配于网络动态并且允许在线路径重新计划。
主动路径更新可以能够保证QoS(时延和可靠性)要求,并且可以保护受害网络或相同频谱带的其它用户,例如现任或非公共网络。
上文阐述了特定细节,例如出于解释而非限制的目的的特定实施例或示例。本领域技术人员将领会,除了这些特定细节之外,还可以采用其它示例。在一些实例中,省略了对众所周知的方法、节点、接口、电路和装置的详细描述,以免因不必要的细节而模糊描述。本领域技术人员将领会,所描述的功能可以使用硬件电路(例如,被互连以执行专用功能的模拟和/或离散逻辑门、ASIC、PLA等)和/或使用结合一个或多个数字微处理器或通用计算机的软件程序和数据在一个或多个节点中实现。使用空中接口进行通信的节点还具有合适的无线电通信电路。此外,在适当的情况下,该技术可以另外被认为完全体现在任何形式的计算机可读存储器内,例如固态存储器、磁盘或光盘,其包含将使得处理器执行本文描述的技术的计算机指令的适当集合。
硬件实现可以包括或涵盖但不限于数字信号处理器(DSP)硬件、精简指令集处理器、硬件(例如,数字或模拟)电路,包括但不限于(一个或多个)专用集成电路(ASIC)和/或(一个或多个)现场可编程门阵列(FPGA),以及(在适当的情况下)能够执行此类功能的状态机。
应当注意,上述实施例说明而非限制本发明,并且本领域技术人员将能够在不脱离所附权利要求的范围的情况下设计许多备选实施例。词语“包括”不排除除了权利要求中列出的那些元件或步骤之外的元件或步骤的存在,“一”或“一个”不排除多个,并且单个处理器或其它单元可以实现权利要求中陈述的若干单元的功能。权利要求中的任何附图标记不应被解释为限制其范围。
Claims (34)
1.一种用于控制由第一无线装置采取的路径的计算机实现的方法,其中,所述第一无线装置至少使用第一频谱带与第一无线电网络通信,所述方法包括:
获得(101)所述第一无线装置行进通过的地理环境和无线电环境的模型,其中,所述无线电环境包括至少使用所述第一频谱带的第二无线电网络;
如果所述第一无线装置在第一时间段内采取通过所述地理环境的初始路径,则预测(102)是否满足所述第一无线装置的服务质量QoS要求;
如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测(103)干扰水平是否满足第一条件,其中,所述干扰水平是由所述第一无线装置与所述第一无线电网络的通信在所述第二无线电网络上引起的;以及
响应于预测在所述第一时间段期间将不满足所述QoS要求,或者在所述第一时间段期间所述干扰水平将不满足所述第一条件,发起(104)对所述初始路径的更新以提供要由所述第一无线装置采取的新路径。
2.根据权利要求1所述的方法,其中,所述第二无线电网络包括以下之一:蜂窝网络、卫星系统、固定通信链路或雷达系统。
3.根据权利要求1或2所述的方法,其中,所述第一时间段包括所述第一无线装置与所述第一无线电网络之间的所述通信中接下来的k个子帧。
4.根据权利要求1至3所述的方法,其中,如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测是否满足所述第一无线装置的服务质量QoS要求的步骤包括:
利用(202)第一ML模型来预测在所述第一时间段内是否满足所述QoS要求。
5.根据权利要求4所述的方法,其中,所述第一ML模型包括以下之一:神经网络、随机森林、逻辑回归、梯度提升树和长短期记忆(LSTM)模型。
6.根据权利要求4至5中任一项所述的方法,其中,所述第一ML模型接收以下中的一个或多个作为输入:
由所述第一无线装置所经历的历史干扰水平;
服务所述第一无线装置的网络节点和/或所述第一无线电网络中的一个或多个相邻网络节点上的业务负载的一个或多个历史值;
由所述第一无线装置所经历的时延的一个或多个历史值;
由所述第一无线装置所经历的误比特率或误块率的一个或多个历史值;
由所述第一无线装置所经历的分组到达率的一个或多个历史值;
所述QoS要求;以及
服务所述第一无线装置的所述网络节点的一个或多个相邻网络节点处的预测的负载。
7.根据在从属于权利要求3时的权利要求4至6中任一项所述的方法,其中,所述第一ML模型在所述接下来的k个子帧中的每个子帧内预测是否满足所述QoS要求。
8.根据权利要求7所述的方法,其中,所述QoS要求包括由所述第一无线装置所经历的QoS度量满足QoS阈值的要求。
9.根据权利要求8所述的方法,其中,所述QoS阈值包括动态阈值。
10.根据在从属于权利要求3时的权利要求4至9中任一项所述的方法,其中,所述第一ML模型在所述接下来的k个子帧中的每个子帧内预测与所述第一无线装置与所述第一无线电网络之间的通信相关联的一个或多个QoS度量的值。
11.根据权利要求1至10中任一项所述的方法,其中,预测由所述无线装置与所述第一无线电网络之间的通信在所述第二无线电网络上引起的干扰水平是否满足第一条件的步骤包括:
利用(203)第二ML模型来预测是否满足所述第一条件。
12.根据权利要求11所述的方法,其中,所述第二ML模型包括以下之一:神经网络、随机森林或逻辑回归、极端梯度(XG)增强和长短期记忆(LSTM)模型。
13.根据在从属于权利要求3时的权利要求11至12中任一项所述的方法,其中,所述第二ML模型在所述接下来的k个子帧中的每个子帧内预测所述干扰水平是否高于干扰阈值。
14.根据权利要求13所述的方法,其中,所述干扰阈值包括动态阈值。
15.根据权利要求11至14中任一项所述的方法,其中,所述第二ML模型接收以下中的一个或多个作为输入:
与服务所述第一无线装置的网络节点和/或所述第一无线电网络中的所述网络节点的一个或多个相邻网络节点的波束方向有关的信息;
关于在所述第一时间段内所述第二无线电网络处的所述第一频谱带的计划可用性的信息;
由所述第一无线装置所经历的业务负载、业务到达率和/或分组大小的一个或多个历史值;
针对所述第一无线装置的所分配的频域资源的一个或多个历史值;以及
在所述第一时间段内的所述初始路径。
16.根据任一前述权利要求所述的方法,其中,发起对要由所述第一无线装置采取的所述路径的更新的步骤包括:
利用(206)第三ML模型来确定所述第一无线装置在所述第一时间段内的新路径。
17.根据权利要求16所述的方法,其中,所述第三ML模型包括强化学习模型。
18.根据权利要求17所述的方法,其中,所述第三ML模型的状态包括以下中的一个或多个:
所述第一无线装置不能穿越的所述地理环境中的一个或多个轨迹和/或位置;
服务所述第一无线装置的网络节点和所述第一无线电网络中的所述网络节点的相邻网络节点的负载的一个或多个历史值;
所述第一无线电网络中的一个或多个相邻网络节点处的预测的负载;
与所述第一无线电网络中的所述相邻网络节点的波束方向有关的信息;
与所述第二无线电网络处在所述第一时间段内的所述第一频谱带的计划可用性有关的信息;
当前干扰水平的指示;
所述干扰水平的一个或多个历史值;
所述QoS要求和/或所述第一条件;
要由所述第一无线装置完成的目的地或动作;
所述第一无线装置完成动作所允许的最大时间;
所述地理环境中的其它无线装置的位置;
所述地理环境中临时和/或永久障碍物或装置的位置;以及
所述模型。
19.根据在从属于权利要求3时的权利要求17或18所述的方法,其中,所述第三ML模型的动作空间包括以下中的一个或多个:二维或三维阵列,所述二维或三维阵列包括所述第一无线装置在所述接下来的k个子帧内的坐标;以及所述第一无线装置在所述接下来的k个子帧中要执行的潜在无线电资源管理RRM动作。
20.根据权利要求17至19所述的方法,其中,所述第三ML模型的奖励根据以下中的一个或多个来确定:由所述第一无线装置所经历的QoS度量、所述第一无线装置到达目的地的时间段、以及所述干扰水平。
21.根据权利要求20所述的方法,其中,所述奖励被配置成对所述QoS度量满足所述QoS要求并且所述干扰水平满足所述第一条件的所述第一无线装置的移动进行奖励。
22. 根据权利要求21所述的方法,其中,所述第三ML模型基于所述奖励来确定所述新路径,使得在所述第一时间段内:
a. 满足所述服务质量QoS要求;以及
b. 所述干扰水平满足所述第一条件。
23.根据权利要求22所述的方法,其中,所述第三ML模型进一步确定要由所述无线装置执行以确保a)和b)两者的一个或多个无线电资源管理RRM动作。
24.根据权利要求23所述的方法,其中,所述一个或多个RRM动作包括以下中的一个或多个:
执行所述第一无线装置的切换;
协调所述第一无线电网络和所述第二无线电网络之间的调度决策;
调整所述第一无线装置的链路适配过程;
增加朝向所述第一无线装置的传输功率;
增加朝向服务所述第一无线装置的网络节点的传输功率;
调整所述第一无线装置的服务波束的波束宽度;以及
调整由所述第一无线装置传送的波束的波束宽度。
25.根据权利要求16至24中任一项所述的方法,还包括离线训练所述第三ML模型。
26.根据权利要求1至25所述的方法,还包括:向所述第一无线装置指示所述新路径。
27.根据任一前述权利要求所述的方法,还包括:
利用(201)第四ML模型来预测在所述第一时间段期间所述第一无线电网络中的网络节点上的负载。
28.根据权利要求27所述的方法,还包括使用所述预测的负载来执行以下步骤中的一个或多个:
如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测是否满足所述第一无线装置的所述QoS要求;
如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测所述干扰水平是否满足所述第一条件。
29.根据在从属于权利要求16时的权利要求27或28所述的方法,还包括使用所述预测的负载作为对所述第三ML模型的输入。
30.一种用于控制由第一无线装置采取的路径的设备(600),其中,所述第一无线装置至少使用第一频谱带与第一无线电网络通信,所述设备包括处理电路(601),所述处理电路(601)被配置成使得所述设备:
获得(101)所述第一无线装置行进通过的地理环境和无线电环境的模型,其中,所述无线电环境包括至少使用所述第一频谱带的第二无线电网络;
如果所述第一无线装置在第一时间段内采取通过所述地理环境的初始路径,则预测(102)是否满足所述第一无线装置的服务质量QoS要求;
如果所述第一无线装置在所述第一时间段内采取所述初始路径,则预测(103)干扰水平是否满足第一条件,其中,所述干扰水平是由所述第一无线装置与所述第一无线电网络的通信在所述第二无线电网络上引起的;以及
响应于预测在所述第一时间段期间将不满足所述QoS要求,或者在所述第一时间段期间所述干扰水平将不满足所述第一条件,发起(104)对所述初始路径的更新以提供要由所述第一无线装置采取的新路径。
31.根据权利要求30所述的设备,其中,所述处理电路还被配置成使得所述设备执行根据权利要求2至29中任一项所述的方法。
32.一种包括指令的计算机程序,所述指令当在至少一个处理器上执行时使得所述至少一个处理器执行根据权利要求1至29中任一项所述的方法。
33.一种包含根据权利要求32所述的计算机程序的载体,其中,所述载体包括电子信号、光信号、无线电信号或计算机可读存储介质中的一种。
34.一种计算机程序产品,包括在其上存储有根据权利要求32所述的计算机程序的非暂时性计算机可读介质。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/EP2023/057698 WO2024199620A1 (en) | 2023-03-24 | 2023-03-24 | Methods and apparatuses for controlling a path taken by a first wireless device |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN120883669A true CN120883669A (zh) | 2025-10-31 |
Family
ID=85800232
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202380096193.2A Pending CN120883669A (zh) | 2023-03-24 | 2023-03-24 | 用于控制由第一无线装置采取的路径的方法和设备 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN120883669A (zh) |
| WO (1) | WO2024199620A1 (zh) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20250392610A1 (en) * | 2024-06-25 | 2025-12-25 | Crowdstrike, Inc. | Cybersecurity vulnerability detection with artificial intelligence models |
| CN119383690B (zh) * | 2024-12-27 | 2025-05-02 | 柒星通信科技(北京)有限公司 | 一种动态适应性低空飞行通信网络系统 |
| CN119893545A (zh) * | 2025-03-18 | 2025-04-25 | 陕西昱鑫科技发展有限责任公司 | 面向复杂环境的无线图传记录仪信号增强与稳定传输方法 |
| CN120935697B (zh) * | 2025-10-13 | 2025-12-30 | 鹰驾科技(深圳)有限公司 | 基于干扰检测的车载无线模组数据传输控制方法 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7159317B2 (ja) * | 2017-12-30 | 2022-10-24 | インテル コーポレイション | 無線通信の方法および装置 |
| US20210302956A1 (en) * | 2021-03-24 | 2021-09-30 | Intel Corporation | Network aware and predictive motion planning in mobile multi-robotics systems |
| CN117916787A (zh) * | 2021-08-06 | 2024-04-19 | 交互数字专利控股公司 | 用于UAV通信的蜂窝连接以及QoS监测和预测 |
-
2023
- 2023-03-24 CN CN202380096193.2A patent/CN120883669A/zh active Pending
- 2023-03-24 WO PCT/EP2023/057698 patent/WO2024199620A1/en not_active Ceased
Also Published As
| Publication number | Publication date |
|---|---|
| WO2024199620A1 (en) | 2024-10-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11871298B2 (en) | Position information assisted network control | |
| Alwarafy et al. | Deep reinforcement learning for radio resource allocation and management in next generation heterogeneous wireless networks: A survey | |
| Alwarafy et al. | The frontiers of deep reinforcement learning for resource management in future wireless HetNets: Techniques, challenges, and research directions | |
| Esmat et al. | Toward resilient network slicing for satellite–terrestrial edge computing IoT | |
| CN120883669A (zh) | 用于控制由第一无线装置采取的路径的方法和设备 | |
| Abdel-Aziz et al. | Ultra-reliable low-latency vehicular networks: Taming the age of information tail | |
| Hoyhtya et al. | Database-assisted spectrum prediction in 5G networks and beyond: A review and future challenges | |
| WO2020152389A1 (en) | Machine learning for a communication network | |
| Hu et al. | A mobility-resilient spectrum sharing framework for operating wireless UAVs in the 6 GHz band | |
| EP4418719A1 (en) | Xapp conflict mitigation framework | |
| Romero et al. | OROS: Online operation and orchestration of collaborative robots using 5G | |
| US20250307643A1 (en) | Multi-agent reinforcement learning processes | |
| Park et al. | SFSH: a novel smart factory SDN-layer handoff scheme in 5G-enabled mobile networks | |
| Ameur et al. | Intelligent UAV Caching and Energy Management in 6 G Networks | |
| EP4451742A1 (en) | Method to operate a mobile radio access network by a network optimizing unit, network optimizing unit, autonomously guided vehicle, radio network comprising a network optimizing unit | |
| Saad et al. | AI-Enabled Dynamic Resource Scheduling in Integrated TN-NTN Systems | |
| US20260012815A1 (en) | Co-Channel Interference Measurement and Mitigation in a Microcell Network | |
| Verma et al. | Proactive Handover Management in 6G Low-Altitude Economy Networks for Aerial Vehicles Using Artificial General Intelligence | |
| US20250184239A1 (en) | Network node and method therein | |
| US20250024343A1 (en) | Dynamic radio resource management | |
| WO2024189411A1 (en) | Estimating future network cell load while preserving user equipment privacy | |
| Ma | Context-aware proactive optimisation in cellular networks | |
| Shui et al. | Resilient Vehicular Communications Under Imperfect Channel State Information | |
| Liu et al. | Event-Triggered CIO Optimization for Cellular-Connected UAVs via Deep Reinforcement Learning | |
| Abrokwa et al. | Intelligent UAV Service Provisioning in 6G RAN Based on Deep Reinforcement Learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication |