CN112532743B - 一种智能负载均衡方法、装置及存储介质 - Google Patents

Abstract

本申请提供了一种智能负载均衡方法、装置及存储介质，旨在根据实际访问场景，自动选择适应于实际访问场景的负载均衡策略对负载进行均衡分配，使负载均衡分配的效果更加优异。所述方法包括：主调服务发起服务调用请求；以集群部署的被调用服务中的各个被调用服务各自配置数据采集服务；数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务；智能负载均衡服务实时分析接收到的指标数据，获得实时分析结果；根据实时分析结果，在多种预设负载均衡策略中自动选择对应于实时分析结果的预设负载均衡策略，通过智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。

Description

一种智能负载均衡方法、装置及存储介质

技术领域

本发明涉及负载均衡技术领域，特别是涉及一种智能负载均衡方法、装置及存储介质。

背景技术

随着互联网技术的不断发展，目前网络的数据访问量与日俱增，在目前的微服务架构场景下，服务以分布式进行部署，每一个服务都是以多实例进行部署，如果不能实现访问均衡分配到多个实例，在高并发场景下将造成服务器的访问堆积而导致宕机。

然而，现有技术中实现访问均衡分配到多个实例的负载均衡方式为开发人员提前指定负载均衡策略，在当前互联网以及微服务的大场景下客户端的访问存在不确定性、多变性，如果只使用开发人员指定的负载均衡策略可能在部分时间下是适合的，但是当访问情况发生变化时有可能就会导致大量的访问堆积在某一个服务器上或者各个服务的负载不均衡，严重的可能会导致业务中断。因此，现有技术中的负载均衡方式无法根据实际访问场景而适应性地动态调整、选择其他更适合的负载均衡策略对服务调用请求进行分配，从而导致对负载均衡效果不佳。

发明内容

本申请实施例提供了一种智能负载均衡方法及存储介质，旨在根据实际访问场景，动态选择适应于实际访问场景的负载均衡策略对负载进行均衡分配，达到更好的负载均衡效果。

本申请实施例第一方面提供了一种智能负载均衡方法，所述方法包括：

主调服务发起服务调用请求；

被调用服务以集群部署，被调用服务集群中的各个被调用服务各自配置数据采集服务；

各个数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务；

所述智能负载均衡服务实时分析接收到的所述指标数据，获得实时分析结果；

根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求。

可选地，所述指标数据，包括：被调用服务的配置信息、被调用服务的TCP连接数信息、被调用服务的平均响应时长信息。

可选地，在所述预设负载均衡策略为优先级智能负载均衡策略的情况下，所述通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求，包括：

根据所述指标数据中的各个被调用服务的配置信息，获得所述各个被调用服务的配置权重，所述配置权重为第一优先级数据，其中，被调用服务配置越高，所述配置权重越高，所述被调用服务的处理能力越高，分配至所述被调用服务的服务调用请求越多；

根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

可选地，在根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，所述方法还包括：

根据所述指标数据中的各个被调用服务的TCP连接数信息，获得所述各个被调用服务的连接数权重，所述连接数权重为第二优先级数据，其中，当多个被调用服务实例配置权重相同时，所述多个被调用服务中，被调用服务的TCP连接数越多，所述被调用服务的连接数权重越高，减少分配至所述被调用服务的服务调用请求；

根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

可选地，在根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，所述方法还包括：

根据所述指标数据中的各个被调用服务的平均响应时长信息，获得所述各个被调用服务的访问权重，所述访问权重为第三优先级数据，其中，被调用服务平均响应时长越长，所述访问权重越低，所述被调用服务的处理能力越低，减少分配至所述被调用服务的服务调用请求；

根据实时采集的所述第三优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

可选地，在所述预设负载均衡策略为用户指定的负载均衡策略的情况下，根据用户指定的负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求之后，所述方法还包括：

所述智能负载均衡服务实时分析接收到的指标数据，获得分析结果；

当所述分析结果中分配至被调用服务的服务调用请求处理异常时，实时输出告警信息，以提示用户将所述指定的负载均衡策略切换为所述优先级智能负载均衡策略。

可选地，所述方法还包括：

根据历史采集的指标数据，通过所述智能负载均衡服务分析所述历史采集的指标数据，获得预测数据；

根据所述预测数据，预测未来时期的服务调用请求并发量，预先在多种预设负载均衡策略中自动选择对应的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。

可选地，所述各个数据采集服务实时采集到各自对应的被调用服务的指标数据，包括：

在被调用服务启动时，数据采集服务通过接口采集到所述被调用服务配置信息；

根据满足每隔设定时间间隔采集一次TCP连接数的方式，所述数据采集服务通过接口采集到所述被调用服务的TCP连接数；

在微服务架构下，所述数据采集服务通过对接微服务架构中的调用链接口采集到所述被调用服务的平均响应时长；

在非微服务架构下，在预设时间段内，所述数据采集服务通过接口采集到被调用服务响应服务调用请求的数量，通过分析获得所述被调用服务的平均响应时长。

本申请实施例第二方面提供了一种智能负载均衡装置，所述装置包括：

主调服务模块，用于发起服务调用请求；

被调用服务模块，用于处理所述主调服务模块发起的服务调用请求，所述被调用服务模块以集群部署；

数据采集服务模块，所述数据采集服务模块配置于对应的被调用服务模块，用于实时采集到所述数据采集服务模块对应的被调用服务模块的指标数据，并发送至智能负载均衡服务模块；

所述智能负载均衡服务模块，用于实时分析接收到的所述指标数据，获得实时分析结果，以及，根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，分配服务调用请求至所述被调用服务集群中的各个被调用服务。

本申请实施例第三方面提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请第一方面所述方法中的步骤。

本申请实施例提供了一种智能负载均衡方法，包括：主调服务发起服务调用请求；以集群部署的被调用服务中的各个被调用服务各自配置数据采集服务；数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务；智能负载均衡服务实时分析接收到的指标数据，获得实时分析结果；根据实时分析结果，在多种预设负载均衡策略中自动选择对应于实时分析结果的预设负载均衡策略，通过智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。

本申请第一方面无需用户选择指定的负载均衡策略实现负载的均衡分配，而是通过对实时采集的指标数据的分析，根据分析结果，从多种预设负载均衡策略中自动选择对应于分析结果的负载均衡策略用于对服务调用请求的均衡分配；

本申请第二方面根据对大量历史指标数据的分析，预测未来时期的访问并发量，提前从多种预设负载均衡策略中自动选择合适的负载均衡策略用于对服务调用请求的均衡分配；

本申请的第三方面根据访问场景需要，用户可以从多种预设负载均衡策略中指定负载均衡策略用于负载的均衡分配，当对指标数据的实时分析结果显示被调用服务存在服务调用请求拥堵时，告警用户切换指定的负载均衡策略为优先级智能负载均衡，使得负载的分配更加均衡，负载均衡的效果更加优异，有效提高网络设备的数据处理能力和有效提高网络设备的数据吞吐量。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请一实施例示出的一种智能负载均衡方法的流程图；

图2是本申请一实施例示出的多层级的服务调用的示意图；

图3是本申请一实施例示出的单层级的服务调用的示意图；

图4是本申请一实施例示出的一种智能负载均衡装置的示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

在对本申请所提供的智能负载均衡方法进行说明之前，下面首先对相关技术领域中的负载均衡方式进行简单说明。

目前网络的数据访问量快速增长，在微服务架构场景下，服务以分布式进行部署，每一个服务都以多实例进行部署，如果不能实现访问均衡分配到各个实例，在高并发场景下将造成服务器的访问堆积而导致宕机。为解决该问题，现有技术中实现访问均衡分配到多个实例采用的负载均衡方式为开发人员提前指定负载均衡策略，实现访问均衡分配至各个服务实例，以此使得各个服务实例达到最佳的处理效果，增加吞吐量和加强数据的处理能力。而现有技术中的这种负载均衡方式，无法根据实际访问场景而适应性地动态调整、选择其他更适合的负载均衡策略对服务调用请求进行分配，在当前互联网以及微服务的大场景下客户端的访问存在不确定性、多变性，如果只使用开发人员指定的负载均衡策略可能在部分时间下是适合的，但是当访问情况发生变化时有可能就会导致大量的访问堆积在某一个服务器上或者各个服务的负载不均衡，严重的可能会导致业务中断。

因此，本申请为克服相关技术中无法根据实际访问场景而适应性地动态调整、选择其他更适合的负载均衡策略对访问进行分配的技术问题，提供了一种智能负载均衡方法。通过该方法第一方面可根据实时采集的指标数据，自动选择对应的负载均衡策略均衡分配访问至各个实例；通过该方法第二方面可根据对大量历史指标数据的分析，预测未来时期的访问并发量，自动选择合适的负载均衡策略用于对访问的均衡分配；通过该方法第三方面可根据访问场景需要，用户可指定负载均衡策略用于负载的均衡分配，当指标数据的实时分析结果显示被调用服务的访问拥堵时，告警用户切换指定的负载均衡策略为优先级智能负载均衡。本申请应用于互联网领域中，使得负载均衡策略可以根据实际访问场景，自动选择相对应的负载均衡策略用于将访问均衡分配至各个服务实例中，使得负载的分配更加均衡，负载均衡的效果更加优异，有效提高现有网络设备的数据处理能力和有效提高了现有网络设备的吞吐量。

参照图1，图1是本申请一实施例示出的一种智能负载均衡方法的流程图。如图1所示，本申请提供的智能负载均衡方法包括以下步骤：

S101：主调服务发起服务调用请求。

在本申请实施例中，微服务架构是指将一个程序划分为多个小的服务，每个服务都围绕着具体的业务进行构建，各个服务独立运行，服务之间相互协调、互相配合实现整个程序的功能；主调服务是指发出服务调用请求的一端服务；被调用服务是指接收服务调用请求的一端服务。

参见图2，图2是本申请一实施例示出的多层级的服务调用的示意图。如图2所示，在微服务架构下，服务调用请求存在多层级服务调用，即服务调用请求会在多个服务之间发出并接收后，返回该服务调用请求对应的结果，同一服务实例，可以作为主调服务，也可以作为被调用服务，当该服务器在发起服务调用请求时，属于主调服务，该服务器在接收到该服务调用请求时，属于被调用服务。

示例地，主调服务A发出服务调用请求T0，智能负载均衡服务将T0分配给服务A1，服务A1接收到T0，此时A为主调服务，A1为被调用服务；A1对该服务调用请求T0处理后，将该服务调用请求T0发出，智能负载均衡服务将T0分配给服务A11，服务A11接收到T0，此时A1为主调服务，A11为被调用服务，最终A11对服务调用请求T0处理后，根据服务调用请求T0，返回该服务调用请求T0对应的结果，其中，在整个服务调用过程中，服务A1接收到服务调用请求T0时为被调用服务，服务A1在发出服务调用请求T0时为主调服务。

在本申请实施例中，参见图3，图3是本申请一实施例示出的单层级的服务调用的示意图。如图3所示，单层的服务实例指的是主调服务发起服务调用请求，在经过一个被调用服务后，返回该服务调用请求对应的结果，不存在同一服务既为主调服务，也为被调用服务的情况。为便于理解，后续示例均以单层级的服务调用为例。

S102：被调用服务以集群部署，被调用服务集群中的各个被调用服务各自配置数据采集服务；各个数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务。

在本申请实施例中，被调用服务以集群进行部署，被调用服务用于对步骤S101主调服务发出的服务调用请求进行处理，根据服务调用请求，返回该服务调用请求对应的结果。各个被调用服务配置了各自对应的数据采集服务，用于采集自身被调服务的指标数据，所述指标数据，包括：被调用服务的配置信息、被调用服务的TCP连接数信息、被调用服务的平均响应时长信息。配置信息包括CPU、内存等，配置越高，被调用服务的数据处理能力越强；TCP连接数信息指该被调用服务当前连接的需要处理的有效服务调用请求数量，TCP连接数量越多，该被调用服务未处理的服务调用请求越多；平均响应时长信息指主调服务发起服务调用请求，被调用服务接收到该服务调用请求，并返回该服务调用请求对应的结果至主调服务的时间，平均响应时长越短，该被调用服务处理能力越强。各个数据采集服务会实时采集到各自对应的被调用服务的指标数据，并将采集的指标数据发送至智能负载均衡服务，用于智能负载均衡服务根据采集的指标数据，选择相适应的负载均衡策略将服务调用请求均衡地分配至被调用服务集群中的各个被调用服务。

在本申请实施例中，所述各个数据采集服务实时采集到各自对应的被调用服务的指标数据，包括：在被调用服务启动时，数据采集服务通过接口采集到所述被调用服务配置信息；根据满足每隔设定时间间隔采集一次TCP连接数的方式，所述数据采集服务通过接口采集到所述被调用服务的TCP连接数；在微服务架构下，所述数据采集服务通过对接微服务架构中的调用链接口采集到所述被调用服务的平均响应时长；在非微服务架构下，在预设时间段内，所述数据采集服务通过接口采集到被调用服务响应服务调用请求的数量，通过分析获得所述被调用服务的平均响应时长。

示例地，被调用服务的配置信息较为固定，一经确定后长时间不会变化，数据采集服务在被调用服务每次启动时，通过接口采集到对应的被调用服务的配置信息，并发送至智能负载均衡服务；TCP连接数随着被调用服务的不断处理，以及，主调服务不断发出的服务调用请求，被调用服务有效的TCP连接数会随着时间不断变化，在每经过一段时间间隔后，各个数据采集服务通过接口采集一次各自对应的被调用服务的有效TCP连接数信息；在微服务架构下，数据采集服务可以直接通过对接微服务架构下的调用链接口采集到的被调用服务的平均响应时长，而非微服务架构下，被调用服务的平均响应时长，需要通过接口采集到的一定时间段内被调用服务所响应的服务调用请求的数量，通过分析获得到平均响应时长，例如：预设时间段为t0，该t0时间段内响应的服务调用请求为n，则平均响应时长为t0/n。

S103：所述智能负载均衡服务实时分析接收到的所述指标数据，获得实时分析结果。

在本申请实施例中，智能负载均衡服务接收到步骤S102各个数据收集服务发送过来的指标数据，根据对接收到的所有指标数据的实时分析，可以获得被调用服务集群中的各个被调用服务的配置信息、TCP连接数信息、平均响应时间信息，由此可以获知各个被调用服务的当前处理状态，以及配置情况。

S104：根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求。

在本申请实施例中，根据步骤S103中的指标数据的实时分析结果获知的各个被调用服务的当前处理状态，以及配置情况，会在多种预设好的负载均衡策略中自动选择到适应于各个被调用服务的当前处理状态，以及，配置情况的负载均衡策略，通过智能负载均衡服务将服务调用请求均衡分配至各个被调用服务。

示例地，多个主调服务发起服务调用请求，各个被调用服务接收到不同数量的服务调用请求，并对接收到的服务调用请求进行处理，返回接收到的服务调用请求对应的结果。各个数据收集服务实时收集到各自对应的被调用服务当前的指标数据，并发送给智能负载均衡服务，智能负载均衡服务对接收到的指标数据进行实时分析，得到各个被调用服务的当前处理状态，以及，配置情况的分析结果。

当分析结果显示各个被调用服务处理服务调用请求的状态良好，不存在分配的服务调用请求拥堵的情况，此时无需选用性能更加优异的负载均衡策略，只需现有常见的负载均衡算法即可满足实际服务调用请的访问需求，智能负载均衡服务自动选择现有常用的负载均衡算法对主动服务发起的服务调用请求进行均衡分配至各个被调用服务。常用的负载均衡算法包括：轮询负载均衡算法、随机负载均衡算法等，轮询负载均衡算法是指将所有的服务调用请求轮流循环分配给所有的被调用服务；随机负载均衡算法是指对于主调服务发起的服务调用请求，将所有的服务调用请求随机分配给所有的被调用服务，当服务调用请求的总量足够大时，分配至各个被调用服务的服务调用请求数量基本一致。

当实时分析结果显示大量主调服务发起服务调用请求，服务调用请求并发量大幅增加，各个被调用服务开始接收到大量服务调用请求，大量分配的服务调用请求在被调用服务开始拥堵，处理速度减慢，此时继续沿用常规的轮询负载均衡算法或随机负载均衡算法，将会使被调用服务的拥堵情况加剧，甚至发生宕机情况，此时，智能负载均衡服务自动选择优先级智能负载均衡策略对主动服务发起的服务调用起请求进行均衡分配至各个被调用服务。

在本申请实施例中，在所述预设负载均衡策略为优先级智能负载均衡策略的情况下，所述通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求，包括：根据所述指标数据中的各个被调用服务的配置信息，获得所述各个被调用服务的配置权重，所述配置权重为第一优先级数据，其中，被调用服务配置越高，所述配置权重越高，所述被调用服务的处理能力越高，分配至所述被调用服务的服务调用请求越多；根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

示例地，当选择了优先级智能负载均衡策略为被调用服务集群均衡分配服务调用请求的情况下，智能负载均衡服务会对采集到的指标数据进行分析，获得各个被调用服务对应的配置权重，配置权重越高，表示被调用服务的配置越高，处理数据能力越强，将为配置权重更高的被调用服务分配更多地服务调用请求，根据分析结果中的各个被调用服务的配置权重，通过智能负载均衡服务为各个被调用服务分配服务调用请求。例如：当前被调用服务为A1至A5，对应的配置权重为10％、30％、10％、30％、20％，主调服务发起了1000个服务调用请求，根据选择的优先级智能负载均衡策略中的第一优先级数据，通过智能负载均衡服务，将主调服务发起的1000个服务调用请求分配至被调用服务A1至A5，分别为100、300、100、300、200。

在本申请实施例中，在根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，还包括：根据所述指标数据中的各个被调用服务的TCP连接数信息，获得所述各个被调用服务的连接数权重，所述连接数权重为第二优先级数据，其中，当多个被调用服务实例配置权重相同时，所述多个被调用服务中，被调用服务的TCP连接数越多，所述被调用服务的连接数权重越高，减少分配至所述被调用服务的服务调用请求；根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

沿用上述示例，当根据优先级智能负载均衡策略中的第一优先级数据，通过智能负载均衡服务将1000个服务调用请求分配至被调用服务A1至A5之后，实时采集到各个被调用服务的有效TCP连接数，获得各个被调用服务的连接数权重。多个被调用服务的配置权重相同时，可能会由于其他网络带宽等因素导致多个被调用服务配置相同，但数据处理能力存在一定差异，由此，多个被调用服务的配置权重相同，而多个被调用服务实例的有效TCP连接数将不同。判断相同配置权重的多个被调用服务的连接数权重，连接数权重越大，被调用服务的未处理服务调用请求越多，为相同配置权重的多个被调用服务中的连接数权重大的被调用服务分配更少的服务调用请求，为相同配置权重的多个被调用服务中的连接数权重小的被调用服务分配更多的服务调用请求。例如：在根据优先级智能负载均衡策略中的第一优先级数据，通过智能负载均衡服务将1000个服务调用请求分配至被调用服务A1至A5之后，实时采集到被调用服务的对应有效TCP连接数分别为75、150、50、200、25，对应的连接数权重为15％、30％、10％、40％、5％。此时主调服务新发起了1000个服务调用请求，A1和A3配置权重相同，而A1当前连接数较多，A1数据处理能力相较A3更低，新发起的服务调用请求将更少地被分配至A1；A2和A4配置权重相同，而A4当前连接数较多，A4数据处理能力相较A2更低，新发起的服务调用请求将更少地被分配至A4。

被调用服务集群总的服务调用请求数量为当前采集到的被调用服务集群总的有效TCP连接数与新发起的服务调用请求数量之和，需要分配至各个被调用服务的服务调用请求数量为被调用服务集群总的服务调用请求数量与各个被调用服务配置权重的乘积，新发起的服务调用请求分配至各个被调用服务的数量为需要分配至各个被调用服务的服务调用请求数量与各个被调用服务当前有效TCP连接数的差值，由此主调服务新发起的1000个服务调用请求分配至A1至A5的服务调用请求，分别为75、300、100、250、275。

在本申请实施例中，在根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，还包括：根据指标数据中的各个被调用服务的平均响应时长信息，获得所述各个被调用服务的访问权重，所述访问权重为第三优先级数据，其中，被调用服务平均响应时长越长，所述访问权重越低，所述被调用服务的处理能力越低，减少分配至所述被调用服务的服务调用请求；根据实时采集的所述第三优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

沿用上述示例，根据优先级智能负载均衡策略中的第一优先级数据，以及，优先级智能负载均衡策略中的第二优先级数据，通过智能负载均衡服务将新发起的1000个服务调用请求分配至被调用服务A1至A5，实时采集到各个被调用服务的平均响应时长分别为20％、20％、25％、15％、20％。平均响应时长直接反映了被调用服务处理服务调用请求的处理能力，平均响应时长越长，被调用服务处理服务调用请求的速度越慢，对应的访问权重越低，减少分配至该被调用服务的服务调用请求。此时主调服务新发起了2000个服务调用请求，平均响应时长直接反映被调用服务处理服务调用请求的处理能力，直接根据各个被调用服务的访问权重，通过智能负载均衡服务将2000个服务调用请求分配至被调用服务A1至A5，分别为400、400、500、300、400。

应当理解的，上述示例中的常用的负载均衡算法仅作为本申请可实施方式中的一种举例，现有常用的其他负载均衡算法也可作为本申请智能负载均衡服务自动选择的负载均衡策略，上述示例不应解释为对本申请的限定。

在本申请实施例中，在所述预设负载均衡策略为用户指定的负载均衡策略的情况下，根据用户指定的负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求之后，还包括：所述智能负载均衡服务实时分析接收到的指标数据，获得分析结果；当所述分析结果中分配至被调用服务的服务调用请求处理异常时，实时输出告警信息，以提示用户将所述指定的负载均衡策略切换为所述优先级智能负载均衡策略。

示例地，为满足采用特定的负载均衡策略对被调用服务集群进行负载均衡分配的访问场景，用户可指定负载均衡策略，通过智能负载均衡服务将服务调用请求均衡分配至各个被调用服务，在整个负载均衡过程中不会切换至其他负载均衡策略，而会实时采集到的各个被调用服务的指标数据，通过对指标数据的分析，获得分析结果，当分析结果显示部分被调用服务存在服务调用请求拥堵情况时，实时告警用户切换为优先级智能负载均衡策略，用户手动选择是否切换至优先级智能负载均衡策略。

在本申请实施例中，根据历史采集的指标数据，通过所述智能负载均衡服务分析所述历史采集的指标数据，获得预测数据；根据所述预测数据，预测未来时期的服务调用请求并发量，预先在多种预设负载均衡策略中自动选择对应的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。

示例地，根据对历史采集的大量指标数据的分析，获得预测数据。当预测数据显示在多个时间周期内的指定时间段内都出现了高并发量的服务调用请求，根据预测数据提前在各个时间周期内的指定时间段自动切换为适应该访问场景的预设负载均衡策略；当预测数据显示在多个时间周期内原本应该是发起较低数量的服务调用请求时，突然出现异于正常发起的服务调用请求，而在接下来的一段时间都出现了高并发量的服务调用请求，由此根据预测数据可以提前在各个时间周期内的出现异于正常发起的服务调用请求时，自动切换为适应该访问场景的预设负载均衡策略。

本申请实施例提供了一种智能负载均衡方法，包括：主调服务发起服务调用请求；以集群部署的被调用服务中的各个被调用服务各自配置数据采集服务；数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务；智能负载均衡服务实时分析接收到的指标数据，获得实时分析结果；根据实时分析结果，在多种预设负载均衡策略中自动选择对应于实时分析结果的预设负载均衡策略，通过智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。本申请无需用户指定负载均衡策略实现负载的均衡分配，而是通过对实时采集的指标数据的分析，根据分析结果，从多种预设负载均衡策略中自动选择对应于分析结果的负载均衡策略用于对服务调用请求的均衡分配；同时，可以根据对大量历史指标数据的分析，预测未来时期的访问并发量，提前从多种预设负载均衡策略中自动选择合适的负载均衡策略用于对服务调用请求的均衡分配；还可以根据访问场景需要，用户从多种预设负载均衡策略中指定负载均衡策略用于负载的均衡分配，当对指标数据的实时分析结果显示被调用服务存在服务调用请求拥堵时，告警用户切换负载均衡策略为优先级智能负载均衡策略，使得负载的分配更加均衡，负载均衡的效果更加优异。通过采用本申请的智能负载均衡方法，可根据实际访问场景，自动选择适应于访问场景的负载均衡策略将服务调用请求均衡分配至被调用服务集群，使负载更加均衡地分配至被调用服务集群中的各个被调用服务，负载均衡效果更加优异，有效提高网络设备的数据处理能力和有效提高网络设备的数据吞吐量。

基于同一发明构思，本申请一实施例提供一种智能负载均衡装置。参考图4，图4是本申请一实施例提供的智能负载均衡装置的示意图。如图4所示，该装置包括：

主调服务模块41，用于发起服务调用请求；

被调用服务模块42，用于处理所述主调服务模块发起的服务调用请求，所述被调用服务模块以集群部署；

数据采集服务模块43，所述数据采集服务模块配置于对应的被调用服务模块，用于实时采集到所述数据采集服务模块对应的被调用服务模块的指标数据，并发送至智能负载均衡服务模块；

所述智能负载均衡服务模块44，用于实时分析接收到的所述指标数据，获得实时分析结果，以及，根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，分配服务调用请求至所述被调用服务集群中的各个被调用服务。

基于同一发明构思，本申请另一实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时，实现如本申请上述任一实施例所述方法中的步骤。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本发明所提供的一种智能负载均衡方法、装置及存储介质，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (9)

1.一种智能负载均衡方法，其特征在于，所述方法包括：

主调服务发起服务调用请求；

被调用服务以集群部署，被调用服务集群中的各个被调用服务各自配置数据采集服务；

各个数据采集服务实时采集到各自对应的被调用服务的指标数据，并发送至智能负载均衡服务；

所述智能负载均衡服务实时分析接收到的所述指标数据，获得实时分析结果，其中，所述实时分析结果表示各个被调用服务的当前处理状态，以及配置情况；

根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求；

其中，根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，包括：

当分析结果表征不存在分配的服务调用请求拥堵的情况时，自动选择第一负载均衡策略，所述第一负载均衡策略为：轮询负载均衡算法或随机负载均衡算法；

当分析结果表征存在分配的服务调用请求拥堵的情况时，自动选择优先级智能负载均衡策略，优先级智能负载均衡策略是按照多个不同优先级等级的指标数据对服务调用请求进行分配的策略，所述多个不同优先级等级的指标数据为：被调用服务的配置信息、被调用服务的TCP连接数信息、被调用服务的平均响应时长信息。

2.根据权利要求1所述方法，其特征在于，在所述预设负载均衡策略为优先级智能负载均衡策略的情况下，所述通过所述智能负载均衡服务动态调整分配至所述被调用服务集群中的各个被调用服务的服务调用请求，包括：

根据所述指标数据中的各个被调用服务的配置信息，获得所述各个被调用服务的配置权重，所述配置权重为第一优先级数据，其中，被调用服务配置越高，所述配置权重越高，所述被调用服务的处理能力越高，分配至所述被调用服务的服务调用请求越多；

根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

3.根据权利要求2所述方法，其特征在于，在根据所述第一优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，所述方法还包括：

根据所述指标数据中的各个被调用服务的TCP连接数信息，获得所述各个被调用服务的连接数权重，所述连接数权重为第二优先级数据，其中，当多个被调用服务实例配置权重相同时，所述多个被调用服务中，被调用服务的TCP连接数越多，所述被调用服务的连接数权重越高，减少分配至所述被调用服务的服务调用请求；

根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

4.根据权利要求3所述方法，其特征在于，在根据实时采集的所述第二优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求之后，所述方法还包括：

根据所述指标数据中的各个被调用服务的平均响应时长信息，获得所述各个被调用服务的访问权重，所述访问权重为第三优先级数据，其中，被调用服务平均响应时长越长，所述访问权重越低，所述被调用服务的处理能力越低，减少分配至所述被调用服务的服务调用请求；

根据实时采集的所述第三优先级数据，通过所述智能负载均衡服务动态调整分配至所述各个被调用服务的服务调用请求。

5.根据权利要求2-4任一所述方法，其特征在于，在所述预设负载均衡策略为用户指定的负载均衡策略的情况下，根据用户指定的负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求之后，所述方法还包括：

所述智能负载均衡服务实时分析接收到的指标数据，获得分析结果；

当所述分析结果中分配至被调用服务的服务调用请求处理异常时，实时输出告警信息，以提示用户将所述指定的负载均衡策略切换为所述优先级智能负载均衡策略。

6.根据权利要求1所述方法，其特征在于，所述方法还包括：

根据历史采集的指标数据，通过所述智能负载均衡服务分析所述历史采集的指标数据，获得预测数据；

根据所述预测数据，预测未来时期的服务调用请求并发量，预先在多种预设负载均衡策略中自动选择对应的预设负载均衡策略，通过所述智能负载均衡服务动态调整分配至各个被调用服务的服务调用请求。

7.根据权利要求1所述方法，其特征在于，所述各个数据采集服务实时采集到各自对应的被调用服务的指标数据，包括：

在被调用服务启动时，数据采集服务通过接口采集到所述被调用服务配置信息；

根据满足每隔设定时间间隔采集一次TCP连接数的方式，所述数据采集服务通过接口采集到所述被调用服务的TCP连接数；

在微服务架构下，所述数据采集服务通过对接微服务架构中的调用链接口采集到所述被调用服务的平均响应时长；

在非微服务架构下，在预设时间段内，所述数据采集服务通过接口采集到被调用服务响应服务调用请求的数量，通过分析获得所述被调用服务的平均响应时长。

8.一种智能负载均衡装置，其特征在于，所述装置包括：

主调服务模块，用于发起服务调用请求；

被调用服务模块，用于处理所述主调服务模块发起的服务调用请求，所述被调用服务模块以集群部署；

数据采集服务模块，所述数据采集服务模块配置于对应的被调用服务模块，用于实时采集到所述数据采集服务模块对应的被调用服务模块的指标数据，并发送至智能负载均衡服务模块；

所述智能负载均衡服务模块，用于实时分析接收到的所述指标数据，获得实时分析结果，以及，根据所述实时分析结果，在多种预设负载均衡策略中自动选择对应于所述实时分析结果的预设负载均衡策略，分配服务调用请求至所述被调用服务集群中的各个被调用服务，其中，所述实时分析结果表示各个被调用服务的当前处理状态，以及配置情况；

其中，所述智能负载均衡服务模块，包括：

第一负载均衡策略确定模型，用于当分析结果表征不存在分配的服务调用请求拥堵的情况时，自动选择第一负载均衡策略，所述第一负载均衡策略为：轮询负载均衡算法或随机负载均衡算法；

第一负载均衡策略确定模型，用于当分析结果表征存在分配的服务调用请求拥堵的情况时，自动选择优先级智能负载均衡策略，优先级智能负载均衡策略是按照多个不同优先级等级的指标数据对服务调用请求进行分配的策略，所述多个不同优先级等级的指标数据为：被调用服务的配置信息、被调用服务的TCP连接数信息、被调用服务的平均响应时长信息。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8任一所述智能负载均衡方法中的步骤。

Images