[go: up one dir, main page]

WO2020036162A1 - 負荷分散システム及び負荷分散方法 - Google Patents

負荷分散システム及び負荷分散方法 Download PDF

Info

Publication number
WO2020036162A1
WO2020036162A1 PCT/JP2019/031781 JP2019031781W WO2020036162A1 WO 2020036162 A1 WO2020036162 A1 WO 2020036162A1 JP 2019031781 W JP2019031781 W JP 2019031781W WO 2020036162 A1 WO2020036162 A1 WO 2020036162A1
Authority
WO
WIPO (PCT)
Prior art keywords
flow
application
packet
application information
entry
Prior art date
Application number
PCT/JP2019/031781
Other languages
English (en)
French (fr)
Inventor
明寛 木村
伸也 河野
土屋 英雄
昭宏 岡田
克真 宮本
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to US17/267,945 priority Critical patent/US11757779B2/en
Publication of WO2020036162A1 publication Critical patent/WO2020036162A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2441Traffic characterised by specific attributes, e.g. priority or QoS relying on flow classification, e.g. using integrated services [IntServ]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching

Definitions

  • the present invention relates to a load distribution system and a load distribution method.
  • a technique for distributing the load of a packet transfer device such as a router has been conventionally known.
  • a technique is known in which a plurality of packet transfer apparatuses and a plurality of transfer paths are prepared as packet transfer destinations, and traffic is evenly applied to each transfer path to distribute the load of the packet transfer apparatus.
  • a technique called ECMP (Equal / Cost / Multi / Path) or ECMP routing is also known.
  • ECMP is a load distribution technique for uniformly applying traffic to a transfer path having the same cost among a plurality of transfer paths described above.
  • bps bits per second
  • pps packets per second
  • these transfer capacities have upper limits unique to the packet transfer device.
  • bps may be limited by a line rate of a physical NIC (Network Interface Card)
  • pps may be a packet processing of software such as an OS (Operating System) or an application. May be limited by speed.
  • a flow refers to a packet (traffic) or a group of packets having the same flow identifier for identifying the flow.
  • the flow identifier is specified by header information included in the packet. For example, 5-tuple (source IP (Internet @ Protocol) address, destination IP address, source port number, destination port number, protocol number) or L7 information (For example, L7 header information).
  • traffic such as moving images has the property of having many long packets. For this reason, when traffic such as moving images is concentrated, the transfer capacity of the data amount is depleted, while the transfer capacity of the number of packets has a margin.
  • traffic such as VoIP (Voice over Internet Protocol) and telemetry has the property that there are many short packets. For this reason, when traffic such as VoIP and telemetry converges, the transfer capacity for the data amount has room, but the transfer capacity for the number of packets is depleted.
  • the load distribution of a server that hosts a vCPE Virtualized CPE that virtualizes a part of the function of an in-home device (Customer ⁇ Premises ⁇ Equipment) is determined based on the load state of the server in terms of bps and pps and the packet length of the flow.
  • vCPE Virtualized CPE
  • There is a load distribution method to be performed for example, Non-Patent Document 1).
  • the embodiment of the present invention has been made in view of the above points, and has as its object to efficiently and accurately specify flow characteristics.
  • an embodiment of the present invention provides an application information storing information in which application information including flow characteristics of an application of a flow constituted by a packet is associated with a flow identifier for identifying the flow of the packet.
  • Storage means when the input port receives a packet, an acquisition means for acquiring application information of a flow constituted by the packet from the application information storage means, and a flow characteristic included in the application information acquired by the acquisition means.
  • output means for outputting the packet received by the input port to a packet transfer device in a load state indicating that the load due to the flow having the flow characteristic is low among the plurality of packet transfer devices.
  • the purpose is to specify the flow characteristics efficiently and accurately.
  • FIG. 1 is a diagram illustrating an example of an overall configuration of a load distribution system according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating an example of a functional configuration of the load distribution system according to the embodiment.
  • FIG. 3 is a diagram illustrating an example of an entry in the application information database according to the embodiment.
  • FIG. 4 is a diagram illustrating an example of an entry in the application information cache according to the embodiment.
  • FIG. 5 is a diagram for explaining how to use the application information cache in the embodiment.
  • FIG. 6 is a diagram illustrating an example of an ECMP path table according to the embodiment.
  • FIG. 7 is a diagram illustrating an example of a processing flow of the load distribution system according to the embodiment.
  • FIG. 1 is a diagram illustrating an example of an overall configuration of a load distribution system according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating an example of a functional configuration of the load distribution system according to the embodiment.
  • FIG. 3 is a diagram
  • FIG. 8 is a diagram for describing an example of the flow of a process of changing the ECMP path table in the embodiment.
  • FIG. 9 is a diagram illustrating an example of a flow of a packet transfer process according to the embodiment.
  • FIG. 10 is a diagram illustrating an example of a flow of a registration process in the application information cache according to the embodiment.
  • FIG. 11 is a diagram for explaining an example of the flow of the entry specifying process.
  • FIG. 12 is a diagram illustrating an example of a hardware configuration of a computer.
  • a load distribution system 1 that specifies flow characteristics and performs load distribution based on the specified flow characteristics.
  • the flow characteristics include a “high bps flow” indicating that there are many long packets and a “high pps flow” indicating that there are many short packets.
  • FIG. 1 is a diagram illustrating an example of an overall configuration of a load distribution system 1 according to an embodiment of the present invention.
  • the load distribution system 1 includes a load monitoring device 10, a first packet transfer device 20, a second packet transfer device 30, an application information database 40, , The application determination device 50.
  • the load monitoring device 10 is, for example, a computer or a computer system, and monitors the traffic flow of the second packet transfer device 30 to be load-balanced. Then, when the traffic flow rate of the second packet transfer device 30 exceeds a predetermined threshold value (or when the traffic flow value falls below the predetermined threshold value), the load monitoring device 10 performs the load distribution (or cancels the load distribution). Is transmitted to the first packet transfer device 20.
  • the first packet transfer device 20 is, for example, a router or the like, and transfers a packet from the network N1 to the second packet transfer device 30.
  • the first packet transfer device 20 refers to a predetermined table used for load distribution and, among the plurality of second packet transfer devices 30, the second packet transfer device 30 corresponding to the flow characteristic. Transfer the packet.
  • the first packet transfer device 20 changes a predetermined table used for load distribution according to a command from the load monitoring device 10.
  • the second packet transfer device 30 is, for example, a router or the like, and transfers the packet transferred from the first packet transfer device 20 to the network N2.
  • the plurality of second packet transfer devices 30 are distinguished from each other, they are represented as “second packet transfer device 30-1”, “second packet transfer device 30-2”, and the like.
  • the application information database 40 is a database that stores application types and flow characteristics for each flow as application information.
  • the application is an application
  • the application type is an application type
  • the flow characteristics are flow characteristics of the application.
  • the application determination device 50 is, for example, a computer or a computer system, and searches the application information of the flow using the application information database 40.
  • the configuration of the load distribution system 1 shown in FIG. 1 is an example, and another configuration may be used.
  • the first packet transfer device 20 and the second packet transfer device 30 may be virtual routers or the like constructed on a computer or the like by a network virtualization technique.
  • FIG. 2 is a diagram illustrating an example of a functional configuration of the load distribution system 1 according to the embodiment.
  • the load monitoring device 10 includes a flow rate monitoring unit 101, a load distribution determination unit 102, and a command transmission unit 103.
  • the flow monitoring unit 101 monitors the traffic flow of the second packet transfer devices 30 from the statistical information of the second packet transfer devices 30 in terms of the data amount (bps) and the number of packets (pps). That is, the flow monitoring unit 101 obtains the data amount (bps) and the number of packets (pps) as the monitoring result for each second packet transfer device 30.
  • the data amount (bps) obtained as the monitoring result is referred to as “bps result value”
  • the number of packets (pps) obtained as the monitoring result is referred to as “pps result value”.
  • the load distribution determining unit 102 determines whether to execute or cancel the load distribution. That is, the load distribution determination unit 102 determines whether the bps result value exceeds or falls below a preset bps threshold. Similarly, the load balancing determination unit 102 determines whether the pps result value has exceeded or falls below a preset pps threshold.
  • the load distribution determination unit 102 determines that the bps result value has exceeded the bps threshold, it determines that load distribution is to be performed. On the other hand, when it is determined that the bps result value has fallen below the bps threshold, the load distribution determination unit 102 determines to release the load distribution.
  • the load distribution determination unit 102 determines that the pps result value has exceeded the pps threshold.
  • the load distribution determination unit 102 determines to perform load distribution.
  • the load distribution determination unit 102 determines to release the load distribution.
  • the command transmission unit 103 transmits a predetermined command to the first packet transfer device 20 when the load distribution determination unit 102 determines that the load distribution should be performed or when it determines that the load distribution should be released.
  • the command includes “threshold value type”, “command type”, and “identification information of target device”.
  • the “threshold type” is a type of a threshold value that has exceeded the monitoring result or a threshold value that has fallen below the monitoring result. Either information indicating the bps threshold or information indicating the pps threshold is set. In the “instruction type”, information indicating whether to execute or cancel the load distribution is set.
  • the “identification information of the target device” is identification information of the second packet transfer device 30 whose monitoring result exceeds or falls below the threshold, and for example, the IP address of the second packet transfer device 30 is set. However, in addition to the IP address, for example, an ID, a MAC (Media Access Control) address, a host name, and the like of the second packet transfer device 30 may be set in the “identification information of the target device”.
  • the application information database 40 is a database that associates flow identifiers with application types and flow characteristics.
  • FIG. 3 is a diagram illustrating an example of an entry in the application information database 40 according to the embodiment.
  • FIG. 3 shows a case where the flow identifier is 5-tuple.
  • the entries of the application information database 40 include “source IP address”, “source port number”, “destination IP address”, “destination port number”, and “protocol number”. , “Application type”, and “flow characteristics”.
  • the IP address of the source of the packet is set.
  • the port number of the source of the packet is set.
  • the IP address of the destination of the packet is set.
  • the IP address of the destination of the packet is set.
  • the “destination port number” a port number of the destination of the packet is set.
  • the “protocol number” a number indicating the type of the protocol is set.
  • the “application type” the type of the application of the flow is set. For example, application types include “moving image”, “VoIP”, and “telemetering”.
  • the flow characteristics whether the flow is a “high bps flow” or a “high pps flow” is set.
  • the “source IP address” and the “source port number” may not be included in the entry of the application information database 40.
  • “443” of “destination port number” is a port number used in HTTPS (Hypertext Transfer Protocol Secure)
  • “6” of “protocol number” indicates that the protocol is TCP (Transmission Control Protocol). Show.
  • the application information database 40 is realized by, for example, a random access memory (RAM), an auxiliary storage device, a dedicated memory device, or the like.
  • the application determination device 50 includes an application information search unit 51.
  • the application information search unit 51 receives the flow identifier from the first packet transfer device 20, searches the application information database 40 using the flow identifier as a key, and specifies the application type and the flow characteristics. Then, the application information search unit 51 transmits the specified application type and the flow characteristics together with the flow identifier to the first packet transfer device 20.
  • the first packet transfer device 20 includes a command receiving unit 201, a route table changing unit 202, an input port 203, a flow information obtaining unit 204, and an application determining unit 205. , A route determination unit 206, a routing unit 207, an output port 208, and an input buffer 209.
  • Each of these functional units is realized by, for example, a process in which one or more programs installed in the first packet transfer device 20 cause a CPU or the like to execute.
  • the command receiving unit 201 receives a command from the load monitoring device 10.
  • the path table changing unit 202 changes the ECMP path table 1000 according to the command received by the command receiving unit 201.
  • the ECMP path table 1000 is a table that stores path information as an entry.
  • the ECMP path table 1000 is stored in, for example, an auxiliary storage device or a dedicated memory device. Details of the ECMP path table 1000 in the embodiment will be described later.
  • the input port 203 receives a packet from the network N1. Then, the input port 203 stores the received packet in the input buffer 209.
  • the input buffer 209 is a storage area for temporarily storing received packets, and is realized by, for example, a RAM, an auxiliary storage device, a dedicated memory device, or the like.
  • the flow information acquisition unit 204 generates a hash value from the flow identifier (for example, 5-tuple) of the packet stored in the input buffer 209. Also, the flow information acquisition unit 204 refers to the flow table 2000 and determines whether there is an entry including a hash value that matches the generated hash value.
  • the flow table 2000 is a table that stores, as an entry, flow transfer information in which a hash value is associated with information indicating the output port 208 (output port information).
  • the output port information is information for specifying one of the plurality of output ports 208.
  • the flow table 2000 is stored in, for example, a RAM, an auxiliary storage device, a dedicated memory device, or the like.
  • the flow information acquisition unit 204 determines that the corresponding entry exists, the flow information acquisition unit 204 notifies the routing unit 207 of the entry.
  • the flow information acquisition unit 204 determines that the packet is a packet of a new flow, and notifies the application determination unit 205 that the corresponding entry does not exist. At this time, the flow information acquisition unit 204 notifies the application determination unit 205 of the flow identifier and the hash value.
  • the entry (flow transfer information) stored in the flow table 2000 may be deleted (cleared) at predetermined time intervals by, for example, the route determination unit 206 or the like.
  • the application determination unit 205 searches the application information cache 3000 and specifies an application type and a flow characteristic corresponding to the flow of the received packet.
  • the application determining unit 205 searches the application information cache 3000 using the flow identifier as a key.
  • FIG. 4 is a diagram showing an example of an entry of the application information cache 3000 in the embodiment.
  • the entries in the application information cache 3000 include the “source IP address”, the “source port number”, and the “destination IP”, as in the entry of the application information database 40 shown in FIG.
  • An address, a destination port number, a protocol number, an application type, and a flow characteristic are included.
  • the entry in the application information cache 3000 includes a “time stamp”.
  • the “time stamp” the date registered in the application information cache 3000 and the hour, minute, and second are set.
  • the application determination unit 205 The flow identifier is transmitted to the determination device 50 to request the identification of the application type and the flow characteristics.
  • the application determining unit 205 registers the application type and the flow characteristics acquired from the application determining device 5 in the application information cache 3000 in association with the flow identifier.
  • the application information cache 3000 is used by being divided into three areas, and the application determination unit 205 registers in one of the three areas based on the application type.
  • FIG. 5 is a diagram for explaining how to use the application information cache 3000 in the embodiment.
  • the application information cache 3000 is divided into an LRU (Least ⁇ Recently ⁇ Used) area with a low priority, an automatic registration area with a medium priority, and a manual registration area with a high priority.
  • LRU east ⁇ Recently ⁇ Used
  • the priority indicates the order of deletion from the application information cache 3000 when the application information cache 3000 is full and the entry is replaced. The lower the priority, the higher the priority.
  • each area is shown as a continuous area, but each area is a discontinuous area, and entries in each area are managed by a list structure or the like.
  • An entry for a normal application flow is registered in the $ LRU area.
  • the replacement is performed according to the LRU algorithm.
  • an entry for an application flow that needs to be preferentially cached is registered. For example, an entry of an application flow requiring low delay is registered in the automatic registration area.
  • the replacement is performed according to the LRU algorithm from the LRU area and the automatic registration area.
  • a value obtained by multiplying the elapsed time calculated from the “time stamp” by an arbitrary weight coefficient ⁇ (0 ⁇ ⁇ 1) is used.
  • the deleted entry is replaced with an entry in the LRU area.
  • the manual registration area is an area where entries explicitly registered by a user or an operator are cached.
  • the replacement is performed according to the LRU algorithm from the LRU area and the automatic registration area.
  • a value obtained by multiplying the elapsed time by an arbitrary weight coefficient ⁇ (0 ⁇ ⁇ 1) is used.
  • the application determination unit 205 notifies an error.
  • the deleted entry is replaced with an entry in the LRU area.
  • the application determining unit 205 notifies the route determining unit 206 of the identified application type and flow characteristics. At this time, the application determination unit 205 notifies the route determination unit 206 of, for example, 5-tuple, application type, flow characteristics, and hash value.
  • the application information search unit 51 and the application determination unit 205 search for the application type from the application information database 40 and the application information cache 3000, respectively. Is also good.
  • the application determining unit 205 specifies the flow characteristic from the application type based on the correspondence between the application type and the flow characteristic.
  • the route determining unit 206 refers to the ECMP route table 1000 and determines the output port 208 from the flow characteristics specified by the application determining unit 205. Further, the path determination unit 206 stores, in the flow table 2000, flow transfer information in which information indicating the determined output port 208 is associated with a hash value. Then, the route determination unit 206 notifies the routing unit 207 of the entry (flow transfer information) stored in the flow table 2000.
  • the routing unit 207 acquires the output port information included in the entry (flow transfer information) notified from the flow information acquisition unit 204 or the route determination unit 206. Then, the routing unit 207 transmits the packet to the output port 208 indicated by the obtained output port information.
  • the output port 208 outputs the packet received from the routing unit 207.
  • the output port 208 exists, for example, for each second packet transfer device 30.
  • the output port 208 includes an output port 208-1 corresponding to the second packet transfer device 30-1, an output port 208-2 corresponding to the second packet transfer device 30-2, and the like.
  • the output port 208 may be a physical port or a logical port.
  • FIG. 6 is a diagram illustrating an example of the ECMP path table 1000 according to the embodiment.
  • the ECMP path table 1000 in the embodiment stores path information as entries.
  • the route information includes “destination network”, “subnet mask”, “list of gateways”, “output port information”, “load state of data amount (bps)”, and “number of packets (pps). ) Load state ”.
  • IP In the “destination network”, the IP address or default of the network to which the packet is transferred is set. In “Subnet mask”, a subnet mask corresponding to the destination network is set.
  • IP In the “gateway list”, the IP address of the gateway (second packet transfer device 30) corresponding to the destination network is set. In the “gateway list”, IP addresses of one or more gateways are set for one destination network.
  • “eth1” indicating the output port 208-2 is associated with the gateway “192.168.1.1”. This indicates that when transmitting a packet from the gateway “192.168.1.1”, the packet is transmitted from the output port 208-2.
  • the load state of the data amount (bps) in the gateway is set.
  • the load state of the data amount (bps) in the corresponding gateway is “low load”. It is shown that.
  • “1” is set in “load state of data amount (bps)”, it indicates that the load state of the data amount (bps) in the corresponding gateway is “high load”.
  • the load state of the number of packets (pps) in the gateway is set for each gateway (IP address) set in the “list of gateways”.
  • IP address IP address
  • the load state of the number of packets (pps) in the corresponding gateway is “low load”. It is shown that.
  • “1” is set in “the load state of the number of packets (pps)”, it indicates that the load state of the number of packets (pps) in the corresponding gateway is “high load”.
  • the ECMP path table 1000 in the embodiment stores, for each destination network, path information including one or more gateways to the destination network, and output port information and load status of each gateway. I have.
  • each gateway exceeds (or falls below) the threshold
  • the load status corresponding to the gateway is changed, and
  • load distribution is performed by transmitting a packet from a gateway in a low load state according to the flow characteristics.
  • FIG. 7 is a diagram illustrating an example of a processing flow of the load distribution system 1 according to the embodiment.
  • the flow monitoring unit 101 of the load monitoring device 10 monitors the traffic flow from the viewpoint of bps and pps from the statistical information of the second packet transfer devices 30-1 and 30-2 to be load-balanced (1). Then, the flow monitoring unit 101 notifies the monitoring result to the load distribution determining unit 102 (2).
  • the load distribution determination unit 102 determines the execution of the load distribution. Conversely, when the value falls below the threshold value, the load distribution determining unit 102 determines release of the load distribution. Further, the load distribution determining unit 102 notifies the instruction transmitting unit 103 of the determined content (3).
  • the command transmitting unit 103 transmits a command to the first packet transfer device 20 based on the determination of the load distribution determining unit 102 (4).
  • the command includes (i) a threshold type (bps threshold or pps threshold), (ii) a command type (implementation or cancellation), and (iii) target device identification information.
  • the identification information of the control device includes, for example, the device ID, IP address, MAC address, and host name.
  • the command receiving unit 201 of the first packet transfer device 20 receives the command from the load monitoring device 10 and the content of the received command ((i) threshold type, (ii) command type, (iii) target The device identification information is notified to the route table changing unit 202 (5).
  • the routing table changing unit 202 changes the contents of the ECMP routing table 1000 based on the command (6).
  • the ECMP path table 1000 holds path information as an entry.
  • the entry includes a destination network, a subnet mask, a list of gateways, an output port 208 corresponding to the gateway, and gateway load status information.
  • the input port 203 stores the received packet in the input buffer 209 (7).
  • the input buffer 209 temporarily buffers the packet, and uses the 5-tuple of the packet as a flow identifier, and inquires the registration status of the flow table 2000 to the flow information acquisition unit 204 (8).
  • the flow information acquisition unit 204 generates a hash value from the flow identifier, refers to the flow table 2000 using the hash value as a key, and checks the registration status of the flow identified by the flow identifier (9).
  • the load distribution system 1 omits the procedures (10) to (18) thereafter.
  • the flow information acquisition unit 204 notifies the application identification unit 205 of the flow identifier and the hash value, and waits for the notification (18) of registration in the flow table 2000 (10). .
  • the application determination unit 205 refers to the application information cache 3000 using the flow identifier as a key, and checks the cache status of the flow identified by the flow identifier (11). If the flow is cached, the load distribution system 1 omits the procedures (12) to (14) thereafter.
  • the application determination unit 205 notifies the application information search unit 51 of the application determination device 50 of the flow identifier (12).
  • the application information search unit 51 refers to the application information database 40 using the flow identifier as a key (13).
  • the application information search unit 51 notifies the application determination unit 205 of the reference result of the application information database 40 (14). At this time, if there is a matching entry, the application information search unit 51 notifies the flow identifier, the application type, and the flow characteristics. If there is no matching entry, the application information search unit 51 notifies that there is no matching entry.
  • the application determination unit 205 notifies the route determination unit 206 of the flow identifier, the application type, the flow characteristics, and the hash value (15).
  • the application determining unit 205 registers the flow identifier, the application type, and the flow characteristic in the application information cache 3000 in association with each other.
  • the route determination unit 206 determines the output port 208 by comparing the notification content of the application determination unit 205 with the ECMP route table 1000 (16).
  • the route determination unit 206 registers the determined output port information in the flow table 2000 (17).
  • the route determination unit 206 notifies the flow information acquisition unit 204 that registration to the flow table 2000 has been completed (18).
  • the flow information acquisition unit 204 notifies the input buffer 209 of the registration status in the flow table 2000 (19).
  • the input buffer 209 transmits the packet to the routing unit 207 when the notification of the registration status to the flow table 2000 is received from the flow information acquisition unit 204 or when a predetermined time elapses (20). .
  • the routing unit 207 refers to the flow table 2000 using the 5-tuple of the packet as a key, and if there is a flow entry, determines the output port 208 according to the flow entry. If the flow entry has not been registered, the routing unit 207 determines the output port 208 by round robin, and adds the flow entry to the flow table 2000 (21).
  • the routing unit 207 transfers the packet to the determined output port 208 (22).
  • FIG. 8 is a diagram illustrating an example of a flow of a process of changing the ECMP path table 1000 according to the embodiment.
  • the flow rate monitoring unit 101 of the load monitoring device 10 acquires the bps result value and the pps result value of the second packet transfer device 30 from the statistical information of the second packet transfer device 30 (Step S101).
  • the flow monitoring unit 101 acquires the bps result value and the pps result value of each second packet transfer device 30 at predetermined time intervals, for example.
  • the statistical information can be obtained by, for example, netstat.
  • the load distribution determining unit 102 of the load monitoring device 10 determines whether to execute or cancel the load distribution (Step S102). That is, the load balancing determination unit 102 determines whether the bps result value has exceeded or fell below the bps threshold. Similarly, the load distribution determination unit 102 determines whether the pps result value has exceeded or fell below the pps threshold.
  • the bbs threshold and the pps threshold may be the same value for all the second packet transfer devices 30, or may be determined for each second packet transfer device 30. Alternatively, for example, a value may be determined for each group after one or more second packet transfer devices 30 are grouped based on a predetermined standard.
  • the load distribution determination unit 102 determines that the bps result value has exceeded the bps threshold, it determines that load distribution is to be performed. On the other hand, when it is determined that the bps result value has fallen below the bps threshold, the load distribution determination unit 102 determines to release the load distribution.
  • the load distribution determination unit 102 determines that the pps result value has exceeded the pps threshold.
  • the load distribution determination unit 102 determines to perform load distribution.
  • the load distribution determination unit 102 determines to release the load distribution.
  • step S102 if neither execution of load distribution nor release of load distribution is determined, the load monitoring device 10 returns to step S101.
  • the instruction transmitting unit 103 of the load monitoring device 10 transmits a predetermined instruction to the first packet transfer device 20. (Step S103).
  • the command receiving unit 201 of the first packet transfer device 20 receives a command from the load monitoring device 10 (Step S104).
  • the route table changing unit 202 of the first packet transfer device 20 changes the ECMP route table 1000 according to the command received by the command receiving unit 201 (Step S105).
  • bps threshold is set in “threshold type”
  • load distribution is performed” in “command type”
  • 192.168.1.0 is set in “identification information of target device”.
  • the routing table changing unit 202 receives the “data amount (bps) load status” for each entry of the ECMP routing table 1000. To “1”.
  • the routing table change unit 202 changes the “data amount (bps) load status” for the gateway whose IP address is “192.168.1.2” for each entry of the ECMP routing table 1000 to “ To "0".
  • pps threshold is set in “threshold type”
  • load distribution is performed” in “command type”
  • 192.168.1.1 is set in “identification information of target device”.
  • the routing table changing unit 202 changes the “load state of the number of packets (pps)” for the gateway whose IP address is “192.168.1.1” for each entry of the ECMP routing table 1000 to “ 1 ”.
  • the routing table change unit 202 sets the “load state of the number of packets (pps)” for the gateway whose IP address is “192.168.1.0” to “entry” for each entry of the ECMP routing table 1000. To "0".
  • the load distribution system 1 in the embodiment In each of the stored entries, the load state of the second packet transfer device 30 is changed.
  • the load state (the load state of the data amount (bps) and the load state of the number of packets (pps)) of each second packet transfer device 30 is managed by each entry stored in the ECMP path table 1000. .
  • FIG. 9 is a diagram illustrating an example of a flow of a packet transfer process according to the embodiment.
  • the input port 203 of the first packet transfer device 20 receives a packet from the network N1 (Step S201).
  • the input port 203 stores the packet received in step S201 in the input buffer 209 (step S202).
  • the flow information acquisition unit 204 of the first packet transfer device 20 generates a hash value from the flow identifier (for example, 5-tuple) of the packet stored in the input buffer 209 (Step S203).
  • a hash value from the flow identifier (for example, 5-tuple) of the packet stored in the input buffer 209 (Step S203).
  • any hash function can be used for generating the hash value.
  • the flow information acquisition unit 204 determines whether an entry (flow transfer information) including a hash value that matches the hash value generated in step S203 is stored in the flow table 2000 (step S204). ).
  • step S204 if it is determined that the entry is stored in the flow table 2000, the first packet transfer device 20 proceeds to the process of step S212 described below.
  • step S204 determines whether the application type and the flow characteristics of the flow identified by the flow identifier are registered in the application information cache 3000 (Step S205).
  • step S205 when it is determined that the application type and the flow characteristics of the flow identified by the flow identifier are registered in the application information cache 3000, the first packet transfer device 20 proceeds to the processing of step S209 described below. .
  • step S205 if it is determined in step S205 that the application type and the flow characteristics of the flow identified by the flow identifier are not registered in the application information cache 3000, the application determination unit 205 searches the application information of the application determination device 50.
  • the module 51 is requested to specify the application type and the flow characteristics (step S206).
  • the application information search unit 51 searches the application information database 40 using the flow identifier as a key, and transmits the searched application type and flow characteristics to the application determination unit 205 together with the flow identifier (Step S207).
  • the application determination unit 205 registers the flow identifier, the application type, and the flow characteristic in the application information cache 3000 in association with each other (step S208).
  • the application determining unit 205 notifies the route identifier 206 of the first packet transfer device 20 of the flow identifier, the application type, the flow characteristics, and the hash value.
  • the route determining unit 206 specifies whether the flow characteristic of the flow identified by the flow identifier is “high bps flow” or “high pps flow” (step S209).
  • the route determination unit 206 determines the output port 208 from the flow characteristics specified in step S209 with reference to the ECMP route table 1000 (step S210).
  • the route determining unit 206 determines the output port 208 according to, for example, the following steps S1 to S3.
  • the route determination unit 206 searches the ECMP routing table 1000 for an entry corresponding to the network address of the destination IP address included in the flow identifier notified from the application determination unit 205. At this time, the route determination unit 206 searches for an entry by, for example, longest match. When the entry corresponding to the network address is searched, the route determination unit 206 refers to this entry. On the other hand, when the entry corresponding to the network address is not searched, the route determination unit 206 refers to the entry in which “default” is set in the destination network.
  • the route determining unit 206 searches for a gateway in a low load state from the “gateway list” included in the entry being referred to, according to the flow characteristics.
  • the path determination unit 206 determines “load state of data amount (bps)” in “list of gateways” included in the entry. Are searched in order from the top.
  • the route determination unit 206 determines the “number of packets (pps)” in the “gateway list” included in the entry.
  • the gateways in which “0” is set in the “load state” are searched in order from the top.
  • the route determination unit 206 determines the output port 208 indicated by the output port information corresponding to the gateway retrieved in S2 as the output port 208 of the packet.
  • the route determination unit 206 determines the output port 208 indicated by the output port information corresponding to the gateway in the high load state as the output port 208 of the packet. For example, if the flow characteristic specified in step S209 is “high bps flow” and there is no gateway for which “0” is set in “load state of data amount (bps)”, the route determination unit 206 The output port 208 indicated by the output port information corresponding to the gateway for which “1” is set in the “load state of data amount (bps)” is determined as the output port 208 of the packet.
  • the route determination unit 206 determines the output port 208 indicated by the output port information corresponding to the gateway for which “1” is set in the “load state of the number of packets (pps)” as the output port 208 of the packet.
  • the route determination unit 206 may move the gateway corresponding to the determined output port 208 to the end of the “gateway list”. good.
  • the gateway “192. 168.1.0 ” may be moved to the end of the list (ie, after the gateway“ 192.168.1.2 ”). Thereby, further load distribution can be expected by changing the output port 208 for the same destination network by round robin.
  • the route determination unit 206 stores the flow transfer information in which the hash value notified from the application determination unit 205 and the information (output port information) indicating the output port 208 determined in step S210 are associated with each other in the flow table. 2000 (step S211).
  • the routing unit 207 of the first packet transfer device 20 converts the output port information from the corresponding entry (the entry determined to have the same hash value in step S204 or the entry stored in step S211). It is acquired (Step S212). Then, the routing unit 207 transmits the packet to the output port 208 indicated by the obtained output port information.
  • the output port 208 of the first packet transfer device 20 transmits the packet received from the routing unit 207 (Step S213).
  • the application determining unit 205 specifies the flow characteristics of the flow identified by the flow identifier with reference to the application information cache 3000. Therefore, the application determining unit 205 can efficiently specify the flow characteristics. If the information of the flow identified by the flow identifier is not registered in the application information cache 3000, the application determining unit 205 specifies the flow characteristics based on the application information database 40. For this reason, the application determining unit 205 can accurately specify the flow characteristics.
  • FIG. 10 is a diagram illustrating an example of a flow of a registration process to the application information cache 3000 according to the embodiment.
  • the application determining unit 205 of the first packet transfer device 20 performs an entry specifying process of specifying an entry for registering flow information in the application information cache 3000 (Step S301). Then, the application determination unit 205 stores the flow information and the time stamp in the specified entry (Step S302).
  • the application determining unit 205 determines whether the registration is manual registration (step S303).
  • the case where the registration is manual registration is a case where the user or the operator performs registration in the application information cache 3000.
  • step S303 If it is determined in step S303 that the registration is manual registration, the application determination unit 205 replaces the area of the registered entry with a manually registered area (step S304).
  • step S303 determines whether the registration is not manual registration.
  • the application determination unit 205 determines whether the registered entry is a priority entry (step S305).
  • the priority entry is an entry registered in the automatic registration area.
  • step S305 If it is determined in step S305 that the registered entry is a priority entry, the application determining unit 205 replaces the area of the registered entry with an automatic registration area (step S306).
  • step S305 since the area of the entry specified in the entry specifying process is the LRU area, if it is determined in step S305 that the registered entry is not a priority entry, the area of the registered entry need not be replaced.
  • FIG. 11 is a diagram for explaining an example of the flow of the entry specifying process. As illustrated in FIG. 11, the application determining unit 205 determines whether there is an empty entry in the application information cache 3000 (Step S401).
  • step S401 If it is determined in step S401 that there is an empty entry, the application determining unit 205 returns the identification information of the empty entry (step S402).
  • step S401 when it is determined in step S401 that there is no empty entry, the application determining unit 205 determines whether or not the application is registered in the LRU area (step S403).
  • step S403 If it is determined in step S403 that the registration is in the LRU area, the application determination unit 205 specifies an entry to be replaced based on the LRU from the LRU area (step S404).
  • step S403 if it is determined in step S403 that the entry is not a registration in the LRU area, the application determination unit 205 specifies an entry to be replaced based on the LRU from the LRU area and the automatic registration area (step S405). . However, for the entry in the automatic registration area, the application determination unit 205 uses a value obtained by multiplying the elapsed time by an arbitrary weight coefficient ⁇ when specifying the entry to be deleted. If the entry to be deleted is an entry in the automatic registration area, the area of the entry to be deleted is replaced with the LRU area.
  • the application determining unit 205 returns the identification information of the specified entry (Step S406).
  • the load distribution system 1 when transferring a packet from the first packet transfer device 20 to the second packet transfer device 30, the load distribution system 1 according to the embodiment has a low load according to the flow characteristics of the flow of the packet.
  • the packet is transferred to the second packet transfer device 30 in the state.
  • the load distribution of the second packet transfer device 30 can be realized. For this reason, for example, it is possible to prevent a situation where packets of a high bps flow are concentrated in a certain second packet forwarding apparatus 30 or a situation where packets of a high pps flow are concentrated.
  • the capacity can be maximized.
  • the load distribution system 1 in the embodiment stores the application information including the flow characteristics of the application in the application information database 40 in association with the flow identifier. Then, the application determination device 50 searches the application information database 40 using the flow identifier as a key, acquires application information, and transmits the application information to the first packet transfer device 20. For this reason, the first packet transfer device 20 can accurately specify the flow characteristics.
  • the load distribution system 1 in the embodiment caches a part of the application information database 40 in the application information cache 3000. For this reason, the first packet transfer device 20 can efficiently specify the flow characteristics.
  • the load distribution system 1 in the embodiment divides the application information cache 3000 into an LRU area, an automatic registration area in which entries are less likely to be replaced than in the LRU area, and a manual registration area in which entries are not replaced. Then, the application determining unit 205 registers the cache information in the LRU area or the automatic registration area based on the application type included in the application information. For this reason, the first packet transfer device 20 can make it difficult for the entry to be deleted from the application information cache 3000 according to the type of the application, and can more efficiently specify the flow characteristics for the specific application.
  • the application determining unit 205 when registering an entry in the automatic registration area, replaces the entry based on the LRU from the entry to be replaced from the automatic registration area or the LRU area. To identify. At this time, the application determining unit 205 specifies the entry to be replaced using the value obtained by multiplying the elapsed time by ⁇ for the entry in the automatic registration area. Therefore, the application determination unit 205 can make the entry of the automatic registration area more difficult to delete than the entry of the LRU area.
  • FIG. 12 is a diagram illustrating an example of a hardware configuration of the computer 500.
  • the computer 500 shown in FIG. 12 includes a CPU (Central Processing Unit) 501, a RAM 502, a ROM (Read Only Memory) 503, an external I / F 504, a communication I / F 505, and an auxiliary storage device 506. Each of these pieces of hardware is communicably connected via a bus B.
  • CPU Central Processing Unit
  • RAM Random Access Memory
  • ROM Read Only Memory
  • I / F communication I / F 505
  • Each of these pieces of hardware is communicably connected via a bus B.
  • the CPU 501 is an arithmetic unit that reads a program or data from the ROM 503, the auxiliary storage device 506, or the like onto the RAM 502 and executes a process.
  • the RAM 502 is a volatile semiconductor memory that temporarily stores programs and data.
  • the ROM 503 is a nonvolatile semiconductor memory that can retain programs and data even when the power is turned off.
  • the ROM 503 stores, for example, OS settings and network settings.
  • the external I / F 504 is an interface with an external device.
  • the external device includes a recording medium 504a and the like.
  • the computer 500 can read and write the recording medium 504a and the like via the external I / F 504.
  • the recording medium 504a includes, for example, a flexible disk, a CD (Compact Disc), a DVD (Digital Versatile Disk), an SD memory card (Secure Digital Memory card), and a USB (Universal Serial Bus) memory card.
  • a flexible disk for example, a CD (Compact Disc), a DVD (Digital Versatile Disk), an SD memory card (Secure Digital Memory card), and a USB (Universal Serial Bus) memory card.
  • the communication I / F 505 is an interface for communicating with another device. Note that the first packet transfer device 20 and the second packet transfer device 30 have a plurality of communication I / Fs 505.
  • the auxiliary storage device 506 is, for example, a hard disk drive (HDD) or a solid state drive (SSD), and is a nonvolatile storage device that stores programs and data.
  • the programs and data stored in the auxiliary storage device 506 include, for example, an OS and an application program that implements various functions on the OS.
  • each functional unit included in the load monitoring device 10 is realized by a process in which one or more programs stored in the auxiliary storage device 506 cause the CPU 501 or the like to execute.
  • each functional unit included in the first packet transfer device 20 is realized by a process for causing the CPU 501 or the like to execute one or more programs stored in the auxiliary storage device 506, the communication I / F 505, or the like.
  • the load monitoring device 10 may include at least one of a display device such as a display and an input device such as a keyboard and a mouse.
  • the packet transfer device that performs load distribution is the first packet transfer device 20, and the packet transfer device to be load-balanced is the second packet transfer device 30. It does not mean that the packet transfer device that functions as either the first packet transfer device 20 or the second packet transfer device 30 at all times.
  • the same packet transfer device may function as the first packet transfer device 20 and also function as the second packet transfer device 30.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報を記憶するアプリ情報記憶手段と、入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手段と、前記取得手段により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手段と、を有することを特徴とする。

Description

負荷分散システム及び負荷分散方法
 本発明は、負荷分散システム及び負荷分散方法に関する。
 ルータ等のパケット転送装置の負荷を分散させる技術が従来から知られている。例えば、パケットの転送先として複数のパケット転送装置と複数の転送経路とを用意し、それぞれの転送経路にトラヒックを均等に印加することで、パケット転送装置の負荷を分散する技術が知られている。また、このような負荷分散技術として、ECMP(Equal Cost Multi Path)又はECMPルーティングと呼ばれる技術も知られている。ECMPは、上述した複数の転送経路のうち、等コストとなる転送経路にトラヒックを均等に印加する負荷分散技術である。
 ECMPを用いた負荷分散システムにおいて、パケット転送装置の出力物理ポートの出力バッファを監視し、この出力バッファの使用量又はパケット流量が閾値を超えた場合、転送経路を切り替える技術が知られている(例えば、特許文献1)。
 パケット転送装置における転送容量の指標として、bps(bits per second)で表されるデータ量の転送容量と、pps(packets per second)で表されるパケット数の転送容量とがある。また、これらの転送容量には、パケット転送装置に固有の上限値がある。例えば、パケット転送装置をネットワーク仮想化技術により実現した場合、bpsは物理NIC(Network Interface Card)のラインレートに律速されることがあり、ppsはOS(Operating System)やアプリケーション等のソフトウェアのパケット処理速度に律速されることがある。
 ECMPでは、フロー特性、すなわちロングパケット中心のフローかショートパケット中心のフローかを考慮していないため、パケット転送装置が転送するパケット長に偏りがある場合に、パケット転送装置の転送容量を最大限に活用することができないことがある。ここで、フローとは、フローを識別するフロー識別子が同一のパケット(トラヒック)又はパケット群のことを言う。フロー識別子は、パケットに含まれるヘッダ情報により特定され、例えば、5-tuple(送信元IP(Internet Protocol)アドレス、宛先IPアドレス、送信元ポート番号、宛先ポート番号、プロトコル番号)、あるいは、L7情報(例えば、L7のヘッダ情報等)のことを言う。
 例えば、動画等のトラヒックはロングパケットが多いという性質がある。このため、動画等のトラヒックが集中した場合、データ量の転送容量は枯渇する一方で、パケット数の転送容量には余裕がある状態となる。他方で、例えば、VoIP(Voice over Internet Protocol)やテレメトリング等のトラヒックはショートパケットが多いという性質がある。このため、VoIPやテレメトリング等のトラヒックが集中した場合、データ量の転送容量には余裕がある一方で、パケット数の転送容量が枯渇する状態となる。
 そこで、フロー特性を考慮して負荷を分散する技術がある。例えば、宅内装置(Customer Premises Equipment)の一部機能を仮想化するvCPE(Virtualized CPE)をホストするサーバの負荷分散を、サーバのbps及びppsの観点での負荷状態とフローのパケット長に基づいて行う負荷分散方式がある(例えば、非特許文献1)。
特開2004-350078号公報
木村 明寛、宮本 克真、河野 伸也、土屋 英雄、岡田 昭宏、「フロー特性に基づくvCPEサーバの負荷分散方式」、電子情報通信学会2018年総合大会講演論文集,Vol.2018年_通信(2),p.90 b-6-90
 フロー特性に基づいて負荷分散を行う場合、いかにフロー特性を効率良く正確に特定するかが課題となる。
 本発明の実施の形態は、上記の点に鑑みてなされたもので、フロー特性を効率良く正確に特定することを目的とする。
 上記目的を達成するため、本発明の実施の形態は、パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報を記憶するアプリ情報記憶手段と、入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手段と、前記取得手段により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手段と、を有することを特徴とする。
 フロー特性を効率良く正確に特定することを目的とする。
図1は、本発明の実施の形態における負荷分散システムの全体構成の一例を示す図である。 図2は、実施例における負荷分散システムの機能構成の一例を示す図である。 図3は、実施例におけるアプリ情報データベースのエントリの一例を示す図である。 図4は、実施例におけるアプリ情報キャッシュのエントリの一例を示す図である。 図5は、実施例におけるアプリ情報キャッシュの使用方法を説明するための図である。 図6は、実施例におけるECMP経路テーブルの一例を示す図である。 図7は、実施例における負荷分散システムの処理の流れの一例を示す図である。 図8は、実施例におけるECMP経路テーブルの変更処理の流れの一例を説明するための図である。 図9は、実施例におけるパケット転送処理の流れの一例を説明するための図である。 図10は、実施例におけるアプリ情報キャッシュへの登録処理の流れの一例を説明するための図である。 図11は、エントリ特定処理の流れの一例を説明するための図である。 図12は、コンピュータのハードウェア構成の一例を示す図である。
 以下、本発明の実施の形態について説明する。本発明の実施の形態では、フロー特性を特定し、特定したフロー特性に基づいて、負荷分散を行う負荷分散システム1について説明する。また、以降では、フロー特性には、ロングパケットが多いフローであることを示す「高bpsフロー」と、ショートパケットが多いフローであることを示す「高ppsフロー」とがあるものとする。
 <全体構成>
 まず、本発明の実施の形態における負荷分散システム1の全体構成について、図1を参照しながら説明する。図1は、本発明の実施の形態における負荷分散システム1の全体構成の一例を示す図である。
 図1に示すように、本発明の実施の形態における負荷分散システム1には、負荷監視装置10と、第1のパケット転送装置20と、第2のパケット転送装置30と、アプリ情報データベース40と、アプリ判定装置50とが含まれる。
 負荷監視装置10は、例えばコンピュータ又はコンピュータシステム等であり、負荷分散対象である第2のパケット転送装置30のトラヒック流量を監視する。そして、負荷監視装置10は、第2のパケット転送装置30のトラヒック流量が所定の閾値を超えた場合(又は、所定の閾値を下回った場合)に、負荷分散の実施(又は負荷分散の解除)を示す命令を第1のパケット転送装置20に送信する。
 第1のパケット転送装置20は、例えばルータ等であり、ネットワークN1側からのパケットを第2のパケット転送装置30に転送する。このとき、第1のパケット転送装置20は、負荷分散に用いられる所定のテーブルを参照して、複数の第2のパケット転送装置30のうち、フロー特性に応じた第2のパケット転送装置30に当該パケットを転送する。
 また、第1のパケット転送装置20は、負荷監視装置10からの命令に応じて、負荷分散に用いられる所定のテーブルを変更する。
 第2のパケット転送装置30は、例えばルータ等であり、第1のパケット転送装置20から転送されたパケットをネットワークN2側に転送する。以降では、複数の第2のパケット転送装置30の各々を区別する場合は、「第2のパケット転送装置30-1」、「第2のパケット転送装置30-2」等と表す。
 アプリ情報データベース40は、フロー毎にアプリ種別及びフロー特性をアプリ情報として記憶するデータベースである。ここで、アプリとはアプリケーションであり、アプリ種別はアプリケーションの種別であり、フロー特性はアプリケーションのフロー特性である。アプリ判定装置50は、例えばコンピュータ又はコンピュータシステム等であり、アプリ情報データベース40を用いてフローのアプリ情報を検索する。
 なお、図1に示す負荷分散システム1の構成は一例であって、他の構成であっても良い。例えば、第1のパケット転送装置20及び第2のパケット転送装置30は、ネットワーク仮想化技術によってコンピュータ上等に構築された仮想的なルータ等であっても良い。
 (実施例)
 以降では、本発明の実施の形態における負荷分散システム1の実施例について説明する。
 <機能構成>
 まず、実施例における負荷分散システム1の機能構成について、図2を参照しながら説明する。図2は、実施例における負荷分散システム1の機能構成の一例を示す図である。
 図2に示すように、実施例における負荷監視装置10は、流量監視部101と、負荷分散決定部102と、命令送信部103とを有する。
 流量監視部101は、第2のパケット転送装置30の統計情報から、これらの第2のパケット転送装置30のトラヒック流量をデータ量(bps)及びパケット数(pps)それぞれの観点で監視する。すなわち、流量監視部101は、各第2のパケット転送装置30について、監視結果として、データ量(bps)及びパケット数(pps)を得る。以降では、監視結果とした得られたデータ量(bps)を「bps結果値」、監視結果として得られたパケット数(pps)を「pps結果値」と表す。
 負荷分散決定部102は、負荷分散を実施又は解除するかを決定する。すなわち、負荷分散決定部102は、bps結果値が、予め設定されたbps閾値を超えたか又は下回ったかを判定する。同様に、負荷分散決定部102は、pps結果値が、予め設定されたpps閾値を超えたか又は下回ったかを判定する。
 そして、負荷分散決定部102は、bps結果値がbps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、bps結果値がbps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
 同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、pps結果値がpps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
 命令送信部103は、負荷分散決定部102によって負荷分散を実施すると決定された場合又は負荷分散を解除すると判定された場合、所定の命令を第1のパケット転送装置20に送信する。
 ここで、命令には、「閾値種別」と、「命令種別」と、「対象装置の識別情報」とが含まれる。「閾値種別」は、監視結果が超えた閾値又は監視結果が下回った閾値の種別であり、bps閾値を示す情報又はpps閾値を示す情報のいずれかが設定される。「命令種別」は、負荷分散の実施又は解除のいずれであるかを示す情報が設定される。「対象装置の識別情報」は、監視結果が閾値を超えた又は下回った第2のパケット転送装置30の識別情報であり、例えば、当該第2のパケット転送装置30のIPアドレスが設定される。ただし、「対象装置の識別情報」には、IPアドレス以外にも、例えば、当該第2のパケット転送装置30のID、MAC(Media Access Control)アドレス、ホスト名等が設定されても良い。
 アプリ情報データベース40は、フロー識別子とアプリ種別及びフロー特性とを対応付けるデータベースである。図3は、実施例におけるアプリ情報データベース40のエントリの一例を示す図である。図3は、フロー識別子が5-tupleである場合を示す。図3に示すように、アプリ情報データベース40のエントリには、「送信元IPアドレス」と、「送信元ポート番号」と、「宛先IPアドレス」と、「宛先ポート番号」と、「プロトコル番号」と、「アプリ種別」と、「フロー特性」とが含まれる。
 「送信元IPアドレス」には、パケットの送信元のIPアドレスが設定される。「送信元ポート番号」には、パケットの送信元のポート番号が設定される。「宛先IPアドレス」には、パケットの宛先のIPアドレスが設定される。「宛先ポート番号」には、パケットの宛先のポート番号が設定される。「プロトコル番号」には、プロトコルの種別を示す番号が設定される。「アプリ種別」には、フローのアプリケーションの種別が設定される。例えば、アプリケーションの種別には、「動画」、「VoIP」、「テレメトリング」がある。「フロー特性」には、フローが「高bpsフロー」であるか「高ppsフロー」であるかが設定される。
 なお、アプリ情報データベース40のエントリに「送信元IPアドレス」と「送信元ポート番号」は含まれなくても良い。例えば、図3では、「宛先IPアドレス」が「10.0.0.100」であり「宛先ポート番号」が「443」であり「プロトコル番号」が「6」であるフローの「アプリ種別」は「動画」であり、「フロー特性」は「高bpsフロー」である。ここで、「宛先ポート番号」の「443」はHTTPS(Hypertext Transfer Protocol Secure)で使用されるポート番号であり、「プロトコル番号」の「6」はプロトコルがTCP(Transmission Control Protocol)であることを示す。
 アプリ情報データベース40は、例えば、RAM(Random Access Memory)や補助記憶装置、専用のメモリ装置等により実現される。
 アプリ判定装置50は、アプリ情報検索部51を有する。アプリ情報検索部51は、第1のパケット転送装置20からフロー識別子を受け取り、フロー識別子をキーとしてアプリ情報データベース40を検索し、アプリ種別及びフロー特性を特定する。そして、アプリ情報検索部51は、特定したアプリ種別及びフロー特性をフロー識別子と共に第1のパケット転送装置20に送信する。
 また、図2に示すように、実施例における第1のパケット転送装置20は、命令受信部201と、経路テーブル変更部202と、入力ポート203と、フロー情報取得部204と、アプリ判定部205と、経路決定部206と、ルーティング部207と、出力ポート208と、入力バッファ209とを有する。これら各機能部は、例えば、第1のパケット転送装置20にインストールされた1以上のプログラムがCPU等に実行させる処理により実現される。
 命令受信部201は、負荷監視装置10からの命令を受信する。経路テーブル変更部202は、命令受信部201が受信した命令に応じて、ECMP経路テーブル1000を変更する。ECMP経路テーブル1000は、エントリとして経路情報を格納しているテーブルである。なお、ECMP経路テーブル1000は、例えば、補助記憶装置や専用のメモリ装置等に格納されている。実施例におけるECMP経路テーブル1000の詳細については後述する。
 入力ポート203は、ネットワークN1側からのパケットを受信する。そして、入力ポート203は、受信したパケットを入力バッファ209に格納する。なお、入力バッファ209は、受信したパケットを一時的に格納しておくための記憶領域であり、例えばRAMや補助記憶装置、専用のメモリ装置等により実現される。
 フロー情報取得部204は、入力バッファ209に格納されているパケットのフロー識別子(例えば、5-tuple)からハッシュ値を生成する。また、フロー情報取得部204は、フローテーブル2000を参照して、生成したハッシュ値と一致するハッシュ値が含まれるエントリが存在するか否かを判定する。フローテーブル2000は、エントリとして、ハッシュ値と、出力ポート208を示す情報(出力ポート情報)とが対応付けられたフロー転送情報を格納しているテーブルである。出力ポート情報は、複数の出力ポート208のうちのいずれか1つの出力ポート208を特定するための情報である。なお、フローテーブル2000は、例えば、RAMや補助記憶装置、専用のメモリ装置等に格納されている。
 そして、フロー情報取得部204は、該当のエントリが存在すると判定した場合、当該エントリをルーティング部207に通知する。一方で、フロー情報取得部204は、該当のエントリが存在しないと判定した場合、当該パケットを新規フローのパケットと判断して、該当のエントリが存在しない旨をアプリ判定部205に通知する。このとき、フロー情報取得部204は、フロー識別子とハッシュ値とをアプリ判定部205に通知する。
 なお、フローテーブル2000に格納されているエントリ(フロー転送情報)は、例えば、経路決定部206等によって所定の時間毎に削除(クリア)されても良い。
 アプリ判定部205は、フロー情報取得部204からの通知に応じて、アプリ情報キャッシュ3000を検索し、受信パケットのフローに対応するアプリ種別及びフロー特性を特定する。アプリ判定部205は、フロー識別子をキーとしてアプリ情報キャッシュ3000を検索する。
 図4は、実施例におけるアプリ情報キャッシュ3000のエントリの一例を示す図である。図4に示すように、アプリ情報キャッシュ3000のエントリには、図3に示したアプリ情報データベース40のエントリと同様に、「送信元IPアドレス」と、「送信元ポート番号」と、「宛先IPアドレス」と、「宛先ポート番号」と、「プロトコル番号」と、「アプリ種別」と、「フロー特性」とが含まれる。
 また、アプリ情報キャッシュ3000のエントリには、「タイムスタンプ」が含まれる。「タイムスタンプ」には、アプリ情報キャッシュ3000に登録された年月日及び時分秒が設定される。
 アプリ情報キャッシュ3000を検索してアプリ種別及びフロー特性を特定することができなかった場合、すなわち受信パケットのフローに対応するエントリがアプリ情報キャッシュ3000にない場合には、アプリ判定部205は、アプリ判定装置50にフロー識別子を送信してアプリ種別及びフロー特性の特定を依頼する。
 また、アプリ判定部205は、アプリ判定装置5から取得したアプリ種別及びフロー特性をフロー識別子と対応付けてアプリ情報キャッシュ3000に登録する。アプリ情報キャッシュ3000は、3つのエリアに分けて使用され、アプリ判定部205は、アプリ種別に基づいて3つのエリアの中の1つのエリアに登録する。
 図5は、実施例におけるアプリ情報キャッシュ3000の使用方法を説明するための図である。図5に示すように、アプリ情報キャッシュ3000は、優先度が低いLRU(Least Recently Used)エリアと、優先度が中の自動登録エリアと、優先度が高い手動登録エリアに分けられる。
 ここで、優先度は、アプリ情報キャッシュ3000が一杯になってエントリの置換が行われる場合に、アプリ情報キャッシュ3000から削除される順番を示す。優先度が低いほど優先的に削除される。
 なお、図5では、各エリアは連続したエリアとして示されているが、各エリアは不連続のエリアであり、各エリアのエントリはリスト構造等により管理される。
 LRUエリアには、通常のアプリのフローについてのエントリが登録される。エントリの置換が行われる場合に、LRUアルゴリズムにしたがって置換が行われる。
 自動登録エリアには、優先してキャッシュする必要のあるアプリのフローについてのエントリが登録される。例えば、低遅延性が要求されるアプリのフローのエントリが自動登録エリアに登録される。エントリの置換が行われる場合に、LRUエリアと自動登録エリアの中から、LRUアルゴリズムにしたがって置換が行われる。ただし、自動登録エリアのエントリについては、「タイムスタンプ」から計算される経過時間に任意の重み係数ω(0<ω<1)を掛けた値が用いられる。自動登録エリアのエントリが削除された場合には、削除されたエントリは、LRUエリアのエントリに置換される。
 手動登録エリアは、ユーザやオペレータ等により、明示的に登録されたエントリがキャッシュされるエリアである。エントリの置換が行われる場合に、LRUエリアと自動登録エリアの中から、LRUアルゴリズムにしたがって置換が行われる。ただし、自動登録エリアのエントリについては、経過時間に任意の重み係数ω(0<ω<1)を掛けた値が用いられる。アプリ情報キャッシュ3000の全領域が手動登録エリアとなっている場合、アプリ判定部205は、エラーを通知する。手動登録エリアのエントリが削除された場合には、削除されたエントリは、LRUエリアのエントリに置換される。
 また、アプリ判定部205は、特定したアプリ種別及びフロー特性を経路決定部206に通知する。このとき、アプリ判定部205は、例えば、5-tupleと、アプリ種別と、フロー特性と、ハッシュ値とを経路決定部206に通知する。
 なお、アプリ情報データベース40及びアプリ情報キャッシュ3000のエントリから「フロー特性」を除き、アプリ情報検索部51及びアプリ判定部205は、それぞれアプリ情報データベース40及びアプリ情報キャッシュ3000からアプリ種別を検索しても良い。この場合、アプリ判定部205は、アプリ種別とフロー特性の対応関係に基づいて、アプリ種別からフロー特性を特定する。
 図2に戻って、経路決定部206は、ECMP経路テーブル1000を参照して、アプリ判定部205が特定したフロー特性から出力ポート208を決定する。また、経路決定部206は、決定した出力ポート208を示す情報と、ハッシュ値とを対応付けたフロー転送情報をフローテーブル2000に格納する。そして、経路決定部206は、フローテーブル2000に格納したエントリ(フロー転送情報)をルーティング部207に通知する。
 ルーティング部207は、フロー情報取得部204又は経路決定部206から通知されたエントリ(フロー転送情報)に含まれる出力ポート情報を取得する。そして、ルーティング部207は、取得した出力ポート情報が示す出力ポート208に当該パケットを送信する。
 出力ポート208は、ルーティング部207から受け取ったパケットを出力する。ここで、出力ポート208は、例えば、第2のパケット転送装置30毎に存在する。例えば、出力ポート208には、第2のパケット転送装置30-1に対応する出力ポート208-1、第2のパケット転送装置30-2に対応する出力ポート208-2等がある。なお、出力ポート208は、物理ポートであっても良いし、論理ポートであっても良い。
 ここで、実施例におけるECMP経路テーブル1000について、図6を参照しながら説明する。図6は、実施例におけるECMP経路テーブル1000の一例を示す図である。
 図6に示すように、実施例におけるECMP経路テーブル1000には、エントリとして経路情報が格納されている。また、経路情報には、「宛先ネットワーク」と、「サブネットマスク」と、「ゲートウェイのリスト」と、「出力ポート情報」と、「データ量(bps)の負荷状態」と、「パケット数(pps)の負荷状態」とが含まれる。
 「宛先ネットワーク」には、パケットの転送先のネットワークのIPアドレス又はdefaultが設定される。「サブネットマスク」には、宛先ネットワークに対応するサブネットマスクが設定される。
 「ゲートウェイのリスト」には、宛先ネットワークに対応するゲートウェイ(第2のパケット転送装置30)のIPアドレスが設定される。なお、「ゲートウェイのリスト」には、1つの宛先ネットワークに対して、1つ以上のゲートウェイのIPアドレスが設定される。
 「出力ポート情報」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対する出力ポート208を示す情報がそれぞれ設定される。
 図6に示す例では、ゲートウェイ「192.168.1.0」に対して、出力ポート208-1を示す「eth0」が対応付けられている。これは、ゲートウェイ「192.168.1.0」からパケットを送信する場合、出力ポート208-1から送信されることを示している。
 同様に、例えば、ゲートウェイ「192.168.1.1」に対して、出力ポート208-2を示す「eth1」が対応付けられている。これは、ゲートウェイ「192.168.1.1」からパケットを送信する場合、出力ポート208-2から送信されることを示している。他のゲートウェイについても同様である。
 「データ量(bps)の負荷状態」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対して、当該ゲートウェイにおけるデータ量(bps)の負荷状態が設定される。ここで、図6に示す例では、「データ量(bps)の負荷状態」に「0」が設定されている場合、該当のゲートウェイにおけるデータ量(bps)の負荷状態が「低負荷」であることを示している。一方で、「データ量(bps)の負荷状態」に「1」が設定されている場合、該当のゲートウェイにおけるデータ量(bps)の負荷状態が「高負荷」であることを示している。
 「パケット数(pps)の負荷状態」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対して、当該ゲートウェイにおけるパケット数(pps)の負荷状態が設定される。ここで、図6に示す例では、「パケット数(pps)の負荷状態」に「0」が設定されている場合、該当のゲートウェイにおけるパケット数(pps)の負荷状態が「低負荷」であることを示している。一方で、「パケット数(pps)の負荷状態」に「1」が設定されている場合、該当のゲートウェイにおけるパケット数(pps)の負荷状態が「高負荷」であることを示している。
 このように、実施例におけるECMP経路テーブル1000には、宛先ネットワーク毎に、当該宛先ネットワークに対する1以上のゲートウェイと、これらの各ゲートウェイの出力ポート情報及び負荷状態とが含まれる経路情報が格納されている。
 後述するように、実施例では、各ゲートウェイ(第2のパケット転送装置30)の負荷状態が閾値を超えた場合(又は下回った場合)に、当該ゲートウェイに対応する負荷状態を変更すると共に、パケットを転送する際に、フロー特性に応じて低負荷状態のゲートウェイからパケットを送信することで、負荷分散が行われる。
 <分散システムの処理>
 以降では、実施例における負荷分散システム1の処理について、図7を参照しながら説明する。図7は、実施例における負荷分散システム1の処理の流れの一例を示す図である。
 まず、負荷監視装置10の流量監視部101は、負荷分散対象の第2のパケット転送装置30-1及び30-2の統計情報からトラヒック流量をbpsとppsの観点で監視する(1)。そして、流量監視部101は、監視結果を負荷分散決定部102に通知する(2)。
 次に、負荷分散決定部102は、流量監視部101の監視結果が予め定めるbps閾値、又はpps閾値のいずれかを上回ると、負荷分散の実施を決定する。逆に、閾値を下回ると、負荷分散決定部102は、負荷分散の解除を決定する。また、負荷分散決定部102は、決定内容を命令送信部103に通知する(3)。
 次に、命令送信部103は、負荷分散決定部102の決定に基づき命令を第1のパケット転送装置20に送信する(4)。命令は(i)閾値種別(bps閾値かpps閾値か)、(ii)命令種別(実施か解除か)、及び(iii)対象装置の識別情報からなる。対照装置の識別情報は、例えば装置のID、IPアドレス、MACアドレス、ホスト名がある。
 次に、第1のパケット転送装置20の命令受信部201は、負荷監視装置10からの命令を受信し、受信した命令の内容((i)閾値種別、(ii)命令種別、(iii)対象装置の識別情報)を経路テーブル変更部202へ通知する(5)。
 次に、経路テーブル変更部202は、命令に基づきECMP経路テーブル1000の内容を変更する(6)。ECMP経路テーブル1000は、経路情報をエントリとして保持する。エントリは、宛先ネットワーク、サブネットマスク、ゲートウェイのリスト、ゲートウェイに対応する出力ポート208、及びゲートウェイの負荷状態情報からなる。
 次に、入力ポート203は、受信したパケットを入力バッファ209に格納する(7)。
 次に、入力バッファ209は、パケットを一時的にバッファし、パケットの5-tupleをフロー識別子とし、フローテーブル2000への登録状況をフロー情報取得部204に問い合わせる(8)。
 次に、フロー情報取得部204は、フロー識別子からハッシュ値を生成してハッシュ値をキーにフローテーブル2000を参照し、フロー識別子で識別されるフローの登録状況を確認する(9)。フローテーブル2000に当該フローが登録されている場合、負荷分散システム1は、以降(10)-(18)の手続きを省略する。
 フローテーブル2000に当該フローが登録されていない場合、フロー情報取得部204は、フロー識別子及びハッシュ値をアプリ判定部205に通知し、フローテーブル2000への登録の通知(18)を待つ(10)。
 次に、アプリ判定部205は、フロー識別子をキーにアプリ情報キャッシュ3000を参照し、フロー識別子で識別されるフローのキャッシュ状況を確認する(11)。当該フローがキャッシュされている場合、負荷分散システム1は、以降(12)-(14)の手続きを省略する。
 当該フローがキャッシュされていない場合、アプリ判定部205は、フロー識別子をアプリ判定装置50のアプリ情報検索部51に通知する(12)。
 次に、アプリ情報検索部51は、フロー識別子をキーに、アプリ情報データベース40を参照する(13)。
 そして、アプリ情報検索部51は、アプリ情報データベース40の参照結果をアプリ判定部205に通知する(14)。このとき、一致するエントリがある場合は、アプリ情報検索部51は、フロー識別子、アプリ種別及びフロー特性を通知する。一致するエントリがない場合は、アプリ情報検索部51は、一致するエントリがないことを通知する。
 次に、アプリ判定部205は、フロー識別子、アプリ種別、フロー特性及びハッシュ値を経路決定部206に通知する(15)。また、アプリ判定部205は、フロー識別子、アプリ種別及びフロー特性を対応付けてアプリ情報キャッシュ3000に登録する。
 次に、経路決定部206は、アプリ判定部205の通知内容とECMP経路テーブル1000とを照らし合わせ、出力ポート208を決定する(16)。
 そして、経路決定部206は、決定した出力ポート情報をフローテーブル2000に登録する(17)。
 そして、経路決定部206は、フロー情報取得部204にフローテーブル2000への登録完了を通知する(18)。
 次に、フロー情報取得部204は、入力バッファ209にフローテーブル2000への登録状況を通知する(19)。
 次に、入力バッファ209は、フロー情報取得部204からフローテーブル2000への登録状況の通知を受信した場合か、あるいは、あらかじめ定める一定時間を経過すると、パケットをルーティング部207に送信する(20)。
 次に、ルーティング部207は、パケットの5-tupleをキーにフローテーブル2000を参照し、フローエントリがある場合はフローエントリにしたがって出力ポート208を決定する。フローエントリが未登録の場合、ルーティング部207は、ラウンドロビンで出力ポート208を決定し、フローテーブル2000にフローエントリを追加する(21)。
 そして、ルーティング部207は、決定した出力ポート208にパケットを転送する(22)。
 <ECMP経路テーブルの変更処理>
 以降では、実施例におけるECMP経路テーブル1000の変更処理について、図8を参照しながら説明する。図8は、実施例におけるECMP経路テーブル1000の変更処理の流れの一例を説明するための図である。
 まず、負荷監視装置10の流量監視部101は、第2のパケット転送装置30の統計情報から、これらの第2のパケット転送装置30のbps結果値及びpps結果値を取得する(ステップS101)。ここで、流量監視部101は、例えば、所定の時間毎に、各第2のパケット転送装置30のbps結果値及びpps結果値を取得する。なお、統計情報は、例えば、netstat等により取得することができる。
 次に、負荷監視装置10の負荷分散決定部102は、負荷分散を実施又は解除するかを決定する(ステップS102)。すなわち、負荷分散決定部102は、bps結果値がbps閾値を超えたか又は下回ったかを判定する。同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたか又は下回ったかを判定する。なお、bbs閾値及びpps閾値は、全ての第2のパケット転送装置30で同一の値が決められても良いし、第2のパケット転送装置30毎に値が決められても良い。又は、例えば、1以上の第2のパケット転送装置30を所定の基準でグループ化した上で、グループ毎に値が決められても良い。
 そして、負荷分散決定部102は、bps結果値がbps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、bps結果値がbps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
 同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、pps結果値がpps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
 ステップS102において、負荷分散の実施及び負荷分散の解除のいずれも決定されなかった場合、負荷監視装置10は、上記のステップS101に戻る。
 一方で、ステップS102において、負荷分散の実施又は負荷分散の解除の少なくとも一方が決定された場合、負荷監視装置10の命令送信部103は、所定の命令を第1のパケット転送装置20に送信する(ステップS103)。
 第1のパケット転送装置20の命令受信部201は、負荷監視装置10からの命令を受信する(ステップS104)。
 次に、第1のパケット転送装置20の経路テーブル変更部202は、命令受信部201が受信した命令に応じて、ECMP経路テーブル1000を変更する(ステップS105)。
 具体的には、例えば、「閾値種別」に「bps閾値」、「命令種別」に「負荷分散の実施」、「対象装置の識別情報」に「192.168.1.0」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.0」であるゲートウェイに対する「データ量(bps)の負荷状態」を「1」に変更する。
 同様に、例えば、「閾値種別」に「bps閾値」、「命令種別」に「負荷分散の解除」、「対象装置の識別情報」に「192.168.1.2」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.2」であるゲートウェイに対する「データ量(bps)の負荷状態」を「0」に変更する。
 同様に、例えば、「閾値種別」に「pps閾値」、「命令種別」に「負荷分散の実施」、「対象装置の識別情報」に「192.168.1.1」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.1」であるゲートウェイに対する「パケット数(pps)の負荷状態」を「1」に変更する。
 同様に、例えば、「閾値種別」に「pps閾値」、「命令種別」に「負荷分散の解除」、「対象装置の識別情報」に「192.168.1.0」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.0」であるゲートウェイに対する「パケット数(pps)の負荷状態」を「0」に変更する。
 以上のように、実施例における負荷分散システム1は、負荷分散対象である第2のパケット転送装置30のbps結果値又はpps結果値が閾値を超えた場合又は下回った場合、ECMP経路テーブル1000に格納されている各エントリにおいて、これらの第2のパケット転送装置30の負荷状態を変更する。これにより、ECMP経路テーブル1000に格納されている各エントリによって、各第2のパケット転送装置30の負荷状態(データ量(bps)の負荷状態及びパケット数(pps)の負荷状態)が管理される。
 <パケット転送処理>
 以降では、実施例におけるパケット転送処理について、図9を参照しながら説明する。図9は、実施例におけるパケット転送処理の流れの一例を説明するための図である。
 まず、第1のパケット転送装置20の入力ポート203は、ネットワークN1側からのパケットを受信する(ステップS201)。
 次に、入力ポート203は、上記のステップS201で受信したパケットを入力バッファ209に格納する(ステップS202)。
 次に、第1のパケット転送装置20のフロー情報取得部204は、入力バッファ209に格納されているパケットのフロー識別子(例えば、5-tuple)からハッシュ値を生成する(ステップS203)。なお、ハッシュ値の生成に用いられるハッシュ関数は任意のものを用いることができる。
 次に、フロー情報取得部204は、上記のステップS203で生成したハッシュ値と一致するハッシュ値が含まれるエントリ(フロー転送情報)がフローテーブル2000に格納されているか否かを判定する(ステップS204)。
 ステップS204において、当該エントリがフローテーブル2000に格納されていると判定された場合、第1のパケット転送装置20は、後述するステップS212の処理に進む。
 一方で、ステップS204において、当該エントリがフローテーブル2000に格納されていないと判定された場合、フロー情報取得部204は、フロー識別子とハッシュ値を第1のパケット転送装置20のアプリ判定部205に通知し、アプリ判定部205は、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されているか否かを判定する(ステップS205)。
 ステップS205において、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されていると判定された場合、第1のパケット転送装置20は、後述するステップS209の処理に進む。
 一方で、ステップS205において、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されていないと判定された場合、アプリ判定部205は、アプリ判定装置50のアプリ情報検索部51にアプリ種別及びフロー特性の特定を依頼する(ステップS206)。
 次に、アプリ情報検索部51は、フロー識別子をキーとしてアプリ情報データベース40を検索し、検索されたアプリ種別とフロー特性をフロー識別子と共にアプリ判定部205に送信する(ステップS207)。
 次に、アプリ判定部205は、フロー識別子、アプリ種別及びフロー特性を対応付けてアプリ情報キャッシュ3000に登録する(ステップS208)。
 そして、アプリ判定部205は、フロー識別子、アプリ種別、フロー特性及びハッシュ値を第1のパケット転送装置20の経路決定部206に通知する。この結果、経路決定部206は、フロー識別子で識別されるフローのフロー特性が「高bpsフロー」又は「高ppsフロー」のいずれであるかを特定する(ステップS209)。
 次に、経路決定部206は、ECMP経路テーブル1000を参照して、上記のステップS209で特定したフロー特性から出力ポート208を決定する(ステップS210)。経路決定部206は、例えば、次のS1~S3の手順により出力ポート208を決定する。
 S1)まず、経路決定部206は、アプリ判定部205から通知されたフロー識別子に含まれる宛先IPアドレスのネットワークアドレスに対応するエントリをECMP経路テーブル1000から検索する。このとき、経路決定部206は、例えば、ロンゲストマッチでエントリを検索する。当該ネットワークアドレスに対応するエントリが検索された場合、経路決定部206は、このエントリを参照する。一方で、当該ネットワークアドレスに対応するエントリが検索されなかった場合、経路決定部206は、宛先ネットワークに「default」が設定されているエントリを参照する。
 S2)次に、経路決定部206は、フロー特性に応じて、参照しているエントリに含まれる「ゲートウェイのリスト」の中から低負荷状態のゲートウェイを検索する。
 例えば、上記のステップS209で特定したフロー特性が「高bpsフロー」である場合、経路決定部206は、当該エントリに含まれる「ゲートウェイのリスト」のうち、「データ量(bps)の負荷状態」に「0」が設定されているゲートウェイを上から順番に検索する。
 一方で、例えば、上記のステップS209で特定したフロー特性が「高ppsフロー」である場合、経路決定部206は、当該エントリに含まれる「ゲートウェイのリスト」のうち、「パケット数(pps)の負荷状態」に「0」が設定されているゲートウェイを上から順番に検索する。
 S3)そして、経路決定部206は、上記のS2で検索されたゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。
 なお、上記のS2でゲートウェイが検索されなかった場合、経路決定部206は、高負荷状態のゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。例えば、上記のステップS209で特定したフロー特性が「高bpsフロー」で、「データ量(bps)の負荷状態」に「0」が設定されているゲートウェイが存在しない場合、経路決定部206は、「データ量(bps)の負荷状態」に「1」が設定されているゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。同様に、例えば、上記のステップS209で特定したフロー特性が「高ppsフロー」で、「パケット数(pps)の負荷状態」に「0」が設定されているゲートウェイが存在しない場合、経路決定部206は、「パケット数(pps)の負荷状態」に「1」が設定されているゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。
 ここで、同一の宛先ネットワークに対する出力ポート208をラウンドロビンで変更したい場合は、経路決定部206は、決定した出力ポート208に対応するゲートウェイを、「ゲートウェイのリスト」の最後尾に移動させても良い。例えば、図6に示すECMP経路テーブル1000において、宛先ネットワーク「default」のゲートウェイ「192.168.1.0」の出力ポート情報「eth0」が出力ポート208に決定された場合、このゲートウェイ「192.168.1.0」をリストの最後尾(すなわち、ゲートウェイ「192.168.1.2」の後ろ)に移動させても良い。これにより、同一の宛先ネットワークに対する出力ポート208をラウンドロビンで変更することで、更なる負荷分散が期待できる。
 次に、経路決定部206は、アプリ判定部205から通知されたハッシュ値と、上記のステップS210で決定した出力ポート208を示す情報(出力ポート情報)とを対応付けたフロー転送情報をフローテーブル2000に格納する(ステップS211)。
 次に、第1のパケット転送装置20のルーティング部207は、該当のエントリ(上記のステップS204でハッシュ値が一致すると判定されたエントリ又は上記のステップS211で格納されたエントリ)から出力ポート情報を取得する(ステップS212)。そして、ルーティング部207は、取得した出力ポート情報が示す出力ポート208に当該パケットを送信する。
 次に、第1のパケット転送装置20の出力ポート208は、ルーティング部207から受け取ったパケットを送信する(ステップS213)。
 以上のように、アプリ判定部205は、フロー識別子で識別されるフローのフロー特性をアプリ情報キャッシュ3000を参照して特定する。このため、アプリ判定部205は、フロー特性を効率良く特定することができる。また、アプリ判定部205は、アプリ情報キャッシュ3000にフロー識別子で識別されるフローの情報が登録されていない場合には、アプリ情報データベース40に基づいてフロー特性を特定する。このため、アプリ判定部205は、フロー特性を正確に特定することができる。
 <アプリ情報キャッシュへの登録処理>
 以降では、実施例におけるアプリ情報キャッシュ3000への登録処理について、図10を参照しながら説明する。図10は、実施例におけるアプリ情報キャッシュ3000への登録処理の流れの一例を説明するための図である。
 まず、第1のパケット転送装置20のアプリ判定部205は、アプリ情報キャッシュ3000にフローの情報を登録するエントリを特定するエントリ特定処理を行う(ステップS301)。そして、アプリ判定部205は、特定したエントリにフローの情報及びタイムスタンプを格納する(ステップS302)。
 そして、アプリ判定部205は、登録が手動登録であるか否かを判定する(ステップS303)。ここで、登録が手動登録である場合とは、ユーザやオペレータによりアプリ情報キャッシュ3000への登録が行われる場合である。
 ステップS303において、登録が手動登録であると判定された場合、アプリ判定部205は、登録したエントリのエリアを手動登録エリアに置換する(ステップS304)。
 一方で、ステップS303において、登録が手動登録でないと判定された場合、アプリ判定部205は、登録したエントリが優先エントリであるか否かを判定する(ステップS305)。ここで、優先エントリとは、自動登録エリアに登録されるエントリである。
 ステップS305において、登録したエントリが優先エントリであると判定された場合、アプリ判定部205は、登録したエントリのエリアを自動登録エリアに置換する(ステップS306)。
 なお、エントリ特定処理において特定されたエントリのエリアはLRUエリアであるので、ステップS305において、登録したエントリが優先エントリでないと判定された場合には、登録したエントリのエリアの置換は不要である。
 図11は、エントリ特定処理の流れの一例を説明するための図である。図11に示すように、アプリ判定部205は、アプリ情報キャッシュ3000に空エントリがあるか否かを判定する(ステップS401)。
 ステップS401において、空エントリがあると判定された場合、アプリ判定部205は、空エントリの識別情報を返却する(ステップS402)。
 一方で、ステップS401において、空エントリがないと判定された場合、アプリ判定部205は、LRUエリアへの登録であるか否かを判定する(ステップS403)。
 ステップS403において、LRUエリアへの登録であると判定された場合には、アプリ判定部205は、LRUエリアからLRUに基づいて、置換されるエントリを特定する(ステップS404)。
 一方で、ステップS403において、LRUエリアへの登録でないと判定された場合には、アプリ判定部205は、LRUエリアと自動登録エリアからLRUに基づいて、置換されるエントリを特定する(ステップS405)。ただし、アプリ判定部205は、自動登録エリアのエントリについては、削除するエントリの特定に際して、経過時間に任意の重み係数ωを掛けた値を用いる。また、削除されるエントリが自動登録エリアのエントリである場合には、削除されるエントリのエリアはLRUエリアに置換される。
 そして、アプリ判定部205は、特定したエントリの識別情報を返却する(ステップS406)。
 以上のように、実施例における負荷分散システム1は、第1のパケット転送装置20から第2のパケット転送装置30にパケットを転送する際に、当該パケットによるフローのフロー特性に応じて、低負荷状態の第2のパケット転送装置30に当該パケットを転送する。これにより、実施例における負荷分散システム1では、第2のパケット転送装置30の負荷分散を実現することができる。このため、例えば、或る第2のパケット転送装置30に高bpsフローのパケットが集中する事態や高ppsフローのパケットが集中する事態を防止することができ、第2のパケット転送装置30の転送容量を最大限に活かすことができるようになる。
 また、実施例における負荷分散システム1は、アプリ情報データベース40にフロー識別子に対応付けてアプリケーションのフロー特性を含むアプリ情報を記憶する。そして、アプリ判定装置50が、アプリ情報データベース40をフロー識別子をキーとして検索してアプリ情報を取得し、第1のパケット転送装置20に送信する。このため、第1のパケット転送装置20は、フロー特性を正確に特定することができる。
 また、実施例における負荷分散システム1は、アプリ情報データベース40の一部をアプリ情報キャッシュ3000にキャッシュする。このため、第1のパケット転送装置20は、フロー特性を効率良く特定することができる。
 また、実施例における負荷分散システム1は、アプリ情報キャッシュ3000をLRUエリアと、LRUエリアよりエントリが置換されにくい自動登録エリアと、エントリが置換されない手動登録エリアに分ける。そして、アプリ判定部205は、アプリ情報に含まれるアプリ種別に基づいてLRUエリア又は自動登録エリアにキャッシュ情報を登録する。このため、第1のパケット転送装置20は、アプリケーションの種別に応じてアプリ情報キャッシュ3000からエントリを削除されにくくすることができ、特定のアプリケーションについてフロー特性をより効率良く特定することができる。
 また、実施例における負荷分散システム1では、アプリ判定部205は、自動登録エリアにエントリを登録する場合でLRUに基づいてエントリを置換する場合に、自動登録エリア又はLRUエリアから、置換されるエントリを特定する。このとき、アプリ判定部205は、自動登録エリアのエントリについては経過時間にωを掛けた値を用いて、置換されるエントリを特定する。したがって、アプリ判定部205は、自動登録エリアのエントリをLRUエリアのエントリより削除されにくくすることができる。
 <ハードウェア構成>
 最後に、本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50のハードウェア構成について説明する。本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50は、例えば図12に示すコンピュータ500を1台以上用いることにより実現される。図12は、コンピュータ500のハードウェア構成の一例を示す図である。
 図12に示すコンピュータ500は、CPU(Central Processing Unit)501と、RAM502と、ROM(Read Only Memory)503と、外部I/F504と、通信I/F505と、補助記憶装置506とを有する。これら各ハードウェアは、それぞれがバスBを介して通信可能に接続されている。
 CPU501は、ROM503や補助記憶装置506等からプログラムやデータをRAM502上に読み出して処理を実行する演算装置である。
 RAM502は、プログラムやデータを一時保持する揮発性の半導体メモリである。ROM503は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリである。ROM503には、例えば、OS設定やネットワーク設定等が格納されている。
 外部I/F504は、外部装置とのインタフェースである。外部装置には、記録媒体504a等がある。コンピュータ500は、外部I/F504を介して、記録媒体504a等の読み取りや書き込み等を行うことができる。
 記録媒体504aには、例えば、フレキシブルディスク、CD(Compact Disc)、DVD(Digital Versatile Disk)、SDメモリカード(Secure Digital memory card)、USB(Universal Serial Bus)メモリカード等がある。
 通信I/F505は、他の装置と通信を行うためのインタフェースである。なお、第1のパケット転送装置20及び第2のパケット転送装置30は、複数の通信I/F505を有する。
 補助記憶装置506は、例えばHDD(Hard Disk Drive)やSSD(Solid State Drive)等であり、プログラムやデータを格納している不揮発性の記憶装置である。補助記憶装置506に格納されているプログラムやデータには、例えば、OS、当該OS上において各種機能を実現するアプリケーションプログラム等がある。
 本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50は、図12に示すコンピュータ500を1台以上用いることにより、上述した各種処理を実行することができる。例えば、負荷監視装置10が有する各機能部は、補助記憶装置506に格納された1以上のプログラムがCPU501等に実行させる処理により実現される。また、例えば、第1のパケット転送装置20が有する各機能部は、補助記憶装置506に格納された1以上のプログラムがCPU501等に実行させる処理や通信I/F505等により実現される。
 なお、負荷監視装置10は、例えばディスプレイ等の表示装置と、例えばキーボードやマウス等の入力装置とのうちの少なくとも一方を有していても良い。
 本発明は、具体的に開示された上記の実施の形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、上記の実施の形態では、負荷分散を行うパケット転送装置を第1のパケット転送装置20、負荷分散の対象となるパケット転送装置を第2のパケット転送装置30としたが、これは、或るパケット転送装置が常に第1のパケット転送装置20又は第2のパケット転送装置30のいずれかとして機能することを意味するものではない。例えば、同一のパケット転送装置が第1のパケット転送装置20として機能し、かつ、第2のパケット転送装置30としても機能しても良い。
 1     負荷分散システム
 10    負荷監視装置
 20    第1のパケット転送装置
 30    第2のパケット転送装置
 40    アプリ情報データベース
 50    アプリ判定装置
 51    アプリ情報検索部
 101   流量監視部
 102   負荷分散決定部
 103   命令送信部
 201   命令受信部
 202   経路テーブル変更部
 203   入力ポート
 204   フロー情報取得部
 205   アプリ判定部
 206   経路決定部
 207   ルーティング部
 208   出力ポート
 209   入力バッファ
 N1、N2 ネットワーク

Claims (5)

  1.  パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報を記憶するアプリ情報記憶手段と、
     入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手段と、
     前記取得手段により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手段と、
     を有することを特徴とする負荷分散システム。
  2.  前記アプリ情報は、アプリケーションの種別を含み、
     前記アプリ情報記憶手段が記憶する情報の一部が、エントリが置換される際に置換されにくさに基づいて複数の領域に分けてキャッシュされるキャッシュ記憶手段を有し、
     前記取得手段は、前記キャッシュ記憶手段から前記アプリ情報を取得し、前記キャッシュ記憶手段から前記アプリ情報を取得できない場合に、前記アプリ情報記憶手段から前記アプリ情報を取得し、前記種別に基づいて前記複数の領域のうちのいずれかの領域に該アプリ情報を前記フロー識別子に対応付けて登録することを特徴とする請求項1に記載の負荷分散システム。
  3.  前記複数の領域は、エントリが削除されることのない第1領域と、エントリが削除される第3領域と、前記第3領域よりもエントリが削除されにくい第2領域とを含み、
     前記取得手段は、前記種別が優先的にキャッシュされるアプリケーションであることを示す場合に、前記第2領域に前記アプリ情報を登録し、優先的にキャッシュされるアプリケーションでないことを示す場合に、前記第3領域に該アプリ情報を登録することを特徴とする請求項2に記載の負荷分散システム。
  4.  前記取得手段は、前記種別が優先的にキャッシュされるアプリケーションであることを示す場合には、前記キャッシュ記憶手段のエントリをLRUに基づいて置換する際に、前記第2領域のエントリについては前記キャッシュ記憶手段に登録されてからの経過時間に1より小さい正数の重み係数を乗じた値を用いて、前記第2領域又は前記第3領域から、置換されるエントリを選択することを特徴とする請求項3に記載の負荷分散システム。
  5.  パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報をアプリ情報記憶手段に記憶する記憶手順、
     入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手順と、
     前記取得手順により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手順と、
     を負荷分散システムが実行することを特徴とする負荷分散方法。
PCT/JP2019/031781 2018-08-13 2019-08-09 負荷分散システム及び負荷分散方法 WO2020036162A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/267,945 US11757779B2 (en) 2018-08-13 2019-08-09 Load distribution system and load distribution method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018152527A JP7052634B2 (ja) 2018-08-13 2018-08-13 負荷分散システム及び負荷分散方法
JP2018-152527 2018-08-13

Publications (1)

Publication Number Publication Date
WO2020036162A1 true WO2020036162A1 (ja) 2020-02-20

Family

ID=69525402

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/031781 WO2020036162A1 (ja) 2018-08-13 2019-08-09 負荷分散システム及び負荷分散方法

Country Status (3)

Country Link
US (1) US11757779B2 (ja)
JP (1) JP7052634B2 (ja)
WO (1) WO2020036162A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024176320A1 (ja) * 2023-02-20 2024-08-29 日本電信電話株式会社 通信装置、通信方法および通信プログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112020002528B4 (de) * 2019-05-23 2024-10-17 Hewlett Packard Enterprise Development Lp Algorithmen für die verwendung von lastinformationen von benachbarten knoten beim adaptiven routing
JP7466949B2 (ja) * 2022-12-15 2024-04-15 株式会社サンセイアールアンドディ 遊技機

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186649A (ja) * 2011-03-04 2012-09-27 Nec Corp 通信切替システム、通信切替方法、及びプログラム
WO2015023256A1 (en) * 2013-08-12 2015-02-19 Hewlett-Packard Development Company, L.P. Application-aware network management

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7684432B2 (en) * 2003-05-15 2010-03-23 At&T Intellectual Property I, L.P. Methods of providing data services over data networks and related data networks, data service providers, routing gateways and computer program products
JP2004350078A (ja) 2003-05-23 2004-12-09 Fujitsu Ltd 方路分散伝送システム
TW200904074A (en) * 2007-07-12 2009-01-16 Netklass Technology Inc Method for transmitting data in virtual WAN and system thereof
US8295284B1 (en) * 2010-02-02 2012-10-23 Cisco Technology, Inc. Dynamic, conditon-based packet redirection
US8345688B2 (en) * 2010-02-23 2013-01-01 Google Inc. System and method for managing flow of packets
US9450780B2 (en) * 2012-07-27 2016-09-20 Intel Corporation Packet processing approach to improve performance and energy efficiency for software routers

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186649A (ja) * 2011-03-04 2012-09-27 Nec Corp 通信切替システム、通信切替方法、及びプログラム
WO2015023256A1 (en) * 2013-08-12 2015-02-19 Hewlett-Packard Development Company, L.P. Application-aware network management

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024176320A1 (ja) * 2023-02-20 2024-08-29 日本電信電話株式会社 通信装置、通信方法および通信プログラム

Also Published As

Publication number Publication date
US20220182325A1 (en) 2022-06-09
JP2020028048A (ja) 2020-02-20
JP7052634B2 (ja) 2022-04-12
US11757779B2 (en) 2023-09-12

Similar Documents

Publication Publication Date Title
US10404622B2 (en) Servers, switches, and systems with virtual interface to external network connecting hardware and integrated networking driver
US10075396B2 (en) Methods and systems for managing distributed media access control address tables
US10135714B2 (en) Servers, switches, and systems with switching module implementing a distributed network operating system
US9680714B2 (en) Methods, systems, and fabrics implementing a distributed network operating system
US9742697B2 (en) Integrated server with switching capabilities and network operating system
US9614930B2 (en) Virtual machine mobility using OpenFlow
US10257066B2 (en) Interconnect congestion control in a storage grid
US10581734B2 (en) Methods, systems, and fabrics implementing a distributed network operating system
US9304782B2 (en) Network switch, systems, and servers implementing boot image delivery
US11997024B2 (en) Mapping NVMe-over-fabric packets using virtual output queues
WO2020036162A1 (ja) 負荷分散システム及び負荷分散方法
WO2013146808A1 (ja) コンピュータシステム、及び通信経路変更方法
JP6888566B2 (ja) 負荷分散システム及び負荷分散方法
JP2005025485A (ja) アドレス管理方法および装置
WO2020031996A1 (ja) 負荷分散システム及び負荷分散方法
WO2020162185A1 (ja) 負荷分散システム及び負荷分散方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19850501

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19850501

Country of ref document: EP

Kind code of ref document: A1