[go: up one dir, main page]

WO2016056217A1 - 測定装置、測定システム、測定方法、および、プログラム - Google Patents

測定装置、測定システム、測定方法、および、プログラム Download PDF

Info

Publication number
WO2016056217A1
WO2016056217A1 PCT/JP2015/005053 JP2015005053W WO2016056217A1 WO 2016056217 A1 WO2016056217 A1 WO 2016056217A1 JP 2015005053 W JP2015005053 W JP 2015005053W WO 2016056217 A1 WO2016056217 A1 WO 2016056217A1
Authority
WO
WIPO (PCT)
Prior art keywords
communication
packet
cache miss
processing
threshold
Prior art date
Application number
PCT/JP2015/005053
Other languages
English (en)
French (fr)
Inventor
義和 渡邊
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to JP2016552823A priority Critical patent/JP6428784B2/ja
Priority to US15/512,899 priority patent/US20170302558A1/en
Publication of WO2016056217A1 publication Critical patent/WO2016056217A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0862—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches with prefetch
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10—Providing a specific technical effect
    • G06F2212/1016—Performance improvement
    • G06F2212/1021—Hit rate improvement
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/60—Details of cache memory
    • G06F2212/6028—Prefetching based on hints or prefetch instructions

Definitions

  • the present invention relates to a measuring device, a measuring system, a measuring method, and a program, and more particularly, to a measuring device, a measuring system, a measuring method, and a program for measuring the influence of a cache miss on communication processing.
  • Ethernet (registered trademark) switches and routers execute a packet processing function that forwards or discards packets according to a certain rule, that is, a network switch function.
  • the packet processing function may be realized by a dedicated processor, or may be realized by software operating on a general-purpose processor.
  • ⁇ 1 Receive the packet from the communication interface
  • ⁇ 2 Specify the communication flow to which the packet belongs
  • ⁇ 3 Refer to the information necessary to process the flow
  • ⁇ 4 Process the packet based on the information
  • Patent Document 1 discloses a technique for reducing such cache misses and improving and stabilizing average processing performance.
  • the microprocessor of Patent Document 1 reduces cache misses by using a pipeline processing mechanism for packet processing.
  • the microprocessor has four buffer memories for accommodating received packets, and executes the following processing in parallel for each buffer memory. ⁇ Packet reception (equivalent to process 1 above) ⁇ Related data prefetch (equivalent to the above processing 2 and 3) ⁇ Packet processing (equivalent to processing 4 above) ⁇ Packet output (equivalent to process 4 above)
  • the microprocessor disclosed in Patent Document 1 prefetches the memory data referred to in the process 2 and loads it into the cache before referring to the data. Furthermore, the microprocessor processes another packet until the data is loaded into the cache. Thereby, the microprocessor reduces cache misses.
  • Patent Document 2 discloses a communication system that realizes a packet processing function by software.
  • the microprocessor disclosed in Patent Document 1 requires special hardware such as a prefetch control unit and a buffer memory state control unit. Performing packet processing with a processor having such special hardware results in an increase in the device price.
  • the processor prefetches the memory data for memory data access that causes performance degradation.
  • the processor processes another packet (or the packet currently being processed).
  • the following measured value is required, and how to measure this value It becomes a problem.
  • -Data access delay time when a cache miss occurs and Packet processing execution time when no cache miss occurs
  • these measurements are also used for other purposes such as determining the speed and capacity of the cache memory. Can be used.
  • An object of the present invention is to provide a measuring apparatus, a measuring system, a measuring method, and a program for obtaining the above two measured values.
  • the measuring apparatus measures the packet processing time of a communication processing unit that performs packet processing of a communication flow using a cache memory for a plurality of communication flows, and when there is no cache miss from the measurement result.
  • Control means for calculating packet processing time and processing delay time due to cache miss is provided.
  • the measurement method measures the packet processing time of a communication processing unit that performs packet processing of a communication flow using a cache memory for a plurality of communication flows, and when there is no cache miss from the measurement result. A packet processing time and a processing delay time due to a cache miss are calculated.
  • a recording medium measures a packet processing time of a communication processing unit that performs packet processing of a communication flow using a cache memory in a computer for a plurality of communication flows, and a cache miss is determined from the measurement result.
  • a program for executing a process for calculating a packet processing time when there is no packet and a processing delay time due to a cache miss is recorded.
  • the measuring apparatus can obtain the data access delay time when a cache miss occurs and the time required to execute packet processing when no cache miss occurs.
  • FIG. 1 is an explanatory diagram illustrating an example of a configuration of a measurement system 60 according to the first embodiment.
  • FIG. 2 is a block diagram illustrating a configuration example of the measuring apparatus 1.
  • FIG. 3 is a block diagram illustrating a configuration example of the load generating device 2.
  • FIG. 4 is a block diagram illustrating a detailed configuration example of the measuring apparatus 1.
  • FIG. 5 is a flowchart illustrating an operation example of the communication processing unit 20.
  • FIG. 6 is a flowchart illustrating an operation example of the measurement control unit 12.
  • FIG. 7 is a flowchart illustrating an operation example of the load generation unit 40.
  • FIG. 8 is a flowchart (part 1) illustrating an operation example of the optimization control unit 11.
  • FIG. 1 is an explanatory diagram illustrating an example of a configuration of a measurement system 60 according to the first embodiment.
  • FIG. 2 is a block diagram illustrating a configuration example of the measuring apparatus 1.
  • FIG. 3 is a block diagram illustrating a
  • FIG. 9 is a flowchart (part 2) illustrating an operation example of the optimization control unit 11.
  • FIG. 10 is a graph illustrating an example of a measurement result of time taken for packet processing by the communication processing unit 20.
  • FIG. 11 is a graph showing an example of the residual sum of squares calculated by the optimization control unit 11.
  • FIG. 12 is a table showing an example of measurement output values output from the measurement apparatus 1.
  • FIG. 13 is a schematic diagram illustrating a packet processing time sequence example for explaining the process optimization of the communication processing unit 20 that can be performed using the measurement output value output from the measurement apparatus 1.
  • FIG. 14 is a flowchart (part 1) illustrating an operation example of the communication processing unit 20 after optimization.
  • FIG. 15A is a flowchart (part 1 of 2) illustrating an operation example of the communication processing unit 20 after optimization.
  • FIG. 15B is a flowchart (part 2 of 2) illustrating an operation example of the communication processing unit 20 after optimization.
  • FIG. 16 is an explanatory diagram illustrating an example of the
  • FIG. 1 is an explanatory diagram illustrating an example of a configuration of a measurement system 60 according to the present embodiment.
  • a measurement system 60 illustrated in FIG. 1 includes a measurement device 1, a load generation device 2, and a communication network 3.
  • the measuring device 1 is a device provided with a general-purpose or dedicated processor and a hierarchical memory (none of which is shown) including a cache.
  • the measuring apparatus 1 executes packet processing for realizing the network switch function on the processor, and processing time when there is no cache miss and processing delay time due to cache miss (hereinafter collectively referred to as a measurement output value). Measure).
  • These measurement output values can be used, for example, to optimize packet processing and determine the speed and capacity of the cache memory as described above.
  • the measuring device 1 is realized by, for example, a computer and a software packet processing function.
  • the measuring device 1 may be a dedicated device equipped with a dedicated processor configured with a dedicated logic circuit.
  • the load generating device 2 is a device that generates a communication load required by the measuring device 1.
  • the load generation device 2 is realized by, for example, a computer including a hierarchical memory including a processor and a cache, and a software packet generation function.
  • the load generating device 2 may be a dedicated device equipped with a dedicated logic circuit.
  • the communication network 3 is a communication path that connects the measuring device 1 and the load generating device 2.
  • the communication network 3 is realized by, for example, Ethernet (registered trademark) LAN (Local Area Network).
  • FIG. 2 is a block diagram illustrating a configuration example of the measuring apparatus 1.
  • the measuring apparatus 1 illustrated in FIG. 2 includes a control unit 10, a communication processing unit 20, and a communication IF (Interface) unit 30.
  • One or more communication IF units 30 may be provided.
  • the control unit 10 performs control for performing measurement related to the communication processing unit 20.
  • the communication processing unit 20 operates as a network switch, receives a packet received by the communication IF unit 30, and executes packet processing.
  • the communication processing unit 20 identifies a flow to which the received packet belongs, refers to information on the flow, and determines and processes the processing method of the packet.
  • the communication IF unit 30 is an interface for connecting the measuring apparatus 1 and the communication network 3, and performs communication according to a protocol used in the communication network 3.
  • the control unit 10, the communication processing unit 20, and the communication IF unit 30 are configured by logic circuits.
  • the control unit 10, the communication processing unit 20, or the communication IF unit 30 may be realized by software that is stored in the memory of the measuring apparatus 1 that is a computer and executed by a processor.
  • FIG. 3 is a block diagram illustrating a configuration example of the load generator 2.
  • the load generation device 2 illustrated in FIG. 3 includes a load generation unit 40 and a communication IF unit 50. There may be one or more communication IF units 50.
  • the load generation unit 40 generates and transmits a packet serving as a load on the communication processing unit 20 under the instruction of the control unit 10 of the measurement apparatus 1.
  • the instruction of the control unit 10 includes, for example, part or all of the number of flows, transmission destination information, transmission source information, transmission rate, and transmission pattern.
  • the communication IF unit 50 is an interface for connecting the load generating device 2 and the communication network 3, and performs communication according to a protocol used in the communication network 3.
  • FIG. 4 is a block diagram showing a detailed configuration example of the measuring apparatus 1.
  • the control unit 10 includes an optimization control unit 11 and a measurement control unit 12.
  • the optimization control unit 11 instructs the measurement control unit 12 to measure the time required for packet processing executed by the communication processing unit 20 a plurality of times, and receives the measurement result.
  • the optimization control unit 11 instructs the measurement control unit 12 to perform measurement with a different number of flows for each of a plurality of measurements.
  • the optimization control unit 11 determines the necessity of further measurement and the number of flows when performing further measurement based on the obtained measurement result. Further, the optimization control unit 11 determines a cache miss flow threshold that is a flow number threshold related to a cache miss that occurs during packet processing by the communication processing unit 20 based on the obtained measurement result.
  • the cash miss flow threshold is a threshold composed of one or more values.
  • the cache miss flow threshold is a value indicating the number of flows in which the occurrence of a cache miss is small in packet processing of the number of flows equal to or less than the threshold and the cache miss occurs regularly in the packet processing of the number of flows equal to or greater than the threshold. It is.
  • the cache miss flow threshold is a value that approximates the number of flows when the working set capacity exceeds the cache memory capacity.
  • the optimization control unit 11 determines a cache miss flow threshold from the above measurement result. Further, the optimization control unit 11 determines the following measurement output value related to the communication processing unit 20 from the measurement result and the determined cache miss flow threshold. ⁇ Data access delay time when a cache miss occurs ⁇ Each execution time of the sub-process that constitutes packet processing when no cache miss occurs Note that the cache miss here is a working set that accompanies an increase in the number of flows This refers to a cache miss that occurs regularly due to an increase in the capacity of the server (the same applies to the following description). In the description “when no cache miss occurs”, the occurrence of a cache miss is not necessarily zero.
  • the capacity of the working set is sufficiently smaller than the capacity of the cache memory, there is a possibility that a cache miss may occur due to a change in the memory block group included in the working set.
  • the data access delay time measured by the measuring apparatus 1 is not due to such a cache miss, but is due to a cache miss that occurs regularly due to an increase in the capacity of the working set.
  • the measurement control unit 12 receives the number of flows as an input, controls the communication processing unit 20 and the load generation unit 40, and measures the packet processing time when the communication processing unit 20 performs communication of the specified number of flows.
  • the measurement control unit 12 may control the load generation unit 40 through the communication network 3 or may control through a control network (not shown).
  • the communication processing unit 20 in this embodiment processes an IP (Internet Protocol) packet, for example.
  • IP Internet Protocol
  • the communication processing unit 20 specifies a flow using a transmission source IP address, a transmission destination IP address, an upper protocol number, a transmission destination port number, and a transmission source port number (hereinafter also referred to as a 5-tuple) included in the packet header. . That is, the communication processing unit 20 determines that packet groups having the same 5-tuple value (hereinafter also referred to as a key) belong to the same flow.
  • the communication processing unit 20 in the present embodiment uses a flow entry as a processing rule related to a flow.
  • a flow entry includes a method of processing a packet that is identified and specified by a value of a 5-tuple and belongs to a flow corresponding to the 5-tuple.
  • the packet processing method includes, for example, outputting a packet from a specific communication IF unit 30, discarding the packet, notifying a module / device (not shown) inside or outside the measuring apparatus 1, storing it in a storage device (not shown), and the like. It may be.
  • the communication processing unit 20 stores a flow table including a flow entry.
  • the communication processing unit 20 provides the control unit 10 with an interface that manipulates the contents of the flow table, that is, adds, references, updates, and deletes flow entries.
  • the communication processing unit 20 stores the flow entry on the memory of the measuring device 1 using a hash table.
  • the hash table used by the communication processing unit 20 may be, for example, an Open Addressing method.
  • the communication processing unit 20 receives and processes the packet received by the communication IF unit 30.
  • the communication processing unit 20 performs the following processes on the received packet.
  • -A Get the 5-tuple value of the packet
  • -B Search for the flow entry corresponding to the packet
  • -C Process the packet according to the processing method included in the acquired flow entry
  • the communication processing unit 20 may discard the packet, or notify the occurrence of the event to a module / device (not shown) inside or outside the measuring device 1. Also good.
  • the communication processing unit 20 has a function of measuring part or all of the time required for executing each of the above A to C.
  • the communication processing unit 20 may measure the required time using, for example, a cycle number counter included in the measurement device 1 or the processor of the communication processing unit 20.
  • the communication processing unit 20 acquires a value from the cycle number counter immediately before the start of the process A, acquires a value from the cycle number counter immediately after the process A ends, and determines the process A from the difference between the acquired values.
  • the required time or the required number of cycles may be measured.
  • the communication processing unit 20 may measure the processing time using a real time timer.
  • the communication processing unit 20 may measure the required time with a finer granularity than the processing units A to C.
  • FIG. 5 is a flowchart showing an operation when the communication processing unit 20 receives and processes a packet from the communication IF unit 30. This operation may be started by event driving, or may be started by a polling operation by the communication processing unit 20.
  • the communication processing unit 20 receives a packet from the communication IF unit 30 (step S101).
  • the communication processing unit 20 confirms whether or not all received packets have been processed, and ends the process if there is no unprocessed packet (N in step S102).
  • the communication processing unit 20 starts processing the first packet and extracts the key of the packet (step S103). For example, the communication processing unit 20 obtains a 5-tuple value of the packet, that is, a transmission source IP address, a transmission destination IP address, an upper protocol number, a transmission destination port number, and a transmission source port number.
  • the communication processing unit 20 calculates a hash value for the key of the packet (step S104).
  • the communication processing unit 20 searches the hash table based on the obtained hash value, and searches for a flow entry related to the flow to which the packet belongs (step S105).
  • step S108 the communication processing unit 20 processes the packet according to the processing method specified in the flow entry (step S106).
  • the communication processing unit 20 discards the packet (step S107). Instead of discarding the packet or in addition to discarding the packet, the communication processing unit 20 notifies a module / device (not shown) inside or outside the measuring apparatus 1 of the occurrence of a packet that does not have a corresponding flow entry. May be.
  • FIG. 6 is a flowchart showing the operation when the measurement control unit 12 measures the time required for packet processing by the communication processing unit 20. This operation is started by a request from the optimization control unit 11, for example. At the start of this operation, the measurement control unit 12 receives at least the number of flows used for measurement as an input parameter.
  • the measurement control unit 12 sets a flow entry for the specified number of flows in the communication processing unit 20 (step S121).
  • the measurement control unit 12 may generate the key of the flow entry to be set, for example, randomly within a range where duplication does not occur, or continuously increase the value (for example, destination IP address) Also good.
  • the processing method of the flow entry to be set may be any one of outputting from the communication IF unit 30 of the reception source, outputting from the communication IF unit 30 different from the reception source, and discarding.
  • the measurement control unit 12 instructs the communication processing unit 20 to start measuring the time required for packet processing (step S122). Note that this step may be omitted if the communication processing unit 20 always measures the required time during the operation.
  • the measurement control unit 12 instructs the load generation unit 40 to start load generation (step S123). At that time, the measurement control unit 12 passes the set of keys generated in step S121 to the load generation unit 40 as an input parameter. Alternatively, the measurement control unit 12 and the load generation unit 40 share a key set generation algorithm in advance, and the measurement control unit 12 passes only the input parameters necessary to create the same set of values to the load generation unit 40. Also good.
  • the measurement control unit 12 waits until the measurement is completed (step S124). For example, the measurement control unit 12 may determine that the measurement is completed after a predetermined time has elapsed. Alternatively, the measurement control unit 12 periodically acquires the number of packets processed by the communication processing unit 20 from the start of measurement from the communication processing unit 20, and determines that the measurement is completed when a preset threshold value is reached. May be.
  • the measurement control unit 12 instructs the load generation unit 40 to end the load generation (step S125).
  • the measurement control unit 12 acquires the measurement result from the communication processing unit 20 and passes it to the optimization control unit 11 (step S126).
  • FIG. 7 is a flowchart showing an operation when the load generating unit 40 generates communication that becomes a load on the communication processing unit 20. This operation is started by a request from the measurement control unit 12, for example. At the start of this operation, the load generating unit 40 receives, for example, a set of keys to be used for a packet to be generated as an input parameter.
  • the load generation unit 40 confirms whether there is an end instruction (step S131). If there is an end instruction (Y in step S131), the load generating unit 40 ends this operation.
  • the load generating unit 40 selects a key to be used for the packet to be transmitted next from a set of keys to be used (step S132).
  • the load generation unit 40 selects values so that the values in the set are used as averagely as possible. For example, the load generation unit 40 may arrange the elements in the set in a certain order and select values continuously according to the order. In that case, when the load generation unit 40 reaches the last value, the load generation unit 40 returns to the first value and uses it. Further, the load generation unit 40 may select a value to be used at random from the set.
  • the load generation unit 40 generates a packet including the key selected in step S132 (step S133).
  • the load generation unit 40 may generate values for packet fields other than five tuples at random, or may use values given in advance.
  • the load generation unit 40 may use an address used in the communication IF unit 30 or the communication IF unit 50 with respect to the address field.
  • the load generation unit 40 may acquire these addresses as part of an input parameter from an OS (Operating System, not shown) or a request source.
  • the load generation unit 40 transmits the packet generated in step S133 from the communication IF unit 50 (step S134). The load generation unit 40 continues this operation until there is an end instruction (Y in step S131).
  • FIG. 8 is a flowchart showing an operation when the optimization control unit 11 determines a measurement output value related to the communication processing unit 20. This operation may be initiated by the user, for example.
  • the optimization control unit 11 selects the number of flows used in the first measurement (Step S141).
  • the optimization control unit 11 may select a preset value, or may select a value given by the user at the start of this operation.
  • the optimization control unit 11 instructs the measurement control unit 12 to perform measurement using the selected number of flows as an input parameter, and receives the result (step S142).
  • the optimization control unit 11 tries to determine a measurement output value related to the communication processing unit 20 based on the measurement result collected in this operation (measurement result in step S126) (step S143). This method will be described later with reference to FIG. If the optimization control unit 11 succeeds in determining the measurement output value in step S143 (Y in step S144), the optimization control unit 11 ends the process.
  • the optimization control unit 11 selects another flow number, performs the next measurement, and tries to determine the measurement output value again (step S145). .
  • the optimization control unit 11 may use, for example, a value obtained by adding a preset value to the number of flows used in the last measurement in the next measurement. If the optimization control unit 11 fails to determine the measurement output value a predetermined number of times, the operation for determining the measurement output value related to the communication processing unit 20 by changing the value used for the measurement is repeated from step S141. Also good. At that time, for example, the optimization control unit 11 may set the number of flows used in the first measurement used in step S141 to be 1 ⁇ 2 of that used in the previous operation. Further, the optimization control unit 11 may set the number of flows to be increased for each measurement used in step S145 to be 1/2 or twice that used in the previous operation.
  • the optimization control unit 11 determines the following as measurement output values related to the communication processing unit 20 in step S143 with reference to FIG. -Data access delay time when a cache miss occurs-Each execution time required for the sub-processes constituting the packet processing when no cache miss occurs
  • the optimization control unit 11 tries to determine a cache miss flow threshold ( Step S151).
  • the cache miss flow threshold is composed of two values: the number of flows where the cache miss begins to increase and the number of flows where the increase in the cache miss ends (saturates).
  • the optimization control unit 11 determines the cache miss flow threshold by using, for example, the rate of change of the error in the approximate expression.
  • the optimization control unit 11 detects the change in the increase rate using the fact that the error in the approximate expression becomes large, and detects the cache miss flow threshold.
  • the optimization control unit 11 may use, for example, a least square method for this calculation.
  • the optimization control unit 11 may determine the cache miss flow threshold as the number of flows where the error locally peaks. At this time, the optimization control unit 11 may determine the peak by scanning the error numerical value sequence, or may determine whether the peak is obtained by comparing an error with a predetermined threshold value.
  • the optimization control unit 11 may determine that it is impossible to determine the measurement output value from the current measurement result group when the peak cannot be detected or when the number is different from the number given in advance. Good (N in step S154).
  • FIG. 10 shows an example of a measurement result of time taken for packet processing by the communication processing unit 20, for example, an average required number of cycles per packet.
  • the X axis indicates the number of flows
  • the Y axis indicates the measurement result.
  • the optimization control unit 11 starts measurement when the number of flows is 2000, and thereafter measures until the number of flows increases by 2000 until 32000 flows.
  • the optimization control unit 11 derives the coefficient of the approximate expression from the measurement result using the least square method for the measurement result of the first flow number threshold determination unit (for example, the number of flows 2000, 4000, 6000, 8000). Find the residual sum of squares.
  • the optimization control unit 11 derives the coefficient of the approximate expression for the measurement result for the second flow number threshold determination unit (for example, the number of flows 4000, 6000, 8000, and 10000) from the measurement result, and calculates the residual sum of squares. Ask for.
  • the optimization control unit 11 performs the same calculation for the third flow number threshold determination unit and subsequent units.
  • FIG. 11 a residual sum of squares group as shown in FIG. 11 is obtained.
  • the X axis indicates the number of flows
  • the Y axis indicates the residual sum of squares.
  • the residual sum of squares when the coefficient of the approximate expression is derived for the first flow number threshold determination unit is plotted at the position of the number of flows 2000.
  • the residual sum of squares when the coefficient of the approximate expression is derived for the second flow number threshold determination unit is plotted at the position of the flow number 4000.
  • the residual sum of squares when the coefficient of the approximate expression is derived for the third flow number threshold determination unit is plotted at the position of the flow number 6000. The same applies hereinafter.
  • the optimization control unit 11 scans the error value sequence and detects that there are peaks at the position of the flow number 10,000 and the position of 20000. That is, the optimization control unit 11 starts to generate a cache miss in the section A (10000, 12000, 14000, 16000) of the number of flows, and becomes steady in the section B (20000, 22000, 24000, 26000). Detect that the increase in processing time has ended.
  • the optimization control unit 11 determines the minimum value (10000) of the section A and the maximum value (26000) of the section B as the cache miss flow threshold.
  • the optimization control unit 11 may determine the median value of the section A (13000) and the median value of the section B (23000) as the cache miss flow threshold.
  • the optimization control unit 11 may determine the average value of the flow number group (for the flow number threshold determination unit) in the sections A and B as the cache miss flow threshold value. Further, the optimization control unit 11 may determine the maximum value (8000) of the section adjacent to the smaller side of the section A and the minimum value (28000) of the section adjacent to the larger side of the section B as the cache miss flow threshold. good.
  • the optimization control unit 11 determines the data access delay time when a cache miss occurs (step S152).
  • the optimization control unit 11 sets the data access delay time when a cache miss occurs to the packet processing of the flow number packet processing required time greater than or equal to the larger cache miss flow threshold and the number of flows less than or equal to the smaller cache miss flow threshold. Calculated as the difference in required time. In the case of the above example, the optimization control unit 11 obtains, for example, the difference between the packet processing time required when the number of flows is 26000 or more and the packet processing time required when the number of flows is 10000 or less.
  • the optimization control unit 11 may determine the data access delay time when a cache miss occurs, for example, by any one or combination of the following.
  • the optimization control unit 11 derives the coefficient of the approximate expression using the least square method for each of the measurement result groups in the number of flows greater than or equal to the cache miss flow threshold and the number of flows less than or equal to the cache miss flow threshold.
  • the difference between the coefficients b is defined as the data access delay time.
  • the optimization control unit 11 selects the number of flows one by one from each of the measured flow number group equal to or greater than the cache miss flow threshold and the flow number group equal to or less than the cache miss flow threshold. For example, the optimization control unit 11 selects a value closest to the cache miss flow threshold. And the optimization control part 11 makes the difference of the measurement result in the said flow number the data access delay time.
  • the optimization control unit 11 determines the execution time required for packet processing when a cache miss does not occur (step S153). For example, the optimization control unit 11 derives the coefficient of the approximate expression using the least square method for the measurement result group in the number of flows below the cache miss flow threshold, and the packet processing execution time is calculated from the approximate expression and the flow number x. To decide.
  • the communication processing unit 20 outputs, for example, in units of sub-processes (for example, each step in FIG. 5) constituting packet processing
  • the optimization control unit 11 outputs each sub-unit included in the packet processing.
  • the measurement output value can be output for processing.
  • FIG. 12 shows “data access delay time when a cache miss occurs” and “required execution times of sub-processes constituting packet processing when a cache miss occurs” for steps S104 to S106 of FIG. Indicates. However, the latter is expressed by the coefficients a and b of the approximate expression for the required time.
  • the optimization of the packet processing function is to load the data necessary for packet processing into the cache memory before the processor references it, and the processor processes another packet until the data is loaded into the cache. To achieve. Optimization of packet processing functions reduces cache misses and improves processor utilization.
  • the measurement output value output by the measurement apparatus 1 of the present embodiment is useful for the change design.
  • FIG. 13 shows an example of a time sequence of packet processing for explaining processing optimization of the communication processing unit 20.
  • the processor of the communication processing unit 20 after the operation change performs processing for three packets in parallel.
  • the three packets are packet 1, packet 2, and packet 3.
  • a solid rectangle indicates that the processor is executing one sub-process for one packet, that is, key extraction, hash value calculation, and the like.
  • the required time is the time required to execute each sub process when no cache miss occurs in the measured output value.
  • a rectangle whose peripheral portion is shaded, for example, a rectangle in S173, indicates that one sub-processing prefetch for one packet is being executed.
  • the required time is a data access delay time when a cache miss occurs in the measured output value.
  • the communication processing unit 20 issues a prefetch instruction and starts prefetching, the communication processing unit 20 immediately shifts to processing of another packet. That is, the communication processing unit 20 advances the processing of other packets in parallel during the data access delay time generated by the prefetch.
  • the required time is described in parentheses, and the width of the rectangle, that is, the length in the time axis direction, is shown in proportion to the required time.
  • the operation change for optimizing the processing of the communication processing unit 20 is the following two changes related to sub-processing of a packet in which a cache miss occurs and there is a data access delay time.
  • the communication processing unit 20 issues a prefetch instruction for data that causes a cache miss in the sub-process before executing the sub-process.
  • the communication processing unit 20 performs sub-processing of another packet during prefetch execution.
  • step S103 there is no data access delay time when a cache miss occurs in key extraction (step S103) and hash value calculation (step S104). Therefore, these processes can be started immediately for packet 1 (steps S171 and S172 in FIG. 13).
  • step S179 in FIG. 13 there is a data access delay time when a cache miss occurs. Therefore, if the processor starts step S179 immediately after step S172, a cache miss may occur and execution of the processor may stop during the data access delay time.
  • step S172 the processor issues a prefetch instruction for data that causes a cache miss used in step S179 (step S173). Then, during the prefetch execution, the processor executes sub-processing of the next packet (packet 2 and packet 3).
  • the processor performs key extraction and hash value calculation for packet 2 and packet 3 in steps S174 to S178. Thereafter, similarly, for the sub-process in which the data access delay time exists, the operation of the processor of the communication processing unit 20 is changed so as to fill the access delay with the sub-process of another packet.
  • FIG. 14 is a flowchart illustrating an operation when the optimized communication processing unit 20 receives and processes a packet from the communication IF unit 30. This operation may be started by event driving, or may be started by a polling operation by the communication processing unit 20.
  • the communication processing unit 20 receives a packet from the communication IF unit 30 (step S161).
  • the communication processing unit 20 confirms whether three or more unprocessed packets remain in the received packet (step S162). When three or more unprocessed packets remain (Y in S162), the communication processing unit 20 processes the first three packets (step S163). Details thereof will be described later.
  • the communication processing unit 20 executes Steps S103 to S107 described with reference to FIG. 5 for each remaining unprocessed packet (Step S107). S164).
  • 15A and 15B are flowcharts showing the operation of the communication processing unit 20 after optimization in step S163.
  • the communication processing unit 20 extracts a key for the packet 1 (step S171).
  • the communication processing unit 20 calculates a hash value for the key of the packet 1 (step S172).
  • the communication processing unit 20 issues a prefetch instruction for data used in the hash table search for the packet 1 (step S173).
  • the communication processing unit 20 extracts a key for the packet 2 (step S174).
  • the communication processing unit 20 calculates a hash value for the key of the packet 2 (step S175).
  • the communication processing unit 20 issues a prefetch instruction for data used in the hash table search for the packet 2 (step S176).
  • the communication processing unit 20 extracts a key for the packet 3 (step S177).
  • the communication processing unit 20 calculates a hash value for the key of the packet 3 (step S178).
  • the communication processing unit 20 searches the hash table for the packet 1 based on the obtained hash value, and searches for a flow entry related to the flow to which the packet belongs (step S179).
  • the communication processing unit 20 issues a prefetch instruction for data used in packet processing using the found flow entry for the packet 1 (step S180).
  • the communication processing unit 20 issues a prefetch instruction for the data used in the hash table search for the packet 3 (step S181).
  • the communication processing unit 20 searches the hash table for the packet 2 based on the obtained hash value, and searches for a flow entry related to the flow to which the packet belongs (step S182).
  • the communication processing unit 20 processes the packet according to the processing method specified by the flow entry (step S183).
  • the communication processing unit 20 discards the packet.
  • the communication processing unit 20 issues a prefetch instruction for data used in packet processing using the found flow entry for the packet 2 (step S184).
  • the communication processing unit 20 searches the hash table for the packet 3 based on the obtained hash value, and searches for a flow entry related to the flow to which the packet belongs (step S185).
  • the communication processing unit 20 issues a prefetch instruction for data used in packet processing using the found flow entry for the packet 3 (step S186).
  • the communication processing unit 20 processes the packet according to the processing method specified by the flow entry (step S187).
  • the communication processing unit 20 discards the packet.
  • the communication processing unit 20 processes the packet according to the processing method specified by the flow entry (step S188). When the flow entry for the packet is not found, the communication processing unit 20 discards the packet.
  • the measuring apparatus 1 can obtain the data access delay time when a cache miss occurs and the time required to execute packet processing when no cache miss occurs.
  • the first reason is that, under the control of the optimization control unit 11, the measurement control unit 12 measures the time required for packet processing by the communication processing unit 20 for a plurality of flows and collects the results.
  • the second reason is that the optimization control unit 11 determines that the measurement output is based on the difference between the required time measurement results in the flow number region where a cache miss occurs and the flow number region where there is no cache miss. This is because the value is determined.
  • the communication processing unit 20 executes the data processing delay time.
  • Such packet processing can be optimized. Optimization is relatively easy when packet processing is implemented in software. However, optimization is also possible when packet processing is realized by other means such as firmware and logic circuits.
  • the data access delay time when a cache miss occurs and the execution time required for packet processing when no cache miss occurs are output from the measuring apparatus 1, and the speed design and capacity of the cache memory of the communication processing unit 20 It is also useful for other purposes such as design.
  • the control unit 10 is not necessarily separated into the optimization control unit 11 and the measurement control unit 12.
  • the control unit 10 may be an integrated logic circuit, a dedicated processor, or a software module that performs the functions of both the optimization control unit 11 and the measurement control unit 12.
  • the communication processing unit 20 and the communication IF unit 30 are not necessarily included in the measurement apparatus 1.
  • the communication processing unit 20 may exist in another device connected to the measuring device 1, for example.
  • the cash miss flow threshold may be a single value.
  • the optimization control unit 11 may detect two local peaks from the transition of the residual sum of squares corresponding to the number of flows in FIG. 11 and use the median of the two numbers of flows as the cache miss flow threshold. Alternatively, the optimization control unit 11 may detect one peak from the transition of the residual sum of squares corresponding to the number of flows in FIG. 11 and set the number of flows at that time as the cache miss flow threshold.
  • the optimization control unit 11 may calculate the data access delay time when a cache miss occurs from the difference in the processing time of the number of flows of the cache miss flow threshold ⁇ predetermined value (step S152).
  • FIG. 16 is an explanatory diagram illustrating an example of the configuration of the measurement apparatus 1 according to the second embodiment.
  • the measuring apparatus 1 of the present embodiment measures the packet processing time of the communication processing unit 20 that performs packet processing of communication flows using a cache memory for a plurality of communication flows, and when there is no cache miss from the measurement result
  • a control unit 10 is provided that calculates a packet processing time and a processing delay time due to a cache miss.
  • the measuring apparatus 1 of the present embodiment can obtain the data access delay time when a cache miss occurs and the time required to execute packet processing when no cache miss occurs.
  • control unit 10 measures the time required for packet processing by the communication processing unit 20 for a plurality of flows and collects the results.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

　キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間を測定する。　測定装置は、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する制御手段、を備える。

Description

測定装置、測定システム、測定方法、および、プログラム
　本発明は、測定装置、測定システム、測定方法、および、プログラムに関し、特に、キャッシュミスによる通信処理への影響を測定する測定装置、測定システム、測定方法、および、プログラムに関する。
　Ethernet(登録商標)スイッチやルータは、一定のルールに従ってパケットを転送したり破棄したりするパケット処理機能、すなわち、ネットワークスイッチ機能を実行する。パケット処理機能は、専用プロセッサで実現される場合も有るし、汎用プロセッサで動作するソフトウェアで実現される場合も有る。
　パケット処理を実行する装置が、パケットを受信し処理する場合、一般的に下記の処理を実行する。
・１: パケットを通信インタフェースから受信する
・２: パケットが属する通信フローを特定する
・３: 当該フローを処理するために必要な情報を参照する
・４: 当該情報に基づき当該パケットを処理する
　これらの処理が、プロセッサとキャッシュを含む階層メモリを有する装置で実行される場合、上記処理３における情報参照に伴い発生するメモリアクセスがキャッシュにヒットするか否かによって、所要時間が大幅に異なる。
　プロセッサが上記処理１～３を連続的に実行する場合、キャッシュミスが発生するとプロセッサによるパケット処理が一時停止される。その結果、パケット処理全体の所要時間が増加し、パケット処理性能が低下する。
　そのようなキャッシュミスを低減し、平均処理性能の向上・安定化を図る技術が特許文献１に開示されている。特許文献１のマイクロプロセッサは、パケット処理のためにパイプライン処理機構を使用することでキャッシュミスを低減している。当該マイクロプロセッサは、受信パケットを収容するバッファメモリを4つ持ち、各バッファメモリについて下記処理を並列実行する。
・パケット受信 (上記処理１に相当)
・関連データプリフェッチ(上記処理２および３に相当)
・パケット処理 (上記処理４に相当)
・パケット出力 (上記処理４に相当)
　特許文献１のマイクロプロセッサは、処理２において参照するメモリデータに対しプリフェッチを行い、当該データを参照する前にキャッシュにロードしておく。さらに、当該データがキャッシュにロードされるまでの間、当該マイクロプロセッサは、別のパケットの処理を行う。これにより、当該マイクロプロセッサはキャッシュミスを低減する。
　特許文献２は、ソフトウェアでパケット処理機能を実現する通信システムを開示する。
特許第３３７２８７３号公報 国際公開第２０１２／１２８２８２号
　特許文献１が開示するマイクロプロセッサは、特別なハードウェア、例えばプリフェッチ制御部、バッファメモリ状態制御部を必要とする。当該特別なハードウェアを備えたプロセッサでパケット処理を行うことは、装置価格の上昇をもたらす。
　さらに、汎用プロセッサで動作するソフトウェアによりパケット処理機能を実現することを考えた場合、プロセッサに、当該特別なハードウェアを付加することはできない。
　特別なハードウェアを使用することなく、パケット処理機能において特許文献１と同様の効果を得るためには、パケット処理のロジックを以下のように最適化することが必要である。
・パケット処理において、プロセッサは性能劣化の要因となるメモリデータアクセスについて、当該メモリデータのプリフェッチを行う
・当該メモリデータのプリフェッチ処理中、プロセッサは、別のパケットの処理(もしくは、現在処理中のパケットに関する処理の内、当該メモリデータに依存しない処理)を行う
　例えば、上記のパケット処理ロジックの最適化を行うためには、下記の測定値が必要であり、この値をどのように測定するかが課題となる。
・キャッシュミスが発生した場合のデータアクセス遅延時間
・キャッシュミスが発生しない場合の、パケット処理の実行所要時間
　無論これらの測定値は、他の目的、例えば、キャッシュメモリの速度や容量の決定にも使用できる。本発明の目的は、上記２つの測定値を得るための、測定装置、測定システム、測定方法、および、プログラムを提供することである。
　本発明の一実施形態の測定装置は、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する制御手段を備える。
　本発明の一実施形態の測定方法は、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する。
　本発明の一実施形態の記録媒体は、コンピュータに、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する処理を、実行させるプログラムを記録する。
　本発明にかかる測定装置は、キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間を得ることができる。
図１は、第１の実施の形態にかかる測定システム６０の構成の一例を示す説明図である。 図２は、測定装置１の構成例を示すブロック図である。 図３は、負荷発生装置２の構成例を示すブロック図である。 図４は、測定装置１の詳細な構成例を示すブロック図である。 図５は、通信処理部２０の動作例を示すフローチャートである。 図６は、測定制御部１２の動作例を示すフローチャートである。 図７は、負荷発生部４０の動作例を示すフローチャートである。 図８は、最適化制御部１１の動作例を示すフローチャート（その１）である。 図９は、最適化制御部１１の動作例を示すフローチャート（その２）である。 図１０は、通信処理部２０によるパケット処理にかかる時間の測定結果の一例を示すグラフである。 図１１は、最適化制御部１１が算出する残差平方和の一例を示すグラフである。 図１２は、測定装置１が出力する測定出力値の一例を示す表である。 図１３は、測定装置１が出力する測定出力値を用いて行える通信処理部２０の処理最適化を、説明する為のパケット処理のタイムシーケンス例を示す模式図である。 図１４は、最適化後の通信処理部２０の動作例を示すフローチャート（その１）である。 図１５Ａは、最適化後の通信処理部２０の動作例を示すフローチャート（その２の１）である。 図１５Ｂは、最適化後の通信処理部２０の動作例を示すフローチャート（その２の２）である。 図１６は、第２の実施の形態にかかる測定装置１の構成の一例を示す説明図である。
　＜第１の実施の形態＞
　[概要]
　図１は、本実施の形態にかかる測定システム６０の構成の一例を示す説明図である。図１に例示する測定システム６０は、測定装置１と、負荷発生装置２と、通信ネットワーク３と、を包含する。
　測定装置１は、 汎用若しくは専用プロセッサ、及び、キャッシュを含む階層メモリ（いずれも図示されない）を備える装置である。測定装置１は、ネットワークスイッチ機能を実現するパケット処理を当該プロセッサ上で実行して、キャッシュミスが無い時の処理時間と、キャッシュミスによる処理遅延時間と（以降、まとめて、測定出力値と称することがある）を測定する。
　これらの測定出力値は、例えば、上述したようにパケット処理の最適化、キャッシュメモリの速度や容量の決定に用いることが出来る。
　測定装置１は、例えば、コンピュータとソフトウェアパケット処理機能とで実現される。測定装置１は、専用の論理回路で構成された専用プロセッサを搭載する専用装置であってもよい。
　負荷発生装置２は、測定装置１が必要とする通信負荷を発生させる装置である。負荷発生装置２は、例えば、プロセッサとキャッシュを含む階層メモリを含むコンピュータとソフトウェアパケット発生機能とで実現される。負荷発生装置２は、専用の論理回路を搭載する専用装置であってもよい。
　通信ネットワーク３は、測定装置１と負荷発生装置２との間を結ぶ通信路である。通信ネットワーク３は、例えば、Ethernet(登録商標) LAN（Local Area Network）により実現される。
　図２は、測定装置１の構成例を示すブロック図である。図２に例示する測定装置１は、制御部１０と、通信処理部２０と、通信IF（Interface）部３０と、を備えている。通信IF部３０は一つであっても、複数であってもよい。
　制御部１０は、通信処理部２０に関する測定を行うための制御を行う。
　通信処理部２０は、ネットワークスイッチとして動作し、通信IF部３０が受信したパケットを受け取り、パケット処理を実行する。通信処理部２０は、受信したパケットが属するフローを特定し、当該フローに関する情報を参照した上で、当該パケットの処理方法を決定し処理する。
　通信IF部３０は、測定装置１と通信ネットワーク３とを接続するためのインタフェースであり、通信ネットワーク３で使用されるプロトコルに従い通信を行う。
　制御部１０、通信処理部２０、および、通信IF部３０は、論理回路で構成される。制御部１０、通信処理部２０、または、通信IF部３０は、コンピュータである測定装置１のメモリに格納されてプロセッサで実行されるソフトウェアで実現されても良い。
　図３は、負荷発生装置２の構成例を示すブロック図である。図３に例示する負荷発生装置２は、負荷発生部４０と、通信IF部５０と、を備えている。通信IF部５０は一つであっても、複数であってもよい。
　負荷発生部４０は、測定装置１の制御部１０の指示の下で通信処理部２０の負荷となるパケットを生成・送信する。制御部１０の指示は、例えば、フロー数、送信先情報、送信元情報、送信レート、送信パタン、の一部または全部を含む。
　通信IF部５０は、負荷発生装置２と通信ネットワーク３とを接続するためのインタフェースであり、通信ネットワーク３で使用されるプロトコルに従い通信を行う。
　図４は、測定装置１の詳細な構成例を示すブロック図である。制御部１０は、最適化制御部１１と、測定制御部１２と、を備える。
　最適化制御部１１は、通信処理部２０が実行するパケット処理の所要時間の測定を、測定制御部１２に対して複数回指示し、測定結果を受け取る。最適化制御部１１は、複数回の測定の各々に対し、異なるフロー数での測定を測定制御部１２に指示する。最適化制御部１１は、得られた測定結果を基に更なる測定の必要性や、さらなる測定をする場合のフロー数を決定する。また、最適化制御部１１は、得られた測定結果を基に通信処理部２０がパケット処理中に発生するキャッシュミスに関するフロー数閾値であるキャッシュミスフロー閾値を決定する。
　キャッシュミスフロー閾値は、１つもしくは複数の値で構成される閾値である。キャッシュミスフロー閾値は、当該閾値以下のフロー数のパケット処理においてはキャッシュミスの発生が少なく、当該閾値以上のフロー数のパケット処理においては定常的にキャッシュミスが発生するようなフロー数を示す値である。
　フロー数の増加に伴って、パケット処理でアクセスされるメモリブロックの集合（以降、ワーキングセットと称する）の容量が増加する。そして、ワーキングセットの容量が、キャッシュメモリの容量を超えると、キャッシュミスが発生する。キャッシュミスフロー閾値は、ワーキングセットの容量が、キャッシュメモリの容量を超えるときのフロー数を近似する値である。
　最適化制御部１１は、前述の測定結果から、キャッシュミスフロー閾値を決定する。さらに、最適化制御部１１は、測定結果と決定されたキャッシュミスフロー閾値とから、通信処理部２０に関する下記の測定出力値を決定する。
・キャッシュミスが発生した場合のデータアクセス遅延時間
・キャッシュミスが発生しない場合の、パケット処理を構成するサブ処理の各実行所要時間
　なお、ここでのキャッシュミスは、フロー数の増加に伴うワーキングセットの容量増加に起因し定常的に発生するキャッシュミスを指す（以降の説明においても同様である）。“キャッシュミスが発生しない場合”との記述において、必ずしもキャッシュミスの発生は０ではない。例えば、ワーキングセットの容量がキャッシュメモリの容量より十分小さい場合であっても、ワーキングセットに含まれるメモリブロック群の変化に伴いキャッシュミスが発生する可能性がある。測定装置１が測定するデータアクセス遅延時間は、そのようなキャッシュミスによるものではなく、ワーキングセットの容量増加に起因し定常的に発生するキャッシュミスによるものである。
　測定制御部１２は、フロー数を入力として受け取り、通信処理部２０および負荷発生部４０を制御して、通信処理部２０が指定されたフロー数の通信を行うときのパケット処理時間を測定する。測定制御部１２は、通信ネットワーク３を通じて負荷発生部４０を制御してもよいし、図示されない制御用のネットワークを通じて制御してもよい。
　本実施形態における通信処理部２０は、例えば、IP(Internet Protocol)パケットを処理する。通信処理部２０は、パケットヘッダに含まれる送信元IPアドレス、送信先IPアドレス、上位プロトコル番号、送信先ポート番号、送信元ポート番号（以降、５タプルとも呼称）を使用してフローを特定する。すなわち、通信処理部２０は、５タプルの値（以降、キーとも呼称）が同じパケット群を同じフローに属すると判定する。
　本実施形態における通信処理部２０は、フローに関する処理規則としてフローエントリを使用する。フローエントリは、５タプルの値によって識別・特定され、当該５タプルに対応するフローに属するパケットを処理する方法を含む。
　パケットを処理する方法は、例えば、パケットを特定の通信IF部３０から出力する、破棄する、測定装置１内もしくは外の図示されないモジュール・装置に通知する、図示されない記憶装置に記憶する、等であってよい。
　通信処理部２０は、フローエントリを含むフローテーブルを記憶する。通信処理部２０は、フローテーブルの内容を操作する、すなわちフローエントリを追加・参照・更新・削除するインタフェースを制御部１０に提供する。通信処理部２０は、例えば、測定装置１のメモリ上にハッシュテーブルを使用してフローエントリを記憶する。通信処理部２０が使用するハッシュテーブルは、例えば、Open Addressing方式であってよい。
　通信処理部２０は、通信IF部３０が受信したパケットを受け取り、処理する。通信処理部２０は、受信したパケットに対し以下の各処理を実行する。
・A： 当該パケットの５タプルの値を取得する
・B： 当該パケットに対応するフローエントリを探索する
・C： 取得したフローエントリに含まれる処理方法に従って当該パケットを処理する
　なお、上記Bにおいて、受信したパケットに対応するフローエントリが見つからない場合、通信処理部２０は、当該パケットを破棄してもよいし、当該事象の発生を測定装置１内もしくは外の図示されないモジュール・装置に通知してもよい。
　通信処理部２０は、上記A乃至Cの各々の実行にかかる所要時間の一部もしくは全部を測定する機能を有する。通信処理部２０は、例えば、測定装置１または通信処理部２０のプロセッサが有するサイクル数カウンタを使用して所要時間を測定してもよい。例えば、通信処理部２０は、上記処理Aの開始直前にサイクル数カウンタから値を取得し、かつ処理Aが終了した直後にサイクル数カウンタから値を取得し、取得した値の差から処理Aの所要時間、若しくは、所要サイクル数を測定してもよい。または、通信処理部２０は、実時間タイマを使用して処理時間を測定してもよい。通信処理部２０は、上記A乃至Cの処理単位より細かい粒度で所要時間を測定してもよい。
　［動作］ 
　次に、図面を参照して、本実施形態の動作について詳細に説明する。
　図５は、通信処理部２０が通信IF部３０からパケットを受信し処理する際の動作を示すフローチャートである。本動作は、イベントドリブンで開始されてもよいし、通信処理部２０によるポーリング動作により開始されてもよい。
　通信処理部２０は、通信IF部３０からパケットを受信する（ステップＳ１０１）。通信処理部２０は、受信したパケットをすべて処理したかどうか確認し、未処理のパケットがない場合処理を終了する（ステップＳ１０２でＮ）。
　通信処理部２０は、未処理のパケットがある場合（ステップＳ１０２でＹ）、最初のパケットの処理を開始し、当該パケットのキーを抽出する（ステップＳ１０３）。例えば、通信処理部２０は、当該パケットの５タプルの値、すなわち、送信元IPアドレス、送信先IPアドレス、上位プロトコル番号、送信先ポート番号、送信元ポート番号、を得る。
　通信処理部２０は、当該パケットのキーについてハッシュ値を計算する（ステップＳ１０４）。通信処理部２０は、得られたハッシュ値を基にハッシュテーブルを検索し、当該パケットが属するフローに関するフローエントリを検索する（ステップＳ１０５）。
　当該パケットに対するフローエントリが見つかった場合（ステップＳ１０８でＹ）、通信処理部２０は、当該フローエントリで指定された処理方法に従って当該パケットを処理する（ステップＳ１０６）。
　当該パケットに対するフローエントリが見つからなかった場合（ステップＳ１０８でＮ）、通信処理部２０は、当該パケットを破棄する（ステップＳ１０７）。通信処理部２０は、当該パケットを破棄する代わりに、もしくは当該パケットを破棄することに加えて、対応するフローエントリが存在しないパケットの発生を測定装置１内もしくは外の図示されないモジュール・装置に通知してもよい。
　図６は、測定制御部１２が通信処理部２０によるパケット処理の所要時間を測定する際の動作を示すフローチャートである。本動作は、例えば、最適化制御部１１の要求によって開始される。測定制御部１２は、本動作の開始にあたり、少なくとも測定に使用するフロー数を入力パラメタとして受け取る。
　測定制御部１２は、指定されたフロー数のフローエントリを通信処理部２０に設定する（ステップＳ１２１）。測定制御部１２は、設定されるフローエントリのキーを、例えば、重複が発生しない範囲内でランダムに生成してもよいし、連続的に値(例えば送信先ＩＰアドレス)を増やして生成してもよい。設定されるフローエントリの処理方法は、例えば、受信元の通信IF部３０から出力する、受信元とは別の通信IF部３０から出力する、破棄する、のいずれかであってもよい。
　測定制御部１２は、通信処理部２０に対し、パケット処理にかかる所要時間の測定開始を指示する（ステップＳ１２２）。なお、通信処理部２０はその動作中常に所要時間の測定を行うこととした場合、本ステップは省略されてもよい。
　測定制御部１２は、負荷発生部４０に対し、負荷発生の開始を指示する（ステップＳ１２３）。その際、測定制御部１２は、ステップＳ１２１で生成したキーの集合を負荷発生部４０に入力パラメタとして渡す。もしくは、測定制御部１２と負荷発生部４０があらかじめキー集合の生成アルゴリズムを共有しておき、同じ値の集合を作成するのに必要な入力パラメタのみ測定制御部１２が負荷発生部４０に渡してもよい。
　測定制御部１２は、測定が完了するまで待機する（ステップＳ１２４）。測定制御部１２は、例えば、あらかじめ設定された一定時間の経過をもって測定が完了したと判断してもよい。または、測定制御部１２は、測定開始から通信処理部２０で処理されたパケットの数を通信処理部２０から定期的に取得し、あらかじめ設定された閾値に達したことをもって測定が完了したと判断してもよい。
　測定制御部１２は、負荷発生部４０に対し、負荷発生の終了を指示する（ステップＳ１２５）。測定制御部１２は、通信処理部２０から測定結果を取得し、最適化制御部１１に渡す（ステップＳ１２６）。
　図７は、負荷発生部４０が通信処理部２０の負荷となる通信を発生させる際の動作を示すフローチャートである。本動作は、例えば、測定制御部１２の要求によって開始される。負荷発生部４０は、本動作の開始にあたり、例えば、生成するパケットに使用すべきキーの集合を入力パラメタとして受け取る。
　負荷発生部４０は、終了指示があるかどうか確認する（ステップＳ１３１）。終了指示がある場合（ステップＳ１３１でＹ）、負荷発生部４０は本動作を終了する。
　終了指示がない場合（ステップＳ１３１でＮ）、負荷発生部４０は、次に送信するパケットに使用するキーを、使用すべきキーの集合から選択する（ステップＳ１３２）。負荷発生部４０は、当該集合内の値がなるべく平均的に使用されるように値の選択を行う。負荷発生部４０は、例えば、当該集合内の要素を一定の順序で並べて置き、その順序にしたがって連続的に値を選択してもよい。その場合、負荷発生部４０は、最後の順番の値に達した場合、最初の値に戻って使用する。また、負荷発生部４０は、当該集合の中からランダムに使用する値を選択してもよい。
　負荷発生部４０は、ステップＳ１３２で選択したキーを含むパケットを生成する（ステップＳ１３３）。負荷発生部４０は、５タプル以外のパケットフィールドについて、その値をランダムに生成してもよいし、あらかじめ与えられた値を使用してもよい。また、負荷発生部４０は、アドレスフィールドに関し、通信IF部３０や通信IF部５０で使用されるアドレスを使用してもよい。負荷発生部４０は、それらのアドレスをＯＳ（Operating System、図示されない）や要求元からの入力パラメタの一部として取得してもよい。
　負荷発生部４０は、ステップＳ１３３で生成したパケットを通信IF部５０から送信する（ステップＳ１３４）。負荷発生部４０は、この動作を終了指示がある（ステップＳ１３１でＹ）まで、続ける。
　図８は、最適化制御部１１が通信処理部２０に関する測定出力値を決定する際の動作を示すフローチャートである。本動作は、例えば、ユーザによって開始されてよい。
　最適化制御部１１は、最初の測定で使用するフロー数を選択する（ステップＳ１４１）。最適化制御部１１は、あらかじめ設定された値を選択してもよいし、本動作開始時にユーザによって与えられる値を選択してもよい。
　最適化制御部１１は、選択したフロー数を入力パラメタとして測定制御部１２に測定を指示しその結果を受け取る（ステップＳ１４２）。
　最適化制御部１１は、本動作において収集した測定結果（ステップＳ１２６の測定結果）を基に、通信処理部２０に関する測定出力値の決定を試行する（ステップＳ１４３）。その方法については図９を用いて後述する。最適化制御部１１は、ステップS１４３において、測定出力値の決定に成功した場合（ステップＳ１４４でＹ）、その処理を終了する。
　測定出力値の決定に失敗した場合（ステップＳ１４４でＮ）、最適化制御部１１は、別のフロー数を選択して、次の測定を行って測定出力値の決定を再度試みる（ステップＳ１４５）。
　最適化制御部１１は、例えば、最後の測定で使用したフロー数にあらかじめ設定された値を足した値を次の測定で使用することとしてよい。また、最適化制御部１１は所定の回数測定出力値の決定に失敗した場合、測定に使用する値を変更して通信処理部２０に関する測定出力値を決定する際の動作をステップＳ１４１からやり直してもよい。その際、最適化制御部１１は、例えば、ステップＳ１４１で使用する最初の測定で使用するフロー数を前回の動作で使用したものの１／２としてもよい。また、最適化制御部１１は、ステップＳ１４５で使用する測定毎に増やすフロー数を前回の動作で使用したものの１／２もしくは２倍としてもよい。
　次に、ステップＳ１４３において、最適化制御部１１が通信処理部２０に関する測定出力値として下記を決定する方法の一例について、図９を参照して説明する。
・キャッシュミスが発生した場合のデータアクセス遅延時間
・キャッシュミスが発生しない場合の、パケット処理を構成するサブ処理の各実行所要時間
　最適化制御部１１は、キャッシュミスフロー閾値の決定を試行する（ステップＳ１５１）。以降の説明において、キャッシュミスフロー閾値は、キャッシュミスが増加し始めるフロー数、およびキャッシュミスの増加が終了する（飽和する）フロー数の２つの値で構成される。
　最適化制御部１１は、例えば、近似式の誤差の変化率を利用して、キャッシュミスフロー閾値を決定する。通信フローの数を順次増加させて、通信処理部２０のパケット処理のパケット当たりの処理時間を測定した場合、まず、パケット処理のワーキングセット容量がキャッシュメモリの容量を超えてキャッシュミスが発生し始め、処理時間が増加し出す。その後もフロー数の増加に従ってワーキングセット容量が増加し続けると、暫くは、キャッシュミスも増加し続け、それにつれて、パケット処理のパケット当たりの処理時間も増加し続ける。しかし、ワーキングセット容量がさらに増加し続け、定常的にキャッシュミスが発生するようになると、パケット当たりの処理時間の増加が終了する。すなわち、パケット当たりの処理時間の増加率は、キャッシュミスが発生し始めた時点と、キャッシュミスの発生が定常化した時点とで、大きく変化する。最適化制御部１１は、増加率の変化が大きくなると、近似式の誤差が大きくなることを利用してこの増加率の変化を検出し、キャッシュミスフロー閾値を検出する。
　具体的に、まず、最適化制御部１１は、所定の数（以降、フロー数閾値判定単位と呼称する）の連続する測定結果について近似式、および、その誤差もしくは誤差に関する統計量（以降、単に誤差と呼称する）を、複数のフロー数について求める。例えば、最適化制御部１１は、フロー数をxとしたとき、xに対する所要時間yは一次方程式y = a x + bで近似されるものとし、近似式の係数導出および誤差を算出する。最適化制御部１１は、この算出に、例えば、最小二乗法を用いてもよい。
　最適化制御部１１は、キャッシュミスフロー閾値を、誤差が局所的にピークとなるフロー数として決定してもよい。その際、最適化制御部１１は、誤差数値列を走査してピークを決定してもよいし、あらかじめ与えられた閾値と誤差を比較してピークか否かを判定してもよい。
　最適化制御部１１は、例えば、ピークを検出できない場合、もしくはその数があらかじめ与えられたものと異なる場合、現在の測定結果群からは測定出力値を決定することは不可能と判定してもよい（ステップＳ１５４でＮ）。
　最適化制御部１１が、キャッシュミスフロー閾値を決定する方法の例を図１０および図１１を参照して説明する。
　図１０は、通信処理部２０によるパケット処理にかかる時間の測定結果、例えば、一パケットあたりの平均所要サイクル数の例を示している。このグラフにおいて、Ｘ軸はフロー数、Ｙ軸は測定結果を示す。この例で最適化制御部１１は、フロー数２０００の場合から測定を開始し、以後フロー数を２０００ずつ増やしながら３２０００フローの場合まで測定している。
　ここでは、フロー数閾値判定単位を４とした場合について説明する。まず、最適化制御部１１は、測定結果から最初のフロー数閾値判定単位分（例えば、フロー数２０００、４０００、６０００、８０００）の測定結果について、最小二乗法を用いて近似式の係数を導出し残差平方和を求める。次に、最適化制御部１１は、測定結果から２番目のフロー数閾値判定単位分（例えば、フロー数４０００、６０００、８０００、１００００）の測定結果について近似式の係数を導出し残差平方和を求める。最適化制御部１１は、３番目のフロー数閾値判定単位以降についても同様の計算を行う。
　その結果、図１１に示すような残差平方和群が得られる。このグラフにおいて、Ｘ軸はフロー数、Ｙ軸は残差平方和を示す。図１１では、最初のフロー数閾値判定単位について近似式の係数を導出した場合の残差平方和は、フロー数２０００の位置にプロットされている。２番目のフロー数閾値判定単位について近似式の係数を導出した場合の残差平方和は、フロー数４０００の位置にプロットされている。３番目のフロー数閾値判定単位について近似式の係数を導出した場合の残差平方和は、フロー数６０００の位置にプロットされている。以下、同様である。
　最適化制御部１１は、誤差数値列を走査してフロー数１００００の位置と２００００の位置にピークがあることを検知する。すなわち、最適化制御部１１は、フロー数の区間Ａ（１００００，１２０００，１４０００，１６０００）でキャッシュミスが発生し始め、区間Ｂ（２００００，２２０００，２４０００，２６０００）で、キャッシュミスが定常化し、処理時間の増加が終了したことを検出する。
　この場合、最適化制御部１１は、例えば、区間Ａの最小値（１００００）と区間Ｂの最大値（２６０００）をキャッシュミスフロー閾値として決定する。最適化制御部１１は、区間Ａの中央値（１３０００）及び区間Ｂの中央値（２３０００）をキャッシュミスフロー閾値として決定しても良い。最適化制御部１１は、区間Ａ及びＢ内のフロー数群(フロー数閾値判定単位分)の平均値をキャッシュミスフロー閾値として決定しても良い。さらに、最適化制御部１１は、区間Ａの小さい側に隣接する区間の最大値（８０００）と区間Ｂの大きい側に隣接する区間の最小値（２８０００）をキャッシュミスフロー閾値として決定しても良い。
　キャッシュミスフロー閾値を決定したとき（Ｓ１５４でＹ）、最適化制御部１１は、キャッシュミスが発生した場合のデータアクセス遅延時間を決定する（ステップＳ１５２）。最適化制御部１１は、キャッシュミスが発生した場合のデータアクセス遅延時間を、大きな方のキャッシュミスフロー閾値以上のフロー数パケット処理所要時間と小さいほうのキャッシュミスフロー閾値以下のフロー数のパケット処理所要時間の差として求める。上記例の場合、最適化制御部１１は、例えば、フロー数２６０００以上の場合のパケット処理所要時間とフロー数１００００以下の場合のパケット処理所要時間の差として求める。
　最適化制御部１１は、例えば、下記のいずれかもしくは組み合わせにより、キャッシュミスが発生した場合のデータアクセス遅延時間を決定してよい。
・最適化制御部１１は、キャッシュミスフロー閾値以上のフロー数およびキャッシュミスフロー閾値以下のフロー数における測定結果群それぞれについて最小二乗法を用いて近似式の係数を導出し、得られた２つの係数ｂの差をデータアクセス遅延時間とする。
・最適化制御部１１は、測定を行ったキャッシュミスフロー閾値以上のフロー数群およびキャッシュミスフロー閾値以下のフロー数群のそれぞれから一ずつフロー数を選択する。最適化制御部１１は、例えば、キャッシュミスフロー閾値にもっとも近い値を選択する。そして、最適化制御部１１は、当該フロー数における測定結果の差をデータアクセス遅延時間とする。
　次いで、最適化制御部１１は、キャッシュミスが発生しない場合の、パケット処理の実行所要時間を決定する（ステップＳ１５３）。最適化制御部１１は、例えば、キャッシュミスフロー閾値以下のフロー数における測定結果群について最小二乗法を用いて近似式の係数を導出し、当該近似式とフロー数ｘとからパケット処理実行所要時間を決定する。
　なお、上記説明では、パケット処理の全体について測定することを前提に説明した。通信処理部２０が、例えば、パケット処理を構成するサブ処理（例えば、図５の各ステップ）単位に、処理時間を区切って出力すれば、最適化制御部１１は、パケット処理に含まれる各サブ処理について上記測定出力値を出力できる。
　[測定出力値の利用例]
　ここで、本実施の形態の測定装置１が出力する測定出力値を用いて、パケット処理機能（例えば、本実施の形態における通信処理部２０が実行する処理）を最適化する方法について、図１２乃至図１４を用いて説明する。以降の説明において、図１２に示す測定出力値が得られたものとする。図１２は、図５のステップＳ１０４乃至Ｓ１０６についての、「キャッシュミスが発生した場合のデータアクセス遅延時間」と「キャッシュミスが発生した場合の、パケット処理を構成するサブ処理の各実行所要時間」を示す。但し、後者は所要時間の近似式の係数ａ，ｂで表している。
　パケット処理機能の最適化は、パケット処理に必要なデータを、プロセッサが参照する前にキャッシュメモリにロードすること、および、当該データがキャッシュにロードされるまでの間プロセッサは別のパケットを処理することにより達成する。パケット処理機能の最適化によりキャッシュミスが低減し、プロセッサ稼働率が向上する。本実施の形態の測定装置１が出力する測定出力値は、その変更設計に有用である。
　図１３は、通信処理部２０の処理最適化を説明する為のパケット処理のタイムシーケンス例を示す。本動作変更例では動作変更後の通信処理部２０のプロセッサは、３つのパケットについて並行して処理を行う。３つのパケットは、パケット１、パケット２、パケット３であるとする。
　図中、無地の矩形は、１つのパケットに対し１つのサブ処理、すなわち、キー抽出、ハッシュ値計算、等、をプロセッサが実行していることを示す。その所要時間は、測定出力値におけるキャッシュミスが発生しない場合のサブ処理の各実行所要時間である。
　周辺部が網掛けされた矩形、例えば、Ｓ１７３の矩形、は、１つのパケットに対する１つのサブ処理用のプリフェッチを実行中であることを示す。その所要時間は、測定出力値におけるキャッシュミスが発生した場合のデータアクセス遅延時間である。但し、最適化後、通信処理部２０は、プリフェッチ命令を発行してプリフェッチを開始すると、すぐに他のパケットの処理に移行する。すなわち、通信処理部２０は、プリフェッチにより発生するデータアクセス遅延時間中、並行して、他のパケットの処理を進める。
　いずれの矩形についても、括弧内に所要時間が記載され、矩形の幅、すなわち、時刻軸方向の長さ、が当該所要時間と比例して図示されている。
　通信処理部２０の処理最適化のための動作変更は、キャッシュミスが発生し、データアクセス遅延時間があるパケットのサブ処理に関する次の２つの変更である。
・通信処理部２０は、当該サブ処理の実行前に、当該サブ処理においてキャッシュミスを発生させるデータに対しプリフェッチ命令を発行する。
・通信処理部２０は、プリフェッチ実行中に別のパケットのサブ処理を行う。
　例えば、キー抽出（ステップＳ１０３）およびハッシュ値計算（ステップＳ１０４）には、キャッシュミスが発生した場合のデータアクセス遅延時間は存在しない。したがって、パケット１についてこれらの処理はすぐに開始可能である（図１３ ステップＳ１７１およびＳ１７２）。
　一方、ハッシュテーブル検索の処理（図１３ ステップＳ１７９）には、キャッシュミスが発生した場合のデータアクセス遅延時間が存在する。したがって、ステップＳ１７２の終了後、プロセッサが直ぐにステップＳ１７９を開始した場合、キャッシュミスが発生し当該データアクセス遅延時間の間プロセッサの実行が停止する可能性がある。
　そのため、プロセッサは、ステップＳ１７２の終了後、ステップＳ１７９で使用するキャッシュミスを発生させるデータに対しプリフェッチ命令を発行しておく（ステップＳ１７３）。そして、プリフェッチ実行中、プロセッサは次のパケット（パケット２、パケット３）のサブ処理を実行する。
　図１３の例では、プロセッサは、ステップＳ１７４乃至ステップＳ１７８でパケット２およびパケット３についてキー抽出およびハッシュ値計算を行っている。以降、同様に、データアクセス遅延時間が存在するサブ処理について、別のパケットのサブ処理で当該アクセス遅延を埋めるよう通信処理部２０のプロセッサの動作が変更される。
　図１３で示した動作変更による最適化後の通信処理部２０のパケット処理動作について図１４、図１５Ａおよび図１５Ｂを用いて説明する。
　図１４は、最適化後の通信処理部２０が通信IF部３０からパケットを受信し処理する際の動作を示すフローチャートである。本動作は、イベントドリブンで開始されてもよいし、通信処理部２０によるポーリング動作により開始されてもよい。
　通信処理部２０は、通信IF部３０からパケットを受信する（ステップＳ１６１）。
　通信処理部２０は、受信したパケットに未処理のものが３つ以上残っているか確認する（ステップＳ１６２）。未処理のパケットが３つ以上残っている場合（Ｓ１６２でＹ）、通信処理部２０は、最初の３つのパケットの処理を行う（ステップＳ１６３）。その詳細は後述する。
　未処理のパケットが３つ以上残っていない場合（Ｓ１６２でＮ）、通信処理部２０は、残りの未処理のパケットそれぞれについて、図５を用いて説明したステップＳ１０３乃至ステップＳ１０７を実行する（ステップＳ１６４）。
　図１５Ａおよび図１５Ｂは、ステップＳ１６３における最適化後の通信処理部２０の動作を示すフローチャートである。
　通信処理部２０は、パケット１についてキーを抽出する（ステップＳ１７１）。通信処理部２０は、パケット１のキーについてハッシュ値を計算する（ステップＳ１７２）。通信処理部２０は、パケット１についてのハッシュテーブル検索において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１７３）。
　通信処理部２０は、パケット２についてキーを抽出する（ステップＳ１７４）。通信処理部２０は、パケット２のキーについてハッシュ値を計算する（ステップＳ１７５）。通信処理部２０は、パケット２についてのハッシュテーブル検索において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１７６）。
　通信処理部２０は、パケット３についてキーを抽出する（ステップＳ１７７）。通信処理部２０は、パケット３のキーについてハッシュ値を計算する（ステップＳ１７８）。通信処理部２０は、パケット１について、得られたハッシュ値を基にハッシュテーブルを検索し、当該パケットが属するフローに関するフローエントリを検索する（ステップＳ１７９）。
　通信処理部２０は、パケット１について、見つかったフローエントリを用いたパケット処理において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１８０）。通信処理部２０は、パケット３についてのハッシュテーブル検索において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１８１）。
　通信処理部２０は、パケット２について、得られたハッシュ値を基にハッシュテーブルを検索し、当該パケットが属するフローに関するフローエントリを検索する（ステップＳ１８２）。
　通信処理部２０は、パケット１について、当該パケットに対するフローエントリが見つかった場合、当該フローエントリで指定された処理方法に従って当該パケットを処理する（ステップＳ１８３）。当該パケットに対するフローエントリが見つからなかった場合、通信処理部２０は、当該パケットを破棄する。
　通信処理部２０は、パケット２について、見つかったフローエントリを用いたパケット処理において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１８４）。通信処理部２０は、パケット３について、得られたハッシュ値を基にハッシュテーブルを検索し、当該パケットが属するフローに関するフローエントリを検索する（ステップＳ１８５）。
　通信処理部２０は、パケット３について、見つかったフローエントリを用いたパケット処理において使用するデータに対しプリフェッチ命令を発行する（ステップＳ１８６）。通信処理部２０は、パケット２について、当該パケットに対するフローエントリが見つかった場合、当該フローエントリで指定された処理方法に従って当該パケットを処理する（ステップＳ１８７）。当該パケットに対するフローエントリが見つからなかった場合、通信処理部２０は、当該パケットを破棄する。
　通信処理部２０は、パケット３について、当該パケットに対するフローエントリが見つかった場合、当該フローエントリで指定された処理方法に従って当該パケットを処理する（ステップＳ１８８）。当該パケットに対するフローエントリが見つからなかった場合、通信処理部２０は、当該パケットを破棄する。
　[効果]
　本実施の形態の測定装置１は、キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間を得ることができる。
　その第１の理由は、最適化制御部１１の制御により、測定制御部１２が、複数のフロー数について通信処理部２０によるパケット処理にかかる時間を測定しそれらの結果を収集するからである。
　また、第２の理由は、最適化制御部１１が、測定結果群から、キャッシュミスの発生があるフロー数領域とキャッシュミスが無いフロー数領域における所要時間測定結果の差を基に、測定出力値を決定するからである。
　本実施の形態の測定装置１が出力した、キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間を用いて、通信処理部２０が実行したようなパケット処理の最適化が可能となる。最適化は、パケット処理がソフトウェアで実現されている場合には比較的容易に可能である。しかし、最適化は、パケット処理がその他の手段、例えば、ファームウェア、論理回路で実現されている場合にも可能である。
　更に、測定装置１が出力した、キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間は、通信処理部２０のキャッシュメモリの速度設計、容量設計等、他の目的にも有用である。
　＜第１の実施形態の変形例＞
　制御部１０は、必ずしも、最適化制御部１１と測定制御部１２に分離されていなくても良い。制御部１０は、最適化制御部１１と測定制御部１２の両者の機能を果たす一体の論理回路、専用プロセッサ、または、ソフトウェアモジュールであっても良い。
　通信処理部２０と通信IF部３０は、必ずしも、測定装置１に包含されていなくても良い。通信処理部２０は、例えば、測定装置１に接続された別の装置内に存在しても良い。
　キャッシュミスフロー閾値は、１つの値でも良い。最適化制御部１１は、図１１のフロー数対応の残差平方和の推移から、局所的なピークを２つ検出して、その２つのフロー数の中央値をキャッシュミスフロー閾値としても良い。または、最適化制御部１１は、図１１のフロー数対応の残差平方和の推移から、ピークを１つ検出して、その時のフロー数をキャッシュミスフロー閾値としても良い。
　これらの場合、最適化制御部１１は、当該キャッシュミスフロー閾値±所定値のフロー数の処理時間の差異からキャッシュミスが発生した場合のデータアクセス遅延時間を算出すればよい（ステップＳ１５２）。
　＜第２の実施形態＞
　図１６は、第２の実施の形態にかかる測定装置１の構成の一例を示す説明図である。本実施の形態の測定装置１は、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理部２０のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する制御部１０を備える。
　本実施の形態の測定装置１は、キャッシュミスが発生した場合のデータアクセス遅延時間、及び、キャッシュミスが発生しない場合のパケット処理の実行所要時間を得ることができる。
　その理由は、制御部１０が、複数のフロー数について通信処理部２０によるパケット処理にかかる時間を測定しそれらの結果を収集するからである。
　以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
　この出願は、2014年10月07日に出願された日本出願特願2014-206486を基礎とする優先権を主張し、その開示の全てをここに取り込む。
　１　　測定装置
　２　　負荷発生装置
　３　　通信ネットワーク
　１０　　制御部
　１１　　最適化制御部
　１２　　測定制御部
　２０　　通信処理部
　３０　　通信IF部
　４０　　負荷発生部
　５０　　通信IF部
　６０　　測定システム

Claims (10)

  1. 　キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する制御手段、を備える測定装置。
  2. 　前記制御手段は、通信フロー数を増加させていったときのパケット処理時間の変化から、キャッシュミス発生の有無を分ける通信フロー数である閾値を判定し、前記閾値以下の通信フロー数に対する処理時間と、前記閾値以上の通信フロー数に対する処理時間との差異に基づいて、前記キャッシュミスが無い時のパケット処理時間と、前記キャッシュミスによる処理遅延時間とを算出する、請求項１の測定装置。
  3. 　前記制御手段は、通信フロー数を増加させていったときの、所定幅区間内の通信フロー数ごとの測定結果から、区間ごとの通信フロー数とパケット処理時間の近似式、並びに、近似式と測定結果との誤差を算出し、当該誤差がピークとなる区間、もしくは、当該誤差が所定の閾値を超える区間の通信フロー数を前記閾値として決定する、請求項２の測定装置。
  4. 　前記制御手段は、最初の誤差の局所的なピークに基づいて、キャッシュミスによる処理遅延が発生し始める通信フロー数である第１の閾値を判定し、２番目の誤差の局所的なピークに基づいて、処理遅延が飽和する通信フロー数である、第２の閾値を判定し、前記第１の閾値以下の通信フロー数に対する処理時間と、前記第２の閾値以上の通信フロー数に対する処理時間との差異に基づいて、前記キャッシュミスが無い時のパケット処理時間と、前記キャッシュミスによる処理遅延時間とを算出する、請求項３の測定装置。
  5. 　前記制御手段から受信した通信フロー数の通信負荷を発生させて、前記通信処理手段に送信する負荷発生装置と、
    　前記通信処理手段はパケット処理時間を出力し、前記制御手段は通信フロー数を選択して前記負荷発生装置に送信し、前記通信処理手段から測定結果を受信する請求項１乃至４の何れか１項の測定装置と、を包含する測定システム。
  6. 　キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する測定方法。
  7. 　通信フロー数を増加させていったときのパケット処理時間の変化から、キャッシュミス発生の有無を分ける通信フロー数である閾値を判定し、前記閾値以下の通信フロー数に対する処理時間と、前記閾値以上の通信フロー数に対する処理時間との差異に基づいて、前記キャッシュミスが無い時のパケット処理時間と、前記キャッシュミスによる処理遅延時間とを算出する、請求項６の測定方法。
  8. 　通信フロー数を増加させていったときの、所定幅区間内の通信フロー数ごとの測定結果から、区間ごとの通信フロー数とパケット処理時間の近似式、並びに、近似式と測定結果との誤差を算出し、当該誤差がピークとなる区間、もしくは、当該誤差が所定の閾値を超える区間の通信フロー数を前記閾値として決定する、請求項７の測定方法。
  9. 　最初の誤差の局所的なピークに基づいて、キャッシュミスによる処理遅延が発生し始める通信フロー数である第１の閾値を判定し、２番目の誤差の局所的なピークに基づいて、処理遅延が飽和する通信フロー数である、第２の閾値を判定し、前記第１の閾値以下の通信フロー数に対する処理時間と、前記第２の閾値以上の通信フロー数に対する処理時間との差異に基づいて、前記キャッシュミスが無い時のパケット処理時間と、前記キャッシュミスによる処理遅延時間とを算出する、請求項８の測定方法。
  10. 　コンピュータに、キャッシュメモリを用いて通信フローのパケット処理を行う通信処理手段のパケット処理時間を、複数の通信フロー数について測定し、測定結果からキャッシュミスが無い時のパケット処理時間と、キャッシュミスによる処理遅延時間とを算出する処理を、実行させるプログラムを記録する記録媒体。
PCT/JP2015/005053 2014-10-07 2015-10-05 測定装置、測定システム、測定方法、および、プログラム WO2016056217A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016552823A JP6428784B2 (ja) 2014-10-07 2015-10-05 測定装置、測定システム、測定方法、および、プログラム
US15/512,899 US20170302558A1 (en) 2014-10-07 2015-10-05 Measuring apparatus, measuring system, measuring method, and recording medium in which program is recorded

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014206486 2014-10-07
JP2014-206486 2014-10-07

Publications (1)

Publication Number Publication Date
WO2016056217A1 true WO2016056217A1 (ja) 2016-04-14

Family

ID=55652853

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/005053 WO2016056217A1 (ja) 2014-10-07 2015-10-05 測定装置、測定システム、測定方法、および、プログラム

Country Status (3)

Country Link
US (1) US20170302558A1 (ja)
JP (1) JP6428784B2 (ja)
WO (1) WO2016056217A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017117009A (ja) * 2015-12-21 2017-06-29 Kddi株式会社 マルチコアｃｐｕを有するパケット転送装置の制御装置及びプログラム
US10684857B2 (en) 2018-02-01 2020-06-16 International Business Machines Corporation Data prefetching that stores memory addresses in a first table and responsive to the occurrence of loads corresponding to the memory addresses stores the memory addresses in a second table
JP2022527704A (ja) * 2019-04-12 2022-06-03 華為技術有限公司 トラフィック分類方法及び装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6822269B2 (ja) * 2017-03-29 2021-01-27 コニカミノルタ株式会社 光書き込み装置及び画像形成装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009027400A (ja) * 2007-07-19 2009-02-05 Alaxala Networks Corp 過大フロー検出装置、過大フロー検出回路、端末装置及びネットワークノード
WO2009098819A1 (ja) * 2008-02-04 2009-08-13 Nec Corporation 通信システム
WO2009101900A1 (ja) * 2008-02-13 2009-08-20 Nec Corporation 性能最適化システム、方法及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005339198A (ja) * 2004-05-27 2005-12-08 Internatl Business Mach Corp <Ibm> キャッシュヒット率推定装置、キャッシュヒット率推定方法、プログラム及び記録媒体
US7363450B1 (en) * 2005-06-01 2008-04-22 Sun Microsystems, Inc. Method and apparatus for estimating multithreaded processor throughput based on processor cache performance
JP4839164B2 (ja) * 2006-09-15 2011-12-21 株式会社日立製作所 ハードウェアモニタを用いた性能評価システム及び再構築可能な計算機システム
US20090032760A1 (en) * 2006-10-23 2009-02-05 Ralph Muscatell Rotational multi vane positive displacement valve for use with a solar air conditioning system
JP5205777B2 (ja) * 2007-03-14 2013-06-05 富士通株式会社 プリフェッチ処理装置、プリフェッチ処理プログラムおよびプリフェッチ処理方法
US8572581B2 (en) * 2009-03-26 2013-10-29 Microsoft Corporation Measurement and reporting of performance event rates
US8601216B2 (en) * 2010-08-31 2013-12-03 Oracle International Corporation Method and system for removing cache blocks
US8595438B1 (en) * 2010-09-30 2013-11-26 Emc Corporation System and method for improving cache performance
JP6248808B2 (ja) * 2014-05-22 2017-12-20 富士通株式会社 情報処理装置、情報処理システム、情報処理装置の制御方法、及び、情報処理装置の制御プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009027400A (ja) * 2007-07-19 2009-02-05 Alaxala Networks Corp 過大フロー検出装置、過大フロー検出回路、端末装置及びネットワークノード
WO2009098819A1 (ja) * 2008-02-04 2009-08-13 Nec Corporation 通信システム
WO2009101900A1 (ja) * 2008-02-13 2009-08-20 Nec Corporation 性能最適化システム、方法及びプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017117009A (ja) * 2015-12-21 2017-06-29 Kddi株式会社 マルチコアｃｐｕを有するパケット転送装置の制御装置及びプログラム
US10684857B2 (en) 2018-02-01 2020-06-16 International Business Machines Corporation Data prefetching that stores memory addresses in a first table and responsive to the occurrence of loads corresponding to the memory addresses stores the memory addresses in a second table
JP2022527704A (ja) * 2019-04-12 2022-06-03 華為技術有限公司 トラフィック分類方法及び装置
JP7170905B2 (ja) 2019-04-12 2022-11-14 華為技術有限公司 トラフィック分類方法及び装置
US11882047B2 (en) 2019-04-12 2024-01-23 Huawei Technologies Co., Ltd. Traffic classification method and apparatus

Also Published As

Publication number Publication date
JPWO2016056217A1 (ja) 2017-08-10
JP6428784B2 (ja) 2018-11-28
US20170302558A1 (en) 2017-10-19

Similar Documents

Publication Publication Date Title
JP6428784B2 (ja) 測定装置、測定システム、測定方法、および、プログラム
US11122067B2 (en) Methods for detecting and mitigating malicious network behavior and devices thereof
CN107547507B (zh) 一种防攻击方法、装置、路由器设备及机器可读存储介质
EP2830260B1 (en) Rule matching method and device
CN106713182B (zh) 一种处理流表的方法及装置
US10771358B2 (en) Data acquisition device, data acquisition method and storage medium
US20160241482A1 (en) Packet communication apparatus and packet communication method
US10048994B2 (en) Identifying failed customer experience in distributed computer systems
KR20150071621A (ko) 컨텐츠 중심 네트워크에서 라운드 트립 시간을 예측하는 방법
Sadok et al. A case for spraying packets in software middleboxes
US20200374231A1 (en) Managing network traffic flows
CN112437037B (zh) 基于sketch的DDoS洪泛攻击检测方法及装置
US9917918B2 (en) Method and apparatus for delivering content from content store in content-centric networking
US20160292274A1 (en) Operation method of node considering packet characteristic in content-centered network and node
JP2017515329A (ja) ビデオセッションにおける再バッファリングイベントを決定するための方法
JP5389193B2 (ja) パケット転送処理装置、方法及びプログラム
CN107911471B (zh) 数据的分布式缓存方法及设备
CN109379163B (zh) 一种报文转发速率控制方法及装置
CN114448872B (zh) 一种cdn中的路径选择方法及系统
CN104917852A (zh) 一种针对IPv6地址的数据快速处理方法
CN107277060B (zh) 一种数据包处理的方法及装置
CN102546359B (zh) 实现路径最大传输单元探测的方法及路由器
TW202234855A (zh) 封包資訊分析方法及網路流量監測裝置
JP2016025521A (ja) パケット処理プログラム，パケット処理装置及びパケット処理方法
CN114298361A (zh) 一种设备状态信息的预测方法及装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15848286

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 15512899

Country of ref document: US

ENP Entry into the national phase

Ref document number: 2016552823

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15848286

Country of ref document: EP

Kind code of ref document: A1