CN118410415A - 基于MP-Convformer并行网络的电力系统故障诊断方法 - Google Patents
基于MP-Convformer并行网络的电力系统故障诊断方法 Download PDFInfo
- Publication number
- CN118410415A CN118410415A CN202410786665.3A CN202410786665A CN118410415A CN 118410415 A CN118410415 A CN 118410415A CN 202410786665 A CN202410786665 A CN 202410786665A CN 118410415 A CN118410415 A CN 118410415A
- Authority
- CN
- China
- Prior art keywords
- convolution
- convformer
- power system
- module
- wavelet
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000003745 diagnosis Methods 0.000 title claims abstract description 17
- 230000001052 transient effect Effects 0.000 claims abstract description 68
- 230000007246 mechanism Effects 0.000 claims abstract description 27
- 230000004927 fusion Effects 0.000 claims abstract description 11
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 230000008569 process Effects 0.000 claims abstract description 5
- 238000005070 sampling Methods 0.000 claims abstract description 5
- 230000002159 abnormal effect Effects 0.000 claims abstract description 4
- 239000013598 vector Substances 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 23
- 238000000354 decomposition reaction Methods 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 239000002131 composite material Substances 0.000 abstract description 4
- 238000003672 processing method Methods 0.000 abstract description 3
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000010248 power generation Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 101001121408 Homo sapiens L-amino-acid oxidase Proteins 0.000 description 1
- 101000827703 Homo sapiens Polyphosphoinositide phosphatase Proteins 0.000 description 1
- 102100026388 L-amino-acid oxidase Human genes 0.000 description 1
- 102100023591 Polyphosphoinositide phosphatase Human genes 0.000 description 1
- 101100012902 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) FIG2 gene Proteins 0.000 description 1
- 101100233916 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) KAR5 gene Proteins 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
- Y04S10/52—Outage or fault management, e.g. fault detection or location
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Test And Diagnosis Of Digital Computers (AREA)
- Complex Calculations (AREA)
Abstract
本申请提供基于MP‑Convformer并行网络的电力系统故障诊断方法，包括：采集异常情况下的暂态信号的数据；利用小波降噪对暂态信号进行预处理，并获取预处理信号；利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息；利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息；利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息；基于特征融合模块对局部特征信息以及全局特征信息进行融合；基于Softmax函数的分类器对电力系统暂态信号的故障进行分类，以解决现有信号处理方法难以处理复合扰动信息的技术问题。
Description
技术领域
本申请涉及电力系统暂态信号故障识别与检测技术领域，具体涉及一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统。
背景技术
电能质量扰动信号的分析已经成为电力系统状态监测和维护的重要工作，由于大规模光伏发电、水利发电等分布式发电系统以及新能源汽车充电桩、工业驱动器等各种非线性负载的广泛使用，使得电网信号越来越复杂。这些分布式发电系统以及非线性负载并入电网都会向电网输入扰动信号，从而导致电网电压、电流出现波形畸变等电能质量劣化，这将对电力系统安全稳定运行以及周边的电气环境造成严重威胁。因此，对电力系统暂态扰动信号进行识别与分类具有重要意义。
现如今电网的暂态信号扰动并非都是单一基本扰动，大多数是由多种不同扰动类型、不同扰动强度、不同起止时刻的基本扰动混合而成的复合电能质量扰动。这些复合电能质量扰动特征量之间可能存在时频域特征相互重叠、复杂交叉等情况，这也是当前电能质量扰动识别所面临的困难。
此外，暂态信号具有持续时间短并随着时间的推移逐渐衰减、变化速度快、周期性不明显等特点，导致暂态信号在传输过程中会受到线路和设备的衰减和失真影响，使信号的波形和幅值发生改变。衰减和失真导致信号的特征信息丢失，增加了信号的识别和检测难度。
随着计算机仿真技术的发展，出现了许多基于物理特征的电能质量扰动信号特征提取方法，如快速傅里叶变换（FFT）、小波变换（WT）和希尔伯特-黄变换（HHT）。但是，这些传统方法都存在某些难以克服的缺点。例如，FFT仅适用于平稳信号，并且信号采集必须满足采样定理，否则分析结果将出现频谱混叠效应；WT在小波基选择上存在局限性，不存在一种小波基能适用所有的情况；HHT能够很好的处理非线性非平稳信号，相对于前两者，具有更好的普适性，但存在模态混淆等问题。
针对电力系统暂态信号变化速度快、噪声干扰强、不同暂态信号特征之间存在耦合等问题，单靠提取暂态信号单尺度特征和局部特征信息难以获取暂态信号的全局上下文信息，从而导致难以及时检测故障发生且难以准确识别故障类型。由于暂态信号扰动类型与扰动特征量类型复杂，故针对电力系统复合扰动此类传统的信号处理方法难以应对。
发明内容
本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统，以解决现有信号处理方法难以处理复合扰动信息的技术问题。
本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法，其包括：
采集异常情况下的暂态信号的数据；
利用小波降噪对暂态信号进行预处理，并获取预处理信号；
利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息；
利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息；
利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息；
基于特征融合模块对局部特征信息以及全局特征信息进行融合；
基于Softmax函数的分类器对电力系统暂态信号的故障进行分类。
可选的，所述利用小波降噪对暂态信号进行预处理，并获取预处理信号的步骤，包括以下步骤：
基于正交小波分解将含噪声的暂态信号在时域和频域进行局部分解，其中正交小波分解后幅值比较大的小波系数为去噪信号，而幅值较小的系数为噪声信号；
判断小波系数是否大于预设阈值，若是，保留该小波系数，若否，将该小波系数替换为预测的变量阈值，其中利用软阈值函数对小波系数进行处理的公式为：
，
和分别代表经过去噪处理前后小波变换系数，为符号函数，λ为预设
阈值，s代表小波分解层数；
利用小波逆变换对处理后的小波系数进行还原。
可选的，在所述判断小波系数是否大于预设阈值的步骤中，预测的变量阈值按照以下公式计算：
，
，
，
其中，n为暂态信号x长度，为通用固定阈值规则的阈值，eta为通用固定阈值规
则，为无偏似然估计规则的阈值，crit为无偏似然估计规则，λ为预测的变量阈值。
可选的，在所述利用小波逆变换对处理后的小波系数进行还原的步骤中，利用小波重构减少噪声干扰，小波重构公式为：
，
，
，
其中，j为小波分解层数，k为离散采样点数，和表示低通滤波器组系数，和 表示高通滤波器组系数，和分别为尺度系数和滤波处理后的小波系
数，m表示滤波器索引参数。
可选的，所述利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息的步骤，包括以下步骤：
利用卷积核大小为3的深度可分离卷积进行上采样并提取局部特征信息；
利用卷积核大小为1的点卷积操作改变预处理信号的维度。
可选的，所述利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息的步骤，包括以下步骤：
利用通道注意力机制整合不同通道的特征信息，所述通道注意力机制嵌入至两个卷积核大小为1X1的标准卷积层之间；
利用卷积核大小为1的点卷积操作恢复预处理信号数据的维度；
利用卷积核大小为3的深度可分离卷积恢复卷积处理后的预处理信号。
可选的，所述利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息中，所述ConvFormer模块包括多层卷积模块和多头注意力卷积模块；
所述多层卷积模块包括依次堆叠的三个卷积核大小为3的卷积层，用以提取预处理信号更深层特征；
所述多头注意力卷积模块包括三个不同尺度卷积核的卷积层、多头注意力机制、归一化层和前馈网络层。
可选的，所述多头注意力卷积模块执行以下步骤：
利用三个不同尺度卷积核的卷积层提取不同尺度的预处理信号故障特征，三个卷积层的卷积核大小分别为3、5、7；
将输入的预处理信号分为三个维度相同的向量，所述向量分别为查询向量q、键向量k和值向量v；
分别将三个向量封装成三个矩阵，分别为查询Q、值K、值向量V；
计算矩阵Q与值K之间的点积操作得到两者之间相似性；
通过Softmax操作进行归一化处理；
通过将归一化处理后的权重与值向量V进行加权求和，以赋予注意力层不同的表示子空间，来提高自注意力层的性能，注意力机制计算公式如下：
，
其中，Q表示查询，K表示值、V表示值向量，表示缩放因子。
可选的，在所述基于特征融合模块对局部特征信息以及全局特征信息进行融合的步骤中，特征融合模块的计算公式为：
，
其中，Gin表示多头注意力卷积模块的输出，Li表示多层卷积模块的输出，Ai表示聚合后的特征，i表示第i个类别特征，n表示第n个并联式Convformer模块输出；
在所述基于Softmax函数的分类器对电力系统暂态信号的故障进行分类的步骤中，Softmax函数的计算公式为：
，
其中，表示第f个类别的得分，k表示总的类别数。
相应的，本申请还提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统，其包括存储器以及处理器，存储器用于存储可执行程序代码；处理器连接至所述存储器，通过读取所述可执行程序代码来运行与所述可执行程序代码对应的计算机程序，以执行上述任一项基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法中的步骤。
本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统，基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法通过比较固定阈值规则和无偏似然估计规则度量指标的相对大小来决定在预处理阶段选择不同类型的小波变换阈值，从而最大程度去除噪声信息并保留故障信号特征。
倒残差模块利用深度可分离卷积代替普通卷积操作，可以有效降低模型的参数量，同时为了重点关注重要通道上的特征，在结构中加入了通道注意力机制，可以有效地提升模型的特征表示能力并使得模型更加轻量化。
利用ConvFormer模块中的多头注意力卷积结构可以实现对不同细粒度特征进行建模，丰富了暂态信号的故障特征表示，并且以一种互补的方式将CNN与多头注意力机制结合起来，同时考虑到暂态信号的局部特征和全局特征，从而实现分类任务有更准确的理解和判断。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请提供的基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法的流程示意图；
图2是本申请提供的基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法中步骤S200的流程示意图；
图3是本申请提供的基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法中步骤S300与步骤S400的流程示意图；
图4是本申请提供的基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法中步骤S500的流程示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本申请保护的范围。此外，应当理解的是，此处所描述的具体实施方式仅用于说明和解释本申请，并不用于限制本申请。在本申请中，在未作相反说明的情况下，使用的方位词如“上”、“下”、“左”、“右”通常是指装置实际使用或工作状态下的上、下、左和右，具体为附图中的图面方向。
本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统，以下分别进行详细说明。需要说明的是，以下实施例的描述顺序不作为对本申请实施例优选顺序的限定。且在以下实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。
请参阅图1-图4，本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法，该方法以一种互补的方式融合CNN提取局部特征与自注意力机制捕获全局依赖关系的优势，同时提取暂态信号不同尺度上的局部特征和不同路径上的全局特征；然后将提取到的局部特征和全局特征进行特征融合，进一步丰富了故障特征的表示，实现对电力系统暂态信号故障的识别与检测。
请参阅图1-图4，基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法，具体包括以下步骤：
S100、采集异常情况下的暂态信号的数据；
S200、利用小波降噪对暂态信号进行预处理，并获取预处理信号；本申请中将数据样本按照7：2：1比例随机划分成训练集、验证集和测试集；
小波分解能够有效的将信号和噪声分离，因此本申请利用应用最广泛，计算速度最快的非线性小波变换阈值去噪法。其去噪原理为：首先采集电力系统暂态实测信号；其次正交小波分解将含噪声的实测信号在时域和频域进行局部分解，正交小波分解后幅值比较大的小波系数绝大多数是去噪信号，而幅值较小的系数一般都是噪声信号；然后找到一个合理的阈值，将大于阈值的小波系数保留，特殊处理小于阈值的小波系数；最后将处理以后小波系数经过小波逆变换还原成去噪以后的信号。
在步骤S200中具体包括以下步骤：
S210、基于正交小波分解将含噪声的暂态信号在时域和频域进行局部分解，其中正交小波分解后幅值比较大的小波系数为去噪信号，而幅值较小的系数为噪声信号；
S220、判断小波系数是否大于预设阈值，若是，保留该小波系数，若否，将该小波系数替换为预测的变量阈值，其中利用软阈值函数对小波系数进行处理的公式为：
，
和分别代表经过去噪处理前后小波变换系数，为符号函数，λ为预设
阈值，s代表小波分解层数；
小波变换阈值去噪方法的关键在于阈值的量化处理和阈值的选取，常用的阈值函数有软阈值函数和硬阈值函数两种，本申请为了保证噪声信号的提取精度，采用软阈值函数对小波系数进行处理。
S230、利用小波逆变换对处理后的小波系数进行还原；
在步骤S220中，预测的变量阈值按照以下公式计算：
，
，
，
其中，n为暂态信号x长度，为通用固定阈值规则的阈值，eta为通用固定阈值规
则，为无偏似然估计规则的阈值，crit为无偏似然估计规则，λ为预测的变量阈值。
阈值处理函数中，阈值λ的选取会直接影响去噪的效果，一般情况下当信号信噪比较大时，通常采用无偏似然估计规则，而当信噪比小时候，则通常采用固定阈值规则。因此本申请采用的启发式阈值规则，综合利用固定阈值规则和无偏似然估计规则，自适应选择最优预测的变量阈值。
在步骤S230中，利用小波重构减少噪声干扰，可以有效减少噪声干扰，小波重构公式为：
，
，
，
其中，j为小波分解层数，k为离散采样点数，和表示低通滤波器组系数，和 表示高通滤波器组系数，和分别为尺度系数和滤波处理后的小波系
数，m表示滤波器索引参数。
通过比较固定阈值规则和无偏似然估计规则度量指标的相对大小来决定在预处理阶段选择不同类型的小波变换阈值，从而最大程度去除噪声信息并保留故障信号特征。
S300、利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息；
S400、利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息；
针对电力系统暂态信号故障变化速度快、持续时间短等特点，本申请设计了一个倒残差模块，该倒残差模块主要由两种具有不同卷积核的卷积块和通道注意力机制采用残差连接的方式组成，从而可以有效地重用原始特征信息，减少有用特征信息的损失。
步骤S300具体包括以下步骤：
S310、利用卷积核大小为3的深度可分离卷积进行上采样并提取局部特征信息；
通过卷积核大小为3的深度可分离卷积来代替标准卷积，可以减少模型的参数数量。
S320、利用卷积核大小为1的点卷积操作改变预处理信号的维度；
步骤S400具体包括以下步骤：
S410、利用通道注意力机制整合不同通道的特征信息，所述通道注意力机制嵌入至两个卷积核大小为1X1的标准卷积层之间；
通过在两个卷积核大小为1X1的标准卷积层间加入通道注意力机制，可以选择性地增强或减弱特定通道的作用从而提取更具有区分度的特征。
S420、利用卷积核大小为1的点卷积操作恢复预处理信号数据的维度；
S430、利用卷积核大小为3的深度可分离卷积恢复卷积处理后的预处理信号；
此外，为了防止梯度爆炸问题的发生，在该模块中采用ReLU6激活函数代替普通的ReLU激活函数。
倒残差模块利用深度可分离卷积代替普通卷积操作，可以有效降低模型的参数量，同时为了重点关注重要通道上的特征，在结构中加入了通道注意力机制，可以有效地提升模型的特征表示能力并使得模型更加轻量化。
S500、利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息；
为了充分提取暂态信号的故障特征，本申请设计了一个并联式ConvFormer特征提取模块，该模块主要由多层卷积模块和多头注意力卷积模块两部分组成。
所述多层卷积模块包括依次堆叠的三个卷积核大小为3的卷积层，用以提取预处理信号更深层特征，从而可以增加网络的深度来学习更加抽象和高级的特征表示。
由于暂态信号间存在较为紧密的上下文关系，普通卷积操作难以充分捕获暂态信号之间的依赖关系。所述多头注意力卷积模块包括三个不同尺度卷积核的卷积层、多头注意力机制、归一化层和前馈网络层。利用多头注意力机制可以对输入序列中不同位置的暂态信号赋予不同的权重来更好地捕捉暂态信号之间的相关性。
所述多头注意力卷积模块包括三个不同尺度卷积核的卷积层（Conv）、多头注意力机制(Factotized MHSA)、归一化层（Layer Norm）和前馈网络层（FFN）。
利用ConvFormer模块中的多头注意力卷积结构可以实现对不同细粒度特征进行建模，丰富了暂态信号的故障特征表示，并且以一种互补的方式将CNN与多头注意力机制结合起来，同时考虑到暂态信号的局部特征和全局特征，从而实现分类任务有更准确的理解和判断。
所述多头注意力卷积模块的步骤包括：
S510、利用三个不同尺度卷积核的卷积层提取不同尺度的预处理信号故障特征，三个卷积层的卷积核大小分别为3、5、7；
S520、将输入的预处理信号分为三个维度相同的向量，所述向量分别为查询向量q、键向量k和值向量v；
S530、分别将三个向量封装成三个矩阵，分别为查询Q、值K、值向量V；
S540、计算矩阵Q与值K之间的点积操作得到两者之间相似性；
S550、通过Softmax操作进行归一化处理；
S560、通过将归一化处理后的权重与值向量V进行加权求和，以赋予注意力层不同的表示子空间，来提高自注意力层的性能，注意力机制计算公式如下：
，
其中，Q表示查询，K表示值、V表示值向量，表示缩放因子；
利用上述注意力机制可以实现从精细到粗、从粗到精细和跨尺度的序列数据建模，从而提高模块的计算效率。
相比于传统的CNN，该ConvFormer模块能够利用结构中的多头注意力机制更好地处理长距离依赖关系并捕捉故障信号中的上下文信息，有助于提取暂态信号故障的全局特征，同时各种类型的暂态信号故障特征相结合丰富了故障特征表示，从而对分类任务有更准确的理解和判断。
S600、基于特征融合模块对局部特征信息以及全局特征信息进行融合；
在步骤S600中，特征融合模块的计算公式为：
，
其中，Gin表示多头注意力卷积模块的输出，Li表示多层卷积模块的输出，Ai表示聚合后的特征，i表示第i个类别特征，n表示第n个并联式Convformer模块输出。
特征融合模块通过Concat操作可以对上阶段不同路径提取到的暂态信号全局以及局部特征进行有效的融合，有助于充分利用暂态信号的故障信息。
S700、基于Softmax函数的分类器对电力系统暂态信号的故障进行分类；
在步骤S700中，Softmax函数的计算公式为：
，
其中，表示第f个类别的得分，k表示总的类别数。
基于Softmax函数构造了一个Softmax分类器。Softmax分类器首先将输入特征分为多个互斥的类别，然后将输入特征映射到一个向量空间中。通过应用Softmax函数对这些特征进行归一化得到每个类别的概率值，然后通过概率的大小来判断所属类别并进行分类。
本申请中基于MP-Convformer并行网络的电力系统暂态信号故障诊断的方法能够有效地诊断电力系统暂态信号故障，并且具有较好的稳定性，对噪声的鲁棒性较强，并具有一定的泛化能力。
该方法的优势首先体现在启发式阈值选择可以减少故障特征信息的丢失同时具有较好的去除噪声效果。然后体现在算法通过多尺度特征卷积操作提取不同尺度特征，并且将这些特征融合在一起，使得故障信号特征信息更加精确。最后体现在算法通过融合了多层卷积模块的局部特征和多头注意力卷积模块提取的全局特征使得提取到的故障数据信息更加完备。因此该算法相比其他仅依靠单一特征或单一局部特征算法能够更有效的诊断电力系统暂态信号故障。
本申请还公开了一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断系统，其包括存储器以及处理器，存储器用于存储可执行程序代码；处理器连接至所述存储器，通过读取所述可执行程序代码来运行与所述可执行程序代码对应的计算机程序，以执行上述任一项基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法中的步骤。
以上对本申请提供一种基于MP-Convformer并行网络的电力系统暂态信号故障诊断方法和系统进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。
Claims (10)
1.基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，包括：
采集异常情况下的暂态信号的数据；
利用小波降噪对暂态信号进行预处理，并获取预处理信号；
利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息；
利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息；
利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息；
基于特征融合模块对局部特征信息以及全局特征信息进行融合；
基于Softmax函数的分类器对电力系统暂态信号的故障进行分类。
2.根据权利要求1所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，所述利用小波降噪对暂态信号进行预处理，并获取预处理信号的步骤，包括以下步骤：
基于正交小波分解将含噪声的暂态信号在时域和频域进行局部分解，其中正交小波分解后幅值比较大的小波系数为去噪信号，而幅值较小的系数为噪声信号；
判断小波系数是否大于预设阈值，若是，保留该小波系数，若否，将该小波系数替换为预测的变量阈值，其中利用软阈值函数对小波系数进行处理的公式为：
，
和分别代表经过去噪处理前后小波变换系数，为符号函数，λ为预设阈值，s代表小波分解层数；
利用小波逆变换对处理后的小波系数进行还原。
3.根据权利要求2所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，在所述判断小波系数是否大于预设阈值的步骤中，预测的变量阈值按照以下公式计算：
，
，
，
其中，n为暂态信号x长度，为通用固定阈值规则的阈值，eta为通用固定阈值规则，为无偏似然估计规则的阈值，crit为无偏似然估计规则，λ为预测的变量阈值。
4.根据权利要求2所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，在所述利用小波逆变换对处理后的小波系数进行还原的步骤中，利用小波重构减少噪声干扰，小波重构公式为：
，
，
，
其中，j为小波分解层数，k为离散采样点数，和表示低通滤波器组系数，和 表示高通滤波器组系数，和分别为尺度系数和滤波处理后的小波系数，m表示滤波器索引参数。
5.根据权利要求1所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，
所述利用倒残差模块中的卷积操作对预处理信号进行上采样并提取局部特征信息的步骤，包括以下步骤：
利用卷积核大小为3的深度可分离卷积进行上采样并提取局部特征信息；
利用卷积核大小为1的点卷积操作改变预处理信号的维度。
6.根据权利要求5所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，
所述利用倒残差模块中嵌入的通道注意力机制整合不同通道的特征信息的步骤，包括以下步骤：
利用通道注意力机制整合不同通道的特征信息，所述通道注意力机制嵌入至两个卷积核大小为1*1的标准卷积层之间；
利用卷积核大小为1的点卷积操作恢复预处理信号数据的维度；
利用卷积核大小为3的深度可分离卷积恢复卷积处理后的预处理信号。
7.根据权利要求1所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，
所述利用ConvFormer模块提取不同路径下不同尺度上的全局特征信息中，所述ConvFormer模块包括多层卷积模块和多头注意力卷积模块；
所述多层卷积模块包括依次堆叠的三个卷积核大小为3的卷积层，用以提取预处理信号更深层特征；
所述多头注意力卷积模块包括三个不同尺度卷积核的卷积层、多头注意力机制、归一化层和前馈网络层。
8.根据权利要求7所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，所述多头注意力卷积模块执行以下步骤：
利用三个不同尺度卷积核的卷积层提取不同尺度的预处理信号故障特征，三个卷积层的卷积核大小分别为3、5、7；
将输入的预处理信号分为三个维度相同的向量，分别为查询向量q、键向量k和值向量v；
分别将三个向量封装成三个矩阵，分别为查询Q、值K、值向量V；
计算矩阵Q与值K之间的点积操作得到两者之间相似性；
通过Softmax操作进行归一化处理；
通过将归一化处理后的权重与值向量 V 进行加权求和，以赋予注意力层不同的表示子空间，来提高自注意力层的性能，注意力机制计算公式如下：
，
其中，Q表示查询，K表示值、V表示值向量，表示缩放因子。
9.根据权利要求1所述的基于MP-Convformer并行网络的电力系统故障诊断方法，其特征在于，
在所述基于特征融合模块对局部特征信息以及全局特征信息进行融合的步骤中，特征融合模块采用如下公式进行融合：
，
其中，Gin表示多头注意力卷积模块的输出，Li表示多层卷积模块的输出，Ai表示聚合后的特征，i表示第i个类别特征，n表示第n个并联式Convformer模块输出；
在所述基于Softmax函数的分类器对电力系统暂态信号的故障进行分类的步骤中，Softmax函数为：
，
其中，表示第f个类别的得分，k表示总的类别数。
10.基于MP-Convformer并行网络的电力系统故障诊断系统，其特征在于，包括：
存储器，用于存储可执行程序代码；以及
处理器，连接至所述存储器，通过读取所述可执行程序代码来运行与所述可执行程序代码对应的计算机程序，以执行根据权利要求1-9中任一项所述的基于MP-Convformer并行网络的电力系统故障诊断方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410786665.3A CN118410415B (zh) | 2024-06-18 | 2024-06-18 | 基于MP-Convformer并行网络的电力系统故障诊断方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410786665.3A CN118410415B (zh) | 2024-06-18 | 2024-06-18 | 基于MP-Convformer并行网络的电力系统故障诊断方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN118410415A true CN118410415A (zh) | 2024-07-30 |
| CN118410415B CN118410415B (zh) | 2024-11-26 |
Family
ID=91997548
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410786665.3A Active CN118410415B (zh) | 2024-06-18 | 2024-06-18 | 基于MP-Convformer并行网络的电力系统故障诊断方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118410415B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118885913A (zh) * | 2024-09-27 | 2024-11-01 | 山东科技大学 | 一种水面无人艇不平衡样本的故障诊断方法及系统 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102928517A (zh) * | 2012-11-15 | 2013-02-13 | 河北省电力公司电力科学研究院 | 一种基于小波分解阈值去噪的瓷绝缘子振动声学检测数据降噪的方法 |
| CN103049741A (zh) * | 2012-12-21 | 2013-04-17 | 中国科学院合肥物质科学研究院 | 基于足地作用力的步态特征提取方法及步态识别系统 |
| CN103617630A (zh) * | 2013-12-18 | 2014-03-05 | 国网重庆潼南县供电有限责任公司 | 基于小波分析的电力系统设备红外图像分割方法及系统 |
| CN104062264A (zh) * | 2014-07-11 | 2014-09-24 | 刘颖东 | 一种可用于气体及液体检测的光谱分析型高精度在线检测仪 |
| CN107495959A (zh) * | 2017-07-27 | 2017-12-22 | 大连大学 | 一种基于一维卷积神经网络的心电信号分类方法 |
| CN108896996A (zh) * | 2018-05-11 | 2018-11-27 | 中南大学 | 一种基于随机森林的铅锌矿吸水井泥水界面超声波回波信号分类方法 |
| CN116502135A (zh) * | 2023-03-20 | 2023-07-28 | 北京建筑大学 | 一种轴承故障诊断方法及系统 |
| CN116973684A (zh) * | 2023-07-31 | 2023-10-31 | 中国南方电网有限责任公司超高压输电公司电力科研院 | 基于drn模型的高压直流输电系统故障诊断方法及系统 |
| CN117633582A (zh) * | 2023-10-27 | 2024-03-01 | 中国石油大学(华东) | 基于融合注意力机制的轻量化网络轴承故障诊断方法及模型 |
-
2024
- 2024-06-18 CN CN202410786665.3A patent/CN118410415B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102928517A (zh) * | 2012-11-15 | 2013-02-13 | 河北省电力公司电力科学研究院 | 一种基于小波分解阈值去噪的瓷绝缘子振动声学检测数据降噪的方法 |
| CN103049741A (zh) * | 2012-12-21 | 2013-04-17 | 中国科学院合肥物质科学研究院 | 基于足地作用力的步态特征提取方法及步态识别系统 |
| CN103617630A (zh) * | 2013-12-18 | 2014-03-05 | 国网重庆潼南县供电有限责任公司 | 基于小波分析的电力系统设备红外图像分割方法及系统 |
| CN104062264A (zh) * | 2014-07-11 | 2014-09-24 | 刘颖东 | 一种可用于气体及液体检测的光谱分析型高精度在线检测仪 |
| CN107495959A (zh) * | 2017-07-27 | 2017-12-22 | 大连大学 | 一种基于一维卷积神经网络的心电信号分类方法 |
| CN108896996A (zh) * | 2018-05-11 | 2018-11-27 | 中南大学 | 一种基于随机森林的铅锌矿吸水井泥水界面超声波回波信号分类方法 |
| CN116502135A (zh) * | 2023-03-20 | 2023-07-28 | 北京建筑大学 | 一种轴承故障诊断方法及系统 |
| CN116973684A (zh) * | 2023-07-31 | 2023-10-31 | 中国南方电网有限责任公司超高压输电公司电力科研院 | 基于drn模型的高压直流输电系统故障诊断方法及系统 |
| CN117633582A (zh) * | 2023-10-27 | 2024-03-01 | 中国石油大学(华东) | 基于融合注意力机制的轻量化网络轴承故障诊断方法及模型 |
Non-Patent Citations (3)
| Title |
|---|
| SONGYU HAN 等: "Convformer-NSE: A Novel End-to-End Gearbox Fault Diagnosis Framework Under Heavy Noise Using Joint Global and Local Information", 《IEEE/ASME TRANSACTIONS ON MECHATRONICS》, vol. 28, no. 1, 28 February 2023 (2023-02-28) * |
| 张林: "融合MobileNetv3与Transformer的钢板缺陷实时检测算法", 《计算机集成制造系统》, vol. 29, no. 12, 31 December 2023 (2023-12-31) * |
| 韩厚宏 等: "Convformer-NSE 融合多源信号的开关磁阻电机故障诊断", 《机械科学与技术》, 18 October 2023 (2023-10-18), pages 5 - 6 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118885913A (zh) * | 2024-09-27 | 2024-11-01 | 山东科技大学 | 一种水面无人艇不平衡样本的故障诊断方法及系统 |
| CN118885913B (zh) * | 2024-09-27 | 2025-01-21 | 山东科技大学 | 一种水面无人艇不平衡样本的故障诊断方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118410415B (zh) | 2024-11-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110516305B (zh) | 基于注意机制元学习模型的小样本下故障智能诊断方法 | |
| CN103645249B (zh) | 基于精简集下采样不均衡svm变压器在线故障检测方法 | |
| CN113344295A (zh) | 基于工业大数据的设备剩余寿命预测方法、系统及介质 | |
| CN112151067B (zh) | 一种基于卷积神经网络的数字音频篡改被动检测方法 | |
| CN112836591B (zh) | 一种油气长输管道光纤预警信号特征提取方法 | |
| CN115114965B (zh) | 风电机组齿轮箱故障诊断方法、装置、设备及存储介质 | |
| CN118410415A (zh) | 基于MP-Convformer并行网络的电力系统故障诊断方法 | |
| CN115130519B (zh) | 一种使用卷积神经网络的船体结构故障预测方法 | |
| CN117113180A (zh) | 基于vmd与卷积神经网络的直流配网高阻故障识别方法 | |
| CN118427681A (zh) | 一种基于自监督对比学习增强的跨工况开集故障诊断方法及设备 | |
| Liang et al. | Image resampling detection based on convolutional neural network | |
| CN117556344A (zh) | 基于多源信息融合的球磨机传动系统故障诊断方法与系统 | |
| CN117056849A (zh) | 一种无监督的复杂机械设备异常状态监测方法及系统 | |
| CN115389865A (zh) | 基于云边端协同架构的电力设备故障诊断方法及系统 | |
| CN114722964B (zh) | 基于电网频率空间和时序特征融合的数字音频篡改被动检测方法及装置 | |
| CN115356599B (zh) | 一种多模态城市电网故障诊断方法及系统 | |
| CN116484168A (zh) | 船舶多层次融合模型的故障预测方法、装置及电子设备 | |
| CN115270906A (zh) | 基于电网频率深浅层特征融合的数字音频篡改被动检测方法及装置 | |
| CN114550460A (zh) | 轨道交通异常检测方法、装置及存储介质 | |
| Yao et al. | Railway axle box bearing fault identification using LCD-MPE and ELM-AdaBoost | |
| Gandhi et al. | System independent fault diagnosis for synchronous generator | |
| CN116738191B (zh) | 时序数据的增强处理方法、装置和计算机设备 | |
| CN119322963B (zh) | 一种跨尺寸水下推进器故障诊断方法 | |
| CN119066621B (zh) | 一种电网故障诊断方法、系统、装置和存储介质 | |
| CN119026088B (zh) | 一种基于人工智能的电力设备诊断方法及其系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |