CN115878491A - 界面异常检测方法、装置、电子设备、存储介质及芯片 - Google Patents
界面异常检测方法、装置、电子设备、存储介质及芯片 Download PDFInfo
- Publication number
- CN115878491A CN115878491A CN202211713843.7A CN202211713843A CN115878491A CN 115878491 A CN115878491 A CN 115878491A CN 202211713843 A CN202211713843 A CN 202211713843A CN 115878491 A CN115878491 A CN 115878491A
- Authority
- CN
- China
- Prior art keywords
- user interface
- objects
- coordinate information
- vertex coordinate
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 62
- 230000002159 abnormal effect Effects 0.000 claims abstract description 83
- 230000005856 abnormality Effects 0.000 claims abstract description 53
- 238000000034 method Methods 0.000 claims abstract description 46
- 239000013598 vector Substances 0.000 claims description 83
- 238000004590 computer program Methods 0.000 claims description 9
- 238000003708 edge detection Methods 0.000 claims description 9
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 5
- 230000005236 sound signal Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Abstract
本公开涉及一种界面异常检测方法、装置、电子设备、存储介质及芯片,涉及设备检测领域,该方法包括:获取目标应用在多个终端设备上显示的多个用户界面,并获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。通过上述技术方案,在每个用户界面中各个对象的顶点坐标信息进行对比时,与其他终端设备中用户界面的各个对象的顶点坐标信息出现较多差异的终端设备可能存在用户界面显示异常,一定程度上能提高检测用户界面异常的准确率。
Description
技术领域
本公开涉及设备检测领域,具体地,涉及一种界面异常检测方法、装置、电子设备、存储介质及芯片。
背景技术
随着终端设备的不断发展,目前市场中各式各样的终端设备层出不穷,由于终端设备的品牌差异、型号差异、系统版本差异、屏幕设计差异等,导致应用程序在不同的终端设备中可能出现界面异常的问题。因此,应用程序的厂商在开发应用程序时会对应用程序的进行兼容性测试,兼容性测试是指应用程序在不同厂商、不同型号、不同系统版本、不同屏幕的终端设备(例如手机、平板或其他设备)上测试该应用程序能否安装、启动成功,以及用户界面(UI)显示是否正常。但是目前的相关技术中通常采用的方法只能用于检测黑屏、白屏或花屏等比较严重的异常,如果需要检测其他类型的异常则需要维护用于异常检测的大量基准图像,维护成本高。因此,如何在不提高成本的情况下,改善用户界面异常检测的适用性,是目前亟需解决的问题。
发明内容
为克服相关技术中存在的问题,本公开提供一种界面异常检测方法、装置、电子设备、存储介质及芯片。
根据本公开实施例的第一方面,提供一种界面异常检测方法,应用于电子设备,所述方法包括:
获取目标应用在多个终端设备上显示的多个用户界面;
获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息;
根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常。
可选地,所述获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息,包括:
根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息;其中,所述特征信息包括用户界面的代码和/或用户界面的界面截图。
可选地,所述根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常,包括:
根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常;
其中,所述第一顶点坐标信息是根据用户界面的代码确定的,所述第二顶点坐标信息是根据用户界面的界面截图确定的。
可选地,所述特征信息为用户界面的代码,所述根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息,包括:
获取所述每个用户界面的代码;
根据所述代码获取所述每个用户界面中的各个对象的第一顶点坐标信息。
可选地,所述特征信息为用户界面的界面截图,所述根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息,包括:
获取所述每个用户界面的界面截图;
通过边缘检测算法对所述界面截图进行识别,以获取所述每个用户界面中的各个对象的第二顶点坐标信息。
可选地,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否异常。
可选地,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否异常。
可选地,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否显示异常,得到所述每个用户界面的第一识别结果;
根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否显示异常,得到所述每个用户界面的第二识别结果;
根据所述每个用户界面的所述第一识别结果和所述第二识别结果确定所述每个用户界面是否显示异常。
可选地,所述根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,获取所述每个用户界面中的各个对象的坐标范围;
将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面中是否存在坐标范围相交的异常对象,所述坐标范围相交指一个对象的一个或多个顶点的坐标位于另一个对象的坐标范围内;
在第一用户界面中存在坐标范围相交的异常对象的情况下,确定其他用户界面中的相同对象是否也存在所述坐标范围相交,以获取存在所述坐标范围相交的用户界面的第一数量;所述第一用户界面为所述多个用户界面中的任一用户界面,所述相同对象为所述其他用户界面中与所述异常对象坐标信息相同的对象;
在所述第一数量大于或等于设定数量的情况下,确定所述第一用户界面显示正常;
在所述第一数量小于所述设定数量的情况下,确定所述第一用户界面显示异常。
可选地,所述根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第二顶点坐标信息,确定所述每个用户界面中的对象数量;
根据所述每个用户界面中的对象数量,获取对象数量的参考值,所述参考值根据所述多个用户界面中的对象数量的平均值确定;
将所述每个用户界面中的对象数量与所述参考值进行对比;
在第二用户界面中的对象数量小于所述参考值的情况下,确定所述第二用户界面显示异常;所述第二用户界面为所述多个用户界面中的任一用户界面;
在所述第二用户界面中的对象数量大于或等于所述参考值的情况下,获取所述第二用户界面中各个对象的图片向量,以根据所述图片向量确定所述第二用户界面是否显示异常。
可选地,所述获取所述第二用户界面中各个对象的图片向量,以根据所述图片向量确定所述第二用户界面是否显示异常,包括:
对各个所述第二用户界面中的对象图片进行向量化,得到各个所述第二用户界面中各个对象的图片向量;
根据各个所述第二用户界面中的各个对象的图片向量,确定各个所述第二用户界面中图片编号相同的图片向量是否相互匹配;
在各个所述第二用户界面中的第一图片向量均匹配的情况下,确定各个所述第二用户界面中的第一图片向量正常;所述第一图片向量为各个所述第二用户界面中图片编号相同的图片向量;
在各个所述第二用户界面中的第一图片向量存在不匹配的情况下,获取各个所述第二用户界面中的第一图片向量的匹配率;
在所述匹配率大于或等于设定阈值的情况下,将各个所述第二用户界中的所述第一图片向量不匹配的第二用户界确定为显示异常;
在所述匹配率小于所述设定阈值的情况下,将各个所述第二用户界中的所述第一图片向量为显示正常;
在任一第二用户界中的各个对象的图片向量均显示正常的情况下,确定所述第二用户界为显示正常。
可选地,所述根据所述每个用户界面的所述第一识别结果和所述第二识别结果确定所述每个用户界面是否显示异常,包括:
对于任一用户界面,在所述用户界面的第一识别结果和所述第二识别结果均表示所述用户界面显示异常的情况下,确定所述用户界面显示异常;
在所述用户界面的第一识别结果和所述第二识别结果均表示所述用户界面显示正常的情况下,确定所述用户界面显示正常;
在所述用户界面的第一识别结果和所述第二识别结果中的一者表示所述用户界面显示正常,另一者表示所述用户界面显示异常的情况下,确定所述用户界面显示异常。
根据本公开实施例的第二方面,提供一种界面异常检测装置,应用于电子设备,所述装置包括:
界面获取模块,用于获取目标应用在多个终端设备上显示的多个用户界面;
信息获取模块,用于获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息;
异常确定模块,用于根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常。
根据本公开实施例的第三方面,提供一种屏幕异常检测装置,应用于电子设备,包括:处理器;用于存储处理器可执行指令的存储器;
其中,所述处理器用于:执行所述可执行指令以实现上述第一方面中的任一实施方式所述的屏幕异常检测方法的步骤。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,所述程序指令被处理器执行时实现本公开第一方面所述的屏幕异常检测方法的步骤。
根据本公开实施例的第五方面,提供一种芯片,包括处理器和接口;所述处理器用于读取指令以执行本公开第一方面所述的屏幕异常检测方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
在上述技术方案中,获取目标应用在多个终端设备上显示的多个用户界面,并获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。通过上述技术方案,将每个用户界面中各个对象的顶点坐标信息进行对比,能够通过识别用户界面中的对象的差异来判断用户界面是否存在示异常,无需维护大量的基准图像,并且可以适用于检测用户界面中的各种异常情况,一定程度上能提高检测用户界面异常的准确率。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本公开的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本公开,但并不构成对本公开的限制。在附图中:
图1是根据一示例性实施例示出的一种界面异常检测方法的流程图。
图2是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图3是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图4是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图5是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图6是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图7是根据一示例性实施例示出的另一种界面异常检测方法的流程图。
图8是根据一示例性实施例示出的又一种界面异常检测方法的流程图。
图9是根据一示例性实施例示出的一种界面异常检测装置的框图。
图10是根据一示例性实施例示出的一种用于界面异常检测方法的电子设备的框图。
图11是根据一示例性实施例示出的又一种用于界面异常检测方法的电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
可以理解的是,本公开中“多个”是指两个或两个以上,其它量词与之类似。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
进一步可以理解的是,术语“第一”、“第二”等用于描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开,并不表示特定的顺序或者重要程度。实际上,“第一”、“第二”等表述完全可以互换使用。例如,在不脱离本公开范围的情况下,第一识别结果也可以被称为第二识别结果,类似地,第二识别结果也可以被称为第一识别结果。
可以理解的是,本公开实施例中尽管在附图中以特定的顺序描述操作,但是不应将其理解为要求按照所示的特定顺序或是串行顺序来执行这些操作,或是要求执行全部所示的操作以得到期望的结果。在特定环境中,多任务和并行处理可能是有利的。
需要说明的是,本申请中所有获取信号、信息或数据的动作都是在遵照所在地国家相应的数据保护法规政策的前提下,并获得由相应装置所有者给予授权的情况下进行的。
目前市场中终端设备种类繁多,即使是同一品牌也有多种机型可供选择,而同一型号也存在多种系统版本供用户选择,并且终端设备的系统版本的不同可能存在接口变化、权限调整等;不同的终端设备的屏幕的尺寸和分辨率等也可能不同;并且,终端设备的屏幕外观设计也随着用户的需求出现了曲面屏、刘海屏和挖孔屏等各式各样的屏幕。因此,随着各款终端设备的不断发展,应用程序的用户界面显示异常的问题也随之而来。由于不同移动终端的各项差异,导致部分应用程序在部分移动终端中可能出现黑屏、白屏、控件压叠等界面异常的问题。因此,本方案提出了一种界面异常检测方法,用于解决该技术问题。
图1是根据一示例性实施例示出的一种界面异常检测方法的流程图,如图1所示,该方法用于终端设备中,包括以下步骤。
在步骤S101中,获取目标应用在多个终端设备上显示的多个用户界面。
示例地,目标应用为待进行兼容性测试的任一应用程序,可以在多个不同的终端设备中安装该目标应用,并使每个安装了该目标应用的终端设备进入到该应用程序的用户界面(UI),从而可以得到多个用户界面,多个用户界面与该多个终端设备一一对应,从而将同一目标应用在不同的终端设备中显示的用户界面作为检测的基础。上述的多个不同的终端设备,可以是同一个品牌或多个品牌的不同型号、不同系统版本的终端设备,并且可以包含多种不同类型的终端设备,例如该多个终端设备可以包括不同品牌、不同型号、不同系统版本的手机,和/或不同品牌、不同型号、不同系统版本的平板电脑。可以准备自动化脚本,下发到参与兼容性测试的各个终端设备上逐步执行本公开实施例所提供的界面异常检测方法。
在步骤S102中,获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息。
可以理解的是,在每个用户界面中存在许多对象,在用户使用的层面(即可以理解用户界面上展示出来的内容,即用户界面的图像),存在的对象例如有用户界面中的各个图标、按钮、图片等元素;在用户界面的代码层面,该对象可以是用户界面中的各个图标、按钮、图片等元素所对应的代码,该代码可以为用户界面的源代码。无论是基于用户界面的图像还是用户界面的代码,均可以确定上述的对象的顶点,以及对应的顶点坐标信息。
在步骤S103中,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。
示例地,可以根据各个对象的顶点坐标信息,将一个用户界面中的每个对象与同一用户界面中的其他对象进行对比来判断是否有对象范围相交,或者可以将一个用户界面中的每个对象与其他的用户界面进行逐个对比,以判断该用户界面与其他用户界面的匹配程度,从而确定是否存在一个或多个用户界面显示异常。
在上述技术方案中,获取目标应用在多个终端设备上显示的多个用户界面,获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。通过上述技术方案,将每个用户界面中各个对象的顶点坐标信息进行对比,能够通过识别用户界面中的对象的差异来判断用户界面是否存在示异常,无需维护大量的基准图像,并且可以适用于检测用户界面中的各种异常情况,一定程度上能提高检测用户界面异常的准确率。
可选地,上述步骤S102可以包括:
根据每个用户界面的特征信息,获取每个用户界面中的各个对象的顶点坐标信息;其中,该特征信息包括用户界面的代码和/或用户界面的界面截图。
可选地,上述的步骤S103可以包括:
根据用户界面中的各个对象的第一顶点坐标信息,和/或用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定每个用户界面是否显示异常;其中,第一顶点坐标信息是根据用户界面的代码确定的,第二顶点坐标信息是根据用户界面的界面截图确定的。
可选地,在一种实现方式中,上述的特征信息为用户界面的代码,即可以基于用户界面的代码来进行异常检测,图2是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图2所示,上述在步骤S102中所述的根据每个用户界面的特征信息,获取每个用户界面中的各个对象的顶点坐标信息,可以包括以下步骤。
在步骤S1021中,获取每个用户界面的代码。
在步骤S1022中,根据代码获取每个用户界面中的各个对象的第一顶点坐标信息。
可以理解的是,步骤S1021至步骤S1022是对于用户界面的代码层面的对象进行检测,例如源代码,由于在用户界面中,每个对象在源代码层面均有代码与其对应,例如,某个对象的源代码可以为:[0]android.widget.Image Button[193,350][526,470],其中“[0]android.widget.ImageButton”表示的是对象,“[193,350][526,470]”为该对象在用户界面中的第一顶点坐标信息。
可选地,在基于代码获取到每个用户界面中的各个对象的第一顶点坐标信息的情况下,上述步骤S103中所述的根据用户界面中的各个对象的第一顶点坐标信息,和/或用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定每个用户界面是否显示异常,可以包括:
根据每个用户界面中的各个对象的第一顶点坐标信息,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面是否异常。
可以理解的是,在任一个用户界面中,可能存在某些对象的部分顶点在其他对象的顶点坐标范围内,即可能出现对象压叠的界面异常情况,也可能是对象对应的图片为悬浮图片的界面正常情况。因此需要将每个用户界面中的各个对象的坐标范围进行对比以确定是否出现上述的对象压叠现象。
可选地,图3是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图3所示,上述的根据每个用户界面中的各个对象的第一顶点坐标信息,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面是否异常,可以包括以下步骤。
在步骤S1031中,根据每个用户界面中的各个对象的第一顶点坐标信息,获取每个用户界面中的各个对象的坐标范围。
在步骤S1032中,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面中是否存在坐标范围相交的异常对象,该坐标范围相交指一个对象的一个或多个顶点的坐标位于另一个对象的坐标范围内。
其中上述的一个多个顶点,例如可以是1个顶点(顶点的实际数值可以根据需要来设定),即如果某一个对象有1个以上的顶点在另一个对象的坐标范围内,则可以认为这两个对象坐标范围相交,如果某一个对象没有顶点在其他对象的坐标范围内,则可以确定这两个对象不存在坐标范围相交。可以理解的是,任一用户界面中存在至少一个对象的坐标范围相交即可确定该用户界面存在对象压叠现象,在用户界面的源代码中,每个用户界面中的对象均有对应的源代码,例如,某个对象的源代码可以为:[0]android.widget.ImageButton[0,1115][231,1208],另一个对象的源代码可以为:[0]android.wid get.ImageButton[193,350][526,470],根据用户界面中对象的源代码,可以得到其对应的第一顶点坐标信息,根据对象的各个顶点的第一顶点坐标信息则可以得到对象的坐标范围,从而可以根据各个对象的坐标范围确定是否存在坐标范围相交的异常对象。
在步骤S1033中,在第一用户界面中存在坐标范围相交的异常对象的情况下,确定其他用户界面中的相同对象是否也存在坐标范围相交,以获取存在坐标范围相交的用户界面的第一数量。
其中,第一用户界面为多个用户界面中的任一用户界面,相同对象为其他用户界面中与异常对象坐标信息相同的对象。
在步骤S1034中,在第一数量大于或等于设定数量的情况下,确定第一用户界面显示正常。
在步骤S1035中,在第一数量小于设定数量的情况下,确定第一用户界面显示异常。
可以理解的是,当任一用户界面中出现坐标范围相交的异常对象时,无法直接判断该用户界面是否显示异常,需要与其他的用户接界面进行比较,从而确定在该目标应用在其他终端设备上显示的用户界面中的相同对象是否存在坐标范围相交。示例地,可以设置一个设定数量,用于判断出现坐标范围相交情况时,用户界面是否显示异常。例如,终端设备的数量为20,该设定数量可以设置为15中,假设终端设备1的用户界面1中对象A和对象B存在坐标范围相交,则可以检测其他的19个终端设备的用户界面中的对象A和对象B是否也存在此现象,假设检测到有其他16台终端设备的16个用户界面中对象A和对象B也存在坐标范围相交,则认为终端设备1的用户界面1显示正常,例如悬浮图片的情况;如果检测到只有2台终端设备的2个用户界面中对象A和对象B也存在坐标范围相交,则认为该用户界面1显示异常,例如对象压叠的情况。
可选地,在另一种实现方式中,上述的特征信息可以为用户界面的界面截图,即可以基于用户界面的图像来进行异常检测,用户界面的图像可以通过截图的方式获取,图4是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图4所示,上述步骤S102中所述的根据每个用户界面的特征信息,获取每个用户界面中的各个对象的顶点坐标信息,可以包括以下步骤。
在步骤S1023中,获取每个用户界面的界面截图。
在步骤S1024中,通过边缘检测算法对界面截图进行识别,以获取每个用户界面中的各个对象的第二顶点坐标信息。
可以理解的是,在用户界面的界面截图中,可以包含有用户界面中的多个对象及其信息,例如,日常使用应用程序时,用户界面中可以包含多个可以点击的按钮、图标、文字描述、图片等对象。由于在界面截图中的各个对象均为图像的形式,因此可以通过边缘检测算法获取界面截图中各个对象的第二顶点坐标信息。边缘检测算法例如可以是,HED(Holistically-Nested Edge Detection,整体嵌套边缘检测)算法、Canny边缘检测算子等。
可选地,在基于用户界面的界面截图获取到每个用户界面中的各个对象的第二顶点坐标信息的情况下,上述步骤S103中所述的根据用户界面中的各个对象的第一顶点坐标信息,和/或用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定每个用户界面是否显示异常,可以包括:
根据每个用户界面中的各个对象的第二顶点坐标信息,获取每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据匹配程度确定每个用户界面是否异常。
可以理解的是,通过边缘检测算法获取各个对象的第二顶点坐标信息后,可以够获取到界面截图中对象的数量,而不同终端设备中,同一应用程序的界面截图中的对象数量可能不同,同一第二顶点坐标信息对应的对象也可能不同。例如,在某一第二顶点坐标信息,终端设备A对应的对象是“确认”按钮,而在终端设备B对应的对象是“取消”按钮。
可选地,图5是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图5所示,上述的根据每个用户界面中的各个对象的第二顶点坐标信息,获取每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据匹配程度确定每个用户界面是否异常,可以包括以下步骤。
在步骤S1036中,根据每个用户界面中的各个对象的第二顶点坐标信息,确定每个用户界面中的对象数量。
在步骤S1037中,根据每个用户界面中的对象数量,获取对象数量的参考值,该参考值根据多个用户界面中的对象数量的平均值确定。
在步骤S1038中,将每个用户界面中的对象数量与参考值进行对比。
在步骤S1039中,在第二用户界面中的对象数量小于参考值的情况下,确定第二用户界面显示异常;第二用户界面为多个用户界面中的任一用户界面。
在步骤S10310中,在第二用户界面中的对象数量大于或等于参考值的情况下,获取第二用户界面中各个对象的图片向量,以根据该图片向量确定第二用户界面是否显示异常。
可以理解的是,在获取到用户界面中对象数量后,可以将每个用户界面中的对象数量与参考值进行比较,该参考值是根据多个用户界面中的对象数量的平均值确定的,例如可以是多个用户界面中对象数量的平均值的60%。当某一用户界面中的对象数量小于设定的参考值,可以认为该用户界面显示异常,例如,应用界面黑屏、应用界面白屏或应用界面加载不全等情况。当某一用户界面中的对象数量大于或等于设定的参考值时,不能确定该用户界面是否显示异常,需要对该用户界面的界面截图中的各个对象进行图片向量化,以进一步确认该用户界面是否显示异常。
可选地,图6是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图6所示,上述步骤S1039中所述的获取第二用户界面中各个对象的图片向量,以根据该图片向量确定第二用户界面是否显示异常,可以包括以下步骤。
在步骤S10391中,对各个第二用户界面中的对象图片进行向量化,得到各个第二用户界面中各个对象的图片向量。
在步骤S10392中,根据各个第二用户界面中的各个对象的图片向量,确定各个第二用户界面中图片编号相同的图片向量是否相互匹配。
在步骤S10393中,在各个第二用户界面中的第一图片向量均匹配的情况下,确定各个第二用户界面中的第一图片向量正常;第一图片向量为各个第二用户界面中图片编号相同的图片向量。
在步骤S10394中,在各个第二用户界面中的第一图片向量存在不匹配的情况下,获取各个第二用户界面中的第一图片向量的匹配率。
在步骤S10395中,在该匹配率大于或等于设定阈值的情况下,将各个第二用户界中的第一图片向量不匹配的第二用户界确定为显示异常。
在步骤S10396中,在该匹配率小于设定阈值的情况下,将各个第二用户界中的所述第一图片向量为显示正常。
在步骤S10397中,在任一第二用户界中的各个对象的图片向量均显示正常的情况下,确定所述第二用户界为显示正常。
可以理解的是,对用户界面的界面截图中的各个的向量化可以通过VGG(VisualGeometry Group,视觉几何组,也称为超分辨率测试序列)模型进行向量化,VGG模型即VGGNet,是一种深度卷积神经网络。在获取到每个对象的对象图片后,可以对对象图像进行编号,在编号的过程中,可以忽略嵌套在其他对象中的对象,根据在用户界面的中的横纵位序对每个对象图片进行编号,按照上述方法获取每台终端设备的用户界面中的对象图片的编号,该编号可以表征对象图片的在用户界面中的位序。
而后可以对获取到的对象图片进行向量化,得到每个第二用户界面中各个对象的图片向量,可以理解的是对象图片编号也可作为图片向量的编号。在得到各个对象的图片向量后,对于任一用户界面中的图片向量,可以在其他用户界面中进行向量检索。示例地,在一种实现方式中,可以将任一用户界面中的各个图片向量与其他的各个用户界面中相同编号对象图片的图片向量进行比较,以确定与不同界面中相同编号的图片向量是否匹配,如果均匹配,则可以认为该图片向量正常,如果存在不匹配,则获取各个用户界面中该图片向量的匹配率。
例如,该匹配率的设定阈值为60%时,经过步骤S1037的判断后,假设有20台终端设备的用户界面为上述的第二界面,即存在20个第二界面,其中,假设终端设备C和终端设备D的用户界面与其他终端设备的用户界面中编号相同的图片向量互相不匹配,其余终端设备的用户界面中该编号的图片向量互相匹配,因此该编号的图片向量的匹配率为(20-2)/20=90%大于该设定阈值60%,因此认为终端设备C和终端设备D的用户界面显示异常,其他终端设备则判定为该图片向量显示正常;如果在上述20台终端设备中,每个终端设备的用户界面与其他终端设备的用户界面中的编号相同的图片向量均不匹配,则上述的匹配率为0%,小于该设定阈值60%,可以认为该20台终端设备在该对象显示正常,例如外卖平台的应用程序的随机数据等。如果某一个用户界面的各个图片向量均为显示正常的情况下,该用户界面确定为显示正常。
可选地,在另一种实现方式中,可以将基于代码检测的方法和基于界面截图检测的方法相结合,根据两种检测方法的检测结果共同判断用户界面是否异常,图7是根据一示例性实施例示出的另一种界面异常检测方法的流程图,如图7所示,上述的步骤S103中所述的根据用户界面中的各个对象的第一顶点坐标信息,和/或用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定每个用户界面是否显示异常,可以包括以下步骤。
在步骤S201中,根据每个用户界面中的各个对象的第一顶点坐标信息,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面是否显示异常,得到每个用户界面的第一识别结果。
其中,每个用户界面中的各个对象的第一顶点坐标信息的是基于对象的代码获取,该获取方法与上述步骤S1021和S1022所示的方法相同,不再赘述。
在步骤S202中,根据每个用户界面中的各个对象的第二顶点坐标信息,获取每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据该匹配程度确定每个用户界面是否显示异常,得到每个用户界面的第二识别结果。
其中,每个用户界面中的各个对象的第二顶点坐标信息的是基于用户界面的截图获取,该获取方法与上述步骤S1023和S1024所示的方法相同,不再赘述。
在步骤S203中,根据每个用户界面的第一识别结果和第二识别结果确定每个用户界面是否显示异常。
可以理解的是,步骤S201是根据代码确定的各个对象的第一顶点坐标信息,得到第一识别结果,其方法可以参照上述的步骤S1030至步骤S1034,不再赘述;步骤S202是根据界面截图确定的各个对象的第二顶点坐标信息,得到第二识别结果,其方法可以参照上述的步骤S1035至步骤S1039,不再赘述;通过第一识别结果和第二识别结果来确定每个用户界面是否显示异常,能增加界面异常检测的识别范围以及识别精度。
可选地,图8是根据一示例性实施例示出的又一种界面异常检测方法的流程图,如图8所示,对于任一用户界面,步骤S201可以包括以下步骤。
在步骤S2011中,在用户界面的第一识别结果和第二识别结果均表示用户界面显示异常的情况下,确定该用户界面显示异常。
在步骤S2012中,在用户界面的第一识别结果和第二识别结果均表示用户界面显示正常的情况下,确定该用户界面显示正常。
在步骤S2013中,在用户界面的第一识别结果和第二识别结果中的一者表示用户界面显示正常,另一者表示用户界面显示异常的情况下,确定该用户界面显示异常。
可以理解的是,第一识别结果为基于用户界面的代码得到的识别结果,第二识别结果为基于用户界面的界面截图的得到的识别结果,因此,对于不同的检测方法得到的识别结果可能出现不同。因此第一识别结果和第二识别结果中的至少一个识别结果表示用户界面显示异常时,可以认为用户界面显示异常。当第一识别结果和第二识别结果均表示用户界面显示正常时可以认为用户界面显示正常。可选地,上述的在步骤S2011和步骤S2013中可以执行其中的任意一个步骤,也可以都执行。可以理解的是,如果只执行步骤S2011,即当第一识别结果和第二识别结果均表示用户界面显示异常时才判定异常,能够提高界面异常检测的准确率,如果只执行步骤S2013,或者将步骤S2011和步骤S2013同时执行时,第一识别结果和第二识别结果中只要至少一个表示用户界面显示异常时就判定异常,能够提高界面异常检测的检测范围。
在上述技术方案中,获取目标应用在多个终端设备上显示的多个用户界面,并获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。通过上述技术方案,将每个用户界面中各个对象的顶点坐标信息进行对比,能够通过识别用户界面中的对象的差异来判断用户界面是否存在示异常,无需维护大量的基准图像,并且可以适用于检测用户界面中的各种异常情况,一定程度上能提高检测用户界面异常的准确率。
图9是根据一示例性实施例示出的一种界面异常检测装置的框图。该装置用于电子设备中,参照图9,该界面异常检测装置900可以包括:
界面获取模块901,用于获取目标应用在多个终端设备上显示的多个用户界面。
信息获取模块902,用于获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息。
异常确定模块903,用于根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。
可选地,该信息获取模块902,可以用于:
根据每个用户界面的特征信息,获取每个用户界面中的各个对象的顶点坐标信息;其中,该特征信息包括用户界面的代码和/或用户界面的界面截图。
可选地,该异常确定模块903,可以用于:
根据该用户界面中的各个对象的第一顶点坐标信息,和/或该用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定每个用户界面是否显示异常;其中,该第一顶点坐标信息是根据用户界面的代码确定的,该第二顶点坐标信息是根据用户界面的界面截图确定的。
可选地,在一种实现方式中,该特征信息为用户界面的代码,该信息获取模块902,可以用于:
获取每个用户界面的代码。该代码可以是用户界面的源代码。
根据代码获取每个用户界面中的各个对象的第一顶点坐标信息。
可选地,在另一种实现方式中,该特征信息为用户界面的界面截图,该信息获取模块902,可以用于:
获取每个用户界面的界面截图。
通过边缘检测算法对界面截图进行识别,以获取每个用户界面中的各个对象的第二顶点坐标信息。
可选地,在一种实现方式中,该异常确定模块903,包括:第一确定子模块,可以用于:根据每个用户界面中的各个对象的第一顶点坐标信息,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面是否异常。
可选地,在另一种实现方式中,该异常确定模块903,包括:第二确定子模块,可以用于:根据每个用户界面中的各个对象的第二顶点坐标信息,获取每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据匹配程度确定每个用户界面是否异常。
可选地,在又一种实现方式中,该异常确定模块903,还包括:第三确定子模块;
该第一确定子模块,可以用于:根据每个用户界面中的各个对象的第一顶点坐标信息,将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面是否显示异常,得到每个用户界面的第一识别结果。
该第二确定子模块,可以用于:根据每个用户界面中的各个对象的第二顶点坐标信息,获取每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据该匹配程度确定每个用户界面是否显示异常,得到每个用户界面的第二识别结果;其中,上述的第一识别结果为基于用户界面的代码得到的识别结果,第二识别结果为基于用户界面的界面截图的得到的识别结果。
该第三确定子模块,可以用于:根据每个用户界面的第一识别结果和第二识别结果确定每个用户界面是否显示异常。
可选地,该第一确定子模块,可以用于:
根据每个用户界面中的各个对象的第一顶点坐标信息,获取每个用户界面中的各个对象的坐标范围。
将每个用户界面中的各个对象的坐标范围进行对比,以确定每个用户界面中是否存在坐标范围相交的异常对象,该坐标范围相交指一个对象的一个或多个顶点的坐标位于另一个对象的坐标范围内。
在第一用户界面中存在坐标范围相交的异常对象的情况下,确定其他用户界面中的相同对象是否也存在坐标范围相交,以获取存在坐标范围相交的用户界面的第一数量;第一用户界面为多个用户界面中的任一用户界面,相同对象为其他用户界面中与异常对象坐标信息相同的对象。
在第一数量大于或等于设定数量的情况下,确定第一用户界面显示正常。
在第一数量小于设定数量的情况下,确定第一用户界面显示异常。
可选地,该第二确定子模块,可以用于:
根据每个用户界面中的各个对象的第二顶点坐标信息,确定每个用户界面中的对象数量。
根据每个用户界面中的对象数量,获取对象数量的参考值,该参考值根据多个用户界面中的对象数量的平均值确定。
将每个用户界面中的对象数量与参考值进行对比。
在第二用户界面中的对象数量小于参考值的情况下,确定第二用户界面显示异常;第二用户界面为多个用户界面中的任一用户界面。
在第二用户界面中的对象数量大于或等于参考值的情况下,获取第二用户界面中各个对象的图片向量,以根据该图片向量确定第二用户界面是否显示异常。
可选地,该第二确定子模块,可以用于:
对各个第二用户界面中的对象图片进行向量化,得到各个第二用户界面中各个对象的图片向量;
根据各个第二用户界面中的各个对象的图片向量,确定各个第二用户界面中图片编号相同的图片向量是否相互匹配;
在各个第二用户界面中的第一图片向量均匹配的情况下,确定各个第二用户界面中的第一图片向量正常;第一图片向量为各个第二用户界面中图片编号相同的图片向量;
在各个第二用户界面中的第一图片向量存在不匹配的情况下,获取各个第二用户界面中的第一图片向量的匹配率;
在匹配率大于或等于设定阈值的情况下,将各个第二用户界中的第一图片向量不匹配的第二用户界确定为显示异常;
在匹配率小于设定阈值的情况下,将各个第二用户界中的第一图片向量为显示正常;
在任一第二用户界中的各个对象的图片向量均显示正常的情况下,确定所述第二用户界为显示正常。
可选地,该第三确定子模块,可以用于:
对于任一用户界面,在用户界面的第一识别结果和第二识别结果均表示用户界面显示异常的情况下,确定该用户界面显示异常;
在用户界面的第一识别结果和第二识别结果均表示用户界面显示正常的情况下,确定该用户界面显示正常;
在用户界面的第一识别结果和第二识别结果中的一者表示用户界面显示正常,另一者表示用户界面显示异常的情况下,确定该用户界面显示异常。
在上述技术方案中,获取目标应用在多个终端设备上显示的多个用户界面,并获取多个用户界面中每个用户界面中的各个对象的顶点坐标信息,根据每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定每个用户界面是否显示异常。通过上述技术方案,将每个用户界面中各个对象的顶点坐标信息进行对比,能够通过识别用户界面中的对象的差异来判断用户界面是否存在示异常,无需维护大量的基准图像,并且可以适用于检测用户界面中的各种异常情况,一定程度上能提高检测用户界面异常的准确率。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开提供的界面异常检测方法的步骤。
图10是根据一示例性实施例示出的一种电子设备1000的框图。如图10所示,该电子设备1000可以包括:处理器1001,存储器1002。该电子设备1000还可以包括多媒体组件1003,输入/输出(I/O)接口1004,以及通信组件1005中的一者或多者。
其中,处理器1001用于控制该电子设备1000的整体操作,以完成上述的界面异常检测方法中的全部或部分步骤。存储器1002用于存储各种类型的数据以支持在该电子设备1000的操作,这些数据例如可以包括用于在该电子设备1000上操作的任何应用程序或方法的指令,以及应用程序相关的数据,例如联系人数据、收发的消息、图片、音频、视频等等。该存储器1002可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件1003可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器1002或通过通信组件1005发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口1004为处理器1001和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件1005用于该电子设备1000与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near FieldCommunication,简称NFC),2G、3G、4G、NB-IOT、eMTC、或其他5G等等,或它们中的一种或几种的组合,在此不做限定。因此相应的该通信组件1005可以包括:Wi-Fi模块,蓝牙模块,NFC模块等等。
在一示例性实施例中,电子设备1000可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的界面异常检测方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的界面异常检测方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器1002,上述程序指令可由电子设备1000的处理器1001执行以完成上述的界面异常检测方法。
图11是根据一示例性实施例示出的一种电子设备1100的框图。例如,电子设备1100可以被提供为一服务器。参照图11,电子设备1100包括处理器1122,其数量可以为一个或多个,以及存储器1132,用于存储可由处理器1122执行的计算机程序。存储器1132中存储的计算机程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理器1122可以用于执行该计算机程序,以执行上述的界面异常检测方法。
另外,电子设备1100还可以包括电源组件1126和通信组件1150,该电源组件1126可以用于执行电子设备1100的电源管理,该通信组件1150可以用于实现电子设备1100的通信,例如,有线或无线通信。此外,该电子设备1100还可以包括输入/输出(I/O)接口1158。电子设备1100可以操作基于存储在存储器1132的操作系统。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的界面异常检测方法的步骤。例如,该非临时性计算机可读存储介质可以为上述包括程序指令的存储器1132,上述程序指令可由电子设备1100的处理器1122执行以完成上述的界面异常检测方法。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的界面异常检测方法的代码部分。
以上结合附图详细描述了本公开的优选实施方式,但是,本公开并不限于上述实施方式中的具体细节,在本公开的技术构思范围内,可以对本公开的技术方案进行多种简单变型,这些简单变型均属于本公开的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合,为了避免不必要的重复,本公开对各种可能的组合方式不再另行说明。
此外,本公开的各种不同的实施方式之间也可以进行任意组合,只要其不违背本公开的思想,其同样应当视为本公开所公开的内容。
Claims (16)
1.一种界面异常检测方法,其特征在于,应用于电子设备,所述方法包括:
获取目标应用在多个终端设备上显示的多个用户界面;
获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息;
根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常。
2.根据权利要求1所述的方法,其特征在于,所述获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息,包括:
根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息;其中,所述特征信息包括用户界面的代码和/或用户界面的界面截图。
3.根据权利要求2所述的方法,其特征在于,所述根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常,包括:
根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常;
其中,所述第一顶点坐标信息是根据用户界面的代码确定的,所述第二顶点坐标信息是根据用户界面的界面截图确定的。
4.根据权利要求2所述的方法,其特征在于,所述特征信息为用户界面的代码,所述根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息,包括:
获取所述每个用户界面的代码;
根据所述代码获取所述每个用户界面中的各个对象的第一顶点坐标信息。
5.根据权利要求2所述的方法,其特征在于,所述特征信息为用户界面的界面截图,所述根据所述每个用户界面的特征信息,获取所述每个用户界面中的各个对象的顶点坐标信息,包括:
获取所述每个用户界面的界面截图;
通过边缘检测算法对所述界面截图进行识别,以获取所述每个用户界面中的各个对象的第二顶点坐标信息。
6.根据权利要求3所述的方法,其特征在于,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否异常。
7.根据权利要求3所述的方法,其特征在于,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否异常。
8.根据权利要求3所述的方法,其特征在于,所述根据所述用户界面中的各个对象的第一顶点坐标信息,和/或所述用户界面中的各个对象的第二顶点坐标信息进行对象的对比,确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否显示异常,得到所述每个用户界面的第一识别结果;
根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否显示异常,得到所述每个用户界面的第二识别结果;
根据所述每个用户界面的所述第一识别结果和所述第二识别结果确定所述每个用户界面是否显示异常。
9.根据权要求6或8所述的方法,其特征在于,所述根据所述每个用户界面中的各个对象的第一顶点坐标信息,将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第一顶点坐标信息,获取所述每个用户界面中的各个对象的坐标范围;
将所述每个用户界面中的各个对象的坐标范围进行对比,以确定所述每个用户界面中是否存在坐标范围相交的异常对象,所述坐标范围相交指一个对象的一个或多个顶点的坐标位于另一个对象的坐标范围内;
在第一用户界面中存在坐标范围相交的异常对象的情况下,确定其他用户界面中的相同对象是否也存在所述坐标范围相交,以获取存在所述坐标范围相交的用户界面的第一数量;所述第一用户界面为所述多个用户界面中的任一用户界面,所述相同对象为所述其他用户界面中与所述异常对象坐标信息相同的对象;
在所述第一数量大于或等于设定数量的情况下,确定所述第一用户界面显示正常;
在所述第一数量小于所述设定数量的情况下,确定所述第一用户界面显示异常。
10.根据权利要求7或8所述的方法,其特征在于,所述根据所述每个用户界面中的各个对象的第二顶点坐标信息,获取所述每个用户界面中的各个对象与其他界面中的各个对象的匹配程度,以根据所述匹配程度确定所述每个用户界面是否显示异常,包括:
根据所述每个用户界面中的各个对象的第二顶点坐标信息,确定所述每个用户界面中的对象数量;
根据所述每个用户界面中的对象数量,获取对象数量的参考值,所述参考值根据所述多个用户界面中的对象数量的平均值确定;
将所述每个用户界面中的对象数量与所述参考值进行对比;
在第二用户界面中的对象数量小于所述参考值的情况下,确定所述第二用户界面显示异常;所述第二用户界面为所述多个用户界面中的任一用户界面;
在所述第二用户界面中的对象数量大于或等于所述参考值的情况下,获取所述第二用户界面中各个对象的图片向量,以根据所述图片向量确定所述第二用户界面是否显示异常。
11.根据权利要求10所述的方法,其特征在于,所述获取所述第二用户界面中各个对象的图片向量,以根据所述图片向量确定所述第二用户界面是否显示异常,包括:
对各个所述第二用户界面中的对象图片进行向量化,得到各个所述第二用户界面中各个对象的图片向量;
根据各个所述第二用户界面中的各个对象的图片向量,确定各个所述第二用户界面中图片编号相同的图片向量是否相互匹配;
在各个所述第二用户界面中的第一图片向量均匹配的情况下,确定各个所述第二用户界面中的第一图片向量正常;所述第一图片向量为各个所述第二用户界面中图片编号相同的图片向量;
在各个所述第二用户界面中的第一图片向量存在不匹配的情况下,获取各个所述第二用户界面中的第一图片向量的匹配率;
在所述匹配率大于或等于设定阈值的情况下,将各个所述第二用户界中的所述第一图片向量不匹配的第二用户界确定为显示异常;
在所述匹配率小于所述设定阈值的情况下,将各个所述第二用户界中的所述第一图片向量为显示正常;
在任一第二用户界中的各个对象的图片向量均显示正常的情况下,确定所述第二用户界为显示正常。
12.根据权利要求8所述的方法,其特征在于,所述根据所述每个用户界面的所述第一识别结果和所述第二识别结果确定所述每个用户界面是否显示异常,包括:
对于任一用户界面,在所述用户界面的第一识别结果和所述第二识别结果均表示所述用户界面显示异常的情况下,确定所述用户界面显示异常;
在所述用户界面的第一识别结果和所述第二识别结果均表示所述用户界面显示正常的情况下,确定所述用户界面显示正常;
在所述用户界面的第一识别结果和所述第二识别结果中的一者表示所述用户界面显示正常,另一者表示所述用户界面显示异常的情况下,确定所述用户界面显示异常。
13.一种界面异常检测装置,其特征在于,应用于电子设备,所述装置包括:
界面获取模块,用于获取目标应用在多个终端设备上显示的多个用户界面;
信息获取模块,用于获取所述多个用户界面中每个用户界面中的各个对象的顶点坐标信息;
异常确定模块,用于根据所述每个用户界面中的各个对象的顶点坐标信息进行对象的对比,以确定所述每个用户界面是否显示异常。
14.一种屏幕异常检测装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器用于:执行所述可执行指令以实现权利要求1~12中任一项所述方法的步骤。
15.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述程序指令被处理器执行时实现权利要求1~12中任一项所述方法的步骤。
16.一种芯片,其特征在于,包括处理器和接口;所述处理器用于读取指令以执行权利要求1~12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211713843.7A CN115878491A (zh) | 2022-12-29 | 2022-12-29 | 界面异常检测方法、装置、电子设备、存储介质及芯片 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211713843.7A CN115878491A (zh) | 2022-12-29 | 2022-12-29 | 界面异常检测方法、装置、电子设备、存储介质及芯片 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115878491A true CN115878491A (zh) | 2023-03-31 |
Family
ID=85757276
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211713843.7A Pending CN115878491A (zh) | 2022-12-29 | 2022-12-29 | 界面异常检测方法、装置、电子设备、存储介质及芯片 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115878491A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117149340A (zh) * | 2023-10-30 | 2023-12-01 | 北京小米移动软件有限公司 | Usim卡应用界面的显示方法、装置及电子设备 |
-
2022
- 2022-12-29 CN CN202211713843.7A patent/CN115878491A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117149340A (zh) * | 2023-10-30 | 2023-12-01 | 北京小米移动软件有限公司 | Usim卡应用界面的显示方法、装置及电子设备 |
CN117149340B (zh) * | 2023-10-30 | 2024-02-06 | 北京小米移动软件有限公司 | Usim卡应用界面的显示方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2017206394B2 (en) | Method, system and device for testing and readable storage medium | |
CN108363599B (zh) | 用户界面显示识别方法及终端设备 | |
CN108664364B (zh) | 一种终端测试方法及装置 | |
CN108614970B (zh) | 病毒程序的检测方法、模型训练方法、装置及设备 | |
US10810113B2 (en) | Method and apparatus for creating reference images for an automated test of software with a graphical user interface | |
CN103984626A (zh) | 一种生成测试用例脚本的方法及装置 | |
CN110908899A (zh) | 应用程序的调试方法、移动终端及计算机可读存储介质 | |
CN115878491A (zh) | 界面异常检测方法、装置、电子设备、存储介质及芯片 | |
CN115829929A (zh) | 产品表面图像的缺陷检测方法、装置、设备及存储介质 | |
CN110914810B (zh) | Monkey测试方法及终端 | |
CN109753217B (zh) | 动态键盘操作方法、装置、存储介质及电子设备 | |
US11354918B2 (en) | Electronic device for recognizing visual stimulus based on spontaneous selective neural response of deep artificial neural network and operating method thereof | |
CN108984097A (zh) | 触控操作方法、装置、存储介质及电子设备 | |
CN110633196A (zh) | 应用程序的自动化用例执行方法和装置 | |
US9912796B2 (en) | Apparatus and method for correcting an input number | |
CN111026644B (zh) | 操作结果的标注方法、装置、存储介质和电子设备 | |
US20200028839A1 (en) | System, method, and program for remotely supporting work | |
US11698849B2 (en) | Automated application testing of mutable interfaces | |
CN112286785B (zh) | 用户界面的异常检测方法及装置 | |
CN113656876B (zh) | 自动化柜体模型生成方法、装置、介质及电子设备 | |
CN112306723A (zh) | 一种应用于小程序的运行信息获取方法和装置 | |
CN112363918B (zh) | 用户界面ai自动化测试方法、装置、设备和存储介质 | |
KR20140020108A (ko) | 터치 펜 식별 방법 및 그 전자 장치 | |
CN113837286A (zh) | 一种图像分类方法及相关设备 | |
CN119045796A (zh) | 业务扩展点执行方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |