[go: up one dir, main page]

CN115686334B - 操作控制的方法、电子设备及可读存储介质 - Google Patents

操作控制的方法、电子设备及可读存储介质 Download PDF

Info

Publication number
CN115686334B
CN115686334B CN202211343134.4A CN202211343134A CN115686334B CN 115686334 B CN115686334 B CN 115686334B CN 202211343134 A CN202211343134 A CN 202211343134A CN 115686334 B CN115686334 B CN 115686334B
Authority
CN
China
Prior art keywords
application
touch operation
touch
interface
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211343134.4A
Other languages
English (en)
Other versions
CN115686334A (zh
Inventor
王傲飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202211343134.4A priority Critical patent/CN115686334B/zh
Publication of CN115686334A publication Critical patent/CN115686334A/zh
Application granted granted Critical
Publication of CN115686334B publication Critical patent/CN115686334B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

本申请公开了一种操作控制的方法、电子设备及可读存储介质,属于终端技术领域。该方法包括:接收录制开始操作,录制开始操作用于触发开始对用户在电子设备的屏幕上的触摸操作进行记录。记录用户在第一应用程序的第一应用界面中的触摸操作的行为数据。在录制结束的情况下,若第一应用界面已打开,基于记录的至少一个触摸操作的行为数据,在第一应用界面中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。本申请通过记录用户的触摸操作的行为数据,根据记录的行为数据自动在第一应用界面中重复执行用户的至少一个触摸操作对应的事件,避免需要用户手动重复操作,从而避免因用户疲劳导致操作效率降低的问题,进而提高了任务执行效果。

Description

操作控制的方法、电子设备及可读存储介质
技术领域
本申请涉及终端技术领域,特别涉及一种操作控制的方法、电子设备及可读存储介质。
背景技术
随着终端技术的快速发展,电子设备得到广泛使用。在电子设备使用过程中,在一些场景下可能需要用户机械性地、重复性地执行某类操作,譬如在某应用程序中刷红包时需要用户不停地下拉应用界面中显示的红包。相应地,电子设备执行对应的操作,如打开红包并显示红包金额等。
然而,这些重复性的操作会使得用户逐渐感到疲劳,随着时间的增加,由于用户疲劳原因容易导致操作效率降低,从而影响了任务执行效果。
发明内容
本申请提供了一种操作控制的方法、电子设备及可读存储介质,可以解决用户长时间进行重复性操作因疲劳原因导致操作效率降低、从而影响任务执行效果的问题。所述技术方案如下:
第一方面,提供了一种操作控制的方法、电子设备及可读存储介质,所述方法包括:
接收录制开始操作,所述录制开始操作用于触发开始对用户在所述电子设备的屏幕上的触摸操作进行记录;
记录所述用户在第一应用程序的第一应用界面中的触摸操作的行为数据;
在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
如此,通过记录用户的触摸操作的行为数据,之后根据记录的行为数据自动在第一应用界面中重复执行用户的至少一个触摸操作对应的事件,避免需要用户手动重复操作,从而避免因用户疲劳导致操作效率降低的问题,进而可以提高任务执行效果。
作为本申请的一个示例,所述在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在录制结束的情况下,生成录制文件,所述录制文件包括所述至少一个触摸操作的行为数据;
在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
如此,通过生成录制文件,使得后续可以基于录制文件重新播放至少一个触摸操作,从而便于能够自动在第一应用界面中按照至少一个触摸操作的执行顺序依次执行对应的触摸事件,进而避免需要用户手动操作。
作为本申请的一个示例,所述在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
显示目标界面,所述目标界面中包括所述录制文件;
响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
如此,在生成录制文件后,显示包括录制文件的目标界面,从而便于用户能够在目标界面中对录制文件进行播放,也即用户可以根据自身的需求播放录制文件,从而可以提高用户体验。
作为本申请的一个示例,所述响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述目标界面中接收重复次数设置指令,所述重复次数设置指令中携带目标次数,所述重复次数设置指令用于指示对所述至少一个触摸操作重复执行所述目标次数;
响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;
在本轮播放结束后,统计所述录制文件的重复播放次数;
若所述重复播放次数未达到所述目标次数,则继续基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;
若所述重复播放次数达到所述目标次数,则确定响应结束。
如此,通过在目标界面中提供重复次数设置选项,使得用户可以根据需求设置对录制文件重复播放的次数,从而避免需要用户手动重复播放,提高了用户体验。并且使得电子设备能够自动多次播放录制文件,从而多次在第一应用界面中执行对应的触摸事件,可以提高任务执行效果。
作为本申请的一个示例,所述至少一个触摸操作包括调用第二应用程序的第一触摸操作;所述在所述第一应用界面已打开的情况下,基于记录的至少一个触摸操作的行为数据,在所述第一应用界面按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述第一应用界面已打开的情况下,若基于所述第一触摸操作的行为数据确定当前到达所述第一触摸操作的执行顺序,则监听所述第二应用程序是否处于运行状态;
在所述第二应用程序未处于运行状态的情况下,启动所述第二应用程序。
如此,可以在播放录制文件的过程中,按需拉起另一个应用程序,也即第二应用程序,扩展了业务的实现能力,增加了业务的丰富性。
作为本申请的一个示例,所述方法还包括:
在基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作的过程中,接收所述用户在第三应用程序的应用界面中的触摸操作;
在所述第三应用程序中对所述用户的触摸操作进行响应。
如此,在基于至少一个触摸操作的行为数据,在第一应用界面中依次执行每个触摸操作对应的触摸事件的过程中,当接收到用户的再次触摸操作时,仍可以正常响应,从而可以提高用户体验。
作为本申请的一个示例,所述在所述第一应用界面已打开的情况下,基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述第一应用界面已打开的情况下,当基于第二触摸操作的行为数据确定到达所述第二触摸操作的执行顺序时,按照当前打开的各个视图从上至下的显示顺序进行遍历,所述第二触摸操作为所述至少一个触摸操作中的任意一个触摸操作;
每遍历到一个视图时,查询当前遍历到的视图所属的应用程序是否为所述第一应用程序;
在当前遍历到的视图所属的应用程序不是所述第一应用程序的情况下,继续遍历下一个视图;
在当前遍历到的视图所属的应用程序是所述第一应用程序的情况下,将所述第二触摸操作的行为数据发送给所述第一应用程序进行处理,并结束遍历操作。
如此,通过逐个视图进行遍历的方式下发触摸事件,可以使得能够对各个触摸事件有序响应,并且在再次接收到触摸事件的情况下,仍能够保证对再次接收到的触摸事件正常进行响应,避免出现触摸事件响应混乱或者丢失的情况。
作为本申请的一个示例,所述电子设备包括触摸事件管理模块、拦截反馈模块和事件接收模块;所述每遍历到一个视图时,查询当前遍历到的视图所属的应用程序是否为所述第一应用程序,包括:
所述触摸事件管理模块每遍历到一个视图时,将所述第二触摸事件的事件属性信息发送给当前遍历到的视图所属的应用程序,所述第二触摸事件的事件属性信息是基于所述第二触摸事件的行为数据确定;
所述应用程序在根据所述第二触摸事件的事件属性信息确定拦截所述第二触摸事件的情况下,向所述拦截反馈模块发送第一指示信息,所述第一指示信息用于指示拦截所述第二触摸事件;
所述拦截反馈模块向所述触摸事件管理模块反馈所述第一指示信息;
所述触摸事件管理模块确定当前遍历到的视图所属的应用程序是所述第一应用程序。
如此,由触摸事件管理模块负责下发事件,由拦截反馈模块负责反馈事件的拦截结果,并将拦截结果反馈给触摸事件管理模块,可以使得触摸事件有序响应。
作为本申请的一个示例,所述在当前遍历到的视图所属的应用程序是所述第一应用程序的情况下,将所述第二触摸操作的行为数据发送给所述第一应用程序进行处理,包括:
所述触摸事件管理模块将所述第二触摸操作的行为数据发送至所述事件接收模块;
所述第一应用程序从所述事件接收模块中获取所述第二触摸事件的行为数据;
所述第一应用程序基于所述第二触摸事件的行为数据响应所述第二触摸事件。
如此,触摸事件管理模块通过将行为数据发送至事件接收模块中,使得第一应用程序从事件接收模块中获取行为数据并进行响应处理,也即通过事件接收模块建立数据传输通道,使得触摸事件管理模块可以使用统一的数据封装方式发送不同应用程序所要处理的行为数据。
作为本申请的一个示例,在所述至少一个触摸操作的数量为多个的情况下,多个所述触摸操作的操作类型包括点击操作、滑动操作、长按操作中的一种或多种。
如此,可以对不同操作类型的触摸操作的行为数据进行记录,可以提高业务的丰富性。
作为本申请的一个示例,
在所述至少一个触摸操作包括所述点击操作的情况下,所述点击操作的行为数据包括所述点击操作的点击位置坐标和点击时间;
在所述至少一个触摸操作包括所述滑动操作的情况下,所述滑动操作的行为数据包括所述滑动操作的滑动起始位置坐标、滑动终点位置坐标以及滑动起始时间;
在所述至少一个触摸操作包括所述长按操作的情况下,所述长按操作的行为数据包括所述长按操作的长按位置坐标,长按起始时间以及长按持续时长。
如此,可以对不同操作类型的触摸操作的行为数据进行记录,可以提高业务的丰富性。
作为本申请的一个示例,所述接收录制开始操作之后,还包括:
每当接收到所述用户在所述第一应用界面中的一个触摸操作时,在所述第一应用程序中对所述一个触摸操作进行响应。
如此,在记录用户的触摸操作的过程中,仍可以正常响应所记录的每个触摸操作,可以避免因录制操作影响正常响应的问题。
作为本申请的一个示例,所述在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在接收到录制结束操作的情况下,若所述第一应用界面已打开,则基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;或者,
在录制时长达到预设录制时长的情况下,若所述第一应用界面已打开,则基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
如此,可以通过录制结束操作结束录制,或者也可以通过设置预设录制时长结束录制,增加了结束录制的方式。
第二方面,提供了一种操作控制的装置,所述操作控制的装置具有实现上述第一方面中操作控制的方法行为的功能。所述操作控制的装置包括至少一个模块,所述至少一个模块用于实现上述第一方面所提供的操作控制的方法。
第三方面,提供了一种电子设备,所述电子设备的结构中包括处理器和存储器,所述存储器用于存储支持电子设备执行上述第一方面所提供的操作控制的方法的程序,以及存储用于实现上述第一方面所述的操作控制的方法所涉及的数据。所述处理器被配置为用于执行所述存储器中存储的程序。所述电子设备还可以包括通信总线,所述通信总线用于在所述处理器与所述存储器之间建立连接。
第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述第一方面所述的操作控制的方法。
第五方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面所述的操作控制的方法。
上述第二方面、第三方面、第四方面和第五方面所获得的技术效果与上述第一方面中对应的技术手段获得的技术效果近似,在这里不再赘述。
附图说明
图1是根据一示例性实施例示出的一种应用场景的示意图;
图2是根据另一示例性实施例示出的一种应用场景的示意图;
图3是根据另一示例性实施例示出的一种应用场景的示意图;
图4是根据一示例性实施例示出的一种目标界面的示意图;
图5是根据另一示例性实施例示出的一种目标界面的示意图;
图6是根据另一示例性实施例示出的一种目标界面的示意图;
图7是根据另一示例性实施例示出的一种目标界面的示意图;
图8是根据一示例性实施例示出的一种电子设备的软件架构示意图;
图9是根据一示例性实施例示出的一种操作控制的方法流程示意图;
图10是根据另一示例性实施例示出的一种应用场景的示意图;
图11是根据一示例性实施例示出的一种触摸操作的操作类型的示意图;
图12是根据一示例性实施例示出的一种触摸事件的下发流程的示意图;
图13是根据另一示例性实施例示出的一种触摸事件的下发流程的示意图;
图14是根据另一示例性实施例示出的一种触摸事件的下发流程的示意图;
图15是根据另一示例性实施例示出的一种触摸事件的下发流程的示意图;
图16是根据一示例性实施例示出的一种对触摸操作进行记录的示意图;
图17是根据另一示例性实施例示出的一种操作控制的方法的流程示意图;
图18是根据一示例性实施例示出的一种应用运行状态的监控的示意图;
图19是根据另一示例性实施例示出的一种触摸事件的下发流程的示意图;
图20是根据一示例性实施例示出的一种插入触摸事件的示意图;
图21是根据一示例性实施例示出的一种电子设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请的实施方式作进一步地详细描述。
应当理解的是,本申请提及的“多个”是指两个或两个以上。在本申请的描述中,除非另有说明,“/”表示或的意思,比如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,比如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,为了便于清楚描述本申请的技术方案,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
用户在使用电子设备的过程中,在一些场景下,可能需要用户在应用界面上进行机械性、复杂性的重复操作。譬如以电子设备是手机为例,在一种可能的场景中,手机中的应用程序A支持刷红包功能,用户打开应用程序A并进入应用程序A的刷红包界面,如图1中的(a)图所示,应用程序A的刷红包界面中显示有红包图片,如此用户即可不停地连续下拉刷红包界面中的红包图片,在用户重复下拉一定次数后即可触发应用程序A打开红包并显示红包金额,如图1中的(b)图所示。
然而,在类似上述的应用场景中,需要用户频繁地、重复性地执行触摸操作,操作较为繁琐,且随着时间的增加,可能会因用户疲劳导致触摸操作的效率降低,从而影响任务的执行效率。为此,本申请实施例提供了一种操作控制方法,可以在用户进行触摸操作的过程中对用户一系列的触摸操作的行为数据进行记录,之后基于记录的结果自动执行这一系列的触摸操作,避免需要用户重复性地执行,从而避免因用户疲劳导致触摸操作的效率降低的问题,进而可以避免影响任务的执行效率。
在对本申请实施例提供的方法进行介绍之前,对本申请实施例涉及的应用场景进行介绍。
作为本申请的一个示例,手机中的应用程序B支持虚拟庄园功能,用户可以在虚拟庄园中养殖虚拟动物,如此,需要用户每隔一段时间执行一些任务。譬如请参考图2中的(a)图,图2中的(a)图是根据一示例性实施例示出的一种应用程序B中虚拟庄园界面的示意图,该虚拟庄园界面中包括虚拟小鸡21,如名字为“萌小鸡”,为了能够使萌小鸡生出虚拟鸡蛋,需要用户每隔一段时间在虚拟庄园界面中做一些任务。请参考图2中的(b)图,为了避免需要用户频繁地进行一些重复性动作,用户可以在进入虚拟庄园界面后,在做任务前可以下拉通知栏,通知栏中包括录屏选项22。用户可以长按录屏选项22,响应于用户对录屏选项22的触发操作,手机重新显示虚拟庄园界面,如图2中的(c)图所示,并且,手机开始对用户在虚拟庄园界面中的触摸操作记录。示例性地,如图2中的(c)图所示,用户可以点击萌小鸡以与萌小鸡进行互动,响应于用户对萌小鸡的点击操作,应用程序B可以在萌小鸡附近显示互动话语,譬如如图2中的(c)图所示,互动话语可以为“在忙也要好好吃饭哦”,为提高萌小鸡的心情指数,用户可以多次点击萌小鸡,相应地,应用程序B每次显示的互动话语可以不相同,譬如用户连续点击两次,请参考图2中的(d)图,第二次显示的互动话语可以“地球上的某个孩子因为您的举动而接收帮助”。另外,用户还可以对萌小鸡投喂食物,譬如如图2中的(e)图所示,用户可以点击虚拟庄园界面中的虚拟粮食库23。请参考图2中的(f)图,响应于用户对虚拟粮食库23的点击操作,应用程序B在萌小鸡的食物盘24中添加虚拟粮食,并减少虚拟粮食库23中的粮食剩余量。
之后,请参考图3中的(a)图,当用户想要结束操作时可以再次下拉通知栏,响应于用户的该下拉操作,手机显示通知栏,用户可以再次长按录屏选项22,响应于用户对录屏选项22的长按操作,手机结束对触摸操作进行记录的操作。在一个示例中,请参考图3中的(b)图,在用户再次长按录屏选项22后,手机显示目标界面,目标界面中包括录制文件31,录制文件31中包括在上述过程中记录的触摸操作的行为数据。此外,目标界面中还报录制文件31对应的播放选项32,当用户想要手机基于录制文件31自动在虚拟庄园界面执行上述一系列操作时,可以点击该播放选项32。请参考图3中的(c)图,响应于用户对播放选项32的触发操作,手机显示虚拟庄园界面,之后,手机自动在虚拟状态界面中依次执行上述一系列触摸操作触发的事件。譬如如图3中的(d)图所示,手机首先可以模拟点击萌小鸡的操作,应用程序B在萌小鸡附近显示互动话语,譬如此时的互动话语为“谢谢你陪我玩耍”,请继续参考图3中的(e)图,手机再次模拟点击萌小鸡的操作,应用程序B再次在萌小鸡的附近显示互动话语,譬如此时的互动话语为“今天心情美美哒”,之后,手机模拟点击虚拟庄园界面中的虚拟粮食库23的操作,应用程序B在萌小鸡的食物盘24中再次添加虚拟粮食,并减少虚拟粮食库23中的粮食剩余量,如图3中的(f)图所示,此时虚拟粮食库23中的粮食剩余量为80g。
作为本申请的一个示例,在在播放录制文件的过程中,还可以在虚拟庄园界面中显示每个触摸操作对应的触摸动作,譬如对于点击操作,可以在虚拟庄园界面中被点击位置显示光标点击的示意动图,对于滑动操作,可以在滑动位置显示光标滑动的示意动图等。
作为本申请的一个示例,请参考图3中的(c)图,在播放录制文件的过程中,还可以在虚拟庄园界面中显示暂停播放选项33,当用户不需要手机在虚拟庄园界面中自动执行录制文件中未执行的事件时可以点击暂停播放选项33。响应于用户对暂停播放选项33的点击操作,手机不再基于录制文件执行后续未执行的事件,也即停止播放录制文件。
在一些场景中,用户可能不想在记录触摸操作后立即播放录制文件,为此,请参考图4中的(a)图,目标界面中还可以提供开始时间设置选项,用于用户设置对录制文件开始播放的时间。用户可以点击开始时间设置选项,请参考图4中的(b)图,响应于用户对开始时间设置选项的触发操作,手机显示时间设置界面,如此用户即可基于该时间设置界面设置对录制文件开始播放的时间,具体包括对日期的设置和对时间的设置。该种情况下,不需要用户再点击播放选项对录制文件进行播放,而是根据所设置的开始时间进行播放,也即当检测到系统时间到达所设置的开始时间时,在应用程序B处于运行状态且虚拟庄园界面打开的情况下,手机对录制文件进行播放,也即在虚拟庄园界面中执行上述一系列操作。
在一些场景中,用户还可能需要多次重复播放录制文件。为此,请参考图5中的(a)图,目标界面中还包括重复次数设置选项,用于用户设置对录制文件重复播放的次数。用户可以点击重复次数设置选项,请参考图5中的(b)图,响应于用户对重复次数设置选项的触发操作,手机显示重复次数设置界面,用户即可基于重复次数设置界面设置对录制文件重复播放的次数。如此在对录制文件进行播放后,手机会统计重复播放次数,当统计的重复播放次数达到所设置的次数时,停止重复播放。
进一步地,请参考图4中的(a)图,该目标界面中还可以包括该录制文件的描述信息,譬如录制文件的录制时间、录制时长等信息,本申请实施例对此不作限定。
在一些场景中,用户还可能需要多次重复播放录制文件。为此,请参考图6中的(a)图,目标界面中还包括重复时长设置选项,用于用户设置对录制文件重复播放的总时长。用户可以点击重复时长设置选项,请参考图6中的(b)图,响应于用户对重复时长设置选项的触发操作,手机显示重复时长设置界面,用户即可基于重复时长设置界面设置对录制文件重复播放的总时长,包括时、分、秒的设置。如此在对录制文件进行播放后,手机会统计播放时长,当播放时间达到所设置的时长时,停止重复播放。
作为本申请的一个示例,目标界面中还可能包括多个录制文件,多个录制文件按照录制时间的先后顺序进行显示,请参考图7中的(a)图,当多个录制文件的数量较多时,用户可以左滑(或者右滑)录制文件的图标,请参考图7中的(b)图,响应于用户的左滑操作,手机在目标界面中显示下一页的录制文件。其中,每个录制文件均对应有一个文件名称,用户可以根据需求从多个录制文件中选中当前所需播放的录制文件,譬如如图7中的(c)所示,假设在虚拟庄园界面中录制的触摸操作的录制文件为录制文件1,则用户可以选中录制文件1,之后可以针对录制文件1进行相关配置(如重复次数等),或者可以直接点击播放选项,以便于手机基于录制文件1在虚拟庄园界面中自动执行对应的操作。
需要说明的是,上文所述的录屏选项还可以用于触发手机进行录屏操作,譬如点击录屏选项后,手机开始进行录屏,本申请实施例仅是以通过长按该录屏选项触发手机开始或结束记录触摸操作为例进行说明。在另一个示例中,下拉通知栏中还可以提供有专用于触发手机开始或结束记录触摸操作的操作录制选项,譬如该操作录制选项为“操作记录”选项,该种情况下,用户可以通过点击该操作录制选项触发手机开始或结束记录触摸操作。或者,下拉通知栏中提供的操作录制选项用于触发手机开始记录触摸操作,之后可以在虚拟庄园界面中显示结束选项,当用户想要结束录制操作时可以触发结束选项,相应地,手机结束录制操作,如此可以直接在虚拟庄园界面中结束录制操作,避免需要用户打开下拉通知栏,提高了操作的便捷性,从而可以提高用户体验。
需要说明的是,上述应用场景仅是示例性的,不对本申请实施例提供的方法的应用场景进行限定,也即在其他应用界面中,当用户想要电子设备后续自动触发用户接下来在其他应用界面中的一系列触摸操作时,均可以按照上述方式进行操作。
接下来对本申请实施例涉及的电子设备的软件系统予以说明。电子设备的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的安卓(Android)系统为例,对电子设备的软件系统进行示例性说明。
图8是本申请实施例提供的一种电子设备的软件系统的框图。参见图8,分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统层,以及内核层。
应用程序层可以包括一系列应用程序包。如图8所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。作为本申请的一个示例,应用程序层包括视图系统,触摸事件管理模块,拦截反馈模块,事件接收模块,事件销毁模块等。
视图系统包括可视控件,比如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序的显示界面,显示界面可以由一个或多个视图组成,比如,包括显示短信通知图标的视图,包括显示文字的视图,以及包括显示图片的视图。
触摸事件管理模块用于在发生触摸事件的情况下,对触摸事件进行分发,以便于将触摸事件下发给对应的应用程序进行处理。在一个示例中,触摸事件管理模块为Activity.dispatch TouchEvent(),通过Window.superDispatchTouchEvent()与DecorView.superDispatchTouchEvent()分发触摸事件。
拦截反馈模块用于向触摸事件管理模块反馈应用程序是否拦截触摸事件。在一个示例中,拦截反馈模块为onInterceptTouchEvent()。
事件接收模块用于接收触摸事件的行为数据,并供应用程序调用,从而便于应用程序基于行为数据处理对应的触摸事件。在一个示例中,事件接收模块为onTouchEvent。
事件销毁模块用于对废弃事件进行销毁,废弃事件是指未被应用程序处理的触摸事件。
此外,如图8所示,应用程序框架层可以包括窗口管理器,内容提供器,电话管理器,资源管理器,通知管理器等。窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问,这些数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。电话管理器用于提供电子设备的通信功能,比如通话状态的管理(包括接通,挂断等)。资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等。通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如,通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或滚动条文本形式出现在系统顶部状态栏的通知,比如后台运行的应用程序的通知。通知管理器还可以是以对话窗口形式出现在屏幕上的通知,比如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块,比如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(比如:OpenGL ES),2D图形引擎(比如:SGL)等。表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,比如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
下面结合捕获拍照场景,示例性说明电子设备软件以及硬件的工作流程。
当触摸传感器180K接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别原始输入事件所对应的控件。以该触摸操作是单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用程序框架层的接口,启动相机应用,再调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
接下来结合附图对本申请实施例提供的方法进行详细介绍。请参考图9,图9是根据一示例性实施例示出的一种操作控制方法的流程示意图,作为示例而非限定,这里以该方法应用于图8所示的电子设备,电子设备通过多个模块交互实现为例进行说明。该方法可以包括如下部分或者全部内容:
步骤901:在显示第一应用程序的第一应用界面的过程中,触摸事件管理模块接收录制开始操作,录制开始操作用于触发开始对用户在第一应用程序的第一应用界面中的触摸操作进行记录。
第一应用程序为电子设备中的任意一个应用程序。譬如第一应用程序可以是但不限于购物应用程序(如淘宝TM)、支付应用程序(如支付宝TM)、桌面程序中的任意一种。
在一个示例中,第一应用界面为第一应用程序中提供的某种业务的界面,譬如第一应用程序中提供有虚拟庄园业务,在第一应用程序的第二应用界面中可以提供有虚拟庄园图标,用户可以点击虚拟庄园图标,响应于用户对虚拟庄园图标的点击操作,电子设备显示对应的虚拟庄园界面,譬如如图2中的(a)图所示,此时虚拟庄园界面为第一应用界面。在一个示例中,电子设备可以通过视图系统显示该虚拟庄园界面。
在一个示例中,电子设备中提供有操作录制选项(可以复用录屏选项),用户可以通过触发该操作录制选项使得电子设备开始执行录制操作。
譬如请参考图2,由于在玩应用程序B的虚拟庄园的过程中需要用户在虚拟庄园界面中重复执行一些操作,譬如需要多次与萌小鸡互动、给萌小鸡喂食、给萌小鸡装扮等,所以为了避免需要用户手动重复操作,用户可以触发电子设备对接下来在虚拟庄园界面中的触摸操作进行记录。为此,用户从电子设备的上顶端向下滑动。如图2中的(b)图所示,响应于用户从电子设备的上顶端向下滑动的操作,电子设备显示下拉通知栏,下拉通知栏中包括录屏选项,用户可以在下拉通知栏中长按录屏选项。相应地,电子设备接收录制开始操作,电子设备开启操作录制功能,操作录制功能也即是对用户在电子设备的屏幕上的触摸操作进行记录的功能。
作为本申请的一个示例,用户在长按录屏选项后,电子设备返回显示下拉通知栏之前的第一应用界面,譬如请参见图2中的(c)图,用户在长按录屏选项后,电子设备返回至虚拟庄园界面中。
步骤902:触摸事件管理模块接收用户在第一应用界面上的触摸操作。
也即在开启操作录制功能后,用户可以在第一应用程序的第一应用界面中进行触摸操作,不难理解,在操作录制过程中,用户可能在第一应用程序的第一应用界面中进行一个触摸操作,或者也可能进行多个触摸操作(譬如连续进行或分时进行)。相应地,电子设备的触摸事件管理模块接收每一个触摸操作。
在一种可能的场景中,用户在第一应用界面中触摸某个控件后,还可能切换至第一应用程序的第三应用界面。譬如请参考图10中的(a)图,虚拟庄园界面中提供有“肥料”图标,当用户点击该“肥料”图标时,响应于用户的该点击操作,手机显示应用程序B的虚拟农场界面,如图10中的(b)图所示。在切换至第三应用界面后,用户可能继续在第三应用界面中进行一些触摸操作,该种情况下,触摸事件管理模块接收用户在第三应用界面上的每个触摸操作。
请参考图11,在触摸操作为多个的情况下,多个触摸操作的操作类型通常可能包括点击操作、滑动操作、长按操作中的一种或者多种。其中图11中的(a)图表示点击操作,图11中的(b)图表示滑动操作,图11中的(c)图表示长按操作。
步骤903:触摸事件管理模块记录该触摸操作的行为数据。
每当在第一应用程序的第一应用界面上接收到一个触摸操作时,触摸事件管理模块记录该触摸操作对应的行为数据,也即执行操作录制功能。
在一个示例中,若在第一应用界面中进行某个触摸操作后切换至第三应用界面,且用户在第三应用界面中继续进行触摸操作,则触摸事件管理模块记录在第三应用界面中的每个触摸操作的行为数据。
根据触摸操作的操作类型不同,触摸操作的行为数据不同。具体地,包括如下几种情况:
第一种情况:在触摸操作为点击操作的情况下,点击操作的行为数据包括点击操作的点击位置坐标和点击时间,点击位置坐标用于表示点击操作在第一应用程序的第一应用界面上作用的位置,点击时间用于表示点击操作是从操作录制开始时起的多长时间后发生的。譬如点击位置坐标为(x,y)=(12.1,22.5),点击时间为01:10,此时表示用户在第一应用程序的第一应用界面上的(12.1,22.5)位置处进行了点击操作,该点击操作是从操作录制开始时起的第1分10秒发生的。
在一个示例中,若第一应用程序的第一应用界面是全屏显示,也即第一应用程序的第一应用界面的显示尺寸与电子设备的屏幕尺寸相同,则该点击位置坐标即是点击操作作用在屏幕上的位置点的坐标。
在另一个示例中,若第一应用程序的第一应用界面未全屏显示,也即第一应用程序的第一应用界面的显示尺寸小于电子设备的屏幕尺寸,譬如在平板电脑中,第一应用程序的第一应用界面仅占平板屏幕的一部分。该种情况下,该点击位置坐标可以根据第一应用界面与屏幕的相对位置、以及该点击操作作用在屏幕上的位置点的坐标确定。譬如可以确定点击操作作用在屏幕上的位置点的坐标,然后根据第一应用界面与屏幕的相对位置对所确定的坐标进行坐标系转换,以转换至第一应用界面所在的坐标系中,从而确定该点击操作在第一应用程序的第一应用界面上的点击位置坐标。
第二种情况:在触摸操作为滑动操作的情况下,滑动操作的行为数据包括滑动操作的滑动起始位置坐标、滑动终点位置坐标以及滑动起始时间。滑动起始位置坐标用于表示滑动操作在第一应用程序的第一应用界面上作用的起始位置,滑动终止位置坐标用于表示滑动操作在第一应用程序的第一应用界面上作用的终点位置,滑动起始时间用于表示滑动操作是从操作录制开始时起的多长时间后发生的。譬如滑动操作的滑动起始位置坐标为(x1,y1)=(4.7,6.5),滑动操作的滑动终止位置坐标为(x2,y2)=(4.9,11.0),滑动起始时间为02:10,此时表示滑动操作从第一应用界面的(4.7,6.5)位置处滑动至(4.9,11.0)位置处,该滑动操作是从操作录制开始时起的第2分10秒发生的。
在一个示例中,若第一应用程序的第一应用界面是全屏显示,也即第一应用程序的第一应用界面的显示尺寸与电子设备的屏幕尺寸相同,则该滑动起始位置坐标即是滑动开始时作用在屏幕上的位置点的坐标,滑动终点位置坐标即是滑动结束时作用在屏幕上的位置点的坐标。
在另一个示例中,若第一应用程序的第一应用界面未全屏显示,则该滑动起始位置坐标可以根据第一应用界面与屏幕的相对位置、以及滑动开始时作用在屏幕上的位置点的坐标确定。同理,该滑动终点位置坐标可以根据第一应用界面与屏幕的相对位置、以及滑动结束时作用在屏幕上的位置点的坐标确定。
第三种情况:在触摸操作为长按操作的情况下,长按操作的行为数据包括长按操作的长按位置坐标,长按起始时间以及长按持续时长。长按位置坐标用于表示长按操作在第一应用程序的第一应用界面上作用的位置,长按起始时间用于表示长按操作是从操作录制开始时起的多长时间后发生的,长按持续时长用于表示长按操作在屏幕上作用的持续时长。譬如长按操作的长按位置坐标为(x,y)=(9.1,2.4),长按起始时间为05:29,长按持续时长为2.1s,此时表示用户在屏幕的(9.1,2.4)位置处进行了长按操作,该长按操作是从操作录制开始时起的第5分29秒发生的,且持续时长为2.1秒。
在一个示例中,若第一应用程序的第一应用界面全屏显示,也即第一应用程序的第一应用界面的显示尺寸与电子设备的屏幕尺寸相同,则长按位置坐标即是长按操作作用在屏幕上的位置点的坐标。在另一个示例中,若第一应用程序的第一应用界面未全屏显示,则该长按位置坐标可以根据应用界面与屏幕的相对位置、以及长按操作作用在屏幕上的位置点的坐标确定。
步骤904:触摸事件管理模块对该触摸操作进行响应。
也即是,在对用户在第一应用程序的第一应用界面上的触摸操作的行为数据进行记录的过程中,针对用户的每次触摸操作电子设备都会正常响应。在一个示例中,若在录制过程中从第一应用界面切换至第三应用界面,且用户在第三应用界面中继续进行触摸操作,则针对用户在第三应用界面中的每次触摸操作电子设备也都会正常响应。如此,可以避免因执行操作录制功能而影响操作的正常响应。
在实施中,触摸事件管理模块下发该触摸操作对应的触摸事件,在下发触摸操作对应的触摸事件时,从最上层的视图开始进行遍历,如图12所示,图12是根据一示例性实施例示出的一种触摸事件传递机制的流程图,若最上层的视图(也可称为顶级父view)所属的应用程序拦截这一触摸事件,则将这一触摸事件的行为数据递交给顶级父view所属的应用程序进行处理,若顶级父view所属的应用程序不拦截这一触摸事件,则继续遍历下一层的视图(可以称为父view)。若父view所属的应用程序拦截这一触摸事件,则将这一触摸事件的行为数据递交给父view所属的应用程序进行处理,若父view所属的应用程序不拦截这一触摸事件,则继续遍历下一层的视图(可以称为子view),若子view所属的应用程序拦截这一触摸事件,则将这一触摸事件的行为数据递交给子view所属的应用程序进行处理,若子view所属的应用程序不拦截这一触摸事件,且不存在其他view,则将这一触摸事件销毁。
具体地,请参考图13,每当接收到用户的一个触摸操作时,对这一个触摸操作进行响应可以包括如下9041至9046几个子步骤:
9041:触摸事件管理模块按照当前打开的各个视图从上至下的显示顺序进行遍历。
不难理解,用户在使用电子设备过程中可能打开多个应用界面,示例性地,用户打开应用程序A,响应于用户对应用程序A的打开操作,电子设备打开应用程序A的应用界面v1;当用户在应用界面v1中点击用于打开应用程序A的应用界面v2的选项时,响应于用户的该点击操作,电子设备打开应用程序A的应用界面v2;之后,当用户打开第一应用程序时,响应于用户对第一应用程序的打开操作,电子设备打开第一应用程序的第二应用界面v3;当用户在第一应用程序的第二应用界面v3中打开虚拟庄园时,电子设备打开虚拟庄园界面v4。其中每个应用界面可以理解为一个视图,如此电子设备当前打开的各个视图从上至下依次为应用界面v4、应用界面v3、应用界面v2、应用界面v1,各个应用界面所属的应用程序分别为第一应用程序、第一应用程序、应用程序A、应用程序A。由此可见,最先打开的应用程序显示于最下层,最后打开的应用程序显示于最上层。为了确定哪个视图对应的应用程序会处理这一个触摸操作,触摸事件管理模块按照从上至下的显示顺序进行遍历。
9042:每当遍历到一个视图时,触摸事件管理模块查询当前遍历到的视图所属的应用程序是否拦截这一个触摸操作。
作为本申请的一个示例,当用户在应用界面上进行触摸操作时,触摸事件管理模块获取该触摸操作的行为数据和事件属性信息,其中事件属性信息除了包括行为数据中的部分行为数据之外,还包括事件类型(譬如点击类型、滑动类型)等信息,也即事件属性信息和行为数据之间存在交集。事件属性信息中包括的部分行为数据可以包括但不限于位置坐标。如此在遍历过程中,每遍历到一个视图时,触摸事件管理模块将这一个触摸操作的事件属性信息发送给当前遍历到的视图所属的应用程序。在一个示例中,应用程序中包括视图模块,当前遍历到的视图所属的应用程序通过视图模块接收触摸事件管理模块发送的事件属性信息,之后根据事件属性信息确定是否对这一个触摸操作进行拦截。如果当前遍历到的视图所属的应用程序要处理这一个触摸事件,则会拦截这一个触摸操作,否则,如果当前遍历到的视图所属的应用程序不处理这一个触摸操作,则不会拦截这一个触摸操作。在当前遍历到的视图所属的应用程序确定拦截这一个触摸操作的情况下,调用拦截反馈模块,并通过拦截反馈模块通知触摸事件管理模块拦截这一个触摸操作,譬如通过拦截反馈模块向触摸事件管理模块返回true;在当前遍历到的视图所属的应用程序确定不拦截这一个触摸操作的情况下,调用拦截反馈模块,并通过拦截反馈模块通知触摸事件管理模块不拦截这一个触摸操作,譬如通过拦截反馈模块向触摸事件管理模块返回false。如此,触摸事件管理模块即可确定当前遍历到的视图所属的应用程序是否拦截这一个触摸操作。
在当前遍历到的视图所属的应用程序不拦截这一个触摸操作的情况下,进入如下9043至9045的操作;在当前遍历到的视图所属的应用程序拦截这一个触摸操作的情况下,进入如下9046的操作。
9043:触摸事件管理模块判断是否存在未遍历的视图。
由于当前打开的视图的数量是有限的,所以,在当前遍历到的视图所属的应用程序不拦截这一个触摸操作的情况下,触摸事件管理模块查询是否存在未遍历的视图。如果存在未遍历的视图,则触摸事件管理模块执行如下9044的操作,否则,如果不存在未遍历的视图,则触摸事件管理模块执行如下9045的操作。
9044:触摸事件管理模块继续遍历下一个视图。
在当前遍历到的视图所属的应用程序不拦截这一个触摸事件的情况下,如果存在未遍历的视图,则触摸事件管理模块继续遍历下一个视图,以便于确定下一个视图所属的应用程序是否会处理这一个触摸事件。也即在遍历到下一个视图后,触摸事件管理模块按照9042的操作判断下一个遍历到的视图所属的应用程序是否拦截这一个触摸操作。
9045:触摸事件管理模块销毁这一个触摸事件。
在当前遍历到的视图所属的应用程序不拦截这一个触摸事件,且不存在未遍历的视图的情况下,说明当前打开的应用程序中没有应用程序处理这一个触摸事件,该种情况下,触摸事件管理模块销毁这一个触摸事件,也即本次触摸操作无效。比如某个触摸操作可能触摸在第一应用界面的边界上。
在一个示例中,触摸事件管理模块将这一个触摸事件的相关数据(譬如包括行为数据和事件属性信息)发送给事件销毁模块,由事件销毁模块销毁这一个触摸事件。
9046:触摸事件管理模块将这一个触摸操作的行为数据发送至事件接收模块。
事件接收模块为应用程序提供了可调用接口,如此,触摸事件管理模块将这一个触摸操作的行为数据发送至事件接收模块后,当前遍历到的视图所属的应用程序即可从事件接收模块中获取到这一个触摸事件的行为数据,然后基于这一个触摸事件的行为数据对这一个触摸操作进行处理,也即消费这一个触摸操作。
譬如请参考图14,假设该触摸操作是点击了一个控件,则在遍历过程中,触摸事件处理模块下发该触摸事件至该控件的父控件所在的view(称为父view),譬如下发至父view的(dispatchTouchEvent),父view的dispatchTouchEvent调用ViewGroup.onInterceptTouchEvent()判断是否拦截这一个触摸事件。如果拦截,则这一触摸事件不再向子view传递,并且父view处理这一个触摸事件。否则如果不拦截,则继续向子view传递这一个触摸事件,并遍历子view以查询是否能够寻找到被点击的控件所在的子view,如果找到点击的控件所在的子view,则可以调用子view的dispatchTouchEvent(),从而实现触摸事件的传递。否则,若找不到被点击的控件所在的子view,则这一个触摸事件可以由触摸事件处理模块自己销毁,或者由父view进行销毁,譬如父view可以调用自身的onClick()销毁,作为示例而非限定,触摸事件处理模块可以通过onTouch()->onTouchEvent()->performClick()->onClick()路径调用onClick()。
至此,即完成对用户在第一应用程序的第一应用界面上的触摸操作进行响应的操作。
如此,请参考图15,在开始执行录制操作后,当接收到用户在第一应用程序的第一应用界面上的触摸操作时,除了正常向底层下发事件以对触摸操作进行响应外,还会记录触摸操作的行为数据,从而使得录制操作的过程中不会影响电子设备对触摸操作的正常响应。
需要说明的是,步骤904是本申请实施例中的一个可选操作。
另外需要说明的是,步骤904与步骤903之间没有严格的先后执行顺序,在一个示例中,步骤904与步骤903可以并行执行。
步骤905:触摸事件管理模块接收录制结束指令。
在一个示例中,请参考图3中的(a)图,当用户想要终止录制操作功能时,可以从电子设备的上顶端向下滑动,响应于该滑动操作,电子设备显示下拉通知栏,之后用户可以长按下拉通知栏中的录屏选项。响应于用户对下拉通知栏中的录屏选项的长按操作,触摸事件管理模块确定接收到录制结束指令,此时可以确定录制结束。
需要说明的是,上述是以在接收录制结束指令的情况下确定录制结束为例进行说明。在另一实施例中,电子设备中还可以设置有预设录制时长,如此,在接收录制开始操作后,对录制时长进行计时,譬如可以启动电子设备中配置的计时器进行计时。当录制时长达到预设录制时长时确定录制结束。其中指定录制时长可以根据实际需求进行设置,譬如指定录制时长可以是5分钟等,本申请实施例对此不作限定。
步骤906:在录制结束的情况下,触摸事件管理模块生成录制文件,录制文件包括记录的至少一个触摸操作的行为数据。
在录制结束的情况下,触摸事件管理模块基于所记录的至少一个触摸操作中每个触摸操作的行为数据,生成录制文件。
在一个示例中,请参考图16,录制文件中包括三个触摸操作的行为数据,分别是点击操作、滑动操作和长按操作,也即从开始录制后,用户在第一应用程序的第一应用界面中依次进行了点击操作、滑动操作和长按操作。其中点击操作对应的点击事件发生在开始录制后的第1分10秒,点击位置的坐标为(12.1,22.5);滑动操作对应的滑动事件发生在开始录制后的第2分10秒,滑动的起始位置的坐标为(4.7,6.5),滑动的终点位置的坐标为(4.9,11.0);长按操作对应的长按事件发生在开始录制后的第5分29秒,长按的位置的坐标为(9.1,2.4),长按持续时长为2.1秒。
也即是,如图17所示,在处理触摸操作的过程中,记录所有的触摸操作,得到录制文件。在一个示例中,在录制文件中可以建立事件列表,事件列表中包括每个触摸操作与其开始时间之间的对应关系,以便于后续在播放录制文件时,可以基于该事件列表确定各个触摸操作的执行顺序。
需要说明的是,在录制结束的情况下生成录制文件是本申请实施例中的一个可选操作。
步骤907:触摸事件管理模块显示目标界面,目标界面中包括录制文件。
作为本申请的一个示例,请参考图3中的(b)图,目标界面中包括该录制文件和录制文件对应的播放选项,该播放选项用于触发电子设备基于录制文件中的行为数据自动执行对应的操作。
作为本申请的一个示例,请参考图4、图5或者图6,目标界面中包括录制文件的描述信息,譬如描述信息包括录制时间、录制时长等。进一步地,还可以包括录制文件的文件名称。
在一个示例中,目标界面中还可以包括关于对录制文件进行播放的相关配置选项,用户可以基于该相关配置选项进行一些配置操作。譬如如图4所示,目标界面中包括但不限于重复次数设置选项、重复时长设置选项。重复次数设置选项用于设置对录制文件进行重复播放的次数,譬如可以设置为目标次数,目标次数可以根据实际需求设置,比如3次等;重复时长设置选项用于设置对录制文件进行重复播放的总时长,譬如可以设置为目标时长,目标时长可以根据实际需求进行设置,譬如目标时长可以为15分钟等。不难理解,在设置目标时长时,用户可以根据录制文件的录制时长进行设置,作为示例而非限定,目标时长通常可以设置为录制时长的整数倍。
在一个示例中,目标界面中还可以包括开始时间设置选项,开始时间设置选项用于设置对录制文件开始播放的时间,譬如开始时间可以设置为2022年的7月1日至7月5日的每天08:00。
需要说明的是,步骤907是本申请实施例中的一个可选操作。在另一个示例中,也可以不显示目标界面,而是由用户手动打开包括录制文件的目标界面,譬如触摸事件管理模块在生成录制文件后,可以将录制文件存储至指定路径下,如此,用户即可基于指定路径打开录制文件所在的目标界面,其中指定路径可以根据实际需求进行设置。或者在又一个实施例中,触摸事件管理模块直接执行如下步骤908的操作,或者在经过第二预设时长后,触摸事件管理模块执行如下步骤908的操作。其中第二预设时长可以根据实际需求进行设置,本申请实施例对此不作限定。
步骤908:触摸事件管理模块在目标界面中接收对录制文件的播放操作。
播放操作用于指示基于录制文件在第一应用程序中自动触发该至少一个触摸操作。
在一个示例中,如图4、图5或图6所示,在目标界面中包括播放选项的情况下,当用户想要电子设备基于该录制文件自动在第一应用的第一应用界面中执行上述至少一个触摸操作对应的操作时,可以点击该录制文件对应的播放选项,也即触发播放操作。
步骤909:响应于该播放操作,在第一应用界面已打开的情况下,当基于第二触摸操作的行为数据确定到达第二触摸操作的执行顺序时,触摸事件管理模块按照当前打开的各个视图从上至下的显示顺序进行遍历。
第二触摸操作为至少一个触摸操作的中的任意一个触摸操作。
在接收到对录制文件的播放操作的情况下,为了能够基于录制文件中的行为参数响应对应的触摸操作,可以检测第一应用程序是否处于运行状态,第一应用程序的运行状态包括处于前台运行或者处于后台运行。在第一应用应用程序处于运行状态且第一应用界面已打开的情况下,说明能够基于录制文件中的至少一个触摸操作的行为数据,在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作,该种情况下,电子设备执行步骤909至步骤915的操作。
在步骤909中,响应于该播放操作,在第一应用界面已打开的情况下,触摸事件管理模块可以调用录制文件,在一个示例中,如图17所示,触摸事件管理模块可以根据录制文件中的事件列表确定各个触摸操作的执行顺序,然后按照这个执行顺序依次执行对应的事件。譬如请参考图16,由于录制文件记录中的行为数据对应的多个触摸操作的开始时间依次为第1分10秒、第2分第10秒、第5分29秒,因此该多个触摸操作的执行顺序依次为:点击操作、滑动操作、长按操作。对于多个触摸操作的任意一个触摸操作(也即第二触摸操作),电子设备可以通过触摸事件管理模块下发第二触摸操作,以查询哪个应用程序会出处理该第二触摸操作,为此,触摸事件管理模块按照当前打开的各个视图从上至下的显示顺序(后打开的视图位于先打开的视图的上层)进行遍历。
步骤910:每遍历到一个视图时,触摸事件管理模块将第二触摸事件的事件属性信息发送给当前遍历到的视图所属的应用程序。
第二触摸事件的事件属性信息除了包括第二触摸事件的行为数据中的部分行为数据之外,还包括第二触摸事件的事件类型(譬如点击类型、滑动类型)等信息,也即事件属性信息和行为数据之间存在交集。第二触摸事件的事件属性信息中包括的部分行为数据可以包括但不限于位置坐标等。
每遍历到一个视图时,触摸事件管理模块将第二触摸事件的事件属性信息发送给当前遍历到的视图所属的应用程序,以便于确定当前遍历到的视图所属的应用程序是否处理第二触摸事件。不难理解,由于第二触摸操作是在前述的录制过程中用户作用在第一应用程序中的触摸操作,因此第一应用程序通常会处理该第二触摸操作,所以触摸事件管理模块将第二触摸事件的事件属性信息发送给当前遍历到的视图所属的应用程序,也即是查询当前遍历到的视图所属的应用程序是否是第一应用程序。
步骤911:应用程序在根据第二触摸事件的事件属性信息确定拦截第二触摸事件的情况下,向拦截反馈模块发送第一指示信息,第一指示信息用于指示拦截第二触摸事件。
在一种可能的情况下,若当前遍历到的视图所属的应用程序是第一应用程序,则第一应用程序根据第二触摸事件的事件属性信息确定拦截第二触摸事件,此时第一应用程序可以向拦截反馈模块发送第一指示信息,譬如第一指示信息为true。
在另一种可能的情况下,若当前遍历到的视图所属的应用程序不是第一应用程序,则当前遍历到的视图所属的应用程序在接收第二触摸事件的事件属性信息后,会确定不拦截第二触摸事件,该种情况下,当前遍历到的视图所属的应用程序向拦截反馈模块发送第二指示信息,第二指示信息用于指示不拦截第二触摸事件。譬如第二指示信息为false。该种情况下,触摸事件管理模块继续遍历下一个视图。
步骤912:拦截反馈模块向触摸事件管理模块反馈第一指示信息。
也即拦截反馈模块通知触摸事件管理模块当前遍历到的视图所属的应用程序拦截第二触摸事件。如此,触摸事件管理模块在接收到第一指示信息后,可以确定当前遍历到的视图所属的应用程序是第一应用程序。
步骤913:触摸事件管理模块将第二触摸操作的行为数据发送至事件接收模块。
步骤914:应用程序从事件接收模块中获取第二触摸事件的行为数据。
不难理解,此时的应用程序即为第一应用程序,也即第一应用程序从事件接收模块中获取第二触摸事件的行为数据。
步骤915:应用程序基于第二触摸事件的行为数据响应第二触摸事件。
譬如,请参考图3中的(d)图所示,在第二触摸操作是点击操作的情况下,第一应用程序根据第二触摸操作的行为数据可以确定此时点击了萌小鸡,第一应用程序增加与萌小鸡的互动次数,并显示与萌小鸡的互动对话。如此,每当到达至少一个触摸操作中的某个触摸操作的执行顺序时,就可以按照上述流程响应该触摸操作。
按照上述流程电子设备依次响应至少一个触摸操作。在一个示例中,若录制文件中所涉及的触摸操作还包括从第一应用界面切换至第三应用界面的操作,以及在第三应用界面中的触摸操作,则在播放录制文件的过程中,按照上述流程下发触摸事件后,可以自动从第一应用界面切换至第三应用界面,并在第三应用界面中执行触摸操作对应的事件。
在一个示例中,至少一个触摸操作包括调用第二应用程序的第一触摸操作,譬如在第一应用程序的第一应用界面中包括能够调用第二应用程序的链接地址,当第一触摸操作是对该链接地址的点击操作时,触摸操作管理模块查询第二应用程序是否处于运行状态,若第二应用程序未处于运行状态,则可以启动第二应用程序。若第二应用程序处于运行状态,则可以不执行其他操作,或者可以显示第二应用程序的应用界面。
在一个示例中,请参考图18,触摸事件处理模块中可以包括应用状态监听模块,应用状态监听模块用于监听应用程序的运行状态,譬如当应用程序开启时可以向应用状态监听模块进行注册,以通知应用状态监听模块进入运行状态,在注册时可以携带应用标识以便于应用状态监听模块可以获知是哪个应用程序。当应用程序关闭时,可以向应用状态监听模块进行注销,以通知应用状态监听模块进入关闭状态,在注销时同样可以携带应用标识。如此,当基于录制文件执行到调用第二应用程序时,触摸事件管理模块可以从应用状态监听模块中查询第二应用程序的状态。在一个示例中,应用状态监听模块为ActivityManager()。
进一步地,若在启动第二应用程序后,还在第二应用程序中进行了触摸操作,则在播放录制文件的过程中,在第二应用程序中的触摸操作由第二应用程序进行响应。
作为本申请一个示例,请参考图19,在根据录制文件依次响应至少一个触摸操作的过程中,用户还可能在第三应用程序的应用界面中进行触摸操作,该种情况下,电子设备仍可以分别对各个触摸操作对应的触摸事件进行下发,以正常响应用户在第三应用程序的应用界面中的触摸操作,以及正常响应至少一个触摸操作中的某个触摸操作,也即在执行基于录制文件自动响应至少一个触摸操作时,不会影响用户在电子设备中的其他触摸操作。其中第三应用程序为电子设备中的任意一个应用程序,在一个示例中,第三应用程序与第一应用程序为相同的应用程序。
也即是,在基于至少一个触摸操作的行为数据,在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作的过程中,接收用户在第三应用程序的应用界面中的触摸操作,在第三应用程序中对用户的触摸操作进行响应。譬如请参考图20,在基于录制文件自动响应至少一个触摸操作的过程中,在从开始播放录制文件时起的第4分11秒,用户在第三应用程序的应用界面中进行了点击操作,该点击操作的点击位置坐标为(5.5,7.0)。对于触摸操作管理模块在接收到这一点击操作后,可以按照上述事件下发的流程下发该点击操作对应的点击事件,以便于将这一点击操作的行为数据发送给第三应用程序,使得第三应用程序基于这一点击操作的行为数据对这一点击操作进行响应。
作为本申请的一个示例,如图17所示,在用户基于目标界面针对目标文件还设置了重复播放次数的情况下,在本轮响应结束后,也即在基于录制文件中的最后一个执行顺序的触摸操作的行为数据响应结束后,可以统计重复播放次数,该重复播放次数是对录制文件进行重复播放的次数。若重复播放次数未达到目标次数,则继续基于录制文件中的至少一个触摸操作的行为数据,在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。若重复播放次数达到目标次数,则确定响应结束。
作为本申请的一个示例,在用户基于目标界面针对目标文件还设置了重复播放时长的情况下,在本轮响应结束后,也即在基于录制文件中的最后一个执行顺序的触摸操作的行为数据响应结束后,可以统计重复播放总时长,该重复播放总时长是对录制文件进行重复播放的总时长。若重复播放总时长未达到目标时长,则继续基于录制文件中的至少一个触摸操作的行为数据,在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。若重复播放总时长达到目标时长,则确定响应结束。
需要说明的是,本实施例是以在接收到用户在目标界面中对录制文件的播放操作时,若第一应用界面已打开,则基于录制文件在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作为例进行说明。在另一个示例中,在设置有对录制文件开始播放的时间的情况下,电子设备在监测到当前时间到达对录制文件开始播放的时间时,若第一应用界面已打开,则基于录制文件在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作,譬如若对录制文件开始播放的时间为2022年的7月1日至7月5日的每天08:00,则在2022年的7月1日至7月5日的每天早上八点,若第一应用界面已打开,则电子设备就会自动基于录制文件在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。在又一个示例中,电子设备还可以在生成录制后,在第一应用界面已打开的情况下,自动基于录制文件在第一应用程序中按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。本申请实施例对此不作限定。
需要说明的是,若第一应用界面未打开,电子设备可以不执行任何操作。在另一个示例中,在第一应用界面未打开的情况下,电子设备还可以在桌面上显示提示窗口,提示窗口中显示有提示信息,提示信息用于提示用户是否启动第一应用程序并打开第一应用界面,譬如该提示信息为“请确认是否启动第一应用程序并打开第一应用界面”。另外提示窗口中还可以包括确认选项和取消选项,当用户想要启动第一应用程序并打开第一应用界面时可以触发确认选项,响应于用户对确认选项的触发操作,电子设备启动第一应用程序并打开第一应用界面,之后基于基于录制文件中的至少一个触摸操作的行为数据,按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。反之,若用户不想启动第一应用程序并打开第一应用界面,则可以触发取消选项,响应于用户对取消选项的触发操作,电子设备关闭提示窗口,也即不执行与录制文件相关的其他操作。
本申请实施例中,接收录制开始操作后,记录用户在第一应用程序的第一应用界面上的触摸操作的行为数据。在录制结束后,在第一应用界面已打开的情况下,基于至少一个触摸操作的行为数据,按照至少一个触摸操作的执行顺序依次响应至少一个触摸操作。如此,通过记录用户的触摸操作的行为数据,之后根据记录的行为数据自动在第一应用界面中重复执行用户的至少一个触摸操作对应的事件,避免需要用户手动重复操作,从而避免因用户疲劳导致操作效率降低的问题,进而可以提高任务执行效果。
本申请实施例提供的电子设备可以是但不限于手机、平板电脑、便携式电脑等,电子设备能够支持触摸操作,或者说支持触屏操作。电子设备能够安装应用程序,譬如包括上述第一应用程序、第二应用程序、第三应用程序等。图21是本申请实施例提供的一种电子设备的结构示意图。参见图21,电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identificationmodule,SIM)卡接口195等。其中,传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,比如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从该存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口,如可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备100供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
外部存储器接口120可以用于连接外部存储卡,比如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。比如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,计算机可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,来执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100在使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,比如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意结合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络或其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,比如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(比如:同轴电缆、光纤、数据用户线(Digital Subscriber Line,DSL))或无线(比如:红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质,或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(比如:软盘、硬盘、磁带)、光介质(比如:数字通用光盘(Digital Versatile Disc,DVD))或半导体介质(比如:固态硬盘(Solid State Disk,SSD))等。
以上所述为本申请提供的可选实施例,并不用以限制本申请,凡在本申请的揭露的技术范围之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (13)

1.一种操作控制的方法,其特征在于,应用于电子设备中,所述方法包括:
接收录制开始操作,所述录制开始操作用于触发开始对用户在所述电子设备的屏幕上的触摸操作进行记录;
记录所述用户在第一应用程序的第一应用界面中的触摸操作的行为数据;
在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;
在基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作的过程中,接收所述用户在第三应用程序的应用界面中的触摸操作;
在所述第三应用程序中对所述用户的触摸操作进行响应,所述第三应用程序为所述电子设备中任意一个应用程序;
其中,在所述第一应用界面已打开的情况下,基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述第一应用界面已打开的情况下,当基于第二触摸操作的行为数据确定到达所述第二触摸操作的执行顺序时,按照当前打开的各个视图从上至下的显示顺序进行遍历,所述第二触摸操作为所述至少一个触摸操作中的任意一个触摸操作,每个视图对应为一个应用界面,不同的应用界面属于同一个应用程序或者属于不同的应用程序;
每遍历到一个视图时,查询当前遍历到的视图所属的应用程序是否为所述第一应用程序;
在当前遍历到的视图所属的应用程序不是所述第一应用程序的情况下,继续遍历下一个视图;
在当前遍历到的视图所属的应用程序是所述第一应用程序的情况下,将所述第二触摸操作的行为数据发送给所述第一应用程序进行处理,并结束遍历操作。
2.如权利要求1所述的方法,其特征在于,所述在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在录制结束的情况下,生成录制文件,所述录制文件包括所述至少一个触摸操作的行为数据;
在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
3.如权利要求2所述的方法,其特征在于,所述在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
显示目标界面,所述目标界面中包括所述录制文件;
响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
4.如权利要求3所述的方法,其特征在于,所述响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述目标界面中接收重复次数设置指令,所述重复次数设置指令中携带目标次数,所述重复次数设置指令用于指示对所述至少一个触摸操作重复执行所述目标次数;
响应于在所述目标界面中对所述录制文件的播放指令,在所述第一应用界面已打开的情况下,基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;
在本轮播放结束后,统计所述录制文件的重复播放次数;
若所述重复播放次数未达到所述目标次数,则继续基于所述录制文件中的所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;
若所述重复播放次数达到所述目标次数,则确定响应结束。
5.如权利要求1-4中任一项所述的方法,其特征在于,所述至少一个触摸操作包括调用第二应用程序的第一触摸操作;所述在所述第一应用界面已打开的情况下,基于记录的至少一个触摸操作的行为数据,在所述第一应用界面按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在所述第一应用界面已打开的情况下,若基于所述第一触摸操作的行为数据确定当前到达所述第一触摸操作的执行顺序,则监听所述第二应用程序是否处于运行状态;
在所述第二应用程序未处于运行状态的情况下,启动所述第二应用程序。
6.如权利要求1所述的方法,其特征在于,所述电子设备包括触摸事件管理模块、拦截反馈模块和事件接收模块;所述每遍历到一个视图时,查询当前遍历到的视图所属的应用程序是否为所述第一应用程序,包括:
所述触摸事件管理模块每遍历到一个视图时,将第二触摸事件的事件属性信息发送给当前遍历到的视图所属的应用程序,所述第二触摸事件的事件属性信息是基于所述第二触摸事件的行为数据确定;
所述应用程序在根据所述第二触摸事件的事件属性信息确定拦截所述第二触摸事件的情况下,向所述拦截反馈模块发送第一指示信息,所述第一指示信息用于指示拦截所述第二触摸事件;
所述拦截反馈模块向所述触摸事件管理模块反馈所述第一指示信息;
所述触摸事件管理模块确定当前遍历到的视图所属的应用程序是所述第一应用程序。
7.如权利要求6所述的方法,其特征在于,所述在当前遍历到的视图所属的应用程序是所述第一应用程序的情况下,将所述第二触摸操作的行为数据发送给所述第一应用程序进行处理,包括:
所述触摸事件管理模块将所述第二触摸操作的行为数据发送至所述事件接收模块;
所述第一应用程序从所述事件接收模块中获取所述第二触摸事件的行为数据;
所述第一应用程序基于所述第二触摸事件的行为数据响应所述第二触摸事件。
8.如权利要求1-4中任一项所述的方法,其特征在于,在所述至少一个触摸操作的数量为多个的情况下,多个所述触摸操作的操作类型包括点击操作、滑动操作、长按操作中的一种或多种。
9.如权利要求8所述的方法,其特征在于,
在所述至少一个触摸操作包括所述点击操作的情况下,所述点击操作的行为数据包括所述点击操作的点击位置坐标和点击时间;
在所述至少一个触摸操作包括所述滑动操作的情况下,所述滑动操作的行为数据包括所述滑动操作的滑动起始位置坐标、滑动终点位置坐标以及滑动起始时间;
在所述至少一个触摸操作包括所述长按操作的情况下,所述长按操作的行为数据包括所述长按操作的长按位置坐标,长按起始时间以及长按持续时长。
10.如权利要求1-4中任一项所述的方法,其特征在于,所述接收录制开始操作之后,还包括:
每当接收到所述用户在所述第一应用界面中的一个触摸操作时,在所述第一应用程序中对所述一个触摸操作进行响应。
11.如权利要求1-4中任一项所述的方法,其特征在于,所述在录制结束的情况下,若所述第一应用界面已打开,则基于记录的至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作,包括:
在接收到录制结束操作的情况下,若所述第一应用界面已打开,则基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作;或者,
在录制时长达到预设录制时长的情况下,若所述第一应用界面已打开,则基于所述至少一个触摸操作的行为数据,在所述第一应用界面中按照所述至少一个触摸操作的执行顺序依次响应所述至少一个触摸操作。
12.一种电子设备,其特征在于,所述电子设备的结构中包括处理器和存储器;
所述存储器用于存储支持所述电子设备执行如权利要求1-11中任一项所述方法的程序,以及存储用于实现如权利要求1-11中任一项所述方法所涉及的数据;
所述处理器被配置为用于执行所述存储器中存储的程序。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行如权利要求1-11任意一项所述的方法。
CN202211343134.4A 2022-10-31 2022-10-31 操作控制的方法、电子设备及可读存储介质 Active CN115686334B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211343134.4A CN115686334B (zh) 2022-10-31 2022-10-31 操作控制的方法、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211343134.4A CN115686334B (zh) 2022-10-31 2022-10-31 操作控制的方法、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN115686334A CN115686334A (zh) 2023-02-03
CN115686334B true CN115686334B (zh) 2023-11-28

Family

ID=85046802

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211343134.4A Active CN115686334B (zh) 2022-10-31 2022-10-31 操作控制的方法、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN115686334B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116185268B (zh) * 2023-02-17 2024-01-30 深圳市和风科技有限公司 一种扫码枪与终端设备交互方法、系统、介质及计算机
CN118838532A (zh) * 2023-04-23 2024-10-25 华为技术有限公司 手写输入方法及电子设备

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108038059A (zh) * 2017-12-22 2018-05-15 广州酷狗计算机科技有限公司 界面遍历方法及装置
CN109542553A (zh) * 2018-10-26 2019-03-29 北京慧流科技有限公司 用户界面ui元素的信息抓取方法及装置、及存储介质
CN110389802A (zh) * 2019-06-05 2019-10-29 华为技术有限公司 一种柔性屏幕的显示方法及电子设备
CN110703948A (zh) * 2019-10-09 2020-01-17 展讯通信(上海)有限公司 触摸屏操作录播系统及方法
CN110928787A (zh) * 2019-11-22 2020-03-27 北京博睿宏远数据科技股份有限公司 自动化测试脚本录制回放方法、装置、设备和存储介质
CN111143200A (zh) * 2019-12-12 2020-05-12 广州华多网络科技有限公司 触摸事件的录制及回放方法、装置、存储介质及设备
CN114443447A (zh) * 2021-12-17 2022-05-06 苏州浪潮智能科技有限公司 一种网页操作回放方法、装置、计算机设备及介质
CN114650330A (zh) * 2020-12-18 2022-06-21 华为技术有限公司 一种添加操作序列的方法、电子设备和系统
CN114692049A (zh) * 2022-03-29 2022-07-01 医渡云(北京)技术有限公司 基于浏览器的录屏方法及装置、电子设备、存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110191676A1 (en) * 2010-01-29 2011-08-04 Microsoft Corporation Cross-Browser Interactivity Recording, Playback, and Editing

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108038059A (zh) * 2017-12-22 2018-05-15 广州酷狗计算机科技有限公司 界面遍历方法及装置
CN109542553A (zh) * 2018-10-26 2019-03-29 北京慧流科技有限公司 用户界面ui元素的信息抓取方法及装置、及存储介质
CN110389802A (zh) * 2019-06-05 2019-10-29 华为技术有限公司 一种柔性屏幕的显示方法及电子设备
CN110703948A (zh) * 2019-10-09 2020-01-17 展讯通信(上海)有限公司 触摸屏操作录播系统及方法
CN110928787A (zh) * 2019-11-22 2020-03-27 北京博睿宏远数据科技股份有限公司 自动化测试脚本录制回放方法、装置、设备和存储介质
CN111143200A (zh) * 2019-12-12 2020-05-12 广州华多网络科技有限公司 触摸事件的录制及回放方法、装置、存储介质及设备
CN114650330A (zh) * 2020-12-18 2022-06-21 华为技术有限公司 一种添加操作序列的方法、电子设备和系统
CN114443447A (zh) * 2021-12-17 2022-05-06 苏州浪潮智能科技有限公司 一种网页操作回放方法、装置、计算机设备及介质
CN114692049A (zh) * 2022-03-29 2022-07-01 医渡云(北京)技术有限公司 基于浏览器的录屏方法及装置、电子设备、存储介质

Also Published As

Publication number Publication date
CN115686334A (zh) 2023-02-03

Similar Documents

Publication Publication Date Title
US10503371B2 (en) Virtual tabs supporting web content suspension
WO2020147462A1 (zh) 应用异常恢复
CN113110941B (zh) 使用应用容器管理代码和依赖性数据的传递
CN115686334B (zh) 操作控制的方法、电子设备及可读存储介质
CN105359121B (zh) 使用接收数据的应用远程操作
WO2019206158A1 (zh) 一种界面显示方法、装置及设备
US20220075518A1 (en) Fast Data Copying Method and Electronic Device
US20150095758A1 (en) Web content suspension compatibility and suspended web content lifetime
US20150135105A1 (en) Interacting with an application
US20180196584A1 (en) Execution of multiple applications on a device
WO2020006669A1 (zh) 一种图标切换方法、显示gui的方法及电子设备
CN117806516A (zh) 一种悬浮窗显示方法及电子设备
CN114020652B (zh) 一种应用程序的管理方法及电子设备
US20210109644A1 (en) Display method when application is exited and terminal
CN109074303A (zh) 一种卡顿检测方法及装置
CN113343138A (zh) 一种回退拦截方法、装置、智能终端及存储介质
CN115061758B (zh) 应用的显示方法、终端、电子设备以及存储介质
CN118244950A (zh) 一种微件显示方法及电子设备
CN117111803A (zh) 背景图显示方法和电子设备
CN118819282A (zh) 异步io处理方法及装置、系统和存储介质
CN116033064A (zh) 卡片显示的方法、电子设备及可读存储介质
CN116719459A (zh) 批注框的显示方法、电子设备及可读存储介质
WO2022001633A1 (zh) 设备控制方法和设备
CN114327433A (zh) 媒体数据的播放控制方法、装置、电子设备及存储介质
Chen et al. MSA: A Novel App Development Framework for Transparent Multiscreen Support on Android Apps

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: Unit 3401, unit a, building 6, Shenye Zhongcheng, No. 8089, Hongli West Road, Donghai community, Xiangmihu street, Futian District, Shenzhen, Guangdong 518040

Patentee after: Honor Terminal Co.,Ltd.

Country or region after: China

Address before: 3401, unit a, building 6, Shenye Zhongcheng, No. 8089, Hongli West Road, Donghai community, Xiangmihu street, Futian District, Shenzhen, Guangdong

Patentee before: Honor Device Co.,Ltd.

Country or region before: China

CP03 Change of name, title or address