CN116095512B - 终端设备的拍照方法及相关装置 - Google Patents
终端设备的拍照方法及相关装置 Download PDFInfo
- Publication number
- CN116095512B CN116095512B CN202210833290.2A CN202210833290A CN116095512B CN 116095512 B CN116095512 B CN 116095512B CN 202210833290 A CN202210833290 A CN 202210833290A CN 116095512 B CN116095512 B CN 116095512B
- Authority
- CN
- China
- Prior art keywords
- terminal device
- field
- image
- camera
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
本申请提供终端设备的拍照方法及相关装置。本申请提供的技术方案中,终端设备为摄像头采集的RAW数据申请缓存空间时,申请的缓存空间的像素尺寸小于摄像头在最大视场角下采集的所有RAW数据的像素尺寸。这样,不仅可以节省缓存空间,而且因为存储下来的RAW数据量较小,因此可以降低RAW数据的计算量,提高RAW数据的处理效率,最终可以提高终端设备的相机拍照功能的响应速度。
Description
技术领域
本申请实施例涉及图像处理算法领域,尤其涉及一种终端设备的拍照方法及相关装置。
背景技术
随着智能终端软硬件技术的不断发展,智能手机等移动智能终端具备的功能越来越多,在各式各样的功能中拍照功能尤其受到用户的青睐。
终端设备通过相机拍照时,会基于相机摄像头最大视场角申请缓存空间,并在摄像头采集图像数据之后将该图像数据存储至前述缓存空间中以得到原始图像数据(RAW图);然后终端设备对该RAW进行相关图像处理得到相应图像,并存储在终端设备的内存中。
但是,在上述终端设备的使用过程中发现,上述终端设备的相机拍照功能对缓存资源要求较高,或者说,在终端设备的缓存资源有限的情况下,终端设备的相机拍照功能响应速度需要提高。
发明内容
本申请提供一种终端设备的拍照方法及相关装置,用以解决现有技术中终端设备的相机拍照功能响应速度慢的问题。
第一方面,本申请提供一种终端设备的拍照方法,包括:接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令;响应于所述拍照指令,对所述摄像头采集的原始RAW数据中位于第一视场角内的第一RAW数据进行图像信号处理(image signal processing,ISP),得到第一图像数据,所述第一视场角小于所述摄像头的最大视场角。
第一拍摄模式可以对拍摄目标边缘内容关注度较低的拍摄模式,用户使用这些拍摄模式对拍摄目标进行拍摄时,终端设备会为摄像头分配较小视场角对应的缓存空间,摄像头可以使用较小视场角对应的缓存空间存储较小视场角对应的RAW数据。例如,第一拍摄模式可以为人像模式、普通拍摄模式或大光圈模式。
ISP主要包含对摄像头传感器输出的RAW数据进行的相关处理。作为示例,通过ISP可以将RAW数据处理成可以被终端设备所识别的格式的图像,例如,ISP在压缩步骤时可以将RAW数据压缩成JPEG格式,最终ISP会输出JPEG格式的图像。
例如,ISP可以包含以下一种或多种处理:黑电平校正、镜头阴影校正、坏点校正、颜色插值、去除噪声、自动白平衡、颜色校正、幂律变换(gamma校正)、色彩空间转换、降噪和锐化、自动曝光控制、压缩。
摄像头使用第一视场角采集第一RAW数据,终端设备对第一RAW数据进行ISP获取第一图像数据,可以理解为,第一图像数据对应的视场角通常情况下等于第一视场角。
这样,用户选择第一拍摄模式进行拍摄,摄像头可以使用第一视场角内的第一RAW数据,终端设备基于第一RAW数据得到第一图像数据,因为第一视场角小于最大视场角,那么使用第一视场角采集的第一RAW数据的尺寸小于采用最大视场角采集的RAW数据的尺寸,这样在终端设备的缓存资源有限的情况下,终端设备的相机拍照功能响应速度会提高。
可选的,所述响应于所述拍照指令,对所述摄像头采集的RAW数据中位于第一视场角内的第一RAW数据进行ISP,包括:响应于所述拍照指令,将所述第一RAW数据存储至第一缓存空间,所述第一缓存空间的第一像素尺寸与所述摄像头在所述第一视场角内采集的RAW数据的像素尺寸相同;对所述第一缓存空间中的数据进行所述ISP。
其中,所述第一缓存空间的第一像素尺寸与所述摄像头在所述第一视场角内采集的RAW数据的像素尺寸相同,可以理解为,所述第一缓存空间能够存储的最多像素点数量与所述第一RAW数据对应的图像的像素点数量相同。
作为一种示例,所述第一缓存空间的像素列数和行数与所述第一RAW数据对应的图像的像素列数和行数分别相同。
这样,所述第一缓存空间的第一像素尺寸与所述摄像头在所述第一视场角内采集的RAW数据的像素尺寸相同,第一RAW数据可以存储在第一缓存空间中,便于终端设备对第一RAW数据进行ISP。
可选的,所述终端设备中预设有所述第一拍摄模式与所述第一视场角的第一映射关系;其中,所述接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令之前,所述方法还包括:根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角;为所述摄像头采集的RAW数据分配所述第一缓存空间。
这样,因为终端设备提前预存的第一映射关系,在终端设备接收到用户输入的拍照指令后可以快速的确定第一视场角,为摄像头分配第一缓存空间,进而可以提高终端设备拍照响应速度。
可选的,所述接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令之前,所述方法还包括:接收用户输入的第一拍摄模式设置指令,所述第一拍摄模式设置指令用于将所述终端设备的拍摄模式设置为所述第一拍摄模式;其中,所述根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角,包括:响应于所述拍摄模式设置指令,根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角。
这样,终端设备依据第一模式设置指令将拍摄模式设置为所述第一拍摄模式,因为第一拍摄模式为对拍摄目标边缘内容关注度较低的拍摄模式,用户使用第一拍摄模式对拍摄目标进行拍摄时,终端设备会为摄像头分配较小视场角对应的缓存空间,进而可以提升终端设备的拍照响应速度。
可选的,所述第一视场角与所述第一拍摄模式所要求的第二视场角不相等;其中,所述方法还包括:对所述第一图像数据进行视场角处理得到第二图像数据,所述视场角处理用于调整图像数据对应的图像的视场角,所述第二图像数据对应的图像的视场角等于所述第二视场角。
其中,所述视场角处理用于调整图像数据对应的图像的视场角,该调整可以包括扩大或者减小,例如,第一视场角小于图像视场角时,视场角处理可以包括上采样处理,以使得第二图像数据对应的图像的视场角为图像视场角,即大于第一视场角;又如,第一视场角大于图像视场角时,视场角处理可以包括裁剪处理,以使得第二图像数据对应的图像的视场角为图像视场角,即小于第一视场角。
这样,终端设备使第一图像数据通过所述视场角处理后得到第二图像数据,所述第二图像数据对应的第二视场角符合第一拍摄模式的要求,进而可以提升用户体验。
可选的,所述接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令之前,所述方法还包括:接收用户输入的相机应用启动指令;基于所述相机应用启动指令对所述摄像头采集的RAW数据中位于所述第一视场角内的RAW数据进行ISP,得到第三图像数据;对所述第三图像数据进行所述视场角处理得到第四图像数据,所述第四图像数据对应的图像的视场角等于所述第二视场角;以预览方式显示所述第四图像数据对应的图像。
其中,以预览方式显示所述第四图像数据对应的图像,可以是基于终端设备的显示屏的图像分辨率来显示第四图像数据对应的图像。
例如,第四图像数据的图像分辨率小于终端设备显示屏的图像分辨率时,终端设备可以对第四图像数据进行视场角处理,以使得第四图像数据的图像分辨率扩大为显示屏的图像分辨率。
又如,第四图像数据的图像分辨率大于显示屏的图像分辨率时,终端设备可以对第四图像数据进行视场角处理,以使得第四图像数据的图像分辨率缩小为显示屏的图像分辨率。
这样,因为终端设备在接收相机应用启动指令下获取的第三图像数据的视场角和终端设备接收用户在所述第一拍摄模式的拍照指令下获取第一图像数据的视场角一致,并且在所述启动指令下得到的第四图像数据对应的视场角等于所述第一拍摄模式要求的第二视场角,可以使用户在相机应用启动时和在所述第一拍摄模式拍照时的体验保持一致。
可选的,所述第二视场角大于所述第一视场角时,所述视场角处理包括上采样处理;所述第二视场角小于所述第一视场角时,所述视场角处理包括裁剪处理。
其中,所述上采样处理的作用是将原图像放大,使原图可以显示在更高分辨率的显示设备上,通常上采样处理可以通过插值算法在原有图像像素的基础上插入新的元素放大原有图像;所述裁剪处理作用是将原图像缩小,使原图可以显示在更低分辨率的显示设备上,通常裁剪处理可以通过在原有图像像素的基础上抽取像素点来缩小原有图像。
这样,终端设备可以通过上采样处理或裁剪处理使第一图像数据的分辨率和第二图像数据的分辨率一致,使第二图像数据的分辨率符合第一拍摄模式的要求,进而增加用户体验。
第二方面,本申请提供一种终端设备,该终端设备包括摄像头、显示屏和一个或多个处理器、以及一个或多个存储器,所述一个或多个存储器用于存储计算机指令,当所述一个或多个处理器执行所述计算机指令时,以使所述终端设备执行如第一方面所述的方法。
第三方面,本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,当计算机指令在终端设备上运行时,使得终端设备执行如第一方面所述的方法。
第四方面,本申请实施例提供了一种芯片,芯片包括处理器,处理器执行计算机执行指令时,实现如第一方面所述的方法。
应当理解的是,本申请的第二方面至第四方面与本申请的第一方面的技术方案相对应,各方面及对应的可行实施方式所取得的有益效果相似,不再赘述。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1为终端设备的结构示意图;
图2为本申请实施例的终端设备的软件结构框图;
图3为本申请实施例提供的终端设备一种拍照方法;
图4为本申请实施例提供的一种终端设备分配缓存空间的示意图;
图5为本申请实施例提供的另一种终端设备分配缓存空间的示意图;
图6为本申请实施例提供的一种终端设备在目标缓存中存储图像数据的示意图;
图7为本申请实施例提供的另一种终端设备在目标缓存中存储图像数据的示意图;
图8为本申请一个实施例提供的终端设备图像拍摄方法配流阶段的各个模块间交互的过程示意图;
图9为本申请一个实施例提供的终端设备的图像预览方法的各个模块间交互的过程示意图;
图10为本申请一个实施例提供的终端设备图像拍摄方法的拍照请求阶段的各个模块间交互的过程示意图;
图11为本申请一个实施例提供的终端设备图像拍摄方法的图像处理阶段的各个模块间交互的过程示意图;
图12为本申请实施例提供的一种拍照装置的硬件结构示意图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
为了便于清楚描述本申请实施例的技术方案,在本申请实施例中,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。例如,第一芯片和第二芯片仅仅是为了区分不同的芯片,并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是,本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本申请实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
本申请实施例提供的拍照方法,可以应用在具备拍照功能的终端设备中。本申请实施例中的终端设备也可以称为终端(terminal)、用户设备(user equipment,UE)、移动台(mobile station,MS)、移动终端(mobile terminal,MT)等。
本申请实施例中的终端设备可以是带拍照功能的手机(mobile phone)、智能电视、穿戴式设备、平板电脑(Pad)、电脑、虚拟现实(virtual reality,VR)终端设备、增强现实(augmented reality,AR)终端设备、工业控制(industrial control)中的终端、无人驾驶(self-driving)中的终端、远程手术(remote medical surgery)中的终端、智能电网(smart grid)中的终端、运输安全(transportation safety)中的终端、智慧城市(smartcity)中的终端、智慧家庭(smart home)中的终端等等。本申请的实施例对终端设备所采用的具体技术和具体设备形态不做限定。
为了能够更好地理解本申请实施例,下面对本申请实施例的终端设备的硬件结构进行介绍。示例性地,图1为本申请实施例提供的一种终端设备的结构示意图。
图1示出了终端设备100的结构示意图。终端设备100可以包括处理器110,外部存储器接口120,内部存储器接口121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscribeidentification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从存储器中调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integratedcircuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。I2S接口和PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。终端设备100中的天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code divisionmultipleaccess,WCDMA),时分码分多址(time-division code division multipleaccess,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenithsatellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像、显示视频和接收滑动操作等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organiclight-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diod,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dotlightemitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。
终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。
终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。
陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即,x、y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用程序。
距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用程序(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
终端设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构,等。本申请实施例以分层架构的Android系统为例,示例性说明终端设备100的软件结构。
图2是本申请实施例的终端设备的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为五层,从上至下分别为应用层,应用程序框架层,安卓运行时(Androidruntime)和系统库,硬件抽象层,以及内核层。
应用层可以包括一系列应用程序包。如图2所示,应用程序包可以包括电话、邮箱、日历、相机等应用程序。
应用程序框架层为应用层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器、活动管理器、位置管理器、包管理器、通知管理器、资源管理器、电话管理器、视图系统和帧率决策管理器等。
窗口管理器(window manager service,WMS)用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
活动管理器用于管理各个应用程序的生命周期以及导航回退功能。负责Android的主线程创建,各个应用程序的生命周期的维护。
位置管理器用于为应用程序提供位置服务,包括查询上一个已知位置、注册和注销来自某个周期性的位置更新等。
包管理器用于系统内的程序管理,例如:应用程序安装、卸载和升级等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,终端设备振动,指示灯闪烁等。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
电话管理器用于管理移动设备功能,包括:手机通话状态、获取电话信息(设备、sim卡、网络信息),监听电话状态以及调用电话拨号器拨打电话
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
帧率决策管理器用于确定终端设备的屏幕刷新帧率,以及选取屏幕刷新帧率的切换方式。
Android runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用层和应用程序框架层运行在虚拟机中。虚拟机将应用层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。虚拟机中还运行有显示合成进程(例如,surfaceflinger)。显示合成进程用于控制图像的合成。
系统库可以包括多个功能模块。例如:图像绘制模块、图像渲染模块、图像合成模块、函数库和媒体库等。
图像绘制模块用于二维或三维图像的绘制。图像渲染模块用于二维或三维图像的渲染。图像合成模块用于二维或三维图像的合成。
函数库提供C语言中所使用的宏、类型定义、字符串操作函数、数学计算函数以及输入输出函数等
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
硬件抽象层,可以包含多个库模块,库模块如可以为硬件配置模块(hwcomposer,HWC)、摄像头库模块等。Android系统可以为设备硬件加载相应的库模块,进而实现应用程序框架层访问设备硬件的目的。设备硬件可以包括如电子设备中的LCD屏幕、摄像头等。
内核层是硬件和软件之间的层。内核层用于驱动硬件,使得硬件工作。内核层至少包含LCD/LED驱动、显示驱动、音频驱动、摄像头驱动和传感器驱动等。
硬件可以是音频设备、蓝牙设备、相机设备、传感器设备等。
下面介绍终端设备100的一种拍照方法。示例性的,如图3中的(a)所示,用户点击终端设备上的相机应用图标,相应地,终端设备可以检测到用户在相机应用图标上输入的“启动”指令。
作为一种示例,终端设备检测到用户在相机应用图标上输入的“启动”指令之后,如图3中的(b)所示,终端设备显示图像拍摄界面,通过该图像拍摄界面可以预览摄像头采集到的图像。
该图像拍摄界面中,终端设备可以为用户提供多种拍摄模式的选择,这多种拍摄模块可以包括“普通拍照”、“大光圈”和“人像”模式中一种或多种。
如图3中的(c)所示,用户选择“普通拍照”模式,相应地,终端设备可以检测到用户输入的选择“普通拍照”模式的指令。可以理解的是,用户选择“普通拍照”模式仅是一种示例,用户也可以选择“大光圈”或“人像”等模式。
终端设备检测到用户输入的选择“普通拍照”模式的指令之后,可以基于用户选择的拍摄模式对终端设备中与拍摄模式相关的参数进行设置。例如,将拍摄模式设置为“普通拍照”模式。
如图3中的(d)所示,用户点击“拍照”图标,相应地,终端设备可以检测到用户输入的“拍照”指令。
终端设备检测到用户输入的“拍照”指令之后,终端设备可以获取摄像头采集的图像数据以得到RAW图像,例如获取通过终端设备的图像拍摄界面预览的图像数据;并按照用户所选择的模式的图像要求对该RAW图像进行相关图像处理,以生成图像。
作为示例,终端设备生成拍照图像之后,如图3中的(e)所示,可以显示该图像。
作为一种示例,该拍照图像可以存储至终端设备的相册中。
一些实现方式中,用户选择拍摄模式之后,不论用户选择的是何种拍摄模式,终端设备都会为摄像头分配能够存储摄像头在最大视场角(FOV)下采集的RAW图像的缓存(Buffer)。
作为示例,如图4所示,摄像头在最大FOV下采集的RAW图像的像素尺寸为4096像素*3072像素时,不论在何种拍摄模式下,终端设备都会为摄像头分配像素尺寸为4096像素*3072像素的缓存空间。
这种缓存分配方式会导致终端设备在拍摄模式下对缓存资源的高要求。在缓存资源受限的情况下,甚至会出现拍摄响应速度慢的现象。
针对上述技术问题,发明人通过研究发现,用户在拍摄照片时,在很多模式下,甚至在所有模式下,往往只关心视野中心的拍摄目标,对于视野边缘的对象并不会有过多的关注。因此,在终端设备进行图像拍摄时,可以为摄像头分配与较小FOV下的图像尺寸一致的缓存用于存储较小FOV的RAW图像。
作为示例,如图5所示,摄像头在最大FOV下采集的RAW图像的像素尺寸为4096像素*3072像素时,若用户选择的是图像边缘内容关注度较低的拍摄模式,例如,用户选择“普通拍摄”、“大光圈”或“人像”模式,则终端设备可以仅为摄像头分配较小FOV对应的像素尺寸为3648像素*2736像素的缓存空间。
这种处理方式,一方面可以节省缓存资源,或者说在缓存资源受限时可以提高拍摄响应速率;另一方面因为RAW图像数据量较小,因此也可以降低图像处理的计算量,从而提高图像处理速度,进而提高拍摄响应速率。
本申请实施例中,在一些可能的实现方式中,终端设备中可以预先存储小于摄像头最大FOV的目标FOV。终端设备在图像拍摄时,可以基于该目标FOV申请用于存储摄像头采集的图像数据的目标缓存,其中,若将该目标缓存的像素尺寸与摄像头在最大FOV下拍摄的图像的像素尺寸的比值记为第一比值,将目标FOV与最大FOV的比值记为第二比值,则第一比值与第二比值相等。
相应地,摄像头以最大FOV采集图像数据之后,如图6所示,终端设备可以仅将该目标FOV中的图像数据存入该目标缓存。
该实现方式中,可选地,终端设备中可以预存目标拍摄模式和该目标FOV的映射关系。这样,若用户输入的拍摄模式为目标拍摄模式,则终端设备可以基于该目标FOV为摄像头采集的图像数据分配目标缓存;若用户输入的拍摄模式不是目标拍摄模式,则终端设备可以基于其他FOV(例如最大FOV)为摄像头采集的图像数据分配目标缓存。
本申请实施例中,在另一些可能的实现方式中,终端设备中可以预先存储目标缓存的目标尺寸,该目标缓存的像素尺寸小于摄像头在最大FOV下拍摄的图像的像素尺寸。终端设备在图像拍摄时,可以基于该目标尺寸申请用于存储摄像头采集的图像数据的目标缓存。其中,若将该目标尺寸与摄像头在最大FOV下拍摄的图像的像素尺寸的比值记为第一比值,将该目标尺寸的图像的FOV与最大FOV的比值记为第二比值,则第一比值与第二比值相等。
相应地,摄像头以最大FOV采集图像数据之后,如图7所示,终端设备可以仅将摄像头采集的图像数据尺寸为目标尺寸的图像数据存入该目标缓存。
该实现方式中,可选地,终端设备中可以预存目标拍摄模式和该目标尺寸的映射关系。这样,若用户输入的拍摄模式为目标拍摄模式,则终端设备可以基于该目标尺寸为摄像头采集的图像数据分配目标缓存;若用户输入的拍摄模式不是目标拍摄模式,则终端设备可以基于其他尺寸(例如最大FOV下的图像的尺寸)为摄像头采集的图像数据分配目标缓存。
本申请的实施例中,在一些实现方式中,终端设备在拍摄过程中显示预览图像时,可以对目标缓存中的图像数据进行目标处理,以使得预览图像的显示效果和生成的拍照图像的显示效果一致,从而实现所见即所得的拍摄效果。
作为示例,终端设备对目标缓存中的图像数据进行RAW域处理和/或YUV域等处理之后,还进行缩放处理时,该目标处理可以包括:对目标缓存中的图像数据进行相同的缩放处理。
下面介绍本申请一些实施例的终端设备的图像拍摄方法的示例性流程。本申请一个实施例中,终端设备的图像拍摄方法包括三个阶段:配流阶段、拍照请求阶段和拍照图像处理阶段。
图8为本申请一个实施例提供的终端设备图像拍摄方法配流阶段的各个模块间交互的过程示意图,如图8所示,系统可以包括:应用程序层、硬件抽象层和传感器。
S801、用户点击“相机”图标进入拍摄界面后选择拍摄模式,应用程序层获取用户选择的拍摄模式和目标图像像素尺寸。
该目标图像像素尺寸可以理解为该拍摄模式下所拍照片的图像的需求像素尺寸。
S802、应用程序层向硬件抽象层发送拍摄模式。相应地,硬件抽象层接收该拍摄模式。
S803、硬件抽象层基于该拍摄模式申请用于存储摄像头传感器采集的RAW图像数据的目标缓存。
作为一种示例,硬件抽象层中会预存拍摄模式和FOV之间的映射关系。该示例中,硬件抽象层接收到拍摄模式之后,基于该拍摄模式和该映射关系确定该拍摄模式对应的FOV。
硬件抽象层中预存的拍摄模式和FOV之间的映射关系的一个示例可以如表1所示。
表1
表1给出的示例中,这几种拍摄模式对应不同的FOV。可以理解的是,表1仅是示例性,本申请实施例并不限制不同的拍摄模式对应的FOV是否必须相同。例如,这三种模式可以对应相同的FOV。
硬件抽象层确定拍摄模式对应的目标FOV之后,可以基于目标FOV与摄像头传感器的最大FOV之间的比值以及最大FOV对应的图像像素尺寸确定目标FOV对应的目标图像像素尺寸。
例如,根据表1,若用户选择目标拍摄模式中的“人像”,则可以确定“人像”模式对应的目标FOV为82度。若最大FOV为92度,最大FOV和该目标FOV之间的比值约等于1.121。若最大FOV对应的最大图像像素尺寸为4096像素*3072像素,则基于该最大图像像素尺寸和比值1.121可以确定“人像”模式对应的目标图像像素尺寸为(4096/1.121)像素*(3072/1.121)像素约,约等于3648像素*2736像素。这样,硬件抽象层可以申请像素尺寸为3648像素*2736像素的目标缓存。
作为另一种示例,硬件抽象层中会预存拍摄模式和缓存尺寸的映射关系,该示例中,硬件抽象层接收到拍摄模式之后,基于该拍摄模式和该映射关系确定该拍摄模式对应的缓存尺寸。
硬件抽象层中预存的拍摄模式和缓存尺寸之间的映射关系的一个示例可以如表2所示。
表2
拍摄模式 | 缓存尺寸 |
普通拍摄 | 3024像素*2010像素 |
大光圈 | 3858像素*3136像素 |
人像 | 3648像素*2736像素 |
表2给出的示例中,这几种拍摄模式对应不同的缓存尺寸。可以理解的是,表2仅是示例性,本申请实施例并不限制不同的拍摄模式对应的缓存尺寸是否必须相同。例如,这三种模式可以对应相同的缓存尺寸。
硬件抽象层确定拍摄模式对应的目标缓存尺寸之后,可以基于目标缓存尺寸申请目标缓存。
例如,根据表1,若用户选择目标拍摄模式中的“人像”,则可以确定“人像”模式对应的目标缓存尺寸为3648像素*2736像素,硬件抽象层可以申请像素尺寸为3648像素*2736像素的目标缓存。
本申请实施例中,针对硬件抽象层中没有记录有与FOV映射关系的拍摄模式,在一些实现方式中,可以默认该拍摄模式对应的FOV为最大FOV,或者可以默认该拍摄模式对应的目标图像像素尺寸为最大图像像素尺寸。
作为一种示例,最大FOV可以为90度FOV,硬件抽象层可以基于90度FOV申请目标缓存,90度FOV对应的目标缓存可以为4096像素*3072像素大小的缓存空间。
作为另一种示例,硬件抽象层可以基于4096像素*3072像素的大小申请目标缓存,对应的目标缓存可以为4096像素*3072像素大小的缓存空间。
S804、硬件抽象层将拍摄模式发送给摄像头传感器。相应地,摄像头传感器接收该拍摄模式。
S805、摄像头传感器基于拍摄模式确定RAW图像的目标像素尺寸。
摄像头传感器基于拍摄模式确定RAW图像的像素尺寸的实现方式可以参考S803中硬件抽象层基于拍摄模式确定目标图像尺寸像素大小的实现方式,此处不再赘述。
S806、摄像头传感器采集RAW图像数据,将所采集的RAW图像数据中像素尺寸为目标像素尺寸的RAW图像数据存储在目标缓存中。
作为示例,摄像头采集的RAW图像数据的像素尺寸可以为4096像素*3072像素,若摄像头确定的RAW图像数据的目标像素尺寸为3648像素*2736像素,摄像头可以将像素尺寸为4096像素*3072像素的RAW图像数据中像素尺寸为3648像素*2736像素的RAW图像数据存储在目标缓存中。
图9为本申请一个实施例提供的终端设备的图像预览方法的各个模块间交互的过程示意图。
S901、响应于用户点击“相机”图标的指令,应用程序层向应用程序框架层发送指示信息,该指示信息用于确定用户所选拍摄模式对应的图像尺寸。相应地,应用程序框架层接收该指示信息。
作为一种示例,该指示信息可以是用户所选拍摄模式。作为一种示例,该指示信息可以包括用户所选拍摄模式对应的图像尺寸。
S902、应用程序框架层根据指示信息确定用户所选拍摄模式对应的图像尺寸。
作为一种示例,指示信息中包括用户所选拍摄模式对应的图像尺寸,则应用程序框架层可以直接从该指示信息中获知用户所选拍摄模式对应的图像尺寸。
作为另一种示例,指示信息用于指示用户所选拍摄模式。该示例中,终端设备中可以包含有每个拍摄模式和图像尺寸的映射关系,应用程序框架层可以根据指示信息指示的拍摄模式和该映射关系确定用户所选拍摄模式对应的图像尺寸。
S903、应用程序框架层基于图像尺寸申请预览缓存。
可选地,预览缓存的尺寸和图像尺寸一致,也就是说,预览缓存中可存储的图像像素尺寸和用户所选拍摄模式对应的图像像素尺寸一致。
S904、应用程序框架层将拍摄模式对应的图像尺寸发送给硬件抽象层,相应地,硬件抽象层接收该图像尺寸。
S905、硬件抽象层将申请的目标缓存的地址发送至内核层中的图像处理模块。
S906、图像处理模块接收目标缓存的地址。
S907、图像处理模块读取存储在目标缓存中的RAW图,基于RAW域算法和/或YUV域算法等算法对RAW图进行处理获得目标图像,目标图像为可以被终端设备识别的图片格式,例如,JPEG格式。图像处理模块将目标图像存储在目标缓存中。
S908、图像处理模块将目标缓存的地址发送至硬件抽象层。
S909、硬件抽象层的缩放模块从目标缓存中读取目标图像。
S910、缩放模块基于硬件抽象层中的用户所选拍摄模式对应的图像尺寸对目标图像进行目标处理获取预览图像。
在一种可能的实施方式中,硬件抽象层中的缩放模块需要基于图像尺寸对目标图像进行目标处理获取预览图像,具体为对目标图像进行上采样或裁剪。
作为示例,缩放模块需要判断目标图像的尺寸是否大于图像尺寸,若目标图像的尺寸大于图像尺寸,缩放模块需要对目标图像进行裁剪,使目标图像的尺寸与图像尺寸一致;若目标图像尺寸小于图像尺寸,缩放模块需要对目标图像进行上采样,以使目标图像的尺寸与图像尺寸一致。
S911、硬件抽象层的缩放模块可以将预览图像存储在预览缓存中。
可选地,硬件抽象层将预览图像存储在预览缓存中之后,可以通过显示驱动控制显示屏显示该预览缓存中的预览图像。
图10为本申请一个实施例提供的终端设备图像拍摄方法的拍照请求阶段的各个模块间交互的过程示意图,如图10所示,系统可以包括:应用程序层、应用程序框架层、硬件抽象层和内核层。
S1001、应用程序层中的相机应用响应于用户点击“相机”图标的指令。应用程序层向应用程序框架层发送指示信息,该指示信息用于确定用户所选拍摄模式对应的图像尺寸。相应地,应用程序框架层接收该指示信息。
作为一种示例,该指示信息可以是用户所选拍摄模式。作为一种示例,该指示信息可以包括用户所选拍摄模式对应的图像尺寸。
S1002、应用程序框架层根据指示信息确定用户所选拍摄模式对应的图像尺寸。
作为一种示例,指示信息中包括用户所选拍摄模式对应的图像尺寸,则应用程序框架层可以直接从该指示信息中获知用户所选拍摄模式对应的图像尺寸。
作为另一种示例,指示信息用于指示用户所选拍摄模式。该示例中,终端设备中可以包含有每个拍摄模式和图像尺寸的映射关系,应用程序框架层可以根据指示信息指示的拍摄模式和该映射关系确定用户所选拍摄模式对应的图像尺寸。
S1003、应用程序框架层基于图像尺寸申请拍摄缓存。
可选地,拍摄缓存的尺寸和图像尺寸一致,也就是说,拍摄缓存中可存储的图像像素尺寸和用户所选拍摄模式对应的图像像素尺寸一致。
作为示例,用户所选拍摄模式对应的图像像素尺寸可以为4096像素*3072像素,拍摄缓存中可存储的图像像素尺寸可以为4096像素*3072像素。
S1004、应用程序框架层将所述拍摄模式对应的图像尺寸发送给硬件抽象层,相应地,硬件抽象层接收该图像尺寸。
S1005、硬件抽象层将申请的目标缓存的地址发送至内核层中的图像处理模块。
S1006、图像处理模块接收目标缓存的地址。
图11为本申请一个实施例提供的终端设备图像拍摄方法的图像处理阶段的各个模块间交互的过程示意图,如图11所示,系统可以包括:内核层、硬件抽象层、应用程序框架层。
S1101、内核层的图像处理模块从目标缓存中获取RAW图,基于RAW域算法和/或YUV域算法等算法对RAW图进行处理获得目标图像,目标图像为可以被终端设备识别的图片格式,例如,JPEG格式。图像处理模块将目标图像存储在目标缓存中。
S1102、图像处理模块将目标缓存的地址发送至硬件抽象层。
S1103、硬件抽象层的缩放模块从目标缓存中读取目标图像。S1104、硬件抽象层的缩放模块基于硬件抽象层中的用户所选拍摄模式对应的图像尺寸对目标图像进行目标处理获取拍摄图像。
在一种可能的实施方式中,硬件抽象层中的缩放模块需要基于图像尺寸对目标图像进行目标处理获取拍摄图像,具体为对目标图像进行上采样或裁剪。
作为示例,缩放模块需要判断目标图像的尺寸是否大于图像尺寸,若目标图像尺寸大于图像尺寸,缩放模块需要对目标图像进行裁剪,使目标图像的尺寸与图像尺寸一致,将裁剪后的目标图像作为拍摄图像;若目标图像尺寸小于图像尺寸,缩放模块需要对目标图像进行上采样,使目标图像的尺寸与图像尺寸一致,将上采样后的目标图像作为拍摄图像。
作为一种示例,若图像尺寸为4096像素*3072像素,目标图像的尺寸为3648像素*2736像素,那么缩放模块需要对目标图像进行上采样,具体的,缩放模块可以使用插值法在目标图像原有的像素点之间通过插值算法插入新的像素点,从而使目标图像从3648像素*2736像素放大到4096像素*3072像素。
作为另一种示例,若图像尺寸为3858像素*3136像素,目标图像的尺寸为3648像素*2736像素,那么缩放模块需要对目标图像进行裁剪,具体的,缩放模块可以在目标图像原有的像素点之间通过抽取像素点从而使目标图像从3648像素*2736像素缩小到3858像素*3136像素。
S1105、硬件抽象层的缩放模块将拍摄图像发送给应用程序框架层。
S1106、应用程序框架层可以将拍摄图像存储在拍摄缓存中。
可选地,硬件抽象层将拍摄图像存储在拍摄缓存中之后,可以通过显示驱动控制显示屏显示该拍摄缓存中的拍摄图像。上面已对本申请实施例的拍照方法进行了说明,下面对本申请实施例提供的执行上述拍照方法的终端设备进行描述。本领域技术人员可以理解,方法和装置可以相互结合和引用,本申请实施例提供的终端设备可以执行上述拍照方法中的步骤。
图12为本申请实施例提供的一种拍照装置的硬件结构示意图。请参见图12,该拍照装置1200包括:存储器1201、处理器1202和接口电路1203。
该装置还可以包括显示屏1204,其中,存储器1201、处理器1202、接口电路1203和显示屏1204可以通信;示例性的,存储器1201、处理器1202、接口电路1203和显示屏1204可以通过通信总线通信,存储器1201用于存储计算机执行指令,由处理器1202来控制执行,并由接口电路1203来执行通信,从而实现图8至图11所示实施例中的方法。
可选的,接口电路1203还可以包括发送器和/或接收器。可选的,上述处理器1202可以包括一个或多个CPU,还可以是其他通用处理器、数字信号处理器(digital signalprocessor,DSP)、专用集成电路(application specific integrated circuit,ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
可能的实现方式中,本申请实施例中的计算机执行指令也可以称之为应用程序代码,本申请实施例对此不作具体限定。
本申请实施例提供的拍照装置,用于执行上述实施例的方法,技术原理和技术效果相似,此处不再赘述。
本申请实施例提供一种终端设备,结构参见图1。终端设备的存储器可用于存储至少一个程序指令,处理器用于执行至少一个程序指令,以实现上述方法实施例的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种芯片。芯片包括处理器,处理器用于执行存储器中的计算机程序,以实现上述实施例中的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当所述计算机程序产品在电子设备运行时,使得所述电子设备执行上述实施例中的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机可读存储介质,其上存储有程序指令,所述程序指令被终端设备执行时,使得终端设备实现上述实施例的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
以上的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的技术方案的基础之上,所做的任何修改、等同替换、改进等,均应包括在本发明的保护范围之内。
Claims (9)
1.一种终端设备的拍照方法,其特征在于,所述终端设备包括摄像头,所述终端设备中预设有第一拍摄模式与第一视场角的第一映射关系,所述方法包括:
根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角;
为所述摄像头采集的RAW数据分配第一缓存空间;
接收用户在所述终端设备处于所述第一拍摄模式时输入的拍照指令;
响应于所述拍照指令,对所述摄像头采集的原始RAW数据中位于所述第一视场角内的第一RAW数据进行图像信号处理ISP,得到第一图像数据,所述第一视场角小于所述摄像头的最大视场角;其中,所述第一RAW数据的像素尺寸与所述原始RAW数据的像素尺寸的比值,和所述第一视场角与所述最大视场角的比值相等;
所述响应于所述拍照指令,对所述摄像头采集的RAW数据中位于所述第一视场角内的第一RAW数据进行ISP,包括:
响应于所述拍照指令,将所述第一RAW数据存储至所述第一缓存空间,所述第一缓存空间的第一像素尺寸与所述摄像头在所述第一视场角内采集的RAW数据的像素尺寸相同;对所述第一缓存空间中的数据进行所述ISP。
2.根据权利要求1所述的方法,其特征在于,所述接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令之前,所述方法还包括:
接收用户输入的第一拍摄模式设置指令,所述第一拍摄模式设置指令用于将所述终端设备的拍摄模式设置为所述第一拍摄模式;
其中,所述根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角,包括:
响应于所述拍摄模式设置指令,根据所述第一映射关系确定所述第一拍摄模式对应的视场角为所述第一视场角。
3.根据权利要求1或2所述的方法,其特征在于,所述第一视场角与所述第一拍摄模式所要求的第二视场角不相等;
其中,所述方法还包括:
对所述第一图像数据进行视场角处理得到第二图像数据,所述视场角处理用于调整图像数据对应的图像的视场角,所述第二图像数据对应的图像的视场角等于所述第二视场角。
4.根据权利要求3所述的方法,其特征在于,所述接收用户在所述终端设备处于第一拍摄模式时输入的拍照指令之前,所述方法还包括:
接收用户输入的相机应用启动指令;
基于所述相机应用启动指令对所述摄像头采集的RAW数据中位于所述第一视场角内的RAW数据进行ISP,得到第三图像数据;
对所述第三图像数据进行所述视场角处理得到第四图像数据,所述第四图像数据对应的图像的视场角等于所述第二视场角;
以预览方式显示所述第四图像数据对应的图像。
5.根据权利要求3所述的方法,其特征在于,所述第二视场角大于所述第一视场角时,所述视场角处理包括上采样处理;
所述第二视场角小于所述第一视场角时,所述视场角处理包括裁剪处理。
6.根据权利要求1至2、4至5中任一项所述的方法,其特征在于,所述第一拍摄模式为:人像模式、普通拍摄模式或大光圈模式。
7.一种终端设备,其特征在于,所述终端设备包括摄像头、显示屏和一个或多个处理器、以及一个或多个存储器,所述一个或多个存储器用于存储计算机指令,当所述一个或多个处理器执行所述计算机指令时,以使所述终端设备执行如权利要求1-6中任一项所述的方法。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在终端设备上运行时,使得所述终端设备执行如权利要求1-6中任一项所述的方法。
9.一种芯片,其特征在于,所述芯片包括处理器,所述处理器执行计算机指令时,实现如权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210833290.2A CN116095512B (zh) | 2022-07-15 | 2022-07-15 | 终端设备的拍照方法及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210833290.2A CN116095512B (zh) | 2022-07-15 | 2022-07-15 | 终端设备的拍照方法及相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116095512A CN116095512A (zh) | 2023-05-09 |
CN116095512B true CN116095512B (zh) | 2024-04-02 |
Family
ID=86197940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210833290.2A Active CN116095512B (zh) | 2022-07-15 | 2022-07-15 | 终端设备的拍照方法及相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116095512B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005308777A (ja) * | 2004-04-16 | 2005-11-04 | Casio Comput Co Ltd | 撮影装置及びそのプログラム |
CN110620873A (zh) * | 2019-08-06 | 2019-12-27 | RealMe重庆移动通信有限公司 | 设备成像方法、装置、存储介质及电子设备 |
CN111294517A (zh) * | 2020-03-03 | 2020-06-16 | 华为技术有限公司 | 一种图像处理的方法及移动终端 |
CN112565589A (zh) * | 2020-11-13 | 2021-03-26 | 北京爱芯科技有限公司 | 一种拍照预览方法、装置、存储介质和电子设备 |
CN113438401A (zh) * | 2021-06-30 | 2021-09-24 | 展讯通信(上海)有限公司 | 数字变焦方法、系统、存储介质及终端 |
CN113766269A (zh) * | 2020-06-02 | 2021-12-07 | 中国移动通信有限公司研究院 | 视频缓存策略确定、视频数据处理方法、装置及存储介质 |
CN114745570A (zh) * | 2022-06-09 | 2022-07-12 | 荣耀终端有限公司 | 图像的渲染方法、电子设备及存储介质 |
-
2022
- 2022-07-15 CN CN202210833290.2A patent/CN116095512B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005308777A (ja) * | 2004-04-16 | 2005-11-04 | Casio Comput Co Ltd | 撮影装置及びそのプログラム |
CN110620873A (zh) * | 2019-08-06 | 2019-12-27 | RealMe重庆移动通信有限公司 | 设备成像方法、装置、存储介质及电子设备 |
CN111294517A (zh) * | 2020-03-03 | 2020-06-16 | 华为技术有限公司 | 一种图像处理的方法及移动终端 |
CN113766269A (zh) * | 2020-06-02 | 2021-12-07 | 中国移动通信有限公司研究院 | 视频缓存策略确定、视频数据处理方法、装置及存储介质 |
CN112565589A (zh) * | 2020-11-13 | 2021-03-26 | 北京爱芯科技有限公司 | 一种拍照预览方法、装置、存储介质和电子设备 |
CN113438401A (zh) * | 2021-06-30 | 2021-09-24 | 展讯通信(上海)有限公司 | 数字变焦方法、系统、存储介质及终端 |
CN114745570A (zh) * | 2022-06-09 | 2022-07-12 | 荣耀终端有限公司 | 图像的渲染方法、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116095512A (zh) | 2023-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115866121B (zh) | 应用界面交互方法、电子设备和计算机可读存储介质 | |
KR102535607B1 (ko) | 사진 촬영 중 이미지를 표시하는 방법 및 전자 장치 | |
WO2020259452A1 (zh) | 一种移动终端的全屏显示方法及设备 | |
WO2021017889A1 (zh) | 一种应用于电子设备的视频通话的显示方法及相关装置 | |
CN109559270B (zh) | 一种图像处理方法及电子设备 | |
CN118695083A (zh) | 拍摄方法、图形用户界面及电子设备 | |
CN113891009B (zh) | 曝光调整方法及相关设备 | |
WO2022001258A1 (zh) | 多屏显示方法、装置、终端设备及存储介质 | |
WO2023056795A1 (zh) | 快速拍照方法、电子设备及计算机可读存储介质 | |
CN113810603B (zh) | 点光源图像检测方法和电子设备 | |
US11816494B2 (en) | Foreground element display method and electronic device | |
CN114466134A (zh) | 生成hdr图像的方法及电子设备 | |
WO2021204103A1 (zh) | 照片预览方法、电子设备和存储介质 | |
CN116051351B (zh) | 一种特效处理方法和电子设备 | |
CN116048831B (zh) | 一种目标信号处理方法和电子设备 | |
CN115119048B (zh) | 一种视频流处理方法及电子设备 | |
WO2024078275A1 (zh) | 一种图像处理的方法、装置、电子设备及存储介质 | |
CN113923372B (zh) | 曝光调整方法及相关设备 | |
CN116095512B (zh) | 终端设备的拍照方法及相关装置 | |
CN115460343A (zh) | 图像处理方法、设备及存储介质 | |
CN116233599B (zh) | 一种录像模式推荐方法和电子设备 | |
WO2024153043A1 (zh) | 一种投屏方法 | |
CN117692693A (zh) | 多屏显示方法以及相关设备 | |
WO2025035901A1 (zh) | 图形绘制方法、装置和电子设备 | |
WO2025011069A1 (zh) | 相机应用的图像处理方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: Unit 3401, unit a, building 6, Shenye Zhongcheng, No. 8089, Hongli West Road, Donghai community, Xiangmihu street, Futian District, Shenzhen, Guangdong 518040 Patentee after: Honor Terminal Co.,Ltd. Country or region after: China Address before: 3401, unit a, building 6, Shenye Zhongcheng, No. 8089, Hongli West Road, Donghai community, Xiangmihu street, Futian District, Shenzhen, Guangdong Patentee before: Honor Device Co.,Ltd. Country or region before: China |
|
CP03 | Change of name, title or address |