[go: up one dir, main page]

CN109379536B - 画面生成方法、装置、终端及对应的存储介质 - Google Patents

画面生成方法、装置、终端及对应的存储介质 Download PDF

Info

Publication number
CN109379536B
CN109379536B CN201811640334.XA CN201811640334A CN109379536B CN 109379536 B CN109379536 B CN 109379536B CN 201811640334 A CN201811640334 A CN 201811640334A CN 109379536 B CN109379536 B CN 109379536B
Authority
CN
China
Prior art keywords
plane
picture
lens
area
spherical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811640334.XA
Other languages
English (en)
Other versions
CN109379536A (zh
Inventor
高方奇
王晓亮
李国强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kandao Technology Co Ltd
Original Assignee
Kandao Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kandao Technology Co Ltd filed Critical Kandao Technology Co Ltd
Priority to CN201811640334.XA priority Critical patent/CN109379536B/zh
Publication of CN109379536A publication Critical patent/CN109379536A/zh
Priority to US17/419,299 priority patent/US20220086350A1/en
Priority to PCT/CN2019/128665 priority patent/WO2020135577A1/zh
Application granted granted Critical
Publication of CN109379536B publication Critical patent/CN109379536B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/689Motion occurring during a rolling shutter mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)

Abstract

本发明提供一种画面生成方法,其包括:获取平面拍摄输入画面,并将平面拍摄输入画面分割为多个平面画面区域;获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在区域曝光时间点的镜头姿态;根据拍摄镜头在区域曝光时间点的镜头姿态以及拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面。本发明还提供一种画面生成装置,本发明的画面生成方法及画面生成装置基于区域曝光时间点时的镜头姿态对平面画面区域的平面位置坐标进行修正,使得生成的平面拍摄输出画面不会出现画面扭曲现象或产生“果冻”效应。

Description

画面生成方法、装置、终端及对应的存储介质
技术领域
本发明涉及图像处理技术领域,特别是涉及一种画面生成方法、装置、终端及对应的存储介质。
背景技术
随着科技的发展,人们对手持拍摄终端,如相机或摄像机等的要求越来越高,例如用户希望拍摄照片的清晰度越来越高,以及希望用户的拍摄操作难度越来越低等。
现有市面上的手持拍摄终端往往使用卷帘式快门(rolling shutter),即传感器上的每一行依次曝光,这样当用户手持拍摄终端进行快速转动时,拍摄终端拍摄画面中的物体可能会产生扭曲效果,拍摄结果就是可能出现画面中物体的“倾斜”、“摇摆不定”或“部分曝光”等情况,如体现在视频播放时则出现“果冻”效应。
故,有必要提供一种画面生成方法及装置,以解决现有技术所存在的问题。
发明内容
本发明实施例提供一种可有效消除画面扭曲现象或“果冻”效应的画面生成方法及装置;以解决现有的画面生成方法及装置生成的画面容易出现画面扭曲现象或“果冻”效应的技术问题。
本发明实施例提供一种画面生成方法,其包括:
获取平面拍摄输入画面,并将所述平面拍摄输入画面分割为多个平面画面区域,其中每个所述平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;
获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在所述区域曝光时间点的镜头姿态;
根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;以及
基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面。
在本发明所述的画面生成方法中,所述获取每个平面画面区域的区域曝光时间点的步骤包括:
根据平面拍摄输入画面的画面曝光开始时间点、画面总曝光时长以及每个平面画面区域的平面位置坐标,确定每个平面画面区域的区域曝光时间点。
在本发明所述的画面生成方法中,所述获取拍摄镜头在所述区域曝光时间点的镜头姿态的步骤包括:
根据陀螺仪的测量数据,获取拍摄镜头在所述区域曝光时间点的镜头姿态。
在本发明所述的画面生成方法中,所述获取拍摄镜头在所述区域曝光时间点的镜头姿态的步骤包括:
通过陀螺仪的测量数据,获取所述拍摄镜头在画面总曝光时长内的镜头姿态变化趋势,并从所述镜头姿态变化趋势中确定每个平面画面区域的区域曝光时间点对应的镜头姿态。
在本发明所述的画面生成方法中,所述根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正的步骤包括:
根据所述拍摄镜头的参数,将所述平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标;
根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对相应的球形画面区域的球面位置坐标进行修正;
将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标。
在本发明所述的画面生成方法中,通过以下公式将所述平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标:
Figure GDA0002384356070000031
Figure GDA0002384356070000032
θ=undistort(θd);
Figure GDA0002384356070000033
其中(x,y)为平面画面区域的平面位置坐标,(X,Y,Z)为球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,undistort为畸变校正函数,focal为所述拍摄镜头的标定焦距。
在本发明所述的画面生成方法中,通过以下公式对相应的球形画面区域的球面位置坐标进行修正:
Figure GDA0002384356070000034
其中(X,Y,Z)为球形画面区域的球面位置坐标,
Figure GDA0002384356070000035
为修正后的球形画面区域的球面位置坐标;Rc为所述拍摄镜头在画面曝光中间时间点的镜头姿态矩阵,Rk为所述拍摄镜头在区域曝光时间点的镜头姿态矩阵。
在本发明所述的画面生成方法中,通过以下公式将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标:
Figure GDA0002384356070000036
θd=distort(θ);
r=focal*θd
Figure GDA0002384356070000041
其中
Figure GDA0002384356070000042
为修正后的平面画面区域的平面位置坐标,
Figure GDA0002384356070000043
为修正后的球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,distort为畸变函数,focal为所述拍摄镜头的标定焦距。
本发明实施例还提供一种画面生成装置,其包括:
平面画面区域分割模块,用于获取平面拍摄输入画面,并将所述平面拍摄输入画面分割为多个平面画面区域,其中每个所述平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;
时间姿态获取模块,用于获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在所述区域曝光时间点的镜头姿态;
平面画面区域修正模块,用于根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;以及
画面输出模块,用于基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面。
本发明实施例还提供一种计算机可读存储介质,其内存储有处理器可执行指令,所述指令由一个或一个以上处理器加载,以执行上述画面生成方法。
本发明实施例还提供一种终端,其包括处理器和存储器,所述存储器存储有多条指令,所述处理器从所述存储器中加载指令,以执行上述画面生成方法。
相较于现有技术的画面生成方法及画面生成装置,本发明的画面生成方法及画面生成装置基于区域曝光时间点时的镜头姿态对平面画面区域的平面位置坐标进行修正,使得生成的平面拍摄输出画面不会出现画面扭曲现象或产生“果冻”效应;有效的解决了现有的画面生成方法及装置生成的画面容易出现画面扭曲现象或“果冻”效应的技术问题。
附图说明
图1为本发明的画面生成方法的实施例的流程图;
图2为本发明的画面生成方法的实施例的步骤S103的流程图;
图3为本发明的画面生成装置的实施例的结构示意图;
图4为本发明的画面生成方法装置所在的电子设备的工作环境结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的画面生成方法及画面生成装置可设置在任何的具有摄像头的电子设备中,用于输出摄像头拍摄的画面,其中该电子设备的摄像头采用卷帘式快门进行画面曝光;本发明的电子设备拍摄的输出画面可有效的消除画面扭曲现象或“果冻”效应。该电子设备包括但不限于可穿戴设备、头戴设备、医疗健康平台、个人计算机、服务器计算机、手持式或膝上型设备、移动设备(比如移动电话、个人数字助理(PDA)、媒体播放器等等)、多处理器系统、消费型电子设备、小型计算机、大型计算机、包括上述任意系统或设备的分布式计算环境,等等。该电子设备优选为具有卷帘式快门摄像头的拍摄终端,以便该拍摄终端可输出不具有画面扭曲现象或“果冻”效应的画面或视频,提高了输出画面或输出视频的质量。
请参照图1,图1为本发明的画面生成方法的实施例的流程图。本实施例的画面生成方法可使用上述的电子设备进行实施,该画面生成方法包括:
步骤S101,获取平面拍摄输入画面,并将平面拍摄输入画面分割为多个平面画面区域,其中每个平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;
步骤S102,获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在区域曝光时间点的镜头姿态;
步骤S103,根据拍摄镜头在区域曝光时间点的镜头姿态以及拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;
步骤S104,基于修正后的平面画面区域的平面位置坐标生成平面输出画面。
下面详细说明本实施例的画面生成方法的画面生成过程。
在步骤S101中,画面生成装置(如具有卷帘式快门摄像头的拍摄终端)通过摄像头获取平面拍摄输入画面,这里的平面拍摄输入画面为拍摄终端拍摄的可能会产生画面扭曲的拍摄画面。
由于平面拍摄输入画面中各个画面区域的区域曝光时间点有所差异,因此在本步骤中画面生成装置将平面拍摄输入画面分割为多个平面画面区域,如将平面拍摄输入画面分割为80*80的网格区域,每个网格对应一个平面画面区域。
其中每个平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标,这样画面生成装置可通过对平面位置坐标进行修正,实现对每个平面画面区域进行修正,进而对整个平面拍摄输入画面进行修正。
在步骤S102中,画面生成装置获取步骤S101中每个平面画面区域的区域曝光时间点。具体的,画面生成装置可根据平面拍摄输入画面的画面曝光开始时间点、画面总曝光时长以及每个平面画面区域的平面位置坐标,确定每个平面画面区域的区域曝光时间点。这里的画面曝光开始时间点为平面拍摄输入画面开始进行画面曝光的时间点,画面总曝光时长为平面拍摄输入画面的画面曝光的总时间长度。区域曝光时间点为每个平面画面区域的进行画面曝光的时间点。
如平面拍摄输入画面的画面曝光开始时间点为t0,平面拍摄输入画面的画面总曝光时长为texp,如平面画面区域的平面位置坐标位于整个平面拍摄输入画面的正中,则该平面画面区域的区域曝光时间点为
Figure GDA0002384356070000061
随后画面生成装置获取对应拍摄镜头在区域曝光时间点的镜头姿态。具体的,画面生成装置可根据陀螺仪的测量数据,获取拍摄镜头在区域曝光时间点的镜头姿态。这里陀螺仪可以200Hz的采集频率采集拍摄镜头的镜头姿态,这样画面生成装置可获取拍摄镜头在画面总曝光时长内的镜头姿态变化趋势,并可通过插值等方式从镜头姿态变化趋势中确定每个平面画面区域的区域曝光时间点对应的镜头姿态。
在步骤S103中,画面生成装置根据步骤S102获取的拍摄镜头在区域曝光时间点的以及拍摄镜头在画面曝光中间时间点的镜头姿态,对步骤S101获取的每个平面画面区域的平面位置坐标进行修正。
具体请参照图2,图2为本发明的画面生成方法的实施例的步骤S103的流程图。该步骤S103包括:
步骤S201,画面生成装置根据拍摄镜头的参数,将平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标。由于通过镜头姿态可方便的对球面位置坐标进行修正,因此在本步骤中,画面生成装置将平面位置坐标转换为易于修正的球面位置坐标。
具体的,可通过以下公式将平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标;
Figure GDA0002384356070000071
Figure GDA0002384356070000072
θ=undistort(θd);
Figure GDA0002384356070000073
其中(x,y)为平面画面区域的平面位置坐标,(X,Y,Z)为球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,undistort为畸变校正函数,focal为所述拍摄镜头的标定焦距。
步骤S202,画面生成装置根据拍摄镜头在区域曝光时间点的镜头姿态以及拍摄镜头在画面曝光中间时间点的镜头姿态,对相应的球形画面区域的球面位置坐标进行修正。
具体的,可通过以下公式对相应的球形画面区域的球面位置坐标进行修正;
Figure GDA0002384356070000081
其中(X,Y,Z)为球形画面区域的球面位置坐标,
Figure GDA0002384356070000082
为修正后的球形画面区域的球面位置坐标;Rc为所述拍摄镜头在画面曝光中间时间点的镜头姿态矩阵,Rk为所述拍摄镜头在区域曝光时间点的镜头姿态矩阵。
其中拍摄镜头在画面曝光中间时间点的镜头姿态矩阵Rc以及拍摄镜头在区域曝光时间点的镜头姿态矩阵Rk均可通过步骤S102中陀螺仪的测量数据中计算得出。
步骤S203,画面生成装置将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标,以便进行平面拍摄画面输出。
具体的,可通过以下公式将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标;
Figure GDA0002384356070000083
θd=distort(θ);
r=focal*θd
Figure GDA0002384356070000084
其中
Figure GDA0002384356070000085
为修正后的平面画面区域的平面位置坐标,
Figure GDA0002384356070000086
为修正后的球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,distort为畸变函数,focal为所述拍摄镜头的标定焦距。
在步骤S104中,画面生成装置基于步骤S103获取的修正后的平面画面区域的平面位置坐标生成平面输出画面,该平面输出画面可较好的消除画面扭曲现象或“果冻”效应。
这样即完成了本实施例的画面生成方法的画面生成过程。
本实施例的画面生成方法基于区域曝光时间点的镜头姿态对平面画面区域的平面位置坐标进行修正,使得生成的平面拍摄输出画面不会出现画面扭曲现象或产生“果冻”效应。
本发明还提供一种画面生成装置,请参照图3,图3为本发明的画面生成装置的实施例的结构示意图。本实施例的画面生成装置30包括平面画面区域分割模块31、时间姿态获取模块32、平面画面区域修正模块33以及画面输出模块34。
平面画面区域分割模块31用于获取平面拍摄输入画面,并将平面拍摄输入画面分割为多个平面画面区域,其中每个平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;时间姿态获取模块32用于获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在区域曝光时间点的镜头姿态;平面画面区域修正模块33用于根据拍摄镜头在区域曝光时间点的镜头姿态以及拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;画面输出模块34用于基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面。
本实施例的画面生成装置30使用时,首先平面画面区域分割模块31通过摄像头获取平面拍摄输入画面,这里的平面拍摄输入画面为拍摄终端拍摄的可能会产生画面扭曲的拍摄画面。
由于平面拍摄输入画面中各个画面区域的区域曝光时间点有所差异,因此平面画面区域分割模块31将平面拍摄输入画面分割为多个平面画面区域,如将平面拍摄输入画面分割为80*80的网格区域,每个网格对应一个平面画面区域。
其中每个平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标,这样画面生成装置可通过对平面位置坐标进行修正,实现对每个平面画面区域进行修正,进而对整个平面拍摄输入画面进行修正。
随后时间姿态获取模块32获取每个平面画面区域的区域曝光时间点。具体的,时间姿态获取模块32可根据平面拍摄输入画面的画面曝光开始时间点、画面总曝光时长以及每个平面画面区域的平面位置坐标,确定每个平面画面区域的区域曝光时间点。这里的画面曝光开始时间点为平面拍摄输入画面开始进行画面曝光的时间点,画面总曝光时长为平面拍摄输入画面的画面曝光的总时间长度。区域曝光时间点为每个平面画面区域的进行画面曝光的时间点。
如平面拍摄输入画面的画面曝光开始时间点为t0,平面拍摄输入画面的画面总曝光时长为texp,如平面画面区域的平面位置坐标位于整个平面拍摄输入画面的正中,则该平面画面区域的区域曝光时间点为
Figure GDA0002384356070000101
然后平面画面区域修正模块33根据时间姿态获取模块32获取的拍摄镜头在区域曝光时间点的以及拍摄镜头在画面曝光中间时间点的镜头姿态,对平面画面区域分割模块31获取的每个平面画面区域的平面位置坐标进行修正。
该修正的具体流程包括:
一、平面画面区域修正模块33根据拍摄镜头的参数,将平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标。由于通过镜头姿态可方便的对球面位置坐标进行修正,因此在本步骤中,平面画面区域修正模块33将平面位置坐标转换为易于修正的球面位置坐标。
具体的,可通过以下公式将平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标;
Figure GDA0002384356070000102
Figure GDA0002384356070000103
θ=undistort(θd);
Figure GDA0002384356070000111
其中(x,y)为平面画面区域的平面位置坐标,(X,Y,Z)为球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,undistort为畸变校正函数,focal为所述拍摄镜头的标定焦距。
二、平面画面区域修正模块33根据拍摄镜头在区域曝光时间点的镜头姿态以及拍摄镜头在画面曝光中间时间点的镜头姿态,对相应的球形画面区域的球面位置坐标进行修正。
具体的,可通过以下公式对相应的球形画面区域的球面位置坐标进行修正;
Figure GDA0002384356070000112
其中(X,Y,Z)为球形画面区域的球面位置坐标,
Figure GDA0002384356070000113
为修正后的球形画面区域的球面位置坐标;Rc为所述拍摄镜头在画面曝光中间时间点的镜头姿态矩阵,Rk为所述拍摄镜头在区域曝光时间点的镜头姿态矩阵。
其中拍摄镜头在画面曝光中间时间点的镜头姿态矩阵Rc以及拍摄镜头在区域曝光时间点的镜头姿态矩阵Rk均可通过陀螺仪的测量数据中计算得出。
三、平面画面区域修正模块33将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标,以便进行平面拍摄画面输出。
具体的,可通过以下公式将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标;
Figure GDA0002384356070000114
θd=distort(θ);
r=focal*θd
Figure GDA0002384356070000115
其中
Figure GDA0002384356070000121
为修正后的平面画面区域的平面位置坐标,
Figure GDA0002384356070000122
为修正后的球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,distort为畸变函数,focal为所述拍摄镜头的标定焦距。
最后画面输出模块34基于修正后的平面画面区域的平面位置坐标生成平面输出画面,该平面输出画面可较好的消除画面扭曲现象或“果冻”效应。
这样即完成了本实施例的画面生成装置30的画面生成过程。
本实施例的画面生成装置基于区域曝光时间点时的镜头姿态对平面画面区域的平面位置坐标进行修正,使得生成的平面拍摄输出画面不会出现画面扭曲现象或产生“果冻”效应。
本发明的画面生成方法及画面生成装置基于区域曝光时间点的镜头姿态对平面画面区域的平面位置坐标进行修正,使得生成的平面拍摄输出画面不会出现画面扭曲现象或产生“果冻”效应;有效的解决了现有的画面生成方法及装置生成的画面容易出现画面扭曲现象或“果冻”效应的技术问题。
如本申请所使用的术语“组件”、“模块”、“系统”、“接口”、“进程”等等一般地旨在指计算机相关实体:硬件、硬件和软件的组合、软件或执行中的软件。例如,组件可以是但不限于是运行在处理器上的进程、处理器、对象、可执行应用、执行的线程、程序和/或计算机。通过图示,运行在控制器上的应用和该控制器二者都可以是组件。一个或多个组件可以有在于执行的进程和/或线程内,并且组件可以位于一个计算机上和/或分布在两个或更多计算机之间。
图4和随后的讨论提供了对实现本发明所述的画面生成装置所在的电子设备的工作环境的简短、概括的描述。图4的工作环境仅仅是适当的工作环境的一个实例并且不旨在建议关于工作环境的用途或功能的范围的任何限制。实例电子设备412包括但不限于可穿戴设备、头戴设备、医疗健康平台、个人计算机、服务器计算机、手持式或膝上型设备、移动设备(比如移动电话、个人数字助理(PDA)、媒体播放器等等)、多处理器系统、消费型电子设备、小型计算机、大型计算机、包括上述任意系统或设备的分布式计算环境,等等。
尽管没有要求,但是在“计算机可读指令”被一个或多个电子设备执行的通用背景下描述实施例。计算机可读指令可以经由计算机可读介质来分布(下文讨论)。计算机可读指令可以实现为程序模块,比如执行特定任务或实现特定抽象数据类型的功能、对象、应用编程接口(API)、数据结构等等。典型地,该计算机可读指令的功能可以在各种环境中随意组合或分布。
图4图示了包括本发明的画面生成装置中的一个或多个实施例的电子设备412的实例。在一种配置中,电子设备412包括至少一个处理单元416和存储器418。根据电子设备的确切配置和类型,存储器418可以是易失性的(比如RAM)、非易失性的(比如ROM、闪存等)或二者的某种组合。该配置在图4中由虚线414图示。
在其他实施例中,电子设备412可以包括附加特征和/或功能。例如,设备412还可以包括附加的存储装置(例如可移除和/或不可移除的),其包括但不限于磁存储装置、光存储装置等等。这种附加存储装置在图4中由存储装置420图示。在一个实施例中,用于实现本文所提供的一个或多个实施例的计算机可读指令可以在存储装置420中。存储装置420还可以存储用于实现操作系统、应用程序等的其他计算机可读指令。计算机可读指令可以载入存储器418中由例如处理单元416执行。
本文所使用的术语“计算机可读介质”包括计算机存储介质。计算机存储介质包括以用于存储诸如计算机可读指令或其他数据之类的信息的任何方法或技术实现的易失性和非易失性、可移除和不可移除介质。存储器418和存储装置420是计算机存储介质的实例。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字通用盘(DVD)或其他光存储装置、盒式磁带、磁带、磁盘存储装置或其他磁存储设备、或可以用于存储期望信息并可以被电子设备412访问的任何其他介质。任意这样的计算机存储介质可以是电子设备412的一部分。
电子设备412还可以包括允许电子设备412与其他设备通信的通信连接426。通信连接426可以包括但不限于调制解调器、网络接口卡(NIC)、集成网络接口、射频发射器/接收器、红外端口、USB连接或用于将电子设备412连接到其他电子设备的其他接口。通信连接426可以包括有线连接或无线连接。通信连接426可以发射和/或接收通信媒体。
术语“计算机可读介质”可以包括通信介质。通信介质典型地包含计算机可读指令或诸如载波或其他传输机构之类的“己调制数据信号”中的其他数据,并且包括任何信息递送介质。术语“己调制数据信号”可以包括这样的信号:该信号特性中的一个或多个按照将信息编码到信号中的方式来设置或改变。
电子设备412可以包括输入设备424,比如键盘、鼠标、笔、语音输入设备、触摸输入设备、红外相机、视频输入设备和/或任何其他输入设备。设备412中也可以包括输出设备422,比如一个或多个显示器、扬声器、打印机和/或任意其他输出设备。输入设备424和输出设备422可以经由有线连接、无线连接或其任意组合连接到电子设备412。在一个实施例中,来自另一个电子设备的输入设备或输出设备可以被用作电子设备412的输入设备424或输出设备422。
电子设备412的组件可以通过各种互连(比如总线)连接。这样的互连可以包括外围组件互连(PCI)(比如快速PCI)、通用串行总线(USB)、火线(IEEE1394)、光学总线结构等等。在另一个实施例中,电子设备412的组件可以通过网络互连。例如,存储器418可以由位于不同物理位置中的、通过网络互连的多个物理存储器单元构成。
本领域技术人员将认识到,用于存储计算机可读指令的存储设备可以跨越网络分布。例如,可经由网络428访问的电子设备430可以存储用于实现本发明所提供的一个或多个实施例的计算机可读指令。电子设备412可以访问电子设备430并且下载计算机可读指令的一部分或所有以供执行。可替代地,电子设备412可以按需要下载多条计算机可读指令,或者一些指令可以在电子设备412处执行并且一些指令可以在电子设备430处执行。
本文提供了实施例的各种操作。在一个实施例中,所述的一个或多个操作可以构成一个或多个计算机可读介质上存储的计算机可读指令,其在被电子设备执行时将使得计算设备执行所述操作。描述一些或所有操作的顺序不应当被解释为暗示这些操作必需是顺序相关的。本领域技术人员将理解具有本说明书的益处的可替代的排序。而且,应当理解,不是所有操作必需在本文所提供的每个实施例中存在。
而且,尽管已经相对于一个或多个实现方式示出并描述了本公开,但是本领域技术人员基于对本说明书和附图的阅读和理解将会想到等价变型和修改。本公开包括所有这样的修改和变型,并且仅由所附权利要求的范围限制。特别地关于由上述组件(例如元件、资源等)执行的各种功能,用于描述这样的组件的术语旨在对应于执行所述组件的指定功能(例如其在功能上是等价的)的任意组件(除非另外指示),即使在结构上与执行本文所示的本公开的示范性实现方式中的功能的公开结构不等同。此外,尽管本公开的特定特征已经相对于若干实现方式中的仅一个被公开,但是这种特征可以与如可以对给定或特定应用而言是期望和有利的其他实现方式的一个或多个其他特征组合。而且,就术语“包括”、“具有”、“含有”或其变形被用在具体实施方式或权利要求中而言,这样的术语旨在以与术语“包含”相似的方式包括。
本发明实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。上述提到的存储介质可以是只读存储器,磁盘或光盘等。上述的各装置或系统,可以执行相应方法实施例中的方法。
综上所述,虽然本发明已以实施例揭露如上,实施例前的序号仅为描述方便而使用,对本发明各实施例的顺序不造成限制。并且,上述实施例并非用以限制本发明,本领域的普通技术人员,在不脱离本发明的精神和范围内,均可作各种更动与润饰,因此本发明的保护范围以权利要求界定的范围为准。

Claims (9)

1.一种画面生成方法,其特征在于,包括:
获取平面拍摄输入画面,并将所述平面拍摄输入画面分割为多个平面画面区域,其中每个所述平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;
获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在所述区域曝光时间点的镜头姿态;
根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;以及
基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面;
所述根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正的步骤包括:
根据所述拍摄镜头的参数,将所述平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标;
根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对相应的球形画面区域的球面位置坐标进行修正;
将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标;
通过以下公式对相应的球形画面区域的球面位置坐标进行修正:
Figure FDA0002384356060000011
其中(X,Y,Z)为球形画面区域的球面位置坐标,
Figure FDA0002384356060000012
为修正后的球形画面区域的球面位置坐标;Rc为所述拍摄镜头在画面曝光中间时间点的镜头姿态矩阵,Rk为所述拍摄镜头在区域曝光时间点的镜头姿态矩阵。
2.根据权利要求1所述的画面生成方法,其特征在于,所述获取每个平面画面区域的区域曝光时间点的步骤包括:
根据平面拍摄输入画面的画面曝光开始时间点、画面总曝光时长以及每个平面画面区域的平面位置坐标,确定每个平面画面区域的区域曝光时间点。
3.根据权利要求1所述的画面生成方法,其特征在于,所述获取拍摄镜头在所述区域曝光时间点的镜头姿态的步骤包括:
根据陀螺仪的测量数据,获取拍摄镜头在所述区域曝光时间点的镜头姿态。
4.根据权利要求3所述的画面生成方法,其特征在于,所述获取拍摄镜头在所述区域曝光时间点的镜头姿态的步骤包括:
通过陀螺仪的测量数据,获取所述拍摄镜头在画面总曝光时长内的镜头姿态变化趋势,并从所述镜头姿态变化趋势中确定每个平面画面区域的区域曝光时间点对应的镜头姿态。
5.根据权利要求1所述的画面生成方法,其特征在于,通过以下公式将所述平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标:
Figure FDA0002384356060000021
Figure FDA0002384356060000022
θ=undistort(θd);
Figure FDA0002384356060000023
其中(x,y)为平面画面区域的平面位置坐标,(X,Y,Z)为球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,undistort为畸变校正函数,focal为所述拍摄镜头的标定焦距。
6.根据权利要求1所述的画面生成方法,其特征在于,通过以下公式将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标:
Figure FDA0002384356060000031
θd=distort(θ);
r=focal*θd
Figure FDA0002384356060000032
其中
Figure FDA0002384356060000033
为修正后的平面画面区域的平面位置坐标,
Figure FDA0002384356060000034
为修正后的球形画面区域的球面位置坐标,(cx,cy)为球形画面区域的中心点坐标,distort为畸变函数,focal为所述拍摄镜头的标定焦距。
7.一种画面生成装置,其特征在于,包括:
平面画面区域分割模块,用于获取平面拍摄输入画面,并将所述平面拍摄输入画面分割为多个平面画面区域,其中每个所述平面画面区域均包括用于表示平面画面区域在平面拍摄输入画面中位置的平面位置坐标;
时间姿态获取模块,用于获取每个平面画面区域的区域曝光时间点以及对应拍摄镜头在所述区域曝光时间点的镜头姿态;
平面画面区域修正模块,用于根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对每个平面画面区域的平面位置坐标进行修正;以及
画面输出模块,用于基于修正后的平面画面区域的平面位置坐标生成平面拍摄输出画面;
其中所述平面画面区域修正模块具体用于根据所述拍摄镜头的参数,将所述平面画面区域的平面位置坐标转换为对应的球形画面区域的球面位置坐标;
根据所述拍摄镜头在区域曝光时间点的镜头姿态以及所述拍摄镜头在画面曝光中间时间点的镜头姿态,对相应的球形画面区域的球面位置坐标进行修正;
将修正后的球形画面区域的球面位置坐标转换为修正后的平面画面区域的平面位置坐标;
通过以下公式对相应的球形画面区域的球面位置坐标进行修正:
Figure FDA0002384356060000041
其中(X,Y,Z)为球形画面区域的球面位置坐标,
Figure FDA0002384356060000042
为修正后的球形画面区域的球面位置坐标;Rc为所述拍摄镜头在画面曝光中间时间点的镜头姿态矩阵,Rk为所述拍摄镜头在区域曝光时间点的镜头姿态矩阵。
8.一种计算机可读存储介质,其内存储有处理器可执行指令,所述指令由一个或一个以上处理器加载,以执行如权利要求1-6中任一的画面生成方法。
9.一种终端,其特征在于,包括处理器和存储器,所述存储器存储有多条指令,所述处理器从所述存储器中加载指令,以执行如权利要求1-6任一项所述的画面生成方法。
CN201811640334.XA 2018-12-29 2018-12-29 画面生成方法、装置、终端及对应的存储介质 Active CN109379536B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201811640334.XA CN109379536B (zh) 2018-12-29 2018-12-29 画面生成方法、装置、终端及对应的存储介质
US17/419,299 US20220086350A1 (en) 2018-12-29 2019-12-26 Image Generation Method and Apparatus, Terminal and Corresponding Storage Medium
PCT/CN2019/128665 WO2020135577A1 (zh) 2018-12-29 2019-12-26 画面生成方法、装置、终端及对应的存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811640334.XA CN109379536B (zh) 2018-12-29 2018-12-29 画面生成方法、装置、终端及对应的存储介质

Publications (2)

Publication Number Publication Date
CN109379536A CN109379536A (zh) 2019-02-22
CN109379536B true CN109379536B (zh) 2020-07-31

Family

ID=65372283

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811640334.XA Active CN109379536B (zh) 2018-12-29 2018-12-29 画面生成方法、装置、终端及对应的存储介质

Country Status (3)

Country Link
US (1) US20220086350A1 (zh)
CN (1) CN109379536B (zh)
WO (1) WO2020135577A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109379536B (zh) * 2018-12-29 2020-07-31 深圳看到科技有限公司 画面生成方法、装置、终端及对应的存储介质
CN110235431B (zh) * 2019-04-30 2021-08-24 深圳市大疆创新科技有限公司 电子增稳方法、图像采集设备、可移动平台

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101046506A (zh) * 2007-03-28 2007-10-03 新奥博为技术有限公司 一种基于球谐函数的磁共振图像梯度变形校正方法
CN103503432A (zh) * 2011-07-06 2014-01-08 株式会社摩如富 图像处理装置、图像处理方法和图像处理程序
CN103514450A (zh) * 2012-06-29 2014-01-15 华为技术有限公司 一种图像特征提取方法和图像校正方法以及设备
KR101694651B1 (ko) * 2016-02-15 2017-01-09 이화여자대학교 산학협력단 3차원 위치 추정을 이용한 광각 렌즈 영상의 왜곡 보정 장치 및 그 방법

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006058945A (ja) * 2004-08-17 2006-03-02 Optex Fa Co Ltd ローリングシャッタ画像の補正方法および装置
JP4406937B2 (ja) * 2006-12-01 2010-02-03 富士フイルム株式会社 撮影装置
JP2009141717A (ja) * 2007-12-07 2009-06-25 Hitachi Ltd 撮像装置
US8860825B2 (en) * 2012-09-12 2014-10-14 Google Inc. Methods and systems for removal of rolling shutter effects
US9071756B2 (en) * 2012-12-11 2015-06-30 Facebook, Inc. Systems and methods for digital video stabilization via constraint-based rotation smoothing
JP6276519B2 (ja) * 2013-05-22 2018-02-07 株式会社 日立産業制御ソリューションズ 人数計測装置および人物動線解析装置
US10136063B2 (en) * 2013-07-12 2018-11-20 Hanwha Aerospace Co., Ltd Image stabilizing method and apparatus
FR3027143B1 (fr) * 2014-10-10 2016-11-11 Parrot Appareil mobile, notamment drone a voilure tournante, muni d'une camera video delivrant des sequences d'images corrigees dynamiquement de l'effet "wobble"
US10027893B2 (en) * 2016-05-10 2018-07-17 Nvidia Corporation Real-time video stabilization for mobile devices based on on-board motion sensing
CN108605098B (zh) * 2016-05-20 2020-12-11 深圳市大疆创新科技有限公司 用于卷帘快门校正的系统和方法
CN106101535B (zh) * 2016-06-21 2019-02-19 北京理工大学 一种基于局部及整体运动差异补偿的视频稳定方法
CN108462838B (zh) * 2018-03-16 2020-10-02 影石创新科技股份有限公司 一种全景视频防抖方法、装置及便携式终端
CN109040525B (zh) * 2018-08-31 2021-10-22 腾讯科技(深圳)有限公司 图像处理方法、装置、计算机可读介质及电子设备
US10911680B2 (en) * 2018-12-28 2021-02-02 Intel Corporation Method and system of geolocation and attitude correction for mobile rolling shutter cameras
CN109379536B (zh) * 2018-12-29 2020-07-31 深圳看到科技有限公司 画面生成方法、装置、终端及对应的存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101046506A (zh) * 2007-03-28 2007-10-03 新奥博为技术有限公司 一种基于球谐函数的磁共振图像梯度变形校正方法
CN103503432A (zh) * 2011-07-06 2014-01-08 株式会社摩如富 图像处理装置、图像处理方法和图像处理程序
CN103514450A (zh) * 2012-06-29 2014-01-15 华为技术有限公司 一种图像特征提取方法和图像校正方法以及设备
KR101694651B1 (ko) * 2016-02-15 2017-01-09 이화여자대학교 산학협력단 3차원 위치 추정을 이용한 광각 렌즈 영상의 왜곡 보정 장치 및 그 방법

Also Published As

Publication number Publication date
US20220086350A1 (en) 2022-03-17
CN109379536A (zh) 2019-02-22
WO2020135577A1 (zh) 2020-07-02

Similar Documents

Publication Publication Date Title
CN104994283B (zh) 一种局部畸变的校正方法及移动终端
WO2018214365A1 (zh) 图像校正方法、装置、设备、系统及摄像设备和显示设备
CN109561257B (zh) 画面对焦方法、装置、终端及对应的存储介质
CN105005972A (zh) 一种基于拍摄距离的畸变校正方法及移动终端
CN104580922B (zh) 一种拍摄补光的控制方法和装置
US20190385285A1 (en) Image Processing Method and Device
WO2018210308A1 (zh) 图像虚化处理方法、装置、存储介质及电子设备
CN105160632B (zh) 一种畸变校正方法及移动终端
WO2018210318A1 (zh) 图像虚化处理方法、装置、存储介质及电子设备
CN106534669A (zh) 一种拍摄构图方法及移动终端
WO2020140976A1 (zh) 图像获取方法、装置、点读设备、电子设备及存储介质
US11012608B2 (en) Processing method and mobile device
CN107532881B (zh) 一种测量的方法及终端
WO2020014881A1 (zh) 一种图像校正方法和终端
WO2020147698A1 (zh) 画面优化方法、装置、终端及对应的存储介质
CN105391940B (zh) 一种图像推荐方法及装置
CN109379536B (zh) 画面生成方法、装置、终端及对应的存储介质
CN104902143A (zh) 一种基于分辨率的图像去噪方法及装置
CN107566720A (zh) 一种更新移动终端的标定值的方法及移动终端
CN108769419B (zh) 拍照方法、移动终端及计算机可读存储介质
CN113344789B (zh) 图像拼接方法及装置、电子设备、计算机可读存储介质
CN116134476B (zh) 平面矫正方法及装置、计算机可读介质和电子设备
WO2019104453A1 (zh) 图像处理方法和装置
CN104935815B (zh) 拍照的方法、装置及相机和移动终端
CN111292245A (zh) 图像处理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant