[go: up one dir, main page]

CN101616240A - 图像压缩装置和图像压缩方法 - Google Patents

图像压缩装置和图像压缩方法 Download PDF

Info

Publication number
CN101616240A
CN101616240A CN200910141554A CN200910141554A CN101616240A CN 101616240 A CN101616240 A CN 101616240A CN 200910141554 A CN200910141554 A CN 200910141554A CN 200910141554 A CN200910141554 A CN 200910141554A CN 101616240 A CN101616240 A CN 101616240A
Authority
CN
China
Prior art keywords
data
image
distance
produce
multiplex
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN200910141554A
Other languages
English (en)
Other versions
CN101616240B (zh
Inventor
且本敏幸
伊木信弥
渡边弘昌
柳原幸生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN101616240A publication Critical patent/CN101616240A/zh
Application granted granted Critical
Publication of CN101616240B publication Critical patent/CN101616240B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

图像压缩装置和图像压缩方法。该图像压缩装置包括:第一和第二成像部件,用于分别拍摄被摄体的图像以产生第一和第二图像信号;第一和第二编码部件,用于分别对第一和第二图像信号进行编码以产生第一和第二图像数据;第一和第二距离测量部件,在所述拍摄的同时针对每个图像块测量到被摄体的距离,以分别产生第一和第二距离信息;第一和第二复用部件,分别通过复用第一和第二图像数据与第一和第二距离数据,产生第一和第二复用数据,第一和第二距离数据是基于第一和第二距离信息产生的并分别表示对于第一和第二图像数据中的每个预定义像素块而言的到被摄体的距离;压缩处理部件,用于减少第一和第二复用数据的量以产生压缩数据。

Description

图像压缩装置和图像压缩方法
技术领域
本发明涉及一种用于在拍摄图像时测量到被摄体的距离的图像压缩装置和方法。
背景技术
已经开发了多种技术向运动图像数据给予临场感。
可通过例如再现三维图像向运动图像数据给予临场感。
例如,可通过从左眼和右眼的视点获得同一被摄体的两个图像数据来产生三维图像。当再现三维图像数据时,用于左眼的图像数据将被左眼观看,而用于右眼的图像数据将被右眼观看。在下文中,从左眼和右眼的视点获得的图像数据被称作“视差图像”。
产生视差图像的最简单方式是在与左眼和右眼对应的位置处安装两个摄像机,以拍摄两个图像。然而,利用这种方式来拍摄图像要花费很大的努力和成本。因此,期望有一种基于利用单个摄像机获得的二维运动图像数据来产生三维图像数据的技术。
为了基于单个的二维图像来产生三维图像数据,从单个的二维图像产生两个视差图像。
为了从单个的二维图像产生两个视差图像,迄今已经使用了指示到二维图像数据中的各被摄体的距离的距离信息。
为了获得该距离信息,人可以观看图像来估计从拍摄图像的视点(摄像机位置)到被摄体的距离。然而,不利的是,由于人估计所述距离,所以难以使该方案自动化。
因此,期望有一种在产生二维图像时自动测量到被摄体的距离的技术。
日本特开平08-70473(JP-A-Hei 08-70473)公开了一种在产生单个二维图像时自动测量到被摄体的距离以提供具有距离信息的图像数据的技术。
发明内容
然而,在JP-A-Hei 08-70473中公开的技术产生了过量的具有距离信息的图像数据,这使得难以将这些图像数据存储在存储介质中。由于在JP-A-Hei 08-70473中图像数据中的每个像素均设置有距离信息,所以关于距离的信息的量会与关于图像数据本身的信息的量大约一样大。因此,具有距离信息的图像数据即使被压缩,也会比没有距离信息的图像数据的量大得多。
此外,由于在JP-A-Hei 08-70473中公开的技术中为每个像素测量所述距离,所以距离测量处理的负担大,不利的是,这使得难以将该技术应用于运动图像数据。
期望提供一种使得距离测量处理负担较小并且产生具有较小量的距离信息的图像数据的图像压缩装置和图像压缩方法。
根据本发明的实施例,提供了一种图像压缩装置,该装置包括:第一成像部件,用于拍摄被摄体的图像以产生第一图像信号;第二成像部件,用于拍摄所述被摄体的图像以产生第二图像信号;第一编码部件,用于对第一成像部件产生的第一图像信号进行编码,以产生第一图像数据;第二编码部件,用于对第二成像部件产生的第二图像信号进行编码,以产生第二图像数据;第一距离测量部件,用于在第一成像部件执行图像拍摄的同时针对每个图像块测量到所述被摄体的距离,以产生第一距离信息;第二距离测量部件,用于在第二成像部件执行图像拍摄的同时针对每个图像块测量到所述被摄体的距离,以产生第二距离信息;第一复用部件,用于基于第一编码部件产生的第一图像数据和第一距离测量部件测量的距离产生第一复用数据,第一复用数据是通过复用第一距离数据和第一图像数据而产生的,第一距离数据是基于第一距离信息而产生的数据并且表示对于第一图像数据中的每个预定义像素块而言的到所述被摄体的距离;第二复用部件,用于基于第二编码部件产生的第二图像数据和第二距离测量部件测量的距离产生第二复用数据,第二复用数据是通过复用第二距离数据和第二图像数据而产生的,第二距离数据是基于第二距离信息而产生的数据并且表示对于第二图像数据中的每个预定义像素块而言的到所述被摄体的距离;压缩处理部件,用于减小第一复用数据和第二复用数据的量,以产生压缩数据。压缩处理部件通过基于包含在第一复用部件产生的第一复用数据中的第一距离数据来提取第一图像数据中的到所述被摄体的距离大于预定阈值的远距离块,基于包含在第二复用部件产生的第二复用数据中的第二距离数据来提取第二图像数据中的远距离块,计算第一复用数据中的远距离块和第二复用数据中的远距离块之间的差,删除第一复用数据或第二复用数据中的与二者中的另一方的复用数据中的对应的远距离块相同的远距离块,来产生所述压缩数据。
根据本发明的另一实施例,提供了一种图像压缩方法,包括以下步骤:拍摄被摄体的图像以产生第一图像信号和第二图像信号,同时针对每个图像块测量到所述被摄体的距离以产生第一距离信息和第二距离信息;对在图像拍摄和测量步骤中产生的第一图像信号和第二图像信号进行编码,以产生第一图像数据和第二图像数据;通过复用第一距离数据和第一图像数据产生第一复用数据,第一距离数据是基于第一距离信息而产生的数据并且表示对于第一图像数据中的每个预定义像素块而言的到所述被摄体的距离,并且通过复用第二距离数据和第二图像数据产生第二复用数据,第二距离数据是基于第二距离信息而产生的数据并且表示对于第二图像数据中的每个预定义像素块而言的到所述被摄体的距离;以及通过基于包含在第一复用数据中的第一距离数据来提取第一图像数据中的到所述被摄体的距离大于预定阈值的远距离块,基于包含在第二复用数据中的第二距离数据来提取第二图像数据中的远距离块,计算第一复用数据中的远距离块和第二复用数据中的远距离块之间的差,删除第一复用数据或第二复用数据中的与二者中的另一方的复用数据中的对应的远距离块相同的远距离块,来产生压缩数据。
附图说明
图1是示出了根据第一实施例的图像压缩装置的示例性构造的框图;
图2A示出了第一实施例的压缩处理部件如何根据距离数据压缩两个复用数据,并示出了复用数据中的一个的图像部分;
图2B示出了第一实施例的压缩处理部件如何根据距离数据压缩两个复用数据,并示出了复用数据中的另一个的图像部分;
图3A示出了压缩处理部件执行的压缩处理的时间压缩效果,并示出了第一时刻产生的复用数据中的一个的图像部分;
图3B示出了压缩处理部件执行的压缩处理的时间压缩效果,并示出了与图3A的图像部分同时产生的复用数据中的另一个的图像部分;
图3C示出了压缩处理部件执行的压缩处理的时间压缩效果,并示出了在比第一时刻晚的第二时刻产生的复用数据中的一个的图像部分;
图3D示出了压缩处理部件执行的压缩处理的时间压缩效果,并示出了与图3C的图像部分同时产生的复用数据中的另一个的图像部分;
图4是示出了产生根据第一实施例的图像压缩装置的三维图像的示例性操作的流程图;
图5示出了根据第二实施例的图像压缩装置的示例性构造;
图6A示出了第二实施例的压缩处理部件如何根据各个复用数据中嵌入的距离数据来压缩四个复用数据,并示出了第一复用数据的图像部分;
图6B示出了第二实施例的压缩处理部件如何根据各个复用数据中嵌入的距离数据来压缩四个复用数据,并示出了第二复用数据的图像部分
图6C示出了第二实施例的压缩处理部件如何根据各个复用数据中嵌入的距离数据来压缩四个复用数据,并示出了第三复用数据的图像部分;以及
图6D示出了第二实施例的压缩处理部件如何根据各个复用数据中嵌入的距离数据来压缩四个复用数据,并示出了第四复用数据的图像部分。
具体实施方式
在下文中,将针对本发明的实施例进行说明。
<第一实施例>
图1是示出根据第一实施例的图像压缩装置100的示例性构造的框图。
如图1所示,第一实施例的图像压缩装置100包括成像部件1A(对应于本发明的第一成像部件)、成像部件1B(对应于本发明的第二成像部件)、编码部件2A(对应于本发明的第一编码部件)、编码部件2B(对应于本发明的第二编码部件)、距离测量传感器3A(对应于本发明的第一距离测量部件)、距离测量传感器3B(对应于本发明的第二距离测量部件)、距离信息处理部件4A、距离信息处理部件4B、复用部件5A(对应于本发明的第一复用部件)、复用部件5B(对应于本发明的第二复用部件)、压缩处理部件6(对应于本发明的压缩处理部件)、存储部件7和输出部件8。
如上所述,第一实施例的图像压缩装置100包括两个成像部件、两个编码部件、两个距离测量传感器、两个距离信息处理部件和两个复用部件。该构造允许获取两个图像数据,即,将由右眼观看的图像数据和将由左眼观看的图像数据。
下面描述各个组件的细节。
成像部件1A拍摄被摄体的图像以产生图像信号201A,并且成像部件1A可以是诸如数字静态照相机或数字视频摄像机的成像装置。
编码部件2A压缩由成像部件1A产生的图像信号201A,用于转换成数字图像数据202A。例如,编码部件2A可以使用诸如MPEG1、MPEG2、MPEG4、DivX(DivX公司的注册商标)、Xvid和WMV9的图像编码技术。在这个实施例中,编码部件2A使用MPEG作为图像编码技术。
距离测量传感器3A附于成像部件1A,并且当成像部件1A拍摄被摄体的图像时测量到被摄体的距离,然后输出测量的距离作为距离信息203A。距离测量传感器3A例如可以是通过红外线或超声波来测量距离的传感器。距离测量传感器3A针对从由成像部件1A的所有像素组成的预定义像素块提取的像素,测量到被摄体的距离。
例如,对于上述的预定义像素块,距离测量传感器3A可使用在MPEG1和MPEG2中使用的宏块(16×16像素)和块(8×8像素)。即,在对每个宏块执行距离测量的情况下,例如,可针对成像部件1A的每16×16像素设置距离测量传感器3A的各距离测量元件。
即,在对每个宏块执行距离测量的情况下,例如,可以准备这样的距离测量传感器3A,该距离测量传感器3A具有与由编码部件2A产生的数字图像数据202A中的宏块的数量相同的数量的距离测量元件。例如,距离测量传感器3A的多个距离测量元件可按矩阵布置,以与各个宏块对应。
距离信息处理部件4A根据距离测量传感器3A产生的距离信息203A产生距离数据204A。由于距离信息处理部件4A产生的距离数据204A是基于距离测量传感器3A产生的距离信息203A的,所以针对编码部件2A产生的数字图像数据202A中的每个预定义像素块产生距离数据204A。
复用部件5A对编码部件2A产生的数字图像数据202A与距离信息处理部件4A产生的距离数据204A进行复用,以产生复用数据205A。在复用数据205A中,例如,数字图像数据202A中的每个预定义像素块已被嵌入了与该块对应的距离数据204A。
成像部件1B至复用部件5B的构造与上述的成像部件1A至复用部件5A的构造分别基本相同。然而,应该指出的是,成像部件1B产生图像信号201B,编码部件2B产生数字图像数据202B,距离测量传感器3B产生距离信息203B,距离信息处理部件4B产生距离数据204B,复用部件5B产生复用数据205B。
成像部件1A和1B被构造为同时执行图像拍摄。这是因为例如成像部件1A拍摄将由右眼观看的被摄体的图像,成像部件1B拍摄将由左眼观看的被摄体的图像,以基于两个视差图像产生三维图像。另外,成像部件1A和1B距离被摄体的距离相等。
压缩处理部件6重新压缩复用数据205A和205B以产生较小量的压缩数据206。后面将详细描述压缩处理部件6使用的压缩方案。
存储部件7是用于存储压缩处理部件6产生的压缩数据206的存储器。
输出部件8将压缩处理部件6产生的压缩数据206经由预定传输路径输出到外部。例如,基于输出的压缩数据206,三维图像产生装置(未示出)产生三维图像数据。然而,应该指出的是,本发明不限制如何根据压缩数据206来产生三维图像数据。例如,可利用在过去使用的技术来产生三维图像数据。
现在,将针对压缩处理部件6如何重新压缩两个复用数据205A和205B进行描述。
图2A和2B示出了如何根据距离数据204A和204B来压缩两个复用数据205A和205B。
图2A示出了复用数据205A的图像部分。在这个实施例中,图2A示出的复用数据205A是两个视差图像中的将由左眼观看的图像(在下文中称作“左眼图像”)。
图2A示出的图像已经被编码部件2A(在这个实施例中,利用MPEG)进行了压缩编码。图2A中示出的每个块(在这个实施例中,为16×16像素的宏块)被提供有该块的距离数据204A,该距离数据204A指示到在该块中拍摄的被摄体的距离。
在图2A中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。压缩处理部件6通过参照每个块的距离数据204A来确定到被摄体的距离是近还是远。可根据由距离数据204A表示的到被摄体的距离是短于或长于一固定阈值(例如,20米)来确定该距离是近还是远。该阈值可以改变,并且例如可以是通过将图像中的所有块的到被摄体的平均距离加倍而获得的值。在一个块既包括位于近距离处的被摄体又包括位于远距离处的背景的情况下,该块的距离可被确定为近。
图2B示出了复用数据205B的图像部分。在这个实施例中,图2B示出的复用数据205B是两个视差图像中的将由右眼观看的图像(在下文中称作“右眼图像”)。在图2B中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。
压缩处理部件6计算图2B示出的右眼图像中的到被摄体距离远的块(在下文中称作“远距离块”)和图2A示出的左眼图像中的远距离块之间的差。图2B中示出的标注X的块是提取作为差的远距离块,即,仅存在于图2B示出的右眼图像中的远距离块。
然后,压缩处理部件6消除图2B示出的右眼图像中的与图2A示出的左眼图像中的对应块相同的远距离块。即,从左眼图像和右眼图像中的一个图像中消除既存在于右眼图像又存在于左眼图像中的远距离块。当具有被消除的远距离块的图像要被解压缩时,对在另一图像中与被消除的远距离块对应的远距离块进行参照和复制,以替换被消除的远距离块。允许参照与被消除的远距离块对应的剩余远距离块的信息被称作“参照信息”。本发明不限制参照信息的格式和样式。
因此,压缩处理部件6产生的压缩数据包含与近距离块相关的数据、与左眼图像和右眼图像共有的远距离块相关的数据以及与不是左眼图像和右眼图像共有的远距离块相关的数据,作为图像部分。
由于按照这种方式可以消除两个视差图像之一中的远距离块的数据(图像数据和距离数据),所以可以显著地减少信息量。
在上面的描述中,右眼图像中的共有远距离块被消除,而左眼图像中的远距离块被保留以供参照。然而,本发明不限于此,相反,左眼图像中的共有远距离块可被消除,而右眼图像中的远距离块可被保留以供参照。
压缩处理部件6执行的压缩处理对时间上的压缩也是有效的。
图3A至3D示出了压缩处理部件6执行的压缩处理的时间压缩效果。
图3A示出了在第一时刻产生的复用数据205A的图像部分,在下文中称作“左眼图像T1”。图3B示出了与图3A的左眼图像同时产生的复用数据205B的图像部分,在下文中称作“右眼图像T1”。
图3C示出了在比第一时刻晚的第二时刻(例如在下一帧)产生的复用数据205A的图像部分,在下文中称作“左眼图像T2”。图3D示出了与图3C的左眼图像同时产生的复用数据205B的图像部分,在下文中称作“右眼图像T2”。
例如,压缩处理部件6计算图3A中示出的左眼图像T1和图3C中示出的左眼图像T2之间的差,以通过运动补偿技术执行时间压缩。即,消除了左眼图像T2中的与左眼图像T1中的对应的远距离块相同的远距离块,并且适当地提供参照信息,该参照信息允许参照左眼图像T1中的块以再现左眼图像T2中对应的被消除的远距离块。
同时,对于右眼图像T1和右眼图像T2,压缩处理部件6不计算所述差,而仅仅通过参照相应的左眼图像消除远距离块来执行压缩。
在计算右眼图像T1和右眼图像T2之间的差来执行时间压缩的情况下,通过参照右眼图像T1中的对应块来解码右眼图像T2中的被消除的块,所述被消除的块进而通过参照左眼图像T1而被获得。在这种情况下,在差计算过程中出现的误差累积,这可能降低差替换(differential substitution)的准确性,因此降低将被再现的图像的质量。因此,压缩处理部件6不计算右眼图像的时间上的差,而是通过参照左眼图像来压缩右眼图像,有效地减少信息量。
现在,将描述产生根据第一实施例的图像压缩装置100的三维图像的示例性操作。
图4是示出了产生根据第一实施例的图像压缩装置100的三维图像的示例性操作的流程图。
步骤ST1:
成像部件1A和距离测量传感器3A彼此同步地工作,在同时分别拍摄被摄体的图像以及测量到该被摄体的距离。成像部件1A产生图像信号201A,距离测量传感器3A产生距离信息203A。同时,成像部件1B和距离测量传感器3B也彼此同步地工作,分别产生图像信号201B和距离信息203B。
步骤ST2:
编码部件2A(2B)利用诸如MPEG的图像编码技术对成像部件1A(1B)产生的图像数据201A(201B)进行压缩编码,以产生数字图像数据202A(202B)。
步骤ST3:
距离信息处理部件4A(4B)将指示在步骤ST1中由距离测量传感器3A(3B)测量的距离的距离信息203A(203B)转换成距离数据204A(204B)。
步骤ST4:
复用部件5A(5B)针对每个预定义像素块和每个帧将在步骤ST2产生的数字图像数据202A(202B)和在步骤ST3产生的距离数据204A(204B)复用,以产生复用数据205A(205B)。例如,复用方案的示例包括将距离数据204A(204B)嵌入在数字图像数据202A(202B)的头部中。
步骤ST5:
压缩处理部件6对在步骤ST4产生的复用数据205A和205B进行压缩(减少复用数据的信息量),以产生压缩数据206。
步骤ST6:
存储部件7存储在步骤ST5产生的压缩数据206。
步骤ST7:
输出部件8通过预定的传输路径将在步骤ST5产生的压缩数据206输出。
应该指出的是,步骤ST6和ST7可以按不同的顺序执行。即,输出部件8可以在存储部件7存储压缩数据206之前或者在存储部件7存储压缩数据206的同时输出压缩数据206。
如以上所描述的,在第一实施例的图像压缩装置100中,编码部件2A(2B)压缩表示成像部件1A(1B)拍摄的图像的图像信号201A(201B),以产生数字图像数据202A(202B)。在与成像部件1A(1B)执行图像拍摄的同时,距离测量传感器3A(3B)测量到被摄体的距离,以产生距离信息203A(203B)。距离信息处理部件4A(4B)基于距离信息203A(203B)产生距离数据204A(204B)。复用部件5A(5B)将数字图像数据202A(202B)与距离数据204A(204B)复用,以产生复用数据205A(205B)。压缩处理部件6基于复用数据205A和205B消除复用数据205A和205B中的一个中的远距离块,以产生较小量的压缩数据206。
根据第一实施例的图像压缩装置100,当将两个视差图像的图像数据和与该图像数据对应的距离数据进行复用以产生复用数据时,消除了视差图像中的一个的远距离部分的图像数据和对应的距离数据。因此,能够显著地减少复用数据的信息量,并且能够降低以下情况的可能性:存储部件7的大部分容量在其存储压缩数据206时被占用,并且输出部件8的输出传输路径的大部分带宽在其输出压缩数据206时被占用。
<第二实施例>
在下文中,将描述根据本发明的第二实施例的图像压缩装置101。
根据第二实施例的图像压缩装置101的示例性构造在图5中示出。
图5示出了根据第二实施例的图像压缩装置101的示例性构造。
如图5所示,第二实施例的图像压缩装置101包括成像部件1C、1D、1E和1F、编码部件2C、2D、2E和2F、距离测量传感器3C、3D、3E和3F、距离信息处理部件4C、4D、4E和4F、复用部件5C、 5D、5E和5F、压缩处理部件6’、存储部件7和输出部件8。
第二实施例的图像压缩装置101与第一实施例的图像压缩装置100的不同之处在于包括四个成像部件、四个编码部件、四个距离测量传感器、四个距离信息处理部件和四个复用部件,如图5所示。除了以上提及的组件之外的组件(压缩处理部件6’、存储部件7和输出部件8)在第二实施例的图像压缩装置101与第一实施例的图像压缩装置100之间基本相同。
下面描述第二实施例的图像压缩装置101的各个组件的细节,主要集中在与第一实施例的图像压缩装置100的各个对应组件的不同之处。
成像部件1C、1D、1E和1F拍摄被摄体的图像,以分别产生图像信号201C、201D、201E和201F,并且成像部件1C、1D、1E和1F中的每个例如可以是诸如数字静态照相机和数字视频摄像机的成像装置。
成像部件1C和1D位于与被摄体的距离相等之处。成像部件1E和1F也位于与被摄体的距离相等之处。然而,应该指出的是,成像部件1C(1D)与成像部件1E(1F)位于与被摄体的距离不同之处。具体的讲,例如,成像部件1E和1F可位于距所述被摄体的距离比成像部件1C和1D远预定距离之处。利用这种配置,当拍摄单个被摄体的图像时,可产生两个距离的图像信号。
编码部件2C、2D、2E和2F分别压缩由成像部件1C、1D、1E和1F产生的图像信号201C、201D、201E和201F,用于转换成数字图像数据202C、202D、202E和202F。例如,编码部件2C、2D、2E和2F可以使用诸如MPEG1、MPEG2、MPEG4、DivX(DivX公司的注册商标)、Xvid和WMV9的图像编码技术。
距离测量传感器3C、3D、3E和3F附于成像部件1C、1D、1E和1F,并且当成像部件1C、1D、1E和1F拍摄被摄体的图像时测量到所述被摄体的距离,并分别输出测量的距离作为距离信息203C、203D、203E和203F。距离测量传感器3C、3D、3E和3F例如可以是通过红外线或超声波来测量距离的传感器。距离测量传感器3C、3D、3E和3F分别针对从由成像部件1C、1D、1E和1F的所有像素组成的预定义像素块提取的像素,测量到被摄体的距离。
例如,对于上述的预定义像素块,与第一实施例的距离测量传感器3A和3B所做的一样,距离测量传感器3C、3D、3E和3F可使用在MPEG1和MPEG2中使用的宏块(16×16像素)和块(8×8像素)。即,在对每个宏块执行距离测量的情况下,例如,可分别对成像部件1C、1D、1E和1F的每16×16像素设置距离测量传感器3C、3D、3E和3F的各距离测量元件。
即,在对每个宏块执行距离测量的情况下,例如,可准备这样的距离测量传感器3C、3D、3E和3F,其具有与由编码部件2C、2D、2E和2F分别产生的数字图像数据202C、202D、202E和202F中的宏块的数量相同的数量的距离测量元件。例如,距离测量传感器3C、3D、3E和3F的多个距离测量元件可按矩阵布置,以与各个宏块对应。
距离测量传感器3C和3D距被摄体的距离与距离测量传感器3E和3F距所述被摄体的距离不同。因此,例如,距离测量传感器的距离测量元件的数量可根据距所述被摄体的距离而变化。即,对于更靠近被摄体的距离测量传感器,距离测量元件的数量可增多;而对于离所述被摄体较远的距离测量传感器,距离测量元件的数量可减少。
距离信息处理部件4C、4D、4E和4F分别基于距离测量传感器3C、3D、3E和3F产生的距离信息203C、203D、203E和203F,产生距离数据204C、204D、204E和204F。由于距离信息处理部件4C、4D、4E和4F产生的距离数据204C、204D、204E和204F是分别基于距离测量传感器3C、3D、3E和3F产生的距离信息203C、203D、203E和203F的,所以针对编码部件2C、2D、2E和2F产生的数字图像数据202C、202D、202E和202F中的每个预定义像素块,分别产生距离数据204C、204D、204E和204F。
复用部件5C、5D、5E和5F分别将编码部件2C、2D、2E和2F产生的数字图像数据202C、202D、202E和202F与距离信息处理部件4C、4D、4E和4F产生的距离数据204C、204D、204E和204F进行复用,以产生复用数据205C、205D、205E和205F。例如,在复用数据205C、205D、205E和205F中,数字图像数据202C、202D、202E和202F中的每个预定义像素块已经被分别嵌入了与该块对应的距离数据204C、204D、204E和204F。
压缩处理部件6’重新压缩复用数据205C、205D、205E和205F,以产生较小量的压缩数据206’。后面将详细描述压缩处理部件6’使用的压缩方案。
存储部件7是用于存储压缩处理部件6’产生的压缩数据206’的存储器。
输出部件8将压缩处理部件6’产生的压缩数据206’经由预定的传输路径输出到外部。
利用如上所述构造的第二实施例的图像压缩装置101,可在两个距离处获得两个视差图像。这使得可以基于第二实施例的图像压缩装置101产生的压缩数据来产生更立体的三维图像。
下面描述第二实施例的压缩处理部件6’执行的压缩处理。
图6A至6D示出了如何基于嵌入在各个复用数据中的距离数据204C、204D、204E和204F来压缩四个复用数据205C、205D、205E和205F。
图6A示出了复用数据205C的图像部分。在第二实施例中,图6A中示出的复用数据205C是四个视差图像中将由左眼观看的图像(左眼图像)。
图6A中示出的图像已经被编码部件2C(在这个实施例中,利用MPEG)进行了压缩编码。图6A中示出的每个块(在这个实施例中,为16×16像素的宏块)被提供有该块的距离数据204C,该距离数据204C表示到在该块中拍摄的被摄体的距离。
在图6A中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。压缩处理部件6’通过参照每个块的距离数据204C来确定到被摄体的距离是近还是远。可根据由距离数据204C表示的到被摄体的距离是短于或长于一固定阈值(例如,20米)来确定该距离是近还是远。该阈值可变,并且例如可以是通过将图像中的所有块的到被摄体的平均距离加倍而获得的值。在一个块既包括位于近距离处的被摄体又包括位于远距离处的背景的情况下,该块的距离可被确定为近。
图6B示出了复用数据205D的图像部分。在这个实施例中,图6B示出的复用数据205D是四个视差图像中的将由右眼观看的图像(右眼图像)。在图6B中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。
图6C示出了复用数据205E的图像部分。在这个实施例中,图6C中示出的复用数据205E是在与复用数据205C不同的距离处拍摄的左眼图像。当产生复用数据205C和205D的图像信号时从成像部件1C和1D到被摄体的距离被定义为第一距离L1,并且产生复用数据205E的图像信号时从成像部件1E到所述被摄体的距离被定义为第一距离L2时,那么满足L1<L2的关系。另外在图6C中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。
图6D示出了复用数据205F的图像部分。在这个实施例中,图6D中示出的复用数据205F是在与复用数据205E一样的第二距离L2处拍摄的右眼图像。另外,在图6D中,到被摄体的距离近的块用灰色着色,而到被摄体的距离远的块用白色着色。
如图6A和图6B所示,压缩处理部件6’通过与第一实施例相同的压缩处理从包含在第一距离L1处获得的图像信号的复用数据205C和205D的图像部分提取远距离块。然后,压缩处理部件6’计算复用数据205C和205D的图像部分之间的差,以消除复用数据205D中的与复用数据205C中的对应的远距离块相同的远距离块。这时,适当设置参照信息,所述参照信息允许参照与被消除的远距离块对应的剩余的远距离块。当然,原样地保留不相同的块。
同样地,如图6C和图6D所示,压缩处理部件6’从包含在第二距离L2处获得的图像信号的复用数据205E和205F的图像部分提取远距离块。然后,压缩处理部件6’计算复用数据205E和205F的图像部分之间的差,以消除复用数据中的一个复用数据中的与另一个复用数据中的对应的远距离块相同远距离块,减小了信息量。另外,适当设置参照信息,所述参照信息允许参照与被消除的远距离块对应的剩余的远距离块。
然后,压缩处理部件6’计算图6A中示出的复用数据205C的图像部分和图6C中示出的复用数据205E的图像部分之间的差,以从这两个复用数据中的一个复用数据中消除在这两个复用数据之间相同的远距离块。在假定第一距离L1和第二距离L2之间的差不太大的情况下执行该消除,因此,在第一距离L1处获得的复用数据205C中的远距离块和在第二距离L2处获得的复用数据205E中的远距离块之间的差不大。因此,在第二实施例的图像压缩装置101中,成像部件1C(1D)和成像部件1E(1F)以下面的方式定位,即,使得从成像部件1C(1D)到被摄体的距离L1与从成像部件1E(1F)到所述被摄体的距离L2之间的差不大。
在这个实施例中,例如,消除了图6C中示出的复用数据205E中的与对应的远距离块相同的远距离块。这时,压缩处理部件6’产生参照信息,并提供该参照信息来代替被消除的远距离块,其中,所述参照信息允许参照复用数据205C中的与复用数据205E中的被消除的远距离块对应的远距离块。
如上所述,根据第二实施例的图像压缩装置101,压缩处理部件6’执行压缩处理,以消除四个复用数据205C、205D、205E和205F中的三个复用数据的图像部分中的远距离块,并提供允许参照剩余的对应远距离块的参照信息。因此,由于消除的远距离块,可以显著地减少信息量。
本发明不限于上述的实施例。
即,在不脱离本发明的技术范围或执行本发明的等同物的范围的情况下,可以按各种方式修改或改变上述实施例的组成元件。
尽管在第二实施例的图像压缩装置101中,两个成像部件位于与被摄体的距离相同之处,两个另外的成像部件位于距所述被摄体的距离不同之处,但是本发明不限于此。即,可提供任意数量的成像部件对。在这种情况下,可根据成像部件的数量来确定编码部件、距离测量传感器、距离信息处理部件和复用部件的数量。
本发明包含与2008年6月26日在日本专利局提交的第JP2008-167752号日本在先权专利申请中的公开的主题有关的主题,该申请的全部内容通过引用包含于此。

Claims (3)

1、一种图像压缩装置,包括:
第一成像部件,用于拍摄被摄体的图像以产生第一图像信号;
第二成像部件,用于拍摄所述被摄体的图像以产生第二图像信号;
第一编码部件,用于对第一成像部件产生的第一图像信号进行编码,以产生第一图像数据;
第二编码部件,用于对第二成像部件产生的第二图像信号进行编码,以产生第二图像数据;
第一距离测量部件,用于在第一成像部件执行图像拍摄的同时针对每个图像块测量到所述被摄体的距离,以产生第一距离信息;
第二距离测量部件,用于在第二成像部件执行图像拍摄的同时针对每个图像块测量到所述被摄体的距离,以产生第二距离信息;
第一复用部件,用于基于第一编码部件产生的第一图像数据和第一距离测量部件测量的距离产生第一复用数据,第一复用数据是通过复用第一距离数据和第一图像数据而产生的,第一距离数据是基于第一距离信息而产生的数据并且表示对于第一图像数据中的每个预定义像素块而言的到所述被摄体的距离;
第二复用部件,用于基于第二编码部件产生的第二图像数据和第二距离测量部件测量的距离产生第二复用数据,第二复用数据是通过复用第二距离数据和第二图像数据而产生的,第二距离数据是基于第二距离信息而产生的数据并且表示对于第二图像数据中的每个预定义像素块而言的到所述被摄体的距离;
压缩处理部件,用于减小第一复用数据和第二复用数据的量,以产生压缩数据,
其中,压缩处理部件通过基于包含在第一复用部件产生的第一复用数据中的第一距离数据来提取第一图像数据中的到所述被摄体的距离大于预定阈值的远距离块,基于包含在第二复用部件产生的第二复用数据中的第二距离数据来提取第二图像数据中的远距离块,计算第一复用数据中的远距离块和第二复用数据中的远距离块之间的差,删除第一复用数据或第二复用数据中的与二者中的另一方的复用数据中的对应的远距离块相同的远距离块,来产生所述压缩数据。
2、根据权利要求1所述的图像压缩装置,
其中,当删除第一复用数据或第二复用数据中的与二者中的另一方的复用数据中的对应的远距离块相同的远距离块时,压缩处理部件产生参照信息并向所述压缩数据提供所产生的参照信息,所述参照信息允许参照所述另一复用数据中的与被删除的远距离块相同的远距离块。
3、一种图像压缩方法,包括以下步骤:
拍摄被摄体的图像以产生第一图像信号和第二图像信号,同时针对每个图像块测量到所述被摄体的距离以产生第一距离信息和第二距离信息;
对在图像拍摄和测量步骤中产生的第一图像信号和第二图像信号进行编码,以产生第一图像数据和第二图像数据;
通过复用第一距离数据和第一图像数据产生第一复用数据,第一距离数据是基于第一距离信息而产生的数据并且表示对于第一图像数据中的每个预定义像素块而言的到所述被摄体的距离,并且通过复用第二距离数据和第二图像数据产生第二复用数据,第二距离数据是基于第二距离信息而产生的数据并且表示对于第二图像数据中的每个预定义像素块而言的到所述被摄体的距离;以及
通过基于包含在第一复用数据中的第一距离数据来提取第一图像数据中的到所述被摄体的距离大于预定阈值的远距离块,基于包含在第二复用数据中的第二距离数据来提取第二图像数据中的远距离块,计算第一复用数据中的远距离块和第二复用数据中的远距离块之间的差,删除第一复用数据或第二复用数据中的与二者中的另一方的复用数据中的对应的远距离块相同的远距离块,来产生压缩数据。
CN2009101415542A 2008-06-26 2009-06-04 图像压缩装置和图像压缩方法 Expired - Fee Related CN101616240B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008167752 2008-06-26
JP2008167752A JP4483983B2 (ja) 2008-06-26 2008-06-26 画像圧縮装置及び画像圧縮方法
JP2008-167752 2008-06-26

Publications (2)

Publication Number Publication Date
CN101616240A true CN101616240A (zh) 2009-12-30
CN101616240B CN101616240B (zh) 2011-12-07

Family

ID=41165717

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009101415542A Expired - Fee Related CN101616240B (zh) 2008-06-26 2009-06-04 图像压缩装置和图像压缩方法

Country Status (4)

Country Link
US (1) US8204319B2 (zh)
EP (1) EP2139241A3 (zh)
JP (1) JP4483983B2 (zh)
CN (1) CN101616240B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102236052A (zh) * 2010-03-30 2011-11-09 索尼公司 间接雷达全息设备及相应的方法
CN102687515A (zh) * 2010-10-27 2012-09-19 松下电器产业株式会社 三维图像插补装置、三维摄像装置以及三维图像插补方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5576739B2 (ja) * 2010-08-04 2014-08-20 オリンパス株式会社 画像処理装置、画像処理方法、撮像装置及びプログラム
JP6512575B2 (ja) * 2015-03-03 2019-05-15 芳隆 大吉 三次元形状情報の配信または放送の方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1986003924A1 (en) * 1984-12-17 1986-07-03 Nippon Hoso Kyokai System for transmitting stereoscopic television pictures
US5625408A (en) * 1993-06-24 1997-04-29 Canon Kabushiki Kaisha Three-dimensional image recording/reconstructing method and apparatus therefor
JPH0870473A (ja) 1994-08-29 1996-03-12 Nippon Telegr & Teleph Corp <Ntt> 距離情報を用いた立体画像の通信方式
US5612735A (en) * 1995-05-26 1997-03-18 Luncent Technologies Inc. Digital 3D/stereoscopic video compression technique utilizing two disparity estimates
US6191761B1 (en) * 1998-11-09 2001-02-20 University Of Washington Method and apparatus for determining optical distance
US6606406B1 (en) * 2000-05-04 2003-08-12 Microsoft Corporation System and method for progressive stereo matching of digital images
US6573912B1 (en) * 2000-11-07 2003-06-03 Zaxel Systems, Inc. Internet system for virtual telepresence
KR100446635B1 (ko) * 2001-11-27 2004-09-04 삼성전자주식회사 깊이 이미지 기반 3차원 객체 표현 장치 및 방법
CN100386649C (zh) * 2005-08-25 2008-05-07 中国船舶重工集团公司第七一五研究所 合成孔径三维声成像方法
KR100667810B1 (ko) * 2005-08-31 2007-01-11 삼성전자주식회사 3d 영상의 깊이감 조정 장치 및 방법
CN100470255C (zh) * 2006-04-21 2009-03-18 清华大学 基于多视子图像对的单通道合成孔径雷达动目标检测方法
US7553411B2 (en) 2006-12-22 2009-06-30 Tetra Holding (Us), Inc. Filter cartridge

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102236052A (zh) * 2010-03-30 2011-11-09 索尼公司 间接雷达全息设备及相应的方法
CN102687515A (zh) * 2010-10-27 2012-09-19 松下电器产业株式会社 三维图像插补装置、三维摄像装置以及三维图像插补方法
CN102687515B (zh) * 2010-10-27 2015-07-15 杜比国际公司 三维图像插补装置、三维摄像装置以及三维图像插补方法

Also Published As

Publication number Publication date
EP2139241A2 (en) 2009-12-30
JP2010011066A (ja) 2010-01-14
US8204319B2 (en) 2012-06-19
EP2139241A3 (en) 2013-10-02
JP4483983B2 (ja) 2010-06-16
US20090324114A1 (en) 2009-12-31
CN101616240B (zh) 2011-12-07

Similar Documents

Publication Publication Date Title
KR100742674B1 (ko) 화상데이터 전송시스템, 그의 화상데이터 송신장치, 및그의 화상데이터 수신장치
JP4591548B2 (ja) 画像符号化装置及び画像符号化方法
JP6630891B2 (ja) 明視野画像ファイルを符号化および復号するためのシステムおよび方法
US10389997B2 (en) Image processing apparatus and image processing method
CN101416520B (zh) 多视图的高效编码
Martinian et al. Extensions of H. 264/AVC for multiview video compression
CN102939763B (zh) 计算三维图像的视差
US5617334A (en) Multi-viewpoint digital video coder/decoder and method
US8994792B2 (en) Method and system for creating a 3D video from a monoscopic 2D video and corresponding depth information
KR20060130450A (ko) 영상 송신 및 수신 방법과 장치 및 이의 전송 스트림 구조
CN101945216B (zh) 摄像装置和动态图像再现方法
CN101616240B (zh) 图像压缩装置和图像压缩方法
JP6206559B2 (ja) 復号装置、復号方法、プログラム、および記録媒体
CN1672432B (zh) 用于编码数字视频信号的方法和设备
JP2006140618A (ja) 3次元映像情報記録装置及びプログラム
JP7171169B2 (ja) ライトフィールド・コンテンツを表す信号を符号化する方法および装置
EP2485495A2 (en) Method and system for creating a 3D video from a monoscopic 2D video and corresponding depth information
KR100871226B1 (ko) 스테레오 이미지를 효율적으로 저장하는 방법 및 장치
JPH09139829A (ja) 3次元画像ファクシミリ装置
KR101044952B1 (ko) 영상 송신 및 수신 방법과 장치 및 이의 전송 스트림 구조
CN119135863A (zh) 信号处理方法及装置、处理设备、存储介质、程序产品
KR101419419B1 (ko) 모노스코픽 2d 비디오 및 대응하는 깊이 정보로부터 3d 비디오를 생성하기 위한 방법 및 시스템
JP2021044659A (ja) 符号化装置、復号装置、及びプログラム
KR101086437B1 (ko) 영상 송신 및 수신 방법과 장치 및 이의 전송 스트림 구조
CN116325721A (zh) 用于编码和解码多视图视频的方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20111207

Termination date: 20150604

EXPY Termination of patent right or utility model