CN103503450A - 图像编码方法、图像编码装置、图像解码方法、图像解码装置及图像编解码装置 - Google Patents

Abstract

一种图像编码方法，通过按照每个块对图像进行编码来生成比特流，该图像编码方法包括：决定步骤（S201），决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤（S202），导出第1合并候选；判定步骤（S204），判定第1合并候选的数量是否小于最大数；第2导出步骤（S205），在判定为第1合并候选的数量小于最大数的情况下，导出第2合并候选；选择步骤（S206），从第1合并候选和第2合并候选中选择在进行编码对象块的编码时使用的合并候选；以及编码步骤（S207），使用最大数对用于确定所选择的合并候选的索引进行编码，将被编码后的索引附加在比特流中。

Description

图像编码方法、图像编码装置、图像解码方法、图像解码装置及图像编解码装置

技术领域

本发明涉及图像编码方法及图像解码方法。

背景技术

在运动图像编码处理中，通常利用运动图像具有的空间方向及时间方向的冗余性进行信息量的压缩。其中，作为利用空间方向的冗余性的方法通常采用向频域的变换。另外，作为利用时间方向的冗余性的方法，采用图片间预测（以后称为帧间（inter）预测）编码处理。当在帧间预测编码处理中对某个图片进行编码时，将按照显示顺序位于编码对象图片的前方或者后方的已编码的图片用作参照图片。并且，通过相对于该参照图片的编码对象图片的运动检测来导出运动矢量。并且，根据所导出的运动矢量进行运动补偿，并计算通过运动补偿而得到的预测图像数据与编码对象图片的图像数据之差分，由此消除时间方向的冗余性（例如，参照非专利文献1）。在此，在运动检测中，计算编码图片内的编码对象块与参照图片内的块的差分值，将差分值为最小的参照图片内的块决定为参照块。并且，使用编码对象块和参照块检测运动矢量。

现有技术文献

非专利文献

非专利文献1：ITU-T Recommendation H.264“Advanced video coding forgeneric audiovisual services”,2010年3月

非专利文献2：JCT-VC,“WD3:Working Draft 3 of High-Efficiency VideoCoding”,JCTVC-E603,March 2011.

发明概要

发明要解决的问题

但是，在上述现有技术中，期望提高采用帧间预测的图像编码及解码的错误容限（error tolerance）。

发明内容

本发明的目的在于，提供一种图像编码方法及图像解码方法，能够提高采用帧间预测的图像编码及解码的错误容限。

用于解决问题的手段

本发明的一个方式的图像编码方法，通过按照每个块对图像进行编码来生成比特流，该图像编码方法包括：决定步骤，决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤，导出第1合并候选；判定步骤，判定所述第1合并候选的数量是否小于所述最大数；第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；选择步骤，从所述第1合并候选和所述第2合并候选中选择在进行所述编码对象块的编码时使用的合并候选；以及编码步骤，使用所决定的所述最大数对用于确定所选择的所述合并候选的索引进行编码，将被编码后的所述索引附加在所述比特流中。

另外，本发明的全盘或者具体的方式也能够以系统、方法、集成电路、计算机程序或者计算机能够读取的CD-ROM（Compact Disc Read OnlyMemory）等存储介质的方式来实现，还能够以系统、方法、集成电路、计算机程序及存储介质的任意组合的方式来实现。

发明效果

根据本发明的一个方式，能够提高采用帧间预测的图像编码及解码的错误容限。

附图说明

图1A是用于说明B图片中的参照图片列表的一例的图。

图1B是表示B图片中的预测方向0的参照图片列表的一例的图。

图1C是表示B图片中的预测方向1的参照图片列表的一例的图。

图2是用于说明时间预测运动矢量模式中的运动矢量的图。

图3是表示在合并模式中使用的邻接块的运动矢量的一例的图。

图4是用于说明合并块候选列表的一例的图。

图5是表示合并块候选尺寸与对合并块索引分配的比特序列的关系的图。

图6是表示使用合并模式时的编码处理的一例的流程图。

图7是表示使用合并模式对图像进行编码的图像编码装置的结构的一例的图。

图8是表示使用合并模式时的解码处理的一例的流程图。

图9是表示对使用合并模式被编码后的图像进行解码的图像解码装置的结构的一例的图。

图10是表示将合并块索引附加在比特流中时的句法的图。

图11是表示实施方式1的图像编码装置的结构的块图。

图12是表示实施方式1的图像编码装置的处理动作的流程图。

图13是表示实施方式1的合并块候选列表的一例的图。

图14是表示实施方式1的合并块候选及合并块候选列表尺寸的计算处理的流程图。

图15是表示实施方式1的可合并候选数的更新处理的流程图。

图16是表示实施方式1的新候选的追加处理的流程图。

图17是表示实施方式1的与合并块候选的选择相关的处理的流程图。

图18是表示实施方式2的图像编码装置的结构的块图。

图19是表示实施方式2的图像编码装置的处理动作的流程图。

图20是表示实施方式3的图像解码装置的结构的块图。

图21是表示实施方式3的图像解码装置的处理动作的流程图。

图22是表示实施方式3的合并块候选列表尺寸的设定处理的流程图。

图23是表示实施方式3的合并块候选的计算处理的流程图。

图24是表示将合并块索引附加在比特流中时的句法的一例的图。

图25是表示将合并块候选列表尺寸固定为合并块候选数的最大值时的句法的一例的图。

图26是表示实施方式4的图像解码装置的结构的块图。

图27是表示实施方式4的图像解码装置的处理动作的流程图。

图28是实现内容分发服务的内容供给系统的整体结构图。

图29是数字广播用系统的整体结构图。

图30是表示电视机的结构例的模块图。

图31是表示对作为光盘的记录介质进行信息的读写的信息再现/记录部的结构例的模块图。

图32是表示作为光盘的记录介质的构造例的图。

图33A是表示便携电话的一例的图。

图33B是表示便携电话的结构例的模块图。

图34是表示复用数据的结构的图。

图35是示意地表示各流在复用数据中怎样被复用的图。

图36是更详细地表示在PES包序列中视频流怎样被保存的图。

图37是表示复用数据的TS包和源包的构造的图。

图38是表示PMT的数据结构的图。

图39是表示复用数据信息的内部结构的图。

图40是表示流属性信息的内部结构的图。

图41是表示识别影像数据的步骤的图。

图42是表示实现各实施方式的运动图像编码方法及运动图像解码方法的集成电路的结构例的模块图。

图43是表示切换驱动频率的结构的图。

图44是表示识别影像数据、切换驱动频率的步骤的图。

图45是表示将影像数据的标准与驱动频率建立了对应的查找表的一例的图。

图46A是表示将信号处理部的模块共用的结构的一例的图。

图46B是表示将信号处理部的模块共用的结构的另一例的图。

具体实施方式

（作为本发明的基础的见解）

在已经标准化的被称为H.264的运动图像编码方式中，为了压缩信息量而采用I图片、P图片、B图片这三种图片类型。

I图片在帧间预测编码处理中不被编码。也就是说，I图片是在图片内预测（以后称为帧内（intra）预测）编码处理中被编码。对于P图像，参照按照显示时间顺序位于编码对象图片的前方或者后方的已编码的一个图片进行帧间预测编码。对于B图片，参照按照显示事件顺序位于编码对象图片的前方或者后方的已编码的两个图片进行帧间预测编码。

在帧间预测编码中，生成用于确定参照图片的参照图片列表。参照图片列表是对在进行帧间预测时参照的已编码的参照图片分配了参照图片索引的列表。例如，在B图片中能够参照两个图片进行编码，因而生成两个参照图片列表（L0、L1）。

图1A是用于说明B图片中的参照图片列表的一例的图。图1B表示双向预测中的预测方向0的参照图片列表0（L0）的一例。其中，在参照图片列表0中，参照图片索引0的值0被分配给显示顺序2的参照图片0。并且，参照图片索引0的值1被分配给显示顺序1的参照图片1。并且，参照图片索引0的值2被分配给显示顺序0的参照图片2。即，按照显示顺序在时间上越接近编码对象图片的参照图片，被分配具有越小的值的参照图片索引。

另一方面，图1C表示双向预测中的预测方向1的参照图片列表1（L1）的一例。其中，在参照图片列表1中，参照图片索引1的值0被分配给显示顺序1的参照图片1。并且，参照图片索引1的值1被分配给显示顺序2的参照图片0。并且，参照图片索引2的值2被分配给显示顺序0的参照图片2。

这样，针对各参照图片，能够按照每个预测方向分配不同的参照图片索引的值（图1A的参照图片0、1）、或者分配相同的参照图片索引的值（图1A的参照图片2）。

另外，在被称为H.264的运动图像编码方式（非专利文献1）中，B图片中的各编码对象块的帧间预测的编码模式采用运动矢量检测模式。在运动矢量检测模式中，预测图像数据与编码对象块的图像数据的差分值、以及在生成预测图像数据时使用的运动矢量被进行编码。并且，在运动矢量检测模式中，关于预测方向能够选择双向预测和单向预测。在双向预测中，参照位于编码对象图片的前方或者后方的已经被编码的两个图片来生成预测图像。在单向预测中，参照位于编码对象图片的前方或者后方的已经被编码的一个图片来生成预测图像。

另外，在被称为H.264的运动图像编码方式中，当在对B图片进行编码中导出运动矢量时，能够选择被称为时间预测运动矢量模式的编码模式。使用图2说明时间预测运动矢量模式中的帧间预测编码方法。

图2是用于说明时间预测运动矢量模式中的运动矢量的图。具体地讲，图2表示以时间预测运动矢量模式对图片B2的块a进行编码的情况。

在此，利用了在对位于图片B2后方的参照图片即图片P3中的、位于与块a相同位置的块b（以后称为“co-located块”）进行编码时使用的运动矢量vb。运动矢量vb是在参照图片P1对块b进行编码时使用的运动矢量。

使用与运动矢量vb平行的运动矢量，从作为前方参照图片的图片P1和作为后方参照图片的图片P3取得块a用的两个参照块。并且，根据所取得的两个参照块进行双向预测，由此对块a进行编码。即，在对块a进行编码时使用的运动矢量，针对图片P1是指运动矢量va1，针对图片P3是指运动矢量va2。

另外，关于B图片或者P图片中的各编码对象块的帧间预测模式，正在研究合并模式（非专利文献2）。在合并模式中，复制在对编码对象块的邻接块进行编码时使用的预测方向、运动矢量及参照图片索引，来进行编码对象块的编码。此时，在复制时使用的矢量块的索引等被附加在比特流中。因此，能够在解码侧选择在进行编码时使用的运动方向、运动矢量及参照图片索引。关于具体示例，参照图3进行说明。

图3是表示在合并模式中使用的邻接块的运动矢量的一例的图。在图3中，邻接块A是编码对象块的左侧邻接的已编码块。邻接块B是编码对象块的上侧邻接的已编码块。邻接块C是编码对象块的右上侧邻接的已编码块。邻接块D是编码对象块的左下侧邻接的已编码块。

并且，邻接块A是按照预测方向0的单向预测被进行了编码的块。邻接块A具有预测方向0的运动矢量MvL0_A，作为针对预测方向0的参照图片索引RefL0_A所示出的参照图片的运动矢量。其中，MvL0表示参照利用参照图片列表0（L0）所确定的参照图片的运动矢量。并且，MvL1表示参照利用参照图片列表1（L1）所确定的参照图片的运动矢量。

另外，邻接块B是按照预测方向1的单向预测被进行了编码的块。邻接块B具有预测方向1的运动矢量MvL1_B，作为针对预测方向1的参照图片索引RefL1_B所示出的参照图片的运动矢量。

另外，邻接块C是按照帧内预测被进行了编码的块。

另外，邻接块D是按照预测方向0的单向预测被进行了编码的块。邻接块D具有预测方向0的运动矢量MvL0_D，作为针对预测方向0的参照图片索引RefL0_D所示出的参照图片的运动矢量。

在这种情况下，例如从邻接块A～D的预测方向、运动矢量和参照图片索引、以及使用co-located块求出的基于时间预测运动矢量模式的预测方向、运动矢量和参照图片索引中，选择编码效率最好的预测方向、运动矢量和参照图片索引，作为编码对象块的预测方向、运动矢量和参照图片索引。并且，表示所选择的预测方向、运动矢量和参照图片索引的块的合并块索引被附加在比特流中。

例如，在选择了邻接块A的情况下，使用预测方向0的运动矢量MvL0_A和参照图片索引RefL0_A对编码对象块进行编码。并且，只有表示如图4所示的使用了邻接块A的合并块索引的值0被附加在比特流中。由此，能够削减预测方向、运动矢量和参照图片索引的信息量。

并且，如图4所示，在合并模式中，不能用于编码的候选（以后称为“不能合并候选”）、或者预测方向、运动矢量及参照图片索引的组合彼此一致的候选（以后称为“重复候选”），被从合并块候选中删除。

这样，通过削减合并块候选数量，能够削减分配给合并块索引的代码量。其中，所谓不能进行合并是指合并块候选（1）是按照帧内预测已被编码后的块、（2）是包括编码对象块的切片（slice）或者图片的边界外的块、或者（3）是尚未被进行编码的块等。

在图4的示例中，按照帧内预测对邻接块C进行编码。因此，合并块索引3的合并块候选是不能合并候选，被从合并块候选列表中删除。另外，邻接块D的预测方向、运动矢量及参照图片索引与邻接块A一致。因此，合并块索引4的合并块候选被从合并块候选列表中删除。其结果是，最终的合并块候选数量是3，合并块候选列表的列表尺寸被设定为3。

如图5所示，合并块索引按照合并块候选列表尺寸的大小被分配比特序列，并被实施可变长度编码。这样，在合并模式中，使分配给合并模式索引的比特序列根据合并块候选列表尺寸的大小而变化，由此削减代码量。

图6是表示使用合并模式时的编码处理的一例的流程图。在步骤S1001，从邻接块和co-located块取得合并块候选的运动矢量、参照图片索引和预测方向。在步骤S1002，从合并块候选中删除重复候选和不能合并候选。在步骤S1003，将删除处理后的合并块候选数量设定为合并块候选列表尺寸。在步骤S1004，决定在进行编码对象块的编码时使用的合并块索引。在步骤S1005，使用根据合并块候选列表尺寸而决定的比特序列，对所决定的合并块索引进行可变长度编码。

图7表示使用合并模式对图像进行编码的图像编码装置1000的结构的一例。图像编码装置1000具有加法部1001、正交变换部1002、量化部1003、逆量化部1004、逆正交变换部1005、加法部1006、块存储器1007、帧存储器1008、帧内预测部1009、帧间预测部1010、帧间预测控制部1011、图片类型决定部1012、开关1013、合并块候选计算部1014、colPic存储器1015、和可变长度编码部1016。

在图7中，合并块候选计算部1014计算合并块候选。并且，合并块候选计算部1014将计算出的合并块候选数发送给可变长度编码部1016。可变长度编码部1016将合并块候选数设定为作为编码参数的合并块候选列表尺寸。并且，可变长度编码部1016对在进行编码时使用的合并块索引分配与合并块候选列表尺寸对应的比特序列，并对所分配的比特序列进行可变长度编码。

图8是表示使用合并模式时的解码处理的一例的流程图。在步骤S2001，从邻接块和co-located块取得合并块候选的运动矢量、参照图片索引和预测方向。在步骤S2002，从合并块候选中删除重复候选和不能合并候选。在步骤S2003，将删除处理后的合并块候选数量设定为合并块候选列表尺寸。在步骤S2004，使用合并块候选列表尺寸对比特流中在进行解码对象块的解码时使用的合并块索引进行解码。在步骤S2005，使用被解码后的合并块索引所示出的合并块候选，生成预测图像并进行解码处理。

图9表示对使用合并模式被编码后的图像进行解码的图像解码装置2000的结构的一例。图像解码装置2000具有可变长度解码部2001、逆量化部2002、逆正交变换部2003、加法部2004、块存储器2005、帧存储器2006、帧内预测部2007、帧间预测部2008、帧间预测控制部2009、开关2010、合并块候选计算部2011和colPic存储器2012。

在图9中，合并块候选计算部2011计算合并块候选。并且，合并块候选计算部2011将计算出的合并块候选的数量（合并块候选数）发送给可变长度解码部2001。可变长度解码部2001将合并块候选数设定为作为解码参数的合并块候选列表尺寸。并且，可变长度解码部2001使用合并块候选列表尺寸对包含于比特流中的合并块索引进行解码。

图10表示将合并块索引附加在比特流中时的句法。在图10中，merge_idx表示合并块索引。merge_flag表示合并标志。NumMergeCand表示合并块候选列表尺寸。对该NumMergeCand设定有从合并块候选中删除不能合并候选和重复候选后的合并块候选数。

按照以上所述，使用合并模式对图像进行编码或者解码。

但是，在上述的合并模式中，对于在对合并块索引进行编码或者解码时使用的合并块候选列表尺寸，设定合并块候选数。该合并块候选数能够在使用包括co-located块等在内的参照图片信息删除不能合并候选或者重复候选后得到。

因此，当在图像编码装置和图像解码装置中产生合并块候选数不一致的情况下等，对合并块索引分配的比特序列在图像编码装置和图像解码装置中产生不一致。其结果是，存在图像解码装置不能对比特流进行正确解码的情况。

例如，在作为co-located块而参照的参照图片的信息由于在传输路径等中产生的包损耗等而丢失的情况下，将导致co-located块的运动矢量或者参照图片索引不明确。因此，从co-located块生成的合并块候选的信息不明确。在这种情况下，在进行解码时将不能从合并块候选中准确删除不能合并候选或者重复候选。其结果是，图像解码装置不能正确求出合并块候选列表尺寸，进而不能正确对合并块索引进行解码。

因此，本发明的一个方式的图像编码方法，通过按照每个块对图像进行编码来生成比特流，该图像编码方法包括：决定步骤，决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤，导出第1合并候选；判定步骤，判定所述第1合并候选的数量是否小于所述最大数；第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；选择步骤，从所述第1合并候选和所述第2合并候选中选择在进行所述编码对象块的编码时使用的合并候选；以及编码步骤，使用所决定的所述最大数对用于确定所选择的所述合并候选的索引进行编码，将被编码后的所述索引附加在所述比特流中。

根据该方式，能够使用所决定的最大数对用于确定合并候选的索引进行编码。即，能够在不依据实际导出的合并候选的数量的情况下对索引进行编码。因此，即使是导出合并候选所需要的信息（例如co-located块等的信息）丢失的情况下，也能够在解码侧对索引进行解码，并能够提高错误容限。另外，在解码侧，能够在不依据实际导出的合并候选的数量的情况下对索引进行解码。即，在解码侧，不需等待合并候选的导出处理，即可进行索引的解码处理。即，能够生成能够并行进行合并候选的导出处理和索引的解码处理的比特流。

另外，根据该方式，能够在判定为第1合并候选的数量小于最大数的情况下导出第2合并候选。因此，能够在不超过最大数的范围内增加合并候选的数量，能够提高编码效率。

例如，也可以是，在所述第1导出步骤中，导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为所述第1合并候选。

根据该方式，能够将预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选重复的合并候选，从第1合并候选中排除。其结果是，能够增加第2合并候选的数量，能够增加作为合并候选而能选择的预测方向、运动矢量及参照图片索引的组合的种类。因此，能够进一步提高编码效率。

例如，也可以是，在所述第1导出步骤中，根据在对与所述编码对象块在空间上或者时间上邻接的块进行编码时使用的预测方向、运动矢量及参照图片索引，导出所述第1合并候选。

根据该方式，能够根据在对与编码对象块在空间上或者时间上邻接的块进行编码时使用的预测方向、运动矢量及参照图片索引，导出第1合并候选。

例如，也可以是，在所述第1导出步骤中，导出在对与所述编码对象块在空间上邻接的块之中、除已按照帧内预测被进行了编码的块、位于包括所述编码对象块的切片或者图片的边界外的块、以及尚未被进行编码的块之外的块进行编码时使用的预测方向、运动矢量及参照图片索引，作为所述第1合并候选。

根据该方式，能够从适合于得到合并候选的块导出第1合并候选。

例如，也可以是，在所述第2导出步骤中，导出预测方向、运动矢量及参照图片索引中的至少一个与所述第1合并候选不同的合并候选，作为所述第2合并候选。

根据该方式，能够导出预测方向、运动矢量及参照图片索引中的至少一个与第1合并候选不同的合并候选，作为第2合并候选。因此，能够增加预测方向、运动矢量及参照图片索引的组合不同的合并候选，能够进一步提高编码效率。

例如，也可以是，在所述编码步骤中，还将表示所决定的所述最大数的信息附加在所述比特流中。

根据该方式，能够将表示所决定的最大数的信息附加在比特流中。因此，能够以合适的单位切换最大数，能够提高编码效率。

例如，也可以是，所述图像编码方法还包括：切换步骤，将编码处理切换为依据于第1标准的第1编码处理或者依据于第2标准的第2编码处理；以及附加步骤，将表示被切换后的所述编码处理所依据的所述第1标准或者所述第2标准的识别信息附加在所述比特流中，在所述编码处理被切换为所述第1编码处理的情况下，作为所述第1编码处理，执行所述决定步骤、所述第1导出步骤、所述判定步骤、所述第2导出步骤、所述选择步骤、和所述编码步骤。

根据该方式，能够切换依据于第1标准的第1编码处理和依据于第2标准的第2编码处理。

另外，本发明的一个方式的图像解码方法按照每个块对包含于比特流中的编码图像进行解码，该图像解码方法包括：决定步骤，决定合并候选的最大数，该合并候选是在进行解码对象块的解码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤，导出第1合并候选；判定步骤，判定所述第1合并候选的数量是否小于所述最大数；第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；解码步骤，使用所决定的所述最大数对用于确定合并候选的索引进行解码，该索引是被附加在所述比特流中的已被编码的索引；以及选择步骤，根据被解码后的所述索引，从所述第1合并候选和所述第2合并候选中选择在进行所述解码对象块的解码时使用的合并候选。

根据该方式，能够使用所决定的最大数对用于确定合并候选的索引进行解码。即，能够在不依据实际导出的合并候选的数量的情况下对索引进行解码。因此，即使是导出合并候选所需要的信息（例如co-located块等的信息）丢失的情况下，也能够对索引进行解码，并能够提高错误容限。另外，不需等待合并候选的导出处理，即可进行索引的解码处理，也能够并行进行合并候选的导出处理和索引的解码处理。

另外，根据该方式，能够在判定为第1合并候选的数量小于最大数的情况下导出第2合并候选。因此，能够在不超过最大数的范围内增加合并候选的数量，能够适当地对提高了编码效率的比特流进行解码。

例如，也可以是，在所述第1导出步骤中，导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为所述第1合并候选。

根据该方式，能够将预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选重复的合并候选，从第1合并候选中排除。其结果是，能够增加第2合并候选的数量，能够增加作为合并候选而能选择的预测方向、运动矢量及参照图片索引的组合的种类。因此，能够适当地对进一步提高了编码效率的比特流进行解码。

例如，也可以是，在所述第1导出步骤中，根据在对与所述解码对象块在空间上或者时间上邻接的块进行解码时使用的预测方向、运动矢量及参照图片索引，导出所述第1合并候选。

根据该方式，能够根据在对与解码对象块在空间上或者时间上邻接的块进行解码时使用的预测方向、运动矢量及参照图片索引，导出第1合并候选。

例如，也可以是，在所述第1导出步骤中，导出在对与所述解码对象块在空间上邻接的块之中、除已按照帧内预测被进行了解码的块、位于包括所述解码对象块的切片或者图片的边界外的块、以及尚未被进行解码的块之外的块进行解码时使用的预测方向、运动矢量及参照图片索引，作为所述第1合并候选。

根据该方式，能够从适合于得到合并候选的块导出第1合并候选。

例如，也可以是，在所述第2导出步骤中，导出预测方向、运动矢量及参照图片索引中的至少一个与所述第1合并候选不同的合并候选，作为所述第2合并候选。

根据该方式，能够导出预测方向、运动矢量及参照图片索引中的至少一个与第1合并候选不同的合并候选，作为第2合并候选。因此，能够增加预测方向、运动矢量及参照图片索引的组合不同的合并候选，能够适当地对进一步提高了编码效率的比特流进行解码。

例如，也可以是，在所述决定步骤中，根据表示被附加在所述比特流中的最大数的信息，决定所述最大数。

根据该方式，能够根据被附加在比特流中的信息来决定最大数。因此，能够以合适的单位切换最大数，并对已被编码的图像进行解码。

例如，也可以是，所述图像解码方法还包括切换步骤，根据被附加在所述比特流中的表示第1标准或者第2标准的识别信息，将解码处理切换为依据于所述第1标准的第1解码处理或者依据于所述第2标准的第2解码处理，在所述解码处理被切换为第1解码处理的情况下，作为所述第1解码处理，执行所述决定步骤、所述第1导出步骤、所述判定步骤、所述第2导出步骤、所述解码步骤、和所述选择步骤。

根据该方式，能够切换依据于第1标准的第1解码处理和依据于第2标准的第2解码处理。

另外，本发明的全盘或者具体的方式也能够以系统、方法、集成电路、计算机程序或者计算机能够读取的CD-ROM等存储介质的方式来实现，还能够以系统、方法、集成电路、计算机程序及存储介质的任意组合的方式来实现。

下面，参照附图具体说明本发明的一个方式的图像编码装置和图像解码装置。

另外，下面说明的实施方式均用于示出本发明的一个具体示例。在下面的实施方式中示出的数值、形状、材料、构成要素、构成要素的配置位置及连接方式、步骤、步骤的顺序等仅是一例，其主旨不是限定本发明。并且，关于下面的实施方式的构成要素中、没有在表示本发明的最上位概念的独立权利要求中记载的构成要素，作为任意的构成要素进行说明。

（实施方式1）

图11是表示实施方式1的图像编码装置100的结构的块图。图像编码装置100通过按照每个块对图像进行编码来生成比特流。

图像编码装置100如图11所示具有加法部101、正交变换部102、量化部103、逆量化部104、逆正交变换部105、加法部106、块存储器107、帧存储器108、帧内预测部109、帧间预测部110、帧间预测控制部111、图片类型决定部112、开关113、合并块候选计算部114、colPic存储器115、和可变长度编码部116。

加法部101对于每个块，从包含于输入图像列中的输入图像数据减去预测图像数据，由此生成预测误差数据。

正交变换部102对所生成的预测误差数据进行从图像区域向频域的变换。

量化部103对被变换到频域中的预测误差数据进行量化处理。

逆量化部104对由量化部103进行量化处理后的预测误差数据进行逆量化处理。

逆正交变换部105对于被实施逆量化处理后的预测误差数据，进行从频域向图像区域的变换。

加法部106对于每个块，将预测图像数据、和由逆正交变换部105进行逆量化处理后的预测误差数据相加，由此生成重构建图像数据。

在块存储器107中以块单位保存重构建图像数据。

在帧存储器108中以帧单位保存重构建图像数据。

图片类型决定部112决定按照I图片、B图片、P图片中的哪种图片类型对输入图像数据进行编码。并且，图片类型决定部112生成表示所决定的图片类型的图片类型信息。

帧内预测部109使用在块存储器107中保存的块单位的重构建图像数据进行帧内预测，由此生成编码对象块的帧内预测图像数据。

帧间预测部110使用在帧存储器108中保存的帧单位的重构建图像数据、和通过运动检测等导出的运动矢量进行帧间预测，由此生成编码对象块的帧间预测图像数据。

在编码对象块被实施帧内预测编码的情况下，开关113将由帧内预测部109生成的帧内预测图像数据作为编码对象块的预测图像数据输出给加法部101和加法部106。另一方面，在编码对象块被实施了帧间预测编码的情况下，开关113将由帧间预测部110生成的帧间预测图像数据作为编码对象块的预测图像数据输出给加法部101和加法部106。

合并块候选计算部114使用编码对象块的邻接块的运动矢量等、以及被存储在colPic存储器115中的co-located块的运动矢量等（colPic信息），导出合并模式的合并块候选。并且，合并块候选计算部114利用后述的方法计算可合并候选数。

并且，合并块候选计算部114对所导出的合并块候选分配合并块索引的值。并且，合并块候选计算部114将合并块候选和合并块索引发送给帧间预测控制部111。并且，合并块候选计算部114将计算出的可合并候选数发送给可变长度编码部116。

帧间预测控制部111选择使用通过运动检测而导出的运动矢量的预测模式（运动检测模式）、和使用从合并块候选导出的运动矢量的预测模式（合并模式）中、能够得到最小的预测误差的预测模式。并且，帧间预测控制部111将表示预测模式是否是合并模式的合并标志发送给可变长度编码部116。并且，在选择了合并模式作为预测模式的情况下，帧间预测控制部111将与所决定的合并块候选对应的合并块索引发送给可变长度编码部116。另外，帧间预测控制部111将包括编码对象块的运动矢量等的colPic信息传输给colPic存储器115。

可变长度编码部116对被实施量化处理后的预测误差数据、及合并标志和图片类型信息进行可变长度编码处理，由此生成比特流。并且，可变长度编码部116将可合并候选数设定为合并块候选列表尺寸。并且，可变长度编码部116对在进行编码时使用的合并块索引分配与合并块候选列表尺寸对应的比特序列，并对所分配的比特序列进行可变长度编码。

图12是表示实施方式1的图像编码装置100的处理动作的流程图。

在步骤S101，合并块候选计算部114从编码对象块的邻接块及co-loctaed块中导出合并块候选。并且，合并块候选计算部114利用后述的方法计算合并块候选列表尺寸。

例如，在如图3所示的情况下，合并块候选计算部114选择邻接块A～D作为合并块候选。另外，合并块候选计算部114计算具有按照时间预测模式从co-loctaed块的运动矢量计算出的运动矢量、参照图片索引和预测方向的co-loctaed合并块，作为合并块候选。

合并块候选计算部114按照图13（a）所示对各合并块候选分配合并块索引。并且，合并块候选计算部114利用后述的方法进行不能合并候选及重复候选的删除、和新候选的追加，由此计算如图13（b）所示的合并块候选列表和合并块候选列表尺寸。

合并块索引在其值越小时被分配越短的代码。即，在合并块索引的值较小的情况下，合并块索引所需要的信息量减少。

另一方面，在合并块索引的值增大时，合并块索引所需要的信息量增大。因此，如果对具有精度更高的运动矢量和参照图片索引的可能性较大的合并块候选，分配值较小的合并块索引，则编码效率提高。

因此，也可以是，合并块候选计算部114例如对于每个合并块候选测定被选择为合并块的次数，对其次数较多的块分配值较小的合并块索引。具体地讲，可以考虑确定在邻接块中被选择的合并块，在进行对象块的编码时，减小针对所确定的合并块的合并块索引的值。

另外，在不具有运动矢量等的信息的情况下（对于按照帧内预测被实施编码的块、位于图片或切片的边界外等的块、或者尚未被实施编码的块等），合并块候选不能被用于编码。

在本实施方式中，将不能用于编码的合并块候选称为不能合并候选。并且，将能够用于编码的合并块候选称为可合并候选。并且，在多个合并块候选中，将运动矢量、参照图片索引及预测方向全部与其它任意一个合并块候选一致的候选称为重复候选。

在图3所示的情况下，邻接块C是按照帧内预测被实施编码的块，因而设为不能合并候选。另外，邻接块D由于其运动矢量、参照图片索引和预测方向全部与邻接块A一致，因而设为重复候选。

在步骤S102，帧间预测控制部111利用后述的方法，将使用通过运动检测而导出的运动矢量生成的预测图像的预测误差、和使用从合并块候选得到的运动矢量生成的预测图像的预测误差进行比较，并选择预测模式。在此，如果所选择的预测模式是合并模式，帧间预测控制部111将合并标志设定为1，否则将合并标志设定为0。

在步骤S103，判定合并标志是否为1（即，预测模式是否是合并模式）。

在此，如果步骤S103的判定结果为真（S103：是），在步骤S104，可变长度编码部116将合并标志附加在比特流中。另外，在步骤S105，可变长度编码部116对在进行编码时使用的合并块候选的合并块索引分配如图5所示的与合并块候选列表尺寸对应的比特序列。并且，可变长度编码部116对所分配的比特序列进行可变长度编码。

另一方面，如果步骤S103的判定结果为假（S103：否），在步骤S106，可变长度编码部116将合并标志和运动检测矢量模式的信息附加在比特流中。

在本实施方式中，如图13（a）所示，对与邻接块A对应的合并块索引的值分配“0”。另外，对与邻接块B对应的合并块索引的值分配“1”。另外，对与co-loctaed合并块对应的合并块索引的值分配“2”。另外，对与邻接块C对应的合并块索引的值分配“3”。另外，对与邻接块D对应的合并块索引的值分配“4”。

另外，合并块索引的值的分配方式不限于该示例。例如，在使用后述的方法追加了新候选的情况下等，可变长度编码部116也可以对原来的合并块候选分配较小的值，而对新候选分配较大的值。即，可变长度编码部116也可以优先对原来的合并块候选分配较小的值的合并块索引。

另外，合并块候选不一定局限于邻接块A～D的位置。例如，也可以将位于左下邻接块D的上方的邻接块等用作合并块候选。另外，不需要一定将所有的邻接块用作合并块候选。例如，也可以仅将邻接块A、B用作合并块候选。

另外，在本实施方式中，在图12的步骤S105，可变长度编码部116将合并块索引附加在比特流中，但不需要一定将合并块索引附加在比特流中。例如，在合并块候选列表尺寸为“1”的情况下，可变长度编码部116也可以不将合并块索引附加在比特流中。由此，能够削减合并块索引的信息量。

图14是表示图12的步骤S101的具体处理的流程图。具体地讲，图14表示计算合并块候选及合并块候选列表尺寸的方法。下面，对图14进行说明。

在步骤S111，合并块候选计算部114利用后述的方法判定合并块候选[N]是否是可合并候选。并且，合并块候选计算部114按照判定结果更新可合并候选数。

其中，N是用于表示各合并块候选的索引值。在本实施方式中，N取0～4的值。具体地讲，对合并块候选[0]分配图3的邻接块A。并且，对合并块候选[1]分配图3的邻接块B。并且，对合并块候选[2]分配co-located合并块。并且，对合并块候选[3]分配图3的邻接块C。并且，对合并块候选[4]分配图3的邻接块D。

在步骤S112，合并块候选计算部114取得合并块候选[N]的运动矢量、参照图片索引和预测方向，并追加在合并块候选列表中。

在步骤S113，合并块候选计算部114按照图13所示从合并块候选列表中检索并删除不能合并候选和重复候选。

在步骤S114，合并块候选计算部114利用后述的方法将新候选追加在合并块候选列表中。在此，在追加新候选时，合并块候选计算部114也可以进行合并块索引的值的再分配，以便优先对原来存在的合并块候选分配较小的值的合并块索引。即，也可以是，合并块候选计算部114进行合并块索引的值的再分配，使得对新候选分配数值较大的合并块索引。由此，能够削减合并块索引的代码量。

在步骤S115，合并块候选计算部114将在步骤S111计算出的可合并候选数设定为合并块候选列表尺寸。在图13的示例中，利用后述的方法计算出可合并候选数为“4”，合并块候选列表尺寸被设定为“4”。

另外，所谓步骤S114的新候选是指在合并块候选数未达到可合并候选数的情况下，利用后述的方法重新追加在合并块候选中的候选。例如，新候选也可以是图3中位于左下邻接块D的上方的邻接块。并且，新候选例如也可以是与co-located块的邻接块A～D对应的块。另外，新候选例如也可以是参照图片的画面整体或者一定区域中的具有运动矢量、参照图片索引和预测方向的统计值等的块。这样，在合并块候选数未达到可合并候选数的情况下，合并块候选计算部114通过追加具有新的运动矢量、参照图片索引和预测方向的新候选，能够提高编码效率。

图15是表示图14的步骤S111的具体处理的流程图。具体地讲，图15表示判定合并块候选[N]是否是可合并候选，并更新可合并候选数的方法。下面，对图15进行说明。

在步骤S121，合并块候选计算部114判定合并块候选[N]是否是（1）按照帧内预测被实施了编码的块、或者（2）位于包括编码对象块的切片或者图片的边界外的块、或者（3）尚未被实施编码的块。

在此，如果步骤S121的判定结果为真（S121：是），在步骤S122，合并块候选计算部114将合并块候选[N]设定为不能合并候选。另一方面，如果步骤S121的判定结果为假（S121：否），在步骤S123，合并块候选计算部114将合并块候选[N]设定为可合并候选。

在步骤S124，合并块候选计算部114判定合并块候选[N]是否是可合并候选或者co-located合并块候选。在此，如果步骤S124的判定结果为真（S124：是），在步骤S125，合并块候选计算部114将合并块候选数加1来更新合并块候选数。另一方面，如果步骤S124的判定结果为假（S124：否），合并块候选计算部114不更新可合并候选数。

这样，在合并块候选是co-located合并块的情况下，无论co-located合并块是可合并候选还是不能合并候选，合并块候选计算部114都将可合并候选数加1。由此，即使是co-located合并块的信息由于包损失等而丢失的情况下，在图像编码装置和图像解码装置中也不会产生可合并候选数的不一致。

该可合并候选数在图14的步骤S115被设定为合并块候选列表尺寸。另外，在图12的步骤S105，合并块候选列表尺寸被用于合并块索引的可变长度编码中。由此，即使是丢失了包括co-located块等的参照图片信息的情况下，图像编码装置100也能够生成能够正常对合并块索引进行解码的比特流。

图16是表示图14的步骤S114的具体处理的流程图。具体地讲，图16表示追加新候选的方法。下面，对图16进行说明。

在步骤S131，合并块候选计算部114判定合并块候选数是否小于可合并候选数。即，合并块候选计算部114判定合并块候选数是否未达到可合并候选数。

在此，如果步骤S131的判定结果为真（S131：是），在步骤S132，合并块候选计算部114判定是否存在能够作为合并块候选被追加在合并块候选列表中的新候选。在此，如果步骤S132的判定结果为真（S132：是），在步骤S133，合并块候选计算部114对新候选分配合并块索引的值，并将新候选追加在合并块候选列表中。另外，在步骤S134，合并块候选计算部114将合并块候选数加1。

另一方面，如果步骤S131或者步骤S132的判定结果为假（S131或者S132：否），结束新候选追加处理。即，在合并块候选数已达到可合并候选数的情况下、或者不存在新候选的情况下，结束新候选追加处理。

图17是表示图12的步骤S102的具体处理的流程图。具体地讲，图17表示与合并块候选的选择相关的处理。下面，对图17进行说明。

在步骤S141，帧间预测控制部111对合并块候选索引设定0，对最小预测误差设定运动矢量检测模式的预测误差（成本），对合并标志设定0。在此，关于成本例如利用R-D最优化模型的下式进行计算。

（式1）

Cost=D+λR

在式1中，D表示编码失真。例如，D采用使用根据某个运动矢量生成的预测图像对编码对象块进行编码及解码而得到的像素值、与编码对象块的原来的像素值之差分绝对值和等。另外，R表示产生代码量。R采用对在生成预测图像时使用的运动矢量进行编码所需要的代码量等。另外，λ表示拉格朗日的未定乘数。

在步骤S142，帧间预测控制部111判定合并块候选索引的值是否小于编码对象块的合并块候选数。即，帧间预测控制部111判定是否存在还没有进行下面的步骤S143～S145的处理的合并块候选。

在此，如果步骤S142的判定结果为真（S142：是），在步骤S143，帧间预测控制部111计算被分配了合并块候选索引的合并块候选的成本。并且，在步骤S144，帧间预测控制部111判定计算出的合并块候选的成本是否小于最小预测误差。

在此，如果步骤S144的判定结果为真（S144：是），在步骤S145，帧间预测控制部111更新最小预测误差、合并块索引及合并标志的值。另一方面，如果步骤S144的判定结果为假（S144：否），帧间预测控制部111不更新最小预测误差、合并块索引及合并标志的值。

在步骤S146，帧间预测控制部111将合并块候选索引的值加1，反复进行步骤S142～S146的处理。

另一方面，如果步骤S142的判定结果为假（S142：否），即，如果不存在未处理的合并块候选，在步骤S147，帧间预测控制部111确定最终设定的合并标志及合并块索引的值。

这样，根据本实施方式的图像编码装置100，能够利用不依赖于包括co-located块等的参照图片信息的方法，计算在对合并块索引进行编码或者解码时使用的合并块候选列表尺寸。由此，图像编码装置100能够提高错误容限。

更具体地讲，本实施方式的图像编码装置100无论co-located合并块是否是可合并候选，只要合并块候选是co-located合并块，则始终将可合并候选数加1。并且，图像编码装置100使用这样计算出的可合并候选数决定对合并块索引分配的比特序列。因此，即使是丢失了包括co-located块的参照图片信息的情况下，图像编码装置100也能够生成能够正常将合并块索引解码的比特流。

另外，在合并块候选数未达到可合并候选数的情况下，本实施方式的图像编码装置100通过追加具有新的运动矢量、参照图片索引和预测方向的新候选作为合并块候选，能够提高编码效率。

另外，在本实施方式中示出了在合并模式时合并标志始终被附加在比特流中的示例，但不限于此。例如，也可以根据在进行编码对象块的帧间预测时使用的块形状等强制选择合并模式。在这种情况下，也可以不将合并标志附加在比特流中，由此削减信息量。

另外，在本实施方式中示出了采用合并模式的示例，在该合并模式中，从编码对象块的邻接块复制预测方向、运动矢量和参照图片索引来进行编码对象块的编码，但不必限定于此。例如，也可以采用跳跃合并模式。在跳跃合并模式中，使用如图13（b）所示生成的合并块候选列表，与合并模式相同地从编码对象块的邻接块复制预测方向、运动矢量和参照图片索引来进行编码对象块的编码。如果其结果是编码对象块的所有预测误差数据为0，将跳跃标志设定为1，将跳跃标志和合并块索引附加在比特流中。另外，如果预测误差数据不是0，将跳跃标志设定为0，将跳跃标志、合并标志、合并块索引和预测误差数据附加在比特流中。

另外，在本实施方式中示出了采用合并模式的示例，在该合并模式中，从编码对象块的邻接块复制预测方向、运动矢量和参照图片索引来进行编码对象块的编码，但不限于此。例如，也可以使用如图13（b）所示而生成的合并块候选列表对运动矢量检测模式的运动矢量进行编码。即，从运动矢量检测模式的运动矢量减去利用合并块索引指定的合并块候选的运动矢量，由此求出差分。并且，也可以将所求出的差分和合并块索引附加在比特流中。

另外，也可以是，使用运动检测模式的参照图片索引RefIdx_ME、和合并块候选的参照图片索引RefIdx_Merge，对合并块候选的运动矢量MV_Merge进行调度，从运动检测模式的运动矢量减去调度后的合并块候选的运动矢量scaledMV_Merge，由此求出差分。并且，也可以将所求出的差分和合并块索引附加在比特流中。调度的式子的示例如下所示。

（式2）

scaledMV_Merge=MV_Merge×(POC(RefIdx_ME)-curPOC)/(POC(RefIdx_Merge)-curPOC)

其中，POC(RefIdx_ME)表示参照图片索引RefIdx_ME所示出的参照图片的显示顺序。POC(RefIdx_Merge)表示参照图片索引RefIdx_Merge所示出的参照图片的显示顺序。curPOC表示编码对象图片的显示顺序。

（实施方式2）

在上述实施方式1中，只要合并块候选是co-located合并块，无论co-located合并块是否是可合并候选，图像编码装置都使用始终以加1方式计算出的可合并候选数来决定分配给合并块索引的比特序列。但是，也可以是，例如在图15的步骤S124，对于co-located合并块以外的合并块候选，图像编码装置也一定使用始终以加1方式计算出的可合并候选数来决定分配给合并块索引的比特序列。即，图像编码装置也可以使用被固定为合并块候选数的最大值N的合并块候选列表尺寸，对合并块索引分配比特序列。即，图像编码装置也可以将所有的合并块候选视为可合并候选，将合并块候选列表尺寸固定为合并块候选数的最大值N，对合并块索引进行编码。

例如，在上述实施方式1中，合并块候选数的最大值N是5（邻接块A、邻接块B、co-located合并块、邻接块C、邻接块D），因而图像编码装置也可以始终对合并块候选列表尺寸设定5，对合并块索引进行编码。另外，例如在合并块候选数的最大值N是4（邻接块A、邻接块B、邻接块C、邻接块D）的情况下，图像编码装置也可以始终对合并块候选列表尺寸设定4，对合并块索引进行编码。

这样，图像编码装置也可以根据合并块候选数的最大值来决定合并块候选列表尺寸。由此，图像解码装置的可变长度解码部能够生成不需参照邻接块或者co-located块的信息即可对比特流中的合并块索引进行解码的比特流，能够削减可变长度解码部的处理量。

下面，将如上所述的实施方式1的图像编码装置的变形例作为实施方式2的图像编码装置进行具体说明。

图18是表示实施方式2的图像编码装置200的结构的块图。该图像编码装置200按照每个块对图像进行编码来生成比特流。图像编码装置200具有合并候选导出部210、预测控制部220和编码部230。

合并候选导出部210对应于上述实施方式1的合并块候选计算部114。合并候选导出部210导出合并候选。并且，合并候选导出部210例如生成使被导出的各合并候选、与用于确定该合并候选的索引（下面称为“合并索引”）相对应的合并候选列表。

所谓合并候选是指在进行编码对象块的编码时使用的预测方向、运动矢量和参照图片索引的候选。即，合并候选至少包括预测方向、运动矢量和参照图片索引的一组组合。

另外，合并候选对应于实施方式1的合并块候选。合并候选列表对应于合并块候选列表。

如图18所示，合并候选导出部210具有决定部211、第1导出部212、确定部213、判定部214和第2导出部215。

决定部211决定合并候选的最大数。即，决定部211决定合并块候选数的最大值N。

例如，决定部211根据输入图像列（序列（sequence）、图片、切片或者块等）的特征，决定合并候选的最大数。另外，例如决定部211也可以将预先设定的数量决定为合并候选的最大数。

第1导出部212导出第1合并候选。具体地讲，第1导出部212以使第1合并候选的数量不超过最大数的方式导出第1合并候选。更具体地讲，第1导出部212例如根据在对与编码对象块在空间上或者时间上邻接的块进行编码时使用的预测方向、运动矢量和参照图片索引，导出第1合并候选。并且，第1导出部212例如将这样导出的第1合并候选与合并索引相对应地登记在合并候选列表中。

所谓在空间上邻接的块是指包括编码对象块的图片内的块，是与编码对象块邻接的块。具体地讲，在空间上邻接的块例如是指图3所示的邻接块A～D。

所谓在时间上邻接的块是指与包括编码对象块的图片不同的图片中所包含的块，是与编码对象块对应的块。具体地讲，在时间上邻接的块例如是指co-located块。

另外，在时间上邻接的块不需要一定是与编码对象块相同位置的块（co-located块）。例如，在时间上邻接的块也可以是与co-located块邻接的块。

另外，第1导出部212例如也可以导出在对与编码对象块在空间上邻接的块中除不能合并块以外的块进行编码时使用的预测方向、运动矢量及参照图片索引，作为第1合并候选。所谓不能合并块是指已按照帧内预测被进行了编码的块、位于包括编码对象块的切片或者图片的边界外的块、或者尚未被进行编码的块。由此，第1导出部212能够从适合于得到合并候选的块导出第1合并候选。

在导出了多个第1合并候选的情况下，确定部213确定预测方向、运动矢量及参照图片索引与其它第1合并候选重复的第1合并候选（重复候选）。并且，确定部213将所确定的重复候选从合并候选列表中删除。

判定部214判定第1合并候选的数量是否小于所决定的最大数。在此，判定部214判定除所确定的重复的第1合并候选以外的第1合并候选的数量是否小于所决定的最大数。

在判定为第1合并候选的数量小于所决定的最大数的情况下，第2导出部215导出第2合并候选。具体地讲，第2导出部215以使第1合并候选的数量与第2合并候选的数量之和不超过最大数的方式导出第2合并候选。在此，第2导出部215以使除重复候选以外的第1合并候选的数量与第2合并候选的数量之和不超过最大数的方式导出第2合并候选。

该第2合并候选相当于实施方式1中的新候选。因此，第2导出部215例如也可以根据在对与第1合并候选不同的邻接块进行编码时使用的预测方向、运动矢量及参照图片索引，导出第2合并候选。

另外，例如也可以是，第2导出部215导出预测方向、运动矢量及参照图片索引中的至少一个与第1合并候选不同的合并候选，作为第2合并候选。由此，能够增加预测方向、运动矢量及参照图片索引的组合不同的合并候选，能够进一步提高编码效率。

另外，第2导出部215不需要一定导出与第1合并候选不重复的合并候选作为第2合并候选。即，第2导出部215也可以导出其结果是与第1合并候选重复的合并候选作为第2合并候选。

另外，第2导出部215例如将这样导出的第2合并候选与合并索引相对应地登记在合并候选列表中。此时，第2导出部215与实施方式1相同地，以对第1合并候选分配数值小于第2合并候选的合并索引的方式，将第2合并候选登记在合并候选列表中。由此，在第1合并候选被选择为被用于进行编码的合并候选的可能性大于第2合并候选的情况下，图像编码装置200能够削减代码量，能够提高编码效率。

另外，第2导出部215不需要一定以使第1合并候选的数量和第2合并候选的数量之和与所决定的最大数一致的方式来导出第2合并候选。也可以是，在第1合并候选的数量与第2合并候选的数量之和小于所决定的最大数的情况下，例如存在不对应合并候选的合并索引的值。

预测控制部220从第1合并候选和第2合并候选中选择在进行编码对象块的编码时使用的合并候选。即，预测控制部220从合并候选列表中选择在进行编码对象块的编码时使用的合并候选。

编码部230使用所决定的最大数对用于确定所选择的合并候选的索引（合并索引）进行编码。具体地讲，编码部230按照图5所示对分配给所选择的合并候选的索引值的比特序列进行可变长度编码。另外，编码部230将被编码后的索引附加在比特流中。

在此，编码部230还可以将表示由决定部211决定的最大数的信息附加在比特流中。具体地讲，编码部230也可以将表示最大数的信息写入例如切片头等中。由此，能够按照合适的单位切换最大数，能够提高编码效率。

另外，编码部230不需要一定将表示最大数的信息附加在比特流中。例如，在最大数是预先按照标准而设定的情况下、或者最大数与既定值相同的情况下等，编码部230也可以不将表示最大数的信息附加在比特流中。

下面，对如上所述构成的图像编码装置200的各种动作进行说明。

图19是表示实施方式2的图像编码装置200的处理动作的流程图。

首先，决定部211决定合并候选的最大数（S201）。第1导出部212导出第1合并候选（S202）。在导出了多个第1合并候选的情况下，确定部213确定预测方向、运动矢量及参照图片索引与其它第1合并候选重复的第1合并候选（S203）。

判定部214判定除重复候选以外的第1合并候选的数量是否小于所决定的最大数（S204）。在此，在判定为除重复候选以外的第1合并候选的数量小于所决定的最大数的情况下（S204：是），第2导出部215导出第2合并候选（S205）。另一方面，在判定为除重复候选以外的第1合并候选的数量不小于所决定的最大数的情况下（S204：否），第2导出部215不导出第2合并候选。这些步骤S204～步骤S205相当于实施方式1的步骤S114。

预测控制部220从第1合并候选和第2合并候选中选择在进行编码对象块的编码时使用的合并候选（S206）。例如，预测控制部220与实施方式1相同地从合并候选列表中选择式1所示的成本为最小的合并候选。

编码部230使用所决定的最大数对用于确定所选择的合并候选的索引进行编码（S207）。另外，编码部230将被编码后的索引附加在比特流中。

如上所述，根据本实施方式的图像编码装置200，能够使用所决定的最大数对用于确定合并候选的索引进行编码。即，能够与实际导出的合并候选的数量无关地对索引进行编码。因此，即使是丢失了导出合并候选所需要的信息（例如co-located块等的信息）的情况下，也能够在解码侧对索引进行解码，能够提高错误容限。并且，在解码侧能够与实际导出的合并候选的数量无关地对索引进行解码。即，在解码侧不需等待合并候选的导出处理即可进行索引的解码处理。即，能够生成能够并行进行合并候选的导出处理和索引的解码处理的比特流。

另外，根据本实施方式的图像编码装置200，在判定为第1合并候选的数量小于最大数的情况下，能够导出第2合并候选。因此，能够在不超过最大数的范围内增加合并候选的数量，能够提高编码效率。

另外，根据本实施方式的图像编码装置200，能够根据除重复的第1合并候选以外的第1合并候选的数量导出第2合并候选。其结果是，能够增加第2合并候选的数量，能够增加可以被选择为合并候选的预测方向、运动矢量及参照图片索引的组合的种类。因此，能够进一步提高编码效率。

另外，在本实施方式中，图像编码装置200具有确定部213，但不需要一定具有确定部213。即，在图19所示的流程图中不需要一定包含步骤S203。即使是这种情况下，图像编码装置200也能够使用所决定的最大数对用于确定合并候选的索引进行编码，因而能够提高错误容限。

另外，在本实施方式中，如图19所示，在第1导出部212导出第1合并候选后，确定部213确定重复候选，但不需要一定按照这种顺序进行处理。例如，也可以是，第1导出部212在导出第1合并候选的过程中确定重复候选，并以使所确定的重复候选不包含在第1合并候选中的方式导出第1合并候选。即，也可以是，第1导出部212导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为第1合并候选。更具体地讲，例如，在已经导出基于左侧邻接块的合并候选作为第1合并候选的情况下，如果基于上侧邻接块的合并候选与基于左侧邻接块的合并候选不重复，第1导出部212也可以导出基于上侧邻接块的合并候选作为第1合并候选。

（实施方式3）

图20是表示实施方式3的图像解码装置300的结构的块图。该图像解码装置300是与实施方式1的图像编码装置100对应的装置。图像解码装置300例如按照每个块对由实施方式1的图像编码装置100生成的比特流中所包含的编码图像进行解码。

图像解码装置300如图20所示具有可变长度解码部301、逆量化部302、逆正交变换部303、加法部304、块存储器305、帧存储器306、帧内预测部307、帧间预测部308、帧间预测控制部309、开关310、合并块候选计算部311和colPic存储器312。

可变长度解码部301对所输入的比特流进行可变长度解码，并生成图片类型信息、合并标志和量化系数。并且，可变长度解码部301使用后述的可合并候选数进行合并块索引的可变长度解码处理。

逆量化部302对通过可变长度解码处理而得到的量化系数进行逆量化处理。

逆正交变换部303将通过逆量化处理而得到的正交变换系数从频域变换到图像区域中，由此生成预测误差数据。

在块存储器305中以块单位保存将预测误差数据和预测图像数据相加而生成的解码图像数据。

在帧存储器306中以帧单位保存解码图像数据。

帧内预测部307使用在块存储器305中保存的块单位的解码图像数据进行帧内预测，由此生成解码对象块的预测图像数据。

帧间预测部308使用在帧存储器306中保存的帧单位的解码图像数据进行帧间预测，由此生成解码对象块的预测图像数据。

在解码对象块将被实施帧内预测解码的情况下，开关310将由帧内预测部307生成的帧内预测图像数据，作为解码对象块的预测图像数据输出给加法部304。另一方面，在解码对象块将被实施帧间预测解码的情况下，开关310将由帧间预测部308生成的帧间预测图像数据，作为解码对象块的预测图像数据输出给加法部304。

合并块候选计算部311使用解码对象块的邻接块的运动矢量等、以及在colPic存储器312中存储的co-located块的运动矢量等（colPic信息），利用后述的方法导出合并模式的合并块候选。并且，合并块候选计算部311对所导出的各合并块候选分配合并块索引的值。并且，合并块候选计算部311将合并块候选和合并块索引发送给帧间预测控制部309。

如果被解码后的合并标志为“0”，帧间预测控制部309使用运动矢量检测模式的信息，使帧间预测部308生成帧间预测图像。另一方面，如果合并标志为“1”，帧间预测控制部309根据被解码后的合并块索引，从多个合并块候选中决定在进行帧间预测时使用的运动矢量、参照图片索引和预测方向。并且，帧间预测控制部309使用所决定的运动矢量、参照图片索引和预测方向，使帧间预测部308生成帧间预测图像。并且，帧间预测控制部309将包括解码对象块的运动矢量等的colPic信息传输给colPic存储器312。

最后，加法部304将预测图像数据和预测误差数据相加，由此生成解码图像数据。

图21是表示实施方式3的图像解码装置300的处理动作的流程图。

在步骤S301，可变长度解码部301对合并标志进行解码。

在步骤S302，如果合并标志为“1”（S302：是），在步骤S303，合并块候选计算部311利用后述的方法计算可合并候选数。并且，合并块候选计算部311将计算出的可合并候选数设定为合并块候选列表尺寸。

在步骤S304，可变长度解码部301使用合并块候选列表尺寸，对比特流中的合并块索引进行可变长度解码。

在步骤S305，合并块候选计算部311利用后述的方法从解码对象块的邻接块和co-located块生成合并块候选。

在步骤S306，帧间预测控制部309使用被解码后的合并块索引所示出的合并块候选的运动矢量、参照图片索引和预测方向，使帧间预测部308生成帧间预测图像。

在步骤S302，如果合并标志为“0”（S302：否），在步骤S307，帧间预测部308使用由可变长度解码部301进行解码后的运动矢量检测模式的信息，生成帧间预测图像。

另外，当在步骤S303计算出的合并块候选列表尺寸为“1”的情况下，也可以不对合并块索引进行解码，而估计为“0”。

图22是表示图21的步骤S303的具体处理的流程图。具体地讲，图22表示判定合并块候选[N]是否是可合并候选，并计算可合并候选数的方法。下面，对图22进行说明。

在步骤S311，合并块候选计算部311判定合并块候选[N]是否是（1）已按照帧内预测被解码后的块、或者（2）位于包括解码对象块的切片或者图片的边界外的块、或者（3）尚未被解码的块。

在此，如果步骤S311的判定结果为真（S311：是），在步骤S312，合并块候选计算部311将合并块候选[N]设定为不能合并候选。另一方面，如果步骤S311的判定结果为假（S311：否），在步骤S313，合并块候选计算部311将合并块候选[N]设定为可合并候选。

在步骤S314，合并块候选计算部311判定合并块候选[N]是可合并候选还是co-located合并块候选。在此，如果步骤S314的判定结果为真（S314：是），在步骤S315，合并块候选计算部311将合并块候选数加1来更新合并块候选数。另一方面，如果步骤S314为假（S314：否），合并块候选计算部311不更新可合并候选数。

这样，在合并块候选是co-located合并块的情况下，无论co-located合并块是可合并候选还是不能合并候选，合并块候选计算部311都将可合并候选数加1。由此，即使是co-located合并块的信息由于包损失等而丢失的情况下，在图像编码装置和图像解码装置中也不会产生可合并候选数的不一致。

该可合并候选数在图21的步骤S303被设定为合并块候选列表尺寸。另外，在图21的步骤S304，合并块候选列表尺寸被用于合并块索引的可变长度解码中。由此，即使是丢失了包括co-located块等的参照图片信息的情况下，图像解码装置300也能够正常对合并块索引进行解码。

图23是表示图21的步骤S305的具体处理的流程图。具体地讲，图23表示计算合并块候选的方法。下面，对图23进行说明。

在步骤S321，合并块候选计算部311取得合并块候选[N]的运动矢量、参照图片索引和预测方向，并追加在合并块候选列表中。

在步骤S322，合并块候选计算部311按照图13所示从合并块候选列表中检索不能合并候选和重复候选并将其删除。

在步骤S323，合并块候选计算部311利用与图16相同的方法将新候选追加在合并块候选列表中。

图24表示将合并块索引附加在比特流中时的句法的一例。在图24中，merge_idx表示合并块索引，merge_flag表示合并标志。NumMergeCand表示合并块候选列表尺寸，在本实施方式中被设定为通过图22所示的处理流程而计算出的可合并候选数。

这样，根据本实施方式的图像解码装置300，能够利用不依赖于包括co-located块等的参照图片信息的方法，计算在对合并块索引进行编码或者解码时使用的合并块候选列表尺寸。因此，图像解码装置300能够适当地对提高了错误容限的比特流进行解码。

更具体地讲，只要合并块候选是co-located合并块，无论co-located合并块是否是可合并候选，本实施方式的图像解码装置300都始终将可合并候选数加1。并且，图像解码装置300使用这样计算出的可合并候选数决定分配给合并块索引的比特序列。因此，即使是丢失了包括co-located块等的参照图片信息的情况下，图像解码装置300也能够正常对合并块索引进行解码。

并且，在合并块候选数未达到可合并候选数的情况下，本实施方式的图像解码装置300通过将具有新的运动矢量、参照图片索引和预测方向的新候选追加为合并块候选，能够适当地对提高了编码效率的比特流进行解码。

（实施方式4）

在上述实施方式3中，只要合并块候选是co-located合并块，无论co-located合并块是否是可合并候选，图像解码装置都使用始终以加1方式计算出的可合并候选数来决定分配给合并块索引的比特序列。但是，也可以是，例如在图22的步骤S314，对于co-located合并块以外的合并块候选，图像解码装置也一定始终使用以加1方式计算出的可合并候选数来决定分配给合并块索引的比特序列。即，图像解码装置也可以使用被固定为合并块候选数的最大值N的合并块候选列表尺寸，对合并块索引分配比特序列。即，图像解码装置将所有的合并块候选视为可合并候选，将合并块候选列表尺寸固定为合并块候选数的最大值N，对合并块索引进行编码。

例如，在上述实施方式3中，合并块候选数的最大值N是5（邻接块A、邻接块B、co-located合并块、邻接块C、邻接块D），因而图像解码装置也可以始终对合并块候选列表尺寸设定5，对合并块索引进行解码。由此，图像解码装置的可变长度解码部不需参照邻接块或者co-located块的信息，即可对比特流中的合并块索引进行解码。其结果是，例如能够省略图22的步骤S314和步骤S315的处理等，能够削减可变长度解码部的处理量。

图25表示将合并块候选列表尺寸固定为合并块候选数的最大值时的句法的一例。如图25所示，在将合并块候选列表尺寸固定为合并块候选数的最大值的情况下，能够从句法中删除NumMergeCand。

下面，将如上所述的实施方式3的图像解码装置的变形例作为实施方式4的图像解码装置进行具体说明。

图26是表示实施方式4的图像解码装置400的结构的块图。该图像解码装置400是与实施方式2的图像编码装置200对应的装置。具体地讲，图像解码装置400例如按照每个块对由实施方式2的图像编码装置200生成的比特流中所包含的编码图像进行解码。图像解码装置400具有合并候选导出部410、解码部420和预测控制部430。

合并候选导出部410对应于上述实施方式3的合并块候选计算部311。合并候选导出部410导出合并候选。并且，合并候选导出部410例如生成使被导出的各合并候选、与用于确定该合并候选的索引（合并索引）相对应的合并候选列表。

如图26所示，合并候选导出部410具有决定部411、第1导出部412、确定部413、判定部414和第2导出部415。

决定部411决定合并候选的最大数。即，决定部411决定合并块候选数的最大值N。

例如，决定部411利用与实施方式2的决定部211相同的方法决定合并候选的最大数。另外，例如决定部411也可以根据被附加在比特流中的表示最大数的信息来决定最大数。

另外，在此决定部411被设于合并候选导出部410中，但也可以设于解码部420中。

第1导出部412导出第1合并候选。具体地讲，第1导出部412与实施方式2的第1导出部212相同地导出第1合并候选。例如，第1导出部412以使第1合并候选的数量不超过最大数的方式导出第1合并候选。更具体地讲，第1导出部412例如根据在对与解码对象块在空间上或者时间上邻接的块进行解码时使用的预测方向、运动矢量和参照图片索引，导出第1合并候选。并且，第1导出部412例如将这样导出的第1合并候选与合并索引相对应地登记在合并候选列表中。

另外，第1导出部412例如也可以导出在对与解码对象块在空间上邻接的块中除不能合并块以外的块进行解码时使用的预测方向、运动矢量及参照图片索引，作为第1合并候选。由此，能够从适合于得到合并候选的块导出第1合并候选。

在导出了多个第1合并候选的情况下，确定部413确定预测方向、运动矢量及参照图片索引与其它第1合并候选重复的第1合并候选（重复候选）。并且，确定部413将所确定的重复候选从合并候选列表中删除。

判定部414判定第1合并候选的数量是否小于所确定的最大数。在此，判定部414判定除所确定的重复的第1合并候选以外的第1合并候选的数量是否小于所决定的最大数。

在判定为第1合并候选的数量小于所决定的最大数的情况下，第2导出部415导出第2合并候选。具体地讲，第2导出部415与实施方式2的第2导出部215相同地导出第2合并候选。

例如，第2导出部415也可以导出预测方向、运动矢量及参照图片索引中的至少一个与第1合并候选不同的合并候选，作为第2合并候选。由此，能够增加预测方向、运动矢量及参照图片索引的组合不同的合并候选，能够适当地对进一步提高了编码效率的比特流进行解码。

另外，第2导出部415例如与实施方式2的第2导出部215相同地，将这样导出的第2合并候选与合并索引相对应地登记在合并候选列表中。

解码部420使用所决定的最大数对用于确定合并候选的索引进行解码，该索引是被附加在比特流中的已被编码的索引。

预测控制部430根据被解码后的索引，从第1合并候选和第2合并候选中选择在对解码对象块进行解码时使用的合并候选。即，预测控制部430从合并候选列表中选择在对解码对象块进行解码时使用的合并候选。

下面，对如上所述构成的图像解码装置400的各种动作进行说明。

图27是表示实施方式4的图像解码装置400的处理动作的流程图。

首先，决定部411决定合并候选的最大数（S401）。第1导出部412导出第1合并候选（S402）。在导出了多个第1合并候选的情况下，确定部413确定预测方向、运动矢量及参照图片索引与其它第1合并候选重复的第1合并候选（S403）。

判定部414判定除重复候选以外的第1合并候选的数量是否小于所决定的最大数（S404）。在此，在判定为除重复候选以外的第1合并候选的数量小于所决定的最大数的情况下（S404：是），第2导出部415导出第2合并候选（S405）。另一方面，在判定为除重复候选以外的第1合并候选的数量不小于所决定的最大数的情况下（S404：否），第2导出部415不导出第2合并候选。

解码部420使用所决定的最大数对用于确定合并候选的索引进行解码，该索引是被附加在比特流中的已被编码的索引（S406）。

预测控制部430根据被解码后的索引，从第1合并候选和第2合并候选中选择在进行解码对象块的编码时使用的合并候选（S407）。例如，预测控制部430与实施方式1相同地从合并候选列表中选择式1所示的成本为最小的合并候选。

另外，在此是在导出合并候选后进行索引的解码处理（S406），但不需要一定按照这种顺序进行处理。例如，也可以在索引的解码处理（S406）之后进行合并候选的导出处理（S402～S405）。另外，还可以并行进行索引的解码处理（S406）和合并候选的导出处理（S402～S405）。由此，能够提高解码的处理速度。

如上所述，根据本实施方式的图像编码装置400，能够使用所决定的最大数对用于确定合并候选的索引进行编码。即，能够与实际导出的合并候选的数量无关地对索引进行解码。因此，即使是丢失了导出合并候选所需要的信息（例如co-located块等的信息）的情况下，也能够对索引进行解码，能够提高错误容限。并且，不需等待合并候选的导出处理即可进行索引的解码处理，也能够并行进行合并候选的导出处理和索引的解码处理。

另外，根据本实施方式的图像编码装置400，在判定为第1合并候选的数量小于最大数的情况下，能够导出第2合并候选。因此，能够在不超过最大数的范围内增加合并候选的数量，能够适当地对提高了编码效率的比特流进行解码。

另外，根据本实施方式的图像编码装置400，能够根据除重复的第1合并候选以外的第1合并候选的数量导出第2合并候选。其结果是，能够增加第2合并候选的数量，能够增加可以被选择为合并候选的预测方向、运动矢量及参照图片索引的组合的种类。因此，能够适当地对进一步提高了编码效率的比特流进行解码。

另外，在本实施方式中，图像解码装置400具有确定部413，但与实施方式2相同地不需要一定具有确定部413。即，在图27所示的流程图中不需要一定包含步骤S403。即使是这种情况下，图像解码装置400也能够使用所决定的最大数对用于确定合并候选的索引进行编码，因而能够提高错误容限。

另外，在本实施方式中，如图27所示，在第1导出部412导出第1合并候选后，确定部413确定重复候选，但不需要一定按照这种顺序进行处理。例如，也可以是，第1导出部412导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为第1合并候选。

以上，根据实施方式对本发明的一个或者多个方式涉及的图像编码装置及图像解码装置进行了说明，但本发明不限于这种实施方式。也可以是，只要不脱离本发明的宗旨，本实施方式实施本行业人员能够想到的各种变形而得到的方式、或将不同的实施方式中的构成要素进行组合而构成的方式，都包含在本发明的一个或者多个方式中。

另外，在上述各实施方式中，各构成要素也可以利用专用的硬件构成、或者通过执行适合于各构成要素的软件程序来实现。各构成要素也可以通过由CPU或者处理器等程序执行部读出被记录在硬盘或者半导体存储器等记录介质中的软件程序并执行而实现。其中，用于实现上述各实施方式的图像编码装置或者图像解码装置等的软件是如下所述的程序。

即，该程序使计算机执行图像编码方法，通过按照每个块对图像进行编码来生成比特流，该图像编码方法包括：决定步骤，决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤，导出第1合并候选；判定步骤，判定所述第1合并候选的数量是否小于所述最大数；第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；选择步骤，从所述第1合并候选和所述第2合并候选中选择在进行所述编码对象块的编码时使用的合并候选；以及编码步骤，使用所决定的所述最大数对用于确定所选择的所述合并候选的索引进行编码，将被编码后的所述索引附加在所述比特流中。

或者，该程序使计算机执行图像解码方法，按照每个块对包含于比特流中的编码图像进行解码，该图像解码方法包括：决定步骤，决定合并候选的最大数，该合并候选是在进行解码对象块的解码时使用的预测方向、运动矢量、以及参照图片索引的候选；第1导出步骤，导出第1合并候选；判定步骤，判定所述第1合并候选的数量是否小于所述最大数；第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；解码步骤，使用所决定的所述最大数对用于确定合并候选的索引进行解码，该索引是被附加在所述比特流中的已被编码的索引；以及选择步骤，根据被解码后的所述索引，从所述第1合并候选和所述第2合并候选中选择在进行所述解码对象块的解码时使用的合并候选。

（实施方式5）

通过将用来实现上述各实施方式所示的运动图像编码方法（图像编码方法）或运动图像解码方法（图像解码方法）的结构的程序记录到存储介质中，能够将上述各实施方式所示的处理在独立的计算机系统中简单地实施。存储介质是磁盘、光盘、光磁盘、IC卡、半导体存储器等，只要是能够记录程序的介质就可以。

进而，这里说明在上述各实施方式中示出的运动图像编码方法（图像编码方法）及运动图像解码方法（图像解码方法）的应用例和使用它的系统。该系统的特征在于，具有由使用图像编码方法的图像编码装置及使用图像解码方法的图像解码装置构成的图像编码解码装置。关于系统的其他结构，可以根据情况而适当变更。

图28是表示实现内容分发服务的内容供给系统ex100的整体结构的图。将通信服务的提供区划分为希望的大小，在各小区内分别设置有作为固定无线站的基站ex106、ex107、ex108、ex109、ex110。

该内容供给系统ex100在因特网ex101上经由因特网服务提供商ex102及电话网ex104、及基站ex107～ex110连接着计算机ex111、PDA（PersonalDigital Assistant）ex112、照相机ex113、便携电话ex114、游戏机ex115等的各设备。

但是，内容供给系统ex100并不限定于图28那样的结构，也可以将某些要素组合连接。此外，也可以不经由作为固定无线站的基站ex107～ex110将各设备直接连接在电话网ex104上。此外，也可以将各设备经由近距离无线等直接相互连接。

照相机ex113是能够进行数字摄像机等的运动图像摄影的设备，照相机ex116是能够进行数字照相机等的静止图像摄影、运动图像摄影的设备。此外，便携电话ex114是GSM（Global System for Mobile Communications）方式、CDMA（Code Division Multiple Access）方式、W-CDMA（Wideband-Code Division Multiple Access）方式、或LTE（Long Term Evolution）方式、HSPA（High Speed Packet Access）的便携电话机、或PHS（PersonalHandyphone System）等，是哪种都可以。

在内容供给系统ex100中，通过将照相机ex113等经由基站ex109、电话网ex104连接在流媒体服务器ex103上，能够进行现场转播等。在现场转播中，对用户使用照相机ex113摄影的内容（例如音乐会现场的影像等）如在上述各实施方式中说明那样进行编码处理（即，作为本发明的一个方式的图像编码装置发挥作用），向流媒体服务器ex103发送。另一方面，流媒体服务器ex103将发送来的内容数据对有请求的客户端进行流分发。作为客户端，有能够将上述编码处理后的数据解码的计算机ex111、PDAex112、照相机ex113、便携电话ex114、游戏机ex115等。在接收到分发的数据的各设备中，将接收到的数据解码处理而再现（即，作为本发明的一个方式的图像解码装置发挥作用）。

另外，摄影的数据的编码处理既可以由照相机ex113进行，也可以由进行数据的发送处理的流媒体服务器ex103进行，也可以相互分担进行。同样，分发的数据的解码处理既可以由客户端进行，也可以由流媒体服务器ex103进行，也可以相互分担进行。此外，并不限于照相机ex113，也可以将由照相机ex116摄影的静止图像及/或运动图像数据经由计算机ex111向流媒体服务器ex103发送。此情况下的编码处理由照相机ex116、计算机ex111、流媒体服务器ex103的哪个进行都可以，也可以相互分担进行。

此外，这些编码解码处理一般在计算机ex111或各设备具有的LSIex500中处理。LSIex500既可以是单芯片，也可以是由多个芯片构成的结构。另外，也可以将运动图像编码解码用的软件装入到能够由计算机ex111等读取的某些记录介质（CD-ROM、软盘、硬盘等）中、使用该软件进行编码解码处理。进而，在便携电话ex114是带有照相机的情况下，也可以将由该照相机取得的运动图像数据发送。此时的运动图像数据是由便携电话ex114具有的LSIex500编码处理的数据。

此外，也可以是，流媒体服务器ex103是多个服务器或多个计算机，是将数据分散处理、记录、及分发的。

如以上这样，在内容供给系统ex100中，客户端能够接收编码的数据而再现。这样，在内容供给系统ex100中，客户端能够将用户发送的信息实时地接收、解码、再现，即使是没有特别的权利或设备的用户也能够实现个人广播。

另外，并不限定于内容供给系统ex100的例子，如图29所示，在数字广播用系统ex200中也能够装入上述实施方式的至少运动图像编码装置（图像编码装置）或运动图像解码装置（图像解码装置）的某个。具体而言，在广播站ex201中，将对影像数据复用了音乐数据等而得到的复用数据经由电波向通信或广播卫星ex202传送。该影像数据是通过上述各实施方式中说明的运动图像编码方法编码后的数据（即，通过本发明的一个方式的图像编码装置编码后的数据）。接受到该数据的广播卫星ex202发出广播用的电波，能够对该电波进行卫星广播接收的家庭的天线ex204接收该电波，通过电视机（接收机）ex300或机顶盒（STB）ex217等的装置将接收到的复用数据解码并将其再现（即，作为本发明的一个方式的图像解码装置发挥作用）。

此外，也可以是，在将记录在DVD、BD等的记录介质ex215中的复用数据读取并解码、或将影像数据编码再根据情况与音乐信号复用而写入记录介质ex215中的读取器/记录器ex218中也能够安装上述各实施方式所示的运动图像解码装置或运动图像编码装置。在此情况下，可以将再现的影像信号显示在监视器ex219上，通过记录有复用数据的记录介质ex215在其他装置或系统中能够再现影像信号。此外，也可以是，在连接在有线电视用的线缆ex203或卫星/地面波广播的天线ex204上的机顶盒ex217内安装运动图像解码装置，将其用电视机的监视器ex219显示。此时，也可以不是在机顶盒、而在电视机内装入运动图像解码装置。

图30是表示使用在上述各实施方式中说明的运动图像解码方法及运动图像编码方法的电视机（接收机）ex300的图。电视机ex300具备经由接收上述广播的天线ex204或线缆ex203等取得或者输出对影像数据复用了声音数据的复用数据的调谐器ex301、将接收到的复用数据解调或调制为向外部发送的编码数据的调制/解调部ex302、和将解调后的复用数据分离为影像数据、声音数据或将在信号处理部ex306中编码的影像数据、声音数据复用的复用/分离部ex303。

此外，电视机ex300具备：具有将声音数据、影像数据分别解码、或将各自的信息编码的声音信号处理部ex304和影像信号处理部ex305（即，作为本发明的一个方式的图像编码装置或图像解码装置发挥作用）的信号处理部ex306；具有将解码后的声音信号输出的扬声器ex307及显示解码后的影像信号的显示器等的显示部ex308的输出部ex309。进而，电视机ex300具备具有受理用户操作的输入的操作输入部ex312等的接口部ex317。进而，电视机ex300具有合并控制各部的控制部ex310、对各部供给电力的电源电路部ex311。接口部ex317也可以除了操作输入部ex312以外，还具有与读取器/记录器ex218等的外部设备连接的桥接部ex313、用来能够安装SD卡等的记录介质ex216的插槽部ex314、用来与硬盘等的外部记录介质连接的驱动器ex315、与电话网连接的调制解调器ex316等。另外，记录介质ex216是能够通过收存的非易失性/易失性的半导体存储元件电气地进行信息的记录的结构。电视机ex300的各部经由同步总线相互连接。

首先，对电视机ex300将通过天线ex204等从外部取得的复用数据解码、再现的结构进行说明。电视机ex300接受来自遥控器ex220等的用户操作，基于具有CPU等的控制部ex310的控制，将由调制/解调部ex302解调的复用数据用复用/分离部ex303分离。进而，电视机ex300将分离的声音数据用声音信号处理部ex304解码，将分离的影像数据用影像信号处理部ex305使用在上述各实施方式中说明的解码方法解码。将解码后的声音信号、影像信号分别从输出部ex309朝向外部输出。在输出时，可以暂时将这些信号储存到缓冲器ex318、ex319等中，以使声音信号和影像信号同步再现。此外，电视机ex300也可以不是从广播等、而从磁/光盘、SD卡等的记录介质ex215、ex216读出编码的复用数据。接着，对电视机ex300将声音信号或影像信号编码、向外部发送或写入到记录介质等中的结构进行说明。电视机ex300接受来自遥控器ex220等的用户操作，基于控制部ex310的控制，由声音信号处理部ex304将声音信号编码，由影像信号处理部ex305将影像信号使用在上述各实施方式中说明的编码方法编码。将编码后的声音信号、影像信号用复用/分离部ex303复用，向外部输出。在复用时，可以暂时将这些信号储存到缓冲器ex320、ex321等中，以使声音信号和影像信号同步再现。另外，缓冲器ex318、ex319、ex320、ex321既可以如图示那样具备多个，也可以是共用一个以上的缓冲器的结构。进而，在图示以外，也可以是，在例如调制/解调部ex302或复用/分离部ex303之间等也作为避免系统的上溢、下溢的缓冲部而在缓冲器中储存数据。

此外，电视机ex300除了从广播等或记录介质等取得声音数据、影像数据以外，也可以具备受理麦克风或照相机的AV输入的结构，对从它们中取得的数据进行编码处理。另外，这里，将电视机ex300作为能够进行上述编码处理、复用、及外部输出的结构进行了说明，但也可以是，不能进行这些处理，而是仅能够进行上述接收、解码处理、外部输出的结构。

此外，在由读取器/记录器ex218从记录介质将复用数据读出、或写入的情况下，上述解码处理或编码处理由电视机ex300、读取器/记录器ex218的哪个进行都可以，也可以是电视机ex300和读取器/记录器ex218相互分担进行。

作为一例，将从光盘进行数据的读入或写入的情况下的信息再现/记录部ex400的结构表示在图31中。信息再现/记录部ex400具备以下说明的单元ex401、ex402、ex403、ex404、ex405、ex406、ex407。光头ex401对作为光盘的记录介质ex215的记录面照射激光斑而写入信息，检测来自记录介质ex215的记录面的反射光而读入信息。调制记录部ex402电气地驱动内置在光头ex401中的半导体激光器，根据记录数据进行激光的调制。再现解调部ex403将由内置在光头ex401中的光检测器电气地检测到来自记录面的反射光而得到的再现信号放大，将记录在记录介质ex215中的信号成分分离并解调，再现所需要的信息。缓冲器ex404将用来记录到记录介质ex215中的信息及从记录介质ex215再现的信息暂时保持。盘马达ex405使记录介质ex215旋转。伺服控制部ex406一边控制盘马达ex405的旋转驱动一边使光头ex401移动到规定的信息轨道，进行激光斑的追踪处理。系统控制部ex407进行信息再现/记录部ex400整体的控制。上述的读出及写入的处理由系统控制部ex407利用保持在缓冲器ex404中的各种信息、此外根据需要而进行新的信息的生成、追加、并且一边使调制记录部ex402、再现解调部ex403、伺服控制部ex406协调动作、一边通过光头ex401进行信息的记录再现来实现。系统控制部ex407例如由微处理器构成，通过执行读出写入的程序来执行它们的处理。

以上，假设光头ex401照射激光斑而进行了说明，但也可以是使用近场光进行高密度的记录的结构。

在图32中表示作为光盘的记录介质ex215的示意图。在记录介质ex215的记录面上，以螺旋状形成有导引槽（沟），在信息轨道ex230中，预先通过沟的形状的变化而记录有表示盘上的绝对位置的地址信息。该地址信息包括用来确定作为记录数据的单位的记录块ex231的位置的信息，通过在进行记录及再现的装置中将信息轨道ex230再现而读取地址信息，能够确定记录块。此外，记录介质ex215包括数据记录区域ex233、内周区域ex232、外周区域ex234。为了记录用户数据而使用的区域是数据记录区域ex233，配置在比数据记录区域ex233靠内周或外周的内周区域ex232和外周区域ex234用于用户数据的记录以外的特定用途。信息再现/记录部ex400对这样的记录介质ex215的数据记录区域ex233进行编码的声音数据、影像数据或复用了这些数据的编码数据的读写。

以上，举1层的DVD、BD等的光盘为例进行了说明，但并不限定于这些，也可以是多层构造、在表面以外也能够记录的光盘。此外，也可以是在盘的相同的地方使用不同波长的颜色的光记录信息、或从各种角度记录不同的信息的层等、进行多维的记录/再现的构造的光盘。

此外，在数字广播用系统ex200中，也可以由具有天线ex205的车ex210从卫星ex202等接收数据、在车ex210具有的车载导航仪ex211等的显示装置上再现运动图像。另外，车载导航仪ex211的结构可以考虑例如在图30所示的结构中添加GPS接收部的结构，在计算机ex111及便携电话ex114等中也可以考虑同样的结构。

图33A是表示使用在上述实施方式中说明的运动图像解码方法和运动图像编码方法的便携电话ex114的图。便携电话ex114具有由用来在与基站ex110之间收发电波的天线ex350、能够拍摄影像、静止图像的照相机部ex365、显示将由照相机部ex365摄影的影像、由天线ex350接收到的影像等解码后的数据的液晶显示器等的显示部ex358。便携电话ex114还具有包含操作键部ex366的主体部、用来进行声音输出的扬声器等的声音输出部ex357、用来进行声音输入的麦克风等的声音输入部ex356、保存拍摄到的影像、静止图像、录音的声音、或者接收到的影像、静止图像、邮件等的编码后的数据或者解码后的数据的存储器部ex367、或者作为与同样保存数据的记录介质之间的接口部的插槽部ex364。

进而，使用图33B对便携电话ex114的结构例进行说明。便携电话ex114对于合并控制具备显示部ex358及操作键部ex366的主体部的各部的主控制部ex360，将电源电路部ex361、操作输入控制部ex362、影像信号处理部ex355、照相机接口部ex363、LCD（Liquid Crystal Display：液晶显示器）控制部ex359、调制/解调部ex352、复用/分离部ex353、声音信号处理部ex354、插槽部ex364、存储器部ex367经由总线ex370相互连接。

电源电路部ex361如果通过用户的操作使通话结束及电源键成为开启状态，则通过从电池组对各部供给电力，便携电话ex114起动为能够动作的状态。

便携电话ex114基于具有CPU、ROM及RAM等的主控制部ex360的控制，在语音通话模式时，将由声音输入部ex356集音的声音信号通过声音信号处理部ex354变换为数字声音信号，将其用调制/解调部ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后经由天线ex350发送。此外，便携电话ex114在语音通话模式时，将由天线ex350接收到的接收数据放大并实施频率变换处理及模拟数字变换处理，用调制/解调部ex352进行波谱逆扩散处理，通过声音信号处理部ex354变换为模拟声音数据后，将其经由声音输出部ex357输出。

进而，在数据通信模式时发送电子邮件的情况下，将通过主体部的操作键部ex366等的操作输入的电子邮件的文本数据经由操作输入控制部ex362向主控制部ex360送出。主控制部ex360将文本数据用调制/解调部ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后，经由天线ex350向基站ex110发送。在接收电子邮件的情况下，对接收到的数据执行上述处理的大致逆处理，并输出到显示部ex350。

在数据通信模式时，在发送影像、静止图像、或者影像和声音的情况下，影像信号处理部ex355将从照相机部ex365供给的影像信号通过上述各实施方式所示的运动图像编码方法进行压缩编码（即，作为本发明的一个方式的图像编码装置发挥作用），将编码后的影像数据送出至复用/分离部ex353。另外，声音信号处理部ex354对通过照相机部ex365拍摄影像、静止图像等的过程中用声音输入部ex356集音的声音信号进行编码，将编码后的声音数据送出至复用/分离部ex353。

复用/分离部ex353通过规定的方式，对从影像信号处理部ex355供给的编码后的影像数据和从声音信号处理部ex354供给的编码后的声音数据进行复用，将其结果得到的复用数据用调制/解调部（调制/解调电路部）ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后，经由天线ex350发送。

在数据通信模式时接收到链接到主页等的运动图像文件的数据的情况下，或者接收到附加了影像或者声音的电子邮件的情况下，为了对经由天线ex350接收到的复用数据进行解码，复用/分离部ex353通过将复用数据分离，分为影像数据的比特流和声音数据的比特流，经由同步总线ex370将编码后的影像数据向影像信号处理部ex355供给，并将编码后的声音数据向声音信号处理部ex354供给。影像信号处理部ex355通过与上述各实施方式所示的运动图像编码方法相对应的运动图像解码方法进行解码，由此对影像信号进行解码（即，作为本发明的一个方式的图像解码装置发挥作用），经由LCD控制部ex359从显示部ex358显示例如链接到主页的运动图像文件中包含的影像、静止图像。另外，声音信号处理部ex354对声音信号进行解码，从声音输出部ex357输出声音。

此外，上述便携电话ex114等的终端与电视机ex300同样，除了具有编码器、解码器两者的收发型终端以外，还可以考虑只有编码器的发送终端、只有解码器的接收终端的3种安装形式。另外，在数字广播用系统ex200中，设为发送、接收在影像数据中复用了音乐数据等得到的复用数据而进行了说明，但除声音数据之外复用了与影像关联的字符数据等的数据也可以，不是复用数据而是影像数据本身也可以。

这样，将在上述各实施方式中表示的运动图像编码方法或运动图像解码方法用在上述哪种设备、系统中都可以，通过这样，能够得到在上述各实施方式中说明的效果。

此外，本发明并不限定于这样的上述实施方式，能够不脱离本发明的范围而进行各种变形或修正。

（实施方式6）

也可以通过将在上述各实施方式中示出的运动图像编码方法或装置、与依据MPEG-2、MPEG4-AVC、VC-1等不同的标准的运动图像编码方法或装置根据需要而适当切换，来生成影像数据。

这里，在生成分别依据不同的标准的多个影像数据的情况下，在解码时，需要选择对应于各个标准的解码方法。但是，由于不能识别要解码的影像数据依据哪个标准，所以产生不能选择适当的解码方法的问题。

为了解决该问题，在影像数据中复用了声音数据等的复用数据采用包含表示影像数据依据哪个标准的识别信息的结构。以下，说明包括通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据在内的复用数据的具体的结构。复用数据是MPEG-2传输流形式的数字流。

图34是表示复用数据的结构的图。如图34所示，复用数据通过将视频流、音频流、演示图形流（PG）、交互图形流中的1个以上进行复用而得到。视频流表示电影的主影像及副影像，音频流（IG）表示电影的主声音部分和与该主声音混合的副声音，演示图形流表示电影的字幕。这里，所谓主影像，表示显示在画面上的通常的影像，所谓副影像，是在主影像中用较小的画面显示的影像。此外，交互图形流表示通过在画面上配置GUI部件而制作的对话画面。视频流通过在上述各实施方式中示出的运动图像编码方法或装置、依据以往的MPEG-2、MPEG4-AVC、VC-1等标准的运动图像编码方法或装置编码。音频流由杜比AC-3、Dolby Digital Plus、MLP、DTS、DTS-HD、或线性PCM等的方式编码。

包含在复用数据中的各流通过PID被识别。例如，对在电影的影像中使用的视频流分配0x1011，对音频流分配0x1100到0x111F，对演示图形分配0x1200到0x121F，对交互图形流分配0x1400到0x141F，对在电影的副影像中使用的视频流分配0x1B00到0x1B1F，对与主声音混合的副声音中使用的音频流分配0x1A00到0x1A1F。

图35是示意地表示复用数据怎样被复用的图。首先，将由多个视频帧构成的视频流ex235、由多个音频帧构成的音频流ex238分别变换为PES包序列ex236及ex239，并变换为TS包ex237及ex240。同样，将演示图形流ex241及交互图形ex244的数据分别变换为PES包序列ex242及ex245，再变换为TS包ex243及ex246。复用数据ex247通过将这些TS包复用到1条流中而构成。

图36更详细地表示在PES包序列中怎样保存视频流。图36的第1段表示视频流的视频帧序列。第2段表示PES包序列。如图36的箭头yy1、yy2、yy3、yy4所示，视频流中的多个作为Video Presentation Unit的I图片、B图片、P图片按每个图片被分割并保存到PES包的有效载荷中。各PES包具有PES头，在PES头中，保存有作为图片的显示时刻的PTS（PresentationTime-Stamp）及作为图片的解码时刻的DTS（Decoding Time-Stamp）。

图37表示最终写入在复用数据中的TS包的形式。TS包是由具有识别流的PID等信息的4字节的TS头和保存数据的184字节的TS有效载荷构成的188字节固定长度的包，上述PES包被分割并保存到TS有效载荷中。在BD-ROM的情况下，对于TS包赋予4字节的TP_Extra_Header，构成192字节的源包，写入到复用数据中。在TP_Extra_Header中记载有ATS（Arrival_Time_Stamp）等信息。ATS表示该TS包向解码器的PID滤波器的转送开始时刻。在复用数据中，源包如图37下段所示排列，从复用数据的开头起递增的号码被称作SPN（源包号）。

此外，在复用数据所包含的TS包中，除了影像、声音、字幕等的各流以外，还有PAT（Program Association Table）、PMT（Program Map Table）、PCR（Program Clock Reference）等。PAT表示在复用数据中使用的PMT的PID是什么，PAT自身的PID被登记为0。PMT具有复用数据所包含的影像、声音、字幕等的各流的PID、以及与各PID对应的流的属性信息，还具有关于复用数据的各种描述符。在描述符中，有指示许可/不许可复用数据的拷贝的拷贝控制信息等。PCR为了取得作为ATS的时间轴的ATC（Arrival Time Clock）与作为PTS及DTS的时间轴的STC（System TimeClock）的同步，拥有与该PCR包被转送至解码器的ATS对应的STC时间的信息。

图38是详细地说明PMT的数据构造的图。在PMT的开头，配置有记述了包含在该PMT中的数据的长度等的PMT头。在其后面，配置有多个关于复用数据的描述符。上述拷贝控制信息等被记载为描述符。在描述符之后，配置有多个关于包含在复用数据中的各流的流信息。流信息由记载有用来识别流的压缩编解码器的流类型、流的PID、流的属性信息（帧速率、纵横比等）的流描述符构成。流描述符存在复用数据中存在的流的数量。

在记录到记录介质等中的情况下，将上述复用数据与复用数据信息文件一起记录。

复用数据信息文件如图39所示，是复用数据的管理信息，与复用数据一对一地对应，由复用数据信息、流属性信息以及入口映射构成。

复用数据信息如图39所示，由系统速率、再现开始时刻、再现结束时刻构成。系统速率表示复用数据的向后述的系统目标解码器的PID滤波器的最大转送速率。包含在复用数据中的ATS的间隔设定为成为系统速率以下。再现开始时刻是复用数据的开头的视频帧的PTS，再现结束时刻设定为对复用数据的末端的视频帧的PTS加上1帧量的再现间隔的值。

流属性信息如图40所示，按每个PID登记有关于包含在复用数据中的各流的属性信息。属性信息具有按视频流、音频流、演示图形流、交互图形流而不同的信息。视频流属性信息具有该视频流由怎样的压缩编解码器压缩、构成视频流的各个图片数据的分辨率是多少、纵横比是多少、帧速率是多少等的信息。音频流属性信息具有该音频流由怎样的压缩编解码器压缩、包含在该音频流中的声道数是多少、对应于哪种语言、采样频率是多少等的信息。这些信息用于在播放器再现之前的解码器的初始化等中。

在本实施方式中，使用上述复用数据中的、包含在PMT中的流类型。此外，在记录介质中记录有复用数据的情况下，使用包含在复用数据信息中的视频流属性信息。具体而言，在上述各实施方式示出的运动图像编码方法或装置中，设置如下步骤或单元，该步骤或单元对包含在PMT中的流类型、或视频流属性信息，设定表示是通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据的固有信息。通过该结构，能够识别通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据、和依据其他标准的影像数据。

此外，在图41中表示本实施方式的运动图像解码方法的步骤。在步骤exS100中，从复用数据中取得包含在PMT中的流类型、或包含在复用数据信息中的视频流属性信息。接着，在步骤exS101中，判断流类型、或视频流属性信息是否表示是通过在上述各实施方式中示出的运动图像编码方法或装置生成的复用数据。并且，在判断为流类型、或视频流属性信息是通过在上述各实施方式中示出的运动图像编码方法或装置生成的复用数据情况下，在步骤exS102中，通过在上述各实施方式中示出的运动图像解码方法进行解码。此外，在流类型、或视频流属性信息表示是依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的复用数据的情况下，在步骤exS103中，通过依据以往的标准的运动图像解码方法进行解码。

这样，通过在流类型、或视频流属性信息中设定新的固有值，在解码时能够判断是否能够通过在上述各实施方式中示出的运动图像解码方法或装置解码。因而，在被输入了依据不同的标准的复用数据的情况下，也能够选择适当的解码方法或装置，所以能够不发生错误地进行解码。此外，将在本实施方式中示出的运动图像编码方法或装置、或者运动图像解码方法或装置用在上述任何设备、系统中。

（实施方式7）

在上述各实施方式中示出的运动图像编码方法及装置、运动图像解码方法及装置典型地可以由作为集成电路的LSI实现。作为一例，在图42中表示1芯片化的LSIex500的结构。LSIex500具备以下说明的单元ex501、ex502、ex503、ex504、ex505、ex506、ex507、ex508、ex509，各单元经由总线ex510连接。电源电路部ex505通过在电源是开启状态的情况下对各部供给电力，起动为能够动作的状态。

例如在进行编码处理的情况下，LSIex500基于具有CPUex502、存储器控制器ex503、流控制器ex504、驱动频率控制部ex512等的控制部ex501的控制，通过AV I/Oex509从麦克风ex117及照相机ex113等输入AV信号。被输入的AV信号暂时储存在SDRAM等的外部的存储器ex511中。基于控制部ex501的控制，将储存的数据根据处理量及处理速度适当地分为多次等，向信号处理部ex507发送，在信号处理部ex507中进行声音信号的编码及/或影像信号的编码。这里，影像信号的编码处理是在上述各实施方式中说明的编码处理。在信号处理部ex507中，还根据情况而进行将编码的声音数据和编码的影像数据复用等的处理，从流I/Oex506向外部输出。将该输出的比特流向基站ex107发送、或写入到记录介质ex215中。另外，在复用时，可以暂时将数据储存到缓冲器ex508中以使其同步。

另外，在上述中，设存储器ex511为LSIex500的外部的结构进行了说明，但也可以是包含在LSIex500的内部中的结构。缓冲器ex508也并不限定于一个，也可以具备多个缓冲器。此外，LSIex500既可以形成1个芯片，也可以形成多个芯片。

此外，在上述中，假设控制部ex510具有CPUex502、存储器控制器ex503、流控制器ex504、驱动频率控制部ex512等，但控制部ex510的结构并不限定于该结构。例如，也可以是信号处理部ex507还具备CPU的结构。通过在信号处理部ex507的内部中也设置CPU，能够进一步提高处理速度。此外，作为其他例，也可以是CPUex502具备信号处理部ex507、或作为信号处理部ex507的一部分的例如声音信号处理部的结构。在这样的情况下，控制部ex501为具备具有信号处理部ex507或其一部分的CPUex502的结构。

另外，这里设为LSI，但根据集成度的差异，也有称作IC、系统LSI、超级(super)LSI、特级(ultra)LSI的情况。

此外，集成电路化的方法并不限定于LSI，也可以由专用电路或通用处理器实现。也可以利用在LSI制造后能够编程的FPGA（Field ProgrammableGate Array）、或能够重构LSI内部的电路单元的连接及设定的可重构处理器。

进而，如果因半导体技术的进步或派生的其他技术而出现代替LSI的集成电路化的技术，则当然也可以使用该技术进行功能模块的集成化。有可能是生物技术的应用等。

（实施方式8）

在将通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据解码的情况下，考虑到与将依据以往的MPEG-2、MPEG4-AVC、VC-1等标准的影像数据的情况相比处理量会增加。因此，在LSIex500中，需要设定为比将依据以往的标准的影像数据解码时的CPUex502的驱动频率更高的驱动频率。但是，如果将驱动频率设得高，则发生消耗电力变高的问题。

为了解决该问题，电视机ex300、LSIex500等的运动图像解码装置采用识别影像数据依据哪个标准、并根据标准切换驱动频率的结构。图43表示本实施方式的结构ex800。驱动频率切换部ex803在影像数据是通过在上述各实施方式中示出的运动图像编码方法或装置生成的情况下，将驱动频率设定得高。并且，对执行在上述各实施方式中示出的运动图像解码方法的解码处理部ex801指示将影像数据解码。另一方面，在影像数据是依据以往的标准的影像数据的情况下，与影像数据是通过在上述各实施方式中示出的运动图像编码方法或装置生成的数据的情况相比，将驱动频率设定得低。并且，对依据以往的标准的解码处理部ex802指示将影像数据解码。

更具体地讲，驱动频率切换部ex803由图42的CPUex502和驱动频率控制部ex512构成。此外，执行在上述各实施方式中示出的运动图像解码方法的解码处理部ex801、以及依据以往的标准的解码处理部ex802对应于图42的信号处理部ex507。CPUex502识别影像数据依据哪个标准。并且，基于来自CPUex502的信号，驱动频率控制部ex512设定驱动频率。此外，基于来自CPUex502的信号，信号处理部ex507进行影像数据的解码。这里，可以考虑在影像数据的识别中使用例如在实施方式6中记载的识别信息。关于识别信息，并不限定于在实施方式6中记载的信息，只要是能够识别影像数据依据哪个标准的信息就可以。例如，在基于识别影像数据利用于电视机还是利用于盘等的外部信号，来能够识别影像数据依据哪个标准的情况下，也可以基于这样的外部信号进行识别。此外，CPUex502的驱动频率的选择例如可以考虑如图45所示的将影像数据的标准与驱动频率建立对应的查找表进行。将查找表预先保存到缓冲器ex508、或LSI的内部存储器中，CPUex502通过参照该查找表，能够选择驱动频率。

图44表示实施本实施方式的方法的步骤。首先，在步骤exS200中，在信号处理部ex507中，从复用数据中取得识别信息。接着，在步骤exS201中，在CPUex502中，基于识别信息识别影像数据是否是通过在上述各实施方式中示出的编码方法或装置生成的数据。在影像数据是通过在上述各实施方式中示出的编码方法或装置生成的数据的情况下，在步骤exS202中，CPUex502向驱动频率控制部ex512发送将驱动频率设定得高的信号。并且，在驱动频率控制部ex512中设定为高的驱动频率。另一方面，在表示是依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的影像数据的情况下，在步骤exS203中，CPUex502向驱动频率控制部ex512发送将驱动频率设定得低的信号。并且，在驱动频率控制部ex512中，设定为与影像数据是通过在上述各实施方式中示出的编码方法或装置生成的数据的情况相比更低的驱动频率。

进而，通过与驱动频率的切换连动而变更对LSIex500或包括LSIex500的装置施加的电压，由此能够进一步提高节电效果。例如，在将驱动频率设定得低的情况下，随之，可以考虑与将驱动频率设定得高的情况相比，将对LSIex500或包括LSIex500的装置施加的电压设定得低。

此外，驱动频率的设定方法只要是在解码时的处理量大的情况下将驱动频率设定得高、在解码时的处理量小的情况下将驱动频率设定得低就可以，并不限定于上述的设定方法。例如，可以考虑在将依据MPEG4-AVC标准的影像数据解码的处理量大于将通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据解码的处理量的情况下，与上述的情况相反地进行驱动频率的设定。

进而，驱动频率的设定方法并不限定于使驱动频率低的结构。例如，也可以考虑在识别信息是通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据的情况下，将对LSIex500或包括LSIex500的装置施加的电压设定得高，在表示是依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的影像数据的情况下，将对LSIex500或包括LSIex500的装置施加的电压设定得低。此外，作为另一例，也可以考虑在识别信息表示是通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据的情况下，不使CPUex502的驱动停止，在表示是依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的影像数据的情况下，由于在处理中有富余，所以使CPUex502的驱动暂停。也可以考虑在识别信息表示是通过在上述各实施方式中示出的运动图像编码方法或装置生成的影像数据的情况下，也只要在处理中有富余则使CPUex502的驱动暂停。在此情况下，可以考虑与表示是依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的影像数据的情况相比，将停止时间设定得短。

这样，根据影像数据所依据的标准来切换驱动频率，由此能够实现节电化。此外，在使用电池来驱动LSIex500或包括LSIex500的装置的情况下，能够随着节电而延长电池的寿命。

（实施方式9）

在电视机、便携电话等上述的设备、系统中，有时被输入依据不同的标准的多个影像数据。这样，为了使得在被输入了依据不同的标准的多个影像数据的情况下也能够解码，LSIex500的信号处理部ex507需要对应于多个标准。但是，如果单独使用对应于各个标准的信号处理部ex507，则发生LSIex500的电路规模变大、此外成本增加的问题。

为了解决该问题，采用将用来执行在上述各实施方式中示出的运动图像解码方法的解码处理部、和依据以往的MPEG-2、MPEG4-AVC、VC-1等的标准的解码处理部一部分共用的结构。图46A的ex900表示该结构例。例如，在上述各实施方式中示出的运动图像解码方法和依据MPEG4-AVC标准的运动图像解码方法在熵编码、逆量化、解块滤波器、运动补偿等的处理中有一部分处理内容共通。可以考虑如下结构：关于共通的处理内容，共用对应于MPEG4-AVC标准的解码处理部ex902，关于不对应于MPEG4-AVC标准的本发明的一个方式所特有的其他的处理内容，使用专用的解码处理部ex901。特别是，本发明在运动补偿方面具有特征，因此可以考虑例如对于运动补偿使用专用的解码处理部ex901，对于除此之外的熵解码、逆量化中的某一个或者全部的处理，共用解码处理部。关于解码处理部的共用，也可以是如下结构：关于共通的处理内容，共用用来执行在上述各实施方式中示出的运动图像解码方法的解码处理部，关于MPEG4-AVC标准所特有的处理内容，使用专用的解码处理部。

此外，用图46B的ex1000表示将处理一部分共用的另一例。在该例中，采用使用与本发明的一个方式所特有的处理内容对应的专用的解码处理部ex1001、和与其他的以往标准所特有的处理内容对应的专用的解码处理部ex1002、和与在本发明的一个方式的运动图像解码方法和其他的以往标准的运动图像解码方法中共通的处理内容对应的共用的解码处理部ex1003的结构。这里，专用的解码处理部ex1001、ex1002并不一定是为本发明的一个方式、或者其他的以往标准所特有的处理内容而特殊化的，可以是能够执行其他的通用处理的结构。此外，也能够由LSIex500安装本实施方式的结构。

这样，对于在本发明的一个方式的运动图像解码方法和以往的标准的运动图像解码方法中共通的处理内容，共用解码处理部，由此能够减小LSI的电路规模并且降低成本。

产业上的可利用性

本发明的一个方式涉及的图像编码方法及图像解码方法适合应用于运动图像的编码方法及解码方法。

标号说明

100、200 图像编码装置；101 加法部；102 正交变换部；103 量化部；104、302 逆量化部；105、303 逆正交变换部；106、304 加法部；107、305块存储器；108、306 帧存储器；109、307 帧内预测部；110、308 帧间预测部；111、309 帧间预测控制部；112 图片类型决定部；113、310 开关；114、311 合并块候选计算部；115、312 colPic存储器；116 可变长度编码部；210、410 合并候选导出部；211、411 决定部；212、412 第1导出部；213、413 确定部；214、414 判定部；215、415 第2导出部；220、430 预测控制部；230 编码部；300、400 图像解码装置；301 可变长度解码部；420 解码部。

Claims (17)

1.一种图像编码方法，通过按照每个块对图像进行编码来生成比特流，该图像编码方法包括：

决定步骤，决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；

第1导出步骤，导出第1合并候选；

判定步骤，判定所述第1合并候选的数量是否小于所述最大数；

第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；

选择步骤，从所述第1合并候选和所述第2合并候选中选择在进行所述编码对象块的编码时使用的合并候选；以及

编码步骤，使用所决定的所述最大数对用于确定所选择的所述合并候选的索引进行编码，将被编码后的所述索引附加在所述比特流中。

2.根据权利要求1所述的图像编码方法，在所述第1导出步骤中，导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为所述第1合并候选。

3.根据权利要求1或2所述的图像编码方法，在所述第1导出步骤中，根据在对与所述编码对象块在空间上或者时间上邻接的块进行编码时使用的预测方向、运动矢量及参照图片索引，导出所述第1合并候选。

4.根据权利要求3所述的图像编码方法，在所述第1导出步骤中，导出在对与所述编码对象块在空间上邻接的块之中、除已按照帧内预测被进行了编码的块、位于包括所述编码对象块的切片或者图片的边界外的块、以及尚未被进行编码的块之外的块进行编码时使用的预测方向、运动矢量及参照图片索引，作为所述第1合并候选。

5.根据权利要求1～4中任意一项所述的图像编码方法，在所述第2导出步骤中，导出预测方向、运动矢量及参照图片索引中的至少一个与所述第1合并候选不同的合并候选，作为所述第2合并候选。

6.根据权利要求1～5中任意一项所述的图像编码方法，在所述编码步骤中，还将表示所决定的所述最大数的信息附加在所述比特流中。

7.根据权利要求1所述的图像编码方法，所述图像编码方法还包括：

切换步骤，将编码处理切换为依据于第1标准的第1编码处理或者依据于第2标准的第2编码处理；以及

附加步骤，将表示被切换后的所述编码处理所依据的所述第1标准或者所述第2标准的识别信息附加在所述比特流中，

在所述编码处理被切换为所述第1编码处理的情况下，作为所述第1编码处理，执行所述决定步骤、所述第1导出步骤、所述判定步骤、所述第2导出步骤、所述选择步骤、和所述编码步骤。

8.一种图像编码装置，通过按照每个块对图像进行编码来生成比特流，该图像编码装置具有：

决定部，决定合并候选的最大数，该合并候选是在进行编码对象块的编码时使用的预测方向、运动矢量、以及参照图片索引的候选；

第1导出部，导出第1合并候选；

判定部，判定所述第1合并候选的数量是否小于所述最大数；

第2导出部，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；

预测控制部，从所述第1合并候选和所述第2合并候选中选择在进行所述编码对象块的编码时使用的合并候选；以及

编码部，使用所决定的所述最大数对用于确定所选择的所述合并候选的索引进行编码，将被编码后的所述索引附加在所述比特流中。

9.一种图像解码方法，按照每个块对包含于比特流中的编码图像进行解码，该图像解码方法包括：

决定步骤，决定合并候选的最大数，该合并候选是在进行解码对象块的解码时使用的预测方向、运动矢量、以及参照图片索引的候选；

第1导出步骤，导出第1合并候选；

判定步骤，判定所述第1合并候选的数量是否小于所述最大数；

第2导出步骤，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；

解码步骤，使用所决定的所述最大数对用于确定合并候选的索引进行解码，该索引是被附加在所述比特流中的已被编码的索引；以及

选择步骤，根据被解码后的所述索引，从所述第1合并候选和所述第2合并候选中选择在进行所述解码对象块的解码时使用的合并候选。

10.根据权利要求9所述的图像解码方法，在所述第1导出步骤中，导出预测方向、运动矢量及参照图片索引的组合与已经导出的第1合并候选不重复的合并候选，作为所述第1合并候选。

11.根据权利要求9或10所述的图像解码方法，在所述第1导出步骤中，根据在对与所述解码对象块在空间上或者时间上邻接的块进行解码时使用的预测方向、运动矢量及参照图片索引，导出所述第1合并候选。

12.根据权利要求11所述的图像解码方法，在所述第1导出步骤中，导出在对与所述解码对象块在空间上邻接的块中、除已按照帧内预测被进行了解码的块、位于包括所述解码对象块的切片或者图片的边界外的块、以及尚未被进行解码的块之外的块进行解码时使用的预测方向、运动矢量及参照图片索引，作为所述第1合并候选。

13.根据权利要求9～12中任意一项所述的图像解码方法，在所述第2导出步骤中，导出预测方向、运动矢量及参照图片索引中的至少一个与所述第1合并候选不同的合并候选，作为所述第2合并候选。

14.根据权利要求9～13中任意一项所述的图像解码方法，在所述决定步骤中，根据表示被附加在所述比特流中的最大数的信息，决定所述最大数。

15.根据权利要求9所述的图像解码方法，所述图像解码方法还包括切换步骤，根据被附加在所述比特流中的表示第1标准或者第2标准的识别信息，将解码处理切换为依据于所述第1标准的第1解码处理或者依据于所述第2标准的第2解码处理，

在所述解码处理被切换为第1解码处理的情况下，作为所述第1解码处理，执行所述决定步骤、所述第1导出步骤、所述判定步骤、所述第2导出步骤、所述解码步骤、和所述选择步骤。

16.一种图像解码装置，按照每个块对包含于比特流中的编码图像进行解码，该图像解码装置具有：

决定部，决定合并候选的最大数，该合并候选是在进行解码对象块的解码时使用的预测方向、运动矢量、以及参照图片索引的候选；

第1导出部，导出第1合并候选；

判定部，判定所述第1合并候选的数量是否小于所述最大数；

第2导出部，在判定为所述第1合并候选的数量小于所述最大数的情况下，导出第2合并候选；

解码部，使用所决定的所述最大数对用于确定合并候选的索引进行解码，该索引是被附加在所述比特流中的已被编码的索引；以及

预测控制部，根据被解码后的所述索引，从所述第1合并候选和所述第2合并候选中选择在进行所述解码对象块的解码时使用的合并候选。

17.一种图像编解码装置，该图像编解码装置具有权利要求8所述的图像编码装置、和权利要求16所述的图像解码装置。

Images