KR100386374B1 - A transcoder - Google Patents
A transcoder Download PDFInfo
- Publication number
- KR100386374B1 KR100386374B1 KR1019960705830A KR19960705830A KR100386374B1 KR 100386374 B1 KR100386374 B1 KR 100386374B1 KR 1019960705830 A KR1019960705830 A KR 1019960705830A KR 19960705830 A KR19960705830 A KR 19960705830A KR 100386374 B1 KR100386374 B1 KR 100386374B1
- Authority
- KR
- South Korea
- Prior art keywords
- drift
- decoder
- signal
- output
- transcoder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 230000033001 locomotion Effects 0.000 claims abstract description 48
- 239000000284 extract Substances 0.000 claims abstract 2
- 238000000034 method Methods 0.000 claims description 51
- 238000013139 quantization Methods 0.000 claims description 8
- 239000013598 vector Substances 0.000 abstract description 28
- 238000006243 chemical reaction Methods 0.000 abstract description 6
- 230000005540 biological transmission Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/40—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
운동 보상을 채용하는 제 1 및 제 2 부호화 게획간의 비디오 신호 전환용 트랜스코더는 제 1 부호와 계획에 따라 부호화된 수신 데이터 스트림을 복호화하는 디코더(28) 및 상기 디코더로부터의 데이터 스트림을 제 2 부호화 계획에 따른 데이터 스트림으로 부호화하는 인코더(30)를 포함한다. 상기 디코더(28)는 상기 수신 데이터 스트림으로부터 운동 벡터를 추출하고 그들(42)을 상기 인코더의 데이터 스트림으로 통과시켜 상기 운동 벡터의 재계산을 회피한다. 드리프트 보상수단(52∼64 ; 70∼78)은 한 화상 프레임 이후에 어떠한 결과적 드리프트를 보상하는 수단으로 제공될 수 있다.The transcoder for video signal conversion between the first and second encoding schemes employing motion compensation includes a decoder 28 for decoding the received data stream encoded according to the first code and the scheme and a second encoding of the data stream from the decoder. Encoder 30 for encoding into a data stream according to the plan. The decoder 28 extracts motion vectors from the received data stream and passes them through the data stream of the encoder to avoid recalculation of the motion vectors. Drift compensation means 52 to 64; 70 to 78 may be provided as means for compensating for any resulting drift after one image frame.
Description
본 발명은 제 1 부호화 방법과 제 2 부호화 방법간의 신호 변환용 트랜스코더에 관한 것이다. 본 발명은 특히 비디오 신호의 변환에 적합하다.The present invention relates to a transcoder for signal conversion between a first encoding method and a second encoding method. The invention is particularly suitable for the conversion of video signals.
전송 링크를 경유하여 장거리로 동화상 텔레비전을 전송할 필요가 있을 경우가 많이 있다. 전송하는데 많은 비용이 들고 고대역폭의 링크가 필요한 디지털 형태로 전송될 때, 브로드 캐스트 특성의 텔레비전은 100 Mbit/s 이상을 요구한다. 수용할 만한 정도의 화질의 열화는 전송되는 정보의 내용을 저감하기 위해 도입될 수 있다. 부가적 또는 대안으로, 압축 부호화(coding) 기법이 사용될 수 있는데, 그것은 부호화되는 비디오 신호에 있어서 높은 수준의 공간 및 시간적 여유라는 이점이 있다. 그래서 예를 들면, 화상회의 응용에서 수백 kbit/s의 비트율까지 압축이 가능한 반면, 음향을 포함한 화상전화 수준의 화상은, 단일 전화회선과 동등한 고작 64kbit/s 정도로 압축될 수 있다.There is often a need to transmit moving picture television over long distances via a transmission link. When transmitted in digital form, which is expensive to transmit and requires a high bandwidth link, broadcast-characterized televisions require more than 100 Mbit / s. An acceptable degradation of picture quality can be introduced to reduce the content of the transmitted information. Additionally or alternatively, a compression coding technique can be used, which has the advantage of a high level of spatial and temporal margin in the video signal being encoded. So, for example, in videoconferencing applications it is possible to compress up to a few hundred kbit / s bit rate, while video-phone-level images with sound can be compressed to as much as 64 kbit / s equivalent to a single telephone line.
여분 감축 기법은 인접 픽셀 또는 인접 픽셀의 블록간의 공간 및/또는 시간적 상관(correlation)이 존재하는 것을 가정한다. 가정과 실제 픽셀 또는 블록간의 차이뿐만 아니라 이러한 상관의 상세한 것도 부호화된다. 전형적으로 부호화되는 각각의 이미지 프레임은 N×M 픽셀들의 블록들로 분할되는 화소들(픽셀들)의 어레이로 구성된다.The redundant reduction technique assumes that there is a spatial and / or temporal correlation between adjacent pixels or blocks of adjacent pixels. The details of this correlation as well as the difference between the hypothesis and the actual pixel or block are encoded. Each image frame that is typically encoded consists of an array of pixels (pixels) that are divided into blocks of N × M pixels.
예측 부호화는, 프레임 내에서의 값이 동일 또는 다른 프레임에서 몇개의 인접값과 관련되어 있다는 가정을 이용하고, 따라서 상기 값은 전송되는 대신에 수신기에서 계산될 수 있다. 이 경우, 이러한 가정으로 인하여 일어날 수 있는 예측 오차를 전송하는 것이 필요할 뿐이다. 예를 들면, 각각의 후속 픽셀이 선행 픽셀로부터의 차이로서 전송되는 동안에 프레임의 첫번째 픽셀은 정확히 전송될 수 있다. 좀더 복잡한 방법에서는 예측이 다수의 픽셀들의 조합일 수 있다.Predictive encoding uses the assumption that a value within a frame is associated with several adjacent values in the same or another frame, so that the value can be calculated at the receiver instead of being transmitted. In this case, it is only necessary to transmit the prediction error that may occur due to this assumption. For example, the first pixel of a frame may be transmitted exactly while each subsequent pixel is transmitted as a difference from the preceding pixel. In more complex methods, the prediction may be a combination of multiple pixels.
변환 부호화는 픽셀 크기들을 다른 세트의 값들로 변환함으로써 프레임 내에서의 픽셀 크기의 상관을 이용하고, 이들 중 다수는, 상대적으로 작아서 보다 적은 수의 비트를 사용하여 부호화될 수 있다. 가장 통상적인 변환 부호화의 형태는 이산 코사인 변환(DCT)이다. N×M 픽셀들의 하나의 블록은 N×M의 변환 계수(coefficient)들의 어레이로 변환된다. 그 결과로 얻어진 계수 어레이는 가변 양자화 인자에 의하여 각각의 계수로 분할됨으로써 양자화된다. 양자화된 계수는 예를 들어 허프만 코드와 같은 가변 길이 코드로 부호화될 수 있다.Transform encoding takes advantage of the correlation of pixel sizes within a frame by converting pixel sizes to other sets of values, many of which can be encoded using a relatively small number of bits. The most common form of transform coding is Discrete Cosine Transform (DCT). One block of N × M pixels is transformed into an array of transform coefficients of N × M. The resulting coefficient array is quantized by dividing each coefficient by a variable quantization factor. The quantized coefficients may be encoded with variable length codes, such as, for example, Huffman codes.
다른 부호화 기법으로는, 하나의 화상이 픽셀들의 블록들로 분할되고 현재 프레임의 각각의 블록이 기준 프레임의 대응하는 블록과 비교되는 이동보상(motion compensation)이 있는데, 이때, 기준 프레임은 이전 또는 후속 프레임일 수 있다. 그리고, 현재 프레임의 각각의 블록은 그 블록으로부터 위치가 시프트된 영역과 비교되어, 상기 블록과 가장 유사한 기준 프레임 영역이 식별된다.Another encoding technique is motion compensation, in which one picture is divided into blocks of pixels and each block of the current frame is compared with the corresponding block of the reference frame, where the reference frame is before or after. It may be a frame. Each block of the current frame is then compared with the area shifted from that block to identify the reference frame area most similar to the block.
식별된 영역과 문제의 블록간의 위치에 있어서의 벡터차는 이동백터(motion vector)로 불리우고, 기준 프레임의 식별된 영역을 현재 프레임에 있어서의 관련 블록의 위치로 시프트시키는데 사용된다. 이동백터는 현재 프레임의 모든 블록에대해 생성되며 이들은 기준 프레임으로부터 예측된 프레임을 이끌어 내는데 사용된다. 현재 프레임과 예측된 프레임간의 차이는 평균적으로 현재 프레임과 기준 프레임의 차이보다 작으며, 보다 낮은 비트율을 사용하여 부호화될 수 있다. 이미 저장된 기준 프레임을 갖고 있는 디코더는 이동 벡터 및 차이값(difference value)을 사용하여 현재 프레임을 재생해 낼 수 있다. 신호는 이미 언급한 부호화 기법을 개별적으로 또는 조합하여 사용하여 부호화될 수 있다.The vector difference in position between the identified area and the block in question is called a motion vector, and is used to shift the identified area of the reference frame to the position of the relevant block in the current frame. Moving vectors are generated for all blocks of the current frame and they are used to derive the predicted frame from the reference frame. The difference between the current frame and the predicted frame is on average smaller than the difference between the current frame and the reference frame and can be encoded using a lower bit rate. A decoder having a reference frame already stored can reproduce the current frame using the motion vector and the difference value. The signal can be encoded using the coding techniques already mentioned separately or in combination.
제 1 방법에 따라 부호화된 수신 데이터 스트림을 수용할 수 있고, 제 2 부호화 방법에 따라 부호화된 데이터 스트림을 출력할 수 있는 트랜스코더를 채용하는 것이 바람직한 경우가 있다. 제 2 부호화 방법에 따라 작동되는 디코더를 가졌다면 그러한 트랜스코더는 원래의 인코더를 변형시키지 아니하고 제 1 부호화 방법에 따라 부호화된 전송 수신을 허용할 것이다. 예를 들어, 트랜스코더는, ITU-T 표준 H.261에 따르면서 종합정보통신망(ISDN) 비디오 터미널로부터의 64 kbit/s의 비디오 신호를 디지털 유럽 무선전화망(DECT)을 통한 전송용의 32 kbit/s의 신호로 변환하는데 사용될 수 있을 것이다.It is sometimes desirable to employ a transcoder capable of accepting a received data stream encoded according to the first method and outputting a data stream encoded according to the second encoding method. If it had a decoder operated according to the second encoding method such a transcoder would allow transmission and reception encoded according to the first encoding method without modifying the original encoder. For example, the transcoder is capable of transmitting 64 kbit / s of video signals from an ISDN video terminal in accordance with ITU-T standard H.261 to 32 kbit / s for transmission over a digital European wireless telephone network (DECT). It can be used to convert to the signal of s.
기존의 트랜스코더는 제 1 부호화 방법에 따라 부호화된 비디오 신호를, 새로운 압축된 데이터 스트림을 출력하기 위하여, 제 2 부호화 방법에 따라 인코더에 의하여 부호화된 비압축 비디호 신호로 복호화한다. 전체 디코딩 조작이 수행되어 원래의 비디오 신호를 재구축하면 이 비디오 신호는 제 2 부호화 방법에 따라 새로 부호화된 데이터 스트림을 제공하기 위하여 부호화된다. 이동 보상을 포함하는 부호화 방법의 경우, 새로운 이동 벡터는 새로운 포맷에 따라 부호화된 신호에 대해생성되어야만 하는데, 이것은 종래의 트랜스코더의 처리시간의 큰 비율을 차지한다.The existing transcoder decodes a video signal encoded according to the first encoding method into an uncompressed video signal encoded by an encoder according to the second encoding method to output a new compressed data stream. When a full decoding operation is performed to reconstruct the original video signal, the video signal is encoded to provide a newly encoded data stream according to the second encoding method. In the case of an encoding method including motion compensation, a new motion vector must be generated for a signal encoded according to a new format, which takes up a large proportion of the processing time of a conventional transcoder.
본 발명에 따르면, 이동 보상 기법을 채용하는 제 1 부호화 방법에 따라 부호화된 비디오 신호의 복호화용 디코더, 및 제 2 부호화 방법에 따라 상기 복호화된 비디오 신호의 부호화용 인코더를 포함하는 트랜스코더에 있어서, 상기 디코더가 상기 비디오 신호로부터 이동 보상 정보를 추출하고 상기 이동 보상 정보를 상기 인코더로부터 출력된 상기 부호화된 비디오 신호로 전달하는 것을 특징으로 하는 트랜스코더가 제공된다.According to the present invention, a transcoder comprising a decoder for decoding a video signal encoded according to a first encoding method employing a motion compensation technique, and an encoder for encoding the decoded video signal according to a second encoding method, And a decoder extracting motion compensation information from the video signal and transferring the motion compensation information to the encoded video signal output from the encoder.
상기 이동 보상 정보는 상기 디코더로부터 상기 인코더의 출력측으로 변형되지 않은 채 전달될 수 있으며, 이로써 상기 트랜스코더에서 요구되는 처리를 감축시킬 수 있다. 대안으로, 상기 이동 보상 정보는 상기 2종의 부호화 방법의 압축비율에 따라 변형될 수 있다.The motion compensation information can be transmitted unaltered from the decoder to the output side of the encoder, thereby reducing the processing required by the transcoder. Alternatively, the motion compensation information may be modified according to the compression ratios of the two encoding methods.
상기 트랜스코더의 디코더 및 인코더는 비상수 클록 속도(clock rate)로 동작할 수 있으며, 주데이터 경로의 버퍼용량은 종래의 트랜스코더에 비하여 감축될 수 있다.The decoders and encoders of the transcoder can operate at non-clocked clock rates, and the buffer capacity of the main data path can be reduced compared to conventional transcoders.
2종의 부호화 방법의 이동 보상 블록의 크기가 동일할 필요는 없다. 두 방법의 해상도가 동일하면 이동벡터가 변화되지 아니하고 전달될 수 있고, 블록 크기가 변화되는 경우, 이동 벡터의 몇개는 적절히 복제되거나 버려질 필요가 있을 것이다. 예를 들어, 제 1 부호화 방법의 이동 보상 블록 크기가 16×16 픽셀이고 제 2 부호화 방법의 이동 보상 블록크기가 8×8 픽셀이면, 하나의 16×16 블록에 대한이동 벡터는 제 2 방법의 공통으로 배치된 4개의 8×8 블록에 대하여 사용될 수 있다. 제 1 부호화 방법의 블록 크기가 8×8 픽셀이고 제 2 부호화 방법의 블록크기가 16×16 픽셀이면, 제 2 부호화 방법에 대한 이동 벡터에 초과분이 있게 된다. 그래서 예를 들어, 4개의 관련된 이동 백터의 평균이 계산되고 사용될 수 있다.The size of the motion compensation block of the two encoding methods does not need to be the same. If the resolutions of the two methods are the same, the motion vector can be transmitted without changing, and if the block size is changed, some of the motion vectors will need to be properly duplicated or discarded. For example, if the motion compensation block size of the first encoding method is 16 × 16 pixels and the motion compensation block size of the second encoding method is 8 × 8 pixels, then the motion vector for one 16 × 16 block is determined by the method of the second method. It can be used for four 8 × 8 blocks arranged in common. If the block size of the first encoding method is 8x8 pixels and the block size of the second encoding method is 16x16 pixels, there is an excess in the motion vector for the second encoding method. So, for example, the average of four related moving vectors can be calculated and used.
입력 화상의 해상도가 출력 화상의 해상도와 다르면, 상기 벡터는 적당하게 크기가 조절된다. 예를 들어, 양쪽 부호화 방법의 이동 보상 블록이 16×16 픽셀이고 입력 해상도가 352×288 픽셀, 출력 해상도가 176×144 픽셀이라면, 상기 트랜스코더로의 벡터 입력은 상기 부호화된 비디오 신호로 전달되기 전에 둘로 분할된다. 계산의 복잡성이 종래의 이동 벡터 추정에 비해 작다.If the resolution of the input image differs from that of the output image, the vector is scaled appropriately. For example, if the motion compensation block of both encoding methods is 16 × 16 pixels, the input resolution is 352 × 288 pixels, and the output resolution is 176 × 144 pixels, the vector input to the transcoder is transferred to the encoded video signal. Before it is split into two. The complexity of the calculation is small compared to conventional motion vector estimation.
예측 부호화가 사용되면, 전송 오차에 기인하여 원래의 인코더로부터 전달된 데이터와 목적 디코더에서 복호화된 데이터간의 불일치가 일어날 수 있다. 그러므로, 최종 디코더에 형성된 복호화된 이미지는, 상기 복호화된 신호의 완전성을 회복하기 위하여 비예측 부호화가 때때로 채용되지 않으면 시간이 지남에 따라 증가하는 결함을 갖게 될 것이다. 그러나 원래의 인코더는, 원래의 인코더가 인식하지 못하는 트랜스코더가 채용되는 경우, 수용가능한 복호화된 이미지가 목적 인코더에서 구축되게끔 충분히 자주 비예측 부호화를 채용하지 않을 수 있다. 이것은 트랜스코더에 의해 수신된 비디오 신호와 트랜스코더로부터 출력된 비디오 신호 간의 드리프트(drift)를 일으키게 될 것이다.If predictive coding is used, inconsistencies may occur between data delivered from the original encoder and data decoded at the destination decoder due to transmission errors. Therefore, the decoded image formed at the final decoder will have a defect that increases over time unless unpredicted coding is sometimes employed to restore the integrity of the decoded signal. However, the original encoder may not employ unpredictable encoding often enough so that an acceptable decoded image is built at the destination encoder if a transcoder that is not recognized by the original encoder is employed. This will cause drift between the video signal received by the transcoder and the video signal output from the transcoder.
따라서, 트랜스코더가 드리프트 보상 수단을 포함하는 것이 이득이 된다. 상기 드리프트 보상 수단은 상기 디코더의 출력과 인코더의 출력간의 드리프트를 나타내는 신호를 형성하는 수단, 상기 드리프트 신호를 저장하는 수단, 및 상기 드리프트 신호를 상기 디코더의 출력에 부가하는 수단을 포함하는 것이 바람직하다.Therefore, it is advantageous for the transcoder to include drift compensation means. The drift compensation means preferably comprises means for forming a signal indicative of drift between the output of the decoder and the output of the encoder, means for storing the drift signal, and means for adding the drift signal to the output of the decoder. .
바람직한 실시예에 있어서, 상기 드리프트 신호는 한 화상 주기의 지연 후에 디코더의 출력에 부가되는 것이 바람직하다. 이러한 구성은 부호화된 신호에 있어서 지연을 도입하지 않고 드리프트를 보상한다.In a preferred embodiment, the drift signal is preferably added to the output of the decoder after a delay of one picture period. This configuration compensates for drift without introducing delay in the coded signal.
상기 드리프트 신호는 임계치에 종속되어 그것이 상기 임계치를 초과할 때에만 상기 디코더의 출력에 부가된다.The drift signal is dependent on a threshold and added to the output of the decoder only when it exceeds the threshold.
바람직하게는, 상기 디코더가 역양자화기를 포함하고 상기 인코더가 상기 역양자화기와는 다른 양자화 단계 크기를 갖는 양자화기를 포함한다.Advantageously, said decoder comprises a dequantizer and said encoder comprises a quantizer having a different quantization step size than said dequantizer.
본 발명의 제 2 측면을 따르면, 제 1 부호화 방법에 따라 부호화된 신호를 복호화하는 디코더, 및 제 2 부호화 방법에 따라 상기 복호화된 신호를 부호화하는 인코더를 포함하는 트랜스코더는 상기 디코더로부터의 출력과 상기 인코더로의 입력간의 드리프트를 보상하는 보상 수단을 포함한다.According to a second aspect of the present invention, a transcoder comprising a decoder for decoding a signal encoded according to a first encoding method, and an encoder for encoding the decoded signal according to a second encoding method comprises: an output from the decoder; Compensation means for compensating for drift between inputs to the encoder.
본 발명은 첨부하는 도면을 참조하여 예를 드는 방식으로 이하에서 상세히 설명될 것이다.The invention will be described in detail below in an illustrative manner with reference to the accompanying drawings.
제 1 도는 기존 트랜스코더의 개략도;1 is a schematic diagram of an existing transcoder;
제 2 도는 본 발명의 제 1 실시예에 따른 트랜스코더의 개략도;2 is a schematic diagram of a transcoder according to a first embodiment of the present invention;
제 3 도는 본 발명의 제 2 실시예에 따른 트랜스코더의 개략도;3 is a schematic diagram of a transcoder according to a second embodiment of the present invention;
제 4 도는 본 발명의 제 3 실시예에 따른 트랜스코더의 개략도;4 is a schematic diagram of a transcoder according to a third embodiment of the present invention;
제 5 도는 본 발명의 다른 실시예에 따른 트랜스코더의 개략도; 및5 is a schematic diagram of a transcoder according to another embodiment of the present invention; And
제 6 도는 본 발명에 따른 트랜스코더의 응용예이다.6 is an application example of a transcoder according to the present invention.
제 1 도에 도시된 바와 같이 기존 트랜스코더는 디코더(28) 및 인코더(30)를 포함하고 있음을 알 수 있다. 상기 디코더(28)는, 이동 보상 및 차분신호(difference signal)의 DCT 코딩을 채용하는 제 1 부호화 방법에 따라 부호화된 비디오 신호, 즉 CCITT H.261 표준에 따르는 64 kbit/s 신호를 수신하는 가변 길이 디코더(2)를 포함한다. 상기 디코더(2)는 상기 수신 데이터를 검출하고 양자화된 DCT 계수, 양자화 인덱스 및 이동 벡터로 변환한다. 상기 DCT 계수는 역양자화기(4), 및 상기 DCT 계수를 픽셀차분 값으로 변환하는 역DCT 프로세서(6)로 통과된다.As shown in FIG. 1, it can be seen that the existing transcoder includes a decoder 28 and an encoder 30. The decoder 28 is a variable that receives a video signal encoded according to a first encoding method employing motion compensation and DCT coding of a difference signal, that is, a 64 kbit / s signal conforming to the CCITT H.261 standard. A length decoder 2. The decoder 2 detects the received data and converts it into quantized DCT coefficients, quantization indexes, and motion vectors. The DCT coefficients are passed to an inverse quantizer 4 and an inverse DCT processor 6 which converts the DCT coefficients to pixel difference values.
상기 이동 벡터는, 이전 프레임에서 예측 픽셀 블록의 어드레스를 계산하는 이동 보상기(motion compensator: 8)를 통과한다. 이 블록은 이전 프레임 저장소(12)로부터 복구되며 가산기(10)에서 현재 블록의 복호화된 데이터 스트림을 생성하기 위하여 상기 역 DCT 프로세서(6)의 출력에 가산된다. 상기 복호화된 데이터 스트림은 다음 프레임의 참조용으로서 이전 프레임 저장소(12)에 저장된다.The motion vector passes through a motion compensator 8 that computes the address of the predicted pixel block in the previous frame. This block is recovered from the previous frame store 12 and added to the output of the inverse DCT processor 6 to generate a decoded data stream of the current block in the adder 10. The decoded data stream is stored in the previous frame store 12 for reference of the next frame.
또한, 상기 복호화된 데이터 스트림은 상기 트랜스코더의 인코더(30)를 통과하고, 이동 추정기(14)는 현 블록과 매우 유사한, 픽셀의 오프셋 블록을 찾기 위하여 이전 프레임 버퍼(16)를 검색한다. 가장 적당한 블록의 이동 벡터가 계산되고, 상기 이전 프레임 버퍼(16)로부터 블록이 복구되며 차분 신호를 형성하기 위하여 수단(15)에 의해 상기 복호화된 데이터 스트림으로부터 감산된다. 현재 블록에 대 한 차분 신호는 DCT 프로세서(18)에 의하여 주파수 영역으로 변환된다. 생성된 주파수 계수는 트랜스코더의 출력에서 요망되는 비트율에 적합한 스텝 크기를 갖는 양자화기(20)에서 양자화된다. 가변 길이 코더(22)는 상기 양자화기(20)의 출력과 상기 이동 추정기(14)로부터의 이동 벡터를 가변 길이 코드로 변환하고 새로운 포맷의 데이터로 출력한다.The decoded data stream also passes through the encoder 30 of the transcoder, and the motion estimator 14 searches the previous frame buffer 16 to find an offset block of pixels, very similar to the current block. The motion vector of the most suitable block is calculated and the block is recovered from the previous frame buffer 16 and subtracted from the decoded data stream by means 15 to form a differential signal. The differential signal for the current block is converted into the frequency domain by the DCT processor 18. The generated frequency coefficient is quantized in quantizer 20 having a step size suitable for the desired bit rate at the output of the transcoder. The variable length coder 22 converts the output of the quantizer 20 and the motion vector from the motion estimator 14 into variable length codes and outputs the data in a new format.
또한, 상기 트랜스코더의 인코더(30)는 역양자화기(24) 및 역DCT 프로세서(26)를 포함하는 로컬 디코더를 포함한다. 상기 역DCT 프로세서(26)와, 이동 추정기 및 보상기(14)의 출력은 이전 프레임 저장소(16)에 저장되는 갱신된 예측 프레임을 생성하기 위하여 가산기(27)에 입력된다.The encoder 30 of the transcoder also includes a local decoder that includes an inverse quantizer 24 and an inverse DCT processor 26. The inverse DCT processor 26 and the outputs of the motion estimator and compensator 14 are input to an adder 27 to generate an updated prediction frame stored in the previous frame store 16.
본 발명의 하나의 실시예에 따른 트랜스코더가 제 2 도에 도시되어 있다. 상기 트랜스코더는, 제 1 포맷에 따라 예를 들어 64kbit/s로 CCITT 표준 H.261에 따라 부호화된 인입신호를 복호화하는 가변길이 디코더(40)를 포함한다. 상기 디코더(40)는 상기 가변 길이 코드를 검지하고 DCT 계수 및 이동 벡터로 변환한다. 이동 벡터는 기호 42로 표시된 바와 같은 추가의 처리를 거치지 아니하고 상기 트랜스코더를 통하여 통과된다. 그와 같은 트랜스코더는 동일한 화상 해상도, 변환 블록 크기, 및 이동 보상 블록크기를 갖는 코딩 방법에 적당하다. 상기 DCT 계수는 역양자화기(44)의 입력이 되고, 그 결과 생성된 데이터는 출력 포맷 예를 들어, 32kbit/s에 적합한 서로 다른 양자화 단계 크기로 양자화기(46)에 의하여 재양자화된다. 상기 새로운 DCT 계수는 가변 길이 코더(48)에 의하여 부호화되고, 멀티플렉서(50)에서, 변형되지 아니한 이동 벡터(42)와 재조합된다.A transcoder according to one embodiment of the present invention is shown in FIG. The transcoder comprises a variable length decoder 40 for decoding an incoming signal encoded according to CCITT standard H.261, for example at 64 kbit / s according to the first format. The decoder 40 detects the variable length code and converts it into a DCT coefficient and a motion vector. The motion vector is passed through the transcoder without further processing as indicated by the symbol 42. Such transcoders are suitable for coding methods having the same picture resolution, transform block size, and motion compensation block size. The DCT coefficients are input to inverse quantizer 44, and the resulting data is quantized by quantizer 46 in different quantization step sizes suitable for an output format, for example 32 kbit / s. The new DCT coefficients are encoded by variable length coder 48 and recombined with unmodified motion vector 42 in multiplexer 50.
상기 복호화는 버퍼링없이 전송 시스템으로부터의 부호화된 데이터에 직접수행되며 멀티플렉서(50)의 출력까지 지연이 거의 없는데, 이것은 상기 처리가 짧은 대기시간을 갖기 때문이다. 필요할지도 모르는 유일의 버퍼가 멀티플렉서와 트랜스코더의 출력측 사이에 있을 수 있고, 통상의 인코더에서와 같이 동일한 두가지 기능을 하게 될 것이다. 말하자면, 상기 부호화된 데이터를 평활화하고 상기 양자화기(46)의 부가적 제어를 제공하는 것이다. 그러나 필요로 하는 평활화는, 양자화기(46)의 이산적 특성에 기인한 출력율에 있어서의 국부적으로 제한된 어떠한 변화를 커버하는 것일 뿐이어서, 이 버퍼(도시하지 않음) 및 그 지연은 크기의 차수이거나 종래의 인코더의 그것보다 작을 수 있다.The decoding is performed directly on the encoded data from the transmission system without buffering and there is little delay to the output of the multiplexer 50, because the process has a short latency. There may be only one buffer that may be needed between the multiplexer and the output side of the transcoder, which will do the same two functions as in a normal encoder. In other words, it is to smooth the coded data and provide additional control of the quantizer 46. However, the smoothing required only covers any locally limited change in output rate due to the discrete nature of quantizer 46, so that this buffer (not shown) and its delay are orders of magnitude. Or smaller than that of a conventional encoder.
제 3 도는 본 발명의 제 2 실시예에 따른 트랜스코더를 도시하고 있는데, 이것은 서로 다른 화상 해상도 예를 들어, 제 1 부호화 방법은 388×288 픽셀의 해상도를 가지며, 제 2 부호화 방법은 176×144 픽셀의 해상도를 갖는 부호화 방법에 적합하다. 이동 벡터 스케일러(45)는 인입 이동 벡터를 0.5배로 크기조정하고, 생성된 이동 벡터(42a)는 제 2 도를 참조하여 설명된 것과 같이 VLC의 출력과 함께 다중화된다.3 illustrates a transcoder according to a second embodiment of the present invention, which has a different image resolution, for example, the first encoding method has a resolution of 388 × 288 pixels and the second encoding method is 176 × 144. It is suitable for an encoding method having a pixel resolution. The motion vector scaler 45 scales the incoming motion vector by 0.5 times, and the generated motion vector 42a is multiplexed with the output of the VLC as described with reference to FIG.
양자화기(46)는 트랜스코더의 출력에, 원래의 인코더에서 예측되지 않았던 양자화 오차를 도입한다. 이 오차 또는 드리프트는 이 드리프트가 보상되지 않으면 시간의 경과에 따라 누적될 것이다. 본 발명의 제 2 측면에 따르면, 이동 벡터(42)의 경로의 변화없이 곧바로 트랜스코더 그 자체에서 보정이 적용된다. 이 개념은 가능한 한 신속히 변환계수를 재양자화하는 것으로 원래의 인코더(도시하지 않음)와 최종 디코더(도시하지 않음)간의 오차가 도입될 것임을 인정하고, 상기 부호화된 데이터를 상기 최종 디코더로 디스패치시키고, 도입되는 오차를 계산하여 다음 기회에 그것을 보정하도록 시도하는 것이다. 물론, 그 시간에 새로운 오차가 현재 계수의 재양자화에 의하여 도입될 것이다. 또한 각각의 보정은 두 양자화 법칙의 이산적 특성으로 인하여 완벽하게 될 수는 없다. 그리하여 상기 트랜스코더는 유발된 이전 오차를 따라잡기 위하여 연속적으로 보정을 시도한다.Quantizer 46 introduces, at the output of the transcoder, a quantization error that was not predicted at the original encoder. This error or drift will accumulate over time if this drift is not compensated for. According to a second aspect of the invention, the correction is applied directly at the transcoder itself without a change in the path of the motion vector 42. This concept recognizes that the error between the original encoder (not shown) and the final decoder (not shown) will be introduced by requantizing the transform coefficient as soon as possible, dispatching the encoded data to the final decoder, It is to calculate the error introduced and try to correct it at the next opportunity. Of course, at that time a new error will be introduced by requantization of the current coefficient. Also, each correction cannot be perfect due to the discrete nature of the two quantization laws. Thus, the transcoder attempts to calibrate continuously to catch up with the previous error caused.
제 3 도에 따른 트랜스코더는 이러한 드리프트 보상수단을 포함한다. 상기 역양자화기(44)로부터의 출력은 역DCT 프로세서(52)로 공급되고 양자화기(46)의 출력은 역DCT 프로세서(54)로 공급된다. 그 결과로 얻어진 픽셀 차분 값은 가산기(56, 58)를 각각 경유하여 프레임 저장소(60,62)로 각각 출력되며 그 내용은 원래의 이동 벡터(42) 및 크기가 조정된 이동 벡터(42a)에 의하여 각각 보상된다. 하나의 프레임의 지연 이후, 프레임 저장소(60, 62)의 내용은 수신 데이터(프레임 저장소(60)에 저장)와 전송된 데이터(프레임 저장소(62)에 저장)간의 드리프트 신호를 형성하기 위하여 감산기(63)에 의해 감산된다. 이 드리프트 신호는 DCT 프로세서(64)에 의하여 주파수 영역으로 다시 변환되고, 가산기(65)에 의하여 역양자화기(44)의 출력에 가산된다. 상기 드리프트는 하나의 프레임의 지연후에 보상된다. 또한 상기 프레임 저장소(60. 62)의 이동 보상된 내용은 각각 상기 가산기(56, 58)의 제 2 입력을 형성한다.The transcoder according to FIG. 3 comprises such drift compensation means. The output from the inverse quantizer 44 is fed to an inverse DCT processor 52 and the output of the quantizer 46 is fed to an inverse DCT processor 54. The resulting pixel difference values are output to frame storages 60 and 62, respectively, via adders 56 and 58, respectively, the contents of which are stored in the original motion vector 42 and the scaled motion vector 42a. Rewarded by each. After a delay of one frame, the contents of the frame store 60, 62 are subtracted to form a drift signal between the received data (stored in the frame store 60) and the transmitted data (stored in the frame store 62). 63). This drift signal is converted back into the frequency domain by the DCT processor 64 and added to the output of the inverse quantizer 44 by the adder 65. The drift is compensated after the delay of one frame. The motion compensated content of the frame store 60. 62 also forms a second input of the adders 56, 58, respectively.
오차 또는 드리프트는 원래의 부호화된 데이터 및 비트율이 감축된 버전 모두의 픽셀 영역으로의 완전한 부호화와 그 차의 형성에 의하여 얻어진다. 그런 다음에, 이것은 변환되고, 양자화기 바로 직전의 주경로로 복귀하여 가산된다. 오차를 형성하기 위하여 사용되는 재구축된 비디오 신호는 화상 저장소의 출력으로부터 취해지며, 주경로에 대하여 하나의 화상이 지연된 것이다. 제 4 도는 본 발명에 따른 트랜스코더의 대체 실시예를 도시하고 있는데, 이것은 동일한 화상 해상도, 변환 블록 크기 및 이동 보상 블록 크기를 갖는 부호화 방법에 적합하다. 유사한 소자는 동일 참조번호로 표시되어 있다. 이 실시예에서 드리프트 신호는 픽셀영역과 반대로 주파수 영역에서 형성된다. 역 양자화기(44) 및 양자화기 (46)의 출력은 수신 신호의 DCT 계수와 전송된 신호의 DCT 계수간의 드리프트 신호를 형성하기 위하여 감산기(70)로 입력된다. 이 드리프트 신호는 역DCT 프로세서(72)에 의하여 픽셀 영역으로 변환된다. 역DCT 프로세서(72)로부터의 출력은 가산기(74)로의 하나의 입력을 형성하고, 가산기의 출력은 프레임 저장소(76)로 통과된다. 이전처럼 한 프레임의 지연이후에 프레임 저장소의 내용은 DCT 프로세서(78)에 의하여 주파수 영역으로 재전송된다. 또한 프레임 저장소의 내용은 상기 가산기(74)로의 제 2 입력을 형성한다.The error or drift is obtained by complete coding into the pixel region of both the original coded data and the bitrate reduced version and the formation of the difference. This is then converted and returned to the main path immediately before the quantizer and added. The reconstructed video signal used to form the error is taken from the output of the picture store, with one picture delayed with respect to the main path. Figure 4 shows an alternative embodiment of a transcoder according to the present invention, which is suitable for an encoding method having the same picture resolution, transform block size and motion compensation block size. Similar elements are denoted by the same reference numerals. In this embodiment, the drift signal is formed in the frequency domain as opposed to the pixel region. The outputs of inverse quantizer 44 and quantizer 46 are input to subtractor 70 to form a drift signal between the DCT coefficients of the received signal and the DCT coefficients of the transmitted signal. This drift signal is converted into the pixel region by the inverse DCT processor 72. The output from inverse DCT processor 72 forms one input to adder 74, and the output of the adder is passed to frame store 76. After the delay of one frame as before, the contents of the frame store are retransmitted to the frequency domain by the DCT processor 78. The contents of the frame store also form a second input to the adder 74.
제 5 도는 본 발명에 따른 트랜스코더의 다른 실시예를 도시하고 있는데, 이것은 이동 보상 기법을 채용하지 않는 부호화 방법에 적합한 것이다. 이러한 트랜스코더는 드리프트 보상 수단을 포함하고, 비디오 신호 뿐만 아니라 다른 신호들의 사용에도 적합한 것이다. 이전처럼, 유사한 소자는 동일 참조 번호로 표시되어 있다. 제 5 도의 트랜스코더는 제 3 도에 도시된 것과 동일한 방식으로 동작한다. 이동 보상이 관련되지 않을 때, 드리프트 보상은 변환 영역에서 완전하게 계산될 수 있다.5 shows another embodiment of a transcoder according to the present invention, which is suitable for an encoding method that does not employ a motion compensation technique. Such transcoder includes drift compensation means and is suitable for the use of other signals as well as video signals. As before, similar elements are denoted by the same reference numerals. The transcoder of FIG. 5 operates in the same manner as shown in FIG. When no movement compensation is involved, the drift compensation can be calculated completely in the transform domain.
본 발명은 감축된 비율이 상수가 아닌 경우, 소위 가변 비트율(Variable Bit Rate; VBR)시스템의 응용에도 마찬가지로 잘 작용한다. 패킷 비디오와 특별한 관련을 가진 예는 제 6 도에 도시된 바와 같이 종합정보통신망(ISDN)과 접속된 터미널과 랜(LAN)상의 다른 터미널간의 접속이다. 상기 ISDN 터미널로부터 상수비율로 압축된 비디오는, LAN 트래픽이 충분히 작을 때 변화되지 아니한 채 게이트웨이 트랜스코더(80)에 의하여 LAN으로 전달된다. 그러나, 랜상에서 정체현상이 있는 동안에, 게이트웨이 트랜스코더(80)는 랜상에서 필요로하는 비디오데이터 비율을 감소시킬 수 있다. 원래의 인코더(84)로 복귀되는 제어 메커니즘은 필요하지 않다. 세계 어느 곳에 있을 수 있는 장거리 인코더로의 전송지연 시간의 잠재적 문제 및 장거리 인코더에 의한 반응 시간의 잠재적 문제는 일어나지 않는다. 더욱이 트랜스코더는 거의 임의의 크기로 비율 변환이 가능하며 예를 들어 이산 64kbit/s 또는 H.320/H.221에서 가능한 20밀리초 범위에서의 단계와 비유되는 임의의 순간의 비율 변환을 실행할 수 있다.The present invention works equally well for the application of so-called Variable Bit Rate (VBR) systems when the reduced rate is not constant. An example of particular relevance to packet video is the connection between a terminal connected to an ISDN and another terminal on a LAN, as shown in FIG. The video compressed at a constant rate from the ISDN terminal is delivered to the LAN by the gateway transcoder 80 unchanged when the LAN traffic is sufficiently small. However, during congestion on the LAN, the gateway transcoder 80 may reduce the video data rate required on the LAN. There is no need for a control mechanism to return to the original encoder 84. There is no potential problem of transmission delay time to long range encoders anywhere in the world and potential problems of response time by long range encoders. Moreover, the transcoder is capable of ratio conversion to almost any size and can perform any instant rate conversion compared to steps in the 20 millisecond range possible, for example in discrete 64 kbit / s or H.320 / H.221. have.
가변 비트율 변환에 고정된 또 다른 예는 모바일 응용(mobile applications)과 같은 네트워크에서 일어날 수 있을 것이며, 자동 반복 요구(Automatic Repeat reQuest : ARQ) 메커니즘은 유효 처리비율을 동적으로 감소시킨다.Another example fixed in variable bit rate conversion may occur in networks such as mobile applications, and the Automatic Repeat reQuest (ARQ) mechanism dynamically reduces the effective throughput.
가변 비트율 응용의 상기 예에서 상기 트랜스코더는 역양자화기(44) 및 양자화기(46)의 양자화 인덱스가 동일한 경우 통상 비활성이다. 그러므로 화질은 트랜스코더에 의하여 손상되지 않는다. 상기 트랜스코더(80)의 비트율 감소는 전송 문제에 대한 완화를 위해 비교적 짧은 시간 동안에만 일어난다. 화질의 일시적 열화는 예측 알고리듬상의 데이터 손실의 통상의 영향보다는 훨씬 더 바람직하다.In this example of variable bit rate application the transcoder is typically inactive if the quantization indices of dequantizer 44 and quantizer 46 are equal. The picture quality is therefore not impaired by the transcoder. Bit rate reduction of the transcoder 80 only occurs for a relatively short time to mitigate transmission problems. Temporary degradation of picture quality is much more desirable than the usual effect of data loss on prediction algorithms.
본 발명에 관한 트랜스코더는 터미널 예를 들어, LAN의 터미널(86)로부터의 상수 비트율 데이터를 ATM 네트워크를 경유하여 전송하기 위한 VBR 데이터로 변환시키는 데에도 적합하다.The transcoder according to the present invention is also suitable for converting constant bit rate data from a terminal, for example, terminal 86 of a LAN, into VBR data for transmission via an ATM network.
본 발명의 트랜스코더로부터의 부호화된 데이터는 전송된 데이터비율로 동작하는 디코더, 또는 보다 고율의 데이터 비율 예를 들어, 원래의 인코더의 데이터비율로 동작하는 디코더로 전송될 수 있다.The coded data from the transcoder of the present invention may be transmitted to a decoder operating at the transmitted data rate, or to a decoder operating at a higher data rate, e.g., the data rate of the original encoder.
Claims (9)
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP94302829.0 | 1994-04-21 | ||
EP94302829 | 1994-04-21 | ||
GB9414579A GB9414579D0 (en) | 1994-04-21 | 1994-07-19 | |
GB9414579.4 | 1994-07-19 | ||
GB94302829.0 | 1994-07-19 | ||
PCT/GB1995/000906 WO1995029561A1 (en) | 1994-04-21 | 1995-04-21 | A transcoder |
Publications (2)
Publication Number | Publication Date |
---|---|
KR970702666A KR970702666A (en) | 1997-05-13 |
KR100386374B1 true KR100386374B1 (en) | 2003-10-11 |
Family
ID=49515923
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1019960705830A Expired - Lifetime KR100386374B1 (en) | 1994-04-21 | 1995-04-21 | A transcoder |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100386374B1 (en) |
-
1995
- 1995-04-21 KR KR1019960705830A patent/KR100386374B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
KR970702666A (en) | 1997-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5940130A (en) | Video transcoder with by-pass transfer of extracted motion compensation data | |
Morrison et al. | Reduction of the bit-rate of compressed video while in its coded form | |
EP0691054B1 (en) | Efficient transcoding device and method | |
US5764298A (en) | Digital data transcoder with relaxed internal decoder/coder interface frame jitter requirements | |
EP0756803B1 (en) | A transcoder | |
US5870146A (en) | Device and method for digital video transcoding | |
US6912253B1 (en) | Method and apparatus for transcoding coded video image data | |
JPH09121358A (en) | Image coding and decoding apparatus and method | |
JPH0937245A (en) | Moving image transmission system and moving image transmitter | |
KR100386374B1 (en) | A transcoder | |
KR20020001769A (en) | Transcoding method and device | |
US7085321B2 (en) | Compression | |
HK1014412B (en) | A transcoder | |
HK1014412A1 (en) | A transcoder | |
KR100235357B1 (en) | Pyramidal decoding apparatus for the concealment of cell loss in progressive transmission | |
HK1013567B (en) | A transcoder | |
JPH04134988A (en) | Encoder for picture | |
JPH07250330A (en) | Hierarchical coding transmission system and transmitter-receiver | |
HK1075779B (en) | Code conversion/transmission method and apparatus for moving picture data, and code conversion/reception method and apparatus for moving picture data | |
HK1075779A1 (en) | Code conversion/transmission method and apparatus for moving picture data, and code conversion/reception method and apparatus for moving picture data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0105 | International application |
Patent event date: 19961018 Patent event code: PA01051R01D Comment text: International Patent Application |
|
PG1501 | Laying open of application | ||
A201 | Request for examination | ||
PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 20000418 Comment text: Request for Examination of Application |
|
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20020327 Patent event code: PE09021S01D |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20030224 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20030522 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20030523 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20060419 Start annual number: 4 End annual number: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20070419 Start annual number: 5 End annual number: 5 |
|
PR1001 | Payment of annual fee |
Payment date: 20080422 Start annual number: 6 End annual number: 6 |
|
PR1001 | Payment of annual fee |
Payment date: 20090519 Start annual number: 7 End annual number: 7 |
|
PR1001 | Payment of annual fee |
Payment date: 20100518 Start annual number: 8 End annual number: 8 |
|
PR1001 | Payment of annual fee |
Payment date: 20110517 Start annual number: 9 End annual number: 9 |
|
PR1001 | Payment of annual fee |
Payment date: 20120514 Start annual number: 10 End annual number: 10 |
|
FPAY | Annual fee payment |
Payment date: 20130510 Year of fee payment: 11 |
|
PR1001 | Payment of annual fee |
Payment date: 20130510 Start annual number: 11 End annual number: 11 |
|
FPAY | Annual fee payment |
Payment date: 20140508 Year of fee payment: 12 |
|
PR1001 | Payment of annual fee |
Payment date: 20140508 Start annual number: 12 End annual number: 12 |
|
EXPY | Expiration of term | ||
PC1801 | Expiration of term |
Termination date: 20151021 Termination category: Expiration of duration |