[go: up one dir, main page]

JP2004120099A - Information processing apparatus and method, program, and recording medium - Google Patents

Information processing apparatus and method, program, and recording medium Download PDF

Info

Publication number
JP2004120099A
JP2004120099A JP2002277604A JP2002277604A JP2004120099A JP 2004120099 A JP2004120099 A JP 2004120099A JP 2002277604 A JP2002277604 A JP 2002277604A JP 2002277604 A JP2002277604 A JP 2002277604A JP 2004120099 A JP2004120099 A JP 2004120099A
Authority
JP
Japan
Prior art keywords
sub
data
stream
recorded
recording medium
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002277604A
Other languages
Japanese (ja)
Other versions
JP4348920B2 (en
JP2004120099A5 (en
Inventor
Motoki Kato
加藤 元樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002277604A priority Critical patent/JP4348920B2/en
Publication of JP2004120099A publication Critical patent/JP2004120099A/en
Publication of JP2004120099A5 publication Critical patent/JP2004120099A5/ja
Application granted granted Critical
Publication of JP4348920B2 publication Critical patent/JP4348920B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Management Or Editing Of Information On Record Carriers (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To cope with the increase in sub streams subjected to after recording without the need for limiting a coding bit rate of a main AV stream to be low in advance. <P>SOLUTION: A flowchart denoting a processing flow of a method for performing after recording includes: a step S101 of receiving after-recording data and encoding the data by an encoder; a step S102 of checking whether or not a play list going to be subjected to after recording has already a sub path; a step S103 of reading an AUX stream referenced by the sub path already possessed by the play list from a disk; a step S104 of multiplexing the read AUX stream with a stream to be subjected to after recording this time to generate a new AUX stream; and a step S106 of recording the newly generated AUX stream, wherein the AUX stream is generated by using the stream subjected to after recording this time when the play list has no sub path and the generated AUX stream is recorded on a recording medium. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
この発明は、メインのオーディオビデオデータと同期して再生されるサブデータを記録するための情報処理装置および方法、プログラム、並びに記録媒体に関する。
【0002】
【従来の技術】
記録媒体に記録されているビデオ信号にオーディオやグラフィックスをアフレコ編集する場合に、元のビデオ信号を変更しないで、仮想的にアフレコ編集を実現する方法のいくつかが提案されている。なお、アフレコは、after recordingから生じた和製英語であり、その意味するところは、既に記録されているデータに対して付加的または置換して追加的にデータを記録することを意味する。
【0003】
例えば、System Description Blu−ray Disc Rewritable Format part3 AudioVisual Basic Specification(以下、BDAVと呼ぶ)のサブパス(サブプレイアイテム)の方法が提案されている。下記の特許文献1は、このBDAVに関連したものである。BDAVでは、時間軸上にプレイアイテムとサブプレイアイテムを並列に並べて、それらが別々のAVストリームを参照する方法を用いる。また、QuickTimeでは、時間軸上に複数のトラックを並列に並べ、それぞれのトラックが別々のAVストリームを参照する方法を用いている。
【0004】
【特許文献1】
特開2002−158972号公報
【0005】
この特許文献1には、AVストリームファイルを記録媒体例えばディスク状記録媒体に記録する時に、そのファイルを説明するアプリケーションデータベース情報も記録することが記載されている。アプリケーションデータベース情報には、AVストリームのデータベース(クリップと称する)、AVストリームの再生区間(プレイアイテムと称する)をグループ化した再生制御情報(プレイリストと称する)、記録媒体の記録内容の管理情報およびサムネイル画像の情報が含まれる。アプリケーションデータベース情報は、AVストリームと同様の記録処理を受けて記録媒体上に記録される。
【0006】
このように、記録媒体上に記録されたAVストリームファイルおよびアプリケーションデータベース情報を再生する場合には、最初にアプリケーションデータベース情報が再生され、読み出された情報がプレーヤの制御部に取り込まれる。アプリケーションデータベース情報に基づいて、記録媒体に記録されているプレイリストの一覧をユーザインターフェイスによって表示し、ユーザがプレイリストの一覧から再生したいプレイリストを選択する。選択されたプレイリストに必要なAVストリームファイルが記録媒体から読み出され、再生処理を受けて再生ビデオ信号および再生オーディオ信号が得られる。
【0007】
さらに、ユーザは、記録媒体に記録されているAVストリームを編集することができる。例えば番組Aという歌番組から歌手aの部分を再生し、その後続けて、番組Bという歌番組の歌手aの部分を再生するといった再生経路を作成できる。この場合では、番組Aに関してユーザが指定した再生区間の開始点(イン点)と終了点(アウト点)の情報から制御部がAVストリームの再生区間(プレイアイテム)をグループ化したプレイリストのデータベースを作成する。
【0008】
図1は、上述した特許文献1に記載されているアプリケーションフォーマットの構造を示す。アプリケーションフォーマットは、AVストリームの管理のためにプレイリストとクリップの二つのレイヤを有する。ボリューム情報は、データベース内の全てのクリップとプレイリストを管理する。1つのAVストリームとその付属情報のペアを1つのオブジェクトと考え、それをクリップと称している。AVストリームファイルは、クリップAVストリームファイルと称され、その付属情報がクリップ情報ファイルと称される。
【0009】
1つのクリップAVストリームファイルは、MPEG2(Moving Picture Experts Group Phase 2)トランスポートストリームをアプリケーションフォーマットによって規定される構造に配置したデータをストアする。一般的に、ファイルは、バイト列として扱われる。クリップAVストリームファイルのコンテンツは、時間軸上に展開され、クリップ中のエントリポイントは、時間ベースで主に指定される。所定のクリップへのアクセスポイントのタイムスタンプが与えられた時に、クリップ情報ファイルは、クリップAVストリーム中のデータの読み出しを開始すべきアドレス情報を見つけるのに役立つ。
【0010】
プレイリストは、クリップの中からユーザが視聴したい再生区間を選択し、それを簡単に編集することを可能とするために用意されている。1つのプレイリストは、クリップの中の再生区間の集まりである。所定のクリップの中の1つの再生区間は、プレイアイテムと呼ばれ、それは、時間軸上のイン点とアウト点の対で表される。
【0011】
プレイリストには、2つのタイプがある。1つはリアルプレイリストであり、他の1つは仮想プレイリストである。リアルプレイリストは、それが参照しているクリップのストリーム部分を共有している。すなわち、リアルプレイリストは、それの参照しているクリップ中のストリーム部分に相当するデータ容量をディスクの中で占め、リアルプレイリストが消去され場合には、それが参照しているクリップのストリーム部分も消去される。
【0012】
仮想プレイリストは、クリップのデータを共有していない。したがって、仮想プレイリストが変更または消去されたとしても、クリップの内容には何の変化も生じない。
【0013】
図2は、アセンブル編集の例を示す。図2Aに示すように、二つのリアルプレイリスト1,2と、それぞれのリアルプレイリストに対応するクリップ1,2が存在している場合に、ユーザがリアルプレイリスト1内の所定の区間(IN1乃至OUT1)を再生区間(プレイアイテム1)として指定し、続けて再生する区間として、リアルプレイリスト2内の所定の区間(IN2乃至OUT2)を再生区間(プレイアイテム2)として指定する。この例では、図2Bに示すように、プレイアイテム1およびプレイアイテム2からなる1つの仮想プレイリストが作成される。作成された仮想プレイリストは、再編集することができる。再編集には、IN点、OUT点の変更、仮想プレイリストへの新たなプレイアイテムの挿入や追加等がある。
【0014】
図3は、仮想プレイリストへのオーディオのアフレコを説明するものである。アフレコは、仮想プレイリストへオーディオのアフレコをサブパスとして登録する操作で実行される。オーディオのアフレコは、アプリケーションフォーマットによりサポートされている。仮想プレイリストのメインパスのAVストリームに、付加的なサブのオーディオストリームがサブパスとして付加される。
【0015】
図4は、上述した特許文献1に記載のBDAVのサブパスの方法を用いて、オリジナルのオーディオビデオのメインパス(メイン再生パス)にオーディオのサブパスとグラフィックスのサブパスを並べたプレイリストの例を示す。なお、以降の説明では、説明の簡単のために、仮想プレイリストを単にプレイリストと呼び、メインパスが参照するリアルプレイリストに対応する実データをメインAVストリームと称し、サブパスが参照するリアルプレイリストに対応する実データをAUXオーディオストリーム、AUXグラフィックスストリームと称することにする。
【0016】
メインパスは、参照するメインAVストリームデータの中から選択された再生区間(プレイアイテム)を示すデータIN1およびOUT1を有している。サブオーディオパスおよびサブグラフィックスパスのそれぞれも参照するストリームデータの再生区間(プレイアイテム)を示すデータIN2、IN3、OUT2、OUT3を有している。プレイリストを再生するプレーヤは、メインパスとサブパスとを同期させて再生する。サブパスが参照するオーディオストリームおよびグラフィックスストリームは、アフレコされたものである。例えばカメラ一体型ディスクレコーダにおいて、撮影されたメインAVストリームに対して、ユーザが音声データとタイトルの画面をアフレコした場合にサブパスが形成される。アフレコされた音声データおよびタイトル画面がそれぞれAUXオーディオストリームおよびAUXグラフィックスストリームに対応する。
【0017】
図5は、サブパスにオーディオとグラフィックスの2つのストリームを使用する図4に示すようなプレイリストを再生するプレーヤシステムを示す。プレーヤは、記録媒体例えばディスク1からメインAVストリーム、AUXオーディオストリーム、AUXグラフィックスストリームの3つのストリームを読み出して、それを同時に復号する必要がある。
【0018】
図5において、参照符号2a、2b、2cは、ディスク1から読み取られたストリームがそれぞれ入力されるバッファメモリである。バッファメモリ2a、2b、2cのそれぞれの出力がデマルチプレクサ3a、3b、3cに入力され、パケットIDを参照してパケットへ分離される。デマルチプレクサ3aの出力がAVデコーダ4aで復号され、ビデオデータVおよびオーディオデータA1が得られる。デマルチプレクサ3bの出力がオーディオデコーダ4bで復号され、オーディオデータA2が得られる。デマルチプレクサ3cの出力がグラフィックスデコーダ4cで復号され、オグラフィックスデータGが得られる。
【0019】
各デコーダによって得られたビデオデータV、オーディオデータA1およびA2、並びにグラフィックスデータGがオーディオMIX/select、ビデオMIXおよび同期制御部5に供給され、ビデオ出力とオーディオ出力とが形成される。ビデオ出力は、例えば指定された再生時間においてアフレコされたタイトル画面が表示されるビデオ表示信号である。オーディオ出力は、メインパスおよびサブパスで指定された再生時間においてメインオーディオ信号およびアフレコされたオーディオ信号の一方が選択されたもの、または両者が混合されたものである。
【0020】
図6に概略的に示すような動作によって、ディスク1から3つのストリームを実質的に同時に再生することが可能である。図6の例では、簡単のため、ストリームのデータレートが互いに等しいものと仮定している。最初のリードでメインAVストリームが例えば光学ヘッドによって再生され、再生されたメインAVストリームがバッファ2aに入力される。バッファ2aから再生されたメインAVストリームが出力される。
【0021】
メインAVストリームのリードが終わると、次にAUXオーディオストリームの記録領域に読み取り位置がジャンプして、AUXオーディオストリームが再生され、再生されたAUXオーディオストリームがバッファ2bに入力される。バッファ2bから再生されたAUXオーディオストリームが出力される。次にAUXグラフィックスストリームの記録領域に読み取り位置がジャンプして、AUXグラフィックスが再生される。再生されたAUXグラフィックスストリームがバッファ2cに入力される。
【0022】
そして、再びメインAVストリームの記録領域にジャンプして、メインAVストリームをリードする。バッファ2a,2b,2cのそれぞれは、以前のリードで格納されたデータの読み出しが終了し、次のリードで読み出されたデータが格納される時には、殆ど空となっている。図6の状態は、ゆとりがない厳しい状態を表している。このような3回のジャンプ動作を繰り返すことによって、3つのストリームを実質的に同時に再生できる。
【0023】
図7は、サブパスが参照するストリームデータをアフレコするレコーダシステムの従来例を示す。アフレコ用のオーディオデータまたはグラフィックスのデータが入力されると、エンコーダ6が入力されたデータを符号化して、エンコーダ6の出力がマルチプレクサ7によってトランスポートストリームに符号化され、トランスポートストリームが記録媒体例えばディスク1に記録される。
【0024】
【発明が解決しようとする課題】
別々のストリームを参照するプレイアイテムとサブプレイアイテムを並べる方法では、図6を参照して説明したように、ジャンプ動作を行うことで各ストリームを順番に読み出す必要があり、同時に再生されるサブプレイアイテムの個数が増えるにしたがって、各ストリームの読み出しに必要なジャンプ数が多くなる。ジャンプ数が多くなるにしたがって、各ストリームを連続再生できるように、ストリームをデコーダへ供給することを保証するために、ストリームのビットレートを低く抑えることが必要となる。
【0025】
その結果、サブプレイアイテムの数が増えることに備えて、予めメインAVストリームの符号化ビットレートを低くする必要があり、ビデオ等の符号化画質が劣化する問題が生じる。また、サブプレイアイテムの数が増えることに備えないで、メインAVストリームの符号化ビットレートを制限しない場合では、サブプレイアイテムの個数を増やすことができない問題が生じる。例えばアフレコでオーディオのサブパスを付加した後に、さらに、グラフィックスのサブパスを付加することができない問題が生じる。
【0026】
したがって、この発明の目的は、メインAVストリームの符号化ビットレートを低く制限する必要がなく、且つサブプレイアイテムの数の増加に対応できる情報処理装置および方法、プログラム、並びに記録媒体を提供することにある。
【0027】
【課題を解決するための手段】
上述した課題を解決するために、請求項1の発明は、メインオーディオビデオストリームデータと共に、メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対してオーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置において、
再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上にオーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定手段と、
入力されたサブデータから第2のサブデータストリームを生成する符号化手段と、
判定手段によって、所定数の第1のサブデータが記録されていないと判定される場合に、符号化手段で生成された第2のサブデータストリームを記録媒体に記録し、
判定手段によって、所定数の第1のサブデータが記録されていると判定される場合に、所定数の第1のサブデータの1つと符号化手段で生成された第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録する手段と
からなる情報処理装置である。
【0028】
請求項5の発明は、メインオーディオビデオストリームデータと共に、メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対してオーディオビデオストリームと同期して再生されるサブデータを記録する情報処理方法において、
再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上にオーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
判定ステップによって、所定数の第1のサブデータが記録されていないと判定される場合に、符号化ステップで生成された第2のサブデータストリームを記録媒体に記録し、
判定ステップによって、所定数の第1のサブデータが記録されていると判定される場合に、所定数の第1のサブデータの1つと符号化ステップで生成された第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなる情報処理方法である。
【0029】
請求項9の発明は、メインオーディオビデオストリームデータと共に、メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対してオーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置のプログラムにおいて、
を再生または受信する情報処理装置のプログラムにおいて、
再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上にオーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
判定ステップによって、所定数の第1のサブデータが記録されていないと判定される場合に、符号化ステップで生成された第2のサブデータストリームを記録媒体に記録し、
判定ステップによって、所定数の第1のサブデータが記録されていると判定される場合に、所定数の第1のサブデータの1つと符号化ステップで生成された第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなる情報処理装置のプログラムである。
【0030】
請求項10の発明は、メインオーディオビデオストリームデータと共に、メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対してオーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置のプログラムにおいて、
を再生または受信する情報処理装置のプログラムにおいて、
再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上にオーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
判定ステップによって、所定数の第1のサブデータが記録されていないと判定される場合に、符号化ステップで生成された第2のサブデータストリームを記録媒体に記録し、
判定ステップによって、所定数の第1のサブデータが記録されていると判定される場合に、所定数の第1のサブデータの1つと符号化ステップで生成された第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなるコンピュータが読み取り可能なプログラムが記録されている記録媒体である。
【0031】
請求項11の発明は、メインオーディオビデオストリームデータと、オーディオビデオストリームと同期して再生される所定数のサブデータストリームと、メインオーディオビデオストリームの再生を制御する再生制御情報とが記録され、サブデータストリームの少なくとも1つが2以上のサブデータが合成されたストリームである記録媒体である。
【0032】
この発明では、同時に再生される複数のサブプレイアイテムが参照する各ストリームデータを多重化して記録するので、サブプレイアイテムの数が増えても、予めメインAVストリームの符号化ビットレートを低く制限する必要がないので、ビデオ等の符号化画質を高めることができる。サブプレイアイテムの数を制限する必要がないので、例えばオーディオのサブパスを付加した後に、さらにグラフィックスのサブパスを付加することができなくなる問題が生じない。
【0033】
【発明の実施の形態】
以下、この発明の一実施形態について図面を参照して説明する。図8は、この発明の一実施形態におけるプレイリストと、そのプレイリストが参照する実データの関係を示す。実データは、記録媒体例えばディスク上に記録されているデータである。一実施形態は、この発明をBDAVのフォーマットに規定されているプレイリストに対して適用したものである。上述したように、BDAVでは、時間軸上にプレイアイテムとサブプレイアイテムを並列に並べて、それらが別々のAVストリームを参照する方法を用いる。
【0034】
プレイリストのメインパスは、実データのメインAVストリームを参照しており、メインAVストリームの中から選択された再生区間を示すデータ(IN1−OUT1)を有する。プレイリストのサブオーディオパスおよびサブグラフィックスパスが1つの多重化ストリーム例えばAUXオーディオおよびAUXグラフィックスが多重化されたストリームを参照している。サブオーディオパスは、多重化ストリームの中から選択された再生区間を示すデータ(IN2−OUT2)を持つ。サブグラフィックスパスは、多重化ストリームの中から選択された再生区間を示すデータ(IN3−OUT3)を持つ。このプレイリストを再生するプレーヤは、メインパスとサブパスとを同期させて再生する。
【0035】
一例として、実質的に同時に再生可能なストリームが2つとされている。すなわち、ディスクプレーヤの能力として、メインパスが参照するメインAVストリームの他に、サブパスが参照することができるAUXストリームが1つとされている。既に1つのAUXストリームが記録されている場合に、新たなAUXストリームをアフレコすることがこの発明によって支障なく実現できる。
【0036】
図8に示すように、2つのサブパスが存在する場合であっても、記録媒体上では、1つの多重化ストリームのみが記録される。多重化ストリームを形成する合成方法としては、時分割多重する方法、並びに所定時間例えば1GOPのデータ毎に並べるインターリーブする方法の何れかを使用できる。後述するように、この発明の一実施形態では、アフレコを行う場合に、プレイリストの情報に基づいて、既にサブパスが存在しているか否かを調べ、既にサブパスが存在している場合には、記録されているAUXストリームと新たに記録するAUXストリームとを多重化して、多重化ストリームを作成し、作成した多重化ストリームを記録するようになされる。
【0037】
図9は、2個のサブパスがオーディオおよびグラフィックスストリームが多重化された1つの多重化ストリームを参照するプレイリストが記録され、このプレイリストにしたがって再生動作を行うことが可能なプレーヤシステムを示す。ディスク11から2つのストリームが実質的に同時に再生される。
【0038】
図9において、参照符号12aは、ディスク11から読み取られたメインAVストリームが入力されるバッファメモリであり、参照符号12bは、ディスク11から読み取られたAUXオーディオおよびグラフィックスストリーム(多重化ストリーム)が入力されるバッファメモリである。バッファメモリ12aおよび12bのそれぞれの出力がデマルチプレクサ13aおよび13bに入力され、パケットIDを参照してパケットへ分離される。デマルチプレクサ13aの出力がAVデコーダ14aで復号され、ビデオデータVおよびオーディオデータA1が得られる。
【0039】
デマルチプレクサ13bは、多重化ストリームをオーディオストリームとグラフィックスストリームとに分離する。オーディオストリームがオーディオデコーダ14bで復号され、オーディオデータA2が得られる。グラフィックスストリームがグラフィックスデコーダ14cで復号され、グラフィックスデータGが得られる。
【0040】
各デコーダによって得られたビデオデータV、オーディオデータA1およびA2、並びにグラフィックスデータGがオーディオMIX/select、ビデオMIXおよび同期制御部15に供給され、ビデオ出力とオーディオ出力とが形成される。ビデオ出力は、例えば指定された再生時間においてアフレコされたタイトル画面が表示されるビデオ表示信号である。オーディオ出力は、指定された再生時間においてアフレコされたオーディオ信号がメインのオーディオ信号と混合またはメインのオーディオ信号に代えてアフレコオーディオ信号が選択されたものである。
【0041】
プレーヤシステムでは、ディスク11から先ずプレイリストの情報が再生され、プレイリストの情報が図示しない制御部に読み込まれる。プレイリストの情報は、図8を参照して説明したように、メインAVストリームの再生区間とサブの多重化ストリームの再生区間とを指定するものである。制御部は、プレイリストの情報にしたがって、オーディオMIX/select、ビデオMIXおよび同期制御部15を制御する。それによって、プレイリストの情報にしたがって再生されたビデオ出力およびオーディオ出力が得られる。
【0042】
図10に概略的に示すような動作によって、ディスク1から2つのストリームを実質的に同時に再生することが可能である。図10の例では、簡単のため、ストリームのデータレートが互いに等しいものと仮定している。最初のリードでメインAVストリームが例えば光学ヘッドによって再生され、再生されたメインAVストリームがバッファ12aに入力される。バッファ12aから再生されたメインAVストリームが出力される。
【0043】
メインAVストリームのリードが終わると、次に多重化ストリーム(AUXオーディオおよびグラフィックスストリーム)の記録領域に読み取り位置がジャンプして、多重化ストリームが再生され、再生された多重化ストリームがバッファ12bに入力される。バッファ12bから再生された多重化ストリームが出力される。次に再びメインAVストリームの記録領域にジャンプして、メインAVストリームがリードされる。バッファ12aおよび12bのそれぞれは、以前のリードで格納されたデータの読み出しが終了し、次のリードで読み出されたデータが格納される時には、殆ど空となっている。図10の状態は、ゆとりがない厳しい状態を表している。このような2回のジャンプ動作を繰り返すことによって、2つのストリームを実質的に同時に再生できる。
【0044】
図9では、多重化ストリームがディスク11上で、物理的に連続した配置を持つように記録されている。しかしながら、ジャンプ動作が殆ど発生しなければ、連続した配置ではなく、断片的な配置でもって多重化ストリームがディスク11上に記録されていても良い。
【0045】
図11は、サブパスが参照するストリームデータを記録するレコーダシステムの構成例を示す。ユーザがあるプレイリストに対してオーディオまたはグラフィックスのアフレコを行うことをレコーダに指示した場合、アフレコ用のオーディオまたはグラフィックスのデータがエンコーダ16に供給され、エンコーダ16によってアフレコ用のデータが符号化される。エンコーダ16によって符号化されたストリームがマルチプレクサ17に供給される。
【0046】
レコーダは、アフレコに先立ってディスク11からプレイリストの情報を再生し、制御部19に読み込む。プレイリストの情報の読み取りは、電源オン時、ディスクの挿入時等のタイミングでなされ、読み取られたプレイリストの情報が制御部19のメモリに保存される。制御部19は、レコーダは、既にそのプレイリストがオーディオまたはグラフィックスのサブパスを持っているかどうかを調べる。若し、そのプレイリストがサブパスを持っている場合には、レコーダは、サブパスが参照しているストリームをディスク11から読み出す。そして、読み出したストリームをデマルチプレクサ18に供給する。デマルチプレクサ18の出力がマルチプレクサ17に供給される。マルチプレクサ17は、デマルチプレクサ18からのストリームとエンコーダ16からのストリームとをトランスポートストリームに多重化する。マルチプレクサ17からのトランスポートストリームがディスク11に記録される。
【0047】
一方、若し、そのプレイリストがサブパスを持っていない場合には、エンコーダ16からのストリームをマルチプレクサ17がトランスポートストリームに符号化し、マルチプレクサ17から出力されるトランスポートストリームがディスク11に記録される。アフレコ用のデータがディスク11に記録された場合では、プレイリストの内容が書き換えられ、書き換えられたプレイリストの情報がディスク11に記録される。
【0048】
図12は、サブパスが参照するストリームの記録方法の流れを示すフローチャートである。最初のステップS101において、アフレコ用のオーディオまたはグラフィックスのデータが入力され、エンコーダで符号化され、マルチプレクサにエンコーダからのストリームが入力される。
【0049】
ステップS102において、レコーダは、アフレコしようとするプレイリストが既にオーディオまたはグラフィックスのサブパスを持っているかどうかを調べる。例えばレコーダは、予めディスク11から記録に先立ってプレイリストの情報を読み取り、読み取ったプレイリストから既にサブパスを持っているかどうかを調べる。ステップS102の判定結果がyesの場合では、処理がステップS103に進み、判定結果がnoの場合では、処理がステップS105に進む。
【0050】
ステップS103では、プレイリストが既に持っているサブパスが参照するAUXストリームをディスクから読み出す。
【0051】
ステップS104では、読み出したAUXストリームと、今回アフレコするストリームとを多重化して新たなAUXストリームを作成する。
【0052】
そして、ステップS106において、新たに作成したAUXストリームを記録媒体に記録する。
【0053】
ステップS102の判定結果がnoの場合、すなわち、そのプレイリストがサブパスを持っていない場合には、今回アフレコするストリームを用いてAUXストリームを作成する。そして、ステップS106において、作成したAUXストリームを記録媒体に記録する。
【0054】
図13は、メインパスとサブパスを有するプレイリストにしたがってなされる再生方法の流れを示すフローチャートである。ステップS201において、メインパスが参照するストリームを記録媒体から読み出して、読み出したストリームを復号する。
【0055】
ステップS202において、サブパスが参照するストリームを記録媒体から読み出して、読み出したストリームを復号する。
【0056】
ステップS203において、メインパスとサブパスの同期再生を行う。
【0057】
この発明は、上述した一実施形態等に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。例えばこの発明は、BDAV以外のフォーマットのプレイリストに対しても適用できる。例えばこの発明は、QuickTime(商標)に対しても適用可能である。QuickTime(商標)は、ビデオ、オーディオ等の各種データを時間軸に沿って管理するソフトウェアであり、特殊なハードウェアを用いずに動画や音声やテキストなどを同期して再生するためのOS拡張機能である。
【0058】
【発明の効果】
この発明では、同時に再生される複数のサブプレイアイテムが参照する各ストリームデータを多重化して記録するので、サブプレイアイテムの数が増えても、予めメインAVストリームの符号化ビットレートを低く制限する必要がないので、ビデオ等の符号化画質を高めることができる。サブプレイアイテムの数を制限する必要がないので、例えばオーディオのサブパスを付加した後に、さらにグラフィックスのサブパスを付加することができなくなる問題が生じない。単にストリームの数の増加を抑えるのであれば、メインストリームにアフレコ用ストリームを多重化することも考えられるが、通常メインストリームのデータ量が多く、書き換えが大変となり、また、メインストリームを他のプレイリストが参照していることもあるので、メインストリームにアフレコ用ストリームを多重化することは不都合が生じる。
【図面の簡単な説明】
【図1】先に提案されている再生制御情報としてのプレイリストを説明するための略線図である。
【図2】アセンブル編集を行った場合のプレイリストの作成方法を説明するための略線図である。
【図3】アフレコを行った場合のプレイリストを説明するための略線図である。
【図4】サブパスにオーディオとグラフィックスの2個のストリームを使用する従来のプレイリストを説明するための略線図である。
【図5】サブパスにオーディオとグラフィックスの2個のストリームを使用する従来のプレイリストを再生するためのプレーヤシステムのブロック図である。
【図6】従来の3個のストリームを同時再生するプレーヤのモデルの説明のための略線図である。
【図7】従来のアフレコを行うレコーダの一例のブロック図である。
【図8】サブパスにオーディオとグラフィックスの2個のストリームを使用するこの発明によるプレイリストを説明するための略線図である。
【図9】サブパスにオーディオとグラフィックスの2個のストリームを使用するこの発明によるプレイリストを再生するためのプレーヤシステムのブロック図である。
【図10】この発明による2個のストリームを同時再生するプレーヤのモデルの説明のための略線図である。
【図11】この発明によりアフレコを行うレコーダの一例のブロック図である。
【図12】この発明によりアフレコを行う方法の処理の流れを示すフローチャートである。
【図13】この発明によりメインパスとサブパスの再生方法の処理の流れを示すフローチャートである。
【符号の説明】
11・・・ディスク、12a,12b・・・バッファ、13a,13b,18・・・デマルチプレクサ、17・・・マルチプレクサ、19・・・制御部
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an information processing apparatus and method for recording sub-data reproduced in synchronization with main audio / video data, a program, and a recording medium.
[0002]
[Prior art]
When post-editing audio or graphics on a video signal recorded on a recording medium, some methods for virtually realizing post-record editing without changing the original video signal have been proposed. It should be noted that the post-recording is Japanese English produced from after recording, and means that additional data is recorded in addition to or replacement of already recorded data.
[0003]
For example, a method of a sub-path (sub-play item) of System Description Blu-ray Disc Rewritable Format part 3 AudioVisual Basic Specification (hereinafter referred to as BDAV) has been proposed. Patent Document 1 below relates to this BDAV. BDAV uses a method in which play items and sub-play items are arranged in parallel on a time axis, and they refer to different AV streams. QuickTime employs a method in which a plurality of tracks are arranged in parallel on a time axis, and each track refers to a different AV stream.
[0004]
[Patent Document 1]
JP-A-2002-158972
[0005]
Patent Document 1 describes that when an AV stream file is recorded on a recording medium such as a disk-shaped recording medium, application database information describing the file is also recorded. The application database information includes an AV stream database (referred to as a clip), playback control information (referred to as a play list) in which playback sections (referred to as play items) of the AV stream are grouped, management information of recorded contents of a recording medium, and The thumbnail image information is included. The application database information is recorded on a recording medium by undergoing recording processing similar to that for an AV stream.
[0006]
As described above, when reproducing the AV stream file and the application database information recorded on the recording medium, the application database information is reproduced first, and the read information is taken into the control unit of the player. A list of playlists recorded on the recording medium is displayed on the user interface based on the application database information, and the user selects a playlist to be reproduced from the list of playlists. An AV stream file required for the selected playlist is read from the recording medium and subjected to a reproduction process to obtain a reproduced video signal and a reproduced audio signal.
[0007]
Further, the user can edit the AV stream recorded on the recording medium. For example, it is possible to create a reproduction path in which the part of the singer a is reproduced from the song program of the program A, and thereafter, the part of the singer a of the song program of the program B is reproduced. In this case, a database of a playlist in which the playback section (play item) of the AV stream is grouped by the control unit from information on the start point (in point) and end point (out point) of the playback section specified by the user with respect to the program A. Create
[0008]
FIG. 1 shows a structure of an application format described in Patent Document 1 described above. The application format has two layers of a playlist and a clip for managing an AV stream. The volume information manages all clips and playlists in the database. A pair of one AV stream and its accompanying information is considered as one object, and is called a clip. The AV stream file is called a clip AV stream file, and its attached information is called a clip information file.
[0009]
One clip AV stream file stores data in which an MPEG2 (Moving Picture Experts Group Phase 2) transport stream is arranged in a structure defined by an application format. Generally, a file is treated as a sequence of bytes. The content of the clip AV stream file is developed on the time axis, and the entry points in the clip are mainly specified on a time basis. When a time stamp of an access point to a predetermined clip is given, the clip information file is useful for finding address information to start reading data in the clip AV stream.
[0010]
The play list is prepared in order to allow a user to select a playback section desired to be viewed from the clips and easily edit the selected playback section. One playlist is a set of playback sections in a clip. One playback section in a predetermined clip is called a play item, and is represented by a pair of an in point and an out point on a time axis.
[0011]
There are two types of playlists. One is a real playlist and the other is a virtual playlist. A real playlist shares the stream portion of the clip it references. That is, the real playlist occupies the data capacity of the disc corresponding to the stream portion in the clip referred to by the real playlist, and when the real playlist is deleted, the stream portion of the clip referred to by the real playlist is deleted. Is also erased.
[0012]
The virtual playlist does not share clip data. Therefore, even if the virtual playlist is changed or deleted, no change occurs in the content of the clip.
[0013]
FIG. 2 shows an example of assemble editing. As shown in FIG. 2A, when there are two real playlists 1 and 2 and clips 1 and 2 corresponding to the respective real playlists, the user can enter a predetermined section (IN1) in the real playlist 1 To OUT1) as a playback section (play item 1), and as a section to be continuously played back, a predetermined section (IN2 to OUT2) in the real playlist 2 is designated as a playback section (play item 2). In this example, as shown in FIG. 2B, one virtual play list including play item 1 and play item 2 is created. The created virtual playlist can be re-edited. Re-editing includes changing the IN point and the OUT point, and inserting or adding a new play item to the virtual playlist.
[0014]
FIG. 3 illustrates audio dubbing to a virtual playlist. The audio dubbing is executed by an operation of registering the audio audio dubbing as a sub path in the virtual playlist. Audio dubbing is supported by the application format. An additional sub audio stream is added as a sub path to the main stream AV stream of the virtual playlist.
[0015]
FIG. 4 shows an example of a playlist in which an audio sub-path and a graphics sub-path are arranged on a main path (main reproduction path) of an original audio / video using the BDAV sub-path method described in Patent Document 1 described above. Show. In the following description, for the sake of simplicity, the virtual playlist is simply called a playlist, the real data corresponding to the real playlist referenced by the main path is called the main AV stream, and the real playlist Actual data corresponding to the list will be referred to as an AUX audio stream or an AUX graphics stream.
[0016]
The main path has data IN1 and OUT1 indicating a playback section (play item) selected from the referenced main AV stream data. It has data IN2, IN3, OUT2, and OUT3 that indicate a playback section (play item) of stream data that also refers to each of the sub audio path and the sub graphics path. A player that reproduces a playlist reproduces the main path in synchronization with the sub path. The audio stream and the graphics stream referred to by the sub path have been dubbed. For example, in a camera-integrated disk recorder, a sub-path is formed when the user has dubbed audio data and a title screen with respect to a captured main AV stream. The dubbed audio data and the title screen correspond to the AUX audio stream and the AUX graphics stream, respectively.
[0017]
FIG. 5 shows a player system for playing a playlist as shown in FIG. 4 using two streams of audio and graphics in the sub-path. The player needs to read three streams of a main AV stream, an AUX audio stream, and an AUX graphics stream from a recording medium, for example, the disc 1, and decode them simultaneously.
[0018]
In FIG. 5, reference numerals 2a, 2b, and 2c denote buffer memories into which streams read from the disk 1 are input. The respective outputs of the buffer memories 2a, 2b, 2c are input to the demultiplexers 3a, 3b, 3c, and are separated into packets with reference to the packet ID. The output of the demultiplexer 3a is decoded by the AV decoder 4a, and video data V and audio data A1 are obtained. The output of the demultiplexer 3b is decoded by the audio decoder 4b, and audio data A2 is obtained. The output of the demultiplexer 3c is decoded by the graphics decoder 4c, and the graphics data G is obtained.
[0019]
The video data V, the audio data A1 and A2, and the graphics data G obtained by each decoder are supplied to the audio MIX / select, the video MIX and the synchronization control unit 5, and a video output and an audio output are formed. The video output is, for example, a video display signal for displaying a post-recorded title screen at a designated reproduction time. The audio output is one in which one of the main audio signal and the post-recorded audio signal is selected in the reproduction time specified by the main path and the sub path, or a mixture of both.
[0020]
By the operation schematically shown in FIG. 6, it is possible to reproduce three streams from the disk 1 substantially simultaneously. In the example of FIG. 6, for simplicity, it is assumed that the data rates of the streams are equal to each other. In the first read, the main AV stream is reproduced by, for example, an optical head, and the reproduced main AV stream is input to the buffer 2a. The main AV stream reproduced from the buffer 2a is output.
[0021]
When the reading of the main AV stream ends, the reading position jumps to the recording area of the AUX audio stream, the AUX audio stream is reproduced, and the reproduced AUX audio stream is input to the buffer 2b. The reproduced AUX audio stream is output from the buffer 2b. Next, the reading position jumps to the recording area of the AUX graphics stream, and the AUX graphics are reproduced. The reproduced AUX graphics stream is input to the buffer 2c.
[0022]
Then, jump to the recording area of the main AV stream again and read the main AV stream. Each of the buffers 2a, 2b, and 2c is almost empty when the reading of the data stored in the previous read is completed and the data read in the next read is stored. The state shown in FIG. 6 represents a severe state with no room. By repeating such three jump operations, three streams can be reproduced substantially simultaneously.
[0023]
FIG. 7 shows a conventional example of a recorder system for dubbing stream data referred to by a sub path. When audio data or graphics data for dubbing is input, the encoder 6 encodes the input data, and the output of the encoder 6 is encoded into a transport stream by the multiplexer 7, and the transport stream is recorded on a recording medium. For example, it is recorded on the disk 1.
[0024]
[Problems to be solved by the invention]
In the method of arranging play items and sub play items that refer to different streams, as described with reference to FIG. 6, it is necessary to sequentially read out each stream by performing a jump operation. As the number of items increases, the number of jumps required to read each stream increases. As the number of jumps increases, it is necessary to keep the bit rate of the stream low in order to guarantee that the stream is supplied to the decoder so that each stream can be played back continuously.
[0025]
As a result, it is necessary to lower the encoding bit rate of the main AV stream in advance in preparation for an increase in the number of sub-playitems, which causes a problem that the encoded image quality of video and the like is deteriorated. If the encoding bit rate of the main AV stream is not limited without preparing for an increase in the number of sub-playitems, there is a problem that the number of sub-playitems cannot be increased. For example, after the audio sub-path is added by post-recording, there is a problem that a graphics sub-path cannot be added.
[0026]
Accordingly, it is an object of the present invention to provide an information processing apparatus and method, a program, and a recording medium that do not need to limit the encoding bit rate of a main AV stream to a low level and that can cope with an increase in the number of sub play items. It is in.
[0027]
[Means for Solving the Problems]
In order to solve the above-mentioned problem, the invention according to claim 1 synchronizes with an audio video stream on a recording medium on which reproduction control information for controlling reproduction of the main audio video stream is recorded together with main audio video stream data. An information processing apparatus for recording sub-data to be reproduced by
The reproduction control information is read from the recording medium, and it is determined from the read reproduction control information whether a predetermined number of first sub data streams to be reproduced in synchronization with the audio / video stream have already been recorded on the recording medium. Determining means;
Encoding means for generating a second sub-data stream from the input sub-data;
When the determining unit determines that the predetermined number of the first sub data is not recorded, the second sub data stream generated by the encoding unit is recorded on a recording medium,
When the determining unit determines that the predetermined number of first sub-data is recorded, one of the predetermined number of first sub-data and the second sub-data stream generated by the encoding unit are combined. Means for combining and recording one combined stream on a recording medium;
An information processing apparatus comprising:
[0028]
According to a fifth aspect of the present invention, together with main audio / video stream data, sub-data to be reproduced in synchronization with the audio / video stream is recorded on a recording medium on which reproduction control information for controlling reproduction of the main audio / video stream is recorded. In the information processing method,
The reproduction control information is read from the recording medium, and it is determined from the read reproduction control information whether a predetermined number of first sub data streams to be reproduced in synchronization with the audio / video stream have already been recorded on the recording medium. A determining step;
An encoding step of generating a second sub-data stream from the input sub-data;
When the determining step determines that the predetermined number of the first sub data is not recorded, the second sub data stream generated in the encoding step is recorded on a recording medium,
When the determining step determines that the predetermined number of first sub-data is recorded, one of the predetermined number of first sub-data and the second sub-data stream generated in the encoding step are combined. Combining and recording one combined stream on a recording medium;
The information processing method comprises:
[0029]
According to a ninth aspect of the present invention, together with the main audio / video stream data, sub data to be reproduced in synchronization with the audio / video stream is recorded on a recording medium on which reproduction control information for controlling reproduction of the main audio / video stream is recorded. In the program of the information processing device,
In a program of an information processing device for reproducing or receiving
The reproduction control information is read from the recording medium, and it is determined from the read reproduction control information whether a predetermined number of first sub data streams to be reproduced in synchronization with the audio / video stream have already been recorded on the recording medium. A determining step;
An encoding step of generating a second sub-data stream from the input sub-data;
When the determining step determines that the predetermined number of the first sub data is not recorded, the second sub data stream generated in the encoding step is recorded on a recording medium,
When the determining step determines that the predetermined number of first sub-data is recorded, one of the predetermined number of first sub-data and the second sub-data stream generated in the encoding step are combined. Combining and recording one combined stream on a recording medium;
Is a program for an information processing apparatus comprising:
[0030]
According to a tenth aspect of the present invention, together with main audio / video stream data, sub-data to be reproduced in synchronization with the audio / video stream is recorded on a recording medium on which reproduction control information for controlling reproduction of the main audio / video stream is recorded. In the program of the information processing device,
In a program of an information processing device for reproducing or receiving
The reproduction control information is read from the recording medium, and it is determined from the read reproduction control information whether a predetermined number of first sub data streams to be reproduced in synchronization with the audio / video stream have already been recorded on the recording medium. A determining step;
An encoding step of generating a second sub-data stream from the input sub-data;
When the determining step determines that the predetermined number of the first sub data is not recorded, the second sub data stream generated in the encoding step is recorded on a recording medium,
When the determining step determines that the predetermined number of first sub-data is recorded, one of the predetermined number of first sub-data and the second sub-data stream generated in the encoding step are combined. Combining and recording one combined stream on a recording medium;
And a computer-readable recording medium storing a computer-readable program.
[0031]
According to an eleventh aspect of the present invention, main audio / video stream data, a predetermined number of sub data streams to be reproduced in synchronization with the audio / video stream, and reproduction control information for controlling reproduction of the main audio / video stream are recorded, At least one of the data streams is a recording medium in which two or more sub-data are combined.
[0032]
According to the present invention, each stream data referred to by a plurality of sub-playitems reproduced at the same time is multiplexed and recorded. Therefore, even if the number of sub-playitems increases, the encoding bit rate of the main AV stream is limited in advance in advance. Since there is no necessity, it is possible to improve the encoding quality of a video or the like. Since there is no need to limit the number of sub play items, there is no problem that, for example, after adding an audio sub path, it is not possible to add a graphics sub path.
[0033]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 8 shows a relationship between a playlist and actual data referred to by the playlist according to the embodiment of the present invention. Actual data is data recorded on a recording medium, for example, a disk. In one embodiment, the present invention is applied to a playlist specified in the BDAV format. As described above, BDAV uses a method in which play items and sub play items are arranged in parallel on the time axis, and they refer to different AV streams.
[0034]
The main path of the playlist refers to the main AV stream of the actual data, and has data (IN1-OUT1) indicating a playback section selected from the main AV stream. The sub audio path and the sub graphics path of the playlist refer to one multiplexed stream, for example, a stream in which AUX audio and AUX graphics are multiplexed. The sub audio path has data (IN2-OUT2) indicating a playback section selected from the multiplexed stream. The sub-graphics path has data (IN3-OUT3) indicating a playback section selected from the multiplexed stream. A player that reproduces this play list reproduces the main path and the sub path in synchronization.
[0035]
As an example, there are two streams that can be reproduced substantially simultaneously. That is, as the capability of the disc player, one AUX stream that can be referred to by the sub-path besides the main AV stream referred to by the main path. When one AUX stream has already been recorded, dubbing of a new AUX stream can be realized without any trouble by the present invention.
[0036]
As shown in FIG. 8, even when two sub-paths exist, only one multiplexed stream is recorded on the recording medium. As a synthesizing method for forming a multiplexed stream, any of a time-division multiplexing method and an interleaving method of arranging data for a predetermined time, for example, one GOP can be used. As will be described later, in one embodiment of the present invention, when performing post-recording, based on the information of the playlist, it is checked whether or not a sub-path already exists. The recorded AUX stream and the newly recorded AUX stream are multiplexed to create a multiplexed stream, and the created multiplexed stream is recorded.
[0037]
FIG. 9 shows a player system in which a playlist in which two sub-paths refer to one multiplexed stream in which an audio and graphics stream is multiplexed is recorded, and a playback operation can be performed according to the playlist. . Two streams are played from the disc 11 substantially simultaneously.
[0038]
In FIG. 9, reference numeral 12a denotes a buffer memory to which a main AV stream read from the disk 11 is input, and reference numeral 12b denotes an AUX audio and graphics stream (multiplexed stream) read from the disk 11. Buffer memory to be input. The respective outputs of the buffer memories 12a and 12b are input to the demultiplexers 13a and 13b, and are separated into packets by referring to the packet ID. The output of the demultiplexer 13a is decoded by the AV decoder 14a, and video data V and audio data A1 are obtained.
[0039]
The demultiplexer 13b separates the multiplexed stream into an audio stream and a graphics stream. The audio stream is decoded by the audio decoder 14b, and audio data A2 is obtained. The graphics stream is decoded by the graphics decoder 14c, and graphics data G is obtained.
[0040]
The video data V, the audio data A1 and A2, and the graphics data G obtained by each decoder are supplied to the audio MIX / select, the video MIX and the synchronization control unit 15, and a video output and an audio output are formed. The video output is, for example, a video display signal for displaying a post-recorded title screen at a designated reproduction time. The audio output is such that the audio signal dubbed during the designated reproduction time is mixed with the main audio signal or the dubbed audio signal is selected instead of the main audio signal.
[0041]
In the player system, information of a playlist is first reproduced from the disc 11, and the information of the playlist is read by a control unit (not shown). As described with reference to FIG. 8, the playlist information specifies a playback section of the main AV stream and a playback section of the sub-multiplexed stream. The control unit controls the audio MIX / select, the video MIX, and the synchronization control unit 15 according to the information of the playlist. Thereby, a video output and an audio output reproduced according to the information of the playlist are obtained.
[0042]
By the operation schematically shown in FIG. 10, it is possible to reproduce two streams from the disc 1 substantially simultaneously. In the example of FIG. 10, for simplicity, it is assumed that the data rates of the streams are equal to each other. At the first read, the main AV stream is reproduced by, for example, an optical head, and the reproduced main AV stream is input to the buffer 12a. The reproduced main AV stream is output from the buffer 12a.
[0043]
When the reading of the main AV stream is completed, the read position jumps to the recording area of the multiplexed stream (AUX audio and graphics stream), the multiplexed stream is reproduced, and the reproduced multiplexed stream is stored in the buffer 12b. Will be entered. The reproduced multiplexed stream is output from the buffer 12b. Next, jump to the recording area of the main AV stream again, and the main AV stream is read. Each of the buffers 12a and 12b is almost empty when the reading of the data stored in the previous read is completed and the data read in the next read is stored. The state in FIG. 10 represents a severe state with no room. By repeating such two jump operations, two streams can be reproduced substantially simultaneously.
[0044]
In FIG. 9, the multiplexed stream is recorded on the disk 11 so as to have a physically continuous arrangement. However, if the jump operation hardly occurs, the multiplexed stream may be recorded on the disk 11 in a fragmentary arrangement instead of a continuous arrangement.
[0045]
FIG. 11 shows a configuration example of a recorder system that records stream data referred to by a sub path. When the user instructs the recorder to perform audio or graphics post-recording on a certain playlist, audio or graphics data for post-recording is supplied to the encoder 16, and the data for post-recording is encoded by the encoder 16. Is done. The stream encoded by the encoder 16 is supplied to the multiplexer 17.
[0046]
The recorder reproduces the information of the playlist from the disk 11 before the dubbing, and reads the information into the control unit 19. The information of the playlist is read at a timing such as when the power is turned on or a disc is inserted, and the read information of the playlist is stored in the memory of the control unit 19. The control unit 19 checks whether the recorder already has the audio or graphics sub-path in the playlist. If the playlist has a sub-path, the recorder reads from the disk 11 the stream referred to by the sub-path. Then, the read stream is supplied to the demultiplexer 18. The output of the demultiplexer 18 is supplied to the multiplexer 17. The multiplexer 17 multiplexes the stream from the demultiplexer 18 and the stream from the encoder 16 into a transport stream. The transport stream from the multiplexer 17 is recorded on the disk 11.
[0047]
On the other hand, if the playlist does not have a sub-path, the multiplexer 17 encodes the stream from the encoder 16 into a transport stream, and the transport stream output from the multiplexer 17 is recorded on the disc 11. . When the post-recording data is recorded on the disc 11, the contents of the playlist are rewritten, and the information of the rewritten playlist is recorded on the disc 11.
[0048]
FIG. 12 is a flowchart illustrating a flow of a recording method of a stream referred to by a sub path. In the first step S101, audio or graphics data for dubbing is input, encoded by an encoder, and a stream from the encoder is input to a multiplexer.
[0049]
In step S102, the recorder checks whether the playlist to be dubbed already has an audio or graphics sub-path. For example, the recorder reads information of a playlist from the disk 11 before recording, and checks whether or not the read playlist already has a sub-path. If the determination result in step S102 is yes, the process proceeds to step S103. If the determination result is no, the process proceeds to step S105.
[0050]
In step S103, the AUX stream referred to by the sub path already possessed by the playlist is read from the disc.
[0051]
In step S104, the read AUX stream and the stream to be dubbed this time are multiplexed to create a new AUX stream.
[0052]
Then, in step S106, the newly created AUX stream is recorded on a recording medium.
[0053]
If the determination result in step S102 is no, that is, if the play list does not have a sub path, an AUX stream is created using the stream to be dubbed this time. Then, in step S106, the created AUX stream is recorded on a recording medium.
[0054]
FIG. 13 is a flowchart showing a flow of a reproducing method performed according to a playlist having a main path and a sub path. In step S201, a stream referred to by the main path is read from a recording medium, and the read stream is decoded.
[0055]
In step S202, the stream referred to by the sub path is read from the recording medium, and the read stream is decoded.
[0056]
In step S203, the main path and the sub path are synchronously reproduced.
[0057]
The present invention is not limited to the above-described embodiment and the like, and various modifications and applications are possible without departing from the gist of the present invention. For example, the present invention can be applied to a playlist in a format other than BDAV. For example, the present invention is also applicable to QuickTime (trademark). QuickTime (trademark) is software that manages various data such as video and audio along the time axis, and is an OS extension function for synchronously reproducing moving images, voices, and texts without using special hardware. It is.
[0058]
【The invention's effect】
According to the present invention, each stream data referred to by a plurality of sub-playitems reproduced at the same time is multiplexed and recorded. Therefore, even if the number of sub-playitems increases, the encoding bit rate of the main AV stream is limited in advance in advance. Since there is no necessity, it is possible to improve the encoding quality of a video or the like. Since there is no need to limit the number of sub play items, there is no problem that, for example, after adding an audio sub path, it is not possible to add a graphics sub path. To simply suppress the increase in the number of streams, it is conceivable to multiplex the dubbing stream with the main stream.However, the main stream usually has a large amount of data, which makes rewriting difficult. Since the list may refer to the list, multiplexing the after-recording stream on the main stream causes inconvenience.
[Brief description of the drawings]
FIG. 1 is a schematic diagram for explaining a playlist as reproduction control information proposed earlier.
FIG. 2 is a schematic diagram illustrating a method of creating a playlist when assemble editing is performed.
FIG. 3 is a schematic diagram for explaining a playlist when dubbing is performed.
FIG. 4 is a schematic diagram illustrating a conventional playlist in which two streams of audio and graphics are used for a sub path.
FIG. 5 is a block diagram of a player system for playing a conventional playlist using two streams of audio and graphics in a sub path.
FIG. 6 is a schematic diagram illustrating a conventional model of a player that simultaneously reproduces three streams.
FIG. 7 is a block diagram illustrating an example of a conventional recorder that performs post-recording.
FIG. 8 is a schematic diagram for explaining a playlist according to the present invention using two streams of audio and graphics for a sub path.
FIG. 9 is a block diagram of a player system for playing a playlist according to the present invention using two streams of audio and graphics in a sub-path.
FIG. 10 is a schematic diagram for describing a model of a player for simultaneously reproducing two streams according to the present invention.
FIG. 11 is a block diagram of an example of a recorder that performs post-recording according to the present invention.
FIG. 12 is a flowchart showing a processing flow of a method for performing after-recording according to the present invention.
FIG. 13 is a flowchart showing a processing flow of a main path and sub path reproducing method according to the present invention.
[Explanation of symbols]
11: disk, 12a, 12b: buffer, 13a, 13b, 18: demultiplexer, 17: multiplexer, 19: control unit

Claims (11)

メインオーディオビデオストリームデータと共に、上記メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対して上記オーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置において、
上記再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上に上記オーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定手段と、
入力されたサブデータから第2のサブデータストリームを生成する符号化手段と、
上記判定手段によって、上記所定数の第1のサブデータが記録されていないと判定される場合に、上記符号化手段で生成された上記第2のサブデータストリームを記録媒体に記録し、
上記判定手段によって、上記所定数の第1のサブデータが記録されていると判定される場合に、上記所定数の第1のサブデータの1つと上記符号化手段で生成された上記第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録する手段と
からなる情報処理装置。
An information processing device that records sub-data that is reproduced in synchronization with the audio video stream on a recording medium on which reproduction control information for controlling reproduction of the main audio video stream is recorded together with main audio video stream data.
The reproduction control information is read from the recording medium, and from the read reproduction control information, it is determined whether or not a predetermined number of first sub data streams to be reproduced in synchronization with the audio video stream have already been recorded on the recording medium. Determining means for determining;
Encoding means for generating a second sub-data stream from the input sub-data;
When the determination unit determines that the predetermined number of the first sub data is not recorded, the second sub data stream generated by the encoding unit is recorded on a recording medium,
When the determining unit determines that the predetermined number of the first sub data is recorded, one of the predetermined number of the first sub data and the second sub data generated by the encoding unit are determined. Means for combining a sub data stream and recording one combined stream on a recording medium.
請求項1において、
上記再生制御情報は、メインオーディオビデオストリームの選択された再生区間を指示するメインパスと、上記第1のサブデータストリームの再生区間を指示するサブパスとからなる情報処理装置。
In claim 1,
An information processing apparatus, wherein the playback control information includes a main path indicating a selected playback section of the main audio / video stream and a subpath indicating a playback section of the first sub data stream.
請求項2において、
上記判定手段は、上記メインパスが所定数の上記サブパスを持っているかどうかを判定するようにした情報処理装置。
In claim 2,
An information processing apparatus, wherein the determining means determines whether the main path has a predetermined number of the sub paths.
請求項2において、
上記合成ストリームを記録媒体に記録する時に、上記合成ストリームの再生区間を指示する2以上の上記サブパスを有する上記再生制御情報を記録するようにした情報処理装置。
In claim 2,
An information processing apparatus configured to record the reproduction control information having two or more sub paths indicating a reproduction section of the composite stream when recording the composite stream on a recording medium.
メインオーディオビデオストリームデータと共に、上記メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対して上記オーディオビデオストリームと同期して再生されるサブデータを記録する情報処理方法において、
上記再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上に上記オーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていないと判定される場合に、上記符号化ステップで生成された上記第2のサブデータストリームを記録媒体に記録し、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていると判定される場合に、上記所定数の第1のサブデータの1つと上記符号化ステップで生成された上記第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなる情報処理方法。
An information processing method for recording, together with main audio video stream data, sub-data to be reproduced in synchronization with the audio video stream on a recording medium on which reproduction control information for controlling reproduction of the main audio video stream is recorded,
The reproduction control information is read from the recording medium, and from the read reproduction control information, it is determined whether or not a predetermined number of first sub data streams to be reproduced in synchronization with the audio video stream have already been recorded on the recording medium. A determining step of determining;
An encoding step of generating a second sub-data stream from the input sub-data;
When it is determined by the determining step that the predetermined number of first sub-data is not recorded, the second sub-data stream generated in the encoding step is recorded on a recording medium,
When it is determined by the determining step that the predetermined number of the first sub-data is recorded, one of the predetermined number of the first sub-data and the second sub-data generated in the encoding step are used. Combining the sub data stream and recording one combined stream on a recording medium.
請求項5において、
上記再生制御情報は、メインオーディオビデオストリームの選択された再生区間を指示するメインパスと、上記第1のサブデータストリームの再生区間を指示するサブパスとからなる情報処理方法。
In claim 5,
An information processing method, wherein the playback control information includes a main path indicating a selected playback section of the main audio / video stream and a subpath indicating a playback section of the first sub-data stream.
請求項6において、
上記判定ステップは、上記メインパスが所定数の上記サブパスを持っているかどうかを判定するようにした情報処理方法。
In claim 6,
The information processing method, wherein the determining step determines whether the main path has a predetermined number of the sub paths.
請求項5において、
上記合成ストリームを記録媒体に記録する時に、上記合成ストリームの再生区間を指示する2以上の上記サブパスを有する上記再生制御情報を記録するようにした情報処理方法。
In claim 5,
An information processing method for recording the reproduction control information having two or more sub-paths indicating a reproduction section of the composite stream when recording the composite stream on a recording medium.
メインオーディオビデオストリームデータと共に、上記メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対して上記オーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置のプログラムにおいて、
を再生または受信する情報処理装置のプログラムにおいて、
上記再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上に上記オーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていないと判定される場合に、上記符号化ステップで生成された上記第2のサブデータストリームを記録媒体に記録し、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていると判定される場合に、上記所定数の第1のサブデータの1つと上記符号化ステップで生成された上記第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなる情報処理装置のプログラム。
A program for an information processing apparatus for recording sub-data to be reproduced in synchronization with the audio video stream on a recording medium on which reproduction control information for controlling reproduction of the main audio video stream is recorded together with main audio video stream data. At
In a program of an information processing device for reproducing or receiving
The reproduction control information is read from the recording medium, and from the read reproduction control information, it is determined whether or not a predetermined number of first sub data streams to be reproduced in synchronization with the audio video stream have already been recorded on the recording medium. A determining step of determining;
An encoding step of generating a second sub-data stream from the input sub-data;
When it is determined by the determining step that the predetermined number of first sub-data is not recorded, the second sub-data stream generated in the encoding step is recorded on a recording medium,
When it is determined by the determining step that the predetermined number of the first sub-data is recorded, one of the predetermined number of the first sub-data and the second sub-data generated in the encoding step are used. Combining the sub data stream and recording one combined stream on a recording medium.
メインオーディオビデオストリームデータと共に、上記メインオーディオビデオストリームの再生を制御する再生制御情報が記録された記録媒体に対して上記オーディオビデオストリームと同期して再生されるサブデータを記録する情報処理装置のプログラムにおいて、
を再生または受信する情報処理装置のプログラムにおいて、
上記再生制御情報を記録媒体から読み取り、読み取られた再生制御情報から記録媒体上に上記オーディオビデオストリームと同期して再生される所定数の第1のサブデータストリームが既に記録されているか否かを判定する判定ステップと、
入力されたサブデータから第2のサブデータストリームを生成する符号化ステップと、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていないと判定される場合に、上記符号化ステップで生成された上記第2のサブデータストリームを記録媒体に記録し、
上記判定ステップによって、上記所定数の第1のサブデータが記録されていると判定される場合に、上記所定数の第1のサブデータの1つと上記符号化ステップで生成された上記第2のサブデータストリームとを合成し、1つの合成ストリームを記録媒体に記録するステップと
からなるコンピュータが読み取り可能なプログラムが記録されている記録媒体。
A program for an information processing apparatus for recording sub-data to be reproduced in synchronization with the audio video stream on a recording medium on which reproduction control information for controlling reproduction of the main audio video stream is recorded together with main audio video stream data. At
In a program of an information processing device for reproducing or receiving
The reproduction control information is read from the recording medium, and from the read reproduction control information, it is determined whether or not a predetermined number of first sub data streams to be reproduced in synchronization with the audio video stream have already been recorded on the recording medium. A determining step of determining;
An encoding step of generating a second sub-data stream from the input sub-data;
When it is determined by the determining step that the predetermined number of first sub-data is not recorded, the second sub-data stream generated in the encoding step is recorded on a recording medium,
When it is determined by the determining step that the predetermined number of the first sub-data is recorded, one of the predetermined number of the first sub-data and the second sub-data generated in the encoding step are used. Combining a sub-data stream and recording one combined stream on the recording medium.
メインオーディオビデオストリームデータと、上記オーディオビデオストリームと同期して再生される所定数のサブデータストリームと、上記メインオーディオビデオストリームの再生を制御する再生制御情報とが記録され、上記サブデータストリームの少なくとも1つが2以上のサブデータが合成されたストリームである記録媒体。Main audio video stream data, a predetermined number of sub data streams that are reproduced in synchronization with the audio video stream, and reproduction control information for controlling reproduction of the main audio video stream are recorded, and at least one of the sub data streams is recorded. A recording medium in which one is a stream in which two or more sub-data are combined.
JP2002277604A 2002-09-24 2002-09-24 Information processing apparatus and method, program, and recording medium Expired - Fee Related JP4348920B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002277604A JP4348920B2 (en) 2002-09-24 2002-09-24 Information processing apparatus and method, program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002277604A JP4348920B2 (en) 2002-09-24 2002-09-24 Information processing apparatus and method, program, and recording medium

Publications (3)

Publication Number Publication Date
JP2004120099A true JP2004120099A (en) 2004-04-15
JP2004120099A5 JP2004120099A5 (en) 2005-11-04
JP4348920B2 JP4348920B2 (en) 2009-10-21

Family

ID=32273158

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002277604A Expired - Fee Related JP4348920B2 (en) 2002-09-24 2002-09-24 Information processing apparatus and method, program, and recording medium

Country Status (1)

Country Link
JP (1) JP4348920B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004109697A1 (en) * 2003-06-06 2004-12-16 Sharp Kabushiki Kaisha Data recording method, data recording apparatus and data recording medium
WO2006109717A1 (en) * 2005-04-07 2006-10-19 Matsushita Electric Industrial Co., Ltd. Recording medium, reproducing device, recording method and reproducing method
JP2007095249A (en) * 2005-08-30 2007-04-12 Sony Corp Playback apparatus and method, program, recording medium, data structure, and manufacturing method for recording medium
JP2007515031A (en) * 2003-11-24 2007-06-07 エルジー エレクトロニクス インコーポレーテッド Method for generating reproduction management file of recording medium, and method and apparatus for reproducing data using playlist management file
JP2010262694A (en) * 2009-04-30 2010-11-18 Sony Corp Information processing apparatus and editing method
JP2011234419A (en) * 2005-08-30 2011-11-17 Sony Corp Playback apparatus, recording medium, and manufacturing method for recording medium

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004109697A1 (en) * 2003-06-06 2004-12-16 Sharp Kabushiki Kaisha Data recording method, data recording apparatus and data recording medium
US7835614B2 (en) 2003-06-06 2010-11-16 Sharp Kabushiki Kaisha Data recording method, data recording apparatus, and data recording medium
JP2007515031A (en) * 2003-11-24 2007-06-07 エルジー エレクトロニクス インコーポレーテッド Method for generating reproduction management file of recording medium, and method and apparatus for reproducing data using playlist management file
KR101108954B1 (en) 2003-11-24 2012-01-31 엘지전자 주식회사 Method of creating playback control file for recording medium and method and apparatus for reproducing data using the playlist control file
US7831131B2 (en) 2003-11-24 2010-11-09 Lg Electronics, Inc. Method of creating playback control file for recording medium and method and apparatus for reproducing data using the playlist control file
US8059942B2 (en) 2005-04-07 2011-11-15 Panasonic Corporation Recording medium, reproducing device, recording method, and reproducing method
US8116613B2 (en) 2005-04-07 2012-02-14 Panasonic Corporation Recording medium, reproducing device, recording method and reproducing method
WO2006109716A1 (en) * 2005-04-07 2006-10-19 Matsushita Electric Industrial Co., Ltd. Recording medium, reproducing device, recording method, and reproducing method
US8548298B2 (en) 2005-04-07 2013-10-01 Panasonic Corporation Recording medium, reproducing device, recording method and reproducing method
US7991270B2 (en) 2005-04-07 2011-08-02 Panasonic Corporation Recording medium, reproducing device, recording method, and reproducing method
WO2006109718A1 (en) * 2005-04-07 2006-10-19 Matsushita Electric Industrial Co., Ltd. Recording medium, reproducing device, recording method, and reproducing method
WO2006109717A1 (en) * 2005-04-07 2006-10-19 Matsushita Electric Industrial Co., Ltd. Recording medium, reproducing device, recording method and reproducing method
JP2011248999A (en) * 2005-08-30 2011-12-08 Sony Corp Reproducing device, and recording medium and manufacturing method thereof
JP2011234419A (en) * 2005-08-30 2011-11-17 Sony Corp Playback apparatus, recording medium, and manufacturing method for recording medium
JP2012022771A (en) * 2005-08-30 2012-02-02 Sony Corp Reproducing device and recording medium and method for manufacturing thereof
JP2007095249A (en) * 2005-08-30 2007-04-12 Sony Corp Playback apparatus and method, program, recording medium, data structure, and manufacturing method for recording medium
US8139922B2 (en) 2005-08-30 2012-03-20 Sony Corporation Playback apparatus and method, program, recording medium, data structure, and manufacturing method for recording medium
JP2012075113A (en) * 2005-08-30 2012-04-12 Sony Corp Reproduction device, recording medium, and manufacturing method of recording medium
US8824868B2 (en) 2005-08-30 2014-09-02 Sony Corporation Playback apparatus and method, program, recording medium, data structure, and manufacturing method for recording medium
JP2010262694A (en) * 2009-04-30 2010-11-18 Sony Corp Information processing apparatus and editing method

Also Published As

Publication number Publication date
JP4348920B2 (en) 2009-10-21

Similar Documents

Publication Publication Date Title
JP4864203B2 (en) Precise editing of encoded AV sequence frames
JP3815458B2 (en) Information processing apparatus, information processing method, and program
JP4299836B2 (en) Data processing device
JP3997367B2 (en) Recording / reproducing apparatus and method, and recording medium
JP4937370B2 (en) Data recording method, data editing method, data decoding method, apparatus therefor, and recording medium
US20060110111A1 (en) Editing of real time information on a record carrier
US8116615B2 (en) Information processing apparatus, information processing method, program storage medium, and program
TW200421320A (en) Recording medium having data structure for managing reproduction of still pictures recorded thereon and recording and reproducing methods and apparatuses
WO2004042723A1 (en) Method and apparatus for recording a multi-component stream and a high-density recording medium having a multi-component stream recorded theron and reproducing method and apparatus of said recording medium
JPWO2005015907A1 (en) Data processing device
JP2000021130A (en) Information processing apparatus and method, storage medium and providing medium
JP4348920B2 (en) Information processing apparatus and method, program, and recording medium
JP2001043616A (en) Recording method, recording medium and recorder
JP3986973B2 (en) AV data recording method, AV data recording apparatus, data recording medium, and program
JP2006073173A (en) Information recording and reproducing device and method
KR100625406B1 (en) Data processing device
JP3607681B2 (en) Sub-picture data editing apparatus and editing method
KR100633805B1 (en) Audio/video information recording/reproducing apparatus and method, and recording medium in which information is recorded by using the audio/video information recording/reproducing apparatus and method
JP4312783B2 (en) AV data reproducing method, AV data reproducing apparatus, program, and recording medium
JP4135109B2 (en) Recording apparatus, recording method, and recording medium
JP4800824B2 (en) recoding media
JP2007250180A (en) Recording and reproducing device and method, and recording medium
JP2005192239A (en) Data recording method, data editing method and data decoding method, and its apparatus, and recording medium

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050920

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050920

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050920

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070925

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090407

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090713

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees