以下、本発明に好適な実施形態の例(実施例)を説明する。但し、本発明は本実施例に限定されない。本実施例は、主には受信装置について説明してあり、受信装置での実施に好適であるが、受信装置以外への適用を妨げるものではない。また、実施例の構成すべてが採用される必要はなく取捨選択可能である。
<システム>
図1は、本実施例のシステムの構成例を示すブロック図である。放送で情報を送受信して記録再生する場合を例示している。ただし放送に限定されず通信によるVODであってもよく、総称して配信ともいう。
1は放送局などの情報提供局に設置される送信装置、2は中継局や放送用衛星などに設置される中継装置、3はインターネットなど一般家庭と放送局を繋ぐ公衆回線網、ユーザーの宅内などに設置される4は受信装置、10は受信装置4に内蔵される受信記録再生部である。受信記録再生部10では、放送された情報を記録し再生、またはリムーバブルな外部媒体からのコンテンツの再生、などができる。
送信装置1は、中継装置2を介して変調された信号電波を伝送する。図のように衛星による伝送以外にも例えばケーブルによる伝送、電話線による伝送、地上波放送による伝送、公衆回線網3を介したインターネットなどのネットワーク経由による伝送などを用いることもできる。受信装置4で受信されたこの信号電波は、後に述べるように、復調されて情報信号となった後、必要に応じ記録媒体に記録される。または公衆回線網3を介して伝送する場合には、公衆回線網3に適したプロトコル(例えばTCP/IP)に準じたデータ形式(IPパケット)等の形式に変換され、前記データを受信した受信装置4は、復号して情報信号とし、必要に応じ記録するに適した信号となって記録媒体に記録される。また、ユーザーは、受信装置4にディスプレイが内蔵されている場合はこのディスプレイで、内蔵されていない場合には受信装置4と図示しないディスプレイとを接続して情報信号が示す映像音声を視聴することができる。
<送信装置>
図2は、図1のシステムのうち、送信装置1の構成例を示すブロック図である。
11はソース発生部、12はMPEG2、或いはH.264方式等で圧縮を行い、番組情報などを付加するエンコード部、13はスクランブル部、14は変調部、15は送信アンテナ、16は管理情報付与部である。カメラ、記録再生装置などから成るソース発生部11で発生した映像音声などの情報は、より少ない占有帯域で伝送できるよう、エンコード部12でデータ量の圧縮が施される。必要に応じてスクランブル部13で、特定の視聴者には視聴可能となるように伝送暗号化される。変調部14でOFDM,TC8PSK,QPSK、多値QAMなど伝送するに適した信号となるよう変調された後、送信アンテナ15から、中継装置2に向けて電波として送信される。このとき、管理情報付与部16では、ソース発生部11で作成されたコンテンツの属性などの番組特定情報(例えば、映像や音声の符号化情報、音声の符号化情報、番組の構成、3D映像か否か等)が付与され、また、放送局が作成した番組配列情報(例えば現在の番組や次番組の構成、サービスの形式、1週間分の番組の構成情報等)なども付与される。これら番組特定情報および番組配列情報を合わせて、以下では番組情報と呼ぶ。
なお、一つの電波には複数の情報が、時分割、スペクトル拡散などの方法で多重されることが多い。簡単のため図2には記していないが、この場合、ソース発生部11とエンコード部12の系統が複数個あり、エンコード部12とスクランブル部13との間に、複数の情報を多重するマルチプレクス部(多重化部)が置かれる。
また、公衆回線網3を経由して送信する信号についても同様に、エンコード部12で作成された信号が必要に応じて暗号化部17で、特定の視聴者には視聴可能となるように暗号化される。通信路符号化部18で公衆回線網3で伝送するに適した信号となるよう符号化された後、ネットワークI/F(Interface)部19から、公衆回線網3に向けて送信される。
<3D伝送方式>
送信装置1から伝送される3D番組の伝送方式には大きく分けて二つの方式がある。一つの方式は、既存の2D番組の放送方式を生かし、1枚の画像内に左目用と右目用の映像を収めた方式がある。この方式は映像圧縮方式として既存のMPEG2(Moving Picture Experts Group 2)やH.264 AVCが利用され、その特徴は、既存の放送と互換があり、既存の中継インフラを利用でき、既存の受信機(STBなど)での受信が可能であるが、既存の放送の再高解像度の半分(垂直方向、あるいは水平方向)の3D映像の伝送となる。例えば、図39(a)で示すように1枚の画像を左右に分割して左目用映像(L)と右目用映像(R)それぞれの水平方向の幅が2D番組の約半分、垂直方向の幅が2D番組と同等の画面サイズで収めた「Side-by-Side」方式や1枚の画像を上下に分割して左目用映像(L)と右目用映像(R)それぞれの水平方向の幅が2D番組と同等、垂直方向が2D番組の約半分の画面サイズで収めた「Top-and-Bottom」方式、その他インタレースを利用して収めた「Field alternative」方式や走査線1本ごとに左目用と右目用の映像を交互に収めた「Line alternative」方式や2次元(片側の)映像と映像の各ピクセルごとの深度(被写体までの距離)情報を収めた「Left+Depth」方式がある。これらの方式は、1枚の画像を複数の画像に分割して複数の視点の画像を格納するものであるので、符号化方式自体は、元々多視点映像符号化方式ではないMPEG2やH.264 AVC(MVCを除く)符号化方式をそのまま用いることができ、既存の2D番組の放送方式を生かして3D番組放送を行うことができるというメリットがある。なお、例えば、2D番組を最大水平方向が1920ドット、垂直方向が1080ラインの画面サイズで伝送可能な場合には、「Side-by-Side」方式で3D番組放送を行う場合には、1枚の画像を左右に分割して左目用映像(L)と右目用映像(R)それぞれが水平方向が960ドット、垂直方向が1080ラインの画面サイズで収めて伝送すればよい。同様にこの場合、「Top-and-Bottom」方式で3D番組放送を行う場合には、1枚の画像を上下に分割して左目用映像(L)と右目用映像(R)それぞれが水平方向が1920ドット、垂直方向が540ラインの画面サイズで収めて伝送すればよい。
他の方式としては、左目用の映像と右目用の映像をそれぞれ別ストリーム(ES)で伝送する方式がある。本実施例では、当該方式を以下、「3D2視点別ES伝送」と称する。
この方式の一例として、例えば、多視点映像符号化方式であるH.264 MVCによる伝送方式がある。その特徴は、高解像度の3D映像が伝送できる。この方式を用いると、高解像度の3D映像を伝送できるという効果がある。なお、多視点映像符号化方式とは、多視点の映像を符号化するために規格化された符号化方式であり、1画像を視点ごとに分割することなく、多視点の映像を符号化でき、視点ごとに別画像を符号化するものである。
この方式で3D映像を伝送する場合では、例えば左目用視点の符号化画像を主視点画像とし、右目用の符号化画像を他の視点画像として伝送すればよい。このようにすれば主視点画像については既存の2D番組の放送方式と互換性を保つことが可能である。例えば、多視点映像符号化方式としてH.264 MVCを用いる場合には、H.264 MVCのベースサブストリームについては、主視点画像はH.264 AVCの2D画像と互換性を保つことができ、主視点画像を2D画像として表示可能である。
さらに、本発明の実施例では、「3D2視点別ES伝送方式」の他の例として以下の方式も含めることとする。
「3D2視点別ES伝送方式」の他の一例に、左目用の符号化画像を主視点画像としMPEG2で符号化し、右目用の符号化画像を他の視点画像としH.264 AVCで符号化してそれぞれ別ストリームとする方式を含める。この方式によれば、主視点画像はMPEG2互換となり2D画像として表示可能となることから、MPEG2による符号化画像が広く普及している既存の2D番組の放送方式と互換性を保つことが可能である。
「3D2視点別ES伝送方式」の他の一例に、左目用の符号化画像を主視点画像としMPEG2で符号化し、右目用の符号化画像を他の視点画像としてMPEG2で符号化してそれぞれ別ストリームとする方式を含める。この方式も、主視点画像はMPEG2互換となり2D画像として表示可能となることから、MPEG2による符号化画像が広く普及している既存の2D番組の放送方式と互換性を保つことが可能である。
「3D2視点別ES伝送方式」の他の一例として、左目用の符号化画像を主視点画像としH.264 AVCまたはH.264 MVCで符号化し、右目用の符号化画像を他の視点画像としてMPEG2で符号化することもありえる。
なお、「3D2視点別ES伝送方式」とは別に、元々多視点映像符号化方式として規定された符号化方式ではないMPEG2やH.264 AVC(MVCを除く)などの符号化方式であっても左目用の映像と右目用のフレームを交互に格納したストリームを生成することで3D伝送も可能である。
<番組情報>
番組特定情報と番組配列情報とを番組情報という。
番組特定情報はPSI(Program Specific Information)とも呼ばれ、所要の番組を選択するために必要な情報で、放送番組に関連するPMT(Program Map Table)を伝送するTSパケットのパケット識別子を指定するPAT(Program Association Table)、放送番組を構成する各符号化信号を伝送するTSパケットのパケット識別子および有料放送の関連情報のうち共通情報を伝送するTSパケットのパケット識別子を指定するPMT、変調周波数など伝送路の情報と放送番組を関連付ける情報を伝送するNIT(Network Information Table)、有料放送の関連情報のうち個別情報を伝送するTSパケットのパケット識別子を指定するCAT(Conditional Access Table)の4つのテーブルからなり、MPEG2システム規格で規定されている。例えば、映像の符号化情報、音声の符号化情報、番組の構成を含む。本発明では、さらに3D映像か否かなどを示す情報を新たに含める。当該PSIは管理情報付与部16で付加される。
番組配列情報はSI(Service Information)とも呼ばれ、番組選択の利便性のために規定された各種情報であり、MPEG−2システム規格のPSI 情報も含まれ、番組名、放送日時、番組内容など、番組に関する情報が記載されるEIT(Event Information Table)、編成チャンネル名、放送事業者名など、編成チャンネル(サービス)に関する情報が記載されるSDT(Service Description Table)などがある。
例えば、現在放送されている番組や次に放送される番組の構成、サービスの形式、また、1週間分の番組の構成情報などを示す情報を含み、管理情報付与部16で付加される。 番組情報には番組情報の構成要素であるコンポーネント記述子、コンポーネントグループ記述子、3D番組詳細記述子、サービス記述子、サービスリスト記述子などを含む。これらの記述子は、PMT、EIT[schedule basic/schedule extended/present/following]、NIT、SDTといったテーブルの中に記載される。
PMT、EITそれぞれのテーブルの使い分けとしては、例えばPMTについては現在放送されている番組の情報のみの記載であるため、未来に放送される番組の情報については確認することができない。しかし、送信側からの送信周期が短いため受信完了までの時間が短く、現在放送されている番組の情報なので変更されることがないという意味での信頼度が高いといった特徴がある。一方、EIT[schedule basic/schedule extended]については現在放送されている番組以外に7日分先までの情報を取得できるが、送信側からの送信周期がPMTに比べ長いため受信完了までの時間が長く、保持する記憶領域が多く必要で、かつ未来の事象のため変更される可能性があるという意味で信頼度が低いなどのデメリットがある。EIT[following]については次の放送時間の番組の情報を取得できる。
番組特定情報のPMTは、ISO/IEC13818−1で規定されているテーブル構造を用い、その2ndループ(ES(Elementary Stream)毎のループ)に記載の8ビットの情報であるstream_type(ストリーム形式種別)により、放送されている番組のESの形式を示すことができる。本発明の実施例では、従来よりもESの形式を増やし、例えば、図3に示すように放送する番組のESの形式を割り当てる。
まず、多視点映像符号化(例:H.264/MVC)ストリームのベースビューサブビットストリーム(主視点)について、既存のITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC 映像ストリームと同じ0x1Bを割り当てる。次に、0x20に3D映像番組に用いることが可能な多視点映像符号化ストリーム(例えばH.264 MVC)のサブビットストリーム(他の視点)を割り当てる。
また、3D映像の複数視点を別ストリームで伝送する「3D2視点別ES伝送方式」でもちいる場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)について、既存のITU-T 勧告H.262|ISO/IEC 13818-2 映像と同じ0x02を割り当てる。ここで、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)とは、3D映像の複数視点の映像のうち、主視点の映像のみをH.262(MPEG2)方式で符号化したストリームである。
さらに、0x21に、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式の他の視点のビットストリームを割り当てる。
さらに、0x22に3D映像の複数視点を別ストリームで伝送する場合のITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC ストリーム方式の他の視点ビットストリームのビットストリームを割り当てる。
なお、ここでの説明では3D映像番組に用いることが可能な多視点映像符号化ストリームのサブビットストリームを0x20に割り当て、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式の他の視点のビットストリームを0x21に割り当て、3D映像の複数視点を別ストリームで伝送する場合のITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC ストリームを0x22に割り当てるとしたが、0x23〜0x7Eの何れかに割り当てられることでも良い。また、MVC映像ストリームは単なる一例であって、3D映像番組に用いることが可能な多視点映像符号化ストリームを示すのであれば、H.264/MVC以外の映像ストリームでもよい。
以上ように、stream_type(ストリーム形式種別)のビットを割りあてることにより、送信装置1側の放送事業者が3D番組を伝送(放送)するにあたり、本発明の実施例では、例えば、図47に示すようなストリームの組合せで伝送することが可能となる。
組合せ例1では、主視点(左目用)映像ストリームとして、多視点映像符号化(例:H.264/MVC)ストリームのベースビューサブビットストリーム(主視点)(ストリーム形式種別0x1B)を伝送し、副視点(右目用) 映像ストリームとして多視点映像符号化(例:H.264/MVC)ストリームの他の視点用サブビットストリーム(ストリーム形式種別0x20)を伝送する。
この場合は、主視点(左目用)映像ストリーム、副視点(右目用) 映像ストリームともに、多視点映像符号化(例:H.264/MVC)方式のストリームを用いる。多視点映像符号化(例:H.264/MVC)方式は、そもそも多視点の映像を伝送するための方式であり、図47の組合せ例の中で最も効率よく3D番組を伝送することができる。
また、3D番組を3D表示(出力)する際には、受信装置は、主視点(左目用)映像ストリームと副視点(右目用) 映像ストリームとの両者を処理して、3D番組を再生することが可能となる。
受信装置が3D番組を2D表示(出力)する場合には、主視点(左目用)映像ストリームのみを処理すれば、2D番組として表示(出力)することが可能となる。
なお、多視点映像符号化方式H.264/MVCのベースビューサブビットストリームと、既存のH.264/AVC(MVCを除く)の映像ストリームには互換性があるので、図3のように両者のストリーム形式種別を同じ0x1Bに割り当てることにより以下の効果がある。つまり、3D番組を3D表示(出力)する機能を有していない受信装置が組合せ例1の3D番組を受信したとしても、受信装置に既存のH.264/AVC(MVCを除く)の映像ストリーム(ITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC 映像ストリーム)を表示(出力)する機能さえあれば、ストリーム形式種別に基づいて当該番組の主視点(左目用)映像ストリームを、既存のH.264/AVC(MVCを除く)の映像ストリームと同様のストリームと認識して通常の2D番組として表示(出力)することが可能となるという効果である。
さらに、副視点(右目用) 映像ストリームには、従来にないストリーム形式種別を割り当てているので既存の受信装置では無視される。これにより、既存の受信装置で副視点(右目用) 映像ストリームについて放送局側が意図しない表示(出力)を防止できる。
よって、新たに組合せ例1の3D番組の放送を開始したとしても、既存のH.264/AVC(MVCを除く)の映像ストリームを表示(出力)する機能を有する既存の受信装置で表示(出力)できないという状況を回避することができる。これにより、CM(commercial message)などの広告収入により運営する放送などで新たに当該3D番組放送を開始したとても、3D表示(出力)機能に対応していない受信装置でも視聴可能となるので、受信装置の機能の制限により、視聴率が低下すること回避することができ、放送局側でもメリットがある。
組合せ例2では、主視点(左目用)映像ストリームとして、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)(ストリーム形式種別0x02)を伝送し、副視点(右目用) 映像ストリームとして3D映像の複数視点を別ストリームで伝送する場合のITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC ストリーム(ストリーム形式種別0x22)を伝送する。
組合せ例1と同様に、3D番組を3D表示(出力)する際には、受信装置は、主視点(左目用)映像ストリームと副視点(右目用) 映像ストリームとの両者を処理して、3D番組を再生することが可能となり、受信装置が3D番組を2D表示(出力)する場合には、主視点(左目用)映像ストリームのみを処理すれば、2D番組として表示(出力)することが可能となる。
さらに、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)を、既存のITU-T勧告H.262|ISO/IEC 13818-2映像ストリームと互換性のあるストリームとし、図3のように両者のストリーム形式種別を同じ0x1Bに割り当てることにより、既存のITU-T勧告H.262|ISO/IEC 13818-2映像ストリームを表示(出力)する機能を有する受信装置であれば、3D表示(出力)機能を有しない受信装置でも、2D番組として表示(出力)することが可能となる。
また、組合せ例1と同様に、副視点(右目用) 映像ストリームには、従来にないストリーム形式種別を割り当てているので既存の受信装置では無視される。これにより、既存の受信装置で副視点(右目用) 映像ストリームについて放送局側が意図しない表示(出力)を防止できる。
既存のITU-T勧告H.262|ISO/IEC 13818-2映像ストリームについての表示(出力)機能を有する受信装置は広く普及しているので、受信装置の機能の制限による視聴率の低下をより防ぐことが可能となり、放送局にとって最も好ましい放送を実現することができる。
さらに、副視点(右目用) 映像ストリームを、ITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC ストリーム(ストリーム形式種別0x22)とすることにより、副視点(右目用) 映像ストリームを高い圧縮率で伝送することが可能となる。
すなわち、組合せ例2によれば、放送局の商業的なメリットと高効率伝送による技術的メリットを両立することが可能となる。
組合せ例3では、主視点(左目用)映像ストリームとして、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)(ストリーム形式種別0x02)を伝送し、副視点(右目用) 映像ストリームとして3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式の他の視点のビットストリーム(ストリーム形式種別0x21)を伝送する。
この場合も、組合せ例2と同様に、既存のITU-T勧告H.262|ISO/IEC 13818-2映像ストリームを表示(出力)する機能を有する受信装置であれば、3D表示(出力)機能を有しない受信装置でも、2D番組として表示(出力)することが可能となる。
受信装置の機能の制限による視聴率の低下をより防ぐという放送局の商業的なメリットに加え、主視点(左目用)映像ストリームと副視点(右目用) 映像ストリームとの符号化方式をH.262(MPEG2)方式に統一することにより、受信装置における映像復号化機能のハードウェア構成を簡素化することが可能となる。
なお、組合せ例4のように、主視点(左目用)映像ストリームとして、多視点映像符号化(例:H.264/MVC)ストリームのベースビューサブビットストリーム(主視点)(ストリーム形式種別0x1B)を伝送し、副視点(右目用) 映像ストリームとして3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式の他の視点のビットストリーム(ストリーム形式種別0x21)を伝送することも可能である。
なお、図47の組合せにおいて、多視点映像符号化(例:H.264/MVC)ストリームのベースビューサブビットストリーム(主視点)(ストリーム形式種別0x1B)の代わりに、ITU-T 勧告H.264|ISO/IEC 14496-10 映像で規定されるAVC 映像ストリーム(ストリーム形式種別0x1B)としても同様の効果を得ることができる。
また、図47の組合せにおいて、3D映像の複数視点を別ストリームで伝送する場合のH.262(MPEG2)方式のベースビュービットストリーム(主視点)の代わりに、ITU-T勧告H.262|ISO/IEC 13818-2映像ストリーム(ストリーム形式種別0x02)としても同様の効果を得ることができる。
図4は、番組情報の一つであるコンポーネント記述子(Component Descriptor)の構造の一例を示す。コンポーネント記述子はコンポーネント(番組を構成する要素。例えば、映像、音声、文字、各種データなど)の種別を示し、エレメンタリストリームを文字形式で表現するためにも利用される。この記述子はPMTおよび/またはEITに配置される。
コンポーネント記述子の意味は次の通りである。つまり、descriptor_tagは8ビットのフィールドで、この記述子がコンポーネント記述子と識別可能な値が記載される。descriptor_lengthは8ビットのフィールドで、この記述子のサイズを記載している。stream_content(コンポーネント内容)は4ビットのフィールドで、ストリームの種別(映像、音声、データ)を表し、図4に従って符号化される。component_type(コンポーネント種別)は8ビットのフィールド、映像、音声、データといったコンポーネントの種別を規定し、図4に従って符号化される。component_tag(コンポーネントタグ)は、8 ビットのフィールドである。サービスのコンポーネントストリームは、この8ビットのフィールドにより、コンポーネント記述子で示される記述内容(図5)を参照できる。
プログラムマップセクションでは、各ストリームに与えるコンポーネントタグの値は異なる値とすべきである。コンポーネントタグは、コンポーネントストリームを識別するためのラベルであり、ストリーム識別記述子内のコンポーネントタグと同一の値である(ただし、ストリーム識別記述子がPMT内に存在する場合)。ISO_639_language_code(言語コード)の24 ビットのフィールドは、コンポーネント(音声、あるいはデータ)の言語、およびこの記述子に含まれる文字記述の言語を識別する。
言語コードは、ISO 639-2(22)に規定されるアルファベット3文字コードで表す。各文字はISO8859-1(24)に従って8ビットで符号化され、その順で24ビットフィールドに挿入される。例えば、日本語はアルファベット3文字コードで「jpn」であり、次のように符号化される。「0110 1010 0111 0000 0110 1110」。text_char(コンポーネント記述)は、8ビットのフィールドである。一連のコンポーネント記述のフィールドは、コンポーネントストリームの文字記述を規定する。
図5(a)〜(e)は、コンポーネント記述子の構成要素であるstream_content(コンポーネント内容)とcomponent_type(コンポーネント種別)の一例を示す。図5(a)に示すコンポーネント内容の0x01は、MPEG2形式で圧縮された映像ストリームの様々な映像フォーマットについて表す。
図5(b)に示すコンポーネント内容の0x05は、H.264 AVC形式で圧縮された映像ストリームの様々な映像フォーマットについて表す。図5(c)に示すコンポーネント内容の0x06は、多視点映像符号化(例えば、H.264 MVC形式)で圧縮された3D映像ストリームの様々な映像フォーマットについて表す。
図5(d)に示すコンポーネント内容の0x07は、MPEG2、またはH.264 AVC形式で圧縮された3D映像のSide-by-Side形式のストリームの様々な映像フォーマットについて表す。この例ではMPEG2とH.264 AVC形式で同じコンポーネント内容の値としたが、MPEG2とH.264 AVCで別の値を設定することでも良い。
図5(e)に示すコンポーネント内容の0x08は、MPEG2、またはH.264 AVC形式で圧縮された3D映像のTop-and-Bottom形式のストリームの様々な映像フォーマットについて表す。この例ではMPEG2とH.264 AVC形式で同じコンポーネント内容の値としたが、MPEG2とH.264 AVCで別の値を設定することでも良い。
図5(d)や図5(e)のように、コンポーネント記述子の構成要素であるstream_content(コンポーネント内容)とcomponent_type(コンポーネント種別)の組合せによって、3D映像であるか否か、3D映像の方式、解像度、アスペクト比の組合せを示す構成とすることにより、3Dと2Dの混合放送であっても、少ない伝送量で、2D番組/3D番組識別を含めた各種映像方式情報の伝送が可能となる。
特に、元々多視点映像符号化方式として規定された符号化方式ではないMPEG2やH.264 AVC(MVCを除く)などの符号化方式を用いて、Side-by-Side形式やTop-and-Bottom形式などの1画像中に複数の視点の画像を含めて3D映像番組を伝送する場合は、上述したstream_type(ストリーム形式種別)だけでは、3D映像番組用に一画像中に複数の視点の画像を含めて伝送しているのか、1視点の通常の画像なのかを識別することは困難である。よって、この場合は、stream_content(コンポーネント内容)とcomponent_type(コンポーネント種別)の組合せによって、当該番組が2D番組/3D番組識別を含めた各種映像方式の識別を行えばよい。また、EITにより現在放送している、或いは将来放送される番組に関するコンポーネント記述子が配信されることにより、受信装置4においてEITを取得することによりEPG(番組表)を作成し、EPGの情報として3D映像であるか否か、3D映像の方式、解像度、アスペクト比、3D映像であるか否かを作成することができる。受信装置は、EPGにこれらの情報を表示(出力)できるようになるメリットがある。
以上説明したとおり、受信装置4がstream_contentとcomponent_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図6は、番組情報の一つであるコンポーネントグループ記述子(Component Group Descriptor)の構造の一例を示す。コンポーネントグループ記述子は、イベント内のコンポーネントの組み合わせを定義し、識別する。つまり、複数コンポーネントのグループ化情報を記述する。この記述子はEITに配置される。
コンポーネントグループ記述子の意味は次の通りである。つまり、descriptor_tagは8ビットのフィールドで、この記述子がコンポーネントグループ記述子と識別可能な値が記載される。descriptor_lengthは8ビットのフィールドで、この記述子のサイズを記載している。component_group_type(コンポーネントグループ種別)は3ビットのフィールドで、図7に従い、コンポーネントのグループ種別を表す。
ここで、001は、3DTVサービスを表し、000のマルチビューTVサービスと区別される。ここで、マルチビューTVサービスとは、複数視点の2D映像をそれぞれの視点ごとに切り替えて表示可能なTVサービスである。例えば、多視点映像符号化映像ストリームや、元々多視点映像符号化方式として規定された符号化方式ではない符号化方式のストリームにおいて1画面中に複数の視点の画像を含めて伝送する場合のストリームを3D映像番組のみならず、マルチビューTV番組にも用いる場合もありえる。この場合には、ストリームに多視点の映像が含まれていても、上述したstream_type(ストリーム形式種別)だけでは3D映像番組なのか、マルチビューTV番組なのか識別できない場合もある。このような場合は、component_group_type(コンポーネントグループ種別)による識別が有効である。total_bit_rate_flag(総ビットレートフラグ)は1 ビットのフラグで、イベント中のコンポーネントグループ内の総ビットレートの記述状態を示す。このビットが「0」の場合、コンポーネントグループ内の総ビットレートフィールドが当該記述子中に存在しないことを示す。このビットが「1」の場合、コンポーネントグループ内の総ビットレートフィールドが当該記述子中に存在することを示す。num_of_group(グループ数)は4 ビットのフィールドで、イベント内でのコンポーネントグループの数を示す。
component_group_id(コンポーネントグループ識別)は4 ビットのフィールドで、図8に従い、コンポーネントグループ識別を記述する。num_of_CA_unit(課金単位数)は4 ビットのフィールドで、コンポーネントグループ内での課金/非課金単位の数を示す。CA_unit_id(課金単位識別)は4 ビットのフィールドで、図9に従い、コンポーネントが属する課金単位識別を記述する。
num_of_component(コンポーネント数)は4 ビットのフィールドで、当該コンポーネントグループに属し、かつ直前のCA_unit_id で示される課金/非課金単位に属するコンポーネントの数を示す。component_tag(コンポーネントタグ)は8 ビットのフィールドで、コンポーネントグループに属するコンポーネントタグ値を示す。
total_bit_rate(トータルビットレート)は8 ビットのフィールドで、コンポーネントグループ内のコンポーネントの総ビットレートを、トランスポートストリームパケットの伝送レートを1/4Mbps 毎に切り上げて記述する。text_length(コンポーネントグループ記述長)は8 ビットのフィールドで、後続のコンポーネントグループ記述のバイト長を表わす。text_char(コンポーネントグループ記述)は8 ビットのフィールドである。一連の文字情報フィールドは、コンポーネントグループに関する説明を記述する。
以上、受信装置4がcomponent_group_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
次に、3D番組に関する情報を示す新たな記述子を用いる例を説明する。図10(a)は、番組情報の一つである3D番組詳細記述子の構造の一例を示す。3D番組詳細記述子は番組が3D番組である場合の詳細情報を示し、受信機における3D番組判定用などに利用される。この記述子はPMTおよび/またはEITに配置される。3D番組詳細記述子は、既に説明した図5(c)〜(e)に示す3D映像番組用のstream_content(コンポーネント内容やとcomponent_type(コンポーネント種別)と並存させてもよい。しかし、3D番組詳細記述子を伝送することにより、3D映像番組用のstream_content(コンポーネント内容やcomponent_type(コンポーネント種別)を伝送しない構成としても良い。3D番組詳細記述子の意味は次の通りである。次にdescriptor_tagは8ビットのフィールドで、この記述子が3D番組詳細記述子と識別可能な値(例えば0xE1)が記載される。descriptor_lengthは8ビットのフィールドで、この記述子のサイズを記載している。
3d_2d _type(3D/2D種別)は8ビットのフィールドで、図10(b)に従い、3D番組中における3D映像/2D映像の種別を表す。このフィールドは、例えば番組本編は3D映像であり、番組の途中で挿入されるコマーシャルなどが2D映像で構成されるような3D番組において、3D映像なのか2D映像なのかを識別するための情報であり、受信装置における誤動作(受信装置は3D処理を行っているのに放送番組が2D映像のため発生する表示(出力)の問題)を防ぐ目的で配置される。0x01は3D映像、0x02は2D映像を表す。
3d_method_type(3D方式種別)は8ビットのフィールドで、図11に従い、3Dの方式種別を表す。0x01は「3D2視点別ES伝送方式」方式、0x02はSide-by-Side 方式、0x03はTop-and-Bottom 方式を表す。stream_type(ストリーム形式種別)は8ビットのフィールドで、上記で説明した図3に従い、番組のESの形式を示す。なお、3D番組詳細記述子を、3D映像番組の場合に伝送し、2D映像番組では伝送しない構成としてもよい。受信した番組についての3D番組詳細記述子の伝送の有無だけで、当該番組が2D映像番組なのか、3D映像番組なのか識別することが可能となる。
component_tag(コンポーネントタグ)は、8ビットのフィールドである。サービスのコンポーネントストリームは、この8ビットのフィールドにより、コンポーネント記述子で示される記述内容(図5)を参照できる。プログラムマップセクションでは、各ストリームに与えるコンポーネントタグの値は異なる値とすべきである。コンポーネントタグは、コンポーネントストリームを識別するためのラベルであり、ストリーム識別記述子内のコンポーネントタグと同一の値である(ただし、ストリーム識別記述子がPMT内に存在する場合)。
以上、受信装置4が3D番組詳細記述子を監視することで、この記述子が存在すれば、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。加えて、番組が3D番組である場合には、3D伝送方式の種別を識別すること、3D映像と2D映像が混在している場合にはその識別が可能となる。
次に、サービス(編成チャンネル)単位で3D映像か2D映像かを識別する例について説明する。図12は、番組情報の一つであるサービス記述子(Service Descriptor)の構造の一例を示す。サービス記述子は、編成チャンネル名とその事業者名をサービス形式種別とともに文字符号で表す。この記述子はSDTに配置される。
サービス記述子の意味は次の通りである。つまり、service_type(サービス形式種別)は8ビットのフィールドで、図13に従ってサービスの種類を表す。0x01は、3D映像サービスを表す。service_provider_name_length(事業者名長)の8 ビットのフィールドは、後続の事業者名のバイト長を表す。char(文字符号)は8 ビットのフィールドである。一連の文字情報フィールドは、事業者名あるいはサービス名を表す。service_name_length(サービス名長)の8 ビットのフィールドは、後続のサービス名のバイト長を表す
。
以上、受信装置4がservice_typeを監視することで、サービス(編成チャンネル)が3D番組のチャンネルであることを認識できる効果がある。このように、サービス(編成チャンネル)が3D映像サービスか2D映像サービスかを識別することができれば、例えば、EPG表示などで、当該サービスが3D映像番組放送サービスである旨の表示などが可能となる。但し、3D映像番組を中心に放送しているサービスといえども、広告映像のソースが2D映像しかない場合など、2D映像を放送しなければならない場合もありうる。よって、当該サービス記述子のservice_type(サービス形式種別)による3D映像サービスの識別は、既に説明した、stream_content(コンポーネント内容)とcomponent_type(コンポーネント種別)の組合せによる3D映像番組の識別、component_group_type(コンポーネントグループ種別)による3D映像番組の識別、または3D番組詳細記述子による3D映像番組の識別と併用することが望ましい。複数の情報を組み合わせて識別する場合は、3D映像放送サービスであるが、一部の番組だけ2D映像であるなどの識別も可能となる。このような識別ができる場合は、受信装置で、例えばEPGでは当該サービスが「3D映像放送サービス」であることを明示することができ、かつ、当該サービスに3D映像番組以外に2D映像番組が混在していても、番組受信時等に3D映像番組と2D映像番組とで表示制御等を必要に応じて切り替えることが可能となる。
図14は、番組情報の一つであるサービスリスト記述子(Service List Descriptor)の構造の一例を示す。サービスリスト記述子は、サービス識別とサービス形式種別によるサービスの一覧を提供する。つまり、編成チャンネルとその種別の一覧を記述する。この記述子はNITに配置される。
サービスリスト記述子の意味は次の通りである。つまり、service_id(サービス識別)は16 ビットのフィールドで、そのトランスポートストリーム内の情報サービスをユニークに識別する。サービス識別は、対応するプログラムマップセクション内の放送番組番号識別(program_number)に等しい。service_type(サービス形式種別)は8ビットのフィールドで、上記で説明した図12に従ってサービスの種類を表す。
これらのservice_type(サービス形式種別)によって「3D映像放送サービス」であるか否かを識別することができるので、例えば、当該サービスリスト記述子に示される編成チャンネルとその種別の一覧を用いて、EPG表示において「3D映像放送サービス」のみをグルーピングする表示を行うことなどが可能となる。
以上、受信装置4がservice_typeを監視することで、編成チャンネルが3D番組のチャンネルであることを認識できる効果がある。
以上説明した記述子の例は、代表的なメンバのみを記載しており、これ以外のメンバを持つこと、複数のメンバを一つに纏めること、一つのメンバを詳細情報を持つ複数のメンバに分割することも考えられる。
<番組情報の送出運用規則例>
上記で説明した番組情報のコンポーネント記述子、コンポーネントグループ記述子、3D番組詳細記述子、サービス記述子、サービスリスト記述子は、例えば管理情報付与部16で生成、付加され、MPEG-TSのPSI(一例としてPMTなど)、或いはSI(一例としてEIT、或いはSDT、或いはNITなど)に格納されて送信装置1から送出される情報である。
送信装置1における番組情報の送出運用規則例について以下説明する。
図15は、コンポーネント記述子の送信装置1における送出処理の一例を示す。「descriptor_tag」にはコンポーネント記述子を意味する“0x50”を記述する。「descriptor_length」には、コンポーネント記述子の記述子長を記述する。記述子長の最大値は規定しない。「stream_content」には、“0x01”(映像)を記述する。
「component_type」には、当該コンポーネントの映像コンポーネント種別を記述する。コンポーネント種別については、図5の中から設定する。「component_tag」は当該番組内で一意となるコンポーネントタグ値を記述する。「ISO_639_language_code」は“jpn(”0x6A706E“)”を記述する。
「text_char」は複数映像コンポーネント存在時に映像種類名として16byte(全角8文字)以下で記述する。改行コードは使用しない。コンポーネント記述がデフォルトの文字列である場合はこのフィールドを省略することができる。デフォルト文字列は「映像」である。
なお、イベント(番組)に含まれる0x00〜0x0F のcomponent_tag 値を持つ、全ての映像コンポーネントに対して必ず一つ送出する。
このように送信装置1で送出運用することにより、受信装置4がstream_contentとcomponent_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図16は、コンポーネントグループ記述子の送信装置1における送出処理の一例を示す。
「descriptor_tag」にはコンポーネントグループ記述子を意味する“0xD9”を記述する。「descriptor_length」には、コンポーネントグループ記述子の記述子長を記述する。
記述子長の最大値は規定しない。「component_group_type」は、コンポーネントグループの種別を示す。‘000’は、マルチビューテレビを‘001’は、3Dテレビを示す。
「total_bit_rate_flag」には、イベント中のグループ内の総ビットレートがすべて規定のデフォルト値にある場合は’0’を、イベント中のグループ内の総ビットレートのいずれかが規定のデフォルト値を越えている場合は’1’を示す。
「num_of_group」はイベント内でのコンポーネントグループの数を記述する。マルチビューテレビ(MVTV)の場合には最大3とし、3Dテレビ(3DTV)の場合には最大2とする。
「component_group_id」はコンポーネントグループ識別を記述する。メイングループの場合には”0x0”を割り当て、各サブグループの場合には放送事業者がイベント内で一意に割り当てる。
「num_of_CA_unit」はコンポーネントグループ内での課金/非課金単位の数を記述する。最大値は2 とする。当該コンポーネントグループ内に課金を行うコンポーネントが一切含まれない場合は"0x1"とする。
「CA_unit_id」は課金単位識別を記述する。放送事業者がイベント内で一意に割り当てる。「num_of_component」は当該コンポーネントグループに属し、かつ直前の「CA_unit_id 」で示される課金/非課金単位に属するコンポーネントの数を記述する。最大値は15とする。
「component_tag」はコンポーネントグループに属するコンポーネントタグ値を記述する。「total_bit_rate」はコンポーネントグループ内の総ビットレートを記述する。ただし、デフォルト値の場合は”0x00”を記述する。
「text_length」は後続のコンポーネントグループ記述のバイト長を記述する。最大値は16(全角8 文字)とする。「text_char」はコンポーネントグループに関する説明を必ず記述する。デフォルト文字列は規定しない。また、改行コードは使用しない。
なお、マルチビューテレビサービスを行う場合には「component_group_type」は’000’として必ず送出する。また、3Dテレビサービスを行う場合には「component_group_type」は’001’として必ず送出する。
このように送信装置1で送出運用することにより、受信装置4がcomponent_group_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図17は、3D番組詳細記述子の送信装置1における送出処理の一例を示す。「descriptor_tag」には3D番組詳細記述子を意味する“0xE1”を記述する。「descriptor_length」には、3D番組詳細記述子の記述子長を記述する。「3d_2d_type」は3D/2D識別を記述する。図10(b)の中から設定する。「3d_method_type」は3D方式識別を記述する。図11の中から設定する。「stream_type」は番組のESの形式をを記述する。図3の中から設定する。「component_tag」は当該番組内で一意となるコンポーネントタグ値を記述する。
このように送信装置1で送出運用することにより、受信装置4が3D番組詳細記述子を監視することで、この記述子が存在すれば、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図18は、サービス記述子の送信装置1における送出処理の一例を示す。「descriptor_tag」にはサービス記述子を意味する“0x48”を記述する。「descriptor_length」には、サービス記述子の記述子長を記述する。「service_type」はサービス形式種別を記述する。
サービス形式種別については、図13の中から設定する。「service_provider_name_length」はBS/CSデジタルテレビジョン放送では事業者名長を記述する。最大値は20とする。地上デジタルテレビジョン放送ではservice_provider_name を運用しないため、“0x00”を記述する。
「char」はBS/CSデジタルテレビジョン放送では事業者名を記述する。最大全角10文字。地上デジタルテレビジョン放送では何も記述しない。「service_name_length」は編成チャンネル名長を記述する。最大値は20 とする。「char」は編成チャンネル名を記述する。20バイト以内かつ全角10文字以内である。なお、対象編成チャンネルに対し、1個のみを必ず配置する。
このように送信装置1で送出運用することにより、受信装置4がservice_typeを監視することで、編成チャンネルが3D番組のチャンネルであることを認識できる効果がある。
図19は、サービスリスト記述子の送信装置1における送出処理の一例を示す。「descriptor_tag」にはサービスリスト記述子を意味する“0x41”を記述する。「descriptor_length」には、サービスリスト記述子の記述子長を記述する。「loop」は対象トランスポートストリームに含まれるサービス数のループを記述する。
「service_id」は当該トランスポートストリームに含まれるservice_id を記述する。「service_type」は対象サービスのサービスタイプを記述する。図13の中から設定する。なお、NIT内TSループに対して必ず配置する。
このように送信装置1で送出運用することにより、受信装置4がservice_typeを監視することで、編成チャンネルが3D番組のチャンネルであることを認識できる効果がある。
以上、送信装置1における番組情報の送出例について説明したが、番組が2D番組から3D番組に切り替わる際に、3D番組の始まる最初の画面において、例えばテロップなどを用いて「これから3D番組が開始される旨」、「3D表示で視聴する場合には3D視聴用のメガネを装着する旨」、「眼が疲れているときや体調が悪いときには2D表示の視聴を勧める旨」、「3D番組の長時間の視聴は眼が疲れたり体調が悪くなる可能性がある旨」などを送信装置1で作成する3D番組の映像にはめ込んで送出することにより受信装置4で3D番組を視聴するユーザに対して3D番組視聴に対する注意・警告を行うことができるメリットがある。
<受信装置のハードウェア構成>
図25は、図1のシステムのうち、受信装置4の構成例を示すハードウェア構成図である。21は受信機全体を制御するCPU(Central Processing Unit)、22はCPU21と受信装置内各部との制御および情報を送信するための汎用バス、23は無線(衛星、地上)、ケーブルなどの放送伝送網を介して送信装置1から送信された放送信号を受信し、特定の周波数を選局し復調、誤り訂正処理、などを行い、MPEG2-Transport Stream(以下、「TS」ともいう。)などの多重化パケットを出力するチューナ、24はスクランブル部13によるスクランブルを復号するデスクランブラ、25はネットワークと情報を送受信し、インターネットと受信装置間で各種情報およびMPEG2―TSを送受信するネットワークI/F(Interface)、26は例えば受信装置4に内蔵されているHDD(Hard Disk Drive)やフラッシュメモリ、またはリムーバブルなHDD、ディスク型記録媒体、フラッシュメモリ、などの記録媒体、27は記録媒体26を制御し、記録媒体26への信号の記録や記録媒体26からの信号の再生を制御する記録再生部、29はMPEG2―TSなどの形式に多重化されている信号を、映像ES(Elementary Stream)、音声ES、番組情報などの信号に分離する多重分離部である。ESとは、圧縮・符号化された画像・音声データのそれぞれのことである。30は映像ESを、映像信号に復号する映像復号部、31は音声ESを、音声信号に復号し、スピーカ48に出力または音声出力42から出力する音声復号部、32は、映像復号部30で復号された映像信号を前記CPUの指示に従い3Dまたは2Dの映像信号を後述する変換処理により所定のフォーマットに変換する処理や、CPU21が作成したOSD(On Screen Display)などの表示を映像信号に重畳する処理などを行い、処理後の映像信号をディスプレイ47または映像信号出力部41に出力し、処理後の映像信号のフォーマットに対応する同期信号や制御信号(機器制御に使用)を映像信号出力部41および制御信号出力部43から出力する映像変換処理部、33はユーザー操作入力部45からの操作入力(例えばIR(Infrared Radiation)信号を発信するリモートコントローラーからのキーコード)を受信し、またCPU21や映像変換処理部32が生成した外部機器への機器制御信号(例えばIR)を機器制御信号送信部44から送信する制御信号送受信部、34は内部にカウンタを有し、また現在の時刻の保持を行うタイマー、46は前記多重分離部で再構成されたTSに対し暗号化等必要な処理を行い外部にTSを出力、または外部から受信したTSを復号化して多重分離部29に対して入力するシリアルインタフェースやIPインタフェースなどの高速デジタルI/F、47は映像復号部30が復号して映像変換処理部32により映像が変換された3D映像および2D映像を表示するディスプレイ、48は音声復号部が復号した音声信号に基づいて音を出力するスピーカを表しており、主にこれらの装置により、受信装置4は構成されている。ディスプレイに3D表示する場合も、必要であれば、同期信号や制御信号は制御信号出力部43や機器制御信号送信端子44から出力する。
受信装置および視聴装置および3D視聴補助装置(例えば3Dメガネ)を含めたシステム構成について、図35および図36に例を示す。図35は受信装置と視聴装置が一体となったシステム構成、また図36は受信装置と視聴装置が別構成となった場合の例である。
図35において、3501は前記受信装置4の構成を含み3D映像表示および音声出力が可能な表示装置、3503は前記表示装置3501から出力される3D視聴補助装置制御信号(例えばIR信号)、3502は3D視聴補助装置を表している。図35の例においては、映像信号は前記表示装置3501が具備する映像ディスプレイから表示され、また音声信号は前記表示装置3501が具備するスピーカから出力される。また同様に表示装置3501は機器制御信号44または制御信号43の出力部から出力される3D視聴補助装置制御信号を出力する出力端子を具備する。
なお、上記の説明は、図35に示す表示装置3501と3D視聴補助装置3502とが後述するアクティブシャッター方式により表示する例を前提として説明したが、図35に示す表示装置3501と3D視聴補助装置3502とが後述する偏光分離による3D映像表示装置を行う方式の場合には、3D視聴補助装置3502は左目と右目に異なる映像が入射するように偏光分離を行うものであればよく、表示装置3501から機器制御信号44または制御信号43の出力部から3D視聴補助装置3502へ出力される3D視聴補助装置制御信号3503を出力しなくともよい。
また図36において、3601は前記受信装置4の構成を含む映像音声出力装置、3602は映像/音声/制御信号を伝送する伝送経路(例えばHDMIケーブル)、3603は外部から入力された映像信号や音声信号を表示出力するディスプレイを表す。
この場合、映像音声出力装置3601(受信装置4)の映像出力41から出力される映像信号と音声出力42から出力される音声信号、制御信号出力部43から出力される制御信号は、伝送路3602で規定されているフォーマット(例えばHDMI規格により規定されるフォーマット)に適した形式の伝送信号に変換され、伝送経路3602を経由しディスプレイ3603に入力される。ディスプレイ3603では前記伝送信号を受信し、もとの映像信号、音声信号、制御信号に復号し、映像と音声を出力するとともに、3D視聴補助装置3502に対して3D視聴補助装置制御信号3503を出力する。
なお、上記の説明は、図36に示す表示装置3603と3D視聴補助装置3502とが後述するアクティブシャッター方式により表示する例を前提として説明したが、図36に示す表示装置3603と3D視聴補助装置3502とが後述する偏光分離による3D映像表示装置を行う方式の場合には、3D視聴補助装置3502は左目と右目に異なる映像が入射するように偏光分離を行うものであればよく、表示装置3603から3D視聴補助装置3502へ3D視聴補助装置制御信号3603を出力しなくともよい。
なお、図25に示した21〜46の各構成要件の一部は、1つの、又は複数のLSIで構成されていてもよい。また、図25に示した21〜46の各構成要件の一部の機能をソフトウェアで実現する構成としてもよい。
<受信装置の機能ブロック図>
図26は、CPU21内部における処理の機能ブロック構成の一例である。ここで各機能ブロックは例えばCPU21で実行されるソフトウェアのモジュールとして存在しており、それぞれのモジュール間は何らかの手段(例えばメッセージパッシング、ファンクションコール、イベント送信)などを行って情報やデータの受け渡しおよび制御指示を行う。
また、各モジュールは受信装置4内部の各ハードウェアとも、汎用バス22を介して情報の送受信を行っている。また図に記載の関係線(矢印)は今回の説明に関連する部分を主に記載しているが、その他のモジュール間についても通信手段および通信を必要とした処理は存在する。例えば選局制御部59は、選局に必要な番組情報を番組情報解析部54から適宜取得している。
次に各機能ブロックの機能について説明する。システム制御部51は各モジュールの状態やユーザーの指示状態などを管理し、各モジュールに対して制御指示を行う。ユーザー指示受信部52は制御信号送受信部33が受信したユーザー操作の入力信号を受信および解釈し、ユーザーの指示をシステム制御部51に伝える。機器制御信号送信部53はシステム制御部51や、他のモジュールからの指示に従い、制御信号送受信部33に対して機器制御信号を送信するように指示する。
番組情報解析部54は多重分離部29から番組情報を取得して内容を分析し、必要な情報を各モジュールに対して提供する。時間管理部55は番組情報解析部54から、TSに含まれる時刻補正情報(TOT:Time offset table)を取得して現在の時刻を管理するとともに、タイマー34が有するカウンタを使用し、各モジュールの要求に従いアラーム(指定時刻の到来を通知)やワンショットタイマ(一定時間の経過を通知)の通知を行う。
ネットワーク制御部56は、ネットワークI/F25を制御し、特定URL(Unique Resource Locater)や特定IP(Internet Protocol)アドレスからの各種情報およびTSの取得を行う。復号制御部57は、映像復号部30および音声復号部31を制御し、デコードの開始や停止、ストリームに含まれる情報の取得などを行う。
記録再生制御部58は記録再生部27を制御し、記録媒体26から、特定のコンテンツの特定の位置から、また任意の読み出しの形式(通常再生、早送り、巻戻し、一時停止)で信号を読み出す。また、記録再生部27に入力された信号を、記録媒体26に対して記録する制御を行う。
選局制御部59は、チューナ23、デスクランブラ24、多重分離部29および復号制御部57を制御し、放送の受信および放送信号の記録を行う。または記録媒体からの再生を行い、映像信号および音声信号を出力するまでの制御を行う。詳しい放送受信の動作および放送信号の記録動作、記録媒体からの再生動作については後述する。
OSD作成部60は、特定のメッセージを含むOSDデータを作成し、映像変換制御部61に対して前記作成したOSDデータを映像信号に重畳して出力するように指示を行う。ここでOSD作成部60は、左目用と右目用といった視差のあるOSDデータを作成し、映像変換制御部61に対して、前記左目用と右目用のOSDデータをもとに3D表示を要求することにより、3Dでのメッセージ表示等を行う。
映像変換制御部61は、映像変換処理部32を制御し、映像復号部30から映像変換処理部32に入力された映像信号を、前記システム制御部51からの指示に従い3Dまたは2Dの映像に変換し変換した映像と、OSD作成部60から入力されたOSDを重畳し、さらに必要に応じて映像を加工(スケーリングやPinP、3D表示など)してディスプレイ47に表示または外部に出力する。映像変換処理部32における3D映像、2D映像の所定のフォーマットへの変換方法の詳細については後述する。各機能ブロックはこれらのような機能を提供する。
<放送受信>
ここで放送受信を行う場合の制御手順と信号の流れについて説明する。まず特定チャンネル(CH)の放送受信を示すユーザーの指示(例えばリモコンのCHボタン押下)を、ユーザー指示受信部52から受信したシステム制御部51は、ユーザーの指示したCH(以下指定CH)での選局を選局制御部59に指示する。
前記指示を受信した選局制御部59は、チューナ23に対して指定CHの受信制御(指定周波数帯への選局、放送信号復調処理、誤り訂正処理)を指示し、TSをデスクランブラ24に出力させる。
次に選局制御部59は、デスクランブラ24に対して前記TSのデスクランブルし多重分離部29に出力するように指示し、多重分離部29に対しては、入力されたTSの多重分離、および多重分離した映像ESの映像復号部30への出力と、音声ESの音声復号部31への出力、を指示する。
また、選局制御部59は、復号制御部57に対し、映像復号部30と音声復号部31に入力された映像ESおよび音声ESの復号指示を行う。前記復号指示を受信した復号制御部31は、映像復号部30に対して復号した映像信号を映像変換処理部32に出力するように制御し、音声復号部31に対して復号した音声信号をスピーカ48または音声出力42に出力するように制御を行う。このようにして、ユーザーが指定したCHの映像および音声を出力する制御を行う。
また、選局時のCHバナー(CH番号や番組名、番組情報等を表示するOSD)を表示するために、システム制御部51はOSD作成部60に対してCHバナーの作成および出力を指示する。前記指示を受信したOSD作成部60は、作成したCHバナーのデータを映像変換制御部61に送信し、前記データを受信した映像変換制御部61はCHバナーを映像信号に重畳して出力するように制御を行う。このようにして、選局時等のメッセージ表示を行う。
<放送信号の記録>
次に放送信号の記録制御と信号の流れについて説明する。特定のCHの記録を行う場合には、システム制御部51は選局制御部59に対して特定CHの選局および記録再生部27への信号出力を指示する。
前記指示を受信した選局制御部59は、前記放送受信処理と同様に、チューナ23に対して指定CHの受信制御を指示し、デスクランブラ24に対して、チューナー23から受信したMPEG2−TSのデスクランブル、多重分離部29に対してデスクランブラ24からの入力を記録再生部27に出力するように制御する。
また、システム制御部51は、記録再生制御部58に対して、記録再生部27への入力TSを記録するように指示する。前記指示を受信した記録再生制御部58は、記録再生部27に入力される信号(TS)に対して、暗号化などの必要な処理を行い、また記録再生時に必要な付加情報(記録CHの番組情報、ビットレート等のコンテンツ情報)の作成、また管理データ(記録コンテンツのID、記録媒体26上の記録位置、記録形式、暗号化情報など)への記録を行った後に、前記MPEG2−TSおよび付加情報、管理データを記録媒体26へ書き込む処理を行う。このようにして放送信号の記録を行う。
<記録媒体からの再生>
次に記録媒体からの再生処理について説明する。特定の番組の再生を行う場合には、システム制御部51は、記録再生制御部58に対して、特定の番組の再生を指示する。この際の指示としては、コンテンツのIDと再生開始位置(例えば番組の先頭、先頭から10分の位置、前回の続き、先頭から100Mbyteの位置等)を指示する。前記指示を受信した記録再生制御部58は、記録再生部27を制御し、付加情報や管理データを用いて記録媒体26から信号(TS)を読み出して、暗号の復号などの必要な処理を行った後に、多重分離部29に対してTSを出力するように処理を行う。
また、システム制御部51は、再生信号の映像音声出力を選局制御部59に対して指示する。前記指示を受信した選局制御部59は、記録再生部27からの入力を多重分離部29に出力するように制御し、多重分離部29に対して、入力されたTSの多重分離、および多重分離された映像ESの映像復号部30への出力、および多重分離された音声ESの音声復号部31への出力、を指示する。
また、選局制御部59は、復号制御部57に対し、映像復号部30と音声復号部31に入力された映像ESおよび音声ESの復号指示を行う。前記復号指示を受信した復号制御部31は、映像復号部30に対して復号した映像信号を映像変換処理部32に出力するように制御し、音声復号部31に対して復号した音声信号をスピーカ48または音声出力42に出力するように制御を行う。このようにして記録媒体からの信号再生処理を行う。
<3D映像の表示方法>
本発明に用いることのできる3D映像の表示方式としては、左目と右目に視差を感じさせる左目用と右目用の映像を作成し、人間に立体物が存在しているように認識させるいくつかの方式がある。
ひとつの方式としては、ユーザーが着用するメガネに対して、液晶シャッター等を用いて左右のグラスを交互に遮光を行い、またそれと同期させて左目用と右目用の映像を表示させ、左右の目に映る画像に視差を発生させるアクティブシャッター方式がある。
この場合、受信装置4は、ユーザーが着用するアクティブシャッター方式メガネへ、制御信号出力部43や機器制御信号送信端子44から同期信号や制御信号を出力する。また、映像信号出力部41から映像信号を外部の3D映像表示装置へ出力して、左目用の映像と右目用の映像とを交互に表示させる。または、受信装置4の有するディスプレイ47に同様の3D表示を行う。このようにすれば、アクティブシャッター方式メガネを着用したユーザは、当該3D映像表示装置または受信装置4の有するディスプレイ47で3D映像を視聴することができる。
また、別の方式としては、ユーザーが着用するメガネに対して、左右のグラスに直線偏光で直交するフィルムを貼るもしくは直線偏光コートを施す、または円偏光で偏光軸の回転方向が逆方向のフィルムを貼るもしくは円偏光コートを施し、左目と右目のメガネの偏光にそれぞれ対応した互いに異なる偏光による左目用の映像と右目用の映像を同時に出力することにより、左目と右目のそれぞれに入射する映像を偏光状態により分離することで左目と右目で視差を発生させる偏光方式がある。
この場合、受信装置4は、映像信号出力部41から映像信号を外部の3D映像表示装置へ出力して、該3D映像表示装置は、左目用の映像と右目用の映像とを異なる偏光状態で表示させる。または、受信装置4の有するディスプレイ47によって同様の表示を行う。このようにすれば、偏光方式メガネを着用したユーザは、当該3D映像表示装置または受信装置4の有するディスプレイ47で3D映像を視聴することができる。なお、偏光方式では、偏光方式メガネには、受信装置4から同期信号や制御信号を送信することなく、3D映像視聴が可能となるため、制御信号出力部43や機器制御信号送信端子44から同期信号や制御信号を出力する必要はない。
また、このほか、色による左右の目の映像を分離させるカラー分離方式を用いてもよい。また、裸眼で視聴可能な視差障壁を利用して3D映像を作り出す視差障壁方式を用いてもよい。
なお、本発明に係る3D表示方式は特定の方式に限定されるものではない。
<番組情報を利用した3D番組の具体的な判定方法の例>
3D番組の判定方法の例としては、既に説明した放送信号および再生信号の番組情報に含まれる各種テーブルや記述子から、新たに含めた3D番組か否かを判定する情報を取得し、3D番組か否かを判定することが可能である。
PMTや、EIT[schedule basic/schedule extended/present/following]、といったテーブルの中に記載の、コンポーネント記述子、コンポーネントグループ記述子に新たに含められた3D番組か否かを判定する情報を確認する、または3D番組判定用の新たな記述子である3D番組詳細記述子を確認する、NITや、SDT、といったテーブルの中に記載の、サービス記述子、サービスリスト記述子などに新たに含められた3D番組か否かを判定する情報を確認する、などにより3D番組か否かを判定する。これらの情報は、前述した送信装置において放送信号に付与され、送信される。送信装置では、例えば管理情報付与部16によってこれらの情報が放送信号に付与される。
それぞれのテーブルの使い分けとしては、例えばPMTについては現在の番組の情報しか記載していないため、未来の番組の情報については確認することができないが、信頼度は高いといった特徴がある。一方EIT[schedule basic/schedule extended]については現在の番組だけでなく未来の番組の情報を取得できるが、受信完了までの時間が長く、保持する記憶領域が多く必要で、かつ未来の事象のため信頼度が低いなどのデメリットがある。EIT[following]については次の放送時間の番組の情報を取得できるため、本実施例への適用については好適である。またEIT[present]については現在の番組情報の取得に使用でき、PMTとは異なる情報を入手できる。
次に、送信装置1から送出された、図4、図6、図10、図12、図14で説明した番組情報に関係する受信装置4の処理の詳細例を説明する。
図20は、受信装置4における、コンポーネント記述子の各フィールドに対する処理の一例を示す。
「descriptor_tag」が“0x50”だと、当該記述子がコンポーネント記述子であると判断する。「descriptor_length」により、コンポーネント記述子の記述子長であると判断する。「stream_content」が“0x01”,“0x05”,“0x06”,“0x07”だと、当該記述子は有効(映像)である判断する。“0x01”,“0x05”,“0x06”,“0x07”以外の場合、当該記述子は無効である判断する。「stream_content」が“0x01”,“0x05”,“0x06”,“0x07”の場合、以降の処理を行う。
「component_type」は、当該コンポーネントの映像コンポーネント種別と判断する。このコンポーネント種別については、図5のいずれかの値が指定されている。この内容により、当該コンポーネントが3D映像番組についてのコンポーネントか否かが判断可能である。
「component_tag」は、当該番組内で一意となるコンポーネントタグ値で、PMT のストリーム識別子のコンポーネントタグ値と対応させて利用できる。
「ISO_639_language_code」は、“jpn(”0x6A706E“)”以外でも、後に配置される文字コードを”jpn”として扱う。
「text_char」は、16byte(全角8 文字)以内をコンポーネント記述と判断する。このフィールドが省略された場合はデフォルトのコンポーネント記述と判断する。デフォルト文字列は「映像」である。
以上説明したように、コンポーネント記述子はイベント(番組)を構成する映像コンポーネント種別を判断でき、コンポーネント記述を受信機における映像コンポーネント選択の際に利用する事ができる。
なお、component_tag値が0x00〜0x0F の値に設定された映像コンポーネントのみを単独での選択対象とする。前記以外のcomponent_tag 値で設定された映像コンポーネントは、単独での選択対象とはならず、コンポーネント選択機能などの対象としてはならない。
また、イベント(番組)中のモード変更などにより、コンポーネント記述が実際のコンポーネントと一致しないことが有る。(コンポーネント記述子のcomponent_type は、当該コンポーネントの代表的なコンポーネント種別を記載し、番組途中でのモード変更に対しリアルタイムでこの値を変えるようなことは行わない。)
また、コンポーネント記述子により記載されたcomponent_type は、デジタル記録機器におけるコピー世代を制御する情報および最大伝送レートの記述であるデジタルコピー制御記述子が当該イベント(番組)に対して省略された場合のデフォルトのmaximum_bit_rate を判断する際に参照される。
このように受信装置4における、本記述子の各フィールドに対する処理をおこなうことにより、受信装置4がstream_contentとcomponent_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図21は、受信装置4における、コンポーネントグループ記述子の各フィールドに対する処理の一例を示す。
「descriptor_tag」が“0xD9”だと、当該記述子がコンポーネントグループ記述子であると判断する。「descriptor_length」により、コンポーネントグループ記述子の記述子長であると判断する。
「component_group_type」が‘000’ だと、マルチビューテレビサービスと判断し、‘001’ だと、3Dテレビサービスと判断する。
「total_bit_rate_flag」が’0’だと、イベント(番組)中のグループ内の総ビットレートが当該記述子に記載されていないと判断する。’1’だと、イベント(番組)中のグループ内の総ビットレートが当該記述子に記載されていると判断する。
「num_of_group」は、イベント(番組)内でのコンポーネントグループの数と判断する。最大値が存在しこれを越えた場合には最大値として処理する可能性がある。「component_group_id」は、”0x0”だと、メイングループと判断する。”0x0”以外だと、サブグループと判断する。
「num_of_CA_unit」は、コンポーネントグループ内での課金/非課金単位の数と判断する。最大値を越えた場合には2 として処理する可能性がある。
「CA_unit_id」が“0x0”だと、非課金単位グループと判断する。“0x1”だと、デフォルトES群を含む課金単位と判断する。“0x0”と“0x1”以外だと、上記以外の課金単位識別と判断する。
「num_of_component」は、当該コンポーネントグループに属し、かつ直前のCA_unit_id で示される課金/非課金単位に属するコンポーネントの数と判断する。最大値を越えた場合には15として処理する可能性がある。
「component_tag」は、コンポーネントグループに属するコンポーネントタグ値と判断し、PMTのストリーム識別子のコンポーネントタグ値と対応させて利用できる。「total_bit_rate」は、コンポーネントグループ内の総ビットレートと判断する。ただし、”0x00”の際はデフォルトと判断する。
「text_length」が16(全角8 文字)以下だとコンポーネントグループ記述長と判断し、16(全角8 文字)より大きいと、コンポーネントグループ記述長が16(全角8文字)を超えた分の説明文は無視して良い。
「text_char」は、コンポーネントグループに関する説明文を指す。なお、component_group_type=’000’のコンポーネントグループ記述子の配置によって、当該イベント(番組)においてマルチビューテレビサービスを行うと判断し、コンポーネントグループ毎の処理に利用することができる。
また、component_group_type=’001’のコンポーネントグループ記述子の配置によって、当該イベント(番組)において3Dテレビサービスを行うと判断し、コンポーネントグループ毎の処理に利用することができる。
さらに、各グループのデフォルトES群は、CA_unit ループ先頭に配置されるコンポーネントループ中に必ず記載する。
メイングループ(component_group_id=0x0)において、
・グループのデフォルトES群が非課金対象ならば、free_CA_mode=0 とし、CA_unit_id=0x1 のコンポーネントループを設定してはならない。
・グループのデフォルトES群が課金対象ならば、free_CA_mode=1 とし、CA_unit_id=”0x1”のコンポーネントループを必ず設定し、記載する。
また、サブグループ(component_group_id>0x0)において、
・サブグループに対しては、メイングループと同じ課金単位、あるいは非課金単位のみ設定できる。
・グループのデフォルトES群が非課金対象ならば、CA_unit_id=0x0 のコンポーネントループを設定し、記載する。
・グループのデフォルトES群が課金対象ならば、CA_unit_id=0x1 のコンポーネントループを設定し、記載する。
このように受信装置4における、本記述子の各フィールドに対する処理をおこなうことにより、受信装置4がcomponent_group_typeを監視することで、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図22は、受信装置4における、3D番組詳細記述子の各フィールドに対する処理の一例を示す。
「descriptor_tag」が“0xE1”だと、当該記述子が3D番組詳細記述子であると判断する。「descriptor_length」により、3D番組詳細記述子の記述子長であると判断する。「3d_2d_type」は、当該3D番組における3D/2D識別であると判断する。図10(b)の中から指定される。「3d_method_type」は、当該3D番組における3D方式識別であると判断する。図11の中から指定される。
「stream_type」は、当該3D番組のESの形式であると判断する。図3の中から指定される。「component_tag」は、当該3D番組内で一意となるコンポーネントタグ値であると判断する。PMT のストリーム識別子のコンポーネントタグ値と対応させて利用できる。
なお、3D番組詳細記述子自体の有無により、当該番組が3D映像番組であるか否かを判断する構成としてもよい。すなわち、この場合は、3D番組詳細記述子がなければ、2D映像番組と判断し、3D番組詳細記述子がある場合には、3D映像番組であると判断する。
このように受信装置4における、本記述子の各フィールドに対する処理をおこなうことにより、受信装置4が3D番組詳細記述子を監視することで、この記述子が存在すれば、現在受信している、あるいは将来受信する番組が3D番組であることを認識できる効果がある。
図23は、受信装置4における、サービス記述子の各フィールドに対する処理の一例を示す。「descriptor_tag」が“0x48”だと、当該記述子がサービス記述子であると判断する。「descriptor_length」により、サービス記述子の記述子長であると判断する。「service_type」は、図13に示されたservice_type 以外の場合は当該記述子を無効と判断する。
「service_provider_name_length」は、BS/CSデジタルテレビジョン放送の受信の場合には、20以下だと、事業者名長と判断し、20より大きいと、事業者名を無効と判断する。一方、地上デジタルテレビジョン放送の受信の場合には、“0x00”以外は無効と判断する。
「char」は、BS/CSデジタルテレビジョン放送の受信の場合には、事業者名と判断する。一方、地上デジタルテレビジョン放送の受信の場合には、記載内容は無視する。「service_name_length」が20以下だと、編成チャンネル名長と判断し、20より大きいと、編成チャンネル名を無効と判断する。
「char」は、編成チャンネル名と判断する。なお、上記図18で説明した送出処理の一例に従って記述子を配置したSDTを受信できなければ、対象サービスの基本情報は無効であると判断する。
このように受信装置4における、本記述子の各フィールドに対する処理をおこなうことにより、受信装置4がservice_typeを監視することで、編成チャンネルが3D番組のチャンネルであることを認識できる効果がある。
図24は、受信装置4における、サービスリスト記述子の各フィールドに対する処理の一例を示す。「descriptor_tag」が“0x41”だと、当該記述子がサービスリスト記述子であると判断する。「descriptor_length」により、サービスリスト記述子の記述子長であると判断する。
「loop」は、対象トランスポートストリームに含まれるサービス数のループを記述する。「service_id」は、当該トランスポートストリームに対するservice_id と判断する。「service_type」は、対象サービスのサービスタイプを示す。図13で規定されるサービスタイプ以外は無効と判断する。
以上説明したように、サービスリスト記述子は対象ネットワークに含まれるトランスポートストリームの情報と判断することができる。
このように受信装置4における、本記述子の各フィールドに対する処理をおこなうことにより、受信装置4がservice_typeを監視することで、編成チャンネルが3D番組のチャンネルであることを認識できる効果がある。
次に各テーブル内の具体的な記述子について説明する。まず、PMTの2ndループ(ES毎のループ)に記載のstream_typeの中のデータの種類により、上記図3で説明したようにESの形式を判定することができるが、この中に、現在放送されているストリームが3D映像であることを示す記述が存在する場合には、その番組を3D番組と判定する(例えば、stream_typeに多視点映像符号化(例:H.264/MVC)ストリームのサブビットストリーム(他の視点)を示す0x1Fがあれば、その番組を3D番組と判定する。
また、stream_type以外にも、PMTの中で現在reservedとされている領域について、新たに3D番組または2D番組を識別する2D/3D識別ビットを割り当て、その領域で判定することも可能である。
EITについても同様にreservedの領域に新たに2D/3D識別ビットを割り当てして判定することも可能である。
PMTおよび/またはEITに配置されるコンポーネント記述子で3D番組を判定する場合は、上記図4および5で説明したようにコンポーネント記述子のcomponent_typeに、3D映像を示す種別を割り当て(例えば、図5(c)〜(e))、component_typeが3Dを表すものが存在すれば、その番組を3D番組と判定することが可能である。(例えば、図5(c)〜(e)などを割り当てし、その値が対象番組の番組情報に存在していることを確認する。)
EITに配置されるコンポーネントグループ記述子による判定方法としては、上記図6および7で説明したようにcomponent_group_typeの値に、3Dサービスを表す記述を割り当て、component_group_typeの値が、3Dサービスを表していれば、3D番組と判別可能である(例えば、ビットフィールドで001は、3DTVサービスなどを割り当てし、その値が対象番組の番組情報に存在していることを確認する。)
PMTおよび/またはEITに配置される3D番組詳細記述子による判定方法としては、上記図10および11で説明したように対象の番組が3D番組であるか判定する場合には、3D番組詳細記述子内の3d_2d _type(3D/2D種別)の内容により判定可能である。また、受信番組について3D番組詳細記述子が伝送されていない無い場合は、2D番組と判断する。また、前記記述子の中に含まれる3D方式種別(上記3d_method_type)に受信装置が対応可能な3D方式であれば、次番組を3D番組と判定する方法も考えられる。その場合には、記述子の解析処理は複雑になるが、受信装置が対応不可能な3D番組に対してメッセージ表示処理や記録処理を行う動作を中止することが可能になる。
SDTに配置されるサービス記述子やNITに配置されるサービスリスト記述子に含まれるservice_typeの情報に、上記図12および13および14で説明したように0x01に3D映像サービスを割り当て、当該記述子がある番組情報を取得した場合に、3D番組として判定することが可能である。この場合には、番組単位での判定ではなく、サービス(CH、編成チャンネル)単位での判定となり、同一編成チャンネル内での次番組の3D番組判定はできないが、情報の取得が番組単位でないため容易といった利点もある。
また番組情報については、専用の通信路(放送信号、またはインターネット)を通じて取得する方法もある。その場合にも、番組の開始時間とCH(放送編成チャンネル、URLまたはIPアドレス)、その番組が3D番組かをあらわす識別子があれば、同様に3D番組判定は可能である。
以上の説明では、サービス(CH)または番組単位で3D映像か否かを判定するためのさまざまな情報(テーブルや記述子に含まれる情報)について説明したが、これらは本発明において必ずしも全て送信する必要はない。放送形態に合せて必要な情報を送信すればよい。これらの情報のうち、それぞれ単独の情報を確認して、サービス(CH)または番組単位で3D映像か否かを判定してもよく、複数の情報を組み合わせてサービス(CH)または番組単位で3D映像か否かを判定してもよい。複数の情報を組み合わせて判定する場合は、3D映像放送サービスであるが、一部の番組だけ2D映像であるなどの判定も可能となる。このような判定ができる場合は、受信装置で、例えばEPGでは当該サービスが「3D映像放送サービス」であることを明示することができ、かつ、当該サービスに3D映像番組以外に2D映像番組が混在していても、番組受信時に3D映像番組と2D映像番組とで表示制御等を切り替えることが可能となる。
なお、以上説明した3D番組の判定方法により、3D番組と判定された場合において、例えば図5(c)〜(e)で指定された3Dコンポーネントが受信装置4で適切に処理(表示、出力)することができる場合には3Dにて処理(再生、表示、出力)し、受信装置4で適切に処理(再生、表示、出力)することができない場合(例えば、指定された3D伝送方式に対応する3D映像再生機能がない場合など)には2Dにて処理(再生、表示、出力)してもよい。このとき、2D映像の表示、出力とともに、当該3D映像番組が、受信装置において適切に3D表示または3D出力できない旨を合せて表示してもよい。このようにすれば、2D映像番組として放送された番組なのか、3D映像番組として放送された番組であるが受信装置で適切に処理できないため2D映像を表示しているのかをユーザが把握することができる。
<3D2視点別ES伝送方式の3Dコンテンツの3D再生/出力/表示処理>
次に3Dコンテンツ(3D映像を含むデジタルコンテンツ)再生時の処理について説明する。ここではまず、図47に示すような、1つのTSに主視点映像ESと副視点映像ESが存在する、3D2視点別ES伝送方式の場合の再生処理について説明する。まずユーザーが3D出力/表示への切替指示(例えばリモコンの「3D」キー押下)等を行った場合、前記キーコードを受信したユーザー指示受信部52は、システム制御部51に対して3D映像への切替を指示する(なお、以下の処理は、3D2視点別ES伝送方式のコンテンツについて、3Dコンテンツの3D表示/出力へのユーザー切替指示以外の条件で3D出力/表示に切り替える場合でも同様の処理を行う)。次に、システム制御部51は、上記の方法で現在の番組が3D番組か否かを判定する。
現在の番組が3D番組であった場合には、システム制御部51はまず選局制御部59に対して、3D映像の出力を指示する。前記指示を受信した選局制御部59は、まず番組情報解析部54から主視点映像ESと副視点映像ESそれぞれについて、PID(packet ID)、および符号化方式(例えばH.264/MVC,MPEG2,H.264/AVCなど)を取得し、次に多重分離部29に対して前記主視点映像ESと副視点映像ESを多重分離して映像復号部30に出力するよう制御を行う。
ここで、例えば前記主視点映像ESは、映像復号部の1番入力、前記副視点映像ESは映像復号部の2番入力に入力するように、多重分離部29を制御する。その後選局制御部59は、復号制御部57に対して、映像復号部30の1番入力は主視点映像ESで2番入力は副視点映像ESという情報およびそれぞれの前記符号化方式を送信し、かつこれらのESを復号するように指示を行う。
図47に示す3D2視点別ES伝送方式の組合せ例2や組合せ例4のように、主視点映像ESと副視点映像ESで符号化方式が異なる3D番組を復号するために、映像復号部30は、それぞれの符号化方式に対応した、複数種類の復号機能を有するように構成すればよい。
図47に示す3D2視点別ES伝送方式の組合せ例1や組合せ例3のように、主視点映像ESと副視点映像ESで符号化方式が同じ3D番組を復号するために、映像復号部30は、単一の符号化方式に対応した復号機能のみを有する構成でもかまわない。この場合は、映像復号部30を安価に構成することができる。
前記指示を受信した復号制御部57は、主視点映像ESと副視点映像ESそれぞれの符号化方式に対応した復号を行い、左目用と右目用の映像信号を映像変換処理部32に出力する。ここで、システム制御部51は映像変換制御部61に対して、3D出力処理を行うように指示を行う。前記指示をシステム制御部51から受信した映像変換制御部61は、映像変換処理部32を制御して、映像出力41から出力する、または受信装置4が備えるディスプレイ47に3D映像を表示する。
当該3D再生/出力/表示方法について、図37を用いて説明する。
図37(a)は、3D2視点別ES伝送方式の3Dコンテンツの左右の視点の映像を交互に表示、出力するフレームシーケンシャル方式の出力、表示に対応する再生/出力/表示方法の説明図である。図の左側上部のフレーム列(M1,M2,M3,・・・)が、3D2視点別ES伝送方式のコンテンツの主視点(左目用)映像ESに含まれる複数のフレーム、図の左側下部のフレーム列(S1,S2,S3,・・・)が3D2視点別ES伝送方式のコンテンツの副視点(右目用)映像ESに含まれる複数のフレームを表している。映像変換処理部32では、前記入力された主視点(左目用)/副視点(右目用)映像信号の各フレームを、図の右側のフレーム列(M1,S1,M2,S2,M3,S3,・・・・・・)で表すように、交互にフレームを映像信号として出力/表示する。このような出力/表示方式によれば、各視点それぞれについてディスプレイに表示可能な解像度を最大に用いることができ、高解像度の3D表示が可能となる。
図36のシステム構成において、図37(a)の方式を用いる場合には、上記映像信号の出力とともに、それぞれの映像信号が主視点(左目)用、副視点(右目)用と判別可能な同期信号を制御信号43から出力する。前記映像信号と前記同期信号を受信した外部の映像出力装置は、前記映像信号を前記同期信号に合わせて主視点(左目用)、副視点(右目用)の映像を出力し、かつ3D視聴補助装置に同期信号を送信することにより3D表示を行うことが可能になる。なお、外部の映像出力装置から出力される同期信号は、外部の映像出力装置で生成してもよい。
また図35のシステム構成において、図37(a)の方式を用いて、前記映像信号を受信装置4が備えるディスプレイ47に表示する場合には、前記同期信号を機器制御信号送信部53および制御信号送受信部33を経由し、機器制御信号送信端子44から出力して、外部の3D視聴補助装置の制御(例えばアクティブシャッターの遮光切替)を行うことにより、3D表示を行う。
図37(b)は、3D2視点別ES伝送方式の3Dコンテンツの左右の視点の映像をディスプレイの異なる領域に表示する方式の出力、表示に対応する再生/出力/表示方法の説明図である。当該処理は、3D2視点別ES伝送方式のストリームを映像復号部30で復号し、映像変換処理部32で映像変換処理を行うものである。ここで、異なる領域に表示するとは、例えば、ディスプレイの奇数ラインと偶数ラインをそれぞれ主視点(左目)用、副視点(右目)用の表示領域として表示する等の方法がある。または、表示領域はライン単位でなくともよく、視点ごとに異なる画素を持つディスプレイの場合は、主視点(左目)用の複数の画素の組合せと副視点(右目)用の画素の複数の画素の組合せのそれぞれの表示領域とすればよい。例えば、上述した偏光方式の表示装置では、例えば、上記の異なる領域から、3D視聴補助装置の左目右目のそれぞれの偏光状態に対応した、互いに異なる偏光状態の映像を出力すればよい。このような出力/表示方式によれば、各視点それぞれについてディスプレイに表示可能な解像度は、図37(a)の方式よりも少なくなるが、主視点(左目)用の映像と副視点(右目)用の映像を同時に出力/表示可能であり、交互に表示する必要がない。これにより、図37(a)の方式よりもちらつきの少ない3D表示が可能となる。
なお、図35、図36のいずれのシステム構成においても、図37(b)の方式を用いる場合には、3D視聴補助装置は、偏光分離メガネであればよく、特に電子制御を行う必要がない。この場合、3D視聴補助装置をより安価に提供することが可能となる。
<3D2視点別ES伝送方式の3Dコンテンツの2D出力/表示処理>
3D2視点別ES伝送方式の3Dコンテンツの2D出力/表示を行う場合の動作について以下に説明する。ユーザーが2D映像への切替指示(例えばリモコンの「2D」キー押下)を行った場合、前記キーコードを受信したユーザー指示受信部52は、システム制御部51に対して2D映像への信号切替を指示する(なお、以下の処理は、3D2視点別ES伝送方式の3Dコンテンツの2D出力/表示へのユーザー切替指示以外の条件で2D出力/表示に切り替える場合でも同様の処理を行う)。次に、システム制御部51はまず選局制御部59に対して、2D映像の出力を指示する。
前記指示を受信した選局制御部59は、まず番組情報解析部54から2D映像用のES(前記主視点ES、またはデフォルトタグを持つES)のPIDを取得し、多重分離部29に対して前記ESを映像復号部30に出力するよう制御を行う。その後選局制御部59は復号制御部57に対して、前記ESを復号するように指示を行う。すなわち、3D2視点別ES伝送方式では、主視点と副視点とで、サブストリームまたはESが異なっているので、主視点のサブストリームまたはESのみを復号すればよい。
前記指示を受信した復号制御部57は映像復号部30を制御して前記ESの復号を行い、映像信号を映像変換処理部32に出力する。ここで、システム制御部51は映像変換制御部61に対して、映像の2D出力を行うように制御を行う。前記指示をシステム制御部51から受信した映像変換制御部61は、映像変換処理部32に2D映像信号を映像出力端子41から出力する、またはディスプレイ47に2D映像を表示する制御を行う。
当該2D出力/表示方法について、図38を用いて説明する。符号化映像の構成は図37と同様であるが、上記説明の通り、映像復号部30では第2のES(副視点映像ES)は復号されないため、映像変換処理部32復号される一方のES側の映像信号を図の右側のフレーム列(M1,M2,M3,・・・・・・)で表すような2D映像信号に変換して出力する。このようにして2D出力/表示を行う。
ここでは2D出力/表示の方法として右目用ESの復号を行わない方法について記載したが、3D表示時と同様に、左目用ESと右目用ESの両方の復号を行い、映像変換処理部32で右目用映像信号を間引く処理を実施することにより2D表示を行っても良い。その場合は復号処理や多重分離処理の切り替え処理が無くなり切り替え時間の低減やソフトウェア処理の簡略化などの効果が期待できる。
<Side-by-Side方式/Top-and-Bottom方式の3Dコンテンツの3D出力/表示処理>
次に1つの映像ESに左目用映像と右目用映像が存在する場合(例えばSide-by-Side方式やTop-and-Bottom方式のように1つの2D画面中に左目用映像と右目用映像とを格納する場合)の3Dコンテンツの再生処理を説明する。上記と同様にユーザーが3D映像への切替指示を行った場合、前記キーコードを受信したユーザー指示受信部52は、システム制御部51に対して3D映像への切替を指示する(なお、以下の処理は、Side-by-Side方式やTop-and-Bottom方式の3Dコンテンツの2D出力/表示へのユーザー切替指示以外の条件で2D出力/表示に切り替える場合でも同様の処理を行う)。次に、システム制御部51は、同様に上記の方法で現在の番組が3D番組か否かを判定する。
現在の番組が3D番組であった場合には、システム制御部51はまず選局制御部59に対して、3D映像の出力を指示する。前記指示を受信した選局制御部59は、まず番組情報解析部54から3D映像を含む3D映像ESのPID(packet ID)、および符号化方式(例えばMPEG2,H.264/AVC等)を取得し、次に多重分離部29に対して前記3D映像ESを多重分離して映像復号部30に出力するよう制御し、また映像復号部30に符号化方式に応じた復号化処理を行い、復号した映像信号を映像変換処理部32に出力するように制御を行う。
ここで、システム制御部51は映像変換制御部61に対して、3D出力処理を行うように指示を行う。前記指示をシステム制御部51から受信した映像変換制御部61は、入力された映像信号を左目用映像と右目用映像に分離してスケーリング等の加工(詳細は後述する)を行うように映像変換処理部32に対して指示を行う。映像変換処理部32は変換した映像信号を映像出力41から出力する、または受信装置4が備えるディスプレイ47に映像を表示する。
当該3D映像の再生/出力/表示方法について、図39を用いて説明する。
図39(a)は、Side-by-Side方式またはTop-and-Bottom方式の3Dコンテンツの左右の視点の映像を交互に表示、出力するフレームシーケンシャル方式の出力、表示に対応する再生/出力/表示方法の説明図である。符号化映像としてSide-by-Side方式、Top-and-Bottom方式の説明を併記して図示しているが、両者の異なる点は左目用映像と右目用映像の映像内の配置が異なる点のみのため、以下の説明ではSide-by-Side方式を用いて説明し、Top-and-Bottom方式の説明を省略する。図の左側のフレーム列(L1/R1,L2/R2,L3/R3・・・)が、左目用と右目用の映像が1フレームの左側/右側に配置されたSide-by-Side方式映像信号を表している。映像復号部30では、左目用と右目用の映像1フレームの左側/右側に配置された状態のSide-by-Side方式映像信号が復号され、映像変換処理部32では、前記復号されたSide-by-Side方式映像信号の各フレームを左目用映像と右目用映像になるように左右分離して、さらにスケーリング(出力映像の横サイズに合うように伸張/補間、または圧縮/間引等を実施)をする。さらに、図の右側のフレーム列(L1,R1,L2,R2,L3,R3,・・・・・・)で表すように、交互にフレームを映像信号として出力する。
図39(a)において、交互にフレームを出力/表示する出力/表示映像に変換した後の処理および、3D視聴補助装置への同期信号や制御信号の出力等については、既に説明した、図37(a)で説明した3D2視点別ES伝送方式の3Dコンテンツの3D再生/出力/表示処理と同様であるため、説明を省略する。
図39(b)は、Side-by-Side方式またはTop-and-Bottom方式の3Dコンテンツの左右の視点の映像をディスプレイの異なる領域に表示する方式の出力、表示に対応する再生/出力/表示方法の説明図である。図39(a)と同様に、符号化映像としてSide-by-Side方式、Top-and-Bottom方式の説明を併記して図示しているが、両者の異なる点は左目用映像と右目用映像の映像内の配置が異なる点のみのため、以下の説明ではSide-by-Side方式を用いて説明し、Top-and-Bottom方式の説明を省略する。図の左側のフレーム列(L1/R1,L2/R2,L3/R3・・・)が、左目用と右目用の映像が1フレームの左側/右側に配置されたSide-by-Side方式映像信号を表している。映像復号部30では、左目用と右目用の映像1フレームの左側/右側に配置された状態のSide-by-Side方式映像信号が復号され、映像変換処理部32では、前記復号されたSide-by-Side方式映像信号の各フレームを左目用映像と右目用映像になるように左右分離して、さらにスケーリング(出力映像の横サイズに合うように伸張/補間、または圧縮/間引等を実施)をする。さらに、スケーリングした左目用映像と右目用映像とを異なる異なる領域に出力、表示する。図37(b)での説明と同様に、ここで、異なる領域に表示するとは、例えば、ディスプレイの奇数ラインと偶数ラインをそれぞれ主視点(左目)用、副視点(右目)用の表示領域として表示する等の方法がある。その他、異なる領域への表示処理および偏光方式の表示装置での表示方法等は、図37(b)で説明した3D2視点別ES伝送方式の3Dコンテンツの3D再生/出力/表示処理と同様であるため、説明を省略する。
図39(b)の方式では、ディスプレイの垂直解像度と入力映像の垂直解像度とが同じであっても、左目用映像と右目用映像とをそれぞれディスプレイの奇数ラインと偶数ラインに出力、表示する場合は、それぞれの垂直の解像度を減らす必要がある場合があるが、このような場合も上記スケーリング処理において、左目用映像と右目用映像の表示領域の解像度に対応した間引を実施すればよい。
<Side-by-Side方式/Top-and-Bottom方式の3Dコンテンツの2D出力/表示処理>
Side-by-Side方式またはTop-and-Bottom方式の3Dコンテンツの2D表示を行う場合の各部の動作について下記に説明する。ユーザーが2D映像への切替指示(例えばリモコンの「2D」キー押下)を行った場合、前記キーコードを受信したユーザー指示受信部52は、システム制御部51に対して2D映像への信号切替を指示する(なお、以下の処理は、Side-by-Side方式またはTop-and-Bottom方式の3Dコンテンツの2D出力/表示へのユーザー切替指示以外の条件で2D出力/表示に切り替える場合でも同様の処理を行う)。前記指示を受信したシステム制御部51は映像変換制御部61に対して、2D映像の出力を指示する。前記指示をシステム制御部51から受信した映像変換制御部61は、映像変換処理部32に入力された前記映像信号に対して、2D映像出力を行うように制御を行う。
映像の2D出力/表示方法について、図40を用いて説明する。図40(a)はSide-by-Side方式、図40(b)はTop-and-Bottom方式の説明を図示しており、どちらも左目用映像と右目用映像の映像内の配置が異なるのみのため、説明は図40(a)のSide-by-Side方式を用いて説明する。図の左側のフレーム列(L1/R1,L2/R2,L3/R3・・・)が、左目用と右目用の映像信号が、1フレームの左側/右側に配置されたSide-by-Side方式映像信号を表している。映像変換処理部32では、前記入力されたSide-by-Side方式映像信号の各フレームを左右の左目用映像、右目用映像の各フレームに分離した後、主視点映像(左目用映像)部分のみをスケーリングし、図の右側のフレーム列(L1,L2,L3,・・・・・・)で表すように、主視点映像(左目用映像)のみを映像信号として出力する。
映像変換処理部32は、上記処理を行った映像信号について、2D映像として映像出力41から出力し、制御信号43から制御信号を出力する。このようにして2D出力/表示を行う。
なお、Side-by-Side方式やTop-and-Bottom方式の3Dコンテンツを、1画像に2視点格納したそのままの2D出力/表示を行う例も図40(c)(d)に示す。例えば、図36のように、受信装置と視聴装置が別構成の場合などにおいて、受信装置からは復号したSide-by-Side方式やTop-and-Bottom方式の映像を1画像に2視点格納した映像のまま出力し、視聴装置で3D表示のための変換をおこなってもよい。
<現番組が3Dコンテンツであるか否かに基づく2D/3D映像表示処理フローの例>
次に、現番組が3Dコンテンツである場合、または現番組が3Dコンテンツになった場合のコンテンツの出力/表示処理について説明する。現番組が3Dコンテンツ番組である場合または3Dコンテンツ番組になった場合の3Dコンテンツの視聴に関して、無条件で3Dコンテンツの表示が開始されてしまうと、ユーザは当該コンテンツを視聴することはできず、ユーザの利便性を損ねるおそれがある。これに対し、以下に示す処理を行うことで、ユーザの利便性を向上させることができる。
図41は、番組の切り替わり時における現在番組や番組情報の変更などの契機で実行されるシステム制御部51の処理フローの一例である。図41の例では、2D番組でも、3D番組でも、まずは一方の視点(例えば主視点)の映像の2D表示を行うフローである。
システム制御部51は番組情報解析部54から現在の番組の番組情報を取得し、現在の番組が3D番組か否かを上記の3D番組の判定方法により判定し、さらに現在の番組の3D方式種別(例えば2視点別ES伝送方式/Side-by-Side方式など、例えば3D番組詳細記述子に記載の3D方式種別から判断)を同様に番組情報解析部54から取得する(S401)。なお、現在番組の番組情報の取得は、番組の切り替わり時に限らず、定期的に取得しても良い。
判定の結果、現在の番組が3D番組で無い場合(S402のno)、2Dの映像を2Dで表示するように制御を行う(S403)。
現在の番組が3D番組の場合(S402のyes)、システム制御部51は、図38や図40(a)(b)で説明した方法で、それぞれの3D方式種別に対応した形式で3D映像信号の一方の視点(例えば主視点)を2D表示するように制御を行う(S404)。このとき、3D番組である旨を示す表示を番組の2D表示映像に重畳して表示してもよい。このようにして、現在の番組が3D番組の場合に、一方の視点(例えば主視点)の映像を2D表示する。
なお、選局動作を行い、現在の番組が変更になった場合にも、システム制御部51において上記のフローが実施される。
このように、現在番組が3D番組である場合に、とりあえず一方の視点(例えば主視点)の映像の2D表示とする。これにより、ユーザが3D視聴補助装置を装着していない等、ユーザの3D視聴準備が整っていなくとも、ユーザはとりあえず2D番組とほぼ同様に視聴することが可能となる。特に、Side-by-Side方式やTop-and-Bottom方式の3Dコンテンツの場合には、図40(c)(d)に示すように、1画像に2視点格納した映像のまま出力するのではなく、図40(a)(b)に示すように、一方の視点の2D出力/表示とすることにより、1画像に2視点格納した映像を一方の視点のを2D表示する指示を、リモコン等を介してユーザが手動で行わなくとも、ユーザが通常の2D番組と同様に視聴することが可能となる。
次に、図42は、例えばステップS404で映像を2D表示するとともにシステム制御部51がOSD作成部60に表示させるメッセージの一例である。ユーザーに3D番組が開始されたことを通知するメッセージを表示し、さらにユーザーが応答を行うオブジェクト(以下ユーザー応答受信オブジェクト:例えばOSD上のボタン)1602を表示し、その後の動作を選択させる。
メッセージ1601表示時、例えばユーザーがリモコンの“OK”ボタンを押下した場合、ユーザー指示受信部52は“OK”が押下されたことをシステム制御部51に通知する。
図42の画面表示におけるユーザー選択の判定方法の一例としては、ユーザーがリモコンを操作し、リモコンの<3D>ボタンを押下した場合または画面の「OK/3D」にカーソルを合わせリモコンの<OK>ボタンを押下した場合は、ユーザー選択は“3D切替”と判定する。
または、ユーザーがリモコンの<キャンセル>ボタンまたは<戻る>ボタンを押下した場合または画面の「キャンセル」にカーソルを合わせリモコンの<OK>を押下した場合は、ユーザー選択は“3D切替以外”と判定する。これ以外にも、例えばユーザーの3D視聴準備が完了したか否かの状態(3D視聴準備状態)がOKになる動作が行われた場合(例えば3Dメガネ装着)には、ユーザー選択は“3D切替”となる。
ユーザーが選択を行った後に実行されるシステム制御部51の処理フローについて、図43に示す。ユーザー選択結果を、システム制御部51はユーザー指示受信部52から取得する(S501)。ユーザー選択が、“3D切替”で無かった場合(S502のno)、映像は2D表示のまま終了し、特に処理は行わない。
ユーザーの選択が“3D切替”であった場合(S502のyes)、上記の3D表示方法で映像を3D表示(S504)する。
以上のフローにより、3D番組開始時には、一方の視点の映像を2D出力/表示しておき、ユーザーが操作や3D視聴準備などを行った後など、ユーザが3D視聴を行いたいときに、3D映像を出力/表示して映像を3Dで視聴をすることが可能となり、ユーザの都合に合せた視聴方法を提供することができる。
なお、図42の表示例では、ユーザーが応答を行うためのオブジェクトを表示したが、単純に「3D番組」等、当該番組が「3D視聴」に対応した番組であることを単に示す文字または、ロゴ、マーク等を表示するのみでもよい。この場合は、「3D視聴」に対応した番組であることを認識したユーザがリモコンの「3D」キーを押下げ、当該リモコンからの信号を受信したユーザー指示受信部52からシステム制御部51への通知を契機に2D表示から3D表示に切り替えを行えばよい。
さらに、ステップS404で表示するメッセージ表示の別の例としては、図42のように単純にOKだけでなく、番組の表示方式を2D映像にするか3D映像にするかを明記する方法も考えられる。その場合のメッセージと、ユーザー応答受信オブジェクトの例を図44に示す。
このようにすると図42のような“OK”の表示に比べ、ユーザーがボタン押下後の動作をより判断しやすくなる他、明示的に2Dでの表示を指示できるなど(1202に記載の“2Dで見る”押下時には、ユーザー3D視聴準備状態をNGと判定)、利便性が高まる。
次に、3Dコンテンツの視聴に関して、3D番組視聴開始時に、特定の映像/音声を出力、または映像/音声をミュート(黒画面表示/表示停止、音声出力を停止)する例について説明する。これはユーザーが3D番組を視聴開始した場合に。無条件で3Dコンテンツの表示が開始されてしまうと、ユーザは当該コンテンツを視聴することはできず、ユーザの利便性を損ねるおそれがある。これに対し、以下に示す処理を行うことで、ユーザの利便性を向上させることができる。 この場合の3D番組開始時にシステム制御部51で実行される処理フローを図45に示す。図41の処理フローと異なる点は、S404の処理に代わり、特定映像音声を出力するステップ(S405)が追加された点である。
ここでいう特定映像音声とは、例えば映像であれば、3D準備を促すメッセージ、黒画面、番組の静止画、などが挙げられ、音声としては、無音、または固定パターンの音楽(環境音楽)などが挙げられる。
固定パターン映像(メッセージや環境映像、または3D映像等)の表示については、映像復号部30内部または図に記載していないROMまたは記録媒体26からデータを読み出し、映像復号部30が復号して出力することにより実現できる。黒画面の出力については、例えば映像復号部30が黒色を表す信号のみの映像を出力する、または映像変換処理部32が出力信号のミュートまたは黒映像の出力することにより実現できる。
また、固定パターン音声(無音、環境音楽)の場合も同様に、音声復号部31の内部またはROMまたは記録媒体26からデータを読み出して復号出力、出力信号のミュート等により実現できる。
番組映像の静止画の出力については、システム制御部51から記録再生制御部58に対して、番組の再生および映像の一時停止を指示することにより実現できる。ユーザー選択を実施した後のシステム制御部51の処理は上記と同様、図43のように実行する。
これによりユーザーが3D視聴準備を完了するまでの間、番組の映像や音声を出力しないことが可能になる。
前記の例と同様に、ステップS405で表示するメッセージ表示としては、図46のようになる。図42と異なる点は、表示されている映像および音声が異なるのみで、ひょうじされるメッセージやユーザー応答受信オブジェクトの構成、ユーザー応答受信オブジェクトの動作も同様である。
メッセージの表示については図46のように単純にOKだけでなく、番組の表示方式を2D映像にするか3D映像にするかを明記する方法も考えられる。その場合のメッセージと、ユーザー応答受信オブジェクトの例も図44と同様に表示可能であり、このようにすると前記のような“OK”の表示に比べ、ユーザーがボタン押下後の動作をより判断しやすくなる他、明示的に2Dでの表示を指示できるなど、前記の例と同様に利便性が高まる。
<次番組が3Dコンテンツであるか否かに基づく2D/3D映像表示処理フローの例>
次に、次番組が3Dコンテンツである場合のコンテンツの出力/表示処理について説明する。次番組が3Dコンテンツである場合の当該次番組である3Dコンテンツ番組の視聴に関して、ユーザが3Dコンテンツを視聴する状態ではないにもかかわらず、3Dコンテンツの表示が開始されてしまうと、ユーザはベストの状態で当該コンテンツを視聴することはできず、ユーザの利便性を損ねるおそれがある。これに対し、以下に示す処理を行うことで、ユーザの利便性を向上させることができる。
図27では、選局処理などにより次の番組開始までの時間が変化した場合や、放送局から送信される番組情報のEITに含まれる次番組の開始時刻または現在番組の終了時刻情報などにより、次の番組の開始時刻が変化したと判定した場合などに、システム制御部51で実行されるフローの一例である。まずシステム制御部51は番組情報解析部54から次の番組の番組情報を取得し(S101)、前記3D番組の判定方法により、次番組が3D番組か否かを判定する。
次番組が3D番組でない場合(S102のno)、特に処理は行わずに終了する。次番組が3D番組の場合(S102のyes)、次番組の開始までの時間を計算する。具体的には前記取得した番組情報のEITから次番組の開始時刻または現在番組の終了時刻を取得し、時間管理部55から現在時刻を取得して、その差分を計算する。
次番組開始までX分以下で無い場合(S103のno)、特に処理を行わずに次番組開始X分前となるまで待つ。次番組開始までX分以下の場合(S103のyes)、ユーザーに対して、3D番組がもうすぐ始まる旨のメッセージを表示する(S104)。
図28にその際のメッセージ表示の例を示す。701が装置が表示する画面全体、702に装置が表示するメッセージを示している。このようにして、3D番組が開始される以前に、ユーザーに対して3D視聴補助装置を準備させるように注意を促すことが可能となる。
上記番組開始前までの判定時間Xについては、Xを小さくすると番組開始までにユーザーの3D視聴準備が間に合わない可能性がある。またXを大きくすると、長期間メッセージ表示が視聴の妨げになる、準備が完了した後に間が空いてしまうというデメリットがあるため、適度な時間に調整する必要がある。
また、ユーザーに対してメッセージを表示する際に、具体的に次の番組の開始時間を表示しても良い。その場合の画面表示例を図29に示す。802が3D番組開始までの時間を表示したメッセージである。ここでは分単位での記載を行っているが、秒単位で記載を行っても良い。その場合には、より詳細な次番組の開始時間をユーザーが知ることができるが、処理負荷が高くなるというデメリットもある。
なお、図29には3D番組が開始されるまでの時間を表示する例を示したが、3D番組が開始される時刻を表示するようにしてもよい。午後9時に3D番組が開始される場合は、例えば「午後9時から3D番組が始まります。3Dメガネを着用して下さい。」というメッセージを表示すればよい。
このようなメッセージを表示することにより、ユーザーが具体的な次番組の開始時間を知り適切なペースで3D視聴の準備を行うことが可能になる。
また、図30のように、3D視聴補助装置使用時には立体的に見えるマーク(3Dチェックマーク)を付加することも考えられる。902が3D番組開始を予告するメッセージ、903が3D視聴補助装置使用時に立体に見えるマークである。これにより、3D番組開始前に、ユーザーが3D視聴補助装置の正常動作を確認することができる。例えば3D視聴補助装置に不具合(例えばバッテリー切れ、故障など)が発生した場合に、番組開始までに修理や交換等の対応を行うことも可能になる。
次に、次番組が3Dであることをユーザーに通知した後、ユーザーの3D視聴準備が完了したか否かの状態(3D視聴準備状態)を判定し、3D番組の映像を2D表示または3D表示に切り替える方法について説明する。
次番組が3Dであることをユーザーに通知する方法については、上述したとおりである。ただし、ステップS104でユーザーに表示するメッセージについて、ユーザーが応答を行うオブジェクト(以下ユーザー応答受信オブジェクト:例えばOSD上のボタン)が表示されている点が異なる。このメッセージの例について図31に示す。
1001はメッセージ全体、1002はユーザーが応答を行うためのボタンを表している。図31のメッセージ1001表示時、例えばユーザーがリモコンの“OK”ボタンを押下した場合、ユーザー指示受信部52は“OK”が押下されたことをシステム制御部51に通知する。
前記通知を受信したシステム制御部51は、ユーザーの3D視聴準備状態がOKであることを状態として保存する。次に時間が経過し、現在番組が3D番組になった場合のシステム制御部51の処理フローについて、図32を用いて説明する。
システム制御部51は番組情報解析部54から現在の番組の番組情報を取得し(S201)、現在の番組が3D番組か否かを上記の3D番組の判定方法により判定する。現在の番組が3D番組で無い場合(S202のno)、上記の方法で映像を2D表示するように制御を行う(S203)。
現在の番組が3D番組の場合(S202のyes)、次にユーザーの3D視聴準備状態を確認する(S204)。システム制御部51が保存している前記3D視聴準備状態が、OKで無い場合(S205のno)、同様に映像を2D表示するように制御を行う(S203)。
前記3D視聴準備状態がOKの場合(S205のyes)、上記の方法で映像を3D表示するように制御を行う(S206)。このようにして、現在の番組が3D番組でかつユーザーの3D視聴準備が完了したことを確認できた場合に、映像の3D表示を行う。
ステップS104で表示するメッセージ表示としては、図31のように単純にOKだけでなく、次番組の表示方式を2D映像にするか3D映像にするかを明記する方法も考えられる。その場合のメッセージと、ユーザー応答受信オブジェクトの例を図33および図34に示す。
このようにすると前記のような“OK”の表示に比べ、ユーザーがボタン押下後の動作をより判断しやすくなる他、明示的に2Dでの表示を指示できるなど(1202に記載の“2Dで見る”押下時には、ユーザー3D視聴準備状態をNGと判定)、利便性が高まる。
また、ユーザーの3D視聴準備状態の判定は、ここではリモコンでのユーザーメニューの操作としているが、他にも例えば3D視聴補助装置が発信するユーザー装着完了信号により、前記3D視聴準備状態を判定する方法や、撮像装置でユーザーの視聴状態を撮影し、前記撮影結果から画像認識やユーザーの顔認識を行い、3D視聴補助装置を着用していることを判定しても良い。
このように判定することにより、ユーザーが何か受信装置に対して操作を行う手間を省くことが可能になり、さらに誤操作で2D映像視聴と3D映像視聴を誤って設定してしまうことを避けることが可能になる。
また、別の方法としては、ユーザーがリモコンの<3D>ボタンを押下した場合に、3D視聴準備状態をOKと判断、ユーザーがリモコンの<2D>ボタンまたは<戻る>ボタンまたは<キャンセル>ボタンを押下した場合に、3D視聴準備状態をNGと判定する方法もある。この場合は明確で容易にユーザーが自分の状態を装置に通知できるが、誤操作や誤解による状態送信などのデメリットも考えられる。
また、上記例において、現在の番組の情報を取得せず、事前に取得した次の番組の番組情報のみを判定して処理を行うことも考えられる。この場合は、図32のステップS201において、現在の番組が3D番組かの判定を行なわず、事前に(例えば図27のステップS101)取得した番組情報を使用する方法も考えられる。この場合は処理構造が簡易になるなどのメリットが考えられるが、突如番組構成が変更になり、次番組が3D番組でなくなるような場合にも3D映像切替処理が実行される可能性があるなどのデメリットが存在する。
本実施例で説明した各ユーザーへのメッセージ表示については、ユーザー操作後に消去することが望ましい。その場合にはユーザーが操作を行った後には映像が視聴しやすいというメリットがある。また一定時間経過後についても同様に、ユーザーはすでにメッセージの情報を認識していると考え、メッセージを消去し、映像を視聴しやすい状態にすることがユーザーの利便性を高める。
上記で説明した実施例によれば、3D番組の開始部分について、事前にユーザーが3D視聴準備を完了できたり、3D番組の開始に間に合わない場合には記録再生機能を用いてユーザーが3D番組を視聴する準備が完了してから再度映像表示をさせたりするなど、より良い状態でユーザーが3D番組を視聴することが可能になる。また、ユーザーにとって望ましいと思われる表示方法(3D映像を視聴したい場合に3D映像表示、またはその逆)へ映像表示を自動的に切り替えるなど、ユーザーの利便性を高めることが可能になる。また、選局により3D番組へと切り替えた場合や、記録されている3D番組の再生開始時なども同様の効果が期待できる。
以上の説明においては、図10(a)で説明した3D番組詳細記述子をPMT(Program Map Table)やEIT(Event Information Table)などのテーブルに配置して伝送する例を説明した。これに替えて、またはこれに加えて、当該3D番組詳細記述子に含まれる情報を映像符号化時に映像とともに符号化するユーザデータ領域や付加情報領域に格納して伝送してもよい。この場合、これらの情報は番組の映像ES内に含まれることとなる。
格納する情報は、図10(b)で説明した3d_2d _type(3D/2D種別)情報や図11で説明した3d_method_type(3D方式種別)情報などが挙げられる。なお、格納する際には、3d_2d _type(3D/2D種別)情報と3d_method_type(3D方式種別)情報とは別情報でも良いが、3D映像か2D映像かの識別と、当該3D映像がどの3D方式であるかの識別とをあわせて識別する情報としてもよい。
具体的には、映像符号化方式がMPEG2方式である場合には、Picture header、Picture Coding Extensionに続くユーザデータ領域に上記の3D/2D種別情報や3D方式種別情報を含めて符号化を行えばよい。
また、映像符号化方式がH.264/AVC方式である場合には、アクセスユニットに含まれる付加情報(supplemental enhancement information)領域に上記の3D/2D種別情報や3D方式種別情報を含めて符号化を行えばよい。
このように、ES内の映像の符号化層において3D映像/2D映像の種別を表す情報や3D方式の種別を表す情報を伝送することにより、映像のフレーム(ピクチャー)単位での識別が可能になるという効果がある。
この場合、PMT(Program Map Table)に格納した場合よりも、短い単位で上記識別が可能となるため、送信される映像における3D映像/2D映像の切り替わりに対する受信機の応答速度を向上させることが可能となり、3D映像/2D映像切り替わり時に生じる可能性があるノイズなどをより抑えることが可能となる。
また、PMT(Program Map Table)には、上記3D番組詳細記述子を配置せず、映像符号化時に映像とともに符号化する映像符号化層に上記情報を格納する場合は、従来の2D放送の放送局で新たに2D/3D混在放送を開始する際に、例えば、放送局側は、図2の送信装置1におけるエンコード部12のみを新たに2D/3D混在放送に対応する構成とすればよく、管理情報付与部16で付加するPMT(Program Map Table)の構成を変更する必要がなく、より低コストに2D/3D混在放送を開始することが可能となる。
なお、映像符号化時に映像とともに符号化されるユーザデータ領域や付加情報領域などの所定領域に、3d_2d _type(3D/2D種別)情報や3d_method_type(3D方式種別)情報などの3D関連情報(特に3D/2Dを識別する情報)が格納されていない場合には、受信機は、当該映像は2D映像であると判断する構成にしてもよい。この場合、放送局は、2D映像については、符号化処理時にこれらの情報の格納を省略することも可能となり、放送における処理工数が低減できる。
以上の説明において、番組(イベント)単位、サービス単位で3D映像を識別する識別情報を配置する例として、コンポーネント記述子、コンポーネントグループ記述子、サービス記述子、サービスリスト記述子などの番組情報に含める例や、新たに3D番組詳細記述子を設ける例を説明した。また、これらの記述子をPMT、EIT[schedule basic/schedule extended/present/following]、NIT、SDTなどのテーブルに含めて伝送することとした。
ここで、さらに別の例として、図48に示すコンテント記述子(Content descriptor)に3D番組(イベント)の識別情報を配置する例を説明する。
図48は、番組情報の一つであるコンテント記述子の構造の一例を示す。コンテント記述子は、イベント(番組)のジャンルに関する情報を記述する。この記述子はEITに配置する。コンテント記述子には、イベント(番組)のジャンル情報のほか、番組特性を示す情報を記述できる。
コンテント記述子の構造は次の通りである。descriptor_tagは記述子自体を識別するための8ビットのフィールドで、この記述子がコンテント記述子と識別可能な値“0x54”が記載される。descriptor_lengthは8ビットのフィールドで、この記述子のサイズを記載している。
content_nibble_level_1(ジャンル1)は4ビットのフィールドで、コンテント識別の第一段階分類を表す。具体的には、番組ジャンルの大分類を記述する。番組特性を示す際には”0xE”を指定する。
content_nibble_level_2(ジャンル2)は4ビットのフィールドで、content_nibble_level_1(ジャンル1)より詳細なコンテント識別の第二段階分類を表す。具体的には、番組ジャンルの中分類を記述する。content_nibble_level1=”0xE”のときは、番組特性コード表の種類を記述する。
user_nibble(ユーザジャンル)は4ビットのフィールドで、content_nibble_level1=”0xE”としたときのみ、番組特性を記述する。その他の場合は、”0xFF”(未定義)とする。図48に示すようにuser_nibbleの4ビットのフィールドは二つ配置可能であり、当該二つのuser_nibbleの値の組合せ(以下、先に配置されるビットを「第1のuser_nibbleビット」、後に配置されるビットを「第2のuser_nibbleビット」と称する)により、番組特性を定義することができる。
当該コンテント記述子を受信した受信機は、descriptor_tagが“0x54”であれば、当該記述子はコンテント記述子と判断する。また、descriptor_lengthにより、本記述子で記述されるデータの終わりを判断できる。さらにdescriptor_lengthに示される長さ以下の部分の記述を有効と判断し、超えた部分の記述は無視して処理を行う。
また、受信機は、content_nibble_level_1の値が“0xE”か否かを判断し、“0xE”ではないときは、番組ジャンルの大分類であると判断する。“0xE”ではないときはジャンルとして判断せず、後続のuser_nibble で何らかの番組特性が指定されていると判断する。
受信機は、上記content_nibble_level_1の値が“0xE”でなかった場合には、content_nibble_level_2を番組ジャンルの中分類と判断し、番組ジャンルの大分類と共に、検索、表示等に利用する。上記content_nibble_level_1の値が“0xE”であった場合には、第1のuser_nibbleビットと第2のuser_nibbleビットの組合せにより定義される番組特性コード表の種類を示すと判断する。
受信機は、上記content_nibble_level_1の値が“0xE”である場合には、第1のuser_nibbleビット、第2のuser_nibbleビットを組合せにより番組特性を示すビットと判断する。上記content_nibble_level_1の値が“0xE”でない場合には、第1のuser_nibbleビット、第2のuser_nibbleビットにいかなる値が入っていても無視する。
よって、放送局は、当該コンテント記述子のcontent_nibble_level_1の値を“0xE”としない場合、content_nibble_level_1の値とcontent_nibble_level_2の値の組合せによって、受信機に対象イベント(番組)のジャンル情報を伝送することができる。
ここで、例えば、図49に示すように、content_nibble_level_1の値が“0x0”の場合、番組ジャンルの大分類を「ニュース/報道」と定義し、content_nibble_level_1の値が“0x0”であってcontent_nibble_level_2の値が”0x1”の場合を「天気」と定義し、content_nibble_level_1の値が“0x0”であってcontent_nibble_level_2の値が”0x2”の場合を「特集・ドキュメント」と定義し、content_nibble_level_1の値が“0x1”の場合、番組ジャンルの大分類を「スポーツ」と定義し、content_nibble_level_1の値が“0x1”であってcontent_nibble_level_2の値が”0x1”の場合を「野球」と定義し、content_nibble_level_1の値が“0x1”であってcontent_nibble_level_2の値が”0x2”の場合を「サッカー」と定義した場合について説明する。
この場合、受信機は、content_nibble_level_1の値により、番組ジャンルの大分類が「ニュース/報道」なのか「スポーツ」なのか判断することが可能となり、content_nibble_level_1の値とcontent_nibble_level_2の値の組合せにより、「ニュース/報道」や「スポーツ」などの番組ジャンルの大分類よりも下位の番組ジャンルである番組ジャンルの中分類まで判断することが可能となる。
なお、当該判断処理を実現するためには、受信機の有する記憶部にcontent_nibble_level_1の値とcontent_nibble_level_2の値の組合せと番組ジャンルの定義の対応関係を示すジャンルコード表情報を予め記憶しておけばよい。
ここで、当該コンテント記述子を用いて対象イベント(番組)の3D番組関連の番組特性情報を伝送する場合について説明する。以下では、3D番組の識別情報を番組ジャンルではなく番組特性として伝送する場合について説明する。
まず、コンテント記述子を用いて3D番組関連の番組特性情報を伝送する場合に、放送局は、コンテント記述子のcontent_nibble_level_1の値を“0xE”として伝送する。これにより、受信機は、当該コンテント記述子が伝送する情報が対象イベント(番組)のジャンル情報ではなく対象イベント(番組)の番組特性情報であると判断できる。また、これによりコンテント記述子に記述される第1のuser_nibbleビットと第2のuser_nibbleビットとがその組合せにより番組特性情報を示すものであると判断することができる。
ここで、例えば、図50に示すように、第1のuser_nibbleビットの値が“0x3”の場合、該コンテント記述子が伝送する対象イベント(番組)の番組特性情報が「3D番組関連の番組特性情報」であると定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x0”の場合の番組特性を「対象イベント(番組)に3D映像が含まれない」と定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x1”の場合の番組特性を「対象イベント(番組)の映像は3D映像である」と定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x2”の場合の番組特性を「対象イベント(番組)中に3D映像と2D映像とが含まれる」と定義した場合について説明する。
この場合、受信機は、第1のuser_nibbleビットの値と第2のuser_nibbleビットの値の組合せによって、対象イベント(番組)の3D番組関連の番組特性を判断可能となり、当該コンテント記述子が含まれるEITを受信した受信機は、電子番組表(EPG)表示において、将来受信するまたは現在受信している番組について「3D映像が含まれない」旨、当該番組について「3D映像番組である」旨、当該番組について「3D映像と2D映像とが含まれる」旨の説明の表示や、その旨を示す図形の表示を行うことが可能となる。
また、当該コンテント記述子が含まれるEITを受信した受信機は、3D映像が含まれない番組、3D映像が含まれる番組、3D映像と2D映像とが含まれる番組等の検索が可能となり、該当番組の一覧表示等を行うことが可能となる。
なお、当該判断処理を実現するためには、受信機の有する記憶部に第1のuser_nibbleビットの値と第2のuser_nibbleビットの値の組合せと番組特性の定義の対応関係を示す番組特性コード表情報を予め記憶しておけばよい。
また、3D番組関連の番組特性情報の別の定義例として、例えば、図51に示すように、第1のuser_nibbleビットの値が“0x3”の場合、該コンテント記述子が伝送する対象イベント(番組)の番組特性情報が「3D番組関連の番組特性情報」であると定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x0”の場合の番組特性を「対象イベント(番組)に3D映像が含まれない」と定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x1”の場合の番組特性を「対象イベント(番組)に3D映像が含まれ、その3D映像伝送方式がSide-by-Side方式である」と定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x2”の場合の番組特性を「対象イベント(番組)に3D映像が含まれ、その3D映像伝送方式がTop-and-Bottom方式である」と定義し、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x3”の場合の番組特性を「対象イベント(番組)に3D映像が含まれ、その3D映像伝送方式が3D2視点別ES伝送方式である」と定義した場合について説明する。
この場合、受信機は、第1のuser_nibbleビットの値と第2のuser_nibbleビットの値の組合せによって、対象イベント(番組)の3D番組関連の番組特性を判断可能となり、対象イベント(番組)に3D映像が含まれるかのみならず、3D映像が含まれる場合の3D伝送方式を判断することが可能となる。受信機が対応可能(3D再生可能)な3D伝送方式の情報を予め受信機が有する記憶部に記憶しておけば、受信機は、予め記憶部に記憶した当該対応(再生)可能な3D伝送方式の情報と、EITに含まれるコンテント記述子により判断した対象イベント(番組)の3D伝送方式の情報を比較することにより、電子番組表(EPG)表示において、将来受信するまたは現在受信している番組について「3D映像が含まれない」旨、当該番組について「3D映像が含まれ、本受信機で3D再生が可能である」旨、当該番組について「3D映像が含まれるが、本受信機で3D再生はできない」旨の説明の表示や、その旨を示す図形の表示を行うことが可能となる。
また、上記の例では、第1のuser_nibbleビットの値が“0x3”であって第2のuser_nibbleビットの値が“0x3”の場合の番組特性を「対象イベント(番組)に3D映像が含まれ、その3D映像伝送方式が3D2視点別ES伝送方式である」と定義したが、図47に示す「3D2視点別ES伝送方式」の詳細なストリーム組合せごとに第2のuser_nibbleビットの値を用意してもよい。このようにすれば、受信機においてさらに詳細な識別が可能となる。
また、対象イベント(番組)の3D伝送方式の情報を表示しても良い。
また、当該コンテント記述子が含まれるEITを受信した受信機は、3D映像が含まれない番組、3D映像が含まれ本受信機で3D再生可能な番組、3D映像が含まれるが本受信機で3D再生できない番組等の検索が可能となり、該当番組の一覧表示等を行うことが可能となる。
また、3D映像が含まれる番組について3D伝送方式ごとに番組検索も可能となり、3D伝送方式ごと番組の一覧表示を行うことも可能となる。なお、3D映像が含まれるが本受信機で3D再生できない番組の検索や3D伝送方式ごとの番組検索は、例えば、本受信機では3D再生できなくとも、利用者が有する他の3D映像番組再生機器において再生可能である場合に有効である。本受信機で3D再生できない3D映像が含まれる番組であっても、本受信機の映像出力部から他の3D映像番組再生機器に当該番組をトランスポートストリーム形式のまま出力して、3D映像番組再生機器で、受信したランスポートストリーム形式の番組を3D再生することも可能であり、また、本受信機にリムーバブルメディアへのコンテンツを記録する記録部があれば、リムーバブルメディアへ当該番組を記録して、上記他の3D映像番組再生機器で当該リムーバブルメディアに記録された上記番組を3D再生することも可能だからである。
なお、当該判断処理を実現するためには、受信機の有する記憶部に、第1のuser_nibbleビットの値と第2のuser_nibbleビットの値の組合せと番組特性の定義の対応関係を示す番組特性コード表情報と、受信機が対応可能(3D再生可能)な3D伝送方式の情報とを予め記憶しておけばよい。
<字幕データ送出の規定・運用について>
上記送信装置から伝送される3D映像番組に字幕データを重畳する場合には、その字幕データにも奥行き情報を付加することで3D表示に対応可能である。
例えば送出されるデータには以下の字幕・文字スーパーのサービスが行われる。すなわち、字幕のサービスとは、メインの映像・音声・データと同期した字幕サービス(例、訳字字幕など)であり、文字スーパーのサービスとは、メインの映像・音声・データと非同期な字幕サービス(例、速報ニュース、編成ことわり、時報、緊急地震速報など)である。
送信装置側でのストリーム作成時の編成・伝送上の制約としては、字幕、文字スーパーは例えば図3に示したストリーム形式種別の割り当てのうち、独立PES伝送方式(0x06)で伝送すること、また字幕および文字スーパーはそれぞれ別々のESで伝送される。またメインの映像データなどと同一PMTで同時刻に伝送され、字幕データを同一番組内または番組開始前に事前配信する事は行わないこと、また例えば、同時に伝送できる字幕・文字スーパーのES数はそれぞれ1ESづつ、計2ESとすること、また同時に同一階層(階層とは、放送の送受信においては、異なる変調方式を一度の送出で使用することが可能であり、各変調方式で送出される周波数帯とそこに重畳されるデータの集まりを階層と呼ぶ。)に伝送できる字幕・文字スーパーのES 数は、それぞれ1ESづつ、計2ESとする。また臨時編成チャンネル毎に、字幕ES数最大1、文字スーパーES数最大1とすること、また同時に伝送可能な言語は1ESあたり最大2言語までとし、言語識別(複数言語の字幕・文字スーパーを伝送する場合に言語を識別する番号)はES内の字幕管理データ(後述)により行うこと、また文字スーパーにおいては、ビットマップデータを使用することができること、また字幕においては、「受信時自動表示・記録再生時選択表示」、「受信時選択表示・記録再生時選択表示」(各表示手法については後述)のみ運用することができる。文字スーパーにおいては、「受信時自動表示・記録再生時自動表示」、「受信時自動表示・記録再生時選択表示」、「受信時選択表示・記録再生時選択表示」(各表示手法については後述)のみ運用することができる。複数言語を伝送する場合、それら言語の表示モード(後述)は同一とする。これに反して伝送した場合の受信機動作は、受信機実装に依存するが、自動表示が優先されること、また字幕・文字スーパーにおける警告音は、受信機内蔵音(複数の場面で共通に使用される音声データはあらかじめ受信装置4内のメモリ上に保持されている)に限り運用することができる。付加音(送信装置1から都度送付する効果音音声)は、字幕および文字スーパー共に運用を行わないこと、また対象地域の指定を行う場合は、PMTの対象地域記述子により制御する。ただし、字幕においては、字幕単独の対象地域を指定する運用は行わない。文字スーパーにおいては、文字スーパー単独の対象地域を指定する運用を行うことができる。この場合、対象地域の異なる文字スーパーは、時間をずらして伝送すること、また文字スーパーはイベント(当該の番組)との関連性がないためEITのデータコンテンツ記述子は記載しない。字幕の場合は1ESにつき1記述子を記載するものとする。ただし、パラメータがPMTのデータ符号化方式記述子および字幕管理データの設定と一致しない場合は、受信機動作において、表示モード、言語数、言語コードなど各パラメータは、PMTのデータ符号化方式記述子および字幕管理データの設定が優先されること、また字幕管理データには、字幕・文字スーパーを表示するための必要な情報が含まれるので、字幕管理データが受信されるまでの間字幕文の表示はできない。そこで、チャンネル選択時などを考慮し、通常の字幕・文字スーパー送出時、所定の間隔(例えば、最高送出頻度:1回/0.3 秒、最低送出頻度:1回/5.0 秒、ただし、CM(コマーシャルメッセージ)等で中断する場合がある)で字幕管理データを伝送すること、が挙げられる。
字幕で用いるPES伝送方式としては同期型PES伝送方式を適用し、PTSによりタイミング同期をとることとする。文字スーパーで用いるPES伝送方式としては非同期型PES伝送方式を適用する。
送信装置1から受信装置4に送信される、字幕のPESデータ形式の一例を図52に示し、字幕PESパケットに設定するパラメータを図53(a)に示す。文字スーパーについてもPESデータ形式は同様であり、文字スーパーPESパケットに設定するパラメータを図53(b)に示す。図52のPESヘッダ部分に図53のStream_idからPES_data_private_data_byteが該当し、データグループ部分にSyncronized_PES_data_byteが該当する。Stream_id, data_identifier, private_stream_idは図中に記載の規定値を使用することで受信機で字幕データ・文字スーパーデータの認識が可能である。データグループはデータグループヘッダとデータグループデータから成り、そのパラメータは図54に示す。図52のデータグループヘッダに図54のdata_group_idからdata_group_sizeフィールドが該当し、字幕データの種類やサイズを表す情報が含まれ、データグループデータにdata_group_data_byteが該当する。
図25の受信装置4では以上で示したデータ形式のPESデータを受信すると、多重分離部29においてStream_idやdata_identifierの値を見てデータを分類し、図には記載していないメモリ上にデータの種類ごとに展開する。
データグループデータは、字幕管理データおよび0または最大8言語の字幕文データにより伝送され、図55に、データグループヘッダに含まれるデータグループIDの取りえる値と意味を示す。この番号を参照することでデータグループデータが字幕管理データか字幕文データかを判断可能であり、また字幕文データの言語種別(日本語、英語、...など)を判断可能である。data_group_idは、字幕管理データの更新にともない、データグループを組Aから組B、組Bから組Aに切り換えて送出すること。ただし、字幕管理データを3分以上送出しない場合は、前の組に関わらず組A、組Bどちらかが送出される場合がある。data_group_versionは、運用しない。字幕管理データが組Aの時は、受信機は字幕文(本文、ビットマップデータ、DRCS)も組Aのみ処理し、字幕管理データが組Bの時は、受信機は字幕文も組Bのみ処理する。現在の受信済みの字幕管理データと同一組の字幕管理データを受信した場合は、再送された字幕管理データとして処理し、字幕管理データによる初期化動作は行わない。現在受信済みの字幕管理データと同一組の字幕文を複数回受信した場合、それぞれの字幕文を新規の字幕文として処理する。
字幕管理データは図56に示す情報からなり、設定情報などを伝送するのに用いられる。図56(a)は字幕における字幕管理データのパラメータを示している。
TMDは時刻制御モードを意味し、2ビットのフィールドによって受信再生時の時刻制御モードを示している。2ビットの値が’00’の場合、モード「フリー」を示し、再生時刻を時計に同期させる制限を設けない、ことを意味する。’01’の場合、モード「リアルタイム」を示し、再生時刻は時計信号(TDT)の時計較正により較正された時計の時刻に従う。または、再生時刻はPTSによる、ことを意味する。’10’の場合、モード「オフセットタイム」を示し、再生時刻にオフセット時刻を加えた時刻を新たな再生時刻とし、時計信号の時計較正により較正された時計に従い再生する、ことを意味する。’11’は予備の値であり、使用しない。
num_languages(言語数)は、この字幕・文字スーパーのES 中に含まれる言語の数を意味する。language_tag(言語識別)は、言語を識別する番号であり、0:第1言語、… 7:第8言語を意味する。
DMFは表示モードを意味し、4ビットのフィールドによって字幕文の表示モードを示している。表示モードは受信時および記録再生時の提示動作を各2ビットで表わしており、上位2ビットが受信時の提示動作を示す。’00’の場合、受信時自動表示を示す。’01’の場合、受信時自動非表示を示す。’10’の場合、受信時選択表示を示す。’11’の場合、受信時特定条件自動表示/非表示を示す。下位2ビットが記録再生時の提示動作を示し、’00’の場合、記録再生時自動表示を示す。’01’の場合、記録再生時自動非表示を示す。’10’の場合、記録再生時選択表示を示す。’11’の場合は未定義である。なお、表示モードが「特定条件自動表示/非表示」のときの、表示または非表示の条件の指定とは、例えば降雨減衰時のお断りメッセージ表示を指定する。各表示モードにおける表示開始、終了時の動作例は図67に示している。
ISO_639_language_code(言語コード)は、language_tag で識別される言語に対応する言語コードをISO639-2 に規定されるアルファベット3文字コードで表す。
format(表示書式)は、字幕表示画面の表示書式の初期状態を示す。例えば、水平1920画素、垂直1080画素の表示領域で横書き、水平960画素、垂直540画素の表示領域で縦書き、といった指定を行う。
TCS(文字符号化方式)は、文字符号化方式の種類を示す。例えば8単位符号での符号化を指定する。
data_unit_loop_length(データユニットループ長)は、後続のデータユニットの全バイト長を規定する。なお、データユニットを配置しない場合は、値を0とする。
data_unit()(データユニット)には、同一ES で送られる字幕番組全体で有効となるデータユニットが配置される。
字幕管理データの運用については、同一字幕管理データ内には、同一あるいは異なるデータユニットパラメータのデータユニットを複数配置できる。同一字幕管理データ内に複数のデータユニットが存在する場合は、データユニットの出現順に処理される。ただし、本文に記述できるデータは、SWF、SDF、SDP、SSM、SHS、SVS、SDDの制御符号(後述)だけであり、画面表示を伴うような文字符号集合は記述できない。
字幕で用いる字幕管理データについては、少なくとも3分に1回以上送出しなければならない。字幕管理データを3分以上未受信の場合は、受信機は選局時の初期化動作を行う。
文字スーパーで用いる字幕管理データについては、時報スーパーを考慮し、STM(時間制御用データTIMEで指定可能な提示開始時刻)による時刻同期を行うためにTMD にはフリーだけでなくリアルタイムの設定も可とする。字幕管理データを3分以上未受信の場合は、受信機は選局時の初期化動作を行う。文字スーパーで用いる字幕管理データに指定できるパラメータを図56(b)に示す。図56(b)で用いられるパラメータの定義は、図56(a)と同様であるため説明を省略する。
同一字幕文データ内に、同一あるいは異なるデータユニットパラメータのデータユニットを複数配置できる。同一字幕文データ内に複数のデータユニットが存在する場合は、データユニットの出現順に処理される。字幕文データに設定できるパラメータを図57 に示す。STM(提示開始時刻)は、後続の字幕文の提示開始時刻を示す。提示開始時刻は、9個の4ビット2進化10 進数(BCD)を用い、時、分、秒、ミリ秒の順で符号化する。なお、提示終了は文字符号部の符号による。
また、データユニットに設定できるパラメータを図58に示す。
unit_separator(データユニット分離符号)は、0x1F (固定値)とする。
data_unit_parameter(データユニットパラメータ)は、データユニットの種類を識別する。例えばデータユニットを本文と指定することで、機能として字幕文を構成する文字データの送出、字幕管理において表示領域など設定データの送出を表したり、ジオメトリックと指定してジオメトリック図形データの送出機能を表す。
data_unit_size(データユニットサイズ)は、後続のデータユニットデータのバイト数を示す。
data_unit_data_byte(データユニットデータ)に伝送するデータユニットデータを格納する。なお、DRCSとは外字の一種として扱われる図形データを示す。
図25の受信装置4においては、多重分離部29により展開された字幕データ(データグループヘッダおよびデータグループデータ)をシステム制御部51が読解する。データグループヘッダに含まれるデータグループIDの値により、データユニットデータの情報が字幕管理データであることを検出した際には、図56に示した字幕管理データの持つ各パラメータの値に応じて処理を行う。例えばTMD、DMFの値によってシステム制御部51から映像変換制御部61への字幕データ転送タイミングを設定する。TMDが「フリー」であり、受信時自動表示であれば、システム制御部51は以降、これらのデータが更新されるまでは字幕データを受信すると即座に映像変換制御部61へ字幕データを転送しても良い。また例えば、num_languagesやISO_639_language_codeの値から、字幕情報をユーザに通知するためにOSD作成部60に字幕データ数や識別された言語名をディスプレイ47に表示するように指示してもよい。また例えばFormatによって映像変換制御部61には字幕表示プレーンにおける字幕文字列(文字やグラフィックデータも含む)の描画位置を指定する。
またシステム制御部51は字幕データを読解し、データグループヘッダに含まれるデータグループIDの値から、データユニットデータの情報が字幕文データである場合には、図57に示すパラメータの値に応じて処理を行う。例えばSTMに示される時間に合わせて後続のデータユニットに含まれる字幕データを映像変換制御部61へ転送するようにする。またデータユニットを解析し、unit_separatorを検出すると直後のdata_unit_parameterの値によって後続のデータユニットデータのデータ種別を判断する。データユニットデータ内に後述する制御データを検出した場合には映像変換制御部61に字幕データの表示位置や装飾方法などを指示する制御を行う。データユニットデータから字幕文作成(詳細は後述)を行い、所定のタイミングでディスプレイ47に表示すべき字幕文を映像変換制御部61へ通知する。映像変換処理部32では、映像変換制御部61が、映像復号部30から出力される表示用映像データに、前記表示制御に基づいて決定される表示位置に文字列を重畳し、OSD作成部60で作成されるOSDデータと合成することでディスプレイ47に表示する映像を作成する。
次に、字幕・文字スーパーに関するPSI/SIの運用について説明する。
字幕ESのコンポーネントタグ値は、0x30〜0x37、文字スーパーESのコンポーネントタグ値は、0x38〜0x3F の範囲の値を設定する。ただし、字幕のデフォルトESのコンポーネントタグ値は0x30、文字スーパーのデフォルトESのコンポーネントタグ値は0x38 を設定する。
PMTの更新は、字幕および文字スーパーの開始・終了時にES情報の追加・削除を原則とするが、常時ES情報を記載しておく運用も可とする。
字幕・文字スーパーESのストリーム識別記述子(stream_type)は、0x06(独立PES_packet)である。図59(a)に字幕・文字スーパーに対するPMTおよびEITの記述子運用を示す。字幕伝送においては、EITのデータコンテンツ記述子は、1ESにつき1記述子を記述するものとする。ただし、速報スーパーなどのあらかじめ予定されていない応用においては、EITにデータコンテンツ記述子を挿入しない運用が許容されるとする。図59(a)に示したデータ符号化方式記述子のdata_component_idは、字幕、文字スーパーとも、0x0008である。付加情報識別に設定するパラメータを図59(b)に示す。字幕に対しては番組同期を示す値とする。文字スーパーに対しては非同期もしくは時刻同期を示す値とする。
図59(a)に示した対象地域記述子の運用はサービス全体の対象とする地域の情報を記述する。
図59(a)に示したデータコンテンツ記述子に設定できるパラメータは図59(c)および図59(d)に示す。ただし、同一イベント中に、これら設定パラメータ値がPMTのデータ符号化方式記述子および字幕管理データと不整合の場合は、データ符号化方式記述子および字幕管理データの設定値の方が優先される。data_component_idの値は0x0008とする。entry_componentの値は当該字幕ESのcomponent_tag 値とする。num_of_component_refの値は0を指定することとする。component_refの値はnum_of_component_ref=0 のため不要。ISO_639_language_codeの値は jpn(日本語)に固定とする。text_length 値の上限を16(バイト)とする。text_charの値はEPG に表示する字幕の内容を記述する。また、Num_languagesの値は字幕管理データと同じ値とする。DMFの値はデータ符号化方式記述子と同じ値とする。ISO_639_language_codeは字幕管理データと同じ値とする。
受信装置4では上記PSI情報のひとつであるPMTの内容を番組情報解析部54で解析し、例えばストリーム識別記述子の値が’0x06’であれば該当するPIDを持つTSパケットが字幕・文字スーパーデータであることが判別でき、以降そのPIDを示すパケットを分離するためのフィルタ設定を多重分離部29に設定する。これによって多重分離部29において字幕・文字スーパーデータのPESデータを抽出可能である。またデータ符号化方式記述子が含む設定パラメータであるTimingで示される値によりシステム制御部31および/または映像変換処理部61の字幕表示タイミングの設定を行う。文字スーパーの対象地域記述子の値は、予め適切な方法を用いてユーザーが設定していた受信地域情報と一致していない場合には、字幕表示のための一連の処理を行わないようにして良い。データコンテンツ記述子に含まれるtext_charからデータを検出すると、システム制御部51はEPG表示時のデータとして使用しても良い。データコンテンツ記述子のセレクタ領域の各設定パラメータについては字幕管理データにおいても同じ値が使用されるため、制御を行う必要はないが、システム制御部51で上述したような制御を行っても良い。
<表示領域>
以上の形式で送信装置1より送出されたデータを受信装置4で受信、表示する場合には例えば以下に示す表示形式に従う。例えば、表示書式として、960×540 と720×480 の、それぞれ横書、縦書などが使用できる。また、動画プレーン(映像復号部30で復号した後、表示用画像データを格納するメモリ領域)の解像度と字幕・文字スーパーの表示書式は動画プレーンの解像度に応じて決定し、動画プレーンが1920×1080の場合は字幕・文字スーパーの表示書式を960×540、動画プレーンが720×480の場合は字幕・文字スーパーの表示書式を720×480とし、それぞれ横書、縦書とする。720×480 時の表示は、映像のアスペクト比にかかわらず同一表示書式とし、アスペクト比を考慮した表示を行う場合は、送出側で補正することとする。
字幕、文字スーパーにつき、それぞれ、同時に設定できる表示領域は1つとする。また、表示領域は、ビットマップデータに対しても有効となる。表示領域の優先順位は、(1) 字幕文データの本文中で、SDF 及びSDP により指示された値、(2) 更新された字幕管理データの本文中で、SDF 及びSDP により指示された値、(3) 更新された字幕管理データヘッダで指定される表示書式を元にした初期値、である。字幕・文字スーパーにおいて用いる文字符号化方式は、8単位符号を用いるとする。また、字幕・文字スーパーにおいて用いる文字フォントは、丸ゴシックが望ましい。また、字幕・文字スーパーで表示できる文字サイズは、16ドット、20ドット、24ドット、30ドット、36ドットの5サイズとする。送出時の文字サイズの指定は、前記サイズを指定する。また、それぞれのサイズに対しては、標準、中型、小型サイズが使用できる。尚、標準、中型、小型の定義は例えば、標準は制御符号SSM により指定される大きさの文字、中型は標準より字方向の大きさのみが半分の大きさの文字、小型は標準より字方向および行方向の大きさがそれぞれ半分の大きさの文字とする。
<制御符号について>
字幕データの符号体系は8単位符号を基本とし、その符号体系を図60(a)に示し、拡張方法を図60(b)に示す。符号の拡張における符号の呼び出し(符号集合G0、G1、G2、およびG3 を8 単位符号表へ呼び出すこと)の制御の内容を図61(a)に示し、符号の指示(符号集合の集まりの中から一つの符号集合をG0、G1、G2、またはG3 集合として指示すること)の制御の内容を図61(b)に示し、符号集合の分類と終端符号を図61(c)に示す。各呼び出し制御、指示制御の符号化表現は図60(a)に示す符号体系における「列番号/行番号」で表現され、例えば実データが0x11であれば、上位4bitが列番号、下位4bitが行番号を示し、01/1と表現される。ESCについては図60(a)の字幕データの符号体系に示す01/11である。Fは図61(c)に示す終端符号のいずれかであり、この値によって呼び出される符号集合の種類を判定し、また一つの指示内容の終端であることを意味する。
漢字系集合、英数集合、平仮名集合、片仮名集合、およびモザイク集合の符号構成は、それぞれ2バイトもしくは1バイトのデータ列に任意の文字を割り付けているものである。JIS 互換漢字1 面集合はJIS X0213:2004 で示される漢字1 面、JIS 互換漢字2 面集合はJIS X0213:2004 で示される漢字2 面のとおりとする。追加記号集合は追加記号および追加漢字からなる。ノンスペーシング文字およびノンスペーシングモザイクは、例えば後続する符号により指定され、文字、モザイクまたはスペース等と合成して表示する。
外字符号に使用する符号は1バイト符号または2バイト符号とする。1バイト外字符号はDRCS-1 からDRCS-15 までの15集合とし、各集合は94字で構成される(2/1 から7/14 を使用する。列番号/行番号の表記方法において、列番号が1 桁で表記されている場合は、列番号はb7 からb5 の3ビットの2進値により示されるものとする)。
2バイト外字符号集合は、DRCS-0 の集合とする。DRCS-0 は2バイトで構成される符号表とする。
受信装置4では、字幕文として使用する符号集合(上述した漢字系集合、英数集合、平仮名集合、片仮名集合などの文字、また追加記号集合や外字など字幕として表示される符号全てを指す)を予め図には未記載のメモリ上に展開しておき、図60(a)に記載の符号体系に準じたメモリ領域および、図60(b)に示すG0からG3に相当するメモリ領域を確保しておく。システム制御部51は字幕文データを受信した順に先頭から文字列の読解を行い、その中に図61(b)に記した指示制御の符号化表現に相当するデータ列を検出すると、制御の内容に示した文字符号集合を指示先のメモリ領域に展開する。また字幕文データ中に図61Aに示す呼び出し制御の符号化表現に相当するデータ列を検出すると、該当する符号集合(G0からG3のいずれか)を呼び出し先(図60(a)に示すGL符号領域もしくはGR符号領域)のメモリ領域へ展開する。図61(a)に示す呼び出し形態がロッキングシフトの場合は、一度呼び出しを行うと次回別の符号集合の呼び出しを行うまで有効となる。シングルシフトはその直後に続く1文字のみ呼び出しを行い、呼出し後に以前の状態に戻す呼び出し方法である。字幕文データの制御コマンド以外のデータ(02/1〜07/14、 10/1〜15/14)はその時のGL符号領域もしくはGR符号領域に読み出された符号集合のその列番号/行番号に該当する文字を字幕文として使用することを意味する。映像変換制御部61は文字列表示用のメモリ領域(字幕表示プレーン)を確保し、字幕文データの数字列に応じて、02/1〜07/14および10/1〜15/14までの数字列を検出した場合には、以上の指示、呼び出し制御を経て、GL、GR符号領域にマッピングされている文字データを、表示用文字列データとする。システム制御部51は字幕文データを映像変換制御部61へ伝送し、映像変換制御部61は字幕表示プレーン上に表示文字列データを例えばビットマップデータとして描画する。またシステム制御部51が制御符号(とそのパラメータ)を検出した場合は、制御符号(とそのパラメータ)を映像変換制御部61へ伝送し、映像変換制御部61がそれに応じた処理を実行する。制御符号の使用方法の詳細は後述する。なお、字幕文データの伝送は必ずしも1文字ごとに行う必要はなく、例えば所定時間分蓄積してデータを纏めて伝送するといった方法でも良いし、所定サイズ分蓄積して纏めて伝送するといった方法でも良い。
この符号体系と運用によって、後述する制御指示と表示する文字の指定を同一字幕文データで行うことが出来、高頻度で使用される符号集合をG0からG3に予め呼び出しておくことで膨大な文字データの中から効率的に使用する文字を指定可能な仕組みとなっている。なお、システム初期化時のGL符号領域、GR符号領域、G0からG3の符合領域に設定される符号集合は予め規定されている。
マクロ符号集合は、文字符号(モザイク図形及びDRCS 図形表示の図形を含む)および制御符号から成る一連の符号列(以下「マクロ文」という)により代表して使用する機能(以下「マクロ定義」という)の符号集合をいう。マクロ定義は、図62(a)のマクロ指定により行う。マクロ符号は1 バイト符号とし、94 種(2/1 から7/14 を使用する)で構成される。マクロ符号を指定したとき、マクロ文の符号列の復号を実行する。マクロ定義を行わない場合は、図62(b)に示すデフォルトマクロ文による。
受信装置4は字幕文データを読解していきMACRO(09/5)を検出するとその直後に続くマクロ処理を行う。デフォルトマクロ文に示す高頻度で使用される呼び出しや指示制御を簡便に表現可能なようにマクロ符号が割り振られており、システム制御部51ではマクロ符号を検出した場合にはデフォルトマクロ文に示される制御を実行する。これにより複雑な字幕処理を短縮して表現することで字幕文データの削減を可能にしている。
字幕文データの本文の表示方法や表示形式を動的に制御する方法として、制御符号を字幕文データ中に挿入することが可能である。C0 、C1制御符号の符号の構成の一例を図63に示す。各制御符号は列番号/行番号の表記方法において、00/0から01/15をC0制御符号に、および08/0から09/15をC1制御符号に割り当てる。各制御符号集合で使用する制御符号の種類について図64で示す。本実施例では、字幕の奥行き表示位置を示す制御符号を新たに拡張制御符号に含める。新たに使用する制御符号の種類として、キャラクタ名称SDD、SDD2、SDD3、SDD4を用いて表現している。奥行き表示位置の指定方法は後述する。
C0制御符号の符号の機能の一例を以下に示す。
NULは「空白」の制御機能であり、情報内容に影響を与えることなく追加または削除できる制御符号である。APBは「動作位置後退」の制御機能であり、動作位置を表示区画の動作方向の長さで動作方向に沿って後退させる。この移動により表示区画の基準点が表示領域の端を越えることとなる場合、動作位置を動作方向に沿って表示領域の逆の端へ移動し、動作行後退を行う。APFは「動作位置前進」の制御機能であり、動作位置を表示区画の動作方向の長さで動作方向に沿って前進する。この移動により表示区画の基準点が表示領域の端を越えることとなる場合、動作位置を動作方向に沿って表示領域の逆の端へ移動し、動作行前進を行う。APDは「動作行前進」の制御機能であり、動作位置を表示区画の行方向の長さで行方向に沿って次の行へ移動する。この移動により表示区画の基準点が表示領域の端を越えることとなる場合、動作位置を行方向に沿って表示領域の最初の行へ移動する。APUは「動作行後退」の制御機能であり、動作位置を表示区画の行方向の長さで行方向に沿って前の行へ移動する。この移動により表示区画の基準点が表示領域の端を越えることとなる場合、動作位置を行方向に沿って表示領域の最後の行へ移動する。APRは「動作位置改行」の制御機能であり、動作位置を同じ行の最初の位置へ移動し、動作行前進を行う。PAPFは「指定動作位置前進」の制御機能であり、パラメータP1(1 バイト)により指定する回数の動作位置前進を行う。APSは「動作位置指定」の制御機能であり、動作位置を表示領域の最初の行の最初の位置から表示区画の行方向の長さで第1パラメタにより指定する回数の動作位置行前進を行い、表示区画の動作方向の長さで第2パラメタにより指定する回数の動作位置前進を行う。CSは「画面消去」の制御機能であり、表示画面の当該表示領域を消去状態とする。ESCは「エスケープ」の制御機能であり、符号系拡張のための符号。LS1は「ロッキングシフト1」の制御機能であり、文字符号集合の呼び出しのための符号である。LS0は「ロッキングシフト0」の制御機能であり、文字符号集合の呼び出しのための符号である。SS2は「シングルシフト2」の制御機能であり、文字符号集合の呼び出しのための符号である。SS3は「シングルシフト3」の制御機能であり、文字符号集合の呼び出しのための符号である。
C1制御符号の符号の機能の一例を以下に示す。
BKFは「前景色黒およびカラーマップ下位アドレス指定」の制御機能であり、前景色を黒に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。RDFは「前景色赤およびカラーマップ下位アドレス指定」の制御機能であり、前景色を赤に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。GRFは「前景色緑およびカラーマップ下位アドレス指定」の制御機能であり、前景色を緑に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。YLFは「前景色黄およびカラーマップ下位アドレス指定」の制御機能であり、前景色を黄色に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。BLFは「前景色青およびカラーマップ下位アドレス指定」の制御機能であり、前景色を青に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。MGFは「前景色マゼンタおよびカラーマップ下位アドレス指定」の制御機能であり、前景色をマゼンタに指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。CNFは「前景色シアンおよびカラーマップ下位アドレス指定」の制御機能であり、前景色をシアンに指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。WHFは「前景色白およびカラーマップ下位アドレス指定」の制御機能であり、前景色を白に指定するとともに、該当描画プレーンの着色値を規定するカラーマップ下位アドレス(CMLA)を0 に指定する。COLは「色指定」の制御機能であり、パラメータにより上記の前景色、背景色、前中間色、背中間色、およびカラーマップ下位アドレス(CMLA)を指定する。階調フォントにおける前景色と背景色の間の色を、前景色に近い色を前中間色、背景色に近い色を背中間色と定義する。POLは「パターン極性」の制御機能であり、本制御符号以降の符号が表す文字、モザイク等のパターンの極性(正常極性の場合は前景色と背景色をそのまま、反転極性の場合は前景色と背景色を反転させる)を指定する。なお、ノンスペーシング文字が含まれている場合は合成後のパターン極性を指定する。また、階調フォントにおける中間色については、前中間色は背中間色へ背中間色は前中間色への変換を行う。SSZは「小型サイズ」の制御機能であり、文字の大きさを小形とする。MSZは「中型サイズ」の制御機能であり、文字の大きさを中型とする。NSZは「標準サイズ」の制御機能であり、文字の大きさを標準とする。SZXは「指定サイズ」の制御機能であり、パラメータにより文字の大きさを指定する。FLCは「フラッシング制御」の制御機能であり、パラメータによりフラッシングの開始および終了、ならびに正相および逆相の別を指定すること。正相フラッシングは画面上最初に開始するフラッシングを言い、逆相フラッシングは明と滅の位相を正相フラッシングの逆にしたフラッシングを言う。WMMは「書き込みモード変更」の制御機能であり、パラメータにより表示メモリへの書き込みモードの変更を指定する。書き込みモードは前景色及び背景色として指定されている部分を書き込むモード、前景色として指定されている部分のみを書き込むモード、背景色として指定されている部分のみを書き込むモードなどがある。なお、階調フォントにおける中間色については、前中間色指定部分および背中間色指定部分を共に前景色として取り扱う。TIMEは「時間制御」の制御機能であり、パラメータにより時間の制御の指定を行う。指定の時間単位は0.1 秒とする。提示開始時刻(STM)、時刻制御モード(TMD)、再生時刻(DTM)、オフセット時間( OTM)、演奏時間( PTM )は使用しない。表示終了時刻( ETM )を使用する。MACROは「マクロ指定」の制御機能であり、パラメータP1(1 バイト)によりマクロ定義開始、マクロ定義のモードおよびマクロ定義終了を指定する。RPCは「文字繰り返し」の制御機能であり、この符号に続く表示上の一つの文字またはモザイクをパラメータにより指定する回数繰り返し表示する。STLは「アンダーライン開始およびモザイク分離開始」の制御機能であり、この符号以降の表示においてモザイクAおよびBの場合は合成を行わず、ノンスペーシングおよび合成制御による合成中にモザイクが含まれる場合は合成後、分離化処理(モザイク素片を表示区画の横方向1/2 縦方向1/3 の大きさの小素片に区分し、それぞれの周辺部に間隔を設ける処理)を行う。その他の場合は、アンダーラインを付加する。SPLは「アンダーライン終了およびモザイク分離終了」の制御機能であり、この符号によりアンダーライン付加およびモザイク分離化処理を終了する。HLCは「囲み制御」の制御機能であり、パラメータにより囲み開始及び終了を指定すること。CSIは「コントロールシーケンスイントロデューサ」の制御機能であり、符号系拡張のための符号である。
拡張制御符号(CSI)の符号の機能の一例を以下に示す。
SWFは「書式設定」の制御符号であり、パラメータにより初期化を選択し、初期化動作を行う。初期値として標準密度の横書きや、高密度の縦書きといった書式指定、また文字サイズの指定、一行の文字数、行数の指定を行う。RCSは「ラスタ色制御」の制御符号であり、パラメータによりラスタ色を設定する。ACPSは「動作位置座標指定」の制御符号であり、パラメータにより、文字表示区画の動作位置基準点を論理プレーンの左上角からの座標として指定する。SDFは「表示構成ドット指定」の制御符号であり、パラメータにより、表示ドット数を指定する。SDPは「表示位置指定」の制御符号であり、パラメータにより、文字画面の表示位置を左上角の位置座標で指定する。SSMは「文字構成ドット指定」の制御符号であり、パラメータにより、文字ドットを指定する。SHSは「字間隔指定」の制御符号であり、パラメータにより、表示区画の動作方向の長さを指定する。これにより、動作位置移動はデザイン枠に字間隔を加えた長さが単位となる。SVSは「行間隔指定」の制御符号であり、パラメータにより、表示区画の行方向の長さを指定する。これにより、動作行移動はデザイン枠に行間隔を加えた長さが単位となる。GSMは「文字変形」の制御符号であり、パラメータにより、文字の変形を指定する。GAAは「着色区画」の制御符号であり、パラメータにより、文字の着色区画を指定する。TCCは「切替制御」の制御符号であり、パラメータにより字幕の切替モード、字幕の切替方向、字幕の切替時間を指定する。CFSは「文字フォント設定」の制御符号であり、パラメータにより、文字のフォントを指定する。ORNは「文字飾り指定」の制御符号であり、パラメータより文字飾り(縁取り、影付き、中抜きなど)の指定、文字飾り色を指定する。MDFは「字体指定」の制御符号であり、パラメータにより字体(太字、斜体、太字斜体など)を指定する。XCSは「外字代替符号」の制御符号であり、DRCS または第3 水準、第4 水準文字表示不能時に、差し替えて表示する符号列を定義する。PRAは「内蔵音再生」の制御符号であり、パラメータにより指定する内蔵音を再生する。SRCは「ラスタ指定」の制御符号であり、パラメータによりスーパー表示の指定とラスタ色を指定する。CCCは「合成制御」の制御符号であり、パラメータにより文字およびモザイクパターンの合成制御を指示する。SCRは「スクロール指定」の制御符号であり、パラメータにより字幕のスクロールモード(字方向・行方向の指定およびロールアウトあり・無しの指定)、スクロール速度を指定する。UEDは「不可視データ埋め込み制御」の制御符号であり、字幕の文字列に意味的な内容を付加するなどの目的のため、通常の字幕提示系では表示されない不可視データ符号列の埋め込みを行う。本制御符号では、この不可視データ符号列を指定するとともに、不可視データがリンクする字幕表示文字列を指定する。SDD、SDD2、SDD3、SDD4については後述する。
C0,C1制御符号の符号シーケンスは、制御符号の直後にパラメータが配置される。拡張制御符号の符号シーケンスは、制御符号(09/11 = CSI)、パラメータ、中間文字、終端文字の順に配置される。パラメータが複数にわたる場合、パラメータと中間文字を繰り返す。
受信装置4では、字幕文データを入力順に解析をしていき、C0、C1制御符号を示すデータ列を検出した場合、図64に記した各制御符号に応じた制御内容の処理を行う。例えば、字幕文データ中で01/6を検出した場合、これはPAPF(指定動作位置前進)を意味し、直後の数値が例えば04/1の場合、パラメータ値は1を示し、すなわち映像変換制御部61は字幕表示プレーン上の描画位置を1文字分水平方向に前進させることとする。拡張制御符号(CSI)を検出した場合、後続のデータで終端文字が検出されるまでを一セットとしてデータを処理し、終端文字によって制御機能を判別し、その間の各パラメータ値に基づいて制御内容を実行する。
拡張制御で一度指定された内容は再度同種の拡張制御で異なる値が指定されるか、字幕表示の初期化動作が行われるまで継続して表示内容に反映される。例えば、文字構成ドット指定を行う場合、09/11(CSI)を検出してから、以降05/7(F(終端文字))までを読み込み、その間が例えば09/11から03/11(I1(中間文字))までの間がパラメータP1であり、例えば03/5、 03/0であれば横方向のドット数の指定は「50」となる。同様に03/11から02/0(I2(中間文字))までの間がパラメータP2であり、例えば03/4、03/0であれば縦方向のドット数の指定は「40」となる。それ以降の字幕文データの符号列で表示文字列データを横50ドット、縦40ドットのサイズに変換して字幕表示プレーン上に描画し、以降再度文字構成ドット指定を行うか、初期化がされるまではこのドット数で表記を行う。他の制御機能についても同様に処理して任意の制御を行う。
C0制御符号は主に動作位置の制御や文字符号集合の呼び出し(文字符号は分割された集合として纏められており、字幕に文字を表示するためには一旦その文字が含まれる集合を指定する必要がある。このような制御は例えば装置では集合の呼び出しを指示されるとその集合の文字データを決められたメモリ上に展開するなどの制御を行い、有効にメモリ領域を利用可能とするなどの利点がある。)のための符号が含まれる。C1制御符号には主に文字色や文字サイズの指定、フラッシング、囲み制御といった制御が含まれる。拡張制御符号にはC0、C1制御符号に含まれない詳細な制御を含んでいる。この拡張制御符号中に字幕を3D表示するための奥行き表示位置指定用の制御符号を含む。
字幕データを3D表示を行うための制御符号の例を図65に示す。
「奥行き表示位置指定」の制御機能を有するキャラクタ「SDD」を新たに設定する。制御内容は例えばCSI(コントロールシーケンスイントロデューサ)の値に続いて、奥行き表示位置を3D表示のための2視点の字幕データの視差情報によって指定する。すなわち、2視点映像の右目用画像に表示する字幕データと、左目用画像に表示する字幕データとの水平方向の表示位置の差異を指定する。制御内容中のCSI情報に続けて、P11・・P1iで左右の水平方向の表示位置の差異をドット数で指定する値を設定し、その後に02/0(中間文字I1)および06/13(終端文字F)を続けてデータを構成する。なお終端文字Fの指定値はその他の制御符号と一致しない値であれば任意の値で良く、本例に限らない。
受信装置4では、3D番組に字幕を重畳する場合、表示映像が右目表示領域と左目表示領域との2つが用意されるのと同様に、字幕表示プレーンも右目表示領域用プレーンと左目表示領域用プレーンの2つを用意し、夫々のプレーンに視差が生じるように同一表示文字列データを描画する。この時字幕表示プレーンの奥行き情報は表示映像の奥行き設定を基準とした値とすればよい。すなわち、図69(a)におけるディスプレイ47上で右目用データと左目用データが同一の場所に表示される状態(視差0の位置、2D表示時の指定位置とも表現する)を基準とする。そして上記字幕データの奥行き表示位置設定値を指定する場合、映像変換制御部61では右目用映像と左目用映像共に重畳する文字列データは設定値の1/2のドット数だけ、字幕データが飛び出す方向に字幕表示位置を調整する。例えば、設定値が奇数値であった場合には、小数点以下の値は切り捨てて算出する。奥行きを表現する具体的な方法としては、右目用表示文字列データは水平方向左、左目用表示文字列データは水平方向右にずらす調整を行えばよい。これにより、図69(a)で示すように視線が交差することによって映像が画面から飛び出す感覚が得られる。例えば奥行き表示位置設定値が03/4、03/0となり40を示している場合、右目用映像に重畳する表示文字列データは右目用字幕表示プレーンの基準表示位置(2D表示する場合の表示位置であり、拡張制御符号SDPで指定されても良い)より20ドット左方向に描画し、左目用字幕表示プレーンの基準表示位置より20ドット右方向に描画する。以上の方法によって表示する文字列は前面に飛び出して見え、ユーザーは3D映像表示に合わせて字幕を視聴することが出来る。
また、制御内容におけるパラメータP1による指定の別の例としては、所定の正数値で基準位置での表示となるように指定しても良い。例えば、P1が30とした場合を基準面(2D表示する場合の表示位置)での表示としてもよい。具体的には、30未満の値を指定した場合には指定値と所定の整数値である30との差に応じて右目用表示文字列データは水平方向右、左目用表示文字列データは水平方向左に調整を行う。30より大きな値を設定した場合には、指定値と所定の整数値である30との差に応じて右目用表示文字列データは水平方向左、左目用表示文字列データは水平方向右に調整を行う。このようにすることでも基準面から飛び出す表現だけでなく、基準面より奥へ引っ込む表現が可能になる。
また、より臨場感を高めるために、奥行き表示位置設定に合わせて、文字構成ドット指定を行っても良い。すなわち字幕データを基準より前面に表示する場合には文字ドットの指定で通常の表示サイズよりも大きなサイズにして表示してもよい。これによりユーザーが字幕データの表示に際して臨場感を得ることが出来る。また、基準より後ろに表示する場合には、文字ドットの指定で通常の表示サイズよりも小さいサイズにして表示してもよい。
なお、受信装置4が、3D映像の視差量を調整する機能を搭載している場合、ユーザー操作により入力される調整信号に応じて、映像表示、字幕表示共に表示位置を水平方向にドット単位で調整しても良い。 次に、上述のキャラクタ「SDD」とは異なる奥行き表示位置の別の指定方法について説明する。例えば、「奥行き表示位置指定」の制御機能を有する、キャラクタ「SDD2」を新たに設定する。「SDD2」による制御では、例えば、表示ディスプレイで実行可能な奥行きの最前面を基準とする奥行き方向の座標指定を行うこととする。制御内容中のCSI情報に続けて、P11・・P1iで、最前面基準の奥行き表示位置を指定する値を設定し、その後に中間文字I1および終端文字Fを続けてデータを構成する。設定値を例えば最大100まで設定可能とした場合に、P11・・P1iでは0から100の任意の値を設定すると、受信装置4では映像変換処理部32で設定可能な奥行き指定幅を奥行き表示位置指定値で指定された値/設定可能な最大値(100)で割合を求め、その割合に応じて右目用、左目用各表示文字列データの水平方向表示位置を調整して字幕表示を実施する。ユーザーからはすなわち設定値が0の場合、ディスプレイ47上では最も手前に飛び出すように見え、100を指定することで最も奥に引っ込んで見える。指定の基準は逆に最も奥を0とするようにしても同様の実施方法と効果が得られる。
また、奥行き表示位置のさらに別の指定方法について説明する。「奥行き表示位置指定」の制御機能を有する、キャラクタ「SDD3」を新たに設定する。「SDD3」による制御では、字幕表示プレーンの基準とする奥行き表示位置(基準面の奥行き)からの相対で指定する設定値による指定を行う。制御内容中のCSI情報に続けて、P11・・P1iで基準面からの相対的な奥行き表示位置を指定する値を設定し、その後に中間文字I1および終端文字Fを続けてデータを構成する。設定値の指定方法は例えば上述した奥行きの最前面を基準とした場合と同様に割合を指定する。表示装置4では指定の割合に応じて右目用、左目用各表示文字列データの水平方向表示位置を調整することで字幕表示を行う。例えば、設定値が0の場合、図69(a)におけるディスプレイ47上で右目用データと左目用データが同一の場所に表示される状態(視差0の位置、2D表示時の指定位置とも表現する)を示す。また、設定値が100の場合、映像変換処理部32で設定可能な最大視差を設けることで最前面での表示とし、中間の数値の場合は視差0の位置と最大視差の位置を100分割した割合に応じた視差量を設けることを示す。
また、奥行き表示位置のさらに別の指定方法について説明する。「奥行き表示位置指定」の制御機能を有する、キャラクタ「SDD4」を新たに設定する。「SDD4」による制御では、2視点の字幕データ夫々についての視差情報による指定として行う。すなわち、2視点映像の右目用画像に表示する字幕データ、左目用画像に表示する字幕データの夫々に対して、SDPで指定する表示位置からさらに水平方向に何画素ずらして字幕データ表示を行うかを指定する。制御内容中のCSI情報に続けて、P11・・P1iで右目用映像に表示する字幕データについての、SDPで指定する表示位置からの水平方向の移動量をドット数で指定する値を設定し、その後に中間文字I1を続ける。さらに、続けてP21・・P2jで左目用映像に載せる字幕データのSDPで指定する表示位置からの水平方向の移動量をドット数で指定する値を設定し、その後に中間文字I2および終端文字Fを続けてデータを構成する。表示装置4では指定値に応じて右目用表示文字列データは水平方向左、左目用表示文字列データは水平方向右に調整を行う。例えば右目用表示データの視差設定値が03/2、03/0となり20を示し、左目用表示データの視差設定値が03/2、03/0となり20を示している場合、右目用映像に重畳する表示文字列データは右目用字幕表示プレーンの基準表示位置(2D表示する場合の表示位置であり、拡張制御符号SDPで指定されても良い)より20ドット左方向に表示し、左目用字幕表示プレーンの基準表示位置より20ドット右方向に表示する。以上で示した方法によっても表示する文字列に奥行きを付加でき、ユーザーは3D映像表示に合わせて字幕を視聴することが出来る。
なおこの時の制御内容はパラメータP1、P2により例えばSDPに依存しない夫々の表示位置を位置座標による絶対位置指定としても良い。そのようにすることで、受信装置4では視差0の位置から奥への表現も可能となる。その場合、制御符号の運用としてSDPとの併用を行わないとしても良い。また、制御内容をパラメータP1、P2による指定において、所定の正数値で視差0の位置での表示となるように設定しても良い。例えば、所定の整数値を30として、P1およびP2が30の場合に基準面(2D表示する場合の表示位置)での表示を指定するように構成してもよい。この場合、所定の整数値である30未満の値を指定した場合には、指定値に応じて右目用表示文字列データは水平方向右、左目用表示文字列データは水平方向左に調整を行う。所定の整数値である30より大きな値を設定した場合に指定値に応じて右目用表示文字列データは水平方向左、左目用表示文字列データは水平方向右に調整を行う。このようにすることでも基準面から奥への表現が可能になる。
また、この時の制御内容はパラメータP1、P2による2視点の指定順序を逆(パラメータP1で左目用字幕データに対する指定、パラメータP2で右目用字幕データに対する指定)としても良い。
以上の複数の奥行き表示位置指定の制御符号のうちいずれか一つを選択して送信装置1から出力することで、対応可能な受信装置4では字幕の3D表示が実現可能である。また、複数の奥行き表示位置指定の制御符号を用いて送信装置1から出力してもよい。一度に複数の奥行き表示位置指定の制御符号を用いた場合には、例えば受信装置4が最後に受信した奥行き表示位置指定の制御符号により字幕の表示位置を決定してもよい。または、送信装置1から送信される複数の奥行き表示位置指定の制御符号のうち、受信装置4で対応可能な奥行き表示位置指定方法に対応する制御符号を検出して字幕の表示位置を決定してもよい。
以上で述べたように 字幕で使用する制御符号は図64、図65で説明したとおりであるが、図66には、送信装置1における、拡張制御符号の制限の一例を示す。奥行き表示位置指定の拡張制御符号SDDの制限は以下のとおりである。使用の可否は使用可能とし、その他の制限事項として、後述する表示画面の初期化動作以降、ビットマップの表示および表示動作を伴う文字、制御符号の出現前のみ指示可能とする運用としてもよい。このような制約を設けることで受信装置4では奥行き表示位置指定以外の表示位置指定や表示構成ドット指定などと同様の制御シーケンスを構築可能である。例えば、SDD2,SDD3,SDD4の制限も同様に設ければよい。
以上説明した本実施例の制御符号を用いることにより、奥行き表示位置・視差情報を表示画面の初期化動作毎に位置指定が可能であるため、任意の文字数毎に変更することが可能である。例えば表示する字幕データ1行ごとに指定することも可能であるし、勿論、初期化動作は行の途中でも組み込むことが可能なため、表示する字幕データ1文字ごとでも位置指定可能である。受信装置4は、以上説明した制御符号を読み取り、制御符号の制御内容が有効な範囲の字幕データについて指定された奥行きを実現するための右目用・左目用映像夫々の表示位置を計算し字幕データを映像データに重ね合わせる。
また、奥行き表示位置指定の制御符号で伝送する制御内容として、番組内で設定可能な奥行きの最前面の表示位置を表す奥行き情報を伝送するようにしても良い。例えば、映像制作時に,左右の視差量が最大20画素までずれる、ということが判明していれば、送信装置1では送信時にSDDの左右視差の設定値を常に20に設定する。そうすることで受信装置4では3D表示時にこの設定値20を使用して常に表示映像の最前面に字幕を表示して違和感の無い映像を表示することが可能である。例えば、受信装置4で3D表示効果の強弱を調整する機能を含む場合には、視差のデフォルト値として20という値を使用し、ユーザからの強弱の指定が行われた場合には映像データの視差量と同じく変動をさせればよい。
また、以上の構成に基づけば、例えば3D番組表示に対応していない受信装置の場合は、この拡張制御情報を無視することで2D画面上に字幕データの表示が可能であり、旧来の機種が誤動作しないデータ構成としている。
3D番組において字幕文データで上記奥行き表示位置指定が行われていない場合、受信装置4は字幕データの表示を視差が無い状態で実施するか、映像変換処理部32で設定可能な最前面で表現するといった方法が実施可能である。
なお本実施例では3D表示を行う制御符号を拡張制御符号の一部として記載したが、別の制御符号(C0、C1制御符号)に含めて実現しても良いし、キャラクタ名称は本実施例以外の表現でも良い。奥行き表示位置指定の制御符号をC0制御符号やC1制御符号に適用した場合、図64にて示した制御符号の範囲、図66にて示した運用制限における奥行き位置指定情報の記載場所も適宜変更される。
<その他の送信動作の制限>
送信装置1における字幕データの送信動作について、例えば、奥行き表示位置指定情報は対象となる番組が3D映像を含む場合のみ有効な制御とするため、送信動作の制限として、奥行き表示位置指定はコンテント記述子などが示す番組特性が「対象イベント(番組)の映像は3D映像である」もしくは「対象イベント(番組)中に3D映像と2D映像が含まれる」場合のみ送信可能である、といった制限を設けてもよい。
また、放送における字幕データについては、例えばフラッシング(点滅)やアンダーライン、スクロールなどの多彩な文字装飾などの表現方法が設定可能である。字幕データの3D表示において、ユーザーの3D番組視聴の疲労・負担を考慮してこれらの文字装飾の手法と奥行きを使用する表示の組み合わせに制限を設けても良い。例えば、字幕データの3D表示を行う際のフラッシングの制限事項として、フラッシング色数は、フラッシングしない文字及びビットマップデータの共通固定色の128 色とは別に、8単位符号文字列のフラッシング用に同時に合計24色(4階調フォントの中間色も含む)まで指定できるものとする。ビットマップデータのフラッシング用に同時に合計16色まで指定できるものとする。字幕では同時に合計24色(文字用24色)を共通固定色の128 色から任意に指定ができるとする。文字スーパーでは同時に合計40色(文字用24色+ビットマップデータ用16色)を共通固定色の128 色から任意に指定ができるとする。またフラッシングは正相のみとする。また縁取り指定との混在は禁止する。またスクロール指定との混在は禁止する。フラッシング色数は、フラッシングしない文字及びビットマップデータの共通固定色の128色とは別に、8単位符号文字列のフラッシング用に同時に合計24色(4階調フォントの中間色も含む)まで指定できるものとする。ビットマップデータのフラッシング用に同時に合計16色まで指定できるものとする。字幕では同時に合計24色(文字用24色)を、共通固定色の128色から任意に指定ができるとする。文字スーパーでは同時に合計40色(文字用24色+ビットマップデータ用16色)を、共通固定色の128色から任意に指定ができるとする。またフラッシングは正相のみとする。また縁取り指定との混在は禁止する。またスクロール指定との混在は禁止する。また奥行き表示位置指定との混在は禁止する。
あるいは、字幕データの3D表示を行う際のスクロール指定(SCR)の運用での制限事項の例を以下に示す。
同一本文内にSCRを複数回指示する事を禁止する。スクロールを行なう場合には、SDFにより1行分の表示領域を指定した異なるデータユニット(本文)として伝送する。スクロール指定時の受信機動作として、スクロールは、SDFおよびSDPで指定された矩形領域内で行われ、矩形領域外への描画は行わない。また表示領域の最初の行の右側に1文字分(指定されているサイズ)の仮想領域が存在するものとし、スクロール指定(SCR)が指定された時点で、動作位置は仮想書込領域に再設定する。またスクロール指定以前に表示領域に書かれていた文字は、スクロール指定以後消去する。また最初の文字から表示領域の右端より表示する。またスクロールの開始は、仮想書込領域に文字が書き込まれることにより始める。またロールアウトなしの場合は、最終文字を表示後、スクロールを停止する。またロールアウトありの場合は、画面上から文字がなくなるまでスクロールを継続する。またスクロール中に次の表示すべきデータを受信した場合は、スクロール終了まで待つ。またスクロールの指示開始からスクロール終了までに指定される字間値、行間値が、表示区画の最大値を超える場合、スクロール表示は受信機実装に依存する。また奥行き表示位置指定との混在は禁止する。
同様に、文字装飾手法(極性反転、ラスタ色制御、囲み、アンダーライン、縁取り、影付き、太字、斜体、など)の指定についても、奥行き表示位置指定との混在は禁止する、などの制限を設けてもよい。
<受信装置の動作例>
以下、送信装置1から送信された字幕データを含むコンテンツを、受信装置4が受信した際の動作例について説明する。
<字幕初期化動作>
初期化動作について、受信装置4は、受信した字幕管理データのデータグループが組Aから組Bへ切り替わった時、または組Bから組Aへ切り替わった時、更新時の字幕管理に対する初期化動作を行う。このとき、表示領域および表示位置は、所定の初期値になり、奥行き表示位置も制御符号で指定していたそれまでの指定値を解除して良い。字幕データの奥行き表示位置指定の当該初期値については、例えば図69(a)におけるディスプレイ47上で右目用データと左目用データが同一の場所に表示される状態(視差0の位置、2D表示時の指定位置とも表現する)とする。
初期化を実行するタイミングは例えば以下に示す時とする。
字幕文による初期化として、受信装置4は、提示処理中のデータグループ組、言語と同一の字幕文データ受信時に初期化動作を行う。すなわち字幕PESデータのデータグループヘッダに含まれるID値を検出して初期化動作を実行する。
また、本文データユニットによる初期化として、受信装置4は、提示処理中のデータグループ組、言語と同一の字幕文データ受信時に、字幕文データに本文データユニットが含まれているとき、本文データユニットの受信機提示処理の直前に初期化動作を行う。すなわち、データユニット単位で初期化動作を実行する。
また、文字制御符号による初期化として、受信装置4は、画面消去(CS)および書式選択(SWF)の受信機実行処理の直前に当該初期化動作を行う。この制御符号は任意の位置に挿入することが可能であるため、任意の文字単位で初期化動作を実行可能である。
以上のことはすなわち、初期化のたびに奥行き表示位置指定を行うことで、任意のタイミングで字幕データの奥行き表示位置の変更が可能である。
<受信装置の字幕データ受信制御例>
受信装置4での動作として例えば、字幕・文字スーパーの同時に表示できる数は、字幕1つと文字スーパー1つの計2つとしてもよい。また受信装置4は、字幕と文字スーパーの提示制御は、独立して制御するように構成する。また、受信装置4は原則として字幕と文字スーパーは、表示領域が重ならないように制御する。但し、もし表示が重ならざるを得ない場合は、文字スーパーを優先して字幕より手前に表示する。また字幕・文字スーパーそれぞれにおいて、ビットマップデータと本文、あるいはビットマップデータ同士が重なった場合は、後書き優先とする。またデータ放送番組における字幕・文字スーパーの表示サイズおよび位置は、全画面領域を基準として表示する。また受信装置4は、字幕管理データ受信の有無で、字幕データの送出の有無を判定する。字幕受信を視聴者に知らせるマークの表示や、字幕の表示、消去は、主に、該字幕管理データを基準として行う。CM間などでの該字幕管理データの送出中断を鑑み、3 分以上の字幕管理データ未受信でタイムアウト処理を行ってもよい。なお、字幕管理データについてEIT データなど他のデータと連携した表示制御を行ってもよい。
字幕・文字スーパーの表示開始、終了時の受信装置4の動作は図67に示す。但し、開始とは「字幕文で指定された字幕表示の開始」、終了とは「字幕文の消去」のことを指す。受信装置4は、図56(a)で説明した字幕管理データ内のDMFに従って、図67に示すように、字幕文で指定された字幕表示の開始と、字幕文の消去を行う。字幕データが付与された3D番組を受信し、3Dで映像および字幕データを表示する場合にも受信装置4は当該DMFに従う。例えば、受信時自動表示であれば、システム制御部51は上述した奥行き表示位置指定に基づいた字幕データの表示を行う。受信時自動非表示であれば、開始時に字幕データを表示しない。受信時選択表示であれば、ユーザーの選択によって表示・消去を行う。
次に、受信装置4における字幕・文字スーパーの設定に関する動作としては、以下の動作を行ってもよい。例えば、受信装置4は、直前にユーザー操作入力を介して選択された言語の字幕および文字スーパーを表示する。例えば、番組視聴中に第2言語の字幕が、ユーザー操作入力を介して選択された場合、別の字幕付番組が開始された時に、第2言語を表示する。また受信機出荷時の初期設定では、第1言語を表示する。また日本語、英語などの言語コードの設定が可能な受信機は、設定された言語コードの字幕・文字スーパーを表示する。また受信機に設定されている言語あるいは言語コードの字幕・文字スーパーが送出されていない場合は、受信機は第1言語の字幕・文字スーパーを表示する。
受信装置4で上述した字幕データと3D表示用映像を含んだストリームを受信し、3Dで表示される映像データに重畳する際の制御手順を図68を用いて説明する。放送波を受信した場合、S6801ではチューナ23、デスクランブラ24を経て、多重分離部29で字幕データを分離して図25には図示していない揮発性メモリ上に記憶し、S6802へ進む。S6802ではメモリ上に記憶された字幕文データをCPU21のシステム制御部51が読み出し、CPU21の映像変換制御部61で字幕文データの解析を行い、制御符号の判別を行い、S6803へ進む。この際の字幕データの処理については上述した字幕データについての動作を行えばよい。S6803では3D映像コンテンツ中の奥行き表示位置指定情報の有無を判別し、該奥行き表示位置指定情報がある場合にはS6804へ進み、無い場合にはS6805へ進む。S6804では右目用表示文字列データと、左目用表示文字列データとを各字幕表示用プレーンに描画する。このとき、CPU21の映像変換制御部61による奥行き表示位置指定情報の解析結果に応じて、右目用表示文字列データと左目用表示文字列データの描画位置を決定する。描画後にS6806へ進む。S6805では奥行き表示位置の指定が無いため、映像変換制御部61では、予め図示しないメモリに格納しておいた、標準の奥行き(視差)情報から求められる描画位置を用いて、右目用文字列データと、左目用表示文字列データとを各字幕表示用プレーンに描画する。標準の奥行き(視差)情報は、所定の情報を予め定めておき、図示しないメモリに格納しておけばよい。この時、標準の奥行き情報が示す奥行き表示位置の例としては、例えば、映像変換処理部32で表示可能な最前面に表示する表示位置としてもよい。この場合、3D映像に対して字幕表示が常に手前の位置に融像されるので、違和感無く字幕を表示することが可能となる。描画後にS6806へ進む。S6806では、CPU21のシステム制御部51および映像変換制御部61は、S6805で作成した各表示領域プレーンと各映像表示プレーンとを重畳し、また必要に応じてOSD作成部で作成されたOSDデータも重畳するように、映像変換処理部32を制御する。重畳した映像データをディスプレイ47へ表示する、または映像出力41から出力して処理を終了する。以上の一連の処理を受信した字幕データごとに繰り返すことによって好適な字幕の3D表示を可能とする。例えば、受信装置4では以上の処理を放送信号受信中は継続して繰り返すようにすればよい。
なお、S6805で示した標準の奥行き情報が示す奥行き表示位置は別の位置としてもよい。例えば視差0の位置(右目用表示文字列と左目用表示文字列との視差が無い状態)を標準奥行き表示位置と定義する。また、例えば、右目用表示データと左目用表示データの基準視差を表す標準視差情報の新しいパラメータを設定し、新しい記述子に該パラメータを格納してもよく、既存の記述子の一部に該パラメータを格納すしてもよい。これらのパラメータをPMTなどの番組情報に合成して送信装置1から送信し、受信装置4で受信し、受信したパラメータを用いて受信装置4で決定することも可能である。
S6805からの処理の代わりに、字幕データに奥行き表示位置指定の制御符号が含まれていない場合には、字幕を表示をしないように制御しても良い。例えばS6805で映像変換制御部61が、映像データは映像表示プレーンに描画するが、表示文字列データは字幕表示用プレーンに描画しないようにすることで実現する。この場合、映像データとの奥行き表示位置に不整合がある状態の表示を回避することが可能となる。また、字幕データに奥行き表示位置指定の制御符号が含まれていない場合に、視差が無い位置で表示用データを字幕表示用プレーンに描画し、表示しても良い。この場合、映像データとの奥行き表示位置に不整合がある状態となる可能性があるものの、少なくとも字幕を非表示を回避することが可能となる。
また、上記制御例では字幕データと映像データの合成をCPU21の映像変換制御部61および映像変換処理部32で行う事例を示したが、CPU21のOSD作成部60で行っても同様に実施可能であり、図示していない異なる処理ブロック、制御部等を設けてこれらの処理を行っても良い。
ネットワーク3を経由して受信装置4にコンテンツが入力される場合についても、ネットワークI/F25を介して字幕データを含むストリームデータを受信し、多重分離部29で上記放送受信時と同様に字幕データの分離処理を行い、上記放送受信時の制御例と同様の制御により3D表示に対応した字幕を視聴することが可能である。
以上で説明した制御により行った字幕情報の表示の一例を図69(a)及び図69(b)に示す。右目用映像と左目用映像の表示位置をずらすことで視差を発生させるという方法は既に説明したとおりである。ここで、図69(a)に右目用表示データと左目用表示データの表示位置と、ユーザーの脳による表示対象の融像位置の奥行きを示す簡易的なモデルの説明図である。ある第1の表示対象データについて、右目用表示領域上では右目用表示位置1に、左目用表示領域上では左目用表示位置1に表示した場合、ユーザーの脳では融像位置1に融像され、結果として表示対象のデータはディスプレイ47の表示面よりも奥の位置にあるように知覚される。一方、ある第2の表示対象データを右目用表示領域上では右目用表示位置2に、左目用表示領域上では左目用表示位置2に表示した場合、ユーザの脳では融像位置2の場所に融像され、結果として表示対象のデータはディスプレイ47の表示面よりも前面に飛び出すように知覚される。すなわち字幕データの表示についても、右目用表示文字列データを水平方向左に移動し、左目用表示文字列データを水平方向右に移動することで、融像位置がユーザーに近くなり、ユーザーの脳では、字幕データが画面から飛び出して見えることとなる。なお、左右方向の移動量は必ずしも同じである必要はない。従って字幕データの視差を映像データよりも前面に来るように表示位置を設定することによって表示時に違和感の無い映像がを表示することが可能である。すなわち、左目用映像と右目用映像とを含む立体映像データとともに表示する字幕データについて、映像データよりも全面に表示されるように水平方向の視差を設ける。こうして生成した図69(b)の左目用映像、右目用映像夫々を図37(a)や図39(a)に示すように交互に表示することにより、ディスプレイ47には表示映像の見え方の例のように映像が表示されており、ユーザはこれを例えばアクティブシャッター方式のフィルタを備えたメガネのような補助装置を用いるなどして、字幕を重ね合わせた立体映像として視聴できる。
また、本実施例に示した奥行き表示位置指定情報を含む字幕データが3D映像を含まないコンテンツに含まれて伝送された場合の受信装置4動作について説明する。
例えば受信装置4で番組情報解析部54が図50に示したコンテント記述子が示す番組特性の値を検出し、システム制御部51が対象イベント(番組)に3D映像が含まれない、と判定した場合には、たとえ字幕データの含む奥行き表示位置指定情報を検出しても字幕データの3D表示は行わないよう処理を行う。それにより誤って2D映像に3Dの字幕データを重畳し、ユーザにとって視認しづらい映像の表示を回避することが可能である。
<3D映像を2D表示する場合>
3D2視点別ES伝送方式の3Dコンテンツを受信し、視聴中または視聴前にユーザーが2D映像表示への切替指示(例えばリモコンの「2D」キー押下)を行った場合、前記切替指示の情報を受信したユーザー指示受信部52は、システム制御部51に対して2D映像への信号切替を指示する。この時、受信コンテンツに奥行き表示位置指定情報が含まれている場合でも、字幕表示を2Dの形式で行うようにする。
3D映像で送信された映像を受信装置が受信し、2Dで視聴する場合(例えば図40(a)で示した場合)の字幕の奥行き位置設定についての処理シーケンスの一例を図70に示す。字幕データを含むストリームを受信した後、S6801、S6802と同様の処理によって、字幕データの解析を行った後、S7001ではCPU21の映像変換制御部61は奥行き表示位置指定情報を検出した場合にはそれに基づいて右目用表示文字列を右目表示領域用プレーンに描画し、左目用表示文字列を左目用表示領域用プレーンに描画して、S7002へ進む。S7002ではCPU21のシステム制御部51および映像変換制御部61はS404と同様に例えば左目用表示映像データと左目用字幕表示プレーン、およびOSD表示プレーンを重畳した表示用データを生成する。ここで、表示においては、生成した2視点分の表示用データのうち一方しか表示しないことで2D表示を実現する。この時表示するデータは、例えば左目用の映像と、左目用の映像の字幕データを利用すればよい。以上の表示処理の後、処理を終了する。以上の処理を字幕データを受信するごとに繰り返すことにより、好適に字幕を2D表示可能とする。また3D/2Dの表示の切替を、最終処理であるS7002の表示処理だけを切り替えれば実現可能なため高速に切替を実行可能である。
なお、本例に限らず、S7001で映像変換制御部61が検出した奥行き表示位置指定情報を使用せずに、表示用字幕プレーンを1枚だけ生成し、右目用表示映像か左目用表示映像かの一方の表示映像に重畳する方法で実現しても良い。
本実施例によれば、3Dコンテンツの2D出力/表示時には字幕データも2D表示を行うことにより、ユーザーにとって違和感のない番組視聴が可能となる。
また、本シーケンスで示した処理は図41のS404内で実施するか、同時に実施する。システム制御部51は映像を2Dで表示する処理に同期して上記制御を行うことによって、映像の3D/2D表示と字幕データの3D/2D表示のタイミングを合わせ、違和感のない番組視聴を可能とする。
図71はユーザーにより3Dコンテンツの3D/2D表示の切替えが指示された場合の字幕表示処理切替シーケンスの一例を示す。3Dコンテンツ受信時にユーザーからの3D/2D表示の切替指示が行われると処理を開始する。S7101では、切替指示が2D映像表示から3D映像表示への切替指示である場合にはS7102へ進み、切替指示が3D映像表示から2D映像表示への切替指示である場合にはS7103へ進む。S7102ではシステム制御部51は映像信号の表示方法を3D表示に切り替える処理に伴って字幕データの表示方法を3D表示へと切り替えて処理を終了する。この場合、図68に示す処理シーケンスによって字幕データの3D表示を実現する。S7103ではシステム制御部51は映像信号の表示方法を3D表示に切り替える処理に伴って字幕データの表示方法を2D表示へと切り替えて処理を終了する。この場合、図70に示す処理シーケンスによって字幕データの2D表示を実現する。
本実施例によれば、3Dコンテンツの映像を3D出力/表示する際には、字幕データも3D出力/表示を行い、3Dコンテンツの映像を2D出力/表示する際には、字幕データも2D出力/表示を行うこととなる。これにより、3Dコンテンツの出力/表示に応じた字幕データの3D/2D表示を実現し、ユーザーは違和感のない番組視聴が可能となる。
<2D映像を受信装置4で3D変換可能な場合の字幕表示>
送信装置1から、字幕データおよび2D映像データを含む放送信号が送信され、受信装置4で受信後に受信装置内で3D映像に変換して表示する場合について説明する。2D映像データの3Dへの変換については、変換回路を映像変換処理部32に含めるか、CPU21によるソフトウェア処理によって実行する。この時、受信した字幕データには奥行き表示位置指定情報は付加されていない。従って図68で示したS6805で行った処理と同様に、奥行き方向の最前面に字幕情報が表示されるように、視差情報を設定するように構成すればよい。このように構成することで、変換後の3D表示において、映像データと字幕データとの奥行き表示位置の不整合が発生することを防ぐことが可能となる。
またこのとき、送信装置1では2D表示を前提としているため、字幕の制御情報には3D表示と併用に適していない制御符号が適用されている場合がある。そのため受信装置4では、2D映像の3D変換を行って字幕データを表示する場合には、字幕を3Dで表示する際に用いるとユーザーの視聴時の疲労が懸念される制御ような、3D表示に適していない制御符号の指示を実行せずに表示を行う。例えば、スクロール指定の制御符号によるスクロール処理を行わないようにしたり、フラッシング制御の制御符号によるフラッシング動作を行わないようにする。これにより、映像と字幕の3D視聴をより好適に実現することが可能である。
一方で、2D映像を3D表示する場合を考慮して、送信装置1で2D映像データに付随する字幕データに奥行き表示位置指定情報を含んで送信する場合、受信装置4では例えば図41に示したS401、S402と同様に当該の番組が3D番組であるかどうか判別し、2D番組であり、かつ2D映像を2D表示する時は、奥行き表示位置指定情報を参照せずに、字幕表示も2Dで行う。当該の番組が2D番組であり、かつ3Dに変換して表示するときは、奥行き表示位置指定情報を参照して、字幕表示を3Dで行う。
<字幕データ送信動作の別の一例>
送信装置1から2視点同一ES伝送方式で3D映像を送信する場合において、字幕データの視差制御用データのコンテンツへの挿入を行う方法の別の一例を以下に説明する。
図72(a)は本実施例による、字幕データを含むPESデータの形式の一例を示している。data_identifierは一意に定められる字幕PESデータの識別番号である。例えば0x20といった固定値とする。subtitle_stream_idは当該PESパケットが字幕データであることを一意に指定するための識別番号である。これに続きセグメントデータが挿入される。例えば0x00などの固定値とする。subtitle_stream_idは番組のPMTから本字幕データを一意に指定するための識別番号である。これに続きセグメントデータが挿入される。end_of_PES_data_field_markerは字幕PESデータの終了を示す固定値である。例えば8ビットの情報で’111 111’といった情報列である。
図72(b)は図72(a)で指定するセグメントデータの構造である。sync_byteは受信機でセグメントデータを識別するための一意に定められた値である。segment_typeで指定可能な定義値については後述する。page_idでは、字幕データの表示位置を選択するためのページ番号を指定する。segment_lengthは後に続くデータ長を示す。segment_data_fieldは各セグメントが含有する具体的データであり、どのような情報が含まれるかが規定される。
図72(c)には字幕に関係するセグメントの種類であるsegment_typeの定義を例示する。例えば字幕の文字列情報を包含するobject data segmentや、字幕を表示するページやリージョン、カラーマネジメントに関連するセグメントデータなどが定義されている。この例では字幕データの視差を設定するsegment_typeを新たに0x15(Disparity_signaling_segment)と定義している。
図72(d)は左右視差情報セグメントdisparity_signaling_segmentのデータ構成の一例である。sync_byteはセグメントであることを識別するための一意に定められた値である。例えば8ビットの情報で’0000 1111’といった値にすれば良い。segment_typeは図72(c)に定めた0x15の値を指定し、セグメントの種類をdisparity_signaling_segmentであることを確定する。page_idはこのセグメントの情報が適用されるページ番号を定める。segment_lengthは直後に続くセグメントの情報長を示す。page_disparity_addressは該当するページの視差情報を、指定する。視差情報は、例えば左右画面の視差をサブピクセル単位で表現する。dss_version_numberはこのdisparity_signaling_segmentのバージョンを示す。受信装置ではこのバージョンによって以降のデータフォーマットを判定することが可能である。region_idは、ページよりさらに細かい表示位置の単位であるリージョンごとに視差を規定するために、該当するリージョンの識別番号を指定する。region_disparity_addressは該当するリージョンについて例えば左右画面での視差をサブピクセル単位で表現し指定する。これにより複数の字幕データがある場合にもそれぞれに異なる奥行き(視差)情報を付与して異なる奥行きに表示可能である。
以上のデータ構成に基づけば、例えば3D番組表示に対応していない受信装置の場合は、このsegment_typeを持った情報を無視することとなり、2D画面上に通常の字幕データの表示が可能でありとなる。これにより、新たに図72(d)は左右視差情報セグメントを用いた字幕データを含むコンテンツを送信しても、旧来の機種が誤動作しないという利点がある。
上述した左右視差情報セグメントを用いるデータ構成の制御データに対する受信装置の動作は、図68および図70、図71に示した動作例において、「奥行き表示位置指定情報」を「左右視差情報セグメント」に変更したものである。図68のS6805では、受信した3D映像コンテンツ中に左右視差情報セグメントが含まれていない場合には、予め定めた所定の左右視差情報セグメント情報をメモリに格納しておき、これを標準左右視差情報セグメント情報として用いて字幕の表示文字列を表示すればよい。その他の動作は図68および図70、図71と同様であるため説明を省略する。
なお、図72(a)、図72(b)、図72(c)、図72(d)の構成例は、必ずしも各図で示したデータの並び、名称、データサイズ・タイプに限定される必要は無く、同様の情報が含まれていればよい。
以上説明した右視差情報セグメントを用いれば、3D表示用の字幕データについての奥行きの設定が好適に実現可能である。
<字幕データ送信動作のさらに別の一例>
送信装置1から2視点同一ES伝送方式で3D映像を送信する場合において、字幕データとその視差制御用データのコンテンツへの挿入を行う方法のさらに別の一例を以下に示す。
まず、字幕用データは例えばビデオデータのシーケンスヘッダに含まれるユーザデータ領域に挿入されることがある。図73(a)はシーケンスヘッダ内の拡張データとして含まれるユーザデータの構成例を示す。user_data_start_codeはこれ以降のデータがユーザデータであることを一意に識別可能な固定値であり、例えば “0x000001B2”である。user_data_type_codeは以降のデータに字幕情報などが含まれることを示す一意に識別可能な固定値であり、例えば”0x03”である。vbi_data_flagは字幕データなどを含むかどうかを示す。1であれば以降の字幕データの解析を行い、0であれば解析不要とする。cc_countは以降の字幕データのデータ量を示す。cc_priorityは画像作成時の優先度を例えば0(優先度最高)〜3(優先度最低)といった形で示す。field_numberは字幕を表示するフィールドを例えばOdd/Evenで選択する。cc_data_1およびcc_data_2は表示をする文字列および制御コマンドが含まれる。制御コマンドには文字色や背景色を指定するものや、ロールアップ(ページデータとして送られてきた字幕データを、あらかじめ設定した3 行程度の領域内に行単位に逐次追加表示する字幕サービス。改行時に行方向にロールアップする。)や点滅などの動きを指定するもの、視差情報などを含める。制御コマンドの例を図73(b)に示す。チャンネル1、チャンネル2のように、複数のチャンネルを示している理由は、一度に複数の字幕データを表示可能とするためである。夫々のチャンネルに同等の制御を意味する別の値の制御コマンドを割り振る。また、文字列と制御コマンドを混同しないよう、例えば文字列は0x20以降の値を使用し、制御コマンドは0x10〜0x1Fまでの値から開始するなどとすればよい。
このとき、字幕データの視差を示す視差情報について、例えばText Restartコマンドの直後に図73(c)の視差制御コマンドデータを配置することにより指定すればよい。視差量を制御コマンドの直後に配置し、例えば0x20〜0x7E(10進数にして32〜126)の値の範囲で指定可能とすればよい。当該指定値の意味は、中心となる0x4F(10進数にして79)からの増減量(-47〜+47)で視差を表現する。これにより合計で94ピクセルの視差の生成が可能である。例えば、正方向を右、負方向を左(もちろんその逆でも良い)と定義する。
このように送信装置で指定する値を定めることで、任意の受信装置で奥行き情報を一意に解釈することが可能である。
例えばチャンネル1を使用して右目用の映像データに正方向10ピクセルの視差を設ける場合、”0x14, 0x2A, 0x23, 0x59”というデータの並びを、送信側から送信し、受信機側で解釈することで対応が可能となる。0x14,0x2Aによりチャンネル1の字幕情報が初期化され、次に0x23で右目用画像向け字幕データの視差情報が送信されることがわかる。次の0x59が実際の視差情報であり、0x4Fとの差分である10が視差情報となる。続けて同じ要領で左目用画像向け字幕データの視差情報を送受信し、字幕データ本体を送受信、といった処理を実施することで字幕データに左右の視差を設けて表示することが可能である。
図73(a)のユーザデータの中には、以上説明した字幕データ以降に字幕データ以外のデータが含まれても良い。next start_code()は例えば”0x000001”といった固定値であり、これを以てユーザデータが終了したと解釈すれば良い。
受信装置で上述した視差制御コマンドデータを受信した場合の制御方法は図68や図70、図71で説明した動作例において、「奥行き表示位置指定情報」を図73(c)の「視差制御コマンド」に変更したものである。図68のS6805では、受信した3D映像コンテンツ中に視差制御コマンドデータが含まれていない場合には、予め定めた所定の視差制御コマンドデータをメモリに格納しておき、これを標準視差制御コマンド情報として用いて字幕の表示文字列を表示すればよい。その他の動作は図68および図70、図71と同様であるため説明を省略する。
<録画・再生時の処理例>
次に、以上説明した3D映像データと字幕データとを含むコンテンツの録画及び再生時の処理について説明する。
<3D放送を字幕データ付でそのまま記録/CSIごと記録>
以上で説明した、字幕データを含む3Dコンテンツストリームを受信し、記録媒体に録画する際には、例えば、上述した奥行き表示位置指定情報を含めて字幕データPESをそのまま記録再生部27により記録媒体26に記録を行う。また、再生時には記録媒体26から読み出された字幕データを、図68および図70、図71に示した放送信号受信時の処理と同様にして、多重分離部29などが制御を行う。これにより、3D表示に対応した字幕を視聴することが可能である。図52に示したように制御用データが字幕データPESに包含されていれば、例えば、録画時に映像データや音声データを編集する(トランスコード処理など)場合であっても、上述した記録・再生処理の対応が可能である。
また、3D番組コンテンツを2D形式に変換して記録する場合、または記録再生装置が2Dの表示しか行えない場合には、上述した図65の奥行き表示位置指定情報、図72(d)の左右視差情報セグメント、図73(c)の視差制御コマンドなど、字幕データの3D表示についての奥行き表示位置や視差に関する情報を録画時に削除しても構わない。そのようにしてデータ量を削減することで録画媒体の記録容量を効果的に使用することが可能である。
また、上述した記録時の処理例とは逆に、受信したストリームの映像データが2D映像であって、図65の奥行き表示位置指定情報、図72(d)の左右視差情報セグメント、図73(c)の視差制御コマンドなど、字幕データの3D表示についての奥行き表示位置や視差に関する情報を持っていない場合に、記録時に映像データを3D映像に変換して記録する場合には、受信装置4において、これらの字幕データの3D表示についての奥行き表示位置や視差に関する情報を、3D変換後の映像データや字幕データとともに記録しても良い。
<字幕データとテレビ独自のOSDを3D表示で重ねる場合>
以上で説明した字幕データの表示に対して、受信装置あるいは記録再生装置が独自のOSDを同時に画面上に表示する場合を考える。字幕データとOSDデータの書き出す面(プレーン)の概念図を図74(a)に示す。受信装置4では、この図で示すように字幕データよりもOSDデータが前面となるように表示面を構成する。さらに、3D表示画面を生成する場合に、OSDの奥行き表示位置を最前面に表示するように視差を制御する。こうすることで、字幕データの奥行き表示位置との関係で、OSD表示がユーザに違和感を生じさせることを防止することが可能である。例えば、字幕データが最前面に位置していたとしても、プレーンの重畳順によってOSDの表示データが字幕を上書きして画面を合成するため、違和感の無い表示となる。合成した後の表示画面の一例を図74(b)に示す。OSDデータが透過する性質を持っていた場合でも、同様に表示制御を行うことで、違和感の無い表示画面を生成することが可能である。
<HDMI出力制御例>
上述した実施例とは別の機器構成例として、図75に示すように受信装置4と表示装置63とが別体で、例えばシリアル伝送方式で接続されている構成について説明する。伝送バス62は、表示装置4と表示装置63とを接続し映像・音声データを伝送し、かつ規定された形式で送付可能なコマンドの伝送が可能である。伝送方式としては例えばHDMI(商標)による接続が挙げられる。表示装置63は伝送バス62によって伝送された映像・音声データを表示する装置であり、表示パネルやスピーカなどを持つ。本構成の場合、表示装置63で字幕データを出力・表示するには、映像データ上に字幕データを合成したデータを受信装置4で生成して表示装置63へ伝送すればよい。3D映像の視聴の際は、伝送方式で定められた3D映像データの伝送方法に従えば表示装置63にて3D表示が可能である。表示装置63においては図69(a)または図69(b)に示したような左目用画像および右目用画像を夫々表示すればよい。
受信装置4でOSDを重ね合わせる場合も、同様に、受信装置4でOSDを重ね合わせた画像を生成して表示装置63へ伝送し、表示装置63が左目用画像および右目用画像を夫々表示すればよい。
一方、受信装置4で3D表示用画像を作成し、その上に表示装置63においてOSDを表示する場合、表示装置63で、受信装置4側で生成した3D表示用画像の最大の視差量が把握できなければ、最前面に表示を行うことができない。そのため、受信装置4から表示装置63に対して、伝送バス62を介して視差情報を伝送する。これにより、表示装置63で受信装置4側で生成した3D表示用画像の最大の視差量を把握することが可能である。具体的な視差情報の伝送方法としては、例えば、HDMI接続における機器制御信号であるCECによる伝送が挙げられる。HDMI Vendor Specific InfoFrame Packet ContentsのReserved領域などに新しく視差量を記述する箇所を設けることで対応が可能である。
上述した図74(a)または図74(b)で示した例のように、OSDを最前面に表示すれば違和感の無い表示が可能となるため、例えば受信装置4から表示装置63へ視差の最大値をピクセル数などの視差情報を伝送することで、表示画像に対して表示装置63で最前面にOSDを表示することが可能である。視差情報を伝送するタイミングは、例えば受信装置4側で3D番組表示開始時に固定の最大値を一度伝送するだけでも良い。この場合は、伝送回数が少なく処理負荷が少ないというメリットがある。また、受信装置4でユーザーが最大視差量を設定できる方法がある場合には、変更される毎に伝送すればよい。
図76(a)は受信装置4から表示装置63へ伝送する表示画像の一例である。例えば字幕データが表示画像よりも前面に表示された3D表示画像である。表示装置63でOSDを表示しない場合はこの画像がそのまま表示されることとなる。
これに対して図76(b)は、上述した伝送処理により、受信装置4から視差の最大値情報を送信された表示装置63においてOSDを表示した画像の一例である。視差の最大値情報を用いて、受信装置4から伝送された画像中のいずれの表示画像及び字幕データよりも前面となる位置にOSDを重ね合わせることで違和感の無い表示が可能となる。
図76(a)(b)では字幕データを含んだ表示例を示したが、字幕データを受信装置4で表示しない場合でも、上記手順で受信装置4より視差情報を伝送することで表示装置63にてOSDを最前面に表示することが可能である。または受信装置4で字幕データとOSDを重畳したデータを伝送する場合でも、上記手順で受信装置4より視差情報を電することで表示装置63の作成したOSDを受信装置4の字幕データおよびOSDよりも前面で表示することが可能であり、違和感の無い表示が可能である。また本実施例では視差の最大値を伝送する例を説明したが、最小値を合わせて伝送したり、画面上を複数の領域に区分けして領域毎の最大値や最小値を伝送したりしても良い。また視差の値を伝送するタイミングも例えば1秒間隔など定期的な時間間隔で送付しても良い。これらの処理を行えば、表示装置63で違和感無くOSDを表示可能な奥行き方向の位置の幅を広げることが可能となる。