JP2012165071A - 撮像装置、受信装置、映像送信システムおよび映像送信方法 - Google Patents
撮像装置、受信装置、映像送信システムおよび映像送信方法 Download PDFInfo
- Publication number
- JP2012165071A JP2012165071A JP2011022067A JP2011022067A JP2012165071A JP 2012165071 A JP2012165071 A JP 2012165071A JP 2011022067 A JP2011022067 A JP 2011022067A JP 2011022067 A JP2011022067 A JP 2011022067A JP 2012165071 A JP2012165071 A JP 2012165071A
- Authority
- JP
- Japan
- Prior art keywords
- data
- picture
- transmission data
- pictures
- encoded data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 184
- 238000000034 method Methods 0.000 title claims abstract description 31
- 238000003384 imaging method Methods 0.000 title claims abstract description 29
- 238000004891 communication Methods 0.000 claims description 56
- 238000012545 processing Methods 0.000 claims description 32
- 238000004458 analytical method Methods 0.000 claims description 27
- 238000001514 detection method Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 description 14
- 238000003860 storage Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000003139 buffering effect Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 101100172132 Mus musculus Eif3a gene Proteins 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/127—Prioritisation of hardware or computational resources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/156—Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/65—Control of camera operation in relation to power supply
- H04N23/651—Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】映像送信時のバッテリ消費を抑制可能な撮像装置、受信装置、映像送信システム、映像送信方法を提供する。
【解決手段】カメラ10は、他のピクチャを参照せずに復号可能な第1ピクチャP1と、直前の符号化データEDの、他のピクチャを参照して復号可能な1以上の第2ピクチャとを組合せた送信用データTDをサーバ30に間欠的に送信し、間欠的な送信の間の空時間にパワーセーブモードに移行する。これにより、第1ピクチャP1をサーバ30に対してリアルタイムに提供しつつ、カメラ10のバッテリ消費を抑制することができる。
【選択図】図7
【解決手段】カメラ10は、他のピクチャを参照せずに復号可能な第1ピクチャP1と、直前の符号化データEDの、他のピクチャを参照して復号可能な1以上の第2ピクチャとを組合せた送信用データTDをサーバ30に間欠的に送信し、間欠的な送信の間の空時間にパワーセーブモードに移行する。これにより、第1ピクチャP1をサーバ30に対してリアルタイムに提供しつつ、カメラ10のバッテリ消費を抑制することができる。
【選択図】図7
Description
本発明は、撮像装置、受信装置、映像送信システムおよび映像送信方法に関する。
近年、バッテリ駆動される小型カメラを用いた、監視システム等の映像送信システムが実用化されている。映像送信システムでは、カメラがアクセスポイントを通じてサーバ等の受信装置に映像データを送信し、サーバが映像データを受信して処理する。サーバでは、物体検知や動体検知等、リアルタイム性を要求される、映像データの解析処理が行われる。
このような映像送信システムのカメラでは、解析処理のリアルタイム性を担保するために映像データを受信装置に定常的に送信することが要求されるので、データ送信のためにバッテリが常に消費されることになる。このため、映像送信システムの実現上、カメラのバッテリ消費を抑えることが課題となっていた。
このため、本発明は、映像送信時のバッテリ消費を抑制可能な撮像装置、受信装置、映像送信システム、映像送信方法を提供しようとするものである。
本発明のある観点によれば、他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなる符号化データを生成する符号化データ生成部と、符号化データの第1ピクチャと、符号化データの直前の符号化データの1以上の第2ピクチャとを組合せて送信用データを生成する送信用データ生成部と、映像ストリームを構成する複数の送信用データを送信用データの単位で間欠的に送信する無線通信部とを備える撮像装置が提供される。
無線通信部は、アクティブモードとパワーセーブモードからなる動作モードを有し、送信用データを送信した後に動作モードをパワーセーブモードに切替え、次の送信データを送信する前に動作モードをアクティブモードに切替える通信制御部をさらに備えてもよい。
無線通信部は、パワーセーブモードで搬送波の検波を停止してもよい。
撮像装置は、少なくとも無線通信部に動作電源を供給する電源供給部をさらに備えてもよい。
送信用データ生成部は、符号化データの第1ピクチャ、符号化データの直前の符号化データの1以上の第2ピクチャの順序でピクチャを配した送信用データを生成してもよい。
送信用データ生成部は、符号化データの1以上の第2ピクチャ、符号化データの直後の符号化データの第1ピクチャの順序でピクチャを配した送信用データを生成してもよい。
無線通信部は、それぞれの送信用データに含まれる1以上の第2ピクチャをまとめて、第1ピクチャとともに送信することで、複数の送信用データを送信用データの単位で間欠的に送信してもよい。
本発明の他の観点によれば、映像ストリームを構成する複数の送信用データを送信用データの単位で間欠的に受信する通信部であって、符号化データが他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなり、送信用データが符号化データの第1ピクチャと、符号化データの直前の符号化データの1以上の第2ピクチャとを組合せて生成される通信部と、送信用データに含まれる少なくとも第1ピクチャを解析処理する解析処理部とを備える受信装置が提供される。
受信装置は、送信用データに含まれる第1ピクチャの復号データと、送信用データの直前の送信用データに含まれる1以上の第2ピクチャの復号データとを組合せて映像データを生成する映像データ生成部をさらに備えてもよい。
本発明の他の観点によれば、前述した撮像装置と受信装置を備える映像送信システムが提供される。
本発明の他の観点によれば、他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなる符号化データを生成し、符号化データの第1ピクチャと、符号化データの直前の符号化データの1以上の第2ピクチャとを組合せて送信用データを生成し、映像ストリームを構成する複数の送信用データを送信用データの単位で間欠的に送信することを含む映像送信方法が提供される。
本発明の他の観点によれば、上記映像送信方法をコンピュータに実行させるためのプログラムが提供される。ここで、プログラムは、コンピュータ読取り可能な記録媒体を用いて提供されてもよく、通信手段等を介して提供されてもよい。
本発明によれば、映像送信時のバッテリ消費を抑制可能な撮像装置、受信装置、映像送信システム、映像送信方法を提供することができる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[1.一般的な映像送信システム]
まず、図9を参照して、一般的な映像送信システムでの映像送信方法について説明する。
まず、図9を参照して、一般的な映像送信システムでの映像送信方法について説明する。
図9は、一般的な映像送信システムでの映像送信方法を示す図である。図9に示すように、映像送信システムでは、カメラ1が映像データを不図示のアクセスポイントAPおよびネットワークNWを通じてサーバ3に送信し、サーバ3が映像データを受信してリアルタイムに解析処理する。
カメラ1は、MPEG(Moving Picture Experts Group)2、H.264|AVC(ITU−T勧告MPEG−4 Part10:Advanced Video Coding)等の方式で映像データを圧縮符号化する。映像データは、単独復号可能なピクチャ(第1ピクチャP1)と、このピクチャの差分であるピクチャ(第2ピクチャP2)として圧縮符号化される。なお、ピクチャとは、画像を意味し、1つのピクチャが1つの画像に相当する。圧縮符号化は、直交変換等を用いたフレーム内符号化とともに、動き補償を用いたフレーム間符号化(予測符号化)により行われる。
単独復号可能な第1ピクチャP1は、フレーム内符号化により符号化されるIDR(Instantenous Decoding Refresh)ピクチャ、I(Intra−decoded)ピクチャ等であり、他のピクチャを参照せずに復号できる。単独復号不能な第2ピクチャP2は、フレーム間符号化により符号化されるP(Predictive−coded)ピクチャ、B(Bi−directionally predictive−coded)ピクチャ等であり、他のピクチャを参照しなければ復号できない。
カメラ1は、映像データを圧縮符号化し、符号化データED(符号化データの総称)を送信する。図9では、符号化データED1、ED2、ED3、ED4、…が順次に送信される。符号化データEDは、第1ピクチャP1と、このピクチャの差分である1以上の第2ピクチャP2とからなる。符号化データEDには、第1ピクチャP1に続いて1以上の第2ピクチャP2が配される。サーバ3は、符号化データEDを受信し、第1ピクチャP1を優先的に抽出し、抽出したピクチャを復号してリアルタイムに解析処理する。
このため、カメラ1では、解析処理のリアルタイム性を担保するために第1ピクチャP1をサーバ3に定期的に送信することが要求される。また、第1ピクチャP1または第2ピクチャP2を生成するたびに、生成したピクチャが逐次的に送信される。よって、カメラ1のバッテリは、複数の符号化データEDからなる映像ストリームの送信期間に亘って、データ送信のために常に消費されることになる。
[2.本発明の実施形態に係る映像送信システムの構成]
つぎに、図1から図3を参照して、本発明の実施形態に係る映像送信システムの構成について説明する。
つぎに、図1から図3を参照して、本発明の実施形態に係る映像送信システムの構成について説明する。
図1は、本発明の実施形態に係る映像送信システムを示す図である。図1に示すように、映像送信システムは、カメラ10、サーバ30、アクセスポイントAPおよびネットワークNWを含んでいる。カメラ10は、バッテリ駆動される小型の撮像装置であり、アクセスポイントAPに接続される。サーバ30は、物体検知や動体検知等、リアルタイム性を要求される映像解析処理を行う情報処理装置であり、有線または無線でネットワークNWに接続される。アクセスポイントAPは、無線通信用のブリッジ、ルーター等であり、カメラ10とネットワークNWとの間を接続する。
カメラ10は、映像データをアクセスポイントAPに送信する。アクセスポイントAPは、カメラ10との間でデータのバッファリングおよび送受信を行い、同様にネットワークNWを通じてサーバ30との間でデータのバッファリングおよび送受信を行う。サーバ30は、映像データを受信して解析処理する。なお、カメラ10は、アクセスポイントAPまたは他のアクセスポイントを通じて他のサーバに接続されてもよい。また、サーバ30は、不図示のユーザ端末等に映像データや解析処理の結果等を送信してもよい。
[2−1.カメラの構成]
図2は、本発明の実施形態に係るカメラ10の構成を示すブロック図である。図2に示すように、カメラ10は、光学系11、カメラ制御部12、映像取得部13、符号化データ生成部14、送信用データ生成部15、無線通信部16、通信制御部17、電源供給部18、記憶部19および制御部20を含んでいる。
図2は、本発明の実施形態に係るカメラ10の構成を示すブロック図である。図2に示すように、カメラ10は、光学系11、カメラ制御部12、映像取得部13、符号化データ生成部14、送信用データ生成部15、無線通信部16、通信制御部17、電源供給部18、記憶部19および制御部20を含んでいる。
光学系11は、レンズ系、絞り・フォーカス調整機構、ズーム・シャッタ機構等からなり、被写体からの光を映像取得部13に導く。カメラ制御部12は、制御部20から供給される制御信号に基づき光学系11を制御する。制御信号は、後述する撮像素子から出力される撮像信号の情報に基づき制御部20により生成される。
映像取得部13は、撮像素子、撮像信号処理部、映像信号処理部等からなる。撮像素子は、CCD(Charge Coupled Device)等からなり、光学系11から導かれる光を電気信号に変換し、電気信号を信号処理して撮像信号として出力する。撮像信号処理部は、CDS(Correlated Double Sampling)回路、AGC(Auto Gain Control)回路、ADC(Analog Digital Converter)回路等からなり、撮像素子から供給される撮像信号を信号処理してデジタル信号として出力する。映像信号処理部は、γ補正回路、ホワイトバランス補正回路等からなり、撮像信号処理部から供給されるデジタル信号を信号処理して映像データとして出力する。
符号化データ生成部14は、映像エンコーダ等からなり、映像取得部13から供給される映像データを圧縮符号化し、符号化データEDを生成する。映像データは、MPEG2、H.264|AVC等の方式で圧縮符号化される。圧縮符号化は、直交変換等を用いたフレーム内符号化とともに、動き補償を用いたフレーム間符号化(予測符号化)により行われる。符号化データEDは、他のピクチャを参照せずに復号可能な第1ピクチャP1と、他のピクチャを参照しなければ復号できない第2ピクチャP2とからなる。第1ピクチャP1は、フレーム内符号化されたピクチャであり、第2ピクチャP2は、第1ピクチャP1の差分として、フレーム間符号化されたピクチャである。符号化データEDは、第1ピクチャP1と、これに続いて配される1以上の第2ピクチャP2とを含んでいる。
送信用データ生成部15は、データ処理装置からなり、符号化データ生成部14から供給される符号化データEDに含まれる第1ピクチャP1と第2ピクチャP2を区分し、送信用データTDを生成する。送信用データTD(送信用データの総称)は、基本的に、ある符号化データEDの第1ピクチャP1と、この符号化データEDの直前の符号化データEDの1以上の第2ピクチャP2とを組合せたデータである。
無線通信部16は、送受信回路等からなり、アクセスポイントAPとの間で送信用データTD等のデータを送受信する。無線通信部16では、映像ストリームを構成する複数の送信用データTDが送信用データTDの単位で間欠的に送信される。間欠的な送信は、送信用データTDに含まれる1以上の第2ピクチャP2をまとめて、第1ピクチャP1とともに送信することで行われる。無線通信部16は、アクティブモードまたはパワーセーブモードの動作モードで動作する。アクティブモードでは、電源供給部18から送受信回路に定常的に電源が供給され、パワーセーブモードでは、電源の必要性に応じて間欠的に電源が供給される。
通信制御部17は、制御部20から供給される制御信号に基づき無線通信部16の動作を制御する。通信制御部17は、送信用データTDを送信した直後に動作モードをパワーセーブモードに切替え、次の送信用データTDを送信する直前に動作モードをアクティブモードに切替える。
電源供給部18は、充電可能または充電不能なバッテリ等からなり、無線通信部16を含むカメラ10の各部に動作電源を供給する。電源供給部18では、制御部20から供給される制御信号に基づき、無線通信部16への電源供給が制御される。電源供給部18は、動作電源の供給先となる各部や電源供給部18を制御する制御部20、通信制御部17と接続される。
記憶部19は、メモリ、ハードディスク等からなり、映像データ、符号化データED、送信用データTD等を格納する。制御部20は、CPU、ROM、RAM等からなり、カメラ10の動作に必要な演算および制御を行う。制御部20は、ROM等に記憶されているプログラムを読出し、RAM上に展開して実行することで、カメラ10の動作を制御する。制御部20は、カメラ制御部12、映像取得部13、符号化データ生成部14、送信用データ生成部15、通信制御部17、記憶部19とバス21を通じて接続される。
[2−2.サーバの構成]
図3は、本発明の実施形態に係るサーバ30の構成を示すブロック図である。図3に示すように、サーバ30は、通信部31、解析処理部32、映像復号部33、映像データ生成部34、記憶部35および制御部36を含んでいる。
図3は、本発明の実施形態に係るサーバ30の構成を示すブロック図である。図3に示すように、サーバ30は、通信部31、解析処理部32、映像復号部33、映像データ生成部34、記憶部35および制御部36を含んでいる。
通信部31は、送受信回路等からなり、ネットワークNWを通じてアクセスポイントAPとの間で送信用データTD等のデータを送受信する。また、通信部31は、ネットワークNWまたは他のネットワークを通じて不図示のユーザ端末等に映像ストリームや解析処理の結果を送信してもよい。
解析処理部32は、データ処理装置からなり、送信用データTDを用いて、物体検知や動体検知等、リアルタイム性を要求される解析処理を行う。解析処理には、送信用データTDから抽出されて復号された第1ピクチャP1が優先的に利用される。第1ピクチャP1は、他のピクチャの差分である第2ピクチャP2とは異なり、1ピクチャのデータを十分に有しているため、解析処理に優先的に利用される。ただし、解析処理には、第1ピクチャP1とともに1以上の第2ピクチャP2が利用されてもよい。
映像復号部33は、映像デコーダ等からなり、送信用データTDに含まれるピクチャを伸張復号し、復号データを出力する。伸張復号は、フレーム内符号化およびフレーム間符号化に対応して行われる。
映像データ生成部34は、データ処理装置からなり、送信用データTDから映像データを生成する。前述したように、送信用データTDは、基本的に、ある符号化データEDの第1ピクチャP1と、この符号化データEDの直前の符号化データEDの1以上の第2ピクチャP2とを組合せたデータである。よって、映像データは、送信用データTDに含まれる第1ピクチャP1の復号データと、この送信用データTDの後続の送信用データTDに含まれる1以上の第2ピクチャP2の復号データとを組合せることで生成される。
記憶部35は、メモリ、ハードディスク等からなり、送信用データTD、符号化データED、復号データ、映像データ等を格納する。制御部36は、CPU、ROM、RAM等からなり、サーバ30の動作に必要な演算および制御を行う。制御部36は、ROM等に記憶されているプログラムを読出し、RAM上に展開して実行することで、サーバ30の動作を制御する。制御部36は、サーバ30の各部とバス21を通じて接続される。
[3.符号化データEDと送信用データTD]
つぎに、図4および図5を参照して、符号化データEDと送信用データTDについて説明する。
つぎに、図4および図5を参照して、符号化データEDと送信用データTDについて説明する。
図4は、符号化データEDと送信用データTDの構成例を示す図である。図4に示す例では、映像ストリームを構成する各符号化データED1、ED2、ED3、…は、複数のネットワークNW抽象レイヤ(Network Abstract Layer:NAL)ユニットから構成されている。具体的に、符号化データEDは、NAL(IDR)、NAL(P)、NAL(B1)、NAL(B2)、NAL(B3)のユニットから構成されている。
NALユニットは、IDRピクチャ(IDR)、Pピクチャ(P)、Bピクチャ(B1〜B3)のデータをそれぞれに含んでいる。また、符号化データEDの先頭およびNALユニット間には、NALユニットの境界を示すデリミタDが配置されている。なお、IDRピクチャは、単独復号可能な第1ピクチャP1であり、PピクチャおよびBピクチャは、単独復号不能な第2ピクチャP2である。
送信用データTDは、符号化データEDの第1ピクチャP1と、この符号化データEDの直前の符号化データEDの1以上の第2ピクチャP2とを組合せて生成される。具体的には、符号化データED1の第1ピクチャP1から送信用データTD1が生成される。符号化データED1の1以上の第2ピクチャP2と符号化データED2の第1ピクチャP1とから送信用データTD2が生成される。符号化データED2の1以上の第2ピクチャP2と符号化データED3の第1ピクチャP1とから送信用データTD3が生成される。送信用データTDの先頭には、送信用データTDを示す独自のヘッダHが配置され、NALユニット間には、デリミタDが配置されている。
図5は、送信用データTDの構成例を示す図である。図5には、図4に対応して、符号化データEDi−1の1以上の第2ピクチャP2、この符号化データEDi−1の直後の符号化データEDiの第1ピクチャP1の順序でピクチャを配して生成された送信用データTDi(TDA)が示されている。なお、iは、2以上の自然数である。しかし、これとは逆に、送信用データTDi(TDB)に示すように、符号化データEDiの第1ピクチャP1、この符号化データEDiの直前の符号化データEDi−1の1以上の第2ピクチャP2の順序でピクチャを配して生成されてもよい。
なお、図4および図5は、符号化データEDや送信用データTDの構成を限定するものではない。例えば、NALユニットの数やピクチャの種類は、符号化データED間や送信用データTD間で任意に規定される。もちろん、符号化データEDや送信用データTDには、IDRピクチャに代えてまたはIDRピクチャとともに、第1ピクチャP1としてIピクチャのNALユニットが含まれてもよい。
[4.本発明の実施形態に係る映像送信システムの動作]
つぎに、図6から図8を参照して、カメラ10およびサーバ30の動作について説明する。
つぎに、図6から図8を参照して、カメラ10およびサーバ30の動作について説明する。
図6は、カメラ10の動作を示すフロー図である。図6に示すように、映像取得部13は、光学系11から導かれる光に対応する映像データを生成し(ステップS11)、符号化データ生成部14に供給する。符号化データ生成部14は、映像取得部13から供給される映像データをピクチャに圧縮符号化し(ステップS12)、ピクチャを制御部20に供給する。圧縮符号化は、フレーム内符号化およびフレーム間符号化(予測符号化)により行われる。映像データは、符号化データED毎に、第1ピクチャP1と、これに続く1以上の第2ピクチャP2の順序で圧縮符号化される。
制御部20は、符号化データEDを構成するピクチャを供給されると、このピクチャが第2ピクチャP2であるかを判定する(ステップS13)。このピクチャが単独復号不能な第2ピクチャP2である場合(ステップS13で「Yes」)、制御部20は、このピクチャ(第2ピクチャP2)を記憶部19に格納する(ステップS14)。ここで、制御部20は、供給順序を特定可能なように、1以上の第2ピクチャP2を格納する。そして、第1ピクチャP1の供給が確認されるまで、ステップS11〜S14以降の処理が繰り返される。
一方、このピクチャが単独復号可能な第1ピクチャP1である場合(ステップS13で「No」)、ステップS15以降の処理が実行される。制御部20は、記憶部19から1以上の第2ピクチャP2を読出し(ステップS15)、このピクチャ(第1ピクチャP1)とともに送信用データ生成部15に供給する。なお、読出された第2ピクチャP2は、他の符号化データEDを処理する際に再び読み出されないように管理される。
送信用データ生成部15は、符号化データEDiの第1ピクチャP1と符号化データEDi−1の1以上の第2ピクチャP2を組合せて送信用データTDiを生成し(ステップS16)、送信用データTDiを制御部20に供給する。なお、iは、2以上の自然数である。また、送信用データTD1は、第2ピクチャP2を含まず、符号化データED1の第1ピクチャP1からなる。ここで、図5に示した送信用データTDAを生成する場合、符号化データEDi−1の1以上の第2ピクチャP2、符号化データEDiの第1ピクチャP1の順序でピクチャが配される。また、図5に示した送信用データTDBを生成する場合、符号化データEDiの第1ピクチャP1、符号化データEDi−1の1以上の第2ピクチャP2の順序でピクチャが配される。
制御部20は、送信用データTDを無線通信部16に転送するとともに、無線通信部16の動作モードをアクティブモードに切替えるための制御信号を通信制御部17に出力する。通信制御部17は、無線通信部16への電源供給を開始するための制御信号を電源供給部18に出力し、無線通信部16は、動作モードをパワーセーブモードからアクティブモードに切替え(ステップS17)、送信用データTDを送信する(ステップS18)。無線通信部16は、送信用データTDに含まれる1以上の第2ピクチャP2をまとめて、第1ピクチャP1とともに送信する。なお、送信データの送信中にステップS11〜S16の処理が行われてもよい。
送信用データTDの送信が終了すると、制御部20は、動作モードをパワーセーブモードに切替えるための制御信号を通信制御部17に出力する。通信制御部17は、無線通信部16への電源供給を終了するための制御信号を電源供給部18に出力し、無線通信部16は、動作モードをアクティブモードからパワーセーブモードに切替える(ステップS19)。
図7は、本発明の実施形態に係る映像送信システムでの映像送信方法を示す図である。図7に示すように、カメラ10は、前述した手順で、映像ストリームを構成する送信用データTD1、TD2、TD3、TD4、…を送信用データTDの単位で間欠的に送信する。各送信用データTDは、1以上の第2ピクチャP2をまとめて、第1ピクチャP1とともに送信される。そして、カメラ10は、各送信用データTDを送信した直後にパワーセーブモードに移行し、次の送信用データTDを送信する直前にアクティブモードに復帰する。
ここで、図9を参照して説明した一般的な映像送信システムでは、第1ピクチャP1または第2ピクチャP2を生成するたびに、生成したピクチャが逐次的に送信される。よって、カメラ10のバッテリは、複数の符号化データEDからなる映像ストリームの送信期間に亘って、データ送信のために常に消費されることになる。
一方、本発明の実施形態に係る映像送信システムでは、ピクチャを逐次的に送信する代わりに、ピクチャを送信用データTDにブロック化して間欠的に送信する。これにより、データを送信しない期間には、IEEE802.11に規定するPSM(Power−Saving Mode)等のパワーセーブモードに無線通信部16を移行させることができる。そして、パワーセーブモードでは、搬送波の検波を行わないことで、搬送波の検出およびフレーム受信のためのバッテリ消費を最小限に抑制することが可能となる。
さらに、ピクチャを送信用データTDにブロック化して送信することで、IEEE802.11nに規定するアグリゲーション効果が得られる。よって、一般的な映像送信方法でデータ送信の毎に実施する搬送波感知多重
アクセス/衝突回避方式(Carrier Sense Multiple Access/Collision Avoidance:CSMA/CA)の処理回数を抑えることで、バッテリ消費を抑制することが可能となる。
アクセス/衝突回避方式(Carrier Sense Multiple Access/Collision Avoidance:CSMA/CA)の処理回数を抑えることで、バッテリ消費を抑制することが可能となる。
図8は、サーバ30の動作を示すフロー図である。図8に示すように、通信部31は、送信用データTDを受信し(ステップS31)、制御部36に供給する。制御部36は、映像データを解析処理するかを決定する(ステップS32)。
解析処理する場合(ステップS32で「Yes」)、制御部36は、送信用データTDから第1ピクチャP1を抽出し(ステップS33)、第1ピクチャP1を映像復号部33に供給する。映像復号部33は、第1ピクチャP1を復号し(ステップS34)、復号データを解析処理部32に供給する。解析処理部32は、復号データに対して、物体検知や動体検知等の解析処理を施し(ステップS35)、処理結果を出力する。処理結果は、ネットワークNWを通じて外部装置に送信されてもよく、記憶部35等に格納されてもよい。映像復号部33は、さらに1以上の第2ピクチャP2を復号し(ステップS36)、復号データを映像データ生成部34に供給する。映像データ生成部34は、復号データから映像データを生成して記憶部35に格納する(ステップS37)。
映像データ生成部34は、送信用データTDiに含まれる第1ピクチャP1の復号データと、送信用データTDi+1に含まれる1以上の第2ピクチャP2の復号データとを組合せて符号化データEDiに対応する映像データを生成する。なお、iは、1以上の自然数である。
一方、解析処理しない場合(ステップS32で「No」)、制御部36は、送信用データTDを映像復号部33に供給する。映像復号部33は、第1ピクチャP1および1以上の第2ピクチャP2を復号し(ステップS38)、復号データを映像データ生成部34に供給する。映像データ生成部34は、復号データから映像データを生成して記憶部35に格納する(ステップS39)。
なお、制御部36は、映像データや解析処理の結果をユーザ端末等に送信してもよい。この場合、制御部36は、ユーザ端末等からの指示に応じて、記憶部35から映像データや解析処理を読出し、読出したデータを通信部31を通じてユーザ端末等に送信する。
本発明の実施形態に係る映像送信システムでは、ピクチャを逐次的に受信する代わりに、ピクチャを送信用データTDにブロック化して間欠的に受信する。しかし、映像解析処理に優先的に利用される第1ピクチャP1については、一般的な映像送信方法と同様に、実時間に近いタイミングで受信される。
特に、符号化データEDの第1ピクチャP1、この符号化データEDの直前の符号化データEDの1以上の第2ピクチャP2の順序でピクチャを配して生成された送信用データTD(図5の送信用データTDB等)を受信すれば、映像解析処理に用いる第1ピクチャP1を容易に検出することができる。一方、符号化データEDの1以上の第2ピクチャP2、この符号化データEDの直後の符号化データEDの第1ピクチャP1の順序でピクチャを配して生成された送信用データTD(図5の送信用データTDA等)を受信すれば、映像ストリーム中のピクチャの順序に従って映像データが格納されるので、映像ストリームを容易に再生することができる。
[5.まとめ]
以上説明したように、本発明の実施形態に係る映像送信システムによれば、ピクチャを逐次的に送信する代わりに、送信用データTDにブロック化して間欠的に送信することで、データを送信しない期間には無線通信装置(無線通信部16等)をパワーセーブモードに移行させることができる。これにより、一般的な映像送信システムでの映像送信方法に比して、映像送信時のバッテリ消費を最小限に抑制することができる。
以上説明したように、本発明の実施形態に係る映像送信システムによれば、ピクチャを逐次的に送信する代わりに、送信用データTDにブロック化して間欠的に送信することで、データを送信しない期間には無線通信装置(無線通信部16等)をパワーセーブモードに移行させることができる。これにより、一般的な映像送信システムでの映像送信方法に比して、映像送信時のバッテリ消費を最小限に抑制することができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
1、10 カメラ
11 光学系
12 カメラ制御部
13 映像取得部
14 符号化データ生成部
15 送信用データ生成部
16 無線通信部
17 通信制御部
18 電源供給部
19、35 記憶部
20、36 制御部
21、7 バス
3、30 サーバ
31 通信部
32 解析処理部
33 映像復号部
34 映像データ生成部
AP アクセスポイント
NW ネットワーク
ED、ED1〜ED4 符号化データ
TD、TD1〜TD4 送信用データ
11 光学系
12 カメラ制御部
13 映像取得部
14 符号化データ生成部
15 送信用データ生成部
16 無線通信部
17 通信制御部
18 電源供給部
19、35 記憶部
20、36 制御部
21、7 バス
3、30 サーバ
31 通信部
32 解析処理部
33 映像復号部
34 映像データ生成部
AP アクセスポイント
NW ネットワーク
ED、ED1〜ED4 符号化データ
TD、TD1〜TD4 送信用データ
Claims (11)
- 他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなる符号化データを生成する符号化データ生成部と、
前記符号化データの前記第1ピクチャと、前記符号化データの直前の符号化データの前記1以上の第2ピクチャとを組合せて送信用データを生成する送信用データ生成部と、
映像ストリームを構成する複数の前記送信用データを前記送信用データの単位で間欠的に送信する無線通信部と
を備える撮像装置。 - 前記無線通信部は、アクティブモードとパワーセーブモードからなる動作モードを有し、
前記送信用データを送信した後に前記動作モードを前記パワーセーブモードに切替え、次の送信データを送信する前に前記動作モードを前記アクティブモードに切替える通信制御部をさらに備える、請求項1に記載の撮像装置。 - 前記無線通信部は、前記パワーセーブモードで搬送波の検波を停止する、請求項2に記載の撮像装置。
- 少なくとも前記無線通信部に動作電源を供給する電源供給部をさらに備える、請求項1から3のうちいずれか1項に記載の撮像装置。
- 前記送信用データ生成部は、前記符号化データの前記第1ピクチャ、前記符号化データの直前の符号化データの前記1以上の第2ピクチャの順序でピクチャを配した送信用データを生成する、請求項1から4のうちいずれか1項に記載の撮像装置。
- 前記送信用データ生成部は、前記符号化データの前記1以上の第2ピクチャ、前記符号化データの直後の符号化データの前記第1ピクチャの順序でピクチャを配した送信用データを生成する、請求項1から4のうちいずれか1項に記載の撮像装置。
- 前記無線通信部は、それぞれの前記送信用データに含まれる前記1以上の第2ピクチャをまとめて、前記第1ピクチャとともに送信することで、前記複数の送信用データを前記送信用データの単位で間欠的に送信する、請求項1から6のうちいずれか1項に記載の撮像装置。
- 映像ストリームを構成する複数の送信用データを前記送信用データの単位で間欠的に受信する通信部であって、符号化データが他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなり、前記送信用データが前記符号化データの前記第1ピクチャと、前記符号化データの直前の符号化データの前記1以上の第2ピクチャとを組合せて生成される通信部と、
前記送信用データに含まれる少なくとも前記第1ピクチャを解析処理する解析処理部と
を備える受信装置。 - 前記送信用データに含まれる前記第1ピクチャの復号データと、前記送信用データの直前の送信用データに含まれる前記1以上の第2ピクチャの復号データとを組合せて映像データを生成する映像データ生成部をさらに備える、請求項8に記載の撮像装置。
- 他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなる符号化データを生成する符号化データ生成部と、
前記符号化データの前記第1ピクチャと、前記符号化データの直前の符号化データの前記1以上の第2ピクチャとを組合せて送信用データを生成する送信用データ生成部と、
映像ストリームを構成する複数の前記送信用データを前記送信用データの単位で間欠的に送信する無線通信部とを有する撮像装置と、
前記複数の送信用データを間欠的に受信する通信部と、
前記送信用データに含まれる少なくとも前記第1ピクチャを解析処理する解析処理部とを有する受信装置と
を備える映像送信システム。 - 他のピクチャを参照せずに復号可能な第1ピクチャと、他のピクチャを参照して復号可能な1以上の第2ピクチャとからなる符号化データを生成し、
前記符号化データの前記第1ピクチャと、前記符号化データの直前の符号化データの前記1以上の第2ピクチャとを組合せて送信用データを生成し、
映像ストリームを構成する複数の前記送信用データを前記送信用データの単位で間欠的に送信すること
を含む映像送信方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011022067A JP2012165071A (ja) | 2011-02-03 | 2011-02-03 | 撮像装置、受信装置、映像送信システムおよび映像送信方法 |
CN2012100188219A CN102629971A (zh) | 2011-02-03 | 2012-01-20 | 成像装置、接收装置、视频发送系统和视频发送方法 |
US13/362,560 US20120201299A1 (en) | 2011-02-03 | 2012-01-31 | Imaging apparatus, receiving apparatus, video transmission system, and video transmission method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011022067A JP2012165071A (ja) | 2011-02-03 | 2011-02-03 | 撮像装置、受信装置、映像送信システムおよび映像送信方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012165071A true JP2012165071A (ja) | 2012-08-30 |
Family
ID=46588128
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011022067A Pending JP2012165071A (ja) | 2011-02-03 | 2011-02-03 | 撮像装置、受信装置、映像送信システムおよび映像送信方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20120201299A1 (ja) |
JP (1) | JP2012165071A (ja) |
CN (1) | CN102629971A (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10164394A (ja) * | 1996-12-02 | 1998-06-19 | Hitachi Ltd | 情報伝送方法及び情報記録方法と該方法を実施する装置 |
JP2011502425A (ja) * | 2007-10-31 | 2011-01-20 | トムソン ライセンシング | 移動体通信システムにおける初期化データとタイムバーストとの同期化 |
JP2011507405A (ja) * | 2007-12-10 | 2011-03-03 | クゥアルコム・インコーポレイテッド | リソース適応型ビデオ補間または外挿 |
JP2011530221A (ja) * | 2008-07-29 | 2011-12-15 | クゥアルコム・インコーポレイテッド | 圧縮領域の類似度メトリックに基づくビデオ符号化におけるインテリジェントフレーム間引き |
JP2012500603A (ja) * | 2008-08-19 | 2012-01-05 | クゥアルコム・インコーポレイテッド | ビデオ処理における電力及び計算負荷管理技法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100317410B1 (ko) * | 1993-07-16 | 2002-02-28 | 이데이 노부유끼 | 촬상파라미터기록장치,촬상방법및편집시스템 |
EP1383334B1 (en) * | 2002-07-17 | 2012-02-01 | Panasonic Corporation | Video data transmitting apparatus, video data receiving apparatus, and broadcasting system |
JP4371859B2 (ja) * | 2004-03-09 | 2009-11-25 | 日本電気株式会社 | 動画情報伝送方法および装置 |
US7990479B2 (en) * | 2004-05-21 | 2011-08-02 | Panasonic Corporation | Communication system and communication method |
-
2011
- 2011-02-03 JP JP2011022067A patent/JP2012165071A/ja active Pending
-
2012
- 2012-01-20 CN CN2012100188219A patent/CN102629971A/zh active Pending
- 2012-01-31 US US13/362,560 patent/US20120201299A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10164394A (ja) * | 1996-12-02 | 1998-06-19 | Hitachi Ltd | 情報伝送方法及び情報記録方法と該方法を実施する装置 |
JP2011502425A (ja) * | 2007-10-31 | 2011-01-20 | トムソン ライセンシング | 移動体通信システムにおける初期化データとタイムバーストとの同期化 |
JP2011507405A (ja) * | 2007-12-10 | 2011-03-03 | クゥアルコム・インコーポレイテッド | リソース適応型ビデオ補間または外挿 |
JP2011530221A (ja) * | 2008-07-29 | 2011-12-15 | クゥアルコム・インコーポレイテッド | 圧縮領域の類似度メトリックに基づくビデオ符号化におけるインテリジェントフレーム間引き |
JP2012500603A (ja) * | 2008-08-19 | 2012-01-05 | クゥアルコム・インコーポレイテッド | ビデオ処理における電力及び計算負荷管理技法 |
Also Published As
Publication number | Publication date |
---|---|
CN102629971A (zh) | 2012-08-08 |
US20120201299A1 (en) | 2012-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017129090A1 (zh) | 移动终端的数据传输方法和装置 | |
CN110996122B (zh) | 视频帧传输方法、装置、计算机设备及存储介质 | |
CN104396241A (zh) | 图像处理装置和方法 | |
CN104604203A (zh) | 在场景改变之后的图像中的编码和发射参数的调适 | |
MX2015006474A (es) | Dispositivo y metodo de procesamiento de imagenes. | |
US10015395B2 (en) | Communication system, communication apparatus, communication method and program | |
CN102088593B (zh) | 基于蓝牙3.0规范的mpeg4压缩视频传输通信系统及方法 | |
JP4739295B2 (ja) | 映像信号生成装置、映像信号生成方法、映像信号生成プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
US9332308B2 (en) | Image communication apparatus and control method therefor | |
US8488892B2 (en) | Image encoder and camera system | |
US8768140B2 (en) | Data processing unit and data encoding device | |
JP5938645B2 (ja) | 映像送信端末、映像送信方法、映像送信プログラム、及び映像伝送システム | |
JP2012165071A (ja) | 撮像装置、受信装置、映像送信システムおよび映像送信方法 | |
JP5884076B2 (ja) | 無線伝送端末及び無線伝送方法、それに用いる符号化装置及び符号化方法、並びにコンピュータ・プログラム | |
CN118402237A (zh) | 视频编解码器重要性指示和无线电接入网感知配置 | |
US20230283804A1 (en) | Computer-readable recording medium storing transmission program, transmission apparatus, and transmission method | |
JP6102233B2 (ja) | 評価装置、及び評価装置における画質評価方法 | |
JP2018139349A (ja) | 映像処理装置及び映像処理プログラム | |
JP5853142B2 (ja) | 動画伝送システム | |
JP6649212B2 (ja) | 符号化装置、復号装置、および画像処理システム | |
HK40021440B (en) | Method and apparatus for transmitting video frame, computer device and storage medium | |
HK40021440A (en) | Method and apparatus for transmitting video frame, computer device and storage medium | |
JP2003284072A (ja) | 動画像送信装置及び動画像通信システム | |
Twabi et al. | Real-Time Video Streaming on the Pub/Sub Architecture: Case of Apache Kafka | |
US9578327B2 (en) | Encoding apparatus, encoding method, and non-transitory computer-readable storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140708 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141202 |