以下、本発明について実施形態をもって説明するが、本発明は後述する実施形態に限定されるものではない。
図1は、本発明の通信システムの一実施形態を示す図である。通信システム100は、通信装置10a〜10hと、表示装置20a〜20h,22a〜22hと、画像提供装置30a〜30hと、通信管理装置40とを含んで構成される。
通信装置10a〜10hは、他拠点の通信装置10a〜10hとの間で画像および音声を相互に通信し、当該通信装置10a〜10hに接続された表示装置20a〜20h,22a〜22hに画像を表示すると共に音声を出力する装置である。通信装置10a〜10hは、ルータ50およびネットワーク60を介して通信管理装置40に自拠点の画像および音声を送信する。また、通信装置10a〜10hは、通信管理装置40から他拠点の画像を受信し、表示装置20a〜20h,22a〜22hに自拠点の画像および他拠点の画像を表示すると共に他拠点の音声を出力する。
本実施形態では、通信装置10a〜10hは、有線通信によって表示装置20a〜20h,22a〜22hに画像を出力するが、他の実施形態では、無線通信によって当該表示装置に画像を出力してもよい。また、本実施形態では、1の通信装置に対して2の表示装置が接続されているが、他の実施形態では、1の通信装置に3以上の表示装置を接続してもよい。さらに他の実施形態では、通信装置に1以上の表示装置が内蔵されていて、デュアル・ディスプレイ対応とされていてもよい。
画像提供装置30a〜30hは、接続された通信装置10a〜10hに対して画像を提供する装置である。画像提供装置30a〜30hは、画像提供装置30a〜30hの表示装置に表示される画像を通信装置10a〜10hに提供する。画像提供装置30a〜30hが提供する画像には、例えば、文書作成ソフトウェア、表計算ソフトウェア、プレゼンテーション用ソフトウェア等を用いて作成される資料画像や画像提供装置30a〜30hのデスクトップ画面、アプリケーションプログラムのUI(User Interface)等の種々の画像が含まれる。なお、図1では、デスクトップ型のパーソナルコンピュータが画像提供装置30a〜30hとして通信装置10a〜10hと相互接続しているものとして説明するが、画像提供装置30a〜30hとして、デスクトップ型PCの他、ノートブック型PC、iPad(登録商標)などのタブレット型PC、iPhone(登録商標)やアンドロイド(登録商標)などを搭載したスマートホンなども好ましく使用することができる。
通信管理装置40は、通信システム100のデータ通信を管理する装置である。通信管理装置40は、複数の拠点間の通信装置10a〜10hのセッションを確立し、各通信装置10a〜10hの画像および音声を中継する。
図2は、通信装置10aのハードウェア構成図の一実施形態を示す。以下、図2を参照して、通信装置10aのハードウェア構成について説明する。なお、他の通信装置10b〜10hのハードウェア構成は、通信装置10aと同様であるため、説明を省略する。
通信装置10aは、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、SSD(Solid State Drive)204と、メディアドライブ206とを含んで構成される。これらの装置はデータバス209を介して接続されている。
CPU201は、通信装置10a全体の動作を制御するプロセッサである。ROM202は、本発明のプログラムが記憶される記憶装置である。RAM203は、本発明のプログラムの実行空間を提供する記憶装置である。通信装置10aは、WINDOWS(登録商標)シリーズ、Mac(登録商標)OS(Operating System)、UNIX(登録商標)、LINUX(登録商標)などのOSの管理下でアセンブラ、C、C++、Java(登録商標)、JavaScript(登録商標)、PERL、RUBY、PYTHONなどのプログラム言語で記述された本発明のプログラムを、RAM203に展開して実行することにより、後述する各機能手段を通信装置10a上に実現する。
SSD204は、画像や音声等の各種データを記憶するフラッシュメモリやEEPROM(Electrically Erasable and Programmable ROM)等の不揮発メモリ(図示せず)を備えており、フラッシュメモリに対する各種データの読み出しまたは書き込みを制御する。メディアドライブ206は、フラッシュメモリ等の記録メディア205を挿入可能な装置であり、記録メディア205に対するデータの読み出しまたは書き込みを制御する。
また、通信装置10aは、操作ボタン207と、電源スイッチ208と、ネットワークインタフェース(I/F)210と、撮像素子I/F212と、音声入出力I/F215と、表示装置I/F216と、表示装置I/F217と、外部装置I/F218とを含んで構成される。これらの装置はデータバス209を介して接続される。
操作ボタン207は、セッションを確立する他拠点の通信装置の選択や種々の設定を行う入力装置である。電源スイッチ208は、通信装置10aの電源のON/OFFを切り換えるスイッチである。ネットワークI/F210は、ルータ50との接続を提供するインタフェースであり、ネットワーク60を介したデータ通信を行う。
撮像素子I/F212は、被写体を撮像して画像を生成するCCD(Charge Coupled Device)211を接続するインタフェースであり、CCD211を制御して画像を生成する。本実施形態では、撮像素子としてCCDを採用するが、CMOS(Complementary Metal Oxide Semiconductor)等の他の撮像素子を採用してもよい。
音声入出力I/F215は、マイク213およびスピーカ214を接続するインタフェースであり、マイク213およびスピーカ214との間で音声信号の入出力を行う。表示装置I/F216は、表示装置20aを接続するインタフェースであり、表示装置20aに画像を出力する。表示装置I/F217は、表示装置22aを接続するインタフェースであり、表示装置22aに画像を出力する。
表示装置20a,22aは、通信装置10aが出力する種々の画像を表示する表示装置である。外部装置I/F218は、画像提供装置30aを接続するインタフェースであり、画像提供装置30aから画像を受信する。
図3は、通信装置10aの機能構成の一実施形態を示す図である。以下、図3を参照して、通信装置10aの機能構成について説明する。なお、他の通信装置10b〜10hの機能構成は、通信装置10aと同様であるため、説明を省略する。
通信装置10aは、制御部300と、送受信部302と、操作受付部304と、撮像部306とを含んで構成される。
制御部300は、通信装置10aが実行する処理の全体制御を行う機能手段である。制御部300は、後述する機能手段を用いて種々の処理を実行する。
送受信部302は、通信管理装置40または画像提供装置30aとの通信を行う機能手段であり、ネットワークI/F210および外部装置I/F218によって実現される。
操作受付部304は、ユーザによる各種の操作指示を受け付ける機能手段である。例えば、ユーザが電源スイッチ208をONにすると電源投入指示が発行される。操作受付部304は、当該指示を受け付けると、通信装置10aの電源をONにする。また、ユーザが操作ボタン207によって表示装置20a〜20h,22a〜22hの表示方式を変更すると、表示方式の変更指示が発行される。操作受付部304は、当該指示を受けると、配置情報設定部314に対し、ユーザが指定した表示方式(「VIEW_MULTI」および「SHARED_MULTI」等)を、表示装置の表示方式を指定する設定情報(以下、「表示方式設定情報」とする。)として記憶部310に保存させる。なお、本実施形態の表示方式については、図5を参照して詳述する。
撮像部306は、被写体を撮像して画像を生成する機能手段であり、CCD211および撮像素子I/F212によって実現される。撮像部306は、通信装置10aが起動すると撮影画像を生成する。
また、通信装置10aは、メモリ制御部308と、記憶部310と、配置情報設定部314と、表示制御部316と、表示装置検出部318と、音声入力部320と、音声出力部322とを含んで構成される。
メモリ制御部308は、記憶部310を制御する手段である。メモリ制御部308は、記憶部310に各種データを保存し、また、記憶部310に保存された各種データを読み出す。
配置情報設定部314は、表示装置20a〜20h,22a〜22hに表示する画像の表示方式を規定する配置情報および表示方式設定情報を設定する機能手段である。配置情報設定部314は、記憶部310の配置情報テーブル312に配置情報を設定する。また、配置情報設定部314は、表示方式設定情報を記憶部310に保存する。
表示制御部316は、表示装置20a〜20h,22a〜22hを制御する機能手段である。表示制御部316は、記憶部310に保存された表示方式設定情報と、配置情報テーブル312に登録された配置情報とを使用して、当該表示装置に表示すべき画像を特定し、所定の画面割りに従って、当該画像を表示装置20a,22aに表示する。
表示装置20a,22aに表示される画像には、自拠点または他拠点の通信装置10a〜10hの撮像部306が撮像した画像(以下、「撮影画像」とする。)と、自拠点または他拠点の画像提供装置30a〜30hが提供する画像とが含まれる。
音声入力部320は、ユーザの発話等の音声を検出して音声信号を生成する機能手段である。また、音声入力部320は、ユーザの音声を音声信号に変換し、当該音声信号の強度を測定し、当該強度が所定の閾値以上である場合に、ユーザの発話を検出する。音声出力部322は、音声信号を音声に変換して出力する機能手段である。
表示装置検出部318は、通信装置10aに接続されている通電状態の表示装置を検出する手段である。表示装置検出部318は、表示装置のデバイスドライバであるグラフィックドライバによって、表示装置I/F216,217に接続されている表示装置の通電状態を検出し、通電状態の表示装置の個数を計数する。本実施形態では、WINDOWS(登録商標)OSが提供するAPI関数およびグラフィックドライバを用いて、通電状態の表示装置の個数を計数する。
制御部300は、通信装置10aの電源が投入されると、後述する表示装置の検出処理を実行し、撮像部306に撮影画像を生成させる。制御部300は、通信装置10a〜10hに画像提供装置30a〜30hが接続されている場合、当該画像提供装置30a〜30hにメニュー画面を表示させ、画像提供を可能とさせている。
制御部300は、ユーザの指示に従い、他拠点の通信装置とのセッションの確立を通信管理装置40に要求する。セッションが確立すると、制御部300は、撮像部306が生成した自拠点の撮影画像と、画像提供装置30aが提供する画像とを、通信管理装置40を介して他拠点の通信装置に送信する。また、制御部300は、他拠点の通信装置から画像を受信すると、当該画像を表示装置20a,22aに表示する。また、通信装置10a〜10hに画像提供装置30a〜30hが接続されている場合、ユーザが当該画像提供装置に表示されたメニュー画面上の共有開始ボタンが選択されると、当該画像提供装置30a〜30hから画像を取得する。
制御部300は、ユーザの発話を検出すると、ユーザが発話していることを示す情報(以下、「発話情報」とする。)を撮影画像に付加して通信管理装置40に送信する。制御部300は、他拠点から発話情報が付加された撮影画像を受信すると、当該撮影画像が表示装置20a,22aの所定の表示領域に表示されるよう、配置情報テーブル312の配置情報を変更する。
図4は、本発明の通信装置が起動時に実行する表示装置の検出処理を示すフローチャートである。以下、図4を参照して、通信装置10aの電源が投入された際に実行される表示装置の検出処理について説明する。
図4の処理は、ステップS400で通信装置10aの電源が投入されることにより開始する。ステップS401では、表示装置検出部318が、RAM203に確保される変数(ACTIVE)を0で初期化する。ステップS402では、表示装置検出部318は、通信装置10aに接続されている表示装置のうち通電状態の表示装置の個数を計数し、その個数を変数(ACTIVE)に設定する。ステップS403では、配置情報設定部314が、変数(ACTIVE)の値が0であるか否か判断する。変数(ACTIVE)の値が0のときには(yes)、処理をステップS402に戻す。一方、変数(ACTIVE)の値が0でないときには(no)、処理がステップS404に分岐する。
ステップS404では、配置情報設定部314は、変数(ACTIVE)を判断し、変数(ACTIVE)の値が1のとき、すなわち、通電状態の1の表示装置が接続されているときは、処理をステップS405に分岐する。ステップS405では、配置情報設定部314は、図5に示すような1の表示装置が接続されているときの配置情報を配置情報テーブルに設定し、ステップS407で処理が終了する。
一方、変数(ACTIVE)の値が2のとき、すなわち、通電状態の2の表示装置が接続されているときは、処理をステップS406に分岐する。ステップS406では、配置情報設定部314は、図6および図8に示すような2の表示装置が接続されているときの配置情報を配置情報テーブルに設定し、ステップS407で処理が終了する。
図5は、通電状態の1の表示装置が通信装置10aに接続されているときの表示方式および配置情報テーブルの一実施形態を示す図である。以下、図5を参照して、通電状態の1の表示装置が通信装置10aに接続されているときの表示装置の画面割り500および配置情報テーブル502について説明する。
画面割り500は、通信装置10aに接続された表示装置の画面割りを示す。図5に示す実施形態では、表示装置の表示領域が4分割されており、表示領域1の面積は、他の表示領域2〜4の面積よりも大きい。
配置情報テーブル502には、通電状態の1の表示装置が通信装置10aに接続されているときの配置情報として、表示装置に表示される画像の表示方式と、当該表示装置の表示領域に表示される画像の識別情報とが関連付けて登録される。
本実施形態の表示方式には「VIEW_MULTI」および「SHARED_MULTI」がある。「VIEW_MULTI」は、通信装置10a〜10hが自拠点および他拠点の撮影画像を表示する方式を示す。「SHARED_MULTI」は、自拠点および他拠点の撮影画像に加えて、画像提供装置30a〜30hが提供する画像を表示する方式を示す。本実施形態では、これらの表示方式はユーザによって指定され、表示方式設定情報として記憶部310に保存される。
図5に示す実施形態では、表示方式が「VIEW_MULTI」である場合には、表示領域1に他拠点の撮影画像が表示され、表示領域2に自拠点の撮影画像が表示される。また、表示方式が「SHARED_MULTI」である場合には、表示領域1に資料画像が表示され、表示領域2に他拠点の撮影画像が表示され、表示領域3に自拠点の撮影画像が表示される。
他の実施形態では、本実施形態のようにユーザ指令によって表示方式「VIEW_MULTI」および「SHARED_MULTI」を切り替えるのではなく、通信装置10a〜10hが、画像提供装置30a〜30hによる画像提供が開始されたことを検知し、表示方式を切り替えてもよい。
具体的には、通信装置10a〜10hが、例えば、特定のアプリケーションポートにおける通信開始や画像提供の開始を示す画像提供装置30a〜30hからの明示的な通知を検知し、表示方式を「VIEW_MULTI」から「SHARED_MULTI」に自動的に切り替える。画像提供装置30a〜30hからの画像提供が終了または中断すると、通信装置10a〜10hは、表示方式を「SHARED_MULTI」から「VIEW_MULTI」に切り替える。これにより、ユーザによる操作を省略することができると共に、提供画像のストリーム処理を効率化させることができる。
より詳細には、通信装置10a〜10hの送受信部302が画像提供装置30a〜30hから画像を受信すると、制御部300が、当該画像提供装置による画像提供が開始したこと通知する画像提供開始イベントを発行する。配置情報設定部314は、画像提供開始イベントを検知すると、表示方式設定情報を「SHARED_MULTI」に設定する。そして、表示制御部316は、配置情報テーブルを参照し、表示方式設定情報「SHARED_MULTI」に関連付けられている配置情報に従って資料画像および撮影画像を表示装置20a,20bに表示する。
画像提供装置30a〜30hによる画像提供が停止すると、制御部300は、当該画像提供装置による画像提供が停止したこと通知する画像提供停止イベントを発行する。配置情報設定部314は、画像提供停止イベントを検知すると、表示方式設定情報を「SHARED_MULTI」から「VIEW_MULTI」に変更する。そして、表示制御部316は、配置情報テーブルを参照し、表示方式設定情報「VIEW_MULTI」に関連付けられている配置情報に従って撮影画像を表示装置20a,20bに表示する。
本実施形態では、表示装置の画面を4つの表示領域に分割するが、他の実施形態では、3または5以上の表示領域に分割してもよい。また、本実施形態の配置情報は、2拠点で画像を共有する場合の配置情報であるが、本発明は、3以上の拠点で画像を共有することもできる。
3以上の拠点で画像を共有する場合、表示方式「VIEW_MULTI」が指定されるときは、ユーザが注目すべき他拠点の撮影画像、すなわち、発話を検出した拠点の撮影画像が表示領域1に表示されるように配置情報を変更し、ユーザが発話をしている拠点の撮影画像を表示領域1に表示することができる。
図6は、通電状態の2の表示装置が通信装置10aに接続されているときの表示方式および配置情報テーブルの一実施形態を示す図である。以下、図6を参照して、通電状態の2の表示装置が通信装置10aに接続されているときの表示装置の画面割り600,602および配置情報テーブル604について説明する。
画面割り600は、通信装置10aに接続された第1の表示装置の画面割りである。図6に示す実施形態では、表示装置の表示領域が4分割されており、表示領域1の面積は、他の表示領域2〜4の面積よりも大きい。画面割り602は、通信装置10aに接続された第2の表示装置の画面割りであり、1の表示領域で構成される。
配置情報テーブル604には、通電状態の2の表示装置が通信装置10aに接続されているときの配置情報として、第1の表示装置および第2の表示装置に表示される画像の表示方式と、当該表示装置の表示領域に表示される画像の識別情報とが関連付けて登録される。
図6に示す実施形態では、表示方式が「VIEW_MULTI」である場合には、第1の表示装置の表示領域1に他拠点の撮影画像が表示され、第1の表示装置の表示領域2に自拠点の撮影画像が表示される。一方、第2の表示装置の表示領域1には画像が表示されない。
表示方式が「SHARED_MULTI」である場合には、第1の表示装置の表示領域1に他拠点の撮影画像が表示され、第1の表示装置の表示領域2に自拠点の撮影画像が表示される。一方、第2の表示装置の表示領域1に資料画像が表示される。
本実施形態では、表示装置の画面を4つの表示領域に分割するが、他の実施形態では、3または5以上の表示領域に分割してもよい。また、本実施形態の配置情報は、2拠点で画像を共有する場合の配置情報であるが、本発明は、3以上の拠点で画像を共有することもできる。3以上の拠点で画像を共有する場合には、ユーザが注目すべき他拠点の撮影画像、すなわち、発話を検出した拠点の撮影画像が第1の表示装置の表示領域1に表示されるように配置情報を変更し、ユーザが発話をしている拠点の撮影画像を当該表示領域に表示することができる。
本実施形態では、自拠点および他拠点の撮影画像を第1の表示装置に表示し、画像提供装置30a〜30hが提供する資料画像等の画像を第2の表示装置に表示するため、これらの画像の視認性を向上させることができる。
図7は、図6に示す画面割りおよび配置情報に基づく表示装置の画面の一実施形態を示す図である。画面700および画面706は、表示方式「VIEW_MULTI」が選択されたときの第1の表示装置の画面および第2の表示装置の画面である。画面700の表示領域702には他拠点の撮影画像が表示され、表示領域704には自拠点の撮影画像が表示される。画面706には画像が表示されない。
画面710および画面716は、表示方式「SHARED_MULTI」が選択されたときの第1の表示装置の画面および第2の表示装置の画面である。画面710の表示領域712には他拠点の撮影画像が表示され、表示領域714には自拠点の撮影画像が表示される。画面716には資料画像が表示される。
図8は、通電状態の2の表示装置が通信装置10aに接続されているときの表示方式および配置情報テーブルの別の実施形態を示す図である。以下、図8を参照して、通電状態の2の表示装置が通信装置10aに接続されているときの表示装置の画面割り800,802および配置情報テーブル804について説明する。
画面割り800は、通信装置10aに接続された第1の表示装置の画面割りである。図8に示す実施形態では、表示装置の表示領域が4つに等分されている。画面割り802は、通信装置10aに接続された第2の表示装置の画面割りであり、1の表示領域で構成される。本実施形態では、表示装置の画面を4つの表示領域に分割するが、他の実施形態では、3または5以上の表示領域に分割してもよい。
配置情報テーブル804には、通電状態の2の表示装置が通信装置10aに接続されているときの配置情報として、第1の表示装置および第2の表示装置に表示される画像の表示方式と、当該表示装置の表示領域に表示される画像の識別情報とが関連付けて登録される。
図8に示す実施形態では、表示方式が「VIEW_MULTI」である場合には、第1の表示装置の表示領域1に自拠点の撮影画像が表示され、第2の表示装置の表示領域1に他拠点の撮影画像が表示される。
表示方式が「SHARED_MULTI」である場合には、第1の表示装置の表示領域1に他拠点の撮影画像が表示され、第1の表示装置の表示領域2に自拠点の撮影画像が表示される。一方、第2の表示装置の表示領域2に資料画像が表示される。
本実施形態の配置情報は、2拠点で画像を共有する場合の配置情報であるが、本発明は、3以上の拠点で画像を共有することもできる。この場合、表示方式「VIEW_MULTI」が指定されているときには、ユーザが注目すべき他拠点の撮影画像、すなわち、発話を検出した拠点の撮影画像が第2の表示装置に表示されるように配置情報を変更し、ユーザが発話をしている拠点の撮影画像を第2の表示装置に表示し、それ以外の拠点の撮影画像を第1の表示装置に表示することができる。
本実施形態では、撮影画像を第1の表示装置に表示し、画像提供装置が提供する資料画像等の画像を第2の表示装置に表示するため、画像の視認性を向上させることができる。また、注目すべき他拠点の撮影画像を、1の表示領域で構成される表示装置に表示するため、画像の視認性を向上させることができる。
図9は、図8に示す画面割りおよび配置情報に基づく表示装置の画面の一実施形態を示す図である。画面900および画面906は、表示方式「VIEW_MULTI」が選択されたときの第1の表示装置の画面および第2の表示装置の画面である。画面900の表示領域902には自拠点の撮影画像が表示され、画面906には他拠点の撮影画像が表示される。
画面910および画面916は、表示方式「SHARED_MULTI」が選択されたときの第1の表示装置の画面および第2の表示装置の画面である。画面910の表示領域912には他拠点の撮影画像が表示され、表示領域914には自拠点の撮影画像が表示される。画面916には資料画像が表示される。
図10は、本発明の通信装置が起動後に実行する表示装置の検出処理を示すフローチャートである。以下、図10を参照して、通信装置10aの起動後に実行される表示装置の検出処理について説明する。
図10の処理は、ステップS1000から開始し、ステップS1001で表示装置検出部318が、通信装置10aのOSが表示装置20a〜20h,22a〜22hの通電状態を検知して発行する通電変化イベントを受信したか否か判断する。通電変化イベントを受信していない場合には(no)、ステップS1001の処理を反復する。一方、通電変化イベントを受信した場合には(yes)、処理がステップS1002に分岐する。
ステップS1002では、表示装置検出部318は、RAM203に確保される変数(ACTIVE)を0で初期化する。ステップS1003では、表示装置検出部318が、通信装置10aに接続されている表示装置のうち通電状態の表示装置の個数を計数し、その個数を変数(ACTIVE)に設定する。ステップS1004では、配置情報設定部314が、変数(ACTIVE)の値が0であるか否か判断する。変数(ACTIVE)の値が0のときには(yes)、処理をステップS1003に戻す。一方、変数(ACTIVE)の値が0でないときには(no)、処理がステップS1005に分岐する。
ステップS1005では、配置情報設定部314は、変数(ACTIVE)の値を判断し、変数(ACTIVE)の値が1のとき、すなわち、通電状態の1の表示装置が接続されているときは、処理をステップS1006に分岐する。ステップS1006では、配置情報設定部314は、図5に示すような1の表示装置が接続されているときの配置情報を配置情報テーブルに設定し、ステップS1008で処理が終了する。
一方、変数(ACTIVE)の値が2のとき、すなわち、通電状態の2の表示装置が接続されているときは、処理をステップS1007に分岐する。ステップS1007では、配置情報設定部314は、図6および図8に示すような2の表示装置が接続されているときの配置情報を配置情報テーブルに設定し、ステップS1008で処理が終了する。
上述した処理により、通信装置10aが、起動後に表示装置を通信装置10aに接続し、または表示装置の電源を投入して通電状態となった表示装置を検知することができ、これらの表示装置に画像を表示させることができる。
これまで本実施形態につき説明してきたが、本発明は、上述した実施形態に限定されるものではなく、本実施形態の構成要素を変更若しくは削除し、または本実施形態の構成要素を他の構成要素を追加するなど、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用効果を奏する限り、本発明の範囲に含まれるものである。
上述した機能手段を実現する本発明のプログラムは、ハードディスク装置、CD−ROM、MO、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他装置が可能な形式でネットワークを介して伝送することができる。