[go: up one dir, main page]

JP7347428B2 - ネットワーク監視システム、ネットワーク監視方法、及びプログラム - Google Patents

ネットワーク監視システム、ネットワーク監視方法、及びプログラム Download PDF

Info

Publication number
JP7347428B2
JP7347428B2 JP2020537430A JP2020537430A JP7347428B2 JP 7347428 B2 JP7347428 B2 JP 7347428B2 JP 2020537430 A JP2020537430 A JP 2020537430A JP 2020537430 A JP2020537430 A JP 2020537430A JP 7347428 B2 JP7347428 B2 JP 7347428B2
Authority
JP
Japan
Prior art keywords
network
failure
monitoring
network monitoring
extracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020537430A
Other languages
English (en)
Other versions
JPWO2020036110A1 (ja
Inventor
ヴィジタ サンジーワ ラナトゥンガ
嘉伸 久礼
佳弘 小坂
悠太 長木
川 于
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020036110A1 publication Critical patent/JPWO2020036110A1/ja
Application granted granted Critical
Publication of JP7347428B2 publication Critical patent/JP7347428B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems
    • H04M11/02Telephonic communication systems specially adapted for combination with other electrical systems with bell or annunciator systems
    • H04M11/027Annunciator systems for hospitals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/0631Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/34Signalling channels for network management communication
    • H04L41/342Signalling channels for network management communication between virtual entities, e.g. orchestrators, SDN or NFV entities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/40Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using virtualisation of network functions or resources, e.g. SDN or NFV entities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/02Capturing of monitoring data
    • H04L43/026Capturing of monitoring data using flow identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/04Processing captured monitoring data, e.g. for logfile generation
    • H04L43/045Processing captured monitoring data, e.g. for logfile generation for graphical visualisation of monitoring data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/20Arrangements for monitoring or testing data switching networks the monitoring system or the monitored elements being virtualised, abstracted or software-defined entities, e.g. SDN or NFV
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/02Standardisation; Integration
    • H04L41/0213Standardised network management protocols, e.g. simple network management protocol [SNMP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/12Discovery or management of network topologies
    • H04L41/122Discovery or management of network topologies of virtualised topologies, e.g. software-defined networks [SDN] or network function virtualisation [NFV]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/142Network analysis or design using statistical or mathematical methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/04Processing captured monitoring data, e.g. for logfile generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Data Mining & Analysis (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Description

本開示は、ネットワーク監視システム、ネットワーク監視方法、及びプログラムに関する。
従来、下記の特許文献1には、IPネットワーク及びイーサネット(登録商標)OAMを用いた可動状況の監視について記載されている。
特許第5306365号公報
IPネットワークを構成するにあたり、IPネットワークに非IPデバイスを接続することが想定される。上記特許文献に記載された技術はIPデバイスを備えるIPネットワークを非IPデバイスに接続した場合に、IPネットワークと非IPデバイスの双方について監視することが困難であった。
そこで、IPデバイスを備えるIPネットワークと、非IPデバイスとを含むシステムにおいて、IPネットワークと非IPデバイスの双方について監視することが望まれていた。
本開示によれば、IPデバイスが接続されたIPネットワークを監視するIPネットワーク監視部と、非IPデバイスを監視する非IPデバイス監視部と、を備える、ネットワーク監視システムが提供される。
また、本開示によれば、IPデバイスが接続されたIPネットワークを監視することと、非IPデバイスを監視することと、を備える、ネットワーク監視方法が提供される。また、本開示によれば、IPデバイスが接続されたIPネットワークを監視することと、非IPデバイスを監視することと、を備える、AV信号をIP化された伝送システムにおけるネットワーク監視方法が提供される。
また、本開示によれば、IPデバイスが接続されたIPネットワークを監視する手段、非IPデバイスを監視する手段、としてコンピュータを機能させるためのプログラムが提供される。
以上説明したように本開示によれば、IPデバイスを備えるIPネットワークと、非IPデバイスとを含むシステムにおいて、IPネットワークと非IPデバイスの双方について監視することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係るシステムの概略構成を示す模式図である。 本開示の具体的な適用例を示す模式図である。 本開示の具体的な適用例を示す模式図である。 本開示の具体的な適用例を示す模式図である。 SDNコントローラのフロー表示制御部によって作成された、ネットワークトボロジーを可視化した表示情報を示す模式図である。 Openflowの概要を示す模式図である。 ネットワークの監視にOpenflow、sflowを利用した例を示す模式図である。 本実施形態に係るシステムの障害解析の機能の概要を示す模式図である。 問題切り分けの手法を示す模式図である。 問題切り分けの手法を示す模式図である。 問題切り分けの手法を示す模式図である。 問題切り分けの手法を示す模式図である。 非IPデバイスにおける問題解析を示す模式図である。 ネットワークシステム解析装置が備えるシステム障害自動検知部と、指定型障害検知部を示す模式図である。 指定型の障害検知を説明するための模式図である。 指定型の障害検知を説明するための模式図である。 指定型の障害検知の問題解析フローを示すフローチャートである。 障害検知の流れを説明するための模式図である。 監視用のフローの追加方法を示す模式図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図22に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示の概要
2.本開示の適用例
3.SDNを用いたネットワークフロー監視
4.システムの障害解析
4.1.ネットワークにおける問題解析
4.2.非IPデバイスにおける問題解析
5.問題解析の詳細
6.応用例
1.本開示の概要
まず、図1を参照して、本開示の一実施形態に係るシステム1000の概略構成について説明する。図1に示すように、このシステム1000は、複数のAVデバイス100、IPスイッチ200、システムコントローラ400、SDNコントローラ500、ネットワークシステム解析装置(Network System Analyzer)600、を有して構成されている。また、システム1000は、コントロールパネル700、サーバまたはディスプレイのコントローラ800を更に有している。図1において、AVデバイス100とIPスイッチ200との間では、AVストリームデータと制御データが送受信される。また、IPスイッチ200と、システムコントローラ400、SDNコントローラ500、ネットワークシステム解析装置600、コントロールパネル700、またはコントローラ800との間では、制御データが送受信される。図1では、AVデバイス100とIPスイッチ200の間、IPスイッチ200と、システムコントローラ400、SDNコントローラ500、ネットワークシステム解析装置600、コントロールパネル700、コントローラ800、またはAVデバイス100との間において、AVストリームのトラフィックを太い実線で、制御データのトラフィックを細い実線で示している。制御データのトラフィックは、ネットワークの制御データのトラフィックと、デバイスの制御データのトラフィックを含む。また、IPスイッチ200とAVデバイス100との間において、時刻の同期信号を一点鎖線で示している。なお、システムコントローラ400は、AVデバイス100の制御、切替を行う装置である。
複数のAVデバイス100は、例えばIPコンバータ等の機器である。送信側(図1のSenderに相当)のAVデバイス100には、送信側のAVソース180として、例えばカメラなどの機器が接続されている。また、受信側(図1のReceiverに相当)のAVデバイス100には、受信側のAVディスティネーション190として、ディスプレイ等の機器が接続されている。AVソース180またはAVディスティネーション190は、HDMI(登録商標)を介して通信が行われる。AVデバイス100がIPコンバータの場合、AVデバイス100は、AVソース180またはAVディスティネーション190とIPスイッチ200との間のインターフェース変換を行う。具体的に、AVデバイス100は、AV信号をIP AVストリームに変換し、IP AVストリームをAV信号に変換する。この例では、複数のカメラの映像がIPスイッチ200を介して複数のディスプレイに供給される。図1では、AVデバイス100とAVソース180またはAVディスティネーション190との間において、AVストリームのトラフィックを破線で示している。
本実施形態において、AVデバイス100、IPスイッチ200、システムコントローラ400、SDNコントローラ500、ネットワークシステム解析装置600など、図1中に二点鎖線で囲んだ領域のデバイスをIPデバイスとも称する。また、AVソース180またはAVディスティネーション190を非IPデバイスとも称する。
本実施形態のシステム1000では、SDN(Software Defined Networks)を用い、フレキシブルネットワーク設計を行う。SDNは、ネットワークをネットワークコントローラ(SDNコントローラ500)で一元管理し、動的にリソース割り当てが可能なアーキテクチャである。これにより、既存のネットワークに対してスイッチ機能やプロトコルに制約を受けることなく、用途に応じたフレキシブルなトラフィック負荷の分散を実現する。
ネットワークシステム解析装置600は、監視用の構成要素であり、ネットワークにおける問題解析と、非IPデバイスにおける問題解析を行う。なお、ネットワークとは、図1中に二点鎖線で囲んだ領域のIPネットワークに該当する。ネットワークにおける問題解析と、非IPデバイスにおける問題解析を行うことで、図1に示すシステム1000の全体の問題解析を行うことができる。これらについては、後で詳細に説明する。
システムコントローラ400、SDNコントローラ500、コントロールパネル700、サーバまたはディスプレイのコントローラ800は、制御用の構成要素である。これらの構成要素は、例えばCPUなどの中央演算処理装置とこれを機能させるためのソフトウェア(プログラム)から構成される。なお、システムコントローラ400、SDNコントローラ500、コントロールパネル700、サーバまたはディスプレイのコントローラ800の一部又は全部は、一体に構成されていても良い。
システムコントローラ400は、システム1000の全体を制御する。コントロールパネル700は、ユーザがシステム1000に操作情報を与えるためのユーザインタフェースである。コントローラ800は、制御用のサーバ、または制御用のディスプレイを制御する。
また、本実施形態のシステム1000では、ネットワークトポロジー(Network Topology)を可視化し、フロー単位の可視化による運用管理の向上を実現する。
2.本開示の適用例
本開示のシステム1000は、一例として、オーディオ(Audio)、ビデオ(Video)のIP伝送、すなわちAV伝送への提供を想定している。このシステム1000では、AVデバイス100間でIP伝送が行われる。AVソース180として、カメラ、AVストリーミングサーバ、テレビ会議システムの機器、テレビ会議システムのカメラなどの画像取得及び又は取得画像送出機器、監視カメラ、PCディスプレイ等を想定できる。また、AVディスティネーション190として、PCディスプレイ、テレビ会議などの大型ディスプレイ、プロジェクタ、記録サーバ等を想定できる。大型ディスプレイは、CLED(Crystal LED Display)を含むものであっても良い。
このシステム1000では、AVのストリーミングを、IPを使って切り替えることを想定しており、AVソース180のAV信号をIPに変換し、ネットワーク上で伝送することを想定する。ネットワークからAVディスティネーション190へ伝送する際にはIPがAV信号に変換される。
AV信号をIPに変換する前に圧縮することも可能である。AV信号をIPに変換し、RTPストリームとして伝送しても良いし、他の伝送方式を用いてよい。AV信号の効率化を図るためにマルチキャスト(Multicast)として伝送することも想定する。また、AVシステムに限定しない一般IPシステムにおける障害解析機能も一部含まれる。
図2、図3、及び図4は、本開示の具体的な適用例を示す模式図である。図2は、放送局向けのシステム1000を示している。図2のシステム1000において、AVソース180は、カメラ、AVプロダクションスイッチャー(AV Production Switcher)、ストリーミングサーバ等の機器である。また、AVディスティネーション190は、各種ディスプレイ、ストレージ等の機器である。図2に示す例では、AVデバイス100が、AVソース180またはAVディスティネーション190に内蔵されている場合を想定している。
図3は、事業者向けのシステム1000を示している。図3のシステム1000において、AVソース180は、PC画面、ストリーミングサーバ等の機器である。また、AVディスティネーション190は、各種ディスプレイ、ストレージ等の機器である。図3に示す例では、AVデバイス100は、AVソース180またはAVディスティネーション190と別体に構成されている。
図4は、医療向けのシステム1000を示している。図4のシステムにおいて、AVソース180は、術野カメラ、内視鏡、顕微鏡等の機器である。また、AVディスティネーション190は、天吊モニター、壁掛モニター、レコーダ等の機器である。図4に示す例では、AVデバイス100が、AVソース180またはAVディスティネーション190に内蔵されている場合を想定している。
本実施形態では、SDNを用いたネットワークフロー監視と、システムの障害解析を行う。システムの障害解析として、IP機器で構成されるシステムの障害解析と非IP機器で構成されるシステムの障害解析を行う。
3.SDNを用いたネットワークフロー監視
ネットワーク上流れているトラフィックの中で、特定の条件を満たしたトラフィックの集合をフローと定義する。例えば、ある特定のマルチキャストアドレス(Multicast Address)を用いたトラフィックは、AVフローもしくはAVストリーム(AV Stream)である。フローはユーザの操作によって(例:AV Device制御用のトラフィックフロー)、アプリケーションのユーズケース(例:同期用のトラフィックフロー、アドレス解説用のAPRトラフィックフロー)によって、など必要に応じて定義されるものとする。ネットワークシステム解析装置600は、特定したフローに関し、フローの統計情報が取得可能なSDN機能、又は、パケットキャプチャ装置によるパケットの詳細解析を行う機能、により当該フローの統計情報を取得し、可視化を行う。
ここでは、ネットワークトポロジーの可視化について説明する。既存のネットワークでは、データフロー単位、例えばマルチキャスト単位でのモニタリングを行うことはできない。一方、SDNを用いることで、IPスイッチ200でフロー情報を管理することができるため、データフローのモニタリング機能を実現することが可能である。本実施形態では、SDNを用い、ネットワークをSDNコントローラ500で一元管理することで、AVデバイス間のネットワークトポロジーを可視化する。
SDNコントローラ500は、IPスイッチ200からデータフローの統計情報を取得することができる。つまり、SDNコントローラ500は、IPスイッチ200を構成するリーフスイッチ、スパインスイッチからデータフローの情報を取得することが可能である。
更に、SDNコントローラ500は、エンドデバイス(各AVデバイス100)からの接続情報と、各エンドデバイスが出しているフロー情報を取得することができる。SDNコントローラ500が備えるフロー表示制御部は、IPスイッチ200から得られるデータフローの情報と、AVデバイス100から得られる、各AVデバイス100が出しているフロー情報に基づいて、エンドデバイス間のフロー情報を表示するための制御を行う。SDNを用いることで、統計情報に基づく監視では取りこぼしてしまうようなフロー情報を監視することが可能となるため、フロー単位で正確に監視を行うことができる。
また、フロー表示制御部は、フロー情報をネットワークトラフィック毎に分離して表示するための制御を行う。例えば、マルチキャストトラフィックリスト、ユニキャストトラフィックリスト、ブロードキャストトラフィックリスト毎に分離した表示を行う。
更に、UI情報として、IPスイッチ200の経路情報、転送テーブルを参照して表示すること、IPスイッチ200に実際に流れるトラフィック量を見て経路を判断し、表示することも行う。
図5は、SDNコントローラ500のフロー表示制御部によって作成された、ネットワークトボロジーを可視化した表示情報を示す模式図である。図5に示す情報は、経路情報に基づいて、また実トラフィックのデータの流れに応じて、ディスプレイ(コントロールパネル700)等に表示される。SDNコントローラ500は、IPスイッチ200におけるデータフローの流れを把握するとともに、ネットワーク内のエンドデバイス(AVデバイス100)が出しているフロー情報を取得することで、図5に示す情報を作成することができる。
図5に示すように、システム構成が左側に表示される。AVデバイス150,152,154がIPスイッチ200を介して接続され、またIPスイッチ200にSDNコントローラ500が接続された状態が示されている。
また、図5の右上には、フローリストとして、例えば、AVデバイス152(IPC_TX1)のマルチキャストのAVストリームのビットレート(=8,560,557,792bps)、データ量(=53911911992bytes)が示されている。また、AVデバイス154(IPC_RX1)からの制御データのブロードキャストのデータのビットレート(=384bps)、データ量(=3006300)が示されている。
また、図5の右下には、IPスイッチ200の各スイッチにおけるフロー情報が示されている。従って、AVデバイス150,152,154におけるデータフローの情報と、IPスイッチ200におけるデータフローの情報の双方がUIを用いて可視化されるため、ユーザは、送信側のAVデバイス100からIPスイッチ200を経て受信側のAVデバイス100へ流れるデータフローを認識することが可能となる。また、図5に示すネットワークトポロジーを可視化した情報には、ネットワークシステムの変更も反映されるため、AVデバイス100を更に追加した場合においても、送信側のAVデバイス100からIPスイッチ200を経て受信側のAVデバイス100へ流れるデータフローを認識することが可能となる。
以上のように、SDN技術を用いることで、エンド・トゥ・エンドでのフローをネットワーク上で可視化するシステムを提供できる。また、SDN技術を用いて制御トラフィックとAVトラフィックの両方を可視化するシステムを提供できる。
ネットワークの監視には、sflow、Netflow、Openflowなどのプロトコルを利用することができる。また、デバイスの監視には、SNMP、独自監視用のプロトコルなどを利用することもできる。
図6は、Openflowの概要を示す模式図である。OpenFlowは、SDNを実現する技術の1つであり、ネットワーク機器を1つの制御装置で集中管理して複雑な転送制御を行ったり、柔軟にネットワーク構成を変更できる技術である。OpenFlowでは、従来のネットワーク機器では内部にある「経路制御の機能」と「データ転送の機能」を分離させている。OpenFlowは「OpenFlowコントローラ」と「OpenFlowスイッチ」で構成される。
図7は、ネットワークの監視にOpenflow、sflowを利用した例を示す模式図である。Openflowを利用する場合、SDNコントローラ500からフローを定義し、基本制御として利用する。制御用のフローの統計情報よりネットワークのフローを監視することが可能である。Openflowでは、指定したフローに対して、どれだけの情報量(バイト数、時間)が流れているかを判別することができる。また、sflowを利用する場合、sflowは監視専用のアプリケーションであるため、パケットサンプルをとって解析を行い、監視を行う。
4.システムの障害解析
図8は、本実施形態に係るシステムの障害解析の機能の概要を示す模式図である。障害解析は、ネットワークシステム解析装置600によって行われる。図8に示すように、ネットワークシステム解析装置600は、IPデバイスを監視するIPデバイス監視部610、SDNスイッチ(IPスイッチ200)を監視するSDNスイッチ監視部620、非IPデバイスを監視する非IPデバイス監視部630、を備える。ネットワークシステム解析装置600は、IPスイッチ200を監視するとともに、IPデバイスと非IPデバイスの双方を監視できるように構成されている。IPデバイス監視部610とSDNスイッチ監視部620により、IPネットワーク監視部が構成される。ネットワークシステム解析装置600のIPデバイス監視部610、SDNスイッチ監視部620、非IPデバイス監視部630などの各構成要素は、例えばCPUなどの中央演算処理装置とこれを機能させるためのソフトウェア(プログラム)から構成される。
図8には、ネットワークシステム解析装置600による障害解析の処理の流れについても示している。障害が発生すると(ステップS10)、必要なデータ収集が行われる(ステップS12)。そして、一次切り分け原因を判断し(ステップS14)、根本原因を判断する(ステップS16)。根本原因が分かると、根本原因に基づいて障害の解決が行われる(ステップS18)。
本実施形態が想定するシステムは以下の通りである。本実施形態は、下記のどのシステムにおいても適応が可能である。
・All IP System (Device/Network障害解析)
・IP/Legacy AV Switching Hybrid System(Device/Network障害解析)
・Legacy AV Switching (Device障害解析)
また、本システムは下記のIPネットワークにおいて利用可能である。
・LAN Network
・WAN Network
・無線ネットワーク(例:5G)
・LAN/WAN/無線の混在
ネットワークシステム解析装置600は、障害解析機能を備えるソフトウェア(プログラム)から構成される。ネットワークシステム解析装置600は、専用サーバで動作させることが可能である。また、ネットワークシステム解析装置600は、システムコントローラ400用のサーバで動作させることも可能である。また、ネットワークシステム解析装置600は、IPスイッチ200内のCPUで動作させることも可能である。また、ネットワークシステム解析装置600は、クラウドサーバとして動作させることも可能である。
4.1.ネットワークにおける問題解析
ネットワークにおける問題解析は、主として、ネットワークシステム解析装置600のIPデバイス監視部610とSDNスイッチ監視部620により行われる。つまり、ネットワークにおける問題解析は、IPデバイスの監視とIPスイッチ200(SDNスイッチ)の監視により行われる。
ネットワークにおける問題解析では、以下の障害を想定障害リストとして挙げる。
(1)システムコントローラ400などのコントローラとAVデバイス100が接続しない
(2)AVデバイス100同士など、システム内のデバイスが時刻同期されていない(Leader/Follower Lockされていない)
(3)制御が効かない(送信開始できない、映像が切り替わらない。設定が反映されない等)
(4)画像が出力されない、画像が乱れる
以下では、上記の障害が発生した場合に、問題を切り分ける基本概念について説明する。問題が起きた際に、その問題を下記のいずれかに切り分けすることで問題解析を効率化ができる。この切り分けを1次切り分けと称する。1次切り分けは、主にSDNスイッチ監視部620により行われる。
・制御関連のパケットによる問題
・AVストリーム関連のパケットによる問題
・同期用のパケットによる問題
更に問題の原因を下記のコンポーネントの中のいずれかであることを識別することで、更に原因詳細を特定する。
・ケーブル関連の問題
・ネットワークスイッチ(IPスイッチ200)に関連する問題
・エンドデバイス(制御/IPC)と設定における問題
この以上の切り分けは、主にIPデバイス監視部610とSDNスイッチ監視部620により行われる。なお、エンドデバイスとは、ネットワーク内のエンドデバイスであり、基本的にはAVデバイス100に相当する。従って、エンドデバイスは、非IPデバイスを含まない。
図9~図12は、問題切り分けの手法を示す模式図である。図9~図12に示すように、一次切り分けの原因として、AVパケット(PKT)のロス(A1)(パケットが届いたり、届かなかったりする)、AVパケットのジッター(A2)、AVパケットが届かない(A3)、AVパケットは正しく届いているが乱れたり出力できない(A4)、制御パケットが届かない(B1)、同期パケットが届かない(C1)、同期パケットのジッターや遅延(C2)が挙げられる。なお、A1~A4はAV(映像、音声)ストリームの障害であり、B1は制御ストリームの障害であり、C1~C2は同期ストリームの障害である。
根本原因として、ケーブル未接続(D1)、接続ポート誤り(D2)、ケーブルの品質や干渉などのケーブルの問題(D3)、スイッチ経路設定の問題(E1)、帯域あふれ(E2)、スイッチホップ数(E3)、スイッチ不具合(E4)、IPアドレス重複(F1)、デバイス設定ミス(F2)、コントローラ設定ミス(F3)、デバイス不具合(F4)、コントローラ不具合(F5)、不明なトラフィック(F6)が挙げられる。D1~D3はケーブルの問題であり、E1~E4はIPスイッチ200の問題であり、F1~F6はAVデバイス100の問題である。
検知手段として、LinkUp+MAC+Neibor Port(G1)、SDNコントローラ500でArpを確認(G2)、IPスイッチ200、SDNコントローラ500、AVデバイス100でのロス確認、およびロス地点の特定(G3)、SDNコントローラ500でネットワーク構成、設定、経路を取得し、問題ないか確認(G4)、SDNコントローラ500でトラフィック量を確認(G5)、スイッチ設定、スイッチのステータスを確認(G6)、SDNコントローラでIPアドレスの重複を確認(G7)、デバイス設定、ステータスの確認(G8)、コントローラの設定、ステータスの確認(G9)、sFlow/Netflowによる検知(G10)が挙げられる。より具体的には、G5では想定外フローが無いかを確認し、G7では重複デバイスを隔離可能であり、G8ではトラフィックが届いているか、デコードエラーが生じているかを確認し、G9ではトラフィックが届いているか、設定エラーかを確認する。
解決手段として、ケーブル接続(H1)、指示に従いケーブルを指し直す(H2)、ケーブル交換(H3)、解析結果に基づきSDNコントローラの設定を直す(H4)、スイッチ設定確認結果に基づき、設定し直す(H5)、重複しないようにIPアドレスを設定し直す(H6)、デバイス設定、ステータス確認結果に基づき設定し直す(H7)、コントローラ設定確認結果に基づき設定し直す(H8)、不明なトラフィックのブロック(H9)が挙げられる。
図9では、コントローラとAVデバイス100が接続しない場合を示している。この場合、制御ストリームに問題があると考えられ、図9に示すように、一次切り分け原因として、制御パケットが届かない(B1)に該当し、根本原因としてD1~D3、E1~E4、F1~F6を確認する。そして、G1~G10の検知手段により障害が発生している箇所を特定し、H1~H9の解決手段により障害を解決する。図9中に矢印で示すように、根本原因が分かると、根本原因に対応する検知手段で障害を検知し、検知手段に対応する解決手段で障害を解決する。
図10では、時刻同期がされていない場合を示している。この場合、図10に示すように、一次切り分け原因として、同期パケットが届かない(C1)に該当し、根本原因としてD1~D3、E1~E4、F1~F6を確認する。そして、G1~G10の検知手段により障害が発生している箇所を特定し、H1~H9の解決手段により障害を解決する。
図11では、制御が効かない場合(送信開始できない、映像が切り換わらない、設定が反映されない)を示している。この場合、図11に示すように、一次切り分け原因として、制御パケットが届かない(A4)に該当し、根本原因としてD1~D3、E1~E4、F1~F6を確認する。そして、G1~G10の検知手段により障害が発生している箇所を特定し、H1~H9の解決手段により障害を解決する。
図12では、画像が出ない(画像が乱れる)場合を示している。この場合、図12に示すように、一次切り分け原因として、A1~A3またはB1に該当し、根本原因としてD1~D3、E1~E4、F1~F6を確認する。そして、G1~G10の検知手段により障害が発生している箇所を特定し、H1~H9の解決手段により障害を解決する。図10~図12においても、図9と同様に、根本原因が分かると、根本原因に対応する検知手段で障害を検知し、検知手段に対応する解決手段で障害を解決する。
4.2.非IPデバイスにおける問題解析
図13は、非IPデバイスにおける問題解析を示す模式図である。非IPデバイスの障害検知は、HDMI(登録商標)で通信するAVソース180またはAVディスティネーション190の情報が、AVデバイス100にてインターフェース変換されネットワークシステム解析装置600に取得されることで行われる。図13では、障害の減少として、画が出ない(J1)、画にノイズが入る(J2)、正しい解像度で表示されない(J3)、黒画が出る(J4)、画が割れる(J5)を挙げている。また、一次切り分け原因として、HDMI(登録商標)/DPネゴシエーション不良(K1)、AV信号の揺れ(K2)、同期信号の揺れ(K3)、サーバ間の同期外れ(L1)、信号がスペック外(K4)、EDIDが対応していない(K5)、デバイスが対応信号外(L2)、機材設定ミス(L3)、信号未達(K6)を挙げている。K1~K5は信号関連の一次切り分け原因であり、L1~L3は機器関連の一次切り分け原因である。
根本原因として、断線(M1)、コネクタ不良(M2)、ケーブルの信号帯域が足りない(M3)、信号にノイズが乗る(M4)、フォーマット規定以内に信号が来ていない(N1)、モニタの引き込みタイミング(N2)、解像度が特殊(N3)、PCおよびモザイク設定が外れている(N4)を挙げている。M1~M4はケーブル関連の根本原因であり、N1~N4は受信機器関連の根本原因である。
検知方法として、デバイスの信号ステータス確認(P1)、デバイスの設定確認(P2)、検知方法無(P3)、PCのステータス確認(P4)、別モニタを接続してデバイス異存かの切り分け(P5)、別デバイスを接続してデバイス異存かの切り分け(P6)を挙げている。非IPデバイスの問題解析においても、一次切り分けに基づいて根本原因を判断し、根本原因が分かると、根本原因に対応する検知手段で障害を検知し、検知手段に対応する解決手段で障害を解決する。
5.問題解析の詳細
以下では、上述した問題解析について、更に詳細に説明する。問題解析は、システム障害の自動検知と、指定型の障害検知に大別される。図14は、ネットワークシステム解析装置600が備えるシステム障害自動検知部640と、指定型障害検知部650を示す模式図である。
システム障害自動検知部640は、システム障害を常時に自動検知し、問題を通知する。また、システム障害自動検知部640は、問題を必要に応じて可視化し、対策方法を通知する。指定型障害検知部650は、選択した端末、動作関連する障害を自動で検知し、問題を通知する。また、指定型障害検知部650は、問題を可視化し、対策方法を通知する機能も備える。システム障害自動検知部640、指定型障害検知部650は、いずれも図9~図12に示した検知手段に相当し、根本原因を検知し、判断する。
システム障害自動検知部640により想定するシステム障害自動検知の例として、以下を挙げることができる。
・接続ポートの誤り検知
・ネットワークケーブルのリンクダウン検知
・ネットワークケーブルの劣化検知
・ネットワークスイッチにおけるロス、パケットエラー検知
・IPアドレスの重複検知
・帯域溢れ検知
・不明(Unknown)トラフィック検知
各システム障害について、検知方法と対策方法を説明する。接続ポートの誤り検知では、検知手段として、想定ネットワーク構成をSDNモニタリング機能に入力し、想定構成とネットワークトポロジー検知結果を比較し、誤っている場合は通知する。SDNモニタリング機能への入力は、ファイルベース、UIで指定する。対策手段として、比較結果に基づいて間違い箇所を指摘し、修正方法を通知する。
ネットワークケーブルのリンクダウン検知では、検知手段として、ネットワークケーブルのリンクアップステータスを常時監視し、利用するはずのポートがリンクダウンした場合はそれを通知する。対策手段として、リンクダウン箇所を通知し、対策案を出し、ケーブル抜き差し、ケーブル交換、トランシーバ抜き差し、トランシーバ交換、エンドデバイス交換、スイッチ交換が挙げられる。
ネットワークケーブルの劣化検知では、検知手段として、スイッチの確認コマンドにより、ケーブル品質を常時監視し、ケーブル品質レベルが閾値を越えた場合に通知を行う。対策手段として、関連するケーブル交換を推奨し、ケーブルが原因ではない場合はトランシーバの交換を推奨する。ケーブル、トランシーバのいずれも原因でない場合は、スイッチ交換を推奨する。
ネットワークスイッチにおけるロス、パケットエラー検知では、検知手段として、ネットワークスイッチインタフェースごとのロスとパケットエラーを常時検知し、ネットワークスイッチフローごとのロスとパケットエラーを常時検知する。対策手段として、関連するリンクのケーブルの交換を推奨し、その他の関連する障害があるかどうか検知し、対策案を通知する(スイッチ温度、帯域溢れなど)。
IPアドレスの重複検知では、検知方法として、SDNコントローラ500よりARP及びARPリプライを常時監視し、利用中のIPアドレス/MACのリストをSDNコントローラ500で保持し、利用中のIPアドレスを他のデバイスで利用中の場合は通知する。対策方法として、重複情報を通知し、1つのIPアドレスを変更するようにトライする。後からのデバイスのIPアドレス変更を基本とする。2つ目のデバイスをシステムに繋げないように、SDNコントローラ500でブロックする。
帯域漏れ検知では、検知手段として、各デバイスが利用可能な最大の帯域情報をデバイスモニタリング機能から取得し、端末ごとの最大トラフィック量がインタフェースの物理帯域を越えた場合は通知する。ネットワークの実トラフィックが想定の物理帯域を越えた場合は通知する。対策手段として、待機溢れの箇所とどのぐらい帯域が溢れるかを通知した上で、必要に応じてネットワークの再設計・構築を行う。
不明(Unknown)トラフィック検知では、検知手段として、sFlow,Netflowにより流れるフローの統計を取り、想定外のトラフィックを見つけた場合は通知する。対策手段として、不明トラフィックがあることを通知し、必要に応じて不明トラフィックをブロックする。
図15~図17は、指定型の障害検知を説明するための模式図である。障害によっては、外部からトリガを与えないと解析できないものがあり、これを指定型の障害と称する。指定型の障害のために外部トリガーを下記の3つの方法のいずれかで行う。その方法は「障害解析機能のUIから指定する」、「システムコントローラからAPI呼び出しで通知する」、「障害解析機能内で解析を行うことで特定する」である。指定型障害検知部650は、指定した動作が実行されるか否かをIPデバイス及びIPネットワークと照合することにより障害を検知する。なお、指定した動作における障害の検知は、IPデバイス監視部610または非IPデバイス監視部630により行われる。「障害解析機能のUIから指定する」方法を下記の例で示す。
例えば、コントロールパネル700から映像を切り換えた場合に、実際に映像が切り換わらない問題が生じた場合などが指定型の障害に相当する。ここでは、コントロールパネル700から映像を切り換えた場合に、実際に映像が切り換わらない場合の解析を例に挙げて説明する。具体的に、図15において、コントロールパネルからの入力で、Rx1が表示する映像をTx1の映像に切り換えた場合に、Tx1の映像に実際に切り換わらない場合について説明する。図15は、図1と同様に本開示のシステム1000を示しており、1つのIPスイッチ202,204が設けられた例を示している。なお、図示は省略するが、送信側のAVデバイス100(Tx1~Tx4)はAVソース180と一体に構成され、受信側のAVデバイス100(Rx1~Rx4)はAVディスティネーション190と一体に構成されているものとする。
図16は、図15に示すシステムにおいて、映像の切り換えの流れを説明するための模式図である。先ず、イベントを開始し、コントロールパネルのUIによりRx1が表示する映像をTx1の映像に切り換える。次に、ステップS22では、システムコントローラ400がIPスイッチ202(ネットワークスイッチ1)に対し、Rx1が表示する映像をTx1の映像に切り換えるよう、切り換え命令を出す。次に、ステップS24では、Rx1がIPスイッチ204(ネットワークスイッチ2)に対し、参加リクエスト(join Request)を出す。参加リクエストは、IGMPを使った映像を要求するリクエストである。次に、ステップS26では、IPスイッチ204(ネットワークスイッチ2)がRx1の参加リクエストをSDNコントローラ500へ送る。図16では、参加リクエストを一点鎖線の矢印で示している。
次に、ステップS28では、参加リクエストを受けて、SDNコントローラ500がTx1からRx1へのAV伝送フローを追加するようIPスイッチ202,204に指示を出す。図16では、AV伝送フロー追加の指示を二点鎖線の矢印で示している。次に、ステップS30では、参加リクエストを受けて、Tx1からIPスイッチ202(ネットワークスイッチ1)、IPスイッチ204(ネットワークスイッチ2)、を介してRx1へ達するAV転送フローを追加する。図16では、追加されたAV転送フローを破線の矢印で示している。
次に、ステップS32では、Rx1が切り換えステータスを完了(COMPLETE)とし、ディスプレイに表示する。
図17は、指定型の障害検知の問題解析フローを示すフローチャートである。ここでは、図16に示した処理が正常に行われない場合に、障害を検知するフローを例に挙げて説明する。先ず、ステップS40では、切替対象のエンドデバイス(AVデバイス100)の送信、受信を確認する。この際、APIより情報を取得することで、またはモニタリングのユーザインタフェースから選択することで、確認を行う。
次のステップS42では、切換命令を行う。ここでは、システムコントローラ400から受信側のAVデバイス100(Rx1)へ切り替え要求メッセージが伝送されているかを確認する。具体的には、制御経路を取得し、各リンクにおいてシステムコントローラ400から受信側のRx1へのユニキャストフローを監視し、リンクダウンを監視する。
次のステップS44では、受信側のRx1からIGMPパケット(参加リクエスト)が発行されているかを確認する。ここでは、Rx1からIPスイッチへのIGMPフローを監視する。次のステップS46では、SDNコントローラ500へIGMPパケット(参加リクエスト)が届いているかを確認する。IGMPパケットが届いている場合は、伝送予定の経路情報を取得する。
次のステップS48では、送信から受信までのAV経路のフローを監視する。ここでは、トラフィックが繋がれているか、平均帯域に問題がないか、を中心に監視を行う。
次のステップS50では、図16のステップS32で説明した、Rx1における受信切り換えのステータスが完了(COMPLETE)になっているか否かを確認する。次のステップS52では、受信側で問題が起きていないかを確認する。次のステップS54では、サーバ、ディスプレイ、送信側のAVデバイス100(Tx1)、受信側のAVデバイス100(Rx1)で問題が生じていないかを、エラーログを解析することにより行う。ステップS54の後は処理を終了する。
ステップS40~S46のそれぞれで、問題が生じている場合は、問題を通知する処理を行う。なお、ステップS40~S46の処理は、制御系の障害検知に相当する。上記の障害検知順序は特に指定しないが、検知しやすい(処理が軽い)順序での検知、問題の発生確率が高い順序での検知など、障害検知順を指定することで効率化を図っても良い。
次に、受信デバイス(Rx1)へ切り換え要求メッセージが伝送されているか確認する手法として、Openflowを用いた例を示す。この場合、以下の流れで障害検知を行う。
ステップS60:SDNコントローラ500から制御メッセージの経路情報を取得
ステップS62:IPスイッチ200の関連するスイッチからフロー統計情報を取得
ステップS64:制御用のフローでは全ての経路を把握できないことがあるため、不足しているフロー監視のために、ネットワークシステム解析装置600によりフローを追加する
ステップS66:追加したフローの統計情報を取得
ステップS68:制御用の経路のフローのバイト数の変化により、フローが流れているかどうかを確認
ステップS70:制御用の経路でフローが流れていない箇所があれば通知する
図18は、上記手法の流れを説明するための模式図であって、上記の各ステップの処理を図中の矢印と対応付けて示している。指定型障害検知部650は、一点鎖線で示すフローの経路情報を取得し(ステップS60)、関連スイッチからフロー統計情報を取得する(ステップS62)。そして、ステップS64では、破線で示す矢印により、システムコントローラ400とIPスイッチ202の間にフローが追加される。
図19は、ステップS64における監視用のフローの追加方法を示す模式図である。ネットワーク上で監視できないフローがあった場合は、ネットワークシステム解析装置600の指定型障害検知部650が図19に示す方法で監視用のフローを追加する。なお、監視用のフローの追加は、同様の手法によりシステム障害自動検知部640が行うこともできる。制御用のテーブルと監視用のテーブルを分け、監視フローを最初のテーブルで定義し、制御用のテーブルにgoto tableで転送する。
6.応用例
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図20は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図20を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図20では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A~5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A~5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A~5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A~5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図20では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図21は、集中操作パネル5111における操作画面の表示例を示す図である。図21では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図21を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図22は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図20に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図22では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a~5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a~5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図20に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(Light Emitting Diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図22では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a~5147cにはアクチュエータが設けられており、関節部5147a~5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a~5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a~5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a~5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図23を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図23は、図22に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図23を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、手術室システム5100を構成するネットワークに好適に適用され得る。手術室システム5100に本開示に係る技術を適用することにより、低価格で各デバイス間を効率良く接続するネットワークシステムを構築することが可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
IPデバイスが接続されたIPネットワークを監視するIPネットワーク監視部と、
非IPデバイスを監視する非IPデバイス監視部と、
を備える、ネットワーク監視システム。
(2)
前記IPネットワーク監視部は、前記IPデバイスを監視するIPデバイス監視部と、前記IPネットワークのIPスイッチを監視するIPスイッチ監視部と、を含む、前記(1)に記載のネットワーク監視システム。
(3)
前記IPネットワーク監視部は、前記IPネットワークに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記障害の根本原因を抽出する、前記(1)又は(2)に記載のネットワーク監視システム。
(4)
前記IPネットワーク監視部は、前記一次切り分け原因として、前記IPネットワークにおける映像情報の障害、前記IPネットワークにおける制御情報の障害、及び前記IPデバイスの同期情報の障害の少なくともいずれかを抽出する、前記(3)に記載のネットワーク監視システム。
(5)
前記IPネットワーク監視部は、前記根本原因として、前記IPネットワークに設けられたケーブルの障害、前記IPネットワークのIPスイッチの障害、及び前記IPデバイスの障害の少なくともいずれかを抽出する、前記(3)又は(4)に記載のネットワーク監視システム。
(6)
前記IPネットワーク監視部は、抽出した前記根本原因に対応する検知を行うことで、前記IPネットワークに発生した前記障害の解決策を抽出する、前記(3)~(5)のいずれかに記載のネットワーク監視システム。
(7)
前記IPネットワーク監視部は、前記IPネットワークのフローをフロー単位で可視化することで、前記IPネットワークを監視する、前記(1)~(6)のいずれかに記載のネットワーク監視システム。
(8)
前記IPネットワーク監視部は、前記フローの特定を、システムコントローラから収集した情報、ユーザ設定による情報、又はフローを特定するアプリケーションから収集した情報の少なくともいずれかに基づいて行う、前記(7)に記載のネットワーク監視システム。
(9)
前記IPネットワーク監視部は、特定した前記フローに関し、フローの統計情報が取得可能なSDN機能、又は、パケットキャプチャ装置によるパケットの詳細解析を行う機能、により当該フローの統計情報を取得し、前記可視化を行う、前記(8)に記載のネットワーク監視システム。
(10)
前記非IPデバイス監視部は、前記非IPデバイスに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記障害の根本原因を抽出する、前記(1)~(9)のいずれかに記載のネットワーク監視システム。
(11)
前記非IPデバイス監視部は、抽出した前記根本原因に対応する検知を行うことで、前記非IPデバイスに発生した前記障害の解決策を抽出する、前記(10)に記載のネットワーク監視システム。
(12)
前記IPネットワークにおけるシステム障害を常時検知するシステム障害自動検知部と、
前記IPネットワークにおける特定の前記IPデバイスの動作を指定して障害を検知する指定型障害検知部と、
を更に備える、前記(1)~(11)のいずれかに記載のネットワーク監視システム。
(13)
前記システム障害自動検知部は、前記IPネットワークにおける接続ポートに関する障害、ネットワークケーブルに関する障害、前記IPネットワークのIPスイッチに関する障害、IPアドレスの重複に関する障害、帯域に関する障害、不明なトラフィックに関する障害、の少なくともいずれかを検知する、前記(12)に記載のネットワーク監視システム。
(14)
前記指定型障害検知部は、前記IPネットワークに監視できないフローが存在する場合に、監視用のフローを追加する、前記(12)又は(13)に記載のネットワーク監視システム。
(15)
前記指定型障害検知部は、障害解析機能のUIから指定する、システムコントローラからのAPIの呼び出しで通知する、又は、障害解析機能を用いた解析を行う、のいずれかを用いて前記動作を指定し、指定した前記動作が実行されるか否かを前記IPデバイス及び前記IPネットワークと照合することにより前記障害を検知する、前記(14)に記載のネットワーク監視システム。
(16)
前記指定した動作における前記障害の検知は、前記IPネットワーク監視部と前記非IPデバイス監視部により行われる、前記(15)に記載のネットワーク監視システム。
(17)
前記システム障害自動検知部は、ARP及びARPリプライを常時監視し、利用中のIPアドレス/MACのリストを保持し、利用中のIPアドレスを他のデバイスで利用中の場合は、前記IPアドレスの重複に関する障害を検知する、前記(13)に記載のネットワーク監視システム。
(18)
IPデバイスが接続されたIPネットワークを監視することと、
非IPデバイスを監視することと、
を備える、ネットワーク監視方法。
(19)
IPデバイスが接続されたIPネットワークを監視することと、
非IPデバイスを監視することと、
を備える、AV信号をIP化された伝送システムにおけるネットワーク監視方法。
(20)
IPデバイスが接続されたIPネットワークを監視する手段、
非IPデバイスを監視する手段、
としてコンピュータを機能させるためのプログラム。
100 AVデバイス
200 IPスイッチ
600 ネットワークシステム解析装置
610 IPデバイス監視部
620 SDNスイッチ監視部
630 非IPデバイス監視部
640 システム障害自動検知部
650 指定型障害検知部

Claims (20)

  1. IPデバイスが接続されたIPネットワークを監視するIPネットワーク監視部と、
    前記IPデバイスの少なくとも1つに接続された非IPデバイスを監視する非IPデバイス監視部と、を備え、
    前記IPネットワーク監視部は、前記IPネットワークに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記IPネットワークに発生した障害の根本原因を抽出し、
    前記非IPデバイス監視部は、前記非IPデバイスに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記非IPデバイスに発生した障害の根本原因を抽出する、
    ネットワーク監視システム。
  2. 外部からのトリガーに基づいて、前記IPネットワーク監視部による前記IPネットワークの監視と前記非IPデバイス監視部による前記非IPデバイスの監視の双方を行う、
    請求項1に記載のネットワーク監視システム。
  3. 前記IPネットワーク監視部は、前記IPデバイスを監視するIPデバイス監視部と、前記IPネットワークのIPスイッチを監視するIPスイッチ監視部と、を含む、請求項1又は2に記載のネットワーク監視システム。
  4. 前記IPネットワーク監視部は、前記一次切り分け原因として、前記IPネットワークにおける映像情報の障害、前記IPネットワークにおける制御情報の障害、及び前記IPデバイスの同期情報の障害の少なくともいずれかを抽出する、請求項3に記載のネットワーク監視システム。
  5. 前記IPネットワーク監視部は、前記根本原因として、前記IPネットワークに設けられたケーブルの障害、前記IPネットワークのIPスイッチの障害、及び前記IPデバイスの障害の少なくともいずれかを抽出する、請求項3又は4に記載のネットワーク監視システム。
  6. 前記IPネットワーク監視部は、抽出した前記根本原因に対応する検知を行うことで、前記IPネットワークに発生した前記障害の解決策を抽出する、請求項3~5のいずれか1項に記載のネットワーク監視システム。
  7. 前記IPネットワーク監視部は、前記IPネットワークのフローをフロー単位で可視化することで、前記IPネットワークを監視する、請求項1~6のいずれか1項に記載のネットワーク監視システム。
  8. 前記IPネットワーク監視部は、前記フローの特定を、システムコントローラから収集した情報、ユーザ設定による情報、又はフローを特定するアプリケーションから収集した情報の少なくともいずれかに基づいて行う、請求項7に記載のネットワーク監視システム。
  9. 前記IPネットワーク監視部は、特定した前記フローに関し、フローの統計情報が取得可能なSDN機能、又は、パケットキャプチャ装置によるパケットの詳細解析を行う機能、により当該フローの統計情報を取得し、前記可視化を行う、請求項8に記載のネットワーク監視システム。
  10. 前記非IPデバイス監視部は、抽出した前記根本原因に対応する検知を行うことで、前記非IPデバイスに発生した前記障害の解決策を抽出する、請求項1~9のいずれか1項に記載のネットワーク監視システム。
  11. 前記IPネットワークにおけるシステム障害を常時検知するシステム障害自動検知部と、
    前記IPネットワークにおける特定の前記IPデバイスの動作を指定して障害を検知する指定型障害検知部と、
    を更に備える、請求項1~10のいずれか1項に記載のネットワーク監視システム。
  12. 前記指定型障害検知部は、処理が軽い順序、又は問題の発生確率が高い順序で障害の検知を行う、
    請求項11に記載のネットワーク監視システム。
  13. 前記システム障害自動検知部は、前記IPネットワークにおける接続ポートに関する障害、ネットワークケーブルに関する障害、前記IPネットワークのIPスイッチに関する障害、IPアドレスの重複に関する障害、帯域に関する障害、不明なトラフィックに関する障害、の少なくともいずれかを検知する、請求項11又は12に記載のネットワーク監視システム。
  14. 前記システム障害自動検知部又は前記指定型障害検知部は、前記IPネットワークに監視できないフローが存在する場合に、監視用のフローを追加する、請求項11~13のいずれか1項に記載のネットワーク監視システム。
  15. 前記指定型障害検知部は、障害解析機能のUIから指定する、システムコントローラからのAPIの呼び出しで通知する、又は、障害解析機能を用いた解析を行う、のいずれかを用いて前記動作を指定し、指定した前記動作が実行されるか否かを前記IPデバイス及び前記IPネットワークと照合することにより前記障害を検知する、請求項14に記載のネットワーク監視システム。
  16. 前記指定した動作における前記障害の検知は、前記IPネットワーク監視部と前記非IPデバイス監視部により行われる、請求項15に記載のネットワーク監視システム。
  17. 前記システム障害自動検知部は、ARP及びARPリプライを常時監視し、利用中のIPアドレス/MACのリストを保持し、利用中のIPアドレスを他のデバイスで利用中の場合は、前記IPアドレスの重複に関する障害を検知する、請求項13に記載のネットワーク監視システム。
  18. 複数のIPデバイスが接続されたIPネットワークを監視するIPネットワーク監視ステップと、
    前記複数のIPデバイスの少なくとも1つに接続された非IPデバイスを監視する非IPデバイス監視ステップと、を備え、
    前記IPネットワーク監視ステップでは、前記IPネットワークに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記IPネットワークに発生した障害の根本原因を抽出し、
    前記非IPデバイス監視ステップでは、前記非IPデバイスに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記非IPデバイスに発生した障害の根本原因を抽出する、
    ットワーク監視方法。
  19. IPデバイスが接続されたIPネットワークを監視するIPネットワーク監視ステップと、
    前記IPデバイスの少なくとも1つに接続された非IPデバイスを監視する非IPデバイス監視ステップと、を備え、
    前記IPネットワーク監視ステップでは、前記IPネットワークに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記IPネットワークに発生した障害の根本原因を抽出し、
    前記非IPデバイス監視ステップでは、前記非IPデバイスに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記非IPデバイスに発生した障害の根本原因を抽出する、
    V信号をIP化された伝送システムにおけるネットワーク監視方法。
  20. コンピュータを、
    IPデバイスが接続されたIPネットワークを監視するIPネットワーク監視手段、
    前記IPデバイスの少なくとも1つに接続された非IPデバイスを監視する非IPデバイス監視手段、として機能させ、
    前記IPネットワーク監視手段は、前記IPネットワークに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記IPネットワークに発生した障害の根本原因を抽出し、
    前記非IPデバイス監視手段は、前記非IPデバイスに発生した障害を予め分類された一次切り分け原因に従って抽出し、抽出した前記一次切り分け原因に基づいて前記非IPデバイスに発生した障害の根本原因を抽出する、
    ログラム。
JP2020537430A 2018-08-15 2019-08-07 ネットワーク監視システム、ネットワーク監視方法、及びプログラム Active JP7347428B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018152942 2018-08-15
JP2018152942 2018-08-15
PCT/JP2019/031139 WO2020036110A1 (ja) 2018-08-15 2019-08-07 ネットワーク監視システム、ネットワーク監視方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020036110A1 JPWO2020036110A1 (ja) 2021-08-26
JP7347428B2 true JP7347428B2 (ja) 2023-09-20

Family

ID=69525518

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020537430A Active JP7347428B2 (ja) 2018-08-15 2019-08-07 ネットワーク監視システム、ネットワーク監視方法、及びプログラム

Country Status (4)

Country Link
US (1) US11582086B2 (ja)
EP (1) EP3840298A4 (ja)
JP (1) JP7347428B2 (ja)
WO (1) WO2020036110A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111385106B (zh) * 2018-12-11 2022-03-01 华为技术有限公司 一种用于故障根因的识别方法、装置和设备
US12206750B2 (en) * 2023-03-23 2025-01-21 Truist Bank Automated interaction-event routing computer system

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001230789A (ja) 2000-02-17 2001-08-24 Hitachi Ltd Tcp/ipネットワークにおけるipアドレス重複検出方法
JP2006186693A (ja) 2004-12-28 2006-07-13 Mitsubishi Electric Corp システム総合管理システム
JP2012138727A (ja) 2010-12-27 2012-07-19 Pfu Ltd 情報処理装置、アドレス重複対処方法およびアドレス重複対処用プログラム
JP2014225775A (ja) 2013-05-16 2014-12-04 Kddi株式会社 障害管理装置
US20180077119A1 (en) 2016-09-15 2018-03-15 Arbor Networks, Inc. Visualization of traffic flowing through a host

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS536365B1 (ja) 1969-01-21 1978-03-07
JP3571782B2 (ja) * 1994-12-05 2004-09-29 富士通株式会社 ネットワークにおける制御・監視方式
JPH09160849A (ja) * 1995-12-04 1997-06-20 Nippon Telegr & Teleph Corp <Ntt> 自律エージェント制御による通信ネットワーク障害管理システム
US7898965B2 (en) 2007-10-12 2011-03-01 Nortel Networks Limited IP network and performance monitoring using ethernet OAM
US9392010B2 (en) * 2011-11-07 2016-07-12 Netflow Logic Corporation Streaming method and system for processing network metadata
US9407560B2 (en) * 2013-03-15 2016-08-02 International Business Machines Corporation Software defined network-based load balancing for physical and virtual networks
US9369351B2 (en) * 2014-01-06 2016-06-14 Cisco Technology, Inc. Using learning machine-based prediction in multi-hopping networks
US10356011B2 (en) * 2014-05-12 2019-07-16 Futurewei Technologies, Inc. Partial software defined network switch replacement in IP networks
EP3192298A4 (en) * 2014-09-08 2018-02-28 Liveu Ltd. Methods and systems for managing bonded communications across multiple communication networks
US20160080274A1 (en) * 2014-09-12 2016-03-17 Gvbb Holdings S.A.R.L. Multi-protocol control in a hybrid broadcast production environment
US9769069B2 (en) * 2015-04-10 2017-09-19 At&T Intellectual Property I, L.P. Methods and apparatus to provide a consumer services cloud in a communications network
US20170026292A1 (en) * 2015-07-20 2017-01-26 Schweitzer Engineering Laboratories, Inc. Communication link failure detection in a software defined network
US10075393B2 (en) * 2015-12-31 2018-09-11 Fortinet, Inc. Packet routing using a software-defined networking (SDN) switch
GB201617717D0 (en) * 2016-10-19 2016-11-30 Snell Advanced Media Limited Router and methods of switching
CN110945837B (zh) * 2017-06-01 2022-11-01 瑞典爱立信有限公司 优化sdn中的服务节点监视

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001230789A (ja) 2000-02-17 2001-08-24 Hitachi Ltd Tcp/ipネットワークにおけるipアドレス重複検出方法
JP2006186693A (ja) 2004-12-28 2006-07-13 Mitsubishi Electric Corp システム総合管理システム
JP2012138727A (ja) 2010-12-27 2012-07-19 Pfu Ltd 情報処理装置、アドレス重複対処方法およびアドレス重複対処用プログラム
JP2014225775A (ja) 2013-05-16 2014-12-04 Kddi株式会社 障害管理装置
US20180077119A1 (en) 2016-09-15 2018-03-15 Arbor Networks, Inc. Visualization of traffic flowing through a host

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
統合ネットワーク管理システム NETM*Cm2 バージョン5 概説 共通マニュアル,株式会社日立製作所,1998年10月,第1版,p.3~5、8~11、38~47

Also Published As

Publication number Publication date
EP3840298A1 (en) 2021-06-23
US20210336841A1 (en) 2021-10-28
US11582086B2 (en) 2023-02-14
WO2020036110A1 (ja) 2020-02-20
EP3840298A4 (en) 2021-09-22
JPWO2020036110A1 (ja) 2021-08-26

Similar Documents

Publication Publication Date Title
EP3930302A1 (en) Data transmission system, data transmission method and computer program
WO2018193799A1 (ja) 情報処理装置、および情報処理方法、並びにプログラム
JP7347428B2 (ja) ネットワーク監視システム、ネットワーク監視方法、及びプログラム
JP2017176318A (ja) 医療用立体観察装置、医療用立体観察方法、プログラム、及び医療用立体観察システム
JP7264051B2 (ja) 画像処理装置および画像処理方法
WO2017110659A1 (ja) エフェクト・スイッチャおよびスイッチャシステム
US11516127B2 (en) System controller, controlling an IP switch including plural SDN switches
US11671872B2 (en) Communication system and transmission apparatus
JP7136093B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
CN109964487B (zh) 管理装置和管理方法
WO2018088026A1 (ja) 送信装置、送信方法およびコンテンツ配信システム
CN110771102B (zh) 通信系统和控制设备
JP2021193762A (ja) 受信装置、および受信方法、並びに、画像処理システム
WO2020080118A1 (ja) 送信装置、受信装置、伝送システム、及び、伝送方法
JP2017118290A (ja) スイッチャシステム
JP2017118289A (ja) エフェクト・スイッチャ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230821

R151 Written notification of patent or utility model registration

Ref document number: 7347428

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151