JP4105860B2 - Surgical microscope system - Google Patents
Surgical microscope system Download PDFInfo
- Publication number
- JP4105860B2 JP4105860B2 JP2001321136A JP2001321136A JP4105860B2 JP 4105860 B2 JP4105860 B2 JP 4105860B2 JP 2001321136 A JP2001321136 A JP 2001321136A JP 2001321136 A JP2001321136 A JP 2001321136A JP 4105860 B2 JP4105860 B2 JP 4105860B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- child
- recording
- displayed
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000003287 optical effect Effects 0.000 claims description 87
- 238000001000 micrograph Methods 0.000 claims description 35
- 238000003384 imaging method Methods 0.000 claims description 25
- 238000010586 diagram Methods 0.000 description 31
- 238000006243 chemical reaction Methods 0.000 description 20
- 210000003128 head Anatomy 0.000 description 11
- 238000001514 detection method Methods 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 230000000875 corresponding effect Effects 0.000 description 6
- 238000000034 method Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000001454 recorded image Methods 0.000 description 5
- 238000001356 surgical procedure Methods 0.000 description 3
- 230000004907 flux Effects 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 238000002406 microsurgery Methods 0.000 description 2
- 230000002980 postoperative effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010336 energy treatment Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Landscapes
- Microscoopes, Condenser (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、微細部位の手術等に使用される手術用顕微鏡システムに関し、具体的には手術用顕微鏡で得られる画像の記録及び、表示を改良した手術用顕微鏡システムに関する。
【0002】
【従来の技術】
マイクロサージャリー等に用いられる手術用顕微鏡システムは、一般に、医療教育や手術記録等を目的として、術中画像をVTR等に記録する機能を有する。この種の手術用顕微鏡システムとして、例えば、特開平6−22980号公報には、術中の顕微鏡画像を観察と同時に撮影可能とするため、観察光学系に入射する観察部位からの観察光束の光路途中にビームスプリッタを設け、ビームスプリッタで分岐された観察光束を固体撮像素子まで導く技術が開示されている。
【0003】
また、近年では、手術用顕微鏡に内視鏡等を併用した手術用顕微鏡システムを用いてマイクロサージャリーが行われることがある。このような手術において、術者が接眼部から目を離すことなく顕微鏡像及び内視鏡画像の両方を同時に観察することを可能とするため、例えば、特開平10−333047号公報には、顕微鏡光学系の最終結像位置近傍に、内視鏡画像等を表示する別の画像表示手段からの画像を導く投影手段を配置した技術が開示されており、さらに、特願2000−189892号には、顕微鏡像上に表示される内視鏡画像を拡大/縮小可能とするとともに、表示位置を移動可能とする技術が開示されている。
【0004】
【発明が解決しようとする課題】
ところで、例えば、手術用顕微鏡に内視鏡を併用した手術用顕微鏡システムにおいては、顕微鏡画像及び内視鏡画像の両方が術中画像として記録されることが望ましい。この場合、例えば、特開平10−333047号公報や特願2000−189892号の技術に、特開平6−22980号公報の技術を併用することで、顕微鏡像及び内視鏡画像を同時に観察することができるとともに、顕微鏡画像及び内視鏡画像を同時に撮影することができる。そして、これら顕微鏡画像及び内視鏡画像の記録方法としては、各画像を各々独立してVTR等に記録させるか、或いは、画像ミキサ等によって顕微鏡画像の一部に内視鏡画像をインポーズして術中の観察状態と同様の画像を生成し単一のVTR等に記録することが考えられる。
【0005】
しかしながら、各画像を各々独立したVTR等に記録した場合、各画像を高画質に記録できるものの、両者の時間的相関を取ることが困難であり、一方で、内視鏡画像を子画面として顕微鏡画像とともに記録した場合、内視鏡画像の画質が低下して詳細な記録を得ることが困難となる。また、特に特願2000−189892号の技術のように子画面の表示状態を可変に設定可能な手術用顕微鏡システムにおいては、観察時の子画面位置とミキサでインポーズされた画像との相関が取れていないため、VTR等の再生時には、術中の観察状態と異なる状態の画像が再生されることとなり、医療教育上等で不都合が生じる虞がある。
【0006】
本発明は上記事情に鑑みてなされたもので、術中に撮影される複数の画像を高画質に記録することができ、しかも、記録画像を再生する際には術中の観察状態と極めて近い状態で再生することのできる手術用顕微鏡システムを提供することを目的とする。
【0007】
【課題を解決するための手段】
本発明の第1の手術用顕微鏡システムは、術部を拡大観察するための観察光学系と、前記観察光学系により得た顕微鏡像の観察視野内における所定の位置に表示される視野内表示部に少なくとも一つの子画像を表示するよう制御する子画像表示制御部と、前記観察光学系により得た顕微鏡像を顕微鏡観察画像として撮影する撮影手段と、前記撮影手段により撮影された前記顕微鏡観察画像を記録する第1の画像記録手段と、前記視野内表示部に表示され得る前記子画像を記録する第2の画像記録手段と、前記視野内表示部に表示される子画像に係る所定の設定操作を行う子画像操作手段と、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報に基づいて当該子画像を表示するよう制御する子画像表示制御手段と、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録する情報記録手段と、前記情報記録手段に記録された前記所定の情報に基づいて、前記第1の画像記録手段に記録された前記顕微鏡観察画像と前記第2の画像記録手段に記録された前記子画像とを時系列的に一致させて再生表示する再生制御手段と、を具備し、前記子画像操作手段は、前記子画像表示制御部の制御下に所定の子画像が表示される前記視野内表示部の、前記顕微鏡像の観察視野内における表示位置を設定し、前記情報記録手段は、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る前記表示位置の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録することを特徴とする。
【0008】
本発明の第2の手術用顕微鏡システムは、術部を拡大観察するための観察光学系と、前記観察光学系により得た顕微鏡像の観察視野内における所定の位置に表示される視野内表示部に少なくとも一つの子画像を表示するよう制御する子画像表示制御部と、前記観察光学系により得た顕微鏡像を顕微鏡観察画像として撮影する撮影手段と、前記撮影手段により撮影された前記顕微鏡観察画像を記録する第1の画像記録手段と、前記視野内表示部に表示され得る前記子画像を記録する第2の画像記録手段と、前記視野内表示部に表示される子画像に係る所定の設定操作を行う子画像操作手段と、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報に基づいて当該子画像を表示するよう制御する子画像表示制御手段と、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録する情報記録手段と、前記情報記録手段に記録された前記所定の情報に基づいて、前記第1の画像記録手段に記録された前記顕微鏡観察画像と前記第2の画像記録手段に記録された前記子画像とを時系列的に一致させて再生表示する再生制御手段と、を具備し、前記子画像操作手段は、前記子画像に表示される内容を選択して設定し、前記情報記録手段は、前記子画像操作手段により設定された前記選択された子画像に表示される内容の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録することを特徴とする。
【0009】
本発明の第3の手術用顕微鏡システムは、第1または第2の手術用顕微鏡システムにおいて、前記再生制御手段は、前記情報記録手段に記録された所定の情報に基づいて、前記第1の画像記録手段に記録された前記顕微鏡観察画像と前記第2の画像記録手段に記録された前記子画像とを時系列的に一致させて所定の画像表示手段に再生表示する第1の再生モードと、前記時系列的の一致に拘わらず前記第2の画像記録手段に記録された前記子画像を前記画像表示手段の表示領域全体に表示する第2の再生モードを選択して再生可能に制御することを特徴とする。
本発明の第4の手術用顕微鏡システムは、第1〜第3の手術用顕微鏡システムにおいて、前記観察光学系とは別体の内視鏡用カメラをさらに備え、前記子画像は、前記内視鏡用カメラにより撮像された内視鏡画像であることを特徴とする。
本発明の第5の手術用顕微鏡システムは、第1〜第4の手術用顕微鏡システムにおいて、前記観察光学系とは別体のナビゲーション装置をさらに備え、
前記子画像は、前記ナビゲーション装置に記録されたナビゲーション画像であることを特徴とする。
【0010】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1乃至図8は本発明の第1の実施の形態に係わり、図1は手術用顕微鏡システムの双眼鏡筒部の光学系の概略構成図、図2は図1における図中左側観察光学系を示す概略構成図、図3はLCD光学系の斜視図、図4はXYテーブルの概略構成図及び画像録画制御系の機能ブロック図、図5は記録データ再生系の機能ブロック図、図6は顕微鏡観察視野に対して視野内表示画像が制御される位置関係を示す説明図、図7はXYステージの位置に応じたLCD内での表示位置及びサイズを示す説明図、図8は再生画像を示す説明図、である。
【0011】
先ず、図1乃至図3を参照して手術用顕微鏡システムの鏡体内で変倍光学系(図示せず)に連結される双眼鏡筒部の光学構成について説明する。図1において符号1は、接続部2を介して鏡体に一体的に取り付けられる固定ハウジングを示し、この固定ハウジング1の内部には左右一対の結像レンズ8a,8bが配設されている。結像レンズ8a,8bは、鏡体から出射される左右観察光束を入射させるべく、鏡体の観察光学系と光学的に接続されている。
【0012】
また、固定ハウジング1内には、結像レンズ8a,8bを介して入射された光束を90°外方に反射させるミラー9a,9bが配設され、その反射光路上にはイメージローテータプリズム10a,10bが配設されている。
【0013】
また、イメージローテータプリズム10a,10bの光路上には、両観察光束を各々180°反転させるプリズム11a,11bが配設されており、さらに、プリズム11a,11bからの出射光軸を、後述する接眼光学系22a,22bの観察光軸OL,ORと平行方向に反射させる三角プリズム12a,12bが配設されている。ここで、図示のように、三角プリズム12a,12bの光路上には、結像レンズ8a,8bにより結像された観察光束の第1の中間結像点13a,13bが位置する。
【0014】
第1の中間結像点13a,13bの近傍には、後述するプリズム14a,14bが三角プリズム12a,12bに対向して配設されている。この場合、プリズム14a,14bは、上面が第1の中間結像点13a,13bと略一致するように配設される。さらに、三角プリズム12a,12bの光路上には観察光束をリレーするリレーレンズ15a,15bが設置固定されている。ここで、プリズム11a,11b、三角プリズム12a,12b、プリズム14a,14b、リレーレンズ15a,15bは、可動ハウジング16内に内蔵されている。
【0015】
可動ハウジング16は、軸O、すなわちプリズム11a,11bの入射光軸まわりに回転可能となるよう、接続部17a,17bを介して、固定ハウジング1に連結されている。また、プリズム11a,11bは、図示しないカム機構等により、可動ハウジング16の固定ハウジング1に対する回転に対して1/2の角度だけ、軸Oを中心に回転可能となっている。
【0016】
また、可動ハウジング16には、リレーレンズ15a,15bの光路に対応する位置に、眼幅調整ハウジング4a,4bが連接され、眼幅調整ハウジング4a,4bには接眼ハウジング5a,5bが一体形成されている。
【0017】
眼幅調整ハウジング4a,4b内には、入射反射面19a,19bと出射反射面20a,20b(図2に入射反射面19a、出射反射面20aのみ図示)とを有する平行プリズム18a,18bがそれぞれ内蔵され、接眼ハウジング5a,5b内には、接眼光学系22a,22bがそれぞれ内蔵されている。そして、平行プリズム18a,18bの入射反射面19a,19bで反射されるとともに出射反射面20a,20bで反射されたリレーレンズ15a,15bからの観察光束は、それぞれ第2の中間結像点21a,21bで結像された後、接眼光学系22a,22bに導かれるようになっている。すなわち、平行プリズム18a,18bから接眼光学系22a,22bまでの光路上に、顕微鏡光学観察像の観察光軸OL,ORがそれぞれ構成される。
【0018】
ここで、眼幅調整ハウジング4a,4bは、抜け止め部材23a,23bによって軸方向への移動が規制された状態で(図2参照)、可動ハウジング16に対し三角プリズム12a,12bからの出射光軸(図中垂直方向)と略一致した軸周りに回転自在に支持されている。すなわち、本構造と平行プリズム18a,18bとにより、いわゆるジーテントップ眼幅調整機構が構成されている。
【0019】
図2,3において、符号24a,24bは、内視鏡画像等を電子画像として表示するための小型LCDモニターを示す。LCDモニタ24a,24bの出射光軸上には結像レンズ25a,25bが対向して配設され、結像レンズ25a,25bは、LCDモニタ24a,24bの画像をプリズム14a,14bの上面に結像させる位置に設定されている。そして、これらLCDモニタ24a,24b、結像レンズ25a,25b、及び、プリズム14a,14bは固定板50に配置固定されて視野内表示手段としてのLCD光学系26a,26bを構成する。
【0020】
固定板50には、三角プリズム12a,12bからの光束を避けるための穴部50a,50bが設けられている。また、固定板50は、顕微鏡像の光軸と直交する平面上を移動させるXYテーブル28のXテーブル29上に固設されている。
【0021】
また、可動ハウジング16内において、顕微鏡像の光路上には、例えば、図示しないビームスプリッタが介装され、ビームスプリッタは顕微鏡観察像を撮影手段としてのカメラヘッド103(後述する;図4参照)に導く。
【0022】
次に、図4を参照してXYテーブル28及び画像録画制御系の構成について説明する。
【0023】
XYテーブル28は、固定板50を、互いに直交する軸方向(X軸方向、Y軸方向)にそれぞれ移動可能なXテーブル29と、Yテーブル33とを備えて構成されている。
【0024】
Xテーブル29はラック部29aと軸受部29bとを有し、ラック部29aには、モータ30の回転軸に固設されたピニオンギア31が噛合されている。また軸受部29bにはガイド軸32が貫通され、このガイド軸32によって、Xテーブル29は、Yテーブル33上をX軸方向に揺動自在となるよう支持されている。
【0025】
また、Yテーブル33はラック部33aと軸受部33bとを有し、ラック部33aには、モータ34の回転軸に固設されたピニオンギア35が噛合されている。また、軸受部33bにはガイド軸36が貫通され、このガイド軸36によって、Yテーブル33は、筐体28a上をY軸方向に揺動自在となるよう支持されている。
【0026】
モータ30,34はエンコーダ(図示せず)を内蔵して構成され、これらのエンコーダは、Xテーブル位置検出回路42とYテーブル位置検出回路44とにそれぞれ接続されている。また、モータ30,34は、モータ駆動回路41,43にそれぞれ接続されている。そして、モータ駆動回路41、Xテーブル位置検出回路42、モータ駆動回路43、及び、Yテーブル位置検出回路44は、XYテーブル制御部45に接続されている。
【0027】
一方、図4において符号51は操作部であり、この操作部51には、XYテーブル28を操作するための4方向スイッチ52と、表示位置移動モードスイッチ53と、画像選択スイッチ53と、が設けられている。
【0028】
操作部51は表示制御部55に接続されているとともに、この表示制御部55にはXYテーブル制御部45が接続されている。表示制御部55は映像変換回路部56及び映像セレクタ57に接続され、映像セレクタ57は内視鏡TVカメラ58及びナビゲーション装置59に接続されている。映像セレクタ57には録画手段としてのビデオデッキ(ビデオレコーダ)101が接続され、ビデオデッキ101には、内視鏡VTカメラ58及びナビゲーション装置59からの情報が、必要に応じて、映像セレクタ57を介して出力されるようになっている。また、映像変換回路部56には表示駆動回路61,62を介して左右のLCDモニタ24a,24bがそれぞれ接続され、内視鏡TVカメラ58及びナビゲーション装置59からの情報が、必要に応じて、各LCDモニタ24a,24bに表示可能となっている。
【0029】
また、顕微鏡像の撮影を行うカメラヘッド103には、カメラコントロールユニット(CCU)104を介して録画手段としてのビデオデッキ(ビデオレコーダ)105が接続されている。
【0030】
また、XYテーブル制御部45、表示制御部55、及び、ビデオデッキ101,105にはデータ変換部106が接続され、データ変換部106は、LCD光学系26a,26bで表示される画像の表示位置情報等をビデオデッキ101,105の録画状態に時系列的に一致させて生成し、データ記録手段としてのメモリ102に記録するようになっている。
【0031】
次に、図5を参照してビデオデッキ101,105に記録されたデータの再生系の構成について説明する。
【0032】
上述のメモリ102には再生制御手段としての画像制御装置108が接続され、画像制御装置108には表示状態切換スイッチ109が接続されている。また、画像制御装置108には、ビデオデッキ101,105で記録されたデータをそれぞれ再生するためのビデオデッキ101a,105aが接続されている。また、ビデオデッキ101a,105aの図示しない画像出力端子は、画像ミキサ110の図示しない画像入力端子に接続されている。また、画像ミキサ110の図示しない画像出力端子は、モニタ112に接続されている。
【0033】
次に、上記構成による手術用顕微鏡システムの作用について説明する。
【0034】
術者は図示しない架台アームを操作して鏡体を所望の位置に配置固定し、さらに可動ハウジング16を軸O周りに回転させ、術者の眼の位置に接眼光学系22a,22bを配置する。
【0035】
術部を発した光は、鏡体内の図示しない拡大光学系を介して、結像レンズ8a,8bに入射される。左右の光束はイメージローテータプリズム10a,10bを経てプリズム11a,11b及び三角プリズム12a,12bで反射され、第1の中間結像点13a,13bにて結像する。その後、光束は、リレーレンズ15a,15bに伝達され、平行プリズム18a,18bにより反射された後、第2の中間結像点21a,21bにて再度結像される。そして、再結像された光束は、接眼光学系22a,22bに導かれ、術者によって所望の拡大倍率で術部の立体観察が行われる。
【0036】
この顕微鏡像の光路上の光は、その一部が、図示しないビームスプリッタ等によって分岐され、カメラヘッド103に導かれる。カメラヘッド103で撮影された顕微鏡像はカメラコントロールユニット104で映像信号に変換され、ビデオデッキ105に出力される。このとき、ビデオデッキ105が録画状態となっていれば、ビデオデッキ105から、タイムコードがデータ変換部106に出力される。ここで、ビデオデッキ105から出力されるタイムコードは、記録テープ(ビデオテープ)に映像信号とともに記録される録画時間の絶対番地である。
【0037】
また、制御部51の画像選択スイッチ54の操作によって、内視鏡TVカメラ58からの内視鏡画像やナビゲーション装置59からのナビゲーション画像を子画面(視野内表示画像)表示するモードが選択されると、表示制御部55は、映像セレクタ選択状態を表す信号をデータ変換部106に出力するとともに、映像セレクタ57に出力する。映像セレクタ57は、前記信号に基づいて、内視鏡TVカメラ58/ナビゲーション装置59からの映像信号を選択的に読み込み、当該映像信号を、映像セレクタ57を介してビデオデッキ101に出力するとともに、映像変換回路部56に出力する。
【0038】
この場合、視野内表示画像として選択されている画像が内視鏡TVカメラ58による画像であれば、ビデオデッキ101は、映像信号の入力開始と同時に録画を開始し、映像信号の入力停止と同時に録画を停止する。一方、視野内表示画像として選択されている画像がナビゲーション装置59によるものであれば、ビデオデッキ101は、ビデオデッキ105の録画状態と連動して録画のON/OFF制御を行う。そして、ビデオデッキ101は、ビデオデッキ105と同様、録画中のタイムコードをデータ変換部106に出力する。ここで、ビデオデッキ101及び105から出力されるタイムコードは、記録テープ(ビデオテープ)に映像信号とともに記録される録画時間の絶対番地である。
【0039】
また、視野内表示画像として選択され映像変換回路部56に出力された映像信号は、映像変換回路部56、及び、表示駆動回路61,62を経てLCDモニタ24a,24bに表示させる。LCDモニタ24a,24bを発した光は結像レンズ25a,25bによりプリズム14a,14bの上面上にて結像される。プリズム14a,14bの上面は結像点13a,13bの近傍に位置するため、例えば図6に示すように、顕微鏡像37上に内視鏡画像38が表示される。
【0040】
その際、例えば、画像選択スイッチ54によって内視鏡TVカメラ58(内視鏡画像)を選択した状態で、制御部51の表示位置移動モード選択スイッチ53がONされると、4方向スイッチ52がステップモードとなり、OFFされるとフリーモードとなる。表示位置移動モード選択スイッチ53がON状態において、4方向スイッチ52が操作されると、顕微鏡像37に対して内視鏡画像38が例えば図中A,B,C,D,E,F方向に移動される(なお、Aは顕微鏡像37の視野外)。その際、内視鏡画像38の画像中心は、例えばa,b,c,d,e,fの点を結ぶ実線上の軌跡を移動する。また、表示位置移動モード選択スイッチ53がOFFされてフリーモードとなると、内視鏡画像38は、4方向スイッチ52の操作量に応じて移動される。具体的には、術者による操作部51の操作がなされると、表示制御部55からXYテーブル制御部45に内視鏡画像の表示位置を指定する信号が出力される。これによりモータ30,34が駆動され、XYテーブル28は術者が指定した位置に内視鏡画像を移動させる。
【0041】
モータ30,34が駆動されると、これらの駆動量を表すパルスがXテーブル位置検出回路42及びYテーブル位置検出回路44を介してXYテーブル制御部45に入力され、XYテーブル制御部45は、入力パルスを視野内表示画像(内視鏡画像)のXYテーブル位置データとしてデータ変換部106に出力する。ここで、XYテーブル位置データは、顕微鏡観察視野中心を原点とする座標で定義されるものである。
【0042】
ところで、例えば、内視鏡画像38がステップモードのCの位置にある場合において、内視鏡画像38が大画面L(標準の画像サイズ)で表示されている場合(図7(a)中Lで表示)には、内視鏡画像38は、その大部分が顕微鏡画像37の視野外に位置するが、表示制御部55からの位置情報(図6のA,B,C,D,E,F)によりこれを縮小して小画面Sとし、さらに右下に移動(図7(a)中に斜線で示す子画面S1)させることにより、内視鏡画像38を視野内に表示することができる(図7(b)参照)。なお、ナビゲーション装置59からのナビゲーション画像においても、上述の内視鏡画像と同様の操作によって、種々の表示形態で顕微鏡像上に任意に表示することができる。
【0043】
データ変換部106は、図示しない手術用顕微鏡の電源スイッチ投入時よりカウントされる基準タイムコードを生成するとともに、ビデオデッキ101とビデオデッキ105から各々テーブルに記録されるタイムコードを取得する。
【0044】
また、データ変換部106は、XYテーブル制御部45からXYテーブル位置データを取得する。さらにデータ変換部106は表示制御部55からは選択されている画像が内視鏡TVカメラ58による映像であるか、またナビゲーション装置59による映像であるかの映像選択情報を取得する。
【0045】
ここで、データ変換部106は表示制御部55からの信号に基づき、視野内表示画像として選択されている画像が、内視鏡TVカメラ58による画像であり、かつ前記視野内表示画像が表示状態であればビデオデッキ101に録画する信号を出力し、ビデオデッキ101で画像の録画が行われる。前記視野内表示画像が表示状態でなければ(図5のAに表示される位置)、ビデオデッキ101に録画停止状態の信号が出力される。
【0046】
また、データ変換部106は表示制御部55からの信号に基づき、視野内表示画像として選択されている画像がナビゲーション装置59によるものであれば、データ変換部106は、ビデオデッキ105の録画/録画停止の状態と連動して、ビデオデッキ101に録画/録画停止の信号を出力する。
【0047】
そして、データ変換部106は基準タイムコードと、ビデオデッキ101及び105から出力されるタイムコード、XYテーブル制御部45から出力されるXYテーブル位置データ、表示制御部55から出力される視野内表示画像の映像セレクタ選択状態を、基準タイムコードを基準にして時系列にメモリ102に記録する。
【0048】
次に、ビデオデッキ101,105で録画されたビデオテープの再生制御について説明する。
【0049】
ここで、図5において、ビデオデッキ105aには前記ビデオデッキ105により記録された図示しないビデオテープが挿入され、ビデオデッキ101aには前記ビデオデッキ101により記録された図示しないビデオテープが挿入されている。
【0050】
観察者によって表示状態切換スイッチ109が操作されて手術用顕微鏡による撮影画像と内視鏡による撮影画像を同時に観察するモードが選択されると、画像制御装置108は、メモリ102から記録されたデータ(ビデオデッキ101及び105によって記録されたタイムコード、XYテーブル位置データ、映像セレクタ選択状態)を読み出す。
【0051】
次に、画像制御装置108は、表示状態切換スイッチ109からの操作信号を受けて、ビデオデッキ105a及びビデオデッキ101aから各々のビデオテープに記録されているタイムコードを読み出す。画像制御装置108は、メモリ102の基準タイムコードから各々対応するタイムコードの画像記録位置の頭出を行い、その時点でのXYテーブル位置データと映像セレクタ選択状態を参照する。
【0052】
以下、映像セレクタ選択状態が内視鏡TVカメラ58(内視鏡画像)に設定されている場合の作用を説明する。画像制御装置108はメモリからの基準タイムコードに対応するXYテーブル位置データを検出し、視野内表示画像がOFFの場合には、画像ミキサ110に対してビデオデッキ105aからの映像信号のみをモニタ112に出力するように制御する。この場合のモニタ112には、例えば図8(a)に示す状態の画像が表示される。
【0053】
次に、視野内表示画像が図6(c)に示す位置に移動されたという情報をメモリ102のXYテーブル位置データから検出すると、画像制御装置108は、画像ミキサ110に対してビデオデッキ105aからの映像信号を親画面、ビデオデッキ101aからの映像信号を小画面の左上に表示するよう、画像ミキサ110に対して制御を行う。また、画像制御装置108はビデオデッキ105aに対応するタイムコードと合致する画像記録位置から画像再生する命令をビデオデッキ101aに出力する。これにより、同時に撮影された顕微鏡画像と内視鏡画像がモニタ112の親子画面上に同時に表示される。このときのモニタ112には、例えば図8(b)に示す状態の画像が表示される。
【0054】
さらに、観察者が内視鏡画像をより詳細に観察したい場合は、表示状態切換スイッチ109を操作する。操作信号は画像制御装置108に伝達され、画像制御装置108は、画像ミキサ110に対して、ビデオデッキ101aからの映像信号のみを親画面として表示するように制御する。これによって、観察者は内視鏡画像を詳細に観察することができる。
【0055】
また、映像セレクタ選択状態がナビゲーション装置59に設定された状態では、以下のような作用になる(XYテーブル位置データがOFF以外の位置にある作用は、内視鏡観察の場合と同様なので、OFFの場合のみの作用を説明する。)。画像制御装置108は、ビデオデッキ101aおよび105aからの絶対番地とメモリ102に記録されたタイムコードを比較演算し、ナビゲーション装置59の録画画像が、顕微鏡画像の録画画像と同期して再生される様に制御する。観察者によって、表示状態切換スイッチ109が操作されて顕微鏡画像とナビゲーション画像の両方を同時に観察するモードが選択されると、画像制御装置108は、ビデオデッキ101a及びビデオデッキ105aからの映像信号を並列に表示するように画像ミキサ110を制御する。この場合、モニタ112には、例えば図8(c)に示す状態の画像が表示される。
【0056】
本実施の形態によれば、顕微鏡画像と内視鏡画像の記録を視野内表示画像と同じ形態で観察することができるため、学生への医療教育や術後のカンファレンス等で手術と同じ再生画像を観察することが出来る。また、各画像を別々に記録しているため、各々の画像をより詳細に観察したい場合にも対応して詳細な画像を表示することができる。例えば内視鏡のみを選択して高画質に観察することが可能となる。さらに、ナビゲーション画像については、視野内表示で表示していない場合の画像についても、観察者が任意の画像を再生することが出来るため、術後のカンファレンスでの検討が容易になる。
【0057】
次に、図9乃至図11は本発明の第2の実施の形態に係わり、図9は手術用顕微鏡システムの鏡体部の光学系の概略構成図、図10はXYテーブルの概略構成図及び画像録画制御系機能ブロック図、図11はハードディスクドライブのメモリ領域割り当てを示す概念図、図12は記録データ再生系の機能ブロック図、図13は顕微鏡像上及び第2の観察光学系に選択的に表示された画像の一例を示す説明図、図14はモニタ上に表示された再生画像の一例を示す説明図である。なお、本実施の形態において、上述の第1の実施の形態と同様の構成については同符号を付して説明を省略する。
【0058】
図9において符号250は、図示しない鏡体支持装置に支持された手術用顕微鏡の鏡体を示す。鏡体250には、対物レンズ241、変倍光学系251、結像レンズ211a、211b、接眼光学系212a、212bが配置されて、実体観察光学系が構成されている。
【0059】
また、変倍光学系251と結像レンズ211a、211bとの間の光路上には、ハーフミラー252が挿入されている。また、鏡体250には、画像重畳手段としての重畳モニタ281及び画像挿入光学系271が内蔵されており、これらは、ハーフミラー252とともに画像重畳光学系を構成する。
【0060】
また、ハーフミラー252の物体面側の所定の位置には全反射部253が設けられ、対物レンズ241から入射した光束が全反射部253で反射された際の光路上には、撮影用結像レンズ254及びカメラヘッド103が配置されている。
【0061】
また、図9には図示しないが、鏡体250内には、上述の第1の実施の形態と同様の構成の視野内画像表示手段としてのLCD光学系26a,26bが設けられ、さらに、観察光学系(実体観察光学系)とは異なる光学系で構成された第2の画像観察手段としての第2の観察光学系が併設されている。ここで、第2の観察光学系は、内視鏡等の画像を電子画像として表示するLCDモニタ204a、204b(図10参照)を有し、LCDモニタ204a,204bで表示された電子画像の光束を、リレー光学系(図示せず)等を介して、接眼光学系212a,212bの近傍に併設された第2の接眼光学系(図示せず)に導く構成となっている。
【0062】
図10に示すように、本実施の形態における画像録画制御系は、上述の実施の形態で示したデータ変換部106に代えて再生制御手段としての演算装置255を有し、演算装置255には、XYテーブル制御部45及び表示制御部55がそれぞれ接続されているとともに、カメラコントロールユニット(CCU)104を介してカメラヘッド103が接続されている。
【0063】
また、内視鏡TVカメラ58の図示しない映像信号出力部は、映像セレクタ57及び映像セレクタ201の図示しない画像入力部に接続されている。
【0064】
また、ナビゲーション装置59の図示しない第1の画像出力部は映像セレクタ57及び映像セレクタ201の図示しない画像入力部に接続され、さらに、ナビゲーション装置59の図示しない第2の画像出力部は、映像セレクタ205の図示しない画像入力部に接続されている。
【0065】
映像セレクタ57の図示しない画像出力部は、表示駆動回路61,62を介してLCDモニタ24a,24bにそれぞれ接続されているとともに、演算装置255に接続されている。
【0066】
また、映像セレクタ201の図示しない画像出力部は、表示駆動回路202,203を介してLCDモニタ204a,204bにぞれぞれ接続されているとともに、演算装置255に接続されている。
【0067】
さらに、映像セレクタ205の図示しない画像出力部は、表示駆動回路206を介して重畳モニタ281に接続されているとともに、演算装置255に接続されている。
【0068】
また、演算装置255は、ハードディスクドライブ(HDD)256に接続されている。ここで、図11に示すように、HDD256には、XYテーブル位置データメモリ部259、タイムコードメモリ部261、視野内画像メモリ部262、第2の観察光学系画像メモリ部263、重畳画像メモリ部264、顕微鏡像メモリ部265が設けられている。
【0069】
次に、図12を参照してHDD256の各メモリ部に記録されたデータの再生系の構成について説明する。
【0070】
HDD256には演算装置255が接続され、演算装置255には、表示状態切換スイッチ266が接続されている。また、演算装置255は、図示しない通信ポート及び第1〜第4の画像出力ポートを介してミキサ267にそれぞれ接続され、ミキサ267はモニタ268に接続されている。
【0071】
次に、上記構成による手術用顕微鏡システムの作用について説明する。
【0072】
顕微鏡観察時において、図示しない光源から発せられた照明光は、術部にて反射され、対物レンズ241を介して鏡体250に入射される。対物レンズ241から入射した観察光束は、変倍光学系251、ハーフミラー252、結像レンズ211a、211b、接眼レンズ212a、212bを介して、術者の目に投影され、これにより、術者による術部の立体像観察が行われる。
【0073】
また、重畳モニタ281に表示された画像は、画像挿入光学系27を介してハーフミラー252に投影されることで顕微鏡像の観察光束に重畳され、これにより、術者は立体像に重畳された重畳モニタ281の画像を観察可能となる。
【0074】
また、顕微鏡像の観察光束の一部は、ハーフミラー252に設けられた全反射部253により偏光され、撮影用結像レンズ254を介して、カメラヘッド103の図示しない撮像素子に結像する。これにより、カメラヘッド103では画像が重畳されていない状態の術部画像が撮影される。
【0075】
また、術者の図示しないスイッチ操作によって選択された信号が映像セレクタ57,201,205に入力されると、各信号は視野内表示画像、第2の観察光学系の画像、重畳画像としてそれぞれ表示される。ここで、各画像が選択表示された際の一例を図13に示す。図13において、顕微鏡画像37上の視野内表示画像には内視鏡TVカメラ58で撮影された内視鏡画像38が表示されており、第2の観察光学系にはナビゲーション装置59の図示しない第1の画像出力部から出力される術前画像における内視鏡および顕微鏡の観察位置を示す画像140a〜140dが表示されている。また、顕微鏡画像37に対する重畳画像には前記ナビゲーション装置59で検出された内視鏡Pの観察方向を示す指標Rが表示されている(ナビゲーション装置59の図示しない第2の画像出力部から出力される画像である)。
【0076】
このとき、セレクタ57、セレクタ201、セレクタ205の図示しない画像出力部からは、各々のモニタに表示されている画像と同じ画像が演算装置255に対して出力されている。さらに、カメラヘッド103で撮影された顕微鏡による術部画像はCCU104にて映像信号に変換され、演算装置255に入力されている。さらに、XYテーブル制御部45からは視野内表示画像のXYテーブル位置データが演算装置255に入力されている。
【0077】
演算装置255は、CCU104からの顕微鏡術部画像より録画の基準となるタイムコードを生成する。また、視野内表示画像の表示状態をXYテーブル位置データとして、タイムコードと関連づける。さらに、入力される各画像(CCU104からの顕微鏡術部画像、セレクタ57からの視野内表示画像、セレクタ201からの第2の観察光系画像、セレクタ205からの重畳画像)をタイムコードと関連付ける。演算部255は、前記XYテーブル位置データをHDD256のXYテーブル位置データメモリー部259へ、前記タイムコードをHDD256のタイムコードメモリー部261へ、前記視野内表示画像をHDD256の視野内画像メモリー部262へ、前記第2の観察光学系画像をHDD256の第2の観察光学系画像メモリー部263へ、前記重畳画像をHDD256の重畳画像メモリー部264へ、前記顕微鏡術部画像をHDD256の顕微鏡像メモリー部265へ時系列的に同時に記録する。
【0078】
次に、HDD256で録画された画像の再生制御について説明する。
【0079】
演算装置255は、HDD256から格納されている各データ及び画像(XYテーブル位置データ、タイムコード、視野内表示画像、第2の観察光学系画像、重畳画像、顕微鏡術部画像)を前記タイムコードにあわせて読み出す。観察者によって表示状態切換スイッチ266が操作されて術中の観察状態と同じ状態で表示するモードが選択されると、選択された信号は演算装置255に送られる。これを受けて、演算装置255は、HDD256から読み出した画像(4種類)を図示しない画像出力ポートからミキサ267へ出力する。さらに、演算装置255は、図示しない通信ポートからミキサ267の制御信号を出力する。
【0080】
これにより、例えば図14(a)に示すように、モニタ268(16:9のアスペクト比を持つ)には、右に偏倚した位置に顕微鏡術部画像が表示され、顕微鏡術部画像の右上小画面として視野内表示画像としての内視鏡画像をインポーズ表示され(表示位置は前記XYテーブル位置データにより決定される)、顕微鏡術部画像上に重畳画像としての内視鏡観察方向指標がオーバーレイ表示され、顕微鏡術部画像の右隣に第2の観察光学系画像としてのナビゲーション画像が表示される。
【0081】
また、観察者により表示状態切換スイッチ266が操作されて、顕微鏡を詳細に観察するモードが選択されると、選択された信号は演算装置255に送られる。これを受けて、演算装置255はミキサ267に対して、以下の制御を図示しない通信ポートから実施する。すなわち、図14(b)に示すように、顕微鏡術部画像をモニタ268の左寄せの位置に表示し、顕微鏡術部画像にインポーズされていた内視鏡画像を顕微鏡術部画像を遮らない右隣(上)の位置に表示し、ナビゲーション画像を前記内視鏡画像で遮らない右隣(下)の位置に表示し、内視鏡観察方向の指標のオーバーレイを停止する。
【0082】
本実施の形態によれば、録画装置としてHDDを使用したため複数の録画媒体が不要であり、視野内表示、第2の観察光学系、画像重畳装置等の複数の画像を一括して記録再生することが容易に出来る。
【0083】
次に、図15,16は本発明の第3の実施の形態に係わり、図15はXYテーブルの概略構成図及び画像録画制御系の機能ブロック図、図16はモニタ上に表示された再生画像の一例を示す説明図である。なお、本実施の形態において、上述の第1の実施の形態と同様の構成については同符号を付して説明を省略する。
【0084】
図15に示すように、データ変換部106には、超音波吸引装置300の図示しない通信ポートが接続されている。
【0085】
次に、上記構成による手術用顕微鏡システムの作用について説明する。
【0086】
画像の録画によるタイムコード、XYテーブル位置データ、画像選択状態は、上述の第1実施の形態と同様にデータ変換部106を介して、メモリ102に記録されている。本実施の形態では、更に超音波吸引装置300の設定データが超音波吸引装置300の図示しない通信ポートからデータ変換部106へ入力される。入力された超音波吸引装置300の設定データは、データ変換部106によって、前記タイムコードと関連つけてメモリ102に他のデータと同様に記録される。
【0087】
術中記録の観察時においては、通常、例えば図16(a)に示す状態の画像がモニタ112に表示される。観察者による表示切換スイッチ109の操作操作により、超音波吸引装置300の設定状態を確認できるモードが設定されると、超音波吸引装置300の設定データがメモリ102から画像制御装置108に出力される。画像制御装置108は受信した出力データをキャラクタデータに変換し、画像ミキサ110へ送信する。これにより、図16(b)に示すように、画像ミキサ110は受信したキャラクタデータをモニタ112における画面のブランク部分に重畳表示する。
【0088】
本実施の形態によれば、観察者は、顕微鏡画像、内視鏡画像等の手術画像に加えて、エネルギー処置具の設定データをも手術の進行と同じタイミングで確認できるため、術後のカンファレンス等で手術を振りかえる際に確実な判断を行うことができる。
【0089】
前述した各実施の形態によれば、次のような構成が得られる。
【0090】
(付記1) 術部を拡大観察するための観察光学系を有する鏡体と、前記鏡体の観察視野内に少なくとも一つの画像を表示する視野内表示手段と、前記鏡体の観察画像を撮影する撮影手段と、を備えた手術用顕微鏡において、
前記撮影手段によって撮影された画像及び前記視野内表示手段に表示された画像を録画する一つ又は複数の録画手段と、
前記視野内表示手段の観察視野内における表示位置情報を、前記録画手段の録画状態に併せて時系列で記録するデータ記録手段と、
少なくとも前記データ記録手段の記録データを基に前記録画手段に録画された複数の画像を時系列的に一致させて再生表示する再生制御手段と、を備えることを特徴とする手術用顕微鏡システム。
【0091】
(付記2) 前記視野内表示手段は、前記観察光学系の視野内の一部に画像を挿入する視野内画像表示手段、前記観察光学系とは異なる第2の画像観察手段、或いは、前記観察光学系に画像を重畳表示する画像重畳手段、の少なくとも一つであることを特徴とする付記1記載の手術用顕微鏡システム。
【0092】
(付記3) 前記データ記録手段は、機械の設定状態を前記録画手段の録画状態に併せて時系列で記録する手段であることを特徴とする付記1または付記2記載の手術用顕微鏡システム。
【0093】
(付記4) 前記視野内表示手段の表示状態を検出する検出手段と、該検出手段の検出結果に応じて、前記視野内表示手段に表示された画像を録画する録画手段の録画状態を制御する録画制御部と、を有することを特徴とする付記1乃至付記3の何れか一に記載の手術用顕微鏡システム。
【0094】
(付記5) 前記データ記録手段の記録データを元に、前記視野内表示手段に表示された画像の再生画像の再生位置を制御する再生制御部と、を有することを特徴とする付記1乃至付記3の何れか一に記載の手術用顕微鏡システム。
【0095】
(付記6) 前記再生制御手段は、記録された複数の画像を任意に組み合わせるための入力手段を有していること、を特徴とする付記1乃至付記3の何れか一に記載の手術用顕微鏡システム。
【0096】
(付記7) 前記入力手段は、前記記録された複数の画像を、手術用顕微鏡の実際の観察状態と略一致した形態を少なくとも選択できるモードを有していること、を特徴とする付記4記載の手術用顕微鏡システム。
【0097】
(付記8)前記録画手段は、複数のビデオレコーダーを含むこと、を特徴とする付記1乃至付記3の何れか一に記載の手術用顕微鏡システム。
【0098】
(付記9) 前記録画手段は、HDDを含むデジタルメモリー手段であること、を特徴とする付記1乃至付記3の何れか一に記載の手術用顕微鏡システム。
【0099】
【発明の効果】
以上説明したように本発明によれば、術中に撮影される複数の画像を高画質に記録することができ、しかも、記録画像を再生する際には術中の観察状態と極めて近い状態で再生することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係わり、手術用顕微鏡システムの双眼鏡筒部の光学系の概略構成図
【図2】同上、図1における図中左側観察光学系を示す概略構成図
【図3】同上、LCD光学系の斜視図
【図4】同上、XYテーブルの概略構成図及び画像録画制御系の機能ブロック図
【図5】同上、記録データ再生系の機能ブロック図
【図6】同上、顕微鏡観察視野に対して視野内表示画像が制御される位置関係を示す説明図
【図7】同上、XYステージの位置に応じたLCD内での表示位置及びサイズを示す説明図
【図8】同上、再生画像を示す説明図
【図9】本発明の第2の実施の形態に係わり、手術用顕微鏡システムの鏡体部の光学系の概略構成図
【図10】同上、XYテーブルの概略構成図及び画像録画制御系の機能ブロック図
【図11】同上、ハードディスクドライブのメモリ領域割り当てを示す概念図
【図12】同上、記録データ再生系の機能ブロック図
【図13】同上、顕微鏡像上及び第2の観察光学系に選択的に表示された画像の一例を示す説明図
【図14】同上、モニタ上に表示された再生画像の一例を示す説明図
【図15】本発明の第3の実施の形態に係わり、XYテーブルの概略構成図及び画像録画制御系の機能ブロック図
【図16】同上、モニタ上に表示された再生画像の一例を示す説明図
【符号の説明】
26a,26b LCD光学系(視野内画像表示手段)
101 ビデオデッキ(録画手段)
102 メモリ(データ記録手段)
103 カメラヘッド(撮影手段)
105 ビデオデッキ(録画手段)
108 画像制御装置(再生制御手段)
255 演算装置(再生制御手段)
256 ハードディスクドライブ(録画手段)
281 重畳モニタ(画像重畳手段)[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a surgical microscope system used for surgery of a minute part, specifically, an image obtained by a surgical microscope.Surgical microscope system with improved recording and displayAbout.
[0002]
[Prior art]
A surgical microscope system used for microsurgery or the like generally has a function of recording intraoperative images on a VTR or the like for the purpose of medical education or surgical recording. As this type of surgical microscope system, for example, in Japanese Patent Laid-Open No. 6-22980, in order to be able to take a microscope image during an operation simultaneously with observation, an optical path of an observation light beam from an observation site incident on an observation optical system is provided. Discloses a technique in which a beam splitter is provided to guide an observation light beam branched by the beam splitter to a solid-state imaging device.
[0003]
In recent years, microsurgery is sometimes performed using a surgical microscope system in which an endoscope or the like is used in combination with a surgical microscope. In such an operation, in order to enable an operator to observe both a microscopic image and an endoscopic image at the same time without taking his eyes off the eyepiece, for example, in Japanese Patent Laid-Open No. 10-333047, A technique has been disclosed in which a projection means for guiding an image from another image display means for displaying an endoscopic image or the like is disposed in the vicinity of the final imaging position of the microscope optical system, and further, Japanese Patent Application No. 2000-189892 is disclosed. Discloses a technique that enables an endoscope image displayed on a microscope image to be enlarged / reduced and also allows a display position to be moved.
[0004]
[Problems to be solved by the invention]
By the way, for example, in a surgical microscope system in which an endoscope is used in combination with a surgical microscope, it is desirable that both a microscope image and an endoscope image are recorded as intraoperative images. In this case, for example, by using the technique disclosed in Japanese Patent Laid-Open No. 10-333047 and Japanese Patent Application No. 2000-189892 together with the technique disclosed in Japanese Patent Laid-Open No. 6-22980, a microscope image and an endoscopic image can be observed simultaneously. And a microscopic image and an endoscopic image can be taken simultaneously. As a method for recording these microscope images and endoscope images, each image is recorded on a VTR or the like independently, or an endoscope image is imposed on a part of the microscope image by an image mixer or the like. It is conceivable that an image similar to the observation state during the operation is generated and recorded in a single VTR or the like.
[0005]
However, when each image is recorded on an independent VTR or the like, each image can be recorded with high image quality, but it is difficult to obtain a temporal correlation between the two images. When the image is recorded together with the image, the image quality of the endoscopic image is lowered and it is difficult to obtain a detailed record. In particular, in a surgical microscope system capable of variably setting the display state of a small screen as in the technology of Japanese Patent Application No. 2000-189892, the correlation between the small screen position at the time of observation and the image imposed by the mixer is correlated. Since the image is not taken, an image in a state different from the observation state during the operation is reproduced at the time of reproducing the VTR or the like, which may cause inconvenience in medical education.
[0006]
The present invention has been made in view of the above circumstances, and can record a plurality of images taken during surgery with high image quality, and when reproducing a recorded image, it is in a state extremely close to the observation state during surgery. An object of the present invention is to provide a reproducible surgical microscope system.
[0007]
[Means for Solving the Problems]
The first surgical microscope system of the present invention includes an observation optical system for magnifying and observing a surgical part, and an in-field display unit that is displayed at a predetermined position in an observation field of a microscope image obtained by the observation optical system. A child image display control unit that controls to display at least one child image, a photographing unit that photographs a microscope image obtained by the observation optical system as a microscope observation image, and the microscope observation image photographed by the photographing unit A first image recording unit for recording the image, a second image recording unit for recording the child image that can be displayed on the in-field display unit, and a predetermined setting relating to the child image displayed on the in-field display unit Child image operation means for performing operation, and child image display for controlling to display the child image based on predetermined information related to the child image displayed on the in-field display unit set by the child image operation means Predetermined information related to the child image displayed on the in-view display unit set by the control means and the child image operation means, the time series related to the first image recording means and the second image recording means Information recording means for recording in association with information; and the microscope observation image and the second image recording means recorded in the first image recording means based on the predetermined information recorded in the information recording means Reproduction control means for reproducing and displaying the child images recorded in time-sequentially,The child image operation means sets a display position in the observation field of the microscopic image of the in-field display section where a predetermined child image is displayed under the control of the child image display control section, and the information recording means The information on the display position relating to the child image displayed on the in-field display unit set by the child image operating means is the time series relating to the first image recording means and the second image recording means. It is characterized by recording in association with information.
[0008]
The second surgical microscope system of the present invention is:Control to display at least one child image on the observation optical system for magnifying and observing the surgical site and the in-field display unit displayed at a predetermined position in the observation field of the microscope image obtained by the observation optical system A child image display control unit; a photographing unit that photographs a microscope image obtained by the observation optical system as a microscope observation image; a first image recording unit that records the microscope observation image photographed by the photographing unit; Second image recording means for recording the child image that can be displayed on the in-field display unit, child image operation means for performing a predetermined setting operation related to the child image displayed on the in-field display unit, and the child image A child image display control unit configured to control display of the child image based on predetermined information related to the child image displayed on the in-field display unit set by the operation unit, and the child image operation unit. Information recording means for recording predetermined information related to the child image displayed on the displayed in-field display unit in association with time series information related to the first image recording means and the second image recording means; Based on the predetermined information recorded in the information recording unit, the microscope observation image recorded in the first image recording unit and the child image recorded in the second image recording unit are time-sequentially displayed. Reproduction control means that reproduces and displays them in a consistent manner, the child image operation means selects and sets the content displayed in the child image, and the information recording means includes the child image operation means The information of the content displayed in the selected child image set by the step is recorded in association with the time-series information related to the first image recording means and the second image recording means.
[0009]
The third surgical microscope system of the present invention is the first or second surgical microscope system,The reproduction control means, based on the predetermined information recorded in the information recording means, the microscopic observation image recorded in the first image recording means and the child recorded in the second image recording means. A first reproduction mode for reproducing and displaying images on a predetermined image display means in a time-series coincidence with the images, and the child images recorded on the second image recording means irrespective of the time-series coincidence. The second reproduction mode displayed on the entire display area of the image display means is selected and controlled to be reproducible.
The fourth surgical microscope system of the present invention is the first to third surgical microscope systems,An endoscope camera separate from the observation optical system is further provided, and the child image is an endoscope image captured by the endoscope camera.
The fifth surgical microscope system of the present invention is the first to fourth surgical microscope systems,A navigation device separate from the observation optical system;
The child image is a navigation image recorded in the navigation device.
[0010]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below with reference to the drawings. 1 to 8 relate to a first embodiment of the present invention, FIG. 1 is a schematic configuration diagram of an optical system of a binocular tube portion of a surgical microscope system, and FIG. 2 is a left side observation optical system in FIG. 3 is a perspective view of an LCD optical system, FIG. 4 is a schematic configuration diagram of an XY table and a functional block diagram of an image recording control system, FIG. 5 is a functional block diagram of a recording data reproducing system, and FIG. 6 is a microscope. FIG. 7 is an explanatory diagram showing the display position and size in the LCD corresponding to the position of the XY stage, and FIG. 8 is a reproduced image. It is explanatory drawing.
[0011]
First, an optical configuration of a binocular tube portion connected to a variable magnification optical system (not shown) in the body of the surgical microscope system will be described with reference to FIGS. 1 to 3. In FIG. 1,
[0012]
In the
[0013]
On the optical path of the
[0014]
In the vicinity of the first intermediate
[0015]
The
[0016]
Further, the eye
[0017]
[0018]
Here, the eye
[0019]
2 and 3,
[0020]
The fixing
[0021]
In the
[0022]
Next, the configuration of the XY table 28 and the image recording control system will be described with reference to FIG.
[0023]
The XY table 28 includes an X table 29 and a Y table 33 that can move the fixed
[0024]
The X table 29 has a
[0025]
The Y table 33 has a
[0026]
The
[0027]
On the other hand, in FIG. 4,
[0028]
The
[0029]
In addition, a video deck (video recorder) 105 as a recording unit is connected to a
[0030]
Further, a
[0031]
Next, the configuration of a reproduction system for data recorded on the
[0032]
The
[0033]
Next, the operation of the surgical microscope system configured as described above will be described.
[0034]
The operator operates a gantry arm (not shown) to place and fix the mirror body at a desired position, and further rotates the
[0035]
The light emitted from the surgical site is incident on the
[0036]
A part of the light on the optical path of the microscope image is branched by a beam splitter (not shown) or the like and guided to the
[0037]
Further, by operating the
[0038]
In this case, if the image selected as the in-view display image is an image by the
[0039]
The video signal selected as the in-view display image and output to the video
[0040]
At that time, for example, when the display position movement
[0041]
When the
[0042]
By the way, for example, when the
[0043]
The
[0044]
Further, the
[0045]
Here, based on the signal from the
[0046]
If the image selected as the in-view display image is based on the signal from the
[0047]
The
[0048]
Next, playback control of video tapes recorded on the
[0049]
In FIG. 5, a video tape (not shown) recorded by the
[0050]
When the observer operates the display
[0051]
Next, the image control device 108 receives an operation signal from the display
[0052]
Hereinafter, an operation when the video selector selection state is set to the endoscope TV camera 58 (endoscopic image) will be described. The image control device 108 detects XY table position data corresponding to the reference time code from the memory. When the in-view display image is OFF, the image mixer 110 monitors only the video signal from the
[0053]
Next, when the information that the display image in the field of view has been moved to the position shown in FIG. 6C is detected from the XY table position data in the
[0054]
Further, when the observer wants to observe the endoscopic image in more detail, the display
[0055]
Further, when the video selector selection state is set to the
[0056]
According to the present embodiment, since the recording of the microscope image and the endoscopic image can be observed in the same form as the in-field display image, the same reproduced image as the operation in the medical education for the student, the postoperative conference, etc. Can be observed. Further, since each image is recorded separately, it is possible to display a detailed image corresponding to the case where each image is to be observed in more detail. For example, it is possible to select only an endoscope and observe with high image quality. Furthermore, with regard to the navigation image, since the observer can reproduce any image even when the image is not displayed in the visual field display, examination at a postoperative conference becomes easy.
[0057]
Next, FIG. 9 to FIG. 11 relate to the second embodiment of the present invention, FIG. 9 is a schematic configuration diagram of an optical system of a mirror part of a surgical microscope system, and FIG. 10 is a schematic configuration diagram of an XY table. Image recording control system functional block diagram, FIG. 11 is a conceptual diagram showing memory area allocation of a hard disk drive, FIG. 12 is a functional block diagram of a recorded data reproduction system, and FIG. 13 is selectively on the microscope image and the second observation optical system FIG. 14 is an explanatory diagram showing an example of a reproduced image displayed on the monitor. In the present embodiment, the same components as those in the first embodiment described above are denoted by the same reference numerals and description thereof is omitted.
[0058]
In FIG. 9, reference numeral 250 indicates a body of a surgical microscope supported by a body support device (not shown). The mirror body 250 includes an
[0059]
A
[0060]
Further, a total reflection unit 253 is provided at a predetermined position on the object plane side of the
[0061]
Although not shown in FIG. 9, LCD
[0062]
As shown in FIG. 10, the image recording control system in the present embodiment has an
[0063]
The video signal output unit (not shown) of the
[0064]
In addition, a first image output unit (not shown) of the
[0065]
An image output unit (not shown) of the
[0066]
An image output unit (not shown) of the
[0067]
Further, an image output unit (not shown) of the
[0068]
The
[0069]
Next, with reference to FIG. 12, the configuration of a reproduction system for data recorded in each memory unit of the
[0070]
A
[0071]
Next, the operation of the surgical microscope system configured as described above will be described.
[0072]
At the time of microscopic observation, illumination light emitted from a light source (not shown) is reflected by the surgical site and is incident on the mirror body 250 via the
[0073]
In addition, the image displayed on the
[0074]
Further, a part of the observation light beam of the microscopic image is polarized by the total reflection unit 253 provided in the
[0075]
In addition, when signals selected by a switch operation (not shown) by the surgeon are input to the
[0076]
At this time, the same images as the images displayed on the respective monitors are output from the image output units (not shown) of the
[0077]
The
[0078]
Next, playback control of images recorded on the
[0079]
The
[0080]
Accordingly, for example, as shown in FIG. 14A, the microscopic image is displayed at a position biased to the right on the monitor 268 (having an aspect ratio of 16: 9). An endoscopic image as an in-field display image is displayed as a screen (the display position is determined by the XY table position data), and an endoscope observation direction index as a superimposed image is overlaid on the microscopic image. A navigation image as a second observation optical system image is displayed on the right side of the microscopic image.
[0081]
When the display
[0082]
According to the present embodiment, since the HDD is used as the recording device, a plurality of recording media are not required, and a plurality of images such as the in-field display, the second observation optical system, and the image superimposing device are recorded and reproduced collectively. Can be easily done.
[0083]
Next, FIGS. 15 and 16 relate to the third embodiment of the present invention, FIG. 15 is a schematic configuration diagram of an XY table and a functional block diagram of an image recording control system, and FIG. 16 is a reproduced image displayed on a monitor. It is explanatory drawing which shows an example. In the present embodiment, the same components as those in the first embodiment described above are denoted by the same reference numerals and description thereof is omitted.
[0084]
As shown in FIG. 15, a communication port (not shown) of the
[0085]
Next, the operation of the surgical microscope system configured as described above will be described.
[0086]
The time code, the XY table position data, and the image selection state by recording the image are recorded in the
[0087]
At the time of observation of intraoperative recording, for example, an image in the state shown in FIG. When a mode in which the setting state of the
[0088]
According to the present embodiment, since the observer can check the setting data of the energy treatment tool at the same timing as the progress of the operation in addition to the operation image such as the microscope image and the endoscopic image, the post-operation conference Thus, it is possible to make a reliable judgment when revising the operation.
[0089]
According to each embodiment mentioned above, the following composition is obtained.
[0090]
(Supplementary Note 1) A mirror having an observation optical system for magnifying and observing the surgical site, an in-field display means for displaying at least one image in the observation field of the mirror, and taking an observation image of the mirror A surgical microscope comprising:
One or a plurality of recording means for recording the image photographed by the photographing means and the image displayed on the in-view display means;
Data recording means for recording display position information in the observation visual field of the visual field display means in time series in accordance with the recording state of the recording means;
A surgical microscope system, comprising: reproduction control means for reproducing and displaying a plurality of images recorded on the recording means in time series based on at least the recording data of the data recording means.
[0091]
(Supplementary Note 2) The in-field display means includes an in-field image display means for inserting an image into a part of the field of the observation optical system, a second image observation means different from the observation optical system, or the observation The surgical microscope system according to
[0092]
(Supplementary Note 3) The surgical microscope system according to
[0093]
(Additional remark 4) The recording means which detects the display state of the said visual field display means, and the video recording means which records the image displayed on the said visual field display means according to the detection result of this detection means are controlled. A surgical microscope system according to any one of
[0094]
(Additional remark 5) It has a reproduction control part which controls the reproduction position of the reproduction picture of the image displayed on the display means in the field of view based on the record data of the data recording means,
[0095]
(Supplementary note 6) The surgical microscope according to any one of
[0096]
(Additional remark 7) The said input means has a mode which can select at least the form in which the recorded several image substantially corresponded with the actual observation state of the surgical microscope, The additional remark 4 characterized by the above-mentioned. Surgical microscope system.
[0097]
(Supplementary note 8) The surgical microscope system according to any one of
[0098]
(Supplementary note 9) The surgical microscope system according to any one of
[0099]
【The invention's effect】
As described above, according to the present invention, it is possible to record a plurality of images taken during the operation with high image quality, and when reproducing the recorded image, the image is reproduced in a state very close to the observation state during the operation. be able to.
[Brief description of the drawings]
FIG. 1 is a schematic configuration diagram of an optical system of a binocular tube portion of a surgical microscope system according to a first embodiment of the present invention.
2 is a schematic configuration diagram showing the left observation optical system in FIG.
FIG. 3 is a perspective view of the LCD optical system.
FIG. 4 is a schematic block diagram of an XY table and a functional block diagram of an image recording control system.
FIG. 5 is a functional block diagram of the recorded data reproduction system.
FIG. 6 is an explanatory diagram showing a positional relationship in which the display image in the visual field is controlled with respect to the microscope observation visual field.
FIG. 7 is an explanatory diagram showing the display position and size in the LCD according to the position of the XY stage.
FIG. 8 is an explanatory diagram showing a reproduced image as in the above.
FIG. 9 is a schematic configuration diagram of an optical system of a mirror part of a surgical microscope system according to a second embodiment of the present invention.
FIG. 10 is a schematic block diagram of an XY table and a functional block diagram of an image recording control system.
FIG. 11 is a conceptual diagram showing memory area allocation of the hard disk drive
FIG. 12 is a functional block diagram of the recorded data reproduction system.
FIG. 13 is an explanatory diagram showing an example of an image selectively displayed on the microscope image and on the second observation optical system.
FIG. 14 is an explanatory diagram showing an example of a reproduced image displayed on the monitor
FIG. 15 is a schematic configuration diagram of an XY table and a functional block diagram of an image recording control system according to a third embodiment of the present invention.
FIG. 16 is an explanatory diagram showing an example of a reproduced image displayed on the monitor as above;
[Explanation of symbols]
26a, 26b LCD optical system (in-field image display means)
101 VCR (Recording means)
102 Memory (data recording means)
103 Camera head (photographing means)
105 VCR (Recording means)
108 Image control device (reproduction control means)
255 arithmetic unit (reproduction control means)
256 hard disk drive (recording means)
281 Superimposition monitor (image superimposing means)
Claims (5)
前記観察光学系により得た顕微鏡像の観察視野内における所定の位置に表示される視野内表示部に少なくとも一つの子画像を表示するよう制御する子画像表示制御部と、
前記観察光学系により得た顕微鏡像を顕微鏡観察画像として撮影する撮影手段と、
前記撮影手段により撮影された前記顕微鏡観察画像を記録する第1の画像記録手段と、
前記視野内表示部に表示され得る前記子画像を記録する第2の画像記録手段と、
前記視野内表示部に表示される子画像に係る所定の設定操作を行う子画像操作手段と、
前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報に基づいて当該子画像を表示するよう制御する子画像表示制御手段と、
前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録する情報記録手段と、
前記情報記録手段に記録された前記所定の情報に基づいて、前記第1の画像記録手段に記録された前記顕微鏡観察画像と前記第2の画像記録手段に記録された前記子画像とを時系列的に一致させて再生表示する再生制御手段と、
を具備し、
前記子画像操作手段は、前記子画像表示制御部の制御下に所定の子画像が表示される前記視野内表示部の、前記顕微鏡像の観察視野内における表示位置を設定し、
前記情報記録手段は、前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る前記表示位置の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録することを特徴とする手術用顕微鏡システム。An observation optical system for magnifying the surgical site;
A child image display control unit for controlling to display at least one child image on the in-field display unit displayed at a predetermined position in the observation field of the microscope image obtained by the observation optical system;
Imaging means for taking a microscope image obtained by the observation optical system as a microscope observation image;
First image recording means for recording the microscope observation image photographed by the photographing means;
Second image recording means for recording the child image that can be displayed on the in-view display unit;
A child image operation means for performing a predetermined setting operation related to the child image displayed on the in-view display unit;
Child image display control means for controlling to display the child image based on predetermined information relating to the child image displayed on the in-view display unit set by the child image operation means;
Predetermined information relating to the child image displayed on the in-view display unit set by the child image operating means is associated with the time-series information relating to the first image recording means and the second image recording means. Information recording means for recording;
Based on the predetermined information recorded in the information recording unit, the microscope observation image recorded in the first image recording unit and the child image recorded in the second image recording unit are time-sequentially displayed. Reproduction control means for reproducing and displaying in accordance with each other,
Comprising
The child image operation means sets a display position in the observation field of the microscope image of the in-field display unit on which a predetermined child image is displayed under the control of the child image display control unit,
The information recording means uses the first image recording means and the second image recording means as information on the display position relating to the child image displayed on the in-field display unit set by the child image operating means. A microscope system for operation, which is recorded in association with time series information related to the above .
前記観察光学系により得た顕微鏡像の観察視野内における所定の位置に表示される視野内表示部に少なくとも一つの子画像を表示するよう制御する子画像表示制御部と、
前記観察光学系により得た顕微鏡像を顕微鏡観察画像として撮影する撮影手段と、
前記撮影手段により撮影された前記顕微鏡観察画像を記録する第1の画像記録手段と、
前記視野内表示部に表示され得る前記子画像を記録する第2の画像記録手段と、
前記視野内表示部に表示される子画像に係る所定の設定操作を行う子画像操作手段と、
前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報に基づいて当該子画像を表示するよう制御する子画像表示制御手段と、
前記子画像操作手段により設定された前記視野内表示部に表示される子画像に係る所定の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録する情報記録手段と、
前記情報記録手段に記録された前記所定の情報に基づいて、前記第1の画像記録手段に記録された前記顕微鏡観察画像と前記第2の画像記録手段に記録された前記子画像とを時系列的に一致させて再生表示する再生制御手段と、
を具備し、
前記子画像操作手段は、前記子画像に表示される内容を選択して設定し、
前記情報記録手段は、前記子画像操作手段により設定された前記選択された子画像に表示される内容の情報を、前記第1の画像記録手段および前記第2の画像記録手段に係る時系列情報に関連づけて記録することを特徴とする手術用顕微鏡システム。 An observation optical system for magnifying the surgical site;
A child image display control unit for controlling to display at least one child image on the in-field display unit displayed at a predetermined position in the observation field of the microscope image obtained by the observation optical system;
Imaging means for taking a microscope image obtained by the observation optical system as a microscope observation image;
First image recording means for recording the microscope observation image photographed by the photographing means;
Second image recording means for recording the child image that can be displayed on the in-view display unit;
A child image operation means for performing a predetermined setting operation related to the child image displayed on the in-view display unit;
Child image display control means for controlling to display the child image based on predetermined information relating to the child image displayed on the in-view display unit set by the child image operation means;
Predetermined information relating to the child image displayed on the in-view display unit set by the child image operating means is associated with the time-series information relating to the first image recording means and the second image recording means. Information recording means for recording;
Based on the predetermined information recorded in the information recording unit, the microscope observation image recorded in the first image recording unit and the child image recorded in the second image recording unit are time-sequentially displayed. Reproduction control means for reproducing and displaying in accordance with each other,
Comprising
The child image operation means selects and sets the content displayed in the child image,
The information recording unit is configured to display information of contents displayed on the selected child image set by the child image operation unit as time series information relating to the first image recording unit and the second image recording unit. A microscope system for operation characterized by recording in association with the .
前記子画像は、前記内視鏡用カメラにより撮像された内視鏡画像であることを特徴とする請求項1−3のいずれか一に記載の手術用顕微鏡システム。 Further comprising an endoscope camera separate from the observation optical system,
The surgical microscope system according to any one of claims 1 to 3, wherein the child image is an endoscope image captured by the endoscope camera .
前記子画像は、前記ナビゲーション装置に記録されたナビゲーション画像であることを特徴とする請求項1−4のいずれか一に記載の手術用顕微鏡システム。 A navigation device separate from the observation optical system;
The surgical microscope system according to claim 1, wherein the child image is a navigation image recorded in the navigation device .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001321136A JP4105860B2 (en) | 2001-10-18 | 2001-10-18 | Surgical microscope system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001321136A JP4105860B2 (en) | 2001-10-18 | 2001-10-18 | Surgical microscope system |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003121755A JP2003121755A (en) | 2003-04-23 |
JP2003121755A5 JP2003121755A5 (en) | 2005-06-09 |
JP4105860B2 true JP4105860B2 (en) | 2008-06-25 |
Family
ID=19138414
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001321136A Expired - Fee Related JP4105860B2 (en) | 2001-10-18 | 2001-10-18 | Surgical microscope system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4105860B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7486981B2 (en) * | 2004-11-15 | 2009-02-03 | Given Imaging Ltd. | System and method for displaying an image stream |
JP4996312B2 (en) * | 2007-04-06 | 2012-08-08 | オリンパス株式会社 | Microscope device and microscope system |
WO2009051013A1 (en) * | 2007-10-19 | 2009-04-23 | Mitaka Kohki Co., Ltd. | Head-mounted binocular loupe device |
DE102008028482B4 (en) * | 2008-06-13 | 2021-11-25 | Carl Zeiss Meditec Ag | Optical observation device with multi-channel data overlay and method for overlaying electronic overlay images in an optical observation device |
JP2010113312A (en) | 2008-11-10 | 2010-05-20 | Hoya Corp | Endoscope apparatus and endoscope processor |
-
2001
- 2001-10-18 JP JP2001321136A patent/JP4105860B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003121755A (en) | 2003-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4832679B2 (en) | Microscope system | |
JP3485583B2 (en) | Medical microscope system | |
US6636254B1 (en) | Image processing apparatus for performing turn or mirror inversion on an input video signal and outputting different images simultaneously | |
US6507359B1 (en) | Image display system | |
US7050225B2 (en) | Superimposing microscope having image pickup | |
JP3805612B2 (en) | Fundus camera | |
JP3625906B2 (en) | Surgical microscope equipment | |
JP4754674B2 (en) | Surgical microscope | |
JP4105860B2 (en) | Surgical microscope system | |
JP2002014287A (en) | Microscopic instrument for surgery | |
JP3717893B2 (en) | Surgical microscope | |
JPH05192299A (en) | Fundus camera | |
JP3549253B2 (en) | Surgical microscope | |
JP3292493B2 (en) | Surgical microscope | |
JP2938940B2 (en) | Surgical microscope | |
JP2986659B2 (en) | Stereoscopic image imaging and display system | |
JP3386082B2 (en) | Viewfinder in imaging equipment | |
JP2005305046A (en) | Operation observation system | |
JPH11258514A (en) | Operating microscope | |
JPH1080418A (en) | X-ray diagnosing device | |
JP3246069B2 (en) | Microscope simulator | |
JP2000214388A (en) | Stereomicroscope | |
JP2002344997A (en) | Edit method for stereoscopic video signal, and optical adaptor for a video camera for stereoscopic video photographing | |
JP4804675B2 (en) | Surgical microscope | |
JP3230251B2 (en) | Slit lamp microscope |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040823 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040823 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060606 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060807 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071113 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080325 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080328 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4105860 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110404 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120404 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130404 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140404 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |