被写体に固有の物理的性質を表す物理量の一つに分光透過率スペクトルがある。分光透過率は、各波長における入射光に対する透過光の割合を表す物理量であり、RGB値等の照明光の変化に依存する色情報とは異なり、外因的影響によって値が変化しない物体固有の情報である。このため、分光透過率は、被写体自体の色を再現するための情報として様々な分野で利用されている。例えば、生体組織標本、特に病理標本を用いた病理診断の分野では、標本を撮像した画像の解析に分光特性値の一例として分光透過率が利用されている。
病理診断では、臓器摘出によって得たブロック標本や針生検によって得た病理標本を厚さ数ミクロン程度に薄切した後、様々な所見を得るために顕微鏡を用いて拡大観察することが広く行われている。中でも光学顕微鏡を用いた透過観察は、機材が比較的安価で取り扱いが容易である上、歴史的に古くから行われてきたこともあって、最も普及している観察方法の一つである。この場合、薄切された標本は光を殆ど吸収および散乱せず無色透明に近いため、観察に先立って色素による染色を施すのが一般的である。
染色手法としては種々のものが提案されており、その総数は100種類以上にも達するが、特に病理標本に関しては、色素として青紫色のヘマトキシリンと赤色のエオジンの2つを用いるヘマトキシリン−エオジン染色(以下、「H&E染色」と称す。)が標準的に用いられている。
ヘマトキシリンは植物から採取された天然の物質であり、それ自身には染色性はない。しかし、その酸化物であるヘマチンは好塩基性の色素であり、負に帯電した物質と結合する。細胞核に含まれるデオキシリボ核酸(DNA)は、構成要素として含むリン酸基によって負に帯電しているため、ヘマチンと結合して青紫色に染色される。なお、前述の通り、染色性を有するのはヘマトキシリンでは無く、その酸化物であるヘマチンであるが、色素の名称としてはヘマトキシリンを用いるのが一般的であるため、以下それに従う。一方エオジンは、好酸性の色素であり、正に帯電した物質と結合する。アミノ酸やタンパク質が正負どちらに帯電するかはpH環境に影響を受け、酸性下では正に帯電する傾向が強くなる。このため、エオジン溶液に酢酸を加えて用いることがある。細胞質に含まれるタンパク質は、エオジンと結合して赤から薄赤に染色される。
H&E染色後の標本(染色標本)では、細胞核や骨組織等が青紫色に、細胞質や結合組織、赤血球等が赤色に染色され、容易に視認できるようになる。この結果、観察者は、細胞核等の組織を構成する要素の大きさや位置関係等を把握でき、標本の状態を形態学的に判断することが可能となる。
標本の観察は、観察者の目視によるものの他、この標本をマルチバンド撮像して外部装置の表示画面に表示することによっても行われている。表示画面に表示する場合には、撮像したマルチバンド画像から標本各点の分光透過率を推定する処理や、推定した分光透過率をもとに標本を染色している色素の色素量を推定する処理、推定した色素量をもとに画像の色を補正する処理等が行われ、カメラの特性や染色状態のばらつき等が補正されて、表示用の標本のRGB画像である表示画像が合成される。図38は、合成された表示画像の一例を示す図である。色素量の推定を適切に行えば、濃く染色された標本や薄く染色された標本を、適切に染色された標本と同等の色を有する画像に補正することができる。
標本のマルチバンド画像から標本各点の分光透過率を推定する手法としては、例えば、主成分分析による推定法(例えば、非特許文献1参照)や、ウィナー(Wiener)推定による推定法(例えば、非特許文献2参照)等が挙げられる。ウィナー推定は、ノイズの重畳された観測信号から原信号を推定する線形フィルタ手法の一つとして広く知られており、観測対象の統計的性質とノイズ(観測ノイズ)の特性とを考慮して誤差の最小化を行う手法である。カメラからの信号には何らかのノイズが含まれるため、ウィナー推定は原信号を推定する手法として極めて有用である。
ここで、標本のマルチバンド画像から表示画像を合成する方法について説明する。先ず、標本のマルチバンド画像を撮像する。例えば、特許文献1に開示されている技術を用い、16枚のバンドパスフィルタをフィルタホイールで回転させて切り替えながら、面順次方式でマルチバンド画像を撮像する。これにより、標本の各点において16バンドの画素値を有するマルチバンド画像が得られる。なお、色素は、本来観察対象となる標本内に3次元的に分布しているが、通常の透過観察系ではそのまま3次元像として捉えることはできず、標本内を透過した照明光をカメラの撮像素子上に投影した2次元像として観察される。したがって、ここでいう各点は、投影された撮像素子の各画素に対応する標本上の点を意味している。
撮像されたマルチバンド画像の任意の点(画素)xについて、バンドbにおける画素値g(x,b)と、対応する標本上の点の分光透過率t(x,λ)との間には、カメラの応答システムに基づく次式(1)の関係が成り立つ。
λは波長、f(b,λ)はb番目のフィルタの分光透過率、s(λ)はカメラの分光感度特性、e(λ)は照明の分光放射特性、n(b)はバンドbにおける観測ノイズをそれぞれ表す。bはバンドを識別する通し番号であり、ここでは1≦b≦16を満たす整数値である。
実際の計算では、式(1)を波長方向に離散化した次式(2)を用いる。
G(x)=FSET(x)+N ・・・(2)
波長方向のサンプル点数をD、バンド数をBとすれば(ここではB=16)、G(x)は、点xにおける画素値g(x,b)に対応するB行1列の行列である。同様に、T(x)は、t(x,λ)に対応するD行1列の行列、Fは、f(b,λ)に対応するB行D列の行列である。一方、Sは、D行D列の対角行列であり、対角要素がs(λ)に対応している。同様に、Eは、D行D列の対角行列であり、対角要素がe(λ)に対応している。Nは、n(b)に対応するB行1列の行列である。なお、式(2)では、行列を用いて複数のバンドに関する式を集約しているため、バンドを表す変数bが陽に記述されていない。また、波長λに関する積分は行列の積に置き換えられている。
ここで、表記を簡単にするため、次式(3)で定義される行列Hを導入する。Hはシステム行列とも呼ばれる。
H=FSE ・・・(3)
よって、式(3)は、次式(4)に置き換えられる。
G(x)=HT(x)+N ・・・(4)
次に、ウィナー推定を用いて、撮像したマルチバンド画像から標本各点における分光透過率を推定する。分光透過率の推定値(分光透過率データ)T^(x)は、次式(5)で計算することができる。なお、T^は、Tの上に推定値を表す記号「^(ハット)」が付いていることを示す。
ここで、Wは次式(6)で表され、「ウィナー推定行列」あるいは「ウィナー推定に用いる推定オペレータ」と呼ばれる。
RSSは、D行D列の行列であり、標本の分光透過率の自己相関行列を表す。また、RNNは、B行B列の行列であり、撮像に使用するカメラのノイズの自己相関行列を表す。
このようにして分光透過率データT^(x)を推定したならば、次に、このT^(x)をもとに対応する標本上の点(標本点)における色素量を推定する。推定の対象とする色素は、ヘマトキシリン、細胞質を染色したエオジン、赤血球を染色したエオジンまたは染色されていない赤血球本来の色素の3種類であり、それぞれ色素H,色素E,色素Rと略記する。なお、厳密には、染色を施さない状態であっても赤血球はそれ自身特有の色を有しており、H&E染色後は、赤血球自身の色と染色過程において変化したエオジンの色が重畳して観察される。このため、正確には両者を併せたものを色素Rと呼称する。
一般に、光を透過する物質では、波長λ毎の入射光の強度I0(λ)と射出光の強度I(λ)との間に、次式(7)で表されるランベルト・ベール(Lambert-Beer)の法則が成り立つことが知られている。
k(λ)は波長に依存して決まる物質固有の値、dは物質の厚さをそれぞれ表す。
ここで、式(7)の左辺は分光透過率t(λ)を意味しており、式(7)は次式(8)に置き換えられる。
また、分光吸光度a(λ)は次式(9)で表される。
よって、式(8)は次式(10)に置き換えられる。
H&E染色された標本が、色素H,色素E,色素Rの3種類の色素で染色されている場合、ランベルト・ベールの法則により各波長λにおいて次式(11)が成立する。
kH(λ),kE(λ),kR(λ)は、それぞれ色素H,色素E,色素Rに対応するk(λ)を表し、例えば、標本を染色している各色素の色素スペクトル(以下、「基準色素スペクトル」と称す。)である。またdH,dE,dRは、マルチバンド画像の各画像位置に対応する標本各点における色素H,色素E,色素Rの仮想的な厚さを表す。本来色素は、標本中に分散して存在するため、厚さという概念は正確ではないが、標本が単一の色素で染色されていると仮定した場合と比較して、どの程度の量の色素が存在しているかを表す相対的な色素量の指標となる。すなわち、dH,dE,dRはそれぞれ色素H,色素E,色素Rの色素量を表しているといえる。なお、kH(λ),kE(λ),kR(λ)は、色素H,色素E,色素Rを用いてそれぞれ個別に染色した標本を予め用意し、その分光透過率を分光器で測定することによって、ランベルト・ベールの法則から容易に求めることができる。
ここで、位置xにおける分光透過率をt(x,λ)とし、分光吸光度をa(x,λ)とすると、式(9)は次式(12)に置き換えられる。
そして、式(5)を用いて推定された分光透過率T^(x)の波長λにおける推定分光透過率をt^(x,λ)、推定吸光度をa^(x,λ)とすると、式(12)は次式(13)に置き換えられる。なお、t^は、tの上に記号「^」が付いていることを示し、a^は、aの上に記号「^」が付いていることを示す。
式(13)において未知変数はdH,dE,dRの3つであるから、少なくとも3つの異なる波長λについて式(13)を連立させれば、これらを解くことができる。より精度を高めるために、4つ以上の異なる波長λに対して式(13)を連立させ、重回帰分析を行ってもよい。例えば、3つの波長λ1,λ2,λ3について式(13)を連立させた場合、次式(14)のように行列表記できる。
ここで、式(14)を次式(15)に置き換える。
波長方向のサンプル点数をDとすれば、A^(x)は、a^(x,λ)に対応するD行1列の行列であり、Kは、k(λ)に対応するD行3列の行列、d(x)は、点xにおけるdH,dE,dRに対応する3行1列の行列である。なお、A^は、Aの上に記号「^」が付いていることを示す。
そして、式(15)に従い、最小二乗法を用いて色素量dH,dE,dRを算出する。最小二乗法とは単回帰式において誤差の二乗和を最小にするようにd(x)を決定する方法であり、次式(16)で算出できる。
d^(x)は、推定された色素量である。
色素H,色素E,色素Rについて色素量d^H,d^E,d^Rを推定し、式(12)に代入すれば、復元した復元分光吸光度a~(x,λ)は次式(17)で求められる。なお、d^は、dの上に記号「^」が付いていることを示し、a~は、aの上に記号「〜」が付いていることを示す。
ここで、色素量推定における推定誤差e(λ)は、推定分光吸光度a^(x,λ)と復元分光吸光度a~(x,λ)とをもとに、次式(18)で求められる。以下、e(λ)を「残差スペクトル」と称す。
そして、推定分光吸光度a^(x,λ)は、式(17),(18)から次式(19)で表すことができる。
ランベルト・ベールの法則は、屈折や散乱がないと仮定した場合に半透明物体を透過する光の減衰を定式化したものである。しかしながら、実際の標本では屈折や散乱が起こり得る。このため、標本による光の減衰をランベルト・ベールの法則のみでモデル化した場合、この屈折や散乱に起因する誤差が生じる。しかしながら、屈折や散乱を含めたモデルの構築は極めて困難である。そこで、屈折や散乱の影響を含めたモデル化の誤差である残差スペクトルe(λ)を考慮することで、物理モデルによる不自然な色変動を引き起こさないようにすることができる。
以上のようにして、色素量d^H,d^E,d^Rが求まれば、これを修正する事で、標本における色素量の変化をシミュレートする事ができる。ここで、染色法によって染色された色素量d^H,d^Eを修正する。赤血球本来の色であるd^Rは修正しない。すなわち、補正色素量d^H *,d^E *は、適当な色素量補正係数αH,αEを用いて次式(20),(21)で求められる。
求めた補正色素量d^H *,d^E *を式(12)に代入すれば、次式(22)によって、分光吸光度a~*(x,λ)が得られる。なお、a~*は、a*の上に記号「〜」が付いていることを示す。
また、残差スペクトルe(λ)を含める場合には、新たな分光吸光度a^*(x,λ)は、式(23)によって求められる。なお、a^*は、a*の上に記号「^」が付いていることを示す。
この分光吸光度a~*(x,λ)または分光吸光度a^*(x,λ)を式(10)に代入すれば、式(24)によって、新たな分光透過率t*(x,λ)が得られる。分光吸光度a*(x,λ)は、分光吸光度a~*(x,λ)または分光吸光度a^*(x,λ)のいずれかの値である。
そして、式(24)を式(1)に代入すれば、新たな画素値g*(x,b)は、次式(25)によって求めることができる。この場合、観測ノイズn(b)をゼロとして計算してよい。
ここで、式(4)を、次式(26)に置き換える。
G*(x)=HT*(x)・・・(26)
G*(x)は、g*(x,b)に対応するB行1列の行列であり、T*(x)は、t*(x,λ)に対応するD行1列の行列である。これによって、色素量を仮想的に変化させた標本の画素値G*(x)を合成することができる。
以上説明したように、マルチバンド画像の任意の点xにおける色素量を推定して標本各点における色素量を仮想的に調整し、調整後の標本の画像を合成することによって、標本の色素量を補正することができる。このとき、自動的に色正規化処理を行い、標本各点における色素量を適正な染色状態に調整することも可能である。また、適当なユーザインターフェースを用意すれば、ユーザは、この色素量の調整を手動で行うことができる。表示用に合成された表示画像は、例えば表示装置に画面表示され、医師等による病理診断等に利用される。これによれば、標本に染色ばらつきがあったとしても、適正な染色状態に調整された画像を観察することが可能となる。
以下、図面を参照し、本発明の好適な実施の形態について詳細に説明する。なお、この実施の形態によって本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
図1は、実施の形態1の画像処理システム1の全体構成の一例を示すブロック図である。図1に示すように、画像処理システム1では、画像処理装置10と画像処理端末20(20−1,20−2,・・・)とがネットワークNを介して接続されている。画像処理装置10および画像処理端末20は、パソコン等のコンピュータで構成される。また、ネットワークNは、例えば電話回線網やインターネット、LAN、専用ネットワーク、イントラネット等の各種通信網を適宜採用して用いることができる。
画像処理装置10は、染色標本の色素量を推定し、推定した色素量のデータをネットワークNを介して画像処理端末20に提供する。この画像処理装置10は、例えば、病理標本等の生体組織標本をH&E染色する染色施設をもつ医療施設側に設置される。以下では、画像処理装置10は、染色後の標本(染色標本)を撮像したマルチバンド画像をもとに、ウィナー推定を用いて染色標本の標本各点の分光透過率スペクトルを推定し、ランベルト・ベールの法則を用いて標本各点の色素量を推定する。そして、推定した色素量のデータをネットワークNを介して画像処理端末20に送信する。
一方、画像処理端末20は、例えば、画像処理装置10が設置された医療施設に対して標本の染色を依頼する別の医療施設側に設置される。この画像処理端末20は、画像処理装置10にアクセスして染色を依頼した標本について推定された色素量のデータを取得する。そして、取得した色素量をもとに、標本の表示用のRGB画像(表示画像)を合成する。
先ず、画像処理装置10および画像処理端末20の構成について説明する。図2は、実施の形態1の画像処理装置10の機能構成の一例を示すブロック図である。図2に示すように、画像処理装置10は、画像取得部110と、入力部120と、表示部130と、通信部140と、演算部150、記憶部160と、装置各部を制御する制御部170とを備える。
画像取得部110は、H&E染色された色素量の推定対象の染色標本を撮像して6バンドのマルチバンド画像を取得する。図3は、画像取得部110の構成を示す模式図である。図3に示すように、画像取得部110は、画像取得動作を行って染色標本を撮像し、6バンドのマルチバンド画像を取得する。この画像取得部110は、CCD等の撮像素子等を備えたRGBカメラ111、染色標本Sが載置される標本保持部113、標本保持部113上の染色標本Sを透過照明する照明部115、染色標本Sからの透過光を集光して結像させる光学系117、結像する光の波長帯域を所定範囲に制限するためのフィルタ部119等を備える。
RGBカメラ111は、デジタルカメラ等で広く用いられているものであり、モノクロの撮像素子上にモザイク状にRGBのカラーフィルタを配置したものである。このRGBカメラ111は、撮像される画像の中心が照明光の光軸上に位置するように設置される。図4は、カラーフィルタの配列例およびRGB各バンドの画素配列を模式的に示す図である。この場合、各画素はR,G,Bいずれかの成分しか撮像することはできないが、近傍の画素値を利用することで、不足するR,G,B成分が補間される。この手法は、例えば特許第3510037号公報で開示されている。なお、3CCDタイプのカメラを使用すれば、最初から各画素におけるR,G,B成分を取得できる。実施の形態1では、いずれの撮像方式を用いても構わないが、以下ではRGBカメラ111で撮像された画像の各画素においてR,G,B成分が取得できているものとする。
フィルタ部119は、それぞれ異なる分光透過率特性を有する2枚の光学フィルタ1191a,1191bを具備しており、これらが回転式の光学フィルタ切替部1193に保持されて構成されている。図5は、一方の光学フィルタ1191aの分光透過率特性を示す図であり、図6は、他方の光学フィルタ1191bの分光透過率特性を示す図である。例えば先ず、光学フィルタ1191aを用いて第1の撮像を行う。次いで、光学フィルタ切替部1193の回転によって使用する光学フィルタを光学フィルタ1191bに切り替え、光学フィルタ1191bを用いて第2の撮像を行う。この第1の撮像および第2の撮像によって、それぞれ3バンドの画像が得られ、両者の結果を合わせることによって6バンドのマルチバンド画像が得られる。なお、光学フィルタの数は2枚に限定されるものではなく、3枚以上の光学フィルタを用いることができる。取得された染色標本のマルチバンド画像は、染色標本画像として画像処理装置1の記憶部160に保持される。
この画像取得部110において、照明部115によって照射された照明光は、標本保持部113上に載置された染色標本Sを透過する。そして、染色標本Sを透過した透過光は、光学系117および光学フィルタ1191a,1191bを経由した後、RGBカメラ111の撮像素子上に結像する。光学フィルタ1191a,1191bを具備するフィルタ部119は、照明部115からRGBカメラ111に至る光路上のいずれかの位置に設置されていればよい。照明部115からの照明光を、光学系117を介してRGBカメラ111で撮像する際の、R,G,B各バンドの分光感度の例を、図7に示す。
入力部120は、図2に示すように、例えば、キーボードやマウス、タッチパネル、各種スイッチ等の各種入力装置によって実現されるものであり、操作入力に応じた入力信号を制御部170に出力する。表示部130は、LCDやELディスプレイ、CRTディスプレイ等の表示装置によって実現されるものであり、制御部170から入力される表示信号をもとに各種画面を表示する。通信部140は、ネットワークNを介して外部とのデータ通信を行う。この通信部140は、モデムやTA、通信ケーブルのジャックや制御回路等によって実現される。
演算部150は、CPU等のハードウェアによって実現される。この演算部150は、スペクトル推定手段としてのスペクトル推定部151と、色素量推定手段としての色素量推定部152とを含む。スペクトル推定部151は、染色標本画像を構成する各画素に対応する染色標本上の各標本点におけるスペクトルとして、分光透過率を推定する。ここで、スペクトル推定部151によって推定される分光透過率を「推定スペクトル」と称す。色素量推定部152は、各画素についてそれぞれ推定した推定スペクトルをもとに、対応する各標本点の色素量を推定する。
記憶部160は、更新記憶可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵あるいはデータ通信端子で接続されたハードディスク、CD−ROM等の情報記憶媒体およびその読取装置等によって実現されるものである。この記憶部160には、画像処理装置10を動作させ、この画像処理装置10が備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が格納される。
また、記憶部160には、画像処理プログラム161と、データ送信プログラム162と、標本情報DB163とが格納される。画像処理プログラム161は、染色標本画像から染色標本の色素量を推定して標本情報DB163に登録する処理(標本情報登録処理)を実現するためのプログラムである。データ送信プログラム162は、画像処理端末20からの要求(色素量データ送信要求)に応答して、この画像処理端末20に対し、要求された標本について推定した色素量のデータを送信する処理(データ送信処理)を実現するためのプログラムである。標本情報DB163は、画像処理端末20が設置された医療施設等から依頼された標本に関するデータを蓄積したデータベース(DB)である。この標本情報DB163には、例えば標本を識別するための標本識別情報と対応付けて、この標本を染色した染色標本をマルチバンド撮像した標本画像の画像データや、この染色標本画像から推定した推定スペクトルや色素量のデータの他、染色標本のサムネイル画像や、染色を依頼した医療施設に関する情報等が適宜登録される。ここで、標本識別情報は、標本を特定するための情報であり、例えば標本名を用いてもよいし、標本に固有のIDを割り当ててこれを用いることとしてもよい。
制御部170は、CPU等のハードウェアによって実現される。この制御部170は、入力部120から入力される入力信号や画像取得部110から入力される画像データ、記憶部160に格納されるプログラムやデータ等をもとに画像処理装置10を構成する各部への指示やデータの転送等を行い、画像処理装置10全体の動作を統括的に制御する。また、制御部170は、マルチバンド画像取得制御部171と、色素量送信手段としてのデータ送信制御部172とを含む。マルチバンド画像取得制御部171は、画像取得部110の動作を制御して染色標本画像を取得する。データ送信制御部172は、画像処理端末20からの色素量データ送信要求に応答し、標本情報DB163に登録されている要求された標本の色素量のデータを通信部140を介して画像処理端末20に送信する制御を行う。
図8は、実施の形態1の画像処理端末20の機能構成の一例を示すブロック図である。図8に示すように、画像処理端末20は、入力部210と、表示部220と、通信部230と、演算部240と、記憶部250と、装置各部を制御する制御部260とを備える。
この画像処理端末20において、演算部240は、補正色素量算出部241と、補正スペクトル合成手段としての補正スペクトル合成部242と、画素値算出手段としての画像合成部243とを含む。補正色素量算出部241は、画像処理装置10から取得した色素量をもとに、色素量補正係数を用いて補正色素量を算出する。補正スペクトル合成部242は、色素H,色素Eの補正色素量および色素Rの色素量とをもとに分光透過率を合成する。ここで、補正スペクトル合成部242によって合成される分光透過率を「補正スペクトル」と称す。画像合成部243は、補正スペクトルを用いて画素値を算出し、表示画像を合成する。
記憶部250には、画像処理端末20を動作させ、この画像処理端末20が備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が格納される。また、記憶部250には、データ取得プログラム251と、画像処理プログラム252と、受信色素量データ253とが格納される。データ取得プログラム251は、画像処理装置10に対して標本を指定した色素量データ送信要求を送信し、指定した標本について推定された色素量のデータを取得する処理(データ取得処理)を実現するためのプログラムである。画像処理プログラム252は、画像処理装置10から取得した色素量をもとに表示画像を合成する処理(画像合成処理)を実現するためのプログラムである。受信色素量データ253には、画像処理装置10から取得した色素量のデータがその標本識別情報と対応付けられて設定される。
制御部260は、入力部210から入力される入力信号や画像取得部110から入力される画像データ、記憶部250に格納されるプログラムやデータ等をもとに画像処理端末20を構成する各部への指示やデータの転送等を行い、画像処理端末20全体の動作を統括的に制御する。また、制御部260は、色素量受信手段としてのデータ取得制御部261と、補正係数設定手段としての色素量補正係数設定部262と、画像表示制御部263とを含む。データ取得制御部261は、通信部230を介して標本を指定した色素量データ送信要求を画像処理装置10に送信し、色素量のデータを取得する制御を行う。色素量補正係数設定部262は、入力部210を介してユーザによる色素量補正係数の入力を受け付け、入力された値を色素量補正係数として設定し、演算部240の補正色素量算出部241に出力する。画像表示制御部263は、画像合成部243によって合成された表示画像を画像表示手段としての表示部220に表示する制御を行う。
次に、画像処理装置10および画像処理端末20が行う処理手順について説明する。先ず、画像処理装置10と画像処理端末20との間で色素量のデータを送受信する際の画像処理装置10および画像処理端末20の処理手順について説明する。図9は、実施の形態1の画像処理装置10が行うデータ送信処理の処理手順および画像処理端末20が行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160に格納されたデータ送信プログラム162に従って画像処理装置10の各部が動作するとともに、記憶部250に格納されたデータ取得プログラム251に従って画像処理端末20の各部が動作することによって実現される。
図9に示すように、画像処理端末20では、データ取得処理を開始すると、データ取得制御部261が、色素量を取得する標本の指定依頼の通知画面を表示部220に表示する制御を行って、標本の指定を依頼する(ステップa1)。例えば、画像処理装置10に対して色素量のデータ送信を要求する標本の指定を依頼する旨のメッセージの表示とともに標本識別情報を入力するための入力ボックス等を配置した通知画面を表示部220に表示する制御を行なう。ユーザは、入力部210を介して標本識別情報を入力することによって、所望の標本を指定する。ここでユーザが入力した標本識別情報は、記憶部250に保持される。なお、色素量を取得する標本の指定方法は、標本識別情報の入力による方法に限定されるものではない。例えば、画像処理装置10との間で通信を行って画像処理端末20のユーザが染色を依頼している標本の一覧を取得し、取得した標本の一覧から指定を受け付ける構成としてもよい。またこのとき、標本の一覧と併せてそのサムネイル画像を取得し、ユーザに提示するようにしてもよい。
データ取得制御部261は、この指定依頼の通知に対する応答に従って通信部230の動作を制御し、色素量データ送信要求を指定された標本の標本識別情報とともに画像処理装置10に送信する制御を行う(ステップa3)。なお、標本中の全画素についての色素量を取得する場合に限らず、一部の範囲(視野)を指定してこの一部の視野内の画素についての色素量を取得するといったことも可能である。この場合には、色素量データ送信要求とともに、例えば視野の大きさや中心座標といったその視野を指定する情報を併せて画像処理装置10に送信するようにすればよい。そして、データ取得制御部261は、画像処理装置10から指定した標本の色素量のデータを受信するまで待機状態となる。
一方、画像処理装置10では、データ送信処理として先ず、データ送信制御部172が、通信部140の動作を制御して画像処理端末20から送信された色素量データ送信要求を受信する(ステップb1)。続いて、データ送信制御部172は、色素量データ送信要求とともに送信された標本識別情報をもとに標本情報DB163を探索し、この標本識別情報と対応付けられた色素量のデータを取得する(ステップb3)。そして、データ送信制御部172は、通信部140の動作を制御し、色素量データ送信要求を送信した画像処理端末20に対して取得した色素量のデータを送信する制御を行う(ステップb5)。
そして、画像処理端末20では、データ取得制御部261は、画像処理装置10から送信された色素量のデータを受信したならば(ステップa5:Yes)、受信した色素量のデータを、標本識別情報と対応付けて受信色素量データ253に保存する(ステップa7)。
次に、画像処理装置10が行う標本情報登録処理の処理手順について説明する。図10は、実施の形態1における標本情報登録処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160に格納された画像処理プログラム161に従って画像処理装置10の各部が動作することによって実現される。
図10に示すように、標本情報登録処理では、先ずマルチバンド画像取得制御部171が、画像取得部110の動作を制御して色素量の推定対象の染色標本をマルチバンド撮像し、染色標本画像を取得する(ステップc1)。
続いて、スペクトル推定部151が、取得された染色標本画像の画素値をもとに、染色標本のスペクトル(推定スペクトル)を画素毎に推定する(ステップc3)。具体的には、背景技術で示した次式(5)に従って、染色標本画像の各画素を順次推定対象画素とし、推定対象画素である染色標本画像上の点xにおける画素値の行列表現G(x)から対応する染色標本上の標本点における推定分光透過率T^(x)を推定スペクトルとして算出する。得られた推定分光透過率T^(x)は、記憶部160に保持される。
続いて、色素量推定部152が、推定スペクトル(推定分光透過率T^(x))をもとに、予め測定されて記憶部160に記憶されている色素H,色素E,色素Rの基準色素スペクトルを用いて染色標本の色素量を画素毎に推定する(ステップc5)。ここで推定の対象とする色素は、ヘマトキシリン(色素H)と、細胞質を染色したエオジン(色素E)と、赤血球を染色したエオジンまたは染色されていない赤血球の色(色素R)であり、色素量推定部152は、染色標本画像の各点xを推定対象画素として推定した画素毎の推定分光透過率T^(x)をもとに、対応する各標本点に固定された色素H,色素E,色素Rそれぞれの色素量を推定する。すなわち、背景技術で示した次式(16)に従って、d^H,d^E,d^Rについて解く。
そして、演算部150が、推定した色素量d^H,d^E,d^Rのデータを、染色標本の標本識別情報と対応付けて標本情報DB163に登録する(ステップc7)。このとき、色素量のデータだけでなく、染色標本画像の画像データや推定スペクトルのデータをその標本識別情報に対する標本情報として標本情報DB163に登録するようにしてもよい。なお、色素量等の標本に関するデータの管理はデータベースによる管理に限定されるものではなく、テキストデータによる管理や、色素量等のデータを記録したファイル名の管理等であってもよい。
次に、画像処理端末20が行う画像合成処理の処理手順について説明する。図11は、実施の形態1における画像合成処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部250に格納された画像処理プログラム252に従って画像処理端末20の各部が動作することによって実現される。
この画像合成処理では、事前に標本識別情報の入力を依頼する等し、ユーザによる観察対象の標本の指定を受け付ける。そして先ず、図11に示すように、色素量補正係数設定部262が、色素H,色素Eの色素量補正係数の入力依頼の通知を表示部220に表示する制御を行い、例えばユーザ操作に従って色素H,色素Eの色素量補正係数を設定して補正色素量算出部241に出力する(ステップd1)。例えば、色素量補正係数の入力を依頼する旨のメッセージの表示とともに色素Hの色素量補正係数αHおよび色素Eの色素量補正係数αEの各値を入力するための入力ボックス等を配置した通知画面を表示部220に表示する制御を行う。ユーザは、入力部210を介して所望の色素量補正係数αHの値を入力するとともに、所望の色素量補正係数αEの値を入力する。なお、色素量補正係数αH,αEの各値を入力するためのスライダーを配置して入力操作を受け付けるようにしてもよい。入力された色素量補正係数αH,αEは、記憶部250に保持される。
続いて、補正色素量算出部241が、画像処理装置10から取得されて受信色素量データ253に記憶された観察対象の標本の色素量d^H,d^E,d^Rのデータを読み出す。そして、補正色素量算出部241は、色素量d^H,d^Eと設定された色素量補正係数αH,αEとから、背景技術で示した次式(20),(21)に従って色素H,色素Eの補正色素量d^H *,d^E *を画素毎に算出する(ステップd3)。なお、補正色素量d^H *,d^E *の算出は、式(20),(21)に示す色素量d^H,d^Eに色素量補正係数αH,αEを乗じる形式に限定されるものではなく、これらを加算して補正色素量を算出することとしてもよい。得られた補正色素量d^H *,d^E *は、記憶部250に保持される。
続いて、補正スペクトル合成部242が、色素H,色素Eの補正色素量d^H *,d^E *および色素Rの色素量d^Rをもとに、色素H,色素E,色素Rの基準色素スペクトルkH(λ),kE(λ),kR(λ)を用いて補正スペクトルを画素毎に合成する(ステップd5)。具体的には、先ず、背景技術で示した次式(22)に従い、各点xにおける分光吸光度a~*(x,λ)を求める。ここで、色素H,色素E,色素Rの基準色素スペクトルは標本に依存しない値であり、これらの各値は、事前に画像処理装置10から配信されるようになっている。画像処理端末20は、配信された各色素の基準色素スペクトルを記憶部250に記憶しておき、補正スペクトルを合成する際に記憶部250から読み出して用いる。
続いて、背景技術で示した次式(24)に従い、求めた分光吸光度a~*(x,λ)から各点xにおける新たな分光透過率t*(x,λ)を求める。
そして、波長方向にD回繰り返して分光透過率t*(x,λ)を求め、補正スペクトルである補正分光透過率T*(x)を得る。補正分光透過率T*(x)は、t*(x,λ)に対応するD行1列の行列である。得られた補正分光透過率T*(x)は、記憶部250に保持される。
続いて、画像合成部243が、画素毎に合成された補正スペクトル(補正分光透過率T*(x))をRGB値に変換する処理を画像全体に亘って反復して行い、表示画像の各画素の画素値を算出することによって表示画像を合成する(ステップd7)。具体的には、背景技術で示した次式(26)に従い、点xにおける新しい画素値G*(x)を画素毎に求める。このようにして画素値G*(x)を求めることによって合成された表示画像は、記憶部250に保持される。
G*(x)=HT*(x) ・・・(26)
続いて、画像表示制御部263が、合成された表示画像を表示部220に表示する制御を行う(ステップd9)。この表示画像は、医師等によって観察され、病理診断等に利用される。
以上の手順によって、画像処理端末20では、画像処理装置10から取得した観察対象の標本の色素量をもとに、ユーザ操作等に従って設定した色素量補正係数によって各色素の色素量を仮想的に変化させた標本の表示画像を合成・表示することができる。ここで、色素量補正係数を変更して各色素の色素量を調整(補正)し、再度表示画像を合成・表示する場合には(ステップd11:Yes)、ステップd1に戻って上記した処理を繰り返す。また、表示画像による標本の観察を終了する場合には(ステップd11:No)、本処理を終える。
以上説明したように、実施の形態1の画像処理システムによれば、画像処理装置10において色素量の推定を行い、この色素量のデータをネットワークNを介して画像処理端末20に送信することができる。一方、画像処理端末20では、画像処理装置10から取得した色素量をもとに標本の表示画像の合成・表示を行うことができ、例えば病理診断に利用することができる。またこのとき、ユーザ操作等に従って設定した色素量補正係数によって各色素の色素量を補正しながら表示画像の合成・表示を行うことができる。この画像処理システム1によれば、表示画像の合成・表示に用いるデータを取得するための画像処理装置10と画像処理端末20との通信が1回で済むため、通信負荷を増大させることなく効率的に行うことができるという効果を奏する。
ここで、画像処理装置側で染色標本の表示画像を合成し、画像処理端末がこの表示画像を取得するような画像処理システムの構成では、画像処理端末は、各色素の色素量を補正しようとすると、再度画像処理装置10にアクセスし、色素量の補正を要求して表示画像を取得し直す必要があった。これに対し実施の形態1の画像処理システム1によれば、画像処理端末20側で色素量補正係数を変更することによって色素量の補正を行うことができるので、何度も画像処理装置10と通信を行う必要がなく、通信負荷を低減できる。また、観察者にとってみれば、色素量補正係数を変更しながら表示画像を効率よく観察できる。一方、画像処理端末が画像処理装置から染色標本のマルチバンド画像(染色標本画像)を取得する、あるいはこのマルチバンド画像をもとに推定した推定スペクトルのデータを取得するように画像処理システムを構成し、波長方向の次元数分のスペクトルデータを送受信する場合と比べて、色素数分の色素量を送受信すればよいため、ネットワークNを介して送受信するデータ量を削減でき、通信負荷を低減できる。また、画像処理端末20において色素量の推定を行う必要がないので、画像処理端末20の処理負荷を増大させることもない。
なお、補正色素量d^H *,d^E *および色素Rの色素量d^Rのあらゆる組み合わせを想定して事前に画素値G*(x)を求めておき、色素量/画素値対応テーブルとして記憶部に格納しておくこととしてもよい。そして、画像合成部が、この色素量/画素値対応テーブルを参照して表示画像を合成することとしてもよい。この場合には、画像処理端末を、補正スペクトル合成部242を備えない構成として実現できる。これによれば、画像合成処理を高速化できるので、観察対象の標本を指定してから表示画像を表示するまでのユーザの待機時間を短縮することができる。
また、実施の形態1では、画像処理端末20においてユーザに対して標本の指定を依頼し、この依頼に応答して指定された標本についての色素量のデータを画像処理装置10から取得する場合について説明したが、1度に指定し取得する標本の数は1つに限定されるものではなく、複数の標本を指定して各標本についての色素量を一括して取得することもできる。
また、実施の形態1では、画像処理端末20が補正スペクトルを合成する際に用いる基準色素スペクトルについて、事前に画像処理装置10から画像処理端末20に対して配信されているものとして説明したが、これに限定されない。すなわち、基準色素スペクトルkH(λ),kE(λ),kR(λ)のデータは、それぞれ1行D列の行列データであり、色素量のデータと比較してデータ量が小さいため、画像処理装置10から色素量を取得する際にこの色素量のデータとともに取得する構成としてもよい。この場合には、画像処理装置10のデータ送信制御部172が色素スペクトル送信手段として機能するとともに、画像処理端末20のデータ取得制御部261が色素スペクトル受信手段として機能する。これによれば、画像処理装置10において染色標本の染色状態に応じた基準色素スペクトルを用いて色素量を推定し、画像処理端末20においてその色素量の推定に用いた基準色素スペクトルを用いて推定スペクトルを合成するといったことが可能となる。また、同一の基準色素スペクトルを用いて推定した複数の標本についての色素量を一括して送信する場合であれば、各色素量のデータとともに基準色素スペクトルを送信する必要はない。例えば通信の開始時に基準色素スペクトルの送信を行い、続いて各色素量のデータを順次送信するようにしてもよい。
また、色素H,色素Eの色素量補正係数の設定は、ユーザ操作に従って行う場合に限らず、自動的に設定する構成としてもよい。
(実施の形態2)
次に、実施の形態2について説明する。図12は、実施の形態2の画像処理装置10bの機能構成を説明するブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図12に示すように、画像処理装置10bは、画像取得部110と、入力部120と、表示部130と、通信部140と、演算部150bと、記憶部160bと、装置各部を制御する制御部170bとを備える。
そして、演算部150bは、スペクトル推定手段としてのスペクトル推定部151と、色素量推定手段としての色素量推定部152bと、残差スペクトル算出手段としての残差スペクトル算出部153bとを備える。残差スペクトル算出部153bは、スペクトル推定部151によって推定された推定スペクトルから求まる推定分光吸光度と、色素量推定部152bによって推定された色素量から復元される復元分光吸光度とをもとに、色素量推定における推定誤差である残差スペクトルを算出する。この残差スペクトルは、染色標本の表示画像を合成・表示するために用いるデータとして画像処理端末20bに送信される。
また、記憶部160bには、画像処理プログラム161bと、データ送信プログラム162bと、標本情報DB163bとが格納される。画像処理プログラム161bは、染色標本画像から染色標本の色素量を推定するとともに、この推定の際に残差スペクトルを算出し、推定した色素量および算出した残差スペクトルを標本情報DB163bに登録する処理(標本情報登録処理)を実現するためのプログラムである。データ送信プログラム162bは、画像処理端末20bからの要求(合成用データ送信要求)に応答して、この画像処理端末20bに対し、要求された標本について推定した色素量および算出した残差スペクトルのデータを送信する処理(データ送信処理)を実現するためのプログラムである。標本情報DB163bには、標本識別情報と対応付けて、実施の形態1で説明した染色標本画像の画像データ、推定した推定スペクトルや色素量のデータ等に加えて、算出した残差スペクトルのデータが登録される。
そして、制御部170bは、マルチバンド画像取得制御部171と、色素量送信手段および残差スペクトル送信手段としてのデータ送信制御部172bとを含む。データ送信制御部172bは、画像処理端末20bから送信される合成用データ送信要求に応答し、標本情報DB163bに登録されている要求された標本の色素量および残差スペクトルのデータである合成用データを通信部140を介して画像処理端末20bに送信する制御を行う。
図13は、実施の形態2の画像処理端末20bの機能構成の一例を示すブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図13に示すように、画像処理端末20bは、入力部210と、表示部220と、通信部230と、演算部240bと、記憶部250bと、装置各部を制御する制御部260bとを備える。
演算部240bは、補正色素量算出部241bと、補正スペクトル合成手段としての補正スペクトル合成部242bと、画素値算出手段および第1の補正画素値算出手段としての画像合成部243bとを含む。補正スペクトル合成部242bは、色素H,色素Eの補正色素量および色素Rの色素量と残差スペクトルとをもとに分光透過率を合成し、補正スペクトルを算出する。また、画像合成部243bは、補正スペクトル合成部242bによって合成された補正スペクトルを用いて残差スペクトルを考慮した補正画素値(第1の補正画素値)を算出し、表示画像を合成する。
また、記憶部250bには、データ取得プログラム251bと、画像処理プログラム252bと、受信合成用データ254bとが格納される。データ取得プログラム251bは、画像処理装置10bに対して標本を指定した合成用データ送信要求を送信し、指定した標本について推定された色素量および算出された残差スペクトルのデータ(合成用データ)を取得する処理(データ取得処理)を実現するためプログラムである。画像処理プログラム252bは、画像処理装置10bから取得した色素量をもとに、残差スペクトルを考慮した補正スペクトルの合成を行って画素値を算出し、表示画像を合成する処理(画像合成処理)を実現するためのプログラムである。受信合成用データ254bには、画像処理装置10bから合成用データとして取得した色素量および残差スペクトルのデータがその標本識別情報と対応付けられて設定される。
そして、制御部260bは、色素量受信手段としてのデータ取得制御部261bと、補正係数設定手段としての色素量補正係数設定部262と、画像表示制御部263とを含む。データ取得制御部261bは、通信部230を介して標本を指定した合成用データ送信要求を画像処理装置10bに送信し、合成用データを取得する制御を行う。
次に、画像処理装置10bおよび画像処理端末20bが行う処理手順について説明する。先ず、画像処理装置10bと画像処理端末20bとの間で合成用データを送受信する際の画像処理装置10bおよび画像処理端末20bの処理手順について説明する。図14は、実施の形態2の画像処理装置10bが行うデータ送信処理の処理手順および画像処理端末20bが行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160bに格納されたデータ送信プログラム162bに従って画像処理装置10bの各部が動作するとともに、記憶部250bに格納されたデータ取得プログラム251bに従って画像処理端末20bの各部が動作することによって実現される。
図14に示すように、画像処理端末20bでは、データ取得処理を開始すると、データ取得制御部261bが、合成用データを取得する標本の指定依頼の通知画面を表示部220に表示する制御を行って、標本の指定を依頼する(ステップe1)。そして、データ取得制御部261bは、この指定依頼の通知に対する応答に従って、合成用データ送信要求を指定された標本の標本識別情報とともに画像処理装置10bに送信する制御を行う(ステップe3)。そして、データ取得制御部261bは、画像処理装置10bから指定した標本の合成用データを受信するまで待機状態となる。
一方、画像処理装置10bでは、データ送信処理として先ず、データ送信制御部172bが、画像処理端末20bから送信された合成用データ送信要求を受信する制御を行う(ステップf1)。続いて、データ送信制御部172bは、合成用データ送信要求とともに送信された標本識別情報をもとに標本情報DB163bを探索し、この標本識別情報と対応付けられた色素量および残差スペクトルのデータを取得する(ステップf3)。そして、データ送信制御部172bは、色素量データ送信要求を送信した画像処理端末20bに対して取得した色素量および残差スペクトルのデータを合成用データとして送信する制御を行う(ステップf5)。
そして、画像処理端末20bでは、データ取得制御部261bは、画像処理装置10bから送信された合成用データを受信したならば(ステップe5:Yes)、受信した合成用データを、標本識別情報と対応付けて受信合成用データ254bに保存する(ステップe7)。
次に、画像処理装置10bが行う標本情報登録処理の処理手順について説明する。図15は、実施の形態2における標本情報登録処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160bに格納された画像処理プログラム161bに従って画像処理装置10bの各部が動作することによって実現される処理であり、図15において、実施の形態1と同様の処理工程には同一の符号を付している。
図15に示すように、実施の形態2の標本情報登録処理では、ステップc5において色素量推定部152bが染色標本の色素量を画素毎に推定した後、続いて残差スペクトル算出部153bが、ステップc3で推定した推定スペクトルから求まる推定分光吸光度と、ステップc5で推定した色素量d^H,d^E,d^Rから復元される復元分光透過率とをもとに、残差スペクトルを算出する(ステップg6)。すなわち先ず、背景技術で示した次式(17)に従って、色素量d^H,d^E,d^Rから復元分光吸光度a~(x,λ)を算出する。
そして、推定分光透過率t^(x,λ)から求まる推定分光吸光度a^(x,λ)と復元分光吸光度a~(x,λ)とをもとに、次式(18)に従ってこれらの差分である残差スペクトルe(λ)を算出する。
続いて、演算部150bが、推定した色素量d^H,d^E,d^Rのデータを染色標本の標本識別情報と対応付けて標本情報DB163bに登録する(ステップc7)。そして、演算部150bは、算出した残差スペクトルe(λ)のデータを染色標本の標本識別情報と対応付けて標本情報DB163bに登録する(ステップg8)。
次に、画像処理端末20bが行う画像合成処理の処理手順について説明する。図16は、実施の形態2における画像合成処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部250bに格納された画像処理プログラム252bに従って画像処理端末20bの各部が動作することによって実現される処理であり、図16において、実施の形態1と同様の処理工程には同一の符号を付している。
図16に示すように、実施の形態2の画像合成処理では、ステップd1において色素量補正係数設定部262が色素H,色素Eの色素量補正係数を設定した後、補正色素量算出部241bが、画像処理装置10bから取得されて受信合成用データ254bに記憶された観察対象の標本の色素量のデータを読み出し、色素H,色素Eの補正色素量d^H *,d^E *を画素毎に算出する(ステップh3)。
続いて、補正スペクトル合成部242bが、受信合成用データ254bに記憶された観察対象の標本の残差スペクトルのデータを読み出し、色素H,色素Eの補正色素量d^H *,d^E *および色素Rの色素量d^Rと、読み出した残差スペクトルe(λ)とをもとに、各色素H,色素E,色素Rの基準色素スペクトルkH(λ),kE(λ),kR(λ)を用いて補正スペクトルを画素毎に合成する(ステップh5)。すなわち、背景技術で示した次式(23)に従い、各点xにおける分光吸光度a^*(x,λ)を求める。
続いて、背景技術で示した次式(24)に従い、求めた分光吸光度a^*(x,λ)から各点xにおける新たな分光透過率t*(x,λ)を求め、補正スペクトルを合成する。
続いて、画像合成部243bが、補正スペクトルをもとに表示画像の各画素の補正画素値を算出することによって表示画像を合成し(ステップh7)、画像表示制御部263が、合成された表示画像を表示部220に表示する制御を行う(ステップd9)。
以上説明したように、実施の形態2によれば、実施の形態1と同様の効果を奏する。また、画像処理装置10bにおいて染色標本の色素量を推定する際に残差スペクトルを算出し、画像処理端末20bからの要求に応じて色素量とともに残差スペクトルを送信することができる。一方、画像処理端末20bでは、色素量を取得する際に色素量とともに残差スペクトルのデータを取得し、この残差スペクトルを考慮して表示画像を合成することができる。これによれば、合成した表示画像が色素量推定の推定誤差等によって不自然に色変動するといった事態を抑制することができ、表示画像の合成精度を向上させることができる。
なお、上記した実施の形態2では、画像処理端末20bからの合成用データ送信要求に応じて色素量と残差スペクトルとを送信する場合について説明したが、残差スペクトルについては、別途画像処理端末20bからの要求があった場合に送信するようにしてもよい。
ここで、本変形例における画像処理装置および画像処理端末が行う処理手順について説明する。先ず、画像処理装置と画像処理端末との間で色素量のデータを送受信する際の画像処理装置および画像処理端末の処理手順について説明する。図17は、変形例の画像処理装置が行うデータ送信処理の処理手順および画像処理端末が行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、本変形例における画像処理装置の記憶部に格納されるデータ送信プログラムに従って画像処理装置の各部が動作するとともに、本変形例における画像処理端末の記憶部に格納されるデータ取得プログラムに従って画像処理端末の各部が動作することによって実現される処理であり、図17において、実施の形態1と同様の処理工程には同一の符号を付している。
図17に示すように、本変形例では、画像処理端末は、データ取得処理のステップa5で色素量のデータを保存した後、データ取得制御部は、残差スペクトルを取得するか否かを判定する。例えば、本変形例の画像処理端末が行う後述の画像合成処理において残差スペクトルが必要と判定された場合に、残差スペクトルを取得すると判定する。残差スペクトルを取得せずに終了する場合には(ステップi9:No→i17:Yes)、本処理を終える。
そして、残差スペクトルを取得すると判定したならば(ステップi9:Yes)、データ取得制御部は、ステップa1で指定された標本の標本識別番号とともに残差スペクトル送信要求を画像処理装置に送信し(ステップi11)、残差スペクトルのデータを受信するまで待機状態となる。
一方、画像処理装置では、データ送信制御部が、データ送信処理のステップj7において、画像処理端末から送信された残差スペクトル送信要求を受信する制御を行う。続いて、データ送信制御部は、残差スペクトル送信要求とともに送信された標本識別情報をもとに標本情報DBを探索し、この標本識別情報と対応付けられた残差スペクトルのデータを取得する(ステップj9)。そして、データ送信制御部は、残差スペクトル送信要求を送信した画像処理端末に対して取得した残差スペクトルのデータを送信する制御を行う(ステップj11)。
そして、画像処理端末では、データ取得制御部は、画像処理装置から送信された残差スペクトルのデータを受信したならば(ステップi13:Yes)、受信した残差スペクトルのデータを、標本識別情報と対応付けて受信合成用データに保存する(ステップi15)。
次に、本変形例の画像処理端末が行う画像合成処理について、図18を参照して説明する。なお、図18において、実施の形態1と同様の処理工程には同一の符号を付している。本変形例では、補正色素量算出部が観察対象の標本の色素量の補正色素量を画素毎に算出したならば(ステップd3)、続いて、補正スペクトル合成部が、受信合成用データを参照し、観察対象の標本について算出された残差スペクトルのデータが取得済みか否かを判定する。取得済みの場合には(ステップk4:Yes)、後述するステップk19に移行する。一方、補正スペクトル合成部は、未取得であれば(ステップk4:No)、ステップd5に移行して、色素H,色素Eの補正色素量および色素Rの色素量をもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する。
そして、ステップd9において画像表示制御部が表示画像を表示部に表示した後で、残差スペクトルの取得の要否を判定する(ステップk11)。この判定は、例えば残差スペクトルの取得の要否についての指定を依頼する通知画面を表示部に表示する制御を行う等し、ユーザ操作に従って行う。すなわち、ユーザは、より精度の高い表示画像による標本の観察を行いたい場合等に、入力部を介して残差スペクトルの取得指示を入力する。残差スペクトルの取得が不要の場合には、ステップk13に移り、色素量補正係数を変更して各色素の色素量を調整し、再度表示画像を合成・表示する場合であれば(ステップk13:Yes)、ステップd1に戻る。また、表示画像による標本の観察を終了する場合には(ステップk14:Yes)、本処理を終える。
そして、残差スペクトルの取得が必要な場合には、ステップk15に移り、演算部は、残差スペクトルの取得指示を制御部のデータ取得制御部に出力する。このステップk15の処理の結果、上記した図17のステップi9においてデータ取得制御部が残差スペクトルを取得すると判定し、ステップi11に移行することとなる。この場合には、演算部は、画像処理装置からの残差スペクトルのデータの取得を完了するまで待機状態となる。すなわち、図17のステップi13で残差スペクトルのデータを受信し、ステップi15で残差スペクトルのデータを保存して残差スペクトルのデータの取得を完了したならば(ステップk7:Yes)、ステップk19に移る。
すなわち、ステップk19では、補正スペクトル合成部が、色素H,色素Eの補正色素量および色素Rの色素量と、取得された観察対象の標本の残差スペクトルとをもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する。
続いて、画像合成部が、画素毎に合成された補正スペクトルをもとに表示画像の各画素の補正画素値を算出し、ステップd7で算出された画素値を補正画素値によって置き換えて表示画像を合成する(ステップk21)。その後、ステップd9に移行して、画像表示制御部が、残差スペクトルを考慮して新たに合成された表示画像を表示部に表示する制御を行う。
本変形例によれば、実施の形態2と同様の効果を奏することができるとともに、必要に応じて残差スペクトルの取得を行うことができ、実施の形態2のように、必ず残差スペクトルの取得を行う場合と比較して通信負荷が低減できる。なお、ユーザ操作に従って残差スペクトルの取得の要否を判定することとしたが、残差スペクトルを取得するか否かを自動的に判定することとしてもよい。
(実施の形態3)
次に、実施の形態3について説明する。図19は、実施の形態3の画像処理装置10cの機能構成を説明するブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図19に示すように、画像処理装置10cは、画像取得部110と、入力部120と、表示部130と、通信部140と、演算部150cと、記憶部160cと、装置各部を制御する制御部170cとを備える。
そして、演算部150cは、スペクトル推定手段としてのスペクトル推定部151と、色素量推定手段としての色素量推定部152と、色素量データ分割手段としての色素量データ分割部154cとを備える。色素量データ分割部154cは、色素量推定部152によって推定された色素量を浮動小数点型のデータとして扱い、指数部および仮数部をそれぞれ所定の配分で上位ビットと下位ビットとに分割する。これによって、色素量データ分割部154cは、色素量を、分割された指数部の下位ビットおよび分割された仮数部の上位ビットで構成される主要浮動小数点データ部と、符号ビット、分割された指数部の上位ビットおよび分割された仮数部の下位ビットで構成される補助浮動小数点データ部とに分割する。
ここで、色素量の分割について説明する。図20は、色素量のデータ分割の手順を説明する説明図であり、色素量のデータを、符号1ビット、指数部11ビットおよび仮数部52ビットで構成される8バイトの浮動少数点型(double型)で扱う場合を示している。図21は、数値「0.1234」を例にとった場合の具体的なデータ分割例を示す図である。図20,図21に示すように、色素量データ分割部154cは、例えば、指数部を上位3ビットと下位8ビットとに分割するとともに、仮数部を上位8ビットと下位44ビットとに分割する。そして、色素量データ分割部154cは、指数部の下位8ビットおよび仮数部の上位8ビットを組み合わせて2バイトの主要浮動小数点データ部とし、符号1ビット、指数部の上位3ビットおよび仮数部の下位44ビットを組み合わせて6バイトの補助浮動小数点データ部とする。図21に示す例では、「0.1234(3FBF972474538EF3(H))」の色素量のデータが、主要浮動小数点データ部である「FBF9(H)」と、補助浮動小数点データ部である「372474538EF3(H)」とに分割される。
図22は、いくつかのデータをサンプルとして主要浮動小数点型データ部と補助浮動小数点型データ部とに分割した場合の誤差を示す図である。図22に示すサンプルの例では、誤差は最大で0.810%程度となっている。
このようにして分割した主要浮動小数点データ部によれば、指数部の上位8ビットによって10255の指数範囲を表現できる。また、仮数部の上位8ビットによるデータ損失量は、0.10%程度である。実際の色素量の値と照らし合わせて鑑みるに、このようにして組み合わせた主要浮動少数点型データ部によって、色素量のデータ範囲をほぼ表現できる。
なお、指数部および仮数部のビット数の割合は、図20に示した割合に限定されない。例えば、指数部の上位6ビットおよび仮数部の上位10ビットを組み合わせて2バイトの主要浮動少数点型データ部としてもよい。この場合には、指数部の上位6ビットによって109の指数範囲を表現できる。また、仮数部の上位10ビットによるデータ損失量は、0.10%程度である。あるいは、指数部の下位5ビットおよび仮数部の上位11ビットとを組み合わせて2バイトの主要浮動小数点型データ部としてもよい。この場合には、指数部の上位5ビットによって104の指数範囲を表現できる。また、仮数部の上位11ビットによるデータ損失量は、0.05%程度である。
また、記憶部160cには、画像処理プログラム161cと、データ送信プログラム162cと、標本情報DB163cとが格納される。画像処理プログラム161cは、染色標本画像から染色標本の色素量を推定するとともに、推定した色素量のデータを浮動小数点型のデータとして扱って主要浮動小数点データ部と補助浮動小数点データ部とに分割した上で、各色素量の主要浮動小数点データ部を主要色素量とし、補助浮動小数点データ部を補助色素量として標本情報DB163cに登録する処理(標本情報登録処理)を実現するためのプログラムである。データ送信プログラム162cは、画像処理端末20cからの要求(色素量データ送信要求)に応答して、この画像処理端末20cに対し、要求された標本について推定した色素量の主要色素量のデータを送信する処理(データ送信処理)を実現するためのプログラムである。標本情報DB163cには、実施の形態1と同様にして、標本識別情報と対応付けてその標本に関するデータが蓄積されるが、このうちの色素量のデータが、主要色素量および補助色素量の各データで構成される。
そして、制御部170cは、マルチバンド画像取得制御部171と、色素量送信手段としてのデータ送信制御部172cとを含む。データ送信制御部172cは、画像処理端末20cから送信される色素量データ送信要求に応答し、標本情報DB163cに登録されている要求された標本の色素量の主要色素量のデータを通信部140を介して画像処理端末20cに送信する制御を行う。
図23は、実施の形態3の画像処理端末20cの機能構成の一例を示すブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図23に示すように、画像処理端末20cは、入力部210と、表示部220と、通信部230と、演算部240c、記憶部250cと、装置各部を制御する制御部260cとを備える。
演算部240cは、補正色素量算出部241cと、補正スペクトル合成手段としての補正スペクトル合成部242cと、画素値算出手段としての画像合成部243とを含む。補正色素量算出部241cは、画像処理装置10cから取得した主要色素量をもとに、色素量補正係数を用いて補正色素量を算出する。補正スペクトル合成部242cは、色素H,色素Eの補正色素量および色素Rの主要色素量をもとに分光透過率を合成し、補正スペクトルを算出する。
また、記憶部250cには、データ取得プログラム251cと、画像処理プログラム252cと、受信主要色素量データ255cとが格納される。データ取得プログラム251cは、画像処理装置10cに対して標本を指定した色素量データ送信要求を送信し、指定した標本について推定された色素量の主要色素量のデータを取得する処理(データ取得処理)を実現するためプログラムである。画像処理プログラム252cは、画像処理装置10cから取得した主要色素量をもとに表示画像を合成する処理(画像合成処理)を実現するためのプログラムである。受信主要色素量データ255cには、画像処理装置10cから取得した主要色素量のデータがその標本識別情報と対応付けられて設定される。
そして、制御部260cは、浮動小数点データ部受信手段としてのデータ取得制御部261cと、補正係数設定手段としての色素量補正係数設定部262と、画像表示制御部263とを含む。データ取得制御部261cは、通信部230を介して標本を指定した色素量データ送信要求を画像処理装置10cに送信し、主要色素量のデータを取得する制御を行う。
次に、画像処理装置10cおよび画像処理端末20cが行う処理手順について説明する。先ず、画像処理装置10cと画像処理端末20cとの間で主要色素量のデータを送受信する際の画像処理装置10cおよび画像処理端末20cの処理手順について説明する。図24は、実施の形態3の画像処理装置10cが行うデータ送信処理の処理手順および画像処理端末20cが行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160cに格納されたデータ送信プログラム162cに従って画像処理装置10cの各部が動作するとともに、記憶部250cに格納されたデータ取得プログラム251cに従って画像処理端末20cの各部が動作することによって実現される処理であり、図24において、実施の形態1と同様の処理工程には同一の符号を付している。
図24に示すように、画像処理端末20cでは、データ取得処理のステップa3でデータ取得制御部261cが色素量データ送信要求を画像処理装置10cに送信したならば、画像処理装置10cから指定した標本の主要色素量のデータを受信するまで待機状態となる。
一方、画像処理装置10cでは、データ送信制御部172cは、ステップb1において画像処理端末20cから送信された色素量データ送信要求を受信すると、続いて、色素量データ送信要求とともに送信された標本識別情報をもとに標本情報DB163cを探索し、この標本識別情報と対応付けられた色素量のデータのうち、主要色素量のデータを取得する(ステップm3)。そして、データ送信制御部172cは、色素量データ送信要求を送信した画像処理端末20cに対して取得した主要色素量のデータを送信する制御を行う(ステップm5)。
そして、画像処理端末20cでは、データ取得制御部261cは、画像処理装置10cから送信された主要色素量のデータを受信したならば(ステップl5:Yes)、受信した主要色素量のデータを、標本識別情報と対応付けて受信主要色素量データ255cに保存する(ステップl7)。
次に、画像処理装置10cが行う標本情報登録処理の処理手順について説明する。図25は、実施の形態3における標本情報登録処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160cに格納された画像処理プログラム161cに従って画像処理装置10cの各部が動作することによって実現される処理であり、図25において、実施の形態1と同様の処理工程には同一の符号を付している。
図25に示すように、実施の形態3の標本情報登録処理では、ステップc5において色素量推定部152が染色標本の色素量を画素毎に推定した後、続いて色素量データ分割部154cが、画素毎の色素量のデータをそれぞれ浮動小数点型データとして扱い、主要浮動小数点データ部と補助浮動小数点データ部とに分割する(ステップn7)。
続いて、演算部150cが、分割した画素毎の色素量の主要浮動小数点データ部を主要色素量のデータとし、補助浮動小数点データ部を補助色素量のデータとして、標本情報DB163cに登録する(ステップn9)。
次に、画像処理端末20cが行う画像合成処理の処理手順について説明する。図26は、実施の形態3における画像合成処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160cに格納された画像処理プログラム161cに従って画像処理端末20cの各部が動作することによって実現される処理であり、図26において、実施の形態1と同様の処理工程には同一の符号を付している。
図26に示すように、実施の形態3の画像合成処理では、ステップd1において色素量補正係数設定部262が色素H,色素Eの色素量補正係数を設定した後、補正色素量算出部241cが、画像処理装置10cから取得されて受信主要色素量データ255cに記憶された観察対象の標本の主要色素量のデータを読み出す。そして、読み出した主要色素量から、図20,図21に示した処理手順と逆の手順で指数部と仮数部とを復元した上で、色素H,色素Eの補正色素量を画素毎に算出する(ステップo3)。
続いて、補正スペクトル合成部242cが、色素H,色素Eの補正色素量および色素Rの主要色素量をもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する(ステップo5)。補正スペクトルを合成したならば、ステップd7に移行する。
以上説明したように、実施の形態3によれば、実施の形態1と同様の効果を奏するとともに、画像処理装置10cにおいて推定した色素量のデータを分割し、画像処理端末20cからの要求に応じて主要色素量を送信することができる。したがって、画像処理装置10cと画像処理端末20cとの間で送受信するデータ量を削減でき、通信負荷をより低減できる。
(実施の形態4)
次に、実施の形態4について説明する。図27は、実施の形態4の画像処理装置10dの機能構成を説明するブロック図である。なお、実施の形態3で説明した構成と同一の構成については、同一の符号を付する。図27に示すように、画像処理装置10dは、画像取得部110と、入力部120と、表示部130と、通信部140と、演算部150cと、記憶部160dと、装置各部を制御する制御部170dとを備える。
そして、演算部150cは、スペクトル推定手段としてのスペクトル推定部151と、色素量推定手段としての色素量推定部152と、色素量データ分割手段としての色素量データ分割部154cとを備える。また、記憶部160dには、画像処理プログラム161cと、データ送信プログラム162dと、標本情報DB163cとが格納される。データ送信プログラム162dは、画像処理端末20dからの主要色素量データ送信要求に応答して、この画像処理端末20dに対し、要求された標本について推定した色素量の主要色素量のデータを送信するとともに、補助色素量データ送信要求に応答して、この標本について推定した色素量の補助色素量のデータを送信する処理(データ送信処理)を実現するためのプログラムである。
そして、制御部170dは、マルチバンド画像取得制御部171と、色素量送信手段および補助浮動小数点データ部送信手段としてのデータ送信制御部172dとを含む。データ送信制御部172dは、画像処理端末20dから送信される主要色素量データ送信要求に応答し、標本情報DB163cに登録されている要求された標本の色素量の主要色素量のデータを通信部140を介して画像処理端末20dに送信する制御を行う。また、データ送信制御部172dは、画像処理端末20dから送信される補助色素量データ送信要求に応答し、標本情報DB163cに登録されている要求された標本の色素量の補助色素量のデータを通信部140を介して画像処理端末20dに送信する制御を行う。
図28は、実施の形態4の画像処理端末20dの機能構成の一例を示すブロック図である。なお、実施の形態3で説明した構成と同一の構成については、同一の符号を付する。図28に示すように、画像処理端末20dは、入力部210と、表示部220と、通信部230と、演算部240d、記憶部250dと、装置各部を制御する制御部260dとを備える。
演算部240dは、補正色素量算出部241dと、補正スペクトル合成手段としての補正スペクトル合成部242dと、画素値算出手段および第2の補正画素値算出手段としての画像合成部243dと、色素量復元手段としての色素量データ復元部244dとを含む。補正色素量算出部241dは、画像処理装置10dから取得した主要色素量または色素量データ復元部244dによって復元された復元色素量をもとに、色素量補正係数を用いて補正色素量を算出する。補正スペクトル合成部242dは、主要色素量から求めた色素H,色素Eの補正色素量および色素Rの主要色素量をもとに分光透過率を合成し、あるいは、復元色素量から求めた色素H,色素Eの補正色素量および色素Rの復元色素量とをもとに分光透過率を合成して、補正スペクトルを算出する。画像合成部243dは、補正スペクトル合成部242dが主要色素量をもとに合成した補正スペクトルを用いて表示画像の画素値を算出する。そして、画像合成部243dは、補正スペクトル合成部242dが復元色素量をもとに補正スペクトルを合成した場合には、この補正スペクトルを用いて補正画素値(第2の補正画素値)を算出し、表示画像の画素値を置き換えて再度表示画像を合成する。色素量データ復元部244dは、画像処理装置10dから取得した主要色素量および補助色素量の各データをもとに復元色素量を算出し、画像処理装置10dにおいて主要浮動小数点型データ部と補助浮動小数点型データ部とに分割される前の色素量のデータを復元する。
ここで、色素量の復元について説明する。図29は、色素量のデータ復元の手順を説明する説明図であり、実施の形態3において図29に示して説明した色素量の主要浮動小数点型データ部と補助浮動小数点型データ部とを復元する様子を示している。図29に示すように、色素量データ復元部244dは、補助浮動小数点型データ部の上位1ビットP21を分割前の色素量のデータの符号部とする。また、色素量データ復元部244dは、補助浮動小数点型データ部の2ビット目から3ビット分P23を抽出して分割前の色素量のデータの指数部の上位ビットとし、主要浮動小数点型データ部の上位8ビットP11を抽出して分割前の色素量のデータの指数部の下位ビットとする。さらに、色素量データ復元部244dは、主要浮動小数点型データ部の下位8ビットP13を分割前の色素量データの仮数部の上位8ビットとし、補助浮動小数点型データ部の下位44ビットP25を分割前の色素量データの仮数部の下位44ビットとする。以上のようにして、色素量データ復元部244dは、画像処理装置10dにおいて推定された分割前の色素量のデータを復元する。
また、記憶部250dには、データ取得プログラム251dと、画像処理プログラム252dと、受信色素量データ253dとが格納される。データ取得プログラム251dは、画像処理装置10dに対して標本を指定した主要色素量データ送信要求を送信し、指定した標本について推定された色素量の主要色素量のデータを取得するとともに、別のタイミングで画像処理装置10dに対して補助色素量データ送信要求を送信し、指定した標本について推定された色素量の補助色素量のデータを取得する処理(データ取得処理)を実現するためプログラムである。画像処理プログラム252dは、画像処理装置10dから取得した主要色素量をもとに画素値を算出して表示画像を合成するとともに、画像処理装置10dから別のタイミングで取得した補助色素量と合わせて復元した復元色素量をもとに補正画素値を算出し、画素値を置き換えて表示画像を合成する処理(画像合成処理)を実現するためのプログラムである。受信色素量データ253dには、画像処理装置10dから取得した主要色素量のデータがその標本識別情報と対応付けられて設定されるとともに、別のタイミングで画像処理装置10dから取得した補助色素量がさらに対応付けられて設定される。
そして、制御部260dは、浮動小数点データ部受信手段および補助浮動小数点データ部受信手段としてのデータ取得制御部261dと、補正係数設定手段としての色素量補正係数設定部262と、画像表示制御部263とを含む。データ取得制御部261dは、通信部230を介して標本を指定した主要色素量データ送信要求を画像処理装置10dに送信し、主要色素量のデータを取得する制御を行うとともに、補助色素量データ送信要求を画像処理装置10dに送信し、補助色素量のデータを取得する制御を行う。
次に、画像処理装置10dおよび画像処理端末20dが行う処理手順について説明する。先ず、画像処理装置10dと画像処理端末20dとの間で色素量のデータを送受信する際の画像処理装置10dおよび画像処理端末20dの処理手順について説明する。図30は、実施の形態4の画像処理装置10dが行うデータ送信処理の処理手順および画像処理端末20dが行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160dに格納されたデータ送信プログラム162dに従って画像処理装置10dの各部が動作するとともに、記憶部250dに格納されたデータ取得プログラム251dに従って画像処理端末20dの各部が動作することによって実現される処理である。
図30に示すように、画像処理端末20dでは、データ取得処理を開始すると、データ取得制御部261dが、色素量を取得する標本の指定依頼の通知画面を表示部220に表示する制御を行って、標本の指定を依頼する(ステップp1)。そして、データ取得制御部261dは、この指定依頼の通知に対する応答に従って、主要色素量データ送信要求を指定された標本の標本識別情報とともに画像処理装置10dに送信する制御を行う(ステップp3)。そして、データ取得制御部261dは、画像処理装置10dから指定した標本の主要色素量データを受信するまで待機状態となる。
一方、画像処理装置10dでは、データ送信処理として先ず、データ送信制御部172dが、画像処理端末20dから送信された主要色素量データ送信要求を受信する制御を行う(ステップq1)。続いて、データ送信制御部172dは、主要色素量データ送信要求とともに送信された標本識別情報をもとに標本情報DB163cを探索し、この標本識別情報と対応付けられた主要色素量のデータを取得する(ステップq3)。そして、データ送信制御部172dは、主要色素量データ送信要求を送信した画像処理端末20dに対して取得した主要色素量のデータを合成用データとして送信する制御を行う(ステップq5)。
そして、画像処理端末20dでは、データ取得制御部261dは、画像処理装置10dから送信された主要色素量データを受信したならば(ステップp5:Yes)、受信した主要色素量のデータを、標本識別情報と対応付けて受信色素量データ253dに保存する(ステップp7)。
続いて、データ取得制御部261dは、補助色素量を取得するか否かを判定する。例えば、画像処理端末20dが行う画像合成処理において補助色素量が必要と判定された場合に、補助色素量を取得すると判定する。補助色素量を取得せずに終了する場合には(ステップp9:NO→p17:Yes)、本処理を終える。
そして、補助色素量を取得すると判定したならば(ステップp9:Yes)、データ取得制御部261dは、ステップp1で指定された標本の標本識別番号とともに補助色素量データ送信要求を画像処理装置10dに送信し(ステップp11)、補助色素量のデータを受信するまで待機状態となる。
一方、画像処理装置10dでは、データ送信制御部172dは、画像処理端末20dから送信された補助色素量データ送信要求を受信する制御を行う(ステップq7)。続いて、データ送信制御部172dは、補助色素量データ送信要求とともに送信された標本識別情報をもとに標本情報DBを探索し、この標本識別情報と対応付けられた補助色素量のデータを取得する(ステップq9)。そして、データ送信制御部は、補助色素量データ送信要求を送信した画像処理端末20dに対して取得した補助色素量のデータを送信する制御を行う(ステップq11)。
そして、画像処理端末20dでは、データ取得制御部261dは、画像処理装置10dから送信された補助色素量のデータを受信したならば(ステップp13:Yes)、受信した補助色素量のデータを、標本識別情報と対応付けて受信色素量データ253dに保存する(ステップp15)。
次に、画像処理端末20dが行う画像合成処理の処理手順について説明する。図31は、実施の形態4における画像合成処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部250dに格納された画像処理プログラム252dに従って画像処理端末20の各部が動作することによって実現される処理であり、図31において、実施の形態3と同様の処理工程には同一の符号を付している。
図31に示すように、ステップd1において色素量補正係数設定部262が色素H,色素Eの色素量補正係数を設定すると、続いて、補正色素量算出部241dが、受信色素量データを参照し、観察対象の標本について補助色素量のデータが取得済みか否かを判定する。取得済みの場合には(ステップr2:Yes)、後述するステップr21に移行する。一方、補正色素量算出部241dは、未取得であれば(ステップr2:No)、ステップo3に移行する。
そして、ステップd9において画像表示制御部263が表示画像を表示部220に表示した後で、補助色素量の取得の要否を判定する(ステップr11)。この判定は、例えば補助色素量の取得の要否についての指定を依頼する通知画面を表示部220に表示する制御を行う等し、ユーザ操作に従って行う。すなわち、ユーザは、より精度の高い表示画像による標本の観察を行いたい場合等に、入力部210を介して補助色素量の取得指示を入力する。補助色素量の取得が不要の場合には、ステップr13に移り、色素量補正係数を変更して各色素の色素量を調整し、再度表示画像を合成・表示する場合であれば(ステップr13:Yes)、ステップd1に戻る。また、表示画像による標本の観察を終了する場合には(ステップr14:Yes)、本処理を終える。
そして、補助色素量の取得が必要な場合には、ステップr15に移り、演算部240dは、補助色素量の取得指示を制御部260dのデータ取得制御部261dに出力する。このステップr15の処理の結果、上記した図30のステップp9においてデータ取得制御部261dが補助色素量を取得すると判定し、ステップp11に移行することとなる。この場合には、演算部240dは、画像処理装置10dからの補助色素量のデータの取得を完了するまで待機状態となる。すなわち、図30のステップp13で補助色素量のデータを受信し、ステップp15で補助色素量のデータを保存して補助色素量のデータの取得を完了したならば(ステップr17:Yes)、ステップr19に移る。
すなわち、ステップr19では、色素量データ復元部244dが、主要色素量のデータと補助色素量のデータとから色素量のデータを復元する。続いて、補正色素量算出部241dが、復元した復元色素量をもとに、ステップd1で設定された色素量補正係数を用いて色素H,色素Eの補正色素量を画素毎に算出する(ステップr21)。なお、再度色素量補正係数の設定を行ってからステップr21の処理を行うこととしてもよい。そして、補正スペクトル合成部242dが、色素H,色素Eの補正色素量および色素Rの復元色素量とをもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する(ステップr23)。
続いて、画像合成部243dが、画素毎に合成された補正スペクトルをもとに表示画像の各画素の補正画素値を算出し、ステップd7で算出された画素値を補正画素値によって置き換えて表示画像を合成する(ステップr25)。その後、ステップd9に移行して、画像表示制御部263が、復元色素量をもとに新たに合成された表示画像を表示部220に表示する制御を行う。
以上説明したように、実施の形態4によれば、実施の形態3と同様の効果を奏することができるとともに、必要に応じて補助色素量の取得を行うことができる。したがって、通信負荷を抑えつつ、実施の形態3のように主要色素量のみを取得する場合と比較して、表示画像の合成精度を向上させることができる。なお、ユーザ操作に従って補助色素量の取得の要否を判定することとしたが、補助色素量を取得するか否かを自動的に判定することとしてもよい。
(実施の形態5)
次に、実施の形態5について説明する。図32は、実施の形態5の画像処理装置10eの機能構成を説明するブロック図である。なお、実施の形態1〜4で説明した構成と同一の構成については、同一の符号を付する。図32に示すように、画像処理装置10eは、画像取得部110と、入力部120と、表示部130と、通信部140と、演算部150eと、記憶部160eと、装置各部を制御する制御部170eとを備える。
そして、演算部150eは、スペクトル推定手段としてのスペクトル推定部151と、色素量推定手段としての色素量推定部152bと、残差スペクトル算出手段としての残差スペクトル算出部153bと、色素量データ分割手段としての色素量データ分割部154cとを備える。
また、記憶部160eには、画像処理プログラム161eと、データ送信プログラム162eと、標本情報DB163eとが格納される。画像処理プログラム161eは、色素量の推定、残差スペクトルの算出、色素量のデータ分割を行って主要色素量や補助色素量、残差スペクトルのデータを標本情報DB163eに登録する処理(標本情報登録処理)を実現するためのプログラムである。データ送信プログラム162eは、画像処理端末20eからの要求に応答し、主要色素量データ送信要求を受信したならば色素量の主要色素量のデータを送信し、補助色素量データ送信要求を受信したならば色素量の補助色素量のデータを送信し、残差スペクトル送信要求を受信したならば残差スペクトルのデータを送信する処理(データ送信処理)を実現するためのプログラムである。標本情報DB163eには、標本識別情報と対応付けてその標本に関するデータが蓄積され、主要色素量および補助色素量の各データで構成される色素量のデータと、残差スペクトルのデータとを含む。
そして、制御部170eは、マルチバンド画像取得制御部171と、色素量送信手段、残差スペクトル送信手段および補助浮動小数点データ部送信手段としてのデータ送信制御部172eとを含む。データ送信制御部172eは、画像処理端末20eから送信される主要色素量データ送信要求、補助色素量データ送信要求、または残差スペクトル送信要求に応答し、標本情報DB163eに登録されている要求された標本の色素量の主要色素量、補助色素量または残差スペクトルのデータを通信部140を介して画像処理端末20eに送信する制御を行う。
図33は、実施の形態5の画像処理端末20eの機能構成の一例を示すブロック図である。なお、実施の形態3で説明した構成と同一の構成については、同一の符号を付する。図33に示すように、画像処理端末20eは、入力部210と、表示部220と、通信部230と、演算部240e、記憶部250eと、装置各部を制御する制御部260eとを備える。
演算部240eは、補正色素量算出部241eと、補正スペクトル合成手段としての補正スペクトル合成部242eと、画素値算出手段、第1の補正画素値算出手段および第2の補正画素値算出手段としての画像合成部243eと、色素量復元手段としての色素量データ復元部244dとを含む。補正色素量算出部241eは、画像処理装置10eから取得した主要色素量または復元色素量をもとに、色素量補正係数を用いて補正色素量を算出する。補正スペクトル合成部242eは、色素H,色素Eの補正色素量および色素Rの主要色素量をもとに分光透過率を合成し、または色素H,色素Eの補正色素量および色素Rの復元色素量をもとに分光透過率を合成し、補正スペクトルを算出する。画像合成部243eは、補正スペクトル合成部242eによって合成された補正スペクトルを用いて画素値、補正画素値(第2の補正画素値)または残差スペクトルを考慮した補正画素値(第1の補正画素値)を算出し、表示画像を合成する。
また、記憶部250eには、データ取得プログラム251eと、画像処理プログラム252eと、受信合成用データ254eとが格納される。データ取得プログラム251eは、画像処理装置10eに対し、標本を指定した主要色素量データ送信要求を送信して色素量の主要色素量のデータを取得し、標本を指定した補助色素量データ送信要求を送信して色素量の補助色素量のデータを取得し、あるいは標本を指定した残差スペクトル送信要求を送信して残差スペクトルのデータを取得する処理(データ取得処理)を実現するためプログラムである。画像処理プログラム252eは、画像処理装置10eから取得した主要色素量をもとに画素値を算出して表示画像を合成するとともに、画像処理装置10eから別のタイミングで取得した補助色素量から復元した復元色素量をもとに補正画素値(第2の補正画素値)を算出し、画像処理装置10eからさらに別のタイミングで取得した残差スペクトルを用いて補正画素値(第2の補正画素値)を算出して、画素値を置き換えて表示画像を合成する処理(画像合成処理)を実現するためのプログラムである。受信合成用データ254eには、画像処理装置10eから取得した主要色素量のデータと、別のタイミングで画像処理装置10eから取得した補助色素量のデータと、さらに別のタイミングで画像処理装置10eから取得した残差スペクトルのデータとがその標本識別情報と対応付けられて設定される。
そして、制御部260eは、浮動小数点データ部受信手段および補助浮動小数点データ部受信手段としてのデータ取得制御部261eと、補正係数設定手段としての色素量補正係数設定部262と、画像表示制御部263とを含む。データ取得制御部261eは、通信部230を介して標本を指定した主要色素量データ送信要求、補助色素量データ送信要求または残差スペクトル送信要求を画像処理装置10eに送信し、主要色素量、補助色素量または残差スペクトルのデータを取得する制御を行う。
次に、画像処理装置10eおよび画像処理端末20eが行う処理手順について説明する。先ず、画像処理装置10eと画像処理端末20eとの間で合成用データを送受信する際の画像処理装置10eおよび画像処理端末20eの処理手順について説明する。図34は、実施の形態5の画像処理装置10eが行うデータ送信処理の処理手順を示す図であり、図35は、実施の形態5の画像処理端末20eが行うデータ取得処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160eに格納されたデータ送信プログラム162eに従って画像処理装置10eの各部が動作するとともに、記憶部250eに格納されたデータ取得プログラム251eに従って画像処理端末20eの各部が動作することによって実現される処理である。
図34に示すように、画像処理端末20eでは、データ取得処理を開始すると、データ取得制御部261eが、主要色素量データ送信要求、補助色素量データ送信要求および残差スペクトル送信要求のいずれかのデータ要求を標本の標本識別情報とともに所定のタイミングで画像処理装置10eに送信する制御を行う(ステップs1)。例えば、実施の形態1と同様に、色素量を取得する標本の指定依頼の通知画面を表示部220に表示する制御を行い、この指定依頼の通知に対する応答に従って、主要色素量データ送信要求を指定された標本の標本識別情報とともに画像処理装置10eに送信する制御を行う。また、実施の形態2等と同様に、ユーザ操作に従って補助色素量や残差スペクトルの取得の要否を判定し、取得すると判定したタイミングで適宜補助色素量データ送信要求や残差スペクトル送信要求を画像処理装置10eに送信する制御を行う。
そして、データ取得制御部261eは、画像処理装置10eから送信された主要色素量のデータを受信し(ステップs3)、画像処理装置10eから送信された補助色素量のデータを受信し(ステップs5)、画像処理装置10eから送信された残差スペクトルのデータを受信する(ステップs7)。
一方、図35に示すように、画像処理装置10eが行うデータ送信処理では、先ず、データ送信制御部172eが、画像処理端末20eから送信されたデータ要求を受信する(ステップt1)。続いて、データ送信制御部172eは、データ要求が主要色素量データ送信要求であれば、標本識別情報をもとに標本情報DB163eを探索し、この標本識別情報と対応付けられた主要色素量のデータを取得する(ステップt3)。そして、データ送信制御部172eは、データ要求を送信した画像処理端末20eに対して取得した主要色素量のデータを送信する制御を行う(ステップt5)。また、データ送信制御部172eは、データ要求が補助色素量データ送信要求であれば、標本識別情報をもとに標本情報DB163eを探索し、この標本識別情報と対応付けられた補助色素量のデータを取得する(ステップt7)。そして、データ送信制御部172eは、データ要求を送信した画像処理端末20eに対して取得した補助色素量のデータを送信する制御を行う(ステップt9)。また、データ送信制御部172eは、データ要求が残差スペクトル送信要求であれば、標本識別情報をもとに標本情報DB163eを探索し、この標本識別情報と対応付けられた残差スペクトルのデータを取得する(ステップt11)。そして、データ送信制御部172eは、データ要求を送信した画像処理端末20eに対して取得した残差スペクトルのデータを送信する制御を行う(ステップt13)。
次に、画像処理装置10eが行う標本情報登録処理の処理手順について説明する。図36は、実施の形態5における標本情報登録処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160eに格納された画像処理プログラム161eに従って画像処理装置10eの各部が動作することによって実現される。
図36に示すように、標本情報登録処理では、先ずマルチバンド画像取得制御部171が、画像取得部110の動作を制御して色素量の推定対象の染色標本をマルチバンド撮像し、染色標本画像を取得する(ステップu1)。続いて、スペクトル推定部151が、取得された染色標本画像の画素値をもとに、染色標本のスペクトル(推定スペクトル)を画素毎に推定する(ステップu3)。続いて、色素量推定部152bが、推定スペクトルをもとに、色素H,色素E,色素Rの基準色素スペクトルを用いて染色標本の色素量を画素毎に推定する(ステップu5)。
続いて、残差スペクトル算出部153bが、推定スペクトルから求まる推定分光吸光度と、推定した色素量から復元される復元分光透過率とをもとに、残差スペクトルを算出する(ステップu7)。続いて、色素量データ分割部154cが、推定した画素毎の色素量のデータを、主要浮動小数点データ部と補助浮動小数点データ部とに分割する(ステップu9)。そして、演算部150eが、分割した画素毎の色素量の主要浮動小数点データ部を主要色素量のデータとし、補助浮動小数点データ部を補助色素量のデータとして、標本情報DB163eに登録する(ステップu11)。さらに、演算部150eは、算出した残差スペクトルのデータを標本情報DB163eに登録する(ステップu13)。
次に、画像処理端末20eが行う画像合成処理の処理手順について説明する。図37は、実施の形態5における画像合成処理の処理手順を示すフローチャートである。なお、ここで説明する処理は、記憶部160eに格納された画像処理プログラム161eに従って画像処理端末20eの各部が動作することによって実現される。
先ず、図37に示すように、色素量補正係数設定部262が、例えばユーザ操作に従って、色素H,色素Eの色素量補正係数を設定する(ステップv1)。続いて、補正色素量算出部241eが、画像処理装置10eから取得されて受信合成用データ254eに記憶された観察対象の標本の色素H,Eの主要色素量と設定された色素量補正係数とから、色素H,色素Eの補正色素量を画素毎に算出する(ステップv3)。続いて、補正スペクトル合成部242eが、色素H,色素Eの補正色素量および色素Rの主要色素量をもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する(ステップv5)。続いて、画像合成部243eが、画素毎に合成された補正スペクトルをもとに表示画像の各画素の画素値を算出し、表示画像を合成する(ステップv7)。続いて、画像表示制御部263が、合成された表示画像を表示部220に表示する制御を行う(ステップv9)。
また、色素量データ復元部244dが、受信合成用データ254eに記憶された主要色素量のデータと補助色素量のデータとから色素量のデータを復元する(ステップv10)。続いて、補正色素量算出部241eが、復元した復元色素量をもとに、ステップv1で設定された色素量補正係数を用いて色素H,色素Eの補正色素量を画素毎に算出する(ステップv11)。そして、補正スペクトル合成部242eが、色素H,色素Eの補正色素量および色素Rの復元色素量をもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する(ステップv13)。続いて、画像合成部243eが、補正スペクトルをもとに表示画像の各画素の補正画素値を算出し、ステップv7で算出された画素値を補正画素値によって置き換えて表示画像を合成する(ステップv15)。そして、画像表示制御部263が、復元色素量をもとに新たに合成された表示画像を表示部220に表示する制御を行う(ステップv17)。
また、補正スペクトル合成部242eが、受信合成用データ254eに記憶された観察対象の標本の色素H,Eの主要色素量、または補助色素量が受信済みの場合であって、色素量が復元済みの場合には、色素H,Eの復元色素量をもとに、ステップv1で設定された色素量補正係数を用いて色素H,色素Eの補正色素量を画素毎に算出する(ステップv18)。そして、補正スペクトル合成部242eが、色素H,色素Eの補正色素量および色素Rの主要色素量または復元色素量と残差スペクトルeとをもとに、各色素の基準色素スペクトルを用いて補正スペクトルを画素毎に合成する(ステップv19)。続いて、画像合成部243eが、補正スペクトルをもとに表示画像の各画素の補正画素値を算出し、ステップv7で算出された画素値を補正画素値によって置き換えて表示画像を合成する(ステップv21)。そして、画像表示制御部263が、残差スペクトルを考慮して新たに合成された表示画像を表示部220に表示する制御を行う(ステップv23)。
以上説明したように、実施の形態5によれば、上記した実施の形態1〜4および変形例と同様の効果を奏する。
なお、上記した各実施の形態や変形例の画像処理システムでは、画像処理装置は、画像処理端末から要求された標本について推定した画素毎の色素量を、この画像処理端末に対して全画素分送信する場合について説明したが、一部の画素の色素量を送信するようにしてもよい。例えば、判定基準とする1つまたは複数の色素を予め定めておき、この色素の色素量から2次的に算出した変換値が予め設定される所定の閾値より大きい画素の画素値を送信対象としてもよい。具体的には、変換値として、判定基準とする色素の画素毎の色素量の最大値、平均値、平均値、分散等の値を算出し、閾値処理する。あるいは、基準の色素量を予め定めておき、画素毎の色素量について、その変換値と基準の色素量の変換値との比率を算出する。変換値としては、例えば色素量を構成する各色素の色素量のうちの最大値、各色素の色素量の合計値や平均値、各色素の色素量の分散を用いることができる。また、基準の色素量については、例えば各色素の色素量をそれぞれ“0”として設定しておく。そして、算出した比率が所定の閾値より大きい色素量の画素について、画素値を送信するようにしてもよい。
また、上記の実施の形態では、染色標本を撮像したマルチバンド画像から分光透過率のスペクトル特徴値を推定する場合について説明したが、分光特性値として、分光反射率や吸光度のスペクトル特徴値を推定する場合にも、同様に適用できる。