[go: up one dir, main page]

JP2014202673A - マルチバンド撮像装置およびその制御方法 - Google Patents

マルチバンド撮像装置およびその制御方法 Download PDF

Info

Publication number
JP2014202673A
JP2014202673A JP2013080489A JP2013080489A JP2014202673A JP 2014202673 A JP2014202673 A JP 2014202673A JP 2013080489 A JP2013080489 A JP 2013080489A JP 2013080489 A JP2013080489 A JP 2013080489A JP 2014202673 A JP2014202673 A JP 2014202673A
Authority
JP
Japan
Prior art keywords
filter
image
filters
holding member
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013080489A
Other languages
English (en)
Inventor
健一 明石
Kenichi Akashi
健一 明石
佐々木 亨
Toru Sasaki
亨 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013080489A priority Critical patent/JP2014202673A/ja
Publication of JP2014202673A publication Critical patent/JP2014202673A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Spectrometry And Color Measurement (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Optical Filters (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】フィルタ切換方式のマルチバンド撮像装置において、フィルタの切換に起因する分光画像同士の位置ずれの検出を簡易かつ高精度に行うための技術を提供する。
【解決手段】光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置において、複数のフィルタを保持する第1のフィルタ保持部材と、前記第1のフィルタ保持部材と交換して用いられ、前記第1のフィルタ保持部材とは異なる組み合わせの複数のフィルタを保持する第2のフィルタ保持部材と、を設ける。前記第1のフィルタ保持部材に保持された第1のフィルタと透過波長帯が等しい第2のフィルタが、前記第2のフィルタ保持部材に設けられている。
【選択図】図2

Description

本発明は、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置に関する。
従来より、癌検査などにおいて、患者から採取した組織を固定したプレパラート(スライド)を光学顕微鏡で観察し、病変の種類や性質を見分ける病理診断が行われている。最近では、光学顕微鏡の代替として、デジタル画像による診断を可能とするシステム(バーチャルスライドシステム等と呼ばれる)が利用され始めている。この種のシステムでは、デジタルスライドスキャナと呼ばれる撮像装置により、プレパラートをデジタル撮像し、高精細の画像データを生成する。これにより、迅速な遠隔診断、デジタル画像を用いた患者への説明、希少症例の共有化、教育・実習の効率化等の様々なメリットを得ることができる。一方、デジタル撮像によって得られた画像をディスプレイ上で観察した場合に、光学顕微鏡で観察した場合と異なった色で表現されることがあり、診断の妨げになる可能性がある。この問題に対し、デジタルスライドスキャナの機能拡張の一つとして、実物に忠実な色再現を可能とするマルチバンド撮像機能の搭載が試みられている。
マルチバンド撮像とは、異なる複数の波長帯で被写体を撮像し、それぞれの波長帯に対応する複数の分光画像を取得する撮像手法である。通常のカラーカメラではRGB3色の画像が得られるのに対し、マルチバンド撮像では4種類以上の波長帯(チャネル)の分光画像が得られる。各波長帯(チャネル)の画像は分光画像またはバンド画像と呼ばれ、波長帯が異なる複数の分光画像から構成される画像群はマルチバンド画像と呼ばれる。マルチバンド画像から被写体の分光輝度を推定することで、忠実な色再現が可能となる。
マルチバンド撮像の方法の一つとして、特定の波長帯の光を透過する色フィルタをフィルタホイール等で順次切り替えながら、異なる波長帯での画像データを取得する方式(以後、色フィルタ切換方式と称する)が知られている(非特許文献1)。この手法は、フィルタの分光透過率分布の設計が容易であることや、面内の透過率の均一性が高い、という利点がある。また、マルチバンド撮像ではないが、同様の構成をもつものとして、面順次切換式のカラーカメラがある(特許文献1)。
Masahiro Yamaguchiら著、「Natural Vision: Visual Telecommunication based on Multispectral Technology」International Display Workshops '00 (2000) 1115-1118
特開平6−319143号公報
色フィルタ切換方式では、図16(a)に示すように、透過波長帯が狭いフィルタ(以後、狭帯域通過フィルタと称する)を複数用意し、それらを選択的に切り換えて撮像する波長帯を細かく分割することで、色再現性を高めることができる。また、図16(b)、(c)に示すように特定の波長の分光透過率が減衰するようなフィルタや、図16(d)で示すような透過波長帯のピークを複数持つフィルタを組み合わせることもある。この際
、フィルタの枚数は16以上になることも多い。ところで、ステージや支柱等との干渉といった物理的な制約から、一般的な顕微鏡程度の大きさの装置では、1つのフィルタホイールに3〜8枚程度のフィルタを搭載するのが限界である。そのため、複数のフィルタホイールを用意し、それらを交換しつつ撮像することになる。しかし、フィルタホイールの交換を行うと、交換時に発生する振動でプレパラートや結像光学系が移動し、分光画像の位置ずれが発生するおそれがある。分光画像の位置ずれは、複数の分光画像を合成して色再現性を向上させた画像(以下、色再現画像と称する)を生成する際に、色ずれ(偽色の発生)の原因となる。
色ずれの別の原因として、フィルタホイールの回転(色フィルタの切換)に伴う画像の位置ずれも知られている。これは、回転軸のブレにより、色フィルタ表面と光軸のなす角が変化して、結像位置が微小にずれるために発生する。特許文献1では、回転に伴う画像の位置ずれを、色フィルタごとに割り出し、割り出した位置ずれを撮像素子の移動によって補正している。結像位置を割り出すためには、色フィルタ表面と光軸とのなす角が必要である。色フィルタの切換、あるいはフィルタホイールの交換の際には、上記なす角が変化するので、その都度測定する必要がある。そのため、頻繁に上記切換、または交換が発生すると、画像取得に多大な時間を要する。加えて、位置ずれの補正精度は上記なす角の測定精度に左右されるため、高精度な補正を行うには精密に測定可能な検出器等の装置構成が必要となる。これは、マルチバンド撮像装置のコストアップにつながる。
上記のような機械的な補正のほかに、画像の位置ずれを画像処理によって補正することが考えられる。この場合、位置ずれを補正したい二つの画像から特徴点を抽出し、対応する特徴点の位置が一致するように画像を移動する方法などが一般的である。特徴点位置の一致度により位置ずれを補正するには、二つの画像が十分に類似して、対応する特徴点位置を正確に計算できる必要がある。ところが、異なるフィルタを通して取得した二つの画像は、各々フィルタの分光透過率分布に依存するため、必ず類似するわけではない。例えば、相互情報量法(mutual information method)のようなロバストな統計的手法を用い
ることにより、類似していない画像の位置ずれの補正を行うことも考えられる。しかし、位置合わせを行うそれぞれの画像について情報量(エントロピー)を求める必要があるため、多大な処理時間を要する。
本発明は、上記課題に鑑みなされたものであり、フィルタ切換方式のマルチバンド撮像装置において、フィルタの切換に起因する分光画像同士の位置ずれの検出を簡易かつ高精度に行うための技術を提供することを目的とする。
本発明の第一態様は、光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置であって、複数のフィルタを保持する第1のフィルタ保持部材と、前記第1のフィルタ保持部材と交換して用いられ、前記第1のフィルタ保持部材とは異なる組み合わせの複数のフィルタを保持する第2のフィルタ保持部材と、を有し、前記第1のフィルタ保持部材に保持された第1のフィルタと透過波長帯が等しい第2のフィルタが、前記第2のフィルタ保持部材に設けられていることを特徴とするマルチバンド撮像装置である。
本発明の第二態様は、光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置であって、複数のフィルタを有しており、前記複数のフィルタのそれぞれが、透過波長帯が互いに異なる第1の領域と第2の領域を有しており、前記複数のフィルタの第1の領域は、互いに透過波長帯が異なり、前記複数のフィルタの第2の領域は、互いに透過波長帯が等しいことを特徴とするマルチバンド撮像装置である。
本発明の第三態様は、光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置の制御方法であって、第1のフィルタ保持部材に保持された複数のフィルタを前記光路に一つずつ挿入して、前記撮像センサにより複数の画像のデータを撮像するステップと、前記第1のフィルタ保持部材から第2のフィルタ保持部材に交換するステップと、前記第2のフィルタ保持部材に保持された複数のフィルタを前記光路に一つずつ挿入して、前記撮像センサにより複数の画像のデータを撮像するステップと、前記第1のフィルタ保持部材に保持されたフィルタを用いて撮像された画像と、前記第2のフィルタ保持部材に保持されたフィルタを用いて撮像された画像のあいだの位置ずれを検出するステップと、を有し、前記第1のフィルタ保持部材に保持された第1のフィルタと透過波長帯が等しい第2のフィルタが、前記第2のフィルタ保持部材に設けられており、前記位置ずれは、前記第1のフィルタを透過した光に基づく画像と前記第2のフィルタを透過した光に基づく画像とを用いて検出されることを特徴とするマルチバンド撮像装置の制御方法である。
本発明の第四態様は、光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置の制御方法であって、複数のフィルタを前記光路に一つずつ挿入して、前記撮像センサにより複数の画像のデータを撮像するステップと、前記複数のフィルタを用いて撮像された複数の画像のあいだの位置ずれを検出するステップと、を有し、前記複数のフィルタのそれぞれが、透過波長帯が互いに異なる第1の領域と第2の領域を有しており、前記複数のフィルタの第1の領域は、互いに透過波長帯が異なり、前記複数のフィルタの第2の領域は、互いに透過波長帯が等しく、前記位置ずれは、前記複数のフィルタそれぞれの第2の領域を透過した光に基づく複数の画像を用いて検出されることを特徴とするマルチバンド撮像装置の制御方法である。
本発明によれば、フィルタの切換に起因する分光画像同士の位置ずれの検出を簡易かつ高精度に行うことができる。
画像処理システム装置構成全体図 顕微鏡装置ブロック図 第一の実施形態におけるフィルタ構成模式図 画像処置装置ハードウェア構成 第一の実施形態における画像取得工程フローチャート 第一の実施形態における位置ずれ補正工程フローチャート 第二の実施形態における画像処理システム装置構成全体図 第二の実施形態におけるフィルタ構成模式図 第二の実施形態におけるフィルタの光学系に対する挿入位置を示す模式図 第二の実施形態における画像取得工程フローチャート 第二の実施形態における位置ずれ補正工程フローチャート 第三の実施形態におけるフィルタ構成模式図 第三の実施形態における位置ずれ補正工程フローチャート 第四の実施形態における画像取得工程フローチャート 第四の実施形態における位置ずれ補正工程フローチャート フィルタの分光透過率特性の概念図
本発明は、光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、
異なる波長帯に対応する複数の分光画像のデータを取得可能な、フィルタ切換方式のマルチバンド撮像装置に関する。フィルタ切換方式のマルチバンド撮像装置では、複数のフィルタが装着されたフィルタ保持部材(フィルタホイールなど)を用い、自動またはマニュアルでフィルタを切換可能な機構が採用される。また、フィルタの数が多い場合には、異なる組み合わせのフィルタが装着された複数のフィルタ保持部材を用意し、それらを自動またはマニュアルで交換しつつ撮像が行われる。ところで、フィルタ保持部材の交換やフィルタの切換を行うと、被写体や光学系がずれたり、撮像センサ上の結像位置がずれたりし、得られる分光画像に位置ずれが生じる可能性がある。このような位置ずれを精度良く検出するために、本実施形態のマルチバンド撮像装置では次のような構成を採用する。
例えば、第1のフィルタ保持部材と第2のフィルタ保持部材が交換して用いられる構成においては、第1のフィルタ保持部材に保持されたいずれかのフィルタ(第1のフィルタ)と透過波長帯が等しいフィルタ(第2のフィルタ)を第2のフィルタ保持部材に設ける。第1のフィルタを透過した光に基づく画像と第2のフィルタを透過した光に基づく画像とは光学的な条件は揃っているため、この二つの画像を比較することでフィルタ保持部材の交換に起因する位置ずれを精度良く検出可能である。なお、第2のフィルタとしては、フィルタの全面(全域)の透過波長帯を第1のフィルタと等しくしたもの(図3(a)参照)でもよいし、フィルタの一部の領域の透過波長帯のみを第1のフィルタと等しくしたもの(図8(b)参照)でもよい。前者の具体例は第一の実施形態で詳しく説明し、後者の具体例は第二の実施形態で詳しく説明する。
また、一つのフィルタ保持部材に装着する全てのフィルタを、透過波長帯が異なる複数の領域を有するフィルタで構成し、全フィルタの第1の領域が互いに透過波長帯が異なり、全フィルタの第2の領域が互いに透過波長帯が等しくなるように設定してもよい。各フィルタの第2の領域を透過した光に基づく画像を比較することで、フィルタの切換に起因する位置ずれを精度良く検出可能である。この構成の具体例は第三の実施形態で詳しく説明する。
以上の方法により検出した位置ずれに基づき、各分光画像の位置合わせを行うことにより、高精度なマルチバンド画像を得ることができる。そして、このように位置合わせされた分光画像同士を合成して色再現画像を生成することで、色ずれのほとんどない高品質な画像を得ることができる。なお、分光画像の位置合わせは、分光画像に対し画像処理(アフィン変換など)による位置補正を施す方法でもよいし、撮像センサと被写体の相対位置を調整する方法でもよい。いずれの方法の場合でも、同じ透過波長帯のフィルタを透過した光に基づく画像を用いて検出した位置ずれに基づいて、補正量や調整量を決定することで、高精度な位置合わせを実現できる。
以下に述べる実施形態では、プレパラートのデジタル画像を生成し観察するスライドスキャナシステム(バーチャルスライドシステム)の顕微鏡装置に本発明を適用した例を説明する。顕微鏡装置では、被写体を高倍率かつ高精細で撮影するため、被写体や結像位置が微小にずれただけでも画像上の位置に大きく影響が出る。したがって、顕微鏡装置は本発明を特に好ましく適用できる対象である。ただし、本発明は、顕微鏡装置に限らず、フィルタ切換方式のマルチバンド撮像装置であれば適用することが可能である。
[第一の実施形態]
<スライドスキャナシステム構成>
図1は本発明の第一の実施形態に係るスライドスキャナシステムの概略構成を説明する模式図である。このスライドスキャナシステムは、被写体となるプレパラート上の被検試料の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタルマルチバンド画像として取得するためのシステムである。
スライドスキャナシステムは、マルチフィルタホイール付顕微鏡装置101と画像処理装置102、コンピュータ103、表示装置104によって構成される。画像処理装置102は専用処理ボードとしてコンピュータ103に組み込まれている。マルチフィルタホイール付顕微鏡装置(以下、単に顕微鏡装置とも称する)101とコンピュータ103との間は、専用もしくは汎用I/Fのケーブル105で接続され、コンピュータ103と表示装置104の間は、汎用のI/Fのケーブル106で接続される。顕微鏡装置101と画像処理装置102によりマルチバンド撮像装置(マルチバンド撮像が可能なスライドスキャナ)が構成されている。
本実施形態では上記のような構成になっているが、例えば、顕微鏡装置101に画像処理装置102を組み込んでもよいし、コンピュータ103と表示装置104を一体としたノートPC、または、すべてを一体とした装置を用いてもよい。
図2はマルチフィルタホイール付顕微鏡装置101と画像処理装置102の概略構成を示す模式図である。
(マルチフィルタホイール付顕微鏡装置)
顕微鏡装置101は、プレパラート211をステージ207により異なる位置に動かし、各位置において色フィルタ切換方式によってマルチバンド撮像を行い、マルチバンド画像データを取得する装置である。顕微鏡装置101は、照明ユニット201、マルチフィルタホイールユニット202、照明光学系206、ステージ207、ステージ制御ユニット208、結像光学系212、撮像ユニット213、メイン制御系214から構成される。
照明ユニット201は、照明光を発する光源201aと、光源の点灯や光量を制御する光源制御系201bとから構成される。照明ユニット201の光はフィルタおよび照明光学系206を介してステージ207上に配置されたプレパラート211を照射する。照明光学系206は、プレパラート211に対して均一に光を照射するための光学系である。
マルチフィルタホイールユニット202は、複数のフィルタホイール、フィルタホイール格納部204、フィルタホイールを交換するロボットアーム205、フィルタホイール制御系203から構成される。フィルタホイール格納部204は、光路に挿入されていないフィルタホイールを格納しておく場所である。フィルタホイール交換ロボットアーム205は光路に挿入されているフィルタホイールと、フィルタホイール格納部204に格納されているフィルタホイールの交換を行う。フィルタホイール制御系203は、メイン制御系214の指示を受け、ロボットアーム205によるフィルタホイールの交換と、光路に挿入されているフィルタホイールの回転を制御する。このような構成により、フィルタの自動切換が可能となっている。
図3(a)、(b)はマルチフィルタホイールユニット202で使用するフィルタおよびフィルタホイールの概略構成である。
本実施形態で使用するフィルタは、図16(a)〜(d)に例示したような、特定の波長帯のみの光線を透過する狭帯域通過フィルタや、分光透過率分布を設計した色フィルタである。以後の説明では、単にフィルタと称する。フィルタの透過波長帯は任意に選択することができる。本実施形態では、マルチバンド撮像を行う全波長帯(一例を挙げると、可視光領域:波長400nmから700nm)を等間隔に分割する狭帯域通過フィルタを使用する。
本実施形態では、図3(a)に示す円形フィルタ301や、図3(b)に示す扇型フィルタ302を用いるが、フィルタの外形はこれらに限らず、どのような形状でも構わない。
フィルタホイール形状はフィルタ外形に合わせて決められる。円形フィルタ301であれば円形フィルタ用フィルタホイール303、扇型フィルタ302であれば扇型用フィルタ用ホイール304が考えられるが、これらに限定されるものではない。フィルタホイールのサイズ(主に直径)は、周囲との物理的干渉を避けるため、顕微鏡装置の大きさにより決められる。一般的な顕微鏡装置で使用する場合、一度にフィルタホイールが保持できる枚数は3〜8枚である。本実施形態では6枚保持のフィルタホイールとした。この6枚保持フィルタホイールを用いて16種のフィルタを使ったマルチバンド撮像を行うなら、3個のフィルタホイールを使用する。なお、フィルタ保持部材としては、フィルタホイールのように回転によりフィルタを切り換える形態ではなく、平行移動によりフィルタを切り換える形態のものを用いることもできる。
複数のフィルタホイールを使用する際、各フィルタホイールには、位置合わせ用(アライメント用)のフィルタとして、他のフィルタホイールに保持されているフィルタのいずれかと透過波長帯が等しいフィルタ305(以降、共通フィルタと称する)が設けられる。図3(a)のように2個のフィルタホイールを用いる場合には、一方のフィルタホイールと他方のフィルタホイールにそれぞれ同じ透過波長帯の共通フィルタ305が装着される。共通フィルタ305を除く部分には、互いに透過波長帯が異なるフィルタを装着するとよい。そうすると、N個のフィルタホイールのそれぞれにM個のフィルタが装着可能である場合には、最大で{N×M−(N−1)}種類のフィルタを切り換えることができる。
図2に戻り顕微鏡装置101の説明を続ける。ステージ207は、被写体であるプレパラート211を支持し、移動可能に構成されている。ステージ207は、結像光学系212の光軸に沿った軸(Z軸と称する)と、Z軸と直交する平面内で直交する二軸(X、Y軸と称する)の、計三軸方向への移動が可能である。ステージ207の移動は、ステージ制御ユニット208により制御される。ステージ制御ユニット208は、駆動制御系209とステージ駆動機構210から構成される。駆動制御系209は、メイン制御系214の指示を受け、ステージ207の駆動制御を行う。ステージ駆動機構210は、駆動制御系209の指示に従い、ステージ207を駆動する。
プレパラート211は、観察対象となる組織の切片や塗抹した細胞をスライドグラス上に貼り付け、封入剤とともにカバーグラスの下に固定した部材である。
結像光学系212は、プレパラート211の検体の光学像を撮像ユニット213内の撮像センサへ結像するためのレンズ群である。
撮像ユニット213は、撮像センサ213a、アナログフロントエンド(AFE)213b、黒補正部213cから構成される。撮像センサ213aは、二次元の光学像を光電変換によって電気的な物理量へ変える一次元もしくは二次元のイメージセンサであり、例えば、CCD(charge-coupled device)やCMOS(Complementary metal-oxide-semiconductor)デバイスが用いられる。一次元センサの場合、走査方向へスキャンすることで二次元画像が得られる。撮像センサ213aからは、光の強度に応じた電圧値をもつ電気信号が出力される。AFE213bは、撮像センサ213aから出力されたアナログ信号をデジタル信号へ変換する回路である。黒補正部213cは、撮像センサ213aおよびAFE213bによって取得された画像データの各画素から、遮光時に得られた黒補正データを減算する処理を行う。撮像ユニット213によって取得された画像データを、原画像データまたは分光画像データと称する。なお、検体全域を一回で撮像できない場合には、ステージ207をXY移動しながら複数回の撮像を行うことで、一つの検体に対し複数の分割画像のデータを得ればよい。
メイン制御系214は、画像処理装置102内のユーザ情報取得部215で取得した情報に基づき、これまで説明してきた各種ユニットの制御を行う。
(画像処理装置)
画像処理装置102は、専用処理ボードとしてコンピュータ103に組み込まれており、顕微鏡装置101から取得した原画像データから、ユーザの要求に応じて、色再現画像データと表示装置104に表示するデータを生成する。画像処理装置102は、ユーザ情報取得部215、画像位置調整部216、ゲイン調整部217、画像合成処理部218、色再現画像生成部219、デジタルフィルタ処理部220、圧縮処理部221、および表示データ生成部223から構成される。なおこれ以降、上記のゲイン調整部217から圧縮処理部221までを現像処理ユニット222と称する。
ユーザ情報取得部215は、コンピュータ103内の記憶装置上から、顕微鏡装置101の撮像条件情報、現像処理ユニット222による色再現画像データを生成する際の色再現情報を取得する。撮像条件情報、色再現情報は事前にユーザによってGUI等を介して入力され、上記記憶装置に保持されている。例えば撮像条件情報の一例である撮像範囲であれば、プレパラートの縮小画像を表示し、GUIで範囲をユーザに指定させる。同様に、色再現情報の取得の一例としては、等色関数の候補等を表示してユーザに選択させる。取得した情報の内、撮像条件情報はメイン制御系214と現像処理ユニット222に送られ、色再現情報は現像処理ユニット222に送られる。
画像位置調整部216は、顕微鏡装置101から取得した原画像データ間の像の位置ずれを補正する。補正処理の工程は後述する。
現像処理ユニット222では、顕微鏡装置101で取得した原画像データを用いて、表示装置104に表示する色再現画像データを生成する。ゲイン調整部217は、撮像に用いられた色フィルタに応じて画像データのゲインを調整することによって、露光量の差を補正する。画像合成処理部218は、原画像データが複数の分割画像から構成されている場合に、分割画像をつなぎ合わせて、撮像条件情報に基づく大容量画像データを生成する。色変換画像生成部219は、画像合成処理部218で生成されたマルチバンド画像データをXYZ色度座標値に変換する。この変換された画像データを、XYZ画像データと称する。デジタルフィルタ処理部220は、XYZ画像データに含まれる高周波成分の抑制、ノイズ除去、解像感強調を実現するデジタルフィルタである。圧縮処理部221は、大容量の二次元画像データの伝送の効率化および保存する際の容量削減が目的で行われる圧縮の符号化処理である。静止画像の圧縮手法として、JPEG(Joint Photographic Experts Group)、JPEGを改良、進化させたJPEG2000やJPEG XR等の規格化された符号化方式が広く一般に知られている。圧縮された画像データはコンピュータ103内の記憶装置に送られ、蓄えられる。
表示データ生成部223は現像処理ユニット222で生成されたXYZ画像データを、ルックアップテーブルを用いて、表示装置104で表示可能なRGB表色系に変換する。
(ハードウェア構成)
図4は、コンピュータ103のハードウェア構成を示すブロック図である。本実施形態では、一般的なPC(Personal Computer)に専用処理ボードである画像処理装置102
を組み込んでいる。
コンピュータ103は、CPU(Central Processing Unit)401、RAM(Random Access Memory)402、記憶装置403、データ入出力I/F405、およびこれらを
互いに接続する内部バス404を備える。CPU401は、必要に応じてRAM402等に適宜アクセスし、各種演算処理を行いながらPCの各ブロック全体を統括的に制御する。RAM402は、CPU401の作業用領域等として用いられ、OS、実行中の各種プログラム、各種データを一時的に保持する。記憶装置403は、CPU401に実行させ
るOS、プログラム、各種パラメータなどのデータが固定的に記憶されている補助記憶装置である。HDD(Hard Disk Drive)等の磁気ディスクドライブ、もしくはSSD(Solid State Disk)等のFlashメモリを用いた半導体デバイスが用いられる。
データ入出力I/F405には、専用処理ボードである画像処理装置102と、ネットワークに接続するためのLAN I/F406、グラフィクスボード407、外部装置I
/F408、操作I/F409が接続される。さらに、グラフィクスボード407に表示装置104、外部装置I/F408に顕微鏡装置101、操作I/F409にキーボード410やマウス411が、それぞれ接続される。
表示装置104は、例えば液晶、EL(Electro-Luminescence)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。前述したように、コンピュータ103と一体化したノートPCを用いてもよい。操作I/F409に接続される入力デバイスとしてキーボード410やマウス411を例示したが、専用の入力デバイスやマウス以外のポインティングデバイスを用いてもよい。また、表示装置104としてタッチパネルディスプレイを用いた場合には、表示装置104の画面を入力デバイスとして利用できる。
(マルチバンド画像の取得)
図5は、顕微鏡装置101及び画像処理装置102によるマルチバンド画像取得工程のフローチャートである。これを用いて画像取得工程を説明する。
ステップS501では、プレパラート211上の撮像範囲、撮像センサの露光時間、撮像に使用するフィルタの枚数やそれらの透過波長帯等の撮像条件情報を、ユーザがコンピュータ103を介して画像処理装置102に入力する。この際、ユーザは、必要に応じて、等色関数などの色再現情報も入力する。入力された情報は記憶装置403に一旦蓄えられ、その後ユーザ情報取得部215によって取得される。
ステップS502では、メイン制御系214が、ステップS501で入力された情報をユーザ情報取得部215より取得する。
ステップS503では、ステップS502で取得した条件に従い、メイン制御系214が、ステージ207の移動距離の計算と、フィルタホイールの動作順の決定を行う。撮像条件で与えられた撮像範囲が一回で撮像可能なサイズより大きい場合には、撮像範囲を複数の撮像領域に分割する。また、メイン制御系214は、撮像センサ、ステージ、フィルタ、光源等の初期化を行う。プレパラート211の位置(ステージ207のXYZ位置)は、最初の撮像領域(撮像位置)にセットされる。
ステップS504では、光源ユニット201及び照明光学系206から光が照射され、撮像ユニット213による撮像が行われる。撮像ユニット213から出力された画像データは、RAM402もしくは記憶装置403に送られ、蓄えられる。この際、画像データのヘッダに、撮像に使用したフィルタとフィルタホイールの識別コードが付与される。
ステップS505では、メイン制御系214が、現在のフィルタホイール(光路に挿入されているフィルタホイール)に保持されているすべてのフィルタで撮像済みであるか判断する。撮像済みの場合には、ステップS507へ、撮像済みでない場合にはステップS506へ、移行する。ステップS506では、フィルタホイール制御系203の指令に基づき、フィルタホイールを回転して、フィルタの切換を行う。フィルタの切換後、ステップS504に戻り、撮像ユニット213による撮像が行われる。
ステップS507では、メイン制御系214が、ステップS502で取得した撮像範囲すべてが撮像済みであるか判断する。撮像済みの場合にはステップS509へ、撮像済み
でない場合にはステップS508へ移行する。ステップS508では、ステージ制御ユニット208が、ステップS503で計算したステージ207の移動距離に従って、次の撮像領域にステージ207を駆動してプレパラート211を移動させる。移動後、ステップS504に戻り、撮像ユニット213による撮像が行われる。
ステップS509では、メイン制御系214が、マルチフィルタホイールユニット202に保持されているすべてのフィルタホイールを用いて撮像済みか判断する。なお、ステップS501の撮像条件として、撮像に使用するフィルタホイールが指定されている場合は、ステップS509の処理は、指定されたフィルタホイールによる撮像が済んだかどうかの判断となる。撮像済みの場合にはステップS511へ、撮像済みでない場合にはステップS510へ移行する。ステップS510では、フィルタホイール制御系203の指令に基づき、フィルタホイール交換ロボットアーム205により、フィルタホイールの交換を行う。フィルタホイールの交換後、ステップS504に戻り、撮像ユニット213による撮像が行われる。
以上のステップS504〜S510の処理を繰り返すことにより、プレパラート211上の同じ撮像領域(撮像位置)に対し、異なるフィルタによる撮像が行われ、複数枚の分光画像のデータが得られる。続くステップS511では、画像位置調整部216において、ステップS510でのフィルタホイールの交換によって生じた画像の位置ずれを補正する。ステップS511の位置ずれ補正工程の詳細は後述する。位置ずれ補正後の画像データは現像処理ユニット222に渡される。
ステップS512では、ステップS511で位置ずれを補正した画像データに対し、ゲイン調整部217にて、ゲイン調整を施す。次に、ゲイン調整された画像データを画像合成処理部218でつなぎ合わせる。その後、つなぎ合わせて生成された大サイズのマルチバンド画像データをもとに、色再現画像生成部219にて色再現画像の生成を行う。色再現画像は、ステップS501でユーザによって入力された色再現情報か、あらかじめ記憶装置403に蓄えられていた色再現情報に基づいて生成される。さらに、デジタルフィルタ処理部220で処理を行い、色再現画像データを生成する。
ステップS513では、ステップS512で生成した色再現画像データを圧縮処理部221によって圧縮し、記憶装置403へ送る。その後、表示データ生成部223で表示データを生成し、表示装置104へ出力する。上記圧縮処理部221と表示データ処理部223の処理は並列に実行してもよい。
(画像の位置ずれ補正)
図6は、図5のステップS511の画像の位置ずれ補正工程の詳細を示したフローチャートである。図6を用いて本実施形態の画像位置調整部216による画像の位置ずれ補正の処理を説明する。
ステップS601では、画像位置調整部216が、ステップS511までに撮像された画像データすべてをRAM402もしくは記憶装置403より取得する。ステップS602では、画像位置調整部216が、ステップS601で取得した画像データの内、共通フィルタ305を用いて取得した画像データを抽出する。各々の画像データのヘッダには、撮像に使用したフィルタとフィルタホイールの識別コードが付与されているので、画像位置調整部216はこの識別コードを参照することで共通フィルタ305を用いて撮像された画像データを容易に識別できる。なお、これ以降、共通フィルタ305で撮像された画像データを、比較用画像データと称する。フィルタホイールを3つ用いた場合には、各々のフィルタホイールに対応する3枚の比較用画像データが抽出される。
ステップS603では、画像位置調整部216が、ステップS602で抽出した比較用画像データの内の一つを選択し、位置ずれ補正の基準とするための画像データ(以後、基準用画像データと称する)に設定する。本実施形態では、一つめのフィルタホイールの共通フィルタ305で撮像された画像データを基準用画像データに選ぶが、どの比較用画像データを基準用画像データに選んでも構わない。基準用画像データ以外の比較用画像データは、補正を施される画像データ(以後、被補正画像データと称する)に設定される。
ステップS604では、画像位置調整部216が、基準用画像データから特徴点を抽出する。この特徴点を基準特徴点と称する。特徴点は、例えばコーナー検出法(Harris法など)を利用するものや、SURF(Speeded Up Robust Features)法など、公知な特徴点検出アルゴリズムによって抽出することが可能である。
ステップS605では、画像位置調整部216が、被補正画像データに対し、基準用画像データに適用したアルゴリズムと同じアルゴリズムを適用し、特徴点を抽出する。ステップS606では、画像位置調整部216が、基準用画像データから抽出された特徴点と、被補正画像データから抽出された特徴点の対応をとり、その結果に基づき、特徴点の対応を示したリスト(特徴点対応リスト)を作成する。特徴点対応リストは、対応する特徴点について、基準用画像における座標と被補正画像における座標とが記述されたデータである。前述のように、フィルタホイールの交換時の振動等によりプレパラート211やステージ207の位置ずれが起きると、同じ特徴点(対応する特徴点)が画像中の異なる位置に現れる。
ステップS607では、画像位置調整部216が、特徴点対応リストを用いて、基準用画像に対する被補正画像の平行移動ずれ量と回転ずれ量を算出する。具体的には、画像位置調整部216は、特徴点対応リストに記述された特徴点のそれぞれについて、基準用画像における座標と被補正画像における座標の差を計算し、それらの平均値を求め、これを平行移動ずれ量とする。また、画像位置調整部216は、任意の二つの基準特徴点を選び、その二つの点を結ぶ線分の画像の長辺に対する傾きを計算する。同様に、画像位置調整部216は、特徴点対応リストを参照して、これら二つの基準特徴点に対応する被補正画像内の二つの特徴点の座標を取得し、その二点を結ぶ線分の画像の長辺に対する傾きを計算する。そして画像位置調整部216は、これら二つの線分の傾きを比較することで、被補正画像の基準用画像に対する像の回転ずれ量を求める。計算された平行移動ずれ量と回転ずれ量は、この被補正画像データを取得する際に用いられたフィルタホイールに対する補正パラメータ(補正量)P(h)として、RAM402もしくは記憶装置403に格納される。
フィルタホイールが三つ以上ある場合には、ステップS605〜S607の処理を被補正画像毎に適用することで、基準となるフィルタホイール以外のすべてのフィルタホイールに対し補正パラメータP(h)が決定される(ステップS608)。
ステップS609では、画像位置調整部216が、ステップS605〜S608により得られた補正パラメータP(h)に基づき、各々の画像データに対して像の平行移動、回転等の画像処理を施し、位置を補正する。なお、位置補正の対象となる画像データは、被補正画像データ及び被補正画像データと同じフィルタホイールを用いて撮像された画像データ、言い換えると、基準となるフィルタホイール以外のフィルタホイールを用いて撮像された画像データである。以上の処理により、基準用画像データに一致するように、すべての画像データの位置が調整される。
以上述べたように、本実施形態では、各フィルタホイールに設けられた共通フィルタを用いて撮像された比較用画像データ同士(基準用画像と被補正画像)を比較することで、
画像の位置ずれを検出する。これらの比較用画像は、透過波長帯が等しいフィルタを透過した光に基づく画像であるため、濃淡やエッジなどの画像特徴は(画像中の位置を除き)ほぼ等しくなる。よって、同じ特徴点抽出アルゴリズムを適用するだけで対応する特徴点を容易に抽出でき、比較用画像のあいだの位置ずれを高速かつ精度良く検出できる。そして、比較用画像から検出した位置ずれに基づき決定した補正パラメータ(補正量)を用いて、分光画像同士の位置補正を行うことにより、フィルタホイールの交換に起因する画像の位置ずれを高精度に補正することができる。
[第二の実施形態]
<スライドスキャナシステム構成>
図7は本発明の第二の実施形態に係るスライドスキャナシステムの概略構成を説明する模式図である。以下、第一の実施形態と異なる構成を中心に説明する。
本実施形態のスライドスキャナシステムは、マルチフィルタホイール付顕微鏡装置701と、画像処理装置702を備えたコンピュータ703とが、ネットワーク704を介して接続されている。顕微鏡装置701とコンピュータ703はそれぞれLANケーブル705によりネットワーク704に接続される。このような構成は、例えば、顕微鏡装置701とコンピュータ703とが異なる場所(遠隔地など)に設置されている場合に有利である。なお、図7のシステム構成を他の実施形態に適用してもよいし、逆に、図1のシステム構成を第二の実施形態に適用してもかまわない。
(マルチフィルタホイール付顕微鏡装置)
顕微鏡装置701は、第一の実施形態における顕微鏡装置101と同様の形態をとるが、フィルタおよびフィルタホイールの構成と、ネットワーク接続用のLAN I/Fを備
える点で異なる。
(マルチフィルタホイールユニット)
本実施形態における、マルチフィルタホイールユニット202の構成は、第一の実施形態と同様である。複数のフィルタホイールと、それらを格納しておく格納部204、フィルタホイールを交換するロボットアーム205、上記ロボットアームとフィルタホイールの回転によるフィルタの切換を制御するフィルタホイール制御系203から構成される。
図8(a)、(b)は本実施形態における、マルチフィルタホイールユニット202で使用するフィルタおよびフィルタホイールの概略構成である。
本実施形態では、第一の実施形態で用いたような面内の分光透過率が均一なフィルタに加え、透過波長帯が互いに異なる複数の領域から構成されるフィルタ(以後、複数領域フィルタと称する)を用いる。図8(a)に示す複数領域フィルタ801は、中心部802と周辺部803の二つの領域を有している。図8(a)の複数領域フィルタ801では中心部802の領域が四角形の形状となっているが、円形や多角形など任意の形状をとることができる。また周辺部803の形状も任意であり、図8(a)では中心部802の全周囲を周辺部803が囲んでいるが、中心部802の一方の側にのみ周辺部803が配置されていてもよい。中心部802および周辺部803の形状や大きさは、全ての領域が撮像ユニット213の撮像領域内に入るように決定するとよい。例えば、図8(a)の場合は、破線で示される撮像領域804より一回り小さくなるように、中心部802の形状および大きさを設定している。本実施形態で使用するフィルタの外形は円形や、扇型が考えられるが、どのような形状でも構わない。
図8(b)は、本実施形態のフィルタホイールとフィルタホイールに装着するフィルタの構成を示している。複数のフィルタホイール807を使用する際、各フィルタホイール807には、位置合わせ用のフィルタとして、複数領域フィルタ801が少なくとも一つ
ずつ装着される。このとき、各フィルタホイール807の複数領域フィルタ801の一部の領域805の透過波長帯を同一にする。以降、透過波長帯が等しい領域805を共通領域と称し、共通領域805を含む複数領域フィルタ801を共通領域フィルタと称する。この共通領域805が位置合わせ用の画像の撮像に利用され、共通領域805以外の領域806が分光画像の撮像に利用される。つまり、この共通領域805が第一の実施形態における共通フィルタと同じ役割を担っている。なお、共通領域805以外の領域806の透過波長帯はそれぞれのフィルタホイール間で異ならせるとよい。そうすると、N個のフィルタホイールのそれぞれにM個のフィルタが装着可能である場合には、最大でN×M種類のフィルタを切り換えることができ、第一の実施形態よりもフィルタ枚数を増やすことができる。
共通領域805は複数領域フィルタ801の周辺部803に位置することが好ましい。周辺部803に位置している場合、その部分を分割画像のつなぎ合わせに用いることで有効利用できるからである。ただし、共通領域805は、すべてのフィルタホイールの複数領域フィルタ801で同じ位置に設ける。同じ位置になければ、画像同士の位置ずれを評価できないからである。なお、共通領域805は、マルチバンド画像の生成に直接使用しないので、素通しや、フィルタではない透明部材等を用いても構わない。
図9は照明光学系206としてケーラー照明系を使用した顕微鏡装置701において、フィルタまたはフィルタホイールの光学系に対する挿入位置を示した概念図である。複数領域フィルタ801を用いる場合は、被写体(プレパラート211)の共役面901またはその近傍にフィルタ801を挿入する。これにより、複数領域フィルタ801上の透過波長帯が異なる領域の境界面(複数領域フィルタの中心部802と周辺部803の境界)を撮像することが可能となる。なお、本実施形態では透過型ケーラー照明系について述べたが、落射型や他の照明系でも被写体に対して光学的に共役な位置(またはその近傍)にフィルタを挿入すればよい。
(マルチバンド画像の取得)
図10と図11を参照して、第二の実施形態の画像取得工程および位置ずれ補正工程の流れを説明する。図10は第二の実施形態における画像取得工程を示したフローチャートであり、図11は第二の実施形態における画像の位置ずれ補正工程のフローチャートである。
図10のフローにおけるステップS501からステップS510の処理は第一の実施形態(図5)と同様である。ステップS511では、画像位置調整部216において、ステップS510でのフィルタホイールの交換によって生じた画像の位置ずれを補正する。
図11にステップS511の詳細を示す。ステップS601では、画像位置調整部216が、ステップS511までに撮像された画像データすべてをRAM402もしくは記憶装置403より取得する。ステップS1101では、画像位置調整部216が、ステップS601で取得した画像データの内、共通領域フィルタを用いて取得した画像データを抽出する。第一の実施形態と同様、画像位置調整部216は画像データのヘッダに付与された識別コードを参照することで共通領域フィルタか否かの識別を行う。共通領域フィルタで撮像された画像データを比較用画像データと称する。
ステップS1102では、画像位置調整部216が、第一の実施形態と同様に、比較用画像データの内の一つを基準用画像データに設定し、残りを被補正画像データに設定する。ステップS1103では、画像位置調整部216が、基準用画像データの共通領域805に対応する領域内で、位置合わせの基準とする矩形の領域(画素ブロックと称する)を設定する。この領域を基準領域と称する。ステップS1104では、画像位置調整部21
6が、被補正画像データに対し、基準用画像データの基準領域と同じ位置に一回り小さい画素ブロックを設定する。この領域を被補正領域と称する。
ステップS1105では、画像位置調整部216が、被補正領域の位置を少しずつシフトしながら、基準領域内の画像と被補正領域内の画像との相関関数を計算する。ステップS1106では、画像位置調整部216が、ステップS1105の結果に基づき、相関関数値が最も大きくなる被補正領域の位置を判定し、このときの被補正領域のシフト量を基準用画像に対する被補正画像のずれ量とみなす。得られたずれ量は、この被補正画像データを取得する際に用いられたフィルタホイールに対する補正パラメータ(補正量)P(h)として、RAM402もしくは記憶装置403に格納される。
フィルタホイールが三つ以上ある場合には、ステップS1104〜S1106の処理を被補正画像毎に適用することで、基準となるフィルタホイール以外のすべてのフィルタホイールに対し補正パラメータP(h)が決定される(ステップS608)。ステップS609の処理は第一の実施形態と同様である。
図10のフローに戻り、ステップS1001では、画像位置調整部216が、位置補正済みのすべての画像データから、共通領域805に対応する領域を削除する。後段のステップS512で画像をつなぎ合わせる際に不要となるためである。以降の処理は第一の実施形態と同様である。
以上述べた本実施形態の構成によっても、第一の実施形態と同様の効果を得ることができる。さらに、本実施形態では複数領域フィルタを利用するため、第一の実施形態よりも効率的にマルチバンド撮像を実行できる。すなわち、取得すべき分光画像(バンド)の数が同じであれば、第一の実施形態よりも撮像回数を少なくでき、処理時間の短縮を図ることができる。
[第三の実施形態]
前述の実施形態は、フィルタホイールの交換に起因するフィルタホイール間での位置ずれを検出、補正する構成であったのに対し、第三の実施形態は、フィルタの切換(フィルタホイールの回転)に起因するフィルタ間での位置ずれを検出、補正する構成である。以下、前述の実施形態と異なる構成を中心に説明する。
(フィルタ)
図12は本実施形態における、マルチフィルタホイールユニット202で使用するフィルタおよびフィルタホイールの概略構成である。
本実施形態では、フィルタホイール1203に装着するフィルタ1200すべてに複数領域フィルタを使用する。複数領域フィルタとは、透過波長帯が互いに異なる複数の領域を有するフィルタであり、第二の実施形態で述べたのと同じ構成のものを採用できる。本実施形態では図12に示すように、四角形の中央部1201の領域と周辺部1202の領域とで透過波長帯が異なる複数領域フィルタ1200を用いている。
一つのフィルタホイール1203に保持される複数(図12では6個)のフィルタ1200は、少なくとも一部の領域において同一の透過波長帯を有している。この透過波長帯が等しい領域を共通領域(第2の領域)と称する。第二の実施形態では複数領域フィルタの共通領域を利用して、フィルタホイール間での画像の位置ずれを検出したが、本実施形態では、同様の原理でフィルタホイールの回転に際して生じる画像の位置ずれを補正する。それゆえ、第二の実施形態で述べたのと同じ理由で、共通領域はフィルタ1200の周辺部1202に配置することが好ましく、素通しや、フィルタでない透明部材等を用いても構わない。また、共通領域は、すべてのフィルタ1200で同じ位置に配置する。
なお、共通領域以外の領域(第1の領域)は分光画像の撮像に用いられる。そのため、共通領域以外の領域の透過波長帯はそれぞれのフィルタ1200で異ならせるとよい。そうすると、フィルタホイール1203に装着されたすべてのフィルタ1200を分光画像の撮像に利用できるからである。フィルタ1200またはフィルタホイール1203の光学系に対する挿入位置は第二の実施形態と同様、被写体(プレパラート)の共役面またはその近傍とする。
(マルチバンド画像の取得)
図13を参照して、第三の実施形態の画像取得工程および位置ずれ補正工程の流れを説明する。図13は第三の実施形態における画像取得工程を示したフローチャートである。
図13のフローにおけるステップS501からステップS504の処理は第一の実施形態(図5)と同様である。その後の手順が、第一の実施形態ではフィルタの切換を優先したのに対し、第三の実施形態では撮像領域の移動を優先する点で異なる。撮像領域の移動を優先することで、フィルタの切換(フィルタホイールの回転)の回数を最少にでき、後段の画像の位置ずれ補正の処理が簡易になるという利点がある。
ステップS1301では、メイン制御系214が、ステップS502で取得した撮像範囲すべてが撮像済みであるか判断する。撮像済みの場合にはステップS1303へ、撮像済みでない場合にはステップS1302へ移行する。ステップS1302では、ステージ制御ユニット208が、ステップS503で計算したステージ207の移動距離に従って、次の撮像領域にステージ207を駆動してプレパラート211を移動させる。移動後、ステップS504に戻り、撮像ユニット213による撮像が行われる。
ステップS1303では、メイン制御系214が、現在のフィルタホイール(光路に挿入されているフィルタホイール)に保持されているすべてのフィルタで撮像済みであるか判断する。撮像済みの場合には、ステップS509へ、撮像済みでない場合にはステップS1304へ、移行する。ステップS1304では、フィルタホイール制御系203の指令に基づき、フィルタホイールを回転して、フィルタの切換を行う。フィルタの切換後、ステップS504に戻り、撮像ユニット213による撮像が行われる。ステップS509とステップS510は第一の実施形態と同様である。
ステップS511では、画像位置調整部216において、ステップS510までに行ったフィルタホイールの回転によって生じた画像の位置ずれを補正する。ステップS511の処理は、第二の実施形態(図11)の処理と実質的に同じである。異なる点は、第二の実施形態の場合は、共通領域を用いて得られた比較用画像データを用いてフィルタホイール毎の補正パラメータ(P(h))を計算したのに対し、本実施形態では、フィルタ毎の補正パラメータ(P(f))を直接計算する点である。すなわち、画像位置調整部216は、フィルタホイールに保持された複数のフィルタ1200それぞれの共通領域を透過した光に基づく画像の相関関数値を評価することで、互いの画像の位置ずれ量を計算し、フィルタ毎の補正パラメータ(補正量)を決定する。
ステップS511以降の処理は、第二の実施形態と同様である。
以上述べたように、本実施形態では、各フィルタに設けられた共通領域を用いて撮像された比較用画像データを比較することで、フィルタ間の画像の位置ずれを検出する。これらの比較用画像は、透過波長帯が等しいフィルタ領域を透過した光に基づく画像であるため、濃淡やエッジなどの画像特徴は(画像中の位置を除き)ほぼ等しくなる。よって、比較用画像のあいだの位置ずれを高速かつ精度良く検出できる。そして、比較用画像から検出した位置ずれに基づき決定した補正パラメータ(補正量)を用いて、分光画像同士の位置補正を行うことにより、フィルタの切換に起因する画像の位置ずれを高精度に補正する
ことができる。
[第四の実施形態]
前述の実施形態では、分光画像に対し補正処理を施すことにより位置ずれの補正を行ったのに対し、第四の実施形態では、撮像センサと被写体の相対位置を調整することにより、位置ずれの補正を行う。スライドスキャナシステムの構成および位置ずれの検出方法については前述の実施形態と同様の形態をとることができる。なお、本実施形態ではステージの移動により撮像センサと被写体の相対位置の調整を行うが、撮像センサの移動や結像光学系の調整によっても同様の調整が可能である。以下、第一の実施形態と異なる構成を中心に説明する。
(マルチバンド画像の取得)
図14および図15を参照して、第四の実施形態の画像取得工程および位置ずれ補正工程の流れを説明する。図14は第四の実施形態における画像取得工程のフローチャートであり、図15は第四の実施形態における位置ずれ補正工程のフローチャートである。
図14のフローにおけるステップS501からステップS510までの処理は第一の実施形態と同様である。ステップS1501では、交換後のフィルタホイールに設けられている共通フィルタ305を用いて撮像ユニット213で撮像を行う。撮像により生成された画像データは、RAM402もしくは記憶装置403に送られ、蓄えられる。このステップS1501で取得した画像データを位置ずれ補正用画像データと称する。
ステップS1502では、画像位置調整部216とステージ207及びステージ制御ユニット208により、ステップS510でのフィルタホイールの交換によって生じた画像の位置ずれを補正する。位置の補正後、ステップS504に戻る。
図15にステップS1502の詳細を示す。ステップS1601では、画像位置調整部216が、一つ目のフィルタホイールの共通フィルタ305を用いて撮像した画像データと、ステップS1501で撮像した位置ずれ補正用画像データを取得する。ステップS1602では、画像位置調整部216が、一つ目のフィルタホイールの共通フィルタ305を用いて撮像した画像データを基準用画像データに設定し、位置ずれ補正用画像データを被補正画像データに設定する。これ以降のステップS604からステップS606の処理は第一の実施形態と同様である。
ステップS1603では、画像位置調整部216が、特徴点対応リストを用いて、基準用画像に対する被補正画像の平行移動ずれ量を算出する。具体的な算出方法は、第一の実施形態のステップS607の処理と同様である。計算された平行移動ずれ量は、この被補正画像データに対する補正パラメータP(s)として、RAM402もしくは記憶装置403に格納される。
ステップS1604では、ステージ制御ユニット208が、補正パラメータ(P(s))に基づいて、ステージ207を移動させることによって、被写体であるプレパラート211の位置を補正する。つまり、基準用画像と被補正画像の位置ずれがゼロもしくは最小となるように、撮像センサに対する結像位置を調整するのである。その後、ステップS1605では、画像位置調整部216が、位置ずれ補正用画像データをRAM402もしくは記憶装置403上から消去する。
このように位置ずれの補正を行った後、交換後のフィルタホイールによる撮像を行うことで、位置ずれの殆ど無い分光画像を取得することができる。したがって、本実施形態の構成によっても、前述した実施形態と同様の作用効果を奏することができる。
[その他の実施形態]
第一から第四の実施形態では画像処理装置102を専用ボードとしてコンピュータ103に組み込んだが、同様の機能をコンピュータ103で実行するソフトウェアとして実現してもよい。
顕微鏡装置で取得した原画像データをネットワーク上に配置したサーバに蓄積し、その後に、上記サーバ内の原画像データを用いて、画像処理装置並びにコンピュータで色再現画像を生成するシステム構成をとってもよい。
本発明の目的を、これまで説明してきた第一から第四の実施形態並びに、上述したその他の実施形態を組み合わせて実現してもよい。例えば、第一の実施形態において、マルチフィルタホイール付顕微鏡装置101と画像処理装置102は第二の実施形態のようにネットワークを介して接続されていてもよい。第二の実施形態において、画像の位置ずれの補正を画像処理で行わずに、第四の実施形態のようにステージ207の移動によって行ってもよい。その他、上記各実施形態における様々な技術を適宜組み合わせることで得られる構成も本発明の範疇に属する。
101:マルチフィルタホイール付顕微鏡装置、102:画像処理装置、103:コンピュータ
201:照明ユニット、202:マルチフィルタホイールユニット、213:撮像ユニット

Claims (20)

  1. 光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置であって、
    複数のフィルタを保持する第1のフィルタ保持部材と、
    前記第1のフィルタ保持部材と交換して用いられ、前記第1のフィルタ保持部材とは異なる組み合わせの複数のフィルタを保持する第2のフィルタ保持部材と、を有し、
    前記第1のフィルタ保持部材に保持された第1のフィルタと透過波長帯が等しい第2のフィルタが、前記第2のフィルタ保持部材に設けられている
    ことを特徴とするマルチバンド撮像装置。
  2. 前記第2のフィルタは、前記第1のフィルタ保持部材に保持されたフィルタを用いて撮像される画像と、前記第2のフィルタ保持部材に保持されたフィルタを用いて撮像される画像とのあいだの位置ずれの検出に用いる画像を撮像するためのフィルタである
    ことを特徴とする請求項1に記載のマルチバンド撮像装置。
  3. 前記第1のフィルタ保持部材および前記第2のフィルタ保持部材に保持されている複数のフィルタは、前記第2のフィルタを除き、互いに透過波長帯が異なるフィルタである
    ことを特徴とする請求項1または2に記載のマルチバンド撮像装置。
  4. 前記第2のフィルタ保持部材に保持された複数のフィルタのうちの少なくとも一つが、透過波長帯が互いに異なる複数の領域から構成される複数領域フィルタであり、
    前記第2のフィルタは、前記複数領域フィルタのうちの一つの領域である
    ことを特徴とする請求項1〜3のうちいずれか1項に記載のマルチバンド撮像装置。
  5. 前記第2のフィルタの領域は、前記複数領域フィルタの周辺部に配置されている
    ことを特徴とする請求項4に記載のマルチバンド撮像装置。
  6. 前記複数領域フィルタのうち前記第2のフィルタの領域以外の領域は、分光画像を撮像するために用いられる
    ことを特徴とする請求項4または5に記載のマルチバンド撮像装置。
  7. 前記複数領域フィルタは、被写体の共役面またはその近傍に挿入される
    ことを特徴とする請求項4〜6のうちいずれか1項に記載のマルチバンド撮像装置。
  8. 前記第1のフィルタ保持部材に保持されたフィルタを用いて撮像される分光画像と、前記第2のフィルタ保持部材に保持されたフィルタを用いて撮像される分光画像の位置合わせのために、前記分光画像に対し補正処理を施す調整部をさらに備え、
    前記調整部は、前記第1のフィルタを透過した光に基づく画像と前記第2のフィルタを透過した光に基づく画像との位置ずれに基づいて、前記分光画像に施す補正処理の補正量を決定する
    ことを特徴とする請求項1〜7のうちいずれか1項に記載のマルチバンド撮像装置。
  9. 前記第1のフィルタ保持部材に保持されたフィルタを用いて撮像される分光画像と、前記第2のフィルタ保持部材に保持されたフィルタを用いて撮像される分光画像の位置合わせのために、前記撮像センサと被写体の相対位置を調整する処理を実行する調整部をさらに備え、
    前記調整部は、前記第1のフィルタを透過した光に基づく画像と前記第2のフィルタを透過した光に基づく画像との位置ずれに基づいて、前記撮像センサと被写体の相対位置の調整量を決定する
    ことを特徴とする請求項1〜7のうちいずれか1項に記載のマルチバンド撮像装置。
  10. 光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置であって、
    複数のフィルタを有しており、
    前記複数のフィルタのそれぞれが、透過波長帯が互いに異なる第1の領域と第2の領域を有しており、
    前記複数のフィルタの第1の領域は、互いに透過波長帯が異なり、
    前記複数のフィルタの第2の領域は、互いに透過波長帯が等しい
    ことを特徴とするマルチバンド撮像装置。
  11. 前記フィルタの前記第1の領域は、分光画像を撮像するために用いられ、
    前記フィルタの前記第2の領域は、前記複数のフィルタそれぞれの前記第1の領域を用いて撮像される複数の分光画像のあいだの位置ずれの検出に用いる画像を撮像するために用いられる
    ことを特徴とする請求項10に記載のマルチバンド撮像装置。
  12. 前記第2の領域は、前記フィルタの周辺部に設けられている
    ことを特徴とする請求項10または11に記載のマルチバンド撮像装置。
  13. 前記フィルタは、被写体の共役面またはその近傍に挿入される
    ことを特徴とする請求項10〜12のうちいずれか1項に記載のマルチバンド撮像装置。
  14. 前記複数のフィルタそれぞれの前記第1の領域を用いて撮像される複数の分光画像の位置合わせのために、前記分光画像に対し補正処理を施す調整部をさらに備え、
    前記調整部は、前記複数のフィルタそれぞれの第2の領域を透過した光に基づく複数の画像の位置ずれに基づいて、前記分光画像に施す補正処理の補正量を決定する
    ことを特徴とする請求項10〜13のうちいずれか1項に記載のマルチバンド撮像装置。
  15. 前記複数のフィルタそれぞれの前記第1の領域を用いて撮像される複数の分光画像の位置合わせのために、前記撮像センサと被写体の相対位置を調整する処理を実行する調整部をさらに備え、
    前記調整部は、前記複数のフィルタそれぞれの第2の領域を透過した光に基づく画像の位置ずれに基づいて、前記撮像センサと被写体の相対位置の調整量を決定する
    ことを特徴とする請求項10〜13のうちいずれか1項に記載のマルチバンド撮像装置。
  16. 前記複数のフィルタが一つのフィルタ保持部材に保持されている
    ことを特徴とする請求項10〜15のうちいずれか1項に記載のマルチバンド撮像装置。
  17. 前記フィルタ保持部材は、フィルタホイールである
    ことを特徴とする請求項1〜9、16のうちいずれか1項に記載のマルチバンド撮像装置。
  18. 前記マルチバンド撮像装置は、顕微鏡装置である
    ことを特徴とする請求項1〜17のうちいずれか1項に記載のマルチバンド撮像装置。
  19. 光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置の制御方法であって、
    第1のフィルタ保持部材に保持された複数のフィルタを前記光路に一つずつ挿入して、
    前記撮像センサにより複数の画像のデータを撮像するステップと、
    前記第1のフィルタ保持部材から第2のフィルタ保持部材に交換するステップと、
    前記第2のフィルタ保持部材に保持された複数のフィルタを前記光路に一つずつ挿入して、前記撮像センサにより複数の画像のデータを撮像するステップと、
    前記第1のフィルタ保持部材に保持されたフィルタを用いて撮像された画像と、前記第2のフィルタ保持部材に保持されたフィルタを用いて撮像された画像のあいだの位置ずれを検出するステップと、を有し、
    前記第1のフィルタ保持部材に保持された第1のフィルタと透過波長帯が等しい第2のフィルタが、前記第2のフィルタ保持部材に設けられており、
    前記位置ずれは、前記第1のフィルタを透過した光に基づく画像と前記第2のフィルタを透過した光に基づく画像とを用いて検出される
    ことを特徴とするマルチバンド撮像装置の制御方法。
  20. 光源と撮像センサのあいだの光路に挿入するフィルタを切り換えることで、異なる波長帯に対応する複数の分光画像のデータを取得可能なマルチバンド撮像装置の制御方法であって、
    複数のフィルタを前記光路に一つずつ挿入して、前記撮像センサにより複数の画像のデータを撮像するステップと、
    前記複数のフィルタを用いて撮像された複数の画像のあいだの位置ずれを検出するステップと、を有し、
    前記複数のフィルタのそれぞれが、透過波長帯が互いに異なる第1の領域と第2の領域を有しており、
    前記複数のフィルタの第1の領域は、互いに透過波長帯が異なり、
    前記複数のフィルタの第2の領域は、互いに透過波長帯が等しく、
    前記位置ずれは、前記複数のフィルタそれぞれの第2の領域を透過した光に基づく複数の画像を用いて検出される
    ことを特徴とするマルチバンド撮像装置の制御方法。
JP2013080489A 2013-04-08 2013-04-08 マルチバンド撮像装置およびその制御方法 Pending JP2014202673A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013080489A JP2014202673A (ja) 2013-04-08 2013-04-08 マルチバンド撮像装置およびその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013080489A JP2014202673A (ja) 2013-04-08 2013-04-08 マルチバンド撮像装置およびその制御方法

Publications (1)

Publication Number Publication Date
JP2014202673A true JP2014202673A (ja) 2014-10-27

Family

ID=52353215

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013080489A Pending JP2014202673A (ja) 2013-04-08 2013-04-08 マルチバンド撮像装置およびその制御方法

Country Status (1)

Country Link
JP (1) JP2014202673A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104819941A (zh) * 2015-05-07 2015-08-05 武汉呵尔医疗科技发展有限公司 一种多波段光谱成像方法
CN112557326A (zh) * 2020-12-22 2021-03-26 西安鼎研科技股份有限公司 一种多轴差分吸收光谱仪测量装置及其工作方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104819941A (zh) * 2015-05-07 2015-08-05 武汉呵尔医疗科技发展有限公司 一种多波段光谱成像方法
CN104819941B (zh) * 2015-05-07 2017-10-13 武汉呵尔医疗科技发展有限公司 一种多波段光谱成像方法
CN112557326A (zh) * 2020-12-22 2021-03-26 西安鼎研科技股份有限公司 一种多轴差分吸收光谱仪测量装置及其工作方法

Similar Documents

Publication Publication Date Title
US8854448B2 (en) Image processing apparatus, image display system, and image processing method and program
JP5940383B2 (ja) 顕微鏡システム
US20130016885A1 (en) Image processing apparatus, imaging system, and image processing system
JP7146635B2 (ja) マルチスペクトル軌跡を使用するデジタル撮像のための自動合焦の方法およびシステム
US20170261741A1 (en) Image capturing device and method for image capturing
JP5911296B2 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP2010139890A (ja) 撮像装置
US20140333751A1 (en) Image processing apparatus and system, method for processing image, and program
US10200604B2 (en) Image processing apparatus, image processing program, image processing method, microscopic system
JP2013011856A (ja) 撮像システムおよびその制御方法
JP2011124948A (ja) 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置
JP2015026966A (ja) 画像処理装置、画像処理方法、顕微鏡システム及び画像処理プログラム
WO2013100029A1 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP2016051167A (ja) 画像取得装置およびその制御方法
JP5034927B2 (ja) 情報取得装置、情報取得方法および情報取得プログラム
Katz et al. Improved multi-resolution foveated laparoscope with real-time digital transverse chromatic correction
WO2013175816A1 (ja) 距離測定装置
JP2014202673A (ja) マルチバンド撮像装置およびその制御方法
JPWO2019203006A1 (ja) 内視鏡装置、内視鏡プロセッサ装置及び内視鏡画像表示方法
JP2016173511A (ja) 画像取得装置、及びそれを用いた画像取得方法
JP2013148856A (ja) 撮像装置、表示画面生成装置、撮像システム、及びその制御方法
JP5996462B2 (ja) 画像処理装置、顕微鏡システム及び画像処理方法
JP5149984B2 (ja) 撮像装置
WO2022107530A1 (ja) 信号処理装置と信号処理方法およびプログラム
JP2016206228A (ja) 合焦位置検出装置、合焦位置検出方法、撮像装置、撮像システム