具体实施方式
在以下说明中,陈述众多特定细节(例如,特定内窥镜系统、特定方法、特定操作次序、特定照明时序、特定滚动快门图像获取控制信号、特定复位-读出框、组件的特定集成/划分选项等)。然而,可在不具有这些特定细节的情况下实践实施例。在其它例子中,为避免使对本说明的理解模糊,未详细展示众所周知的电路、结构及技术。
图5是内窥镜视频图像获取系统515的实施例的框图。所述内窥镜视频图像获取系统包含内窥镜基站516、内窥镜探头517及用以连接或以其它方式耦合内窥镜探头与内窥镜基站的一个或一个以上连接器518。内窥镜探头及内窥镜基站可表示此项技术中已知的各种不同类型的内窥镜探头及内窥镜基站中的任一者。本发明的范围不限于任何已知类型的内窥镜探头或内窥镜基站。
内窥镜探头517通常可为经定大小及形状以经由此项技术中已知的各种方式插入到内窥镜检查的受试者中的相对小的装置。内窥镜探头包含将使用电滚动快门来获取图像的CMOS像素阵列502。在一些实施例中,CMOS像素阵列502可类似于或相同于图1的CMOS像素阵列102。或者,可使用不同CMOS像素阵列502。在一些实施例中,CMOS像素阵列502可具有类似于或相同于针对图2展示及描述的所述四晶体管(4T)像素的四晶体管(4T)像素。或者,可使用不同类型的像素。
内窥镜基站516通常可包含其中具有用以支持内窥镜探头的操作(包含与图像获取相关联的操作)的各种不同类型的组件的外壳或壳体。在一些实施例中,可包含于内窥镜基站中的不同类型的组件的实例包含但不限于电源供应器、时钟电路、控制电路、图像处理逻辑、任选光源(例如,一个或一个以上发光二极管(LED)、激光器、相干光源、灯具等)、一个或一个以上存储器、一个或一个以上处理器等。本发明的范围不限于任何特定已知组的组件。连接器(例如,举例来说,一个或一个以上柔性电缆)可在内窥镜基站的连接器接口519与内窥镜探头的连接器接口520之间连接及断开。连接器可装纳电线或其它电发信路径及光纤或其它光学发信路径。
内窥镜探头517可用于内窥镜检查的受试者(例如,患者)内部的黑暗环境521中。在各种不同实施例中,内窥镜探头可经由原生人体孔口或开口(例如,喉咙、鼻子、肛门等)、经由到体腔或内腔中的人造开口插入到患者中(例如,经由到胸部、其它体腔、血管等中的外科手术开口插入)。患者内的此些区域表示黑暗环境,其中通常不存在自然或周围光或者自然或周围光至少不足以获取有意义图像(例如,所获取图像将通常太暗及/或具有不充分质量而不能实际上用于诊断或检查)。如所展示,在一些实施例中,内窥镜基站可具有光源522以向内窥镜探头提供光以帮助照明黑暗环境。或者,可使用与内窥镜基站分离的光源(图5中未展示)。作为一个实例,可使用内窥镜探头内的光源(例如,一个或一个以上发光装置)。作为另一实例,可使用不在内窥镜基站的外壳或壳体内的独立分离光源。通常,除了由光源提供的光以外,患者内部的黑暗环境521中的仅有自然或周围光通常为可经由孔口或外科手术开口从患者停留的外部环境进入的非常少量的光。
一旦插入到患者中,内窥镜探头即可在患者内巡览、前进或以其它方式移动。举例来说,内窥镜探头可在患者内朝向所要目的地(例如,待检查及/或治疗的区域、路径或解剖特征)移动。当内窥镜探头在患者内移动时,可借助内窥镜探头的CMOS像素阵列502获取视频图像序列。在不具有限制的情况下,所述视频图像可潜在地用以帮助使内窥镜探头巡览或前进。此外,所述视频图像还可潜在地用于医学检查或诊断。在任何情形中,所述视频图像具有充分高的质量且无显著图像假影或失真通常为合意的。
如先前所提及,CMOS像素阵列将使用电滚动快门来获取视频图像。一个挑战为当在CMOS像素阵列与正成像的对象或环境之间存在相对移动时(例如,当CMOS像素阵列正在相对固定患者内移动时)可能将图像假影或失真引入到通过使用电滚动快门获取的视频图像中。失真及/或假影往往在很大程度上由于不同行的像素根据电滚动快门在不同时间积分而发生。所述移动发生在不同行的像素在给定图像帧内积分所跨的时间期间。举例来说,CMOS像素阵列可在第一行像素光生且积累电荷的时间与最后一行像素光生且积累电荷的时间(在同一图像帧内)之间相对于正成像的通常固定对象移动以使得所述第一行像素及所述最后一行像素可在对象位于不同位置处时将在运动中的对象成像。此可致使在图像中出现图像假影或失真。
图6是概念地图解说明可在使用电滚动快门的移动的CMOS像素阵列602获取固定对象621的图像623时产生的图像失真的实例的框图。CMOS像素阵列602正相对于固定对象621从左向右移动。或者说,相对于CMOS像素阵列602,对象621可视为从右向左“移动”。所图解说明的固定对象621为圆圈。借助使用电滚动快门的移动的CMOS像素阵列获取的图像具有所述圆圈的失真表示。如所展示,所述圆圈的失真表示为卵形624。所述卵形的顶部在CMOS像素阵列的移动方向上偏斜或倾斜。或者说,所述卵形的底部在对象621相对于CMOS像素阵列602的“移动”方向上偏斜或倾斜。如所提及,此图像失真主要由于在正发生移动时CMOS像素阵列的若干行像素在不同时间积分导致。
用以避免或至少减小此些图像失真的一种方式为使用电全局快门。在电全局快门中,像素阵列的所有行的像素将同时积分(例如,所有行同时开始积分且所有行同时结束积分)而非像在电滚动快门中一样按顺序逐行积分。在电全局快门中,像素阵列与正成像的对象之间的相对移动将不产生图6中所展示的类型的图像失真。电全局快门为电荷耦合装置(CCD)像素阵列共用的且还可实施于CMOS像素阵列中。然而,在CMOS像素阵列中实施电全局快门往往具有特定缺陷。首先,通常在CMOS像素阵列的每一像素中并入一个或一个以上额外晶体管以便帮助实施电全局快门。举例来说,每一CMOS图像传感器像素可包含:复位晶体管,其接收全局复位信号以将所有光电检测器同时复位以确保所有像素同时开始积分;及存储晶体管,其用以将光电荷从光电检测器同时传送到浮动扩散部且保持所述电荷直到其稍后被读出。此些额外晶体管往往增加CMOS像素阵列的大小,此尤其对于各种内窥镜应用通常为不合意的。此外,这些额外晶体管还往往增加CMOS像素阵列的总体制造成本。
再次参考图5,内窥镜基站516包含可操作以借助具有电滚动快门的CMOS像素阵列502获取全局快门型视频图像的设备525。如本文中所使用,全局快门型视频图像为借助在同一时间周期同时积分的CMOS像素阵列的所有或至少绝大多数行的像素产生的图像。如本文中所使用,CMOS像素阵列的至少绝大多数行的像素意指CMOS像素阵列的至少90%行的像素。
如所展示,所述设备及/或内窥镜基站可经由连接器向CMOS像素阵列及/或内窥镜探头提供视频图像获取控制信号526的实施例以致使CMOS像素阵列及/或内窥镜探头获取全局快门型视频图像。在一些实施例中,视频图像获取控制信号526可包含电滚动快门视频图像获取控制信号。举例来说,在一些实施例中,每一视频图像的信号可为可操作的以将CMOS像素阵列的每一行像素从第一行到最后一行按顺序且一次一行地复位,且从第一行到最后一行按顺序且一次一行读取CMOS像素阵列的每一行像素。在一些实施例中,所述信号可在每一对连续视频图像之间界定垂直消隐周期,所述垂直消隐周期在时间上发生在读取先前视频图像的最后一行像素与读取后续视频图像的第一行像素之间。在一些实施例中,视频图像获取控制信号如此以使得在每一视频图像帧内,最后一行的复位经控制以在读取第一行之前执行。
如所展示,设备525还可向光源522提供光选通控制527。或者,可向如先前所描述的位于内窥镜基站外部的光源(例如,在内窥镜探头内或作为内窥镜基站壳体/外壳外部的分离独立光源)提供光选通控制。所述光选通控制可控制光源提供经选通光528以照明患者内部的黑暗环境521。如本文中所使用,经选通光指间歇地接通及关断或连续多次或许多次打开或调暗的光。在一些实施例中,经选通光仅在发生在顺序视频图像帧之间的每一垂直消隐周期的至少一部分期间接通或打开,且在正读出若干行像素时的时间周期期间在视频图像帧中的每一者内关断或调暗。举例来说,在一对顺序视频图像帧内,经选通光可在较早视频图像帧期间在读取/读出第一行与最后一行像素之间关断,可在稍后视频图像帧期间在读取/读出第一行与最后一行像素之间关断,且可在读取/读出较早视频图像帧的最后一行像素与读取/读出稍后视频图像帧的第一行像素之间的垂直消隐周期的至少一部分期间接通。
如下文将进一步解释,经选通光528与患者内部的原本黑暗环境521一起可有效地致使或导致CMOS像素阵列502的所有或至少绝大多数行的像素在同一时间周期同时积分,甚至在电滚动快门正用于图像获取时也如此以允许获取全局快门型视频图像。有利地,此可帮助消除或至少减小原本将往往由于CMOS像素阵列与正成像的对象或物体之间的相对移动而发生的图像假影或失真的量。如所展示,具有减小的失真的图像数据529可从内窥镜探头提供到内窥镜基站。
图7是借助具有使用电滚动快门的CMOS像素阵列的内窥镜探头获取全局快门型视频图像的方法730的实施例的框流程图。在框731处,将具有将使用电滚动快门的CMOS像素阵列的内窥镜探头插入到患者中。在框732处,使内窥镜探头在患者内移动。在框733处,在使内窥镜探头在患者内移动时使用电滚动快门借助CMOS像素阵列获取视频图像序列。在框734处,选通来自光源的光以使得所述光在连续视频图像之间的每一垂直消隐周期的至少一部分期间接通且在每一视频图像内在读出CMOS像素阵列的若干行像素时关断。尽管按顺序展示,但框733及734可同时或并行实施以借助具有使用电滚动快门的CMOS像素阵列的内窥镜探头获取全局快门型视频图像。
图8是图解说明在黑暗环境835中借助使用电滚动快门的CMOS像素阵列获取全局快门型视频图像序列的实施例的框图。在第一视频图像帧835-1内:(1)关断(或调暗)光源;(2)由于环境黑暗,因此不发生(或非常少)电荷产生或积累;及(3)从顶部到底部逐行发生紧接前一垂直消隐周期(未展示)期间由CMOS像素阵列积累的电荷的读出。在第一垂直消隐周期836-1(其在第一视频图像帧之后)内:(4)在第一垂直消隐周期的至少一部分内接通(或打开)光源;及(5)在接通光源时产生(或大量产生)并积累光电荷。
在第二视频图像帧835-2(其在第一垂直消隐周期之后)内:(6)再次关断(或调暗)光源;(7)由于环境黑暗,因此不发生(或非常少)电荷产生或积累;及(8)从顶部到底部逐行发生紧接前一第一垂直消隐周期836-1期间由CMOS像素阵列积累的电荷的读出。在第二垂直消隐周期836-2(其在第二视频图像帧之后)内:(9)在第二垂直消隐周期的至少一部分内再次接通(或打开)光源;及(10)在接通光源时产生(或大量产生)并积累光电荷。后续视频图像帧(未展示)可读出在第二垂直消隐周期期间积累的电荷。较早及后续视频图像帧及其相关联垂直消隐周期可类似于所展示的视频图像帧及其相关联垂直消隐周期。
图9是展示在黑暗环境中借助使用电滚动快门的CMOS像素阵列获取全局快门型视频图像序列的方法937的另一实施例的框流程图。在框938处,将CMOS像素阵列引入到黑暗环境中。在一些实施例中,可将具有CMOS像素阵列的内窥镜探头插入到患者中。或者,在其它实施例中,可将具有CMOS像素阵列的内孔径表面检查仪、液压清管器(hydraulic pig)或其它检验装置插入到发动机、管、管道或某一其它黑暗环境中。在一些实施例中,黑暗环境大致不具有周围光(例如,不足以获取具有充分质量以实际上有用的图像的周围光量)。在一些实施例中,黑暗环境具有如由小于1尼特(坎德拉/平方米)的照度值指示的黑暗值。甚至更黑暗环境可具有大致较低照度值(举例来说,10-4尼特)。
在框939到942处,借助使用电滚动快门的CMOS像素阵列获取黑暗环境的视频图像帧。在框939处,在第一视频图像帧期间,将CMOS像素阵列的每一行像素从第一行到最后一行按顺序且一次一行地复位。通常在CMOS像素阵列的最后一行的复位之后的某一时间,积分发生。更多细节参见下文框941以及图10及11。接着从第一行到最后一行按顺序且一次一行地读出CMOS像素阵列的每一行像素。在CMOS像素阵列的第一行的读出之前的某一时间,积分结束。更多细节参见下文框942以及图10及11。在一些实施例中,在第一图像帧期间的第一行的读取之前执行第一图像帧期间的最后一行的复位。
在框940处,在第二视频图像帧期间,将CMOS像素阵列的每一行像素从第一行到最后一行按顺序且一次一行地复位。类似于上文框939,在CMOS像素阵列的最后一行的复位之后的某一时间,积分发生。接着从第一行到最后一行按顺序且一次一行地读取CMOS像素阵列的每一行像素。类似于上文框939,在CMOS像素阵列的第一行的读出之前的某一时间,积分结束。在一些实施例中,在第一图像帧期间的第一行的读取之前执行第一图像帧期间的最后一行的复位。
在框941处,控制光源以在垂直消隐周期的至少一部分期间大致照明原本黑暗环境。垂直消隐周期为第一视频图像帧期间的最后一行像素的读取与第二视频图像帧期间的第一行像素的读取之间的周期。举例来说,在一些实施例中,大致照明可包含开启(或打开)光源(例如,开启或打开到一个或一个以上LED、一个或一个以上激光器、一个或一个以上相干光源、一个或一个以上灯具、一个或一个以上灯泡或一个或一个以上其它发光装置的电力)。或者,在其它实施例中,替代开启光源,可打开快门以允许光通过到黑暗环境,光可被反射、转向、引导或以其它方式机械及/或电地控制以引入到黑暗环境中。大致照明环境意指提供比在大致不照明所述环境时的照度大至少五倍的照度。举例来说,当大致照明环境时,所提供的照度比在大致不照明所述环境时的照度大10到100倍。在大致照明环境的另一实施例中,光源可提供大约10到50流明(坎德拉/球面度)的光功率(即,光通量)。
在框942处,控制光源以在第一视频图像帧期间的第一行像素的读取与最后一行像素的读取之间及在第二视频图像帧期间的第一行像素的读取与最后一行像素的读取之间大致不照明黑暗环境。举例来说,在一些实施例中,此可包含开启或关小光源。或者,在其它实施例中,可关闭快门以阻挡光通过到黑暗环境,光可被反射、转向或引导远离黑暗环境,或以其它方式机械及/或电控制以不引入到黑暗环境中。
尽管框939、940、941及942展示为连续的,但应了解,框941可通常在框939与940之间发生但有可能部分地与框939及940同时发生。此外,框942可通常与框939及940同时发生。
在一些实施例中,框941及942可包含控制光源以提供经选通光。经选通光可仅在顺序垂直消隐周期内大致照明原本黑暗环境,但在垂直消隐周期之间的若干行像素的读出期间的视频图像帧内大致不照明黑暗环境。
在一些实施例中,借助来自光源的光的大致照明仅在垂直消隐周期中的每一者(或至少一些垂直消隐周期)的至少一部分期间发生。为了图解说明,下文将详细描述两种不同可能照明方案。首先将描述“照明方案A”实施例且接着下文将稍后描述“照明方案B”实施例。
图10是连续视频图像帧的复位-读出框的框图,其图解说明其中借助来自光源的光的大致照明潜在地在整个垂直消隐周期1036内及/或潜在地在所述垂直消隐周期的任何部分内发生的“照明方案A”实施例。大致照明紧接在垂直消隐周期开始之后或在其之后的某一时间(例如,紧接在于较早视频图像帧中读出最后一行像素之后或在其之后的某一时间)开始,且在垂直消隐周期结束时或在其之前的某一时间(例如,在于稍后视频图像帧期间读出第一行像素时或在其之前的某一时间)结束。
如图10的左侧上所展示,在下指垂直轴上从顶部到底部绘制时间的推进。展示第一较早视频图像帧的第一复位-读出框1035-1及第二稍后视频图像帧的第二复位-读出框1035-2。所述复位-读出框中的每一者具有平行四边形的形状。每一平行四边形的垂直左侧表示复位线1045。每一复位线通过将第一行R1(在平行四边形的顶部左拐角处)到最后一行Ry(在平行四边形的底部左拐角处)复位而定界。将中间行在第一行与最后一行之间按顺序逐行或逐个复位。每一平行四边形的垂直右侧表示读出线1046。每一读出线通过第一行R1的读出(在平行四边形的顶部右拐角处)到最后一行Ry的读出(在平行四边形的底部右拐角处)而定界。在第一行与最后一行之间按顺序逐行或逐个读出中间行。在随后在预定稍后时间读出每一行之前将每一行复位,其中积分发生在复位之后且在读出之前。从行R1到Ry进行复位通常花费与从行R1到Ry读出相同的时间量。
如图10(复位-读出框1035)中所展示,在一些实施例中,每一视频图像帧的第一行R1的读出在所述视频图像帧内的最后一行Ry的复位之后开始(即,水平地在下方)。此与如图4中所展示的现有技术复位-读出框410不同。往回参考图4的复位-读出框,第一行R1的读出(在复位-读出框410平行四边形的顶部右拐角处)在最后一行Ry的复位(在复位-读出框410平行四边形的下方左拐角处)之前充分开始。图4中所展示的复位-读出方案减小复位-读出框410的垂直长度,且完成以便减小获取图像帧及/或实现高视频图像帧速率所需的时间总量,此通常为合意的。然而,如图10及11中所展示,在一些实施例中,在于每一视频图像帧内读出第一行R1之前将同一视频图像帧的最后一行Ry复位提供以下潜在优点:已将所有或至少绝大多数行的像素复位且借助经选通照明光使其准备好在读出开始之前在相同的时间周期内开始积分,如本文中所揭示。此积分时序产生大致全局快门型效应,此可为合意的,这是因为其大致克服由CMOS像素阵列与正成像的对象之间的相对运动导致的图像失真。
应注意,在图10中,与图4的复位-读出框相比,复位-读出框1035具有经延长积分周期,即,将给定行复位直到读出同一给定行之间的周期(复位-读出框1035平行四边形的顶部左拐角与顶部右拐角之间的垂直距离)。在视觉上,图10中的具有经延长积分周期的复位-读出框1035似乎比图4中的具有较少延长的积分周期的复位-读出框410在垂直方向上更伸长。经延长积分周期可通过以下方式实现:在读出给定行(针对第一图像帧)之后立即或相对迅速地将所述给定行(针对第二图像帧)复位,以使得所述给定行的读出到复位时间相对小。通常,给定行的给定成像循环(从在当前成像帧中将给定行复位直到在下一成像帧中再次将同一给定行复位)具有固定持续时间。此固定持续时间为复位到读出时间周期(例如,复位-读出框1035-1平行四边形的顶部左拐角与顶部右拐角之间的第一垂直距离)与读出到复位时间周期(复位-读出框1035-1平行四边形的顶部右拐角与复位-读出框1035-2平行四边形的顶部左拐角之间的第二垂直距离)的和。减小或最小化读出到复位时间周期(第二垂直距离)帮助增加或最大化复位到读出时间周期(第一垂直距离)。换句话说,增加或最大化积分时间。在一些实施例中,在针对第一图像帧读出第一行像素之后,将在充分短以便读出CMOS像素阵列的不超过约初始5%行的像素的时间周期内针对第二图像帧将同一第一行像素复位。此帮助延长复位到读出积分周期。然而,在其它实施例中,不需要此些经延长复位到读出积分周期。
在“照明方案A”实施例中,借助来自光源的光的照明潜在地在整个垂直消隐周期1036内及/或潜在地在所述垂直消隐周期的任何部分内发生。在此方案中,借助来自光源的光的照明不延伸于垂直消隐周期之外。举例来说,所述照明不在边界视频图像帧中的任一者中的行R1到Ry像素的读出期间发生。如所展示,在边界视频图像帧的读出线(即,两个平行四边形1035的右边线)的持续时间内,存在不具有来自光源的照明的黑暗环境1047。相比来说,在图4中,贯通整个读出线413,存在恒定/持续照明407(如向下带箭头的线407所表示)。
显著地,在同一图像帧内的复位与随后读出之间,若干行像素能够积分。然而,由于黑暗环境,因此不存在用于积分的光(或对于任何有意义积分量至少不充分的光)。仅在光源经控制以在垂直消隐周期期间大致照明时,将发生任何有效积分或至少绝大多数有效积分。换句话说,在实际照明周期之外,即使时间周期仍能够照明,但由于不存在灯光照明或不充分灯光照明仍将不存在有效积分。因此,如图10及稍后图11中所展示,对于使用电滚动快门操作的CMOS图像传感器,仍可获得全局快门型图像,这是因为所有或绝大多数像素在同一时间周期同时有效地积分(例如,所述有效积分在光源经控制以提供大致照明时开始且在光源经控制以不提供大致照明时有效地停止)。
应注意,第二视频图像帧的复位-读出框1035-2中的最后一行Ry的复位(平行四边形1035-2的下方左拐角)在垂直消隐周期1036内发生。换句话说,在垂直消隐周期开始之后,且在借助来自受控光源的光的照明在“照明方案A”实施例中潜在地开始之后,将最后一行像素Ry复位以清除光电检测器以用于后续光电荷产生。在一些实施例中,除将最后一行像素Ry复位以外,还可在垂直消隐周期内将最后一行Ry正上方的达到约10%的其它行的像素的任何地方潜在地复位,此取决于实施例的电滚动快门信号的特定时序。换句话说,在垂直消隐周期开始之后,通常不将至少前90%行像素复位。因此,最后一行Ry(及潜在地最后一行像素正上方的达到约10%的其它行)具有比在大致照明开始之后未复位的第一行像素下方的约90%的其它行少的有效积分时间。此将致使某一图像失真,但其通常不致使过度图像失真,这是因为通常积分周期往往相当类似,且因为通常仅最后一行像素上方的小的百分比(例如,通常达到约10%)的其它行无论如何具有较短积分周期。通常,一行像素在于先前帧中读出之后在后续帧中复位得越迅速,积分时间的差异将越小。如果期望,那么可使用如下文所揭示的“照明方案B”实施例来避免“照明方案A”中的如上文所揭示的此积分时间差异。
图11是连续视频图像帧的复位-读出框的框图,其图解说明其中借助来自光源的光的照明潜在地在整个垂直消隐周期1136内及/或潜在地在所述垂直消隐周期的仅复位后部分1148的任何部分发生的“照明方案B”实施例。终端消隐周期1136的复位后部分1148在于垂直消隐周期1136开始之后进行的第一视频图像帧1135-1中的最后一行像素Ry的复位之后发生。
在图11中,展示第一较早视频图像帧的第一复位-读出框1135-1及第二稍后视频图像帧的第二复位-读出框1135-2。在“照明方案B”实施例中,借助来自光源的光的照明紧接在于垂直消隐周期1136开始之后的视频图像帧的第二复位-读出框1135-2中将最后一行像素Ry复位之后或在其之后的某一时间开始,且所述照明在垂直消隐周期1136结束时或在其结束之前的某一时间(例如,在于垂直消隐周期之后的第二视频图像帧的第二复位-读出框1135-2期间读出第一行像素时或在其之前的某一时间)结束。应注意,在“照明方案B”实施例中,借助来自光源的光的照明经约束以仅在第二复位-读出框1135-2中的最后一行Ry的复位时或在其之后在垂直消隐周期1136的复位后部分1148发生。因此,与“照明方案A”实施例相比,“照明方案B”实施例潜在地具有稍微少的积分时间,这是因为垂直消隐周期的开始(从图11的右侧处的顶部的第二虚线)与最后一行像素Ry的复位(从图11的右侧处的顶部的第三虚线)之间的黑暗环境1147的下部部分占据垂直消隐周期1136的初始上部部分。
由于在“照明方案B”实施例中,照明在将最后一行像素Ry复位时或在其之后开始,因此像素阵列的所有行的像素具有相同积分周期。此可帮助提供稍微较不失真的视频图像。没有任何一行像素(例如,包含最后一行像素Ry)在比其它行像素短的时间周期内积分。而是,所有行的像素均在相同时间周期内积分。从上文内容回忆,此可并非“照明方案A”实施例中的最后一组达到约10%行的像素的情形。因此,“照明方案B”实施例可比“照明方案A”实施例提供在某种程度上更准确或较不失真的图像。但在于前一帧中读取每一行像素之后非常迅速地在后续帧中将其复位时,对于几乎所有行的像素,“照明方案A”实施例可非常紧密接近“照明方案B”实施例的准确度。在此些情形中,“照明方案A”实施例可通过允许仅基于读出信号(例如,第一图像帧的最后一行Ry的读出信号及第二图像帧的第一行R1的读出信号,如图10中所展示)协调照明而提供优于“照明方案B”实施例的优点。相比来说,第二图像帧的最后一行Ry的复位信号及第二图像帧的第一行R1的读出信号两者均可用以协调“照明方案B实施例”的照明,如图11中所展示。
为了简化,上文已详细描述几个实例性照明方案实施例。还预期其它照明方案实施例。举例来说,其它照明方案实施例可任选地在垂直消隐周期结束之前结束。作为另一实例,其它照明方案实施例可使用不与复位及读出线的时序严格联系的仅垂直消隐周期的中心部分。作为又一实例,其它照明方案实施例可在垂直消隐周期之外延伸一点以便将某一图像失真与增加的积分时间折衷。所属领域的技术人员及受益于本发明者应了解又一些实施例。
图12是可操作以借助将使用电滚动快门的CMOS像素阵列获取全局快门型视频图像的视频图像获取系统1250的实施例的框图。视频图像获取系统1250包含将使用电滚动快门的CMOS像素阵列1202。CMOS像素阵列支持系统1251与CMOS像素阵列1202耦合且可操作以支持所述CMOS像素阵列。在一些实施例中,视频图像获取系统1251可表示内窥镜视频图像获取系统,但本发明的范围不限于此。举例来说,所述视频图像获取系统可表示图5的内窥镜视频图像获取系统515或完全不同的视频图像获取系统。
CMOS像素阵列支持系统1251包含可操作以借助使用电滚动快门的CMOS像素阵列获取全局快门型图像的设备1225。设备1225包含时钟单元1252。所述时钟单元包含时钟信号产生器1253。所述时钟单元可操作以向CMOS像素阵列提供时钟信号1208。设备1225还包含视频图像获取控制单元1254。所述视频图像获取控制单元可操作以向CMOS像素阵列提供电滚动快门视频图像获取控制信号1226以控制CMOS像素阵列以使用电滚动快门获取视频图像。用于每一视频图像的信号可操作以将CMOS像素阵列的每一行像素从第一行到最后一行按顺序且一次一行地复位,且接着从第一行到最后一行按顺序且一次一行地读取CMOS像素阵列的每一行像素。在一些实施例中,所述信号使得给定图像帧的最后一行的复位将在读取给定图像帧的第一行之前执行。所述信号在每一对连续视频图像之间界定前一视频图像帧的最后一行像素的读取与后续视频图像帧的第一行像素的读出之间的垂直消隐周期。视频图像获取控制单元与时钟单元耦合。在一些实施例中,所述信号可为可操作的以产生图10及/或图11的复位-读出框。或者,所述信号可为可操作的以产生不同复位-读出框。视频图像获取控制单元可以硬件(例如,电路)、软件、固件或其组合实施。
设备1225还包含光选通控制单元1256。光选通控制单元1256与光源1222、视频图像获取控制单元1254及时钟单元1252耦合。光选通控制单元1256可操作以向光源1222提供光选通控制信号以控制光源以向CMOS像素阵列提供经选通光1228。在一些实施例中,光选通控制单元可为可操作的以控制光源以在垂直消隐周期中的每一者的至少一部分期间提供大致光,且控制光源以在(1)垂直消隐周期之前的先前视频图像帧期间的第一行与最后一行像素的读出之间及(2)垂直消隐周期之后的后续视频图像帧期间的第一行与最后一行像素的读出之间不提供大致光。光选通控制单元可以硬件(例如,电路)、软件、固件或其组合实施。
如所展示,在一些实施例中,光源1222具有接通/关断控制件1255以允许光源通过光选通控制信号连续多次或许多次接通及关断以便提供经选通光。在一些实施例中,接通/关断控制件可开启及关闭LED、激光器、灯具、灯泡或光源的其它发光装置。或者,来自光源的光可被阻挡/不阻挡、反射/不反射、转向/不转向或以其它方式提供/不提供。如下文将进一步提及,在一些实施例中,光选通控制单元还可包含光强度控制单元(未展示)以控制由光源提供的光的强度(例如,打开或调暗),但此并非要求。此外,在其它实施例中,光源可不包含于如先前所描述的CMOS像素阵列支持系统中。
视频图像获取控制单元1254、时钟单元1252及光选通控制单元1256可协调经选通光1228、电滚动快门视频图像获取控制信号1226及时钟信号1208,以使得照明仅在垂直消隐周期内发生。在一些实施例中,光选通控制单元1256基于来自视频图像获取控制单元1254及/或时钟单元1252的信息产生光选通控制信号。在一些实施例中,光选通控制信号相对于电滚动快门视频图像获取控制信号1226及/或时钟信号1208定时。在一个实施例中,例如在图像传感器相对小时,可针对控制及时钟信号两者以多任务方式使用一些垫,但此并非要求。
CMOS像素阵列支持系统1251还包含图像处理单元1257。所述图像处理单元可为大致常规的且可以不限制本发明的范围的各种常规方式中的任一者处理从图像传感器接收的图像数据信号。还展示任选图像呈现装置1258。所述图像呈现装置可向用户呈现来自图像处理单元的图像。适合图像呈现装置的实例包含但不限于显示装置、打印机、传真机及此项技术中已知的其它图像呈现装置。或者,替代呈现给用户,可存储(例如,在存储器中)或以其它方式保留图像。
图13是具有自动曝光控制单元1360的视频图像获取系统的一部分1350的实施例的框图。在各种实施例中,部分1350可包含于图5的内窥镜视频图像获取系统515、图12的视频图像获取系统1250或不同视频图像获取系统中。
视频图像获取系统的部分1350包含图像处理单元1357。所述图像处理单元可接收图像数据信号106(例如,来自CMOS像素阵列102或图1的图像传感器101)。所述图像处理单元可处理图像数据信号。处理图像数据信号的常规方式为适合的。
自动曝光控制单元1360可从图像处理单元1357接收处理后图像数据1306。在所图解说明的实施例中,自动曝光控制单元1360展示为光选通控制单元1356的部件。或者,自动曝光控制单元可与光选通控制单元分离。自动曝光控制单元可操作以至少部分地基于处理后图像数据1306自动地或自主地控制及调整由光源1322提供的光照明的量。在一些实施例中,自动曝光控制单元可基于来自已获取图像数据的信息提供反馈控制。在其它实施例中,自动曝光控制单元可提供前馈控制。在又一些实施例中,自动曝光控制单元可提供反馈及前馈控制两者或其它类型的控制。有利地,此自动曝光控制单元可通过调整光照明的量而帮助改进通过视频图像获取系统获取的图像的质量以使得所述图像具有适当亮度等。
自动曝光控制单元1360包含图像分析单元1361。图像分析单元1361可操作以分析所接收图像数据1306。在一些实施例中,所述分析可包含分析图像数据的取决于曝光量的曝光相依特征。适合曝光相依特征的几个实例包含但不限于平均亮度、亮度分布、亮度直方图等。所属领域的技术人员及受益于本发明者应了解,还可使用或替代地使用允许确定图像是否具有适当亮度的各种其它特征。在一些实施例中,图像分析单元及/或自动曝光控制单元可包含预定标准曝光量,且可为可操作的以比较此预定标准曝光量与从所接收图像数据获得的曝光量。通过举例的方式,预先存在的标准曝光量可表示预定所要曝光量(例如,图像的所要平均或最小亮度)。
自动曝光控制单元1360可控制光源1322以基于图像数据1306的分析调整光照明量。一般来说,CMOS像素阵列在黑暗环境中的曝光量或照明量主要取决于:(1)由光源提供的光的强度;及(2)由光源提供的光的持续时间。举例来说,曝光量或照明量可与光强度乘以光的持续时间的乘机接近。在一些实施例中,由光源提供的光强度及/或光的持续时间中的任一者或两者可经调整以便调整照明或曝光量,如下文所进一步揭示。
如所展示,在一些实施例中,自动曝光控制单元包含:光强度控制单元1362,其可操作以在目前图像帧之后的图像帧的垂直消隐周期期间控制来自受控光源的光的强度的调整;及光持续时间控制单元1363,其可操作以在目前图像帧之后的图像帧的垂直消隐周期期间控制来自受控光源的光的持续时间的调整。在其它实施例中,自动曝光控制单元可包含这些单元中的任一者但不包含两者。
在一些实施例中,光的持续时间可由光持续时间控制单元1363控制,所述光持续时间控制单元施加对光源1322的接通/关断控制件1355的控制,但此并非要求。在一些实施例中,光持续时间控制单元1363可与光选通控制单元1356通信以使光选通控制单元控制接通/关断控制件。在一些实施例中,可改变(例如,增加或减少)垂直消隐周期的持续时间。光持续时间控制单元还可与视频图像获取控制单元1354及/或时钟单元1352通信或发信以协调时序。
在一些实施例中,为减小来自受控光源1322的光的持续时间,可将持续光持续时间周期分解成一系列较短光持续时间周期。图15展示两种照明模式。图15的左侧处的照明模式1501的光持续时间周期1510为持续的。为减小光的持续时间,替代提供持续光,光持续时间控制单元1363可控制光源1322以提供呈一系列脉冲1530的光,展示为图15的右侧处的照明模式1502。模式1502的所得光持续时间周期1520含有比模式1501的光持续时间周期1510少的照明时间。黑暗持续时间1540及1550针对两种照明模式大致相同。
再次参考图13,在一些实施例中,光强度可由控制光源1322的强度控制件1364的光强度控制单元1363控制。通过举例的方式,此可涉及改变电压、电流、电力、其组合或到光源的其它电输入。
为进一步图解说明特定概念,考虑几个说明性实例。在一个实例中,如果图像数据指示图像是所期望的约一半明亮,那么可将光强度控制为针对后续图像帧约两倍大。作为另一实例,如果图像数据指示图像是所期望的约一半明亮,那么可将光的持续时间控制为针对后续图像帧约两倍长。在其它实例中,可共同改变持续时间及强度两者以实现所要亮度。作为又一实例,如果亮度充分接近所要亮度,但视频图像如图像分析单元所分析太不连贯,那么可增加帧速率。减少帧速率通常还减少垂直消隐周期,此在一些情形中可减少曝光或照明的持续时间。如果此为所述实施例的情形,那么可增加光强度以计及曝光持续时间的减少以使得曝光量保持大约相同。
图14图解说明常规、规则、未延长的垂直消隐周期1465的实施例及经延长垂直消隐周期1436的实施例两者。图14中还揭示用于通过在经延长垂直消隐周期中的每一者的至少一部分期间将时钟信号1408保持为高(即,在恒定电平下)而延长经延长垂直消隐周期的方法的实施例。经延长垂直消隐周期具有在时间上比规则、未延长的垂直消隐周期长的持续时间。在各种实例性实施例中,经延长垂直消隐周期比规则、未延长的垂直消隐周期长至少110%、至少120%、至少150%、至少200%或甚至更长。
常规未延长的垂直消隐周期的时钟信号在整个时间周期内以相同时钟循环速率在高与低电平之间持续地切换。相比来说,经延长垂直消隐周期的时钟信号不在所展示的整个时间周期内以相同时钟循环速率在高与低电平之间持续地切换。而是,在垂直消隐周期的至少一部分期间,将时钟信号保持于恒定电平下(在此情形中,高电平)达对应于多个时钟循环的时间周期。此延长垂直消隐周期。在所图解说明的实施例中,将时钟信号保持为高,但可替代地将时钟信号保持为低。将时钟信号保持于恒定电平下有效地停止时钟且延长垂直消隐周期达时钟信号保持恒定的持续时间。在一些实施例中,除延长垂直消隐周期以外,还可相当地减小帧速率。在一个特定实例性实施例中,未延长的垂直消隐周期可在具有大约30帧/秒的视频序列中为大约30ms,而经延长垂直消隐周期可在具有大约15帧/秒(即,大约一半帧速率)的视频序列中为大约60ms(即,大约两倍长)。
图16A及16B是根据本发明的实施例的包含图像传感器1620的内窥镜1600的图示。内窥镜尖端1605用于通常插入到内窥镜检查的受试者的腔中以提供成像数据。在图16A中,图像传感器1620安置于内窥镜尖端1605上。图16A还图解说明经由四个端子1635耦合到图像传感器1620的主机控制器1630。图像传感器1620可包含CMOS像素阵列以使用电滚动快门,如上文所揭示的分别在图5及12中的CMOS像素阵列502及1202。主机控制器1630可为先前所论述的控制器中的任一者,包含图5中的内窥镜基站516以及图12中的设备1225及单元1251。
图16B是包含灯1610以及附件1615及1625的内窥镜尖端1605的前视图。内窥镜尖端1605可用于医学领域或其它领域中。附件1615及1625可包含吸引或钳子工具。图像传感器1620上所包含的端子1635的数目的减小可允许图像传感器1620的总体大小减小,且继而内窥镜尖端1605的总体大小可减小。另外,减小的大小的图像传感器1620可允许改进、较大或额外附件装配于内窥镜尖端1605内。这些改进中的任一者可增加借助内窥镜执行的动作(例如外科手术)的成功率。
图16C是包含图像传感器1620及灯1612的内窥镜尖端1607的俯视图。此为用于诊断目的的类型的内窥镜,因此其包含相对大的灯光照明区。在此实施例中,四个LED灯1612环绕图像传感器1620。在图16D中所展示的另一实施例中,围绕内窥镜尖端1609的图像传感器1620的区被众多光纤1614占据,所述光纤用以在内窥镜尖端1609处提供灯光照明。
已连同内窥镜视频成像系统描述实施例。然而,本发明的范围不限于此。其它实施例适于内孔径表面检查仪、液压清管器、其它监视探头及用于发动机、工业、管线及其它应用的其它检验装置。不存在对其中CMOS像素阵列与支持系统分离(例如,通过电缆连接)的两部分外观尺寸的需求。其它实施例可用于单个外观尺寸视频图像获取系统(例如,举例来说,标准数码相机)中。上文已连同移动的CMOS像素阵列及正成像的固定对象一起描述了实施例。然而,其它实施例可适用于固定CMOS像素阵列及正成像的移动的对象。因此,实施例涉及具有将在存在CMOS像素阵列与正成像的对象之间的相对移动(例如,CMOS像素阵列及/或对象正移动)时用于黑暗或相对黑暗环境中的CMOS像素阵列的各种各样的不同类型的装置。
在说明及权利要求书中,可将术语“经耦合”及/或“经连接”与其派生词一起使用。应理解,这些术语并不打算彼此为同义词。而是,在特定实施例中,“经连接”可用以指示两个或两个以上元件彼此直接物理或电接触。“经耦合”可意指两个或两个以上元件直接物理或电接触。然而,“经耦合”还可意指两个或更多个元件并不彼此直接接触,但仍彼此协作或互相作用。
在说明及权利要求书中,已使用术语“逻辑”。如本文中所使用,术语逻辑可包含硬件(例如,电路)、固件、软件(例如,存储于有形存储媒体上的指令)或其各种组合。逻辑的实例包含集成电路、专用集成电路、模拟电路、数字电路、编程逻辑装置、包含指令的存储器等。在一些实施例中,所述逻辑可包含至少某一电路(例如,晶体管、有源电路元件、无源电路元件、集成电路等)。
在以上说明中,已陈述特定细节以便提供实施例的透彻理解。然而,可在不具有这些特定细节中的一些特定细节的情况下实践其它实施例。本发明的范围将不由上文所提供的特定实例确定而仅由所附权利要求书确定。在图式中图解说明且在说明书中描述的所述关系的所有等效关系涵盖在实施例内。在其它例子中,已以框图形式或未详细展示众所周知的电路、结构、装置及操作以避免使对所述说明的理解模糊。
在一些情形中,在已展示及描述多个组件的情况下,此多个组件可任选地集成为一个组件。在一些情形中,在已展示及描述单个组件的情况下,此单个组件可分离或划分成两个或两个以上组件。在图解说明中,使用线(例如,箭头)来展示连接及耦合。
已以基本形式展示及描述本文中所揭示的特定方法,但可任选地添加及/或从所述方法移除操作。另外,可能已展示及/或描述特定操作次序,但替代实施例可以不同次序执行特定操作、组合特定操作、使特定操作重叠等。
一个或一个以上实施例包含具有机器可读媒体的制造物件(例如,计算机程序产品)。所述媒体可包含提供(例如,存储)呈可由机器读取的形式的信息的机构。机器可读媒体可提供或在其上存储有指令序列,如果所述指令序列由机器执行,那么致使或导致所述机器执行本文中所揭示的操作及/或方法。适合机器的实例包含但不限于内窥镜基站、视频图像获取系统、数字视频相机及具有CMOS像素阵列的其它视频图像获取系统、计算机系统、具有处理器的电子装置等。
在一个实施例中,机器可读媒体可包含有形非暂时机器可读存储媒体。举例来说,有形非暂时机器可读存储媒体可包含软盘、光学存储媒体、光盘、CD-ROM、磁盘、磁光盘、只读存储器(ROM)、可编程ROM(PROM)、可擦除且可编程ROM(EPROM)、电可擦除且可编程ROM(EEPROM)、随机存取存储器(RAM)、静态RAM(SRAM)、动态RAM(DRAM)、快闪存储器、相变存储器或其组合。有形媒体可包含一个或一个以上固态材料,例如,举例来说,半导体材料、相变材料、磁性材料等。
本说明书通篇所提及的“一个实施例”、“一实施例”、“一个或一个以上实施例”、“一些实施例”(举例来说)指示特定特征可包含于本发明的实践中,但不必如此要求。类似地,在本说明中,出于简化本发明及帮助理解各种发明性方面的目的,有时在单个实施例、图或其说明中将各种特征分组在一起。然而,本发明的此方法不应被解释为反映本发明要求比每一权利要求中所明确陈述的特征更多的特征的意图。而是,如所附权利要求书反映,发明性方面在于少于单个所揭示实施例的所有特征。因此,具体实施方式所附的权利要求书在此明确并入本具体实施方式中,其中每一权利要求独立地作为本发明的单独实施例。