[go: up one dir, main page]

CN110168964A - 检测编码光 - Google Patents

检测编码光 Download PDF

Info

Publication number
CN110168964A
CN110168964A CN201880007164.3A CN201880007164A CN110168964A CN 110168964 A CN110168964 A CN 110168964A CN 201880007164 A CN201880007164 A CN 201880007164A CN 110168964 A CN110168964 A CN 110168964A
Authority
CN
China
Prior art keywords
envelope
amplitude envelope
series
light source
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201880007164.3A
Other languages
English (en)
Inventor
P.H.J.M.万沃楚伊森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Signify Holding BV
Original Assignee
Signify Holding BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Signify Holding BV filed Critical Signify Holding BV
Publication of CN110168964A publication Critical patent/CN110168964A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/50Transmitters
    • H04B10/516Details of coding or modulation
    • H04B10/54Intensity modulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/60Receivers
    • H04B10/61Coherent receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Optical Communication System (AREA)

Abstract

用于解码被调制到可见光中的信号的解码器。该解码器执行以下操作:接收利用照相机捕获的一系列帧,每一个帧以不同的时间指数捕获光源的图像;从每一个帧中,采样捕获部分光源的帧的多个部分,并从而在该系列帧上,从这些部分之中的每一个各自部分中获得各自时间系列的样本;对于这多个部分之中的每一个部分,确定消除在各自系列的样本内的时间变化的属性的各自值;使用属性的各自值来确定将应用于这些部分之中的每一个部分的各自均衡,以便校正光源中的非均匀性;以及将各自均衡应用于这些部分之中的每一个部分并基于此来检测编码的光信号。

Description

检测编码光
技术领域
本公开涉及被嵌入在由光源发出的光中的编码光信号的通信。
背景技术
可见光通信(VLC)指的是借以采用被嵌入在由光源发出的可见光中的信号的形式来传送信息的技术。VLC有时也被称为编码光。
根据各种各样的合适调制技术之中的任何一种调制技术,通过调制可见光的属性来嵌入信号,典型地,通过调制强度来嵌入信号。在一些最简单的情况下,通过在恒定的预定调制频率上利用单周期载波波形或甚至单音(正弦波)调制来自多个光源之中的每一个光源的可见光的强度,实施信号传送(signalling)。如果由多个光源之中的每一个光源发出的光利用在那些光源之中是独特的不同的各自调制频率来调制,则调制频率能够充当各自光源或其光的识别符(ID)。
在更复杂的方案中,数据符号的序列可以被调制到由给定光源发出的光中。这些符号通过调制光的任何合适的属性例如振幅、调制频率或调制的相位来表示。例如,借助于振幅键控,例如,使用高和低电平来表示比特或使用更复杂的调制方案来表示不同的符号,可以将数据调制到光中。另一示例是频率键控,据此给定光源可操作来在两个(或更多)不同的调制频率上发出(光)并通过在不同的调制频率之间切换来发射数据比特(或更一般而言,符号)。作为另一种可能性,可以调制载波波形的相位,以便编码数据,即相移键控。
一般来说,所调制的属性能够是被调制到光中的载波波形的属性,诸如其振幅、频率或相位;或者替代地,可以使用基带调制。在后一种情况下,没有载波波形,而是符号作为所发出的光的亮度的变化图案(pattern)被调制到光中。这可以例如包括调制强度来表示不同的符号,或调制标记:脉宽调制(PWM)调光波形的空间比,或调制脉冲位置(所谓的脉冲位置调制,PPM)。调制可以牵涉将数据比特(有时被称为用户比特)映射到这样的信道符号上的编码方案。一个示例是传统的Manchester(曼彻斯特)代码,其是二进制代码,据此值0的用户比特以低-高脉冲的形式被映射到信道符号上,而值1的用户比特以高-低脉冲的形式被映射到信道符号上。另一示例编码方案是由本申请人开发的所谓的TernaryManchester(三元曼彻斯特)代码(WO2012/052935A1)。
基于调制,能够使用任何合适的光传感器来检测编码光中的信息。这能够是或专用光电管(点检测器)或包括光电管(像素)的阵列和用于在阵列上形成图像的透镜的照相机。例如,照相机可以是移动用户设备诸如智能手机或平板计算机的通用照相机。基于照相机的编码光的检测利用或全局快门(global-shutter)照相机或滚动快门(rolling-shutter)照相机而是有可能的。例如,滚动快门读数(readout)对于在日常移动用户设备诸如智能手机和平板计算机中找到的移动CMOS图像传感器而言是典型的。在全局快门照相机中,同时捕获整个像素阵列(整个帧),并由此全局快门照相机每帧仅捕获来自给定照明器的光的一个时间样本。另一方面,在滚动快门照相机中,帧以横排(horizontal row)的形式被划分为行(line),并且帧在时间序列中逐行进行曝光(expose),该序列中的每一行在比最后一个稍晚的时间上被曝光。每一行因此在不同的时刻捕获信号的样本。由此,虽然滚动快门照相机一般而言是较便宜的品种并且对于诸如摄影之类的用途而言被视为劣质的,但是对于检测编码光的用途而言,它们具有每帧捕获更多时间样本的优点,并因此对于给定的帧速率而具有较高的采样率。尽管如此,只要采样率与调制频率或数据速率相比而言是足够高的(即,对于检测编码信息的调制而言是足够高的),编码光检测就能够使用或全局快门或滚动快门照相机来实现。
编码光时常被用于将信号嵌入由光照(illumination)源诸如日常照明器发出的光中,例如,房间照明或室外照明,因而允许来自照明器的光照兼做信息的载体。光因而包括用于照亮目标环境诸如房间的可见光照贡献(典型地,光的主要用途)以及用于将信息提供到环境中的嵌入信号(典型地,被视为光的次要功能)。在这样的情况下,调制典型地在足够高的频率上被执行以超越人类感知,或者至少是这样的,以致任何可见时间光伪影(artefact)(例如,闪烁和/或频闪伪影)是足够弱的,以致不是引人注目的,或对于人类而言,至少是可容忍的。因而,嵌入信号不影响主要光照功能,即,这样用户仅感知到整体光照而非数据被调制到那个光照中的影响。例如,Manchester编码是无DC代码的示例,其中功率谱密度在零赫兹上归零,其中在低频率上具有很少的谱内容,因而将可见闪烁减至几乎不可见的水平。Ternary Manchester没有DC2,这意味着:不仅功率谱密度在零赫兹上归零,而且功率谱密度的梯度也归零,因而甚至进一步除去可见闪烁。
编码光能够用于各种各样的可能应用中。例如,不同的各自ID能够被嵌入由给定环境中例如在给定建筑物中的照明器之中的每一个照明器发出的光照中,以致每一个ID至少在所讨论的环境内是独特的。例如,独特ID可以采取独特调制频率或独特符号序列的形式。这本身随后能够启用许多应用之中的任何一个或多个。例如,一种应用是将信息从照明器提供至遥控单元,用于控制目的,例如,提供使之与远程单元能够控制的其他的这样的照明器区分开来的ID,或者提供关于照明器的状态信息(例如,报告错误、警告、温度、操作时间等)。例如,遥控单元可以采取移动用户终端诸如智能手机、平板计算机、智能手表或配备有光传感器诸如内置照相机的智能眼镜的形式。用户随后能够将传感器指向特定照明器或子组的照明器,以致移动设备能够从利用传感器捕获的发出光照中检测各自(多个)ID,并随后使用检测到的(多个)ID来识别对应的一个或多个照明器,以便控制它/它们(例如,经由RF反向信道)。这为用户提供用户友好的方式来识别他或她希望控制哪个照明器或哪些照明器。检测和控制可以利用在用户终端上运行的照明控制应用或“app(应用程序)”来实施。
在另一应用中,编码光可以用于调试。在这种情况下,在来自不同照明器的光中嵌入的各自ID能够在调试阶段中用于识别来自每一个照明器的个别光照贡献。
在另一示例中,通过将识别符映射到照明器的已知位置或与该位置相关联的信息,识别能够用于导航或其他的基于位置的功能。在这种情况下,提供位置数据库,其将每一个照明器的编码光ID映射到其各自位置(例如,地图或平面布置图上的坐标),并且可以使得这个数据库经由一个或多个网络诸如无线局域网(WLAN)或移动蜂窝网络而从服务器可用于移动设备,或这个数据库甚至可以被本地存储在移动设备上。随后,如果移动设备捕获包含来自这些照明器之中的一个或多个照明器的光的一个图像或多个图像,则它能够检测其ID并使用这些在位置数据库中查找其位置,以便基于此来估计移动设备的位置。例如,这可以通过以下来实现:测量所接收的光的属性,诸如所接收的信号强度、飞行时间和/或到达角,并随后应用诸如三角测量、三边测量、多边测量或指纹识别之类的技术;或者简单地,假定最近的或仅仅捕获的照明器的位置近似是移动设备的位置。在某些情况下,这样的信息可以与来自其他的源例如机载加速度计、磁强计等等的信息进行组合,以便提供更稳健的结果。检测到的位置随后可以通过移动设备被输出至用户,用于导航的目的,例如,显示用户在建筑物的平面布置图上的位置。替代地或附加地,所确定的位置可以被用作用户访问基于位置的服务的条件。例如,可以使得用户使用他或她的移动设备来控制某个区域或地区(例如,某个房间)中的照明(或另一实用程序,诸如加热)的能力以他或她的移动设备的位置被检测到在那个同一区域内(例如,同一房间)内或者可能在与所讨论的照明相关联的某个控制地区内为条件。其他形式的基于位置的服务可以包括例如做出或接受位置相关的支付的能力。
作为另一示例应用,数据库可以将照明器ID映射到位置特定的信息,诸如关于在与各自一个或多个照明器相同的房间中的特定博物馆展览的信息,或将在利用各自的一个或多个照明器照亮的某个位置上提供给移动设备的广告。移动设备随后能够从光照中检测ID并使用这个在数据库中查找位置特定的信息,例如,以便将这个显示给移动设备的用户。在进一步示例中,除了ID之外的数据内容能够被直接编码到光照中,以致它能够被传送到接收设备而无需接收设备执行查找。
因而,编码光在家庭、办公室或其他地方具有各种商业应用,诸如个性化的照明控制、室内导航、基于位置的服务等。
如上所述,编码光能够使用日常“滚动快门”类型照相机来检测,因为其时常被集成在如同移动电话或平板计算机之类的日常移动用户设备中。在滚动快门照相机中,照相机的图像捕获元件被划分为多个水平行(即,排),其按顺序逐行进行曝光。也就是说,为了捕获给定帧,第一行被暴露于目标环境中的光,随后该序列中的下一行在稍晚的时间被暴光,以及诸如此类。每一行因此在不同的时刻捕获信号的样本(典型地,来自每一个给定行的像素被浓缩成每行单个样本值)。典型地,该序列在帧上按顺序例如从上到下成排“滚动”,由此得名“滚动快门”。当用于捕获编码光时,这意味着:帧内的不同行在不同的时刻捕获光,并因此,如果行速率相对于调制频率而言是足够高的话,则在调制波形的不同相位上捕获光。因而,滚动快门读数引起快速时间光调制转换为传感器的行读数方向上的空间图案,从中能够对编码信号进行解码。
发明内容
编码光检测具有的问题在于:光源并不总是以空间上均匀的方式发出光。例如,典型地,照明器的编码发光灯将被放置在扩散器后面,而扩散器使得DC光照的强度在扩散器的表面上变平(even out)(仅留下由于嵌入的交变信号而引起的调制)。当编码光检测器的照相机“看到”照明器时,它在照明器的表面上看到这个均匀水平,以致发出光的任何变化能够被假定为由于嵌入的信号而引起的调制,并且信号因此能够基于这个来解码。然而,在实践中,有时基于不在扩散器后面的灯的视角而需要编码光检测,或者有时扩散器在使得光照水平变平方面不是完美的。对于任何类型的编码光源,类似的问题能够出现。由此,所希望的将是提供具有均衡功能的解码器,以便在编码光检测之前从光源的图像中移除空间非均匀性的影响。
为了解决这个问题,本公开提供一种技术,其基于在一系列帧上获取帧区域(例如,每个像素或行)的多个部分之中的每一个部分的时间系列样本,并随后评估这些样本,以便对于这些部分之中的每一个部分(例如,每个像素或行),建立消除(smooth out)各自系列样本中的时间变化的属性,诸如平均值或包络(envelope)。这些帧部分之中的每一个(例如,像素或行)随后能够基于建立属性来均衡。
根据在本文公开的一个方面,提供一种包括解码器的设备,其中解码器用于解码被调制到由光源发出的可见光中的信号,该解码器被配置成执行以下操作:接收利用照相机捕获的一系列帧,所述一系列帧中的每一个以不同的时间指数(time index)捕获光源的图像;从所述一系列帧之中的每一帧中,对捕获部分光源的帧的多个部分进行采样,并从而,在该系列帧上,从这些部分之中的每一个各自部分中获得各自时间系列的样本;对于所述多个部分之中的每一个,确定消除在各自系列样本内的时间变化的属性的各自值;使用所述属性的各自值来确定将应用于这些部分之中的每个部分的各自均衡,以便校正光源中的非均匀性;以及将各自均衡应用于所述部分之中的每个部分并基于此来检测编码光信号。
例如,所述部分之中的每个部分可以是通过组合来自各自行的个别像素值而采样的滚动快门照相机的行之中的各自行。替代地,所述部分之中的每个部分可以是像素或像素组的二维阵列中的一组像素。
在实施例中,所述属性可以是各自系列的样本的平均值。
然而,使用平均值的缺点是:其需要相对大量的样本来获得可靠代表值。如在本文所述的,需要较小集合的样本为可靠的属性是调制的包络。
由此,在实施例中,所述属性包括各自系列的样本的上包络或下包络。
优选实施例基于以下观察:上包络与下包络之比率在帧区域上振荡,并且在帧区域中其中上包络与下包络之比率是最大的区域中振荡,这意味着:上包络与下包络二者是好的,即,信号中调制的振幅的两个精确指示(并由此,在这些区域中,所测量的比率接近其真实值)。但是,在其中上包络与下包络之比率朝向其最小值的帧的区域中,这是因为上包络和下包络之中的一个是坏的,即,它们不代表调制的振幅。
因此,在实施例中,解码器可以被配置成通过以下来执行所述均衡的确定:对于所述多个部分之中的每一个:确定上或下包络之中的一个包络是有效的,并且基于有效的包络来确定将应用的均衡。
“有效的”在此意味着:解码器确定这两个包络之中的一个包络与另一个包络相比而言是调制的真实振幅的更具代表性的指示。
在实施例中,解码器可以被配置成通过以下来执行所述均衡的确定:a)评估在多个部分之中的每一个上比较上包络与下包络的度量,b)基于此,确定所述度量在其上指示上包络与下包络相比而言是最大的所述度量的值,以及c)通过在上或下包络之中的一个包络不是有效包络的情况下基于上与下包络之中的另一个包络以及所述度量在其上指示上包络与下包络之间的最大差的值来重建上或下包络之中的所述一个包络,在所述多个部分上重建上或下包络之中的所述一个包络,其中均衡基于重建的上或下包络来执行。
注意:如在本文所提及的,指示上包络和下包络之间的差的度量并不限于减法差。实际上,在实施例中,所述度量是上包络和下包络之间的比率。也就是说,如果重建下包络,则对于其中下包络是有效的部分,所采样的下包络本身用于形成重建的下包络的那些部分;但是对于其中上包络是有效的部分,则在那些部分中,通过将所采样的上包络除以采样的上包络与采样的下包络之最大比率(或等效地,将其乘以采样的下包络与采样的上包络之最小比率),重建的下包络被重建。或者,当上包络正被重建时,则对于其中上包络是有效的部分,所采样的上包络本身用于形成重建的上包络的那些部分;但是对于其中下包络是有效的部分,则在那些部分中,通过将采样的下包络乘以采样的上包络与采样的下包络之最大比率(或等效地,将其除以采样的下包络与采样的上包络之最小比率),重建的上包络被重建。
由此,在实施例中,解码器可以被配置成通过以下来执行操作a)-c):a)对于多个部分之中的每一个,确定上包络与下包络之比率,其中该比率在多个部分上在空间中振荡,b)确定所述比率在多个部分上的最大值,以及c)通过在上或下包络之中的一个包络不是有效包络的情况下通过相应地将上与下包络之中的另一个包络乘以或除以所确定的所述比率的最大值来重建上或下包络之中的所述一个包络,在所述多个部分上重建上或下包络之中的所述一个包络,其中均衡基于重建的上或下包络来执行。
在进一步实施例中,解码器可以被配置成通过以下来执行关于上包络和下包络之中的哪一个包络是有效的确定:在多个部分上,确定上包络与下包络之比率在其上是最小值的点,并且对于所述点之中的每一个各自点,从以下之中确定哪一个在空间上最接近各自点:i)下包络的特征,据此从这些部分之中的一个部分到所述部分之中的相邻部分,与各自系列的样本之中的最大值相对应的时间指数不同,在这种情况下,上包络被确定为在各自点周围的区域中是有效的包络,或者ii)上包络的特征,据此从这些部分之中的一个部分到所述部分之中的相邻部分,与各自系列的样本之中的最大值相对应的时间指数不同,在这种情况下,下包络被确定为在各自点周围的区域中是有效的包络。
也就是说,对于这些帧之中的每一个帧(每一个帧时间指数),解码器确定(例如,在滚动快门照相机的行中或在帧的像素上形成的)在帧区域上的分离空间信号。即,每一个空间信号由在特定一个时间指数上采样的帧(特定帧)上来自所述部分之中的每一个(例如,每一行或像素)的样本之一组成。这因此也能够被称为每帧空间信号。进一步,在上包络与下包络之比率在其最小值上的情况下(或等效地,在下包络与上包络之比率为最大值或类似的情况下,即,在上包络与下包络是最不同的情况下),则这意味着:这两个包络之中的一个包络是调制振幅的良好指示,但是另一个是差的。在本文认识到:在这一点上,将找到“接管”特征。这个接管特征能够是两件事之一。如果下包络是坏的包络,则接管特征是其中具有关于来自不同帧的哪个空间信号被最低赋值的转换的点。另一方面,如果上包络是坏的包络,则接管特征是其中具有关于来自不同帧的哪个空间信号被最高赋值的转换的点。也就是说,在其中包络是坏的点上,至少一个接管特征将出现在每帧空间信号的集合中。在上包络为坏的情况下,最大值被另一个每帧空间信号接管。另一方面,在下包络为坏的情况下,最小值被每帧信号之中的另一个接管。这个在稍后参考图16通过示例进行讨论时将变得更加明显。实施例利用这个现象,以便识别哪个包络在哪些位置上使用来构建均衡函数。
然而,具有其中最大值被另一信号接管并且最小值被另一信号接管二者的情形。在那种情况下,每一个接管特征的斜率差能够被参与到选择中。具有最高值的那一个是坏的。
由此,在实施例中,解码器可以被配置,以便当i)和ii)两者的特征出现在同一点上时,对于i)和ii)之中的每一个,确定从一个部分的时间指数到相邻部分的时间指数的信号的斜率改变,并且选择上包络和下包络之中具有最大斜率改变的一个包络作为有效的包络。
这有利地通过出于均衡目的解决关于是宣布上包络还是下包络为有效的选择的潜在歧义来提高均衡的可靠性并因此提高解码的可靠性。
在实施例中,该设备进一步包括运动补偿器,其被安排成补偿光源和照相机之间的相对运动。这有利地确保:该系列中的每个帧中的多个部分(例如,行或像素)在空间中与该系列中的每个其他帧的对应多个部分(例如,行或像素)对齐。
在实施例中,该设备可以包括照相机。替代地,照相机对于该设备而言可以是外部的。
根据在本文公开的另一方面,提供一种系统,其进一步包括照相机和光源。
在实施例中,光源可以采取照明器的形式,并且所述光可以采取用于照亮环境的光照的形式。
根据在本文公开的另一方面,提供一种解码被调制到由光源发出的可见光中的信号的方法,该方法包括:接收利用照相机捕获的一系列帧,所述一系列帧之中的每一个帧以不同的时间指数捕获光源的图像;从所述一系列帧之中的每一帧中,对捕获部分光源的帧的多个部分进行采样,并从而在该一系列帧上,从这些部分之中的每个各自部分中获得各自时间系列的样本;对于所述多个部分之中的每一个部分,确定消除在各自系列的样本内的时间变化的属性的各自值;使用所述属性的各自值来确定将应用于每一个部分的各自均衡,以便校正光源中的非均匀性;以及将各自均衡应用于所述部分之中的每一个部分并基于此来检测编码光信号。
根据在本文公开的另一方面,提供一种用于解码被调制到由光源发出的可见光中的信号的计算机程序产品,该计算机程序产品包括被收录在计算机可读介质上和/或从计算机可读介质中可下载的代码,并且该代码被配置成执行以下操作:接收利用照相机捕获的一系列帧,所述一系列帧之中的每一个帧以不同的时间指数捕获光源的图像;从所述一系列帧之中的每一个帧中,对捕获部分光源的帧的多个部分进行采样,并从而,在该系列帧上,从这些部分之中的每一个各自部分中获得各自时间系列的样本;对于所述多个部分之中的每一个部分,确定消除在各自系列的样本内的时间变化的属性的各自值;使用所述属性的各自值来确定将应用于每一个部分的各自均衡,以便校正光源中的非均匀性;以及将各自均衡应用于所述部分之中的每一个部分并基于此来检测编码光信号。
在实施例中,该方法或计算机程序产品可以进一步包括步骤或者被配置成执行操作,其分别对应于在本文公开的任何的设备或系统特征。
附图说明
为了帮助理解本公开以及显示如何可以将实施例付诸实践,通过示例来参考附图,其中:
图1是编码光通信系统的示意框图;
图2是利用滚动快门照相机捕获的帧的示意图表示;
图2a是显示滚动快门照相机的行读数的定时图;
图3示意性地举例说明滚动快门照相机的图像捕获元件;
图4示意性地举例说明利用滚动快门进行的调制光的捕获;
图5显示帧的x与y轴;
图6是接收的编码光信号作为滚动快门行y的函数的示例图表,其中正弦波被用作编码光信号的示例;
图7是图6的信号在均衡之后的图表;
图8是在不同的各自帧中捕获的接收的正弦波的多个实例的图表,再一次,其中正弦波被用作编码光信号的示例;
图9是图8的信号实例的上与下包络的图表;
图10是基于图9的下包络进行均衡的图8与9的信号的图表;
图11是在不同的各自帧中捕获的接收的编码光信号的多个实例的另一示例的图表,再一次,其中正弦波被用作编码光信号的示例;
图12是图11的信号实例的上与下包络的图表;
图13是基于图12的下包络进行均衡的图11与12的信号的图表;
图14是图12的上包络与下包络之比率的图表;
图15是举例说明用于构建有效的包络以均衡接收的编码光信号的算法的示意框图;
图16显示图12的图表的细节;
图17显示图12与16的图表的进一步细节;
图18是基于根据图15的算法或图19的过程所生成的有效包络进行均衡的图11与12的信号的图表;和
图19是举例说明用于构建有效的包络以均衡接收的编码光信号的过程的流程图。
具体实施方式
在VLC(即,编码光)系统中,可见光源充当用于调制的载体,其能够在利用照相机拍摄的光源的图像中进行捕获。然而,有时光源是这样的,以致载体光照本身是非均匀的,因而在图像中添加空间变化偏移。能够从光中嵌入的实际信号的真实调制中分离出这个偏移将是所希望的。相应地,下面描述一种解码器,其包括均衡器,用于从非均匀光源的捕获图像中解除(undo)非均匀性,以便从捕获的图像中提取调制。在这个步骤之后,载体对于所有的像素已变得均匀,并且调制的检测变得简单。注意:针对非均匀性的实际图案没有限制,即,均衡器能够处理空间的任何任意函数,并且不依赖于尝试对任何特定假设形状的非均匀性分析性地建模。
首先,将参考图1-4来描述其中可以实施所公开的技术的示例系统。接下来则是参考图5-19所描述的示例均衡技术。
图1给出用于发射和接收编码光的系统的示意图概述。该系统包括发射器2和接收器4。例如,发射器2可以采取例如在房间的天花板或墙上安装的照明器的形式,或采取独立式灯或室外灯杆的形式。接收器4可以例如采取移动用户终端诸如智能电话、平板计算机、膝上型计算机、智能手表或一副智能眼镜的形式。
发射器2包括光源10和连接到光源10的驱动器8。在其中发射器2包括照明器的情况下,光源10采取光照源(即,灯)的形式,其被配置成以适合于照亮环境诸如房间或室外空间的规模(scale)发出光照,以便允许人们看见环境内的物体和/或障碍物和/或找到他们的路。光照源10可以采取任何合适的形式,诸如包括LED串或LED阵列的基于LED的灯或白炽灯诸如白炽灯泡。发射器2也包括耦合到驱动器8的输入的编码器6,用于控制光源10经由驱动器8来驱动。尤其,编码器6被配置成经由驱动器8控制光源10来调制它发出的光照,以便嵌入循环重复的编码光消息。可以使用任何合适的已知调制技术来做到这一点。在实施例中,编码器6采取存储在发射器2的存储器上并且被安排用于在发射器的处理装置上执行的软件的形式来实施(在其上存储软件的存储器包括采用一个或多个存储媒体的一个或多个存储单元,例如EEPROM或磁驱动器,以及在其上运行软件的处理装置包括一个或多个处理单元)。替代地,不排除编码器6的一些或全部能够在专用硬件电路或可配置的或可重新配置的硬件电路诸如PGA或FPGA中进行实施。
接收器4包括照相机12和编码光解码器14,其中编码光解码器14被耦合到来自照相机12的输入,以便接收利用照相机12捕获的图像。接收器4也包括控制器13,其被安排成控制照相机12的曝光。在实施例中,解码器14和控制器13以存储在接收器4的存储器上并且被安排用于在接收器4的处理装置上执行的软件的形式来实施(在其上存储软件的存储器包括采用一个或多个存储媒体的一个或多个存储单元,例如EEPROM或磁驱动器,以及在其上运行软件的处理装置包括一个或多个处理单元)。替代地,不排除解码器14和/或控制器13的一些或全部可以在专用硬件电路或可配置的或可重新配置的硬件电路诸如PGA或FPGA中进行实施。
编码器6被配置成根据在本文公开的实施例来执行发射侧操作,并且解码器14和控制器13被配置成根据在本文的公开来执行接收侧操作。也注意:编码器6不一定需要在与光源10及其驱动器8相同的物理单元中进行实施。在实施例中,编码器6可以与驱动器和光源一起被嵌入到照明器中。替代地,编码器6能够在照明器4的外部进行实施,例如,在经由任何一个或多个合适网络(例如,经由internet(因特网)、或经由本地无线网络诸如Wi-Fi或ZigBee、6LowPAN或Bluetooth(蓝牙)网络、或经由本地有线网络诸如Ethernet(以太网)或DMX网络)连接到照明器4的服务器或控制单元上进行实施。在外部编码器的情况下,一些硬件和/或软件仍然可以被提供在照明器4上,以帮助提供定期定时信号,并从而防止抖动、服务质量问题等。
类似地,编码光解码器14和/或控制器13不一定在与照相机12相同的物理单元中进行实施。在实施例中,解码器14和控制器13可以被并入相同的单元中,例如一起被并入移动用户终端诸如智能手机、平板计算机、智能手表或一副智能眼镜中(例如,采取安装在用户终端上的应用或“app”的形式来实施)。替代地,解码器14和/或控制器13能够被实施在外部终端上。例如,照相机12可以被实施在第一用户设备诸如专用照相机单元或移动用户终端如同智能手机、平板计算机、智能手表或一副智能眼镜上;而解码器14和控制器13可以被实施在第二终端诸如经由任何合适的连接或网络例如一对一连接诸如串行电缆或USB电缆、或者经由任何一个或多个合适的网络诸如Internet或本地无线网络如同Wi-Fi或Bluetooth网络、或有线网络如同Ethernet或DMX网络而连接到第一终端上的照相机12的膝上型计算机、台式计算机或服务器上。
图3表示照相机12的图像捕获元件16,其采取滚动快门照相机的形式。图像捕获元件16包括像素的阵列,用于捕获代表在每一个像素上入射的光的信号,例如,典型地,正方形或矩形像素的正方形或矩形阵列。在滚动快门照相机中,像素以横排18的形式被安排在多个行中。为了捕获帧,每一行按顺序被曝光,每一行被曝光照相机的曝光时间Texp的相继实例(instance)。在这种情况下,曝光时间是个别行的曝光的持续时间。当然注意:在数码相机的上下文中,术语“expose(暴露)”或“exposure(暴光)”并非指机械按快门(shuttering)或诸如此类(术语历史上起源于此),而是指此时行正被主动用于捕获或采样来自环境的光的时间。也注意:序列在本公开中意味着时间序列,即,因此每一行的曝光开始于稍微不同的时间。这并不排除:可选地,行的曝光可以在时间上重叠,即,因此曝光时间Texp长于行时间(1/行速率),并且实际上,典型地,这是更常见的情况。例如,首先,顶排181开始被暴光持续时间Texp,然后在稍晚的时间,下面第二排182开始被暴光Texp,随后再一次在稍晚的时间,下面第三排183开始被暴光Texp,以此类推,直至底排已被暴光。这个过程随后被重复,以便暴光帧序列。这个的示例在图2a中进行举例说明,其中垂直轴表示滚动快门图像捕获元件的不同行18,而水平轴表示时间(t)。对于每一行,参考数字50标记重置时间,参考数字52标记曝光时间Texp,参考数字54标记读数时间,并且参考数字56标记电荷转移时间。Tframe是帧周期,即1/帧速率。
编码光能够使用这种类型的传统摄像机来检测。信号检测利用滚动快门图像捕获,这引起时间光调制转换为在相继图像排上的空间强度变化。
这在图4中示意性地进行举例说明。当每个相继行18被暴光时,它在稍微不同的时间并因此(如果行速率与调制频率相比而言是足够高的话)在稍微不同的调制相位上被暴光。因而,每一行18被暴露于调制光的各自瞬时水平。这导致在给定帧上随着调制而波动或循环的条纹的图案。基于这个原理,解码器14能够检测被调制到利用照相机12接收的光中的编码光分量。
对于编码光检测,具有滚动快门图像传感器的照相机具有超越全局快门读数(其中整个帧一次被暴光)的优点,因为连续传感器行的不同时间实例引起快速光调制转换为相对于图4所讨论的空间图案。然而,与图4所示的不同,来自给定光源4的光(或至少可用光)不一定覆盖整个图像捕获元件16的区域,而是仅覆盖某个足迹(footprint)。结果,捕获光足迹的垂直扩展越短,则编码光信号在其上是可检测的持续时间就越长。在实践中,这意味着:在单个帧内只能捕获整个编码光信号的时间碎片(fragment),以致为了捕获足够移位的信号片段以恢复在编码光中嵌入的数据而需要多个帧。每一帧中的信号碎片越小,则在数据恢复是有可能的之前需要越多捕获的帧。
参考图2,照相机12被安排成捕获一系列帧16',如果照相机被指向光源10,则该系列帧将包含来自光源10的光的图像10'。如所讨论的,照相机12是滚动快门照相机,这意味着:它不是一次全部捕获每一个帧16'(如在全局快门照相机中一样),而是在行18的序中逐行捕获。也就是说,每一个帧16被划分为多个行18(行的总数在图2中被标记为20),每一个跨越帧16并且是一个或多个像素厚(例如,跨越帧16的宽度并且在水平行的情况下是一个或多个像素高)。捕获过程通过暴光一行18、随后下一行(典型地,相邻行)、然后下一行以及诸如此类而开始。例如,捕获过程可以从帧16'的顶到底滚动,通过暴光顶行、随后从顶开始的下一行、然后向下的下一行以及诸如此类而开始。替代地,它能够从底到顶或甚至左右滚动。当然,如果照相机12被包括在移动或可移动设备中以致它能够被定向在不同方向,则这些行相对于外部参考帧的定向是可变的。由此,就术语而言,在帧的平面中与这些行垂直的方向(即,滚动方向,也被称为行读数方向)将被称为垂直方向;而在帧16'的平面中与这些行平行的方向将被称为水平方向。
为了捕获样本以检测编码光,每一个给定行18的一些或所有的个别像素样本被组合成那个行的各自组合样本19(例如,只有有用地有助于编码光信号的“活动”像素被组合,而来自那个行的其余像素被丢弃)。例如,组合可以通过对像素值进行积分或平均或者利用任何其他的组合技术来执行。替代地,能够将某个像素作为每一行的代表。无论哪种方式,来自每一行的样本因而形成在不同的时刻对编码光信号进行采样的时间信号,因而使得编码光信号能够从采样信号中进行检测和解码。
为了完整性,注意:帧16也可以包括一些消隐行(blanking line)26。典型地,行速率略高于所有活动行所严格需要的:图像传感器的行的实际数量。图像传感器的时钟方案使用像素时钟作为最高频率,并且从那之中导出帧速率和行速率。这典型地给予每行一些水平消隐以及每帧一些垂直消隐。
也注意:除了专用滚动快门照相机之外,还存在支持滚动快门和全局快门模式二者的CMOS成像器。例如,这些传感器也被用在一些3D范围照相机(range camera),诸如可能不久被并入一些移动设备中。如在本文使用的术语“滚动快门照相机”指的是具有滚动快门能力的任何照相机,并且不一定限于只能执行滚动快门捕获的照相机。
在本文公开的技术能够被应用于或滚动快门捕获或全局快门捕获。尽管如此,上面的细节被描述为针对利用滚动快门捕获的本公开的实施例来提供上下文。
传统VLC解决方案仅使用扩散的光源。当使用扩散的光源时,源作为调制存在于其中的均匀源而出现在所捕获的图像中。如果实际上扩散器的确均匀地扩散光以致该源均匀地出现(除了调制之外),则调制的检测是简单的。然而,在实践中,照明器设计在许多情况下不被扩散,或者即使扩散器存在,扩散也可能不是完全均匀的。因此,尝试从这样的源中提取调制导致检测的可靠性的问题。为了解决这个问题,以下提供均衡技术,利用该技术能够恢复均匀性,以致调制波形的检测变得更加可靠。通过使用所公开的均衡技术,编码光检测的可靠性变得独立于照明器设计。
所公开的技术基于针对每一个相关的照相机像素或行来提取具体的调制属性,其能够用于确定均衡以便在每像素或每行的基础上应用。优选地,所希望的是使用能够在短时间内检测到的属性。结果是:调制的包络是不错的选择。当这个属性对于所捕获的图像的每个像素或行而言是已知的时,则能够执行均衡。最终结果是一组调制的像素或行被叠加在DC载波上,其中DC值在所有相关的像素或行上是均匀的。
考虑照相机图像,其分别由沿着x和y轴的X乘以Y像素组成,如图5所示。照相机行18与x轴平行运行。当利用滚动快门照相机12观察到均匀DC光源10时,理想地,每个像素将以相同的值结束。当调制被添加到光源10时,一个行18上的像素由于滚动快门机制而表示连续时间信号的某个时间戳。假设:由编码光源10发出的光利用信号s来调制。归一化积分强度I变为:
I(t)=1+s(t)
如果照相机12的曝光时间比调制频率短得多,则对于滚动快门照相机而言,能够定义以下:
P(x,y)=λ(1+s(nTline))
其中P是采样的像素值,Tline是1/linerate(行速率分之一),以及nTline是离散时间轴(其中n=0, l, 2......)。当使用没有消隐时间的照相机传感器时,在时间轴上在时间nTline上采样的光强度对应于行位置y=n modulo y_size,其中n是离散时间轴,并且y_size是帧区域的垂直大小(即,行的数量)。因子λ表示由某个像素感知的光部分。如果源10是均匀的,则λ对于所有的行以及该行上的每个像素而言是固定的。在这种情形中,通过检测固定的DC并从所有的像素中减去这个,能够容易地获得调制。
然而,在实践中,光源10并不总是均匀的。这个的结果是:λ变得依赖于帧区域内的空间位置。针对非均匀源的所采样的像素值P因此变为:
P(x,y)(x,y)(1+s(nTline))。
取决于灯的光学设计,相邻λ值在某些情况下能够具有低相关性。在这样的情况下,从图像中提取调制并非易事。
作为针对这个的一般解决方案,呈现不依赖于λ值之间的相关性的均衡方法。均衡器的目的是按比例因子E(x,y)缩放像素值P(x,y),以致λ(x,y)E(x,y)对于每一个像素而变成固定的(非均匀性是乘法失真,因此能够通过乘法或除法来解除它)。在均衡之后,该源是DC均匀的,或者换句话说,载波对于每个像素而具有固定值,其中仅存的变化由于编码光信号本身的调制而引起。即,作为空间函数的比例因子E提供均衡函数,用于解除光源10中的非均匀性λ的影响。
相应地,解码器14被配置成基于不仅将描述的技术来确定均衡函数E(x,y),并且随后在帧区域16的像素值P(x,y)上应用均衡函数E(x,y),即,将每个位置的各自均衡E(x,y)应用于那个位置上所捕获的样本,以便取消非均匀性λ(x,y)的空间变化影响。对于乘法比例因子而言,这意味着:将每一个像素值P(x,y)乘以各自像素的各自比例因子E(x,y)。如不仅将描述的,在滚动快门情况下,其中来自给定行的多个像素值被组合成每行单个样本,该原理也能够在每行基础上应用于一个维度中,即E=E(y),λ=λ(y)等。
下面描述解码器14被配置成在从调制中解码编码光消息之前执行的均衡过程。下面针对没有运动的场景来解释该原理。为了适应在光源10和照相机12之间具有相对运动(或者因为光源10移动,或者因为照相机12移动,或者两者)的场景,解码器14可以应用运动补偿算法来补偿这个运动。即,运动补偿确保:帧区域的每个部分(例如,每个像素或行)从每个捕获的帧到下一个来捕获光源10的相同部分。否则,如果没有运动存在,则必然将是这样的情况:帧区域的每个部分(例如,像素或行)从每个帧到下一帧来捕获光源10的相同部分。
在均衡个别像素的情况下,基于在多个帧上在给定像素位置上测量一组像素值来确定均衡,在不同的各自帧时间戳(时间指数)上从不同的帧中测量该组中的每个值。这随后在编码光源10的足迹10'上进行重复,即,对于足迹10'存在于其中的帧区域16内的每个像素来收集这样的一组值。
对于每一个像素位置,各自组中的值表示λ(x,y)(1+s(nTline))的不同瞬时值,其中λ随时间而是固定的,但是S(nTline)不同,因为它表示不同的行时间戳Tline上的信号。当基于该组值能够计算看起来像λ(x,y)(1+C)的项时,能够校正像素值。对于每一个像素位置,恢复的调制相关项C应该是相同的。在这种情况下,通过将因子1/(λ(x,y)(1+C))应用于各自像素,能够均衡像素值P,具有最终结果(1+s(nTline))/(1+C)。现在调制载波对于所有的像素而是固定的。
C能够例如是调制信号s的长期均值。这个的缺点是:该组值(即,帧的数量)将需要是相对大的,才能计算这样的属性。需要小得多的组的值的属性是s的振幅。只要调制振幅是恒定的,就能够使用这个属性。
下面描述基于使用调制振幅的均衡原理的示例。
通过举例说明,考虑其中信号s采取正弦波形式的情况,m*sin(ωnTline)。为了使得该示例保持直观,也考虑其中滚动快门照相机12的每行18仅获取单个样本的情况,例如,因为每一行的像素被浓缩为每行单个样本。λ现在仅取决于y位置。
在给出的示例中,归一化光强度I可以被表示为:
I(nTline)=(1+m*sin(ωnTline))
其中m是调制指数,即,发出光强度中调制的振幅。为了举例说明的目的,现在考虑其中m=0.1的情况,y跨越范围[0……479],并且λ(y)在从y=0到y=479的范围上从0线性地斜升到1。
下面图6中的图表显示针对水平轴上的y位置0至479、根据λ(y)(1+m*sin(ωnTline))的每行样本值。
为了能够基于调制振幅进行均衡,指示振幅的参数需要针对每一个y位置来确定。根据本公开的实施例,解码器14被配置成测量信号的上包络和/或下包络作为其振幅的测量。上包络和下包络在图6的图形中利用虚线来指示。下包络能够利用λ(y)(1-m)来描述,并且上包络能够利用λ(y)(1+m)来描述。由此,通过除以下包络,解码器14能够抵消非均匀性λ(y)的影响,并从而将图像均衡至(1+m*sin(ωnTline))/(1-m),如图7的图表所示。或者,替代地,通过除以上包络,解码器14能够均衡至(1+m*sin(ωnTline))/(1+m)。
下面描述解码器14可以借以来估计包络的过程。如上所述,一般而言,可以假设λ的值是不相关的(图6中的斜坡形状仅用于举例说明的目的)。为此,解码器针对每个样本位置y在不同的帧时间戳上收集一组样本值。即,对于位置y上的给定行,从多个图像之中的每一个图像中收集不同的样本值。在下面的示例中,收集一组五个值或图像。继续图6和7中的示例,图8显示在滚动快门照相机的行上出现的五个不同的空间信号,这五个信号之中的每一个对应于一系列五个捕获帧之中不同的一个捕获帧,其中每个信号表示从每一行的该组五个样本值之中的各自一个中构建的接收信号的不同实例。
取每个数据组的最大值给出上包络,并且取最小值给出下包络。这被显示在图9中。
通过使用图9的下包络来均衡从中采样了图8的点信号实例的图像,解码器14因而获得图10所示的均衡信号。由于估计的下包络中的波纹,正弦波具有小的失真。
在上面给出的示例中,每个数据组以可接受的精度给出包络。然而,具有其中算法的精度恶化的情形。因此,在实施例中,解码器14被配置成对包络的估计应用细化,如下所述。再一次,该示例基于每行收集一组五个样本值并基于这些样本检测包络来举例说明。
图11与12显示对应于图7与8的图表,但是其中空间信号的相位只是非常缓慢地从一帧漂移到下一帧。这发生在调制频率非常接近于帧速率的整数倍的时候。因此,如从图12中能够看到的,从每行五个样本中构建的包络不是调制的真实振幅的非常精确的表示,至少不是在所有点上。相反,它包含大的波纹,如果用于那些点上的均衡,将导致没有很好地剔除(factor out)λ(y)的影响的差均衡。
图13显示基于先前相对于图8-10所描述的相同程序、使用图12的下包络来均衡从中获得了图11中的点信号实例的图像的结果。正弦波由于所估计的包络中的大误差而被严重失真。解决这个的一种方式是将数据集的大小从五增至高得多的值。这基本上意味着:以增加的检测时间的结果来收集更多的图像。因此,所希望的将是找到不一定依赖于收集大数据集的替代解决方案。
更详细查看图12的检测到的上包络与下包络,结果是:事实上,具有足够的信息来正确地执行均衡,因为上与下包络是交替正确的。即,上包络中的一个或另一个(但不是两者同时)仍然总是给出信号振幅的良好表示。因此,在本公开的实施例中,解码器14被配置成使用上包络和下包络之中的一个包络来均衡帧区域16的一些部分并且使用另一个包络来均衡帧区域的其他部分。在实施例中,这通过从上包络与下包络中重建一个正确包络来实现。
考虑以下关系:
其中eu是上包络,而el是下包络。由于λ(y)项消失,所以比率是恒定的并且比率值仅取决于调制指数m。这个值在所估计的上包络和下包络二者是有效的时(即,在两者是真实信号振幅的良好表示时)是最大的并且在两个包络总是有效的时将是恒定的。然而,当这些包络之中的一个包络不是有效的时,则该比率将降至较低值。图14基于图11和12的示例显示包络比率作为y的函数。
从这个曲线中,解码器14能够估计两个属性。基于其中假定上包络和下包络二者是正确的峰值,调制指数m能够被检索到。另一方面,局部最小值指示其中所估计的包络具有最大估计误差的点。
图15的框图显示解码器14的功能元件,用于创建所重建的下包络el(y)',其从来自输入包络eu(y)和el(y)二者的有效部分中进行构建。
这些元件包括可以被标记为“计算包络比率”的第一功能块28、可以被标记为“检测调制指数”的第二功能块30、可以被标记为“检测局部比率最小值”的第三功能块32、可以被标记为“创建包络选择掩模(mask)”的第四功能块32和乘法器36。
第一功能块28基于输入上与下包络eu(y)和el(y)来计算包络比率作为y的函数,并将计算的包络比率输出到第二功能块30和第三功能块32之中的每一个。
第二功能块30基于计算的包络比率来确定调制指数m。如前所述,在相对于y绘制的包络比率的峰值上(参见图14),假设上包络和下包络二者是正确的,并因此能够使用关系envelope_ratio=(1+m)/(1-m)。为了完整性,注意:该算法不一定需要显式地计算m。相反,它只需要确定包络比率(1-m)/(1+m)(从中能够明确地计算m,但是不需要执行均衡)。
第三功能块30检测相对于y绘制的包络比率中的最小值,并向第三功能块32指示这些最小值(即,谷(trough))的位置。第三功能块对于在包络比率中的这些谷之中的每一个周围的接收信号中的区域来确定上包络和下包络之中的哪一个是有效的,并因此确定哪一个应该被用于均衡。这个选择作为空间位置y的函数而在本文可以被称为选择掩模。
为了重建下包络和上包络之中的一个包络的单个有效版本,则在另一个包络是唯一有效包络的情况下,将另一个包络乘以该一个包络与另一个包络的真实比率(如利用第一功能块基于测量版本的比率的峰值所确定的)。也就是说,如果重建下包络,则至少在其中输入上包络eu(y)是唯一有效包络的区域中将输入上包络eu(y)乘以(1-m)/(1+m),并且选择掩模确定在哪里从输入下包络el(y)按原样形成重建的下包络el'(y)以及在哪里反而基于输入上包络即从eu(y)(1-m)/(1+m)中形成重建的下包络el'(y)。解码器14随后通过将接收的值(在这种情况下,行样本值)除以在帧区域16上重建的下包络el'(y)作为帧区域内的空间位置的函数来均衡接收的图像。
等效地,如果重建上包络,则至少在其中输入下包络el(y)是唯一有效包络的区域中将输入下包络el(y)乘以(1+m)/(1-m),并且选择掩模确定在哪里从输入上包络eu(y)按原样形成重建的上包络以及在哪里反而基于输入下包络即从el(y)(1+m)/(1-m)中形成重建的上包络。解码器14随后通过将接收的值除以在帧区域上重建的下包络el'(y)来均衡接收的图像。
注意:已假定对于所描述的算法在λ值之间没有相关性,并且这也适用于选择掩模创建的创建。为了进一步解释选择掩模的创建,考虑五元素数据集收集,但是在一片包络比率(y)上“被放大”,如图16所示。
包络的构建取决于每一个个别信号如何在时间中演变。在上述场景中,能够看到:具有其中所有的信号实例位于大致相同位置上的情形。这意味着:在任何给定点上,具有一个非常可靠且稳定的包络以及从处于转换中的信号中构建的一个包络。
作为可靠包络的选择标准,本公开的实施例提供基于以下假设的技术:当上包络与下包络之比率实质上低于其最大值时,则这意味着:上包络和下包络之中的一个包络当前从处于转换中的信号中进行构建。这个方法对于带限调制而言工作良好。作为起点,在本文的公开引入“接管”特征的概念,其示例在图16中被标记为38。在例如下包络的情况下,接管点发生在位置y和y+1上的最小值利用不同的信号实例(即,对应于不同的帧时间戳的信号)来定义的时候。换句话说,最小值被另一个空间信号接管。类似地,对于上包络,接管点发生在位置y和y+1上的最大值利用不同的信号实例来定义即最大值被另一个空间信号接管的时候。
当在包络比率中检测到局部最小值时,解码器14根据以下假设操作:很有可能这些包络eu(y)、el(y)之中的一个包络从处于转换中的信号中进行构建。因此,在包络比率的那个局部最小值上,对于上或下包络之中的一个,接管特征也将被预期。如果一个包络在那个点上正好具有接管特征而另一个包络没有的话,则解码器选择后一个包络为可靠的。所选择的包络也用于在最小值的精确点周围的区域(例如,在那个点周围的预定空间窗口)。
在一些时候,两个包络可以在包络比率中的最小值出现在其中的具体y位置上包含接管特征。为了适应这样的情况,可以通过使用接管速度来扩展该算法,其中接管速度是接管点上的斜率差。这在图17中进行举例说明。斜率被定义为(pixelval(y+1)-pixelval(y))/Δy。接管速度被定义为abs(Slope1-Slope2)。
当比较这两个包络的接管速度时,从处于转换中的信号实例中构建的包络将具有较高的接管速度。由此,解码器14被配置成将那个包络宣布为坏包络,并选择另一个包络用于均衡。
这个标准独立于实际的λ。更具体地,个别接管速度值取决于实际的λ(y)和λ(y+1),但是接管速度值之比率保持恒定。即,具有最低接收速度的那个包络是可靠的包络,并且实际的λ不起作用,其为最低的。
根据上述的一切,因而已描述了用于执行均衡以容纳非均匀光源的可靠包络的选择的机制。基于包络比率的局部最小点,该选择对于比率下降(ratio dip)的整个持续时间而是有效的。可靠包络选择过程的概要被显示在图19的流程图中。在来自捕获图像的均衡版本的消息的实际解码之前,利用解码器14来完成该过程。
在步骤102,该过程确定是否在位置y上包络比率具有局部最小值。如果否的话,则该过程转到步骤104,在步骤104,它转到将要考虑的y的下一值(即,下一位置),随后循环返回到步骤102。注意:该包络也将在窗口中非常糟糕地被重建,在最小值周围的一些样本也是如此(例如,在预定数量的样本内)。
另一方面,如果在步骤102确定具有局部最小值,则该过程转到步骤106,在步骤106确定是否接管特征在当前位置上仅对于上包络和下包络之中的一个包络而存在。如果是这样的话,则该方法转到步骤110,在步骤110确定接收特征发生在上包络还是下包络中。如果接管特征发生在上包络中,则该过程转到步骤114,在步骤114下包络被宣布为当前可靠的包络,但是如果它发生在下包络中,则该过程转到步骤116,在步骤116上包络被宣布为当前可靠的包络。
另一方面,如果在步骤106确定在当前位置y上在上包络和下包络二者中具有接管点,则该过程转到步骤108,在步骤108确定接管速度在上包络中还是在下包络中是较大的。如果在上包络中是较大的话,则该过程转到步骤114,在步骤114下包络被宣布为当前可靠的包络,但是如果在下包络中是较大的话,则该过程转到步骤116,在步骤116上包络被宣布为当前可靠的包络。
无论哪个包络在当前位置上被宣布为可靠的,经由这个决定到达的该过程的无论哪个分支,在步骤118,该过程随后设置选择掩模来选择所决定的包络,以便在当前位置y上在均衡中使用。
该过程随后转到步骤104,在步骤104,它转到下一位置,即y的下一值,并且再次重复该过程,直到已处理所考虑的所有位置y(例如,覆盖光源10的足迹10'的帧区域内的所有位置y)。
将领会到:仅通过示例描述了上面的实施例。
例如,注意:上述的技术也将利用消隐来工作,并且在此出于举例说明的目的而被描述为没有消隐。当包括消隐时,反而能够将y_size定义为包括消隐部分的垂直大小。但是当进入消隐部分内的y位置(根据y=n modulo y_size)时,P(x,y)不会出现在图像中,因此那些样本不被使用。
进一步,在本文公开的技术的应用性不限于滚动快门照相机,并且不限于上面例示的1D情况。通过在上面的方程式中添加x方向(λ(x,y),等)能够获得二维情况。然而,优选地,具有重复信息的像素被组合为一维或二维阵列中的组(例如,单个行包含单个时刻的信息)。这改善信噪比(SNR)。
在滚动快门情况下,时变-分量每行改变。因此,对于每一行,这些像素在该行上进行组合以改善SNR。这也导致每行组合的λ。通过均衡,所公开的方法解除组合的λ在这些行上的非均匀性。另一方面,在全局快门情况下,时变分量每图像改变。在这种情况下,可以组合覆盖光源10的所有像素10'来改善SNR(因为它们全部包含相同的调制)。对于包括单个一元(unitary)编码光元件的光源,现在获得每图像而非每行单个组合的λ。由于这个λ对于每一个图像而言是固定的,所以图像之间的变化纯粹由于调制而引起,因此不需要均衡。尽管如此,具有其中甚至利用全局快门捕获也可能需要均衡的情形。例如,考虑其中光源10包括多个元件(例如,多个LED或LED组)的场景,其中每一个个别元件(例如,个别LED或LED组)发射不同的分量。在那种情形中,不能只是组合覆盖光源10的所有像素10'。因此,根据在本文公开的实施例,解码器14可以被配置成执行2D均衡并且之后基于均衡的图像来执行编码光分量的空间分离。这例如能够是尤其针对全局快门照相机设计的VLC通信系统。
一旦给出在本文的公开,其他的变体和其他的应用对于本领域技术人员来说可以变得明显。本公开的范畴不受上述实施例的限制,而仅受所附权利要求书的限制。

Claims (15)

1.一种设备,包括用于解码被调制到由光源发出的可见光中的信号的解码器,所述解码器被配置成执行以下操作:
接收利用照相机捕获的一系列帧,所述一系列帧之中的每一个帧以不同的时间指数捕获所述光源的图像;
从所述一系列帧之中的每一个帧中,采样捕获部分光源的帧的多个部分,并从而在所述一系列帧上,从所述部分之中的每一个各自部分中获得各自时间系列的样本;
对于所述多个部分之中的每一个部分,确定消除在所述各自系列的样本内的时间变化的属性的各自值;
使用所述属性的各自值来确定将应用于所述部分之中的每一个部分的各自均衡,以便校正所述光源中的空间非均匀性;以及
将所述各自均衡应用于所述部分之中的每一个部分并基于此来检测编码的光信号。
2.根据权利要求1所述的设备,其中所述属性是所述各自系列的样本的平均值。
3.根据权利要求1所述的设备,其中所述属性包括所述各自系列的样本的上或下振幅包络。
4.根据权利要求3所述的设备,其中所述解码器被配置成通过以下来执行所述均衡的确定:
对于所述多个部分之中的每一个部分:
确定上或下振幅包络之中的一个振幅包络是有效的,因为它给出调制的真实振幅的更具代表性的指示;以及
基于有效的包络,确定将应用的均衡。
5.根据权利要求4所述的设备,其中所述解码器被配置成通过以下来执行所述均衡的确定:
a) 评估在所述多个部分之中的每一个部分上将上振幅包络与下振幅包络进行比较的度量;
b) 基于此,确定所述度量的值,其中所述度量在所述值上指示上振幅包络与下振幅包络相比而言是最大的;以及
c) 通过以下在所述多个部分上重建上或下振幅包络之中的一个振幅包络:在上或下振幅包络之中的所述一个振幅包络不是有效的包络的情况下,基于上与下振幅包络之中的另一个振幅包络以及所述度量在其上指示上与下振幅包络之间的最大差的值来重建上或下振幅包络之中的所述一个振幅包络,其中基于重建的上或下振幅包络来执行所述均衡。
6.根据权利要求5所述的设备,其中所述解码器被配置成通过以下来执行操作a)-c):
a) 对于所述多个部分之中的每一个部分,确定上振幅包络与下振幅包络之比率,其中所述比率在所述多个部分上在空间中振荡;
b) 确定所述比率在所述多个部分上的最大值;以及
c) 通过以下在所述多个部分上重建上或下振幅包络之中的一个振幅包络:在上或下振幅包络之中的所述一个振幅包络不是有效的包络的情况下,通过相应地将上与下振幅包络之中的另一个振幅包络乘以或除以所确定的所述比率的最大值来重建上或下振幅包络之中的所述一个振幅包络,其中基于重建的上或下振幅包络来执行所述均衡。
7.根据权利要求4、5或6所述的设备,其中所述解码器被配置成通过以下来执行关于上与下振幅包络之中的哪一个振幅包络是有效的确定:
在所述多个部分上,确定上振幅包络与下振幅包络之比率在其上是最小值的点,并且对于所述点之中的每一个各自点,从以下之中确定哪一个在空间上最接近所述各自点:i)下振幅包络的特征,据此从所述部分之中的一个部分到所述部分之中的相邻部分,与各自系列的样本之中的最大值相对应的时间指数不同,在这种情况下上振幅包络被确定为在所述各自点周围的区域中是有效的包络,或者ii) 上振幅包络的特征,据此从所述部分之中的一个部分到所述部分之中的相邻部分,与各自系列的样本之中的最大值相对应的时间指数不同,在这种情况下下振幅包络被确定为在所述各自点周围的区域中是有效的包络。
8.根据权利要求7所述的设备,其中所述解码器被配置,以便:当i)与ii)两者的特征出现在同一点上时,对于i)与ii)之中的每一个,确定从所述一个部分的时间指数到所述相邻部分的时间指数的所述信号的斜率改变,并且选择上与下振幅包络之中具有最大的斜率改变的一个振幅包络作为有效的包络。
9.据任一前述权利要求所述的设备,其中所述照相机是滚动快门照相机,其在时间序列的行中捕获每一个帧,并且其中所述部分之中的每一个部分是通过组合来自各自行的个别像素值而采样的行之中的各自行。
10.根据权利要求1-8之中任一权利要求所述的设备,其中所述部分之中的每一个部分是像素或像素组的二维阵列中的一组像素。
11.根据任一前述权利要求所述的设备,还包括运动补偿器,其被安排成补偿所述光源与所述照相机之间的相对运动。
12.一种系统,包括任一前述权利要求的设备,并且还包括照相机和光源。
13.根据权利要求12所述的系统,其中所述光源采取照明器的形式,并且所述光采取光照的形式来照亮环境。
14.一种解码被调制到由光源发出的可见光中的信号的方法,所述方法包括:
接收利用照相机捕获的一系列帧,所述一系列帧之中的每一个帧以不同的时间指数捕获所述光源的图像;
从所述一系列帧之中的每一个帧中,采样捕获部分光源的帧的多个部分,并从而在所述一系列帧上,从所述部分之中的每一个各自部分中获得各自时间系列的样本;
对于所述多个部分之中的每一个部分,确定消除在所述各自系列的样本内的时间变化的属性的各自值;
使用所述属性的各自值来确定将应用于所述部分之中的每一个部分的各自均衡,以便校正所述光源中的非均匀性;以及
将所述各自均衡应用于所述部分之中的每一个部分并基于此来检测编码的光信号。
15.一种计算机程序产品,用于解码被调制到由光源发出的可见光中的信号,所述计算机程序产品包括被收录在计算机可读介质上和/或从计算机可读介质中可下载的代码,并且所述代码被配置成执行以下操作:
接收利用照相机捕获的一系列帧,所述一系列帧之中的每一个帧以不同的时间指数捕获所述光源的图像;
从所述一系列帧之中的每一个帧中,采样捕获部分光源的帧的多个部分,并从而在所述一系列帧上,从所述部分之中的每一个各自部分中获得各自时间系列的样本;
对于所述多个部分之中的每一个部分,确定消除在所述各自系列的样本内的时间变化的属性的各自值;
使用所述属性的各自值来确定将应用于所述部分之中的每一个部分的各自均衡,以便校正所述光源中的非均匀性;以及
将所述各自均衡应用于所述部分之中的每一个部分并基于此来检测编码的光信号。
CN201880007164.3A 2017-01-16 2018-01-10 检测编码光 Pending CN110168964A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17151544 2017-01-16
EP17151544.8 2017-01-16
PCT/EP2018/050543 WO2018130559A1 (en) 2017-01-16 2018-01-10 Detecting coded light

Publications (1)

Publication Number Publication Date
CN110168964A true CN110168964A (zh) 2019-08-23

Family

ID=57838207

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880007164.3A Pending CN110168964A (zh) 2017-01-16 2018-01-10 检测编码光

Country Status (5)

Country Link
US (1) US20200186245A1 (zh)
EP (1) EP3568930A1 (zh)
JP (1) JP2020507258A (zh)
CN (1) CN110168964A (zh)
WO (1) WO2018130559A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109450534B (zh) * 2018-09-29 2021-05-25 吉林大学 基于图像传感器的可见光无线局域网
FR3095726B1 (fr) * 2019-05-05 2022-01-21 Ellipz Smart Solutions Europe procédé de décodage d’un signal de communication lumineuse et système optoélectronique

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0966118A2 (en) * 1998-06-15 1999-12-22 Nec Corporation Optical gain equalizer and optical fiber transmission line
EP1367442A2 (en) * 2002-05-27 2003-12-03 Nikon Corporation Illumination device
US20090225827A1 (en) * 2008-03-07 2009-09-10 Shenzhen Mindray Bio-Medical Electronics Co., Ltd. Method and apparatus for adaptive frame averaging
CN102842116A (zh) * 2012-06-30 2012-12-26 南京汇兴博业数字设备有限公司 图像内快速响应矩阵码的光照均衡处理方法
CN104156719A (zh) * 2014-07-26 2014-11-19 佳都新太科技股份有限公司 基于形状和光照模型的人脸图像光照处理方法
WO2015010967A1 (en) * 2013-07-23 2015-01-29 Koninklijke Philips N.V. Modulation of coded light components
CN104469343A (zh) * 2014-11-26 2015-03-25 北京智谷技术服务有限公司 光场显示控制方法和装置、光场显示设备
CN105447834A (zh) * 2015-12-28 2016-03-30 浙江工业大学 一种基于特征分类的麻将图像光照不均校正方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI387226B (zh) * 2009-01-07 2013-02-21 Ind Tech Res Inst 光發射裝置、光接收裝置、資料傳遞系統及應用其之方法
BR112012017100A8 (pt) * 2010-01-15 2017-09-19 Koninklijke Philips Electronics Nv Sistema de detecção para determinar se uma contribuição de luz de uma primeira fonte de luz de um sistema de iluminação esta presente em uma posição selecionada dentro de uma cena, método para determinar se uma contribuição de luz de uma primeira fonte de luz de um sistema de iluminação esta presente em uma posição selecionada dentro de uma cena e programa de computador
JP6009450B2 (ja) 2010-10-20 2016-10-19 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 符号化光送信のための変調
EP2940898B1 (en) * 2012-12-27 2018-08-22 Panasonic Intellectual Property Corporation of America Video display method
CN104885382B (zh) * 2012-12-27 2017-08-22 松下电器(美国)知识产权公司 可视光通信信号显示方法以及显示装置
WO2015121055A1 (en) * 2014-02-14 2015-08-20 Koninklijke Philips N.V. Coded light
TWI620420B (zh) * 2016-12-02 2018-04-01 財團法人資訊工業策進會 可見光通訊系統及方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0966118A2 (en) * 1998-06-15 1999-12-22 Nec Corporation Optical gain equalizer and optical fiber transmission line
EP1367442A2 (en) * 2002-05-27 2003-12-03 Nikon Corporation Illumination device
US20090225827A1 (en) * 2008-03-07 2009-09-10 Shenzhen Mindray Bio-Medical Electronics Co., Ltd. Method and apparatus for adaptive frame averaging
CN102842116A (zh) * 2012-06-30 2012-12-26 南京汇兴博业数字设备有限公司 图像内快速响应矩阵码的光照均衡处理方法
WO2015010967A1 (en) * 2013-07-23 2015-01-29 Koninklijke Philips N.V. Modulation of coded light components
CN104156719A (zh) * 2014-07-26 2014-11-19 佳都新太科技股份有限公司 基于形状和光照模型的人脸图像光照处理方法
CN104469343A (zh) * 2014-11-26 2015-03-25 北京智谷技术服务有限公司 光场显示控制方法和装置、光场显示设备
CN105447834A (zh) * 2015-12-28 2016-03-30 浙江工业大学 一种基于特征分类的麻将图像光照不均校正方法

Also Published As

Publication number Publication date
US20200186245A1 (en) 2020-06-11
EP3568930A1 (en) 2019-11-20
JP2020507258A (ja) 2020-03-05
WO2018130559A1 (en) 2018-07-19

Similar Documents

Publication Publication Date Title
CN104620519B (zh) 光检测系统和方法
US9888203B2 (en) Method and system for video processing to remove noise from a digital video sequence containing a modulated light signal
US10321531B2 (en) Method and system for modifying a beacon light source for use in a light based positioning system
US9918013B2 (en) Method and apparatus for switching between cameras in a mobile device to receive a light signal
EP2737779B1 (en) Self identifying modulated light source
US8436896B2 (en) Method and system for demodulating a digital pulse recognition signal in a light based positioning system using a Fourier transform
US8520065B2 (en) Method and system for video processing to determine digital pulse recognition tones
US8457502B2 (en) Method and system for modulating a beacon light source in a light based positioning system
US8432438B2 (en) Device for dimming a beacon light source used in a light based positioning system
US20160119761A1 (en) System and method for estimating the position and orientation of a mobile communications device in a beacon-based positioning system
Aoyama et al. Visible light communication using a conventional image sensor
CN106597374A (zh) 一种基于摄像帧分析的室内可见光定位方法及系统
CA2892923C (en) Self-identifying one-way authentication method using optical signals
CN110168964A (zh) 检测编码光
Yang et al. LIPO: Indoor position and orientation estimation via superposed reflected light
CN106663213A (zh) 编码光的检测
EP3560113A1 (en) Detecting coded light
LIGHT The present disclosure relates to the detection of coded light using an image sensor, eg a camera of a mobile terminal.

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190823