图1表示本系统的实施例100,该系统被配置来通过在诸如4:3纵横比的显示区域的正常观看区域外创建光图案(light pattern)120A、120B来增强显示器110的观看体验。在这个实施例中,这种增加的内容不是简单地从屏幕或其一些部分上显示的当前视频内容得出的,例如象可以通过计算当前视频帧到当前视频图像外部区域的扩展而应用到现有的环境照明特性中的。在所示出的实施例中,在4:3纵横比图像中提供的视频内容(例如视频内容的显示帧)的当前再现被通过从视频内容的现有和/或随后帧(先于或者相继于当前帧)得出的扩展图像(例如光图案120A、120B中的一个或多个)来扩展。视频内容的现有和/或随后帧可以包括一个或多个现有和/或随后的视频帧。在一个实施例中,只有现有和/或随后视频帧的一部分(例如,通常是诸如特征、物体和/或元素)可以被分析。例如,先前帧的背景特征可以被分析而无需检查整个先前帧。在一个实施例中,可以分析两个或多个帧部分。根据本系统,可以使用例如两个连续的先前帧部分或者一个先前部分和一个当前帧部分。在另一个实施例中,当两个帧部分(例如包括先前帧或随后帧部分中的至少一个)被分析以便确定光图案(例如光图案120A)时,这些帧部分不需要是时间连续的,不过在一个实施例中,这些帧部分可以是时间连续的。根据本系统,可以通过环境照明特性来提供扩展区域130A、130B中的一个或多个,诸如可以通过将一个或多个环境照明图像再现(例如投射)到墙上来提供扩展区域130A、130B中的一个或多个,该墙从显示器110观看者的观点看是位于显示器110后面的。当然,可以通过固定于显示器110的一个或多个再现设备和/或由一个或多个再现设备(例如投影仪)、或者与显示器110分开的并且有能力来再现(显示和/或投射)光图案120A、120B中的一个或多个的其它设备来提供光图案120A、120B中的一个或多个。在一个实施例中,可以由一个或多个显示设备来提供光图案120A、120B中的一个或多个。例如,可以由作为环境照明元件操作的两个或多个显示设备来提供光图案120A。类似地,可以由作为环境照明元件操作的两个或者多个显示设备来提供光图案120B。
在根据本系统的一个实施例中,光图案120A、120B中的一个或多个被以低于所呈现的帧的分辨率提供在显示器110上。例如,扩展区域130A、130B中的一个或多个可以由每个扩展区域的20×40像素分辨率来提供。当然,在其它实施例中,可以提供或多或少的分辨率,应该懂得更高的分辨率通常需要比提供较低分辨率光图案所要求的更多的处理来辨别光图案。
例如,根据本系统,帧的全局和/或局部运动矢量和/或帧(例如在前的和/或后续的帧)中描绘的物体可以被确定来根据本系统使用,和/或可以被确定为系统的其它部分的副产品-诸如可以在运动图像专家组(MPEG)图像处理期间被使用。对于一个视频图像-其具有在显示器110(例如目标140)中提供的图像的(例如像素的背景/优先级的)全局运动矢量或者当显示器110上提供的视频帧在时间上推进时向右移动的物体的局部运动矢量,可以从当前在显示器110上示出的帧前面的、视频内容的一个或多个帧中辨别光图案120A。帧(全局)和/或物体(局部)的运动矢量的尺寸和扩展区域130A中提供的光图案120A的宽度可以被用来确定检查多少先前帧以便确定光图案120A,这是很容易理解的。在根据本系统的一个实施例中,对于较大的运动矢量,可以使用较少的先前帧(例如一个或多个先前帧)来辨别光图案120A,不过在另一个实施例中,可以检查相同数量的先前帧,而不管运动矢量的尺寸。例如,在一个实施例中,当运动矢量更大时,可以在扩展区域130A中提供更大的分辨率。
类似地,在一个视频图像中-其具有在显示器110中提供的图像的全局运动矢量或者当显示器110上提供的视频帧在时间上推进时向右侧移动的物体(诸如所描绘的演员150)的局部运动矢量,可以从继续当前在显示器110上示出的帧的、视频内容的一个或多个帧中辨别光图案120B。当视频内容的帧在被呈现在显示器110上之前的某个时间可用时,诸如当内容被本地存储和/或在呈现在显示器110上之前被缓冲达某个时间时,有助于这一处理。可以使用帧(全局)和/或物体(局部)的运动矢量的尺寸以及在扩展区域130B中提供的分辨率的宽度来确定检查多少相继的帧以便确定光图案120B,这是很容易理解的。在根据本系统的一个实施例中,对于较大的运动矢量,可以使用较少的相继的帧(例如一个或多个相继的帧)来辨别光图案120B,而在另一个实施例中,可以检查相同数量的相继的帧,而不管运动矢量的尺寸。例如,在一个实施例中,当运动矢量较大时,可以在扩展区域130B中提供更大的分辨率。
当然,如果全局和/局部运动矢量正向左移动,则可以使用一个或多个前面的帧来辨别扩展区域130B中描述的光图案120B。类似地,对于向左移动的全局和/或局部运动矢量,可以使用一个或多个相继的帧来辨别扩展区域130A中描绘的光图案120A。
在这种类型的实施例中,可以基于所确定的运动矢量的大小来动态确定扩展区域130、130B中的一个或多个中提供的分辨率。容易理解的是,扩展区域130A、130B中示出的图像的精确性会降低,这是因为用于得出光图案120A、120B的帧在时间上变得更远离显示器110上显示的数据帧。此外,扩展区域130A、130B中示出的图像部分的精确性会降低,这是因为用于得出光图案120A、120B的帧的图像部分在物理上变得远离显示器110上显示的数据帧中示出的当前图像部分。换句话说,光图案120A、120B扩展得越远,由此扩展由显示器110上当前显示的帧与扩展区域130A、130B上正显示的光图案120A、120B一起组成的“完整图像”,那么扩展区域130A、130B的远程区域的精确性就会降低。因此,术语“物理上和位置上远程”旨在包括就完整图像而言位置上更远离当前显示在显示器110上的帧的物体、和/或更远离显示设备110产生的光图案120A、120B,这是因为可以使用完整图像内的接近度和对于显示器110的接近度中的一个或者这二者来确定扩展区域130A、130B内再现的内容。为了在某些情况下补偿这种事件,扩展区域130A、130B的物理上和/或时间上的远程区域的分辨率会降低,这是因为扩展区域130A、130B在物理上和/或时间上变得更远离显示器110上再现的图像。
在根据本系统的一个实施例中,诸如那些在Klompenhouwer专利中应用的自然运动技术可以被使用来在时间上预测:在显示器110上再现的视频帧之外什么是可见的。自然运动会跟踪场景中的物体,并且因此当物体移动离开屏幕(例如超出显示器110)时,推断帧外的物体运动。这样,就可以使用已经被提供的计算来确定提供给扩展区域130A、130B的内容,以使得能够平滑自然运动图像。
由于在一个实施例中,扩展区域中提供的图像可能分辨率低,因此有些模糊,较低的分辨率可以被提供在远程区域(如上所述)中以平衡为了想隐藏可能的推断的伪像(artifact)而提供的大量细节。在一个实施例中,以低分辨率执行图像/物体的跟踪、从而跟踪大物体的模糊版本或者所谓的物体斑点(blob)可能就足够了。可以以低的计算复杂度来执行物体斑点的跟踪,因为这可以在视频内容的缩减版本上被执行。例如,显示器110上显示的视频内容中的红色小汽车(当它移动离开屏幕时)可以作为扩展区域中的红色斑点继续。所以辅助显示器上的数据没必要是来自用于主显示器的图像当前环境的投影的准确低分辨率版本,而是对于物体和用于背景的全局构造的颜色轮廓,可以像比拟物体的一般形状(例如椭圆形状)的斑点形状那样简单(在足球场的例子中,对于较低的一半可以是倾斜的绿草地,以及对于上半部观众是暗淡的、可能统计上构造成的浅灰色区域,上面可以叠加低分辨率的颜色梯度,如果那是实际上近似存在于成像的观众背景中的话)。注意,对于下面将更详细描述的外围显示器来说,(透视)变形是可允许的,这是因为视觉是不敏锐的,可能只需要身临其境的感觉而已。因此,容易理解的是,在外围显示器中提供的扩展区域和/或图像中,透视变形的确定可以被应用到光图案(例如,特征、物体、背景等),通常被称作元素。在一个实施例中,背景元素可以没有透视变形地被呈现,而前景元素(例如汽车、演员等)则在确定元素以提供透视之后被变形(例如沿着由显示器110开始的一个角度伸展元素并且从那里向外发出(emanate))。
在一个实施例中,其中自然运动方案与光图案120A、120B的低分辨率组合,人们可以观察到已移动离开屏幕的物体已经出现在过去的视频帧中/将出现在未来的视频帧中,因此示出这种离开屏幕的物体类似于示出过去的/未来的图像内容,或者在一个实施例中,示出至少这样的孤立的内容/元素的简化近似/模型。因此一种非常低成本的实现是可能的,其中全局运动模型估算全局运动(从而实现跟踪),它确定应该取出在过去(或者将来)中多远的图像以便让扩展图像130A、130B中提供的图像基于它们。在这种情况下,确定扩展图像等同于延迟(或者前移)扩展图像(在很低分辨率的情况下是色彩),因为它们可以通过现有的环境照明系统被计算,其中可以通过由全局运动估计器进行的跟踪来确定延迟/提前量。通过缓存扩展图像而不是原始视频,需要很少的缓冲,并且可以在基本上不增加现有系统成本的情况下实现这种特征。
根据本系统的实施例,有利的可能是区分前景(例如前景物体252)和背景(例如背景物体254)物体、场景、或者通常是特征(例如利用诸如基于运动和闭塞(occlusion)的前景/背景检测算法,尽管可能容易地应用其它的合适的系统),以便分开地对那些进行跟踪,并且例如只基于前景或背景特征之一来计算扩展。在另一个实施例中,三维(3D)信息(例如,根据MPEG-C第三部分标准,以作为额外层传输的深度图形式)的存在可能有助于识别特征,这些特征是前景和背景,因此这些特征可以更容易地被跟踪并且被正确地定位在扩展区域中。
根据一个实施例,可以由主显示器硬件来执行扩展区域的处理,其中所得到的扩展光图案被传送给用于显示扩展光图案的任意的副显示器区域(例如,显示表面、显示器等)。在另一个实施例中,与主显示器相同的视频流可以被馈送给用于扩展区域的一个或多个处理器,其中一个或多个处理器中的每一个执行分析(或者它需要的部分),从而确定其自己用于再现的部分。在一个实施例中,系统的一种特定划分可以使跟踪和预测部分完全与显示器分开(例如在内容创建侧),从而扩展光图案(例如被参数化以允许扩展视觉化的不同大小和形状)与视频内容一起、例如以环境体验(AMBX)信息(例如脚本、软件引擎、架构等)的形式和/或以高级视频编码(AVC)标准中的补充增强信息(SEI)的形式传输。
若干种系统和/或方法可以被用于将扩展图像区域投射/提供到主显示器的环境中。虽然这里描述了特定的实施例,但是本领域普通技术人员很容易理解,也可以设想出其它同样落在本系统范围内的实施例。
在根据本系统的一个或多个实施例中,环境再现系统的一些部分可以构建到使用现有环境照明硬件的主显示器(例如主显示器的框(bezel))中,或者使用例如微型投影仪将现有硬件向更高分辨率扩展。
在一个实施例中,通过显示在主显示区域中当前提供的图像的恰当扩展(例如代替类似图像侧的当前色彩的色彩),只有先前描述的处理需要被添加到现有环境照明电视中来实现本系统。应当指出,本系统和现有环境照明方案略微不同地跟踪物体,因而在环境照明区域中提供不同的内容。在红色物体显示在绿色背景的情况下,当红色物体在现有环境照明电视上移动到屏幕外时,一旦红色物体移动到屏幕外,环境照明就将变绿。在根据本系统的一个实施例中,对应的环境照明效果(例如在扩展区域130A、130B之一中产生的)可以往后保持红色一会儿,从而表示红色物体移动超出主屏幕边界,这依赖于例如物体上次已知的运动、它移动到屏幕外之后为帧估算的全局运动和/或从基于物体的运动估计器获得的速度,这在例如通过引用方式被包括在此如同整体地陈述的下列文章中提供:2001年8月的IEEE Transactionson Consumer Electronics(IEEE消费型电子设备期刊),第559-567页中公开的、R.B.Wittebrood和G.de Haan的“Real-Time RecursiveMotion Segmentation of Video Data on a Programmable Device(可编程设备上视频数据的实时递归运动分段)”。根据本系统,示出该屏幕(例如显示器110)外图像/色彩的时间可以依赖于物体移动的速度(例如,相关运动矢量的大小,高速=短持续时间),而根据本系统的一个实施例,即使对于低的速度(例如物体的运动可能还没有将物体移动到扩展区域之外的速度),这些色彩(例如可归于红色汽车的)也可能过一会儿会褪色成一种默认的颜色(例如背景颜色)。容易理解,在某些实施例中,本系统的褪色可能对于很快离开扩展区域的快速移动物体来说太慢了。
现有环境照明系统可能已经由多个光源组成(例如以便提高光输出,并且在不同侧产生不同的色彩)。通过个别地控制每个光源,并且例如添加透镜和/或散射体(系统),低分辨率图像可以被投射到主显示器周围的环境中(例如显示器110的左、右、上和/或下面)。在进一步的实施例中,主显示器周围的天花板和/或地板也可以被显示器上存在的环境照明元件照亮和/或由远离主显示器的环境照明元件提供,诸如可以由专用的环境照明塔或组合的环境照明设备/扬声器提供。在一个实施例中,环境照明微型投影仪还可以采用分开的外设的形状(例如,可按照用户需求放置的独立微型投影仪箱)。可能容易理解的是,根据本系统,可以使用提供环境照明的其它系统。
图2示出了根据本系统的实施例的系统200的正视图。在一个实施例中,可以使用显示器210来提供低分辨率环境照明系统,所述显示器210可以是诸如基于液晶显示器(LCD)的显示器设备。在图2示出的实施例中,环境照明面板260A、260B中的一个或多个可以添加给显示器210。环境照明面板260A、260B可以作为外接附件被提供(例如在制造厂中被提供,或者由家庭用户例如经由总线和协议在买后(aftermarket)进行连接)。在一个实施例中,环境照明面板260A、260B可以包括诸如微型投影仪的环境光源250、个别的或者成组的发光二极管(LED)等。在一个实施例中,可以通过控制透镜/散射体系统240后面的LED的M×N阵列(例如RGB三元组)的单独的输出来提供构图的环境照明效果,该透镜/散射体系统240被提供来创建缩放的低分辨率图片。
在这个实施例中,环境光源250的输出是可配置的。例如,环境光源250可以被定位/重新定位以便选择环境光源照射的区域,例如可以由定位在显示器210后面/周围的墙或者被定位的反射屏来提供。在一个实施例中,还可以根据在显示器210与壁角之间形成的角度来手动和/或自动地调整透镜240来用于墙的投射。例如,在一个实施例中,微型投影仪可以被操作来附加到显示器上以便绕着垂直线可旋转。在一个自动调整的实施例中,环境光面板260A、260B可以包含照相机和/或其它系统用来确定显示器210与上面提供有环境照明效果的表面之间构成的角度,从而自动调整环境光源250的角度,以便提供扩展区域230A、230B。
根据本系统的一个实施例,视频内容的背景部分可以被分割成同类的区域斑点,诸如物体斑点270(例如在相对均匀的蓝色背景上的树)。可以使用许多合适的分割算法,例如基于色彩和/或纹理。在一个实施例中,可以用诸如元数据和/或其它辅助数据的更高场景描述信息来指导分割模型。在另一个实施例中,这个近似背景图案可以在显示器210的任一侧被重复(例如作为低分辨率周期的或者统计组织的图案),和/或通过在扩展区域230A、230B中的一个或二者中提供的给定环境照明效果的不同部分来重复。这样,可以例如只为扩展区域的一部分辨别特征和/或物体信息,并且例如可以以扩展区域230A、230B的规则的和/或不规则的间隔来重复所辨别的背景信息。根据一个实施例,SEI消息可以包括数据来通过识别背景和前景物体来指导分割,其可被用于提供分割指导以便获取合适的斑点。在另一个实施例中,分割可以被自动执行,这是因为周围的图像可以是相对低分辨率的图像。在另一个使用微型投影仪的实施例中,可以提供更高容量的环境照明成像。微型投影仪可以沿着环境照明面板260A、260B的实体部分延伸以便于所再现的图像/内容的扩展。
图3示出了说明根据本系统的一个实施例、使用环境光源350的环境照明系统300的细节的俯视图。举例来说,环境光源350可以包括一个或多个两维(2D,M×N)LED阵列或者可以包括一个或多个微型投影仪。正如从定位在显示器310前面的视点302所示出的,框312被提供,其实质上对观看者的有利位置(即视点302)隐藏了系统300的一些部分。诸如散射(微型)透镜的透镜(系统)340可以被提供来引导由环境光源350产生的散射的环境照明效果,被示出为辐射的环境光椎体342。在根据本系统的一个实施例中,可以例如是按照环境光源的每个像素列来产生辐射的光椎体。由环境光源350和透镜340的组合所产生的环境照明效果在所说明的实施例中从墙380反射开。当然,在另一个实施例中,环境光源350可以与显示器310分开被提供,例如由可操作地耦合到显示器310或者至少是耦合到显示在显示器310上的内容的源的单独投影设备或者微型投影设备来提供。
图4示出了根据本系统的一个实施例的说明性的身临其境的外围照明系统400。在示出的实施例中,说明性地示为外围显示器412A、412B、412C、412D的单独的副再现设备可以被使用来提供超出说明性地示为显示器410的主再现设备的多个扩展图像。在一个实施例中,单独的外围显示器412A、412B、412C、412D中的每一个可以由诸如单独的微型投影仪的单独的照明系统来照明,以便为用户提供身临其境的观看体验。在一个替代实施例中,外围显示器412A、412B、412C、412D中的一个或多个可以提供与投影系统无关的图像。单独的外围显示器412A、412B、412C、412D可以定位在一个观看者观看点(perspective)480周围,诸如在家庭健康方案中由健身自行车所提供的。在另一个实施例中,用户可被提供以身临其境的玩视频游戏的环境。
容易理解,虽然副再现设备被说明性地示为在主再现设备的左侧和右侧之间相等地间隔和分开,但是这纯粹是为了说明本系统而示出的。容易理解,副再现设备不需要对称地分布在主再现设备的左右。实际上,副再现设备可以以用户所希望的任何方式来定位和分散开。在另一个实施例中,副再现设备中的一个或多个可以定位在主再现设备的上面和/或下面。在同一个或者另一个实施例中,在主再现设备的一侧可以定位有比主再现设备的另一侧更多的副再现设备。如果希望的话,副再现设备可以被放置在主再现设备的一侧(上、下、左、右),而主再现设备的另一侧被排除。根据本系统,还可以使用更多或者更少的副再现设备。
在所示出的实施例中,在主显示器(例如等离子体显示面板(PDP))上为用户提供内容(例如视频),并且可以为外围显示器412A、412B、412C、412D提供、导出辅助内容等。在这个实施例中,由于外围显示器412A、412B、412C、412D将主要以用户的周边视觉观看,因此外围显示器412A、412B、412C、412D可以是相对低分辨率的,不过也可以提供更高分辨率的显示器,而所再现的内容应当(例如在位置上、时间上等)与主显示器上提供的内容相关。
在一个较小的房间中,外围显示器412A、412B、412C、412D可以固定到环绕观看者观看点的墙上。无论如何,外围显示器412A、412B、412C、412D都应当可操作地被定位(例如足够靠近观看者观看点480来定位),以便为用户再现外围视图。在一个替代实施例中,外围显示器412A、412B、412C、412D可以固定到其中提供了身临其境的外围照明系统400的房间的天花板上。在一个实施例中,可以提供吊线板490以便于外围显示器412A、412B、412C、412D的定位。面板可以被永久地定位,或者也可以被配置来使得能够在外围显示器412A、412B、412C、412D不被使用时定位成不阻挡通过房间的交通。
根据一个实施例,可以例如通过使用钩子和紧固件附着系统(例如VelcroTM)来将外围显示器412A、412B、412C、412D附着在围绕观看者观看点480(例如围绕椅子或家庭教练器)的期望位置中,从而使得能简单附着/分离以及布置。在一个实施例中,可以为外围显示器412A、412B、412C、412D提供旋转机构,诸如外围显示器412C、412D上说明性地示出的旋转机构412C、412D。当然,可以按照需要将旋转机构隐藏在天花板中。在这个实施例中,旋转机构使得能够在不被需要时,将外围显示器412C、412D容易地卷起、不挡道,或者在希望使用外围显示器412C、412D时,使它们落下。在一个替代实施例中,可以利用诸如说明性地附于外围显示器412A、412B上的铰接机构416A、416B这样的铰接机构将外围显示器附于天花板上。在这个实施例中,铰接机构416A、416B使得外围显示器412A、412B在不被使用时朝向天花板旋转收起,或者当希望使用外围显示器412A、412B时,将它们旋转放下。当然,其它用于安置外围显示器412A、412B、412C、412D的系统也可以适当地被应用并且甚至当希望使用身临其境的外围照明系统400时可以被自动化。
根据这个实施例,身临其境的外围照明系统400可以分析显示器410上提供的内容(例如基于内容的先前和后续帧)并且产生基本上与内容的先前和/或后续帧中提供的特征和物体相一致的区域或者斑点。在根据本系统的一个实施例中,身临其境的环境照明系统400可能还分析当前内容、或者代替内容的其它帧来分析当前内容,以便确定恰当的特征和斑点。
例如,前景汽车物体450可以被分割(例如使用3D深度图,其它额外数据,和/或自动地从内容本身)并且可以作为沿一个或多个外围显示器的模糊斑点而继续其路径。此外,背景特征(例如车行道)和物体(例如树木)可以类似地被描绘在一个或多个外围显示器412A、412B、412C、412D上。例如,在一个用于产生外围图像信息的算法的简单变体中,经过/越过的树木可以由简单的低频时空光调制来仿效,从而与主要显示器图像中的树木信息(例如周期性)相关。(类似的系统可以被应用于环境元素。)在一个实施例中,作为进一步继续进入到用户的周边视觉中的特征和/或物体来提供的特征和/或物体的细节(例如分辨率)可能减少,以便降低对于确定特征和/或物体的分析需求,和/或减少不希望的图像伪像。例如,当汽车物体450从外围显示器412C继续进行到外围显示器412D时,汽车物体450可从汽车物体(例如按步骤或者逐渐)改变成汽车斑点,或者汽车物体图像的分辨率可简单地被降低。外围显示器412A、412B、412C、412D中的每一个提供的细节中的类似降低可以当特征和/或物体进一步移动到观看者的外围视野中时被降低(例如对于外围显示器412A、412B从右到左,对于外围显示器412C、412D从左到右)。在一个实施例中,可以使外围显示器412B、412C能够提供比外围显示器412A、412D高的分辨率。这样,比起外围显示器412B、412C所用的,可能可以将更便宜的显示器用于外围显示器412A、412D,从而使得能够降低身临其境的外围照明系统400的成本。
根据本发明的一个实施例,身临其境的外围照明系统400(和/或具有环境照明元件的环境照明系统)可以被提供以外围显示器412A、412B、412C、412D的细节,以使得能够正确地确定呈现在外围显示器412A、412B、412C、412D上的特征和/或物体。例如,在一个实施例中,与显示器410相比,外围显示器412A、412B、412C、412D的尺寸可以被提供用于确定在外围显示器412A、412B、412C、412D上描绘/再现的特征和/或物体(例如用于继续汽车450的路径)。还可以提供其它参数来使得能够确定恰当的特征和/或物体、定位和/或它(们)的分辨率。根据一个实施例,诸如显示器分辨率、最大刷新速率、通信耦合的形式(例如有线、无线、光等)的外围显示器的显示能力也可以被手动和/或自动传送到本系统以便使得能够操作。例如,对于所具有的最大刷新速率小于主显示器的刷新速率的外围显示器来说,外围显示器上提供的特征和/或物体的刷新速率可以适当地被调整以便为较低的刷新速率做准备。例如,可以对于在主显示器上更新的每两个或更多的帧只更新一次在外围显示器上提供的帧。类似的调整可以被提供用于环境照明效果。这可以有一个额外的好处,就是减少对于提供环境和/或外围效果的计算需求。
在一个实施例中,在其中辅助数据被提供的情况下(例如,AMBX、AVC的SEI等),辅助数据可以被用于确定提供给副再现设备处的特征和/或物体。在这个实施例中,辅助数据可以减少在主显示器的位置的处理需求和/或可以被用于提供对于提供给副再现设备的特征和/或物体的精确确定。此外,辅助数据可以便于在外围显示器412A、412B、412C、412D上的特征、物体(例如详细的和/或斑点)的最佳定位,其可能是依赖于配置的。例如,在其中三个外围显示器被提供在任意一侧、在角度X上扩展的配置中,一个物体-诸如一条龙,如果它在中间的外围显示器、例如以特定的所确定角度(例如角度Y)被示出,或者大大“高于”用户被投射到天花板上,则可能看起来更可怕。对于同样的内容,在具有两个外围显示器的配置中,本系统的实施例可以例如使用辅助数据来得出:对于龙的最佳描绘是例如以角度Z在第二面(pane)上。
下面是辅助信号可如何通过参数来规定物体的位置的例子:
规则可以是例如:
在左侧可显示的扩展的中途(halfway),或
更复杂的规则,规定在主显示器外面的百分比(例如,根据主显示器的尺寸和分辨率/平面形状,但是也根据什么能够被显示在侧面板上(和/或由环境照明系统);和/或
一个或多个用于不同的副显示器配置的校正规则,例如,如果有三个侧面板存在和/或环绕用户的角度大于例如70或110度,则被确定为大约在中途的元素可以例如被重写到三分之二(例如以便放置在中间的侧面板上)。
在一个实施例中,局部的显示系统知道它的几何形状(例如面板布置、位置),因为用户已经通过使用在本系统的一个实施例中提供的恰当用户接口、在经家中配置之后粗略地测量和输入了2米高和50厘米宽的显示区域、距离主显示器最左侧50厘米(或者系统自动配置,诸如面板经由所包含的定位装置将尺寸和位置信息传送到系统)。在另一个实施例中,系统可以包括用于识别面板的尺寸和/或位置信息的视觉系统。
然后,系统可以应用一个映射来将物体显示为接近轮廓(profile)(例如在创作侧由内容艺术家为了获得最大化影响而提供的)中所指示的。例如,系统可以计算:在给定时间t对于汽车物体,在中途定位是对应于在第一个左外围显示器上的像素位置(1250,999)。
当然,根据一个实施例,系统可以忽略或校正所建议的/所提供的轮廓并且应用局部轮廓和/或由用户提供的轮廓。
此外,尽管在一个简化的版本中,根据一个实施例的系统可能仅在最明显可提取的物体(例如经过前景物体/元素的一个大物体/元素)上使用这种定位,但是,当然可能将有任何复杂度和/或多种复杂度的指导数据与(例如被包括在广播信号中的)内容相关联,从连同某背景数据一起投射到外围的粗略框开始,到给定以特定方式从所有接收的图像中可提取什么的情况下有关物体应当如何显现的非常准确的描述,和/或包括辅助校正数据(例如,对于龙移动通过外围显示器时它喷出的火焰,甚至是在这种额外数据绝对不会在图像组中的情况下)。因此,辅助数据甚至可以补充可从内容(例如图像帧)中确定的数据,并且提供附加数据以便添加元素和/或补充到元素以便将另外的值添加到被使能来再现附加数据的系统。
在根据本系统的一个实施例中,辅助数据还可以包括视频数据或用于校正/改善预测的视频数据的数据。例如,根据本系统的一个实施例,背景树可以被非常简单地总结为亮-暗(例如绿色)过渡,从而简化模拟在树下开车的阴影波动图案所需要的处理。这种模拟可以通过跟踪图像的区域而被执行(例如基于分割统计)。
外围显示器的一个或多个可以从光子学纺织品(photonic textile)来制造,诸如用可从皇家飞利浦电子N.V.获得的LumaliveTM光子学纺织品来制造。光子学纺织品被配置来发出图像,诸如低分辨率图像,因此可以用作外围显示器中的一个或多个。在一个实施例中,光子学纺织品可以用作外围显示器的一个或多个,并且还可以用于其它用途。例如,当根据实施例的系统可操作时,位于房间中的用光子学纺织品制造的窗帘可以经由诸如网络连接(例如有线、无线、光等)的耦合来链接并且同步到主显示器(例如显示器410)。当系统没有在操作时,光子学纺织品可以是不活动的,或者可以自主或者受控来显示其它图像。当然,容易理解,本系统的显示器的任何一个或多个可以类似地操作,而不管显示器是否是由光子学纺织品制造的。
在一个实施例中,显示器(例如环境照明显示器、外围显示器等)中的一个或多个可以被制造为电子墨水(e-ink)显示器或其它反射型显示器。这种例如作为外围显示器使用的显示器可以采取e-ink壁纸的形式。根据本系统,当系统可操作时,e-ink壁纸可以显示图像,并且当系统不可操作时,可以显示其它图像,诸如壁纸图案。在一个实施例中,e-ink照片帧和/或更大的帧可以作为一个或多个环境和/或外围显示器来操作。当不被主显示器控制来作为外围显示器操作时,帧可以示出油画和/或图片。根据本系统的一个实施例,可以以比主显示设备低的分辨率和低的刷新速率等来提供扩展图像,正如由显示器的显示性能确定的。
可以使用其它联网的图像源-诸如照片帧等,来作为外围显示器和/或环境照明源。联网的图像源可以通过自识别和/或自动查询系统而被自动添加到系统以便识别联网图像源的可用性和性能以及联网图像源的相对定位。这样,额外的图像和/或环境照明源可以被添加到系统或者从系统中清除,而无需麻烦的设置过程。在一个替代实施例中,可以执行一个一次设置过程,其中规定了显示特性、位置等。然后,主显示器可以自动链接到副显示器(例如外围显示器、环境照明显示器等)以便在需要时提供外围和/或环境照明效果。在一个实施例中,引入显示设备和/或具有显示器的设备和/或在系统的一个区域内的照明性能会启动在主显示器和/或设备上产生一个用户接口,以便使得能够将设备注册为现有的环境照明和/或外围成像系统的一部分。在一个实施例中,环境和外围照明效果的组合可以被提供,其中效果的一部分被提供作为环境照明效果,以及效果的一部分可以被提供为外围效果。在另一个变体中,根据本系统,副显示器还可以具有产生环境照明效果的能力。当然,根据本系统,其它组合也可以是很容易应用的。
在根据本系统的一个实施例中,在内容扩展到外围和/或环境设备期间,可能会出现伪像,这例如归因于在应用时的全局/局部运动模型的精确性的限制,这会使由外围和/或环境设备描绘的物体的分辨率、质量和/或位置降级。因此,可能希望被确定用于外围和/或环境设备的所有的“扩展数据”(例如用于驱动外围和/或环境照明设备的数据)都具有有限的时间持续性(persistence),从而有助于数据的某种程度的精确性。在一个实施例中,可以通过使用扩展数据的至少一部分以及诸如从当前描绘的内容帧中取得的数据这样的“典型的环境照明数据”来实现后退情节,用于驱动副设备。例如,在一个实施例中,从时间上靠近当前帧的帧中确定的扩展数据主要被用于确定由外围和/或环境设备在典型的环境照明数据上再现什么。不过,由于扩展数据的一个特定部分在时间上更加远离(老于)主显示器中当前描绘的数据(特征、物体、背景、前景等),所以典型的环境照明数据可以被逐渐用于例如通过递归过滤系统来替换变老的扩展数据。如果典型的环境照明数据不可用,则还可以使用缺省的色彩和/或照明。可以逐个特征和逐个物体地执行由副设备再现什么的这种替换。例如,甚至由单个扩展设备提供的扩展数据的一些部分也可能比扩展数据的其它部分“更新鲜”。因此,在根据本系统的一个实施例中,可以逐个特征和逐个物体地执行这种替代过程。此外,如果检测的场景发生变化,其中内容的在前部分的描绘部分由于场景变化而不再合适,则外围照明系统和/或环境照明系统可以使用主显示器上当前描绘的内容和/或缺省色彩(例如强度、色调、饱和度等)和/或照明来为副再现设备确定内容。
图5示出了根据本系统的一个实施例的系统500。该系统具有处理器510,其可操作地耦合到存储器520、主再现设备530、一个或多个副再现设备540和输入/输出(I/O)设备570。这里所使用的术语“再现设备”旨在涉及任何可以根据本系统再现内容的设备。因此,主再现设备可以是诸如电视设备这样的视频显示设备,而副再现设备可以是诸如环境照明设备和/或外围再现设备这样的设备。存储器520可以是任何类型的用于存储应用数据以及诸如内容帧数据这样的其它数据的设备。应用数据和诸如特征和物体数据这样的其它数据由处理器510接收用于配置处理器510来执行根据本系统的操作动作。根据本系统,操作动作包括控制显示器530中的至少一个来显示内容并且控制副再现设备。输入/输出570可以包括键盘、鼠标或其它设备,包括触敏显示器,它可以是独立的或者是系统的一部分,例如个人计算机、个人数字助理的一部分,也可以是诸如电视机这样的显示设备,经由诸如有线或者无线链路这样的任何类型的链路与处理器510通信。无疑,处理器510、存储器520、主再现设备530、副再现设备540和/或I/O设备570可以全部或者部分作为诸如基于电视的内容再现设备这样的电视平台的一部分。
本系统的方法特别适合由计算机软件程序来执行,这种计算机软件程序优选地含有对应于所述方法的个别的步骤或动作的模块。这种软件当然可以被嵌入在计算机可读介质中,该介质例如是集成芯片、外围设备或者存储器,诸如存储器520或其它耦合到处理器510的存储器。
计算机可读介质和/或存储器520可以是任何可记录介质(例如RAM、ROM、可移动存储器、CD-ROM、硬盘驱动器、DVD、软盘或者存储卡)或者可以是传输介质(例如包括光纤、万维网、电缆和/或无线信道的网络,所述无线信道例如使用时分多址接入、码分多址接入或其它射频信道)。任何能够存储和/或提供适合供计算机系统使用的信息的已知或者被开发的介质都可以被用作计算机可读介质和/或存储器520。
还可以使用附加的存储器。计算机可读介质、存储器520和/或任何其它的存储器可以是长期、短期或者长期和短期存储器的组合。这些存储器可以配置处理器510来实现这里公开的方法、操作动作和功能。存储器可以是分布式的或者本地的,处理器510-这里附加的处理器也可以被提供-也可以是分布式的,例如基于在主再现设备、和/或一个或多个副再现设备中,或者也可以是单数的。存储器可以被实现为电、磁或光存储器或者这些或其它类型存储设备的任何组合。此外,术语“存储器”应当被解释得足够广义,以便包含能够从处理器访问的可寻址空间中的地址读出的任何信息或者向该地址写入的任何信息。利用这个定义,例如网络上的信息也在存储器520中,这是因为处理器510可以从网络中检索信息以便根据本系统操作。
处理器510和存储器520可以是任何类型的处理器/控制器、微控制器和/或存储器。处理器510能够响应于来自I/O设备570的输入信号而提供控制信号和/或执行操作并且执行存储器520中存储的指令。处理器510可以是应用特定的或者通用的集成电路。此外,处理器510可以是用于根据本系统执行的专用的处理器,或者可以是通用处理器,其中许多功能中的仅一个功能操作来根据本系统执行。处理器510可以使用程序部分、多个程序段来操作,或者可以是使用专用或多用途集成电路的硬件设备。
当然,应当理解,根据本系统,上述实施例或者过程中的任何一个都可以与一个或多个其它实施例或过程组合。例如,尽管在这里是相对于环境照明系统或外围图像系统描述了某些系统、算法、技术,但是容易理解的是,这些中的许多都可以应用在任何一个系统和/或一个组合的系统中。
最后,上面的讨论旨在只是说明本系统,不应当被理解为使所附的权利要求限于任何特定的实施例或者实施例组。因此,虽然已经参考其具体的示范实施例特别地描述了本系统,但是还应当理解,在不偏离后面的权利要求中提出的本系统的更宽和预期的精神和范围的情况下,本领域普通技术人员可以设计大量的修改和替代实施例。例如,虽然在说明性的讨论中,环境照明元件和外围再现设备被说明为物理上与主显示设备分开的设备,但是这并不是旨在限制,除非特别指出。例如,在一个实施例中,主再现设备(例如主显示器)和副再现设备表示单个再现设备的一些部分。在这个实施例中,再现设备可以是大型再现设备,例如形成为基于墙的显示器的一部分。在这个实施例中,再现设备的不同部分可以作为主和副再现设备操作。进一步的修改也被预期在本系统的范围内。因此,应当以说明性的方式来看待说明书和附图,它们并非是打算来限制所附权利要求的范围。
在解释所附的权利要求书时,应当理解:
a)词语“包括”并不排除除了在给定权利要求中列出的那些之外的其它元素或动作的存在;
b)在元素之前的词语“一个”并不排除多个这种元素的存在;
c)权利要求书中的任何附图标记都不会限制它们的范围;
d)若干“装置”可以由相同的项目或硬件或软件实现的结构或功能来表示;
e)任何所公开的元件都可以由硬件部分(例如包括分立和集成电子电路)、软件部分(例如计算机程序设计)以及它们的组合来构成;
f)硬件部分可以由模拟和数字部分中的一个或者二者来构成;
g)任何所公开的设备或其各部分可以被组合在一起或者被分成更多的部分,除非另外特别指出;以及
h)不打算要求动作或者步骤的具体顺序,除非特别指出。