FR2687000A1 - Procede et dispositif de detection de vehicules et de marquages au sol. - Google Patents
Procede et dispositif de detection de vehicules et de marquages au sol. Download PDFInfo
- Publication number
- FR2687000A1 FR2687000A1 FR9201067A FR9201067A FR2687000A1 FR 2687000 A1 FR2687000 A1 FR 2687000A1 FR 9201067 A FR9201067 A FR 9201067A FR 9201067 A FR9201067 A FR 9201067A FR 2687000 A1 FR2687000 A1 FR 2687000A1
- Authority
- FR
- France
- Prior art keywords
- image
- captured
- images
- camera
- restitution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/24—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/30—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S11/00—Systems for determining distance or velocity not using reflection or reradiation
- G01S11/12—Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/143—Sensing or illuminating at different wavelengths
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/20—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
- H04N23/21—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from near infrared [NIR] radiation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/20—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming only infrared radiation into image signals
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/107—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/804—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- Toxicology (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Procédé de détection d'obstacles présents sur la trajectoire d'un véhicule à partir d'images de la chaussée captées par deux caméras (1, 2) équipées d'objectifs (3, 4) effectuant respectivement la même prise de vue, dans les domaines des rayonnements visibles, et du proche infrarouge, ces deux images étant traitées par différence pour former une troisième image ou image de restitution, relevant uniquement le contraste des obstacles détectés par rapport au paysage, caractérisé en ce que les deux prises de vue sont asservies à une mesure continue de l'éclairement de la chaussée.
Description
PROCèDE ET DISPOSrrIF DE DETECTION DE VEHICULES ET DE
MAROUAGES AU SOL
La présente invention se rapporte au domaine technique de l'aide à la conduite automobile. Plus précisément, elle concerne un procédé et un dispositif permettant de détecter et de visualiser des obstacles tels que les autres véhicules en stationnement ou en circulation sur la chaussée. Cette invention est particulièrement adaptée aux difficultés propres à la conduite dans des conditions de visiblité difficiles (nuit, brouillard...), sans que ces conditions en limitent l'application.
MAROUAGES AU SOL
La présente invention se rapporte au domaine technique de l'aide à la conduite automobile. Plus précisément, elle concerne un procédé et un dispositif permettant de détecter et de visualiser des obstacles tels que les autres véhicules en stationnement ou en circulation sur la chaussée. Cette invention est particulièrement adaptée aux difficultés propres à la conduite dans des conditions de visiblité difficiles (nuit, brouillard...), sans que ces conditions en limitent l'application.
Une technique connue pour détecter la présence d'obstacles sur le trajet d'un véhicule automobile, consiste à balayer la chaussée avec un faisceau radar à rayon laser de longueur d'onde comprise entre 600 nm et 900 nm, appelé faisceau LIDAR, ou avec un faisceau radar à hyperfréquence dont la fréquence est de l'ordre de 76 GHZ. Dans le cas du LIDAR, comme dans celui du radar à hyperfréquence, l'information fournie se limite à indiquer la présence d' obstacles sur la chaussée, tels que d'autres véhicules, sans spécifier leur position relative. Si, en cas de déplacement rectiligne, la position relative de l'obstacle détecté peut être déduite des coordonnées angulaires instantanées du faisceau intercepté, ce type de déduction devient totalement inopérent en virage, sauf à localiser l'obstacle détecté par d'autres moyens, et à recadrer l'image de celui-ci grâce à des repères appropriés.
La méthode dite "bispectrale", décrite dans la publication EP 0454 516 de la demanderesse repose sur le repérage des feux stop des véhicules se trouvant dans le champ de prospection. Cette méthode met en oeuvre deux caméras, dont la première est sensible aux rayonnements d'un domaine spectral couvrant l'infrarouge, mais plus large que celui-ci, tandis que la seconde capte les rayonnements visibles complétant l'infrarouge. Le traitement par différence des deux images captées conduit à une troisième image du champ ouvert au véhicule, relevant seulement le contraste de l'obstacle. L'application de ce procédé est toutefois d'une efficacité limitée, en raison de la variation fréquente de l'éclairement ambiant, impliquant notamment un réglage constant des objectifs et une modification des coefficients de pondération dans le traitement numérique des images.
La présente invention vise à perfectionner la méthode "bispectrale" en fournissant au conducteur une image simplifiée, indiquant toutefois avec précision la silhouette et la position de l'obstacle détecté.
Elle concerne un procédé de détection d'obstacles présents sur la trajectoire d'un véhicule à partir d'images de la chaussée captées par deux caméras équipées d'objectifs effectuant respectivement la même prise de vue, dans les domaines des rayonnements visibles, et du proche infrarouge, ces deux images étant traitées par différence pour former une troisième image ou image de restitution, relevant uniquement le contraste des obstacles détectés par rapport au paysage. Ce procédé est caractérisé en ce que les deux prises de vue sont asservies à une mesure continue de l'éclairement de la chaussée.
Selon un mode de réalisation de l'invention, les objectifs de chaque caméra sont asservis à une mesure continue de l'éclairement de la chaussée.
Selon un mode de réalisation de l'invention, chaque caméra possède un iris asservi à une mesure continue de l'éclairement de la chaussée.
Selon un mode de réalisation de l'invention, les images captées par chaque caméra sont numériques.
Selon un mode de réalisation de l'invention, les histogammes des deux images captées sont égalisées, de façon à pouvoir soustraire l'image captée dans le spectre visible, de l'image captée dans le proche infrarouge.
Selon un mode de réalisation de l'invention, l'image de restitution est filtrée, et on détermine un seuil lumineux d'affichage, fonction de l'éclairement de la chaussée, pour ne conserver sur l'image de restitution, que la silhouette des véhicules détectés et des marquages au sol.
Selon un mode de réalisation de l'invention, la silhouette des véhicules détectés et des marquages au sol est restituée au conducteur sous forme d'une signature, constituée de rectangles blancs sur fond noir.
Selon un mode de réalisation de l'invention, on détermine les maxima d'intensité de l'image de restitution, et on poursuit la signature des véhicules detectés, sur la base du déplacement de ces maxima dans l'image de restitution.
Selon un mode de réalisation de l'invention, pendant le temps de passage du véhicule effectuant la détection sous l'ombre des arbres défilant latéralement, on détermine la trajectoire des maxima uniquement à partir de l'image captée dans le spectre visible.
Selon un mode de réalisation de l'invention, le conducteur est averti par voie sonore de l'entrée d'un maximum à l'intérieur d'une zone de sécurité dans l'image, cette zone étant déterminée à partir de la vitesse propre du véhicule effectuant la détection et des conditions d'adhérence au sol.
Selon un mode de réalisation de l'invention, le signal sonore d'avertissement a une fréquence inversement proportionnelle à une mesure de l'éloignement de ce maximum.
L'invention concerne également un dispositif spécialement conçu pour la mise en oeuvre d'un procédé conforme à l'un quelconque des modes de réalisation précédents. Ce dispositif est caractérisé en ce qu'il comporte une unité centrale de traitement, reliée à une première caméra sensible aux rayonnements du domaine visible, et à une seconde caméra sensible aux rayonnements du proche infrarouge, dont les prises de vue sont asservies à un capteur d'éclairement également relié à l'unité centrale, en ce que chaque caméra est connectée à une unité de mémoire de trame, elle-même connectée à une unité de traitement d'image assurant sous le contrôle de i'unité centrale l'égalisation des histogrammes des deux images captées, et en ce qu'il comporte une unité de soustraction des images égalisées, reliée aux deux unités de mémoire de trame, un ensemble de filtrage disposé en sortie de l'unité de soustraction et une unité de visualisation de l'image de restitution après filtrage.
Selon un mode de réalisation de l'invention, l'ensemble de filtrage est constitué d'un filtre passif, associé en série avec un élément de seuillage de luminosité, asservi.
Selon un mode de réalisation de l'invention, le capteur d'éclairement est relié à l'unité centrale par l'intermédiaire d!un luminence-mètre, et ses informations sont exploitées par celle-ci d'une part pour l'asservissement des prises de vue et de l'élément de seuillage, et d'autre part comme paramètre de pondération dans l'algorithme de traitement des images.
Selon un mode de réalisation de l'invention, le dispositif comporte un avertisseur sonore, délivrant sous le contrôle de l'unité centrale, un signal relatant l'entrée d'un obstacle à l'intérieur d'une zone de sécurité dans l'image, déterminée.
L'invention sera mieux comprise à la lecture de la description suivante d'un mode de réalisation de celle-ci, en liaison avec les dessins annexés, sur lesquels:
- la figure 1 est un schéma électrique du système de détection de l'invention,
- la figure 2 est un organigramme récapitulatif du procédé de l'invention, et
- la figure 3 illustre le traitement d'image réalisé conformément à l'invention.
- la figure 1 est un schéma électrique du système de détection de l'invention,
- la figure 2 est un organigramme récapitulatif du procédé de l'invention, et
- la figure 3 illustre le traitement d'image réalisé conformément à l'invention.
Sur la figure 1, on a indiqué schématiquement la présence des deux caméras 1, 2 nécessaires à la mise en oeuvre de l'invention, ainsi que de leurs objectifs 3, 4 respectifs. La première caméra 3 est sensible aux rayonnements du spectre visible, par exemple entre 0,4 et 0,75 microns, tandis que la seconde caméra 4 saisit une image du même champ dans le spectre proche infrarouge, par exemple entre 0,6 et 1 micron. Les deux objectifs 3, 4 sont reliés à une unité centrale de traitement 5, recevant par ailleurs des informations sur la luminosité ambiante, en provenance d'un capteur 6, associé à un luminance-mètre 7. Le capteur 6 utilisé pourra avantageusement être un capteur à semi conducteur en silicium. Une caractéristique essentielle de l'invention consiste en ce que l'éclairement de la chaussée est mesuré en permanence par le capteur 6, de façon à asservir par l'intermédiaire de l'unité centrale 5, l'ouverture des objectifs 3, 4, ou l'iris électronique des caméras 1 et 2, à l'éclairement mesuré.
En effet, l'asservissement de l'ouverture des objectifs 3, 4, peut être remplacé par le procédé connu sous le nom d"'iris électronique", notamment dans le cas où la caméra est un capteur d'images du type CCD (Charge Coupled Device). Ce procédé consiste à modifier le temps d'exposition du capteur d'image ou à contrôler les charges dues à l'effet électro-optique au niveau des éléments du CCD de manière continue, en fonction de l'éclairement
La première caméra 1 est reliée à une unité de mémoire de trame "visible" 8, elle même raccordée à une unité de traitement d'image "visible" 9. De même, la seconde caméra 2 est reliée à une unité de mémoire de trame "infrarouge" 10, elle même reliée à une une unité de traitement d'image "infrarouge" 11. Les unités de traitement 9, 11 ont pour fonction d'égaliser l'histogramme de l'image captée dans le spectre visible avec celui de l'image captée dans le proche infrarouge. L'unité centrale 5 et les deux unités de mémoire de trame 8, 10 sont connectées à une unité de soustraction d'images 12. L'image résultant de ensemble des traitements et de la soustraction transite par un premier filtre 13 de type classique, puis par un second filtre 14, ou "filtre de seuillage" 14, pour apparaitre sur une unité de visualisation 15 disposée dans le champ de vision habituel du conductèur. Par ailleurs, l'unité centrale 5 est raccordée à un avertisseur sonore 16, dont la fonction est de signaler au conducteur la pénétration des obstacles détectés, à l'intérieur d'un périmètre de sécurité prélablement déterminé.
La première caméra 1 est reliée à une unité de mémoire de trame "visible" 8, elle même raccordée à une unité de traitement d'image "visible" 9. De même, la seconde caméra 2 est reliée à une unité de mémoire de trame "infrarouge" 10, elle même reliée à une une unité de traitement d'image "infrarouge" 11. Les unités de traitement 9, 11 ont pour fonction d'égaliser l'histogramme de l'image captée dans le spectre visible avec celui de l'image captée dans le proche infrarouge. L'unité centrale 5 et les deux unités de mémoire de trame 8, 10 sont connectées à une unité de soustraction d'images 12. L'image résultant de ensemble des traitements et de la soustraction transite par un premier filtre 13 de type classique, puis par un second filtre 14, ou "filtre de seuillage" 14, pour apparaitre sur une unité de visualisation 15 disposée dans le champ de vision habituel du conductèur. Par ailleurs, l'unité centrale 5 est raccordée à un avertisseur sonore 16, dont la fonction est de signaler au conducteur la pénétration des obstacles détectés, à l'intérieur d'un périmètre de sécurité prélablement déterminé.
Le fonctionnement de ce dispositif, résumé par l'organigramme de la figure 2, est le suivant. Comme indiqué plus haut, la commande de l'ouverture des objectifs 3, 4 est gérée par l'unité centrale 5, en fonction de 11 éclairement de la scène, quantifié par cette meme unité centrale, 5 sur la base des informations transmises par le capteur 6 et le luminance-mètre 7. L'éclairement de la scène est également exploité comme, paramètre de pondération dans l'algorithme de traitement d'images, notamment pour modifier l'histogramme des images captées par les caméras 1 2, et pour fixer le seuil imposé par le second filtre, ou filtre de seuillage 14.
Les deux images superposées de la chaussée, acquises sous forme numérique par les caméras, l'une dans le spectre visible, et l'autre dans le proche infrarouge, sont mémorisées dans les deux unités de mémoire de trame 8, 10. En liaison avec l'unité centrale 5, les deux unités de traitement d'image 9, 11 procèdent à une égalisation de l'histogramme de l'image captée dans le spectre visible par celui de l'image captée dans le proche infrarouge.
Toujours sous le contrôle de l'unité centrale 5, l'unité de soustraction 12 effectue un traitement par différence des deux images ainsi égalisées, pour former une troisième image, ou image de restitution, relevant seulement le contraste des obstacles détectés, par rapport au paysage.
Le filtrage d'image effectué par le premier filtre 13 ou filtre passif est un filtrage classique. En revanche, le second filtre 14 impose un seuil de transmission d'image qui est fonction de la mesure d'éclairement de la chaussée. Le résultat de ce double filtrage est que l'image de restitution ne comporte plus que la silhouette des véhicules détectés, et celle des marquage au sol . L'image perçue par le conducteur, reproduite sur la partie droite de la figure 3 ("RESULT"), est binaire, la silhouette des partie droite de la figure 3 ("RESULT"), est binaire, la silhouette des véhicules et les marquages constituant des signatures sous forme de simples rectangles blancs sur fond noir. Dans le cas général, la signature d'un véhicule en image binaire ainsi obtenue, se résume à deux rectangles blancs sur fond noir, correspondant à sa carrosserie vue de l'arrière.
Lorsqu'un obstacle a été détecté, le dispositif de l'invention est capable de suivre celui-ci de façon à prolonger la transmission d'informations au conducteur, sous forme binaire. Cette opération, constituant une véritable "poursuite de signature" des véhicules détectés, consiste tout d'abord à rechercher les coordonnées du maximum d'intensité de l'obstacle. Bien entendu, ce maximum ne correspond pas forcément au centre géomètrique de l'obstacle. Pour éviter de focaliser la poursuite sur l'ombre du véhicule au lieu de la focaliser sur le véhicule lui-même, il est en effet nécessaire de ne pas "trainer" dans la poursuite, la signature due à l'ombre du véhicule.
Le dispositif de l'invention a en outre la capacité d'être indifférent au défilement des ombres des arbres sur les bords de la chaussée. A cet effet, l'unité centrale 5 impose temporairement au dispositif d'accrocher le maximum d'intensité de l'obstacle sur l'image captée dans le spectre visible, de façon à prévoir sur la base du déplacement de ce maximum, le déplacement du maximum d'intensité de l'image binaire résultant du traitement habituel. Cette faculté permet au dispositif de suivre en temps réel l'image des véhicules et celle des marquages au sol, sans être perturbéee par les zones d'ombre.
En fonction de la vitesse propre du véhicule équipé du dispositif de détection de l'invention, et des conditions d'adhérence au sol, l'unité centrale S détermine enfin une zone, dite "zone de sécurité dans l'image".
Le déplacement relatif des maxima d'intensité détectés, par rapport au véhicule équipé est surveillé de façon à avertir le conducteur que l'obstacle détecté pénètre dans la zone de sécurité. Une solution particulièrement avantageuse consiste à avertir le conducteur au moyen d'un signal sonore dont la fréquence est inversement proportionnelle à une mesure de l'éloignement de de ce maximum dans l'image. Cette mesure peut par exemple être constituée par l'ordonnée cartésienne du maximum dans un repère ayant pour axe d'abcisses un axe transversal à la direction de déplacement. Ce type de signal constitue en effet l'interface la plus efficace du point de vue de la sécurité, entre l'homme et la machine.
En conclusion, l'invention permet au conducteur de détecter et de suivre les obstacles surgissant sur sa trajectoire, tout en évaluant leurs positons, relatives aux marquages. De plus, le conducteur est averti par voie sonore de la proximité des obstacles, avec son véhicule. Cette invention présente donc des qualités de fiabilité et de précision, inconnus des sytèmes existants.
Claims (16)
1) Procédé de détection d'obstacles présents sur la trajectoire d'un véhicule à partir d'images de la chaussée captées par deux caméras (1, 2) équipées d'objectifs (3, 4) effectuant respectivement la même prise de vue, dans les domaines des rayonnements visibles, et du proche infrarouge, ces deux images étant traitées par différence pour former une troisième image ou image de restitution, relevant uniquement le contraste des obstacles détectés par rapport au paysage, caractérisé en ce que les deux prises de vue sont asservies à une mesure continue de l'éclairement de la chaussée.
2) Procédé de détection d'obstacles selon la revendication 1, caractérisé en ce que les objectifs (3, 4) de chaque caméra (1, 2) sont asservis à une mesure continue de l'éclairement de la chaussée.
3) Procédé de détection d'obstacles selon la revendication 1, caractérisé en ce que chaque caméra possède un iris électronique asservi à une mesure continue de l'éclairement de la chaussée.
4) Procédé de détection d'obstacles selon, les revendications 1, 2 ou 3, caractérisé en ce que les images captées par chaque caméra (1, 2) sont numériques.
5) Procédé de détection d'obstacles selon l'une des revendications I à 4, caractérisé en ce que les histogammes des deux images captées sont égalisées de façon à pouvoir soustraire l'image captée dans le spectre visible, de l'image captée dans le proche infrarouge.
6) Procédé de détection d'images selon l'une des revendications 1, à 5, caractérisé en ce que l'image de restitution est filtrée, et en ce qu'on détermine un seuil lumineux d'affichage, fonction de l'éclairement de la chaussée, pour ne conserver sur l'image de restitution, que la silhouette des véhicules détectés et des marquages au sol.
7) Procédé de détection selon la revendication 6, caractérisé en ce que la silhouette des véhicules détectés et des marquages au sol, est restituée au conducteur sous forme d'une signature, constituée de rectangles blancs sur fond noir.
8) Procédé de détection d'obstacles selon la revendication 7, caractérisé en ce qu'on détermine les maxima d'intensité de l'image de restitution, et en ce qu'on poursuit la signature des véhicules détectés, sur la base du déplacement de ces maxima dans l'image de restitution.
9) Procédé de détection d'obstacles selon la revendication 8, caractérisé en ce que pendant le temps de passage du véhicule effectuant la détection sous l'ombre des arbres défilant latéralement, on détermine la trajectoire des maxima uniquement à partir de l'image captée dans le spectre visible.
10) Procédé de détection selon les revendications 8 ou 9, caractérisé en ce que le conducteur est averti par voie sonore de l'entrée d'un maximum à l'intérieur d'une zone de sécurité dans l'image, cette zone étant déterminée à partir de la vitesse propre du véhicule effectuant la détection et des conditions d'adhérence au sol.
11) Procédé de détection selon la revendication 10, caractérisé en ce que le signal sonore d'avertissement présente une fréquence inversement proportionnelle à une mesure de l'éloignement de ce maximum.
12) Dispositif de détection d'obstacles spécialement conçu pour la mise en oeuvre d'un procédé conforme à l'une quelconque des revendications précédentes, caractérisé en ce qu'il comporte une unité centrale de traitement (5), reliée à une première caméra (1) sensible aux rayonnements du domaine visible, et à une seconde caméra (2) sensible aux rayonnements du proche infrarouge, dont les prises de vue sont asservies à un capteur d'éclairement (6) également relié à l'unité centrale (5), en ce que chaque caméra (1, 2) est connectée à une unité de mémoire de trame (8, 10), elle-même connectée à une unité de traitement d'image (9, 11) assurant sous le contrôle de l'unité centrale (5), l'égalisation des histogrammés des deux images captées, en ce qu'il comporte une unité de soustraction (12) des images égalisées, reliée aux deux unités de mémoire de trame (8,
10), un ensemble de filtrage (13, 14) disposé en sortie de l'unité de soustraction (12), et une unité de visualisation (15) de l'image de restitution après filtrage.
13) Dispositif de détection d'obstacles selon la revendication 12, caractérisé en ce que l'ensemble de filtrage (13, 14) est constitué d'un filtre passif (13), associé en série avec un élément de seuillage de luminosité (14), asservi.
14) Dispositif de détection d'obstacles selon la revendication 13, caractérisé en ce que le capteur d'éclairement (6) est relié à l'unité centrale (5) par l'intermédiaire d'un luminence-mètre (7) et en ce que ses informations sont exploitées par celle-ci d'une part pour l'asservissement des prises de vue et de l'élément de seuillage (14), et d'autre part comme paramètre de pondération dans l'algorithme de traitement des images.
15) Dispositif de détection d'obstacles selon les revendications 12, 13 ou 14, caractérisé en ce qu'il comporte un avertisseur sonore (16), délivrant sous le contrôle de l'unité centrale (5), un signal relatant l'entrée d'un obstacle à l'intérieur d'une zone de sécurité d'image, déterminée.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| FR9201067A FR2687000A1 (fr) | 1992-01-31 | 1992-01-31 | Procede et dispositif de detection de vehicules et de marquages au sol. |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| FR9201067A FR2687000A1 (fr) | 1992-01-31 | 1992-01-31 | Procede et dispositif de detection de vehicules et de marquages au sol. |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| FR2687000A1 true FR2687000A1 (fr) | 1993-08-06 |
| FR2687000B1 FR2687000B1 (fr) | 1995-04-28 |
Family
ID=9426194
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| FR9201067A Granted FR2687000A1 (fr) | 1992-01-31 | 1992-01-31 | Procede et dispositif de detection de vehicules et de marquages au sol. |
Country Status (1)
| Country | Link |
|---|---|
| FR (1) | FR2687000A1 (fr) |
Cited By (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| FR2711593A1 (fr) * | 1993-10-25 | 1995-05-05 | Daimler Benz Ag | Dispositif de surveillance de l'espace arrière, respectivement avant d'un véhicule automobile en manÓoeuvre de stationnement. |
| FR2753422A1 (fr) * | 1996-09-19 | 1998-03-20 | Renault Vehicules Ind | Dispositif de retrovision directe par camera pour vehicule |
| WO2001021438A1 (fr) * | 1999-09-23 | 2001-03-29 | Bayerische Motoren Werke Aktiengesellschaft | Dispositif de capteurs automobiles pour detection de l'environnement |
| GB2389989A (en) * | 2001-03-28 | 2003-12-24 | Hewlett Packard Co | Camera with correction for infra-red response |
| WO2003107067A3 (fr) * | 2002-06-18 | 2004-04-08 | Bayerische Motoren Werke Ag | Procede et dispositif de visualisation de l'environnement d'un vehicule par la fusion d'une image infrarouge et d'une representation visuelle en fonction de distances |
| WO2004070449A1 (fr) * | 2003-02-06 | 2004-08-19 | Bayerische Motoren Werke Aktiengesellschaft | Procede et dispositif pour rendre visible l'environnement d'un vehicule au moyen d'une fusion dependant de l'environnement, entre une image infrarouge et une image visuelle |
| WO2006082502A1 (fr) * | 2005-02-04 | 2006-08-10 | Fico Mirrors, Sa | Procede et systeme destines a ameliorer la supervision d'un environnement exterieur d'un vehicule automobile |
| EP1400916A3 (fr) * | 2002-09-12 | 2007-01-03 | Hitachi, Ltd. | Dispositif embarqué de traitement des images |
| US7365771B2 (en) | 2001-03-28 | 2008-04-29 | Hewlett-Packard Development Company, L.P. | Camera with visible and infra-red imaging |
| US7834905B2 (en) | 2002-06-18 | 2010-11-16 | Bayerische Motoren Werke Aktiengesellschaft | Method and system for visualizing the environment of a vehicle with a distance-dependent merging of an infrared and a visual image |
| CN106056594A (zh) * | 2016-05-27 | 2016-10-26 | 四川桑莱特智能电气设备股份有限公司 | 一种基于双光谱的可见光图像提取系统与方法 |
| US9609289B2 (en) | 2004-04-15 | 2017-03-28 | Magna Electronics Inc. | Vision system for vehicle |
| US9643605B2 (en) | 2002-05-03 | 2017-05-09 | Magna Electronics Inc. | Vision system for vehicle |
| US10071676B2 (en) | 2006-08-11 | 2018-09-11 | Magna Electronics Inc. | Vision system for vehicle |
| CN109552319A (zh) * | 2018-12-07 | 2019-04-02 | 南京航空航天大学 | 一种夜间智能辅助驾驶系统及方法 |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6822563B2 (en) | 1997-09-22 | 2004-11-23 | Donnelly Corporation | Vehicle imaging system with accessory control |
| US5877897A (en) | 1993-02-26 | 1999-03-02 | Donnelly Corporation | Automatic rearview mirror, vehicle lighting control and vehicle interior monitoring system using a photosensor array |
| US6891563B2 (en) | 1996-05-22 | 2005-05-10 | Donnelly Corporation | Vehicular vision system |
| US7655894B2 (en) | 1996-03-25 | 2010-02-02 | Donnelly Corporation | Vehicular image sensing system |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4437111A (en) * | 1981-01-16 | 1984-03-13 | Matsushita Electric Industrial Co., Ltd. | Color television camera |
| WO1986005890A1 (fr) * | 1985-04-01 | 1986-10-09 | Hughes Aircraft Company | Dispositif video de poursuite a deux modes de fonctionnement |
| US4868652A (en) * | 1980-08-19 | 1989-09-19 | Elliott Brothers (London) Limited | Head of display arrangements |
| EP0352831A1 (fr) * | 1988-06-24 | 1990-01-31 | Laboratoires D'electronique Philips | Système de télévision à bas niveau de lumière générant des images colorées |
| EP0392953A1 (fr) * | 1989-04-13 | 1990-10-17 | Jean-Marie Tresse | Centrale électronique microprogrammable d'alarme anti-collision et d'aide à la conduite pour véhicules automobiles routiers |
| EP0412886A1 (fr) * | 1989-08-08 | 1991-02-13 | Thomson-Csf | Système de prise de vues bispectrales et de visualisation en fausses couleurs |
| US5001558A (en) * | 1985-06-11 | 1991-03-19 | General Motors Corporation | Night vision system with color video camera |
| EP0454516A1 (fr) * | 1990-04-20 | 1991-10-30 | Regie Nationale Des Usines Renault S.A. | Dispositif de visualisation d'obstacles, notamment pour véhicule automobile |
-
1992
- 1992-01-31 FR FR9201067A patent/FR2687000A1/fr active Granted
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4868652A (en) * | 1980-08-19 | 1989-09-19 | Elliott Brothers (London) Limited | Head of display arrangements |
| US4437111A (en) * | 1981-01-16 | 1984-03-13 | Matsushita Electric Industrial Co., Ltd. | Color television camera |
| WO1986005890A1 (fr) * | 1985-04-01 | 1986-10-09 | Hughes Aircraft Company | Dispositif video de poursuite a deux modes de fonctionnement |
| US5001558A (en) * | 1985-06-11 | 1991-03-19 | General Motors Corporation | Night vision system with color video camera |
| EP0352831A1 (fr) * | 1988-06-24 | 1990-01-31 | Laboratoires D'electronique Philips | Système de télévision à bas niveau de lumière générant des images colorées |
| EP0392953A1 (fr) * | 1989-04-13 | 1990-10-17 | Jean-Marie Tresse | Centrale électronique microprogrammable d'alarme anti-collision et d'aide à la conduite pour véhicules automobiles routiers |
| EP0412886A1 (fr) * | 1989-08-08 | 1991-02-13 | Thomson-Csf | Système de prise de vues bispectrales et de visualisation en fausses couleurs |
| EP0454516A1 (fr) * | 1990-04-20 | 1991-10-30 | Regie Nationale Des Usines Renault S.A. | Dispositif de visualisation d'obstacles, notamment pour véhicule automobile |
Cited By (48)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5646614A (en) * | 1993-10-25 | 1997-07-08 | Mercedes-Benz Ag | System for monitoring the front or rear parking space of a motor vehicle |
| FR2711593A1 (fr) * | 1993-10-25 | 1995-05-05 | Daimler Benz Ag | Dispositif de surveillance de l'espace arrière, respectivement avant d'un véhicule automobile en manÓoeuvre de stationnement. |
| FR2753422A1 (fr) * | 1996-09-19 | 1998-03-20 | Renault Vehicules Ind | Dispositif de retrovision directe par camera pour vehicule |
| EP0830985A1 (fr) * | 1996-09-19 | 1998-03-25 | RENAULT VEHICULES INDUSTRIELS Société dite: | Dispositif de rétrovision directe par caméra pour véhicule |
| US6840342B1 (en) | 1999-09-23 | 2005-01-11 | Bayerische Motoren Werke Aktiengesellschaft | Sensor device for a motor vehicle used for detecting environmental parameters |
| WO2001021438A1 (fr) * | 1999-09-23 | 2001-03-29 | Bayerische Motoren Werke Aktiengesellschaft | Dispositif de capteurs automobiles pour detection de l'environnement |
| GB2389989A (en) * | 2001-03-28 | 2003-12-24 | Hewlett Packard Co | Camera with correction for infra-red response |
| GB2389989B (en) * | 2001-03-28 | 2004-02-18 | Hewlett Packard Co | Camera with correction for infra-red response |
| US7365771B2 (en) | 2001-03-28 | 2008-04-29 | Hewlett-Packard Development Company, L.P. | Camera with visible and infra-red imaging |
| US10683008B2 (en) | 2002-05-03 | 2020-06-16 | Magna Electronics Inc. | Vehicular driving assist system using forward-viewing camera |
| US10351135B2 (en) | 2002-05-03 | 2019-07-16 | Magna Electronics Inc. | Vehicular control system using cameras and radar sensor |
| US11203340B2 (en) | 2002-05-03 | 2021-12-21 | Magna Electronics Inc. | Vehicular vision system using side-viewing camera |
| US10118618B2 (en) | 2002-05-03 | 2018-11-06 | Magna Electronics Inc. | Vehicular control system using cameras and radar sensor |
| US9834216B2 (en) | 2002-05-03 | 2017-12-05 | Magna Electronics Inc. | Vehicular control system using cameras and radar sensor |
| US9643605B2 (en) | 2002-05-03 | 2017-05-09 | Magna Electronics Inc. | Vision system for vehicle |
| US7834905B2 (en) | 2002-06-18 | 2010-11-16 | Bayerische Motoren Werke Aktiengesellschaft | Method and system for visualizing the environment of a vehicle with a distance-dependent merging of an infrared and a visual image |
| EP1775619A3 (fr) * | 2002-06-18 | 2008-04-02 | Bayerische Motorenwerke Aktiengesellschaft | Procede et dispositif de visualisation de l'environnement d'un vehicule par la fusion d'une image infrarouge et d'une representation visuelle en fonction de distances |
| EP1788420A3 (fr) * | 2002-06-18 | 2008-04-02 | Bayerische Motorenwerke Aktiengesellschaft | Procédé et dispositif destinés à rendre visible l'environnement d'un véhicule à l'aide de la fusion d'une reproduction visuelle et à infrarouge |
| EP1801632A3 (fr) * | 2002-06-18 | 2008-04-02 | Bayerische Motorenwerke Aktiengesellschaft | Procédé et dispositif destinés à rendre visible l'environnement d'un véhicule à l'aide de la fusion d'une reproduction visuelle et à infrarouge |
| WO2003107067A3 (fr) * | 2002-06-18 | 2004-04-08 | Bayerische Motoren Werke Ag | Procede et dispositif de visualisation de l'environnement d'un vehicule par la fusion d'une image infrarouge et d'une representation visuelle en fonction de distances |
| EP1400916A3 (fr) * | 2002-09-12 | 2007-01-03 | Hitachi, Ltd. | Dispositif embarqué de traitement des images |
| CN100401129C (zh) * | 2003-02-06 | 2008-07-09 | 宝马股份公司 | 用于以红外图像和可见图像与环境相关的结合来显示车辆环境的方法和装置 |
| WO2004070449A1 (fr) * | 2003-02-06 | 2004-08-19 | Bayerische Motoren Werke Aktiengesellschaft | Procede et dispositif pour rendre visible l'environnement d'un vehicule au moyen d'une fusion dependant de l'environnement, entre une image infrarouge et une image visuelle |
| US7199366B2 (en) | 2003-02-06 | 2007-04-03 | Bayerische Moteren Werke Aktiengesellschaft | Method and device for visualizing a motor vehicle environment with environment-dependent fusion of an infrared image and a visual image |
| US9736435B2 (en) | 2004-04-15 | 2017-08-15 | Magna Electronics Inc. | Vision system for vehicle |
| US9609289B2 (en) | 2004-04-15 | 2017-03-28 | Magna Electronics Inc. | Vision system for vehicle |
| US10735695B2 (en) | 2004-04-15 | 2020-08-04 | Magna Electronics Inc. | Vehicular control system with traffic lane detection |
| US9948904B2 (en) | 2004-04-15 | 2018-04-17 | Magna Electronics Inc. | Vision system for vehicle |
| US10015452B1 (en) | 2004-04-15 | 2018-07-03 | Magna Electronics Inc. | Vehicular control system |
| US11503253B2 (en) | 2004-04-15 | 2022-11-15 | Magna Electronics Inc. | Vehicular control system with traffic lane detection |
| US10110860B1 (en) | 2004-04-15 | 2018-10-23 | Magna Electronics Inc. | Vehicular control system |
| US10462426B2 (en) | 2004-04-15 | 2019-10-29 | Magna Electronics Inc. | Vehicular control system |
| US10187615B1 (en) | 2004-04-15 | 2019-01-22 | Magna Electronics Inc. | Vehicular control system |
| US11847836B2 (en) | 2004-04-15 | 2023-12-19 | Magna Electronics Inc. | Vehicular control system with road curvature determination |
| US10306190B1 (en) | 2004-04-15 | 2019-05-28 | Magna Electronics Inc. | Vehicular control system |
| ES2258399A1 (es) * | 2005-02-04 | 2006-08-16 | Fico Mirrors, S.A. | Metodo y sistema para mejorar la supervision de un ambiente exterior de un vehiculo automovil. |
| US8044789B2 (en) | 2005-02-04 | 2011-10-25 | Fico Mirrors, S.A. | Method and system for improving the monitoring of the external environment of a motor vehicle |
| WO2006082502A1 (fr) * | 2005-02-04 | 2006-08-10 | Fico Mirrors, Sa | Procede et systeme destines a ameliorer la supervision d'un environnement exterieur d'un vehicule automobile |
| ES2258399B1 (es) * | 2005-02-04 | 2007-11-16 | Fico Mirrors, S.A. | Metodo y sistema para mejorar la supervision de un ambiente exterior de un vehiculo automovil. |
| US10787116B2 (en) | 2006-08-11 | 2020-09-29 | Magna Electronics Inc. | Adaptive forward lighting system for vehicle comprising a control that adjusts the headlamp beam in response to processing of image data captured by a camera |
| US11148583B2 (en) | 2006-08-11 | 2021-10-19 | Magna Electronics Inc. | Vehicular forward viewing image capture system |
| US11396257B2 (en) | 2006-08-11 | 2022-07-26 | Magna Electronics Inc. | Vehicular forward viewing image capture system |
| US10071676B2 (en) | 2006-08-11 | 2018-09-11 | Magna Electronics Inc. | Vision system for vehicle |
| US11623559B2 (en) | 2006-08-11 | 2023-04-11 | Magna Electronics Inc. | Vehicular forward viewing image capture system |
| US11951900B2 (en) | 2006-08-11 | 2024-04-09 | Magna Electronics Inc. | Vehicular forward viewing image capture system |
| CN106056594A (zh) * | 2016-05-27 | 2016-10-26 | 四川桑莱特智能电气设备股份有限公司 | 一种基于双光谱的可见光图像提取系统与方法 |
| CN109552319A (zh) * | 2018-12-07 | 2019-04-02 | 南京航空航天大学 | 一种夜间智能辅助驾驶系统及方法 |
| CN109552319B (zh) * | 2018-12-07 | 2023-07-25 | 南京航空航天大学 | 一种夜间智能辅助驾驶系统及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| FR2687000B1 (fr) | 1995-04-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| FR2687000A1 (fr) | Procede et dispositif de detection de vehicules et de marquages au sol. | |
| US10257432B2 (en) | Method for enhancing vehicle camera image quality | |
| CN100420592C (zh) | 自动汽车外部灯光控制系统 | |
| JP4210431B2 (ja) | 光を通す窓ガラスの上にある物体を検出する方法と装置 | |
| EP0687594B1 (fr) | Procédé et dispositif de détection de brouillard ou de fumée dans un champ de l'environnement d'un véhicule automobile | |
| EP2056093B1 (fr) | Procédé de détection d'un phénomène perturbateur de visibilité pour un véhicule | |
| EP2061006B1 (fr) | Procédé de détection d'un phénomène perturbateur de visibilité pour un véhicule | |
| EP2020595A1 (fr) | Procédé de détection par un véhicule d'un phénomène perturbateur de visibilité | |
| KR20150038032A (ko) | 스테레오 게이트된 영상 시스템 및 방법 | |
| JP2005515565A (ja) | 画像センサシステムにおける視界妨害物の識別方法および識別装置 | |
| JP2001028050A (ja) | 歩行者検知装置 | |
| EP0454516A1 (fr) | Dispositif de visualisation d'obstacles, notamment pour véhicule automobile | |
| FR2940205A1 (fr) | Procede de commutation du mode d'eclairage de projecteurs pour vehicule automobile. | |
| US7612798B2 (en) | Photographing system for a moving apparatus | |
| CN111756987B (zh) | 一种车载摄像头的控制方法、装置及车载图像捕捉系统 | |
| FR2902556A1 (fr) | Procede de determination d'une distance de visibilite pour un conducteur d'un vehicule. | |
| US20050231725A1 (en) | Method and device for visual range measurements with image sensor systems | |
| CN112419635B (zh) | 融合光栅和视频的周界报警方法 | |
| EP1024050A1 (fr) | Dispositif d'aide à la conduite d'un véhicule automobile | |
| JP7077282B2 (ja) | インテリジェント路側ユニットおよびその情報処理方法 | |
| KR101823655B1 (ko) | 영상을 이용한 차량 침입 검출 시스템 및 방법 | |
| CN117584853A (zh) | 车辆及其控制方法 | |
| JP4464574B2 (ja) | 路面状態判別方法およびその装置 | |
| FR2867594A1 (fr) | Procede et systeme d'identification d'un vehicule en deplacement | |
| US11025834B2 (en) | Method and device for improving camera images for driver assistance systems |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| ST | Notification of lapse |