DE102019000439A1 - Method for calibrating a vehicle camera - Google Patents
Method for calibrating a vehicle camera Download PDFInfo
- Publication number
- DE102019000439A1 DE102019000439A1 DE102019000439.6A DE102019000439A DE102019000439A1 DE 102019000439 A1 DE102019000439 A1 DE 102019000439A1 DE 102019000439 A DE102019000439 A DE 102019000439A DE 102019000439 A1 DE102019000439 A1 DE 102019000439A1
- Authority
- DE
- Germany
- Prior art keywords
- vehicle
- environment
- images
- camera
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 12
- 230000007613 environmental effect Effects 0.000 claims abstract description 21
- 238000000605 extraction Methods 0.000 claims description 2
- 230000011218 segmentation Effects 0.000 claims description 2
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C25/00—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Fahrzeugkamera (2) eines Fahrzeugs, wobei mittels der Fahrzeugkamera (2) Bilder (B) einer Fahrzeugumgebung erfasst werden. Erfindungsgemäß werden die Bilder (B) während eines Stillstands des Fahrzeugs erfasst und als Bildmotiv wird zumindest ein markantes Umgebungsobjekt gewählt, wobei aus den Bildern (B) Bildmerkmale extrahiert werden, aus den extrahierten Bildmerkmalen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster (U) gebildet wird, zumindest ein gebildetes spezifisches Umgebungsmuster (U) mit zumindest einem in einer Datenbank (4) hinterlegten Soll-Umgebungsmuster (Us) verglichen wird und anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster (U) und dem Soll-Umgebungsmuster (Us) die Fahrzeugkamera (2) kalibriert wird. The invention relates to a method for calibrating a vehicle camera (2) of a vehicle, wherein images (B) of a vehicle environment are detected by means of the vehicle camera (2). According to the invention, the images (B) are detected during a standstill of the vehicle and at least one distinctive environment object is selected as the image motif, wherein image features are extracted from the images (B), from the extracted image features an environment pattern (U) specific to a respective vehicle environment is formed , At least one formed specific environmental pattern (U) with at least one stored in a database (4) target environmental pattern (Us) is compared and determined by a determined during the comparison between the formed specific environmental pattern (U) and the target environmental pattern (Us ) the vehicle camera (2) is calibrated.
Description
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Fahrzeugkamera gemäß dem Oberbegriff des Anspruchs 1.The invention relates to a method for calibrating a vehicle camera according to the preamble of claim 1.
Aus der
- - Bereitstellen eines Fahrzeugs mit einer Kamera;
- - Mehrmaliges Ermitteln der extrinsischen Parameter der Kamera während einer Messfahrt, wobei während jedes Ermittelns der extrinsischen Parameter der Kamera Sensordaten mittels eines Sensors erzeugt werden;
- - Ablegen der ermittelten Parameter und der jeweils zugehörigen Sensordaten in einer Datenbank;
- - Trainieren eines Convolutional Neural Networks basierend auf den in der Datenbank abgelegten extrinsischen Parametern und basierend auf den Sensordaten; und
- - Online-Bestimmen der extrinsischen Parameter der Kamera mittels des trainierten Convolutional Neural Networks.
- - Providing a vehicle with a camera;
- Repeatedly determining the extrinsic parameters of the camera during a test drive, wherein sensor data is generated by means of a sensor during each determination of the extrinsic parameters of the camera;
- - Store the determined parameters and the corresponding sensor data in a database;
- - training a convolutional neural network based on the extrinsic parameters stored in the database and based on the sensor data; and
- - Online determination of the extrinsic parameters of the camera using the trained Convolutional Neural Networks.
Dabei bildet die Kamera den Sensor, wobei bei jedem Ermitteln der extrinsischen Parameter der Kamera ein Bild mittels der Kamera und ein entsprechender Bilddatensatz erzeugt werden, die ermittelten extrinsischen Parameter und der jeweils zugehörige Bilddatensatz in der Datenbank abgelegt werden und das Trainieren des Convolutional Neural Networks basierend auf den in der Datenbank abgelegten extrinsischen Parametern und den Bilddatensätzen erfolgt.In this case, the camera forms the sensor, wherein each time the extrinsic parameters of the camera are acquired an image is generated by means of the camera and a corresponding image data set, the extrinsic parameters determined and the associated image data set are stored in the database and the training of the convolutional neural network is based on the stored in the database extrinsic parameters and the image data sets.
Der Erfindung liegt die Aufgabe zu Grunde, ein gegenüber dem Stand der Technik verbessertes Verfahren zum Kalibrieren einer Fahrzeugkamera anzugeben.The invention is based on the object to provide a comparison with the prior art improved method for calibrating a vehicle camera.
Die Aufgabe wird erfindungsgemäß mit einem Verfahren gelöst, welches die im Anspruch 1 angegebenen Merkmale aufweist.The object is achieved by a method having the features specified in claim 1.
In dem Verfahren zum Kalibrieren einer Fahrzeugkamera eines Fahrzeugs werden mittels der Fahrzeugkamera Bilder einer Fahrzeugumgebung erfasst.In the method for calibrating a vehicle camera of a vehicle, images of a vehicle environment are acquired by means of the vehicle camera.
Erfindungsgemäß werden die Bilder während eines Stillstands des Fahrzeugs erfasst und als Bildmotiv wird zumindest ein markantes Umgebungsobjekt gewählt. Aus den Bildern werden Bildmerkmale extrahiert, wobei aus den extrahierten Bildmerkmalen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster gebildet wird. Weiterhin wird zumindest ein gebildetes spezifisches Umgebungsmuster mit zumindest einem in einer Datenbank hinterlegten Soll-Umgebungsmuster verglichen und anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster und dem Soll-Umgebungsmuster wird die Fahrzeugkamera kalibriert.According to the invention, the images are captured during a standstill of the vehicle and at least one distinctive environmental object is selected as the image motif. From the images, image features are extracted, wherein from the extracted image features a specific for a particular vehicle environment environment pattern is formed. Furthermore, at least one specific environmental pattern formed is compared with at least one target environmental pattern stored in a database, and the vehicle camera is calibrated on the basis of a deviation determined between the specific environmental pattern formed and the target environmental pattern during the comparison.
Mittels des Verfahrens können in regelmäßigen Abständen Selbstkalibrierungen der Fahrzeugkamera durchgeführt werden, um beispielsweise Anforderungen für Anwendungen in einem autonomen Fahrbetrieb des Fahrzeugs zu erfüllen. Dabei ermöglicht eine regelmäßige Ermittlung der Abweichungen zwischen gebildeten spezifischen Umgebungsmustern und Soll-Umgebungsmustern eine regelmäßige Kalibrierung der Fahrzeugkamera und somit eine hohe Zuverlässigkeit derselben sowie eine Fehlerfreiheit von mittels der Fahrzeugkamera erfassten Bilddaten. Somit können eine hohe Zuverlässigkeit und ein fehlerfreier Betrieb von Assistenzsystemen, welche mittels der Kamera erfasste Bilddaten zu ihrem Betrieb verwenden, erzielt werden. Dabei können originale Variablen bei der Ermittlung der Abweichungen zwischen gebildeten spezifischen Umgebungsmustern und Soll-Umgebungsmustern berücksichtigt werden.By means of the method, self-calibrations of the vehicle camera can be carried out at regular intervals in order, for example, to fulfill requirements for applications in an autonomous driving operation of the vehicle. In this case, a regular determination of the deviations between formed specific environmental patterns and desired environmental patterns allows a regular calibration of the vehicle camera and thus a high level of reliability of the same as well as freedom from errors of image data captured by the vehicle camera. Thus, high reliability and error-free operation of assistance systems which use image data acquired by the camera for their operation can be achieved. In doing so, original variables can be taken into account when determining the deviations between formed specific environmental patterns and desired environmental patterns.
Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche.Advantageous embodiments of the invention are the subject of the dependent claims.
Ausführungsbeispiele der Erfindung werden im Folgenden anhand einer Zeichnung näher erläutert.Embodiments of the invention will be explained in more detail below with reference to a drawing.
Dabei zeigt:
-
1 schematisch ein Blockschaltbild einer Vorrichtung zum Kalibrieren einer Fahrzeugkamera.
-
1 schematically a block diagram of a device for calibrating a vehicle camera.
In der einzigen
Zum Kalibrieren der Fahrzeugkamera
Dabei wird als Bildmotiv zumindest ein markantes Umgebungsobjekt gewählt, beispielsweise ein in einem Navigationssystem hinterlegter Ort von Interesse, auch als Point of Interest (kurz: POI) bezeichnet. Alternativ oder zusätzlich wird das zumindest eine markante Umgebungsobjekt an einem solchen Ort von Interesse erfasst. Derartige Orte von Interesse umfassen unter anderem auch markante Gebäude und Straßenkreuzungen mit festen Haltepunkten, an welchen die Bilder
Die von der Fahrzeugkamera
Das spezifische Umgebungsmuster
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 11
- Vorrichtungdevice
- 22
- Fahrzeugkameravehicle camera
- 33
- Verarbeitungseinheitprocessing unit
- 44
- Datenbank Database
- BB
- Bildimage
- UU
- Umgebungsmusterenvironment pattern
- US U S
- Soll-UmgebungsmusterTarget environment pattern
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- DE 102016223422 A1 [0002]DE 102016223422 A1 [0002]
Claims (4)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019000439.6A DE102019000439A1 (en) | 2019-01-22 | 2019-01-22 | Method for calibrating a vehicle camera |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019000439.6A DE102019000439A1 (en) | 2019-01-22 | 2019-01-22 | Method for calibrating a vehicle camera |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102019000439A1 true DE102019000439A1 (en) | 2019-06-06 |
Family
ID=66547913
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019000439.6A Withdrawn DE102019000439A1 (en) | 2019-01-22 | 2019-01-22 | Method for calibrating a vehicle camera |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102019000439A1 (en) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102016223422A1 (en) | 2016-11-25 | 2018-05-30 | Continental Teves Ag & Co. Ohg | Method for automatically determining extrinsic parameters of a camera of a vehicle |
-
2019
- 2019-01-22 DE DE102019000439.6A patent/DE102019000439A1/en not_active Withdrawn
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102016223422A1 (en) | 2016-11-25 | 2018-05-30 | Continental Teves Ag & Co. Ohg | Method for automatically determining extrinsic parameters of a camera of a vehicle |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018177484A1 (en) | Method and system for predicting sensor signals from a vehicle | |
DE102020110157A1 (en) | Image recognition device | |
EP3393875B1 (en) | Method for the improved detection of objects by a driver assistance system | |
DE102012201724A1 (en) | TRAFFIC SIGNAL DETECTION DEVICE | |
DE102014106506A1 (en) | Method for carrying out a diagnosis of a camera system of a motor vehicle, camera system and motor vehicle | |
DE102018008788A1 (en) | Method for determining a road surface roughness | |
DE102017209283A1 (en) | Method for optimizing a digital map for an automated vehicle | |
DE102018206743A1 (en) | A method of operating a driver assistance system of an ego vehicle having at least one environment sensor for detecting an environment of the ego vehicle, computer-readable medium, system, and vehicle | |
DE102022002325B4 (en) | Method for activating a parking function of a vehicle and for finding potential parking spaces | |
DE102015204169A1 (en) | Method for updating parking information in a navigation system and navigation system | |
DE102019211459A1 (en) | Method and device for checking a calibration of environmental sensors | |
DE102019215656A1 (en) | Method for evaluating a selected route, route evaluation system and computer program | |
DE102015014191A1 (en) | Procedure for checking a digital map | |
DE102019000439A1 (en) | Method for calibrating a vehicle camera | |
DE102007021579A1 (en) | Traffic sign i.e. circular traffic sign, classifying method, involves classifying object in dependence of classification process and/or classification result, by another different classification process for classification of traffic sign | |
DE102018114231A1 (en) | Method and system for capturing objects using at least one image of an area of interest (ROI) | |
DE102018205146A1 (en) | Test method for high-resolution headlamps using AI | |
DE102018109466A1 (en) | Method for detecting a parking space for a vehicle | |
DE102009009904A1 (en) | Object i.e. road sign, identifying method, involves adding images and classifiers, which contain stored samples and sequences, as another set of samples, if sequences correspond to another set of sequences | |
DE102022200139A1 (en) | Process for optimizing the perception of the environment for a driving support system using additional reference sensors | |
DE102021002011A1 (en) | Method for annotating data from a survey of the surroundings | |
DE102021131116B3 (en) | Computer-implemented method for detecting errors in a driver assistance program for a motor vehicle | |
EP3772017A1 (en) | Rail signal detection for autonomous railway vehicles | |
DE102020110094A1 (en) | OBJECT AND TRAJECTORY DETECTION | |
DE102019005825A1 (en) | Method for generating training data for an electronic computing device external to the motor vehicle, and driver assistance system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R230 | Request for early publication | ||
R081 | Change of applicant/patentee |
Owner name: DAIMLER AG, DE Free format text: FORMER OWNER: DAIMLER AG, 70327 STUTTGART, DE |
|
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |