[go: up one dir, main page]

DE102019000439A1 - Method for calibrating a vehicle camera - Google Patents

Method for calibrating a vehicle camera Download PDF

Info

Publication number
DE102019000439A1
DE102019000439A1 DE102019000439.6A DE102019000439A DE102019000439A1 DE 102019000439 A1 DE102019000439 A1 DE 102019000439A1 DE 102019000439 A DE102019000439 A DE 102019000439A DE 102019000439 A1 DE102019000439 A1 DE 102019000439A1
Authority
DE
Germany
Prior art keywords
vehicle
environment
images
camera
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102019000439.6A
Other languages
German (de)
Inventor
Markus Fritsch
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mercedes Benz Group AG
Original Assignee
Daimler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daimler AG filed Critical Daimler AG
Priority to DE102019000439.6A priority Critical patent/DE102019000439A1/en
Publication of DE102019000439A1 publication Critical patent/DE102019000439A1/en
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Fahrzeugkamera (2) eines Fahrzeugs, wobei mittels der Fahrzeugkamera (2) Bilder (B) einer Fahrzeugumgebung erfasst werden. Erfindungsgemäß werden die Bilder (B) während eines Stillstands des Fahrzeugs erfasst und als Bildmotiv wird zumindest ein markantes Umgebungsobjekt gewählt, wobei aus den Bildern (B) Bildmerkmale extrahiert werden, aus den extrahierten Bildmerkmalen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster (U) gebildet wird, zumindest ein gebildetes spezifisches Umgebungsmuster (U) mit zumindest einem in einer Datenbank (4) hinterlegten Soll-Umgebungsmuster (Us) verglichen wird und anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster (U) und dem Soll-Umgebungsmuster (Us) die Fahrzeugkamera (2) kalibriert wird.

Figure DE102019000439A1_0000
The invention relates to a method for calibrating a vehicle camera (2) of a vehicle, wherein images (B) of a vehicle environment are detected by means of the vehicle camera (2). According to the invention, the images (B) are detected during a standstill of the vehicle and at least one distinctive environment object is selected as the image motif, wherein image features are extracted from the images (B), from the extracted image features an environment pattern (U) specific to a respective vehicle environment is formed , At least one formed specific environmental pattern (U) with at least one stored in a database (4) target environmental pattern (Us) is compared and determined by a determined during the comparison between the formed specific environmental pattern (U) and the target environmental pattern (Us ) the vehicle camera (2) is calibrated.
Figure DE102019000439A1_0000

Description

Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Fahrzeugkamera gemäß dem Oberbegriff des Anspruchs 1.The invention relates to a method for calibrating a vehicle camera according to the preamble of claim 1.

Aus der DE 10 2016 223 422 A1 ist ein Verfahren zur automatischen Ermittlung extrinsischer Parameter einer Kamera eines Fahrzeugs mit den folgenden Schritten bekannt:

  • - Bereitstellen eines Fahrzeugs mit einer Kamera;
  • - Mehrmaliges Ermitteln der extrinsischen Parameter der Kamera während einer Messfahrt, wobei während jedes Ermittelns der extrinsischen Parameter der Kamera Sensordaten mittels eines Sensors erzeugt werden;
  • - Ablegen der ermittelten Parameter und der jeweils zugehörigen Sensordaten in einer Datenbank;
  • - Trainieren eines Convolutional Neural Networks basierend auf den in der Datenbank abgelegten extrinsischen Parametern und basierend auf den Sensordaten; und
  • - Online-Bestimmen der extrinsischen Parameter der Kamera mittels des trainierten Convolutional Neural Networks.
From the DE 10 2016 223 422 A1 For example, a method for automatically determining extrinsic parameters of a camera of a vehicle is known by the following steps:
  • - Providing a vehicle with a camera;
  • Repeatedly determining the extrinsic parameters of the camera during a test drive, wherein sensor data is generated by means of a sensor during each determination of the extrinsic parameters of the camera;
  • - Store the determined parameters and the corresponding sensor data in a database;
  • - training a convolutional neural network based on the extrinsic parameters stored in the database and based on the sensor data; and
  • - Online determination of the extrinsic parameters of the camera using the trained Convolutional Neural Networks.

Dabei bildet die Kamera den Sensor, wobei bei jedem Ermitteln der extrinsischen Parameter der Kamera ein Bild mittels der Kamera und ein entsprechender Bilddatensatz erzeugt werden, die ermittelten extrinsischen Parameter und der jeweils zugehörige Bilddatensatz in der Datenbank abgelegt werden und das Trainieren des Convolutional Neural Networks basierend auf den in der Datenbank abgelegten extrinsischen Parametern und den Bilddatensätzen erfolgt.In this case, the camera forms the sensor, wherein each time the extrinsic parameters of the camera are acquired an image is generated by means of the camera and a corresponding image data set, the extrinsic parameters determined and the associated image data set are stored in the database and the training of the convolutional neural network is based on the stored in the database extrinsic parameters and the image data sets.

Der Erfindung liegt die Aufgabe zu Grunde, ein gegenüber dem Stand der Technik verbessertes Verfahren zum Kalibrieren einer Fahrzeugkamera anzugeben.The invention is based on the object to provide a comparison with the prior art improved method for calibrating a vehicle camera.

Die Aufgabe wird erfindungsgemäß mit einem Verfahren gelöst, welches die im Anspruch 1 angegebenen Merkmale aufweist.The object is achieved by a method having the features specified in claim 1.

In dem Verfahren zum Kalibrieren einer Fahrzeugkamera eines Fahrzeugs werden mittels der Fahrzeugkamera Bilder einer Fahrzeugumgebung erfasst.In the method for calibrating a vehicle camera of a vehicle, images of a vehicle environment are acquired by means of the vehicle camera.

Erfindungsgemäß werden die Bilder während eines Stillstands des Fahrzeugs erfasst und als Bildmotiv wird zumindest ein markantes Umgebungsobjekt gewählt. Aus den Bildern werden Bildmerkmale extrahiert, wobei aus den extrahierten Bildmerkmalen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster gebildet wird. Weiterhin wird zumindest ein gebildetes spezifisches Umgebungsmuster mit zumindest einem in einer Datenbank hinterlegten Soll-Umgebungsmuster verglichen und anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster und dem Soll-Umgebungsmuster wird die Fahrzeugkamera kalibriert.According to the invention, the images are captured during a standstill of the vehicle and at least one distinctive environmental object is selected as the image motif. From the images, image features are extracted, wherein from the extracted image features a specific for a particular vehicle environment environment pattern is formed. Furthermore, at least one specific environmental pattern formed is compared with at least one target environmental pattern stored in a database, and the vehicle camera is calibrated on the basis of a deviation determined between the specific environmental pattern formed and the target environmental pattern during the comparison.

Mittels des Verfahrens können in regelmäßigen Abständen Selbstkalibrierungen der Fahrzeugkamera durchgeführt werden, um beispielsweise Anforderungen für Anwendungen in einem autonomen Fahrbetrieb des Fahrzeugs zu erfüllen. Dabei ermöglicht eine regelmäßige Ermittlung der Abweichungen zwischen gebildeten spezifischen Umgebungsmustern und Soll-Umgebungsmustern eine regelmäßige Kalibrierung der Fahrzeugkamera und somit eine hohe Zuverlässigkeit derselben sowie eine Fehlerfreiheit von mittels der Fahrzeugkamera erfassten Bilddaten. Somit können eine hohe Zuverlässigkeit und ein fehlerfreier Betrieb von Assistenzsystemen, welche mittels der Kamera erfasste Bilddaten zu ihrem Betrieb verwenden, erzielt werden. Dabei können originale Variablen bei der Ermittlung der Abweichungen zwischen gebildeten spezifischen Umgebungsmustern und Soll-Umgebungsmustern berücksichtigt werden.By means of the method, self-calibrations of the vehicle camera can be carried out at regular intervals in order, for example, to fulfill requirements for applications in an autonomous driving operation of the vehicle. In this case, a regular determination of the deviations between formed specific environmental patterns and desired environmental patterns allows a regular calibration of the vehicle camera and thus a high level of reliability of the same as well as freedom from errors of image data captured by the vehicle camera. Thus, high reliability and error-free operation of assistance systems which use image data acquired by the camera for their operation can be achieved. In doing so, original variables can be taken into account when determining the deviations between formed specific environmental patterns and desired environmental patterns.

Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche.Advantageous embodiments of the invention are the subject of the dependent claims.

Ausführungsbeispiele der Erfindung werden im Folgenden anhand einer Zeichnung näher erläutert.Embodiments of the invention will be explained in more detail below with reference to a drawing.

Dabei zeigt:

  • 1 schematisch ein Blockschaltbild einer Vorrichtung zum Kalibrieren einer Fahrzeugkamera.
Showing:
  • 1 schematically a block diagram of a device for calibrating a vehicle camera.

In der einzigen 1 ist ein Blockschaltbild eines möglichen Ausführungsbeispiels einer Vorrichtung 1 zum Kalibrieren einer Fahrzeugkamera 2 eines Fahrzeugs dargestellt.In the only one 1 is a block diagram of a possible embodiment of a device 1 for calibrating a vehicle camera 2 of a vehicle.

Zum Kalibrieren der Fahrzeugkamera 2 werden mittels dieser während eines Stillstands des Fahrzeugs, beispielsweise beim Warten desselben an einer Straßenkreuzung und/oder einer Ampel, Bilder B einer Fahrzeugumgebung erfasst.For calibrating the vehicle camera 2 be by means of this during a stoppage of the vehicle, for example, while waiting for the same at a road intersection and / or a traffic light, pictures B detected a vehicle environment.

Dabei wird als Bildmotiv zumindest ein markantes Umgebungsobjekt gewählt, beispielsweise ein in einem Navigationssystem hinterlegter Ort von Interesse, auch als Point of Interest (kurz: POI) bezeichnet. Alternativ oder zusätzlich wird das zumindest eine markante Umgebungsobjekt an einem solchen Ort von Interesse erfasst. Derartige Orte von Interesse umfassen unter anderem auch markante Gebäude und Straßenkreuzungen mit festen Haltepunkten, an welchen die Bilder B immer von der gleichen Position erfassbar sind. Beispielsweise ist es von großem Vorteil, dass die Fahrzeugkamera 2 dann, wenn das Fahrzeug als erstes an einer Straßenkreuzung wartet, freie Sicht auf die Fahrzeugumgebung im Bereich der Straßenkreuzung hat.In this case, at least one distinctive environment object is selected as the image motif, for example a place of interest stored in a navigation system, also referred to as point of interest (POI for short). Alternatively or additionally, the at least one distinctive environment object is detected at such a location of interest. Such places of interest include, among others, distinctive ones Buildings and intersections with fixed stops on which the pictures B always from the same position are detectable. For example, it is of great advantage that the vehicle camera 2 when the vehicle first waits at a road intersection, it has a clear view of the vehicle surroundings in the area of the intersection.

Die von der Fahrzeugkamera 2 erfassten Bilder B werden an eine Verarbeitungseinheit 3 übermittelt, welche aus den Bildern B mittels Kantenextraktion, Segmentation und/oder Ermittlung von Pixelwerten Bildmerkmale extrahiert und aus diesen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster U bildet.The from the vehicle camera 2 captured images B are sent to a processing unit 3 transmitted, which from the pictures B By means of edge extraction, segmentation and / or determination of pixel values, image features are extracted and from these an environment pattern specific for a respective vehicle environment U forms.

Das spezifische Umgebungsmuster U wird anschließend mittels der Verarbeitungseinheit 3 mit zumindest einem in einer Datenbank 4 hinterlegten Soll-Umgebungsmuster Us verglichen, wobei anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster U und dem Soll-Umgebungsmuster Us die Fahrzeugkamera 2 kalibriert wird. Die Kalibrierung kann dabei während des Stillstands des Fahrzeugs und/oder während einer auf den Stillstand des Fahrzeugs folgenden Bewegung des Fahrzeugs durchgeführt werden.The specific environmental pattern U is subsequently by means of the processing unit 3 with at least one in a database 4 stored target environmental pattern Us, wherein based on a determined during the comparison deviation between the formed specific environmental pattern U and the target environmental pattern Us the vehicle camera 2 is calibrated. The calibration can be carried out during the standstill of the vehicle and / or during a subsequent to the stoppage of the vehicle movement of the vehicle.

BezugszeichenlisteLIST OF REFERENCE NUMBERS

11
Vorrichtungdevice
22
Fahrzeugkameravehicle camera
33
Verarbeitungseinheitprocessing unit
44
Datenbank Database
BB
Bildimage
UU
Umgebungsmusterenvironment pattern
US U S
Soll-UmgebungsmusterTarget environment pattern

ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturCited patent literature

  • DE 102016223422 A1 [0002]DE 102016223422 A1 [0002]

Claims (4)

Verfahren zum Kalibrieren einer Fahrzeugkamera (2) eines Fahrzeugs, wobei mittels der Fahrzeugkamera (2) Bilder (B) einer Fahrzeugumgebung erfasst werden, dadurch gekennzeichnet, dass - die Bilder (B) während eines Stillstands des Fahrzeugs erfasst werden, - als Bildmotiv zumindest ein markantes Umgebungsobjekt gewählt wird, - aus den Bildern (B) Bildmerkmale extrahiert werden, - aus den extrahierten Bildmerkmalen ein für eine jeweilige Fahrzeugumgebung spezifisches Umgebungsmuster (U) gebildet wird, - zumindest ein gebildetes spezifisches Umgebungsmuster (U) mit zumindest einem in einer Datenbank (4) hinterlegten Soll-Umgebungsmuster (Us) verglichen wird und - anhand einer während des Vergleichs ermittelten Abweichung zwischen dem gebildeten spezifischen Umgebungsmuster (U) und dem Soll-Umgebungsmuster (Us) die Fahrzeugkamera (2) kalibriert wird.A method for calibrating a vehicle camera (2) of a vehicle, wherein by means of the vehicle camera (2) images (B) of a vehicle environment are detected, characterized in that - the images (B) are detected during a stoppage of the vehicle, - as a picture motif at least one marked environment object is selected, - image features are extracted from the images (B), - an environment pattern (U) specific to a respective vehicle environment is formed from the extracted image features, - at least one formed specific environmental pattern (U) having at least one in a database ( 4) stored target environmental pattern (Us) is compared and - the vehicle camera (2) is calibrated based on a determined during the comparison deviation between the formed specific environmental pattern (U) and the target environmental pattern (Us). Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die Kalibrierung während einer auf den Stillstand des Fahrzeugs folgenden Bewegung des Fahrzeugs durchgeführt wird.Method according to Claim 1 , characterized in that the calibration is performed during a subsequent to the stoppage of the vehicle movement of the vehicle. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Bildmerkmale aus den Bildern (B) mittels - Kantenextraktion, - Segmentation und/oder - Ermittlung von Pixelwerten extrahiert werden.Method according to Claim 1 or 2 , characterized in that the image features are extracted from the images (B) by means of - edge extraction, - segmentation and / or - determination of pixel values. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass als markantes Umgebungsobjekt ein in einem Navigationssystem hinterlegter Ort von Interesse und/oder das zumindest eine markante Umgebungsobjekt an einem Ort von Interesse erfasst wird.Method according to one of the preceding claims, characterized in that a location stored in a navigation system of interest and / or the at least one distinctive environment object is detected at a location of interest as a distinctive environment object.
DE102019000439.6A 2019-01-22 2019-01-22 Method for calibrating a vehicle camera Withdrawn DE102019000439A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102019000439.6A DE102019000439A1 (en) 2019-01-22 2019-01-22 Method for calibrating a vehicle camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019000439.6A DE102019000439A1 (en) 2019-01-22 2019-01-22 Method for calibrating a vehicle camera

Publications (1)

Publication Number Publication Date
DE102019000439A1 true DE102019000439A1 (en) 2019-06-06

Family

ID=66547913

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019000439.6A Withdrawn DE102019000439A1 (en) 2019-01-22 2019-01-22 Method for calibrating a vehicle camera

Country Status (1)

Country Link
DE (1) DE102019000439A1 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016223422A1 (en) 2016-11-25 2018-05-30 Continental Teves Ag & Co. Ohg Method for automatically determining extrinsic parameters of a camera of a vehicle

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016223422A1 (en) 2016-11-25 2018-05-30 Continental Teves Ag & Co. Ohg Method for automatically determining extrinsic parameters of a camera of a vehicle

Similar Documents

Publication Publication Date Title
WO2018177484A1 (en) Method and system for predicting sensor signals from a vehicle
DE102020110157A1 (en) Image recognition device
EP3393875B1 (en) Method for the improved detection of objects by a driver assistance system
DE102012201724A1 (en) TRAFFIC SIGNAL DETECTION DEVICE
DE102014106506A1 (en) Method for carrying out a diagnosis of a camera system of a motor vehicle, camera system and motor vehicle
DE102018008788A1 (en) Method for determining a road surface roughness
DE102017209283A1 (en) Method for optimizing a digital map for an automated vehicle
DE102018206743A1 (en) A method of operating a driver assistance system of an ego vehicle having at least one environment sensor for detecting an environment of the ego vehicle, computer-readable medium, system, and vehicle
DE102022002325B4 (en) Method for activating a parking function of a vehicle and for finding potential parking spaces
DE102015204169A1 (en) Method for updating parking information in a navigation system and navigation system
DE102019211459A1 (en) Method and device for checking a calibration of environmental sensors
DE102019215656A1 (en) Method for evaluating a selected route, route evaluation system and computer program
DE102015014191A1 (en) Procedure for checking a digital map
DE102019000439A1 (en) Method for calibrating a vehicle camera
DE102007021579A1 (en) Traffic sign i.e. circular traffic sign, classifying method, involves classifying object in dependence of classification process and/or classification result, by another different classification process for classification of traffic sign
DE102018114231A1 (en) Method and system for capturing objects using at least one image of an area of interest (ROI)
DE102018205146A1 (en) Test method for high-resolution headlamps using AI
DE102018109466A1 (en) Method for detecting a parking space for a vehicle
DE102009009904A1 (en) Object i.e. road sign, identifying method, involves adding images and classifiers, which contain stored samples and sequences, as another set of samples, if sequences correspond to another set of sequences
DE102022200139A1 (en) Process for optimizing the perception of the environment for a driving support system using additional reference sensors
DE102021002011A1 (en) Method for annotating data from a survey of the surroundings
DE102021131116B3 (en) Computer-implemented method for detecting errors in a driver assistance program for a motor vehicle
EP3772017A1 (en) Rail signal detection for autonomous railway vehicles
DE102020110094A1 (en) OBJECT AND TRAJECTORY DETECTION
DE102019005825A1 (en) Method for generating training data for an electronic computing device external to the motor vehicle, and driver assistance system

Legal Events

Date Code Title Description
R230 Request for early publication
R081 Change of applicant/patentee

Owner name: DAIMLER AG, DE

Free format text: FORMER OWNER: DAIMLER AG, 70327 STUTTGART, DE

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee