DE102023116164B4 - METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENT - Google Patents
METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENTInfo
- Publication number
- DE102023116164B4 DE102023116164B4 DE102023116164.4A DE102023116164A DE102023116164B4 DE 102023116164 B4 DE102023116164 B4 DE 102023116164B4 DE 102023116164 A DE102023116164 A DE 102023116164A DE 102023116164 B4 DE102023116164 B4 DE 102023116164B4
- Authority
- DE
- Germany
- Prior art keywords
- seat
- radar
- seating arrangement
- point cloud
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
- B60R21/01512—Passenger detection systems
- B60R21/0153—Passenger detection systems using field detection presence sensors
- B60R21/01534—Passenger detection systems using field detection presence sensors using electromagneticwaves, e.g. infrared
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60N—SEATS SPECIALLY ADAPTED FOR VEHICLES; VEHICLE PASSENGER ACCOMMODATION NOT OTHERWISE PROVIDED FOR
- B60N2/00—Seats specially adapted for vehicles; Arrangement or mounting of seats in vehicles
- B60N2/002—Seats provided with an occupancy detection means mounted therein or thereon
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/04—Systems determining presence of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60N—SEATS SPECIALLY ADAPTED FOR VEHICLES; VEHICLE PASSENGER ACCOMMODATION NOT OTHERWISE PROVIDED FOR
- B60N2210/00—Sensor types, e.g. for passenger detection systems or for controlling seats
- B60N2210/10—Field detection presence sensors
- B60N2210/16—Electromagnetic waves
- B60N2210/20—Radar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/50—Systems of measurement based on relative movement of target
- G01S13/52—Discriminating between fixed and moving objects or between objects moving at different speeds
- G01S13/56—Discriminating between fixed and moving objects or between objects moving at different speeds for presence detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/415—Identification of targets based on measurements of movement associated with the target
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- Mechanical Engineering (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Transportation (AREA)
- Aviation & Aerospace Engineering (AREA)
- Electromagnetism (AREA)
- Seats For Vehicles (AREA)
Abstract
Verfahren zum Erstellen eines Auswertungsmodells für ein automatisiertes Erkennen eines Sitzbelegungszustands einer Sitzanordnung (105) mit zumindest einem Sitzplatz (105a-e), wobei das Verfahren aufweist:
- Bereitstellen eines Datensatzes für einen Sitzbelegungszustand, wobei der Datensatz Messdaten für zumindest zwei aufeinanderfolgende Zeitpunkte repräsentiert, wobei die Messdaten jeweils eine zugeordnete Radarpunktwolke (305) repräsentieren, wobei die Radarpunktwolke (305) auf Basis einer Radarabtastung eines die Sitzanordnung (105) zumindest abschnittsweise umgebenden Raumbereichs gewonnen wurde bzw. wird, wobei das Bereitstellen des Datensatzes folgendes umfasst:
- Erzeugen von Merkmalvektoren aus den Messdaten für jeden der Zeitpunkte, wobei jeder der Merkmalsvektoren eine vorgegebene Anzahl von Merkmalen der Radarpunktwolke für einen Zeitpunkt repräsentiert; und
- Zusammenfügen der Merkmalsvektoren zu einem Gesamttensor, um dadurch den Datensatz zu erhalten, welcher die Merkmale der Radarpunktwolke zu jedem der Zeitpunkte repräsentiert;
- Bereitstellen von Hyperparametern für das Auswertungsmodell, wobei die Hyperparameter konfiguriert sind, auf der Grundlage einer Metrik eingestellt zu werden;
- Einstellen der Hyperparameter, wobei dazu eine Metrik bereitgestellt und mittels eines Optimierungsverfahrens für den Datensatz optimiert wird; und
- Erstellen des Auswertungsmodells mit den eingestellten Hyperparametern für ein Training mit Trainingsdaten für ein Verfahren zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung (105) mit zumindest einem Sitzplatz (105a-e), wobei der Datensatz Eingangsdaten für das Auswertungsmodell bildet und eine Ausgabe des Auswertungsmodells ein Auswertungsergebnis ist, welches dem Sitzbelegungszustand der Sitzanordnung (105) zugeordnet ist.
Method for creating an evaluation model for automated detection of the occupancy status of a seating arrangement (105) with at least one seat (105a-e), wherein the method comprises:
- Providing a data set for a seat occupancy state, wherein the data set represents measurement data for at least two consecutive time points, wherein the measurement data each represent an associated radar point cloud (305), wherein the radar point cloud (305) was or is obtained on the basis of a radar scan of a spatial area surrounding the seating arrangement (105) at least sectionally, wherein providing the data set comprises the following:
- Generating feature vectors from the measurement data for each of the time points, where each feature vector represents a predetermined number of features of the radar point cloud for a given time point; and
- Combining the feature vectors into a total tensor to obtain the data set that represents the features of the radar point cloud at each of the time points;
- Providing hyperparameters for the evaluation model, where the hyperparameters are configured to be set based on a metric;
- Setting the hyperparameters, whereby a metric is provided and optimized for the dataset using an optimization procedure; and
- Creating the evaluation model with the set hyperparameters for training with training data for a method for automatically detecting a seat occupancy state of a seating arrangement (105) with at least one seat (105a-e), wherein the data set forms input data for the evaluation model and an output of the evaluation model is an evaluation result which is assigned to the seat occupancy state of the seating arrangement (105).
Description
Die vorliegende Erfindung betrifft ein Verfahren, ein Computerprogramm und ein zur Ausführung des Verfahrens konfiguriertes System, jeweils zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz unter Verwendung eines trainierten Auswertungsmodells. Insbesondere betrifft die Erfindung auch ein Verfahren zum Erstellen und ein Verfahren zum Trainieren eines solchen Auswertungsmodells, insbesondere eines Machine-Learning-Modells.The present invention relates to a method, a computer program, and a system configured for executing the method, each for automatically detecting the occupancy status of a seating arrangement with at least one seat using a trained evaluation model. In particular, the invention also relates to a method for creating and a method for training such an evaluation model, especially a machine learning model.
In verschiedenen Situationen kann es erforderlich sein, automatisiert einen aktuellen Sitzbelegungszustand einer Sitzanordnung mit zumindest einem Sitzplatz festzustellen. Eine solche Situation kann insbesondere in Fahrzeugen auftreten, beispielsweise in Kraftfahrzeugen, wo eine Konfiguration des Fahrzeugs oder ein Aktivieren, Deaktivieren und/oder Steuern einer oder mehrere Fahrzeugfunktionalitäten in Abhängigkeit von einem aktuellen Sitzbelegungszustand erfolgen sollen. Beispielsweise ist es bei Kraftfahrzeugen bekannt, in Abhängigkeit von einem erkannten Sitzbelegungszustand einen akustischen oder optischen Hinweis an Fahrzeuginsassen zum Anlegen von Sitzgurten auszugeben oder ein Aktivieren bzw. Deaktivieren von Airbags zu steuern.In various situations, it may be necessary to automatically determine the current occupancy status of a seating arrangement with at least one seat. Such a situation can occur particularly in vehicles, for example, in motor vehicles, where vehicle configuration or the activation, deactivation, and/or control of one or more vehicle functionalities is to be carried out depending on the current occupancy status. For example, it is known in motor vehicles to issue an acoustic or visual warning to vehicle occupants to fasten their seat belts or to control the activation or deactivation of airbags, depending on a detected occupancy status.
Zum automatisierten Detektieren eines aktuellen Sitzbelegungszustands eines oder mehrerer Sitze, insbesondere einer Anordnung von Fahrzeugsitzen in einem Fahrzeug, sind dazu insbesondere sogenannte Sitzbelegungsmatten bekannt, die in die Sitze integriert sind (meist jeweils eine je Sitz) und druckempfindliche Sensoren zum Detektieren einer Belegung des jeweiligen Sitzes verwenden. Ein Sitzbelegungszustand des Sitzes wird dabei in Abhängigkeit von den Sensorsignalen bzw. Sensordaten dieser Sensoren bestimmt, in der Regel mittels einer Schwellwertprüfung.For the automated detection of the current occupancy status of one or more seats, particularly an arrangement of vehicle seats in a vehicle, so-called seat occupancy mats are known. These mats are integrated into the seats (usually one per seat) and use pressure-sensitive sensors to detect whether the respective seat is occupied. The occupancy status of the seat is determined based on the sensor signals or data from these sensors, generally by means of a threshold test.
Diese bekannten Lösungen setzen somit eine Ausstattung der Sitze mittels einer darin eingebauten Sensorik voraus und sind zudem meist nicht in der Lage, verschiedene Sitzbelegungszustände jenseits von „besetzt“ und „nicht besetzt“ zu unterscheiden. Des Weiteren müssen die Sensoren typischerweise ab Werk bereits in die Sitze integriert werden, sodass ein Nachrüsten schwierig oder unmöglich ist und das Erfassen eines Sitzbelegungszustands von nicht derart ausgerüsteten Sitzen entfällt.These existing solutions therefore require seats to be equipped with integrated sensors and are usually unable to distinguish between different seat occupancy states beyond "occupied" and "unoccupied". Furthermore, the sensors typically have to be integrated into the seats at the factory, making retrofitting difficult or impossible, and thus eliminating the possibility of detecting the occupancy status of seats not equipped in this way.
Es sind daher auch Verfahren bekannt, welche zum automatisierten Erkennen eines aktuellen Sitzplatzbelegungszustands Radartechnologie einsetzen. Mittels einer Radarabtastung des Fahrzeuginnenraums durch Radarsensoren werden Messdaten in Form von Radarpunktwolken erzeugt. Anhand der gemessenen Radarpunktwolke kann auf eine aktuelle Sitzplatzbelegung geschlossen werden. Dazu kann ein entsprechendes Auswertungsmodell herangezogen werden, welches ein Machine-Learning-Modell sein kann. Dieses Modell kann vor dem eigentlichen Einsatz mit entsprechenden Daten trainiert werden.Therefore, methods are also known that use radar technology to automatically detect the current occupancy status of a vehicle's seats. Radar sensors scan the vehicle interior, generating measurement data in the form of radar point clouds. Based on these radar point clouds, the current occupancy can be determined. A suitable evaluation model, which can be a machine learning model, can be used for this purpose. This model can be trained with relevant data before its actual use.
Die bekannten Verfahren können mittels des Machine-Learning-Modells in der Lage sein, auch die Art der Sitzplatzbelegung zu erkennen, beispielsweise ob ein Sitzplatz durch eine erwachsene Person oder ein Kind belegt ist. Auch sind Verfahren bekannt, welche in der Lage sind, eine noch differenzierte Auswertung des Sitzbelegungszustands vorzunehmen, insbesondere hinsichtlich Körpergröße und - gewicht eines Erwachsenen oder Alter eines Kindes. Es kann jedoch zu Fehlern bei der Erkennung des Sitzbelegungszustands kommen, insbesondere wenn sich eine Person viel bewegt. Dann kann die Anwesenheit einer anderen Person möglicherweise nicht korrekt erkannt werden.Known methods, using machine learning models, can also detect the type of seat occupancy, for example, whether a seat is occupied by an adult or a child. Methods are also known that can perform a more differentiated evaluation of seat occupancy, particularly regarding the height and weight of an adult or the age of a child. However, errors can occur in detecting seat occupancy, especially if a person moves around a lot. In such cases, the presence of another person might not be correctly detected.
Es ist eine Aufgabe der vorliegenden Erfindung, eine verbesserte Lösung zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz anzugeben. Insbesondere soll eine verbesserte Lösung zum Erstellen und Trainieren eines Auswertungsmodells für ein automatisiertes Erkennen eines Sitzbelegungszustands einer Sitzanordnung angegeben werden.It is an object of the present invention to provide an improved solution for the automated detection of the occupancy status of a seating arrangement with at least one seat. In particular, an improved solution for creating and training an evaluation model for the automated detection of the occupancy status of a seating arrangement is to be provided.
Die Lösung dieser Aufgabe wird gemäß der Lehre der unabhängigen Ansprüche erreicht. Verschiedene Ausführungsformen und Weiterbildungen der Erfindung sind Gegenstand der Unteransprüche.The solution to this problem is achieved according to the teaching of the independent claims. Various embodiments and further developments of the invention are the subject of the dependent claims.
Ein erster Aspekt der hier vorgestellten Lösung betrifft ein, insbesondere computerimplementiertes, Verfahren zum Erstellen eines Auswertungsmodells für ein automatisiertes Erkennen eines Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz. Bei dem Verfahren wird ein Datensatz für einen Sitzbelegungszustand bereitgestellt, wobei der Datensatz Messdaten für zumindest zwei aufeinanderfolgende Zeitpunkte repräsentiert, wobei die Messdaten jeweils eine zugeordnete Radarpunktwolke repräsentieren, wobei die Radarpunktwolke auf Basis einer Radarabtastung eines die Sitzanordnung zumindest abschnittsweise umgebenden Raumbereichs gewonnen wurde bzw. wird. Das Bereitstellen des Datensatzes umfasst ein Erzeugen von Merkmalvektoren aus den Messdaten für jeden der Zeitpunkte, wobei jeder der Merkmalsvektoren eine vorgegebene Anzahl von Merkmalen der Radarpunktwolke für einen Zeitpunkt repräsentiert, und ein Zusammenfügen der Merkmalsvektoren zu einem Gesamtvektor bzw. einer Gesamtmatrix bzw. einem Gesamttensor, um dadurch den Datensatz zu erhalten, welcher die Merkmale der Radarpunktwolke zu jedem der Zeitpunkte repräsentiert. Bei dem Verfahren werden des Weiteren Hyperparameter für das Auswertungsmodell bereitgestellt, wobei die Hyperparameter konfiguriert sind, auf der Grundlage einer Metrik eingestellt zu werden. Die Hyperparameter werden eingestellt, wobei dazu eine Metrik bereitgestellt und mittels eines Optimierungsverfahrens für den Datensatz optimiert wird. Es wird schließlich das Auswertungsmodells mit den eingestellten Hyperparametern für ein Training mit Trainingsdaten für ein Verfahren zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz erstellt, wobei der Datensatz Eingangsdaten für das Auswertungsmodell bildet und eine Ausgabe des Auswertungsmodells ein Auswertungsergebnis ist, welches dem Sitzbelegungszustand der Sitzanordnung zugeordnet ist.A first aspect of the solution presented here concerns a method, particularly a computer-implemented one, for creating an evaluation model for the automated detection of the occupancy status of a seating arrangement with at least one seat. The method provides a dataset for a seat occupancy status, where the dataset represents measurement data for at least two consecutive time points. Each measurement dataset represents an associated radar point cloud, which was or is obtained based on a radar scan of a spatial area that at least partially surrounds the seating arrangement. Providing the dataset includes generating feature vectors from the measurement data for each of the time points, where each feature vector represents a predefined number of features from the radar point cloud for that time point, and combining the feature vectors into a complete set. A vector, a total matrix, or a total tensor is used to obtain the dataset representing the features of the radar point cloud at each time point. The process also provides hyperparameters for the evaluation model, configured to be set based on a metric. These hyperparameters are set using a metric and optimized for the dataset. Finally, the evaluation model, with the configured hyperparameters, is created for training with training data for a method to automatically detect the occupancy status of a seating arrangement with at least one seat. The dataset serves as input data for the evaluation model, and the output of the evaluation model is an evaluation result corresponding to the occupancy status of the seating arrangement.
Mithilfe des Verfahrens nach dem ersten Aspekt lässt sich ein Auswertungsmodell, insbesondere ein Machine-Learning-Modell (ML-Modell) erstellen, mit welchem eine höhere Erkennungsgenauigkeit für verschiedene Sitzbelegungszustände erreicht werden kann. Durch Verwendung eines Datensatzes, welcher Messdaten zu mehreren Zeitpunkten enthält, kann beispielsweise eine falsche Klassifikation vermieden werden, welche durch starke Bewegung einer Person, beispielsweise des Fahrers entstehen kann. Eine solche starke Bewegung kann in der Radarpunktwolke dazu führen, dass eine Person, die sich wenig oder kaum bewegt und dementsprechend weiniger Punkte in der Radarpunktwolke erzeugt, „verschwindet“. Werden nun mehrere Zeitpunkte anstatt nur eines Zeitpunkts in dem Auswertungsmodell berücksichtigt, können solche Effekte vermieden oder zumindest reduziert werden. Das Verfahren ist insbesondere für das maschinelle Lernen eines radargestützten Systems zur Erkennung einer Sitzplatzbelegung vorteilhaft. Insbesondere kann die Erkennung von Sitzbelegungszuständen durch die Berücksichtigung des zeitlichen Verlaufs der Messdaten stabilisiert werden.Using the method described in the first aspect, an evaluation model, in particular a machine learning model (ML model), can be created that achieves higher detection accuracy for various seat occupancy states. For example, by using a dataset containing measurement data at multiple time points, false classifications caused by strong movement of a person, such as the driver, can be avoided. Such strong movement can cause a person who moves little or not at all and therefore generates fewer points in the radar point cloud to "disappear." If multiple time points, instead of just one, are considered in the evaluation model, such effects can be avoided or at least reduced. This method is particularly advantageous for the machine learning of a radar-based system for seat occupancy detection. Specifically, the detection of seat occupancy states can be stabilized by considering the temporal evolution of the measurement data.
Bei der Erstellung des ML-Modells werden mit Hilfe von Optimierungsverfahren Hyperparameter des Modells eingestellt. Es kann dazu eine Metrik für eine Erkennungsgenauigkeit eines Auswertungsergebnis für bekannte Parameter verwendet werden, welche auf dem Abstand zwischen dem korrekten Ergebnis (z. B. dem tatsächlichen Sitzbelegungszustand) und einem Ergebnis des Auswertungsmodells basiert.During the creation of the machine learning model, hyperparameters of the model are set using optimization methods. A metric for the recognition accuracy of an evaluation result for known parameters can be used, which is based on the difference between the correct result (e.g., the actual seat occupancy status) and a result of the evaluation model.
Bei dem Verfahren werden außerdem Merkmale (Kenngrößen) der Radarpunktwolke zur Auswertung herangezogen und in Form eines Merkmalsvektors bereitgestellt. Das Auswertungsmodell ist oder wird demnach so festgelegt, dass bei dem Bestimmen des Sitzbelegungszustands der Sitzanordnung ein Auswertungsergebnis in Abhängigkeit von den jeweiligen Werten der Merkmale für die Radarpunktwolken bestimmt wird. Auf diese Weise kann das Auswertungsmodell in einer vereinfachten Weise bestimmt und angewandt werden, da anstelle ganzer Radarpunktwolken nur noch die Werte der Merkmale als Eingangsgrößen berücksichtigt werden müssen. Insbesondere kann so der zeitliche Verlauf der Werte eine Bewegung oder ein bestimmtes Bewegungsmuster eines oder mehrerer Objekte auf der Sitzanordnung widerspiegeln, sodass das Auswertungsmodell auf dieser Basis den Sitzbelegungszustand der Sitzanordnung in besonders zuverlässiger Weise bestimmen kann.The process also utilizes features (parameters) from the radar point cloud for evaluation and provides them in the form of a feature vector. The evaluation model is thus defined such that, when determining the occupancy status of the seating arrangement, an evaluation result is determined based on the respective values of the features for the radar point clouds. In this way, the evaluation model can be defined and applied in a simplified manner, since only the values of the features need to be considered as input variables instead of entire radar point clouds. In particular, the temporal progression of the values can reflect a movement or a specific movement pattern of one or more objects on the seating arrangement, enabling the evaluation model to determine the occupancy status of the seating arrangement with exceptional reliability.
Unter dem Begriff „Sitzbelegungszustand“ einer Sitzanordnung mit zumindest einem Sitz, wie hierin verwendet, ist insbesondere eine Information zu verstehen, die angibt, ob oder inwieweit die Sitzanordnung bzw. zumindest einer ihrer Sitze mit einem Objekt, insbesondere einer Sache oder einer Person belegt bzw. besetzt ist. Der Sitzbelegungszustand kann in einem einfachen Beispiel nur das Vorhandensein bzw. die Abwesenheit eines Objekts angeben, oder aber in einem weiterentwickelten Beispiel für den Fall des Vorhandenseins zumindest eines Objekts auf der Sitzanordnung bzw. einem oder mehreren ihrer Sitze, eine Aussage zur Art oder einer anderen Eigenschaft, wie etwa einer räumlichen Ausdehnung, des Objekts angeben.The term "seat occupancy status" of a seating arrangement with at least one seat, as used herein, refers in particular to information indicating whether or to what extent the seating arrangement, or at least one of its seats, is occupied by an object, especially a thing or a person. In a simple example, the seat occupancy status can simply indicate the presence or absence of an object. In a more advanced example, if at least one object is present on the seating arrangement, or on one or more of its seats, it can provide information about the type or other property of the object, such as its spatial extent.
Unter dem Begriff „Radarpunktwolke“, wie hierin verwendet, ist insbesondere eine mittels Radar-Abtastung zumindest einer Objektoberfläche gewonnenen Menge von Punkten eines Vektorraums zu verstehen, die eine, typischerweise unorganisierte, räumliche Struktur („Wolke“) aufweist. Im Falle einer Radarpunktwolke können die Punkte der Radarpunktwolke als „Radarpunkte“ bezeichnet werden. Eine (Radar-)Punktwolke kann insbesondere durch die in ihr enthaltenen (Radar-)Punkte beschrieben werden. Die Radarpunkte wiederum können jeweils insbesondere durch ihre Raumkoordinaten beschrieben werden, wobei diese je Radarpunkt einen bei der Radarabtastung gemessenen Ort der Reflexion eines ausgestrahlten Radarsignals an einer Objektoberfläche angeben. Zu den Radarpunkten können zusätzlich Attribute, wie z. B. gemessene Dopplergeschwindigkeit oder ein Signal-zu-Rausch-Verhältnis (SNR) erfasst sein.The term "radar point cloud," as used herein, refers in particular to a set of points in a vector space obtained by radar scanning of at least one object's surface, which exhibits a typically unorganized spatial structure ("cloud"). In the case of a radar point cloud, the points of the radar point cloud can be referred to as "radar points." A (radar) point cloud can be described in particular by the (radar) points it contains. The radar points, in turn, can each be described in particular by their spatial coordinates, which, for each radar point, indicate the location of the reflection of an emitted radar signal from an object's surface, as measured during the radar scan. Additional attributes, such as the measured Doppler velocity or a signal-to-noise ratio (SNR), can be recorded for the radar points.
Unter dem Begriff „Auswertungsmodell“, wie hierin verwendet, ist ein, insbesondere mathematisches, Modell zu verstehen, das eine Radarpunktwolke oder eine oder mehrere sie charakterisierende Merkmale oder Kenngrößen als Eingangsgröße(n) nutzt, um in Abhängigkeit davon ein Auswertungsergebnis zu liefern, vorliegend einen von mehreren vordefinierten möglichen Sitzbelegungszuständen der Sitzanordnung. Das Auswertungsmodell kann insbesondere eine mathematische Schätzfunktion sein, wobei die Radarpunktwolke empirische Daten als Stichprobe darstellt und das Auswertungsergebnis einen in Abhängigkeit davon bestimmten Schätzwert darstellt. Das Auswertungsmodell kann insbesondere ein „Maschinenlern-Modell“ (bzw. gleichbedeutend „Machine-Learning-Modell“ (ML-Modell)) sein, worunter hier insbesondere ein mittels zumindest eines Algorithmus des maschinellen Lernens auf der Grundlage von Beispieldaten, die als Trainingsdaten bezeichnet werden, erstelltes mathematisches, insbesondere statistisches, Modell zum Treffen von Vorhersagen oder Entscheidungen zu verstehen ist, ohne dass der bzw. die Algorithmen explizit für das Treffen solcher Vorhersagen oder Entscheidungen programmiert werden. Insbesondere sind Entscheidungsbaum-basierte Modelle zum maschinellen Lernen (engl. „decision trees“) oder künstliche neuronale Netze Machine-Learning-Modelle. Bei Berücksichtigung von Messdaten zu mehreren Zeitpunkten im Kontext der vorliegenden Erfindung können daher insbesondere rekurrente neuronale Netze (RNN) zum Einsatz kommen.The term "evaluation model", as used herein, refers to a model, particularly a mathematical one, that uses a radar point cloud or one or more characteristics or parameters characterizing it as input(s) in order to deliver an evaluation result depending on this, in this case one of several previously defined possible seat occupancy states of the seating arrangement. The evaluation model can, in particular, be a mathematical estimator, wherein the radar point cloud represents empirical data as a sample and the evaluation result represents an estimated value determined depending on this. The evaluation model can, in particular, be a "machine learning model" (or equivalently, a "machine learning model" (ML model)), which in this context refers specifically to a mathematical, in particular statistical, model for making predictions or decisions, created by means of at least one machine learning algorithm based on example data referred to as training data, without the algorithm(s) being explicitly programmed to make such predictions or decisions. In particular, decision tree-based machine learning models or artificial neural networks are machine learning models. When considering measurement data at multiple time points in the context of the present invention, recurrent neural networks (RNNs) can therefore be used, in particular.
Unter dem Begriff „Metrik“, wie hierin verwendet, ist insbesondere eine mathematische Abbildung zu verstehen, welche einer oder mehreren Erkennungen auf Daten für die die gewünschten Werte bekannt sind, einen numerischen Wert zuweist, der die Qualität der Vorhersagen bewerten soll. Die Metrik wird insbesondere zur Hyperparameteroptimierung verwendet, indem ihr Wert einem Optimierungsverfahren zugeführt wird, um sodann die Hyperparameter entsprechend einzustellen. Insbesondere können Gewichte in dem Auswertungsmodell entsprechend eingestellt werden, um ein bestimmtes Verhalten des Auswertungsmodells zu erzielen.The term "metric," as used herein, refers in particular to a mathematical mapping that assigns a numerical value to one or more detections based on data for which the desired values are known. This metric is intended to evaluate the quality of the predictions. The metric is used especially for hyperparameter optimization by feeding its value into an optimization procedure in order to adjust the hyperparameters accordingly. Specifically, weights in the evaluation model can be adjusted to achieve a particular behavior of the evaluation model.
Unter dem Begriff „Parameter“, wie hierin gegebenenfalls verwendet, ist insbesondere ein Wert bezüglich des Sitzbelegungszustands zu verstehen, wie er auch im eigentlichen Betrieb des Auswertungsmodells bei einem Verfahren zum Erkennen eines Sitzbelegungszustands auftreten kann. Die Parameter können dabei insbesondere angeben, ob ein Sitzplatz belegt ist oder nicht, wie ein Sitzplatz gegebenenfalls belegt ist (z. B. erwachsene Person oder Kind) und gegebenenfalls weitere Umstände, wie ein Zustand des Fahrzeugs (z. B., ob es fährt oder steht).The term "parameter," as used herein, refers in particular to a value relating to the seat occupancy status, as it may also occur in the actual operation of the evaluation model during a procedure for detecting seat occupancy. The parameters may, in particular, indicate whether a seat is occupied or not, how a seat is occupied (e.g., adult or child), and, where applicable, other circumstances such as the vehicle's status (e.g., whether it is moving or stationary).
Unter dem Begriff „Hyperparameter“, wie hierin verwendet, ist insbesondere - im Gegensatz zu den zuvor erläuterten Parametern - ein Parameter des Auswertungsmodells zu verstehen, welcher bei der Erstellung des Auswertungsmodells bestimmt wird, um das Modell beim Training zu steuern. Die Hyperparameter werden somit vor dem eigentlichen Training des Modells bestimmt und festgelegt.The term "hyperparameter," as used herein, refers specifically—in contrast to the parameters explained previously—to a parameter of the evaluation model that is determined during the model's creation in order to control the model during training. The hyperparameters are thus determined and defined before the actual model training.
Die hierein gegebenenfalls verwendeten Begriffe „umfasst“, „beinhaltet“, „schließt ein“, „weist auf“, „hat“, „mit“, oder jede andere Variante davon sollen eine nicht ausschließliche Einbeziehung abdecken. So ist beispielsweise ein Verfahren oder eine Vorrichtung, die eine Liste von Elementen umfasst oder aufweist, nicht notwendigerweise auf diese Elemente beschränkt, sondern kann andere Elemente einschließen, die nicht ausdrücklich aufgeführt sind oder die einem solchen Verfahren oder einer solchen Vorrichtung inhärent sind.Any terms used herein, such as "comprises," "includes," "features," "has," "with," or any other variant thereof, are intended to cover non-exclusive inclusion. For example, a method or apparatus that includes or features a list of elements is not necessarily limited to those elements but may include other elements not expressly listed or inherent in such method or apparatus.
Ferner bezieht sich „oder“, sofern nicht ausdrücklich das Gegenteil angegeben ist, auf ein inklusives oder und nicht auf ein exklusives „oder“. Zum Beispiel wird eine Bedingung A oder B durch eine der folgenden Bedingungen erfüllt: A ist wahr (oder vorhanden) und B ist falsch (oder nicht vorhanden), A ist falsch (oder nicht vorhanden) und B ist wahr (oder vorhanden), und sowohl A als auch B sind wahr (oder vorhanden).Furthermore, unless explicitly stated otherwise, "or" refers to an inclusive or and not an exclusive "or". For example, a condition A or B is satisfied by one of the following: A is true (or present) and B is false (or not present), A is false (or not present) and B is true (or present), and both A and B are true (or present).
Die Begriffe „ein“ oder „eine“, wie sie hier verwendet werden, sind im Sinne von „ein/eine oder mehrere“ definiert. Die Begriffe „ein anderer“ und „ein weiterer“ sowie jede andere Variante davon sind im Sinne von „zumindest ein Weiterer“ zu verstehen.The terms "ein" or "eine," as used here, are defined as "one or more." The terms "ein anderer" and "ein Weitere," as well as any other variant thereof, are to be understood as "at least one more."
Der Begriff „Mehrzahl“ oder „mehrere“, wie er hier verwendet wird, ist im Sinne von „zwei oder mehr“ zu verstehen.The term “plural” or “several”, as used here, is to be understood in the sense of “two or more”.
Unter dem hierein gegebenenfalls verwendeten Begriffen „konfiguriert“ oder „eingerichtet“ eine bestimmte Funktion zu erfüllen, (und jeweiligen Abwandlungen davon) ist im Sinne der Erfindung zu verstehen, dass die entsprechende Vorrichtung bereits in einer Ausgestaltung oder Einstellung vorliegt, in der sie die Funktion ausführen kann oder sie zumindest so einstellbar - d. h. konfigurierbar - ist, dass sie nach entsprechender Einstellung die Funktion ausführen kann. Die Konfiguration kann dabei beispielsweise über eine entsprechende Einstellung von Parametern eines Prozessablaufs oder von Schaltern oder ähnlichem zur Aktivierung bzw. Deaktivierung von Funktionalitäten bzw. Einstellungen erfolgen. Insbesondere kann die Vorrichtung mehrere vorbestimmte Konfigurationen oder Betriebsmodi aufweisen, so dass das Konfigurieren mittels einer Auswahl einer dieser Konfigurationen bzw. Betriebsmodi erfolgen kann.The terms "configured" or "set up" (and any variations thereof) used herein to fulfill a specific function are understood, within the meaning of the invention, to mean that the corresponding device already exists in a configuration or setting in which it can perform the function, or that it is at least adjustable—i.e., configurable—so that it can perform the function after appropriate adjustment. Configuration can be achieved, for example, by adjusting parameters of a process sequence or by using switches or similar devices to activate or deactivate functionalities or settings. In particular, the device can have several predetermined configurations or operating modes, so that configuration can be carried out by selecting one of these configurations or operating modes.
Nachfolgend werden verschiedene beispielhafte Ausführungsformen des Verfahrens beschrieben, die jeweils, soweit dies nicht ausdrücklich ausgeschlossen wird oder technisch unmöglich ist, beliebig miteinander sowie mit den weiteren beschriebenen anderen Aspekten der vorliegenden Lösung kombiniert werden können.The following are various exemplary embodiments of the method, each of which, unless expressly excluded or technically impossible, can be combined arbitrarily with each other and with the other described aspects of the present solution.
Bei einigen Ausführungsformen weist die Sitzanordnung eine Mehrzahl von Sitzplätzen auf, für die individuell oder kumulativ ein Sitzbelegungszustand im Rahmen des Verfahrens zu bestimmen ist. Für jede (einzelne) Radarpunktwolke wird die Menge ihrer Radarpunkte mittels Cluster-Bildung in Abhängigkeit von der jeweiligen räumlichen Lage der Radarpunkte in Bezug auf die Sitzplätze in mehrere jeweils eine Untermenge der Radarpunkte enthaltende Cluster unterteilt, um jedem der Sitzplätze einen ihm räumlich nächstliegenden der Cluster individuell zuzuordnen, wobei die Merkmalsvektoren für jeden Cluster und für jeden Zeitpunkt individuell erzeugt werden, wobei alle Merkmalsvektoren zu dem Gesamttensor zusammengefügt werden, um dadurch den Datensatz zu erhalten. Der Gesamttensor besteht somit aus einer Reihe von zusammengesetzten Merkmalsvektoren, von denen jeder einem Sitzplatz zu einem bestimmten Zeitpunkt zugeordnet ist. Der Gesamttensor kann auch in Matrixform dargestellt werden, wobei die Spalten der Matrix beispielsweise jeweils Daten zu einem Zeitpunkt enthalten können. Die Clusterbildung erleichtert und verbessert die Bestimmung eines Sitzbelegungszustands für jeden Sitz einzeln. Auch kann auf diese Weise das gesamte Fahrzeuginnere effizient überwacht werden.In some embodiments, the seating arrangement has multiple seats, for which a seat occupancy status must be determined individually or cumulatively within the framework of the method. For each (individual) radar point cloud, the set of its radar points is subdivided into several clusters, each containing a subset of the radar points, by means of cluster formation, depending on the respective spatial location of the radar points relative to the seats. This allows each seat to be individually assigned to the cluster closest to it. The feature vectors are generated individually for each cluster and for each time point in time, and all feature vectors are combined to form the overall tensor, thereby obtaining the data set. The overall tensor thus consists of a series of composite feature vectors, each of which is assigned to a seat at a specific time point in time. The overall tensor can also be represented in matrix form, where the columns of the matrix can, for example, each contain data at a specific time point in time. Cluster formation facilitates and improves the determination of a seat occupancy status for each seat individually. Furthermore, the entire vehicle interior can be efficiently monitored in this way.
Bei einigen zugehörigen Ausführungsformen wird jede Radarpunktwolke in mehrere Cluster segmentiert, indem jedem der Sitzplätze als Cluster eine Teilmenge der Radarpunkte der jeweiligen Radarpunktwolke in Abhängigkeit von deren jeweiliger Position so zugeordnet wird, dass die Radarpunkte des Clusters in einem definierten geschlossenen Raumbereich, insbesondere einem Quader, im Umfeld des Sitzplatzes liegen. Dies ermöglicht eine besonders einfache und wenig rechenintensive Clusterbildung und somit sitzplatzbezogene Sitzbelegungserkennung, wobei die Lage (Position und Orientierung) und die Form des Raumbereichs so definiert ist oder werden kann, dass sie den von einem typischen zu erkennenden Objekt, insbesondere einer Person, auf einem Sitz der Sitzanordnung in der Regel eingenommenen Raumbereich stark überlappt. Neben den Sitzplätzen der Sitzanordnung kann gegebenenfalls vorgesehen sein, auch für weitere Raumbereiche, wie Fußräume, einen abgegrenzten Raumbereich als Cluster zu definieren, beispielsweise ebenfalls in Form eines Quaders.In some related embodiments, each radar point cloud is segmented into multiple clusters by assigning each seat a subset of the radar points from the respective radar point cloud as a cluster, depending on their respective positions, such that the radar points of the cluster lie within a defined, enclosed spatial area, in particular a cuboid, in the vicinity of the seat. This enables particularly simple and computationally efficient cluster formation and thus seat-specific occupancy detection, whereby the location (position and orientation) and shape of the spatial area is or can be defined such that it significantly overlaps the spatial area typically occupied by a detectable object, in particular a person, on a seat in the seating arrangement. In addition to the seats in the seating arrangement, it may optionally be possible to define a delimited spatial area as a cluster for other spatial areas, such as footwells, for example, also in the form of a cuboid.
Durch die Clusterbildung wird somit im Falle einer mehrsitzigen Sitzanordnung eine sitzplatzbezogene, d. h. je Sitz individuelle, Sitzplatzbelegungserkennung ermöglicht, was insbesondere dann vorteilhaft oder gar erforderlich ist, wenn sitzplatzbezogen auf die erkannte Sitzplatzbelegung reagiert werden soll, etwa indem für einen bestimmten Sitz in Abhängigkeit von dessen erkannter Sitzplatzbelegung eine bestimmte Funktionalität oder ein bestimmtes System, wie etwa ein sitzplatzbezogenes Airbag-System, eine sitzplatzbezogene Gurtanlegewarnung oder eine sitzplatzbezogene Sitzheizung aktiviert bzw. deaktiviert oder anderweitig gesteuert werden soll. Die Clusterbildung kann bei einigen Ausführungsformen insbesondere so erfolgen, dass die Cluster disjunkt sind, so dass kein Radarpunkt zwei verschiedenen Clustern zugeordnet ist.Cluster formation thus enables seat-specific, i.e., individual, seat occupancy detection in the case of a multi-seat seating arrangement. This is particularly advantageous or even necessary when a seat-specific response to the detected occupancy is required, for example, by activating, deactivating, or otherwise controlling a specific functionality or system for a particular seat, such as a seat-specific airbag system, a seat-specific seatbelt reminder, or a seat-specific seat heater, depending on its detected occupancy. In some embodiments, cluster formation can be implemented in such a way that the clusters are disjoint, so that no radar point is assigned to two different clusters.
Bei einigen Ausführungsformen ist oder wird zumindest eines der Merkmale durch die Anzahl der Radarpunkte in der Radarpunktpunktwolke (bzw. eines Clusters) oder eine davon abhängige Größe festgelegt. Wenn bei der Radarabtastung die Anzahl der Radarpunkte der dabei erzeugten Radarpunktwolke davon abhängt, in welchem Ausmaß sich das abgetastete Objekt bewegt, lässt sich so in dem Merkmal das Ausmaß der Bewegung abbilden, insbesondere im Hinblick auf das vorgenannte Erkennen einer Atemfrequenz des Objekts. Als Merkmal können neben der Anzahl der Radarpunkte auch weitere Merkmale der Punktwolke (bzw. eines Clusters) genutzt werden, wie beispielsweise eine Position des Schwerpunkts der Punktwolke (bzw. eines Clusters), die Dichte der Punkte (eines Clusters) und/oder ein mittlerer Doppler-Wert. Diese Werte werden dann jeweils in dem Merkmalsvektor (für jeden Zeitpunkt und ggf. für jeden Cluster) zusammengefasst.In some embodiments, at least one of the features is determined by the number of radar points in the radar point cloud (or cluster) or a quantity dependent on it. If, during radar scanning, the number of radar points in the generated radar point cloud depends on the extent of movement of the scanned object, the extent of movement can be represented in the feature, particularly with regard to the aforementioned detection of the object's breathing rate. In addition to the number of radar points, other features of the point cloud (or cluster) can also be used as features, such as the position of the center of gravity of the point cloud (or cluster), the density of the points (of a cluster), and/or an average Doppler value. These values are then summarized in the feature vector (for each time point and, if applicable, for each cluster).
Bei einigen Ausführungsformen weist das Auswertungsmodell eine Struktur eines rekurrenten neuronalen Netz (RNN) auf. Durch Verwendung eines rekurrentes (bzw. rückgekoppelten) neuronalen Netzes (RNN) kann insbesondere im Vergleich zu einem CNN, zu Entscheidungsbäumen oder zu anderen Netzen ohne Zeitkomponente ein zeitlicher Verlauf der Messdaten berücksichtigt werden, welcher sich wie oben ausgeführt in dem Datensatz widerspiegelt, welcher dem Auswertungsmodell als Eingangsdaten zur Verfügung gestellt wird.In some embodiments, the evaluation model has the structure of a recurrent neural network (RNN). By using a recurrent (or feedback) neural network (RNN), a temporal evolution of the measurement data can be taken into account, particularly in comparison to a CNN, decision trees, or other networks without a time component. This temporal evolution is reflected, as described above, in the dataset provided to the evaluation model as input data.
Bei dem RNN kann es sich beispielsweise um in Long Short-Term Memory (LSTM) Modell handeln, welches eine Unterform der RNN ist. Ein LSTM kann genutzt werden, um Muster in Datensequenzen zu erkennen, wie sie beispielsweise in den Sensordaten auftreten, welche die Radarpunktwolke repräsentieren. Alternativ kann auch ein Gated Recurrent Unit (GRU) genutzt werden. Hierbei handelt es sich um einen Gating-Mechanismus in rekurrenten neuronalen Netzen.The RNN could, for example, be a Long Short-Term Memory (LSTM) model, which is a subtype of RNN. An LSTM can be used to recognize patterns in data sequences, such as those found in the sensor data representing the radar point cloud. Alternatively, a Gated Recurrent Unit (GRU) can be used. This is a gating mechanism in recurrent neural networks.
Bei einigen Ausführungsformen ist das Optimierungsverfahren eine Bayes'sche Optimierung. Insbesondere kann ein Wert der Metrik mittels der Bayes'schen Optimierung optimiert werden.In some embodiments, the optimization method is a Bayesian optimization. In particular, a value of the metric can be optimized using Bayesian optimization.
Bei einigen Ausführungsformen wird das Optimierungsverfahren mit einer vorgegebenen Anzahl von Iterationen durchgeführt. Während beispielsweise die Bayes'sche Optimierung theoretisch eine beliebige Anzahl von Iterationen zulässt, kann es vorteilhaft sein, die Anzahl der Iterationen zu begrenzen und nach dieser Anzahl die Hyperparameter derart einzustellen, dass sie die vielversprechendsten Hyperparameter für das Auswertungsmodell bilden. Dann können weitere Iterationen folgen.In some implementations, the optimization procedure is performed with a predetermined number of iterations. While Bayesian optimization, for example, theoretically allows any number of iterations, it can be advantageous to limit the number of iterations and, after this number, adjust the hyperparameters to represent the most promising hyperparameters for the evaluation model. Further iterations can then follow.
Bei einigen Ausführungsformen werden die einzelnen Radarpunkte der Radarpunktwolke jeweils durch eine Position des jeweiligen Radarpunkts im dreidimensionalen Raum sowie durch zumindest einen der folgenden Parameter repräsentiert: (i) einen Doppler-Verschiebungswert des Radarsignals zum jeweiligen Radarpunkt; (iii) einen Signal-zu-Rausch-Abstands-Wert des Radarsignals zum jeweiligen Radarpunkt. Diese Parameter können insbesondere zur Vorfilterung der Radarpunktwolke im Rahmen einer der Merkmalsbestimmung vorangehenden Vorprozessierung genutzt werden.In some embodiments, the individual radar points of the radar point cloud are each represented by a position of the respective radar point in three-dimensional space and by at least one of the following parameters: (i) a Doppler shift value of the radar signal relative to the respective radar point; (iii) a signal-to-noise ratio value of the radar signal relative to the respective radar point. These parameters can be used, in particular, for pre-filtering the radar point cloud as part of a pre-processing step preceding feature determination.
Wie im Folgenden erläutert werden wird, wird das erstellte Auswertungsmodell, welches insbesondere ein Machine-Learning-Modell ist, vor der eigentlichen Verwendung zur Erkennung eines Sitzplatzbelegungszustands (siehe unten, Verfahren nach dem dritten Aspekt) trainiert. Datensätze, die zumindest eine Radarpunktwolke oder Werte von einer oder mehreren dazu bestimmten Merkmalen zu verschiedenen Zeitpunkten repräsentieren, werden dabei als Eingangsdaten dem Machine-Learning-Modell zu Verfügung gestellt, um als dessen Ausgabe ein Auswertungsergebnis zu erhalten, welches den Sitzbelegungszustand angibt. Dies erlaubt eine besonders flexible und anpassungsfähige Implementierung des Auswertungsmodells, wobei das Maschinenlernen dazu genutzt werden kann, das Auswertungsmodell und somit die Qualität und Zuverlässigkeit der Sitzbelegungserkennung kontinuierlich zu verbessern. Das Auswertungsergebnis kann dabei insbesondere eine Klasse einer Sitzbelegungszustandsklassifikation angeben. Das Machine-Learning-Modell kann insbesondere ein auf einem künstlichen neuronalen Netz beruhendes Modell sein.As will be explained below, the developed evaluation model, which is primarily a machine learning model, is trained before its actual use for seat occupancy detection (see below, procedure according to the third aspect). Data sets representing at least a radar point cloud or values of one or more specific features at various times are provided as input data to the machine learning model. The output of this input is an evaluation result indicating the seat occupancy status. This allows for a particularly flexible and adaptable implementation of the evaluation model, whereby machine learning can be used to continuously improve the evaluation model and thus the quality and reliability of the seat occupancy detection. The evaluation result can, in particular, specify a class of seat occupancy status classification. The machine learning model can, in particular, be based on an artificial neural network.
Ein zweiter Aspekt der hier vorgestellten Lösung betrifft demnach ein, insbesondere computer-implementiertes, Verfahren zum Trainieren eines gemäß einem Verfahren nach einem ersten Aspekt erstellten Auswertungsmodells für ein automatisiertes Erkennen eines Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz. Bei dem Verfahren wird ein Datensatz für einen Sitzbelegungszustand erfasst, wobei der Datensatz Messdaten für zumindest zwei aufeinanderfolgende Zeitpunkte repräsentiert, wobei die Messdaten eine zugeordnete Radarpunktwolke repräsentieren, wobei die Radarpunktwolke auf Basis einer Radarabtastung eines die Sitzanordnung zumindest abschnittsweise umgebenden Raumbereichs gewonnen wurde bzw. wird und einem von mehreren vordefinierten möglichen Sitzbelegungszuständen der Sitzanordnung zugeordnet ist. Es werden dann Trainingsdaten aus dem Datensatz erzeugt, wobei die Trainingsdaten als Eingangsdaten dem Auswertungsmodell zu Verfügung gestellt werden, um als dessen Ausgabe ein Auswertungsergebnis zu erhalten, welches dem Sitzbelegungszustand der Sitzanordnung zugeordnet ist.A second aspect of the solution presented here concerns a method, particularly a computer-implemented one, for training an evaluation model created according to a method based on a first aspect, for the automated detection of the occupancy status of a seating arrangement with at least one seat. In this method, a data set for a seat occupancy status is acquired, where the data set represents measurement data for at least two consecutive time points. This measurement data represents an associated radar point cloud, which was or is obtained based on a radar scan of a spatial area that at least partially surrounds the seating arrangement and is assigned to one of several predefined possible occupancy states of the seating arrangement. Training data is then generated from the data set, and this training data is provided as input data to the evaluation model. The model's output is an evaluation result that corresponds to the occupancy status of the seating arrangement.
Wie bereits im Zusammenhang mit dem Verfahren nach dem ersten Aspekt erläutert, erfolgt auch bei dem Verfahren gemäß dem zweiten Aspekt bei einigen Ausführungsformen eine Clusterbildung, insbesondere wenn die Sitzanordnung eine Mehrzahl von Sitzplätzen aufweist, wobei der Sitzbelegungszustand ein individueller oder kumulativer Sitzbelegungszustand der Sitzplätze ist. Dabei wird für die Radarpunktwolke bzw. jede einzelne Radarpunktwolke (d. h. zu jedem Zeitpunkt) Für die Radarpunktwolke die Menge ihrer Radarpunkte mittels Cluster-Bildung in Abhängigkeit von der jeweiligen räumlichen Lage der Punkte in Bezug auf die Sitzplätze in mehrere jeweils eine Untermenge der Punkte enthaltende Cluster unterteilt, um jedem der Sitzplätze einen ihm räumlich nächstliegenden der Cluster individuell zuzuordnen. Insbesondere wird dabei die Radarpunktwolke bzw. jede einzelne Radarpunktwolke (d. h. zu jedem Zeitpunkt) in mehrere Cluster segmentiert, indem jedem der Sitzplätze als Cluster eine Teilmenge der Radarpunkte in Abhängigkeit von deren jeweiliger Position so zugeordnet wird, insbesondere je Radarpunkt eindeutig, dass die Radarpunkte des Clusters in einem definierten geschlossenen, insbesondere quaderförmigen, Raumbereich im Umfeld des Sitzplatzes liegen. Die Zuordnung kann insbesondere so erfolgen, dass jeder Radarpunkt dem Cluster des ihm nächstliegenden Sitzplatzes zugeordnet wird. So lässt sich die Radarpunktwolke in Cluster, d. h. im Umfeld der jeweiligen Sitze lokalisierten, Teilmengen der Radarpunktwolke aufteilen, so dass das Bestimmen von sitzspezifischen Sitzbelegungszuständen gezielt und daher mit hoher Zuverlässigkeit auf Basis des dem jeweiligen Sitz zugeordneten Clusters erfolgen kann.As already explained in connection with the method according to the first aspect, clustering also occurs in some embodiments of the method according to the second aspect, particularly when the seating arrangement has a plurality of seats, wherein the seat occupancy state is an individual or cumulative occupancy state of the seats. For the radar point cloud or each individual radar point cloud (i.e., at any given time), the set of its radar points is subdivided into several clusters, each containing a subset of the points, by means of clustering, depending on the respective spatial position of the points with respect to the seats, in order to individually assign each seat to the cluster closest to it. In particular, the radar point cloud, or each individual radar point cloud (i.e., at any given time), is segmented into multiple clusters by assigning each seat a subset of radar points as a cluster, depending on their respective positions. This assignment is unique for each radar point, ensuring that the radar points of the cluster lie within a defined, closed, and especially cuboid, spatial region in the vicinity of the seat. The assignment can be made, in particular, by assigning each radar point to the cluster of its nearest seat. In this way, the radar point cloud can be divided into clusters, i.e., subsets of the radar point cloud located in the vicinity of the respective seats. This allows for the targeted and therefore highly reliable determination of seat-specific occupancy states based on the cluster assigned to the respective seat.
Ein dritter Aspekt der hier vorgestellten Lösung betrifft ein, insbesondere computerimplementiertes, Verfahren zum automatisierten Erkennen eines, insbesondere sitzplatzbezogenen, Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz (bzw. gleichbedeutend: Sitz), insbesondere Sitzplatz in oder für ein Fahrzeug, wie etwa ein Automobil (z. B. LKW, PKW oder Bus). Das Verfahren weist auf: (i) Erfassen, insbesondere Empfangen oder Erzeugen, eines Datensatzes für einen Sitzbelegungszustand, wobei der Datensatz Messdaten für zumindest zwei aufeinanderfolgende Zeitpunkte repräsentiert, wobei Messdaten eine zugeordnete Radarpunktwolke repräsentieren. Jede Radarpunktwolke wird oder wurde auf Basis einer Radarabtastung eines die Sitzanordnung zumindest abschnittsweise umgebenden Raumbereichs gewonnen; (ii) Bestimmen, insbesondere Schätzen, eines Sitzbelegungszustands der Sitzanordnung anhand eines Auswertungsmodells, das in Abhängigkeit von der Radarpunktwolke einen von mehreren vordefinierten möglichen Sitzbelegungszuständen der Sitzanordnung als Auswertungsergebnis liefert; und (iii) Ausgeben einer in Abhängigkeit von dem Auswertungsergebnis definierten Information. Das Verfahren gemäß dem zweiten Aspekt nutzt ein Auswertungsmodell, insbesondere ein Machine-Learning-Modell, welches mit Hilfe des Verfahrens gemäß dem ersten Aspekt trainiert wurde.A third aspect of the solution presented here concerns a method, particularly computer-implemented, for the automated detection of the occupancy status of a seating arrangement with at least one seat (or equivalently: seat), especially a seat in or for a vehicle, such as an automobile (e.g., truck, car, or bus). Driving comprises: (i) acquiring, in particular receiving or generating, a data set for a seat occupancy state, wherein the data set represents measurement data for at least two consecutive time points, the measurement data representing an associated radar point cloud. Each radar point cloud is or was obtained based on a radar scan of a spatial area that at least partially surrounds the seating arrangement; (ii) determining, in particular estimating, a seat occupancy state of the seating arrangement using an evaluation model that, depending on the radar point cloud, provides one of several predefined possible seat occupancy states of the seating arrangement as an evaluation result; and (iii) outputting information defined as a function of the evaluation result. The method according to the second aspect uses an evaluation model, in particular a machine learning model, which was trained using the method according to the first aspect.
Mithilfe des Verfahrens nach dem dritten Aspekt lässt sich auf Basis einer Radarpunktwolke, die mittels einer Radarabtastung eines die Sitzanordnung umgebenden Raumbereichs gewonnenen wird, ein Sitzbelegungszustand der Sitzanordnung kennzeichnendes Auswertungsergebnis (insbesondere im Sinne einer Voraussage oder Klassifikation) erhalten. So lassen sich, insbesondere im Fahrzeugkontext (insbesondere für Automobile), radarbasierte Lösungen implementieren, die einen Sitzbelegungszustand (insbesondere ausschließlich) radarbasiert zuverlässig erkennen können und auf Basis davon bestimmte Funktionalitäten oder System, wie etwa einen Gurtwarner oder ein Airbag-System, insgesamt oder selektiv aktivieren, deaktivieren oder steuern/regeln können. Durch Berücksichtigung von Messdaten zu zumindest zwei aufeinanderfolgenden Zeitpunkten kann die Qualität des Auswertungsergebnisses bei der tatsächlichen Erkennung eines Sitzbelegungszustands verbessert werden.Using the method described in the third aspect, a radar point cloud obtained by radar scanning of the area surrounding the seating arrangement allows for an evaluation result (particularly in the sense of a prediction or classification) that characterizes the occupancy status of the seating arrangement. This enables the implementation of radar-based solutions, especially in a vehicle context (particularly for automobiles), that can reliably detect a seat occupancy status (particularly exclusively) using radar and, based on this, activate, deactivate, or control/regulate certain functionalities or systems, such as a seatbelt warning system or an airbag system, either entirely or selectively. By considering measurement data from at least two consecutive time points, the quality of the evaluation result in the actual detection of a seat occupancy status can be improved.
Die auszugebende Information kann insbesondere das Auswertungsergebnis selbst repräsentieren. Sie kann auch ein, insbesondere mit einem menschlichen Sinn erfassbares, detektierbares Signal sein, wie etwa ein Warnhinweis, oder ein Steuersignal zur Ansteuerung einer Signalquelle oder ein die Information tragendes Datensignal.The information to be output can, in particular, represent the evaluation result itself. It can also be a detectable signal, especially one perceptible to a human sense, such as a warning, a control signal for activating a signal source, or a data signal carrying the information.
Nachfolgend werden verschiedene beispielhafte Ausführungsformen des Verfahrens gemäß dem dritten Aspekt beschrieben, die jeweils, soweit dies nicht ausdrücklich ausgeschlossen wird oder technisch unmöglich ist, beliebig miteinander sowie mit den weiteren beschriebenen anderen Aspekten der vorliegenden Lösung kombiniert werden können. Auch können Ausführungsformen des Verfahrens gemäß dem ersten und/oder zweiten Aspekt auf das Verfahren gemäß dem dritten Aspekt anwendbar sein und umgekehrt. Mit anderen Worten, Merkmale des Verfahrens, welche beim Erstellen des Auswertungsmodells Anwendung finden, können gleichermaßen beim Trainieren des Auswertungsmodells und/oder der Erkennung eines Sitzbelegungszustands Anwendung finden, und umgekehrt.The following describes various exemplary embodiments of the method according to the third aspect, which, unless expressly excluded or technically impossible, can be combined with each other and with the other described aspects of the present solution. Embodiments of the method according to the first and/or second aspect may also be applicable to the method according to the third aspect, and vice versa. In other words, features of the method used in creating the evaluation model can equally be used in training the evaluation model and/or in detecting a seat occupancy state, and vice versa.
Bei einigen Ausführungsformen umfasst das Ausgeben der Information ein Ansteuern einer Signalquelle in Abhängigkeit von der Information, um die Signalquelle zu veranlassen, in Abhängigkeit von der Ansteuerung ein definiertes Signal auszugeben. Die Signalquelle kann insbesondere eine Audioquelle, eine optische Signalquelle, insbesondere Anzeigevorrichtung für Bild oder Text, und/oder ein Haptik-Aktuator oder eine Kombination aus zumindest zwei der vorgenannten Signalquellen sein kann. So kann anhand der Signalisierung der erkannte Sitzbelegungszustand einem Benutzer mitgeteilt oder zur Steuerung eines anderen technischen Systems, wie etwa eines Airbagsystems, genutzt werden.In some embodiments, outputting the information includes controlling a signal source based on the information, causing the signal source to output a defined signal depending on the control. The signal source can be, in particular, an audio source, an optical signal source, especially a display device for images or text, and/or a haptic actuator, or a combination of at least two of the aforementioned signal sources. Thus, the detected seat occupancy status can be communicated to a user based on the signaling or used to control another technical system, such as an airbag system.
Bei einigen dieser Ausführungsformen wird die Signalquelle so in Abhängigkeit von der Information angesteuert, dass sie ein, insbesondere durch die Ansteuerung definiertes, Signal ausgibt, wenn die Information aus einem Auswertungsergebnis resultiert, demgemäß zumindest ein Sitz der Sitzanordnung belegt ist und/oder ein ausgewählter vorbestimmter Sitzbelegungszustand vorliegt.In some of these embodiments, the signal source is controlled depending on the information in such a way that it outputs a signal, defined in particular by the control, when the information results from an evaluation result according to which at least one seat of the seating arrangement is occupied and/or a selected predetermined seat occupancy state exists.
Bei einigen Ausführungsformen weist das Verfahren des Weiteren auf: (i) Detektieren eines Sitzgurtanlegezustands zumindest eines Sitzes der Sitzanordnung oder Empfangen einer diesen Sitzgurtanlegezustand kennzeichnenden Sitzgurtinformation; (ii) wobei die Signalquelle so in Abhängigkeit von der Sitzgurtinformation und der Information aus dem Auswertungsergebnis angesteuert wird, dass sie ein Gurtanlegehinweissignal ausgibt, wenn gemäß der Information zumindest ein Sitz der Sitzanordnung belegt ist und/oder ein ausgewählter vorbestimmter Sitzbelegungszustand vorliegt und Sitzgurtinformation angibt, dass der zugehörige Sitzgurt des Sitzes nicht angelegt ist. So lässt sich ein, insbesondere im Hinblick auf die Detektion ausschließlich, radarbasiertes Sitzgurtanlegeprüf- und -warnsystem erreichen.In some embodiments, the method further comprises: (i) detecting a seatbelt fastening state of at least one seat in the seating arrangement or receiving seatbelt information indicating this fastening state; (ii) wherein the signal source is controlled depending on the seatbelt information and the information from the evaluation result such that it outputs a seatbelt fastening warning signal when, according to the information, at least one seat in the seating arrangement is occupied and/or a selected predetermined seat occupancy state exists and seatbelt information indicates that the corresponding seatbelt of the seat is not fastened. In this way, a seatbelt fastening check and warning system based exclusively on radar, particularly with regard to detection, can be achieved.
Bei einigen Ausführungsformen weist die Sitzanordnung eine Mehrzahl von Sitzplätzen auf, für die individuell oder kumulativ ein Sitzbelegungszustand im Rahmen des Verfahrens zu bestimmen ist. Für jede (einzelne) Radarpunktwolke wird die Menge ihrer Radarpunkte mittels Cluster-Bildung in Abhängigkeit von der jeweiligen räumlichen Lage der Radarpunkte in Bezug auf die Sitzplätze in mehrere jeweils eine Untermenge der Radarpunkte enthaltende Cluster unterteilt, um jedem der Sitzplätze einen ihm räumlich nächstliegenden der Cluster individuell zuzuordnen. Das Bestimmen des Sitzbelegungszustands der Sitzanordnung, erfolgt für jeden der Sitzplätze in Abhängigkeit von der für den jeweils zugehörigen Cluster bestimmten Radarpunktwolke, um ein einen Sitzbelegungszustand des jeweiligen Sitzplatzes kennzeichnendes Auswertungsergebnis, insbesondere Klassifikationsergebnis, zu erhalten. Die auszugebende Information wird dann in Abhängigkeit von den jeweiligen individuellen Auswertungsergebnissen zu den verschiedenen Sitzplätzen definiert. Hinsichtlich weiterer Erläuterungen zur Clusterbildung wird auf obige Ausführungen bezüglich des Verfahrens nach dem ersten oder zweiten Aspekt verwiesen.In some embodiments, the seating arrangement has multiple seats, for which a seat occupancy state must be determined individually or cumulatively within the framework of the method. For each (individual) radar point cloud, the set of its radar points is divided into several subsets of radar points by means of clustering, depending on the respective spatial position of the radar points in relation to the seats. The seating arrangement is divided into clusters to individually assign each seat to the cluster closest to it. The occupancy status of each seat is determined based on the radar point cloud assigned to its respective cluster, in order to obtain an evaluation result, specifically a classification result, that characterizes the occupancy status of that seat. The information to be output is then defined based on the individual evaluation results for each seat. For further explanations regarding cluster formation, please refer to the above descriptions of the procedure according to the first or second aspect.
Bei einigen Ausführungsformen wird für zumindest eines der Merkmale die Serie seiner jeweiligen Werte dahingehend analysiert, ob darin ein periodischer Verlauf, insbesondere ein zu einem periodischen Atmungsmuster korrespondierender Verlauf, der Merkmale detektiert wird. Das Auswertungsergebnis wird dann in Abhängigkeit vom Ergebnis der Analyse bestimmt. So kann insbesondere nicht nur die Anwesenheit irgendeines Objekts auf einem Sitz der Sitzanordnung erkannt werden, sondern sogar mit hoher Zuverlässigkeit eine Unterscheidung von auf der Sitzanordnung vorhandenen lebenden Objekten, vor allem von Personen und Säugetieren wie etwa Haustieren (z. B. Hunden), getroffen werden. Insbesondere ist es möglich, die verfahrensgemäß auszugebende Information in Abhängigkeit vom Erkennen bzw. Nicht-Erkennen eines solchen periodischen Verlaufs zu definieren. Dabei können auch insbesondere eine oder mehrere detektierte Frequenzen des periodischen Verlaufs berücksichtigt werden, insbesondere so, dass die Information in Abhängigkeit davon definiert wird, ob die bzw. eine Frequenz innerhalb eines bestimmten Frequenzbereichs wie etwa eines typischen Atemfrequenzbereichs liegt. So lässt sich insbesondere eine Gurtanlegewarnfunktionalität oder ein Airbag-System in Abhängigkeit davon steuern, ob eine Atemfrequenz und somit mit hoher Wahrscheinlichkeit eine Person auf der Sitzanordnung bzw. einem bestimmten Sitz davon erkannt wurde.In some embodiments, the series of values for at least one of the features is analyzed to determine whether a periodic pattern, particularly one corresponding to a periodic breathing pattern, is detected. The evaluation result is then determined based on the outcome of the analysis. This allows not only the detection of any object on a seat in the seating arrangement, but also a highly reliable differentiation between living objects present on the seating arrangement, especially people and mammals such as pets (e.g., dogs). In particular, it is possible to define the information to be output according to the method as a function of whether or not such a periodic pattern is detected. In this context, one or more detected frequencies of the periodic pattern can also be taken into account, specifically such that the information is defined based on whether the frequency(ies) lies within a specific frequency range, such as a typical breathing rate range. In particular, a seatbelt warning function or an airbag system can be controlled depending on whether a breathing rate has been detected, and thus with a high probability a person has been detected on the seating arrangement or a specific seat.
Bei einigen Ausführungsformen werden die einzelnen Radarpunkte der Radarpunktwolke jeweils durch eine Position des jeweiligen Radarpunkts im dreidimensionalen Raum sowie durch zumindest einen der folgenden Parameter repräsentiert: (i) einen Doppler-Verschiebungswert des Radarsignals zum jeweiligen Radarpunkt; (iii) einen Signal-zu-Rausch-Abstands-Wert des Radarsignals zum jeweiligen Radarpunkt. Diese Parameter können insbesondere zur Vorfilterung der Radarpunktwolke im Rahmen einer der Merkmalsbestimmung vorangehenden Vorprozessierung genutzt werden.In some embodiments, the individual radar points of the radar point cloud are each represented by a position of the respective radar point in three-dimensional space and by at least one of the following parameters: (i) a Doppler shift value of the radar signal relative to the respective radar point; (iii) a signal-to-noise ratio value of the radar signal relative to the respective radar point. These parameters can be used, in particular, for pre-filtering the radar point cloud as part of a pre-processing step preceding feature determination.
Insbesondere kann bei einigen dieser Ausführungsformen das Bestimmen des Sitzbelegungszustands der Sitzanordnung anhand des Auswertungsmodells ausschließlich oder zumindest zahlenmäßig überwiegend auf Basis solcher Radarpunkte erfolgen, deren Doppler-Verschiebungswert bei oder oberhalb einer von Null verschiedenen vorbestimmten Verschiebungsschwelle liegt. So werden nur oder zumindest überwiegend sogenannte dynamische Radarpunkte als Basis für die Auswertung genutzt, also solche Radarpunkte, die eine Bewegung des abgetasteten Objekts anzeigen, deren Doppler-Verschiebungswert im Betrag bei oder oberhalb der Verschiebungsschwelle liegt. Der Doppler-Verschiebungswert kann positiv oder negativ sein, wobei in diesem Schritt nur der Betrag relevant ist. Dies kann insbesondere zur weiteren Erhöhung der Qualität, insbesondere der Zuverlässigkeit des Verfahrens genutzt werden, weil statische, d. h. im Wesentlichen unbewegte Punkte auf den Objektoberflächen, wie etwa Punkte auf einer Sitzfläche eines Sitzes, nicht oder nur in geringerer Anzahl in die Auswertung einfließen als solche Punkte, die eine Dynamik zeigen und somit mit hoher Wahrscheinlichkeit einem Lebewesen, insbesondere einer Person oder einem Tier, zuzuordnen sind. Damit kann die Verwertung der durch die Auswertung gewonnenen, ausgegebenen Information (z. B. zur Airbag-Steuerung oder einem Gurtwarnsystem) insbesondere in Abhängigkeit davon erfolgen, ob ein Lebewesen erkannt wurde oder eine statische Objektoberfläche.In some of these embodiments, the determination of the occupancy status of the seating arrangement can be based exclusively, or at least predominantly, on radar points whose Doppler shift value is at or above a predetermined, non-zero shift threshold. Thus, only, or at least predominantly, so-called dynamic radar points are used as the basis for the evaluation; these are radar points that indicate movement of the scanned object and whose Doppler shift value is at or above the shift threshold. The Doppler shift value can be positive or negative, but only the magnitude is relevant in this step. This can be used, in particular, to further improve the quality, especially the reliability, of the method because static points on the object surfaces, such as points on the seat surface, are not included in the evaluation, or are included only in smaller numbers, than points that exhibit dynamic movement and are therefore highly likely to be associated with a living being, especially a person or an animal. This allows the use of the information obtained and output through the evaluation (e.g., for airbag control or a seatbelt warning system) to depend in particular on whether a living being or a static object surface was detected.
Bei einigen Ausführungsformen umfasst der Sitzbelegungszustand zumindest eine Art der Sitzbelegung für zumindest einen Sitz der Sitzanordnung. Insbesondere kann das Bestimmen des Sitzbelegungszustands ein Bestimmen einer Art einer Sitzbelegung umfassen. Die Art der Sitzbelegung kann zumindest eines aus einem nicht belegten (d. h. freien) Sitz, einem durch eine erwachsene Person belegten Sitz, einem durch ein Kind belegten Sitz, einem durch einen Kindersitz mit einem Kleinkind belegten Sitz und einem durch eine Babyschale mit einem Baby belegten Sitz umfassen. Zusätzlich kann vorgesehen sein, zu erkennen, ob ein Sitzplatz z. B. mit einem Objekt oder einer Puppe belegt ist. Eine Person kann beispielsweise mit Hilfe des etablierten THUMS Menschmodells simuliert werden. Dabei stehen beispielsweise die Werte AM95, AM50 und AF05 für unterschiedliche erwachsene Personen (großer/schwerer Mann, mittelgroßer/mittelschwerer Mann bzw. kleine/leichte Frau). Kinder können anhand ihres Alters gekennzeichnet werden, z. B. 4YO oder 6YO für ein vierjähriges bzw. sechsjähriges Kind.In some embodiments, the seat occupancy state includes at least one type of seat occupancy for at least one seat in the seating arrangement. In particular, determining the seat occupancy state can include determining a type of seat occupancy. The type of seat occupancy can include at least one unoccupied (i.e., free) seat, a seat occupied by an adult, a seat occupied by a child, a seat occupied by a child seat with a toddler, and a seat occupied by an infant carrier with a baby. Additionally, it can be provided to detect whether a seat is occupied, for example, by an object or a doll. A person can be simulated, for example, using the established THUMS human model. Here, the values AM95, AM50, and AF05, for example, represent different adult persons (tall/heavy man, medium/medium-weight man, and small/light woman, respectively). Children can be identified by their age, e.g., 4YO or 6YO for a four-year-old or six-year-old child, respectively.
Indem nicht nur bestimmt wird, ob ein Sitzplatz belegt ist, sondern auch wie, und eine Ausgabe der entsprechenden Information kann eine differenziertere Steuerung beispielsweise eines Gurtwarnsystems oder Airbagsystems erfolgen. Beispielsweise können bestimmte Airbags nur aktiviert werden, wenn eine erwachsene Person einen Sitzplatz einnimmt, während ein Airbag deaktiviert werden kann (bzw. muss), wenn ein Sitz zwar belegt ist, aber nicht durch eine erwachsene Person, sondern z. B. durch eine Babyschale, die entgegen der Fahrtrichtung platziert ist. Bei Verwendung eines Kindersitzes oder einer Babyschale, welche üblicherweise nicht mit einem Sitzgurt, sondern z. B. mittels einer speziellen Befestigung („Isofix“) befestigt werden, ist es außerdem vorteilhaft, wenn eine Sitzgurtwarnung nicht ausgegeben wird, sodass unnötige Warnmeldungen vermieden werden können, die nicht hilfreich sind und ein Benutzer als störend empfinden kann.By determining not only whether a seat is occupied, but also how, and outputting the corresponding information, more differentiated control of, for example, a seatbelt warning system is possible. This applies to the safety systems or airbag systems. For example, certain airbags can only be activated when an adult occupies a seat, while an airbag can (or must) be deactivated if a seat is occupied, but not by an adult, but rather by, for example, a rear-facing infant car seat. Furthermore, when using a child car seat or infant carrier, which are typically not secured with a seat belt but rather with a special attachment system (e.g., "Isofix"), it is advantageous if a seat belt warning is not issued, thus avoiding unnecessary warning messages that are unhelpful and may be perceived as annoying by the user.
Ein vierter Aspekt der vorliegenden Lösung betrifft ein System, insbesondere eine Datenverarbeitungsvorrichtung, zum automatisierten Erkennen eines, insbesondere jeweiligen, Sitzbelegungszustands einer Sitzanordnung mit zumindest einem Sitzplatz, insbesondere mit zumindest einem Fahrzeugsitz in einem bzw. für ein Fahrzeug. Dabei weist das System eine Datenverarbeitungsvorrichtung auf, die konfiguriert ist, insbesondere mittels eines entsprechenden Computerprogramms, zum Erkennen des Sitzbelegungszustands das Verfahren nach dem dritten Aspekt auszuführen.A fourth aspect of the present solution concerns a system, in particular a data processing device, for the automated detection of the occupancy status of a seating arrangement with at least one seat, in particular with at least one vehicle seat in or for a vehicle. The system includes a data processing device that is configured, in particular by means of a corresponding computer program, to execute the procedure according to the third aspect for detecting the occupancy status.
Ein fünfter Aspekt der vorliegenden Lösung betrifft ein Computerprogramm oder Computerprogrammprodukt, aufweisend Anweisungen, die bei ihrer Ausführung auf der Datenverarbeitungsvorrichtung des Systems nach dem vierten Aspekt, das System veranlassen, das Verfahren nach dem dritten Aspekt auszuführen.A fifth aspect of the present solution relates to a computer program or computer program product comprising instructions which, when executed on the data processing device of the system according to the fourth aspect, cause the system to execute the procedure according to the third aspect.
Das Computerprogramm kann insbesondere auf einem nichtflüchtigen Datenträger gespeichert sein. Bevorzugt ist dies ein Datenträger in Form eines optischen Datenträgers oder eines Flashspeichermoduls. Dies kann vorteilhaft sein, wenn das Computerprogramm als solches unabhängig von einer Prozessorplattform gehandelt werden soll, auf der das ein bzw. die mehreren Programme auszuführen sind. In einer anderen Implementierung kann das Computerprogramm als eine Datei auf einer Datenverarbeitungseinheit, insbesondere auf einem Server vorliegen, und über eine Datenverbindung, beispielsweise das Internet oder eine dedizierte Datenverbindung, wie etwa ein proprietäres oder lokales Netzwerk, herunterladbar sein. Zudem kann das Computerprogramm eine Mehrzahl von zusammenwirkenden einzelnen Programmodulen aufweisen. Die Module können insbesondere dazu konfiguriert sein oder jedenfalls so einsetzbar sein, dass sie im Sinne von verteiltem Rechnen (engl. „Distributed computing“ auf verschiedenen Geräten (Computern bzw. Prozessoreinheiten ausgeführt werden, die geografisch voneinander beabstandet und über ein Datennetzwerk miteinander verbunden sind.The computer program can be stored, in particular, on a non-volatile data carrier. Preferably, this is a data carrier in the form of an optical data carrier or a flash memory module. This can be advantageous if the computer program itself is to be handled independently of a processor platform on which the one or more programs are to be executed. In another implementation, the computer program can exist as a file on a data processing unit, in particular on a server, and be downloadable via a data connection, for example, the internet or a dedicated data connection, such as a proprietary or local network. Furthermore, the computer program can comprise a plurality of interacting individual program modules. The modules can be configured, in particular, or at least be usable, to be executed on different devices (computers or processor units) that are geographically separated and interconnected via a data network, in accordance with the principles of distributed computing.
Das System nach dem vierten Aspekt kann entsprechend einen Programmspeicher aufweisen, in dem das Computerprogramm abgelegt ist. Alternativ kann das System auch eingerichtet sein, über eine Kommunikationsverbindung auf ein extern, beispielsweise auf einem oder mehreren Servern oder anderen Datenverarbeitungseinheiten verfügbares Computerprogramm zuzugreifen, insbesondere um mit diesem Daten auszutauschen, die während des Ablaufs des Verfahrens bzw. Computerprogramms Verwendung finden oder Ausgaben des Computerprogramms darstellen.The system according to the fourth aspect can accordingly have a program memory in which the computer program is stored. Alternatively, the system can also be configured to access an external computer program, for example on one or more servers or other data processing units, via a communication link, in particular to exchange data with it that is used during the execution of the procedure or computer program or represents outputs of the computer program.
Ein sechster Aspekt der vorliegenden Lösung betrifft ein Fahrzeug, aufweisend:(i) eine Sitzanordnung mit zumindest einem Sitzplatz; (ii) einen Radarsensor zur zumindest abschnittsweisen Radarabtastung der Sitzanordnung; und (iii) ein System nach dem vierten Aspekt zum automatisierten Erkennen eines, insbesondere jeweiligen, Sitzbelegungszustands der Sitzanordnung in Abhängigkeit von einer durch den Radarsensor ausgeführten, zumindest abschnittsweisen Radarabtastung der Sitzanordnung, insbesondere gemäß einem Verfahren nach dem dritten Aspekt.A sixth aspect of the present solution relates to a vehicle comprising: (i) a seating arrangement with at least one seat; (ii) a radar sensor for at least section-by-section radar scanning of the seating arrangement; and (iii) a system according to the fourth aspect for automatically detecting a, in particular, respective, seat occupancy state of the seating arrangement as a function of at least section-by-section radar scanning of the seating arrangement performed by the radar sensor, in particular according to a method according to the third aspect.
Die in Bezug auf den ersten, zweiten und dritten Aspekt der vorliegenden Lösung erläuterten Merkmale und Vorteile gelten entsprechend auch für die weiteren Aspekte der Lösung.The features and advantages explained in relation to the first, second and third aspects of the present solution also apply accordingly to the other aspects of the solution.
Weitere Vorteile, Merkmale und Anwendungsmöglichkeiten der vorliegenden Lösung ergeben sich aus der nachfolgenden detaillierten Beschreibung im Zusammenhang mit den Zeichnungen.Further advantages, features and application possibilities of the present solution will become apparent from the following detailed description in conjunction with the drawings.
Dabei zeigt:
-
1 schematisch eine beispielhafte Ausführungsform eines Fahrzeugs, das mit einem System zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung im Fahrzeug ausgerüstet ist; -
2 schematisch das Fahrzeug aus1 , wobei hier der Beifahrersitz belegt ist; -
3A eine beispielhafte zweidimensionale Darstellung einer durch einen Radarsensor des Fahrzeugs aus2 aufgenommenen Radarpunktwolke; -
3B eine beispielhafte Darstellung einer Clusterung der Radarpunktwolke aus3A gemäß den Positionen der einzelnen Sitzplätze der Sitzanordnung; -
4 ein Flussdiagramm zur Veranschaulichung einer beispielhaften Ausführungsform eines Verfahrens zum automatisierten Erkennen eines Sitzbelegungszustands einer Sitzanordnung; -
5A ein Flussdiagramm zur Veranschaulichung einer beispielhaften Ausführungsform eines Prozesses zum Erstellen eines Datensatzes; und -
5B ein Flussdiagramm zur Veranschaulichung einer beispielhaften Ausführungsform eines Verfahrens zum Erstellen eines Auswertungsmodells für das automatisierte Erkennen eines Sitzbelegungszustands einer Sitzanordnung.
-
1 schematically an exemplary embodiment of a vehicle equipped with a system for the automated detection of the occupancy status of a seating arrangement in the vehicle; -
2 schematically the vehicle1 , where the passenger seat is occupied; -
3A an exemplary two-dimensional representation of a radar sensor of the vehicle2 recorded radar point cloud; -
3B an exemplary representation of a clustering of the radar point cloud from3A according to the positions of the individual seats in the seating arrangement; -
4 a flowchart to illustrate an exemplary embodiment a method for the automated detection of the seat occupancy status of a seating arrangement; -
5A a flowchart to illustrate an exemplary embodiment of a process for creating a data set; and -
5B a flowchart to illustrate an exemplary embodiment of a method for creating an evaluation model for the automated detection of a seat occupancy status of a seating arrangement.
In den Figuren bezeichnen gleiche Bezugszeichen gleiche, ähnliche oder einander entsprechende Elemente. In den Figuren dargestellte Elemente sind nicht notwendigerweise maßstabsgetreu dargestellt. Vielmehr sind die verschiedenen in den Figuren dargestellten Elemente derart wiedergegeben, dass ihre Funktion und genereller Zweck dem Fachmann verständlich werden. In den Figuren dargestellte Verbindungen und Kopplungen zwischen funktionellen Einheiten und Elementen können, soweit nicht ausdrücklich anders angegeben, auch als indirekte Verbindung oder Kopplung implementiert werden. Funktionale Einheiten können insbesondere als Hardware, Software oder eine Kombination aus Hardware und Software implementiert werden.In the figures, identical reference symbols denote identical, similar, or corresponding elements. Elements depicted in the figures are not necessarily shown to scale. Rather, the various elements depicted in the figures are represented in such a way that their function and general purpose are understandable to a person skilled in the art. Connections and couplings between functional units and elements shown in the figures can, unless expressly stated otherwise, also be implemented as indirect connections or couplings. Functional units can, in particular, be implemented as hardware, software, or a combination of hardware and software.
Zunächst wird mit Bezug auf
Die in
Das System 115 weist insbesondere eine Datenverarbeitungseinheit 115a mit zumindest einen Mikroprozessor sowie einen damit signalverbundenen Speicher 115b auf, in dem ein zur Durchführung des im Weiteren unter Bezugnahme auf
Das in
Nachfolgend wird nun auf die
In
Wenn bei der Radarabtastung nicht nur die räumlichen Positionen der Stellen, an denen der Radarstrahl von den abgetasteten Objekten reflektiert wird, als Koordinaten erfasst werden, sondern auch eine jeweilige Dopplerverschiebung gemessen wird, dann können die einzelnen Radarpunkte in Abhängigkeit vom Betrag dieser Dopplerverschiebung klassifiziert, insbesondere in zwei verschiedene Klassen eingeteilt werden. Letzteres kann etwa dadurch erfolgen, dass die Dopplerverschiebung mit einer vordefinierten Verschiebungsschwelle, die zu einer bestimmten Verschiebungsgeschwindigkeit korrespondiert, verglichen werden. In Abhängigkeit vom Ergebnis des Vergleichs können diejenigen Radarpunkte 310, die gemäß dem Wert ihrer zugeordneten Dopplerverschiebung keine Geschwindigkeit oder eine Geschwindigkeit der Objektoberfläche am Reflexionspunkt aufweisen, die unterhalb der Verschiebungswelle liegt, als „statische“ Radarpunkte klassifiziert werden (in den
Die Klassifizierung der Radarpunkte 310 und 315 entsprechend ihrer Dopplerverschiebung ist nicht zwingend erforderlich, sie kann jedoch genutzt werden, um die Radarpunktwolke 305, insbesondere im Rahmen einer vor ihrer Auswertung erfolgenden Vorprozessierung zu verarbeiten, insbesondere in Abhängigkeit von der Klassifizierung zu filtern. Beispielsweise könnte eine solche Filterung derart erfolgen, dass nur dynamische Radarpunkte 315 für die Auswertung berücksichtigt werden, um etwa nur bewegte Objekte zu erkennen.Classifying radar points 310 and 315 according to their Doppler shift is not strictly necessary; however, it can be used to process radar point cloud 305, particularly as part of preprocessing prior to evaluation, and especially to filter based on the classification. For example, such filtering could be performed to consider only dynamic radar points 315 for evaluation, in order to detect only moving objects.
In
Bei dem Verfahren 400 wird eine Radarpunktwolke 305 erfasst, indem in einem Schritt 410 Radarmessdaten, im vorliegenden Beispiel vom Radarsensor 110 des Fahrzeugs 100, empfangen werden und weiterverarbeitet werden, um eine oder mehrere Radarpunktwolken zu bilden.In method 400, a radar point cloud 305 is acquired by receiving radar measurement data in a step 410, in the present example from the radar sensor 110 of the vehicle 100, and processing it to form one or more radar point clouds.
Die nun vorliegende Radarpunktwolke 305 kann sodann in einem weiteren Prozess 420 geclustert werden, indem für jeden ihrer Radarpunkte geprüft wird, ob er innerhalb von einem der definierten Raumbereiche 325a bis 325e (vgl.
Für die nachfolgende Auswertung der geclusterten Radarpunktwolke 305 werden für jeden der Cluster in einem Prozess 430 Merkmale bestimmt. Diese Merkmale können insbesondere die Anzahl der Radarpunkte in dem Cluster enthalten. Soweit keine Filterung gemäß Dopplerverschiebungswert stattgefunden hat, kann es sich dabei um eine gemeinsame Zählung sowohl der statischen als auch der dynamischen Radarpunkte 310 bzw. 315 handeln. Falls jedoch die statischen Radarpunkte 310 zuvor ausgefiltert wurden, handelt es sich nur noch um eine Zählung der dynamischen Radarpunkte 315. Weitere Merkmale können die Position des Schwerpunkts eines Clusters, die Punktdichte in einem Cluster oder ein Mittelwert der Doppler-Werte eines Clusters sein. Diese Merkmale werden jeweils in einem Merkmalsvektor für jeden Cluster zusammengefasst, wie unten genauer erläutert werden wird.For the subsequent analysis of the clustered radar point cloud 305, 430 features are determined for each cluster in a single process. These features can include, in particular, the number of radar points in the cluster. If no filtering according to Doppler shift value has taken place, this can be a combined count of both the static and dynamic radar points 310 and 315, respectively. However, if the static radar points 310 were filtered out beforehand, it is only a count of the dynamic radar points 315. Further features can include the position of a cluster's centroid, the point density in a cluster, or the mean Doppler values of a cluster. These features are each summarized in a feature vector for each cluster, as will be explained in more detail below.
Nun kann die Auswertung der Merkmale für den Cluster zum Sitz 105b erfolgen (gleiches kann analog für die jeweiligen Cluster zu den anderen Sitzplätzen erfolgen). Dazu wird im Prozess 440 der Merkmalsvektor (bzw. ein zeitlicher Verlauf der Merkmale in einem Gesamtvektor bzw. Gesamttensor, s. u.) als Eingangsgröße einem Auswertungsmodell zur Verfügung gestellt. Dies kann insbesondere ein auf maschinellem Lernen beruhendes Modell sein, wie etwa ein künstliches neuronales Netz. Da im vorliegenden Beispiel auch der zeitliche Verlauf berücksichtigt wird, kommt insbesondere ein rekurrentes neuronales Netz (RNN) zur Anwendung (siehe unten Beschreibung zu
Die für das vorausgehende Training benutzten Trainings- und gegebenenfalls Validierungsdaten können dabei so strukturiert sein, dass sie jeweils eine zugeordnete korrekte Klasse einer Klassifizierung möglicher Sitzbelegungszustände enthalten. So kann das Modell im Sinne eines überwachten Lernens (Supervised learning) trainiert und validiert werden. Im einfachsten Fall geben dabei Sitzbelegungszustände an, ob der Sitz belegt ist oder nicht. Es sind jedoch auch weiter entwickelte Klassifikationen denkbar, bei denen im Falle der Anwesenheit eines Objekts zusätzlich durch die jeweilige Klasse angegeben wird, welche Art von Objekt es sich handelt, beispielsweise um ein bewegtes oder um ein unbewegtes, und im Fall eines bewegten Objekts insbesondere, ob es sich um eine Person handelt (grundsätzlich insbesondere anhand eines Atemmusters im Verlauf der Merkmale erkennbar).The training and, if applicable, validation data used for the preceding training can be structured in such a way that each dataset contains a corresponding, correct class within a classification of possible seat occupancy states. This allows the model to be trained and validated using supervised learning. In the simplest case, seat occupancy states indicate whether the seat is occupied or not. However, more sophisticated classifications are also conceivable, where, in the case of an object's presence, the respective class additionally specifies the type of object, for example, whether it is moving or stationary, and, in the case of a moving object, specifically whether it is a person (generally recognizable based on a breathing pattern over the course of the features).
Wenn im Prozess 440 anhand des Auswertungsmodells ein Sitzbelegungszustand für die Sitzanordnung 105 bestimmt wurde, insbesondere für einen oder mehrere ihrer Sitzplätze 105a bis 105e individuell, kann dieses Ergebnis als entsprechende Information im Prozess 445 ausgegeben werden, beispielsweise an einer Benutzerschnittstelle des Fahrzeugs oder in Form von Daten zur Weiterverarbeitung durch ein oder mehrere andere Systeme, insbesondere Systeme des Fahrzeugs.If, in process 440, a seat occupancy status for the seating arrangement 105 has been determined using the evaluation model, in particular for one or more of its seats 105a to 105e individually, this result can be output as corresponding information in process 445, for example at a user interface of the vehicle or in the form of data for further processing by one or more other systems, in particular systems of the vehicle.
Im vorliegenden Beispiel soll diese Information insbesondere dazu verwendet werden, zu prüfen, ob in Abhängigkeit vom Sitzbelegungszustand eines jeweiligen Sitzes 105a bis 105e und dem Ergebnis einer Prüfung dahingehend, ob ein entsprechender Sicherheitsgurt für diesen Sitz angelegt wurde oder nicht, ein Gurtwarnsignal auszugeben oder nicht.In the present example, this information is to be used in particular to check whether, depending on the occupancy status of a respective seat 105a to 105e and the result of a check as to whether a corresponding seat belt has been fitted for this seat or not, a seat belt warning signal should be issued or not.
Dazu kann im Prozess 450 geprüft werden, ob der Sicherheitsgurt zum betreffenden Sitz (hier beispielsweise zum Sitz 105b) angelegt ist und im Schritt 455 eine Funktionalität des Fahrzeugs 100 in Abhängigkeit vom der im Prozess 445 ausgegebenen Information zum Sitzbelegungszustand und dem im Prozess 450 bestimmten Status des Sicherheitsgurts gesteuert werden. Insbesondere kann dies so erfolgen, dass im Prozess 455 eine Signalquelle zur Ausgabe eines insbesondere optischen und/oder akustischen Gurtstatussignals angesteuert wird, um einem oder mehreren anderen Insassen des Fahrzeugs gegebenenfalls zu signalisieren, dass ein Sitz zwar belegt aber dort der Sicherheitsgurt nicht angelegt ist. Danach verzweigt das Verfahren zurück zum Schritt 410, um einen weiteren Schleifendurchlauf zu starten.In process 450, it can be checked whether the seat belt is fastened for the relevant seat (here, for example, seat 105b). In step 455, a function of the vehicle 100 can be controlled depending on the seat occupancy information output in process 445 and the seat belt status determined in process 450. Specifically, this can be done by activating a signal source in process 455 to output a seat belt status signal, particularly visual and/or audible, to indicate to one or more other vehicle occupants that a seat is occupied but the seat belt is not fastened. The process then branches back to step 410 to start another loop iteration.
Das Auswertungsmodell wird vor der eigentlichen Anwendung im Verfahren 400 und vor dem Training erstellt. Insbesondere erfolgt eine entsprechende Optimierung der Hyperparameter, wie nachfolgend erläutert. In
In einem Schritt 501 wird zunächst eine Radarpunktwolke erfasst und wie oben erwähnt einer Vorprozessierung unterzogen. Jeder der Radarpunkte der Radarpunktewolke kann insbesondere durch die Position des jeweiligen Radarpunkts im dreidimensionalen Raum (3D-Koordinaten), sowie durch den Doppler-Verschiebungswert des Radarsignals zum jeweiligen Radarpunkt und den Signal-zu-Rausch-Abstands-Wert des Radarsignals zum jeweiligen Radarpunkt charakterisiert sein.In step 501, a radar point cloud is first acquired and, as mentioned above, subjected to preprocessing. Each of the radar points in the radar point cloud can be characterized, in particular, by the position of the respective radar point in three-dimensional space (3D coordinates), as well as by the Doppler shift value of the radar signal to the respective radar point and the signal-to-noise ratio value of the radar signal to the respective radar point.
Es können Datensätze zu verschiedenen Sitzbelegungszuständen bereitgestellt werden, wie Sitzbelegungszustände mit Menschen, Objekten und leeren Sitzen, bei denen für jeden Sitz entschieden werden soll, ob eine Anschnall-Erinnerung (d. h. ein Gurtwarnsignal) ausgegeben werden muss, wie oben erläutert. Die Entscheidung hierzu basiert auf dem Vorhandensein eines Menschen und seiner Größe (bei Kindern wird das Alter herangezogen, da es stark mit der Größe korreliert). Es können dabei verschiedene Arten von Passagieren (bzw. Sitzbelegungszuständen) berücksichtigt werden, wie mittelgroße männliche Erwachsene (z. B. AM50), große männliche Erwachsene (z. B. AM95), kleine weibliche Erwachsene (z. B. AF05) oder Kinder verschiedenen Alters. Die nachfolgende erläuterte Hyperparameteroptimierung kann dies durch Wahl einer passenden Metrik berücksichtigen, welche mit einem Optimierungsverfahren 511 (hier Bayes'sche Optimierung) optimiert wird.Datasets can be provided for various seat occupancy states, such as those with people, objects, and empty seats. For each seat, a decision must be made as to whether a seatbelt reminder (i.e., a seatbelt warning signal) should be issued, as explained above. This decision is based on the presence of a person and their size (for children, age is used, as it correlates strongly with size). Different types of passengers (or seat occupancy states) can be considered, such as medium-sized adult males (e.g., AM50), large adult males (e.g., AM95), small adult females (e.g., AF05), or children of different ages. The hyperparameter optimization described below can account for this by selecting a suitable metric, which is then optimized using an optimization method (here, Bayesian optimization).
In einem Schritt 502 werden die Radarpunkte dann nach ihrer Lage im Fahrzeug gruppiert, d. h. es werden wie oben erläutert Cluster gebildet. Für jeden Sitz wird dazu beispielsweise eine quaderförmige Box definiert, und alle Radarpunkte, die innerhalb der Box eines Sitzes liegen, werden zu einem Cluster gruppiert, das dem jeweiligen Sitz entspricht.In step 502, the radar points are then grouped according to their location in the vehicle; that is, clusters are formed as explained above. For example, a cuboid box is defined for each seat, and all radar points that lie within the box of a seat are grouped into a cluster corresponding to that seat.
Für jeden Cluster wird in Schritt 503 ein fester Satz von Merkmalen berechnet und ein Merkmalsvektor erstellt, der einen entsprechenden numerischen Wert jedes Merkmals enthält. Die berechneten Merkmale beschreiben verschiedene Eigenschaften des Clusters wie die Anzahl der Punkte, die Position des Schwerpunkts, die Dichte der Punkte oder den Mittelwert der Dopplerwerte der zum Cluster gehörenden Punkte (siehe auch die entsprechende Beschreibung oben). Der Merkmalsvektor b eines Clusters (d. h. einer „Box“) mit n Merkmalen kann wie folgt aussehen, wobei fi für die numerischen Werte der Merkmale stehen:
Die Merkmalsvektoren bi für m Cluster werden in einem Schritt 504 in einem Vektor y gestapelt. Bei einem Fahrzeug mit fünf Sitzen und entsprechend fünf Clustern würde beispielsweise m = 5 gelten.
Der Vektor y repräsentiert Messdaten zu einem Zeitpunkt (falls ein Cluster bzw. eine Box keine Punkte enthält, werden die Werte in dem entsprechenden Merkmalsvektor auf 0 gesetzt). Um den zeitlichen Verlauf der Merkmale berücksichtigen zu können, wird nun eine Sequenz mit l Zeitpunkten betrachtet. Die entsprechenden Vektoren yi werden in einer Matrix s in einem Schritt 505 zusammengefasst:
Auf diese Weise können Datensätze zu verschiedenen Sitzbelegungszuständen bereitgestellt werden (Schritt 506). Die Merkmale der Matrix s werden gestapelt, also zu einem langen Gesamtvektor bzw. Gesamttensor zusammengefasst. Der gestapelte Vektor dient als Eingabe für ein rekurrentes neuronales Netz (RNN), welches z. B. aus einer oder mehreren LSTM-Zellen oder GRU-Zellen besteht, deren Ausgabe dann durch eine sogenannte lineare Schicht geleitet wird, welche die Klassifikation ausgibt, auf Grundlage des durch das RNN (für den gegebenen Zeitabschnitt) berechneten Vektors. In this way, data sets for different seat occupancy states can be provided (step 506). The features of the matrix s are stacked, i.e., combined into a long overall vector or tensor. The stacked vector serves as input for a recurrent neural network (RNN), which consists, for example, of one or more LSTM cells or GRU cells. The output of this RNN is then processed by a linear layer, which outputs the classification based on the vector calculated by the RNN (for the given time interval).
Das Gesamtnetzwerk hat so viele Ausgaben, wie es Boxen bzw. Cluster gibt, also für ein Fahrzeug mit fünf Sitzen und entsprechend fünf Clustern fünf Ausgaben. Jede dieser Ausgaben kann dann die Wahrscheinlichkeit angeben, ob der Sitz von einem Erwachsenen besetzt ist oder nicht besetzt ist (z. B. ein Kind, eine Wasserflasche, leer). Entsprechend kann eine (binäre) Klassifizierung für jeden Sitz erfolgen und eine Sitzgurtwarnung ausgegeben werden, wenn die Person nicht angeschnallt ist (die Kombination mit der Information über das Anschnallen ist dabei jedoch nicht Teil des Netzes). Die Ausgabe kann beispielsweise wie folgt aussehen, wenn zwei Sitze belegt sind und drei nicht:
Im Folgenden wird mit Bezug auf
Zunächst wird eine Reihe von Parametern ausgewählt, d. h. verschiedene Sitzbelegungszustände, für die durch die Optimierung ein Gleichgewicht hergestellt werden soll, z. B., ob der Motor läuft oder nicht oder die Sitzbelegung eines bestimmten Sitzplatzes 105a bis 105e. Eine Kombination wäre zum Beispiel: AF05 (kleine Frau) auf dem Fahrersitz, während das Fahrzeug steht. Dies ist eine Kombination aus der Größe (der Person), dem Sitz und dem Zustand des Fahrzeugs. Weitere Beispiele für Parameter sind Werte AM95, AM50 und AF05 für unterschiedliche erwachsene Personen (großer/schwerer Mann, mittelgroßer/mittelschwerer Mann bzw. kleine/leichte Frau). Kinder können anhand ihres Alters gekennzeichnet werden, z. B. 4YO oder 6YO für ein vierjähriges bzw. sechsjähriges Kind. Ebenso können Objekte oder ein leerer Sitz klassifiziert werden.First, a set of parameters is selected, i.e., different seat occupancy states for which the optimization aims to establish a balance. Examples include whether the engine is running or not, or the occupancy of a specific seat (105a to 105e). One combination would be, for example, AF05 (small woman) in the driver's seat while the vehicle is stationary. This is a combination of the person's size, the seat, and the vehicle's condition. Other parameter examples include values AM95, AM50, and AF05 for different adult occupants (tall/heavy man, medium/medium-weight man, and small/light woman, respectively). Children can be identified by their age, e.g., 4YO or 6YO for a four-year-old or six-year-old child, respectively. Similarly, objects or an empty seat can be classified.
Mittels Bayes'scher Optimierung können entsprechende Gewichte ermittelt werden. Für alle möglichen Kombinationen der gewählten Parameter kann eine Genauigkeit berechnet werden. Von jeder dieser berechneten Genauigkeiten kann der Betrag der Differenz zwischen einem Zielwert und der berechneten Genauigkeit für jede Kombination von Parameter berechnet werden.Using Bayesian optimization, appropriate weights can be determined. For all possible combinations of the selected parameters, an accuracy can be calculated. From each of these calculated accuracies, the difference between a target value and the calculated accuracy can be determined for every combination of parameters.
Für die Bayes'sche Optimierung 511 wird vor dem Start eine feste Anzahl von Iterationen (m) festgelegt. Die Bayes'sche Optimierung optimiert die gewählte Metrik, um die Hyperparameter einzustellen und behandelt dabei die Funktion, welche die Metrik definiert, als eine Zufallsfunktion, die sie zu schätzen versucht. Die Anzahl der Iterationen wird festgelegt, da diese bei der Bayes'sche Optimierung aufgrund der Implementierung theoretisch keine Begrenzung hat.For Bayesian optimization 511, a fixed number of iterations (m) is defined before the start. Bayesian optimization optimizes the chosen metric to adjust the hyperparameters, treating the function that defines the metric as a random function that it attempts to estimate. The number of iterations is fixed because it is crucial in Bayesian optimization. Theoretically, it has no limit due to the implementation.
Es werden die Hyperparameter bereitgestellt, wobei für jeden Hyperparameter ein Bereich von Eingabewerten angegeben wird und die Bayes'sche Optimierung 511 zufällige Werte für die ersten paar Iterationen (hier: 10) auswählt (Schritt 520). Nach 10-maliger Iteration, wobei das Auswertungsmodell jeweils mit den Parametern aus dem Datensatz trainiert wird, und die Metrik ausgewertet wird (Schritt 530), wählt die Bayes'sche Optimierung 511 die vielversprechendsten Hyperparameter aus (Schritt 540).The hyperparameters are provided, with a range of input values specified for each hyperparameter, and the Bayesian optimization 511 selects random values for the first few iterations (here: 10) (step 520). After 10 iterations, during which the evaluation model is trained with the parameters from the dataset and the metric is evaluated (step 530), the Bayesian optimization 511 selects the most promising hyperparameters (step 540).
In den nächsten (m-10) Iterationen, wobei das Auswertungsmodell jeweils mit den Parametern aus dem Datensatz weiter trainiert wird, und die Metrik entsprechend ausgewertet wird (Schritt 550), werden ebenso immer die vielversprechendsten Hyperparameter ausgewählt. Insbesondere sind die jeweils nächsten gewählten Hyperparameter diejenigen aus dem Bereich der Eingabewerte, bei denen der Wert am höchsten ist. Nachdem die gewählte Anzahl von Iterationen durchlaufen wurde (hier also insgesamt m), ist das Ergebnis des Prozesses (d. h. der Bayes'schen Optimierung 511) derjenige Satz von Hyperparametern, der ausgewertet wurde und zum niedrigsten Messwert führt.In the next (m-10) iterations, where the evaluation model is further trained with the parameters from the dataset and the metric is evaluated accordingly (step 550), the most promising hyperparameters are always selected. Specifically, the next selected hyperparameters are those from the range of input values with the highest values. After the chosen number of iterations has been completed (here, a total of m), the result of the process (i.e., the Bayesian optimization 511) is the set of hyperparameters that was evaluated and leads to the lowest measured value.
Dieses erste „kurze“ Training (z. B. 10% des gesamten Trainings) ist vorteilhaft, da die Auswertung des Modells lange dauern kann. Das längere finale Training erfolgt dann mit bereits ausgewählten und vielversprechendsten Hyperparametern (Schritt 560). Das Auswertungsmodell wird schließlich mit den aus der Optimierung erhaltenen Hyperparametern gespeichert, sodass es beispielsweise in dem Verfahren 400 zum Erkennen eines Sitzbelegungszustands angewandt werden kann.This initial "short" training (e.g., 10% of the total training) is advantageous because model evaluation can be lengthy. The longer, final training then takes place with the most promising hyperparameters already selected (step 560). The evaluation model is then saved with the hyperparameters obtained from the optimization, allowing it to be used, for example, in procedure 400 to detect seat occupancy.
Das gemäß dem Verfahren 500 erstellte Auswertungsmodell liefert stabilere Ergebnisse, da es im Gegensatz zur Vorhersage für jeden einzelnen Zeitpunkt („frame“) eine längere Zeitspanne mit mehreren Zeitpunkten berücksichtigt. Außerdem berücksichtigt das Modell (anhand der Cluster) das gesamte Fahrzeug, so dass es in der Lage ist, Wechselwirkungen zwischen den verschiedenen Sitzen zu lernen. Beispielsweise kann es vorkommen, dass sich durch eine Person, die sich viel bewegt (z. B. der Fahrer auf dem Fahrersitz), die Anzahl der Punkte in der Radarpunktwolke einer Person auf einem anderen Sitz, die sich wenig bewegt (z. B. schlafender Beifahrer), reduziert. Das Auswertungsmodell bietet auch den Vorteil, dass es Muster verschwindender Punkte lernen kann, z. B., wenn jemand die Luft anhält.The evaluation model created using Method 500 delivers more stable results because, unlike predictions for each individual time point ("frame"), it considers a longer time span with multiple time points. Furthermore, the model (based on clusters) considers the entire vehicle, enabling it to learn interactions between different seats. For example, a person who moves a lot (e.g., the driver in the driver's seat) might reduce the number of points in the radar point cloud of a person in another seat who moves little (e.g., a sleeping passenger). The evaluation model also has the advantage of being able to learn patterns of disappearing points, such as when someone holds their breath.
Während vorausgehend wenigstens eine beispielhafte Ausführungsform beschrieben wurde, ist zu bemerken, dass eine große Anzahl von Variationen dazu existiert. Es ist dabei auch zu beachten, dass die beschriebenen beispielhaften Ausführungsformen nur nichtlimitierende Beispiele darstellen, und es nicht beabsichtigt ist, dadurch den Umfang, die Anwendbarkeit oder die Konfiguration der hier beschriebenen Vorrichtungen und Verfahren zu beschränken. Vielmehr wird die vorausgehende Beschreibung dem Fachmann eine Anleitung zur Implementierung mindestens einer beispielhaften Ausführungsform liefern, wobei sich versteht, dass verschiedene Änderungen in der Funktionsweise und der Anordnung der in einer beispielhaften Ausführungsform beschriebenen Elemente vorgenommen werden können, ohne dass dabei von dem in den angehängten Ansprüchen jeweils festgelegten Gegenstand sowie seinen rechtlichen Äquivalenten abgewichen wird.While at least one exemplary embodiment has been described above, it should be noted that a large number of variations exist. It should also be noted that the described exemplary embodiments are merely non-limiting examples, and it is not intended to restrict the scope, applicability, or configuration of the devices and methods described herein. Rather, the preceding description will provide the person skilled in the art with guidance for implementing at least one exemplary embodiment. It is understood that various modifications to the function and arrangement of the elements described in an exemplary embodiment can be made without derogating from the subject matter defined in the appended claims and their legal equivalents.
BEZUGSZEICHENLISTEREFERENCE MARK LIST
- PP
- Person auf dem BeifahrersitzPerson in the passenger seat
- 100100
- Fahrzeugvehicle
- 105105
- SitzanordnungSeating arrangement
- 105a-e105a-e
- Sitze bzw. SitzplätzeSeats or seating places
- 110110
- Radarsensorradar sensor
- 110a110a
- Beobachtungsfeld des Radarsensors 110Observation field of the radar sensor 110
- 115115
- System zum automatisierten Erkennen eine SitzbelegungszustandsSystem for automated seat occupancy detection
- 115a115a
- DatenverarbeitungseinheitData processing unit
- 115b115b
- Speichermemory
- 305305
- Radarpunktwolkeradar spot cloud
- 310310
- statische Radarpunktestatic radar points
- 315315
- dynamische RadarpunkteDynamic radar points
- 320320
- Bereiche der Radarpunktwolke 305 mit hoher RadarpunktdichteAreas of radar point cloud 305 with high radar point density
- 325a-e325a-e
- Raumbereiche zur ClusterdefinitionSpatial areas for cluster definition
- 400400
- Verfahren zum automatisierten Erkennen eines SitzbelegungszustandsMethod for the automated detection of seat occupancy status
- 410-455410-455
- einzelne Prozesse oder Verfahrensschritte im Rahmen des Verfahrens 400individual processes or procedural steps within the framework of procedure 400
- 500500
- Verfahren zum Erstellen eines AuswertungsmodellsProcedure for creating an evaluation model
- 501-560501-560
- einzelne Prozesse oder Verfahrensschritte im Rahmen des Verfahrens 500individual processes or procedural steps within the framework of procedure 500
Claims (15)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102023116164.4A DE102023116164B4 (en) | 2023-06-21 | 2023-06-21 | METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENT |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102023116164.4A DE102023116164B4 (en) | 2023-06-21 | 2023-06-21 | METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENT |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| DE102023116164A1 DE102023116164A1 (en) | 2024-12-24 |
| DE102023116164B4 true DE102023116164B4 (en) | 2025-10-30 |
Family
ID=93746127
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| DE102023116164.4A Active DE102023116164B4 (en) | 2023-06-21 | 2023-06-21 | METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENT |
Country Status (1)
| Country | Link |
|---|---|
| DE (1) | DE102023116164B4 (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20210052176A1 (en) * | 2018-02-22 | 2021-02-25 | Vayyar Imaging Ltd. | Radar-based classification of vehicle occupants |
| DE102021001374A1 (en) * | 2021-03-16 | 2021-04-29 | Daimler Ag | Method for monitoring a vehicle interior and vehicle |
| CN113945913A (en) * | 2021-10-12 | 2022-01-18 | 南昌智能新能源汽车研究院 | A method for detecting occupants in vehicles based on millimeter-wave radar point cloud |
-
2023
- 2023-06-21 DE DE102023116164.4A patent/DE102023116164B4/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20210052176A1 (en) * | 2018-02-22 | 2021-02-25 | Vayyar Imaging Ltd. | Radar-based classification of vehicle occupants |
| DE102021001374A1 (en) * | 2021-03-16 | 2021-04-29 | Daimler Ag | Method for monitoring a vehicle interior and vehicle |
| CN113945913A (en) * | 2021-10-12 | 2022-01-18 | 南昌智能新能源汽车研究院 | A method for detecting occupants in vehicles based on millimeter-wave radar point cloud |
Also Published As
| Publication number | Publication date |
|---|---|
| DE102023116164A1 (en) | 2024-12-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| DE102019134141B4 (en) | Seat belt condition determination procedure | |
| DE102006024979B4 (en) | Method and apparatus for detecting the presence of an occupant within a vehicle | |
| DE102022103818A1 (en) | METHOD AND SYSTEM FOR DETECTING A SEAT OCCUPANCY STATE OF A SEAT ARRANGEMENT BASED ON RADAR POINT CLOUDS | |
| DE102019110769A1 (en) | NOTIFICATION SYSTEM FOR THE SPATIAL PERCEPTION OF REMOTE VEHICLES | |
| WO2023156318A1 (en) | Method and devices for radar-assisted identification of a seat occupancy state of a seating arrangement | |
| DE102021112630B4 (en) | Vision-based airbag release | |
| DE102019113928A1 (en) | MICRODOPPLER DEVICE AND METHOD FOR TRAILER DETECTION AND TRACKING | |
| DE112020006871T5 (en) | Cabin interior detection device and cabin interior detection method | |
| DE102020215729A1 (en) | SYSTEM AND METHOD FOR DETECTING ABNORMAL PASSENGER BEHAVIOR IN AUTONOMOUS VEHICLES | |
| DE102019214612A1 (en) | Method and control device for recognizing an object in the surroundings of a vehicle | |
| DE102020215773A1 (en) | Method and device for detecting objects in sensor data from an ultrasonic sensor system in a vehicle | |
| DE10239604A1 (en) | Seat occupation detection method for vehicle passenger seat identifying seated person or object for corresponding control of airbag device | |
| EP4289661B1 (en) | Method and system for detecting a seat occupancy state of a seat assembly based on radar point clouds | |
| DE102020117555A1 (en) | METHOD AND DEVICE FOR INTRIBUTOR CLASSIFICATION | |
| DE102018100650A1 (en) | A method for collision avoidance for a motor vehicle with a driving support system | |
| DE102019218349A1 (en) | Method for classifying at least one ultrasonic echo from echo signals | |
| DE102022122753B4 (en) | METHODS AND SYSTEMS FOR MONITORING PASSENGER COMPARTMENT CHILD SEATS | |
| DE102023133786A1 (en) | CONTROL DEVICE OF AN AUTONOMOUS VEHICLE AND METHOD THEREFOR | |
| DE102022123465B4 (en) | Method and system for training an evaluation model for detecting a seat occupancy status of a seating arrangement based on radar point clouds | |
| DE102021114595A1 (en) | System and method for evaluating the performance of an autonomous vehicle based on human logic | |
| DE102023116164B4 (en) | METHOD FOR CREATING AN EVALUATION MODEL FOR DETECTING THE SEAT OCCUPANCY STATE OF A SEATING ARRANGEMENT | |
| DE102021133672B4 (en) | Method for calibrating a radar sensor inside a vehicle | |
| WO2023198463A1 (en) | Device and method for ascertaining the mass of an occupant of a vehicle | |
| DE112021005616B4 (en) | occupant determination device | |
| DE102024104829A1 (en) | Method for training an evaluation model for detecting a seat occupancy state of a seat arrangement |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| R163 | Identified publications notified | ||
| R012 | Request for examination validly filed | ||
| R018 | Grant decision by examination section/examining division | ||
| R082 | Change of representative |
Representative=s name: RGTH PATENTANWAELTE PARTGMBB, DE |