[go: up one dir, main page]

KR102653342B1 - 자율 주행 장치 및 방법 - Google Patents

자율 주행 장치 및 방법 Download PDF

Info

Publication number
KR102653342B1
KR102653342B1 KR1020190058608A KR20190058608A KR102653342B1 KR 102653342 B1 KR102653342 B1 KR 102653342B1 KR 1020190058608 A KR1020190058608 A KR 1020190058608A KR 20190058608 A KR20190058608 A KR 20190058608A KR 102653342 B1 KR102653342 B1 KR 102653342B1
Authority
KR
South Korea
Prior art keywords
target object
processor
vehicle
driving
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020190058608A
Other languages
English (en)
Other versions
KR20200133856A (ko
Inventor
김재윤
이준한
Original Assignee
현대모비스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대모비스 주식회사 filed Critical 현대모비스 주식회사
Priority to KR1020190058608A priority Critical patent/KR102653342B1/ko
Priority to CN202010411758.XA priority patent/CN111959482B/zh
Priority to DE102020113418.5A priority patent/DE102020113418B4/de
Priority to US16/877,411 priority patent/US20200369296A1/en
Publication of KR20200133856A publication Critical patent/KR20200133856A/ko
Application granted granted Critical
Publication of KR102653342B1 publication Critical patent/KR102653342B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0025—Planning or execution of driving tasks specially adapted for specific operations
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/09—Taking automatic action to avoid collision, e.g. braking and steering
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00—Conjoint control of vehicle sub-units of different type or different function
    • B60W10/04—Conjoint control of vehicle sub-units of different type or different function including control of propulsion units
    • B60W10/06—Conjoint control of vehicle sub-units of different type or different function including control of propulsion units including control of combustion engines
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00—Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18—Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00—Conjoint control of vehicle sub-units of different type or different function
    • B60W10/20—Conjoint control of vehicle sub-units of different type or different function including control of steering systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/14—Adaptive cruise control
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/105—Speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/107—Longitudinal acceleration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/11—Pitch movement
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/114—Yaw movement
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • B60W60/0017—Planning or execution of driving tasks specially adapted for safety of other traffic participants
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143—Alarm means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408—Radar; Laser, e.g. lidar
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/10—Longitudinal speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/10—Longitudinal speed
    • B60W2520/105—Longitudinal acceleration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/14—Yaw
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/16—Pitch
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00—Input parameters relating to infrastructure
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00—Input parameters relating to infrastructure
    • B60W2552/15—Road slope, i.e. the inclination of a road segment in the longitudinal direction
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00—Input parameters relating to infrastructure
    • B60W2552/30—Road curve radius
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00—Input parameters relating to infrastructure
    • B60W2552/40—Coefficient of friction
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00—Input parameters relating to infrastructure
    • B60W2552/50—Barriers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B60W2554/4041—Position
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B60W2554/4042—Longitudinal speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B60W2554/4044—Direction of movement, e.g. backwards
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B60W2554/4049—Relationship among other objects, e.g. converging dynamic objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/60—Traffic rules, e.g. speed limits or right of way
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00—Input parameters relating to data
    • B60W2556/40—High definition maps
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00—Output or target parameters relating to a particular sub-units
    • B60W2710/06—Combustion engines, Gas turbines
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00—Output or target parameters relating to a particular sub-units
    • B60W2710/18—Braking system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00—Output or target parameters relating to a particular sub-units
    • B60W2710/20—Steering systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2400/00—Special features of vehicle units
    • B60Y2400/30—Sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Human Computer Interaction (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Medical Informatics (AREA)
  • Game Theory and Decision Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)

Abstract

본 발명은 자율 주행 장치 및 방법에 관한 것으로서, 자율 주행 중인 자차량 주변의 대상 객체를 검출하는 센서부, 지도 정보를 저장하는 메모리, 및 메모리에 저장된 지도 정보와, 센서부가 대상 객체를 검출한 위치 측정치로부터 추정되는 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 자차량의 자율 주행을 제어하는 프로세서를 포함하고, 프로세서는, 센서부로부터 출력된 하나 이상의 측정치 중, 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출하고, 추출된 각 유효 측정치가 현재 시점에서의 대상 객체의 위치 측정치에 해당할 확률을 고려하여 대상 객체의 트랙을 형성함으로써 대상 객체를 추적하되, 대상 객체에 대한 추적이 유지되는 시간 및 자차량의 주변 환경 정보에 따라 유효 게이트의 크기를 조정하여 유효 측정치를 추출하는 것을 특징으로 한다.

Description

자율 주행 장치 및 방법{AUTONOMOUS DRIVING APPARATUS AND METHOD}
본 발명은 자율 주행 차량에 적용되는 자율 주행 장치 및 방법에 관한 것이다.
오늘날의 자동차 산업은 차량 주행에 운전자의 개입을 최소화하는 자율 주행을 구현하기 위한 방향으로 나아가고 있다. 자율 주행 차량이란 주행 시 외부정보 감지 및 처리기능을 통해 주변의 환경을 인식하여 주행 경로를 자체적으로 결정하고, 자체 동력을 이용하여 독립적으로 주행하는 차량을 말한다.
자율 주행 차량은 운전자가 조향휠, 가속페달 또는 브레이크 등을 조작하지 않아도, 주행 경로 상에 존재하는 장애물과의 충돌을 방지하고 도로의 형상에 따라 차속과 주행 방향을 조절하면서 스스로 목적지까지 주행할 수 있다. 예를 들어, 직선 도로에서는 가속을 수행하고, 곡선 도로에서는 도로의 곡률에 대응하여 주행 방향을 변경하면서 감속을 수행할 수 있다.
자율 주행 차량의 안정적인 주행을 보장하기 위해서는 차량에 장착된 각 센서를 통해 주행 환경을 정확하게 계측해야 하고, 차량의 주행 상태를 지속적으로 모니터링하여 계측된 주행 환경에 맞추어 주행을 제어해야 한다. 이를 위해, 자율 주행 차량에는 주변 차량, 보행자, 고정 시설물 등의 주변 객체를 검출하기 위한 센서로서 라이다(Lidar) 센서, 레이더(Radar) 센서, 초음파 센서 및 카메라 센서 등 다양한 센서들이 적용되고 있으며, 이러한 센서로부터 출력되는 데이터는 주행 환경에 대한 정보, 이를테면 주변 객체의 위치, 형상, 이동 방향 및 이동 속도와 같은 상태 정보를 결정하는데 활용된다.
나아가, 자율 주행 차량은 미리 저장된 지도 데이터를 이용하여 차량의 위치를 결정하고 보정함으로써 주행 경로 및 주행 차선을 최적으로 결정하고, 결정된 경로 및 차선을 벗어나지 않도록 차량의 주행을 제어하며, 주변에서 갑작스럽게 진입하는 차량 또는 주행 경로 상에 존재하는 위험 요소에 대한 방어 및 회피 운행을 수행하는 기능도 제공하고 있다.
본 발명의 배경기술은 대한민국 공개특허공보 제10-1998-0068399호(1998.10.15 공개)에 개시되어 있다.
한편, 자율 주행 차량에는 라이다 센서, 레이더 센서 또는 카메라 센서 등을 통해 주변 물체를 감지하여 운전자에게 장애물의 존재를 알리는 경보를 발령하거나, 차량의 주행 시스템을 제어하여 차량이 장애물에 충돌하기 전에 멈추게 하거나 장애물을 회피하여 주행하도록 하는 타겟 검출 기능이 적용되고 있다.
카메라 센서를 통해 주변 물체를 감지할 경우, 물체의 영상을 직접 촬영하기 때문에 촬영된 물체가 회피해야 하는 장애물인지 여부를 용이하게 판단할 수 있으나, 화면의 해상도 및 시야 때문에 장애물을 식별할 수 있을 정도의 영상을 촬영할 수 있는 거리에 한계가 있으며, 또한 영상만으로는 물체와의 거리를 감지하기 어려운 문제가 있다.
라이다 센서 또는 레이더 센서는 비교적 원거리에 있는 물체를 감지할 수 있다는 장점이 있으나, 물체의 영상을 직접 감지하는 것이 아니고 잡음의 영향을 받기 쉬우므로, 감지한 물체가 회피가 요구되는 장애물인지 또는 잡음인지의 여부를 판단하기 쉽지 않으며, 또한 주변 물체의 이동을 추적할 경우 센서가 물체의 이동을 추종하지 못하여 목표물을 누락하는 상황이 발생하는 문제가 있다.
본 발명은 전술한 문제점을 해결하기 위해 창안된 것으로서, 본 발명의 일 측면에 따른 목적은 자율 주행 차량에 장착된 센서를 통해 감지한 주변 객체 중 감지 대상이 되는 대상 객체를 정확하게 식별하고 추적할 수 있는 자율 주행 장치 및 방법을 제공하는 것이다.
본 발명의 일 측면에 따른 자율 주행 장치는 자율 주행 중인 자차량 주변의 대상 객체를 검출하는 센서부, 지도 정보를 저장하는 메모리, 및 상기 메모리에 저장된 지도 정보와, 상기 센서부가 상기 대상 객체를 검출한 위치 측정치로부터 추정되는 상기 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 상기 자차량의 자율 주행을 제어하는 프로세서를 포함하고, 상기 프로세서는, 상기 센서부로부터 출력된 하나 이상의 측정치 중, 상기 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출하고, 상기 추출된 각 유효 측정치가 현재 시점에서의 상기 대상 객체의 위치 측정치에 해당할 확률을 고려하여 상기 대상 객체의 트랙을 형성함으로써 상기 대상 객체를 추적하되, 상기 대상 객체에 대한 추적이 유지되는 시간 및 상기 자차량의 주변 환경 정보에 따라 상기 유효 게이트의 크기를 조정하여 상기 유효 측정치를 추출하는 것을 특징으로 한다.
본 발명에 있어 상기 프로세서는, 상기 측정치와 상기 대상 객체의 위치 추정치 간의 잔차(innovation) 및 상기 잔차의 공분산(innovation covariance)에 기초하여 결정되는 마할라노비스 거리가 상기 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 상기 유효 측정치를 추출하는 것을 특징으로 한다.
본 발명에 있어 상기 프로세서는, 상기 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 상기 임계치를 감소시켜 상기 유효 게이트의 크기를 감소시키는 것을 특징으로 한다.
본 발명에 있어 상기 프로세서는, 상기 주변 환경 정보에 따른 추적 주의도가 반영된 환경 가중치를 이용하여 상기 임계치를 조정함으로써 상기 유효 게이트의 크기를 증가 또는 감소시키되, 상기 주변 환경 정보는 전방 도로의 형태, 속성, 교통 상황 및 노면 상황 중 하나 이상을 포함하는 것을 특징으로 한다.
본 발명에 있어 상기 프로세서는, 상기 대상 객체의 위치 추정치를 시간에 따라 갱신하는 방식을 통해 상기 트랙을 갱신하고, 상기 트랙이 갱신되는 히스토리를 상기 메모리에 저장하여 트랙의 초기화를 통한 트랙 관리를 수행하는 것을 특징으로 한다.
본 발명에 있어 상기 센서부는 라이다 센서, 레이더 센서 및 카메라 센서 중 하나 이상을 포함하는 것을 특징으로 한다.
본 발명의 일 측면에 따른 자율 주행 방법은 프로세서가, 메모리에 저장된 지도 정보와, 센서부가 자율 주행 중인 자차량 주변의 대상 객체를 검출한 위치 측정치로부터 추정되는 상기 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 상기 자차량의 자율 주행을 제어하는 방법으로서, 상기 프로세서가, 상기 센서부로부터 출력된 하나 이상의 측정치 중, 상기 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출하는 단계, 및 상기 프로세서가, 상기 추출된 각 유효 측정치가 현재 시점에서의 상기 대상 객체의 위치 측정치에 해당할 확률을 고려하여 상기 대상 객체의 트랙을 형성함으로써 상기 대상 객체를 추적하는 단계를 포함하되, 상기 추출하는 단계에서, 상기 프로세서는, 상기 대상 객체에 대한 추적이 유지되는 시간 및 상기 자차량의 주변 환경 정보에 따라 상기 유효 게이트의 크기를 조정하여 상기 유효 측정치를 추출하는 것을 특징으로 한다.
본 발명의 일 측면에 따르면, 본 발명은 자율 주행 차량에 장착된 센서를 통해 대상 객체를 검출하여 추적할 때, 대상 객체 검출을 위한 유효 게이트를 동적으로 조정하는 방식을 통해 감지 대상이 되는 대상 객체를 정확하게 식별하고 추적할 수 있다.
도 1은 본 발명의 일 실시예에 따른 자율 주행 장치가 적용될 수 있는 자율 주행 제어 시스템의 전체 블록구성도이다.
도 2는 본 발명의 일 실시예에 따른 자율 주행 장치에서 자율 주행 통합 제어부의 구체적 구성을 보인 블록구성도이다.
도 3은 본 발명의 일 실시예에 따른 자율 주행 장치가 차량에 적용되는 예시를 보인 예시도이다.
도 4는 본 발명의 일 실시예에 따른 자율 주행 장치가 적용되는 차량의 내부 구조의 예시를 보인 예시도이다.
도 5는 본 발명의 일 실시예에 따른 자율 주행 장치에서 라이다 센서, 레이더 센서 및 카메라 센서가 주변 객체를 검출할 수 있는 설정 거리 및 수평 화각의 예시를 보인 예시도이다.
도 6은 본 발명의 일 실시예에 따른 자율 주행 장치에서 센서부가 주변 차량을 검출하는 예시를 보인 예시도이다.
도 7은 본 발명의 일 실시예에 따른 자율 주행 방법을 설명하기 위한 흐름도이다.
이하, 첨부된 도면을 참조하여 본 발명에 따른 자율 주행 장치 및 방법의 실시예를 설명한다. 이 과정에서 도면에 도시된 선들의 두께나 구성요소의 크기 등은 설명의 명료성과 편의상 과장되게 도시되어 있을 수 있다. 또한, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례에 따라 달라질 수 있다. 그러므로, 이러한 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
도 1은 본 발명의 일 실시예에 따른 자율 주행 장치가 적용될 수 있는 자율 주행 제어 시스템의 전체 블록구성도이고, 도 2는 본 발명의 일 실시예에 따른 자율 주행 장치에서 자율 주행 통합 제어부의 구체적 구성을 보인 블록구성도이며, 도 3은 본 발명의 일 실시예에 따른 자율 주행 장치가 차량에 적용되는 예시를 보인 예시도이고, 도 4는 본 발명의 일 실시예에 따른 자율 주행 장치가 적용되는 차량의 내부 구조의 예시를 보인 예시도이며, 도 5는 본 발명의 일 실시예에 따른 자율 주행 장치에서 라이다 센서, 레이더 센서 및 카메라 센서가 주변 객체를 검출할 수 있는 설정 거리 및 수평 화각의 예시를 보인 예시도이고, 도 6은 본 발명의 일 실시예에 따른 자율 주행 장치에서 센서부가 주변 차량을 검출하는 예시를 보인 예시도이다.
먼저, 도 1 및 도 3을 참조하여 본 실시예에 따른 자율 주행 장치가 적용될 수 있는 자율 주행 제어 시스템의 구조 및 기능에 대하여 설명한다. 도 1에 도시된 것과 같이 자율 주행 제어 시스템은 운전 정보 입력 인터페이스(101), 주행 정보 입력 인터페이스(201), 탑승자 출력 인터페이스(301) 및 차량 제어 출력 인터페이스(401)를 통해 차량의 자율 주행 제어에 필요한 데이터를 송수신하는 자율 주행 통합 제어부(600)를 중심으로 구현될 수 있다.
자율 주행 통합 제어부(600)는 차량의 자율 주행 모드 또는 수동 주행 모드에서 사용자 입력부(100)에 대한 탑승자의 조작에 따른 운전 정보를 운전 정보 입력 인터페이스(101)를 통해 획득할 수 있다. 사용자 입력부(100)는 도 1에 예시로서 도시된 것과 같이 주행 모드 스위치(110) 및 사용자 단말(120, 예: 차량에 장착된 내비게이션 단말, 탑승자가 소지한 스마트폰 또는 태플릿 PC 등)을 포함할 수 있으며, 이에 따라 운전 정보는 차량의 주행 모드 정보 및 항법 정보를 포함할 수 있다. 예를 들어, 주행 모드 스위치(110)에 대한 탑승자의 조작에 따라 결정되는 차량의 주행 모드(즉, 자율 주행 모드/수동 주행 모드, 또는 스포츠 모드(Sport Mode)/에코 모드(Eco Mode)/안전 모드(Safe Mode)/일반 모드(Normal Mode))가 상기한 운전 정보로서 운전 정보 입력 인터페이스(101)를 통해 자율 주행 통합 제어부(600)로 전달될 수 있다. 또한, 탑승자가 사용자 단말(120)을 통해 입력하는 탑승자의 목적지, 목적지까지의 경로(목적지까지의 후보 경로 중 탑승자가 선택한 최단 경로 또는 선호 경로 등)와 같은 항법 정보가 상기한 운전 정보로서 운전 정보 입력 인터페이스(101)를 통해 자율 주행 통합 제어부(600)로 전달될 수 있다. 한편, 사용자 단말(120)은 차량의 자율 주행 제어를 위한 정보를 운전자가 입력하거나 수정하기 위한 UI(User Interface)를 제공하는 제어 패널(Control Panel)(예: 터치 스크린 패널)로 구현될 수도 있으며, 이 경우 전술한 주행 모드 스위치(110)는 사용자 단말(120) 상의 터치 버튼으로 구현될 수도 있다.
또한, 자율 주행 통합 제어부(600)는 차량의 주행 상태를 나타내는 주행 정보를 주행 정보 입력 인터페이스(201)를 통해 획득할 수 있다. 주행 정보는 탑승자가 조향휠을 조작함에 따라 형성되는 조향각과, 가속 페달 또는 브레이크 페달을 답입함에 따라 형성되는 가속 페달 스트로크 또는 브레이크 페달의 스트로크와, 차량에 형성되는 거동으로서 차속, 가속도, 요, 피치 및 롤 등 차량의 주행 상태 및 거동을 나타내는 다양한 정보를 포함할 수 있으며, 상기 각 주행 정보는 도 1에 도시된 것과 같이 조향각 센서(210), APS(Accel Position Sensor)/PTS(Pedal Travel Sensor)(220), 차속 센서(230), 가속도 센서(240), 요/피치/롤 센서(250)를 포함하는 주행 정보 검출부(200)에 의해 검출될 수 있다. 나아가, 차량의 주행 정보는 차량의 위치 정보를 포함할 수도 있으며, 차량의 위치 정보는 차량에 적용된 GPS(Global Positioning Sysetm) 수신기(260)를 통해 획득될 수 있다. 이러한 주행 정보는 주행 정보 입력 인터페이스(201)를 통해 자율 주행 통합 제어부(600)로 전달되어 차량의 자율 주행 모드 또는 수동 주행 모드에서 차량의 주행을 제어하기 위해 활용될 수 있다.
또한, 자율 주행 통합 제어부(600)는 차량의 자율 주행 모드 또는 수동 주행 모드에서 탑승자에게 제공되는 주행 상태 정보를 탑승자 출력 인터페이스(301)를 통해 출력부(300)로 전달할 수 있다. 즉, 자율 주행 통합 제어부(600)는 차량의 주행 상태 정보를 출력부(300)로 전달함으로써, 출력부(300)를 통해 출력되는 주행 상태 정보를 기반으로 탑승자가 차량의 자율 주행 상태 또는 수동 주행 상태를 확인하도록 할 수 있으며, 상기 주행 상태 정보는 이를테면 현재 차량의 주행 모드, 변속 레인지, 차속 등 차량의 주행 상태를 나타내는 다양한 정보를 포함할 수 있다. 또한, 자율 주행 통합 제어부(600)는 상기한 주행 상태 정보와 함께 차량의 자율 주행 모드 또는 수동 주행 모드에서 운전자에게 경고가 필요한 것으로 판단된 경우, 탑승자 출력 인터페이스(301)를 통해 경고 정보를 출력부(300)로 전달하여 출력부(300)가 운전자에게 경고를 출력하도록 할 수 있다. 이러한 주행 상태 정보 및 경고 정보를 청각적 및 시각적으로 출력하기 위해 출력부(300)는 도 1에 도시된 것과 같이 스피커(310) 및 디스플레이 장치(320)를 포함할 수 있다. 이때, 디스플레이 장치(320)는 전술한 사용자 단말(120)과 동일한 장치로 구현될 수도 있고, 분리된 독립적인 장치로 구현될 수도 있다.
또한, 자율 주행 통합 제어부(600)는 차량의 자율 주행 모드 또는 수동 주행 모드에서 차량의 주행 제어를 위한 제어 정보를 차량 제어 출력 인터페이스(401)를 통해 차량에 적용된 하위 제어 시스템(400)으로 전달할 수 있다. 차량의 주행 제어를 위한 하위 제어 시스템(400)은 도 1에 도시된 것과 같이 엔진 제어 시스템(410), 제동 제어 시스템(420) 및 조향 제어 시스템(430)을 포함할 수 있으며, 자율 주행 통합 제어부(600)는 상기 제어 정보로서 엔진 제어 정보, 제동 제어 정보 및 조향 제어 정보를 차량 제어 출력 인터페이스(401)를 통해 각 하위 제어 시스템(410, 420, 430)으로 전달할 수 있다. 이에 따라, 엔진 제어 시스템(410)은 엔진에 공급되는 연료를 증가 또는 감소시켜 차량의 차속 및 가속도를 제어할 수 있고, 제동 제어 시스템(420)은 차량의 제동력을 조절하여 차량의 제동을 제어할 수 있으며, 조향 제어 시스템(430)은 차량에 적용된 조향 장치(예: MDPS(Motor Driven Power Steering) 시스템)를 통해 차량의 조향을 제어할 수 있다.
상기한 것과 같이 본 실시예의 자율 주행 통합 제어부(600)는 운전 정보 입력 인터페이스(101) 및 주행 정보 입력 인터페이스(201)를 통해 운전자의 조작에 따른 운전 정보 및 차량의 주행 상태를 나타내는 주행 정보를 각각 획득하고, 내부의 프로세서(610)에 의해 처리되는 자율 주행 알고리즘에 따라 생성되는 주행 상태 정보 및 경고 정보를 탑승자 출력 인터페이스(301)를 통해 출력부(300)로 전달할 수 있으며, 또한 내부의 프로세서(610)에 의해 처리되는 자율 주행 알고리즘에 따라 생성되는 제어 정보를 차량 제어 출력 인터페이스(401)를 통해 하위 제어 시스템(400)으로 전달하여 차량의 주행 제어가 이루어지도록 동작할 수 있다.
한편, 차량의 안정적인 자율 주행을 보장하기 위해서는 차량의 주행 환경을 정확하게 계측함으로써 주행 상태를 지속적으로 모니터링하고 계측된 주행 환경에 맞추어 주행을 제어해야 할 필요가 있으며, 이를 위해 본 실시예의 자율 주행 장치는 도 1에 도시된 것과 같이 주변 차량, 보행자, 도로 또는 고정 시설물(예: 신호등, 이정표, 교통 표지판, 공사 펜스 등) 등 차량의 주변 객체를 검출하기 위한 센서부(500)를 포함할 수 있다. 센서부(500)는 도 1에 도시된 것과 같이 차량 외부의 주변 객체를 검출하기 위해 라이다 센서(510), 레이더 센서(520) 및 카메라 센서(530) 중 하나 이상을 포함할 수 있다.
라이다 센서(510)는 차량 주변으로 레이저 신호를 송신하고 해당 객체에 반사되어 되돌아오는 신호를 수신하여 차량 외부의 주변 객체를 검출할 수 있으며, 그 사양에 따라 미리 정의되어 있는 설정 거리, 설정 수직 화각(Vertical Field Of View) 및 설정 수평 화각 범위(Vertical Field Of View) 이내에 위치한 주변 객체를 검출할 수 있다. 라이다 센서(510)는 차량의 전면, 상부 및 후면에 각각 설치되는 전방 라이다 센서(511), 상부 라이다 센서(512) 및 후방 라이다 센서(513)를 포함할 수 있으나, 그 설치 위치 및 설치 수는 특정 실시예로 제한되지 않는다. 해당 객체에 반사되어 되돌아오는 레이저 신호의 유효성을 판단하기 위한 임계값은 자율 주행 통합 제어부(600)의 메모리(620)에 미리 저장되어 있을 수 있으며, 자율 주행 통합 제어부(600)의 프로세서(610)는 라이다 센서(510)를 통해 송신된 레이저 신호가 해당 객체에 반사되어 되돌아오는 시간을 측정하는 방식을 통해 해당 객체의 위치(해당 객체까지의 거리를 포함한다), 속도 및 이동 방향을 판단할 수 있다.
레이더 센서(520)는 차량 주변으로 전자파를 방사하고 해당 객체에 반사되어 되돌아오는 신호를 수신하여 차량 외부의 주변 객체를 검출할 수 있으며, 그 사양에 따라 미리 정의되어 있는 설정 거리, 설정 수직 화각 및 설정 수평 화각 범위 이내에 위치한 주변 객체를 검출할 수 있다. 레이더 센서(520)는 차량의 전면, 좌측면, 우측면 및 후면에 각각 설치되는 전방 레이더 센서(521), 좌측 레이더 센서(521), 우측 레이더 센서(522) 및 후방 레이더 센서(523)를 포함할 수 있으나, 그 설치 위치 및 설치 수는 특정 실시예로 제한되지 않는다. 자율 주행 통합 제어부(600)의 프로세서(610)는 레이더 센서(520)를 통해 송수신된 전자파의 파워(Power)를 분석하는 방식을 통해 해당 객체의 위치(해당 객체까지의 거리를 포함한다), 속도 및 이동 방향을 판단할 수 있다.
카메라 센서(530)는 차량 주변을 촬상하여 차량 외부의 주변 객체를 검출할 수 있으며, 그 사양에 따라 미리 정의되어 있는 설정 거리, 설정 수직 화각 및 설정 수평 화각 범위 이내에 위치한 주변 객체를 검출할 수 있다. 카메라 센서(530)는 차량의 전면, 좌측면, 우측면 및 후면에 각각 설치되는 전방 카메라 센서(531), 좌측 카메라 센서(532), 우측 카메라 센서(533) 및 후방 카메라 센서(534)를 포함할 수 있으나, 그 설치 위치 및 설치 수는 특정 실시예로 제한되지 않는다. 자율 주행 통합 제어부(600)의 프로세서(610)는 카메라 센서(530)를 통해 촬상된 이미지에 대하여 미리 정의된 영상 처리 프로세싱을 적용함으로써 해당 객체의 위치(해당 객체까지의 거리를 포함한다), 속도 및 이동 방향을 판단할 수 있다. 또한, 차량 내부를 촬상하기 위한 내부 카메라 센서(535)가 차량의 내부의 소정 위치(예: 리어뷰 미러)에 장착되어 있을 수 있으며, 자율 주행 통합 제어부(600)의 프로세서(610)는 내부 카메라 센서(535)를 통해 획득된 이미지를 기반으로 탑승자의 거동 및 상태를 모니터링하여 전술한 출력부(300)를 통해 탑승자에게 안내 또는 경고를 출력할 수도 있다.
라이다 센서(510), 레이더 센서(520) 및 카메라 센서(530)뿐만 아니라, 센서부(500)는 도 1에 도시된 것과 같이 초음파 센서(540)를 더 포함할 수도 있으며, 이와 함께 차량의 주변 객체를 검출하기 위한 다양한 형태의 센서가 센서부(500)에 더 채용될 수도 있다. 도 3은 본 실시예의 이해를 돕기 위해 전방 라이다 센서(511) 또는 전방 레이더 센서(521)가 차량의 전면에 설치되고, 후방 라이다 센서(513) 또는 후방 레이더 센서(524)가 차량의 후면에 설치되며, 전방 카메라 센서(531), 좌측 카메라 센서(532), 우측 카메라 센서(533) 및 후방 카메라 센서(534)가 각각 차량의 전면, 좌측면, 우측면 및 후면에 설치된 예시를 도시하고 있으나, 전술한 것과 같이 각 센서의 설치 위치 및 설치 수는 특정 실시예로 제한되지 않는다. 도 5는 라이다 센서(510), 레이더 센서(520) 및 카메라 센서(530)가 전방의 주변 객체를 검출할 수 있는 설정 거리 및 수평 화각의 예시를 도시하고 있으며, 도 6은 각 센서가 주변 객체를 검출하는 예시를 도시하고 있다. 도 6은 주변 객체 검출의 일 예시일 뿐, 주변 객체 검출 방식은 센서의 설치 위치 및 설치 수에 의존하여 결정된다. 전술한 센서부(500)의 구성에 따라 자차량의 전방위 영역의 주변 차량 및 주변 객체가 검출될 수 있다.
나아가, 센서부(500)는 차량에 탑승한 탑승자의 상태 판단을 위해, 탑승자의 음성 및 생체 신호(예: 심박수, 심전도, 호흡, 혈압, 체온, 뇌파, 혈류(맥파) 및 혈당 등)를 검출하기 위한 마이크 및 생체 센서를 더 포함할 수도 있으며, 생체 센서로는 심박수 센서, 심전도(Electrocardiogram) 센서, 호흡 센서, 혈압 센서, 체온 센서, 뇌파(Electroencephalogram) 센서, 혈류(Photoplethysmography) 센서 및 혈당 센서 등이 있을 수 있다.
도 4는 차량의 내부 구조의 예시를 도시하고 있으며, 차량의 내부에는 차량의 운전자 또는 동승자와 같은 탑승자의 조작에 의해 그 상태가 제어되어 탑승자의 운전 또는 편의(예: 휴식, 엔터테인먼트 활동 등)를 지원하기 위한 내부 장치가 설치되어 있을 수 있다. 이러한 내부 장치에는 탑승자가 안착하는 차량 시트(S), 내부 라이트 및 무드등과 같은 조명 장치(L), 전술한 사용자 단말(120) 및 디스플레이 장치(320), 내부 테이블 등이 포함될 수 있으며, 이러한 내부 장치는 프로세서(610)에 의해 그 상태가 제어될 수 있다.
차량 시트(S)의 경우, 그 각도가 프로세서(610)에 의해(또는 탑승자의 수동 조작에 의해) 조절될 수 있으며, 차량 시트(S)가 앞 열 시트(S1) 및 뒷 열 시트(S2)로 구성되어 있는 경우 앞 열 시트(S1)의 각도만 조절될 수 있다. 뒷 열 시트(S2)가 구비되어 있지 않은 경우로서 앞 열 시트(S1)가 시트 구조 및 발받침 구조로 구분되어 있는 경우에는 앞 열 시트(S1)의 시트 구조가 발받침 구조와 물리적으로 분리되고 그 각도가 조절되도록 구현될 수 있다. 또한, 차량 시트(S)의 각도를 조절하기 위한 액추에이터(예: 모터)가 마련되어 있을 수 있다. 조명 장치(L)의 경우, 그 온오프가 프로세서(610)에 의해(또는 탑승자의 수동 조작에 의해) 제어될 수 있으며, 조명 장치(L)가 내부 라이트 및 무드등과 같이 복수의 조명 유닛을 포함할 경우 각각의 조명 유닛은 그 온오프가 독립적으로 제어될 수 있다. 사용자 단말(120) 또는 디스플레이 장치(320)는 탑승자의 시야각에 따라 그 각도가 프로세서(610)에 의해(또는 탑승자의 수동 조작에 의해) 조절될 수 있으며, 예를 들어 탑승자의 시선 방향에 그 화면이 존재하도록 각도가 조절될 수 있다. 이 경우, 사용자 단말(120) 및 디스플레이 장치(320)의 각도를 조절하기 위한 액추에이터(예: 모터)가 마련되어 있을 수 있다.
자율 주행 통합 제어부(600)는 도 1에 도시된 것과 같이 네트워크를 통해 서버(700)와 통신할 수 있다. 자율 주행 통합 제어부(600) 및 서버(700) 간의 네트워크 방식으로는 WAN(Wide Area Network), LAN(Local Area Network), 또는 PAN(Personal Area Network) 등 다양한 통신 방식이 채용될 수 있다. 또한, 넓은 네트워크 커버리지를 확보하기 위해, LPWAN(Low Power Wide Area Network, 사물 인터넷 중 커버리지가 매우 넓은 네트워크로서, LoRa, Sigfox, Ingenu, LTE-M, NB-IOT 등의 상용화된 기술을 포함) 통신 방식이 채용될 수 있다. 예를 들어, LoRa(저전력의 통신이 가능하면서도 최대 20Km 정도로 넓은 커버리지를 가짐), 또는 Sigfox(환경에 따라 10Km(도심) 내지 30Km(도심을 벗어난 외곽 지역)의 커버리지를 가짐)의 통신 방식이 채용될 수 있으며, 나아가 전력 절약 모드(PSM: Power Saving Mode)를 갖는 LTE-MTC(Machine-type Communications)(또는, LTE-M), NB(Narrowband) LTE-M, NB IoT와 같은 3GPP(3rd Generation Partnership Project) 릴리즈 12, 13 기반의 LTE 네트워크 기술이 채용될 수도 있다. 서버(700)는 최신성이 유지되는 지도 정보(2차원 항법 지도 데이터, 3차원 격지 지도 데이터, 또는 3차원 고정밀 전자지도 데이터 등 다양한 지도 정보가 해당될 수 있다)를 제공할 수 있으며, 나아가 도로의 사고 정보, 도로 통제 정보, 교통량 정보 및 기상 정보 등 다양한 정보를 제공할 수도 있다. 자율 주행 통합 제어부(600)는 서버(700)로부터 최신의 지도 정보를 전달받아 메모리(620)에 저장된 지도 정보를 갱신할 수 있고, 사고 정보, 도로 통제 정보, 교통량 정보 및 기상 정보를 제공받아 차량의 자율 주행 제어에 활용할 수도 있다.
다음으로, 도 2를 참조하여 본 실시예의 자율 주행 통합 제어부(600)의 구조 및 기능에 대하여 설명한다. 도 2에 도시된 것과 같이 자율 주행 통합 제어부(600)는 프로세서(610) 및 메모리(620)를 포함할 수 있다.
메모리(620)는 차량의 자율 주행 제어를 위해 필요한 기본 정보를 저장하거나, 프로세서(610)에 의해 차량의 자율 주행이 제어되는 과정에서 생성되는 정보를 저장할 수 있으며, 프로세서(610)는 메모리(620)에 저장된 정보에 접근(read, access)하여 차량의 자율 주행을 제어할 수 있다. 메모리(620)는 컴퓨터로 판독 가능한 기록 매체로 구현되어 프로세서(610)가 접근 가능하도록 동작할 수 있다. 구체적으로, 메모리(620)는 하드 드라이브(Hard Drive), 자기 테이프, 메모리 카드(Memory Card), ROM(Read-Only Memory), RAM(Random-Access Memory), DVD(Digital Video Disc) 또는 광학 디스크와 같은 광 데이터 저장장치로 구현될 수 있다.
메모리(620)에는 프로세서(610)에 의한 자율 주행 제어에 요구되는 지도 정보가 저장되어 있을 수 있다. 메모리(620)에 저장된 지도 정보는 도로 단위의 정보를 제공하는 항법 지도(수치지형도)일 수도 있으나, 자율 주행 제어의 정밀도를 향상하기 위해 차선(Lane) 단위의 도로 정보를 제공하는 정밀 도로 지도, 즉 3차원 고정밀 전자지도 데이터로 구현됨이 바람직할 수 있다. 이에 따라, 메모리(620)에 저장된 지도 정보는 차선, 차로 중심선, 규제선, 도로 경계, 도로 중심선, 교통 표지, 노면 표지, 도로의 형상 및 높이, 차선 너비 등 차량의 자율 주행 제어에 필요한 동적 및 정적 정보를 제공할 수 있다.
또한, 메모리(620)에는 차량의 자율 주행 제어를 위한 자율 주행 알고리즘이 저장되어 있을 수 있다. 자율 주행 알고리즘은 자율 주행 차량 주변을 인식하고 그 상태를 판단하여 그 판단 결과에 따라 차량의 주행을 제어하는 알고리즘(인식, 판단 및 제어 알고리즘)으로서, 프로세서(610)는 메모리(620)에 저장된 자율 주행 알고리즘을 실행하여 차량의 주변 환경에 능동적인 자율 주행 제어를 수행할 수 있다.
프로세서(610)는 전술한 운전 정보 입력 인터페이스(101) 및 주행 정보 입력 인터페이스(201)로부터 각각 입력되는 운전 정보 및 주행 정보와, 센서부(500)를 통해 검출된 주변 객체에 대한 정보와, 메모리(620)에 저장된 지도 정보 및 자율 주행 알고리즘을 기반으로 차량의 자율 주행을 제어할 수 있다. 프로세서(610)는 CISC(Complex Instruction Set Computer) 또는 RISC(Reduced Instruction Set Computer)와 같은 임베디드 프로세서(Embedded Processor), 또는 주문형 반도체(ASIC: Application Specific Integrated Circuit)와 같은 전용 반도체 회로로 구현될 수도 있다.
본 실시예에서 프로세서(610)는 자차량 및 주변 차량의 각 주행 궤적을 분석하여 자차량의 자율 주행을 제어할 수 있으며, 이를 위해 도 2에 도시된 것과 같이 프로세서(610)는 센서 처리 모듈(611), 주행 궤적 생성 모듈(612), 주행 궤적 분석 모듈(613), 주행 제어 모듈(614), 궤적 학습 모듈(615) 및 탑승자 상태 판단 모듈(616)을 포함할 수 있다. 도 2는 기능에 따라 각 모듈을 독립적인 블록으로 도시하고 있으나, 각 모듈이 하나의 모듈로 통합되어 각각의 기능을 통합적으로 수행하는 구성으로 구현될 수도 있다.
센서 처리 모듈(611)은 센서부(500)를 통해 자차량의 주변 차량이 검출된 결과를 기반으로 주변 차량의 주행 정보(즉, 주변 차량의 위치를 포함하며, 위치와 함께 주변 차량의 속도 및 이동 방향을 더 포함할 수도 있다)를 판단할 수 있다. 즉, 라이다 센서(510)를 통해 수신된 신호를 기반으로 주변 차량의 위치를 판단하거나, 레이더 센서(520)를 통해 수신된 신호를 기반으로 주변 차량의 위치를 판단하거나, 카메라 센서(530)를 통해 촬상된 이미지를 기반으로 주변 차량의 위치를 판단하거나, 초음파 센서(540)를 통해 수신된 신호를 기반으로 주변 차량의 위치를 판단할 수 있다. 이를 위해, 도 1에 도시된 것과 같이 센서 처리 모듈(611)은 라이다 신호 처리 모듈(611a), 레이더 신호 처리 모듈(611b) 및 카메라 신호 처리 모듈(611c)을 포함할 수 있다(초음파 신호 처리 모듈이 센서 처리 모듈(611)에 더 부가될 수도 있다). 라이다 센서(510), 레이더 센서(520) 및 카메라 센서(530)를 활용하여 주변 차량의 위치를 결정하는 방법은 특정의 실시예로 그 구현 방식이 한정되지 않는다. 또한, 센서 처리 모듈(611)은 주변 차량의 위치, 속도 및 이동 방향뿐만 아니라 주변 차량의 크기 및 종류 등의 속성 정보를 판단할 수도 있으며, 상기와 같은 주변 차량의 위치, 속도, 이동 방향, 크기 및 종류와 같은 정보를 판단하기 위한 알고리즘이 미리 정의되어 있을 수 있다.
주행 궤적 생성 모듈(612)은 주변 차량의 실제 주행 궤적 및 예상 주행 궤적과, 자차량의 실제 주행 궤적을 생성할 수 있으며, 이를 위해 도 2에 도시된 것과 같이 주변 차량 주행 궤적 생성 모듈(612a) 및 자차량 주행 궤적 생성 모듈(612b)을 포함할 수 있다.
먼저, 주변 차량 주행 궤적 생성 모듈(612a)은 주변 차량의 실제 주행 궤적을 생성할 수 있다.
구체적으로, 주변 차량 주행 궤적 생성 모듈(612a)은 센서부(500)에 의해 검출된 주변 차량의 주행 정보(즉, 센서 처리 모듈(611)에 의해 결정된 주변 차량의 위치)에 기초하여 주변 차량의 실제 주행 궤적을 생성할 수 있다. 이 경우, 주변 차량의 실제 주행 궤적을 생성하기 위해 주변 차량 주행 궤적 생성 모듈(612a)은 메모리(620)에 저장된 지도 정보를 참조할 수 있으며, 센서부(500)에 의해 검출된 주변 차량의 위치와 메모리(620)에 저장된 지도 정보 상의 임의의 위치를 교차 참조(Cross Reference)하여 주변 차량의 실제 주행 궤적을 생성할 수 있다. 예를 들어, 주변 차량 주행 궤적 생성 모듈(612a)은 센서부(500)에 의해 특정 지점에서 주변 차량이 검출된 경우, 검출된 주변 차량의 위치와 메모리(620)에 저장된 지도 정보 상의 임의의 위치를 교차 참조함으로써 지도 정보 상에서 현재 검출된 주변 차량의 위치를 특정할 수 있으며, 상기와 같이 주변 차량의 위치를 지속적으로 모니터링함으로써 주변 차량의 실제 주행 궤적을 생성할 수 있다. 즉, 주변 차량 주행 궤적 생성 모듈(612a)은 상기의 교차 참조를 기반으로, 센서부(500)에 의해 검출된 주변 차량의 위치를 메모리(620)에 저장된 지도 정보 상의 위치로 매핑하고 누적함으로써 주변 차량의 실제 주행 궤적을 생성할 수 있다.
한편, 주변 차량의 실제 주행 궤적은 후술하는 주변 차량의 예상 주행 궤적과 비교되어 메모리(620)에 저장된 지도 정보의 부정확 여부를 판단하기 위해 활용될 수 있다. 이 경우, 어느 특정한 주변 차량의 실제 주행 궤적을 예상 주행 궤적과 비교할 경우 지도 정보가 정확함에도 불구하고 부정확한 것으로 오판단하는 문제가 발생할 수 있다. 예를 들어, 다수의 주변 차량의 실제 주행 궤적과 예상 주행 궤적이 일치하고, 어느 특정 주변 차량의 실제 주행 궤적과 예상 주행 궤적이 상이할 경우, 상기 특정 주변 차량의 실제 주행 궤적만을 예상 주행 궤적과 비교하면 지도 정보가 정확함에도 불구하고 부정확한 것으로 오판단하게 될 수 있다. 따라서, 복수의 주변 차량의 실제 주행 궤적의 경향성이 예상 주행 궤적을 벗어나는지 여부를 판단할 필요성이 있으며, 이를 위해 주변 차량 주행 궤적 생성 모듈(612a)은 복수의 주변 차량의 실제 주행 궤적을 각각 생성할 수도 있다. 나아가, 주변 차량의 운전자가 직선 경로 주행을 위해 주행 과정에서 조향휠을 좌우측으로 다소 움직이는 경향이 있음을 고려하면 주변 차량의 실제 주행 궤적은 직선이 아닌 굴곡이 있는 형태로 생성될 수도 있으며, 후술하는 예상 주행 궤적 간의 오차 산출을 위해 주변 차량 주행 궤적 생성 모듈(612a)은 굴곡이 있는 형태로 생성되는 원시의 실제 주행 궤적에 소정의 평활화 기법을 적용하여 직선 형태의 실제 주행 궤적을 생성할 수도 있다. 평활화 기법으로는 주변 차량의 각 위치에 대한 보간(interpolation) 등 다양한 기법이 채용될 수 있다.
또한, 주변 차량 주행 궤적 생성 모듈(612a)은 메모리(620)에 저장된 지도 정보에 기초하여 주변 차량의 예상 주행 궤적을 생성할 수 있다.
전술한 것과 같이 메모리(620)에 저장된 지도 정보는 3차원 고정밀 전자지도 데이터일 수 있으며, 따라서 지도 정보는 차선, 차로 중심선, 규제선, 도로 경계, 도로 중심선, 교통 표지, 노면 표지, 도로의 형상 및 높이, 차선 너비 등 차량의 자율 주행 제어에 필요한 동적 및 정적 정보를 제공할 수 있다. 일반적으로 차량은 차로의 중앙에서 주행하는 점을 고려하면, 자차량의 주변에서 주행하고 있는 주변 차량 또한 차로의 중앙에서 주행할 것으로 예상될 수 있으며, 따라서 주변 차량 주행 궤적 생성 모듈(612a)은 주변 차량의 예상 주행 궤적을 지도 정보에 반영되어 있는 차로 중심선으로서 생성할 수 있다.
자차량 주행 궤적 생성 모듈(612b)은 전술한 주행 정보 입력 인터페이스(201)를 통해 획득되는 자차량의 주행 정보에 기초하여 자차량이 현재까지 주행한 실제 주행 궤적을 생성할 수 있다.
구체적으로, 자차량 주행 궤적 생성 모듈(612b)은 주행 정보 입력 인터페이스(201)를 통해 획득되는 자차량의 위치(즉, GPS 수신기(260)를 통해 획득된 자차량의 위치 정보)와 메모리(620)에 저장된 지도 정보 상의 임의의 위치를 교차 참조(Cross Reference)하여 자차량의 실제 주행 궤적을 생성할 수 있다. 예를 들어, 주행 정보 입력 인터페이스(201)를 통해 획득되는 자차량의 위치와 메모리(620)에 저장된 지도 정보 상의 임의의 위치를 교차 참조함으로써 지도 정보 상에서 현재 자차량의 위치를 특정할 수 있으며, 상기와 같이 자차량의 위치를 지속적으로 모니터링함으로써 자차량의 실제 주행 궤적을 생성할 수 있다. 즉, 자차량 주행 궤적 생성 모듈(612b)은 상기의 교차 참조를 기반으로, 주행 정보 입력 인터페이스(201)를 통해 획득되는 자차량의 위치를 메모리(620)에 저장된 지도 정보 상의 위치로 매핑하고 누적함으로써 자차량의 실제 주행 궤적을 생성할 수 있다.
또한, 자차량 주행 궤적 생성 모듈(612b)은 메모리에 저장된 지도 정보에 기초하여 자차량이 목적지까지 주행해야 할 예상 주행 궤적을 생성할 수 있다.
즉, 자차량 주행 궤적 생성 모듈(612b)은 주행 정보 입력 인터페이스(201)를 통해 획득되는 자차량의 현재 위치(즉, GPS 수신기(260)를 통해 획득된 자차량의 현재 위치 정보)와 메모리에 저장된 지도 정보를 이용하여 목적지까지의 예상 주행 궤적을 생성할 수 있으며, 자차량의 예상 주행 궤적은 주변 차량의 예상 주행 궤적과 마찬가지로 메모리(620)에 저장된 지도 정보에 반영되어 있는 차로 중심선으로서 생성될 수 있다.
주변 차량 주행 궤적 생성 모듈(612a) 및 자차량 주행 궤적 생성 모듈(612b)에 의해 생성된 주행 궤적은 메모리(620)에 저장될 수 있으며, 프로세서(610)에 의해 자차량의 자율 주행이 제어되는 과정에서 다양한 목적으로 활용될 수 있다.
주행 궤적 분석 모듈(613)은 주행 궤적 생성 모듈(612)에 의해 생성되어 메모리(620)에 저장된 각 주행 궤적(즉, 주변 차량의 실제 주행 궤적 및 예상 주행 궤적, 자차량의 실제 주행 궤적)을 분석하여 현재 자차량에 대한 자율 주행 제어의 신뢰도를 진단할 수 있다. 자율 주행 제어의 신뢰도 진단은 주변 차량의 실제 주행 궤적 및 예상 주행 궤적 간의 궤적 오차를 분석하는 과정으로 진행될 수 있다.
주행 제어 모듈(614)은 자차량의 자율 주행을 제어하는 기능을 수행할 수 있으며, 구체적으로 전술한 운전 정보 입력 인터페이스(101) 및 주행 정보 입력 인터페이스(201)로부터 각각 입력되는 운전 정보 및 주행 정보와, 센서부(500)를 통해 검출된 주변 객체에 대한 정보와, 메모리(620)에 저장된 지도 정보를 종합적으로 이용하여 자율 주행 알고리즘을 처리하며, 차량 제어 출력 인터페이스(401)를 통해 제어 정보를 전달하여 하위 제어 시스템(400)으로 하여금 자차량의 자율 주행을 제어하도록 할 수 있고, 또한 탑승자 출력 인터페이스(301)를 통해 자차량의 주행 상태 정보 및 경고 정보를 출력부(300)로 전달하여 운전자가 인지하도록 할 수 있다. 또한, 주행 제어 모듈(614)은 상기와 같은 자율 주행을 통합적으로 제어할 때 전술한 센서 처리 모듈(611), 주행 궤적 생성 모듈(612) 및 주행 궤적 분석 모듈(613)에 의해 분석된 자차량 및 주변 차량의 주행 궤적을 고려하여 자율 주행을 제어함으로써 자율 주행 제어의 정밀도를 향상시키고 자율 주행 제어 안정성을 개선할 수 있다.
궤적 학습 모듈(615)은 자차량 주행 궤적 생성 모듈(612b)에 의해 생성된 자차량의 실제 주행 궤적에 대한 학습 또는 보정을 수행할 수 있다. 예를 들어, 주변 차량의 실제 주행 궤적 및 예상 주행 궤적 간의 궤적 오차가 미리 설정된 임계값 이상인 경우 메모리(620)에 저장된 지도 정보의 부정확한 것으로 판단하여 자차량의 실제 주행 궤적의 보정이 필요한 것으로 판단할 수 있으며, 이에 따라 자차량의 실제 주행 궤적을 보정하기 위한 횡방향 시프트값을 결정하여 자차량의 주행 궤적을 보정할 수 있다.
탑승자 상태 판단 모듈(616)은 전술한 내부 카메라 센서(535) 및 생체 센서에 의해 검출된 탑승자의 상태 및 생체 신호를 토대로 탑승자의 상태 및 거동을 판단할 수 있다. 탑승자 상태 판단 모듈(616)에 의해 판단된 탑승자의 상태는 자차량의 자율 주행 제어 또는 탑승자에 대한 경고를 출력하는 과정에서 활용될 수 있다.
전술한 내용에 기초하여, 이하에서는 자율 주행 중인 자차량에 적용된 센서부(500)를 통해 대상 객체를 감지하여 추적하는 실시예에 대하여 설명한다.
본 실시예의 프로세서(610)는 메모리(620)에 저장된 지도 정보와 함께, 센서부(500)가 자차량 주변의 대상 객체를 검출한 위치 측정치로부터 추정되는 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 자차량의 자율 주행을 제어할 수 있다. 센서부(500)를 통해 추적 대상이 되는 주변 객체를 대상 객체로 표기하기로 한다.
구체적으로, 본 실시예에서 프로세서(610)의 센서 처리 모듈(611)은 확률 데이터 연관 필터(PDAF: Probabilistic Data Association Filter)를 기반으로 대상 객체를 추적할 수 있다. 확률 데이터 연관 필터는 기본적으로 하기 수학식 1의 상태 방정식 및 측정 방정식에 따라 대상 객체의 상태값이 갱신되는 것을 전제한다.
여기서, x(k)는 시간 k에서의 대상 객체의 상태값(상태 벡터), F(k-1)은 시간 k-1에서 시간 k로의 전환 시의 변화를 나타내는 상태 천이 행렬, z(k)는 시간 k에서의 대상 객체의 위치 측정치, H(k)는 대상 객체의 상태값을 위치 측정치로 변환하기 위한 관찰 모델을 나타낸다. v(k-1) 및 w(k)는 각각 시간 k-1에서의 프로세스 노이즈 및 시간 k에서의 측정 노이즈를 나타내며, 노이즈의 평균이 0이고 공분산이 각각 Q(k-1) 및 R(k)를 갖는 화이트 가우시안 분포를 따른다.
또한, 프로세서(610)는 칼만 필터를 기반으로 대상 객체의 트랙을 초기화할 수 있다. 칼만 필터는 물체의 위치에 대한 추정치를 이전 시간의 물체의 위치에 대한 추정치 및 물체의 위치의 측정치에 의하여 산출하는 것을 반복함으로써, 물체의 위치 측정 시 발생하는 오차를 상쇄하여 정확한 물체의 위치를 추정하는 기법이다. 구체적으로, 먼저 이전 시간까지의 물체의 위치에 대한 추정치를 사용하여 이전 시간까지의 측정치만을 사용한 현재 시간의 추정치를 산출한다. 이후 이전 시간까지의 측정치만을 사용한 현재 시간의 추정치를 이전 시간까지의 측정치만을 사용하여 산출한 현재 시간의 공분산 및 현재 시간의 물체의 위치 측정치를 사용하여 보정하여 현재 시간의 물체 위치 추정치를 산출한다.
칼만 필터를 기반으로 프로세서(610)는 대상 객체의 트랙에 대한 초기화를 하기 수학식 2에 따라 수행할 수 있다.
여기서, 는 시간 k-1까지의 정보를 사용하여 추정한, 시간 k에서의 대상 객체의 상태값의 추정치, 는 시간 k-1까지의 정보를 사용하여 추정한, 시간 k-1에서의 대상 객체의 상태값의 추정치. 는 시간 k-1까지의 정보를 사용하여 추정한, 시간 k에서의 대상 객체의 위치 추정치를 나타낸다.
한편, 단일 객체를 추적하는 시스템에 있어서. 표준 칼만 필터의 추정오차 공분산 행렬은 프로세스 노이즈와 측정 노이즈의 공분산 행렬로 구해지며, 추적기의 성능을 나타내는 지표가 된다. 하지만, 클러터가 있는 경우 추적기의 추정오차 공분산 행렬은 더 이상 측정치와 독립이 아니고 측정 데이터의 함수가 된다. 따라서 추적기의 성능을 정확하고 효율적으로 예측하기 위해서 이를 적절하게 표현할 수 있는 근사화된 공분산 행렬을 얻어야 한다. 이를 고려할 때, 본 실시예에서 대상 객체의 추적을 위한 칼만 필터의 구성은 하기 수학식 3과 같이 표현될 수 있다.
여기서, P(k|k)는 시간 k까지의 정보를 고려하여 산출한, 시간 k에서의 칼만 필터의 추정오차의 공분산, P(k|k-1)은 시간 k-1까지의 정보를 고려하여 산출한, 시간 k에서의 칼만 필터의 추정오차의 공분산, Q(k-1)은 시간 k-1에서의 예상 공분산을 나타낸다.
이에 따라, 프로세서(610)는 센서부(500)로부터 출력된 하나 이상의 측정치(대상 객체를 비롯하여 자차량 주변의 모든 객체를 검출한 결과 획득되는 위치 측정치) 중, 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출할 수 있다. 이때, 프로세서(610)는 상기한 측정치 및 대상 객체의 위치 추정치 간의 잔차(innovation) 및 잔차의 공분산(innovation covariance)에 기초하여 결정되는 마할라노비스 거리가 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 유효 측정치를 추출할 수 있다. 잔차 및 잔차 공분산은 하기 수학식 4에 따라 도출될 수 있다.
여기서, v(k,i)는 시간 k에서 객체 i의 잔차, z(k,i)는 객체 i의 위치 측정치, 는 시간 k-1까지의 정보를 사용하여 추정한, 시간 k에서의 대상 객체의 위치 추정치, S(k)는 잔차 공분산, R(k)는 시간 k에서의 측정 노이즈를 나타낸다.
이에 따라, 프로세서(610)는 수학식 4를 통해 산출되는 잔차 및 잔차 공분산에 기초하여 마할라노비스 거리를 계산하고, 계산된 거리가 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 하나 이상의 유효 측정치를 추출할 수 있으며, 이를 수식으로 표현하면 하기 수학식 5와 같다.
여기서, r은 유효 게이트의 크기를 결정하는 임계치를 나타내며, 수학식 5에 따라 추출된 유효 측정치이 세트(집합)는 와 같이 표현될 수 있다.
이때, 프로세서(610)는 대상 객체를 추적하는 시간 및 자차량의 주변 환경 정보에 따라 유효 게이트의 크기를 조정하여 유효 측정치를 추출할 수 있으며, 즉 유효 게이트의 크기를 결정하는 임계치를 조정하는 방식을 통해 유효 측정치를 추출할 수 있다.
임계치의 크기를 조정하는 과정에 대하여 설명하면, 프로세서(610)는 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 임계치를 감소시켜 유효 게이트의 크기를 감소시킬 수 있다.
즉, 대상 객체를 지속적으로 추적하고 있는 경우로서 그 추적 신뢰도가 일정 수준 이상 확보된 경우, 프로세서(610)는 유효 게이트 내에 존재하는 측정치를 감소시킴으로써 유효 측정치 추출 및 대상 객체의 트랙 생성에 요구되는 연산 부하를 저감시키는 것을 우선시하도록 동작할 수 있으며, 이에 따라 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 임계치를 감소시켜 유효 게이트의 크기를 감소시킬 수 있다.
그리고, 프로세서(610)는 주변 환경 정보에 따른 추적 주의도가 반영된 환경 가중치를 이용하여 임계치를 조정함으로써 유효 게이트의 크기를 증가 또는 감소시킬 수 있으며, 여기서 주변 환경 정보는 전방 도로의 형태(곡률, 구배 등), 속성(종별, 일반로/교차로, 제한속도, 어린이 보호구역 등), 교통 상황(교통량, 통행속도 등) 및 노면 상황(포장/비포장 도로, 보행자의 수 등) 중 하나 이상을 포함할 수 있다.
구체적으로, 프로세서(610)는 전술한 사용자 단말(120) 또는 센서부(500)를 통해 상기의 주변 환경 정보를 획득할 수 있으며, 획득된 주변 환경 정보를 토대로 추적 주의도를 판단할 수 있다. 여기서, 추적 주의도는 자차량의 주변 환경에 따라 대상 객체에 대한 추적 비용이성을 지표하는 파라미터를 의미할 수 있으며, 주변 환경이 악조건이어서 대상 객체에 대한 추적이 어려운 경우 추적 주의도는 더 높다고 할 수 있다.
이에 따라, 프로세서(610)는 주변 환경 정보를 토대로 대상 객체에 대한 추적이 어려운 상황인 것으로 판단된 경우(추적 주의도가 높은 경우), 대상 객체에 대한 추적 신뢰도를 향상시키기 위해 환경 가중치를 증가시켜 임계치의 크기를 증가시킴으로써 유효 게이트의 크기를 증가시킬 수 있다. 또한, 프로세서(610)는 주변 환경 정보를 토대로 대상 객체에 대한 추적이 용이한 상황인 것으로 판단된 경우(추적 주의도가 낮은 경우), 대상 객체에 대한 추적에 요구되는 연산 부하를 감소시키기 위해 환경 가중치를 감소시켜 임계치의 크기를 감소시킴으로써 유효 게이트의 크기를 감소시킬 수 있다. 예를 들어, 전방 도로의 곡률이 큰 경우, 교차로인 경우, 어린이 보호구역인 경우, 교통량이 많은 경우, 보행자 수가 많은 경우 등에 해당할 경우, 추적 주의도가 높다고 볼 수 있으므로 프로세서(610)는 환경 가중치를 증가시켜 임계치의 크기를 증가시킴으로써 유효 게이트의 크기를 증가시킬 수 있다.
주변 환경 정보 및 환경 가중치 간의 매핑 정보는 룩업테이블의 형태로서 메모리(620)에 저장되어 있을 수 있으며, 이에 따라 프로세서(610)는 현재 획득된 주행 환경 정보에 매핑된 환경 정보를 상기의 매핑 정보로부터 추출하여 임계치를 결정할 수 있다.
대상 객체를 추적하는 시간 및 자차량의 주변 환경 정보에 따라 임계치를 조정하는 것은 하기의 수학식 6에 따를 수 있다.
여기서, α는 주변 환경 정보에 따른 가중치, DT는 미리 정의된 시간 상수, r0는 미리 정의된 임계치 초기값, TT는 대상 객체에 대한 추적이 유지되는 시간(즉, 대상 객체를 놓치지 않고 트랙킹이 지속되는 시간)을 나타낸다.
유효 측정치가 추출되면, 프로세서(610)는 추출된 각 유효 측정치가 현재 시점에서의 대상 객체의 위치 측정치에 해당할 확률을 고려하여 대상 객체의 트랙을 형성함으로써 대상 객체를 추적할 수 있으며, 하기의 수학식 7에 따른다
여기서, PD는 미리 정의된 대상 객체 검출 확률, PG는 게이트 확률, L(k,i)는 유효 측정치 z(k,i)가 클러터가 아닌 대상 객체로부터 기인되었을 우도 비(likelyhood ratio)를 나타낸다.
이후, 프로세서(610)는 대상 객체의 위치 추정치를 시간에 따라 갱신하는 방식을 통해 트랙을 갱신하고, 트랙이 갱신되는 히스토리를 메모리(620)에 저장하여 트랙의 초기화를 통한 트랙 관리를 수행할 수 있다.
구체적으로, 프로세서(610)는 위치 추정치를 갱신하기 위한 칼만 게인을 추정오차의 공분산 및 잔차 공분산에 근거하여 산출하고, 칼만 게인, 대상 객체의 위치 측정치 및 이전 시간까지의 정보를 사용하여 추정한 위치 추정치에 근거하여 현재 시간까지의 정보를 사용하여 추정한 위치 추정치를 산출할 수 있다. 위치 추정치의 갱신은 하기 수학식 8에 의해 표현될 수 있다.
여기서, K(k)는 칼만 게인을 나타낸다. 상기와 같이 위치 추정치를 시간의 흐름에 따라 위치 측정치를 고려하여 갱신함으로써 보다 정확한 위치 추정치를 구할 수 있으며, 이에 따라 트랙 갱신의 정확도를 높일 수 있다.
한편, 프로세서(610)는 트랙이 갱신되는 히스토리를 메모리(620)에 저장할 수 있으며, 메모리(620)에 저장되는 히스토리에는 칼만 필터의 각 시간에 대한 위치 추정치 및 위치 측정치, 칼만 필터의 추정오차의 공분산이 포함될 수 있다.
대상 객체의 위치 추정치를 갱신하는 경우, 경우에 따라 두 개의 트랙이 나타내는 객체가 충돌할 수 있으며, 각 트랙이 나타내는 객체의 위치 추정치 간의 차이가 미리 저장된 기준치 미만인 경우, 프로세서(610)는 두 개의 트랙이 나타내는 객체가 충돌한다고 판단하고, 각 트랙의 히스토리에 포함되어 있는 데이터에 근거하여 트랙을 초기화할 수 있다.
또한, 프로세서(610)는 트랙에 포함된 모든 객체 위치 추정치가 트랙에 대응하는 유효 게이트 영역에 포함되지 않을 경우 메모리(620)에 저장된 트랙의 히스토리에 근거하여 트랙을 초기화할 수 있다. 즉, 트랙이 추적하는 객체가 모두 유효 게이트를 벗어나거나 노이즈 또는 에러로 판단되어 트랙이 추적하는 객체가 없어지는 경우 객체를 추종하는데 실패한 것이므로 프로세서(610)는 트랙을 초기화하여 새로운 물체를 추종하게 할 수 있다.
전술한 바와 같이 칼만 필터를 사용하여 트랙을 생성함으로써 대상 객체를 추적하되, 트랙 생성을 통한 대상 객체의 추적에 실패하거나 두 개의 트랙이 서로 충돌할 경우 트랙을 초기화하고 새로운 객체를 추적하도록 함으로써 대상 객체 추적 성능을 향상시킬 수 있다.
이상과 같이 대상 객체를 추적하여 생성 및 갱신되는 트랙에 포함되는 데이터를 이용하여, 프로세서(610)는 하위 제어 시스템(400)을 통해 자차량이 대상 객체를 회피하거나 출력부(300)를 통해 탑승자에게 경고를 출력하는 등 자차량의 자율 주행을 제어할 수 있다.
도 7은 본 발명의 일 실시예에 따른 자율 주행 방법을 설명하기 위한 흐름도로서, 프로세서(610)는 메모리(620)에 저장된 지도 정보와, 센서부(500)가 자율 주행 중인 자차량 주변의 대상 객체를 검출한 위치 측정치로부터 추정되는 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 자차량의 자율 주행을 제어할 수 있다.
이를 위해, 먼저 프로세서(610)는 상기의 수학식 1에 따른 상태 방정식 및 측정 방정식과, 수학식 2에 따른 칼만 필터를 기반으로 대상 객체의 트랙을 생성한다(초기화한다)(S100).
이어서, 프로세서(610)는 센서부(500)로부터 출력된 하나 이상의 측정치 중, 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출한다(S200). S200 단계에서, 프로세서(610)는 센서부(500)로부터 출력된 측정치와 대상 객체의 위치 추정치 간의 잔차(innovation) 및 잔차의 공분산(innovation covariance)에 기초하여 결정되는 마할라노비스 거리가 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 유효 측정치를 추출한다.
S200 단계에서, 프로세서(610)는 대상 객체를 검출하는 범위인 유효 게이트를 결정하며(S210), 이때 대상 객체에 대한 추적이 유지되는 시간 및 자차량의 주변 환경 정보에 따라 유효 게이트의 크기를 조정한다. 구체적으로, 프로세서(610)는 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 임계치를 증가시켜 유효 게이트의 크기를 증가시키고, 또한 주변 환경 정보에 따른 추적 주의도가 반영된 환경 가중치를 이용하여 임계치를 조정함으로써 유효 게이트의 크기를 증가 또는 감소시킨다. 주변 환경 정보는 전방 도로의 형태, 속성, 교통 상황 및 노면 상황 중 하나 이상을 포함할 수 있다. 그리고, 임계치에 따라 그 크기가 조정된 유효 게이트를 이용하여 유효 측정치를 추출한다(S220).
S200 단계를 통해 유효 측정치가 추출되면, 프로세서(610)는 추출된 각 유효 측정치가 현재 시점에서의 대상 객체의 위치 측정치에 해당할 확률을 고려하여 대상 객체의 트랙을 형성함으로써 대상 객체를 추적한다(S300).
이어서, 프로세서(610)는 대상 객체의 위치 추정치를 시간에 따라 갱신하는 방식을 통해 트랙을 갱신하고, 트랙이 갱신되는 히스토리를 메모리(620)에 저장하여 트랙의 초기화를 통한 트랙 관리를 수행한다(S400).
S400 단계에서, 프로세서(610)는 각 트랙이 나타내는 객체의 위치 추정치 간의 차이가 미리 저장된 기준치 미만인 경우(S410), 각 트랙이 서로 근접한 것으로 판단하여 각 트랙의 히스토리에 포함되어 있는 데이터에 근거하여 트랙을 초기화한다(S420).
각 트랙이 나타내는 객체의 위치 추정치 간의 차이가 미리 저장된 기준치 미만인 경우(S410), 프로세서(610)는 갱신되는 위치 추정치를 이용하여 트랙을 갱신한다(S430). 그리고, 대상 객체에 대한 추적에 실패한 경우(즉, 트랙에 포함된 모든 객체 위치 추정치가 트랙에 대응하는 유효 게이트 영역에 포함되지 않을 경우, S440), 프로세서(610)는 메모리(620)에 저장된, 대상 객체의 추적에 실패한 트랙의 히스토리에 해당하는 데이터를 정렬하고(S450) 해당 트랙을 초기화한다(S460). 이어서, 프로세서(610)는 대상 객체의 추적에 실패한 트랙(즉, 초기화된 트랙)에 S450 단계에서 정렬된 데이터를 매칭한다(S470). 프로세서(610)는 정렬된 데이터 중 새로운 객체를 추적하기 위해 활용될 수 있는 데이터만을 유지함으로써 새로운 객체가 추적되도록 할 수 있다. 한편, S440 단계에서 대상 객체에 대한 추적에 성공한 경우, 대상 객체는 현재의 트랙을 유지하여 프로세스를 종료한다.
이와 같이 본 실시예는 자율 주행 차량에 장착된 센서를 통해 대상 객체를 검출하여 추적할 때, 대상 객체 검출을 위한 유효 게이트를 동적으로 조정하는 방식을 통해 감지 대상이 되는 대상 객체를 정확하게 식별하고 추적할 수 있다.
본 발명은 도면에 도시된 실시예를 참고로 하여 설명되었으나, 이는 예시적인 것에 불과하며 당해 기술이 속하는 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호범위는 아래의 특허청구범위에 의하여 정해져야 할 것이다.
100: 사용자 입력부 101: 운전 정보 입력 인터페이스
110: 주행 모드 스위치 120: 사용자 단말
200: 주행 정보 검출부 201: 주행 정보 입력 인터페이스
210: 조향각 센서 220: APS/PTS
230: 차속 센서 240: 가속도 센서
250: 요/피치/롤 센서 260: GPS 수신기
300: 출력부 301: 탑승자 출력 인터페이스
310: 스피커 320: 디스플레이 장치
400: 하위 제어 시스템 401: 차량 제어 출력 인터페이스
410: 엔진 제어 시스템 420: 제동 제어 시스템
430: 조향 제어 시스템 500: 센서부
510: 라이다 센서 511: 전방 라이다 센서
512: 상부 라이다 센서 513: 후방 라이다 센서
520: 레이더 센서 521: 전방 레이더 센서
522: 좌측 레이더 센서 523: 우측 레이더 센서
524: 후방 레이더 센서 530: 카메라 센서
531: 전방 카메라 센서 532: 좌측 카메라 센서
533: 우측 카메라 센서 534: 후방 카메라 센서
535: 내부 카메라 센서 540: 초음파 센서
600: 자율 주행 통합 제어부 610: 프로세서
611: 센서 처리 모듈 611a: 라이더 신호 처리 모듈
611b: 레이더 신호 처리 모듈 611c: 카메라 신호 처리 모듈
612: 주행 궤적 생성 모듈 612a: 주변 차량 주행 궤적 생성 모듈
612b: 자차량 주행 궤적 생성 모듈 613: 주행 궤적 분석 모듈
614: 주행 제어 모듈 615: 궤적 학습 모듈
616: 탑승자 상태 판단 모듈 620: 메모리
700: 서버

Claims (11)

  1. 자율 주행 중인 자차량 주변의 대상 객체를 검출하는 센서부;
    지도 정보를 저장하는 메모리; 및
    상기 메모리에 저장된 지도 정보와, 상기 센서부가 상기 대상 객체를 검출한 위치 측정치로부터 추정되는 상기 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 상기 자차량의 자율 주행을 제어하는 프로세서;를 포함하고,
    상기 프로세서는,
    상기 센서부로부터 출력된 하나 이상의 측정치 중, 상기 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출하고,
    상기 추출된 각 유효 측정치가 현재 시점에서의 상기 대상 객체의 위치 측정치에 해당할 확률을 고려하여 상기 대상 객체의 트랙을 형성함으로써 상기 대상 객체를 추적하되,
    상기 대상 객체에 대한 추적이 유지되는 시간 및 상기 자차량의 주변 환경 정보에 따라 상기 유효 게이트의 크기를 조정하여 상기 유효 측정치를 추출하고,
    상기 프로세서는,
    상기 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 상기 유효 게이트의 크기를 감소시키고,
    상기 주변 환경 정보에 따른 추적 주의도를 이용하여 상기 유효 게이트의 크기를 증가 또는 감소시키되, 상기 추적 주의도는 상기 자차량의 주변 환경에 따라 상기 대상 객체에 대한 추적 비용이성을 지표하는 파라미터이고,
    상기 추적 주의도가 낮을수록 상기 유효 게이트의 크기를 감소시키는 것을 특징으로 하는 자율 주행 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 측정치와 상기 대상 객체의 위치 추정치 간의 잔차(innovation) 및 상기 잔차의 공분산(innovation covariance)에 기초하여 결정되는 마할라노비스 거리가 상기 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 상기 유효 측정치를 추출하는 것을 특징으로 하는 자율 주행 장치.
  3. 제2항에 있어서,
    상기 프로세서는,
    상기 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 상기 임계치를 감소시키는 방식으로 상기 유효 게이트의 크기를 감소시키는 것을 특징으로 하는 자율 주행 장치.
  4. 제2항에 있어서,
    상기 프로세서는,
    상기 주변 환경 정보에 따른 추적 주의도가 반영된 환경 가중치를 이용하여 상기 임계치를 조정함으로써 상기 유효 게이트의 크기를 증가 또는 감소시키되, 상기 주변 환경 정보는 전방 도로의 형태, 속성, 교통 상황 및 노면 상황 중 하나 이상을 포함하는 것을 특징으로 하는 자율 주행 장치.
  5. 제1항에 있어서,
    상기 프로세서는,
    상기 대상 객체의 위치 추정치를 시간에 따라 갱신하는 방식을 통해 상기 트랙을 갱신하고, 상기 트랙이 갱신되는 히스토리를 상기 메모리에 저장하여 트랙의 초기화를 통한 트랙 관리를 수행하는 것을 특징으로 하는 자율 주행 장치.
  6. 제1항에 있어서,
    상기 센서부는 라이다 센서, 레이더 센서 및 카메라 센서 중 하나 이상을 포함하는 것을 특징으로 하는 자율 주행 장치.
  7. 프로세서가, 메모리에 저장된 지도 정보와, 센서부가 자율 주행 중인 자차량 주변의 대상 객체를 검출한 위치 측정치로부터 추정되는 상기 대상 객체의 상태 궤적을 나타내는 트랙(track)에 기초하여 상기 자차량의 자율 주행을 제어하는 방법으로서,
    상기 프로세서가, 상기 센서부로부터 출력된 하나 이상의 측정치 중, 상기 대상 객체의 위치 측정치로부터 생성되는 위치 추정치를 중심으로 하는 유효 게이트(Validation Gate) 내에 존재하는 하나 이상의 유효 측정치를 추출하는 단계; 및
    상기 프로세서가, 상기 추출된 각 유효 측정치가 현재 시점에서의 상기 대상 객체의 위치 측정치에 해당할 확률을 고려하여 상기 대상 객체의 트랙을 형성함으로써 상기 대상 객체를 추적하는 단계;
    를 포함하고,
    상기 추출하는 단계에서, 상기 프로세서는,
    상기 대상 객체에 대한 추적이 유지되는 시간 및 상기 자차량의 주변 환경 정보에 따라 상기 유효 게이트의 크기를 조정하여 상기 유효 측정치를 추출하되,
    상기 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 상기 유효 게이트의 크기를 감소시키고,
    상기 주변 환경 정보에 따른 추적 주의도를 이용하여 상기 유효 게이트의 크기를 증가 또는 감소시키되, 상기 추적 주의도는 상기 자차량의 주변 환경에 따라 상기 대상 객체에 대한 추적 비용이성을 지표하는 파라미터이고,
    상기 추적 주의도가 낮을수록 상기 유효 게이트의 크기를 감소시키는 것을 특징으로 하는 자율 주행 방법.
  8. 제7항에 있어서,
    상기 추출하는 단계에서, 상기 프로세서는,
    상기 측정치와 상기 대상 객체의 위치 추정치 간의 잔차(innovation) 및 상기 잔차의 공분산(innovation covariance)에 기초하여 결정되는 마할라노비스 거리가 상기 유효 게이트의 크기를 결정하는 임계치 미만인지 여부를 판단하여 상기 유효 측정치를 추출하는 것을 특징으로 하는 자율 주행 방법.
  9. 제8항에 있어서,
    상기 추출하는 단계에서, 상기 프로세서는,
    상기 대상 객체에 대한 추적이 유지되는 시간이 증가할수록 상기 임계치를 감소시키는 방식으로 상기 유효 게이트의 크기를 감소시키는 것을 특징으로 하는 자율 주행 방법.
  10. 제8항에 있어서,
    상기 추출하는 단계에서, 상기 프로세서는,
    상기 주변 환경 정보에 따른 추적 주의도가 반영된 환경 가중치를 이용하여 상기 임계치를 조정함으로써 상기 유효 게이트의 크기를 증가 또는 감소시키되, 상기 주변 환경 정보는 전방 도로의 형태, 속성, 교통 상황 및 노면 상황 중 하나 이상을 포함하는 것을 특징으로 하는 자율 주행 방법.
  11. 제7항에 있어서,
    상기 프로세서가, 상기 대상 객체의 위치 추정치를 시간에 따라 갱신하는 방식을 통해 상기 트랙을 갱신하고, 상기 트랙이 갱신되는 히스토리를 상기 메모리에 저장하여 트랙의 초기화를 통한 트랙 관리를 수행하는 단계;를 더 포함하는 것을 특징으로 하는 자율 주행 방법.
KR1020190058608A 2019-05-20 2019-05-20 자율 주행 장치 및 방법 Active KR102653342B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020190058608A KR102653342B1 (ko) 2019-05-20 2019-05-20 자율 주행 장치 및 방법
CN202010411758.XA CN111959482B (zh) 2019-05-20 2020-05-15 自主驾驶装置及方法
DE102020113418.5A DE102020113418B4 (de) 2019-05-20 2020-05-18 Vorrichtung und verfahren zum autonomen fahren
US16/877,411 US20200369296A1 (en) 2019-05-20 2020-05-18 Autonomous driving apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190058608A KR102653342B1 (ko) 2019-05-20 2019-05-20 자율 주행 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20200133856A KR20200133856A (ko) 2020-12-01
KR102653342B1 true KR102653342B1 (ko) 2024-04-02

Family

ID=73052654

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190058608A Active KR102653342B1 (ko) 2019-05-20 2019-05-20 자율 주행 장치 및 방법

Country Status (4)

Country Link
US (1) US20200369296A1 (ko)
KR (1) KR102653342B1 (ko)
CN (1) CN111959482B (ko)
DE (1) DE102020113418B4 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11893004B2 (en) * 2020-08-26 2024-02-06 Ford Global Technologies, Llc Anomaly detection in multidimensional sensor data
US11577732B2 (en) 2020-10-28 2023-02-14 Argo AI, LLC Methods and systems for tracking a mover's lane over time
CN114170270B (zh) * 2021-11-22 2025-01-28 重庆长安汽车股份有限公司 单传感器多目标关联匹配方法、系统及车辆
DE102022206130A1 (de) * 2022-06-20 2023-12-21 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Trainieren und Betreiben einer Bewegungsschätzung von Objekten
US20240140414A1 (en) * 2022-11-02 2024-05-02 Canoo Technologies Inc. System and method for target behavior prediction in advanced driving assist system (adas), autonomous driving (ad), or other applications

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008176555A (ja) 2007-01-18 2008-07-31 Fujitsu Ten Ltd 障害物検知装置および障害物検知方法
JP2010030398A (ja) 2008-07-28 2010-02-12 Nissan Motor Co Ltd 車線逸脱防止装置及びその方法
WO2010140215A1 (ja) 2009-06-02 2010-12-09 トヨタ自動車株式会社 車両用周辺監視装置
WO2018148195A1 (en) * 2017-02-08 2018-08-16 Marquette University Robotic tracking navigation with data fusion

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3617139B2 (ja) * 1994-10-05 2005-02-02 マツダ株式会社 車両の障害物検知装置
KR19980068399A (ko) 1997-02-19 1998-10-15 김영환 차량 자율 주행 장치 및 제어 방법
DE102004028404A1 (de) 2004-06-14 2006-01-19 Daimlerchrysler Ag Verfahren zur Schätzung des Verlaufs einer Fahrspur eines Kraftfahrzeuges
JP5618744B2 (ja) * 2010-05-26 2014-11-05 三菱電機株式会社 道路形状推定装置及びコンピュータプログラム及び道路形状推定方法
US9633564B2 (en) * 2012-09-27 2017-04-25 Google Inc. Determining changes in a driving environment based on vehicle behavior
KR102126670B1 (ko) * 2013-12-10 2020-06-25 현대모비스 주식회사 검출 영역을 최적화하는 장애물 추적 장치 및 방법
US9694364B2 (en) * 2015-05-22 2017-07-04 Samelin Innovations, LLC Detecting passing of unintended objects through throat of under-sink disposal
DE102015209467A1 (de) 2015-05-22 2016-11-24 Continental Teves Ag & Co. Ohg Verfahren zur Schätzung von Fahrstreifen
US10990830B2 (en) * 2016-09-13 2021-04-27 Genetec Inc. Auto-calibration of tracking systems
DE102016118497A1 (de) 2016-09-29 2018-03-29 Valeo Schalter Und Sensoren Gmbh Ermittlung einer virtuellen Fahrspur für eine von einem Kraftfahrzeug befahrene Straße
EP4465276A1 (en) * 2016-12-23 2024-11-20 Mobileye Vision Technologies Ltd. Navigational system with imposed liability constraints
US10929462B2 (en) * 2017-02-02 2021-02-23 Futurewei Technologies, Inc. Object recognition in autonomous vehicles
US10446031B2 (en) * 2017-03-14 2019-10-15 Hyundai Mobis Co., Ltd. Apparatus and method of safety support for vehicle
US10600322B2 (en) * 2017-06-21 2020-03-24 International Business Machines Corporation Management of mobile objects
US11430071B2 (en) * 2017-08-16 2022-08-30 Mobileye Vision Technologies Ltd. Navigation based on liability constraints
CN207116483U (zh) 2017-09-06 2018-03-16 京东方科技集团股份有限公司 一种阵列基板及显示装置
US11694346B2 (en) * 2018-06-27 2023-07-04 Telefonaktiebolaget Lm Ericsson (Publ) Object tracking in real-time applications
KR102714095B1 (ko) * 2019-01-07 2024-10-10 삼성전자주식회사 차량의 주행을 보조하는 전자 장치 및 방법
US11521396B1 (en) * 2019-02-02 2022-12-06 Uatc, Llc Probabilistic prediction of dynamic object behavior for autonomous vehicles
JP7215569B2 (ja) * 2019-04-25 2023-01-31 日本電気株式会社 オブジェクト特徴量抽出装置、オブジェクト特徴量抽出方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008176555A (ja) 2007-01-18 2008-07-31 Fujitsu Ten Ltd 障害物検知装置および障害物検知方法
JP2010030398A (ja) 2008-07-28 2010-02-12 Nissan Motor Co Ltd 車線逸脱防止装置及びその方法
WO2010140215A1 (ja) 2009-06-02 2010-12-09 トヨタ自動車株式会社 車両用周辺監視装置
WO2018148195A1 (en) * 2017-02-08 2018-08-16 Marquette University Robotic tracking navigation with data fusion

Also Published As

Publication number Publication date
CN111959482B (zh) 2024-03-22
DE102020113418A1 (de) 2020-11-26
DE102020113418B4 (de) 2023-05-11
US20200369296A1 (en) 2020-11-26
CN111959482A (zh) 2020-11-20
KR20200133856A (ko) 2020-12-01

Similar Documents

Publication Publication Date Title
KR102653342B1 (ko) 자율 주행 장치 및 방법
KR102792003B1 (ko) 자율 주행 장치 및 방법
KR102778760B1 (ko) 자율 주행 장치 및 방법
KR102721869B1 (ko) 자율 주행 장치 및 방법
KR102691753B1 (ko) 자율 주행 장치 및 방법
KR102689149B1 (ko) 자율 주행 장치 및 방법
KR102726619B1 (ko) 자율 주행 장치 및 방법
KR102691754B1 (ko) 자율 주행 장치 및 방법
KR102689150B1 (ko) 자율 주행 장치 및 방법
KR20200133853A (ko) 자율 주행 장치 및 방법
KR102689148B1 (ko) 자율 주행 장치 및 방법
KR20200133857A (ko) 자율 주행 장치 및 방법
KR102815616B1 (ko) 자율 주행 장치 및 방법
KR20200133445A (ko) 자율 주행 장치 및 방법
KR102616971B1 (ko) 자율 주행 장치 및 방법
KR102721870B1 (ko) 자율 주행 장치 및 방법
KR102775788B1 (ko) 자율 주행 장치 및 방법
KR20200133443A (ko) 자율 주행 장치 및 방법
KR20200133850A (ko) 자율 주행 장치 및 방법
KR20200133444A (ko) 자율 주행 장치 및 방법
KR20200133851A (ko) 자율 주행 장치 및 방법

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20190520

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20211115

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20190520

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20230904

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20240326

Patent event code: PE09021S01D

Comment text: Notification of reason for refusal

Patent event date: 20230904

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20240327

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20240328

End annual number: 3

Start annual number: 1

PG1601 Publication of registration