JP2009120135A - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP2009120135A JP2009120135A JP2007298862A JP2007298862A JP2009120135A JP 2009120135 A JP2009120135 A JP 2009120135A JP 2007298862 A JP2007298862 A JP 2007298862A JP 2007298862 A JP2007298862 A JP 2007298862A JP 2009120135 A JP2009120135 A JP 2009120135A
- Authority
- JP
- Japan
- Prior art keywords
- image
- lens
- optical axis
- image sensor
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 32
- 230000003287 optical effect Effects 0.000 claims abstract description 51
- 238000001514 detection method Methods 0.000 claims abstract description 21
- 230000006870 function Effects 0.000 description 18
- 230000008859 change Effects 0.000 description 16
- 230000000052 comparative effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 238000000034 method Methods 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000001771 impaired effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Studio Devices (AREA)
Abstract
【課題】 魚眼カメラの撮像素子で検知された受像画像の一部を拡大して表示画面に表示する際に、自動車の車外の景色を歪みが少ない状態で取り出して表示画面に表示できるようにした撮像装置を提供する。
【解決手段】 魚眼カメラででは、魚眼レンズの光軸を、撮像素子13の検知領域の中心Oaよりも下向きにずらす。その結果、撮像素子13の中央部に自動車の車体の側方の地面24の情報を広い範囲で取得できる。そのために、魚眼レンズの光軸を、地面に向けて水平面に対して大きな角度で傾斜させる必要がなくなる。そのため、撮像素子13で検知された受像画像20の一部の区画(a)(b)から画像を切り出して表示画像を生成する際に、前記区画(a)(b)が大きく歪むのを防止できる。
【選択図】図5PROBLEM TO BE SOLVED: To extract a scene outside a car with little distortion and display it on the display screen when a part of the received image detected by an image sensor of a fisheye camera is enlarged and displayed on the display screen. An imaging apparatus is provided.
In a fisheye camera, the optical axis of a fisheye lens is shifted downward from the center Oa of a detection area of an image sensor 13. As a result, information on the ground surface 24 on the side of the vehicle body of the automobile can be acquired in a wide range at the center of the image sensor 13. Therefore, it is not necessary to incline the optical axis of the fisheye lens at a large angle with respect to the horizontal plane toward the ground. Therefore, when the image is cut out from the partial sections (a) and (b) of the received image 20 detected by the image sensor 13 and the display image is generated, the sections (a) and (b) are prevented from being greatly distorted. it can.
[Selection] Figure 5
Description
本発明は、魚眼レンズや光学レンズなどのレンズで集光された光を撮像素子で検知し、撮像素子で検知された受像画像の一部を表示画面に表示させることができる撮像装置に関する。 The present invention relates to an imaging apparatus capable of detecting light collected by a lens such as a fisheye lens or an optical lens with an imaging element and displaying a part of an image received by the imaging element on a display screen.
魚眼レンズや広角レンズと撮像素子とを備えたカメラを使用して、外部の景色を撮影し、その画像を表示装置に表示する撮像装置は、車載用などとして使用されている。車載用の撮像装置では、前記カメラが車体に取り付けられて、車体の外部の広い範囲の景色が前記カメラで撮影される。ただし、魚眼レンズや広角レンズを使用したカメラに設けられた撮像素子に検知される受像画像は、レンズの光軸から画角が広がるにしたがって、画像の歪みが大きくなる。 2. Description of the Related Art An imaging device that captures an external scene using a camera provided with a fisheye lens, a wide-angle lens, and an imaging device and displays the image on a display device is used for in-vehicle use. In an in-vehicle imaging device, the camera is attached to a vehicle body, and a wide range of scenery outside the vehicle body is photographed by the camera. However, the received image detected by an image sensor provided in a camera using a fish-eye lens or a wide-angle lens is distorted as the angle of view increases from the optical axis of the lens.
そこで、以下の特許文献1には、この種のカメラで検知された受像画像に対して、歪曲収差の演算を行って画像の歪みを修正する発明が開示されている。
Therefore,
また、特許文献2に記載されている表示システムは、湾曲画像の歪みを矯正する変換テーブルを設定しておき、魚眼レンズなどを使用したカメラで検知された湾曲画像を、前記変換テーブルを用いて表示用データに変換するというものである。 Moreover, the display system described in Patent Document 2 sets a conversion table for correcting distortion of a curved image, and displays the curved image detected by a camera using a fisheye lens or the like using the conversion table. It is to convert to business data.
以下の特許文献3に記載には、予め表示領域に対応したマッチングテーブルを用意し、複数のカメラで検知した受像画像の画素を、マッピングテーブルの予め決められた座標位置に対応させて表示する発明が開示されている。
従来の魚眼レンズなどを使用したカメラは、レンズの光軸と、撮像素子の検知領域の中心とがほぼ一致するように組み立てられている。そのため、自動車の車体に対して、レンズの光軸が水平に向くようにカメラが取り付けられると、撮像素子の下方の広い部分に空や遠方の景色が結像される。しかし、自動車に搭載する撮像装置は、自車の直近の状況や後方の情報を得るのを主な目的としているため、撮像素子で検知されている受像画像のほとんどの部分が不要になり、カメラで得た受像画像の利用効率が悪くなる。例えば、車体の側方の直近の情報を使用したくても、撮像素子で検知されている画像のみでは、側方の情報量が少なすぎて側方の情報量を明確に表示することが困難になる。 A camera using a conventional fisheye lens or the like is assembled so that the optical axis of the lens and the center of the detection area of the image sensor substantially coincide. Therefore, when a camera is attached to the body of an automobile so that the optical axis of the lens is oriented horizontally, a sky or distant scenery is imaged on a wide portion below the image sensor. However, the main purpose of the image pickup device mounted on a car is to obtain the latest situation and rear information of the own vehicle, so that most of the received image detected by the image sensor is unnecessary, and the camera The utilization efficiency of the received image obtained in (1) is deteriorated. For example, even if it is desired to use the latest information on the side of the vehicle body, it is difficult to clearly display the amount of information on the side because the amount of information on the side is too small with only the image detected by the image sensor. become.
そこで、車体に対して、レンズの光軸が地面に向けて下向きの傾き角度を有するようにカメラを取り付けることも考えられる。この場合、車体の側方の直近の情報を正確に把握するためには、レンズの光軸を水平面に対して45度程度地面に向けて下向きに設定することが必要である。 Therefore, it is conceivable to attach the camera to the vehicle body so that the optical axis of the lens has a downward inclination angle toward the ground. In this case, in order to accurately grasp the latest information on the side of the vehicle body, it is necessary to set the optical axis of the lens downward to the ground by about 45 degrees with respect to the horizontal plane.
しかし、魚眼レンズや広角レンズの光軸を地面に向けて下向きに大きく傾けて設置すると、撮像素子で検知される受像画像は水平線が大きな曲率で湾曲するように歪んだものとなる。そのため、例えば車両の斜め後方の部分をフェンダーミラーを肉眼で見たときの射影と同様な状態で表示画面に表示しようとすると、撮像素子で検知された受像画像の一部を、大きく湾曲した領域で切り出して画像処理することが必要になり、画像処理が非常に難しくなる。 However, if the fish-eye lens or wide-angle lens is installed with its optical axis tilted downward toward the ground, the received image detected by the image sensor is distorted so that the horizontal line is curved with a large curvature. For this reason, for example, when an obliquely rear portion of a vehicle is displayed on the display screen in a state similar to the projection when the fender mirror is viewed with the naked eye, a part of the received image detected by the image sensor is a greatly curved region. Therefore, it is necessary to cut out and process the image, and image processing becomes very difficult.
また、車体の側方やフェンダーミラーの枠体などにカメラを取り付ける際に、凸形状の魚眼レンズや広角レンズの光軸を斜め下向きに取り付けるのは、車体の外観上好ましくはない。また、車体内でカメラを斜めの向きに取り付けようとすると、取付け角度の誤差が大きくなり、撮像素子で所望の画像を正確に検知できないことも生じやすい。 In addition, when attaching the camera to the side of the vehicle body or the frame of the fender mirror, it is not preferable in view of the appearance of the vehicle body to attach the optical axis of the convex fisheye lens or wide-angle lens obliquely downward. Further, if the camera is mounted in an oblique direction in the vehicle body, an error in the mounting angle increases, and it is likely that a desired image cannot be accurately detected by the image sensor.
本発明は、上記従来の課題を解決するものであり、カメラで検知した受像画像の一部を効率良く利用して表示画面に表示することができる撮像装置を提供することを目的としている。 SUMMARY OF THE INVENTION The present invention solves the above-described conventional problems, and an object thereof is to provide an imaging device that can efficiently display a part of a received image detected by a camera and display it on a display screen.
また、本発明は、自動車の車体にカメラをその光軸を大きく傾かせて設置しなくても、車体の側方の直近の情報や、後方の情報などを精度良く表示できる撮像装置を提供することを目的としている。 In addition, the present invention provides an imaging apparatus capable of accurately displaying the latest information on the side of the vehicle body, the information on the rear side, and the like without installing the camera on the vehicle body of the vehicle with the optical axis being greatly inclined. The purpose is that.
本発明は、レンズと、前記レンズで集光された光を検知する撮像素子と、前記撮像素子で検知された受像信号に基づいて表示画面に画像を表示させるための画像データを生成する画像処理部と、が設けられた撮像装置において、
前記レンズの光軸が、前記撮像素子の検知領域の中心から位置ずれした状態で、前記レンズと前記撮像素子とが組み合わされていることを特徴とするものである。
The present invention relates to a lens, an image sensor that detects light collected by the lens, and image processing that generates image data for displaying an image on a display screen based on an image reception signal detected by the image sensor. An imaging device provided with
The lens and the image sensor are combined in a state where the optical axis of the lens is displaced from the center of the detection area of the image sensor.
本発明の撮像装置では、魚眼レンズや広角レンズなどのレンズの光軸と撮像素子の検知領域の中心とが位置ずれしているため、得ようとする情報の多い側へ魚眼レンズの光軸をずらすことによって、必要とする情報を表示画面に明瞭に表示することが可能である。 In the image pickup apparatus of the present invention, the optical axis of the fish-eye lens or wide-angle lens is shifted from the center of the detection area of the image pickup element, so that the optical axis of the fish-eye lens is shifted to the side with the larger information to be obtained. Therefore, necessary information can be clearly displayed on the display screen.
また本発明は、前記レンズと前記撮像素子とが組み合わされたカメラが自動車の車体に取り付けられており、前記レンズの光軸が、前記撮像素子の検知領域の中心よりも地面の方向へ位置ずれしているものである。 According to the present invention, a camera in which the lens and the image sensor are combined is attached to a vehicle body of an automobile, and the optical axis of the lens is displaced in the direction of the ground from the center of the detection area of the image sensor. It is what you are doing.
上記構成の撮像装置では、レンズまたはレンズを搭載したカメラを車体に対して大きく傾けて取り付けなくても、車体の直近の地面側の情報を多く得ることができる。 In the imaging apparatus having the above-described configuration, a large amount of information on the ground side closest to the vehicle body can be obtained without mounting the lens or the camera equipped with the lens with a large inclination with respect to the vehicle body.
例えば、本発明は、前記レンズの光軸の地面方向へ向く傾き角度が水平面に対して、0度以上で45度未満である。 For example, in the present invention, the inclination angle of the optical axis of the lens toward the ground is 0 degree or more and less than 45 degrees with respect to the horizontal plane.
レンズの光軸やカメラを大きく傾けて取り付ける必要が無いため、車体の外観を損なうことがなく、また車体へのカメラの取付けなども容易である。 Since there is no need to attach the optical axis of the lens or the camera at a large angle, the appearance of the vehicle body is not impaired, and the camera can be easily attached to the vehicle body.
例えば、本発明は、前記撮像素子で検知された受像画像のうちの光軸から水平方向にずれた側方区画が拡大されて前記表示画面に表示画像として表示されるものとして構成できる。 For example, the present invention can be configured such that a side section shifted in the horizontal direction from the optical axis in the received image detected by the image sensor is enlarged and displayed as a display image on the display screen.
この場合に、撮像素子で検知された受像画像のうちの側方区画が大きく湾曲しないために、側方区画の切り出しとその画像処理が容易である。 In this case, since the side section of the received image detected by the image sensor is not greatly curved, it is easy to cut out the side section and perform image processing thereof.
また、本発明は、前記魚眼レンズの光軸が車体の側方に向けられており、前記撮像素子で検知された受像画像のうちの光軸よりも地面側へずれた区画が拡大されて、前記表示画面に表示画像として車両の側方の地面が表示されるものとして構成できる。 Further, in the present invention, the optical axis of the fisheye lens is directed to the side of the vehicle body, and a section of the received image detected by the imaging device that is shifted to the ground side from the optical axis is enlarged. It can be configured that the ground on the side of the vehicle is displayed as a display image on the display screen.
この場合に、車両の側方の直近の領域の情報を明瞭に表示することができる。
本発明は、前記レンズが、魚眼レンズまたは広角レンズである。
In this case, it is possible to clearly display information on the nearest region on the side of the vehicle.
In the present invention, the lens is a fisheye lens or a wide-angle lens.
本発明の撮像装置は、魚眼レンズや広角レンズなどを備えたカメラの光軸を撮像素子の検知領域の中心からずらすことにより、ずらした方向の空間内に有る多くの情報を撮像素子に明確に表示することができる。よって、魚眼レンズや広角レンズを車体に設置したときに、車体の周囲の情報を効果的に得ることができ、表示画像データを得るための画像処理も容易である。 The image pickup apparatus of the present invention clearly displays a large amount of information in the space in the shifted direction on the image pickup device by shifting the optical axis of a camera equipped with a fisheye lens, a wide-angle lens, etc. from the center of the detection region of the image pickup device. can do. Therefore, when a fisheye lens or a wide-angle lens is installed on the vehicle body, information around the vehicle body can be obtained effectively, and image processing for obtaining display image data is easy.
図1は本発明の実施の形態の撮像装置のブロック図である。
撮像装置10は魚眼カメラ11を有している。魚眼カメラ11は例えば自動車1の車体に取り付けられる。図1の実施の形態では、魚眼カメラ11が自動車1のフェンダーミラー2に取り付けられており、その光軸は、前輪3と後輪4との間に位置している。また前記光軸は、図1の紙面の手前方向に向けられ、自動車1の車体の側方の画像を受像できるようになっている。
FIG. 1 is a block diagram of an imaging apparatus according to an embodiment of the present invention.
The
図2(A)に示すように、魚眼カメラ11は、魚眼レンズ12と、魚眼レンズ12で集光された光を検知する複数の検知点を有する撮像素子13とを有している。撮像素子13は、CCDまたはCMOSである。
As shown in FIG. 2A, the fisheye camera 11 has a
図1に示すように、撮像素子13の各検知点で検知された受像信号(輝度信号)は、画像検出部14でディジタル値に変換されて画像処理部15に与えられる。画像処理部15には記憶手段としてメモリ16が併設され、画像処理部15とメモリ16は、制御部17により制御される。画像処理部15は、画像検出部14から送られたディジタル値の画像信号の演算処理を行うことができる。制御部17は、CPUを主体とするものであり、前記画像処理部15を制御するとともに、表示ドライバ18を制御することが可能である。画像処理部15で処理されて得られた画像データは、表示ドライバ18に送られ、車内に設けられた液晶表示パネルなどの表示パネル19に画像が表示される。
As shown in FIG. 1, the received image signal (luminance signal) detected at each detection point of the
図4には、直交軸であるX軸とY軸を含む平面Hと、X軸とY軸との交点を起点として平面Hに垂直に延びるZ軸を示している。平面Hを撮像素子の撮像面とし、平面の前方に位置するA1を撮像素子に映し出すべき空間点としたときに、この空間点A1のZ軸に対する天頂角はθiであり、X軸を基準としたときの空間点A1の方位角はΦ1である。 FIG. 4 shows a plane H including the X axis and Y axis, which are orthogonal axes, and a Z axis extending perpendicularly to the plane H from the intersection of the X axis and the Y axis. When the plane H is the imaging plane of the imaging device, and A1 positioned in front of the plane is a spatial point to be projected on the imaging device, the zenith angle of the spatial point A1 with respect to the Z axis is θi, and the X axis is the reference. In this case, the azimuth angle of the space point A1 is Φ1.
魚眼レンズの一般的なモデルは、等距離射影であり、像高をraとし焦点距離をfとしたときに、ra=f・θiである。その他のモデルとして、等立体角射影は、ra=2f・sin(θi/2)であり、正射影は、ra=f・sinθiである。これら種々のタイプの魚眼レンズを1つのモデル式で表現すると、像高raをr(θi)として、次のように表すことができる。
r(θi)=k1θi+k2θi3+k3θi5+k4θi7+・・・・・
A general model of a fisheye lens is equidistant projection, where ra = f · θi when the image height is ra and the focal length is f. As another model, the equal solid angle projection is ra = 2f · sin (θi / 2), and the orthographic projection is ra = f · sin θi. When these various types of fisheye lenses are expressed by one model equation, the image height ra can be expressed as r (θi) as follows.
r (θi) = k 1 θi + k 2 θi 3 + k 3 θi 5 + k 4 θi 7 +.
この実施の形態では高次の項を省略して、以下の式が魚眼レンズのモデル式である多項式として使用されて、この多項式がメモリ16内に記憶されている。
r(θi)=k1θi+k2θi3
In this embodiment, high-order terms are omitted, and the following expression is used as a polynomial that is a model expression of a fisheye lens, and this polynomial is stored in the
r (θi) = k 1 θi + k 2 θi 3
図3は、ピンホールや収差のない理論的な凸レンズなどを使用した射影モデルである中心射影を示している。中心射影では、像高rと焦点距離fとの関係は以下の通りである。
r=f・tanθ
FIG. 3 shows a central projection which is a projection model using a theoretical convex lens having no pinhole or aberration. In the central projection, the relationship between the image height r and the focal length f is as follows.
r = f · tan θ
図3に示す中心射影のモデルでは、歪みのない画像を撮像できるが、限られた面積の撮像素子に対して投影できる画角は狭い。これに対し、図2(A)に示す魚眼レンズ12を使用した魚眼カメラ11では、撮像素子13の限られた検知領域に、広角の画像を結像させることができ、その画角はほぼ180度である。ただし、魚眼カメラ11の撮像素子13に結像する受像画像は、画角が広がるにしたがって画像の歪みが大きくなる。
In the central projection model shown in FIG. 3, an image without distortion can be captured, but the angle of view that can be projected onto an image sensor with a limited area is narrow. On the other hand, in the fisheye camera 11 using the
図2(A)に実線で示すように、本発明の実施の形態の魚眼カメラ11では、魚眼レンズ12の光軸O2と、撮像素子13の中心Oa、すなわち撮像素子13の検知領域の中心とが位置ずれしている。魚眼レンズ12の光軸O2は、撮像素子13の中心Oaに対して、下方向(地面の方向)へ距離δだけ位置ずれしている。位置ずれ距離δは、魚眼レンズ12の有効径の1/4以上で1/2以下程度であり、実施の形態では、位置ずれ距離δは、魚眼レンズ12の有効径のほぼ1/3である。
2A, in the fisheye camera 11 according to the embodiment of the present invention, the optical axis O2 of the
自動車1に魚眼カメラ11が取り付けられたときに、光軸O2は、水平面と平行、または地面に向けて水平面よりもやや斜め下向きに傾けられている。水平面に対する光軸O2の斜め下向きの傾き角度は0度以上で45度未満である。魚眼レンズ12の光軸O2を撮像素子13の中心Oaよりも地面側にずらしているため、光軸O2の傾き角度が小さくても、自動車1の直近の地面の情報を取得しやすくなっている。そのため、前記傾き角度は30度以下または20度以下でも良く、実施の形態では光軸O2の水平面に対する下向きの傾き角度は15度である。
When the fisheye camera 11 is attached to the
図5は、魚眼カメラ11で撮像したときに撮像素子13に結像している受像画像20を示している。実際には撮像素子13に結像する受像画像20は光軸に対して点対称であり、天地が逆さまで左右も逆に結像する。しかし、図5では、説明の都合上、結像画像を上下逆向きとし、すなわち画像を180度回転させて、地面の映像が図面上で下側へ来るように示している。よって、図5においては、図面での上側が空間での下側領域であり、図面での下側が空間での上側領域である。
FIG. 5 shows the received
図5に示す受像画像20には、自動車1の車体の一部分21と、前輪22と後輪23が写され、さらに自動車の側方に位置する地面24の一部が写されている。また、地面24と建物26との境界線24aがやや湾曲して写されている。地面24には、直線で格子状に記された白線表示25が印されているが、この白線表示25も湾曲して写されている。さらに、自動車1の車体から離れた位置に、建物26、樹木27、および他の自動車28,29,30がそれぞれ湾曲して映し出されている。
In the received
図2(A)に示すように、魚眼レンズ12の光軸O2が、撮像素子13の中心Oaよりも地面側(空間での下側)に位置ずれしているため、図5に示すように、撮像素子13では、その中心Oa付近に、魚眼レンズ12で結像される景色のうちの地面側に寄った部分が映し出され、空の景色は撮像素子13の中心Oaから大きく離れ、空の景色の一部は、撮像素子13の検知領域から外れている。
As shown in FIG. 2A, the optical axis O2 of the fish-
図5に示す受像画像20では、自動車1の左斜め後方の領域、すなわち光軸O2および撮像素子13の中心Oaよりも水平方向の後方へずれた領域に、側方区画(a)が設定されている。画像処理部15では、側方区画(a)の画像が切り出され、拡大処理されて、図6に示すように、表示パネル19の表示画面19aに表示画像20Aとして映し出される。表示画面19aに、図6に示す表示画像20Aを表示することで、自動車の運転者は、自動車1の左側のフェンダーミラーを肉眼で見たときと同等の景色の射影を画面上で確認できる。
In the received
また、図5に示す受像画像20では、地面側に寄った領域である台形の空間下方区画(b)が設定されている。画像処理部15では、空間下方区画(b)の画像が切り出され、拡大処理されて、図7に示すように、表示パネル19の表示画面19aに表示画像20Bとして映し出される。この表示画像20Bでは、車体の一部分21と前輪22および後輪23のすぐ側方の地面の状態を表示することができる。なお、図7において、車体の一部分21と前輪22および後輪23の部分に、予め作成された車体および車輪の形状のイラスト画像を貼り付けて表示してもよい。
Further, in the received
表示パネル19の表示画面19aの表示内容は、車室内のいずれかの操作スイッチなどで切換え可能であり、必要に応じて、図6(A)に示す表示画像20Aと、図6(B)に示す表示画像20Bとが切換えて表示される。あるいは、同じ画面上に、前記表示画像20Aと前記表示画像20Bとを並べて表示してもよい。
The display content of the
図2(A)に示すように、魚眼レンズ12の光軸O2を撮像素子13の中心Oaから地面側へずらした結果、光軸O2を下向きに大きな角度で傾斜させなくても、図5に示すように、撮像素子13の検知領域の中央部分に車体の側方に位置する地面24の情報を広く取得することができる。よって、撮像素子13の中央部に比較的広い面積の空間下方区画(b)を確保することで、図7に示すように、車体の側方の直近の地面24の状態を写した表示画像20Bを、鮮明に生成することができる。
As shown in FIG. 2A, as a result of shifting the optical axis O2 of the
光軸O2の水平面に対する地面方向への下向きの傾斜角度を小さくでき、実施の形態では15度程度に設定しているために、地面24および白線表示25、さらに他の自動車28,29,30などの画像の歪みが小さくなる。そのため、側方区画(a)を、大きく湾曲して設定する必要はなく、台形をやや歪めた程度の側方区画(a)を設定することで、図6に示すように、左後方の自動車28,29などを含む表示画像20Aを容易に且つ鮮明に生成することができる。
Since the downward inclination angle of the optical axis O2 with respect to the horizontal plane with respect to the ground surface can be reduced and is set to about 15 degrees in the embodiment, the
図8は、本発明の実施の形態の特徴を明らかにするための比較例の受像画像120を示している。この比較例の受像画像も、実際の受像状態に対して上下逆で、すなわち180度回転させた状態で示している。
FIG. 8 shows a received
比較例の魚眼カメラは、図2(A)において破線で示すように、魚眼レンズ12の光軸O1が撮像素子13の中心Oaと一致している。そのため、光軸O1を水平に配置すると、自動車の外部の景色のうちの地面側の情報が、撮像素子13の図8に示す下側の部分(実際の画像では上側の部分)に集中することになり、自動車の側方の直近の画像情報量が少なくなって、図7に示すような表示画像20Bを鮮明に表示できなくなる。そのため、図8の比較例では、魚眼レンズ12の光軸O1を、水平面よりも地面側に向けて下向きに45度の角度で傾斜させて、自動車の側方の地面の情報の取得量を多くすることが必要である。そのため、図6に示すような斜め後方の景色の表示画像を作成しようとすると、図8において(c)で示すように、大きな曲率で湾曲した区画(c)から画像情報を切り出すことが必要になり、大きく湾曲した区画(c)の画像を取り出すための画像処理が煩雑になる。さらに、図8に示すような湾曲した画像を図6に示すように、表示画面19a上で平面的に展開させて表示するには、複雑な演算が必要になる。
In the fisheye camera of the comparative example, the optical axis O1 of the
これに対し、実施の形態の撮像装置10では、魚眼レンズ12の光軸O2を、撮像素子13の中心Oaよりも地面側へずらしたため、撮像素子13の中央の領域に、車両の側方の地面や他の自動車などの情報を結像させることができ、自動車の近くの外部画像を生成しやすくなる。また、光軸を地面に向けて下向きに大きく傾かせる必要がないため、側方区画(a)などを湾曲度の小さい領域の情報として切り出すことができる。
On the other hand, in the
次に、図5に示す受像画像の側方区画(a)や空間下方区画(b)を取り出して、図6に示す表示画像20Aや図7に示す表示画像20Bを生成するための画像処理方法の一例を説明する。
Next, an image processing method for extracting the side section (a) and the space lower section (b) of the received image shown in FIG. 5 and generating the
この画像処理では、図9に示すX軸方向の変化関数T(x)が使用される。この変化関数T(x)は、画像処理の補正のために予め決められたものであり、メモリ16に保持されている。図9の横軸は、魚眼レンズ12の光軸O2からX方向(横方向)へ離れる座標位置を、0、0.1、0.2、0.3、・・・で示している。縦軸には、横軸に示されているX軸方向のそれぞれの位置の画像の点の画角をどのくらい拡大して画像処理すべきかが数値化されて示されている。
In this image processing, the change function T (x) in the X-axis direction shown in FIG. 9 is used. This change function T (x) is predetermined for correction of image processing and is held in the
図9に示す変化関数T(x)は、例えば、X軸方向の「0.1」の座標位置に表示すべき情報を、X軸方向の「0.18」の位置まで画角を拡大して処理することを示しており、また、X軸方向の「0・9」の座標位置に表示すべき情報を、X軸方向の「1.0」の位置まで画角を拡大して処理することを示している。同様に、メモリ16には、Y軸方向の画角の変化関数T(y)も保持されている。このY軸方向の画角の変化関数T(y)は、X軸方向の画角の変化関数T(x)と相違する関数である。
The change function T (x) shown in FIG. 9 expands the angle of view of information to be displayed at a coordinate position of “0.1” in the X-axis direction to a position of “0.18” in the X-axis direction. In addition, the information to be displayed at the coordinate position “0 · 9” in the X-axis direction is processed with the angle of view enlarged to the position “1.0” in the X-axis direction. It is shown that. Similarly, the
図9に示す変化関数T(x)は、魚眼カメラ11の受像画像20の一部である側方区画(a)や下方区画(b)の画像を拡大して図6または図7に示す表示画面19aに表示する際に、歪みを適度に除去するための一種の補正関数としての意味を有している。この変化関数T(x)は、受像画像20において画像を切り出す区画(a)(b)の位置、区画(a)(b)の面積、および区画(a)(b)の画像を表示する際の拡大率などに応じて決められる。この変化関数T(x)は、予め複数箇所の拡大率を決めておき、複数の拡大率をBスプライン曲線などのパラメトリック曲線で結ぶことで生成される。
The change function T (x) shown in FIG. 9 is shown in FIG. 6 or FIG. 7 by enlarging the images of the side section (a) and the lower section (b) that are part of the received
画像処理方法は以下の手順で行われる。この画像処理では、図6または図7に示す表示画面19aの任意の画素Piに、撮像素子13のどの検知点で検知された受像信号(輝度信号)を対応させて表示するかを決める。
The image processing method is performed according to the following procedure. In this image processing, it is determined which image receiving signal (luminance signal) detected at which detection point of the
まず、画素PiのX軸方向の位置を図9に示す変化関数T(x)の横軸に代入して、正規化する画角αxを求める。例えば画素PiのX軸方向の位置が「0.1」であるとき、この「0.1」を図9の変化関数に代入すると、X軸方向の位置が「0.18」である。画像処理部15では、X軸方向の前記「0.18」の位置が、X軸方向のどの程度の画角に相当するかが求められる。求められた値が正規化した受像画角αxである。同様にして、Y軸方向の変化関数T(y)を用いて、画素PiのY軸方向での正規化した受像画角αyを求めることができる。
First, the angle of view αx to be normalized is obtained by substituting the position of the pixel Pi in the X-axis direction into the horizontal axis of the change function T (x) shown in FIG. For example, when the position of the pixel Pi in the X-axis direction is “0.1”, if this “0.1” is substituted into the change function of FIG. 9, the position in the X-axis direction is “0.18”. The
次に、正規化した受像画角αxとαyを使用し、図3に示すような歪みを伴なわない中心射影での受像面Ha上の結像位置を求める。この演算では、図5に示す受像画像20の区画(a)(b)の画像を、図6に示す表示画像20Aや図7に示す表示画像20Bとして表示するための倍率から得られる焦点距離fの値が使用される。中心射影に関する以下の式から、画素Piの中心射影に相当する正規化した座標位置rx、ryを求めることができる。
Next, using the normalized image receiving field angles αx and αy, the imaging position on the image receiving surface Ha in the central projection without distortion as shown in FIG. 3 is obtained. In this calculation, the focal length f obtained from the magnification for displaying the image of the sections (a) and (b) of the received
rx=f・tan(αx)
ry=f・tan(αy)
rx = f · tan (αx)
ry = f · tan (αy)
前記のように正規化した座標位置rx,ryを知ることにより、図4に示す天頂角θiと、方位角Φiを知ることができる。この天頂角θiと方位角Φiは、図9に示す変化関数T(x)で補正された正規化した天頂角および方位角であり、画素Piに映し出されるべき空間点の天頂角および方位角である。 By knowing the coordinate positions rx and ry normalized as described above, the zenith angle θi and the azimuth angle Φi shown in FIG. 4 can be known. The zenith angle θi and the azimuth angle Φi are the normalized zenith angle and azimuth angle corrected by the change function T (x) shown in FIG. 9, and are the zenith angle and azimuth angle of the spatial point to be displayed on the pixel Pi. is there.
さらに、画像処理では、魚眼カメラ11に使用されている魚眼レンズ12のモデル式に、前記天頂角θiを代入して、像点A2の像高であるr(θi)を求める。
r(θi)=k1・θi+k2・θi3、
Further, in the image processing, r (θi), which is the image height of the image point A2, is obtained by substituting the zenith angle θi into the model equation of the
r (θi) = k 1 · θi + k 2 · θi 3 ,
次に、前記像高r(θi)と方位角Φiとから、図5に示す受像画像20内のどの位置の検知点の受像信号(輝度信号)を、表示画面19aの画素Piの画像データとして使用するかを求める。検知点の位置座標(mx,my)は以下の演算で得られる。
Next, based on the image height r (θi) and the azimuth angle Φi, an image reception signal (luminance signal) at any position in the
mx=r(θi)・cos(Φi)
my=r(θi)・sin(Φi)
前記処理が、表示画面19a内の全ての画素Piに対して行われる。
mx = r (θi) · cos (Φi)
my = r (θi) · sin (Φi)
The process is performed on all the pixels Pi in the
以上の画像処理方法では、魚眼カメラ11の撮像素子13に結像した画像を、中心射影映像に変換することで、図6に示す拡大された表示画像20Aおよび図8に示す表示画像20Bにおいて歪みを修正できる。ただし、撮像素子13で得られた広角の画像データを単純に中心射影の映像へ変換すると、表示画面に表示された映像は、光軸O1に近い領域が極端に縮小され、光軸O1から離れた領域が極端に拡大されて、視認性が著しく損なわれた画像となる。
In the image processing method described above, the image formed on the
これに対し、前記画像処理では、図9に示すように予め決められた変化関数T(x)を用いて、画素Piに対応する画像位置の正規化された画角αxとαyを求め、この画角αxとαyを用い、中心射影の式から天頂角θiと方位角Φiを求めている。そして、この天頂角θiと方位角Φiを、使用している魚眼レンズ12のモデル式に代入して、表示画面19aの画素Piに与えるべき、受像画像20上の検知点の位置(mx,my)を算出している。
On the other hand, in the image processing, using the change function T (x) determined in advance as shown in FIG. 9, the normalized angle of view αx and αy of the image position corresponding to the pixel Pi is obtained. Using the angle of view αx and αy, the zenith angle θi and the azimuth angle Φi are obtained from the central projection formula. Then, the position (mx, my) of the detection point on the received
前記変化関数を用いることにより、魚眼カメラの画像を直接に中心射影の映像に変換するときのような、極端な拡大領域と縮小領域が発生するのを補正でき、視認性の良い表示画像20A,20Bを得ることができる。
By using the change function, it is possible to correct the occurrence of extreme enlargement and reduction areas, such as when a fisheye camera image is directly converted to a central projection image, and a
なお、本発明は、魚眼レンズのみではなく、広角レンズや望遠レンズあるいは標準レンズを使用した撮像装置にも実施可能である。いずれの場合も、レンズの光軸を撮像素子の検知領域の中心から位置ずれさせることで、前記検知領域に対して得たい情報を多く取り込むことが可能である。 The present invention can be applied not only to fisheye lenses but also to imaging devices using wide-angle lenses, telephoto lenses, or standard lenses. In either case, by shifting the position of the optical axis of the lens from the center of the detection area of the image sensor, it is possible to capture a large amount of information desired for the detection area.
なお、広角レンズは、画角がおよそ60度またはそれ以上であって、周辺部分に認識できる程度の歪みを生じるレンズである。本明細書では、広角レンズは魚眼レンズを含む概念である。 The wide-angle lens is a lens having an angle of view of about 60 degrees or more and causing distortion that can be recognized in the peripheral portion. In the present specification, the wide-angle lens is a concept including a fish-eye lens.
11 魚眼カメラ
12 魚眼レンズ
13 撮像素子
15 画像処理部
19 表示パネル
19a 表示画面
20 受像画像
20A 表示画像
20B 表示画像
(a) 側方区画
(b) 下方区画
DESCRIPTION OF SYMBOLS 11
Claims (6)
前記レンズの光軸が、前記撮像素子の検知領域の中心から位置ずれした状態で、前記レンズと前記撮像素子とが組み合わされていることを特徴とする撮像装置。 A lens, an image sensor that detects light collected by the lens, and an image processing unit that generates image data for displaying an image on a display screen based on an image reception signal detected by the image sensor. In the provided imaging device,
An imaging apparatus, wherein the lens and the imaging device are combined in a state where an optical axis of the lens is displaced from a center of a detection region of the imaging device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007298862A JP2009120135A (en) | 2007-11-19 | 2007-11-19 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007298862A JP2009120135A (en) | 2007-11-19 | 2007-11-19 | Imaging device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009120135A true JP2009120135A (en) | 2009-06-04 |
Family
ID=40812768
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007298862A Withdrawn JP2009120135A (en) | 2007-11-19 | 2007-11-19 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009120135A (en) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011095321A (en) * | 2009-10-27 | 2011-05-12 | Toshiba Alpine Automotive Technology Corp | Image display device for vehicle |
JP2015121591A (en) * | 2013-12-20 | 2015-07-02 | 株式会社富士通ゼネラル | In-vehicle camera |
EP2978206A1 (en) * | 2014-07-21 | 2016-01-27 | Honeywell International Inc. | Image based surveillance system |
CN107972582A (en) * | 2016-10-25 | 2018-05-01 | 北京计算机技术及应用研究所 | A kind of full HD ring car overlooks display system |
EP3346693A1 (en) * | 2017-01-10 | 2018-07-11 | Autoliv Development AB | An imaging device for a motor vehicle, and a method of mounting an imaging device in a motor vehicle |
CN110335192A (en) * | 2019-05-24 | 2019-10-15 | 深圳市德赛微电子技术有限公司 | A kind of optical center calculation method of fisheye camera |
JP2022009118A (en) * | 2017-04-03 | 2022-01-14 | 株式会社デンソー | The camera module |
JP2023016130A (en) * | 2021-07-21 | 2023-02-02 | キヤノン株式会社 | Surrounding monitoring system for moving object, control method thereof, and program |
US11678041B2 (en) | 2017-04-03 | 2023-06-13 | Denso Corporation | Camera module |
US11716525B2 (en) | 2017-04-03 | 2023-08-01 | Denso Corporation | Vehicle windshield camera module |
-
2007
- 2007-11-19 JP JP2007298862A patent/JP2009120135A/en not_active Withdrawn
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011095321A (en) * | 2009-10-27 | 2011-05-12 | Toshiba Alpine Automotive Technology Corp | Image display device for vehicle |
JP2015121591A (en) * | 2013-12-20 | 2015-07-02 | 株式会社富士通ゼネラル | In-vehicle camera |
EP2978206A1 (en) * | 2014-07-21 | 2016-01-27 | Honeywell International Inc. | Image based surveillance system |
CN105282500A (en) * | 2014-07-21 | 2016-01-27 | 霍尼韦尔国际公司 | Image based surveillance system |
CN107972582A (en) * | 2016-10-25 | 2018-05-01 | 北京计算机技术及应用研究所 | A kind of full HD ring car overlooks display system |
EP3346693A1 (en) * | 2017-01-10 | 2018-07-11 | Autoliv Development AB | An imaging device for a motor vehicle, and a method of mounting an imaging device in a motor vehicle |
JP2022009118A (en) * | 2017-04-03 | 2022-01-14 | 株式会社デンソー | The camera module |
JP2022009117A (en) * | 2017-04-03 | 2022-01-14 | 株式会社デンソー | The camera module |
US11678041B2 (en) | 2017-04-03 | 2023-06-13 | Denso Corporation | Camera module |
US11716525B2 (en) | 2017-04-03 | 2023-08-01 | Denso Corporation | Vehicle windshield camera module |
CN110335192A (en) * | 2019-05-24 | 2019-10-15 | 深圳市德赛微电子技术有限公司 | A kind of optical center calculation method of fisheye camera |
JP2023016130A (en) * | 2021-07-21 | 2023-02-02 | キヤノン株式会社 | Surrounding monitoring system for moving object, control method thereof, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4975592B2 (en) | Imaging device | |
JP2009120135A (en) | Imaging device | |
JP5316805B2 (en) | In-vehicle camera device image adjustment device and in-vehicle camera device | |
JP5491235B2 (en) | Camera calibration device | |
JP4596978B2 (en) | Driving support system | |
US8130270B2 (en) | Vehicle-mounted image capturing apparatus | |
WO2009116327A1 (en) | Image processing device and method, driving support system, and vehicle | |
US8477191B2 (en) | On-vehicle image pickup apparatus | |
JP2022171678A (en) | Imaging system mounted on vehicle, object identification device, and object identification method | |
JP2011095321A (en) | Image display device for vehicle | |
CN106060427A (en) | Panorama imaging method and device based on single camera | |
EP4408006A1 (en) | Image processing system, movable apparatus, image processing method, and storage medium | |
JP4247066B2 (en) | Vehicle periphery visual recognition device | |
JP5405809B2 (en) | Vehicle periphery monitoring device and camera position / posture determination method | |
US12214733B2 (en) | Camera unit installing method, moving device, image processing system, image processing method, and storage medium | |
TW202426305A (en) | Image capturing device, movable apparatus, and storage medium | |
JP2019068343A (en) | Camera device for motorcycle | |
JP3446277B2 (en) | Ambient situation display device for vehicles | |
CN115883984A (en) | Image processing system and method, storage medium, image pickup apparatus, and optical unit | |
JP2010187161A (en) | On-board camera system and image processing method | |
JP2009123131A (en) | Imaging apparatus | |
JP5305750B2 (en) | Vehicle periphery display device and display method thereof | |
US20240177492A1 (en) | Image processing system, image processing method, and storage medium | |
CN117774832A (en) | Method for installing movable equipment and camera device | |
US12165419B2 (en) | Movable apparatus, control method for movable apparatus, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110201 |