[go: up one dir, main page]

JP6688901B2 - 3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体 - Google Patents

3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP6688901B2
JP6688901B2 JP2018545735A JP2018545735A JP6688901B2 JP 6688901 B2 JP6688901 B2 JP 6688901B2 JP 2018545735 A JP2018545735 A JP 2018545735A JP 2018545735 A JP2018545735 A JP 2018545735A JP 6688901 B2 JP6688901 B2 JP 6688901B2
Authority
JP
Japan
Prior art keywords
flight
dimensional shape
imaging
shape data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018545735A
Other languages
English (en)
Other versions
JPWO2018073878A1 (ja
Inventor
磊 顧
磊 顧
幸良 笹尾
幸良 笹尾
宗耀 瞿
宗耀 瞿
韜 呉
韜 呉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Publication of JPWO2018073878A1 publication Critical patent/JPWO2018073878A1/ja
Application granted granted Critical
Publication of JP6688901B2 publication Critical patent/JP6688901B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0094Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • G05D1/106Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体に関する。
従来、予め設定された固定経路を通りながら撮像を行うプラットフォーム(無人機)が知られている。このプラットフォームは、地上基地から撮像指示を受け、撮像対象を撮像する。このプラットフォームは、撮像対象を撮像する場合、固定経路を飛行しながら、プラットフォームと撮像対象との位置関係により、プラットフォームの撮像機器を傾けて撮像する。
日本国特開2010−61216号公報
特許文献1に記載されたプラットフォームでは、固定経路を通りながら撮像するが、固定経路から鉛直方向に位置するオブジェクト(例えば建物)の存在を十分に考慮されていない。そのため、オブジェクトの側面の撮像画像や上空から観察可能なオブジェクトの一部に隠された他の一部の撮像画像を十分に取得することが困難である。従って、3次元形状を推定するための撮像画像が不足し、3次元形状の推定精度が低下する。
オブジェクトの側面を撮像する場合、撮像者が撮像装置を把持してオブジェクトの側面を撮像することが考えられる。この場合、ユーザがオブジェクトの周辺まで移動する必要があるため、ユーザの利便性が低下する。また、ユーザ手動による撮像となるため、所望の状態(例えばオブジェクトの所望の撮像位置、オブジェクトの所望の撮像サイズ、オブジェクトの所望の撮像向き)の撮像画像を十分に取得できない可能性がある。
また、特定のオブジェクトの側面を無人航空機により撮像する場合、無人航空機が飛行する飛行経路を決定することが考えらえる。オブジェクトの周囲における所望の位置を撮像位置として指定する場合、3次元空間の位置(緯度、経度、高度)をユーザ入力して指定することが考えられる。この場合、各撮像位置をユーザ入力により決定するので、ユーザの利便性が低下する。
一態様において、3次元形状推定方法は、飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定方法であって、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する段階と、第1の3次元形状データによる欠損領域を検出する段階と、欠損領域を撮像するための第1の飛行経路を生成する段階と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する段階と、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する段階と、を含む。
3次元形状推定方法は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成する段階と、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得する段階と、を更に含んでよい。
第2の飛行経路は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための飛行経路でよい。第1の撮像画像は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を撮像して取得された画像でよい。
第1の飛行経路は、欠損領域を異なる高度で撮像するための飛行経路でよい。第2の撮像画像は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて撮像して取得された画像でよい。
3次元形状推定方法は、欠損領域の位置情報に基づいて第2の飛行経路に第1の飛行経路を挿入して、第3の飛行経路を生成する段階と、第3の飛行経路において、飛行体により鉛直方向と欠損領域の水平方向とを複数撮像して、複数の第1の撮像画像と複数の第2の撮像画像とを取得する段階と、第1の撮像画像と第2の撮像画像とに基づいて、飛行範囲における第2の3次元形状データを生成する段階と、を更に含んでよい。
3次元形状推定方法は、飛行体が第2の飛行経路の飛行後に第3の飛行経路を飛行する段階と、第2の飛行経路では第1の撮像位置間隔で撮像する段階と、第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像する段階と、を更に含んでよい。
3次元形状推定方法は、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第3の3次元形状データを生成する段階、を更に含んでよい。
一態様において、3次元形状推定方法は、飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定方法であって、飛行体の飛行中に、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する段階と、飛行中に、第1の3次元形状データによる欠損領域の有無を判定する段階と、欠損領域が存在すると判定された場合、飛行体を欠損領域の方向へ移動させる段階と、飛行中に、欠損領域を撮像するための第1の飛行経路を生成する段階と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する段階と、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する段階と、を含む。
3次元形状推定方法は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成する段階と、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得する段階と、を更に含んでよい。
第2の飛行経路は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための飛行経路でよい。第1の撮像画像は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を撮像して取得された画像でよい。
第1の飛行経路は、欠損領域を異なる高度で撮像するための飛行経路でよい。第2の撮像画像は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて撮像して取得された画像でよい。
3次元形状推定方法は、第2の撮像画像の取得後、飛行体が第2の飛行経路に従う飛行に復帰する段階、を更に含んでよい。
3次元形状推定方法は、第2の飛行経路において未撮像の撮像位置において、第1の撮像画像を取得する段階、を更に含んでよい。
3次元形状推定方法は、飛行中に、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第4の3次元形状データを生成する段階、を更に含んでよい。
一態様において、3次元形状推定システムは、飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定システムであって、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、第1の3次元形状データによる欠損領域を検出する検出部と、欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、を備え、形状データ生成部は、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する。
経路生成部は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、欠損領域を異なる高度で撮像するための第1の飛行経路を生成してよい。撮像部は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得してよい。
経路生成部は、欠損領域の位置情報に基づいて第2の飛行経路に第1の飛行経路を挿入して、第3の飛行経路を生成してよい。撮像部は、第3の飛行経路において、鉛直方向と欠損領域の水平方向とを複数撮像して、複数の第1の撮像画像と複数の第2の撮像画像とを取得してよい。形状データ生成部は、第1の撮像画像と第2の撮像画像とに基づいて、飛行範囲における第2の3次元形状データを生成してよい。
3次元形状推定システムは、飛行制御部を更に備えてよい。飛行制御部は、飛行体に、第2の飛行経路の飛行後に第3の飛行経路を飛行させてよい。撮像部は、第2の飛行経路では第1の撮像位置間隔で撮像し、第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像してよい。
形状データ生成部は、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第3の3次元形状データを生成してよい。
一態様において、3次元形状推定システムは、飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定システムであって、飛行体の飛行を制御する飛行制御部と、飛行体の飛行中に、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、飛行中に、第1の3次元形状データによる欠損領域の有無を判定する検出部と、飛行中に、欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、を備え、飛行制御部は、欠損領域が存在すると判定された場合、飛行体を欠損領域の方向へ移動させ、形状データ生成部は、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する。
経路生成部は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、欠損領域を異なる高度で撮像するための第1の飛行経路を生成してよい。撮像部は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得してよい。
飛行制御部は、第2の撮像画像の取得後、飛行体に、第2の飛行経路に従う飛行に復帰させてよい。
撮像部は、第2の飛行経路において未撮像の撮像位置において、第1の撮像画像を取得してよい。
形状データ生成部は、飛行中に、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第4の3次元形状データを生成してよい。
3次元形状推定システムは、飛行体と飛行体との間で通信する通信端末とを備えてよい。飛行体は、第1の通信部と、経路生成部と、撮像部と、形状データ生成部と、検出部と、を備えてよい。通信端末は、操作部と、第2の通信部を備えてよい。
3次元形状推定システムは、飛行体と飛行体との間で通信する通信端末とを備えてよい。飛行体は、第1の通信部と、撮像部と、を備えてよい。通信端末は、操作部と、第2の通信部、経路生成部と、形状データ生成部と、検出部と、を備えてよい。
一態様において、飛行体は、画像を撮像して3次元形状を推定する飛行体であって、複数の第1の撮像画像に基づいて、飛行範囲における第1の3次元形状データを生成する形状データ生成部と、第1の3次元形状データによる欠損領域を検出する検出部と、欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、を備え、形状データ生成部は、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する。
経路生成部は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、欠損領域を異なる高度で撮像するための第1の飛行経路を生成してよい。撮像部は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得してよい。
経路生成部は、欠損領域の位置情報に基づいて第2の飛行経路に第1の飛行経路を挿入して、第3の飛行経路を生成してよい。撮像部は、第3の飛行経路において、鉛直方向と欠損領域の水平方向とを複数撮像して、複数の第1の撮像画像と複数の第2の撮像画像とを取得してよい。形状データ生成部は、第1の撮像画像と第2の撮像画像とに基づいて、飛行範囲における第2の3次元形状データを生成してよい。
飛行体は、飛行制御部を更に備えてよい。飛行制御部は、飛行体に、第2の飛行経路の飛行後に第3の飛行経路を飛行させてよい。撮像部は、第2の飛行経路では第1の撮像位置間隔で撮像し、第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像してよい。
形状データ生成部は、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第3の3次元形状データを生成してよい。
一態様において、飛行体は、画像を撮像して3次元形状を推定する飛行体であって、飛行体の飛行を制御する飛行制御部と、飛行体の飛行中に、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、飛行中に、第1の3次元形状データによる欠損領域の有無を判定する検出部と、飛行中に、欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、を備え、飛行制御部は、欠損領域が存在すると判定された場合、飛行体を欠損領域の方向へ移動させ、形状データ生成部は、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する。
経路生成部は、飛行体の飛行範囲において飛行体により撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、飛行体の飛行範囲において飛行体により鉛直方向を撮像するための第2の飛行経路を生成してよい。撮像部は、第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の第1の撮像画像を取得してよい。
経路生成部は、欠損領域を異なる高度で撮像するための第1の飛行経路を生成してよい。撮像部は、第1の飛行経路において、欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得してよい。
飛行制御部は、第2の撮像画像の取得後、飛行体に、第2の飛行経路に従う飛行に復帰させてよい。
撮像部は、第2の飛行経路において未撮像の撮像位置において、第1の撮像画像を取得してよい。
形状データ生成部は、飛行中に、飛行範囲における第1の3次元形状データと欠損領域における3次元形状データとを合成して、飛行範囲における第4の3次元形状データを生成してよい。
一態様において、プログラムは、飛行体により撮像された画像に基づいて3次元形状を推定するコンピュータに、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する手順と、第1の3次元形状データによる欠損領域を検出する手順と、欠損領域を撮像するための第1の飛行経路を生成する手順と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する手順と、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する手順と、を実行させるためのプログラムである。
一態様において、記録媒体は、飛行体により撮像された画像に基づいて3次元形状を推定するコンピュータに、複数の第1の撮像画像に基づいて、飛行体の飛行範囲における第1の3次元形状データを生成する手順と、第1の3次元形状データによる欠損領域を検出する手順と、欠損領域を撮像するための第1の飛行経路を生成する手順と、第1の飛行経路において、欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する手順と、複数の第2の撮像画像に基づいて、欠損領域における3次元形状データを生成する手順と、を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体である。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
第1の実施形態における3次元形状推定システムの構成例を示す模式図 無人航空機の外観の一例を示す図 無人航空機の具体的な外観の一例を示す図 無人航空機のハードウェア構成の一例を示すブロック図 送信機の外観の一例を示す斜視図 送信機のハードウェア構成の一例を示すブロック図 飛行範囲の入力例を説明するための図 飛行経路FPAでの概略撮像を説明するための図 飛行経路FPAにより得られた概略撮像に基づく3次元形状データの生成を説明するための図 欠損領域の検出を説明するための図 飛行経路FPBの生成例を説明するための図 飛行経路FPCの生成例を説明するための図 飛行経路FPCにより得られた撮像画像に基づく3次元形状データの生成例を説明するための図 3次元形状推定システムの第1動作例を示すフローチャート 飛行経路FPAでの詳細撮像を説明するための図 飛行経路FPAにより得られた詳細撮像に基づく3次元形状データの生成を説明するための図 複数の欠損領域を撮像するための飛行経路FPBを説明するための図 欠損領域の撮像画像に基づく3次元形状データの生成と複数の3次元形状データの合成とを説明するための図 3次元形状推定システムの第2動作例を示すフローチャート 3次元形状推定システムの第3動作例を示すフローチャート 第2の実施形態における3次元形状推定システムの構成例を示す模式図 送信機のハードウェア構成の一例を示すブロック図 無人航空機のハードウェア構成の一例を示すブロック図 第3の実施形態における3次元形状推定システムの構成例を示す模式図
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須とは限らない。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイル又はレコードに表示される通りであれば異議を唱えない。但し、それ以外の場合、一切の著作権を留保する。
以下の実施形態では、飛行体として、無人航空機(UAV:Unmanned Aerial Vehicle)を例示する。本明細書に添付する図面では、無人航空機を「UAV」と表記する。3次元形状推定方法は、3次元形状推定システムにおける動作が規定されたものである。また、記録媒体は、プログラム(例えば無人航空機及び送信機の少なくとも一方に各種の処理を実行させるプログラム)が記録媒体に記録されたものである。
(第1の実施形態)
図1は、第1の実施形態における3次元形状推定システム10の構成例を示す模式図である。3次元形状推定システム10は、無人航空機100及び送信機50を備える。無人航空機100及び送信機50は、有線通信又は無線通信(例えば無線LAN(Local Area Network)、Bluetooth(登録商標))により通信可能である。
図2は、無人航空機100の外観の一例を示す図である。図3は、無人航空機100の具体的な外観の一例を示す図である。無人航空機100が移動方向STV0に飛行する時の側面図が図2に示され、無人航空機100が移動方向STV0に飛行する時の斜視図が図3に示されている。
図2及び図3に示すように、地面と平行であって移動方向STV0に沿う方向にロール軸(x軸参照)が定義されたとする。この場合、地面と平行であってロール軸に垂直な方向にピッチ軸(y軸参照)が定められ、更に、地面に垂直であってロール軸及びピッチ軸に垂直な方向にヨー軸(z軸参照)が定められる。
無人航空機100は、UAV本体102と、ジンバル200と、撮像装置220と、複数の撮像装置230とを含む構成である。無人航空機100は、飛行体の一例である。撮像装置220、230は、撮像部の一例である。
UAV本体102は、複数の回転翼を備える。UAV本体102は、複数の回転翼の回転を制御することにより無人航空機100を飛行させる。UAV本体102は、例えば4つの回転翼を用いて無人航空機100を飛行させる。回転翼の数は、4つに限定されない。また、無人航空機100は、回転翼を有さない固定翼機でもよい。
撮像装置220は、所望の撮像範囲に含まれる被写体(例えば、空撮対象となる上空の様子、山や川等の景色、地上の建物)を撮像する撮像用のカメラである。
複数の撮像装置230は、無人航空機100の飛行を制御するために無人航空機100の周囲を撮像するセンシング用のカメラである。2つの撮像装置230が、無人航空機100の機首である正面に設けられてよい。更に、他の2つの撮像装置230が、無人航空機100の底面に設けられてよい。正面側の2つの撮像装置230はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置230もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置230により撮像された画像に基づいて、無人航空機100の周囲の3次元空間データが生成されてよい。なお、無人航空機100が備える撮像装置230の数は4つに限定されない。無人航空機100は、少なくとも1つの撮像装置230を備えていればよい。無人航空機100は、無人航空機100の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置230を備えてよい。撮像装置230で設定できる画角は、撮像装置220で設定できる画角より広くてよい。撮像装置230は、単焦点レンズ又は魚眼レンズを有してよい。
図4は、無人航空機100のハードウェア構成の一例を示すブロック図である。無人航空機100は、UAV制御部110と、通信インタフェース150と、メモリ160と、ジンバル200と、回転翼機構210と、撮像装置220と、撮像装置230と、GPS受信機240と、慣性計測装置(IMU:Inertial Measurement Unit)250と、磁気コンパス260と、気圧高度計270とを含む構成である。UAV制御部110は、処理部の一例である。通信インタフェース150は、通信部の一例である。
UAV制御部110は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成される。UAV制御部110は、無人航空機100の各部の動作を統括して制御するための信号処理、他の各部との間のデータの入出力処理、データの演算処理及びデータの記憶処理を行う。
UAV制御部110は、メモリ160に格納されたプログラムに従って無人航空機100の飛行を制御する。UAV制御部110は、通信インタフェース150を介して遠隔の送信機50から受信した命令に従って、無人航空機100の飛行を制御する。メモリ160は無人航空機100から取り外し可能であってもよい。
UAV制御部110は、複数の撮像装置230により撮像された複数の画像を解析することで、無人航空機100の周囲の環境を特定してよい。UAV制御部110は、無人航空機100の周囲の環境に基づいて、例えば障害物を回避して飛行を制御する。
UAV制御部110は、現在の日時を示す日時情報を取得する。UAV制御部110は、GPS受信機240から現在の日時を示す日時情報を取得してよい。UAV制御部110は、無人航空機100に搭載されたタイマ(不図示)から現在の日時を示す日時情報を取得してよい。
UAV制御部110は、無人航空機100の位置を示す位置情報を取得する。UAV制御部110は、GPS受信機240から、無人航空機100が存在する緯度、経度及び高度を示す位置情報を取得してよい。UAV制御部110は、GPS受信機240から無人航空機100が存在する緯度及び経度を示す緯度経度情報、並びに気圧高度計270から無人航空機100が存在する高度を示す高度情報をそれぞれ位置情報として取得してよい。
UAV制御部110は、磁気コンパス260から無人航空機100の向きを示す向き情報を取得する。向き情報には、例えば無人航空機100の機首の向きに対応する方位が示される。
UAV制御部110は、撮像装置220が撮像すべき撮像範囲を撮像する時に無人航空機100が存在すべき位置を示す位置情報を取得してよい。UAV制御部110は、無人航空機100が存在すべき位置を示す位置情報をメモリ160から取得してよい。UAV制御部110は、無人航空機100が存在すべき位置を示す位置情報を、通信インタフェース150を介して送信機50等の他の装置から取得してよい。UAV制御部110は、3次元地図データベースを参照して、撮像すべき撮像範囲を撮像するために、無人航空機100が存在可能な位置を特定して、その位置を無人航空機100が存在すべき位置を示す位置情報として取得してよい。
UAV制御部110は、撮像装置220及び撮像装置230のそれぞれの撮像範囲を示す撮像情報を取得する。UAV制御部110は、撮像範囲を特定するためのパラメータとして、撮像装置220及び撮像装置230の画角を示す画角情報を撮像装置220及び撮像装置230から取得する。UAV制御部110は、撮像範囲を特定するためのパラメータとして、撮像装置220及び撮像装置230の撮像方向を示す情報を取得する。UAV制御部110は、例えば撮像装置220の撮像方向を示す情報として、ジンバル200から撮像装置220の姿勢の状態を示す姿勢情報を取得する。UAV制御部110は、無人航空機100の向きを示す情報を取得する。撮像装置220の姿勢の状態を示す情報は、ジンバル200のピッチ軸及びヨー軸の基準回転角度からの回転角度を示す。UAV制御部110は、撮像範囲を特定するためのパラメータとして、無人航空機100が存在する位置を示す位置情報を取得する。UAV制御部110は、撮像装置220及び撮像装置230の画角及び撮像方向、並びに無人航空機100が存在する位置に基づいて、撮像装置220が撮像する地理的な範囲を示す撮像範囲を画定し、撮像範囲を示す撮像情報を生成することで、撮像情報を取得してよい。
UAV制御部110は、撮像装置220が撮像すべき撮像範囲を示す撮像情報を取得してよい。UAV制御部110は、メモリ160から撮像装置220が撮像すべき撮像情報を取得してよい。UAV制御部110は、通信インタフェース150を介して送信機50等の他の装置から撮像装置220が撮像すべき撮像情報を取得してよい。
UAV制御部110は、無人航空機100の周囲に存在するオブジェクトの立体形状(3次元形状)を示す立体情報(3次元情報)を取得してよい。オブジェクトは、例えば、建物、道路、車、木等の風景の一部である。立体情報は、例えば、3次元空間データである。UAV制御部110は、複数の撮像装置230から得られたそれぞれの画像から、無人航空機100の周囲に存在するオブジェクトの立体形状を示す立体情報を生成することで、立体情報を取得してよい。UAV制御部110は、メモリ160に格納された3次元地図データベースを参照することにより、無人航空機100の周囲に存在するオブジェクトの立体形状を示す立体情報を取得してよい。UAV制御部110は、ネットワーク上に存在するサーバが管理する3次元地図データベースを参照することで、無人航空機100の周囲に存在するオブジェクトの立体形状に関する立体情報を取得してよい。
UAV制御部110は、撮像装置220及び撮像装置230により撮像された画像データを取得する。
UAV制御部110は、ジンバル200、回転翼機構210、撮像装置220、及び撮像装置230を制御する。UAV制御部110は、撮像装置220の撮像方向又は画角を変更することによって、撮像装置220の撮像範囲を制御する。UAV制御部110は、ジンバル200の回転機構を制御することで、ジンバル200に支持されている撮像装置220の撮像範囲を制御する。
本明細書では、撮像範囲は、撮像装置220又は撮像装置230により撮像される地理的な範囲をいう。撮像範囲は、緯度、経度、及び高度で定義される。撮像範囲は、緯度、経度、及び高度で定義される3次元空間データにおける範囲でよい。撮像範囲は、撮像装置220又は撮像装置230の画角及び撮像方向、並びに無人航空機100が存在する位置に基づいて特定される。撮像装置220及び撮像装置230の撮像方向は、撮像装置220及び撮像装置230の撮像レンズが設けられた正面が向く方位と俯角とから定義される。撮像装置220の撮像方向は、無人航空機100の機首の方位と、ジンバル200に対する撮像装置220の姿勢の状態とから特定される方向である。撮像装置230の撮像方向は、無人航空機100の機首の方位と、撮像装置230が設けられた位置とから特定される方向である。
UAV制御部110は、回転翼機構210を制御することで、無人航空機100の飛行を制御する。つまり、UAV制御部110は、回転翼機構210を制御することにより、無人航空機100の緯度、経度、及び高度を含む位置を制御する。UAV制御部110は、無人航空機100の飛行を制御することにより、撮像装置220及び撮像装置230の撮像範囲を制御してよい。UAV制御部110は、撮像装置220が備えるズームレンズを制御することで、撮像装置220の画角を制御してよい。UAV制御部110は、撮像装置220のデジタルズーム機能を利用して、デジタルズームにより、撮像装置220の画角を制御してよい。
撮像装置220が無人航空機100に固定され、撮像装置220を動かせない場合、UAV制御部110は、特定の日時に特定の位置に無人航空機100を移動させることにより、所望の環境下で所望の撮像範囲を撮像装置220に撮像させることができる。あるいは撮像装置220がズーム機能を有さず、撮像装置220の画角を変更できない場合でも、UAV制御部110は、特定された日時に、特定の位置に無人航空機100を移動させることで、所望の環境下で所望の撮像範囲を撮像装置220に撮像させることができる。
UAV制御部110は、飛行経路の生成に関する処理を行う飛行経路処理部111としての機能を含む。UAV制御部110は、撮像の制御に関する処理を行う撮像制御部112としての機能を含む。UAV制御部110は、3次元形状データの生成に関する処理を行う形状データ処理部113としての機能を含む。UAV制御部110は、欠損領域の検出に関する処理を行う欠損領域検出部114としての機能を含む。UAV制御部110は、無人航空機100の飛行の制御に関する処理を行う飛行制御部115としての機能を含む。飛行経路処理部111は、経路生成部の一例である。形状データ処理部113は、形状データ生成部の一例である。欠損領域検出部114は、検出部の一例である。
また、飛行経路処理部111は、送信機50が入力した入力パラメータを、通信インタフェース150を介して受信することで、取得してよい。入力パラメータは、メモリ160に保持されてよい。入力パラメータは、飛行範囲の情報、飛行範囲の中心位置(例えば緯度・経度)の情報、飛行範囲の半径の情報、飛行高度の情報、撮像距離の情報、撮像位置間隔の情報、を含んでよい。飛行範囲の内部に、無人航空機100が飛行するための飛行経路が形成される。撮像位置間隔は、飛行経路に配置される複数の撮像位置(Waypoint)のうち2つの隣り合う撮像位置の間隔(距離)である。
飛行経路処理部111は、送信機50から受信した入力パラメータを基に、飛行範囲を算出してよい。飛行経路処理部111は、飛行範囲の中心位置と飛行範囲の半径とを基に、飛行範囲を円形状に近似して、飛行範囲を算出してよい。入力パラメータは、飛行範囲の周端の一辺の長さの情報を含んでよい。飛行経路処理部111は、飛行範囲を、飛行範囲の周端の一辺の長さを有する多角形状に近似して、飛行範囲を算出してよい。飛行経路処理部111は、飛行範囲を算出せずに、通信インタフェース150を介して送信機50が生成した飛行範囲の情報を送信機50から受信することで、飛行範囲を取得してよい。
飛行経路処理部111は、飛行範囲の内部に飛行経路FPを生成する。飛行経路FPは、同一高度において直線的に移動し、二次元(水平方向)の飛行範囲を順にスキャンのように通過する飛行経路FPAでよい。つまり、飛行経路FPAは、同一高度において第1方向に直線的に移動し、第1方向と垂直な第2方向に少しずれて、再度第1方向に直線的に移動することを繰り返す飛行経路FPAでよい。飛行経路FPAは、第2の飛行経路の一例である。
飛行経路FPは、異なる高度を移動する飛行経路FPBを含んでよい。飛行経路FPBは、無人航空機100が初期位置となる初期経度・初期緯度・初期高度の位置において上昇又は下降を開始し、終了高度の位置において上昇又は下降を終了し、再度初期高度に向かって下降又は上昇する飛行経路でよい。飛行経路FPBは、第1の飛行経路の一例である。
飛行経路FPは、飛行経路FPA及び飛行経路FPBの双方を含む飛行経路FPCでもよい。飛行経路FPCは、第3の飛行経路の一例である。
飛行経路処理部111は、飛行経路FP上に、撮像装置220又は230により撮像する撮像位置(Waypoint)を配置してよい。撮像位置の間隔(撮像位置間隔)は、例えば等間隔で配置されてよい。撮像位置は、隣り合う撮像位置での撮像画像に係る撮像範囲が一部重複するよう配置される。複数の撮像画像を用いた3次元復元を可能とするためである。撮像装置220又は230は所定の画角を有するので、撮像位置間隔を短くすることで、双方の撮像範囲の一部が重複する。
飛行経路処理部111は、入力パラメータに含まれる撮像位置間隔の情報を取得してよい。飛行経路処理部111は、撮像位置間隔を算出して取得してもよい。飛行経路処理部111は、例えば、撮像位置が配置される高度(撮像高度)、撮像装置220又は230の解像度に基づき、撮像位置間隔を算出してよい。撮像高度が高い程又は撮像距離が長い程、撮像範囲の重複率が大きくなるので、撮像位置間隔を長く(疎に)できる。撮像高度が低い程又は撮像距離が短い程、撮像範囲の重複率が小さくなるので、撮像位置間隔を短く(密に)する。飛行経路処理部111は、更に撮像装置220又は230の画角を基に、撮像位置間隔を算出してよい。飛行経路処理部111は、その他公知の方法により撮像位置間隔を算出してよい。
飛行経路FPAでは、撮像位置が同一高度に配置される。つまり、撮像位置が水平方向に並んで配置される。撮像制御部112は、飛行経路FPAにおける各撮像位置において、撮像装置220又は230に鉛直方向を撮像させる。飛行経路FPBでは、撮像位置が異なる高度に配置される。つまり、撮像位置が水平方向に並んで配置される。撮像制御部112は、飛行経路FPBにおける各撮像位置において、撮像装置220又は230に水平方向を撮像させる。尚、飛行経路FPBでは、同一高度で複数の撮像位置が設けられてもよい。飛行経路FPCでは、撮像位置が同一高度に配置される区間と、異なる高度に配置される区間と、を有する。撮像制御部112は、飛行経路FPCにおける各撮像位置において、撮像装置220又は230に鉛直方向又は水平方向を撮像させる。飛行経路FPAで撮像された撮像画像は、第1の撮像画像の一例である。飛行経路FPBで撮像された撮像画像は、第2の撮像画像の一例である。
飛行制御部115は、生成された飛行経路FPに従って、無人航空機100の飛行を制御する。無人航空機100は、飛行制御部115の制御により、飛行経路FPAを飛行してよい。無人航空機100は、飛行制御部115の制御により、飛行経路FPBを飛行してよい。無人航空機100は、飛行制御部115の制御により、飛行経路FPAと飛行経路FPBを異なるタイミングで飛行してよい。つまり、無人航空機100は、飛行経路FPAの飛行が終了した後に一度帰還し、飛行経路FPBの飛行を開始してよい。無人航空機100は、飛行制御部115の制御により、飛行経路FPAと飛行経路FPBとを連続的に飛行してよく、つまり飛行経路FPCを飛行してよい。
撮像制御部112は、飛行経路の途中に存在する撮像位置において、撮像装置220又は撮像装置230により鉛直方向又は水平方向を撮像させる。撮像装置220又は撮像装置230により撮像された撮像画像は、メモリ160に保持されてよい。UAV制御部110は、適宜(例えば3次元形状データの生成時)メモリ160を参照してよい。
形状データ処理部113は、撮像装置220,230のいずれかにより異なる撮像位置において撮像された複数の撮像画像から、オブジェクト(被写体)の立体形状(3次元形状)を示す立体情報(3次元情報)を生成してよい。複数の撮像画像に基づく3次元形状の生成手法としては、公知の方法を用いてよい。公知の方法として、例えば、MVS(Multi View Stereo)、PMVS(Patch-based MVS)、SfM(Structure from Motion)が挙げられる。MVS及びMPVSは、SfMによる3次元形状の復元結果を改善するために使用されてよい。
3次元形状の生成に用いられる複数の撮像画像には、互いに撮像範囲が一部重複する2つの撮像画像が含まれる。3次元形状の生成に用いられる撮像画像は、静止画でよい。この重複の割合(つまり撮像範囲の重複率)が高い程、同一範囲において3次元形状を生成する場合には、3次元形状の生成に用いられる撮像画像の数が多くなる。従って、形状データ処理部113は、3次元形状の復元精度を向上できる。一方、撮像範囲の重複率が低い程、同一範囲において3次元形状を生成する場合には、3次元形状の生成に用いられる撮像画像の数が少なくなる。従って、形状データ処理部113は、3次元形状の生成時間を短縮できる。
欠損領域検出部114は、3次元形状データの生成の結果、欠損領域の有無を検出する。欠損領域は、3次元空間上の領域であり、生成された3次元形状データを構成する点群データが所定数以上不在となる領域である。欠損領域は、生成された3次元形状データを構成する点群データが所定割合以上不在となる領域でもよい。欠損領域は、3次元形状データの生成のために用いた撮像画像が不足する場合に発生する。例えば、上空からの撮像装置220又は230による撮像時に、オブジェクトの一部の影となり撮像されないオブジェクトの他の一部が存在するとする。この場合、撮像範囲内における3次元空間の位置(緯度・経度・高度)毎のデータ(点群データの一例)としての画素値の情報が不足する。画素値の情報が不足する3次元空間の位置が発生すると、この位置の周辺領域における3次元形状データの復元精度が低下する。この周辺領域が欠損領域となる。
撮像制御部112は、飛行経路FPBの各撮像位置又は飛行経路FPCにおける飛行経路FPBに相当する区間の各撮像位置において、撮像装置220又は230により、欠損領域の水平方向を撮像させる。これにより、欠損領域で不足していた点群データが補充され、形状データ処理部113は、3次元形状データの復元精度を向上できる。
通信インタフェース150は、送信機50と通信する(図4参照)。通信インタフェース150は、送信機50からUAV制御部110に対する各種の命令や情報を受信する。
メモリ160は、UAV制御部110がジンバル200、回転翼機構210、撮像装置220、撮像装置230、GPS受信機240、慣性計測装置250、磁気コンパス260及び気圧高度計270を制御するのに必要なプログラム等を格納する。また、メモリ160は、UAV制御部110が、例えば、飛行経路処理部111、撮像制御部112、形状データ処理部113、欠損領域検出部114、及び飛行制御部115の実行に必要なプログラム等を格納する。メモリ160は、コンピュータ読み取り可能な記録媒体でよく、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ160は、UAV本体102の内部に設けられてよい。UAV本体102から取り外し可能に設けられてよい。
ジンバル200は、少なくとも1つの軸を中心に撮像装置220を回転可能に支持する。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸を中心に撮像装置220を回転可能に支持してよい。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置220を回転させることで、撮像装置220の撮像方向を変更してよい。
回転翼機構210は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。
撮像装置220は、所望の撮像範囲の被写体を撮像して撮像画像のデータを生成する。撮像装置220の撮像により得られた画像データは、撮像装置220が有するメモリ、又はメモリ160に格納される。
撮像装置230は、無人航空機100の周囲を撮像して撮像画像のデータを生成する。撮像装置230の画像データは、メモリ160に格納される。
GPS受信機240は、複数の航法衛星(つまり、GPS衛星)から発信された時刻及び各GPS衛星の位置(座標)を示す複数の信号を受信する。GPS受信機240は、受信された複数の信号に基づいて、GPS受信機240の位置(つまり、無人航空機100の位置)を算出する。GPS受信機240は、無人航空機100の位置情報をUAV制御部110に出力する。なお、GPS受信機240の位置情報の算出は、GPS受信機240の代わりにUAV制御部110により行われてよい。この場合、UAV制御部110には、GPS受信機240が受信した複数の信号に含まれる時刻及び各GPS衛星の位置を示す情報が入力される。
慣性計測装置250は、無人航空機100の姿勢を検出し、検出結果をUAV制御部110に出力する。慣性計測装置IMU250は、無人航空機100の姿勢として、無人航空機100の前後、左右、及び上下の3軸方向の加速度と、ピッチ軸、ロール軸、及びヨー軸の3軸方向の角速度とを検出する。
磁気コンパス260は、無人航空機100の機首の方位を検出し、検出結果をUAV制御部110に出力する。
気圧高度計270は、無人航空機100が飛行する高度を検出し、検出結果をUAV制御部110に出力する。
次に、送信機50の構成例について説明する。図5は、送信機50の外観の一例を示す斜視図である。送信機50に対する上下前後左右の方向は、図5に示す矢印の方向にそれぞれ従うとする。
送信機50は、例えば送信機50を使用する人物(以下、「操作者」という)の両手で把持された状態で使用される。送信機50は、例えば略正方形状の底面を有し、かつ高さが底面の一辺より短い略直方体(言い換えると、略箱形)の形状をした樹脂製の筐体50Bを有する。送信機50の具体的な構成は図4を参照して後述する。送信機50の筐体表面の略中央には、左制御棒53Lと右制御棒53Rとが突設して配置される。
左制御棒53L、右制御棒53Rは、それぞれ操作者による無人航空機100の移動を遠隔で制御(例えば、無人航空機100の前後移動、左右移動、上下移動、向き変更)するための操作において使用される。図5では、左制御棒53L及び右制御棒53Rは、操作者の両手からそれぞれ外力が印加されていない初期状態の位置が示されている。左制御棒53L及び右制御棒53Rは、操作者により印加された外力が解放された後、自動的に所定位置(例えば図5に示す初期位置)に復帰する。
左制御棒53Lの手前側(言い換えると、操作者側)には、送信機50の電源ボタンB1が配置される。電源ボタンB1が操作者により一度押下されると、例えば送信機50に内蔵されるバッテリ(不図示)の容量の残量がバッテリ残量表示部L2において表示される。電源ボタンB1が操作者によりもう一度押下されると、例えば送信機50の電源がオンとなり、送信機50の各部(図6参照)に電源が供給されて使用可能となる。
右制御棒53Rの手前側(言い換えると、操作者側)には、RTH(Return To Home)ボタンB2が配置される。RTHボタンB2が操作者により押下されると、送信機50は、無人航空機100に所定の位置に自動復帰させるための信号を送信する。これにより、送信機50は、無人航空機100を所定の位置(例えば無人航空機100が記憶している離陸位置)に自動的に帰還させることができる。RTHボタンB2は、例えば屋外での無人航空機100による空撮中に操作者が無人航空機100の機体を見失った場合、又は電波干渉や予期せぬトラブルに遭遇して操作不能になった場合等に利用可能である。
電源ボタンB1及びRTHボタンB2の手前側(言い換えると、操作者側)には、リモートステータス表示部L1及びバッテリ残量表示部L2が配置される。リモートステータス表示部L1は、例えばLED(Light Emission Diode)を用いて構成され、送信機50と無人航空機100との無線の接続状態を表示する。バッテリ残量表示部L2は、例えばLEDを用いて構成され、送信機50に内蔵されたバッテリ(不図示)の容量の残量を表示する。
左制御棒53L及び右制御棒53Rより後側であって、かつ送信機50の筐体50Bの後方側面から、2つのアンテナAN1,AN2が突設して配置される。アンテナAN1,AN2は、操作者の左制御棒53L及び右制御棒53Rの操作に基づき、送信機制御部61により生成された信号(つまり、無人航空機100の移動を制御するための信号)を無人航空機100に送信する。アンテナAN1,AN2は、例えば2kmの送受信範囲をカバーできる。また、アンテナAN1,AN2は、送信機50と無線接続中の無人航空機100が有する撮像装置220,230により撮像された画像、又は無人航空機100が取得した各種データが無人航空機100から送信された場合に、これらの画像又は各種データを受信できる。
表示部DPは、例えばLCD(Crystal Liquid Display)を含んで構成される。表示部DPは、各種データを表示する。表示部DPの形状、サイズ、及び配置位置は、任意であり、図5の例に限られない。
図6は、送信機50のハードウェア構成の一例を示すブロック図である。送信機50は、左制御棒53Lと、右制御棒53Rと、送信機制御部61と、無線通信部63と、電源ボタンB1と、RTHボタンB2と、操作部セットOPSと、リモートステータス表示部L1と、バッテリ残量表示部L2と、表示部DPとを含む構成である。送信機50は、通信端末の一例である。無線通信部63は、通信部の一例である。
左制御棒53Lは、例えば操作者の左手により、無人航空機100の移動を遠隔で制御するための操作に使用される。右制御棒53Rは、例えば操作者の右手により、無人航空機100の移動を遠隔で制御するための操作に使用される。無人航空機100の移動は、例えば前進する方向の移動、後進する方向の移動、左方向の移動、右方向の移動、上昇する方向の移動、下降する方向の移動、左方向に無人航空機100を回転する移動、右方向に無人航空機100を回転する移動のうちいずれか又はこれらの組み合わせであり、以下同様である。
電源ボタンB1は一度押下されると、一度押下された旨の信号が送信機制御部61に入力される。送信機制御部61は、この信号に従い、送信機50に内蔵されるバッテリ(不図示)の容量の残量をバッテリ残量表示部L2に表示する。これにより、操作者は、送信機50に内蔵されるバッテリの容量の残量を簡単に確認できる。また、電源ボタンB1は二度押下されると、二度押下された旨の信号が送信機制御部61に渡される。送信機制御部61は、この信号に従い、送信機50に内蔵されるバッテリ(不図示)に対し、送信機50内の各部への電源供給を指示する。これにより、操作者は、送信機50の電源がオンとなり、送信機50の使用を簡単に開始できる。
RTHボタンB2は押下されると、押下された旨の信号が送信機制御部61に入力される。送信機制御部61は、この信号に従い、無人航空機100に所定の位置(例えば無人航空機100の離陸位置)に自動復帰させるための信号を生成し、無線通信部63及びアンテナAN1,AN2を介して無人航空機100に送信する。これにより、操作者は、送信機50に対する簡単な操作により、無人航空機100を所定の位置に自動で復帰(帰還)させることができる。
操作部セットOPSは、複数の操作部(例えば操作部OP1,…,操作部OPn)(n:2以上の整数)を用いて構成される。操作部セットOPSは、図4に示す左制御棒53L、右制御棒53R、電源ボタンB1及びRTHボタンB2を除く他の操作部(例えば、送信機50による無人航空機100の遠隔制御を支援するための各種の操作部)により構成される。ここでいう各種の操作部とは、例えば、無人航空機100の撮像装置220を用いた静止画の撮像を指示するボタン、無人航空機100の撮像装置220を用いた動画の録画の開始及び終了を指示するボタン、無人航空機100のジンバル200(図4参照)のチルト方向の傾きを調整するダイヤル、無人航空機100のフライトモードを切り替えるボタン、無人航空機100の撮像装置220の設定を行うダイヤルが該当する。
また、操作部セットOPSは、無人航空機100の撮像間隔位置、撮像位置、又は飛行経路を生成するための入力パラメータの情報を入力するパラメータ操作部OPAを有する。パラメータ操作部OPAは、スティック、各種ボタン、各種キー、タッチパネル、等により形成されてよい。また、パラメータ操作部OPAは、左制御棒53L、右制御棒53Rでもよい。パラメータ操作部OPAにより入力パラメータに含まれる各パラメータを入力するタイミングは、同じでも異なってもよい。
入力パラメータは、飛行範囲の情報、飛行範囲の中心位置(例えば緯度・経度)の情報、飛行範囲の半径の情報、飛行高度の情報、撮像距離の情報、撮像位置間隔の情報、を含んでよい。
パラメータ操作部OPAは、緯度・経度の具体的な値又は範囲を入力することで、飛行範囲の情報、飛行範囲の半径(飛行経路の半径)の情報、飛行範囲の中心位置(例えば緯度・経度)の情報、飛行高度の情報、撮像距離の情報、撮像位置間隔の情報、の少なくとも1つを入力してよい。
リモートステータス表示部L1及びバッテリ残量表示部L2は、図5を参照して説明したので、ここでは説明を省略する。
送信機制御部61は、プロセッサ(例えばCPU、MPU又はDSP)を用いて構成される。送信機制御部61は、送信機50の各部の動作を統括して制御するための信号処理、他の各部との間のデータの入出力処理、データの演算処理及びデータの記憶処理を行う。
例えば送信機制御部61は、操作者の左制御棒53L及び右制御棒53Rの操作により、その操作により指定された無人航空機100の移動を制御するための信号を生成する。送信機制御部61は、この生成した信号を、無線通信部63及びアンテナAN1,AN2を介して、無人航空機100に送信して無人航空機100を遠隔制御する。これにより、送信機50は、無人航空機100の移動を遠隔で制御できる。
例えば送信機制御部61は、無線通信部63を介して外部サーバ等が蓄積する地図データベースの地図情報を取得する。送信機制御部61は、表示部DPを介して地図情報を表示し、パラメータ操作部OPAを介して地図情報でのタッチ操作等により、飛行範囲を選択して、飛行範囲の情報、飛行範囲の半径(飛行経路の半径)の情報、飛行範囲の中心位置の情報(例えば緯度・経度)、飛行範囲の周端の一辺の長さの情報、の少なくとも1つを取得してよい。
例えば送信機制御部61は、パラメータ操作部OPAにより入力された入力パラメータを、無線通信部63を介して無人航空機100へ送信する。入力パラメータに含まれる各パラメータの送信タイミングは、全て同じタイミングでも異なるタイミングでもよい。
送信機制御部61は、パラメータ操作部OPAにより得られた入力パラメータの情報を取得し、表示部DP及び無線通信部63へ送る。
無線通信部63は、2つのアンテナAN1,AN2と接続される。無線通信部63は、2つのアンテナAN1,AN2を介して、無人航空機100との間で所定の無線通信方式(例えばWifi(登録商標))を用いた情報やデータの送受信を行う。無線通信部63は、送信機制御部61からの入力パラメータの情報を、無人航空機100へ送信する。
表示部DPは、送信機制御部61により処理された各種データを表示してよい。表示部DPは、入力された入力パラメータの情報を表示する。従って、送信機50の操作者は、表示部DPを参照することで、入力パラメータの内容を確認できる。
尚、送信機50は、表示部DPを備える代わりに、表示端末(不図示)と有線又は無線により接続されてもよい。表示端末には、表示部DPと同様に、入力パラメータの情報が表示されてよい。表示端末は、スマートフォン、タブレット端末、PC(Personal Conputer)等でよい。また、表示端末が入力パラメータの少なくとも1つを入力し、入力パラメータを有線通信又は無線通信で送信機50へ送り、送信機50の無線通信部63が無人航空機100へ入力パラメータを送信してもよい。
次に、3次元形状推定システム10の動作例について説明する。
図7は、飛行範囲の入力例を説明するための図である。
送信機50では、パラメータ操作部OPAが、飛行範囲A1の情報を入力する。パラメータ操作部OPAは、飛行範囲A1として、地図情報M1に示された3次元形状データの生成を望む所望の範囲のユーザ入力を受け付けてよい。飛行範囲A1の情報は、所望の範囲に限らず、所定の飛行範囲でもよい。所定の飛行範囲は、例えば定期的に3次元形状データを生成して3次元形状を計測するための範囲の1つでもよい。
図8は、飛行経路FPAでの概略撮像を説明するための図である。
飛行経路処理部111は、飛行経路FPAでは、各撮像位置CPの間隔(撮像位置間隔)を、間隔d11に設定してよい。間隔d11は、オブジェクト(例えば建物)のサイズが推定可能となる程度の疎な間隔(例えば数10m間隔)である。間隔d11は、少なくとも、隣り合う撮像位置CPでの撮像範囲が一部重複する間隔に設定される。飛行経路FPAの間隔d11での各撮像位置CPでの撮像を、概略撮像と称してよい。無人航空機100は、疎な間隔で撮像することで、密な間隔で撮像するよりも撮像時間を短縮できる。無人航空機100が飛行する飛行経路の鉛直方向(地面に向かう方向)には、建物BLや山MTを含む景色が広がっていてよい。従って、建物BLや山MTは、撮像範囲に存在し、撮像対象となる。
図9は、飛行経路FPAにより得られた概略撮像に基づく3次元形状データの生成を説明するための図である。
形状データ処理部113は、飛行経路FPAの概略撮像により各撮像位置CPで得られた複数の撮像画像CI1を基に、3次元形状データSD1を生成する。3次元形状推定システム10のユーザは、3次元形状データSD1を表示等により確認することで、飛行経路FPAの鉛直方向に存在した地面の概略形状を把握できる。3次元形状推定システム10のユーザは、概略撮像に基づく3次元形状データSD1により得られる形状(概略形状)の確認により、山MTが存在することは確認可能であるが、建物BLの存在は確認できない。これは、山MTはその輪郭がなだらかであり、飛行経路FPAに従う上空から撮像しても、撮像画像CI1内に3次元形状データSD1の生成に必要な画像が足りるためである。また、これは、建物BLはその輪郭が鉛直方向に略平行となり、建物BLの上空で水平方向に無人航空機100が進行する飛行経路FPAの撮像位置CPにおいて、建物BLの側面を十分に撮像することが困難であるためである。つまり、建物BLの周辺は、欠損領域となる。よって、形状データ処理部113は、概略撮像に係る撮像画像に基づく3次元形状データSD1を生成することで、欠損領域を表現できる。3次元形状データSD1は、飛行範囲における第1の3次元形状の一例である。
図10は、欠損領域の検出を説明するための図である。
欠損領域検出部114は、生成された3次元形状データSD(SD1)において、欠損領域LAを検出する。欠損領域LAは、1つ検出されても複数検出されてもよい。欠損領域LAは、建物BLの側面において、3次元形状データSD1を生成するための画像情報、つまり3次元空間上の位置での画素値の情報が不足するために発生し得る。また、欠損領域LAは、撮像装置220又は230を視点とすると、建物BL(例えばパラボラアンテナ)の一部(例えばパラボラアンテナの反射鏡)に覆われている建物BLの他部(例えばパラボラアンテナの基台)において、3次元形状データSD1を生成するための画像情報が不足するために発生し得る。
図11は、飛行経路FPBの生成例を説明するための図である。
飛行経路処理部111は、飛行経路FPBに係る撮像距離及び撮像位置間隔を取得する。飛行経路FPBに係る撮像距離は、無人航空機100と欠損領域LAとの距離である。図11では、欠損領域LAとして建物BLの領域が示されている。飛行経路処理部111は、入力パラメータに含まれる撮像距離の情報を取得してよい。飛行経路処理部111は、入力パラメータに含まれる撮像装置220又は230の解像度の情報を取得して、解像度を基に撮像距離を算出してよい。撮像距離が短い程、欠損領域LAを被写体とした大きな撮像画像を取得できるので、形状データ処理部113は、3次元形状の推定精度を向上できる。
飛行経路FPBに係る撮像位置間隔は、欠損領域LAを異なる高度で撮像するための複数の撮像位置のうち隣り合う2つの撮像位置間の空間的な間隔(距離)である。ここでの複数の撮像位置は、鉛直方向に沿って並んで配置されてよい。飛行経路処理部111は、撮像距離及び撮像位置間隔に基づいて、撮像位置を決定してよい。撮像距離及び撮像位置間隔に基づく撮像位置の決定方法は、公知の方法でよい。撮像位置は、欠損領域LAを撮像するための位置であるので、欠損領域LAの領域外に配置されてよい。
飛行経路処理部111は、配置された各撮像位置CPを通過する飛行経路FPBを生成する。飛行経路処理部111は、欠損領域LAが複数存在する場合、1つの欠損領域LAを撮像するための各撮像位置CPを通過する飛行経路FPBを複数生成してよい。飛行経路処理部111は、欠損領域LAが複数存在する場合、各欠損領域LAを撮像するための各撮像位置CPを一度に通過する1つの飛行経路FPBを生成してよい。
飛行経路FPBは、欠損領域LAの側方を周回する飛行経路でもよい。飛行経路FPBは、複数の飛行コースを有してよい。同一の飛行コース上の各位置は、同一高度でよい。1つの飛行コースにおいて、複数の撮像位置CPを含んでよい。同一高度で複数の撮像位置CPが配置されることで、欠損領域LA周辺の同一高度での撮像画像の数が増加する。そのため、形状データ処理部113は、欠損領域LA周辺の各高度に係る3次元形状の推定精度を向上できる。
図12は、飛行経路FPCの生成例を説明するための図である。
飛行経路処理部111は、飛行経路FPCの飛行経路FPAに相当する区間では、各撮像位置CPの間隔(撮像位置間隔)を、間隔d12に設定してよい。間隔d12は、間隔d11よりも短い間隔であり、密な間隔である。よって、間隔d12は、隣り合う撮像位置CPでの撮像範囲が一部重複する間隔となる。飛行区間fpa(飛行経路FPA)の間隔d12での各撮像位置CPでの撮像を、詳細撮像と称してよい。
撮像位置間隔を密にするとは、解像度を高くするとも言える。密な間隔d12での撮像では、疎な間隔d11での撮像と比較して、撮像範囲の重複率を維持する場合、被写体との距離が近くなり、撮像位置間隔も短くなる。例えば、密な間隔d12での撮像では、疎な間隔d11(例えば20m間隔)での撮像と比較して4倍の解像度が求められる場合、撮像距離が1/4になり、間隔d12が1/4(例えば5m間隔)になる。
飛行経路処理部111は、飛行経路FPCの飛行経路FPAに相当する飛行区間fpaでの各撮像位置CPの位置情報(緯度・経度を含む)と欠損領域LA1の位置情報(緯度・経度を含む)とを比較し、欠損領域LA1の位置に1番目及び2番目に近い2つの撮像位置CPA,CPBを特定する。飛行経路処理部111は、飛行区間fpaにおける特定された撮像位置CP(CPA,CPB)の間に、飛行経路FPBに相当する飛行区間fpbを挿入する。つまり、飛行経路処理部111は、飛行経路FPAの途中に飛行経路FPBが挿入された飛行経路FPCを生成する(S16)。よって、飛行経路FPCは、無人航空機100が飛行区間fpaを飛行して欠損領域LAに接近すると、飛行区間fpbに切り替え、飛行区間fpbの飛行終了後に再度飛行区間fpaに戻る飛行経路となる。
尚、撮像位置CPA,CPBの位置は、1番目及び2番目に近い位置でなくてもよい。飛行区間fpa(飛行経路FPA)の間隔d12での各撮像位置CPでの撮像と飛行区間fpbでの各撮像位置CPでの撮像とを組み合わせて、飛行経路FPCの詳細撮像と称してもよい。
図13は、飛行経路FPCにより得られた撮像画像に基づく3次元形状データの生成例を説明するための図である。
撮像制御部112は、飛行経路FPCにおける飛行区間fpaの各撮像位置CPでは、鉛直方向を撮像させる。撮像制御部112は、飛行経路FPCにおける飛行区間fpbの各撮像位置CPでは、撮像装置220又は230を欠損領域LAに向けて水平方向を撮像させる。無人航空機100は、鉛直方向とともに欠損領域LAの水平方向を撮像することで、飛行経路FPAでの撮像では困難な欠損領域LAの水平方向等の画像を撮像できる。
形状データ処理部113は、飛行経路FPCの各撮像位置で得られた複数の撮像画像CI2を基に、3次元形状データSD(SD2)を生成する。3次元形状推定システム10のユーザは、飛行経路FPCで得られた3次元形状データを表示等により確認することで、飛行経路FPCの鉛直方向に存在した地面形状を把握できる。この形状には、例えば山Mや川等の景色の他に、ビルや巨大なパラボラアンテナ等の建物BLが含まれてよい。従って、無人航空機100は、飛行経路FPCにおける飛行区間fpaの鉛直方向に存在した地面の概略形状を表現でき、更に飛行区間fpbの水平方向に存在した欠損領域LA1の形状(例えば欠損領域LA1内の建物の形状)を表現できる。3次元形状データSD2は、飛行範囲における第2の3次元形状データの一例である。
図14は、3次元形状推定システム10の第1動作例を示すフローチャートである。
送信機50では、パラメータ操作部OPAが、飛行範囲A1の情報を入力する。
無人航空機100では、飛行経路処理部111が、通信インタフェース150を介して飛行範囲A1の情報を送信機50から受信して、飛行範囲A1の情報を取得する(S11)。飛行範囲A1の情報は、メモリ160に保持されてよい。
飛行経路処理部111は、撮像位置間隔が間隔d11である、つまり撮像位置間隔が疎な飛行経路FPA(FPA1)を生成する(S12)。飛行経路FPA1の情報は、メモリ160に保持されてよい。
撮像制御部112は、飛行経路FPA1の各撮像位置CPで、撮像装置220又は230に鉛直方向の画像を撮像させる(S13)。この撮像は、概略撮像となる。S13で得られた撮像画像CI(CI1)は、メモリ160に保持されてよい。
形状データ処理部113は、S13で得られた複数の撮像画像CI1を基に、3次元形状データSD(SD1)を生成する(S14)。3次元形状データSD1は、メモリ160に保持されてよい。
欠損領域検出部114は、生成された3次元形状データSD1において、欠損領域LA(LA1)を検出する(S15)。欠損領域検出部114は、欠損領域LA1の位置情報を取得する。欠損領域検出部114は、欠損領域LA1が存在する3次元空間上の位置(例えば緯度・経度・高度)の情報を得て、メモリ160に保持させてよい。
飛行経路処理部111は、欠損領域LA1を撮像するための飛行経路FPB(FPB1)を生成する(S16)。この飛行経路FPB1は、飛行経路FPCに含まれる飛行区間fpbとなる。生成された飛行経路FPB1(飛行区間fpb1)の情報は、メモリ160に保持されてよい。
飛行経路処理部111は、撮像位置間隔が間隔d12である、つまり撮像位置間隔が密な飛行区間fpa(fpa1)と、S16で生成された飛行区間fpb(fpb1)と、を含む飛行経路FPC(FPC1)を生成する(S17)。飛行経路FPC1は、詳細撮像のための飛行経路となる。生成された飛行経路FPCの情報は、メモリ160に保持されてよい。つまり、飛行経路FPC1は、元の飛行経路FPA1に相当する飛行区間fpa(fpa1)を含む。無人航空機100は、S13での概略撮像後に再度飛行する際、飛行区間fpa1のルートに従って、欠損領域LA1に近づくと(つまり欠損領域1との距離が所定距離以内となると)、飛行経路FPB1に相当する飛行区間fpb1に遷移し、欠損領域LA1の撮像ポイントにおいて下降する。
飛行制御部115は、飛行経路FPC1に従って無人航空機100の飛行を制御する。飛行経路FPC1の各撮像位置CPで、撮像装置220又は230に画像を撮像させる(S18)。S18で得られた撮像画像CI(CI2)は、メモリ160に保持されてよい。この撮像は、飛行経路FPC1の詳細撮像となる。尚、S18での撮像は、飛行経路FPC1の飛行区間fpa1における撮像が、密な間隔d12での撮像である詳細撮像でなく、疎な間隔d11での撮像である概略撮像でもよい。
形状データ処理部113は、S18で得られた複数の撮像画像CI2を基に、3次元形状データSD2を生成する(S19)。3次元形状データSD2は、メモリ160に保持されてよい。
3次元形状推定システム10の第1動作例によれば、無人航空機100は、飛行区間fpaと飛行区間fpbとを含む飛行経路FPCの各撮像位置で画像を撮像するので、地面が存在する鉛直方向と欠損領域LA1の水平方向とを撮像できる。よって、無人航空機100は、欠損領域LA1周辺での3次元形状データSD2を取得でき、欠損領域LA周辺での3次元形状を推定できる。また、無人航空機100は、飛行範囲A1全体での3次元形状データSD2を取得でき、飛行範囲A1全体での3次元形状を推定できる。
また、無人航空機100は、飛行経路FPA又は飛行区間fpaについて概略撮像に係る撮像位置間隔を詳細撮像に係る撮像位置間隔よりも短くすることで、概略撮像に係る撮像時間を短縮でき、飛行経路FPA1の飛行時間を短縮できる。また、無人航空機100は、概略撮像に係る撮像位置間隔を詳細撮像に係る撮像位置間隔よりも短くすることで、詳細撮像に係る撮像画像の枚数を増大でき、増大した撮像画像を3次元形状データの生成に使用することで、3次元形状の復元精度を向上できる。
図15は、飛行経路FPAでの詳細撮像を説明するための図である。
飛行経路処理部111は、飛行経路FPAでは、各撮像位置CPの間隔(撮像位置間隔)を、間隔d13に設定してよい。飛行経路処理部111は、飛行経路FPAでは、各撮像位置CPの間隔を、間隔d13に設定してよい。間隔d13は、間隔d11より短く、間隔d12と同じでよい。つまり、飛行経路処理部111は、各撮像位置CPの間隔を密な間隔に設定してよい。よって、間隔d12は、隣り合う撮像位置CPでの撮像範囲が一部重複する間隔となる。飛行経路FPAは、飛行範囲A1の全体にわたって撮像するための全体撮像に用いられてよい。
また、飛行経路処理部111は、入力パラメータに含まれる撮像装置220又は230の解像度の情報を取得し、解像度の情報を基に、各撮像位置CPの間隔d13を算出してよい。解像度の情報に基づく各撮像位置CPの間隔d13の算出方法は、公知の方法でよい。また、間隔d13の情報は、入力パラメータに含めて送信機50から受信してもよい。飛行経路FPAの間隔d13での各撮像位置CPでの撮像を、詳細撮像と称してよい。無人航空機100は、密な間隔で撮像することで、撮像画像を多数取得できる。無人航空機100が飛行する飛行経路の鉛直方向(地面に向かう方向)には、建物BLや山MTを含む景色が広がっていてよい。従って、建物BLや山MTは、撮像範囲に存在し、撮像対象となる。
図16は、飛行経路FPAにより得られた詳細撮像に基づく3次元形状データの生成を説明するための図である。
形状データ処理部113は、飛行経路FPAの詳細撮像により各撮像位置CPで得られた複数の撮像画像CI3を基に、3次元形状データSD3を生成する。3次元形状推定システム10のユーザは、3次元形状データSD3を表示等により確認することで、飛行経路FPAの鉛直方向に存在した地面の形状を把握できる。この形状には、例えば山MTや川等の景色が含まれる。これにより、無人航空機100は、撮像画像CI3を基に、欠損領域が発生する可能性はあるが、飛行範囲A1におけるおおよその3次元形状を復元できる。3次元形状データSD3は、メモリ160に保持されてよい。尚、ここでは、形状データ処理部113は、密な間隔で配置された各撮像位置CPでの撮像画像CI3に基づいて3次元形状データSD3を生成可能である。そのため、3次元形状データSD3では、山MTの輪郭は疎な概略撮像に基づく3次元形状データSD1よりも明確に表現される。しかし、密な間隔であっても、上空を水平方向に進行する飛行経路FPA3の各撮像位置CPで撮像するので、無人航空機100は、建物BL等の側面を撮像することは困難である。
図17は、複数の欠損領域LAを撮像するための飛行経路FPBを説明するための図である。
飛行経路処理部111は、配置された各撮像位置CPを通過する飛行経路FPBを生成する。図17では、欠損領域LAが複数存在しており、飛行経路処理部111は、各欠損領域LAを撮像するための各撮像位置CPを一度に通過する1つの飛行経路FPBを生成する。図17では、欠損領域LAとして建物BLの領域が示されている。この飛行経路FPBは、無人航空機100が水平方向に飛行する区間(水平区間)を含んでよいが、水平区間には撮像位置が設けられず、水平区間では撮像されない。言い換えると、飛行経路処理部111は、元の飛行経路FPA(FPA2)に従わず、欠損領域LAのみを撮像するための撮像ルートとしての飛行経路FPB(FPB2)を生成する。つまり、飛行経路処理部111は、水平方向において撮像位置CPを通過せず、欠損領域LAを撮像するための撮像位置CPを連結して飛行経路FPB(FPB2)を生成する。
図18は、欠損領域LAの撮像画像に基づく3次元形状データの生成と複数の3次元形状データの合成とを説明するための図である。
形状データ処理部113は、飛行経路FPBの各撮像位置CPで撮像された複数の撮像画像CI4に基づいて、3次元形状データSD4を生成する。飛行経路FPBでは欠損領域LAの水平方向が撮像される。従って、3次元形状推定システム10のユーザは、3次元形状データSD4に基づく表示を確認することで、欠損領域LA周辺の3次元形状(例えば欠損領域LA内の建物BLの形状)を把握できる。
形状データ処理部113は、複数の3次元形状データを合成してよい。例えば、形状データ処理部113は、飛行経路FPAにより得られた詳細撮像に基づく3次元形状データSD3と、飛行経路FPBにより得られた欠損領域LAの撮像画像に基づく3次元形状データSD4と、を合成してよい。形状データ処理部113は、複数の3次元形状データの合成では、各3次元形状データSD3,SD4の特徴点を比較して、類似の特徴点を合わせることで合成してよい。つまり、形状データ処理部113は、各3次元形状データSD3,SD4の位置合わせを実施してよい。この位置合わせは、剛体レジストレーションでよい。剛体レジストレーションでは、生成された3次元形状データSD3,SD4が形状変化せずに、位置合わせされる。
図19は、3次元形状推定システム10の第2動作例を示すフローチャートである。図19において、図14に示した処理と同様の処理を行うステップについては、同一のステップ番号を付し、その説明を省略又は簡略化する。
まず、飛行経路処理部111は、図14のS11の処理を行う。
S11の処理後、飛行経路処理部111は、撮像位置間隔が間隔d13である、つまり撮像位置間隔が密な飛行経路FPA(FPA2)を生成する(S22)。飛行経路FPA2は、全体撮像のための飛行経路でよい。飛行経路FPA2の情報は、メモリ160に保持されてよい。
撮像制御部112は、飛行経路FPA2の各撮像位置CPで、撮像装置220又は230に鉛直方向の画像を撮像させる(S22)。この撮像を全体撮像と称してもよい。S22で得られた撮像画像CI(CI3)は、メモリ160に保持されてよい。
形状データ処理部113は、S22で得られた複数の撮像画像CI3を基に、3次元形状データSD(SD3)を生成する(S23)。3次元形状データSD3は、メモリ160に保持されてよい。
欠損領域検出部114は、生成された3次元形状データSD3において、欠損領域LA(LA2)を検出する(S24)。欠損領域検出部114は、欠損領域LA2の位置情報を取得する。欠損領域検出部114は、欠損領域LA2が存在する3次元空間上の位置(例えば緯度・経度・高度)の情報を得て、メモリ160に保持させてよい。
飛行経路処理部111は、欠損領域LA2を撮像するための飛行経路FPB(FPB2)を生成する(S25)。飛行経路FPB2の情報は、メモリ160に保持されてよい。
S25の処理後、飛行制御部115は、S15で生成された飛行経路FPB2に従って、無人航空機100の飛行を制御する。撮像制御部112は、飛行経路FPB2における各撮像位置CPにおいて、欠損領域LA2に向けて水平方向に撮像装置220又は230に撮像させる(S26)。S26で得られた撮像画像CI(CI4)は、メモリ160に保持されてよい。
形状データ処理部113は、飛行経路FPB2の各撮像位置CPで撮像された複数の撮像画像CI4に基づいて、3次元形状データSD(SD4)を生成する(S27)。S27で得られた3次元形状データSD4は、メモリ160に保持されてよい。
形状データ処理部113は、S23で得られた3次元形状データSD3とS27で得られた3次元形状データSD4とを合成する(S28)。尚、S28で合成された3次元形状データをSD3+SD4とも記す。合成された3次元形状データ(SD3+SD4)は、飛行範囲における第3の3次元形状データの一例である。
3次元形状推定システム10の第2動作例によれば、無人航空機100は、欠損領域LA2周辺での3次元形状データSD4を取得でき、欠損領域LA1周辺での3次元形状を推定できる。また、無人航空機100は、飛行範囲A1全体での3次元形状データ(SD3+SD4)を取得でき、飛行範囲A1全体での3次元形状を推定できる。3次元形状推定システム10のユーザは、合成された3次元形状データ(SD3+SD4)を表示等により確認することで、飛行経路FPC1の鉛直方向に存在した地面の形状及び欠損領域LA2に含まれる建物BL等の形状を把握できる。また、無人航空機100は、全体撮像で得られた鉛直方向の撮像画像CI3を、3次元形状データの生成に利用でき、撮像画像の利用効率を向上できる。
図20は、3次元形状推定システム10の第3動作例を示すフローチャートである。図20において、図14,図19に示した処理と同様の処理を行うステップについては、同一のステップ番号を付し、その説明を省略又は簡略化する。
まず、飛行経路処理部111は、図14のS11の処理を行う。飛行経路処理部111は、図19のS21の処理を行い、飛行経路FPA(FPA3)を生成する。
飛行制御部115は、飛行経路FPA3に従って飛行を開始する。撮像制御部112は、飛行経路FPA3の各撮像位置CPで、撮像装置220又は230に鉛直方向の画像の撮像を開始させる(S31)。S31で得られた撮像画像CI(CI5)は、メモリ160に保持されてよい。
形状データ処理部113は、飛行経路FPA3に従った飛行中に、S31で得られた複数の撮像画像CI5を基に、3次元形状データSD(SD5)を生成する(S32)。形状データ処理部113は、メモリ160に蓄積された撮像画像CI5の枚数が所定枚数以上となった際に、3次元形状データSD5を生成してよい。形状データ処理部113は、S32の撮像開始から所定期間毎に、その所定期間別の複数の撮像画像CI5を基に、3次元形状データSD5を生成してよい。形状データ処理部113は、S32の撮像開始から所定期間毎に、撮像開始から累積された複数の撮像画像CI5を基に、3次元形状データSD5を生成してよい。
欠損領域検出部114は、S32で生成された3次元形状データSD5において、欠損領域LA(LA3)の有無を判定する(S33)。欠損領域LA3が存在すると判定された場合、飛行制御部115は、飛行経路FPA3から外れて、欠損領域LA3に向かって無人航空機100を飛行させる。欠損領域LA3の有無は、予め設定された飛行経路FPA3の撮像位置で判定されてよいし、一定領域の撮像が終了する撮像位置で判定されてよい。
欠損領域LA3に向かう飛行中に、飛行経路処理部111は、欠損領域LA3を撮像するための飛行経路FPB(FPB3)を生成する(S35)。尚、第3動作例では、飛行中に順次3次元形状データSD5が生成されるので、欠損領域LA3が複数存在する可能性は、第1動作例又は第2動作例と比較すると低くなる。
飛行制御部115は、飛行経路FPB3に従って無人航空機100の飛行を制御する。撮像制御部112は、飛行経路FPB2の各撮像位置CPで、欠損領域LA3に向けて水平方向に撮像装置220又は230に画像を撮像させる(S36)。S36で得られた撮像画像CI(CI6)は、メモリ160に保持されてよい。
飛行経路FPB3の各撮像位置CPでの撮像が終了し、飛行経路FPB3の飛行が終了すると、飛行制御部115は、無人航空機100を飛行経路FPA3に従った飛行に復帰させる。飛行制御部115は、飛行経路FPB3の終了地点から飛行経路FPA3に含まれる位置に最短距離で飛行して復帰させてよい。飛行経路FPB3の終了地点の位置情報は、GPS受信機240を介して取得されてよい。
無人航空機100が欠損領域LA3に係る飛行経路FPB3から元の飛行経路FPA3に復帰することで、無人航空機100は、欠損領域LA3の撮像後に所定地点に帰還することなく、連続して飛行経路FPA3を飛行できる。よって、無人航空機100は、飛行経路FPA3の各撮像位置CPでの画像の撮像を継続できる。
飛行経路FPB3から飛行経路FPA3への復帰途中に、又は飛行経路FPA3への復帰後に、形状データ処理部113は、飛行経路FPB3の各撮像位置CPで撮像された複数の撮像画像CI6に基づいて、欠損領域LA3の3次元形状データSD(SD6)を生成してよい(S37)。飛行経路FPB3では欠損領域LA3の水平方向が撮像されるので、無人航空機100は、欠損領域LA3周辺の3次元形状(例えば欠損領域LA3内の建物BLの形状)を把握できる。S37で得られた3次元形状データSD6は、メモリ160に保持されてよい。
これにより、無人航空機100は、無人航空機100の飛行中に、欠損領域LA3周辺での3次元形状データSD6を取得でき、欠損領域LA3周辺での3次元形状を推定できる。従って、無人航空機100は、帰還せずに欠損領域LA3の検出から3次元形状データSD6の生成まで行うので、無人航空機100の飛行開始から欠損領域LA3の3次元形状データSD6の取得までに要する時間を短縮でき、リアルタイム性を向上できる。
飛行制御部115は、飛行経路FPA3の復帰地点から飛行経路FPA4に従った飛行を再開する。撮像制御部112は、飛行経路FPA3の各撮像位置CPで、撮像装置220又は230に鉛直方向の画像の撮像を再開させる(S38)。S38で得られた撮像画像CI(CI7)は、メモリ160に保持されてよい。S38の処理後、UAV制御部110は、S32に進む。
撮像制御部112は、飛行経路FPA3において、飛行経路FPB3へ向かう前に撮像済みである各撮像位置では、画像を撮像させなくてよい。つまり、撮像装置220又は230は、飛行経路FPA3において、未撮像の撮像位置CPにおいて、画像を撮像すればよい。
これにより、無人航空機100は、飛行経路FPA3から飛行経路FPB3への離脱地点と飛行経路FPB3から飛行経路FPA3への復帰地点との間の撮像位置CPにおける画像の撮像を省略できる。よって、無人航空機100は、飛行経路FPA3から飛行経路FPB3への離脱地点と飛行経路FPB3から飛行経路FPA3への復帰地点との間の撮像枚数を低減でき、UAV制御部110の処理負荷を低減できる。
また、飛行経路FPB3から飛行経路FPA3への復帰途中に、又は飛行経路FPA3への復帰後に、形状データ処理部113は、飛行経路FPA3に係る3次元形状データSD(SD7)と欠損領域LA6周辺の3次元形状データSD6とを合成して、飛行範囲A1における無人航空機100により得られた撮像画像が得られた範囲での3次元形状データ(SD6+SD7)を生成してよい。3次元形状データ(SD6+SD7)は、第4の3次元形状データの一例である。
これにより、無人航空機100は、無人航空機100の飛行中に、飛行範囲A1全体での3次元形状データSD7を取得でき、飛行範囲A1全体での3次元形状を推定できる。従って、無人航空機100は、無人航空機100の飛行開始から飛行範囲A1全体での3次元形状データSD7の取得までに要する時間を短縮でき、リアルタイム性を向上できる。
また、形状データ処理部113は、2つの3次元形状データSD6,SD7を合成する代わりに、無人航空機100の飛行開始からメモリ160等に蓄積された複数の撮像画像CI5,CI6,CI7を基に、3次元形状データSD7を生成してよい。この場合、3次元形状データSDの合成が不要となる。
S34において欠損領域LA3が検出されない場合、飛行制御部115は、飛行経路FPA3の終了地点に到達したか否かを判定する(S39)。例えば、飛行制御部115は、飛行経路FPA3の終了地点の位置情報とGPS受信機240等により得られた無人航空機100が存在する位置の情報とが一致又は所定距離以内である場合、飛行経路FPA3の終了地点へ到達したと判定してよい。飛行経路FPA3の終了地点に到達していない場合、S32の処理に進む。飛行経路FPA3の終了地点に到達した場合、図20の処理を終了する。
3次元形状推定システム10の第3動作例によれば、無人航空機100は、撮像装置220又は230により得られた複数の撮像画像CIを基に、飛行中に3次元形状データSDを生成できる。無人航空機100は、通信インタフェース150を介して、生成された3次元形状データSDを、無人航空機100の飛行中に表示端末(例えば送信機50、PC、タブレット、スマートフォン)に転送してよい。表示端末のユーザは、3次元形状データSDに基づく表示データを確認することで、無人航空機100の飛行中に、欠損領域LAや無人航空機100の飛行範囲A1の3次元形状を容易且つ迅速に確認できる。
以上のように、無人航空機100は、送信機50により入力された入力パラメータを取得する。無人航空機100は、水平方向を進行する飛行経路FPAの各撮像位置CPにおいて鉛直方向を撮像した複数の撮像画像CIに基づいて、3次元形状データSDを生成する。無人航空機100は、3次元形状データSDを基に欠損領域LAを検出し、欠損領域LAを水平方向に撮像した複数の撮像画像CIに基づいて、欠損領域LA周辺の3次元形状データSDを生成する。
このように、3次元形状推定システム10及び無人航空機100は、固定経路を通りながら上空を画一的に飛行して空撮するだけでは得られない、欠損領域LAに向けて水平方向を撮像した画像を多く取得する。そのため、3次元形状推定システム10及び無人航空機100は、欠損領域LAにおける3次元復元に用いる撮像画像が増大し、欠損領域LAに含まれる建物BL等のオブジェクト周辺の3次元形状の復元精度を向上できる。
また、欠損領域LAを撮像するための飛行経路FLBを生成し、飛行経路FLBの各撮像位置CPで無人航空機100が撮像するので、欠損領域LAを撮像するために撮像者が撮像装置を把持して手動で撮像しなくて済む。よって、欠損領域LA周辺の画像の撮像を希望するユーザが、欠損領域LAの周辺まで移動して撮像する必要がなく、ユーザの利便性が向上する。また、3次元形状推定システム10及び無人航空機100は、所望の状態(例えば被写体の所望の撮像位置、被写体の所望の撮像サイズ、被写体の所望の撮像向き)の撮像画像を取得できる可能性が高くなり、手動撮像による撮像画像のばらつきを低減できる。
また、欠損領域LAの周囲において3次元空間の位置(緯度、経度、高度)のユーザ入力を必要とせずに、無人航空機100が欠損領域LAを撮像するための撮像位置及び飛行経路を生成可能であるので、ユーザの利便性が向上する。
(第2の実施形態)
第1の実施形態では、3次元形状データを生成するための各種処理(例えば、飛行経路の生成、欠損領域の検出、3次元形状データの生成)を無人航空機が実施することを例示した。第2の実施形態では3次元形状データを生成するための各種処理を無人航空機以外の機器(例えば送信機)が実施することを例示する。
図21は、第2の実施形態における3次元形状推定システム10Aの構成例を示す模式図である。3次元形状推定システム10Aは、無人航空機100A及び送信機50Aを備える。無人航空機100A及び送信機50Aは、有線通信又は無線通信(例えば無線LAN、Bluetooth(登録商標))により通信可能である。第2の実施形態において、第1の実施形態と同様の事項については、説明を省略又は簡略化する。
図22は、送信機50Aのハードウェア構成の一例を示すブロック図である。送信機50Aは、送信機50と比較すると、送信機制御部61の代わりに送信機制御部61Aを備える。図22の送信機50Aにおいて、図6の送信機50と同様の構成については、同一の符号を付し、説明を省略又は簡略化する。
送信機制御部61Aは、送信機制御部61の機能に加え、飛行経路の生成に関する処理を行う飛行経路処理部65としての機能、3次元形状データの生成に関する処理を行う形状データ処理部66としての機能、及び欠損領域の検出に関する処理を行う欠損領域検出部67としての機能を含む。飛行経路処理部65は、第1の実施形態における無人航空機100のUAV制御部110の飛行経路処理部111と同様である。形状データ処理部66は、第1の実施形態における無人航空機100のUAV制御部110の形状データ処理部113と同様である。欠損領域検出部67は、第1の実施形態における無人航空機100のUAV制御部110の欠損領域検出部67と同様である。
飛行経路処理部65は、パラメータ操作部OPAに入力された入力パラメータを受け取る。飛行経路処理部65は、入力パラメータを必要に応じてメモリ64に保持させる。飛行経路処理部65は、必要に応じて(例えば撮影位置の決定時、飛行経路の生成時)にメモリ64から入力パラメータの少なくとも一部を読み込む。
メモリ64は、送信機50A内の各部を制御するのに必要なプログラム等を格納する。メモリ64は、送信機制御部61Aが、飛行経路処理部65や形状データ処理部66や欠損領域検出部67の実行に必要なプログラム等を格納する。メモリ64は、コンピュータ読み取り可能な記録媒体でよく、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ64は、送信機50Aの内部に設けられてよい。送信機50Aから取り外し可能に設けられてよい。
飛行経路処理部65は、第1の実施形態の飛行経路処理部111と同様の方法で、撮像位置CPの決定、飛行経路FPA,FPB,FPCの生成、等をしてよい。飛行経路処理部65は、無線通信部63を介して、決定された撮像位置の情報及び飛行経路の情報を無人航空機100Aへ送信してよい。
形状データ処理部66は、無線通信部63を介して、無人航空機100Aにより飛行経路の各撮像位置で撮像された撮像画像を受信して取得してよい。受信された撮像画像は、メモリ64に保持されてよい。形状データ処理部66は、取得された複数の撮像画像を基に、3次元形状データを生成してよい。生成された3次元形状データは、メモリ64に保持されてよい。
欠損領域検出部67は、3次元形状データにおいて欠損領域を検出する。
図23は、無人航空機100Aのハードウェア構成の一例を示すブロック図である。無人航空機100Aは、無人航空機100と比較すると、UAV制御部110の代わりにUAV制御部110Aを備える。UAV制御部110Aは、撮像制御部112及び飛行制御部115を備えるが、飛行経路処理部111、形状データ処理部113及び欠損領域検出部114を備えない。図23の無人航空機100Aにおいて、図4の無人航空機100と同様の構成については、同一の符号を付し、その説明を省略又は簡略化する。
次に、3次元形状推定システム10Aの動作例について説明する。
3次元形状推定システム10Aでは、送信機50Aのパラメータ操作部OPAが、入力パラメータを入力する。飛行経路処理部65が、入力パラメータを用いて、撮像位置を決定し、撮像位置を通過する飛行経路(例えば飛行経路FPA)を生成する。無線通信部63は、撮像位置の情報と飛行経路の情報とを無人航空機100Aへ送信する。
無人航空機100Aでは、UAV制御部110Aが、通信インタフェース150を介して、決定された撮像位置の情報及び生成された飛行経路の情報を送信機50Aから受信等により取得し、メモリ160に保持させる。飛行制御部115が、取得された飛行経路に従って飛行制御する。撮像制御部112は、飛行経路における撮像位置(空撮位置)(Waypoint)で、撮像装置220又は230に画像(空撮画像)を撮像させる。通信インタフェース150は、撮像画像を送信機50Aに送信する。
送信機50Aでは、無線通信部63が撮像画像を受信すると、形状データ処理部66が、複数の撮像画像を基に3次元形状データを生成する。欠損領域検出部67は、3次元形状データにおいて欠損領域を検出する。飛行経路処理部65は、欠損領域を撮像するための飛行経路FPB又は飛行区間fpbを含む飛行経路を生成する。無線通信部63は、生成された飛行経路の情報と飛行経路上の撮像位置の情報とを無人航空機100Aへ送信する。
無人航空機100Aでは、UAV制御部110Aが、通信インタフェース150を介して、撮像位置の情報及び飛行経路の情報を送信機50Aから受信等により取得し、メモリ160に保持させる。飛行制御部115が、取得された飛行経路FPB又は飛行区間fpbを含む飛行経路に従って飛行制御する。撮像制御部112が、飛行経路における欠損領域の側方で、撮像装置220又は230に欠損領域に向けて水平方向に撮像させる。通信インタフェース150が、撮像画像を送信機50Aに送信する。
送信機50Aでは、無線通信部63が撮像画像を受信すると、形状データ処理部66が、複数の撮像画像を基に3次元形状データを生成する。これにより、形状データ処理部66は、欠損領域周辺のおける撮像画像を多数用いて、3次元形状データを生成できる。
このように、3次元形状推定システム10A及び送信機50Aは、固定経路を通りながら上空を画一的に飛行して空撮するだけでは得られない、欠損領域LAに向けて水平方向を撮像した画像を多く取得する。そのため、3次元形状推定システム10A及び送信機50Aは、欠損領域LAにおける3次元復元に用いる撮像画像が増大し、欠損領域LAの3次元形状の復元精度を向上できる。
また、欠損領域LAを撮像するための飛行経路FLBを生成し、飛行経路FLBの各撮像位置CPで無人航空機100Aが撮像するので、欠損領域LAを撮像するために撮像者が撮像装置を把持して手動で撮像しなくて済む。よって、欠損領域LA周辺の画像の撮像を希望するユーザが、欠損領域LAの周辺まで移動して撮像する必要がなく、ユーザの利便性が向上する。また、3次元形状推定システム10A及び送信機50Aは、所望の状態(例えば被写体の所望の撮像位置、被写体の所望の撮像サイズ、被写体の所望の撮像向き)の撮像画像を取得できる可能性が高くなり、手動撮像による撮像画像のばらつきを低減できる。
また、欠損領域LAの周囲において3次元空間の位置(緯度、経度、高度)のユーザ入力を必要とせずに、送信機50Aが欠損領域LAを撮像するための撮像位置及び飛行経路を生成可能であるので、ユーザの利便性が向上する。
(第3の実施形態)
第2の実施形態では、3次元形状データを生成するための各種処理(例えば、飛行経路の生成、欠損領域の検出、3次元形状データの生成)を送信機が実施することを例示した。第3の実施形態では、3次元形状データを生成するための各種処理を送信機以外の通信端末(例えばPC)が実施する。
図24は、第3の実施形態における3次元形状推定システム10Bの構成例を示す模式図である。3次元形状推定システム10Bは、無人航空機100A及びPC70を含む。無人航空機100A及びPC70は、有線通信又は無線通信(例えば無線LAN、Bluetooth(登録商標))により通信可能である。
PC70は、通信デバイス、メモリ、プロセッサ、入力デバイス、及びディスプレイを備えてよい。PC70は、第2の実施形態の送信機50Aが備えるパラメータ操作部OPA、飛行経路処理部65、形状データ処理部66、及び欠損領域検出部67の機能を有してよい。PC70には、3次元形状推定方法を実現するためのプログラム(アプリケーション)がインストールされてよい。
3次元形状推定システム10B及びPC70によれば、送信機50Aを用いずに、汎用性の高いPC70を用いて、欠損領域となり易いオブジェクト周辺の3次元形状の推定精度を容易に生成できる。
以上、本発明を実施形態を用いて説明したが、本発明の技術的範囲は上述した実施形態に記載の範囲には限定されない。上述した実施形態に、多様な変更又は改良を加えることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載からも明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現可能である。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「先ず、」、「次に」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
第1〜第3の実施形態では、飛行体として無人航空機100を例示したが、人が搭乗した有人航空機を自動飛行させたものでもよい。
第1〜第3の実施形態では、被写体は、地上に建造されたオブジェクト以外でもよく、例えば海上に建造されたオブジェクトでもよい。
10,10A,10B 3次元形状推定システム
50,50A 送信機
50B 筐体
53L 左制御棒
53R 右制御棒
61 送信機制御部
63 無線通信部
64 メモリ
65 飛行経路処理部
66 形状データ処理部
67 欠損領域検出部
70 PC
100,100A 無人航空機
102 UAV本体
110,110A UAV制御部
111 飛行経路処理部
112 撮像制御部
113 形状データ処理部
114 欠損領域検出部
115 飛行制御部
150 通信インタフェース
160 メモリ
200 ジンバル
210 回転翼機構
220,230 撮像装置
240 GPS受信機
250 慣性計測装置
260 磁気コンパス
270 気圧高度計
A1 飛行範囲
AN1,AN2 アンテナ
B1 電源ボタン
B2 RTHボタン
BL 建物
CI,CI1,CI2,CI3,CI4 撮像画像
CP 撮像位置
DP 表示部
FPA,FPB,FPC 飛行経路
fpa、fpb 飛行区間
L1 リモートステータス表示部
L2 バッテリ残量表示部
LA 欠損領域
M1 地図情報
MT 山
OPA パラメータ操作部
OPS 操作部セット
SD,SD1,SD2,SD3,SD4 3次元形状データ

Claims (46)

  1. 飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定方法であって、
    複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する段階と、
    前記第1の3次元形状データによる欠損領域を検出する段階と、
    前記欠損領域を撮像するための第1の飛行経路を生成する段階と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する段階と、
    複数の第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する段階と、
    を含む3次元形状推定方法。
  2. 前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成する段階と、
    前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する段階と、
    を更に含む、請求項1に記載の3次元形状推定方法。
  3. 前記第2の飛行経路は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための飛行経路であり、
    前記第1の撮像画像は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を撮像して取得された画像である、
    請求項2に記載の3次元形状推定方法。
  4. 前記第1の飛行経路は、前記欠損領域を異なる高度で撮像するための飛行経路であり、
    前記第2の撮像画像は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて撮像して取得された画像である、
    請求項2または3に記載の3次元形状推定方法。
  5. 前記欠損領域の位置情報に基づいて前記第2の飛行経路に前記第1の飛行経路を挿入して、第3の飛行経路を生成する段階と、
    前記第3の飛行経路において、前記飛行体により鉛直方向と前記欠損領域の水平方向とを複数撮像して、複数の前記第1の撮像画像と複数の前記第2の撮像画像とを取得する段階と、
    前記第1の撮像画像と前記第2の撮像画像とに基づいて、前記飛行範囲における第2の3次元形状データを生成する段階と、
    を更に含む、請求項2〜4のいずれか1項に記載の3次元形状推定方法。
  6. 前記飛行体が前記第2の飛行経路の飛行後に前記第3の飛行経路を飛行する段階と、
    前記第2の飛行経路では第1の撮像位置間隔で撮像する段階と、
    前記第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像する段階と、
    を更に含む、請求項5に記載の3次元形状推定方法。
  7. 前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第3の3次元形状データを生成する段階、を更に含む、請求項1〜4のいずれか1項に記載の3次元形状推定方法。
  8. 飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定方法であって、
    前記飛行体の飛行中に、複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する段階と、
    前記飛行中に、前記第1の3次元形状データによる欠損領域の有無を判定する段階と、
    前記欠損領域が存在すると判定された場合、前記飛行体を前記欠損領域の方向へ移動させる段階と、
    前記飛行中に、前記欠損領域を撮像するための第1の飛行経路を生成する段階と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する段階と、
    複数の前記第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する段階と、
    を含む3次元形状推定方法。
  9. 前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成する段階と、
    前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する段階と、
    を更に含む、請求項8に記載の3次元形状推定方法。
  10. 前記第2の飛行経路は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための飛行経路であり、
    前記第1の撮像画像は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を撮像して取得された画像である、
    請求項9に記載の3次元形状推定方法。
  11. 前記第1の飛行経路は、前記欠損領域を異なる高度で撮像するための飛行経路であり、
    前記第2の撮像画像は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて撮像して取得された画像である、
    請求項9または10に記載の3次元形状推定方法。
  12. 前記第2の撮像画像の取得後、前記飛行体が前記第2の飛行経路に従う飛行に復帰する段階、を更に含む、請求項9〜11のいずれか1項に記載の3次元形状推定方法。
  13. 前記第2の飛行経路において未撮像の撮像位置において、前記第1の撮像画像を取得する段階、を更に含む、請求項12に記載の3次元形状推定方法。
  14. 前記飛行中に、前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第4の3次元形状データを生成する段階、を更に含む、請求項8〜13のいずれか1項に記載の3次元形状推定方法。
  15. 飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定システムであって、
    複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、
    前記第1の3次元形状データによる欠損領域を検出する検出部と、
    前記欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、
    を備え、
    前記形状データ生成部は、複数の前記第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する、3次元形状推定システム。
  16. 前記経路生成部は、前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項15に記載の3次元形状推定システム。
  17. 前記経路生成部は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための前記第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項16に記載の3次元形状推定システム。
  18. 前記経路生成部は、前記欠損領域を異なる高度で撮像するための前記第1の飛行経路を生成し、
    前記撮像部は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の前記第2の撮像画像を取得する、
    請求項16または17に記載の3次元形状推定システム。
  19. 前記経路生成部は、前記欠損領域の位置情報に基づいて前記第2の飛行経路に前記第1の飛行経路を挿入して、第3の飛行経路を生成し、
    前記撮像部は、前記第3の飛行経路において、鉛直方向と前記欠損領域の水平方向とを複数撮像して、複数の前記第1の撮像画像と複数の前記第2の撮像画像とを取得し、
    前記形状データ生成部は、前記第1の撮像画像と前記第2の撮像画像とに基づいて、前記飛行範囲における第2の3次元形状データを生成する、
    請求項16〜18のいずれか1項に記載の3次元形状推定システム。
  20. 飛行制御部を更に備え、
    前記飛行制御部は、前記飛行体に、前記第2の飛行経路の飛行後に前記第3の飛行経路を飛行させ、
    前記撮像部は、前記第2の飛行経路では第1の撮像位置間隔で撮像し、前記第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像する、
    請求項19に記載の3次元形状推定システム。
  21. 前記形状データ生成部は、前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第3の3次元形状データを生成する、
    請求項15〜18のいずれか1項に記載の3次元形状推定システム。
  22. 飛行体により撮像された画像に基づいて3次元形状を推定する3次元形状推定システムであって、
    前記飛行体の飛行を制御する飛行制御部と、
    前記飛行体の飛行中に、複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、
    前記飛行中に、前記第1の3次元形状データによる欠損領域の有無を判定する検出部と、
    前記飛行中に、前記欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、
    を備え、
    前記飛行制御部は、前記欠損領域が存在すると判定された場合、前記飛行体を前記欠損領域の方向へ移動させ、
    前記形状データ生成部は、複数の前記第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する、3次元形状推定システム。
  23. 前記経路生成部は、前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項22に記載の3次元形状推定システム。
  24. 前記経路生成部は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための前記第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項23に記載の3次元形状推定システム。
  25. 前記経路生成部は、前記欠損領域を異なる高度で撮像するための前記第1の飛行経路を生成し、
    前記撮像部は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の前記第2の撮像画像を取得する、
    請求項23または24に記載の3次元形状推定システム。
  26. 前記飛行制御部は、前記第2の撮像画像の取得後、前記飛行体に、前記第2の飛行経路に従う飛行に復帰させる、
    請求項23〜25のいずれか1項に記載の3次元形状推定システム。
  27. 前記撮像部は、前記第2の飛行経路において未撮像の撮像位置において、前記第1の撮像画像を取得する、
    請求項26に記載の3次元形状推定システム。
  28. 前記形状データ生成部は、前記飛行中に、前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第4の3次元形状データを生成する、
    請求項22〜27のいずれか1項に記載の3次元形状推定システム。
  29. 前記飛行体と前記飛行体との間で通信する通信端末とを備え、
    前記飛行体は、第1の通信部と、前記経路生成部と、前記撮像部と、前記形状データ生成部と、前記検出部と、を備え、
    前記通信端末は、操作部と、第2の通信部を備える、
    請求項15〜28のいずれか1項に記載の3次元形状推定システム。
  30. 前記飛行体と前記飛行体との間で通信する通信端末とを備え、
    前記飛行体は、第1の通信部と、前記撮像部と、を備え、
    前記通信端末は、操作部と、第2の通信部、前記経路生成部と、前記形状データ生成部と、前記検出部と、を備える、
    請求項15〜28のいずれか1項に記載の3次元形状推定システム。
  31. 画像を撮像して3次元形状を推定する飛行体であって、
    複数の第1の撮像画像に基づいて、飛行範囲における第1の3次元形状データを生成する形状データ生成部と、
    前記第1の3次元形状データによる欠損領域を検出する検出部と、
    前記欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、
    を備え、
    前記形状データ生成部は、複数の前記第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する、飛行体。
  32. 前記経路生成部は、前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項31に記載の飛行体。
  33. 前記経路生成部は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための前記第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項32に記載の飛行体。
  34. 前記経路生成部は、前記欠損領域を異なる高度で撮像するための前記第1の飛行経路を生成し、
    前記撮像部は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の前記第2の撮像画像を取得する、
    請求項32または33に記載の飛行体。
  35. 前記経路生成部は、前記欠損領域の位置情報に基づいて前記第2の飛行経路に前記第1の飛行経路を挿入して、第3の飛行経路を生成し、
    前記撮像部は、前記第3の飛行経路において、鉛直方向と前記欠損領域の水平方向とを複数撮像して、複数の前記第1の撮像画像と複数の前記第2の撮像画像とを取得し、
    前記形状データ生成部は、前記第1の撮像画像と前記第2の撮像画像とに基づいて、前記飛行範囲における第2の3次元形状データを生成する、
    請求項32〜34のいずれか1項に記載の飛行体。
  36. 飛行制御部を更に備え、
    前記飛行制御部は、前記飛行体に、前記第2の飛行経路の飛行後に前記第3の飛行経路を飛行させ、
    前記撮像部は、前記第2の飛行経路では第1の撮像位置間隔で撮像し、前記第3の飛行経路では第1の撮像位置間隔よりも短い第2の撮像位置間隔で撮像する、
    請求項35に記載の飛行体。
  37. 前記形状データ生成部は、前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第3の3次元形状データを生成する、
    請求項31〜34のいずれか1項に記載の飛行体。
  38. 画像を撮像して3次元形状を推定する飛行体であって、
    当該飛行体の飛行を制御する飛行制御部と、
    当該飛行体の飛行中に、複数の第1の撮像画像に基づいて、当該飛行体の飛行範囲における第1の3次元形状データを生成する形状データ生成部と、
    前記飛行中に、前記第1の3次元形状データによる欠損領域の有無を判定する検出部と、
    前記飛行中に、前記欠損領域を撮像するための第1の飛行経路を生成する経路生成部と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する撮像部と、
    を備え、
    前記飛行制御部は、前記欠損領域が存在すると判定された場合、当該飛行体を前記欠損領域の方向へ移動させ、
    前記形状データ生成部は、複数の前記第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する、飛行体。
  39. 前記経路生成部は、前記飛行体の飛行範囲において前記飛行体により撮像するための第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項38に記載の飛行体。
  40. 前記経路生成部は、前記飛行体の前記飛行範囲において前記飛行体により鉛直方向を撮像するための前記第2の飛行経路を生成し、
    前記撮像部は、前記第2の飛行経路において、撮像範囲を一部重複させて鉛直方向を複数撮像して、複数の前記第1の撮像画像を取得する、
    請求項39に記載の飛行体。
  41. 前記経路生成部は、前記欠損領域を異なる高度で撮像するための前記第1の飛行経路を生成し、
    前記撮像部は、前記第1の飛行経路において、前記欠損領域に向けて水平方向を異なる高度で、撮像範囲を一部重複させて複数撮像して、複数の前記第2の撮像画像を取得する、
    請求項39または40に記載の飛行体。
  42. 前記飛行制御部は、前記第2の撮像画像の取得後、前記飛行体に、前記第2の飛行経路に従う飛行に復帰させる、
    請求項39〜41のいずれか1項に記載の飛行体。
  43. 前記撮像部は、前記第2の飛行経路において未撮像の撮像位置において、前記第1の撮像画像を取得する、
    請求項42に記載の飛行体。
  44. 前記形状データ生成部は、前記飛行中に、前記飛行範囲における第1の3次元形状データと前記欠損領域における3次元形状データとを合成して、前記飛行範囲における第4の3次元形状データを生成する、
    請求項38〜43のいずれか1項に記載の飛行体。
  45. 飛行体により撮像された画像に基づいて3次元形状を推定するコンピュータに、
    複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する手順と、
    前記第1の3次元形状データによる欠損領域を検出する手順と、
    前記欠損領域を撮像するための第1の飛行経路を生成する手順と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する手順と、
    複数の第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する手順と、
    を実行させるためのプログラム。
  46. 飛行体により撮像された画像に基づいて3次元形状を推定するコンピュータに、
    複数の第1の撮像画像に基づいて、前記飛行体の飛行範囲における第1の3次元形状データを生成する手順と、
    前記第1の3次元形状データによる欠損領域を検出する手順と、
    前記欠損領域を撮像するための第1の飛行経路を生成する手順と、
    前記第1の飛行経路において、前記欠損領域に向けて水平方向を、撮像範囲を一部重複させて複数撮像して、複数の第2の撮像画像を取得する手順と、
    複数の第2の撮像画像に基づいて、前記欠損領域における3次元形状データを生成する手順と、
    を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2018545735A 2016-10-17 2016-10-17 3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体 Expired - Fee Related JP6688901B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/080751 WO2018073878A1 (ja) 2016-10-17 2016-10-17 3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体

Publications (2)

Publication Number Publication Date
JPWO2018073878A1 JPWO2018073878A1 (ja) 2019-08-08
JP6688901B2 true JP6688901B2 (ja) 2020-04-28

Family

ID=62018446

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018545735A Expired - Fee Related JP6688901B2 (ja) 2016-10-17 2016-10-17 3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体

Country Status (3)

Country Link
US (1) US11122209B2 (ja)
JP (1) JP6688901B2 (ja)
WO (1) WO2018073878A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018023736A1 (en) * 2016-08-05 2018-02-08 SZ DJI Technology Co., Ltd. System and method for positioning a movable object
JP7017998B2 (ja) * 2018-09-13 2022-02-09 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 情報処理装置、飛行経路生成方法、プログラム、及び記録媒体
JP7377651B2 (ja) * 2019-09-02 2023-11-10 株式会社野村総合研究所 コンピュータプログラム
US20210157004A1 (en) * 2019-11-26 2021-05-27 Universal City Studios Llc Autonomous scanning and mapping system
CN112097744B (zh) * 2020-09-16 2022-08-30 上海遥程信息科技有限公司 一种竖立面的图像扫描方法、装置、设备和存储介质
EP4535812A1 (en) * 2022-05-31 2025-04-09 Sony Group Corporation Imaging instruction method, moving object, and program

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6249600B1 (en) * 1997-11-07 2001-06-19 The Trustees Of Columbia University In The City Of New York System and method for generation of a three-dimensional solid model
US6653970B1 (en) * 2002-11-12 2003-11-25 The United States Of America As Represented By The Secretary Of The Air Force Multi-static UAV radar system for mode-adaptive propagation channels with obscured targets
JP4588369B2 (ja) * 2004-06-18 2010-12-01 株式会社トプコン 撮影装置及び撮影方法
US7778491B2 (en) * 2006-04-10 2010-08-17 Microsoft Corporation Oblique image stitching
JP4880069B2 (ja) * 2008-04-23 2012-02-22 株式会社パスコ 建物屋根輪郭認識装置、建物屋根輪郭認識方法、及び建物屋根輪郭認識プログラム
JP4988673B2 (ja) 2008-09-01 2012-08-01 株式会社日立製作所 撮影計画作成システム
US8543265B2 (en) * 2008-10-20 2013-09-24 Honeywell International Inc. Systems and methods for unmanned aerial vehicle navigation
US20150054826A1 (en) * 2009-03-19 2015-02-26 Real Time Companies Augmented reality system for identifying force capability and occluded terrain
WO2012044297A1 (en) * 2010-09-30 2012-04-05 Empire Technology Development Llc Automatic flight control for uav based solid modeling
US8463024B1 (en) * 2012-05-25 2013-06-11 Google Inc. Combining narrow-baseline and wide-baseline stereo for three-dimensional modeling
US9075415B2 (en) * 2013-03-11 2015-07-07 Airphrame, Inc. Unmanned aerial vehicle and methods for controlling same
CA3161755A1 (en) * 2014-01-10 2015-07-16 Pictometry International Corp. Unmanned aircraft structure evaluation system and method
DE102014201238A1 (de) * 2014-01-23 2015-07-23 Siemens Aktiengesellschaft Verfahren und System zur Erstellung einer Vektorkarte
JP6326237B2 (ja) * 2014-01-31 2018-05-16 株式会社トプコン 測定システム
US20150243073A1 (en) * 2014-02-27 2015-08-27 Here Global B.V. Systems and Methods for Refining an Aerial Image
US9688403B2 (en) * 2014-05-20 2017-06-27 Infatics, Inc. Method for adaptive mission execution on an unmanned aerial vehicle
US9641736B2 (en) * 2014-06-20 2017-05-02 nearmap australia pty ltd. Wide-area aerial camera systems
WO2016057098A2 (en) * 2014-07-15 2016-04-14 Richard Postrel System and method for automated traffic management of intelligent unmanned aerial vehicles
US9618934B2 (en) * 2014-09-12 2017-04-11 4D Tech Solutions, Inc. Unmanned aerial vehicle 3D mapping system
JP6393912B2 (ja) * 2014-10-24 2018-09-26 株式会社amuse oneself 測量システム、設定装置、設定プログラム及び記録媒体
IL238318B (en) * 2015-04-16 2020-09-30 Israel Aerospace Ind Ltd Aircraft control interface without a pilot
US9715235B2 (en) * 2015-06-05 2017-07-25 The Boeing Company Autonomous unmanned aerial vehicle decision-making
US20170041557A1 (en) * 2015-08-04 2017-02-09 DataFoxTrot, LLC Generation of data-enriched video feeds
US10008123B2 (en) * 2015-10-20 2018-06-26 Skycatch, Inc. Generating a mission plan for capturing aerial images with an unmanned aerial vehicle
US9508263B1 (en) * 2015-10-20 2016-11-29 Skycatch, Inc. Generating a mission plan for capturing aerial images with an unmanned aerial vehicle
AU2016359163A1 (en) * 2015-11-23 2018-07-05 Kespry Inc. Autonomous mission action alteration
DK3398022T3 (da) * 2016-02-26 2021-02-01 Sz Dji Technology Co Ltd Systemer og fremgangsmåder til tilpasning af uav-bane
US11029352B2 (en) * 2016-05-18 2021-06-08 Skydio, Inc. Unmanned aerial vehicle electromagnetic avoidance and utilization system
US20170345317A1 (en) * 2016-05-24 2017-11-30 Sharper Shape Oy Dynamic routing based on captured data quality
EP3306344A1 (en) * 2016-10-07 2018-04-11 Leica Geosystems AG Flying sensor
CN109564433A (zh) * 2016-11-02 2019-04-02 深圳市大疆创新科技有限公司 用于可移动物体的高度控制的系统和方法
US10521664B2 (en) * 2016-11-04 2019-12-31 Loveland Innovations, LLC Systems and methods for autonomous perpendicular imaging of test squares
US9734397B1 (en) * 2016-11-04 2017-08-15 Loveland Innovations, LLC Systems and methods for autonomous imaging and structural analysis
US9823658B1 (en) * 2016-11-04 2017-11-21 Loveland Innovations, LLC Systems and methods for adaptive property analysis via autonomous vehicles
US10621780B2 (en) * 2017-02-02 2020-04-14 Infatics, Inc. System and methods for improved aerial mapping with aerial vehicles
JP6854195B2 (ja) * 2017-06-09 2021-04-07 株式会社トプコン 画像処理装置、画像処理方法および画像処理用プログラム
US10872534B2 (en) * 2017-11-01 2020-12-22 Kespry, Inc. Aerial vehicle inspection path planning
US10373505B2 (en) * 2017-12-05 2019-08-06 Autel Robotics Co., Ltd. Method and system for fast upload of autonomous mission plans in unmanned aerial vehicles

Also Published As

Publication number Publication date
US11122209B2 (en) 2021-09-14
US20190253635A1 (en) 2019-08-15
JPWO2018073878A1 (ja) 2019-08-08
WO2018073878A1 (ja) 2018-04-26

Similar Documents

Publication Publication Date Title
JP6803919B2 (ja) 飛行経路生成方法、飛行経路生成システム、飛行体、プログラム、及び記録媒体
JP6878567B2 (ja) 3次元形状推定方法、飛行体、モバイルプラットフォーム、プログラム及び記録媒体
JP6688901B2 (ja) 3次元形状推定方法、3次元形状推定システム、飛行体、プログラム、及び記録媒体
JP6765512B2 (ja) 飛行経路生成方法、情報処理装置、飛行経路生成システム、プログラム及び記録媒体
US20190318636A1 (en) Flight route display method, mobile platform, flight system, recording medium and program
US11513514B2 (en) Location processing device, flight vehicle, location processing system, flight system, location processing method, flight control method, program and recording medium
JP5748561B2 (ja) 航空写真撮像方法及び航空写真撮像装置
JPWO2018198634A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム、画像処理装置および画像処理システム
US11082639B2 (en) Image display method, image display system, flying object, program, and recording medium
CN113875222B (zh) 拍摄控制方法和装置、无人机及计算机可读存储介质
JP6940459B2 (ja) 情報処理装置、撮影制御方法、プログラム及び記録媒体
JP6329219B2 (ja) 操作端末、及び移動体
CN114586335A (zh) 图像处理装置、图像处理方法、程序及记录介质
CN110785724B (zh) 发送器、飞行体、飞行控制指示方法、飞行控制方法、程序及存储介质
JP6997170B2 (ja) 形状生成方法、画像取得方法、モバイルプラットフォーム、飛行体、プログラム及び記録媒体
JP2020095519A (ja) 形状推定装置、形状推定方法、プログラム、及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200310

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200406

R150 Certificate of patent or registration of utility model

Ref document number: 6688901

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees