[go: up one dir, main page]

JP7175941B2 - IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM - Google Patents

IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM Download PDF

Info

Publication number
JP7175941B2
JP7175941B2 JP2020128008A JP2020128008A JP7175941B2 JP 7175941 B2 JP7175941 B2 JP 7175941B2 JP 2020128008 A JP2020128008 A JP 2020128008A JP 2020128008 A JP2020128008 A JP 2020128008A JP 7175941 B2 JP7175941 B2 JP 7175941B2
Authority
JP
Japan
Prior art keywords
moving image
frame rate
image
setting
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020128008A
Other languages
Japanese (ja)
Other versions
JP2020182245A (en
Inventor
彬子 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020128008A priority Critical patent/JP7175941B2/en
Publication of JP2020182245A publication Critical patent/JP2020182245A/en
Application granted granted Critical
Publication of JP7175941B2 publication Critical patent/JP7175941B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、画像処理装置、画像処理装置の制御方法、プログラムに関する。 The present invention relates to an image processing apparatus, an image processing apparatus control method, and a program.

高速なフレームレートを設定して被写体を撮像することで取得した動画像(高速動画)を、撮像時よりも低速なフレームレートで再生することにより、所謂スローモーション再生を行うことができる撮像装置が知られている。高速動画は、低速なフレームレートで再生することで被写体やシーンの変化を正確、かつ、通常時よりも強調して記録することが出来るため、被写体の動きやシーンが短時間で大きく変化する場合などに有効である。
一方、被写体やシーンの変化に合わせてAE(AutoExposure)/AF(AutoFocus)/WB(WhiteBlance)等の処理を実行すると、当該処理の過程がスローモーションで再生されるため、ユーザに違和感を与えてしまう。
特許文献1では、撮像される被写体の動きに応じて動画記録時のフレームレートを切替え、高速なフレームレートで撮像を行う際にはAE/WBの追従を制限する技術を開示している。また、特許文献2では、撮像時と再生時のフレームレートを鑑みて、AE/WBの追従速度を変える技術を開示している。
2. Description of the Related Art There is an imaging apparatus capable of performing so-called slow-motion playback by reproducing a moving image (high-speed moving image) obtained by imaging a subject with a high frame rate set, at a lower frame rate than when the image was captured. Are known. By playing back high-speed movies at a low frame rate, changes in the subject and scene can be recorded accurately and with more emphasis than normal recording. etc.
On the other hand, when processing such as AE (AutoExposure)/AF (AutoFocus)/WB (WhiteBlance) is executed in accordance with changes in the subject or scene, the processing is played back in slow motion, giving the user a sense of discomfort. put away.
Japanese Patent Application Laid-Open No. 2004-200002 discloses a technique of switching the frame rate during video recording according to the movement of an imaged subject, and restricting AE/WB tracking when imaging at a high frame rate. Further, Japanese Patent Application Laid-Open No. 2002-200001 discloses a technique for changing the AE/WB tracking speed in consideration of the frame rate during imaging and during playback.

特開2012-151706号公報JP 2012-151706 A 特開2012-156886号公報JP 2012-156886 A

しかしながら、特許文献1に記載の技術では、被写体の動きが大きい際に、AE/WBの変化に追従出来ないため、画質状態が変動する可能性が高い。この場合、被写体の輝度変化に対して不自然に明るさが変化した動画が取得されてしまう。また、特許文献2に記載の技術では、撮像時と再生時のフレームレートの設定がAE/WBの追従速度の対応可能な範囲内を超える場合は、その効果が得られない。 However, with the technique described in Japanese Patent Laid-Open No. 2002-200011, when the movement of the subject is large, the change in AE/WB cannot be followed, so there is a high possibility that the state of image quality will fluctuate. In this case, a moving image is acquired in which the brightness changes unnaturally with respect to changes in the brightness of the subject. In addition, the technique described in Patent Document 2 cannot obtain the effect when the frame rate setting at the time of imaging and at the time of reproduction exceeds the range in which the following speed of AE/WB can be handled.

本発明は、高品位な動画像を再生することが可能な画像処理装置を提供することを目的とする。 SUMMARY OF THE INVENTION An object of the present invention is to provide an image processing apparatus capable of reproducing high-quality moving images.

上記課題を解決するために、本発明の一側面である画像処理装置は、撮像手段を用いて取得された動画像の中から被写体を検出する第1の検出手段と、前記動画像を構成する複数のフレームにおいて、前記第1の検出手段により検出された被写体の動き量が所定値を超えるフレームを検出する第2の検出手段と、前記動画像を再生する際のフレームレートを設定する設定手段と、前記動画像の画質状態を評価する評価手段と、を備え、前記設定手段は、前記第2の検出手段の検出結果に基づく前記動画像のシーン変化に応じて、前記動画像を複数の期間に分け、当該複数の期間ごとに前記第2の検出手段の検出結果と前記評価手段の評価結果に基づいて、再生する際のフレームレートを設定し、前記動画像を、第1のフレームレートで再生する期間と前記第1のフレームレートよりも低い第2のフレームレートで再生する期間を設定できることを特徴とするIn order to solve the above problems, an image processing apparatus according to one aspect of the present invention comprises first detection means for detecting a subject from a moving image acquired using an imaging means, and the moving image. second detection means for detecting, from among a plurality of frames, a frame in which the amount of movement of the subject detected by the first detection means exceeds a predetermined value; and setting means for setting a frame rate when reproducing the moving image. and evaluation means for evaluating an image quality state of the moving image , wherein the setting means determines the moving image according to a scene change of the moving image based on the detection result of the second detecting means. Divided into a plurality of periods, and based on the detection result of the second detection means and the evaluation result of the evaluation means for each of the plurality of periods, a frame rate for reproduction is set, and the moving image is reproduced in the first period. A period for reproducing at a frame rate and a period for reproducing at a second frame rate lower than the first frame rate can be set.

本発明によれば、高品位な動画像を再生することが可能な画像処理装置を提供することができる。 According to the present invention, it is possible to provide an image processing apparatus capable of reproducing high-quality moving images.

カメラの構成を示すブロック図である。3 is a block diagram showing the configuration of a camera; FIG. カメラの高速動画撮影時の動作を表すフローチャートである。4 is a flow chart showing the operation of the camera during high-speed video shooting. 撮像フレーム毎の評価の動作を説明するフローチャートである。FIG. 10 is a flowchart for explaining an evaluation operation for each imaging frame; FIG. 撮像フレーム毎の評価を説明する表である。FIG. 11 is a table for explaining evaluation for each imaging frame; FIG. 動画の区間分割の動作を説明する図である。FIG. 4 is a diagram for explaining the operation of dividing a moving image into segments; 区間評価の動作を説明する図である。It is a figure explaining operation|movement of area evaluation. 再生時のフレームレート設定の動作を説明する図である。FIG. 10 is a diagram for explaining the frame rate setting operation during playback; 再生時のフレームレート設定の動作を説明する図である。FIG. 10 is a diagram for explaining the frame rate setting operation during playback; カメラの高速動画撮影時の動作を表すフローチャート図である。FIG. 4 is a flow chart showing the operation of the camera during high-speed moving image shooting; 撮像フレーム毎の評価の動作を説明するフローチャートである。FIG. 10 is a flowchart for explaining an evaluation operation for each imaging frame; FIG. 撮像フレーム毎の評価の動作を説明する表である。FIG. 11 is a table for explaining evaluation operations for each imaging frame; FIG.

(第1実施形態)
図1は、デジタルカメラ(以下、単にカメラと称す)100の構成を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
(First embodiment)
FIG. 1 is a block diagram showing the configuration of a digital camera (hereinafter simply referred to as camera) 100. As shown in FIG. One or more of the functional blocks shown in FIG. 1 may be implemented by hardware such as an ASIC or programmable logic array (PLA), or implemented by a programmable processor such as a CPU or MPU executing software. may It may also be implemented by a combination of software and hardware. Therefore, in the following description, even when different functional blocks are described as main entities, the same hardware can be implemented as the main entities.

レンズ101は、ズーム機構を含む撮像用のレンズである。絞り及びシャッタ102は、光量を制御する。フォーカスレンズ104は、後述する撮像素子上に焦点をあわせるためのフォーカスレンズである。撮像素子108は、被写体からの反射光を電気信号に変換する受光手段又は光電変換手段を含む。A/D変換部109は、撮像素子108の出力ノイズを除去するCDS回路やA/D変換前に行う非線形増幅回路を含む。画像処理部110は、A/D変換部109から出力された画像信号に対して、輝度信号や色信号を形成するなどの信号処理や、ガンマ補正や圧縮処理などの所定の画像処理を行う。フォーマット変換部112は、画像処理部110から出力された画像データを、例えば、MP4などのフォーマットにフォーマット変換する。 A lens 101 is an imaging lens including a zoom mechanism. A diaphragm and shutter 102 controls the amount of light. A focus lens 104 is a focus lens for focusing on an image sensor, which will be described later. The imaging device 108 includes a light receiving means or a photoelectric conversion means for converting reflected light from an object into an electrical signal. The A/D conversion unit 109 includes a CDS circuit that removes output noise from the image sensor 108 and a nonlinear amplifier circuit that performs prior to A/D conversion. The image processing unit 110 performs signal processing such as forming a luminance signal and a color signal, and predetermined image processing such as gamma correction and compression processing on the image signal output from the A/D conversion unit 109 . A format conversion unit 112 converts the format of the image data output from the image processing unit 110 into a format such as MP4, for example.

DRAM113は、データを一時記憶する、例えば、ランダムアクセスメモリなどの高速な内蔵メモリである。画像記録部114は、メモリーカードなどの記録媒体とそのインターフェースからなる画像記録部である。VRAM116は、画像表示用メモリであり、画像データが表示用画像データとして一時的に記録される。操作表示部117は、画像表示の他、操作補助のための表示やカメラ状態の表示の、撮像時には撮像画面を表示する。フォーマット変換部112で変換された画像データは、DRAM113を介して画像記録部114に記録され、DRAM113及びVRAM116を介して操作表示部117に表示される。CPU115は、撮像シーケンスなどシステムを制御するシステム制御部である。 A DRAM 113 is a high-speed built-in memory such as a random access memory that temporarily stores data. The image recording unit 114 is an image recording unit including a recording medium such as a memory card and its interface. The VRAM 116 is an image display memory and temporarily stores image data as display image data. In addition to image display, the operation display unit 117 displays an image pickup screen during image pickup such as display for operation assistance and display of the camera state. The image data converted by the format conversion unit 112 is recorded in the image recording unit 114 via the DRAM 113 and displayed on the operation display unit 117 via the DRAM 113 and VRAM 116 . A CPU 115 is a system control unit that controls the system such as an imaging sequence.

AE処理部103、AF処理部105、WB処理部111、IS処理部125は、露出設定、オートフォーカス設定、ホワイトバランス設定、像ブレ補正設定などの撮像設定に関する制御を行う。具体的には、AE処理部103は、自動露出(AutoExposure)に関する制御を行う。AF処理部105は、オートフォーカス設定(AutoFocus)に関する制御を行う。WB処理部111は、ホワイトバランス設定(WhiteBlance)に関する制御を行う。IS処理部125は、像ブレ補正設定(IMAGE STABILIZER)に関する制御を行う。操作部118は、外部から操作を受け付ける。メインSW120は、システムに電源を投入するためのメインスイッチ、撮影スイッチ122は、撮像開始時や撮像終了時に押下するスイッチである。 The AE processing unit 103, AF processing unit 105, WB processing unit 111, and IS processing unit 125 control imaging settings such as exposure settings, autofocus settings, white balance settings, and image blur correction settings. Specifically, the AE processing unit 103 performs control related to AutoExposure. The AF processing unit 105 controls autofocus settings (AutoFocus). The WB processing unit 111 performs control related to white balance setting (WhiteBlance). The IS processing unit 125 performs control related to image blur correction settings (IMAGE STABILIZER). An operation unit 118 receives an operation from the outside. A main switch 120 is a main switch for turning on power to the system, and a photographing switch 122 is a switch to be pressed when imaging is started or when imaging is finished.

被写体検出モジュール123は、画像処理部110で処理された画像信号を用いて被写体検出を行い、検出した一つ又は複数の被写体情報(位置・大きさ・信頼度)をCPU115に送る。ここで、被写体検出の方法の例としては、次の方法が挙げられる。人物の顔を検出する方法としては、目、眉などの顔を特徴付ける部分を画像上で探索し、人物の顔の画像上での位置を求める。更に顔の大きさや傾きなどを、顔を特徴付ける部分の間隔などの位置関係から求める。また、人物以外の被写体を検出する方法としては、色・輝度の分布から、画像内での特徴的な領域を抽出して、被写体の位置・サイズを求める方法がある。加速度センサ部124は、カメラ100自体の加速度を検出する。 The subject detection module 123 performs subject detection using the image signal processed by the image processing unit 110 and sends information (position, size, reliability) of one or more detected subjects to the CPU 115 . Here, the following method can be given as an example of the subject detection method. As a method for detecting a person's face, an image is searched for portions that characterize the face, such as eyes and eyebrows, and the position of the person's face on the image is obtained. Furthermore, the size and inclination of the face are obtained from the positional relationship such as the interval between the parts that characterize the face. Also, as a method of detecting subjects other than people, there is a method of extracting a characteristic area in an image from the distribution of color and brightness, and obtaining the position and size of the subject. The acceleration sensor unit 124 detects acceleration of the camera 100 itself.

次に、図2のフローチャートを参照して、カメラの高速動画撮影時の動作について説明する。ここで、高速動画とは、高速なフレームレートを設定して被写体を撮像することで取得した動画像である。
ステップS201では、CPU115が、撮影スイッチ122が押下されたかどうかを調べ、押下された場合は、ステップS202へ進む。
Next, the operation of the camera during high-speed moving image shooting will be described with reference to the flowchart of FIG. Here, a high-speed moving image is a moving image obtained by capturing an image of a subject by setting a high-speed frame rate.
In step S201, the CPU 115 checks whether the shooting switch 122 has been pressed, and if it has been pressed, the process proceeds to step S202.

ステップS202では、高速動画撮影のための撮像処理を行い、ステップS203へ進む。撮像処理では、AE処理部103、AF処理部105、WB処理部111、IS処理部125が、被写体の状況に合わせて撮像時の画質制御を実施して、撮像素子108が動画像の各フレームの撮像を行う。その際に、各処理の制御状態が「適正」「合わせ込み中(制御中)」「非適正(合わせ込み失敗)」のいずれの状態にあるかをDRAM113に一時的に記憶しておく。 In step S202, imaging processing for high-speed moving image shooting is performed, and the process proceeds to step S203. In the imaging process, the AE processing unit 103, the AF processing unit 105, the WB processing unit 111, and the IS processing unit 125 perform image quality control at the time of imaging according to the situation of the subject, and the image sensor 108 detects each frame of the moving image. is imaged. At that time, the control state of each process is temporarily stored in the DRAM 113 as to whether the control state is "appropriate", "matching (in control)", or "non-appropriate (matching failure)".

ステップS203では、CPU115が、撮像フレームごとの画質および被写体の状況の評価を行い、ステップS204へ進む。ステップS203の詳しい処理は、図3のフローチャートを用いて後述する。
ステップS204では、被写体を撮像して取得した画像を画像記録部114へ記録し、ステップS205へ進む。
ステップS205では、CPU115が、撮影スイッチ122が再度押下された等の撮像終了のトリガーがひかれたかどうかを調べ、撮像終了の場合はステップS206へ進み、撮像を継続する場合はステップS202へ戻る。
In step S203, the CPU 115 evaluates the image quality and the condition of the subject for each imaging frame, and proceeds to step S204. Detailed processing of step S203 will be described later using the flowchart of FIG.
In step S204, the image obtained by imaging the subject is recorded in the image recording unit 114, and the process proceeds to step S205.
In step S205, the CPU 115 checks whether a trigger for ending imaging, such as the photography switch 122 being pressed again, has been pulled.

ステップS206では、CPU115が、取得した動画を1つ以上の区間に分割して、ステップS207へ進む。ステップS206における動画の分割詳細は、図5を用いて後述する。
ステップS207では、CPU115が、ステップS206で分割した区間ごとに、画質およびシーン変化状況の評価を行い、ステップS208へ進む。ステップS207の詳しい処理は、図6のフローチャートを用いて後述する。
ステップS208では、CPU115が、ステップS207での評価結果に応じて、分割した区間ごとに再生時のフレームレートを設定し、高速動画撮影時の動作を終了する。
In step S206, the CPU 115 divides the acquired moving image into one or more sections, and proceeds to step S207. Details of the moving image division in step S206 will be described later with reference to FIG.
In step S207, the CPU 115 evaluates image quality and scene change status for each section divided in step S206, and proceeds to step S208. Detailed processing of step S207 will be described later using the flowchart of FIG.
In step S208, the CPU 115 sets the playback frame rate for each divided section according to the evaluation result in step S207, and ends the operation during high-speed moving image shooting.

次に、図3のフローチャートを参照し、図2のステップS203での撮像フレームごとの画質および被写体の状況の評価の動作について説明する。
ステップS301では、CPU115が、被写体を撮像することで取得された画像をDRAM113から読み出し、ステップS302へ進む。
ステップS302では、CPU115が、ステップS301で読み出した画像について、DRAM113から画質情報を取得する。ここで、画質情報とは、ステップS202で記憶された、撮像時のAF、AE、WB、ISの各処理の制御状態である。
ステップS303では、CPU115が、ステップS302で取得した画質情報に基づいて、撮像画像の画質評価値を設定し、ステップS304へ進む。画質評価値は、例えば、図4に示すように制御状態に応じた評価値を定め、AF、AE、WB、ISのそれぞれの評価値を加算したものである。なお、図4における各処理の評価(「適正」、「合わせ込み中」、「非適正」)は、カメラ100内に予め記録された所定値と、ステップS202で記憶された各処理の制御状態とを比較することで決定される。例えば、被写体の輝度変化により設定中の露出条件が予め記録されている適正露出からずれた場合を「非適正」とし、露出条件を変更している場合を「合わせ込み中」、露出条件が適正露出と略同一である場合を「適正」とする。
Next, referring to the flowchart of FIG. 3, the operation of evaluating the image quality and the condition of the subject for each imaging frame in step S203 of FIG. 2 will be described.
In step S301, the CPU 115 reads an image obtained by imaging the subject from the DRAM 113, and proceeds to step S302.
In step S302, the CPU 115 acquires image quality information from the DRAM 113 for the image read out in step S301. Here, the image quality information is the control state of each process of AF, AE, WB, and IS during imaging, which is stored in step S202.
In step S303, the CPU 115 sets the image quality evaluation value of the captured image based on the image quality information acquired in step S302, and proceeds to step S304. The image quality evaluation value is obtained, for example, by determining an evaluation value according to the control state as shown in FIG. 4 and adding the respective evaluation values of AF, AE, WB, and IS. It should be noted that the evaluation of each process in FIG. is determined by comparing the For example, if the set exposure conditions deviate from the pre-recorded proper exposure due to changes in subject brightness, it will be classified as "inappropriate." The case where it is substantially the same as the exposure is defined as "appropriate".

ステップS304では、CPU115がステップS301で取得した画像の被写体情報を取得して、S305へ進む。ここで、被写体情報とは、被写体検出モジュール123による被写体検出結果であり、例えば、人物や物などの被写体の検出有無と検出位置である。
ステップS305では、CPU115が、被写体情報について、前回のフレームとの差分を算出する。具体的には、ステップS304で取得した被写体情報について、今回と前回のフレームでの撮像画像で取得した被写体情報の差分から、前回からの被写体の切り替わり有無と、被写体の動き量(検出位置の差)を算出し、ステップS306へ進む。なお、被写体の動き量の算出方法は公知のものであればどのような方法を採用してもよい。
In step S304, the CPU 115 acquires subject information of the image acquired in step S301, and proceeds to S305. Here, subject information is the result of subject detection by the subject detection module 123, and is, for example, whether or not a subject such as a person or an object is detected and the detection position.
In step S305, the CPU 115 calculates the difference between the subject information and the previous frame. Specifically, regarding the subject information acquired in step S304, from the difference in the subject information acquired between the captured images in the current frame and the previous frame, whether or not the subject has been switched from the previous time and the amount of movement of the subject (difference in detection position) ) is calculated, and the process proceeds to step S306. Note that any known method for calculating the amount of movement of the subject may be employed.

ステップS306では、ステップS303で算出した画質評価値、および、ステップS305で算出した被写体の動き量と被写体の検出の切り替わり有無を撮像画像に紐づけて画像記録部114へ記録し、撮像フレームごとの評価の動作を終了する。 In step S306, the image quality evaluation value calculated in step S303, the amount of movement of the subject calculated in step S305, and whether or not detection of the subject has been switched are linked to the captured image and recorded in the image recording unit 114. End the evaluation operation.

次に図5の図面を参照しながら、図2のステップS206の動画の分割処理について説明する。
図5(A)の、5-1A(点線)、5-1B(実線)のグラフは、縦軸は撮像した動画中での検出した被写体A、Bの動き量、横軸は撮像フレーム(時間)を表している。被写体の検出状態が切り替わっているかどうか(グラフが途切れた場合は検出がされなくなった場合を示す)によってシーンの切り替わりを判断する。また、各被写体の動き量が、5-1C(長破線)で表す動き判定用の閾値を超えているかどうかを判断する。シーンの切り替わりと動き量の判定に基づいて、動画内を複数の区間に分割する。
図5(A)は、区間5-1は被写体A,Bの動きが有るシーン、区間5-2は被写体A,Bの動きが無いシーン、区間5-3は被写体Bが検出されなくなったシーンとして、3つの区間に分割されている。
Next, the moving image division processing in step S206 of FIG. 2 will be described with reference to the drawing of FIG.
Graphs 5-1A (dotted line) and 5-1B (solid line) in FIG. ). The change of scene is determined by whether or not the detection state of the subject has changed (if the graph is interrupted, it indicates that the detection is no longer performed). Also, it is determined whether or not the amount of motion of each subject exceeds the motion determination threshold indicated by 5-1C (long dashed line). A moving image is divided into a plurality of sections based on the change of scene and determination of the amount of motion.
In FIG. 5A, section 5-1 is a scene in which subjects A and B are moving, section 5-2 is a scene in which subjects A and B are not moving, and section 5-3 is a scene in which subject B is no longer detected. is divided into three sections as

次に、図5の図面と図6のフローチャートを参照しながら図2のステップS207の分割区間の評価の処理について説明する。分割区間の評価は、動画分割手段として機能するCPU115が行う。
ステップS601~S606では、図2のステップS206で分割した区間ごとに、シーン変化状態と画質状態について評価する。
ステップS601では、N番目(Nは自然数)の区間に対して、検出した被写体の動き量の最大値が所定の閾値以上であるかどうかを判定する。動き量が閾値以上である場合は、ステップS602へ進み、閾値未満の場合もしくは被写体を検出していない場合はステップS603へ進む。
ステップS602では、N番目の区間はシーン変化が大きい区間と設定し、ステップS604へ進む。一方、ステップS603では、N番目の区間はシーン変化が小さい区間と設定し、ステップS604へ進む。
Next, the process of evaluating divided sections in step S207 of FIG. 2 will be described with reference to the drawing of FIG. 5 and the flowchart of FIG. Evaluation of the divided sections is performed by the CPU 115 functioning as moving image dividing means.
In steps S601 to S606, the scene change state and image quality state are evaluated for each section divided in step S206 of FIG.
In step S601, it is determined whether or not the maximum value of the amount of motion of the detected subject is greater than or equal to a predetermined threshold for the N-th (N is a natural number) section. If the amount of motion is equal to or greater than the threshold, the process proceeds to step S602, and if the amount is less than the threshold or the subject is not detected, the process proceeds to step S603.
In step S602, the N-th section is set as a section with a large scene change, and the process proceeds to step S604. On the other hand, in step S603, the N-th section is set as a section with a small scene change, and the process proceeds to step S604.

図5(B)では、5-2A(点線)、5-2B(実線)のグラフが動画中で検出された被写体A、Bの動き量を表し、5-2C(長破線)が変化量判定用の閾値を表している。閾値は、例えば、動きの大きいシーンの基準の動き量を、0.1秒間に被写体の検出サイズの10%以上の動きがあった場合として設定し、基準の動き量を1フレーム単位での動き量に正規化した値を変化量判定用の閾値とする。また、連続した所定数のフレーム間の動き量の平均を取って、変化量判定用の閾値と比較して判断を行ってもよい。
区間5-1では、被写体A,Bともに動き量の最大値が閾値を超えているため、シーン変化が大きい区間として設定され、区間5-2、5-3は動き量の最大値が閾値を超えていないため、変化が小さい区間として設定される。
In FIG. 5B, graphs 5-2A (dotted line) and 5-2B (solid line) represent the amount of movement of subjects A and B detected in the video, and 5-2C (long dashed line) indicates the amount of change determination. represents the threshold for For the threshold, for example, the reference amount of motion in a scene with a large amount of movement is set as the case where there is a movement of 10% or more of the detected size of the subject in 0.1 seconds, and the reference amount of motion is set as the movement in units of one frame. A value normalized to the amount is used as a threshold value for determining the amount of change. Alternatively, the average amount of motion between a predetermined number of consecutive frames may be averaged and compared with a threshold value for determining the amount of change.
In section 5-1, the maximum amount of motion for both subjects A and B exceeds the threshold, so the section is set as a section with a large scene change. Since it is not exceeded, it is set as an interval with a small change.

ステップS604では、N番目の区間の全フレーム数に対して、S303で設定した画質評価値が画質判定用の閾値以下であるフレーム数が、所定割合未満である場合はステップS605へ進み、所定割合以上であればステップS606へ進む。
ステップS605では、N番目の区間は画質が良い区間と設定する。一方、ステップS606では、N番目の区間は画質が悪い区間と設定し、ステップS607へ進む。
In step S604, if the number of frames in which the image quality evaluation value set in S303 is equal to or less than the threshold for image quality determination is less than a predetermined percentage of the total number of frames in the N-th section, the process proceeds to step S605. If so, the process proceeds to step S606.
In step S605, the Nth segment is set as a segment with good image quality. On the other hand, in step S606, the Nth section is set as a section with poor image quality, and the process proceeds to step S607.

図5(C)では、5-3A(実線)のグラフが画質評価値、5-3C(長破線)が画質判定のための閾値を表している。縦軸は画質評価値の値であり、横軸は撮像フレーム(時間)を表している。例えば、図4の表にしたがって画質評価値を算出した場合において、画質判定用の閾値を20と設定する。すると、制御状態が非適正となる処理が存在する場合、または、合わせ込み状態の処理が3つ以上存在する場合は画質判定用の閾値を下回るようになる。また、区間内での画質評価値が画質判定用の閾値を下回るフレームの割合が3割未満の場合を画質が悪い区間と設定することにすると、図5(C)では、区間5-1、5-3は画質が悪い区間、区間5-2は画質が良い区間として判断される。 In FIG. 5C, the graph 5-3A (solid line) represents the image quality evaluation value, and the graph 5-3C (long dashed line) represents the threshold value for image quality determination. The vertical axis represents the image quality evaluation value, and the horizontal axis represents the imaging frame (time). For example, when the image quality evaluation value is calculated according to the table of FIG. 4, 20 is set as the threshold for image quality determination. Then, when there is a process whose control state is inappropriate, or when there are three or more processes in a matching state, it falls below the threshold for image quality determination. In addition, if the ratio of frames whose image quality evaluation value is lower than the threshold value for image quality determination in the section is set to be a section with poor image quality when the ratio is less than 30%, in FIG. 5C, section 5-1, The section 5-3 is judged to be of poor image quality, and the section 5-2 is judged to be of good image quality.

ステップS607では、N番目の区間のシーン変化状態に合わせて最適なフレームレート(以下、シーン優先のフレームレート)を算出し、ステップS608に進む。例えば、区間内での被写体の動きの変化量の最大値に応じて、値が大きい程、よりスローモーションで再生されるように再生時のフレームレートを低く設定する。 In step S607, an optimum frame rate (hereinafter referred to as scene-prioritized frame rate) is calculated according to the scene change state of the N-th interval, and the process proceeds to step S608. For example, according to the maximum value of the change amount of the movement of the subject within the section, the larger the value, the lower the frame rate during playback is set so that the playback is performed in slower motion.

ステップS608では、N番目の区間の画質状態に応じて、画質が許容できる上限のフレームレート(以下、画質優先のフレームレート)を算出し、本処理を終了する。例えば、画質判定用の閾値以下のフレームの割合が低い程画質が許容できるとして再生時のフレームレートを低く設定してもよい。また、閾値以下のフレームの再生時間が所定時間内に収まるように再生時のフレームレートを設定するのでもよい。 In step S608, the upper limit frame rate at which image quality is acceptable (hereinafter referred to as image quality priority frame rate) is calculated according to the image quality state of the N-th section, and this processing ends. For example, the frame rate during playback may be set low, assuming that the lower the ratio of frames below the threshold for image quality determination, the more acceptable the image quality. Also, the frame rate during playback may be set so that the playback time of frames below the threshold falls within a predetermined time.

次に、図7のフローチャートを参照しながら、図2のステップS208の再生時のフレームレートの設定の動作について説明する。再生時のフレームレートの設定は、CPU115が行う。
ステップS701~705では、図2のステップS206で分割した区間ごとに再生時のフレームレートを設定する。その際に、図2のステップS207の区間毎の評価において設定した、区間毎のシーン変化状態・画質状態および、シーン変化優先・画質優先での再生時フレームレートを参照する。
Next, the operation of setting the frame rate during reproduction in step S208 of FIG. 2 will be described with reference to the flowchart of FIG. The CPU 115 sets the frame rate during playback.
In steps S701 to S705, the frame rate for playback is set for each section divided in step S206 of FIG. At this time, the scene change state/image quality state for each section and the frame rate during reproduction with scene change priority/image quality priority set in the evaluation for each section in step S207 of FIG. 2 are referred to.

ステップS701では、図6のステップS607で設定したシーン変化優先のフレームレート設定と、図6のステップS608で設定した画質優先のフレームレート設定を比較する。画質優先のフレームレートの方が低い場合はステップS704に進み、シーン変化優先のフレームレート設定の方が低い場合はステップS702へ進む。ここで、画質優先のフレームレートの方が低ければ、シーン変化優先のフレームレート設定においても画質が保証されていると考えられる。 In step S701, the scene change priority frame rate setting set in step S607 of FIG. 6 is compared with the image quality priority frame rate setting set in step S608 of FIG. If the image quality priority frame rate is lower, the process proceeds to step S704, and if the scene change priority frame rate setting is lower, the process proceeds to step S702. Here, if the frame rate prioritizing image quality is lower, it is considered that the image quality is guaranteed even in the frame rate setting prioritizing scene change.

ステップS702では、画質状態を判断する。図6のステップS604で画質状態が良いと判断した場合は、ステップS704へ進み、画質状態が悪いと判断した場合はステップS703へ進む。ここで、画質状態が良い区間であれば、シーンに応じたフレームレート設定を行ってもある程度の画質が保証されていると考えられる。 In step S702, the image quality state is determined. If it is determined in step S604 in FIG. 6 that the image quality is good, the process proceeds to step S704, and if it is determined that the image quality is poor, the process proceeds to step S703. Here, if the image quality state is good, it is considered that image quality is guaranteed to some extent even if the frame rate is set according to the scene.

ステップS703では、シーン変化状態を判断する。図6のステップS601でシーン変化が大きいと判断した場合は、ステップS704へ進み、シーン変化が小さいと判断した場合はステップS705へ進む。ここで、シーンの変化が大きい場合は、スローモーション再生による効果を優先して、シーン優先のフレームレートを設定し、シーンの変化が小さい場合は、画質を保証することを優先して、画質優先のフレームレートを設定する。 In step S703, the scene change state is determined. If it is determined in step S601 in FIG. 6 that the scene change is large, the process proceeds to step S704, and if it is determined that the scene change is small, the process proceeds to step S705. Here, if the change in scene is large, give priority to the effect of slow motion playback and set the scene-priority frame rate. set the frame rate of the

ステップS704では、シーン変化優先のフレームレートを再生時のフレームレートとして設定する。次の区間の処理を行う必要がある場合は、再びステップS701へ戻る。
ステップS705では、画質優先のフレームレートを再生時のフレームレートとして設定する。次の区間の処理を行う必要がある場合は、再びステップS701へ戻る。
すべての区間の処理が終了すると、フレームレート設定のフローは終了する。
In step S704, the scene change priority frame rate is set as the playback frame rate. If it is necessary to process the next section, the process returns to step S701.
In step S705, the frame rate giving priority to image quality is set as the frame rate for reproduction. If it is necessary to process the next section, the process returns to step S701.
When the processing for all sections ends, the frame rate setting flow ends.

以上説明したように、本実施形態においては、撮像したフレームごとの画質制御結果を考慮して再生時のフレームレートを設定することにより、動画の画質を保証して、高品位な高速動画の再生を行うことができる。 As described above, in the present embodiment, by setting the frame rate during playback in consideration of the image quality control result for each imaged frame, the image quality of the moving image is guaranteed, and high-quality high-speed moving image playback is performed. It can be performed.

(第2実施形態)
図8のフローチャートを参照して、第2実施形態について説明する。第2実施形態は、第1実施形態とは図2のステップS208の再生時のフレームレートの設定の動作が異なっており、この差分について説明する。第2実施形態では、ユーザが予め再生時のフレームレートを指定しており、画質状態がよい場合とシーン変化の大きい場合については、ユーザ設定のフレームレートが設定される。一方、画質状態が悪く、尚且つシーンの変化も小さい場合には、画質優先のフレームレートが設定される。
(Second embodiment)
A second embodiment will be described with reference to the flowchart of FIG. The second embodiment differs from the first embodiment in the operation of setting the frame rate during reproduction in step S208 of FIG. 2, and this difference will be described. In the second embodiment, the user designates the frame rate at the time of reproduction in advance, and the frame rate set by the user is set when the image quality is good and when the scene change is large. On the other hand, when the image quality is poor and the change in scene is small, the frame rate is set with priority given to image quality.

ステップS801では、ユーザが予め指定した再生時のフレームレートを取得して、ステップS802へ進む。
ステップS802~806では、図2のステップS206で分割した区間ごとに再生時のフレームレートを設定する。その際に、図2のステップS207の区間毎の評価において設定した、区間毎のシーン変化・画質の状態および、画質優先での再生時フレームレートを参照する。
In step S801, the frame rate for playback specified in advance by the user is obtained, and the process proceeds to step S802.
In steps S802 to S806, the frame rate for playback is set for each section divided in step S206 of FIG. At this time, the scene change/image quality state for each section and the frame rate during playback with image quality priority set in the evaluation for each section in step S207 of FIG. 2 are referred to.

ステップS802では、ステップS801で設定したユーザ指定のフレームレート設定と、図6のステップS608で設定した画質優先のフレームレート設定を比較する。画質優先のフレームレートの方が低い場合はステップS804に進み、ユーザ設定のフレームレート設定の方が低い場合はステップS802へ進む。ここで、画質優先のフレームレートの方が低ければ、ユーザ指定のフレームレート設定においても画質が保証されていると考えられる。 In step S802, the user-specified frame rate setting set in step S801 is compared with the image quality-priority frame rate setting set in step S608 of FIG. If the image quality priority frame rate is lower, the process proceeds to step S804, and if the user setting frame rate setting is lower, the process proceeds to step S802. Here, if the frame rate prioritizing image quality is lower, it is considered that the image quality is guaranteed even at the frame rate setting specified by the user.

ステップS803では、画質状態について判断する。図6のステップS604で画質状態が良いと判断した場合は、ステップS805へ進み、画質状態が悪いと判断した場合はステップS804へ進む。ここで、画質状態が良い区間であれば、ユーザ指定のフレームレート設定においても画質が保証されていると考えられる。 In step S803, the image quality state is determined. If it is determined in step S604 in FIG. 6 that the image quality is good, the process proceeds to step S805, and if it is determined that the image quality is poor, the process proceeds to step S804. Here, if the image quality state is good, it is considered that the image quality is guaranteed even with the frame rate setting specified by the user.

ステップS804では、シーン変化状態について判断する。図6のステップS601でシーン変化が大きいと判断した場合は、ステップS805へ進み、シーン変化が小さいと判断した場合はステップS806へ進む。ここで、シーンの変化が大きい場合は、スローモーション再生による効果を優先して、ユーザ指定のフレームレートを設定し、シーンの変化が小さい場合は、画質を保証することを優先して、画質優先のフレームレートを設定する。 In step S804, the scene change state is determined. If it is determined in step S601 in FIG. 6 that the scene change is large, the process proceeds to step S805, and if it is determined that the scene change is small, the process proceeds to step S806. Here, when the change in scene is large, priority is given to the effect of slow motion playback, and the user-specified frame rate is set. set the frame rate of the

ステップS805では、ユーザ指定のフレームレートを再生時のフレームレートとして設定する。次の区間の処理を行う必要がある場合は、再びステップS802へ戻る。
ステップS806では、画質優先のフレームレートを再生時のフレームレートとして設定する。次の区間の処理を行う必要がある場合は、再びステップS802へ戻る。
すべての区間の処理が終了すると、フレームレート設定のフローは終了する。
In step S805, the frame rate specified by the user is set as the frame rate for playback. If it is necessary to process the next section, the process returns to step S802.
In step S806, the frame rate giving priority to image quality is set as the frame rate for reproduction. If it is necessary to process the next section, the process returns to step S802.
When the processing for all sections ends, the frame rate setting flow ends.

以上説明したように、本実施形態においては、ユーザが再生時のフレームレートを指定した場合において、撮像したフレームごとの画質制御結果も考慮して再生時のフレームレートの設定を行っている。それによって、ユーザの意図を汲むことと動画の画質を保証することを両立させ、高品位な高速動画の再生を行うことができる。 As described above, in this embodiment, when the user designates the frame rate for playback, the frame rate for playback is set in consideration of the image quality control result for each imaged frame. As a result, it is possible to achieve both the intention of the user and the guarantee of the image quality of moving images, and to reproduce high-quality high-speed moving images.

(第3実施形態)
第3実施形態では、第1実施形態や第2実施形態のように、撮像時に制御状態を記憶し、制御状態に基づいて画質状態を評価することを行わない。本実施形態では、撮像を終了した後に、撮像した動画像に基づいて、画質状態および被写体の状況を算出する。以下では、第1実施形態との差分について説明するが、本実施形態のフレームごとの評価は、ユーザ設定のフレームレートを設定する第2実施形態にも適応可能である。
(Third embodiment)
Unlike the first and second embodiments, the third embodiment does not store the control state during imaging and evaluate the image quality state based on the control state. In the present embodiment, after the imaging is completed, the image quality state and the situation of the subject are calculated based on the captured moving image. Differences from the first embodiment will be described below, but the frame-by-frame evaluation of this embodiment can also be applied to the second embodiment in which a user-defined frame rate is set.

以下、図9を参照して、第3実施形態によるカメラの高速動画撮影時の動作について説明する。
ステップS901では、CPU115が、撮影スイッチ122が押下されたかどうかを調べ、押下された場合は、ステップS902へ進む。
ステップS902では、動画像撮像のための処理を行い、ステップS903へ進む。ここでは、被写体の状況に合わせて、AE処理部103、AF処理部105、WB処理部111、IS処理部125による撮像時の画質制御を実施してから、動画像の各フレームの撮像を行う。
The operation of the camera according to the third embodiment during high-speed moving image shooting will be described below with reference to FIG.
In step S901, the CPU 115 checks whether the shooting switch 122 has been pressed, and if it has been pressed, the process proceeds to step S902.
In step S902, processing for capturing a moving image is performed, and the process proceeds to step S903. Here, the AE processing unit 103, the AF processing unit 105, the WB processing unit 111, and the IS processing unit 125 perform image quality control at the time of imaging according to the situation of the subject, and then each frame of the moving image is captured. .

ステップS903では、撮像した画像を画像記録部114へ記録し、ステップS904へ進む。
ステップS904では、CPU115が、撮影スイッチ122が再度押下された等の撮像終了のトリガーがひかれたかどうかを調べ、撮像終了の場合はステップS905へ進み、撮像を継続する場合はステップS902へ戻る。
In step S903, the captured image is recorded in the image recording unit 114, and the process proceeds to step S904.
In step S904, the CPU 115 checks whether a trigger for ending imaging, such as the shooting switch 122 being pressed again, has been pulled.

ステップS905では、CPU115が、後述する処理に従い、撮像フレーム毎の評価を行い、ステップS906へ進む。
ステップS906は、図2のS206と同様の処理であり、図5を用いて説明した処理にしたがって、撮像した動画を1つ以上の区間に分割して、ステップS907へ進む。
ステップS907は、図2のS207と同様の処理であり、図6のフローチャートを用いて説明した処理にしたがって、ステップS906で分割した区間ごとに画質およびシーン変化状況の評価を行い、ステップS908へ進む。
ステップS908では、図2のS208と同様の処理であり、図7のフローチャートを用いて説明した処理にしたがって、S906で分割した区間ごとに再生時のフレームレートを設定し、撮像時の動作を終了する。
In step S905, the CPU 115 evaluates each captured frame according to the processing described later, and proceeds to step S906.
Step S906 is the same process as S206 in FIG. 2. According to the process described with reference to FIG. 5, the captured moving image is divided into one or more sections, and the process proceeds to step S907.
Step S907 is the same process as S207 in FIG. 2. Image quality and scene change status are evaluated for each section divided in step S906 according to the process described using the flowchart in FIG. 6, and the process proceeds to step S908. .
In step S908, which is the same processing as in S208 in FIG. 2, the frame rate during playback is set for each section divided in S906 according to the processing described using the flowchart in FIG. 7, and the operation during imaging ends. do.

次に、図10のフローチャートを参照しながら、図9のステップS905での、撮像画像のフレーム毎の画質および被写体の状況の評価の動作について説明する。
ステップS1001では、撮像した動画像中のNフレーム目の画像を取得し、ステップS1002へ進む。
Next, referring to the flowchart of FIG. 10, the operation of evaluating the image quality of each frame of the captured image and the condition of the subject in step S905 of FIG. 9 will be described.
In step S1001, the N-th frame image in the captured moving image is acquired, and the process proceeds to step S1002.

ステップS1002では、ステップS1001で取得した画像から画質情報を算出する。ここで、画質情報とは、例えば、画像のコントラスト、明るさ、色味、ノイズなどである。画像の明るさについては、撮像画像全体もしくは被写体検出モジュール123によって検出した被写体の領域に対して平均輝度値を算出し、予め設定した目標とする輝度範囲内にあるかどうかを判断する。画像のコントラストについては、撮像画像全体もしくは検出した被写体の領域内の高周波成分を抽出し、抽出した信号値が予め設定した目標値の範囲内にあるかどうかを判断する。画像の色味については、撮像画像全体もしくは検出した被写体の領域内の色信号を算出し、予め設定した目標とする色信号の範囲内にあるかどうかを判断する。画像のノイズについては、撮像画像中の被写体を露光していない領域の信号値からノイズレベルを算出し、予め設定した所定の範囲内にあるかどうかを判断する。 In step S1002, image quality information is calculated from the image acquired in step S1001. Here, image quality information is, for example, image contrast, brightness, color, noise, and the like. Regarding the brightness of the image, the average brightness value is calculated for the entire captured image or the area of the subject detected by the subject detection module 123, and it is determined whether or not it is within a preset target brightness range. As for the contrast of the image, the high-frequency component in the entire captured image or the detected subject area is extracted, and it is determined whether or not the extracted signal value is within a preset target value range. As for the color tone of the image, the color signal in the entire captured image or the detected subject area is calculated, and it is determined whether or not the color signal is within a preset target color signal range. As for the noise in the image, the noise level is calculated from the signal value of the area in the captured image where the subject is not exposed, and it is determined whether or not it is within a predetermined range.

ステップS1003では、ステップS1002で取得した画質状態に基づいて、撮像画像の画質評価値を設定し、ステップS1004へ進む。例えば、図11に示すように、コントラスト、明るさ、色味、ノイズのそれぞれに対して、複数段階での目標値と各目標値に応じた画質評価値を予め定めておく。そして、コントラスト、明るさ、色味、ノイズのそれぞれの画質評価値を加算したものを、その撮像フレームの画質評価値とする。
ステップS1004では、ステップS1001で取得した画像に対して、被写体情報を取得して、S1005へ進む。ここでは、被写体検出モジュール123による被写体検出結果から、人物や物などの被写体の検出有無と検出位置を取得する。
In step S1003, the image quality evaluation value of the captured image is set based on the image quality state acquired in step S1002, and the process proceeds to step S1004. For example, as shown in FIG. 11, target values in multiple stages and image quality evaluation values corresponding to each target value are determined in advance for each of contrast, brightness, tint, and noise. Then, the sum of the image quality evaluation values of contrast, brightness, color, and noise is used as the image quality evaluation value of the imaging frame.
In step S1004, subject information is acquired for the image acquired in step S1001, and the process proceeds to S1005. Here, from the subject detection result by the subject detection module 123, whether or not a subject such as a person or an object is detected and the detection position are acquired.

ステップS1005では、ステップS1004で取得した情報について、今回と前回の撮像画像での取得した情報の差分から、前回からの被写体の切り替わり有無と、被写体の動き量(検出位置の差)を算出し、ステップS1006へ進む。
ステップS1006では、ステップS1003で算出した画質評価値およびステップS1005で算出した被写体の検出の切り替わり有無と被写体の動き量を撮像画像に紐づけて記憶する。次フレームの撮像画像の処理が必要な場合は、ステップS1001に戻り、次のフレームの撮像画像がなければ、フレームごとの評価の動作を終了する。
In step S1005, regarding the information acquired in step S1004, from the difference in information acquired between the current and previous captured images, whether or not the subject has been switched from the previous time and the amount of motion of the subject (difference in detection position) are calculated, The process advances to step S1006.
In step S1006, the image quality evaluation value calculated in step S1003, whether or not detection of the subject has been switched and the amount of movement of the subject calculated in step S1005 are linked to the captured image and stored. If the captured image of the next frame needs to be processed, the process returns to step S1001, and if there is no captured image of the next frame, the evaluation operation for each frame ends.

なお、図9のS905からS908は、撮像装置から独立した画像処理装置で行ってもよい。画像処理装置は、取得した動画像についてフレームごとの評価を行い、動画像の分割を行い、分割した区間ごとに画質と被写体の評価に基づいてフレームレートを設定する。画像処理装置が動画像の再生を行う表示部を有していてもよいし、外部の表示装置へフレームレートを設定した動画像を出力するようにしてもよい。 Note that steps S905 to S908 in FIG. 9 may be performed by an image processing apparatus independent of the imaging apparatus. The image processing device evaluates each frame of the acquired moving image, divides the moving image, and sets a frame rate for each divided section based on the image quality and subject evaluation. The image processing device may have a display section for reproducing moving images, or may output moving images with a set frame rate to an external display device.

以上のように、動画撮像後に、撮像した動画像をフレーム毎に評価することで画質の評価結果を得ることができる。そのして得られた画質評価結果を考慮して再生時のフレームレートを設定することにより、動画の画質を保証して、高品位な高速動画の再生を行うことができる。 As described above, image quality evaluation results can be obtained by evaluating each frame of the captured moving image after capturing the moving image. By setting the frame rate at the time of playback in consideration of the image quality evaluation result thus obtained, it is possible to guarantee the image quality of moving images and to perform high-quality high-speed playback of moving images.

(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other examples)
The present invention supplies a program that implements one or more functions of the above-described embodiments to a system or device via a network or a storage medium, and one or more processors in the computer of the system or device reads and executes the program. It can also be realized by processing to It can also be implemented by a circuit (for example, ASIC) that implements one or more functions.

以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。 Although preferred embodiments of the present invention have been described above, the present invention is not limited to these embodiments, and various modifications and changes are possible within the scope of the gist thereof.

103 AE処理部
105 AF処理部
108 撮像素子
110 画像処理部
111 WB処理部
114 画像記録部
115 システム制御部
117 操作表示部
118 操作部
122 撮像スイッチ
123 被写体検出モジュール
125 IS処理部
103 AE processing unit 105 AF processing unit 108 image sensor 110 image processing unit 111 WB processing unit 114 image recording unit 115 system control unit 117 operation display unit 118 operation unit 122 imaging switch 123 subject detection module 125 IS processing unit

Claims (6)

撮像手段を用いて取得された動画像の中から被写体を検出する第1の検出手段と、
前記動画像を構成する複数のフレームにおいて、前記第1の検出手段により検出された被写体の動き量が所定値を超えるフレームを検出する第2の検出手段と、
前記動画像を再生する際のフレームレートを設定する設定手段と、
前記動画像の画質状態を評価する評価手段と、を備え、
前記設定手段は、前記第2の検出手段の検出結果に基づく前記動画像のシーン変化に応じて、前記動画像を複数の期間に分け、当該複数の期間ごとに前記第2の検出手段の検出結果と前記評価手段の評価結果に基づいて、再生する際のフレームレートを設定し、前記動画像を、第1のフレームレートで再生する期間と前記第1のフレームレートよりも低い第2のフレームレートで再生する期間を設定できることを特徴とする画像処理装置。
a first detection means for detecting a subject from the moving image acquired using the imaging means;
a second detection means for detecting a frame in which an amount of motion of the subject detected by the first detection means exceeds a predetermined value, among a plurality of frames constituting the moving image;
setting means for setting a frame rate when reproducing the moving image;
and evaluation means for evaluating the image quality state of the moving image,
The setting means divides the moving image into a plurality of periods according to the scene change of the moving image based on the detection result of the second detecting means, and the second detecting means detects the moving image for each of the plurality of periods. Based on the result and the evaluation result of the evaluation means, a frame rate for reproduction is set, and a period during which the moving image is reproduced at a first frame rate and a second frame rate lower than the first frame rate. An image processing apparatus characterized by being able to set a period for reproduction at a rate.
前記設定手段は、前記第2の検出手段の検出結果に基づいて、前記動画像の前記所定値を超える動き量に該当するフレームを含む期間は前記第2のフレームレートを設定することを特徴とする請求項1に記載の画像処理装置。 The setting means sets the second frame rate for a period including a frame corresponding to a movement amount exceeding the predetermined value of the moving image based on the detection result of the second detection means. The image processing apparatus according to claim 1. 前記設定手段は、前記第2の検出手段の検出結果に基づいて、前記動画像の前記所定値以下の動き量に該当するフレームを含む期間は前記第1のフレームレートを設定することを特徴とする請求項2に記載の画像処理装置。 The setting means sets the first frame rate for a period including a frame corresponding to a movement amount of the moving image equal to or less than the predetermined value based on the detection result of the second detection means. 3. The image processing apparatus according to claim 2. 前記評価手段は、被写体を撮像して動画像を取得する際の露出設定、オートフォーカス設定、ホワイトバランス設定、像ブレ補正設定と、前記動画像のフレームごとの明るさ、色味、コントラスト、ノイズに関する情報の何れかに基づいて前記動画像の状態を評価することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 The evaluation means includes exposure setting, autofocus setting, white balance setting, image blur correction setting when capturing a subject to obtain a moving image, and brightness, color, contrast, and noise for each frame of the moving image. 4. The image processing apparatus according to any one of claims 1 to 3, wherein the state of the moving image is evaluated based on any of information relating to the moving image. 撮像手段を用いて取得された動画像の中から被写体を検出する第1の検出工程と、
前記動画像を構成する複数のフレームにおいて、前記第1の検出工程で検出された被写体の動き量が所定値を超えるフレームを検出する第2の検出工程と、
前記動画像を再生する際のフレームレートを設定する設定工程と、
前記動画像の画質状態を評価する評価工程と、を備え、
前記設定工程では、前記第2の検出工程での検出結果に基づく前記動画像のシーン変化に応じて、前記動画像を複数の期間に分け、当該複数の期間ごとに前記第2の検出工程の検出結果と前記評価工程の評価結果に基づいて、再生する際のフレームレートを設定し、前記動画像を、第1のフレームレートで再生する期間と前記第1のフレームレートよりも低い第2のフレームレートで再生する期間を設定できることを特徴とする画像処理装置の制御方法。
a first detection step of detecting a subject from the moving image acquired using the imaging means;
a second detection step of detecting a frame in which the amount of motion of the subject detected in the first detection step exceeds a predetermined value, among a plurality of frames constituting the moving image;
a setting step of setting a frame rate when reproducing the moving image;
and an evaluation step of evaluating the image quality state of the moving image,
In the setting step, the moving image is divided into a plurality of periods according to a scene change of the moving image based on the detection result in the second detecting step, and the second detecting step is performed for each of the plurality of periods. Based on the detection result and the evaluation result of the evaluation step , a frame rate for reproduction is set, and a period during which the moving image is reproduced at a first frame rate and a second frame rate lower than the first frame rate are set. A control method for an image processing apparatus, characterized by being able to set a period for reproduction at a frame rate.
コンピュータを請求項1乃至4のうちいずれか1項に記載の画像処理装置の各手段として機能させることを特徴とするプログラム。 A program that causes a computer to function as each means of the image processing apparatus according to any one of claims 1 to 4.
JP2020128008A 2020-07-29 2020-07-29 IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM Active JP7175941B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020128008A JP7175941B2 (en) 2020-07-29 2020-07-29 IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020128008A JP7175941B2 (en) 2020-07-29 2020-07-29 IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016171099A Division JP6742862B2 (en) 2016-09-01 2016-09-01 Imaging device, image processing device, control method of imaging device, and program

Publications (2)

Publication Number Publication Date
JP2020182245A JP2020182245A (en) 2020-11-05
JP7175941B2 true JP7175941B2 (en) 2022-11-21

Family

ID=73024461

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020128008A Active JP7175941B2 (en) 2020-07-29 2020-07-29 IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM

Country Status (1)

Country Link
JP (1) JP7175941B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002042139A (en) 2000-07-25 2002-02-08 Hitachi Ltd Image recognition method and image display device
US20070189728A1 (en) 2005-12-22 2007-08-16 Lg Electronics Inc. Method of recording and reproducing surveillance images in DVR
JP2011188243A (en) 2010-03-09 2011-09-22 Panasonic Corp Signal processing apparatus and moving picture image capturing apparatus
JP2013046259A (en) 2011-08-24 2013-03-04 Olympus Imaging Corp Video apparatus, control method, and program
JP2013123172A (en) 2011-12-12 2013-06-20 Nikon Corp Imaging apparatus and program
JP2015106851A (en) 2013-11-29 2015-06-08 株式会社ニコン Digital camera

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002042139A (en) 2000-07-25 2002-02-08 Hitachi Ltd Image recognition method and image display device
US20070189728A1 (en) 2005-12-22 2007-08-16 Lg Electronics Inc. Method of recording and reproducing surveillance images in DVR
JP2011188243A (en) 2010-03-09 2011-09-22 Panasonic Corp Signal processing apparatus and moving picture image capturing apparatus
JP2013046259A (en) 2011-08-24 2013-03-04 Olympus Imaging Corp Video apparatus, control method, and program
JP2013123172A (en) 2011-12-12 2013-06-20 Nikon Corp Imaging apparatus and program
JP2015106851A (en) 2013-11-29 2015-06-08 株式会社ニコン Digital camera

Also Published As

Publication number Publication date
JP2020182245A (en) 2020-11-05

Similar Documents

Publication Publication Date Title
US8629915B2 (en) Digital photographing apparatus, method of controlling the same, and computer readable storage medium
US9769377B2 (en) Imaging apparatus and control method for handling a raw image of a moving image or a still image
US20140153900A1 (en) Video processing apparatus and method
JP5623256B2 (en) Imaging apparatus, control method thereof, and program
KR101871675B1 (en) Image capturing apparatus and control method therefor
JP2008139683A (en) Imaging apparatus and autofocus control method
JP2018207497A (en) Image processing apparatus and image processing method, imaging apparatus, program, and storage medium
JP5158409B2 (en) Imaging apparatus and program thereof
US20170353648A1 (en) Imaging apparatus
KR101721226B1 (en) digital image signal processing apparatus and method for controlling the same
US11184551B2 (en) Imaging apparatus and control method thereof
JP5197801B2 (en) Movie reproduction system and photographing apparatus
JP7246894B2 (en) Imaging device and its control method
JP7175941B2 (en) IMAGE PROCESSING APPARATUS, CONTROL METHOD FOR IMAGE PROCESSING APPARATUS, AND PROGRAM
JP2019057794A (en) Imaging apparatus, control method of the same, program, and recording medium
JP6075829B2 (en) IMAGING DEVICE, CAMERA SYSTEM, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP5832618B2 (en) Imaging apparatus, control method thereof, and program
JP2011233985A (en) Image processing system and its control method
JP6742862B2 (en) Imaging device, image processing device, control method of imaging device, and program
JP2008205953A (en) Imaging device and image reproducing device
JP5300627B2 (en) Imaging apparatus, control method thereof, and program
JP4110007B2 (en) Digital movie video camera and video playback device
US20240251164A1 (en) Image processing apparatus, control method therefor, and storage medium
US20230247172A1 (en) Image capturing apparatus, image processing apparatus, methods for controlling these and storage medium
US20220321742A1 (en) Image processing apparatus that carries out noise reduction process when playing video, image processing method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221109

R151 Written notification of patent or utility model registration

Ref document number: 7175941

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151