[go: up one dir, main page]

JPWO2020170304A1 - 学習装置及び方法、予測装置及び方法、並びにプログラム - Google Patents

学習装置及び方法、予測装置及び方法、並びにプログラム Download PDF

Info

Publication number
JPWO2020170304A1
JPWO2020170304A1 JP2021501159A JP2021501159A JPWO2020170304A1 JP WO2020170304 A1 JPWO2020170304 A1 JP WO2020170304A1 JP 2021501159 A JP2021501159 A JP 2021501159A JP 2021501159 A JP2021501159 A JP 2021501159A JP WO2020170304 A1 JPWO2020170304 A1 JP WO2020170304A1
Authority
JP
Japan
Prior art keywords
data
loss function
remaining life
learning
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021501159A
Other languages
English (en)
Inventor
あずさ 澤田
剛志 柴田
勝彦 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020170304A1 publication Critical patent/JPWO2020170304A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/024Quantitative history assessment, e.g. mathematical relationships between available data; Functions therefor; Principal component analysis [PCA]; Partial least square [PLS]; Statistical classifiers, e.g. Bayesian networks, linear regression or correlation analysis; Neural networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/0227Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions
    • G05B23/0235Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions based on a comparison with predetermined threshold or range, e.g. "classical methods", carried out during normal operation; threshold adaptation or choice; when or how to compare with the threshold
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G05B23/0254Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model based on a quantitative model, e.g. mathematical relationships between inputs and outputs; functions: observer, Kalman filter, residual calculation, Neural Networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0283Predictive maintenance, e.g. involving the monitoring of a system and, based on the monitoring results, taking decisions on the maintenance schedule of the monitored system; Estimating remaining useful life [RUL]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Debugging And Monitoring (AREA)

Abstract

早期に異常を予測することができるモデルを作成する。データ系列群(101)は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含む。時刻ラベル(102)は、データ系列群(101)中のデータのそれぞれに付加された時刻情報である。状態ラベル(103)は、データ系列群(101)中の一部のデータに付加される。損失関数制御手段(104)は、時刻ラベル(102)及び状態ラベル(103)に基づいて、学習に用いられる損失関数を決定する。しきい値(108)は、損失関数制御手段の場合分け条件を調整するために用いられる。回帰器(105)は、モデルであり、異常検知又は余寿命予測をするために使用される。辞書(107)は、回帰器(105)のパラメータを格納する。回帰器学習手段(106)は、損失関数制御手段(104)で決定された損失関数を元に回帰器(105)を学習する。

Description

本開示は、学習装置、方法、及びコンピュータ可読媒体に関し、更に詳しくは、例えば観測対象の状態などを推定するモデルを作成する学習装置、方法、及びコンピュータ可読媒体に関する。
また、本開示は、予測装置、方法、及びコンピュータ可読媒体に関し、更に詳しくは、例えば観測対象の状態などを推定する予測装置、方法、及びコンピュータ可読媒体に関する。
構造物やプラントなどの管理において、各部位に劣化や故障などの異常が発生しないように、適切に検査や保守を実施することが求められる。検査や保守などの進め方の基準として、以前は一律の定期的な実施が普通であった。これに対し、近年では、検査や保守などの進め方の基準は、各部位の状態を基準とする方法に移行している。特に、確実に対処が必要になるまでの余寿命予測を用いて、各部位について猶予が分かれば、過剰な検査や交換などを避けることができる。また、優先度が高いものから順に対処を進めることができる。
特許文献1は、関連技術として、プラントなどの異常を予期して余寿命を計算する予兆診断システムを開示する。特許文献1に記載の予兆診断システムは、機械設備に設置した複数のセンサから、センサデータを時系列データとして取得し、時系列データを学習データとした統計的手法を用いて、機械設備の異常や性能などの状態を示す指標である状態測度を算出する。予兆診断システムは、過去から現在までの状態測度の推移を、多項式を用いて近似した近似式を算出し、その近似式を用いて、将来の所定の時点までの状態測度を推定する。特許文献1では、現在の時刻から推定された状態測度がしきい値に達する時刻までの時間が、余寿命として算出される。
特許第5827425号
特許文献1では、過去における異常や性能低下の推移に基づいて、将来の異常や性能低下の推移が推定される。しかしながら、特許文献1では、例えば用いられる指標で検出できる異常が生じる前は、余寿命を算出することができず、早期に異常を予測することができない。
本開示は、上記事情に鑑み、早期に異常を予測することができるモデルを作成できる学習装置、方法、及びコンピュータ可読媒体を提供することを目的とする。
また、本開示は、早期に異常を予測することのできるモデルを用いて、異常な状態などが予測可能な予測装置、方法、及びコンピュータ可読媒体を提供することを目的とする。
上記目的を達成するために、本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、前記損失関数制御手段の場合分け条件を調整するためのしきい値と、異常検知又は余寿命予測をするためのモデルと、前記モデルのパラメータを格納する辞書と、前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段とを備える学習装置を提供する。
本開示は、また、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法を提供する。
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体を提供する。
本開示は、上記学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置を提供する。
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法を提供する。
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体を提供する。
本開示に係る学習装置、方法、及びコンピュータ可読媒体は、早期に異常などを予測することができるモデルを作成することができる。
また、本開示に係る予測装置、方法、及びコンピュータ可読媒体は、早期に異常などを予測することができるモデルを用いて、異常な状態などを予測することができる。
本開示の第1実施形態に係る学習装置を示すブロック図。 データ系列群に含まれるデータ系列、時刻ラベル、状態ラベル、及び損失関数が0になる回帰結果を模式的に示す図。 学習装置の動作手順を示すフローチャート。 本開示の第2実施形態に係る学習装置を示すブロック図。 異常予測装置を示すブロック図。 情報処理装置の構成例を示すブロック図。
以下、図面を参照しつつ、本開示の実施の形態を説明する。図1は、本開示の第1実施形態に係るモデル作成装置(学習装置)を示す。学習装置100は、データ系列群101、時刻ラベル102、状態ラベル103、損失関数制御手段104、回帰器105、回帰器学習手段106、辞書107、及びしきい値108を有する。
データ系列群101は、同一物を離散的に観測したデータの系列から成る。データ系列群101は、同一物を離散的な時刻又は離散的な条件で観測して系列状に取得されたデータの集まりである。ここで、離散的とは、ビデオ画像のように連続した等間隔な時刻に限らない、不連続な時刻、日時、又は年代での撮影を含むことを意味している。例えば、データ系列群101は、同一患者の同一器官を異なる日時に撮影した画像データを含み得る。
なお、同一の系列として取得されたデータは、同一物のみを捉えたものには限定されず、対応しない領域を含んでいてもよい。同一の系列として取得されたデータが対応しない領域を含む場合は、既存の技術などを用いて、画像上の位置などデータ同士の対応関係が分かればよい。その場合、データ系列群101は、対応する領域同士が同じ系列をなすように分割して考えることができる。各データは、画像データに限定されず、異常検知に有効な可能性のある指標群、或いは、一定の時間幅を持つような時系列信号であってもよいし、またそれらの複合系でもよい。
時刻ラベル102は、データ系列群中の各データに付加された時刻情報である。時刻ラベル102は、データ系列群101中の各系列中のデータがそれぞれ取得された時刻を示す。時刻ラベル102の値に基づいてデータの取得時点での余寿命を算出することができ、時刻ラベル102を学習に用いることができる。
状態ラベル103は、データ系列群中の一部のデータに付加された状態を示すラベルである。状態ラベル103は、データ系列群101中のデータに対して付与される異常か否かを示すラベルデータを示す。正解ラベルは、欠陥や病巣など異常として検知したい対象を正例、正常な場合を負例とするクラス、或いはそのクラスがデータ中の領域ごとに対応付けられたものである。ただし、正例は複数種類があってもよい。状態ラベル103は、必ずしも同じ系列内の全てのデータに付与されている必要はない。状態ラベル103は、最も大きい時刻ラベル102を持つデータ、及び正例には付与されているものとする。
ここで、状態ラベル103が正例であるデータを含むデータ系列では、系列中で初めに正例となったデータの時刻ラベル102を基準として遡ることで、各データの余寿命が定義できる。状態ラベル103が正例であるデータを含まないデータ系列に対しては余寿命が定義できない。しかしながら、後述の損失関数制御手段104を用いることで、学習に用いられる損失関数は定義される。
損失関数制御手段104は、時刻ラベル102及び状態ラベル103の値に基づいて、学習に用いられる損失関数を決定する。損失関数制御手段104は、例えば、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する。回帰器105は、データから余寿命を予測するモデルを含む。回帰器学習手段106は、学習手段であり、損失関数制御手段104で得られた損失関数を元に回帰器105を最適化する。辞書107は、回帰器学習手段106により調整される回帰器105のパラメータを格納する。しきい値(しきい値記憶手段)108は、損失関数制御手段104の場合分け条件を調整するためのしきい値を記憶する。
図2は、データ系列群に含まれるデータ系列、時刻ラベル、状態ラベル、及び損失関数が0になる回帰結果を模式的に示している。データ系列群101中の正例データを含む系列は、例えば図2のデータ201〜204のような複数のデータから成る。データ201〜204は、同じ対象物の時間経過に伴う変化を観察したデータである。時刻ラベル102であるラベルT3〜T0は、データ201〜204のそれぞれに付与される。一方、状態ラベル103であるラベル208〜211は、データの全て又は一部に付与される。
図2においてデータ203及び204には、異常であることを示す特徴206及び207が含まれている。データ203及び204は、特徴206及び207が含まれることで正例とみなされ、正例であることを示すラベル210及び211が与えられている。この例では、隣接するデータ202は、異常の予兆205を含む。しかしながら、データ202が取得された時点では予兆段階であるため、データ202には正のラベルは付与されていない。
データ201〜204のそれぞれについて、損失関数制御手段104が制御する損失関数は、図2において式212〜215で示されるように、回帰器105の予測値Yについて最小値0を取る。図2において、θはしきい値108を表す。式212〜215は、回帰器105の目的変数に対応する。予兆があるデータ202に対しては、異常が発生しているデータ203の時刻ラベルT1を基準として、余寿命T1−T2が目的変数となっている。一方、異常の予兆が現れる前のデータ201では、余寿命の予測が困難なため、しきい値θ以上の値であればよいという損失に置き換わっている。
損失関数制御手段104は、データ系列群101中の異常データ系列について、時刻ラベル102を、余寿命Tに換算する。損失関数制御手段104は、換算した余寿命Tが後述のしきい値108以下であれば、余寿命Tを目的変数とした回帰損失関数を返す。損失関数制御手段104は、そうでない場合は、しきい値108未満の予測に対してのみ正の値を持ち、しきい値108以上では0となるような片側損失関数を返す。つまり、損失関数制御手段104は、しきい値108以下の余寿命を持つデータについては余寿命を回帰する問題とする。損失関数制御手段104は、しきい値108を超える余寿命を持つデータ、或いは正常系列のデータについては、しきい値108を超える任意の数値を返すように、後述の回帰器学習手段106で学習させる。
損失関数Lは、具体的には、しきい値をθ、回帰器出力をY、余寿命をTとして、
C=1かつT≦θのとき L(Y,θ)=(Y−T)
C=0又はT>θのとき L(Y,θ)=max(0,θ−Y)
などと選ぶことができる。ここで、Cは、系列に正例が含まれるか否かを示す論理値を表す。損失関数の次数は変わってもよく、また損失関数には、求める予測精度に応じて誤差を許容するように変形したものを用いてもよい。
回帰器105は、一まとまりのデータ或いはその特徴量を入力として、異常が予期される場合には余寿命を予測する。回帰器105の出力は余寿命に対応する数値であるが、後述のしきい値108以上の出力は正常であることを意味するように学習される。また、回帰器105は、データが領域ごとに異なる状態ラベルと対応付けられている場合は、領域ごとに予測を行い、その結果からヒートマップの作成や領域検出を行ってもよい。
回帰器学習手段106は、損失関数制御手段104で決定された損失関数とデータ系列群101中のデータとの組から、回帰器105のパラメータを生成(最適化)する。回帰器学習手段106の学習結果として、残差やしきい値を用いて分類精度(性能指標)を評価することができる。回帰器学習手段106は、その値をもとにしきい値パラメータを調整するため、分類精度を損失関数制御手段104に渡してもよい。
回帰器学習手段106は、回帰器105がニューラルネットワークなどの場合は、損失関数を最小化するように勾配法でパラメータを最適化する。回帰器105に用いられるモデルは任意であり、例えば、モデルにはSVR(Support Vector Regression)やランダムフォレストなどが用いられる。回帰器学習手段106は、回帰器105のモデルに対応した最適化手法で、で用いられる方法で対応するものを採用する。
辞書107は、回帰器105のパラメータを記録する。回帰器学習手段106は、辞書107に記憶されるパラメータを更新する。辞書107は、回帰器105がニューラルネットワークの場合は、重みとバイアスなどを保持する。辞書107に記録されたパラメータは、回帰器105の動作において参照される。
しきい値108は、損失関数制御手段104の場合分けの境界を表すパラメータである。最適化については、例えばグリッド探索を行い、回帰器学習手段106から得られる回帰器105の性能指標から過剰な値か否かを判定することで調整する。最適化は、具体的には、以下のように行う。しきい値を増大する、すなわち損失関数を余寿命Tの回帰とする余寿命値の範囲を拡大していくとき、度を越えると、正常と差がなかった時刻のデータについても余寿命を予測させることになるが、それは困難である。そのため、そこでの学習の結果得られる回帰器105について、学習データ或いは検証用データに対する分類精度や余寿命予測精度の悪化が見られるので、一定以上の悪化が見られた時点でしきい値の拡大を停止すればよい。また、回帰器学習手段106の最適化で、このしきい値108を拡大するための罰則項を損失関数に付加しておき、回帰器と同時にしきい値を最適化してもよい。また、異常のクラスを複数あるとみなす場合などに、それに合わせてしきい値を複数保持し、使い分けてもよい。
続いて、動作手順を説明する。図3は、学習装置100の動作手順(学習方法)を示す。損失関数制御手段104は、しきい値108を初期化する(ステップS1)。損失関数制御手段104は、データ系列群101中の各データ系列に対して、時刻ラベル102と状態ラベル103に基づいて損失関数を決定する(ステップS2)。
回帰器学習手段106は、得られた損失関数とデータ系列群101中のデータとの組を用いて回帰器105を学習し、辞書107を更新する(ステップS3)。回帰器学習手段106は、得られた学習結果から、その時点で用いたしきい値が過剰に拡大していないかを評価する(ステップS4)。回帰器学習手段106は、ステップS4では、例えば学習結果としての予測精度が所定の予測精度より劣化しているか否かを判断することで、しきい値が過剰に拡大しているか否かを評価する。
回帰器学習手段106は、予測精度が劣化していなかった場合は、余寿命予測を行う範囲を拡大するように、しきい値108を更新する(ステップS5)。その後、処理は、ステップS2に戻り、損失関数制御手段104は損失関数を決定する。回帰器学習手段106は、予測精度が劣化していると判断した場合は、しきい値をその時点で固定し、或いはその直前の値に戻し、必要に応じて回帰器105の再学習を行って処理を終了する。
本実施形態では、損失関数制御手段104は、余寿命が予測可能な範囲では余寿命の回帰が学習され、また正常なデータや余寿命予測が困難な範囲のデータに対しては一定以上の値が返されるように、損失関数を制御する。回帰器学習手段106は、その境目となる余寿命の値を、しきい値108として調整する。このしきい値108を、回帰器105の予測精度が低下しない範囲で大きくするように最適化することで、異常の早期検知が可能となる。
本実施形態では、あらかじめ選んだ異常度の推移を外挿するのではなく、単一のデータからの予測として扱う。また、予測の早期性を制御するパラメータを導入することで、更なる早期異常予測やそれに有効な特徴抽出を学習できる。このため、学習装置100は、可能な限り早期の異常予測、及び余寿命推定が可能な回帰器105を学習することができる。
次いで、本開示の第2実施形態を説明する。図4は、本開示の第2実施形態に係るモデル作成装置(学習装置)を示す。学習装置400は、データ系列群401、時刻ラベル402、状態ラベル403、損失関数制御手段404、分類器405、分類器学習手段406、辞書407、及びしきい値408を有する。
ここで、余寿命予測において、あらかじめ要求する精度が決まっているときなどには、回帰ではなく順序クラスの分類として取り扱うことができる。すなわち、余寿命を適当な幅のビンに区切り、それぞれをクラスとして正解付けてもよい。その場合、図1に示される回帰器105、及び回帰器学習手段106に代えて、分類器405、及び分類器学習手段406が用いられる。他の点は、第1実施形態と同様でよい。
学習装置400において、損失関数制御手段404は、あらかじめ与えた大きさのビンで余寿命を区切り、しきい値408に応じて正常クラスとして扱う範囲と、正常クラスとして扱わない範囲との境目を決める。そして、損失関数制御手段404は、用いられる損失関数を、正常クラスとして扱う範囲のクラス間の混同を許す形にする。損失関数制御手段403は、例えば、クラス分類に用いられる交差エントロピーなどについて、正常クラスとして扱う範囲のクラスを区別しない形に変更すればよい。しきい値408は、第1実施形態におけるしきい値108と同様に、分類器405の精度が低下しない範囲で大きくなるように調整される。このような学習装置400が用いられる場合も、第1実施形態と同様な効果が得られる。
なお、図1に示される学習装置100を用いて学習された回帰器105は、異常予測装置に用いることができる。図5は、異常予測装置(予測装置)を示す。異常予測装置500は、回帰器502、辞書503、及びしきい値504を有する。回帰器502には、データ501が入力される。データ501は、図1に示されるデータ系列群101の系列内の各データと同じ形式のデータである。回帰器502に代えて、学習装置400で学習された分類器405が用いられてもよい。
回帰器502は、辞書503に記憶されるパラメータを反映して、入力されたデータ501に対して回帰出力505を出力する。回帰出力505は、しきい値504とあわせて、次のように解釈され得る。しきい値504を超える回帰出力505については、正常データや余寿命が十分に長いデータである。一方、しきい値504以下の回帰出力505については、異常データであり、余寿命が回帰出力505に対応した数値になるとい予測結果である。異常予測装置500は、正常データ又は余寿命が所定の値よりも長いデータについてはしきい値504を超える値を出力し、しきい値以下の余寿命を持つ異常データに対しては余寿命を予測するという動作を行う。
上記した学習装置100及び400、並びに異常予測装置500は、コンピュータ装置として構成され得る。図6は、学習装置100若しくは400、又は異常予測装置500に用いられ得る情報処理装置(コンピュータ装置)の構成例を示す。情報処理装置600は、制御部(CPU:Central Processing Unit)610、記憶部620、ROM(Read Only Memory)630、RAM(Random Access Memory)640、通信インタフェース(IF:Interface)650、及びユーザインタフェース660を有する。
通信インタフェース650は、有線通信手段又は無線通信手段などを介して、情報処理装置600と通信ネットワークとを接続するためのインタフェースである。ユーザインタフェース660は、例えばディスプレイなどの表示部を含む。また、ユーザインタフェース660は、キーボード、マウス、及びタッチパネルなどの入力部を含む。
記憶部620は、各種のデータを保持できる補助記憶装置である。記憶部620は、必ずしも情報処理装置600の一部である必要はなく、外部記憶装置であってもよいし、ネットワークを介して情報処理装置600に接続されたクラウドストレージであってもよい。記憶部620は、例えば図1に示されるデータ系列群101、時刻ラベル102、及び状態ラベル103を記憶するために用いられ得る。また、記憶部620は、辞書107として用いられ得る。ROM630は、不揮発性の記憶装置である。ROM630には、例えば比較的容量が少ないフラッシュメモリなどの半導体記憶装置が用いられる。CPU610が実行するプログラムは、記憶部620又はROM630に格納され得る。
上記プログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、情報処理装置600に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記憶媒体を含む。非一時的なコンピュータ可読媒体の例は、例えばフレキシブルディスク、磁気テープ、又はハードディスクなどの磁気記録媒体、例えば光磁気ディスクなどの光磁気記録媒体、CD(compact disc)、又はDVD(digital versatile disk)などの光ディスク媒体、及び、マスクROM、PROM(programmable ROM)、EPROM(erasable PROM)、フラッシュROM、又はRAMなどの半導体メモリを含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体を用いてコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバなどの有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
RAM640は、揮発性の記憶装置である。RAM640には、DRAM(Dynamic Random Access Memory)又はSRAM(Static Random Access Memory)などの各種半導体メモリデバイスが用いられる。RAM640は、データなどを一時的に格納する内部バッファとして用いられ得る。CPU610は、記憶部620又はROM630に格納されたプログラムをRAM640に展開し、実行する。CPU610がプログラムを実行することで、例えば図1に示される損失関数制御手段104、回帰器105、及び回帰器学習手段106などの機能が実現される。
以上、本開示の実施形態を詳細に説明したが、本開示は、上記した実施形態に限定されるものではなく、本開示の趣旨を逸脱しない範囲で上記実施形態に対して変更や修正を加えたものも、本開示に含まれる。
例えば、上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、
前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、
前記データ系列群中の一部のデータに付加された状態ラベルと、
前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、
前記損失関数制御手段の場合分け条件を調整するためのしきい値と、
異常検知又は余寿命予測をするためのモデルと、
前記モデルのパラメータを格納する辞書と、
前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段と
を備える学習装置。
[付記2]
前記損失関数制御手段は、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する付記1に記載の学習装置。
[付記3]
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命が前記しきい値以上の場合は、前記余寿命を目的変数とした損失関数を前記学習に用いられる損失関数とし、前記余寿命が前記しきい値未満の場合は、前記モデルを用いて予測される余寿命の値が前記しきい値未満の場合に正の値を持ち、しきい値以上の場合は0となる損失関数を前記学習に用いられる損失関数とする付記1又は2に記載の学習装置。
[付記4]
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命をTとし、前記モデルを用いて予測される余寿命の値をYとし、前記データ系列に正例のデータが含まれるか否かを示す論理値をCとし、前記しきい値をθとした場合、C=1かつT≦θの場合は、YとTの差に応じた値となり、C=0又はT>θの場合、0とθ−Yのうち大きい方の値となる損失関数を、前記学習に用いられる損失関数とする付記1又は2に記載の学習装置。
[付記5]
前記学習手段は、前記モデルの性能指標に基づいて、前記しきい値を探索する付記1から4何れか1つに記載の学習装置。
[付記6]
前記学習手段は、前記性能指標が所定の性能指標よりも低くならない範囲で、前記しきい値を増加させる付記5に記載の学習装置。
[付記7]
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法。
[付記8]
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
[付記9]
付記1から6何れか1つに記載の学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置。
[付記10]
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法。
[付記11]
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
100、400:学習装置
101、401:データ系列群
102、402:時刻ラベル
103、403:状態ラベル
104、404:損失関数制御手段
105:回帰器
106:回帰器学習手段
107、407:辞書
108、408:しきい値
405:分類器
406:分類器学習手段
500:異常予測装置
501:データ
502:回帰器
503:辞書
504:しきい値
505:回帰出力
550 通信インタフェース
560 ユーザインタフェース

Claims (11)

  1. 同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、
    前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、
    前記データ系列群中の一部のデータに付加された状態ラベルと、
    前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、
    前記損失関数制御手段の場合分け条件を調整するためのしきい値と、
    異常検知又は余寿命予測をするためのモデルと、
    前記モデルのパラメータを格納する辞書と、
    前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段と
    を備える学習装置。
  2. 前記損失関数制御手段は、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する請求項1に記載の学習装置。
  3. 前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
    前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命が前記しきい値以上の場合は、前記余寿命を目的変数とした損失関数を前記学習に用いられる損失関数とし、前記余寿命が前記しきい値未満の場合は、前記モデルを用いて予測される余寿命の値が前記しきい値未満の場合に正の値を持ち、しきい値以上の場合は0となる損失関数を前記学習に用いられる損失関数とする請求項1又は2に記載の学習装置。
  4. 前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
    前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命をTとし、前記モデルを用いて予測される余寿命の値をYとし、前記データ系列に正例のデータが含まれるか否かを示す論理値をCとし、前記しきい値をθとした場合、C=1かつT≦θの場合は、YとTの差に応じた値となり、C=0又はT>θの場合、0とθ−Yのうち大きい方の値となる損失関数を、前記学習に用いられる損失関数とする請求項1又は2に記載の学習装置。
  5. 前記学習手段は、前記モデルの性能指標に基づいて、前記しきい値を探索する請求項1から4何れか1項に記載の学習装置。
  6. 前記学習手段は、前記性能指標が所定の性能指標よりも低くならない範囲で、前記しきい値を増加させる請求項5に記載の学習装置。
  7. 同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
    前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法。
  8. 同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
    前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
  9. 請求項1から6何れか1項に記載の学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、
    正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置。
  10. 同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
    正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法。
  11. 同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
    正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
JP2021501159A 2019-02-18 2019-02-18 学習装置及び方法、予測装置及び方法、並びにプログラム Pending JPWO2020170304A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/005848 WO2020170304A1 (ja) 2019-02-18 2019-02-18 学習装置及び方法、予測装置及び方法、並びにコンピュータ可読媒体

Publications (1)

Publication Number Publication Date
JPWO2020170304A1 true JPWO2020170304A1 (ja) 2021-12-02

Family

ID=72144225

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021501159A Pending JPWO2020170304A1 (ja) 2019-02-18 2019-02-18 学習装置及び方法、予測装置及び方法、並びにプログラム

Country Status (3)

Country Link
US (1) US20220128988A1 (ja)
JP (1) JPWO2020170304A1 (ja)
WO (1) WO2020170304A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7230231B2 (ja) * 2020-09-30 2023-02-28 グーグル エルエルシー 同じグループ内の異種サブグループ間でのロバストなモデル性能
US12189383B2 (en) * 2021-09-01 2025-01-07 Ford Global Technologies, Llc Methods and systems for estimating a remaining useful life of an asset
CN114357858B (zh) * 2021-12-06 2024-08-27 苏州方正璞华信息技术有限公司 一种基于多任务学习模型的设备劣化分析方法及系统
CN117009861B (zh) * 2023-10-08 2023-12-15 湖南国重智联工程机械研究院有限公司 一种基于深度学习的液压泵马达寿命预测方法和系统
CN118505206B (zh) * 2024-07-02 2024-11-29 湖南涛峻科技有限公司 一种消火栓易损件生命周期检测系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080250265A1 (en) * 2007-04-05 2008-10-09 Shu-Ping Chang Systems and methods for predictive failure management
WO2011036809A1 (ja) * 2009-09-28 2011-03-31 株式会社 東芝 異常判定システムおよびその方法
JP2018097723A (ja) * 2016-12-15 2018-06-21 ファナック株式会社 Nandフラッシュメモリの寿命を予測する機械学習装置、寿命予測装置、数値制御装置、生産システム、及び機械学習方法
WO2019092931A1 (ja) * 2017-11-07 2019-05-16 日本電気株式会社 判別モデル生成装置、判別モデル生成方法および判別モデル生成プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5827425B2 (ja) * 1976-11-27 1983-06-09 株式会社神戸製鋼所 バルブシ−ト
JP2002090266A (ja) * 2000-09-20 2002-03-27 Mitsui Eng & Shipbuild Co Ltd 余寿命予測装置
FI116132B (fi) * 2004-01-23 2005-09-30 Kone Corp Menetelmä ja järjestelmä automaattioven kunnonvalvontaan
CN109906132B (zh) * 2016-09-15 2022-08-09 谷歌有限责任公司 机器人操纵的深度强化学习
JP6661559B2 (ja) * 2017-02-03 2020-03-11 株式会社東芝 異常検出装置、異常検出方法およびプログラム
JP6575934B2 (ja) * 2017-03-29 2019-09-18 マツダ株式会社 車両運転支援システム及び車両運転支援方法
JP6557272B2 (ja) * 2017-03-29 2019-08-07 ファナック株式会社 状態判定装置
GB2567850B (en) * 2017-10-26 2020-11-04 Gb Gas Holdings Ltd Determining operating state from complex sensor data
JP6525044B1 (ja) * 2017-12-13 2019-06-05 オムロン株式会社 監視システム、学習装置、学習方法、監視装置及び監視方法
US20200050182A1 (en) * 2018-08-07 2020-02-13 Nec Laboratories America, Inc. Automated anomaly precursor detection
US11232368B2 (en) * 2019-02-20 2022-01-25 Accenture Global Solutions Limited System for predicting equipment failure events and optimizing manufacturing operations

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080250265A1 (en) * 2007-04-05 2008-10-09 Shu-Ping Chang Systems and methods for predictive failure management
WO2011036809A1 (ja) * 2009-09-28 2011-03-31 株式会社 東芝 異常判定システムおよびその方法
JP2018097723A (ja) * 2016-12-15 2018-06-21 ファナック株式会社 Nandフラッシュメモリの寿命を予測する機械学習装置、寿命予測装置、数値制御装置、生産システム、及び機械学習方法
WO2019092931A1 (ja) * 2017-11-07 2019-05-16 日本電気株式会社 判別モデル生成装置、判別モデル生成方法および判別モデル生成プログラム

Also Published As

Publication number Publication date
WO2020170304A1 (ja) 2020-08-27
US20220128988A1 (en) 2022-04-28

Similar Documents

Publication Publication Date Title
JPWO2020170304A1 (ja) 学習装置及び方法、予測装置及び方法、並びにプログラム
JP6896432B2 (ja) 故障予知方法、故障予知装置および故障予知プログラム
CN117542169B (zh) 基于大数据分析的自动化设备温度异常预警方法
EP3859455B1 (en) Learning apparatus, learning method, learning program, determination apparatus, determination method, determination program, and computer readable medium
JP7082461B2 (ja) 故障予知方法、故障予知装置および故障予知プログラム
JP6774636B2 (ja) 異常分析方法、プログラムおよびシステム
US20170061329A1 (en) Machine learning management apparatus and method
JP7201844B2 (ja) グラディエントベースのセンサ識別を利用した障害予測
CN110486913A (zh) 空调的控制方法、装置、设备、空调和存储介质
JP6847787B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
JP6936650B2 (ja) モデル学習装置、学習済みモデルの生成方法、プログラム、学習済みモデル、監視装置、および監視方法
JP2018077779A (ja) センサインタフェース装置、測定情報通信システム、測定情報通信方法、及び測定情報通信プログラム
EP3904987B1 (en) Control support apparatus, control support method, control support program, computer readable medium with control support program recorded thereon and control system
CN112926636A (zh) 牵引变流器柜体温度异常检测方法和装置
JP6178768B2 (ja) 品質管理装置およびその管理方法
CN116205885A (zh) 异常状态检测方法、系统、电子设备及可读存储介质
JP2024003643A (ja) ニューラルネットワークの学習方法、コンピュータプログラム、及び余寿命予測システム
US11585732B2 (en) Apparatus and method for diagnosing failure of plant
CN111832693A (zh) 神经网络层运算、模型训练方法、装置及设备
CN118939487A (zh) 一种基于IIoT的工业边缘机房硬盘故障预测方法
CN107956731A (zh) 电站空冷风机频率变化对机组背压参数影响的预测方法
US7814034B2 (en) Method and system for automatically developing a fault classification system by segregation of kernels in time series data
CN116194945A (zh) 信息处理装置、信息处理方法和信息处理程序
US20210174231A1 (en) Model generation device, model generation method, and non-transitory recoding medium
EP4279876B1 (en) Data recording apparatus, data recording method, and data recording program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210802

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210802

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221011

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230404