[go: up one dir, main page]

JP2019117458A - 制御装置及び機械学習装置 - Google Patents

制御装置及び機械学習装置 Download PDF

Info

Publication number
JP2019117458A
JP2019117458A JP2017250018A JP2017250018A JP2019117458A JP 2019117458 A JP2019117458 A JP 2019117458A JP 2017250018 A JP2017250018 A JP 2017250018A JP 2017250018 A JP2017250018 A JP 2017250018A JP 2019117458 A JP2019117458 A JP 2019117458A
Authority
JP
Japan
Prior art keywords
processing
pid control
learning
environment
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017250018A
Other languages
English (en)
Other versions
JP6680756B2 (ja
Inventor
宏祐 宇野
Kosuke Uno
宏祐 宇野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP2017250018A priority Critical patent/JP6680756B2/ja
Priority to DE102018010054.6A priority patent/DE102018010054A1/de
Priority to US16/225,775 priority patent/US10895852B2/en
Priority to CN201811601640.2A priority patent/CN109960219B/zh
Publication of JP2019117458A publication Critical patent/JP2019117458A/ja
Application granted granted Critical
Publication of JP6680756B2 publication Critical patent/JP6680756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B11/00—Automatic controllers
    • G05B11/01—Automatic controllers electric
    • G05B11/36—Automatic controllers electric with provision for obtaining particular characteristics, e.g. proportional, integral, differential
    • G05B11/42—Automatic controllers electric with provision for obtaining particular characteristics, e.g. proportional, integral, differential for obtaining a characteristic which is both proportional and time-dependent, e.g. P. I., P. I. D.
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4063—Monitoring general control system
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4065—Monitoring tool breakage, life or condition
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/414—Structure of the control system, e.g. common controller or multiprocessor systems, interface to servo, programmable interface controller
    • G05B19/4142—Structure of the control system, e.g. common controller or multiprocessor systems, interface to servo, programmable interface controller characterised by the use of a microprocessor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/33—Director till display
    • G05B2219/33034—Online learning, training
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/34—Director, elements to supervisory
    • G05B2219/34013—Servocontroller
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/37—Measurements
    • G05B2219/37252—Life of tool, service life, decay, wear estimation
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/37—Measurements
    • G05B2219/37254—Estimate wear of subsystem of machine with measures from other subsystems
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/42—Servomotor, servo controller kind till VSS
    • G05B2219/42018—Pid learning controller, gains adapted as function of previous error

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Automation & Control Theory (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Manufacturing & Machinery (AREA)
  • Human Computer Interaction (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Numerical Control (AREA)

Abstract

【課題】サイクルタイムを必要以上に増大させること無く、工具の寿命を延ばすことができるＰＩＤ制御のパラメータを決定することが可能な制御装置及び機械学習装置を提供すること。【解決手段】本発明の制御装置１が備える機械学習装置１００は、加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部１０６と、加工における工具の寿命の消耗の適否判定結果を示す工具寿命判定データ、及び加工におけるサイクルタイムの適否判定結果を示すサイクルタイム判定データを、判定データとして取得する判定データ取得部１０８と、加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習する学習部１１０と、を備える。【選択図】図２

Description

本発明は、制御装置及び機械学習装置に関する。
工作機械による加工をする際の従来技術として、主軸負荷を入力値としたＰＩＤ制御により、送り速度オーバライドを制御するスマートアダプティブコントロールという技術がある（例えば、特許文献１）。この技術を用いることにより、図８に示すように、負荷が低い部分では、オーバライドを増加させ、サイクルタイムの短縮を図り、負荷が高い部分では、オーバライドを減少させ、工具破損、オーバヒートを防止する。ＰＩＤ制御による出力は一般に数１式で算出することができる。なお、数１式ではＰＩＤ制御開始時の時刻をｔ0としている。
Figure 2019117458
図７は、従来技術によるＰＩＤ制御を用いたフィードバック制御のブロック線図の例を示している。主軸の負荷が一定になるように送り速度を制御する場合は、出力値Ｏ（ｔ）を送り速度（オーバライド）とし、ｅＬ（ｔ）を目標主軸負荷と時刻ｔでの主軸負荷との差分とし、定数に適切な値を設定することで主軸負荷を目標へ近づけることができる。切削していない状態、つまり主軸の空転時には送り速度を上げても主軸負荷は変動しないため、切削中、つまり主軸負荷が一定値以上に達しているときのみ制御を行うのが望ましい。
ＰＩＤ制御では、制御対象の状態（工作機械においては、例えば、機械構成や工具の種類、ワーク材質、切り込み量など）に応じてパラメータ（数１式、図７におけるＫｐ、Ｋｉ、Ｋｄのゲイン等）を調整することにより、該状態に合わせた適切なフィードバック制御を行うことができるようになる。ＰＩＤ制御は一般的なフィードバック制御であるため、例えば限界感度法などのような、経験的なゲインの設定方法が多数考案されている。また、特許文献２，３には、ＰＩＤ制御の動作を補償するためにニューラルネットを用いる技術が開示されている。
特表平０９−５００３３１号公報 特許平０７−０３６５０６号公報 国際公開第２００７／０４９４１２号
スマートアダプティブコントロールを用いて主軸負荷を目標負荷に保つことによる工具寿命の延長を試みる場合、ＰＩＤ制御のパラメータを変更し、そのパラメータの変更が工具寿命に対してどのように影響を与えたのかを確認する必要がある。しかしながら、パラメータの変更の影響が工具寿命に与えた影響は、実際に工具の寿命が来るまで使って見ないと判らない。一方で、ＰＩＤ制御のパラメータを最適化するためには、熟練した作業者が経験に基づいてパラメータを設定し、設定されたパラメータを用いて実際に加工を行ってみて、その結果を見て更にパラメータを調整するという作業を繰り返す必要があり、作業者の負担となる作業となっている。そして、このような２つの問題が相俟って、ＰＩＤ制御のパラメータと工具寿命の関係が把握できるまでには相応の時間が掛けなければできないという課題が生じる。
そこで本発明の目的は、サイクルタイムを必要以上に増大させること無く、工具の寿命を延ばすことができるＰＩＤ制御のパラメータを決定することが可能な制御装置及び機械学習装置を提供することである。
本発明では、工作機械を制御する制御装置に対して機械学習装置を導入し、機械学習により工作機械による加工のサイクルタイムを必要以上に増大させること無く、工具の寿命を延ばすことができるＰＩＤ制御のパラメータを学習及び決定することで上記課題を解決する。
そして、本発明の一態様は、加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御する際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う数値制御装置において、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習する機械学習装置を備え、前記機械学習装置は、前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記加工における前記工具の寿命の消耗の適否判定結果を示す工具寿命判定データ、及び前記加工におけるサイクルタイムの適否判定結果を示すサイクルタイム判定データを、判定データとして取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習する学習部と、を備える制御装置である。
本発明の他の態様は、加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御する際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う数値制御装置において、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習した機械学習装置を備え、前記機械学習装置は、前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習した学習部と、前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、ＰＩＤ制御のパラメータを出力する推定結果出力部と、を備える制御装置である。
本発明の他の態様は、加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御する際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う際の、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習する機械学習装置において、前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記加工における前記工具の寿命の消耗の適否判定結果を示す工具寿命判定データ、及び前記加工におけるサイクルタイムの適否判定結果を示すサイクルタイム判定データを、判定データとして取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習する学習部と、を備える機械学習装置である。
本発明の他の態様は、加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御する際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う際の、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習した機械学習装置において、前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習した学習部と、前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、ＰＩＤ制御のパラメータを出力する推定結果出力部と、を備える機械学習装置である。
本発明により、機械学習を応用してＰＩＤ制御のパラメータを算出することで、難しいＰＩＤ制御のパラメータ調整を自動化することが可能となり、適切なＰＩＤ制御のパラメータを設定することで、サイクルタイムをある程度維持したままで工具の長寿命化を図ることができる。
第１の実施形態による制御装置の概略的なハードウェア構成図である。 第１の実施形態による制御装置の概略的な機能ブロック図である。 制御装置の一形態を示す概略的な機能ブロック図である。 機械学習方法の一形態を示す概略的なフローチャートである。 ニューロンを説明する図である。 ニューラルネットワークを説明する図である。 制御装置を組み込んだシステムの一形態を示す概略的な機能ブロック図である。 従来技術によるＰＩＤ制御を用いたフィードバック制御のブロック線図の例である。 従来技術によるスマートアダプティブコントロールによる主軸負荷と送り速度の推移を例示する図である。
以下、本発明の実施形態を図面と共に説明する。
図１は第１の実施形態による制御装置の要部を示す概略的なハードウェア構成図である。制御装置１は、例えば工作機械を制御する制御装置として実装することができる。
本実施形態による制御装置１が備えるＣＰＵ１１は、制御装置１を全体的に制御するプロセッサである。ＣＰＵ１１は、ＲＯＭ１２に格納されたシステム・プログラムをバス２０を介して読み出し、該システム・プログラムに従って制御装置１全体を制御する。ＲＡＭ１３には一時的な計算データや表示データ、図示しない入力部を介してオペレータが入力した各種データ等が一時的に格納される。
不揮発性メモリ１４は、例えば図示しないバッテリでバックアップされるなどして、制御装置１の電源がオフされても記憶状態が保持されるメモリとして構成される。不揮発性メモリ１４には、インタフェース１５を介して外部機器７２から読み込まれた加工プログラムや表示器／ＭＤＩユニット７０を介して入力された加工プログラム、制御装置１の各部や工作機械から取得された各種データ（例えば、工作機械の加工条件、工具やワークの情報、工作機械の各軸位置等）が記憶されている。不揮発性メモリ１４に記憶された加工プログラムや各種データは、実行時／利用時にはＲＡＭ１３に展開されても良い。また、ＲＯＭ１２には、公知の解析プログラムなどの各種のシステム・プログラム（後述する機械学習装置１００とのやりとりを制御するためのシステム・プログラムを含む）があらかじめ書き込まれている。
インタフェース１５は、制御装置１とアダプタ等の外部機器７２と接続するためのインタフェースである。外部機器７２側からはプログラムや各種パラメータ等が読み込まれる。また、制御装置１内で編集したプログラムや各種パラメータ等は、外部機器７２を介して外部記憶手段に記憶させることができる。ＰＭＣ（プログラマブル・マシン・コントローラ）１６は、制御装置１に内蔵されたシーケンス・プログラムで工作機械及び該工作機械の周辺装置（例えば、工具交換用のロボットハンドといったアクチュエータ）にＩ／Ｏユニット１７を介して信号を出力し制御する。また、工作機械の本体に配備された操作盤の各種スイッチ等の信号を受け、必要な信号処理をした後、ＣＰＵ１１に渡す。
表示器／ＭＤＩユニット７０はディスプレイやキーボード等を備えた手動データ入力装置であり、インタフェース１８は表示器／ＭＤＩユニット７０のキーボードからの指令，データを受けてＣＰＵ１１に渡す。インタフェース１９は各軸を手動で駆動させる際に用いる手動パルス発生器等を備えた操作盤７１に接続されている。
工作機械が備える軸を制御するための軸制御回路３０はＣＰＵ１１からの軸の移動指令量を受けて、軸の指令をサーボアンプ４０に出力する。サーボアンプ４０はこの指令を受けて、工作機械が備える軸を移動させるサーボモータ５０を駆動する。軸のサーボモータ５０は位置・速度検出器を内蔵し、この位置・速度検出器からの位置・速度フィードバック信号を軸制御回路３０にフィードバックし、位置・速度のフィードバック制御を行う。なお、図１のハードウェア構成図では軸制御回路３０、サーボアンプ４０、サーボモータ５０は１つずつしか示されていないが、実際には制御対象となる工作機械に備えられた軸の数だけ用意される。
スピンドル制御回路６０は、製造機械への主軸回転指令を受け、スピンドルアンプ６１にスピンドル速度信号を出力する。スピンドルアンプ６１はこのスピンドル速度信号を受けて、製造機械のスピンドルモータ６２を指令された回転速度で回転させ、工具を駆動する。スピンドルモータ６２にはポジションコーダ６３が結合され、ポジションコーダ６３が主軸の回転に同期して帰還パルスを出力し、その帰還パルスはＣＰＵ１１によって読み取られる。
インタフェース２１は、制御装置１と機械学習装置１００とを接続するためのインタフェースである。機械学習装置１００は、機械学習装置１００全体を統御するプロセッサ１０１と、システム・プログラム等を記憶したＲＯＭ１０２、機械学習に係る各処理における一時的な記憶を行うためのＲＡＭ１０３、及び学習モデル等の記憶に用いられる不揮発性メモリ１０４を備える。機械学習装置１００は、インタフェース２１を介して制御装置１で取得可能な各情報（例えば、加工プログラム、工作機械の加工条件、工具やワークの情報、工作機械の各軸位置等）を観測することができる。また、制御装置１は、機械学習装置１００から出力される、ＰＩＤ制御のパラメータの推定値を受けて、工作機械を制御する。
図２は、第１の実施形態による制御装置１と機械学習装置１００の概略的な機能ブロック図である。図２に示した各機能ブロックは、図１に示した制御装置１が備えるＣＰＵ１１、及び機械学習装置１００のプロセッサ１０１が、それぞれのシステム・プログラムを実行し、制御装置１及び機械学習装置１００の各部の動作を制御することにより実現される。
本実施形態の制御装置１は、工作機械２から取得された（そして、不揮発性メモリ１４に記憶された）データに基づいて工具の寿命を推定する工具寿命推定部３２、不揮発性メモリ１４に記憶された加工プログラム及び機械学習装置１００から出力されたＰＩＤ制御のパラメータの推定値に基づいて工作機械２（が備えるサーボモータ５０及びスピンドルモータ６２）を制御する制御部３４を備える。
工具寿命推定部３２は、工作機械２から取得された主軸負荷乃至送り速度に基づいて、主軸に取り付けられた工具の寿命を推定する機能手段である。一般に、同じ加工条件（工具、送り速度、主軸回転数、切り込み量等）でワークを加工した場合、工具の寿命が短くなるほど主軸に係る負荷が大きくなる傾向にある。そこで、予め実験等を行い、加工条件毎に、主軸負荷と工具寿命との関係を求めておき、式やテーブル等の形で不揮発性メモリ１４に記憶しておく。そして、工具寿命推定部３２は、不揮発性メモリ１４に記憶された式やテーブル等を用いて工具の寿命を推定する。なお、本実施形態では、制御部３４は工作機械２の軸の動作をＰＩＤ制御により制御しているため、主軸負荷が一定になることを考慮し、加工条件及び目標主軸負荷毎に、送り速度と工具寿命との関係を求めておき、式やテーブル等の形で不揮発性メモリ１４に記憶しておいて、当該式やテーブル等を用いて、工具寿命推定部３２は、工具の寿命を推定するようにすればよい。
制御部３４は、ＰＩＤ制御により工作機械２の各軸の制御をする機能手段である。制御部３４は、予め設定された、または機械学習装置１００から出力された値に基づいて設定された各パラメータ（ゲインＫｐ、Ｋｉ、Ｋｄ、エアカット送り速度、オーバライドの上限下限等）を用いたＰＩＤ制御により工作機械２の各軸を制御する。
一方、制御装置１が備える機械学習装置１００は、工作機械２による加工の加工条件及び加工環境に対する、ＰＩＤ制御の適切なパラメータの推定を、いわゆる機械学習により自ら学習するためのソフトウェア（学習アルゴリズム等）及びハードウェア（プロセッサ１０１等）を含む。制御装置１が備える機械学習装置１００が学習するものは、工作機械２による加工の加工条件及び加工環境と、ＰＩＤ制御の適切なパラメータとの、相関性を表すモデル構造に相当する。
図２に機能ブロックで示すように、制御装置１が備える機械学習装置１００は、工作機械２による加工を制御するＰＩＤ制御のパラメータを示すパラメータデータＳ１、工作機械２による加工の加工条件を示す加工条件データＳ２、及び工作機械２による加工の加工環境を示す加工環境データＳ３を含む環境の現在状態を表す状態変数Ｓとして観測する状態観測部１０６と、設定されたＰＩＤ制御パラメータに基づいて為された工作機械２による加工において消耗する工具寿命を示す工具寿命判定データＤ１及びサイクルタイムを示すサイクルタイム判定データＤ２を含む判定データＤを取得する判定データ取得部１０８と、状態変数Ｓと判定データＤとを用いて、工作機械２による加工の加工条件及び加工環境と、ＰＩＤ制御の適切なパラメータを関連付けて学習する学習部１１０とを備える。
状態観測部１０６が観測する状態変数Ｓのうち、ＰＩＤ制御パラメータデータＳ１は、工作機械２による加工を制御するＰＩＤ制御のパラメータとして取得することができる。工作機械２による加工を制御するＰＩＤ制御のパラメータとしては、例えばＰＩＤ制御のゲインＫｐ、Ｋｉ、Ｋｄ、エアカット送り速度、オーバライドの上限値／下限値等が例示される。
ＰＩＤ制御パラメータデータＳ１は、機械学習装置１００が学習部１１０の学習結果に基づいて１つ前の学習周期に工作機械２で行われた加工の加工条件及び加工環境に対して、当該学習周期において決定したＰＩＤ制御のパラメータをそのまま用いることができる。このような手法を取る場合には、機械学習装置１００はＰＩＤ制御のパラメータを学習周期毎にＲＡＭ１０３に一時的に記憶しておき、状態観測部１０６は、ＲＡＭ１０３から１つ前の学習周期におけるＰＩＤ制御のパラメータを今回の学習周期のＰＩＤ制御パラメータデータＳ１として取得するようにしても良い。
状態観測部１０６が観測する状態変数Ｓのうち、加工条件データＳ２は、制御装置１に設定された加工条件、及び加工プログラムから取得された加工条件として取得することができる。制御装置１に設定された加工条件、及び加工プログラムから取得された加工条件としては、例えば工具種類、切り込み量、送り速度、主軸回転数等が例示される。
状態観測部１０６が観測する状態変数Ｓのうち、加工環境データＳ３は、制御装置１に設定された加工環境、及び工作機械２やセンサ等から取得された加工環境として取得することができる。制御装置１に設定された加工環境、及び工作機械２やセンサ等から取得された加工環境としては、工作機械２の機械構成、ワーク素材、環境温度、環境湿度等が挙げられる。
判定データ取得部１０８は、工具寿命判定データＤ１として、設定されたＰＩＤ制御パラメータに基づいて為された工作機械２による加工において消耗する工具寿命を用いることができる。判定データ取得部１０８が用いる工具寿命判定データＤ１としては、設定されたＰＩＤ制御パラメータに基づいて為された状態で実際に加工が行われた際に取得された加工に係るデータに基づいて工具寿命推定部３２により推定された工具寿命が１学習周期でどれだけ消耗したのかを算出し、その値が予め定めた閾値と比較してどれだけ良い（どれだけ工具寿命の消耗がどれだけ少なかったのか）乃至悪いのか（どれだけ多く工具寿命を消耗したのか）を示す値を用いるようにしても良いし、切削送り距離単位辺りの工具寿命の消耗量や、切削送り時間単位辺りの工具寿命の消耗量、同じＰＩＤ制御のパラメータの設定で下降を続けた場合に１工具で加工可能なワーク数、など、工具寿命の消耗を判定可能な値を求め、その値を工具寿命判定データＤ１として用いるようにしても良い。
また、判定データ取得部１０８は、サイクルタイム判定データＤ２として、設定されたＰＩＤ制御パラメータに基づいて為された工作機械２による加工によるサイクルタイムを用いることができる。判定データ取得部１０８が用いるサイクルタイム判定データＤ２としては、設定されたＰＩＤ制御パラメータに基づいて為された工作機械２による加工における実際の送り速度等に基づいて推定された１つのワークの加工に掛かる時間や、予め定めた所定時間内に加工することができるワークの個数等を示す値を用いるようにしても良い。
なお、判定データ取得部１０８は、学習部１１０による学習の段階では必須の構成となるが、学習部１１０による加工条件及び加工環境とＰＩＤ制御の適切なパラメータとを関連付けた学習が完了した後には必ずしも必須の構成ではない。例えば、学習が完了した機械学習装置１００を顧客に出荷する場合等には、判定データ取得部１０８を取り外して出荷するようにしても良い。
学習部１１０に対して同時に入力される状態変数Ｓは、学習部１１０による学習周期で考えた場合、判定データＤが取得された１学習周期前のデータに基づくものとなる。このように、制御装置１が備える機械学習装置１００が学習を進める間、環境においては、加工条件データＳ２及び加工環境データＳ３の取得、取得した各データに基づいて推定されたＰＩＤ制御パラメータデータＳ１に基づいたＰＩＤ制御により制御された工作機械２による加工、判定データＤの取得が繰り返し実施される。
学習部１１０は、機械学習と総称される任意の学習アルゴリズムに従い、工作機械２による加工の加工条件及び加工環境に対する、ＰＩＤ制御のパラメータを学習する。学習部１１０は、前述した状態変数Ｓと判定データＤとを含むデータ集合に基づく学習を反復実行することができる。工作機械２による加工の加工条件及び加工環境に対する、ＰＩＤ制御のパラメータの学習サイクルの反復中、状態変数Ｓは、上記したように１学習周期前における工作機械２による加工の加工条件及び加工環境、及び１学習周期前において決定されたＰＩＤ制御のパラメータから取得し、また判定データＤは、設定されたＰＩＤ制御のパラメータに基づいて制御される工作機械２による加工の適否判定結果とする。
このような学習サイクルを繰り返すことにより、学習部１１０は、工作機械２による加工における加工条件及び加工環境と、ＰＩＤ制御のパラメータとの相関性を暗示する特徴を自動的に識別することができる。学習アルゴリズムの開始時には工作機械２による加工における加工条件及び加工環境と、ＰＩＤ制御のパラメータの相関性は実質的に未知であるが、学習部１１０は、学習を進めるに従い徐々に特徴を識別して相関性を解釈する。工作機械２による加工における加工条件及び加工環境と、ＰＩＤ制御のパラメータとの相関性が、ある程度信頼できる水準まで解釈されると、学習部１１０が反復出力する学習結果は、現在状態（つまり工作機械２による加工における加工条件及び加工環境）に対して、ＰＩＤ制御のパラメータをどう設定するべきかという行動の選択（つまり意思決定）を行うために使用できるものとなる。つまり学習部１１０は、学習アルゴリズムの進行に伴い、工作機械２による加工における加工条件及び加工環境に対してＰＩＤ制御のパラメータをどのように設定するべきかという行動との、相関性を最適解に徐々に近づけることができる。
推定結果出力部１２２は、学習部１１０が学習した結果に基づいて、ＰＩＤ制御のパラメータを決定し、決定したＰＩＤ制御のパラメータを制御部３４へと出力する。推定結果出力部１２２は、学習部１１０による学習が完了した状態において、機械学習装置１００に工作機械２による加工における加工条件及び加工環境が入力されると、ＰＩＤ制御のパラメータを出力する。
上記したように、制御装置１が備える機械学習装置１００は、状態観測部１０６が観測した状態変数Ｓと判定データ取得部１０８が取得した判定データＤとを用いて、学習部１１０が機械学習アルゴリズムに従い、工作機械２による加工における加工条件及び加工環境に対するＰＩＤ制御のパラメータを学習するものである。状態変数Ｓは、ＰＩＤ制御パラメータデータＳ１、加工条件データＳ２、及び加工環境データＳ３といったデータで構成され、また判定データＤは、制御装置１が工作機械２から取得した情報を解析することで一義的に求められる。したがって、制御装置１が備える機械学習装置１００によれば、学習部１１０の学習結果を用いることで、工作機械２による加工における加工条件及び加工環境に応じた、ＰＩＤ制御のパラメータを、自動的かつ正確に行うことが可能となる。
そして、ＰＩＤ制御のパラメータの設定を、自動的に行うことができれば、工作機械２による加工の加工条件（加工条件データＳ２）及び加工環境（加工環境データＳ３）を把握するだけで、ＰＩＤ制御のパラメータの適切な値を迅速に決定することができる。したがって、ＰＩＤ制御のパラメータの設定を効率よく行うことができる。
本実施形態の制御装置１が備える機械学習装置１００の一変形例として、状態観測部１０６は、加工条件データＳ２として、更に主軸の目標負荷を示す目標負荷を観測するようにしても良い。目標負荷は、制御装置１に対して作業者が設定した値を用いることができる。
上記変形例によれば、機械学習装置１００は、加工条件データＳ２として観測した目標負荷を考慮して、ＰＩＤ制御のパラメータの学習及び決定をすることができるので、設定された目標負荷に応じて適切なＰＩＤ制御のパラメータを決定できるようになる。
本実施形態の制御装置１が備える機械学習装置１００の他の変形例として、ＰＩＤ制御のパラメータとして目標負荷を用いるようにしてもよい。この場合、状態観測部１０６は、ＰＩＤ制御パラメータデータＳ１として、目標負荷をも観測するようにし、また、判定データ取得部１０８が工作機械２による加工の適否を判定するための判定データＤとして、１つの工具で加工可能なワーク数を示す加工可能ワーク数判定データＤ３を用いるようにすると良い。
上記変形例によれば、機械学習装置１００は、ＰＩＤ制御のパラメータとして目標負荷を用いることで、観測された加工条件及び加工環境において、他のＰＩＤ制御のパラメータにくわえて適切な目標負荷を決定することができるようになる。作業者は、予め１つの工具で加工可能なワーク数の判定基準を制御装置に設定しておくことで、設定された判定基準の範囲で工具をやりくりするために適切な目標負荷を自動的に設定し、工作機械２を制御することができるようになる。
本実施形態の制御装置１が備える機械学習装置１００の他の変形例として、判定データ取得部１０８が工作機械２による加工の適否を判定するための判定データＤとしての判定データＤとして、ＰＩＤ制御の安定性を示すＰＩＤ制御安定性データＤ４を用いるようにすると良い。判定データ取得部１０８は、ＰＩＤ制御安定性データＤ４として、ＰＩＤ制御における送り速度の振動発生の有無や、目標負荷到達時間等を用いることができる。
上記変形例によれば、機械学習装置１００は、ＰＩＤ制御安定性データＤ４によりＰＩＤ制御の安定性を判定することができるようになるため、制御動作が安定しないＰＩＤ制御のパラメータをなるべく選択しないような学習をすることができるようになる。
上記構成を有する機械学習装置１００では、学習部１１０が実行する学習アルゴリズムは特に限定されず、機械学習として公知の学習アルゴリズムを採用できる。図３は、図２に示す制御装置１の一形態であって、学習アルゴリズムの一例として強化学習を実行する学習部１１０を備えた構成を示す。強化学習は、学習対象が存在する環境の現在状態（つまり入力）を観測するとともに現在状態で所定の行動（つまり出力）を実行し、その行動に対し何らかの報酬を与えるというサイクルを試行錯誤的に反復して、報酬の総計が最大化されるような方策（本願の機械学習装置ではＰＩＤ制御のパラメータ）を最適解として学習する手法である。
図３に示す制御装置１が備える機械学習装置１００において、学習部１１０は、状態変数Ｓに基づいてＰＩＤ制御のパラメータの決定がされ、決定されたＰＩＤパラメータが設定が為された場合における工作機械２による加工の適否判定結果（状態変数Ｓが取得された次の学習周期で用いられる判定データＤに相当）に関連する報酬Ｒを求める報酬計算部１１２と、報酬Ｒを用いて、ＰＩＤ制御のパラメータの価値を表す関数Ｑを更新する価値関数更新部１１４とを備える。学習部１１０は、価値関数更新部１１４が関数Ｑの更新を繰り返すことによって工作機械２による加工における加工条件及び加工環境に対するＰＩＤ制御のパラメータをを学習する。
学習部１１０が実行する強化学習のアルゴリズムの一例を説明する。この例によるアルゴリズムは、Ｑ学習（Ｑ−ｌｅａｒｎｉｎｇ）として知られるものであって、行動主体の状態ｓと、その状態ｓで行動主体が選択し得る行動ａとを独立変数として、状態ｓで行動ａを選択した場合の行動の価値を表す関数Ｑ（ｓ，ａ）を学習する手法である。状態ｓで価値関数Ｑが最も高くなる行動ａを選択することが最適解となる。状態ｓと行動ａとの相関性が未知の状態でＱ学習を開始し、任意の状態ｓで種々の行動ａを選択する試行錯誤を繰り返すことで、価値関数Ｑを反復して更新し、最適解に近付ける。ここで、状態ｓで行動ａを選択した結果として環境（つまり状態ｓ）が変化したときに、その変化に応じた報酬（つまり行動ａの重み付け）ｒが得られるように構成し、より高い報酬ｒが得られる行動ａを選択するように学習を誘導することで、価値関数Ｑを比較的短時間で最適解に近付けることができる。
価値関数Ｑの更新式は、一般に下記の数２式のように表すことができる。数２式において、ｓt及びａtはそれぞれ時刻ｔにおける状態及び行動であり、行動ａtにより状態はｓt+1に変化する。ｒt+1は、状態がｓtからｓt+1に変化したことで得られる報酬である。ｍａｘＱの項は、時刻ｔ＋１で最大の価値Ｑになる（と時刻ｔで考えられている）行動ａを行ったときのＱを意味する。α及びγはそれぞれ学習係数及び割引率であり、０＜α≦１、０＜γ≦１で任意設定される。
Figure 2019117458
学習部１１０がＱ学習を実行する場合、状態観測部１０６が観測した状態変数Ｓ及び判定データ取得部１０８が取得した判定データＤは、更新式の状態ｓに該当し、現在状態（つまり、工作機械２による加工における加工条件及び加工環境）に対するＰＩＤ制御のパラメータをどのように決定するべきかという行動は、更新式の行動ａに該当し、報酬計算部１１２が求める報酬Ｒは、更新式の報酬ｒに該当する。よって価値関数更新部１１４は、現在状態に対するＰＩＤ制御のパラメータの価値を表す関数Ｑを、報酬Ｒを用いたＱ学習により繰り返し更新する。
報酬計算部１１２が求める報酬Ｒは、例えば、ＰＩＤ制御のパラメータを決定した後に、設定されたＰＩＤ制御のパラメータに基づく工作機械２による加工の適否判定結果が「適」と判定される場合（例えば、工具寿命の消耗が予め定めた閾値よりも小さかった場合、加工のサイクルタイムが縮んだ場合等）に正（プラス）の報酬Ｒとし、ＰＩＤ制御のパラメータを決定した後に、設定されたＰＩＤ制御のパラメータに基づく工作機械２による加工の適否判定結果が「否」と判定される場合（例えば、工具寿命の消耗が予め定めた閾値よりも大きかった場合、加工のサイクルタイムが延びた場合等）に負（マイナス）の報酬Ｒとすることができる。正負の報酬Ｒの絶対値は、互いに同一であってもよいし異なっていてもよい。また、判定の条件として、判定データＤに含まれる複数の値を組み合わせて判定するようにしても良い。
また、設定されたＰＩＤ制御のパラメータに基づく工作機械２による加工の適否判定結果を、「適」及び「否」の二通りだけでなく複数段階に設定することができる。例として、工作機械２による加工における工具寿命の指標として消耗量の閾値がＬmaxである場合、工作機械２による加工での工具寿命の消耗Ｌが、０≦Ｌ＜Ｌmax／５のときは報酬Ｒ＝５を与え、Ｌmax／５≦Ｌ＜Ｌmax／２のときは報酬Ｒ＝３を与え、Ｌmax／２≦Ｌ＜Ｌmaxのときは報酬Ｒ＝２を、Ｌmax≦Ｌのときは報酬Ｒ＝１を与えるような構成とすることができる。また、例えばＰＩＤ制御により軸の送り速度が振動してしまったり、目標負荷に到達しなかったりした場合等には大きなマイナス報酬を与える、といったように、学習の目的に合せて報酬の付与を適宜調整しても良い。更に、学習の初期段階は判定に用いる閾値を比較的大きく設定し、学習が進行するにつれて判定に用いる閾値を縮小する構成とすることもできる。
価値関数更新部１１４は、状態変数Ｓと判定データＤと報酬Ｒとを、関数Ｑで表される行動価値（例えば数値）と関連付けて整理した行動価値テーブルを持つことができる。この場合、価値関数更新部１１４が関数Ｑを更新するという行為は、価値関数更新部１１４が行動価値テーブルを更新するという行為と同義である。Ｑ学習の開始時には環境の現在状態とＰＩＤ制御のパラメータとの相関性は未知であるから、行動価値テーブルにおいては、種々の状態変数Ｓと判定データＤと報酬Ｒとが、無作為に定めた行動価値の値（関数Ｑ）と関連付けた形態で用意されている。なお報酬計算部１１２は、判定データＤが分かれば、これに対応する報酬Ｒを直ちに算出でき、算出した値Ｒが行動価値テーブルに書き込まれる。
工作機械２による加工の適否判定結果に応じた報酬Ｒを用いてＱ学習を進めると、より高い報酬Ｒが得られる行動を選択する方向へ学習が誘導され、選択した行動を現在状態で実行した結果として変化する環境の状態（つまり状態変数Ｓ及び判定データＤ）に応じて、現在状態で行う行動についての行動価値の値（関数Ｑ）が書き換えられて行動価値テーブルが更新される。この更新を繰り返すことにより、行動価値テーブルに表示される行動価値の値（関数Ｑ）は、適正な行動（本発明の場合、工作機械２による加工のサイクルタイムが大きく増大しない範囲で工具寿命の消耗を抑える行動）であるほど大きな値となるように書き換えられる。このようにして、未知であった環境の現在状態（工作機械２にっよる加工の加工条件及び加工環境）とそれに対する行動（ＰＩＤ制御パラメータの決定）との相関性が徐々に明らかになる。つまり行動価値テーブルの更新により、工作機械２による加工における加工条件及び加工環境と、ＰＩＤ制御パラメータとの関係が最適解に徐々に近づけられる。
図４を参照して、学習部１１０が実行する上記したＱ学習のフロー（つまり機械学習方法の一形態）をさらに説明する。まずステップＳＡ０１で、価値関数更新部１１４は、その時点での行動価値テーブルを参照しながら、状態観測部１０６が観測した状態変数Ｓが示す現在状態で行う行動としてＰＩＤ制御のパラメータを無作為に選択する。次に価値関数更新部１１４は、ステップＳＡ０２で、状態観測部１０６が観測している現在状態の状態変数Ｓを取り込み、ステップＳＡ０３で、判定データ取得部１０８が取得している現在状態の判定データＤを取り込む。次に価値関数更新部１１４は、ステップＳＡ０４で、判定データＤに基づき、ＰＩＤ制御のパラメータが適当であったか否かを判断し、適当であった場合、ステップＳＡ０５で、報酬計算部１１２が求めた正の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。ステップＳＡ０４で、ＰＩＤ制御のパラメータが適当でなかったと判断した場合、ステップＳＡ０７で、報酬計算部１１２が求めた負の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。学習部１１０は、ステップＳＡ０１〜ＳＡ０７を繰り返すことで行動価値テーブルを反復して更新し、ＰＩＤ制御のパラメータの学習を進行させる。なお、ステップＳＡ０４からステップＳＡ０７までの報酬Ｒを求める処理及び価値関数の更新処理は、判定データＤに含まれるそれぞれのデータについて実行される。
前述した強化学習を進める際に、例えばニューラルネットワークを応用することができる。図５Ａは、ニューロンのモデルを模式的に示す。図５Ｂは、図５Ａに示すニューロンを組み合わせて構成した三層のニューラルネットワークのモデルを模式的に示す。ニューラルネットワークは、例えば、ニューロンのモデルを模した演算装置や記憶装置等によって構成できる。
図５Ａに示すニューロンは、複数の入力ｘ（ここでは一例として、入力ｘ1〜入力ｘ3）に対する結果ｙを出力するものである。各入力ｘ1〜ｘ3には、この入力ｘに対応する重みｗ（ｗ1〜ｗ3）が掛けられる。これにより、ニューロンは、次の数３式により表現される出力ｙを出力する。なお、数３式において、入力ｘ、出力ｙ及び重みｗは、すべてベクトルである。また、θはバイアスであり、ｆkは活性化関数である。
Figure 2019117458
図５Ｂに示す三層のニューラルネットワークは、左側から複数の入力ｘ（ここでは一例として、入力ｘ１〜入力ｘ３）が入力され、右側から結果ｙ（ここでは一例として、結果ｙ１〜結果ｙ３）が出力される。図示の例では、入力ｘ１、ｘ２、ｘ３のそれぞれに対応の重み（総称してｗ１で表す)が乗算されて、個々の入力ｘ１、ｘ２、ｘ３がいずれも３つのニューロンＮ１１、Ｎ１２、Ｎ１３に入力されている。
図５Ｂでは、ニューロンＮ１１〜Ｎ１３の各々の出力を、総称してｚ１で表す。ｚ１は、入カベクトルの特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ１のそれぞれに対応の重み（総称してｗ２で表す）が乗算されて、個々の特徴ベクトルｚ１がいずれも２つのニューロンＮ２１、Ｎ２２に入力されている。特徴ベクトルｚ１は、重みＷ１と重みＷ２との間の特徴を表す。
図５Ｂでは、ニューロンＮ２１〜Ｎ２２の各々の出力を、総称してｚ２で表す。ｚ２は、特徴ベクトルｚ１の特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ２のそれぞれに対応の重み（総称してｗ３で表す）が乗算されて、個々の特徴ベクトルｚ２がいずれも３つのニューロンＮ３１、Ｎ３２、Ｎ３３に入力されている。特徴ベクトルｚ２は、重みＷ２と重みＷ３との間の特徴を表す。最後にニューロンＮ３１〜Ｎ３３は、それぞれ結果ｙ１〜ｙ３を出力する。
なお、三層以上の層を為すニューラルネットワークを用いた、いわゆるディープラーニングの手法を用いることも可能である。
制御装置１が備える機械学習装置１００においては、ニューラルネットワークをＱ学習における価値関数として用い、状態変数Ｓと行動ａとを入力ｘとして、学習部１１０が上記したニューラルネットワークに従う多層構造の演算を行うことで、当該状態における当該行動の価値（結果ｙ）を出力することもできる。なお、ニューラルネットワークの動作モードには、学習モードと価値予測モードとがあり、例えば学習モードで学習データセットを用いて重みｗを学習し、学習した重みｗを用いて価値予測モードで行動の価値判断を行うことができる。なお価値予測モードでは、検出、分類、推論等を行うこともできる。
上記した制御装置１の構成は、プロセッサ１０１が実行する機械学習方法（或いはソフトウェア）として記述できる。この機械学習方法は、ＰＩＤ制御のパラメータを学習する機械学習方法であって、コンピュータのＣＰＵが、ＰＩＤ制御パラメータデータＳ１、加工条件データＳ２、及び加工環境データＳ３を、工作機械２において加工を行う環境の現在状態を表す状態変数Ｓとして観測するステップと、決定されたＰＩＤ制御のパラメータに基づく工作機械２による加工の適否判定結果を示す判定データＤを取得するステップと、状態変数Ｓと判定データＤとを用いて、加工条件データＳ２、加工環境データＳ３及び加工環境データＳ４と、ＰＩＤ制御のパラメータとを関連付けて学習するステップとを有する。
図６は、制御装置１を備えた第２の実施形態によるシステム１７０を示す。システム１７０は、セルコンピュータやホストコンピュータ、クラウドサーバ等のコンピュータの一部として実装された少なくとも１台の制御装置１と、制御の対象となる複数の工作機械２と、制御装置１、工作機械２を互いに接続する有線／無線のネットワーク１７２とを備える。
上記構成を有するシステム１７０は、機械学習装置１００を備える制御装置１が、学習部１１０の学習結果を用いて、工作機械２による加工の加工条件及び加工環境に対するＰＩＤ制御のパラメータを、それぞれの工作機械２毎に自動的かつ正確に求めることができる。また、制御装置１の機械学習装置１００が、複数の工作機械２のそれぞれについて得られた状態変数Ｓ及び判定データＤに基づき、全ての工作機械２に共通するＰＩＤ制御のパラメータを学習し、その学習結果を全ての工作機械２による加工において共有するように構成できる。したがってシステム１７０によれば、より多様なデータ集合（状態変数Ｓ及び判定データＤを含む）を入力として、ＰＩＤ制御のパラメータの学習の速度や信頼性を向上させることができる。
以上、本発明の実施の形態について説明したが、本発明は上述した実施の形態の例のみに限定されることなく、適宜の変更を加えることにより様々な態様で実施することができる。
例えば、機械学習装置１００が実行する学習アルゴリズムや演算アルゴリズム、制御装置１が実行する制御アルゴリズム等は、上述したものに限定されず、様々なアルゴリズムを採用できる。
また、上記した実施形態では制御装置１と機械学習装置１００が異なるＣＰＵを有する装置として説明しているが、機械学習装置１００は制御装置１が備えるＣＰＵ１１と、ＲＯＭ１２に記憶されるシステム・プログラムにより実現するようにしても良い。
１ 制御装置
２ 工作機械
３ 測定器
１１ ＣＰＵ
１２ ＲＯＭ
１３ ＲＡＭ
１４ 不揮発性メモリ
１５，１８，１９ インタフェース
１７ Ｉ／Ｏユニット
２０ バス
２１ インタフェース
３０ 軸制御回路
３４ 制御部
４０ サーボアンプ
５０ サーボモータ
６０ スピンドル制御回路
６１ スピンドルアンプ
６２ スピンドルモータ
６３ ポジションコーダ
７０ 表示器／ＭＤＩユニット
７１ 操作盤
７２ 外部機器
１００ 機械学習装置
１０１ プロセッサ
１０２ ＲＯＭ
１０３ ＲＡＭ
１０４ 不揮発性メモリ
１０６ 状態観測部
１０８ 判定データ取得部
１１０ 学習部
１１２ 報酬計算部
１１４ 価値関数更新部
１２２ 推定結果出力部
１７０ システム
１７２ ネットワーク

Claims (7)

  1. 加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御して加工をする際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う数値制御装置において、
    前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習する機械学習装置を備え、
    前記機械学習装置は、
    前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記加工における前記工具の寿命の消耗の適否判定結果を示す工具寿命判定データ、及び前記加工におけるサイクルタイムの適否判定結果を示すサイクルタイム判定データを、判定データとして取得する判定データ取得部と、
    前記状態変数と前記判定データとを用いて、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習する学習部と、
    を備える制御装置。
  2. 前記学習部は、
    前記適否判定結果に関連する報酬を求める報酬計算部と、
    前記報酬を用いて、前記加工の加工条件及び加工環境に対するＰＩＤ制御のパラメータの価値を表す関数を更新する価値関数更新部と、
    を備え、
    前記報酬計算部は、前記工具の寿命の消耗が少ない、また、前記加工のサイクルタイムが短いほど高い報酬を与える、
    請求項１に記載の制御装置。
  3. 前記学習部は、前記状態変数と前記判定データとを多層構造で演算する、
    請求項１または２に記載の制御装置。
  4. 加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御して加工をする際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う数値制御装置において、
    前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習した機械学習装置を備え、
    前記機械学習装置は、
    前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習した学習部と、
    前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、ＰＩＤ制御のパラメータを出力する推定結果出力部と、
    を備える制御装置。
  5. 前記機械学習装置は、クラウドサーバに存在する、
    請求項１〜４のいずれか１つに記載の制御装置。
  6. 加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御して加工をする際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う際の、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習する機械学習装置において、
    前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記加工における前記工具の寿命の消耗の適否判定結果を示す工具寿命判定データ、及び前記加工におけるサイクルタイムの適否判定結果を示すサイクルタイム判定データを、判定データとして取得する判定データ取得部と、
    前記状態変数と前記判定データとを用いて、前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習する学習部と、
    を備える機械学習装置。
  7. 加工プログラムに基づいて工具を備えた主軸と該主軸を駆動する軸とを備えた機械を制御して加工をする際に前記主軸の主軸負荷が一定となるように前記軸の移動速度を制御するＰＩＤ制御を行う際の、前記加工の加工条件及び加工環境に対する前記ＰＩＤ制御のパラメータを学習した機械学習装置において、
    前記加工におけるＰＩＤ制御のパラメータを示すＰＩＤ制御パラメータデータ、前記加工の加工条件を示す加工条件データ、及び前記加工の加工環境に係る加工環境データを、環境の現在状態を表す状態変数として観測する状態観測部と、
    前記加工の加工条件及び加工環境と、ＰＩＤ制御のパラメータとを関連付けて学習した学習部と、
    前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、ＰＩＤ制御のパラメータを出力する推定結果出力部と、
    を備える機械学習装置。
JP2017250018A 2017-12-26 2017-12-26 制御装置及び機械学習装置 Active JP6680756B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017250018A JP6680756B2 (ja) 2017-12-26 2017-12-26 制御装置及び機械学習装置
DE102018010054.6A DE102018010054A1 (de) 2017-12-26 2018-12-19 Steuerung und maschinelle Lernvorrichtung
US16/225,775 US10895852B2 (en) 2017-12-26 2018-12-19 Controller and machine learning device
CN201811601640.2A CN109960219B (zh) 2017-12-26 2018-12-26 控制装置以及机器学习装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017250018A JP6680756B2 (ja) 2017-12-26 2017-12-26 制御装置及び機械学習装置

Publications (2)

Publication Number Publication Date
JP2019117458A true JP2019117458A (ja) 2019-07-18
JP6680756B2 JP6680756B2 (ja) 2020-04-15

Family

ID=66768182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017250018A Active JP6680756B2 (ja) 2017-12-26 2017-12-26 制御装置及び機械学習装置

Country Status (4)

Country Link
US (1) US10895852B2 (ja)
JP (1) JP6680756B2 (ja)
CN (1) CN109960219B (ja)
DE (1) DE102018010054A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6797331B1 (ja) * 2019-10-24 2020-12-09 三菱電機株式会社 数値制御装置および数値制御方法
WO2021015254A1 (ja) * 2019-07-22 2021-01-28 株式会社安川電機 拡張モジュール、産業用機器、及び推定方法
JP6865908B1 (ja) * 2020-07-21 2021-04-28 三菱電機株式会社 数値制御装置および機械学習装置
JPWO2022186140A1 (ja) * 2021-03-02 2022-09-09
WO2022186135A1 (ja) * 2021-03-02 2022-09-09 ファナック株式会社 数値制御装置、およびコンピュータ読み取り可能な記憶媒体
JP2022132716A (ja) * 2021-03-01 2022-09-13 三菱電機ビルソリューションズ株式会社 Ｐｉｄ制御パラメータ調整方法、ｐｉｄ制御装置およびこれを備えた空気調和機
KR102512782B1 (ko) * 2021-09-17 2023-03-21 최득식 절삭 공구의 수명 변화 예측 기반의 절삭 공구 제어 장치 및 방법
JP2023553559A (ja) * 2020-12-17 2023-12-22 テトラ ラバル ホールディングス アンド ファイナンス エス エイ 強化学習に基づく食品包装システムにおけるパッケージ形成の高度化

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6474449B2 (ja) * 2017-04-07 2019-02-27 ファナック株式会社 調整装置及び調整方法
JP6748135B2 (ja) * 2018-03-19 2020-08-26 ファナック株式会社 機械学習装置、サーボ制御装置、サーボ制御システム、及び機械学習方法
US10977579B2 (en) * 2018-08-27 2021-04-13 Vmware, Inc. Adversarial automated reinforcement-learning-based application-manager training
CN114040826B (zh) * 2019-07-05 2022-11-01 三菱电机株式会社 机器学习装置、线放电加工系统及机器学习方法
CH716583A1 (de) * 2019-09-13 2021-03-15 Reishauer Ag Verfahren zur Überwachung eines Bearbeitungsprozesses, bei dem Zahnflanken vorverzahnter Werkstücke mit einer Feinbearbeitungsmaschine bearbeitet werden.
CN112631120B (zh) * 2019-10-09 2022-05-17 Oppo广东移动通信有限公司 Pid控制方法、装置和视频编解码系统
KR102685013B1 (ko) * 2019-11-11 2024-07-15 삼성전자주식회사 스토리지 장치 및 그 동작방법
DE102019130609A1 (de) * 2019-11-13 2021-05-20 Ford Global Technologies, Llc Verfahren zum Bestimmen eines Reglers für eine Regelstrecke
JP7192748B2 (ja) * 2019-11-25 2022-12-20 トヨタ自動車株式会社 搬送システム、学習済みモデル生成方法、学習済みモデル、制御方法およびプログラム
JP7078873B2 (ja) * 2019-11-26 2022-06-01 ダイキン工業株式会社 機械学習装置、デマンド制御システム、及び、空調制御システム
US11423305B2 (en) * 2020-02-26 2022-08-23 Deere & Company Network-based work machine software optimization
CN115461191B (zh) * 2020-04-27 2023-07-28 三菱电机株式会社 加工装置及寿命推定方法
CN113485443B (zh) * 2021-08-10 2023-12-22 北京北航天宇长鹰无人机科技有限公司 基于深度学习的无人机控制方法、存储介质及设备
GB2620635A (en) * 2022-07-15 2024-01-17 Ucl Business Ltd PID tuning

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0736506A (ja) * 1993-07-16 1995-02-07 Hitachi Ltd ニューラルネットワークを用いた適応制御装置
JPH09500331A (ja) * 1992-12-28 1997-01-14 オーマット リミテッド Ｃｎｃ工作機械用制御装置
WO2007049412A1 (ja) * 2005-10-27 2007-05-03 Yamaguchi University 超音波モータの制御方法、超音波モータ制御装置及び超音波モータを制御するためのプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3711976B2 (ja) * 2002-12-04 2005-11-02 トヨタ自動車株式会社 適合値生成装置、適合手順制御プログラム、及び適合値生成プログラム
JP2007049412A (ja) 2005-08-10 2007-02-22 Canon Inc 画像処理装置および画像処理装置の制御方法
CN102930337B (zh) * 2012-10-31 2015-08-19 贵州大学 切削加工中切削用量的预测方法
CN103760820B (zh) * 2014-02-15 2015-11-18 华中科技大学 数控铣床加工过程状态信息评价装置
US9971317B2 (en) * 2014-03-26 2018-05-15 Rockwell Automation Technologies, Inc. Cloud-level industrial controller loop gain tuning based on industrial application type
CN105425586B (zh) * 2015-11-11 2018-05-15 西安交通大学 一种铣削加工振动的在线主动抑制方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09500331A (ja) * 1992-12-28 1997-01-14 オーマット リミテッド Ｃｎｃ工作機械用制御装置
JPH0736506A (ja) * 1993-07-16 1995-02-07 Hitachi Ltd ニューラルネットワークを用いた適応制御装置
WO2007049412A1 (ja) * 2005-10-27 2007-05-03 Yamaguchi University 超音波モータの制御方法、超音波モータ制御装置及び超音波モータを制御するためのプログラム

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021015254A1 (ja) * 2019-07-22 2021-01-28 株式会社安川電機 拡張モジュール、産業用機器、及び推定方法
JP2021018627A (ja) * 2019-07-22 2021-02-15 株式会社安川電機 拡張モジュール、産業用機器、産業用機器のパラメータ又は前記産業用機器により制御される機器の内部状態の推定方法及び推定システム
WO2021079466A1 (ja) * 2019-10-24 2021-04-29 三菱電機株式会社 数値制御装置、機械学習装置および数値制御方法
JP6797331B1 (ja) * 2019-10-24 2020-12-09 三菱電機株式会社 数値制御装置および数値制御方法
JP6865908B1 (ja) * 2020-07-21 2021-04-28 三菱電機株式会社 数値制御装置および機械学習装置
WO2022018822A1 (ja) * 2020-07-21 2022-01-27 三菱電機株式会社 数値制御装置および機械学習装置
JP2023554023A (ja) * 2020-12-17 2023-12-26 テトラ ラバル ホールディングス アンド ファイナンス エス エイ 食品包装システムにおけるチューブの向きを制御する方法及びシステム
JP2023553643A (ja) * 2020-12-17 2023-12-25 テトラ ラバル ホールディングス アンド ファイナンス エス エイ 食品包装システムにおける充填バルブ及び圧力の乱れを改善する方法及びシステム
JP2023553559A (ja) * 2020-12-17 2023-12-22 テトラ ラバル ホールディングス アンド ファイナンス エス エイ 強化学習に基づく食品包装システムにおけるパッケージ形成の高度化
JP2022132716A (ja) * 2021-03-01 2022-09-13 三菱電機ビルソリューションズ株式会社 Ｐｉｄ制御パラメータ調整方法、ｐｉｄ制御装置およびこれを備えた空気調和機
WO2022186135A1 (ja) * 2021-03-02 2022-09-09 ファナック株式会社 数値制御装置、およびコンピュータ読み取り可能な記憶媒体
DE112022000464T5 (de) 2021-03-02 2023-10-05 Fanuc Corporation Numerische steuerung und computerlesbares speichermedium
DE112022000458T5 (de) 2021-03-02 2023-10-12 Fanuc Corporation Numerische Steuerung und computerlesbares Speichermedium
JPWO2022186135A1 (ja) * 2021-03-02 2022-09-09
WO2022186140A1 (ja) * 2021-03-02 2022-09-09 ファナック株式会社 数値制御装置、およびコンピュータ読み取り可能な記憶媒体
JPWO2022186140A1 (ja) * 2021-03-02 2022-09-09
JP7534526B2 (ja) 2021-03-02 2024-08-14 ファナック株式会社 数値制御装置、およびコンピュータ読み取り可能な記憶媒体
JP7667245B2 (ja) 2021-03-02 2025-04-22 ファナック株式会社 数値制御装置、およびコンピュータ読み取り可能な記憶媒体
KR102512782B1 (ko) * 2021-09-17 2023-03-21 최득식 절삭 공구의 수명 변화 예측 기반의 절삭 공구 제어 장치 및 방법

Also Published As

Publication number Publication date
US20190196417A1 (en) 2019-06-27
CN109960219B (zh) 2021-07-06
DE102018010054A1 (de) 2019-06-27
US10895852B2 (en) 2021-01-19
CN109960219A (zh) 2019-07-02
JP6680756B2 (ja) 2020-04-15

Similar Documents

Publication Publication Date Title
JP6680756B2 (ja) 制御装置及び機械学習装置
JP6557285B2 (ja) 制御装置及び機械学習装置
JP6542839B2 (ja) 制御装置及び機械学習装置
JP6470251B2 (ja) 数値制御装置及び機械学習装置
KR102224970B1 (ko) 제어 장치 및 기계 학습 장치
JP6923484B2 (ja) 加工条件調整装置及び機械学習装置
JP6841852B2 (ja) 制御装置及び制御方法
CN110355462B (zh) 加工条件调整装置以及机器学习装置
JP6659652B2 (ja) 加工条件調整装置及び機械学習装置
CN110125955B (zh) 控制装置以及机器学习装置
CN110501973B (zh) 模拟装置
JP2017068566A (ja) 工作機械の工具補正の頻度を最適化する機械学習装置及び機械学習方法、並びに該機械学習装置を備えた工作機械
JP2019168973A (ja) 駆動装置及び機械学習装置
JP2019141869A (ja) 制御装置及び機械学習装置
JP2019185125A (ja) 制御装置及び機械学習装置
CN110531705B (zh) 可编程控制器以及机器学习装置
JP2019145086A (ja) 制御装置、機械学習装置及びシステム
JP6646025B2 (ja) 制御装置及び機械学習装置
JP6940425B2 (ja) 制御装置及び機械学習装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190515

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190717

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190819

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200319

R150 Certificate of patent or registration of utility model

Ref document number: 6680756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150