JP5252432B2 - 指関節角度推定装置 - Google Patents
指関節角度推定装置 Download PDFInfo
- Publication number
- JP5252432B2 JP5252432B2 JP2008306782A JP2008306782A JP5252432B2 JP 5252432 B2 JP5252432 B2 JP 5252432B2 JP 2008306782 A JP2008306782 A JP 2008306782A JP 2008306782 A JP2008306782 A JP 2008306782A JP 5252432 B2 JP5252432 B2 JP 5252432B2
- Authority
- JP
- Japan
- Prior art keywords
- finger joint
- signal
- feature amount
- joint angle
- angle estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 210000001145 finger joint Anatomy 0.000 title claims description 123
- 239000013598 vector Substances 0.000 claims description 44
- 230000003183 myoelectrical effect Effects 0.000 claims description 38
- 230000008859 change Effects 0.000 claims description 37
- 238000013528 artificial neural network Methods 0.000 claims description 35
- 230000010354 integration Effects 0.000 claims description 27
- 238000000605 extraction Methods 0.000 claims description 24
- 238000004364 calculation method Methods 0.000 claims description 22
- 210000004556 brain Anatomy 0.000 claims description 21
- 238000001228 spectrum Methods 0.000 claims description 17
- 239000000284 extract Substances 0.000 claims description 16
- 210000002435 tendon Anatomy 0.000 claims description 16
- 210000005036 nerve Anatomy 0.000 claims description 14
- 210000003205 muscle Anatomy 0.000 claims description 13
- 102000001554 Hemoglobins Human genes 0.000 claims description 8
- 108010054147 Hemoglobins Proteins 0.000 claims description 8
- 239000008280 blood Substances 0.000 claims description 4
- 210000004369 blood Anatomy 0.000 claims description 4
- 210000000663 muscle cell Anatomy 0.000 claims description 4
- 238000006213 oxygenation reaction Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 59
- 210000003811 finger Anatomy 0.000 description 36
- 238000010606 normalization Methods 0.000 description 15
- 238000009499 grossing Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 8
- 238000004497 NIR spectroscopy Methods 0.000 description 7
- 238000005452 bending Methods 0.000 description 7
- 210000000245 forearm Anatomy 0.000 description 6
- 230000000052 comparative effect Effects 0.000 description 5
- 238000002599 functional magnetic resonance imaging Methods 0.000 description 5
- 238000002595 magnetic resonance imaging Methods 0.000 description 5
- 238000002582 magnetoencephalography Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000017531 blood circulation Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 210000001519 tissue Anatomy 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 230000003387 muscular Effects 0.000 description 3
- 230000036982 action potential Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 206010049565 Muscle fatigue Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000005057 finger movement Effects 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000004118 muscle contraction Effects 0.000 description 1
- 210000001087 myotubule Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000037081 physical activity Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011158 quantitative evaluation Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 210000004761 scalp Anatomy 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
- 210000001226 toe joint Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
- 210000003857 wrist joint Anatomy 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Description
請求項2の発明は、請求項1において、前記生体信号は、表面筋電信号であることを特徴とする。
請求項5の発明は、請求項2において、前記特徴量抽出手段は、前記表面筋電信号のパワースペクトルの平均周波数又は中央周波数を特徴量として抽出するものである。
請求項10の発明は、請求項1において、前記生体信号は、指関節の動きによって腱が移動するのを捉えた信号であり、前記特徴量抽出手段は、前記腱の移動の変化を特徴量として抽出するものである。
式(1)により、逆正規化処理して角度に変換した後、手指関節角度推定装置10は、出力装置30に出力する。出力装置30は、例えば、表示ディプレイ、或いはプリンタ等にて構成されている。
さて、上記のように構成された手指関節角度推定装置10の作用を図6〜図11を参照して説明する。
ニューラルネットワーク16は、フィードフォワード成分A、フィードバック成分Bにて構成される入力ベクトルIkを演算周期毎に入力層16aに入力することにより、正規化されている5本指の各指関節角度を推定し、出力層16cから前記出力ベクトルOkを出力する。この出力ベクトルOkを、変換処理部17にて逆正規化して角度変換し、出力装置30に出力する。
(1) 本実施形態の手指関節角度推定装置10は、各指関節が動いているときの複数の表面筋電信号(生体信号)を入力して、各表面筋電信号の特徴量を抽出し、抽出した該特徴量を一次元に並べて特徴量ベクトルとする整流処理部12、平滑処理部13、積分処理部14、及び正規化処理部15(特徴量抽出手段)を備える。又、手指関節角度推定装置10は、演算周期毎に入力ベクトルIkに基づいて、各指関節角度の推定を行い、推定した各指関節角度を出力ベクトルとして出力するニューラルネットワーク16(ニューラルネットワーク手段)とを備える。そして、入力ベクトルIkは、整流処理部12、平滑処理部13、積分処理部14、及び正規化処理部15が抽出した過去から現在までの時系列の特徴量ベクトルを一次元に並べたフィードフォワード成分Aと、フィードバック成分Bとが一次元に並べられて構成され、フィードバック成分Bは、ニューラルネットワーク16が、演算周期毎に現在まで推定していた時系列の出力ベクトルOkで構成されている。この結果、本実施形態の手指関節角度推定装置10によれば、表面筋電信号と指関節角度の関係の時間変化に対応可能であって、5本の指の各指関節角度を連続的にリアルタイムに正確に推定することができる。
○ 前記実施形態では、手指関節角度を推定する際に、生体信号として、前腕部において計測した表面筋電信号(sEMG)から得られる積分値を特徴量として用いたが、表面筋電信号の特徴量は、積分値に限定されるものではない。
この場合、前腕部において測定部位が複数ある場合、測定部位のチャンネル番号をdとする。そして、各チャンネル毎に、かつサンプリング周期毎に得られたパワースペクトルを所定のバンド幅毎の区間和を求めて、ベクトル化すると、ある時に、あるチャンネルでサンプリングされたパワースペクトル(ベクトル)は式(2)のベクトルFk dで表わすことができる。なお、所定のバンド幅は、限定されるものではなく、適宜に決定すればよい。前記パワースペクトルの区間和が特徴量となる。
なお、パワースペクトルは、全波整流された表面筋電信号をフーリエ変換することにより求めることができる。なお、パワースペクトルの算出方法は、限定されるものではないが、フーリエ変換による算出法が一般的である。
MNF及びMDFの定義式を次式(3)、式(4)で示す。
○ 又、生体信号は、表面筋電信号に限定されるものではない。表面筋電信号(sEMG)は、脳から発せられる神経信号に基づいて発生しているため、その基となる脳情報も,手指関節角度の推定に有用に使用することが可能である。なお、表面筋電信号(sEMG)は、筋繊維の活動電位の総和であり信号の振幅に大きな意味合いがあるが、脳情報に関しては各信号によって推奨されるべき信号処理法が異なる.
以下、脳情報を含むものとして、脳波(EEG)、機能的磁気共鳴画像を形成するためのMRI信号、近赤外分光法(NIRS)、脳磁図(Magneto-Encephalo-Graphy :MEG)を挙げることができる。
EEGは、古くからある非侵襲な計測手法で計測できる信号である。脳内の神経細胞の活動電位を、頭皮表面で計測した信号である。ここではα波及びβ波の少なくともいずれか1つの波の増減変化による事象関連同期化、及び事象関連脱同期化を特徴量として使用することができる。例えば、運動野が活動するとα波が弱まる事象関連脱同期化という現象があり、これは実際に運動をせず、想像する際にも生じる。又、α波が大きくなった時の事象関連同期化がある。又、EEGは後述するfMRIよりも時間分解能が高い利点がある。EEGで重要であるのが、前記事象関連脱同期化という現象である。この現象は特定の部位の脳波の、特定の周波数成分を変化させる。そのため、脳波から運動に関する要素を抽出するためには、高速フーリエ変換(FFT)やウェーブレット変換などの周波数解析手法によってパワースペクトルや周波数成分の分布を得られるような信号処理を施す。そして、本実施形態では、これらの信号処理をコンピュータにて行わせ、その信号処理結果をフィードフォワード成分とする。そして、前記実施形態のニューラルネットワーク16に該フィードフォワード成分と、フィードバック成分を入力ベクトルとして入力するようにする。
神経活動がより大きく生じている脳部位を、血流中の還元ヘモグロビンの変化から推定する方法であり、MRIで測定し、脳部位から得られたMRI信号を生体信号として使用する。ここでは、脳部位において、運動を司る部位における前記血流中の還元ヘモグロビンの変化から活性化している場所を特徴量とするものである。
近赤外分光法(NIRS)では、頭部や筋肉などの生体組織に対して透過性が高い近赤外光 (波長700nm〜1000nm) を外部から照射し、組織を透過してきた光を分析することにより、組織を流れている血液中のヘモグロビン酸素化状態を外部から調べる装置を使用する。生体信号は、該装置が検出した信号となる。又、前記組織を流れている血液中のヘモグロビン酸素化状態の変化を特徴量とする。
脳磁図(MEG)は、前記EEGと似ているが、脳内の活動部位によって生じる磁場の変化を特徴量として検出するものである。電気信号はノイズが乗りやすいが、それに対して磁場は乗りにくい利点がある。
関節は、筋肉の収縮により腱が移動し張力が発生することで駆動する。そのため、筋肉の収縮に伴う力こぶ等も、手指関節角度の推定に有効に利用できる。
手首の内側を見ながら指を動かすと、動かす関節によって異なる腱が移動している様子が伺える。腱の移動と関節の屈曲は直接的な関係があるため、腱の移動量から関節の回転角度を推定することが可能である。
腱の移動と筋肉の膨らみも密接な関係があるため、筋肉の膨らみもビデオカメラを使用して、手指関節の変化に応じた膨らみの変化を含む画像信号を生体信号として取得し、手指関節角度の推定に使用する。この場合、ビデオカメラが撮像した画像信号において、筋肉の膨らみの変化を撮像した画像フレームの差分をとることにより、その変化を特徴量として得るようにしてもよい。この場合、前記変化がある部分を特徴量を有した画像信号が生体信号となる。そして、同様に、この場合、前記特徴量を有する生体信号をフィードフォワード成分とする。そして、前記実施形態のニューラルネットワーク16に該フィードフォワード成分と、フィードバック成分を入力ベクトルとして入力するようにする。
神経は微弱な電気信号を伝える。sEMGを発生させる信号も電気信号であるため、指関節を変化させたときの脳から筋肉細胞まで伝わる信号を検出すれば、生体信号として有用な信号となる。具体的には、運動神経に端子を装着することにより、神経信号を検出することができる。神経を伝わる信号は、連続的なアナログ信号よりは、離散的なデジタル信号に近い。前腕部の筋群を支配する複数の神経を伝わる信号を計測し、どこの神経が、どれだけの時間信号を伝えたかを計測することにより、運動を反映しうる生体信号になる。そして、指関節の動きによって脳から、当該指の筋肉細胞までに伝わる神経信号を検出した信号において、その神経信号の変化が特徴量となる。
○ 前記実施形態では、ニューラルネットワーク16として、3層パーセプトロンニューラルネットワークにより構成したが、3層以上のパーセプトロンニューラルネットワークにより構成してもよい。又、ニューラルネットワーク16はパーセプトロンに限定されるものではなく、他のニューラルネットワークにより構成してもよい。
○ 前記実施形態では、複数の生体信号(表面筋電信号)を取得するようにしたが、単数の表面筋電信号としてもよい。
12…整流処理部、13…平滑処理部、14…積分処理部、
15…正規化処理部(平滑処理部13、積分処理部14とともに特徴量抽出手段を構成する)、
16…ニューラルネットワーク(ニューラルネットワーク手段)、
17…変換処理部、20…電極、30…出力装置。
Claims (12)
- 各指関節が動いているときの単数又は複数種類の生体信号を入力して、各生体信号の特徴量を抽出し、抽出した該特徴量を一次元に並べて特徴量ベクトルとする特徴量抽出手段と、
演算周期毎に入力ベクトルに基づいて、各指関節の角度(以下、指関節角度という)の推定を行い、推定した前記各指関節角度を出力ベクトルとして出力するニューラルネットワーク手段とを含み、
前記入力ベクトルは、前記特徴量抽出手段が抽出した過去から現在までの時系列の特徴量ベクトルを一次元に並べたフィードフォワード成分と、出力のフィードバック成分で構成され、
前記フィードバック成分は、前記ニューラルネットワーク手段が、前記演算周期毎に現在まで推定していた時系列の前記出力ベクトルで構成されていることを特徴とする指関節角度推定装置。 - 前記生体信号は、表面筋電信号であることを特徴とする請求項1に記載の指関節角度推定装置。
- 前記特徴量抽出手段は、前記表面筋電信号に対して積分区間を演算周期毎にずらして積分し、積分して得られた積分値を特徴量として抽出するものである請求項2に記載の指関節角度推定装置。
- 前記特徴量抽出手段は、前記表面筋電信号のパワースペクトルの所定のバンド幅毎の区間和を特徴量として抽出するものである請求項2に記載の指関節角度推定装置。
- 前記特徴量抽出手段は、前記表面筋電信号のパワースペクトルの平均周波数又は中央周波数を特徴量として抽出するものである請求項2に記載の指関節角度推定装置。
- 前記生体信号は、脳波であり、
前記特徴量抽出手段は、前記脳波のα波及びβ波の少なくともいずれか1つの波の増減変化による事象関連同期化、及び事象関連脱同期化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、脳部位のMRI信号であり、
前記特徴量抽出手段は、運動を司る部位における血流中の還元ヘモグロビンの変化から活性化している場所を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、頭部又は指関節に関係する筋肉を透過させた近赤外光を検出した信号であり、
前記特徴量抽出手段は、頭部又は指関節に関係する筋肉組織を流れている血液中のヘモグロビン酸素化状態の変化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、脳磁図であり、
前記特徴量抽出手段は、前記脳磁図の磁場の変化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、指関節の動きによって腱が移動するのを捉えた信号であり、
前記特徴量抽出手段は、前記腱の移動の変化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、指関節の動きによって筋肉の膨らみが変化するのを捉えた信号であり、
前記特徴量抽出手段は、前記筋肉の膨らみの変化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。 - 前記生体信号は、指関節の動きによって脳から、当該指の筋肉細胞までに伝わる神経信号を検出する信号であり、
前記特徴量抽出手段は、前記指関節の動きに応じて変化する神経信号の変化を特徴量として抽出するものである請求項1に記載の指関節角度推定装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008306782A JP5252432B2 (ja) | 2008-12-01 | 2008-12-01 | 指関節角度推定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008306782A JP5252432B2 (ja) | 2008-12-01 | 2008-12-01 | 指関節角度推定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010125287A JP2010125287A (ja) | 2010-06-10 |
JP5252432B2 true JP5252432B2 (ja) | 2013-07-31 |
Family
ID=42326065
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008306782A Expired - Fee Related JP5252432B2 (ja) | 2008-12-01 | 2008-12-01 | 指関節角度推定装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5252432B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150109197A1 (en) | 2012-05-09 | 2015-04-23 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2014050590A (ja) * | 2012-09-07 | 2014-03-20 | National Institute Of Advanced Industrial & Technology | 手用の動作認識装置、義手操作装置、及び複合センサ |
JP6014869B2 (ja) * | 2014-09-12 | 2016-10-26 | 株式会社国際電気通信基礎技術研究所 | 動作識別システム、情報処理装置、情報処理プログラム、および情報処理システム |
KR101904226B1 (ko) * | 2016-11-25 | 2018-11-30 | 한국과학기술연구원 | 신경 신호를 기반으로 한 관절의 각도 검출 시스템 |
WO2019222833A1 (en) | 2018-05-24 | 2019-11-28 | Healthtech Connex Inc. | Quantifying motor function using beg signals |
WO2020049692A2 (ja) | 2018-09-06 | 2020-03-12 | 株式会社ソニー・インタラクティブエンタテインメント | 推定装置、学習装置、推定方法、学習方法及びプログラム |
JP2021179319A (ja) * | 2020-05-11 | 2021-11-18 | アルファメッドサイエンティフィック株式会社 | 解析方法および解析装置 |
CN112205990B (zh) * | 2020-09-07 | 2023-07-14 | 武汉科技大学 | 一种基于sEMG的不同负载下手腕角度预测方法及装置 |
WO2023163104A1 (ja) * | 2022-02-28 | 2023-08-31 | 国立大学法人愛媛大学 | 関節角度学習推測システム、関節角度学習システム、関節角度推測装置、関節角度学習方法、およびコンピュータプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2913611B2 (ja) * | 1991-10-22 | 1999-06-28 | 日本電信電話株式会社 | 学習型筋電パターン認識ロボットハンド制御装置 |
JPH06102905A (ja) * | 1992-09-18 | 1994-04-15 | Hitachi Ltd | フィードフォワード/フィードバック制御装置 |
JP2558599B2 (ja) * | 1993-07-12 | 1996-11-27 | 株式会社エイ・ティ・アール人間情報通信研究所 | ロボット制御装置 |
JPH07219922A (ja) * | 1994-02-03 | 1995-08-18 | Fuji Xerox Co Ltd | パターン認識装置の学習装置 |
JPH07277286A (ja) * | 1994-04-11 | 1995-10-24 | Mitsubishi Heavy Ind Ltd | 航空機用学習型飛行制御装置 |
JP2008228871A (ja) * | 2007-03-19 | 2008-10-02 | Toshiba Corp | 関節屈曲動作予測装置および関節屈曲動作予測方法 |
-
2008
- 2008-12-01 JP JP2008306782A patent/JP5252432B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010125287A (ja) | 2010-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5252432B2 (ja) | 指関節角度推定装置 | |
Xie et al. | Classification of the mechanomyogram signal using a wavelet packet transform and singular value decomposition for multifunction prosthesis control | |
Shair et al. | EMG processing based measures of fatigue assessment during manual lifting | |
Pancholi et al. | Improved classification scheme using fused wavelet packet transform based features for intelligent myoelectric prostheses | |
US20200038653A1 (en) | Multimodal closed-loop brain-computer interface and peripheral stimulation for neuro-rehabilitation | |
Toda et al. | Reconstruction of two-dimensional movement trajectories from selected magnetoencephalography cortical currents by combined sparse Bayesian methods | |
Lal et al. | Compressed sensing approach for physiological signals: A review | |
Al Omari et al. | Pattern recognition of eight hand motions using feature extraction of forearm EMG signal | |
Jiang et al. | IoT-based remote facial expression monitoring system with sEMG signal | |
Zeng et al. | Fatigue-sensitivity comparison of sEMG and A-mode ultrasound based hand gesture recognition | |
Torricelli et al. | Muscle synergies in clinical practice: Theoretical and practical implications | |
Zhang et al. | Extracting time-frequency feature of single-channel vastus medialis EMG signals for knee exercise pattern recognition | |
US20070050046A1 (en) | Methods for generating a signal indicative of an intended movement | |
Yu et al. | Wrist torque estimation via electromyographic motor unit decomposition and image reconstruction | |
Xiao et al. | Continuous estimation of elbow joint angle by multiple features of surface electromyographic using grey features weighted support vector machine | |
Too et al. | Exploring the relation between EMG pattern recognition and sampling rate using spectrogram | |
Boyd et al. | A-mode ultrasound driven sensor fusion for hand gesture recognition | |
KR100994408B1 (ko) | 손가락 힘 추정 방법 및 추정 장치, 손가락 힘 추정을 위한근육 판별 방법 및 근육 판별 장치 | |
Ke et al. | Intersected EMG heatmaps and deep learning based gesture recognition | |
Hua et al. | An optimized selection method of channel numbers and electrode layouts for hand motion recognition | |
Ji et al. | Stationary wavelet-based two-directional two-dimensional principal component analysis for EMG signal classification | |
Jain et al. | Review of emg signal classification approaches based on various feature domains | |
Chan et al. | A review of surface EMG in clinical rehabilitation care systems design | |
WO2016053444A1 (en) | System and method for motion artifact reduction using surface electromyography | |
Lu et al. | A hybrid deep learning framework for estimation of elbow flexion force via electromyography |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111129 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130409 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5252432 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160426 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |