JP4476194B2 - 携帯情報端末装置 - Google Patents

Description

本発明は、携帯情報端末装置に係り、更に詳しくは、撮影画像に基づいて認証処理を行う携帯情報端末装置の改良に関する。

携帯電話機などの携帯情報端末装置の中には、被写体を撮影して画像データを生成するカメラを備えているものがある。この種の携帯情報端末装置において、最近では、操作中にカメラによる顔画像の撮影を促し、撮影した顔画像から抽出される目、鼻、口及び輪郭の形や大きさなどの特徴情報を、携帯情報端末装置に備えられたメモリに登録特徴情報として予め記憶されているユーザの特徴情報と比較することにより、認証処理（いわゆる顔認証）を行うようになっているものがある。認証処理の結果、撮影画像から抽出された特徴情報とユーザの特徴情報との一致度が認識閾値を超えた場合にのみ、そのとき操作を行っている者が真のユーザであると判断し、その後の処理の実行を許可することにより、セキュリティの向上やプライバシーの保護を図ることができる（例えば、特許文献１参照）。

特許文献１に開示されている技術では、顔認証に失敗した場合、操作を行う者に対して暗証番号の入力が要求される。したがって、真のユーザが操作を行っているときに顔認証が行われ、顔画像の撮影時に周囲が暗かったなどの理由で顔認証に失敗した場合には、ユーザが暗証番号を入力することにより、その後の処理を実行することができる。一方、ユーザ以外の者が操作を行っている場合には、顔認証に失敗した後、暗証番号の入力要求に対して正しい暗証番号を入力することができず、その後の処理を実行することができない。
特開２０００−２７８６５８号公報

本願出願人は、認証処理において認証に失敗した場合に、自動的に再度撮影を行って認証処理を行うことにより、真のユーザが操作を行う場合に、１回目の認証処理において認証に失敗した場合でも、その後にユーザが撮影操作を行うことなく認証処理が再度行われるような構成について先に出願を行っている（例えば、特願２００５−２１２８０６号）。この出願明細書中において、認証に失敗した場合には、所定時間（例えば、３秒）が経過してタイムアウトとなるまで認証処理が繰り返し連続的に行われ、認証に成功した時点で認証処理が終了することとしている。

このような構成の場合、例えば、顔認証時に周囲が暗く、顔画像を何度撮影したとしても認証に成功することがないような環境であっても、認証処理が繰り返し行われることとなる。したがって、一連の認証処理が終了した後に暗証番号の入力要求を行うような構成を採用した場合であっても、暗証番号の入力要求が行われるまで上記所定時間の待機が必要となり、認証処理が終了するまでに時間がかかるという問題がある。

本発明は、上記の事情に鑑みてなされたものであり、認証処理に要する時間を短縮できる携帯情報端末装置を提供することを目的とする。

第１の本発明による携帯情報端末装置は、被写体を撮影するための撮像手段と、顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段と、上記撮像手段による撮影画像から特徴情報を抽出し、その特徴情報を上記登録特徴情報と比較することにより認証処理を行う認証処理手段と、上記撮像手段及び上記認証処理手段を制御して、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく上記認証処理を行うことにより、一連の認証処理を行う連続認証手段とを備え、上記連続認証手段は、上記一連の認証処理中に特徴情報の抽出に失敗した上記認証処理の合計回数が所定時間に達したことを条件として、上記一連の認証処理を終了するように構成される。

このような構成によれば、一連の認証処理中に所定回数の認証処理で特徴情報の抽出に失敗した場合には、撮影画像による認証処理を中止することができる。したがって、例えば周囲が暗い場合のように、顔画像を何度撮影したとしても認証に成功することがないような環境において、撮影画像による認証処理が繰り返し行われるのを防止できるので、認証処理に要する時間を短縮できる。

第２の本発明による携帯情報端末装置において、上記終了条件は、連続する２回以上の所定回数の認証処理において特徴情報の抽出に失敗したことである。

このような構成によれば、所定回数だけ連続して特徴情報の抽出に失敗した場合に、撮影画像による認証処理を中止することができる。連続して特徴情報の抽出に失敗した場合には、周囲が暗いなど、顔画像を何度撮影したとしても認証に成功することがないような環境である可能性が高いので、認証処理をより適切に中止することができる。

第３の本発明による携帯情報端末装置は、上記終了条件が成立して認証処理が終了した場合に、暗証番号入力による認証処理を行う暗証番号認証処理手段を備えて構成される。

このような構成によれば、撮影画像による認証処理が中止された後、暗証番号入力により認証を行うことができる。暗証番号入力による認証処理は、周囲が暗いなどの環境においても行うことができるので、真のユーザは、暗証番号入力を行うことにより、速やかに認証に成功して、その後の処理を実行することができる。

第４の本発明による携帯情報端末装置は、上記終了条件が成立して認証処理が終了した場合に、指紋入力による認証処理を行う指紋認証処理手段を備えて構成される。

このような構成によれば、撮影画像による認証処理が中止された後、指紋入力により認証を行うことができる。指紋入力による認証処理は、周囲が暗いなどの環境においても行うことができるので、真のユーザは、指紋入力を行うことにより、速やかに認証に成功して、その後の処理を実行することができる。

本発明の携帯情報端末装置によれば、顔画像を何度撮影したとしても認証に成功することがないような環境において、撮影画像による認証処理が繰り返し行われるのを防止できるので、認証処理に要する時間を短縮できる。所定回数だけ連続して特徴情報の抽出に失敗した場合に、撮影画像による認証処理を中止するような構成とすれば、認証処理をより適切に中止することができる。

図１は、本発明の実施の形態による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機１が示されている。この携帯電話機１は、いわゆる折り畳み式の携帯電話機であり、表示筐体１００及び操作筐体２００がヒンジ部３００を介して連結され、表示筐体１００及び操作筐体２００の一面を対向させて折り畳むことができる。

表示筐体１００は、折り畳み時に内側となる筐体面にメイン表示部１０１、受話用レシーバ１０３及びサブカメラ１０５が配置され、外側となる筐体面にサブ表示部１０２及びメインカメラ１０４が配置されている。また、操作筐体２００は、折り畳み時に内側となる筐体面に多数の操作キー２０１及び送話用マイクロフォン２０３が配置されている。このような折り畳み式携帯電話機１は、コンパクトに折り畳んだ状態で携帯することができ、筐体を展開させれば、メイン表示部１０１の表示を見ながら、操作キー２０１を押下操作することができる。つまり、主な情報表示はメイン表示部１０１を用いて行われ、主な操作入力は操作キー２０１を用いて行われている。

この携帯電話機１は、メイン表示部１０１の表示を見ながらユーザが操作キー２０１の操作を行っているときに、サブカメラ１０５によりユーザの顔画像を撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行った結果、そのとき操作を行っている者が真のユーザであると判断した場合にのみ、その後の処理の実行を許可する機能（いわゆる顔認証機能）を有している。秘匿性の高い機能の実行に際して認証処理を行うことにより、セキュリティの向上やプライバシーの保護を図ることができる。

図２は、図１に示した携帯電話機１の内部構成の一例を示したブロック図である。制御部４００は、携帯電話機１の主要な動作を制御するプロセッサであって、撮像ユニット駆動制御部４０１、認証処理部４０２、連続認証部４０３及び代替認証処理部４０４を備えている。制御部４００には、操作キー２０１からの操作信号が入力されるとともに、メモリ４１０、画像入出力部４３０、音声入出力部４４０及び通信部４５０が入出力可能に接続されている。

画像入出力部４３０には、メイン表示部１０１、サブ表示部１０２、メインカメラ１０４及びサブカメラ１０５が備えられている。メインカメラ１０４及びサブカメラ１０５は、それぞれ撮像ユニットとしてユニット化されており、これらの撮像ユニットには、ＣＣＤ(Charge-Coupled Device)又はＣＭＯＳ(Complementary Metal Oxide Semiconductor)イメージセンサなどの光電変換素子及び制御回路が備えられている。ここでは、撮像ユニットの電源投入後に、オフセットやゲインの調整などの初期化処理を行う必要がある光電変換素子が用いられている。

音声入出力部４４０には、受話用レシーバ１０３及び送話用マイクロフォン２０３が備えられている。通信部４５０は、図示しない基地局との間で電波の送受信を行うことにより、音声データや画像データなどの送受信を行う。

撮像ユニット駆動制御部４０１は、画像入出力部４３０に信号を送信することにより、メインカメラ１０４及びサブカメラ１０５の駆動を制御する。この実施の形態では、撮像ユニット駆動制御部４０１がサブカメラ１０５の駆動を制御することにより、メイン表示部１０１を見ながら操作キー２０１の操作を行っている者の顔画像をサブカメラ１０５で撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行うものとする。ただし、メインカメラ１０４により顔画像を撮影して認証処理を行うような構成であってもよい。

認証処理部４０２は、撮影画像から抽出された特徴情報を、メモリ４１０に予め記憶されているユーザの特徴情報（登録特徴情報）と比較することにより、そのとき操作を行っている者が真のユーザであるか否かを判断する。連続認証部４０３は、撮像ユニット駆動制御部４０１及び認証処理部４０２を制御することにより、認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行う。代替認証処理部４０４は、顔認証とは異なる代替的な認証処理を行うものである。

メモリ４１０には、表示画面データ記憶部４１１、画像データ記憶部４１２、特徴情報記憶部４１３及びエラー履歴情報記憶部４１４が割り当てられている。表示画面データ記憶部４１１には、メイン表示部１０１やサブ表示部１０２に表示させる画面のデータが記憶される。画像データ記憶部４１２には、メインカメラ１０４やサブカメラ１０５で撮影した画像データや、通信部４５０を介して外部から受信した画像データなどが記憶される。

特徴情報記憶部４１３には、認証処理に用いられる顔画像の特徴情報が記憶される。特徴情報記憶部４１３には、２以上の顔画像から抽出された特徴情報を顔画像ごとに所定最大数（例えば、７つ）まで登録特徴情報として記憶することができる。２以上の顔画像から抽出される登録特徴情報に基づいて顔認証を行うことにより、真のユーザが顔認証を行う場合に認証に成功する確率（本人受入率）を高めることができ、ユーザの表情や光が当たる角度などの微妙な違いによって認証に失敗するのを防止できる。ただし、顔認証に使用する登録特徴情報は、７つの顔画像から抽出されるような構成に限らず、例えば１つの顔画像から抽出される登録特徴情報に基づいて顔認証を行うような構成であってもよい。

ユーザの顔画像は、メインカメラ１０４又はサブカメラ１０５を用いてユーザにより予め撮影され、それらの画像データがメモリ４１０の画像データ記憶部４１２に記憶される。顔認証は、これらの画像データから抽出されてメモリ４１０の特徴情報記憶部４１３に記憶された登録特徴情報に基づいて行われるため、これらの画像データそのものは顔認証に際して必要とはならないが、メモリ４１０に記憶しておけば、ユーザがそれらの画像データを読み出して顔画像を確認することができるので、利便性が向上する。

エラー履歴情報記憶部４１４には、認証に失敗した場合に、その認証時の情報がエラー履歴情報として記憶される。

ただし、認証処理に用いられる顔画像の特徴情報や顔画像の画像データは、例えばＳＩＭ(Subscriber Identity Module)カードのような携帯電話機１に対して着脱可能な記憶媒体（図示せず）に記憶されるような構成であってもよい。

図３は、図２の撮像ユニット駆動制御部４０１の構成例を示したブロック図である。撮像ユニット駆動制御部４０１は、撮像ユニット起動部４０７、撮影制御部４０８及び撮像ユニット停止部４０９を備えている。撮像ユニット起動部４０７は、メインカメラ１０４及びサブカメラ１０５に制御信号を送信して、これらを起動させるためのものであり、ユーザの操作に基づいて撮像ユニット１０６（メインカメラ１０４又はサブカメラ１０５）に電源を投入する電源投入部４０７Ａと、初期化処理を実行する初期化処理部４０７Ｂとを備えている。

撮影制御部４０８は、初期化処理部４０７Ｂからの入力信号やユーザによる撮影操作に基づいて、メインカメラ１０４又はサブカメラ１０５の撮影動作を制御することにより、そのときのメインカメラ１０４又はサブカメラ１０５に対する被写体の静止画像データを生成する。撮像ユニット停止部４０９は、メインカメラ１０４又はサブカメラ１０５に供給する電力を停止させることにより、それらの撮像ユニット１０６の駆動を停止させる。

図４は、図２の認証処理部４０２の構成例を示したブロック図である。認証処理部４０２は、特徴抽出部４０２Ａ、一致度算出部４０２Ｂ及び一致度判定部４０２Ｃを備えている。認証処理が開始されると、特徴抽出部４０２Ａにより、サブカメラ１０５で撮影した顔画像から、目、鼻、口及び輪郭といった顔の各部分についての形や大きさなどの特徴情報が抽出される。

撮影画像が顔画像でない風景画像である場合や周囲が暗い場合などには、撮影画像から特徴情報を抽出することができず、認証に失敗することとなる。一方、撮影画像から特徴情報を抽出することに成功した場合には、一致度算出部４０２Ｂにより、その特徴情報がメモリ４１０の特徴情報記憶部４１３に記憶されている登録特徴情報と比較され、数値化された一致度が算出される。

一致度判定部４０２Ｃは、一致度算出部４０２Ｂにより算出された一致度を所定の閾値（認証閾値）と比較し、その比較結果を出力する。このとき、一致度が認証閾値を超えた場合には、真のユーザであると判断されて認証に成功し、一致度が認証閾値よりも小さい場合には、真のユーザであると判断されず認証に失敗する。ここで、一致度とは、比較されたすべての特徴情報のうち一致した特徴情報の占める割合（％）であって、認証閾値は、通常、９０％以上の所定値に設定されている。

図５は、顔認証に関する設定を行う際のメイン表示部１０１の表示例を示した図である。ユーザが、操作キー２０１を操作してセキュリティ設定画面を読み出し（図５（ａ）参照）、そのセキュリティ設定画面に表示された項目の中から「顔認証設定」の項目を選択操作すると、その携帯電話機１に予め割り当てられている端末暗証番号の入力を促す画面がメイン表示部１０１に表示される（図５（ｂ）参照）。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

端末暗証番号は、例えば４〜８桁の任意の文字列からなり、携帯電話機１の購入時に予め設定されているが、ユーザが操作キー２０１を操作することにより変更することも可能である。図５（ｂ）の端末暗証番号入力画面において、操作キー２０１の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部１０１に表示される（図５（ｃ）参照）。また、端末暗証番号入力画面において入力された文字列が３桁以下である場合には、４〜８桁の文字列を入力すべき旨がメイン表示部１０１に表示される（図５（ｄ）参照）。

メイン表示部１０１に図５（ｃ）又は図５（ｄ）に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

図５（ｂ）の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部１０１の表示は、顔認証を行うモードのオン／オフを設定するための顔認証利用設定画面に切り替わる（図５（ｅ）参照）。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図５（ｂ）に示す端末暗証番号入力画面に戻る。また、顔認証利用設定画面において、操作キー２０１の操作により顔認証がオフされると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

図５（ｅ）の顔認証利用設定画面において、操作キー２０１の操作により顔認証がオンされると、メイン表示部１０１の表示は、顔認証に関する設定を行うための顔認証設定画面に切り替わる（図５（ｆ）参照）。図５（ｆ）の顔認証設定画面には、登録特徴情報の抽出元であるユーザを表す画像（顔認証用画像）にそれぞれ対応付けられた項目と、顔認証時の認証閾値の設定（セキュリティレベル設定）に対応付けられた項目と、エラー履歴に対応付けられた項目とが含まれる。

この表示画面において、顔認証用画像に対応付けられた項目を選択すると、顔認証用画像の上書登録や確認を行うための画面（顔認証用画像登録画面）が表示される。また、セキュリティレベル設定に対応付けられた項目を選択すると、顔認証時の認証閾値を設定するための画面（セキュリティレベル設定画面）が表示される。また、エラー履歴に対応付けられた項目を選択すると、エラー履歴を表示するための画面（エラー履歴画面）が表示される。

これらの各種設定等を行った後、操作キー２０１を操作して、顔認証設定を完了すると、メイン表示部１０１の表示は、図５（ｇ）又は図５（ｈ）に示すような表示に切り替わる。すなわち、少なくとも１つの顔認証用画像が登録されていれば、その顔認証用画像から抽出された特徴情報に基づいて顔認証を行う旨がメイン表示部１０１に表示され（図５（ｇ）参照）、この画面に含まれる確認キー１１１を選択すると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。一方、顔認証用画像が１つも登録されていない場合には、顔認証用画像の登録を行うべき旨がメイン表示部１０１に表示され（図５（ｈ）参照）、この画面に含まれる確認キー１１２を選択すると、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。

図６は、顔認証用画像登録画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、顔認証用画像に対応付けられたいずれかの項目を選択すると、メイン表示部１０１の表示は、図６（ａ）に示すように、その顔認証用画像に対応する顔認証用画像登録画面に切り替わる。顔認証用画像登録画面には、「上書登録」の項目及び「登録データ確認」の項目が含まれる。

図６（ａ）の顔認証用画像登録画面に表示された項目の中から「上書登録」の項目を選択操作すると、サブカメラ１０５が起動され、サブカメラ１０５による撮影が可能な状態になった後、サブカメラ１０５に対する被写体の画像がリアルタイムでメイン表示部１０１に表示される（図６（ｂ）参照）。このとき、メイン表示部１０１は、サブカメラ１０５のファインダとして機能し、メイン表示部１０１により構成されるファインダ画面には、メイン表示部１０１を見ながら操作を行っている者の顔が映し出されることとなる。

図６（ｂ）のファインダ画面において、ユーザが自分の顔の位置合わせなどを行った後、操作キー２０１に含まれる決定キーを操作することにより登録操作を行うと、制御部４００の特徴抽出部４０２Ａが、そのときサブカメラ１０５で撮影された画像から特徴情報を抽出する処理を行う。

この際、ユーザの顔の位置合わせが適当に行われていれば、目、鼻、口及び輪郭の形や大きさなどの特徴情報を抽出することができるが、位置合わせが適当に行われていない場合や、ユーザの顔がメイン表示部１０１に全く映し出されていない場合などには、特徴情報を抽出することができない。特徴情報を抽出することに成功した場合には、その特徴情報がメモリ４１０の特徴情報記憶部４１３に格納されるとともに、そのときの顔画像が顔認証用画像としてメモリ４１０の画像データ記憶部４１２に格納される。

特徴情報の抽出に成功した場合には、その顔画像に基づく特徴情報をメモリ４１０に格納（登録）した旨がメイン表示部１０１に表示される（図６（ｃ）参照）。この表示画面に含まれる確認キー１１３をユーザが選択すると、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。一方、特徴情報の抽出に失敗した場合には、その旨及び特徴情報の抽出に失敗した原因がメイン表示部１０１に表示され（図６（ｄ）参照）、この表示画面に含まれる確認キー１１４をユーザが選択すると、メイン表示部１０１の表示は、図５（ｂ）に示すファインダ画面に戻り、再びサブカメラ１０５で顔画像を撮影することが可能になる。

図６（ａ）の顔認証用画像登録画面に表示された項目の中から「登録データ確認」の項目を選択操作すると、メモリ４１０の画像データ記憶部４１２に記憶されている対応する顔認証用画像が読み出され、メイン表示部１０１に表示される（図６（ｅ）参照）。ユーザは、図６（ｅ）に示す顔認証用画像確認画面により、登録されている顔認証用画像を確認することができる。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図６（ａ）に示す顔認証用画像登録画面に戻る。

図６（ｅ）の顔認証用画像確認画面において、ユーザが操作キー２０１を操作することにより、対応する顔認証用画像を削除する操作を行うと、メイン表示部１０１の表示は、その顔認証用画像を削除してよいか否かを確認する削除確認画面に切り替わる（図６（ｆ）参照）。この表示画面には、顔認証用画像を削除すべき旨を指示する「はい」のキー１１５と、顔認証用画像を削除しない旨を指示する「いいえ」のキー１１６とが含まれる。図６（ｆ）の削除確認画面において、操作キー２０１の操作により「いいえ」のキー１１６が選択された場合には、メイン表示部１０１の表示は、図６（ｅ）に示す顔認証用画像確認画面に戻る。

図６（ｆ）の削除確認画面において、操作キー２０１の操作により「はい」のキー１１５が選択されると、メモリ４１０の画像データ記憶部４１２及び特徴情報記憶部４１３から対応する顔認証用画像及び登録特徴情報を削除するための処理が開始されるとともに、削除中である旨がメイン表示部１０１に表示される（図６（ｇ）参照）。そして、顔認証用画像及び登録特徴情報を削除する処理が完了すると、その旨がメイン表示部１０１に表示され（図６（ｈ）参照）、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されることに応答して、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。

図７は、セキュリティレベル設定画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、セキュリティレベル設定に対応付けられた項目を選択すると、メイン表示部１０１の表示は、図７に示すように、顔認証時の認証閾値の設定を行うためのセキュリティレベル設定画面に切り替わる。セキュリティレベルとしては、認証閾値が最も高い「レベル３」と、「レベル３」よりも認証閾値が低い「レベル２」と、「レベル２」よりも認証閾値が低い「レベル１」とが予め設定されており、セキュリティレベル設定画面において、いずれかのセキュリティレベルを選択することができる。

図８は、エラー履歴画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、エラー履歴に対応付けられた項目を選択すると、メイン表示部１０１の表示は、図８に示すように、エラー履歴を表示するためのエラー履歴画面に切り替わる。エラー履歴画面には、認証に失敗したときの日時を表す時間情報が、エラー履歴情報として所定回数分（例えば、９回分）だけリスト表示される。上記所定回数分のエラー履歴情報がメモリ４１０のエラー履歴情報記憶部４１４に記憶された状態で新たに認証に失敗した場合には、最も古いエラー履歴情報が削除され、新たなエラー履歴情報がメモリ４１０に格納されるとともに、その新たなエラー履歴情報がエラー履歴画面に表示されるよう更新される。

図９は、顔認証を行う際のメイン表示部１０１の表示例を示した図である。この例では、携帯電話機１の管理機能に含まれるシークレットモードのオン／オフを切り替える際に顔認証が行われる。シークレットモードがオン状態のときには、通常のデータだけでなく、シークレットデータとして予め登録しているデータが表示される状態となり、シークレットモードがオフ状態のときには、シークレットデータは表示されず、通常のデータだけが表示される状態となる。

図９（ａ）に示すような携帯電話機１の管理機能を設定するための管理機能画面において、その管理機能画面に表示された項目の中から「シークレットモード」の項目を選択操作すると、サブカメラ１０５が起動される。そして、サブカメラ１０５による撮影が可能な状態になった後、サブカメラ１０５に対する被写体の画像がリアルタイムでメイン表示部１０１に表示され（図９（ｂ）参照）、自動認証が開始される。このとき、サブカメラ１０５の初期化処理が終了して撮影可能な状態になった時点で、ユーザが撮影操作を行わなくても、認証用の顔画像が撮影され、更にこの撮影画像から特徴情報が抽出される。そして抽出された特徴情報がメモリ４１０の特徴情報記憶部４１３に予め記憶されているユーザの特徴情報と比較されることにより、認証処理が自動的に行われる。

この認証処理において、抽出された顔画像の特徴情報とメモリ４１０に記憶されているユーザの特徴情報との一致度が、セキュリティレベル設定画面において予め設定されている認証閾値を超えた場合には、その操作者が真のユーザであると判断される。この場合、メイン表示部１０１に表示されているユーザの顔画像に対して、いわゆるアクションフォーカスによる強調表示が行われることにより、認証に成功した旨が視覚的効果により報知される。

その後、認証に成功した旨のメッセージがメイン表示部１０１に表示され（図９（ｃ）参照）、所定時間経過後に、シークレットモードのオン／オフを切り替えるための画面に切り替わる（図９（ｄ）参照）。一方、特徴情報の一致度が認証閾値よりも小さく、認証に失敗した場合には、その時点でサブカメラ１０５により撮影される画像から再び特徴情報が自動的に抽出され、その特徴情報がメモリ４１０に記憶されているユーザの特徴情報と比較される。

このように本実施形態では、認証に失敗した場合、所定時間（例えば、３秒）が経過してタイムアウトとなるまで認証処理が繰り返し連続的に行われ、認証に成功した時点で認証処理が終了する。すなわち、認証に成功すること又はタイムアウトになることを終了条件として、終了条件が成立するまで一連の認証処理が行われる。

例えば、タイムアウトの時間を３秒に設定した場合には、認証処理が最大で７回程度行われる。すなわち、１回の認証処理に要する時間は０．４秒程度であり、１回目の認証処理で認証に成功すれば、サブカメラ１０５の初期化処理終了後にほとんど待ち時間なく次の処理に進むことができる。認証処理が繰り返し行われている間、メイン表示部１０１にはファインダ画面が表示され、サブカメラ１０５に対する被写体の画像がリアルタイムで表示される。

認証処理が繰り返し行われる際、複数回の認証処理が行われるたびに、それらの認証処理における特徴情報の比較結果として、特徴情報の一致度に応じた表示がメイン表示部１０１になされる。より具体的には、メイン表示部１０１に表示されているファインダ画面の枠１１７の色が、特徴情報の一致度に応じた色で表示される。これにより、認証処理時の特徴情報の一致度の比較結果が表示されるので、ユーザは、その表示に基づいて、その認証処理時に撮影された自己の顔画像が認識しやすい画像であったか否かを確認することができる。

ただし、このような構成に限らず、特徴情報の一致度が数値やグラフなどを用いてメイン表示部１０１にレベル表示されるような構成であってもよい。また、すべての認証処理について比較結果を表示するような構成に限らず、少なくとも１回の認証処理について比較結果を表示するものであればよい。

自動認証が開始されてから所定時間が経過してタイムアウトとなった場合には、認証に失敗した旨がメイン表示部１０１に表示される（図９（ｅ）参照）。この表示画面に含まれる再認証キー１１８をユーザが選択すると、メイン表示部１０１の表示は、図９（ｂ）に示すファインダ画面に戻り、再び自動認証が開始される。一方、図９（ｅ）においてメイン表示部１０１に表示された端末暗証番号入力キー１１９をユーザが選択すると、メイン表示部１０１の表示は、端末暗証番号の入力を促す端末暗証番号入力画面に切り替わる（図９（ｆ）参照）。

図９（ｆ）の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部１０１の表示は、シークレットモードのオン／オフを切り替えるための画面に切り替わる（図９（ｄ）参照）。

一方、図９（ｆ）の端末暗証番号入力画面において、操作キー２０１の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部１０１に表示される（図９（ｇ）参照）。また、端末暗証番号入力画面において入力された文字列が３桁以下である場合には、４〜８桁の文字列を入力すべき旨がメイン表示部１０１に表示される（図９（ｈ）参照）。そして、図９（ｇ）又は図９（ｈ）に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されると、メイン表示部１０１の表示は、図９（ａ）に示す管理機能画面に戻る。

本実施の形態のように、認証処理において認証に失敗した場合に、再度自動的に認証処理を行うような構成によれば、真のユーザが操作を行う場合に、１回目の認証処理により真のユーザであると判断されなかった場合でも、その後にユーザが撮影操作を行うことなく、認証処理が再度行われる。すなわち、真のユーザであると判断されるまで繰り返し自動的に認証処理が行われるので、認証処理に要する手間を削減できるとともに、認証処理に要する時間を短縮できる。

上記のような顔認証においては、認証に成功しない場合、タイムアウトとなるまで一連の認証処理が行われるので、例えば周囲が暗い場合など、特徴情報の抽出が困難な環境で顔認証を行う場合、顔画像を何度撮影したとしても認証に成功することがないにもかかわらず、タイムアウトとなるまで認証処理が繰り返し行われてしまう。そこで、本実施の形態では、例外的に、一連の認証処理において連続する所定回数の認証処理で認証に失敗したことを終了条件として、連続認証部４０３による認証処理を中止し、代替認証部４０４により顔認証とは異なる認証処理を行うこととしている。

図１０は、認証処理の一例を示したフローチャートである。この例では、顔認証による認証処理が開始されてからタイムアウトとなるまで（ステップＳ１０１でＹｅｓとなるまで）、撮影画像に基づく特徴情報の抽出、及び抽出された特徴情報に基づく認証（一致度算出及び認証閾値との比較）が繰り返されることにより、一連の認証処理が行われる。

撮影画像に基づく特徴情報の抽出に成功した場合には（ステップＳ１０２でＹｅｓ）、その抽出された特徴情報に基づく認証が行われる。そして、認証に成功すれば（ステップＳ１０４でＹｅｓ）、その後の処理の実行が許可され（ステップＳ１０８）、シークレットモードの例においては、シークレットモードのオン／オフを切り替えるための画面（図９（ｄ）参照）がメイン表示部１０１に表示される。

撮影画像に基づく特徴情報の抽出に失敗した場合には（ステップＳ１０２でＮｏ）、その一連の認証処理中に２回連続して特徴情報の抽出に失敗したか否かを判定する（ステップＳ１０３）。そして、２回連続して特徴情報の抽出に失敗した場合には（ステップＳ１０３でＹｅｓ）、顔認証が中止される（ステップＳ１０５）。この場合、メイン表示部１０１に端末暗証番号を入力するための端末暗証番号入力画面が表示され（ステップＳ１０６）、顔認証とは異なる認証処理として、端末暗証番号の入力による認証処理が代替認証部４０４により実行される。

メイン表示部１０１に表示される端末暗証番号入力画面については、図９（ｆ）において説明したのと同様である。ただし、認証処理が中止された場合、暗証番号入力画面が自動的に画面表示されて、暗証番号入力による認証処理が可能になるような構成に限らず、ユーザの操作に基づいて、暗証番号入力による認証処理を行うことが可能になるような構成であってもよい。

端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には（ステップＳ１０７でＹｅｓ）、その後の処理の実行が許可され（ステップＳ１０８）、シークレットモードの例においては、シークレットモードのオン／オフを切り替えるための画面（図９（ｄ）参照）がメイン表示部１０１に表示される。

本実施の形態では、特徴情報の抽出が困難な環境、例えば周囲が暗い場合などにおいて、一連の認証処理中に所定回数（例えば、２回）の認証処理で特徴情報の抽出に失敗した場合には、撮影画像による認証処理を中止することができる。したがって、顔画像を何度撮影したとしても認証に成功することがないような環境において、撮影画像による認証処理が繰り返し行われるのを防止できるので、認証処理に要する時間を短縮できる。

また、所定回数（例えば、２回）だけ連続して特徴情報の抽出に失敗した場合に、撮影画像による認証処理を中止することができる。連続して特徴情報の抽出に失敗した場合には、周囲が暗いなど、顔画像を何度撮影したとしても認証に成功することがないような環境である可能性が高いので、認証処理を適切に中止することができる。

本実施の形態では、撮影画像による認証処理が中止された後、暗証番号入力により認証を行うことができる。暗証番号入力による認証処理は、周囲が暗いなどの環境においても行うことができるので、真のユーザは、暗証番号入力を行うことにより、速やかに認証に成功して、その後の処理を実行することができる。

ただし、代替認証部４０４が行う認証処理は、暗証番号入力による認証処理に限らず、撮影画像による認証処理とは異なる他の代替的な認証処理、例えば指紋入力による認証処理などであってもよい。指紋入力による認証処理では、例えば、接触面に接触したユーザの指に向けて光を照射し、その反射光に基づいて指紋を認識することができる。すなわち、指紋入力による認証処理では、接触面にユーザの指が接触するので、周囲が暗いなどの環境においても認証処理を行うことができる。指紋入力による認証処理の手法は周知の技術であるので、ここではその詳細な説明を省略することとする。

代替認証部４０４は、連続する２回の認証処理において特徴情報の抽出に失敗したことを終了条件として、認証処理を中止するような構成に限らず、１回の認証処理において特徴情報の抽出に失敗した場合に、認証処理を中止するような構成であってもよいし、３回以上の所定回数の認証処理において特徴情報の抽出に失敗した場合に、認証処理を中止するような構成であってもよい。

また、２回以上の所定回数の認証処理において特徴情報の抽出に失敗したときに、認証処理を中止するような構成を採用する場合には、連続する所定回数の認証処理において特徴情報の抽出に失敗した場合に限らず、一連の認証処理において特徴情報の抽出に失敗した認証処理の合計回数が所定回数に達した時点で、認証処理を中止するような構成であってもよい。

なお、認証処理における顔画像の撮影時には、シャッター音を発生させないような構成であることが好ましい。このような構成により、電車の中などの周囲に人がいる環境で認証処理を行う場合に、シャッター音の発生により盗撮等の誤解を受けるのを防止できる。本実施の形態では、認証処理に際して撮影操作を行わないので、撮影操作を行うことにより盗撮等の誤解を受けるのを防止できる。

ただし、所定時間内に真のユーザであると判断されなかった場合、タイムアウトとなるような構成に限らず、認証に成功するまで繰り返し認証処理を行うような構成であってもよい。

顔認証は、ユーザの撮影操作なしで認証が開始される自動認証に限らず、ユーザの撮影操作に応じて撮影が行われ、その撮影画像に基づいて顔認証が行なわれるような構成であってもよい。

顔認証は、シークレットモードのオン／オフを切り替える際に限らず、セキュリティ度やプライバシー度の高い他の機能、例えば、カード設定、着信制限、ロック設定、暗証番号変更、発信者番号通知／非通知設定、設定リセット、ソフトウェア更新、自局番号詳細表示、その他のデータ変更に関する各種設定操作に際して行うことができる。

本発明は、以上の実施の形態の内容に限定されるものではなく、請求項記載の範囲内において種々の変更が可能である。

本発明の実施の形態による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機が示されている。 図１に示した携帯電話機の内部構成の一例を示したブロック図である。 図２の撮像ユニット駆動制御部の構成例を示したブロック図である。 図２の認証処理部の構成例を示したブロック図である。 顔認証に関する設定を行う際のメイン表示部の表示例を示した図である。 顔認証用画像登録画面の表示例を示した図である。 セキュリティレベル設定画面の表示例を示した図である。 エラー履歴画面の表示例を示した図である。 顔認証を行う際のメイン表示部の表示例を示した図である。 認証処理の一例を示したフローチャートである。

符号の説明

１ 携帯電話機
１０１ メイン表示部
１０２ サブ表示部
１０３ 受話用レシーバ
１０４ メインカメラ
１０５ サブカメラ
２０１ 操作キー
２０３ 送話用マイクロフォン
４００ 制御部
４０１ 撮像ユニット駆動制御部
４０２ 認証処理部
４０２Ａ 特徴抽出部
４０２Ｂ 一致度算出部
４０２Ｃ 一致度判定部
４０３ 連続認証部
４０４ 代替認証処理部
４０７ 撮像ユニット起動部
４０７Ａ 電源投入部
４０７Ｂ 初期化処理部
４０８ 撮影制御部
４０９ 撮像ユニット停止部
４１０ メモリ
４１１ 表示画面データ記憶部
４１２ 画像データ記憶部
４１３ 特徴情報記憶部
４１４ エラー履歴情報記憶部
４５０ 通信部

Claims (4)

1. 被写体を撮影するための撮像手段と、
   顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段と、
   上記撮像手段による撮影画像から特徴情報を抽出し、その特徴情報を上記登録特徴情報と比較することにより認証処理を行う認証処理手段と、
   上記撮像手段及び上記認証処理手段を制御して、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく上記認証処理を行うことにより、一連の認証処理を行う連続認証手段とを備え、
   上記連続認証手段は、上記一連の認証処理中に特徴情報の抽出に失敗した上記認証処理の合計回数が所定回数に達したことを終了条件として、上記一連の認証処理を終了することを特徴とする携帯情報端末装置。
2. 上記終了条件は、連続する２回以上の所定回数の認証処理において特徴情報の抽出に失敗したことであることを特徴とする請求項１に記載の携帯情報端末装置。
3. 上記終了条件が成立して認証処理が終了した場合に、暗証番号入力による認証処理を行う暗証番号認証処理手段を備えたことを特徴とする請求項１又は２に記載の携帯情報端末装置。
4. 上記終了条件が成立して認証処理が終了した場合に、指紋入力による認証処理を行う指紋認証処理手段を備えたことを特徴とする請求項１に記載の携帯情報端末装置。

Images