[go: up one dir, main page]

JP2019020638A - 音生成装置、音生成制御プログラム - Google Patents

音生成装置、音生成制御プログラム Download PDF

Info

Publication number
JP2019020638A
JP2019020638A JP2017140571A JP2017140571A JP2019020638A JP 2019020638 A JP2019020638 A JP 2019020638A JP 2017140571 A JP2017140571 A JP 2017140571A JP 2017140571 A JP2017140571 A JP 2017140571A JP 2019020638 A JP2019020638 A JP 2019020638A
Authority
JP
Japan
Prior art keywords
sound
vehicle
complexity parameter
degree
change
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017140571A
Other languages
English (en)
Other versions
JP6645480B2 (ja
Inventor
宇田 尚典
Naonori Uda
尚典 宇田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2017140571A priority Critical patent/JP6645480B2/ja
Publication of JP2019020638A publication Critical patent/JP2019020638A/ja
Application granted granted Critical
Publication of JP6645480B2 publication Critical patent/JP6645480B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Electrophonic Musical Instruments (AREA)

Abstract

【課題】運転中の周囲環境と音との関連性を持たせ、出力される音に運転者が運転するときの注意喚起機能として機能を持たせる。【解決手段】複雑さパラメータ1は、撮像ユニット16で撮像された車両走行中の画像全体の変化の度合いを監視する情報である。複雑さパラメータ2は、車両の走行方向の左右端の変化の度合いを重点的に監視する情報である。音情報ファイル1〜音情報ファイル4に設定される重み1〜重み4は、各音情報ファイルから制御座標点までの距離に対応し、重み付けが実行される。複雑さパラメータ3は、車両の近傍に存在する障害物の有無を監視する情報である。車両が駐車場の敷地内である、道路が狭く、かつ電信柱や自動販売機が道路側に突出して設置されている、及び、道路が狭く、かつ人通りが多い場合は危険度が高くその分増幅率を高くする(出力音量を上げる)。【選択図】図9

Description

本発明は、車両の走行中に運転者に注意を喚起する音生成装置、音生成制御プログラムに関する。
従来、レーシングゲームやドライブシュミレータ等において、臨場感を高めるために、或いは、電気自動車で実際の走行状態に応じたエンジン音を発生させるために、エンジン模擬音を生成するエンジン模擬音生成装置が提案されている。
特許文献1には、エンジン音の予め定めた時間内での音圧波形データを回転速度およびアクセル操作量に割付けて形成したマップに基づき、エンジン模擬音を発生させることが記載されている。
また、特許文献2には、運転操作量とエンジン回転速度をパラメータとしてエンジン運転状態を複数の範囲に分け、各範囲の略中央状態で録音したエンジン音のそれぞれを、クランク軸が1燃料サイクル分回転する時間に相当する長さの音圧波形の単位で、エンジン音のデジタルデータとして記憶し、運転操作量とエンジン回転速度の入力に応じた運転状態範囲のエンジン音データを繰り返し発音させることが記載されている。
上記特許文献1及び特許文献2を含め、従来の車両等における音生成装置では、車両等の走行に関する音として、エンジン回転数とアクセル操作量との二次元パラメータ(二次元座標)の四隅に相当するエンジン音のサンプルを準備しておき、検出したエンジン回転数とアクセル操作量に応じた座標点の音を補完して出力するものである。
補完の手段は、エンジン回転数及びアクセル操作量によって音の再生速度を変化させる。また、エンジン回転数及びアクセル操作量に応じた重みを設定し、音量を変化させる。
一方、特許文献3には、周囲環境に応じて自動作曲することが記載されている。すなわち、特許文献3では、複数のパートが同時に鳴ることで音楽を生成している。それぞれのパートの音は、映像や電波センサ等の反応に応じて鳴るようになっている。
また、特許文献4には、危険判定部によって速度センサからの信号に基づいて、運転の危険性を判定し、生成する音楽における音のスケール、音楽において鳴らす和音、楽器の音を鳴らすタイミング、楽器の演奏速度の少なくとも1つを変更することが記載されている。
なお、参考として、楽曲データと車両状態の検出結果を利用して音楽を発生する車両用音楽発生装置が開示されている(特許文献5)。
さらに、参考として、モニタに表示される監視対象から入力される外部信号に基づいて、監視対象の変化を音楽の変化に変換することで、監視作業を聴覚にも反映させる信号監視用音楽演奏装置が開示されている(特許文献6)。
また、参考として、外部環境や人の生体情報を使って自動再生する音響構成装置が開示されている(特許文献7参照)。
特開2000−1142号公報 特開2000−10576号公報 特開2016−183988号公報 特開2016−102863号公報 特許第4984861号公報 特許第4458581号公報 特許第3381074号公報
例えば、静粛性の高い車両では車室内のエンジン音を極力遮断する構造をとっている。また、電気自動車では、そもそも車両の駆動源がエンジンからモータ等に遷移する中、エンジン音は存在しない。例えば、音の出力対象を、車両の周囲を歩行している人や自転車で走行している人とし、当該人に対して注意喚起するという目的では有効であるが、静粛性の高い車両及び電気自動車を運転している運転者にとっては、走行中の耳障りとなる可能性がある。
一方、運転者は、車両の安全運転の一環として、周囲の環境の様子を認識したいという要求がある。
しかしながら、車両の操作状態をパラメータとした音発生技術は存在するが、運転中の周囲環境と音との関連性は考慮されていない。
本発明は上記事実を考慮し、運転中の周囲環境と音との関連性を持たせ、出力される音に運転者が運転するときの注意喚起機能として機能を持たせることができる音生成装置、音生成制御プログラムを得ることが目的である。
本発明の音生成装置は、車両の走行中において、当該車両の周囲環境情報、及び、乗員の身体状況情報の少なくとも一方を含む環境パラメータを取得する取得手段と、前記取得手段で取得した前記環境パラメータに応じた音を生成する音生成手段と、乗員に対して、前記音生成手段によって生成された音を出力する出力手段と、を有している。
本発明によれば、取得手段は、車両の走行中において、当該車両の周囲環境情報、及び、乗員の身体状況情報の少なくとも一方を含む環境パラメータを取得する。音生成手段は、取得手段で取得した前記環境パラメータに応じた音を生成し、出力手段は、乗員に対して、音生成手段によって生成された音を出力する。
ここで、音生成手段では、取得手段で取得した環境パラメータに基づいて、音を生成している。言い換えれば、車両の走行のために操作状態に基づくパラメータではない。
すなわち、本発明では、例えば、車両の周囲環境情報によって注意喚起するための音を生成しているため、当該生成された音の出力によって、車両の周囲環境を把握することができ、運転に配慮することができる。
本発明において、前記取得手段が、当該車両の周囲環境情報の複雑さを表す複雑さパラメータを、前記環境パラメータとして取得することを特徴としている。
環境パラメータにより、車両の周囲環境情報の複雑さを表す複雑さを表現することができる(複雑さパラメータ)。
本発明において、前記取得手段が、前記車両に取り付けられ、少なくとも走行中の前方画像を撮像する撮像手段を備え、前記撮像手段で撮像した画像を解析して、前記車両の周囲環境情報を取得することを特徴とする。
周囲環境を取得する情報源として、車両の走行中の前方画像を撮像する。車両の走行において、最も重要な前方画像から、様々な周囲環境を取得することができる。
本発明において、前記車両の周囲環境情報として、前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算する第1の演算手段をさらに有し、前記音生成手段では、前記第1の演算手段で演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、生成する音を変更することを特徴とする。
車両の周囲環境情報として、第1の複雑さパラメータと第2の複雑さパラメータを演算する。
第1の複雑さパラメータは、撮像手段で撮像された前方画像の全体の変化度合いである。また、第2の複雑さパラメータは、前方画像の内の車両側部に特化した変化度合いである。
変更手段では、第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、音生成手段による音の生成を変更する。異なる要素のバランスで音が変化するため、二次元的な拡がりで報知形態を異ならせることができる。
本発明において、前記車両の周囲環境情報として、前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算する第2の演算手段をさらに有し、前記音生成手段では、前記第2の演算手段で演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、生成する音を変更することを特徴とする。
前記車両の周囲環境情報として、第3の複雑さパラメータを演算する。第3の複雑さパラメータは、撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いである。
変更手段では、第3の複雑さパラメータと、車両の速度との関係に基づいて、生成する音を変更する。音の変更は、音量を含む。例えば、予め定めた距離以内に障害物が多く存在し、かつ車両の速度が遅い状況が認識可能であり、この状況は、人通りの多い狭い道路等が考えられ、一例として音量増大は、より注意喚起を強調する契機となり得る。
本発明において、前記音生成手段が、予め記憶された複数の音を読み出して音を生成する、或いは、前記撮像手段で撮像された画像に基づいて自動作曲した複数の音から音を生成し、前記環境パラメータに基づく、音の変更が、複数の音の合成度合いを調整することを特徴とする。
聴覚を通じて注意喚起を認識することができるため、視覚を通じた注意喚起に比べて運転中の視線の変更を軽減することができる。
本発明の音生成装置は、車両に取り付けられ、少なくとも走行中の前方画像を撮像する撮像手段と、予め記憶された複数の音を読み出して合成音を生成する、或いは、前記撮像手段で撮像された画像に基づいて自動作曲した複数の音から合成音を生成する音生成手段と、前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算する第1の演算手段と、前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算する第2の演算手段と、前記第1の演算手段で演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、前記音生成手段により合成される複数の音の合成度合いを変更する第1の変更手段と、前記第2の演算手段で演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、前記音生成手段により生成される合成音の音量を変更する第2の変更手段と、乗員に対して、前記音生成手段によって生成された音を出力する出力手段と、を有している。
本発明によれば、第1の演算手段では、撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算し、両者のバランスに基づいて、前記音生成手段により生成される音を変更する(第1の変更手段)。
また、第2の演算手段では、撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算し、当該第3の複雑さパラメータと、車両の速度との関係に基づいて、音生成手段により生成される音を変更する(第2の変更手段)。
一例として、第1の変更が音色や合成バランス、リズム等であるのに対し、第2の変更手段が、第1の変更手段で出力される音を音量とする。
生成された音が出力されることで、周囲環境の変化が音の変化として表され、別の場所はどのような変化があるという関心を誘うことができる。
例えば、周りに何も無い田園地帯での走行では、音は比較的静かになり、ビルが多い都会での走行は複数の音が混じったり、音量が大きくなる、といった変更で、周囲の状況を音で表現することができる。
また、周囲環境に応じて音が変化することで、注意散漫になりがちな単調な運転を回避することができる。
さらに、音の変化によって、感覚的に周囲状況が把握でき、視線を運転に集中させることができる。
本発明の音生成制御プログラムは、コンピュータに、予め記憶された複数の音を読み出して合成音を生成する、或いは、撮像手段で撮像された画像に基づいて自動作曲した複数の音から合成音を生成し、前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算し、前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算し、演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、合成される複数の音の合成度合いを変更し、演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、生成される合成音の音量を変更する、ことを実行させることを特徴とする。
以上説明した如く本発明では、運転中の周囲環境と音との関連性を持たせ、出力される音に運転者が運転するときの注意喚起機能として機能を持たせることができる。
本実施の形態に係る音生成制御装置の概略図である。 制御プログラムに基づきRAMで実行される音生成制御装置での音生成処理及び再生処理をブロック化して示す機能ブロック図である。 撮像ユニットで撮像した画像であり、(A)は複雑さパラメータ1を得るための画像の正面図、(B)複雑さパラメータ2を得るための画像の正面図、(C)は図3(B)で分割した画像コマを特定する番号の配列図である。 制御座標点の重みを決定するための複雑さパラメータ1−複雑さパラメータ2特性図である。 音情報ファイル毎の重み設定の一覧を示す特性図である。 運転中の危険度を導出するための速度−複雑さパラメータ3特性図である。 図6で導出される危険度と増幅率との関係を示す特性図である。 IGオン時に起動する本実施の形態に係る音生成制御ルーチンを示すフローチャートである。 、図8のフローチャートに基づき実行される音生成制御において、情報(信号)処理の遷移状態を示す流れ図である。 本実施の形態の変形例に係り、自動作曲プログラムを適用した場合の情報(信号)処理の遷移状態を示す流れ図である。
図1には、本発明の注意喚起制御装置としての音生成制御装置10の概略図が示されている。
図1に示される如く、音生成制御装置10は、各種制御及び各種演算を行うマイクロコンピュータ12を備える。マイクロコンピュータ12は、CPU12A、RAM12B、ROM12C、入出力部(I/O)12D、及びこれらを接続するデータバスやコントロールバス等のバス12Eを備えている。
I/O12Dには、不揮発性メモリとしてハードディスク14が接続されている。なお、I/O12Dには、USBメモリ、SDメモリ等、他の不揮発性メモリが、図示しないI/Fを介して接続されるようにしてもよい。
また、I/O12Dは、入力系デバイスとして撮像ユニット16が接続されている。撮像ユニット16は、本実施の形態では、車両の前方を撮像するカメラで構成されている。なお、撮像ユニット16として適用されるカメラは、本実施の形態の音生成制御装置10の専用であってもよいし、運転中の死角領域等をカバーするための既存の車載カメラであってもよく、少なくとも、車両の走行中の前方を撮像した画像情報が取得できればよい。
撮像ユニット16は、所謂一般的なカメラによる色や階調で表現する画像のみならず、赤外線による温度差を表現する画像や、ソナー(超音波)による対象物までの距離を表現する画像を含むことを意味する。
I/O12Dには、出力系デバイスとして、ドライバ18を介してスピーカ20が接続されている。本実施の形態に係る音生成制御装置10では、車両の走行中の周囲環境に応じた音が選択され、スピーカ20から出力されるようになっている(詳細後述)。スピーカ20は、本実施の形態の音生成制御装置10の専用であってもよいし、車両に搭載されたオーディオ機器に付属するスピーカを流用してもよい。
ここで、ROM12Cには、音生成制御のための、音生成処理及び音再生処理を実行するための制御プログラムが記憶されている。CPU12Aは、ROM12Cに記憶された制御プログラムを読み出し、例えば、RAM12Bをワークエリアとして使用して制御プログラムを実行する。なお、ここでは、ソフトウエアは制御プログラムと同義である。
図2は、制御プログラムに基づきRAM12Bで実行される音生成制御装置10での音生成処理及び再生処理をブロック化して示す機能ブロック図である。なお、この図2に示すブロックは、音生成制御装置10のハード構成を限定するものではない。
撮像ユニット16は、画像取得部22に接続されている。画像取得部22には、例えば、車両の走行状態を示す信号(例えば、イグニッション(IG)信号等)が入力されており、IG信号がオンしたことを認識した時点で、撮像ユニット16から画像情報を取得する。
画像取得部22は、音情報ファイル読出部24及び画像解析部26に接続されている。
画像取得部22は、IG信号の入力を契機として、音情報ファイル読出部24に対して、音情報ファイルの読み出しを指示する指示信号を出力する。音情報ファイル読出部24では、指示信号の入力を受けて、音情報ファイル記憶部28から音情報ファイルを読み出し、再生部30へ出力する。
音情報ファイル記憶部28には、予め4種類の音情報ファイル1〜音情報ファイル4(図4、図9参照)が記憶されている。本実施の形態では、音情報ファイル1〜音情報ファイル4の種類として、自然(川、風、虫等)を表現する音、季節の風物詩(お祭り、花火等)を表現する音、及び、楽器音等が挙げられる。
音情報ファイル1〜音情報ファイル4、必ずしも同一の音の種類から選択しなくてもよいが、本実施の形態では、例えば、自然を表現する音に特化し、音情報ファイル1に清流音、音情報ファイル2に風の音、音情報ファイル3に虫の音、及び音情報ファイル4に雷鳴といったように、同一種類の音から異なる音色が記憶されている。
再生部30では、デフォルトとして、全ての種類の音色を、それぞれ予め定めた周期、予め定めた音量で再生し、ドライバ18を介してスピーカ20から出力する。
一方、図2に示される如く、画像取得部22に接続された画像解析部26では、撮像した画像情報を解析する。
画像解析部26では、基本処理として、撮像した画像をグレースケール化してエッジ検出を実行する。
グレースケール化は、例えば、2値化処理した白黒データであってもよいし、濃度データ(例えば、8ビット階調データ等)であってもよい。なお、白黒データの方が、濃度データよりも情報量が少ない分、変化度合いの精度は劣るが、解析処理速度を短くすることができる。本実施の形態では、白黒データを用いるが、撮像する条件(地域、時間帯等)によって、選択するようにしてもよい。
画像解析部26は、複雑さパラメータ生成部32に接続されている。複雑さパラメータ生成部32では、環境パラメータとしての、複雑さパラメータ1、複雑さパラメータ2、及び複雑さパラメータ3を抽出するための情報を生成する。
(複雑さパラメータ1)
複雑さパラメータ生成部32で生成される複雑さパラメータ1は、画像全体の変化の度合いを監視する情報である。
複雑さパラメータ1の生成に際し、基本処理として生成した白黒データを取得し(図3(A)参照)、時間的に前後する画像情報の差(の絶対値)を演算し(差分演算)、車両の走行(移動)に応じて、当該差分演算を数十回(例えば、60回程度)繰り返したときの平均値を演算する。この複雑さパラメータ1によって、車両の走行中において撮像された画像全体の変化を認識することができる。
この複雑さパラメータ1は、重み決定部34へ送出される。
(複雑さパラメータ2)
複雑さパラメータ生成部32で生成される複雑さパラメータ2は、車両の走行方向の左右端の変化の度合いを重点的に監視する情報である。
複雑さパラメータ2の生成に際し、基本処理として生成した白黒データ(絶対値)を取得し、取得した白黒データの画像を複数の画像コマに分割する。例えば、図3(C)に示される如く、横9×縦5に分割し、各画像コマに対して、左上から右下にかけて番号を付与する。
分割した画像コマの中から、車両の左右に相当する画像コマである、図3(B)のNo.21とNo.26との差の絶対値の平均値、及びNo.25とNo.30との差の絶対値の平均値を抽出する。そして、No.21とNo.26との差の絶対値の平均値、及びNo.25とNo.30との差の絶対値の平均値とを演算し(平均値演算)、車両の走行(移動)に応じて、当該平均値演算を数十回(例えば、40回程度)繰り返したときの平均値を演算する。
この複雑さパラメータ2によって、車両の走行中において、特に側方の変化を認識することができる。複雑さパラメータ2は、重み決定部34へ送出される。
(複雑さパラメータ1、2による重み付け)
図2に示される如く、重み決定部34は、4種類の音情報ファイル(音情報ファイル1〜音情報ファイル4)に対して、複雑さパラメータ1及び複雑さパラメータ2に基づき、それぞれ重み付けを行う。
図4は、複雑さパラメータ1を横軸、複雑さパラメータ2を縦軸とした場合の、撮像ユニット16で撮像された画像の現在の制御座標点(x,y)を特定するための特性図である。すなわち、制御座標点は、複雑さパラメータ1と複雑さパラメータ2とのバランスで決まるようになっている。
前記音情報ファイル1〜音情報ファイル4は、図4の特性図の4隅にそれぞれ位置している。音情報ファイル1〜音情報ファイル4に設定される重み1〜重み4は、各音情報ファイル(音情報ファイル1〜音情報ファイル4)から制御座標点(x,y)までの距離に対応している。
音情報ファイル1は、複雑さパラメータ1が最小、複雑さパラメータが最小の位置に配置されている(xmin,ymin)。図5に示される如く、音情報ファイル1は、複雑さパラメータ1が小さいほど重みが強く、複雑さパラメータ2が小さいほど重みが強い特性である。
音情報ファイル2は、複雑さパラメータ1が最小、複雑さパラメータが最大の位置に配置されている(xmin,ymax)。図5に示される如く、音情報ファイル2は、複雑さパラメータ1が小さいほど重みが強く、複雑さパラメータ2が大きいほど重みが強い特性である。
音情報ファイル3は、複雑さパラメータ1が最大、複雑さパラメータが最大の位置に配置されている(xmax,ymax)。図5に示される如く、音情報ファイル3は、複雑さパラメータ1が大きいほど重みが強く、複雑さパラメータ2が大きいほど重みが強い特性である。
音情報ファイル4は、複雑さパラメータ1が最大、複雑さパラメータが最小の位置に配置されている(xmax,ymin)。図5に示される如く、音情報ファイル4は、複雑さパラメータ1が大きいほど重みが強く、複雑さパラメータ2が小さいほど重みが強い特性である。
図2に示される如く、重み決定部34は、重み調整部36に接続され、決定された重み情報を重み調整部36へ送出する。重み調整部36では、再生部30で再生される、音情報ファイル1〜音情報ファイル4に対して、重み決定された重み情報に基づいて重み付けを実行する。これにより、音情報ファイル1〜音情報ファイル4は、複雑さパラメータ1及び複雑さパラメータ2に基づいて、出力時の強調度合い(周期、音量等)が変化して出力される。
例えば、複雑さパラメータ1及び複雑さパラメータ2のそれぞれの値が小さい場合は、音情報ファイル1が最も重みが強く、強調される。
(複雑さパラメータ3)
複雑さパラメータ生成部32で生成される複雑さパラメータ3は、車両の近傍に存在する障害物の有無を監視する情報である。
複雑さパラメータ3の生成に際し、速度−複雑さパラメータ3の特性曲線の基準線A(図6参照)を設定する。
図6に示す基準線Aは、車両の速度に対して複雑さパラメータ3が、直線的に変化すると仮定した場合の特性曲線であり、基準線Aと実際の特性曲線との差が、車両の近傍に存在する障害物の有無を監視する情報となる。
例えば、車両が障害物の少ない道路を走行しているときは、実際の速度−複雑さパラメータ3特性曲線は、特性曲線Bとなり、前記基準線Aを超える要素はない。
一方、障害物の多い道路を走行しているときは、実際の速度−複雑さパラメータ3特性曲線は、特性曲線Cとなり、前記基準線Aを超える要素が存在する(図6の斜線領域D参照)。この斜線領域Dが発生する状況としては、車両が駐車場の敷地内である、道路が狭くかつ電信柱や自動販売機が道路側に突出して設置される、及び、人通りが多い場合等が挙げられる。
複雑さパラメータ生成部32で生成された複雑さパラメータ3は、危険度判定部38へ送出される。危険度判定部38は、前記図6の斜線領域Dが発生しているか否かを監視することで、現在の車両の危険度を判定する。なお、運転中の危険度が高い状況は、上記に限定されるものではない。
図2に示される如く、危険度判定部38は、ゲイン調整部40に接続されている。ゲイン調整部40は、再生部30に接続されている。すなわち、危険度判定部38において、危険度を示す数値がゲイン調整部40に送出されると、ゲイン調整部40では、図7に示される如く、危険度−ゲイン(ここでは、音量)特性図に基づき、ゲイン調整量が特定される。再生部30では、特定されたゲイン調整量に基づき、音情報ファイル1〜音情報ファイル4の合成音のゲイン(増幅率)を調整する。
例えば、車両が、道路が狭く、かつ電信柱や自動販売機が道路側に突出して設置されていたり、人通りが多い場所を走行している場合は、デフォルトの音量よりも大きくすることで、注意喚起を図るようになっている。なお、本実施の形態では、ゲインを音量としているが、例えば、再生ピッチ量(危険度が高い場合は再生ピッチを上げる)、音階(危険度が高いときは音階を上げる)等を調整するようにしてもよい。
以下に、本実施の形態の作用を説明する。
図8は、IGオン時に起動する本実施の形態に係る音生成制御ルーチンを示すフローチャートである。また、図9は、図8のフローチャートに基づき実行される音生成制御において、情報(信号)処理の遷移状態を示す流れ図である。
図8に示される如く、IGがオンになると、ステップ100において、撮像ユニット16が起動して、撮像を開始する。
次のステップ102では、音情報ファイル記憶部28に記憶されている、音情報ファイル1〜音情報ファイル4を読み出し、次いで、ステップ104へ移行して、再生処理を開始する。すなわち、ステップ102で読み出した音情報ファイル1〜音情報ファイル4の音源を合成してスピーカから繰り返し出力する。
次のステップ106では、撮像ユニット16で撮像した画像を解析する。本実施の形態では、撮像した画像をグレースケール化(白黒データ)し、エッジ検出を実行する(図3参照)。
次のステップ108では、画像解析された情報から、複雑さパラメータ1を演算する。
すなわち、複雑さパラメータ1は、白黒データに基づいて、時間的に前後する画像情報の差の絶対値を演算し、車両の走行に応じて、差分演算を繰り返したときの平均値を演算する。
次のステップ110では、画像解析された情報から、複雑さパラメータ2を演算する。
すなわち、複雑さパラメータ2は、白黒データの画像を複数の画像コマに分割(例えば、横9×縦5)した画像コマの中から、車両の左右に相当する画像コマの差の絶対値の平均値を演算し、車両の走行に応じて、平均値演算を繰り返したときの平均値を演算する。
次のステップ112では、ステップ108で得た複雑さパラメータ1、及びステップ110で得た複雑さパラメータ2に基づいて、重みを決定する。重みは、制御座標点(x,y)の位置と、音情報ファイルの座標点との距離に応じて決定される(図4及び図5参照)。
次のステップ114では、決定した重みに基づき、各音情報ファイル1〜音情報ファイル4に対して重み付け処理を実行し、ステップ116へ移行する。
ステップ116では、画像解析された情報から、複雑さパラメータ3を演算する。
すなわち、複雑さパラメータ3は、車両の近傍に存在する障害物の有無を監視する情報であり、障害物の多い道路を走行しているときの速度−複雑さパラメータ3特性曲線(図FFF参照)において、基準線Aを超える領域(斜線領域D)が存在するか否かを判定する情報となる。
図6の特性曲線Cの場合は、運転中の危険度が高いことを意味する。具体的な状況は以下のとおりである。
(状況1)車両が駐車場の敷地内である。
(状況2)道路が狭く、かつ電信柱や自動販売機が道路側に突出して設置されている。
(状況3)道路が狭く、かつ人通りが多い。
なお、運転中の危険度が高い状況は、上記状況1〜3に限定されるものではない。
次のステップ118では、ステップ116で演算した複雑さパラメータ3によって決まる斜線領域D(図6参照)の大きさ(面積、最大値等)に基づき、ゲイン(増幅率)を決定し、次いで、ステップ120へ移行してゲイン調整処理を実行する。このゲイン調整処理により、危険度が高ければ高いほど、スピーカから流れる音量が大きくなったり、音情報ファイルの再生ピッチが速まるといった、運転者に注意喚起する変化を持たせる。
次のステップ122では、IGがオフになったか否かを判断し、否定判定された場合は、ステップ106へ戻り、上記工程を繰り返す。また、ステップ122で肯定判定された場合は、音生成制御を終了するべく、ステップ124へ移行して、撮像及び音再生を停止し、このルーチンは終了する。
(変形例)
なお、本実施の形態では、予め音情報ファイル記憶部28(図2参照)に、4種類の音情報ファイル1〜音情報ファイル4を記憶しておき、この音情報ファイル記憶部28から音情報ファイル1〜音情報ファイル4を読み出して、再生する構成とした。
これに対して、変形例では、4種類の音情報ファイルとして、自動作曲ファイル1〜自動作曲ファイル4を適用した。
自動作曲ファイル1〜自動作曲ファイル4は、撮像ユニット16で撮像した画像情報に基づいて、自動作曲プログラムを実行することで、都度作曲される。
自動作曲プログラムは、図1のROM12Cに記憶され、CPU12Aで実行される。
本実施の形態では、ROM12Cに、「MIDI(Musical Instrument Digital Interface)信号変換用のソフトウエア」や、「MIDI信号から音楽情報を生成するソフトウエア」が記憶されている。
MIDIとは、音楽情報をデジタル信号で通信するための国際規格である。MIDI信号とは、MIDI規格の情報であり、標準的なMIDIファイル形式(SMF:Standard MIDI File Format)の情報である。「MIDI信号変換用のソフトウエア」では、音の基本振動数を「ノートナンバー」、音圧レベルを「ベロシティレベル」、音色を「楽器名を表すナンバー」、時間変化を「ノートオン/ノートオフ」を表すデータに各々変換している。
より具体的には、自動作曲ファイル1〜自動作曲ファイル4には、基準の音となる楽器の音源、例えば、ピアノ、ギター、バイオリン、トランペット等の音源が設定されている。
撮像ユニット16で撮像した画像情報は、RGBに色分解され、それぞれの明るさ(濃度)情報を取得する。
この各色の明るさ情報に基づいて、メロディ(旋律)、ハーモニー(和声)、リズム(律動)の曲の三要素、高さ(周波数)、大きさ(音圧レベル)、音色(周波数成分)の音の三要素を、それぞれ調整し、作曲する。
なお、出願人らは、撮像ユニット16の撮像情報(カメラ画像)から音を作る自動作曲について、出願している(一例として、特開2017−102863号公報)。
図10は、本実施の形態の変形例に係る、音生成制御において、情報(信号)処理の遷移状態を示す流れ図である。
自動作曲プログラムでは、撮像ユニット16で撮像した撮像情報が入力されると、自動作曲を実行し、自動作曲ファイル1〜自動作曲ファイル4を作成する。この自動作曲ファイル1〜自動作曲ファイル4を、図9に示す音情報ファイル1〜音情報ファイル4に置き換えることで、この変形例は、図8にIGオン時起動音生成制御ルーチンの処理の流れと同等の流れによって処理される。
すなわち、複雑さパラメータ1と複雑さパラメータ2とによって、自動作曲ファイル1〜自動作曲ファイル4の再生時の重みが調整され、かつ、複雑さパラメータ3によって、自動作曲ファイル1〜自動作曲ファイル4の再生時のゲインが調整され、本実施の形態と同等の効果を奏することができる。
なお、本実施の形態(変形例を含む)では、撮像ユニット16による撮像情報に基づいて、複雑さパラメータ1〜複雑さパラメータ3を得るようにしたが、撮像ユニット16に加え、或いは、撮像ユニット16に代えて、運転者の身体状態(心拍数、血流値、眼球の動き等)を監視して、複雑さパラメータ1〜複雑さパラメータ3を得るようにしてもよい。
また、運転者に限らず、乗員の身体状態(乳児の有無、睡眠中等)を監視して、複雑さパラメータ1〜複雑さパラメータ3を補正してもよい。例えば、乳児がいたり、睡眠中の乗員のいる車室内では、音の変化度合いを緩やかにしたり、音のピッチを遅くしたりする等の調整を行うようにしてもよい。
さらに、本実施の形態(変形例を含む)では、複雑さパラメータ1〜複雑さパラメータ3に基づき、スピーカからの出力音を変化させるようにしたが、出力対象は、音に加え、車両に搭載されるアンビエント照明の制御に関連付けるようにしてもよい。
10 音生成制御装置
12 マイクロコンピュータ(音生成手段、第1の演算手段、第2の演算手段、第1の変更手段、第2の変更手段)
12A CPU
12B RAM
12C ROM
12D 入出力部(I/O)
12E バス
14 ハードディスク
16 撮像ユニット(取得手段)
18 ドライバ
20 スピーカ(出力手段)
22 画像取得部
24 音情報ファイル読出部
26 画像解析部
28 音情報ファイル記憶部
30 再生部
32 複雑さパラメータ生成部
34 重み決定部
36 重み調整部
38 危険度判定部
40 ゲイン調整部

Claims (8)

  1. 車両の走行中において、当該車両の周囲環境情報、及び、乗員の身体状況情報の少なくとも一方を含む環境パラメータを取得する取得手段と、
    前記取得手段で取得した前記環境パラメータに応じた音を生成する音生成手段と、
    乗員に対して、前記音生成手段によって生成された音を出力する出力手段と、
    を有する音生成装置。
  2. 前記取得手段が、当該車両の周囲環境情報の複雑さを表す複雑さパラメータを、前記環境パラメータとして取得することを特徴とする請求項1記載の音生成装置。
  3. 前記取得手段が、
    前記車両に取り付けられ、少なくとも走行中の前方画像を撮像する撮像手段を備え、
    前記撮像手段で撮像した画像を解析して、前記車両の周囲環境情報を取得することを特徴とする請求項1又は2記載の音生成装置。
  4. 前記車両の周囲環境情報として、前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算する第1の演算手段をさらに有し、
    前記音生成手段では、前記第1の演算手段で演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、生成する音を変更することを特徴とする請求項3記載の音生成装置。
  5. 前記車両の周囲環境情報として、前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算する第2の演算手段をさらに有し、
    前記音生成手段では、前記第2の演算手段で演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、生成する音を変更することを特徴とする請求項3又は請求項4記載の音生成装置。
  6. 前記音生成手段が、予め記憶された複数の音を読み出して音を生成する、或いは、前記撮像手段で撮像された画像に基づいて自動作曲した複数の音から音を生成し、
    前記環境パラメータに基づく、音の変更が、複数の音の合成度合いを調整することを特徴とする請求項3〜請求項5の何れか1項記載の音生成装置。
  7. 車両に取り付けられ、少なくとも走行中の前方画像を撮像する撮像手段と、
    予め記憶された複数の音を読み出して合成音を生成する、或いは、前記撮像手段で撮像された画像に基づいて自動作曲した複数の音から合成音を生成する音生成手段と、
    前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算する第1の演算手段と、
    前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算する第2の演算手段と、
    前記第1の演算手段で演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、前記音生成手段により合成される複数の音の合成度合いを変更する第1の変更手段と、
    前記第2の演算手段で演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、前記音生成手段により生成される合成音の音量を変更する第2の変更手段と、
    乗員に対して、前記音生成手段によって生成された音を出力する出力手段と、
    を有する音生成装置。
  8. コンピュータに、
    予め記憶された複数の音を読み出して合成音を生成する、或いは、撮像手段で撮像された画像に基づいて自動作曲した複数の音から合成音を生成し、
    前記撮像手段で撮像された前方画像の全体の変化度合いである第1の複雑さパラメータと、前記前方画像の内の車両側部に特化した変化度合いである第2の複雑さパラメータと、を演算し、
    前記撮像手段で撮像された前方画像から、車両に対して予め定めた距離以内に存在する障害物の変化度合いを示す第3の複雑さパラメータを演算し、
    演算された第1の複雑さパラメータと第2の複雑さパラメータ2のバランスに基づいて、合成される複数の音の合成度合いを変更し、
    演算された第3の複雑さパラメータと、車両の速度との関係に基づいて、生成される合成音の音量を変更する、
    ことを実行させるための音生成制御プログラム。
JP2017140571A 2017-07-20 2017-07-20 音生成装置、音生成制御プログラム Active JP6645480B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017140571A JP6645480B2 (ja) 2017-07-20 2017-07-20 音生成装置、音生成制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017140571A JP6645480B2 (ja) 2017-07-20 2017-07-20 音生成装置、音生成制御プログラム

Publications (2)

Publication Number Publication Date
JP2019020638A true JP2019020638A (ja) 2019-02-07
JP6645480B2 JP6645480B2 (ja) 2020-02-14

Family

ID=65352897

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017140571A Active JP6645480B2 (ja) 2017-07-20 2017-07-20 音生成装置、音生成制御プログラム

Country Status (1)

Country Link
JP (1) JP6645480B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020127546A (ja) * 2019-02-07 2020-08-27 京楽産業.株式会社 遊技機
JP2020127545A (ja) * 2019-02-07 2020-08-27 京楽産業.株式会社 遊技機
FR3147754A1 (fr) * 2023-04-13 2024-10-18 Psa Automobiles Sa Procédé et dispositif de rendu d’un contenu sonore dans un véhicule en fonction de l’environnement du véhicule

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0983277A (ja) * 1995-09-18 1997-03-28 Fujitsu Ten Ltd 音量調整装置
JP2005189301A (ja) * 2003-12-24 2005-07-14 Pioneer Electronic Corp 報知制御装置、そのシステム、その方法、そのプログラム、そのプログラムを記録した記録媒体、および、移動支援装置
JP2006098359A (ja) * 2004-09-30 2006-04-13 Denso Corp 障害物検知装置
JP2016109920A (ja) * 2014-12-08 2016-06-20 株式会社豊田中央研究所 情報提供装置、情報提供システム、情報提供方法、及びプログラム
JP2016183988A (ja) * 2015-03-25 2016-10-20 株式会社豊田中央研究所 音楽生成装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0983277A (ja) * 1995-09-18 1997-03-28 Fujitsu Ten Ltd 音量調整装置
JP2005189301A (ja) * 2003-12-24 2005-07-14 Pioneer Electronic Corp 報知制御装置、そのシステム、その方法、そのプログラム、そのプログラムを記録した記録媒体、および、移動支援装置
JP2006098359A (ja) * 2004-09-30 2006-04-13 Denso Corp 障害物検知装置
JP2016109920A (ja) * 2014-12-08 2016-06-20 株式会社豊田中央研究所 情報提供装置、情報提供システム、情報提供方法、及びプログラム
JP2016183988A (ja) * 2015-03-25 2016-10-20 株式会社豊田中央研究所 音楽生成装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020127546A (ja) * 2019-02-07 2020-08-27 京楽産業.株式会社 遊技機
JP2020127545A (ja) * 2019-02-07 2020-08-27 京楽産業.株式会社 遊技機
FR3147754A1 (fr) * 2023-04-13 2024-10-18 Psa Automobiles Sa Procédé et dispositif de rendu d’un contenu sonore dans un véhicule en fonction de l’environnement du véhicule

Also Published As

Publication number Publication date
JP6645480B2 (ja) 2020-02-14

Similar Documents

Publication Publication Date Title
KR102383461B1 (ko) 인공지능을 활용한 엔진동력특성 기반 엔진음색 제어방법 및 차량
CN102205813B (zh) 车辆用发音装置
KR101744716B1 (ko) 차량 및 그 제어방법
JP6645480B2 (ja) 音生成装置、音生成制御プログラム
JPH0732948A (ja) 電気自動車用疑似走行音発生装置
EP3630546B1 (en) Systems for generating audio signals and associated methods
JP3287230B2 (ja) コーラス効果付与装置
JP2007320472A (ja) 自動車警告音発生装置
JP2006264390A (ja) 車両の警報音装置
US20230053899A1 (en) Music generation device, music generation method, and recording medium
JP4539634B2 (ja) エンジン音加工装置
JP4654513B2 (ja) 楽器
CN117894328A (zh) 一种燃油车引擎声浪智能模拟系统及方法
JP6575101B2 (ja) 音楽生成装置
JP2020042167A (ja) 音楽生成装置及び音楽生成プログラム
JP6398960B2 (ja) 音楽再生装置及びプログラム
JP7671666B2 (ja) 音処理機器の制御方法及び音処理機器の制御装置
JP2020150389A (ja) 音声出力装置
CN109640228B (zh) 一种数据处理方法及电子设备
JP2005001596A (ja) 警笛装置および警笛音発生方法
TWI657437B (zh) 電動載具以及播放、產生與其相關音頻訊號之方法
EP3821427B1 (en) Method for generating an audio signal, in particular for active control of the sound of the engine of a land vehicle, and corresponding apparatus
JP2020126176A (ja) 音楽生成装置及びプログラム
KR20240005445A (ko) 감성 케어 장치 및 방법
JP2019002963A (ja) 車両用音楽生成装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191223

R150 Certificate of patent or registration of utility model

Ref document number: 6645480

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250