13_Kawaguchi

個人研究

タイトル:デジタル画像のRGB値解析による和音生成

内容:
 画像を複数の区画に分割する。
 →分割された区画ごとにRGB値を解析し、その平均の数値をとる。
 →0から255の数値を四つのグループに分け、それぞれのグループに和音を一つづつ対応させておく。(この際コード進行が不自然にならないよう対処しておく。)
 →画像の区画ごとに、RGBの平均値に対応した和音を再生する。

ターゲット:視覚情報(デジタル画像)に遊び心を加えたい人たち

新しい点:
 類似作品に「オーディブル・カラー」がある。「オーディブル・カラー」はカメラに認識された"一つの色"に対して、予め対応させた"和音の一つ"を再生するという作品である。
 「オーディブル・カラー」の自由度が高いデータ入力方式に対し、「デジタル画像のRGB値解析による和音生成」は、決して自由度が高いとはいえない。しかし、データ入力方式を限定することによって、この作品の特徴が目立つと考える。
 例えば「オーディブル・カラー」はそのデータ入力方式の自由度の高さ故に、メロディー作成などにおいていささか難易度が高い。(その自由度の高さこそがこの作品の売りだという考え方ももちろんある。)
 一方「デジタル画像のRGB値解析による和音生成」はデータ入力方式の自由度こそ低いが、和音の振り分け設定・コード進行の制限などの種々の要素を発展させていくことで、多様かつ複雑なメロディーを作成できる可能性を秘めている。

使用言語・ハードウェア:未定
必要なもの:デジタルカメラ・ウェブカメラ

[1] 音も色も鮮やか。色を音楽へと変換する『オーディブル・カラー』(動画あり):
http://www.kotaku.jp/2012/07/oto_iro.html 閲覧日2013/05/23

やりたいことリスト

(1)音声認識とARを組み合わせた教育支援システム

a.
特定の音声(単語)を認識する。

その音声(単語)に対応したCGをAR(マーカベース)を用い表示する。

例えば、「ライオン」という音声を認識すると、マーカ上にライオンが出現する。

b.
特定のCGをあらかじめ白黒でいくつか表示させておく。

特定の音声(単語)を認識する。

その音声(単語)に対応したCGを色付きで表示する。

例えば、始めに白黒のカエル、ウシ、ウマなどが表示されており、「カエル」という音声を認識すると、マーカ上に色付きのカエルが出現する。

(2)センサーとARを組み合わせたインタラクション

人形にセンサーを取り付ける。

ARを用い、人形にCGを付与する。

ARとセンサーを連動させ、センサーの反応に応じてAR上のCGを変化(反応)させる。

距離の離れた人の映像をCGの代わりに投影し、どうにかこうにかその人の体温なども再現出来れば、何かが生まれるかもしれない…

※人形=ミクさんに触れてみたいだけです。

(3)視覚情報の音楽化

ウェブカメラの映像を画像として取り込む。

画像の色検知をする。

画像内の色相・彩度・明度(HSV)に対応した、適切なBGMを再生する。

BGMの効果により、例えば絵画が持つ臨場感や、風景から伝わる空気感をより直感的に感じることができる。

※『オーディブル・カラー』という作品の内容とほとんど一致している。
※音楽の可視化というのもおもしろそう。

ボツ

・写真が動画のように動く新聞
・ARを教科書に利用

実現されていました。

プレゼミ

マーカベースARの初歩的な課題
作成例: "Metasequoiaで作成したCGデータ(MQO形式)を、マーカ上に出現させる"
使用ライブラリ
「NyAR4psg」「MQOLoader」

processingの初歩的な課題
作成例: "CGにピッキング処理とツイート機能を追加"
使用ライブラリ
「Twitter4j」「Picking」

参考文献
橋本 直「ARプログラミング Processingでつくる拡張現実感のレシピ」 オーム社 2012年

展望

・教育現場における学習支援
・文化財・芸術品の新たな鑑賞方法の開発
などにおいてのAR技術の利用を目指す


トップ   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS