22_Sumi

研究の概要

舞踊の上達、理解に役立つ機能

研究タイトル

ダンス上達促進システム。 現在考えているのは、AR等を使ってダンサーの動きに合わせてダンサーの見やすい位置に見本を見せるシステム など

研究キーワード

研究は何を目指すものか(目標)

振り付けなどを覚えやすくしたり、どこを改善すれば良いかがわかり、舞踊の上達が早くなる。

この研究がうまくいけば何が実現するのか(将来、可能性、応用など)

振り付けを一人でも覚えることがたやすくなる。

この研究の新規性・新奇性

この研究の有用性

ダンス以外でも応用することで役立てることが出来るかもしれない。

目指すシステムの形(どういう入力でどういう出力があるか。何ができるか。)

振付の見本を入力 or ダンスの型を入力し、その見本が目の前に出力される。見本の通りに動けているか、一致度等を検知、その後評価

システムのターゲットユーザ

ダンス初心者、レッスンになかなか通えない、時間が合わないがダンスを覚えたい人

システムの活用シーン

自主練、見本との一致度・上達度を計る

研究トピック(議題)整頓

OpenPoseなど姿勢推定ができるものを使ってみる

研究ノート

・冬課題   サンプルを参考に、背景の色やサイズを変更した。

clock1.png
clock2.png
clock3.png

OpenPoseを使うためにインターネットで見つけたインストール手順で実行しようとしたものの、必須ソフトのバージョンが違うと機能しない、古いバージョンは有料など、無料で使用する方法は見つけられなかった。

画像のみだが、無料で姿勢推定ができるサイトを2つ見つけた。

[1]姿勢推定AI - 骨格推定機能を無料提供

https://humanpose-ai.userlocal.jp/human_pose?msclkid=cb6ac5a9b1c311ec9f81484274e55fe6

[2]VisionPose | 姿勢推定AIエンジン無料解析デモ

https://trial.visionpose.com/?msclkid=cb6b674db1c311ec84e716597ad57c4b

・春課題

1.顔認識のプログラミング。カメラから眉、目、鼻、口、顔の輪郭を読み取り同時にそのパーツの輪郭に位置・大きさを合わせて線を表示する。

Face_1.png

2.顔に自動でスタンプを表示するプログラミング。目、鼻の位置・大きさを認識し、同時に画像を鼻の位置、額(ひたい)付近に動物の耳・鼻のスタンプを表示する。

Face_2.png

3.表情認識をし、その表情に合ったスタンプを表示するプログラミング。喜び、悲しみのスタンプの位置、デザインをサンプルから変更。

Face_3_prg.png
Face_3.png

参考サイト:

表情認識で SNOW 的なアプリ - こくぶん研究室 (kkblab.com)

https://kkblab.com/make/javascript/face.html?msclkid=f2233d1cb3ea11ec880512a5c73a3607#step2

・メンバーとの共通分野

member.jpg

文献ノート

(自分が日々読む、論文や書籍の記録を取る。GoogleDocsのSheets機能を活用し、閲覧可能にしておいてリンクをここに貼るのもOK。このテキストはコピーした先では書かなくてOK)

番号著者タイトル発表場所や出版社URL掲載ページ 23〜56など(もしくは全体ページ数)発行年内容の簡潔なまとめ内容の詳細メモ自分の研究との関連性のメモ
1森 鈴果, 田中 哉汰, 橋田 光代, 藤井 叙人, 片寄 晴弘恋ダンスの達人:ポーズ推定を利用したダンスの「キレ度」採点システムエンタテインメントコンピューティングシンポジウム2020論文集https://ipsj.ixsq.nii.ac.jp/ej/?action=pages_view_main&active_action=repository_view_main_item_detail&item_id=206540&item_no=1&page_id=13&block_id=8113 - 1142020恋ダンスを対象にダンス動画から取得した時系列ポーズデータとそれに対応するキレ評価結果の組みから深層学習を用いてダンス動作のキレ度を推定するモデルの構築。キレは緩急の差と定義。Openposeでダンサーの骨格を取得する。ダンスのキレではフレーム前後の位置座標の変化が重要となり、位置座標のデータで最も精度が高かったとのこと。ダンスのキレという感性的な表現を機械で骨格の動きを判定し、採点もできる点は、ダンスの上達に役立つと感じた。
2稲田健太郎, 石川孝明, 渡辺裕OpenPoseを用いた複数人のダンスの一致度評価第80回全国大会講演論文集https://ipsj.ixsq.nii.ac.jp/ej/?action=pages_view_main&active_action=repository_view_main_item_detail&item_id=188922&item_no=1&page_id=13&block_id=8257 - 2582018Openposeで各部位の位置を読み取り、複数人のダンスの一致度を評価する。首・両肩・両肘・両手首・両尻・両膝・両足首の13点が処理対象。タイミングのずれの許容時間を0.1秒とし、それ以上ずれている場合と同じピークがある人物が過半数に満たない場合を不正解とし、各座標で各人物の正解数から不正回数を引いた物を点数として一致度を評価。タイミングがどれほど合っているかという他の人との一体感を測定するもので、これを応用し、見本とどのくらいずれているかを判定すればダンスの上達に役立つと思われる。
3辻野雄大, 山西良典, 西原陽子, 福本淳一時系列深層学習に基づく難易度間関係モデルをダンスゲーム譜面難易度の自動調整情報処理学会論文誌https://ipsj.ixsq.nii.ac.jp/ej/?action=pages_view_main&active_action=repository_view_main_item_detail&item_id=207737&item_no=1&page_id=13&block_id=81718 - 17282020ダンスゲームの難易度によってどのようなステップがあるのかの解析、ダンスゲームの楽譜は手作業で行われるのが一般的だが、これによって自動生成の助けになる。難易度が簡単になるにつれて、リズムの取りやすい4分音符のステップが多くなる傾向にあるという仮説など、2種類のダンスゲームからデータを読み取り解析し検証。これらの解析をダンスゲームだけでなくリズムゲームなどにも応用可能。このダンスゲームのステップの譜面づくりの機能や特徴を、使用者から入力された見本を簡単な踊りやステップ、型に分けて教える時に活用できるのではないかと考えた。
4千原國宏五感を活用した高臨場感エンターテインメント:ダンスセラピー横幹連合コンファレンス予稿集https://www.jstage.jst.go.jp/article/oukan/2009/0/2009_0_63/_article/-char/ja/2A3-42009没入型複合現実空間(EMRS)ダンス・ムーブメントセラピー(DMT)を融合することで、癒し活動に貢献することを目標0とした研究。「3D アバターと自然環境が融合した EMRS の構築 」と「DMTの身体表現の動き分析システムの開発」といった目標を設定し、最終的には「癒しサイバーインフラの構築と癒し活動コンテンツの創発」として結実させようと考えている。VR空間を使用して身体表現の動き分析システムをその場で行うことができ、自分の動きを映像として映し出している。自分の考えていたものとかなり類似していたのでMRやDMTというワードにも注目して研究に取り組もうと思った。
5永瀬 智之, 堀田 裕弘, 岸田 嵩平人物画像からの姿勢情報を用いた感情指定第82回全国大会講演論文集https://ipsj.ixsq.nii.ac.jp/ej/?action=pages_view_main&active_action=repository_view_main_item_detail&item_id=205192&item_no=1&page_id=13&block_id=8143 - 1442020人物画像から姿勢を推定し、感情を読み取る研究。この研究では喜び、悲しみ、恐れ、怒りを推定。恐れ、怒りは間違えやすかった。動作が似ているとネガティブな感情をポジティブな感情と認識することもあった。感情に合った動作を推定できるなら、その曲やフレーズの感情に合っている振付かをチェックするのに役立てられるかも知れない。
6
7







22_Sumiに戻る


トップ   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS