4. • バーチャル空間上で一人称カメラ画像と姿勢を学習
• 実世界上でユーザに固定したカメラ画像から姿勢推定
• バーチャル空間での学習を実世界上での推定に利用
4
実世界システムのシミュレーション
歩行姿勢のシミュレーション[2]
[2] Yuan Y., Kitani K. (2018) 3D Ego-Pose Estimation via Imitation Learning. In: Ferrari V., Hebert M., Sminchisescu C., Weiss Y. (eds) Computer Vision – ECCV 2018.
ECCV 2018. Lecture Notes in Computer Science, vol 11220. Springer, Cham
5. • 人間や物体にセンサを取り付けることで,体の一部
を使ったジェスチャ入力や姿勢推定を行う.
5
光センサによる人間の身体動作計測
光センサを使用した研究 [3][4][5]
[3] Takashi Kikuchi, Yuta Sugiura, Katsutoshi Masai, Maki Sugimoto, Bruce H. Thomas. EarTouch: turning the ear into an input surface. MobileHCI '17: Proceedings of
the 19th International Conference on Human-Computer Interaction with Mobile Devices and Services. 2017.
[4] Masa Ogata, Yuta Sugiura, Yasutoshi Makino, Masahiko Inami, Michita Imai. SenSkin: adapting skin as a soft interface. UIST '13: Proceedings of the 26th annual
ACM symposium on User interface software and technology. 2013.
[5] Natsuki Miyata, Takehiro Honoki, Yusuke Maeda, Yui Endo, Mitsunori Tada, and Yuta Sugiura. Wrap sense: Grasp capture by a band sensor. In UIST, 2016.
6. • 実世界上での学習データ蓄積の大変さ
→バーチャル空間上で学習データ取得・学習器生成
6
先行研究:
センサ配置とデータ収集を支援するソフトウェアの開発 [6]
Kinect センサ計測対象
3D深度
情報取得
3Dメッシュ
に変換
録画可能=センサ計測対象の動きを
複数回使用可能
距離センサを模し
たオブジェクト
センサと3Dメッシュの間の距離
をRayCast関数・二分探索アルゴ
リズムを用いて計測=センサ値
UnityのGame画面
Unity(バーチャル空間)
[6] Saito,A., Kawai,W., Sugiura,Y.: Software to Support Layout and Data Collection for Machine-Learning-Based Real-World Sensors; Springer International Publishing,
pp.198–205 (2019).
8. • 測定したい対象に合わせたセンサの最適配置を計算
やシミュレーションによって求める.
• 実世界での試行錯誤の必要がない.
8
センサの最適配置
磁気トラッキングのセンサ配置 [7] 手の甲のセンサ配置 [8]
[7] S. Song, X. Qiu, J. Wang, and Q. H. Meng, “Design and optimization strategy of sensor array layout for magnetic localization system,” IEEE Sensors J., vol. 17, no. 6,
pp. 1849–1857, Mar. 2017
[8] S. Jiang, L. Li, H. Xu, J. Xu, G. Gu and P. B. Shull, "Stretchable E-Skin Patch for Gesture Recognition on the Back of the Hand," in IEEE Transactions on Industrial
Electronics.