Development of new haptic-audio-visual experiences by constructing remote sound drawing methods using mixed reality

通过使用混合现实构建远程声音绘图方法来开发新的触觉视听体验

基本信息

批准号：
21K00234
负责人：
中川隆
金额：
$ 2.66万
依托单位：
Nagoya City University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

2022(令和4)年度の成果概要は以下の通りである。【検証実験、システム更新】前年度開発を行った遠隔手法、触覚デバイス、音響生成機構を用いてシステムの更新をおこなった。更新したシステムを用いて実際に遠隔での検証実験を実施した。具体的には、遠隔で繋がった体験者同士の手が触れ会うことでノートオブジェクト（音オブジェクト）が生成されるとともに触覚フィードバックが生じるといったようなシンプルな構成をいくつか準備し、その動作確認を行った。筆者らが用いたネット環境下では、描画・音響の遅延等は気になるものではなく安定的に体験可能であった。ただし、空間における音描の密度が高まるとシステムへの負荷も高まり動作が不安定になるため、その対応について今後の制作を通して検討・改良を行っていく必要がある。【遠隔空間音描手法の策定・構築】更新したシステムを用いて遠隔空間音描手法について構成的に検討を行った。遠隔でMR体験を行う場合、体験者らはそれぞれ今自分自身が存在する実空間上にバーチャルオブジェクトが重なるかたちでそれらを共有することになる。つまり、体験者間で同じバーチャルオブジェクトを見聞きするものの、それらを見聞きするベースとなる実空間はそれぞれ異なるため、実空間とバーチャルオブジェクトが織りなす複合現実であるMR体験は体験者間で非対称となる。本研究ではこの遠隔MR体験の非対称性に着目しながら空間音描手法および体験の設計をおこなっている。【デモシステムの発表】本研究で開発・制作したデモ作品を国際会議SIGGRAPH 2022, Immersive Pvirionに投稿し採択された。レビュアーらから総じて高評価を受けての採択となった。

2022 年（令和 4 年）结果摘要如下。 [验证实验、系统更新] 使用前一年开发的远程方法、触觉装置和声音发生机构来更新系统。使用更新后的系统进行了实际的远程验证实验。具体来说，我们准备了几个简单的配置，其中当参与者远程触摸彼此的手时生成音符对象（声音对象）并生成触觉反馈，并验证他们的操作。在笔者使用的网络环境中，无论是绘图还是声音都没有出现明显的延迟，体验稳定。然而，随着空间中声音描绘密度的增加，系统负载增加，运行变得不稳定，因此需要在未来的制作中考虑和改进如何应对。 [远程空间声音描绘方法的开发与构建] 利用更新后的系统，我们对远程空间声音描绘方法进行了结构研究。在进行远程 MR 体验时，参与者共享叠加在他们当前所在的真实空间上的虚拟对象。换句话说，虽然体验者看到和听到的是相同的虚拟物体，但他们看到和听到的真实空间是不同的，因此MR体验这种将真实空间和虚拟物体交织在一起的混合现实，在两者之间变得不对称。体验者。在本研究中，我们在设计空间声音描绘方法和体验时，重点关注这种远程 MR 体验的不对称性。【演示系统演示】本研究开发制作的演示作品提交给国际会议SIGGRAPH 2022，Immersive Pvirion，并被接收。它被选中是因为它得到了评论家的总体高度评价。