プロダクト概要

RTE(=リアルタイムエフェクター)

RTEは、デプスセンサーで取得した深度情報を元に空間を3Dデータ化、並行して人体のスケルトンデータ(骨格情報)を作成し、人体の動きに合わせた効果的なエフェクトを発生させる事が可能なPC・Androidアプリです。

「RTE」を使ってできること

RTEエフェクトは、スケルトン情報を元に「手をたたく」「回転する」などの身体の動きに併せ、身体のどの部位に、どのようにエフェクトを発現させるか?という「動き分析・判定」が一番のポイントとなります。 これをクリエイティブ視点・エンジニアリング視点できめ細かく設定する必要があり、この部分にemmmRがこれまでに蓄積したノウハウを詰め込んでいます。

 

3Dエフェクトや空間を使った立体的なエフェクトによる演出が可能。また、ライブ配信番組でのリアルタイム演出やギフティングへの応用

撮影した動画に演出効果(エフェクト)を自動挿入 自動撮影した映像をSNSや動画共有サイトへ簡単にアップロードが可能

 
 
 

臨場感のある3Dエフェクトでの演出を実現します

RTV(=リアルタイムVチューバー)

emmmRの開発製品であるRTEとVtuberを融合したRTVの提案 Vtuberによるライブ配信提供業者及び演者に対しMR (=Mixed Reality(複合現実))の技術を利用した新たなインタラクションを提供

Vtuberとは…? Vtuberは「バーチャルYouTuber」の略語で、2Dまたは3Dのアバターを使って動画投稿や配信活動を行っている人の総称です。基本的には「YouTuber」の派生語ですが、YouTube以外の動画配信プラットフォームを拠点として活動している人もいます。

人体にアバターがリアルタイムに追従

センサーがボーン情報を感知、人体の動きにリアルタイムに反応しアバターの動きをこれまでよりもより繊細に表現することが可能

複合現実

センシング可能な部位又は物体に限りMR (=Mixed Reality(複合現実))で新たな表現

表情認識

  • 口角や眉毛の角度で喜怒哀楽の表現
  • ランダムにリアルな瞬きの表現
  • 口の動きをセンシングしたリップシンク

ポーズと連動した表情変更

決められたジェスチャーを認識し、アバターの表情を変化させる 例)指一本で笑顔、指二本で起こり顔 など

RTE(=リアルタイムエフェクター)での演出効果

アバターの動きに追従するエフェクト付加を可能に!

アバター制作

演者に似せたアバター、人気漫画などのIPを利用したアバター制作。幾つかのテンプレートを準備し写真からアバターを手軽に自動生成

RTV (= Real TIme Vtuber ・ リアルタイム Vチューバー)ユースケース

・アイテムをギフト化し、より立体的にV-tuberの見た目に反映
・複数のVtuberが遠隔地で共演ができる機能
・身バレしたくない演者は見た目だけではなく声も変化を付け、希望の音声エフェクトにて合成
・空間上にある物や物体を検知しその空間へ別の3Dモデルアイテムの生成
・表情やジェスチャーに合わせた効果音の生成

対応センサー

inuitive

orbbec

対応センサー

最大の特徴は、モーションキャプチャーなど使用せずに撮影中の動画にその場で3Dエフェクトを自動で付けることができ、リアルタイムでの動画演出と撮影後の複雑な編集が必要なく誰でも簡単に本格的な動画作成をできることです。