Soumettre la recherche
Mettre en ligne
[8thWall + three.js] #stayhomeを楽しくするWebARを一から作る
•
Télécharger en tant que PPTX, PDF
•
2 j'aime
•
1,644 vues
A
Atsuto Inoue
Suivre
WebXR Tech Tokyo #0 登壇資料 https://vrtokyo.connpass.com/event/171859/
Lire moins
Lire la suite
Technologie
Signaler
Partager
Signaler
Partager
1 sur 19
Télécharger maintenant
Recommandé
three.jsを「遅い」と思わせないデータの扱い方
three.jsを「遅い」と思わせないデータの扱い方
jey en
楽しいShaderToy
楽しいShaderToy
Masaki Sasaki
もし太陽のコアがIntelCoreだったら
もし太陽のコアがIntelCoreだったら
京大 マイコンクラブ
30th コンピュータビジョン勉強会@関東 DynamicFusion
30th コンピュータビジョン勉強会@関東 DynamicFusion
Hiroki Mizuno
ここがつらいよ8thwall
ここがつらいよ8thwall
Atsuto Inoue
【DL輪読会】"Instant Neural Graphics Primitives with a Multiresolution Hash Encoding"
【DL輪読会】"Instant Neural Graphics Primitives with a Multiresolution Hash Encoding"
Deep Learning JP
ゲームAI製作のためのワークショップ(I)
ゲームAI製作のためのワークショップ(I)
Youichiro Miyake
Immersal を活用した AR クラウドなシステム開発とハンズオン!
Immersal を活用した AR クラウドなシステム開発とハンズオン!
NishoMatsusita
Recommandé
three.jsを「遅い」と思わせないデータの扱い方
three.jsを「遅い」と思わせないデータの扱い方
jey en
楽しいShaderToy
楽しいShaderToy
Masaki Sasaki
もし太陽のコアがIntelCoreだったら
もし太陽のコアがIntelCoreだったら
京大 マイコンクラブ
30th コンピュータビジョン勉強会@関東 DynamicFusion
30th コンピュータビジョン勉強会@関東 DynamicFusion
Hiroki Mizuno
ここがつらいよ8thwall
ここがつらいよ8thwall
Atsuto Inoue
【DL輪読会】"Instant Neural Graphics Primitives with a Multiresolution Hash Encoding"
【DL輪読会】"Instant Neural Graphics Primitives with a Multiresolution Hash Encoding"
Deep Learning JP
ゲームAI製作のためのワークショップ(I)
ゲームAI製作のためのワークショップ(I)
Youichiro Miyake
Immersal を活用した AR クラウドなシステム開発とハンズオン!
Immersal を活用した AR クラウドなシステム開発とハンズオン!
NishoMatsusita
xR Developerなら知っておきたいカメラの基礎知識
xR Developerなら知っておきたいカメラの基礎知識
Satoshi Maemoto
識別モデルと生成モデルと損失データ
識別モデルと生成モデルと損失データ
Shohei Miyashita
20090924 姿勢推定と回転行列
20090924 姿勢推定と回転行列
Toru Tamaki
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
Takashi Yoshinaga
SLAMチュートリアル大会資料(ORB-SLAM)
SLAMチュートリアル大会資料(ORB-SLAM)
Masaya Kaneko
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
Takahiro KOGUCHI
はじめようARCore:自己位置推定・平面検出・FaceTracking
はじめようARCore:自己位置推定・平面検出・FaceTracking
Takashi Yoshinaga
MediaPipeの紹介
MediaPipeの紹介
emakryo
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
Deep Learning JP
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
Takashi Yoshinaga
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
Mai Nishimura
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
Toshiyasu Miyabe
Pred net使ってみた
Pred net使ってみた
koji ochiai
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
Makoto Goto
OpenVRやOpenXRの基本的なことを調べてみた
OpenVRやOpenXRの基本的なことを調べてみた
Takahiro Miyaura
Minecraft による強化学習の実践 (MineRL)
Minecraft による強化学習の実践 (MineRL)
Tusyoshi Matsuzaki
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
Unity Technologies Japan K.K.
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
Deep Learning JP
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
Deep Learning JP
JavaScript.Next Returns
JavaScript.Next Returns
dynamis
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
賢次 海老原
Contenu connexe
Tendances
xR Developerなら知っておきたいカメラの基礎知識
xR Developerなら知っておきたいカメラの基礎知識
Satoshi Maemoto
識別モデルと生成モデルと損失データ
識別モデルと生成モデルと損失データ
Shohei Miyashita
20090924 姿勢推定と回転行列
20090924 姿勢推定と回転行列
Toru Tamaki
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
Takashi Yoshinaga
SLAMチュートリアル大会資料(ORB-SLAM)
SLAMチュートリアル大会資料(ORB-SLAM)
Masaya Kaneko
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
Takahiro KOGUCHI
はじめようARCore:自己位置推定・平面検出・FaceTracking
はじめようARCore:自己位置推定・平面検出・FaceTracking
Takashi Yoshinaga
MediaPipeの紹介
MediaPipeの紹介
emakryo
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
Deep Learning JP
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
Takashi Yoshinaga
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
Mai Nishimura
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
Toshiyasu Miyabe
Pred net使ってみた
Pred net使ってみた
koji ochiai
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
Makoto Goto
OpenVRやOpenXRの基本的なことを調べてみた
OpenVRやOpenXRの基本的なことを調べてみた
Takahiro Miyaura
Minecraft による強化学習の実践 (MineRL)
Minecraft による強化学習の実践 (MineRL)
Tusyoshi Matsuzaki
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
Unity Technologies Japan K.K.
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
Deep Learning JP
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
Deep Learning JP
Tendances
(20)
xR Developerなら知っておきたいカメラの基礎知識
xR Developerなら知っておきたいカメラの基礎知識
識別モデルと生成モデルと損失データ
識別モデルと生成モデルと損失データ
20090924 姿勢推定と回転行列
20090924 姿勢推定と回転行列
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
AI x OpenCV x WebAR: Selfie Segmentationを使ってみよう
SLAMチュートリアル大会資料(ORB-SLAM)
SLAMチュートリアル大会資料(ORB-SLAM)
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
Gpuフォトンマッピング手法 h26-09-kgussan-第2回レイトレ合宿
はじめようARCore:自己位置推定・平面検出・FaceTracking
はじめようARCore:自己位置推定・平面検出・FaceTracking
MediaPipeの紹介
MediaPipeの紹介
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
【DL輪読会】NeRF in the Palm of Your Hand: Corrective Augmentation for Robotics vi...
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
AI x WebAR: MediaPipeのハンドトラッキングを使ってみよう
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
BA-Net: Dense Bundle Adjustment Network (3D勉強会@関東)
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
CEDEC2015「加算合成コストが0になる!?すぐに使えるP-MAPブレンドテクニック」発表スライド
Pred net使ってみた
Pred net使ってみた
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
それを早く言ってよ〜パフォーマンスを出すエフェクト制作のポイント
OpenVRやOpenXRの基本的なことを調べてみた
OpenVRやOpenXRの基本的なことを調べてみた
Minecraft による強化学習の実践 (MineRL)
Minecraft による強化学習の実践 (MineRL)
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
【Unity道場 3月 ~ライティングとVFX Graph~】Unityのライティング機能のおさらい
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
[DL輪読会]BANMo: Building Animatable 3D Neural Models from Many Casual Videos
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
[DL輪読会]ViNG: Learning Open-World Navigation with Visual Goals
Similaire à [8thWall + three.js] #stayhomeを楽しくするWebARを一から作る
JavaScript.Next Returns
JavaScript.Next Returns
dynamis
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
賢次 海老原
Glass fishで作ったアプリをweblogicに移植してみた
Glass fishで作ったアプリをweblogicに移植してみた
Satoshi Kubo
How to deploy & operate OpenStack Production
How to deploy & operate OpenStack Production
VirtualTech Japan Inc.
HBase on EC2
HBase on EC2
Eiichi Sato
Prepare for Java 9 #jjug
Prepare for Java 9 #jjug
Yuji Kubota
CSRを自動生成する!
CSRを自動生成する!
Taichi Ishitani
Similaire à [8thWall + three.js] #stayhomeを楽しくするWebARを一から作る
(7)
JavaScript.Next Returns
JavaScript.Next Returns
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
XPages Day 2013 [B-3] XPages開発を始める Notes技術者のためのWeb技術概論
Glass fishで作ったアプリをweblogicに移植してみた
Glass fishで作ったアプリをweblogicに移植してみた
How to deploy & operate OpenStack Production
How to deploy & operate OpenStack Production
HBase on EC2
HBase on EC2
Prepare for Java 9 #jjug
Prepare for Java 9 #jjug
CSRを自動生成する!
CSRを自動生成する!
Dernier
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
Toru Tamaki
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
Toru Tamaki
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
atsushi061452
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
CRI Japan, Inc.
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
sn679259
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
CRI Japan, Inc.
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
WSO2
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
Dernier
(10)
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
[8thWall + three.js] #stayhomeを楽しくするWebARを一から作る
1.
#stayhome🏠を楽しむWebARを一から作る 班長 (@a_hancho) three.js+
2.
自己紹介 ● 班長 @a_hancho ●
カヤック → フリーランス(MESON.inc) ● ハマっているもの ○ Nreal ○ SparkAR ○ FF7 REMAKE ○ 釣り(自粛中)
3.
過去の 8thWall +
three.js 制作 ● NIGHT SYNC YOKOHAMA(2019/11/1 - 2019/12/27) ○ プロジェクションマッピング × WebAR なぜ「8thWall+three.js」? ○ 8thWall : 空間認識が使えて操作が自由にできるWebARライブラリはこれ一択 ○ three.js : 8thWallがサポートしているAFrame, Babylon.js, three.jsの中から選択
4.
#うちで踊ろう
5.
Phase.1 8thWall動かしてみる Phase.2 8thWall基盤実装 Phase.3
three.js実装
6.
8thWallを動かしてみる ● 8thWallアカウント&プロジェクト作成 ○ Keyが発行される ●
公式のExampleリポジトリをgit clone ○ https://github.com/8thwall/web/tree/master/examples ○ 「/examples/threejs/placeground」を参考にする(右画像) ● htmlにあるappKeyを作成したKeyに変更 <script async src="//apps.8thwall.com/xrweb?appKey=XXXXXXXX"></script> ※注意点 ○ PCは空間認識が働かない ➡ スマホでローカルサーバー接続推奨 ○ httpだとカメラが起動できない ➡ httpsで立ち上げる
7.
8thWall動かしてみる - 補足 ●
オンラインエディターが便利 ○ 課金アカウント限定 ○ 前頁で紹介したplacegroundのサンプル が初期状態で入っている ○ デプロイやローカル環境構築の手間が ゼロ (月99ドル~なので推奨はしない)
8.
Phase.1 8thWall動かしてみる Phase.2 8thWall基盤実装 Phase.3
three.js実装
9.
HTML ② <script> three.js 必ず外部ファイルを読み込む ③
<script> 8thWall関連 ⑤ <body> canvas要素だけでOK ① <meta>,<link> お好みで ④ <script> 各々作成するscript APIキー以外は一旦コピペでOKです この順序は厳守 APIキー ② ③ ④ ⑤ ① placegroundを参考にしてみましょう
10.
js - 基盤 こちらも一旦コピペでOKです ①
8thWallの処理を入れていく場所 ● XR8, XRExtras ○ 用意済みのPipeline ○ 必要に応じてカスタマイズ ● customPipelineModule() ➡ ここが自作する部分 ② 実行 ● 引数のパラメーターで前後カメラを切り 替えたり、webgl1を使用したりできる placegroundのindex.js最後あたり参考
11.
js - customPipelineModule XR8.Threejs.xrScene() ➡
onStart時に8thWallがthree.jsの Renderer、Scene、Cameraを用意する (次ページに図あり) onStart、ouUpdate、onCanvasSizeChange ● 実行タイミングが違う関数たち ● https://www.8thwall.com/docs/web/#xr8addcamerapipelinemodule ● Unityで言うと、MonoBehaviorのStartやUpdateみた いなもの メインで作業する部分です
12.
8thWall基盤完成 ● Sceneの原点 ○ 起動時のスマホの真下 ○
z軸はスマホ正面方向 = 人の後ろ方向(右手系)
13.
Phase.1 8thWall動かしてみる Phase.2 8thWall基盤実装 Phase.3
three.js実装
14.
映像を置く ● Geometry :
THREE.PlaneGeometry() ● Material ○ THREE.VideoTexture()でビデオ要素からtexture取得 ○ 緑背景をクロマキーシェーダーで消した タップした位置に配置 ○ THREE.Raycaster()を使用 ○ 地面(position.y = 0)に衝突用の透明な板を置いている XR8.Threejs.xrScene().sceneに追加 three.js - 映像
15.
three.js - Particle ●
以下three.js公式サンプルを改造 ○ サイズや範囲を小さく調整 ○ textureを「♪」に変更 ● XR8.Threejs.xrScene().sceneに追加 https://threejs.org/examples/?q=particle#webgl_buffergeometry_custom_attributes_particles
16.
three.js - Bloom(PostProcessing) ●
以下three.js公式サンプルを改造 ○ Strength等の値を調整 ○ 実装内のRenderer, Camera, Sceneに XR8.Threejs.xrScene()を使用 https://threejs.org/examples/?q=bloom#webgl_postprocessing_unreal_bloom
17.
うちで踊れた https://atsuhan.github.io/webar/stayhome
18.
注意点 ● パフォーマンス問題 ○ そもそも30fps割ってる端末が多数 ○
ポスプロをいれるとがっつり下がる ● ローディング、エラー画面の改造が結構厄介 ○ z-index上げて下に隠す的な工夫が多数必要 ● iOS13問題 ○ ユーザーがタップしてカメラの許可をする必要がある ○ 画像長押し保存の挙動がiOS12以前と違う => こちらも参考にしてみてください WebAR TOKYO #1 登壇資料 : ここがつらいよ8thWall https://www.slideshare.net/ssuseree9db3/8thwall-232682753
19.
まとめ ● 8thWallの基盤はすぐ整う ● あとは一般的なthree.js開発とほぼ一緒 ●
深掘りすると大変な部分はある => 困ったことがあったらいつでもお声かけください
Télécharger maintenant