SlideShare a Scribd company logo
1 of 18
WebRTC Meetup #16
RICOH Rで お手軽 物体トラッキング
自己紹介
ばば あつし
仕事
インフォコム西日本
社内でWebRTC配信等 PG作成や調査
プライベート
趣味は旅行・音楽鑑賞・ガジェット等
今治地方観光協会 クリエイティブ・コモンズ・ライセンス(表示4.0 国際)
https://creativecommons.org/licenses/by/4.0/
最近、スマホの電動スタビライザーでよくある
アクティブトラッキングってご存知ですか?
スマホに写った映像から対象を
タッチ操作で追跡するので以外に便利
360度カメラならHW無しで同様にトラッキング
できるんじゃ?
と思い調べてみることに
”物体認識はOpenCVとか機械学習系が主
顔認識とか手認識はよくあるけど、
選択した物体を追跡する方法は?”
★ 機械学習
• Yolo v2
• FAST R-CNN
• SSD
• OpenPose
• 他色々
WebRTCで使うなら、tnohoさんのpyrtcconductorがGood!!
https://www.slideshare.net/tnoho/webrtc-76814721
学習済モデルを使うので、トラッキングの対象がデータ
にない場合は自分で学習させたモデルが必要
★ 画像処理ライブラリ
• OpenCV
• Dlib
色相追跡・LBP/HAAR-like/HOG Cascade識別器・フィルターを使う方法等
様々なアルゴリズムを使用出来る。
(Cascade識別器→Face/Hand/Head用などがある
複数の画像があれば独自で作成も可能)
★ Javascript
• ccvjs
• clmtrackr
• trackingjs
• headtrackr
• js-objectdetect
JSでも色相追跡・HAAR-like Cascade識別器が使える。
お手軽ということで、今回はこれを採用。
検出の精度は
機械学習 > 画像処理ライブラリ > JS
とあるサンプルを見つける
❖ VOTT(Visual Object Tagging Tool)
❖ 動画から対象物をCam-Shiftで追跡し複数の学習データを作ることができる
。ツールと連携してCNTKやYolo Format Object Detection Modelを作成する
Electronアプリ
❖ https://github.com/CatalystCode/VoTT
ソース解析すると内部ではheadtrackrを使ってました!
VOTTを参考に今回は一番 お手軽な
Jsで実装することに
camshift.Trackerの基本的な使い方
トラッキングできたポジションの中心位置と幅・高さが取得できる
※傾きの取得も可能
currentPos.x
currentPos.y
currentPos.width
currentPos.height
var cstracker = new headtrackr.camshift.Tracker( { calcAngles: false } );
cstracker.initTracker(canvasElement, new headtrackr.camshift.Rectangle(x, y, w, h));
cstracker.track(canvasElement);
var currentPos = cstracker.getTrackObj();
構成
1920x1080
30 fps
RICOH-R
GetUserMedia
<Video>
<Video>
VideoTexture
Canvas(GL)
Canvas(2D)
Camshift.tracker
WebRTC
Equirectangular形式
Equirectangular形式
球体にテクスチャ貼付け
映像をテクスチャとして取得
2D-Contextのcanvasに貼付け
トラッキング&位置補正
映像は未加工のまま送信
視聴側配信側
UVC取得
RICOH-Rのスペック
USB映
像出力
UVC H.264 30fps Full HDモード 1920 x 1080
Equirectangular Projection Format
特徴
Equirectangular形式にリアルタイムスティッチング
Theta-Sとくらべて低遅延
ヒートシンク付ボディで24時間連続稼動可能に
(Theta-Sでは25分)
デモ
CamShift
❖ 特定の物体の特徴を検出・認識するものではありませ
ん。
❖ 選択された部分の輝度(色)を元にターゲットの領域
を決定し追跡します。
❖ ターゲットの大きさ/傾きの変化にも対応している。
実際に使ってみた感想
❖ トラッキングのスピードは意外と早い
❖ 対象物が黒いや色が均一ものは苦手(ターゲットとし
て設定不可)
❖ 動きが速すぎる・形の変化が激しい場合はターゲット
が変化してしまって追跡できない。
余談
❖ headtrackr本家のブログにサンプルもありました
❖ https://www.auduno.com/headtrackr/examples/camshift.html
❖ ご参考まで
End

More Related Content

Similar to RICOH Rでお手軽 物体トラッキング

NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみる
NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみるNodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみる
NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみるSeigo Tanaka
 
はじめてのWeb of Things
はじめてのWeb of ThingsはじめてのWeb of Things
はじめてのWeb of ThingsSaki Homma
 
ディープラーニングとROSで作る自動運転ロボット
ディープラーニングとROSで作る自動運転ロボットディープラーニングとROSで作る自動運転ロボット
ディープラーニングとROSで作る自動運転ロボットHiroaki Kaneda
 
160608 01
160608 01160608 01
160608 01openrtm
 
ラジコンがネットと出会ったら
ラジコンがネットと出会ったらラジコンがネットと出会ったら
ラジコンがネットと出会ったらTakuya Andou
 
事故からはじまるスケールチャンス
事故からはじまるスケールチャンス事故からはじまるスケールチャンス
事故からはじまるスケールチャンスYusuke Wada
 
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdfssusera06cae
 
Pepper x IoT x Web 勉強会やってみた話と失敗談
Pepper x IoT x Web 勉強会やってみた話と失敗談Pepper x IoT x Web 勉強会やってみた話と失敗談
Pepper x IoT x Web 勉強会やってみた話と失敗談dsuke Takaoka
 
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよ
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよRaspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよ
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよSeigo Tanaka
 
クラウド型データベース「kintone」のご紹介
クラウド型データベース「kintone」のご紹介クラウド型データベース「kintone」のご紹介
クラウド型データベース「kintone」のご紹介kintone papers
 
コミュニティのある風景
コミュニティのある風景コミュニティのある風景
コミュニティのある風景Ryunosuke SATO
 
ググリワードを探す話
ググリワードを探す話ググリワードを探す話
ググリワードを探す話toru ishikawa
 
ARもVRもMRもまとめてドーン
ARもVRもMRもまとめてドーンARもVRもMRもまとめてドーン
ARもVRもMRもまとめてドーンSatoshi Maemoto
 
Introduction of my works
Introduction of my worksIntroduction of my works
Introduction of my worksYasunori Ozaki
 
センサー・VR・MR 基本とオススメ
センサー・VR・MR 基本とオススメセンサー・VR・MR 基本とオススメ
センサー・VR・MR 基本とオススメSatoshi Maemoto
 
Watanabe civictechforum
Watanabe civictechforumWatanabe civictechforum
Watanabe civictechforumsiramatu-lab
 

Similar to RICOH Rでお手軽 物体トラッキング (20)

Docker meetup tokyo_public_r001
Docker meetup tokyo_public_r001Docker meetup tokyo_public_r001
Docker meetup tokyo_public_r001
 
NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみる
NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみるNodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみる
NodeREDでブロック的なビジュアルプログラミングに あれこれ思いを馳せてみる
 
はじめてのWeb of Things
はじめてのWeb of ThingsはじめてのWeb of Things
はじめてのWeb of Things
 
ディープラーニングとROSで作る自動運転ロボット
ディープラーニングとROSで作る自動運転ロボットディープラーニングとROSで作る自動運転ロボット
ディープラーニングとROSで作る自動運転ロボット
 
160608 01
160608 01160608 01
160608 01
 
ラジコンがネットと出会ったら
ラジコンがネットと出会ったらラジコンがネットと出会ったら
ラジコンがネットと出会ったら
 
IoTの原点
IoTの原点IoTの原点
IoTの原点
 
事故からはじまるスケールチャンス
事故からはじまるスケールチャンス事故からはじまるスケールチャンス
事故からはじまるスケールチャンス
 
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf
20230119IoTLT縦・横? ノーコードツールの フロー事情 (1).pptx.pdf
 
Pepper x IoT x Web 勉強会やってみた話と失敗談
Pepper x IoT x Web 勉強会やってみた話と失敗談Pepper x IoT x Web 勉強会やってみた話と失敗談
Pepper x IoT x Web 勉強会やってみた話と失敗談
 
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよ
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよRaspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよ
Raspberry Pi Zero+SORACOM+littleBitsで手で持てそうなデバイスのプロトタイプを3Dプリンタと連携してやってみるよ
 
クラウド型データベース「kintone」のご紹介
クラウド型データベース「kintone」のご紹介クラウド型データベース「kintone」のご紹介
クラウド型データベース「kintone」のご紹介
 
コミュニティのある風景
コミュニティのある風景コミュニティのある風景
コミュニティのある風景
 
ググリワードを探す話
ググリワードを探す話ググリワードを探す話
ググリワードを探す話
 
New Relic with PHP
New Relic with PHPNew Relic with PHP
New Relic with PHP
 
ARもVRもMRもまとめてドーン
ARもVRもMRもまとめてドーンARもVRもMRもまとめてドーン
ARもVRもMRもまとめてドーン
 
Introduction of my works
Introduction of my worksIntroduction of my works
Introduction of my works
 
vrmr-170602064754 2.pdf
vrmr-170602064754 2.pdfvrmr-170602064754 2.pdf
vrmr-170602064754 2.pdf
 
センサー・VR・MR 基本とオススメ
センサー・VR・MR 基本とオススメセンサー・VR・MR 基本とオススメ
センサー・VR・MR 基本とオススメ
 
Watanabe civictechforum
Watanabe civictechforumWatanabe civictechforum
Watanabe civictechforum
 

RICOH Rでお手軽 物体トラッキング