SlideShare a Scribd company logo
1 of 44
© Geniee, Inc.
世界分散配信システムと
レポーティングシステム刷新のお話
2017/10/25
CTO 篠塚 英伸
© Geniee, Inc.
Self introduction
2
Name
篠塚 英伸
Life work
Tennis!! Tennis!! Tennis!!
Geniee CTO
・SSP、DSP、DMP
・インフラ
・海外事業
複数データセンターで配信を行う為の
アーキテクチャについてお話をします
+レポートの話もします
10ヶ国以上へサービス提供
1万媒体以上のメディアで利用
Japan
China
Thailand
Singapore
Indonesia
Vietnam
レイテンシ
収益
ブラウザの近くにデータセンター
を置こう
Japan
China
Singapore
Indonesia
Vietnam
Thailand
Genieeのアーキテクチャについて
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
管理画面
SSP
DB
ブラウザ SSP
DB
10万QPS
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
数十万入札/sec
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
15TB/日
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
管理画面
ブラウザの近くにデータセンター
を置こう
Japan
China
Singapore
Indonesia
Vietnam
Thailand
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
管理画面
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
ブラウザ
管理画面
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
ブラウザ
管理画面
管理画面
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
ブラウザ
レイテンシ的に X
© Geniee, Inc.
海を越えられないと想定したもの
リアルタイムのトラフィック
ログ
19
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
SG
DB
ブラウザ
DBをレプリケーションする
管理画面
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
SG
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
DSPも現地でつなぐ
管理画面
ブラウザ SSP
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
SG
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
管理画面
ブラウザ SSP
DSP 1
DSP 2
DSP …
ログ
集計
Japan
SG
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログDB
DB
このレプリケーションが
ムリ
© Geniee, Inc.
海を越えられないもの
リアルタイムのトラフィック
ログ
DBのレプリケーション
24
© Geniee, Inc.
主なDBの中身
配信設定
レポート
25
レポートがでかい
更新頻度が高い
= Binlogが巨大になる
わけてしまえ
ブラウザ SSP
Core
DB
DSP 1
DSP 2
DSP …
ログ
集計
Japan
SG
Core
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
report
DB
OK
管理画面
Report DB がでかい
© Geniee, Inc.
Report DB の特徴
Dimension
•時間毎
•Zone毎
•OS毎
•地域毎
•・・・
Measure
•Imps
•Click
•CV
•Revenue
•・・・
30
© Geniee, Inc.
Report DB の特徴
Dimension
•時間毎
•Zone毎
•OS毎
•地域毎
•・・・
Measure
•Imps
•Click
•CV
•Revenue
•・・・
31
Dimensionのかけ算で
record数が決まる
© Geniee, Inc.
Report DB の特徴
Dimension
•時間毎
•Zone毎
•OS毎
•地域毎
•・・・
Measure
•Imps
•Click
•CV
•Revenue
•・・・
32
Dimensionのかけ算で
record数が決まる
24 x 700 x 4 x 数十万 x …
© Geniee, Inc.
Report DB の特徴
Dimension
•時間毎
•Zone毎
•OS毎
•地域毎
•・・・
Measure
•Imps
•Click
•CV
•Revenue
•・・・
33
Dimensionのかけ算で
record数が決まる
24 x 700 x 4 x 数十万 x …
20億record 4TB とかになる
MySQLじゃむりぽ
© Geniee, Inc.
What is ClickHouse
35
 ロシアの検索エンジン会社Yandex製
 YandexやCERNのプロダクションで動いている
 速度が自慢のカラムナDB
SG
Japan
ブラウザ
Core
DB
DSP 1
DSP 2
DSP …
Core
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
SSP
ログ
集計report
DB
本当に1000倍速い
容量も1/10以下
管理画面
次のチャレンジ
SG
Japan
ブラウザ
Core
DB
DSP 1
DSP 2
DSP …
Core
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
SSP
ログ
集計report
DB
管理画面
SG
Japan
ブラウザ
Core
DB
DSP 1
DSP 2
DSP …
Core
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
SSP
ログ
集計report
DB
配信から10秒で
Reportを反映!!
管理画面
SG
Japan
ブラウザ
Core
DB
DSP 1
DSP 2
DSP …
Core
DB
SSPブラウザ
現地
DSP 1
現地
DSP …
集計
ログ
SSP
ログ
集計report
DB
Streaming集計は
とても大変
管理画面
© Geniee, Inc.
まとめ
海を越えられないもの
•リアルタイムのトラフィック
•ログ
•DBのレプリケーション
•実は、他にも色々あります
レポートには、Clickhouse良いで
す
ストリーム集計大変だけど面白い
41
© Geniee, Inc.
まとめ
海を越えられないもの
•リアルタイムのトラフィック
•ログ
•DBのレプリケーション
•実は、他にも色々あります
レポートには、Clickhouse良いで
す
ストリーム集計大変だけど面白い
42
広域
高速
高トラフィック
© Geniee, Inc.
まとめ
海を越えられないもの
•リアルタイムのトラフィック
•ログ
•DBのレプリケーション
•実は、他にも色々あります
レポートには、Clickhouse良いで
す
ストリーム集計大変だけど面白い
43
広域
高速
高トラフィック
な3Kにタックルする
仲間募集!!
ありがとうございました!!

More Related Content

Similar to 世界分散配信システムとレポーティングシステム刷新のお話

【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について
【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について
【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携についてHinemos
 
Internetトラフィックエンジニアリングの現実
Internetトラフィックエンジニアリングの現実Internetトラフィックエンジニアリングの現実
Internetトラフィックエンジニアリングの現実J-Stream Inc.
 
Zabbix製品・サービス紹介資料
Zabbix製品・サービス紹介資料Zabbix製品・サービス紹介資料
Zabbix製品・サービス紹介資料Zabbix
 
Automation with SoftLayer and Zabbix
Automation with SoftLayer and ZabbixAutomation with SoftLayer and Zabbix
Automation with SoftLayer and Zabbixsoftlayerjp
 
Get started with azure v0.9.19.1213
Get started with azure v0.9.19.1213Get started with azure v0.9.19.1213
Get started with azure v0.9.19.1213Ayumu Inaba
 
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...Insight Technology, Inc.
 
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料Tae Yoshida
 
【kintone café松江#1】kintoneの可能性
【kintone café松江#1】kintoneの可能性【kintone café松江#1】kintoneの可能性
【kintone café松江#1】kintoneの可能性Koji Asaga
 
基調講演「データのグループウェア化」
基調講演「データのグループウェア化」基調講演「データのグループウェア化」
基調講演「データのグループウェア化」Cybozucommunity
 
新規事業を 支える文化と加速させる技術 ~ devops / GCP / DDD ~
新規事業を支える文化と加速させる技術~ devops / GCP / DDD ~新規事業を支える文化と加速させる技術~ devops / GCP / DDD ~
新規事業を 支える文化と加速させる技術 ~ devops / GCP / DDD ~Mao Ohnishi
 
Gmo media.inc 第9回西日本ossの普及を考える会
Gmo media.inc 第9回西日本ossの普及を考える会Gmo media.inc 第9回西日本ossの普及を考える会
Gmo media.inc 第9回西日本ossの普及を考える会Dai Utsui
 
マルチクラウドデータ連携Javaアプリケーションの作り方
マルチクラウドデータ連携Javaアプリケーションの作り方マルチクラウドデータ連携Javaアプリケーションの作り方
マルチクラウドデータ連携Javaアプリケーションの作り方CData Software Japan
 
サービスを成長させる為の開発について
サービスを成長させる為の開発についてサービスを成長させる為の開発について
サービスを成長させる為の開発についてtatsuya mazaki
 
As a service時代のitガバナンス
As a service時代のitガバナンスAs a service時代のitガバナンス
As a service時代のitガバナンス宏介 林田
 
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]DeNA
 
実践!DBベンチマークツールの使い方
実践!DBベンチマークツールの使い方実践!DBベンチマークツールの使い方
実践!DBベンチマークツールの使い方Fujishiro Takuya
 

Similar to 世界分散配信システムとレポーティングシステム刷新のお話 (20)

【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について
【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について
【HinemosWorld2014】A1-3_01_NTT Comのグローバルクラウド戦略とHinemosとの連携について
 
Internetトラフィックエンジニアリングの現実
Internetトラフィックエンジニアリングの現実Internetトラフィックエンジニアリングの現実
Internetトラフィックエンジニアリングの現実
 
Zabbix製品・サービス紹介資料
Zabbix製品・サービス紹介資料Zabbix製品・サービス紹介資料
Zabbix製品・サービス紹介資料
 
Questetraクエステトラ BPMご紹介
Questetraクエステトラ BPMご紹介Questetraクエステトラ BPMご紹介
Questetraクエステトラ BPMご紹介
 
Automation with SoftLayer and Zabbix
Automation with SoftLayer and ZabbixAutomation with SoftLayer and Zabbix
Automation with SoftLayer and Zabbix
 
Get started with azure v0.9.19.1213
Get started with azure v0.9.19.1213Get started with azure v0.9.19.1213
Get started with azure v0.9.19.1213
 
20180319 ccon sync kintone
20180319 ccon sync kintone20180319 ccon sync kintone
20180319 ccon sync kintone
 
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
 
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料
第4回SIA研究会(例会)プレゼン資料1_ m2 soft 紹介資料
 
【kintone café松江#1】kintoneの可能性
【kintone café松江#1】kintoneの可能性【kintone café松江#1】kintoneの可能性
【kintone café松江#1】kintoneの可能性
 
基調講演「データのグループウェア化」
基調講演「データのグループウェア化」基調講演「データのグループウェア化」
基調講演「データのグループウェア化」
 
新規事業を 支える文化と加速させる技術 ~ devops / GCP / DDD ~
新規事業を支える文化と加速させる技術~ devops / GCP / DDD ~新規事業を支える文化と加速させる技術~ devops / GCP / DDD ~
新規事業を 支える文化と加速させる技術 ~ devops / GCP / DDD ~
 
Gmo media.inc 第9回西日本ossの普及を考える会
Gmo media.inc 第9回西日本ossの普及を考える会Gmo media.inc 第9回西日本ossの普及を考える会
Gmo media.inc 第9回西日本ossの普及を考える会
 
マルチクラウドデータ連携Javaアプリケーションの作り方
マルチクラウドデータ連携Javaアプリケーションの作り方マルチクラウドデータ連携Javaアプリケーションの作り方
マルチクラウドデータ連携Javaアプリケーションの作り方
 
データマート対応した話
データマート対応した話データマート対応した話
データマート対応した話
 
サービスを成長させる為の開発について
サービスを成長させる為の開発についてサービスを成長させる為の開発について
サービスを成長させる為の開発について
 
As a service時代のitガバナンス
As a service時代のitガバナンスAs a service時代のitガバナンス
As a service時代のitガバナンス
 
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]
ゲーム開発者からMaaS開発者へ ゲーム開発のノウハウを活かして 移動体情報配信システムを作ってみた [DeNA TechCon 2019]
 
実践!DBベンチマークツールの使い方
実践!DBベンチマークツールの使い方実践!DBベンチマークツールの使い方
実践!DBベンチマークツールの使い方
 
AutoTVM紹介
AutoTVM紹介AutoTVM紹介
AutoTVM紹介
 

世界分散配信システムとレポーティングシステム刷新のお話