SlideShare une entreprise Scribd logo
1  sur  48
Télécharger pour lire hors ligne
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データマネジメント
今昔物語
プロダクトの視点から見る
カオスと進化
2021.12.10
KT | Grand Master of DATA Saber @DATA_Saber
(Product Marketing Manager, Snowflake)
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
© 2020 Snowflake Inc. All Rights Reserved
Who is KT?
Grand Master of DATA Saber
DATA Visualization & Storytelling Evangelist,
Tableau User Group Ambassador
書籍「データドリブンの極意」
Snowflake, プロダクトマーケティング
コスプレイヤー
@DATA_Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
KTの経歴
日系システムインテグレーター(SIer)7年→Tableau5年→Snowflake1年半
※間に買収が入って厳密な社数はもっと多いのですがここでは省略します
実際に操作したことがあるデータ関連プロダクト
Cognos、QlikView、SQL Server(SSIS(ETL)も含む)、
Tableau、Snowflake
※その他にもさまざまな製品がありますが、
無責任なことは言いたくないので私の経験でお話しします
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
所属によるテクノロジーとの向き合い方
所属タイプ 主なミッション 技術との向き合い方 陥りがちなワナ
事業会社 自社の事業の目標を
達成すること
目標を達成するために必要な技術を選
定する。管理面を考慮し、統合したり、
長く使ったりできればいいが、基本的に
はやりたいことができれば良い
古い時代の技術で効率が良かった方
法を継承して、それをなんとしてでも実
現しようとしてしまうことがある
→技術のアップデートが必要
コンサルタント
システムインテグレーター
(SI)
事業会社の目標を
技術あるいは考え方で支
援
さまざまな技術情報を収集し、最適なも
のを選択したり組み合わせたりして事
業会社に提案する
顧客の言いなりになってしまうことがあ
る
→時には自分のスキルを総動員して
意見を交わすことが必要
製品・
サービスベンダー
事業会社の目標を
自社製品・サービスで支
援
自分たちの製品やサービスが課題を
解決できると確信している
自分のプロダクトが顧客の課題の全て
を解決できると過信してしまう
→常に顧客の声を聞き、製品・サービ
スをアップデートすることが必要
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
所属によるテクノロジーとの向き合い方
所属タイプ 主なミッション 技術との向き合い方 陥りがちなワナ
事業会社 自社の事業の目標を
達成すること
目標を達成するために必要な技術を選
定する。管理面を考慮し、統合したり、
長く使ったりできればいいが、基本的に
はやりたいことができれば良い
古い時代の技術で効率が良かった方
法を継承して、それをなんとしてでも実
現しようとしてしまうことがある
→技術のアップデートが必要
コンサルタント
システムインテグレーター
(SI)
事業会社の目標を
技術あるいは考え方で支
援
さまざまな技術情報を収集し、最適なも
のを選択したり組み合わせたりして事
業会社に提案する
顧客の言いなりになってしまうことがあ
る
→時には自分のスキルを総動員して
意見を交わすことが必要
製品・
サービスベンダー
事業会社の目標を
自社製品・サービスで支
援
自分たちの製品やサービスが課題を
解決できると確信している
自分のプロダクトが顧客の課題の全て
を解決できると過信してしまう
→常に顧客の声を聞き、製品・サービ
スをアップデートすることが必要
私の経歴はココ
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
おことわり
TableauとSnowflakeという類稀なる(と信じている)プロダクトに
人生を(いい意味で)変えられた個人が語るお話です。
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データマネジメントとは?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
マネジメントとは?
[management] 管理・経営
組織に成果を上げさせるための道具、機能、機関
[manage] 取り扱う・処理する
英語的には「手腕、処理能力、うまく処理する」
<語源>
man=手 ラテン語のmanus 馬の調教(伊:maneggiare)
馬を御する・馴らす・手綱を引く・操作する・なんとかする
参考:
 マネジメントとは?定義と役割・今後求められる 3つのポイントを徹底解説
 続 10分でわかるカタカナ語 第 11回 マネージメント
 『マネジメント』の意味とは?英語の『 management』を正しく理解して使いこなそう!
 managementの語源は何なのでしょうか?
 英単語 manage の意味
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データとは?
紙に記載していた
情報
    システムに
登録された購買履歴
Webサイト
 アクセス
人のいた場所
    動き
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データは世界を写す鏡
 〜データを知ることは世界を知ること
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データマネジメントとは
(世の中の状況の写しである)データをうまく扱って、
企業に成果を上げさせる経営をやっていくこと
(それを実現する技術や方法のことを指す場合もある)
 →ただしここにこだわりすぎてはいけない
 →大切なことは「データを御していかに経営できるか(経営層だけじゃない、現場も含めて)」
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
身の回りを正しく把握して、意思決定する・・
当たり前では?
「身の」周りが広すぎて、私たちの直感を鈍らせる
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
変化する
データマネジメント
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
データウェアハウス
(DWH)
BIツール
レポーティング
可視化
ETL
かつての情報系システム 1980年頃〜
データ取得から可視化全体をビジネスインテリジェンス(BI)と呼ぶこともある
デ
|
タ
モ
デ
ル
データ
マート
キュ
ーブ
基幹システム
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
インターネットの普及 1995年〜2000年頃
あらゆる活動が「データの上で」完結し始める
リアル世界のコピー→システムの上で行動した結果がそのままデータ化
データを見なければ
起こっている事象を理解できない世界
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
データウェアハウス
(DWH)
BIツール
レポーティング
可視化
ETL
かつての情報系システムの課題
データ取得から可視化全体をビジネスインテリジェンス(BI)と呼ぶこともある
デ
|
タ
モ
デ
ル
データ
マート
キュ
ーブ
基幹システム
💢
💢
💢
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2003年 Tableau創立
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
BI・可視化領域
における変遷
参考 The 2021 Gartner BI Magic Quadrant Visualized in Tableau
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
ビジュアル分析のサイクル
セルフサービスBIの究極の姿
 〜ビジュアル分析のサイクル
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2016年頃、データ可視化技術の普及
データを扱う人が増えた
良いこと
• より多くのインサイト
• より深い議論
• 合意形成
悪いこと
使い方をよく知らない
• 間違った処理
• 重たい処理
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
データウェアハウス
(DWH)
ETL
セルフサービスBIとガバナンスの狭間で
データ
マート
キュ
ーブ
基幹システム
野良BI
野良BI
BIツール
レポーティング
可視化
デ
|
タ
モ
デ
ル
💡
💡
💡
💡
💡
💢💢💢
💢
💢
💢
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
セルフサービスとはどういうことか?
事前に想定されるディメンションを定義することは難しい
時間軸のデータの例
高精細な秒単位のデータ V.S.  集計された日単位のデータ
件数÷60秒÷60分÷24時間=1/86,400
1億件のデータなら 1,157件
1億件のデータがおいそれと分析できたか?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
急速に接近した人々の間にある言葉の壁
「生データください」
データソースや生データという言葉が意味しているものは人によって違う
言葉の意味は本当に同じか? 確認しながら進めないといけない
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データに辿り着けない問題
ビジュアル分析のサイクル
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データ量の問題
Tableauの場合はhyperで対応した (2016年)
Welcome, Hyper team, to the Tableau community!
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
前処理の問題
Tableauの場合はPrep Builderで対応した (2018年)
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
カオスの進行:基盤の進化と用途の増加
データ
マート
基幹システム
データ
サイエンス
BIツール
レポーティング
可視化
💡
💡
💡
💡
💡
💡
データレイク
ELT データ
アプリケーション
データ
ウェアハウス
(DWH)
デ
|
タ
カ
タ
ロ
グ
💡
💡
💡
💡
💡
💡
外部
データ
💢
💢
💢
💢💢💢💢
💢
💦
💦
💦
💦
💦
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データマネジメントの肝
データよデータ、あなたはどこからきて、どこへゆく?
データパイプラインを理解すること。方法の例
1. 誰にとっても可視化することと(Tableau:Data Management Addon)
2. パイプラインそのものを極限までシンプルにする(Snowflake:データクラウド)
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
これからどこへ向かうのか?
数十年前の枠組みや考え方をそのまま使うのか?
あなたが作ろうとしているのはデータウェアハウスやデータレイクなのか?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
クラウドリソースを使ったデータ基盤
なぜクラウドサービスなのか?
 →リソースを組み合わせずに仕組みだけ提供する方法の限界
リソースの問題が解決すればデータパイプラインは必ずシンプルになる
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
基盤の進化と用途の増加
基幹システム
データ
サイエンス
BIツール
レポーティング
可視化
💡
💡
💡
💡
💡
💡
データレイク
ELT
データ
アプリケーション
データ
ウェアハウス
(DWH)
デ
|
タ
カ
タ
ロ
グ
💡
💡
💡
💡
💡
💡
外部
データ
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2015年 Snowflake創立
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
今のところこういうイメージ
基幹システム
データ
サイエンス
BIツール
レポーティング
可視化
💡
💡
💡
💡
💡
💡
データレイク
ELT
データ
アプリケーション
データ
ウェアハウス
(DWH)
デ
|
タ
カ
タ
ロ
グ
💡
💡
💡
💡
💡
💡
外部
データ
🎶
※Snowflake Webトップページより
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
営業
マーケ
製造
サポート
データをつなぐネットワーク〜Snowflakeの構想
組織内データ
💡
💡
💡
💡
💡
💡 💡
💡
💡
💡
💡
SNS
💡
💡
💡
💡
気象
市場
人流
関連会社
サプライ
チェーン
外部データ
データ
クラウド
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
経験と勘にデータが負ける?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
経験と勘 2.0
経験と勘
 自分が経験した事象による判断
データによる意思決定=経験と勘 2.0
 たくさんの人が経験した事象による総合的な判断
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
課題その1:必要なデータを見れていない
事象
元データ
取得できていない
設計・体験想定ミス
取得時のエラー
分析用
データ
データ
基盤
?
連携されていない
削除されている
集計されている
前処理やリクエストに時間がかかる
データがどこにあるかわからない
データがあることを知らない
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
有用にして危険でもあるストーリーテリング
人は断片をつなぎ合わせて物語にしてしまうのが得意(早とちり・早合点)
意思決定は、基本的に早い方がいい(遅れると意味がないことがほとんど)
少ない情報から判断するのが得意
→なぜなら私たちは自然界では多くの情報を得ることはできないから
知識と理性でこの壁を越えないといけない
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
課題その2:データを信じられるか?
データによる経験を自分の経験のように「自分のものにできるか?」
そのためにはデータリテラシーやデータを操作するスキルが必要
信じられなければ強い推進力で実行できない
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
テクノロジーを自分の身体の一部にして
データを自分の思考の一部にする
…新人類?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
アップデートを
求められ続ける世界へ
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
技術の進化と現実世界の変化は相互に影響
技術の進化
(プロダクト)
文明
現実世界の変化
(業務変革)
文化
相互に
影響
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
私が出会ったプロダクト
      〜Tableauのケース
多くの人が考えていたジャンル:
BI(Business Intelligence)、エンタープライズレポーティング
↓
Tableauが標榜するコンセプト:
ビジュアル分析
↓
その結果新しく生まれたジャンル:
モダンBI それから…?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
私が出会ったプロダクト
      〜Snowflakeのケース
多くの人が考えていたジャンル:
クラウドDWH
↓
Snowflakeが標榜するコンセプト:
データクラウド
↓
その結果新しく生まれるかもしれないジャンル:
データシェアリング?データ収益化?データのネットワーク?
データコラボレーション? それから…?
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データマネジメントを実現するには
自分が本質的にやりたいことを見失わないようにしながら
最新技術の「考え方・やり方」を取り入れ
常にアップデートしていく人間になること
また、そういう人が集まる組織を作ること
を 御 す る 組 織
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
いいね! お願いします
https://101.gg/kt
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
データリテラシー 導入編 12/15-17
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber
Thank you!
@DATA_Saber
KT Channel
https://www.youtube.com/c/DATASaber

Contenu connexe

Tendances

Tendances (20)

MonotaRO のデータ活用と基盤の過去、現在、未来
MonotaRO のデータ活用と基盤の過去、現在、未来 MonotaRO のデータ活用と基盤の過去、現在、未来
MonotaRO のデータ活用と基盤の過去、現在、未来
 
Making Cloud Native CI_CD Services.pdf
Making Cloud Native CI_CD Services.pdfMaking Cloud Native CI_CD Services.pdf
Making Cloud Native CI_CD Services.pdf
 
データ基盤グループを支えるチームビルディング
データ基盤グループを支えるチームビルディングデータ基盤グループを支えるチームビルディング
データ基盤グループを支えるチームビルディング
 
Google Cloud Dataflow を理解する - #bq_sushi
Google Cloud Dataflow を理解する - #bq_sushiGoogle Cloud Dataflow を理解する - #bq_sushi
Google Cloud Dataflow を理解する - #bq_sushi
 
大規模なリアルタイム監視の導入と展開
大規模なリアルタイム監視の導入と展開大規模なリアルタイム監視の導入と展開
大規模なリアルタイム監視の導入と展開
 
YJTC18 A-1 データセンタネットワークの取り組み
YJTC18 A-1 データセンタネットワークの取り組みYJTC18 A-1 データセンタネットワークの取り組み
YJTC18 A-1 データセンタネットワークの取り組み
 
楽天ネットワークエンジニアたちが目指す、次世代データセンターとは
楽天ネットワークエンジニアたちが目指す、次世代データセンターとは楽天ネットワークエンジニアたちが目指す、次世代データセンターとは
楽天ネットワークエンジニアたちが目指す、次世代データセンターとは
 
Yahoo! JAPANを支えるビッグデータプラットフォーム技術
Yahoo! JAPANを支えるビッグデータプラットフォーム技術Yahoo! JAPANを支えるビッグデータプラットフォーム技術
Yahoo! JAPANを支えるビッグデータプラットフォーム技術
 
データファブリック実現のためのプロジェクトの進め方とは
データファブリック実現のためのプロジェクトの進め方とはデータファブリック実現のためのプロジェクトの進め方とは
データファブリック実現のためのプロジェクトの進め方とは
 
YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)
YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)
YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)
 
JCBの Payment as a Service 実現にむけたゼロベースの組織変革とテクニカル・イネーブラー(NTTデータ テクノロジーカンファレンス ...
JCBの Payment as a Service 実現にむけたゼロベースの組織変革とテクニカル・イネーブラー(NTTデータ テクノロジーカンファレンス ...JCBの Payment as a Service 実現にむけたゼロベースの組織変革とテクニカル・イネーブラー(NTTデータ テクノロジーカンファレンス ...
JCBの Payment as a Service 実現にむけたゼロベースの組織変革とテクニカル・イネーブラー(NTTデータ テクノロジーカンファレンス ...
 
DataSkillCultureを浸透させる楽天の取り組み
DataSkillCultureを浸透させる楽天の取り組みDataSkillCultureを浸透させる楽天の取り組み
DataSkillCultureを浸透させる楽天の取り組み
 
DMBOKをベースにしたデータマネジメント
DMBOKをベースにしたデータマネジメントDMBOKをベースにしたデータマネジメント
DMBOKをベースにしたデータマネジメント
 
Travel & Leisure Platform Department's tech info
Travel & Leisure Platform Department's tech infoTravel & Leisure Platform Department's tech info
Travel & Leisure Platform Department's tech info
 
The Data Platform Administration Handling the 100 PB.pdf
The Data Platform Administration Handling the 100 PB.pdfThe Data Platform Administration Handling the 100 PB.pdf
The Data Platform Administration Handling the 100 PB.pdf
 
Apache Atlasの現状とデータガバナンス事例 #hadoopreading
Apache Atlasの現状とデータガバナンス事例 #hadoopreadingApache Atlasの現状とデータガバナンス事例 #hadoopreading
Apache Atlasの現状とデータガバナンス事例 #hadoopreading
 
Apache Bigtopによるオープンなビッグデータ処理基盤の構築(オープンデベロッパーズカンファレンス 2021 Online 発表資料)
Apache Bigtopによるオープンなビッグデータ処理基盤の構築(オープンデベロッパーズカンファレンス 2021 Online 発表資料)Apache Bigtopによるオープンなビッグデータ処理基盤の構築(オープンデベロッパーズカンファレンス 2021 Online 発表資料)
Apache Bigtopによるオープンなビッグデータ処理基盤の構築(オープンデベロッパーズカンファレンス 2021 Online 発表資料)
 
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
 
Redis勉強会資料(2015/06 update)
Redis勉強会資料(2015/06 update)Redis勉強会資料(2015/06 update)
Redis勉強会資料(2015/06 update)
 
データ分析を支える技術 データ分析基盤再入門
データ分析を支える技術 データ分析基盤再入門データ分析を支える技術 データ分析基盤再入門
データ分析を支える技術 データ分析基盤再入門
 

Similaire à データマネジメント今昔物語〜プロダクトの視点から見るカオスと進化 #TechMar

Similaire à データマネジメント今昔物語〜プロダクトの視点から見るカオスと進化 #TechMar (20)

What Is My Enterprise Data Maturity 2021
What Is My Enterprise Data Maturity 2021What Is My Enterprise Data Maturity 2021
What Is My Enterprise Data Maturity 2021
 
Building Big Data Applications
Building Big Data ApplicationsBuilding Big Data Applications
Building Big Data Applications
 
ADV Slides: Modern Analytic Data Architecture Maturity Modeling
ADV Slides: Modern Analytic Data Architecture Maturity ModelingADV Slides: Modern Analytic Data Architecture Maturity Modeling
ADV Slides: Modern Analytic Data Architecture Maturity Modeling
 
Left Brain, Right Brain: How to Unify Enterprise Analytics
Left Brain, Right Brain: How to Unify Enterprise AnalyticsLeft Brain, Right Brain: How to Unify Enterprise Analytics
Left Brain, Right Brain: How to Unify Enterprise Analytics
 
The computing age
The computing ageThe computing age
The computing age
 
Modern Data Architecture
Modern Data ArchitectureModern Data Architecture
Modern Data Architecture
 
Teradata Aster: Big Data Discovery Made Easy
Teradata Aster: Big Data Discovery Made EasyTeradata Aster: Big Data Discovery Made Easy
Teradata Aster: Big Data Discovery Made Easy
 
Teradata and Cisco integrated journey to IoT and Smart city
Teradata and Cisco integrated journey to IoT and Smart cityTeradata and Cisco integrated journey to IoT and Smart city
Teradata and Cisco integrated journey to IoT and Smart city
 
7 trends-for-big-data
7 trends-for-big-data7 trends-for-big-data
7 trends-for-big-data
 
Self Service Analytics and a Modern Data Architecture with Data Virtualizatio...
Self Service Analytics and a Modern Data Architecture with Data Virtualizatio...Self Service Analytics and a Modern Data Architecture with Data Virtualizatio...
Self Service Analytics and a Modern Data Architecture with Data Virtualizatio...
 
Integra: Summiting the Mountain of Big Data (Infographic)
Integra: Summiting the Mountain of Big Data (Infographic)Integra: Summiting the Mountain of Big Data (Infographic)
Integra: Summiting the Mountain of Big Data (Infographic)
 
Why Data Virtualization? An Introduction
Why Data Virtualization? An IntroductionWhy Data Virtualization? An Introduction
Why Data Virtualization? An Introduction
 
Graph Databases – Benefits and Risks
Graph Databases – Benefits and RisksGraph Databases – Benefits and Risks
Graph Databases – Benefits and Risks
 
SessionA-Keynote-NSIT-AMS-Aug15b.pptx
SessionA-Keynote-NSIT-AMS-Aug15b.pptxSessionA-Keynote-NSIT-AMS-Aug15b.pptx
SessionA-Keynote-NSIT-AMS-Aug15b.pptx
 
Airbyte - Seed deck
Airbyte  - Seed deckAirbyte  - Seed deck
Airbyte - Seed deck
 
The-Hitchhikers-Guide-To-Metaversing-on-Snowflake-WP.pdf
The-Hitchhikers-Guide-To-Metaversing-on-Snowflake-WP.pdfThe-Hitchhikers-Guide-To-Metaversing-on-Snowflake-WP.pdf
The-Hitchhikers-Guide-To-Metaversing-on-Snowflake-WP.pdf
 
DataOps - The Foundation for Your Agile Data Architecture
DataOps - The Foundation for Your Agile Data ArchitectureDataOps - The Foundation for Your Agile Data Architecture
DataOps - The Foundation for Your Agile Data Architecture
 
VSD Zurich 2018: The Data Opportunity
VSD Zurich 2018: The Data OpportunityVSD Zurich 2018: The Data Opportunity
VSD Zurich 2018: The Data Opportunity
 
Building a Data Platform Strata SF 2019
Building a Data Platform Strata SF 2019Building a Data Platform Strata SF 2019
Building a Data Platform Strata SF 2019
 
Silicon Halton Meetup 41 - post event deck
Silicon Halton Meetup 41 - post event deckSilicon Halton Meetup 41 - post event deck
Silicon Halton Meetup 41 - post event deck
 

Dernier

Finding Java's Hidden Performance Traps @ DevoxxUK 2024
Finding Java's Hidden Performance Traps @ DevoxxUK 2024Finding Java's Hidden Performance Traps @ DevoxxUK 2024
Finding Java's Hidden Performance Traps @ DevoxxUK 2024
Victor Rentea
 
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers:  A Deep Dive into Serverless Spatial Data and FMECloud Frontiers:  A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Safe Software
 
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
Victor Rentea
 
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers:  A Deep Dive into Serverless Spatial Data and FMECloud Frontiers:  A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Safe Software
 

Dernier (20)

Artificial Intelligence Chap.5 : Uncertainty
Artificial Intelligence Chap.5 : UncertaintyArtificial Intelligence Chap.5 : Uncertainty
Artificial Intelligence Chap.5 : Uncertainty
 
Strategies for Landing an Oracle DBA Job as a Fresher
Strategies for Landing an Oracle DBA Job as a FresherStrategies for Landing an Oracle DBA Job as a Fresher
Strategies for Landing an Oracle DBA Job as a Fresher
 
AWS Community Day CPH - Three problems of Terraform
AWS Community Day CPH - Three problems of TerraformAWS Community Day CPH - Three problems of Terraform
AWS Community Day CPH - Three problems of Terraform
 
Finding Java's Hidden Performance Traps @ DevoxxUK 2024
Finding Java's Hidden Performance Traps @ DevoxxUK 2024Finding Java's Hidden Performance Traps @ DevoxxUK 2024
Finding Java's Hidden Performance Traps @ DevoxxUK 2024
 
Six Myths about Ontologies: The Basics of Formal Ontology
Six Myths about Ontologies: The Basics of Formal OntologySix Myths about Ontologies: The Basics of Formal Ontology
Six Myths about Ontologies: The Basics of Formal Ontology
 
Polkadot JAM Slides - Token2049 - By Dr. Gavin Wood
Polkadot JAM Slides - Token2049 - By Dr. Gavin WoodPolkadot JAM Slides - Token2049 - By Dr. Gavin Wood
Polkadot JAM Slides - Token2049 - By Dr. Gavin Wood
 
ICT role in 21st century education and its challenges
ICT role in 21st century education and its challengesICT role in 21st century education and its challenges
ICT role in 21st century education and its challenges
 
Apidays New York 2024 - The value of a flexible API Management solution for O...
Apidays New York 2024 - The value of a flexible API Management solution for O...Apidays New York 2024 - The value of a flexible API Management solution for O...
Apidays New York 2024 - The value of a flexible API Management solution for O...
 
TrustArc Webinar - Unlock the Power of AI-Driven Data Discovery
TrustArc Webinar - Unlock the Power of AI-Driven Data DiscoveryTrustArc Webinar - Unlock the Power of AI-Driven Data Discovery
TrustArc Webinar - Unlock the Power of AI-Driven Data Discovery
 
JohnPollard-hybrid-app-RailsConf2024.pptx
JohnPollard-hybrid-app-RailsConf2024.pptxJohnPollard-hybrid-app-RailsConf2024.pptx
JohnPollard-hybrid-app-RailsConf2024.pptx
 
[BuildWithAI] Introduction to Gemini.pdf
[BuildWithAI] Introduction to Gemini.pdf[BuildWithAI] Introduction to Gemini.pdf
[BuildWithAI] Introduction to Gemini.pdf
 
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers:  A Deep Dive into Serverless Spatial Data and FMECloud Frontiers:  A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
 
Exploring Multimodal Embeddings with Milvus
Exploring Multimodal Embeddings with MilvusExploring Multimodal Embeddings with Milvus
Exploring Multimodal Embeddings with Milvus
 
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
Modular Monolith - a Practical Alternative to Microservices @ Devoxx UK 2024
 
Rising Above_ Dubai Floods and the Fortitude of Dubai International Airport.pdf
Rising Above_ Dubai Floods and the Fortitude of Dubai International Airport.pdfRising Above_ Dubai Floods and the Fortitude of Dubai International Airport.pdf
Rising Above_ Dubai Floods and the Fortitude of Dubai International Airport.pdf
 
AI in Action: Real World Use Cases by Anitaraj
AI in Action: Real World Use Cases by AnitarajAI in Action: Real World Use Cases by Anitaraj
AI in Action: Real World Use Cases by Anitaraj
 
Vector Search -An Introduction in Oracle Database 23ai.pptx
Vector Search -An Introduction in Oracle Database 23ai.pptxVector Search -An Introduction in Oracle Database 23ai.pptx
Vector Search -An Introduction in Oracle Database 23ai.pptx
 
Spring Boot vs Quarkus the ultimate battle - DevoxxUK
Spring Boot vs Quarkus the ultimate battle - DevoxxUKSpring Boot vs Quarkus the ultimate battle - DevoxxUK
Spring Boot vs Quarkus the ultimate battle - DevoxxUK
 
DEV meet-up UiPath Document Understanding May 7 2024 Amsterdam
DEV meet-up UiPath Document Understanding May 7 2024 AmsterdamDEV meet-up UiPath Document Understanding May 7 2024 Amsterdam
DEV meet-up UiPath Document Understanding May 7 2024 Amsterdam
 
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers:  A Deep Dive into Serverless Spatial Data and FMECloud Frontiers:  A Deep Dive into Serverless Spatial Data and FME
Cloud Frontiers: A Deep Dive into Serverless Spatial Data and FME
 

データマネジメント今昔物語〜プロダクトの視点から見るカオスと進化 #TechMar

  • 1. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データマネジメント 今昔物語 プロダクトの視点から見る カオスと進化 2021.12.10 KT | Grand Master of DATA Saber @DATA_Saber (Product Marketing Manager, Snowflake)
  • 2. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber © 2020 Snowflake Inc. All Rights Reserved Who is KT? Grand Master of DATA Saber DATA Visualization & Storytelling Evangelist, Tableau User Group Ambassador 書籍「データドリブンの極意」 Snowflake, プロダクトマーケティング コスプレイヤー @DATA_Saber
  • 3. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber KTの経歴 日系システムインテグレーター(SIer)7年→Tableau5年→Snowflake1年半 ※間に買収が入って厳密な社数はもっと多いのですがここでは省略します 実際に操作したことがあるデータ関連プロダクト Cognos、QlikView、SQL Server(SSIS(ETL)も含む)、 Tableau、Snowflake ※その他にもさまざまな製品がありますが、 無責任なことは言いたくないので私の経験でお話しします
  • 4. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 所属によるテクノロジーとの向き合い方 所属タイプ 主なミッション 技術との向き合い方 陥りがちなワナ 事業会社 自社の事業の目標を 達成すること 目標を達成するために必要な技術を選 定する。管理面を考慮し、統合したり、 長く使ったりできればいいが、基本的に はやりたいことができれば良い 古い時代の技術で効率が良かった方 法を継承して、それをなんとしてでも実 現しようとしてしまうことがある →技術のアップデートが必要 コンサルタント システムインテグレーター (SI) 事業会社の目標を 技術あるいは考え方で支 援 さまざまな技術情報を収集し、最適なも のを選択したり組み合わせたりして事 業会社に提案する 顧客の言いなりになってしまうことがあ る →時には自分のスキルを総動員して 意見を交わすことが必要 製品・ サービスベンダー 事業会社の目標を 自社製品・サービスで支 援 自分たちの製品やサービスが課題を 解決できると確信している 自分のプロダクトが顧客の課題の全て を解決できると過信してしまう →常に顧客の声を聞き、製品・サービ スをアップデートすることが必要
  • 5. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 所属によるテクノロジーとの向き合い方 所属タイプ 主なミッション 技術との向き合い方 陥りがちなワナ 事業会社 自社の事業の目標を 達成すること 目標を達成するために必要な技術を選 定する。管理面を考慮し、統合したり、 長く使ったりできればいいが、基本的に はやりたいことができれば良い 古い時代の技術で効率が良かった方 法を継承して、それをなんとしてでも実 現しようとしてしまうことがある →技術のアップデートが必要 コンサルタント システムインテグレーター (SI) 事業会社の目標を 技術あるいは考え方で支 援 さまざまな技術情報を収集し、最適なも のを選択したり組み合わせたりして事 業会社に提案する 顧客の言いなりになってしまうことがあ る →時には自分のスキルを総動員して 意見を交わすことが必要 製品・ サービスベンダー 事業会社の目標を 自社製品・サービスで支 援 自分たちの製品やサービスが課題を 解決できると確信している 自分のプロダクトが顧客の課題の全て を解決できると過信してしまう →常に顧客の声を聞き、製品・サービ スをアップデートすることが必要 私の経歴はココ
  • 6. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber おことわり TableauとSnowflakeという類稀なる(と信じている)プロダクトに 人生を(いい意味で)変えられた個人が語るお話です。
  • 7. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データマネジメントとは?
  • 8. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber マネジメントとは? [management] 管理・経営 組織に成果を上げさせるための道具、機能、機関 [manage] 取り扱う・処理する 英語的には「手腕、処理能力、うまく処理する」 <語源> man=手 ラテン語のmanus 馬の調教(伊:maneggiare) 馬を御する・馴らす・手綱を引く・操作する・なんとかする 参考:  マネジメントとは?定義と役割・今後求められる 3つのポイントを徹底解説  続 10分でわかるカタカナ語 第 11回 マネージメント  『マネジメント』の意味とは?英語の『 management』を正しく理解して使いこなそう!  managementの語源は何なのでしょうか?  英単語 manage の意味
  • 9. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データとは? 紙に記載していた 情報     システムに 登録された購買履歴 Webサイト  アクセス 人のいた場所     動き
  • 10. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データは世界を写す鏡  〜データを知ることは世界を知ること
  • 11. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データマネジメントとは (世の中の状況の写しである)データをうまく扱って、 企業に成果を上げさせる経営をやっていくこと (それを実現する技術や方法のことを指す場合もある)  →ただしここにこだわりすぎてはいけない  →大切なことは「データを御していかに経営できるか(経営層だけじゃない、現場も含めて)」
  • 12. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 身の回りを正しく把握して、意思決定する・・ 当たり前では? 「身の」周りが広すぎて、私たちの直感を鈍らせる
  • 13. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 変化する データマネジメント
  • 14. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート データウェアハウス (DWH) BIツール レポーティング 可視化 ETL かつての情報系システム 1980年頃〜 データ取得から可視化全体をビジネスインテリジェンス(BI)と呼ぶこともある デ | タ モ デ ル データ マート キュ ーブ 基幹システム
  • 15. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber インターネットの普及 1995年〜2000年頃 あらゆる活動が「データの上で」完結し始める リアル世界のコピー→システムの上で行動した結果がそのままデータ化 データを見なければ 起こっている事象を理解できない世界
  • 16. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート データウェアハウス (DWH) BIツール レポーティング 可視化 ETL かつての情報系システムの課題 データ取得から可視化全体をビジネスインテリジェンス(BI)と呼ぶこともある デ | タ モ デ ル データ マート キュ ーブ 基幹システム 💢 💢 💢
  • 17. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2003年 Tableau創立
  • 18. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber BI・可視化領域 における変遷 参考 The 2021 Gartner BI Magic Quadrant Visualized in Tableau
  • 19. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber ビジュアル分析のサイクル セルフサービスBIの究極の姿  〜ビジュアル分析のサイクル
  • 20. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2016年頃、データ可視化技術の普及 データを扱う人が増えた 良いこと • より多くのインサイト • より深い議論 • 合意形成 悪いこと 使い方をよく知らない • 間違った処理 • 重たい処理
  • 21. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート データウェアハウス (DWH) ETL セルフサービスBIとガバナンスの狭間で データ マート キュ ーブ 基幹システム 野良BI 野良BI BIツール レポーティング 可視化 デ | タ モ デ ル 💡 💡 💡 💡 💡 💢💢💢 💢 💢 💢
  • 22. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber セルフサービスとはどういうことか? 事前に想定されるディメンションを定義することは難しい 時間軸のデータの例 高精細な秒単位のデータ V.S.  集計された日単位のデータ 件数÷60秒÷60分÷24時間=1/86,400 1億件のデータなら 1,157件 1億件のデータがおいそれと分析できたか?
  • 23. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 急速に接近した人々の間にある言葉の壁 「生データください」 データソースや生データという言葉が意味しているものは人によって違う 言葉の意味は本当に同じか? 確認しながら進めないといけない
  • 24. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データに辿り着けない問題 ビジュアル分析のサイクル
  • 25. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データ量の問題 Tableauの場合はhyperで対応した (2016年) Welcome, Hyper team, to the Tableau community!
  • 26. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 前処理の問題 Tableauの場合はPrep Builderで対応した (2018年)
  • 27. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート カオスの進行:基盤の進化と用途の増加 データ マート 基幹システム データ サイエンス BIツール レポーティング 可視化 💡 💡 💡 💡 💡 💡 データレイク ELT データ アプリケーション データ ウェアハウス (DWH) デ | タ カ タ ロ グ 💡 💡 💡 💡 💡 💡 外部 データ 💢 💢 💢 💢💢💢💢 💢 💦 💦 💦 💦 💦
  • 28. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データマネジメントの肝 データよデータ、あなたはどこからきて、どこへゆく? データパイプラインを理解すること。方法の例 1. 誰にとっても可視化することと(Tableau:Data Management Addon) 2. パイプラインそのものを極限までシンプルにする(Snowflake:データクラウド)
  • 29. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber これからどこへ向かうのか? 数十年前の枠組みや考え方をそのまま使うのか? あなたが作ろうとしているのはデータウェアハウスやデータレイクなのか?
  • 30. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber クラウドリソースを使ったデータ基盤 なぜクラウドサービスなのか?  →リソースを組み合わせずに仕組みだけ提供する方法の限界 リソースの問題が解決すればデータパイプラインは必ずシンプルになる
  • 31. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート 基盤の進化と用途の増加 基幹システム データ サイエンス BIツール レポーティング 可視化 💡 💡 💡 💡 💡 💡 データレイク ELT データ アプリケーション データ ウェアハウス (DWH) デ | タ カ タ ロ グ 💡 💡 💡 💡 💡 💡 外部 データ
  • 32. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2015年 Snowflake創立
  • 33. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート 今のところこういうイメージ 基幹システム データ サイエンス BIツール レポーティング 可視化 💡 💡 💡 💡 💡 💡 データレイク ELT データ アプリケーション データ ウェアハウス (DWH) デ | タ カ タ ロ グ 💡 💡 💡 💡 💡 💡 外部 データ 🎶 ※Snowflake Webトップページより
  • 34. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 営業 マーケ 製造 サポート データをつなぐネットワーク〜Snowflakeの構想 組織内データ 💡 💡 💡 💡 💡 💡 💡 💡 💡 💡 💡 SNS 💡 💡 💡 💡 気象 市場 人流 関連会社 サプライ チェーン 外部データ データ クラウド
  • 35. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 経験と勘にデータが負ける?
  • 36. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 経験と勘 2.0 経験と勘  自分が経験した事象による判断 データによる意思決定=経験と勘 2.0  たくさんの人が経験した事象による総合的な判断
  • 37. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 課題その1:必要なデータを見れていない 事象 元データ 取得できていない 設計・体験想定ミス 取得時のエラー 分析用 データ データ 基盤 ? 連携されていない 削除されている 集計されている 前処理やリクエストに時間がかかる データがどこにあるかわからない データがあることを知らない
  • 38. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 有用にして危険でもあるストーリーテリング 人は断片をつなぎ合わせて物語にしてしまうのが得意(早とちり・早合点) 意思決定は、基本的に早い方がいい(遅れると意味がないことがほとんど) 少ない情報から判断するのが得意 →なぜなら私たちは自然界では多くの情報を得ることはできないから 知識と理性でこの壁を越えないといけない
  • 39. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 課題その2:データを信じられるか? データによる経験を自分の経験のように「自分のものにできるか?」 そのためにはデータリテラシーやデータを操作するスキルが必要 信じられなければ強い推進力で実行できない
  • 40. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber テクノロジーを自分の身体の一部にして データを自分の思考の一部にする …新人類?
  • 41. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber アップデートを 求められ続ける世界へ
  • 42. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 技術の進化と現実世界の変化は相互に影響 技術の進化 (プロダクト) 文明 現実世界の変化 (業務変革) 文化 相互に 影響
  • 43. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 私が出会ったプロダクト       〜Tableauのケース 多くの人が考えていたジャンル: BI(Business Intelligence)、エンタープライズレポーティング ↓ Tableauが標榜するコンセプト: ビジュアル分析 ↓ その結果新しく生まれたジャンル: モダンBI それから…?
  • 44. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 私が出会ったプロダクト       〜Snowflakeのケース 多くの人が考えていたジャンル: クラウドDWH ↓ Snowflakeが標榜するコンセプト: データクラウド ↓ その結果新しく生まれるかもしれないジャンル: データシェアリング?データ収益化?データのネットワーク? データコラボレーション? それから…?
  • 45. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データマネジメントを実現するには 自分が本質的にやりたいことを見失わないようにしながら 最新技術の「考え方・やり方」を取り入れ 常にアップデートしていく人間になること また、そういう人が集まる組織を作ること を 御 す る 組 織
  • 46. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber いいね! お願いします https://101.gg/kt
  • 47. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber データリテラシー 導入編 12/15-17
  • 48. 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber 2021 KT Portrayer of the D♡TA Universe | Grand Master of DATA Saber Thank you! @DATA_Saber KT Channel https://www.youtube.com/c/DATASaber