New Digital World - NEC

1 © NEC Corporation 2018
Data Platform for Hadoop のご紹介
2018年９月21日
AIプラットフォーム事業部 SDP-G
最新Hadoopによって開かれる
New Digital World！
もう遅いなんて言わせない！Hadoopで高速アドホック分析
世界初！Hadoop上で動作するベクトルプロセッサで高速分析
2018年10月16日
日本電気株式会社井上康博 y-inoue@ab.jp.nec.com
家志門太 mon-yashi@yk.jp.nec.com
長谷部賀洋 y-hasebe@ah.jp.nec.com

CIO・IT部門長ほかIT関係者のデジタル化に関する現状認識
74%の企業がデジタル化がビジネスに
破壊的影響をもたらすと考え、さらに
90%は欧米よりデジタル化が遅れてい
ると考えている＊1
67%の企業が、レガシーシステムがデ
ジタル化の進展への対応の足かせになっ
ていると感じている＊1
50%の企業が法規制が、デジタルビジ
ネスやデジタル化への対応推進の障害に
なっていると感じている＊1
*1 「デジタル化の進展に対する意識調査」日本システムユーザー協会、野村総合研究所システムコンサルティング事業本部､2017.5.18
74%
26%
67%
33%
50%50%
の影響拡大

New Data World! とは
共有可能な開かれたデータ
組織の壁組織の壁組織の壁組織の壁
データの管理
データの活用
部門1 部門2 部門3
外部2外部1
セキュリティ
＆
ガバナンス
アクセシビリティ
データで繋がり、共創
新たなインサイト発見！

データを最大限に活用するための要素
情報
データ
分析
攻撃
経営判断支援、顧客インサイト
の創出、リソースの効率化
防御
規制遵守、不正の検出・
抑制、データ漏洩の防止
複数の正確な
派生情報
唯一の正確な
情報源
わからないことを知り判断
（インサイト）
データを情報に変換
データを整備・管理
入手
できる
使える
守られ
ている
速く正確に簡単に
目的の設定成果の検証
技術＆プロセス・ルール
デ
ー
タ
管
理
者
経営層
LOB
IT部門

データ活用サイクルと求められる「次世代データプラットフォーム」の機能
目的
の設定
成果の
チェック
データを活用の実行
次世代データプラットフォーム
ビッグデータ分析
分析設計
アルゴリズム
選択
データ
選択
プログラミング
分析実行
データ準
備
「使える」
データ
データ管理
ポリシー定義活用・実行
データ
カタログ登録
収集蓄積処理
構造・非構造化
データ対応
ビッグデータの
高速検索
必要データへの
アクセスしやすさ
アクセスコント
ロール、来歴管理
新しい技術対応
PBクラスへの
スケールアウト
用途に適した形式
のデータ提供
外部システムとの
オープンな接続性
データの
リアルタイム処理
マルチ分析対応

次世代データプラットフォーム構成機能マップ
次世代データプラットフォーム with Hadoop
自社グループ会社社外
AIエンジン
BA/BI 顧客360° 不正検知コンプライアンス対応リスクマネジメント
データ
ソース
データ
活用
業務で更新・蓄積されているデータ（構造化）
顧客販売経理購買生産開発サポート
データ
管理・流通
常に流れているデータ（非構造化）
WEB
ログ
機械・設備
データ
外部情報
データ照合照合結果
収集（リアル・バッチ）
蓄積
検索データ整形・品質確保データフロー
データカタログ
セキュリティ・ガバナンス
（アクセス制御・来歴管理）
マルチサイト
データ連携
データ要求データ提供
データ分析DevOps環境
クラウドオンプレ
DWH

次世代データプラットフォーム with Hadoop
「HDF + HDP 」+ 「Tableau」で
ビッグデータ高速アドホック分析による
新たなインサイトを発見！

Tableau
HDF+HDP+Tableauで実現する次世代データプラットフォーム
 Tableauはローカルの独自DBへデータを作成すること
でパフォーマンスを実現。
 ビッグデータでの場合、ローカルに抽出することが出
来ずパフォーマンス上で問題あり。
HDF+HDP
によるモダン化
簡単に分析し、
ビジュアライズ可能
PC,モバイル様々な
ツールで共有可能
＋
HDF
構造・非構造データの簡単取り込み
HDP3.0（Hive＋Druid）
ビッグデータへの直接接続＋高速検索

NYタクシー
データ
53GB
3.4億レコード
デモの内容
支払方法と
その支払総額
ビッグデータの
高速検索
シナリオ1
 ボリュームデータ
からのインサイト
 Druidによる高速化
用途に適した形
式のデータ提供
シナリオ2
時刻・曜日ごと
乗客数（のべ数）
 Dimensionの事前
追加による高速化
構造・非構造化
データ対応
シナリオ3
天候(JSON)の
輸送距離への影響
 非構造を加えたイン
サイトの獲得
 事前のJOIN実行に
よる高速化

ビッグデータ高速アドホック分析リファレンスアーキテクチャー（評価済）
ビッグデータ高速アドホック分析モデル
HDFS
Multitenant Processing - YARN
構造化データ
ERP/CRM
非構造化データ
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…
…

デモの環境
▌評価環境（効果を確認するための最少環境）
マスターノード
・Ambari
・HDP Master
・HDP Client
ワーカーノード
・HDP Slave
・HDP Client
Tableau
・HDP Slave
・HDP Client
インストール済みサービス
• HDFS
• YARN + MapReduce2
• Tez
• Hive
• Pig
• Zookeeper
• Ambari Metrics
• Druid
• Superset
・HDP Slave
・HDP Client
• OS: Windows 2012 R2 for Tableau Server
• OS : Redhat Linux 7.5 for HDP cluster
• HDP 3.0.0
• Memory: 32GB RAM
• CPU:8 Core
• DISK 100GB

シナリオ１: 支払方法とその支払総額
Druidを活用し高速化
 “Live”接続でも快適なレスポンス
支払方法（“Payment Mode”）とその支払総額
Hive LLAP
(Druid未使用)
39秒
高速化の工夫
Druidの活用
Hive LLAP
(Druid使用)
16秒
2.4倍
高速化

シナリオ２: 時刻・曜日の乗客数（のべ数）の傾向
Druidのテーブルにカラムを追加し高速化
Timestamp型から曜日に変換
（負荷の高い処理）
Timestamp型から時間に変換
時間、曜日ごとに集計
Hive LLAP
(Druid使用)
258秒
高速化の工夫
時刻、曜日の
カラムを追加
Hive LLAP
(Druid使用)
14秒
17倍
高速化

シナリオ３: 天候データ(JSON形式）と乗客動向比較
異なるデータ形式の組み合わせ
乗客数データ
Hive LLAP
(Druid使用)
天候データ
Hive(JSON)
乗客数乗客数
乗客数乗客数
乗客数乗客数
乗客数乗客数
積雪量
積雪量
積雪量
積雪量
大雪(20cm位の積雪)の日
は乗客数が減る！？

シナリオ３: 天候データ(JSON形式）と乗客動向比較
 事前にJOINして、Druidに書き込高速化
Hive LLAP
(Druid使用)
72秒
高速化の工夫
事前にテーブル
をJOIN
Hive LLAP
(Druid使用)
24秒
3倍
高速化

参考：スタースキーマベンチマークの実行結果
OLAP CUBE
へ変換
SSB クエリ実行
Fact
table
Dimension
table
Dimension
table
Dimension
table
Dimension
table
正規化されたスタースキーマ型のテーブル
Hive LLAP
(Druid未使用)
Hive LLAP
(Druid使用)
OLAP cube
クエリー実行時間を98%削減
（Hortonworksとの共同検証結果）
SSB クエリ実行
Hive LLAP(Druid未使用) Hive LLAP(Druid使用)

Druid Tips
（１）Dimensionでないカラムを用いて集計しない
変換するなどして新たに生成した項目に基づいて集計する場合は、テーブルを
作成する時点でその項目をDimensionとして追加しておくこと（※シナリオ２）
（２）JOINを行ってからデータを格納
JOINが苦手なので（可能であれば）JOINが必要そうなテーブルは事前に
テーブルをJOINしてからDruidにデータを格納する。（※シナリオ３）
 DruidはOLAP用のCubeを構成し、Dimensionに対する集計処理を高速化する
システムであり、適切な使い方をすることでパフォーマンスの向上が可能
※Dimensionとはテーブルのカラムのうち、分析軸として選択するもの

まとめ
データのサイズと種別の悩みから解放された
高速アドホック分析で新たなインサイトを発見！
（組織の枠を超えたデータの活用）
 Live接続でHadoopのサーバリ
ソースを使用する！
リソースの制約からビッグデータ
を対象とした分析が困難
 LLAP ＋ Druidで高速レスポンス！
• 事前にDimensionを適正に設定
• 事前に必要なテーブルをJOIN
Live接続時に快適な応答が得ら
れない
（アドホック分析は厳しい）
これまで最新Hadoopの活用
Tableau
HDP
（Hadoop）

NECとHortonworksが検証済みの
次世代データプラットフォーム

Data Platform for Hadoop
※HDF : Hortonworks DataFlow , HDP : Hortonworks Data Platform
ビッグデータ活用基盤
プロフェッショナル
サービス
データ収集データ処理・蓄積データ分析
HDP※HDF※ 分析ツール
アドホック分析
セルフサービスBI
データ集約
リアルタイム
データ取り込み
分散
コンピューティング
分散
ストレージ
Red Hat Enterprise Linux
データガバナンス・セキュリティ
分析エンジン
データのインテグレーション・分析
設計サービス
構築サービス
拡張/アップグレード
セ
キ
ュ
リ
テ
ィ
＆
ガ
バ
ナ
ン
ス
リ
ア
ル
タ
イ
ム
分
析
デ
ー
タ
見
え
る
化
デ
ー
タ
マ
イ
グ
レ
ー
シ
ョ
ン
デ
ー
タ
イ
ン
テ
グ
レ
ー
シ
ョ
ン
基盤ライフサイクルの維持
検証済みソフトウェア＆ハードウェア
業務
システム
Web 等

10月15日にHortonworks x NECが共同プレスリリースを発表
ビッグデータ向け高速分析プラットフォームを共同開発
SX-Aurora TSUBASAのYARNへの対応
Hortonworks NEC
2018年10月15日共同プレスリリース
•Apache Hadoop/Spark上で
「SX-Aurora TSUBASA」のリソースが利用可能となる
•NECのAIミドルウェア「Flovedis」と「Data Platform
for Hadoop」を組み合わせたソリューションの提供
共同発表内容

NECのHadoop/Sparkデジタルプラットフォームの特長
DX時代の
最適なデータ分析
プラットフォームの
短期導入と
その環境の維持
事前評価済みの
システムとサービス
分析要件に基づく
最適なデータ
インテグレーション
とプリパレーション
最新テクノロジーを活用した
検証済みリファレンスモデル
に基づくサービス
コンプライアンス*
を遵守する
データアクセス制御
とデータガバナンス
最新ニーズに対応した
導入経験に基づくサービス
*GDPRなど
Hortonworks認証済み「システム」
最新技術の検証とPB基盤の導入運用に基づく「サービス」

Centre of Excellence for Analytics Platform & Solutions
日本とインドをコアに
COEチーム Hadoopプロフェッショナルが
お客様のデジタル化実現をグローバルにサポート
2017年6月インドにグローバルビッグデータ分析事業のコアとしてCOEを設立
Analytics &
Consulting
Presales
Technical
Research & POC
Design &
Development
System
Integration
Implementation
Support
Singapore
Philippines
France
India
Japan

NEC Hadoop/Spark情報
『Data Platform for Hadoop』で検索
https://jpn.nec.com/slpf/product/dph/index.html
Hadoop/Spark体験
オリジナル・チュートリアル
（WEBにて登録必要）
Hadoop/Spark
活用方法の紹介
DX実現に向けたデータ活用
冊子
（WEBにて登録必要）
Hadoopが簡単にわかる
• サンプルデータ
• スクリプト
• マニュアル付き
• 事例付
DXの取り組み方がわかる

世界初！Hadoop上で動作するベクトルプロセッサで高速分析！
カード型ベクトルエンジン「SX-Aurora TSUBASA」
 新開発ベクトルプロセッサ（8コア）
 PCIe規格準拠
 GPGPUと異なる実行モデル、Fortran/C/C++の標準環境
 演算性能：2.45TF(倍精度)，4.91TF(単精度)
 メモリ帯域 1.22TB/s（世界一）
 メモリ容量 48GB

SX-Aurora TSUBASAのYARN対応の狙い
 Data Platform for Hadoopの大量データの収集・蓄積能力とSX-Aurora
TSUBASAの高性能データ分析能力により、真のAI/BD処理基盤が完成する
 Hadoop上でSX-Aurora TSUBASAのリソース管理が一元的に可能
 タスクやアプリケーションの実行の最適化が全体で可能となる
データ
処理・蓄積
Data Platform for Hadoop
Mllib
Frovedis
SX-Aurora TSUBASA
＋
データ分析
データ
収集
YARN
同じYARNの
配下で管理
スーパーコンピューターをNECの技術
で１枚のカードにダウンサイジング
SX-ACE(HPC)

 レコメンデーション
 過去の購買履歴や思考/行動の似た人から顧客の好みを推測し、製
品やサービスの紹介を行う
 売上実績だけでなく、レコメンデーション情報も活用した需要予測
で物流・在庫管理を最適化
 損害保険/生命保険
 事故や病気を起こしやすい人の傾向を見つけアドバイスを行う
 人が事故現場に赴き損害を判定していたのを、事故画像を解析し自
動で損害度合いを判定する
 医療・ヘルスケア
 罹患率の高い生活習慣や行動パターンを見つけ、予防医療を行う
 患者の症状と過去に蓄積した症例や論文を比較・解析し医師の判断
を助ける
AI/Bigdata分析の価値
 これからのデータ分析は膨大なデータを活用し更なる未知の法則の発見や
予測の精度向上を行うことで、ビジネスの差別化に繋げていくことが重要
想定ユースケース
非構造データ
構造データ
画像・映像音声
SNSログ/センサ
売上データ顧客情報

AI/Bigdata分析における課題と解決策
 より大きな価値を求め、データサイエンティストの負担が増えていく
→ データ処理/分析の高速化により、学習・探索の待ち時間を減らす
次世代データ分析基盤
Data Platform for
Hadoop
SX-Aurora
TSUBASA
＋
収集
大量データを処理
大量データを分析
蓄積
処理
分析
分析の繰り返し処理やデータ探索
（マイニング）の高性能化を実現する
プラットフォームを提供する
様々なデータの組み合わせの
中から未知の規則性を見つける
様々なデータやパラメーターを
試し、最適な学習結果を得る
十分な予測精度
未知の知見

ユースケース例：レコメンデーション
▌概要・背景(小売：商品レコメンデーション)
 ECサイトなどにおいて、行動履歴や購入情報などをもとに顧客の趣味趣向
に合わせた商品をレコメンデーション表示
 レコメンデーションからの購入率が高く、精度の高さが売上に大きく影響
▌課題
 レコメンデーションの精度を高める為により多くの情報を学習させたい
 学習に時間がかかり、完了したときには鮮度が古くなってしまう
▌解決策
 スパコン技術を活用した高速処理によりXeonサーバ上での計算と比較して
40倍以上の高速化を実現
▌期待される効果
 短期間で学習が完了するため、より鮮度の高い情報をもとにレコメンデー
ション
 より多くの情報を学習出来、レコメンデーション精度が向上
試作機での評価：
Xeon (Gold 6126) 1ソケット対ベクトルエンジン1基
[*] ロジスティック回帰はCriteoが公開しているデータの1/4を用
い(6GB)。
K-meansと特異値分解は英文Wikipedia全文(10GB)。いずれもI/O
時間を含まない

Spark互換ミドルウェア
“Frovedis”

SX-Aurora TSUBASAの適応領域と応用例
統計型機械学習はメモリバンド幅の広いSX-Aurora TSUBASAが得意とする分野
ピーク演算性能
汎用CPU
ロジスティック回帰
クラスタリング
AI(機械学習)
ベクトル
翻訳 (LSTM)
汎用 (MLP)
特異値分解
GPU
Web広告最適化
与信審査
需要予測
商品レコメンド
人材マッチング
文章分類
不正取引検知
マルウェア検知
コールセンター
オペレータ支援
犯罪予測
自動運転
画像認識 (CNN)
音声認識 (RNN)
深層学習
(Deep Learning)
統計型
機械学習
メ
モ
リ
バ
ン
ド
幅

Sparkの機械学習を高速化するミドルウェア：Frovedis
 Spark/Pythonからベクトルを意識せず利用可能なミドルウェア
 SX-Aurora TSUBASAのメモリ性能を生かし、統計型機械学習を高速化
▌ベクトル化済みの機械学習/行列演算機能を用意(Spark Mllib,前処理機能)
 SX-Aurora TSUBASAの性能を、直ぐにフル活用できる
 機械学習ライブラリ (Spark MLlib)
• 行列演算ライブラリ（疎行列中心）、回帰、ロジスティック回帰、線形SVM、ALS、K-means、
特異値分解などを用意、逐次拡張中
 Data Frame (前処理機能)
• 前処理に用いる表操作を提供：select, filter, sort, join, group by/aggregate
ベクトル
エンジン
x86
プロセッサ
Spark
Python
Server
RPC

Frovedis
▌Frovedis: Sparkと互換性を持つNECが開発したミドルウェア
 Sparkのオリジナルのソースコードを３行変えるだけで実行可能
 NECでOSS化しており、下記のリンク先で公開中
https://github.com/frovedis
Original Spark program: logistic regression
…
import org.apache.spark.mllib.classification.LogisticRegressionWithSGD
…
val model = LogisticRegressionWithSGD.train(data)
…
…
import com.nec.frovedis.mllib.classificaiton.LogisticRegressionWithSGD
…
FrovedisServer.initialize(...)
val model = LogisticRegressionWithSGD.train(data)
FrovedisServer.shut_down()
…
Change to call NEC middleware implementation
Change import
Start/Stop
server
Same API
(no change)
※ FRamework Of VEctorized and DIStributed data analytics

Frovedis + SX-Aurora TSUBASAの性能
▌x86上のSparkと機械学習にかかる実行時間を比較：
試作機での評価：Xeon (Gold 6126) 1ソケット対ベクトルエンジン1基
ミドルウェアの効率の良さと、ベクトル型コンピュータを用いた高速化により、40倍以上の高速化を確認
113倍
43倍
57倍
[*] ロジスティック回帰はCriteoが公開しているデータの1/4を用いた(6GB)。
K-meansと特異値分解は英文Wikipedia全文(10GB)。いずれもI/O時間を含まない

NECのベクトルコンピューターの歴史
NECはベクトルコンピューターの“SXシリーズ”
を継続的に市場に投入性能
1990 2000 2010
SX-2
SX-3
SX-6
SX-8
SX-9
SX-4
SX-5
SX-ACE
Earth Simulator
SX-7
Earth Simulator
2
Earth Simulator
3
Vector Engine
（PCI card)
高性能だが…
• 大きい
• 高価である
35年間に培ってきたベクタテクノロ
ジを１枚のPCIeカードに集積
Change!

SX-Aurora TSUBASAの特長
（従来のスパコン）
ラック
スーパーコンピューターを
NECの技術でダウンサイジング
超高性能
使いやすさ
フレキシブル
ベクトル技術で大量データの一括処理を実現
し、Xeon比10倍以上の性能を実現
専門知識不要で、コンパイルして実行する
だけで高い性能を享受可能
C/C++/Fortranで開発可能
お客様ニーズに従い、サーバ/エンジン
構成選択可能、C/P最適化、適応市場拡大
タワー

① 超高性能：世界最速ベクトルプロセッサ
世界最速コア
307GFlops（DP）
614GFlops（SP）
世界最速のデータアクセス性能
1.2TB/s
テクノロジー
世界初HBM2 x6実装
ベクトルプロセッサ
2017年10月現在、NEC調べ
2017年10月現在、NEC調べ
キャッシュ 16MB
コアコアコアコア
コアコアコアコア
1.2TB/s

② 使いやすさ：実行環境
コンパイラ
自動ベクトル化機能自動並列化機能
Fortran: F2003, F2008（制限あり）
C: C11
C++: C++14
OpenMP: OpenMP4.5
MPI: MPI3.1
$ vi sample.c
$ ncc sample.c
$ ./a.out
x86
プログラム環境
アプリケーション実行環境

③ フレキシブル：様々な用途を想定した幅広いラインアップ
 ベクトルエンジンの超高性能を、組込み用途から大規模データセンタ対応
まで幅広く提供し、利用範囲を拡大
データセンタモデル
データセンタ、計算センタでの巨大処理
例：大規模AI・ビッグデータ、
大規模シミュレーションなど
オンサイトモデル
製造業などのシミュレーション、AI・ビッグ
データ利用
例：大規模需要予測、
製造シミュレーションなど
エッジモデル＆組込みソリューション
AI・ビッグデータ・システム組込み用途
例：製品検査、医療画像処理、需要予測、
レーダ解析など
データセンタモデル(水冷)
オンサイトモデル
エッジモデル
1VE搭載
2VE搭載 4VE搭載 8VE搭載
64VE搭載
組込みソリューション
ユーザ様専用システム SX-Aurora TSUBASA
標準価格：１億2千万～
標準価格：270万～
標準価格：170万～

contact@dph.jp.nec.com
ご要望、ご質問がございましたら
コチラからお問い合わせ願います。

New Digital World - NEC

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

Similaire à New Digital World - NEC

Similaire à New Digital World - NEC (20)

Plus de DataWorks Summit

Plus de DataWorks Summit (20)

Dernier

Dernier (10)

New Digital World - NEC