Recommandé
Contenu connexe
Tendances
Tendances (20)
Similaire à KubeFlowでどこまでいける？
Similaire à KubeFlowでどこまでいける？ (20)
KubeFlowでどこまでいける？
- 2. 自己紹介 大嶋 悠司 @overs_5121 NTT ソフトウェアイノベーションセンタ OSS活動が主な業務 • GoBGP(ソフトウェアBGPルータ) • Docker • Docker/Infrakit (メンテナ） • KubeFlow/Katib (オーナー)
- 4. 今日お話すること • KubeFlowとは？ • KubeFlowのできること 今日お話しないこと • Kubernetesについて • KubeFlowの内部実装
- 5. KubeFlow? Kubernetes上に機械学習基盤を構築するOSSプロジェクト • KubeCon2017NAにてGoogleが発表 • 6月末にv0.2がリリース • Kubecon2018NA(12/16)にv1.0リリース予定 • 参加企業（一部） • Google • Intel • Cisco • Alibaba • PFN • NTT などなど．．
- 7. 機械学習サービスの課題 @Nips2015 実サービスとしてMLコンポーネントを開発，運用する際の課題 Nips2015 にてGoogleが提唱 ● 複雑なモデルは複雑な依存関係を持つ ● 入力データは変化しうる ● フィードバックループの難しさ
- 9. TFXの発表 @KDD2017 TensorFlow Extended (TFX) KDD 2017にてGoogleが発表 実サービス（Google Play）を運用する基盤
- 10. TFXの設計思想 1. 柔軟性 : One machine learning platform for many learning tasks ○ 機械学習基盤は汎用であるべきだが，専用のチューニングも重要 2. 継続的学習 : Continuous training ○ 学習の流れはワークフローやダイヤグラムで記述できる ○ データは常に新しくなる 3. UIの重要性：Easy-to-use configuration and tools ○ ユーザがデータの特性やモデルを解析，デバッグするためにUIは重要 4. 安定性とスケーラビリティ : Production-level reliability and scalability ○ サイエンティストが自分の仕事に注力するためにデプロイの困難さなどはプラット フォームで持ってあげるべき
- 14. TFX（再掲）のPipeLine
- 15. KubeFlow Pipeline Roll-out Serving Monitering Logging Data Ingestion Data Analysis Data Transform -ation Data Validation Data Splitting Trainer Building a Model Model Validation Training At Scale
- 16. KubeFlow Components Roll-out Serving Monitering Logging Data Ingestion Data Analysis Data Transform -ation Data Validation Data Splitting Trainer Building a Model Model Validation Training At Scale TF/Pytorch/Chainer Operator Katib
- 17. KubeFlow Components Roll-out Serving Monitering Logging Data Ingestion Data Analysis Data Transform -ation Data Validation Data Splitting Trainer Building a Model Model Validation Training At Scale TF/Pytorch/Chainer Operator Katib １，柔軟性 ：必要に応じてコンポーネントを選択 ２，継続的学習：（予定）ワークフローエンジンで柔軟にパイプラインを記述
- 18. 実際に使ってみる とりあえずk8sクラスタを用意しましょう GKEの場合RBACが使えるように設定が必要 ( $ kubectl create clusterrolebinding default-admin ) そして公式スクリプトでkubeflowをインストール $ curl https://raw.githubusercontent.com/kubeflow/kubeflow/v0.2.5/scripts/deploy.sh | bash https://v0-2.kubeflow.org/docs/started/getting-started/ 本資料は最新リリース v0.2.5 での方法を記述しています v0.3 以降では方法が変わりますのでご注意ください
- 19. KubeFlow Core Components KubeFlow Contral dashboard • kubernetes dashboard • TF Job Dashboard • JupyterHub
- 22. TensorFlow Job
- 23. KubeFlow Central dashboard 3，UIの重要性：（予定）各コンポーネントのUIをCentral dashbordに集め 全体を俯瞰
- 24. コンポーネントの追加（Argo) $ ks pkg install kubeflow/ #必要なら $ ks generate argo argo $ ks apply default deploy.shで既にkfのバージョンの固定などは終わっている 以下の様にコンポーネントを追加可能
- 25. 分散学習サポート TFで分散学習を使う場合 • パラメータサーバ+ワーカ数のymlが必要 • ワーカのymlはそれぞれ別の名前をつける • 作成，削除の管理 この辺の設定方法はフレームワークによって異なる
- 26. KubeFlow Operator TensorFlow, MxNet, Pytorch, Caffe2, Chainer • PSとWorkerのコマンドや入出力データの場所を定義 • それぞれのレプリカ数を設定 • PSとWorkerをまとめたリソースとして管理 • フレームワークによらないコンフィグ 4，安定性とスケーラビリティ： ワーカーのスケジューリングはk8sに任せる 簡単に学習をスケール可能に （予定）他コンポーネントとの連携も統一
- 27. TF-Operator
- 28. Q:（予定）多くない？
- 30. Katib ハイパーパラメータチューニングフレームワーク GoogleがTFXと同時にKDD 2017で発表したVizierがモデル • DLフレームワーク非依存 • Yamlでパラメータ空間を定義してk8s上で探索 • サポートするアルゴリズム • Random • Grid • HyperBand • Bayesian Optimization
- 31. Katib Katib manager Random Grid HyperBand Parameter1 Parameter2 Parameter3 Metrics Collector Metrics Collector Metrics Collector
- 32. Katib UI
- 33. パラメータの評価を並列で行える ● スケジューリングはKubernetesが行う ● 一部のジョブの失敗が他に影響しない Katibメリット Katib manager Parameter1 Parameter2 Parameter3 Metrics Collector Metrics Collector Metrics Collector Parameter4 Parameter4 Parameter4
- 34. パラメータの評価を並列で行える ● スケジューリングはKubernetesが行う ● 一部のジョブの失敗が他に影響しない Katibメリット Katib manager Parameter1 Parameter2 Parameter3 Metrics Collector Metrics Collector Metrics Collector Parameter4 Parameter4 Parameter4
- 35. チューニングアルゴリズムの切り替えが容易 ● KatibのAPIで隠蔽されるためスクリプト側に修正は不要 ● 新たなアルゴリズムの追加が実行中のタスクに影響しない Katibメリット２ Katib manager Random Grid HyperBand Parameter1 Parameter2
- 36. チューニングアルゴリズムの切り替えが容易 ● KatibのAPIで隠蔽されるためスクリプト側に修正は不要 ● 新たなアルゴリズムの追加が実行中のタスクに影響しない Katibメリット２ Katib manager Random Grid HyperBand Parameter1 Parameter2
- 37. チューニングアルゴリズムの切り替えが容易 ● KatibのAPIで隠蔽されるためスクリプト側に修正は不要 ● 新たなアルゴリズムの追加が実行中のタスクに影響しない Katibメリット２ Katib manager Random Grid HyperBand Parameter1 New Parameter2 Parameter1 Parameter2
- 38. Katibデメリット (KF全体ですが)Kubernetes前提 • MOEなどのpythonスクリプト内に組み込めるものと比べ大掛かり • 慣れるまでデバッグが困難 簡単に使うならMOE クラウドならCloudML, SageMakerも選択肢
- 40. 9/26 KubeFlow MeetUPやります！ 今回話せなかった ● オペレータ ● Argo ● Katibの内部実装 について詳しくお話します！