SlideShare a Scribd company logo
1 of 22
re:Invent
新サービス Athena
千葉 淳
クラスメソッド株式会社
2016年12月6日
自己紹介
所属:クラスメソッド株式会社
仕事:ソリューションアーキテクト
好きなAWS: Lambda
名前:千葉 淳
Athenaとは?
Day1キーノートで発表
データ分析の顧客課題
データ分析の大量作業、大量な知識必要
出典:http://www.slideshare.net/AmazonWebServicesJapan/awswebinar-awsbig-data
Athenaが解決
ETL、データロードが不要!
S3上データへ対話的SQLクエリ
複数フォーマット対応!(CSV/TSV/JSON/Apache log等)
答え
Athenaの特徴?
サーバーレス(高可用性、運用が楽)
早い(並列実行、チューニング済み)
コスト効率がよい(スキャン$5/TB)
ツール連携(JDBC, QuickSight)
事例
DataXu社180TB/日を可視化
画面解説
Athenaの画面
クエリ実行画面
よく使うクエリの保存画面
ELB用ログテーブル作成、CloudFrontログテーブル作成のサンプル等用意
結果確認画面
データベース/テーブル作成画面
Athenaにおけるデータベース/テーブル
データベースは「テーブルの論理グループ」
テーブルは、データの定義
所属するデータベース
データを保存しているS3の場所(ファイル/パス)
データフォーマット
カラムの定義
パーティション
データベース/テーブルのポイント
SQLでもテーブル作成OK
パーティショニング = 検索データを減らす
コスト削減
パフォーマンスの向上
パーティショニング - Hive -
テーブル作成時に 指定
パーティショニング – Hive以外-
日付ごとにパーティションを追加する必要あり
JDBCで自動化を検討
まとめ
まとめ
S3上のデータをSQLにて直接分析
様々なフォーマット対応
(CSV/TSV/JSON/Apache log等)
サーバレスで高可用性、運用管理不要
ツールと連携し可視化(JDBC、QuickSight)
Appendix
検証記事はDevelopers.IO(現在13記事)
おしまい

More Related Content

What's hot

[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
Takahiro Moteki
 
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
Amazon Web Services Japan
 

What's hot (20)

Lambda in java_20160121
Lambda in java_20160121Lambda in java_20160121
Lambda in java_20160121
 
データレイクを基盤としたAWS上での機械学習サービス構築
データレイクを基盤としたAWS上での機械学習サービス構築データレイクを基盤としたAWS上での機械学習サービス構築
データレイクを基盤としたAWS上での機械学習サービス構築
 
AWS Batch Fargate対応は何をもたらすか
AWS Batch Fargate対応は何をもたらすかAWS Batch Fargate対応は何をもたらすか
AWS Batch Fargate対応は何をもたらすか
 
クラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターンクラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターン
 
ついに解禁!Amazon Aurora徹底検証!
ついに解禁!Amazon Aurora徹底検証!ついに解禁!Amazon Aurora徹底検証!
ついに解禁!Amazon Aurora徹底検証!
 
Using Amazon Aurora for Enterprise Workloads
Using Amazon Aurora for Enterprise WorkloadsUsing Amazon Aurora for Enterprise Workloads
Using Amazon Aurora for Enterprise Workloads
 
クラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターンクラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターン
 
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
20161027 hadoop summit  Generating Recommendations at Amazon Scale with Apach...20161027 hadoop summit  Generating Recommendations at Amazon Scale with Apach...
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
 
Apache Cassandra最新情報まとめ
Apache Cassandra最新情報まとめApache Cassandra最新情報まとめ
Apache Cassandra最新情報まとめ
 
Amazon Kinesis Analytics によるストリーミングデータのリアルタイム分析
Amazon Kinesis Analytics によるストリーミングデータのリアルタイム分析Amazon Kinesis Analytics によるストリーミングデータのリアルタイム分析
Amazon Kinesis Analytics によるストリーミングデータのリアルタイム分析
 
[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
[社内勉強会]サクっと業務でつくったログ/データ調査環境(re:dash ☓ AWS Athena ☓ embulk)
 
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Kinesis Familyを活用したストリームデータ処理Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Kinesis Familyを活用したストリームデータ処理
 
Amazon Aurora Deep Dive (re:Invent 2015 DAT405 日本語翻訳版)
Amazon Aurora Deep Dive (re:Invent 2015 DAT405 日本語翻訳版)Amazon Aurora Deep Dive (re:Invent 2015 DAT405 日本語翻訳版)
Amazon Aurora Deep Dive (re:Invent 2015 DAT405 日本語翻訳版)
 
EC2+RDSを基本から #cmdevio2017
EC2+RDSを基本から #cmdevio2017EC2+RDSを基本から #cmdevio2017
EC2+RDSを基本から #cmdevio2017
 
[Aurora事例祭り]AWS Database Migration Service と Schema Conversion Tool の使いドコロ
[Aurora事例祭り]AWS Database Migration Service と Schema Conversion Tool の使いドコロ[Aurora事例祭り]AWS Database Migration Service と Schema Conversion Tool の使いドコロ
[Aurora事例祭り]AWS Database Migration Service と Schema Conversion Tool の使いドコロ
 
AWSでのビッグデータ分析
AWSでのビッグデータ分析AWSでのビッグデータ分析
AWSでのビッグデータ分析
 
Kinesis + Elasticsearchでつくるさいきょうのログ分析基盤
Kinesis + Elasticsearchでつくるさいきょうのログ分析基盤Kinesis + Elasticsearchでつくるさいきょうのログ分析基盤
Kinesis + Elasticsearchでつくるさいきょうのログ分析基盤
 
オンプレからAuroraへの移行とその効果
オンプレからAuroraへの移行とその効果オンプレからAuroraへの移行とその効果
オンプレからAuroraへの移行とその効果
 
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
Amazon Elastic MapReduce with Hive/Presto ハンズオン(講義)
 
20141126 jaws-antipattern
20141126 jaws-antipattern20141126 jaws-antipattern
20141126 jaws-antipattern
 

Viewers also liked

Viewers also liked (10)

10分でできる!vpsサービスAmazon lightsailを使いこなす
10分でできる!vpsサービスAmazon lightsailを使いこなす10分でできる!vpsサービスAmazon lightsailを使いこなす
10分でできる!vpsサービスAmazon lightsailを使いこなす
 
20161206 re growth-tokyo-maroon1st
20161206 re growth-tokyo-maroon1st20161206 re growth-tokyo-maroon1st
20161206 re growth-tokyo-maroon1st
 
EC2 Systems Managerはいいぞ
EC2 Systems ManagerはいいぞEC2 Systems Managerはいいぞ
EC2 Systems Managerはいいぞ
 
Aws athenaを使ってみた
Aws athenaを使ってみたAws athenaを使ってみた
Aws athenaを使ってみた
 
AWS Black Belt Online Seminar 2017 AWS OpsWorks
AWS Black Belt Online Seminar 2017 AWS OpsWorksAWS Black Belt Online Seminar 2017 AWS OpsWorks
AWS Black Belt Online Seminar 2017 AWS OpsWorks
 
AWS Black Belt Online Seminar 2017 Amazon EC2 Systems Manager
AWS Black Belt Online Seminar 2017 Amazon EC2 Systems ManagerAWS Black Belt Online Seminar 2017 Amazon EC2 Systems Manager
AWS Black Belt Online Seminar 2017 Amazon EC2 Systems Manager
 
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターンAWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
 
AWS Black Belt Online Seminar 2017 Docker on AWS
AWS Black Belt Online Seminar 2017 Docker on AWSAWS Black Belt Online Seminar 2017 Docker on AWS
AWS Black Belt Online Seminar 2017 Docker on AWS
 
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
AWS Black Belt Online Seminar AWSで実現するDisaster RecoveryAWS Black Belt Online Seminar AWSで実現するDisaster Recovery
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
 
AWS Black Belt Online Seminar 2017 Amazon Athena
AWS Black Belt Online Seminar 2017 Amazon AthenaAWS Black Belt Online Seminar 2017 Amazon Athena
AWS Black Belt Online Seminar 2017 Amazon Athena
 

Similar to re:Growth athena

非公式PaaS勉強会~新宿d社会議室
非公式PaaS勉強会~新宿d社会議室非公式PaaS勉強会~新宿d社会議室
非公式PaaS勉強会~新宿d社会議室
Daisuke Masubuchi
 
SAP HANA One on AWS
SAP HANA One on AWSSAP HANA One on AWS
SAP HANA One on AWS
satoshi
 
2011-04-21 クラウド勉強会
2011-04-21 クラウド勉強会2011-04-21 クラウド勉強会
2011-04-21 クラウド勉強会
Koichiro Doi
 
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
Yasuhiro Horiuchi
 
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャNoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
Yasuhiro Matsuo
 

Similar to re:Growth athena (20)

Re invent 2017 データベースサービス総復習!
Re invent 2017 データベースサービス総復習!Re invent 2017 データベースサービス総復習!
Re invent 2017 データベースサービス総復習!
 
非公式PaaS勉強会~新宿d社会議室
非公式PaaS勉強会~新宿d社会議室非公式PaaS勉強会~新宿d社会議室
非公式PaaS勉強会~新宿d社会議室
 
SAP HANA One on AWS
SAP HANA One on AWSSAP HANA One on AWS
SAP HANA One on AWS
 
Presto ベースのマネージドサービス Amazon Athena
Presto ベースのマネージドサービス Amazon AthenaPresto ベースのマネージドサービス Amazon Athena
Presto ベースのマネージドサービス Amazon Athena
 
aws mackerel twilio_handson_public
aws mackerel twilio_handson_publicaws mackerel twilio_handson_public
aws mackerel twilio_handson_public
 
2011-04-21 クラウド勉強会
2011-04-21 クラウド勉強会2011-04-21 クラウド勉強会
2011-04-21 クラウド勉強会
 
AWS Black Belt - AWS Glue
AWS Black Belt - AWS GlueAWS Black Belt - AWS Glue
AWS Black Belt - AWS Glue
 
Orchestrate DBaaS入門
Orchestrate DBaaS入門Orchestrate DBaaS入門
Orchestrate DBaaS入門
 
Accelerating AdTech on AWS #AWSAdTechJP
Accelerating AdTech on AWS #AWSAdTechJPAccelerating AdTech on AWS #AWSAdTechJP
Accelerating AdTech on AWS #AWSAdTechJP
 
[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーション[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーション
 
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
 
Serverless Revolution
Serverless RevolutionServerless Revolution
Serverless Revolution
 
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
JAWS-UG 名古屋 第5回 発表資料 「AWSアップデート」
 
データ活用を加速するAWS分析サービスのご紹介
データ活用を加速するAWS分析サービスのご紹介データ活用を加速するAWS分析サービスのご紹介
データ活用を加速するAWS分析サービスのご紹介
 
AWS re:Invent2017で見た AWSの強さとは
AWS re:Invent2017で見た AWSの強さとは AWS re:Invent2017で見た AWSの強さとは
AWS re:Invent2017で見た AWSの強さとは
 
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャNoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
NoSQL on AWSで作る最新ソーシャルゲームアーキテクチャ
 
Azure DataLake 大全
Azure DataLake 大全Azure DataLake 大全
Azure DataLake 大全
 
Serverless services on_aws_dmm_meetup_20170801
Serverless services on_aws_dmm_meetup_20170801Serverless services on_aws_dmm_meetup_20170801
Serverless services on_aws_dmm_meetup_20170801
 
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
 
20200617 AWS Black Belt Online Seminar Amazon Athena
20200617 AWS Black Belt Online Seminar Amazon Athena20200617 AWS Black Belt Online Seminar Amazon Athena
20200617 AWS Black Belt Online Seminar Amazon Athena
 

More from 淳 千葉

ECSの大型アップデートが来たよ!
ECSの大型アップデートが来たよ!ECSの大型アップデートが来たよ!
ECSの大型アップデートが来たよ!
淳 千葉
 
CloudWatch Eventを使ったamiの削除
CloudWatch Eventを使ったamiの削除CloudWatch Eventを使ったamiの削除
CloudWatch Eventを使ったamiの削除
淳 千葉
 
CloudWatch Eventsを使った ECSのAutoScaling
CloudWatch Eventsを使ったECSのAutoScalingCloudWatch Eventsを使ったECSのAutoScaling
CloudWatch Eventsを使った ECSのAutoScaling
淳 千葉
 

More from 淳 千葉 (11)

devio2020_ユーザー体験向上するためにAWSサポートチームでやってる10のことの
devio2020_ユーザー体験向上するためにAWSサポートチームでやってる10のことのdevio2020_ユーザー体験向上するためにAWSサポートチームでやってる10のことの
devio2020_ユーザー体験向上するためにAWSサポートチームでやってる10のことの
 
Well-Architected フレームワーク概要
Well-Architected フレームワーク概要Well-Architected フレームワーク概要
Well-Architected フレームワーク概要
 
AWS Resource Access Manager(RAM)によるマルチアカウン戦略
AWS Resource Access Manager(RAM)によるマルチアカウン戦略AWS Resource Access Manager(RAM)によるマルチアカウン戦略
AWS Resource Access Manager(RAM)によるマルチアカウン戦略
 
Lambda EdgeとALB認証を導入した話
Lambda EdgeとALB認証を導入した話Lambda EdgeとALB認証を導入した話
Lambda EdgeとALB認証を導入した話
 
ECSの大型アップデートが来たよ!
ECSの大型アップデートが来たよ!ECSの大型アップデートが来たよ!
ECSの大型アップデートが来たよ!
 
CodeBuildを身近にするためのはじめの一歩
CodeBuildを身近にするためのはじめの一歩CodeBuildを身近にするためのはじめの一歩
CodeBuildを身近にするためのはじめの一歩
 
GitHubとクラスメソッド勉強会資料_DevOpsとAWS
GitHubとクラスメソッド勉強会資料_DevOpsとAWSGitHubとクラスメソッド勉強会資料_DevOpsとAWS
GitHubとクラスメソッド勉強会資料_DevOpsとAWS
 
Premier night3 devopsことはじめ
Premier night3 devopsことはじめPremier night3 devopsことはじめ
Premier night3 devopsことはじめ
 
CloudWatch Eventを使ったamiの削除
CloudWatch Eventを使ったamiの削除CloudWatch Eventを使ったamiの削除
CloudWatch Eventを使ったamiの削除
 
CloudWatch Eventsを使った ECSのAutoScaling
CloudWatch Eventsを使ったECSのAutoScalingCloudWatch Eventsを使ったECSのAutoScaling
CloudWatch Eventsを使った ECSのAutoScaling
 
短期間で大規模なシンクラ環境を用意した話
短期間で大規模なシンクラ環境を用意した話短期間で大規模なシンクラ環境を用意した話
短期間で大規模なシンクラ環境を用意した話
 

re:Growth athena

Editor's Notes

  1. * パワハラならぬプロハラ、キラカード扱いです