AWS・MySQLの負荷対策～日本最大級クラウドソーシングサービス「ランサーズ」を支えるインフラ～

仕事マーケットプレイスサービス
http://www.lancers.jp/

AWS・MySQLの負荷対策
～日本最大級クラウドソーシングサービス
「ランサーズ」を支えるインフラ～

ランサーズ株式会社
システム開発部
木下慶
[20130121 ヒカ☆ラボ@レバレジーズ本社]

自己紹介(基本情報)
名前
木下慶(きのしたけい)
海外クラウドソーシングブログ : http://www.crowdinfo.jp/

社内での役割
• サービス企画
新機能の検討、既存機能の改善、アクセス解析、・・・
• アプリケーション開発
新規・改修機能の設計、実装、試験
• インフラ
サーバ運用、データベース運用・チューニング
• 広報、採用

好きなこと
Web、旅、本
2
〒248-0006 神奈川県鎌倉市小町2-7-32 小町協同ビル 3F 【お問い合わせ】http://www.lancers.jp/help/support 【メール】support@lancers.jp

自己紹介(略歴、ランサーズ入社まで)

学生時代
• 中学校の授業でHP制作 → ITにハマる
• 高専に進学し情報工学の基礎を学ぶ
• 画像処理にハマり、パターン認識を研究

SE時代
• JavaベースのWebアプリケーション開発
• 中国オフショア
• インド研修
世界が1つに、フラットになっている実感

ランサーズ
• 新しい働き方の創出

3

本日お話させて頂く内容

ランサーズ
AWS
MySQL 採用募集
4


ランサーズ
AWS
MySQL
5

会社紹介(概要)

社名

設立
2008年4月1日

事業内容
クラウドソーシングサービス「Lancers」の運営

ビジョン
時間と場所に囚われない新しい働き方の創出

6

会社紹介(所在地)

神奈川県鎌倉市「小町通り」
• 川崎から移転。当初は、渋谷を考えた
• 場所に囚われずに会社をやりたい。
• 年間2000万人がいきかう観光地。
• 鎌倉をシリコンバレーに。「カマコンバレー」

7

会社紹介(所在地)
「カマコン」って何だ!?という逆風の中
日経新聞に2度掲載
神奈川県鎌倉市「小町通り」
• 川崎から移転。当初は、渋谷を考えた
• 場所に囚われずに会社をやりたい。
• 年間2000万人がいきかう観光地。
• 鎌倉をシリコンバレーに。「カマコンバレー」

8

サービス紹介「Lancers」

日本初＋国内最大級の
オンライン完結型アウトソーシングサービス
依頼数
10万件
依頼総額
55億円
会員数
11万人
発注業務
• デザインやシステム開発
• アイデアや企画
• データ入力や記事作成
9

ランサーズの仕組み

会員登録による会員登録による
利用規約締結利用規約締結

依頼（案件の掲載）

クライアントランサー
提案・納品

10

メディア掲載事例

ワールドビジネスサテライト2012/9/25
日刊工業新聞 2012/8/27
日本経済新聞 2012/9/8
日経流通新聞 2012/9/12
日本経済新聞 2012/9/24
日本経済新聞 2012/8/22
日経コンピュータ 2012/8/30
週間ダイアモンド 2012/5/12

〒248-0006 神奈川県鎌倉市小町2-7-32 小町協同ビル 3F 【お問い合わせ】http://www.lancers.jp/help/support 【メール】support@lancers.jp 11

ランサーズの会員数

会員数

11万人

11万人といえば

【サッカーロンドン五輪】
ウェンブリー競技場
日本VSメキシコ戦
９万人収容可

13

11万人といえば

マイクロソフト社の全世界の社員数


最近の動向1 ランサーズマガジン

フリーランスのポータルメディアをリリース(1/16)

• ランサー事例
• クライアント事例
• フリーランス向け
How To
• お知らせ
• イベント情報


最近の動向2 テレワーク大賞受賞

最上位の「会長賞」を受賞 (1/17)
日本テレワーク協会
総務省・経済産業省・厚生労働
省・国土交通省の4省が所轄す
る公益法人

会長賞
過去にアクセンチュア、マイク
ロソフト等が受賞している権威
ある賞


最近の動向3 リアルイベントの開催

ユーザと繋がるリアルなイベントを連続開催(予定)
カマコンバレー勉強会
他の鎌倉IT企業と連携して、エンジニア
・デザイナーを中心とした勉強会やハッ
カソンを開催します。

鎌倉IT勉強会

全国行脚ランサーズアワード
ランサーズメンバーが、全国をランサーズ4周年を記念して、
講演して回ります。ユーザ感謝祭を開催します。



ランサーズ
AWS
MySQL
18

ランサーズを支える技術

Web & DB Batch Monitor
App

19

AWSの活用

事例ページに掲載して頂きました

https://aws.amazon.com/jp/solutions/case-studies/lancers/

20

AWSの基礎知識(概要)

Amazon Web Service
Amazon.comにより提供される各種遠隔コンピューティ
ングサービス（ウェブサービス）である。
(出典：Wikipedia)

21

AWSの基礎知識(概要)

Amazon Web Service
Amazon.comにより提供される各種遠隔コンピューティ
ングサービス（ウェブサービス）である。
(出典：Wikipedia)

本日のお話の対象
22

AWSの基礎知識(用語)

 EC2 : Amazon Elastic Compute Cloud
• クラウドコンピューティング環境
• 従量課金
 ELB : Elastic Load Balancing
• ロードバランシング
• 死活監視
 AMI : Amazon Machine Image
• ディスクイメージ
 VPC : Virtual Private Cloud
• 仮想的に設けられたプライベートな領域
 S3 : Amazon Simple Storage Service
• ストレージサービス
23

EC2の管理

EC2の操作方法として、2種類の方法がある
Amazon Management Console
ウェブベースの操作インタフェース(後述)

EC2 API Tools
• APIで操作するためのコマンドラインツール
→プログラマブルなインフラたる所以
# インスタンス起動コマンド
$ ec2-run-instances ami-xxxxxxx -g hoge -k fuga -n 1 -t t1.micro

• Management Consoleは裏でAPIを実行

これまでAPI Toolsでしかできなかった操作
→Management Consoleで実現できるように
24

EC2の管理 - Management Console

ホーム画面

25


インスタンス管理画面

できること
• インスタンス作成
• インスタンス起動
• AMI作成
• モニタリング
• ・・・

26


ELB管理画面

できること
• ELB作成
• インスタンスの追加
• ヘルスチェック設定
• セキュリティ設定

27

EC2の利点

スケーラビリティ
• スケールアウト、スケールアップが容易

スピード
• 使用開始までの待機時間≒インスタンス起動時間
• Management Consoleからの簡単操作

コスト
• クラウドサービスの中では低価格
• 従量課金なので納得感
• 未使用時に開発環境を落としておけば維持費0円

安全性
• 第三者認証・認定
• 物理的セキュリティ
28

EC2の利点具体例1 リリース作業
インターネットから切り離されたインスタンスにのみ先
にリリースし動作確認がとれてからインターネット公開

社
内
除外したインスタンスにリ動作確認後ELB配下に
リース資材を開放戻し、他のインスタンス
社内からのみアクセス可にもリリース

29

EC2の利点具体例2 AMI共有
サーバ追加時に、試験環境で構築したサーバをそのまま
本番に移行
手順2
本番環境のアカウ
ントに対してAMIを
共有

試験環境本番環境

手順１手順3
試験環境でサー共有AMIからイン
バ構築スタンスを作成

30

スケーラビリティが生きた事例
2012年9月25日 WBS特集
■ランサー：埼玉の主婦の方 ■依頼主：上松屋旅館

31

事前に行ったこと

1. アクセス予測
2. コンテンツ軽量化
• トップページ静的化
• モバイルトップページの設置
• キャッシュ化
3. 仮想サーバ増設
4. 負荷テスト
5. ELBスケールアップ

32

事前に行ったことアクセス予測

(株)Cerevoさんがどんぴしゃのブログを書いていた

• 最大1,000req/sec

• モバイルが多い

• トップページに集中

引用元：http://tech-blog.cerevo.com/archives/283/

33

事前に行ったことコンテンツ軽量化

コンテンツ階層に応じた軽量化を実施

2階層目 3階層目
トップ CakePHP 動的ページ
静的HTML キャッシュ DBアクセス

多アクセス少
早レスポンス遅

34

事前に行ったことコンテンツ軽量化

モバイル用ページ作成

35

事前に行ったこと仮想サーバ増設

Appサーバ
3→20に増設

DBスレーブ
2→10に増設

36

事前に行ったこと負荷テスト

SUZ-LABさん作成のJMeter AMIを使用
Java環境、JMeterが予め設定済み
設定&実行
JMeter
Client 1
JMeter 同 JMeter
検証環境期 Server
Client 2
JMeter
Client 3
参考：SUZ-LAB AMIで負荷テスト
http://blog.cloudpack.jp/2011/07/aws-news-suz-lab-ami-load-test.html

37

事前に行ったこと ELBスケールアップ

負荷テストの結果・・・
目標値前でスループットが頭打ちになった

問い合わせたところ・・・
ELBが5分間のトラフィック量を測定してオート
スケールを判断する仕組みとのこと

解決策
Pre-warming
有料のサポートプランに加入すると、事前にスケー
ルアップした状態のELBの手配が可能
38

WBS砲の結果と教訓

結果
• 落ちなかった
• 大幅なアクセス遅延もなかった
• アクセス数・会員登録数が急増した

教訓
• AWSの営業の方とは仲良く
• 社内からの負荷テストは注意(ネット不通・・・)
• インスタンスの立ち上げすぎに注意(請求が・・・)

39

AWSのまとめ

• 定期的に最新情報をチェック
• Amazon Web Services ブログ

• 営業の方が色々と教えてくれる
• リリース情報
• イベント情報

• パフォーマンス向上や料金値下げが継続中
• 例)CPU性能を向上させた次世代インスタンスタ
イプ提供開始(2012/11 米国)
→既存インスタンスタイプの値下げ
40


ランサーズ
AWS
MySQL
41

内容

•ランサーズで行ってきたチューニング
• レプリケーション
• インデックスの見直し
• RDS→EC2

•チューニング時に使用したツール
• Maatkit
• Jet Profiler

42

チューニング1 レプリケーション

スレーブ用インスタンスを2つ追加、参照系のクエ
リを割り振る

アプリケーションにスレーブ前にELBを配備
振り分け先をベタ書きアプリケーションからはELB
をスレーブに指定
43

チューニング2 インデックスの見直し

手順
•スローログ分析
• 対象
• 実行に時間がかかっているクエリ
• インデックスが効いていないクエリ
mysql> set global log_queries_not_using_indexes = 1;

• Maatkitを利用して分析(後述)
•クエリの解析
• Explain※
•インデックスの設定
※ 漢のコンピュータ道「MySQLのEXPLAINを徹底解説!!」が参考になる
http://nippondanji.blogspot.jp/2009/03/mysqlexplain.html
44

チューニング2 インデックスの見直し

注意していること
•インデックスサイズの確認
mysql> show table status from db_name like “table_name"¥G

•CakePHPが出力するクエリの解析
•アプリケーション開発プロセスにExplainでのク
エリ確認を組み込んでいる
→良くないクエリの場合は記述を変更
→プログラマもパフォーマンスを意識するように

45

チューニング3 RDS→EC2(1/2)

RDS：Relational Database Service
クラウド上でリレーショナルデータベースを簡単にセ
ットアップ、運用、拡張することのできるウェブサー
ビス(公式HPより引用)

RDSの利点
•すぐに利用できる
• MySQLのインストール不要
•簡単にバックアップが取得できる
•自動でフェイルオーバーが可能

46

チューニング3 RDS→EC2(2/2)

RDSの問題点
•バイナリログが参照できない
•スローログ、クエリーログがテーブルに格納される
•フェイルオーバー時にAZ(物理的な場所)が変わって
しまう
• 同一AZ内よりも遅い
• 通信料が発生する
•料金が高い

手軽にMySQLを利用できるが、細かな管理ができない
結論：EC2インスタンス上にMySQLをインストール
47

使用したツール Maatkit

Maatkit
•MySQL管理用のツール群(※)
• コマンドラインベースの34ツール
•開発者「実践ハイパフォーマンスMySQL」の著者
•Perlで記述されている
•大手企業でも導入されている

•現在はPercona Toolkitに組み込まれ、単体での開発
は停止
※Postgre SQLにも対応

48


mk-query-digest
•クエリ解析ツール
•slowlogをインプットに解析結果を出力
• サマリ
• プロファイル
• 各クエリ詳細

•tcpdumpやmemcachedへの操作も解析可能
→slowlogの出力設定していなくても解析可

49


mk-query-digest：サマリ
スローログに含まれるクエリ情報のサマリ情報

50


mk-query-digest：プロファイル

• Query ID : 一意のクエリID • Calls：実行回数
• Response：処理時間の合計 • R/Call：平均処理時間(Response/Calls)
• Time：全クエリに占める処理時間の割合 • Adpx：クエリの評価（1に近いほうがいい）
• Item:簡略化されたクエリ
51


mk-query-digest：クエリ詳細

クエリの具体例をExplainで分析
52

使用したツール Jet Profiler

Jet Profiler
•MySQL向けのクエリアナライザ
•リアルタイムな解析とグラフによる可視化
•開発元：Polaricon(スウェーデン)

利点
•導入のしやすさ
• 通常のWindowsアプリケーション
•提供情報の豊富さ・分かりやすさ
• クエリの内容や実行回数、Innodb cache・・・

53


事例ページに掲載していただきました

54


DBに接続・情報収集

55


クエリを解析

56


クエリを解析

57


表示モード切り替え

58


2012年12月日本語版をリリース

CEO Bjorn氏

ランサーズを活用して翻訳！
59

まとめ

ランサーズ成長中
AWSは便利
MySQLのツールを活用

60

エンジニア・インターン積極採用中
• 働き方を変えたい方
• 鎌倉で自然を満喫しながら伸び伸び開発をしたい方
• 最新の技術が好きな方
• 何でもやりたい方
• 世界に打って出たい方

お気軽にご連絡下さい！
jinji@lancers.co.jp
61

ご清聴ありがとうございました。

62

AWS・MySQLの負荷対策～日本最大級クラウドソーシングサービス「ランサーズ」を支えるインフラ～

Recommandé

Recommandé

Contenu connexe

Similaire à AWS・MySQLの負荷対策～日本最大級クラウドソーシングサービス「ランサーズ」を支えるインフラ～

Similaire à AWS・MySQLの負荷対策～日本最大級クラウドソーシングサービス「ランサーズ」を支えるインフラ～ (20)

Dernier

Dernier (9)