メルマガシステム失敗談 #perlbeginners
•
3 j'aime•4,407 vues
2013/05/24に行われたPerlBeginners#8でトークした「メルマガシステム失敗談」のスライドです。当社が失敗したわけじゃないですよ、外注の失敗談です。当時の数々の縛りプレイの中、それを見事に復旧させた当時の当社のPerl Hacker達の凄まじい技術のお話です。
Recommandé
Contenu connexe
En vedette
En vedette (19)
Similaire à メルマガシステム失敗談 #perlbeginners
Similaire à メルマガシステム失敗談 #perlbeginners (20)
Plus de 鉄次 尾形
Plus de 鉄次 尾形 (20)
Dernier
Dernier (10)
メルマガシステム失敗談 #perlbeginners
- 1. メルマガシステム 失敗談 尾形 鉄次 (OGATA Tetsuji) Twitter: @xtetsuji 2013/5/24 PerlBeginners#8
- 2. 自己紹介 • 尾形 鉄次 (OGATA Tetsuji) • Twitter: @xtetsuji • Blog: http://post.tetsuji.jp/ • 専門領域：Apache mod_perl • よく行く：Hokkaido.pm、Hachioji.pm
- 3. 所属紹介 • 株式会社fonfun(フォンファン) http://www.fonfun.co.jp/ • リモートメール http://rmail.jp/ • 中心事業として、ウェブメールをやっている 会社から来ました（質問歓迎です！） • 開発設計や新規技術の研究が私の主な仕事
- 4. 遍歴 • 2000年頃：i-mode向け統合ウェブメール サービス「リモートメール」(リモメ)を 始める(当時としては先進的) • →サーバ1台 + Perl4? CGI • 2003年：私が入社→システムを第4世代 に作り替えている最中だった
- 5. 遍歴 • 2005年頃から会社規模が大きくなり、 リモメのようなケータイキャリア課金 代行サービスによるBtoC以外に、受託 事業もやりはじめる • 子会社や他の外注にシステム発注 • そのアドバイザー役で多忙に
- 6. 外注を使う • 企画「受託でメルマガシステム作る事 になったから外注に発注する」 • 外注「はい作ります」 • 横で眺めているだけの簡単な(?)お仕事 • …のはずだった
- 7. 炎上
- 8. 炎上 • 多重配信。配信無限ループ。連日徹夜 • 当時でこそ、メルマガシステム開発経験 のある外注なんて、ほとんどいない • なぜか尻拭いはこちら側になる • 若いから何とか乗り切れたようなもの
- 9. 何がダメだったのか
- 10. 何がダメだったのか • 参考情報：孫請けの開発言語はPHP • PHPという言語に罪はないけど、正直 PHPの外注は慎重に選んだほうがいい • MySQLにある配信メルマガテーブル • そして秘技、毎分cron
- 11. CREATE TABLE メルマガ ( id INT NOT NULL AUTO INCREMENT, 配信日時 DATETIME, 配信完了フラグ INTEGER, メルマガ本文 TEXT, PRIMARY KEY id ); メルマガ配信テーブル • そのままは公開できないけど、概要と してはこんな感じだった
- 12. メルマガ配信テーブル • 管理画面も提供されていて、納品先の お客様が配信日時指定をしたメルマガ をセットできる • その内容は配信テーブルにINSERT • 配信先ユーザはユーザテーブルで管理
- 13. 毎分cron • 5つのアスタリスクのcron • * * * * * www-data php /path/to/mailmag.php • 配信テーブルを毎分監視して、未配信 メルマガがあったら配信処理開始 • これが意外にヤバイ→なぜでしょう？
- 14. 毎分cronの罠 • 一つのプロセスが1分以内に終わらない と次のプロセスが起き上がる • 何らかの排他処理をしないとヤバイ • 多重処理が発生→システムが重くなる →さらに多重処理が発生→無限ループ
- 18. Perl Hacker招集 • ここでようやくPerl登場 • 社内の精鋭が集められて設計会議 • 早朝に集まって再設計素案作成
- 19. 環境の縛りプレイ • 特に製品納品型の受託の場合、 「CentOSにあるRPMしか…」とか多い • PerlもPerl5.8コア+αモジュール縛り • 迫り来る時間で他のモジュールのRPM 化とか、できる余裕すらなかった
- 20. 再設計計画DB編 • 既存のMySQLのテーブルの設計変更は しない→闇仕様の中、危険すぎる • 配信フラグINTだった→これを利用して 配信途中の様々な状況を詳細に記録 • 新たなテーブルで既存のテーブルを参照 して、それの不備を補正する
- 21. 再設計計画Perl編 • 既存のPHPの配信プログラム完全廃棄 • ヤバいコードが色々書かれていた… • Perl5.8縛り • Net::SMTPの登場(Perl5.7で既にコア) • DBD::mysqlはあった！助かった！
- 22. Net::SMTP • SMTPをクラス化したPerlモジュール • 生のSMTPに近くて分かりづらい→その 分、高速化や細かい処理ができる • メール(MIME構造)構築や、デコりたい とかは Email::* などを探すとよいかも
- 23. もっと簡単に • メール送信だけなら、最近だと Email::Senderがいいらしい • 最近MooseからMooに依存が変わって、 使う心理的障壁が低くなった • Net::SMTPと見比べてみるといいかも
- 24. 再設計計画cron編 • 縛りプレイ、当時の情勢等により、 JobQueueやイベント駆動などは使えず • 毎分cronをそのまま使う • その分、前述の配信フラグの強化で、 排他処理を完璧に行う
- 25. 再設計計画cron編 • psのコマンド出力を見て排他処理 • 1分前に起動された「同じプログラム」 がまだいるかも詳細にチェックする for (`ps auxwww`) { chomp; my @row = split /s+/, $_; my ($pid, $name) = @row[1,10]; if ( $pid != $$ && $name eq $0 ) { # pidが違う自分自身と同じ名前のやつがいる！ exit; } }
- 26. 努力の甲斐あって • これらの補修で「Perl版新メルマガ配信 プログラム」が完成した • 先方に訪問、新設計のプレゼン • その後、見事配信しきった
- 29. その後 • 自社開発のECサイトでメルマガ開発を するときにこの仕組みを入れた→成功 • エラーメールの戻りを処理するのを Postfix pipeでやったらForkコストが無視 できなかった→今ならQpsmtpdなど • このあたりのPostfix話は別の場所で…
- 31. ここ最近 • 受託が下火に、柱事業に力を入れると いう方向になってくれた • メーリングリストシステムを開発した • http://rmail.jp/service/s_groupmail.html グループメール • これの中の実装はApache2+mod_perl2
- 32. 詳細 • 詳細は拙作の「mod_perl温故知新 ∼ Perl CGIの高速化からメールサーバま で∼」が詳しいです • http://www.slideshare.net/xtetsuji/mod- perl-hokkaidopm5 • 縛りが無ければQpsmtpd使うのが良い
- 33. 現在 • 最近有料メルマガブームだし、競合も それほど少ないからメルマガシステム またいいかもなぁ、とか考えている • 高速配信が課題→目標高く100万通/1分 • 設計案は何となく頭の中にある
- 34. 続きは懇親会で • 気軽にご質問ください • 懇親会にも出ます • メールサーバ勉強会があればPostfix側を もっと詳細にしゃべりたい • Perl製のQpsmtpdの話もどこかでしたい
- 35. ご清聴 ありがとうございました