システムのモダナイズ 落ちても良いアプリの作り方
•
4 j'aime•2,134 vues
昔からシステムは常に問題なく使えて当然のように思われてきました。しかし現実には、現在に至るまでアプリケーションが落ちることが想定されていないシステムも少なくありません。 ステートレスなアプリケーションの場合、落ちることが想定されているシステムでは、アプリケーションを複数個並べることでそのうちのいくつかが落ちてしまっても、アプリケーション利用者には影響が無いように作られています。一方でHTTPセッションというステートフルな情報を持つアプリケーションはどうでしょうか？ 本セッションでは、ステートフルなアプリケーションにおいて、落ちても問題ないアーキテクチャとはどのようなものになるのかを紹介します。
Recommandé
Contenu connexe
Tendances
Tendances (20)
Similaire à システムのモダナイズ 落ちても良いアプリの作り方
Similaire à システムのモダナイズ 落ちても良いアプリの作り方 (20)
Plus de Chihiro Ito
Plus de Chihiro Ito (13)
Dernier
Dernier (11)
システムのモダナイズ 落ちても良いアプリの作り方
- 2. CONFIDENTIAL Designator Source: Insert source data here Insert source data here Insert source data here OPTIONAL SECTION MARKER OR TITLE 伊藤ちひろ (Chihiro Ito) OpenJDK Committer Middleware Solution Architect Twitter : @chiroito 自己紹介
- 3. CONFIDENTIAL Designator 対象者 ● ITアーキテクトになりたい人 ● システムで何を考えないといけないのか興味のある方 ● ミッションクリティカルで使われる技術に興味のある方
- 4. CONFIDENTIAL Designator 人々が望むアーキテクチャの1つとは ビジネス要望 IT ずっと安定して稼働して欲しい もちろんコスト効率も考えてね 時代はクラウドとコンテナ。 要望はAuto Scaleでいけるだろ
- 9. CONFIDENTIAL Designator ステートとは何か ● 処理を跨いで保つ状態 ○ ショッピングカート情報 ○ プロセスの途中の情報 ● 入力とステートで出力が変化 ○ 購入処理 ○ 配送処理 ステート 入力 出力
- 11. CONFIDENTIAL Designator なぜHTTPセッションを使うのか ● すぐに使う情報なのでデータストアに入れるまでもない ● Java EE などのフレームワークに統合されている ○ 変な実装されるリスクが減る ○ 低いレイヤのテストも減る ● 開発者は意識することなく透過的にセッション情報を使える ○ Java EE : HttpSession、@SessionScoped ○ Spring : @SessionScope
- 12. CONFIDENTIAL Designator HTTPセッションに何を入れても良いのか？ ● 入れて良いのは 2 つ ○ Java のプリミティブ型 ○ Serializable を実装したクラスやフィールド ● 良くあるミス：Connection や Thread を入れる。 ○ これらは Serializable ではない。 ○ アプリが1つの場合は実装上参照が使われるので、たまたま動く ○ アプリが複数でも同一のアプリに毎回接続してれば、同上 ○ アプリを跨がった瞬間に確実にシリアライズされて動かない。
- 13. CONFIDENTIAL Designator サンプルソース Java EESpring Boot @SessionScope @Component public class Counter implements Serializable { } @RestController @RequestMapping("/session") public class CountEndpoint { private final Counter counter; public CountEndpoint(Counter counter) { this.counter = counter; } } @SessionScoped public class Counter implements Serializable { } @Path("/session") public class CountEndpoint { @Inject private Counter counter; }
- 15. CONFIDENTIAL Designator アプリがステートを持つメリデメ 速い 停止すると消える 増加で性能が劣化 メモリ上に持つので 読み書きが非常に高速 ステート数が増えると ヒープを逼迫して GC に よる停止時間が増えて レスポンスが遅延する 障害だけではなく運用 でアプリを停止しても 消える。
- 16. CONFIDENTIAL Designator ファイルやDBがステートを持つメリデメ 耐障害性が高い ネットワーク ディスクアクセス アプリが停止しても ステートが消えない。 永続化されている。 運が良いとバッファから 読込めることもある。 書き込みはコミットで ディスクに書くため非常 に遅い。 ネットワークを経由し てアプリからステート へアクセスするため、 遅い。
- 18. CONFIDENTIAL Designator 可用性と性能を改善する 3 つの技術 スティッキー セッション ステート cache cache ニアキャッシュ ステート セッション外部化
- 21. CONFIDENTIAL Designator L/Bを設定して初回のアクセス 最初は任意のアプリへアクセスして良い L/B がアクセス先を振り分ける ● アプリの負荷を見て振り分け ● 単純なラウンドロビン L/B は振り分け先を記録 ユーザA ステート ユーザA
- 22. CONFIDENTIAL Designator 以降のアクセスは最初と同じ場所へ 以降、L/Bは必ず最初と同じアプリへ行くよう に振り分ける この機能は以下の様に呼ばれる（たぶん同一 ● セッションパーシステンス ● セッションスティッキー ● セッションアフィニティ ユーザA ステート ユーザA
- 23. CONFIDENTIAL Designator しかし、アプリが落ちると･･･ アプリが落ちるとセッションが消える メンテナンスで落としても同様 ユーザは別のアプリで最初からやり直し。 つまり、Auto Scaling ができない state ユーザA
- 30. CONFIDENTIAL Designator セッションを使てもアプリをAuto Scaleしたい ちゃんとやればできます！ このサイト いつも速い 入力できた！ Scale in 負荷の 分散 別アプリが 引き継ぐ
- 31. CONFIDENTIAL Designator デモ 構成： アプリ：Java EE (JAX-RSとCDI) セッションストア Appendix に記載の情報を参考に アプリを止めたりしてみてください。 ステート cachecache ステート
- 34. CONFIDENTIAL Designator デモの参考資料 サンプルソース ● https://github.com/chiroito/wildfly-session-sample ● https://github.com/chiroito/spring-session-sample ブログ ● https://b.chiroito.dev/entry/2020/05/19/182435 ● https://b.chiroito.dev/entry/2020/05/22/182451
- 36. CONFIDENTIAL Designator Java EEのサンプルソース CountServlet.javaCounter.java import javax.enterprise.context.SessionScoped; import java.io.Serializable; @SessionScoped public class Counter implements Serializable { private static final long serialVersionUID = 1L; private int value; public int getValue() { return value; } public void countUp() { this.value++; } } @WebServlet("/count") public class CountServlet extends HttpServlet { @Inject Counter counter; @Override protected void doGet(HttpServletRequest req, HttpServletResponse res) throws ServletException { counter.countUp(); res.setContentType("text/html"); try(PrintWriter writer = res.getWriter()) { writer.println("<html><body>"); writer.println("<h1> counter=" + counter.getValue() + "</h1>"); writer.println("</body></html>"); }catch(IOException e){ throw new ServletException(e); } } }
- 37. CONFIDENTIAL Designator Java EEのサンプルソース CountEndpoint.javaMyApplication.java import javax.ws.rs.ApplicationPath; import javax.ws.rs.core.Application; @ApplicationPath("/rest") public class MyApplication extends Application { } import javax.inject.Inject; import javax.ws.rs.GET; import javax.ws.rs.Path; @Path("/session") public class CountEndpoint { @Inject private Counter counter; @GET @Path("count") public String getClichedMessage() { counter.countUp(); return "counter=" + counter.getValue(); } }
- 38. CONFIDENTIAL Designator Java EEのサンプルソース jboss-web.xmlweb.xml <?xml version="1.0" encoding="UTF-8"?> <web-app xmlns="http://xmlns.jcp.org/xml/ns/javaee" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://xmlns.jcp.org/xml/ns/javaee http://xmlns.jcp.org/xml/ns/javaee/web-app_4_0.xsd" version="4.0"> <distributable/> </web-app> <?xml version="1.0" encoding="UTF-8"?> <jboss-web xmlns="http://www.jboss.com/xml/ns/javaee" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://www.jboss.com/xml/ns/javaee http://www.jboss.org/j2ee/schema/jboss-web_19_0.xsd" version="10.0"> <replication-config> <cache-name>web.baz</cache-name> </replication-config> </jboss-web>
- 39. CONFIDENTIAL Designator Wildflyの環境設定 HAモードのWildflyがInfinispanへセッションを格納するように設定 Wildfly の解凍先で以下のように jboss-cli を実行 binjboss-cli.bat connect batch /socket-binding-group=standard-sockets/remote-destination-outbound-socket-binding=infinispan-server1:add(host=127.0.0.1, port=11222) /socket-binding-group=standard-sockets/remote-destination-outbound-socket-binding=infinispan-server2:add(host=127.0.0.1, port=11322) run-batch batch /subsystem=infinispan/remote-cache-container=foo:add(default-remote-cluster=bar) /subsystem=infinispan/remote-cache-container=foo/remote-cluster=bar:add(socket-bindings=[infinispan-server1, infinispan-server2]) run-batch batch /subsystem=infinispan/cache-container=web/invalidation-cache=baz:add() /subsystem=infinispan/cache-container=web/invalidation-cache=baz/component=transaction:add(mode=BATCH) /subsystem=infinispan/cache-container=web/invalidation-cache=baz/component=locking:add(isolation=REPEATABLE_READ) /subsystem=infinispan/cache-container=web/invalidation-cache=baz/store=hotrod:add(remote-cache-container=foo, fetch-state=false, purge=false, passivation=false, shared=true) run-batch
- 40. CONFIDENTIAL Designator Java EEの実行方法 Infinispanの9.4.18をダウンロード 本番を想定し冗長性を高めるため2つの環境分を解凍 1つ目の環境で起動 2つ目の環境で起動（試すだけなら1つでもOK） Wildfly を起動 binstandalone.bat -c clustered.xml -Djboss.node.name=nodeA binstandalone.bat -c clustered.xml -Djboss.node.name=nodeB -Djboss.socket.binding.port-offset=100 binstandalone.bat -c standalone-ha.xml
- 42. CONFIDENTIAL Designator SpringBootのサンプルソース CountEndpoint.javaCounter.java import org.springframework.stereotype.Component; import org.springframework.web.context.annotation.SessionScope; import java.io.Serializable; @SessionScope @Component public class Counter implements Serializable { private static final long serialVersionUID = 1L; private int value; public int getValue() { return value; } public void countUp(){ this.value++; } } import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; @RestController @RequestMapping("/session") public class CountEndpoint { private final Counter counter; public CountEndpoint(Counter counter) { this.counter = counter; } @GetMapping("/count") public String count(){ counter.countUp(); return "counter=" + counter.getValue(); } }
- 43. CONFIDENTIAL Designator SpringBootのサンプルソース InfinispanSessionApplication.java import org.infinispan.spring.remote.session.configuration.EnableInfinispanRemo teHttpSession; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cache.annotation.EnableCaching; @EnableCaching @EnableInfinispanRemoteHttpSession @SpringBootApplication public class InfinispanSessionApplication { public static void main(String[] args) { SpringApplication.run(InfinispanSessionApplication.class, args); } }
- 45. CONFIDENTIAL Designator SpringBootの実行方法 Infinispanの最新の10系をダウンロード 本番を想定し冗長性を高めるため2つの環境分を解凍 1つ目の環境で起動 2つ目の環境で起動（試すだけなら1つでもOK） ステートを入れるキャッシュを作成（設定に指定して作成でも可） アプリを実行 binserver.bat -Dinfinispan.node.name=nodeA binserver.bat -Dinfinispan.node.name=nodeB -Dinfinispan.socket.binding.port-offset=100 bincli.bat connect 127.0.0.1:11222 create cache --template=org.infinispan.DIST_SYNC mycache mvn clean spring-boot:run