JJUGナイトセミナー2014年9月のセッション 「そんなリザルトキャッシュで大丈夫か？」 のスライドです。

1. そんなリザルトキャッシュ
で大丈夫か？
@making 槙 俊明
2014-09-17

2. ここでいうリザルトキャッシュ
とは
•重い処理の結果を格納するメモ
リ(キャッシュ)
•リザルトキャッシュを再利用す
ることで性能向上が期待できる

3. あなたのリザルトキャッシュ
•スレッドセーフですか？
•スケーラブルですか？

5. 5-6 「効率的でスケーラブ
ルなリザルトキャッシュを
構築する」
の内容をご紹介します

6. たまにみる実装

7. たまにみる実装
static Map<BigInteger, List<BigInteger>> cache
= new HashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解
cache.put(n, result);
}
// …
}

8. たまにみる実装
static Map<BigInteger, List<BigInteger>> cache
= new HashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解
cache.put(n, result);
}
// …
}

9. たまにみる実装
static Map<BigInteger, List<BigInteger>> cache
= new HashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解
cache.put(n, result);
}
// …
}
キャッシュになかったら
計算してキャッシュに追加

10. 

11. static Map<BigInteger, List<BigInteger>> cache
= new HashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解
cache.put(n, result);
}
// …
} スレッドアンセーフ

12. よく見る実装
static Map<BigInteger, List<BigInteger>> cache
= new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解(重い処理)
cache.put(n, result);
}
// …
}

13. よく見る実装
static Map<BigInteger, List<BigInteger>> cache
= new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
スレッドセーフなMapに変更
result = PrimeFactor.divide(n); // 素因数分解(重い処理)
cache.put(n, result);
}
// …
}

14. Demo

15. 

16. check
get calc put
check
get calc put

17. check
get calc put
check
get calc put

18. check
get calc put
check
get calc put
まだputされていない

19. static Map<BigInteger, List<BigInteger>> cache
= new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.get(n);
if (result == null) {
result = PrimeFactor.divide(n); // 素因数分解(重い処理)
cache.put(n, result);
}
// …
} Atomicじゃない

20. FutureTaskを使って遅延評価

21. FutureTaskを使って遅延評価
static Map<BigInteger, FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
result = new FutureTask<>(() -> PrimeFactor.divide(n)));
cache.put(n, result);
result.run();
}
// (略) result.get()で結果取得できるまでブロックする
}

22. FutureTaskを使って遅延評価
static Map<BigInteger, FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
result = new FutureTask<>(() -> PrimeFactor.divide(n)));
cache.put(n, result);
result.run();
Callableで処理を記述
}
// (略) result.get()で結果取得できるまでブロックする
}

23. FutureTaskを使って遅延評価
static Map<BigInteger, FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
result = new FutureTask<>(() -> PrimeFactor.divide(n)));
cache.put(n, result);
result.run();
Callableで処理を記述
}
// (略) result.get()で結果取得できるまでブロックする
}
キャッシュに入れてから処理実行

24. check
get put calc
check
get put

25. Demo

26. 

27. check
get put calc
check
get put
calc

28. check
get put calc
check
get put
calc

29. check
get put calc
check
get put
calc
新しいFutureTaskで上書きされた

30. check
get put calc
check
get put
calc
結局2回計算
新しいFutureTaskで上書きされた

31. FutureTaskを使って遅延評価
static Map<BigInteger, FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
result = new FutureTask<>(() -> PrimeFactor.divide(n)));
cache.put(n, result);
result.run();
}
// (略) result.get()で結果取得できるまでブロックする
} Atomicじゃない

32. ConcurrentMap#putIfAbsent

33. ConcurrentMap#putIfAbsent
static ConcurrentMap<BigInteger,
FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
FutureTask<List<BigInteger>> ft =
new FutureTask<>(() -> PrimeFactor.divide(n)));
result = cache.putIfAbsent(n, result);
if (result == null) {ft.run(); result = ft;}
}
// (略) result.get()で結果取得できるまでブロックする

34. ConcurrentMap#putIfAbsent
static ConcurrentMap<BigInteger,
FutureTask<List<BigInteger>>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
FutureTask<List<BigInteger>> result = cache.get(n);
if (result == null) {
FutureTask<List<BigInteger>> ft =
new FutureTask<>(() -> PrimeFactor.divide(n)));
result = cache.putIfAbsent(n, result);
if (result == null) {ft.run(); result = ft;}
}
// (略) result.get()で結果取得できるまでブロックする
キーが存在しない場合はnullを、
存在する場合はそれを返す

35. check
get pIA calc
check
get pIA
pIA … putIfAbsent

36. check
get pIA calc
check
get pIA
pIA … putIfAbsent
put済みなので上書きしない

37. Demo

38. 

39. でも面倒くさいね！


40. Java SE 8から

41. Java SE 8から
static ConcurrentHashMap<BigInteger, List<BigInteger>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.computeIfAbsent(n,
(x) -> PrimeFactor.divide(x));
// …
}

42. Java SE 8から
static ConcurrentHashMap<BigInteger, List<BigInteger>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.computeIfAbsent(n,
(x) -> PrimeFactor.divide(x));
// …
} キーが存在しない場合はラムダ式
の計算結果を返す

43. Java SE 8から
static ConcurrentHashMap<BigInteger, List<BigInteger>>
cache = new ConcurrentHashMap<>;
void doGet(…) {
BigInteger n = …;
List<BigInteger> result = cache.computeIfAbsent(n,
PrimeFactor::divide);
// …
}
メソッド参照でOK

44. Demo

45. Cool!


46. まとめ
•ConcurrentHashMap#putIfAbsent +
FutureTaskで効率的なリザルトキャッシュ
を実装できる 
•JDK8からは
ConcurrentHashMap#computeIfAbsent
でおk 

47. Java SE 8を使おう

48. ご清聴
ありがとうございました