Sergii Tsypanov "Performance 1001 Tips"

1. www.luxoft.com
ПРОИЗВОДИТЕЛЬНОСТЬ:
1001 МЕЛОЧЬ

2. www.luxoft.com
Пара слов обо мне
• работаю в «Люксофте»
• пишу на Java
• люблю разбираться с проблемами
производительности

3. www.luxoft.com
Что измеряли?
Исходный код: https://github.com/stsypanov/logeek-night-benchmark.git
Java 8: ветка master
Java 9: ветка master-java-9

4. www.luxoft.com
Разминка
T[] items = data.array;
Collection<T> coll = new HashSet<>();

5. www.luxoft.com
Разминка
T[] items = data.array;
Collection<T> coll = new HashSet<>();
coll.addAll(asList(items));

6. www.luxoft.com
java.util.AbstractCollection
public boolean addAll(Collection<? extends E> c) {
boolean modified = false;
for (E e : c)
if (add(e))
modified = true;
return modified;
}

7. www.luxoft.com
После вычитки
T[] items = data.array;
Collection<T> coll = new HashSet<>();
coll.addAll(asList(items));
T[] items = data.array;
Collection<T> coll = new HashSet<>();
Collections.addAll(coll, items);

8. www.luxoft.com
Ведь написано же
/**
* Adds all of the specified elements to the specified collection.
* Elements to be added may be specified individually or as an array.
* The behavior of this convenience method is identical to that of
* <tt>c.addAll(Arrays.asList(elements))</tt>, but this method is likely
* to run significantly faster under most implementations.
*/
public static <T> boolean addAll(Collection<? super T> c, T... elements) {
boolean result = false;
for (T element : elements)
result |= c.add(element);
return result;
}

9. www.luxoft.com
CollectionsAddAllVsAddAllBenchmark
@Benchmark
public boolean collectionsAddAll(Data data) {
Collection<Integer> collection = data.freshCollection();
Integer[] array = data.array;
return Collections.addAll(collection, array);
}
@Benchmark
public boolean addAll(Data data) {
Collection<Integer> collection = data.freshCollection();
List<Integer> arrayAsList = Arrays.asList(data.array);
return collection.addAll(arrayAsList);
}

10. www.luxoft.com
HashSet, нс/операцию
size Java 8
addAll 10 227,8 ± 6,2
collectionsAddAll 10 208,2 ± 3
addAll 100 2798,2 ± 61,7
collectionsAddAll 100 2150,4 ± 29,3
addAll 1000 26212,2 ± 410
collectionsAddAll 1000 20960,9 ± 396,5

11. www.luxoft.com
HashSet, нс/проход
size Java 8 Java 9
addAll 10 227,8 ± 6,2 170,4 ± 2,7
collectionsAddAll 10 208,2 ± 3 170,8 ± 2,7
addAll 100 2798,2 ± 61,7 2170,6 ± 29,9
collectionsAddAll 100 2150,4 ± 29,3 2179,3 ± 36,9
addAll 1000 26212,2 ± 410 20008,5 ± 310,9
collectionsAddAll 1000 20960,9 ± 396,5 19986,4 ± 274,4

12. www.luxoft.com
ArrayList, нс/проход
size Java 8 Java 9
addAll 10 57,9 ± 1,0 40,0 ± 0,8
collectionsAddAll 10 77,0 ± 1,1 53,4 ± 0,8
addAll 100 231,3 ± 4,4 220,8 ± 5,4
collectionsAddAll 100 723,0 ± 12,8 641,3 ± 8,2
addAll 1000 1883,0 ± 57,5 1708,3 ± 18,7
collectionsAddAll 1000 7371,5 ± 85,4 8033,2 ± 279,4

13. www.luxoft.com
ArrayList.addAll
@Override
public boolean addAll(Collection<? extends E> c) {
Object[] a = c.toArray();
int numNew = a.length;
ensureCapacityInternal(size + numNew); // Increments modCount
System.arraycopy(a, 0, elementData, size, numNew);
size += numNew;
return numNew != 0;
}

14. www.luxoft.com
CopyOnWriteArrayList, нс/проход
size Java 8 Java 9
addAll 10 80,1 ± 1,0 32,9 ± 0,4
collectionsAddAll 10 516,5 ± 16,2 192,7 ± 2,5
addAll 100 259,6 ± 3,3 111,3 ± 1,1
collectionsAddAll 100 7559,0 ± 109,2 5509,7 ± 59,3
addAll 1000 1958,4 ± 43,1 1008,7 ± 10,4
collectionsAddAll 1000 606132,5 ± 11235,1 505670,8 ± 5603,9

15. www.luxoft.com
СОВЕТ РАЗРАБОТЧИКУ
Нельзя слепо доверять
документации, даже очень простой
код может таить подводные камни.

16. www.luxoft.com
Повторение пройденного
for (Long id : ids) {
SomeEntity entity = repository.findOne(id);
use(entity);
}

17. www.luxoft.com
Повторение пройденного
List<SomeEntity> entities = repository.findAll(ids);
for (SomeEntity entity : entities) {
use(entity);
}
for (Long id : ids) {
SomeEntity entity = repository.findOne(id);
use(entity);
}

18. www.luxoft.com
И если раньше было так

19. www.luxoft.com
То теперь стало так

20. www.luxoft.com
Или даже так

21. www.luxoft.com
Считаем (ArrayList, нс)
size = 1000
992,8
225,9 115,1
11372,8
1915,8
1080,9745,5
201,8 100,6
9544,7
1636,5
968,1
0
2000
4000
6000
8000
10000
12000
1 by 1 addAll constr 1 by 1 addAll constr
Java 8
Java 9
size = 100

22. www.luxoft.com
Считаем (HashSet, нс)
size = 100 size = 1000
1629,2 1812,3 1266,4
15462,7 15540,1
12126,7
1731,5 1801,7 1296,8
15762,4 15958,6
12275,1
0
2000
4000
6000
8000
10000
12000
14000
16000
18000
1 by 1 addAll constr 1 by 1 addAll constr
Java 8
Java 9

23. www.luxoft.com
Почти одинаковый код
List<T> list = new ArrayList<>(collection);
List<T> list = new ArrayList<>();
list.addAll(collection);

24. www.luxoft.com
ArrayList.remove(index)
for (int i = from; i < to; i++) {
list.remove(from);
}

25. www.luxoft.com
public E remove(int index) {
Objects.checkIndex(index, size);
modCount++;
E oldValue = elementData(index);
int numMoved = size - index - 1;
if (numMoved > 0)
System.arraycopy(elementData, index + 1, elementData, index, numMoved);
elementData[--size] = null; // clear to let GC do its work
return oldValue;
}
ArrayList.remove(index)

26. www.luxoft.com
public E remove(int index) {
Objects.checkIndex(index, size);
modCount++;
E oldValue = elementData(index);
int numMoved = size - index - 1;
if (numMoved > 0)
System.arraycopy(elementData, index + 1, elementData, index, numMoved);
elementData[--size] = null; // clear to let GC do its work
return oldValue;
}
ArrayList.remove(index)

27. www.luxoft.com
ArrayList.subList().clear()
for (int i = from; i < to; i++) {
list.remove(from);
}
list.subList(from, to).clear();

28. www.luxoft.com
ArrayList.subList().clear()
public void clear() {
removeRange(0, size());
}
void removeRange(int from, int to) {
checkForComodification();
parent.removeRange(parentOffset + from, parentOffset + to);
this.modCount = parent.modCount;
this.size -= toIndex - fromIndex;
}

29. www.luxoft.com
for (int i = from; i < to; i++) {
E removed = list.remove(from);
use(removed)
}
Если удалённое значение
используется?

30. www.luxoft.com
//обратный проход
for (int i = to - 1; i >= from; i--) {
E removed = list.remove(i);
use(removed)
}
//прямой проход
for (int i = from; i < to; i++) {
E removed = list.remove(from);
use(removed)
}
ArrayList.remove(i): обратный проход

31. www.luxoft.com
for (int i = from; i < to; i++) // прямой проход
list.remove(from);
for (int i = to - 1; i >= from; i--) // обратный проход
list.remove(i);
list.subList(from, to).clear(); // subList
Считаем удаление из середины списка

32. www.luxoft.com
Java 8, время выполнения (нс), size = 100
208,2 202,6
119,6
412,2
364
117,4
709,8
136,5 117,4
0
100
200
300
400
500
600
700
10 ПП 10 ОП 10 sL 25 ПП 25 ОП 25 sL 50 ПП 50 ОП 50 sL
ПП – прямой порядок, ОП – обратный порядок, sL – subList

33. www.luxoft.com
Java 9, время выполнения (нс), size = 100
ПП – прямой порядок, ОП – обратный порядок, sL – subList
187,8 177,7
106,7
379,6
345,2
106,7
637,8
127,7 107,2
0
100
200
300
400
500
600
700
10 ПП 10 ОП 10 sL 25 ПП 25 ОП 25 sL 50 ПП 50 ОП 50 sL

34. www.luxoft.com
public E remove(int i) {
Objects.checkIndex(i, size);
modCount++;
E oldValue = elementData(i);
int numMoved = size - i - 1;
if (numMoved > 0)
System.arraycopy(array, i+1, array, i, numMoved);
elementData[--size] = null;
return oldValue;
}
637,8
127,7 107,2
0
100
200
300
400
500
600
700
50 ПП 50 ОП 50 sL
Всегда удаляем последнюю ячейку

35. www.luxoft.com
СОВЕТ РАЗРАБОТЧИКУ
«Грузите апельсины бочках» (с).
Как правило, массовые действия:
- быстрее
- требуют меньше памяти
- неделимы

36. www.luxoft.com
Ещё пример
Iterator<String> iterator = items.stream()
.map(Object::toString)
.collect(toList())
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());

37. www.luxoft.com
Iterator<String> iterator = items.stream()
.map(Object::toString)
.collect(toList())
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
Избыточность

38. www.luxoft.com
Убираем избыточность
Iterator<String> iterator = items.stream()
.map(Object::toString)
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
Iterator<String> iterator = items.stream()
.map(Object::toString)
.collect(toList())
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());

39. www.luxoft.com
Считаем (время выполнения, нс)
Iterator<String> iterator = items.stream()
.map(Object::toString)
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
Iterator<String> iterator = items.stream()
.map(Object::toString)
.collect(toList())
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
(size) Score Error Score Error Units
10 628,2 ± 11,5 802,8 ± 9,6 ns/op
100 5570,1 ± 36,0 7121,4 ± 131,6 ns/op
1000 62056,4 ± 2977,8 76045,7 ± 1458,1 ns/op

40. www.luxoft.com
(size) Score Error Score Error Units
10 628,2 ± 11,5 802,8 ± 9,6 ns/op
100 5570,1 ± 36,0 7121,4 ± 131,6 ns/op
1000 62056,4 ± 2977,8 76045,7 ± 1458,1 ns/op
Это как?
Iterator<String> iterator = items.stream()
.map(Object::toString)
.iterator();
Iterator<String> iterator = items.stream()
.map(Object::toString)
.collect(toList())
.iterator();

41. www.luxoft.com
Сравним с Java 9, нс/оп
Iterator<String> iterator =
items
.stream()
.map(Object::toString)
.collect(toList())
.iterator();
Iterator<String> iterator =
items
.stream()
.map(Object::toString)
.iterator();
(size) Score Score Diff
Java 8
10 628,2 802,8 + 21,75 %
100 5570,1 7121,4 + 21,78 %
1000 62056,4 76045,7 + 18,40 %
Java 9
10 485,2 599,2 + 19,03 %
100 3993,7 5220,3 + 23,50 %
1000 43252,5 49409,6 + 12,46 %

42. www.luxoft.com
Возьмём два итератора
Iterator<String> iterator1 = items.stream().map(Object::toString).collect(toList()).iterator();
Iterator<String> iterator2 = items.stream().map(Object::toString).iterator();

43. www.luxoft.com
И посмотрим на них в отладчике
Iterator<String> iterator1 = items.stream().map(Object::toString).collect(toList()).iterator();
Iterator<String> iterator2 = items.stream().map(Object::toString).iterator();

44. www.luxoft.com
Итератор 1 – это java.util.ArrayList.Itr
данные

45. www.luxoft.com
Проход по нему тоже несложный
public boolean hasNext() {
return cursor != size;
}
public E next() {
checkForComodification();
int i = cursor;
if (i >= size) throw new NoSuchElementException();
Object[] elementData = ArrayList.this.elementData;
if (i >= elementData.length)
throw new ConcurrentModificationException();
cursor = i + 1;
return (E) elementData[lastRet = i];
}

46. www.luxoft.com
Проход по нему тоже несложный

47. www.luxoft.com
Итератор 2 интереснее

48. www.luxoft.com
В его основе ArrayListSpliterator
данные

49. www.luxoft.com
Проход по нему сложнее
public boolean hasNext() {
if (!valueReady)
spliterator.tryAdvance(this);
return valueReady;
}
public T next() {
if (!valueReady && !hasNext())
throw new NoSuchElementException();
else {
valueReady = false;
return nextElement;
}
}

50. www.luxoft.com
Проход по нему сложнее

51. www.luxoft.com
Проход по нему сложнее и дороже

52. www.luxoft.com
items
.stream()
.map(Object::toString)
.forEach(bh::consume);
Попробуем без итератора
Iterator itr = items
.stream()
.map(Object::toString)
.collect(toList())
.iterator();
while (itr.hasNext())
bh.consume(itr.next());
Iterator itr = items
.stream()
.map(Object::toString)
.iterator();
while (itr.hasNext())
bh.consume(itr.next());

53. www.luxoft.com
Попробуем без итератора
Iterator iterator = items
.stream()
.map(Object::toString)
.collect(toList())
.iterator();
Iterator iterator = items
.stream()
.map(Object::toString)
.iterator();
items
.stream()
.map(Object::toString)
.forEach(bh::consume);
Java 8 Java 9
size Score Score Units
10 628,2 485,2 ns/op
100 5570,1 3993,7 ns/op
1000 62056,4 43252,5 ns/op
10 802,8 599,2 ns/op
100 7121,4 5220,3 ns/op
1000 76045,7 49409,6 ns/op
10 539,6 416,4 ns/op
100 5009,9 3761,8 ns/op
1000 52946,0 34939,0 ns/op

54. www.luxoft.com
Почему стало быстрее?
Вроде быстрее быть не должно, т. к. в основе тот же ArrayListSpliterator.

55. www.luxoft.com
Вроде быстрее быть не должно, т. к. в основе тот же ArrayListSpliterator.
Но есть отличие:
Почему стало быстрее?

56. www.luxoft.com
void forEachRemaining(Consumer<? super E> action) {
// …
Object[] a = lst.elementData;
if ((i = index) >= 0 && (index = hi) <= a.length) {
for (; i < hi; ++i) {
E e = (E) a[i];
action.accept(e);
}
if (modCount == mc) return;
}
// …
}
ArrayListSpliterator.forEachRemaining

57. www.luxoft.com
void forEachRemaining(Consumer<? super E> action) {
// …
Object[] a = lst.elementData;
if ((i = index) >= 0 && (index = hi) <= a.length) {
for (; i < hi; ++i) {
E e = (E) a[i];
action.accept(e);
}
if (modCount == mc) return;
}
// …
}
Почему стало быстрее?

58. www.luxoft.com
Почему стало быстрее?

59. www.luxoft.com
СОВЕТ РАЗРАБОТЧИКУ
Проверяй.
Проверяй.
Проверяй.

60. www.luxoft.com
Код из IntelliJ IDEA: 2 подвоха
StackTraceElement[] trace = th.getStackTrace();
StackTraceElement[] newTrace = Arrays
.asList(trace)
.subList(0, newDepth)
.toArray(new StackTraceElement[newDepth]);

61. www.luxoft.com
Подвох 1
Arrays of Wisdom of the Ancients
https://shipilev.net/blog/2016/arrays-wisdom-ancients/
StackTraceElement[] trace = th.getStackTrace();
StackTraceElement[] newTrace = Arrays
.asList(trace)
.subList(0, newDepth)
.toArray(new StackTraceElement[newDepth]);

62. www.luxoft.com
Подвох 2
StackTraceElement[] trace = th.getStackTrace();
StackTraceElement[] newTrace = Arrays
.asList(trace)
.subList(0, newDepth)
.toArray(new StackTraceElement[0]);

63. www.luxoft.com
StackTraceElement[] trace = th.getStackTrace();
StackTraceElement[] newTrace = Arrays
.asList(trace)
.subList(0, newDepth)
.toArray(new StackTraceElement[0]);
Подвох 2
избыточность

64. www.luxoft.com
Что мы сделали?
Завернули
массив в
список
Обрезали
список
Развернули
список в
массив
StackTraceElement[] trace = th.getStackTrace();
StackTraceElement[] newTrace = Arrays
.asList(trace).subList(0, newDepth).toArray(new StackTraceElement[0]);

65. www.luxoft.com
Что нужно было сделать
Arrays.asList(trace).subList(0, newDepth).toArray(new StackTraceElement[0]);
Arrays.copyOf(trace, newDepth);

66. www.luxoft.com
Что нужно было сделать
Arrays.asList(trace).subList(0, newDepth).toArray(new StackTraceElement[0]);
Arrays.copyOf(trace, newDepth); // простая запись, отсчёт с 0
или
Arrays.copyOfRange(trace, 0, newDepth)); // формальная запись, явно указан
0

67. www.luxoft.com
Считаем (время выполнения, нс)
37,9
46,7
125,8
45,1
53,7
156,5
7,7 8,4
41,8
11,5 13,3
56,6
0
20
40
60
80
100
120
140
160
180
5 10 100 5 10 100
subList
copyOf
JAVA 8 JAVA 9

68. www.luxoft.com
Что мы проверяем?
return collection.stream().allMatch(anotherCollection::contains);

69. www.luxoft.com
return collection.stream().allMatch(anotherCollection::contains);
return anotherCollection.containsAll(collection);
Стримоз головного мозга detected!

70. www.luxoft.com
Считаем (HashSet, время выполнения)
119,2
827,4
7154,9
125,2
878,1
6682,8
62,5
575,6
5062,5
72,5
673,3
6303
0
1000
2000
3000
4000
5000
6000
7000
8000
10 100 1000 10 100 1000
allMatch
containsAll
JAVA 8 JAVA 9

71. www.luxoft.com
Считаем (HashSet, память)
Java 8 Java 9
streamAllMatch:·gc.alloc.rate.norm 1 160 184 B/op
containsAll:·gc.alloc.rate.norm 1 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 10 160 184
B/op
containsAll:·gc.alloc.rate.norm 10 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 100 160 184
B/op
containsAll:·gc.alloc.rate.norm 100 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 1000 160 184
B/op
containsAll:·gc.alloc.rate.norm 1000 32 ≈ 0 B/op

72. www.luxoft.com
115,7 1880,9
116833,8
104,1 1674,7
110689,5
53 1650,1
107726,9
52,4 1452,1
100625,2
0
20000
40000
60000
80000
100000
120000
10 100 1000 10 100 1000
allMatch
Считаем (ArrayList, время
выполнения)
JAVA 8 JAVA 9

73. www.luxoft.com
Считаем (ArrayList, память)
Java 8 Java 9
streamAllMatch:·gc.alloc.rate.norm 1 160 184 B/op
containsAll:·gc.alloc.rate.norm 1 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 10
160 184 B/op
containsAll:·gc.alloc.rate.norm 10 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 100
160 184 B/op
containsAll:·gc.alloc.rate.norm 100 ≈ 0 ≈ 0 B/op
streamAllMatch:·gc.alloc.rate.norm 1000
162 175 B/op
containsAll:·gc.alloc.rate.norm 1000 17 40 B/op

74. www.luxoft.com
Функционал
interface Fetcher {
String[] fetch();
}

75. www.luxoft.com
И его использование
interface Fetcher {
String[] fetch();
}
private Fetcher fetcher;
void fetchAndWrite() {
for (String str : asList(fetcher.fetch())) {
write(str);
}
}

76. www.luxoft.com
interface Fetcher {
String[] fetch();
}
private Fetcher fetcher;
void fetchAndWrite() {
for (String str : asList(fetcher.fetch())) {
write(str);
}
}
Избыточность

77. www.luxoft.com
Правильное использование
interface Fetcher {
String[] fetch();
}
private Fetcher fetcher;
void fetchAndWrite() {
for (String str : fetcher.fetch()) {
write(str);
}
}

78. www.luxoft.com
Считаем (время выполнения, нс)
5,6 19,9 38,3
375,9
3338,6
5,7 18,7 34,5
330,8
3200,4
9,3 29,5 53,9
530,8
5193,8
5,5 26,3 52,1
526,2
5177,4
0
1000
2000
3000
4000
5000
1 5 10 100 1000 1 5 10 100 1000
array
asList
JAVA 8 JAVA 9

79. www.luxoft.com
Более производительный код как правило:
- более краткий
- более атомарный
- более надёжный
- более простой для понимания
Выводы

80. www.luxoft.com
List<T> list = new ArrayList<>();
for (Byte item : items)
list.add(item);
Выводы: аргументация
List<T> list = new ArrayList<>(items);

81. www.luxoft.com
List<T> list = new ArrayList<>();
for (Byte item : items)
list.add(item);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
Выводы: аргументация
List<T> list = new ArrayList<>(items);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.forEach(bh::consume);

82. www.luxoft.com
List<T> list = new ArrayList<>();
for (Byte item : items)
list.add(item);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
list.stream().allMatch(collection::contains);
Выводы: аргументация
List<T> list = new ArrayList<>(items);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.forEach(bh::consume);
collection.containsAll(list);

83. www.luxoft.com
List<T> list = new ArrayList<>();
for (Byte item : items)
list.add(item);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.iterator();
while (iterator.hasNext())
bh.consume(iterator.next());
list.stream().allMatch(collection::contains);
Arrays.asList(array)
.subList(0, size)
.toArray(new String[0]);
Выводы: аргументация
List<T> list = new ArrayList<>(items);
Iterator<T> iterator = list.stream()
.map(Object::toString)
.forEach(bh::consume);
collection.containsAll(list);
Arrays.copyOf(array, size);

84. www.luxoft.com
IDEA-138456 Performance inspection: 'Collection.addAll() can be replaced with
parametrised constructor‘ (142.1217)
IDEA-165942 Inspection to replace method call in a loop with bulk operation (2017.1)
IDEA-178761 'Collection.addAll() can be replaced with parametrized constructor'
should be active by default (2017.3)
IDEA-182206 Simplification for Arrays.asList().sublist().toArray() (2018.1)
IDEA-181928 Stream.allMatch(Collection::contains) can be simplified to
Collection.containsAll() (2018.1)
IDEA-184240 Unnecessary array-to-collection wrapping should be detected (2018.1)
В сухом остатке

85. www.luxoft.com
БЛАГОДАРЮ ЗА ВНИМАНИЕ