Технопарк Mail.ru Group, МГТУ им. Н.Э. Баумана. Курс "Базы данных". Лекция №7 "Оптимизация запросов и индексирование". Лектор - Павел Щербинин. Вначале рассказывается об оптимизации доступа к данным, о декомпозиции соединения и состоянии запроса. Далее идёт большой блок, посвящённый оптимизатору запросов (изменение порядка соединения, применение алгебраических правил эквивалентности, оптимизации COUNT(), MIN(), MAX(), вычисление и свертка константных выражений, покрывающие индексы, оптимизация подзапросов, раннее завершение, сравнение по списку IN() и распространение равенства). Затем последовательно рассматриваются такие вещи, как соединение (JOIN) в MySQL, оптимизатор сортировки, коррелированные подзапросы, слияние и непоследовательный просмотр индексов, функции SELECT & UPDATE, COUNT(). После этого рассказывается об оптимизации запросов с помощью JOIN, GROUP BY, DISTINCT и LIMIT со смещением. В конце лекции даётся информация о кэшировании запросов, объединённых таблицах и секционировании. Видео лекции курса https://www.youtube.com/playlist?list=PLrCZzMib1e9obOz5K695ugYuiOOCBciEi

1. СУБД
Лекция 7
Павел Щербинин

2. Оптимизируйте доступ к
данным
• не извлекает ли приложение больше данных, чем
нужно
• не анализирует ли сервер MySQL больше строк, чем
это необходимо
Типичные ошибки:
• Выборка ненужных строк
• Выборка всех столбцов из соединения нескольких
таблиц
• Выборка всех столбцов

3. Декомпозиция соединения
SELECT *
FROM tag
JOIN tag_post ON tag_post.tag_id=tag.id
JOIN post ON tag_post.post_id=post.id
WHERE tag.tag=mysql;
SELECT * FROM tag WHERE tag=mysql;
SELECT * FROM tag_post WHERE tag_id=1234;
SELECT * FROM post WHERE post.id in
(123,456,567,9098,8904);

4. Декомпозиция соединения
Соединение в приложении может оказаться
эффективнее в следующих случаях:
• Организован кэш и вы повторно используете ранее
запрошенные данные
• Часто используются таблицы типа MyISAM
• Данные распределены по нескольким серверам
• Вместо соединения с большой таблицей используется
список IN()
• В соединении несколько раз встречается одна и та же
таблица

5. Выполнение запросов

6. Состояние запроса
SHOW FULL PROCESSLIST;
Sleep
Поток ожидает поступления нового запроса от клиента.
Query
Поток либо занят выполнением запроса, либо отправляет клиенту результаты.
Locked
Поток ожидает предоставления табличной блокировки на уровне сервера.
Analyzing и Statistics
Поток проверяет статистику, собранную подсистемой хранения, и
оптимизирует запрос.
Copying to tmp table [on disk]
Поток обрабатывает запрос и копирует результаты во временную таблицу.
Sorting result
Поток занят сортировкой результирующего набора.
Sending data
Пересылает данные между различными стадиями обработки запроса или
генерирует результирующий набор или возвращает результаты клиенту.

7. Оптимизатор запросов
SELECT SQL_NO_CACHE COUNT(*) FROM sakila.film_actor;
mysql> SHOW STATUS LIKE last_query_cost;
COUNT(*)
5462
Variable_name Value
Last_query_cost 1040.599000

8. Оптимизатор запросов
• Некорректная статистика.
• Принятая метрика стоимости не всегда эквивалентна истинной
стоимости выполнения запроса.
• Представление MySQL о том, что такое «оптимально», может
расходиться с вашим представлением.
• MySQL не берет в расчет другие одновременно выполняющиеся
запросы.
• MySQL не всегда выполняет оптимизацию по стоимости. Иногда он
просто следует правилам.
• Оптимизатор не учитывает стоимость операций, которые ему
неподконтрольны, например выполнение хранимых или
определенных пользователем функций.
• Не всегда оптимизатор способен рассмотреть все возможные планы
выполнения, поэтому оптимальный план он может просто не увидеть.

9. Оптимизатор запросов
Изменение порядка соединения
Таблицы не обязательно соединять именно в том порядке, который указан в
запросе.
Применение алгебраических правил эквивалентности
MySQL применяет алгебраические преобразования для упрощения
выражений и приведения их к каноническому виду. Она умеет так-же вычислять
константные выражения, исключая заведомо невыполнимые и всегда
выполняющиеся условия.
(5=5 AND a>5) -> a>5
(a < b AND b=c) AND a=5 -> b>5 AND b=c AND a=5
Оптимизации COUNT(), MIN() и MAX()
Наличие индексов и сведений о возможности хранения NULL-значений в
столбцах часто позволяет вообще не вычислять эти выражения. Если применена
такая оптимизация, то в плане, выведенном командой EXPLAIN, будет
присутствовать фраза «Select tables optimized away» (некоторые таблицы
исключены при оптимизации).

10. Оптимизатор запросов
Вычисление и свертка константных выражений
Если MySQL обнаруживает, что выражение можно свернуть в константу, то
делает это на стадии оптимизации.
EXPLAIN SELECT film.film_id, film_actor.actor_id
FROM sakila.film
INNER JOIN sakila.film_actor USING(film_id)
WHERE film.film_id = 1;
| id | select_type | table | type | key | ref | rows |
| 1 | SIMPLE | film | const | PRIMARY | const | 1 |
| 1 | SIMPLE | film_actor | ref | idx_fk_film_id | const | 10 |
Покрывающие индексы
Если индекс содержит все необходимые запросу столбцы, то MySQL может
воспользоваться им, вообще не читая данные таблицы.
Оптимизация подзапросов
MySQL умеет преобразовывать некоторые виды подзапросов в более
эффективные эквивалентные формы, сводя их к поиску по индексу.

11. Оптимизатор запросов
Раннее завершение
MySQL может прекратить обработку запроса (или какой-то шаг обработки), как
только поймет, что этот запрос или шаг полностью выполнен.
EXPLAIN SELECT film.film_id FROM sakila.film WHERE film_id = -1;
| id |...| Extra |
| 1 |...| Impossible WHERE noticed after reading const tables |
Сравнение по списку IN( )
Во многих СУБД оператор IN() – не более чем синоним нескольких условий OR,
поскольку логически они эквивалентны. Но не в MySQL, здесь перечисленные в
списке IN()значения сортируются, и для работы с ним применяется быстрый
двоичный поиск.

12. Оптимизатор запросов
Распространение равенства
MySQL распознает ситуации, когда в некотором запросе два столбца должны
быть равны, – например, в условии JOIN, и распространяет условие WHERE на
эквивалентные столбцы.
SELECT film.film_id
FROM sakila.film
INNER JOIN sakila.film_actor USING(film_id)
WHERE film.film_id > 500;
... WHERE film.film_id > 500 AND film_actor.film_id > 500

13. Соединения (JOIN) в MySQL
SELECT tbl1.col1, tbl2.col2
FROM tbl1 INNER JOIN tbl2 USING(col3)
WHERE tbl1.col1 IN(5,6);
outer_iter = iterator over tbl1 where col1 IN(5,6)
outer_row = outer_iter.next
while outer_row
inner_iter = iterator over tbl2 where col3 = outer_row.col3
inner_row = inner_iter.next
while inner_row
output [ outer_row.col1, inner_row.col2 ]
inner_row = inner_iter.next
end
outer_row = outer_iter.next
end

14. Соединения (JOIN) в MySQL
SELECT tbl1.col1, tbl2.col2 FROM tbl1
LEFT OUTER JOIN tbl2 USING(col3) WHERE tbl1.col1 IN(5,6);
outer_iter = iterator over tbl1 where col1 IN(5,6)
outer_row = outer_iter.next
while outer_row
inner_iter = iterator over tbl2 where col3 = outer_row.col3
inner_row = inner_iter.next
if inner_row
while inner_row
output [ outer_row.col1, inner_row.col2 ]
inner_row = inner_iter.next
end
else
output [ outer_row.col1, NULL ]
end
outer_row = outer_iter.next
end

15. Соединения (JOIN) в MySQL

16. План выполнения

17. Оптимизатор сортировки
• Двухпроходный (старый)
Читает указатели на строки и столбцы, упомянутые во фразе
ORDER BY, сортирует их, затем проходит по отсортированному
списку и снова читает исходные строки, чтобы вывести
результат.
• Однопроходный (новый)
Читает все необходимые запросу столбцы, сортирует строки по
столбцам, упомянутым во фразе ORDER BY, проходит по
отсортированному списку и выводит заданные столбцы.
Следовательно, в буфер сортировки поместится меньше строк и
надо будет выполнить больше циклов слияния.

18. Коррелированные подзапросы
SELECT * FROM sakila.film
WHERE film_id IN(
SELECT film_id FROM sakila.film_actor WHERE actor_id = 1);

19. Коррелированные подзапросы
SELECT * FROM sakila.film
WHERE film_id IN(
SELECT film_id FROM sakila.film_actor WHERE actor_id = 1);
SELECT GROUP_CONCAT(film_id)
FROM sakila.film_actor
WHERE actor_id = 1;
-- Result:
1,23,25,106,140,166,277,361,438,499,506,509,605,635,749
,832,939,970,980
SELECT * FROM sakila.film
WHERE film_id
IN(1,23,25,106,140,166,277,361,438,499,506,509,605,635,
749,832,939,970,980);

20. Коррелированные подзапросы
SELECT * FROM sakila.film
WHERE film_id IN(
SELECT film_id FROM sakila.film_actor WHERE actor_id = 1);
SELECT * FROM sakila.film
WHERE EXISTS (
SELECT * FROM sakila.film_actor WHERE actor_id = 1
AND film_actor.film_id = film.film_id);

21. Слияние индексов
SELECT film_id, actor_id FROM sakila.film_actor
WHERE actor_id = 1 OR film_id = 1;

22. Слияние индексов
SELECT film_id, actor_id FROM sakila.film_actor
WHERE actor_id = 1 OR film_id = 1;
SELECT film_id, actor_id FROM sakila.film_actor
WHERE actor_id = 1
UNION ALL
SELECT film_id, actor_id FROM sakila.film_actor
WHERE film_id = 1 AND actor_id <> 1;

23. Непоследовательный просмотр
индексов
SELECT ... FROM tbl WHERE b BETWEEN 2 AND 3;

24. Непоследовательный просмотр
индексов
SELECT ... FROM tbl WHERE b BETWEEN 2 AND 3;

25. Непоследовательный просмотр
индексов
EXPLAIN SELECT actor_id, MAX(film_id)
FROM sakila.film_actor
GROUP BY actor_idG
********************* 1. row **************************
id: 1
select_type: SIMPLE
table: film_actor
type: range
possible_keys: NULL
key: PRIMARY
key_len: 2
Ограничения оптимизатора MySQL 241
ref: NULL
rows: 396
Extra: Using index for group-by

26. Непоследовательный просмотр
индексов
SELECT MIN(actor_id) FROM sakila.actor
WHERE first_name = PENELOPE;

27. Непоследовательный просмотр
индексов
SELECT MIN(actor_id) FROM sakila.actor
WHERE first_name = PENELOPE;
SELECT actor_id FROM sakila.actor USE INDEX(PRIMARY)
WHERE first_name = PENELOPE LIMIT 1;

28. SELECT & UPDATE
UPDATE tbl AS outer_tbl
SET cnt = (
SELECT count(*) FROM tbl AS inner_tbl
WHERE inner_tbl.type = outer_tbl.type
);

29. SELECT & UPDATE
UPDATE tbl AS outer_tbl
SET cnt = (
SELECT count(*) FROM tbl AS inner_tbl
WHERE inner_tbl.type = outer_tbl.type
);
ERROR 1093 (HY000): You can’t specify target table
‘outer_tbl’ for update in FROM clause

30. SELECT & UPDATE
UPDATE tbl AS outer_tbl
SET cnt = (
SELECT count(*) FROM tbl AS inner_tbl
WHERE inner_tbl.type = outer_tbl.type
);
ERROR 1093 (HY000): You can’t specify target table
‘outer_tbl’ for update in FROM clause
UPDATE tbl
INNER JOIN(
SELECT type, count(*) AS cnt
FROM tbl
GROUP BY type
) AS der USING(type)
SET tbl.cnt = der.cnt;

31. Что делает COUNT()
COUNT() – это особая функция, которая решает две очень
разные задачи: подсчитывает значения и строки.
Значение – это выражение, отличное от NULL.
COUNT(*) просто подсчитывает количество строк в
результирующем наборе.
Если вы хотите знать, сколько строк в результирующем наборе,
всегда употребляйте COUNT(*).
МИФЫ:
Для таблиц типа MyISAM запросы, содержащие функцию
COUNT(), выполняются очень быстро.

32. Оптимизация COUNT()
SELECT COUNT(*) FROM world.City WHERE ID > 5;

33. Оптимизация COUNT()
SELECT COUNT(*) FROM world.City WHERE ID > 5;
SELECT (SELECT COUNT(*) FROM world.City) - COUNT(*)
FROM world.City WHERE ID <= 5;

34. Оптимизация COUNT()
SELECT COUNT(*) FROM world.City WHERE ID > 5;
SELECT (SELECT COUNT(*) FROM world.City) - COUNT(*)
FROM world.City WHERE ID <= 5;
SELECT COUNT(color= blue OR color= red) FROM items;
SELECT COUNT(*) FROM items
WHERE color= blue AND color= red;

35. Оптимизация COUNT()
SELECT COUNT(*) FROM world.City WHERE ID > 5;
SELECT (SELECT COUNT(*) FROM world.City) - COUNT(*)
FROM world.City WHERE ID <= 5;
SELECT COUNT(color= blue OR color= red) FROM items;
SELECT COUNT(*) FROM items
WHERE color= blue AND color= red;
SELECT SUM(IF(color = blue, 1, 0)) AS blue,
SUM(IF(color = red, 1, 0)) -> AS red FROM items;

36. Оптимизация COUNT()
SELECT COUNT(*) FROM world.City WHERE ID > 5;
SELECT (SELECT COUNT(*) FROM world.City) - COUNT(*)
FROM world.City WHERE ID <= 5;
SELECT COUNT(color= blue OR color= red) FROM items;
SELECT COUNT(*) FROM items
WHERE color= blue AND color= red;
SELECT SUM(IF(color = blue, 1, 0)) AS blue,
SUM(IF(color = red, 1, 0)) AS red FROM items;
SELECT COUNT(color = blue OR NULL) AS blue, COUNT(color
= red OR NULL) AS red FROM items;

37. Оптимизация запросов с JOIN
• Стройте индексы по столбцам, используемым во фразах ON
или USING.
• При добавлении индексов учитывайте порядок соединения.
В общем случае следует индексировать только вторую
таблицу в порядке соединения, если, конечно, индекс не
нужен для каких-то других целей.
• Старайтесь, чтобы в выражениях GROUP BY и ORDER BY
встречались столбцы только из одной таблицы, тогда у MySQL
появится возможность воспользоваться для этой операции
индексом.
• Будьте внимательны при переходе на новую версию MySQL,
поскольку в разные моменты изменялись синтаксис
соединения, приоритеты операторов и другие аспекты
поведения.

38. Оптимизация GROUP BY и
DISTINCT
SELECT actor.first_name, actor.last_name, COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY actor.first_name, actor.last_name;

39. Оптимизация GROUP BY и
DISTINCT
SELECT actor.first_name, actor.last_name, COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY actor.first_name, actor.last_name;
SELECT actor.first_name, actor.last_name, COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY film_actor.actor_id;

40. Оптимизация GROUP BY и
DISTINCT
SELECT actor.first_name, actor.last_name, COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY actor.first_name, actor.last_name;
SELECT MIN(actor.first_name), MAX(actor.last_name),
COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY film_actor.actor_id;

41. Оптимизация GROUP BY и
DISTINCT
SELECT actor.first_name, actor.last_name, COUNT(*)
FROM sakila.film_actor
INNER JOIN sakila.actor USING(actor_id)
GROUP BY actor.first_name, actor.last_name;
SELECT actor.first_name, actor.last_name, c.cnt
FROM sakila.actor
INNER JOIN (
SELECT actor_id, COUNT(*) AS cnt
FROM sakila.film_actor
GROUP BY actor_id
) AS c USING(actor_id) ;

42. Оптимизация LIMIT со
смещением
SELECT film_id, description
FROM sakila.film
ORDER BY title
LIMIT 50, 5;

43. Оптимизация LIMIT со
смещением
SELECT film_id, description
FROM sakila.film
ORDER BY title
LIMIT 50, 5;
SELECT film.film_id, film.description
FROM sakila.film
INNER JOIN (
SELECT film_id FROM sakila.film
ORDER BY title LIMIT 50, 5
) AS lim USING(film_id);

44. Оптимизация LIMIT со
смещением
SELECT film_id, description
FROM sakila.film
ORDER BY title
LIMIT 50, 5;
SELECT film.film_id, film.description
FROM sakila.film
INNER JOIN (
SELECT film_id FROM sakila.film
ORDER BY title LIMIT 50, 5
) AS lim USING(film_id);
SELECT film_id, description FROM sakila.film
WHERE position BETWEEN 50 AND 54 ORDER BY position;

45. SQL_CALC_FOUND_ROWS
SELECT SQL_CALC_FOUND_ROWS film_id, description
FROM sakila.film
ORDER BY title
LIMIT 50, 5;

46. Кэш запросов
• Перед началом обработки запроса на чтение нужно
проверить, есть ли он в кэше
• Если запрос допускает кэширование, но еще не помещен в
кэш, то нужно потратить некоторое время на запись в кэш
сгенерированных результатов
• Наконец, при обработке любого запроса на запись
необходимо сделать недействительными все записи в кэше,
в которых встречается измененная таблица

47. Кэш запросов

48. Кэш запросов

49. Объединенные таблицы и
секционирование
Позволяют:
• Отделить статические данные от изменяющихся
• Воспользоваться физической близостью взаимосвязанных
данных для оптимизации запросов
• Проектировать таблицы так, чтобы запрос обращался к
возможно меньшему объему данных
• Упростить обслуживание очень больших наборов данных (в
этом вопросе объединенные таблицы обладают некоторыми
преимуществами по сравнению с секционированными)

50. Объединенные таблицы
CREATE TABLE t1(a INT NOT NULL PRIMARY KEY)
ENGINE=MyISAM;
CREATE TABLE t2(a INT NOT NULL PRIMARY KEY)
ENGINE=MyISAM;
INSERT INTO t1(a) VALUES(1),(2);
INSERT INTO t2(a) VALUES(1),(2);
CREATE TABLE mrg(a INT NOT NULL PRIMARY KEY)
ENGINE=MERGE UNION=(t1, t2) INSERT_METHOD=LAST;
SELECT a FROM mrg;
| a |
| 1 |
| 1 |
| 2 |
| 2 |

51. Объединенные таблицы
• Для объединенной таблицы необходимо больше открытых файловых
дескрипторов, чем для обычной таблицы, содержащей те же данные.
• Команда CREATE, которая создает объединенную таблицу, не проверяет,
совместимы ли ее составляющие. Если определения объединяемых
таблиц слегка различаются, то MySQL может создать объединенную
таблицу, которой впоследствии не сумеет воспользоваться.
• Запросы, обращенные к объединенной таблице, переадресуются к
каждой из составляющих таблиц. В результате поиск единственной
строки может оказаться медленнее по сравнению с поиском в одной
таблице.
• Сканирование выполняется для объединенной таблицы так же быстро,
как для обычной
• Поиск по уникальному и первичному ключу прекращается, как только
искомая строка найдена.
• Составляющие таблицы читаются в порядке, указанном в команде
CREATE TABLE.

52. Секционирование
CREATE TABLE orders_range (
customer_surname VARCHAR(30),
store_id INT,
salesperson_id INT,
order_date DATE,
note VARCHAR(500)
) ENGINE = MYISAM
PARTITION BY RANGE( YEAR(order_date) ) (
PARTITION p_old VALUES LESS THAN(2008),
PARTITION p_2008 VALUES LESS THAN(2009),
PARTITION p_2009 VALUES LESS THAN(MAXVALUE)
);

53. Секционирование
RANGE
По диапазону значений
PARTITION BY RANGE (store_id) (
PARTITION p0 VALUES LESS THAN (10),
PARTITION p1 VALUES LESS THAN (20),
PARTITION p3 VALUES LESS THAN (30)
);

54. Секционирование
LIST
По точному списку значений
PARTITION BY LIST(store_id) (
PARTITION pNorth VALUES IN (3,5,6,9,17),
PARTITION pEast VALUES IN (1,2,10,11,19,20)
)

55. Секционирование
KEY
Почти то же самое что и HASH, но по ключу.
PARTITION BY KEY(s1)
PARTITIONS 10;

56. Секционирование
• Все секции должны управляться одной и той же подсистемой
хранения. Например, нельзя сжать только часть секций, хотя для
составляющих объединенной таблицы это допустимо.
• Любой уникальный индекс над секционированной таблицей
должен содержать столбцы, на которые ссылается функция
секционирования.
• Хотя сервер MySQL может обойтись без доступа к каждой секции
при обработке запроса к секционированной таблице, он тем
менее ставит блокировки на все секции.
• Существует ряд ограничений на функции и выражения, которые
можно использовать в механизме секционирования.
• Некоторые подсистемы хранения вообще не поддерживают
секционирование.
• Внешние ключи не работают.

57. Спасибо за внимание
Павел Щербинин
p.scherbinin@corp.mail.ru