2. В предыдущих сериях
Качество – совокупность характеристик, определяющих
насколько продукт хорош с точки зрения заинтересованных лиц.
Тестирование - техническое исследование, которое проводится
с целью предоставить заинтересованным лицам информацию о
качестве тестируемого продукта.
Тестирование на стадии разработки – сокращает время и
риски.
3. В предыдущих сериях
Техники тестирования
• На основе спецификации (Specification-based)
• На основе выбора входных данных/Доменное (Input Domain-
based)
• На основе кода (Code-based)
• Поток управления (control-flow)
• Поток данных (data-flow)
• На основе модели (Model-based)
• Конечный автомат
• Таблица принятия решений
• Формальная спецификация
• На основе интуиции и опыта
• Ad-hoc
• Исследовательское
• Прогнозирование ошибок
• …
+ комбинации
5. Sanity-check
Программа принимает на вход 3 целых числа. Эти
значения интерпретируются как длины сторон
треугольника. Программа должна вывести сообщение
о том, каким является заданный треугольник:
разносторонним, равнобедренным или
равносторонним.
6. Sanity-check
1. Позитивный тест, разносторонний (3, 4, 5)
2. Позитивный тест, равнобедренный (3, 4, 4)
3. Позитивный тест, равносторонний (3, 3, 3)
4. Перестановки п.2 (3, 4, 4) (3, 4, 3) (4, 4, 3)
5. Негативный, одна сторона – 0 (3, 4, 0)
6. Негативный, все нули (0, 0, 0)
7. Негативный, отрицательное значение (3, 4, -1)
8. Не треугольник a+b=c (1, 2, 3)
9. Перестановки п. 8 (1, 2, 3) (3, 2, 1) (1, 3, 2)
10. Не треугольник a+b<c (1, 2, 4)
11. Перестановки п. 10 (1, 2, 4) (4, 2, 1) (1, 4, 2)
12. Дробные значения (3,5; 4,5; 5,5)
13. 2 аргумента / или не числа
14. Был ли указан ожидаемый результат для негативных тестов?
8. Тестовое покрытие
Покрытие (coverage) – метрика, применяемая для оценки
полноты/качества тестов.
Зависит от выбранной техники тестирования и может измеряться,
например:
• В процентах покрытой функциональности (например, по
спецификации)
• В количестве покрытых строк кода (в % от общего кол-ва строк)
• В процентах покрытых ветвей в графе потока управления
…
9. Критерии выбора тестов
Протестировать все – невозможно, даже 100% покрытие не
обеспечивает 100% тестирования.
Чтобы протестировать все, мы должны:
• Проверить все возможные значения каждой входной
переменной
• Проверить все возможные комбинации значений переменных
• Проверить каждую конфигурацию ПО и оборудования, а также
конфигурации серверов, которые мы не контролируем
• Протестировать взаимодействие с другими программами,
работающими параллельно с нашей
…
10. Почему нельзя
протестировать все
Проверить все допустимые значения каждой переменной на
входе. Реально ли?
Пример: функция, вычисляющая квадратный корень из
32-битного числа без знака.
Сколько значений мы должны проверить?
232 значений (4 294 967 296)
У Дага Хоффмана автоматизированная проверка всех валидных
значений заняла 6 минут.
16. Разбиение на классы эквивалентности
(Equivalence Partitioning)
Класс эквивалентности (КЭ) – множество входных данных
(доменов), для которых, как мы ожидаем, поведение
системы/модуля будет одинаковым.
Все значения из одного КЭ эквивалентны с точки зрения
тестирования:
• Если один тест-кейс из КЭ обнаруживает баг, то все
остальные тоже его обнаружат
• Если один тест-кейс из КЭ не обнаруживает баг, то
остальные тоже не обнаружат
Критерий покрытия – каждый класс должен быть
представлен как минимум одним тестом.
Гипотеза – кейсы, соответствующие некоторым КЭ,
обрабатываются некорректно.
17. Классы эквивалентности
Пример
N – кол-во посещенных лекций по тестированию
0 ≤ N ≤ 1– автомат, незачет
2 ≤ N < 5 – сдает зачет
N = 5 – автомат, зачет
Классы эквивалентности допустимых значений:
[0;1]
[2;5)
[5]
Тестовый набор:
(0, 3, 5)
18. Разбиение на классы
эквивалентности
Классы эквивалентности:
• Допустимые (позитивные тесты)
• Недопустимые (негативные тесты)
• КЭ окружения/конфигурации
КЭ недопустимых значений
(-∞, 0)
(5, +∞)
N - из множества вещественных чисел
N - NaN
Для значений из недопустимых КЭ ожидаем получить
корректное сообщение об ошибке.
Тестовый набор
(-10, 42, 2.7, ‘voloshin’)
19. Разбиение на классы
эквивалентности
Чуть более сложный пример.
Программа получает на вход строку. Результатом работы
является перевернутая строка.
КЭ:
• Пустая строка
• Длина == 1 символ
• >1 символа палиндром
• >1 символа не палиндром
Тестовый набор:
• <пустая строка>
• ‘а’
• ‘ререферер’
• ‘technopark’
21. Разбиение на классы
эквивалентности
КЭ окружения/конфигурации
Приложение голосового поиска для iPhone надо
протестировать на разных версиях iOs + 3G, WiFi, без
интернета.
Возможные конфигурации также разбиваются на КЭ.
Если переменные независимые (как в случае с сетью и
версиями ОС) – необязательно проверять все комбинации,
достаточно проверить их попарно:
• iOs 6 + 3G
• iOs 5 + WiFi
• iOs 5 или 6 + откл. интернет
22. Анализ граничных значений
Что делаем?
В тестовый набор добавляем значения границ КЭ и
значения, лежащие непосредственно выше и ниже границ +
в набор добавляем предельные значения для используемых
типов данных, строки предельной и нулевой длины, етс.
Кроме того, желательно добавить значения, лежащие очень
близко к границам.
23. Анализ граничных значений
Пример
КЭ допустимых значений:
[0;1]
[2;5)
[5]
КЭ недопустимых значений
(-∞, 0)
(5, +∞)
N - из класса рациональных чисел
N - NaN
Добавим в тестовый набор значения из границ диапазона +
добавим значения, выходящие за тип int.
Итоговый тестовый набор:
(-1, 0, 1, 2, 3, 4, 5, 6, MaxInt, MaxInt+1, MaxInt+0.001, MaxInt-
1, MaxInt-0.001, MinInt, …, -42, 100, 2.7, ‘voloshin’, <оч
длинная строка>, <пустая строка>)
24. Анализ граничных значений
Какого рода ошибки обнаруживает:
• Выход за границы диапазона (найдите ошибку в коде
ниже, С++)
Hint: integer (32 bit) -2 147 483 648 .. 2 147 483 647
Что будет выведено в консоль?
Подробно тут:
http://en.wikipedia.org/wiki/Two%27s_complement
26. Анализ граничных значений
Какого рода ошибки обнаруживает:
• Проверка итераторов цикла
• Ошибки в операциях сравнения (“>” вместо “>=” и тд)
27. Анализ граничных значений
Границы могут быть нефункциональными:
• Максимально допустимый размер файла для отправки по
эл. почте.
• Сервер должен обрабатывать 100500 запросов в секунду
28. Метод всех пар
(Pairwise testing)
Что делать, если входных параметров много и невозможно
протестировать все комбинации значений из разных КЭ?
Пример:
1) Спутник должен корректно устанавливаться на: Windows 8, Windows
7, Win Vista, с вкл. UAC, выкл. UAC, с установленными на них
антивирусами: Касперский, Eset, NOD32, McAffee. В браузеры IE7,
IE8, IE9, IE10, Opera 11, 12, Chrome 22, Firefox 19, 20. С
установленными Яндекс.Элементами и без Яндекс.Элементов.
Поверх установленного Спутника и на новую машину.
Итого:
- 3 ОС
- 2 конфигурации UAC
- 4 конфигурации антивирусов
- 9 браузеров
- 2 конфигурации ПО от конкурентов
- 2 версии Спутника
864
комбинации!
29. Метод всех пар
(Pairwise testing)
Номер ОС Браузер Яндекс.Элементы
1 Win 7 IE Да
2 Win 8 IE Да
3 Vista IE Да
4 Win 7 Firefox Да
5 Win 8 Firefox Да
6 Vista Firefox Да
7 Win 7 Chrome Да
8 Win 8 Chrome Да
9 Vista Chrome Да
10 Win 7 IE Нет
11 Win 8 IE Нет
12 Vista IE Нет
13 Win 7 Firefox Нет
14 Win 8 Firefox Нет
15 Vista Firefox Нет
16 Win 7 Chrome Нет
17 Win 8 Chrome Нет
18 Vista Chrome Нет
30. • Критерий выбора тестов – проверка всех
комбинаций значений для любой пары входных
параметров
• Предпосылки:
• “Большинство ошибок проявляются либо при конкретных
значениях одного параметра, либо взаимным влиянием значений
двух параметров.” ("The Combinatorial Design Approach to
Automatic Test Generation" [Telcordia 1997])
• Оптимальный компромисс “трудозатраты vs. покрытие” между
полным перебором и проверкой по каждому параметру
независимо.
Метод всех пар
(Pairwise testing)
31. Метод всех пар
(Pairwise testing)
Номер ОС Браузер Яндекс.Элементы
1 Win 7 IE Да
2 Win 8 IE Да
3 Vista IE Да
4 Win 7 Firefox Да
5 Win 8 Firefox Да
6 Vista Firefox Да
7 Win 7 Chrome Да
8 Win 8 Chrome Да
9 Vista Chrome Да
10 Win 7 IE Нет
11 Win 8 IE Нет
12 Vista IE Нет
13 Win 7 Firefox Нет
14 Win 8 Firefox Нет
15 Vista Firefox Нет
16 Win 7 Chrome Нет
17 Win 8 Chrome Нет
18 Vista Chrome Нет
32. Метод всех пар
(Pairwise testing)
Номер ОС Браузер Yandex
1 Win 7 IE Да
3 Vista IE Да
5 Win 8 Firefox Да
8 Win 8 Chrome Да
9 Vista Chrome Да
11 Win 8 IE Нет
13 Win 7 Firefox Нет
15 Vista Firefox Нет
16 Win 7 Chrome Нет
• 9 тестов вместо 18-ти
33. Метод всех пар
(Pairwise testing)
• Пример
• система с 75 параметрами yes/no
• Полный перебор:
• 275 = 37 778 931 862 957 161 709 568
• Метод всех пар:
28 !
34.
35. • Факторы, влияющие на результаты применения (и
применимость) метода:
• Степень зависимости между параметрами конкретной
системы
• Распределение вероятности комбинаций значений
параметров (5 существительных подряд!)
• Выбор параметров и их проверяемых значений
Метод всех пар
36. Таблицы решений
Таблица принятия решений - таблица, описывающая логику
работы системы для различных комбинаций начальных
условий.
Правило 1 Правило 2 …
Условия
Условие 1
Условие 2
…
Действия
Действие 1
Действие 2
…
Критерий покрытия – как
минимум один тест на
столбец.
Гипотеза – при некоторой
комбинации условий, может
выполниться неправильное
действие. Или при
некоторой комбинации
условий не выполнится
необходимое действие.
38. Таблицы решений
Пример
Таблица принятия решений для avia.mail.ru
Пр-ло 1 Пр-ло 2 Пр-ло 3 Пр-ло 4 Пр-ло 5 Пр-ло 6 Пр-ло 7 Пр-ло 8
Условия
Выбран город
откуда
Да Да Нет Нет Да Да Нет Нет
Выбран город
куда
Да Да Да Да Нет Нет Нет Нет
Туда-обратно Да Нет Да Нет Да Нет Да Нет
Действия
Действие 1 ищем ищем ворнинг ворнинг ворнинг ворнинг ворнинг ворнинг
39. Диаграммы состояний
Диаграмма состояний – ориентированный граф, в
котором вершины обозначают состояния, а дуги
показывают переходы между 2мя состояниями.
Критерий (самый слабый) – покрытие всех состояний и всех переходов.
41. Control-flow diagram
Граф потока управления - множество всех возможных путей
исполнения программы, представленное в виде графа
(Википедия).
Критерии покрытия:
• Покрытие ветвей потока
управления
• Покрытие путей потока
управления
42. Control-flow diagram
Покрытие всех ветвей графа потока управления
Тестовый набор удовлетворяет критерию покрытия ветвей потока
управления, если при выполнении этого тестового набора
управление хотя бы один раз проходит по каждому ребру графа
потока управления.
Тестовый набор (входные данные):
(0,30)
x = 17 - x
x = 0
x>17
x == -13
43. Control-flow diagram
Покрытие всех путей графа потока управления (комбинация
условий)
Тестовый набор удовлетворяет критерию покрытия путей потока
управления, если его выполнение хотя бы один раз проходит по
каждому возможному пути в графе потока управления ведущему от
точки входа до точки завершения работы.
Тестовый набор: (0, 30) (-13, 31)
x = 17 - x
x = 0
x>17
x == -13
44. Data-flow diagram
Граф потока данных – это граф, на котором показано движение
значений данных от их источников через преобразующие их
процессы к потребителям в других объектах.
Чтобы построить граф потока данных, сначала лучше построить
граф потока управления.
45. Data-flow diagram
Инструкция, в которой используется некоторая переменная,
называется ее использованием (use). Инструкция, в которой
определяется новое значение для некоторой переменной,
называется ее определением (definition).
du-путь — путь в графе потока управления, начинающийся с
вершины, соответствующей инструкции, определяющей
значение переменной, и заканчивающийся вершиной,
соответствующей инструкции ее использования, и не
содержащий вершин для инструкций определения этой
переменной, кроме первой.
Метрика покрытия использований (all-uses coverage) — доля
покрытых использований всех переменных по отношению к
количеству достижимых использований.
Метрика покрытия du-путей (du-path coverage) — доля
покрытых du-путей для всех переменных программы по
отношению к достижимым du-путям.
51. Code-coverage&
Unit-testing
100% покрытие инструкций и ветвей – необходимый, но не достаточный
критерий полноты тестирования.
Пример:
Любые 2 протестированных значения a и b обеспечивают 100% покрытие
кода.
При этом не обнаруживает ошибку.
Division by Zero.
53. Мутационные критерии
Мутация – применение к исходному коду программы 1 оператора
мутации.
Операторы мутации:
- удаление определенной инструкции
- добавление новой инструкции
- замена переменных в выражениях на другие переменные того же
типа или на константные выражения того же типа
- замена операторов арифметических действий +, –, *, / друг на друга
- замена логических операций друг на друга
- …
Программа, получаемая из тестируемой применением одного оператора
мутации, называется мутантом.
Метрика полноты тестов – доля обнаруженных мутантов.
Если все мутанты обнаружены – программа корректна и тесты полны.
54. Мутационные критерии
Мутация – применение к исходному коду программы 1 оператора
мутации.
Операторы мутации:
- удаление определенной инструкции
- добавление новой инструкции
- замена переменных в выражениях на другие переменные того же
типа или на константные выражения того же типа
- замена операторов арифметических действий +, –, *, / друг на друга
- замена логических операций друг на друга
- …
Программа, получаемая из тестируемой применением одного оператора
мутации, называется мутантом.
Метрика полноты тестов – доля обнаруженных мутантов.
Если все мутанты обнаружены – программа корректна и тесты полны.
55. Особенности веба
• Когда мы видим ошибку со стороны клиента, то мы видим симптом
ошибки, но не ее саму. (Саджест не работает, возможно отключен js)
• Ошибки часто зависят от среды и могут возникать не во всех
средах. (Пример – медленный канал)
• Ошибки могут быть в коде или в конфигурации. (Пример: ошибка в
конфиге nginx)
• Ошибки могут постоянно находиться на любом из нескольких
уровней (клиент, сервер, сеть?).
57. Материалы
1. Lee Copeland "A Practitioner'S Guide To Software Test Design“
2. Rex Black «Advanced Software Testing», Vol.3
3. Борис Бейзер «Тестирование черного ящика»
4. http://www.uchi-it.ru/7/10/soder.html
5. http://www.pairwise.org/tools.asp
6. http://www.developsense.com/pairwiseTesting.html
7. http://www.intuit.ru/department/se/testing/3/2.html
