SlideShare une entreprise Scribd logo
1  sur  12
Télécharger pour lire hors ligne
03‐Jun‐14
1
What’s the Problem?
Michael Bolton
http://www.developsense.com
michael@developsense.com
James Bach
http://www.satisfice.com
james@satisfice.com
What Is A Problem?
A problem is…
• …something that will lose money!
• …something that doesn’t meet expectations.
• …something that annoys or frustrates a user.
• …an obstacle that hinders the achievement of a
particular goal, objective, or purpose.
03‐Jun‐14
2
Problem
• “A difference between what is perceived and 
what is desired.”1
• “An undesirable situation that is significant to 
and maybe solvable by some agent, though 
probably with some difficulty.”2
1. Dewey, J. (1933), How We Think: A Restatement of the Relation of Reflective 
Thinking to the Educative Process
2. Smith, G.F. “Towards a Heuristic Theory of Problem Structuring”, Management 
Science. Vol. 34, No. 12
Problems (bugs, issues) are not attributes of a product,
but relationships between products and (some) people.
A common element to all 
problems is…
Desire
03‐Jun‐14
3
How Do We Recognize Problems?
An oracle is…
• a means by which we recognize
a problem that happens during 
testing.
• a way to recognize a problem
• something that tells us “problem” or
“no problem”
Familiar Problems
If a product is consistent with problems we’ve seen before,
we suspect that there might be a problem.
03‐Jun‐14
4
Explainability
If a product is inconsistent with our ability to explain it,
we suspect that there might be a problem.
World
If a product is inconsistent with the way the world works,
we suspect that there might be a problem.
03‐Jun‐14
5
History
If a product is inconsistent with previous versions of itself,
we suspect that there might be a problem.
Hey, I liked the 
menu bar!
How the #&@ 
do I print now?
Image
If a product is inconsistent with an image that
the organization wants to project, we suspect a problem.
03‐Jun‐14
6
Comparable Products
WordPad Word
When a product seems inconsistent with a comparable
product or algorithm, we suspect that there might be a problem.
Claims
When a product is inconsistent with claims that important
people make about it, we suspect a problem.
03‐Jun‐14
7
User Expectations
When a product is inconsistent with expectations that a 
reasonable user might have, we suspect a problem.
Purpose
When a product is inconsistent with its designers’ explicit 
or implicit purposes, we suspect a problem.
03‐Jun‐14
8
Product
When a product is inconsistent internally—as when it
contradicts itself—we suspect a problem.
Statutes and Standards
When a product is inconsistent with laws or widely
accepted or relevant standards, we suspect a problem.
03‐Jun‐14
9
17
Oracles are Not Perfect
And Testers are Not Judges
• You don’t need to know FOR SURE if something is a bug; 
it’s not your job to DECIDE if something is a bug.
• You do need to form a justified belief that it MIGHT be a 
threat to product value in the opinion of someone who 
matters.
• And you must be able to say why you think so; you must 
be able to cite good oracles… or else you will lose 
credibility.
• Linking feelings to principles and back to feelings is an 
important testing skill
What Might Feelings Tell Us?
Impatience   a threat to performance?
Frustration   a threat to capability?
Fear  a threat to security?
Surprise  a threat to reliability?
Confusion   a threat to usability? to testability?
Annoyance   a threat to charisma?
Boredom   an insignificant test?
Tiredness   time for a break?
Anxiety  a need for a particular skill?
Curiosity  a pointer to useful investigation?
03‐Jun‐14
10
Feelings as Heuristic Triggers for Oracles
• An emotional reaction or a feeling is a trigger to 
attention and learning.
• Without emotion, we don’t reason well.
– See Damasio, The Feeling of What Happens
• When you find yourself mildly concerned about 
something, someone else could be very concerned 
about it.
• Observe emotions to help overcome your biases, to 
evaluate significance, and to calibrate responses.
Emotions and feelings are signals.
Look into what they’re signalling.
Tacit Explicit
Other PeopleTester
Your
Feelings &
Mental Models
Shared Artifacts
(specs, tools, etc.)
Stakeholders’
Feelings &
Mental Models
Inference
Observable
Consistencies
ReferenceConference
Experience
Oracles from the Inside Out
03‐Jun‐14
11
• A person whose opinion matters.
• An opinion held by a person who matters.
• A disagreement among people who matter.
• A reference document with useful information.
• A known good example output.
• A known bad example output.
• A process or tool by which the output is checked.
• A process or tool that helps a tester identify patterns.
• A feeling like confusion or annoyance.
• A desirable consistency between related things.
General Examples of Oracles
things that suggest “problem” or “no problem”
21
People
Mechanisms & 
Artifacts
Feelings
Principles
Using and Choosing Our Oracles
• Some oracles are more authoritative
– but less predictable ... like the product owner
• Some oracles are more consistent
– but maybe not up to date … like the requirements document
• Some oracles are more immediate
– but less reliable … like our feelings
• Some oracles are more precise
– but less accurate … like an automated check with a bug in it
• Some oracles are more accurate
– but less precise … like our Blink oracles
• Some oracles are more available
– but less authoritative … like the programmer
• Some oracles are easier to interpret
– but more narrowly focused … like a good automated check
03‐Jun‐14
12
All Oracles Are Heuristic
• We often do not have oracles that establish a definite correct or 
incorrect result, in advance. Oracles may reveal themselves to us as 
we’re testing, or even later.  That’s why we keep our minds open and 
focused on a search from problems.
• No single oracle can tell us whether a program (or a feature) is 
working correctly at all times and in all circumstances. That’s why we 
use a variety of oracles.
• Any program that looks like it’s working, to you, may in fact be failing 
in some way that happens to fool all of your oracles. That’s why we 
proceed with humility and critical thinking.
• We never know when a test is finished. That’s why we try to remain 
professionally uncertain when everyone else on the project is sure.
• You (the tester) can’t know the deep truth about any result.  That’s 
why we report whatever seems likely to be a bug.
23
A Note On Problem Solving
• “In order to solve a problem one must be able to alter the 
structure which the situation spontaneously presents to the 
mind. To perceive is to grasp the salient features of a given 
state of affairs, ways of altering relations, accents, 
groupings, selections, etc. in such a way that the new 
pattern yields the desired solution. … Far from being 
arbitrary or nonsensical, the new, more appropriate 
structure is discovered in the situation itself.  A problem 
solver does not reorganize what he sees without reason. He 
is driven by the need to obtain from the given situation 
something it seems unprepared to give.”
• Rudolph Arnheim, Visual Thinking

Contenu connexe

En vedette

Чек-лист по юзабилити сайта
Чек-лист по юзабилити сайтаЧек-лист по юзабилити сайта
Чек-лист по юзабилити сайта
Promodo
 

En vedette (9)

Мастер Тест План / Тестовая Стратегия: Что это? Зачем? Как его создать?-От А ...
Мастер Тест План / Тестовая Стратегия: Что это? Зачем? Как его создать?-От А ...Мастер Тест План / Тестовая Стратегия: Что это? Зачем? Как его создать?-От А ...
Мастер Тест План / Тестовая Стратегия: Что это? Зачем? Как его создать?-От А ...
 
Мелочь пузатая или Объем тест кейса против его содержательности
Мелочь пузатая или Объем тест кейса против его содержательностиМелочь пузатая или Объем тест кейса против его содержательности
Мелочь пузатая или Объем тест кейса против его содержательности
 
План тестирования сайта
План тестирования сайтаПлан тестирования сайта
План тестирования сайта
 
Чек-лист по юзабилити сайта
Чек-лист по юзабилити сайтаЧек-лист по юзабилити сайта
Чек-лист по юзабилити сайта
 
План тестирования
План тестированияПлан тестирования
План тестирования
 
Бизнес-аналитик: синдром полукровки
Бизнес-аналитик: синдром полукровкиБизнес-аналитик: синдром полукровки
Бизнес-аналитик: синдром полукровки
 
Автоматизация рутинных задач контекстной рекламы
Автоматизация рутинных задач контекстной рекламыАвтоматизация рутинных задач контекстной рекламы
Автоматизация рутинных задач контекстной рекламы
 
Место аналитика: выбираем для себя
Место аналитика: выбираем для себяМесто аналитика: выбираем для себя
Место аналитика: выбираем для себя
 
Мы несем потери! Бригада разработчиков выехала!
Мы несем потери! Бригада разработчиков выехала!Мы несем потери! Бригада разработчиков выехала!
Мы несем потери! Бригада разработчиков выехала!
 

Similaire à В чем проблема?

Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
Malik Khalid Mehmood
 
CIL 2011 Thinking Strategically & Critically: Seeing possibilities
CIL 2011 Thinking Strategically & Critically: Seeing possibilities CIL 2011 Thinking Strategically & Critically: Seeing possibilities
CIL 2011 Thinking Strategically & Critically: Seeing possibilities
Rebecca Jones
 
SOC 213 Final Project Part I Guidelines and Rubric Ov.docx
SOC 213 Final Project Part I Guidelines and Rubric  Ov.docxSOC 213 Final Project Part I Guidelines and Rubric  Ov.docx
SOC 213 Final Project Part I Guidelines and Rubric Ov.docx
whitneyleman54422
 
There are two Discussion Boards and a Reflection Discussion for a .docx
There are two Discussion Boards and a Reflection Discussion for a .docxThere are two Discussion Boards and a Reflection Discussion for a .docx
There are two Discussion Boards and a Reflection Discussion for a .docx
randymartin91030
 

Similaire à В чем проблема? (20)

Are You A Problem Solver?
Are You A Problem Solver?Are You A Problem Solver?
Are You A Problem Solver?
 
朝邦對話新訊息 August cpyf dialogue newsletter
朝邦對話新訊息 August cpyf dialogue newsletter朝邦對話新訊息 August cpyf dialogue newsletter
朝邦對話新訊息 August cpyf dialogue newsletter
 
Building the team
Building the teamBuilding the team
Building the team
 
Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
Understanding logframe ___problem_tree_analysis_____by_dr_malik_khalid_mehmoo...
 
Solving Problems
Solving ProblemsSolving Problems
Solving Problems
 
Problem solving after brain injury with bancroft
Problem solving after brain injury with bancroftProblem solving after brain injury with bancroft
Problem solving after brain injury with bancroft
 
Education & Game Principles: Context, Theory & Application
Education & Game Principles: Context, Theory & ApplicationEducation & Game Principles: Context, Theory & Application
Education & Game Principles: Context, Theory & Application
 
Designing solutions to wicked problems
Designing solutions to wicked problems Designing solutions to wicked problems
Designing solutions to wicked problems
 
CIL 2011 Thinking Strategically & Critically: Seeing possibilities
CIL 2011 Thinking Strategically & Critically: Seeing possibilities CIL 2011 Thinking Strategically & Critically: Seeing possibilities
CIL 2011 Thinking Strategically & Critically: Seeing possibilities
 
Higher Education & Game Principles: Context, Theory & Application - Daniel La...
Higher Education & Game Principles: Context, Theory & Application - Daniel La...Higher Education & Game Principles: Context, Theory & Application - Daniel La...
Higher Education & Game Principles: Context, Theory & Application - Daniel La...
 
SOC 213 Final Project Part I Guidelines and Rubric Ov.docx
SOC 213 Final Project Part I Guidelines and Rubric  Ov.docxSOC 213 Final Project Part I Guidelines and Rubric  Ov.docx
SOC 213 Final Project Part I Guidelines and Rubric Ov.docx
 
Problem in social case work
Problem in social case workProblem in social case work
Problem in social case work
 
Hacking events - flashloan attack: presented by Epiphany
Hacking events - flashloan attack: presented by EpiphanyHacking events - flashloan attack: presented by Epiphany
Hacking events - flashloan attack: presented by Epiphany
 
Problem solving skill
Problem solving skillProblem solving skill
Problem solving skill
 
Problem Solving
Problem SolvingProblem Solving
Problem Solving
 
Decision making and problem solving tristan f. m agtalapa
Decision making and problem solving tristan f. m agtalapaDecision making and problem solving tristan f. m agtalapa
Decision making and problem solving tristan f. m agtalapa
 
There are two Discussion Boards and a Reflection Discussion for a .docx
There are two Discussion Boards and a Reflection Discussion for a .docxThere are two Discussion Boards and a Reflection Discussion for a .docx
There are two Discussion Boards and a Reflection Discussion for a .docx
 
Creativity & Problem Solving
Creativity & Problem Solving Creativity & Problem Solving
Creativity & Problem Solving
 
Making Good Design Decisions
Making Good Design DecisionsMaking Good Design Decisions
Making Good Design Decisions
 
What’s my next move our success in life—and sometimes our survi
What’s my next move our success in life—and sometimes our surviWhat’s my next move our success in life—and sometimes our survi
What’s my next move our success in life—and sometimes our survi
 

Plus de SQALab

Plus de SQALab (20)

Готовим стажировку
Готовим стажировкуГотовим стажировку
Готовим стажировку
 
Куда приводят мечты? или Искусство развития тестировщика
Куда приводят мечты? или Искусство развития тестировщикаКуда приводят мечты? или Искусство развития тестировщика
Куда приводят мечты? или Искусство развития тестировщика
 
Оптимизация Selenium тестов и ускорение их поддержки
Оптимизация Selenium тестов и ускорение их поддержкиОптимизация Selenium тестов и ускорение их поддержки
Оптимизация Selenium тестов и ускорение их поддержки
 
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияАвтоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
 
Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...
Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...
Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...
 
Continuous performance testing
Continuous performance testingContinuous performance testing
Continuous performance testing
 
Конфиги вместо костылей. Pytestconfig и зачем он нужен
Конфиги вместо костылей. Pytestconfig и зачем он нуженКонфиги вместо костылей. Pytestconfig и зачем он нужен
Конфиги вместо костылей. Pytestconfig и зачем он нужен
 
Команда чемпионов в ИТ стихии
Команда чемпионов в ИТ стихииКоманда чемпионов в ИТ стихии
Команда чемпионов в ИТ стихии
 
API. Серебряная пуля в магазине советов
API. Серебряная пуля в магазине советовAPI. Серебряная пуля в магазине советов
API. Серебряная пуля в магазине советов
 
Добиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестовДобиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестов
 
Делаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsДелаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIs
 
Вредные привычки в тест-менеджменте
Вредные привычки в тест-менеджментеВредные привычки в тест-менеджменте
Вредные привычки в тест-менеджменте
 
Мощь переполняет с JDI 2.0 - новая эра UI автоматизации
Мощь переполняет с JDI 2.0 - новая эра UI автоматизацииМощь переполняет с JDI 2.0 - новая эра UI автоматизации
Мощь переполняет с JDI 2.0 - новая эра UI автоматизации
 
Как hh.ru дошли до 500 релизов в квартал без потери в качестве
Как hh.ru дошли до 500 релизов в квартал без потери в качествеКак hh.ru дошли до 500 релизов в квартал без потери в качестве
Как hh.ru дошли до 500 релизов в квартал без потери в качестве
 
Стили лидерства и тестирование
Стили лидерства и тестированиеСтили лидерства и тестирование
Стили лидерства и тестирование
 
"Давайте не будем про качество"
"Давайте не будем про качество""Давайте не будем про качество"
"Давайте не будем про качество"
 
Apache.JMeter для .NET-проектов
Apache.JMeter для .NET-проектовApache.JMeter для .NET-проектов
Apache.JMeter для .NET-проектов
 
Тестирование геолокационных систем
Тестирование геолокационных системТестирование геолокационных систем
Тестирование геолокационных систем
 
Лидер или босс? Вот в чем вопрос
Лидер или босс? Вот в чем вопросЛидер или босс? Вот в чем вопрос
Лидер или босс? Вот в чем вопрос
 
От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...
От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...
От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...
 

Dernier

Histor y of HAM Radio presentation slide
Histor y of HAM Radio presentation slideHistor y of HAM Radio presentation slide
Histor y of HAM Radio presentation slide
vu2urc
 
Artificial Intelligence: Facts and Myths
Artificial Intelligence: Facts and MythsArtificial Intelligence: Facts and Myths
Artificial Intelligence: Facts and Myths
Joaquim Jorge
 
IAC 2024 - IA Fast Track to Search Focused AI Solutions
IAC 2024 - IA Fast Track to Search Focused AI SolutionsIAC 2024 - IA Fast Track to Search Focused AI Solutions
IAC 2024 - IA Fast Track to Search Focused AI Solutions
Enterprise Knowledge
 

Dernier (20)

Advantages of Hiring UIUX Design Service Providers for Your Business
Advantages of Hiring UIUX Design Service Providers for Your BusinessAdvantages of Hiring UIUX Design Service Providers for Your Business
Advantages of Hiring UIUX Design Service Providers for Your Business
 
Breaking the Kubernetes Kill Chain: Host Path Mount
Breaking the Kubernetes Kill Chain: Host Path MountBreaking the Kubernetes Kill Chain: Host Path Mount
Breaking the Kubernetes Kill Chain: Host Path Mount
 
2024: Domino Containers - The Next Step. News from the Domino Container commu...
2024: Domino Containers - The Next Step. News from the Domino Container commu...2024: Domino Containers - The Next Step. News from the Domino Container commu...
2024: Domino Containers - The Next Step. News from the Domino Container commu...
 
Histor y of HAM Radio presentation slide
Histor y of HAM Radio presentation slideHistor y of HAM Radio presentation slide
Histor y of HAM Radio presentation slide
 
A Domino Admins Adventures (Engage 2024)
A Domino Admins Adventures (Engage 2024)A Domino Admins Adventures (Engage 2024)
A Domino Admins Adventures (Engage 2024)
 
Boost Fertility New Invention Ups Success Rates.pdf
Boost Fertility New Invention Ups Success Rates.pdfBoost Fertility New Invention Ups Success Rates.pdf
Boost Fertility New Invention Ups Success Rates.pdf
 
Raspberry Pi 5: Challenges and Solutions in Bringing up an OpenGL/Vulkan Driv...
Raspberry Pi 5: Challenges and Solutions in Bringing up an OpenGL/Vulkan Driv...Raspberry Pi 5: Challenges and Solutions in Bringing up an OpenGL/Vulkan Driv...
Raspberry Pi 5: Challenges and Solutions in Bringing up an OpenGL/Vulkan Driv...
 
Artificial Intelligence: Facts and Myths
Artificial Intelligence: Facts and MythsArtificial Intelligence: Facts and Myths
Artificial Intelligence: Facts and Myths
 
Axa Assurance Maroc - Insurer Innovation Award 2024
Axa Assurance Maroc - Insurer Innovation Award 2024Axa Assurance Maroc - Insurer Innovation Award 2024
Axa Assurance Maroc - Insurer Innovation Award 2024
 
Boost PC performance: How more available memory can improve productivity
Boost PC performance: How more available memory can improve productivityBoost PC performance: How more available memory can improve productivity
Boost PC performance: How more available memory can improve productivity
 
IAC 2024 - IA Fast Track to Search Focused AI Solutions
IAC 2024 - IA Fast Track to Search Focused AI SolutionsIAC 2024 - IA Fast Track to Search Focused AI Solutions
IAC 2024 - IA Fast Track to Search Focused AI Solutions
 
GenCyber Cyber Security Day Presentation
GenCyber Cyber Security Day PresentationGenCyber Cyber Security Day Presentation
GenCyber Cyber Security Day Presentation
 
Apidays Singapore 2024 - Building Digital Trust in a Digital Economy by Veron...
Apidays Singapore 2024 - Building Digital Trust in a Digital Economy by Veron...Apidays Singapore 2024 - Building Digital Trust in a Digital Economy by Veron...
Apidays Singapore 2024 - Building Digital Trust in a Digital Economy by Veron...
 
Presentation on how to chat with PDF using ChatGPT code interpreter
Presentation on how to chat with PDF using ChatGPT code interpreterPresentation on how to chat with PDF using ChatGPT code interpreter
Presentation on how to chat with PDF using ChatGPT code interpreter
 
04-2024-HHUG-Sales-and-Marketing-Alignment.pptx
04-2024-HHUG-Sales-and-Marketing-Alignment.pptx04-2024-HHUG-Sales-and-Marketing-Alignment.pptx
04-2024-HHUG-Sales-and-Marketing-Alignment.pptx
 
Understanding Discord NSFW Servers A Guide for Responsible Users.pdf
Understanding Discord NSFW Servers A Guide for Responsible Users.pdfUnderstanding Discord NSFW Servers A Guide for Responsible Users.pdf
Understanding Discord NSFW Servers A Guide for Responsible Users.pdf
 
Finology Group – Insurtech Innovation Award 2024
Finology Group – Insurtech Innovation Award 2024Finology Group – Insurtech Innovation Award 2024
Finology Group – Insurtech Innovation Award 2024
 
Handwritten Text Recognition for manuscripts and early printed texts
Handwritten Text Recognition for manuscripts and early printed textsHandwritten Text Recognition for manuscripts and early printed texts
Handwritten Text Recognition for manuscripts and early printed texts
 
Scaling API-first – The story of a global engineering organization
Scaling API-first – The story of a global engineering organizationScaling API-first – The story of a global engineering organization
Scaling API-first – The story of a global engineering organization
 
What Are The Drone Anti-jamming Systems Technology?
What Are The Drone Anti-jamming Systems Technology?What Are The Drone Anti-jamming Systems Technology?
What Are The Drone Anti-jamming Systems Technology?
 

В чем проблема?