Zwischen Himmel und Hölle - UX in Zeiten von KI

Zwischen Himmel und Hölle
UX in Zeiten von KI
Christoph Fröhlich, Dr. Christian Graf
4.2.2019 UX-Roundtable Hamburg
Ipsos, Hamburg

Christoph Fröhlich
Folge 3 GmbH
cf@folge3.de
Dr. Christian Graf
Ipsos GmbH
@_twain_

Warum mit KI beschäftigen? Warum jetzt?
https://www.wired.com/story/worlds-fastest-supercomputer-breaks-ai-record/
https://enterprisersproject.com/article/2018/12/ai-trends-2019
https://www.heise.de/newsticker/meldung/WIPO-Studie-Patentwelle-bei-Kuenstlicher-Intelligenz-rollt-heran-4296540.html

Ziel unseres Vortrages
https://cdn.icon-icons.com/icons2/817/PNG/512/thefreeforty_target_icon-icons.com_66342.png
Ziel dieses Vortrages: Wir wollen untersuchen wie die Gegenwart von Künstlicher Intelligenz in
Produkten diese zu erfolgreichen und akzeptierten Lösungen für die Nutzer macht - oder eben zu
Produkten “aus der Hölle”. Bei diesen neuen Produkten stellen sich neue Herausforderung
unterschiedlicher Art, die bei “klassischen” Produkten noch keine Rolle spielten und die Konzeption
vor neue Herausforderungen stellt. Wir wollen Voraussetzung und Strategien diskutieren, mit denen
UXler und Produktmanager nützliche und akzeptierte KI-Produkte konzipieren und schaffen können
und Fälle aufzeigen in denen es sehr schwierig ist, den Nutzen der KI und eine guten UX zu vereinen.
Wir wollen eine Diskussion anregen, gerne später auch offline über XING, Twitter und Co.

Was meinen wir, wenn
wir „KI“ sagen

https://c2.staticflickr.com/4/3741/11125963283_4043bc5b03_b.jpg
http://archive.4plebs.org/dl/tg/image/1464/90/1464909318693.jpg
Die KI, die wir NICHT meinen!

Dystopien, Menschheitsprojekte und der Alltag
© Bruno Künzel
https://commons.wikimedia.org/wiki/
File:Apollo_11_Saturn_V_lifting_off_on_July_16,_1969.jpg

Wie intelligent ist künstliche Intelligenz?
Arthur C.Clarke
“Jede hinreichend fortschrittliche Technologie ist von
Magie nicht zu unterscheiden.”

UX
Geschäfts-
ziele
Nutzer-
bedürfnisse

Hamburg - Kuala Lumpur bei Google Flights

Abflugtag nach Preis auswählen

Hinflug auswählen für 3.034 €

Rückflug auswählen für 3.034 €

Oh. Eben waren es noch 3.034 €

Die Überraschung bei Expedia
3.764,- € 3.034,- € 3.337,- €

UX aus dem Himmel oder aus der Hölle?
© Bruno Künzel

Google
Expedia
Lufthansa Revenue Services
Emirates Revenue Services
XY Revenue Services
Wie funktioniert es

Und: Wie komme ich selbst an die günstigen
Tickets?
Marcus Frank lächelt. "Fliegen Sie dann,
wenn wir Sie als Passagier brauchen", sagt
der Manager.
Wie wichtig ist Kundenzufriedenheit
für die Revenue Service Abteilungen?

Google
Expedia
Lufthansa Revenue Services
Emirates Revenue Services
XY Revenue Services
Wie funktioniert es
Amadeus
3.084 bis 3.098 €
3.337 €
? €
? €

Einschätzung für dynamische Flugpreise
Wie nah ist die KI am UI?
weit weg sehr nah
Ist der Einsatz transparent
gegenüber dem Nutzer?
nein ja
Bietet der KI-Einsatz einen
Mehrwert für den Kunden? nein ja
Ist es eher eine Evolution
oder eher eine Revolution?
Evolution Revolution

https://www.mckinsey.com/industries/retail/our-insights/how-retailers-can-
keep-up-with-consumers
„ Already, 35 percent of what consumers purchase on
Amazon and 75 percent of what they watch on Netflix
come from product recommendations based on such
algorithms. “

NetflixAmazon Prime Spotify
Für wen wird empfohlen

Einschätzung für Recommender
weit weg sehr nah
nein ja
Evolution oder Revolution

Himmel oder Hölle?
© Bruno Künzel

Funktionsweise
Server Nachrichtenportal
Server Werbenetzwerk

Einschätzung für Werbenetzwerke
weit weg sehr nah
nein ja
Ist es eine Evolution oder
eine Revolution?

Einschätzung Verkaufsassistent
weit weg sehr nah
nein ja
Ist es eine Evolution oder
eine Revolution?

Vergleich der Beispiele
nah
am UI
Transparent
Mehrwert für
Kunden?
Evo /
Revo
Himmel /
Hölle
Reco-
mender
ja
Revo
ja
ja
Dynamische
Preisbildung
nein
nein
Revo
so so
Verkaufs-
assistent
ja
ja
ja
Evo
Werbe-
Netzwerke
nein
Revo
so so
ja

1.KI ermöglicht Automatismus in neuen Bereichen
2.KI befördert Animismus & Anthropomorphismus
3.KI-Akzeptanz erfordert Kommunikation
4.Einbau von KI in Systeme fordert neue Fähigkeiten im
Produktteam
Vier Thesen

1. KI ermöglicht Automatismus in neuen
Bereichen
„Turning AI into concrete value: the successful implementers‘ toolkit“ von Capgemini

2. KI befördert Animismus &
Anthropomorphismus
https://usercontent2.hubstatic.com/13060997_f1024.jpg

2. KI befördert Animismus &
Anthropomorphismus
„Wir Menschen sind anders. Wir sprechen allen möglichen Dingen eine Seele zu. Wir geben
unserem Auto einen Namen, und wenn es erst anspringt, wenn wir das Lenkrad streicheln, sehen
wir darin ein Indiz für seine Persönlichkeit.“
Theresa Züger, Psychologin
https://www.zeit.de/zeit-magazin/2017/53/seele-psychologie-existenz-suche/komplettansicht
Unsere These zum Animismus ist, dass KI es den Menschen leichter machen wird, auch digitale
Produkte für sich zu beseelen und eine engere Beziehung zu dem Produkt zu entwickeln. Das ist
für die Schaffung von User-Erfahrung und Kundenzufriedenheit eine Chance.

2. Anthropomorphismus
https://www.slideshare.net/WenGeng/media-equation-presentation-draft-1

Gesteigerte Erwartung
„Wenn ihr klug genug seid, mitzubekommen, dass ich schwanger
bin, dass es eine Geburt gab, dann seid ihr sicher auch klug
genug, mitzukriegen, dass mein Baby gestorben ist, und dann
könnt ihr eure Anzeigen anpassen, oder … mir gar keine mehr
zeigen."
Gillian Brockell
https://www.brigitte.de/familie/mitfuehlen/facebook--mutter-beschwert-sich-nach-totgeburt-ueber-werbeanzeigen-11504194.html

3. KI-Akzeptanz erfordert Transparenz,
Nachvollziehbarkeit und Wahlfreiheit
1. Transparenz: Einsatz der KI kommunizieren
2. Nachvollziehbarkeit: Erklärung warum ein Ergebnis plausibel ist
3. Wahlfreiheit: KI-Nutzung den Nutzern freistellen, mehrere Optionen
zur Auswahl stellen (⇒ Kontrollgefühl)

3.2 Nachvollziehbarkeit braucht
Übersetzungsleistung
Ziel: Ergebnisse der KI für Menschen nachvollziehbar machen
Mittel 1: Ergebnisse der KI interpretierbar machen
Mittel 2: Funktionsweise der KI verstehbar machen

KI muss übersetzt werden
Variable 1
Variable 2
Variable 3
Input
Blackbox
KI
Ergebnis
Output
Ergebnisse der KI sind (meist)
interpretationsbedürftig

KI muss übersetzt werden
Unklar welche Informationen berechnet sind und
welche sich auf direkte Beobachtung stützen
Beispiel: Auslastung der Straßen (wahrscheinlich)
prognostiziert vs. Sperrungen und Baustellen
(hoffentlich) aus Beobachtung
Unklar welche Prognosesicherheit
hinter der Darstellung der
Auslastung steckt

4. Einbau von KI in Systeme braucht neue
Fähigkeiten im Produktteam
Human Evolution. via Wikimedia Commons (José-Manuel Benitos)
● Übersetzungsleistung für Nutzer von KI-Systemen muss vom
Produktteam erbracht werden
● “New talent gap” gibt es nicht nur auf Entwicklerseite, sondern
auch bei PO, UX, Marketing etc.: Technische Einsicht als
Vorbedingung zu Erklärungsvermögen
● Tiefe des Technikverständnis unklar: Wieviel ist genug?

Fazit & Diskussion
• KI wird alltäglich, im Einzelfall aber nur erfolgreich falls vom
Nutzer akzeptiert
• Akzeptanz abhängig von Mehrwert durch die KI,
Nachvollziehbarkeit für den Nutzer und Einsatzgebiet der KI
• Verantwortung für die Schaffung akzeptabler KI-Produkte liegt
bei Produktteam, UX-Designer und PO
• UCD als grundlegendes Mind-Set Voraussetzung
• Hoher Anspruch an sie: Wie sollten neues Skillset, neue
Methoden, neue Best-Practices aussehen?

Offene Fragen
1. Welche qualitative Bedeutung haben die Größen Wahlfreiheit,
Nachvollziehbarkeit und Transparenz heute für Nutzer: Ist jeder für
sich jeweils (nach dem KANO-Modell) Basisfaktoren,
Leistungsfaktoren oder Begeisterungsfaktoren?
2. Ist die Bedeutung der Größen Wahlfreiheit, Nachvollziehbarkeit und
Transparenz für einen Menschen bei unterschiedlichen
Produkten/Produktklassen unterschiedlich?
3. Von welchen Faktoren hängt die Bedeutungszuschreibung ab
(demographischen Faktoren der Nutzer, Einsatzbereich des
Produkts, Branche, …)?

Offene Fragen
4. Wird es Menschen in 5 Jahren noch interessieren, wo KI drinsteckt
und wie sie zu ihren Ergebnissen kommt?
https://enterprisersproject.com/article/2018/12/ai-trends-
2019?page=1

Vielen Dank
Christoph Fröhlich
Folge 3 GmbH
cf@folge3.de
Dr. Christian Graf
Ipsos GmbH
@_twain_

Linkempfehlung KI & Ethik / Gesellschaft
1. Veranstaltungshinweise für den 18.2.: „Künstliche Intelligenz - Der nächste Schritt der
Digitalisierung“
2. Forschergruppe “Living Space” an der HAW rund um Kai von Luck, die sich mit dem
Thema beschäftigt und kürzlich den Vortrag “Erklärbare AI” gehalten hat
3. Forschergruppe "Ethik in der Informationstechnologie (EIT)" an der UniHH rund um
Judith Simon, die sich mit Fragen um Ethik und Informatik beschäftigt, z.B. “Ethik in
der Künstlichen Intelligenz - Moral für Maschinen?"
4. European Approach on a responsible usage of AI based on an European ethical
framework
5. Richtlinien für den ethischen Umgang mit KI bei SAP
6. Statement & Ethikrichtlinien der Hochrangige Expertengruppe für Künstliche
Intelligenz der Europäischen Kommission (Hintergrundartikel)
7. Literaturauswahl der Enquete-Kommission des Deutschen Bundestages „Künstliche
Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und
ökologische Potenziale“

Studie “Arbeit 2028: Trends, Dilemmata und Chancen”
https://www.detecon.com/de/wissen/studie-arbeit-2028-trends-dilemmata-und-chancen

KI für drei verschiedene Bereiche: Entscheiden, Wahrnehmen, Verstehen:
Quelle:"KünstlicheIntelligenzinderF&E“(http://www.ki-
produktentwicklung.com/site/assets/files/1202/kbm_kuenstliche_intelligenz_2018-04-10_esa_online.pdf)

Most popular uses of AI/ML
1. increase efficiencies or worker
productivity (51 percent)
2. inform future business decisions
(41 percent)
3. streamline processes (39
percent)
Quelle: (https://enterprisersproject.com/article/2018/12/ai-trends-201

KI extrahiert automatisch Produktattribute aus
Bildern

Angabe der Trefferwahrscheinlichkeit und
Möglichkeit manuell nachbesserbar: Gut?!

Natürlichsprachlicher Dialog mit einer KI:
Gestern.
https://upload.wikimedia.org/wikipedia
/commons/9/98/GNU_Emacs_ELIZA
_example.png
GNU Emacs 21 showing
ELIZA. Self-made by
User:Ysangkok on June
9th 2007

Einen Friseurtermin buchen
Einen Tisch im Restaurant reservieren
Natürlichsprachlicher Dialog mit einer KI:
Morgen?

Stimme 1: "Hallo, wie kann ich Ihnen helfen?"
Stimme 2: "Hi, ich rufe an, um für eine Kundin einen Damenhaarschnitt zu
buchen."
Stimme 2: "Am besten wär's am 3. Mai."
Stimme 1: "Klar, einen Moment bitte."
Stimme 2: "Mm-Hmm."
Stimme 1: "Gut. Um welche Uhrzeit würde es denn passen?"
Stimme 2: "Um 12 Uhr."
Stimme 1: "Um 12 Uhr haben wir nichts mehr frei. Die nächste Möglichkeit
wäre 13:15 Uhr."
Stimme 2: "Haben Sie vielleicht etwas zwischen 10 und 12 Uhr?"
Stimme 1: "Kommt darauf an, was gemacht werden soll. Was will sie denn
gemacht haben?"
Stimme 2: "Für's Erste nur einen Damenhaarschnitt."
Stimme 1: "Okay, das können wir um 10 Uhr machen."
Stimme 2: "10 Uhr passt prima."
Stimme 1: "Okay, wie lautet ihr Vorname?"
Stimme 2: "Der Vorname ist Lisa."
Stimme 1: "Okay, perfekt. Dann sehen wir Lisa am 3. Mai um 10 Uhr."
Stimme 2: "Okay. Super. Danke."
Stimme 1: "Prima. Einen schönen Tag noch. Tschüss."
Natürlichsprachlicher Dialog mit einer KI

Muss die Maschine sagen, dass sie eine ist?
- Was passiert, wenn die KI jemanden nachahmt, dem wir vertrauen?
- Was, wenn wir eine soziale Bindung zu einer KI aufbauen oder uns
gar in sie verlieben? (Spielfilm “Eva”)
- Was, wenn wir ihr menschliche Fähigkeiten zuschreiben, sie aber nur
unterhalb dieses Niveaus agieren kann? - Dann könnte es schnell zu
Unfällen kommen.
Toby Walsh (2016): Turing's Red Flag law → Transparenz!
- In Zukunft dann: “Guten Tag, ich bin der Google Assistant von
Christian Graf”?

Der Gruselgraben-Effekt (“uncanny valley”)
https://commons.wikimedia.org/wiki/File:Mori_Uncanny_Valley_de.svg#/media/File:Mori_Uncanny_Valley_de.svg
Tobias K. [CC BY-SA 3.0 (http://creativecommons.org/licenses/by-sa/3.0/)], via Wikimedia Commons

Mit KI: Länger glaubhaft, dann steilerer Absturz
aber eventuell nicht so tief
Eigene Darstellung basierend auf
https://commons.wikimedia.org/wiki/File:Mori_Uncanny_Valley_de.svg#/media/File:Mori_Uncanny_Valley_de.svg
Tobias K. [CC BY-SA 3.0 (http://creativecommons.org/licenses/by-sa/3.0/)], via Wikimedia Commons

Zwischen Himmel und Hölle - UX in Zeiten von KI

Recommandé

Recommandé

Contenu connexe

Similaire à Zwischen Himmel und Hölle - UX in Zeiten von KI

Similaire à Zwischen Himmel und Hölle - UX in Zeiten von KI (20)

Plus de Christian Graf

Plus de Christian Graf (11)

Zwischen Himmel und Hölle - UX in Zeiten von KI