1. Wij krijgt controle over onze Big Data? Matthijs Pontier, Ph.D. 2. Vrij delen van informatie, kunst en cultuur Evidence-based policy met een lange-termijn visie Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten Vertrouwen in goedheid mensen vs Wantrouwen machtsstructuren Enthousiast over mogelijkhede tech, maar alert op risico’s Tech to empower people; niet om te onderdrukken Basis principes PPNL Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 3. Monopolization Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 4. Hoe groter het bedrijf Hoe groter het machtscentrum Hoe groter de kans dat een bedrijf deze macht op een verkeerde manier gaat gebruiken Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 5. Corporate surveillance: ‘Smart TV’ Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 6. Smart TV hackers filmen mensen die seks hebben op hun bank en plaatsen het op porno sites! Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 7. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 8. Wie wordt de baas in jouw ‘slimme’ huis? Hackers? Virussen? Terroristen? Bedrijven die eigenlijk je apparaat bezitten in praktijk? De AI die vertelt wat je moet doen? Of krijgen ze een eigen wil? Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 9. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de nadelen? Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 10. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 11. Responsible Digital Cities Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie Verzamelde data is gemeenschapsgoed: Commons Openheid over dataverzameling en verwerking Transparantie Iedereen kan meedoen: Inclusie Menselijke maat staat centraal in alles wat we doen Empathie Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 12. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data? 13. Privacy inperken voor veiligheid? 1. Niet effectief 2. Leidt tot ongezonde machtsverhouding 3. Privacy juist voorwaarde voor veiligheid 4. Er bestaan prima alternatieven 14. Niets te verbergen? Iedereen heeft wel wat te verbergen Functie in sociale relaties Als je niks te verbergen hebt, mogen anderen dan ook niks te verbergen hebben? Snowden: “Ik vind privacy niet belangrijk, want ik heb toch niets te verbergen” “Ik vind vrijheid meningsuiting

1. Wij krijgt controle over
onze Big Data? Matthijs Pontier, Ph.D.

2. Vrij delen van informatie, kunst en cultuur
Evidence-based policy met een lange-termijn visie
Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten
Vertrouwen in goedheid mensen vs Wantrouwen machtsstructuren
Enthousiast over mogelijkhede tech, maar alert op risico’s
Tech to empower people; niet om te onderdrukken
Basis principes PPNL
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

3. Monopolization
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

4. Hoe groter het bedrijf
Hoe groter het
machtscentrum
Hoe groter de kans dat
een bedrijf deze macht
op een verkeerde
manier gaat gebruiken
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

5. Corporate surveillance: ‘Smart TV’
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

6. Smart TV hackers filmen mensen
die seks hebben op hun bank
en plaatsen het op porno sites!
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

7. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

9. Wie wordt de baas in jouw ‘slimme’ huis?
Hackers? Virussen?
Terroristen?
Bedrijven die
eigenlijk je apparaat
bezitten in praktijk?
De AI die vertelt wat
je moet doen?
Of krijgen ze een
eigen wil?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

10. Verkapte privatisering publieke diensten?
Wie beheert AI in
‘slimme’ stad?
Wie beheert de
data die we samen
produceren?
Wie profiteert van
de voordelen?
Wie kampt met de
nadelen?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

11. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

12. Responsible Digital Cities
Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership
Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie
Verzamelde data is gemeenschapsgoed: Commons
Openheid over dataverzameling en verwerking Transparantie
Iedereen kan meedoen: Inclusie
Menselijke maat staat centraal in alles wat we doen Empathie
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

13. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

14. Privacy inperken voor veiligheid?
1. Niet effectief
2. Leidt tot ongezonde machtsverhouding
3. Privacy juist voorwaarde voor veiligheid
4. Er bestaan prima alternatieven

15. Niets te verbergen?
Iedereen heeft wel wat te verbergen
Functie in sociale relaties
Als je niks te verbergen hebt, mogen anderen dan ook
niks te verbergen hebben?
Snowden: “Ik vind privacy niet belangrijk, want ik heb
toch niets te verbergen”
“Ik vind vrijheid meningsuiting niet belangrijk,
want ik heb toch niets te melden”
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

16. Scheve Machtsverhouding
Burger - Overheid
Reisgedrag en function creep
Bespieden telefoon- en computergebruik
Internet of Things
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

18. Overheid niet altijd betrouwbaar
Overheid laat gegevens slingeren
WRR: Overheid onbetrouwbaar met gegevens.
Informatie wordt gemanipuleerd.
Ook overheid kan misdadig gedrag vertonen:

20. Profiling
Big Data algoritmes krijgen
dezelfde bias als hun makers en/of
trainingsdata
Dit versterkt discriminatie van
gestigmatiseerde groepen
(en sommigen zullen het zelfs
gebruiken ter rechtvaardiging)
Matthijs Pontier, Ph.D, 24-11-2017, Wie krijgt controle over onze Big Data?

22. Als technologie voor je denkt
Vertellen programmeurs dan wat je moet denken?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen
Wie krijgt controle over onze Big Data?

23. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

25. Big Data
algoritmes krijgen
dezelfde bias als
hun makers en/of
hun trainingsdata
Matthijs Pontier, Ph.D, Wie krijgt controle over onze Big Data?

26. Slachtoffers van Profiling

27. Slachtoffers van Profiling

28. Dat ze mijn
afvalhoeveelheden
controleren is bizar!
Mijn dochter en ik proberen
onze ecologische voetafdruk
zo klein mogelijk te houden.
Als dit geen inbreuk is op de
privacy, dan weet ik het niet
meer..

29. Slachtoffers van Profiling

30. Slachtoffers van Profiling

31. Massa surveillance: voor 1 doel, worden tienduizenden bespied
Info delen met dubieuze regimes
Lekken laten zitten om ons te kunnen hacken
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

34. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

35. Gebruik alternatieven voor Big Tech (Google, Facebook, Microsoft, Amazon)
Enrypt e-mail Protonmail
Encrypt phone Signal
Encrypt messaging Signal
Iets van het Internet afhalen bestaat niet.
Betaal zoveel mogelijk contant
Weiger slimme meter; Wees kritisch over ‘smart’
Toolbox.BoF.nl
Gebruik Tor, VPN, DoNotTrack, uBlock, AdNauseam
Laat je niet meeslepen in het Big Data net
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

36. Tech in de commons
Democratiseer de ontwikkeling van technologie
Kosten, risico’s en opbrengsten worden eerlijk gedeeld
Ontwikkel technologie op zo’n manier dat het welzijn bevordert

37. Matthijs Pontier, Ph.D, Wie krijgt controle over onze Big Data?

38. Stop corporate surveillance
Zet goede standaard voor Privacy by Design / Data-ownership
Meer vrijheid voor kleine startups en cooperaties
en reguleer Big Business
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

39. Wordt AI een nieuwe
supermacht?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

41. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

42. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

43. Why we should have mandatory
Machine Ethics
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

44. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?
Paperclip
machine

46. 5G + IoT + AI = Superrobot
“With the Internet of
Things, we’re building a
world-size robot. How are
we going to control it?”
Click here to kill everyone
by Bruce Schneier
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

47. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

48. Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

49. Machine Ethics
Machines worden steeds autonomer
Machines interacteren steeds meer met mensen
We moeten ervoor zorgen dat machines ons, en onze autonomie niet bedreigen
49
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

50. Moral reasoning system
We hebben een moral reasoning system ontwikkeld
dat balanceert tussen verschillende morele doelen
Beslissingen kwamen overeen met medisch-ethische experts
50
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

51. Autonomy
51
Resultaten:
Kon juridische beslissingen simuleren over:
- Bemoeizorg
- Gedwongen opname na zelfbindingsverklaring
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

52. Cars that make ethical decisions

53. Why every AI
should have Machine Ethics
Machine Ethics = AI-Safety
Make sure the intelligence explosion benefits us

54. Waarom elke AI
open-source zou moeten zijn
Algorithmes en robots
zullen onze levens
steeds meer
beinvloeden
Wie controleert de
programmeurs?
Goede ideeen zijn
gemaakt om
gekopieerd te worden
Extra waarde creeren
zonder kosten
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

55. e-Democracy
• Laagdrempelig participeren in een democratisch proces
• Stemmen op ideeen; niet op partijen of personen
• Power of Ideas replace the idea of power
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

56. citizens.is
Better Alamance
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

57. • Everybody can add ideas
• Everybody can add arguments
• Best ideas and arguments automatically come up
How does it work?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

59. • Niet eens in de paar jaar stemmen, maar altijd stem kunnen aanpassen
• Vertegenwoordiging kan verschillen per onderwerp
• Vertegenwoordiging is altijd vrijwillig
• Maakt vertegenwoordiging persoonlijk; impliceert vertrouwen
Representation in an e-Democracy

60. <slide e-democracy>
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

61.  Could there be a symbiosis between AI and e-democracy?
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

62. Book: Machine Medical Ethics
62
• How to develop robots with
human-like ethics?
• Need for Open Source
• How to use healthcare tech in a
way that improves well-being
• Changed doctor-patient relation
• Deep Brain Stimulation
• Sex-robots
• Etc.
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?

63. Thanks!
• @Matthijs85
• Matthijs Pontier
• matthijs@piratenpartij.nl
• http://www.piratenpartij.nl/
• @Piratenpartij
• @PP_Amsterdam
• Schrijf mee aan ons programma:
deagendavanamsterdam.nl
• Actief worden?
• vrijwilligers@piratenpartij.nl
• amsterdam@piratenpartij.nl
9 december 2017 ALV over
o.a kieslijst en programma

64. More reading and watching
Intelligent cars could boost highway capacity by 273%
Autonomous Car Platoons
How to hack a car
Zelfrijdende auto's moeten leren wie ze dood willen rijden
Vrij van controledrift, bureaucratie en armoede met een basisinkomen
Boek: Machine Medical Ethics
Zorgrobots, maar geen botte zorg
Crowdsource EU: People's Constitution
De toekomst van democratie volgens Matthijs Pontier van de Piratenpartij
Matthijs Pontier, Ph.D, 24-11-2017, Inholland Diemen, Wie krijgt controle over onze Big Data?