Smart cities - Vloek of zegen? 2018-09-30Piratenpartij Utrecht ,piratenpartij ,tech ,smart city ,smart cities ,ethiek ,ppnl ,ppu ,privacy ,criminaliteit ,commons ,democratie ,edemocracy 1. Smart Cities – Vloek of Zegen? Matthijs Pontier, Ph.D. 2. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 3. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 4. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de 5. Amsterdam wil data verzamelen en delen, om: – Maatschappelijke vraagstukken oplossen – Dienstverlening verbeteren – Slimmer handhaven – Openbare ruimte beheren – Werkprocessen efficiënter – Zorg verbeteren – Patronen herkennen om gedrag te beïnvloeden “Amsterdam doet daarbij graag zaken met de markt” 6. Profiling Big Data algoritmes krijgen dezelfde bias als hun makers en/ of trainingsdata Dit versterkt discriminatie van gestigmatiseerde groepen (en sommigen zullen het zelfs gebruiken ter rechtvaardiging) Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 7. Big Data algoritmes krijgen dezelfde bias als hun makers en/of trainingsdata 8. Slachtoffers van Profiling 9. Als technologie voor je denkt Vertellen programmeurs dan wat je moet denken? Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 10. Mass surveillance: voor 1 target, tienduizenden bespieden Info delen met dubieuze regimes Devices bewust lek houden om ons te hacken Matthijs Pontier, Ph.D., 30-09- 13. Wie wordt de baas in jouw ‘slimme’ huis? Hackers? Viruses? Terrorists? Companies that actually own your devices? The AI that tells you what to do? Or will they control themselves? Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 14. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 15. Monopolization Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 16. Hoe groter het bedrijf Hoe groter het machtscentrum Hoe groter de kans dat een bedrijf deze macht op een verkeerde manier gaat gebruiken Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 17. Tech Commons Democratiseer de ontwikkeling van technologie Kosten, risico’s en opbrengsten worden eerlijk gedeeld Ontwikkel technologie op zo’n manier dat het welzijn bevordert 18. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 19. Need to stop corporate surveillance Set good standards for Privacy by Design / Data-ownership Regulate Big Business vs More freedom for small startups / cooperatives Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 20. Local vs Centralized data Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen? 21. Who will control ‘smart’ cars?

1. Smart Cities – Vloek of Zegen?
Matthijs Pontier, Ph.D.

2. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

5. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

6. Verkapte privatisering publieke diensten?
Wie beheert AI in
‘slimme’ stad?
Wie beheert de
data die we
samen
produceren?
Wie profiteert van
de voordelen?
Wie kampt met de

7. Amsterdam wil data
verzamelen en delen, om:
– Maatschappelijke
vraagstukken oplossen
– Dienstverlening verbeteren
– Slimmer handhaven
– Openbare ruimte beheren
– Werkprocessen efficiënter
– Zorg verbeteren
– Patronen herkennen
om gedrag te beïnvloeden
“Amsterdam doet daarbij
graag zaken met de markt”

8. Profiling
Big Data algoritmes krijgen
dezelfde bias als hun makers en/
of trainingsdata
Dit versterkt discriminatie van
gestigmatiseerde groepen
(en sommigen zullen het zelfs
gebruiken ter rechtvaardiging)
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

9. Big Data
algoritmes
krijgen dezelfde
bias als hun
makers en/of
trainingsdata

10. Slachtoffers van Profiling

12. Als technologie voor je denkt
Vertellen programmeurs dan wat je moet denken?
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

13. Mass surveillance: voor 1 target, tienduizenden bespieden
Info delen met dubieuze regimes
Devices bewust lek houden om ons te hacken
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

14. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

15. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

16. Wie wordt de baas in jouw ‘slimme’ huis?
Hackers? Viruses?
Terrorists?
Companies that
actually own your
devices?
The AI that tells you
what to do?
Or will they control
themselves?
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

17. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

19. Monopolization
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

20. Hoe groter het bedrijf
Hoe groter het
machtscentrum
Hoe groter de kans dat
een bedrijf deze macht
op een verkeerde
manier gaat gebruiken
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

21. Tech Commons
Democratiseer de ontwikkeling van technologie
Kosten, risico’s en opbrengsten worden eerlijk gedeeld
Ontwikkel technologie op zo’n manier dat het welzijn bevordert

23. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

24. Need to stop corporate surveillance
Set good standards for Privacy by Design / Data-ownership
Regulate Big Business vs
More freedom for small startups / cooperatives
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

25. Local vs Centralized data
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

26. Who will control ‘smart’ cars?
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

27. “With the Internet of
Things, we’re building a
world-size robot. How
are we going to control
it?”
Click here to kill
everyone
IoT + AI = Superrobot

28. Why every AI
should have Machine Ethics
Machine Ethics = AI-Safety
Make sure the intelligence explosion benefits us
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

29. Waarom elke AI
open-source zou moeten zijn
Algoritmes en robots
zullen onze levens
steeds meer
beïnvloeden
Wie controleert de
programmeurs?
Goede ideeën zijn
gemaakt om
gekopieerd te
worden
Extra waarde creëren
zonder kosten
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

30. Responsible Digital Cities
Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership
Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie
Verzamelde data is gemeenschapsgoed: Commons/OpenData
Openheid over dataverzameling en verwerking Transparantie
Iedereen kan meedoen: Inclusie
Menselijke maat staat centraal in alles wat we doen Smart Citizens
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

31. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

32. Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

33. e-Democracy
• Laagdrempelig participeren in een democratisch proces
• Stemmen op ideeen; niet op partijen of personen
• Power of Ideas replace the idea of power
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

34. • Everybody can add ideas
• Everybody can add arguments
• Best ideas and arguments automatically come up
How does it work?

36. <slide e-democracy>
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

37.  Could there be a symbiosis between AI and e-democracy?
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?

38. Thanks!
Matthijs Pontier, Ph.D., 30-09-2018, Smart City - Vloek of Zegen?