SMAU Milano 2018 - workshop

1. Intelligenza
Artificiale
applicata al
diritto e alla
giustizia

2. DirICTo è un network che raggruppa esperti e
studiosi di tutta l’Italia, in materia di Diritto
dell’Informatica e dell’Informatica Giuridica con il
fine di sviluppare attività di studio, ricerca e
approfondimento nell'ambito delle tematiche di
interesse comune per il mondo giuridico e
informatico
http://www.diricto.it

3. ICT for Law and Forensics è il laboratorio di
Informatica Forense del Dipartimento di Ingegneria
Elettrica e Elettronica dell’Università di Cagliari
Aree di interesse: e-commerce e contrattazione
telematica, la tutela giuridica dei domain names,
privacy e protezione dei dati personali nel mondo
ICT, Cyber Crimes, IT Security & Digital Forensics
http://ict4forensics.diee.unica.it

4. 4
Edoardo E. Artese
avvocato del foro di Milano
Esperto in IT e diritto commerciale (con specifica conoscenza dei
mercati Asiatici)
Membro Inter-Pacific Bar Asssociation
Membro di DirICTo
www.ac-legal.eu @ edoardo.artese@ac-legal-eu
www.ithai.eu
www.diricto.it

5. 5
Alberto Sarullo
Design Group Italia
Tecnologia, user experience, servizi
PisteCiclabili.com
Timbuktu Labs
linkedin.com/in/albertosarullo

6. 1. Evoluzione A.I.
1. Epoca pre computer
2. Connessionismo
3. Sistemi esperti
2. Machine learning
3. Mondo legale e A.I. che aiuta
4. A.I. che decide
5. A.I. che uccide e discrimina
Parleremo di
Intelligenza
Artificiale
6

7. Epoca pre computer
7

8. 8
Pre computer

9. 9
Il paradigma dell'apprendista
stregone
(Antonio Caselli, Intelligenza artificiale,
protezione dei dati personali e
regolazione di Giuseppe D'Acquisto,
Maurizio Naldi, Raffaele Bifulco, Oreste
Pollicino, Bassani Marco)
Pre computer

10. 10
Il Golem
Pre computer

11. 11
Pinocchio
Pre computer

12. Connessionismo
12

13. Intelligenza
Artificiale
Contesto storico
○ Connessionismo: tentativo di comprendere
come il cervello umano lavora a livello
neurale e come le persone imparano e
ricordano.
○ 1936 – Macchina di Turing
○ 1943 - Ogni neurone nel cervello è un
semplice processore digitale: il cervello non
è altro che una forma di computer
(McCulloch, Pitts)
○ “What we thought we were doing was
treating the braing as a Turing machine”
(McCulloch)
13

14. Intelligenza
Artificiale
1956: Conferenza di Darthmouth
14
“ogni aspetto
dell’apprendimento o
una qualsiasi altra
caratteristica
dell’intelligenza
possono essere
descritte così
precisamente da
poter costruire una
macchina che le
simuli”
http://www-formal.stanford.edu/jmc/history/dartmouth.pdf
https://web.archive.org/web/20150112124045/http://www.dif.unige.it/epi/hp/frixione/dartmouth_proposal_ital.pdf

15. Connessionismo
Scopo
Lo scopo ultimo dell’Intelligenza Artificiale era
(ed è) creare una Intelligenza Artificiale
Generale che si comporti come una
intelligenza umana, dotata di:
○ Ragionamento logico
○ Comprensione del linguaggio
○ Percezione dell’ambiente esterno
○ Capacità di movimento ed esplorazione
○ Intelligenza emotiva
○ Ragionamento morale
15

16. Connessionismo
Ottimismo nel mondo della ricerca
• 1965, H.A.Simon “machines will be capable,
within twenty years, of doing any work a man
can do.”
• 1967, Marvin Minsky: "Within a generation ... the
problem of creating 'artificial intelligence' will
substantially be solved.”
• 1970, Marvin Minsky: "In from three to eight
years we will have a machine with the general
intelligence of an average human being.
16

17. Connessionismo
Contesto economico:
• 1963: MIT riceve $2.2 M dalla appena
creata Advanced Research Projects
Agency (ARPA). Accordi simili con Newell,
Carnaige Mellon University e Stanfodr AI
project
• 1964-70: ARPA continua a finanziare MIT
con 3M / anno
• 1967: Waseda University, inizia il
programma WABOT completando nel
1972 WABOT-1, il primo robot humanoide
17

18. 19
Isaac Asimov e le tre leggi della robotica
1. Un robot non può recar danno a un essere
umano né può permettere che, a causa del
proprio mancato intervento, un essere umano
riceva danno.
2. Un robot deve obbedire agli ordini impartiti
dagli esseri umani, purché tali ordini non
contravvengano alla Prima Legge.
3. Un robot deve proteggere la propria
esistenza, purché questa autodifesa non
contrasti con la Prima o con la Seconda
Legge.
Connessionismo

19. 20
Connessionismo
HAL 9000, protagonista un computer
2001 Odissea
nello spazio
Philip K Dick
Solaris

20. Connessionismo
Limiti e disillusione
Potenza di calcolo
○ Linguaggio naturale: lavori di Ross Quillian dimostrati su
un vocabolario di 20 parole (la memoria non consentiva
di più)
○ Motion detection in tempo reale, richiede un computer di
10K-1M MIPS. Nel 1976 il più potente computer aveva
80-130 MIPS di potenza (Cray-1, 8M $)
Esplosione combinatoria
○ Complessità esponenziale di molti problemi, non
affrontabile con le risorse a disposizione
Conoscenze e ragionamento comuni
○ Nel 1970 non esistevano computer/database con le
consocenze di un bambino di 5 anni.
21

21. Connessionismo
22
Markov ModelsConnectionism
1960’s 1970’s1960
1973: DARPA, NRC, GB tagliano i finanziamenti
1950 1980
Winter is coming

22. Sistemi esperti
23

23. Sistemi esperti
24
1980: sistemi esperti
Sistema esperto: programma che risponde a
domande o risolve problemi legati ad dominio
specifico di conoscenza, usando regole
logiche derivate dalle conoscenze di esperti.

24. Sistemi esperti
25
Contesto economico
○ 1980, USA: successo per il sistema esperto
XCON realizzato presso Carneige Mellon
University per la Digital Equipment Corporation
(2500 regole): risparmio > 25M $/anno
○ 1981, Japan: 850M $ per Fifth generation
computer project, per creare macchine che
possano conversare, tradurre, interpretare
immagini, ragionare come esseri umani

25. Sistemi esperti
26
Risposta USA/GB agli investimenti
giapponesi
1983-1987: UK 350M ₤ per progetto Alvey.
Ambit: AI, NLP, UI.
1983-1993: DARPA 1000M $ per Strategic
Computing Initiative, ispirato dal programma
giapponese

26. Sistemi esperti
27
Investimenti privati
USA: consorzio di aziende americane fonda la
Microelectronics and Computer Technology
Corporation (or "MCC") per finanziare grandi progetti
in ambito AI e IT
Molte corporations sviluppano sistemi esperti e
divisioni/d dipartimenti dedicati
1985: la spesa in AI supera il miliardo di dollari.

27. 28
Sistemi esperti
Previsione della realtà

28. 29
Cinema e letteratura
Blade Runner
Terminator
Robocop

29. Sistemi esperti
30
Expectation vs reality
○ XCON: troppo costoso da mantenere e aggiornare,
non può imparare, commette grotteschi errori con
input non usuali, ed è soggetto a problemi..
○ 1991: nessuno degli obiettivi del Fifth Generation
Project giapponese è stato raggiunto: aspettativa
eccessiva rispetto a ciò che era fattibile
○ I sistemi esperti si rivelano utili solo in contesti
molto specifici

30. Intelligenza
Artificiale
31
A.I – secondo inverno
Expert Systems
1980’s
Deep LeMarkov ModelsConnectionism
2012
AI Hype Cycles and AI Winters
1960’s
…
1970’s
Connessionismo Sistemi esperti
Expert Systems
1980’s
Deep Learning
?
Markov Modelsctionism
2012
AI Hype Cycles and AI Winters
1960’s
…
1970’s
DARPA: “AI was not the next wave"
19801960 2000 2010

31. Intelligenza
Artificiale
32
1997: IBM Deep Blue beat Garry Kasparov
Event broadcast live over the internet and received over 74 M hits.

32. Machine Learning
33

33. Machine
Learning
34
4 abilitatori della rinascita della IA
The confluence of 4 key factors is behind this new AI Renaissan
More Data
60 years of Research / Mature
Algorithms
More Computing Power
Open Source
Frameworks/Libraries
DSSTNE
PaddlePaddle
60 anni di ricerca + algoritmi robusti Enorme potenza di calcolo
Framework e librerie open
More Computing Power
14
More Data
60 years of Research / Mature
Algorithms
More Computing Power
Open Source
Frameworks/Libraries
DSSTNE
PaddlePaddle
Enorme quantità di dati (IoT)
4 key factors is behind this new AI Renaissance
More Data
ch / Mature
ms
ng Power
Open Source

34. Machine
Learning
35
Machine learning
Il Machine Learning: tecnica che permettere ai
computer di eseguire task cognitivi senza essere
programmati esplicitamente
Computer Science
Symbolic AI (Expert Systems)
Probabilistic AI (Search & Optimization)
Machine Learning
…
Mathematical foundations
Algorithm & data structures
Artificial Intelligence
Communication & Security
Database
…
ML algorithms

35. Intelligenza
Artificiale
36
Dalla ricerca al mercato di massaTraditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
• Statico: scenari codificati
• Basato su regole: richiede
conoscenza esperta
• Non generale: difficile trattare casi
specifici
• Dinamico: evolve con i dati
• Conoscenza ”esperienziale”
basata sui dati
• Generalizzato: si adatta a nuove
situazioni e casi speciali
Programmazione tradizionale vs Machine Learning

36. Intelligenza
Artificiale
37
Dalla ricerca al mercato di massa
Machine Learning: Training

37. Machine
LearningArtificial
e
38
Machine learning
Utile per risolvere 2 tipologie di problemi che le
tecniche tradizionali di AI non risolvono:
○ Task non descrivibili da esseri umani
○ Problemi multidimensionali complessi che non
possono essere risolti per ragionamento
numerico
11
arning is parti
er AI techniques fail
?
?
?
?
?
?
s programmers can’t describe
Complex multidimensional problems t
can’t be solved by numerical reasoning
Machine Learning is particularly good at solving 2 types of pro
where other AI techniques fail
?
?
?
?
?
?
Tasks programmers can’t describe
Complex multidimensional problems that
can’t be solved by numerical reasoning
chine Learning is particularly good at solving 2 types of problemsere other AI techniques fail
? ?
?
?
Tasks programmers can’t describe Complex multidimensional problems thatcan’t be solved by numerical reasoning

38. Intelligenza
Artificiale
39
Contesto economico: finanziamenti e startup

39. Machine
Learning
40
Exit: shopping di startup IA da parte dei big

40. Intelligenza
Artificiale
41
4 abilitatori della rinascita della IA
http://cdn.aiindex.org/2017-report.pdf
Machine learning vs umani

41. Intelligenza
Artificiale
42
2016 – Google Research: diagnosi retinopatia meglio di un dottore
umano
retinopathy as human doctors (Dec 2016) – soon in production!
Source: http://jamanetwork.com/journals/jama/article-abstract/2588763

42. Machine
Learning
43
2011: IBM Watson beat 2 humans in Jeopardy
https://www.youtube.com/watch?v=WFR3lOm_xhE

43. Intelligenza
Artificiale
44
Gioco del Go: 3 possibili approcci
○ Simbolico: siedo con miglior giocatore di Go al
mondo e trasferisco la sua conoscenza in un
programma
○ Matematico/statistico: simulo tutte le possibili
mosse, i risultati di ogni step e scelgo la mossa che
mi avvicina di più alla vittoria
○ Machine Learning: faccio vedere ad un programma
milioni di partire (reali o simulate), facendolo
apprendere dall’esperienza
elling at playing the game of Go
Mathematical/Statistical AI
Machine Learning approach
“Let’s simulate all thedifferent possiblemoves and theassociated outcomes at
each single step and go
with the most likely towin”
“Let’s show millions of
examples of real life
and simulated games
(won and lost) to the
program, and let it learn
from experience”

44. Intelligenza
Artificiale
45
Machine l
being use
• The searc
• The spam
• The recom
• The face/
/fingerpr
• The locat
security s
• The disea
predictio
• The weat
• Filtro antispam
• Motori di ricerca
• Sistemi di
raccomandazione
• Riconoscimento
testuale/facciale
• Sicurezza basata sul
contesto
• Diagnosi e previsione
di patologie
• Previsioni del tempo
Dalla ricerca al mercato di massa

45. Machine
Learning
46
AI as Services
Amazon AWS https://aws.amazon.com/machine-learning/
Microsoft
Azure
https://azure.microsoft.com/en-us/overview/ai-platform/
Google Cloud https://cloud.google.com/products/machine-learning/
IBM https://www.ibm.com/services/artificial-intelligence

46. Intelligenza
Artificiale
47
Framework open source
Framework Licenza Piattaforme supportate Interfaccia
Caffe BSD license Linux, macOS, Windows Python, MATLAB, C++
Deeplearning4j Apache 2.0 Linux, macOS, Windows, Android Java, Scala, Clojure, Python(Keras), Kotlin
Keras MIT license Linux, macOS, Windows Python, R
Microsoft Cognitive
Toolkit (CNTK)
MIT license Windows, Linux Python (Keras), C++, Command line,BrainScript
Apache MXNet Apache 2.0 Linux, macOS, Windows, AWS, Android, iOS
C++, Python, Julia, Matlab,
JavaScript, Go, R, Scala, Perl
PyTorch BSD license Linux, macOS, Windows Python
TensorFlow Apache 2.0 Linux, macOS, Windows, Android Python (Keras), C/C++, Java, Go, R, Julia
Theano BSD license Linux, macOS, Windows Python (Keras)
Torch BSD license Linux, macOS, Windows, Android, iOS Lua, LuaJIT, C, utility library for C++/OpenCL

47. Intelligenza
Artificiale
48
GitHub, AI Software Libraries

48. Intelligenza
Artificiale
49
Dalla ricerca al mercato di massa
Tipologie apprendimento, tipologie variabili, famiglie di algoritmi, esempi applicazioni

49. Machine
Learning
51Classificazione con k-Nearest Neightbor
docker-compose up
open http://localhost

50. Mondo legale: A.I. che
aiuta
52

51. A.I. che aiuta
53
Mondo legale

52. Intelligenza
Artificiale
54
A.I che assiste

53. Intelligenza
Artificiale
55
A.I che assiste

54. Intelligenza
Artificiale
56
A.I che assiste

55. A.I. che aiuta
57
A.I che assiste

56. A.I. che aiuta
58
A.I che assiste

57. AI che decide
59

58. A.I. che decide
60
A.I che decide

59. A.I. che decide
61
A.I che decide

60. A.I. che decide
62
A.I che decide

61. A.I. che decide
63
A.I che decide
A.I. e previsioni casi Corte di Giustizie
EU per i diritti umani
The judicial decisions of the European
Court of Human Rights (ECtHR) have been
predicted to 79% accuracy using an
artificial intelligence (AI) method
developed by researchers at UCL, the
University of Sheffield and the
University of Pennsylvania.

62. A.I. che decide
64
A.I che decide
Xiaofa Tribunale
di Pechino
(Corte del
Popolo):
- Consigli
legali;
- Terminologia
- 40,000
risposte a
casi in d.b.

63. A.I. che decide
65
A.I che decide
The law tells us what we
can do, but ethics tell
us what we should do
(UK cabinet office, Data
Science Ethical
Framework)

64. A.I. che uccide e
discrimina
67

65. A.I. che uccide
68
AI che uccide e commette errori
7 maggio 2016: primo incidente mortale causato
da auto a guida autonoma
https://www.ntsb.gov/investigations/AccidentReports/Reports/HAR1702.pdf

66. 69
Machine Bias
Software COMPAS usato in USA per valutare il
rischio di recidiva dei detenuti sembra
discriminare in base al colore della pelle
https://www.cdcr.ca.gov/rehabilitation/docs/FS_COMPAS_Final_4-15-09.pdf
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Machine
Learning

67. 70
Machine Bias
Risultato analisi: il software ha un forte
pregiudizio razziale, perchè apprende da dati con
pregiudizi
Bandito in molti (non tutti) gli stati USA
Machine
Learning
http://advances.sciencemag.org/content/4/1/eaao5580

68. 71
Amazon
Amazon non offre consegna gratuita in giornata in
zone a prevalenza nera
Machine
Learning
https://www.bloomberg.com/graphics/2016-amazon-same-day/

69. Machine
Learning
72
Classificazione Lupi vs Husky
○ Accuratezza persone: 70%
○ Deep learning: 98.5%. Come è possibile?

70. 73
Lupi vs Husky
L’algoritmo classifica l’immagine come lupo
…in base alla neve sullo sfondo
“Why Should I Trust You? - https://arxiv.org/pdf/1602.04938.pdf
Machine
Learning

71. 74
Stiamo creando algoritmi che non comprendiamo
Machine
Learning
https://www.theverge.com/2016/7/12/12158238/first-click-deep-learning-algorithmic-black-boxes

72. Machine
Learning
75
Diritto di sapere
GDPR – art 13,2,f, established a right for all
individuals to obtain “meaningful information
about the logic involved” when “automated
(algorithmic) decision-making”, including profiling,
takes place”
I soggetti delle decisioni hanno il diritto di sapere
il perché delle decisioni, ottenendo informazioni
significative
https://gdpr-info.eu/art-13-gdpr/

73. 76
Audit di algoritmi di machine learning
Machine
Learning
Explaining the Predictions of Any Classifier: https://arxiv.org/pdf/1602.04938v1.pdf
https://www.slideshare.net/TerryTaewoongUm/understanding-blackbox-predictions-via-influence-functions-2017

74. Machine
Learning
77
Black Mirror vs Boston dynamics

75. Testiamoci
78

76. MIT MORAL MACHINE

77. MIT MORAL MACHINE

78. MIT MORAL MACHINE

79. MIT MORAL MACHINE

80. MIT MORAL MACHINE

81. Grazie!
Ci sono domande?
Alberto Sarullo
• https://www.linkedin.com/in/albertosarullo
• alberto.sarullo+smau-mi@gmail.com
Edoardo Artese
• https://www.linkedin.com/in/eartese
• edoardo.artese@ac-legal.eu

82. Attribuzione - Non Commerciale
Condividi allo stesso modo 4.0 (CC BY-NC-SA 4.0) Internazionale
Tu sei libero di:
Condividere - riprodurre, distribuire, comunicare al pubblico, esporre in pubblico, rappresentare, eseguire e recitare questo materiale
con qualsiasi mezzo e formato;
Modificare - remixare, trasformare il materiale e basarti su di esso per le tue opere;
Il licenziante non può revocare questi diritti fintanto che tu rispetti i termini della licenza
Alle seguenti condizioni:
• Attribuzione. Devi riconoscere una menzione di paternità adeguata, fornire un link alla licenza e indicare se sono state
effettuate delle modifiche. Puoi fare ciò in qualsiasi maniera ragionevole possibile, ma non con modalità tali da suggerire
che il licenziante avalli te o il tuo utilizzo del materiale.
• Non commerciale. Non puoi usare il materiale per fini commerciali.
• Stessa Licenza. Se remixi, trasformi il materiale o ti basi su di esso, devi distribuire i tuoi contributi con la stessa licenza del
materiale originario.
• Divieto di restrizioni aggiuntive — Non puoi applicare termini legali o misure tecnologiche che impongano ad altri soggetti dei vincoli
giuridici su quanto la licenza consente loro di fare.
• Non sei tenuto a rispettare i termini della licenza per quelle componenti del materiale che siano in pubblico dominio o nei casi in cui il tuo
utilizzo sia consentito da una eccezione o limitazione prevista dalla legge
• Non sono fornite garanzie. La licenza può non conferirti tutte le autorizzazioni necessarie per l'utilizzo che ti prefiggi. Ad esempio, diritti di
terzi come i diritti all'immagine, alla riservatezza e i diritti morali potrebbero restringere gli usi che ti prefiggi sul materiale.