presentazione dell'intervento su la società degli algoritmi del professor Gian Luigi Ferrari dell'Università di Pisa al panel di #digit19 dal titolo Dentro la società degli algoritmi conoscere e usare i dati non essere usati come dati

1. Dentro la società degli
algoritmi
conoscere e usare i dati non essere usati come dati
G. FERRARI
DIPARTIMENTO DI INFORMATICA
UNIVERSITÀ DI PISA

2. Quarto Potere
“Io sono un’autorità su
come far pensare la
gente”
(Charles Foster Kane)

3. …e il Potere dell’Intelligenza Artificiale
50.000 profili sociali di bot
politici durante le elezioni
US 20161
Studio del 2017 stima che
esistano circa 48M di account
Twitter gestiti da bot2
1The Guardian eTwitter
2Varol et al, AAAI 2017

4. DICHIARAZIONE: NON SONO NEUTRALE
•Dedicherò la prima
conferenza
all’opposizione
leggerezza-peso, e
sosterrò le ragioni
della leggerezza. [...]

5. Calcolare
• Il calcolo è un processo mentale cognitivo che trasforma uno o più
dati in ingresso in uno o più risultati: elaborazione dati.
• Il Paleolitico e il Neolitico (divisione e addizione).
• L'uomo viveva in gruppo e di conseguenza aveva la necessità di ripartire il cibo o
contare dei capi di bestiame
• Babilonesi utilizzavano un sistema di
numerazione sessagesimale (base 60) e furono i primi ad introdurre
la notazione posizionale
• svilupparono un avanzato sistema aritmetico con il quale furono in grado di fare
calcoli in modo algoritmico: equazioni lineari, le equazioni di secondo grado, ed
equazioni lineari indeterminate.

6. ALGORITMI
• Un algoritmo si può definire
come un procedimento che
consente di risolvere un
problema eseguendo, in un
determinato ordine, un
insieme di passi elementari.
• Abū Ja-far Muhammad ibn
Mūsā Khwārizmī,
matematico, astronomo, e
geografo persiano (IX
secolo)

7. RIVOLUZIONE &
INNOVAZIONE

8. Informatica = scienza sperimentale
trasformato la societa’ e il modo di costruire la conoscenza
scienza e tecnologia non neutrale
Impone a chi la uso uno sguardo diverso
nell’organizzazione dei fenomeni
Rivoluzione Industriale => Società delle machine
=> società delle machine digitali
=> società delle macchinee cognitive

9. •Rivoluzione industriale: conoscenza scientifica di
base (matematica, fisica biologia)
•Società digitale: richieste competenze su
informatica e pensiero computazionale
• Dal risolvere problemi al far risolvere problemi
• Algoritmo espresso in linguaggio che viene
eseguito da una macchina

10. FORMAZIONE e
CONSAPEVOLEZZA

11. …. Sono un
accademico …

12. DOMANDE FONDAMENTALI
• Universality. Esiste una nozione astratta di macchina per
calcolare?
• Computability. Eistono problemi che non possono essere
risolti da nessuna macchina per il calcolo?
• Church-Turing thesis. Esistono dei limiti malla Potenza
espressiva delle machine per calcolare?
• Hilbert, Gödel,Turing, Church, von Neumann …..

13. MACCHINA DI TURINGMACCHINA DI TURINGMACCHINA DI TURING

14. ALAN TURING
CALCOLO COME MANIPOLAZIONE COMBINATORIA
DI INSIEMI FINITI E DISCRETI DI SIMBOLI SECONDO
UN INSIEME FINITO DI REGOLE

15. Tesi di Church - Turing
• Le macchine diTuring possono eseguire tutte le
computazioni che eseguono i moderni computer
• Modello universale di calcolo

16. IL PROBLEMA DELLA FERMATA
HALTING PROBLEM
E’ POSSIBILE SCRIVERE UN PROGRAMMA CHE LEGGE UN
ALTRO PROGRAMMA P UN DATO D E DETERMINA
SE IL PROGRAMMA P NON TERMINA UNA VOLTA MANDATO
IN ESECUZIONE CON IL DATO D?
E’ sempre possibile, descritto un algoritmo e un determinato
dato in ingresso , stabilire se l'algoritmo in questione termina
o continua la sua esecuzione all'infinito ?

17. UN PO’ DI MATEMATICA

18. CONCLUDIAMO LA DIMOSTRAZIONE
24
te loop
lt.
ts.
25
Halting Problem Proof
Assume the existence of halt(f,x):
! Input: a function f and its input x.
! Output: true if f(x) halts, and false otherwise.
Construct function strange(f) as follows:
! If halt(f,f) returns true, then strange(f) goes into an infinite loop
! If halt(f,f) returns false, then strange(f) halts.
In other words:
! If f(f) halts, then strange(f) goes into an infinite loop.
! If f(f) does not halt, then strange(f) halts.
Call strange()with ITSELF as input.
! If strange(strange) halts then strange(strange) does not halt.
! If strange(strange) does not halt then strange(strange) halts.
Either way, a contradiction. Hence halt(f,x) cannot exist.

19. MORALE
•Halting problem non è un problema artificiale
creato da strani matematici del secolo scorso
•Collegato a problem strettamente attuali
•Non possiamo stabilire in generale proprietà
di programmi.

20. ALAN TURING: UN GRANDE SCIENZIATO
34
Turing's Key Ideas
Turing's 4 key ideas.
! Computing is the same as manipulating symbols.
Encode numbers as strings.
! Computable at all = computing with a Turing machine.
Church-Turing thesis.
! Existence of Universal Turing machine.
general-purpose, programming computers
! Undecidability of the Halting problem.
computers have inherent limitations
Hailed as one of top 10 science papers of 20 th century.
Reference: On Computable Numbers, With an Application to the Entscheidungsproblem by A. M. Turing.
In Proceedings of the London Mathematical Society, ser. 2. vol. 42 (1936-7), pp.230-265.

21. MACCHINE
COGNITIVE

24. DARPA: THREE WAYS OF AIThree Waves of AI
Statistical Learning Contextual Adaptation
engineers create systems
that construct explanatory
models for classes of real
world phenomena
natural communication
among machines and
people
systems learn and reason
as they encounter new
tasks and situations
Perceiving
Abstracting
Reasoning
Learning
PREDICTDESCRIBE EXPLAIN
engineers create
statistical models for
specific problem domains
and train them on big
data
nuanced classification
and prediction
capabilities
no contextual capability
and minimal reasoning
ability
Symbolic Reasoning
Perceiving
Abstracting
Reasoning
Learning
Perceiving
Abstracting
Reasoning
Learning
engineers create sets of
logic rules to represent
knowledge in limited
domains
reasoning over narrowly
defined problems
no learning capability
and poor handling of
uncertainty

25. Transportation
Security
Medicine
Finance
Legal
Military
9
The Need for Explainable AI
User
• Why did you do that?
• Why not something else?
• When do you succeed?
• When do you fail?
• When can I trust you?
• How do I correct an error?
• We are entering a new
age of AI applications
• Machine learning is the
core technology
• Machine learning models
are opaque, non-intuitive,
and difficult for people to
understand
• The current generation of AI systems offer tremendous benefits, but their effectiveness will be limited by
the machine’s inability to explain its decisions and actions to users.
• Explainable AI will be essential if users are to understand, appropriately trust, and effectively manage
this incoming generation of artificially intelligent partners.
AI System
Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)

26. Cosa sono le reti
neurali

27. Il Neurone Artificiale
∑input
output
w1
w2
w3
w4
w5
w6
w7
accumula
potenziale
determina l’attivazione
del neurone
f
Rete Neurale
Neuroni di
input Neuroni di
output
Neuroni nascosti
Neurone
Apprendono una
rappresentazione
neurale
dell’informazionePesi sinaptici
(parametri
numerici appresi)

28. Che Cosa è il Deep Learning?
statista artefice della pax-coreana
Un insieme di tecniche e
metodologie per estrarre
automaticamente una
rappresentazione
gerarchica della
conoscenza dai dati
Reti Neurali Profonde
cabarettista
…

29. Generare Capolavori Letterari con l’AI
Reti neurali profonde
addestrate a prevedere il
prossimo carattere di
una sequenza testuale
I
n
t
e
r
e
t
F
e s
n
t
e
r
e
t
F
e
input output Una volta addestrate
possono generare un
nuovo testo carattere
per carattere

30. Generare (pessime) Barzellette
Why did the death penis learn string?
Because he wanted to have some roasts
case!
Sai perché un pene morto suona gli archi?
Perché vuole un caso spiedoso!
Rete neurale addestrata su una raccolta di
barzellette inglesi

31. Dal Cabaret alla Politica…
…il passo può essere breve
Rete addestrata carattere per carattere
su discorsi o interventi di un politico
Politic-obot

32. The Donald Vs Hillary

33. Candidato Trump, prego si presenti
And we are going to lower taxes on American business from 35 percent to 15
percent. We're going to do great in North Carolina and we're going to make
America great again. <APPLAUSE>
E abbasseremo le tasse per le aziende Americane dal 35 percento al 15 percento.
Faremo benissimo in North Carolina e renderemo nuovamente grande l’America.
<APPLAUSI>
Good evening everybody, I am to bring down home
back for all of you and we're going to repeal and
replace ObamaCare. <APPLAUSE>
Buona sera a tutti, io sono per sovvertire il governo
per tutti voi e respingeremo e rimpiazzeremo
ObamaCare. <APPLAUSI>

34. Candidato Clinton, prego si presenti
Good evening everybody, I am going to be small business stand.
<APPLAUSE>
Buona sera a tutti, io sarò far spiccare la piccola impresa
<APPLAUSI>
We need Americans shows everything you are. We have to vote
for your lives, who are not going to start bigotry because we're
going to trade with a ball, optimistic. So when we need to go and
rebuild Washington. <APPLAUSE>
Abbiamo bisogno Americani mostra quello che siete. Dobbiamo
votare per le nostre vite, per le quali non inizieremo del
bigottismo, perchè faremo scambi con la palla, ottimistici. Quindi
quando dovremo e ricostruiremo Washington. <APPLAUSI>

35. Perchè dovremmo votare per voi?
Trump-bot: "You should vote for me because they're all saying
that I'm interesting. We're going to build the wall, between jail.
OK? Because we need toughness.<CHEERING AND
APPLAUSE>“
Clinton-bot: "You should vote for me because of the economy
working for everyone, not just those at the top, like we are
going to make gun violence and design it. Because of the
economy works for everyone, not just those at the
top. <APPLAUSE>And -- finally, I can take care of ampasting."
Trump-bot: “Dovreste votare per me perché dicono tutti che sono interessante.
Costruiremo il muro, tra prigioni. OK? Perchè necessitiamo di durezza. <FESTE E
APPLAUSI>“
Clinton-bot: " Dovreste votare per me per l’economia che funziona per tutti, non solo
quelli in alto, come se faremo violenza con le pistole e la progettiamo. Perchè l’economia
funziona per tuttti, non solo quelli in alto. <APPLAUSI> E – infine, mi occuperò di
incollando."

36. Che cosa pensate l’uno dell’altra?
Clinton-bot: "Donald Trump actually wrecks his companies. He
lost 400 billion dollars and we are going to do more to
emphasize the rights ofAmerica. <APPLAUSE>“
Trump-bot: "Hillary Clinton brought death and disaster to Iraq,
Syria, Libya, Syria, China and the United States signed up. She
can't change. <BOOING>Thank you, Russia and Hillary.“
Clinton-bot: “Donald Trump manda in fallimento le sue aziende.
Ha perso 400 miliardi di dollari e noi faremo di più per mettere
in risalto i diritti dell’America <APPLAUSI>”
Trump-bot: "Hillary Clinton ha portato morte e disastro in Iraq,
Siria, Libia, Siria, Cina e gli Stati Uniti hanno firmato. Non può
cambiare <FISCHI> Grazie, Russia e Hillary

37. Che cosa ci dite del Messico?
Clinton-bot: "Mexico Brown, make it friends. And I don't think
let's equal pay of that very nuclear weapons. But then, the
pantimal scholarship efforts to the 29st century back
<LAUGHTER>“
Trump-bot: "Mexico in North Carolina again. We're not going
to let it happen. Next year. I don't know. Boy, boom, boom,
boom, boom.“
Clinton-bot: "Messico Brown, diventiamo amici. E non penso facciamo
pagare ugualmente di quelle armi molto nucleari. Ma allora, gli impegni
ANTANI per le borse di studio del 29mo secolo ritorneranno. <RISATE>“
Trump-bot: “Il Messico nuovamente in North Carolina. Non lasceremo che
succeda. Il prossimo anno. Non so. Ragazzo, boom, boom, boom, boom.”

38. E ora:
Post politici in
cerca di
autore..

39. Right of explanation

40. 10
What Are We Trying To Do?
Learning
Process
Training
Data
Learned
Function
Output
Today
This is a cat
(p = .93)
• Why did you do that?
• Why not something else?
• When do you succeed?
• When do you fail?
• When can I trust you?
• How do I correct an error?
User with
a Task
©Spin South West
©University Of Toronto
Training
Data
New
Learning
Process
Explainable
Model
Explanation
Interface
Tomorrow
• I understand why
• I understand why not
• I know when you’ll succeed
• I know when you’ll fail
• I know when to trust you
• I know why you erred
This is a cat:
•It has fur, whiskers,
and claws.
•It has this feature:
User with
a Task
©Spin South West
©University Of Toronto
Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)

41. 13
Challenge Problems
Learn a
model
Data
Analytics
Classification
Learning Task
Recommend
Explanation
Explainable
Model
Explanation
Interface
An analyst is
looking for items of
interest in massive
multimedia data
sets
Explainable
Model
Explanation
Interface
Autonomy
Reinforcement
Learning Task
Actions
Explanation
ArduPilot & SITL Simulation
An operator is
directing
autonomous
systems to
accomplish a
series of missions
Classifies items of
interest in large data set
Learns decision policies
for simulated missions
Explains why/why not
for recommended items
Analyst decides which
items to report, pursue
Explains behavior in an
after-action review
Operator decides which
future tasks to delegate
Use the
explanation
Explain
decisions
Multimedia Data
Two trucks performing a
loading activity
©Getty
Images
©US Army
©Air Force Research Lab
©ArduPikot.org
Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)

42. NOTIZIE E
DEMOCRAZIA

43. THE FILTER BUBBLES
• Il flusso di informazioni che ci raggiunge tramite le
reti sociali è definito non dal contenuto informativo
o dalla pertinenza, ma da algoritmi che filtrano
notizie e opinioni proponendoci solo fatti e opinioni
più affini alle nostre idee e ideologie.
• Ci piace ascoltare gli altri confermando le nostre
convinzioni.
La prima definizione di bolla di filtraggio è apparsa nel Maggio del 2011 a cura di Eli Pariser nel
suo libro “Il filtro. Quello che internet ci nasconde“ e nello specifico l’autore la definisce come
“quel personale ecosistema informativo soddisfatto dagli algoritmi dei Social Network e dei motori
di ricerca“. … gli algoritmi di queste piattaforme registrano la nostra azione per poi consigliarci
o riproporci i risultati filtrati secondo le nostre scelte.

45. BREAKING THE FILTER BUBBLES
•La diversità è essenziale per preservare e
nutrire la nostra intelligenza collettiva: una
sana diversità di opinioni può rispondere
intelligentemente a domande difficili,
•La diversità, e quindi l'intelligenza collettiva,
viene minata da polarizzazioni eccessive

46. BREAKING THE FILTER BUBBLES
•L’informatica, intelligenza artificiale e la
scienza dei dati non sono tecnologie
neutre, possono essere utilizzate per
scopi molto buoni o cattivi;
•Nostro compito: decidere quali valori e
norme dovrebbero essere instillati nelle
tecnologie by design per creare un
sistema informativo ecologico che
promuova il pensiero critico e alimenti
la diversità.