Ethics of Data. May 19th 2018. Data Driven Innovation 2018. Engineering Department, University of Roma Tre

1. Etica
e
Intelligenza artificiale.
Una bussola morale per il nuovo umanesimo.
Edmondo Grassi

2. Il confine da superare
Etica
2
Tecnologia
Principi Immaginario

3. 3
La tecnologia come parametro identitario

4. L’incipienza della realtà e
l’affermazione del futuro
Nietzsche: il superamento della persona verso l’oltreuomo e la creazione di
qualcosa che sia al di sopra di sé.
Heidegger: la questione della tecnica.
Max More: l’essere umano è naturalmente portato al supermento dei propri
confini.
Rifkin: si apre nuova era dove l’evoluzione è soggetta all’autorità umana.
Jonas: la natura, creando l’essere umano, ha messo in pericolo se stessa.
Jastrow: siamo nell’era della creazione di una nuova specie.
Fukujama: perdità dell’umanità quale caratteritica base del nostro essere.

5. Etica contemporanea
▪ Adattamento
L’essere umano è caratterizzata dalla possibilità e capacità
di usare l’artefatto tecnologico per adattare sé e il mondo alle
proprie intenzionalità.
▪ Conoscenza
▫ Ognuno ha bisogno di essere istruito all’artefatto tecnologico: lo
strumento nel quale possiamo trovare il sapere fino ad ora
prodotto.
▪ Rapporto dialogico
▫ Dopo la crisi delle grandi ideologie, con l’avvento della
«datatizzazione» della società, anche l’universo valoriale sta
subendo profonde trasformazioni: l’etica delle intelligenze artificiali
dovrò concepire una rottura antropocentrica e l’ingresso, nel quadro
sociale, di un nuovo agente attivo.5

6. La tecnologia non deve essere concepita come un fenomeno «freddo», ma avente in sé un
elevato portato valoriale.
Simile all’immaginario, richiama miti, valori e modelli culturali, conducendo l’individuo verso
illusioni di onniscienza e onnipotenza.
L’unico limite da scoprire è l’inviolabilità dell’etica condivisa.
Continua domanda dell’essere sulla propria realtà.
La tecnologia ha una naturale connotazione umana e retroagisce su di essa.
Tecnologia poietica
6

7. La naturalità della tecnologia
7
La nostra specie è il risultato di una riuscita co-evoluzione tra il nostro organismo, la
biologia e la tecnologia, tra natura e cultura.
La digitalizzazione della società è il fenomeno attraverso il quale conosciamo la realtà
del nostro esistere.
La tecnologia è l’ambiente nel quale sveliamo il nostro sé identitario e nel quale si
manifestano le regole delle nostre interazioni.
Naturale e artificiale non sono antitetici, ma costituiscono un’endiadi.

8. Dati come esperienza
8
I dati possono essere considerati come la matrice esperienziale della
macchina: dall’algoritmo emotivo della persona alla computabilità educativa per
l’intelligenza artificiale.
Il dato non rappresenta la governabilità e il controllo della persona, ma
l’espressione digitale dei suoi desideri, volontà, sogni e timori.
La governabilità del dato rispecchia un riflesso dicotomico:
- è noi, in quanto sommatoria del nostro sapere;
- è altro, assume un valore proprio che si manifesta dialogicamente nel suo
autoalimentarsi e autoaccrescersi.

9. I.A.: strumento o ente?
Non è solo un artificio delle capacità umane, ma si afferma come nuovo rapporto tra
persona e macchina e della sua dimensione come zoon politikon.
Non è una componente neutrale, ma rappresenta una dimensione innovativa che porta
con sé una differente prospettiva di valori, visioni, interazioni e saperi che dobbiamo
prendere in considerazione.
È un reale sistema politico, struttura attraverso la quale osservare/considerare un
progetto ideologico che veicola una nuova etica e morale dell’essere umano e del suo
rapporto con l’alterità: sia essa umana o artificiale.
Supera il modello classico della macchina «If this… than that…» e prospetta un sistema
intelligente in grado di fornire nuove soluzioni e di mettere in discussione la centralità
della ragione umana,
9

10. Quali principi per i dati
10
1) Principio di Valore: peso valoriale verso l’utilità che ricopre per il miglioramento
della vita sociale dell’essere umano e della società.
2) Principio di Trasparenza: chiarezza delle informazioni e caratterizzazione della
loro provenienza.
3) Principio di Istruzione: educazione al dato.
4) Principio di Indeterminatezza: identificazione di modelli latenti e correlazioni
inaspettate.
5) Principio di Possibilità: dal invisibile all’autoevidente.
6) Principio di Edificazione: la tecnologia dell’IoT è la modalità dominante di
espressione di esperienza umana del quotidiano

11. Paradigmi etici
11
Incertezza: l’i.a. dovrà dubitare delle proprie azioni.
Inesattezza: l’i.a. dovrà comprendere la possibilità di fallimento.
Uguaglianza: l’i.a. dovrà essere istruita secondo principi democratici.
Intuizione: l’i.a. si adegua ai bisogni della persona.
Intellegibilità: l’i.a. dovrà essere in grado di decretare l’oggetto del proprio agire e
affermarne le modalità di raggiungimento alla persona.
Adattabilità: l’i.a. dovrà essere in grado di comprendere l’azione della persona ed esprimere
più o meno la propria adattabilità verso tale processo.
Adeguatezza: l’i.a. dovrà essere sviluppata in modo tale da poter coesistere in un ambiente
i.a.-friendly e agire guidata da principi etici condivisi.

12. Prospettive future immaginifiche
I tre principi della robotica
(Asimov)
Le I.A. potrebbero essere considerati quali attori sociali e per mezzo del machine
learning e dell’MtoM decretare una propria autonoma interazione, decretando la
necessità di:
Un processo di registrazione identitaria
Individuazione dei processi di sviluppo e apprendimento
Implementazione di comprensione dei processi logici ed emotivi della persona
Principi di benevolenza, non maleficenza e autonomia
Responsabilità e trasparenza
Regolamentazione dell’eccessiva dipendenza della persona dalla macchina
Legislazioni e regolamentazioni nazionali e
sovranazionali in materia
etico-tecnologica
12

13. Questioni aperte e indirizzi futuri
13
▪ Quale sarà la tecnosfera nella quale vivremo?
▪ Quali sarà la percezione dell’identità e del corpo della persona in rapporto
con l’intelligenza artificiale?
▪ Sarà la società reale ad adattarsi alla proiezione digitale?
▪ Progetto per un nuovo umanesimo e nuovo «–centrismo»: cosa possiamo
fare per il prossimo e chi è l’altro.

14. edmondograssi.wordpress.com
edmondo.grassi@uniroma3.it
14
“Our new intimacy with the machines
forces us to talk about
a real new state of self”
S. Turkle (2006)