Home » innovazione » Make digital right. Contro gli eccessi: di fiducia negli algoritmi e di preoccupazioni per gli algoritmi
innovazione libri perplessità Post visioni

Make digital right. Contro gli eccessi: di fiducia negli algoritmi e di preoccupazioni per gli algoritmi

È terminata la nuova serie di incontri sulla trasformazione digitale all’Istituto Italiano di Cultura di Bruxelles. Quest’anno il titolo è stato “Make digital right”. Hanno partecipato: Mauro Carbone, professore di filosofia all’università Jean Moulin Lyon 3, e Amélie Cordier, direttrice scientifica della Hoomano, azienda che produce intelligenza interattiva per robot sociali, basata anch’essa a Lione in Francia; Stefano Moriggi, filosofo che insegna a Brescia, Parma e Milano, e Carey Jewitt, professore di apprendimento e tecnologia a University College di Londra; Maurizio Ferraris, filosofo che insegna all’università di Torino, e Antoinette Rouvroy ricercatrice al Centre de Recherche Information, Droit et Société. Tutti gli incontri si sono tenuti al Bozar di Bruxelles.

Ecco la serie dei post dedicati al ciclo:
L’estetica e l’intelligenza artificiale: aumentare e amputare le capacità umane
In ogni epoca, l’apprendimento è un progetto che interpreta la matrice culturale e tecnologica fondamentale
Make digital right. Contro gli eccessi: di algoritmi e di preoccupazioni sugli algoritmi

Per Antoinette Rouvroy, il concetto di intelligenza artificiale è sbagliato. Fa emergere fantasmi come la sostituibilità di umani con macchine, laddove le funzioni del machine learning non sono commensurabili con le cose che fanno gli umani. I computer, ricorda Rouvroy, sono incapaci di dare senso alle cose mentre sanno leggere miliardi di dati che non dimenticano mai. Gli umani al contrario sono lenti, disattenti e orientati a dimenticare, mentre sanno riconoscere il senso delle cose. Eppure c’è questa tendenza a considerare l’intelligenza artificiale come qualcosa di simile all’intelligenza umana, alimentando tra l’altro l’idea che le decisioni algoritmiche possano essere migliori di quelle degli umani: è un falso pericolosissimo, dice Rouvroy, perché le macchine contengono gli stessi elementi di distorsione del ragionamento che gli umani che li hanno programmati hanno instillato in loro, alimentati e aumentati dalle distorsioni contenute nei dati che quelle macchine elaborano.

Esiste secondo Rouvroy, una nuova strategia della certezza: con l’idea che i Big Data tengano conto di tutto e con il pregiudizio secondo il quale il ragionamento del computer è oggettivo e più informato di qualunque umano, ci si convince che i risultati delle elaborazioni dell’intelligenza artificiale siano migliori di quelli degli umani. Questo sottovaluta le contraddizioni dei dati, le false impressioni che le correlazioni impongono alla ricerca delle cause. Se si arrivasse a una società nella quale sono gli algoritmi che prendono le decisioni avremmo una maggiore ingiustizia. Sono i rischi della “governalità algoritmica”. Tra l’altro, i dati che gli algoritmi prendono in considerazione riguardano il passato: mentre la qualità delle decisioni si verifica nel futuro. Gli umani scelgono meglio perché stanno meglio nel flusso del tempo. In sintesi, secondo Rouvroy: gli umani non vivono nel presente, vivono nella durata.

Secondo Maurizio Ferraris, attraversiamo una trasformazione della quale ignoriamo tutto. Ma alcune cose le possiamo dire. E per esempio sappiamo riconoscere che anche se le macchine si presentano come più oggettive degli umani, in realtà si basano sulla registrazione dei comportamenti umani e ne riproducono le soggettività; allo stesso modo è molto difficile distinguere tra l’intelligenza collettiva e la stupidità collettiva, aumentate o meno dai computer.

In realtà, la trasformazione sta avvenendo attraverso una convergenza di documentalità e medialità che modifica le condizioni del valore, del lavoro, del capitale e della conoscenza. Non esiste nulla di “sociale” se non ce n’è memoria. Come del resto “la verità non esiste in natura: la post-verità è frutto della pretesa di tutti di avere ragione”. Nel nuovo contesto, il capitale non produce più cose ma documenti, il lavoro manuale e intellettuale tendono a confondersi, la conoscenza diventa la merce più importante. “Il cambiamento centrale è nella tecnica della memoria”. Non è un grande problema – nonostante se ne discuta molto – la possibilità che le macchine vadano fuori controllo o che finisca per essere ridotta drasticamente la privacy, dice Ferraris, ma casomai che non si comprenda il senso di questa trasformazione finendo per subirla invece che goderne.

Sulla scorta di un paragone che Ferraris ha proposto sul finale del suo intervento – tra automobile e web – si potrebbe forse sintetizzare l’idea del filosofo così: come le automobili di cent’anni fa erano molto più pericolose e inquinanti di quelle attuali, così il web di oggi è molto più pericoloso e inquinante di quello che ci sarà tra cent’anni, purché ci si renda conto dei pericoli e degli inquinamenti.

L’immagine è dedicata a un esempio di arte frattale, proposto da Skeeze.

ps. La bibliografia a proposito di queste cose sta diventando sterminata. Non provo nemmeno a ricordarne una parte. Ma è giusto segnalare almeno il libro di Stefano Diana, Noi siamo incalcolabili. La matematica e l’ultimo illusionismo del potere, Stampa alternativa, 2016

Commenta

Clicca qui per inserire un commento

Luca De Biase

Knowledge and happiness economy Media and information ecology

Video