Uno studio per la Commissione Europea mostra come 14 stati membri dell’Unione abbiano una strategia nazionale per l’intelligenza artificiale. L’Italia non è tra questi, anche se il processo per pubblicare la sua strategia nazionale è in corso e arriverà a compimento presto. (AI Watch – Artificial Intelligence in public services). L’Italia, se il piano andrà in porto, avrà un coordinamento dei centri di ricerca, un sistema di decisione interministeriale, più di due miliardi da investire in tecnologie connesse. Le applicazioni dell’intelligenza artificiale che il settore pubblico ha già messo in campo nei diversi paesi europei vanno dalla protezione dell’ambiente alla protezione sociale, dalla difesa alla salute, dall’educazione all’ordine pubblico, e così via. Si tratta di tecnologie per la comprensione dell’audio, chatbot per il colloquio automatizzato con i cittadini, veicoli autonomi, riconoscimento delle immagini, knowledge management, simulazioni e previsioni economiche, sicurezza e cybersicurezza. Tutto questo non è né bene né male. Ma di sicuro occorre fare bene quello che si fa.
Se si fa male i rischi sono importanti. Il caso delle selezioni automatizzate per l’accesso alle università inglesi è straordinariamente istruttivo. Il governo britannico voleva rendere più “meritocratico” l’accesso alle università d’élite. E ha introdotto un algoritmo per valutare i candidati, correggendo le valutazioni dei professori delle scuole di provenienza (considerati non affidabili e troppo “teneri”). L’algoritmo ha abbassato mediamente le valutazioni di alcune decine di punti percentuali. Molti candidati che avevano avuto ottimi voti a scuola si sono trovati esclusi dalle “migliori” università. Alcuni hanno scelto università “peggiori”. Tutti quelli che hanno potuto si sono iscritti alle università “migliori”. Ma dopo attenta valutazione si è scoperto che l’algorimo era sbagliato, sicché il governo ha deciso di rimangiarsi tutto. Il Regno Unito ha usato l’intelligenza artificiale in un modo che si è rivelato fallimentare. Alla fine dopo che tutti gli studenti avevano preso le decisioni di iscrizione alle università in base ai punteggi definiti dal sistema automatico si sono trovati informati che invece valevano solo i voti che avevano ottenuto a scuola. Risultato caos, molte ingiustizie, danni alle università, e così via. (The Conversation, Guardian, RPubs). Era prevedibile dicono alcuni statistici (CivilServiceWorld). Di certo mancavano sistemi di controllo e criteri comprensibili. Ma un principio è sovrano: non si può far dipendere la vita delle persone da un algoritmo senza che la decisione finale sia presa da una persona: è un diritto umano.
Questo in teoria. Ma – come si dice – in teoria la pratica corrisponde alla teoria, in pratica no.
Basti pensare alla guerra. Certo, si pensa che il grilletto sarà sempre schiacciato da un umano. Anche quando l’arma sarà a migliaia di chilometri di distanza e si muoverà autonomamente nel campo nemico. Ma l’umano avrà il tempo di decidere di premere il grilletto in una battaglia fatta di automi e algoritmi? Un articolo suggerisce di dubitarne: Wavell Room: ’Melancholic and Fascinated’: Artificial Intelligence, Authentic Humanity, and the Future of War.
D’altra parte il capitalismo finanziario automatizzato è una realtà da tempo. E non mancano gli esempi dei disastri che può provocare. Ma la tendenza sarà quella di automatizzare sempre di più? Il senso critico continua a suggerire qualche grado di attenzione, come nell’articolo di Mark Andrejevic: Automatic capitalism.
Si può dare un’occhiata a questo paper: Automated Neoliberalism? The Digital Organisation of Markets in Technoscientific Capitalism, di Kean Birch. «Alla luce della natura sempre più tecnoscientifica del capitalismo contemporaneo, è importante esaminare esattamente come i mercati sono organizzati e la loro governance configurata dai processi digitali. In questo articolo, sostengo che l’intreccio tra la tecnoscienza digitale e il capitalismo ha portato a un “neoliberalismo automatizzato” in cui i mercati sono configurati da piattaforme digitali, la vita personale si trasforma attraverso l’accumulo di dati personali e le relazioni sociali sono automatizzate attraverso algoritmi, registri elettronici distribuiti e sistemi di rating». Come cambia il rapporto tra borsa e società. Come cambia il rapporto tra individui e macchine?
La libertà non può dipendere dalle macchine. Ma la loro progettazione è una responsabilità nella quale la libertà si esercita. E rinunciarvi è una colpa imperdonabile.
Commenta