I costruttori di tecnologia che conoscono le proprie responsabilità

Se qualcuno pensa che i programmatori siano semplici esecutori dei progetti dei loro committenti farebbe meglio a leggere la storia raccontata da Bill Sourour: The code I’m still ashamed of (segnalato da JC De Martin).

Justine Cassell, della School of Computer Science alla Carnegie Mellon University, ne fa una questione decisiva: chi fa tecnologia dovrebbe avvertire la responsabilità delle conseguenze delle sue opere (web page di Cassell).

Il 5 dicembre ci sarà un convegno importante su Etica e responsabilità sociale dell’informatica a Milano.

Il fatto è che i progetti tecnologici sono sviluppati da persone che hanno i loro valori e tendono a infondere i loro valori nella tecnologia che fanno. Tim Berners-Lee ha fatto così con il web e ha “embeddato” nel codice del web il codice etico che lo spingeva.

Lo stesso avviene se i tecnologi non tengono conto di questa responsabilità ma lasciano che siano i committenti a stabilire i valori ai quali si ispirano le loro tecnologie. Ma non è sempre la scelta giusta. Né l’unica possibile.

Il dibattito è denso di conseguenze. Il tentativo – fallito – di stabilire una moratoria sull’uso del CRISPR-CAS9 sugli umani è servito a capire che anche i progetti di applicazione di quella tecnologia che serve a modificare i geni di qualunque essere vivente in modo relativamente facile e a basso costo possono essere ispirati a diversi sistemi valoriali. I robot possono essere progettati per sostituire gli umani al lavoro o per aumentarne la produttività: anche qui valgono i valori dei progettisti e dei sistemi che li finanziano.

Come possiamo migliorare la nostra capacità di discutere dei valori “embeddati” nella tecnologia e come possiamo migliorare la capacità delle nostre società di venirne fuori con soluzioni più “intelligenti” e sensibili? È una domanda più grande della nostra capacità di rispondere, oggi. Ma non è necessariamente destinata a restare così. Spero.

Questo post è un inizio di ragionamento che può apparire un po’ troppo generico. Lo capisco. Il “progetto per il discernimento” potrebbe aiutare? Di certo, questo tema ha una lunga storia. E vale la pena di riprenderla per dedicarle maggiore attenzione: il nostro periodo storico lo richiede.