Un’inchiesta di ProPublica mostra come negli Stati Uniti venga usato un software che serve a prevedere se una persona commetterà un crimine. Si basa su informazioni raccolte in vario modo comprese informazioni raccolte direttamente dall’interessato. Dovrebbe essere usato per valutare se un condannato merita un trattamento piuttosto che un altro mentre sconta la pena, in modo da indirizzare la sua esperienza verso un miglioramento della sua condotta civica. In realtà, viene usato per aumentare o ridurre la pena. La scoperta di ProPublica è che si tratta di un software che alla fine dei conti penalizza i neri e favorisce i bianchi (ProPublica).
Che un software possa essere d’aiuto nella raccolta di informazioni sulle persone è ovvio. Che possa anche avere qualche forma di capacità di elaborazione sui dati è inevitabile. Che diventi un sistema per deresponsabilizzare i giudici che devono valutare come applicare la legge è una distorsione. E se poi ha caratteristiche discriminatorie contro certe persone perché hanno una certa estrazione sociale, allora alla lunga contribuisce all’espansione del crimine che vuole prevenire.
Si può anche immaginare tuttavia che valga la classica convinzione tecno-tecnica secondo la quale una tecnologia che alla prima generazione funziona malino sarà superata da una nuova generazione che funziona meglio. Ebbene: a parte il fatto che questa convinzione non è sempre realistica, ci si può domandare se questo può portare a una società migliore. Una tecnologia che riconosce i criminali potenziali prima che commettano crimini è molto comoda: ma può essere giusta? E se si risponde a questa domanda in modo negativo, i tecnici che la costruiscono sono responsabili di una cosa ingiusta? Oppure gli unici responsabili sono coloro che la commissionano, la comprano, la applicano nella vita reale? Domande che appartengono a una tematica, quella della tecnologia responsabile, destinata a uno sviluppo molto significativo.
Commenta