Bias e pregiudizio

Il bias è fonte di errori. Se ne parla in statistica per dire, per esempio, che un campione non è rappresentativo in quanto non è stato scelto in modo casuale rispetto a tutta la popolazione da intervistare. Se si fa un sondaggio su quanto è importante il calcio intervistando soltanto le persone che vanno allo stadio si otterranno risultati medi diversi da quelli che si avrebbero intervistando tutta la popolazione. Insomma, il bias non genera i fisiologici errori statistici ma genera gli errori concettuali che derivano dalle scelte dei ricercatori.

Per un’estensione di questo concetto, si parla di bias negli insiemi di dati che vengono offerti in pasto alle intelligenze artificiali per trovare correlazioni, regolarità, persino previsioni: poiché i big data usati in queste condizioni non sono campioni casuali ma proprio tutti i dati reperibili che riguardano una certa questione, rischiano sempre di essere distorti. Se si fa una domanda a tutti i lettori di un grande giornale e si ritiene che la risposta media sia quella che corrisponde alla media della popolazione si fa un evidente errore: il bias sta nel fatto che i lettori di quel giornale sono simili tra loro e non rappresentano tutte le diverse opinioni che si trovano in una popolazione.

Ultimamente si è parlato molto di bias cognitivo per giustificare il fatto che molte persone si accontentino di informazioni parziali e partigiane, spesso per un bias di conferma: se una persona ne è affetta preferisce comunicare con altre persone che hanno le sue stesse idee finendo per credere che quelle idee siano le uniche corrette.

Tra questi diversi contesti nei quali si parla di bias c’è un punto in comune. Il bias è un concetto che esiste in una cultura che pensa che la conoscenza oggettiva esista. O possa esistere.

I bias che ci sono nelle basi di dati usate per far funzionare intelligenze artificiali allo scopo di individuare dei trend; i bias che ci sono nei social network e che aggregano le persone simili, limitando il loro contatto con persone diverse; sono i contesti nei quali si è parlato molto di bias ultimamente.

Si parla di bias per spiegare qualche errore nella conoscenza emergente da un’attività destinata proprio a diffondere conoscenza. Il bias è una condizione considerata anormale in un processo di generazione di conoscenza che si vuole oggettivo.

E qualche volta si pensa che bias sia un sinonimo di pregiudizio.

In realtà, il pregiudizio è un giudizio basato talvolta sull’esperienza precedente, ma molto più spesso dalla cultura che una comunità sviluppa e conserva nel corso di una lunga storia. Il pregiudizio è la condizione normale di pensiero in una comunità accomunata da una cultura che per definizione non mette in discussione ogni giorno tutte le sue convinzioni in nome della verità scientifica: anzi, tende a conservare le convinzioni, sia per motivi identitari, sia per mancanza di contatti con culture diverse.

L’emergere dei pregiudizi in questa fase storica è parallelo alla crescita della lotta ai pregiudizi che è stata lanciata socialmente e linguisticamente in alcune società occidentali che tentano di liberarsi da fardelli storici divenuti moralmente discutibili a fronte dell’esigenza di includere pariteticamente nella vita sociale, politica ed economica tipi di persone che prima erano discriminate.

Confondere i bias con i pregidizi può essere dunque un errore ideologico. I pregiudizi sono un fenomeno storico e sono contrastati da innovazioni culturali spesso dovute a contaminazioni e avanzamenti intellettuali tanto rari quanto importanti. I bias generano ragionamenti sbagliati nell’ambito di attività di ricerca nelle quali il ragionamento dovrebbe essere controllato e orientato all’oggettività perché le sue conclusioni non devono essere determinate dalle premesse, ma dai fatti. I pregiudizi si comprendono studiando la storia. I bias si comprendono studiando la scienza.

Niente impedisce di vedere una convergenza in questi due concetti e nei loro contesti. Ma è chiaro che i bias sono nello spazio dei dati, mentre i pregiudizi sono nel tempo delle mentalità.

Si evocano i bias per dire che occorre intervenire sull’abuso dell’intelligenza artificiale nelle decisioni sociali. E si evocano i pregiudizi per fare battaglie di modernizzazione politica e culturale.

A guardare avanti, i pregiudizi sono legati alla lunga durata. E hanno un potenziale predittivo diretto molto grande. I bias hanno una storia breve quanto le raccolte di dati nei quali si insinuano e sulle condizioni sociali che li spiegano. Quindi hanno un potenziale predittivo solo se si riescono a decodificare i sistemi che li generano.

Photo by Elaine Howlin on Unsplash