L’asimmetria della trasparenza. La realtà autoritaria dell’ingiustizia informativa

Catherine Taylor vive in Arkansas. La società ChoicePoint che raccoglie dati sulle persone e li rivende sul mercato della reputazione ha erroneamente registrato un’accusa di traffico di metanfetamine a carico di Catherine Taylor. Immediatamente Catherine ha incontrato difficoltà a ottenere un prestito per comprare una lavatrice. Poco dopo ha trovato impossibile ottenere un lavoro. L’errore nella sua scheda si è diffuso su molti database e per Catherine la vita è diventata impossibile. Ha ottenuto la correzione dell’errore, ma a quel punto troppi archivi lo riportavano a loro volta sicché Catherine ci ha messo quattro anni a ripulire tutto e trovare un nuovo lavoro, ma ancora dopo quattro anni è stata respinta quando ha cercato di affittare un appartamento (è una delle storie di un’inchiesta del 2011, WashingtonPost). Frank Pasquale la riporta nel suo libro The Black Box Society che parla di come gli algoritmi segreti che controllano il denaro e l’informazione stanno creando una società illiberale, ingiusta, autoritaria (vedi anche ZDnet).

Ne aveva parlato anche Cathy O’Neil, in Weapons of Math Desctruction. E ora Propublica ha lanciato una serie di inchieste per aiutare a capire quanto gli algoritmi stiano entrando nella vita quotidiana e introducendo nuove forme di ingiustizia: Breaking the Black Box.

Le asimmetrie informative sono state uno dei cavalli di battaglia di Joseph Stiglitz, economista e Nobel: il suo contributo di ricerca è servito a dimostrare che in presenza di una inequale distribuzione dell’informazione, il mercato concorrenziale è impossibile. E non è vero che diminuendo un po’ l’asimmetria aumenta un po’ la concorrenza: o c’è simmetria e concorrenza, o non c’è nè l’una né l’altra.

Si potrebbe dire lo stesso, probabilmente, per la democrazia: solo i cittadini informati possono influenzare correttamente le decisioni politiche; i cittadini disinformati prendono decisioni infondate.

Le cause di asimmetria informativa sono antiche. Sono peggiorate dalle tecniche di manipolazione dell’informazione. E sono modernizzate dalle logiche delle reti digitali governate da algoritmi che le persone non conoscono.

Frank Pasquale descrive in The Black Box Society l’effetto autoritario dei sistemi decisionali basati su algoritmi segreti, cioè non comunicati al pubblico che li usa. Nella finanza i sistemi che raccolgono dati per valutare il merito di credito delle persone funzionano in base ad algoritmi segreti. Nel marketing algoritmi altrettanto segreti raccolgono dati per valutare le preferenze del pubblico e indirizzare le persone verso le scelte di consumo desiderate dai venditori. Le scelte di datori di lavoro, affittacamere, venditori di automobili sono sempre più guidate dagli algoritmi e le persone vengono manipolate o governate senza che neppure sappiano quali logiche seguano i manipolatori e i governanti, dunque senza poter influenzare le decisioni. Una condizione che non si può non chiamare autoritaria.

Ovviamente la possibilità di discutere di queste cose è una caratteristica delle democrazie che in qualche misura hanno degli anticorpi contro l’autoritarismo. Ma la questione è talmente complicata e veloce che il risultato per la qualità della libertà non è soddisfacente per adesso.

Anche perché tutto questo si somma a vecchie propensioni autoritarie dei sistemi politici tradizionali. Che tentano di governare con il segreto. La lotta per la libertà di conoscere come stanno le cose è una vicenda ricorrente nel mondo. E anche nelle società democratiche il potere si esprime anche alimentando il segreto e scoraggiando chi lo vuole infrangere. Ne parlano Ernesto Belisario e Guido Romeo in Silenzi di Stato. Un libro da leggere per comprendere oltre al martello della black box anche l’incudine del potere tradizionale.

L’ossessione per la trasparenza denunciata dal filosofo Byung-Chul Han d’altra parte può generare a sua volta derive autoritarie.

Il punto è l’equilibrio e la lotta alle asimmetrie. Non c’è spazio per un progresso democratico in assenza di un progresso della qualità dell’informazione. Che invece appare in regresso. Questa sta diventando la questione centrale della vita civile.

Vedi anche:
Nature: gli algoritmi dovrebbero essere trasparenti
Le gabbie dorate dei media digitali e il giornalismo: una storia del futuro
La disinformazione online e quello che possiamo fare. Quattrociocchi, Pariser, Menczer, Fournier, Quelch, Rietveld
Byung-Chul Han. Nello sciame. Critica della ragione digitale