Su macchine e umani


Per la presentazione di “Against the machine, Being human in the age of the electronic mob” di Lee Siegel, Spiegel & Grau, 2008

Il caso di Amina Araff ha fatto il giro del mondo. Il suo nome era diventato famoso grazie al blog “A Gay Girl in Damascus”. Per anni aveva raccontato la vita quotidiana di una ragazza che non era accettata dalla cultura siriana. Ma la notorietà di Amina è esplosa quando si era sparsa la notizia del suo arresto. Ne ha parlato mezzo mondo, nel contesto della grande sollevazione anti-autoritaria che attraversava il Medio Oriente. La storia, commovente, ha spinto molte persone all’azione per tentare di salvarla. Ma la notizia più stupefacente doveva ancora arrivare. Un blogger, Andy Carvin, è stato il primo a sospettare qualcosa. Il Washington Post ha fatto un’inchiesta. E ha scoperto che Amina, semplicemente, non esisteva: la ragazza e il suo blog erano frutto della fantasia di Tom MacMaster, un militante pacifista che conosce l’arabo e ha viaggiato molto in Medio Oriente.

Sulla scorta di quell’episodio, il Washington Post ha scoperto che una donna si era innamorata di Amina e aveva intrattenuto una relazione online con lei, al punto che avrebbe dovuto incontrarla in Italia nel luglio del 2011. Sakira Hussein, che insegna all’Asia Institute della University of Melbourne, ha aggiunto un particolare, sul suo blog: Paula Brookes che dirige il sito Lez Get Real e che, senza conoscere ovviamente Amina, aveva contribuito a renderla famosa, si chiama in realtà Bill, un operaio edile di 58 anni.

L’autore del libro che avete per le mani, Lee Siegel, mentre andiamo in stampa, non ha commentato la vicenda. O almeno non se ne trova traccia su internet. Eppure il tema che ha scelto di trattare nel suo libro è molto affine a questi episodi. Forse ha taciuto per non rinfocolare una vecchia storia che lo coinvolge. Lee Siegel, in effetti, non è uno che si tiri indietro dalle polemiche. Anche se qualche volta si batte letterariamente, anche lui, nascondendo la sua vera identità. È stato colto in fallo quando si è difeso da anonimi critici del suo blog pubblicando un commento firmato con il nome italiano “sprezzatura” nel quale si autoelogiava in termini piuttosto entusiastici. Ma la sua vera identità fu scoperta. E questo gli costò una sospensione di circa otto mesi del suo lavoro a The New Republic. Si tratta di un avvenimento del 2006 ma evidentemente gli pesa ancora visto che ne parla anche in Against the machine, il libro qui tradotto, ma pubblicato in versione originale nel 2008: sostiene che si era trattato anche di un modo per dimostrare che non ci si può fidare del sistema dei blog quando si discute di questioni serie. Non tutti hanno dato molto peso a questa sua autodifesa. Ma è un fatto che le storie false, come le storie vere, abbondano in rete.

Già. Tutta la questione sollevata da Siegel ruota intorno alle conseguenze sull’esperienza umana della crisi dell’autenticità e della qualità analogica della cultura, che l’autore collega alla diffusione degli strumenti digitali nella vita quotidiana. La sua argomentazione è leggera, polemica, divertente. E forse colorata più dallo spirito del pregiudizio che dall’attenzione alla ricostruzione storica. Ma indubbiamente il suo tema è importante. Il rapporto tra l’uomo e la macchina resta, per molti, irrisolto dai tempi Frankenstein. Oggi però la tecnologia è riuscita a darsi un volto che fa meno paura, nonostante gli intellettuali sensibili come Siegel non cessino di esserne turbati. I fatti, bisogna dirlo, continuano a porre problemi. Come nel caso di Suzette.

Suzette ha vinto il Loebner Prize 2010. Dialogando con lei, uno dei giudici ha davvero pensato di trovarsi di fronte a un essere umano. Invece era un computer progettato da Bruce Wilcox. Nel 2009, il premio per la “macchina più umana” era stato vinto da David Levy, famoso tra l’altro per una bizzarra polemica con la psicologa Sherry Turkle: Levy disse che in futuro gli umani si innamoreranno dei robot; Turkle si oppose sostenendo che resterà sempre qualcosa di non autentico nell’amore tra esseri umani e macchine. Forse avevano ragione entrambi.

Perché il confine tra naturale e artificiale è sempre meno chiaro. E di certo, per gli umani, è culturale. Per Kevin Kelly, grande saggio del mondo digitale, la logica della tecnologia si impone alla storia degli umani come se avesse una sua volontà. E per un magnifico economista come Brian Arthur, autore de «La natura della tecnologia», la dinamica dello sviluppo tecnologico è molto simile all’evoluzione della vita: il problema è distinguere tra la tecnologia che libera le capacità dell’umanità e quella che la limita. È una preoccupazione di Lee Siegel: la macchina per Siegel sta prendendo il controllo delle persone e ne avvelena i pensieri. Lo sospetta il sociologo Zigmunt Bauman che osserva come il telefonino abbia la capacità di imporsi all’attenzione delle persone tanto da distrarle persino da una conversazione tra amici e parenti riuniti fisicamente a tavola, in nome di relazioni a distanza mediate dalla macchina.

Gli umani hanno di sicuro l’impressione di poter mantenere la situazione sotto controllo. In fondo, sono loro a costruire le macchine: il che è vero. Ma come non vedere che quando le macchine sono costruite la loro logica funzionale si fa valere? Le macchine che gestiscono i mercati finanziari sembrano ben poco controllabili da parte dei singoli operatori umani. Porsi il problema è forse necessario per difendere o rafforzare la dimensione umana.

Il premio Loebner, del resto, si basa sul test di Turing, studiato per rispondere a una domanda cruciale: «I computer pensano?». Nel test, il giudice conversa, attraverso un video e una tastiera, con un umano e con un computer che tentano, entrambi, di mostrarsi umani. Se il computer riesce a convincere il giudice di essere umano, secondo l’ideatore, è possibile ipotizzare che sia in grado di pensare. Ma è altrettanto istruttivo osservare che, nel test, un umano può anche essere scambiato per un computer: tanto che la persona che convince più giudici di essere umano vince a sua volta il premio di «umano più umano». Brian Christian, poeta di 27 anni, ha vinto quel premio: e ha appena pubblicato un libro su quell’esperienza.

Per prepararsi al test, Christian chiese consiglio ai maggiori esperti su come comportarsi per apparire umano. Gli risposero: «Sii te stesso». Christian si chiese come fare. Si accorse che gli scienziati hanno a disposizione molti manuali che spiegano come programmare le macchine per farle sembrare umane, ma non esiste un manuale che insegni agli umani come apparire umani.

Forse un aiuto viene dal «Libro bianco sull’innovazione sociale», curato in Italia Alex Giordano e Adam Arvidsson (www.societing.org). Il segreto è porsi un problema giusto. Perché l’innovazione che conta non è una qualunque novità: è una novità che libera ed espande le possibilità degli umani di imparare a essere se stessi. Questo è forse il tema più sottile e importante.

Siegel, però, non si offre a un’argomentazione articolata. È concentrato sulla denuncia di un atteggiamento a suo parere troppo unilaterale diffuso tra i sostenitori della rivoluzione internettiana. Il suo contributo è prima di tutto un sintomo: forse siamo giunti a un’epoca in cui la società ha bisogno di vedere internet con più distacco per poterne comprendere meglio le implicazioni concrete e per digerire culturalmente la grande novità portata da internet nel mondo degli ultimi quindici anni.

La critica di Siegel spazia in ogni angolo del rapporto tra la fatica analogica di apprendere o informarsi e la comodità ambiguamente superficiale dello scambio di conoscenze nel contesto digitale. Si sente che Siegel è soprattutto condotto da una questione di gusto culturale: vale di più un pensiero autenticamente umano di quanto non valga il gesto automatico di compiere una ricerca su Google. Certo, niente di dovrebbe condurre a credere che la tecnologia non possa essere ricondotta a una condizione culturale più profonda di quella che appare a Siegel. Ma la sua reazione – viscerale, estetica, razionalistica – alla rete in fondo è il sintomo di un disorientamento generalizzato che una certa parte della società che riflette prova di fronte a un fenomeno composto da una quantità di novità davvero difficile da seguire e sintetizzare.

La reazione disorientata o disgustata può essere comprensibile se ci si concentra sulla vasta presenza in rete di pessimi sentimenti, manifestazioni di odio e dichiarazioni false, come del resto segnalano in molti anche al seguito di importanti intellettuali come Umberto Eco. Ma in effetti sarebbe piuttosto assurdo non controbattere sottolineando come la rete non abbia solo aperto la strada ai vandali della cultura: ha aperto per grandi quantità di persone la strada per consultare i paper scientifici, le versioni digitali dei principali organi di stampa, i documenti ufficiali, i libri classici, le informazioni della pubblica amministrazione; ha consentito a milioni di persone impegnate, generose e competenti, di offrire alla rete il loro contributo alla conoscenza comune. Ha attivato una dinamica innovativa che sta cambiando intere industrie basate sulla conoscenza. Fare vedere solo una parte della realtà è sempre – sempre! – sbagliato. Quindi vale la pena di notare che qua e là – quasi sottovoce, peraltro – anche Siegel ammette la qualità costruttiva delle possibilità offerte dalla rete.

Ma la sua critica si concentra sugli esempi relativamente peggiori che lo aiutano a sottolineare retoricamente le incoerenze contenute nelle frasi più entusiastiche dei sostenitori della rete. Quasi sempre estratte dal contesto. Perché?

Forse il centro della questione è che Siegel si scandalizza troppo della volgarità per poter riuscire ad ammettere allo stesso tavolo gli intellettuali più sofisticati e i falsari più banali. Il suo gioco retorico è quello di considerare internet e tutti i suoi contenuti come un unicum: con questo approccio riesce ad abbassare il giudizio sull’insieme. Varrebbe la pena di osservare che internet non è un unico medium che si possa giudicare nella sua interezza, ma un universo popolato dalle azioni e dai pensieri di alcuni miliardi di persone, considerando gli accessi fissi e mobili. Di conseguenza non può che esserci molto di tutto. Ma il punto di Siegel è utile ad aiutare una società intenta, appunto, a digerire la grande trasformazione contemporanea: non ci si può più fermare a trovare qualcosa su internet, occorre imparare a distinguere. Howard Rheingold, uno dei pionieri intellettuali della rete, ha lanciato recentemente un suo semplice servizio intitolato “crap detection” proprio per aiutare la gente a separare le informazioni qualitativamente valide che si trovano in rete da quelle che non vale la pena di prendere in considerazione. Ma quell’idea ha una storia partita certamente prima della rete: Ernest Hemingway scriveva nel 1954 che ogni persona dovrebbe dotata di un crap detector, cioè di un rilevatore automatico di sciocchezze. Il social network digitale non è molto diverso, da questo punto di vista, dalla rete sociale analogica. C’è di tutto. E a ciascuno spetta imparare a fare i conti con questa realtà. È vero che in rete c’è il peggio. Ma c’è anche il meglio. Mentre in altri mezzi di comunicazione c’è molto meno da scegliere. Significa che aumentano le responsabilità di chi se le vuole assumere: gli intellettuali, i leader, lo stesso pubblico. Che non è più un gregge. Un pubblico fatto di persone che possono davvero decidere se prendere la strada della libertà di pensiero oppure giocare con il peggio di sé.

Ma a questo proposito c’è una discussione – ripresa da Siegel – che vale la pena di chiosare. Quella che a partire dalla facilità di accesso ai contenuti per tutti dichiara che la rete è di per sé democratica e capace di generare democrazia. Siegel semplicemente si arrabbia con questa idea, giudicandola superficiale e incoerente. Altri la discutono attingendo alla loro stessa biografia.

Il giovane attivista bielorusso, Evgeny Morozov credeva nelle opportunità offerte da internet per la democrazia e combatteva la sua battaglia ideale sostenendo blog e social network come strumenti di miglioramento della libertà di espressione. Ma si accorse presto che i governi autoritari possono rispondere non solo introducendo varie tecnologie di censura, cui gli attivisti tentano di rispondere con software che difendono la libertà di comunicazione, ma anche usando la stessa internet per fare propaganda, per disturbare i blogger con interventi diffamatori, aggressivi e fuori contesto, per individuare i dissidenti e per connettere ogni dissidente scoperto alla sua rete sociale e ai suoi referenti internazionali.

Per questa esperienza, Morozov è stato tentato di abbandonare la sua lotta per la democrazia. Poi ha trovato un’idea migliore. Ha scritto un libro che serve piuttosto ad abbandonare il cyber-utopismo e l’internet-centrismo. Per trovare la strada giusta che conduce a usare internet come uno strumento e non un fine. E quella strada parte dalla consapevolezza che ogni azione in favore della democrazia nei paesi autoritari parte dalla conoscenza del contesto e delle esigenze specifiche della popolazione locale.

Il libro di Morozov, “Net delusion”, è un libro d’amore per la democrazia che non dimentica le ragioni della storia e della geo-politica. Solo gli illusi possono essere delusi. E solo chi è davvero interessato al risultato di alimentare e diffondere la democrazia può comprendere come superare la delusione e ripartire con ancora maggiore energia.

Il fatto è che il cyber-utopismo, come del resto l’ideologia internet-centrica, sono sistemi di pensiero densi di motivazioni costruttive, ma se presi alla lettera si rivelano illusori come ogni semplificazione idealista. E sono stati usati come leva della straordinaria diffusione di internet nei primi tempi dell’esplosione del suo utilizzo in Occidente.

Come ho cercato di scrivere in “Edeologia, Critica del fondamentalismo digitale” (2003), l’approccio ideologico si presta a ogni strumentalizzazione da parte dei poteri politici ed economici. Ma ha avuto una motivazione forte nei suoi primi tempi. Proprio per le caratteristiche del settore cui si riferiva.

Una tecnologia di rete non ha alcun valore fino a che non è usata da nessuno. Proprio per il fatto che serve a connettere, se nessuno la usa, nessuno trova alcun interesse a usarla. E dunque che cosa può spingere qualcuno a usare una tecnologia che non ha alcun valore? Ci vuole un motivo che convinca molte persone ad adottare quella tecnologia simultaneamente. Questo coordinamento può derivare da un ordine dall’alto, come in un’azienda, oppure da un pensiero comune che si diffonde e convince. Un’ideologia può servire a questo scopo. Un’ideologia generosa, gentile, coraggiosa come il cyber-utopismo ha trovato molti sostenitori. Una teoria pragmaticamente tecnica come l’internet-centrismo ha dato ai tecnici un potere culturale che non avevano mai avuto e trascinato altri pseudo-tecnici a sostenerla. Questo ha effettivamente contribuito alla diffusione di internet.

Le conseguenze non sono mancate. Da un lato, una volta che le persone connesse sono state sufficientemente numerose, il valore di internet si è effettivamente dimostrato anche nella concretezza dell’esperienza quotidiana. Dall’altro lato, sono restate dinamiche ideologiche particolarmente importanti che sono state strumentalizzate.

La prima manifestazione della pericolosa strumentalizzazione di queste dinamiche si è avuta nel corso della bolla del 1998-2000: l’ideologia internet-centrica, tradotta in termini aziendali, ha convinto milioni di risparmiatori dell’idea che la sola esistenza di internet in un progetto di business lo avrebbe portato velocemente al successo di mercato; questo ha accompagnato l’azione speculativa condotta dalle grandi banche d’affari e dal resto dell’ecosistema finanziario e mediatico, sostenendone almeno in parte la capacità di attrazione. La bolla ha distrutto risparmi, aziende e posti di lavoro. Ma ha a sua volta accelerato la notorietà della rete e la diffusione delle connessioni.

Dopo lo scoppio della bolla, gli investimenti in internet si sono per qualche anno bloccati, ma milioni di persone hanno continuato a riconoscere nella rete un valore d’uso immenso e il numero degli utenti non ha cessato di moltiplicarsi. L’ideologia aveva dato il suo contributo, la speculazione lo aveva strumentalizzato, le persone restavano forse deluse dalla finanza e dall’ideologia, ma in generale valutavano positivamente la connessione e il suo valore.

L’ideologia non è certo scomparsa. E i rischi connessi neppure. Morozov vede la tentazione di ripercorrere questa storia nei paesi non occidentali, dove la democrazia e il mercato non esistono o sono molto diversi: meglio tener presente il dato costruttivo di un’ideologia, ma anche il pericolo di una delusione.

Forse, sia in Occidente che altrove, si sta avviando un’evoluzione dell’interpretazione di internet in chiave non ideologica ma storica e attenta ai diversi contesti sociali e politici. L’ideologia non sparisce, ma si diluisce in molti altri percorsi interpretativi.

Sta dunque finendo l’epoca in cui una visione ideologica della trasformazione sociale ed economica attivata dalla rete poteva essere scusabile. Siegel lo testimonia. Oggi un approccio ideologico all’interpretazione della rete ha una funzione storica molto meno rilevante di una visione critica e, se possibile, costruttiva. La visione critica non manca a Siegel che oppone all’ideologia dei sostenitori della rete un pregiudizio detrattore. E non spende tempo e attenzione per avviare almeno un discorso costruttivo. Ma non si può chiedere troppo a Siegel. Il suo compito è scrivere magnificamente di idee e osservazioni che non perde troppo tempo a controllare. Come si è visto, l’autocritica non è il suo forte.

Il contributo di Siegel è implicito e va letto nel contesto del dibattito più ampio in materia. Se in generale è assurdo pensare che la sola diffusione di internet possa avere effetti ben precisi – e ideologicamente positivi – sull’economia o sulla politica, non si può neppure dare per scontato che la tecnologia sia totalmente neutrale e non abbia conseguenze di per sé. Nei diversi contesti storici, nelle diverse condizioni sociali, nei vari momenti dell’economia e nelle più differenti condizioni della politica, così come di fronte alle diversificate caratterizzazioni psicologiche e cognitive, la tecnologia non può essere interpretata come un generatore automatico di conseguenze ingegneristicamente prevedibili, ma forse non è neppure un asettico strumento il cui unico effetto è quello che gli conferisce lo scopo e la capacità di chi lo usa. La domanda, troppo generale ma appassionante, è questa: quali sono le conseguenze di internet?

La risposta dipende dal contesto storico. Tanto per fare un esempio: in un paese totalmente dominato dalla televisione vissuta in solitudine dal proprio divano, internet è uno strumento e uno stimolo a recuperare relazioni; in un paese nel quale ci si incontra continuamente nei luoghi fisici della socializzazione, internet è una barriera alle relazioni. In un paese intrinsecamente democratico è uno strumento che arricchisce il dibattito, in un paese autoritario è ambiguamente utile sia ai dissidenti che agli addetti alla repressione. In un contesto povero di ogni mezzo può darsi che internet acceleri, per esempio, il commercio, ma in un contesto avanzato accelera tutto, compresa la ricerca e la generazione di nuova conoscenza. Non si può dire che sia uno strumento che favorisca l’eguaglianza, né che sia un automatico generatore di libertà, o di qualità delle relazioni: dipende dal contesto. Ma ha conseguenze tutte sue? Valide ovunque?

Di certo, è un intermediario tecnico tra le persone. In questo senso può essere interpretato come un elemento che cambia le condizioni delle relazioni: per lo psicologo Enrico Pozzi questo significa che favorisce la proiezione dei propri fantasmi sulla relazione con gli altri, per Sherry Turkle è una sfida all’autenticità delle relazioni, per BJ Fogg è un medium persuasivo e chi lo sa usare può indurre comportamenti precisi gli utenti. Per molti favorisce le relazioni autoreferenziali dal punto di vista culturale e sociale: ne parla persino il fondatore del web, Tim Berners-Lee. Ma tutto questo può anche essere digerito dall’evoluzione culturale.

Può essere considerato lo strumento di un’accelerazione del coordinamento tra le persone e i loro cervelli, come un elemento in più dell’intelligenza collettiva, come direbbe Thomas Malone, dell’Mit. Può essere anche uno strumento che accelera l’efficienza del mercato, come ha sostenuto Bill Gates, cofondatore della Microsoft. E di certo alimenta la quantità di informazione che circola. L’autore Nicholas Carr sospetta che ci renda stupidi, perché disabitua il cervello a pensare in modo ordinato e lineare. John Brockman, grande animatore di Edge, uno dei più importanti centri di elaborazione culturale della rete, ha lanciato la sua domanda su come la rete stia cambiando il modo in cui pensiamo: ha raccolto centinaia di riflessioni. Una sintesi? Difficile, ma di certo si può dire che gli effetti dell’internet sul cervello, la cultura, l’educazione non possono che essere diversi nei diversi contesti, presenti e futuri. E un approccio di ricerca senza pregiudizi, in materia, è il più adatto alla realtà storica dei fatti.

Alla fine, la risposta è pragmatica: se c’è qualcosa di specifico nella rete è la sua capacità di indurre un atteggiamento attivo nei confronti dei problemi e delle soluzioni. Chi vede un progetto o un prodotto o un servizio, con il software e la rete lo può realizzare. Non è detto che abbia successo, ci mancherebbe. Ma ha meno inibizioni e vincoli che con altre tecnologie e in altre condizioni. E questo la rete lo dichiara nella sua essenza costitutiva. È come se la rete dicesse a tutti coloro che imparano a conoscerla: «vedi un problema? Proponi la soluzione». Non siamo più solo consumatori di rete, ma costruttori di rete. E questo cambia le cose.


Luca De Biase, giugno 2011