Nature: gli algoritmi dovrebbero essere trasparenti

[…] Ma il punto è che la scatola nera elettronica può apparire più comprensibile a chi l’ha costruita e meno a chi semplicemente la osserva. La scatola nera elettronica è comunque frutto di progettazione umana e può essere più o meno guidata da pregiudizi e volontà di chi l’ha realizzata. Del resto, come dice Frank Pasquale una società che è guidata da algoritmi dei quali non si conosce il funzionamento può diventare facilmente invivibile. Ma se quel funzionamento è conosciuto a poche centrali di potere quella società diventa facilmente ingiusta e inaccettabile. Con un di più di inquietudine: in fondo bisogna riconoscere che c’è una differenza tra la scatola nera del cervello biologico e la scatola nera del cervello elettronico, perché tra umani ci si intende sulla scorta di una quantità di segni di comunicazione non verbale che con i computer mancano. Questo può fare paura (Nature è per la trasparenza). […]