DeepMind ha dimostrato il suo primo prodotto commerciale. Un sistema diagnostico per individuare in modo precoce e affidabile le malattie degli occhi usando la sua ormai famosa abilità nella progettazione e realizzazione di programmi di intelligenza artificiale (DeepMind). La ricerca è su Nature.
Nell’annunciare questa innovazione, DeepMind ha tenuto a precisare che il suo prodotto non solo offre diagnosi ma è capace di spiegare come arriva alle sue conclusioni e quali sono le probabilità di errore connesse ai suoi risultati. Naturalmente ora parte un processo di approvazione ufficiale per l’applicazione medica di questa tecnologia. C’è da ritenere che la capacità di spiegare che cosa succede nei sistemi neurali di DeepMind che determinano i suoi risultati diagnostici deve essere parte integrante del professo di approvazione.
La precisazione non è peregrina. Perché questa spiegabilità dei risultati del machine learning e del deep learning non è per niente scontata. In molti casi si tratta di una discussione aperta, ma la GDPR impone che ci siano ambiti di spiegabilità. La materia non è facile, ma insomma si comprende che chi fa machine learning e chi usa questa tecnologia per prendere decisioni che riguardano altre persone, non possa farlo se non sa esattamente come fa il suo sistema a tirar fuori i suoi risultati (TrustableAI).
Dal punto di vista scientifico questa è materia di ricerca. Tanto è vero che uno dei più importanti grant di ricerca appena assegnati dall’ERC è andato a un progetto di ricerca che si occuperà di trovare metodi scientifici per comprendere come si formano i risultati delle applicazioni di machine learning e deep learning. Il grant è stato vinto da Fosca Giannotti del CNR di Pisa e lo svilupperà con l’università di Pisa (ERC).
Uno dei massimi esperti di questa materia, Dino Pedreschi, università di Pisa che appunto lavora con Fosca Giannotti sul tema, ne parla a Biennale Democrazia.
Commenta