eXplainable AI: cos’è e perchè l’intelligenza artificiale affidabile è parte della strategia di innovazione

L’adozione di sistemi di Explainable AI (XAI) in ambito aziendale porta con se diversi benefici documentati dalla letteratura scientifica e dalle best practice di settore.

1. Maggiore fiducia nelle soluzioni AI

La trasparenza fornita dall’XAI permette a manager, dipendenti e clienti di comprendere le ragioni che hanno portato a decisioni basate sull’ausilio dell’AI o agli output di sistemi completamente o parzialmente automatizzati. La piena comprensione delle decisioni prese grazie all’AI ne favorisce l’adozione, riducendo la percezione di rischio e il giusto timore verso sistemi “black box”. Studi empirici dimostrano che la chiarezza nelle spiegazioni aumenta la fiducia e la propensione all’utilizzo di tecnologie avanzate. Inoltre, la possibilità di tracciare e comprendere il processo decisionale rafforza la reputazione aziendale e la relazione con gli stakeholder. Un altro aspetto fondamentale è che la comprensione delle spiegazioni rende l’AI accessibile anche a chi in azienda non ha competenze specialistiche, favorendone la diffusione.

2. Conformità alle normative e gestione del rischio

In un contesto regolatorio più chiaro e prescrittivo come quello delineato dall’AI Act la spiegabilità degli algoritmi è essenziale per dimostrare la conformità alle norme su trasparenza, equità e responsabilità. L’XAI consente alle aziende di documentare, giustificare e auditare le decisioni automatizzate, semplificando la gestione del rischio operativo, reputazionale e legale. In settori come finanza e assicurazioni, la spiegabilità è un requisito essenziale per rispondere adeguatamente a controlli e ispezioni prescritte dalle autorità di vigilanza. Modelli dotati di una migliore governance e di una più facile auditabilità, attraverso una ricca e dettagliata documentazione e tracciabilità, facilitano non solo le verifiche esterne, ma anche le revisioni interne.

3. Ottimizzazione dei processi decisionali e operativi

L’Explainable AI permette di migliorare i processi aziendali offrendo insight dettagliati sui fattori che influenzano le decisioni dei modelli predittivi e permettendo così di identificare errori, anomalie o bias (pregiudizi), con un impatto sulla qualità delle decisioni e la capacità di intervento di manager e operatori. La trasparenza favorisce anche la collaborazione tra reparti tecnici e di business, rendendo più efficace l’adozione di soluzioni data-driven e l’innovazione nei processi interni. La rapidità nell’identificare e risolvere problemi nei modelli riduce anche i costi e i tempi di interventi volti a migliorare efficienza ed efficacia dei processi operativi.

4. Miglioramento della relazione con clienti e utenti

La capacità di spiegare le decisioni prese dagli algoritmi aumenta la soddisfazione, la fiducia e la fedeltà dei clienti. Una AI trasparente riduce incomprensioni, reclami e frustrazioni, offrendo risposte chiare e personalizzate. Le aziende che investono in XAI possono così differenziarsi per qualità del servizio e attenzione all’utente finale, essendo in grado di circostanziare e contestualizzare, ad esempio, raccomandazioni di prodotti e servizi presenti in un catalogo, indicazioni di procedure e suggerimenti del customer care, risposte e interazioni con chatbot e agenti.

Come Funziona l’Explainable AI

Le tecniche per rendere i modelli di intelligenza artificiale spiegabili si articolano principalmente in tre categorie:

• modelli intrinsecamente interpretabili;
• metodi di spiegazione post-hoc;
• strumenti di visualizzazione e tecniche specifiche per deep learning.

Modelli intrinsecamente interpretabili

Algoritmi “shallow”, ovvero poco profondi con uno o al massimo due strati di apprendimento e dunque più facilmente interpretabili rispetto ai modelli profondi, tipici delle reti neurali alla base del deep learning. Tra i modelli intrinsecamente interpretabili troviamo i modelli di stima e classificazione più semplici come regressioni lineari e logistiche, alberi decisionali, e modelli basati su regole, che per loro natura permettono di comprendere direttamente le relazioni tra input e output.

Metodi di spiegazione post-hoc

Le tecniche di spiegazione post-hoc sono utilizzate per spiegare il processo decisionale con cui un modello di machine learning è giunto a un risultato, a una decisione, a una predizione. Sono spesso utilizzati per spiegare i risultati forniti da modelli complessi e profondi, come le reti neurali o come i modelli ensemble che combinano e pesano i risultati di due o più modelli semplici. Tra i modelli ensemble troviamo random forest, gradient boosting, adaboost, ecc.: essendo combinazione di diversi modelli semplici sono per loro natura meno trasparenti o di immediata interpretazione.

Ci sono diverse tecniche, ci limitiamo qui a introdurre le due più diffuse, ovvero LIME (Local Interpretable Model-agnostic Explanations) e SHAP (SHapley Additive exPlanations).

LIME.

La tecnica LIME è usata per spiegare le singole predizioni di modelli complessi. Per arrivare al risultato LIME verifica empiricamente a quale predizione giunge il modello modello se si modificano, per poi effettuare la stessa predizione utilizzando un modello interpretabile come una regressione o un albero decisionale e verificando nelle vicinanze della predizione che si vuole comprendere – ovvero localmente – qual è l’importanza delle singole feature che hanno portato alla singola decisione.

Tra i pro di questa tecnica c’è il suo essere completamente agnostica rispetto al modello da interpretare, permettendo così il confronto tra modelli diversi, non richiendo una comprensione approfondita del funzionamento dello specifico modello oggetto di analisi. Altro vantaggio è che, dando una spiegazione esclusivamente locale il calcolo è tipicamente piuttosto efficiente.

Esistono tuttavia alcuni punti di attenzione. LIME è infatti fortemente dipendente dalla capacità del modello surrogato con cui si effettua la predizione interpretabile. Inoltre, offrendo una spiegazione locale potrebbe essere poco significativo globalmente ed è inoltrer a rischio instabilità, ovvero può variare nei risultati anche in maniera importante con una piccola variazione nella perturbazione dei dati di input.

SHAP

SHAP invece fornisce un’interpretazione delle previsioni dei modelli basata sui principi della teoria dei giochi cooperativi. SHAP assegna a ciascuna caratteristica un valore di importanza (il valore SHAP) per una particolare previsione. Il valore di Shapley rappresenta il contributo di ogni singolo predittore in combinazione con tutti gli altri per ogni singola predizione.

Tra i pro del modello SHAP il fatto che il peso locale, ovvero sulla singola predizione, di ogni variabile di input può essere aggregato fornendo anche un’interpretazione globale. Non soffre neppure dell’altra limitazione presente nei modelli LIME, ovvero il dipendere dalla capacità predittiva di un modello surrogato sottostante.

Tra i contro dei modelli SHAP, ci sono l’elevato costo computazionale e l’approssimazione che considera i predittori indipendenti tra di loro: una semplificazione spesso valida ma che, in particolari circostanze, può essere anche molto lontana dalla realtà fattuale del sistema considerato.

Strumenti di visualizzazione e tecniche specifiche per deep learning

Le saliency maps e le Grad-CAM sono utilizzate per l’interpretazione degli output di reti neurali convoluzionali (convolutional neural network o CNN) impiegate per l’analisi di immmagini. Semplificando, queste tecniche forniscono delle “heatmaps” o mappe dell’attenzione che evidenziano i pixel o le regioni di un’immagine che hanno maggiormente hanno influenzato la classificazione generata dal modello. Se il modello, ad esempio, deve classificare delle immagini, la saliency map permette di evidenziare quali aree dell’immagine hanno suggerito l’appartenenza a ciascuna classe.

Casi d’uso e applicazioni dell’Explainable AI

L’XAI è già impiegata in numerosi settori con risultati tangibili:

• In medicina, aiuta i medici a comprendere le diagnosi generate da sistemi di IA, aumentando la sicurezza clinica e l’adozione delle tecnologie.
• In finanza, consente di spiegare le decisioni di credito o di investimento, riducendo il rischio di discriminazioni e migliorando la compliance normativa.
• Nel settore pubblico e legale, favorisce la trasparenza nelle decisioni automatizzate che impattano sui diritti dei cittadini.
• Nell’industria 4.0 e nelle smart city, permette di monitorare e ottimizzare processi complessi con un controllo umano consapevole.

Nella sanità, l’Explainable AI assume un’importanza cruciale, poiché le decisioni prese hanno un impatto diretto sulla vita dei pazienti. Pertanto, i suggerimenti degli strumenti basati su AI devono essere pienamente  compresi dai medici che effettuano le diagnosi. Tecniche come le saliency maps e Grad-CAM sono ampiamente utilizzate per fornire spiegazioni visive che aiutano gli specialisti a comprendere e validare le predizioni dei modelli di deep learning impiegati in ambito diagnostico, verificando se il modello basa le proprie decisioni su aree dell’immagine (e dunque del tessuto sottostante) clinicamente rilevanti. Ne sono un esempio concreto i risultati ottenuti in termini di accuratezza delle previsioni nel campo del tumore cerebrale) e dei tumori della pelle. 

Temi aperti e sfide