Explainability, o: sappiamo sempre il perché delle scelte dell’intelligenza artificiale?

Explainability: se l'IA non la capiamo?

Il nostro viaggio a Ital-IA, il primo Convegno Nazionale del Laboratorio Artificial Intelligence and Intelligent Systems del Consorzio Interuniversitario Nazionale per l’Informatica, è stato proficuo anche per l’incontro con Nicola Gatti, direttore dell’Osservatorio Artificial Intelligence del Politecnico di Milano. Ecco che cosa gli abbiamo chiesto:

Vari utilizzi dell’intelligenza artificiale portano a situazioni nelle quali i ricercatori ottengono risultati senza avere una idea chiara di come hanno lavorato gli algoritmi. È l’embrione delle “vere” intelligenze artificiali oppure un rischio strategico potenziale?

E questa è stata la sua risposta.

Il problema della explainability

Esistono effettivamente algoritmi che estraggono qualcosa di non interpretabile da un umano, nel senso che ci risulta incomprensibile l’elaborazione interna ai dati eseguita dall’algoritmo stesso; un esempio classico lo abbiamo in molte applicazioni di deep learning, che portano a classificazioni di dati di cui all’occhio umano sfugge la ratio.

Non è sempre così, però. Altre applicazioni di intelligenza artificiale fanno uso per esempio di alberi di decisione, una metodologia dal risultato decisamente più comprensibile per un umano, la stessa che usiamo anche noi, utile in contesti come per esempio l’opportunità di dividere un mercato in sottomercati per individuare quello più importante.

Dipende dal blackboxing

Tutto questo rientra nel tema della explainability, molto attuale e sentito, nonché ricco di sfumature. Magari un giorno scenderemo in dettaglio anche su questo; per ora è sufficiente notare che esistono tecniche, tipicamente comprese nella categoria del blackboxing, soggette più di altre a questa problematica.

A Nicola abbiamo posto altre domande, su intelligenza artificiale e Wealth Management, natura del machine learning e figure e risorse necessarie per l’IA nel Wealth Management.

È stato un viaggio interessante e piacevole, che certamente ha chiarito anche ai meno esperti almeno i dettagli di basi dell’intelligenza artificiale e del ruolo sempre più preminente che si avvia a rivestire nella gestione degli asset e della ricchezza. Grazie!

You might be interested in: