Intelligenza Artificiale: gestire i rischi per le persone e per il business

Le tecnologie ad intelligenza artificiale sono diventate il volano dei processi di produzione di beni e servizi e contribuiscono a guidare lo sviluppo economico e produttivo in tutti gli ambiti nei quali si svolge la vita delle persone: organizzazioni, comunità, ambiente, finanza, sanità, mobilità e agricoltura. Ad evidenti vantaggi e a rilevanti benefici si accompagnano, tuttavia, anche rischi significativi per la salute, la sicurezza e persino i diritti fondamentali delle persone. Questi rischi vanno gestiti con metodo, al fine di garantire gli interessi e i diritti individuali e di preservare, contestualmente, l’affidabilità, la sostenibilità e la competitività del business. Vediamo come.

di Giuseppe Alverone - DPO certificato UNI 11697:2017. Formatore e divulgatore Privacy

Un sistema di intelligenza artificiale (IA) è un software, un algoritmo che – sviluppato con determinate tecniche e particolari approcci, al fine di realizzare una serie di obiettivi definiti da un essere umano – può generare risultati sotto forma di contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti reali o virtuali con cui il sistema interagisce. 

Come impara l’AI?

Gli algoritmi di IA sono progettati per operare con diversi livelli di autonomia, complessità e dipendenza dai dati. Per questo motivo è molto difficile comprendere e spiegare come funzionano, cioè “come” e “perché” compiono determinate operazioni. Ciò perché questi sistemi utilizzano modelli che vengono creati direttamente dagli algoritmi, “addestrati” attraverso dati appositamente forniti o direttamente acquisiti dai sistemi stessi.  Di conseguenza nemmeno gli esseri umani che li progettano possono esattamente capire come le variabili vengono combinate dagli algoritmi per generare risultati, ossia per rilasciare contenuti, fare previsioni, dare raccomandazioni o prendere decisioni. In un quadro così complesso, risulta determinante la qualità dei dati utilizzati per addestrare i modelli di IA.

L’importanza della qualità dei dati

La qualità dei dati utilizzati per addestrare i modelli di IA può influenzare la funzionalità e l’affidabilità dei sistemi anche in modo rilevante ed inaspettato. Al riguardo, il paradigma noto con l’acronimo “GIGO” (Garbage In = Garbage Out) chiarisce molto bene questo tipo di criticità. 

Detti sistemi, infatti, effettuano le loro elaborazioni e correlazioni in modo acritico. Quindi, se ricevono, come input, un set di dati errato, senza senso o contenente un pregiudizio (il c.d. Bias), daranno come output dati aventi le stesse peculiarità. Pertanto un sistema di intelligenza artificiale che non sia addestrato con dati di elevata qualità può individuare le persone in modo discriminatorio o anche errato o ingiusto, impattando sui diritti fondamentali delle persone. Gli stessi dati dovrebbero, quindi, essere sempre privi di errori e completi alla luce della finalità prevista per il sistema di IA. 

Affidabilità by design

Sulla base di quanto evidenziato, è agevole indurre quanto sia indispensabile progettare e sviluppare sistemi di intelligenza artificiale tenendo conto delle molteplici possibili fonti di Bias, proprio per garantire affidabilità ed evitare danni rilevanti e discriminazioni. Non solo. La mancanza di affidabilità dei sistemi si riflette anche sulla sostenibilità e competitività del business, di cui l’IA è ormai indispensabile strumento. Quindi, attenzione: NO a sistemi molto sicuri ma iniqui; e NO a sistemi accurati, ma opachi e non spiegabili.

Come gestire i rischi connessi all’uso dell’IA  

Al fine di ridurre al minimo i rischi per la salute e la sicurezza o per i diritti fondamentali delle persone e di preservare contestualmente l’affidabilità, la sostenibilità e la competitività del business è assolutamente necessario conformare la progettazione, lo sviluppo e l’implementazione dei sistemi di IA a requisiti di:

• elevata qualità dei dati;

• trasparenza;

• precisione e robustezza;

• tracciabilità;

• sorveglianza umana. 

Risulta necessaria anche l’attuazione di adeguate pratiche di governance e di gestione dei dati. 

Conclusioni

In uno scenario globale così complesso, grandi sfide attendono le organizzazioni pubbliche e private. Queste dovranno far leva sulla competenza e affidabilità dei player che saranno chiamati a progettare, sviluppare ed implementare i sistemi di IA, tenendo, però, sempre ben presente che ogni attività economica e produttiva ha come baricentro l’Essere Umano e il Valore della Persona.