I principi etici per un’intelligenza artificiale affidabile

ALTAI (Assestment List for Trustworthy AI) è un elenco di valutazione cui i produttori di sistemi tecnologici, basati sull’impiego dell’intelligenza artificiale, devono attenersi per rispettare quei principi etici che garantiscono l’affidabilità dei sistemi dotati di AI.

[prisna-google-website-translator]

È un elenco flessibile cui poter fare riferimento, tenendo conto del particolare settore in cui si opera, per comprendere come l’intelligenza artificiale può aiutare le persone, senza essere esposte ai rischi legati alla sicurezza personale, la libertà, l’orientamento politico, tanto per citarne alcuni.

Fondamentalmente si tratta di rischi legati ai diritti fondamentali della persona e alla violazione che potrebbe risultarne da un utilizzo inconsapevole dell’AI.

Da decenni gli scienziati sono impegnati nello sviluppo di sistemi intelligenti in grado di ottimizzare processi e automatizzare azioni che sono proprie degli esseri umani, ma la questione non è così semplice e richiede l’attenzione degli specialisti affinché possano produrre sistemi che tengano conto dei diritti dell’uomo.

Prima di mettere mano alla produzione di un sistema di AI bisogna analizzare l’impatto che può avere sui diritti fondamentali, e capire se:

Tiene conto di tutte le categorie sociali
Rispetta i diritti dei bambini
Rispetta i dati personali in linea con il GDPR
Rispetta la libertà personale

Se il sistema in via di sviluppo soddisfa i prerequisiti sopra esposti si procede alla valutazione della lista dei sette principi etici per controllare che rispetti tutte le prescrizioni e non esponga a rischi.

Garantire l’intervento e la supervisione umana è il primo dei sette principi etici, cui far riferimento nello sviluppo di sistemi di giustizia predittiva.

I sistemi di AI possono influenzare la percezione umana in merito a determinati eventi e pilotare le decisioni con algoritmi che analizzano e prevedono i possibili rischi.

Occorre quindi salvaguardare la libertà di informazione dell’umano per evitare che l’algoritmo possa manipolarne la decisione finale, e fare in modo che l’individuo possa conservare l’autonomia e il controllo dell’apprendimento.

Robustezza e sicurezza è il secondo principio da considerare per sviluppare sistemi affidabili. Il sistema deve essere sviluppato in maniera tale da prevedere e quindi prevenire i rischi operativi legati all’utilizzo da parte di altri soggetti (umani o artificiali) che interagiscono con il sistema.

Privacy e data governance è il terzo principio, ed è legato alla modalità con cui vengono trattati i dati personali nel rispetto della privacy.

Il rispetto di questo principio comporta l’analisi e la predisposizione di sistemi in grado gestire la protezione dei dati successivamente all’acquisizione, con procedure definite per l’esercizio del diritto di revoca del consenso, del diritto di opposizione e del diritto all’oblio.

Trasparenza è il quarto principio etico, che si realizza attraverso il rispetto di misure che tendono a conferire al sistema quelle caratteristiche fondamentali per garantire la trasparenza della procedura messa in atto dal sistema stesso, mediante una comunicazione chiara.

Gli utenti che fanno uso del sistema devono essere in grado di comprendere lo scopo, i criteri e i limiti delle procedure generate, in modo tale da poterne apprezzare sia i vantaggi che i limiti e i rischi e ottenere un’informazione adeguata sull’utilizzo.

Diversity e non discriminazione è il quinto principio etico che tiene conto delle diversità e comporta la predisposizione di strumenti per la verifica, la gestione dei rischi di distorsioni, la segnalazione di problemi legati alla discriminazione o scarso rendimento del sistema, l’analisi dell’efficacia e il coinvolgimento.

Benessere sociale e ambientale è il sesto principio etico da considerare per prevenire i rischi legati all’impatto del sistema di AI sul lavoro e sulle competenze delle persone.

La prevenzione si realizza attraverso la predisposizione di percorsi di riqualificazione dei lavoratori, idonei a ridurre l’impatto sull’organizzazione e sulle istituzioni.

Responsabilità è il settimo principio e richiede l’attuazione di meccanismi di verifica e monitoraggio continuo della conformità del sistema alla lista, con possibilità di coinvolgimento e interventi da parte di terzi.

BOR sviluppa sistemi di intelligenza artificiale per il controllo e la gestione informatizzata da remoto delle infrastrutture, tenendo conto dell’impatto che ogni singola azione generata dai sistemi può implicare sugli utenti finali.

La procedura di progettazione e sviluppo si allunga così notevolmente, ma l’impegno profuso dal team dell’IT Department – Ricerca e Sviluppo è ripagato con la fiducia che ripongono in noi i nostri clienti.

Mantenere il giusto equilibrio tra innovazione ed etica non è semplice, ma è essenziale per meritare di essere “i primi”.

BOR è dell’idea che l’innovazione tecnologica deve poter facilitare la vita delle persone, migliorare lo stile di vita, senza provocare danni.

È per questa ragione che, prima di mettere in produzione un sistema, BOR esegue numerosi test per rilasciare sistemi affidabili che rispettano i sette principi etici e migliorano la vita di chi li adotta.

Summary

Article Name

I sette principi etici per un’intelligenza artificiale affidabile

Description

Da decenni gli scienziati sono impegnati nello sviluppo di sistemi intelligenti in grado di ottimizzare processi e automatizzare azioni che sono proprie de...

Author

Carmelina Moccia

Publisher Name

BOR

Publisher Logo

Condividi su