Quali sono i pericoli dell'intelligenza artificiale?

Nell’agosto 2016 Uber lanciò il servizio di guida autonoma, sorpassando Google e Tesla che erano a lavoro da anni per mettere sul mercato auto senza conducente.

[prisna-google-website-translator]

La notizia generò molta curiosità. Auto senza conducenti avrebbero prelevato viaggiatori direttamente in stazione e in aeroporto per condurli verso le varie destinazioni…

Uber per l’occasione si servì di SUV della Volvo dotati di tutto il necessario per viaggiare autonomamente. A bordo oltre ai viaggiatori ci sarebbero stati un tecnico in grado di intervenire in caso di emergenza e un assistente che avrebbe preso nota di tutti gli eventi che si sarebbero verificati durante il percorso.

La corsa sarebbe stata totalmente gratuita per i viaggiatori che avrebbero prenotato.

Puoi ricordare anche tu quante scene ha generato la tua mente dopo l’annuncio di Uber sull’avvio della sperimentazione…

Un servizio di taxi con guida autonoma aveva già debuttato a Singapore, poi un incidente mortale nel marzo 2018 in Arizona ha gettato un mare di ombre sulla tecnologia che aveva acquistato Uber da un’azienda specializzata, e fatto nascere numerosi quesiti sull’opportunità di adottare la guida autonoma come soluzione per il futuro.

L’incidente ha causato la morte di una donna che viaggiava in bicicletta di notte. Il tecnico presente in auto era distratto e sebbene i sensori avessero rilevato e riconosciuto la presenza di un ostacolo umano, il software del veicolo lo ha ignorato perché la soglia di sensibilità era stata volutamente abbassata.

Uber decise di sospendere i test in strada e continuare la sperimentazione su piste controllate. Da allora la guida autonoma è stata approfondita da diverse case automobilistiche.

La Tesla ha sviluppato un software di livello 2 che richiede il monitoraggio costante dell’ambiente circostante da parte del conducente, che è tenuto a tenere le mani sul volante per gestire le situazioni di pericolo. Sebbene poi abbia annunciato l’uscita sul mercato di un software di guida autonoma di livello 5, l’attenzione resta sulla questione della responsabilità.

I proprietari delle auto dovrebbero aggiornare i software e garantire un buon livello di manutenzione dell’auto. Quando l’auto viene venduta il sistema è in grado di funzionare correttamente, ma l’imperizia del proprietario potrebbe poi pregiudicarne la corretta efficacia e, in caso di sinistro, la responsabilità cadrebbe comunque sulla casa costruttrice. Sebbene Tesla fornisca auto dotate di sistemi che si aggiornano automaticamente la cautela non è mai abbastanza.

Consentimi pure di dire che c’è ancora molta strada da percorrere prima di avere la certezza di poter utilizzare un’auto completamente a guida autonoma che ti consenta di dedicarti ad altro mentre viaggi!

Il focus è questo: come può la tecnologia influenzare le nostre scelte e le nostre vite?

Quali sono i rischi dell’intelligenza artificiale?

Il rischio di essere coinvolti in un incidente causato da un veicolo a guida autonoma è quello più concreto e genera continue discussioni, ma pensa alla violazione della privacy o delle libertà personali, alla manipolazione della mente, ai danni all’uomo cagionati da armi autonome…

Nel corso degli ultimi anni abbiamo già assistito a casi di manipolazione da parte di social network che hanno utilizzato in modo scorretto i dati degli utenti per pilotare le scelte politiche e favorire un esito di votazione piuttosto che un altro…

Google ha redatto un codice etico per l’Intelligenza Artificiale con il quale sottoscrive l’impegno a non sviluppare sistemi di intelligenza artificiale per fornire supporto ai droni nell’identificazione di bersagli per le armi autonome. Il documento nasce da una precisa richiesta dei dipendenti che si erano opposti alla collaborazione di Google con il Pentagono per usare le proprie tecnologie per classificare e riconoscere le immagini elaborate dai droni.

Nel 2018, per sua stessa ammissione, la Cina ha realizzato il più vasto sistema di sorveglianza al mondo, basato sull’installazione di migliaia di telecamere in grado di praticare il riconoscimento facciale e identificare malintenzionati, ricercati ma anche comuni cittadini. Il tutto sarebbe avvenuto anche con l’ausilio delle immagini disponibili in rete sui social network. Il sistema è stato in grado di seguire gli spostamenti e tracciare le frequentazioni dei soggetti.

Nel mese di Agosto di quest’anno sono state pubblicate le indicazioni operative destinate a coloro che si occupano dello sviluppo di sistemi di intelligenza artificiale affidabile.

Il documento, che contiene i sette principi etici (fai clic qui per approfondire) da rispettare per lo sviluppo di sistemi affidabili, si chiama ALTAI (fai clic qui per approfondire) ed è stato pubblicato dalla Commissione europea insieme a un Gruppo di esperti per far capire innanzitutto cos’è l’intelligenza artificiale affidabile e per far conoscere gli effetti che potrebbe generare in determinati individui e contesti organizzativi per ridurne i rischi e ottimizzarne i benefici.

BOR sviluppa sistemi di intelligenza artificiale affidabili perché, nella valutazione dei rischi che potrebbe causare l’impiego della tecnologia, analizza attentamente l’impatto che potrebbe avere rispetto ai diritti fondamentali delle persone ogni singola attività generata dal sistema e sviluppa precisi protocolli operativi che mirano a ottimizzare i benefici dell’impiego del sistema di AI nella vita quotidiana delle persone.

Se ti è stato utile questo articolo condividilo con i tuoi contatti. Se invece desideri informazioni più dettagliate sull’esclusivo servizio di portierato e guardiania virtuale che svolgiamo in Tele-presenza, contattaci e richiedi una consulenza gratuita.