L’introduzione dell’intelligenza artificiale nella quotidianità di imprese e cittadini suscita riflessioni sull’impatto etico, sociale ed economico di questa tecnologia. Se ne sta discutendo anche in Europa: mercoledì prossimo è attesa la presentazione del Libro bianco sull’intelligenza artificiale della Commissione europea. Intanto, ieri il Parlamento europeo ha approvato nel corso della seduta plenaria una risoluzione con cui si chiede di porre attenzione sul tema dei processi decisionali automatizzati, a tutela dei consumatori.
Indice degli argomenti
Le richieste alla Commissione
Nel documento si chiede di valorizzare gli aspetti della sicurezza, della qualità e della trasparenza nel trattamento dei dati.
Riconoscendo l’importanza della tecnologia e valutando in modo positivo la potenzialità dei processi decisionali automatizzati, il Parlamento sottolinea che i consumatori “dovrebbero essere adeguatamente informati sul modo in cui detto sistema funziona, su come contattare un essere umano dotato di potere decisionale e su come sia possibile controllare e correggere le decisioni del sistema”.
Inoltre, viene chiesto alla Commissione di vigilare sulla corretta applicazione delle nuove regole “che impongono ai professionisti di informare i consumatori quando i prezzi dei beni o dei servizi sono stati personalizzati sulla base di processi decisionali automatizzati e di profilazione del comportamento dei consumatori che permettono ai professionisti di valutare il potere d’acquisto dei singoli consumatori”, oltre a controllare che i processi automatizzati non vengano usati a scopo discriminatorio.
Viene anche chiesto alla Commissione di accertare che gli obblighi dei professionisti “consentano ai consumatori di operare una scelta effettiva”, offrendo anche adeguata protezione, valutando la possibile presenza di lacune normative sull’intelligenza artificiale, per porvi rimedio nel caso fossero individuate. Nello specifico, si parla anche delle direttive sulle controversie, poiché i processi decisionali automatizzati possono trovare applicazione in questo ambito.
La sicurezza
Riguardo alla sicurezza dei prodotti, il Parlamento spiega di rendersi conto che l’introduzione sul mercato di prodotti dotati di capacità decisionali automatizzate presuppone la necessità di affrontare nuovi scenari di sfida, “dal momento che tali prodotti possono evolvere e agire in un modo non previsto al momento della loro prima immissione sul mercato”. L’invito alla Commissione quindi è quello di adeguare le norme relative alla sicurezza sui prodotti tenendo conto di questa situazione. Si richiede in particolare l’adeguamento delle direttive:
- macchine
- sulla sicurezza dei giocattoli
- sulle apparecchiature radio
- sulla bassa tensione
- sulla sicurezza generale dei prodotti.
I servizi: l’essere umano al centro
Riconoscendo che i processi decisionali automatizzati possono migliorare l’efficienza dei servizi, per il Parlamento europeo “gli esseri umani devono sempre essere responsabili, in ultima istanza, delle decisioni prese nell’ambito di servizi professionali quali le professioni mediche, forensi e contabili, e nel settore bancario, nonché essere in grado di revocare tali decisioni”, sottolineando anche “l’importanza del controllo o della vigilanza indipendente da parte di professionisti qualificati nel caso di processi decisionali automatizzati dove sono in gioco legittimi interessi pubblici”.
Nella risoluzione si evidenzia l’importanza di valutare eventuali rischi prima di automatizzare i processi professionali.
Trasparenza nel trattamento dei dati: occhio al GDPR
Un punto cui prestare particolare attenzione, perché portato alla luce negli ultimi mesi anche da diversi professionisti del settore data protection, è quello relativo al rapporto tra gestione dei dati e processi decisionali automatizzati. Il Parlamento europeo stesso nella risoluzione ha riscontrato che tali processi sono basati sulla raccolta di numerosi dati e riconosce “il potenziale della condivisione dei dati da fonti non solo pubbliche ma anche private, pur sottolineando la fondamentale necessità di proteggere i dati personali ai sensi del GDPR”. L’importante, evidenzia il Parlamento, è valorizzare l’utilizzo di dati imparziali e di alta qualità, a tutela dei consumatori, soprattutto coloro “che si trovano in situazioni vulnerabili”.
Presupposto fondamentale per questo scenario di compliance normativa, è la trasparenza degli algoritmi, che dovranno essere chiaramente spiegati anche agli organi di vigilanza del mercato.
Qui il testo completo della risoluzione approvata in Parlamento europeo.
