di Carolina Paulesu
È un fatto più che noto che oggigiorno i consumatori e Intelligenza Artificiale si confrontino abitualmente.
di Carolina Paulesu
L’interazione con questi strumenti assume diverse forme a seconda che sia utilizzata dal professionista o – caso più raro, ma crescente in importanza – dal consumatore e, a seconda dell’impiego, l’IA può rivelarsi tanto fonte di rischio, quanto di diversi benefici per le parti coinvolte.
L’osservazione da cui muovere è che nell’ambito delle contrattazioni online l’IA è risorsa utile, tanto all’impresa quanto ai consumatori. La capacità di processare i Big Data permette alle imprese di estrarre informazioni e di identificare, quindi, le abitudini di consumo di molti traendone ovvi benefici.
Le imprese godono infatti della possibilità di modulare la propria condotta, così da aumentare le probabilità che i consumatori adottino un determinato comportamento, ma anche di modificare le proprie strategie di mercato, rendendole più efficienti. Si pensi, in particolar modo, alla cosiddetta pubblicità mirata, basata sul comportamento online dei consumatori, e che consiste nell’indirizzare la pubblicità relativa ad un prodotto o servizio ad un determinato pubblico di consumatori il cui interesse sia garantito, con un certo grado di certezza, dalle informazioni dagli stessi diffuse (consapevolmente, o meno) online.
Questa pratica può presentare in realtà vantaggi anche per chi è oggetto di questa forma di profilazione.
Ai consumatori sono infatti offerti beni e servizi aderenti a personali necessità e preferenze, essendogli così permesso di limitare il tempo necessario alla scelta e venendogli forniti gli strumenti per navigare e districarsi tra la – spesso esorbitante – quantità di informazioni reperibili in rete.
Nella pratica tuttavia, lungi dal limitarsi ad un mero indirizzamento (o c.d. nudging), le imprese mettono spesso in atto vere e proprie attività di sfruttamento delle informazioni, la cui analisi porta alla luce non solo gusti e inclinazioni dei consumatori, bensì anche le loro vulnerabilità e distorsioni cognitive.
La stessa pubblicità mirata, ben legittima in alcune circostanze, può risultare anche nociva: caso di scuola è quello dei prestiti c.d. “predatori” offerti a soggetti che si trovino in una condizione di difficoltà finanziaria.
L’utilizzo dell’Intelligenza Artificiale permette poi la messa in atto di altra pratica potenzialmente dannosa per i consumatori, la discriminazione di prezzo.
Se quest’ultima non desta – nei più – particolari preoccupazioni qualora l’individualizzazione del prezzo non consista in altro se non in una (efficiente) massimizzazione del profitto, lo stesso non si può dire quando la distinzione si fondi sulle caratteristiche personali del soggetto discriminato, ovvero sulle vulnerabilità emerse dai dati, ovvero ancora sfrutti in maniera non trasparente una determinata esigenza momentanea e la correlativa disponibilità del consumatore a pagare un prezzo più alto, pur se a parità di ogni altra condizione.
Si pensi al caso di un soggetto affetto da patologia grave che, necessitando di un’assicurazione sanitaria dimostri – necessariamente – minor interessamento al prezzo, ovvero a quello di chi cerchi ripetutamente e in un breve arco temporale informazioni sulle tariffe aeree disponibili per una determinata destinazione per le vacanze.
A questo riguardo, la normale asimmetria informativa tra imprese e consumatori può essere esacerbata dall’IA e quindi indurre i consumatori ad assumere decisioni commerciali che non avrebbero assunto, se fossero stati consapevoli del processo sottostante e della discriminazione di cui sono stati fatti oggetto.
Da questo punto di vista, l’ambito normativo a cui guardare per rimediare ai possibili effetti distorsivi di questi usi dell’IA è rappresentato principalmente dal sistema di tutela dei dati personali.
Tuttavia, le questioni poste possono trovare una fonte di regolamentazione anche nei contratti e più in generale nelle norme che tutelano i consumatori da clausole vessatorie, o mancanza di trasparenza nella fase pre-negoziale o ancora da quelle forme di contrattazione che possono qualificarsi come pratiche commerciali scorrette.
Le applicazioni dell’IA sinora descritte si caratterizzano per l’utilizzo unicamente da parte delle imprese. Nel corso degli ultimi anni, tuttavia, gruppi di ricerca multidisciplinari si sono occupati dello sviluppo di strumenti di IA che possano essere impiegati direttamente dai consumatori o dalle organizzazioni operanti a loro tutela.
Un esempio in tal senso è fornito dallo strumento CLAUDETTE (sviluppato dall’Istituto Universitario Europeo) il quale permette – tramite machine learning – l’analisi delle condizioni descritte nei contratti B2C e nelle privacy policies, nonché l’identificazione delle clausole potenzialmente vessatorie in essi contenute.
In definitiva, una visione troppo rigida dell’Intelligenza Artificiale, che la identifichi unicamente come fonte di potenziale rischio per i consumatori, non pare quindi giustificata. Sebbene il suo utilizzo dia origine a legittime preoccupazioni quando impiegata dalle imprese, la stessa presenta non trascurabili potenzialità – che meritano quindi ulteriore indagine – quando messa al servizio dei consumatori.
