L’utilizzo dell’intelligenza artificiale da parte delle imprese si impone sempre di più come strategia di efficienza dei processi aziendali, non ultimo grazie alla capacità dei sistemi di AI di elaborare quantità enormi di dati, estraendone anche nuove informazioni.
Alla base di questi sistemi, ci sono algoritmi che molte volte sono anche in grado di imparare da sé come migliorare le proprie performance (cosiddetto “machine learning”) e di ricercare in autonomia i dati necessari.
Le capacità dell’algoritmo
L’intelligenza artificiale analizza tutti i dati disponibili riferibili ad una situazione, creando relazioni tra di essi e facendone discendere delle conclusioni in termini di scenari probabilistici ed opportunità di direzione, anche di tipo strategico, da imprimere al business.
Quello che l’AI non riesce a fare sono almeno due cose:
- indicare scenari utili a fronte di situazioni del tutto nuove, per cui non disponga di dati sufficienti a individuare le regolarità causali che possano far preferire una decisione ad un’altra;
- rendere esplicite a chi se ne serva le relazioni che ha stabilito tra i dati, non riuscendo quindi nemmeno a spiegare il percorso logico che ha portato a tale decisione.
Si pensi alle scelte finanziarie: rielaborando milioni di variabili, attività impossibile anche per la persona più esperta e capace che abbia potere decisionale all’interno dell’impresa, l’algoritmo consiglia la scelta di investimento migliore in termini di analisi di scenario, ma non è in grado di spiegare perché tale scelta sia effettivamente la migliore.
Questa caratteristica rende l’algoritmo sostanzialmente una scatola nera dall’enorme potenziale.
È opportuno, dunque, verificare quanto gli amministratori possano discostarsi dalle decisioni suggerite dagli strumenti di AI, senza incorrere in responsabilità per scelte gestionali poi rivelatesi fallimentari.
Allo stesso modo, occorre verificare se via sia addirittura un obbligo, per gli amministratori, di discostarsi dallo strumento di AI quando le circostanze lo rendano opportuno.
L’obbligo di motivazione delle decisioni e il sindacato del giudice
Il sindacato del giudice nelle scelte imprenditoriali non può mai spingersi sino alla meritevolezza o meno delle stesse. La valutazione, invece, si basa sul percorso logico che gli amministratori hanno seguito per addivenire a tale decisione. Questa regola serve a preservare l’autonomia privata e la libertà di iniziativa economica.
Questa impostazione va in conflitto, però, con l’immagine di scatola nera, sia pur largamente affidabile, a cui si accosta a buona ragione la decisione algoritmica.
Non è possibile ricostruire a posteriori quale ragionamento abbia determinato le scelte di AI, non è possibile neppure valutare se tali scelte fossero legittime o meno.
È comunque evidente che le scelte gestionali non possano essere del tutto delegate all’algoritmo che potrà essere invece utilizzato come strumento a servizio degli amministratori umani.
Le scelte degli amministratori in contrasto con l’algoritmo
Gli amministratori umani, peraltro, non solo sono tenuti a motivare le decisioni assunte ma anche a motivare la scelta dello strumento di AI utilizzato.
Se l’amministratore umano fosse in disaccordo con la decisione dell’algoritmo di intelligenza artificiale, sarebbe tenuto a discostarsi dalla scelta robotica spiegandone le ragioni.
Se, alla fine, la decisione dell’amministratore umano si rivela fallimentare, egli andrà comunque esente da responsabilità nel caso in cui:
- aveva motivato la dissociazione rispetto alla decisione proposta dall’AI e
- da quella motivazione si evince che l’operato dell’amministratore sia stato ragionevole e diligente.
Conclusioni: intelligenza artificiale e consiglio di amministrazione
Gli strumenti di intelligenza artificiale sono una risorsa di grande valore nell’attività d’impresa.
Finché, però, la tecnologia non sarà in grado di renderli del tutto trasparenti vanno utilizzati con la massima cautela.
La responsabilità per il loro utilizzo rimane in capo ai decisori umani che dovranno sempre spiegare perché si sono fidati o meno della proposta algoritmica.
