L’intelligenza artificiale nelle funzioni amministrative: evoluzione tecnologica e limiti della regolazione giuridica

La regolazione giuridica

Con l’avvento dell’intelligenza artificiale all’interno delle funzioni amministrative d’impresa, al contempo è nata l’idea che l’impianto normativo esistente sia inadeguato.

Questa supposizione, tuttavia, presuppone implicitamente che il diritto dell’impresa sia costruito attorno alla centralità dell’atto umano individuale. Se così fosse, l’autonomia algoritmica rappresenterebbe effettivamente una crisi del sistema di regolazione.

La tesi qui proposta si discosta da tale impostazione: il diritto dell’impresa contemporaneo non si fonda più sulla centralità dell’atto individuale, ma sulla struttura organizzativa che governa l’attività economica.

In questo quadro, l’intelligenza artificiale non destabilizza il sistema, bensì ne mette in luce la logica sottostante, rafforzando la centralità dell’assetto organizzativo quale criterio primario di imputazione della responsabilità.

Il diritto dell’impresa come diritto dell’organizzazione

L’evoluzione normativa, ad oggi regolata dall’art. 2086 c.c., ha consolidato un principio centrale del diritto dell’impresa: l’imprenditore deve adottare assetti organizzativi adeguati alla natura e alle dimensioni dell’attività esercitata. In tale prospettiva, il fulcro della responsabilità si sposta dall’errore del singolo, all’adeguatezza della struttura complessiva, valorizzando l’organizzazione in quanto strumento di governo del rischio.

Coerentemente, il D.lgs. 231/2001 ha consacrato un modello di responsabilità fondato sul deficit organizzativo, prevedendo la responsabilità dell’ente quando il modello adottato non sia idoneo a prevenire il rischio di commissione dei reati presupposto.

L’intelligenza artificiale non altera tale impianto sistemico, bensì ne accentua la portata applicativa, imponendo un innalzamento dello standard di adeguatezza richiesto all’organizzazione.

L’AI come variabile di complessità nell’assetto organizzativo

L’introduzione di sistemi di machine learning, dallo scoring delle controparti all’analisi predittiva del rischio, fino all’automazione dei processi contabili, produce un aumento qualitativo della capacità decisionale.

In questo contesto si colloca l’“AI Act”, che prevede specifici obblighi di gestione del rischio, documentazione tecnica, supervisione umana e tracciabilità per i sistemi ad alto rischio.

È significativo che la normativa europea non configuri una responsabilità autonoma dell’algoritmo, né attribuisca soggettività giuridica al sistema, ma rafforzi piuttosto l’obbligo di governance in capo all’organizzazione che decide di adottarlo.

Dunque, anche in presenza di decisioni algoritmiche, l’ordinamento continua a radicare l’imputazione nella struttura imprenditoriale.

La contro-tesi: l’autonomia algoritmica come crisi del modello giuridico

Una parte della dottrina ritiene che i sistemi auto-apprendenti mettano in crisi il modello tradizionale per le seguenti ragioni:

• l’opacità decisionale tipica dei meccanismi di “black box” (ovvero, l’impossibilità di comprendere in modo chiaro come un sistema di intelligenza artificiale arrivi a una determinata decisione).
• Evoluzione autonoma degli output (ossia, attraverso l’apprendimento dai dati, l’IA può modificare nel tempo i propri risultati senza che ogni singola variazione sia direttamente programmata da un essere umano.
• Frammentazione della catena causale (vale a dire che un risultato prodotto da un sistema IA dipende dall’intervento di più soggetti diversi, come sviluppatori, fornitori, utilizzatori e via discorrendo; di conseguenza, quando si verifica un danno, diventa difficile individuare un unico responsabile).

Secondo questa impostazione, l’imputazione risulterebbe indebolita, poiché mancherebbe un soggetto umano direttamente responsabile dell’evento dannoso. Tuttavia, questa tesi parte dall’idea che la responsabilità dipenda dalla ricostruzione psicologica dell’atto.

Nel diritto dell’impresa moderno, invece, l’imputazione è strutturale e si concentra sull’organizzazione, non sulla volontà individuale.

Confutazione: la prevedibilità giuridica non coincide con la determinabilità tecnica

L’errore algoritmico diventa giuridicamente rilevante perché può derivare da scelte organizzative inadeguate

Dunque, elementi come la qualità dei dati, la presenza di audit, la supervisione e l’integrazione, diventano fondamentali.

Se questi presidi risultano carenti, la responsabilità si radica nella governance, non nell’autonomia dell’algoritmo.

Il vero punto critico: lo standard di adeguatezza organizzativa

Il problema non è se il paradigma regga, ma quale standard di adeguatezza sia esigibile quando l’impresa utilizza tecnologie ad alta complessità.

Un’interpretazione eccessivamente rigorosa rischierebbe di trasformare l’obbligo di adeguatezza in una forma di responsabilità oggettiva implicita.

Un’interpretazione troppo permissiva, al contrario, sminuirebbe il dovere di governance.

Il criterio deve restare quello della proporzionalità tra complessità del sistema adottato, dimensioni dell’impresa e misure concretamente esigibili.

L’ordinamento non pretende infallibilità tecnologica, ma una gestione razionale e consapevole del rischio.

Compliance e trasformazione della governance

La compliance, in presenza di sistemi di intelligenza artificiale, si trasforma in una vera e propria struttura di governo del rischio tecnologico.

Tramite l’aggiornamento dei modelli ex D.Lgs. 231/2001, audit tecnico-giuridici periodici, tracciabilità delle decisioni e formazione del management, la compliance assume una funzione sistemica, adeguandosi allo standard previsto.

Rischio residuo e limiti della responsabilità

Anche con presidi adeguati permane un rischio residuo non eliminabile.

Se si pretendesse l’azzeramento del rischio algoritmico, si introdurrebbe una responsabilità di risultato incompatibile con la struttura del diritto civile e societario.

Rafforzamento del paradigma organizzativo

L’intelligenza artificiale non sostituisce la regolazione giuridica né crea un vuoto normativo.

La crisi non riguarda il modello, ma la sua applicazione concreta in ambienti tecnologicamente avanzati.

Il futuro della responsabilità nelle funzioni amministrative non passa attraverso il riconoscimento di una soggettività all’algoritmo, bensì attraverso una più precisa definizione dello standard di governance esigibile dall’impresa che sceglie di adottarlo.

Edgardo Alberto Ciò – JEMORE