Dall’intuizione umana al codice la ricerca di un’equità universale contro il pregiudizio delle macchine
L’ingresso prepotente dell’intelligenza artificiale nel dibattito pubblico ha segnato il definitivo superamento di quel confine che un tempo separava la cerchia ristretta degli iniziati, composta da programmatori e scienziati dei dati, dal resto della società civile e, soprattutto, dal mondo dei giuristi.
Oggi ci troviamo di fronte a una narrazione che oscilla pericolosamente tra visioni distopiche, dove le macchine sembrano destinate a prevaricare l’umanità, e metafore semplificatorie come quella della scatola nera, all’interno della quale si consumano processi decisionali imperscrutabili. In questo scenario, il concetto di pregiudizio o bias viene spesso ridotto a un mero sinonimo di discriminazione, quando in realtà la questione appare molto più sfumata e complessa.
È fondamentale comprendere che l’intelligenza artificiale non è una semplice imitazione del ragionamento umano, poiché le manca strutturalmente la logica abduttiva, ovvero quella capacità tipicamente umana di trarre conclusioni sensate partendo da presupposti ipotetici o sconosciuti.
Al contrario, la sua architettura affonda le radici nei giochi di strategia degli anni Sessanta, come gli scacchi, dove le soluzioni sono limitate e memorizzabili, evolvendosi oggi in sistemi capaci di risolvere problemi complessi attraverso istruzioni predeterminate dall’uomo.
La vera rivoluzione è stata alimentata dall’esplosione dei big data, quelle masse enormi di informazioni che, se elaborate attraverso il machine learning, permettono lo sviluppo di tecnologie un tempo solo astratte.
Tuttavia, l’uso di tali quantità di dati ha avuto ripercussioni dirette sulla loro qualità, portando alla ribalta il tema del bias. Si tratta di un termine polisemico che, nel linguaggio informatico, indica un elemento distintivo tecnicamente neutro, ma che agli occhi del giurista può nascondere insidiosi elementi discriminatori.
L’unica via d’uscita per superare questo ostacolo risiede in una raccolta di dati di alta qualità, poiché è ormai un assioma che da dati scadenti si ottengano inevitabilmente risultati qualitativamente inadeguati.
Nell’ordinamento italiano, il primo contatto significativo tra diritto e algoritmi è avvenuto nel campo della giustizia amministrativa, in particolare con le controversie legate al piano di assunzioni della cosiddetta Buona Scuola.
Il caso degli insegnanti trasferiti forzatamente sulla base di un algoritmo ha spinto il Consiglio di Stato a stabilire principi cardine che oggi rappresentano la bussola per ogni giurista del settore. L’utilizzo di procedure informatiche per giungere a decisioni finali è stato ritenuto ammissibile, a patto che siano rispettati tre requisiti essenziali: la piena conoscibilità del funzionamento del sistema, l’imputabilità della decisione all’organo titolare del potere e il carattere non discriminatorio dell’algoritmo stesso.
È bene ricordare che un algoritmo non è altro che una formula di calcolo astratta espressa attraverso operazioni logiche predeterminate. Tuttavia, gli algoritmi non sono tutti uguali: occorre distinguere tra la cosiddetta narrow artificial intelligence, capace di risolvere problemi specifici, e le reti neurali artificiali che tendono verso un’intelligenza artificiale generale.
Se i sistemi esperti o di knowledge management utilizzano dati limitati e istruzioni chiare, il machine learning imita il comportamento delle sinapsi umane autoapprendendo da quantità massive di dati, rendendo il percorso logico molto più difficile da decifrare.
L’avvento recente dei modelli di linguaggio come ChatGPT ha ulteriormente rimescolato le carte, poiché questi strumenti, inizialmente percepiti come semplici assistenti per gli acquisti o l’uso del computer, hanno dimostrato di poter giocare un ruolo chiave nella diffusione di disinformazione, indebolendo il controllo sulla provenienza dei materiali informativi.
Questa accelerazione tecnologica mette a nudo i limiti delle proposte legislative, come l’Artificial Intelligence Act europeo, la cui prospettiva definitoria sembra essere invecchiata precocemente rispetto all’evoluzione del mercato.
Il criterio classificatorio basato sul rischio appare in alcuni punti poco congruo: se i programmi di riconoscimento facciale sono giustamente proibiti per l’alto rischio di violazione dei diritti umani, strumenti come i chatbot sono stati chiaramente sottostimati nelle versioni iniziali, dimostrando il ritardo congenito del legislatore rispetto alla tecnica.
Il problema della trasparenza resta centrale. Se un sistema esperto può essere teoricamente conoscibile attraverso un paradigma a albero che permette di ricostruire il percorso logico a ritroso, le reti neurali operano spesso in una dimensione di opacità, la cosiddetta black box, dove tra l’input e l’output si interpongono strati nascosti di difficile interpretazione.
Esistono modelli intermedi, definiti grey box, che combinano passaggi noti a elementi empirici, offrendo una trasparenza parziale che può essere migliorata solo attraverso la tracciabilità rigorosa dei dati con cui l’algoritmo viene nutrito dal programmatore. In questo contesto, il conflitto tra la tutela del segreto industriale e il diritto alla spiegazione diventa inevitabile. Sebbene la proprietà intellettuale sia un diritto fondamentale, essa deve retrocedere di fronte al diritto a una buona amministrazione, che impone l’obbligo di motivare le decisioni pubbliche, specialmente quando l’algoritmo diventa parte integrante del procedimento amministrativo.
Anche il GDPR riconosce il diritto a non essere sottoposti a decisioni esclusivamente automatizzate, richiedendo un contributo umano che controlli e validi i passaggi decisionali.
L’analisi della disciplina italiana rivela però una preoccupante frammentazione.
Da un lato, il nuovo codice degli appalti ha introdotto regole espressamente antidiscriminatorie in materia di intelligenza artificiale, imponendo la pubblicazione del codice sorgente e di ogni elemento utile a comprenderne le logiche.
Dall’altro lato, si nota l’assenza di un quadro normativo altrettanto forte per tutelare i lavoratori sottoposti a decisioni automatizzate.
Anzi, recenti disposizioni urgenti sembrano privilegiare la tutela del segreto industriale e commerciale, ostacolando di fatto il diritto dei lavoratori di accedere al procedimento informatico che li riguarda.
Questa disparità introduce un paradosso giuridico: il legislatore sembra preoccuparsi degli effetti discriminatori degli algoritmi quando colpiscono gli operatori economici nelle gare d’appalto, ma non quando incidono sulla vita dei lavoratori delle piattaforme digitali, i cosiddetti crowdworker.
Per comprendere l’irragionevolezza di tale impostazione, basta immaginare una società tecnologica, chiamiamola Alfa Ltd, che partecipa a un appalto pubblico e contemporaneamente gestisce una piattaforma di consegna a domicilio.
Nel primo caso, Alfa Ltd viene considerata parte debole rispetto alla pubblica amministrazione e gode di ampie garanzie di trasparenza.
Nel secondo caso, la stessa società agisce come parte dominante e potrebbe negare ai propri lavoratori la conoscenza delle logiche algoritmiche appellandosi al segreto industriale. Tale asimmetria contrasta apertamente con il principio di uguaglianza sancito dalla nostra Costituzione e con la Carta dei diritti fondamentali dell’Unione Europea, poiché finisce per proteggere la parte contrattualmente più forte a scapito della dignità e della tutela del più debole.
La risposta a queste criticità potrebbe arrivare dalla proposta di Direttiva europea sul lavoro organizzato attraverso piattaforme digitali, che mira a promuovere trasparenza, equità e responsabilità nella gestione algoritmica.
La definizione di piattaforma proposta dall’Europa è molto ampia e contrasta con quella italiana, spesso limitata al fenomeno dei rider, dimostrando una visione più lungimirante della gig-economy. Il cuore della Direttiva risiede nel riconoscimento della gestione algoritmica come elemento intrinseco del modello di business, che tuttavia può nascondere pregiudizi di genere o sociali capaci di amplificare le discriminazioni. È essenziale capire come gli algoritmi determinino l’accesso alle opportunità di lavoro, i premi o le sanzioni, come la sospensione degli account.
La normativa impone l’obbligo di informare i lavoratori sui parametri principali dei sistemi di monitoraggio e vieta il trattamento di dati non connessi all’esecuzione del contratto, come le conversazioni private o lo stato di salute mentale. Un pilastro fondamentale è il monitoraggio umano: le piattaforme devono allocare risorse per valutare l’impatto degli algoritmi sulla sicurezza e sulla salute dei lavoratori, proteggendo inoltre i controllori umani da ritorsioni o licenziamenti nel caso in cui decidano di non accogliere il risultato di una decisione automatizzata. Ogni decisione significativa, che incida sulle condizioni lavorative, deve poter essere discussa con una persona di contatto e deve essere accompagnata da una motivazione scritta in caso di limitazioni dell’account o mancata retribuzione.
La legislazione sulla discriminazione algoritmica non può permettersi di essere settoriale. Se la tutela non è universale, i soggetti più vulnerabili rimarranno sempre esclusi dalla protezione dei loro diritti fondamentali.
La sfida è ardua approvare norme efficaci senza farsi travolgere dalla velocità della tecnica. Forse, come suggerito da alcuni osservatori, la guida più semplice e lineare rimane quella offerta dalle celebri tre leggi della robotica di Asimov, che nella loro immediatezza mettono al centro la protezione dell’essere umano da ogni possibile danno derivante dalla tecnologia.
𝘼 𝙘𝙪𝙧𝙖 𝙙𝙚𝙡𝙡’𝘼𝙫𝙫. 𝘼𝙡𝙛𝙤𝙣𝙨𝙤 𝙎𝙘𝙖𝙛𝙪𝙧𝙤
𝑅𝑒𝑠𝑝𝑜𝑛𝑠𝑎𝑏𝑖𝑙𝑒 𝐴𝑟𝑒𝑎 𝐼𝑛𝑛𝑜𝑣𝑎𝑧𝑖𝑜𝑛𝑒, 𝐷𝑖𝑔𝑖𝑡𝑎𝑙𝑖𝑧𝑧𝑎𝑧𝑖𝑜𝑛𝑒 𝑒 𝐼𝑛𝑡𝑒𝑙𝑙𝑖𝑔𝑒𝑛𝑧𝑎 𝐴𝑟𝑡𝑖𝑓𝑖𝑐𝑖𝑎𝑙𝑒 𝑑𝑖 𝐹𝑖𝑠𝑎𝑝𝑖
