Data poisoning e responsabilità nell’Intelligenza Artificiale: il contributo dell’avv. Nicola Nappi sull’integrità dei dati

Nel trattato dedicato alla disciplina dell’intelligenza artificiale, il saggio di Nicola Nappi affronta il data poisoning come tema centrale di sicurezza, compliance e responsabilità giuridica. Un’analisi che collega qualità del dato, AI Act, governance dei modelli e tutela dei diritti.

Nel quadro del prestigioso trattato dedicato alla disciplina dell’Intelligenza Artificiale e degli algoritmi avanzati nel diritto europeo e nazionale, diretto dal Prof. Avv. Andrea R. Sirotti Gaudenzi ed edito da Zanichelli nella celebre collana “Le riforme del diritto italiano” il contributo dell’avv. Nicola Nappi, intitolato “Il c.d. data poisoning: l’integrità dei dati e l’IA“, affronta uno dei profili più delicati della nuova responsabilità algoritmica: la manipolazione dei dati di addestramento e i suoi effetti sulla liceità, sull’affidabilità e sulla sicurezza dei sistemi di intelligenza artificiale.

Il saggio si colloca nella sezione dell’opera dedicata agli aspetti operativi della responsabilità nell’intelligenza artificiale e muove dalla premessa essenziale che un sistema di intelligenza artificiale non può essere valutato soltanto in base alla qualità del suo output o alla correttezza apparente del suo funzionamento, ma la sua affidabilità dipende, prima ancora, dalla qualità, provenienza, rappresentatività e integrità dei dati che ne alimentano il processo di apprendimento.

Il data poisoning viene così ricostruito non come un semplice problema di cybersecurity, ma come un fenomeno capace di incidere sulla struttura stessa del modello. L’attacco non interviene necessariamente sul codice sorgente, ma altera la base informativa del sistema, introducendo dati falsificati, parziali o semanticamente devianti. In questo modo può orientare il comportamento del modello verso risultati errati, discriminatori, manipolativi o comunque non conformi alle finalità per le quali il sistema è stato progettato.

L’interesse del contributo risiede soprattutto nella sua rigorosa impostazione giuridica. Il saggio mostra come l’integrità del dato, tradizionalmente percepita come requisito tecnico, assuma oggi la consistenza di un vero criterio di conformità normativa, e in questa prospettiva, gli obblighi previsti dal Regolamento (UE) 2024/1689 (AI Act), con particolare riferimento alla qualità dei dati, alla robustezza, alla sicurezza e alla gestione del rischio nei sistemi ad alto rischio, diventano il punto di raccordo tra tecnica e diritto. L’alterazione della “materia prima informativa” può infatti tradursi in difetto di sicurezza, inadempimento organizzativo, responsabilità amministrativa o fonte di ulteriori conseguenze civilistiche e penali.

L’analisi non si arresta al piano regolatorio europeo. Il contributo esamina anche le ricadute del data poisoning lungo l’intera catena del valore dell’intelligenza artificiale, partendo dai fornitori, e passando per deployer, distributori, imprese utilizzatrici e soggetti coinvolti nella raccolta, fino alla trasformazione e gestione dei dataset. Ne emerge una lettura particolarmente utile per chi opera nella contrattualistica tecnologica, nella compliance aziendale e nella governance dei sistemi digitali. Le clausole sulla provenienza dei dati, gli obblighi di audit, le garanzie di integrità, le notifiche di contaminazione e le procedure di recesso non sono più accessori negoziali, ma strumenti di allocazione del rischio.

Un ulteriore profilo di rilievo riguarda la prova. Il saggio evidenzia come, nel contesto dell’intelligenza artificiale, non sia sufficiente affermare che il sistema abbia funzionato correttamente “in media”. Occorre poter dimostrare la tracciabilità dei dati, il versionamento dei dataset, la conservazione dei log, la ricostruibilità della pipeline e l’esistenza di verifiche indipendenti. La documentazione tecnica diventa così, secondo l’autore, vero e proprio presidio giuridico: ciò che non è tracciabile rischia di non essere difendibile, né in sede regolatoria né in sede contenziosa.

Particolare attenzione è dedicata poi anche ai diritti fondamentali. Il data poisoning può produrre bias artificiali, distorsioni rappresentative e decisioni discriminatorie, con effetti che si riflettono sulla dignità della persona, sulla parità di trattamento e sulla protezione dei dati personali. In questa prospettiva, il collegamento con il GDPR è evidente, perché quando il dato personale entra in una catena informativa corrotta, non è compromesso solo l’output finale, ma la legalità dell’intero trattamento.

Il contributo affronta infine i profili di proprietà intellettuale e industriale, considerando i dataset come beni immateriali dotati di valore strategico. La loro manipolazione può incidere sulla tutela delle banche di dati, sui segreti commerciali e sulla correttezza concorrenziale. Il data poisoning viene così descritto come possibile forma di aggressione al patrimonio informativo dell’impresa e, più in generale, alla fiducia nel processo algoritmico.

Il saggio dell’avv. Nicola Nappi offre dunque una lettura ampia e sistematica di un fenomeno destinato ad assumere crescente rilevanza nella pratica professionale. La sua utilità riguarda non soltanto gli studiosi del diritto delle nuove tecnologie, ma anche imprese, pubbliche amministrazioni, consulenti, responsabili compliance e operatori chiamati a progettare, adottare o verificare sistemi di intelligenza artificiale.

La lettura del contributo consente di comprendere bene perché la governance dell’intelligenza artificiale non possa prescindere dalla governance dei dati. Nell’economia algoritmica, l’affidabilità di un sistema non dipende solo dalla sofisticazione del modello, ma dalla possibilità di dimostrare che i dati su cui esso si fonda siano integri, verificabili e giuridicamente presidiati.

E’ possibile acquistare il trattato direttamente sul sito web dell’editore (cliccare qui) o nelle principali librerie.