L’utilizzo dell’IA da parte dell’esperto giudiziario (con particolare riferimento al consulente/perito medico)

1. Premessa metodologica / 2. Medicina e intelligenza artificiale. Opportunità, sfide, rischi / 3. La domanda “zero”: vogliamo questa tecnologia? / 4. L’esperto giudiziale / 5. L’IA a supporto del lavoro di documentazione – paperwork / 6. Opinione esperta e IA. L’esperto può usare l’IA per rispondere al quesito? / 7. Responsabilità medica da uso (o non uso) dell’IA / 8. Responsabilità medica da uso (o non uso) dell’IA e compiti dell’esperto / 9. Esperto, IA e nesso di causalità / 10. Per concludere. È tempo per un nuovo tipo di esperto

1. Premessa metodologica

Mentre ci si interroga sull’impatto delle nuove tecnologie dell’informazione (NTI) e in specie dell’Intelligenza Artificiale generativa (IAG) sulla giustizia, resta ancora in ombra quel punto di accesso di informazioni generate da sistemi cd. “intelligenti” nel processo, che è la relazione dell’esperto. 

Questo scritto è dedicato all’uso dell’IA[1] da parte di quest’ultimo. 

Nell’affrontare il tema sono state effettuate alcune scelte metodologiche. 

Viene utilizzato il termine “esperto” per indicare l’esperto giudiziale, indipendentemente dal tipo di processo in cui opera, e “relazione” per indicarne il prodotto, mentre l’uso dei termini “CTU” (o “consulente”) e “perito”, “consulenza” e “perizia” è riservato ai casi in cui la distinzione è rilevante.

Allorquando è utilizzato un termine o una denominazione specifica del settore (si pensi, ad esempio, a “sistemi di IA”), il riferimento è alle definizioni interne al quadro normativo europeo (AI Act, CoE Framework Convention), integrato quanto ai termini “tecnologici” con le definizioni del Glossario Cyberjustice della CEPEJ[2], un utile supporto alla creazione di una conoscenza e di un linguaggio tecnologico comune in ambiente giuridico.

Il tema è trattato con specifico riferimento all’esperto medico, in quanto la medicina è una delle scienze, assieme alla biologia, alla chimica e alla fisica, in cui l’utilizzo dell’intelligenza artificiale è più risalente e più diffuso, sia nel campo della ricerca teorica che applicata. Da tempo la diagnostica vede l’utilizzo di sistemi di IA, e processi decisionali complessi (come l’avvio o meno all’ospedalizzazione, l’accoppiamento organo-paziente in attesa di trapianto, etc.) sono assistiti da strumenti di supporto alla decisione[3]. Ciò implica che anche l’esperto giudiziale possa o debba farne uso, e questo rende il campo della medicina il settore ideale per la nostra indagine. Le conclusioni cui perverrà sono estendibili ad altri settori della scienza che assumono rilievo nel processo.

L’argomento “salute-IA-giustizia” è affrontato essenzialmente nell’ottica della relazione giudice/esperto e del contributo di questi all’accertamento della verità processuale e alla soluzione del caso.

2. Medicina e intelligenza artificiale. Opportunità, sfide, rischi

Come già abbiamo visto accadere con riferimento alla giustizia, anche per la medicina il dibattito presenta, e da tempo, più sfaccettature. È rilevante averne consapevolezza per meglio valutare le conseguenze dell’introduzione nel processo di conoscenza prodotta dai sistemi di IA.

Le opportunità sono numerose e di grande rilievo: supporto a decisioni cliniche, formulazione di diagnosi e individuazione dei trattamenti e delle terapie da raccomandare; supporto robotico alla chirurgia; facilitazione del cd. “paperwork” e della documentazione delle attività (visite, accertamenti, terapie, follow-up… ); messa a disposizione del paziente di assistenti sanitari virtuali che consentono il monitoraggio di malattie, il controllo dei sintomi, l’aderenza terapeutica, l’auto-esecuzione di esami; messa a disposizione di medici e staff di strumenti di formazione tecnologicamente avanzati, che consentono la simulazione e l’esercitazione virtuali e l’acquisizione di competenze pratiche altrimenti di difficile conseguimento[4]. In campo ospedaliero, i sistemi di IA svolgono un ruolo di razionalizzazione e miglioramento dell’efficienza gestionale; i settori di intervento vanno dalla gestione dei posti letto alla pianificazione dei turni del personale medico e para-medico, alla manutenzione predittiva alla gestione degli archivi. 

Il conseguimento di tali indubbi vantaggi mette gli operatori davanti a sfide importanti:

- supportare i professionisti più tradizionalisti: medici, infermieri e manager abituati a pratiche consolidate potrebbero incontrare difficoltà nell’adattarsi a processi e strumenti guidati dall’Intelligenza Artificiale;

- garantire l’autonomia del medico e il consenso del paziente: vi è la preoccupazione che i sistemi di IA possano influenzare le decisioni dei medici o compromettere l’autonomia del paziente, nonché il loro consenso informato;

- proteggere i diritti fondamentali: l’implementazione dell’IA nei sistemi sanitari richiede un’attenta considerazione del suo impatto sui diritti umani fondamentali (salute, vita, accesso alle cure, vita privata, conoscenza, trasparenza, non discriminazione);

- gestire e proteggere i dati personali: è fondamentale garantire la raccolta, l’archiviazione e l’utilizzo responsabile dei dati personali per tutelare la privacy e gli standard etici;

- prevenire la discriminazione: i sistemi di IA devono essere sviluppati e addestrati in modo da prevenire il perpetuarsi di pregiudizi esistenti e garantire l’uguaglianza di trattamento;

… e a gravi rischi:

- presenza di pregiudizi nei dati: i sistemi di IA possono riflettere e amplificare i pregiudizi presenti nei dati di addestramento, essendo questi spesso quantitativamente limitati, ed essendo le ricerche e gli studi clinici in maggioranza condotti su uomini bianchi di condizione economico-sociale media, con conseguente limitata considerazione delle peculiarità di gruppi diversi per etnia, genere, provenienza geografica;

- possibilità di risultati discriminatori: perpetuando pregiudizi preesistenti, l’utilizzo dell’IA può condurre a risultati discriminatori e iniqui;

- allucinazioni: i sistemi di IA possono generare informazioni apparentemente plausibili, ma di fatto errate, basate su correlazioni spurie, distorcendo l’accuratezza delle decisioni;

- semplificazione eccessiva: l’IA può avere difficoltà a cogliere le particolarità dei casi e il contesto necessari per una decisione adeguata in situazioni complesse;

- attacco alla democrazia: il dominio delle grandi società tecnologiche, con scarsa trasparenza e livelli etici inadeguati, combinato col potere delle società farmaceutiche, può minare l’equità dei sistemi sanitari e con questo la democrazia.

Un recente studio dell’Unione europea, cui si rimanda[5], illustra compiutamente le grandi potenzialità legate all’impiego dell’IA nella medicina e nella sanità. Come lo studio rileva, fin dall’Executive Summary, «L’uso dell’IA ha il potenziale per rispondere ad alcune delle esigenze che i sistemi sanitari devono affrontare oggi, come l’aumento della domanda di servizi sanitari, la carenza globale di personale sanitario, l’aumento dei costi sanitari e l’aumento delle disuguaglianze. È stato riscontrato che gli strumenti di supporto amministrativo, gli strumenti per migliorare l’efficienza operativa e ottimizzare i flussi di lavoro clinici e gli strumenti di supporto diagnostico potrebbero avere un elevato potenziale di trasformazione. Tali strumenti di IA sono già disponibili sul mercato e in alcuni casi sono già stati implementati in contesti sanitari a livello globale. A lungo termine, si prevede che gli strumenti di IA per la medicina di precisione, gli strumenti di supporto decisionale in tempo reale e l’assistenza sanitaria predittiva avranno un impatto significativo man mano che la loro diffusione aumenterà»[6]. Lo stesso studio individua, però, i nodi problematici di ostacolo alla diffusione di questi sistemi. Tra questi, accanto alla mancanza di fiducia e di conoscenza da parte di operatori e pazienti, vanno particolarmente ricordati: «La mancanza di standardizzazione dei dati e di interoperabilità tra i sistemi sanitari; infrastrutture obsolete che non sono in grado di supportare efficacemente gli strumenti di IA; la mancanza di protocolli locali di verifica delle prestazioni per valutare le variazioni di rendimento nei diversi contesti sanitari (ad esempio, lo strumento funziona come previsto nel contesto del mio ospedale?); la mancanza di meccanismi di monitoraggio post-implementazione per valutare le prestazioni dei sistemi di IA nel tempo e il modo in cui gli utenti finali interagiscono con i sistemi; la mancanza di trasparenza e spiegabilità degli strumenti di IA»[7].

L’OMS (Organizzazione mondiale della Sanità) ha elaborato una guida per assistere gli Stati membri nel mappare i benefici e i problemi associati all’uso di LMMs nella sanità[8]. I medesimi sono ben illustrati nella seguente tabella, «Benefici e rischi potenziali in vari usi di LLM nelle cure mediche»[9].

3. La domanda “zero”: vogliamo questa tecnologia?

Di fronte a questo quadro, i medici e in generale il personale sanitario devono porsi la domanda “zero”, che riguarda oggi le più varie categorie di professionisti: vogliamo veramente questa tecnologia?

La risposta immediata è che difficilmente potremo farne a meno: i medici, noi giuristi, gli esponenti delle varie professioni e gli operatori pubblici in generale. 

Le nuove generazioni, gli studenti di oggi e i professionisti e utenti del futuro, sono parte della rivoluzione tecnologica, utilizzano abitualmente strumenti di IA e mal tollererebbero lentezze, inefficienze, risultati di qualità inferiore all’esigibile. Secondo un’indagine del Polo scolastico Léonard de Vinci e Talan del 2024[10], il 99% degli studenti francesi utilizza l’IA, di questi il 92% lo fa in modo regolare e un terzo di loro spende 20 euro al mese per ChatGPT4; il 72% valuta positivamente gli strumenti di IA, individuando i principali vantaggi in: riduzione dei tempi di lavoro, miglioramento nella risoluzione di problemi, aumento della produttività e risparmio di tempo nella vita quotidiana. Questi dati trovano riscontro in altre indagini, come quella condotta da HEPI, Student Generative AI Survey 2025[11], che ha rilevato un aumento notevole dell’utilizzo dell’IA tra gli studenti universitari: quasi tutti (92%) utilizzano oggi l’IA rispetto al 66% del 2024, e circa l’88% ha utilizzato l’IA generativa con finalità di verifica e revisione, rispetto al 53% del 2024. Gli usi principali sono la spiegazione di concetti, la sintesi di articoli e il suggerimento di idee di ricerca, con un numero significativo (18%) che ha incluso direttamente nel proprio lavoro testi generati dall’IA. 

Si tratta del resto di risultati in linea con quelli dell’indagine dell’AMA (American Medical Association)[12], basata sulle risposte di un campione di 1.183 medici, che ha constatato una crescita sostanziale nel numero di utilizzatori di strumenti di IA nella pratica professionale, passati dal 38% nel 2023 al 66% nel 2024, e l’uso più frequente nella documentazione: codici di fatturazione, cartelle cliniche, note sulle visite e sui progressi dei pazienti, creazione di istruzioni di dimissione, piani di cura, sintesi di ricerche mediche e di standard di cura. 

Peraltro, se queste indagini e rapporti indicano che la strada della tecnologia è in parte tracciata, gli stessi forniscono anche indicazioni su come la stessa deve essere affrontata, con quali mezzi e quali sistemi di sicurezza[13]. Infatti, rispetto all’anno precedente, diminuisce la percentuale di medici che individuano tra gli usi dell’IA più rilevanti per la professione la predizione di rischi sanitari e dei risultati dei trattamenti, la diagnosi assistita, il supporto al triage e alla prioritizzazione dei casi; inoltre, mentre è maggioritaria la percezione dell’utilità dell’IA per affrontare la parte burocratica del lavoro, limitata è quella relativa all’effettivo aumento della capacità e competenza del medico. I medici sottolineano che, per costruire la fiducia e promuovere l’adozione dell’IA, sono necessari valutazione dei risultati, garanzie sulla privacy dei dati, integrazione perfetta del flusso di lavoro e formazione e istruzione adeguate; quasi la metà (47%) ha classificato una maggiore supervisione dei sistemi come la misura normativa più importante a tal fine.

Nello stesso solco si colloca l’indagine condotta dall’OECD[14] tra le organizzazioni professionali su IA e personale della sanità: il 72% ritiene che i vantaggi dell’IA superino i rischi; Il 70% concorda che l’IA trasformerà la medicina, ma il ruolo dei medici rimarrà centrale. Le principali preoccupazioni riguardano etica (94%), responsabilità (71% prevede un aumento della responsabilità medica), accessibilità dei dati e infrastruttura (74%).

Analoghe preoccupazioni sono presenti tra gli studenti, che hanno una migliore conoscenza di come l’IA funziona e di quanto siano affidabili i suoi risultati. Alto è il timore di conseguire risultati erronei (allucinazioni) o basati su pregiudizi, di non svolgere propriamente il lavoro di ricerca; impensieriscono la protezione della privacy, l’impatto ambientale, i costi della tecnologia e il divario tra chi può e chi non può utilizzarla. 

La conclusione (parziale) che se ne può trarre è che la tecnologia, e l’IA, saranno presenti in modo crescente nelle professioni e forniranno un supporto importante in tutte quelle che sono attività burocratiche e ripetitive, di documentazione, di trascrizione, di traduzione, di revisione; le attività che sono l’essenza della professione dovranno rimanere sotto il controllo umano; formazione tecnologica, accessibilità, trasparenza, impiego etico dei dati sono centrali.

4. L’esperto giudiziale

Esploreremo l’attività dell’esperto sotto quattro distinti profili: 

- uso dell’IA come supporto al lavoro di documentazione;

- uso dell’IA per la formazione dell’analisi e dell’opinione scientifica da sottoporre al giudice;

- valutazione dell’uso o non uso dell’IA da parte dell’amministrazione, dell’ospedale o del medico ai fini dell’accertamento di responsabilità;

- uso dell’IA per stabilire la relazione causale tra azione/omissione del sanitario e lesione alla luce degli standard di cura.

A tal fine, si ricorda che l’attività dell’esperto o esperta è regolata in modo analogo nel codice di procedura civile e nel codice di procedura penale (vds. artt. 61 ss. e 191 ss. cpc; artt. 225 ss. cpp) attorno ai seguenti cardini, per cui l’esperto:

- si impegna, col giuramento, a ben espletare l’incarico al fine di far conoscere al giudice la verità;

- deve rendere possibile la partecipazione delle parti e dei consulenti di parte al fine di garantire il diritto di difesa;

- può svolgere indagini e acquisire informazioni;

- può essere autorizzato dal giudice ad acquisire atti, svolgere specifiche attività, nominare e utilizzare ausiliari.

5. L’IA a supporto del lavoro di documentazione – paperwork

All’attività tipica dell’esperto (aiutare il giudice tramite le sue competenze e ricerche a conoscere la verità) si accompagna la necessità di svolgere attività amministrative/gestionali – documentazione delle attività svolte e delle riunioni con le parti e con i CTP, revisione delle note prese durante le visite della parte, gestione dei documenti, traduzione di testi, revisione linguistica, verifica di consistenza del testo della relazione – che, di per sé, non hanno un impatto sul contenuto della relazione.

L’utilità di strumenti di IA per il supporto a tale attività (speech-to-text, traduzione automatica, creazione di testi standard, strumenti di archiviazione e ricerca, etc.) sembra evidente. Interessante è riportare l’analisi dell’utilizzo di strumenti di IA per prendere note cliniche in contesto sanitario, riportata dal citato studio dell’OECD: 

Analisi di un caso – Presa di note cliniche basata sull’intelligenza artificiale nel settore sanitario[15]

Questo caso di studio, condiviso da un intervistato, approfondisce l’uso trasformativo dell’intelligenza artificiale nella trascrizione clinica attraverso uno strumento per la presa di appunti durante l’interazione tra operatore sanitario e paziente.

L’annotazione clinica è un nodo fondamentale nell’interazione tra paziente e operatore sanitario per riflettere su ciò che è accaduto durante l’interazione, i risultati e i passi successivi. Di solito, l’operatore sanitario prende appunti durante l’incontro o annota poco dopo basandosi sulla memoria. La presa di appunti può ridurre l’attenzione sul paziente durante l’incontro.

L’intervistato descrive una procedura alternativa: all’inizio dell’interazione viene ottenuto il consenso espresso per registrare la conversazione, salvaguardando le informazioni di identificazione personale. L’incontro viene registrato trasformando la voce in testo. A quel punto, l’applicazione “ChatGPT” compila una sintesi della visita di 300 parole. Questa viene poi rivista dal medico curante, che può aggiornarla prima di inserirla nella cartella clinica del paziente.

Risultati

I risultati di questo sistema IA di trascrizione clinica sono sorprendenti. Circa il 20% delle note non richiede alcuna modifica, mentre il restante 80% necessita di piccoli aggiustamenti, spesso riguardanti l’aggiunta di informazioni che non erano evidenti nella conversazione. L’impatto più significativo si osserva in termini di efficienza, con un aumento del 15% del numero di pazienti visitati durante un turno al pronto soccorso.

Inoltre, completando immediatamente le attività di presa di note con il paziente piuttosto che a posteriori su una postazione di lavoro informatica, il medico non è tenuto a ricordare dettagli critici tra l’incontro clinico e la sua documentazione. La presa di appunti al letto del paziente riduce al minimo il rischio di dimenticare dettagli cruciali.

Il 100% dei pazienti ha acconsentito a questo approccio basato sull’IA, dando priorità alla facilità e all’efficacia dell’assistenza sanitaria.

In particolare, in una visita, il paziente non parlava la stessa lingua dell’operatore sanitario. Lo strumento di trascrizione è stato in grado di ascoltare il paziente descrivere i propri sintomi nella sua lingua madre e poi tradurre in una lingua comprensibile all’operatore sanitario. Questo è stato testato con la guida di un traduttore personale che ha confermato l’accuratezza della traduzione. Se questo approccio avrà successo su larga scala, potrà contribuire ad affrontare alcune disuguaglianze sanitarie in cui la lingua costituisce una barriera.

Sebbene i vantaggi siano evidenti, permangono alcuni rischi, tra cui la protezione della privacy, i costi e la formazione. Le opportunità derivanti dall’uso di tali strumenti sono significative in termini di riduzione degli oneri amministrativi, miglioramento della qualità dei dati e risultati migliori per i pazienti e gli operatori sanitari.

[Fonte: Intervistato, Moor et al. (2023[43]), Foundation models for generalist medical artificial intelligence – www.nature.com/articles/s41586-023-05881-4]

L’esperto che intenda avvalersi di tali strumenti dovrà valutare pro e contro. Le attività di documentazione, se svolte con modelli IA, presentano un rilevante livello di efficacia e potenziano la produttività, con rischi limitati a inaccuratezze facilmente verificabili ed eliminabili dall’esperto. Dall’altro lato, questi dovrà tener conto che il loro uso deve essere conforme alla normativa sulla protezione dei dati personali; che il software o l’applicazione utilizzata devono essere affidabili e privi di difetti per garantire l’accuratezza del lavoro; che gli strumenti di IA hanno consumi energetici molto elevati (con conseguente impatto ambientale).

Trattandosi di attività materiali o serventi, non vi è necessità dell’autorizzazione del giudice. Peraltro, in osservanza di un obbligo di trasparenza che grava sull’esperto e che copre ogni aspetto della sua attività, lo stesso deve indicare per quali attività ha ricevuto supporto da strumenti di IA, in cosa il supporto è consistito, quale software/app è stato utilizzato. Ad esempio, in caso di traduzione di fonti o documenti utilizzati per rispondere al quesito del giudice, gli stessi andranno allegati nel testo originale e nella traduzione, con indicazione del traduttore automatico utilizzato (ad esempio: eTranslate – Commissione europea; Deepl; Google Translator); ugualmente i documenti realizzati tramite trascrizione automatica speech-to-text dovranno essere corredati dall’indicazione del sistema utilizzato e dalla specificazione se gli stessi sono stati rivisti e verificati, anche dall’esperto stesso.

Strumenti di IA basati su LLM possono essere utilizzati per effettuare una revisione formale della relazione, nonché un’analisi di qualità (non contenutistica, ma) strutturale della medesima. Si tratta, infatti, di una procedura assimilabile a una peer review e che non è in contrasto con alcuna previsione normativa. A meno che l’esperto non operi in un “ambiente” chiuso e protetto, al fine di evitare violazioni del GDPS e della normativa nazionale sulla protezione dei dati personali, qualunque documento passato al vaglio dell’IA (soprattutto di sistemi IA commerciali) deve essere anonimizzato.

L’esperto deve indicare nella propria relazione di aver utilizzato strumenti di revisione automatizzata basata su LLM. Di seguito, alcuni esempi di dichiarazione da inserire nella relazione peritale[16]:

1. Al termine della mia indagine, della stesura della presente relazione peritale e delle mie risposte motivate alle domande poste, ho verificato la struttura logica e la coerenza della presente relazione utilizzando il modello linguistico primario fornito da [nome di LLM];

2. A tal fine, ho presentato una versione anonima della relazione per l’analisi linguistica attraverso il seguente prompt: “Se la risposta fornita nel capitolo 8 della domanda 1 [2 e 3] sia logicamente e coerentemente giustificata sulla base delle premesse esposte nel capitolo 6 e dei risultati della ricerca presentati nel capitolo 7;

3. Ho quindi esaminato i suggerimenti linguistici con [nome LLM] da un punto di vista materiale e li ho incorporati dove opportuno.

6. Opinione esperta e IA. L’esperto può usare l’IA per rispondere al quesito?

Più articolata è la riflessione su opinione esperta e IA. Si pongono due questioni importanti:

- può l’esperto sottoporre a sistemi di IA il quesito a lui posto dal giudice?

- può utilizzare tali sistemi per lo svolgimento delle sue indagini?

Si tratta di problemi parzialmente simili a quelli che si incontrano in relazione all’utilizzo dei sistemi di IA da parte del giudice nell’esercizio della funzione di giudicare. Ciò dipende dalle analogie tra sistemi sanitari e sistemi giudiziali (giudici e medici, al di là del diverso quadro statutario, operano entrambi con livelli elevati di autonomia e discrezionalità) e dal fatto che l’indagine dell’esperto ha per finalità di accertare l’esistenza di situazioni patologiche (o della morte) e di individuare le relative cause, fornendo al giudice le conoscenze necessarie per valutare gli elementi di prova acquisiti o – qualora i fatti da conoscere richiedano la mediazione scientifica per essere introdotti nel processo – le prove medesime.

Per rispondere a quelle domande, dobbiamo distinguere tra la CTU/perizia avente in genere ad oggetto accertamento e cause di patologie, lesioni o morte, e quella avente ad oggetto la responsabilità del medico nel determinare quegli eventi dannosi, affrontando così anche il tema della responsabilità dell’operatore sanitario per uso/non uso di sistemi di IA. Dobbiamo altresì considerare l’AI Act (regolamento UE sull’Intelligenza Artificiale) e la Framework Convention del Consiglio d’Europa, testi normativi che, pur non trattando specificamente di IA in campo medico, forniscono una mappa per trovare soluzioni corrette.

Dovendo accertare consistenza e cause di una lesione del diritto alla vita, all’integrità fisica o alla salute, la nostra prospettiva muta a seconda che la lesione sia o meno connessa a un contesto medico, a seconda cioè che sia stata provocata nell’esercizio di una prestazione sanitaria o in un contesto diverso (incidente sulla strada o sul lavoro, violenza, esposizione ad agenti patogeni, etc.).

In caso di lesione subita fuori da un contesto sanitario, l’esperto dovrà eseguire ogni accertamento utile avvalendosi, se del caso (e vedremo come), dell’IA.

Nel caso della responsabilità medica si dovrà accertare, eventualmente ricorrendo all’IA, se la lesione sia conseguenza di un errore nella diagnosi, terapia, triage, etc. determinato in tutto o in parte dall’uso di sistemi di IA o, al contrario, dal non uso degli stessi quando inclusi negli standard di cura secondo la miglior scienza e conoscenza.

I medici utilizzano da tempo motori di ricerca su Internet, risorse online, generatori di diagnosi differenziali e sistemi di supporto alla decisione; si pensi a:

• sistemi di aiuto alla diagnostica attraverso il trattamento di dati di imaging (radiografie, ecografie, mammografie, fotografie, etc.)[17]; 

• supporto alla diagnosi delle malattie tumorali – algoritmo di apprendimento profondo, nutrito con dati di dossier sanitari, studi clinici, pubblicazioni, raccomandazioni di agenzie nazionali (ad esempio: Watson);

• individuazione di persone a rischio per certe patologie (tumore al seno, alla prostata o all’intestino) e programmazione automatica di test;

• gestione di risorse rare (ad esempio: valutazione del rischio morte per orientare pazienti affetti da polmonite all’ospedalizzazione o al trattamento ospedaliero; classificazione dei pazienti in attesa di trapianto in ordine di priorità – ad esempio: ScoreCoeur, sistema automatizzato con modalità di funzionamento fissate dall’Agence de la biomédecine).

I sistemi di IA generativa possono rappresentare uno strumento ulteriore per la diagnosi, utilizzabile anche nella diagnosi di routine, per fornire ai medici un parere aggiuntivo e garantire che le diagnosi ovvie o rare non vengano ignorate. Sembrerebbe, dunque, naturale rispondere alle nostre domande nel senso che l’esperto possa utilizzare sistemi di IA anche generativa nelle sue indagini e per rispondere ai quesiti posti dal giudice. Questa conclusione, nella sua apparente ovvietà, non tiene conto di quella che abbiamo sottolineato essere la funzione primaria dell’apporto dell’esperto al processo: fornire al giudice le conoscenze e gli strumenti per accertare la verità secondo le regole del giusto processo. 

Nel sistema legale nazionale ed europeo, la funzione di giudicare è riservata al giudice umano. Gli articoli 6 CEDU, 111 Cost. E 47 della Carta dei Diritti fondamentali dell’UE affermano il diritto umano procedurale a un giudizio davanti a un giudice indipendente e imparziale, precostituito per legge. L’indipendenza – quale carattere indefettibile della giustizia – è componente essenziale dello Stato di diritto e si garantisce, tra l’altro, attraverso la precostituzione del giudice, concetto che include il modo in cui il giudice è nominato e le garanzie che assistono il suo status, posizione, irremovibilità, immunità[18]. Come è detto in modo netto nelle Linee guida CEPEJ sull’uso dell’IA generativa per le corti (§ 2.2.1.3. «Esclusività dell’autorità giudiziaria»): «55. Il potere giurisdizionale spetta esclusivamente ai giudici, in conformità con le disposizioni costituzionali e legali. Il processo decisionale, il ragionamento giuridico e la valutazione delle prove non devono essere delegati a sistemi di IA generativa; tali sistemi possono essere impiegati esclusivamente per compiti ausiliari o preparatori che supportano, ma non sostituiscono mai, il giudizio umano dell’organo giudiziario»[19].

Il concetto è ripreso nell’AI Act, al considerando n. 61: «Alcuni sistemi di IA destinati all’amministrazione della giustizia e ai processi democratici dovrebbero essere classificati come sistemi ad alto rischio, in considerazione del loro impatto potenzialmente significativo sulla democrazia, sullo Stato di diritto, sulle libertà individuali e sul diritto a un ricorso effettivo e a un giudice imparziale. È in particolare opportuno, al fine di far fronte ai rischi di potenziali distorsioni, errori e opacità, classificare come ad alto rischio i sistemi di IA destinati a essere utilizzati da un’autorità giudiziaria o per suo conto per assistere le autorità giudiziarie nelle attività di ricerca e interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti. (...) L’utilizzo di strumenti di IA può fornire sostegno al potere decisionale dei giudici o all’indipendenza del potere giudiziario, ma non dovrebbe sostituirlo: il processo decisionale finale deve rimanere un’attività a guida umana. Non è tuttavia opportuno estendere la classificazione dei sistemi di IA come ad alto rischio ai sistemi di IA destinati ad attività amministrative puramente accessorie, che non incidono sull’effettiva amministrazione della giustizia nei singoli casi, quali l’anonimizzazione o la pseudonimizzazione di decisioni, documenti o dati giudiziari, la comunicazione tra il personale, i compiti amministrativi».

La giustizia richiede accessibilità, trasparenza, controllo democratico. Per questo la decisione del giudice deve essere motivata e spiegabile. Se il giudice utilizza sistemi di IA nel percorso procedurale e conoscitivo che lo porta all’adozione della decisione, questi devono rispondere a requisiti di trasparenza e spiegabilità/conoscibilità.

Considerato che l’esperto deve supportare il giudice per pervenire all’accertamento della verità secondo un percorso di conoscibilità e spiegabilità, discende che l’esperto può utilizzare sistemi di IA:

- per effettuare le indagini e le ricerche necessarie a rispondere ai quesiti;

- per verificare la completezza della propria analisi e ricerca;

- per verificare la bontà delle conclusioni a cui è pervenuto,

purché i sistemi[20]:

- siano conformi ai regolamenti UE sui dispositivi medici e su quelli destinati alla diagnostica in vitro, parte della normativa di armonizzazione dell’UE;

- siano conformi all’AI Act;

- siano stati positivamente sottoposti agli assessment previsti dalla Convenzione quadro del Consiglio d’Europa e dall’AI Act;

- rispondano a standard qualitativi ampiamente accettati nella comunità medico-scientifica;

- siano trasparenti e (adeguatamente) spiegabili,

e si adottino specifiche cautele:

- l’uso deve essere conforme alla normativa sulla protezione dei dati personali;

- i Large Language Models – LLM – (che possono fornire risposte fattualmente o logicamente inconsistenti, risposte sbagliate, risposte basate su pregiudizi) devono essere utilizzati solo come assistive tools e non come fonte di una risposta definitiva. I risultati dei prompt devono sempre essere verificati criticamente;

- i risultati dei modelli CNNs (Convolutional Neural Networks), soprattutto se basati su database con quantità e diversità di dati ridotte, devono sempre essere convalidati dai sanitari per evitare falsi positivi o negativi,

e si osservino, altresì, alcuni obblighi:

- durante le operazioni di consulenza/peritali, informare le parti e i CTP sulle attività diagnostiche che saranno eseguite, specificando se e quali sistemi di IA saranno utilizzati, con quali vantaggi e rischi diagnostici;

- acquisire il consenso informato della parte da sottoporre agli esami;

- nella relazione:

a) indicare quali sistemi di IA siano stati utilizzati, per quali finalità (puramente conoscitive, diagnostiche, valutative, di revisione) e in riferimento a quale parte del quesito del giudice;

b) in caso di utilizzo a fini diagnostici e valutativi, indicare i risultati ottenuti e come i risultati automatizzati siano stati falsificati/validati dall’esperto, se del caso indicando le ragioni per cui ci si è discostati da essi;

c) in caso di utilizzo di sistemi LLM, riportare i prompt utilizzati;

d) mettere il giudice (e le parti) in condizione di conoscere i caratteri dei sistemi utilizzati (inclusa la conformità alla normativa nazionale ed europea), la tecnologia applicata, la procedura utilizzata, il livello di trasparenza e esplicabilità dei risultati offerti dal sistema, la valutazione dei sistemi da parte della comunità medico-scientifica, il loro inserimento eventuale in protocolli e standard di diagnosi e cura, fornendo documentazione e letteratura di supporto.

La diffusione dei modelli diagnostici e valutativi, soprattutto nella diagnostica per imaging, l’eccezionale livello di accuratezza dei risultati, l’esigenza dei medici non familiari con i deep learning models di comprendere come i sistemi pervengono a proporre la diagnosi hanno fatto emergere la richiesta, proveniente da vari ambiti della società e dalle professioni, di una IA spiegabile (XAI), che, cioè, consenta agli utilizzatori umani di comprendere il processo di produzione di certi risultati e di considerarli affidabili.

Ciò richiede lo sviluppo di tecniche per rendere le decisioni di queste reti neurali interpretabili e spiegabili, quali advanced visualization tools and counterfactual explanations[21]. 

Considerato che “spiegabilità” non significa semplicità e immediata comprensibilità, è indispensabile che il giudice acquisisca conoscenze tecniche sufficienti per comprendere come viene raggiunto il risultato diagnostico e valutarne attendibilità e correttezza; l’esperto deve a sua volta possedere conoscenze adeguate di computer science e supportare il giudice nell’opera di costruzione della verità processuale.

Un’ultima notazione riguarda il quesito standard, che viene posto all’esperto; questo contiene normalmente la seguente o simile dicitura: «Esaminati gli atti di causa, sentiti gli eventuali CTP, visitata parte attrice, assunte, se del caso, informazioni da terzi o richiesti chiarimenti alle parti ai sensi dell’art. 194 cpc, effettuato ogni esame strumentale che si profili necessario, acquisita, previo accordo delle parti e nel rispetto del contraddittorio, eventuale ulteriore documentazione medica». In principio, questa dicitura include la facoltà per l’esperto di sottoporre la parte ad accertamenti diagnostici che impiegano IA, come medical imaging aumentato (RX, HRCT, MRI, PET) o applicazioni CNN per la lettura e l’interpretazione di EEG, EHG, e non dovrebbe essere necessaria un’apposita preventiva autorizzazione del giudice. È in ogni caso buona prassi che, quando il caso richieda approfondimenti diagnostici, l’esperto chieda e ottenga l’autorizzazione, anche generica, a eseguirli. Quali accertamenti e con quali tecnologie potrà essere oggetto di discussione coi CTP, informati in anticipo dall’esperto. In caso di contestazioni da parte dei CTP, l’esperto dovrà chiedere al giudice di dare istruzioni dettagliate.

7. Responsabilità medica da uso (o non uso) dell’IA

L’esperto (il collegio di esperti), svolge un ruolo cruciale nei procedimenti civili o penali aventi ad oggetto l’accertamento della responsabilità del medico o dell’organizzazione sanitaria quando, nell’esecuzione di prestazioni mediche che possono aver provocato (o aggravato) una lesione o la morte del paziente, si è fatto uso di sistemi di IA o, avendo a disposizione tali sistemi, non si sono utilizzati.

Il quadro normativo è lacunoso, anche se in evoluzione. Questi i principali elementi:

- la nuova direttiva “Prodotti Difettosi” (UE) 2024/2853 (23 ottobre 2024), che ha abrogato la direttiva 85/374/CEE, si concentra sulla responsabilità per danno da prodotti difettosi. Gli Stati membri hanno l’obbligo di attuare la nuova direttiva entro il 9 dicembre 2026[22];

- la proposta di direttiva UE sulla Responsabilità extracontrattuale per danno da prodotti adattata all’AI (AI liability Directive 2022/0303) è stata ritirata dalla Commissione europea a luglio 2025, facendo emergere una lacuna normativa;

- l’AI Act sta gradualmente entrando in vigore. Dal 2 agosto 2025 si applicano obblighi specifici per i modelli di IA generativa di uso generale e per i sistemi ad alto rischio (mappatura, documentazione tecnica, sistema di gestione dei rischi, segnalazione incidenti, sintesi dei dataset di training per i GPAI, formazione). Deve auspicarsi che le negoziazioni in corso per la modifica dell’AI Act non portino a un ulteriore indebolimento delle garanzie e protezioni;

- a livello nazionale, è stata adottata la legge n. 223/2025, «Disposizioni e deleghe al Governo in materia di intelligenza artificiale», che «reca principi in materia di ricerca, sperimentazione, sviluppo, adozione e applicazione di sistemi e di modelli di intelligenza artificiale». Ai sensi dell’art. 24, § 3, l. cit., entro un anno dall’entrata in vigore il Governo deve emanare norme delegate «per adeguare e specificare la disciplina dei casi di realizzazione e di impiego illeciti di sistemi di intelligenza artificiale»[23].  

In tale contesto, l’articolazione delle responsabilità in caso di rischio e/o danno per il paziente sono ben sintetizzate dalla seguente tabella, tratta da MedTech Europe, Liability challenges in AI medical technologies (2022), che mette in luce come, nell’attribuzione di responsabilità, in specie all’ospedale e al medico, vengano in rilievo l’obbligo di quest’ultimo di attenersi agli standard di cura e di verificare i risultati suggeriti dai sistemi e l’obbligo dell’organizzazione sanitaria di manutenzione, aggiornamento dei sistemi, formazione del personale.

In letteratura, sono molti e diversi gli approcci alla questione della responsabilità medica[24], rappresentabili come nella seguente tabella[25]:

La più efficace schematizzazione delle questioni di responsabilità si rinviene nel Research Handbook on Health, AI and Law[26], che fa emergere con chiarezza il ruolo essenziale degli standard di cura nell’approccio all’uso degli strumenti di IA.

Uno studio dello Stanford University’s Institute for Human-Centered Artificial Intelligence – AI[27] individua tre tipologie di casi[28]: 

1. difetti del software di gestione: casi in cui il software per la gestione delle cure o delle risorse presenta difetti che causano danni ai pazienti. I pazienti citano in giudizio lo sviluppatore o l’ospedale per negligenza nella manutenzione (esempio: Caso Lowe contro Cerner[29]: software di gestione farmaci con interfaccia utente difettosa);

2. errate decisioni terapeutiche basate sul software: danni ai pazienti dopo che i medici si sono basati sul software per decisioni terapeutiche. Si citano in giudizio lo sviluppatore per progettazione errata o il medico per affidamento su raccomandazioni software fuorvianti. (esempio: Caso Sampson[30]). 

3. Malfunzionamento del software integrato in dispositivi: il software integrato nei dispositivi medici (come impianti o robot chirurgici) funziona in modo errato. I pazienti citano in giudizio medici e ospedali per uso o manutenzione negligente (esempio: Caso Seargeant contro Orthopedic Associates Medical Clinic[31]: dosaggio letale di morfina a causa di un errore nella riprogrammazione di una pompa di infusione).

Nel contesto europeo, i possibili scenari di responsabilità del medico[32] nella causazione del fatto dannoso possono essere correlati: all’impiego di un sistema di IA non conforme alla normativa europea e interna; all’utilizzo erroneo di un sistema di IA; alla mancata verifica, falsificazione e convalida dei risultati dell’utilizzo del sistema; al non impiego di un sistema di IA fornito dall’organizzazione sanitaria o facente parte dello standard di cura. 

Per una pratica medica sicura ed etica, il professionista deve attenersi a tre regole fondamentali, in linea con l’art. 78 del Codice deontologico[33]: a) assicurare che i pazienti comprendano e acconsentano[34]; b) utilizzare modelli di IA comprensibili e affidabili; c) verificare personalmente e convalidare l’accuratezza e l’efficacia dei risultati.

8. Responsabilità medica da uso (o non uso) dell’IA e compiti dell’esperto

L’esperto, richiesto dal giudice di accertare se in un caso di danno o morte incorsi nell’ambito di attività medica con uso (o non uso) dell’IA sussista la responsabilità del professionista, dovrà accertare, a seconda delle specificità della fattispecie, se:

- ricorra un nesso di causalità tra l’evento dannoso accertato e l’uso o il non uso del sistema di IA, utilizzando a tal fine gli ordinari criteri in tema di responsabilità medica per azione od omissione, come elaborati dalla giurisprudenza;

- il ricorso a un sistema di IA in funzione di supporto all’attività clinico-diagnostica fosse conforme alle raccomandazioni previste dalle linee guida e, in assenza di queste, delle buone pratiche clinico-assistenziali;

- il sistema fosse conforme alle prescrizioni normative, in regola con le raccomandazioni del produttore in punto di manutenzione, verifiche periodiche e aggiornamento;

- lo specifico software fosse ritenuto dalla comunità scientifica idoneo, efficace e adeguato all’uso nel caso concreto; 

- il medico avesse conoscenza adeguata del sistema e del suo funzionamento e avesse ricevuto le informazioni e la formazione necessaria da parte dell’organizzazione in cui opera e che mette a disposizione il sistema;

- il medico avesse informato adeguatamente il paziente sull’utilizzo del sistema nella diagnosi e/o cura, spiegandone funzionamento, rischi, interazione tra IA e verifiche umane, acquisendo il consenso informato;

- il medico avesse verificato i risultati delle operazioni eseguite dal sistema (per esempio, attività diagnostica) alla luce delle sue conoscenze, delle raccomandazioni, protocolli, buone pratiche clinico-assistenziali, adottando le decisioni conseguenti;

- il medico avesse controllato ogni segmento delle operazioni eseguite dal sistema di IA (per esempio, operazione robotica), mantenendo supervisione, potere di intervento e correzione in ogni momento della loro esecuzione, adottando le decisioni conseguenti;

- si fossero verificati errori causalmente rilevanti, causati da uso erroneo o scorretto del sistema (o, al contrario, da malfunzionamento dello stesso).

9. Esperto, IA e nesso di causalità

IA e modelli di machine learning potrebbero analizzare grandi set di dati derivati da cartelle cliniche, imaging medica, linee guida terapeutiche e letteratura scientifica, e potrebbero identificare associazioni statisticamente significative tra interventi e risultati. Un sistema di IA potrebbe esaminare migliaia (milioni?) di casi che coinvolgono una particolare patologia, stabilendo correlazioni tra picchi epidemiologici, situazioni igienico-sanitarie ed esperienze professionali o tra la somministrazione di un particolare farmaco o procedura e tassi di complicanze più elevati, e gli esempi potrebbero continuare. Se così fosse, potrebbe l’IA aiutare l’esperto e, conseguentemente, il giudice a stabilire relazioni causali nei casi di responsabilità medica? 

Certamente l’IA è in grado di identificare le linee guida e la letteratura scientifica più pertinenti e di analizzare enormi quantità di dati, ma, considerati i rischi legati all’accuratezza dei modelli, alla qualità dei dati (incompleti, imprecisi, distorti, contenenti pregiudizi) e al loro pre-trattamento, alla difficoltà di comprendere il funzionamento interno di modelli complessi, nonché la rilevante possibilità che il sistema confonda correlazioni casuali con relazioni causali, impone un’assoluta prudenza[35]. Strumenti di IA per l’assistenza alla ricerca devono essere utilizzati in modalità ibrida e non come fonti definitive, preferendo, quando possibile, strumenti basati su LLM disegnati per analizzare ricerche e testi scientifici, sintetizzando i risultati chiave, indicando su cosa c’è consenso e su cosa ci sono opinioni diverse, indicando le fonti.

10. Per concludere. È tempo per un nuovo tipo di esperto

L’integrazione dell’IA nella valutazione della responsabilità professionale richiederà l’emergere di una nuova figura di esperto[36]. A differenza dell’esperto tradizionale, questi dovrà possedere le competenze necessarie per valutare criticamente i sistemi di IA e i risultati dell’utilizzo di tali sistemi, affrontando aspetti come la qualità dei dati, i pregiudizi algoritmici, la spiegabilità dei modelli, nonché la loro conformità alla legislazione in materia di intelligenza artificiale. Così come il giudice deve equipaggiarsi di nuove competenze e conoscenze tecnologiche nel momento in cui la digitalizzazione smart e i sistemi di IA sono introdotti e applicati nell’amministrazione della giustizia, così l’esperto dovrà possedere gli strumenti essenziali per conoscere e valutare la tecnologia applicata al proprio specifico settore di competenza. Solo in questo modo l’esperto potrà svolgere compiutamente il proprio ruolo e aiutare il giudice a raggiungere la verità, con un percorso di comprensione piena dei fatti, di trasparenza, di controllabilità democratica. Lo sviluppo di esperti qualificati in IA è fondamentale per un giusto processo, integrando il meglio di entrambi i mondi in un approccio ibrido che sposta l’equilibrio verso un’analisi potenziata dai dati e valorizza e rafforza il ruolo dell’esperto e del giudice umani.

1. Giunti a questo punto del volume che Questione giustizia ha dedicato alle NTI, cos’è l’IA dovrebbe essere chiaro. Solo per comodità si riportano le definizioni (una specchio dell’altra) che ne danno le normative europee:
- EU AI ACT, art. 3.1.: «“sistema di IA” significa un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali»;
- CoE’s Framework Convention on artificial intelligence, art. 2: il sistema di IA è definito come «a machine-based system that for explicit or implicit objects, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments».

2. www.coe.int/en/web/cepej/glossary-2. 

3. Gli strumenti di supporto alla decisione e alla diagnostica in campo medico sono oggetto di ampia letteratura. Per uno sguardo generale, vds. S. Desmoulin-Canselier e D. Le Métayer, Décider avec les algorithmes. Quelle place pour l’Homme, quelle place pour le droit?, Dalloz, Parigi, 2020. 

4. Vds. E. Gross  Muñoz - R. Fabregat - J. Bacca-Acosta - N. Duque-Méndez - C. Avila-Garzon, Augmented Reality, Virtual Reality, and Game Technologies in Ophthalmology Training, in Information, n. 5/2022, p. 222 (pubbl.: 26 aprile 2022); G. Pellegrino - M.C. Barba - G. D’Errico - M.Y. Küçükkara - L.T. De Paolis, eXtended Reality & Artificial Intelligence-Based Surgical Training: A Review of Reviews, 5 settembre 2023, in L.T. De Paolis - P. Arpaia - M. Sacco (a cura di), Extended Reality, atti della Conferenza internazionale “XR Salento” (Parte I), Lecce, 6-9 settembre 2023, Springer, Berlino, pp. 345-355; C. Gupta - C. Henein - C. Ashton - A. Makuloluwa - R.G. Mathew, Development of virtual ophthalmic surgical skills training, in Eye, n. 37, 2023, pp. 290-296.

5. Commissione europea – DG SANTE, PwC, EEIG, Open Evidence, Study on the deployment of AI in healthcare. Final report, Publications Office of the European Union, maggio 2025 (https://op.europa.eu/en/publication-detail/-/publication/9ddf7bf8-62bf-11f0-bf4e-01aa75ed71a1/language-en). 

6. Traduzione automatica (“Deepl-PRO”) rivista dall’A.

7. Tr. aut. rivista dall’A.

8. WHO, SCI/HEG, Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models, Ginevra, 2024 (www.who.int/publications/i/item/9789240084759).

9. Ivi, p. X., tr. aut. rivista dall’A.

10. Lo studio (L’impact des IA génératives sur les étudiants) è stato condotto sulla base dei dati raccolti nel sondaggio realizzato nel 2024, nell’ambito dell’Hackathon pedagogico trasversale del Polo “Léonard de Vinci”: “Intelligenza artificiale, IA generativa e sfide sociali”, che ha visto la partecipazione di 1600 studenti del quarto anno delle tre scuole del Polo Léonard de Vinci: EMLV (Management), ESILV (Ingegneria) e IIM (Digitale) – www.devinci.fr/le-pole-leonard-de-vinci-et-talan-publient-une-etude-edifiante-autour-de-limpact-des-ia-generatives-sur-les-etudiants/.

11. L’indagine ha coinvolto 1041 studenti universitari e ha fatto seguito ad analogo studio del 2024, con comparazione dei risultati (www.hepi.ac.uk/wp-content/uploads/2025/02/HEPI-Kortext-Student-Generative-AI-Survey-2025.pdf).

12. AMA, Augmented Intelligence Research. Physician sentiments around the use of AI in health care: motivations, opportunities, risks, and use cases. Shifts from 2023 to 2024, febbraio 2025 (https://mindslabpub.com/physicians-perspectives-on-ai-in-healthcare-insights-from-a-sentiment-analysis/; cfr. www.ama-assn.org/system/files/physician-ai-sentiment-report.pdf).

13. Analoghe indicazioni emergono dagli studi e rapporti sull’uso dei sistemi tecnologici da parte degli avvocati: vds. Smokeball’s 2025 State of Law Report (www.lawnext.com/2025/03/ai-adoption-nearly-doubles-among-small-law-firms-according-to-smokeballs-2025-state-of-law-report.html); Wolters Kluwer Future Ready Lawyer Survey Report 2024 (www.wolterskluwer.com/en/know/future-ready-lawyer-2024); Litify 2024 State of AI in Legal Report (www.litify.com/resources/2024-litify-state-of-ai-in-legal-report); Lefebvre Sarrut e ELTA, Legal Professionals & Generative AI Global Survey 2024 (www.lefebvre-sarrut.eu/en/2024/11/14/ai-legal-survey-with-rising-use-scenarios-for-transformed-practices-are-emerging/).

14. OCSE, Artificial intelligence and the health workforce: Perspectives from medical associations on AI in health, 2024, questionario distribuito dalla World Medical Association WMA per conto dell’OCSE. La ricerca è accompagnata da interviste con professionisti della Sanità. Tra associazioni nazionali e ordini nazionali dei medici, hanno partecipato all’indagine: Malesia, Repubblica di Corea, Stati Uniti, Haiti, Brasile, Uruguay, Danimarca, Francia, Germania, Islanda, Olanda, Polonia, Israele, Nigeria, Ruanda, Senegal, Somalia.

15. Tr. aut. rivista dall’A.

16. Questi esempi sono stati proposti nel webinar tenuto l’11 marzo 2025 dal CEPEJ-European Cyberjustice Network, da N. M. Keijser, esperto EEEI (https://experts-institute.eu/en/) in tecnologia dell’informazione e coautore dell’Handbook for judicial experts in the Netherlands (gli esempi sono stati tradotti dall’originale inglese - che segue - con Deepl-PRO):
« – Advised statement in expert opinion (concept) –
• Following the completion of my investigation, the compilation of this expert opinion, and my motivated answers to the questions posed, I have verified the logical structure and consistency of this report using the Large Language Model provided by [name LLM].
• To achieve this, I submitted an anonymized version of the report for linguistic analysis via the prompt: “Is the answer provided in Chapter 8 to question 1 [2 and 3] logically and consistently motivated based on the premises outlined in Chapter 6 and the research findings presented in Chapter 7?”
• I subsequently reviewed the linguistic suggestions by [name LLM], from a substantive perspective and incorporated them where necessary».

17. L’IA ha rivoluzionato l’imaging medico grazie a tecniche di Deep Learning (spec. convolutional neural networks - CNNs) e big data technology per assicurare un adeguato addestramento dei dati per gli algoritmi di IA. CNNs sono utilizzati per la comprensione delle immagini mediche a fini di diagnosi, prognosi e trattamento delle anomalie nel corpo umano, grazie all’elevata e sperimentata capacità di migliorare la qualità delle immagini, frammentarle, individuare anomalie (anche non distinguibili dall’occhio umano), classificarle, per poi essere sottoposte al giudizio dello specialista. Per essere efficaci, devono essere addestrati su un numero elevatissimo di dati (immagini) relativi sia a soggetti sani che a soggetti malati. Sono progressivamente sempre più presenti nei nostri ospedali ed è sufficiente navigare sui siti dei grandi ospedali (“Rizzoli”, “Gemelli”, Policlinici e Aziende sanitarie) per trovare informazioni sull’innovazione tecnologica applicata alla diagnostica (www.rizzolieducation.it/news/lutilizzo-dellai-nellambito-dellimaging-medico-e-della-diagnostica-oncologica/; www.policlinico.mi.it/news/2024-11-08/4295/intelligenza-artificiale-migliora-la-precisione-nella-diagnostica-per-immagini; www.ospedalimarchenord.it/arriva-lintelligenza-artificiale-in-radiologia-diagnosi-piu-veloci-e-precise/; www.policlinicogemelli.it/news-eventi/al-gemelli-la-nuova-tac-intelligente-meno-radiazioni-ed-esami-piu-rapidi-per-i-pazienti/). 
Per approfondire: I.D. Mienye - T.G. Swart - G. Obaido - M. Jordan - Ph. Ilono, Deep Convolutional Neural Networks in Medical Image Analysis: A Review, in Information, n. 3/2025, p. 195. Così viene sintetizzato il funzionamento: I CNNs sono generalmente costituiti da stratificazioni convoluzionali che rilevano le gerarchie spaziali nelle immagini (migliorandone la risoluzione e la nitidezza), stratificazioni di pooling che riducono la dimensionalità preservando le caratteristiche critiche e stratificazioni completamente connesse che sintetizzano queste caratteristiche in previsioni.

18. Vds. R. Spano, The rule of law as the lodestar of the EuropeanConvention on Human Rights: The Strasbourg Court and the independence of the judiciary, in Eur Law Journal, 2021, pp. 1-17.

19. Tr. aut. dall’inglese rivista dall’A (vds. https://rm.coe.int/cepej-2025-18final-en-draft-guidelines-on-the-use-of-generative-ai-for/48802a4ad1). 

20. Ricordiamo che, secondo l’AI ACT, sono ad alto rischio «i sistemi di IA destinati a essere usati da un’autorità giudiziaria o per suo conto per assistere un’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti, o ad essere utilizzati in modo analogo nella risoluzione alternativa delle controversie» (All. III, 6c); «a) se il sistema di IA è destinato ad essere utilizzato come componente di sicurezza di un prodotto, o il sistema di IA è esso stesso un prodotto, disciplinato dalla normativa di armonizzazione dell’Unione elencata nell’allegato I; [e] b) il prodotto, il cui componente di sicurezza a norma della lettera a) è il sistema di IA, o il sistema di IA stesso in quanto prodotto, è soggetto a una valutazione della conformità da parte di terzi ai fini dell’immissione sul mercato o della messa in servizio di tale prodotto ai sensi della normativa di armonizzazione dell’Unione elencata nell’allegato I» (art. 6, § 1); «Tali prodotti sono, in particolare, (…) dispositivi medici, dispositivi medico-diagnostici in vitro, veicoli automobilistici e aeronautici» (Considerando n. 50). Sono da considerarsi ad alto rischio anche sistemi di AI per la valutazione del rischio e tariffe delle assicurazioni sanitarie; AI per classificazione e trattamento di chiamate di emergenza; AI per triage di pronto soccorso; AI per valutare l’ammissibilità a fruire di servizi pubblici essenziali, inclusi i servizi sanitari. Sono considerati a rischio inaccettabile e proibiti i sistemi di AI di assegnazione di punteggi ai singoli per benefici sanitari. In letteratura, vds. H. van Kolfschooten, The AI cycle of health inequity and digital ageism: mitigating biases through the EU regulatory framework on medical devices, in Journal of Law and the Biosciences, vol. 10, n. 2/2023, 7 dicembre 2023 (https://academic.oup.com/jlb/article/10/2/lsad031/7457352); Id. e J. van Oirschot, The EU Artificial Intelligence Act (2024): Implications for healthcare, in Healthpolicy, vol n. 149, 2024 (www.sciencedirect.com/science/article/pii/S0168851024001623?via%3Dihub).

21. Proprio perché i risultati diagnostici ottenibili con questi sistemi hanno un livello qualitativo enormemente più elevato dei sistemi ordinari, per superare le diffidenze della classe medica la comunità scientifica si sforza di trovare risposte adeguate alla domanda di trasparenza e spiegabilità: vds. M. Odusami - R. Maskeliūnas - R. Damaševičius et al., Explainable Deep-Learning-Based Diagnosis of Alzheimer’s Disease Using Multimodal Input Fusion of PET and MRI Images, in Journal of Medical and Biological Engineering, vol. n. 43, giugno 2023, pp. 291-302; I.D. Mienye - T.G. Swart - G. Obaido - M. Jordan - Ph. Ilono, Deep Convolutional Neural Networks in Medical Image Analysis, op. cit.; Y. Li - M. El Habib Daho - P.H. Conze et al., A review of deep learning-based information fusion techniques for multimodal medical image classification, in Computers in Biology and Medicine, vol. 177, luglio 2024 (www.sciencedirect.com/science/article/pii/S0010482524007200?via%3Dihub). 

22. La nuova direttiva richiede agli Stati membri di: assicurare che le norme sulla responsabilità riflettano la natura e i rischi dei prodotti nell’era digitale a economia circolare; assicurare che ci sia sempre un’attività con base in Europa che può essere ritenuta responsabile per prodotti acquistati fuori dall’UE; alleggerire l’onere della prova in casi complessi e le restrizioni alla possibilità di richiedere un risarcimento, al tempo stesso garantendo l’equilibrio degli interessi tra produttori, soggetti danneggiati e consumatori in generale.

23. Il § 5 specifica i principi e criteri direttivi della delega: « (…) b) introduzione di autonome fattispecie di reato, punite a titolo di dolo o di colpa, incentrate sull’omessa adozione o sull’omesso adeguamento di misure di sicurezza per la produzione, la messa in circolazione e l’utilizzo professionale di sistemi di intelligenza artificiale, quando da tali omissioni deriva pericolo concreto per la vita o l’incolumità pubblica o individuale o per la sicurezza dello Stato; c) precisazione dei criteri di imputazione della responsabilità penale delle persone fisiche e amministrativa degli enti per gli illeciti inerenti a sistemi di intelligenza artificiale, che tenga conto del livello effettivo di controllo dei sistemi predetti da parte dell’agente; d) nei casi di responsabilità civile, previsione di strumenti di tutela del danneggiato, anche attraverso una specifica regolamentazione dei criteri di ripartizione dell’onere della prova, tenuto conto della classificazione dei sistemi di intelligenza artificiale e dei relativi obblighi come individuati dal regolamento (UE) 2024/1689; (…) ».

24. Vds., tra gli altri, C. Amato, Responsabilità civile da “intelligenza” artificiale: prospettive di disciplina europea, in Riv. trim. dir. proc. civ., n. 2/2025, pp. 373 ss.

25. Fonte della tabella: C. Cestonaro - A. Delicati - B. Marcante - L. Caenazzo - P. Tozzo, Defining medical liability when artificial intelligence is applied on diagnostic algorithms: a systematic review, in Frontiers in Medicine, n. 10/2023 (27 novembre 2023).

26. W. Nicholson Price II - S. Gerke - I.G. Cohen, Liability for use of artificial intelligence in medicine, in B. Solaiman e I.G. Cohen (a cura di), Health, AI and the Law, Edward Elgar, Cheltenham (UK), 2024, pp. 150-166 (www.elgaronline.com/edcollchap-oa/book/9781802205657/ch09.xml).

27. M.M. Mello e N. Guha, Understanding Liability Risk from Using Health Care Artificial Intelligence Tools, in New England Journal of Medicine, vol. 390, n. 3/2024, pp. 271-278 (www.nejm.org/doi/10.1056/NEJMhle2308901). 

28. Gli Autori dello studio (Mello e Guha) sottolineano tre profili problematici, che emergono dalla giurisprudenza (americana) e che, al di là della diversa cornice normativa, forniscono utili elementi di lettura e indicazioni per l’analisi della casistica che, anche in Europa e in Italia, è destinata a espandersi: gli attori/denuncianti incontrano difficoltà nel sostenere le loro richieste quando non riescono a identificare specifici difetti di progettazione nel software AI; gli algoritmi di IA funzionano in modo diverso per specifici gruppi di pazienti, rendendo difficile dimostrare che un medico avrebbe dovuto riconoscere l’inaffidabilità del risultato per un determinato individuo; i tribunali tendono a non distinguere l’IA dal software tradizionale. Ciò aumenta il rischio che i precedenti legali stabiliti per un tipo di software possano influenzare impropriamente altri tipi, anche se intrinsecamente diversi.

29. https://law.justia.com/cases/federal/district-courts/virginia/vaedce/1:2019cv00625/442492/157/.

30. Nel caso Sampson c. HeartWise Health Systems Corp., del 2023 (descritto da A. Kaplan e L. Pallier, Liability Risk For AI In Medical Devices Demands Greater Care, in Law360, 14 gennaio 2025, www.crowell.com/a/web/qNMo1fxsGXma6yBn7HUHzP/liability-risk-for-ai-in-medical-devices-demands-greater-care.pdf), Alicia Sampson ha intentato un’azione legale per danno da morte del congiunto contro HeartWise, lo sviluppatore di un programma di prevenzione delle malattie cardiovascolari, nonché contro Isaac Health, una clinica che opera in base a un accordo di licenza con HeartWise, i proprietari di Isaac Health e due medici. Il programma di prevenzione delle malattie cardiovascolari in questione consisteva in una serie di 31 test fisici destinati ad aiutare nell’individuazione di anomalie vascolari e cardiache. I dati raccolti dai test venivano poi elaborati dal software proprietario di HeartWise utilizzando principi e protocolli di screening per generare un rapporto basato sui risultati dei test, compresa una lettura che indicava se i risultati di ciascun test del paziente fossero normali. Il soggetto, poi defunto, aveva richiesto una valutazione medica HeartWise presso la clinica Isaac Health a causa della sua storia familiare di difetti cardiaci congeniti. Secondo il rapporto generato per lo stesso, i dati dell’ecocardiogramma ventricolare sinistro e dell’ECG rientravano nella norma. Tuttavia, l’uomo è deceduto alcuni giorni dopo a causa di un difetto cardiaco congenito, dando origine all’azione legale. La Corte Suprema dell’Alabama ha confermato la sentenza del Tribunale circoscrizionale sulla richiesta di risarcimento per negligenza di HeartWise, sostenendo che, in base all’accordo di licenza tra HeartWise e Isaac Health, i medici mantenevano la valutazione e il giudizio clinici e la responsabilità finale delle decisioni relative alla diagnosi e al piano terapeutico. Evidente l’importanza di accordi chiari tra le parti nella definizione di protocolli per l’uso e la gestione dei sistemi di IA nella pratica clinica.

31. https://dailyjournal.com/verdicts_and_settlement/120407-kyle-seargeant-a-minor-by-and-through-his-guardian-ad-litem-scott-seargeant-amanda-yagle-andrew-mcmillan-individually-and-as-successors-in-interest-of-randa-stacey-seargeant-deceased-v-orthopedic-associates-medical-clinic-inc-et.

32. Quanto nel testo non considera le diverse responsabilità di produttori e organizzazioni sanitarie committenti/acquirenti.

33. Codice di deontologia medica (Federazione nazionale degli Ordini dei Medici chirurghi e degli Odontoiatri), art. 78: «Tecnologie informatiche. Il medico, nell’uso degli strumenti informatici, garantisce l’acquisizione del consenso, la tutela della riservatezza, la pertinenza dei dati raccolti e, per quanto di propria competenza, la sicurezza delle tecniche. Il medico, nell’uso di tecnologie di informazione e comunicazione di dati clinici, persegue l’appropriatezza clinica e adotta le proprie decisioni nel rispetto degli eventuali contributi multidisciplinari, garantendo la consapevole partecipazione della persona assistita. Il medico, nell’utilizzo delle tecnologie di informazione e comunicazione a fini di prevenzione, diagnosi, cura o sorveglianza clinica, o tali da influire sulle prestazioni dell’uomo, si attiene ai criteri di proporzionalità, appropriatezza, efficacia e sicurezza, nel rispetto dei diritti della persona e degli indirizzi applicativi allegati».

34. Il consenso informato è elemento che può incidere in modo rilevante sulla responsabilità: del medico che non ha piena comprensione delle informazioni fornite dall’IA, che non comunica correttamente al paziente limitazioni inerenti il sistema di IA, che non tiene in dovuta considerazione la limitata comprensione da parte del paziente per ragioni fisiologiche o patologiche; del paziente che non considera adeguatamente le raccomandazioni dell’IA; dei programmatori, produttori, sviluppatori (e, secondo i casi, di chi acquista il sistema), per le erronee raccomandazioni fornite dall’IA al medico. Così C. Terranova - C. Cestonaro - L. Fava - A. Cinquetti, AI and professional liability assessment in healthcare. A revolution in legal medicine?, in Frontiers in Medicine, vol. 10, 8 gennaio 2023 (www.frontiersin.org/journals/medicine/articles/10.3389/fmed.2023.1337335/full). 

35. Per comprendere il funzionamento dei LLM e dell’illusione di conoscenza provocata dai loro risultati col rischio di scambiare una risposta linguisticamente corretta per una risposta affidabile sul piano epistemico, vds. E. Loru - J. Nudo - N. Di Marco - A. Santirocchi - R. Atzeni - M. Cinelli - V. Cestari - C. Rossi-Arnaud - W. Quattrociocchi, The simulation of judgment in LLMs, in PNAS, vol. 122, n. 42, ottobre 2025 (https://doi.org/10.1073/pnas.2518443122); O. Hadad - E. Loru - J. Nudo - N. Di Marco - M. Cinelli - W. Quattrociocchi, The Statistical Signature of LLMs, in arXiv, 20 febbraio 2026 (https://doi.org/10.48550/arXiv.2602.18152).

36. C. Terranova et al., AI and professional liability assessment in healthcare, op. cit.