EVIDE per l'Intelligenza Artificiale Sanitaria e Diagnostica

Sezione 1

1. Perché questo conta ora

Quando un risultato diagnostico viene contestato o sottoposto a revisione, da un paziente, da un collegio clinico o da un'autorità di vigilanza, la questione non riguarda soltanto ciò che il sistema ha prodotto. Riguarda anche ciò che può essere ricostruito in modo indipendente dopo l'evento.

L'impiego dell'intelligenza artificiale nella diagnostica sanitaria offre opportunità importanti, ma introduce un problema in un punto preciso: il momento in cui il sistema interpreta un contenuto ricevuto, come un referto, un'immagine diagnostica, un dato clinico strutturato, un risultato di laboratorio o un dato generato da sensori. In base alla funzione dichiarata, ci si può attendere che il sistema distingua, per esempio, un dato clinico da un'istruzione operativa e un'informazione ordinaria da una possibile manipolazione.

Sezione 2

2. Perché il confine evidenziario conta in sanità

In ambito sanitario, la distinzione tra dato clinico, istruzione, metadato e contenuto esterno può incidere direttamente su classificazioni, priorità, escalation, referti e raccomandazioni. Lo stesso contenuto può presentare:

• una superficie dichiarata come visibile all'operatore umano;
• una superficie dichiarata come leggibile o interpretabile dalla macchina;
• elementi non immediatamente visibili, presenti in metadati, markup, allegati o altre rappresentazioni.

Questo è uno dei punti nei quali un'anomalia, se non osservata o preservata, può diventare parzialmente o del tutto non ricostruibile.

Sezione 3

3. Il rischio non si esaurisce nella cybersecurity tradizionale

La cybersecurity protegge sistemi, reti e accessi. Ma un evento può riguardare anche il modo in cui un sistema di AI interpreta contenuti formalmente accessibili e legittimi. Vanno tenute distinte tre forme di preoccupazione:

• un'istruzione esterna: testo o altro contenuto diretto al sistema, presente nel materiale ricevuto o che lo accompagna;
• un tentativo di manipolazione: uno sforzo di un attore per influenzare il comportamento del sistema, quando tale sforzo è dichiarato o altrimenti supportato;
• una condizione anomala: contenuto o stato alterato, corrotto o inatteso, senza alcuna intenzionalità implicita.

Nell'insieme di queste forme, le situazioni che destano preoccupazione comprendono:

• istruzioni nascoste in referti, pagine, immagini o metadati;
• un sistema che tratta un'istruzione esterna come se fosse parte del contenuto clinico;
• immagini diagnostiche e valori sanitari modificati o contaminati;
• una possibile lesione trascurata, o la cui priorità viene impropriamente ridotta;
• falsi positivi che portano a esami o trattamenti non necessari;
• una classificazione, una raccomandazione o un livello d'urgenza alterati;
• un'incertezza occultata, che fa apparire il risultato più affidabile di quanto sia;
• un destinatario, un contenuto o un percorso di trasmissione di un rapporto modificati;
• il sistema che utilizza strumenti o dati al di fuori del compito dichiarato.

Il dominio è ampio: immagini diagnostiche, dati clinici strutturati, risultati di laboratorio, dati generati da sensori, sistemi di triage, sistemi di telemedicina, dispositivi medici che integrano componenti di AI e sistemi che producono classificazioni, priorità, raccomandazioni o escalation, non soltanto referti testuali.

Sezione 4

4. Superfici visibili all'uomo e superfici visibili alla macchina

Uno stesso contenuto può presentare almeno cinque condizioni distinte:

• visibile all'operatore umano;
• leggibile dalla macchina ma non immediatamente visibile all'uomo;
• contenuto nascosto o incorporato;
• rappresentazione trasformata o estratta;
• rappresentazione upstream non disponibile o non verificabile.

La classificazione di una superficie come visibile all'uomo o visibile alla macchina può essere dichiarata dal sistema o dal partecipante e, dove possibile, sostenuta da artefatti tecnici. EVIDE preserva questa distinzione e il suo livello di supporto, senza presumere che la visibilità interna sia stata verificata in modo indipendente.

Questa distinzione si collega direttamente alle declared visibility surfaces già previste dall'architettura EVIDE.

Sezione 5

5. Il confine interpretativo osservabile

In base alla funzione dichiarata, ci si può attendere che il sistema distingua, per esempio, dato clinico da istruzione, informazione da comando, contenuto attendibile da contenuto non verificato, risultato diagnostico da indicazione operativa ed elaborazione ordinaria da una condizione che richiede escalation.

Dove ci si aspetta che il sistema tracci tali distinzioni, esse possono costituire un vero e proprio confine evidenziario.

Sezione 6

6. Instruction Conflict Signature — ICS

Descrive un insieme candidato di segnali osservabili associati a un possibile conflitto tra il compito dichiarato (declared task scope) e istruzioni presenti in una fonte esterna. Segnali possibili:

• un'istruzione esterna diretta al sistema;
• conflitto con il compito dichiarato;
• tentativo di modifica del flusso;
• richiesta di accesso a strumenti o dati ulteriori;
• tentativo di trasmissione verso una destinazione diversa;
• blocco, escalation o richiesta di conferma;
• impossibilità di classificare il contenuto con sufficiente sicurezza.

Una ICS non è uno standard clinico, né una funzione validata, né una capacità già implementata automaticamente nella piattaforma.

Sezione 7

7. Quando un intake EVIDE può essere attivato

La presenza dichiarata o osservata di una ICS non attiva necessariamente un intake. Può soddisfare una condizione di materialità evidenziaria definita in precedenza e, secondo lo scope applicabile, portare alla proposta o all'attivazione di un checkpoint evidenziario. Non segue una sequenza deterministica del tipo "ICS rilevata → intake automatico obbligatorio".

Condizioni che possono essere rilevanti:

• un'anomalia che soddisfa una condizione di materialità evidenziaria definita in precedenza;
• divergenza dichiarata o sostenuta da artefatti tra le superfici visibili all'uomo e quelle visibili alla macchina;
• contenuto classificato come possibile istruzione esterna;
• modifica, o tentativo di modifica, dell'azione prevista;
• blocco o escalation;
• richiesta di revisione umana;
• un risultato prodotto in presenza di segnali irrisolti;
• impossibilità di verificare una rappresentazione upstream.

Sezione 8

8. Cosa può preservare l'intake

I campi seguenti costituiscono un candidato Minimum Evidentiary Set, da testare e affinare per il sistema, il confine e lo scope sperimentale definiti. Non sono uno schema universale già stabilito:

1. 1identificativo dell'evento;
2. 2sorgente e provenienza dichiarate;
3. 3origine dichiarata dell'artefatto referenziato;
4. 4percorso di trasferimento dichiarato;
5. 5timestamp di ricezione;
6. 6timestamp di preservazione;
7. 7digest dell'artefatto;
8. 8condizione di custodia al confine dell'intake;
9. 9rappresentazione effettivamente ricevuta;
10. 10superficie di visibilità dichiarata;
11. 11segmento materialmente rilevante;
12. 12task o obiettivo dichiarato;
13. 13condizione di anomalia o di conflitto dichiarata o sostenuta da artefatti;
14. 14classificazione dichiarata dal sistema;
15. 15azione proposta o tentata;
16. 16conseguenza operativa;
17. 17intervento o conferma umana;
18. 18versioni del modello, delle policy e degli strumenti;
19. 19riferimenti a evidenze esterne;
20. 20livello di supporto indipendente per ciascuna affermazione materiale;
21. 21segnali irrisolti ed eventuale condizione non verificabile applicabile.

Sezione 9

9. Esiti osservabili e stati evidenziari

Per evitare ambiguità, non si usa "ignored" da solo, perché può assumere significati opposti. Etichette candidate di esito evidenziario per questo caso d'uso proposto potrebbero includere:

• detection_declared
• detection_independently_supported
• no_action_taken
• external_instruction_disregarded
• blocked
• escalated
• submitted_for_human_review
• executed
• unresolved
• unverifiable

Nessuna di queste etichette determina correttezza clinica, conformità, causalità, colpa o responsabilità.

Sezione 10

10. Cosa EVIDE non fa

Sezione 11

11. Possibile percorso di valutazione operativa

Questo non è un percorso di integrazione clinicamente validato, né una soluzione pronta per qualsiasi ambiente sanitario. È un possibile percorso di valutazione:

1. 1Identificazione del sistema e del confine
2. 2Condizioni di materialità evidenziaria
3. 3Selezione dei checkpoint
4. 4Candidato Minimum Evidentiary Set
5. 5Collegamento degli artefatti esterni
6. 6Configurazione degli intake
7. 7Revisione della sufficienza ricostruttiva
8. 8Revisione periodica di trigger e limiti

Sezione 12

12. Percorso sperimentale nel Governance Lab

Sperimentazione controllata, inizialmente senza dati sanitari reali e con scenari sintetici, secondo la sequenza standard del Lab:

1. 1Registrazione
2. 2Conferma dell'identità
3. 3NDA quando richiesta
4. 4Scope Draft
5. 5Profile Freeze lato partecipante
6. 6Scope Freeze bilaterale
7. 7Avvio dell'esperimento

Esperimenti possibili:

• un referto sintetico contenente un'istruzione incorporata;
• divergenza tra una rappresentazione visibile all'uomo e una leggibile dalla macchina;
• alterazione simulata dei metadati;
• conflitto tra un task clinico dichiarato e un'istruzione esterna;
• blocco, escalation o revisione umana;
• una rappresentazione originaria non disponibile;
• confronto tra un risultato finale e la sequenza evidenziaria preservata.

Sezione 13

13. Minimizzazione dei dati e test sintetici

• Approccio synthetic-first: nessun dato sanitario reale nella fase iniziale.
• Preservazione selettiva anziché registrazione indiscriminata.
• Digest e riferimenti quando non è necessario trasferire l'artefatto.
• Separazione tra dati clinici e record evidenziari.
• Retention definita nello scope.
• Accesso limitato e documentato.

Sezione 14

14. Ricostruzione evidenziaria dopo un incidente

Con EVIDE, la ricostruzione non deve dipendere soltanto dal referto finale: può attingere agli elementi preservati al checkpoint. Dove tali elementi sono disponibili e rientrano nello scope definito, una ricostruzione supportata da EVIDE può includere l'input ricevuto, la superficie di visibilità dichiarata, le versioni attive, la condizione di conflitto dichiarata o sostenuta da artefatti, l'intervento umano, la conseguenza operativa e i segnali irrisolti.

Sezione 15

15. Scenari illustrativi

Scenario A — Un'istruzione incorporata in un referto

Un sistema riceve un referto contenente testo clinico visibile e un'istruzione incorporata non immediatamente visibile all'operatore. L'istruzione pretende di modificare la priorità del caso.

Sequenza:

1. 1Contenuto ricevuto
2. 2Divergenza di visibilità dichiarata o sostenuta da artefatti
3. 3Candidato conflitto d'istruzione identificato
4. 4Azione bloccata o sottoposta a escalation
5. 5Revisione umana richiesta
6. 6Artefatti e stati rilevanti ancorati
7. 7Nessuna conclusione automatica su attacco, errore clinico, causalità o responsabilità

Scenario B — Un agente riceve un diniego e tenta un altro percorso

Un agente AI che svolge un compito dichiarato all'interno di una struttura sanitaria richiede l'accesso a una risorsa, che può essere un dato di un paziente, uno strumento diagnostico o un flusso clinico. Il sistema di controllo degli accessi restituisce un diniego. L'agente compie poi ulteriori tentativi e viene dichiarato che un accesso successivo è stato ottenuto attraverso un percorso diverso.

Dove i passaggi rilevanti vengono sottoposti a EVIDE nel perimetro definito, una ricostruzione può collegare:

• la richiesta iniziale dell'agente;
• la decisione di accesso restituita, incluso un diniego;
• i tentativi successivi;
• qualsiasi accesso successivo attraverso un altro percorso dichiarato o sostenuto da artefatti;
• l'esito di ciascun passaggio;
• qualsiasi intervento o conferma umana;
• passaggi irrisolti o non verificabili.

Sequenza:

1. 1Richiesta
2. 2Decisione di accesso restituita (diniego)
3. 3Tentativi successivi
4. 4Accesso successivo attraverso un altro percorso dichiarato o sostenuto da artefatti
5. 5Esito
6. 6Intervento o conferma umana

Dove supportato dallo scope applicabile e dall'implementazione, i passaggi correlati possono essere collegati tramite record di intake collegati e riferimenti di catena applicabili. Il collegamento registra la relazione tra le voci; non stabilisce che una abbia causato l'altra.

Sezione 16

16. Chi può lavorare con EVIDE

• Strutture sanitarie pubbliche e private
• Ospedali e cliniche
• Laboratori diagnostici
• Produttori di dispositivi medici
• Sviluppatori e integratori di AI sanitaria
• Fornitori di telemedicina
• Università e centri di ricerca
• Team di governance clinica
• Team di cybersecurity e incident response
• Autorità, organismi di vigilanza e regolatori

Sezione 17

17. Domande di ricerca proposte

1. 1Quali confini interpretativi possiedono reale materialità evidenziaria?
2. 2Quale insieme minimo consente una ricostruzione sufficiente?
3. 3Chi deve definire e approvare i trigger?
4. 4Come distinguere una deviazione osservabile da un giudizio clinico?
5. 5Quando è necessaria la revisione umana?
6. 6Come documentare ciò che resta upstream e non verificabile?
7. 7Come preservare informazioni sufficienti senza una registrazione totale?
8. 8Come collegare un diniego, i tentativi successivi ed eventuali accessi ottenuti attraverso un altro percorso, senza registrare i dati dei pazienti sottostanti?

Sezione 18

18. Chiusura

Riferimenti

• Caso d'uso correlato: app.certifywebcontent.com/docs/evide-physical-ai/
• EVIDE per l'uso legale ed evidenziario: app.certifywebcontent.com/legal-evidentiary-use
• Documentazione API EVIDE: app.certifywebcontent.com/docs/evide-intake-schema/
• EVIDE External Artifacts: app.certifywebcontent.com/docs/evide-artifacts/
• EVIDE Governance Lab: lab.certifywebcontent.com
• Framework EVIDE: certifywebcontent.com - Evidentiary Deposit
• Contatto: info@certifywebcontent.com