EVIDE pour l'IA de Santé et de Diagnostic

Section 1

1. Pourquoi cela compte maintenant

Lorsqu'un résultat diagnostique est contesté ou soumis à examen, que ce soit par un patient, un collège clinique ou une autorité de surveillance, la question ne porte pas seulement sur ce que le système a produit. Elle porte aussi sur ce qui peut être reconstitué de manière indépendante après l'événement.

L'usage de l'intelligence artificielle dans le diagnostic de santé offre des opportunités importantes, mais il introduit un problème en un point précis : le moment où le système interprète un contenu reçu, tel qu'un rapport, une image diagnostique, des données cliniques structurées, un résultat de laboratoire ou des données générées par des capteurs. Selon sa fonction déclarée, le système peut être censé distinguer, par exemple, une donnée clinique d'une instruction opérationnelle, et une information ordinaire d'une possible manipulation.

Section 2

2. Pourquoi la frontière évidentiaire compte dans la santé

Dans le domaine de la santé, la distinction entre donnée clinique, instruction, métadonnée et contenu externe peut affecter directement les classifications, les priorités, les escalades, les rapports et les recommandations. Un même contenu peut présenter :

• une surface déclarée comme visible pour l'opérateur humain ;
• une surface déclarée comme lisible ou interprétable par la machine ;
• des éléments non immédiatement visibles, présents dans des métadonnées, du balisage, des pièces jointes ou d'autres représentations.

C'est l'un des points où une anomalie, si elle n'est pas observée ou préservée, peut devenir partiellement ou totalement non reconstituable.

Section 3

3. Le risque ne se limite pas à la cybersécurité traditionnelle

La cybersécurité protège les systèmes, les réseaux et les accès. Mais un événement peut aussi concerner la manière dont un système d'IA interprète des contenus formellement accessibles et légitimes. Trois formes de préoccupation doivent être distinguées :

• une instruction externe : texte ou autre contenu adressé au système, présent dans le matériel reçu ou qui l'accompagne ;
• une tentative de manipulation : un effort d'un acteur pour influencer le comportement du système, lorsque cet effort est déclaré ou autrement étayé ;
• une condition anormale : contenu ou état altéré, corrompu ou inattendu, sans aucune intention sous-entendue.

Parmi ces formes, les situations préoccupantes comprennent :

• des instructions cachées dans des rapports, des pages, des images ou des métadonnées ;
• un système traitant une instruction externe comme si elle faisait partie du contenu clinique ;
• des images diagnostiques et des valeurs de santé modifiées ou contaminées ;
• une lésion possible négligée, ou dont la priorité est indûment réduite ;
• des faux positifs entraînant des examens ou des traitements inutiles ;
• une classification, une recommandation ou un niveau d'urgence altérés ;
• une incertitude dissimulée, faisant paraître un résultat plus fiable qu'il ne l'est ;
• un destinataire, un contenu ou un chemin de transmission d'un rapport modifiés ;
• le système utilisant des outils ou des données au-delà de la tâche déclarée.

Le domaine est large : images diagnostiques, données cliniques structurées, résultats de laboratoire, données générées par des capteurs, systèmes de triage, systèmes de télémédecine, dispositifs médicaux intégrant des composants d'IA, et systèmes produisant des classifications, des priorités, des recommandations ou des escalades, et pas seulement des rapports textuels.

Section 4

4. Surfaces visibles pour l'humain et surfaces visibles pour la machine

Un même contenu peut présenter au moins cinq conditions distinctes :

• visible pour l'opérateur humain ;
• lisible par la machine mais non immédiatement visible pour l'humain ;
• contenu caché ou incorporé ;
• représentation transformée ou extraite ;
• représentation en amont non disponible ou non vérifiable.

La classification d'une surface comme visible pour l'humain ou visible pour la machine peut être déclarée par le système ou le participant et, lorsque c'est possible, étayée par des artefacts techniques. EVIDE préserve cette distinction et son niveau de soutien, sans présumer que la visibilité interne a été vérifiée de manière indépendante.

Cette distinction se rattache directement aux declared visibility surfaces déjà prévues par l'architecture EVIDE.

Section 5

5. La frontière d'interprétation observable

Selon sa fonction déclarée, le système peut être censé distinguer, par exemple, les données cliniques des instructions, l'information des commandes, le contenu fiable du contenu non vérifié, le résultat diagnostique de la directive opérationnelle, et le traitement ordinaire d'une condition nécessitant une escalade.

Lorsque le système est censé opérer de telles distinctions, elles peuvent constituer une véritable frontière évidentiaire.

Section 6

6. Instruction Conflict Signature — ICS

Elle décrit un ensemble candidat de signaux observables associés à un possible conflit entre la tâche déclarée (declared task scope) et des instructions présentes dans une source externe. Signaux possibles :

• une instruction externe adressée au système ;
• conflit avec la tâche déclarée ;
• tentative de modification du flux de travail ;
• demande d'accès à des outils ou à des données supplémentaires ;
• tentative de transmission vers une destination différente ;
• blocage, escalade ou demande de confirmation ;
• impossibilité de classer le contenu avec une confiance suffisante.

Une ICS n'est ni une norme clinique, ni une fonction validée, ni une capacité déjà mise en œuvre automatiquement dans la plateforme.

Section 7

7. Quand un intake EVIDE peut être déclenché

La présence déclarée ou observée d'une ICS n'active pas nécessairement un intake. Elle peut satisfaire une condition de matérialité évidentiaire définie au préalable et, selon le périmètre applicable, conduire à la proposition ou à l'activation d'un checkpoint évidentiaire. Elle ne suit pas une séquence déterministe du type « ICS détectée → intake automatique requis ».

Conditions pouvant être pertinentes :

• une anomalie répondant à une condition de matérialité évidentiaire définie au préalable ;
• divergence déclarée ou étayée par des artefacts entre les surfaces visibles pour l'humain et celles visibles pour la machine ;
• contenu classé comme instruction externe possible ;
• modification, ou tentative de modification, de l'action prévue ;
• blocage ou escalade ;
• demande de revue humaine ;
• résultat produit en présence de signaux non résolus ;
• impossibilité de vérifier une représentation en amont.

Section 8

8. Ce que l'intake peut préserver

Les champs suivants constituent un Minimum Evidentiary Set candidat, à tester et à affiner pour le système, la frontière et le périmètre expérimental définis. Ils ne constituent pas un schéma universel déjà établi :

1. 1identifiant de l'événement ;
2. 2source et provenance déclarées ;
3. 3origine déclarée de l'artefact référencé ;
4. 4chemin de transfert déclaré ;
5. 5horodatage de réception ;
6. 6horodatage de préservation ;
7. 7digest de l'artefact ;
8. 8condition de garde à la frontière de l'intake ;
9. 9représentation effectivement reçue ;
10. 10surface de visibilité déclarée ;
11. 11segment matériellement pertinent ;
12. 12tâche ou objectif déclaré ;
13. 13condition d'anomalie ou de conflit déclarée ou étayée par des artefacts ;
14. 14classification déclarée par le système ;
15. 15action proposée ou tentée ;
16. 16conséquence opérationnelle ;
17. 17intervention ou confirmation humaine ;
18. 18versions du modèle, des politiques et des outils ;
19. 19références à des preuves externes ;
20. 20niveau de soutien indépendant pour chaque affirmation matérielle ;
21. 21signaux non résolus et toute condition non vérifiable applicable.

Section 9

9. Résultats observables et états évidentiaires

Pour éviter toute ambiguïté, « ignored » n'est pas utilisé seul, car il peut avoir des sens opposés. Les étiquettes candidates de résultat évidentiaire pour ce cas d'usage proposé pourraient inclure :

• detection_declared
• detection_independently_supported
• no_action_taken
• external_instruction_disregarded
• blocked
• escalated
• submitted_for_human_review
• executed
• unresolved
• unverifiable

Aucune de ces étiquettes ne détermine l'exactitude clinique, la conformité, la causalité, la faute ou la responsabilité.

Section 10

10. Ce qu'EVIDE ne fait pas

Section 11

11. Parcours possible d'évaluation opérationnelle

Ce n'est ni un parcours d'intégration cliniquement validé, ni une solution prête pour tout environnement de santé. Il s'agit d'un parcours d'évaluation possible :

1. 1Identification du système et de la frontière
2. 2Conditions de matérialité évidentiaire
3. 3Sélection des checkpoints
4. 4Minimum Evidentiary Set candidat
5. 5Liaison des artefacts externes
6. 6Configuration des intakes
7. 7Revue de la suffisance de reconstitution
8. 8Revue périodique des déclencheurs et des limites

Section 12

12. Parcours expérimental du Governance Lab

Expérimentation contrôlée, initialement sans données de santé réelles et avec des scénarios synthétiques, selon la séquence standard du Lab :

1. 1Enregistrement
2. 2Confirmation de l'identité
3. 3NDA lorsque requis
4. 4Scope Draft
5. 5Profile Freeze côté participant
6. 6Scope Freeze bilatéral
7. 7Démarrage de l'expérimentation

Expérimentations possibles :

• un rapport synthétique contenant une instruction incorporée ;
• divergence entre une représentation visible pour l'humain et une représentation lisible par la machine ;
• altération simulée des métadonnées ;
• conflit entre une tâche clinique déclarée et une instruction externe ;
• blocage, escalade ou revue humaine ;
• une représentation d'origine indisponible ;
• comparaison entre un résultat final et la séquence évidentiaire préservée.

Section 13

13. Minimisation des données et tests synthétiques

• Une approche synthetic-first : aucune donnée de santé réelle durant la phase initiale.
• Préservation sélective plutôt qu'enregistrement indiscriminé.
• Digests et références lorsque le transfert de l'artefact n'est pas nécessaire.
• Séparation entre données cliniques et enregistrements évidentiaires.
• Rétention définie par le périmètre.
• Accès limité et documenté.

Section 14

14. Reconstitution évidentiaire après un incident

Avec EVIDE, la reconstitution n'a pas à dépendre uniquement du rapport final ; elle peut s'appuyer sur les éléments préservés au checkpoint. Lorsque ces éléments sont disponibles et relèvent du périmètre défini, une reconstitution soutenue par EVIDE peut inclure l'entrée reçue, la surface de visibilité déclarée, les versions actives, la condition de conflit déclarée ou étayée par des artefacts, l'intervention humaine, la conséquence opérationnelle et les signaux non résolus.

Section 15

15. Scénarios illustratifs

Scénario A — Une instruction incorporée dans un rapport

Un système reçoit un rapport contenant un texte clinique visible et une instruction incorporée non immédiatement visible pour l'opérateur. L'instruction prétend modifier la priorité du cas.

Séquence :

1. 1Contenu reçu
2. 2Divergence de visibilité déclarée ou étayée par des artefacts
3. 3Candidat de conflit d'instruction identifié
4. 4Action bloquée ou escaladée
5. 5Revue humaine demandée
6. 6Artefacts et états pertinents ancrés
7. 7Aucune conclusion automatique concernant une attaque, une erreur clinique, une causalité ou une responsabilité

Scénario B — Un agent reçoit un refus et tente un autre chemin

Un agent d'IA exécutant une tâche déclarée au sein d'un établissement de santé demande l'accès à une ressource, qui peut être des données de patient, un outil diagnostique ou un flux de travail clinique. Le système de contrôle d'accès renvoie un refus. L'agent effectue ensuite d'autres tentatives, et il est déclaré qu'un accès ultérieur a été obtenu par un chemin différent.

Lorsque les étapes pertinentes sont soumises à EVIDE dans le périmètre défini, une reconstitution peut relier :

• la demande initiale de l'agent ;
• la décision d'accès renvoyée, y compris un refus ;
• les tentatives ultérieures ;
• tout accès ultérieur par un autre chemin déclaré ou étayé par des artefacts ;
• le résultat de chaque étape ;
• toute intervention ou confirmation humaine ;
• les étapes non résolues ou non vérifiables.

Séquence :

1. 1Demande
2. 2Décision d'accès renvoyée (refus)
3. 3Tentatives ultérieures
4. 4Accès ultérieur par un autre chemin déclaré ou étayé par des artefacts
5. 5Résultat
6. 6Intervention ou confirmation humaine

Lorsque le périmètre applicable et la mise en œuvre le permettent, les étapes liées peuvent être reliées par des enregistrements d'intake liés et des références de chaîne applicables. La liaison enregistre la relation entre les entrées ; elle n'établit pas que l'une a causé l'autre.

Section 16

16. Qui peut travailler avec EVIDE

• Prestataires de santé publics et privés
• Hôpitaux et cliniques
• Laboratoires de diagnostic
• Fabricants de dispositifs médicaux
• Développeurs et intégrateurs d'IA de santé
• Prestataires de télémédecine
• Universités et centres de recherche
• Équipes de gouvernance clinique
• Équipes de cybersécurité et de réponse aux incidents
• Régulateurs, autorités publiques et organismes de surveillance

Section 17

17. Questions de recherche proposées

1. 1Quelles frontières d'interprétation présentent une véritable matérialité évidentiaire ?
2. 2Quel ensemble minimal permet une reconstitution suffisante ?
3. 3Qui doit définir et approuver les déclencheurs ?
4. 4Comment distinguer un écart observable d'un jugement clinique ?
5. 5Quand une revue humaine est-elle nécessaire ?
6. 6Comment documenter ce qui reste en amont et non vérifiable ?
7. 7Comment préserver suffisamment d'informations sans enregistrement total ?
8. 8Comment relier un refus, les tentatives ultérieures et tout accès obtenu par un autre chemin sans enregistrer les données de patient sous-jacentes ?

Section 18

18. Clôture

Références

• Cas d'usage associé : app.certifywebcontent.com/docs/evide-physical-ai/
• EVIDE pour l'usage juridique et évidentiaire : app.certifywebcontent.com/legal-evidentiary-use
• Documentation API EVIDE : app.certifywebcontent.com/docs/evide-intake-schema/
• EVIDE External Artifacts : app.certifywebcontent.com/docs/evide-artifacts/
• EVIDE Governance Lab : lab.certifywebcontent.com
• Cadre EVIDE : certifywebcontent.com - Evidentiary Deposit
• Contact : info@certifywebcontent.com