AI Governance & Evidence Layer
La gouvernance indique comment l'IA devrait fonctionner.
La preuve préserve ce qui peut encore être démontré après que la décision s'est déjà produite.
Pourquoi la conformité réglementaire a besoin de preuves post-décision indépendantes.
La plupart des discussions sur la gouvernance de l'IA se concentrent sur la façon dont les systèmes devraient se comporter.
Cette page se concentre sur une question différente.
Lorsque la décision est contestée
Quelque chose d'inhabituel se produit lorsqu'une décision influencée par l'IA est contestée.
La discussion ne porte plus sur la précision du modèle. Elle ne porte plus sur les benchmarks. Elle ne porte plus sur le prompt engineering.
Elle devient une conversation complètement différente. L'organisation peut-elle démontrer :
- quelles informations existaient à ce moment-là ?
- qui a examiné la décision ?
- quelles règles de gouvernance étaient actives ?
- quelle taxonomie était appliquée ?
- si l'incertitude avait déjà été identifiée ?
- si le contexte de la décision existe encore aujourd'hui ?
Si ces réponses dépendent entièrement du système opérationnel qui a produit la décision, la discussion devient immédiatement plus difficile.
La preuve commence là où l'exécution se termine.
La gouvernance gère l'avenir. La preuve protège le passé.
Le problème de gouvernance
Les organisations déployant des systèmes IA doivent de plus en plus les gouverner : politiques, évaluations des risques, documentation technique, procédures de supervision humaine, journalisation, déclarations de transparence. À travers les juridictions - l'AI Act de l'UE, le NIST AI Risk Management Framework, les régulateurs sectoriels, les cadres de gouvernance d'entreprise internes - l'attente converge vers la même exigence : les décisions influencées par l'IA doivent être gouvernées, documentées et supervisées.
Cela est nécessaire. Ce n'est cependant pas suffisant.
L'écart probatoire
Les cadres de gouvernance définissent ce qui devrait se passer. Les journaux et la documentation interne enregistrent que quelque chose s'est passé. Ni l'un ni l'autre, à eux seuls, ne peuvent démontrer - de manière indépendante et vérifiable, des mois ou des années plus tard - qu'une décision spécifique a été prise au sein d'une structure définie, par une autorité identifiée, dans des conditions stables au moment où la décision a été clôturée.
C'est l'écart probatoire. Il ne devient visible que lorsqu'une décision est contestée : dans une enquête réglementaire, un litige juridique, une enquête interne, ou un audit mené longtemps après que le système ayant produit la décision a évolué, été mis à jour, ou été mis hors service.
EVIDE est une couche probatoire externe conçue pour préserver le contexte probatoire des décisions influencées par l'IA après leur exécution. Elle ne fonctionne pas à l'intérieur du runtime IA, n'impose pas de politiques de gouvernance, et ne détermine pas si une décision était correcte. Son objectif est de préserver ce qui pourra ensuite être examiné de manière indépendante. Elle complète les cadres de gouvernance en préservant la continuité probatoire sans devenir partie du processus décisionnel opérationnel.
EVIDE agit comme une couche de composition non intrusive et indépendante. Tout système capable d'émettre un artefact de gouvernance structuré peut ancrer sa preuve à EVIDE - sans céder son autorité, sans intégration directe, et sans dépendance architecturale.
Scénarios de litige typiques
Un client conteste une évaluation automatisée de fraude. Des mois plus tard : le contexte probatoire exact peut-il encore être reconstruit ? L'organisation peut-elle détecter une dégradation silencieuse de la gouvernance - où des dérogations cumulatives ont effectivement inversé le cadre de risque initial - au moment où la décision a été clôturée ?
Une recommandation clinique est mise en question après le traitement. Les enquêteurs peuvent-ils reconstruire exactement ce qui était connu lorsque la recommandation s'est clôturée ?
Un candidat allègue une discrimination. L'organisation peut-elle démontrer l'état de gouvernance, la supervision, les seuils et la taxonomie - sans reconstruire tout l'environnement ? Peut-elle prouver que la supervision humaine est restée significative et n'a pas été compressée sous un volume décisionnel élevé ?
Une décision de crédit est contestée. L'enregistrement probatoire peut-il survivre indépendamment de la plateforme d'origine ?
Le cycle de vie d'une décision
L'AI Act comme exemple le plus clair
L'AI Act de l'UE est actuellement l'un des exemples les plus clairs de ce changement. Pour les systèmes d'IA à haut risque, il exige la gestion des risques, la documentation technique, l'enregistrement automatique, la supervision humaine et la transparence envers les déployeurs. Dans le cadre du Digital Omnibus on AI - l'amendement ciblé convenu par le Conseil et le Parlement en 2026 - l'échéance applicable pour les systèmes autonomes à haut risque relevant de l'Annexe III a été reportée au 2 décembre 2027, les systèmes à haut risque intégrés dans des produits réglementés relevant de l'Annexe I suivant le 2 août 2028.
Ces exigences décrivent comment un système IA devrait être conçu, déployé et supervisé. Mais lorsqu'une décision influencée par l'IA est contestée, la question passe de le système était-il conforme à cette décision spécifique peut-elle être reconstruite et défendue de manière indépendante.
L'AI Act établit des obligations de gouvernance. Il ne prescrit pas de mécanisme probatoire indépendant spécifique pour préserver le contexte post-décision.
Questions qui pourraient vous être posées lors d'un litige
| Lors d'un litige... | Réponse typique de la gouvernance | Enregistrement probatoire indépendant |
|---|---|---|
| Pouvons-nous prouver qui a examiné la décision ? | La politique stipule qu'un examinateur devrait exister. | Identité de l'examinateur, préservée de manière indépendante. |
| Pouvons-nous prouver quelle taxonomie était active ? | La taxonomie actuelle est disponible. | La taxonomie réellement utilisée à la clôture de la décision. |
| Pouvons-nous prouver l'autorité sur le seuil ? | La configuration interne le documente. | Continuité du seuil, préservée de l'extérieur à la clôture. |
| Pouvons-nous reconstruire la décision après des changements de système ? | Dépend de la politique de conservation interne. | Un enregistrement qui existe en dehors du système et lui survit. |
La preuve devrait rester indépendamment examinable même lorsque le système opérationnel qui a produit la décision a changé, disparu, ou est lui-même devenu l'objet du litige.
L'autorité de prendre une décision et l'autorité de préserver la preuve de cette décision ne sont pas nécessairement la même fonction architecturale.
Ce qu'EVIDE ne fait pas
EVIDE ne doit pas être confondu avec un outil de conformité ou une garantie juridique.
- EVIDE ne certifie pas la conformité à l'AI Act, au NIST AI RMF, ou à tout autre cadre réglementaire
- EVIDE ne remplace pas l'évaluation juridique ou le conseil juridique
- EVIDE ne remplace pas la documentation technique requise par la réglementation applicable
- EVIDE ne remplace pas les journaux ou la surveillance du système IA lui-même
- EVIDE ne fonctionne pas à l'intérieur du runtime IA, et n'influence, ne valide ni ne modifie les décisions IA
- EVIDE ne détermine pas si une sortie IA était correcte - seulement si le contexte de décision qui l'entoure reste indépendamment examinable
- La supervision humaine, lorsqu'elle a eu lieu, peut être préservée comme preuve indépendamment examinable - non comme garantie vérifiée de correction
Au-delà de l'AI Act
L'écart probatoire n'est pas spécifique à l'UE. Le même problème structurel existe partout où une décision influencée par l'IA peut ultérieurement être contestée : sous le NIST AI Risk Management Framework aux États-Unis, sous les régulateurs sectoriels dans les services financiers et la santé, sous le droit du travail et anti-discrimination, et sous les standards de gouvernance d'entreprise internes qui n'ont rien à voir avec une législation spécifique à l'IA.
La couche probatoire d'EVIDE est basée sur un schéma et agnostique en termes de juridiction. Le même enregistrement externe est tout aussi pertinent que le litige se déroule sous le droit de l'UE, la réglementation sectorielle américaine, ou un désaccord contractuel privé qui n'atteint jamais un régulateur.
Les réglementations peuvent différer. La question probatoire reste remarquablement similaire.
Questions fréquemment posées
Non. L'AI Act n'exige pas EVIDE ou tout produit probatoire spécifique. EVIDE traite un écart qui existe indépendamment du cadre applicable.
Non. EVIDE ne certifie pas la conformité à l'AI Act, au NIST AI RMF, ou à toute autre réglementation. Il préserve la preuve ; il ne délivre pas de certifications juridiques ou réglementaires.
Parce que les journaux sont généralement générés et maintenus par le système opérationnel lui-même. Bien qu'ils restent essentiels pour la gouvernance et les opérations, ils peuvent ne pas, à eux seuls, fournir un contexte probatoire indépendamment examinable une fois cet environnement opérationnel modifié, et peuvent ne pas être suffisants, à eux seuls, pour démontrer le contexte de gouvernance dans lequel une décision a été clôturée. EVIDE découple la couche probatoire de la couche d'exécution.
Non. Les journaux internes restent nécessaires et utiles. EVIDE ajoute un enregistrement externe et indépendant qui survit aux changements du système ayant produit les journaux.
Oui. EVIDE est basé sur un schéma et agnostique au domaine - il se place aux côtés des plateformes de gouvernance, de risque et de conformité existantes plutôt que de les remplacer.
Non. EVIDE ne fonctionne pas à l'intérieur du système IA et n'observe pas l'exécution en temps réel. Il ancre la preuve après qu'un événement ou une décision significative a déjà été déclaré.
Non. L'écart probatoire qu'EVIDE traite existe sous tout cadre réglementaire, dans toute juridiction, partout où une décision influencée par l'IA peut ultérieurement être contestée.
Concepts connexes
La gouvernance aide les organisations à prendre des décisions responsables. EVIDE les aide à démontrer ces décisions lorsque la responsabilité est ultérieurement mise en question.