Comment Gordios est conçu pour être défendable
Traçabilité, explicabilité et sécurité des IA : trois caractéristiques de conception.
Dans les dispositifs médicaux, une décision sans traçabilité est une décision contestable. C'est vrai pour un clinicien, c'est tout aussi vrai pour une IA.
Gordios a été conçu dès l'origine pour que chaque résultat produit soit rattachable à une source, évalué pour sa fiabilité, et défendable en audit. Cette page explique comment nous avons construit la plateforme pour répondre à cette exigence — sans compromis sur la performance.
Les quatre piliers de conception
Les principes qui guident la construction de Gordios depuis le premier jour.
Chaque résultat cite sa source
Quand Gordios identifie une non-conformité ou valide un point de revue, le résultat est systématiquement accompagné de deux références :
- Le point précis évalué : l'exigence réglementaire invoquée, le chapitre de la norme, la référence du test personnalisé.
- Le passage exact du document analysé qui supporte la conclusion : extrait cité textuellement, avec localisation dans le fichier source.
Pas de « faites-moi confiance ». Chaque point est vérifiable par un humain en un clic.
Un score de confiance indépendant déclenche la revue manuelle
Chaque résultat produit par Gordios est évalué par un second agent IA indépendant qui attribue un score de confiance. Ce score ne vient pas de l'agent qui a produit le résultat — c'est une vérification séparée, documentée, avec ses propres critères.
Règle simple : tout point de revue dont le score de confiance est inférieur à 90 % déclenche automatiquement une revue manuelle. Rien ne passe en dessous du seuil sans vérification humaine.
Ce seuil est documenté dans notre SMQ et révisé périodiquement sur la base des retours d'audit.
Les vérifications complexes sont décomposées en étapes contrôlables
Pour les normes multi-critères — où la conformité dépend de plusieurs conditions cumulatives — Gordios ne produit pas une conclusion monolithique. Le raisonnement est décomposé en étapes vérifiables individuellement : chaque sous-critère est évalué séparément, et le résultat global est construit à partir d'un arbre décisionnel auditable.
Concrètement : si une exigence combine trois sous-exigences, vous voyez les trois résultats intermédiaires, pas seulement la conclusion finale. Si une étape est incorrecte, vous savez laquelle.
Des jeux de tests réels et synthétiques
Avant de mettre à jour un modèle, un prompt ou une règle de vérification, Gordios passe une suite de tests exhaustive :
- Tests synthétiques : documents fabriqués pour couvrir les cas limites et les pièges connus.
- Tests réels : un corpus de documents réels annotés, représentatif de la diversité des dossiers rencontrés en audit.
- Tests de régression : toute modification est vérifiée contre la totalité du corpus pour détecter une dégradation.
Aucune évolution du moteur d'audit n'est mise en production sans passer cette batterie de tests.
Deux niveaux de traçabilité, tracés en permanence
Gordios trace en parallèle deux niveaux distincts — tous deux exigés par la réglementation.
| Niveau | Ce que nous enregistrons |
|---|---|
| Traçabilité de l'outil | Qui a lancé quelle analyse, sur quelle version de Gordios, à quelle date, avec quel document, sur quelle norme. Audit trail complet et immuable. |
| Traçabilité de la décision | Pour chaque point de revue : l'exigence invoquée, le passage source, le score de confiance, les étapes intermédiaires, la conclusion finale. |
Les deux niveaux sont exportables, intégrables à votre propre SMQ, et conservés selon les durées requises par la réglementation applicable à votre dispositif.
En résumé
| Exigence | Comment Gordios y répond |
|---|---|
| Traçabilité de chaque décision | Source + passage exact cités pour chaque point |
| Validation humaine | Revue manuelle automatique sous 90 % de confiance |
| Reproductibilité | Raisonnement décomposé, résultats stables sur un même document |
| Logs d'utilisation | Audit trail complet, immuable, exportable |
Ces principes ne sont pas des options activables après coup — ce sont des caractéristiques de conception de la plateforme. Ils sont la raison pour laquelle Gordios est défendable en audit, pas seulement performant.
Envie d'en savoir plus?
Prenez rendez-vous avec un de nos spécialistes pour répondre au mieux à vos besoins!
Réservez une démo