Module de validation
01 / 07Assurance de la gouvernance de l'IA
Vérifie si la gouvernance de l'IA que vous avez écrite est réellement appliquée par le système que vous exploitez.
Le problème
Une politique n'est pas un contrôle
La plupart des organisations disposent désormais d'une politique IA, d'un circuit de validation et d'un registre des systèmes approuvés. Très peu peuvent démontrer que le registre correspond à ce qui est déployé, que le point de validation n'est atteignable que par le chemin approuvé, ou que les limites de données décrites dans la politique sont appliquées ailleurs que dans le document. Les équipes adoptent assistants et agents plus vite qu'aucune fonction centrale ne peut les inventorier, et un agent acquiert ses permissions de celui qui l'a configuré.
Sous le règlement IA et ISO/IEC 42001, l'obligation pèse sur le déployeur : démontrer une gouvernance en fonctionnement, non produire la politique qui la décrit. Un auditeur qui demande la preuve d'un point de validation appliqué et reçoit un schéma de circuit a trouvé un écart.
Comment Veync l'éprouve
Réconcilier le registre avec le système réel
Veync découvre l'IA réellement en usage, la compare à ce qui est déclaré, puis éprouve si chaque contrôle annoncé est atteignable et appliqué — les points de validation en tentant de les contourner, les limites de données en tentant de les franchir, les contrôles avec humain dans la boucle en tentant d'agir sans l'humain.
Ce que ce module couvre
- Découverte de l'IA clandestine
- Inventaire des modèles et des agents
- Limites des flux de données
- Limites des données d'entraînement
- Points de validation
- Contrôles avec humain dans la boucle
- Responsabilité et propriété
Ce que vous recevez
Un inventaire que vous pouvez défendre
Le résultat est l'artefact qu'un auditeur demande et que peu d'organisations peuvent produire : un inventaire réconcilié, une cartographie reliant chaque clause de politique au mécanisme qui l'applique, et un registre des clauses pour lesquelles aucun mécanisme n'existe.
Un inventaire réconcilié des systèmes d'IA
Une cartographie politique vers application
Un registre des écarts de gouvernance
Référentiels
Les preuves de ce module se rattachent à
EU AI Act Regulation (EU) 2024/1689
European Union
ISO/IEC 42001 2023
ISO/IEC
NIST AI RMF 1.0
NIST
ISO/IEC 23894 2023
ISO/IEC
Mettez ce module à l'épreuve
Une session de validation couvre le périmètre, l'autorisation que vous signeriez et les preuves que ce module produirait pour votre environnement.
Les résultats nommant des éditeurs et les preuves de contournement de contrôles sont partagés sous accord de confidentialité, via l'annexe de preuves.