Article 10, Données et gouvernance des données
L'article 10 impose aux providers de systèmes IA haut risque d'utiliser des jeux de données d'entraînement, de validation et de test répondant à des critères de qualité : pertinence, représentativité, exactitude, complétude, gouvernance documentée et atténuation des biais.
Points clés
- Couvre training, validation et test
- Pertinence, représentativité, exactitude, complétude
- Examen des biais possibles et mesures d'atténuation
- Traitement spécial des catégories spéciales (art. 9 RGPD) autorisé sous garanties
- Documentation obligatoire dans la doc technique
Définition
L'article 10 du règlement (UE) 2024/1689 énonce les exigences de qualité et de gouvernance applicables aux données utilisées pour entraîner, valider et tester un système d'IA à haut risque.
Détail
## Critères de qualité des jeux de données
L'article 10 impose que les jeux de données d'**entraînement, validation et test** soient pertinents, suffisamment représentatifs, exempts d'erreurs dans la mesure du possible, et complets au regard de l'usage prévu. Ces critères doivent être appréciés à la lumière de la finalité du système, des personnes ou groupes auxquels il est destiné, et du contexte géographique, comportemental ou fonctionnel.
## Gouvernance documentée
Les providers doivent documenter les choix de conception, le processus de collecte, l'origine des données et, le cas échéant, leur finalité initiale ; les opérations de préparation (annotation, étiquetage, nettoyage, agrégation) ; l'évaluation de la disponibilité, quantité et adéquation des données ; et l'examen des biais possibles susceptibles d'affecter la santé, la sécurité ou les droits fondamentaux.
## Traitement de données sensibles
À titre exceptionnel, le traitement de catégories particulières de données (article 9 RGPD) est autorisé pour la détection et la correction des biais, sous réserve de garanties renforcées : pseudonymisation, contrôles d'accès, suppression dès que possible.
Checklist
- Documenter l'origine, la collecte et le pré-traitement des données
- Évaluer pertinence et représentativité au regard de l'usage prévu
- Détecter et atténuer les biais (genre, origine, âge…)
- Documenter les hypothèses, lacunes et limites des jeux de données
- Mettre en place une gouvernance data (rôles, contrôles, traçabilité)
Comment utiliser cette fiche
Cette fiche sert de point d'entrée opérationnel pour un audit AI Act. Elle doit être reliée à un système d'IA précis, à un responsable interne, à des preuves disponibles et à une décision de classification documentée. Le bon usage consiste à vérifier le périmètre, confirmer le rôle de l'organisation, identifier les obligations applicables, puis transformer chaque écart en action datée.
Preuves à réunir
- Inventaire du système d'IA, finalité, utilisateurs et environnement de déploiement.
- Documentation technique, politiques internes, journaux, tests, supervision humaine et décisions de gouvernance.
- Référence aux articles AI Act, aux normes ou aux sources officielles qui justifient la qualification.
- Responsable de la revue, date de dernière mise à jour et prochaine échéance de contrôle.
Indicateurs de suivi
Suivez le taux de preuves disponibles, le nombre d'écarts ouverts, la criticité des actions restantes et la date de prochaine revue. Une fiche est exploitable si elle permet à un auditeur, un DPO ou un responsable technique de comprendre rapidement ce qui est conforme, ce qui reste à prouver et quelle décision doit être prise.