Human oversight (Supervision humaine)

Points clés

• Obligation pour tous les systèmes à haut risque
• Personnes formées, autorité réelle d'intervention
• Mesures intégrées dès la conception et au déploiement
• Capacité d'override et de stop

Définition

La supervision humaine désigne les mesures techniques et organisationnelles permettant à des personnes physiques d'évaluer le fonctionnement du système, d'en comprendre les capacités et limites, et d'intervenir le cas échéant.

Détail

L'article 14 distingue les mesures que le provider doit intégrer (interface, logs, alertes) et celles que le deployer doit mettre en œuvre (désignation, formation, autorité). La supervision doit être proportionnée aux risques.

Checklist

• Désigner les personnes responsables de la supervision
• Les former aux capacités et limites du système
• Documenter les procédures d'intervention
• Garantir l'autorité d'override et d'arrêt
• Mettre en place des indicateurs et alertes
• Tester périodiquement les procédures

Comment utiliser cette fiche

Cette fiche sert de point d'entrée opérationnel pour un audit AI Act. Elle doit être reliée à un système d'IA précis, à un responsable interne, à des preuves disponibles et à une décision de classification documentée. Le bon usage consiste à vérifier le périmètre, confirmer le rôle de l'organisation, identifier les obligations applicables, puis transformer chaque écart en action datée.

Preuves à réunir

• Inventaire du système d'IA, finalité, utilisateurs et environnement de déploiement.
• Documentation technique, politiques internes, journaux, tests, supervision humaine et décisions de gouvernance.
• Référence aux articles AI Act, aux normes ou aux sources officielles qui justifient la qualification.
• Responsable de la revue, date de dernière mise à jour et prochaine échéance de contrôle.

Indicateurs de suivi

Suivez le taux de preuves disponibles, le nombre d'écarts ouverts, la criticité des actions restantes et la date de prochaine revue. Une fiche est exploitable si elle permet à un auditeur, un DPO ou un responsable technique de comprendre rapidement ce qui est conforme, ce qui reste à prouver et quelle décision doit être prise.

Questions fréquentes

Quels systèmes sont concernés ?

Tous les systèmes d'IA à haut risque au sens de l'article 6.

Qui doit la mettre en œuvre ?

Le provider conçoit les mesures techniques ; le deployer les opère.

Entités liées

• High-risk AI (risque élevé)
• Logging automatique
• Risk management (Gestion des risques)
• Deployer (Déployeur)

Références

• Article 14 AI Act

Méthode de lecture recommandée

Analysez cette page comme une fiche de travail : commencez par le périmètre du système d'IA, identifiez le rôle de l'organisation, puis reliez chaque exigence AI Act à une preuve vérifiable. Cette approche évite les lectures purement théoriques et facilite la préparation d'un audit, d'un registre IA ou d'un plan de remédiation.

Preuves à réunir

• Inventaire du système, finalité, utilisateurs, fournisseurs et données traitées.
• Classification du risque et justification documentée, avec référence aux articles applicables.
• Responsables internes : métier, technique, conformité, sécurité, DPO et direction.
• Documents disponibles : notice, architecture, tests, logs, procédures, contrôles humains et suivi des incidents.
• Décisions prises, écarts ouverts, actions correctives, échéances et preuves de clôture.

Points de vigilance

Les obligations varient selon le rôle exact de l'organisation et le niveau de risque du système. Un même projet peut cumuler AI Act, RGPD, cybersécurité, exigences sectorielles et engagements contractuels. Les pages d'audit-ia-act.fr donnent une base technique et opérationnelle ; elles ne remplacent pas une analyse juridique individualisée.

Sources et contrôles croisés

Pour sécuriser l'interprétation, croisez cette fiche avec le référentiel AI Act, les sources officielles, le calendrier d'application et les pages dédiées aux rôles, risques et obligations. En cas d'enjeu élevé, formalisez la conclusion dans un dossier de preuve daté.

Demander un audit technique IA permet de transformer Human oversight AI Act : supervision humaine des IA en plan d'action priorisé, avec preuves attendues, responsables et délais.