Human oversight

Points clés

• Supervision humaine effective d'un système IA haut risque, conçue par le provider et opérée par le deployer (article 14).

Définition

Mesures techniques et organisationnelles permettant à des personnes physiques de comprendre les capacités et limites du système, de surveiller son fonctionnement, d'interpréter correctement les sorties, d'éviter le biais d'automatisation, d'intervenir, et d'interrompre ou arrêter le système (bouton stop).

Détail

La supervision humaine n'est **pas** un simple "human in the loop" coché en case. Elle se prouve par :

- une **conception** côté provider : interface, alertes, explication des sorties, possibilité d'override, arrêt d'urgence, - une **opération** côté deployer : superviseurs compétents, formés, disposant du temps et de l'autorité d'intervenir.

L'article 14.5 impose pour certains systèmes biométriques que toute identification soit **confirmée séparément par au moins deux personnes physiques**.

Checklist

• Documenter les mesures de supervision dans la notice (provider)
• Désigner nominativement les superviseurs humains (deployer)
• Former les superviseurs aux capacités et limites du système
• Garantir l'autorité d'arrêter ou d'annuler une décision
• Auditer périodiquement l'effectivité de la supervision

Comment utiliser cette fiche

Cette fiche sert de point d'entrée opérationnel pour un audit AI Act. Elle doit être reliée à un système d'IA précis, à un responsable interne, à des preuves disponibles et à une décision de classification documentée. Le bon usage consiste à vérifier le périmètre, confirmer le rôle de l'organisation, identifier les obligations applicables, puis transformer chaque écart en action datée.

Preuves à réunir

• Inventaire du système d'IA, finalité, utilisateurs et environnement de déploiement.
• Documentation technique, politiques internes, journaux, tests, supervision humaine et décisions de gouvernance.
• Référence aux articles AI Act, aux normes ou aux sources officielles qui justifient la qualification.
• Responsable de la revue, date de dernière mise à jour et prochaine échéance de contrôle.

Indicateurs de suivi

Suivez le taux de preuves disponibles, le nombre d'écarts ouverts, la criticité des actions restantes et la date de prochaine revue. Une fiche est exploitable si elle permet à un auditeur, un DPO ou un responsable technique de comprendre rapidement ce qui est conforme, ce qui reste à prouver et quelle décision doit être prise.

Entités liées

• Human oversight (Supervision humaine)
• Article 14, Supervision humaine
• Deployer (Déployeur)

Méthode de lecture recommandée

Analysez cette page comme une fiche de travail : commencez par le périmètre du système d'IA, identifiez le rôle de l'organisation, puis reliez chaque exigence AI Act à une preuve vérifiable. Cette approche évite les lectures purement théoriques et facilite la préparation d'un audit, d'un registre IA ou d'un plan de remédiation.

Preuves à réunir

• Inventaire du système, finalité, utilisateurs, fournisseurs et données traitées.
• Classification du risque et justification documentée, avec référence aux articles applicables.
• Responsables internes : métier, technique, conformité, sécurité, DPO et direction.
• Documents disponibles : notice, architecture, tests, logs, procédures, contrôles humains et suivi des incidents.
• Décisions prises, écarts ouverts, actions correctives, échéances et preuves de clôture.

Points de vigilance

Les obligations varient selon le rôle exact de l'organisation et le niveau de risque du système. Un même projet peut cumuler AI Act, RGPD, cybersécurité, exigences sectorielles et engagements contractuels. Les pages d'audit-ia-act.fr donnent une base technique et opérationnelle ; elles ne remplacent pas une analyse juridique individualisée.

Sources et contrôles croisés

Pour sécuriser l'interprétation, croisez cette fiche avec le référentiel AI Act, les sources officielles, le calendrier d'application et les pages dédiées aux rôles, risques et obligations. En cas d'enjeu élevé, formalisez la conclusion dans un dossier de preuve daté.

Demander un audit technique IA permet de transformer Human oversight, Définition AI Act en plan d'action priorisé, avec preuves attendues, responsables et délais.