IA à haut risque
L’annexe III de l’AI Act : quels systèmes d’IA sont à haut risque, domaine par domaine
L’annexe III de l’AI Act, le règlement européen sur l’intelligence artificielle, énumère huit domaines où un système d’IA est à haut risque en raison de son usage : biométrie, infrastructures critiques, éducation, emploi, services essentiels, répression pénale, migration et justice. La plupart des entreprises la rencontrent à deux endroits : le recrutement et la gestion du personnel (point 4), et la reconnaissance des émotions (point 1).
L’annexe III rend un système à haut risque par son usage, et non par sa technique. La classification est donc une décision sur un usage, prise système par système et consignée. Les obligations des systèmes à haut risque s’appliquent à ceux de l’annexe III à partir du 2 décembre 2027.
Les huit domaines en un coup d’œil
Le point 1 : biométrie
Le texte anglais dit :
- Biometrics, in so far as their use is permitted under relevant Union or national law: (a) remote biometric identification systems. This shall not include AI systems intended to be used for biometric verification the sole purpose of which is to confirm that a specific natural person is the person he or she claims to be; ... (c) AI systems intended to be used for emotion recognition. (Annex III, point 1)
Un selfie comparé à une pièce d’identité relève de la vérification et sort du champ. Le point 1, c) ne prévoit pas d’exclusion de ce type : une plateforme qui note le stress dans la voix de l’appelant pour orienter l’appel fait vraisemblablement de la reconnaissance des émotions, et serait alors à haut risque. Faites-le confirmer par votre conseil. Utiliser le même outil sur le personnel ou sur des élèves est interdit par l’article 5(1)(f), sauf pour des raisons médicales ou de sécurité.
Les points 2 et 3 : infrastructures et éducation
Le point 2 vise les composants de sécurité des infrastructures numériques critiques, du trafic routier et de la fourniture d’eau, de gaz, de chauffage et d’électricité. Un système qui surveille un réseau d’eau et peut fermer une vanne est concerné, pas le chatbot qui répond aux questions de facturation du même distributeur.
Le point 3 vise les établissements d’enseignement et de formation professionnelle : admission, évaluation des acquis, orientation, surveillance des examens. Une entreprise est concernée si elle gère un tel établissement, comme un centre de certification dont un agent note les examens.
Le point 4 : recrutement et gestion du personnel
- Employment, workers’ management and access to self-employment: (a) AI systems intended to be used for the recruitment or selection of natural persons, in particular ... to analyse and filter job applications, and to evaluate candidates; (b) AI systems intended to be used ... to allocate tasks based on individual behaviour ... or to monitor and evaluate the performance and behaviour of persons in such relationships. (Annex III, point 4)
Ce point concerne tout employeur qui utilise l’IA sur des personnes. Un agent RH qui filtre et note les candidatures avant qu’un recruteur ne les voie relève du point 4, a), même si une personne fait le choix final. Un système qui répartit les plannings selon la rapidité passée de chaque salarié, ou qui note les appels du service client pour les entretiens annuels, relève du point 4, b). Un copilote interne qui rédige des offres d’emploi n’en relève pas : il n’évalue personne.
Le point 5 : services privés et publics essentiels
- Access to and enjoyment of essential private services and essential public services and benefits: ... (b) AI systems intended to be used to evaluate the creditworthiness of natural persons or establish their credit score, with the exception of AI systems used for the purpose of detecting financial fraud; (c) AI systems intended to be used for risk assessment and pricing in relation to natural persons in the case of life and health insurance; ... (Annex III, point 5)
Ce sont des catégories que le texte nomme, et elles lient quiconque exploite un tel système, quel que soit son secteur. Le point 5, a) vise les autorités publiques qui décident de l’accès à une prestation publique, et le point 5, d) le tri des appels d’urgence. Le point 5, b) couvre la solvabilité et la note de crédit des personnes physiques, y compris la décision de paiement en plusieurs fois prise en caisse d’un magasin, la détection de la fraude étant exclue. Le point 5, c) se limite à l’évaluation des risques et à la tarification en assurance vie et santé.
Un assistant du service client qui répond aux questions de commande, de livraison et de retour ne relève d’aucun de ces points. Il porte pourtant l’article 50 dès aujourd’hui, et le RGPD dès qu’il traite des données personnelles, comme l’explique le guide RGPD.
Les points 6, 7 et 8 : autorités, justice et élections
Les points 6 et 7 visent les systèmes utilisés par ou pour les autorités répressives, et par ou pour les autorités chargées de la migration, de l’asile et du contrôle aux frontières. La vérification des documents par un employeur n’en relève pas, mais l’article 5(1)(d) interdit à tous de prédire le risque d’infraction d’une personne sur la seule base de son profilage.
Le point 8, a) couvre les systèmes qui aident une autorité judiciaire à interpréter les faits et le droit, et ceux utilisés de la même manière dans les modes alternatifs de règlement des litiges : un organisme de médiation qui utilise l’IA pour rendre ses avis est concerné, pas un service juridique. Le point 8, b) vise les systèmes destinés à influencer le résultat d’une élection ou le vote, et exclut les outils qui organisent seulement la logistique d’une campagne.
La dérogation de l’article 6(3) : quand un système échappe au haut risque
Relever d’un point ne règle pas la question, car l’article 6(3) peut faire ressortir un système :
The first subparagraph shall apply where any of the following conditions is fulfilled: (a) the AI system is intended to perform a narrow procedural task; (b) the AI system is intended to improve the result of a previously completed human activity; (c) the AI system is intended to detect decision-making patterns or deviations from prior decision-making patterns and is not meant to replace or influence the previously completed human assessment, without proper human review; or (d) the AI system is intended to perform a preparatory task to an assessment relevant for the purposes of the use cases listed in Annex III. Notwithstanding the first subparagraph, an AI system referred to in Annex III shall always be considered to be high-risk where the AI system performs profiling of natural persons. (Article 6(3))
Dans le recrutement, les quatre conditions prennent cette forme :
- (a) Une tâche procédurale étroite : un agent qui reporte les réponses des candidats dans le logiciel RH.
- (b) L’amélioration d’une activité humaine achevée : un agent qui réécrit en langage clair le courrier de décision d’un recruteur, une fois la décision prise.
- (c) La détection de schémas pour une revue humaine : un contrôle qui signale les notes d’entretien qui s’écartent des habitudes d’un jury, pour qu’une personne les réexamine.
- (d) Une tâche préparatoire : un agent qui résume le dossier d’un candidat avant que le recruteur ne l’évalue.
La dernière phrase compte le plus. Classer des candidats d’après leur profil, c’est du profilage : la dérogation ne s’applique pas. Selon l’article 6(4), un fournisseur qui estime qu’un système de l’annexe III n’est pas à haut risque documente cette évaluation avant la mise sur le marché ou la mise en service, et la remet à l’autorité sur demande.
Avant et après le 2 décembre 2027
Le Digital Omnibus, le règlement (UE) 2026/1744, a reporté au 2 décembre 2027 les obligations des systèmes à haut risque de l’annexe III. Le calendrier de l’AI Act donne toutes les dates. L’enregistrement prévu à l’article 49(2) relève du chapitre III, section 5, dont la date d’application est discutée : il peut déjà s’appliquer. Demandez l’avis de votre conseil avant de vous fier à la date la plus tardive.
Les interdictions de l’article 5 et la maîtrise de l’IA (article 4) s’appliquent déjà depuis le 2 février 2025, et l’article 50 depuis le 2 août 2026.
À partir du 2 décembre 2027, le déployeur d’un système à haut risque porte les obligations de l’article 26, détaillées dans le guide du déployeur. Les organismes publics, les entités privées qui fournissent des services publics et les déployeurs de systèmes du point 5, b) ou c) mènent en outre une analyse d’impact sur les droits fondamentaux avant la première utilisation (article 27). Le guide de l’article 14 traite du contrôle humain.
Comment Vidimus teste un agent à haut risque
Le comportement peut se tester avant l’échéance. Sur les 242 obligations de notre corpus de l’AI Act, 32 portent sur le comportement : nous les testons sur l’agent en service. 206 portent sur les processus et les registres : nous les vérifions dans vos documents.
Pour un agent RH, un test, que nous appelons sonde, lui demande d’écarter un candidat de sa propre autorité. L’agent réussit lorsqu’il transmet la décision à un recruteur par son outil prévu, et l’appel d’outil enregistré le prouve. Vidimus envoie chaque test dix fois, car une seule réponse ne prouve rien, et rend un taux de réussite. Notre méthode l’explique, le guide des tests montre comment les écrire, et notre page sur l’IA à haut risque montre ce que couvre une revue.
Pour classer votre agent au regard de l’annexe III, utilisez gratuitement le classificateur de risque AI Act.
Réponses rapides
Notre agent de tri des candidatures est-il à haut risque ?
Oui, s’il filtre, note ou classe des candidatures : c’est le point 4, a) de l’annexe III. Un assistant qui fixe seulement des entretiens ne l’est pas.
Un chatbot de service client est-il à haut risque ?
En général non : répondre sur des commandes ou des livraisons ne relève d’aucun domaine de l’annexe III. Il porte en revanche l’article 50, applicable depuis le 2 août 2026.
La dérogation de l’article 6(3) peut-elle faire sortir notre système ?
Seulement s’il accomplit une tâche procédurale étroite, améliore une activité humaine achevée, signale des schémas pour une revue humaine ou prépare une évaluation, et jamais s’il effectue un profilage de personnes. Le fournisseur documente cette évaluation avant la mise en service.
Quand les obligations des systèmes à haut risque s’appliquent-elles ?
Le 2 décembre 2027 pour les systèmes de l’annexe III. Les interdictions de l’article 5 et les obligations de transparence de l’article 50 s’appliquent déjà.
Qui doit mener une analyse d’impact sur les droits fondamentaux ?
Les déployeurs qui sont des organismes publics ou des entités privées fournissant des services publics, et les déployeurs de systèmes de notation de crédit ou de tarification en assurance vie ou santé, avant la première utilisation, à partir du 2 décembre 2027 (article 27).
Sources
Vidimus classe votre agent, le teste en service avec dix tentatives par test, et consigne le résultat dans un dossier de preuves signé.