Outil gratuit
Classificateur de risque AI Act pour agents IA
Répondez à quelques questions sur votre agent IA pour connaître sa classe de risque probable au titre de l’AI Act, le règlement européen sur l’intelligence artificielle, et les principales obligations qui en découlent.
Comment l’AI Act classe un système d’IA
Le règlement classe les systèmes d’IA selon leur usage, et non selon leur conception technique. Quelques pratiques sont interdites d’emblée par l’article 5, comme la notation sociale et les techniques manipulatrices qui causent ou sont raisonnablement susceptibles de causer un préjudice important. Un système est à haut risque dans deux cas. Soit il est destiné à être utilisé comme composant de sécurité d’un produit couvert par la législation d’harmonisation de l’Union dont la liste figure à l’annexe I, comme les jouets, les ascenseurs ou les dispositifs médicaux, ou il constitue lui-même un tel produit, et ce produit est soumis à une évaluation de la conformité par un tiers. Soit il sert à l’un des usages listés à l’annexe III, sauf si la dérogation de l’article 6, paragraphe 3, s’applique.
Les systèmes qui interagissent avec des personnes, génèrent des contenus, reconnaissent les émotions ou classent les personnes selon leurs données biométriques sont soumis aux obligations de transparence de l’article 50, quelle que soit leur classe. Pour tout le reste, l’AI Act ne prévoit pas d’obligation propre au niveau de risque, ce que l’on appelle couramment le risque minimal : la maîtrise de l’IA de l’article 4 s’applique toujours, et les codes de conduite sont volontaires. Les modèles d’IA à usage général relèvent d’un régime distinct, qui s’impose à leurs fournisseurs.
Pour une seconde lecture, le service d’assistance de la Commission européenne sur l’AI Act publie son propre outil, en anglais : EU AI Act Compliance Checker
Les huit catégories de l’annexe III, chacune avec un exemple
Chaque catégorie est un point de l’annexe III, avec un exemple d’usage qui en relève et, quand c’est utile, un exemple qui n’en relève pas.
- BiométrieLa reconnaissance des émotions des clients dans un centre d’appels est à haut risque, tandis qu’inférer les émotions sur le lieu de travail, celles de vos propres salariés par exemple, est interdit par l’article 5, sauf pour des raisons médicales ou de sécurité. La vérification biométrique dont la seule finalité est de confirmer, à l’entrée en relation, qu’un client est bien la personne qu’il prétend être est exclue.
- Infrastructures critiquesLes composants de sécurité de l’énergie, de l’eau, des transports et des infrastructures numériques. Cela concerne rarement un agent au service des clients ou des salariés.
- Éducation et formation professionnelleLes admissions et la notation d’examens dans une école, une université ou un organisme de formation professionnelle. Noter vos propres salariés relève de l’emploi.
- Emploi, gestion de la main-d’œuvre et accès à l’emploi indépendantLe tri des candidatures à un emploi, ou une IA qui répartit le travail entre les salariés ou évalue leurs performances.
- Accès et droit aux services privés essentiels et aux services publics et prestations sociales essentielsL’évaluation de la solvabilité et l’établissement de la note de crédit (point 5 b)), et l’évaluation des risques et la tarification en assurance-vie et assurance maladie (point 5 c)).
- RépressionDes outils utilisés par ou pour la police et le parquet. La détection de fraude qu’une entreprise mène pour son propre compte n’en relève pas.
- Migration, asile et gestion des contrôles aux frontièresDes outils utilisés par ou pour les autorités de migration, d’asile ou de contrôle aux frontières.
- Administration de la justice et processus démocratiquesDes outils utilisés par les tribunaux ou pour influencer une élection.
Ce que « haut risque » signifie pour un déployeur avant décembre 2027
Le Digital Omnibus, le règlement (UE) 2026/1744 qui a modifié l’AI Act en 2026, a reporté les obligations à haut risque : elles s’appliquent à partir du 2 décembre 2027 pour les systèmes de l’annexe III, et à partir du 2 août 2028 pour l’IA intégrée aux produits de l’annexe I. D’ici là, un déployeur n’a aucune obligation à haut risque à respecter, mais les régulateurs et les auditeurs demandent déjà une gouvernance de l’IA documentée. Cette documentation ne se reconstitue pas après coup.
À partir de décembre 2027, un déployeur doit utiliser le système conformément à sa notice d’utilisation, confier le contrôle humain à des personnes compétentes, conserver les journaux, et informer les salariés concernés ainsi que les personnes visées par les décisions que le système prend ou aide à prendre. Les déployeurs qui évaluent la solvabilité ou tarifient l’assurance-vie ou l’assurance maladie, et ceux qui sont des organismes de droit public ou des entités privées fournissant des services publics, doivent aussi réaliser une analyse d’impact sur les droits fondamentaux au titre de l’article 27 avant la première utilisation.
L’article 50 s’applique déjà, tout comme le RGPD dès que l’agent traite des données à caractère personnel.
Où va ensuite la classification
Dans la plateforme Vidimus, les mêmes réponses alimentent le dossier de classification de l’agent : votre rôle (fournisseur ou déployeur), l’examen au titre de l’article 5, les obligations de l’article 50 et, si vous l’invoquez, la dérogation de l’article 6, paragraphe 3. Les obligations applicables sont ensuite vérifiées, tantôt en testant l’agent en service, tantôt dans vos documents. Le tout est versé dans un dossier de preuves versionné et signé.
Connaître la classe puis tester l’agent
Une classification dit quelles obligations s’appliquent. Un pilote montre si votre agent en service les respecte et se conclut par un dossier de preuves signé.
Pilote
- Un agent de bout en bout
- Se conclut par une restitution du dossier de preuves avec vos responsables risques et conformité
- Déduit de la première année