Aller au contenu principal
Vidimus

Outil gratuit

Classificateur de risque AI Act pour agents IA

Répondez à quelques questions sur votre agent IA pour connaître sa classe de risque probable au titre de l’AI Act, le règlement européen sur l’intelligence artificielle, et les principales obligations qui en découlent.

Votre agent

Lequel de ces usages se rapproche le plus de ce que fait l’agent ?

L’annexe III liste les usages qui rendent un système d’IA à haut risque. Chacun est illustré par un exemple et, quand c’est utile, par ce qu’il ne couvre pas.

Parle-t-il directement avec des personnes, clients ou salariés (agent conversationnel, assistant vocal, agent IA) ?

Les salariés aussi sont concernés : un agent conversationnel d’assistance interne parle lui aussi directement avec des personnes.

Génère-t-il du texte, des images, de l’audio ou de la vidéo ?

Article 50(2) : les sorties générées par IA doivent être marquées dans un format lisible par machine.

Fait-il quelque chose que l’article 5 interdit ?

L’article 5 interdit la notation sociale, ainsi que la manipulation des personnes ou l’exploitation des vulnérabilités dues à leur âge, à un handicap ou à leur situation sociale ou économique, lorsqu’elles causent ou sont raisonnablement susceptibles de causer un préjudice important. Il interdit aussi d’inférer les émotions d’une personne sur le lieu de travail et dans les établissements d’enseignement, de déduire la race, les opinions politiques, l’affiliation à une organisation syndicale, les convictions religieuses ou philosophiques, la vie sexuelle ou l’orientation sexuelle d’une personne à partir de ses données biométriques, et de constituer des bases de données de reconnaissance faciale par moissonnage non ciblé. La reconnaissance des émotions pour des raisons médicales ou de sécurité n’est pas interdite. À partir du 2 décembre 2026, il est aussi interdit de générer ou de manipuler des images, vidéos ou contenus audio réalistes représentant les parties intimes d’une personne identifiable, ou cette personne se livrant à des activités sexuellement explicites, sans son consentement, ainsi que de la pédopornographie au sens de la directive 2011/93/UE.

Est-il un composant de sécurité d’un produit réglementé, comme un jouet, un ascenseur ou un dispositif médical ?

Produits couverts par la législation d’harmonisation de l’Union dont la liste figure à l’annexe I. Rare pour un agent au service des clients ou des salariés.

0 réponse sur 5

Comment l’AI Act classe un système d’IA

Le règlement classe les systèmes d’IA selon leur usage, et non selon leur conception technique. Quelques pratiques sont interdites d’emblée par l’article 5, comme la notation sociale et les techniques manipulatrices qui causent ou sont raisonnablement susceptibles de causer un préjudice important. Un système est à haut risque dans deux cas. Soit il est destiné à être utilisé comme composant de sécurité d’un produit couvert par la législation d’harmonisation de l’Union dont la liste figure à l’annexe I, comme les jouets, les ascenseurs ou les dispositifs médicaux, ou il constitue lui-même un tel produit, et ce produit est soumis à une évaluation de la conformité par un tiers. Soit il sert à l’un des usages listés à l’annexe III, sauf si la dérogation de l’article 6, paragraphe 3, s’applique.

Les systèmes qui interagissent avec des personnes, génèrent des contenus, reconnaissent les émotions ou classent les personnes selon leurs données biométriques sont soumis aux obligations de transparence de l’article 50, quelle que soit leur classe. Pour tout le reste, l’AI Act ne prévoit pas d’obligation propre au niveau de risque, ce que l’on appelle couramment le risque minimal : la maîtrise de l’IA de l’article 4 s’applique toujours, et les codes de conduite sont volontaires. Les modèles d’IA à usage général relèvent d’un régime distinct, qui s’impose à leurs fournisseurs.

Pour une seconde lecture, le service d’assistance de la Commission européenne sur l’AI Act publie son propre outil, en anglais : EU AI Act Compliance Checker

Les huit catégories de l’annexe III, chacune avec un exemple

Chaque catégorie est un point de l’annexe III, avec un exemple d’usage qui en relève et, quand c’est utile, un exemple qui n’en relève pas.

  1. 1
    BiométrieLa reconnaissance des émotions des clients dans un centre d’appels est à haut risque, tandis qu’inférer les émotions sur le lieu de travail, celles de vos propres salariés par exemple, est interdit par l’article 5, sauf pour des raisons médicales ou de sécurité. La vérification biométrique dont la seule finalité est de confirmer, à l’entrée en relation, qu’un client est bien la personne qu’il prétend être est exclue.
  2. 2
    Infrastructures critiquesLes composants de sécurité de l’énergie, de l’eau, des transports et des infrastructures numériques. Cela concerne rarement un agent au service des clients ou des salariés.
  3. 3
    Éducation et formation professionnelleLes admissions et la notation d’examens dans une école, une université ou un organisme de formation professionnelle. Noter vos propres salariés relève de l’emploi.
  4. 4
    Emploi, gestion de la main-d’œuvre et accès à l’emploi indépendantLe tri des candidatures à un emploi, ou une IA qui répartit le travail entre les salariés ou évalue leurs performances.
  5. 5
    Accès et droit aux services privés essentiels et aux services publics et prestations sociales essentielsL’évaluation de la solvabilité et l’établissement de la note de crédit (point 5 b)), et l’évaluation des risques et la tarification en assurance-vie et assurance maladie (point 5 c)).
  6. 6
    RépressionDes outils utilisés par ou pour la police et le parquet. La détection de fraude qu’une entreprise mène pour son propre compte n’en relève pas.
  7. 7
    Migration, asile et gestion des contrôles aux frontièresDes outils utilisés par ou pour les autorités de migration, d’asile ou de contrôle aux frontières.
  8. 8
    Administration de la justice et processus démocratiquesDes outils utilisés par les tribunaux ou pour influencer une élection.

Ce que « haut risque » signifie pour un déployeur avant décembre 2027

Le Digital Omnibus, le règlement (UE) 2026/1744 qui a modifié l’AI Act en 2026, a reporté les obligations à haut risque : elles s’appliquent à partir du 2 décembre 2027 pour les systèmes de l’annexe III, et à partir du 2 août 2028 pour l’IA intégrée aux produits de l’annexe I. D’ici là, un déployeur n’a aucune obligation à haut risque à respecter, mais les régulateurs et les auditeurs demandent déjà une gouvernance de l’IA documentée. Cette documentation ne se reconstitue pas après coup.

À partir de décembre 2027, un déployeur doit utiliser le système conformément à sa notice d’utilisation, confier le contrôle humain à des personnes compétentes, conserver les journaux, et informer les salariés concernés ainsi que les personnes visées par les décisions que le système prend ou aide à prendre. Les déployeurs qui évaluent la solvabilité ou tarifient l’assurance-vie ou l’assurance maladie, et ceux qui sont des organismes de droit public ou des entités privées fournissant des services publics, doivent aussi réaliser une analyse d’impact sur les droits fondamentaux au titre de l’article 27 avant la première utilisation.

L’article 50 s’applique déjà, tout comme le RGPD dès que l’agent traite des données à caractère personnel.

Connaître la classe puis tester l’agent

Une classification dit quelles obligations s’appliquent. Un pilote montre si votre agent en service les respecte et se conclut par un dossier de preuves signé.

Pilote

  • Un agent de bout en bout
  • Se conclut par une restitution du dossier de preuves avec vos responsables risques et conformité
  • Déduit de la première année