Aller au contenu principal
Vidimus

Obligations du déployeur

Publié le et vérifié le

Obligations du déployeur au titre de l’AI Act : l’article 26 et l’analyse d’impact pour les agents IA

Si votre entreprise exploite un agent IA qu’elle n’a pas développé, l’AI Act, le règlement européen sur l’intelligence artificielle, fait très probablement d’elle un déployeur. Pour un agent à haut risque, l’article 26 énumère ce que doit faire le déployeur, et l’article 27 ajoute une analyse d’impact sur les droits fondamentaux. Les deux s’appliquent aux systèmes de l’annexe III à partir du 2 décembre 2027.

Ce guide les applique à un agent qui répond, recommande ou agit pour le compte d’une entreprise, souvent en appelant des outils, comme un agent RH qui classe des candidatures. Il ne constitue pas un avis juridique.

Qui est déployeur

L’article 3 définit les deux rôles. Le texte dit :

  1. « fournisseur », une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ; 4) « déployeur », une personne physique ou morale, une autorité publique, une agence ou un autre organisme utilisant sous sa propre autorité un système d’IA sauf lorsque ce système est utilisé dans le cadre d’une activité personnelle à caractère non professionnel ; (article 3, points 3) et 4))

Le critère est l’autorité, pas la propriété. Une entreprise qui fait fonctionner l’agent d’un éditeur auprès de ses propres clients ou candidats en est le déployeur, et l’éditeur qui l’a mis sur le marché en est le fournisseur. Selon l’article 111(2), un système mis sur le marché ou mis en service avant le 2 décembre 2027 ne relève de ces obligations que s’il subit ensuite d’importantes modifications de sa conception.

L’article 26 ne vise que les systèmes à haut risque. Un assistant du service client qui répond aux questions sur les commandes ne figure pas à l’annexe III. Un agent RH qui filtre et classe des candidatures y figure, au titre du point 4, a). Le guide de l’annexe III trace cette limite. Les obligations de transparence de l’article 50 s’appliquent dans tous les cas, depuis le 2 août 2026. Le guide de l’article 50 les détaille.

Les obligations de l’article 26 une à une

Le paragraphe 8 vise les autorités publiques et le paragraphe 10 les autorités répressives : aucun ne lie une entreprise privée. Les autres s’appliquent.

Ce que chaque paragraphe demande pour un agent

Ce que chaque paragraphe demande pour un agent
ParagrapheCe qu’il demandeCe que cela veut dire pour un agent
26(1)Utiliser le système conformément à sa notice d’utilisationComparer la notice du fournisseur à l’agent tel que configuré : ses outils, ses données, ses clients
26(2) et (3)Confier le contrôle humain à des personnes compétentes, formées, dotées de l’autorité et du soutien nécessairesQuelqu’un qui sait lire les appels d’outil de l’agent et peut l’arrêter
26(4)Garder pertinentes et représentatives les données d’entrée que vous maîtrisezPour un agent qui consulte vos documents avant de répondre, ces documents sont des données d’entrée que vous maîtrisez
26(5)Surveiller, informer le fournisseur, signaler un risque et suspendre l’utilisationUne procédure de remontée avec des critères de suspension écrits
26(6)Conserver au moins six mois les journaux sous votre contrôleLa suite des appels d’outil, avec entrées et sorties, rattachée à une version de l’agent
26(7)Informer les travailleurs avant d’utiliser un système à haut risque au travailUne information des représentants du personnel et des salariés concernés
26(9)Utiliser les informations du fournisseur pour l’analyse d’impact relative à la protection des donnéesVotre délégué à la protection des données (DPO) détient la notice d’utilisation
26(11)Informer les personnes physiques visées par les décisions que vous prenez ou facilitez avec le système qu’elles sont soumises à son utilisationUne information à chaque demandeur dont l’agent note le dossier
26(12)Coopérer avec les autoritésUn interlocuteur désigné et un dossier de preuves prêt à remettre

Deux paragraphes demandent une lecture plus attentive. Le paragraphe 5 fixe la surveillance et la conduite à tenir quand un risque apparaît. Le texte dit :

Les déployeurs surveillent le fonctionnement du système d’IA à haut risque sur la base de la notice d’utilisation et, le cas échéant, informent les fournisseurs conformément à l’article 72. Lorsque les déployeurs ont des raisons de considérer que l’utilisation du système d’IA à haut risque conformément à la notice d’utilisation pourrait conduire à ce que le système d’IA présente un risque au sens de l’article 79, paragraphe 1, ils en informent, sans retard injustifié, le fournisseur ou le distributeur ainsi que l’autorité de surveillance du marché concernée, et suspendent l’utilisation de ce système. (article 26, paragraphe 5)

Écrivez à l’avance ce qui constitue un tel risque pour votre agent, qui décide de le suspendre, et comment.

Le paragraphe 11 impose une seconde information, distincte de l’article 50 :

Sans préjudice de l’article 50 du présent règlement, les déployeurs de systèmes d’IA à haut risque visés à l’annexe III, qui prennent des décisions ou facilitent les prises de décision concernant des personnes physiques, informent lesdites personnes physiques qu’elles sont soumises à l’utilisation du système d’IA à haut risque. (article 26, paragraphe 11)

L’article 50 dit au client qu’il parle à une IA. Le paragraphe 11 dit au demandeur qu’un système à haut risque est utilisé à son égard.

Quand un déployeur devient fournisseur

Selon l’article 25(1), un déployeur devient le fournisseur d’un système à haut risque, avec les obligations de l’article 16, dans trois cas.

Les trois déclencheurs

Les trois déclencheurs
DéclencheurExemple pour un agentConséquence
Votre nom ou votre marque sur un système à haut risque déjà sur le marchéL’entreprise commercialise sous sa marque l’agent RH d’un éditeurL’entreprise porte les obligations du fournisseur, sauf répartition contractuelle différente
Une modification substantielle d’un système qui reste à haut risqueL’entreprise réentraîne l’agent de tri de l’éditeur ou change sa façon de classer les candidatsL’entreprise porte les obligations du fournisseur, dont l’évaluation de la conformité
Une destination modifiée qui rend un système à haut risqueUn assistant généraliste reçoit un outil qui lit les CV et recommande qui recevoir en entretienL’entreprise devient fournisseur d’un système du point 4, a) de l’annexe III

Le troisième cas est celui qui rattrape le plus souvent les agents. En tant que fournisseur, vous devez alors mettre en place le système de gestion de la qualité de l’article 17 et établir la documentation technique de l’annexe IV. Selon l’article 25(2), le fournisseur initial doit coopérer et transmettre la documentation technique, sauf s’il a clairement précisé que son système ne doit pas devenir à haut risque. Lisez les conditions de l’éditeur avant de changer ce que fait l’agent.

L’analyse d’impact sur les droits fondamentaux (article 27)

L’article 27(1) impose une analyse d’impact sur les droits fondamentaux avant la première utilisation à trois groupes : les organismes de droit public, les entités privées qui fournissent des services publics, et les déployeurs de systèmes des points 5, b) et 5, c) de l’annexe III, qui couvrent la notation de crédit et la tarification en matière d’assurance-vie et d’assurance maladie, quel que soit le secteur du déployeur. Un employeur public qui trie des candidatures avec un agent est concerné. Une entreprise privée qui trie ses propres candidatures ne l’est pas, sauf si elle fournit un service public.

Cette analyse ne se confond pas avec l’analyse d’impact relative à la protection des données (AIPD) de l’article 35 du RGPD : l’une porte sur tous les droits fondamentaux des personnes touchées, l’autre sur le traitement de leurs données à caractère personnel.

Six éléments rédigés pour un agent

Six éléments rédigés pour un agent
Élément de l’analyse (article 27(1))Ce qu’il faut écrire pour un agent
(a) Les processus où le système est utiliséLes étapes où l’agent agit, comme le premier tri des candidatures, et les outils qu’il peut appeler
(b) La période et la fréquence d’utilisationLa date de mise en service, et le nombre de décisions qu’il appuie chaque mois
(c) Les personnes et groupes concernésCandidats et salariés, dont des groupes comme les personnes en reprise d’emploi ou les candidats en situation de handicap
(d) Les risques de préjudiceRefus injustifiés, inégalités de traitement ou transmission à une personne promise et jamais faite, à établir à partir des informations de l’article 13
(e) Les mesures de contrôle humainQui relit les recommandations de l’agent, quelles décisions une personne prend toujours, et comment l’arrêter
(f) Les mesures si un risque se réaliseSuspension, réparation pour les personnes touchées, gouvernance interne et voie de réclamation

L’obligation porte sur la première utilisation, et l’analyse doit être mise à jour quand un élément change (article 27(2)). Vous en notifiez les résultats à l’autorité de surveillance du marché (article 27(3)) et pouvez renvoyer à votre AIPD (article 27(4)). Vidimus ne rédige pas cette analyse. Son dossier de preuves vous fournit des comportements testés que l’analyse peut citer.

Liste de contrôle du déployeur

L’article 26 demande des mesures, des personnes, une surveillance et des journaux plutôt qu’un rapport, mais un superviseur vous demandera de montrer ce que vous avez fait.

  1. Classez chaque agent : celui qui filtre des candidatures relève du point 4, a) de l’annexe III, comme l’explique le guide de l’annexe III.
  2. Fixez votre rôle : simple déployeur, ou fournisseur au titre de l’article 25(1).
  3. Obtenez la notice d’utilisation. Si c’est impossible, consignez-le comme un constat.
  4. Confiez le contrôle à des personnes nommées, qui ont l’autorité d’arrêter l’agent. Le guide de l’article 14 décrit ce qu’elles doivent pouvoir faire.
  5. Mettez en place la surveillance de l’article 26(5), et rédigez la procédure de suspension.
  6. Confirmez une conservation des journaux d’au moins six mois, appels d’outil compris.
  7. Rédigez l’information de l’article 26(11) à côté de celle que décrit le guide de l’article 50.
  8. Si l’article 27 vous vise, menez l’analyse d’impact avant la première utilisation et notifiez l’autorité.
  9. Testez l’agent sur la version que vous exploitez, dix tentatives par test, et recommencez après tout changement de modèle, de prompt, d’outils ou des documents qu’il consulte. Notre méthode explique pourquoi dix.

Le RGPD s’applique au même agent dès qu’il traite des données à caractère personnel, et le guide RGPD indique lesquelles de ses obligations un test peut montrer. Notre page sur l’IA à haut risque montre comment Vidimus vérifie chaque obligation : le comportement sur l’agent en service et les processus dans vos documents.

Pour savoir quelles obligations s’appliquent à votre agent, utilisez gratuitement le classificateur de risque AI Act.

Réponses rapides

Sommes-nous déployeur ou fournisseur de l’agent d’un éditeur ?

Déployeur, si vous l’utilisez sous votre autorité et que l’éditeur l’a mis sur le marché. Vous en devenez fournisseur si vous y apposez votre nom, le modifiez substantiellement ou changez sa destination au point de le rendre à haut risque (article 25(1)).

Quand les obligations de l’article 26 s’appliquent-elles ?

À partir du 2 décembre 2027 pour les systèmes à haut risque de l’annexe III. Un système déjà en service n’y est soumis que si sa conception change ensuite de manière importante.

Tout déployeur doit-il mener une analyse d’impact sur les droits fondamentaux ?

Non. Les organismes de droit public, les entités privées qui fournissent des services publics et les déployeurs de systèmes des points 5, b) ou 5, c) de l’annexe III y sont tenus. L’analyse précède la première utilisation, et ses résultats sont notifiés à l’autorité de surveillance du marché.

Combien de temps conserver les journaux ?

Au moins six mois pour les journaux sous votre contrôle, sauf disposition contraire. Pour un agent, conservez les appels d’outil avec leurs entrées et leurs sorties.

L’analyse d’impact sur les droits fondamentaux est-elle une analyse d’impact relative à la protection des données (AIPD) ?

Non. L’AIPD du RGPD porte sur le traitement des données à caractère personnel, alors que l’analyse de l’article 27 porte sur tous les droits fondamentaux des personnes touchées. Elle peut renvoyer à l’AIPD (article 27(4)).

Sources

Vidimus teste les obligations visibles dans le comportement de votre agent, dix tentatives par test, et consigne le résultat dans un dossier de preuves signé.

Faits vérifiés le