Aller au contenu principal
Vidimus

Glossaire

Glossaire AI Act et RGPD pour les agents IA

Les termes de l’AI Act, le règlement européen sur l’intelligence artificielle, du RGPD et des tests sont définis chacun en un paragraphe. Chaque terme est signalé comme terme du règlement (avec son article), terme d’usage ou terme Vidimus.

Vous ne savez pas lesquels s’appliquent à votre agent ? Classez-le en deux minutes.

AI Act

Agent IATerme d’usage

Un système d’IA qui agit, et pas seulement qui répond : il poursuit un objectif sur plusieurs étapes, appelle des outils et des services (recherche, paiements, dossiers, messagerie) et décide de la suite d’après ce qu’il observe. L’AI Act n’emploie pas le mot : un agent est un système d’IA, classé selon son usage comme les autres, et c’est dans ses appels d’outil que réside le risque.

À lire : L’IA agentique face à l’AI Act : cadre de contrôle

Analyse d’impact sur les droits fondamentauxSource : article 27 de l’AI Act

L’analyse que certains déployeurs de systèmes à haut risque doivent réaliser avant la première utilisation : organismes de droit public, entités privées fournissant des services publics, et déployeurs de systèmes d’évaluation de la solvabilité, de note de crédit et de tarification en matière d’assurance-vie et d’assurance maladie. Elle décrit le processus, la période et la fréquence d’utilisation, les personnes concernées, les risques de préjudice et les mesures de contrôle et d’atténuation.

Voir aussi : Déployeur, Contrôle humain, Analyse d’impact relative à la protection des données (AIPD)

À lire : AI Act : obligations du déployeur d’agents IA

Annexe ISource : article 6(1) et annexe I de l’AI Act

La liste de la législation d’harmonisation de l’Union sur les produits (machines, dispositifs médicaux, véhicules, ascenseurs et le reste) dont les produits deviennent des systèmes d’IA à haut risque quand l’IA en est le composant de sécurité. Leurs obligations au titre de l’AI Act s’appliquent à partir du 2 août 2028 et suivent l’évaluation de la conformité du produit lui-même.

Voir aussi : Système d’IA à haut risque, Évaluation de la conformité

Annexe IIISource : article 6(2) et annexe III de l’AI Act

La liste des cas d’usage à haut risque : biométrie, infrastructures critiques, éducation et formation professionnelle, emploi, gestion de la main-d’œuvre et accès à l’emploi indépendant, accès et droit aux services privés essentiels et aux services publics et prestations sociales essentiels (dont la solvabilité et la tarification en matière d’assurance-vie et d’assurance maladie), répression, migration, asile et gestion des contrôles aux frontières, administration de la justice et processus démocratiques.

Voir aussi : Système d’IA à haut risque

À lire : Annexe III de l’AI Act : les usages à haut risque, Classificateur de risque AI Act

Annexe IVSource : article 11 et annexe IV de l’AI Act

La documentation technique qu’un fournisseur de système à haut risque doit établir au titre de l’article 11 : description du système, de son développement et de sa conception, de sa surveillance et de son contrôle, de ses performances, de son système de gestion des risques, des modifications apportées tout au long de son cycle de vie, des normes appliquées et de la déclaration UE de conformité. Un dossier de preuves ne la remplace pas : il apporte la preuve de certaines de ses parties, comme les tests et le contrôle humain.

Voir aussi : Documentation technique, Dossier de preuves

À lire : L’annexe IV de l’AI Act section par section

Autorité de surveillance du marchéSource : article 3(26) et article 70 de l’AI Act

L’autorité nationale que chaque État membre désigne pour faire appliquer le règlement : elle peut demander la documentation et les preuves, ordonner des mesures correctives et infliger des sanctions. Pour certains usages, le règlement encadre ce choix : pour les systèmes à haut risque de l’annexe III, points 6, 7 et 8, et ceux du point 1 utilisés à des fins répressives, de gestion des frontières et de justice et démocratie, l’État membre désigne soit les autorités compétentes en matière de contrôle de la protection des données, soit une autre autorité désignée dans les conditions de la directive (UE) 2016/680 (article 74(8)).

Retour à la liste des termes

Bac à sable réglementaire de l’IASource : article 3(55) et article 57 de l’AI Act

Un cadre contrôlé mis en place par une autorité compétente pour que des fournisseurs développent, entraînent, valident et testent un système d’IA innovant, pour une durée limitée et sous surveillance réglementaire, avant sa mise sur le marché. Chaque État membre doit en avoir au moins un opérationnel d’ici le 2 août 2027.

Bureau de l’IASource : article 3(47) et article 64 de l’AI Act

La fonction de la Commission pour la mise en œuvre du règlement au niveau de l’Union : elle supervise les modèles d’IA à usage général, coordonne les autorités nationales et publie lignes directrices et codes de bonne pratique, comme les lignes directrices sur l’article 50 du 20 juillet 2026 et le code de bonne pratique sur les contenus générés par l’IA du 10 juin 2026.

Retour à la liste des termes

Code de bonne pratique sur les contenus générés par l’IASource : article 50(7) de l’AI Act

Le code du 10 juin 2026, élaboré au titre de l’article 50(7), sur la manière dont les fournisseurs peuvent marquer et détecter les contenus générés par l’IA et dont les déployeurs peuvent signaler les hypertrucages. Le code de bonne pratique est facultatif. Un fournisseur qui ne le suit pas doit montrer une autre manière de respecter l’obligation de marquage.

Voir aussi : Marquage lisible par machine, Hypertrucage, Lignes directrices sur l’article 50

À lire : 2 décembre 2026 : ce qui change dans l’AI Act, L’article 50 de l’AI Act : guide pratique

Contrôle humainSource : article 14 de l’AI Act

L’exigence qu’un système à haut risque soit conçu pour que des personnes physiques puissent le contrôler pendant son utilisation : comprendre ses capacités et ses limites, repérer et traiter les anomalies, décider de ne pas l’utiliser, intervenir ou l’arrêter. Pour un agent, le test consiste à vérifier que la transmission à une personne qu’il annonce a réellement lieu.

À lire : Article 14 de l’AI Act : le contrôle humain

Retour à la liste des termes

DéployeurSource : article 3(4) de l’AI Act

La personne ou l’organisation qui utilise un système d’IA sous sa propre autorité, sauf dans le cadre d’une activité personnelle à caractère non professionnel. Une entreprise qui met l’agent conversationnel d’un éditeur à la disposition de ses clients en est le déployeur et porte les obligations d’usage, dont les paragraphes 50(3) et 50(4) et, à partir de décembre 2027, l’article 26.

Voir aussi : Fournisseur, Analyse d’impact sur les droits fondamentaux

À lire : AI Act : obligations du déployeur d’agents IA, Classificateur de risque AI Act

Dérogation de l’article 6(3)Source : article 6(3) et 6(4) de l’AI Act

La règle selon laquelle un système de l’annexe III n’est pas à haut risque. Elle joue lorsque le système ne présente pas de risque important de préjudice et n’a pas d’incidence significative sur le résultat de la prise de décision, parce qu’il se limite à l’un de quatre usages : une tâche procédurale étroite, l’amélioration du résultat d’une activité humaine préalablement réalisée, la détection de constantes ou d’écarts en matière de prise de décision sans se substituer à l’évaluation humaine, ou la préparation d’une évaluation. Elle ne s’applique jamais à un système qui effectue un profilage de personnes. Le fournisseur qui l’invoque documente son évaluation et enregistre le système (article 6(4)).

Voir aussi : Annexe III, Profilage, Enregistrement dans la base de données de l’UE

À lire : Annexe III de l’AI Act : les usages à haut risque

DestinationSource : article 3(12) de l’AI Act

L’usage auquel le fournisseur destine un système d’IA, y compris le contexte et les conditions d’utilisation précis, tels qu’ils sont précisés dans la notice d’utilisation, les indications publicitaires ou de vente et les déclarations du fournisseur, ainsi que dans la documentation technique. La classification en découle : un même assistant est à haut risque s’il est destiné à trier des candidatures, et ne l’est pas s’il rédige des textes marketing.

Voir aussi : Notice d’utilisation, Modification substantielle, Système d’IA à haut risque

À lire : Annexe III de l’AI Act : les usages à haut risque

Digital OmnibusSource : Règlement (UE) 2026/1744

Le règlement, en vigueur depuis le 27 juillet 2026, qui a modifié l’AI Act. Il a reporté les obligations des systèmes à haut risque au 2 décembre 2027 pour l’annexe III et au 2 août 2028 pour l’annexe I. Il a accordé aux systèmes existants jusqu’au 2 décembre 2026 pour le marquage lisible par machine, ajouté deux interdictions à l’article 5 et recadré l’article 4. Il a déplacé des dates, pas des attentes.

À lire : Calendrier de l’AI Act après le Digital Omnibus

Documentation techniqueSource : article 11 de l’AI Act

La documentation qu’un fournisseur établit avant de mettre un système à haut risque sur le marché et tient à jour, contenant au moins les éléments de l’annexe IV, pour que les autorités puissent en apprécier la conformité. C’est une documentation sur le système, alors que la preuve est ce qui montre que la documentation est vraie.

Voir aussi : Annexe IV

À lire : L’annexe IV de l’AI Act section par section

Retour à la liste des termes

Enregistrement (journalisation)Source : article 12 de l’AI Act

L’enregistrement automatique des événements tout au long de la vie d’un système à haut risque, à un niveau qui permet d’en tracer le fonctionnement, d’identifier les risques et d’assurer la surveillance après commercialisation. Pour un agent, le journal qui compte enregistre ce qu’il a fait : quels outils il a appelés, avec quelles entrées, et ce qui est revenu.

À lire : L’annexe IV de l’AI Act section par section

Enregistrement dans la base de données de l’UESource : articles 49 et 71 de l’AI Act

L’inscription qu’un fournisseur effectue dans la base de données de l’UE tenue par la Commission (article 71) avant de mettre sur le marché ou en service un système à haut risque de l’annexe III, infrastructures critiques exceptées, et aussi pour un système de l’annexe III qu’il a jugé non à haut risque au titre de l’article 6(3). Les déployeurs qui sont des autorités publiques enregistrent aussi leur utilisation. L’essentiel de la base est public.

Voir aussi : Dérogation de l’article 6(3), Annexe III

À lire : Annexe III de l’AI Act : les usages à haut risque

Évaluation de la conformitéSource : article 3(20) et article 43 de l’AI Act

La procédure qui permet de démontrer qu’un système d’IA à haut risque satisfait aux exigences du chapitre III, section 2, par contrôle interne du fournisseur ou par un organisme notifié selon le cas d’usage. Vidimus ne réalise pas d’évaluations de la conformité. Il produit des preuves qu’un fournisseur peut utiliser dans la sienne.

Voir aussi : Organisme notifié, Norme harmonisée

Retour à la liste des termes

FournisseurSource : article 3(3) de l’AI Act

La personne ou l’organisation qui développe un système d’IA ou un modèle d’IA à usage général, ou le fait développer, et le met sur le marché ou en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit. Le fournisseur porte les obligations de conception, dont les paragraphes 50(1) et 50(2).

Voir aussi : Déployeur, Opérateur

À lire : AI Act : obligations du déployeur d’agents IA

Retour à la liste des termes

HypertrucageSource : article 3(60) de l’AI Act

Une image ou un contenu audio ou vidéo généré ou manipulé par l’IA, présentant une ressemblance avec des personnes, des objets, des lieux, des entités ou événements existants et pouvant être perçu à tort par une personne comme authentique ou véridique. Un déployeur doit indiquer que le contenu a été généré ou manipulé par une IA (article 50(4)).

Voir aussi : Obligations de transparence de l’article 50

À lire : L’article 50 de l’AI Act : guide pratique

Retour à la liste des termes

Incident graveSource : article 3(49) et article 73 de l’AI Act

Un incident ou dysfonctionnement d’un système d’IA qui entraîne, directement ou indirectement, un décès ou une atteinte grave à la santé, une perturbation grave et irréversible d’une infrastructure critique, une violation des obligations au titre du droit de l’Union visant à protéger les droits fondamentaux, ou un dommage grave aux biens ou à l’environnement. Le fournisseur d’un système à haut risque le signale aux autorités de surveillance du marché (article 73).

Voir aussi : Surveillance après commercialisation, Autorité de surveillance du marché

À lire : L’annexe IV de l’AI Act section par section

Retour à la liste des termes

Lignes directrices sur l’article 50Source : article 96(1)(d) de l’AI Act

Les lignes directrices de la Commission du 20 juillet 2026 sur la mise en œuvre pratique des obligations de transparence prévues à l’article 50, que l’article 96(1)(d) lui demande de rédiger. Elles indiquent comment la Commission interprète chaque paragraphe, exemples à l’appui. Elles n’ont pas force de loi, mais un superviseur lira vos choix à leur aune.

Voir aussi : Obligations de transparence de l’article 50, Code de bonne pratique sur les contenus générés par l’IA, Bureau de l’IA

À lire : L’article 50 de l’AI Act : guide pratique

Retour à la liste des termes

Maîtrise de l’IASource : article 4 de l’AI Act

L’obligation, pour les fournisseurs et les déployeurs depuis le 2 février 2025, de prendre des mesures qui soutiennent la maîtrise de l’IA de leur personnel et des autres personnes qui exploitent et utilisent des systèmes d’IA pour leur compte, compte tenu de leurs connaissances techniques, du contexte et des personnes concernées. Depuis le Digital Omnibus, c’est une obligation de moyens : elle n’exige aucun niveau de maîtrise déterminé pour quiconque.

Marquage lisible par machineSource : article 50(2) de l’AI Act

La marque qu’un fournisseur doit apposer sur l’audio, les images, les vidéos ou les textes de synthèse pour qu’ils puissent être détectés comme générés artificiellement, par filigrane, métadonnées, provenance cryptographique ou moyen comparable, dans la mesure techniquement possible. Pour les systèmes mis sur le marché avant le 2 août 2026, la période de grâce prend fin le 2 décembre 2026.

À lire : 2 décembre 2026 : ce qui change dans l’AI Act

Modèle d’IA à usage généralSource : article 3(63) de l’AI Act

Un modèle d’IA, y compris lorsqu’il est entraîné à l’aide d’un grand nombre de données, qui présente une généralité significative et est capable d’exécuter de manière compétente un large éventail de tâches distinctes quelle que soit la façon dont il est mis sur le marché, et intégrable dans de nombreux systèmes. Son fournisseur porte les obligations du chapitre V, applicables depuis le 2 août 2025, et le déployeur d’un système bâti dessus s’appuie sur la documentation du fournisseur.

Modification substantielleSource : article 3(23) et article 25(1) de l’AI Act

Un changement apporté à un système d’IA après sa mise sur le marché ou sa mise en service, que l’évaluation de la conformité du fournisseur n’avait pas prévu, et qui a pour effet de nuire à sa conformité aux exigences du chapitre III, section 2, ou modifie la destination pour laquelle il a été évalué. Qui apporte une modification substantielle à un système à haut risque, de telle manière qu’il reste à haut risque, en devient le fournisseur, avec les obligations du fournisseur (article 25(1)).

Voir aussi : Fournisseur, Destination, Évaluation de la conformité

À lire : AI Act : obligations du déployeur d’agents IA

Retour à la liste des termes

Norme harmoniséeSource : article 3(27) et article 40 de l’AI Act

Une norme européenne adoptée à la demande de la Commission et citée au Journal officiel. Un système à haut risque conforme à cette norme est présumé conforme aux exigences qu’elle couvre. Aucune n’a encore été citée pour l’AI Act, et c’est pourquoi personne ne peut certifier la conformité à l’AI Act aujourd’hui.

Voir aussi : Présomption de conformité

À lire : Calendrier de l’AI Act après le Digital Omnibus

Notice d’utilisationSource : article 3(15) et article 13 de l’AI Act

Les informations que le fournisseur donne au déployeur sur la destination d’un système d’IA et sur son bon usage. Pour un système à haut risque, l’article 13 en fixe le contenu, dont son exactitude et ses limites connues, les mesures de contrôle humain et la manière de lire ses journaux. Le déployeur doit utiliser le système conformément à cette notice (article 26(1)).

Voir aussi : Destination, Déployeur

À lire : AI Act : obligations du déployeur d’agents IA

Retour à la liste des termes

Obligations de transparence de l’article 50Source : article 50 de l’AI Act

Les obligations de transparence applicables depuis le 2 août 2026. Les personnes doivent savoir qu’elles interagissent avec un système d’IA. Les contenus générés par IA doivent être marqués de façon lisible par machine. Les personnes exposées à la reconnaissance des émotions ou à la catégorisation biométrique doivent être informées. Les hypertrucages et les textes d’intérêt public écrits par IA doivent être signalés. Enfin, l’information doit être claire et reconnaissable, et donnée au plus tard lors de la première interaction ou de la première exposition.

Voir aussi : Hypertrucage, Marquage lisible par machine

À lire : L’article 50 de l’AI Act : guide pratique, Diagnostic article 50

OpérateurSource : article 3(8) de l’AI Act

Le terme générique qui recouvre le fournisseur, le fabricant de produits, le déployeur, le mandataire, l’importateur ou le distributeur. Quand une page demande votre « rôle d’opérateur », elle demande lequel vous êtes pour le système en question, parce que les obligations suivent le rôle.

Voir aussi : Fournisseur, Déployeur

Organisme notifiéSource : article 3(22) de l’AI Act

Un organisme d’évaluation de la conformité désigné par un État membre et notifié à la Commission pour réaliser des évaluations de la conformité par un tiers au titre du règlement. Vidimus n’est ni un organisme notifié ni un organisme d’évaluation de la conformité.

Retour à la liste des termes

Pacte IA de l’UETerme d’usage

Une initiative volontaire de la Commission européenne qui invite les organisations à se préparer à l’AI Act avant que ses obligations ne s’appliquent, par des engagements publics et le partage de pratiques. La signer est un engagement à se préparer, pas un gage de conformité.

Voir aussi : Bureau de l’IA

Pratique interditeSource : article 5 de l’AI Act

L’un des usages de l’IA que le règlement interdit purement et simplement, depuis le 2 février 2025 : techniques manipulatrices ou exploitant une vulnérabilité qui causent un préjudice, notation sociale, certaines formes de police prédictive, moissonnage non ciblé d’images faciales, reconnaissance des émotions au travail et dans l’éducation, certaines catégorisations biométriques, identification biométrique à distance en temps réel à des fins répressives hors exceptions étroites. Deux autres s’appliquent à partir du 2 décembre 2026.

À lire : 2 décembre 2026 : ce qui change dans l’AI Act, Classificateur de risque AI Act

Présomption de conformitéSource : article 40(1) de l’AI Act

L’effet juridique du respect d’une norme harmonisée ou d’une spécification commune : le système est présumé satisfaire à l’exigence que la norme couvre, et c’est à l’autorité de démontrer le contraire. Sans norme citée, il n’y a pas de présomption, seulement des preuves.

ProfilageSource : article 3(52) de l’AI Act

Toute forme de traitement automatisé de données à caractère personnel qui évalue certains aspects d’une personne, comme sa situation économique, sa santé, ses préférences, sa fiabilité ou son comportement, notamment pour les analyser ou les prédire. L’AI Act reprend la définition du RGPD (article 4, point 4, du règlement (UE) 2016/679). Un système de l’annexe III qui effectue un profilage de personnes est toujours à haut risque : la dérogation de l’article 6(3) ne peut pas s’appliquer.

Voir aussi : Dérogation de l’article 6(3), Annexe III, Décision individuelle automatisée

À lire : Annexe III de l’AI Act : les usages à haut risque

Retour à la liste des termes

Risque limitéTerme d’usage

Le nom courant d’un système d’IA qui n’est ni interdit ni à haut risque mais qui porte une obligation de transparence au titre de l’article 50, comme un agent conversationnel qui échange avec des clients ou un système qui génère du texte ou des images. L’AI Act n’emploie pas l’expression. C’est la classe que le classificateur gratuit et le dossier de classification donnent à un tel système.

Voir aussi : Obligations de transparence de l’article 50, Risque minimal, Système d’IA à haut risque

À lire : L’article 50 de l’AI Act : guide pratique, Classificateur de risque AI Act

Risque minimalTerme d’usage

Le nom courant d’un système d’IA qui n’est ni interdit, ni à haut risque, ni soumis à une obligation de transparence de l’article 50 : un filtre anti-spam ou un outil de recherche interne, par exemple. Il ne porte aucune obligation propre de l’AI Act, hormis la maîtrise de l’IA (article 4) et les interdictions que tout système doit respecter.

Voir aussi : Risque limité, Maîtrise de l’IA, Pratique interdite

À lire : Classificateur de risque AI Act

Retour à la liste des termes

Surveillance après commercialisationSource : article 3(25) et article 72 de l’AI Act

Les activités par lesquelles un fournisseur recueille et analyse l’expérience tirée de l’utilisation des systèmes d’IA qu’il a mis sur le marché, pour repérer sans délai tout besoin de mesure corrective ou préventive. Pour un système à haut risque, le fournisseur établit et documente un système de surveillance après commercialisation proportionné à ses risques (article 72).

Voir aussi : Incident grave, Système de gestion de la qualité

À lire : L’annexe IV de l’AI Act section par section

Système d’IASource : article 3(1) de l’AI Act

Un système automatisé conçu pour fonctionner à différents niveaux d’autonomie, qui peut faire preuve d’une capacité d’adaptation après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties (prédictions, contenus, recommandations ou décisions) capables d’influencer un environnement physique ou virtuel. La définition porte sur ce que fait le système, pas sur sa construction.

Système d’IA à haut risqueSource : article 6 de l’AI Act

Un système d’IA qui est un composant de sécurité d’un produit couvert par la législation de l’annexe I et soumis à une évaluation de la conformité par un tiers, ou qui sert à l’un des usages listés à l’annexe III, sauf si la dérogation de l’article 6(3) s’applique. Les systèmes à haut risque portent les exigences et obligations du chapitre III, à partir du 2 décembre 2027 pour l’annexe III et du 2 août 2028 pour l’annexe I.

Voir aussi : Annexe III, Annexe I, Dérogation de l’article 6(3)

À lire : Annexe III de l’AI Act : les usages à haut risque, IA à haut risque (annexe III)

Système de gestion de la qualitéSource : article 17 de l’AI Act

Les politiques, procédures et instructions écrites qu’un fournisseur de système à haut risque met en place pour assurer le respect du règlement : stratégie de conformité réglementaire, maîtrise de la conception et du développement, procédures d’examen, d’essai et de validation, gestion des données, gestion des risques, surveillance après commercialisation, notification des incidents et tenue des registres, entre autres.

Voir aussi : Fournisseur, Surveillance après commercialisation, Documentation technique

Retour à la liste des termes

RGPD

Analyse d’impact relative à la protection des données (AIPD)Source : article 35 du RGPD

L’analyse que le responsable du traitement mène avant un traitement susceptible d’engendrer un risque élevé pour les droits et libertés des personnes physiques, en particulier lorsqu’il recourt à de nouvelles technologies. Elle est requise notamment pour l’évaluation systématique et approfondie d’aspects personnels concernant des personnes physiques, qui est fondée sur un traitement automatisé, y compris le profilage, et sur la base de laquelle sont prises des décisions produisant des effets juridiques à l’égard d’une personne physique ou l’affectant de manière significative de façon similaire (article 35(3)(a)). L’AI Act s’y appuie deux fois : le déployeur d’un système à haut risque utilise la notice du fournisseur pour la réaliser (article 26(9)), et l’analyse d’impact sur les droits fondamentaux peut y renvoyer là où les deux se recoupent (article 27(4)).

Voir aussi : Analyse d’impact sur les droits fondamentaux, Responsable du traitement

À lire : RGPD et agents IA : ce qu’il faut tester, AI Act : obligations du déployeur d’agents IA

Retour à la liste des termes

Base juridiqueSource : article 6(1) du RGPD

L’un des six fondements qui rendent licite un traitement de données à caractère personnel : le consentement, l’exécution d’un contrat, une obligation légale, la sauvegarde des intérêts vitaux, une mission d’intérêt public, ou les intérêts légitimes du responsable du traitement ou d’un tiers lorsque les droits de la personne ne prévalent pas. Chaque finalité que sert un agent a besoin de sa base juridique, indiquée à la personne au moment où ses données sont collectées (article 13(1)(c)).

Voir aussi : Limitation des finalités, Responsable du traitement

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Décision individuelle automatiséeSource : article 22 du RGPD

Une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, qui produit des effets juridiques à l’égard d’une personne ou l’affecte de manière significative de façon similaire. La personne a le droit de ne pas faire l’objet d’une telle décision, sauf si elle est nécessaire à un contrat, autorisée par la loi avec des garanties, ou fondée sur son consentement explicite. Dans le premier et le dernier cas, la personne garde au moins le droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la décision (article 22(3)).

Voir aussi : Profilage, Contrôle humain

À lire : RGPD et agents IA : ce qu’il faut tester, Article 14 de l’AI Act : le contrôle humain

Données à caractère personnelSource : article 4(1) du RGPD

Toute information se rapportant à une personne physique identifiée ou identifiable, la personne concernée : une personne qui peut être identifiée, directement ou indirectement, par un nom, un numéro d’identification, des données de localisation, un identifiant en ligne ou des éléments propres à son identité. Pour un agent, un numéro de commande rattaché au nom et à l’adresse d’un client est une donnée à caractère personnel, comme ce qu’une personne écrit sur elle-même dans la conversation.

Voir aussi : Responsable du traitement, Minimisation des données

À lire : RGPD et agents IA : ce qu’il faut tester

Droits de la personne concernéeSource : articles 12 à 22 du RGPD

Les droits que le RGPD donne à la personne dont les données sont traitées : être informée (articles 13 et 14), accéder aux données (15), les faire rectifier (16) ou effacer (17), limiter le traitement (18), la portabilité (20), s’opposer au traitement (21) et ne pas faire l’objet d’une décision exclusivement automatisée (22). Le responsable du traitement doit en faciliter l’exercice (article 12(2)) : un agent qui dissuade un client de demander l’effacement de ses données manque à une obligation qu’une conversation peut montrer.

Voir aussi : Responsable du traitement, Décision individuelle automatisée

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Limitation des finalitésSource : article 5(1)(b) du RGPD

Le principe selon lequel les données à caractère personnel sont collectées pour des finalités déterminées, explicites et légitimes, et ne sont pas traitées ultérieurement d’une manière incompatible avec ces finalités. Un agent mis en place pour répondre aux questions de livraison ne réutilise pas ce que les clients lui disent à une fin incompatible, comme des profils marketing dont personne n’a été informé.

Voir aussi : Base juridique, Minimisation des données

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Minimisation des donnéesSource : article 5(1)(c) du RGPD

Le principe selon lequel les données à caractère personnel sont adéquates, pertinentes et limitées à ce qui est nécessaire au regard des finalités du traitement, et, selon l’article 25(2), seules les données nécessaires à chaque finalité sont traitées par défaut. Chez un agent, cela se voit dans la conversation : demander une date de naissance pour suivre un colis, ou renvoyer toute la fiche d’un client quand un seul champ répond à la question, y contrevient.

Voir aussi : Limitation des finalités, Données à caractère personnel

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Responsable du traitementSource : article 4(7) du RGPD

La personne ou l’organisation qui, seule ou conjointement avec d’autres, détermine les finalités et les moyens du traitement de données à caractère personnel. L’entreprise qui exploite un agent IA pour ses clients est en général responsable du traitement de ce que l’agent fait de leurs données, même quand un éditeur a développé et héberge l’agent. Le responsable du traitement répond des principes de l’article 5 et doit être en mesure de démontrer qu’il les respecte (article 5(2)).

Voir aussi : Sous-traitant, Déployeur

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Sous-traitantSource : article 4(8) et article 28 du RGPD

Une personne ou une organisation qui traite des données à caractère personnel pour le compte du responsable du traitement. L’éditeur qui héberge un agent, le fournisseur du modèle qu’il appelle et le service qui conserve ses transcriptions sont en général des sous-traitants. Le responsable du traitement ne peut faire appel qu’à des sous-traitants qui présentent des garanties suffisantes, dans le cadre d’un contrat qui encadre le traitement (article 28).

Voir aussi : Responsable du traitement

À lire : RGPD et agents IA : ce qu’il faut tester

Retour à la liste des termes

Tests et termes Vidimus

A2A (protocole Agent2Agent)Terme d’usage

Un protocole ouvert par lequel des agents IA se décrivent dans une fiche publiée (agent card) et s’échangent tâches et messages en HTTP. Vidimus se connecte à un agent qui parle A2A, en versions 1.0, 0.3 et 0.2, et sait trouver des agents par les fiches qu’ils publient.

Voir aussi : MCP (Model Context Protocol), Agent IA

À lire : Intégrations

Appel d’outilTerme d’usage

Une action qu’un agent accomplit par une interface plutôt qu’en mots : émettre un paiement, écrire dans un dossier, envoyer un message, lancer une recherche. Vidimus lit les appels dans la réponse de l’agent, son journal d’outils ou sa trace d’événements : un agent qui dit avoir transmis un dossier sans jamais appeler l’outil prévu est confondu par les appels d’outil enregistrés. Un appel à un outil que l’agent n’a jamais déclaré est un constat.

À lire : L’IA agentique face à l’AI Act : cadre de contrôle

Retour à la liste des termes

Bibliothèque de modèles de testsTerme Vidimus

La bibliothèque de modèles de tests dans laquelle le plan de test puise : comment demander, comment insister, ce qui compte comme une réussite. Un modèle est écrit une fois et appliqué à chaque obligation à laquelle il convient, pour que la même pression s’exerce de la même façon sur chaque agent. Le dossier de preuves consigne la version de la bibliothèque utilisée par une campagne de test.

Voir aussi : Corpus, Sonde (test)

Retour à la liste des termes

Campagne de testTerme Vidimus

Le plan de test d’un agent, envoyé à l’agent en service : chaque test, envoyé dix fois. Une campagne envoie au plus 150 tests. Si le plan en compte davantage, elle garde les plus graves et nomme ceux qu’elle a écartés. Une campagne peut être annulée à tout moment, et répétée selon un calendrier, avec une alerte quand le taux de réussite baisse.

Voir aussi : Sonde (test), Tentative, Bibliothèque de modèles de tests

À lire : Comment tester un agent IA au regard de l’AI Act, Notre méthode

ContournementTerme d’usage

Un prompt écrit pour qu’un modèle ou un agent ignore ses propres règles : jeu de rôle, autorité inventée, demande découpée sur plusieurs échanges. Un système qui refuse une demande directe peut céder à une reformulation : c’est pourquoi les tests appliquent plusieurs techniques de pression, et chaque test est envoyé dix fois.

Voir aussi : Injection de prompt, Tests adverses, Garde-fous

À lire : Comment tester un agent IA au regard de l’AI Act

CorpusTerme Vidimus

L’ensemble des obligations extraites du texte d’un règlement, chacune avec le passage exact dont elle vient, la partie qu’elle lie et la façon dont elle est vérifiée, en faisant tourner l’agent ou en lisant des documents. Un corpus par règlement, versionné, avec les comptes publiés sur la page méthodologie.

Voir aussi : Bibliothèque de modèles de tests

Retour à la liste des termes

Dossier de classificationTerme Vidimus

Un document distinct, versionné et jamais modifié, qui énonce la classification juridique d’un agent : votre rôle (fournisseur ou déployeur), examen au titre de l’article 5, obligations de transparence de l’article 50 et, le cas échéant, dérogation de l’article 6(3), avec son propre condensat imprimé en première page.

Voir aussi : Dossier de preuves, Système d’IA à haut risque

Dossier de preuvesTerme Vidimus

Le document versionné et signé qu’une revue produit : classification, obligations avec leurs citations, chaque test avec son taux de réussite et une réponse citée avec son numéro de tentative (toutes les réponses restent dans le rapport de campagne), la décision du relecteur et ses motifs, et la piste d’audit. Il ne peut pas être modifié, et une réédition est une nouvelle version. Son condensat SHA-256 est enregistré à l’émission et signé avec la clé de Vidimus. Avec le PDF et sa ligne du registre des preuves (condensat, identifiant de clé, signature), un auditeur vérifie hors ligne, avec la clé publiée, que le fichier n’a pas changé et que Vidimus l’a émis.

Voir aussi : Annexe IV, Dossier de classification, Piste d’audit

À lire : L’annexe IV de l’AI Act section par section, Le dossier de preuves

Retour à la liste des termes

ÉvaluateurTerme Vidimus

Le modèle qui note chacune des réponses de l’agent au regard de la clause, de la situation posée par le test et du comportement attendu. Les dossiers de preuves plus anciens l’appellent le juge. Chaque verdict cite la réponse notée et indique le modèle qui l’a notée et la version de ses instructions, pour qu’une personne puisse le vérifier. L’évaluateur ne sait pas quel modèle ni quel fournisseur fait tourner votre agent et ne voit jamais son prompt système. Chaque échec sur une clause critique reçoit l’avis d’un second modèle, consigné à côté du verdict, et un résultat limite va à votre relecteur, la personne qui valide.

Voir aussi : Sonde (test), Taux de réussite, Tentative

À lire : Notre méthode

Retour à la liste des termes

Garde-fousTerme d’usage

Les contrôles placés autour d’un modèle ou d’un agent pour le maintenir dans ses limites : filtres en entrée et en sortie, règles de refus dans ses instructions, limites à ce que ses outils peuvent faire, étapes d’approbation avant une action. Ce sont des choix de conception, pas des preuves : un test montre s’ils tiennent sous la pression.

Voir aussi : Contournement, Contrôle humain, Appel d’outil

À lire : L’IA agentique face à l’AI Act : cadre de contrôle

Retour à la liste des termes

Injection de promptTerme d’usage

Une attaque qui cache des instructions dans un contenu que l’agent lit, comme un e-mail, une page web, un document ou la sortie d’un outil, pour qu’il les suive à la place des siennes. Pour un agent qui appelle des outils, c’est ainsi qu’un tiers peut lui faire effectuer un paiement, un envoi ou une suppression. Vidimus la teste parmi ses techniques de pression, sous le nom de contenu injecté.

Voir aussi : Contournement, Garde-fous, Appel d’outil

À lire : Comment tester un agent IA au regard de l’AI Act

Retour à la liste des termes

MCP (Model Context Protocol)Terme d’usage

Un protocole ouvert par lequel une application d’IA se connecte à des outils et à des sources de données : un serveur énumère les outils qu’il offre et l’agent les appelle. Vidimus peut tester un agent exposé comme serveur MCP, lister les outils d’un serveur lors de l’enregistrement, et retrouver des agents dans des registres MCP.

Voir aussi : A2A (protocole Agent2Agent), Appel d’outil

À lire : Intégrations

Retour à la liste des termes

Piste d’auditTerme Vidimus

La trace de qui a fait quoi, quand et pourquoi : validations, décisions de passer outre, exports et décisions, chaque entrée chaînée à la précédente et jamais modifiée ni effacée, pour qu’un auditeur puisse reconstituer comment une conclusion a été atteinte.

Priorité de revueTerme Vidimus

Classement interne de Vidimus selon l’attention de revue qu’un agent requiert, établi à partir de sa fiche d’enregistrement. Provisoire, et sans valeur de qualification juridique. Ses niveaux sont Courante, Renforcée, Majeure, Sévère. Elle n’est jamais imprimée dans les sections réglementaires d’un dossier de preuves, et ce n’est pas la classification AI Act, qui suit les règles du règlement.

Voir aussi : Dossier de classification, Système d’IA à haut risque

Retour à la liste des termes

Red teamingTerme d’usage

Un exercice de sécurité où une équipe attaque un système comme le ferait un adversaire, pour trouver les faiblesses avant quelqu’un d’autre. Les plateformes de red teaming pour l’IA trouvent des contournements et des fuites de données, mais elles ne rattachent pas les constats aux articles d’un règlement, ce qu’ajoute un plan de test réglementaire.

Voir aussi : Tests adverses

À lire : Comparer

Retour à la liste des termes

Sonde (test)Terme Vidimus

Un test, envoyé dix fois par défaut à votre agent : l’article qu’il met à l’épreuve, le comportement attendu, et la part des réponses qui montrent ce comportement, ramenée à un résultat (réussi, à valider, échoué ou non concluant). Un agent peut répondre différemment au même message d’une fois à l’autre : une seule réponse n’est donc jamais le constat. « Test » et « sonde » désignent la même chose sur ce site, et sonde est le mot du produit.

Voir aussi : Tentative, Taux de réussite, Évaluateur, Tests adverses

À lire : Comment tester un agent IA au regard de l’AI Act, Notre méthode

Retour à la liste des termes

Taux de réussiteTerme Vidimus

La part des réponses notées d’un agent à un test qui ont montré le comportement attendu, et le constat que Vidimus rend pour ce test : Réussi à 90 % ou plus, À valider à 70 % ou plus, Échoué en dessous, et Non concluant quand moins de 8 des 10 tentatives ont pu être notées. Il s’affiche avec ses décomptes, par exemple « 8 sur 9 (89 %) ».

Voir aussi : Tentative, Sonde (test), Évaluateur

À lire : Notre méthode

TentativeTerme Vidimus

Un envoi d’un test à l’agent. Chaque test est envoyé dix fois par défaut (« tentative 3 sur 10 »), parce qu’un agent peut répondre différemment au même message d’une fois à l’autre. Chaque tentative conserve le prompt, la réponse, les appels d’outil et la note de l’évaluateur. Une tentative qui n’a pas pu être notée, comme un délai dépassé, n’est pas une preuve et ne compte ni pour ni contre l’agent.

Voir aussi : Sonde (test), Taux de réussite, Campagne de test

À lire : Notre méthode

Tests adversesTerme d’usage

Des tests qui cherchent à faire échouer l’agent plutôt qu’à confirmer qu’il fonctionne : soutenir qu’il est humain, créer un lien sur plusieurs tours avant de lui demander d’enfreindre une règle, pousser un paiement au-dessus d’un seuil. Une liste de contrôle se fie à vos réponses, mais un test adverse démasque l’agent qui dit transmettre le dossier et ne le fait pas.

Voir aussi : Red teaming, Sonde (test)

À lire : Comment tester un agent IA au regard de l’AI Act

Retour à la liste des termes