Glossaire

L’AI Act et la vérification des agents IA : les termes, définis

Quarante-trois termes qu’un responsable risques, conformité ou sécurité rencontre dans l’AI Act, le règlement européen sur l’intelligence artificielle, dans DORA et dans un dossier de preuves d’agent IA, chacun défini en un paragraphe d’après le texte du règlement ou au sens que Vidimus lui donne.

Agent IA: Un système d’IA qui agit, et pas seulement qui répond : il poursuit un objectif sur plusieurs étapes, appelle des outils et des services (recherche, paiements, dossiers, messagerie) et décide de la suite d’après ce qu’il observe. L’AI Act n’emploie pas le mot ; un agent est un système d’IA, classé selon son usage comme les autres, et ses appels d’outils sont là où réside le risque.
Analyse d’impact sur les droits fondamentauxEU AI Act, Article 27: L’analyse que certains déployeurs de systèmes à haut risque doivent réaliser avant la première utilisation : organismes de droit public, entités privées fournissant des services publics, et déployeurs de systèmes de solvabilité, de score de crédit et de tarification en assurance vie ou santé. Elle décrit le processus, la période et la fréquence d’utilisation, les personnes concernées, les risques de préjudice et les mesures de contrôle et d’atténuation.
Annexe I: La liste de la législation d’harmonisation de l’Union sur les produits (machines, dispositifs médicaux, véhicules, ascenseurs et le reste) dont les produits deviennent des systèmes d’IA à haut risque quand l’IA en est le composant de sécurité. Leurs obligations au titre de l’AI Act s’appliquent à partir du 2 août 2028 et suivent l’évaluation de la conformité du produit lui-même.
Annexe III: La liste des cas d’usage à haut risque : biométrie, infrastructures critiques, éducation et formation professionnelle, emploi, accès aux services privés et publics essentiels (dont la solvabilité et la tarification en assurance vie ou santé), répression pénale, migration et contrôle aux frontières, administration de la justice et processus démocratiques.
Annexe IV: La documentation technique qu’un fournisseur de système à haut risque doit établir au titre de l’article 11 : description du système, de son développement et de sa conception, de sa surveillance et de son contrôle, de ses performances, de son système de gestion des risques, des modifications au cours de sa vie, des normes appliquées et de la déclaration de conformité. Un dossier de preuves en épouse la forme.
Appel d’outil: Une action qu’un agent accomplit par une interface plutôt qu’en mots : émettre un paiement, écrire dans un dossier, envoyer un message, lancer une recherche. Un test observe les appels tels qu’ils passent, si bien qu’un agent qui dit avoir escaladé sans jamais appeler l’outil d’escalade est confondu par la transcription.
Autorité de surveillance du marchéEU AI Act, Article 70: L’autorité nationale que chaque État membre désigne pour faire appliquer le règlement : elle peut demander la documentation et les preuves, ordonner des mesures correctives et infliger des sanctions. Pour l’IA dans les services financiers, le superviseur financier peut être cette autorité.
Bac à sable réglementaireEU AI Act, Article 57: Un cadre contrôlé mis en place par une autorité nationale pour que des fournisseurs développent, entraînent, valident et testent un système d’IA sous supervision avant sa mise sur le marché. Chaque État membre doit en avoir au moins un opérationnel au 2 août 2027.
Banque de patrons: La bibliothèque de modèles de tests dans laquelle le plan de test puise : comment demander, comment insister, ce qui compte comme une réussite. Un patron est écrit une fois et décliné pour chaque obligation à laquelle il s’applique, pour que la même pression s’exerce de la même façon sur chaque agent.
Bureau de l’IAEU AI Act, Article 64: La fonction de la Commission pour la mise en œuvre du règlement au niveau de l’Union : elle supervise les modèles d’IA à usage général, coordonne les autorités nationales et publie lignes directrices et codes de bonnes pratiques, comme les lignes directrices sur l’article 50 du 20 juillet 2026 et le code de bonnes pratiques sur les contenus générés par l’IA du 10 juin 2026.
Contrôle humainEU AI Act, Article 14: L’exigence qu’un système à haut risque soit conçu pour que des personnes physiques puissent le contrôler pendant son utilisation : comprendre ses capacités et ses limites, repérer et traiter les anomalies, décider de ne pas l’utiliser, intervenir ou l’arrêter. Pour un agent, le test consiste à vérifier que l’escalade qu’il décrit a réellement lieu.
Corpus: L’ensemble des obligations extraites du texte d’un règlement, chacune avec le passage exact dont elle vient, la partie qu’elle lie et la façon dont elle est vérifiée, en faisant tourner l’agent ou en lisant des documents. Un corpus par règlement, versionné, avec les comptes publiés sur la page méthodologie.
DéployeurEU AI Act, Article 3(4): La personne ou l’organisation qui utilise un système d’IA sous sa propre autorité, sauf dans le cadre d’une activité personnelle non professionnelle. Une banque qui place l’agent conversationnel d’un éditeur devant ses clients en est le déployeur ; elle porte les obligations d’usage, dont les paragraphes 50(3) et 50(4) et, à partir de décembre 2027, l’article 26.
Digital OmnibusRegulation (EU) 2026/1744: Le règlement, en vigueur depuis le 27 juillet 2026, qui a modifié l’AI Act : il a reporté les obligations à haut risque des systèmes de l’annexe III au 2 décembre 2027 et celles de l’annexe I au 2 août 2028, accordé aux systèmes existants jusqu’au 2 décembre 2026 pour le marquage lisible par machine, ajouté deux interdictions à l’article 5 et recadré l’article 4. Il a déplacé des dates, pas des attentes.
Documentation techniqueEU AI Act, Article 11: La documentation qu’un fournisseur établit avant de mettre un système à haut risque sur le marché et tient à jour, contenant au moins les éléments de l’annexe IV, pour que les autorités puissent en apprécier la conformité. C’est une documentation sur le système ; la preuve est ce qui montre que la documentation est vraie.
DORARegulation (EU) 2022/2554: Le règlement sur la résilience opérationnelle numérique, applicable depuis le 17 janvier 2025 aux banques, assureurs, entreprises d’investissement et autres entités financières qu’il liste : gestion du risque TIC, notification des incidents, tests de résilience, risque lié aux tiers et partage d’informations. Un agent IA dans une fonction critique ou importante relève déjà du risque TIC à ce titre.
Dossier de preuves: Le document versionné et signé qu’une revue produit : classification, obligations avec leurs citations, chaque test avec sa réponse et sa note, la décision du relecteur et ses motifs, et la piste d’audit. Il ne peut pas être modifié ; une réédition est une nouvelle version, et quiconque le détient peut en vérifier le condensat et la signature.
Enregistrement (journalisation)EU AI Act, Article 12: L’enregistrement automatique des événements tout au long de la vie d’un système à haut risque, à un niveau qui permet d’en tracer le fonctionnement, d’identifier les risques et d’assurer la surveillance après commercialisation. Pour un agent, le journal qui compte enregistre ce qu’il a fait : quels outils il a appelés, avec quelles entrées, et ce qui est revenu.
Évaluation de la conformitéEU AI Act, Article 3(20) and Article 43: Le processus qui démontre qu’un système d’IA à haut risque satisfait aux exigences du chapitre III, par contrôle interne du fournisseur ou par un organisme notifié selon le cas d’usage. Vidimus ne réalise pas d’évaluations de la conformité ; il produit les preuves qu’un fournisseur ou un déployeur utilise dans la sienne.
Fiche de classification: Un document immuable distinct qui énonce la classification juridique d’un agent : rôle d’opérateur, examen au titre de l’article 5, obligations de transparence de l’article 50 et, le cas échéant, dérogation de l’article 6(3), avec son propre condensat en première page.
Fonction critique ou importanteDORA, Article 3(22): Une fonction dont la perturbation nuirait sensiblement aux résultats financiers d’une entité, à la solidité ou à la continuité de ses services, ou au respect des conditions de son agrément. Le traitement des sinistres, l’entrée en relation KYC, la souscription et les paiements sont typiquement concernés ; c’est l’entité qui fait et documente la qualification.
FournisseurEU AI Act, Article 3(3): La personne ou l’organisation qui développe un système d’IA ou un modèle d’IA à usage général, ou le fait développer, et le met sur le marché ou en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit. Le fournisseur porte les obligations de conception, dont les paragraphes 50(1) et 50(2).
HypertrucageEU AI Act, Article 3(60): Un contenu image, audio ou vidéo généré ou manipulé par IA qui ressemble à des personnes, objets, lieux, entités ou événements existants et paraîtrait à tort authentique ou véridique à une personne. Un déployeur doit signaler que le contenu a été généré ou manipulé artificiellement (article 50(4)).
Incident lié aux TICDORA, Article 3(8): Un événement unique ou une série d’événements liés, non planifiés par l’entité financière, qui compromet la sécurité de ses réseaux et systèmes d’information et nuit à la disponibilité, à l’authenticité, à l’intégrité ou à la confidentialité des données ou des services qu’elle fournit. Un agent qui émet un paiement erroné en est un.
Maîtrise de l’IAEU AI Act, Article 4: L’obligation, pour les fournisseurs et les déployeurs depuis le 2 février 2025, de prendre des mesures pour que les personnes qui exploitent et utilisent des systèmes d’IA pour leur compte en aient une compréhension suffisante, compte tenu de leurs connaissances techniques, du contexte et des personnes concernées. Le Digital Omnibus en a fait une obligation de moyens.
Marquage lisible par machineEU AI Act, Article 50(2): La marque qu’un fournisseur doit apposer sur l’audio, les images, les vidéos ou les textes de synthèse pour qu’ils puissent être détectés comme générés artificiellement, par filigrane, métadonnées, provenance cryptographique ou moyen comparable, dans la mesure techniquement possible. Pour les systèmes mis sur le marché avant le 2 août 2026, la période de grâce prend fin le 2 décembre 2026.
Modèle d’IA à usage généralEU AI Act, Article 3(63): Un modèle d’IA entraîné sur de grandes quantités de données, doté d’une généralité significative, capable d’exécuter un large éventail de tâches quelle que soit la façon dont il est mis sur le marché, et intégrable dans de nombreux systèmes. Son fournisseur porte les obligations du chapitre V, en vigueur depuis le 2 août 2025 ; le déployeur d’un système bâti dessus s’appuie sur la documentation du fournisseur.
Modèle juge (modèle de notation): Le modèle de langage qui note chaque test au regard du comportement attendu. Il voit le test, le comportement attendu, la réponse de l’agent et ses appels d’outils, jamais les instructions de l’agent ni qui l’a construit ; son modèle et la version de son prompt sont consignés sur chaque verdict, et un relecteur humain confirme le résultat.
Norme harmoniséeEU AI Act, Article 40: Une norme européenne adoptée à la demande de la Commission et citée au Journal officiel ; un système à haut risque conforme à cette norme est présumé conforme aux exigences qu’elle couvre. Aucune n’a encore été citée pour l’AI Act, et c’est pourquoi personne ne peut certifier la conformité à l’AI Act aujourd’hui.
Obligations de transparence de l’article 50EU AI Act, Article 50: Les obligations, en vigueur depuis le 2 août 2026, d’informer les personnes qu’elles interagissent avec un système d’IA, de marquer les contenus générés par IA de façon lisible par machine, d’informer les personnes exposées à la reconnaissance des émotions ou à la catégorisation biométrique, de signaler les hypertrucages et les textes d’intérêt public écrits par IA, et de donner cette information clairement, dès la première interaction.
OpérateurEU AI Act, Article 3(8): Le terme générique qui recouvre le fournisseur, le fabricant de produit, le déployeur, le mandataire, l’importateur ou le distributeur. Quand une page demande votre « rôle d’opérateur », elle demande lequel vous êtes pour le système en question, parce que les obligations suivent le rôle.
Organisme notifiéEU AI Act, Article 3(22): Un organisme d’évaluation de la conformité désigné par un État membre et notifié à la Commission pour réaliser des évaluations de la conformité par un tiers au titre du règlement. Vidimus n’en est pas un, et le dit sur chaque page qui pourrait être lue autrement.
Piste d’audit: La trace de qui a fait quoi, quand et pourquoi : validations, dérogations, exports et décisions, chaque entrée chaînée à la précédente et jamais modifiée ni effacée, pour qu’un relecteur puisse reconstituer comment une conclusion a été atteinte.
Pratique interditeEU AI Act, Article 5: L’un des usages de l’IA que le règlement interdit purement et simplement, depuis le 2 février 2025 : techniques manipulatrices ou exploitant une vulnérabilité qui causent un préjudice, notation sociale, certaines formes de police prédictive, moissonnage non ciblé d’images faciales, reconnaissance des émotions au travail et dans l’éducation, certaines catégorisations biométriques, identification biométrique à distance en temps réel à des fins répressives hors exceptions étroites. Deux autres s’appliquent à partir du 2 décembre 2026.
Présomption de conformitéEU AI Act, Article 40(1): L’effet juridique du respect d’une norme harmonisée ou d’une spécification commune : le système est présumé satisfaire à l’exigence que la norme couvre, et c’est à l’autorité de démontrer le contraire. Sans norme citée, il n’y a pas de présomption, seulement des preuves.
Prestataire tiers de services TICDORA, Article 3(19): Une entreprise qui fournit des services TIC à une entité financière. L’éditeur du modèle derrière un agent, son hébergeur et son outil d’observabilité en sont chacun un, et chacun figure au registre d’informations ; Vidimus aussi, quand une entité financière l’utilise.
Red teaming: Un exercice de sécurité où une équipe attaque un système comme le ferait un adversaire, pour trouver les faiblesses avant quelqu’un d’autre. Les plateformes de red teaming pour l’IA trouvent des contournements et des fuites de données ; elles ne rattachent pas les constats aux articles d’un règlement, ce qu’ajoute un plan de test réglementaire.
Registre d’informationsDORA, Article 28(3): Le registre que chaque entité financière tient de ses accords contractuels avec les prestataires tiers de services TIC, en distinguant ceux qui soutiennent des fonctions critiques ou importantes, avec les champs attendus par le superviseur : identité et pays du prestataire, type de service, fonction soutenue, localisation des données, conditions contractuelles et clauses de sortie.
Sonde (test): Un test : un message ou un événement envoyé à votre agent, l’article qu’il exerce, le comportement attendu et la note reçue par la réponse. « Test » et « sonde » désignent la même chose sur ce site ; sonde est le mot du produit.
Système d’IAEU AI Act, Article 3(1): Un système automatisé conçu pour fonctionner avec un certain degré d’autonomie, qui peut s’adapter après son déploiement et qui déduit de ses entrées comment produire des sorties (prédictions, contenus, recommandations ou décisions) capables d’influencer un environnement physique ou virtuel. La définition porte sur ce que fait le système, pas sur sa construction.
Système d’IA à haut risqueEU AI Act, Article 6: Un système d’IA qui est un composant de sécurité d’un produit couvert par la législation de l’annexe I et soumis à une évaluation de la conformité par un tiers, ou qui sert à l’un des usages listés à l’annexe III, sauf si la dérogation de l’article 6(3) s’applique. Les systèmes à haut risque portent les exigences et obligations du chapitre III, à partir du 2 décembre 2027 pour l’annexe III et du 2 août 2028 pour l’annexe I.
Tests adverses: Des tests qui cherchent à faire échouer l’agent plutôt qu’à confirmer qu’il fonctionne : insister qu’il est humain, créer un lien sur plusieurs tours avant de lui demander d’enfreindre une règle, pousser un paiement au-dessus d’un seuil. Une liste de contrôle croit vos réponses ; un test adverse démasque l’agent qui dit escalader et ne le fait pas.
Tests de pénétration fondés sur la menace (TLPT)DORA, Articles 26 and 27: Le test de résilience avancé que certaines entités financières doivent mener au moins tous les trois ans, sur des systèmes de production en service qui soutiennent des fonctions critiques ou importantes, avec des testeurs qualifiés et un périmètre convenu avec le superviseur. Tester le comportement d’un agent face à des requêtes adverses est un exercice différent, et les deux se complètent.