Community post

IA agentique, AML/KYC, surveillance automatisée et responsabilité des dirigeants : pourquoi la véritable révolution technologique ne réside plus dans la détection des risques, mais dans la capacité à démontrer leur maîtrise.

Luxembourg, 13 novembre 2026

L'intelligence artificielle change la nature du risque de conformité

Pendant longtemps, la transformation technologique des fonctions Compliance a poursuivi un objectif relativement simple : automatiser les tâches répétitives, améliorer la détection des anomalies et permettre aux professionnels de concentrer leur expertise sur les situations complexes.

L'intelligence artificielle modifie aujourd'hui beaucoup plus profondément cet équilibre.

Les systèmes les plus avancés ne se limitent plus à rechercher une information, rapprocher des données ou signaler une transaction inhabituelle. Ils peuvent interpréter des structures de détention, synthétiser des informations réputationnelles, proposer des classifications de risques, formuler des recommandations et, dans certaines architectures, déclencher automatiquement des actions opérationnelles.

L'émergence de l'IA agentique, capable d'enchaîner plusieurs tâches et d'interagir avec différents systèmes, accentue cette évolution.

Une question fondamentale se pose désormais aux institutions financières : à partir de quel moment un outil destiné à assister une décision commence-t-il, dans les faits, à se substituer à celui qui devrait en assumer la responsabilité ?

La distinction est déterminante.

Car si la technologie permet de déléguer l'exécution d'une analyse, elle ne transfère pas automatiquement la responsabilité réglementaire qui lui est associée.

C'est probablement l'un des défis majeurs auxquels seront confrontées les fonctions Compliance luxembourgeoises dans les prochaines années : préserver une responsabilité humaine effective dans des processus dont la complexité technologique dépasse parfois la capacité d'explication de leurs utilisateurs.

1. Au Luxembourg, le débat sur l'IA est devenu une question de gouvernance

La question n'est plus théorique.

Dans leur deuxième revue thématique, publiée le 16 mai 2025, la CSSF et la Banque centrale du Luxembourg ont analysé l'utilisation de l'intelligence artificielle au sein du secteur financier luxembourgeois.

L'étude, fondée sur une enquête menée auprès de 461 institutions financières et ayant obtenu un taux de réponse de 86 %, examine notamment les enjeux liés à l'explicabilité, aux biais algorithmiques, à l'auditabilité et à la supervision humaine.

Elle confirme que la question de la confiance dans les systèmes d'IA ne peut être dissociée de leur gouvernance.

Un nouveau signal a été envoyé le 7 juillet 2026.

Dans son communiqué consacré à l'évolution des opportunités et des risques associés à l'IA, la CSSF attire l'attention des établissements supervisés sur l'accélération des cybermenaces rendue possible par les modèles d'intelligence artificielle avancés.

Plus significativement encore, elle exprime son attente de voir l'ensemble des membres des organes de direction établir des structures de gouvernance permettant une gestion efficace des risques liés à ces technologies.

Le communiqué vise principalement la cybersécurité et la résilience face aux menaces amplifiées par l'IA. Il ne constitue pas, à lui seul, un référentiel général de gouvernance des décisions algorithmiques.

Il révèle néanmoins une évolution importante de la supervision : les risques liés à l'IA ne peuvent plus être considérés exclusivement comme des sujets informatiques. Ils nécessitent une attention et une responsabilité au niveau de la direction.

Pour les banques, entreprises d'investissement, AIFM, sociétés de gestion et prestataires de services financiers luxembourgeois, cette évolution appelle une réponse structurée.

L'adoption d'une solution technologique ne saurait se résumer à l'évaluation de ses performances, de son coût ou des gains de productivité annoncés par son fournisseur.

Elle doit également conduire à identifier les décisions influencées par cette solution, leurs conséquences potentielles et les mécanismes permettant d'en assurer la surveillance.

2. Le véritable danger n'est pas seulement l'erreur algorithmique, mais l'illusion de contrôle

Imaginons une situation parfaitement plausible.

Un établissement utilise un outil d'IA pour assister ses analystes dans le traitement des alertes de sanctions et d'informations réputationnelles défavorables.

Le système identifie plusieurs correspondances potentielles, compare les informations disponibles et propose de clôturer certaines alertes comme étant des faux positifs.

Pour l'une d'entre elles, l'IA conclut à l'absence de correspondance pertinente.

Son raisonnement paraît cohérent, sa formulation est convaincante et son niveau de confiance affiché est élevé.

L'analyste valide la recommandation.

Quelques semaines plus tard, un contrôle révèle qu'une information déterminante avait été mal interprétée : une différence de translittération du nom, une structure de détention indirecte ou un élément d'identification insuffisamment corroboré.

Qui est responsable ?

Le fournisseur de la technologie ? L'analyste ayant validé la conclusion ? Le responsable Compliance ? La direction qui a autorisé l'intégration de l'outil ?

La réponse ne peut pas se limiter à désigner le dernier utilisateur ayant cliqué sur « Approve ».

Elle suppose d'examiner l'ensemble de la chaîne décisionnelle : qualité des données utilisées, conception du système, conditions de validation, supervision, formation des utilisateurs et contrôles mis en œuvre.

Ce cas illustre un risque particulièrement préoccupant : l'automation bias, ou biais d'automatisation.

Plus une technologie produit des conclusions rapides, structurées et apparemment pertinentes, plus ses utilisateurs peuvent être tentés de leur accorder une confiance excessive.

Une validation humaine peut alors devenir une simple formalité.

Or, une décision formellement approuvée par une personne n'est pas nécessairement une décision effectivement contrôlée.

La supervision humaine n'a de valeur que si l'utilisateur dispose des informations, des compétences, du temps et de l'autorité nécessaires pour remettre en question la recommandation formulée.

Autrement dit, la présence d'un humain dans le processus ne garantit pas, à elle seule, l'existence d'un jugement humain indépendant.

C'est cette distinction que les responsables Compliance devraient placer au cœur de leurs dispositifs de gouvernance de l'IA.

3. AI Act, DORA, RGPD et AMLR : quatre cadres, une même exigence de maîtrise

L'environnement réglementaire européen renforce progressivement cette nécessité.

L'enjeu consiste toutefois à éviter une lecture simplificatrice consistant à considérer que toutes les utilisations de l'intelligence artificielle seraient soumises aux mêmes obligations.

L'AI Act : classifier correctement les usages, et non les technologies en bloc

Le règlement européen sur l'intelligence artificielle, ou AI Act, repose sur une approche fondée sur les risques.

Certaines obligations sont déjà applicables, notamment celles relatives à la maîtrise des compétences en IA et aux pratiques interdites depuis février 2025, ainsi qu'à certaines exigences de transparence depuis août 2026.

À la suite de l'AI Omnibus, entré en vigueur le 27 juillet 2026, l'application des principales exigences concernant les systèmes à haut risque relevant de l'annexe III est désormais prévue pour le 2 décembre 2027.

Une nuance juridique essentielle mérite d'être soulignée.

Un système utilisé pour le screening AML, la détection de fraude ou l'évaluation du risque d'une relation d'affaires n'est pas automatiquement classé « à haut risque » au sens de l'AI Act.

Cette qualification dépend de sa finalité, de ses caractéristiques et des dispositions réglementaires pertinentes.

À l'inverse, certains systèmes destinés à évaluer la solvabilité de personnes physiques ou à prendre part à des décisions relatives à l'emploi peuvent relever des catégories expressément identifiées par le règlement.

Il convient donc de distinguer le risque opérationnel ou réglementaire associé à un outil de sa classification juridique au titre de l'AI Act.

Une utilisation qui ne relève pas du régime spécifique des systèmes d'IA à haut risque peut néanmoins générer des risques de conformité considérables.

DORA : la dépendance technologique devient un risque de résilience

Applicable depuis le 17 janvier 2025, DORA impose aux entités financières relevant de son champ un cadre harmonisé de gestion des risques liés aux technologies de l'information et de la communication.

Lorsqu'une solution d'IA repose sur des services TIC fournis par un tiers, son utilisation peut soulever des questions relatives à la gestion des prestataires, à la continuité opérationnelle, à la concentration des dépendances et à la sécurité des informations.

La circulaire CSSF 25/882, modifiée notamment par la circulaire 26/915 en août 2026, précise plusieurs exigences luxembourgeoises concernant les services TIC tiers.

Pour une institution financière, le risque ne réside donc pas uniquement dans la qualité de la réponse produite par l'IA.

Il concerne également la disponibilité du service, la maîtrise des accès, la sécurité des données, les dépendances contractuelles et la capacité de poursuivre les opérations en cas de défaillance.

Le RGPD : l'automatisation ne neutralise pas les droits fondamentaux

L'utilisation de données personnelles dans les traitements d'IA demeure soumise aux principes du RGPD : licéité, finalité, minimisation, exactitude, sécurité et responsabilité.

Son article 22 encadre, sous certaines conditions et avec des exceptions, les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou affectant significativement les personnes.

Toutes les décisions assistées par l'IA ne relèvent pas de cet article.

Cependant, lorsqu'un système contribue directement à une décision défavorable importante concernant une personne physique, l'établissement doit examiner attentivement les exigences applicables, notamment en matière de transparence, d'intervention humaine et de contestation.

L'AMLR : une conformité appelée à devenir davantage structurée et vérifiable

Le règlement européen AMLR, dont les principales dispositions seront applicables à partir du 10 juillet 2027, renforcera l'harmonisation des obligations de prévention du blanchiment et du financement du terrorisme.

Parallèlement, l'AMLA a lancé le 7 octobre 2026 une consultation portant sur les normes techniques destinées à établir une base centrale européenne d'informations de supervision AML/CFT.

Cette base vise les échanges d'informations entre autorités de supervision et ne crée pas, en elle-même, une nouvelle obligation directe de reporting pour les entreprises privées.

Elle illustre néanmoins une orientation plus générale : une supervision davantage structurée autour de données exploitables, comparables et fiables.

Dans cet environnement, la performance des dispositifs technologiques ne pourra être dissociée de la capacité des institutions à documenter leurs processus et à justifier les décisions qui en résultent.

4. En matière d'AML/KYC, la véritable révolution sera celle de la traçabilité décisionnelle

La lutte contre le blanchiment constitue un terrain particulièrement révélateur des opportunités et des limites de l'intelligence artificielle.

Les applications potentielles sont considérables : identification des bénéficiaires effectifs, analyse de structures juridiques complexes, rapprochement des informations issues de sources multiples, détection des anomalies transactionnelles, surveillance réputationnelle ou assistance à la rédaction de dossiers de due diligence.

Mais la valeur ajoutée d'une solution ne devrait pas être mesurée exclusivement par le nombre d'alertes traitées ou le temps consacré à chaque dossier.

Un système capable de réduire substantiellement le volume d'alertes sans démontrer qu'il préserve la qualité de détection peut simplement avoir déplacé le risque au lieu de le réduire.

Prenons l'exemple d'une évaluation AML automatisée.

Une intelligence artificielle peut identifier les facteurs géographiques, sectoriels, réputationnels et structurels d'une contrepartie, puis proposer une classification.

Pour que cette classification soit défendable, plusieurs éléments doivent pouvoir être reconstitués :

• Quelles informations ont été utilisées, et à quelle date ?
• Quelles sources étaient fiables, contradictoires ou incomplètes ?
• Quels critères de la méthodologie AML approuvée ont été appliqués ?
• Quels éléments ont déterminé la classification proposée ?
• Une intervention humaine a-t-elle modifié la recommandation et pourquoi ?
• Quels contrôles ont permis de vérifier la cohérence de la décision finale ?

Ces questions traduisent une transformation profonde de l'exercice de conformité.

Il ne suffit plus de conserver le résultat d'une analyse.

Il faut pouvoir reconstituer la façon dont ce résultat a été obtenu, les éléments qui l'étayent et les responsabilités mobilisées lors de sa validation.

Cette exigence conduit à une idée centrale : la traçabilité décisionnelle doit devenir un indicateur de qualité de la Compliance, au même titre que la pertinence de la détection.

Un système incapable de produire une justification fiable et vérifiable de ses conclusions peut représenter une vulnérabilité réglementaire, même s'il affiche d'excellentes performances statistiques.

5. L'IA agentique franchit une frontière supplémentaire : de la recommandation à l'exécution

L'apparition de systèmes d'IA agentique introduit un changement de nature.

Contrairement à une solution qui se contente de répondre à une question ou de générer une analyse, un agent peut être configuré pour accomplir une succession d'actions : consulter des bases de données, rechercher des informations, mettre à jour un dossier, solliciter un complément documentaire et déclencher une étape de workflow.

Dans une fonction Compliance, ces capacités peuvent apporter des gains d'efficacité importants.

Elles créent également un risque nouveau : celui de voir un système passer de l'assistance à la décision à l'exécution d'actes présentant des conséquences réglementaires.

La distinction doit être clairement établie entre trois niveaux d'autonomie.

Premier niveau : l'IA informe. Elle collecte, structure et synthétise les informations, sans modifier les données officielles ni prendre de décision.

Deuxième niveau : l'IA recommande. Elle propose une conclusion ou une action, laquelle reste soumise à une validation humaine appropriée.

Troisième niveau : l'IA agit. Elle modifie un enregistrement, clôture une alerte, actualise un statut ou déclenche une opération selon des règles prédéfinies.

Plus l'autonomie augmente, plus la gouvernance doit être exigeante.

Pour certaines actions sensibles — clôture d'une alerte de sanctions, acceptation d'une contrepartie à risque élevé, décision d'escalade ou modification d'une classification réglementaire, l'établissement devrait définir des limites explicites à l'autonomie technologique.

Il devrait également préserver des mécanismes d'interruption, de révision et de retour à un traitement manuel.

Un risque spécifique mérite attention : l'injection d'instructions malveillantes dans les documents ou sources consultés par un agent.

Une information externe apparemment ordinaire peut contenir des instructions destinées à influencer le comportement du système.

Sans séparation adéquate entre les données consultées et les instructions autorisées, un outil de conformité pourrait être conduit à accomplir une action qu'aucun responsable n'avait intentionnellement validée.

La cybersécurité, la gouvernance des accès et la Compliance deviennent ici indissociables.

6. Les sept contrôles d'une gouvernance de l'IA réellement défendable

Pour les établissements luxembourgeois, l'enjeu n'est pas de créer une nouvelle architecture réglementaire parallèle aux dispositifs existants.

Il est d'intégrer les risques propres à l'IA dans les mécanismes de gouvernance, de contrôle interne et de supervision déjà en place.

Sept contrôles devraient constituer le socle d'un dispositif robuste.

1. Un inventaire exhaustif des usages d'IA

Chaque cas d'usage devrait être identifié, avec sa finalité, son propriétaire, son fournisseur, les données exploitées, le niveau d'autonomie autorisé et les décisions qu'il influence.

Cet inventaire doit également permettre de repérer les utilisations non autorisées d'outils d'IA générative par les collaborateurs.

2. Une classification des risques par cas d'usage

Il convient de distinguer la qualification juridique au titre de l'AI Act de l'évaluation interne des risques opérationnels, réglementaires, réputationnels et de protection des données.

Un outil de rédaction de synthèses internes ne présente pas les mêmes enjeux qu'un dispositif intervenant dans l'acceptation de clients ou la gestion d'alertes de sanctions.

3. Une attribution explicite des responsabilités

La gouvernance devrait identifier les responsables des décisions d'utilisation, de validation, de surveillance et de suspension des systèmes.

Les fonctions Compliance, Risk Management, IT Security, Data Protection et Internal Audit doivent intervenir selon leurs responsabilités respectives, sans dilution des obligations de la direction.

4. Une validation indépendante et périodique des performances

Les tests devraient porter sur la qualité des résultats, les biais, les erreurs de classification, les faux positifs et, surtout, les faux négatifs.

Pour les solutions génératives, ils devraient également mesurer la fréquence des conclusions non étayées, les références inventées et les incohérences entre documents sources et synthèses produites.

La validation doit être renouvelée à la suite des évolutions significatives du modèle, des données ou du contexte d'utilisation.

5. Une supervision humaine effective et proportionnée

Les décisions sensibles devraient être soumises à des modalités de validation définies en fonction du risque.

Les utilisateurs doivent pouvoir consulter les éléments justificatifs, contester une rec