Service RGPD · AIPD

AIPD lutte contre la fraude et scoring : encadrez vos décisions automatisées

Score de crédit, détection de la fraude, listes de personnes signalées, fichiers mutualisés : Datanaos mène l’analyse d’impact des traitements qui peuvent priver une personne d’un droit, d’un service ou d’un contrat, en examinant les règles et les modèles eux-mêmes.

L’AIPD est-elle obligatoire pour la lutte contre la fraude et le scoring ?

Deux lignes de la liste adoptée par la CNIL le 11 octobre 2018 (délibération n° 2018-327) visent ces traitements. La première couvre les « traitements impliquant le profilage des personnes pouvant aboutir à leur exclusion du bénéfice d’un contrat ou à la suspension voire à la rupture de celui-ci », avec pour exemples le score d’octroi de crédit, la lutte contre la fraude aux moyens de paiement et l’analyse comportementale visant à détecter des comportements interdits sur un réseau social. La seconde couvre les « traitements mutualisés de manquements contractuels constatés » susceptibles d’aboutir à une exclusion : fichier d’impayés et de souscriptions irrégulières partagé par un secteur, vérification des antécédents d’un futur assuré automobile.

Hors de ces exemples, les lignes directrices du CEPD conduisent presque toujours au même résultat. Un dispositif antifraude réunit l’évaluation ou la notation, le croisement de jeux de données, souvent la grande échelle, et relève du neuvième critère : les traitements qui empêchent une personne de bénéficier d’un service ou d’un contrat. Ces lignes directrices citent elles-mêmes l’établissement financier qui passe ses clients au crible d’une base de cote de crédit ou d’une base antifraude. L’article 35.3.a du RGPD vise enfin l’évaluation systématique d’aspects personnels servant de base à des décisions produisant des effets juridiques.

Six secteurs, des usages très différents

La même obligation recouvre des dispositifs qui n’ont ni les mêmes données, ni les mêmes conséquences pour les personnes.

Banque et crédit

Score d’octroi, détection de la fraude aux moyens de paiement, consultation de fichiers d’incidents de remboursement.

Assurance

Détection de la fraude à la souscription et aux sinistres, vérification des antécédents, fichiers partagés de la profession.

Télécoms

Contrôle des souscriptions, usurpation d’identité lors de la vente de terminaux, gestion des impayés.

Commerce en ligne

Score de risque des commandes, blocage du paiement, listes internes de clients refusés.

Organismes sociaux

Ciblage des contrôles par exploration de données, score de risque des allocataires, décisions administratives individuelles.

Plateformes

Analyse comportementale pour détecter les faux comptes ou les comportements interdits, suspension de compte.

Score et décision automatisée : la question centrale

L’article 22 du RGPD donne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques ou affectant la personne de manière significative. Une telle décision n’est permise que si elle est nécessaire au contrat, autorisée par la loi ou fondée sur un consentement explicite, avec le droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester (article 22.2 et 22.3). En France, l’article 47 de la loi Informatique et Libertés oblige à communiquer, sur demande, les règles du traitement et ses principales caractéristiques. Pour les organismes publics, une décision administrative individuelle fondée sur un algorithme doit le mentionner explicitement (article L. 311-3-1 du code des relations entre le public et l’administration), et un recours administratif ne peut jamais être tranché sur le seul fondement d’un traitement automatisé.

Dans l’arrêt SCHUFA (C-634/21, 7 décembre 2023), la Cour de justice de l’Union européenne a jugé que l’établissement automatisé d’une valeur de probabilité sur la capacité d’une personne à honorer ses engagements de paiement constitue en lui-même une décision individuelle automatisée lorsque le tiers qui la reçoit en dépend de manière déterminante pour conclure, exécuter ou rompre un contrat. Dans l’arrêt Dun & Bradstreet Austria (C-203/22, 27 février 2025), elle a précisé que la personne a droit à une explication de la procédure et des principes effectivement appliqués ; un secret d’affaires invoqué doit être soumis à l’autorité de contrôle ou au juge, qui arbitre.

Conséquence pour l’AIPD : « un humain valide » ne suffit pas. Il faut mesurer le rôle réel de cet humain, avec quelles informations, en combien de temps, et à quelle fréquence il s’écarte du score.

Ce que l’AIPD doit documenter

QuestionFondementCe que nous vérifions
La décision est-elle exclusivement automatisée ?Article 22, arrêt SCHUFA.Circuit de décision réel, seuils de blocage automatique, part des décisions modifiées par un humain.
Sur quelle exception repose-t-elle ?Article 22.2 du RGPD, article 47 de la loi Informatique et Libertés.Nécessité réelle pour le contrat, texte applicable, qualité du consentement.
Quelles données entrent dans le score ?Minimisation (article 5.1.c), données sensibles exclues sauf exceptions (article 22.4).Variables du modèle, variables indirectement sensibles (adresse, prénom, nationalité), sources externes.
Le modèle est-il exact et équitable ?Exactitude (article 5.1.d), garanties de l’article 22.3.Faux positifs par population, dérive dans le temps, recalibrage.
La personne peut-elle comprendre et contester ?Articles 13.2.f, 14.2.g, 15.1.h et 22.3 ; arrêt Dun & Bradstreet Austria.Mentions d’information, réponse type au droit d’accès, procédure de réexamen humain.
Combien de temps reste-t-on signalé ?Limitation de la conservation (article 5.1.e).Durée d’inscription, sortie automatique, mise à jour après régularisation.

Données d’infraction et fichiers mutualisés

Dès qu’un fichier qualifie des faits d’infraction (escroquerie, usurpation d’identité), il relève de l’article 10 du RGPD. En France, l’article 46 de la loi Informatique et Libertés ne permet à un organisme privé de traiter ces données, hors texte spécifique, que pour préparer, exercer et suivre une action en justice en tant que victime ou mis en cause, pour une durée strictement proportionnée ; leur communication à un tiers obéit aux mêmes conditions.

Un fichier partagé entre plusieurs entreprises ajoute des questions propres : qui est responsable du traitement, quelles règles d’inscription communes, comment les personnes sont informées, qui répond au droit d’accès, comment on sort de la liste. Confondre dans un même fichier impayés et fraudes avérées aggrave nettement le risque.

Scoring et AI Act

L’annexe III du règlement (UE) 2024/1689 classe à haut risque les systèmes d’IA destinés à évaluer la solvabilité des personnes ou à établir leur note de crédit, à l’exception des systèmes utilisés pour détecter les fraudes financières, ainsi que l’évaluation des risques et la tarification en assurance vie et maladie, et l’évaluation par les autorités publiques de l’éligibilité aux prestations d’aide sociale. Leurs déployeurs, comme les organismes publics, devront mener une analyse d’impact sur les droits fondamentaux (article 27) à partir du 2 décembre 2027, date fixée par le règlement (UE) 2026/1744. L’exception antifraude de l’AI Act ne dispense jamais de l’AIPD. Les spécificités des modèles sont traitées dans notre page AIPD d’un système d’IA.

Notre méthode pour l’AIPD d’un dispositif de fraude ou de scoring

Nos consultants analysent les règles métier et les modèles dans vos bases, avec vos équipes risques et données, pas seulement leur description.

  1. Cartographie du dispositif

    Sources internes et externes, fichiers sectoriels, règles et modèles, seuils, sorties (alerte, blocage, refus), destinataires.

  2. Qualification juridique

    Lignes de la liste CNIL, analyse de l’article 22, données d’infraction, rôles en cas de mutualisation, classement au regard de l’AI Act.

  3. Revue des règles et du modèle

    Variables utilisées, données indirectement sensibles, tests de faux positifs et d’écarts entre populations sur des données historiques pseudonymisées.

  4. Transparence et droits

    Information, explication de la logique, réexamen humain, sortie de liste, réponse au droit d’accès.

  5. Risques et mesures

    Cotation en gravité et en vraisemblance, ajustement des seuils, révision humaine, purges, cloisonnement des accès.

  6. Validation et suivi

    Avis du DPO, décision du responsable, indicateurs de suivi, révision à chaque évolution du modèle ou des règles.

Ce que vous recevez

  • L’AIPD du dispositif, conforme à l’article 35 du RGPD.
  • Une note de qualification au regard de l’article 22, tenant compte de l’arrêt SCHUFA.
  • Une revue des variables du score et des règles de détection.
  • Une procédure de réexamen humain et des réponses types aux demandes d’explication.
  • Les mentions d’information sur la logique sous-jacente et ses conséquences.
  • Les règles d’inscription et de sortie des listes de personnes signalées.

Combien coûte l’AIPD d’un dispositif antifraude ou de scoring ?

Le coût dépend du nombre de règles et de modèles, du recours à l’apprentissage automatique, des sources externes et des fichiers mutualisés, du nombre de canaux, de la disponibilité de données historiques pour les tests et de la documentation existante.

Après un premier échange sur votre dispositif, nous vous adressons une proposition détaillée, avec le nombre de jours et le calendrier.

Questions fréquentes sur l’AIPD fraude et scoring

Faut-il une AIPD pour un traitement de lutte contre la fraude ?

Oui dans la plupart des cas. La liste de la CNIL vise le profilage pouvant exclure une personne d’un contrat, avec l’exemple de la fraude aux moyens de paiement, ainsi que les fichiers mutualisés de manquements contractuels. Hors liste, un dispositif antifraude réunit presque toujours deux critères du CEPD.

Un score de crédit est-il une décision automatisée ?

Il peut l’être. Selon l’arrêt SCHUFA de la CJUE du 7 décembre 2023, le calcul automatisé d’un score est une décision individuelle automatisée au sens de l’article 22 lorsque le prêteur qui le reçoit en dépend de manière déterminante pour accorder, exécuter ou rompre le contrat.

Peut-on refuser un client sur la seule base d’un score ?

Seulement dans les cas de l’article 22.2 du RGPD (nécessité contractuelle, loi, consentement explicite), avec le droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la décision. En France, les règles du traitement doivent être communiquées à la personne qui le demande (article 47 de la loi Informatique et Libertés).

Un client refusé peut-il demander pourquoi ?

Oui. L’article 15.1.h du RGPD donne accès aux informations utiles sur la logique sous-jacente. Depuis l’arrêt Dun & Bradstreet Austria du 27 février 2025, il s’agit d’expliquer la procédure et les principes effectivement appliqués, de façon compréhensible. Un outil de gestion des demandes d’exercice des droits aide à tenir les délais.

Peut-on partager une liste de fraudeurs avec d’autres entreprises ?

Un tel fichier mutualisé figure sur la liste des traitements soumis à AIPD. S’il contient des données d’infraction, il doit respecter l’article 10 du RGPD et l’article 46 de la loi Informatique et Libertés. Il exige des règles communes d’inscription, d’information, d’accès et de sortie.

La détection de la fraude est-elle une IA à haut risque ?

Pas au titre du crédit : l’annexe III de l’AI Act exclut de cette catégorie les systèmes de détection des fraudes financières, alors que l’évaluation de la solvabilité est à haut risque. Un système public servant à réduire ou à récupérer des prestations sociales peut en revanche relever d’une autre catégorie. Dans tous les cas, l’AIPD reste due au titre du RGPD.

Parlons de votre dispositif antifraude ou de scoring

Décrivez le dispositif, ses sources de données et ses décisions : un expert vous recontacte pour cadrer l’AIPD et vous adresser une proposition.