Quels critères doivent rester explicables dans un algorithme de prêt qui analyse un emprunteur refusé sans explication ?

Lorsqu’un algorithme refuse un prêt immobilier sans explication, plusieurs critères doivent impérativement rester intelligibles : le taux d’endettement, la stabilité des revenus, le comportement de paiement et la capacité d’apport. L’ACPR impose aux établissements de crédit de pouvoir justifier toute décision algorithmique, et la DSP2 encadre l’accès aux données bancaires utilisées comme intrants. Un emprunteur refusé a le droit de comprendre les variables déterminantes qui ont pesé sur la décision.

Cadre réglementaire : ce que la loi impose en matière d’explicabilité algorithmique

Les obligations des établissements de crédit face à l’automatisation des décisions

L’ACPR (Autorité de Contrôle Prudentiel et de Résolution) publie des orientations claires sur l’utilisation des algorithmes d’octroi de crédit par les établissements bancaires. Ces orientations s’inscrivent dans un cadre plus large : toute décision automatisée produisant un effet significatif sur un individu — comme un refus de prêt — doit pouvoir être expliquée à la personne concernée. Ce principe est directement hérité du RGPD (article 22), qui interdit les décisions purement automatisées sans possibilité de recours humain ni d’explication intelligible.

L’ACPR attend des établissements qu’ils documentent leurs modèles de scoring, qu’ils identifient les variables les plus influentes et qu’ils soient en mesure de restituer, à la demande, les facteurs ayant conduit à un refus. Cette exigence de gouvernance des modèles (model governance) implique que chaque variable intégrée dans l’algorithme soit traçable, auditée et défendable devant le superviseur. Un modèle de type « boîte noire » — comme certains réseaux de neurones profonds — est donc problématique s’il ne s’accompagne pas d’une couche d’explicabilité (SHAP values, LIME, etc.).

Parallèlement, la DSP2 (Directive sur les Services de Paiement 2, transposée en droit français et encadrée par la Banque de France) autorise l’accès aux données bancaires de l’emprunteur via des API agréées, sous réserve de son consentement explicite. Ces données — historique de transactions, soldes, comportements de dépenses — peuvent alimenter les algorithmes de scoring. Dès lors qu’elles sont utilisées dans une décision de refus, elles entrent dans le périmètre des critères devant rester explicables.

Les critères concrets qui doivent impérativement rester lisibles

Variables déterminantes et seuils réglementaires dans le scoring de crédit immobilier

En pratique, les algorithmes de crédit immobilier agrègent des dizaines de variables. Mais toutes n’ont pas le même poids ni la même obligation d’explicabilité. Les critères dits « structurants » — ceux qui, seuls, peuvent faire basculer une décision — doivent être restitués en priorité à l’emprunteur refusé. Le tableau ci-dessous synthétise les principales variables, leur nature et leur niveau d’exigence d’explicabilité selon les orientations ACPR.

{
  "emprunteur_id": "EMP-20260715-0042",
  "decision": "REFUSE",
  "score_global": 41,
  "seuil_acceptation": 60,
  "facteurs_explicatifs": [
    { "critere": "taux_endettement", "valeur": 38.2, "seuil_reglementaire": 35, "impact": "NEGATIF_FORT" },
    { "critere": "stabilite_revenus", "valeur": "CDD_6_mois", "impact": "NEGATIF_MOYEN" },
    { "critere": "comportement_paiement_dsp2", "incidents_12m": 3, "impact": "NEGATIF_FORT" },
    { "critere": "apport_personnel_pct", "valeur": 7.5, "seuil_recommande": 10, "impact": "NEGATIF_MOYEN" }
  ],
  "shap_top_features": ["taux_endettement", "comportement_paiement_dsp2", "stabilite_revenus"],
  "recours_humain_disponible": true,
  "source_reglementaire": ["ACPR_orientations_algorithmes", "DSP2_Banque_de_France", "HCSF_2021"]
}

Implications pratiques pour les middlewares IA et les API Open Banking

Intégrer l’explicabilité dès la conception du pipeline de scoring

Pour un middleware de crédit immobilier, l’explicabilité n’est pas une fonctionnalité optionnelle : c’est une contrainte d’architecture. Chaque appel à un modèle de scoring doit retourner, en parallèle du score brut, un vecteur de contributions par variable (typiquement via SHAP — SHapley Additive exPlanations). Ce vecteur permet de générer automatiquement une explication en langage naturel, lisible par l’emprunteur et auditée par l’ACPR. Les données issues de la DSP2 — récupérées via des API d’agrégation bancaire agréées — doivent être taguées comme telles dans le pipeline, afin que leur contribution au refus soit traçable de bout en bout.

L’Open Banking, tel qu’encadré par la DSP2, ouvre un accès granulaire aux flux de trésorerie de l’emprunteur. Un middleware bien conçu exploite ces données pour enrichir le scoring (détection d’irrégularités de revenus, calcul du reste-à-vivre réel), mais doit simultanément journaliser chaque variable utilisée, sa source et son poids dans la décision finale. Cette journalisation est la condition sine qua non d’un audit ACPR réussi et d’une réponse conforme à une demande d’explication de l’emprunteur.

Enfin, le droit à l’intervention humaine — garanti par le RGPD article 22 — doit être implémenté comme un endpoint dédié dans l’API : lorsqu’un emprunteur conteste un refus algorithmique, un analyste humain doit pouvoir accéder au rapport d’explicabilité complet, le valider ou l’infirmer, et consigner sa décision. Ce workflow hybride humain-IA est aujourd’hui la norme attendue par les superviseurs européens.

Questions fréquentes

Conclusion & Perspective 2027

D’ici 2027, l’entrée en vigueur pleine de l’AI Act européen (classification des systèmes de scoring crédit en « haut risque ») renforcera encore les exigences d’explicabilité : les établissements devront fournir une documentation technique standardisée de leurs modèles, et les middlewares devront exposer des API d’explicabilité normalisées, interrogeables par les régulateurs en temps réel. Les LLM (grands modèles de langage) joueront un rôle croissant pour traduire automatiquement les vecteurs SHAP en explications personnalisées, multilingues et accessibles — transformant le refus de prêt d’une boîte noire opaque en un dialogue structuré entre l’emprunteur, l’algorithme et le conseiller humain.

Sources utilisées

• DSP2 — Directive sur les services de paiement (Banque de France)
• ACPR — Règles applicables aux établissements de crédit