Inventaire des modèles IA

Une fiche utile répond à quatre sujets: identité, identifiant stable, nom, version et, pour un achat, fournisseur et modèle de base. Responsabilité: personne ou rôle responsable, plus l'autorité décidant les changements. Accès aux données: sources d'entraînement, données vues en inférence et présence de données personnelles ou réglementées. Cycle de vie: étape actuelle, dernière validation, niveau de risque et conditions déclenchant un examen.

MaRisk AT 4.3.1 fonde le registre en Allemagne, exigeant des processus et responsabilités documentés et actualisés, tandis que le guide BCE des modèles internes précise l'examen prudentiel des modèles de calcul des fonds propres. Un champ inutilisé pour décider ne sera pas maintenu; chaque colonne doit donc répondre à une décision précise.

Un modèle renvoie une prévision, tandis qu'un agent agit: il interroge des systèmes, appelle des outils et lance des processus, parfois sans intervention humaine. L'inventaire doit contenir les deux, avec des champs supplémentaires pour l'agent: actions autorisées, systèmes accessibles, limite exigeant une intervention humaine et méthode d'arrêt testée.

Les doublons constituent le problème pratique, second agent créé ailleurs pour la même tâche, modèle sans responsable après son départ, pilote toujours en production des mois après clôture du projet. Un registre honnête montre chacun comme risque distinct; la gouvernance de l'IA bancaire précise qui décide de leur maintien.

Pour un système à haut risque, le règlement IA rend certaines parties du registre obligatoires. L'article 11 du règlement (UE) 2024/1689 exige une documentation technique avant commercialisation, actualisée, dont le contenu figure à l'annexe IV. L'article 12 impose la journalisation automatique durant la vie du système, et l'article 18 la conservation documentaire par le fournisseur durant dix ans après commercialisation.

Un déployeur, statut habituel d'une banque, conserve selon l'article 26 les journaux au moins six mois, sauf durée légale supérieure. La notation de crédit des particuliers et la tarification vie et santé sont les deux usages de l'annexe III concernés, décrits dans le règlement IA en finance.

Trois sources produisent presque toute cette IA: un modèle tableur métier effectuant un travail réel sans gouvernance; une application achetée contenant un modèle non nommé au contrat, ignoré comme modèle bancaire; un assistant IA généraliste utilisé sur des données clients sans y voir une décision système.

Les orientations sur les risques TIC des systèmes d'IA de BaFin de décembre 2025 intègrent l'IA à la gestion des risques TIC sous DORA, un usage non enregistré constitue un risque TIC non enregistré. Le repérage fonctionne mieux de l'extérieur, dossiers d'achat, trafic réseau vers les services IA et demandes d'export de données révèlent souvent davantage qu'un questionnaire.

Un modèle hébergé chez un prestataire apparaît dans deux registres d'objectifs différents. L'inventaire IA et modèles contient modèle, responsable et niveau de risque. Le registre d'informations de l'article 28(3) de DORA contient le contrat TIC, la fonction soutenue et son caractère critique ou important.

Les deux doivent concorder, car un modèle critique dont le contrat n'est pas classé comme soutenant une fonction critique entraîne un constat dans le second registre examiné. Le registre d'informations DORA détaille ses champs et sa transmission annuelle à BaFin.

Un modèle acheté est suivi aussi rigoureusement qu'un modèle interne, avec une colonne supplémentaire: ce que le fournisseur divulgue ou refuse de divulguer. Sans sources d'entraînement ni historique de performance, les tests bancaires portent toute la preuve, et la fiche explicite cette limite.

Le retrait est souvent omis alors qu'un modèle désaffecté doit être arrêté partout, y compris sa copie conservée pour comparaison. Sa fiche reste au registre avec une date de fin, sans suppression. Un registre sans modèle retiré a généralement perdu leur trace.

Une fonction détient le registre, généralement la deuxième ligne proche du risque de modèle, et chaque entrée relève de la première ligne. Gérer la liste et ses objets sont deux métiers distincts; les confondre crée un document non actualisé entre inspections.

Le contrôle d'actualisation rapproche le registre de sources indépendantes: cartographie des processus, inventaire informatique, centres de coûts du grand livre payant l'IA et contrats d'achat. Chaque écart appelle une réponse, et ces réponses prouvent au superviseur un registre maintenu plutôt que constitué dans l'urgence.

Un inventaire des modèles IA recense tous les modèles et systèmes IA utilisés, avec identifiant, responsable, objectif, données accessibles, niveau de risque, étape du cycle et dernière validation. Dans une institution financière, il précise aussi le caractère à haut risque selon le règlement IA de l'UE et le prestataire TIC exploitant. C'est le document demandé par un superviseur avant d'examiner un modèle particulier.

Le règlement IA de l'UE n'exige pas d'inventaire sous ce nom. Il impose documentation technique et journaux automatiques par système à haut risque aux articles 11 et 12, conservation fournisseur dix ans à l'article 18 et journaux déployeur à l'article 26. Respecter ces obligations pour de nombreux systèmes sans registre unique reste théoriquement possible mais ne se produit pas en pratique, d'où l'inventaire bancaire comme contrôle portant ces obligations.

L'inventaire est actualisé continuellement lors des événements et rapproché à intervalles fixes. Nouveau système, changement de version, nouvelle source, changement de responsable et retrait actualisent immédiatement la fiche, sans attendre la clôture trimestrielle. Le rapprochement achats, informatique et processus suit un cycle défini, avec résultats communiqués, car un inventaire sans écart signalé n'est généralement plus contrôlé.

Le NIST AI Risk Management Framework, NIST AI 100-1, est volontaire et ne relève pas du droit européen; il inclut l'inventaire dans sa fonction de gouvernance: impossible de cartographier, mesurer ou gérer l'inconnu. Les institutions allemandes l'utilisent pour vérifier leurs contrôles et documentent pour chacun l'article IA et l'exigence MaRisk correspondants.