L’Autorité de contrôle prudentiel et de résolution (ACPR) a publié en date du jeudi 11 juin 2020, un document de réflexion portant sur la gouvernance des algorithmes d’intelligence artificielle (IA) dans le secteur financier. L'ACPR y propose une grille de lecture sur l'évaluation des algorithmes d’IA et le dispositif devant accompagner leur utilisation et leur intégration dans les métiers des acteurs du secteur financier. Ce document est soumis à consultation publique jusqu’au 4 septembre 2020. Il constitue ainsi une opportunité unique pour les acteurs pour contribuer activement à la définition d'un cadre pertinent en France pour l'IA dans le domaine financier.

L'intelligence artificielle (IA) fait l'objet de nombreuses discussions réglementaires au niveau européen comme au niveau français. En février 2020, la Commission européenne a publié un livre blanc sur l'IA mis en consultation publique jusqu'en mai 2020^[1]. Son objectif est notamment, de définir un cadre européen permettant un recours plus important à l’IA, et tenant compte des risques associés à certains de ses usages.

C'est désormais au tour de l’Autorité de contrôle prudentiel et de résolution (ACPR) de solliciter les acteurs concernant la gouvernance des algorithmes d'IA dans le secteur financier. Elle publie à cet effet, le 11 juin 2020, un document de réflexion^[2], ouvert à une consultation publique jusqu'au 4 septembre 2020.

Ce document s’inscrit plus particulièrement dans le cadre des travaux sur l’IA initiés par l'ACPR depuis 2018^[3], portés notamment par son pôle Fintech et Innovation. Les travaux de l'ACPR réalisés jusque-là lui ont en effet permis d'identifier deux enjeux essentiels, l'explicabilité et la gouvernance de l'IA, dans trois domaines distincts : la lutte contre le blanchiment et le financement du terrorisme (LCB-FT), les modèles internes et la protection de la clientèle.

Dans ce cadre, l'ACPR entend répondre aux demandes d'éclairage réglementaire de la part des acteurs financiers concernant ces nouvelles technologies. Elle propose en la matière une grille de lecture, cherchant un "équilibre entre liberté d’innovation, conformité réglementaire et gestion raisonnée des risques"^[4]. Dans la définition de cet équilibre, l'ACPR identifie deux axes : l'évaluation des algorithmes d'IA et la gouvernance devant les régir.

S’agissant de leur évaluation, l’ACPR identifie quatre objectifs qu'elle qualifie "d'interdépendants"^[5], et qui devraient être pris en compte selon elle lors de la conception et le développement des algorithmes d’IA :

• le traitement adéquat des données recueillies ;
• la performance des algorithmes ;
• leur stabilité (c’est-à-dire la robustesse et la résilience de leur comportement tout au long de leur cycle de vie) ; et
• leur explicabilité (c’est-à-dire leur transparence et leur auditabilité).

S’agissant de leur gouvernance, l'ACPR souligne l’important changement de paradigme opéré par l’utilisation d’algorithmes dans le secteur financier et la nécessité de réexaminer la validation des processus décisionnels. Elle recommande ainsi aux acteurs d'apporter un soin particulier dans la détermination des règles de gouvernance applicables aux algorithmes, soucieuse de la bonne intégration des algorithmes dans les processus métiers, de leur sécurité ou encore de leur processus de validation. Selon l'ACPR, les questions de gouvernance méritent d’être prises en compte "dès la phase de conception des algorithmes"^[6], notamment s'agissant de l’intégration de l’IA dans les processus traditionnels, l’impact de cette intégration sur le contrôle interne, la pertinence d’externaliser une partie de la conception ou de l’exploitation, et enfin, les fonctions d’audit interne ou externe.

Avec cette nouvelle consultation, l’ACPR soumet aux parties prenantes sa vision en termes d'exigence sur les outils d'IA appelés à se développer dans le domaine financier. Cette consultation, ouverte jusqu’au 4 septembre 2020, représente une opportunité pour les acteurs de contribuer aux réflexions pour soutenir, affiner ou compléter les pistes qui y sont proposées. La définition d'un cadre réglementaire adapté aux usages de l'IA pourra ainsi permettre à la France de s’imposer comme une économie de pointe en la matière.

______

[1] Livre blanc de la Commission européenne, Intelligence artificielle - Un approche européenne axée sur l'excellence et la confiance, 19 février 2020.
[2] ACPR, Document de réflexion - Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier, 11 juin 2020.
[3] ACPR, Intelligence artificielle : enjeux pour le secteur financier, décembre 2018 ; ACPR, Intelligence artificielle : enjeux pour le secteur financier, Réponses à la consultation publique sur le document de réflexion de l’ACPR de décembre 2018, Analyses des réponses, Juin 2019.
[4] ACPR, Document de réflexion - Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier, 11 juin 2020, p. 5.
[5] ACPR, Document de réflexion - Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier, 11 juin 2020, p. 3.
[6] ACPR, Document de réflexion - Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier, 11 juin 2020, p. 20.

>> Cliquez ici pour plus d'informations concernant notre équipe Gide 255

Cette publication électronique n’a qu’une vocation d’information générale non exhaustive. Elle ne saurait constituer ou être interprétée comme un acte de conseil juridique du cabinet Gide.