Le contrôleur de l’OCC propose des conseils réglementaires en faveur de l’IA / Blogs / Perficient

Le 6 juin, le contrôleur par intérim de la monnaie, Michael J. Hsu, s’est adressé à la Conférence 2024 sur l’intelligence artificielle (IA) et la stabilité financière, fournissant des informations réglementaires essentielles sur l’IA. Hsu a discuté des implications du risque systémique de l’IA dans le secteur bancaire et financier en utilisant une approche « outil ou arme ». Il a souligné que si les outils et les armes constituent des menaces pour la stabilité financière, ils le font de différentes manières : nécessitant des analyses distinctes.

Dans son discours, Hsu a souligné que l’adoption rapide de la technologie en période de changement, sans ajustement correspondant des contrôles, permet aux risques de croître sans être détectés jusqu’à aboutir à des crises financières. Tirant les leçons de l’histoire, il a fait référence au manque de contrôles réglementaires en matière de produits dérivés et d’ingénierie financière avant la crise financière de 2008, et plus récemment, à la croissance non réglementée des crypto-monnaies qui a conduit au « Crypto Winter » de 2022.

Des barrières de péage sont nécessaires

Pour éviter de répéter de tels scénarios, issus de cette histoire plutôt désastreuse, Hsu a plaidé pour que les régulateurs et l’industrie identifient de manière proactive les points où la croissance et le développement devraient s’arrêter pour garantir une innovation responsable et instaurer la confiance. Il a fait valoir que des points de contrôle bien conçus pourraient aider à équilibrer le besoin d’innovation avec les garanties nécessaires pour empêcher une croissance galopante.

L’évolution du commerce électronique constitue une étude de cas précieuse à considérer. Traditionnellement, le trading était manuel. La tenue de marché a finalement évolué vers des systèmes téléphoniques, avec des ordinateurs fournissant des informations, des évaluations et des prévisions en temps réel aux traders. Avec le temps, les ordinateurs ont joué un rôle plus actif, non seulement en fournissant des informations, mais également en aidant et en guidant les actions des traders, favorisant une exécution plus rapide et des stratégies plus complexes. Finalement, les algorithmes ont entièrement pris le relais, achetant et vendant automatiquement des titres selon des instructions prédéterminées, sans intervention humaine.

En utilisant l’évolution du commerce électronique comme référence, Hsu a décrit trois phases de son histoire :

1. Contributions: Les ordinateurs fournissaient des informations aux commerçants humains.
2. Copilotes : Le logiciel pris en charge et a permis aux traders de fonctionner plus efficacement et plus rapidement.
3. Agents: Les ordinateurs exécutaient des transactions de manière autonome sur la base d’algorithmes programmés par des développeurs de logiciels.

Comprendre les différentes phases de l’IA

Hsu a souligné que chaque phase nécessite des stratégies et des contrôles de gestion des risques différents. Par exemple, atténuer le risque de crash flash, exacerbé par le trading algorithmique, nécessite des contrôles plus sophistiqués que ceux nécessaires lorsque les traders reçoivent simplement des informations sur un écran d’ordinateur et exécutent des transactions manuellement.

L’intelligence artificielle (IA) suit un chemin évolutif similaire : elle produit initialement des éléments pour la prise de décision humaine, puis agit en tant que copilote pour améliorer les actions humaines, et enfin devient un agent qui prend des décisions de manière indépendante au nom des humains. À mesure que l’IA passe du statut de fournisseur d’intrants à celui de copilote et, finalement, à celui d’agent autonome, les risques et les conséquences négatives potentielles de contrôles faibles augmentent considérablement.

Pour les banques intéressées par l’adoption de l’IA, l’établissement de barrières claires et efficaces entre chaque phase peut contribuer à garantir que les innovations sont bénéfiques plutôt que nuisibles. Avant de passer à la phase suivante de développement, les banques doivent s’assurer que des contrôles appropriés sont en place et que les responsabilités sont clairement établies pour la nouvelle phase dans laquelle elles entrent.

Votre partenaire expert

Le plaidoyer du contrôleur par intérim Hsu en faveur d’un environnement de contrôle robuste reflète les orientations fournies dans la lettre de surveillance 2021 de l’OCC, dont nous avons discuté sur notre blog. OCC fournit une feuille de route permettant aux banques nationales et aux associations d’épargne de mener des activités cryptographiques.

Si vous souhaitez établir une nouvelle relation avec Perficient ou renforcer une relation existante, nos experts en matière de réglementation des services financiers, de risques et de contrôles et d’IA sont disponibles pour vous aider. Nous pouvons travailler avec vous pour améliorer votre environnement de contrôle et concevoir des points de contrôle afin de garantir que votre entreprise reste bien réglementée.

Contactez-nous aujourd’hui pour discuter de vos besoins spécifiques.

VOUS POUVEZ AUSSI PROFITER :

Analyse Azure GPT-4 de la nouvelle ARC : partie 1

Analyse Azure GPT-4 de la nouvelle ARC : partie 2