Navigation dans les systèmes d’IA sur les marchés des capitaux : directives récentes des ACVM

Introduction

Le 5 décembre 2024, les Autorités canadiennes en valeurs mobilières (ACVM) ont publié un avis visant à donner des éclaircissements et des indications sur la façon dont la législation en valeurs mobilières s’applique à l’utilisation des systèmes d’intelligence artificielle (IA). L’Avis 11-348 du personnel et de consultation – Applicabilité du droit canadien des valeurs mobilières à l’utilisation des systèmes d’intelligence artificielle dans les marchés des capitaux (l’avis du personnel) (en anglais seulement) énonce les points essentiels suivants sur l’utilisation de l’IA dans les marchés des capitaux :

• Points clés à considérer : L’avis du personnel décrit les points clés à considérer pour diverses entités, dont les personnes inscrites, les émetteurs assujettis et les autres participants aux marchés pouvant bénéficier de l’utilisation des systèmes d’IA. L’avis du personnel définit le « système d’IA » comme un « système automatisé qui, pour des objectifs explicites ou implicites, fait des déductions à partir d’entrées qu’il reçoit afin de générer des résultats tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels. »
• Transparence, reddition de comptes et atténuation des risques : L’avis du personnel fait ressortir l’importance de la transparence, de la reddition de comptes et de l’atténuation des risques découlant de l’utilisation des systèmes d’IA.
• Mobilisation des intervenants : Enfin, l’avis du personnel invite les intervenants à formuler des commentaires au moyen d’une série de questions de consultation. La demande de commentaires vise à recueillir des renseignements sur le rôle en évolution des systèmes d’IA et à explorer le besoin potentiel d’ajustements ou d’améliorations aux cadres de réglementation et de surveillance actuels en réponse aux progrès technologiques.

Fait important, l’avis du personnel n’établit pas de nouvelles lois sur les valeurs mobilières et ne modifie pas celles qui existent déjà. Il fournit plutôt des indications sur l’application des lois actuelles sur les valeurs mobilières dans les scénarios où l’IA est utilisée. Dans ce billet de blogue, nous examinons les conseils les plus importants pour les participants au marché contenus dans l’avis du personnel, y compris des conseils sur :

• les exigences générales pour le déploiement des systèmes d’IA;
• la gouvernance et surveillance de l’IA;
• la divulgation relative aux systèmes d’IA; et
• le risque de blanchiment de l’IA.

Exigences générales pour le déploiement des systèmes d’IA

L’avis du personnel souligne l’importance de déployer des systèmes d’IA grandement explicables pour promouvoir la transparence et aider les participants au marché à respecter leurs obligations en vertu des lois sur les valeurs mobilières. Les participants au marché qui déploient des systèmes d’IA à des fins de prise de décisions devraient s’assurer que le raisonnement est clair et compréhensible pour qu’il soit simple de savoir pourquoi ou comment une décision a été prise. Certains types de systèmes d’IA qui sont moins faciles à expliquer, appelés « boîtes noires », peuvent remettre en question les concepts de transparence, de reddition de comptes, de tenue de dossiers et de capacité d’audit.

De plus, l’avis du personnel souligne la nécessité de mettre régulièrement à l’essai les systèmes d’IA, ce qui devrait être proportionnel à l’importance du rôle du système d’IA au sein de l’organisation. Ces essais devraient être effectués par des personnes possédant une expertise appropriée. Cette approche garantit que les systèmes d’IA sont fiables et conformes aux attentes réglementaires établies dans les lois sur les valeurs mobilières.

Gouvernance et surveillance de l’IA

L’avis du personnel précise que les pratiques de gouvernance et de gestion des risques devraient être primordiales pour les participants au marché dont les activités sont réglementées en vertu de la loi sur les valeurs mobilières lorsqu’ils déploient des systèmes d’IA sur les marchés des capitaux. À cet égard, l’on s’attend à ce que les participants au marché élaborent des politiques et des procédures adaptées à l’utilisation des systèmes d’IA et aux risques s’y rattachant.

L’avis du personnel recommande une liste non exhaustive de facteurs à prendre en considération dans les contrôles, les politiques et les procédures en matière de supervision, notamment :

• tenir compte de la planification, de la conception, de la vérification et de la validation des systèmes d’IA, et s’assurer que des essais rigoureux ont eu lieu avant le déploiement;
• disposer d’un « humain dans la chaîne », car les humains peuvent surveiller efficacement les intrants et les extrants d’un système d’IA;
• veiller à ce que les personnes qui utilisent les extrants des systèmes d’IA s’y connaissent suffisamment en matière d’IA pour s’assurer que les utilisateurs d’un extrant donné l’utilisent aux fins prévues;
• prendre des mesures adéquates pour atténuer les risques technologiques et opérationnels liés à l’utilisation des systèmes d’IA (p. ex., surveillance initiale et continue des risques de cybersécurité, biais du système d’IA, écart du modèle et hallucinations);
• garantir l’importance de l’intégrité des données dans les systèmes d’IA, y compris l’assurance de l’exactitude et de l’exhaustivité des données, la prévention de l’inclusion de renseignements interdits et la prise en compte des considérations liées à la protection des renseignements personnels; et
• effectuer un examen de la chaîne d’approvisionnement complète d’un système d’IA tout au long de son cycle de vie, y compris des fournisseurs de services tiers, des services infonuagiques et des sources de données utilisées.

De plus, l’avis du personnel rappelle aux participants au marché qu’ils ont la responsabilité et le devoir de toutes les fonctions imparties. Par exemple, l’on s’attend à ce que les personnes inscrites créent des politiques et des procédures adaptées aux risques particuliers que posent les systèmes d’IA mis au point et exploités par des tiers.

Divulgation relative aux systèmes d’IA

L’avis du personnel conseille aux participants aumarché de tenir compte de leurs obligations en matière de divulgation lorsqu’il s’agit des systèmes d’IA et précise ce qui suit :

• Les gestionnaires de fonds d’investissement doivent divulguer l’utilisation qu’un fonds fait des systèmes d’IA lorsqu’une telle utilisation est présentée comme une stratégie d’investissement importante.
• Les émetteurs assujettis qui ne sont pas des fonds d’investissement devraient envisager la divulgation de l’utilisation du système d’IA dans les opérations commerciales, ainsi que la mise au point de produits ou de services qui s’appuient sur les systèmes d’IA, lorsque cela est important.
• La divulgation doit comprendre des facteurs de risque uniques associés aux systèmes d’IA afin de permettre aux investisseurs et aux organismes de réglementation des valeurs mobilières de mieux comprendre les risques associés à l’utilisation des systèmes d’IA. Les gestionnaires de fonds d’investissement, par exemple, doivent tenir compte du risque d’écart du modèle, lorsqu’un gestionnaire de fonds commence à investir en dehors de l’objectif de placement déclaré d’un fonds, tout en utilisant des systèmes d’IA. Les émetteurs qui ne sont pas des fonds d’investissement doivent tenir compte des facteurs de risque liés à l’IA, comme les risques liés à l’exploitation, aux tiers, à l’éthique, à la réglementation, à la concurrence et à la cybersécurité et, le cas échéant, les divulguer.
• Les émetteurs doivent déterminer si le fait de faire des déclarations au sujet de l’utilisation potentielle des systèmes d’IA dans leur divulgation continue constitue de l’information prospective, auquel cas il doit y avoir un fondement raisonnable justifiant l’information prospective.

Le risque de « blanchiment de l’IA »

Les conseils donnés dans l’avis du personnel établissent un équilibre entre l’importance de la divulgation complète de l’utilisation des systèmes d’IA par un participant au marché et la prudence contre les allégations inexactes, fausses, trompeuses ou embellies concernant l’utilisation de l’IA par un participant au marché. Cette pratique est communément appelée « blanchiment de l’IA ».

L’avis du personnel prévient que, pour éviter le blanchiment de l’IA, il ne faut pas faire de déclarations vagues et non corroborées qui incorporent du jargon afin d’attirer des investisseurs. L’avis du personnel s’attend plutôt à ce que les divulgations des systèmes d’IA soient justes, équilibrées et non trompeuses. L’avis du personnel met expressément en garde les gestionnaires de fonds d’investissement de faire preuve de prudence dans la divulgation liée à l’IA dans les communications de vente, afin d’éviter les déclarations fausses ou trompeuses.

Prochaines étapes

Comme il a été mentionné, les directives fournies dans l’avis du personnel sont fondées sur les lois sur les valeurs mobilières existantes et ne créent pas de nouvelles exigences juridiques ni ne modifient celles qui existent déjà. Toutefois, en plus des directives, l’avis du personnel a fourni plusieurs questions de consultation pour déterminer si des ajustements réglementaires sont nécessaires afin d’intégrer les systèmes d’IA dans les marchés des capitaux. Compte tenu des questions de consultation, il est clair que l’examen par le personnel des répercussions de l’IA en est encore à un stade précoce, et qu’il cherche à obtenir des commentaires sur la question de savoir si les lois existantes devraient être modifiées pour refléter l’utilisation de l’IA dans un large éventail de circonstances, et dans quelle mesure. Les commentaires seront acceptés par écrit jusqu’au 31 mars 2025. Les questions de consultation et les instructions relatives à la présentation se trouvent à la partie III de l’avis du personnel (en anglais seulement).

Points à retenir

L’avis du personnel met l’accent sur l’attention réglementaire accordée à l’utilisation de l’IA sur les marchés des capitaux. Il met en lumière les principales préoccupations des organismes de réglementation, notamment l’incidence de l’IA sur les divulgations financières, la gestion des conflits d’intérêts et la délégation des tâches qui nécessitent l’enregistrement dans les systèmes d’IA. L’avis énonce également l’attente selon laquelle les sociétés établiront de solides mécanismes de gouvernance et de surveillance lors de la mise en œuvre des technologies d’IA. De plus, l’avis du personnel exprime une préférence pour les systèmes d’IA qui sont grandement explicables, ce qui donne à penser que les organismes de réglementation sont plus susceptibles de favoriser les systèmes dont les décisions peuvent être facilement comprises et suivies.

Compte tenu de la portée des questions, il est évident que les ACVM souhaitent obtenir des commentaires sur le fait que ces directives marquent le début du processus par lequel le personnel s’attaque à cet enjeu. Les directives des ACVM évolueront probablement après la période de consultation et à mesure que les répercussions de l’utilisation de l’IA se manifesteront sur le marché. Néanmoins, l’accent mis par l’avis du personnel sur les systèmes d’IA est une étape bienvenue pour garantir que la réglementation en matière de technologies financières suit le rythme des innovations dans l’industrie.