À partir de quand un assistant basé sur l’IA de type agent conversationnel devient-il un agent conversationnel réglementé? À partir de quand un assistant basé sur l’IA de type agent conversationnel devient-il un agent conversationnel réglementé?

Comme nous l’avons évoqué dans un bulletin d’actualités précédent, le projet de loi C‑34 édicterait la Loi sur la sécurité numérique (LSN) et la Loi sur la Commission canadienne de la sécurité numérique, un vaste régime de sécurité en ligne couvrant les services de réseaux sociaux, les services d’agents conversationnels et d’autres services en ligne précisés dans de futurs règlements. L’inclusion des services d’agents conversationnels est particulièrement significative, car le projet de loi C‑34 établirait un cadre législatif imposant aux exploitants de services d’agents conversationnels basés sur l’IA réglementés des obligations directes en matière de sécurité, notamment des obligations relatives aux contenus préjudiciables, au comportement des agents conversationnels et à la transparence.

Le nouveau cadre législatif ne se limite pas aux produits commercialisés sous l’appellation d’« agent conversationnel » ou de « compagnon IA ». On prévoit plutôt que la LSN s’étendra aux assistants basés sur l’IA à usage général et aux interfaces conversationnelles intégrées à de nombreux autres services numériques. Dans le présent bulletin d’actualités Osler, nous examinons quels services d’agents conversationnels seront réglementés. Dans un prochain bulletin, nous décrirons les obligations de conformité applicables aux services réglementés. 

Qu’est-ce qu’un « service d’agent conversationnel »?

Selon le projet de loi C‑34, un « service d’agent conversationnel » s’entend d’un « système d’intelligence artificielle qui :

1. communique par Internet;
2. est accessible par un site Web ou une application disponibles au public au Canada;
3. emploie une interface en langage naturel pour fournir, en mode conversationnel, des réponses qui sont adaptatives et qui pourraient avoir été formulées par un être humain aux entrées effectuées par un utilisateur;
4. peut être utilisé pour simuler, par de multiples interactions ou lors de multiples séances, des relations durables semblables à celles que forment les êtres humains entre eux, notamment des relations qui pourraient ressembler à de l’amitié, de l’intimité ou de l’accompagnement thérapeutique;
5. crée des contenus ou réponses qui ne sont pas entièrement préconçus par le développeur du système ou par la personne qui exploite le système. »

Les cinq éléments de la définition sont cumulatifs, les éléments a), b), c) et e) étant satisfaits par des systèmes d’IA largement utilisés, tels que ChatGPT d’OpenAI et Claude d’Anthropic. Ces systèmes d’IA conversationnels infonuagiques communiquent par Internet et sont accessibles par un site Web ou une application disponibles au public. De plus, ils s’appuient sur de grands modèles de langage, qui emploient des interfaces en langage naturel et fournissent des réponses qui sont adaptatives, qui sont semblables à celles que forment les êtres humains entre eux et qui ne sont pas entièrement prédéterminées. Même un service payant, ou nécessitant une inscription, est susceptible de satisfaire à ces éléments de la définition s’il est proposé au public en général. En revanche, un assistant en interne réservé au personnel de l’entreprise ne le serait probablement pas.

Cette définition semble s’inspirer de concepts intégrés à des lois sur les agents conversationnels de compagnie et l’IA conversationnelle récemment adoptées par divers États des États-Unis. Par exemple, bien qu’elles diffèrent en raison de leur champ d’application et leur formulation, la définition d’« agent conversationnel de compagnie » (companion chatbot) de l’État de la Californie et celle d’« agent conversationnel de compagnie basé sur l’IA » (AI companion chatbot) de l’État de Washington font toutes deux référence à une interface en langage naturel qui fournit des réponses qui sont adaptatives et qui pourraient avoir été formulées par un être humain, ainsi qu’à la capacité de simuler, par de multiples interactions, des relations durables^[1].

La capacité plutôt que l’intention ou le résultat

L’élément le moins certain de la définition de service d’agent conversationnel est l’alinéa d), qui restreint les services d’agents conversationnels à un système d’IA pouvant être utilisé pour simuler des relations durables semblables à celles que forment les êtres humains entre eux.

L’expression « peut être utilisé » confère à la définition une portée considérable. Le projet de loi C‑34 n’exige pas qu’un système soit conçu, commercialisé ou principalement utilisé dans le but de nouer des relations semblables à celles que forment les êtres humains entre eux. De même, il n’exige pas que les utilisateurs aient effectivement noué des relations semblables à celles que forment les êtres humains entre eux. Le critère porte plutôt sur la capacité : le service peut-il être utilisé pour simuler, par de multiples interactions ou lors de multiples séances, des relations semblables à celles que forment les êtres humains entre eux?

Certains services sont plus susceptibles que d’autres de relever de la définition de service d’agent conversationnel. Les compagnons IA explicitement conçus pour simuler de l’amitié, de l’intimité ou de l’accompagnement thérapeutique en seraient de parfaits exemples, car ce sont précisément les cas d’utilisation que l’élément d) semble vouloir couvrir.

Pour d’autres services, c’est moins certain. Prenons l’exemple des entraîneurs personnels virtuels qui motivent l’utilisateur de façon continue et suivent ses progrès, des tuteurs linguistiques ou scolaires qui s’adaptent aux styles d’apprentissage des élèves et les encouragent en cas de revers, ou encore des mentors professionnels qui fournissent un accompagnement personnalisé qui s’inscrit dans la durée. Aucun de ces services n’est commercialisé en tant que compagnon, mais chacun d’entre eux peut simuler, par des interactions répétées, des relations durables semblables à celles que forment les êtres humains entre eux.

La situation est tout aussi incertaine pour un assistant à usage général commercialisé à des fins de recherche, de rédaction, de programmation ou de productivité, capable de mémoriser les préférences d’un utilisateur, d’adopter la personnalité demandée, de répondre avec empathie aux confidences personnelles et de maintenir des conversations d’une séance à l’autre. Suffit-il qu’un utilisateur puisse inciter un tel système à se comporter comme un thérapeute? Dans quelle mesure cette capacité doit-elle être raisonnablement prévisible dans le cadre d’une utilisation normale, et un système d’IA peut-il rester en dehors de la définition de service d’agent conversationnel si ses conditions d’utilisation interdisent les usages de type « compagnon », ou si des mesures de sécurité techniques rendent ces usages difficiles?

Les lois sur les agents conversationnels des États-Unis semblent varier quant aux critères utilisés pour déterminer quels systèmes sont concernés, notamment l’intention de conception, la fonction prédominante et la capacité. Par exemple, les lois de l’État de New York et de l’Oregon limitent leur champ d’application aux systèmes « conçus » (designed) pour simuler des relations durables semblables à celles que forment les êtres humains entre eux grâce à la mémorisation d’interactions antérieures, à des questions non sollicitées liées aux émotions et à un dialogue personnel continu^[2]. L’Idaho couvre les systèmes qui simulent « principalement » (primarily) les conversations et les interactions humaines^[3]. Les lois de la Californie et de l’État de Washington mettent l’accent sur la capacité, bien que la Californie limite sa définition aux systèmes capables de « répondre aux besoins sociaux d’un utilisateur » (meeting a user’s social needs)^[4].

Bien qu’elle ne soit pas directement comparable, l’approche du projet de loi C‑34 contraste également avec la Loi sur l’intelligence artificielle de l’Union européenne, où la « destination » joue un rôle central dans la classification, tandis que la « mauvaise utilisation raisonnablement prévisible » détermine la portée des obligations en matière de gestion des risques.

Qu’entend-on par « relations durables semblables à celles que forment les êtres humains entre eux »?

La définition de service d’agent conversationnel dans le projet de loi C‑34 repose également sur ce qui constitue des « relations durables semblables à celles que forment les êtres humains entre eux ». Le terme « durables » implique une continuité au-delà d’une simple interaction, bien que le projet de loi C‑34 ne prescrive pas de durée ou de fréquence minimale. La notion de « relations semblables à celles que forment les êtres humains entre eux » suggère qu’il ne suffit pas de paraître humain. Des caractéristiques telles que la mémoire des interactions antérieures, la personnalisation et l’utilisation d’un langage émotionnel pourraient toutes contribuer à des relations semblables à celles que forment les êtres humains entre eux. Il convient de noter que le projet de loi ne précise pas si la continuité doit être créée par le système d’IA lui-même (par exemple, grâce à la mémoire des interactions antérieures) ou si elle peut au contraire être assurée par l’utilisateur au fil des interactions.

La manière dont cet élément de la définition sera interprété reste floue. Prenons l’exemple d’un agent conversationnel de service client qui se souvient des plaintes formulées antérieurement par un utilisateur, adapte son ton en fonction de son niveau de frustration et assure un suivi sur plusieurs séances. Un tel service peut s’avérer plus difficile à classer qu’un agent bancaire transactionnel, même si aucun des deux n’est commercialisé comme un compagnon ni conçu pour simuler des relations.

En comparaison, les lois de l’État de New York et de l’Oregon s’appliquent aux systèmes d’IA conçus pour simuler des relations durables semblables à celles que forment les êtres humains entre eux par des moyens précis, à savoir la conservation de renseignements concernant les interactions ou séances antérieures et les préférences à des fins de personnalisation et d’engagement continu, le fait de poser des questions non sollicitées fondées sur les émotions allant au-delà des réponses directes aux invites, et le maintien d’un dialogue continu sur des sujets personnels concernant l’utilisateur^[5].

Servir « exclusivement » un but prévu

Le projet de loi C‑34 permettrait aux futurs règlements d’exclure les systèmes d’IA qui servent « exclusivement » un but prévu. Cette exclusion reposant sur l’exclusivité, un système d’IA doit servir un seul but et nul autre pour être admissible. Les systèmes à usage général ou les systèmes polyvalents semblent peu susceptibles d’être admissibles.

En revanche, plusieurs lois sur les agents conversationnels des États-Unis définissent leurs exclusions selon plusieurs critères plutôt que sur la seule base de l’exclusivité. Parmi les autres facteurs pris en compte figurent le fait qu’un système soit « principalement conçu et commercialisé » (primarily designed and marketed) pour un but ou un groupe d’utilisateurs donné, le fait que le service soit une fonctionnalité intégrée à une autre application, les contraintes fonctionnelles du service et la catégorie de produit à laquelle il appartient.

De service d’agent conversationnel à service d’agent conversationnel réglementé

L’examen de la définition de « service d’agent conversationnel » ne constitue que la première étape pour déterminer si le projet de loi C‑34 réglemente un service particulier. Selon le projet de loi, est un « service d’agent conversationnel réglementé » le service d’agent conversationnel qui respecte l’une des conditions suivantes :

1. il compte un nombre d’utilisateurs égal ou supérieur au nombre d’utilisateurs significatif prévu par règlement;
2. il compte un nombre d’utilisateurs inférieur au nombre d’utilisateurs prévu par règlement, mais le gouverneur en conseil le désigne comme service d’agent conversationnel réglementé parce qu’il est convaincu que ce service présente un risque important de préjudice pour les individus au Canada.

Des seuils différents peuvent s’appliquer à différents types de services. Le libellé suggère également que l’ampleur et le risque constituent des considérations distinctes. Un service de moindre envergure, conçu autour de rencontres intimes ou d’un accompagnement thérapeutique, pourrait devenir un service réglementé même s’il compte un nombre d’utilisateurs inférieur au nombre d’utilisateurs généralement prévu par règlement.

La suite des choses

Le projet de loi C‑34 reflète une vision émergente selon laquelle l’IA conversationnelle présente des risques particuliers lorsqu’elle devient persistante, personnalisée et relationnelle. Les organisations offrant des interfaces conversationnelles basées sur l’IA au Canada devraient commencer à évaluer non seulement les fonctions prévues de leurs systèmes, mais également les relations que ces systèmes peuvent simuler. Dans un prochain bulletin, nous examinerons qui peut être considéré comme un « exploitant » d’un service d’agent conversationnel réglementé et quelles seront les obligations dont un tel exploitant devra s’acquitter.

Série d’Osler sur les préjudices en ligne : Consultez les autres bulletins de la série d’Osler sur les préjudices en ligne pour vous tenir informé de l’évolution du cadre canadien en matière de sécurité en ligne, de réglementation des plateformes et de protection de la vie privée des enfants : Le projet de loi C‑34 en bref : la nouvelle Loi sur la sécurité numérique du Canada (août 2026); La nouvelle Loi sur les préjudices en ligne (C-63) du Canada : ce qu’il faut savoir (mars 2024).

---

[1] Cal. Bus. & Prof. Code, div. 8, ch. 22.6 (Companion Chatbots); Wash. Rev. Code, ch. 19.440 (Artificial Intelligence—Companion Chatbots) (entrée en vigueur le 1^er janvier 2027).

[2] N.Y. Gen. Bus. Law, art. 47 (Artificial Intelligence Companion Models); 2026 Or. Laws, ch. 85 (An Act relating to artificial intelligence companions) [PDF] (entrée en vigueur le 1^er janvier 2027)

[3] Idaho Code, tit. 48, ch. 22 (Conversational AI Safety Act) (entrée en vigueur le 1^er juillet 2027).

[4] Cal. Bus. & Prof. Code, ch. 22.6; Wash. Rev. Code, ch. 19.440.

[5] N.Y. Gen. Bus. Law, art. 47; 2026 Or. Laws, ch. 85.