Droits de la personne
Choses à savoir
- En l’absence de mesures de protection contre les biais et la discrimination, les systèmes d’IA pourraient entraîner ou perpétuer des atteintes aux droits de la personne qui, en plus d’engager la responsabilité des parties concernées, pourraient éroder la confiance entre les parties prenantes touchées.
- Les droits de la personne sont protégés par la législation applicable en la matière. En Ontario, la loi applicable est le Code des droits de la personne, L.R.O. 1990, chap. H.19 (le « CDPO »). Le CDPO vise expressément à protéger les personnes contre la discrimination dans divers aspects de la vie publique, tels que l’emploi, le logement et les services.
- Le Canada est signataire de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit. Cette convention vise à garantir que les systèmes d’IA sont compatibles avec les droits de la personne, la démocratie et l’État de droit sans entraver le progrès technologique et l’innovation. Elle entrera en vigueur dès que cinq États, dont au moins trois États membres du Conseil de l’Europe, auront accepté d’être juridiquement liés par elle.
- La Commission du droit de l’Ontario et la Commission ontarienne des droits de la personne ont publié un outil d’évaluation de l’impact de l’IA sur les droits de la personne. Cet outil fournit aux entreprises un cadre d’évaluation des modèles et systèmes d’IA permettant de s’assurer que ceux-ci sont conformes à la législation en matière de droits de la personne.
- Les entreprises sont responsables des extrants générés par les modèles et systèmes d’IA qu’elles utilisent. En général, il peut être difficile pour les utilisateurs de tels modèles et systèmes de transférer la responsabilité des violations de la législation relative aux droits de la personne aux fournisseurs des modèles ou des systèmes en question.
Choses à faire
- Déterminer si, et dans quelle mesure, un modèle ou un système d’IA peut présenter des risques de non-conformité ou de litige en vertu des lois canadiennes sur les droits de la personne, notamment en matière d’embauche, de gestion du rendement et de licenciement.
- S’assurer que les lois et politiques en matière de droits de la personne sont prises en compte dans la conception ou la mise en œuvre des modèles et des systèmes d’IA.
- Comprendre les conditions d’utilisation d’un outil d’IA qui régissent le traitement des données saisies dans l’outil, ainsi que toute obligation contractuelle ou légale envers des tiers qui pourrait avoir une incidence sur l’utilisation de l’outil.
- Élaborer des politiques et des procédures permettant de tester les biais tout au long du cycle de vie d’un modèle ou d’un système d’IA, ainsi que des stratégies d’atténuation des biais, s’il y en a.
- S’assurer que toutes les parties prenantes concernées au sein de l’entreprise, telles que les ressources humaines, les services juridiques et les services informatiques, soient associées au repérage des risques et des stratégies d’atténuation des risques.
- S’assurer que les modèles et systèmes d’IA ne sont pas des « boîtes noires » (afin de pouvoir expliquer pourquoi une décision a été prise, notamment en invoquant des raisons objectives et non discriminatoires).
- S’assurer que les questions relatives à la protection des renseignements personnels, à la confidentialité et au secret professionnel sont prises en compte avant d’utiliser des outils d’évaluation d’impact ou des outils similaires de tiers.
Ressources utiles
- « Évaluation de l’impact de l’intelligence artificielle sur les droits de la personne » [PDF], Commission du droit de l’Ontario et Commission ontarienne des droits de la personne, novembre 2024
- « Human Rights AI Impact Assessment Backgrounder » [PDF; en anglais], Commission du droit de l’Ontario, mars 2025
- « Directive sur la prise de décisions automatisée », Gouvernement du Canada, 24 juin 2025
- « Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle », Conseil de l’Europe
Suivant
