14 novembre 2024
Aujourd’hui, la CODP a présenté un mémoire au Comité permanent de la justice sur le projet de loi 194, Loi de 2024 visant à renforcer la cybersécurité et la confiance dans le secteur public pour demander l'intégration des principes des droits de la personne dans l'utilisation de l'intelligence artificielle par le secteur public.
Les droits de la personne revêtent une importance fondamentale en Ontario. Le Code des droits de la personne est de nature quasi constitutionnelle, de sorte que les lois, règlements, politiques, procédures et programmes de l’Ontario, y compris le projet de loi 194, doivent tous être élaborés conformément au Code.
Depuis des années, la Commission surveille le développement des technologies numériques et leur impact sur les droits de l'homme. Intégrant une approche fondée sur les droits de la personne, elle a travaillé avec les secteurs public et privé, y compris les régulateurs, les entreprises, les ministères, et poursuit son travail avec le Ministère des Services au public et aux entreprises et Approvisionnement, pour plaider en faveur de lignes directrices rigoureuses en matière d'IA.
En vertu du Code, les occasions, avantages et protections associés à l’utilisation de l’IA doivent être accessibles à tous les Ontariens et Ontariennes, sans discrimination. Le projet de loi 194 a pour objectif déclaré de protéger les Ontariennes et les Ontariens, et il représente un bon point de départ dans ce but. Le projet de loi doit toutefois comprendre des éléments clés afin que les protections qu’il prévoit répondent aux normes établies dans le Code.
Il est nécessaire de prévoir des mesures de protection des droits de la personne afin de prévenir les préjudices causés par l’IA. Dans le monde, l’utilisation de l’IA par des entités du secteur public a déjà causé de graves préjudices à des particuliers et communautés, y compris de la discrimination fondée sur la race, le sexe et d’autres caractéristiques personnelles.
L’utilisation des technologies de l’IA reproduit et même, dans certains cas, intensifie la discrimination. Par exemple :
- Aux États-Unis, des systèmes de santé utilisant l’IA pour établir une cote de risque ont affecté moins de ressources aux patients noirs qu’aux patients blancs présentant des besoins semblables.
- Aux Pays-Bas, 20 000 familles ont fait l’objet d’une enquête injustifiée au moyen d’un système algorithmique pour avoir réclamé frauduleusement des allocations pour enfants. On a observé que « des dizaines de milliers de familles, dont beaucoup avaient des revenus modestes ou étaient issues de minorités ethniques, ont sombré dans la pauvreté à cause des énormes sommes qu’elles devaient rembourser au fisc. Certaines victimes se sont suicidées, et plus d’un millier d’enfants ont été placés en famille d’accueil ».
Comme le décrivent les observations écrites de la Commission, il existe de nombreux autres exemples de situations aux conséquences fâcheuses et tragiques.
Une loi axée sur les droits de la personne permet de protéger les communautés ontariennes tout en comportant des retombées économiques positives. La protection des droits de la personne est vitale pour la prospérité économique de l’Ontario. L’Organisation de coopération et de développement économiques (OCDE) a fait de la protection des droits de la personne l’un de ses cinq Principes sur l’IA pour « promouvoir l’utilisation d’une IA qui est innovante et fiable et qui respecte les droits de la personne et les valeurs démocratiques ».
Certains territoires de compétence adoptent des lois sur l’IA qui privilégient les droits de la personne afin de les aligner de façon proactive sur les normes internationales, se positionnant ainsi pour attirer des investissements et être considérés comme des chefs de file du développement éthique de l’IA. L’Ontario peut être un chef de file en créant un cadre réglementaire solide qui aidera les talents d’ici à créer des produits et services d’IA qui intéresseront une clientèle du monde entier.
Il est vital de donner suite aux recommandations de la CODP pour répondre à des préoccupations fondamentales concernant le projet de loi 194. Le projet de loi 194 ne mentionne pas les droits de la personne ni les protections que confère le Code des droits de la personne. Ces protections doivent être intégrées dans la loi elle-même, comme elles l’ont été dans la Loi de 2019 sur la refonte complète des services de police de l’Ontario, dont l’un des principes est le suivant :
« L’importance de préserver les droits et libertés fondamentaux garantis par la Charte canadienne des droits et libertés et le Code des droits de la personne. »
De plus, la Commission recommande au gouvernement d’adopter une approche de la réglementation de l’IA qui est fondée sur des principes, et selon laquelle l’utilisation de l’IA devrait être valide, fiable, sûre, respectueuse de la vie privée, transparente, responsable, protectrice des droits de la personne.
Le projet de loi 194 devrait être assorti de règlements établissant les exigences en matière d’explicabilité à respecter avant de pouvoir utiliser un système d’IA. L’Union européenne et les États-Unis se sont engagés à prévoir de telles exigences. Le projet de loi 194 doit établir clairement les fins auxquelles les technologies de l’IA seront interdites, et il doit également être explicite quant au rôle du gouvernement et aux gestes qu’il posera, dans l’intérêt public, si une entité du secteur public continue d’utiliser une technologie qui s’est révélée peu fiable, dangereuse ou illégale.
Enfin, le projet de loi 194 doit se concentrer sur les services de police et les services d’aide sociale, étant donné leur impact considérable sur les communautés marginalisées et les secteurs déjà désignés que sont les écoles, les sociétés d’aide à l’enfance et les hôpitaux.
Il faut donner suite aux recommandations formulées lors des consultations. Il est essentiel de consulter, mais il est également important de donner suite aux résultats des consultations, notamment auprès de la Commission et d’autres organismes de réglementation, experts et communautés en les incluant dans des versions futures du projet de loi.
En résumé, les recommandations de la CODP sont fondamentales, et c’est pourquoi il y a lieu de les inclure dans la loi elle-même plutôt que dans des règlements. L’Ontario est un chef de file des droits de la personne. Il peut le rester en réglementant l’utilisation de l’IA en fonction de principes fondés sur les droits de la personne.
La CODP se fera un plaisir de participer à d’autres consultations sur ce projet de loi ou ses règlements d’application éventuels, ainsi que de répondre à vos questions.
Patricia DeGuire
Commissaire en chef
Commission Ontarienne des drois de la personne