Résumé
Récemment, Juliette Nicolet, directrice des politiques, de l'éducation, de la surveillance et de la sensibilisation à la OHRC, et Patricia Kosseim, Commissaire de l'IPC en Ontario, ont participé à une entrevue à Radio-Canada, dans le cadre de l'émission « Le matin du Nord », au sujet des principes pour une utilisation responsable de l'IA en Ontario.
02:35:09. Éric Robitaille: On peut vous suivre sur TikTok, mais surtout que vous écoutez le vendredi au Matin du Nord. Grand merci d’avoir été là. Bonne fin de semaine!Merci, à bientôt. Vous écoutez le Matin du Nord. On va parler maintenant de sécurité concernant le développement des technologies,les avancées spectaculaires de l’intelligence artificielle qui bouleverse nos réalités en accéléré dans les dernières années. De plus en plus d’outils voient le jour, de plus en plus de compagnies optent d’investir dans l’intelligence artificielle qui est vraiment rendue partout. Et comme toute technologie, ça représente de nombreux avantages. C’est prodigieusement utile, mais c’est aussi porteur de dangers tout aussi immenses, notamment pour la vie privée et les droits de la personne. C’est pour ça que l’Ontario a maintenant des principes pour guider l’adoption responsable des systèmes d’intelligence artificielle, principes qui ont été adoptés conjointement par les deux organismes qui ont délégué les invités que je vous présente maintenant. D’abord, Patricia Kosseim, qui est commissaire à l’information et à la protection de la vie privée en Ontario. Bonjour, Mme Kosseim.
02:36:13. Patricia Kosseim: Bonjour, Éric.
02:36:14. Éric Robitaille: Et aussi avec nous, Juliette Nicolet, qui est directrice des politiques éducation-sensibilisation à la Commission ontarienne des droits de la personne. Bonjour, Mme Nicolet. Bonjour, Éric. D’abord, juste pour bien comprendre quels secteurs, quels organismes vont être l’objet des balises que vous avez établies, Patricia, précisez-nous,la mission, la commande qu’on vous a confiée, c’est pour encadrer l’intelligence artificielle dans quel contexte?
02:36:42. Patricia Kosseim: C’est justement dans le contexte du secteur public en Ontario.
02:36:47. Éric Robitaille : Donc, tout ce qui est ministère ou même les agences engagées par les ministères?
02:36:51. Patricia Kosseim : Exactement, exactement.
02:36:53. Éric Robitaille : Et Juliette, qu’est-ce que ça a été votre rôle à vous précisément dans ces protocoles que vous avez établis?
02:36:59. Juliette Nicolet : Eh bien, on est très contents et satisfaits de la relation qu’on a avec la CIPVP. Nous avons travaillé en détail,en collaboration à l’élaboration des principes et nous estimons que ce sont des principes qui aideront surtout à avancer la confiance du public dans l’utilisation de l’intelligence artificielle dans le milieu public.
02:37:22. Éric Robitaille : Patricia, expliquez-nous quels étaient les dangers, les périls que vous aviez identifiés, avant qu’on parle des solutions et des balises.
02:37:30. Patricia Kosseim: C’est sûr que, comme vous l’avez mentionné, ça apporte énormément de potentiel et de bénéfices, mais aussi des risques. notamment des risques aux droits de la personne, des risques à l’équité, des risques de discrimination,ainsi que des risques à la sécurité des renseignements personnels et la vie privée des Ontariens. Donc, c’est ça, justement, que nous cherchons à minimiser avec ces lignes directrices.
02:37:57. Éric Robitaille: Alors, Juliette, parlez-nous maintenant de ce que vous avez établi comme ligne directrice, justement.
02:38:02. Juliette Nicolet: Eh bien, les principes sont clairs. Nous estimons que l’utilisation de l’intelligence artificielle, les systèmes-mêmes doivent être valides et fiables, ils doivent être sûrs, ils doivent être respectueux de la vie privée,ils doivent protéger les droits de la personne, ils doivent être transparents et responsables. Et ce faisant, je crois que ce qu’a dit la commissaire est très vrai. Nous voyons, nous envisageons cette grande innovation qui est en train de bouleverser les vies et la société. C’est inévitable. Et il faut simplement poser des balises rigoureuses pour s’assurer que la vie privée et les droits de la personne soient protégés tout en avançant.
02:38:43. Éric Robitaille: Alors, là, je me retourne vers la commissaire, Patricia Kosseim. On a bien entendu les principes, mais dans le concret, qu’est-ce que ça va donner comme geste, comme adaptation, comme outil fourni au ministère, aux organismes pour éviter les dérapages et les dangers?
02:38:58. Patricia Kosseim: Les lignes directrices, je pense, offrent des paramètres pour les institutions qui cherchent à développer ou utiliser cette technologie. Je pense que nous avons élaborédes lignes directrices qui sont pratiques et qui divulguent de façon très transparente nos attentes en tant que régulateurs de droits privés et des droits de la personne.
02:39:23. Éric Robitaille: Donc, les systèmes d’intelligence artificielle doivent être valides, fiables, sûrs, respectueux de la vie privée, protéger les droits de la personne, transparent, responsable. Est-ce qu’on a des modèles ailleurs, Juliette?Vous avez établi la politique pour l’Ontario, mais est-ce qu’on s’est inspiré de formules qui fonctionnent ou qui ne fonctionnent pas ailleurs et qu’on a voulu corriger?
02:39:42. Juliette Nicolet : Évidemment, nous avons regardé un large éventail de ressources, de lois et de cadres sur l’intelligence artificielle au niveau provincial,national et international. C’est un contexte très nouveau. On perçoit partout la nécessité d’un encadrement. D’autre part, la commission des droits de la personne de l’Ontario avec la commission du droit d’Ontario,nous avons lancé ensemble en 2024 un outil d’évaluation de l’impact sur l’intelligence artificielle qui est conçu pour aider à évaluer,à atténuer les répercussions sur les droits de la personne des systèmes de l’IA dans un très large éventail d’applications, soit dans le secteur public que le secteur privé.
02:40:30. Éric Robitaille : J’ai cru comprendre, Juliette, qu’on a insisté sur le fait qu’il ne faut pas laisser l’intelligence artificielle travailler seule, donc que ça prend toujours un encadrement d’êtres humains qui connaissent l’outil,qui peuvent s’assurer que les balises sont respectées.
02:40:44. Juliette Nicolet : Oui, que ce soit un être humain ou une machine, on ne peut pas s’exempter de responsabilité par rapport aux obligations en matière de droit à la vie privée, protection des données,droit de la personne. Et donc,le travail à faire est d’identifier et d’éliminer de manière proactive ces problèmes dans la conception et la mise en œuvre des systèmes d’IA fondés sur des motifs protégés par le Code des droits de la personne ainsi que sur la protection des données et la vie privée.
02:41:14. Éric Robitaille : Juliette Nicolet, vous êtes directrice des politiques, éducation, sensibilisation à la Commission ontarienne des droits de la personne. Patricia Kosseim, vous êtes commissaire à l’information et à la protection de la vie privée de l’Ontario. Un immense merci à vous deux d’avoir pris du temps pour nous ce matin.
02:41:28. Patricia Kosseim: Bonne journée. Merci à vous.
02:41:30. Éric Robitaille: Vous écoutez le Matin du Nord.