Le Canada doit réglementer l’IA

En bref

La disposition législative est nécessaire pour protéger les utilisateurs contre son potentiel non vérifié, en particulier dans le contexte de l’immigration, où des décisions automatisées peuvent entraîner des conséquences importantes sur la vie des gens. (Veuillez noter que le mémoire est disponible uniquement en anglais; les citations qui en sont tirées sont des traductions.)

La Section du droit de l’immigration de l’ABC accueille favorablement les récents efforts du gouvernement fédéral en matière d’IA et son engagement déclaré quant au déploiement sécuritaire des technologies. Mais il faut faire plus et rapidement.

« Afin de s’assurer que les énormes avantages des systèmes automatisés soient réalisés, il est essentiel que ces derniers soient harmonisés avec les valeurs démocratiques tout en protégeant les droits de la personne, les libertés fondamentales et la vie privée des gens », indique la lettre de l’ABC.

À ce jour, fait remarquer la section, « il n’y a toujours pas de loi applicable au Canada et la LIPR [Loi sur l’immigration et la protection des réfugiés] n’a pas été modifiée de façon à régir les utilisations de l’IA dans le contexte de l’immigration ». Le Canada doit combler le retard dans « la gouvernance des données, l’accessibilité et l’infrastructure pour exploiter le potentiel des systèmes d’IA et demander la collaboration tant au niveau national qu’international sur la gouvernance des données pour assurer l’uniformité et l’interopérabilité ».

Principes directeurs

L’IA peut être un outil puissant pour rationaliser la gestion de cas, appuyer la recherche et améliorer le processus décisionnel. Toutefois, dans le contexte de l’immigration, la section prévient que « la technologie de l’IA peut empêcher l’exclusion et promouvoir les préjugés conscients ou inconscients dans son application ».

Lorsqu’il élaborera un cadre législatif en matière d’IA, le gouvernement devrait s’inspirer du forum international Nations numériques, constitué en 2014 pour aider les pays à développer des gouvernements numériques améliorés. Les principes sont les suivants :

1. 1. Promouvoir la transparence sur comment, pourquoi et quand l’IA est utilisée.
    
2. Donner la priorité aux besoins des individus et des communautés, notamment les peuples autochtones, et prendre en compte les avantages institutionnels et publics de l’IA.
    
3. Évaluer et atténuer les risques de l’IA pour les droits juridiques et les normes démocratiques dès le début du cycle de vie des systèmes d’IA et après leur lancement.
    
4. Veiller à ce que les données d’apprentissage ou autres données d’entrée utilisées par les systèmes d’IA soient légalement collectées, utilisées et divulguées, en tenant compte des droits applicables en matière de protection de la vie privée et de la propriété intellectuelle.
    
5. Évaluer les résultats des systèmes d’IA, notamment les outils génératifs, afin de minimiser les biais et les inexactitudes, et permettre aux utilisateurs de faire la distinction entre les résultats de l’IA et ceux ayant été générés par les humains.
    
6. Publier des évaluations des incidences juridiques ou éthiques, le code source, des données d’apprentissage, des audits ou des examens indépendants, ou d’autres documents pertinents sur les systèmes d’IA, tout en protégeant la vie privée, la sécurité gouvernementale et nationale, et la propriété intellectuelle.
    
7. Expliquer les décisions automatisées aux personnes concernées et leur donner la possibilité de les contester et de demander réparation, ce qui pourrait impliquer un examen humain, le cas échéant.
    
8. Encourager la création d’environnements d’essai contrôlés pour favoriser la recherche et l’innovation responsables.
    
9. Mettre en place des mécanismes de contrôle pour les systèmes d’IA afin de garantir la responsabilité et de favoriser un suivi et une gouvernance efficaces tout au long du cycle de vie.
    
10. Évaluer et atténuer les incidences sur l’environnement de la formation et de l’utilisation des systèmes d’IA et, le cas échéant, opter pour des systèmes à zéro émission.
     
11. Former les fonctionnaires qui développent ou utilisent l’IA afin qu’ils comprennent les enjeux juridiques, éthiques et opérationnels, notamment la protection de la vie privée et la sécurité, et qu’ils soient en mesure d’adopter des systèmes d’IA de manière responsable.
     
12. Créer des processus pour une mobilisation publique inclusive et significative sur les politiques ou les projets d’IA en vue de sensibiliser, d’instaurer la confiance et de réduire la fracture numérique.

La section se tient prête à appuyer les efforts pour s’assurer que le Canada demeure un leader mondial dans l’utilisation sécuritaire, efficace et respectueuse des droits de l’intelligence artificielle dans le contexte de l’immigration.

Lire le mémoire (disponible uniquement en anglais).