Un groupe d’experts en technologies de l’information et en droits humains sonne l’alarme sur les dangers de l’utilisation par le fédéral de l’intelligence artificielle (IA) pour traiter des demandes d’immigration.
Un rapport du Citizen Lab et du Programme international des droits de l'homme (IHRP) de l’Université de Toronto publié mercredi conclut qu’un recours malavisé à l’IA peut exacerber les cas de discrimination auxquels feraient face les membres de communautés vulnérables qui tentent de venir au Canada.
«Sans une analyse critique en termes de droits de l'homme, l’utilisation de programmes qui permettent une prise de décision automatisée peut entraîner des violations d’une variété de droits, comme celui à l’égalité et à la non-discrimination; la liberté de mouvement, de religion et d’association», énumèrent les auteurs.
Ceux-ci ajoutent que le recours à de telles technologies pourrait aussi brimer la protection de renseignements personnels et la sécurité d’individus.
Les chercheurs recommandent ainsi, parmi sept propositions, de mettre sur la glace tout effort d’approvisionnement et de développement de programmes d’IA automatisant, partiellement ou entièrement, la prise de décision des agents en immigration.
L’étude soutient que les risques évoqués sont à nos portes, puisqu’un analyste d’Immigration, Réfugiés et Citoyenneté Canada (IRCC) aurait confirmé au groupe de chercheurs que l’IA était déjà employée. Cette source aurait expliqué que la technologie permet d’effectuer un «triage» pour certaines demandes et facilite ainsi l’identification de possibles cas qui doivent être révisés, pour des soupçons de fraude par exemple.
IRCC a de son côté affirmé à l’Agence QMI que les programmes existants ne se résument qu’à deux projets-pilotes lancés depuis le début de l’année pour trier les demandes de visas pour résidence temporaire en provenance de la Chine et de l’Inde.
«L’analytique informatisée ne vise pas à remplacer des gens, a assuré Mathieu Genest, l’attaché de presse du ministre de l’Immigration Ahmed Hussen. Il s’agit simplement d’un autre outil susceptible d’aider les agents et autres employés à gérer le volume sans cesse croissant de demandes. Les agents demeureront toujours au centre des processus de traitement d’IRCC.»
Commentaires
