{"id":16350,"date":"2023-08-29T15:41:46","date_gmt":"2023-08-29T19:41:46","guid":{"rendered":"https:\/\/cila.co\/la-technologie-de-reconnaissance-faciale-de-lia-dans-le-systeme-dimmigration-canadien\/"},"modified":"2023-08-29T15:41:46","modified_gmt":"2023-08-29T19:41:46","slug":"la-technologie-de-reconnaissance-faciale-de-lia-dans-le-systeme-dimmigration-canadien","status":"publish","type":"post","link":"https:\/\/cila.co\/fr\/la-technologie-de-reconnaissance-faciale-de-lia-dans-le-systeme-dimmigration-canadien\/?lang=fr","title":{"rendered":"La technologie de reconnaissance faciale de l’IA dans le syst\u00e8me d’immigration canadien"},"content":{"rendered":"

Cet article a \u00e9t\u00e9 r\u00e9dig\u00e9 par Gideon Christian PhD,<\/strong><\/em> est un sp\u00e9cialiste de la race critique et un professeur adjoint d’intelligence artificielle et de droit (AI and Law) \u00e0 la facult\u00e9 de droit de l’universit\u00e9 de Calgary. Ses recherches visent \u00e0 mettre en \u00e9vidence les pr\u00e9jug\u00e9s raciaux dans les technologies d’intelligence artificielle. <\/em><\/p>\n

L’adoption rapide de la technologie de l’intelligence artificielle (IA) impr\u00e8gne le secteur public canadien, qu’il s’agisse de l’application du droit p\u00e9nal ou du droit de l’immigration. L’IA est aujourd’hui de plus en plus d\u00e9ploy\u00e9e et utilis\u00e9e dans divers aspects du syst\u00e8me d’immigration canadien. Des informations r\u00e9centes provenant d’un litige devant la Cour f\u00e9d\u00e9rale sur l’utilisation de la technologie de reconnaissance faciale de l’IA dans l’application du droit de l’immigration, en particulier dans la r\u00e9vocation du statut de r\u00e9fugi\u00e9, ont choqu\u00e9 de nombreux membres de la communaut\u00e9 du droit de l’immigration, ce qui a donn\u00e9 lieu \u00e0 des appels \u00e0 l’ouverture et \u00e0 la transparence dans l’utilisation de la technologie par le gouvernement. Cet article examine les d\u00e9veloppements r\u00e9cents de l’utilisation de la TFR dans le syst\u00e8me d’immigration du Canada, en particulier son impact sur les membres individuels de la soci\u00e9t\u00e9 canadienne caract\u00e9ris\u00e9e par la race. <\/p>\n

Technologie de reconnaissance faciale et pr\u00e9jug\u00e9s raciaux<\/strong><\/p>\n

La technologie de reconnaissance faciale (FRT) est une technologie biom\u00e9trique bas\u00e9e sur l’IA qui utilise la vision par ordinateur pour analyser et identifier les individus sur la base de leurs caract\u00e9ristiques faciales uniques. Elle utilise des algorithmes sophistiqu\u00e9s pour traiter les images et identifier des caract\u00e9ristiques uniques dans les images. Ces caract\u00e9ristiques uniques sont ensuite utilis\u00e9es pour comparer l’image \u00e0 d’autres images dans une base de donn\u00e9es afin d’identifier des images similaires ou identiques. Cette caract\u00e9ristique unique du FRT en fait un outil appropri\u00e9 pour la v\u00e9rification de l’identit\u00e9. Par exemple, dans le contexte de l’immigration, il peut \u00eatre utilis\u00e9 pour comparer les voyageurs aux photos figurant sur leurs documents de voyage. Dans le contexte des r\u00e9fugi\u00e9s, des faits tir\u00e9s d’un r\u00e9cent litige devant la Cour f\u00e9d\u00e9rale tendent \u00e0 sugg\u00e9rer que la technologie est d\u00e9sormais utilis\u00e9e par les autorit\u00e9s d’immigration pour comparer les photos des demandeurs d’asile dont la demande a \u00e9t\u00e9 accept\u00e9e avec les photos figurant dans la base de donn\u00e9es de l’immigration, afin de v\u00e9rifier l’identit\u00e9 des personnes. <\/p>\n

L’utilisation du TRS dans le secteur public a suscit\u00e9 de vives inqui\u00e9tudes quant \u00e0 sa propension \u00e0 perp\u00e9tuer les pr\u00e9jug\u00e9s raciaux et la discrimination. Le TRS a un taux de pr\u00e9cision presque parfait pour la reconnaissance des visages masculins blancs, avec un taux de pr\u00e9cision d’environ 99,2 %. Cependant, lorsqu’il s’agit de reconna\u00eetre des visages noirs et des visages de couleur, le taux de pr\u00e9cision chute de fa\u00e7on spectaculaire, le taux d’erreur le plus \u00e9lev\u00e9<\/a> \u00e9tant enregistr\u00e9 dans la reconnaissance des visages f\u00e9minins plus sombres, en particulier ceux des femmes noires. La tendance des r\u00e9sultats d’outils aliment\u00e9s par l’IA, tels que le FRT, \u00e0 \u00eatre biais\u00e9s au d\u00e9triment des personnes de couleur a \u00e9t\u00e9 qualifi\u00e9e de racisme algorithmique<\/a>. <\/p>\n

Le racisme algorithmique d\u00e9coulant de l’utilisation de l’IA-FRT peut provenir de donn\u00e9es disproportionn\u00e9es de personnes de couleur ou de personnes \u00e0 la peau plus fonc\u00e9e utilis\u00e9es dans l’entra\u00eenement de l’algorithme de l’IA-FRT, ce qui entra\u00eene une erreur d’identification. Ce probl\u00e8me a \u00e9t\u00e9 attribu\u00e9 au fait que le secteur de l’IA FRT est domin\u00e9 par les hommes blancs et que les donn\u00e9es d’entra\u00eenement utilis\u00e9es pour d\u00e9velopper l’algorithme sont principalement des images d’hommes blancs. Cela explique le taux \u00e9lev\u00e9 de pr\u00e9cision dans l’identification des Blancs par rapport aux personnes \u00e0 la peau plus fonc\u00e9e. Aux \u00c9tats-Unis, cette situation a donn\u00e9 lieu \u00e0 des arrestations injustifi\u00e9es r\u00e9sultant d’une fausse identification par l’IA FRT. Il n’est pas surprenant que tous les cas<\/a> document\u00e9s d’arrestation injustifi\u00e9e r\u00e9sultant d’une fausse identification aux \u00c9tats-Unis concernent des Noirs, le cas le plus r\u00e9cent<\/a> \u00e9tant celui d’une femme noire enceinte de huit mois. <\/p>\n

Le TFR dans la r\u00e9vocation du statut de r\u00e9fugi\u00e9<\/strong><\/p>\n

L’un des scandales les plus controvers\u00e9s li\u00e9s \u00e0 l’utilisation de l’IRF dans le secteur public au Canada concernait l’utilisation clandestine de l’IRF Clearview AI par certains services de police au Canada, y compris la GRC. Outre cette controverse bien document\u00e9e, un domaine dans lequel l’utilisation de la technologie suscite aujourd’hui de vives inqui\u00e9tudes au Canada est celui de son utilisation par les autorit\u00e9s canadiennes de l’immigration pour r\u00e9voquer le statut de r\u00e9fugi\u00e9 de certains demandeurs d’asile canadiens ayant obtenu gain de cause. \u00c0 ce jour, cinq personnes ont contest\u00e9 la r\u00e9vocation de leur statut de r\u00e9fugi\u00e9 sur la base d’informations provenant de l’utilisation du TFR. Toutes ces affaires concernent des personnes de race noire, dont quatre sont des femmes de race noire – le groupe racial et sexuel pour lequel la technologie a d\u00e9montr\u00e9 le taux de pr\u00e9cision le plus faible. L’examen de ces affaires devant la Cour f\u00e9d\u00e9rale r\u00e9v\u00e8le non seulement un manque d’ouverture et de transparence de la part d’Immigration, R\u00e9fugi\u00e9s et Citoyennet\u00e9 Canada (IRCC) et de l’Agence des services frontaliers du Canada (ASFC), mais aussi des tentatives d\u00e9lib\u00e9r\u00e9es de la part de ces minist\u00e8res de maintenir les Canadiens, le tribunal et les personnes concern\u00e9es dans l’ignorance de l’utilisation de la technologie par les minist\u00e8res. Les cas ci-dessous illustrent ce fait. <\/p>\n

Barre c. Canada (Citoyennet\u00e9 et Immigration),<\/em> 2022 FC 1078<\/a> est l’affaire qui a attir\u00e9 l’attention de la communaut\u00e9 du droit de l’immigration sur l’utilisation du TFR par l’IRCC et l’ASFC dans le cadre de la r\u00e9vocation du statut de r\u00e9fugi\u00e9. Cette affaire concernait deux femmes noires somaliennes qui avaient demand\u00e9 le statut de r\u00e9fugi\u00e9 au Canada avec succ\u00e8s. \u00c0 la suite de leur demande accept\u00e9e, le ministre de la S\u00e9curit\u00e9 publique et de la Protection civile a introduit avec succ\u00e8s une demande aupr\u00e8s de la Section de la protection des r\u00e9fugi\u00e9s pour annuler leur statut de r\u00e9fugi\u00e9 au motif qu’elles avaient fait une fausse d\u00e9claration sur leur identit\u00e9 en tant que citoyennes somaliennes alors qu’elles \u00e9taient en fait des ressortissantes kenyanes. Il semble que l’IRCC ait fait correspondre les photos de ces femmes avec celles de deux autres personnes qui \u00e9taient entr\u00e9es au Canada en tant qu’\u00e9tudiantes internationales en provenance du Kenya. Bien que la SPR ait accept\u00e9 la preuve de la comparaison des photos, elle a refus\u00e9 la demande des femmes d’obliger le ministre \u00e0 divulguer la source de la comparaison des photos. <\/p>\n

Devant la Cour f\u00e9d\u00e9rale, les femmes ont affirm\u00e9 que le ministre avait utilis\u00e9 l’IA FRT controvers\u00e9 de Clairview. Par cons\u00e9quent, l’une des principales questions soulev\u00e9es lors de la proc\u00e9dure de contr\u00f4le judiciaire devant la Cour f\u00e9d\u00e9rale \u00e9tait de savoir si le ministre avait utilis\u00e9 le TRS lors de la comparaison des photos. Le ministre a tent\u00e9 avec tact (mais sans succ\u00e8s) d’\u00e9luder la question en invoquant l’article 22(2) de la loi sur la protection de la vie priv\u00e9e<\/em>, arguant que cette disposition “permet aux organismes charg\u00e9s de l’application de la loi de prot\u00e9ger les d\u00e9tails de leur enqu\u00eate”. Les femmes ont produit des donn\u00e9es empiriques et des recherches qui montrent le taux d’erreur \u00e9lev\u00e9 du TFR dans l’identification des femmes \u00e0 la peau plus fonc\u00e9e. Le juge Go a estim\u00e9 que le ministre ne pouvait pas invoquer l’article 22, paragraphe 2, de la loi sur la protection de la vie priv\u00e9e<\/em> pour se soustraire \u00e0 la divulgation d’informations relatives \u00e0 la technologie utilis\u00e9e pour la comparaison des photos. Acceptant comme un fait que le FRT a \u00e9t\u00e9 utilis\u00e9 dans la comparaison de photos, le juge Go a accept\u00e9 la r\u00e9f\u00e9rence des requ\u00e9rants \u00e0 la technologie comme une pseudo-science peu fiable qui “a toujours eu du mal \u00e0 obtenir des r\u00e9sultats exacts, en particulier en ce qui concerne les femmes noires et d’autres femmes de couleur<\/a>“. <\/p>\n

Si l’affaire Barre<\/em> est la premi\u00e8re dans <\/em>laquelle IRCC et l’ASFC ont tent\u00e9 de r\u00e9voquer le statut de r\u00e9fugi\u00e9 d’un demandeur d’asile canadien ayant obtenu gain de cause sur la base d’\u00e9l\u00e9ments de preuve relatifs au TFR, elle n’allait certainement pas \u00eatre la derni\u00e8re. Peu de temps apr\u00e8s l’affaire Barre,<\/em> une autre affaire aux faits similaires mais \u00e0 l’issue diff\u00e9rente a vu le jour. L’affaire Abdulle c. Canada (Citoyennet\u00e9 et Immigration) <\/em>2023 FC 162<\/a> concernait \u00e9galement une femme noire somalienne. Le ministre de la S\u00e9curit\u00e9 publique a cherch\u00e9 \u00e0 faire r\u00e9voquer son statut de r\u00e9fugi\u00e9e \u00e0 la Section de la protection des r\u00e9fugi\u00e9s parce que sa photo correspondait \u00e0 celle d’une autre personne de nationalit\u00e9 kenyane figurant dans leur base de donn\u00e9es. Contrairement \u00e0 l’affaire Barre<\/em>, o\u00f9 les demandeurs ont tent\u00e9 (en vain) aupr\u00e8s de la SPR d’obtenir la divulgation de la technologie utilis\u00e9e pour la comparaison des photos, il semble que cela n’ait pas \u00e9t\u00e9 le cas dans l’affaire Abdulle<\/em>. Lors du contr\u00f4le judiciaire par la Cour f\u00e9d\u00e9rale de la d\u00e9cision de r\u00e9vocation de la SPR, la requ\u00e9rante a fait valoir que le ministre avait d\u00fb utiliser Clearview AI FRT pour comparer son visage avec des millions d’autres personnes dans la base de donn\u00e9es. La requ\u00e9rante n’a fait aucune demande de divulgation \u00e0 la SPR ou lors du contr\u00f4le \u00e0 la Section d’appel des r\u00e9fugi\u00e9s (SAR). <\/p>\n

Poursuivant apparemment sa tradition de secret et de manque de transparence dans son utilisation de la technologie, le ministre a ni\u00e9 avoir utilis\u00e9 Clairview FRT et a insist\u00e9 sur le fait qu’il utilisait des “techniques d’enqu\u00eate traditionnelles<\/a>“. Tout en notant que “les faiblesses des logiciels de reconnaissance faciale sont connues de tous”, le juge Mosley a relev\u00e9 la faiblesse de la proc\u00e9dure de contr\u00f4le judiciaire de la r\u00e9vocation du requ\u00e9rant, qui, selon lui, reposait sur des sp\u00e9culations sans fondement probant quant \u00e0 l’utilisation du TFR dans la comparaison des photos. Selon le juge Mosley, l’affirmation de la requ\u00e9rante concernant l’utilisation du TFR par le ministre est “min\u00e9e par le fait qu’elle n’a pas demand\u00e9 \u00e0 la SAR de divulguer les m\u00e9thodes ou les processus utilis\u00e9s, mais qu’elle a pr\u00e9sent\u00e9 son appel en se fondant sur l’hypoth\u00e8se, sans fondement probant, qu’un tel logiciel avait \u00e9t\u00e9 utilis\u00e9”. Il a not\u00e9 que l’argument “n’\u00e9tait que sp\u00e9culation, en particulier face \u00e0 l’affirmation incontest\u00e9e du d\u00e9fendeur selon laquelle une recherche exhaustive avait \u00e9t\u00e9 men\u00e9e en utilisant des “techniques d’enqu\u00eate traditionnelles”. Quelles que soient ces techniques, on ne peut en d\u00e9duire qu’elles incluaient un logiciel de reconnaissance faciale en l’absence de preuves \u00e0 l’appui”. <\/p>\n

Tout en notant la critique du juge Mosley \u00e0 l’\u00e9gard de la proc\u00e9dure de contr\u00f4le judiciaire du requ\u00e9rant, on ne peut s’emp\u00eacher de s’inqui\u00e9ter du niveau \u00e9lev\u00e9 de secret et du manque de transparence de la part du ministre. Contrairement \u00e0 l’affaire Barre<\/em>, o\u00f9 le ministre a tent\u00e9 en vain d’invoquer le paragraphe 22(2) de la loi sur la protection de la vie priv\u00e9e<\/em>, dans l’affaire Abdulle<\/em>, la tradition du secret est all\u00e9e jusqu’\u00e0 l’invention d’un terme de code extraordinaire, “techniques d’enqu\u00eate traditionnelles”, pour dissimuler l’utilisation des TFR par le ministre. <\/p>\n

L’affaire AB c. Canada (Citoyennet\u00e9 et Immigration)<\/em>, 2023 FC 29,<\/a> est encore plus troublante \u00e0 bien des \u00e9gards. Cette affaire met en \u00e9vidence non seulement le probl\u00e8me de l’utilisation du TFR, mais aussi l’absence de divulgation de son utilisation aux personnes concern\u00e9es, et le transfert de renseignements personnels obtenus gr\u00e2ce \u00e0 l’utilisation de la technologie par un minist\u00e8re \u00e0 un autre sans que la personne concern\u00e9e en soit inform\u00e9e ou y consente. En AB, <\/em>une femme noire originaire du Cameroun a d\u00e9pos\u00e9 avec succ\u00e8s une demande d’asile au Canada. Plusieurs ann\u00e9es apr\u00e8s avoir obtenu gain de cause, elle s’est rendue au bureau des permis du minist\u00e8re des Transports de l’Ontario (MTO) pour se faire photographier en vue de l’obtention de son permis de conduire de l’Ontario. \u00c0 son insu, le MTO a utilis\u00e9 l’IRF pour comparer sa photo \u00e0 d’autres photos contenues dans la base de donn\u00e9es du MTO. Le FRT a fait correspondre son visage \u00e0 celui d’une autre femme. Le MTO a secr\u00e8tement transmis cette information \u00e0 l’IRCC, qui a d\u00e9pos\u00e9 avec succ\u00e8s une demande de r\u00e9vocation du statut de r\u00e9fugi\u00e9 aupr\u00e8s de la SPR. Au cours de la proc\u00e9dure devant la SPR, la requ\u00e9rante a demand\u00e9 une ordonnance pour obliger l’agent du MTO \u00e0 t\u00e9moigner au sujet des preuves utilis\u00e9es pour faire correspondre son visage \u00e0 celui d’une autre personne. Comme on pouvait s’y attendre, le ministre s’est fermement oppos\u00e9 \u00e0 cette ordonnance et la SPR a refus\u00e9 de la rendre. <\/p>\n

La tradition du secret dans l’utilisation de la technologie s’est poursuivie dans l’affaire Ali c. Canada (Citoyennet\u00e9 et Immigration)<\/em>, 2023 FC 671<\/a>. La vieille astuce du ministre consistant \u00e0 invoquer la Loi sur la protection des renseignements personnels<\/em> a \u00e9t\u00e9 couronn\u00e9e de succ\u00e8s au stade du tribunal. Mais lorsque l’affaire a \u00e9t\u00e9 port\u00e9e devant la Cour f\u00e9d\u00e9rale dans le cadre d’un contr\u00f4le judiciaire, le ministre a cherch\u00e9 \u00e0 produire de nouvelles preuves par affidavit, sentant apparemment que la d\u00e9fense fond\u00e9e sur la loi sur la protection de la vie priv\u00e9e<\/em> n’offrirait aucun bouclier, comme le montre la d\u00e9cision rendue dans l’affaire Barre<\/em>. Le requ\u00e9rant s’est oppos\u00e9 \u00e0 cette d\u00e9marche, qui a \u00e9t\u00e9 rejet\u00e9e par le tribunal, et la preuve par affidavit a \u00e9t\u00e9 jug\u00e9e irrecevable. <\/p>\n

Conclusion<\/strong><\/p>\n

Si le Canada dispose d’un syst\u00e8me de gouvernement qualifi\u00e9 d’ouvert et de transparent, on peut se demander pourquoi l’utilisation par les minist\u00e8res de cette technologie de bo\u00eete noire continue d’\u00eatre marqu\u00e9e par le secret et le manque de transparence – m\u00eame dans les litiges judiciaires. L’IA FRT est une technologie “bo\u00eete noire” ; l’utilisation de cette technologie par IRCC et l’ASFC reste entour\u00e9e de secret et d’un manque de transparence. Cela est tout \u00e0 fait contraire au principe d’ouverture et de transparence qui devrait guider l’utilisation de la technologie par le secteur public. <\/p>\n

Les avocats sp\u00e9cialis\u00e9s dans l’immigration et le droit des r\u00e9fugi\u00e9s, qui semblent manquer d’expertise en mati\u00e8re de TFR, seront de plus en plus souvent confront\u00e9s \u00e0 des preuves de l’utilisation de cette technologie Blackbox dans le cadre de leurs litiges. Pour commencer \u00e0 rem\u00e9dier au manque de transparence du gouvernement, il faudrait peut-\u00eatre d\u00e9poser une demande de divulgation aupr\u00e8s du tribunal de premi\u00e8re instance, \u00e0 laquelle le gouvernement s’opposera, ce qui n’est pas surprenant. M\u00eame si la demande est rejet\u00e9e par le tribunal de premi\u00e8re instance, il sera consign\u00e9 dans le dossier que la demande a \u00e9t\u00e9 faite, ce qui pourrait faire la diff\u00e9rence lors du contr\u00f4le judiciaire par la Cour f\u00e9d\u00e9rale. \u00c0 tout le moins, cela a fait la diff\u00e9rence \u00e0 Barre<\/em>. <\/p>\n

Post-scriptum<\/em>: Le 22 ao\u00fbt 2023, j’ai publi\u00e9 un article d’opinion<\/a> dans le Toronto Star, en m’appuyant sur des recherches pr\u00e9liminaires pour cet article. Cet article critique l’utilisation du TFR par l’ASFC et IRCC dans les proc\u00e9dures de r\u00e9vocation du statut de r\u00e9fugi\u00e9. Apr\u00e8s la publication, l’ASFC m’a contact\u00e9. L’Agence a ni\u00e9 utiliser le TFR dans le cadre de l’application de la l\u00e9gislation sur l’immigration. Cette affirmation semble toutefois contraire aux faits de l’affaire Barre<\/em>. <\/p>","protected":false},"excerpt":{"rendered":"

Cet article a \u00e9t\u00e9 r\u00e9dig\u00e9 par Gideon Christian PhD, est un sp\u00e9cialiste de la race critique et un professeur adjoint d’intelligence artificielle et de droit (AI and Law) \u00e0 la facult\u00e9 de droit de l’universit\u00e9 de Calgary. Ses recherches visent \u00e0 mettre en \u00e9vidence les pr\u00e9jug\u00e9s raciaux dans les technologies d’intelligence artificielle. L’adoption rapide de […]<\/p>\n","protected":false},"author":115,"featured_media":7675,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[12,6],"tags":[392,113,402,24,404,403],"class_list":["post-16350","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-subject-matter-expertise","category-thought-leadership","tag-canada-border-services-agency","tag-canada-immigration","tag-artificial-intelligence","tag-ircc","tag-racial-bias","tag-facial-recognition"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/posts\/16350","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/users\/115"}],"replies":[{"embeddable":true,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/comments?post=16350"}],"version-history":[{"count":0,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/posts\/16350\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/media\/7675"}],"wp:attachment":[{"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/media?parent=16350"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/categories?post=16350"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cila.co\/fr\/wp-json\/wp\/v2\/tags?post=16350"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}