Auteur : Professeur Gideon Christian PhD
L’été dernier, l’Agence des services frontaliers du Canada (ASFC) a annoncé prévoit d’utiliser l’application ReportIn, un outil de reconnaissance faciale, pour suivre les personnes figurant sur la liste d’expulsion du Canada en confirmant leur identité et en enregistrant leur localisation. Bien que cette démarche puisse sembler logique pour renforcer la sécurité nationale et l’efficacité de l’application des lois sur l’immigration, elle soulève d’importantes préoccupations concernant les libertés civiles, les préjugés raciaux, les secrets commerciaux, la transparence et l’implication alarmante d’entreprises privées telles qu’Amazon dans le stockage et le traitement des données gouvernementales concernant les membres les plus vulnérables de la société canadienne.
Les libertés civiles en jeu
L’utilisation proposée par l’ASFC d’une application de reconnaissance faciale pour suivre les candidats à l’expulsion constitue une grave menace pour les libertés civiles. Cette technologie permet une surveillance de masse, ce qui a un impact sur les droits des individus garantis par la Charte. Les risques sont élevés. Ce qui commence par cibler les membres « indésirables » de la société peut facilement s’étendre à tout le monde. Si cet outil est utilisé avec succès par l’ASFC sur les personnes susceptibles d’être expulsées, qu’est-ce qui empêcherait d’autres ministères, comme Emploi et Développement social Canada (ESDC) et Service Canada, d’utiliser une technologie similaire pour surveiller les personnes suivantes : - les personnes qui ont été expulsées par l’ASFC. Assurance-emploi (AE), afin de s’assurer qu’ils ne prennent pas de bain de soleil en Floride ou aux Bahamas tout en percevant des prestations d’AE au Canada ? Il s’agit là d’un dangereux précédent, qui ouvre la voie à un État de surveillance où les Canadiens sont surveillés et suivis à la trace.
Préjugés raciaux et discrimination
La technologie de reconnaissance faciale a été largement critiquée pour avoir exacerbé les préjugés raciaux. études montrant qu’il est moins précis dans l’identification des personnes de couleur, en particulier des femmes noires. Ce défaut technique constitue une menace pour les droits des populations vulnérables. L’utilisation de cette technologie par l’ASFC soulève un risque important pour les communautés racialisées de faire l’objet de détentions ou d’expulsions injustifiées, entraînant des erreurs judiciaires flagrantes et des violations flagrantes des droits garantis par la Charte.
Le problème des secrets d’affaires
L’ASFC a déclaré que l’algorithme de l’application ReportIn serait un secret commercial. Cependant, ce secret crée un manque de responsabilité et de surveillance, ce qui remet en question l’exactitude et l’équité de l’outil. Si l’ASFC s’appuie sur cette technologie opaque, les décisions pourraient être basées sur des données erronées ou biaisées, ce qui limiterait la capacité des personnes concernées à contester ces décisions. Cela pose un problème juridique, car la Cour suprême du Canada, dans l’affaire Mai c. Ferndale a statué que les particuliers ont le droit d’accéder à des informations exclusives lorsqu’ils contestent des décisions gouvernementales prises à l’aide de logiciels. Traiter l’algorithme comme un secret commercial violerait cette décision de la Cour suprême, qui est contraignante pour le gouvernement.
Transparence et responsabilité
Dans une société libre, les agences gouvernementales doivent être transparentes vis-à-vis du public. Cependant, l’utilisation proposée par l’ASFC de l’application ReportIn soulève de sérieux problèmes de transparence. Par exemple, au cours des 18 derniers mois, j’ai tenté en vain d’obtenir des informations sur le déploiement par l’ASFC de la technologie de reconnaissance faciale par le biais de la loi sur l’accès à l’information, ce qui m’a conduit à déposer une plainte auprès de la Commission de l’immigration et du statut de réfugié de l’Union européenne. Commissariat à l’information du Canada. Les Canadiens ont le droit de savoir comment les agences comme l’ASFC utilisent les technologies de surveillance et méritent d’être assurés que ces outils ne seront pas utilisés pour violer leurs droits.
Le rôle des entreprises privées
L’implication d’entreprises privées comme Amazon dans le stockage et la gestion des données de particuliers collectées par l’ASFC est peut-être la plus préoccupante. Le projet de reconnaissance faciale d’Amazon a fait l’objet d’une critique d’une commission de la Chambre des représentants des États-Unis en raison de craintes de partialité et de risques pour la vie privée. Lorsqu’une agence gouvernementale confie à une entreprise privée des fonctions essentielles telles que le stockage de données, elle s’expose à de nouveaux risques. Les entités privées telles qu’Amazon sont en fin de compte motivées par le profit, et non par l’intérêt public. Il existe donc un réel danger que des informations aussi sensibles soient mal traitées, mal utilisées, voire vendues à des tiers à l’insu ou sans le consentement des personnes concernées. En outre, le fait d’autoriser une société privée à stocker et éventuellement à utiliser (dans le cadre de ses activités) des informations personnelles sensibles collectées par le gouvernement soulève de sérieuses questions quant à la souveraineté des données et au rôle du gouvernement en tant que gardien de ces informations.
Conclusion
Le projet de l’ASFC d’utiliser une application de reconnaissance faciale pour suivre les personnes figurant sur sa liste d’expulsion comporte de nombreux risques. Qualifier cet outil d' »application de signalement » revient à mettre du rouge à lèvres sur un cochon. Il s’agit d’un outil de suivi et de surveillance. S’il est essentiel de renforcer la sécurité nationale du Canada, cette priorité ne doit pas se faire au détriment de l’égalité raciale, des libertés civiles ou de la transparence. Ces éléments sont fondamentaux pour une société juste et doivent être protégés même si nous renforçons les mesures de sécurité nationale. L’ASFC doit expliquer clairement quelles mesures ont été prises pour répondre aux préoccupations concernant cet outil et quelles garanties sont en place pour assurer son utilisation équitable, transparente et responsable. Le Canada doit éviter de devenir une société où la surveillance l’emporte sur les droits et libertés de tous ses citoyens, y compris les plus vulnérables.
Il est temps de répondre à ces préoccupations avant que la technologie de reconnaissance faciale ne devienne un élément permanent de nos pratiques en matière d’immigration et d’application de la loi aux frontières. Les conséquences de l’inaction pourraient être graves, affectant non seulement les personnes susceptibles d’être expulsées, mais aussi tous les Canadiens qui attachent de l’importance à leurs libertés civiles.
Gideon Christian est professeur professeur et titulaire d’une chaire de recherche universitaire dans le domaine de l’IA et du droit à l’université de Calgary. Ses recherches se concentre sur les préjugés raciaux dans les technologies d’intelligence artificielle. gideonchristian.ai, @Profxtian
