L’Australie va t-elle réglementer la reconnaissance faciale gouvernementale à “haut risque” ? – Partie 1

La crise du covid a notamment servi à collectionner de nombreuses informations sur les citoyens, s’ajoutant à un processus en marche depuis plusieurs années. Le moment est visiblement venu de passer à l’étape supérieure pour assurer un plus grand contrôle. Quid de toutes ces données face à la protection privée ? Le sujet est abordé en Australie, pays où les autorités ont manifesté, durant le scénario sanitaire de Davos, qu’il était prêt à piétiner jusqu’au bout les droits et les libertés privées des citoyens.

Par Justin Hendry – La Commission australienne des droits de l’homme s’est appuyée sur un rapport historique pour demander l’interdiction temporaire de l’utilisation de la reconnaissance faciale et d’autres technologies biométriques dans les décisions gouvernementales à “haut risque”, jusqu’à ce que de nouvelles lois soient élaborées. Elle a également exhorté le gouvernement fédéral à nommer un “commissaire à la sécurité de l’intelligence artificielle” indépendant, qui dirigerait un groupe de travail multidisciplinaire sur la prise de décision fondée sur l’IA.

Le rapport tant attendu sur les droits de l’homme et la technologie [source], publié récemment contient 38 recommandations visant à intégrer les droits de l’homme dans la conception et la réglementation de technologies telles que la reconnaissance faciale et l’IA.

Il est le résultat de trois années de travail pour comprendre et traiter les implications sur la vie privée, la liberté d’expression et l’égalité, et pour concevoir des réformes de la législation et des politiques qui s’appliquent à la fois aux secteurs public et privé.

L’une des principales recommandations du rapport est que “le gouvernement fédéral, les gouvernements des Etats et des territoires… introduisent une législation qui réglemente l’utilisation de la reconnaissance faciale et d’autres technologies biométriques”.

La législation s’appliquerait à l’utilisation de la “technologie dans la prise de décision qui a un effet juridique ou un effet significatif similaire, pour les individus, ou lorsqu’il existe un risque élevé pour les droits de l’homme, comme dans le maintien de l’ordre et l’application de la loi”.

En attendant que les gouvernements élaborent la législation recommandée, la commission a toutefois recommandé l’instauration d’un “moratoire sur l’utilisation de la reconnaissance faciale et d’autres technologies biométriques”.

Le moratoire, que l’AHRC a appelé pour la première fois en décembre 2019, s’appliquerait à “la prise de décision qui a un effet juridique, ou un effet significatif similaire, pour les individus, ou lorsqu’il existe un risque élevé pour les droits de l’homme”.

La commission considère que les domaines à haut risque – “des contextes où les conséquences d’une erreur peuvent être graves” – sont le maintien de l’ordre et l’application de la loi et la sécurité sociale au sein du gouvernement, et le secteur bancaire dans le secteur privé.

“Notre pays a toujours été favorable à l’innovation, mais au cours de notre projet sur les droits de l’homme et la technologie, les Australiens nous ont constamment dit que les nouvelles technologies devaient être justes et responsables”, a déclaré Edward Santow, commissaire australien aux droits de l’homme. “C’est pourquoi nous recommandons un moratoire sur certaines utilisations à haut risque de la technologie de reconnaissance faciale, et sur l’utilisation de la ‘boîte noire’ ou de l’IA opaque dans la prise de décision des entreprises et du gouvernement.

L’AHRC a également recommandé que le gouvernement fédéral introduise une législation exigeant que les agences notifient les personnes concernées “lorsque l’intelligence artificielle est utilisée de manière significative dans la prise d’une décision administrative”.

Lorsque les agences utilisent l’IA, une évaluation de l’impact sur les droits de l’homme (HRIA) doit être réalisée avant qu’un “système de prise de décision basé sur l’IA [soit utilisé] pour prendre des décisions administratives”, a déclaré la commission. (Source : https://www.itnews.com.au)

SOMMAIRE DE LA LETTRE CONFIDENTIELLE LIESI

SOMMAIRE DE LA LETTRE  LISO

SOMMAIRE DE LA LETTRE DES PROPHETIES