Le Bureau du commissaire à l'information du Royaume-Uni (ICO) a fait part de ses vives inquiétudes quant à la manière dont le ministère de l'Intérieur supervise la technologie de reconnaissance faciale utilisée par les forces de police. L'ICO s'est dit surpris d'apprendre que des failles importantes dans l'algorithme utilisé par la police n'avaient pas été communiquées, malgré des mois de collaboration entre les deux institutions. Emily Keaney, commissaire adjointe de l'ICO, a confirmé que son bureau n'avait pris connaissance que récemment des biais historiques dans l'algorithme de reconnaissance faciale rétrospective du système de la Base de données nationale de la police (PND). Le ministère de l'Intérieur, qui supervise l'utilisation de cet outil par la police, n'avait pas signalé auparavant les problèmes identifiés lors des nouveaux tests. L’ICO souligne que la technologie peut faciliter l’action publique, mais qu’en l’absence de confiance du public, tout biais alimente le scepticisme à l’égard des outils de sécurité numérique. C’est pourquoi l’ICO a demandé d’urgence des éclaircissements au ministère afin d’analyser l’ampleur du problème.

Tout a commencé le 4 décembre avec la publication des résultats de recherches menées par le Laboratoire national de physique (LNP) pour le compte du ministère de l'Intérieur. Les tests portaient sur deux systèmes : l'algorithme Cognitec FaceVACS-DBScan ID v5.5 actuellement utilisé et la future implémentation prévue d'Idemia MBSS FR. Les résultats ont été favorables à Idemia, dont l'algorithme a démontré une très grande précision lors des tests en laboratoire et en conditions réelles. Cognitec s'est avéré beaucoup plus problématique, les tests révélant des différences significatives dans les performances d'identification entre les groupes démographiques, notamment lorsque le système fonctionnait à des seuils de similarité élevés. La pleine flexibilité de l'algorithme Cognitec a permis d'obtenir un taux de correspondance de 99,9 % lors de la comparaison des visages avec la base de données PND. Cependant, après l'application de contraintes strictes visant à réduire les faux positifs, la précision a chuté à 91,9 %. Les personnes d'origine asiatique ont été identifiées le plus facilement, tandis que les personnes noires et blanches ont été identifiées avec une précision moindre.

L'autorité de régulation était particulièrement préoccupée par les différences entre les groupes sociaux en matière de faux positifs. Avec un seuil de similarité élevé, mais néanmoins bas, les images de personnes noires, notamment de femmes, étaient plus susceptibles d'être identifiées à tort. Après avoir éliminé le sexe comme critère, les utilisateurs blancs ont obtenu des résultats nettement supérieurs à ceux des utilisateurs asiatiques et noirs. Bien que le ministère de l'Intérieur affirme que les résultats de l'algorithme ne constituent jamais une preuve indépendante sans vérification manuelle, l'ampleur des différences et la méthode de communication entre le ministère et l'autorité de régulation ont suscité l'inquiétude au sein de la communauté chargée de superviser les normes de traitement des données.

Suite à la publication du rapport, les forces de police du pays ont mis en place de nouvelles formations et actualisé leurs procédures. Parallèlement, le gouvernement a demandé à l'Inspection générale de la police de Sa Majesté d'examiner l'utilisation de la technologie de reconnaissance faciale, avec l'appui de l'Autorité de régulation des sciences forensiques. Le ministère a annoncé qu'il testerait le nouvel algorithme d'Idemia début 2024. Il souligne que son objectif est de renforcer la sécurité publique et de soutenir le travail des agents, qui ont toujours le dernier mot dans l'analyse des correspondances. La publication de ce rapport coïncide avec le lancement de consultations sur l'extension de l'utilisation de la technologie de reconnaissance faciale dans les services de police. Le gouvernement consacre chaque année des dizaines de millions de dollars au développement de systèmes biométriques, intégrés à l'infrastructure nationale depuis 2011. Malgré les critiques des organisations de défense des droits civiques, les autorités affirment que les outils basés sur l'imagerie contribuent à une plus grande efficacité des opérations policières.