Avec le site de reconnaissance faciale CreepShield, on est tous des criminels.

On arrête plus le progrès. Surtout chez les américains. Mais qui dit progrès ne veut pas forcément dire intelligence. Le site américain CreepShield propose aux internautes d’utiliser la reconnaissance faciale pour traquer les délinquants sexuels sur les sites de rencontre. Sauf qu’il y a comme une c****** dans le potage…

Tous les (bons) parents craignent pour la sécurité de leurs enfants. L’apparition d’Internet a créé une crainte légitime supplémentaire pour ces derniers à cause de toutes les choses bizarres, étranges ou pires que l’on peut y trouver. Et les enfants ne sont pas les seuls concernés. Mêmes les adultes peuvent être confrontés à des situations dangereuses. D’où l’idée de mettre en place des dispositifs de protection pour éviter les mauvaises rencontres. Jusque là, logique, on comprend, on soutiendrait même la chose.

Sauf que.

Bien que la volonté du site CreepShield soit d’assurer notre sécurité, ils ont un peu « trop bien » fait les choses. Mais tout d’abord, présentons l’idée.

1 – Le concept

Le site l’affiche noir sur blanc sur sa page d’accueil : la reconnaissance faciale des délinquants sexuels. C’est clair, limpide.

En seulement quelques clics, l’internaute peut vérifier si sa future conquête n’est pas inscrite au registre des « prédateurs sexuels ». Il lui suffit d’importer la photo de profil de son prétendant, récupérée sur un site de rencontres ou sur un réseau social, dans la barre de recherche du site. Un système de reconnaissance faciale confronte ensuite le portrait avec une « base de données constamment mise à jour de plus de 475.000 délinquants sexuels« , condamnés pour agression sexuelle, viol ou encore pédophilie. Le charme à l’état pur.

Le concept, loin d’être innovant, existe aux USA avec les fichiers de recensement. Il existe aussi des sites et applications qui peuvent aller jusqu’à la géolocalisation. On peut imaginer facilement les dérives d’un tel système, avec une chasse aux sorcières digne de Salem et des innocents tués…

2 – Le problème

Même si on s’envole déjà à l’idée de pouvoir surfer en toute sécurité, il ne faut cependant pas trop s’emballer. Car il faut que la reconnaissance faciale fasse bien son boulot et ça, ce n’est pas gagné. Une journaliste du « New York Times » a fait le test, avec la photo d’un homme au casier judiciaire vierge. Le site lui propose pourtant une liste de photos susceptibles de correspondre. La première : celle d’une femme hispanique, bien loin donc de la photo importée, mais pourtant censée correspondre à 49%. Le seul point commun entre la photo initiale et celle de la délinquante sexuelle : des lunettes de vue à très fines montures.

Le souci est que CreepShield affiche toujours un résultat, même quand la photo importée ne correspond à aucun des délinquants sexuels enregistrés. « Quand les chances de correspondre sont basses (en dessous de 60%) on dit, ‘Ces photos ont le plus de chances de correspondre mais elles ne sont pas très ressemblantes », défend Kevin Alan Tussy, le créateur du site, dans un email au « New York Times ». « Nous laissons aux utilisateurs le choix de décider si le portrait qu’ils ont uploadé est le même que ceux affichés. »

Le créateur de CreepShield n’en est pas à son coup d’essai : l’année dernière, il avait déjà crée la polémique avec un projet d’application similaire, destiné aux Google Glass. A l’aide d’une simple photo ou une vidéo, NameTag promettait de reconnaître l’identité de n’importe quel anonyme croisé dans la rue. Une atteinte à la vie privée pour Google, qui avait annoncé qu’aucune application de reconnaissance faciale ne serait autorisée sur ses lunettes à réalité augmentée.

Toutes ces innovations nous font quand même nous poser la question suivante : vers où allons-nous ?