Site collaboratif d’infos alternatives

L’intelligence artificielle au service de la répression

L’intelligence artificielle (IA) permet de décupler les capacités de reconnaissance faciale. Le masquage partiel n’est plus une parade pertinente. Par contre d’autres chercheurs en IA décrivent comment tromper le système.

L’intelligence artificielle (IA) est une discipline scientifique qui combine des approches statistiques et informatiques. Les approches récentes sont basées sur des algorithmes appelés « réseaux neuronaux profonds » (Deep neural network) qui « apprennent » sur un grand nombre d’exemples, puis peuvent ensuite classifier de nouveaux exemples.
La reconnaissance faciale est l’un des domaines où ce type d’algorithme a récemment montré toute sa puissance. Le but étant d’être capable d’identifier une personne sur la base d’une image de son visage, par exemple une image d’une caméra de vidéosurveillance.
Deux articles récents montrent toute l’étendue de ce dont ces algorithmes sont capables, mais aussi comment une bonne connaissance de leur fonctionnement peut permettre de les combattre.
Dans le premier (voir l’article en anglais sur le site de Vice) on voit que les chercheurs viennent de franchir une nouvelle étape : ils ont entraîné l’algorithme pour lui permettre de reconnaître des visages partiellement masqués : « Le système a été capable de reconnaître correctement une personne au visage couvert d’un foulard dans 67% des cas ». Comme le reconnaît avec une naïveté déconcertante le chercheur : « Pour être honnête, quand j’ai développé cette méthode, je pensais juste aux criminels ». Mais on voit bien tout le potentiel d’une telle technologie au service de la répression, par exemple l’identification de manifestants masqués.
Cet article conclut : « Nous pourrions bien voir dans le futur une compétition entre experts en IA (possiblement employés par des gouvernements) qui essaient de créer des algorithmes de reconnaissance faciale contre d’autres chercheurs qui cherchent comment y échapper » .

Et c’est très précisément le thème du second article sur ce sujet, toujours dans Vice. On y apprend que l’on peut non seulement échapper à la reconnaissance faciale, mais même tromper le système en se faisant passer pour quelqu’un d’autre grâce à un « simple » port de lunettes appropriées.
Des chercheurs de la Carnegie Mellon University ont en effet développé des lunettes dont la décoration est capable de tromper les algorithmes de reconnaissance faciale. Dans 90% des cas, ces lunettes ont permis de tromper le logiciel Face++, qui est utilisé pour la détection, la traque et l’analyse de visages, permettant de trouver l’âge, le genre ou l’identité d’une personne. Il s’agit vraiment de retourner « contre nos propres généraux » les armes qu’ils ont soigneusement peaufinés pour nous contrôler. Imaginons : des dizaines de milliers d’Emmanuel Macron défilant contre la loi "travaille".

Comme le note Zeynep Tufekci, professeur à l’ Université de Caroline du Nord : « Trop de gens se préoccupent de ce que l’IA (comme une sorte d’entité indépendante) peut nous faire. Trop peu se préoccupent de ce que le pouvoir peut faire avec l’IA. » On ne doit pas sous-estimer les enjeux de ces technologies et leur impact sur nos vies. Une utilisation liberticide de l’IA doit trouver sur son chemin une utilisation libertaire.

Proposer un complément d'info

modération a priori

Ce forum est modéré a priori : votre contribution n’apparaîtra qu’après avoir été validée par un administrateur du site.

Qui êtes-vous ?
Votre message
  • Pour créer des paragraphes, laissez simplement des lignes vides.

Publiez !

Comment publier sur Rebellyon.info?

Rebellyon.info n’est pas un collectif de rédaction, c’est un outil qui permet la publication d’articles que vous proposez. La proposition d’article se fait à travers l’interface privée du site. Quelques infos rapides pour comprendre comment être publié !
Si vous rencontrez le moindre problème, n’hésitez pas à nous le faire savoir
via le mail contact [at] rebellyon.info

Derniers articles de la thématique « Fichage - ADN » :

L’intelligence artificielle au service de la répression

L’intelligence artificielle (IA) permet de décupler les capacités de reconnaissance faciale. Le masquage partiel n’est plus une parade pertinente. Par contre d’autres chercheurs en IA décrivent comment tromper le système.

Italie - Turin : des nouvelles de la violence carcérale

Depuis plus d’un an maintenant le prélèvement ADN est entré en vigueur en Italie dans le rituel d’identification des personnes arrêtées ou incarcérées. Les compagnon-nes emprisonné-es suite aux dernières opérations répressives n’y ont pas échappé. Si tu veux résister au prélèvement, les flics te le prennent...

ADN" ">> Tous les articles "Fichage - ADN"