L’intelligence artificielle au service de la répression

1139 visites

L’intelligence artificielle (IA) permet de décupler les capacités de reconnaissance faciale. Le masquage partiel n’est plus une parade pertinente. Par contre d’autres chercheurs en IA décrivent comment tromper le système.

L’intelligence artificielle (IA) est une discipline scientifique qui combine des approches statistiques et informatiques. Les approches récentes sont basées sur des algorithmes appelés « réseaux neuronaux profonds » (Deep neural network) qui « apprennent » sur un grand nombre d’exemples, puis peuvent ensuite classifier de nouveaux exemples.
La reconnaissance faciale est l’un des domaines où ce type d’algorithme a récemment montré toute sa puissance. Le but étant d’être capable d’identifier une personne sur la base d’une image de son visage, par exemple une image d’une caméra de vidéosurveillance.
Deux articles récents montrent toute l’étendue de ce dont ces algorithmes sont capables, mais aussi comment une bonne connaissance de leur fonctionnement peut permettre de les combattre.
Dans le premier (voir l’article en anglais sur le site de Vice) on voit que les chercheurs viennent de franchir une nouvelle étape : ils ont entraîné l’algorithme pour lui permettre de reconnaître des visages partiellement masqués : « Le système a été capable de reconnaître correctement une personne au visage couvert d’un foulard dans 67% des cas ». Comme le reconnaît avec une naïveté déconcertante le chercheur : « Pour être honnête, quand j’ai développé cette méthode, je pensais juste aux criminels ». Mais on voit bien tout le potentiel d’une telle technologie au service de la répression, par exemple l’identification de manifestants masqués.
Cet article conclut : « Nous pourrions bien voir dans le futur une compétition entre experts en IA (possiblement employés par des gouvernements) qui essaient de créer des algorithmes de reconnaissance faciale contre d’autres chercheurs qui cherchent comment y échapper » .

Et c’est très précisément le thème du second article sur ce sujet, toujours dans Vice. On y apprend que l’on peut non seulement échapper à la reconnaissance faciale, mais même tromper le système en se faisant passer pour quelqu’un d’autre grâce à un « simple » port de lunettes appropriées.
Des chercheurs de la Carnegie Mellon University ont en effet développé des lunettes dont la décoration est capable de tromper les algorithmes de reconnaissance faciale. Dans 90% des cas, ces lunettes ont permis de tromper le logiciel Face++, qui est utilisé pour la détection, la traque et l’analyse de visages, permettant de trouver l’âge, le genre ou l’identité d’une personne. Il s’agit vraiment de retourner « contre nos propres généraux » les armes qu’ils ont soigneusement peaufinés pour nous contrôler. Imaginons : des dizaines de milliers d’Emmanuel Macron défilant contre la loi "travaille".

Comme le note Zeynep Tufekci, professeur à l’ Université de Caroline du Nord : « Trop de gens se préoccupent de ce que l’IA (comme une sorte d’entité indépendante) peut nous faire. Trop peu se préoccupent de ce que le pouvoir peut faire avec l’IA. » On ne doit pas sous-estimer les enjeux de ces technologies et leur impact sur nos vies. Une utilisation liberticide de l’IA doit trouver sur son chemin une utilisation libertaire.

Proposer un complément d'info

modération a priori

Ce forum est modéré a priori : votre contribution n’apparaîtra qu’après avoir été validée par un administrateur du site.

Qui êtes-vous ?
Votre message
  • Pour créer des paragraphes, laissez simplement des lignes vides.

Publiez !

Comment publier sur Rebellyon.info?

Rebellyon.info n’est pas un collectif de rédaction, c’est un outil qui permet la publication d’articles que vous proposez. La proposition d’article se fait à travers l’interface privée du site. Quelques infos rapides pour comprendre comment être publié !
Si vous rencontrez le moindre problème, n’hésitez pas à nous le faire savoir
via le mail contact [at] rebellyon.info

Derniers articles de la thématique « Fichage - ADN » :

>Pourquoi s’organiser politiquement sur Facebook n’est pas une bonne idée

Boudé il y a quelques années par les milieux militants, les réseaux sociaux et particulièrement Facebook sont aujourd’hui utilisés sans aucune retenue ni questionnement. Facebook c’est peut-être pratique pour sa fluidité, ses buzz, son côté populaire, bien que cette impression soit largement surestimée....

>Ateliers d’auto-défense numérique

Le dispositif numérique du CCO - Hackelier propose 3 sessions de formation gratuites et identiques à 3 dates différentes : 6 et 7 juin, 27 et 28 juin, 11 et 12 juillet. Venir avec son ordinateur dans le cas contraire nous le signaler afin qu’on puisse vous en fournir. Ces formations sont accessibles à...

>Gilets jaunes et réseaux sociaux : Facebook la poucave

Comme lors des printemps arabes, on a beaucoup glosé sur la symbiose entre Gilets jaunes et réseaux sociaux. Si les plates-formes numériques ont pesé dans la structuration du mouvement, elles ont aussi fourni le biscuit aux flics et aux...

› Tous les articles "Fichage - ADN"