CONTROLE DES FOULES

La société contemporaine est occupée à mettre en place des instruments de contrôles sociaux sophistiqués qui visent à mettre en oeuvre des algorithmes d'Intelligence Artificielle couplés à des banques de données massives dans des projets de surveillance massif tant des personnes individuelles que des groupes.

Comme type d'application, on peut citer la reconnaissance faciale qui pose actuellement débat. Cette surveillance massive, justifiée par de plus courte durée d'intervention, la facilité d'interpellation en cas de délit, ou d'autres motifs tout aussi légitimes, pose deux questions fondamentales, à savoir qui sera chargé de celle-ci et que fera-t-on des observations qui ne conduisent pas à des interventions de la police.

En d'autres termes, la surveillance de masse sera-t-elle déléguée à des entreprises privées, au risque d'être contrôlé par des agents qui devraient bénéficier du pouvoir de faire des contrôles d'identité systématiques mais qui ne les ont pas. Et devraient-t-ils par ailleurs les avoirs, ce qui ne serait qu'accroitre encore plus le logique de privatisation des fonctions régaliennes de l'Etat ?

Et la deuxième question est de savoir ce que feront ces entreprises avec toutes les images et les identités systèmatiquement récoltées en attendant qu'un incident se produise pour devoir intervenir. Ne va-t-on pas vers un système qui ne sera autre que de se faire de l'argent en attendant qu'une personne ne se fasse agresser ?

En effet, les images récoltées peuvent servir à faire des études de marchés ou proposer des publicités ciblées aux passants ou encore d'en étudier les comportements, etc. Bref, en attendant une éventuelle intervention dans le cadre d'un vol à la tire, il y a de quoi rentabiliser les installations de vidéo-surveillance et d'en tirer un profit financier certain.

Car comme nous le rappelle François Leclerc sur le Blog de Paul Jorion : "[le principal risque] Il réside dans la banalisation de la reconnaissance faciale, dans son utilisation marketing ainsi que policière." [1].






"Chine, tout est sous contrôle"
Un reportage d'Elise Menand, Antoine Védeilhé, Charlie Wang et Benoît Sauvage diffusé dans "Envoyé spécial" le 10 octobre 2019.
https://www.francetvinfo.fr/monde/chine/video-chine-tout-est-sous-controle_3629697.html


Les évolutions technologiques, comme les montres connectées, les bracellets connectés pour sportifs, les applications pour smartphones, etc, permettent déjà de contrôler la journée et les trajets de quiconque en europe. Tous ces petits gadgets et applications sont certes très utiles dans notre quotidien, et devenus d'une banalité, mais ce n'est autre qu'une avencée vers la société du tout connecté, tout pisté, tout bigdataïsé, bref tout rentabilisé et tout surveillé !

En Chine, la contrôle ne s'arrête pas à un contrôle facial dans les galaries commercantes ! La Chine nous propose n'y plus n'y moins qu'un système discriminant et source d'inégalités sociales, le crédit social. Plus de prêts bancaire pour quelques mégots jetés par terre ou pour une voiture trop souvent mal garée ! Plus de passeport ou de travail, car carrément exclu du parti communiste !

La Chine s'oriente-t-elle vers un nouveau Mur de Berlin, où les exclus du système seront d'un côté et les bons citoyens de l'autre ? Cela en à tout l'air. Car, en effet, l'accumulation des désagréments liés à leur système de contrôle systématique et de leur crédit social n'est autre qu'un principe de la double peine cumulatif mise en exergue.

La stratégie pour imposer le système est de lui donner un caractère éducatif. La Chine éduque ses citoyens à être de bon citoyen. Le système de surveillance massive vise, outre de repérer les comportements déviants et les sanctionner, à inciter à un contrôle social par les citoyens eux-mêmes et à donc également pour objet comme nous le décrit François Leclerc :"d’intégrer dans le comportement de tous la nécessité de respecter des règles, chacun ayant conscience qu’il est susceptible d’être repéré s’il dévie des normes établies." [1].

Le système Chinois, qui doit en faire réver plus d'un dont probablement la NSA et ses écoutes téléphoniques massives, ne se base donc pas uniquement sur un sysème de vidéo-surveillance, mais également sur la délation par les citoyens bien "éduqués" et qui veulent de bonnes notes sociales. Ce système de délation citoyenne était utilisé par la Stasi comme nous le rappelle François Leclerc :
"En son temps, la République démocratique allemande (RDA) a représenté le nec plus ultra de ce contrôle à très grande échelle avec des moyens qui apparaissent aujourd’hui surannés. Mais l’appareil de coercition déployé n’employait que pour partie les écoutes et les filatures, comme il a été constaté à l’ouverture des dossiers de la Stasi. Les éléments à charge reposaient en premier lieu sur les dénonciations de bons citoyens endoctrinés, souvent de proches amis et même des membres de la famille." [1].
 

Mais outre ces aspects sécuritaires et répressifs, le sytème de surveillance de masse Chinois à une autre finalité, comme on pouvait le craindre. Cette finalité est économique.

En effet, la Chine au travers de son système de surveillance et de contrôle massif cherche développer un modèle économique basé sur les Bigdatas récoltées par son système de surveillance, comme nous le précise François Leclerc : "Il repose sur la constitution d’une base de données pharaonique, intitulée dans les textes officiels « référentiel d’information », où seront répertoriés la consommation et les comportements des individus." [2].

Le modèle Chinois associe donc un système policier à un système économique ! Tracabilité, habitudes de consommation, etc. Ce modèle, basé sur le Bigdata, vise à créer "la venue d’une « économie hybride », telle une « économie de marché fonctionnant dans un cadre planifié ».". Le Bigdata permettrait d'améliorer "l’allocation rationnelle des ressources, que ce soit pour la planification à long terme des infrastructures ou la gestion des systèmes de santé publique.". Un beau mélange des genres donc entre ces deux systèmes aux fonctions totalement différentes, qui risque de conduire à un système policier économiquement rentable ! Ou quand le régalien va régaler l'économie [2].

Heureusement chez nous, rien de tout cela, juste que : "Grâce aux miracles conjugués du marketing et des objets connectés, non seulement chaque être humain pourra être tracé physiquement, mais il sera en plus possible de le connaître intimement." [3].

Et tout cela pour offrir un confort de consommation optimal. Car en effet, plus besoin de chercher le produit qu'il vous faut, il vous sera directement proposé sur votre smartphone lorsque vous vous promènerez dans vos centres commerciaux préférés. Ce qui est à craindre c'est que : "la pression de la transparence finira par s’inscrire comme une évidence dans le cerveau des gentils consommateurs." [3].

A terme, on peut se demander si le fait de ne pas être connecté suffisament ne fera pas de nous, les citoyens, des suspects subversifs, voir dissidents à notre régime démocratique.


[1] François Leclerc, "LA GRANDE MUTATION SOUTERRAINE DE NOS SOCIÉTÉS, par François Leclerc",
Blog de Paul Jorion, 31/10/2017, https://www.pauljorion.com/blog/2017/10/31/la-grande-mutation-souterraine-de-nos-societes-par-francois-leclerc/
[2] François Leclerc, "LA SOCIÉTÉ NUMÉRIQUE À LA CHINOISE, UN MODÈLE DE DYSTOPIE, par François Leclerc", Blog de Paul Jorion, 21/09/2017, https://www.pauljorion.com/blog/2017/09/21/la-societe-numerique-a-la-chinoise-un-modele-de-dystopie-par-francois-leclerc/
[3] Roberto Boulant, "Que mille fleurs s’épanouissent aux pieds de la République Scientiste, par Roberto Boulant", Blog de Paul Jorion, 6/01/2016, https://www.pauljorion.com/blog/2016/01/06/que-mille-fleurs-sepanouissent-aux-pieds-de-la-republique-scientiste-par-roberto-boulant/


Publics Cibles

Ce qui est à craindre dans cette société du contrôle quasi permanent, en elle même liberticide, c'est de voir les autoristés cibler certains groupes sociaux ou certaines communauté. Comme en témoigne déjà la politique d'un pays comme la Chine envers certaines de ses communautés.




Comment la Chine surveille massivement des musulmans Ouighours - Le Monde



Une autre dérive possible n'est autre que la surveillance de certains publics cibles telle qu'a tenté de la faire la Hollande. En effet, dans un article du journal Suisse "Le Temps", on peut apprendre que les Pays-Bas ont voulu mettre en place une surveillance des personnes "pauvres". Dans un pays qui donne une image de libéralisme et de tolérance, Big Brother est à l'oeuvre. En effet, un projet démarré depuis quelques années avait été adopté au parlement national et mis en place par les autorités Hollandaises, le projet SyRI (pour System Risk Indication).

L'objectif de ce système n'est autre que de traquer les fraudeurs. Rien de très scandaleux à ce que les autorités utilisent des algorithmes pour débusquer les tricheurs me direz-vous. Basé sur un principe simple de recoupement des données disponibles auprès de différents services, tels que les municipalités, les autorités fiscales, l’agence des assurances maladie et invalidité, les services d’immigration ou le Ministère des affaires sociales, le système signale, par le croisement des données, les éventuelles anomalies dans la situation du contribuable.

La société civil Hollandaise s'est opposée à ce système devant le tribunal de La Haye, car : "Selon ces organisations, SyRI représente une violation grave en termes de droits de l’homme et de libertés individuelles. Il n’en est rien selon l'avocate de l’Etat." [1]. Pour s'en convaincre, la société civil a présenté l'exemple d'un bénéficiaire d'aide publique qui, par recoupement avec sa consommation d'eau, semblait suspect car il ne consommait pas assez d'eau à l'adresse indiquée comme son domicile.

On pourrait toujours être d'accord jusque là de la mise en place de système qui facilite la mise en lumière de situations qui peuvent être suspectées de fraude. Sauf que, elles ne concernent que les bénéficiares d'aides publiques, ce qui n'est pas en soi un indicateur de fraude plus probable qu'une autre catégorie de personnes, telle que les chefs d'entreprise, les indépendants, les multinationales, etc. Car la mise en place du système SyRI a concerné "une demi-douzaine de quartiers, qui ont tous la particularité d’être pauvres et d’abriter une forte proportion d’habitants d’origine étrangère." [1].

Pour certains intellectuels Hollandais, comme Tijmen Wisman de l’Université libre d’Amsterdam, cette technologie n'est pas anodine, car : "A eux seuls, les compteurs intelligents, d’eau ou d’électricité, prennent une mesure tous les quarts d’heure. Cela fait 96 par jour, et cela suffit à vous offrir une vue très détaillée de la vie d’une personne." [1].

Et si tout cela ne convainc pas encore de la dérive possible de tels systèmes, Maureen van der Pligt de la centrale syndicale FNV nous rappelle la logique qui prévaut dans ce genre de système, à savoir que : "il transforme en fraudeurs potentiels des dizaines de milliers de personnes, c’est-à-dire tous ceux qui vivent dans ces «quartiers problématiques». Et c’est sur ces gens, les plus démunis et les plus vulnérables, que s’abat maintenant une politique répressive qui cherche à accroître contre eux tous les mécanismes de contrôle." [1].

Pour Christiaan van Veen, conseiller sur les nouvelles technologies auprès du rapporteur spécial de l’ONU sur l’extrême pauvreté : "Le principal danger qui guette les Etats providence numérisés? C’est qu’ils servent uniquement les intérêts d’une élite d’officiels et de compagnies de la tech. Tandis que, dans le même temps, une sous-classe infortunée, placée sous surveillance constante, vivra une dystopie numérique dans laquelle la moindre déviance sera détectée et punie." [1].

Ce genre de système ne semble donc pas être aussi idéal qu'il n'y paraît, puisque la justice des Pays-Bas a ordonné l'arrêt immédiat de la surveillance automatisé de la fraude sociale le 5 février 2020, le considérant contraire aux droits de l'Homme et discriminatoire car elle ciblait une population sur base de critères socio-économiques [2].


[1] Luis Lema, «Les Pays-Bas bâtissent un Etat de surveillance pour les pauvres», Le Temps, 5/11/2019, https://www.letemps.ch/monde/paysbas-batissent-un-surveillance-pauvres
[2] Louis Nadau, "Au Pays-Bas, la justice met un coup d'arrêt au flicage technologique des pauvres", Marianne en ligne, 06/02/2020, https://www.marianne.net/monde/au-pays-bas-la-justice-met-un-coup-d-arret-au-flicage-technologique-des-pauvres


Objets cibles

Le contrôle des véhicules n'est pas une nouveauté, que ce soit le contrôle du conducteur ou des plaques d'immatriculations.

Que vont donc nous apporter les nouvelles technologies et l'intelligence artificielle en matière de circulation routière. Des systèmes sont déjà en place aujourd’hui, tels que la reconnaissance automatique de plaques d’immatriculation, les caméras de vidéosurveillance, les pisteurs GPS, les radars automatiques, etc. Il existe même des système d'arrêt des véhicules à distance.

Même les routes deviennent intelligentes, équipées de capteurs et autres dispositifs de panneaux d'affichage intelligents. Il est même envisagé que : "les routes intelligentes connectées à un système de circulation centralisé pourraient imposer automatiquement des limites de vitesse variables pour lisser le flux du trafic, mais aussi pour diriger les voitures « le long des itinéraires déviés pour éviter les bouchons et même [gérer] leur vitesse »" [1]. Ce système est déjà en place actuellement. Mais quand sera-t-il lorsque nous auront des voitures autonomes ? Formidable ! On achète, avec nos modestes congés payés, une voiture personnelle autonome pour se retrouver dans les transports en communs !
Un article du The Guardian nous rappelle que "Grâce aux capteurs et à Internet, les objets du quotidien les plus banals ont acquis un pouvoir énorme de réglementation de notre comportement." [1]. Et que dire de l'emprise des multinationales sur notre vie quotidienne et notre vie privée, mis à part que : "Google sera l’intermédiaire entre vous et votre réfrigérateur, vous et votre voiture, vous et votre poubelle, permettra aux Agences nationales de sécurité de s’acquitter de leur addiction aux données en vrac et via un point d’accès unique." [1].
 

[1] Evgeny Morozov, "La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov", Blog de Paul Jorion, 25/08/2014, https://www.pauljorion.com/blog/2017/09/21/la-societe-numerique-a-la-chinoise-un-modele-de-dystopie-par-francois-leclerc/


Politiques cibles

Tous ces nouveaux moyens technologiques de rendre nos vies plus agréables peuvent également servir à rendre notre gouvernance plus intelligente. En effet, tous ces gadgets détenus et utilisés par le peuple peuvent être utile pour permettre un action régulatrice plus efficace. Une politique de réglementation algorithmique simplifierait la prise de décision et l'exercice de l'autorité graçe à l'apprentissage automatique, car : "Le principe, qui permet au système de maintenir sa stabilité en apprenant constamment et en s’adaptant à l’évolution des situations, c’est ce que le psychiatre britannique Ross Ashby, l’un des pères fondateurs de la cybernétique, appela « ultra-stabilité »." [1].

La réglementation algorithmique permet de lutter contre la fraude fiscale comme par exemple avec le Redditometro en Italie qui permet de comparer les habitudes de dépenses des contribuables. Des systèmes qui facilitent la tâche des administrations, mais qui ne touchent pas forcement tous les publics, comme les super-riches qui délocalisent leur fortune, ou autres mutlinationales. Et O’Reilly, de nous rappeler que "Si c’est juste pour que les ploutocrates puissent éluder l’impôt, pour les institutions financières internationales intéressées dans les budgets nationaux équilibrés et pour les entreprises qui développent des logiciels de suivi de revenu, alors ce ne sera pas vraiment un succès démocratique." [1].

Ces systèmes de réglementation algorithmique sont très efficace et pourraient transcender la politique pour n'être plus que technocratie, et ne plus être basés que sur des critères économiques. De plus, "Comme la Silicon Valley ne cesse de corrompre notre langue avec sa glorification sans fin de percées technologiques et d’efficacité – concepts en contradiction avec le vocabulaire de la démocratie – notre capacité à remettre en question le « comment » de la politique se retrouve affaiblie." [1].

Notre capacité à gouverner est donc en prise avec une vision que Evgeny Morozov appelle le « solutionnisme » qui nous présente la gouvernance comme l'application de technologie comme solution, car le discours de la Silicon Valley n'est autre que : "les problèmes doivent être traités via des applications, des capteurs, et des boucles de rétroaction – tous fournis par les startups." [1].

Pour Giorgio Agamben, philosophe italien, notre société est occupée à changer de paradigme de gouvernance "qui veut que la relation hiérarchique traditionnelle entre causes et effets soit inversée, de sorte que, au lieu de gouverner les causes – une entreprise difficile et coûteuse – les gouvernements tentent simplement de contrôler les effets" [1]. Et de poursuivre que : "Si le gouvernement vise les effets et non les causes, il sera tenu d’étendre et multiplier les contrôles. Identifier les causes demande de l’analyse de la connaissance, tandis que les effets peuvent être vérifiés et contrôlés." [1].

La protection sociale est un bon indicateur des logiques des politiques de régulation algorithmique. En effet, prévenir les risques par la vérification et le contrôle de sa santé deviendra presque un préalable pour pouvoir bénéficier des systèmes de protection sociale. Et nous voilà donc "invités à commencer à utiliser les applications d’auto-suivi et de partage des données, de surveiller nos indicateurs vitaux, nos symptômes et les lacunes de notre propre santé." [1] si nous voulons bénéficier d'une protection santé, nous devrons être pro-actif.

Nous ne somme plus dans l'assurance du risque, mais l'assurance de la non prise de risque. En d'autres termes, vous êtes diabétique et vous allez manger un bon petit plat au restaurant, vous n'êtes pas très pro-actif à votre bonne santé et donc vous prenez un risque que votre assureur pourrait trouver abusif.

La réglementation algorithmique en déplacant notre attention "des insuffisances institutionnelles et des malversations économiques pour s’attacher au contrôle des personnes, (...) nous offre une bonne vieille utopie technocratique de la politique sans politique." [1].

Et Evgeny Morozov d'ajouter que : "tant que la démocratie est irréductible à une formule, ses valeurs seront toujours perdantes dans cette bataille car elles sont beaucoup plus difficiles à quantifier" [1].

La gouvernance devra donc passer par une plus grande décentralisation et l’émergence de communautés politiques plus thématisées et plus basées sur une forme d'auto-organisation citoyenne, préconise Evgeny Morozov. Car comme le prédisait MacBride en 1967 : "« Compte tenu des ressources technologiques et techniques de planification modernes », a-t-il averti, « ce n’est vraiment pas très compliqué de transformer même un pays comme le nôtre en une entreprise où le bon fonctionnement de tous les détails de la vie est une fonction mécanique prise en charge »." [1].

Le développement de notre gouvernance n'est pas très rassurant. La technologie et la bureaucratie sont alliées dans l'avènement d'un Etat régulé par des algorithmes. Et Stanislaw Lem, auteur de science-fiction des années '70, de nous rappeler que : "La société ne peut pas se débarrasser du fardeau d’avoir à décider de son propre sort en sacrifiant cette liberté au bénéfice du régulateur cybernétique" [1].


[1] Evgeny Morozov, "La prise de pouvoir des données et la mort de la politique, par Evgeny Morozov", Blog de Paul Jorion, 25/08/2014, https://www.pauljorion.com/blog/2017/09/21/la-societe-numerique-a-la-chinoise-un-modele-de-dystopie-par-francois-leclerc/





Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Pas de Modification 4.0 International


Retour




Les associations et Asbl (association sans but lucratif) sur Social Square



Bienvenue sur Cybersociety
Ce site utilise des cookies. En poursuivant votre visite, vous acceptez leur utilisation.
Accepter
Refuser
Fermer