Huffpost Tunisie mg
LES BLOGS

Des points de vue et des analyses approfondis de l'actualité grâce aux contributeurs du Huffington Post

Asma Mhalla Headshot

Contre toute attente, la critique du numérique vient des États-Unis

Publication: Mis à jour:
Imprimer

Des voix de plus en plus nombreuses s'élèvent pour dénoncer la dérive sans précédent du numérique mondial, dominé par les entreprises de la Silicon Valley. L'air de rien, le pôle californien modélise une nouvelle société en gestation. Anéantissant au passage certaines de nos libertés fondamentales.

En effet, les interfaces évoluent dans un écosystème ultra-concurrentiel ou la rentabilité financière à court terme et les gains de parts de marché restent les indicateurs rois. Alors pour être rentable, on monétise à outrance. Ce modèle économique, met le web au service de quelques plateformes géantes américaines qui reverticalisent progressivement le réseau, reproduisant des schémas libéraux traditionnels bien connus. Pourtant trois critiques émergent pour tenter d'ouvrir un débat public sur la dimension éthique et politique du numérique.

Le désir et la donnée pour une société de surveillance nouvelle génération

Un ingrédient est nécessaire aux business models numériques : nos données personnelles. Le dernier ouvrage Exposed de Bernard Harcourt, avocat et professeur de droit à Columbia, démonte brillamment les systèmes pernicieux de collecte des précieuses informations que l'on laisse derrière nous. Mais nos données, en libre-service pour les entreprises et les services de renseignements américains, lancent les bases de l'Etat de surveillance du XXIème siècle.

Celui-ci ne se structurera pas autour de la coercition imaginée par Orwell dans "1984" ou du panoptique, fondement invisible d'une société disciplinaire développé par Foucault dans "Surveiller et punir". Une autre forme d'aliénation est en train de s'organiser, la surveillance induite implicitement par ce que Harcourt appelle "The Expository Society" : nous voyons nos désirs exacerbés au niveau maximal dans une course effrénée aux likes, aux shares, aux followers. Le désir de paraitre, de s'exposer, de communiquer nous fait abdiquer volontairement de notre vie privée. Ce désir, multiforme et exclusivement digital, est vanté, promu, travaillé au corps par les technologies mises à disposition. Les tentations et les sollicitations sont permanentes, intériorisées dans de nouveaux comportements psychologiques et sociaux que nous adoptons bien volontiers au détriment de la protection de nos données personnelles. Le pouvoir se structure autour d'un nouveau paradigme : la capacité algorithmique de prédire les comportements futurs de l'homo digitalis en trouvant son doppelgänger, c'est-à-dire son double numérique sur la base de ses traces numériques.

Ainsi, un nouveau marché très dynamique et très peu régulé apparaît discrètement, celui de la donnée. Celui-ci est peuplé d'une nouvelle espèce hybride entre finance de marché et data science, les data brokers. La nouvelle matière première derrière laquelle toute le monde court est bien la data.

Les algorithmes, générateurs d'inégalités

Ce commerce devient problématique, d'un point de vue éthique, quand il discrimine et génère des inégalités entre individus. Dans un récent ouvrage Weapons of math destruction Cathy O'Neil, data scientist et docteur en maths à Harvard, souligne que certains algorithmes sont opaques et discriminatoires. Dans une récente interview donnée à Rue89, elle affirme que le "big data augmente les inégalités et menace la démocratie".

Les systèmes de scoring, dont le code source est créé par des humains avec ce que cela comporte d'opinions subjectives, sont désormais au cœur des processus de décision automatisés. Or évaluer des individus sur la base d'un double numérique théorique modélisé par des algorithmes "incrustés d'opinions", dans des domaines aussi déterminants que la justice ou l'éducation est très dangereux. Pour O'Neil, ces codes contiennent des éléments de racisme. Et de donner l'exemple frappant de l'évaluation des peines de prison qui évaluent le taux de récidive des noirs, tous confondus, comme deux fois plus important que celui des blancs à passé judiciaire identique.

Bref, le calcul des peines de prison, la probabilité d'embauche à un emploi, l'accès au crédit, la souscription à un contrat d'assurances, etc. sont autant de domaines soumis au système de scoring sans que personne ne s'assure de leur équité.

Une industrie de l'attention qui se substitue à notre libre-arbitre

La réalité analogue disparait donc petit à petit au profit de notre existence numérique. Plus grave encore, le brouillage des frontières entre pouvoir politique et pouvoir économique est quasiment institutionnalisé. Pour Harcourt, les GAFA sont en passe de nous gouverner. Facebook décide de notre fil d'actualité et des nouvelles qui nous sont poussées pendant que les Etats, eux, s'occupent de faire tourner l'économie. Nos représentations du monde semblent ainsi dépassées sans que l'on n'arrive à retrouver le sens de l'Histoire. Parce que tout va trop vite. Le temps d'être inquiets, nous sommes déjà repris dans un rythme frénétique de distraction intellectuelle dans une temporalité immédiate par peur de manquer une information importante ou pour obtenir une forme moderne d'approbation sociale. Et c'est précisément cette industrie du temps et de l'attention que Tristan Harris, ingénieur et ex-philosophe produit de Google, met en lumière dans un récent post paru sur Medium. En partant d'une équation simple, temps = information = argent, il y explique par quels subterfuges les entreprises de la Silicon Valley nous poussent à passer le plus de temps possible dans leurs interfaces en nous détournant systématiquement de notre intention initiale. Via des menus déroulant pré-établis, nos écrans menacent notre libre-arbitre en choisissant pour nous d'avance les clics que l'on est le plus susceptibles de faire sans nous laisser entrevoir un champ des possibles peut-être moins rentable mais plus large. Sans le savoir, nous faisons les choix que ces entreprises souhaitent que l'on fasse pour leur rentabilité propre. Le phénomène ne s'arrangera d'ailleurs pas avec la diffusion de la réalité virtuelle et immersive, qui risque de supplanter une réalité physique beaucoup moins séduisante. Facebook a d'ailleurs déjà sorti son Oculus Rift.

Que ce soient Harcourt, Harris ou O'Neil, tous prônent une technologie plus maitrisée et tentent d'éveiller les consciences endormies par ce trop-plein de confort technologique. Mais le plus frappant est de constater qu'aujourd'hui les voix dissidentes les plus virulentes, les plus constructives aussi, ne viennent pas d'Europe mais des Etats-Unis, parfois de l'intérieur même de la Silicon Valley. Pourtant, à la fin des années 80, l'Europe a été le berceau d'un web universel et gratuit pour tous, un "commun" qui a permis à la Toile de se tisser. Or ce pouvoir émancipateur du numérique, encore revendiqué par les patrons de la Silicon Valley et les gourous du net, est dévoyé dans les faits.

Cette Europe qui était à la pointe de la recherche il y a 25 ans est aujourd'hui tombée dans une bien étrange aphasie, boulimique d'un rêve californien qui pourrait bien se muer en cauchemar. Le vieux continent ne semble plus réussir à produire une réflexion critique sur les dérives du modèle dominant. Pourtant la critique est intellectuellement fondamentale pour comprendre les limites puis imaginer une alternative plus éthique. Mais y-a-t-il aujourd'hui la moindre ambition politique européenne de créer une seconde voie reconnectée à ses valeurs fondatrices ?

Retrouvez les articles du HuffPost Tunisie sur notre page Facebook.