Éric Sadin : « Le techno-capitalisme cherche à exploiter chaque séquence de l’existence »

Éric Sadin, écrivain et philosophe, analyse comment les corps, les rapports aux autres,
la ville jusqu’à l’habitat sont désormais quantifiés, évalués en temps réel et optimisés à l’aide d’algorithmes, pour enfin être monétisés. Face à cet assistanat robotisé, il appelle à mettre 
en crise ce système dominant en réintroduisant de l’imprévu dans notre relation au monde.

On dit souvent que les algorithmes sont à l’informatique ce que les recettes sont à la cuisine. Quelle serait votre définition  ?

Éric Sadin On doit comprendre l’algorithme comme un réglage spécifique destiné à exécuter des opérations sur des données numériques en fonction d’une fin déterminée. Pour ma part, je distingue deux types d’algorithme. Un premier conçu en vue de seulement répondre à une tâche univoque. Par exemple, lorsque nous cliquons sur une image perçue sur un écran et qu’elle s’agrandit aussitôt, c’est le résultat de suites d’opérations qui rendent possible la réalisation de cette commande relativement simple. Un second type d’algorithme, massivement apparu depuis le début du XXIe siècle, consiste à le doter de facultés d’interprétation des situations, de suggestion de solutions en fonction de résultats, voire d’une prise de décision de façon autonome. Cela constitue un événement technologique et épistémologique majeur, car ce type d’algorithme ne se contente pas d’exécuter des commandes mais tend à infléchir nos décisions, à nous encourager à agir de telle manière plutôt que de telle manière en fonction d’intérêts non immédiatement manifestes.

Va-t-on vers un contrôle social par les algorithmes, nourris par d’immenses bases de données (Big Data)  ?

Éric Sadin Il s’agit moins de contrôle que d’une volonté d’agir sur le cours des choses en fonction de trois impératifs devenus cardinaux dans nos sociétés contemporaines  : l’optimisation, la fluidification et la sécurisation du plus grand nombre de situations individuelles et collectives. Dimensions qui se trouvent aujourd’hui exaltées par la numérisation tendanciellement intégrale du monde. Car après la numérisation de l’écrit, du son et de l’image entreprise au cours des dernières décennies, nous entrons dans une nouvelle ère marquée par la prolifération de capteurs et d’objets connectés qui saisissent une infinité de fragments du réel érigeant une définition extrêmement précise – au chiffre près – des phénomènes. Nous sommes désormais dotés d’une connaissance haute définition et en temps réel de nombre de faits de tous ordres. Disposition qui nous conduit à agir de façon toujours plus informée et à entretenir un rapport strictement utilitariste à notre environnement. Il s’agit là d’une dimension non dite actuellement instituée par le numérique, qui participe d’une extrême rationalisation des sociétés.

Peut-on dire qu’on passe de l’algorithme totalisant au totalitaire  ?

Éric Sadin Ce qui actuellement prend une forme totalisante, c’est que, par le fait de la numérisation de nos existences, de plus en plus de nos gestes sont orientés par des algorithmes en vue de nous faire adopter des comportements, non pas de façon coercitive, mais sous une forme incitative par la stimulation du désir. Et cela rend le phénomène difficile à saisir. Car nous sommes placés sous le régime de la séduction induite par l’ergonomie fluide des interfaces et la dimension ludique des applications, autant que par l’«  intuition algorithmique  » capable de nous suggérer des recommandations personnalisées. L’incitation algorithmique ne nous force à rien, elle crée un sentiment d’évidence. Elle relève presque d’un ordre épiphanique à nous révéler continuellement ce dont nous sommes supposés avoir besoin. C’est exactement ce vers quoi sont actuellement conçus les assistants numériques personnalisés qui visent à nous accompagner «  au mieux  » et de façon automatisée au long de nos quotidiens.

Quels sont les enjeux politiques du Big Data et de l’algorithmique  ? Quels exemples de manipulation politique et d’usage du prédictif en politique  ?

Éric Sadin Le traitement de masses de données à l’aide d’algorithmes ad hoc autorise une prédictibilité toujours plus fiable des événements en cours de germination. Certes, il demeure encore de nombreuses failles, néanmoins c’est une disposition technique qui ne cesse de se perfectionner. Cette propension a massivement gagné le régime militaro-sécuritaire à la suite des attentats de septembre 2001, poussant les agences de renseignement, notamment la NSA, à chercher à repérer des projets malveillants avant même qu’ils ne se réalisent. Dimension anticipative qui a par la suite gagné de nombreux autres secteurs  : le marketing, la logistique industrielle, la santé… De son côté, le pouvoir politique s’empare peu à peu de ces nouvelles facultés techniques dessinant des scénarios anticipatifs qui conduisent à engager des actions au présent en fonction de l’estimation de l’impact futur sur l’opinion. On voit que c’est la notion de projet et de risque politiques qui ici s’affaiblissent, au profit d’analyses algorithmiques appelées à paralyser toute idée novatrice ou à contre-courant. Ici la technique dicte des règles non dites à l’action publique.

Vous parlez, notamment à propos des smart cities, ces villes de demain ultraconnectées et optimisées, d’une nouvelle ère du marketing par l’algorithme…

Éric Sadin La smart city, sous couvert de bonnes intentions déclarées, consiste à adosser l’expérience quotidienne de la ville à une multitude d’applications destinées à la maximiser. C’est cela qu’il faut analyser et décrypter au-delà de tous les discours enjoliveurs. La smart city, tout comme l’open data, encourage l’ouverture des données publiques dans l’objectif de les transformer en services monétisables, que ce soit dans les domaines du transport, des loisirs, de la santé, de la mise en relation entre les personnes… Entrelacement entre secteurs publics et privés qui emblématise la marchandisation de toutes les dimensions de l’existence actuellement à l’œuvre, sans qu’aucun débat public sur ses enjeux ne se tienne, portant par exemple sur les types de données qui vaudraient la peine d’être ouvertes ou sur d’autres types d’usage qui pourraient en être fait. Or, cette impulsion est la plupart du temps encouragée et soutenue par les collectivités locales, principalement les municipalités, qui en l’occurrence témoignent de peu de capacité critique, étant prises par la séduction de discours qui vantent les vertus d’une «  ville intelligente  » de toute part fluidifiée et sécurisée. IBM et Microsoft savent parfaitement développer ces stratégies marketing auprès des élus. On voit ici à quel point s’opère une troublante et problématique collusion entre le monde numérico-industriel et le pouvoir politique.

L’humain est-il toujours plus « quantifié », mesuré  ?

Éric Sadin C’est l’une des conséquences majeures de la numérisation des existences  : il s’instaure une mesure toujours plus précise et quasi continuelle de nombre d’activités humaines. Les statistiques publiques ou privées étaient historiquement destinées à comprendre les pratiques collectives et individuelles. Elles supposaient d’aller rechercher des informations nécessairement parcellaires, et leur traitement était fastidieux. Désormais, le corps contemporain ne cesse de disséminer des données rendant possible un suivi ininterrompu et en temps réel des comportements. Par exemple, les bracelets et autres montres connectés sont appelés à témoigner des flux physiologiques, les maisons connectées des habitudes alimentaires, des programmes de télévision regardés (via la télévision connectée), du poids des personnes… Le développement du numérique, par le découpage du réel au chiffre près qu’il opère et la mémorisation systématique qu’il autorise, aura conduit à instituer une définition toujours plus précise de la vie.

Le salarié aussi est quantifié, optimisé, contrôlé…

Éric Sadin Dorénavant, la quasi-totalité des actes du travail, que ce soit dans les usines ou les espaces de bureau, sont adossés à des protocoles numériques (usages d’ordinateurs et de logiciels professionnels, capteurs sur les chaînes de production, systèmes de régulation automatisée). Il s’institue une visibilité en quasi-temps réel des activités, qui ne portent plus sur la seule quantité mais aussi sur la qualité, par le fait de la mise en comparaison évolutive des résultats qui affine la connaissance des pratiques. Une évaluation algorithmique s’instaure, induisant encore une intériorisation consciente ou inconsciente d’une mesure tendanciellement continue qui n’est pas sans effet sur la psychologie des personnes. En outre, les évaluations sont effectuées d’après des critères inconnus, parfois fixés on ne sait trop pour quelles raisons ou à quelles fins par des cabinets spécialisés extérieurs. Cette évaluation précise des performances d’un nouveau genre devrait faire l’objet de débats et de nécessaires controverses, tant dans le cadre de l’entreprise que dans la société. Or elles n’ont pas suffisamment lieu.

Est-il pensable d’établir un contrôle social ou humain de l’algorithme  ?

Éric Sadin Ce devrait être le cas, mais le fait est que le numérique est recouvert dans ses processus de fonctionnement par une forme d’invisibilité. Aucune théorie du complot ici, il s’agit là d’un fait structurel. Qui peut dire qu’il a vu une base de données  ? Les data centers sont composés de batteries de disques durs rangés dans des immenses étagères qui contiennent des magmas informationnels. Leurs modalités de fonctionnement sont insaisissables à la perception. Tout comme les algorithmes, composés de milliers de séquences de codes, échappent à la visibilité. Dimension qui de facto octroie une large marge d’action aux programmeurs, libres de composer des algorithmes à leur guise. Cela crée une asymétrie qui constitue un défi conceptuel, juridique et politique d’une extrême complexité. Jusqu’où pouvons-nous accepter que la cognition et l’action humaines soient infléchies par des systèmes dont les visées nous restent pour large partie dissimulées  ?

La description d’un «  solutionnisme  » qui consiste à se reposer sur la technique pour résoudre tous les problèmes est au cœur de votre ouvrage. Cela donne l’impression d’une mise à plat, qui oublie toute forme de causalité.

Éric Sadin C’est exact. Le modèle dominant développé par l’industrie du numérique consiste à offrir une infinité de «  solutions  » à l’égard de tous les moments du quotidien. Nous assistons actuellement à une «  servicisation  » généralisée de la vie. Il s’agit de transformer toute donnée en services personnalisés supposés offrir un surcroît de confort et de sécurité. C’est cet esprit-là d’innovation qui est massivement à l’œuvre dans les start-up. Le techno-capitalisme contemporain cherche à exploiter chaque séquence de l’existence, jusqu’à vouloir à terme capter la qualité du sommeil par exemple grâce à des capteurs intégrés dans les matelas ou des puces implantées dans le corps. Informations appelées à être récoltées par de multiples instances tierces en vue de proposer en retour des produits ou services appropriés à chaque individu, mais qui répondent souvent de façon simpliste aux déficiences. C’est ce modèle-là, qui au nom de la croissance économique, est soutenu par des fonds publics et qui constitue le cœur de l’activité de la French Tech par exemple, tant défendue par le gouvernement et la secrétaire d’État chargée du numérique. Ils semblent tellement obnubilés par l’objectif de la croissance qu’ils sont incapables de saisir les conséquences non seulement sociétales mais plus largement civilisationnelles induites par cette marchandisation sans frein de tous les pans de l’existence.

Peut-on dire que l’algorithme, telle une poétique, essaye d’écrire la vie  ?

Éric Sadin Ce que l’on voit avec la vie algorithmisée, c’est que c’est la dimension prédatrice de l’humain qui prévaut, consistant à exploiter autant que possible toutes les fonctionnalités offertes par le numérique en vue de coller à chaque moment de la vie des individus et de ne leur laisser aucune part située à l’abri. Une poétique de l’algorithme consisterait à mettre en crise ce modèle dominant, à nous détourner de cet assistanat robotisé et à s’efforcer de maintenir la pleine capacité humaine à décider en conscience du cours de son existence. Elle chercherait encore à réintroduire de l’ambiguïté, de l’incertitude, de l’imprévu dans notre relation au monde et aux autres. Autant de dimensions vitales qui peu à peu s’éclipsent.

La vie algorithmique. Avec ce nouvel ouvrage, paru le 13 mars aux éditions l’Échappée, Éric Sadin poursuit son entreprise d’analyse et de critique 
de la vie numérique, entamée avec Surveillance globale, et l’Humanité augmentée. Avec précision et une réelle rigueur technique, il explore ce champ encore trop impensé de l’humanité numérique, quantifiée, surveillée, optimisée, fluidifiée. Il décrypte comment les existences et sociétés sont évaluées et appréhendées en temps réel dans le but d’une marchandisation intégrale de la vie.

http://www.humanite.fr/le-techno-capitalisme-cherche-exploiter-chaque-sequence-de-lexistence-eric-sadin-570275