10 octobre 2021
10 octobre 2021
Temps de lecture : 10 minutes
10 min
11038

"Les entrepreneurs ne doivent pas se contenter d’être juste des entrepreneurs"

Diplômés en sciences sociales et politique, consultants auprès d'entreprises sur les questions d'innovation et d'organisation, Yaël Benayoun et Irénée Régnauld sont les auteurs de "Technologies partout, démocratie nulle part". Ils nous expliquent pourquoi les choix technologiques ne peuvent pas être relégués à la simple question des usages.
Temps de lecture : 10 minutes
Partager
Ne passez pas à côté de l'économie de demain, recevez tous les jours à 7H30 la newsletter de Maddyness.

Republication d'un article publié le 26 octobre 2020

Fondateurs de l'association Le Mouton numérique,Yaël Benayoun et Irénée Régnauld s'intéressent aux enjeux sociopolitiques et environnementaux du numérique et des nouvelles technologies. Dans leur plaidoyer "Technologie partout, démocratie nulle part", ils militent pour que la question du progrès deviennent l'affaire de tous, et des principaux intéressés, les citoyens.

Votre livre est sorti au moment où les débats sur la 5G étaient très animés. Qu'est ce que ces derniers disent de notre rapport à la technologie en tant que citoyen ?

Yaël Benayoun: La déclaration d’Emmanuel Macron sur les Amish et la 5G est symptomatique. La démocratie est censée permettre la pluralité des opinions, orchestrer un dialogue. Si une technologie incarne une idéologie ou plusieurs, et qu'on part du principe que cette technologie est inéluctable, que c’est le sens du progrès, qu'il faut celle-ci et et pas une autre, alors c’est une manière de nier le débat.

Irénée Régnauld : Avec la 5G, on assiste à un réveil, celui du corps social qui s’interroge sur les enjeux techniques. C’est un gain de maturité sur les questions de technologie et de société. Même s’il y a du bon et du mauvais, du populisme, du complotisme, qui sont inhérents aux débats projetés dans la sphère médiatique, il y a un débat. Mais ce débat arrive trop tard. On nous présente un objet fini, dans lequel on doit se positionner en étant pour ou contre. On ne nous a jamais sollicités pour savoir comment et pourquoi cet objet pourrait être construit autrement. Dans l’absolu, nous ne sommes pas contre un nouveau réseau mobile. La question est de savoir à quels objectifs répond-il : à ceux de l’augmentation des usages recommandés par les cabinets de conseil ? C’est-à-dire d’aller plus vite avec moins de latence ? Peut être qu’on aurait pu fixer d’autres objectifs du point de vue sociétal. 

Y.B. : Je rajouterais que la manière dont les débats sont articulés est toute à fait révélatrice des dévoiements démocratiques à l’oeuvre dans beaucoup d’autres technologies. Il y a un débat mais il est de mauvaise qualité car il n'y a pas d'institution capable de le mener à bien. Le Parlement dit l'inverse de la convention citoyenne et l'Arcep mène des débats alors même que les enchères de la 5G ont eu lieu. Notre livre est un plaidoyer pour que ces débats arrivent en amont et incluent les premiers concernés, tant sur la forme de la technologie que sur son bien fondé.

Vous pointez du doigt la notion de solutionnisme technologique. L'application Tous Anti Covid qui succède à StopCovid en est-elle l'illustration ?

Y.B : Pendant la période du confinement, dans un laps de temps extrêmement court, on a vu plein de projets ou dispositifs qui ont été lancés alors même que la fiabilité de l'outil posait question sur plusieurs points. Si le sujet de l'adoption de l'application revient, c'est pour rassurer les gens, afin qu’ils sentent quelque part moins démunis.

I.R. : Cette application est passée d'une solution magique à quelque chose qui ne va pas tout résoudre. On sait très bien que le fonctionnement du Bluetooth ne répond pas à la définition d'un cas contact, à savoir 15 min dans un endroit confiné avec des gens, ou à moins d'un mètre sans masque. Il faut acter une chose : il n'y a pas de solution technologique miracle. Une fois qu'on a dit ça, il faut plutôt se demander si on ne peut pas passer par des solutions démocratiques sans forcément avoir recours à l'outil technologique. La mairie de Paris l'expérimente avec son propre conseil consultatif avec des commerçants, des scientifiques, des médecins pour discuter des mesures qui sont en train malheureusement de pousser des entreprises à la fermeture. Cette discussion n’a pas eu lieu au début. On nous a dit "Stop Covid existe car on est engagé dans une guerre contre le virus". Il faut porter le sujet de la technologie de manière transversale et en amont.

Quand la technologie devient un sujet, elle est souvent évoquée sous le prisme de l'usage. Pourquoi est-ce un problème selon vous ?

Y.B. : C'est symptomatique de la manière de parler de technologie. Sur la 5G par exemple, si les anticipations d'usage à 10 ans sont réalisées, la vie de chacun va de fait changer avec une ultra-numérisation des services publics, du travail, etc. Ce sera trop tard pour changer les choses. Les problèmes ne sont pas ressentis par le biais de ces technologies mais par l’emploi, l’urgence climatique, etc.

I.R. : Dans notre livre, on cite David Noble qui dit que la technologie ne fait pas ou ne défait pas la démocratie. En revanche, la technologie est constitutive d'expériences sociales qui sont le tissu de la démocratie. D'ailleurs, il faut écouter les critiques faites à l'attention des entreprises tech ou des artefacts. Ce sont des critiques sociales : sur la situation des migrants, les libertés publiques, le harcèlement chez Google, la diversité, l'inclusion… Tous ces mouvements de contestation entourent la question technique qui n'est elle-même jamais réellement la question.

Vous évoquez d'ailleurs assez peu dans votre livre la diversité et l'inclusion. Plusieurs études et chercheurs et chercheuses ont pourtant montré que le manque de diversité pouvait conduire à des biais dans la construction des fameux algorithmes. Estimez-vous finalement que ces questions ne sont pas encore des enjeux démocratiques ?

I.R. : Si, bien évidemment. Même si on ne l’explicite pas dans le livre, on peut remarquer qu’il y a eu beaucoup d’efforts faits en France sur la parité, la féminisation des métiers du numérique. C’est très bien. En revanche, il y a eu très peu d'attention portée aux questions d'intersectionnalité. La réflexion sur l’inclusion ces dernières années a raté le coche de ce que veut vraiment dire le verbe inclure. Elle a été beaucoup relayée par des chartes éthiques, écrites par des gens blancs, diplômés de grandes écoles, qui réfléchissent très très très fort à ce que ressentent des gens qui ne sont pas comme eux. Ça ne marche pas trop, de fait. On se retrouve avec une meilleure représentativité en terme de genre mais pas forcément de classe ou de couleur de peau. Les entreprises, notamment les plus jeunes et les startups, ne sont pas vraiment armées pour le faire.

Vous êtes critiques sur de nombreux choix technologiques. Vous n'êtes pas technophobes mais peu semblent recevoir vos faveurs. Est-ce qu'il y a tout de même des progrès que vous saluez ? 

I.R.: Oui. À titre personnel, je suis un féru d’innovation et de conquête spatiale. Le degré de connaissances apportées par les satellites en vaut la peine. Mais je ne parle pas des projets d’Elon Musk, de galaxie de satellites. On fait bien la différence entre tout ça. Dans l'absolu, on n'est pas contre la voiture autonome. C'est évident qu’il y a des intérêts. Mais notre propos dépasse cela : il existe des limites sociales et écologiques et les potentiels bienfaits de la technologie doivent être discutés au regard de ces limites. 

En quoi le néocapitalisme utilise-t-il la technologie comme un outil de surveillance comme vous le démontrez avec la reconnaissance faciale?

Y.B. : Ce n’est pas tant que le néocapitalisme l'utilise mais que la technologie est le produit de ce néocapitalisme. On le voit avec les applications de livraison de repas qui permettent de contrôler les livreurs, d'imposer un temps de livraison, etc. On critique un développement précis et des stratégies d’acteurs dominantes qui orientent le progrès d’une certaine manière. Et en ce sens, on retombe souvent sur les mêmes, les Amazon, Google, etc. Mais des technologies alternatives existent. On les connaît. À l’image de la coopérative CoopCycle qui a développé une technologie complètement différente de Deliveroo et Uber, avec forcément un résultat opposé : le temps qu'un livreur doit réaliser pour une course n'est par exemple pas intégré dans l'application mais il est discuté à l’intérieur de la coopérative.

Comment pensez-vous pouvoir transposer cet appel à un réveil démocratique vis-à-vis de la technologie dans les entreprises privées, qui par essence dépendent de choix individuels et ne sont pas soumis aux mêmes règles que la sphère publique ?

I.R. : La question est fondamentale. C’est la définition du constructivisme social en technologie décrit par Andrew Fennberg : ce sont les scandales et les catastrophes qui font bouger les choses. L'invention du principe de précaution, c’est l'explosion de Tchernobyl.  S'il n’y avait pas eu l'affaire Snowden, il n’y aurait pas eu de RGPD. Désormais, il faudrait réussir à faire de ce constructivisme social quelque chose de plus permanent, sans forcément passer par des crises.

Y.B. : Au sein des entreprises, le renforcement démocratique peut s'opérer en allant au bout de la logique de la loi relative au devoir de vigilance. Pour le faire respecter, on peut imaginer l'entrée dans les conseils d'administration d'un représentant de la nature et des droits humains, indépendant, qui a un vrai poids, sait se défendre. C'est une piste parmi d'autres. 

Pourquoi ne croyez-vous pas aux idées des scientifiques spécialistes de l'IA qui pensent notamment que cette technologie libérera les gens des tâches fastidieuses au travail ?

I.R. : On constate un déplacement du travail mais qui semble relever du seul déterminisme technique : parce qu'une IA va améliorer un processus, elle va forcément déplacer une activité vers quelque chose de plus intéressant. Cette conclusion n'est pas de l'ordre de la technologie mais le résultat de choix managériaux, politiques, d'accompagnement. Quand on lit la littérature scientifique sur les apports de l’IA dans la recherche du cancer, ce n'est pas aussi simple que certains tenants de l’IA veulent bien le dire. L'IA, ce n'est pas magique.

Y.B : Sur le terrain, ces prédictions ne se vérifient pas. Prenez l’exemple des caissières. Ce sont des centaines de milliers de personnes concernées, déjà habituées à l'automatisation de leur travail et qui voient arriver en force le concept d’Amazon Go qui a suscité énormément d'intérêt dans la grande distribution. En rencontrant les sociologues qui ont travaillé sur ces sujets, on a découvert un sacré décalage entre les discours qui légitiment cette technologie d'automatisation des caisses et la réalité du terrain. Même avec une caisse automatique, la caissière est toujours là, elle est présente. Si demain elle peut gérer à distance, on ne la verra plus physiquement. Mais elle sera toujours là. C’est le phénomène d’invisibilisation du travailleur. Automatiser pour alléger et libérer le travail est un mythe. La technologie dans ce cas a déplacé le travail et masque le sens au travail décrit par les caissières dans de nombreuses enquêtes sociologiques.

Le secteur de la tech en France a la côte auprès du gouvernement et d'une grand partie de la classe politique qui aime s'afficher aux côté des startups. Quel rôle peuvent jouer leurs entrepeneur·se·s pour répondre à votre appel à plus de démocratie en technologie?

I.R. : Je ne sais pas si ce qu'on écrit est partagé par tous ces entrepreneur·se·s car leur rôle est de bâtir. Mais ils devraient tout même sérieusement commencer à s’intéresser à ces questions car leur rôle pourrait changer à l’avenir. Ce n'est pas parce qu’aujourd’hui certains sont en confrontation avec les GAFA, dans la posture du sauveur, qu’ils ne feront pas des conneries dans 10 ans ou dans 20 ans. Il faut qu’ils soient attentifs à ce qu’ils font dans la société, qu’ils écoutent leurs salariés et qu’ils ne se contentent pas juste d’être des entrepreneurs.

"Technologies partout, démocratie nulle part", Fyp editions, 20 euros.

Découvrir "Technologies partout, démocratie nulle part"