Republication du 14 janvier 2020
Dans son percutant opus Pour tout résoudre cliquez ici, Evgueny Morozov définit le solutionnisme comme une quête sans fin d'amélioration technologique poussant à reconsidérer toutes les situations sociales soit comme des problèmes clairement définis comportant des solutions technologiques précises et prévisibles, soit des processus transparents qu'il faut optimiser. Une élégante manière de suggérer qu'aux yeux de celui qui tient un marteau dans sa main, tout s’apparente à un clou.
Il n’est pas question ici de nier que la technologie – et l’IA ne fait pas exception – puisse contribuer à améliorer le sort de l’humanité. Pour paraphraser Morosov, le problème n'est pas que les solutions proposées risquent d'échouer, mais plutôt que le solutionnisme, en cherchant à résoudre le problème " le torde d'une façon si lamentable et inhabituelle que lorsqu'ils en viennent à bout, il est devenu tout autre chose. " Aux mains des solutionnistes, l’intelligence artificielle devient un dangereux hochet.
De quoi le solutionnisme est-il le nom ?
En termes idéologiques, le solutionnisme est un progressisme technologique. Il repose sur un fantasme prométhéen : tous les problèmes de l’humanité, depuis l’incertitude, l’inefficacité, l’ambiguïté, le désordre, jusqu’à la mort, peuvent être résolus par le secours de la technique.
Difficile, bien sûr, d’opposer une pétition de principe à cet enthousiasme : qui peut prédire ce que la technique rendra possible demain ? Mais il l’est tout autant de ne pas noter avec Jacques Ellul que le véritable projet du système technicien est d’engendrer… toujours plus de technique. Et, dans un autre registre, de ne pas observer avec Philippe Bihouix que les solutions techniques que nous apportons à nos problèmes environnementaux n’améliorent ni notre impact écologique, ni la durabilité de notre système technique.
Comme projet de société, le solutionnisme est d’inspiration résolument néolibérale. Il confère aux acteurs du secteur privés, au premier rang desquels desquels les géants du numérique, la mission de résoudre les problèmes sociaux dans une logique consumériste. Il fait également porter le poids de l’adoption de la solution sur les acteurs les plus faibles. Si les pauvres sont frappés d’une épidémie d’obésité, alors il faut les responsabiliser et leur fournir des outils afin qu’ils s’alimentent mieux. Si les étudiants ratent leurs diplômes, ils peuvent y pallier en bénéficiant de MOOC. Pour le solutionniste, toutes les questions sociales sont solubles dans l’acte de consommation et d’adoption de solutions technologiques ad hoc.
Promesses technologiques non tenues
Si le courant solutionniste prête pour l’instant à sourire, c’est moins pour sa candeur idéologique que pour l’inanité des solutions d’intelligence artificielle dont il a accouché.
En 2014, Watson d’IBM s’était donné pour mission de mettre la puissance du machine learning au service de l’oncologie. Watson devait à terme devenir un diagnosticien expert responsable en outre du choix des traitements. La plupart des projets de recherche ont depuis été abandonnés faute de résultats à la hauteur des investissements consentis.
Mark Zuckerberg a longtemps défendu l’idée que l’IA de Facebook permettrait de purger ses pages des fake news circulant sur le réseau social. Jusqu’à l’annonce sous la pression des parties prenantes du recrutement de 10 000 collaborateurs chargés de censurer les écuries d’Augias.
Après avoir fait confiance à l’algorithme prédictif COMPAS, la justice américaine semble faire machine arrière après avoir constaté que l’outil n’améliorait pas la qualité des verdicts rendus mais renforçait en revanche la tendance à l’inégalité des peines selon les origines ethniques des prévenus à la défaveur de la minorité afro-américaine.
Les tentatives de résolution des problèmes sanitaires ou sociaux par l’IA se soldent donc pour l’instant par des échecs cuisants, qui ne doivent pas occulter le risque associé à la posture.
Et soudain, l’IA dérapa
En 2016, dans sa volonté de fournir aux adolescents une IA amie – un autre avatar du solutionnisme visant à briser l’isolement-, Microsoft mit en service sur Twitter un agent conversationnel nommé Tay. Pris à parti par des Twittos exploitant les biais de ce type de chatbot basé sur le machine learning, Tay dérapa, adoptant notamment un discours négationniste. L’opération, calamiteuse à tout point de vue pour Microsoft, illustre un risque bien réel, objet croissant de recherche : l’exploitation des faiblesses d’une technologie immature. Le développement actuel d’IA voué à tromper d’autres IA augure également de bien des difficultés de sécurisation des solutions d’intelligence artificielle. D’un point de vue technologique, le solutionnisme met doublement l’IA en danger : il la décrédibilise en faisant porter sur elle des attentes démesurées, et, en en faisant la panacée de demain, il l’expose inutilement.
Ces écueils ne pèsent toutefois pas lourd en comparaison des dérives sociétales à craindre avec la généralisation des IA solutionnistes dans un monde bardé de capteurs et de caméras. On pourrait s’assurer de votre niveau d’attention au travail, vérifier que vous avez trié correctement vos déchets, ou contrôler que votre taux d’activité physique quotidienne est suffisant pour vous maintenir en bonne santé, pour votre plus grand bien… et celui des finances de l’assurance maladie. Dans l’univers solutionniste, les " solutions " semblent toutes du côté des entreprises, et la responsabilité du côté de l’usager. À chaque consommateur de rendre des comptes, individuellement, en toute transparence. L’offre n’est pas suspecte, le contexte social n’est pas interrogé, et l’État n’est qu’un prescripteur de solutions marchandes, occasionnant un faible coût marginal et autorisant un fort contrôle social.
Le dernier risque associé au solutionnisme est en effet celui associé à la gouvernance. Les pouvoirs publics ne se sont jamais autant souciés des coûts, et seront inévitablement tentés d’adopter les approches produisant le plus de résultats par euro dépensé. En la matière, l’intelligence artificielle constituera le bras armé d’acteurs privés capables d’immiscer leurs " solutions " sur des marchés aussi lucratifs que celui de l’éducation, de la santé ou de la gestion des services urbains. Ce qui remettrait significativement en question la protection de nos données personnelles et l’organisation de nos sociétés et de leurs instances démocratiques.
Thomas Solignac est CEO de Golem.ai
