Maddyness

Pourquoi le solutionnisme par l’IA est un grand danger

Comments
Partager :
Up
Partie précédente
1 —
Partie suivante
Down
Maddyness
Up
Menu
Partie 1
Down
Technologies

Pourquoi le solutionnisme par l’IA est un grand danger

Pepper Pepper Pepper
5149 - piping hot  |  
Comments
Par Thomas Solignac - 14 janvier 2020 / 17H19

Quel point commun entre l’obésité, les fake news, le cancer, la lenteur des procédures judiciaires et l’inattention des étudiants en classe ? Tous ces fléaux seront bientôt éradiqués par l’intelligence artificielle ! C’est du moins le pari de la Silicon Valley. Mais des utopies de Palo Alto au Meilleur des Mondes d’Huxley, il n’y a qu’un pas.

Dans son percutant opus Pour tout résoudre cliquez ici, Evgueny Morozov définit le solutionnisme comme une quête sans fin d’amélioration technologique poussant à reconsidérer toutes les situations sociales soit comme des problèmes clairement définis comportant des solutions technologiques précises et prévisibles, soit des processus transparents qu’il faut optimiser. Une élégante manière de suggérer qu’aux yeux de celui qui tient un marteau dans sa main, tout s’apparente à un clou.

Il n’est pas question ici de nier que la technologie – et l’IA ne fait pas exception – puisse contribuer à améliorer le sort de l’humanité. Pour paraphraser Morosov, le problème n’est pas que les solutions proposées risquent d’échouer, mais plutôt que le solutionnisme, en cherchant à résoudre le problème « le torde d’une façon si lamentable et inhabituelle que lorsqu’ils en viennent à bout, il est devenu tout autre chose. » Aux mains des solutionnistes, l’intelligence artificielle devient un dangereux hochet.

De quoi le solutionnisme est-il le nom ?

En termes idéologiques, le solutionnisme est un progressisme technologique. Il repose sur un fantasme prométhéen : tous les problèmes de l’humanité, depuis l’incertitude, l’inefficacité, l’ambiguïté, le désordre, jusqu’à la mort, peuvent être résolus par le secours de la technique.

Difficile, bien sûr, d’opposer une pétition de principe à cet enthousiasme : qui peut prédire ce que la technique rendra possible demain ? Mais il l’est tout autant de ne pas noter avec Jacques Ellul que le véritable projet du système technicien est d’engendrer… toujours plus de technique. Et, dans un autre registre, de ne pas observer avec Philippe Bihouix que les solutions techniques que nous apportons à nos problèmes environnementaux n’améliorent ni notre impact écologique, ni la durabilité de notre système technique.

Comme projet de société, le solutionnisme est d’inspiration résolument néolibérale. Il confère aux acteurs du secteur privés, au premier rang desquels desquels les géants du numérique, la mission de résoudre les problèmes sociaux dans une logique consumériste. Il fait également porter le poids de l’adoption de la solution sur les acteurs les plus faibles. Si les pauvres sont frappés d’une épidémie d’obésité, alors il faut les responsabiliser et leur fournir des outils afin qu’ils s’alimentent mieux. Si les étudiants ratent leurs diplômes, ils peuvent y pallier en bénéficiant de MOOC. Pour le solutionniste, toutes les questions sociales sont solubles dans l’acte de consommation et d’adoption de solutions technologiques ad hoc.

Promesses technologiques non tenues

Si le courant solutionniste prête pour l’instant à sourire, c’est moins pour sa candeur idéologique que pour l’inanité des solutions d’intelligence artificielle dont il a accouché.

En 2014, Watson d’IBM s’était donné pour mission de mettre la puissance du machine learning au service de l’oncologie. Watson devait à terme devenir un diagnosticien expert responsable en outre du choix des traitements. La plupart des projets de recherche ont depuis été abandonnés faute de résultats à la hauteur des investissements consentis.

Mark Zuckerberg a longtemps défendu l’idée que l’IA de Facebook permettrait de purger ses pages des fake news circulant sur le réseau social. Jusqu’à l’annonce sous la pression des parties prenantes du recrutement de 10 000 collaborateurs chargés de censurer les écuries d’Augias.

A lire aussi

Après avoir fait confiance à l’algorithme prédictif COMPAS, la justice américaine semble faire machine arrière après avoir constaté que l’outil n’améliorait pas la qualité des verdicts rendus mais renforçait en revanche la tendance à l’inégalité des peines selon les origines ethniques des prévenus à la défaveur de la minorité afro-américaine.

Les tentatives de résolution des problèmes sanitaires ou sociaux par l’IA se soldent  donc pour l’instant par des échecs cuisants, qui ne doivent pas occulter le risque associé à la posture.

Et soudain, l’IA dérapa

En 2016, dans sa volonté de fournir aux adolescents une IA amie – un autre avatar du solutionnisme visant à briser l’isolement-, Microsoft mit en service sur Twitter un agent conversationnel nommé Tay. Pris à parti par des Twittos exploitant les biais de ce type de chatbot basé sur le machine learning, Tay dérapa, adoptant notamment un discours négationniste. L’opération, calamiteuse à tout point de vue pour Microsoft, illustre un risque bien réel, objet croissant de recherche : l’exploitation des faiblesses d’une technologie immature. Le développement actuel d’IA voué à tromper d’autres IA augure également de bien des difficultés de sécurisation des solutions d’intelligence artificielle. D’un point de vue technologique, le solutionnisme met doublement l’IA en danger : il la décrédibilise en faisant porter sur elle des attentes démesurées, et, en en faisant la panacée de demain, il l’expose inutilement.

Ces écueils ne pèsent toutefois pas lourd en comparaison des dérives sociétales à craindre avec la généralisation des IA solutionnistes dans un monde bardé de capteurs et de caméras. On pourrait s’assurer de votre niveau d’attention au travail, vérifier que vous avez trié correctement vos déchets, ou contrôler que votre taux d’activité physique quotidienne est suffisant pour vous maintenir en bonne santé, pour votre plus grand bien… et celui des finances de l’assurance maladie. Dans l’univers solutionniste, les « solutions » semblent toutes du côté des entreprises, et la responsabilité du côté de l’usager. À chaque consommateur de rendre des comptes, individuellement, en toute transparence. L’offre n’est pas suspecte, le contexte social n’est pas interrogé, et l’État n’est qu’un prescripteur de solutions marchandes, occasionnant un faible coût marginal et autorisant un fort contrôle social.

Le dernier risque associé au solutionnisme est en effet celui associé à la gouvernance. Les pouvoirs publics ne se sont jamais autant souciés des coûts, et seront inévitablement tentés d’adopter les approches produisant le plus de résultats par euro dépensé. En la matière, l’intelligence artificielle constituera le bras armé d’acteurs privés capables d’immiscer leurs « solutions » sur des marchés aussi lucratifs que celui de l’éducation, de la santé ou de la gestion des services urbains. Ce qui remettrait significativement en question la protection de nos données personnelles et l’organisation de nos sociétés et de leurs instances démocratiques.

Thomas Solignac est CEO de Golem.ai

Par

Thomas Solignac

14 janvier 2020 / 17H19
mis à jour le 14 janvier 2020
Articles les plus lus du moment

Lydia lève 40 millions d'euros. Tencent entre au capital

Finance
Par Iris Maignan - 17H00mercredi 15 janvier 2020
Next

9 astuces pour améliorer facilement votre vie

Entrepreneurs
Par Ny Ando Randrianarisoa - 09H00dimanche 26 janvier 2020
Next
Business
Menu
Entrepreneurs
Menu
Finance
Menu
Innovation
Menu
Technologies
Menu
MaddyShop
MaddyShop
Agenda
Agenda
MaddyEvent
MaddyEvent
MaddyJobs
MaddyJobs
MaddyStudio
MaddyStudio
Search
Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.
Articles les plus consultés
Les guides
Entreprises Structures d’accompagnement MaddyBasics
Maddyplay
Newsletter
À propos
Mentions Légales
Search
Nos services
Les catégories
Maddynews
Hmm... Il y a visiblement eu un soucis :(
Maddyness

Comme vous le savez, Maddyness est à la pointe de l'innovation.
Malheureusement il semble que votre navigateur ne le soit pas encore...

Pour une bonne expérience de navigation
(et être au top de la modernité) pensez à passer sur :
Chrome
Chrome
Safari
Safari
Firefox
Firefox
Edge
Edge