Maddyness

Pourquoi nous ne deviendrons pas (forcément) des robots

Comments
Partager :
Up
Partie précédente
1 —
Partie suivante
Down
Maddyness
Up
Menu
Partie 1
Down
Technologies

Pourquoi nous ne deviendrons pas (forcément) des robots

Pepper Pepper Pepper
579 - trending  |  
Comments
Par Fabien Maurin - 27 février 2018 / 00H00 - mis à jour le 22 mars 2018

Homo Deus. Après Sapiens, qui a beaucoup fait parler, voici donc le deuxième livre de l’historien israélien Yuval Noah Harari. Homo Deus d’abord, en deux mots, ce sont 450 pages pour peindre à grands traits l’histoire de l’humanité et comprendre comment l’espèce humaine en est venue à conquérir le monde (première partie), comment elle a donné du sens au monde (deuxième partie), puis pour décrire le futur d’un monde qui, façonné par l’homme, pourrait lui échapper (troisième partie et clap de fin).

Si le propos d’Harari permet de se remettre en tête certains faits sur l’état économique ou écologique du monde contemporain par exemple, en s’appuyant sur une documentation fournie, Homo Deus peut toutefois laisser le sentiment, pour ceux qui n’auraient pas lu le premier tome, Sapiens, d’un ouvrage de vulgarisation qui cède parfois à la schématisation, au nom d’une simplification nécessaire des idées. Homo Deus est un produit marketing : sur un ton qui rappelle celui des business books des gourous américains, Harari balaye des millénaires d’histoire qu’il ponctue de titres tape-à-l’œil qui, s’ils ont le mérite de l’humour (« une brève histoire des pelouses », « la vie déprimante des rats de laboratoires »), n’en restent pas moins faciles.

Malgré ces défauts et quelques raccourcis regrettables dans les deux premières parties de l’ouvrage, il m’a néanmoins paru important d’y consacrer de l’attention, ne serait-ce parce qu’Harari est parvenu, avec son premier livre, à parler d’Histoire au grand public (plus d’un million d’exemplaires vendus), mais aussi parce que l’enjeu de la transformation de nos sociétés à l’aune des technologies d’intelligence artificielle constitue l’un des grands défis des prochaines décennies. Le futur qu’entrevoit Harari au fil de ses pages, appuyé par des thèses scientifiques solides, confortées par certaines innovations actuelles, pourrait bien être celui qui adviendra, et dont la construction ne commence pas dans cinquante, cent ou deux cent ans, mais dès aujourd’hui.

homo deus

Comment l’homme va devenir une marionnette

Le futur que décrit Harari pose un premier enjeu d’ordre individuel. Ce monde possible, qui aura décomposé l’être humain en millions de fonctions de base qui, réunies, ne forment jamais qu’un algorithme biochimique dont nous perçons déjà les premiers mystères, abolira le libre-arbitre, pourtant envisagé depuis des siècles comme le pilier des sociétés humanistes qui valorisent l’individu, son autonomie et sa liberté. Si l’homme n’est plus qu’une somme de réactions électrochimiques?—?dont il nous reste à comprendre si elles sont déterministes ou aléatoires?—?, alors aucune de ses décisions n’est réellement libre. Modélisable par d’autres algorithmes, interfaçable avec d’autres systèmes, il devient dès lors un algorithme parmi d’autres, à la différence près qu’il est à la fois moins puissant et moins fiable que les intelligences artificielles que nous savons déjà développer. Alors que ces intelligences artificielles sont par ailleurs en passe de pouvoir connaître un individu mieux que lui-même, Harari nous interpelle : pourquoi dès lors ne pas confier à un algorithme la tâche d’accompagner l’homme dans les décisions importantes de sa vie ? Pourquoi, pour lui simplifier l’existence, ne pas prendre certaines de ces décisions à sa place ? Et si l’algorithme est finalement mieux capable de déterminer ce qui est bon pour lui, pourquoi ne pas placer l’homme sous le contrôle de la machine, pour son propre bien ?

Dans ce monde que nous montre Harari, la structure de la société et la hiérarchie des valeurs qui la soutiennent sera par ailleurs profondément bouleversée. Le travail, aujourd’hui pensé comme l’activité de base de chaque membre des sociétés contemporaines, perdra son rôle structurant : si les entreprises maintiennent l’efficacité économique comme principal facteur de prise de décision, que devient la place du travail humain dans une économie où la machine supplantera non seulement les capacités physiques de l’homme (c’est déjà le cas) mais également ses capacités cognitives ? Alors qu’au cours des derniers siècles, les effectifs de travailleurs ont migré de l’agriculture au secteur industriel puis aux services, sous l’effet de l’amélioration des techniques et des machines, où imaginer les emplois de demain dans un monde où les algorithmes sont également plus performants que l’homme dans le domaine des services ? Quelle activité l’homme saura-t-il mieux faire que les intelligences artificielles ? Pour Harari, la réponse selon laquelle les tâches qui nécessitent de l’empathie ou du « contact humain » resteront l’apanage de l’homme ne tient pas : dès lors que cette empathie et ce contact ne sont finalement que le fruit d’algorithmes biochimiques reproductibles artificiellement, l’homme ne peut-il pas être remplacé ? Comment, pour reprendre les mots de Laurent Alexandre, penser alors la complémentarité entre l’homme et l’intelligence artificielle ? Quel modèle proposer, au-delà des solutions simplistes proposées par certains politiques, dans une société dans laquelle le travail perdrait son rôle structurant ?

Ce possible que dépeint Harari interroge enfin l’homme sur l’avenir même des sociétés contemporaines. Les technologies du XXIe siècle auront un impact incomparable avec les progrès enregistrés lors des siècles précédents, notamment sur la distribution du pouvoir et sur les inégalités. Ce que le scenario décrit par Harari laisse entrevoir, c’est un monde dans lequel se formerait une élite de quelques individus assez fortunée pour s’offrir des soins médicaux qui « augmenteraient » leur corps et leur esprit. Alors que les inégalités de la planète sont jusqu’à présent essentiellement d’ordre économique, l’existence de ces Homo Deus, rendue possible par les progrès technologiques de la médecine, ouvrirait alors la porte à une humanité à deux vitesses, différenciée biologiquement, dont on ne préfère pas imaginer les dérives potentielles. Cette poignée d’humains, qui aurait le contrôle des algorithmes par lesquels la plupart des humains prendraient leurs décisions, pourrait alors régir l’ensemble de la société à la manière d’un marionnettiste.

Revoyons nos hypothèses

La vision développée par Harari ressemble donc à un mauvais film de science-fiction, la description d’un monde dans lequel l’homme sera conduit à sa perte par ses propres créations. Si certaines des dernières avancées technologiques laissent penser que ce futur pourrait bien advenir, notons néanmoins que le propos d’Harari s’appuie sur plusieurs hypothèses qui, comme le souligne Jean-Gabriel Ganascia, mériteraient d’être interrogées.

La première tient à ce que les sciences de la vie nous permettraient, à terme, de comprendre de manière globale le fonctionnement du corps humain et de la conscience. Il est en effet probable que nous finissions par percer les mystères de cette machine complexe qu’est le corps humain. Rien n’est moins sûr, en revanche, du côté de la conscience : notre incapacité profonde à comprendre le mode de conscience d’une chauve-souris par exemple, qui appréhende le monde par écholocalisation, mode de perception que ne nous permettent pas nos cinq sens, pourrait prouver que la science et notre conscience elle-même ont des limites intrinsèques, que l’on pourrait ne jamais parvenir à franchir.

La seconde prétend que l’ensemble du vivant pourrait être reproduit et modélisé grâce à des algorithmes. De fait, ces modélisations atteignent des niveaux de précision et de fiabilité tels que l’homme leur donne désormais un impact direct sur le réel. Gardons toutefois en tête qu’une simulation, aussi fidèle soit-elle, n’est pas le réel : l’enjeu est alors pour l’homme de conserver un sens critique face aux algorithmes, au risque de redescendre dans la caverne.

Harari décrit enfin un progrès qui semble infini, et qui s’affranchit notamment de limites pourtant bien connues : celles de notre écosystème, aux ressources finies, autre grand défi de notre temps. Harari opposerait sans doute que, dans sa quête, l’homme ne saurait tarder à élargir son horizon à d’autres planètes, à d’autres mondes, dépassant ainsi l’étroitesse de l’écosystème terrestre pour s’accaparer de nouvelles ressources : peut-être. Mais cette conquête, encore très hypothétique, suivra-t-elle le rythme de nos avancées (bien réelles, elles) dans le domaine de l’intelligence artificielle ? Le dénouement de ce paradoxe entre progrès exponentiel et ressources finies ne résiderait-il pas alors, précisément, dans l’utilisation de nos nouvelles capacités d’analyse pour mieux exploiter et répartir les ressources ?

Par ailleurs, l’ouvrage d’Harari exploite l’une des peurs souvent liée aux thèmes des robots et de l’intelligence artificielle, celle que l’homme passe un jour sous contrôle d’algorithmes, qu’il a lui même créés et qui le dépasseraient, capables d’anticiper sa volonté et ses réactions. L’existence de puissances de calcul supérieures à celle de l’homme n’est pourtant pas nouvelle : même si les moyens dont nous disposons aujourd’hui sont sans commune mesure avec ceux du passé, l’anticipation du futur grâce aux données passées est un sujet ancien, tant en termes mathématiques que philosophique. Harari sous-estimerait, à mon sens, la responsabilité de l’homme, qui doit rester capable de discernement : aussi considérable que soit la nouvelle puissance de calcul dont il dispose, ces prédictions demeurent de l’ordre de la probabilité, et les algorithmes d’un outil d’aide à la décision.

Non, M. Harari, votre vision n’est pas satisfaisante

Homo Deus offre dans ses dernières pages une phrase en forme de sentence : « au XXIe siècle, ceux qui prendront le train du progrès acquerront des capacités divines de création et de destruction ; qui reste à la traine sera voué à l’extinction. » Car ce que propose Harari, c’est en deux mots d’augmenter l’homme pour lui permettre de tenir son rang face aux intelligences artificielles et de conserver un rôle dans le monde ; cette prouesse technologique, accessible à une élite seulement, creusera un fossé infranchissable avec la majorité de la population à laquelle Harari ne propose aucun avenir, et qu’il rebute d’une formule rapide aux poubelles de l’Histoire. Quid de cette majorité : sera-t-elle asservie aux souhaits de l’élite dirigeante, dans des conditions qui pourraient nous renvoyer aux heures les plus sombres de l’Histoire ? Sera-t-elle rendue inoffensive en la plongeant dans un monde parallèle que nous promettent déjà les vendeurs de casques de réalité virtuelle ?

Votre position à ce sujet, M. Harari, n’est pas claire, et cette vision-là n’est pas acceptable. La conclusion que devraient tirer ces 450 pages, c’est qu’il revient au contraire à une élite mondiale composée de nos innovateurs, de nos dirigeants économiques et politiques, de nos intellectuels, parce qu’ils détiennent la connaissance et sont les moteurs du changement, de prendre la mesure de la responsabilité historique qui est la sienne : celle, dès aujourd’hui, de prendre un pas de recul sur les différents futurs qui nous sont offerts, d’en saisir tous les enjeux éthiques, philosophiques, politiques et économiques, pour proposer un avenir dans lequel l’homme gardera le contrôle de sa destinée, dans lequel chacun gardera une place et où toutes et tous auront un rôle à jouer. Toutes les portes sont encore ouvertes : veillons à choisir celle qui sera la nôtre en toute connaissance de cause.

Retrouvez le post original de Fabien Maurin sur Medium


 
Par

Fabien Maurin

27 février 2018 / 00H00
mis à jour le 22 mars 2018
Nos derniers articles

Fetch, le retour du phénix ?

Business
Par Jean-Charles Kurdali - 13H57jeudi 16 août 2018
Next

Business

Menu

Entrepreneurs

Menu

Finance

Menu

Innovation

Menu

Technologies

Menu
MaddyShop
MaddyShop
Agenda
Agenda
MaddyEvent
MaddyEvent
MaddyJobs
MaddyJobs
MaddyStudio
MaddyStudio
S'abonner à notre newsletter
À propos
Mentions Légales
Articles les plus consultés
>
Search
Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.
Search
Nos services
Les catégories
Maddynews
Recevez le résumé de nos articles directement dans votre boîte mail
Hmm... Il y a visiblement eu un soucis :(
Maddyness

Comme vous le savez, Maddyness est à la pointe de l'innovation.
Malheureusement il semble que votre navigateur ne le soit pas encore...

Pour une bonne expérience de navigation
(et être au top de la modernité) pensez à passer sur :
Chrome
Chrome
Safari
Safari
Firefox
Firefox
Edge
Edge