«Je suis parmi les entrepreneurs et les développeurs. Je sais que cette conversation aurait pu être une discussion sur l’avancée technologique : sur les algorithmes, sur comment l’IA générative a transformé nos capacités de prédiction… À l’Unesco, nous pensons que ce n’est pas une discussion sur la tech, mais sur nos sociétés que nous devons avoir.» Voici comment Gabriela Ramos, directrice générale adjointe de l’Unesco, charge des sciences sociales et humaines, a introduit son propos sur la scène de l'Agora à la Maddy Keynote 2024, le jeudi 28 mars. Gabriela Ramos supervise également à l’Unesco, les réflexions sur la gouvernance éthique de l’IA. 

Elle invite à prendre du recul sur ces avancées technologiques pour bien comprendre comment elles façonnent nos sociétés : l’IA va-t-elle permettre plus d’égalité ? Plus d’équité ? Ou au contraire encourager la discrimination ? Dans un contexte où une grande partie de la planète n’a pas encore accès à une connexion internet stable et puissante comme le rappelle la directrice général adjointe de l’Unesco. 

 «Protéger, promouvoir et respecter les droits de l’homme»

«La vraie question, c’est comment faire pour avoir un cadre de gouvernance qui contrôle les conséquences négatives de l’IA ?», demande Gabriela Ramos. «80% de ces technologies sont développées par des équipes uniquement masculines de certains pays. Par conséquent, il n’est pas étonnant de retrouver certains biais et certaines discriminations dans le fonctionnement de ces technologies », développe la directrice générale adjointe de l’Unesco. 

L’organisation mondiale s’est penché sur cette question dès 2021, en publiant une liste de recommandations sur l’éthique de l’intelligence artificielle après avoir réuni les 193 états membres en conférence générale. L’objectif de ce texte est, entre autre, de «protéger, promouvoir et respecter les droits de l’homme et les libertés fondamentales (…) l’équité, y compris l’égalité de genre » mais aussi de «vivre dans des sociétés pacifiques, justes et interdépendantes», en donnant aux pays des lignes de conduites dans plusieurs champs d’action stratégiques comme la santé et le bien-être social, l’environnement, l’éducation, la recherche… 

L’Europe, pionnière en matière de régulation 

Avec l’AI Act, l’Union Européenne a été précurseur dans la régulation des avancées de l’intelligence artificielle. L’AI Act « est une bonne nouvelle pour l’Unesco », félicite Gabriela Ramos. «Nous avons besoin de mettre les citoyens et les droits de l’homme au centre de nos réflexions.» Pour encourager les pays à se créer un cadre d’innovation, l’Unesco a édité une méthodologie pour construire ces outils de régulation. «Le sujet n’est plus de savoir si on a besoin de régulation mais plutôt de savoir comment encourager l’innovation tout en contrôlant ses conséquences.»

L’Unesco travaille également avec le secteur privé depuis peu sur ces questions. Le 5 février dernier, huit géants de la tech se sont engagés à respecter les principes d’éthique de l’IA dicté par l’Unesco. Lenovo Group, Mastercard, Microsoft ou encore Salesforce. «Ils s’engagent à analyser leurs process avec notre outil d’évaluation de l’impact éthique. Il a été créé par un groupe d’experts : des historiens, des anthropologue, des ingénieurs, des philosophes… Car c’est toute la société qui ressent les impacts des évolutions technologiques.» L’année prochaine, en 2025, les 193 états membres devront fournir un retour d’expérience sur leurs engagements envers l’Unesco concernant l’intelligence artificielle. D'ici là, pour Gabriela Ramos, chacun doit s'emparer de cette réflexion. Elle s’est adressée aux entrepreneurs : «Engagez un référent éthique ! Cela nous concerne nous et comment nous faisons le bien grâce à la technologie.»