L’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) a adopté le 25 novembre dernier, une recommandation mondiale sur l’éthique de l’intelligence artificielle.
Fruit d’un travail débuté en 2019, ce rapport constitue le premier texte mondial pour encadrer l’usage de l’intelligence artificielle (IA), il vise à « servir de base afin de mettre les systèmes d’IA au service de l’humanité, des individus, des sociétés, de l’environnement et des écosystèmes, ainsi que de prévenir les préjudices ».
L’Unesco estime en effet que ces technologies sont susceptibles de rendre de grands services à l’humanité, mais qu’elles génèrent aussi des préoccupations éthiques, à l’image de biais pouvant entraîner une discrimination. La reconnaissance faciale est par exemple connue pour le préjudice qu’elle porte à date à des groupes ethniques, des personnes LGBTQIA+ ou encore des femmes, et ses erreurs d’identification.
Estimant qu’une définition de l’intelligence artificielle est amenée à évoluer avec les progrès technologiques, l’Unesco ne cherche pas à en proposer une qui soit unique dans sa recommandation. L’Organisation préfère « traiter des caractéristiques des systèmes d’IA qui revêtent une importance majeure sur le plan éthique ». Les questions morales concernant ces derniers touchent ainsi l’ensemble des étapes de leur cycle de vie : de la recherche à la mise hors service, en passant par le développement et la commercialisation. Selon l’Unesco, ces systèmes soulèvent également de nouvelles questions déontologiques impliquant l’éducation, la santé, le travail ou encore la protection des consommateurs.
Ce texte n’est pas contraignant pour les États membres, mais il leur recommande d’évaluer « l’impact éthique » des technologies de l’IA, afin d’identifier les bénéfices et les risques, ainsi que les questions qu’elles suscitent. Il leur conseille aussi de veiller à ce que les préjudices causés par les biais des systèmes fassent l’objet d’enquêtes et de réparations, notamment avec des mesures correctives. Les États membres sont ainsi libres d’appliquer ou pas cette recommandation. Reste à voir si la Chine – qui fait partie des États membres et qui a récemment dévoilé des lignes directrices pour une IA éthique – songera à revoir la copie de son système de notation sociale.
Source : Unesco
