Demandez votre abonnement gratuit d'un mois !

Éthique de l’intelligence artificielle : un « tout premier accord mondial » adopté à l’Unesco

News Tank Éducation & Recherche - Paris - Actualité n°235076 - Publié le 26/11/2021 à 09:48
- +
©  Inria
©  Inria

« Les 193 États membres de l’Unesco Organisation des Nations unies pour l'éducation, la science et la culture adoptent le tout premier accord mondial sur l'éthique de l’intelligence artificielle », déclare l’Unesco le 25/11/2021.

Ce « texte historique » définit les valeurs et principes communs qui guideront la construction de l’infrastructure juridique nécessaire pour assurer « un développement sain » de l’IA Intelligence artificielle , et est le fruit de « la mobilisation de centaines d’experts du monde entier » et « d’intenses négociations internationales ».

« Le monde a besoin de règles pour que l’intelligence artificielle profite à l’humanité. La recommandation sur l'éthique de l’IA est une réponse majeure. Elle fixe le premier cadre normatif mondial tout en confiant aux États la responsabilité de l’appliquer à leur niveau. L’Unesco soutiendra ses 193 États membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement de leurs progrès et de leurs pratiques », déclare Audrey Azoulay Directrice générale @ Unesco
• Née en août 1972 , directrice générale de l’Unesco.

La recommandation vise plus précisément « à réaliser les avantages que l’IA apporte à la société et à réduire les risques qu’elle comporte. Elle garantit que les transformations numériques promeuvent les droits de l’homme et contribuent à la réalisation des ODD objectifs de développement durable , en abordant les questions de transparence, de responsabilité et de confidentialité, avec des chapitres politiques orientés vers l’action sur la gouvernance des données, l'éducation, la culture, le travail, les soins de santé et l'économie », indique l’Unesco.

« Les décisions affectant des millions de personnes doivent être justes, transparentes et contestables : ces nouvelles technologies doivent nous aider à relever les défis majeurs de notre monde d’aujourd’hui, tels que les inégalités accrues et la crise environnementale, et non à les aggraver », déclare Gabriela Ramos, sous-directrice générale de l’Unesco pour les SHS Sciences humaines et sociales .

Les quatre piliers de la recommandation

 1/4
Protection des données

La recommandation appelle à aller au-delà de ce que les entreprises technologiques et les gouvernements font pour garantir aux individus une plus grande protection en assurant la transparence, la capacité d’agir et le contrôle de leurs données personnelles.

Elle affirme que tous les individus devraient pouvoir accéder aux enregistrements de leurs données personnelles, et même les effacer.

Elle prévoit également des actions visant à améliorer la protection des données et la connaissance qu’ont les individus de leurs propres données, ainsi que leur droit de les contrôler.

Elle renforce également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.

Protection des données

La recommandation appelle à aller au-delà de ce que les entreprises technologiques et les gouvernements font pour garantir aux individus une plus grande protection en assurant la transparence, la capacité d’agir et le contrôle de leurs données personnelles.

Elle affirme que tous les individus devraient pouvoir accéder aux enregistrements de leurs données personnelles, et même les effacer.

Elle prévoit également des actions visant à améliorer la protection des données et la connaissance qu’ont les individus de leurs propres données, ainsi que leur droit de les contrôler.

Elle renforce également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.

 2/4
Interdiction de la notation sociale et de la surveillance de masse

La recommandation interdit explicitement l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse.

« Ces technologies sont très invasives, elles portent atteinte aux droits de l’homme et aux libertés fondamentales, et elles sont utilisées de manière généralisée. »

La recommandation souligne que, lors de l’élaboration de cadres réglementaires, les États membres devraient tenir compte du fait que la responsabilité et l’obligation de rendre des comptes incombent toujours aux êtres humains en dernier ressort et que les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.

Interdiction de la notation sociale et de la surveillance de masse

La recommandation interdit explicitement l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse.

« Ces technologies sont très invasives, elles portent atteinte aux droits de l’homme et aux libertés fondamentales, et elles sont utilisées de manière généralisée. »

La recommandation souligne que, lors de l’élaboration de cadres réglementaires, les États membres devraient tenir compte du fait que la responsabilité et l’obligation de rendre des comptes incombent toujours aux êtres humains en dernier ressort et que les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.

 3/4
Aide au suivi et à l’évaluation

La recommandation jette également les bases des outils qui contribueront à sa mise en œuvre.

L’évaluation de l’impact éthique vise à aider les pays et les entreprises qui développent et déploient des systèmes d’IA à évaluer l’impact de ces systèmes sur les individus, la société et l’environnement.

La méthode d’évaluation de l’état de préparation aide les États membres à évaluer dans quelle mesure ils sont prêts en termes d’infrastructure juridique et technique. Cet outil contribuera à renforcer la capacité institutionnelle des pays et recommandera les mesures appropriées à prendre afin de garantir la mise en œuvre pratique de l’éthique.

En outre, la recommandation encourage les États membres à envisager d’ajouter la fonction d’un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et une surveillance continue.

Aide au suivi et à l’évaluation

La recommandation jette également les bases des outils qui contribueront à sa mise en œuvre.

L’évaluation de l’impact éthique vise à aider les pays et les entreprises qui développent et déploient des systèmes d’IA à évaluer l’impact de ces systèmes sur les individus, la société et l’environnement.

La méthode d’évaluation de l’état de préparation aide les États membres à évaluer dans quelle mesure ils sont prêts en termes d’infrastructure juridique et technique. Cet outil contribuera à renforcer la capacité institutionnelle des pays et recommandera les mesures appropriées à prendre afin de garantir la mise en œuvre pratique de l’éthique.

En outre, la recommandation encourage les États membres à envisager d’ajouter la fonction d’un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et une surveillance continue.

 4/4
Protection de l’environnement

La recommandation souligne que les acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en énergie et en ressources qui contribueront à faire de l’IA un outil majeur dans la lutte contre le changement climatique et la résolution de problèmes environnementaux.

La recommandation demande aux gouvernements d’évaluer l’impact environnemental direct et indirect tout au long du cycle de vie du système d’IA. Cela comprend son empreinte carbone, sa consommation d’énergie et l’impact environnemental de l’extraction des matières premières pour soutenir la fabrication des technologies d’IA.

Elle vise également à réduire l’impact environnemental des systèmes d’IA et des infrastructures de données. Elle incite les gouvernements à investir dans les technologies vertes, et si les systèmes d’IA ont un impact négatif disproportionné sur l’environnement, la recommandation préconise de ne pas les utiliser.

Protection de l’environnement

La recommandation souligne que les acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en énergie et en ressources qui contribueront à faire de l’IA un outil majeur dans la lutte contre le changement climatique et la résolution de problèmes environnementaux.

La recommandation demande aux gouvernements d’évaluer l’impact environnemental direct et indirect tout au long du cycle de vie du système d’IA. Cela comprend son empreinte carbone, sa consommation d’énergie et l’impact environnemental de l’extraction des matières premières pour soutenir la fabrication des technologies d’IA.

Elle vise également à réduire l’impact environnemental des systèmes d’IA et des infrastructures de données. Elle incite les gouvernements à investir dans les technologies vertes, et si les systèmes d’IA ont un impact négatif disproportionné sur l’environnement, la recommandation préconise de ne pas les utiliser.

Unesco

Catégorie : Associations, réseaux

Adresse du siège

7 Place de Fontenoy
75007 Paris France

Consulter la fiche dans l‘annuaire
Fiche n° 7149, créée le 28/05/2018 à 15:35 - MàJ le 09/07/2020 à 16:21

©  Inria
©  Inria