La norme mondiale sur l'éthique de l'intelligence artificielle (IA) présentée par l'Organisation des Nations Unies pour l'éducation, la science et la culture (Unesco) doit être adoptée par ses quelque 200 États membres. Cette norme définit des valeurs et des principes communs qui serviront de guide à la construction de l'infrastructure juridique nécessaire pour assurer un développement sain de l'IA. Dans un communiqué, l'UNESCO a déclaré que l'utilisation de l'IA présentait plusieurs avantages, mais aussi des défis, notamment les préjugés sexistes et ethniques, les menaces importantes pour la vie privée, la dignité et l'autonomie, les dangers de la surveillance de masse et l'utilisation croissante de technologies d'IA peu fiables dans le domaine répressif.

La norme recommande de: 

- Protéger les données par des actions allant au-delà de ce que font les entreprises technologiques et les gouvernements pour garantir aux individus une plus grande protection en assurant la transparence, l'agencement et le contrôle de leurs données personnelles. Elle indique que les individus devraient tous être en mesure d'accéder aux enregistrements de leurs données personnelles, voire de les effacer. Elle prévoit également des actions visant à améliorer la protection des données et la connaissance qu'ont les individus de leurs propres données, ainsi que leur droit de les contrôler. Elle accroît également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.

- Interdire le scoring social et la surveillance de masse. La norme interdit explicitement l'utilisation de systèmes d'IA pour le scoring social et la surveillance de masse. L'UNESCO considère que ces types de technologies sont très invasives, qu'elles portent atteinte aux droits de l'homme et aux libertés fondamentales et qu'elles sont utilisées à grande échelle. La recommandation souligne que, lors de l'élaboration de cadres réglementaires, les États membres devraient considérer que la responsabilité et l'obligation de rendre des comptes incombent toujours en dernier ressort aux humains et que les technologies d'IA ne devraient pas être dotées elles-mêmes de la personnalité juridique.

- Aider au suivi et à l'évaluation. L'évaluation de l'impact éthique doit permettre aux pays et aux entreprises qui développent et déploient des systèmes d'IA d’évaluer l'impact de ces systèmes sur les individus, sur la société et sur l'environnement. La méthode d'évaluation de l'état de préparation doit permettre aux États membres de déterminer dans quelle mesure ils sont prêts en termes d'infrastructure juridique et technique. Cet outil contribuera à renforcer la capacité institutionnelle des pays et recommandera les mesures appropriées à prendre afin de garantir la mise en œuvre de l'éthique dans la pratique. Les États membres sont également encouragés à envisager de créer un poste de responsable indépendant de l'éthique de l'IA ou un autre mécanisme pour superviser les efforts d'audit et de contrôle continu.

- Protection de l'environnement. La norme recommande aux gouvernements d'évaluer l'impact environnemental direct et indirect tout au long du cycle de vie du système d'IA. Cela inclut son empreinte carbone, sa consommation d'énergie et l'impact environnemental de l'extraction des matières premières nécessaires à la fabrication des technologies d'IA. Elle vise également à réduire l'impact environnemental des systèmes d'IA et des infrastructures de données.