
En ces jours où il s’agit de plus en plus de réglementer éthiquement et démocratiquement le développement des IA, il est utile de mettre en ligne le texte des principes de l’IA d’Asilomar (2017) en version française.
En effet, certains pays interdisent certaines IA (Italie), d’autres cherchent à les voir respecter certaines consignes de transparence (Allemagne), d’autres pays n’ont pas réagi.
Certains chercheurs veulent des pauses de 6 mois et d’autres ne veulent pas en entendre parler. Pendant ce temps, de toute façon, le développement de l’IA tend à s’accélérer d’une manière qui ressemble quand même de plus en plus à un exponentielle… l’IA d’aujourd’hui demeure le “fœtus” de l’IA émergente de demain.
Ainsi :
D’une part, les états et l’Union Européenne cherchent à réguler l’essor de l’IA et des big data avec des légisalations votées ou en cours de rédaction : RGPD, DATA ACT, DATA GOVERNANCE ACT, EUROPEAN HEALTH DATA SPACE ACT, AI ACT…
D’autre part, il s’avère que les acteurs de l’IA se sont dotés d’eux-même d’un début de cadre éthique. En effet, à mon sens la possibilité/le risque d’ouvrir la boîte de Pandore n’est plus un horizon si lointain que cela, y compris pour les plus férus d’innovation d’entre nous. Il semble donc indispensable de procéder à un certain cadrage éthique.
Voici donc le texte des principes de l’IA d’Asilomar (d’ailleurs traduit instantanément en français par une IA que je viens de solliciter/prompter).
C’est une esquisse davantage qu’un corpus qui témoigne de bonnes intentions, certes, mais dont il convient de surveiller de très étroitement les effets. C’est en tous cas, le tronc commun sur lesquels s’appuient visiblement aujourdhui (le 25 avril 2023) les acteurs majeurs de la production d’IA.
Les principes d’IA d’Asilomar, coordonnés par FLI et élaborés lors de la conférence Beneficial AI 2017, constituent l’un des premiers ensembles de principes de gouvernance de l’IA et l’un des plus influents.
“L’intelligence artificielle a déjà fourni des outils bénéfiques qui sont utilisés chaque jour par des personnes du monde entier. La poursuite de son développement, guidée par les principes suivants, offrira des possibilités extraordinaires d’aider et d’autonomiser les gens dans les décennies et les siècles à venir.
Questions relatives à la recherche
1) Objectif de la recherche : l’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence non dirigée, mais une intelligence bénéfique.
2) Financement de la recherche : Les investissements dans l’IA devraient s’accompagner d’un financement de la recherche visant à garantir son utilisation bénéfique, y compris les questions épineuses en informatique, en économie, en droit, en éthique et en sciences sociales, telles que : “Comment pouvons-nous faire en sorte que les futurs systèmes d’IA soient hautement performants ?
- Comment pouvons-nous rendre les futurs systèmes d’IA très robustes, afin qu’ils fassent ce que nous voulons sans dysfonctionner ou être piratés ?
- Comment pouvons-nous accroître notre prospérité grâce à l’automatisation tout en préservant les ressources et les objectifs des personnes ?
- Comment pouvons-nous actualiser nos systèmes juridiques pour qu’ils soient plus justes et plus efficaces, pour qu’ils suivent le rythme de l’IA et pour qu’ils gèrent les risques associés à l’IA ?
- Sur quel ensemble de valeurs l’IA doit-elle s’aligner et quel statut juridique et éthique doit-elle avoir ?
3) Lien entre science et politique : Il devrait y avoir un échange constructif et sain entre les chercheurs en IA et les décideurs politiques.
4) Culture de la recherche : Une culture de coopération, de confiance et de transparence devrait être encouragée parmi les chercheurs et les développeurs de l’IA.
5) Éviter la course : Les équipes qui développent des systèmes d’IA devraient coopérer activement pour éviter de prendre des raccourcis en matière de normes de sécurité.
Éthique et valeurs
6) Sécurité : Les systèmes d’IA doivent être sûrs et sécurisés tout au long de leur durée de vie opérationnelle, et de manière vérifiable lorsque cela est possible et applicable.
7) Transparence des défaillances : Si un système d’IA cause un préjudice, il doit être possible d’en déterminer les raisons.
8) Transparence judiciaire : Toute participation d’un système autonome à une prise de décision judiciaire doit donner lieu à une explication satisfaisante pouvant être vérifiée par une autorité humaine compétente.
9) Responsabilité : Les concepteurs et les constructeurs de systèmes d’IA avancés sont parties prenantes des implications morales de leur utilisation, de leur mauvaise utilisation et de leurs actions, et ont la responsabilité et la possibilité de façonner ces implications.
10) Alignement des valeurs : Les systèmes d’IA hautement autonomes devraient être conçus de manière à ce que leurs objectifs et leurs comportements puissent être alignés sur les valeurs humaines tout au long de leur fonctionnement.
11) Valeurs humaines : Les systèmes d’IA devraient être conçus et exploités de manière à être compatibles avec les idéaux de dignité humaine, de droits, de libertés et de diversité culturelle.
12) Vie privée : Les personnes devraient avoir le droit d’accéder aux données qu’elles génèrent, de les gérer et de les contrôler, étant donné le pouvoir des systèmes d’IA d’analyser et d’utiliser ces données.
13) Liberté et vie privée : L’application de l’IA aux données personnelles ne doit pas restreindre de manière déraisonnable la liberté réelle ou perçue des personnes.
14) Bénéfices partagés : les technologies de l’IA doivent profiter au plus grand nombre et lui donner les moyens d’agir.
15) Prospérité partagée : La prospérité économique créée par l’IA doit être largement partagée, au bénéfice de l’ensemble de l’humanité.
6) Contrôle humain : les humains doivent choisir comment et s’ils veulent déléguer des décisions aux systèmes d’IA, afin d’atteindre les objectifs qu’ils ont choisis.
17) Non-subversion : Le pouvoir conféré par le contrôle de systèmes d’IA très avancés devrait respecter et améliorer, plutôt que subvertir, les processus sociaux et civiques dont dépend la santé de la société.
18) Course aux armements en matière d’IA : il convient d’éviter une course aux armements en matière d’armes autonomes létales.
Questions à plus long terme
19) Mise en garde concernant les capacités : En l’absence de consensus, il convient d’éviter les hypothèses trop tranchées concernant les limites supérieures des capacités futures de l’IA.
20) Importance : L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec le soin et les ressources nécessaires.
21) Risques : Les risques posés par les systèmes d’IA, en particulier les risques catastrophiques ou existentiels, doivent faire l’objet d’une planification et d’efforts d’atténuation proportionnels à leur impact attendu.
22) Auto-amélioration récursive : Les systèmes d’IA conçus pour s’auto-améliorer ou s’auto-répliquer de manière récursive d’une manière qui pourrait conduire à une augmentation rapide de la qualité ou de la quantité doivent faire l’objet de mesures de sécurité et de contrôle strictes.
23) Bien commun : La superintelligence ne devrait être développée qu’au service d’idéaux éthiques largement partagés, et pour le bénéfice de l’humanité tout entière plutôt que pour celui d’un État ou d’une organisation.”
***
J’ai fait traduire ce texte en français par l’IA de {www.DeepL.com/Translator}
Le texte original reprouis ci-dessous en anglais disponible sur le site :
***
“The Asilomar AI Principles, coordinated by FLI and developed at the Beneficial AI 2017 conference, are one of the earliest and most influential sets of AI governance principles.
Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades and centuries ahead.
Research Issues
1) Research Goal: The goal of AI research should be to create not undirected intelligence, but beneficial intelligence.
2) Research Funding: Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as:
- How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked?
- How can we grow our prosperity through automation while maintaining people’s resources and purpose?
- How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI?
- What set of values should AI be aligned with, and what legal and ethical status should it have?
3) Science-Policy Link: There should be constructive and healthy exchange between AI researchers and policy-makers.
4) Research Culture: A culture of cooperation, trust, and transparency should be fostered among researchers and developers of AI.
5) Race Avoidance: Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards.
Ethics and Values
6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible.
7) Failure Transparency: If an AI system causes harm, it should be possible to ascertain why.
8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority.
9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications.
10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation.
11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity.
12) Personal Privacy: People should have the right to access, manage and control the data they generate, given AI systems’ power to analyze and utilize that data.
13) Liberty and Privacy: The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty.
14) Shared Benefit: AI technologies should benefit and empower as many people as possible.
15) Shared Prosperity: The economic prosperity created by AI should be shared broadly, to benefit all of humanity.
16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives.
17) Non-subversion: The power conferred by control of highly advanced AI systems should respect and improve, rather than subvert, the social and civic processes on which the health of society depends.
18) AI Arms Race: An arms race in lethal autonomous weapons should be avoided.
Longer-term Issues
19) Capability Caution: There being no consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities.
20) Importance: Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources.
21) Risks: Risks posed by AI systems, especially catastrophic or existential risks, must be subject to planning and mitigation efforts commensurate with their expected impact.
22) Recursive Self-Improvement: AI systems designed to recursively self-improve or self-replicate in a manner that could lead to rapidly increasing quality or quantity must be subject to strict safety and control measures.
23) Common Good: Superintelligence should only be developed in the service of widely shared ethical ideals, and for the benefit of all humanity rather than one state or organization.”
***





