Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Au fait, quels sont les véritables garde-fous éthiques qu’ont mis en place par eux-même les inventeurs de l’IA d’aujourd’hui ? Une traduction en français des principes d’IA d’Asilomar de 2017

Cyberpunk AI ethical regulation
Cyberpunk AI ethical regulation – by Maxime Derian 01- 2023 – Ai generated image – CC BY-NC-ND.png

En ces jours où il s’agit de plus en plus de réglementer éthiquement et démocratiquement le développement des IA, il est utile de mettre en ligne le texte des principes de l’IA d’Asilomar (2017) en version française.

En effet, certains pays interdisent certaines IA (Italie), d’autres cherchent à les voir respecter certaines consignes de transparence (Allemagne), d’autres pays n’ont pas réagi.

Certains chercheurs veulent des pauses de 6 mois et d’autres ne veulent pas en entendre parler. Pendant ce temps, de toute façon, le développement de l’IA tend à s’accélérer d’une manière qui ressemble quand même de plus en plus à un exponentielle… l’IA d’aujourd’hui demeure le “fœtus” de l’IA émergente de demain.

Ainsi :

D’une part, les états et l’Union Européenne cherchent à réguler l’essor de l’IA et des big data avec des légisalations votées ou en cours de rédaction : RGPD, DATA ACT, DATA GOVERNANCE ACT, EUROPEAN HEALTH DATA SPACE ACT, AI ACT…

D’autre part, il s’avère que les acteurs de l’IA se sont dotés d’eux-même d’un début de cadre éthique. En effet, à mon sens la possibilité/le risque d’ouvrir la boîte de Pandore n’est plus un horizon si lointain que cela, y compris pour les plus férus d’innovation d’entre nous. Il semble donc indispensable de procéder à un certain cadrage éthique.

Voici donc le texte des principes de l’IA d’Asilomar (d’ailleurs traduit instantanément en français par une IA que je viens de solliciter/prompter).

C’est une esquisse davantage qu’un corpus qui témoigne de bonnes intentions, certes, mais dont il convient de surveiller de très étroitement les effets. C’est en tous cas, le tronc commun sur lesquels s’appuient visiblement aujourdhui (le 25 avril 2023) les acteurs majeurs de la production d’IA.

Les principes d’IA d’Asilomar, coordonnés par FLI et élaborés lors de la conférence Beneficial AI 2017, constituent l’un des premiers ensembles de principes de gouvernance de l’IA et l’un des plus influents.

“L’intelligence artificielle a déjà fourni des outils bénéfiques qui sont utilisés chaque jour par des personnes du monde entier. La poursuite de son développement, guidée par les principes suivants, offrira des possibilités extraordinaires d’aider et d’autonomiser les gens dans les décennies et les siècles à venir.

Questions relatives à la recherche

1) Objectif de la recherche : l’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence non dirigée, mais une intelligence bénéfique.

2) Financement de la recherche : Les investissements dans l’IA devraient s’accompagner d’un financement de la recherche visant à garantir son utilisation bénéfique, y compris les questions épineuses en informatique, en économie, en droit, en éthique et en sciences sociales, telles que : “Comment pouvons-nous faire en sorte que les futurs systèmes d’IA soient hautement performants ?

  • Comment pouvons-nous rendre les futurs systèmes d’IA très robustes, afin qu’ils fassent ce que nous voulons sans dysfonctionner ou être piratés ?
  • Comment pouvons-nous accroître notre prospérité grâce à l’automatisation tout en préservant les ressources et les objectifs des personnes ?
  • Comment pouvons-nous actualiser nos systèmes juridiques pour qu’ils soient plus justes et plus efficaces, pour qu’ils suivent le rythme de l’IA et pour qu’ils gèrent les risques associés à l’IA ?
  • Sur quel ensemble de valeurs l’IA doit-elle s’aligner et quel statut juridique et éthique doit-elle avoir ?

3) Lien entre science et politique : Il devrait y avoir un échange constructif et sain entre les chercheurs en IA et les décideurs politiques.

4) Culture de la recherche : Une culture de coopération, de confiance et de transparence devrait être encouragée parmi les chercheurs et les développeurs de l’IA.

5) Éviter la course : Les équipes qui développent des systèmes d’IA devraient coopérer activement pour éviter de prendre des raccourcis en matière de normes de sécurité.

Éthique et valeurs

6) Sécurité : Les systèmes d’IA doivent être sûrs et sécurisés tout au long de leur durée de vie opérationnelle, et de manière vérifiable lorsque cela est possible et applicable.

7) Transparence des défaillances : Si un système d’IA cause un préjudice, il doit être possible d’en déterminer les raisons.

8) Transparence judiciaire : Toute participation d’un système autonome à une prise de décision judiciaire doit donner lieu à une explication satisfaisante pouvant être vérifiée par une autorité humaine compétente.

9) Responsabilité : Les concepteurs et les constructeurs de systèmes d’IA avancés sont parties prenantes des implications morales de leur utilisation, de leur mauvaise utilisation et de leurs actions, et ont la responsabilité et la possibilité de façonner ces implications.

10) Alignement des valeurs : Les systèmes d’IA hautement autonomes devraient être conçus de manière à ce que leurs objectifs et leurs comportements puissent être alignés sur les valeurs humaines tout au long de leur fonctionnement.

11) Valeurs humaines : Les systèmes d’IA devraient être conçus et exploités de manière à être compatibles avec les idéaux de dignité humaine, de droits, de libertés et de diversité culturelle.

12) Vie privée : Les personnes devraient avoir le droit d’accéder aux données qu’elles génèrent, de les gérer et de les contrôler, étant donné le pouvoir des systèmes d’IA d’analyser et d’utiliser ces données.

13) Liberté et vie privée : L’application de l’IA aux données personnelles ne doit pas restreindre de manière déraisonnable la liberté réelle ou perçue des personnes.

14) Bénéfices partagés : les technologies de l’IA doivent profiter au plus grand nombre et lui donner les moyens d’agir.

15) Prospérité partagée : La prospérité économique créée par l’IA doit être largement partagée, au bénéfice de l’ensemble de l’humanité.

6) Contrôle humain : les humains doivent choisir comment et s’ils veulent déléguer des décisions aux systèmes d’IA, afin d’atteindre les objectifs qu’ils ont choisis.

17) Non-subversion : Le pouvoir conféré par le contrôle de systèmes d’IA très avancés devrait respecter et améliorer, plutôt que subvertir, les processus sociaux et civiques dont dépend la santé de la société.

18) Course aux armements en matière d’IA : il convient d’éviter une course aux armements en matière d’armes autonomes létales.

Questions à plus long terme

19) Mise en garde concernant les capacités : En l’absence de consensus, il convient d’éviter les hypothèses trop tranchées concernant les limites supérieures des capacités futures de l’IA.

20) Importance : L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec le soin et les ressources nécessaires.

21) Risques : Les risques posés par les systèmes d’IA, en particulier les risques catastrophiques ou existentiels, doivent faire l’objet d’une planification et d’efforts d’atténuation proportionnels à leur impact attendu.

22) Auto-amélioration récursive : Les systèmes d’IA conçus pour s’auto-améliorer ou s’auto-répliquer de manière récursive d’une manière qui pourrait conduire à une augmentation rapide de la qualité ou de la quantité doivent faire l’objet de mesures de sécurité et de contrôle strictes.

23) Bien commun : La superintelligence ne devrait être développée qu’au service d’idéaux éthiques largement partagés, et pour le bénéfice de l’humanité tout entière plutôt que pour celui d’un État ou d’une organisation.”

 

***

J’ai fait traduire ce texte en français par l’IA de {www.DeepL.com/Translator}

Le texte original reprouis ci-dessous en anglais disponible sur le site :

Asilomar AI Principles

***

“The Asilomar AI Principles, coordinated by FLI and developed at the Beneficial AI 2017 conference, are one of the earliest and most influential sets of AI governance principles.

Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades and centuries ahead.

Research Issues

1) Research Goal: The goal of AI research should be to create not undirected intelligence, but beneficial intelligence.

2) Research Funding: Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as:

  • How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked?
  • How can we grow our prosperity through automation while maintaining people’s resources and purpose?
  • How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI?
  • What set of values should AI be aligned with, and what legal and ethical status should it have?

3) Science-Policy Link: There should be constructive and healthy exchange between AI researchers and policy-makers.

4) Research Culture: A culture of cooperation, trust, and transparency should be fostered among researchers and developers of AI.

5) Race Avoidance: Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards.

Ethics and Values

6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible.

7) Failure Transparency: If an AI system causes harm, it should be possible to ascertain why.

8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority.

9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications.

10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation.

11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity.

12) Personal Privacy: People should have the right to access, manage and control the data they generate, given AI systems’ power to analyze and utilize that data.

13) Liberty and Privacy: The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty.

14) Shared Benefit: AI technologies should benefit and empower as many people as possible.

15) Shared Prosperity: The economic prosperity created by AI should be shared broadly, to benefit all of humanity.

16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives.

17) Non-subversion: The power conferred by control of highly advanced AI systems should respect and improve, rather than subvert, the social and civic processes on which the health of society depends.

18) AI Arms Race: An arms race in lethal autonomous weapons should be avoided.

Longer-term Issues

19) Capability Caution: There being no consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities.

20) Importance: Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources.

21) Risks: Risks posed by AI systems, especially catastrophic or existential risks, must be subject to planning and mitigation efforts commensurate with their expected impact.

22) Recursive Self-Improvement: AI systems designed to recursively self-improve or self-replicate in a manner that could lead to rapidly increasing quality or quantity must be subject to strict safety and control measures.

23) Common Good: Superintelligence should only be developed in the service of widely shared ethical ideals, and for the benefit of all humanity rather than one state or organization.”

***

Exposition: New Minett, Esch-sur-Alzette du 8/10/2022 au 11/12/2022

FR : L’exposition New Minett nous projette vers un ailleurs, celui de la colonisation de l’espace et des utopies sociétales.

Dans un environnement où tout est à construire, même l’environnement en soi, l’implantation humaine hors de la Terre semble aujourd’hui devenir possible grâce au progrès technologique. L’objectif de certaines missions en cours est de construire un deuxième habitat pour l’homme, d’amener celui-ci vers une espèce multi-planétaire, soulevant ainsi des questions éthiques, écologiques, sociales, économiques, législatives, – des questions d’identité individuelle et collective. Ces missions interrogent sur les enjeux de l’occupation spatiale et son impact sur notre civilisation.
 
L’exposition crée des ponts entre la région du Minett et Mars, entre projets spatiaux et utopies. Elle retrace en partie le parcours de cette région, pose un regard sur différentes utopies passées et futures du Luxembourg, puis bien au-delà des frontières nationales et terrestres. Avec environ 70 entreprises dans le domaine et un traité controversé sur l’exploitation du minerai céleste signé en 2018, le pays est avant-gardiste. 
 
Au fil des chapitres, l’exposition scrute les domaines d’activité du spatial, mais aussi les motivations diverses et profondes qui poussent à vouloir se détacher de la croûte terrestre et à aller toujours plus loin dans la mise en œuvre de ces rêves mobilisateurs.

EN: New Minett projects us toward another reality, space colonisation and societal utopias.

Thanks to technological progress, extra-terrestrial human settlement currently seems to be becoming possible in an environment where everything has to be constructed, even the environment itself. The goal of certain ongoing missions is to construct a second habitat for humankind, to lead it toward a multi-planet species, thus raising ethical, ecological, social, economic and legislative questions – questions of individual and collective identity. These missions question the issues of space occupation and its impact on our civilization.

The exhibition creates bridges between the region of Minett and Mars, between space projects and utopias. It partly traces the history of this region, examines different past and future utopias in Luxembourg and well beyond national and terrestrial frontiers. With some 70 companies in the domain and a controversial treaty concerning the exploitation of extra-terrestrial ores signed in 2018, the country is in the vanguard.

In the course of the chapters, the exhibition examines the domains of space activity but also the deep and diverse motivations that drive humans to move away from the terrestrial crust and go ever further in the realization of these inspiring dreams.

LieuKonschthal,  Floor 03 à Esch-sur-Alzette (au Luxembourg)

29-33 boulevard Prince Henri
L-4280 Esch-sur-Alzette

Dates et informations pratiques : du 8/10/2022 au 11/12/2022

  • entrée gratuite
  • exposition en français
  • conseillée à partir de 13 ans
  • visites guidées possibles
  • programme : mediation@eddivantsui.com

Auteurs de l’exposition :

Eddi van tsui est une compagnie franco-luxembourgeoise de spectacle vivant fondée Sandy Flinto (artiste pluridisciplinaire) et Pierrick Grobéty (musicien et compositeur) ainsi que par Daniel Marinangeli (auteur et dramaturge). Connus pour aborder des thématiques engagées et dérangeantes, ils passent au crible la société contemporaine. Leurs sources d’inspiration sont : l’art, la photographie, la peinture, la mode, l’architecture, mais aussi la littérature, la philosophie, la sociologie et l’actualité. Ce trio aime travailler avec des personnes d’univers variés. Après avoir côtoyé divers artistes et s’être approché du monde de la science, ils ont pour ambition, avec leur nouveau projet “Esch-Mars, de terres rouges en terres rouges“, d’intégrer la parole citoyenne dans leur travail artistique.

La compagnie Eddi van Tsui

  • Artistes: Cie Eddi van Tsui, Justine Blau, Ezio D’Agostino, Raphaël Patout, Julie Schroell, Bénédicte Vallet, Désirée Wickler
  • Commissaires d’exposition: Sandy Flinto, Pierrick Grobéty & Daniel Marinangeli

Esch 2022

Cycle de conférences Ready4AI « Intelligence Artificielle : anticiper les futures exigences européennes et s’y préparer ! », Luxembourg, le 16/05/2022

Ready4AI (Chambre de commerce du Luxembourg)

Évènement marquant au Luxembourg qui est en lien direct avec l’actualité à propos de l”’Artificial Intelligence Act” européen et dans une certaine mesure du projet de “Data Act” européen.

Comment définit-on un système d’Intelligence Artificielle ? Que prévoit la proposition de règlement européen sur l’Intelligence Artificielle ? Quelles sont les applications pratiques pour mon entreprise ? Quel est potentiel dans les écosystèmes national, grand-régional et européen ? Vers quelles infrastructures de support me tourner ?

Au programme : présentations sur les stratégies européenne et nationale dans le domaine de l’Intelligence Artificielle, table ronde avec des spécialistes en Intelligence Artificielle de la Grande Région, workshops thématiques et échanges directs avec des entreprises expertes et concernées!

  • Où ? En présentiel, dans les locaux de la Chambre de Commerce du Luxembourg
  • Quand ? Lundi 16 mai 2022, à partir de 14h30
  • Inscriptions ? Jusqu’au 13 mai 2022

PROVISIONAL PROGRAMME 

En cas d’intérêt, veuillez remplir le formulaire d’inscription dédié.