Les prothèses numériques du corps humain : de l'humain réparé à l'humain augmenté. Histoire et actualité de la "cyborgisation" de la société et des individus par le numérique et l'intelligence artificielle (IA).
Ai generated illustration (DALL·E) about society and technology (prompted by Maxime Derian)
Comment faire au mieux aujourd’hui pour que demain soit un futur désirable ?
Les Intelligences artificielles (IA) sont des logiciels et des dispositifs en réseau prometteurs et utiles. Dans de nombreux domaines (médecine, éducation, arts…) les IAs sont des atouts technologiques potentiellement très précieux.
Il est important cependant de bien réfléchir aux enjeux que cela soulève aujourd’hui pour que, demain, le développement de l’IA soit vécu comme un atout et non comme la cause de déstabilisation de nos sociétés.
À notre échelle, nous proposons modestement le site ” www.technorealisme.org ” pour nourrir, ce débat, crucial aujourd’hui, à propos de l’IA.
“Hommes et femmes professionnels, experts et praticiens de l’intelligence artificielle, ou simples curieux coopératifs, parés pour la réfutation, la conversation et l’action, nous écrivons ici notre manifeste technoréaliste sur l’IA.
Le technoréalisme est une perspective qui ne rejette ni ne promeut les innovations technologiques. Il “s’inscrit dans la perspective d’une tentative d’évaluer les implications sociales et politiques des technologies afin que nous puissions tous avoir un meilleur contrôle sur la forme de notre avenir. Le cœur de l’approche technoréaliste implique un examen critique permanent de la manière dont les technologies – qu’elles soient de pointe ou banales – peuvent nous aider ou nous gêner dans la lutte pour améliorer la qualité de nos vies personnelles, de nos communautés et de nos structures économiques, sociales et politiques”.
Notre objectif immédiat est d’alerter sur l’irréalisme de beaucoup de discours sur l’IA. Comment proposer à ce sujet la base d’une délibération civique rationnelle, alors que l’on ne voit partout qu’un débat semblant opposer technophiles naïfs ébahis par le progrès, et technophobes idéologiques à tendance apocalyptique ?
L’IA de 2023 est à présent une technologie qui a le potentiel de transformer nos vies de manière significative, mais les racines de ces transformations sont profondes.
Sachant que ce terme d’intelligence artificielle, polysémique et ambigu, recouvre des réalités fort différentes et évolutives, notre ambition n’est pas d’en donner une meilleure définition. Bien plutôt, de la positionner dans sa réalité concrète intelligible, pour montrer que la recherche de stabilisation de cette notion d’IA est probablement vaine. Au contraire : il importe de se doter d’un vocabulaire opérationnel et de représentations partagées, comprises par les personnes qui s’occupent en pratique de faire fonctionner l’IA.”
Le but de ce site qui met en ligne sous forme html un livre de 135 pages coécrit par une douzaine de participants n’est pas d’imposer un point de vue ou une définition quelconque mais :
d’élaguer les notions fantaisistes sur l’IA qui gênent la réflexion ;
de proposer des bases saines de discussions et d’échanges.
Le texte de ce manuel, initié par Arnaud Billion et hébergé par Arnaud Levy, fut l’objet de nombreux aller-retours cette année entre les auteurs. Nous n’étions pas toujours d’accord ! Forcément.
Justement, c’est en précisant notre pensée subjective et en avançant des éléments objectifs que nous avons tous, ensemble, progressé sur la question de la compréhension de ce qu’est l’IA.
Nous vous invitons tous à continuer cette réflexion sur le serveur Slack associé au site ou ici, sur LinkedIn, avec nous.
Bonne lecture !
La Nature se dévoilant à la Science, Louis-Ernest Barrias (RF 1409) Wikimedia CC-BY
Cyberpunk AI ethical regulation – by Maxime Derian 01- 2023 – Ai generated image – CC BY-NC-ND.png
En ces jours où il s’agit de plus en plus de réglementer éthiquement et démocratiquement le développement des IA, il est utile de mettre en ligne le texte des principes de l’IA d’Asilomar (2017) en version française.
En effet, certains pays interdisent certaines IA (Italie), d’autres cherchent à les voir respecter certaines consignes de transparence (Allemagne), d’autres pays n’ont pas réagi.
Certains chercheurs veulent des pauses de 6 mois et d’autres ne veulent pas en entendre parler. Pendant ce temps, de toute façon, le développement de l’IA tend à s’accélérer d’une manière qui ressemble quand même de plus en plus à un exponentielle… l’IA d’aujourd’hui demeure le “fœtus” de l’IA émergente de demain.
Ainsi :
D’une part, les états et l’Union Européenne cherchent à réguler l’essor de l’IA et des big data avec des légisalations votées ou en cours de rédaction : RGPD, DATA ACT, DATA GOVERNANCE ACT, EUROPEAN HEALTH DATA SPACE ACT, AI ACT…
D’autre part, il s’avère que les acteurs de l’IA se sont dotés d’eux-même d’un début de cadre éthique. En effet, à mon sens la possibilité/le risque d’ouvrir la boîte de Pandore n’est plus un horizon si lointain que cela, y compris pour les plus férus d’innovation d’entre nous. Il semble donc indispensable de procéder à un certain cadrage éthique.
Voici donc le texte des principes de l’IA d’Asilomar (d’ailleurs traduit instantanément en français par une IA que je viens de solliciter/prompter).
C’est une esquisse davantage qu’un corpus qui témoigne de bonnes intentions, certes, mais dont il convient de surveiller de très étroitement les effets. C’est en tous cas, le tronc commun sur lesquels s’appuient visiblement aujourdhui (le 25 avril 2023) les acteurs majeurs de la production d’IA.
Les principes d’IA d’Asilomar, coordonnés par FLI et élaborés lors de la conférence Beneficial AI 2017, constituent l’un des premiers ensembles de principes de gouvernance de l’IA et l’un des plus influents.
“L’intelligence artificielle a déjà fourni des outils bénéfiques qui sont utilisés chaque jour par des personnes du monde entier. La poursuite de son développement, guidée par les principes suivants, offrira des possibilités extraordinaires d’aider et d’autonomiser les gens dans les décennies et les siècles à venir.
Questions relatives à la recherche
1) Objectif de la recherche : l’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence non dirigée, mais une intelligence bénéfique.
2) Financement de la recherche : Les investissements dans l’IA devraient s’accompagner d’un financement de la recherche visant à garantir son utilisation bénéfique, y compris les questions épineuses en informatique, en économie, en droit, en éthique et en sciences sociales, telles que : “Comment pouvons-nous faire en sorte que les futurs systèmes d’IA soient hautement performants ?
Comment pouvons-nous rendre les futurs systèmes d’IA très robustes, afin qu’ils fassent ce que nous voulons sans dysfonctionner ou être piratés ?
Comment pouvons-nous accroître notre prospérité grâce à l’automatisation tout en préservant les ressources et les objectifs des personnes ?
Comment pouvons-nous actualiser nos systèmes juridiques pour qu’ils soient plus justes et plus efficaces, pour qu’ils suivent le rythme de l’IA et pour qu’ils gèrent les risques associés à l’IA ?
Sur quel ensemble de valeurs l’IA doit-elle s’aligner et quel statut juridique et éthique doit-elle avoir ?
3) Lien entre science et politique : Il devrait y avoir un échange constructif et sain entre les chercheurs en IA et les décideurs politiques.
4) Culture de la recherche : Une culture de coopération, de confiance et de transparence devrait être encouragée parmi les chercheurs et les développeurs de l’IA.
5) Éviter la course : Les équipes qui développent des systèmes d’IA devraient coopérer activement pour éviter de prendre des raccourcis en matière de normes de sécurité.
Éthique et valeurs
6) Sécurité : Les systèmes d’IA doivent être sûrs et sécurisés tout au long de leur durée de vie opérationnelle, et de manière vérifiable lorsque cela est possible et applicable.
7) Transparence des défaillances : Si un système d’IA cause un préjudice, il doit être possible d’en déterminer les raisons.
8) Transparence judiciaire : Toute participation d’un système autonome à une prise de décision judiciaire doit donner lieu à une explication satisfaisante pouvant être vérifiée par une autorité humaine compétente.
9) Responsabilité : Les concepteurs et les constructeurs de systèmes d’IA avancés sont parties prenantes des implications morales de leur utilisation, de leur mauvaise utilisation et de leurs actions, et ont la responsabilité et la possibilité de façonner ces implications.
10) Alignement des valeurs : Les systèmes d’IA hautement autonomes devraient être conçus de manière à ce que leurs objectifs et leurs comportements puissent être alignés sur les valeurs humaines tout au long de leur fonctionnement.
11) Valeurs humaines : Les systèmes d’IA devraient être conçus et exploités de manière à être compatibles avec les idéaux de dignité humaine, de droits, de libertés et de diversité culturelle.
12) Vie privée : Les personnes devraient avoir le droit d’accéder aux données qu’elles génèrent, de les gérer et de les contrôler, étant donné le pouvoir des systèmes d’IA d’analyser et d’utiliser ces données.
13) Liberté et vie privée : L’application de l’IA aux données personnelles ne doit pas restreindre de manière déraisonnable la liberté réelle ou perçue des personnes.
14) Bénéfices partagés : les technologies de l’IA doivent profiter au plus grand nombre et lui donner les moyens d’agir.
15) Prospérité partagée : La prospérité économique créée par l’IA doit être largement partagée, au bénéfice de l’ensemble de l’humanité.
6) Contrôle humain : les humains doivent choisir comment et s’ils veulent déléguer des décisions aux systèmes d’IA, afin d’atteindre les objectifs qu’ils ont choisis.
17) Non-subversion : Le pouvoir conféré par le contrôle de systèmes d’IA très avancés devrait respecter et améliorer, plutôt que subvertir, les processus sociaux et civiques dont dépend la santé de la société.
18) Course aux armements en matière d’IA : il convient d’éviter une course aux armements en matière d’armes autonomes létales.
Questions à plus long terme
19) Mise en garde concernant les capacités : En l’absence de consensus, il convient d’éviter les hypothèses trop tranchées concernant les limites supérieures des capacités futures de l’IA.
20) Importance : L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec le soin et les ressources nécessaires.
21) Risques : Les risques posés par les systèmes d’IA, en particulier les risques catastrophiques ou existentiels, doivent faire l’objet d’une planification et d’efforts d’atténuation proportionnels à leur impact attendu.
22) Auto-amélioration récursive : Les systèmes d’IA conçus pour s’auto-améliorer ou s’auto-répliquer de manière récursive d’une manière qui pourrait conduire à une augmentation rapide de la qualité ou de la quantité doivent faire l’objet de mesures de sécurité et de contrôle strictes.
23) Bien commun : La superintelligence ne devrait être développée qu’au service d’idéaux éthiques largement partagés, et pour le bénéfice de l’humanité tout entière plutôt que pour celui d’un État ou d’une organisation.”
***
J’ai fait traduire ce texte en français par l’IA de {www.DeepL.com/Translator}
Le texte original reprouis ci-dessous en anglais disponible sur le site :
“The Asilomar AI Principles, coordinated by FLI and developed at the Beneficial AI 2017 conference, are one of the earliest and most influential sets of AI governance principles.
Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades and centuries ahead.
Research Issues
1) Research Goal: The goal of AI research should be to create not undirected intelligence, but beneficial intelligence.
2) Research Funding: Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as:
How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked?
How can we grow our prosperity through automation while maintaining people’s resources and purpose?
How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI?
What set of values should AI be aligned with, and what legal and ethical status should it have?
3) Science-Policy Link: There should be constructive and healthy exchange between AI researchers and policy-makers.
4) Research Culture: A culture of cooperation, trust, and transparency should be fostered among researchers and developers of AI.
5) Race Avoidance: Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards.
Ethics and Values
6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible.
7) Failure Transparency: If an AI system causes harm, it should be possible to ascertain why.
8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority.
9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications.
10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation.
11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity.
12) Personal Privacy: People should have the right to access, manage and control the data they generate, given AI systems’ power to analyze and utilize that data.
13) Liberty and Privacy: The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty.
14) Shared Benefit: AI technologies should benefit and empower as many people as possible.
15) Shared Prosperity: The economic prosperity created by AI should be shared broadly, to benefit all of humanity.
16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives.
17) Non-subversion: The power conferred by control of highly advanced AI systems should respect and improve, rather than subvert, the social and civic processes on which the health of society depends.
18) AI Arms Race: An arms race in lethal autonomous weapons should be avoided.
Longer-term Issues
19) Capability Caution: There being no consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities.
20) Importance: Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources.
21) Risks: Risks posed by AI systems, especially catastrophic or existential risks, must be subject to planning and mitigation efforts commensurate with their expected impact.
22) Recursive Self-Improvement: AI systems designed to recursively self-improve or self-replicate in a manner that could lead to rapidly increasing quality or quantity must be subject to strict safety and control measures.
23) Common Good: Superintelligence should only be developed in the service of widely shared ethical ideals, and for the benefit of all humanity rather than one state or organization.”
FR : L’exposition New Minett nous projette vers un ailleurs, celui de la colonisation de l’espace et des utopies sociétales.
Dans un environnement où tout est à construire, même l’environnement en soi, l’implantation humaine hors de la Terre semble aujourd’hui devenir possible grâce au progrès technologique. L’objectif de certaines missions en cours est de construire un deuxième habitat pour l’homme, d’amener celui-ci vers une espèce multi-planétaire, soulevant ainsi des questions éthiques, écologiques, sociales, économiques, législatives, – des questions d’identité individuelle et collective. Ces missions interrogent sur les enjeux de l’occupation spatiale et son impact sur notre civilisation.
L’exposition crée des ponts entre la région du Minett et Mars, entre projets spatiaux et utopies. Elle retrace en partie le parcours de cette région, pose un regard sur différentes utopies passées et futures du Luxembourg, puis bien au-delà des frontières nationales et terrestres. Avec environ 70 entreprises dans le domaine et un traité controversé sur l’exploitation du minerai céleste signé en 2018, le pays est avant-gardiste.
Au fil des chapitres, l’exposition scrute les domaines d’activité du spatial, mais aussi les motivations diverses et profondes qui poussent à vouloir se détacher de la croûte terrestre et à aller toujours plus loin dans la mise en œuvre de ces rêves mobilisateurs.
EN: New Minett projects us toward another reality, space colonisation and societal utopias.
Thanks to technological progress, extra-terrestrial human settlement currently seems to be becoming possible in an environment where everything has to be constructed, even the environment itself. The goal of certain ongoing missions is to construct a second habitat for humankind, to lead it toward a multi-planet species, thus raising ethical, ecological, social, economic and legislative questions – questions of individual and collective identity. These missions question the issues of space occupation and its impact on our civilization.
The exhibition creates bridges between the region of Minett and Mars, between space projects and utopias. It partly traces the history of this region, examines different past and future utopias in Luxembourg and well beyond national and terrestrial frontiers. With some 70 companies in the domain and a controversial treaty concerning the exploitation of extra-terrestrial ores signed in 2018, the country is in the vanguard.
In the course of the chapters, the exhibition examines the domains of space activity but also the deep and diverse motivations that drive humans to move away from the terrestrial crust and go ever further in the realization of these inspiring dreams.
Lieu : Konschthal, Floor 03 à Esch-sur-Alzette (au Luxembourg)
Eddi van tsui est une compagnie franco-luxembourgeoise de spectacle vivant fondée Sandy Flinto (artiste pluridisciplinaire) et Pierrick Grobéty (musicien et compositeur) ainsi que par Daniel Marinangeli (auteur et dramaturge). Connus pour aborder des thématiques engagées et dérangeantes, ils passent au crible la société contemporaine. Leurs sources d’inspiration sont : l’art, la photographie, la peinture, la mode, l’architecture, mais aussi la littérature, la philosophie, la sociologie et l’actualité. Ce trio aime travailler avec des personnes d’univers variés. Après avoir côtoyé divers artistes et s’être approché du monde de la science, ils ont pour ambition, avec leur nouveau projet “Esch-Mars, de terres rouges en terres rouges“, d’intégrer la parole citoyenne dans leur travail artistique.
