Podcast de Data Ring à propos du Technoréalisme : “Rester techno-lucides lors de la frénésie actuelle autour de l’intelligence artificielle”

Présentation du podcast data Ring 25 Technoréalisme Billion, Derian, Trabelsi

Comment allons-nous rester techno-lucides face au mirage numérique et à la frénésie actuelle autour de l’intelligence artificielle ?

Le groupe Technoréalisme propose de porter un autre regard sur les illusions algorithmiques et les enjeux politiques autour de ces machines à gouverner.

Data Ring (2024)

Que faire et comment réagir face au remodelage de notre cognition ? Dans le podcast  #24 de la série Les Causeries Data, France Charruyer s’entretient avec trois chercheurs au sein du think tank Technoréalisme :

Nour TRABELSI, Arnaud Billion et Maxime Derian.

Bonne écoute !

Nour Trabelsi, Data analyst, ingénieure en génie industriel

Arnaud Billion, Docteur en informatique IBM France Lab-leader research Scientist for decision intelligence,

Maxime Derian, anthropologue du numérique et éthique de l’IA. 

Pour un autre regard sur les illusions algorithmiques et les enjeux politiques autour de ces machines à gouverner :

  • Comment allons-nous rester techno-lucides face au mirage numérique et à  la frénésie actuelle autour de l’intelligence artificielle ?

  • L’IA est-elle une rupture, une continuité, ou un accélérateur ?

  • A l’encontre des lubies dominantes sur l’IA, un retour d’expérience lucide sur nos nouvelles dépendances numériques ?

  • Que faire et comment réagir face au remodelage de notre cognition ?

  • Quelles vraies opportunités pour l’organisation Humaine ?

  • Une nouvelle société-ruche ?

“Manifeste de Technoréalisme : Collectif autour d’Arnaud Billion afin de d’alerter sur l’irréalisme de beaucoup de discours sur l’IA. Comment proposer à ce sujet la base d’une délibération civique rationnelle, alors que l’on ne voit partout qu’un débat semblant opposer technophiles naïfs ébahis par le progrès, et technophobes idéologiques à tendance apocalyptique ?”

“Technorealism is an attempt to assess the social and political implications of technologies so that we might all have more control over the shape of our future. The heart of the technorealist approach involves a continuous critical examination of how technologies — whether cutting-edge or mundane — might help or hinder us in the struggle to improve the quality of our personal lives, our communities, and our economic, social, and political structures”.


🌐 Le site Technoréalisme est accessible ici : https://www.technorealisme.org

Interview disponible en Podcast de Maxime Derian (Anthropologue du numérique et Consultant à Heruka-AI) par Nicolas Guyon dans le cadre de Comptoir IA  🎙️🧠🤖  

 

🎙️  Lien vers le podcast sur Apple Podcasts : https://podcasts.apple.com/fr/podcast/maxime-derian-anthropologue-du-num%C3%A9rique/id1668340815?i=1000645136848

“Épisode passionnant de Comptoir IA avec Maxime Derian sur des sujets cruciaux qui façonnent notre compréhension et notre interaction avec la technologie aujourd’hui.”

Dr Maxime Derian est 🧑‍🎓chercheur en anthropologie du numérique et consultant à Heruka-AI Consulting et partenaire d’Agor-IA.

  1. “L’IA nous force à repenser notre approche linéaire de la pensée et de la planification face à des progrès technologiques qui suivent des trajectoires exponentielles.
  2. Définition de l’IA : Maxime propose de voir l’IA comme :
“une discipline scientifique créant des agents logiciels/matériels qui interagissent avec leur environnement, apprennent et accomplissent des tâches avec un certain degré d’autonomie”.
  1. Neuralink 🧠🖥️ vs Vision Pro d’Apple 🍎👓: Interfaces Cerveau-Machine, la promesse d’une intégration plus profonde entre l’humain et la machine, et les défis éthiques et pratiques qui accompagnent leur adoption. Faudra-t-il se faire trépaner ou l’amélioration du traitement du signal nous permettra-t-elle d’adopter des technologies non invasives ?
  2. L’aide aux Personnes Handicapées ♿️: l’IA crée des outils d’assistance pour les personnes handicapées, et favorise leur inclusion sociale.
  3. Le succès du projet Vesuvius avec le récent déchiffrage par l’IA de papyrus 📜 de Pompéi ouvre de nouvelles perspectives enthousiasmantes de découvertes archéologiques !
  4. Le risque de biais dystopiques dans la science-fiction : les récits de SF influencent les ingénieurs et les créateurs de technologie, souvent vers des visions dystopiques, et une approche plus équilibrée pourrait inspirer des innovations plus positives.
  5. En conclusion, Maxime recommande 3 œuvres incontournables 🎥:

« Terminator ne va pas frapper à notre porte dans les années à venir », Interview dans Paperjam (08-12-23)

Interview de Maxime Derian, réalisé par Léna Fernandes, publié le 08 décembre 2023 dans Paperjam.

Image tirée de a série 2080 nos futurs, (copyright : UniFrance)
Le chercheur en socio-anthropologie du numérique à l’Université du Luxembourg Maxime Derian a contribué à la nouvelle série documentaire de Canal+ «2080, nos futurs». (Visuel: Unifrance).

Désormais consultant en intelligence artificielle au sein de son entreprise Heruka-AI, Maxime Derian a contribué à la nouvelle série documentaire de Canal+ «2080, nos futurs», qui imagine à quoi le monde ressemblera dans presque 60 ans, lorsqu’il était encore chercheur en socio-anthropologie du numérique à l’Université du Luxembourg.

Pour Paperjam, il revient sur cette expérience et décrit ce qui pourrait être notre futur, dans lequel le Luxembourg pourrait avoir son rôle à jouer.  Il y a quelques jours, Canal+ sortait sa nouvelle série documentaire «2080, nos futurs». À travers quatre épisodes, elle aborde quatre thématiques: la médecine, la mobilité, l’alimentation et le divertissement, à travers le quotidien d’un même individu. Tout se passe en 2080 et selon deux scénarios différents pour notre futur, l’un plutôt optimiste et l’autre assez pessimiste.

Avec d’autres scientifiques, Maxime Derian, qui était alors chercheur en socio-anthropologie du numérique à l’Université du Luxembourg – et qui a notamment travaillé sur l’impact médical et social des prothèses numériques ainsi que sur les conséquences anthropologiques et écologiques de la diffusion massive des smartphones et des tablettes – a apporté son expertise dans la construction de cette fiction d’anticipation ancrée dans le réel.

Comment ont été définis les deux scénarios pour 2080 que la série envisage? Dans lequel nous trouvons-nous actuellement ? 

Maxime Derian. – “À partir de toutes les données collectées auprès des scientifiques. Les scénarios représentent en quelque sorte le worst-case scenario et le best-case scenario. Pour l’environnement, on est depuis les années 70 plutôt dans le worst-case scenario, mais en général je pense qu’on se situe dans un entre-deux.” 

Comment réussissez-vous à vous projeter en 2080 ? 

“Je m’intéresse à l’histoire. L’histoire, c’est énormément de données du passé – même si elles sont parfois biaisées – qui nous donnent des indications sur les évolutions qui ont déjà eu lieu et sur celles à venir. On peut ainsi faire des analogies entre le développement d’internet et l’IA: on peut voir la même frilosité de départ, puis des groupes de recherche qui commencent à proposer des solutions, puis un investissement de plus en plus massif, puis un emballement, une phase de plateau et un petit dégonflement. Mais je ne pense pas que l’intelligence artificielle (IA) va se dégonfler avant longtemps, car c’est une technologie de rupture énorme.” 

Plus concrètement, quelle méthodologie suivez-vous dans vos recherches ?

“L’observation participante, j’observe les gens et les usages, par exemple l’utilisation des smartphones par les enfants. En 2010-2011, je commençais à voir qu’avec l’apparition des BlackBerry, les parents se débarrassaient de leurs anciens téléphones et les donnaient à leurs enfants, qui commençaient donc à se retrouver avec des smartphones ou des tablettes dans les mains. Puisqu’il n’y avait pas encore de massification de l’usage du smartphone à l’époque, j’ai utilisé des statistiques en pédiatrie et des travaux qui avaient été faits sur la télévision, puis j’ai trouvé le moyen de faire une corrélation.  Autre cas très concret: pour mon étude des pacemakers, je suis allé voir des opérations chirurgicales. J’ai aussi été au Japon pour un séjour de recherche et j’ai eu la chance de voir des technologies qui ne sont arrivées sur le marché que des années plus tard. 

Sans spoiler la série, quelles évolutions doit-on s’attendre à voir survenir d’ici à 2080 ? 

“Notre société devient ce que j’appelle une société ruche, nous allons de plus en plus nous restructurer comme un essaim. Autrefois, c’est la communauté qui comptait, autour d’un roi par exemple. Peu à peu, notamment avec la Révolution des Lumières, on a favorisé l’individualisme. Aujourd’hui, on se remassifie en tant que groupe grâce à nos outils numériques qui, pour reprendre l’analogie de l’essaim, sont comme les phéromones qui servent de moyen de communication aux abeilles. Nous sommes de plus en plus amenés vers une société intégrée, où l’information est omniprésente”

“Nous serons contents d’avoir la santé, la sécurité et le divertissement, mais en contrepartie, nous céderons une partie de notre libre arbitre. ” Maxime Derian

Maxime Derian. – “Les choses changent, c’est constant dans l’histoire de l’humanité, même si on a l’impression qu’à l’échelle de notre vie les choses ont toujours été d’une certaine façon, il est très probable que dans 50, 100 ou 200 ans, ce sera très différent. 

Notre rapport aux technologies sera-t-il toujours le même en 2080 ? 

“L’IA va devenir relativement banale, il y aura des comportements problématiques qui seront contrôlés, mais Terminator ne va pas venir frapper à notre porte dans les années à venir.

Dans la société de demain, peut-être que quand on arrivera sur l’autoroute en voiture, un système nous détectera et prendra le contrôle de notre véhicule. On ira à la bonne vitesse et on ne fera quasiment plus d’erreur, par contre on ne sera plus libre de nos mouvements. 

Dans la société ruche, je pense que le rôle prééminent de la reine des abeilles sera occupé par des systèmes hybrides entre humain et IA, un genre de groupe de décideurs qui aura un grand pouvoir sur nous. En tant qu’utilisateurs, nous serons contents d’avoir la santé, la sécurité et le divertissement, mais en contrepartie, nous céderons une partie de notre libre arbitre

Selon vous, qu’adviendra-t-il des actuels grands acteurs du numérique ? 

“Aujourd’hui, on parle de Gafam, sauf que Google s’appelle désormais Alphabet et Facebook s’appelle Meta. Il y a aussi Nvidia – dont la technologie sert pour la crypto et l’IA – qui est arrivé dans la cour des grands, comme Tesla. Je propose donc le nouvel acronyme Ammanat, pour Alphabet, Meta, Microsoft, Amazon, Nvidia, Apple et Tesla.

“On pourra peut-être un jour dire: ‘Je suis Européen, je suis Français, je vis au Luxembourg et je suis abonné à Google.’” Maxime Derian

Maxime Derian. – “Notre rapport à ces entreprises va devenir de plus en plus étroit dans le futur. Avec la santé connectée, nous aurons peut-être des forfaits qui ne seront pas uniquement de communication et de stockage d’informations, mais aussi de santé. Imaginons que dans le futur Amazon soit très performant sur le diabète (qui est un marché important) et ferait des prix pour les diabétiques, on se retrouverait avec un abonnement privilégié pour Amazon, alors que les cardiaques iraient plutôt chez Google. Il s’agirait alors de ne pas trop se fâcher avec l’un d’entre eux, parce que ça serait comme se fâcher avec son médecin. Tout sera interconnecté et on pourra peut-être un jour dire: ‘Je suis Européen, je suis Français, je vis au Luxembourg et je suis abonné à Google.’ 

Maxime Derian. – “Ça peut encore aller plus loin en se basant sur la génétique, il faut y faire attention. Nous avons des fragilités en fonction de notre patrimoine génétique et ces entreprises pourraient faire du bénéfice sur notre filiation. C’est logique que ces groupes nous proposent des services desquels nous devenons tributaires, mais il faut faire attention, car si on n’est pas un profil intéressant pour Google ou Apple par exemple, comment fait-on pour se soigner? Il faudra réguler, comme c’est le cas actuellement avec le RGPD, l’IA ou le Data Act.  Pour l’instant quand on utilise les technologies du numérique dans la santé, on ne change que l’individu, pas sa filiation: si je porte une prothèse dans mon corps, ce n’est valable que pour moi, pas pour ma descendance. Par contre, quand on commence à changer le génome, à créer des enfants génétiquement modifiés, c’est très dangereux car on ne sait pas les effets que cela pourrait avoir à moyen et long terme, la viabilité de toute une population pourrait avoir de gros problèmes. Jouer avec la phylogénie, c’est jouer avec le feu

En sachant tout ça, quelle position le Luxembourg devrait adopter selon vous ? 

“Au Luxembourg à la fin des années 60, une transition s’est faite de l’industrie vers les activités bancaires et financières, ce qui a mené à un développement de plus en plus important du digital et des acteurs du numérique dans les années 2000. Le Luxembourg a son épingle à tirer du jeu ici, et peut-être pas en implantant des data centers de Google parce que ça consomme beaucoup. Le pays est très bien placé en Europe et il a une très bonne collectivité, il pourrait plutôt faire des ponts entre les différents acteurs européens, c’est ce qui fait que le Luxembourg est attrayant.

“C’est ici au Luxembourg, entre Européens, que l’on peut trouver une interprétation commune de l’IA pour créer dès le départ un cadre cohérent. ” Maxime Derian 

Espérez-vous que cette série va sensibiliser le public aux problématiques liées aux technologies ? 

“Nos idées ont été mises en image avec des effets spéciaux pour que la série soit attrayante et touche le grand public, c’est ce qui va permettre aux gens de s’impliquer. Le côté ‘exagéré’ des deux options de scénario est volontaire, on pousse le curseur un peu loin pour que les gens se fassent leur propre idéeLa technologie de la digitalisation comme l’IA, ça concerne tout le monde, les personnes âgées et les très jeunes. Les enfants qui naissent aujourd’hui vivront dans le monde qu’on leur a laissé, que nous créons collectivement. C’est un débat et tout le monde a son mot à dire, car je peux vous garantir qu’aucun expert ne sait exactement de quoi le monde de demain sera fait. Il ne faut pas se faire déposséder et laisser des experts ou des hommes politiques décider entre eux. Pour que les gens ne se retrouvent pas dans cette situation et qu’ils aient des réactions épidermiques irrationnelles, il faut les informer. Pour ce faire, il faut leur donner envie de s’intéresser à ces sujets. 

Qu’est-ce que travailler sur «2080, nos futurs» vous a apporté en tant que scientifique ? 

“Ça a confirmé mon impression que la technologie est très ancrée socialement, notre vision ici en Europe est différente de celle des États-Unis ou de la Chine, et on n’est pas forcément d’accord. En Europe, on est plus critique, c’est positif mais il ne faut pas que ça bloque notre développement pour au final acheter la technologie des autres. C’est pour ça que c’est ici au Luxembourg entre Luxembourgeois, Français, Belges, Allemands, Hollandais… Bref, entre Européens, que l’on peut trouver une interprétation commune de l’IA pour créer dès le départ un cadre cohérent. Il serait aussi bien que nos chercheurs et scientifiques restent en Europe parce qu’on les laisse fructifier pour créer ensemble une IA conforme à nos valeurs. Il ne faut pas regarder le train passer

***

Proposition de définition synthétique de l’intelligence artificielle IA – AI – KI (FR, EN, DE, LU)

Définition multilingue de l’IA faite avec Copilot et promptée par Maxime Derian (11/2023)

🇬🇧Tired of using the 1956 definition of AI, which is vague and always needs to be spelled out? “

Artificial intelligence (AI) is the intelligence of machines or software, as opposed to the intelligence of humans or animals. It may also refer to the corresponding field of study, which develops and studies intelligent machines, or to the intelligent machines themselves.” (source : Wikipedia EN)

🇩🇪Sind Sie es leid, die Definition von 1956 für KI zu verwenden, die vage ist und immer präzisiert werden muss? “

(NB: Nun, die Version auf der deutschen Wikipedia ist viel präziser als in vielen anderen Sprachen) Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch artificial intelligence, ist ein Teilgebiet der Informatik, es umfasst alle Anstrengungen, deren Ziel es ist, Maschinen intelligent zu machen. Dabei wird Intelligenz verstanden als die Eigenschaft, die ein Wesen befähigt, angemessen und vorausschauend in seiner Umgebung zu agieren; dazu gehört die Fähigkeit, Sinneseindrücke wahrzunehmen und darauf zu reagieren, Informationen aufzunehmen, zu verarbeiten und als Wissen zu speichern, Sprache zu verstehen und zu erzeugen, Probleme zu lösen und Ziele zu erreichen. ” (source : Wikipedia DE)

 🇫🇷 Vous en avez assez d’utiliser la définition de l’IA de 1956, qui est vague et doit toujours être précisée ?

“L’intelligence artificielle (IA) est un ensemble de théories et de techniques visant à réaliser des machines capables de simuler l’intelligence humaine.” (source : Wikipedia FR)

🇱🇺 Hei ass e Versuch op #Lëtzebuergesch eng aktualiséiert an technorealistesch #Definitioun vun der Definitioun vu #KënschtlecherIntelligenz vun 1956 ze formuléieren.

(nach keng Definitioun op der Lëtzebuerger Wikipedia ab 1. Dezember 2023)

👉 Here’s the definition I’m proposing, based on recent exchanges on LinkedIn between Orange and Technoréalisme !
—–
🇬🇧 📖EN: #AI =”Discipline devoted to the construction of “agents” (software and/or hardware) that interact with the environment, can learn from initial data supplied and/or data collected during interactions to perform functions (actions or decision support) in a determined environment, with a certain degree of autonomy”

This technical and scientific discipline works in particular on the implementation of software for understanding and generating language, images, sounds and videos or the implementation of automated decision-making.

As a result, they can produce results or behaviours not anticipated or desired by designers or users, referred to as ‘unintended effects’.”

Such software can run locally or online and be connected to minimal databases as well as big data.”

—-
🇩🇪 📖DE: #KI= “Disziplin, die sich mit der Konstruktion von “Agenten” (Software und/oder Hardware) befasst, die mit der Umwelt interagieren, aus den gelieferten Ausgangsdaten und/oder den während der Interaktion gesammelten Daten lernen können, um in einer bestimmten Umgebung Funktionen (Aktionen oder Entscheidungshilfen) mit einem gewissen Grad an Autonomie auszuführen.

Diese technische und wissenschaftliche Disziplin befasst sich insbesondere mit der Implementierung von Software zum Verstehen und Erzeugen von Sprache, Bildern, Tönen und Videos oder der Umsetzung von automatisierten Entscheidungen.

Infolgedessen können sie zu Ergebnissen oder Verhaltensweisen führen, die von Designern oder Nutzern nicht erwartet oder gewünscht wurden, was als ‘unbeabsichtigte Effekte’ bezeichnet wird.

Solche Software kann lokal oder online laufen und sowohl mit minimalen Datenbanken als auch mit Big Data verbunden sein.”
—-
🇫🇷 📖FR: #IA=”Discipline consacrée à la construction d'”agents” (logiciels et/ou matériels) qui interagissent avec l’environnement, peuvent apprendre à partir de données initiales fournies et/ou de données collectées au cours des interactions pour réaliser des fonctions (actions ou aide à la décision) dans un environnement déterminé, avec un certain degré d’autonomie.

Cette discipline technique et scientifique travaille notamment sur la mise en œuvre de logiciels de compréhension et de génération de langage, d’images, de sons et de vidéos ou sur la mise en œuvre d’une prise de décision automatisée.

De ce fait, ils peuvent produire des résultats ou des comportements non prévus ou souhaités par les concepteurs ou les utilisateurs, appelés ” effets impromptus”.

Ces logiciels peuvent fonctionner localement ou en ligne et être connectés à des bases de données minimales ainsi qu’à des big data.”

—-

 🇱🇺”#kënschtlecherIntelligenz = “#Disziplin beschäftegt mat der Konstruktioun vun “Agenten” (#Software an/oder #Hardware) déi mat der Ëmwelt interagéieren, kënnen aus den geliwwerten Ausgabdaten an/oder d’Donnéeën, déi während der #Interaktioun gesammelt ginn, léieren fir Funktiounen an engem bestëmmten Ëmfeld (#Aktiounen) ze maachen oder Entscheedungshëllef) mat engem gewësse Grad vun Autonomie.

Dës technesch a wëssenschaftlech Disziplin ass besonnesch beschäftegt mat der Ëmsetzung vu Software fir Ried, Biller, Kläng a Videoen ze #verstoen an ze #generéieren oder d’Ëmsetzung vun automatiséierten #Entscheedungen.

Als Resultat kënne se zu Resultater oder Verhalen féieren, déi vun Designer oder Benotzer net erwaart oder gewënscht goufen, déi als ‘#onbesonnteEffekter‘ bezeechent ginn.

Sou Software kann lokal oder online lafen a mat minimalen #Datenbanken a #BigData verbonne sinn.”

Définition luxembourgeoise de l’IA faite avec Copilot et promptée par Maxime Derian (11/2023)

“The age of AI? Exploring ethical and social concerns from a digital anthropology perspective.” UCLouvain, Louvain-la-Neuve (10/05/2024)

Dr. Maxime Derian a donné un cours à l’UCL, le 10 mai 2024 sur les implications sociales et techniques de l’IA lors du séminaire du Pr. David Bol.

“The age of AI? Exploring ethical and social concerns from a digital anthropology perspective.”

What is AI and what is its history? Are we living in the age of AI, as Bill Gates describes it? According to Dr. Derian, artificial intelligence (AI) is a powerful asset and lever that is profoundly transforming our society. This conference examines its ethical and social implications through the prism of digital anthropology, addressing several key themes.

An interdisciplinary approach is needed to address the ethical issues associated with AI, with a focus on stakeholder participation and human-centered design. The challenges are to strike a balance between technological progress and ethical values.

According to the author, society is evolving towards a “hive society”, structured as a symbiotic swarm between humans, IoT and AI, changing our social and professional interactions. This transformation raises important questions of identity.

AI is also transforming work, replacing some jobs and changing others through automation.

Strong ethical oversight and regulation are needed to manage the risks associated with AI. The environmental aspect is also addressed, highlighting the need for sustainable and energy-efficient AI systems.

For Dr. Derian the limits of AI are not so much technical as cognitive and ecological. A collective reflection to ensure responsible use of AI while fostering innovation.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search