Les prothèses numériques du corps humain : de l'humain réparé à l'humain augmenté. Histoire et actualité de la "cyborgisation" de la société et des individus par le numérique et l'intelligence artificielle (IA).
Comment allons-nous rester techno-lucides face au mirage numérique et à la frénésie actuelle autour de l’intelligence artificielle ?
Le groupe Technoréalisme propose de porter un autre regard sur les illusions algorithmiques et les enjeux politiques autour de ces machines à gouverner.
Data Ring (2024)
Que faire et comment réagir face au remodelage de notre cognition ? Dans le podcast #24 de la série Les Causeries Data, France Charruyer s’entretient avec trois chercheurs au sein du think tank Technoréalisme :
Nour Trabelsi, Data analyst, ingénieure en génie industriel
Arnaud Billion, Docteur en informatique IBM France Lab-leader research Scientist for decision intelligence,
Maxime Derian, anthropologue du numérique et éthique de l’IA.
Pour un autre regard sur les illusions algorithmiques et les enjeux politiques autour de ces machines à gouverner :
Comment allons-nous rester techno-lucides face au mirage numérique et à la frénésie actuelle autour de l’intelligence artificielle ?
L’IA est-elle une rupture, une continuité, ou un accélérateur ?
A l’encontre des lubies dominantes sur l’IA, un retour d’expérience lucide sur nos nouvelles dépendances numériques ?
Que faire et comment réagir face au remodelage de notre cognition ?
Quelles vraies opportunités pour l’organisation Humaine ?
Une nouvelle société-ruche ?
“Manifeste de Technoréalisme : Collectif autour d’Arnaud Billion afin de d’alerter sur l’irréalisme de beaucoup de discours sur l’IA. Comment proposer à ce sujet la base d’une délibération civique rationnelle, alors que l’on ne voit partout qu’un débat semblant opposer technophiles naïfs ébahis par le progrès, et technophobes idéologiques à tendance apocalyptique ?”
“Technorealism is an attempt to assess the social and political implications of technologies so that we might all have more control over the shape of our future. The heart of the technorealist approach involves a continuous critical examination of how technologies — whether cutting-edge or mundane — might help or hinder us in the struggle to improve the quality of our personal lives, our communities, and our economic, social, and political structures”.
🌐 Le site Technoréalisme est accessible ici : https://www.technorealisme.org
Interview de Maxime Derian, réalisé par Léna Fernandes, publié le 08 décembre 2023 dans Paperjam.
Le chercheur en socio-anthropologie du numérique à l’Université du Luxembourg Maxime Derian a contribué à la nouvelle série documentaire de Canal+ «2080, nos futurs». (Visuel: Unifrance).
Désormais consultant en intelligence artificielle au sein de son entreprise Heruka-AI, Maxime Derian a contribué à la nouvelle série documentaire de Canal+ «2080, nos futurs», qui imagine à quoi le monde ressemblera dans presque 60 ans, lorsqu’il était encore chercheur en socio-anthropologie du numérique à l’Université du Luxembourg.
Pour Paperjam, il revient sur cette expérience et décrit ce qui pourrait être notre futur, dans lequel le Luxembourg pourrait avoir son rôle à jouer. Il y a quelques jours, Canal+ sortait sa nouvelle série documentaire «2080, nos futurs». À travers quatre épisodes, elle aborde quatre thématiques: la médecine, la mobilité, l’alimentation et le divertissement, à travers le quotidien d’un même individu. Tout se passe en 2080 et selon deux scénarios différents pour notre futur, l’un plutôt optimiste et l’autre assez pessimiste.
Avec d’autres scientifiques, Maxime Derian, qui était alors chercheur en socio-anthropologie du numérique à l’Université du Luxembourg – et qui a notamment travaillé sur l’impact médical et social des prothèses numériques ainsi que sur les conséquences anthropologiques et écologiques de la diffusion massive des smartphones et des tablettes – a apporté son expertise dans la construction de cette fiction d’anticipation ancrée dans le réel.
Comment ont été définis les deux scénarios pour 2080 que la série envisage? Dans lequel nous trouvons-nous actuellement ?
Maxime Derian. – “À partir de toutes les données collectées auprès des scientifiques. Les scénarios représentent en quelque sorte le worst-case scenario et le best-case scenario. Pour l’environnement, on est depuis les années 70 plutôt dans le worst-case scenario, mais en général je pense qu’on se situe dans un entre-deux.”
Comment réussissez-vous à vous projeter en 2080 ?
“Je m’intéresse à l’histoire. L’histoire, c’est énormément de données du passé – même si elles sont parfois biaisées – qui nous donnent des indications sur les évolutions qui ont déjà eu lieu et sur celles à venir. On peut ainsi faire des analogies entre le développement d’internet et l’IA: on peut voir la même frilosité de départ, puis des groupes de recherche qui commencent à proposer des solutions, puis un investissement de plus en plus massif, puis un emballement, une phase de plateau et un petit dégonflement. Mais je ne pense pas que l’intelligence artificielle (IA) va se dégonfler avant longtemps, car c’est une technologie de rupture énorme.”
Plus concrètement, quelle méthodologie suivez-vous dans vos recherches ?
“L’observation participante, j’observe les gens et les usages, par exemple l’utilisation des smartphones par les enfants. En 2010-2011, je commençais à voir qu’avec l’apparition des BlackBerry, les parents se débarrassaient de leurs anciens téléphones et les donnaient à leurs enfants, qui commençaient donc à se retrouver avec des smartphones ou des tablettes dans les mains. Puisqu’il n’y avait pas encore de massification de l’usage du smartphone à l’époque, j’ai utilisé des statistiques en pédiatrie et des travaux qui avaient été faits sur la télévision, puis j’ai trouvé le moyen de faire une corrélation. Autre cas très concret: pour mon étude des pacemakers, je suis allé voir des opérations chirurgicales. J’ai aussi été au Japon pour un séjour de recherche et j’ai eu la chance de voir des technologies qui ne sont arrivées sur le marché que des années plus tard.
Sans spoiler la série, quelles évolutions doit-on s’attendre à voir survenir d’ici à 2080 ?
“Notre société devient ce que j’appelle une société ruche, nous allons de plus en plus nous restructurer comme un essaim. Autrefois, c’est la communauté qui comptait, autour d’un roi par exemple. Peu à peu, notamment avec la Révolution des Lumières, on a favorisé l’individualisme. Aujourd’hui, on se remassifie en tant que groupe grâce à nos outils numériques qui, pour reprendre l’analogie de l’essaim, sont comme les phéromones qui servent de moyen de communication aux abeilles. Nous sommes de plus en plus amenés vers une société intégrée, où l’information est omniprésente”
“Nous serons contents d’avoir la santé, la sécurité et le divertissement, mais en contrepartie, nous céderons une partie de notre libre arbitre. ” Maxime Derian
Maxime Derian. – “Les choses changent, c’est constant dans l’histoire de l’humanité, même si on a l’impression qu’à l’échelle de notre vie les choses ont toujours été d’une certaine façon, il est très probable que dans 50, 100 ou 200 ans, ce sera très différent.
Notre rapport aux technologies sera-t-il toujours le même en 2080 ?
“L’IA va devenir relativement banale, il y aura des comportements problématiques qui seront contrôlés, mais Terminator ne va pas venir frapper à notre porte dans les années à venir.
Dans la société de demain, peut-être que quand on arrivera sur l’autoroute en voiture, un système nous détectera et prendra le contrôle de notre véhicule. On ira à la bonne vitesse et on ne fera quasiment plus d’erreur, par contre on ne sera plus libre de nos mouvements.
Dans la société ruche, je pense que le rôle prééminent de la reine des abeilles sera occupé par des systèmes hybrides entre humain et IA, un genre de groupe de décideurs qui aura un grand pouvoir sur nous. En tant qu’utilisateurs, nous serons contents d’avoir la santé, la sécurité et le divertissement, mais en contrepartie, nous céderons une partie de notre libre arbitre.
Selon vous, qu’adviendra-t-il des actuels grands acteurs du numérique ?
“Aujourd’hui, on parle de Gafam, sauf que Google s’appelle désormais Alphabet et Facebook s’appelle Meta. Il y a aussi Nvidia – dont la technologie sert pour la crypto et l’IA – qui est arrivé dans la cour des grands, comme Tesla. Je propose donc le nouvel acronyme Ammanat, pour Alphabet, Meta, Microsoft, Amazon, Nvidia, Apple et Tesla.
“On pourra peut-être un jour dire: ‘Je suis Européen, je suis Français, je vis au Luxembourg et je suis abonné à Google.’” Maxime Derian
Maxime Derian. – “Notre rapport à ces entreprises va devenir de plus en plus étroit dans le futur. Avec la santé connectée, nous aurons peut-être des forfaits qui ne seront pas uniquement de communication et de stockage d’informations, mais aussi de santé. Imaginons que dans le futur Amazon soit très performant sur le diabète (qui est un marché important) et ferait des prix pour les diabétiques, on se retrouverait avec un abonnement privilégié pour Amazon, alors que les cardiaques iraient plutôt chez Google. Il s’agirait alors de ne pas trop se fâcher avec l’un d’entre eux, parce que ça serait comme se fâcher avec son médecin. Tout sera interconnecté et on pourra peut-être un jour dire: ‘Je suis Européen, je suis Français, je vis au Luxembourg et je suis abonné à Google.’
Maxime Derian. – “Ça peut encore aller plus loin en se basant sur la génétique, il faut y faire attention. Nous avons des fragilités en fonction de notre patrimoine génétique et ces entreprises pourraient faire du bénéfice sur notre filiation. C’est logique que ces groupes nous proposent des services desquels nous devenons tributaires, mais il faut faire attention, car si on n’est pas un profil intéressant pour Google ou Apple par exemple, comment fait-on pour se soigner? Il faudra réguler, comme c’est le cas actuellement avec le RGPD, l’IA ou le Data Act. Pour l’instant quand on utilise les technologies du numérique dans la santé, on ne change que l’individu, pas sa filiation: si je porte une prothèse dans mon corps, ce n’est valable que pour moi, pas pour ma descendance. Par contre, quand on commence à changer le génome, à créer des enfants génétiquement modifiés, c’est très dangereux car on ne sait pas les effets que cela pourrait avoir à moyen et long terme, la viabilité de toute une population pourrait avoir de gros problèmes. Jouer avec la phylogénie, c’est jouer avec le feu.
En sachant tout ça, quelle position le Luxembourg devrait adopter selon vous ?
“Au Luxembourg à la fin des années 60, une transition s’est faite de l’industrie vers les activités bancaires et financières, ce qui a mené à un développement de plus en plus important du digital et des acteurs du numérique dans les années 2000. Le Luxembourg a son épingle à tirer du jeu ici, et peut-être pas en implantant des data centers de Google parce que ça consomme beaucoup. Le pays est très bien placé en Europe et il a une très bonne collectivité, il pourrait plutôt faire des ponts entre les différents acteurs européens, c’est ce qui fait que le Luxembourg est attrayant.
“C’est ici au Luxembourg, entre Européens, que l’on peut trouver une interprétation commune de l’IA pour créer dès le départ un cadre cohérent. ” Maxime Derian
Espérez-vous que cette série va sensibiliser le public aux problématiques liées aux technologies ?
“Nos idées ont été mises en image avec des effets spéciaux pour que la série soit attrayante et touche le grand public, c’est ce qui va permettre aux gens de s’impliquer. Le côté ‘exagéré’ des deux options de scénario est volontaire, on pousse le curseur un peu loin pour que les gens se fassent leur propre idée. La technologie de la digitalisation comme l’IA, ça concerne tout le monde, les personnes âgées et les très jeunes. Les enfants qui naissent aujourd’hui vivront dans le monde qu’on leur a laissé, que nous créons collectivement. C’est un débat et tout le monde a son mot à dire, car je peux vous garantir qu’aucun expert ne sait exactement de quoi le monde de demain sera fait. Il ne faut pas se faire déposséder et laisser des experts ou des hommes politiques décider entre eux. Pour que les gens ne se retrouvent pas dans cette situation et qu’ils aient des réactions épidermiques irrationnelles, il faut les informer. Pour ce faire, il faut leur donner envie de s’intéresser à ces sujets.
Qu’est-ce que travailler sur «2080, nos futurs» vous a apporté en tant que scientifique ?
“Ça a confirmé mon impression que la technologie est très ancrée socialement, notre vision ici en Europe est différente de celle des États-Unis ou de la Chine, et on n’est pas forcément d’accord. En Europe, on est plus critique, c’est positif mais il ne faut pas que ça bloque notre développement pour au final acheter la technologie des autres. C’est pour ça que c’est ici au Luxembourg entre Luxembourgeois, Français, Belges, Allemands, Hollandais… Bref, entre Européens, que l’on peut trouver une interprétation commune de l’IA pour créer dès le départ un cadre cohérent. Il serait aussi bien que nos chercheurs et scientifiques restent en Europe parce qu’on les laisse fructifier pour créer ensemble une IA conforme à nos valeurs. Il ne faut pas regarder le train passer.»
« Comment le Garçon d’Or et la Fille de Jade, comment le métal et la chair peuvent-ils s’assortir, faire un couple ? Impossible ! On ne marie pas le fer et la chair ! »
Xiao Kefan
Cette thèse, déposée en 2012 et soutenue par Maxime Derian en 2013, étudiait la digitalisation de la société et l’essor des objets connectés et de l’ioT notamment à travers l’étude de l’hybridation des humains et des dispositifs numériques :
anthropologiquement (l’axe central méthodologique) ;
médicalement ;
sociologiquement ;
psychologiquement ;
philosophiquement et ;
écologiquement.
En 10 ans, ce “déferlement du digital” qui était en cours n’a fait que croître, comme anticipé dans ce texte.
Bien des enfants ont du faire face à une surexposition aux écrans, malheureusement victimes de ce que j’appelais alors les “armes de distractions massives”.
Bien des patients ont bénéficié d’implants numériques, de prothèses bioniques et de système de e-santé très efficaces, bien heureusement accompagnés au moyen d’un suivi médical cohérent et ont ressenti le soulagement du soutien d’avoir un “ange gardien” numérique…
Avec l’essor des prothèses bioniques numériques et des prothèses numériques cognitives, il s’avère que dorénavant l’imaginaire et les réflexions sociales autour des thèmes de cette thèse ont largement dépassés le petit microcosme de la science-fiction cyberpunk et de chercheurs en R & D informatique et médicale pour concerner directement le public le plus large.
La e-santé et la e-administration ont fait des progrès de géant qui nous facilitent souvent la vie mais qui présentent encore certaines lacunes (probablement en passe de se résoudre).
Presque tous, nous avons tour à tour bénéficié et pâtis de l’abondance d’information, de réseaux sociaux, de télétravail, de téléachat… de communication numérique en général.
La société a été bouleversée par ce déferlement d’objet numérique. À la “mondialisation” post-chute du mur de Berlin s’est ajoutée la “digitalisation du monde” (sujet d’une réflexion approfondie du séminaire à l’EHESS de Michel Tibon-Cornillot).
Ainsi les concepts de réalité virtuelle, de la réalité augmentée, du cyborg, de l’humain bionique, de l’humain augmenté, du santéisme, du transhumanisme, de l’intelligence artificielle, des geeks, des otakus et de l’addiction aux écrans comme aux réseaux sociaux sont devenus des lieux communs dans les médias.
Aujourd’hui en 2023, toutefois, par rapport à 2012…
le réchauffement climatique, l’écocide, les pénuries énergétiques et des ressources ne sont plus perçues par le grand public comme des hypothèses farfelues de scientifiques rabat-joie et cela à un impact géopolitique, militaire et social direct. La course aux ressources et à l’énergie s’intensifie.
Ces sont ces 3 enjeux d’une importance anthropologique capitale que j’étudie actuellement à travers l’étude de l’avènement des “société-ruches”.
La société semble rencontrer une nouvelle phase, vivre un nouveau “passage” important (dont le “rite” reste largement à préciser et à étudier si l’on cherche à poursuivre la pensée anthropologique de van Gennep qui a théorisé au niveau individuel ce concept de passage).
Ainsi, le renouveau actuel du désir de certains humains d’accéder davantage à l’espace orbital interplanétaire n’est, à mon avis, probablement pas étranger à cette sensation contemporaine de perception qu’il y a glissement d’une forme de société vers une autre. Cela suscite un engouement flirtant avec une volonté de vouloir regarder ailleurs, de nous distraire de l’enjeu essentiel et crucial…
Une nouvelle société émerge peu à peu : la société-ruche (faite d’IA, de numérique, de e-Santé, de réseaux sociaux et de nouveaux conflits militaires, occasionnant des opportunités et des dangers). Hybride, cette forme de structuration sociale nouvelle dont les machines numériques en constitue l’épine dorsale stratégique est encore mal connue, mal appréhendée et floue. Cela nous inquiète peut-être collectivement de façon diffuse puisque l’on ne sait pas encore vers où cela nous mène. Des romanciers, des artistes, des entrepreneurs ont des pistes mais celles-ci suscitent autant d’interrogations.
N’aurions nous pas enfait un peu peur en fait de voir l’humain un jour relégué au second rang par rapport à sa création ? Que soit maintenant à nos yeux, une possibilité envisageable et pas juste une simple rêverie issue de récits imaginaires et de programmes audiovisuels de divertissement ?
En effet, si nous laissons progressivement se muter la promesse d’aujourd’hui de l’Humain Augmenté en fatum de demain de l’Humain diminué, ce sera peut-être le cas. La machine à gouverner prophétisée par Dubarle en 1948 n’est pas inéluctable. Pour l’instant, rien ne nous force à nous assujetir à moyen terme à des oligopoles hybrides constitués d’acteurs industriels assistés d’intelligences artificielles.
Si cela advient, qui pourrons-nous blâmer ? Un entrepreneur, une personne politique, un clan, une classe, une caste ou une ethnie ? À mon sens, ce sera plutôt le résultat morbide de notre sidération collective et de notre fascination pour la “servitude volontaire”.
Bien au contraire, à y réfléchir maintenant, l’Humain a toutes les clés en main en ce printemps 2023 pour harmoniser sont rapport au Monde à une échelle planétaire (y compris en tentant compte du respect des peuples, des langues, des rites et des aires culturelles existants). En tous cas nous avons infiniment plus de moyens d’action qu’à l’époque des plaines sauvages et des cavernes !
Dans ce cadre, il est intéressant de noter que l’engouement pour l’accès à terroitre spatial mis en avant en ce moment (notamment par le programme lunaire Artemis de la NASA, les tests du lanceur Starship ou les succès chinois en matière spatiales avec la station spatiale) est certes un challenge technique, une opportunité anthropologique mais il témoigne peut-être aussi d’un désir. Une volonté d’évasion dépassant le seul caractère de la “nouvelle frontière”. Peut-être s’agit-il un peu aussi de chercher imaginer qu’avec la quête d’un d’ailleurs où vivre, il serait possible d’atténuer cette sensation que l'”emmaillotement du monde” par l’outil informatique et technique risque bientôt d’avoir complètement opéré sur le globe terrestre.
C’est illusoire car, l’accès à l’espace n’est en fait qu’un autre forme prise par le “projection de l’outil technique” des humains (pour étendre la réflexion de Humbolt et de Kapp). En cas de succès technologique et énergétique (encore incertain de nos jours), quand la période pionnière s’achèvera, l’espace habité et hyperconnecté deviendra un “macro-système technique” (pour reprendre le concept d’Alain Gras) de plus complétant le reste de notre conséquent “macro-appareillage prothétique informatisé industriel”. À l’instar de l’ouverture progressive du cyberespace au grand public entre les années 1980 et aujourd’hui, l’espace ne sera pas de toute façon en réalité un lieu de plus de liberté mais plutôt un lieu de contrôle technologique accru.
La conquête spatiale est le prolongement du processus d’exploration du globe par le taxon humain (taxon : l’ensemble des humains considéré comme un agrégat unique) tout comme, par exemple, Interplanetary Internet de demain est le prolongement logique de l’International Network d’aujourd’hui.
Il me semble que le discours sur la technique ne peut être en soi la promesse évidente d’un bonheur futur. Les objets techniques ne sont que l’appareillage très particulier que nous “secrétons”, nous les humains, pour pouvoir occuper sans cesse des niches écologiques nouvelles. C’est la manière de faire du Genre Homo et qui lui a plutôt bien réussi, d’ailleurs, jusqu’à présent dans sa conquête des territoires et des ressources planétaires.
Ce “Métal” dont nous ne cessons collectivement de vouloir associer intimement à notre “Chair” est ce qui est exsudé par l’Humain avec en creux la marque de l’Anthropocène. Serait-ce également pour nous la recherche d’une sorte de coquille (au sens métaphorique) visant à nous prémunir de notre propre turpitude et notre impéritie morale ?
L’écueil principal de l’humanité actuelle est semble-t-il atavique ; inhérente à l’agressivité et la volonté prédatrice dont l’Homo Sapiens fait preuve depuis 300 000 ans environ. Ce penchant, encodé dans notre Chair depuis longue date, pose un danger majeur si nous succombons à la tentation de l’intégrer dans notre “Métal”.
Contrairement à 2013, en 2023, je suis pourtant paradoxalement devenu optimiste pour l’avenir. Certes, des déstabilisations majeures et graves d’origine humaines largement anticipées dès les années 1970 sont perceptibles bien plus qu’avant.
J’ai le sentiment que l’innovation technique semble en voie de remplir ses objectifs (notamment énergétiques), plus vite que je ne l’envisageais dans de nombreux sectaurs. Ce qui pose un grand risque confère aussi des leviers d’actions significatifs.
L’Humanité qui vit en 2023 sur Terre doit faire des choix sociaux, éthiques, politiques, sanitaires et écologiques qui affecteront drastiquement les générations à venir.
Le problème essentiel de l’Humanité aujourd’hui n’est pas technique au sens “technologique” (le “Geste” au sens de Leroi Gourhan) mais technique au sens “organisationnel” (à travers la “Parole” selon la conception de l’auteur précité).
maxime.derian@gmail.com
Annexe citée dans la thèse qui mérite d’être mise en avant du fait de sa pertience :
Article de Dominique Dubarle Une nouvelle science :la cybernétique. vers la machine à gouverner- 28-12-1948
