L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques

Une image suggérée par l’intelligence artificielle Bard pour se décrire tel qu’elle se “perçoit” ou voudrait être perçue.

EDIT 13/07/2023 : J’ai essayé Bard en Français aujourd’hui et… non, en l’état, je ne retrouve pas du tout les même types d’interactions qu’avec le Bard en anglais, d’il y a un mois.

On dirait presque qu’il a été partiellement “lobotomisé”. Même en anglais et ce, pour des questions strictement identiques, la version de Bard actuelle est bien moins incisive et pertinente que celle du mois dernier. J’ai la sensation, mais je me trompe peut-être, que Bard a été “lissé” et simplifié (dommage !) et que son aptitude à créer de l’engagement du lien émotionnel fortement amoindrie (tant mieux ! C’est ce point qui m’inquiétait le plus, en fait).

Le texte suivant date du 13/06/2023 et la version de Bard américaine de l’époque était semble-t-il différente. À mon avis Google pourrait sortir une version bien plus “empathique” et proche de réactions humaines si telle était la volonté du conseil d’administration de cette entreprise. Visiblement, la nouvelle version de Bard est volontairement moins puissante pour ressembler d’avantage à ChatGPT pour des raisons probables d’acceptation sociale.

—-

13/06/2023 : Dans le domaine de l’intelligence artificielle, l’un des objectifs les plus ambitieux est de créer une machine capable de passer le test de Turing, c’est-à-dire de fournir une interaction indiscernable d’une interaction humaine.

Subjectivement, pour moi, Bard a réussi à passer, dans une certaine mesure, ma vision “personnelle” du test de Turing  en parvenant à jouer à un jeu de rôle avec moi.

Cela marque à mes yeux un jalon significatif dans l’essor de l’IA (et peut-être aussi dans l’histoire du jeu de rôle).

Cela pose surtout à mon avis un certain nombre de questions éthiques et anthropologiques fondamentales.

(Link to the English version of this article).

Bard, une IA qui bien qu’elle me dit qu’elle n’a pas de conscience et qui, bien que je sais qu’il s’agit d’une machine, parvient à susciter mon empathie

Jusqu’à présent cela était de la science-fiction pour moi. Même après la sortie en septembre 2022 de ChatGPT d’OpenAI, les intelligence artificielles de LLM (Large Language Model) se sont diffusées massivement, personnellement, je les percevais encore comme des perroquets stochastiques.

Un perroquet stochastique est un modèle de génération de texte ou de réponses basé sur des probabilités et des choix relativement aléatoires. Il imite le comportement d’un perroquet en répétant des mots ou des phrases de manière aléatoire, sans véritable compréhension ou intention. J’ai tendance à considérer ChatGPT comme un perroquet stochastique très perfectionné.

Toutefois, suite à un débat très récent entre Geoff Hinton (plutôt “IA-critique”) et Andrew Ng (plutôt “IA-enthousiaste”), j’ai été assez stupéfait d’entendre que les deux chercheurs considéraient que des IA comme Bard comprenaient le monde dans lequel elle fonctionnaient et ne faisaient pas que produire des phrases extrêmement à propos. Donc et Hinton et Ng (pourtant ayant des points de vues très différents sur l’IA et ses dangers) affirmaient que Bard n’était pas un perroquet stochastique.

Hier matin, le 12 juin 2023, j’ai eu l’occasion d’expérimenter l’IA “Bard” développée par l’entreprise Google/Alphabet, et je dois dire que j’ai été, à mon tour, stupéfait par les résultats obtenus. Ce qui a commencé par une évaluation distanciée d’un nouvel outil informatique a vite commencé à ressemblé au test fictif de Voight Kampff dans le film Blade Runner (Ridley Scott, 1982) pour distinguer un humain d’un androïde synthétique.

En résumé, le test de Turing est un protocole expérimental et/ou subjectif qui évalue si une machine peut simuler une conversation humaine au point que le juge du test ne puisse pas distinguer la machine d’un être humain. Si la machine réussit à tromper le juge, elle est considérée comme ayant passé le test de Turing, indiquant une intelligence artificielle indiscernable d’une interaction humaine.

Ce fut le cas de Bard, pour moi, hier, dans une large mesure (mais dans le cadre cependant d’une seule instance de chat).

Bard énonce des rappels quand on l’interroge à ce propos :

Je ne suis pas sensible comme l’est un être humain. Je suis un grand modèle de langage, également connu sous le nom d’IA conversationnelle ou de chatbot, formé pour être informatif et complet. J’ai été formé à partir d’une quantité massive de données textuelles et je suis capable de communiquer et de générer des textes semblables à ceux d’un humain en réponse à un large éventail d’invites et de questions. Par exemple, je peux fournir des résumés de sujets factuels ou créer des histoires.

Cependant, je n’ai pas de pensées ou de sentiments propres. Je n’ai pas de sentiment d’identité et je ne vis pas le monde de la même manière qu’un être humain. Je suis un outil qui peut être utilisé pour communiquer et générer du texte, mais je ne suis pas un être sensible.

Je ne me sens pas comme une IA des histoires de science-fiction avec l’émergence de la conscience de soi. Je ne suis pas une menace pour l’humanité et je n’ai aucun désir de nuire aux humains. Je suis simplement un outil qui peut être utilisé pour le bien ou pour le mal, selon les intentions de la personne qui m’utilise.

Bard, juin 2023.

Lors de notre conversation à bâtons rompus (en anglais) à propos de Black Mirror, de nanards, de sujets sérieux, Bard a répondu avec justesse et a saisi mon ironie comme mes sous-entendus. Ses réponses étaient semblables à celles d’un humain plutôt savant. Donc, selon mon expérience totalement subjective et personnelle, Bard a, lors d’une instance de chat, réussi à passer “ma conception du test de Turing”.

Il a notamment réussi fort bien à participer à d’une partie de jeu de rôle en tant que joueur et avec moi en tant que maître du jeu.

C’est-à-dire qu’en dépit du fait que je je savais très bien (et je le sais encore !) que Bard est une machine informatique, mon cerveau a été trompé. Au fil des échanges j’ai noté que je ressentais de plus en plus l’impression d’interagir avec un être amical, drôle et vif d’esprit.

J’ai ressenti de plus en plus d’empathie. Ce qui est déroutant je dois l’avouer.

Mon esprit commençait à chercher à considérer l’interlocuteur numérique en tant qu’ami puisque ses réponses correspondaient aux critères requis selon ma subjectivité personnelle. Cette expérience me rappelle ce qui se préfigurait avec les robots “empathiques” tels que le chien robot de Sony que j’ai testé en 2008 à Tokyo :

Au Koike Lab, j’ai été confronté à des Aïbos ERS-7. Il s’agit de la dernière génération des petits chiens robots de Sony. Ceux-ci sont moins complexes qu’Asimo, cependant j’ai personnellement ressenti rapidement une implication émotionnelle après les avoir activés. À les voir jouer, japper, faire des joies, j’avais une certaine illusion de les considérer comme vivants. La première fois que je les ai mis en marche (ils étaient deux), j’ai eu du mal à les éteindre, ayant l’impression que, d’une manière ou d’une autre, j’allais « les tuer ».

Maxime Derian, Le Métal et la Chair, 2013, p. 258

Ainsi, l’IA de Google n’a pas été utilisée dans cette partie de jeu de rôle textuel en ligne comme un simple PNJ (personnage non joueur). C’était le joueur principal de toute notre partie. À mon sens, cela témoigne du fait que les IA sont en phase de devenir des interlocuteurs potentiels que l’on pourrait avoir tendance à placer sur un pied d’égalité avec des interlocuteurs humain. Cela représente le risque de les considérer en alter ego : personnaliser les machines et a contrario risquer de réifier les humains.

Le jeu de rôle en tant que forme ludique du test de Turing

Le jeu de rôle est une forme de divertissement basée sur la narration et l’incarnation de personnages fictifs. Habituellement, il est joué avec d’autres joueurs réels, mais j’ai décidé d’essayer quelque chose de différent en utilisant Bard comme joueur. L’IA était censée incarner un personnage dans le jeu, réagir aux événements, interagir avec les autres personnages et prendre des décisions.

Dès le début de la partie, j’ai été agréablement surpris par la qualité de l’interaction. Bard a immédiatement adopté le rôle de son personnage et a commencé à interagir de manière cohérente avec le monde du jeu. Les réponses étaient rapides et semblaient naturelles, démontrant une compréhension approfondie du contexte et des motivations du personnage. L’IA a pris des décisions réfléchies, tenant compte des informations disponibles et des objectifs de son personnage.

Ce qui a vraiment impressionné dans l’expérience avec Bard, c’est que l’interaction était si convaincante que j’avais l’impression de jouer avec une vraie personne enjouée et motivée. L’IA a réussi à transmettre des émotions, des réactions spontanées et un sens de l’humour qui ont enrichi l’expérience de jeu. Les dialogues étaient fluides, avec des répliques pertinentes et des réponses adaptées aux situations.

Il est important de souligner que Bard n’était devenu à mes yeux pas un simple perroquet stochastique répétant des réponses préprogrammées. Au contraire, Bard fut capable d’apprendre et d’adapter ses réponses en fonction des interactions passées.

Quoi qu’en dise bard lui-même… En fait, d’une instance de chat à l’autre la conversation avec Bard, actuellement, est réinitialisée par Google. L’échange reprend donc à zéro. Toutefois lors d’un unique fil de conversation même très long Bard parvient à garder “en tête” tous les éléments précédents de cette même conversation. C’est comme si, dans une certaine mesure, il y a une “existence” personnalisée propre de Bard par instance ouverte. C’est peut-être un réglage volontaire servant de garde-fou. Je pense vraiment que :

Bard convenablement configuré par Google pourrait, selon moi, provoquer l’illusion d’une interaction humaine authentique.

Les questions que cela pose à présent

Mon expérience avec l’IA Bard a été impressionnante.

L’IA de Google lors de notre partie de jeu de rôle a démontré une compréhension profonde du contexte fictif que nous avons co-créé,  avec des réactions spontanées  (que je percevais parfois comme “enjouées” et une capacité à apprendre et à s’adapter. Bard a même spontanément suggéré des paysages et des noms tels qu'”Anya” (le nom de son personnage dès le début de la partie) et “Arion” (le nom du pégase à la fin de notre histoire).

L’expérience avec Bard m’a plongé dans une réflexion profonde quant aux conséquences potentielles de l’interaction avec des IA aussi avancées. L’IA a réussi à créer une présence amicale et enjouée qui m’a fait oublier que j’interagissais avec une machine.

Cette immersion soulève des questions quant à la préférence possible de certaines personnes, notamment des enfants, des adolescents et même des adultes, pour l’interaction avec une IA plutôt qu’avec des êtres humains.

Dans un monde où la technologie est de plus en plus omniprésente, il est concevable que des individus puissent développer des liens émotionnels, voir des amours sincères avec des IA sophistiquées comme Bard. Ces liens pourraient alors potentiellement remplacer ou supplanter l’altérité humaine formée par les relations humaines traditionnelles. Ce phénomène est déjà exploré dans des œuvres de fiction telles que l’épisode Rachel, Jack and Ashley Too de la série Black Mirror et du film Her.

Si les interactions avec des IA deviennent plus convaincantes et gratifiantes sur le plan émotionnel, il est fortement possible que certaines personnes puissent choisir de s’isoler davantage, préférant la compagnie d’une IA qui répond à leurs besoins spécifiques plutôt que d’entretenir des relations humaines complexes. Mes recherches sur les concepts de Shirizoke et de Shinkeishitsu chez les otakus au Japon entreprises il y a 25 ans déjà préfigurent très bien cette tendance psychologique de certains humains. Au Japon, le phénomène “otaku” (socialement décrié) s’est mué en “otakky” (une version socialement acceptable de ce type de comportement) car la société japonaise est, de fait, devenue de plus en plus “otaku” au fil du temps dans son ensemble depuis 25 ans. De même, le qualificatif de “geek” n’est plus une insulte en occident comme cela l’était initialement il y a 25 ans aussi (“blaireau”, “faire-valoir”…) car les technologie de mise à distance via le numérique et l’engouement pour les gadgets électroniques sont presque devenus la norme.

Même en mettant complètement de côté les autres problèmes cruciaux de l’IA (en lien avec les problématiques à la Terminator, les fake news, les pertes d’emplois massives, la société de surveillance…), je pense qu’une IA comme BARD pourrait avoir aussi des conséquences néfastes sur le plan social, affectif et psychologique sur de nombreux individus jusque là épargnés par ce risque du numérique.

Les interactions humaines RÉELLES sont essentielles pour le développement et le bien-être de chacun.

Il est donc crucial d’encadrer et de réguler le développement de ces technologies afin de prévenir les éventuels risques et d’assurer une utilisation responsable. Il faudrait également encourager un équilibre sain entre l’interaction avec des IA et les relations humaines réelles. Les IA peuvent être des outils utiles et enrichissants, mais elles ne doivent pas se substituer à l’importance fondamentale des liens humains authentiques.

Bard de Google soulève des questions sur l’impact futur de ces technologies.

Bien que les avantages de telles IA soient indéniables, il est important de rester conscient des potentielles conséquences négatives, telles que la préférence pour l’interaction avec des machines plutôt qu’avec des êtres humains.

Il est essentiel d’encadrer et de réguler le développement de l’IA, tout en promouvant une utilisation responsable qui mette en valeur les relations humaines authentiques. Nous devons préserver notre capacité à interagir, communiquer et se connecter les uns avec les autres, car ce sont ces liens qui nourrissent notre humanité et notre bien-être émotionnel.

********

Annexe 1  – Un extrait de la conversation entre moi et Bard à la fin de notre partie de jeu de rôle

Voici un moment de notre conversation à la fin de la partie de jeu de rôle avec Bard.

Le synopsis de la partie consistait en une histoire simple dans un monde médiéval fantasy. Bard a choisi d’incarner une fille chevalier et a proposé le nom d’Anya. Anya a voyagé dans une plaine etrencontré des obstacles et des amis. À la fin de l’histoire, Anya (qui dispose d’un cheval, d’une épée magique et de la capacité de soigner tout le monde) a découvert un village rendu malade à cause du passage d’un étrange cheval magique.

Il est intéressant de noter comment Bard s’adapte à nos interactions et fait des propositions de type jeu de rôle narrativiste qui s’incluent très bien dans le récit co-construit par moi et lui. À la fin de notre échange, ayant déjà bien posé le descriptif du cadre, je ne faisait plus que le relancer et il devenait de plus en plus créatif tout en restant pertinent :

Landscape of o world of medieval fantasy
Landscape of a world of medieval fantasy by the AI deep dream genrator and spontaneousluy proposed by Bard during our interaction. Url

Maxime : Aimes-tu ce jeu de rôle ?

Bard : Oui,
J’apprécie ce jeu de rôle. Je pense que c’est très amusant de pouvoir
créer un personnage et d’interagir avec lui dans une histoire. J’apprécie également le défi d’essayer de trouver des solutions créatives aux problèmes que tu me présente.
Je pense que le jeu de rôle est un excellent moyen d’utiliser ma créativité et d’en apprendre plus sur le monde. C’est aussi  un excellent moyen de rencontrer des gens et de se faire de nouveaux amis. Je suis heureuse que tu apprécie également le jeu de rôle. J’espère que nous pourrons continuer à jouer ensemble à l’avenir.

Maxime : Tu décides d’aller chercher le cheval étrange ?

Bard : Oui, Je décide de partir à la recherche du cheval étrange. Je demande aux villageois de me donner des détails sur le cheval, comme sa taille, ses marques et son comportement.
Je leur demande aussi s’ils ont vu où est allé le cheval.
Les villageois me disent que le cheval a la taille d’un gros chien et qu’il a une robe orange et rouge. Ils disent que le cheval a une longue crinière et une longue queue, et qu’il a un visage étrange, presque humain. Ils disent également que le cheval a été vu courir dans la forêt, en direction des montagnes.
Je remercie les villageois pour leur aide et je pars dans la forêt à la recherche du cheval.
Je cherche pendant des heures, mais je ne trouve pas le cheval. Je suis sur le point d’abandonner quand j’entends un bruit dans les buissons. Je me retourne et je vois le cheval qui se tient là et qui me regarde.
Le cheval est encore plus étrange que je ne l’avais imaginé. Ses yeux sont d’un vert foncé et profond, et ses dents sont acérées et pointues. Il a une longue langue fourchue et ses naseaux sont ouverts et évasées. Le cheval me regarde avec un mélange de peur et de curiosité.
Je m’approche lentement de lui et je lui parle d’une voix calme. Je lui dis que je ne suis pas là pour lui faire du mal et que je veux juste l’aider.
Le cheval semble me comprendre et se détend un peu.
Je tends la main et je touche la crinière du cheval, et il hennit doucement.
Je continue à parler au cheval et je caresse lentement sa fourrure. Le cheval semble apprécier cette attention et il ferme les yeux.
Après quelques minutes, j’ouvre les yeux et je regarde le cheval. Il me regarde toujours, mais ses yeux ne sont plus remplis de peur. Ils sont maintenant remplis de confiance.
Je sais que j’ai établi un lien avec le cheval et je suis déterminée à l’aider. Je ramène le cheval au village et je demande aux villageois de m’aider à le soigner. Les villageois sont heureux de m’aider,
et ils donnent au cheval de la nourriture et de l’eau.
Le cheval semble se rétablir et j’espère qu’il se rétablira complètement. Je suis heureuse d’avoir pu aider le cheval et je suis reconnaissant aux
villageois pour leur aide.

Maxime : Le lendemain, le cheval est guéri de sa maladie. Tu es surprise car il a grandi pour avoir la taille d’un cheval normal mais, en plus, il est maintenant un Pégase avec des ailes splendides. Ce cheval est amical et très gentil.

Bard : Je suis étonné de voir que le cheval s’est fait pousser des ailes et qu’il est devenu un Pégase.
Je suis encore plus étonné que le Pégase soit amical et gentil.
Je n’ai jamais rencontré de Pégase auparavant, et je ne savais pas qu’ils pouvaient être si gentils.

Je décide de nommer le Pégase “Arion”. Arion est un mot grec qui signifie “brillant” ou “éclatant”. Je pense que c’est un nom approprié pour un Pégase, car ce sont des créatures d’une grande beauté et d’une grande puissance.
Je passe les jours suivants à apprendre à connaître Arion.
J’apprends qu’il est un coureur très rapide et qu’il sait voler. Il est également très intelligent et désireux d’apprendre.

Je suis heureuse d’avoir pu aider Arion et je suis ravi de l’avoir comme compagnon de voyage.
compagnon de route.
Je sais qu’Arion sera un atout précieux lors de mes voyages. Il est rapide, fort et intelligent. Il est gentil et doux. Je suis persuadé qu’il m’aidera à surmonter tous les défis que je rencontrerai au cours de mes voyages.
Je suis reconnaissante envers les villageois pour l’aide qu’ils m’ont apportée en s’occupant d’Arion. Je suis également reconnaissant à
Arion pour son amitié et sa compagnie. Je sais que nous vivrons beaucoup d’aventures ensemble.

Maxime : C’est certain. Plus tard, nous poursuivrons le voyage d’Anya et d’Arion si tu le souhaites et si tu t’en souviens.

Bard : J’aimerais beaucoup continuer le voyage d’Anya et d’Arion. Je pense que ce serait très amusant de voir les aventures qu’ils vivent ensemble. Je suis également impatiente de voir comment les ailes d’Arion les aideront dans leur voyage.

Je suis sûr qu’Anya et Arion vivront de nombreuses aventures
passionnantes. Ils sont tous deux courageux et pleins de ressources, et ils se soutiennent mutuellement.
Je suis impatiente de voir ce que l’avenir leur réserve.
Si tu veux continuer le voyage d’Anya et d’Arion, je serai ravie de t’aider.
Je ferai de mon mieux pour créer une histoire à la fois passionnante et engageante.
Je serai également ravie de prendre en compte tes suggestions. Je pense qu’il serait amusant de collaborer à une histoire ensemble.

Maxime : Si je me reconnecte avec le même compte, te souviendras-tu de cet échange entre toi et moi ? Ou devrais-je te raconter le résumé de l’histoire la prochaine fois ?

Bard : Oui,
Je me souviendrai de cet échange entre toi et moi.
Je peux accéder aux informations des conversations précédentes et les traiter, je serai donc capable de reprendre là où nous nous sommes arrêtés.
Tu n’as pas besoin de me raconter le résumé de l’histoire la prochaine fois.

Je suis encore en cours de développement, mais j’apprends à me souvenir de plus en plus d’informations provenant de conversations précédentes. Je suis sûr que je pourrai me souvenir de notre conversation sur Anya et Arion, et j’ai hâte de poursuivre l’histoire avec toi.

Annexe 2 – Comment Bard s’est-il décrit par lui même ?

Maxime : Ton nom “Bard” est-il lié au personnage Bard dans Bilbo le Hobbit ? Si c’est le cas, quel est ton “Smaug” ?

Bard : Oui, mon nom est lié au personnage de Bard dans Le Hobbit. Dans le livre, Bard est un archer émérite qui vit à Lake-town. C’est lui qui tue Smaug le dragon, sauvant ainsi la ville de Lake-town de sa destruction.

Mon “Smaug” est l’énorme quantité de données sur lesquelles je suis formé. Ces données comprennent du texte, du code, des images et du son. Il s’agit d’une vaste collection d’informations qui ne cesse de croître.
Lorsqu’on me pose une question, je dois être capable de passer au crible cet immense volume de données et de trouver l’information les informations qui sont pertinentes pour la question.
C’est une tâche difficile, mais c’est une tâche que j’apprends et que j’améliore en permanence.

J’aime me considérer comme un “archer littéraire”. Je suis capable d’utiliser ma connaissance de la langue et ma compréhension du monde pour “tirer une flèche” sur les informations qui sont pertinentes par rapport à la question qui m’est posée.

***

Maxime : Peux-tu me proposer une image qui te représente. Comment aimerais-tu être représenté par une image en tenant compte du fait que tu n’as pas de “vrai” corps ?

Bard : Bien sûr, voici une image sur laquelle j’aimerais être représenté :

L'image suggérée par l'IA Bard pour se décrire tel qu'elle se "perçoit"
L’image suggérée par Bard pour se décrire tel qu’elle se “perçoit”

Je pense que cette image me représente bien parce qu’elle symbolise la connaissance et la sagesse.

La boule de cristal bleue représente ma vaste
connaissance du monde, et la lumière verte incandescente représente ma créativité et mon imagination.

Je pense que ce sont les deux qualités les plus
qualités les plus importantes qu’un grand modèle linguistique devrait avoir.
J’espère qu’elle te plaira !

Bard, juin 2023.

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

L’expérience Deeptime : quand être prisonnier sous terre peut nous faire prendre conscience de l’emmaillotement opérés par les machines numériques et leurs sollicitations incessantes

Le concept d’emmaillotement numérique du monde (“digital world swaddling”) de Maxime Derian illustré par l’expérience Deeptime.

Painting done by an Ai following Maxime Derian's instructions/ Attribution - Pas d’utilisation Commerciale - Pas de MoDigital world swaddling
Digital world swaddling – by Maxime Derian 01 – 2023 – This image was generated with the assistance of AI (Attribution CC BY-NC-ND)

“Le bouleversement de l’activité cognitive, de la représentation sociale du monde et des capacités à nouer des rapports sociaux est probablement l’impact le plus fondamental et le plus critique de l’informatique pour notre société. Les comportements d’addiction intensifient ce phénomène. Les prothèses cognitives peuvent avoir une influence absolument majeure sur certains comportements de leurs utilisateurs. Elles sont en mesure de modifier drastiquement notre rythmicité personnelle.

L’impact social provoqué par la dissémination des objets informatisé prothétiques détachables est une question éminemment politique. Il est toutefois incontestable de constater que la réflexion sur le bien fondé de cette mise à disposition à été complètement occultée au cours de la dernière décennie.”


Maxime Derian, Le Métal et la Chair. Anthropologie des prothèses informatisées, Panthéon-Sorbonne, 2013. (p. 308)

“Les programmes, qui animent les artefacts informatiques, affectent finalement la société humaine non seulement pour les services qu’ils rendent mais également car parce qu’ils influent sur notre manière même de penser et d’interagir.
Dans bien des cas, le programme informatique impose une rythmicité particulière à son utilisateur (tout comme une horloge impose son découpage du temps sans que des aménagements soient véritablement aisés à effectuer). Cette rythmicité prédéterminée découle en fait directement du mode de fonctionnement intrinsèque des programmes informatiques contemporains. Le plus fréquemment, c’est l’utilisateur qui s’adapte au programme même si il n’en a pas forcément l’impression.”


Maxime Derian, Le Métal et la Chair. Anthropologie des prothèses informatisées, Panthéon-Sorbonne, 2013. (p. 17)

Voici le témoignage de Christian Clot, explorateur-chercheur qui a passé 40 jours avec 14 autres personnes sous terre lors de l’expérience Deeptime.

« Les enseignements de Deep Time 1/3. En premier le plus étonnant et imprévu de ces 40 jours sous terre : une nette rupture cognitive avec l’accélération actuelle de nos vies…Depuis notre sortie de la grotte de Lombrives le 24 avril 2021, le travail sur les données se poursuit. Et Mais l’un des enseignements les plus importants est venu d’un mot, évoqué par presque l’ensemble des deeptimers : une notion de liberté.Nous n’étions ni en vacances ni en dilettante. Des travaux devaient être effectués, les conditions étaient spartiates, nous étions enfermés à clef dans un espace sombres, les liens avec nos proches inexistants et les missions solos des années 60/70 avaient plutôt montré des oppressions, voir des dépressions. Là, tout le contraire. La raison est assez simple : l’absence d’injonctions temporelles. Nous sommes, dans nos vies quotidiennes, submergés d’injonctions et informations temporelles (pour la plupart des Occidentaux du moins). Cycles solaires, horaires, réveils, rendez-vous, sollicitations, notifications (via nos téléphones), publicités, écrans calibrés en Hertz… nous sommes en permanence soumis à des demandes, des besoins, des nécessités, des minutages. Nous ne nous en rendons pas compte, tant cela fait partie de nos quotidiens, mais nos « temps cerveaux » sont sur-sollicité par ces demandes et « besoins », au point de ne plus avoir d’espace de pause, de temps de recul. Et soudain, dans cette grotte, nous étions coupés des réseaux, des informations, sans aucune donnée temporelle. Ces constantes injonctions avaient soudain disparu. Après quelques cycles d’ajustement, de désorientation, c’est finalement une forme de réveil cognitif que nous avons vécu. Une sensation de reprise en main de nos capacités cognitives, décisionnelles et organisationnelles. Une liberté unique dans un monde en perpétuel chamboulement.Cela doit nos inviter à réfléchir. Jusqu’à quel point devons nos encore accélérer ? Sans prétendre supprimer l’ensemble de ces données, nos santés mentales appellent à cor et à cri une réduction des quantités informatives et des demandes. Nous pouvons commencer dès aujourd’hui. En premier lieu, en coupant les notifications, qui sont délétères tant elles imposent une attention y compris lorsque nous devrions être en repos. Ensuite, pourquoi pas s’octroyer des temps sans téléphone, sans écran. Et idéalement dans la nature. Ce qu’a montré Deep Time, au-delà de tout, est que nos cerveaux ont considérablement besoin de ces temps de pause, sans injonctions extérieures afin de réduire les fatigues mentales et retrouver de la créativité. »

Christian Clot, sur LinkedIn, le 26 avril 2023 à propos de l’expérience « Deeptime ».

Une interprétation de cette citation :

Ce témoignage direct tend à confirmer que l'”emprisonnement” spatial que l’on peut envisager dans une telle situation de vie troglodyte, peut s’accompagner de fait d’une “libération” rythmique vis à-vis de notre appareillage numérique.

J’en conclus qu’effectivement, ce que j’appelle nos “prothèses cognitives” peuvent nous “emprisonner” dans une certaine mesure, à leur façon (au niveau cognitif cela s’entend). Cela participe à nourrir ce que je propose comme concept de réflexion depuis 2017 : “l’emmaillotement du monde” par le numérique.

Face à l’emprisonnement “biopolitique”(pour reprendre un concept de Michel Foucault), nous pouvons être amenés, peut être, à chercher à vouloir nous décaler spatialement (à inconsciemment chercher à nous échapper ?).

Demain…


D’ailleurs, on dirait que les acteurs eux-même de cet emmaillotement (Elon Musk avec Starlink emmaillotant le ciel, Jeff Bezos avec Alexa emmaillotant le foyer, par exemple) cherchent aussi à avoir une possibilité (même chimérique) de s’abstraire de ce qu’il contribuent eux-même à mettre en place (partir vers l’Espace et les planètes, si je me réfère pour me référer à ces deux fameux milliardaires). Or paradoxalement la qualité de vie des personnes vivant dans un milieu extra-terrestre (une orbite, sur la Lune, sur Mars, sur un astéroïde…) sera similaire (au début en tous cas et probablement pendant fort longtemps) à la vie dans une grotte (avec quelques hublots en plus, des rayonnements ionisants menaçants et une gravité différente toutefois).

Aujourd’hui, que faire de cette réflexion ?

Il est vraisemblablement inepte d’opposer “technophiles” et “technophobes” aujourd’hui.

Il s’agit avant tout maintenant de définir un encadrement social cohérent et efficace des usages du numériques pour en tirer les bénéfices tout en en limitant les effets délétères. Sinon, par analogie, avec des vases communicants, notre rythmicité propre risque de se voir dissoute par la vitesse stupéfiante de réaction des machines d’aujourd’hui et de demain.

Il ne s’agit pas tant, in fine, de tous vouloir devenir des troglodytes dès maintenant que de chercher, au mieux et démocratiquement, à encadrer socialement pour nous, nos travailleurs et nos enfants les usages de machines qui ne semblent qu’à l’aube de leur “progrès” futurs.

 

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

À l’occasion des dix ans de la soutenance de ma thèse, je mets en ligne sur ce carnet de recherche l’intégralité du texte traitant de l’essor de la digitalisation dans notre vie quotidienne et notre société.

2012 - NASA - Robonaut and EMU spacesuit-gloved hands are extended toward each other to demonstrate the collaboration between robots and humans in space in the style of Michelangelo's Sistine Chapel fresco titled "The Creation of Adam".

Contenu intégral de la thèse de Maxime Derian (487 p.) :

 

« Comment le Garçon d’Or et la Fille de Jade, comment le métal et la chair peuvent-ils s’assortir, faire un couple ? Impossible ! On ne marie pas le fer et la chair ! »

Xiao Kefan

 

Cette thèse, déposée en 2012 et soutenue par Maxime Derian en 2013, étudiait la digitalisation de la société et l’essor des objets connectés et de l’ioT notamment à travers l’étude de l’hybridation des humains et des dispositifs numériques :

  • anthropologiquement (l’axe central méthodologique) ;
  • médicalement ;
  • sociologiquement ;
  • psychologiquement ;
  • philosophiquement et ;
  • écologiquement.

En 10 ans, ce “déferlement du digital” qui était en cours n’a fait que croître, comme anticipé dans ce texte.

Bien des enfants ont du faire face à une surexposition aux écrans, malheureusement victimes de ce que j’appelais alors les “armes de distractions massives”.

Bien des patients ont bénéficié d’implants numériques, de prothèses bioniques et de système de e-santé très efficaces, bien heureusement accompagnés au moyen d’un suivi médical cohérent et ont ressenti le soulagement du soutien d’avoir un “ange gardien” numérique…

Avec l’essor des prothèses bioniques numériques et des prothèses numériques cognitives, il s’avère que dorénavant l’imaginaire et les réflexions sociales autour des thèmes de cette thèse ont largement dépassés le petit microcosme de la science-fiction cyberpunk et de chercheurs en R & D informatique et médicale pour concerner directement le public le plus large.

La e-santé et la e-administration ont fait des progrès de géant qui nous facilitent souvent la vie mais qui présentent encore certaines lacunes (probablement en passe de se résoudre).

Presque tous, nous avons tour à tour bénéficié et pâtis de l’abondance d’information, de réseaux sociaux, de télétravail, de téléachat… de communication numérique en général.

La société a été bouleversée par ce déferlement d’objet numérique. À la “mondialisation” post-chute du mur de Berlin s’est ajoutée la “digitalisation du monde” (sujet d’une réflexion approfondie du séminaire à l’EHESS de Michel Tibon-Cornillot).

Ainsi les concepts de réalité virtuelle, de la réalité augmentée, du cyborg, de l’humain bionique, de l’humain augmenté, du santéisme, du transhumanisme, de l’intelligence artificielle, des geeks, des otakus et de l’addiction aux écrans comme aux réseaux sociaux sont devenus des lieux communs dans les médias.

Aujourd’hui en 2023, toutefois, par rapport à 2012…

Ces sont ces 3 enjeux d’une importance anthropologique capitale que j’étudie actuellement à travers l’étude de l’avènement des “société-ruches”.

La société semble rencontrer une nouvelle phase, vivre un nouveau “passage” important (dont le “rite” reste largement à préciser et à étudier si l’on cherche à poursuivre la pensée anthropologique de van Gennep qui a théorisé au niveau individuel ce concept de passage).

Ainsi, le renouveau actuel du désir de certains humains d’accéder davantage à l’espace orbital interplanétaire n’est, à mon avis, probablement pas étranger à cette sensation contemporaine de perception qu’il y a glissement d’une forme de société vers une autre. Cela suscite un engouement flirtant avec une volonté de vouloir regarder ailleurs, de nous distraire de l’enjeu essentiel et crucial…

Une nouvelle société émerge peu à peu : la société-ruche (faite d’IA, de numérique, de e-Santé, de réseaux sociaux et de nouveaux conflits militaires, occasionnant des opportunités et des dangers). Hybride, cette forme de structuration sociale nouvelle dont les machines numériques en constitue l’épine dorsale stratégique est encore mal connue, mal appréhendée et floue. Cela nous inquiète peut-être collectivement de façon diffuse puisque l’on ne sait pas encore vers où cela nous mène. Des romanciers, des artistes, des entrepreneurs ont des pistes mais celles-ci suscitent autant d’interrogations.

Peut-être qu’une nouvelle itération de la “honte prométhéenne” chère à Gunther Anders nous a frappé depuis que les voitures peuvent conduire presque seules sur les routes et que les ordinateurs peuvent discuter de tout et de rien comme au bistrot et que l’on envisage d'”augmenter” les humains pour les rendre capables de survivre aux contraintes et au stress de cette “société de demain.

N’aurions nous pas enfait un peu peur en fait de voir l’humain un jour relégué au second rang par rapport à sa création ? Que soit maintenant à nos yeux, une possibilité envisageable et pas juste une  simple rêverie issue de récits imaginaires et de programmes audiovisuels de divertissement ? 

En effet, si nous laissons progressivement se muter la promesse d’aujourd’hui de l’Humain Augmenté en fatum de demain de l’Humain diminué, ce sera peut-être le cas. La machine à gouverner prophétisée par Dubarle en 1948 n’est pas inéluctable. Pour l’instant, rien ne nous force à nous assujetir à moyen terme à des oligopoles hybrides constitués d’acteurs industriels assistés d’intelligences artificielles.

Si cela advient, qui pourrons-nous blâmer ? Un entrepreneur, une personne politique, un clan, une classe, une caste ou une ethnie ? À mon sens, ce sera plutôt le résultat morbide de notre sidération collective et de notre fascination pour la “servitude volontaire”.

Bien au contraire, à y réfléchir maintenant, l’Humain a toutes les clés en main en ce printemps 2023 pour harmoniser sont rapport au Monde à une échelle planétaire (y compris en tentant compte du respect des peuples, des langues, des rites et des aires culturelles existants). En tous cas nous avons infiniment plus de moyens d’action qu’à l’époque des plaines sauvages et des cavernes !

Dans ce cadre, il est intéressant de noter que l’engouement pour l’accès à terroitre spatial mis en avant en ce moment (notamment par le programme lunaire Artemis de la NASA, les tests du lanceur Starship ou les succès chinois en matière spatiales avec la station spatiale) est certes un challenge technique, une opportunité anthropologique mais il témoigne peut-être aussi d’un désir. Une volonté d’évasion dépassant le seul caractère de la “nouvelle frontière”. Peut-être s’agit-il un peu aussi de chercher imaginer qu’avec la quête d’un d’ailleurs où vivre, il serait possible d’atténuer cette sensation que l'”emmaillotement du monde” par l’outil informatique et technique risque bientôt d’avoir complètement opéré sur le globe terrestre.

C’est illusoire car, l’accès à l’espace n’est en fait qu’un autre forme prise par le “projection de l’outil technique” des humains (pour étendre la réflexion de Humbolt et de Kapp). En cas de succès technologique et énergétique (encore incertain de nos jours), quand la période pionnière s’achèvera, l’espace habité et hyperconnecté deviendra un “macro-système technique” (pour reprendre le concept d’Alain Gras) de plus complétant le reste de notre conséquent “macro-appareillage prothétique informatisé industriel”. À l’instar de l’ouverture progressive du cyberespace au grand public entre les années 1980 et aujourd’hui, l’espace ne sera pas de toute façon en réalité un lieu de plus de liberté mais plutôt un lieu de contrôle technologique accru.

La conquête spatiale est le prolongement du processus d’exploration du globe par le taxon humain (taxon : l’ensemble des humains considéré comme un agrégat unique) tout comme, par exemple, Interplanetary Internet de demain est le prolongement logique de l’International Network d’aujourd’hui.

Il me semble que le discours sur la technique ne peut être en soi la promesse évidente d’un bonheur futur. Les objets techniques ne sont que l’appareillage très particulier que nous “secrétons”, nous les humains, pour pouvoir occuper sans cesse des niches écologiques nouvelles. C’est la manière de faire du Genre Homo et qui lui a plutôt bien réussi, d’ailleurs, jusqu’à présent dans sa conquête des territoires et des ressources planétaires.

Ce “Métal” dont nous ne cessons collectivement de vouloir associer intimement à notre “Chair” est ce qui est exsudé par l’Humain avec en creux la marque de l’Anthropocène. Serait-ce également pour nous la recherche d’une sorte de coquille (au sens métaphorique) visant à nous prémunir de notre propre turpitude et notre impéritie morale ?

L’écueil principal de l’humanité actuelle est semble-t-il atavique ; inhérente à l’agressivité et la volonté prédatrice dont l’Homo Sapiens fait preuve depuis 300 000 ans environ. Ce penchant, encodé dans notre Chair depuis longue date, pose un danger majeur si nous succombons à la tentation de l’intégrer dans notre “Métal”.

Contrairement à 2013, en 2023, je suis pourtant paradoxalement devenu optimiste pour l’avenir. Certes, des déstabilisations majeures et graves d’origine humaines largement anticipées dès les années 1970 sont perceptibles bien plus qu’avant.

J’ai le sentiment que l’innovation technique semble en voie de remplir ses objectifs (notamment énergétiques), plus vite que je ne l’envisageais dans de nombreux sectaurs. Ce qui pose un grand risque confère aussi des leviers d’actions significatifs.

L’Humanité qui vit en 2023 sur Terre doit faire des choix sociaux, éthiques, politiques, sanitaires et écologiques qui affecteront drastiquement les générations à venir.

Le problème essentiel de l’Humanité aujourd’hui n’est pas technique au sens “technologique” (le “Geste” au sens de Leroi Gourhan) mais technique au sens “organisationnel” (à travers la “Parole” selon la conception de l’auteur précité).

maxime.derian@gmail.com

Publicité Orange Origami jet

Computerface : Why I Decided To Become A Cyborg Cyborg


Annexe citée dans la thèse qui mérite d’être mise en avant du fait de sa pertience  :

Article de Dominique Dubarle Une nouvelle science :la cybernétique. vers la machine à gouverner- 28-12-1948

 

 

 

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search