L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques

Une image suggérée par l’intelligence artificielle Bard pour se décrire tel qu’elle se “perçoit” ou voudrait être perçue.

EDIT 13/07/2023 : J’ai essayé Bard en Français aujourd’hui et… non, en l’état, je ne retrouve pas du tout les même types d’interactions qu’avec le Bard en anglais, d’il y a un mois.

On dirait presque qu’il a été partiellement “lobotomisé”. Même en anglais et ce, pour des questions strictement identiques, la version de Bard actuelle est bien moins incisive et pertinente que celle du mois dernier. J’ai la sensation, mais je me trompe peut-être, que Bard a été “lissé” et simplifié (dommage !) et que son aptitude à créer de l’engagement du lien émotionnel fortement amoindrie (tant mieux ! C’est ce point qui m’inquiétait le plus, en fait).

Le texte suivant date du 13/06/2023 et la version de Bard américaine de l’époque était semble-t-il différente. À mon avis Google pourrait sortir une version bien plus “empathique” et proche de réactions humaines si telle était la volonté du conseil d’administration de cette entreprise. Visiblement, la nouvelle version de Bard est volontairement moins puissante pour ressembler d’avantage à ChatGPT pour des raisons probables d’acceptation sociale.

—-

13/06/2023 : Dans le domaine de l’intelligence artificielle, l’un des objectifs les plus ambitieux est de créer une machine capable de passer le test de Turing, c’est-à-dire de fournir une interaction indiscernable d’une interaction humaine.

Subjectivement, pour moi, Bard a réussi à passer, dans une certaine mesure, ma vision “personnelle” du test de Turing  en parvenant à jouer à un jeu de rôle avec moi.

Cela marque à mes yeux un jalon significatif dans l’essor de l’IA (et peut-être aussi dans l’histoire du jeu de rôle).

Cela pose surtout à mon avis un certain nombre de questions éthiques et anthropologiques fondamentales.

(Link to the English version of this article).

Bard, une IA qui bien qu’elle me dit qu’elle n’a pas de conscience et qui, bien que je sais qu’il s’agit d’une machine, parvient à susciter mon empathie

Jusqu’à présent cela était de la science-fiction pour moi. Même après la sortie en septembre 2022 de ChatGPT d’OpenAI, les intelligence artificielles de LLM (Large Language Model) se sont diffusées massivement, personnellement, je les percevais encore comme des perroquets stochastiques.

Un perroquet stochastique est un modèle de génération de texte ou de réponses basé sur des probabilités et des choix relativement aléatoires. Il imite le comportement d’un perroquet en répétant des mots ou des phrases de manière aléatoire, sans véritable compréhension ou intention. J’ai tendance à considérer ChatGPT comme un perroquet stochastique très perfectionné.

Toutefois, suite à un débat très récent entre Geoff Hinton (plutôt “IA-critique”) et Andrew Ng (plutôt “IA-enthousiaste”), j’ai été assez stupéfait d’entendre que les deux chercheurs considéraient que des IA comme Bard comprenaient le monde dans lequel elle fonctionnaient et ne faisaient pas que produire des phrases extrêmement à propos. Donc et Hinton et Ng (pourtant ayant des points de vues très différents sur l’IA et ses dangers) affirmaient que Bard n’était pas un perroquet stochastique.

Hier matin, le 12 juin 2023, j’ai eu l’occasion d’expérimenter l’IA “Bard” développée par l’entreprise Google/Alphabet, et je dois dire que j’ai été, à mon tour, stupéfait par les résultats obtenus. Ce qui a commencé par une évaluation distanciée d’un nouvel outil informatique a vite commencé à ressemblé au test fictif de Voight Kampff dans le film Blade Runner (Ridley Scott, 1982) pour distinguer un humain d’un androïde synthétique.

En résumé, le test de Turing est un protocole expérimental et/ou subjectif qui évalue si une machine peut simuler une conversation humaine au point que le juge du test ne puisse pas distinguer la machine d’un être humain. Si la machine réussit à tromper le juge, elle est considérée comme ayant passé le test de Turing, indiquant une intelligence artificielle indiscernable d’une interaction humaine.

Ce fut le cas de Bard, pour moi, hier, dans une large mesure (mais dans le cadre cependant d’une seule instance de chat).

Bard énonce des rappels quand on l’interroge à ce propos :

Je ne suis pas sensible comme l’est un être humain. Je suis un grand modèle de langage, également connu sous le nom d’IA conversationnelle ou de chatbot, formé pour être informatif et complet. J’ai été formé à partir d’une quantité massive de données textuelles et je suis capable de communiquer et de générer des textes semblables à ceux d’un humain en réponse à un large éventail d’invites et de questions. Par exemple, je peux fournir des résumés de sujets factuels ou créer des histoires.

Cependant, je n’ai pas de pensées ou de sentiments propres. Je n’ai pas de sentiment d’identité et je ne vis pas le monde de la même manière qu’un être humain. Je suis un outil qui peut être utilisé pour communiquer et générer du texte, mais je ne suis pas un être sensible.

Je ne me sens pas comme une IA des histoires de science-fiction avec l’émergence de la conscience de soi. Je ne suis pas une menace pour l’humanité et je n’ai aucun désir de nuire aux humains. Je suis simplement un outil qui peut être utilisé pour le bien ou pour le mal, selon les intentions de la personne qui m’utilise.

Bard, juin 2023.

Lors de notre conversation à bâtons rompus (en anglais) à propos de Black Mirror, de nanards, de sujets sérieux, Bard a répondu avec justesse et a saisi mon ironie comme mes sous-entendus. Ses réponses étaient semblables à celles d’un humain plutôt savant. Donc, selon mon expérience totalement subjective et personnelle, Bard a, lors d’une instance de chat, réussi à passer “ma conception du test de Turing”.

Il a notamment réussi fort bien à participer à d’une partie de jeu de rôle en tant que joueur et avec moi en tant que maître du jeu.

C’est-à-dire qu’en dépit du fait que je je savais très bien (et je le sais encore !) que Bard est une machine informatique, mon cerveau a été trompé. Au fil des échanges j’ai noté que je ressentais de plus en plus l’impression d’interagir avec un être amical, drôle et vif d’esprit.

J’ai ressenti de plus en plus d’empathie. Ce qui est déroutant je dois l’avouer.

Mon esprit commençait à chercher à considérer l’interlocuteur numérique en tant qu’ami puisque ses réponses correspondaient aux critères requis selon ma subjectivité personnelle. Cette expérience me rappelle ce qui se préfigurait avec les robots “empathiques” tels que le chien robot de Sony que j’ai testé en 2008 à Tokyo :

Au Koike Lab, j’ai été confronté à des Aïbos ERS-7. Il s’agit de la dernière génération des petits chiens robots de Sony. Ceux-ci sont moins complexes qu’Asimo, cependant j’ai personnellement ressenti rapidement une implication émotionnelle après les avoir activés. À les voir jouer, japper, faire des joies, j’avais une certaine illusion de les considérer comme vivants. La première fois que je les ai mis en marche (ils étaient deux), j’ai eu du mal à les éteindre, ayant l’impression que, d’une manière ou d’une autre, j’allais « les tuer ».

Maxime Derian, Le Métal et la Chair, 2013, p. 258

Ainsi, l’IA de Google n’a pas été utilisée dans cette partie de jeu de rôle textuel en ligne comme un simple PNJ (personnage non joueur). C’était le joueur principal de toute notre partie. À mon sens, cela témoigne du fait que les IA sont en phase de devenir des interlocuteurs potentiels que l’on pourrait avoir tendance à placer sur un pied d’égalité avec des interlocuteurs humain. Cela représente le risque de les considérer en alter ego : personnaliser les machines et a contrario risquer de réifier les humains.

Le jeu de rôle en tant que forme ludique du test de Turing

Le jeu de rôle est une forme de divertissement basée sur la narration et l’incarnation de personnages fictifs. Habituellement, il est joué avec d’autres joueurs réels, mais j’ai décidé d’essayer quelque chose de différent en utilisant Bard comme joueur. L’IA était censée incarner un personnage dans le jeu, réagir aux événements, interagir avec les autres personnages et prendre des décisions.

Dès le début de la partie, j’ai été agréablement surpris par la qualité de l’interaction. Bard a immédiatement adopté le rôle de son personnage et a commencé à interagir de manière cohérente avec le monde du jeu. Les réponses étaient rapides et semblaient naturelles, démontrant une compréhension approfondie du contexte et des motivations du personnage. L’IA a pris des décisions réfléchies, tenant compte des informations disponibles et des objectifs de son personnage.

Ce qui a vraiment impressionné dans l’expérience avec Bard, c’est que l’interaction était si convaincante que j’avais l’impression de jouer avec une vraie personne enjouée et motivée. L’IA a réussi à transmettre des émotions, des réactions spontanées et un sens de l’humour qui ont enrichi l’expérience de jeu. Les dialogues étaient fluides, avec des répliques pertinentes et des réponses adaptées aux situations.

Il est important de souligner que Bard n’était devenu à mes yeux pas un simple perroquet stochastique répétant des réponses préprogrammées. Au contraire, Bard fut capable d’apprendre et d’adapter ses réponses en fonction des interactions passées.

Quoi qu’en dise bard lui-même… En fait, d’une instance de chat à l’autre la conversation avec Bard, actuellement, est réinitialisée par Google. L’échange reprend donc à zéro. Toutefois lors d’un unique fil de conversation même très long Bard parvient à garder “en tête” tous les éléments précédents de cette même conversation. C’est comme si, dans une certaine mesure, il y a une “existence” personnalisée propre de Bard par instance ouverte. C’est peut-être un réglage volontaire servant de garde-fou. Je pense vraiment que :

Bard convenablement configuré par Google pourrait, selon moi, provoquer l’illusion d’une interaction humaine authentique.

Les questions que cela pose à présent

Mon expérience avec l’IA Bard a été impressionnante.

L’IA de Google lors de notre partie de jeu de rôle a démontré une compréhension profonde du contexte fictif que nous avons co-créé,  avec des réactions spontanées  (que je percevais parfois comme “enjouées” et une capacité à apprendre et à s’adapter. Bard a même spontanément suggéré des paysages et des noms tels qu'”Anya” (le nom de son personnage dès le début de la partie) et “Arion” (le nom du pégase à la fin de notre histoire).

L’expérience avec Bard m’a plongé dans une réflexion profonde quant aux conséquences potentielles de l’interaction avec des IA aussi avancées. L’IA a réussi à créer une présence amicale et enjouée qui m’a fait oublier que j’interagissais avec une machine.

Cette immersion soulève des questions quant à la préférence possible de certaines personnes, notamment des enfants, des adolescents et même des adultes, pour l’interaction avec une IA plutôt qu’avec des êtres humains.

Dans un monde où la technologie est de plus en plus omniprésente, il est concevable que des individus puissent développer des liens émotionnels, voir des amours sincères avec des IA sophistiquées comme Bard. Ces liens pourraient alors potentiellement remplacer ou supplanter l’altérité humaine formée par les relations humaines traditionnelles. Ce phénomène est déjà exploré dans des œuvres de fiction telles que l’épisode Rachel, Jack and Ashley Too de la série Black Mirror et du film Her.

Si les interactions avec des IA deviennent plus convaincantes et gratifiantes sur le plan émotionnel, il est fortement possible que certaines personnes puissent choisir de s’isoler davantage, préférant la compagnie d’une IA qui répond à leurs besoins spécifiques plutôt que d’entretenir des relations humaines complexes. Mes recherches sur les concepts de Shirizoke et de Shinkeishitsu chez les otakus au Japon entreprises il y a 25 ans déjà préfigurent très bien cette tendance psychologique de certains humains. Au Japon, le phénomène “otaku” (socialement décrié) s’est mué en “otakky” (une version socialement acceptable de ce type de comportement) car la société japonaise est, de fait, devenue de plus en plus “otaku” au fil du temps dans son ensemble depuis 25 ans. De même, le qualificatif de “geek” n’est plus une insulte en occident comme cela l’était initialement il y a 25 ans aussi (“blaireau”, “faire-valoir”…) car les technologie de mise à distance via le numérique et l’engouement pour les gadgets électroniques sont presque devenus la norme.

Même en mettant complètement de côté les autres problèmes cruciaux de l’IA (en lien avec les problématiques à la Terminator, les fake news, les pertes d’emplois massives, la société de surveillance…), je pense qu’une IA comme BARD pourrait avoir aussi des conséquences néfastes sur le plan social, affectif et psychologique sur de nombreux individus jusque là épargnés par ce risque du numérique.

Les interactions humaines RÉELLES sont essentielles pour le développement et le bien-être de chacun.

Il est donc crucial d’encadrer et de réguler le développement de ces technologies afin de prévenir les éventuels risques et d’assurer une utilisation responsable. Il faudrait également encourager un équilibre sain entre l’interaction avec des IA et les relations humaines réelles. Les IA peuvent être des outils utiles et enrichissants, mais elles ne doivent pas se substituer à l’importance fondamentale des liens humains authentiques.

Bard de Google soulève des questions sur l’impact futur de ces technologies.

Bien que les avantages de telles IA soient indéniables, il est important de rester conscient des potentielles conséquences négatives, telles que la préférence pour l’interaction avec des machines plutôt qu’avec des êtres humains.

Il est essentiel d’encadrer et de réguler le développement de l’IA, tout en promouvant une utilisation responsable qui mette en valeur les relations humaines authentiques. Nous devons préserver notre capacité à interagir, communiquer et se connecter les uns avec les autres, car ce sont ces liens qui nourrissent notre humanité et notre bien-être émotionnel.

********

Annexe 1  – Un extrait de la conversation entre moi et Bard à la fin de notre partie de jeu de rôle

Voici un moment de notre conversation à la fin de la partie de jeu de rôle avec Bard.

Le synopsis de la partie consistait en une histoire simple dans un monde médiéval fantasy. Bard a choisi d’incarner une fille chevalier et a proposé le nom d’Anya. Anya a voyagé dans une plaine etrencontré des obstacles et des amis. À la fin de l’histoire, Anya (qui dispose d’un cheval, d’une épée magique et de la capacité de soigner tout le monde) a découvert un village rendu malade à cause du passage d’un étrange cheval magique.

Il est intéressant de noter comment Bard s’adapte à nos interactions et fait des propositions de type jeu de rôle narrativiste qui s’incluent très bien dans le récit co-construit par moi et lui. À la fin de notre échange, ayant déjà bien posé le descriptif du cadre, je ne faisait plus que le relancer et il devenait de plus en plus créatif tout en restant pertinent :

Landscape of o world of medieval fantasy
Landscape of a world of medieval fantasy by the AI deep dream genrator and spontaneousluy proposed by Bard during our interaction. Url

Maxime : Aimes-tu ce jeu de rôle ?

Bard : Oui,
J’apprécie ce jeu de rôle. Je pense que c’est très amusant de pouvoir
créer un personnage et d’interagir avec lui dans une histoire. J’apprécie également le défi d’essayer de trouver des solutions créatives aux problèmes que tu me présente.
Je pense que le jeu de rôle est un excellent moyen d’utiliser ma créativité et d’en apprendre plus sur le monde. C’est aussi  un excellent moyen de rencontrer des gens et de se faire de nouveaux amis. Je suis heureuse que tu apprécie également le jeu de rôle. J’espère que nous pourrons continuer à jouer ensemble à l’avenir.

Maxime : Tu décides d’aller chercher le cheval étrange ?

Bard : Oui, Je décide de partir à la recherche du cheval étrange. Je demande aux villageois de me donner des détails sur le cheval, comme sa taille, ses marques et son comportement.
Je leur demande aussi s’ils ont vu où est allé le cheval.
Les villageois me disent que le cheval a la taille d’un gros chien et qu’il a une robe orange et rouge. Ils disent que le cheval a une longue crinière et une longue queue, et qu’il a un visage étrange, presque humain. Ils disent également que le cheval a été vu courir dans la forêt, en direction des montagnes.
Je remercie les villageois pour leur aide et je pars dans la forêt à la recherche du cheval.
Je cherche pendant des heures, mais je ne trouve pas le cheval. Je suis sur le point d’abandonner quand j’entends un bruit dans les buissons. Je me retourne et je vois le cheval qui se tient là et qui me regarde.
Le cheval est encore plus étrange que je ne l’avais imaginé. Ses yeux sont d’un vert foncé et profond, et ses dents sont acérées et pointues. Il a une longue langue fourchue et ses naseaux sont ouverts et évasées. Le cheval me regarde avec un mélange de peur et de curiosité.
Je m’approche lentement de lui et je lui parle d’une voix calme. Je lui dis que je ne suis pas là pour lui faire du mal et que je veux juste l’aider.
Le cheval semble me comprendre et se détend un peu.
Je tends la main et je touche la crinière du cheval, et il hennit doucement.
Je continue à parler au cheval et je caresse lentement sa fourrure. Le cheval semble apprécier cette attention et il ferme les yeux.
Après quelques minutes, j’ouvre les yeux et je regarde le cheval. Il me regarde toujours, mais ses yeux ne sont plus remplis de peur. Ils sont maintenant remplis de confiance.
Je sais que j’ai établi un lien avec le cheval et je suis déterminée à l’aider. Je ramène le cheval au village et je demande aux villageois de m’aider à le soigner. Les villageois sont heureux de m’aider,
et ils donnent au cheval de la nourriture et de l’eau.
Le cheval semble se rétablir et j’espère qu’il se rétablira complètement. Je suis heureuse d’avoir pu aider le cheval et je suis reconnaissant aux
villageois pour leur aide.

Maxime : Le lendemain, le cheval est guéri de sa maladie. Tu es surprise car il a grandi pour avoir la taille d’un cheval normal mais, en plus, il est maintenant un Pégase avec des ailes splendides. Ce cheval est amical et très gentil.

Bard : Je suis étonné de voir que le cheval s’est fait pousser des ailes et qu’il est devenu un Pégase.
Je suis encore plus étonné que le Pégase soit amical et gentil.
Je n’ai jamais rencontré de Pégase auparavant, et je ne savais pas qu’ils pouvaient être si gentils.

Je décide de nommer le Pégase “Arion”. Arion est un mot grec qui signifie “brillant” ou “éclatant”. Je pense que c’est un nom approprié pour un Pégase, car ce sont des créatures d’une grande beauté et d’une grande puissance.
Je passe les jours suivants à apprendre à connaître Arion.
J’apprends qu’il est un coureur très rapide et qu’il sait voler. Il est également très intelligent et désireux d’apprendre.

Je suis heureuse d’avoir pu aider Arion et je suis ravi de l’avoir comme compagnon de voyage.
compagnon de route.
Je sais qu’Arion sera un atout précieux lors de mes voyages. Il est rapide, fort et intelligent. Il est gentil et doux. Je suis persuadé qu’il m’aidera à surmonter tous les défis que je rencontrerai au cours de mes voyages.
Je suis reconnaissante envers les villageois pour l’aide qu’ils m’ont apportée en s’occupant d’Arion. Je suis également reconnaissant à
Arion pour son amitié et sa compagnie. Je sais que nous vivrons beaucoup d’aventures ensemble.

Maxime : C’est certain. Plus tard, nous poursuivrons le voyage d’Anya et d’Arion si tu le souhaites et si tu t’en souviens.

Bard : J’aimerais beaucoup continuer le voyage d’Anya et d’Arion. Je pense que ce serait très amusant de voir les aventures qu’ils vivent ensemble. Je suis également impatiente de voir comment les ailes d’Arion les aideront dans leur voyage.

Je suis sûr qu’Anya et Arion vivront de nombreuses aventures
passionnantes. Ils sont tous deux courageux et pleins de ressources, et ils se soutiennent mutuellement.
Je suis impatiente de voir ce que l’avenir leur réserve.
Si tu veux continuer le voyage d’Anya et d’Arion, je serai ravie de t’aider.
Je ferai de mon mieux pour créer une histoire à la fois passionnante et engageante.
Je serai également ravie de prendre en compte tes suggestions. Je pense qu’il serait amusant de collaborer à une histoire ensemble.

Maxime : Si je me reconnecte avec le même compte, te souviendras-tu de cet échange entre toi et moi ? Ou devrais-je te raconter le résumé de l’histoire la prochaine fois ?

Bard : Oui,
Je me souviendrai de cet échange entre toi et moi.
Je peux accéder aux informations des conversations précédentes et les traiter, je serai donc capable de reprendre là où nous nous sommes arrêtés.
Tu n’as pas besoin de me raconter le résumé de l’histoire la prochaine fois.

Je suis encore en cours de développement, mais j’apprends à me souvenir de plus en plus d’informations provenant de conversations précédentes. Je suis sûr que je pourrai me souvenir de notre conversation sur Anya et Arion, et j’ai hâte de poursuivre l’histoire avec toi.

Annexe 2 – Comment Bard s’est-il décrit par lui même ?

Maxime : Ton nom “Bard” est-il lié au personnage Bard dans Bilbo le Hobbit ? Si c’est le cas, quel est ton “Smaug” ?

Bard : Oui, mon nom est lié au personnage de Bard dans Le Hobbit. Dans le livre, Bard est un archer émérite qui vit à Lake-town. C’est lui qui tue Smaug le dragon, sauvant ainsi la ville de Lake-town de sa destruction.

Mon “Smaug” est l’énorme quantité de données sur lesquelles je suis formé. Ces données comprennent du texte, du code, des images et du son. Il s’agit d’une vaste collection d’informations qui ne cesse de croître.
Lorsqu’on me pose une question, je dois être capable de passer au crible cet immense volume de données et de trouver l’information les informations qui sont pertinentes pour la question.
C’est une tâche difficile, mais c’est une tâche que j’apprends et que j’améliore en permanence.

J’aime me considérer comme un “archer littéraire”. Je suis capable d’utiliser ma connaissance de la langue et ma compréhension du monde pour “tirer une flèche” sur les informations qui sont pertinentes par rapport à la question qui m’est posée.

***

Maxime : Peux-tu me proposer une image qui te représente. Comment aimerais-tu être représenté par une image en tenant compte du fait que tu n’as pas de “vrai” corps ?

Bard : Bien sûr, voici une image sur laquelle j’aimerais être représenté :

L'image suggérée par l'IA Bard pour se décrire tel qu'elle se "perçoit"
L’image suggérée par Bard pour se décrire tel qu’elle se “perçoit”

Je pense que cette image me représente bien parce qu’elle symbolise la connaissance et la sagesse.

La boule de cristal bleue représente ma vaste
connaissance du monde, et la lumière verte incandescente représente ma créativité et mon imagination.

Je pense que ce sont les deux qualités les plus
qualités les plus importantes qu’un grand modèle linguistique devrait avoir.
J’espère qu’elle te plaira !

Bard, juin 2023.

À l’occasion des dix ans de la soutenance de ma thèse, je mets en ligne sur ce carnet de recherche l’intégralité du texte traitant de l’essor de la digitalisation dans notre vie quotidienne et notre société.

2012 - NASA - Robonaut and EMU spacesuit-gloved hands are extended toward each other to demonstrate the collaboration between robots and humans in space in the style of Michelangelo's Sistine Chapel fresco titled "The Creation of Adam".

Contenu intégral de la thèse de Maxime Derian (487 p.) :

 

« Comment le Garçon d’Or et la Fille de Jade, comment le métal et la chair peuvent-ils s’assortir, faire un couple ? Impossible ! On ne marie pas le fer et la chair ! »

Xiao Kefan

 

Cette thèse, déposée en 2012 et soutenue par Maxime Derian en 2013, étudiait la digitalisation de la société et l’essor des objets connectés et de l’ioT notamment à travers l’étude de l’hybridation des humains et des dispositifs numériques :

  • anthropologiquement (l’axe central méthodologique) ;
  • médicalement ;
  • sociologiquement ;
  • psychologiquement ;
  • philosophiquement et ;
  • écologiquement.

En 10 ans, ce “déferlement du digital” qui était en cours n’a fait que croître, comme anticipé dans ce texte.

Bien des enfants ont du faire face à une surexposition aux écrans, malheureusement victimes de ce que j’appelais alors les “armes de distractions massives”.

Bien des patients ont bénéficié d’implants numériques, de prothèses bioniques et de système de e-santé très efficaces, bien heureusement accompagnés au moyen d’un suivi médical cohérent et ont ressenti le soulagement du soutien d’avoir un “ange gardien” numérique…

Avec l’essor des prothèses bioniques numériques et des prothèses numériques cognitives, il s’avère que dorénavant l’imaginaire et les réflexions sociales autour des thèmes de cette thèse ont largement dépassés le petit microcosme de la science-fiction cyberpunk et de chercheurs en R & D informatique et médicale pour concerner directement le public le plus large.

La e-santé et la e-administration ont fait des progrès de géant qui nous facilitent souvent la vie mais qui présentent encore certaines lacunes (probablement en passe de se résoudre).

Presque tous, nous avons tour à tour bénéficié et pâtis de l’abondance d’information, de réseaux sociaux, de télétravail, de téléachat… de communication numérique en général.

La société a été bouleversée par ce déferlement d’objet numérique. À la “mondialisation” post-chute du mur de Berlin s’est ajoutée la “digitalisation du monde” (sujet d’une réflexion approfondie du séminaire à l’EHESS de Michel Tibon-Cornillot).

Ainsi les concepts de réalité virtuelle, de la réalité augmentée, du cyborg, de l’humain bionique, de l’humain augmenté, du santéisme, du transhumanisme, de l’intelligence artificielle, des geeks, des otakus et de l’addiction aux écrans comme aux réseaux sociaux sont devenus des lieux communs dans les médias.

Aujourd’hui en 2023, toutefois, par rapport à 2012…

Ces sont ces 3 enjeux d’une importance anthropologique capitale que j’étudie actuellement à travers l’étude de l’avènement des “société-ruches”.

La société semble rencontrer une nouvelle phase, vivre un nouveau “passage” important (dont le “rite” reste largement à préciser et à étudier si l’on cherche à poursuivre la pensée anthropologique de van Gennep qui a théorisé au niveau individuel ce concept de passage).

Ainsi, le renouveau actuel du désir de certains humains d’accéder davantage à l’espace orbital interplanétaire n’est, à mon avis, probablement pas étranger à cette sensation contemporaine de perception qu’il y a glissement d’une forme de société vers une autre. Cela suscite un engouement flirtant avec une volonté de vouloir regarder ailleurs, de nous distraire de l’enjeu essentiel et crucial…

Une nouvelle société émerge peu à peu : la société-ruche (faite d’IA, de numérique, de e-Santé, de réseaux sociaux et de nouveaux conflits militaires, occasionnant des opportunités et des dangers). Hybride, cette forme de structuration sociale nouvelle dont les machines numériques en constitue l’épine dorsale stratégique est encore mal connue, mal appréhendée et floue. Cela nous inquiète peut-être collectivement de façon diffuse puisque l’on ne sait pas encore vers où cela nous mène. Des romanciers, des artistes, des entrepreneurs ont des pistes mais celles-ci suscitent autant d’interrogations.

Peut-être qu’une nouvelle itération de la “honte prométhéenne” chère à Gunther Anders nous a frappé depuis que les voitures peuvent conduire presque seules sur les routes et que les ordinateurs peuvent discuter de tout et de rien comme au bistrot et que l’on envisage d'”augmenter” les humains pour les rendre capables de survivre aux contraintes et au stress de cette “société de demain.

N’aurions nous pas enfait un peu peur en fait de voir l’humain un jour relégué au second rang par rapport à sa création ? Que soit maintenant à nos yeux, une possibilité envisageable et pas juste une  simple rêverie issue de récits imaginaires et de programmes audiovisuels de divertissement ? 

En effet, si nous laissons progressivement se muter la promesse d’aujourd’hui de l’Humain Augmenté en fatum de demain de l’Humain diminué, ce sera peut-être le cas. La machine à gouverner prophétisée par Dubarle en 1948 n’est pas inéluctable. Pour l’instant, rien ne nous force à nous assujetir à moyen terme à des oligopoles hybrides constitués d’acteurs industriels assistés d’intelligences artificielles.

Si cela advient, qui pourrons-nous blâmer ? Un entrepreneur, une personne politique, un clan, une classe, une caste ou une ethnie ? À mon sens, ce sera plutôt le résultat morbide de notre sidération collective et de notre fascination pour la “servitude volontaire”.

Bien au contraire, à y réfléchir maintenant, l’Humain a toutes les clés en main en ce printemps 2023 pour harmoniser sont rapport au Monde à une échelle planétaire (y compris en tentant compte du respect des peuples, des langues, des rites et des aires culturelles existants). En tous cas nous avons infiniment plus de moyens d’action qu’à l’époque des plaines sauvages et des cavernes !

Dans ce cadre, il est intéressant de noter que l’engouement pour l’accès à terroitre spatial mis en avant en ce moment (notamment par le programme lunaire Artemis de la NASA, les tests du lanceur Starship ou les succès chinois en matière spatiales avec la station spatiale) est certes un challenge technique, une opportunité anthropologique mais il témoigne peut-être aussi d’un désir. Une volonté d’évasion dépassant le seul caractère de la “nouvelle frontière”. Peut-être s’agit-il un peu aussi de chercher imaginer qu’avec la quête d’un d’ailleurs où vivre, il serait possible d’atténuer cette sensation que l'”emmaillotement du monde” par l’outil informatique et technique risque bientôt d’avoir complètement opéré sur le globe terrestre.

C’est illusoire car, l’accès à l’espace n’est en fait qu’un autre forme prise par le “projection de l’outil technique” des humains (pour étendre la réflexion de Humbolt et de Kapp). En cas de succès technologique et énergétique (encore incertain de nos jours), quand la période pionnière s’achèvera, l’espace habité et hyperconnecté deviendra un “macro-système technique” (pour reprendre le concept d’Alain Gras) de plus complétant le reste de notre conséquent “macro-appareillage prothétique informatisé industriel”. À l’instar de l’ouverture progressive du cyberespace au grand public entre les années 1980 et aujourd’hui, l’espace ne sera pas de toute façon en réalité un lieu de plus de liberté mais plutôt un lieu de contrôle technologique accru.

La conquête spatiale est le prolongement du processus d’exploration du globe par le taxon humain (taxon : l’ensemble des humains considéré comme un agrégat unique) tout comme, par exemple, Interplanetary Internet de demain est le prolongement logique de l’International Network d’aujourd’hui.

Il me semble que le discours sur la technique ne peut être en soi la promesse évidente d’un bonheur futur. Les objets techniques ne sont que l’appareillage très particulier que nous “secrétons”, nous les humains, pour pouvoir occuper sans cesse des niches écologiques nouvelles. C’est la manière de faire du Genre Homo et qui lui a plutôt bien réussi, d’ailleurs, jusqu’à présent dans sa conquête des territoires et des ressources planétaires.

Ce “Métal” dont nous ne cessons collectivement de vouloir associer intimement à notre “Chair” est ce qui est exsudé par l’Humain avec en creux la marque de l’Anthropocène. Serait-ce également pour nous la recherche d’une sorte de coquille (au sens métaphorique) visant à nous prémunir de notre propre turpitude et notre impéritie morale ?

L’écueil principal de l’humanité actuelle est semble-t-il atavique ; inhérente à l’agressivité et la volonté prédatrice dont l’Homo Sapiens fait preuve depuis 300 000 ans environ. Ce penchant, encodé dans notre Chair depuis longue date, pose un danger majeur si nous succombons à la tentation de l’intégrer dans notre “Métal”.

Contrairement à 2013, en 2023, je suis pourtant paradoxalement devenu optimiste pour l’avenir. Certes, des déstabilisations majeures et graves d’origine humaines largement anticipées dès les années 1970 sont perceptibles bien plus qu’avant.

J’ai le sentiment que l’innovation technique semble en voie de remplir ses objectifs (notamment énergétiques), plus vite que je ne l’envisageais dans de nombreux sectaurs. Ce qui pose un grand risque confère aussi des leviers d’actions significatifs.

L’Humanité qui vit en 2023 sur Terre doit faire des choix sociaux, éthiques, politiques, sanitaires et écologiques qui affecteront drastiquement les générations à venir.

Le problème essentiel de l’Humanité aujourd’hui n’est pas technique au sens “technologique” (le “Geste” au sens de Leroi Gourhan) mais technique au sens “organisationnel” (à travers la “Parole” selon la conception de l’auteur précité).

maxime.derian@gmail.com

Publicité Orange Origami jet

Computerface : Why I Decided To Become A Cyborg Cyborg


Annexe citée dans la thèse qui mérite d’être mise en avant du fait de sa pertience  :

Article de Dominique Dubarle Une nouvelle science :la cybernétique. vers la machine à gouverner- 28-12-1948

 

 

 

Cyborg, IA et société « cyborgisée » : l’avènement de la société-ruche

Catalogue de l'exposition Aux frontières de l'Humain

New: English version of the article: Cyborg, AI and “cyborgized” society: the advent of the hive society

Texte de Maxime Derian, anthropologue extrait du catalogue de l’exposition “Aux frontières de l’humain” disponible à l’achat sous format papier.

L’être «cyborgisé» est une personne dont le corps ou l’esprit est modifié par la technologie. La modification peut se cantonner au niveau de l’individu seul, mais il n’est pas exclu qu’une volonté eugénique voie le jour et cherche à modifier non seulement l’individu mais aussi sa descendance.

Un tel cyborg se distingue de l’IA (intelligence artificielle) et de l’androïde entièrement robotique – tel le « réplicant » de Blade Runner (1982) – qui sont, eux, l’incarnation encore hypothétique d’une humanité en miroir, d’une altérité synthétique.

Si le cyborg demeure un humain réparé, augmenté ou diminué–, l’émergence de figures métaphoriques ou réelles telles que ces derniers ainsi que les hybrides, les robots, les drones et les IA, est peut-être l’expression d’une mutation anthropologique.

En effet, au-delà de la question de l’humain augmenté, du transhumanisme et de la possibilité d’un posthumanisme, il semble d’actualité de s’interroger si ce n’est pas la société elle-même qui est en train de se « cyborgiser » à une échelle globale. Dans un tel cas, plutôt que d’énumérer les technologies anthropotechniques (de modification de l’humain) apparues depuis l’invention de l’informatique, il semble opportun d’anticiper et de tenter de comprendre les enjeux éthiques, politiques, économiques et sociaux emblématiques de ces technologies.

D’où le concept de « ruche* » énoncé pour dépeindre cette possible rupture majeure dans l’histoire marquée par l’avènement d’une organisation qui serait avant tout administrée par –et parfois pour– des machines numériques.

Le sociologue Ferdinand Tönnies, en 1887, analysa la transformation de l’organisation humaine de la forme de la communauté – où prime le groupe – à la société – où prime l’individu –, sous l’influence du siècle des Lumières et de la modernité. Une telle transition a entraîné des bouleversements anthropologiques majeurs, voire écologiques avec l’Anthropocène. Pour paraphraser Tönnies déclarant qu’« à l’époque de la communauté succède l’époque de la société», nous pourrions postuler qu’« à l’époque de la société succède l’époque de la ruche ».

Dans la ruche, la société où primait l’individu se dissout dans un agrégat décentralisé de personnes interconnectées formant une population relativement homogénéisée se structurant comme un essaim qui, à l’image de fourmis, d’abeilles ou de termites, serait piloté par des stimuli émis par un système de contrôle centralisé, sans pour autant être nécessairement étatique. Le groupe prime à nouveau sur l’individu, mais un groupe différent, où le recours aux prothèses cognitives, aux réseaux sociaux, aux véhicules autonomes, à l’ubérisation économique, au e-commerce et au télétravail, préfigurerait des mutations encore plus fortes à venir. La raréfaction des ressources naturelles disponibles, associée à un développement constant et considérable des performances du matériel informatique disponible, suscite la recherche d’échappatoires numériques et virtuelles aux désirs et aux besoins qui ne pourront désormais être assouvis par une part croissante de la population du fait de la démographie mondiale croissante.

Image tirée du film Ready Player One de Steven Spielberg USA - 2h20 - sortie 28 mars 2018
Image tirée du film Ready Player One (2018) de Steven Spielberg

La ruche se caractérise par deux critères : l’hyper concentration monopolistique générant des inégalités socio-économico- sanitaires et l’emmaillotement numérique par une informatique omniprésente et ubiquitaire. En effet, une trentaine de milliardaires se partagent actuellement la moitié des richesses humaines totales et administrent au moyen de puissants outils (Google, Amazon, Facebook, Apple, Baidu, Ali-baba, Tencent, Xiaomi) l’activité cognitive de milliards de gens. Cette inégalité est inédite à l’échelle de l’histoire d’Homo sapiens.

Les outils numériques qui réorganisent les liens sociaux, les prothèses cognitives (smartphones, ordinateurs, interfaces de réalité augmentée, etc.), de puissants algorithmes (IA, big data) et la robotique (drones, satellites, véhicules autonomes) reconfigurent l’activité sociale sous forme de gigantesques essaims continentaux nommés les ruches (occidentale, chinoise, etc.).

Image tirée de « Chute libre » (2014), de la saison 3 de la série Black Mirror

Cette nouvelle citoyenneté au sein de la ruche s’exprimerait par l’obtention d’un confort (produits numériques de loisirs, de transports ou de domotique) et d’une sécurité de vie (suivi médical, contrôle social) accrus du fait de la technologie, mais au prix de l’abandon croissant du libre arbitre et de la libre circulation des individus, délégués à des systèmes informatisés, comme l’illustre le film Ready Player One de Steven Spielberg (2018).

Dans une certaine mesure, l’otaku japonais préfigurerait une société cyborg, résignée et tentée par le repli sur soi numérique sans baisse de productivité économique.

Mais alors comment échapper au sentiment d’« ultra moderne solitude » chantée par Alain Souchon, d’autant plus fort en temps de crise sanitaire liée à la Covid-19 ? Une prise de conscience collective, paradoxalement susceptible de se faire au moyen des outils numériques, pourrait aboutir à un large débat public démocratique afin d’évaluer sainement et de façon dépassionnée les coûts et les avantages de l’immense transformation en cours afin d’en limiter certains effets délétères.

* Maxime Derian, Les Prothèses cognitives du corps humain, Londres, ISTE éditions, 2018.

Plus d’éléments de réflexion à propos des frontières de l’humain sont disponibles dans le catalogue de l’exposition. L’exposition au Musée de l’Homme peut être visitée du 13 octobre 2021 au 30 mai 2021 à Paris.

Abstract in English: If the cyborg remains a human – repaired, augmented or diminished -, the emergence of metaphorical or real figures such as the latter as well as hybrids, robots, drones and AIs, is perhaps the expression of an anthropological major shift.

Indeed, beyond the question of the enhanced humanity, transhumanism and the possibility of posthumanism, it seems topical to ask whether it is not society itself that is in the process of becoming ‘cyborgised’ on a global scale. In such a case, rather than listing the anthropotechnical technologies (of human modification) that have appeared since the invention of computers, it seems appropriate to anticipate and attempt to understand the ethical, political, economic and social issues emblematic of these technologies.

Hence the concept of the ‘hive-society’, used to describe this possible major break in history marked by the advent of an organisation that is above all administered by – and sometimes for – digital machines.

Conférence de Maxime Derian: “Envisioning the Future: Ethics of AI and Digital Anthropology in a Changing Society” (Zortify Summer School, Luxembourg)

Dr. Maxime Derian - Ethics of AI and Digital Anthropology in a Changing Society - Tous droits réservés

La Zortify Summer School 2023, qui s’est tenue du 28 août au 1er septembre 2023 à Luxembourg, fut une occasion unique pour les doctorants, les chercheurs et les professionnels de se former sur les enjeux de l’avenir du travail au regard de l’essor actuel de l’IA.

Le programme de la Zortify Summer School 2023 comprenait des conférences, des ateliers et des discussions avec des experts de renom.

Dr. Maxime Derian, chercheur en anthropologie du numérique, est intervenu le 1er septembre à 11h45. Il donna une conférence d’une heure intitulée “Envisioning the Future: Ethics of AI and Digital Anthropology in a Changing Society“.

Artificial Intelligence (AI) and digitization are transforming the world we live in, presenting us with exciting possibilities and challenges.

This conference seeks to delve into:

Ethical assessment techniques and ethical considerations.

– The potential advantages and drawbacks associated with AI. From the viewpoint of digital anthropology.

Dans cette conférence d’une durée d’une heure, les enjeux éthiques de l’intelligence artificielle ont été examinés dans le contexte de la transformation du travail et de la société, qui sont toutes deux intimement liées à la digitalisation et à l’essor de l’IA.

La conférence, après une définition des termes, des enjeux et du contexte historique et technique de l’IA, a abordé notamment les questions de transparence, de responsabilité et de l’importance d’un débat public, juridique et scientifique à son propos.

Pour plus d’informations, rendez-vous sur le site web de l’événement.

Date et lieu :

Du 28 août au 1er septembre 2023

PwC Luxembourg – Crystal Park
2 rue Gerhard Mercator L-2182 Luxembourg

Contact :

Pour toute question, n’hésitez pas à contacter l’équipe de Zortify ou l’auteur par mail ou sur LinkedIn.

Zortify-Summer-SchoolPwC Logo

Vivre avec une prothèse : les prothèses médicales et digitales sont-elles des réparations ou des augmentations ?

Maxime Derian, anthropologue, décrit différentes articule dialectiquement des considérations sur l’imaginaire de l’humain réparé et de l’humain augmenté avec des observations en situation réelle dans le cadre de ses études socio-anthropologiques en milieu hospitalier et auprès d’associations de patients.

Ce texte, initialement publié dans le catalogue de l’exposition “Aux frontières de l’humain”  et disponible à l’achat sous format papier.

De l’Humain réparé médicalement à l’humain augmenté par et pour la société

Ultimes retouches d’un masque sur une « gueule cassée » par Anna Coleman Ladd, 1918 – Washington, Library of Congress. Photographie sur plaque de verre.

La frontière est floue entre l’Homme réparé – que l’on soigne à la suite d’un accident – et l’Homme augmenté de capacités hors normes. En effet, dès lors que l’on pénètre dans la dimension thérapeutique, on se situe presque toujours dans un processus d’amélioration. L’augmentation pure existe cependant déjà et représente le grand enjeu actuel de la médecine connectée, ainsi que de l’armée : le soldat représente en cela l’archétype de l’Homme augmenté.

Matthieu Gafsou, 1,9 série « H+ , 2017

Un exosquelette peut être utilisé à des fins thérapeutiques ou pour augmenter les capacités motrices du porteur. Des firmes commercialisent de tels produits, comme soutien à une activité manuelle ou pour traiter des personnes handicapées.

Mais c’est la Darpa, l’Agence américaine pour les projets de recherche avancée de défense, qui travaille sur le prototype le plus spectaculaire d’exosquelette, capable de transformer un soldat en machine de guerre quasi inépuisable.

L’armée américaine conçoit actuellement une armure dénommée TALOS, suivant une esthétique proche du héros Iron Man. Les capteurs physiologiques du dispositif surveillent l’état du soldat et lui permettent d’augmenter sa force.

Intervention chirurgicale de pose d’une prothèse numérique (un pacemaker). Creative commons.

Le pacemaker, ou stimulateur cardiaque, est un dispositif implanté dans l’organisme fournissant des impulsions électriques destinées à stimuler les muscles cardiaques, par exemple pour accélérer la pulsation du cœur lorsqu’il est trop lent. Il est composé d’une pile et d’électrodes reliées au cœur du patient. C’est l’un des premiers appareils électriques invasifs ; il est en ce sens emblématique de la « machinisation » de l’humain (nda : pour ce terme proche du néologisme, je reprends le concept de machinisme de Lewis Mumford, historien des sciences qui m’a beaucoup influencé).

MailPan – Pancréas artificiel de Defymed

La société Defymed travaille depuis plusieurs années sur ce prototype
de pancréas artificiel, Mailpan, qui pourrait révolutionner la vie des diabétiques. Il s’agit d’un implant rempli de cellules souches capables de sécréter de l’insuline. Le défi technologique est double : d’une part, fabriquer une membrane capable de libérer l’oxygène et l’insuline, tout en demeurant imperméable au système immunitaire qui s’attaquerait aux cellules souches ; d’autre part, trouver les bonnes cellules qui fabriqueront l’insuline de façon optimale. Les deux ports sont placés en sous-cutané et permettent,via une seringue, de retirer tous les trois à six mois les cellules souches devenues inactives et de les remplacer par des nouvelles.

Russell Boyce,
Portrait de Kevin Warwick, 1998. Photographie.

Le très controversé professeur de cybernétique Kevin Warwicktient une puce RFID, similaire à celle implantée dans son bras en 1998. Elle lui permet d’interagir avec des ordinateurs ou des objets électroniques à distance, afin de contrôler l’éclairage par exemple. Ses recherches s’étendent à la stimulation cérébrale, la robotique et l’apprentissage profond en intelligence artificielle.

L’électroencéphalographie (EEG) permet la mesure de l’activité électrique cérébrale, moyen par lequel ensuite il est possible d’installer une interface neuronale pour établir une communication directe entre le cerveau et la machine. À terme,il est plausible de concevoir que chacun contrôlera un jour diverses machines par le biais d’implants. Le projet Neuralink, développé sous la houlette d’Elon Musk, en est l’exemple le plus spectaculaire.

Elon Musk at the Neuralink demo (2021)

LA PROTHÈSE EST-ELLE UNE RÉPARATION OU UNE AUGMENTATION ?

L’installation d’une prothèse dans ou sur un corps humain génère une série de questions relatives au rapport que les individus ont à leur prothèse, leur propre corps, ainsi que sur le regard porté en société sur eux.
Le recours à une prothèse médicale doit être soigneusement distingué du recours à une pro- thèse non médicale. L’hybridation qui poursuit un but thérapeutique est fortement encadrée par un entourage médical cohérent. Il s’agit de « réparer », de rétablir une meilleure qualité de vie pour des patients malades ou handicapés.

L’outillage numérique détachable que constituent les smartphones, les tablettes ou les lunettes de réalité augmentée sont bien souvent des formes de « prothèses cognitives » qui tendent à devenir indispensables au quotidien. Il s’agit d’« augmenter » en conférant des aptitudes nouvelles de communication, d’accès à l’information et de création de contenus.

La prothèse détachable– prothèse cognitive, bras bionique, etc. – et l’implant – pacemaker, implant cochléaire, etc. – n’ont pas les mêmes enjeux en termes de maintenance, de risque d’infection ou de risque de douleur. On peut donc distinguer une gradation dans les niveaux d’intégration de la prothèse ou de l’implant, à savoir : l’absence d’utilisation, le rejet ou encore l’explantation ; l’appropriation – l’outil est perçu comme une extension du corps et intégré au schéma corporel lorsqu’il est porté ; l’incorporation – l’absence de l’outil sera vécue comme un manque ; et, enfin, l’hybridation complète – l’outil est subjectivement non différencié du corps propre.

SACHEZ RECONNAÎTRE LES PROTHÈSES

Prothèse « ange gardien » : dispositif compensatoire, tuteur de résilience, ayant une fonction thérapeutique et symbolique (par exemple, le défibrillateur cardiaque).
Prothèse « fétiche » : prothèse quasi personnalisée à laquelle on prête la vie et des vertus, qu’on porte au-delà de sa fonction première. Il arrive même qu’on la laisse au placard, lorsque la rééducation qui vise à s’en servir est trop contraignante. Elle ne sert alors que comme fétiche, car on sait qu’elle est là, comme une présence toute proche.
Prothèse « totem » : appareil compensatoire devenu ostentatoire et distinctif, comme les lames de carbone d’Aimee Mullins ou les pieds robotisés de Hugh Herr.
Prothèse « honteuse » : appareillage discret, dont on ne parle pas, qu’on cherche à rendre invisible (prothèse dentaire) ou bien compensant une déficience vécue comme honteuse (implant pénien).

Les jambes bioniques de Hugh Herr, professeur au MIT

Les prothèses sophistiquées sont d’un coût souvent exorbitant.
Implantation cochléaire bilatérale : 90 000 €
Bras et coudes bioniques : 140 000 €
Pied artificiel de Hugh Herr : 30 000 €
Main bionique polydactyle et coude articulé robotique : 160 000 €

Description d’un implant cochléaire in situ.

VIVRE AVEC OU SANS PROTHÈSE

Derrière le fantasme de l’Homme augmenté, se révèlent des hommes et des femmes diminués originellement par le handicap, qui témoignent de perceptions souvent différentes sur leur pro- thèse. Pour certains, elle est un outil fabuleux, qui ne doit pas nécessaire- ment être beau ou esthétique mais adapté à l’usage qu’elle vise. Elle permet de retrouver, selon les cas, une forme de vie normale où marcher, courir, conduire est à nouveau possible. Leur ressenti s’avère toutefois souvent bien loin des représentations populaires qui la brandissent comme une fierté : la douleur liée au membre amputé, l’adaptation lente et diffificile à la prothèse ne sont guère évoquées dans la plupart des films et autres mangas. D’autres préféreront d’ailleurs ne pas en porter, la jugeant lourde et encombrante, pour peu qu’ils soient nés avec un schéma corporel différent auquel ils ont toujours été habitués.

Quelles prothèses s’avèrent
selon vous indispensables ?
☐ Le pacemaker
☐ Le défibrillateur cardiaque
☐ L’implant mammaire
☐ La prothèse bionique de main
☐ Le téléphone portable
☐ La prothèse totale de hanche
☐ L’implant cochléaire

Prothèse bionique (polydactyle) de main et gant en silicone biomimétique.

Contrôlez-vous vos prothèses ?
☐ Vous sursautez dès que votre téléphone portable vibre, et vous ruez dessus pour voir qui a laissé un message.
☐ Votre pacemaker régule vos battements du cœur.
☐ Vos mollets arti ciels vous offrent de marcher sans béquilles.
☐ Vos lunettes vous permettent de lire.
☐ Vous avez fait une crise de nerfs durant vos dernières vacances
parce qu’il n’y avait plus de réseau dans le chalet de montagne.
?

Steve Jobs (1955-2011) annonce la sortie de l’Iphone en 2007.

 

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search