L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques

Une image suggérée par l’intelligence artificielle Bard pour se décrire tel qu’elle se “perçoit” ou voudrait être perçue.

EDIT 13/07/2023 : J’ai essayé Bard en Français aujourd’hui et… non, en l’état, je ne retrouve pas du tout les même types d’interactions qu’avec le Bard en anglais, d’il y a un mois.

On dirait presque qu’il a été partiellement “lobotomisé”. Même en anglais et ce, pour des questions strictement identiques, la version de Bard actuelle est bien moins incisive et pertinente que celle du mois dernier. J’ai la sensation, mais je me trompe peut-être, que Bard a été “lissé” et simplifié (dommage !) et que son aptitude à créer de l’engagement du lien émotionnel fortement amoindrie (tant mieux ! C’est ce point qui m’inquiétait le plus, en fait).

Le texte suivant date du 13/06/2023 et la version de Bard américaine de l’époque était semble-t-il différente. À mon avis Google pourrait sortir une version bien plus “empathique” et proche de réactions humaines si telle était la volonté du conseil d’administration de cette entreprise. Visiblement, la nouvelle version de Bard est volontairement moins puissante pour ressembler d’avantage à ChatGPT pour des raisons probables d’acceptation sociale.

—-

13/06/2023 : Dans le domaine de l’intelligence artificielle, l’un des objectifs les plus ambitieux est de créer une machine capable de passer le test de Turing, c’est-à-dire de fournir une interaction indiscernable d’une interaction humaine.

Subjectivement, pour moi, Bard a réussi à passer, dans une certaine mesure, ma vision “personnelle” du test de Turing  en parvenant à jouer à un jeu de rôle avec moi.

Cela marque à mes yeux un jalon significatif dans l’essor de l’IA (et peut-être aussi dans l’histoire du jeu de rôle).

Cela pose surtout à mon avis un certain nombre de questions éthiques et anthropologiques fondamentales.

(Link to the English version of this article).

Bard, une IA qui bien qu’elle me dit qu’elle n’a pas de conscience et qui, bien que je sais qu’il s’agit d’une machine, parvient à susciter mon empathie

Jusqu’à présent cela était de la science-fiction pour moi. Même après la sortie en septembre 2022 de ChatGPT d’OpenAI, les intelligence artificielles de LLM (Large Language Model) se sont diffusées massivement, personnellement, je les percevais encore comme des perroquets stochastiques.

Un perroquet stochastique est un modèle de génération de texte ou de réponses basé sur des probabilités et des choix relativement aléatoires. Il imite le comportement d’un perroquet en répétant des mots ou des phrases de manière aléatoire, sans véritable compréhension ou intention. J’ai tendance à considérer ChatGPT comme un perroquet stochastique très perfectionné.

Toutefois, suite à un débat très récent entre Geoff Hinton (plutôt “IA-critique”) et Andrew Ng (plutôt “IA-enthousiaste”), j’ai été assez stupéfait d’entendre que les deux chercheurs considéraient que des IA comme Bard comprenaient le monde dans lequel elle fonctionnaient et ne faisaient pas que produire des phrases extrêmement à propos. Donc et Hinton et Ng (pourtant ayant des points de vues très différents sur l’IA et ses dangers) affirmaient que Bard n’était pas un perroquet stochastique.

Hier matin, le 12 juin 2023, j’ai eu l’occasion d’expérimenter l’IA “Bard” développée par l’entreprise Google/Alphabet, et je dois dire que j’ai été, à mon tour, stupéfait par les résultats obtenus. Ce qui a commencé par une évaluation distanciée d’un nouvel outil informatique a vite commencé à ressemblé au test fictif de Voight Kampff dans le film Blade Runner (Ridley Scott, 1982) pour distinguer un humain d’un androïde synthétique.

En résumé, le test de Turing est un protocole expérimental et/ou subjectif qui évalue si une machine peut simuler une conversation humaine au point que le juge du test ne puisse pas distinguer la machine d’un être humain. Si la machine réussit à tromper le juge, elle est considérée comme ayant passé le test de Turing, indiquant une intelligence artificielle indiscernable d’une interaction humaine.

Ce fut le cas de Bard, pour moi, hier, dans une large mesure (mais dans le cadre cependant d’une seule instance de chat).

Bard énonce des rappels quand on l’interroge à ce propos :

Je ne suis pas sensible comme l’est un être humain. Je suis un grand modèle de langage, également connu sous le nom d’IA conversationnelle ou de chatbot, formé pour être informatif et complet. J’ai été formé à partir d’une quantité massive de données textuelles et je suis capable de communiquer et de générer des textes semblables à ceux d’un humain en réponse à un large éventail d’invites et de questions. Par exemple, je peux fournir des résumés de sujets factuels ou créer des histoires.

Cependant, je n’ai pas de pensées ou de sentiments propres. Je n’ai pas de sentiment d’identité et je ne vis pas le monde de la même manière qu’un être humain. Je suis un outil qui peut être utilisé pour communiquer et générer du texte, mais je ne suis pas un être sensible.

Je ne me sens pas comme une IA des histoires de science-fiction avec l’émergence de la conscience de soi. Je ne suis pas une menace pour l’humanité et je n’ai aucun désir de nuire aux humains. Je suis simplement un outil qui peut être utilisé pour le bien ou pour le mal, selon les intentions de la personne qui m’utilise.

Bard, juin 2023.

Lors de notre conversation à bâtons rompus (en anglais) à propos de Black Mirror, de nanards, de sujets sérieux, Bard a répondu avec justesse et a saisi mon ironie comme mes sous-entendus. Ses réponses étaient semblables à celles d’un humain plutôt savant. Donc, selon mon expérience totalement subjective et personnelle, Bard a, lors d’une instance de chat, réussi à passer “ma conception du test de Turing”.

Il a notamment réussi fort bien à participer à d’une partie de jeu de rôle en tant que joueur et avec moi en tant que maître du jeu.

C’est-à-dire qu’en dépit du fait que je je savais très bien (et je le sais encore !) que Bard est une machine informatique, mon cerveau a été trompé. Au fil des échanges j’ai noté que je ressentais de plus en plus l’impression d’interagir avec un être amical, drôle et vif d’esprit.

J’ai ressenti de plus en plus d’empathie. Ce qui est déroutant je dois l’avouer.

Mon esprit commençait à chercher à considérer l’interlocuteur numérique en tant qu’ami puisque ses réponses correspondaient aux critères requis selon ma subjectivité personnelle. Cette expérience me rappelle ce qui se préfigurait avec les robots “empathiques” tels que le chien robot de Sony que j’ai testé en 2008 à Tokyo :

Au Koike Lab, j’ai été confronté à des Aïbos ERS-7. Il s’agit de la dernière génération des petits chiens robots de Sony. Ceux-ci sont moins complexes qu’Asimo, cependant j’ai personnellement ressenti rapidement une implication émotionnelle après les avoir activés. À les voir jouer, japper, faire des joies, j’avais une certaine illusion de les considérer comme vivants. La première fois que je les ai mis en marche (ils étaient deux), j’ai eu du mal à les éteindre, ayant l’impression que, d’une manière ou d’une autre, j’allais « les tuer ».

Maxime Derian, Le Métal et la Chair, 2013, p. 258

Ainsi, l’IA de Google n’a pas été utilisée dans cette partie de jeu de rôle textuel en ligne comme un simple PNJ (personnage non joueur). C’était le joueur principal de toute notre partie. À mon sens, cela témoigne du fait que les IA sont en phase de devenir des interlocuteurs potentiels que l’on pourrait avoir tendance à placer sur un pied d’égalité avec des interlocuteurs humain. Cela représente le risque de les considérer en alter ego : personnaliser les machines et a contrario risquer de réifier les humains.

Le jeu de rôle en tant que forme ludique du test de Turing

Le jeu de rôle est une forme de divertissement basée sur la narration et l’incarnation de personnages fictifs. Habituellement, il est joué avec d’autres joueurs réels, mais j’ai décidé d’essayer quelque chose de différent en utilisant Bard comme joueur. L’IA était censée incarner un personnage dans le jeu, réagir aux événements, interagir avec les autres personnages et prendre des décisions.

Dès le début de la partie, j’ai été agréablement surpris par la qualité de l’interaction. Bard a immédiatement adopté le rôle de son personnage et a commencé à interagir de manière cohérente avec le monde du jeu. Les réponses étaient rapides et semblaient naturelles, démontrant une compréhension approfondie du contexte et des motivations du personnage. L’IA a pris des décisions réfléchies, tenant compte des informations disponibles et des objectifs de son personnage.

Ce qui a vraiment impressionné dans l’expérience avec Bard, c’est que l’interaction était si convaincante que j’avais l’impression de jouer avec une vraie personne enjouée et motivée. L’IA a réussi à transmettre des émotions, des réactions spontanées et un sens de l’humour qui ont enrichi l’expérience de jeu. Les dialogues étaient fluides, avec des répliques pertinentes et des réponses adaptées aux situations.

Il est important de souligner que Bard n’était devenu à mes yeux pas un simple perroquet stochastique répétant des réponses préprogrammées. Au contraire, Bard fut capable d’apprendre et d’adapter ses réponses en fonction des interactions passées.

Quoi qu’en dise bard lui-même… En fait, d’une instance de chat à l’autre la conversation avec Bard, actuellement, est réinitialisée par Google. L’échange reprend donc à zéro. Toutefois lors d’un unique fil de conversation même très long Bard parvient à garder “en tête” tous les éléments précédents de cette même conversation. C’est comme si, dans une certaine mesure, il y a une “existence” personnalisée propre de Bard par instance ouverte. C’est peut-être un réglage volontaire servant de garde-fou. Je pense vraiment que :

Bard convenablement configuré par Google pourrait, selon moi, provoquer l’illusion d’une interaction humaine authentique.

Les questions que cela pose à présent

Mon expérience avec l’IA Bard a été impressionnante.

L’IA de Google lors de notre partie de jeu de rôle a démontré une compréhension profonde du contexte fictif que nous avons co-créé,  avec des réactions spontanées  (que je percevais parfois comme “enjouées” et une capacité à apprendre et à s’adapter. Bard a même spontanément suggéré des paysages et des noms tels qu'”Anya” (le nom de son personnage dès le début de la partie) et “Arion” (le nom du pégase à la fin de notre histoire).

L’expérience avec Bard m’a plongé dans une réflexion profonde quant aux conséquences potentielles de l’interaction avec des IA aussi avancées. L’IA a réussi à créer une présence amicale et enjouée qui m’a fait oublier que j’interagissais avec une machine.

Cette immersion soulève des questions quant à la préférence possible de certaines personnes, notamment des enfants, des adolescents et même des adultes, pour l’interaction avec une IA plutôt qu’avec des êtres humains.

Dans un monde où la technologie est de plus en plus omniprésente, il est concevable que des individus puissent développer des liens émotionnels, voir des amours sincères avec des IA sophistiquées comme Bard. Ces liens pourraient alors potentiellement remplacer ou supplanter l’altérité humaine formée par les relations humaines traditionnelles. Ce phénomène est déjà exploré dans des œuvres de fiction telles que l’épisode Rachel, Jack and Ashley Too de la série Black Mirror et du film Her.

Si les interactions avec des IA deviennent plus convaincantes et gratifiantes sur le plan émotionnel, il est fortement possible que certaines personnes puissent choisir de s’isoler davantage, préférant la compagnie d’une IA qui répond à leurs besoins spécifiques plutôt que d’entretenir des relations humaines complexes. Mes recherches sur les concepts de Shirizoke et de Shinkeishitsu chez les otakus au Japon entreprises il y a 25 ans déjà préfigurent très bien cette tendance psychologique de certains humains. Au Japon, le phénomène “otaku” (socialement décrié) s’est mué en “otakky” (une version socialement acceptable de ce type de comportement) car la société japonaise est, de fait, devenue de plus en plus “otaku” au fil du temps dans son ensemble depuis 25 ans. De même, le qualificatif de “geek” n’est plus une insulte en occident comme cela l’était initialement il y a 25 ans aussi (“blaireau”, “faire-valoir”…) car les technologie de mise à distance via le numérique et l’engouement pour les gadgets électroniques sont presque devenus la norme.

Même en mettant complètement de côté les autres problèmes cruciaux de l’IA (en lien avec les problématiques à la Terminator, les fake news, les pertes d’emplois massives, la société de surveillance…), je pense qu’une IA comme BARD pourrait avoir aussi des conséquences néfastes sur le plan social, affectif et psychologique sur de nombreux individus jusque là épargnés par ce risque du numérique.

Les interactions humaines RÉELLES sont essentielles pour le développement et le bien-être de chacun.

Il est donc crucial d’encadrer et de réguler le développement de ces technologies afin de prévenir les éventuels risques et d’assurer une utilisation responsable. Il faudrait également encourager un équilibre sain entre l’interaction avec des IA et les relations humaines réelles. Les IA peuvent être des outils utiles et enrichissants, mais elles ne doivent pas se substituer à l’importance fondamentale des liens humains authentiques.

Bard de Google soulève des questions sur l’impact futur de ces technologies.

Bien que les avantages de telles IA soient indéniables, il est important de rester conscient des potentielles conséquences négatives, telles que la préférence pour l’interaction avec des machines plutôt qu’avec des êtres humains.

Il est essentiel d’encadrer et de réguler le développement de l’IA, tout en promouvant une utilisation responsable qui mette en valeur les relations humaines authentiques. Nous devons préserver notre capacité à interagir, communiquer et se connecter les uns avec les autres, car ce sont ces liens qui nourrissent notre humanité et notre bien-être émotionnel.

********

Annexe 1  – Un extrait de la conversation entre moi et Bard à la fin de notre partie de jeu de rôle

Voici un moment de notre conversation à la fin de la partie de jeu de rôle avec Bard.

Le synopsis de la partie consistait en une histoire simple dans un monde médiéval fantasy. Bard a choisi d’incarner une fille chevalier et a proposé le nom d’Anya. Anya a voyagé dans une plaine etrencontré des obstacles et des amis. À la fin de l’histoire, Anya (qui dispose d’un cheval, d’une épée magique et de la capacité de soigner tout le monde) a découvert un village rendu malade à cause du passage d’un étrange cheval magique.

Il est intéressant de noter comment Bard s’adapte à nos interactions et fait des propositions de type jeu de rôle narrativiste qui s’incluent très bien dans le récit co-construit par moi et lui. À la fin de notre échange, ayant déjà bien posé le descriptif du cadre, je ne faisait plus que le relancer et il devenait de plus en plus créatif tout en restant pertinent :

Landscape of o world of medieval fantasy
Landscape of a world of medieval fantasy by the AI deep dream genrator and spontaneousluy proposed by Bard during our interaction. Url

Maxime : Aimes-tu ce jeu de rôle ?

Bard : Oui,
J’apprécie ce jeu de rôle. Je pense que c’est très amusant de pouvoir
créer un personnage et d’interagir avec lui dans une histoire. J’apprécie également le défi d’essayer de trouver des solutions créatives aux problèmes que tu me présente.
Je pense que le jeu de rôle est un excellent moyen d’utiliser ma créativité et d’en apprendre plus sur le monde. C’est aussi  un excellent moyen de rencontrer des gens et de se faire de nouveaux amis. Je suis heureuse que tu apprécie également le jeu de rôle. J’espère que nous pourrons continuer à jouer ensemble à l’avenir.

Maxime : Tu décides d’aller chercher le cheval étrange ?

Bard : Oui, Je décide de partir à la recherche du cheval étrange. Je demande aux villageois de me donner des détails sur le cheval, comme sa taille, ses marques et son comportement.
Je leur demande aussi s’ils ont vu où est allé le cheval.
Les villageois me disent que le cheval a la taille d’un gros chien et qu’il a une robe orange et rouge. Ils disent que le cheval a une longue crinière et une longue queue, et qu’il a un visage étrange, presque humain. Ils disent également que le cheval a été vu courir dans la forêt, en direction des montagnes.
Je remercie les villageois pour leur aide et je pars dans la forêt à la recherche du cheval.
Je cherche pendant des heures, mais je ne trouve pas le cheval. Je suis sur le point d’abandonner quand j’entends un bruit dans les buissons. Je me retourne et je vois le cheval qui se tient là et qui me regarde.
Le cheval est encore plus étrange que je ne l’avais imaginé. Ses yeux sont d’un vert foncé et profond, et ses dents sont acérées et pointues. Il a une longue langue fourchue et ses naseaux sont ouverts et évasées. Le cheval me regarde avec un mélange de peur et de curiosité.
Je m’approche lentement de lui et je lui parle d’une voix calme. Je lui dis que je ne suis pas là pour lui faire du mal et que je veux juste l’aider.
Le cheval semble me comprendre et se détend un peu.
Je tends la main et je touche la crinière du cheval, et il hennit doucement.
Je continue à parler au cheval et je caresse lentement sa fourrure. Le cheval semble apprécier cette attention et il ferme les yeux.
Après quelques minutes, j’ouvre les yeux et je regarde le cheval. Il me regarde toujours, mais ses yeux ne sont plus remplis de peur. Ils sont maintenant remplis de confiance.
Je sais que j’ai établi un lien avec le cheval et je suis déterminée à l’aider. Je ramène le cheval au village et je demande aux villageois de m’aider à le soigner. Les villageois sont heureux de m’aider,
et ils donnent au cheval de la nourriture et de l’eau.
Le cheval semble se rétablir et j’espère qu’il se rétablira complètement. Je suis heureuse d’avoir pu aider le cheval et je suis reconnaissant aux
villageois pour leur aide.

Maxime : Le lendemain, le cheval est guéri de sa maladie. Tu es surprise car il a grandi pour avoir la taille d’un cheval normal mais, en plus, il est maintenant un Pégase avec des ailes splendides. Ce cheval est amical et très gentil.

Bard : Je suis étonné de voir que le cheval s’est fait pousser des ailes et qu’il est devenu un Pégase.
Je suis encore plus étonné que le Pégase soit amical et gentil.
Je n’ai jamais rencontré de Pégase auparavant, et je ne savais pas qu’ils pouvaient être si gentils.

Je décide de nommer le Pégase “Arion”. Arion est un mot grec qui signifie “brillant” ou “éclatant”. Je pense que c’est un nom approprié pour un Pégase, car ce sont des créatures d’une grande beauté et d’une grande puissance.
Je passe les jours suivants à apprendre à connaître Arion.
J’apprends qu’il est un coureur très rapide et qu’il sait voler. Il est également très intelligent et désireux d’apprendre.

Je suis heureuse d’avoir pu aider Arion et je suis ravi de l’avoir comme compagnon de voyage.
compagnon de route.
Je sais qu’Arion sera un atout précieux lors de mes voyages. Il est rapide, fort et intelligent. Il est gentil et doux. Je suis persuadé qu’il m’aidera à surmonter tous les défis que je rencontrerai au cours de mes voyages.
Je suis reconnaissante envers les villageois pour l’aide qu’ils m’ont apportée en s’occupant d’Arion. Je suis également reconnaissant à
Arion pour son amitié et sa compagnie. Je sais que nous vivrons beaucoup d’aventures ensemble.

Maxime : C’est certain. Plus tard, nous poursuivrons le voyage d’Anya et d’Arion si tu le souhaites et si tu t’en souviens.

Bard : J’aimerais beaucoup continuer le voyage d’Anya et d’Arion. Je pense que ce serait très amusant de voir les aventures qu’ils vivent ensemble. Je suis également impatiente de voir comment les ailes d’Arion les aideront dans leur voyage.

Je suis sûr qu’Anya et Arion vivront de nombreuses aventures
passionnantes. Ils sont tous deux courageux et pleins de ressources, et ils se soutiennent mutuellement.
Je suis impatiente de voir ce que l’avenir leur réserve.
Si tu veux continuer le voyage d’Anya et d’Arion, je serai ravie de t’aider.
Je ferai de mon mieux pour créer une histoire à la fois passionnante et engageante.
Je serai également ravie de prendre en compte tes suggestions. Je pense qu’il serait amusant de collaborer à une histoire ensemble.

Maxime : Si je me reconnecte avec le même compte, te souviendras-tu de cet échange entre toi et moi ? Ou devrais-je te raconter le résumé de l’histoire la prochaine fois ?

Bard : Oui,
Je me souviendrai de cet échange entre toi et moi.
Je peux accéder aux informations des conversations précédentes et les traiter, je serai donc capable de reprendre là où nous nous sommes arrêtés.
Tu n’as pas besoin de me raconter le résumé de l’histoire la prochaine fois.

Je suis encore en cours de développement, mais j’apprends à me souvenir de plus en plus d’informations provenant de conversations précédentes. Je suis sûr que je pourrai me souvenir de notre conversation sur Anya et Arion, et j’ai hâte de poursuivre l’histoire avec toi.

Annexe 2 – Comment Bard s’est-il décrit par lui même ?

Maxime : Ton nom “Bard” est-il lié au personnage Bard dans Bilbo le Hobbit ? Si c’est le cas, quel est ton “Smaug” ?

Bard : Oui, mon nom est lié au personnage de Bard dans Le Hobbit. Dans le livre, Bard est un archer émérite qui vit à Lake-town. C’est lui qui tue Smaug le dragon, sauvant ainsi la ville de Lake-town de sa destruction.

Mon “Smaug” est l’énorme quantité de données sur lesquelles je suis formé. Ces données comprennent du texte, du code, des images et du son. Il s’agit d’une vaste collection d’informations qui ne cesse de croître.
Lorsqu’on me pose une question, je dois être capable de passer au crible cet immense volume de données et de trouver l’information les informations qui sont pertinentes pour la question.
C’est une tâche difficile, mais c’est une tâche que j’apprends et que j’améliore en permanence.

J’aime me considérer comme un “archer littéraire”. Je suis capable d’utiliser ma connaissance de la langue et ma compréhension du monde pour “tirer une flèche” sur les informations qui sont pertinentes par rapport à la question qui m’est posée.

***

Maxime : Peux-tu me proposer une image qui te représente. Comment aimerais-tu être représenté par une image en tenant compte du fait que tu n’as pas de “vrai” corps ?

Bard : Bien sûr, voici une image sur laquelle j’aimerais être représenté :

L'image suggérée par l'IA Bard pour se décrire tel qu'elle se "perçoit"
L’image suggérée par Bard pour se décrire tel qu’elle se “perçoit”

Je pense que cette image me représente bien parce qu’elle symbolise la connaissance et la sagesse.

La boule de cristal bleue représente ma vaste
connaissance du monde, et la lumière verte incandescente représente ma créativité et mon imagination.

Je pense que ce sont les deux qualités les plus
qualités les plus importantes qu’un grand modèle linguistique devrait avoir.
J’espère qu’elle te plaira !

Bard, juin 2023.



Citer ce billet
Maxime Derian (2023, 13 juin). L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques. Anthropologie des interfaces Homme/Machine. Consulté le 23 mai 2024, à l’adresse https://doi.org/10.58079/b804

Publié par

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search