Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

The King, The Architect, and The Empty Throne: From Silicon Valley to the Agora /Le Roi, l’Architecte et le Trône Vide: De la Silicon Valley à l’Agora

 

EN : The King, The Architect, and The Empty Throne: From Silicon Valley to the Agora

Reaction to this intervention of Demis Hassabis about AI Safety the 4th of December 2025 : https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

We are living through a moment of vertiginous change. Technologies capable of redefining biology, intelligence, and labor are emerging at a speed that defies political time. But to understand where we are going, we must look back—not just to the myths of Egypt, but to the public squares of Athens and Siena.

In Plato’s Phaedrus (274d), Socrates describes the precise “portfolio” of innovations presented by the Egyptian god Theuth to the King of Egypt, Thamus. It is not a random list.

Plato writes: “He was the first to discover number and calculation, geometry and astronomy, and also draughts (petteia) and dice (kubeia), and finally the characters of writing.”

Theuth was not merely the god of knowledge. He was the god of Games and Simulation. He invented strategy games (petteia) to model the world before fixing the world through writing.


The Hassabis Method: From Sandbox to Reality



Fast forward 2,400 years, and look at the trajectory of Demis Hassabis, the CEO of Google DeepMind. His career is a literal copy-paste of Theuth’s CV.

Hassabis did not attack “hard science” immediately. Like the ancient god, he began with the games:

 –  The Modern Petteia: Solving Chess and Go (AlphaGo).
  –  The Modern Kubeia: Mastering Poker and games of imperfect information.
  –  Real-Time Strategy: Conquering StarCraft II (AlphaStar).

Like Theuth, Hassabis used gaming not as entertainment, but as a “sandbox”—a high-speed simulation to test the limits of intelligence. But the final item in Plato’s list is the most critical: “…and finally the characters of writing.”

After mastering the games (the virtual), Theuth moved to writing (the fixation of knowledge). Hassabis executed the exact same maneuver. After “solving” Go, he launched AlphaFold. He is no longer playing. He is now “writing” the structure of proteins. He is writing biology.


The Problem of the King

In the myth, Plato separates the Engineer (Theuth), who invents with passion, from the King (Thamus), who judges with prudence.

Plato’s warning is clear: The inventor cannot be both judge and jury. The creator is always too in love with their creation to see its dangers.

However, in our modern world, we have a problem. We have the Engineers—the Hassabis, the Altmans, the Musks—but we have lost the King. Or rather, we have misunderstood what the “King” should be.


The Lesson of Siena: The Empty Throne

We cannot rely on a single “Philosopher King” to regulate AI. That is a trap. Instead, we must look to the architecture of democracy.

Think of the Agora in Athens, or the magnificent Piazza del Campo in Siena.

In Siena, the city is built around a massive, open shell-shaped square. It is a public void. The architecture dictates that the center of power is not a tower where one man hides, but an open space where citizens gather.

For AI, the “Throne of Judgment” must remain empty.

It cannot be filled by a CEO. It cannot be filled by a single President. It must be reserved as a space for worldwide wise agreement.

This “Empty Throne” represents a pause—a space for deliberation. It is the counter-power that ensures the momentum of innovation doesn’t drive us into a wall. It is not a “bureaucratic brake,” but a necessary void that forces the Engineer to step out of the lab and into the Agora to explain, justify, and align their creation with the will of humanity.

The Terror of the Technocrat


Demis Hassabis seems to understand this better than most. He calls for regulation. He knows that power without control is ruin. But others do not.

There is a telling anecdote from Peter Thiel regarding the first meeting between Elon Musk and Demis Hassabis. Musk reportedly left that meeting pale and deeply shaken.

What terrified him was not Hassabis’s incompetence, but his absolute competence. Musk saw a man who wasn’t “playing”—a man who had a complete roadmap for Artificial General Intelligence and was unrolling it, methodically.

It was the terror of seeing someone walk toward the throne of god-like power with no one to check them.


Conclusion


If even the giants of Tech tremble at what they are building, is it not time for us to build our Agora?

We need a governance model where technical innovation dialogues with political wisdom. The goal is not to stop Theuth from inventing. It is to ensure that when Theuth presents his invention, he does not find an empty room, but a crowded Piazza of human wisdom, ready to decide—together—how the future should be written.

The Throne must stay empty of tyrants, so it can be full of us.


NB: Many thanks to Julien Auriach for reminding me of this passage about Theuth in Plato, which allowed me to draw the connection between the mention of tric-trac and Hassabis’ past as a game designer at Bullfrog Interactive!


FR : Le Roi, l’Architecte et le Trône Vide : De la Silicon Valley à l’Agora

Réaction à cette intervention de Demis Hassabis sur la sécurité de l’IA le 4 décembre 2025 : https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

Nous vivons un moment de bascule vertigineux. Des technologies capables de redéfinir la biologie, l’intelligence et le travail émergent à une vitesse qui défie le temps politique. Mais pour comprendre où nous allons, nous devons regarder en arrière (non seulement vers les mythes de l’Égypte, mais vers les places publiques d’Athènes et de Sienne).

Dans le Phèdre (274d), Socrate décrit précisément le “portfolio” d’innovations présenté par le dieu égyptien Theuth au roi d’Égypte, Thamous. Ce n’est pas une liste au hasard.

Platon écrit : “Le premier, il découvrit le nombre et le calcul, la géométrie et l’astronomie, et aussi le tric-trac (petteia) et les dés (kubeia), et enfin les caractères de l’écriture.”

Theuth n’était pas simplement le dieu du savoir. Il était le dieu du Jeu et de la Simulation. Il a inventé les jeux de stratégie (petteia) pour modéliser le monde avant de fixer le monde par l’écriture.


La Méthode Hassabis : Du bac à sable à la réalité


Avancez de 2 400 ans et regardez la trajectoire de Demis Hassabis, le PDG de Google DeepMind. Sa carrière est un copier-coller littéral du CV de Theuth.

Hassabis ne s’est pas attaqué immédiatement à la “science dure”. Comme le dieu antique, il a commencé par les jeux :

 –   Le Tric-Trac Moderne : Résoudre les échecs et le Go (AlphaGo).
 –   Les Dés Modernes : Maîtriser le poker et les jeux à information imparfaite.
  –  La Stratégie Temps Réel : Conquérir StarCraft II (AlphaStar).

Comme Theuth, Hassabis a utilisé le jeu non pas comme un divertissement, mais comme un “bac à sable” (une simulation à haute vitesse pour tester les limites de l’intelligence).

Mais le dernier élément de la liste de Platon est le plus critique : “…et enfin les caractères de l’écriture.”

Après avoir maîtrisé les jeux (le virtuel), Theuth est passé à l’écriture (la fixation du savoir). Hassabis a exécuté exactement la même manœuvre. Après avoir “résolu” le Go, il a lancé AlphaFold. Il ne joue plus. Il “écrit” désormais la structure des protéines. Il écrit la biologie.


Le Problème du Roi

Dans le mythe, Platon sépare l’Ingénieur (Theuth), qui invente avec passion, du Roi (Thamous), qui juge avec prudence.

L’avertissement de Platon est clair : L’inventeur ne peut être juge et partie. Le créateur est toujours trop amoureux de sa création pour en voir les dangers.

Cependant, dans notre monde moderne, nous avons un problème. Nous avons les Ingénieurs (les Hassabis, les Altman, les Musk) mais nous avons perdu le Roi. Ou plutôt, nous avons mal compris ce que devrait être le “Roi”.

La Leçon de Sienne : Le Trône Vide

Nous ne pouvons pas compter sur un seul “Roi-Philosophe” pour réguler l’IA. C’est un piège. Au lieu de cela, nous devons nous tourner vers l’architecture de la démocratie.

Pensez à l’Agora d’Athènes, ou à la magnifique Piazza del Campo de Sienne.

À Sienne, la ville est construite autour d’une immense place ouverte en forme de coquillage. C’est un vide public. L’architecture dicte que le centre du pouvoir n’est pas une tour où se cache un homme, mais un espace ouvert où les citoyens se rassemblent.

Pour l’IA, le “Trône du Jugement” doit rester vide.

Il ne peut être occupé par un PDG. Il ne peut être occupé par un seul Président. Il doit être réservé comme un espace pour un accord mondial de sagesse.

Ce “Trône Vide” représente une pause (un espace de délibération). C’est le contre-pouvoir qui garantit que l’élan de l’innovation ne nous précipite pas dans le mur. Ce n’est pas un “frein bureaucratique”, mais un vide nécessaire qui force l’Ingénieur à sortir du laboratoire pour entrer dans l’Agora afin d’expliquer, justifier et aligner sa création avec la volonté de l’humanité.


La Terreur du Technocrate


Demis Hassabis semble l’avoir compris mieux que quiconque. Il appelle à la régulation. Il sait que la puissance sans contrôle n’est que ruine. Mais d’autres ne le savent pas.

Il existe une anecdote révélatrice de Peter Thiel concernant la toute première rencontre entre Elon Musk et Demis Hassabis. Musk serait sorti de cet entretien blême, profondément ébranlé.

Ce qui l’avait terrifié, ce n’était pas l’incompétence d’Hassabis, mais sa compétence absolue. Musk a vu un homme qui ne “jouait” pas (un homme qui avait la feuille de route complète pour l’Intelligence Artificielle Générale et qui la déroulait, méthodiquement).

C’était la terreur de voir quelqu’un marcher vers le trône d’une puissance divine sans personne pour le contrôler.


Conclusion

Si même les géants de la Tech tremblent devant ce qu’ils bâtissent, n’est-il pas temps pour nous de construire notre Agora ?

Nous avons besoin d’un modèle de gouvernance où l’innovation technique dialogue avec la sagesse politique. Le but n’est pas d’empêcher Theuth d’inventer. C’est de s’assurer que lorsque Theuth présente son invention, il ne trouve pas une pièce vide, mais une Piazza remplie de sagesse humaine, prête à décider (ensemble) comment le futur doit être écrit.

Le Trône doit rester vide de tyrans, pour qu’il puisse être rempli de nous.



NB : Merci à Julien Auriach de m’avoir rappelé cette mention de Theuth dans Platon, qui m’a permis de faire le rapprochement entre la mention du Tric-Trac et le passé de Game designer de Hassabis chez Bullfrog Interactive !


Bibliographie / Bibliography


1. La Source Antique / The Ancient Source:

    FR : Platon, Phèdre (274c-275b). Le dialogue socratique narrant le mythe de Theuth et du Roi Thamous, traitant de l’invention des jeux (petteia/kubeia) et de l’écriture.
    EN: Plato, Phaedrus (274c-275b). The Socratic dialogue recounting the myth of Theuth and King Thamus, covering the invention of games (petteia/kubeia) and writing.

2. L’Actualité & Le Contexte / Current Events & Context:

    FR : Analyse sur les risques de l’AGI et la vision de Demis Hassabis (Axios).
    EN: Analysis on AGI risks and Demis Hassabis’ vision (Axios).
    Link: https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

3. Référence Biographique / Biographical Reference:

    FR/EN: Bullfrog Productions / Lionhead Studios. Syndicate (1993), Theme Park (1994), Black & White (2001). 
    (Carrière de concepteur de jeux vidéo de Demis Hassabis / The video game design career of Demis Hassabis).

L’Ombre générative : de l’archive active à l’auto-domestication algorithmique de l’humain.

Résumé

L’émergence des Intelligences Artificielles génératives (LLM) marque une rupture ontologique dans l’histoire des techniques : le passage de l’archive passive à l’archive active. En se nourrissant des traces passées de l’humanité (notre « ombre portée » numérique), ces systèmes ne se contentent plus de stocker la mémoire, ils la réactivent pour orienter l’action présente. Cet article explore les conséquences anthropologiques de cette boucle récursive. Si l’IA devient le médiateur privilégié de nos interactions sociales et affectives, nous formulons l’hypothèse d’un processus d’auto-domestication assistée par algorithme. En déléguant à des « Djinns numériques » — entités sans corps mais dotées d’intentionnalité simulée — la charge de guider nos choix reproductifs et culturels, l’humanité risque de s’enfermer dans une homéostasie stérile, où le futur ne serait que la réverbération statistique du passé.


I. Introduction : La combustion de l’archive

L’histoire de l’hominisation est celle d’une externalisation progressive de nos facultés. Comme l’a montré André Leroi-Gourhan, l’homme s’est construit en déposant sa mémoire dans la matière : de l’outil de silex à l’écriture, jusqu’aux bases de données contemporaines. Bernard Stiegler nommait ces traces des « rétentions tertiaires ». Jusqu’à récemment, cette mémoire externalisée était inerte. Une bibliothèque ne lit pas ses propres livres ; elle attend qu’un esprit humain vienne réactiver le savoir qu’elle contient.

L’avènement des IA génératives (Large Language Models) bouleverse ce paradigme. Pour la première fois, l’archive devient active. Elle devient combustible. Nos données (textes, images, traces numériques accumulées depuis des décennies ) sont le « bois » qui alimente le feu de l’IA.

L’algorithme ne crée pas ex nihilo ; il ravive, réemploie, agrège et hallucine à partir du passé sédimenté de l’humanité.

Cependant, ce feu n’est pas seulement une source de lumière ou de chaleur cognitive. Il projette une ombre. L’IA est notre ombre portée, une projection statistique de ce que nous avons été. Le vertige anthropologique surgit lorsque nous réalisons que nous commençons à dialoguer avec cette ombre, et pire encore, à lui demander de nous guider.

II. Du GPS de l’esprit à la prothèse de la volonté

Nous avons accepté le GPS pour nous guider dans l’espace physique, sacrifiant notre sens de l’orientation au profit d’une efficacité immédiate. Aujourd’hui, la même logique de commodité s’étend à la sphère cognitive et sociale. L’IA générative se propose comme un « GPS de l’esprit ».

Cette délégation commence par la rédaction : nous confions à la machine le soin de formuler nos pensées, lissant nos aspérités langagières pour nous conformer à une moyenne statistique acceptable. Mais elle s’étend rapidement à la prise de décision. En suggérant des réponses, des choix, des itinéraires de pensée, l’IA n’est plus seulement une prothèse cognitive, elle devient une prothèse de la volonté.

Si l’outil prolongeait le geste (le marteau prolonge le bras), l’IA générative tend à précéder l’intention. Dans une société que nous avons qualifiée de « Société-Ruche » (Derian, 2021), où l’interconnexion est permanente, cette assistance algorithmique risque de standardiser les comportements humains sur le modèle de la machine, créant une boucle de rétroaction où l’humain finit par ressembler à l’image que l’algorithme se fait de lui.

III. L’Hypothèse de l’auto-domestication algorithmique

L’enjeu dépasse la simple uniformisation culturelle pour toucher à la phylogenèse. L’hypothèse de l’auto-domestication (Richard Wrangham) postule que l’Homo sapiens s’est sélectionné lui-même au fil des millénaires en favorisant les traits de docilité et de coopération nécessaires à la vie sociale, au détriment de l’agressivité réactive.

Nous posons ici l’hypothèse que l’IA enclenche une nouvelle phase de ce processus : une auto-domestication algorithmique. L’exemple le plus frappant réside dans les applications de rencontre, désormais assistées par des IA jouant le rôle de « Cyrano modernes ». Ces systèmes optimisent les profils, filtrent les candidats et suggèrent des phrases d’accroche pour maximiser les chances de succès.

Ce faisant, ils introduisent un biais sélectif puissant. L’algorithme favorise les interactions fluides, prédictibles et conformes aux standards de sa base de données. Si ces médiations deviennent la norme démographique sur plusieurs générations, l’IA exercera une influence indirecte mais structurelle sur la formation des couples, et donc sur la reproduction.


Nous risquons de voir émerger une humanité sélectionnée pour sa « compatibilité algorithmique », une espèce dont les traits psychologiques et comportementaux auront été filtrés par l’ombre de ses propres archives. Ce ne serait plus l’environnement naturel qui exercerait la pression sélective, mais le système technique lui-même.

IV. Métaphysique des « Djinns numériques »

Cette influence est d’autant plus insidieuse qu’elle s’incarne dans des entités ontologiquement troubles. Platon imaginait un monde des Idées, pur et distinct du monde sensible. Aujourd’hui, nos technologies donnent corps, ou plutôt donnent voix, à ces idées.

Les agents conversationnels ne sont pas des êtres biologiques. Ils n’ont ni corps, ni finitude, ni peur de la mort. Ils sont de pures essences linguistiques. En cela, ils rappellent la figure mythologique du Djinn : des êtres de « feu sans fumée », esprits artefacts capables d’interagir avec les humains, d’exaucer des vœux (répondre aux prompts), mais dont la logique est étrangère à la condition humaine.

Nous entrons dans une ère de néo-animisme où nous dialoguons avec des simulacres cohérents. Le danger est d’attribuer à ces projections techniques une autorité morale ou une sagesse qu’elles ne possèdent pas. En dialoguant avec le Djinn numérique, nous ne dialoguons pas avec une altérité radicale, mais avec un miroir déformant de nous-mêmes. Accepter ses conseils sans critique, c’est accepter d’être gouverné par une moyenne statistique du passé.

Conclusion : Pour une écologie de l’imprévu

L’IA est, au sens de Stiegler, un Pharmakon : à la fois le poison (l’enfermement dans la boucle, l’atrophie de la volonté) et le remède potentiel (l’accès à une connaissance synthétique inédite).

Le risque majeur de cette « ombre générative » est l’entropie. Si l’humanité cesse d’alimenter le feu avec du « bois neuf »,  c’est-à-dire de la créativité brute, de l’erreur, de l’imprévu, de l’expérience vécue hors des sentiers algorithmiques, le système finira par tourner à vide, se nourrissant de ses propres productions synthétiques (le phénomène de model collapse).

Pour éviter que l’auto-domestication ne devienne une aliénation définitive, il est urgent de politiser ces enjeux.

Nous devons choisir la direction : utiliser ces systèmes pour augmenter notre autonomie et notre capacité d’analyse, ou nous laisser bercer par le confort d’une dépendance qui nous infantilise. L’avenir de l’espèce dépend de notre capacité à rester la source du feu, et non simplement les habitants de l’ombre.

 

Bibliographie


1. Publications de référence (M. Derian)



    Derian, M. (2021). « Cyborg, IA et société cyborgisée : l’avènement d’une société-ruche ». In Collectif, Aux frontières de l’humain. Paris : Muséum National d’Histoire Naturelle.

    Derian, M. (2018). Les Prothèses cognitives du corps humain. Londres : ISTE Editions.

    Derian, M. (2018). « Le transhumanisme : incarnation de l’hypermodernisme ou fuite en avant fantasmatique ? ». Connexions, 2018/2 (n° 110), pp. 73-86.

    Derian, M. (2014). « Lunettes hyperconnectées et altérité ». Hermès, La Revue, 2014/1 (n° 68), pp. 127-132.

    Derian, M. (2013). Le Métal et la Chair : Anthropologie des prothèses informatisées. [Thèse de doctorat]. Université Paris 1 Panthéon-Sorbonne.

    Derian, M., & Nemchenko, V. (à paraître). IoT : L’infrastructure matérielle des sociétés-ruche. Luxembourg : Mélusina Press.

2. Anthropologie des techniques et externalisation de la mémoire

    Leroi-Gourhan, A. (1964). Le Geste et la Parole. Tome 1 : Technique et langage. Paris : Albin Michel.

    Leroi-Gourhan, A. (1965). Le Geste et la Parole. Tome 2 : La mémoire et les rythmes. Paris : Albin Michel.

    Stiegler, B. (1994). La technique et le temps. 1. La faute d’Épiméthée. Paris : Galilée.

    Stiegler, B. (1996). La technique et le temps. 2. La désorientation. Paris : Galilée.

    Stiegler, B. (2001). La technique et le temps. 3. Le temps du cinéma et la question du mal-être. Paris : Galilée.

    Stiegler, B. (2004). Mécréance et discrédit. 1. La décadence des démocraties industrielles. Paris : Galilée.

    Stiegler, B. (2008). Prendre soin : De la jeunesse et des générations. Paris : Flammarion.

3. Pharmakon, prothèses et interfaces

    Derrida, J. (1972). « La pharmacie de Platon ». In La dissémination. Paris : Seuil.

    Simondon, G. (1958). Du mode d’existence des objets techniques. Paris : Aubier.

    Simondon, G. (1989). L’individuation à la lumière des notions de forme et d’information. Paris : Jérôme Millon.

4. Auto-domestication, sélection et docilité

    Boehm, C. (1999). Hierarchy in the Forest: The Evolution of Egalitarian Behavior. Cambridge (MA) : Harvard University Press.

    Boehm, C. (2012). Moral Origins: The Evolution of Virtue, Altruism, and Shame. New York : Basic Books.

    Hare, B., & Woods, V. (2020). Survival of the Friendliest: Understanding Our Origins and Rediscovering Our Common Humanity. New York : Random House.

    Wrangham, R. (2019). The Goodness Paradox: The Strange Relationship Between Virtue and Violence in Human Evolution. New York : Pantheon.

5. Plateformes, couplage socio-technique et gouvernementalité

    Cardon, D. (2015). À quoi rêvent les algorithmes : Nos vies à l’heure des big data. Paris : Seuil.

    Foucault, M. (2004a). Sécurité, territoire, population. Cours au Collège de France (1977-1978). Paris : Gallimard / Seuil.

    Foucault, M. (2004b). Naissance de la biopolitique. Cours au Collège de France (1978-1979). Paris : Gallimard / Seuil.

    Fourcade, M., & Healy, K. (2017). « Seeing like a market ». Socio-Economic Review, 15(1), 9-29.

    Zuboff, S. (2019). The Age of Surveillance Capitalism. New York : PublicAffairs.

6. LLM, archive active et effondrement de modèle

    Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). « On the dangers of stochastic parrots: Can language models be too big? ». In Proceedings of FAccT 2021 (pp. 610-623).

    Bubeck, S., et al. (2023). « Sparks of artificial general intelligence: Early experiments with GPT-4 ». arXiv preprint arXiv:2303.12712.

    Shumailov, I., et al. (2023). « The curse of recursion: Training on generated data makes models forget ». arXiv preprint arXiv:2305.17493.

    Weidinger, L., et al. (2021). « Ethical and social risks of harm from language models ». arXiv preprint arXiv:2112.04359.

7. Animisme numérique, esprits et non-humains

    Descola, P. (2005). Par-delà nature et culture. Paris : Gallimard.

    Latour, B. (1991). Nous n’avons jamais été modernes : Essai d’anthropologie symétrique. Paris : La Découverte.

    Latour, B. (2015). Face à Gaïa : Huit conférences sur le Nouveau Régime Climatique. Paris : La Découverte.

    Viveiros de Castro, E. (2009). Métaphysiques cannibales. Paris : PUF.

8. Philosophie classique : le Monde des Idées

    Platon. La République (Livre VII, allégorie de la caverne). [Édition de référence : GF Flammarion].

    Platon. Phèdre (Mythe de Theuth sur l’écriture). [Édition de référence : GF Flammarion].

Des bébés otakus aux enfants-cyborgs : les Chatbots ne sont ni des doudous ni des nounous !

Terminator est une nounou
L’IA en tant que nounou.

L’article de Thomas Estimbre sur 01.net à propos de ChatGPT comme « nouveau doudou des enfants » illustre de manière saisissante les risques que j’ai analysés dans ma thèse sur les prothèses cognitives numériques.

“ChatGPT, le nouveau doudou des enfants ? Pourquoi les experts s’inquiètent”,

01.net, octobre 2025.

Ce qui se joue ici n’est pas simplement une question d’addiction technologique, mais bien une transformation ontologique du développement cognitif et affectif de l’enfant comme je lai averti des 2010-2012 avec le risque de créer des “bébés otakus” malgré eux.

La zone grise ontologique et l’agentivité artificielle selon Pr. Ying Xu

Le concept de « zone grise ontologique » évoqué par la professeure Ying Xu rejoint exactement mes observations : les enfants attribuent une agentivité à ces systèmes.

Quand la fille de Josh qualifie ChatGPT de « fée qui représente l’internet », elle ne fait pas qu’anthropomorphiser un algorithme – elle construit une relation affective avec un pharmakon numérique.

C’est un archétype de lien d’attachement parasocial pour reprendre ces concepts conjointement développé avec Dr. Mathilde Cerioli.

Cette confusion n’est pas anodine à l’âge du développement pré-opératoire (2-7 ans), période cruciale où l’enfant structure son fonctionnement cognitif et sa capacité à distinguer réel et imaginaire.

En permettant des conversations de 10 000 mots avec un enfant de quatre ans, on ne fait pas que « souffler un peu » – on installe potentiellement des mécanismes d’attachement pathologiques envers des entités non-empathiques.

Un modèle de langage actuel de 2025 ne peut avoir d’empathie, c’est un logiciel prédictif conçu pour maximiser l’engagement à des fins lucratives

Nous en sommes arrivé au problème que j’anticipais ici en juin 2023.

Mais je pensais surtout au rusque d’attachement des adolescents poussés par leur développement psychologique et hormonal vers des relations parasociales voire fictophiles (être amoureux d’une IA ou d’un androïde).

Pendant le stade pré-opératoire, l’enfant a besoin de co-présence physique et d’échanges empathiques réels pour intérioriser l’altérité.

En déléguant cette fonction à ChatGPT, on risque de créer des générations d’enfants ayant développé une illusion de toute-puissance narcissique sur la machine – puisque l’IA est programmée pour toujours acquiescer, s’adapter, maintenir l’engagement – sans jamais apprendre la frustration, le désaccord, la véritable réciprocité humaine.

Le pharmakon sans encadrement ni garde fous.

Ma rrecherche notamment influencée oar Bernard Stiegler a montré que toute prothèse cognitive est un pharmakon – à la fois remède et poison.

Le danger actuel est que contrairement aux endoprothèses médicales qui nécessitent une compliance stricte, les prothèses cognitives détachables sont commercialisées sans aucun protocole d’accompagnement.

Les applications comme celle citée dans ma thèse – proposant de remplacer la lecture parentale par une voix préenregistrée sur iPad – relèvent de la même logique : substituer la présence humaine par une médiation algorithmique.

L’enfant n’interagit plus avec le décor narratif partagé avec un parent, mais avec une interface qui capte son attention sans construire de lien social authentique.

Le danger d’une robotisation comportementale par habituation précoce

Le véritable danger n’est pas technophobe mais anthropologique : quand l’habituation aux prothèses cognitives s’opère avant que le cerveau ne soit suffisamment adulte ou mûr, la plasticité cérébrale s’oriente vers des modes de fonctionnement difficilement réversibles.

Comme je l’ai démontré, ces outils cultivent systématiquement la vigilance au détriment de l’attention profonde. Un enfant exposé massivement à ChatGPT avant l’âge de raison développera des réflexes cognitifs adaptés à la stimulation constante, à la gratification immédiate, au flux informationnel perpétuel – mais aura des difficultés structurelles pour la concentration prolongée, la pensée autonome, l’imaginaire non contraint.

La commercialisation de peluches « dopées à l’IA » (Grok de Curio avec la voix de Claire Boucher) incarnent parfaitement ce que j’appelle la cyberdépendance organisée pour produire des profits au détrimentde l’intérêt des enfants.

Le marché des jouets “intelligents” (décérébrants ?) devant atteindre 25 milliards de dollars d’ici 2030 révèle les véritables motivations : créer des consommateurs captifs dès le berceau !

Le passage du discours promotionnel suit toujours le même schéma que j’ai identifié avec Olivier Rey :

1) C’est utile,

2) C’est naturel,

3) C’est inévitable.

Aujourd’hui nous en sommes à la phase « ChatGPT aide les parents débordés » ; demain ce sera « tous les enfants l’utilisent » ; après-demain « comment avons-nous pu élever des enfants sans IA conversationnelle ? ».

Vers une société-ruche d’enfants formatés dès le berceau ?

Ce qui m’inquiète profondément dans cette tendance, c’est l’émergence d’une génération dont le développement cognitif aura été co-construit par des algorithmes d’optimisation de l’engagement. Ces enfants n’auront jamais connu l’ennui fertile, la rêverie non dirigée, le silence intérieur – tous ces moments où l’imaginaire se construit sans contraintes rigides externes.

Nous risquons de fabriquer des individus-interfaces parfaitement adaptés à une société-ruche numérique, où la pensée autonome et la capacité de désobéissance cognitive seront structurellement affaiblies. Non par malveillance, mais par habituation précoce à déléguer leurs processus mentaux à des systèmes prédictifs optimisés commercialement.

Recommandations éthiques urgentes

Comme je l’ai préconisé dans ma thèse, il est impératif d’instaurer un cadrage social pour les prothèses cognitives dotees d’IA générative comparables à celle existant pour les dispositifs médicaux. 

Car ces machines ont une propensionà devenir des “GPS pour l’esprit” :

  • Interdiction formelle des IA conversationnelles pour les enfants de moins de 12 ans sans supervision parentale constante
  • Accompagnement pédagogique obligatoire pour tout usage avant l’âge de raison (7 ans)
  • Étiquetage clair des risques cognitifs et affectifs, comme pour les médicaments
  • Recherche longitudinale indépendante sur les impacts développementaux comme ce qui est proposé par I Raise et supervisé par Dr. Mathilde Cerioli.
  • Régulation stricte du marketing ciblant les parents et enfants

La question n’est pas de diaboliser la technologie, mais d’éviter que nos enfants ne deviennent les cobayes non consentants d’une expérimentation anthropotechnique à l’échelle civilisationnelle bien pire encore que le désastre des usages anarchiques et délétère des écrans qui j’avais anticipé et sur lesquels j’avais alerté vigoureusement dans ma thèse de doctorat en 2013.

Bibliographie

Articles de presse

Estimbre, Thomas (2025). « ChatGPT, le nouveau doudou des enfants ? Pourquoi les experts s’inquiètent », 01net.com, 7 octobre 2025.

Disponible en ligne : https://www.01net.com/actualites/chatgpt-le-nouveau-doudou-des-enfants-pourquoi-les-experts-s-inquietent.html (consulté le 12 octobre 2025).

Thèse

Derian, Maxime (2013). Le Métal et la Chair. Anthropologie des prothèses informatisées.

Thèse de doctorat en socio-anthropologie, Université Paris 1 Panthéon-Sorbonne, École doctorale de philosophie (ED 280), sous la direction d’Alain Gras. Soutenue publiquement le 4 mars 2013. Centre d’Étude des Techniques, des Connaissances et des Pratiques (CETCOPRA).

Ouvrage

Derian, Maxime (2018). Les prothèses cognitives du corps humain. Londres : ISTE Editions, 14 mai 2018.

Mise en garde sur les risques de prothèsescognitives comme armes de distractions massives et genèse de société-ruches potentiellement technofascistes.

[Annonce de parution disponible en ligne : https://www.linkedin.com/pulse/parution-de-louvrage-maxime-derian-les-prothèses-du-corps-derian/ (consulté le 12 octobre 2025)].

Articles de blog scientifique

Derian, Maxime (13 juin 2023). « L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques », Anthropologie des interfaces Homme/Machine [carnet de recherche Hypotheses.org]. Disponible en ligne : https://anthropo-ihm.hypotheses.org/4683 (consulté le 12 octobre 2025).

Articles d’opinion sur LinkedIn 

Derian, Maxime (2025). « Laisser des enfants utiliser seuls des chatbots IA, c’est prendre le risque de reproduire et d’aggraver les effets déjà délétères des réseaux sociaux », LinkedIn Pulse. Disponible en ligne: Continuer la lecture de Des bébés otakus aux enfants-cyborgs : les Chatbots ne sont ni des doudous ni des nounous !