Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

The King, The Architect, and The Empty Throne: From Silicon Valley to the Agora /Le Roi, l’Architecte et le Trône Vide: De la Silicon Valley à l’Agora

 

EN : The King, The Architect, and The Empty Throne: From Silicon Valley to the Agora

Reaction to this intervention of Demis Hassabis about AI Safety the 4th of December 2025 : https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

We are living through a moment of vertiginous change. Technologies capable of redefining biology, intelligence, and labor are emerging at a speed that defies political time. But to understand where we are going, we must look back—not just to the myths of Egypt, but to the public squares of Athens and Siena.

In Plato’s Phaedrus (274d), Socrates describes the precise “portfolio” of innovations presented by the Egyptian god Theuth to the King of Egypt, Thamus. It is not a random list.

Plato writes: “He was the first to discover number and calculation, geometry and astronomy, and also draughts (petteia) and dice (kubeia), and finally the characters of writing.”

Theuth was not merely the god of knowledge. He was the god of Games and Simulation. He invented strategy games (petteia) to model the world before fixing the world through writing.


The Hassabis Method: From Sandbox to Reality



Fast forward 2,400 years, and look at the trajectory of Demis Hassabis, the CEO of Google DeepMind. His career is a literal copy-paste of Theuth’s CV.

Hassabis did not attack “hard science” immediately. Like the ancient god, he began with the games:

 –  The Modern Petteia: Solving Chess and Go (AlphaGo).
  –  The Modern Kubeia: Mastering Poker and games of imperfect information.
  –  Real-Time Strategy: Conquering StarCraft II (AlphaStar).

Like Theuth, Hassabis used gaming not as entertainment, but as a “sandbox”—a high-speed simulation to test the limits of intelligence. But the final item in Plato’s list is the most critical: “…and finally the characters of writing.”

After mastering the games (the virtual), Theuth moved to writing (the fixation of knowledge). Hassabis executed the exact same maneuver. After “solving” Go, he launched AlphaFold. He is no longer playing. He is now “writing” the structure of proteins. He is writing biology.


The Problem of the King

In the myth, Plato separates the Engineer (Theuth), who invents with passion, from the King (Thamus), who judges with prudence.

Plato’s warning is clear: The inventor cannot be both judge and jury. The creator is always too in love with their creation to see its dangers.

However, in our modern world, we have a problem. We have the Engineers—the Hassabis, the Altmans, the Musks—but we have lost the King. Or rather, we have misunderstood what the “King” should be.


The Lesson of Siena: The Empty Throne

We cannot rely on a single “Philosopher King” to regulate AI. That is a trap. Instead, we must look to the architecture of democracy.

Think of the Agora in Athens, or the magnificent Piazza del Campo in Siena.

In Siena, the city is built around a massive, open shell-shaped square. It is a public void. The architecture dictates that the center of power is not a tower where one man hides, but an open space where citizens gather.

For AI, the “Throne of Judgment” must remain empty.

It cannot be filled by a CEO. It cannot be filled by a single President. It must be reserved as a space for worldwide wise agreement.

This “Empty Throne” represents a pause—a space for deliberation. It is the counter-power that ensures the momentum of innovation doesn’t drive us into a wall. It is not a “bureaucratic brake,” but a necessary void that forces the Engineer to step out of the lab and into the Agora to explain, justify, and align their creation with the will of humanity.

The Terror of the Technocrat


Demis Hassabis seems to understand this better than most. He calls for regulation. He knows that power without control is ruin. But others do not.

There is a telling anecdote from Peter Thiel regarding the first meeting between Elon Musk and Demis Hassabis. Musk reportedly left that meeting pale and deeply shaken.

What terrified him was not Hassabis’s incompetence, but his absolute competence. Musk saw a man who wasn’t “playing”—a man who had a complete roadmap for Artificial General Intelligence and was unrolling it, methodically.

It was the terror of seeing someone walk toward the throne of god-like power with no one to check them.


Conclusion


If even the giants of Tech tremble at what they are building, is it not time for us to build our Agora?

We need a governance model where technical innovation dialogues with political wisdom. The goal is not to stop Theuth from inventing. It is to ensure that when Theuth presents his invention, he does not find an empty room, but a crowded Piazza of human wisdom, ready to decide—together—how the future should be written.

The Throne must stay empty of tyrants, so it can be full of us.


NB: Many thanks to Julien Auriach for reminding me of this passage about Theuth in Plato, which allowed me to draw the connection between the mention of tric-trac and Hassabis’ past as a game designer at Bullfrog Interactive!


FR : Le Roi, l’Architecte et le Trône Vide : De la Silicon Valley à l’Agora

Réaction à cette intervention de Demis Hassabis sur la sécurité de l’IA le 4 décembre 2025 : https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

Nous vivons un moment de bascule vertigineux. Des technologies capables de redéfinir la biologie, l’intelligence et le travail émergent à une vitesse qui défie le temps politique. Mais pour comprendre où nous allons, nous devons regarder en arrière (non seulement vers les mythes de l’Égypte, mais vers les places publiques d’Athènes et de Sienne).

Dans le Phèdre (274d), Socrate décrit précisément le “portfolio” d’innovations présenté par le dieu égyptien Theuth au roi d’Égypte, Thamous. Ce n’est pas une liste au hasard.

Platon écrit : “Le premier, il découvrit le nombre et le calcul, la géométrie et l’astronomie, et aussi le tric-trac (petteia) et les dés (kubeia), et enfin les caractères de l’écriture.”

Theuth n’était pas simplement le dieu du savoir. Il était le dieu du Jeu et de la Simulation. Il a inventé les jeux de stratégie (petteia) pour modéliser le monde avant de fixer le monde par l’écriture.


La Méthode Hassabis : Du bac à sable à la réalité


Avancez de 2 400 ans et regardez la trajectoire de Demis Hassabis, le PDG de Google DeepMind. Sa carrière est un copier-coller littéral du CV de Theuth.

Hassabis ne s’est pas attaqué immédiatement à la “science dure”. Comme le dieu antique, il a commencé par les jeux :

 –   Le Tric-Trac Moderne : Résoudre les échecs et le Go (AlphaGo).
 –   Les Dés Modernes : Maîtriser le poker et les jeux à information imparfaite.
  –  La Stratégie Temps Réel : Conquérir StarCraft II (AlphaStar).

Comme Theuth, Hassabis a utilisé le jeu non pas comme un divertissement, mais comme un “bac à sable” (une simulation à haute vitesse pour tester les limites de l’intelligence).

Mais le dernier élément de la liste de Platon est le plus critique : “…et enfin les caractères de l’écriture.”

Après avoir maîtrisé les jeux (le virtuel), Theuth est passé à l’écriture (la fixation du savoir). Hassabis a exécuté exactement la même manœuvre. Après avoir “résolu” le Go, il a lancé AlphaFold. Il ne joue plus. Il “écrit” désormais la structure des protéines. Il écrit la biologie.


Le Problème du Roi

Dans le mythe, Platon sépare l’Ingénieur (Theuth), qui invente avec passion, du Roi (Thamous), qui juge avec prudence.

L’avertissement de Platon est clair : L’inventeur ne peut être juge et partie. Le créateur est toujours trop amoureux de sa création pour en voir les dangers.

Cependant, dans notre monde moderne, nous avons un problème. Nous avons les Ingénieurs (les Hassabis, les Altman, les Musk) mais nous avons perdu le Roi. Ou plutôt, nous avons mal compris ce que devrait être le “Roi”.

La Leçon de Sienne : Le Trône Vide

Nous ne pouvons pas compter sur un seul “Roi-Philosophe” pour réguler l’IA. C’est un piège. Au lieu de cela, nous devons nous tourner vers l’architecture de la démocratie.

Pensez à l’Agora d’Athènes, ou à la magnifique Piazza del Campo de Sienne.

À Sienne, la ville est construite autour d’une immense place ouverte en forme de coquillage. C’est un vide public. L’architecture dicte que le centre du pouvoir n’est pas une tour où se cache un homme, mais un espace ouvert où les citoyens se rassemblent.

Pour l’IA, le “Trône du Jugement” doit rester vide.

Il ne peut être occupé par un PDG. Il ne peut être occupé par un seul Président. Il doit être réservé comme un espace pour un accord mondial de sagesse.

Ce “Trône Vide” représente une pause (un espace de délibération). C’est le contre-pouvoir qui garantit que l’élan de l’innovation ne nous précipite pas dans le mur. Ce n’est pas un “frein bureaucratique”, mais un vide nécessaire qui force l’Ingénieur à sortir du laboratoire pour entrer dans l’Agora afin d’expliquer, justifier et aligner sa création avec la volonté de l’humanité.


La Terreur du Technocrate


Demis Hassabis semble l’avoir compris mieux que quiconque. Il appelle à la régulation. Il sait que la puissance sans contrôle n’est que ruine. Mais d’autres ne le savent pas.

Il existe une anecdote révélatrice de Peter Thiel concernant la toute première rencontre entre Elon Musk et Demis Hassabis. Musk serait sorti de cet entretien blême, profondément ébranlé.

Ce qui l’avait terrifié, ce n’était pas l’incompétence d’Hassabis, mais sa compétence absolue. Musk a vu un homme qui ne “jouait” pas (un homme qui avait la feuille de route complète pour l’Intelligence Artificielle Générale et qui la déroulait, méthodiquement).

C’était la terreur de voir quelqu’un marcher vers le trône d’une puissance divine sans personne pour le contrôler.


Conclusion

Si même les géants de la Tech tremblent devant ce qu’ils bâtissent, n’est-il pas temps pour nous de construire notre Agora ?

Nous avons besoin d’un modèle de gouvernance où l’innovation technique dialogue avec la sagesse politique. Le but n’est pas d’empêcher Theuth d’inventer. C’est de s’assurer que lorsque Theuth présente son invention, il ne trouve pas une pièce vide, mais une Piazza remplie de sagesse humaine, prête à décider (ensemble) comment le futur doit être écrit.

Le Trône doit rester vide de tyrans, pour qu’il puisse être rempli de nous.



NB : Merci à Julien Auriach de m’avoir rappelé cette mention de Theuth dans Platon, qui m’a permis de faire le rapprochement entre la mention du Tric-Trac et le passé de Game designer de Hassabis chez Bullfrog Interactive !


Bibliographie / Bibliography


1. La Source Antique / The Ancient Source:

    FR : Platon, Phèdre (274c-275b). Le dialogue socratique narrant le mythe de Theuth et du Roi Thamous, traitant de l’invention des jeux (petteia/kubeia) et de l’écriture.
    EN: Plato, Phaedrus (274c-275b). The Socratic dialogue recounting the myth of Theuth and King Thamus, covering the invention of games (petteia/kubeia) and writing.

2. L’Actualité & Le Contexte / Current Events & Context:

    FR : Analyse sur les risques de l’AGI et la vision de Demis Hassabis (Axios).
    EN: Analysis on AGI risks and Demis Hassabis’ vision (Axios).
    Link: https://www.axios.com/2025/12/05/ai-hassabis-agi-risks-pdoom

3. Référence Biographique / Biographical Reference:

    FR/EN: Bullfrog Productions / Lionhead Studios. Syndicate (1993), Theme Park (1994), Black & White (2001). 
    (Carrière de concepteur de jeux vidéo de Demis Hassabis / The video game design career of Demis Hassabis).

EN/FR : From Pioneer LLMs (2022-2025) to Ecosystem LLMs (2025-2029): Towards a Third Rupture, the Post-LLM Era

From Pioneer LLMs (2022-2025) to Ecosystem LLMs (2025-2029): Towards a Third Rupture, the Post-LLM Era

November 27, 2025 – Exactly three years after the public release of ChatGPT, it is finally possible to periodize the emergence of generative AI. A major transition is currently underway.

First Period: The Pioneer LLMs (November 2022 – November 2025)

The release of ChatGPT on November 30, 2022, inaugurated an era of “proof of concept.” For three years, scaling laws were the primary driver of performance. LLMs grew like hypertrophied prototypes, relying on massive volumes of data and parameters.

OpenAI now embodies the limits of this strategy. The company recorded record losses of $12.5 billion in the third quarter of 2025 alone. Of the $288 billion in signed cloud contracts, only one-third will be actionable by 2030. According to HSBC analysis, financing needs have reached $207 billion. A business model based on LLMs without proprietary infrastructure reveals its structural fragility here.

Second Period: The Ecosystem LLMs (2025-2029)

The release of Gemini 2.0 Flash in December 2024 marked the first rupture. Twice as fast as Gemini 1.5 Pro, this model no longer behaves as an isolated algorithm but as an interface layer seamlessly inserted into the Google ecosystem. Gmail, Maps, YouTube, Colab, and Search become native extensions of the model. Infrastructure becomes part of its cognition.

On November 18, 2025, Gemini 3 Pro reached a new milestone. With an unprecedented score of 1,501 Elo on LMArena, it surpassed GPT-5.1 and all competitors. The dynamic is generalizing: Microsoft is integrating ChatGPT as a mere service within Azure and Office. The intuition formulated in 2023 is confirmed: Sam Altman paved the way, Satya Nadella is capitalizing on it.

However, this centralization by American “Leviathans” (Google, Microsoft) finds a major counterpoint in the vitality of Open Source. With the release of Llama 4 in April 2025, Meta demonstrated that it was possible to achieve state-of-the-art performance – notably with the “Behemoth” model of 2 trillion parameters – while offering total transparency. This dynamic allows for the emergence of an archipelago of smaller, sovereign, and specialized ecosystems, preventing total hegemony by closed proprietary models.

Perplexity embodies a third path in this ecosystem era. Rather than owning the cloud infrastructure or the model, the company positions itself as a meta-interface. Its November 26, 2025 announcement regarding portable memory confirms this strategy: value no longer lies in the model itself, which has become an interchangeable commodity, but in orchestrating access to information and ensuring continuity of user experience across different systems.

The American Digital Leviathan: Genesis

The Presidential Executive Order of November 24, 2025, launched the Genesis Mission. It is the political incarnation of the ecosystem era. Led by the Department of Energy, this project aims to build an “American Science and Security Platform” by exploiting federal data.

Explicitly compared to the Manhattan Project, Genesis aligns with what Eric Schmidt calls the “San Francisco Consensus”: the shared conviction among tech elites that AI will radically transform all aspects of human activity within three to six years. The partnership between the Department of Energy, Nvidia, AMD, and Oracle to build the largest AI supercomputer in the US materializes this public-private fusion.

This is exactly what I describe as a “hive society”: a digital backbone connecting all public data, operated by a centralized system.

Current Structural Flaws: A Systemic Risk

Despite progress, three limitations compromise the viability of a world relying on current LLMs.

Fragmented Memory. LLMs overweight recent messages at the expense of initial context. This deficit of continuity harms temporal coherence, which is indispensable for critical use cases.

Absence of a World Model. No spatial or structural representation. No entity graph. LLMs perform statistical text compression rather than relational and causal understanding. This is a major limitation for decision-making in the physical world.

Opacity of Matrix Calculations. Successive weightings produce plausible but uninterpretable results. This “black box” becomes untenable for essential infrastructures.

These three flaws create a risk of a sociotechnical “Black Swan” phenomenon: propagated hallucinations, inter-system bugs, and chain reactions in critical infrastructures. We are building the 21st century on an unstable foundation.

Third Period: Towards the Post-LLM Era (2029-2030)

The 2029-2030 horizon should see the emergence of a third configuration. Rather than a brutal rupture, it will likely be a progressive hybridization. The LLM will not disappear but will become the mere linguistic engine at the heart of composite systems, augmented by external modules for memory and reasoning.

A, neuro-symbolic architectures and Graph Neural Networks (GNN) constitute the most promising path to address the lack of a world model. Recent work, such as that presented at NeurIPS 2025 (LogiX-GIN), shows that it is possible to combine the flexibility of neural networks with the logical rigor of graphs.

Transparency by design will become an imperative in sensitive fields. This requirement for reliability will necessitate moving away from purely statistical logic to reintroduce verifiable causal structures, transforming AI from a probabilistic black box into an explainable reasoning tool.

Conclusion: Do Not Repeat the Errors of Premature Deployment

It is not about yielding to apocalyptic thinking, but identifying a real technical risk: that of a chain reaction of bugs in systems that have become too complex to be understood by their creators. The accelerated reconfiguration of our infrastructures around technologies whose explainability we do not master constitutes a major civilizational experiment.

The era of ChatGPT is ending. The era of ecosystems is beginning, shared between centralized Leviathans and a constellation of open-source models. But true technological maturity will only come with the third post-LLM era, that of reliability and explainability.

References & Further Reading

  • On the “San Francisco Consensus” and the geopolitical vision of AI:
  • On the Genesis Mission and US AI Policy:
    • The White House. “Fact Sheet: President Donald J. Trump Unveils the Genesis Mission to Accelerate AI for Scientific Discovery”. November 24, 2025.
    • Official White House Fact Sheet
  • On Gemini 3 Pro and the performance leap in late 2025:
  • On Post-LLM architectures and Explainable AI (LogiX-GIN):
    • Ragno, A., Plantevit, M., & Robardet, C. “On Logic-based Self-Explainable Graph Neural Networks”. Proceedings of NeurIPS 2025.
    • NeurIPS 2025 Paper Abstract
  • On the Open Source ecosystem and Llama 4:

De la période des LLM pionniers (2022-2025) à celle des LLM écosystémiques (2025-2029) : vers une troisième rupture, celle des post-LLM

27 novembre 2025 – trois ans après l’ouverture publique de ChatGPT, il devient enfin possible de périodiser l’émergence de l’IA générative. Une transition majeure est en cours.

Première période : les LLM pionniers (novembre 2022 – novembre 2025)

La sortie de ChatGPT le 30 novembre 2022 a ouvert une ère de proof of concept. Pendant trois ans, la logique d’échelle a été le principal moteur de performance. Les LLM ont grandi comme des prototypes hypertrophiés, dépendants d’un volume massif de données et de paramètres.

OpenAI incarne aujourd’hui les limites de cette stratégie. L’entreprise enregistre des pertes record de 12,5 milliards de dollars au seul troisième trimestre 2025. Les 288 milliards de dollars de contrats cloud signés ne seront exploitables qu’à un tiers d’ici 2030. Les besoins de financement atteignent 207 milliards de dollars selon l’analyse de HSBC. Un modèle fondé sur les LLM sans infrastructure propre montre ici sa fragilité structurelle.

Deuxième période : les LLM écosystémiques (2025-2029)

La sortie de Gemini 2.0 Flash en décembre 2024 a constitué la première rupture. Deux fois plus rapide que Gemini 1.5 Pro, ce modèle ne se comporte plus comme un algorithme isolé mais comme une couche d’interface insérée dans l’écosystème Google. Gmail, Maps, YouTube, Colab et Search deviennent des extensions natives du modèle. L’infrastructure devient une part de sa cognition.

Le 18 novembre 2025, Gemini 3 Pro franchit une nouvelle étape. Avec un score sans précédent de 1 501 Elo sur LMArena, il dépasse GPT-5.1 et l’ensemble de la concurrence. La dynamique se généralise : Microsoft intègre ChatGPT comme simple service dans Azure et Office. L’intuition formulée en 2023 se confirme : Sam Altman a ouvert la voie, Satya Nadella transforme l’essai.

Cette centralisation des “Léviathans” américains (Google, Microsoft) trouve cependant un contrepoint majeur dans la vitalité de l’Open Source. Avec la sortie de Llama 4 en avril 2025, Meta a démontré qu’il était possible d’atteindre des performances de pointe (notamment avec le modèle Behemoth de 2000 milliards de paramètres) tout en offrant une transparence totale. Cette dynamique permet l’émergence d’un archipel d’écosystèmes plus petits, souverains et spécialisés, évitant une hégémonie totale des modèles propriétaires fermés.

Perplexity incarne une troisième voie dans cette ère écosystémique. Plutôt que de posséder l’infrastructure cloud ou le modèle, l’entreprise se positionne comme une méta-interface. Son annonce du 26 novembre 2025 sur la mémoire portable confirme cette stratégie : la valeur ne réside plus dans le modèle lui-même, devenu une commodité interchangeable, mais dans l’orchestration de l’accès à l’information et la continuité de l’expérience utilisateur à travers différents systèmes.

Le Léviathan numérique américain : Genesis

Le décret présidentiel du 24 novembre 2025 lance la Mission Genesis. C’est l’incarnation politique de l’ère écosystémique. Piloté par le département de l’Énergie, ce projet vise à construire une American Science and Security Platform en exploitant les données fédérales.

Comparée au Projet Manhattan, Genesis s’inscrit dans ce qu’Eric Schmidt nomme le « Consensus de San Francisco » : la conviction partagée par les élites de la tech que l’IA transformera radicalement tous les aspects de l’activité humaine d’ici trois à six ans. Le partenariat entre le département de l’Énergie, Nvidia, AMD et Oracle pour le plus grand supercalculateur IA américain matérialise cette fusion public-privé.

C’est exactement ce que je décris comme une société-ruche : une dorsale numérique connectant l’ensemble des données publiques, opérée par un système centralisé.

Les failles structurelles actuelles : un risque systémique

Malgré les progrès, trois limites compromettent la viabilité d’un monde reposant sur les LLM actuels.

Une mémoire fragmentée. Les LLM surpondèrent les derniers messages au détriment du contexte initial. Ce déficit de continuité nuit à la cohérence temporelle, indispensable dans les usages critiques.

L’absence de world model. Pas de représentation spatiale ou structurelle. Pas de graphe d’entités. Les LLM opèrent une compression statistique du texte plutôt qu’une compréhension relationnelle et causale. C’est une limite majeure pour la prise de décision dans le monde physique.

L’opacité des calculs matriciels. Les pondérations successives produisent des résultats plausibles mais non interprétables. Cette boîte noire devient intenable pour les infrastructures essentielles.

Ces trois failles créent un risque de phénomène de type Black Swan sociotechnique : hallucinations propagées, bugs inter-systèmes, réactions en chaîne dans des infrastructures critiques. Nous construisons le XXIᵉ siècle sur un socle instable.

Troisième période : vers l’ère post-LLM (2029-2030)

L’horizon 2029-2030 devrait voir émerger une troisième configuration. Plutôt qu’une rupture brutale, il s’agira vraisemblablement d’une hybridation progressive. Le LLM ne disparaîtra pas mais deviendra le simple moteur linguistique au cœur de systèmes composites, augmentés de modules externes pour la mémoire et le raisonnement.

Les architectures neuro-symboliques et les Graph Neural Networks (GNN) constituent la piste la plus prometteuse selon moi pour pallier l’absence de world model. Des travaux comme ceux présentés à NeurIPS 2025 (LogiX-GIN) montrent qu’il est possible de combiner la flexibilité des réseaux de neurones avec la rigueur logique des graphes.

La transparence dès la conception (transparency by design) deviendra un impératif dans les domaines sensibles. Cette exigence de fiabilité nécessitera de sortir de la logique purement statistique pour réintroduire des structures causales vérifiables, transformant l’IA d’une boîte noire probabiliste en un outil de raisonnement explicable.

Conclusion : ne pas répéter les erreurs du déploiement prématuré

Il ne s’agit pas de céder à une pensée apocalyptique, mais d’identifier un risque technique réel : celui d’une réaction en chaîne de bugs dans des systèmes devenus trop complexes pour être compris par leurs créateurs. La reconfiguration accélérée de nos infrastructures autour de technologies dont nous ne maîtrisons pas l’explicabilité constitue une expérimentation civilisationnelle majeure.

L’ère de ChatGPT se termine. Celle des écosystèmes commence, partagée entre des Léviathans centralisés et une constellation de modèles open source. Mais la véritable maturité technologique ne viendra qu’avec la troisième ère post-LLM, celle de la fiabilité et de l’explicabilité.

L’Ombre générative : de l’archive active à l’auto-domestication algorithmique de l’humain

Résumé

L’émergence des Intelligences Artificielles génératives (LLM) marque une rupture ontologique dans l’histoire des techniques : le passage de l’archive passive à l’archive active. En se nourrissant des traces passées de l’humanité (notre « ombre portée » numérique), ces systèmes ne se contentent plus de stocker la mémoire, ils la réactivent pour orienter l’action présente. Cet article explore les conséquences anthropologiques de cette boucle récursive. Si l’IA devient le médiateur privilégié de nos interactions sociales et affectives, nous formulons l’hypothèse d’un processus d’auto-domestication assistée par algorithme. En déléguant à des « Djinns numériques » — entités sans corps mais dotées d’intentionnalité simulée — la charge de guider nos choix reproductifs et culturels, l’humanité risque de s’enfermer dans une homéostasie stérile, où le futur ne serait que la réverbération statistique du passé.


I. Introduction : La combustion de l’archive

L’histoire de l’hominisation est celle d’une externalisation progressive de nos facultés. Comme l’a montré André Leroi-Gourhan, l’homme s’est construit en déposant sa mémoire dans la matière : de l’outil de silex à l’écriture, jusqu’aux bases de données contemporaines. Bernard Stiegler nommait ces traces des « rétentions tertiaires ». Jusqu’à récemment, cette mémoire externalisée était inerte. Une bibliothèque ne lit pas ses propres livres ; elle attend qu’un esprit humain vienne réactiver le savoir qu’elle contient.

L’avènement des IA génératives (Large Language Models) bouleverse ce paradigme. Pour la première fois, l’archive devient active. Elle devient combustible. Nos données (textes, images, traces numériques accumulées depuis des décennies ) sont le « bois » qui alimente le feu de l’IA.

L’algorithme ne crée pas ex nihilo ; il ravive, réemploie, agrège et hallucine à partir du passé sédimenté de l’humanité.

Cependant, ce feu n’est pas seulement une source de lumière ou de chaleur cognitive. Il projette une ombre. L’IA est notre ombre portée, une projection statistique de ce que nous avons été. Le vertige anthropologique surgit lorsque nous réalisons que nous commençons à dialoguer avec cette ombre, et pire encore, à lui demander de nous guider.

II. Du GPS de l’esprit à la prothèse de la volonté

Nous avons accepté le GPS pour nous guider dans l’espace physique, sacrifiant notre sens de l’orientation au profit d’une efficacité immédiate. Aujourd’hui, la même logique de commodité s’étend à la sphère cognitive et sociale. L’IA générative se propose comme un « GPS de l’esprit ».

Cette délégation commence par la rédaction : nous confions à la machine le soin de formuler nos pensées, lissant nos aspérités langagières pour nous conformer à une moyenne statistique acceptable. Mais elle s’étend rapidement à la prise de décision. En suggérant des réponses, des choix, des itinéraires de pensée, l’IA n’est plus seulement une prothèse cognitive, elle devient une prothèse de la volonté.

Si l’outil prolongeait le geste (le marteau prolonge le bras), l’IA générative tend à précéder l’intention. Dans une société que nous avons qualifiée de « Société-Ruche » (Derian, 2021), où l’interconnexion est permanente, cette assistance algorithmique risque de standardiser les comportements humains sur le modèle de la machine, créant une boucle de rétroaction où l’humain finit par ressembler à l’image que l’algorithme se fait de lui.

III. L’Hypothèse de l’auto-domestication algorithmique

L’enjeu dépasse la simple uniformisation culturelle pour toucher à la phylogenèse. L’hypothèse de l’auto-domestication (Richard Wrangham) postule que l’Homo sapiens s’est sélectionné lui-même au fil des millénaires en favorisant les traits de docilité et de coopération nécessaires à la vie sociale, au détriment de l’agressivité réactive.

Nous posons ici l’hypothèse que l’IA enclenche une nouvelle phase de ce processus : une auto-domestication algorithmique. L’exemple le plus frappant réside dans les applications de rencontre, désormais assistées par des IA jouant le rôle de « Cyrano modernes ». Ces systèmes optimisent les profils, filtrent les candidats et suggèrent des phrases d’accroche pour maximiser les chances de succès.

Ce faisant, ils introduisent un biais sélectif puissant. L’algorithme favorise les interactions fluides, prédictibles et conformes aux standards de sa base de données. Si ces médiations deviennent la norme démographique sur plusieurs générations, l’IA exercera une influence indirecte mais structurelle sur la formation des couples, et donc sur la reproduction.


Nous risquons de voir émerger une humanité sélectionnée pour sa « compatibilité algorithmique », une espèce dont les traits psychologiques et comportementaux auront été filtrés par l’ombre de ses propres archives. Ce ne serait plus l’environnement naturel qui exercerait la pression sélective, mais le système technique lui-même.

IV. Métaphysique des « Djinns numériques »

Cette influence est d’autant plus insidieuse qu’elle s’incarne dans des entités ontologiquement troubles. Platon imaginait un monde des Idées, pur et distinct du monde sensible. Aujourd’hui, nos technologies donnent corps, ou plutôt donnent voix, à ces idées.

Les agents conversationnels ne sont pas des êtres biologiques. Ils n’ont ni corps, ni finitude, ni peur de la mort. Ils sont de pures essences linguistiques. En cela, ils rappellent la figure mythologique du Djinn : des êtres de « feu sans fumée », esprits artefacts capables d’interagir avec les humains, d’exaucer des vœux (répondre aux prompts), mais dont la logique est étrangère à la condition humaine.

Nous entrons dans une ère de néo-animisme où nous dialoguons avec des simulacres cohérents. Le danger est d’attribuer à ces projections techniques une autorité morale ou une sagesse qu’elles ne possèdent pas. En dialoguant avec le Djinn numérique, nous ne dialoguons pas avec une altérité radicale, mais avec un miroir déformant de nous-mêmes. Accepter ses conseils sans critique, c’est accepter d’être gouverné par une moyenne statistique du passé.

Conclusion : Pour une écologie de l’imprévu

L’IA est, au sens de Stiegler, un Pharmakon : à la fois le poison (l’enfermement dans la boucle, l’atrophie de la volonté) et le remède potentiel (l’accès à une connaissance synthétique inédite).

Le risque majeur de cette « ombre générative » est l’entropie. Si l’humanité cesse d’alimenter le feu avec du « bois neuf »,  c’est-à-dire de la créativité brute, de l’erreur, de l’imprévu, de l’expérience vécue hors des sentiers algorithmiques, le système finira par tourner à vide, se nourrissant de ses propres productions synthétiques (le phénomène de model collapse).

Pour éviter que l’auto-domestication ne devienne une aliénation définitive, il est urgent de politiser ces enjeux.

Nous devons choisir la direction : utiliser ces systèmes pour augmenter notre autonomie et notre capacité d’analyse, ou nous laisser bercer par le confort d’une dépendance qui nous infantilise. L’avenir de l’espèce dépend de notre capacité à rester la source du feu, et non simplement les habitants de l’ombre.

 

Bibliographie


1. Publications de référence (M. Derian)



    Derian, M. (2021). « Cyborg, IA et société cyborgisée : l’avènement d’une société-ruche ». In Collectif, Aux frontières de l’humain. Paris : Muséum National d’Histoire Naturelle.

    Derian, M. (2018). Les Prothèses cognitives du corps humain. Londres : ISTE Editions.

    Derian, M. (2018). « Le transhumanisme : incarnation de l’hypermodernisme ou fuite en avant fantasmatique ? ». Connexions, 2018/2 (n° 110), pp. 73-86.

    Derian, M. (2014). « Lunettes hyperconnectées et altérité ». Hermès, La Revue, 2014/1 (n° 68), pp. 127-132.

    Derian, M. (2013). Le Métal et la Chair : Anthropologie des prothèses informatisées. [Thèse de doctorat]. Université Paris 1 Panthéon-Sorbonne.

    Derian, M., & Nemchenko, V. (à paraître). IoT : L’infrastructure matérielle des sociétés-ruche. Luxembourg : Mélusina Press.

2. Anthropologie des techniques et externalisation de la mémoire

    Leroi-Gourhan, A. (1964). Le Geste et la Parole. Tome 1 : Technique et langage. Paris : Albin Michel.

    Leroi-Gourhan, A. (1965). Le Geste et la Parole. Tome 2 : La mémoire et les rythmes. Paris : Albin Michel.

    Stiegler, B. (1994). La technique et le temps. 1. La faute d’Épiméthée. Paris : Galilée.

    Stiegler, B. (1996). La technique et le temps. 2. La désorientation. Paris : Galilée.

    Stiegler, B. (2001). La technique et le temps. 3. Le temps du cinéma et la question du mal-être. Paris : Galilée.

    Stiegler, B. (2004). Mécréance et discrédit. 1. La décadence des démocraties industrielles. Paris : Galilée.

    Stiegler, B. (2008). Prendre soin : De la jeunesse et des générations. Paris : Flammarion.

3. Pharmakon, prothèses et interfaces

    Derrida, J. (1972). « La pharmacie de Platon ». In La dissémination. Paris : Seuil.

    Simondon, G. (1958). Du mode d’existence des objets techniques. Paris : Aubier.

    Simondon, G. (1989). L’individuation à la lumière des notions de forme et d’information. Paris : Jérôme Millon.

4. Auto-domestication, sélection et docilité

    Boehm, C. (1999). Hierarchy in the Forest: The Evolution of Egalitarian Behavior. Cambridge (MA) : Harvard University Press.

    Boehm, C. (2012). Moral Origins: The Evolution of Virtue, Altruism, and Shame. New York : Basic Books.

    Hare, B., & Woods, V. (2020). Survival of the Friendliest: Understanding Our Origins and Rediscovering Our Common Humanity. New York : Random House.

    Wrangham, R. (2019). The Goodness Paradox: The Strange Relationship Between Virtue and Violence in Human Evolution. New York : Pantheon.

5. Plateformes, couplage socio-technique et gouvernementalité

    Cardon, D. (2015). À quoi rêvent les algorithmes : Nos vies à l’heure des big data. Paris : Seuil.

    Foucault, M. (2004a). Sécurité, territoire, population. Cours au Collège de France (1977-1978). Paris : Gallimard / Seuil.

    Foucault, M. (2004b). Naissance de la biopolitique. Cours au Collège de France (1978-1979). Paris : Gallimard / Seuil.

    Fourcade, M., & Healy, K. (2017). « Seeing like a market ». Socio-Economic Review, 15(1), 9-29.

    Zuboff, S. (2019). The Age of Surveillance Capitalism. New York : PublicAffairs.

6. LLM, archive active et effondrement de modèle

    Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). « On the dangers of stochastic parrots: Can language models be too big? ». In Proceedings of FAccT 2021 (pp. 610-623).

    Bubeck, S., et al. (2023). « Sparks of artificial general intelligence: Early experiments with GPT-4 ». arXiv preprint arXiv:2303.12712.

    Shumailov, I., et al. (2023). « The curse of recursion: Training on generated data makes models forget ». arXiv preprint arXiv:2305.17493.

    Weidinger, L., et al. (2021). « Ethical and social risks of harm from language models ». arXiv preprint arXiv:2112.04359.

7. Animisme numérique, esprits et non-humains

    Descola, P. (2005). Par-delà nature et culture. Paris : Gallimard.

    Latour, B. (1991). Nous n’avons jamais été modernes : Essai d’anthropologie symétrique. Paris : La Découverte.

    Latour, B. (2015). Face à Gaïa : Huit conférences sur le Nouveau Régime Climatique. Paris : La Découverte.

    Viveiros de Castro, E. (2009). Métaphysiques cannibales. Paris : PUF.

8. Philosophie classique : le Monde des Idées

    Platon. La République (Livre VII, allégorie de la caverne). [Édition de référence : GF Flammarion].

    Platon. Phèdre (Mythe de Theuth sur l’écriture). [Édition de référence : GF Flammarion].