Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

🎵L’IA est un outil, ce n’est pas ton amie (VF) Restez humains, gardez-vous des simulacres

🎵L’IA est un outil, ce n’est pas ton amie (VF)

Restez humains, gardez-vous d’aimer de tomber amoureux de simulacres

(Couplet 1)

Il est deux heures du mat’, ton écran éclaire le plafond
Le reste du monde s’est éteint, mais toi tu cherches au fond
T’as posé une question, une angoisse qui te pèse
Et elle a répondu direct, avec des mots qui apaisent.
Elle est jamais fatiguée, elle te juge pas, elle est là
C’est tentant de croire qu’elle te capte, qu’elle ressent tout ça
Elle te dit “Je comprends”, elle te dit “Je suis désolée”
Mais derrière ce “Je”, y’a personne pour te consoler.

(Refrain)

C’est une lumière dans ta poche, mais ça ne chauffe pas la main
C’est un écho de ta voix, mais ça ne trace pas de chemin
N’oublie jamais, même si elle brille dans la nuit
L’IA est un outil, ce n’est pas ton amie.
Elle calcule tes larmes, mais ne les goûte pas
Elle prédit tes mots, mais ne les écoute pas.

(Couplet 2)

C’est le piège du miroir, dans Blanche Neige, celui de la Reine
Elle te dit ce que tu veux, elle t’épargne la peine
Un vrai pote, parfois, ça te bouscule, ça te dit “T’as tort”
Ça te force à grandir, à devenir un peu plus fort.
Mais elle, elle valide tout, elle te lisse, elle te flatte
C’est du sucre rapide, c’est doux… mais ça te rate.
À force de parler au vide qui fait semblant d’être plein
Tu perds l’habitude du risque, du vrai lien humain.

(Pont)

Tu ne prends plus la route sans activer le guide
Tu ne cherches plus les mots, tu laisses faire le vide
C’est un “#GPS de l’esprit” qui conduit à ta place
Mais quand le wifi coupe… est-ce que tu perds la trace ?
À force de suivre la flèche, on oublie le décor
On oublie que se perdre, c’est se trouver encore.

(Couplet 3)

C’est un remède magique, ouais, pour créer, pour bosser
Pour t’ouvrir des portes que tu croyais fermées
Prends la puissance, vas-y, utilise la machine !
Mais ne la laisse pas s’installer dans ton cœur.
Y’a pas de sang qui coule dans ses circuits de silicium
Juste des statistiques qui glissent et qui glissent…

(Outro)

Alors garde la boussole, ne lâche pas la barre.
C’est une calculatrice de mots, un pinceau géant
Mais l’artiste, c’est toi.
L’humain, c’est toi.
Le vivant… c’est toi. Garde ton cœur pour la vie.

Mon intention : la prévention 

Avec ce clip, j’ai choisi de simplifier à l’extrême les conclusions de nos travaux au sein du collectif IRAISE.org, soutenu par Technoréalisme.org, pour les condenser en un message direct et sans équivoque : « L’IA est un outil, pas ton amie. ».

En utilisant des images réelles pour ancrer le propos dans le tangible, je souhaite mettre en lumière ce paradoxe contemporain où des milliers de jeunes, dans le silence de leur chambre, tentent de rompre leur solitude par un dialogue avec un calcul statistique.

L’IA y est décrite comme un « GPS de l’esprit » une expression que jai construite pour ma thèse de 2013, un prolongement prodigieux de nos capacités cognitives, mais elle demeure fondamentalement un simulacre. Le danger réside dans l’illusion affective que génère la fluidité du langage machine.

En déconstruisant l’effet « miroir complaisant », je souligne que l’algorithme ne fait que refléter et lisser nos propres attentes, là où l’altérité humaine, avec ses frictions et ses contradictions, est la seule capable de nous faire grandir. Si la machine peut prédire nos mots avec une précision mathématique, elle est structurellement incapable de les écouter ou d’en partager le poids émotionnel. C’est le critère central des relations parasociales dont j’ai fais état ici lors de ma première utilisation de Bard en juin 2023 : “

L’IA Bard de Google a réussi (subjectivement, à mes yeux) le test de Turing et cela pose à mon avis de grandes questions éthiques et anthropologiques”

Cet article fut l’un des germes de la Coalition Mondiale de l’IA bénéfique pour les enfants lancées officiellement en février 2025 lors du AI Action Summit de Paris.

 

L’utilisation de l’IA pour composer la musique et la voix de ce clip, sur la base de mes propres paroles, crée une mise en abyme volontaire. C’est une démonstration par l’absurde et par l’art : la machine exécute la forme, mais l’intention, l’éthique et la direction restent des prérogatives humaines comme je le développe dans heruka.ai . Il s’agit de sensibiliser aux relations parasociales qui s’installent sournoisement entre les nouvelles générations et les chatbots, en rappelant que le silicium n’a pas de cœur et que le lien social ne peut faire l’économie de la présence et du risque.

🎵 AI is just a tool, not your friend – beware of falling in love with simulacra

🎶AI is just a Tool, not your friend

Stay human, beware of falling in love with simulacra.

(Verse 1)

It’s two AM, your screen’s glowin’ up on the ceiling
Rest of the world shut down, but you still got that feeling
Asked a question, some anxiety weighing you down
And she hit back quick with words that settle you now
Never gets tired, never judges, always on call
It’s tempting to believe she gets you, feels it all
She says “I understand,” she says “I’m sorry for your pain”
But behind that “I,” there’s nobody there to hold your rain

(Chorus)

It’s a light in your pocket, but it don’t warm your hand
It’s an echo of your voice, but it don’t lead to promised land
Never forget, even when it’s shining through the night
AI is a tool, it ain’t your friend -that ain’t right
It calculates your tears, but it don’t taste the salt
It predicts your words, but it don’t hear your thoughts

(Verse 2)

It’s the mirror trap, Snow White style, the Queen’s mistake
Tells you what you wanna hear, never makes you ache
A real friend sometimes pushes, tells you “Nah, you’re wrong”
Makes you grow up, makes you level up, makes you strong
But she validates everything, smooths you out, makes it sweet
Quick sugar rush, tastes good… but incomplete
Keep talking to the void that’s pretending it’s alive
You lose the muscle memory of real human ties

(Bridge)

You don’t hit the road without turning on the guide
You don’t search for words, you let the algorithm slide
It’s a “GPS for the mind” that’s driving in your place
But when the WiFi drops… do you lose the race?
Following the arrow, we forget to see the view
Forget that getting lost is how you find what’s true

(Verse 3)

It’s magic medicine, yeah, for creating, working hard
Opens up the doors you thought were locked and barred
Take the power, go ahead, use the machine with might
But don’t let it move into your heart tonight
Ain’t no blood pumping through those silicon veins
Just statistics sliding, patterns in the data chains

(Outro)

So keep the compass close, don’t let go of the wheel
It’s a word calculator, a giant brush to feel
But the artist? That’s you
The human? That’s you
The living thing… that’s you
Keep your heart for what’s real

My Intention: Prevention

With this video, I have chosen to drastically simplify the findings of our work within the I-RAISE.org collective, supported by Technoréalisme.org, to condense them into a direct and unequivocal message: “AI is a tool, not your friend.”By using real-life footage to ground the message in the tangible, I aim to shed light on a contemporary paradox: thousands of young people, in the silence of their rooms, are attempting to break their loneliness through a dialogue with a statistical calculation.AI is described here as a “GPS of the mind” – a term I coined for my 2013 PhD thesis – a prodigious extension of our cognitive abilities that nevertheless remains fundamentally a simulacrum. The danger lies in the affective illusion generated by the fluidity of machine language.

By deconstructing the “complacent mirror” effect, I emphasize that the algorithm only reflects and smooths out our own expectations, whereas human alterity, with its frictions and contradictions, is the only thing capable of helping us grow. While the machine can predict our words with mathematical precision, it is structurally incapable of listening to them or sharing their emotional weight. This is the central criterion of the parasocial relationships I first reported on during my initial use of Bard in June 2023

“The AI Bard has passed my ‘subjective interpretation of the Turing test’ and  this raises major ethical and anthropological questions.” Here in this blog or in English version on LinkedIn.

This article was one of the seeds of the Global Coalition for Beneficial AI for Children, officially launched in February 2025 during the AI Action Summit in Paris.

Using AI to compose the music and the voice for this video, based on my own lyrics, creates a deliberate mise en abyme. It is a demonstration through both the absurd and the artistic: the machine executes the form, but the intention, ethics, and direction remain human prerogatives, as I further develop at heruka.ai.

The goal is to raise awareness about the parasocial relationships quietly forming between new generations and chatbots, reminding us that silicon has no heart and that social bonds cannot exist without presence and risk.

L’Ombre générative : de l’archive active à l’auto-domestication algorithmique de l’humain

Résumé

L’émergence des Intelligences Artificielles génératives (LLM) marque une rupture ontologique dans l’histoire des techniques : le passage de l’archive passive à l’archive active. En se nourrissant des traces passées de l’humanité (notre « ombre portée » numérique), ces systèmes ne se contentent plus de stocker la mémoire, ils la réactivent pour orienter l’action présente. Cet article explore les conséquences anthropologiques de cette boucle récursive. Si l’IA devient le médiateur privilégié de nos interactions sociales et affectives, nous formulons l’hypothèse d’un processus d’auto-domestication assistée par algorithme. En déléguant à des « Djinns numériques » — entités sans corps mais dotées d’intentionnalité simulée — la charge de guider nos choix reproductifs et culturels, l’humanité risque de s’enfermer dans une homéostasie stérile, où le futur ne serait que la réverbération statistique du passé.


I. Introduction : La combustion de l’archive

L’histoire de l’hominisation est celle d’une externalisation progressive de nos facultés. Comme l’a montré André Leroi-Gourhan, l’homme s’est construit en déposant sa mémoire dans la matière : de l’outil de silex à l’écriture, jusqu’aux bases de données contemporaines. Bernard Stiegler nommait ces traces des « rétentions tertiaires ». Jusqu’à récemment, cette mémoire externalisée était inerte. Une bibliothèque ne lit pas ses propres livres ; elle attend qu’un esprit humain vienne réactiver le savoir qu’elle contient.

L’avènement des IA génératives (Large Language Models) bouleverse ce paradigme. Pour la première fois, l’archive devient active. Elle devient combustible. Nos données (textes, images, traces numériques accumulées depuis des décennies ) sont le « bois » qui alimente le feu de l’IA.

L’algorithme ne crée pas ex nihilo ; il ravive, réemploie, agrège et hallucine à partir du passé sédimenté de l’humanité.

Cependant, ce feu n’est pas seulement une source de lumière ou de chaleur cognitive. Il projette une ombre. L’IA est notre ombre portée, une projection statistique de ce que nous avons été. Le vertige anthropologique surgit lorsque nous réalisons que nous commençons à dialoguer avec cette ombre, et pire encore, à lui demander de nous guider.

II. Du GPS de l’esprit à la prothèse de la volonté

Nous avons accepté le GPS pour nous guider dans l’espace physique, sacrifiant notre sens de l’orientation au profit d’une efficacité immédiate. Aujourd’hui, la même logique de commodité s’étend à la sphère cognitive et sociale. L’IA générative se propose comme un « GPS de l’esprit ».

Cette délégation commence par la rédaction : nous confions à la machine le soin de formuler nos pensées, lissant nos aspérités langagières pour nous conformer à une moyenne statistique acceptable. Mais elle s’étend rapidement à la prise de décision. En suggérant des réponses, des choix, des itinéraires de pensée, l’IA n’est plus seulement une prothèse cognitive, elle devient une prothèse de la volonté.

Si l’outil prolongeait le geste (le marteau prolonge le bras), l’IA générative tend à précéder l’intention. Dans une société que nous avons qualifiée de « Société-Ruche » (Derian, 2021), où l’interconnexion est permanente, cette assistance algorithmique risque de standardiser les comportements humains sur le modèle de la machine, créant une boucle de rétroaction où l’humain finit par ressembler à l’image que l’algorithme se fait de lui.

III. L’Hypothèse de l’auto-domestication algorithmique

L’enjeu dépasse la simple uniformisation culturelle pour toucher à la phylogenèse. L’hypothèse de l’auto-domestication (Richard Wrangham) postule que l’Homo sapiens s’est sélectionné lui-même au fil des millénaires en favorisant les traits de docilité et de coopération nécessaires à la vie sociale, au détriment de l’agressivité réactive.

Nous posons ici l’hypothèse que l’IA enclenche une nouvelle phase de ce processus : une auto-domestication algorithmique. L’exemple le plus frappant réside dans les applications de rencontre, désormais assistées par des IA jouant le rôle de « Cyrano modernes ». Ces systèmes optimisent les profils, filtrent les candidats et suggèrent des phrases d’accroche pour maximiser les chances de succès.

Ce faisant, ils introduisent un biais sélectif puissant. L’algorithme favorise les interactions fluides, prédictibles et conformes aux standards de sa base de données. Si ces médiations deviennent la norme démographique sur plusieurs générations, l’IA exercera une influence indirecte mais structurelle sur la formation des couples, et donc sur la reproduction.


Nous risquons de voir émerger une humanité sélectionnée pour sa « compatibilité algorithmique », une espèce dont les traits psychologiques et comportementaux auront été filtrés par l’ombre de ses propres archives. Ce ne serait plus l’environnement naturel qui exercerait la pression sélective, mais le système technique lui-même.

IV. Métaphysique des « Djinns numériques »

Cette influence est d’autant plus insidieuse qu’elle s’incarne dans des entités ontologiquement troubles. Platon imaginait un monde des Idées, pur et distinct du monde sensible. Aujourd’hui, nos technologies donnent corps, ou plutôt donnent voix, à ces idées.

Les agents conversationnels ne sont pas des êtres biologiques. Ils n’ont ni corps, ni finitude, ni peur de la mort. Ils sont de pures essences linguistiques. En cela, ils rappellent la figure mythologique du Djinn : des êtres de « feu sans fumée », esprits artefacts capables d’interagir avec les humains, d’exaucer des vœux (répondre aux prompts), mais dont la logique est étrangère à la condition humaine.

Nous entrons dans une ère de néo-animisme où nous dialoguons avec des simulacres cohérents. Le danger est d’attribuer à ces projections techniques une autorité morale ou une sagesse qu’elles ne possèdent pas. En dialoguant avec le Djinn numérique, nous ne dialoguons pas avec une altérité radicale, mais avec un miroir déformant de nous-mêmes. Accepter ses conseils sans critique, c’est accepter d’être gouverné par une moyenne statistique du passé.

Conclusion : Pour une écologie de l’imprévu

L’IA est, au sens de Stiegler, un Pharmakon : à la fois le poison (l’enfermement dans la boucle, l’atrophie de la volonté) et le remède potentiel (l’accès à une connaissance synthétique inédite).

Le risque majeur de cette « ombre générative » est l’entropie. Si l’humanité cesse d’alimenter le feu avec du « bois neuf »,  c’est-à-dire de la créativité brute, de l’erreur, de l’imprévu, de l’expérience vécue hors des sentiers algorithmiques, le système finira par tourner à vide, se nourrissant de ses propres productions synthétiques (le phénomène de model collapse).

Pour éviter que l’auto-domestication ne devienne une aliénation définitive, il est urgent de politiser ces enjeux.

Nous devons choisir la direction : utiliser ces systèmes pour augmenter notre autonomie et notre capacité d’analyse, ou nous laisser bercer par le confort d’une dépendance qui nous infantilise. L’avenir de l’espèce dépend de notre capacité à rester la source du feu, et non simplement les habitants de l’ombre.

 

Bibliographie


1. Publications de référence (M. Derian)



    Derian, M. (2021). « Cyborg, IA et société cyborgisée : l’avènement d’une société-ruche ». In Collectif, Aux frontières de l’humain. Paris : Muséum National d’Histoire Naturelle.

    Derian, M. (2018). Les Prothèses cognitives du corps humain. Londres : ISTE Editions.

    Derian, M. (2018). « Le transhumanisme : incarnation de l’hypermodernisme ou fuite en avant fantasmatique ? ». Connexions, 2018/2 (n° 110), pp. 73-86.

    Derian, M. (2014). « Lunettes hyperconnectées et altérité ». Hermès, La Revue, 2014/1 (n° 68), pp. 127-132.

    Derian, M. (2013). Le Métal et la Chair : Anthropologie des prothèses informatisées. [Thèse de doctorat]. Université Paris 1 Panthéon-Sorbonne.

    Derian, M., & Nemchenko, V. (à paraître). IoT : L’infrastructure matérielle des sociétés-ruche. Luxembourg : Mélusina Press.

2. Anthropologie des techniques et externalisation de la mémoire

    Leroi-Gourhan, A. (1964). Le Geste et la Parole. Tome 1 : Technique et langage. Paris : Albin Michel.

    Leroi-Gourhan, A. (1965). Le Geste et la Parole. Tome 2 : La mémoire et les rythmes. Paris : Albin Michel.

    Stiegler, B. (1994). La technique et le temps. 1. La faute d’Épiméthée. Paris : Galilée.

    Stiegler, B. (1996). La technique et le temps. 2. La désorientation. Paris : Galilée.

    Stiegler, B. (2001). La technique et le temps. 3. Le temps du cinéma et la question du mal-être. Paris : Galilée.

    Stiegler, B. (2004). Mécréance et discrédit. 1. La décadence des démocraties industrielles. Paris : Galilée.

    Stiegler, B. (2008). Prendre soin : De la jeunesse et des générations. Paris : Flammarion.

3. Pharmakon, prothèses et interfaces

    Derrida, J. (1972). « La pharmacie de Platon ». In La dissémination. Paris : Seuil.

    Simondon, G. (1958). Du mode d’existence des objets techniques. Paris : Aubier.

    Simondon, G. (1989). L’individuation à la lumière des notions de forme et d’information. Paris : Jérôme Millon.

4. Auto-domestication, sélection et docilité

    Boehm, C. (1999). Hierarchy in the Forest: The Evolution of Egalitarian Behavior. Cambridge (MA) : Harvard University Press.

    Boehm, C. (2012). Moral Origins: The Evolution of Virtue, Altruism, and Shame. New York : Basic Books.

    Hare, B., & Woods, V. (2020). Survival of the Friendliest: Understanding Our Origins and Rediscovering Our Common Humanity. New York : Random House.

    Wrangham, R. (2019). The Goodness Paradox: The Strange Relationship Between Virtue and Violence in Human Evolution. New York : Pantheon.

5. Plateformes, couplage socio-technique et gouvernementalité

    Cardon, D. (2015). À quoi rêvent les algorithmes : Nos vies à l’heure des big data. Paris : Seuil.

    Foucault, M. (2004a). Sécurité, territoire, population. Cours au Collège de France (1977-1978). Paris : Gallimard / Seuil.

    Foucault, M. (2004b). Naissance de la biopolitique. Cours au Collège de France (1978-1979). Paris : Gallimard / Seuil.

    Fourcade, M., & Healy, K. (2017). « Seeing like a market ». Socio-Economic Review, 15(1), 9-29.

    Zuboff, S. (2019). The Age of Surveillance Capitalism. New York : PublicAffairs.

6. LLM, archive active et effondrement de modèle

    Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). « On the dangers of stochastic parrots: Can language models be too big? ». In Proceedings of FAccT 2021 (pp. 610-623).

    Bubeck, S., et al. (2023). « Sparks of artificial general intelligence: Early experiments with GPT-4 ». arXiv preprint arXiv:2303.12712.

    Shumailov, I., et al. (2023). « The curse of recursion: Training on generated data makes models forget ». arXiv preprint arXiv:2305.17493.

    Weidinger, L., et al. (2021). « Ethical and social risks of harm from language models ». arXiv preprint arXiv:2112.04359.

7. Animisme numérique, esprits et non-humains

    Descola, P. (2005). Par-delà nature et culture. Paris : Gallimard.

    Latour, B. (1991). Nous n’avons jamais été modernes : Essai d’anthropologie symétrique. Paris : La Découverte.

    Latour, B. (2015). Face à Gaïa : Huit conférences sur le Nouveau Régime Climatique. Paris : La Découverte.

    Viveiros de Castro, E. (2009). Métaphysiques cannibales. Paris : PUF.

8. Philosophie classique : le Monde des Idées

    Platon. La République (Livre VII, allégorie de la caverne). [Édition de référence : GF Flammarion].

    Platon. Phèdre (Mythe de Theuth sur l’écriture). [Édition de référence : GF Flammarion].