Dr. Maxime Derian
AI Expert IRAISE & Co-founder of Technoréalisme.org (Luxembourg)
Ce discours est le texte préparé pour mes 4 interventions lors de la table ronde Panel 3 : Youth, human agency and AI: What’s Next? à l’UNESCO le 25 septembre 2026, dernier panel de la matinée juste avant la venue du Pape Léon XIV à l’UNESCO en début d’après-midi – contexte qui a marqué toute la discussion autour de son encyclique sur le devoir de rester profondément humains -, modéré par Dié du Learning Planet Institute, avec à mes côtés Miss Aina, sociologue des médias et titulaire de la Chaire UNESCO Learning to become, Jax of all Trades, créatrice de contenus sud-africaine, et Isabella Karosa Joya, représentante jeunesse du Brésil, pour clôturer.
Il a été initialement pensé en anglais puis traduit en français par un LLM sans modification substantielle de mes formulations personnelles afin de préserver ma voix avec mes images propres comme le GPS pour l’esprit, la vie morte qui se meut par elle-même / dead life self-activated, la délégation cognitive, et le parallèle avec les écrans, smartphones, jeux vidéos et réseaux sociaux, et réuni ici en un seul texte pour mon blog de recherche, auquel je décide d’ajouter en post-scriptum maintenant mon nouveau concept de Technovie pour anticiper les débats futurs sur l’artificial life au-delà de l’IA, en écho direct au momentum de cette même semaine à l’ONU à New York avec la première session de haut niveau sur la protection des enfants à l’ère de l’IA co-présidée par von der Leyen, Macron, Sanchez, Ruto, Albanese et portée par ma camarade de la Coalition I-RAISE.Org : Dr. Mathilde Cerioli.
Schifflange, le 27 septembre 2026.
Les enfants et les adolescents ne peuvent pas devenir les sujets d’une expérimentation technologique à grande échelle sur la planète.
—-
Lien vers mon intervention sur le site de l’UNESCO (la dernière heure de cette vidéo)
—
L’Humanité joue avec le feu.
“L’Humanité joue avec le feu.
Si je dois choisir une capacité que l’IA ne doit jamais remplacer, je dirais le jugement moral dans des situations réelles.
L’IA peut analyser, calculer, simuler, s’appuyer sur une quantité massive de données, presque tout ce que l’humanité a jamais écrit ou enregistré. Elle peut nous soutenir. Mais elle ne doit jamais être chargée de prendre nos décisions à notre place. Elle ne doit jamais devenir en charge de nos décisions.
Pour moi, la question maintenant est : comment les jeunes peuvent utiliser l’IA au lieu d’être utilisés par elle.
L’IA accélère la productivité, aide la créativité, l’apprentissage, c’est un bon usage. Mais quand l’IA a trop d’influence dans la vie quotidienne, on observe déjà scientifiquement une délégation cognitive accrue à ce système externe. Ça veut dire que la jeune génération utilise de plus en plus l’IA, s’appuie de plus en plus sur les systèmes d’IA pour résoudre les problèmes de la vie quotidienne et les interactions.
On devient progressivement comme si on suivait les conseils convaincants d’un “GPS pour l’esprit” : la voiture qui dit : “tourne à gauche”, “tourne à droite”. Dis cela, fais-ci ou fais-cela. Ça va à l’encontre de l’autonomie, à l’encontre de ce qui compte, de ce que Kant, Bouddha ou Jésus, notamment, nous ont enseigné
Les données que nous avons aujourd’hui montrent deux paradoxes très importants.
Premier paradoxe : l’IA peut améliorer les performances à court terme tout en affaiblissant potentiellement l’apprentissage quand elle remplace l’effort cognitif nécessaire pour acquérir une compétence. À court terme, utiliser ChatGPT ou Gemini ou Claude ou autre peut être très efficace pour résoudre un exercice. Mais avec le temps, l’adulte et le jeune peuvent commencer à perdre leur capacité à faire les choses par eux-mêmes.
Deuxième paradoxe : l’IA est un outil, pas un ami. Elle simule très bien l’interaction humaine. Même moi je vois clairement qu’en termes d’humour, les modèles d’IA sont complètement… mais ce sont ce que j’appelle de la vie morte qui se meut par elle-même. Dead life self-activated. Ça ressemble à une interaction. Ça ressemble à de l’humour. Ça ressemble à quelqu’un mais c’est personne. C’est juste une interaction d’algorithmes.
D’un point de vue anthropologique, c’est une révolution.
Alors, ce sera quoi un monde où des gamins aiment des machines depuis le plus jeune âge ? Ils vont faire confiance à des systèmes synthétiques conçus par le capitalisme.
Il y a une étude sur 1 000 lycéens aux US qui décrit exactement ça : on a maintenant du cognitive offloading en mathématiques par exemple. Les élèves commencent à devenir dépendants de l’IA pour résoudre les problèmes.
Dans ma propre recherche et expertise pour la coalition iRAISE, je vois à quelle vitesse les enfants commencent aussi à avoir des relations parasociales. Ils se connectent, ils s’attachent à ce chatbot, et malgré qu’on essaye de tailler le chatbot pour être moins amical, il y a un besoin chez l’enfant d’avoir des amis, donc ils utilisent ça.
En bref : si l’IA me donne la réponse trop vite et mal, elle vole mon raisonnement. Mais si elle me challenge, me demande de me justifier, elle devient un tuteur, un “scaffold“. Ce n’est donc pas seulement mauvais. Si l’IA me donne un faux amour et m’isole, c’est mauvais. Mais si elle m’aide à comprendre les autres, à trouver des ressources pour m’améliorer socialement, c’est bon.
On a besoin de beaucoup plus de recherche longitudinale. On ne sait pas exactement ce qui se passe à présent. C’est une très grande expérimentation sociale.
La science nous explique déjà qu’il y a des changements dans la façon dont les ados du monde et les enfants interagissent et apprennent. C’est un processus en cours et on doit agir maintenant pour guider ce processus, pour éviter de se retrouver dans quelques années à découvrir plein de problèmes, comme on l’a fait avec l’usage des écrans, juste les smartphones et les jeux vidéos et les réseaux sociaux et toutes ces choses pour les enfants.
Premier point à rappeler à tout le monde : les enfants et les adolescents ne peuvent pas devenir les sujets d’une expérimentation technologique à grande échelle sur la planète et ils ne peuvent pas être juste une variable d’ajustement pour l’incertitude économique, pour des investissements, pour du capex.
On ne devrait pas demander aux enfants de s’adapter à l’IA. On doit adapter l’IA aux enfants.
L’AI literacy fait partie de la réponse, oui, parce qu’on enseigne aux jeunes à vivre avec l’IA, mais, tout évolue si vite à cause de l’innovation IA qui est très rapide et très puissante qu’on on doit agir aussi surtout sur le design des systèmes eux-mêmes.
Si je pouvais recommander une action concrète pour les deux-trois prochaines années par exemple, ce serait d’établir des normes de sécurité d’IA spécifiques, fondées sur des preuves, et contraignantes, pour les enfants et les jeunes dans le monde, qui reflètent leurs besoins développementaux.
En fait, c’est très récent : à New York, aux Nations Unies, à l’Assemblée Générale, pour la première fois, une session de haut niveau sur la protection des enfants à l’ère de l’IA, co-présidée par le Président Macron de la France, le Premier Ministre Sanchez de l’Espagne, M. Ruto du Kenya, le Premier Ministre Albanese de l’Australie, avec la présence de la Présidente de l’Union Européenne.
Ma collègue et amie Dr. Mathilde Cerioli chief scientist de I-raise.org était là-bas et elle a porté ce message : “AI safety for children needs specific requirements that reflect their developmental needs, and researchers in social science should help guide design. We already know enough to act.”
On n’a pas besoin d’attendre de voir tous les problèmes arriver. On peut déjà sentir qu’il y a beaucoup, beaucoup de problèmes. Donc on doit investir dans la science qui nous dit comment mesurer, comment designer, et aussi comment faire respecter ça avec une vraie régulation. Et cette régulation doit aussi se faire avec la Chine et en tenant compte du Sud global, parce que sinon ce ne sera pas effectif.
Donc voici une feuille de route, ma roadmap, en trois étapes :
Un : investir dans la science. On veut toujours de l’argent pour la science, mais là on en a besoin parce que sinon on parle juste de possibilités dans les journaux. Il nous faut des métriques très claires, et aussi penser local culture par culture : l’Afrique du Sud ce n’est pas la même chose que le Luxembourg et, le Japon, ce n’est pas la même chose que la France. Il faut mesurer comment l’IA affecte les enfants en termes d’apprentissage, de mémoire, de pensée critique, d’autonomie et de la façon dont ils décident.
Deux : traduire la science en normes éthiques et comportementales concrètes qu’on impose aux entreprises d’IA. Parce qu’on doit se soucier du bien-être numérique des jeunes. Les entreprises comme OpenAI ou Google, par exemple, font des choses qui vont dans le bon sens (ChatGPT for kids, AI tutor…) sur base volontaire, c’est bien. Cest très bien mais base la volontaire, ce n’est pas assez pour garantir la sécurité des enfants.
Trois : réguler à l’échelle mondiale. Parce que le vrai risque, ce n’est pas Terminator, ce n’est pas Blade Runner. Ce n’est pas une IA qui devient plus humaine que les humains, même si c’est une possibilité avec la vie artificielle “Artificial Life” (que je nomme “Technovie“) qui arrivera probablement tard. Le vrai risque, c’est qu’elle réorganise complètement la façon dont on s’organise. Comme le smartphone a changé notre vie, l’IA change très, très fortement la façon dont on s’organise. Et on doit garder ce nouveau monde démocratique.
Comme le Pape sa Sainteté Léon XIV l’a dit, on doit mettre des limites.
Parce que les enfants sont les individus les plus importants que l’on doit protéger, soigner et aimer.”
English version
This speech is the text prepared for my 4 interventions during the roundtable Panel 3: Youth, human agency and AI: What’s Next? at UNESCO on 25 September 2026, last panel of the morning just before the arrival of Pope Leo XIV at UNESCO in the early afternoon – context that marked the whole discussion around his encyclical on the pressing duty to remain profoundly human -, moderated by Dié from the Learning Planet Institute, with at my side Miss Aina, media sociologist and holder of the UNESCO Chair Learning to become, Jax of all Trades, South African content creator, and Isabella Karosa Joya, youth representative from Brazil, to close.
I use my own conceptual framing such as the GPS for the mind, the dead life self-activated / vie morte qui se meut par elle-même, the cognitive delegation, and the parallel with screens, smartphones, video games and social networks, and reunited here in a single text for my research blog, to which I decide to add here in post-scriptum my new concept of Technovie to anticipate future debates on artificial life beyond AI, in direct echo to the momentum of that same week at the UN in New York with the first high-level session on protecting children in the age of AI co-chaired by von der Leyen, Macron, Sanchez, Ruto, Albanese and carried by my comrade from the IRAISE.Org Coalition: Dr. Mathilde Cerioli.
Schifflange, the 27th of September
Children and adolescents cannot become the subjects of a large-scale technological experiment on the planet.
Mankind is playing with fire.
“Mankind is playing with fire.
So if I have to choose one ability that AI should never replace, I would say moral judgment in real life situations.
AI can analyze, calculate, simulate, rely on a massive quantity of data, almost all what mankind has ever written or recorded. It can support us. But AI should never become in charge of our decisions. It should never be in charge of our decisions.
For me, the question now is: how young people can use AI instead of being used by AI systems.
Well, AI accelerates productivity, helps creativity, learning is good use. But when AI has too much influence in daily life, we witness scientifically already an increased cognitive delegation to this external system. That means the young generation is using more and more AI, relies more and more on AI systems to solve daily life problems and interactions.
So one can become progressively following the convincing advice of a GPS for the mind – the car says turn left, turn right. Say this, do this or do that. That goes against autonomy, against what counts, against what Kant, Buddha or Jesus, for instance, taught us.
The evidence we have today suggests two very important paradoxes.
First paradox: AI can improve performance in the short term while potentially weakening learning when it replaces the cognitive effort required to acquire a skill. On the short term, using ChatGPT or Gemini or Claude or other can be very efficient to solve an exercise problem. But with time, the adult and the young can start to be losing their ability to do things by themselves.
Second paradox: AI is a tool, not a friend. It simulates human interaction very, very well. Even myself I see clearly that in terms of humor, AI models are completely… but they are what I call dead life self-activated. Dead life. It looks like an interaction. It looks like humor. It looks like someone but it’s nobody. It’s just interaction of algorithms.
On anthropology, really speaking, it is a revolution.
So what will be a world where kids love machines since an early age? They will trust synthetic systems designed by capitalism.
There is a survey of 1,000 high school students in US which described the fact we now have cognitive offloading in mathematics for example. Students start to be dependent on AI to solve problems.
In my own research and expertise for iRAISE coalition, I see how fast kids also start to have parasocial relationships. They connect, they bond with this AI chatbot and despite we tailor the chatbot to be less friendly because there is a need in the kids to have friends, so they use it.
So in short: if AI gives me the answer too fast and wrong, it steals my reasoning. But if it challenges me, asks me to justify, it becomes a scaffold. So it’s not only bad. If AI gives me a fake love and isolates me, it’s wrong. But if AI helps me to understand others, to find resources to self-improve social abilities, that’s good.
We need much more longitudinal research. We don’t know exactly what’s happening at present. It’s a very big social experiment.
Now the science explains that there are changes in the way the teens of the world and the kids are interacting and are learning. So it’s a process ongoing and we have to act now to guide this process to avoid to be just in a few years discovering many, many problems like we did with the screen use – just smartphone and video games and social networks and all these things for the kids.
First to remember everybody that children and adolescents cannot become the subject of a large scale technological experiment on the planet and they can’t be just variable for economical uncertainty about investment and this kind of capex.
We shouldn’t ask children to adapt to AI. We have to adapt AI to the children.
AI literacy is a part of the answer, yes, because we teach young people to live with AI, but everything is evolving so fast because AI innovation is very fast and powerful that we have to act also, and especially, on the design of the systems themselves.
If I could recommend one concrete action for the next two-three years for example, it would be to establish specific, evidence-based and enforceable AI safety standards for children and young people in the world that will reflect their developmental needs.
Actually it is very recent: in New York at the United Nations General Assembly, for the first time, a high-level session on protecting children in the age of AI, co-chaired by President Macron of France, Prime Minister Sanchez of Spain, Mr. Ruto of Kenya, Prime Minister Albanese of Australia, with the presence of the President of European Union von der Leyen.
My colleague and friend Dr. Mathilde Cerioli, chief scientist of I-RAISE.org was there and she carried this message: “AI safety for children needs specific requirements that reflect their developmental needs, and researchers in social science should help guide design. We already know enough to act.”
We don’t have to wait to see all the problems that we can meet. We can already feel that there are many, many issues. So we need to invest in the science that tells us how to measure, how to design, and also to enforce that with a proper regulation. And this proper regulation will be also done with China and also taking account of the Global South because if not it will still not be effective.
So here is a roadmap, my roadmap, in three steps:
One: invest in science. We always want money in science but because we need to know, because if not we are just talking about possibilities in newspapers. We need very clear metrics, and also local, culture by culture: South Africa is not the same as Luxembourg, and Japan is not the same as France. So we have to measure how AI affects children in terms of learning, memory, critical thinking, autonomy and the way they decide.
Two: translate the science into concrete ethical and behavioral standards that we impose to AI companies. Because we have to care about the digital wellbeing of the youth. Companies like OpenAI or Google for example, they do things that go in the right direction – ChatGPT for kids, AI tutor… – on voluntary base, it’s good. It’s very good but voluntary base is not enough to guarantee children safety.
Three: regulate on the worldwide scale. Because the very risk is not Terminator, it’s maybe not Blade Runner. It’s not AI becoming more human than human, even if it’s a possibility with artificial life – Artificial Life [that I name “Technovie” / “Technolife”] which will probably come later. But to really reorganize the way we organize – as the smartphone changed our life, AI changes very, very strongly the way we organize – and we must keep this new world democratic.
Like the Pope, His Holiness Leo XIV said, we should set limits.
Because children are the most important individuals that we must protect, care and love.”
—
