Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Brimades et mort en direct : Non au capitalisme de la cruauté

Un homme est mort

Une mort en direct

Un homme est mort en direct. Et ce n’est ni une fiction, ni un épisode de Black Mirror.

Jean Pormanove, alias Raphaël Graven, harcelé depuis trop longtemps, a rendu son dernier souffle sous les yeux de 30 000 spectateurs. Quadragénaire cabossé, recyclé par Internet en bouffon numérique, il était devenu le punching-ball virtuel d’une foule avide.

Banni de Twitch, il migra sur Kick, l’eldorado des algorithmes indifférents tant que les dons circulent. Deux jeunes streamers – sous les pseudonymes de Naruto et Safine – firent de sa fragilité un business plan : gifles tarifées, étranglements sponsorisés, insultes rémunérées. Les usagers du chat paient, eux orchestrent, la plateforme encaisse.

Le 18 août 2025, après plusieurs jours de privation de sommeil et de coups « commandés » en direct, il s’endormit pour ne plus jamais se réveiller. À 3h12, il cessa de respirer. “Inquiets” de ne pas le voir bouger, ses “amis” lui jetèrent une bouteille en plastique à la figure pour tenter de le réveiller, en vain, puisqu’il etait mort. Un geste ultime qui en dit long sur le respect à son égard…

L’autopsie conclut à une cause naturelle, refusant d’imputer le décès à une intervention extérieure. Il n’y a pas de meurtre ou d’accusation d’un acte direct. Mais cette mort juridiquement « naturelle » ne veut pas dire anthropologiquement neutre. Ce n’est pas un simple accident. Cela ne peut se lire que dans un ensemble ou le décès tragique n’est finalement que le révélateur d’une logique potentiellement bouchère qui peut se mettre en place sur les réseaux avec la sexualité, la violence ou tout type de voyeurisme malsain.

La mort de cette personne, c’est l’accomplissement logique d’un modèle économique qui peut transformer de facto la vulnérabilité humaine en ressource marchande si la société ne le prohibé pas explicitement.

Le capitalisme de la cruauté

Nous assistons à la tentation de laisser se développer l’émergence d’un capitalisme de la cruauté :

• L’attention se convertit en monnaie ;
• La souffrance en spectacle ;
• L’humiliation en produit marchand ;
• Les abus normalisés et maquillés en distraction pour les masses.

Ce ne sont plus des « marchés de la célébrité » et du « quart d’heure de gloire » mais des industries de la fragilité humaine qui peuvent se mettre en place.

Les plateformes instaurent une économie politique de la douleur ou de l’exploitation : incitations au don, algorithmes favorisant le choc, viralité de la violence. Les spectateurs, eux, ne sont plus de simples témoins mais deviennent complices, codonateurs volontaires par (Shadenfreude ou sadisme) ou involontaires par bêtise et manque d’empathie d’un avilissement en ligne.

Le vrai-faux consentement et la dignité humaine

On rétorquera que Jean Pormanove était volontaire. Certes, cest ce quil déclarait. Mais son consentement était celui d’un homme économiquement et psychologiquement contraint, dépendant de ses amis un peu brutaux avec lui pour un logement et un revenu. Un consentement un peu extorqué tout de même, fruit de la peur et de la précarité. Un petit peu un syndrome de Stockholm de la part d’une personne psychologiquement reconnue comme fragile.
Mais au-delà de la question du consentement, se pose aussi celle du spectacle proposé aux “viewers/voyeurs” : des brimades, des insultes sur des mois et des mois.
Le droit administratif français a déjà tranché : dans l’arrêt Commune de Morsang-sur-Orge (1995), dit du « lancer de nain », le Conseil d’État a établi que la dignité humaine est une composante de l’ordre public qui s’impose à tous, y compris contre le consentement individuel. La dignité est indisponible : elle ne peut être aliénée ni vendue, même « librement ».
Comme l’architecture des plateformes de streaming repose précisément sur la monétisation des vues, cette aliénation peut devenir un vecteur d’enrichissement.

Le Colisée numérique et l’évergétisme contemporain

Sénèque lors de la Rome antique dénonçait déjà les jeux du cirque qui avilissaient à la fois les gladiateurs combattants ” volontaires”, les victimes sacrificielles “involontaires” et les spectateurs eux-mêmes.
Guy Debord parle d’une « société du spectacle » où la vie réelle s’efface devant sa représentation marchande. Le monde de la “postverité” réalisable aujourd’hui encore plus qu’hier.
Et dès mon premier travail universitaire en anthropologie (2000), j’écrivais :

« Les jeux du cirque contemporains sont procurés par des écrans et, à la
différence du monde romain, ils ne réunissent plus une foule dans le Colisée
mais divisent en procurant un rapport individuel au Spectacle. »

Cette intuition résonne tragiquement aujourd’hui : l’ultra-moderne solitude décrite par Alain Souchon s’est muée en ultra-moderne cruauté. Les halos bleutés des écrans isolent plus qu’ils ne relient.
Mais cette affaire révèle aussi une mécanique plus subtile : une forme d’évergétisme numérique. Dans la Rome antique, les notables achetaient loyauté et prestige en finançant jeux et banquets (Paul Veyne, Le Pain et le Cirque). C’était cela l’évergétisme selon Paul Veyne.

Aujourd’hui, ce sont les dons à ce streamer décédé pour organiser des funérailles sponsorisées par des chanteurs comme Drake et des influenceurs comme liés (comme par hasard) à la plateforme Kick. Comble de cynisme même la mort de JP devient objet de sponsoring symbolique pour probablement générer des vues puisque sa mort est officiellement ” naturelle”. Comme l’avait pressenti McLuhan, les médias prolongent nos nerfs et amplifient nos pulsions collectives : ici, la cruauté de l’humiliation elle-même est intensifiée et recyclée en spectacle algorithmique.

Je crains (mais peut-être toutefois que je me trompe) que les funérailles imminentes seront une expression d’évergétisme numérique de Kick qui vient d’obtenir un surcroît immense de notoriété par rapport à sa confidentialité en Europe jusqu’à il y a peu.

Philosophie de la limite : l’eudémonisme comme limite à l’hybris

Philosophiquement, tout converge pour proposer d’aller vers une recherche de limites éthiques et légales en vue de promouvoir un nécessaire eudémonisme numérique.

Une capacité à nous limiter qui est exprimée depuisdes millénaires :

• Aristote, dans L’Éthique à Nicomaque, rappelait que la vertu réside dans la juste mesure. Or ici, tout est excès : visibilité, violence, dépendance. C’est la logique de la démesure (hybris).
• Siddhartha Gautama enseignait que le désir est cause de souffrance : ici, ce sont les désirs collectifs (voyeurisme, cruauté, compulsivité…) qui produisent la souffrance.
• Sénèque observait déjà que le spectacle de la souffrance corrompt autant les spectateurs que ceux qui en sont les victimes.
• Et l’Évangile selon Marc questionne fort à propos :

« Et que sert-il à un homme de gagner tout le monde, s’il perd son âme ? »

La formule pourrait se lire aujourd’hui : à quoi sert-il aux plateformes de gagner des millions de vues, si la société y perd sa dignité ?

Pour une “écologie de l’esprit” et le maintien de la dignité en ligne

Le numérique ne doit pas être un Colisée contemporain. Comme en 1995, il nous appartient d’actualiser la jurisprudence de la dignité humaine : responsabiliser juridiquement les plateformes, instaurer des limites claires à l’instrumentalisation des existences, sanctuariser la dignité comme bien commun numérique.

Mais le droit, seul, ne suffira pas. C’est aussi une bataille éducative et culturelle car ce type d’excès me semble une porte ouverte à l’incitation au harcèlement (numérique ou non)et c’est extrêmement grave.

L’éthique pousse à trancher après réflexion.
Il faut :

• Former les jeunes au discernement numérique,
• Continuer à développer une anthropologie critique des écrans, des informations sur les réseaux et des IAs.

Les sagesses anciennes et récentes de l’humanité, le débat sociétal contemporain et la promotion de la bienveillance mesureront à sa capacité de protéger les personnes de l’exploitation symbolique ou marchande des vulnérabilités.

Conclusion : ne pas laisser renaître le Colisée en pixels

La mort de Jean Pormanove n’est pas qu’un accident, ni un simple drame personnel : c’est un symptôme systémique. Elle révèle un modèle économique où la douleur devient carburant, le consentement une façade juridique, et la dignité un actif négociable.

« Je serai bientôt un dieu » sont, selon Suétone, les derniers mots de l’Empereur Vespasien qui a fait bâtir et instrumentalisé efficacement à son profit le Colisée de Rome. Quelle ironie risible d’un grand, mais cruel, pragmatique comme lui.

Mais le monde numérique peut être autre chose qu’une arène. Nous sommes collectivement les créateurs. Ce n’est qu’une forme d’égrégore que nous sécrétons. Or, je postule que nous n’avons pas besoin de nouveaux Empereurs-Dieu, pas plus que de Philosophes Rois ni de Reines Hybrides dans ce je conceptualise comme les société-ruches en train de se constituer à partir de nos sociétés sous l’effet dissolvant et restructurant de nos prothèses cognitives numériques.

Mais il faut choisir aujourd’hui : prolonger la tendance naissante d’un cycle “girardien” de l’humiliation connectée et dd violence mimétique, ou tracer ensemble démocratiquement (avec technoréalisme oserai-je), la voie d’une “écologie de la dignité” pour protéger cette inestimable “écologie de l’esprit” chère à l’anthropologue Gregory Bateson.

L’enjeu est éthique, cognitif, technique, économique, moral et politique.

Ne laissons pas le Colisée renaître en pixels.

Références bibliographiques

Sources juridiques
Conseil d’État, Ass., Commune de Morsang-sur-Orge, 27 octobre 1995, n°136727.

Ouvrages et travaux académiques
Bateson, Gregory, Vers une écologie de l’esprit, vol. 1 et 2, Paris, Éditions du Seuil, 1977.
Derian, Maxime, Otaku. Du retrait social à la fuite dans les univers virtuels, Mémoire de Bachelor, Université Lyon 2, 2000.
Derian, Maxime, Les prothèses cognitives du corps humain, Londres, ISTE Éditions, avril 2018.
Girard, René, La violence et le sacré, Paris, Grasset, 1972.
McLuhan, Marshall, Understanding Media: The Extensions of Man, New York, McGraw-Hill, 1964. (trad. fr. Pour comprendre les media, Paris, Seuil, 1968).
Veyne, Paul, Le pain et le cirque. Sociologie historique d’un pluralisme politique, Paris, Éditions du Seuil, 1976.

Textes anciens philosophiques et religieux
Sénèque, Lettres à Lucilius, notamment Lettre VII, trad. Henri Noblot, Paris, Les Belles Lettres, 1964.
Aristote, Éthique à Nicomaque, trad. J. Tricot, Paris, Vrin, 1990.
Siddhartha Gautama (Bouddha), Sermon de Bénarès, dans Les textes bouddhiques anciens, trad. Philippe Cornu, Paris, Fayard, 2009.
Bible, Évangile selon Marc, trad. Louis Segond, révision de 1910, Société Biblique de Genève.

Références culturelles

Black Mirror. « Common People ». Saison 7, épisode 1. Réal. Charlie Brooker. Netflix, 2025.

Debord, Guy, La société du spectacle, Paris, Buchet-Chastel, 1967.
Souchon, Alain, Ultra moderne solitude, Album Ultra moderne solitude, RCA, 1988 (référence reprise ici comme catégorie anthropologique).
Suétone, Vie des douze Césars, Livre IX (Vespasien), trad. Henri Ailloud, Paris, Les Belles Lettres, 1931.

Intelligence Artificielle (IA). Mes 7 finalités éthiques et l’écueil à éviter

Une ville hyperconnectée – une vie hybridée


L’intelligence artificielle (IA) n’est pas qu’une affaire de spécialistes ou de grandes entreprises. Ses impacts touchent tout le monde, des jeunes qui grandissent dans un monde hyperconnecté aux personnes âgées qui découvrent ses promesses pour faciliter leur quotidien.

Mais si l’IA transforme nos vies, elle influence aussi des sphères silencieuses, comme la biodiversité. Ce point est primordial : les ours polaires ne votent pas, et les forêts tropicales ne peuvent argumenter contre les décisions que nous prenons en matière de technologie, même si leur survie dépend de nos choix.

Dans cette optique, la gouvernance de lessor de l’IA ne peut être laissée aux seules mains des experts ou des politiciens. Elle doit être pensée et conçue pour inclure toutes les voix. Mais il ne s’agit pas pour autant de la freiner puisque bien pensée c’est un atout indéniable et facteur de transformation salutaire.

En revanche son déferlement sans limite aucune pose la question de son éventuelle “hyper-efficacité” menant à une société “liquide” (cf. Zygmunt Bauman) et ultra conformiste (Cf. Aldous Huxley). Il est selon moi impératif de :

  • Maintenir la diversité : Garantir que l’IA respecte et favorise les différences individuelles et culturelles, au lieu de les homogénéiser.
  • Limiter le contrôle algorithmique : Concevoir des systèmes où les décisions algorithmiques restent sous le contrôle de l’humain.

Repenser la finalité : L’IA doit être orientée non vers l’efficacité pure, mais vers des objectifs qui servent le bien commun, tels que la justice sociale et la préservation de l’environnement.

A) Mes 7 finalités

Pour penser une intelligence artificielle éthique et responsable, je propose les sept finalités suivantes issues de mes réflexions et de mes échangestechnoréalistes :

  • Surmonter les obstacles technologiques L’innovation doit viser l’intérêt collectif. Ce qui implique d’interroger la réelle valeur ajoutée de chaque avancée pour la société et d’assurer que celles-ci soient performantes tout en intégrant des impératifs éthiques dès leur conception. Il faut faciliter l’innovation pour rester compétitif et de ne pas réguler inutilement.
  • Améliorer la communication numérique Assurer transparence et clarté sur les algorithmes, leurs décisions et leurs impacts. Il est égalamrnt crucial de former les citoyens pour éviter la fracture numérique et d’accroître la compréhension commune des impacts de l’IA.
  • Développer des technologies conforme à une éthique explicitée pour une aire culturelle donné. Les technologies IA doivent être pensées en fonction du bien commun et limiter les abus potentiels. Cela signifie orienter les usages de manière à servir la société sans compromettre la dignité humaine. Tout ce qui est possible n’est pas forcément souhaitable.
  • Encourager des pratiques durables L’empreinte écologique de l’IA doit être prise en compte rigoureusement, notamment ses besoins énergétiques et en ressources rares et non renouvelables. Les innovations IA doivent ainsi être alignées avec les objectifs environnementaux afin de minimiser leur impact.
  • Gérer les risques et la sécurité numérique La cybersécurité et la santé mentale sont centrales dans la gestion des risques de l’IA. Je les mets ensemble attaquer un système informatique et attaquer un esprit humains on t des points de convergence. Les mécanismes de contrôle doivent cependant protéger la vie privée, assurer la sécurité des données et prévenir les effets potentiellement néfastes sur la société de fuite ou de piratage.
  • Promouvoir l’inclusivité et la diversité Les technologies d’IA doivent être accessibles à tous et promouvoir la justice sociale. Cela implique de développer des algorithmes non biaisés et représentatifs de la diversité humaine (âge, handicap, culture).
  • Valoriser les contributions numériques Une IA éthique doit respecter et encourager la diversité culturelle, en reconnaissant et valorisant l’apport de chacun. Elle doit favoriser le dialogue et la coopération internationale, éviter un impérialisme d’une ethnie sur une autre, pour garantir une perspective la inclusive et équilibrée possible.

    Ces finalités dessinent une esquisse de cadre éthique conçu pour se transposer en droit en nourrissant les débats des législateurs et des juristes et une piste de boussole de gouvernance pour orienter le développement de l’IA.

    En adoptant une vision à la fois pragmatique et respectueuse des valeurs humaines mais avec un plan et une téléologie, nous pouvons espérer une technologie non seulement performante, mais qui serve véritablement l’intérêt commun.

B) L’Écueil que j’entrevois : Le risque d’un Léviathan numérique dans la Société-Ruche à cause de l’hyper efficacité de nos outils numériques

L’essor de l’intelligence artificielle (IA) reconfigure les modes d’organisation de nos sociétés, soulevant des enjeux éthiques et philosophiques que les japonais nomment Société5.0.

1) Exemples concrets :

  • Logistique et transport : Imaginez un réseau de drones et de véhicules autonomes coordonnés en temps réel par une IA, permettant une gestion optimisée des livraisons et des déplacements urbains.
  • Gestion énergétique : Des systèmes intelligents répartissant l’énergie entre quartiers et régions en fonction des besoins, réduisant les pertes et les gaspillages.
  • Santé et bien-être collectif : Une IA analysant en continu des données de santé pour prévenir des pandémies ou coordonner les soins médicaux.

    2) La Société ruche serait oppressive ou sécurisée ?

    Inspirée des réflexions de Thomas Hobbes dans Le Léviathan (1651), ainsi que des dynamiques issues de la biologie sociale, émerge mon hypothèse : celle de l’avènement de la société-ruche, où l’IA agirait comme une force structurante, semblable à l’intelligence collective des insectes sociaux (abeilles, fourmis).

    Bien que cette analogie évoque une vision de coordination harmonieuse et d’efficacité collective, elle porte en elle des risques profonds, notamment celui d’un Léviathan numérique : une entité algorithmique centralisée et omniprésente, une “Vie Morte qui se meut par elle-même” (Cf. Hegel) abolissant progressivement le libre arbitre humain exprimant collectivement un désir de servitude volontaire.

    Choisir de se défaire de sa liberté au profit de sa sécurité et de confort pour faire en sorte, par excès de prudence ou de couardise, que l’Humain ne soit jamais plus un loup pour l’Humain…

    Dans ce modèle, l’IA ne se limiterait pas à un rôle d’outil d’accompagnement de la gouvernance, mais deviendrait la coordination centrale des interactions humaines et numériques. Les algorithmes d’apprentissage automatique, les systèmes autonomes (comme les drones), et les capacités de traitement massif de données transforment les individus en cellules fonctionnelles d’un système global, décentralisé, et optimisé.

    Cette vision, inspirée des colonies d’abeilles ou de fourmis, repose sur “l’intelligence collective”, ici incarnée par “l’Intelligence artificielle” et une répartition des tâches où chaque composant contribuerait à la cohérence du tout sans qu’un dirigeant unique ne contrôle l’ensemble. Un peu comme dans  de Aldous Huxley (1931).

    Cette organisation hyper-connectée et rationalisée pourrait séduire par son efficacité.

    Pourtant, elle pose des questions fondamentales car elle s’attaque directement à la notion de démocrate et de droits fondamentaux des humains :

  • Abolition du libre arbitre : En optimisant chaque interaction, les IA risquent d’imposer des comportements standardisés, réduisant les choix individuels à des actions prédéfinies par des algorithmes.
  • Uniformisation des sociétés : Tout comme une ruche fonctionne sur un modèle d’intégration parfaite, une société-ruche pourrait écraser les différences culturelles et les diversités humaines.
  • Absence de responsabilité centrale : Contrairement au Léviathan de Hobbes, qui reposait sur un souverain humain garant de l’ordre social, ici, la gouvernance serait déléguée à une entité numérique non humaine, sans conscience ni sens moral. Qui serait alors responsable en cas de dérive ?
  • Risque de contrôle totalitaire : Une IA omniprésente pourrait devenir un outil de surveillance globale, où chaque action serait mesurée, prédite et influencée, effaçant ainsi toute notion de vie privée.

    Ceci n’est ni fictif ni hypothétique.

Ces visions sont déjà, en partie, concrétisées dans certains projets, comme le “Système de crédit social” en Chine, où la technologie sert à organiser et contrôler les comportements sociaux, ou encore dans des villes intelligentes comme Songdo, en Corée du Sud, où la gestion urbaine repose sur l’exploitation massive des données.

La préservation du libre arbitre et de la démocratie n’est pas un objectif partagé par tous. Certains, comme Curtis Yarvin, défendent l’idée d’une société hybride, mêlant humains et technologies, fondée sur une asymétrie radicale : une élite restreinte (des “philosophes rois” milliardaires  seigneurs de la Tech) jouirait de la liberté, tandis que le reste de la population, réduite à des exécutants humains “machinisés” coopérant avec voire obéissants à des agents IA, vivrait sous un contrôle permanent. C’est ce qu’il nomme les “Lumières Sombres”, une vision dystopique marquant la fin de l’idéal universaliste hérité du Siècle des Lumières.

Pour ma part, je m’oppose fermement à cette dérive autoritaire, qui ne pourrait qu’engendrer un monde profondément inhumain et dévasté.

Certes, la pensée démocratique issue des Lumières est imparfaite : elle comporte des biais, des limites, parfois même des formes de corruption. Mais elle offre un cadre dans lequel chacun peut trouver sa place, une place non figée, évolutive, à l’opposé d’une société assignant dès la naissance un rôle immuable à chacun, comme dans “Le Meilleur des Mondes”.

Récit fondamental qui demeure pour moi la figure repoussoir ultime de la vision d’un monde humain optimisé mais mortifère que j’abomine.

3) Les défis anthropologiques et éthiques de la société-ruche

    Délégation et perte de contrôle En déléguant des tâches aux IA, les individus risquent de voir leur autonomie réduite. Cette délégation transforme notre rapport à notre propre action et questionne notre liberté face aux systèmes que nous avons créés.
    Mémoire collective et risque de conformisme L’IA instaure une mémoire numérique partagée, favorisant une homogénéisation des savoirs. Si elle permet une efficacité accrue, elle pourrait aussi encourager un conformisme et limiter la diversité des pensées et des innovations.
    Coordination et communication globales L’IA et les réseaux permettent une synchronisation instantanée à l’échelle mondiale, transformant le modèle social traditionnel. Dans une société-ruche, les individus deviennent des nœuds au sein d’un vaste réseau, chacun apportant sa contribution à une intelligence collective augmentée.
    Implications sur l’identité et l’altérité L’identité individuelle pourrait s’estomper au profit d’une logique de groupe dictée par les dynamiques de l’IA. Cela redéfinit notre conception de l’« autre » et pourrait limiter la diversité des comportements et des points de vue.
    Démocratie et droits individuels Dans une société-ruche, les systèmes artificiels participent aux décisions de la Cité, ce qui pourrait remettre en question la démocratie et les libertés individuelles. La centralisation ou la décentralisation du pouvoir par l’IA pourrait en effet drastiquementaugmenter les risques de contrôle et de surveillance.

4) Une société “Liquide” et “Standardisante” ?

Nos produits de communication et d’intelligence artificielle (IA) redéfinissent progressivement les interactions humaines en nous liant par des algorithmes d’une manière si ajustée qu’ils promettent d’éliminer les frictions, les aspérités, et même les rencontres imprévues dans les flux de transport, de communication, et de vie quotidienne. Dans un monde “rationalisé” par un Léviathan algorithmique hyper-efficace, les interactions spontanées et la diversité des expériences risquent d’être remplacées par une mécanique trop fluide, où tout s’ajuste parfaitement au détriment de l’imprévisible.

Le concept de société liquide, développé par le sociologue polonais Zygmunt Bauman dans des ouvrages comme La Vie liquide (2005), évoque une modernité où tout est en constante transformation. Les institutions, les relations humaines, et même les identités deviennent fluides, fragiles, et interchangeables. Dans cette vision, la technologie joue un rôle central : elle connecte, mais fragmente aussi, en privilégiant des relations rapides et superficielles au détriment des liens profonds et durables.

Appliquée à l’IA et aux algorithmes, cette fluidité pourrait se transformer en une homogénéisation où chaque action, chaque interaction serait anticipée et optimisée, éliminant ainsi toute surprise ou imprévisibilité. Cela rejoint l’idée d’une société-ruche, où les individus deviennent des “cellules” d’un système globalement intégré mais dépourvu de singularité.5 – “Another Brick in the Wall” : Le cauchemar de la dystopie d’un monde trop bien ajusté grâce au numérique et à l’IA

Pour reprendre l’image puissante du titre Another Brick in the Wall de Pink Floyd, une société trop ajustée pourrait réduire chaque individu à une brique dans un mur parfaitement intégré. Ce mur, bien qu’efficace et rationnel, risque d’étouffer la créativité, l’originalité, et la confrontation essentielle entre idées opposées. En éliminant les aspérités, nous risquons d’éliminer aussi ce qui fait la richesse de la condition humaine : les rencontres imprévues, les divergences, et les inattendus qui stimulent l’innovation, la pensée critique, et l’évolution.
Les dangers d’une société totalement “lissée” par nos prothèse cognitives.

  • Absence de diversité : Les algorithmes, conçus pour maximiser l’efficacité, tendent à uniformiser les comportements, limitant l’expression des singularités.
  • Perte de hasard : L’optimisation des flux (transports, communication) par les IA peut réduire les opportunités de rencontres fortuites, essentielles à l’enrichissement humain.
  • Aliénation et dépression : Les individus, guidés en permanence par des recommandations algorithmiques, risquent de devenir passifs, soumis à des systèmes qui dictent leurs choix et comportements.

    Conclusion

    Plutôt que de courir le risque de voir émerger un Léviathan numérique, il est impératif de définir des garde-fous éthiques dès maintenant, aire culturelle par aire culturelle. Par exemple, en l’espèce ici en Europe.

C’est pour cela que j’ai propose ces 7 finalités éthiques

L’essence de ce souci éthique (qui peut être critiqué amendé modifié) vise avant tout à garantir le respect de l’État de droit, la démocratie et les droits fondamentaux de l’humain au moment où l’IA déferle comme un tsunami et que les société ruches américaine, indienne, chinoise, russe, japonaise, coréenne et européenne se mettent en place…

Éviter le Léviathan numérique, c’est s’assurer que notre futur technologique reste un allié, pas un maître.

Maxime Derian

Limites et limitations de l’IA

 
L’illusion de l’infini face à la réalité de la finitude : quand la croissance exponentielle des modèles rencontre l’horizon thermodynamique du monde.

Depuis Platon, la philosophie occidentale oscille entre deux régimes d’existence : celui des Idées, pures, abstraites, intemporelles et celui des réalités sensibles, matérielles, finies.

Aristote a voulu refermer ce dualisme en réconciliant forme et matière, en refusant de séparer radicalement l’essence de son incarnation. Je me sens en phase avec cette vision depuis 2005 mais les progrès en IA en 2018 m’ont donné envie de reprendre plus sérieusement cette ancienne dichotomie platonicienne qui me semblait pourtant littéralement obsolète.

En effet, les progrès récents du deep learning et du traitement automatique du langage font étrangement ressurgir ce vieux partage : ce que l’on appelle aujourd’hui « intelligence artificielle » peut ressembler à une tentative  df plus en plus reussie pour donner corps, dans le silicium, à un monde de formes mathématiques qui prétendrait s’autonomiser du monde vécu. Ce monde des Idées, artificiellement construit par l’Humanité, serait un “amas immatériel informe” (pour reprendre les termes de Yasuo Kobayashi) un espace latent vectorisé en hautes dimensions qui par sommes et multiplications de matrices vectorielles aboutira in fine  (dans des réseaux d’innombrables transistors interconnectés), à une “idée” de “Lit idéal”, “Cercle parfait” voire la “Boue” évoquée par Parménide.

En pratique, ces systèmes ne pensent pas : ils calculent.

Ils n’éprouvent pas : ils modélisent.

Ils manipulent des corrélations et des structures formelles qui s’incarnent dans des infrastructures très concrètes (data centers, câbles, serveurs, terminaux) tout en revendiquant un statut quasi métaphysique, comme s’ils pouvaient échapper à la pesanteur des corps et des milieux.

C’est pourquoi, à l”image de ce que propose Christophe Thovex, il serait plus juste de parler de Systèmes d’Information Artificielle (SIA) que d’« intelligence » au sens fort : ces dispositifs traitent de l’information, pas du sens, et prolongent la longue histoire des prothèses cognitives humaines plutôt qu’ils n’annoncent une rupture absolue. Mais l’usage commun garde la convention de parler “d’IA”.

La question de l’émergence d’un esprit n’étant pas exclue mais probablement pas simplement par l’effet d’échelle appliquée aux LLMs. Dans ce contexte, penser l’IA exige de distinguer deux registres souvent confondus : les limites et les limitations. C’est ce que je pressens depuis avril 2024, qui se confirme aujourd’hui et qui deviendra flagrant (et vital) demain.

Les premières, les limites, renvoient à des contraintes physiques, écologiques ou cognitives indépassables dans le cadre de la biosphère terrestre et de notre condition de mammifères parlants.

Les secondes, les limitations, désignent des contraintes juridiques, politiques et économiques, donc négociables, modulables, renégociables.

En d’autres termes : il y a ce que la technique ne pourra jamais franchir sans changer de planète ou d’espèce, et ce que nos sociétés peuvent décider de restreindre, encadrer ou réorienter.

Limites : ce que le monde réel interdit.

La limite écologique : l’horizon thermodynamique et la raréfaction des ressources
La première limite est brutale : l’IA ne s’affranchit pas des lois de la thermodynamique. Chaque modèle entraîné, chaque requête envoyée, chaque image générée mobilise de l’énergie, de l’eau, des métaux, des terres rares. Les SIA ne sont pas des esprits purs : ce sont des machines thermiques sophistiquées, insérées dans un métabolisme industriel global déjà en tension. La consommation énergétique et hydrique projetée des data centers dédiés à l’IA atteint déjà l’ordre de grandeur d’un pays de taille moyenne et suit une trajectoire de croissance rapide. Plus les modèles gagnent en performance, plus ils exigent de paramètres, donc de calcul, donc d’énergie ; or cette énergie reste majoritairement d’origine fossile ou, au mieux, soumise aux limites d’infrastructures électriques et hydriques locales. Croire que l’IA résoudra par magie les problèmes qu’elle contribue à amplifier, en « trouvant » de nouvelles sources d’énergie, revient à parier sur un futur hypothétique pour justifier une fuite en avant présente. Dans ce cadre, la limite écologique apparaît comme un horizon de saturation : au-delà d’un certain seuil, augmenter la puissance de calcul ne fait qu’accroître la dette énergétique et climatique, sans garantie que les bénéfices sociaux suivent. On peut imaginer des scénarios cosmistes (exploitation de la Lune, des géocroiseurs, des astéroïdes) pour repousser cette limite en changeant d’échelle civilisationnelle. Mais tant que nous demeurons confinés à la Terre, cette limite n’est pas une option philosophique : c’est une donnée physique.
La limite cognitive : des formes sans vécu, un excès de signifiant sans capacité de saisir le signifié
La deuxième limite tient à la nature même des SIA (au sens de Thovex) /IA (au sens commun) : ils manipulent des formes, jamais du vécu. Un grand modèle de langage apprend des corrélations statistiques entre symboles ; il optimise la probabilité de la prochaine séquence, pas la vérité de ce qu’il avance. Son régime épistémique est celui de la plausibilité narrative, non celui de la connaissance : l’« hallucination » n’est pas un accident, mais une conséquence structurelle d’un dispositif qui n’a ni corps, ni monde, ni expérience. Cette architecture entraîne un double déplacement. D’une part, la charge de la vigilance épistémique se reporte sur l’humain, sommé de trier, vérifier, contextualiser des flux textuels potentiellement infinis produits par des systèmes indifférents à la justesse. D’autre part, le temps de la machine (capable de compacter des siècles de données en quelques heures de calcul) déborde le temps humain, fait de sommeil, de fatigue, de lente maturation. S’y ajoute une ressource particulièrement fragile : notre capacité attentionnelle. Dans une société où chacun peut déléguer à une IA la production de discours, le risque est moins le silence que le bruit : un environnement saturé de textes, d’images et de décisions « assistées » rendant le discernement lui-même improbable Les projets de dépasser cette limite cognitive en hybridant directement cerveau et machine (interfaces neuronales invasives, promesses transhumanistes) posent des questions politiques radicales : qui contrôle l’interface, qui a accès aux données neuronales, qui définit ce qu’est une « amélioration » de l’humain ? Refuser cette voie n’est pas refuser la technique, mais affirmer qu’il n’est ni souhaitable ni nécessaire de remodeler l’espèce pour la rendre compatible avec le rythme des algorithmes.

Limitations : ce que la société peut (encore) décider

Limitations juridiques et réglementaires, frontières mobiles du permis et de l’interdit
Les limitations juridiques ne sont pas des fatalités : ce sont des constructions historiques, marquées par des cultures, des rapports de force, des choix de société. Aujourd’hui, trois grands styles de régulation coexistent :
    • une logique d’accélération compétitive aux États‑Unis, où l’innovation prime et la régulation suit ;
    • un contrôle adaptatif en Chine, où les usages sont modulés au cas par cas sous l’égide du Parti Communiste Chinois ;
    • une approche de frein réfléchi en Europe, où l’AI Act tentera d’anticiper les risques par une classification graduée.
  Ce cadre européen matérialise la nature négociable des limitations. En interdisant certains usages (scoring social de masse, biométrie en temps réel dans l’espace public, manipulation subliminale fondée sur des vulnérabilités individuelles) et en encadrant strictement d’autres domaines (justice, emploi, éducation, infrastructures critiques), il transforme des préoccupations éthiques en catégories juridiques opposables. À l’inverse, il laisse davantage de marge à des usages considérés comme « risque limité », comme les chatbots ou la génération créative de texte et d’images, tout en imposant des exigences minimales de transparence .Rien, dans ces catégories, n’est définitif. Elles pourront être révisées, durcies ou assouplies selon les controverses, les incidents, les mobilisations sociales. La leçon à en tirer est claire : le devenir de l’IA n’est pas écrit dans le silicium, il se joue aussi dans les parlements, les tribunaux, les agences de régulation. Là où il y a limitation juridique, il y a encore politique.
Limitations économiques : le Retour sur Investissement (ROI) comme rasoir d’Ockham et les dépendances systémiques comme dette logicielle déterminante
Les limitations économiques paraissent plus prosaïques, mais elles pèsent lourd sur l’architecture réelle des systèmes. L’IA contemporaine est portée par quelques acteurs privés géants dont le modèle repose sur une course à l’échelle et sur des investissements massifs en infrastructures et en calcul. Leur impératif n’est pas seulement technologique : c’est le retour sur investissement. Dans ce contexte, une part croissante de notre infrastructure cognitive collective (données, modèles, historiques, workflows) est hébergée dans des clouds privés, sous juridictions parfois lointaines, et vulnérable aux retournements de marché, aux fusions‑acquisitions, aux arbitrages stratégiques. Des services très utilisés peuvent disparaître du jour au lendemain s’ils ne trouvent pas leur rentabilité, emportant avec eux archives, dépendances et routines de travail. Des entreprises ayant collecté des données génétiques, comportementales ou textuelles à grande échelle peuvent, en cas de difficulté financière, transformer ces corpus en actifs négociables. Ces limitations renvoient directement à la question de la souveraineté numérique : qui possède les serveurs, qui contrôle les modèles, qui peut, en dernière instance, « éteindre la lumière » ? Là encore, rien n’est inéluctable : politiques industrielles, investissements publics, coopératives technologiques et communs numériques peuvent redessiner le paysage. Mais à défaut de telles stratégies, la société‑ruche que nous construisons risque d’avoir pour reine non pas une volonté collective, mais la courbe de rentabilité attendue par les marchés.

Habiter la finitude, au lieu de la nier

Augustin Berque rappelle que l’on ne vit jamais dans un espace neutre : on vit dans un milieu que l’on transforme et qui nous transforme en retour. L’IA n’échappe pas à cette nécessité de médiance pour reprendre son concept. Cependant les limites écologiques et cognitives ne relèvent pas du même régime que les limitations juridiques et économiques. Les premières, physiques, découlent de notre inscription dans un monde fini, d’une physiologie particulière, d’un métabolisme planétaire contraint ; les secondes,sociales et politiques, découlent de choix institutionnels, de rapports de pouvoir et de modèles économiques que l’on peut, en principe, transformer. Deux tentations symétriques se dessinent. La première est celle du déni techniciste : nier les limites en promettant leur dépassement par un supplément d’algorithmes, quitte à remodeler l’humain lui‑même par des projets transhumanistes ou eugénistes. Certains technoprêtres et technoaristocrates de l’IA (Comme Elon Musk) ont cette tentation La seconde est celle de la résignation fataliste : accepter que les limitations actuelles (juridiques minimalistes, dépendance économique) soient la seule configuration possible, et abandonner la bataille politique. Car ceux qui sont privilégiés seront ceux qui ne plieront à aucune règle démocratiquement institutée (le rejet de la Cathédrale chez Curtis Yarvin). Une autre voie consiste à assumer pleinement la finitude (des corps, des milieux, de l’attention) tout en revendiquant un droit à la maîtrise collective des limitations. Cela suppose de politiser les infrastructures, de débattre des usages légitimes, de construire des institutions capables de dire non à certains déploiements, même « efficaces », lorsque leur coût écologique, social ou anthropologique est jugé inacceptable. Les logiciels d’IA, ces Systèmes d’Information Artificielle ne sont ni un destin, ni une baguette magique, ni une apocalypse automatiquement assurée. Ils sont une nouvelle strate de prothèses cognitives dans des sociétés qui glissent vers la forme de soci ruche en Chine, aux USA, au Japon et en Europe aussi. Serons nous demain, encore capables de délibérer sur la manière dont nous voulons l’inscrire dans un monde limité et si nous préférerons habiter politiquement cet essaim social ? Le mondecsocial de demain sera vraisemblablement constitué d’humain et d’agents (des vies mortes qui se meuvent par elles-mêmes pour paraphraser Hegel) ou simplement subir sa pression conformatrice à coup de boost de dopamine via les réseaux, de prolifération de Deepfake, de vraies informations et de pressions financières. Mais l’hybridation des humains et des machines, du Métal et de la Chair, de l’Émotion et du Calcul n’est pas forcément au profit de la concentration monopolistique au profit d’une poignée de milliardaires ou de bureaucrates. Les technologies proposent une nouvelle mode de vivre ensemble et d’avoir des compagnons synthétiques qui devront être construits de manière fiable, éthique et robuste. C’est une politique déterminée au bien-être de tous et du respect de la biodiversité qui doit primer et résister à la contamination de la soif de l’or et du pouvoir. La société ruche n’est pas automatiquement techno-autoritaire. C’est une modalité. La société 5.0 japonaise est un plan qui continue la démocratie japonaise àlaune de la société en essaim. Une modalité locale est envisageable en Europe.