Les outils numériques et l’IA doivent servir à augmenter la cognition humaine pas la diminuer, la standardiser et la contraindre.

Jeu de rôle Cyberpunk de Talsorian Games (1988)

Il serait dommage de verser, par fascination morbide ou puérile, à la mise en place volontaire, dans notre environnement réel, d’aspects relevant complètement de certaines dystopies imaginées en science-fiction des années 60 aux années 90 (donc avant l’essor populaire du web des années 2000 et celui de l’IA des années 20). Ces récits peuplés d’éléments sombres et glauques l’étaient pour des raisons narratives. En gros, le Seigneur des Anneaux sans Sauron, Harry Potter sans Voldemort, cela ne marche pas !

Je pense notamment à celles (excellentes d’ailleurs!) imaginées par William Gibson dans Neuromancien (1984),  par Philip K. Dick dans Les Androïdes rêvent-ils de moutons électriques ? (Blade Runner, 1966) ou encore aux univers de jeux de rôles tels que  celui de Cyberpunk 2020 de Talsorian Games en 1988 (Cf. illustration de cet article) et celui de Shadowrun de FASA, en 1989…

Ne cédons pas au syndrome de la prophétie autoréalisatrice par facilité, et surtout, je le répète en pleine connaissance de cause, par fascination prenant forme d’une forme d’excitation spectatrice résultant au final d’un manque de notre propre capacité d’imaginer un futur heureux.

Nous somme collectivement plus raisonnables qu’un papillon de nuit face à une ampoule à incandescence !

 

1) La cognition humaine est complexe et dynamique


La cognition humaine n’est pas un système fixe et statique, mais un processus complexe et dynamique qui implique de multiples dimensions, telles que la perception, l’action, l’émotion, la mémoire, le raisonnement et la communication. Les technologies numériques ne doivent pas réduire la cognition humaine à un mécanisme d’entrée-sortie simple et passif, mais plutôt soutenir et renforcer sa richesse et sa diversité.

“L’IA et les écrans ne doivent pas être utilisés comme une nounou”


2)  La cognition humaine est située et incarnée


La cognition humaine n’est pas isolée de l’environnement physique et social, elle y est située et incarnée. Les technologies numériques ne devraient pas détacher la cognition humaine de son contexte et de son corps, mais plutôt l’intégrer et s’aligner sur eux.

“L’IA et les écrans ne doivent pas nous couper de notre corps, de nos sens, de nos émotions et de notre environnement au sens du lieu et aussi au sens écologique.”


3) La cognition humaine est créative et adaptative

La cognition humaine n’est pas limitée par des règles et des structures prédéfinies, mais elle est créative et s’adapte à des situations nouvelles et changeantes. Les technologies numériques ne devraient pas contraindre la cognition humaine à un cadre rigide et prédéterminé, mais plutôt permettre et stimuler son innovation et sa flexibilité.

“L’IA et les écrans ne doivent pas être employés comme des GPS pour l’esprit. Ne devenons pas, en quelque sorte, les extensions de nos applications logicielles !”


4) La cognition humaine est inscrite dans un encadrement social

La cognition humaine n’est pas confinée à des esprits individuels, mais collaborative et distribuée entre de multiples agents et artefacts. Les technologies numériques ne devraient pas isoler la cognition humaine de son réseau social et matériel, mais plutôt faciliter et augmenter son interaction et sa coordination.

“L’IA et les écrans ne doivent pas être considérés ni comme un doudou ni comme un fétiche et comme des raisons ou des moyens de nous isoler vis-à-vis de ceux que l’on aime ou avec qui l’on partage un élan commun.”


Cf. Maxime Derian, Les prothèses cognitives du corps humain, ISTE/Elsevier 2018
ainsi que : M
axime Derian, Le Métal et la Chair. Anthropologie des prothèses informatisées.

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

Cas éthique concret en IA : les accidents de voitures semi-autonomes (Lien vers le site www.moralmachines.net)

illutration générée par Copilot et promptée ar MAxime Derian (11/2023)

Les véhicules semi-autonomes soulèvent des questions éthiques complexes qui permettent assez bien de contextualiser une réflexion #éthique en IA en proposant des cas très concrets de dilemmes.

Par exemple, que doit il se passer si une voiture semi-autonome est impliquée dans un accident mortel inévitable ? Quelle programmation choisir ? Qui doit être sauvé en premier, les passagers de la voiture ou les piétons et les tiers à l’extérieur du véhicule ?

⚖️

Le propre de l’éthique est à la fois de porter l’attention sur des règles générales de nature décisionnelles et morales mais aussi de réfléchir collégialement ou individuellement sur des décisions au cas par cas. 

Il est important de noter qu’en Allemagne, pays qui se dote d’un cadrage légal de la régulation des voitures semi-autonomes, la discrimination fondée sur l’âge n’est pas légalement tolérée.

Toutefois, certaines personnes ont proposé que les voitures semi-autonomes devraient sauver d’abord les #enfants en priorité. 

On peut imaginer une pléthore d’autres instructions possibles déterminant des questions de vie et de mort lié à des choix de programmation algorithmique. C’est un débat très complexe.

 Comme chaque IA se développe et se répand dans une aire culturelle définie (cf. ANR CulturIA), il n’est pas improbable que les cadrages éthiques puissent varier d’un pays à l’autre…

Si ce sujet vous intéresse, je vous recommande de visiter le site www.moralmachines.net (Disponible en 10 languages différents).

Il s’agit d’une plateforme qui recueille les points de vue humains sur les décisions morales prises par l’intelligence artificielle, comme les voitures autonomes avec un questionnaire sous forme d’une sorte de serious game simple et qui prend quelques minutes à terminer.

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

Maxime Derian et l’IA : Perspectives sur l’avenir, la vie privée et la confiance

Made with Dall-E by Maxime Derian

Dans le cadre de la Tech Supreme Court – AI Edition, qui se tient aujourd’hui, le 19 octobre à l’Hémicycle ECCL, Maxime Derian a accepté de répondre en avant-première à quelques questions clés liées à l’IA. En tant qu’anthropologue spécialisé dans le domaine numérique, Maxime Derian nous apporte un point de vue éclairé sur les développements potentiels de l’IA, ainsi que sur les questions de vie privée et de confiance qu’elle soulève.

TS : Qu’est-ce qui vous a motivé à rejoindre cette édition AI de la Tech Supreme Court ?

MD : « Cet événement a immédiatement retenu mon attention en raison de l’importance de la question de l’IA. L’IA est un outil puissant avec le potentiel d’avoir des impacts positifs et négatifs considérables. Il est essentiel d’avoir un débat informé pour guider le développement de l’IA de manière saine et équilibrée, tout en évitant les écueils potentiels. Le passé nous a montré que des avancées technologiques majeures, comme l’arrivée des ordinateurs et Internet, sont intervenues sans débats suffisants. L’IA est déjà présente, mais nous devons éviter les extrêmes du catastrophisme ou de l’enthousiasme démesuré quant à ses capacités. Ce débat doit donc être inclusif, impliquant diverses perspectives, des scientifiques aux politiciens, des économistes aux philosophes, en passant par des acteurs artistiques. L’approche de cet événement, qui se concentre à la fois sur les coûts, les avantages, les bénéfices et les risques de l’IA dans notre société, est ainsi particulièrement attrayante. Il est crucial de se rappeler que nos décisions sur l’IA façonneront l’avenir, c’est pourquoi nous devons les prendre avec soin. Les enfants nés aujourd’hui vivront dans le monde que nous aurons créé, et il est impératif d’entamer un dialogue pour comprendre les attentes de chacun. L’acceptation de la critique et la flexibilité dans nos opinions sont essentielles. Un débat de cette nature est riche d’enseignements. »

TS : Quels sont les développements futurs les plus prometteurs dans le domaine de l’IA au Luxembourg ?

MD : « Le Luxembourg est un pays économiquement dynamique qui a su se réinventer à plusieurs reprises tout au long de son histoire. De l’agriculture à la sidérurgie, le Luxembourg a connu des transformations majeures grâce à des avancées technologiques, comme la déphosphorisation qui a révolutionné la production d’acier. Plus récemment, le pays a évolué vers une économie axée sur les services, la banque, et de plus en plus, le numérique. Cela a attiré des acteurs mondiaux de la technologie tels que Microsoft et Amazon, renforçant la position du Luxembourg en tant que centre technologique. » 

« En ce qui concerne l’avenir de l’IA au Luxembourg, on peut s’attendre à des changements significatifs sur le marché de l’emploi. L’IA redistribuera les cartes, créant de nouveaux emplois tout en en déplaçant d’autres. Le pays est bien positionné pour tirer parti de l’IA en développant des compétences numériques de haute qualité, favorisant ainsi la croissance des start-ups et des grandes entreprises. L’IA peut également contribuer au e-gouvernement, améliorant l’expérience des citoyens et rationalisant les processus administratifs. Dans le secteur bancaire et des assurances, elle peut améliorer le conseil aux clients, simplifier l’accès aux services et stimuler les partenariats. En matière culturelle, artistique et de divertissement, l’IA offre aussi de nombreuses opportunités. Elle peut libérer un potentiel créatif en utilisant des outils d’image et de son, et pourrait même conduire à l’émergence de nouveaux styles musicaux ou de formes artistiques novatrices. Enfin, l’IA peut jouer un rôle essentiel dans le domaine de la santé. Elle ne remplacera pas les médecins, mais les assistera de manière efficace. Elle pourrait aider au diagnostic en identifiant des détails imperceptibles, analyser différents types de pathogènes, ou même contribuer à la création de médicaments personnalisés basés sur le génome. En résumé, l’IA pourrait transformer le secteur de la santé en permettant aux médecins d’être plus efficaces, ce qui pourrait avoir un impact positif sur la qualité de vie et la durée de vie. »

« Le Luxembourg est bien positionné pour tirer parti de ces opportunités offertes par l’IA, que ce soit sur le plan économique, administratif, culturel, artistique ou médical. Il s’agit d’un domaine en constante évolution, et le Luxembourg semble prêt à en embrasser le potentiel. »

TS : Existe-t-il un moyen de complètement éliminer ou atténuer les inquiétudes en matière de confidentialité et de confiance que les gens ont à l’égard de l’IA ?

 

MD : « La vie privée et la confiance sont deux aspects distincts. Il est difficile, voire impossible, d’éliminer entièrement ces préoccupations, car même face à des arguments rationnels, des réactions irrationnelles subsisteront. Cependant, nous pouvons adopter des approches pour les atténuer. En ce qui concerne la vie privée, il est nécessaire de mettre en place une régulation complexe qui nécessite des discussions approfondies, tant au niveau européen que national. Cette question englobe de nombreux aspects et demande à être soigneusement examinée. Néanmoins, le facteur clé pour atténuer les inquiétudes concernant la vie privée réside dans l’éducation et l’information des individus. »

« Concernant la confiance, la transparence est essentielle pour que les gens acceptent les systèmes d’IA, tout comme l’éducation et l’information. C’est en fournissant des connaissances et des explications rationnelles, en éduquant les individus, y compris les enfants, sur les enjeux de l’IA, sans exagération ni simplification excessive, que nous pouvons établir un lien de confiance. C’est précisément l’approche que mes co-auteurs et moi-même adoptons pour le site web www.technorealisme.org, où nous nous efforçons de présenter un débat équilibré afin d’éviter les extrêmes et de promouvoir une meilleure compréhension des implications de ces technologies.  En présentant un débat équilibré et en évitant les excès, nous pouvons contribuer à une meilleure compréhension de ces technologies et réduire les réactions irrationnelles. »

« En fin de compte, il s’agit d’un processus continu qui nécessite une communication ouverte et un dialogue constant entre les parties prenantes pour atténuer les inquiétudes liées à la vie privée et à la confiance envers l’IA. »

Maxime Derian

Rédacteur : Maxime DERIAN (Phd). Anthropologue des techniques (technologies numériques, e-Santé & mutations des sociétés industrielles). Université du Luxembourg. Contact: maxime.derian@gmail.com / maxime.derian@uni.lu

More Posts - Website

Follow Me:
LinkedIn

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search