Catégorie : Logiciels

Tribune : comment faire évoluer la réflexion éthique sur l’IA ?

Dans cette tribune, Angela Minzoni nous explique pourquoi le mimétisme entre humains et intelligence artificielle (volonté de véhiculer une ressemblance entre les facultés humaines et celles attribuées aux algorithmes) s’avère contre-productif.

Au nom de l’éthique de conception et d’utilisation des algorithmes, une clarification s’impose : commençons par la création d’une sémantique (registre propre d’expressions) pour qualifier les algorithmes de l’IA et leurs résultats et amorçons l’abandon de l’imitation.

Plaidoyer pour une éthique en chair et en os

Les initiatives se multiplient pour tenter d’introduire une dimension éthique dans la conception, la production et l’utilisation des algorithmes et des données liées à l’IA, notamment dans des domaines jugés sensibles tels que la santé, la justice ou la sûreté. Il s’agirait même d’en faire le pivot d’une marque européenne pour ce type de technologie. La dimension éthique reposerait donc sur le fait de développer des IA « centrées sur l’homme » mais de quel homme s’agit-il ? L’humanité faisant preuve d’une très grande diversité –et c’est là sa caractéristique essentielle et existentielle, quelle perception de l’homme faut -il mettre au centre de l’IA ? 

L’intelligence humaine a été, depuis toujours, analysée, scrutée, définie, mise en débat sur différents modes : philosophique, anthropologique, neurologique, psychologique, voire économique ; ce dernier appliquant à ce concept les méthodes comparatives de cette discipline, tournées vers les chiffres et les indicateurs. Nous avons ainsi vu émerger des tests et des concours pour évaluer ceux qui avaient plus d’intelligence et ceux qui en avaient moins. Cette logique « concurrentielle » a été transposée à l’IA pour mettre en concurrence IA et IH.

Les humains ont donc tenté de classer l’intelligence, lui ont donné plusieurs signifiés et l’ont logée à différents endroits de notre corps, allant du cerveau au ventre ou au système nerveux, voire – de manière symbolique- au cœur. Ont été identifiées l’intelligence du cœur, l’intelligence de l’esprit, l’intelligence émotionnelle, collective, individuelle, économique, spirituelle, orgueilleuse, stupide, etc… L’IA fait figure de dernière née. Elle a été construite de toutes pièces par des concepteurs sur la base d’un malentendu : dans les années 1950, la science reposant en grande partie sur l’ingénierie et les mathématiques appliquées à la mécanique, les chercheurs ont entrepris de se représenter le fonctionnement de notre cerveau dans les mêmes termes que ceux qu’ils utilisaient pour concevoir et comprendre le fonctionnement des machines, c’est à dire en termes linéaires d’inputs, de transformations et d’outputs. Le fonctionnement du cerveau ainsi appréhendé, ils ont avancé tout naturellement que les machines pouvaient reproduire le fonctionnement de celui-ci. Non seulement la boucle s’est vue vite bouclée en figeant ce miroir artificiel cerveau-machine mais elle s’est emballée au cours du temps, de manière exponentielle. L’artificiel mime le naturel et vice-versa.

Aux sources d’un malentendu qui perdure

Dans les publications, devenues désormais très nombreuses, techniques et pointues, le mal entendu ne fait que prospérer. Tellement omniprésent qu’il n’est même plus remarqué. Il va de soi, à quelques débats près, que l’on puisse attribuer à l’artificiel des termes tels que : autonomie, apprentissage, capacité à décider et à discerner, conscience, empathie, culture, amitié, voire sentiment religieux. Mais en cours de lecture, plusieurs éléments attirent notre attention : le sens de ces mots n’est pas le même quand ils habillent l’artificiel que quand ils concernent l’état d’esprit ou les activités humaines ; la diversité humaine est loin d’être saisie dans sa complexité et ne peut devenir standardisée, même si les outils se veulent sophistiqués ; une salutaire frontière existe encore entre le naturel et l’artificiel, qui garantit le vis- à vis, la distance indispensable pour éviter toute fusion, toute con-fusion. Les applications, sous quelque forme matérielle ou immatérielle qu’elles se présentent, ne sont pas nos amies ni nos ennemies ni nos compagnons et n’ont pas à nous être présentés comme tels. Ces mimétismes ravageurs n’ont pas non plus à être gardés à l’esprit des concepteurs : nul besoin de s’efforcer à reproduire des voix, des expressions ni des visages humains pour que la technologie puisse être développée. Il ne s’agit pas de créer des humains artificiels, miroir de quelque perception réductrice de l’humain, mais des calculateurs. Gardons les proportions.

Un design qui fait la différence

L’IA et l’IH ne sont pas en compétition, la première est le fruit d’une partie de la deuxième et ne saurait s’y substituer ni lui ressembler, à moins d’utiliser une rhéthorique volontairement destinée à créer la confusion, le faux-semblant, à faire naître des vainqueurs et des vaincus, des maîtres et des esclaves, des super rapides et des extra lents. Les réflexions éthiques concernant l’IA qui tentent d’introduire des gardes fous pour que l’artificiel reste centré sur l’humain, ne pourraient-elles pas aider à franchir le cap indispensable qui consister à écarter toute confusion entre l’IA et l’IH ? Parmi ces confusions, la première à éradiquer est celle véhiculée par le langage utilisé pour décrire l’IA comme celui que l’on programme dans les outils afin de mimer nos gestes ou notre voix. Investir ce champ est également une source d’innovation car des nouvelles expressions, des nouveaux sons verraient le jour qui seraient spécifiques pour qualifier les résultats des calculs des algorithmes et leur rendu. 

Rester libre et garder le sens de nos actions, à tout prix

Mettre fin au mimétisme serait ainsi un pivot pour que l’éthique inspire et garantisse un développement technologique respectueux de l’humanité et de l’homme, prenant en compte notre capacité spécifique à ex-ister, à nous prendre en main, à exercer notre libre arbitre, à revendiquer nos différences.

Angela Minzoni

Docteur en anthropologie, Angela Minzoni exerce le métier de « conseiller de synthèse » afin de faciliter les démarches de prospective et d’innovation par le design, dès l’amont, au moment de choisir les orientations sociales et technologiques d’une organisation, d’un produit ou d’un service.

Frédéric Bordage

Expert en green IT, sobriété numérique, et numérique responsable, j'ai créé la communauté GreenIT.fr en 2004. Je conseille des organisations privées et publiques, et anime GreenIT.fr et le Collectif Conception Numérique Responsable (@CNumR).

Site web - Twitter - Facebook - Linked In