Le Dr. Marie-des-Neiges Ruffo nous explique ...

Chargée de cours à l’Université, mariée et maman, tel est mon CV. La découverte à 14 ans de la Sorbonne lors d’un voyage fut le déclic du choix de mes études : la philosophie. Bachelor et Master en poche, j’entame une cotutelle de thèse entre mes deux universités de prédilection : l’UNamur et la Sorbonne. J’obtiens le soutien de Jean-Michel Besnier et Dominique Lambert pour diriger mon doctorat. C’est à ce dernier que je dois d’avoir orienté ma recherche vers l’éthique militaire et les systèmes autonomes, qui mèneront à l’IA. L’IHEDN saluera ce travail par un prix de thèse. Dès lors, les conférences internationales, un peu de consultance éthique en entreprise et surtout les cours dans différentes universités, vont s’enchaîner. La publication de ma thèse, Itinéraire d’un robot tueur, rencontrera un intérêt médiatique, preuve que le sujet interpelle.

Car l’intelligence artificielle, comme tout ce qui est nouveau et méconnu, fait peur. La première tâche de la philosophie est de circonscrire l’espace de la discussion et de déterminer ce dont on parle. Le terme « IA », s’il contient le mot « intelligence » pourrait nous mystifier sur les capacités réelles de la machine, mais il comporte surtout le terme « artificielle », qu’il faudrait accentuer pour saisir ce qu’il signifie, à savoir, une simulation. Toute simulation ne saurait être identique à ce qu’elle imite : ce qu’accomplit la machine et ce que réalise l’humain peuvent se ressembler, mais ils demeurent ontologiquement, essentiellement, différents ¹. L’IA n’est rien de plus qu’un processus informatique.

Partant de ce constat, certaines capacités de la machine sont supérieures aux nôtres, comme calculer rapidement π, mais d’autres ont plus de valeur (symbolique, morale, psychologique) si elles sont effectuées par un humain, comme visiter un malade. Nous ne devons pas être effrayés par les capacités des machines à faire « comme » nous, mais nous devons choisir ce qu’il est bon de déléguer à une machine, et ce qui serait meilleur s’il était effectué par un humain. Cela suppose un investissement financier mais la valeur des relations humaines dépasse l’homo economicus² .

Ce que recouvre le terme IA est vaste, il peut être difficile de déterminer quel type de technique (big data, deep learning, apprentissage supervisé) est utilisé pour développer des solutions de reconnaissance faciale, de traduction automatisée, de diagnostic autonome, etc. Chacun de ces usages et la manière dont ces logiciels ont été conçus comporte des enjeux éthiques. Par exemple, le logiciel de reconnaissance faciale Clearview IA, destiné aux forces de police. Il peut sembler a priori légitime d’identifier des criminels dans le cadre d’une enquête. Cependant ce logiciel pose question car la base de données qu’il exploite n’est autre que le Web tout entier. Des photos personnelles sont utilisées par ce logiciel sans votre consentement pour vous reconnaitre automatiquement sur des vidéos de surveillance. Ce procédé est illégal, tous les logiciels ne l’utilisent pas.

Ainsi, l’IA n’est par elle-même ni bonne ni mauvaise, tout l’enjeu éthique sera de déterminer comment elle a été conçue -de manière juste ou non- et « pour-quoi » : dans quel cadre et quelles limites ces outils vont être employés, quelles sont les finalités poursuivies, et si ces intentions s’avèrent bonnes, les conséquences de ces systèmes sont-elles aussi respectables ? Au final, nous, les utilisateurs, devrons les employer pour le bien commun.

Ainsi posés, les problèmes éthiques de l’IA deviennent compréhensibles : ils dépendent de ce que l’humain « demande » à la machine, de ce qu’il espère comme résultat, (les espérances peuvent être irréalistes, même pour des systèmes performants), de ce que l’humain dans le fond, accepte de « laisser faire » à la machine. Mais n’oublions jamais que la tâche humaine par excellence qu’une machine, techniquement et symboliquement, ne pourra assurer, est assumer une responsabilité.