"Dauphine est très fortement positionnée sur l’IA responsable"

30.09.2019

Alors que l’institut 3IA Prairie vient de voir le jour, Bruno Bouchard, vice-président du conseil scientifique, présente le programme Dauphine numérique et les ambitions de l’université.

Établissement-composante de PSL, Dauphine va être impactée en recherche et formation par l’ouverture de l’institut 3IA PRAIRIE, qui touche à l’intelligence artificielle (IA). Dans quelle mesure ? 

Bruno Bouchard. Avant même le projet PRAIRIE*, l’Université PSL et Dauphine avaient déjà commencé à se structurer en matière d’IA, avec notamment le projet Dauphine numérique** et l’élaboration d’un grand programme pluridisciplinaire data/IA. Dauphine porte aussi pour PSL un projet COFUND de cofinancement avec l’Union européenne de thèses pluridisciplinaires faisant appel à l’IA. La partie « cœur » de la recherche, de très haut niveau scientifique, comprend les Mathématiques et l’Informatique, portées par les laboratoires CEREMADE et LAMSADE pour Dauphine, le DMA et le DI pour l’ENS, le CMM de MINES ParisTech.

Nos forces sont déjà très importantes. Ensuite viennent toutes les autres disciplines dans lesquelles l’IA peut être appliquée : la Physique, la Chimie, l’Astrophysique, etc., mais aussi les Sciences humaines et sociales. Pour Dauphine, cela concerne la Sociologie, l’Économie, la Finance, la Gestion et le Droit... Ce sont en grande partie ces champs d’application qu’il faut aujourd’hui développer. Nous devons nous organiser car les ressources en IA sont une denrée rare ! Dauphine, dans le cadre du projet Dauphine numérique, a déjà recruté un enseignant-chercheur en Sciences des données pour les SHS.

Des modules de cours dédiés irrigueront toutes les disciplines. Plus largement, c’est l’objectif du programme transversal qui se met en place pour les formations Master et Doctorat au sein de PSL. Pour en venir plus précisément à PRAIRIE, l’institut va apporter de nombreux financements pour la recherche dans le cœur IA (doc, post-doc, soutien aux formations), mais également dans le domaine des SHS sous forme d’appels à projet. Avec déjà sept chercheur·es dans PRAIRIE, des laboratoires dans le domaine de SHS, et abritant les deux formations cœur IA de PSL, Dauphine bénéficiera à plein de PRAIRIE. 

Dans une société toujours plus numérique, les enjeux d’éthique ou de protection des données sont souvent mis en avant. Comment Dauphine les aborde-t-elle dans la recherche et les formations ? 

B.B. Un autre grand projet se met en place au sein de PSL autour de ces enjeux d’éthique et de responsabilité, et dans lequel Dauphine est très impliquée. Un groupe de travail réunit des profils très différents : informaticien·nes et mathématicien·nes, sociologues, gestionnaires, juristes, philosophes. Notre université se reconnaît bien dans cette approche pluridisciplinaire. Il s’agit de réfléchir ensemble à toutes ces questions d’éthique, d’acceptabilité et explicabilité des algorithmes. Ce sont aujourd’hui des enjeux industriels et sociétaux majeurs.

Comment expliquer les résultats obtenus sur ceux-ci en utilisant les réseaux de neurones artificiels, peut-on réellement fonder nos décisions dessus, peut-on identifier les biais éventuels et concevoir des algorithmes non biaisés, peut-on les utiliser à toute fin, etc. Dans ces domaines, qui ont aussi à voir avec la régulation, il est préférable d’être leader. Beaucoup d’entreprises se préocuppent aujourd’hui de l’IA responsable. Dauphine est très fortement positionnée sur cette valeur de responsabilité. Nous voulons être à la pointe de ces discussions, et les intégrer fortement dans nos formations, bien entendu en Mathématiques et Informatique, mais également en Gestion, Économie, etc. Les décideurs de demain doivent comprendre les outils qu’ils manipulent, surtout lorsqu’ils semblent particulièrement opaques ! 

Il semble que la robustesse des algorithmes soit elle-même questionnée. De quoi s’agit-il précisément ? 

B.B. Il existe toute une littérature scientifique sur le sujet, elle est critique et déconstructive dans la mesure où elle met en évidence certains problèmes. Par exemple, des chercheur·es parviennent à piéger des algorithmes de reconnaissance d’image en déplaçant simplement quelques pixels. C’est invisible à l’œil nu, mais, pour l’algorithme, un chien va soudain devenir un crocodile ! Dans le cas des véhicules embarqués, sujet plus sensible, un panneau de sens interdit peut être rendu non identifiable en ajoutant un élément perturbateur sur l’image. Ceci pose cruellement la question de l’utilisation complètement automatisée de ces algorithmes. Les chercheur·es se sont emparé·es de cette problématique et tentent aujourd’hui de construire des algorithmes robustes, qui ne pourront plus être piégés aussi facilement, quitte à être moins précis. Nous sommes encore au début de l’histoire. 

*À propos de PRAIRIE
L'Université PSL, aux côtés de Dauphine et l’ENS et en partenariat avec le CNRS, l’INRIA, l'Université de Paris et l’Institut Pasteur, ont inauguré PRAIRIE, Institut Interdisciplinaires d’Intelligence Artificielle (3IA) , ce mercredi 2 octobre. Cette journée a été l’occasion d’aborder les différents enjeux de l’IA. 

Lire l'article sur l'inauguration de PRAIRIE

**À propos de Dauphine numérique 
Les 6 laboratoires de Dauphine sont engagés dans ce programme d’envergure, lancé pour les 50 ans de l’université. Son ambition est de promouvoir un écosystème de recherche et de formation de niveau mondial et de produire des travaux transdisciplinaires sur la transformation numérique.

Plus de 10 projets de recherche sont déjà initiés, dont : Transformation digitale et impacts sur les organisations (le digital et l’humain) ; Effets de l’intelligence artificielle sur les pratiques en contrôle de gestion ; Responsabilité sociale des algorithmes ; Construction de la confiance sur les plateformes collaboratives ; Modélisation du comportement d’usage d’une application web ; Agents intelligents pour la décision et le raisonnement ; Apprentissage automatique ; Justice prédictive.
Près de 15 formations initiales et continues sont également intégrées au programme. En 2018, Jamal Atif, chargé de mission Sciences des données et Intelligence Artificielle au CNRS et enseignant-chercheur au LAMSADE est nommé responsable du programme Dauphine numérique.

Consulter le rapport d'activité 2018-2019