Les actualités recherche et expérimentation du programme IA&A

Les actions menées par le programme IA&A

Des expérimentations au Experience Lab de la Halle 6 Ouest

Parmi les différentes questions que recouvre la problématique de l’acceptabilité de l’IA, les travaux du programme portent sur les méthodes d’évaluation directes et indirectes de l’acceptabilité d’outils d’Intelligence artificielle dans les activités métier. Plus spécifiquement, les premiers travaux et expérimentations notamment réalisés par Lucie Lévêque, chercheuse au LS2N, portent sur les outils de reconnaissance d’expressions faciales. Ces outils, dont l’usage est en forte croissance grâce aux récents progrès en computer vision, doivent prouver leur robustesse avant de pouvoir en affirmer la pertinence et l’utilité sur le terrain.

C’est ainsi que des expérimentations ont été menées au Experience Lab de la Halle 6 Ouest (plateforme d’évaluation de l’expérience usager) pour comparer l’efficacité de ces outils relativement à des sujets humains, dans le contexte d’un environnement dégradé (image de moindre qualité à cause de la compression par exemple). Ces travaux sont publiés dans la revue Electronics et montrent que les outils de reconnaissance automatique restent moins performants que l’humain dans ces situations particulières.

Une thèse CIFRE sur la perception des outils de reconnaissance automatique

Articulée avec ces premières expérimentations sur les performances de ces outils, la thèse CIFRE Sigma de Alexandre Agossah vient interroger la perception que des utilisateurs potentiels peuvent en avoir. En l’occurrence, il s’agit de comprendre comment un utilisateur peut accorder sa confiance à un modèle prédictif, cette confiance étant une des clefs de l’acceptabilité de tels systèmes d’IA.

Une expérimentation a pu ainsi être menée sur l’impact que peut avoir l’affichage d’un indice de confiance du système en sa propre prédiction sur les participants. Concrètement, il s’agissait ici d’un exercice de détermination de l’âge d’une personne à partir de sa photo, avec ou sans l’aide d’une prédiction automatique. Les premiers résultats tendent à montrer, par exemple, que les participants sont plus souvent d’accords avec le modèle prédictif lorsqu’un indice de confiance est communiqué et que plus le modèle prédictif donne une réponse erronée plus le participant donne également une réponse erronée ce qui tend à montrer que le système peut induire l’humain en erreur.

Alexandre Agoshah présentant ses travaux à l’occasion l’évènement “L’I.A.nantaise s’invite au muséum !” au muséum d’Histoires Naturelles de Nantes le 30/04/22

Des publications scientifiques et une conférence au printemps 2023

L’ensemble de ces travaux et expérimentation a généré une activité de publications scientifiques soutenue, parmi lesquelles :

• « Olfaction et émotions » : un atelier (StimuLu) à l’occasion du festival Chtiiing 2022, et un article à l’occasion de la conférence IMX 2022.
  Mona Le Coz, Lucie Lévêque, Matthieu Perreira da Silva, Patrick Le Callet. « From Olfaction to Emotions: An Interactive and Immersive Experience« , sept 2022. [A consulter en ligne]
• « Comparaison de la robustesse entre humains et machines » : une présentation orale à VQEG 2022, et un article à IMX 2022.
• « Effets des attaques adverses » : une expérimentation en crowdsourcing, un article accepté et publié dans le journal Electronics le 5 décembre 2022.
  Patrick Le Callet, Lucie Lévêque, Emmanuel V. B. Sampaio, Matthieu Perreira Da Silva, François Villoteau. « Comparing the Robustness of Humans and Deep Neural Networks on Facial Expression Recognition« . Electronics 2022, 11, 4030. [A consulter en ligne].

Conférence ACM IMX : du 13 au 15 juin 2023

Aussi, l’organisation du workshop EmotionIMX en 2022 a conduit l’équipe du PII IA&A a organiser la conférence ACM IMX 2023 dédiée aux expériences médias interactives, sur le thème de l’imaginaire en mouvement. L’événement se tiendra du 13 au 15 juin 2023 à la Halle 6 Ouest.