1. A Multi-layered Approach for Interactive Black-box Explanations
- Author
-
Henin, Clement, Le Métayer, Daniel, École des Ponts ParisTech (ENPC), Privacy Models, Architectures and Tools for the Information Society (PRIVATICS), CITI Centre of Innovation in Telecommunications and Integration of services (CITI), Institut National des Sciences Appliquées de Lyon (INSA Lyon), Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National des Sciences Appliquées de Lyon (INSA Lyon), Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Grenoble - Rhône-Alpes, Institut National de Recherche en Informatique et en Automatique (Inria), Inria - Research Centre Grenoble – Rhône-Alpes, Ecole des Ponts ParisTech, Inria Grenoble - Rhône-Alpes, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-CITI Centre of Innovation in Telecommunications and Integration of services (CITI), Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National des Sciences Appliquées de Lyon (INSA Lyon), and Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Inria Lyon
- Subjects
Transparence ,Artificial intelligence ,Black-box model ,explications interactives ,Algorithmic decision system ,Explainability ,Transparency ,Système de décision automatique ,Intelligence artificiell ,[INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI] ,Apprentissage machine ,Interactive explanation ,Machine-learning ,Explicabilité ,Modèle boîte noire - Abstract
In order to provide interactive explanations, a system must be generic enough to be able to address a wide range of questions from explainees with different levels of expertise. In this paper, we present a multi-layered approach allowing explainees to express their needs at different levels of abstraction. We describe a proof-of-concept system called IBEX (for “Interactive Black-box Explanations”) implementing this approach and show its application to a variety of case studies.; Pour fournir des explications interactives, le système explicatif doit être suffisemment générique pour répondre à une grande variété de questions des destinataires des explications ayant différents niveaux d’expertise. Dans cet article, nous présentons une approche multi-couche permettant aux destinataires des explications d’exprimer leurs besoins à différents niveaux d’abstraction. Nous décrivons aussi une preuve de concept, appelée IBEX (“Interactive Black-box EXplanations”), qui repose sur cette approche, et nous montrons quelques cas d’usage.
- Published
- 2020