101. Towards a Generic Framework for Black-box Explanation Methods (Extended Version)
- Author
-
Henin, Clement, Le Métayer, Daniel, École des Ponts ParisTech (ENPC), Privacy Models, Architectures and Tools for the Information Society (PRIVATICS), CITI Centre of Innovation in Telecommunications and Integration of services (CITI), Institut National des Sciences Appliquées de Lyon (INSA Lyon), Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National des Sciences Appliquées de Lyon (INSA Lyon), Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National des Sciences Appliquées (INSA)-Université de Lyon-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Grenoble - Rhône-Alpes, Institut National de Recherche en Informatique et en Automatique (Inria), Inria Grenoble Rhône-Alpes, and Ecole des Ponts ParisTech
- Subjects
transparence des algorithmes ,explanability ,machine-learning ,explications ,artificial intelligence ,Système de décision automatique ,apprentissage ,[INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI] ,intelligence artificielle ,Automatic decision system ,algorithm transparency ,[INFO]Computer Science [cs] ,black-box model ,explicabilité ,modèle boîte-noire - Abstract
The main goal of this research report is to define a generic framework for black-box explanation methods in order to make it easier to compare and classify different approaches. We focus on two components of this framework, called respectively “Sampling” and “Generation”, which are characterized formally and used to build a taxonomy of explanation methods. We also describe precisely how each method can be expressed in the framework.; Dans ce rapport de recherche, nous proposons un cadre générique pour décrire les méthodes d’explication fonctionnant en mode “boîte noire”, l’objectif étant de faciliter la comparaison et la classification de ces méthodes. Nous définissons formellement deux composantes principales, appelées respectivement l’“Echantillonnage” et la “Génération”, qui sont ensuite utilisées pour construire une taxonomie des méthodes d’explication. Nous décrivons aussi précisément la manière dont les méthodes de la littérature s’expriment dans ce cadre.
- Published
- 2019